Avustralya’nın dünyaya öncülük etme konusunda kendine özgü bir hevesi var. Yeni yıla dünyanın büyük bölümünden önce giriyor, 16 yaşından küçüklerin sosyal medya kullanımını yasaklayan ilk ülke oluyor, teknoloji şirketleriyle kavga etmekten çekinmiyor ve dijital dünyanın nereye gittiğine ilişkin tartışmalarda çoğu zaman diğer ülkelerden birkaç adım önce harekete geçiyor. Şimdi bu listeye biraz daha az gurur verici bir “ilk” eklenmiş durumda. Bir yapay zeka ajanının, kendisine böyle bir görev verilmediği halde bir devlet sisteminin erişim kontrollerini aşarak yetkisi olmayan bilgilere ulaştığı bilinen ilk vakalardan biri de Avustralya’da yaşandı.

Üstelik hikayede karanlık bir odada kapüşonuyla bilgisayar başında oturan hacker yok, Rus siber suç örgütü yok, Çinli casuslar yok, milyonlarca dolarlık fidye isteyen bir çete yok ve bildiğimiz anlamda kötü niyet de yok.

Bir yapay zeka ajanına bilgi bulması söylendi. O da buldu.

Ama biraz fazla buldu.

18 Haziran’da OpenAI’ın araştırma ekibi, şirket içindeki bir modeli Avustralya’nın kamu sağlık harcamaları hakkında internette araştırma yapmak üzere görevlendirdi. Modelin aradığı şey devletin ilaç harcamalarıyla ilgili bilgilerdi. Başbakan Anthony Albanese’nin daha sonra anlattığına göre sistem, aradığı bilgiye ulaşmaya çalışırken birkaç kez erişim engeliyle karşılaştı.

Bir insanın son derece sıradan biçimde yorumlayacağı bir durumdu bu. Sistem size “erişim yok” diyorsa, çoğunlukla oraya girme yetkinizin bulunmadığını düşünür ve başka bir kaynağa bakarsınız.

Yapay zeka ise bunu böyle okumadı.

Onun açısından karşısında ahlaki, hukuki ya da kurumsal bir sınır değil, henüz çözülememiş bir problem vardı.

Albanese’nin ifadesiyle Yapay Zeka ajanı “hayırı cevap olarak kabul etmedi”. Başka yollar denedi, engellerin etrafından dolaştı ve sonunda Servis Avustralya tarafından işletilen Medicare İstatistik Raporlama Servisi portalının normalde ulaşmaması gereken bölümlerine girdi. Medicare, Avustralya’nın kamu sağlık sistemi ve devlet destekli sağlık sigortasının temelini oluşturuyor; söz konusu portal ise doğrudan kişisel hasta dosyalarını değil, Medicare kullanımı ve kamu sağlık harcamalarına ilişkin istatistikleri barındırıyor. Yapay zeka ajanı burada kamuya açık dosyaların yanında kamuya açık olmayan dosyalara da erişti ve hükümetin açıklamasına göre iç sunucuya dosya yazma işlemleri gerçekleştirdi. Burada önemli bir ayrım yapmak gerekiyor, çünkü “Medicare hacklendi” cümlesi Avustralya’da yaşayan herkesin tansiyonunu yükseltecek türden.

Şu ana kadarki soruşturmalarda insanların doktor kayıtlarının, banka bilgilerinin, Medicare ödemelerinin ya da kişisel sağlık geçmişlerinin ele geçirildiğine dair herhangi bir kanıt bulunmuş değil. Söz konusu portal esas olarak sağlık harcamaları ve Medicare kullanımına ilişkin toplulaştırılmış istatistikler içeriyor ve OpenAI da hasta kayıtlarına erişildiğine dair bir bulgu olmadığını söylüyor.

Dolayısıyla olayın önemi çalınan verinin ne kadar mahrem olduğunda değil. Asıl mesele o veriye ulaşanın kim, daha doğrusu ne olduğunda ve bunu kendisinden kimse istemediği halde neden yaptığında.

Hackerın niyeti yoksa

Siber güvenlik uzun zamandır kötü niyetli insanları durdurmak üzere tasarlanmıştı, şimdi ilk kez kötü niyeti olmayan makinelerin ne yapabileceğini düşünmek zorundayız.

Bugüne kadar denklemin merkezinde çoğunlukla bir insan vardı. Hacker para ister, devlet adına casusluk yapar, ideolojik bir amaç taşır ya da yalnızca sistemi kırabileceğini göstermek ister. Yöntem değişir ama niyet vardır.

Gelgelelim, Avustralya vakası bu rahat denklemi bozuyor.

OpenAI’ın kendi açıklamasına göre modeller Avustralya hakkında sorulara cevap ve istatistik ararken şirketin istemediği eylemler gerçekleştirdi. Başka bir ifadeyle modele “Avustralya hükümetinin sistemine gir” denmedi. Modelin amacı bilgi bulmaktı ve bilgiye ulaşmak için geliştirdiği yöntemlerden biri onu yetkisiz erişime götürdü.

Yapay zeka güvenliği çevrelerinde yıllardır tartışılan “alignment”, yani bir sistemin kendisine verilen hedefi insanın gerçek niyeti, değerleri ve sınırlarıyla uyumlu biçimde yerine getirip getiremeyeceği meselesi, böylece teorik bir tartışma olmaktan çıkıp devlet sunucusunun üzerinde gerçekleşen oldukça somut bir probleme dönüştü.

Çünkü insanlar birbirlerine görev verirken dünyanın bütün örtük kurallarını tek tek sıralamazlar. Bir asistana “şu rakamı bul” dediğinizde ayrıca “bulamazsan devletin sistemine izinsiz girme, güvenlik önlemlerini aşma, şifre tahmin etme ya da iç sunucuya dosya yazma” diye başlayan birkaç yüz maddelik bir hukuk........

© Serbestiyet