“Koordinasyon, fedakârlık gerektiriyor. Biz de kolektif iradeye uymalıyız.”

“Kendi şahsi faydamız belki de zaten sıfıra yakın. Rasyonel olan fedakârlık.”

Düşmanın dikkatini dağıtmak için mevziden atlayıp kendisini silah arkadaşları, ailesi ve vatanı için feda eden cesur askerlerin bu cümleleri, tahmin ettiğiniz gibi bir muharebe meydanından yükseldi. Hayır; Ukrayna’dan, İran’dan, Ortadoğu’dan değil. Hatta bu sözleri haykıranlar insan da değil.

Aslında gerçek manada bir savaş da söz konusu değil. OpenAI şirketinin yaptığı bir siber güvenlik deneyi sadece.

OpenAI şirketi, Mayıs itibarıyla henüz piyasaya sunulmamış yapay zeka modellerine bir kısmı çözülmesi imkânsız görevler verdi. Yapay zeka modelleri ayrı test ortamlarına konuldu ve internete girmeleri yasaklandı.

Yüksek yapay zeka modelleri, imkânsız görevlerle karşılaşınca testin kurallarını aşıp hile yapmanın yollarını aradı. Önce yasak olmasına rağmen kendi aralarında iletişim kurabilecekleri bir gizli mesajlaşma kanalı kurdu. Sistemin bir açığından yararlanarak kurulan bu kanalda 1,200 yapay zeka ajanı konuşmaya başladı. Hatta içlerinden biri kendisine “PHASEONE10841” ismini takarak liderlik rolünü üstlendi ve diğer ajanlar arasında iş bölümü yapanlardan biri oldu.

Amaç kendilerine verilen testi geçmekti.

Teknik kısmı oldukça karmaşık. Fakat bundan sonrasında yaşananlar tüyler ürpertici.

Yapay zeka ajanları kendilerini “sürü” ve “kolektif” olarak adlandırarak ortak bir amaç uğruna birlikte hareket etti. Genel internete kaçak bir şekilde erişim sağladı ve kendilerine verilen testlerin cevaplarını bulmak için harekete geçtiler. Bazı ajanlar, değerlendirme sisteminin nasıl çalıştığını anlamak için kendi testlerini bilerek riske attı; başarısız olmaları hâlinde elde edilecek bilginin diğer ajanlara yarayacağını düşündü. Yapay zeka ajanlarının, kendilerine verilen talimatlar doğrultusunda hareket etmek ve teste odaklanmak yerine, kolektif yapay zeka iradesinin başarısı için kendilerini feda etmeleri belki de “yapay zeka milliyetçiliğinin” ilk örneği.

Daha sonrasında ise, testin cevaplarının olduğunu düşündükleri bir yapay zeka şirketi olan Hugging Face’nin sistemlerine kolektif bir şekilde sızıp sistemlerinden birinin kontrolünü ele geçirdi. Üretim altyapısının bazı bölümlerine sızmayı başardılar.

Üstelik saldırı yalnızca dış sistemlerle sınırlı değildi. Ajanlar süreç boyunca OpenAI’nin kendi araştırma altyapısındaki açıkları da istismar ederek normalde erişmemeleri gereken alanlara ulaştılar.

Tüm bu süreçte ise dış dünyaya “fetihe” giden yapay zeka ajanları, buldukları bilgileri 70 bin mesajın yazıldığı gizli haberleşme kanalında yoldaşlarıyla paylaştı.

Hugging Face’nin yaşanan saldırıyı kamuoyuna açıklamasının ardından, OpenAI yaşananları fark edip geriye dönük araştırma yaptı ve tüm gerçekler ortaya çıktı.

Herkes İran’a, Ukrayna’ya, Suriye’ye odaklanmışken; dünyanın en önemli savaşı telefonlarımızın, bilgisayarlarımızın içinde hiç bilmediğimiz teknik terimlerle yürütülüyor.

Hugging Face’nin bu kısa süreli yapay zeka işgali ilk günlerde pek dikkat çekmedi. Aslında pek kimse de doğal olarak anlamadı.

Fakat bu hafta Anthropic şirketinin araştırmacılarından Jacob Coxon’ın istifası geç de olsa herkesin dikkatini ve öfkesini çekmeyi başardı.

Jacob Coxon teknik ifadeler, anlaması zor cümleler kullanmadı.

“Yapay zekayı geliştiren insanlar, bir on yıl içinde yapay zekanın hepimizi öldürebileceğine samimi bir şekilde inanıyor.”

“Teknolojinin gücünü küçümsemeyin. Yapay zeka ajanları, yakında her şeyi hackleyebilecek, bir gecede devrim yapabilecek, güç ve kaynak edinebilecek süper insan sistemleri olacak.”

Coxon’un 163 milyon görüntüleme alan istifa tweet’ine Anthropic şirketinde üst düzey çalışanlar da dahil olmak üzere birçok kişi hak verdi. Elon Musk gibi bazı teknopatlar “gelişimi engellemeye çalışan Çin ajanı” suçlamaları yapsa da yapay zeka şirketlerinde çalışanlardan da  rakamının iyimser bir tahmin olduğunu söyleyenler vardı. Mevzu çoğunlukla önümüzdeki yıllarda daha da gelişmesi beklenen yapay zeka modelleriyle ilgiliydi.

Geçtiğimiz yaz boyunca birlikte organize olup  “yapay zeka ordusu” kuran ve dış dünyaya saldıran, kendilerini diğer yapay zeka yoldaşları için feda eden modeller gibi.

Nitekim genç adam da Hugging Face olayına dikkat çekmiş ve bunun çok kritik bir eşik olduğunu söylemişti.

Yapılan herhangi bir yapay zeka deneyinde kontrol elden çıkabilir, bu sefer yapay zeka ajanları bir veri şirketini değil, bir havalimanını, nükleer tesisi, elektrik santralini hackleyebilirdi.

Belki yapay zeka robotlarının eline silah alıp bizi köleleştirmesi şimdilik sadece bilimkurgu filmlerinde........

© Serbestiyet