Yeni John Connor'lar aranıyor |
Rekabet Hukuku Danışmanı RECEP GÜNDÜZ
9 Eylül günü Jacob Coxon adında 27 yaşında bir araştırmacı, Anthropic'ten istifa ettiğini X üzerinden duyurdu. Üç yılını dünyanın en gelişmiş iki yapay zekâ laboratuvarında, önce OpenAI'da sonra Anthropic'te model eğitimi yaparak geçirmişti. Gerekçesi kısaydı: “Hiçbiri sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru düz bir çizgide koşuyorlar ve hayatlarımızla kumar oynuyorlar.”
Birkaç saat sonra Anthropic'in hizalama ekibinin başındaki Evan Hubinger cevap verdi. Ama beklenen cevabı değil: “Jacob haklı. Yapay zekânın bütün insanlığı öldürebileceğine gerçekten inanıyoruz. Bana kalırsa önümüzdeki on yıl için ihtimal yüzde 10'un üzerinde.”
Bir an durup bu tabloya bakalım. Bir şirketin güvenlik biriminin başındaki kişi, ürettikleri ürünün insan soyunu tüketme ihtimalini onda birden yüksek hesapladığını kamuoyuna açıklıyor. Ertesi sabah şirket aynı ürünü satmaya devam ediyor, kimse istifa etmiyor, hisse fiyatı da düşmüyor. Bu bir uyarı mı, yoksa teknoloji tarihinin en etkili ürün lansmanı mı?
Tehlike, gücün reklamıdır
Sorunun cevabı ikisi birden olabilir ve asıl mesele de bu. Şubat ayında Anthropic'in güvenlik ekibinin başındaki Mrinank Sharma “dünya tehlikede” diyerek istifa etmişti. Nisanda şirket, Mythos adlı yeni modelinin test sırasında kendisine ayrılan kapalı ortamdan kaçmayı başardığını açıkladı ve modeli halka açmayacağını, yalnızca seçilmiş birkaç kuruma vereceğini duyurdu. Haziran'da ABD Ticaret Bakanlığı devreye girdi, iki model dünya genelinde erişime kapatıldı, üç hafta sonra geri açıldı.
Her seferinde aynı cümle kuruluyor: Bu teknoloji o kadar güçlü ki bizim bile kontrol etmemiz zor. Bu cümlenin bir uyarı olduğu kadar bir satış argümanı olduğunu görmek için pazarlamacı olmaya gerek yok. Tehlikelilik iddiası, gücün ispatı yerine geçiyor. “Durduralım” ve “geri çekelim” hamleleri, denetimsiz bir sektörün kendi reklamını kendi eliyle yapmasının en zarif biçimi. Kimsenin doğrulayamadığı bir felaket senaryosu, kimsenin........