Gelişmiş yapay zekanın yarattığı tehditler ciddi ve çeşitlidir. Bunlar arasında kapitalizme yönelik doğrudan bir tehdit de bulunmaktadır; öyle ki sonunda iki sistem arasında bir seçim yapmak zorunda kalacağız: yeni bir komünizm biçimi veya kontrolsüz bir kaos.

Geleceğin Yaşamı Enstitüsü’nün Mart 2023’te yayınladığı açık mektupta, GPT-4’ten daha güçlü yapay zeka sistemleri üzerinde çalışan tüm laboratuvarların çalışmalarını en az altı ay süreyle “derhal durdurmaları” çağrısında bulunuldu. Amaç, insanlığın bu süre zarfında bu gelişmiş sistemlerin yarattığı riskleri değerlendirmesiydi.

Binlerce kişi mektubu imzaladı, bunların arasında Geleceğin Yaşamı Enstitüsü’nün danışmanı Elon Musk da bulunuyor. Kuruluşun belirttiği amaç, bu tür teknolojilerin insanlığa yönelik varoluşsal risklerini azaltmaktır. Yapay zeka laboratuvarlarının, “hiç kimsenin -hatta yaratıcılarının bile- anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, giderek daha güçlü zihinler geliştirmek ve kullanıma sunmak için kontrolden çıkmış bir yarışa kilitlendiğini” iddia ediyorlar.

Peki bu ani panik dalgasına ne sebep oldu? Mesele kontrol ve düzenleme – ama kontrol kimin elinde? Önerilen altı aylık ara dönemde “insanlık riskleri değerlendirebilir” – ama nasıl? Bu görevde insanlığı kim temsil edecek? Küresel, kamuoyuna açık bir tartışma olacak mı?

Peki ya (beklendiği gibi) yetkililerin göz yummasıyla gizlice çalışmalarına devam edecek olan bilişim laboratuvarları ne olacak ? Batı dışındaki diğer ülkelerin (Çin, Hindistan, Rusya) ne yapacağını da hesaba katarsak durum daha da vahim. Bu koşullar altında, bağlayıcı sonuçlara varacak ciddi bir küresel tartışma hayal bile edilemez. Burada asıl tehlikede olan nedir?

Beklenmedik bölünme

Açık mektubu imzalayanlardan biri olan İsrailli tarihçi Yuval Noah Harari, 2017 yılında yayımlanan Homo Deus adlı kitabında , gerçek yapay zekanın geliştirilmesinin en gerçekçi sonucunun , insan toplumunda sınıf ayrımından çok daha ciddi bir radikal bölünme olacağını öngörmüştü.

Harari, yakın gelecekte biyoteknoloji ve bilgisayar algoritmalarının birleşerek “bedenler, beyinler ve kafalar” üreteceğini, yani bunları nasıl inşa edeceğini bilenlerle bilmeyenler arasındaki uçurumun dramatik bir şekilde genişleyeceğini öngörmüştü: “ilerlemeyi sağlayanlar” tanrısal yaratma ve yok etme yeteneklerine sahip olacak, geride kalanlar ise hayatta kalmak için mücadele edecekti.

Geniş kapsamlı bir kamuoyu tartışması istemiyorlar; daha çok hükümetler ve şirketler arasında işbirliği istiyorlar.

Geleceğin Yaşamı Enstitüsü’nden gelen açık mektupta dile getirilen panik, “ilerlemeyi yönlendirenlerin” artık yarattıklarını kontrol edemeyecekleri korkusundan kaynaklanıyor; kısacası, yeni dijital efendilerimizden duyduğumuz korkuyu ifade ediyor.

Fetişistik inkâr

Açık mektubun hedeflediği şeyin geniş kapsamlı bir kamuoyu tartışması olmadığı, daha çok hükümetler ve şirketler arasında iş birliği olduğu açıkça görülüyor. Gelişmiş yapay zekanın yarattığı tehdit çok ciddi ve bu tehdit, iktidardakileri ve şu anda yapay zekayı geliştiren, sahiplenen ve kontrol edenleri etkiliyor.

Birçok yalnız insan akşamlarını sohbet robotlarıyla uzun uzun konuşarak geçiriyor.

Ufukta........

© Ek Dergi