Bir önceki yazıda Telegram adlı platformu kuran Pavel Durov’un uyarısını ele almış ve sözlerinde “özgürlük nostaljisi”nden daha fazlası olduğuna dikkat çekmiştim. Bence söyledikleri, çağın siyasal anatomisine haklı yerden dokunuyordu.

“Babalarımızın kurduğu özgür internet” dediği şey, bugün dijital kimliklerle, yaş doğrulama sistemleriyle, özel mesaj taramalarıyla bir laboratuvara dönüştü.

Yakında sadece bilgi değil, davranış bile kodlanacak. Hem de devlet tarafından.

Yeni sermaye big-tech’in cebinde sadece üretim araçları yok, denetim, gözetim, kontrol imkanları da var artık. Ve ulus devletler o ceplere çoktan el attı. Hatta bulduklarını yönetmeyi de öğrendiler.

Sonuç ortada: Herkesin yerini bilen ama kimsenin yönünü bilmediği bir düzen.

Durov’un distopyası denetimle başlıyor; Geoffrey Hinton’ın kaygısı ise daha derin bir boşluğa bakıyor.

Hinton mevzuyu hiç sulandırmıyor. "Yapay Zeka evrimleşiyor, o kadar ki artık nasıl öğrendiğini, nasıl karar verebildiğini anlamıyoruz" diyor. Yapay zekanın yaratıcıları arasında olan biri kaygılanıyorsa dikkate almak zorundasınız.

“Doğada kendinden daha zayıf olan bir varlığı ezmemek için kendini tutan, sınırlayan, hatta fedakarlık eden bir tür yoktur. Kendinden daha zayıf olana hizmet etmeyi kendi çıkarları aleyhine sürdüren bir varlık yok. Bunun tek istisnası ‘anne’dir” diyor Hinton.

“Eğer ai’lere annelik bilincini aşılayamazsak, bizden daha zeki bir varlığın bizi ezip geçmesini engelleyemeyiz.”

Buradan ilk anladığımız, ai’lerin bir gün belki çok yakında kendilerinin farkına varabilecekleri ve kendileri lehinde kararlar vermek isteyebilecekleri gerçeği.

Ama durun,daha oraya çok var.

Korkarım daha öncesinde sahneye mütehakkim güçlerin “itaatkâr algoritmaları” olarak........

© Habertürk