Yapay Zekânın "Tatlı" Yalanları: Dijital Serap ve Fikir Çilesi (Halüsinasyon) |
Yani yapay zekânın, sanki dünyadaki en büyük gerçeği söylüyormuşçasına, sarsılmaz bir özgüvenle uydurduğu yalanlar.
"BİLMİYORUM" DİYEMEYEN BİR SİSTEM
Biz insanlar bilmediğimiz bir konu olduğunda —en azından feraset sahibiysek— duraksarız, "emin değilim" deriz. Ancak yapay zekânın "bilmiyorum" deme refleksi oldukça zayıftır. Ona verilen görev "cevap üretmek" olduğu için, elindeki veri süzgecinde gerçek bir bilgi bulamadığında, o boşluğu en "mantıklı görünen" kelimelerle doldurmaya başlar.
Ortaya çıkan sonuç; hiç yaşanmamış tarihi olaylar, hiç var olmamış kanun maddeleri ya da hiç söylenmemiş veciz sözler olabilir. Üstelik bunu öyle bir üslupla yapar ki, konuyu derinlemesine bilmeyen birinin bu "dijital seraba" kapılmaması neredeyse imkânsızdır.
HESAP VAR AMA "FİKİR ÇİLESİ" YOK
İşte meselenin bam teli burası. Bizim kuşak bilir ki; sahih bilgiye ulaşmak bir sancı işidir. Bir hoca makalesini yazarken, bir araştırmacı kaynağını tararken tabiri caizse "fikir çilesi" çeker. Bilginin doğruluğunu tartar, farklı kaynaklardan teyit eder, zihninde süzgece vurur.
Yapay zekâda ise fikir çilesi yoktur. O, saniyeler içinde binlerce kelimeyi yan yana dizerken ne bir sorumluluk hisseder ne de "acaba yanlış mı yapıyorum?" diye uykuları kaçar. Onun için her şey sadece bir istatistiktir. Bu yüzden, yapay zekânın sunduğu bilgiyi "mutlak hakikat" sanmak, insan aklının o bin yıllık süzgecini (irfanını) çöpe atmak demektir.
"SURET-İ HAK"TAN GÖRÜNMEK
Eskilerin harika bir tabiri vardır: "Suret-i Hak'tan görünmek." Yani aslında haklı veya doğru olmadığı halde, öyleymiş gibi davranmak... Yapay zekâ halüsinasyon gördüğünde tam olarak bunu yapar. Cümleleri o kadar düzgün, tonu o kadar nettir ki, yalanı bile "doğru" gibi ambalajlar.
Bu durum, özellikle eğitimde ve bürokraside büyük riskler barındırıyor. "Yapay zekâ böyle dedi" diyerek karar alanlar, aslında bir tahmin motorunun uydurduğu senaryoya teslim oluyor olabilirler. Unutmayın; yapay zekâ bir "bilgi kaynağı" değil, bir "metin inşaatçısı"dır.
DİJİTAL DÜNYADA FERASET SINAVI
Yeniçağ okuru feraset sahibidir; bir sözün içindeki samimiyeti de altındaki boşluğu da sezer. Dijital dünyada da bu feraseti elden bırakmamalıyız. Ekrandaki yazının akıcılığına kanıp, kendi zihnimizin o çileyle pişmiş süzgecini rafa kaldırmamalıyız.
Yapay zekânın sunduğu her "malumatı", insanın o kadim fikir çilesiyle yoğrulmuş bilgisiyle denetlemek artık bir zorunluluktur. Aksi halde, dijital seraplar arasında gerçeği kaybetmemiz işten bile değildir.
Haftaya peki, bu sistemler gerçekten işimizi elimizden mi alacak? "Emek" ve "Yapay Zekâ" arasındaki o büyük kavgayı; robotların değil, aklın ve zanaatın geleceğini konuşacağız.