Yapay zekâ çağında gözetleyeni kim gözetleyecek? |
Yapay zekâ çağında ‘gözetleyeni gözetlemek’, tek bir aktöre bırakılamaz. Konuya teknolojik ilerleme, demokrasi ve etik arasında sürekli yeniden kurulması gereken bir denge içinden bakmak gerekiyor.
Toplumu korumak ve düzeni sağlamakla görevli olanların bu görevlerini kötüye kullanmaları durumunda onları kim ve nasıl denetleyecek? Bu kadim sorunun cevabı bugün hukukun üstünlüğü, kuvvetler ayrılığı, bağımsız yargı, düzenleyici ve denetleyici kurumlar, özgür basın, ifade özgürlüğü gibi kavramlarla veriliyor olsa da bu cevap her zaman tatminkar olmuyor. Yapay zekâ (YZ) döneminde bu soruyu yeniden ele almak gerekiyor. Çünkü YZ başka teknolojilere benzemiyor.
Görünür hale gelen riskler
Son aylarda hem YZ modellerinde çok hızlı gelişmeler var hem de bu modellerin ekonomik, toplumsal, siyasi, kültürel, entelektüel ve hatta küresel düzlemde yol açabileceği kırılmalar daha görülür hale geliyor.
Bu açıdan Anthropic'in yeni modeli Mythos çok dikkat çekici. İşletim sistemleri ve tarayıcılardaki açıkları tespit etme kabiliyeti olduğu ileri sürülen bu model genel kullanıma açılmak yerine sadece sınırlı sayıda iş ortağının kullanımına sunuldu.
Şu sorulara cevap vermek gerekiyor:
●Toplumların yaşamında vahim etkiler yaratabilecek teknolojilerin kontrolünü şirketler mi devletler mi yapacak?
● Bu modelleri geliştiren büyük teknoloji şirketlerini kim denetleyecek?
● Bu YZ modellerini kullanan devletleri kim denetleyecek?
Bu sorulara sadece dış denetim diye cevap vermek yeterli değil. İlginç bir cevap büyük teknoloji şirketlerinde çalışan teknisyenlerden geliyor. Bu şirketlerde çalışan araştırmacılar, mühendisler ve güvenlik ekipleri, geliştirdikleri sistemlerin........