Yıllar önce ekranlarda gösterilen Vizontele filmindeki bir sahne, televizyonun ilk kez Hakkâri’ye gidişini anlatır. Belediye başkanı, ilçeye televizyonun gelişini müjdelemek için halkı belediye binasının önünde toplar; balkondan konuşma yaparak yeni teknolojiyi anlatmaya çalışır. Hayatında televizyon görmemiş birine televizyonu tarif etmek güçtür.

Toplananlardan biri sorar: “Vizontele nedir ki?” Belediye başkanı cevaplar: “Radyonun resimlisi... Zeki Müren’i hem dinleyecek hem de göreceksiniz.” Kalabalıktan bir ses yükselir: “Peki Zeki Müren de bizi görecek mi?”

Bu soru, yalnızca memleketimizde değil, yeryüzüne giren her yeni teknoloji karşısında varlığını korur. Peki yapay zekâ da bizi görecek mi?

Bu bir film cümlesi olsaydı “Görmüyor kardeşim, geçiniz.” diyerek yola devam edebilirdik. Ancak bu yazının konusu, yapay zekânın bu kadar “bilir” göründüğü bir çağda nasıl olup da bazılarımızı görmediği. Görmüyor derken kastettiğim şu: Yapay zekânın yaslandığı veri tabanında ötekileştirilmiş grupların, kadınların, engellilerin, farklı etnik kökenlerden bireylerin ve farklı cinsel yönelimlerin ya hiç yer almaması ya da eksik temsil edilmesi. Mesele tam da burada başlıyor.

Tarafsız gibi görünen, tarafsız olmayan

Yapay zekâ sistemleri, nesnel ve tarafsız araçlar olarak sunulur. Aslında tüm teknolojik yenilikler, yüzyılın başından beri tarafsız olarak tanımlanır. Bu teknolojinin kime, nasıl yarar sağladığı sorusunun cevabı, bu tarafsızlığın mevcut olmadığının göstergesidir. Aynı şekilde bir sistem, tarafsız olmayan verilerle eğitildiğinde, tarafsızlık iddiası başlı başına bir yanılsama hâline gelir. Bugün yapay zekâ hayatımızda daha çok yer tuttukça daha fazla bedel ödemek zorunda bırakılıyoruz. Artık bu vakalar mahkeme salonlarına taşınıyor.

Aşağıda aktaracağım üç vaka, birer istisna değil. Bunlar, algoritmik sistemlerin tarihsel eşitsizlikleri nasıl devraldığının ve hızlandırdığının belgelenmiş örnekleri.

Birinci vaka: “Aktif dinleme pratiği yapın”

D.K., yerli kökenli ve işitme engelli bir kadın olarak bir finans teknolojisi şirketinde beş yıldır çalışır. Üst üste yüksek performans değerlendirmesi aldığı için yöneticisi onu üst bir pozisyona başvurması için yönlendirir. Şirketin tüm işe alım ve performans süreçleri HireVue tarafından yürütülür.

HireVue, ki bu ismi önümüzdeki günlerde çok daha fazla duyacaksınız, şirketlerin işe alım süreçlerini hızlandırmak ve dijitalleştirmek için kullandığı, yapay zekâ destekli popüler bir video mülakat ve değerlendirme platformudur. Adayların iş başvurularından sonra canlı bir mülakatçı yerine bilgisayar ya da telefon üzerinden katıldıkları “tek yönlü” video görüşmelerini yönetir. Platformun yapay zekâ bileşeni, kayıtları analiz ederek iletişim becerileri, problem çözme, özgüven ve şirketin gereksinimlerine uyum gibi konularda adayları sıralamaya yardımcı olur.

D.K.’nın da HireVue tarafından yürütülen mülakata girmesi beklenir. D.K., işitme engeli nedeniyle gerçek zamanlı insan altyazısı CART, yani Communication Access Realtime Translation —İletişim Erişimi Gerçek Zamanlı Çeviri— talebinde bulunur. Platformun otomatik altyazı sistemi mevcut olduğu gerekçesiyle talebi kurum tarafından reddedilir ve otomatik sisteme........

© Bianet