Diğer
Konuk Yazar
26 Kasım 2023
Kuvvetle muhtemel, ChatGPT'leri ile meşhur OpenAI isimli yapay zekâ (YZ) kuruluşunun -bilerek şirket demiyorum, geleceğiz oraya- CEO'su Sam Altman'ın istifa haberi geçen hafta bir yerlerde önünüze düşmüştür. Yine de detaylara geçmeden önce baş döndürücü bir hızda seyreden olaylar silsilesini hızlıca hatırlayalım isterim.
17 Kasım Cuma: OpenAI yönetim kurulu CEO Altman'ı kovdu ve yerine geçici olarak şirketin teknolojiden sorumlu yöneticisi Mira Murati'yi getirdi.
18 Kasım Cumartesi: Haber yayıldı, çarşı pazar karıştı. Başta şirketin büyük yatırımcısı Microsoft olmak üzere OpenAI yatırımcıları Altman'ı geri getirmek için baskı yapmaya başladı.
19 Kasım Pazar: OpenAI kararının arkasında durmayı sürdürdü ve şirkete yeni bir CEO atadığını (Twitch kurucularından Emmett Shear) duyurdu. Microsoft, OpenAI'a "sen almazsan ben alırım" diyerek Altman'ın kendi bünyelerinde işini yapmaya devam edebileceğini söyledi.
20 Kasım Pazartesi: OpenAI'ın 770 çalışanından 747'si eğer Altman geri dönmezse şirketten ayrılıp Microsoft'ta Altman'la beraber çalışacaklarını açıkladı.
21 Kasım Pazar: OpenAI çark etti, Altman CEO'luğa geri döndü. OpenAI yönetim kurulunun tamamına yakını (bir kişi hariç) değişti, Altman'ın görevden alınma sebeplerine ilişkin de (ayıp olmasın diye) bir soruşturma başlatılacağı açıklandı.
Şimdi gelelim meselenin neden bu kadar gürültü kopardığına ve bizi neden ilgilendirdiğine… Sonuçta Silikon Vadisi'nde bir şirket basiretsizlikler zincirine teslim olmuş gibi, değil mi? Değil.
Dediğim gibi öncelikle OpenAI bir şirket değil. Daha doğrusu değil idi. Amacı YZ'yi geliştirmek olan, fakat bu gelişimin mümkün olduğunca insanlığa zararsız gerçekleşmesini sağlamak için her türlü önlemi alarak ilerlemeyi hedefleyen ve bunu yaparken kâr amacı gütmeyen bir kuruluş olarak planlanmıştı OpenAI.
Yani, YZ meselesini sadece gözü dönmüş, kâr odaklı, kapitalist ellere/şirketlere bırakmayalım, bırakırsak bu ipin ucu kaçar, sonra önünü alamayız, diyenlerin fonlarıyla kurulmuştu. Başına da -Sam Altman dahil- YZ geliştirme işinde gözü dönmemiş, işin tehlikelerini bilen ve kurumu buna göre denetleyebilecek insanlar getirilmişti.
E ama OpenAI'ın Dall-e, GPT4 gibi uygulamaları paralı? Evet, bu YZ geliştirme işi o kadar pahalı bir iş ki, bir noktada bir yan şirket kurup YZ ürünlerimizi paralı hale getirelim; zira piyasanın en yetenekli yazılımcılarını işe almak, YZ geliştirmek için gerekli işlemci kapasitesine ulaşmak gibi masrafları da buradan çıkarırız diye düşünülmüştü. Bu paralı kısmımızı da nasıl olsa yönetim kurulumuz denetler…
Tabii, en başından beri Microsoft'un gölgesi OpenAI'ın üzerindeydi. Şirket OpenAI'a bugüne kadar 13 milyar dolar aktarmıştı. Bu öyle bir rakam ki, YZ geliştirme için dünya genelinde harcanan tüm paranın neredeyse yarısı!
Peki, şimdi ne oldu? Batı medyasında çıkan hemen her makaleyi okuyarak geçirdim tüm haftayı, kitabın ortasından hatta sonundan söyleyeyim: Kapitalizm bir kez daha galip geldi. Geldiğimiz noktada OpenAI'ın yeni seçilen yönetim kurulunda ABD eski Hazine Bakanı (Larry Summers) bile var. Altman'a meydan okuyan ekip ise tasfiye edildi.
Yine yazılıp çizilenlere bakılırsa eski yönetim kurulu, CEO Sam Altman'ın kurumu giderek daha kontrolsüz bir şekilde yönetmeye başladığını, bu işin giderek sarpa sarabileceğini, bir noktada kontrol edemediğimiz bir güçle karşı karşıya kalabileceğimizi düşünüyordu.
Özellikle OpenAI'ı kuran ekipte yer alan ve Altman'a karşı bu darbe planının başını çektiği söylenen Ilya Sutskever'ın -sonra o da çark etmek ve yaptıkları için çok üzgün olduğunu açıklamak zorunda kaldı- büyük endişeleri olduğu söylendi. Hatta onun bu endişeli hâli biraz da karikatürize edildi. OpenAI'da güvenlikten sorumlu olarak çalışan, -bu iş o kadar önemli görülüyor ki, ekibiyle birlikte şirketin bilgisayar gücünün yüzde 20'sini kullanan- Sutskever'ın kurumun orta yerinde tahta yapay zekâ kuklalarını yaktığı, "Feel the AGI (Artificial General Intelligence) / Yapay Genel zekâ'yı Hisset" diye bağırarak dolaştığı yazıldı. (AGI'ın neden hissedilmesi gereken ve korkulan bir şey olduğuna birazdan geleceğiz.)
Aslında olaylar öyle gelişti ki, Sutskever bu başarısız darbe girişimiyle bir hafta içerisinde en kötü kabuslarını kendi eliyle gerçeğe dönüştürdü. Onun bu hamlesi sayesinde artık OpenAI'ın yönetimi "aman dikkat edelim, bu işin sonu iyi olmayabilir" diyenlerden "aman devam edelim, bu işin ucunda çok para var" diyenlere geçmiş gibi görünüyor. Dimyat'a pirince giderken evdeki bulgurdan da oldu anlayacağınız. Ya da belki de, bugün olmasa yarın bunlar yaşanacaktı. Microsoft'un gölgesi altında başka türlüsü zaten düşünülemezdi.
Peki, bitirmeden bir de şu soruların yanıtını bulmaya çalışalım: Tam olarak ne olmasından korkuyor bu insanlar? Neden YZ meselesinde çeşitli Silikon Vadisi insanları, yazılımcılar, filozoflar, toplumbilimciler ve daha birçok gruptan insan ısrarla dikkat edilmesini salık veriyor?
Mesele hem çok basit, hem de çok ama çok karışık aslında… YZ geliştirirken üzerinde çalışılan iki mesele var: Biri "alignment/hizalama" denilen mesele… YZ işinde sürecin tam kontrolü o sistemi geliştirenlerde değil. Yani evet, YZ'nin çalışma prensiplerini, altyapısını, komut sistemini bir ekip geliştiriyor. Lakin sisteme o kadar çok değişken dahil edilmiş durumda ki, YZ'nin ürettiği bir çıktının tüm süreçlerini bu süreçlerin karmaşıklığı nedeniyle kontrol etmek mümkün değil. Bu yüzden bir ekip sürekli olarak YZ'nin insana zarar verecek çıktılar üretmesini kontrol etmek durumunda. Yani YZ'yi insanla hizalamak, insanın kontrolü altında kalmasını sağlamak zorunda. Buraya yeteri kaynak ve zaman ayırmazsanız, burada çalışan ekibi küçültür veya bu ekibin itirazlarına rağmen bir şeyleri hızla değiştirmeye devam ederseniz sonuç insanlık için kötü olabilir.
Bir de "singularity" yani tekillik meselesi var. YZ özelinde buna "teknolojik tekillik" deniyor. Yani yapay zekânın insan seviyesinde düşünme kapasitesine ulaştığı nokta. Diğer bir adıyla -Sutskever'ın da bu adı bağırarak dolaştığı üzere- "Yapay Genel Zekâ – Artificial General Intelligence (AGI)." Bir yapay zekâ tam olarak bu noktaya ulaştığında muhtemelen bizzat geliştiriciler bile farkına varamayacak veya varsalar da tam olarak emin olamayacak. Zira şimdiye kadar bu noktaya ulaşıldığını iddia edip, etik sebeplerle işinden ayrılan pek çok teknoloji dünyası insanı oldu.
Kendimden bir örnek vereyim isterim. Okumayı ben bir gece gazetenin sayfalarına bakarken söktüm. Tam o anda… Sanki iki nöronum arasında tek bir bağlantı eksikti, o da o esnada kuruldu ve ben okumaya başladım. İşte YZ tekilliğine de böyle bir anda ulaşacağız. Anlamadan. Fark etmeden. Dolayısıyla bu noktaya varmadan önce, YZ'nin böyle bir kabiliyetle ne yapacağından emin olmamız gerekiyor.
OpenAI'ın sabık yönetim kurulu üyesi Helen Toner'ın şu benzetmesi konuyu daha iyi anlamamıza yardımcı olabilir: "Bu iş" diyor Toner, "Roket mühendisliğinden çok kimyaya/simyaya benziyor. Tencereye bir şeyler atıp, karıştırıp, ne olacağına bakıyorsunuz."
Yani, bu işin net bir tarifi ve buna karşı alınacak net bir önlem yok. Dikenli bir yolda yürüyoruz. Bu arada önemli sayıda insan da tüm bu çekincelerin bir vesveseden ibaret olduğunu savunuyor. Nihayetinde bunun bir yazılım olduğunu, insanın istemediği bir şeyi üretmeyeceğini söylüyorlar.
Tabii insanın hemen "en kötü fişini çekeriz" diyesi geliyor. İşte orası pek mümkün değil. Zira dört bir yanımızın kablolu/kablosuz ağlarla çevrili olduğu; diş fırçasından buzdolabına, ampulden ütüye her bir şeyimizin internete eriştiği bir dünyada biz fişi çekmeyi akıl edene kadar YZ atı alıp Üsküdar'ı çoktan geçmiş olabilir.
Tam bu yüzden, sürece bir an önce devletlerin müdahil olması gerektiğini savunan bir başka grup insan da var. Böylesi tehlikeli bir oyuncağın şirketlerin insafına bırakılmasına itiraz ediyorlar. Fakat baksanıza, devletler gözlerinin önünde işlenen cinayetlere bile çözüm üretebilecek kifayete sahip değil.
Neler olacak hep beraber göreceğiz. Şu anda söyleyebileceğimiz tek şey, bu kritik raundu şirketlerin aldığı… OpenAI artık Microsoft'un kollarının arasında. Microsoft ve yeni yönetim kurulunun desteğiyle OpenAI'ın ticari hırsının ve buna paralel olarak iş yapma hızının giderek artacağını kestirmek güç değil. Onlar hızlandıkça rakipler hızlanacak, herkes hızlandıkça güvenlik meselesine verilen önem giderek geri planda kalacak. Bugün görünen ne yazık ki bu… Bir yerde birisi veya birileri "dur" der mi… Göreceğiz.
Bu ve benzeri konularda bir podcast şovu hazırlıyorum. Eğer benzer konular ilginizi çekiyorsa "Yeni Haller" isimli bu podcast şovuna Spotify'dan veya tüm podcast uygulamalarından ulaşabilirsiniz.
Habermas ve arkadaşlarının ısrarla tarif ettiği demokratik ethos alanının aslında bir noktadan sonra İsrail şiddetine sessiz kalınan bir "mazeret alanına" dönüşüp dönüşmediği meselesi bugünün felsefecilerinin, tarihçilerinin ve academia'sının omuzlarına yeni bir yük getiriyor
Veli Yılmaz'ın ve onunla birlikte Neyyire Özkan'ın ve Hazal'ın insanın içinde "çok beklemiş, çok eski bir yeri kanatan" yaşam öyküsüne ortak olmak, devrimci mücadelenin izini bir de onun yaşamı üzerinden sürmek isterseniz, buyurun okumaya
© Tüm hakları saklıdır.
login
who are we?
contact us
qosheapp
Toi Staff
Gideon Levy
Belen Fernandez
Andrew Mitrovica
Mort Laitner
Rami G Khouri
Ali Fathollah-Nejad
Nikkei Editorial
visit website
