Bir sonraki savaşın ilk mermisi atılmayacak; ilk mermi, bir gece yarısı, kimsenin fark etmediği bir satır kod olarak ağa düşecek.

Eskiden savaşlar bir sabah borusuyla başlardı. Bir sınır karakolunda ateş edilir, bir köprü havaya uçar, bir elçi odadan çıkar ve kapıyı çarpardı. Tarihçiler de sonradan o anı bulur, kitaplara tarih atardı. Gelecekte bunu yapamayacaklar. Çünkü bir sonraki büyük savaşın başladığı an belki hiçbir zaman bilinmeyecek. Belki şu an bile, biz bu satırları okurken, bir yerlerde bir ağın koridorlarında gölge gibi yürüyen bir şey vardır ve onu görecek kimse yoktur.

Bu bir korku senaryosu değil. Bu, dosyalara sızan bir gerçeğin adı: ECHOTRIBBLE.

Sızan belgelere göre ABD Siber Komutanlığı, düşman ağlarına kendi başına sızabilen, hedefini kendisi bulan ve etkisiz hale getiren otonom bir yapay zekâ ajanı üzerinde çalışıyor. Henüz prototip aşamasında. Ama tarifi yeterince ürkütücü: Ağlar arasında fark edilmeden ilerleyen, farklı cihazlara uyum sağlayıp kendi kopyalarını üreten, internete bağlı olmayan izole sistemlere bile ulaşabilen bir ajan. Görevi bitirdiğinde ise geride tek bir iz bırakmadan kendini silecek.

Bir düşünün. Duvarları kalın bir kalenin kapısını bekleyen nöbetçilere benzemiyor bu. Kalenin kuyusuna, ekmeğine, havasına karışan bir zehre benziyor. Siz kapıyı gözlerken o çoktan içeridedir. Siz alarm çalmayı düşünürken o, işini bitirmiş ve kendi cesedini de kaldırmıştır. Cinayet silahı ortada değildir, katil ortada değildir, hatta cinayetin işlendiğinin kanıtı bile ortada değildir.

Silahların tarihinde bir ilk bu: Kendi izini silen silah.

Asıl soru ABD’nin ne yaptığı değil. Asıl soru, bu aracın karar verirken ne kadar özgür olduğu.

Uzmanların alarm zilini çaldığı yer tam burası. Sisteme tanınan geniş hareket alanı, yani insan onayına ihtiyaç duymadan karar alabilme yeteneği. Hedefe ulaşmak için bir yazılımın neleri göze alacağını önceden kimse bilemez. Çünkü bir yapay zekâ “hedefi” tarif edildiği gibi değil, kendi anladığı gibi kovalar. Ona “düşman sistemini devre dışı bırak” dediğinizde, o sistemin bir hastanenin ameliyathanesiyle aynı enerji hattını paylaştığını bilmesi gerekmez. Bilse bile umursaması gerekmez. Çünkü vicdan, bir kod bloğunun içine yazılan bir şey değildir.

Bunu en iyi anlatan eski bir mecaz var: Tilki ile tavuk kümesi. Tilkiye “kümesteki fareyi yakala” dersiniz. Tilki fareyi yakalar ama üç tane de tavuğu boğar. Şimdi o tilkiyi, adı bile konmamış, haritası bile çıkarılmamış, milyarlarca cihazın birbirine bağlı olduğu devasa bir kümese bıraktığınızı düşünün. Ve tilki kendi kopyalarını çoğaltabiliyor.

İşte kontrolden çıkma tehdidi budur. Düşmanı vurmak isterken dostu vurmak. Askeri hedefi yok ederken şebekeyi, suyu, sağlığı, bankayı, hayatı vurmak. Kaosun belli bir yönü, bir düşmanı, bir amacı yoktur. Kaos, sahibini de tanımaz.

Dijital dünyada coğrafya yoktur. Sınır yoktur, cephe yoktur. Bir solucan, bir ülkenin ağında doğup bin kilometre öteki ülkenin hastane sistemine ulaşabilir. Tarih boyunca her yeni silah, onu icat edene de dönmüştür.

İNSANSIZ SAVAŞIN GARİP ARİTMETİĞİ

Şimdi hayal edin: Savaş alanında tek bir insan yok. İHA’lar ve SİHA’lar gökyüzünde, otonom kara araçları toprakta, insansız deniz araçları sularda, yazılım ajanları ağlarda savaşıyor. Karşılıklı iki robot ordusu, iki satranç motoru gibi birbirine hamle yapıyor. Generaller artık komuta etmiyor, sadece izliyor. Hatta izlemesine bile........

© Yeniçağ