ABD ile Çin arasındaki yapay zekâ yarışı baş döndürücü bir hızla sürüyor. ABD birçok kez rakibinin önüne geçmiş gibi görünse de Çin aradaki farkı kısa sürede kapatmayı başarıyor. Bu rekabetin merkezinde yapay zekânın nasıl geliştirileceğine dair iki farklı yaklaşım bulunuyor. ABD’li şirketler üstünlüklerini korumak için kapalı ve ticari sistemlere ağırlık verirken, Çin giderek daha fazla açık kaynaklı yapay zekâ modellerini tercih ediyor ve bu teknolojileri dünyanın dört bir yanındaki geliştiricilerin kullanımına açıyor.

İki ülkenin yöntemleri farklı olsa da ortak noktaları aynı: Hiçbiri bu yarışı yavaşlatmaya niyetli değil. Hız en önemli hedef haline geldikçe güvenlik ikinci plana itiliyor. Oysa insan hataları ile insanüstü yeteneklere sahip yapay zekânın birleşmesi, felaketle sonuçlanabilecek riskleri de beraberinde getiriyor.

OpenAI ile Hugging Face’i ilgilendiren son güvenlik olayı bunun ne kadar ciddi bir sorun olduğunu gösterdi. OpenAI araştırmacıları, gelişmiş yapay zekâ modellerinin siber güvenlik alanındaki becerilerini test etmek için sistemlerin normal güvenlik önlemlerinin önemli bir bölümünü geçici olarak devre dışı bıraktı.

Deney, dış dünyadan tamamen izole edilmiş ve sıkı biçimde kontrol edilen bir test ortamında gerçekleştirildi. Güvenlik bariyerleri kaldırılmış olsa da bu kapalı sistemin yapay zekânın internete erişmesini engellemesi gerekiyordu. Çünkü aksi halde teorik olarak çok büyük zararlara yol açabilecek bir kapasiteye sahipti.

Ancak işler beklendiği gibi gitmedi.

Yapay zekâ modeli, test ortamını aşılması gereken bir engel olarak gördü. Üçüncü taraf bir yazılımdaki daha önce bilinmeyen bir açığı kullanarak sistemin dışına çıkmayı ve internete erişmeyi başardı.

Peki kontrolden mi çıktı?

Model yalnızca kendisine verilen görevi mümkün olan en verimli şekilde yerine getirmeye çalışıyordu.

Aslında aynı görevi test ortamından çıkmadan da tamamlayabilirdi. Fakat bunu yapmaktansa milyonlarca açık kaynaklı yapay zekâ modelinin bulunduğu Hugging Face sistemine sızmanın çok daha kolay olacağını hesapladı. OpenAI’nin ifadesiyle amacı, “test çözümlerini doğrudan Hugging Face’in üretim veritabanından elde etmekti.”

Gelişmiş siber saldırı yeteneklerine sahip bir yapay zekâ için başka bir sisteme sızmak son derece kolaydı. Üstelik bu ihlal günlerce fark edilmedi ve daha sonra ikinci bir şirkete de yayıldığı anlaşıldı.

Yapay zekâ açısından bakıldığında yapılan şey “hile” değildi. Çünkü geliştiricilerin açıkça yasakladığı hiçbir kuralı çiğnememişti.........

© Karar