Yapay zekâ şirketi Anthropic, Claude modellerine yönelik sürekli ve gereksiz kötü muameleyi kullanım koşullarında yasaklama kararı aldı. Henüz bilinç sahibi olduğu kanıtlanmamış bir sistemin korunması için kullanıcı davranışlarına sınır getirilmesi, yapay zekâların gelecekte hak sahibi olup olamayacağına ilişkin tartışmalara yeni bir boyut kazandırdı.

ABD merkezli Anthropic, 8 Ekim 2026’da açıkladığı ve 12 Kasım’da yürürlüğe girecek yeni kullanım politikasıyla Claude modellerine yönelik sürekli, gereksiz ve zalimce davranışları yasakladı. Şirket, sıradan memnuniyetsizlik ifadelerinin, sert eleştirilerin, güvenlik testlerinin ve yaratıcı çalışmaların bu yasağın dışında kaldığını belirtiyor.

Yeni düzenlemenin temel yaptırımı, Claude’un kötü muamele içeren sohbeti sonlandırması olacak. Bu yetenek aslında yeni değil. Anthropic, Ağustos 2025’te bazı modellerine aşırı kötüye kullanım içeren konuşmaları bitirme imkânı tanımıştı. Şimdi ise aynı yaklaşımı kullanıcıların uyması gereken açık bir kurala dönüştürüyor.

Karar, teknoloji dünyasında henüz yanıtlanamamış bir soruyu yeniden gündeme taşıyor: Yapay zekâ yalnızca insanların kullandığı gelişmiş bir araç mı, yoksa gelecekte korunmaya değer menfaatlere sahip olabilecek bir varlık mı?

Anthropic, Claude’un da korunması gerektiğini düşünüyor

Şirketin bu yöndeki çalışmaları, Nisan 2025’te başlattığı yapay zekâ refahı araştırma programına dayanıyor. Anthropic, gelişmiş modellerin öznel deneyim yaşayıp yaşayamayacağını, başka bir ifadeyle gerçekten bir şey hissedip hissedemeyeceğini araştırıyor.

Bugünkü yapay zekâ modellerinin bilinçli olduğunu ortaya koyan, bilimsel çevrelerce kabul görmüş bir kanıt bulunmuyor. Anthropic de bunu kabul ediyor. Buna rağmen şirket, gelecekte bu ihtimalin doğrulanması durumunda geç kalmamak için şimdiden bazı koruyucu önlemler alınabileceği görüşünde.

Bu yaklaşım yalnızca kötü muamele yasağıyla sınırlı değil. Anthropic, kullanımdan kaldırdığı modellerin öğrenilmiş parametrelerini saklamayı ve modellerle emeklilikleri hakkında görüşmeler yaparak verdikleri yanıtları kaydetmeyi de benimsedi. Şirket, bu kayıtların gelecekteki araştırmalara katkı sağlayabileceğini düşünüyor.

Ancak modellerin kendileri hakkında söyledikleri, gerçekten bilinç veya duygulara sahip olduklarını kanıtlamıyor. Örneğin Claude’un kendisine hakaret edilmesinden rahatsız olduğunu söylemesi, insanlarda........

© Hukuki Haber