Derin sahtecilik ve Grok destekli dijital taciz |
‘Derin sahtecilik’ gerçeğinden kolayca ayrılamayan sahte video, görsel ve seslere verilen ad. Mizah amaçlı daha makul sayılabilecek kullanımları bir kenara bırakırsak derin sahtelerin yaygın kullanım alanı olarak geriye siyasi amaçlı yanıltma, sahtecilik, dolandırıcılık, taciz ve şantaj gibi hemen her biri suç teşkil eden fiiller kalıyor. Klasik görsel/video/ses işleme araçları ile derin sahte oluşturmak epeyce bilgi ve beceri gerektirdiğinden üretken yapay zeka (Gen. AI) araçlarının ortaya çıkışına dek yaygınlığı oldukça düşüktü. Gen. AI araçları ile yaygınlık hızla artmaya başladı. Indicator’ın temmuz 2025 tarihli görsel tabanlı cinsel taciz içerikleri oluşturarak satan 85 web sitesini ele alan araştırmasına göre söz konusu ‘çıplaklaştırma siteleri’ toplamda aylık 18.5 milyon ziyaretçi alıyor. Bu alçak sistemin ‘ekonomik büyüklüğü’ ise yıllık 36 milyon dolar civarında. Bu sayılar irice olmakla birlikte içeriklerin kamusal alanlara sızması ve buralarda yayılması sınırlı olduğundan etkileri de çok gözlemlenebilir değildi.
Aralık ayı sonlarında bir grup yetişkin içerik üreticisinin X/Twitter’da bir pazarlama kampanyası olarak Elon Musk’a ait Grok’tan kendilerinin cinsel içerikli sistemlerin kendisinin sorumlu örüntülerini üretmesini istemelerinin ardından çoğunluğu anonim binlerce kullanıcı kadınların ve kimi örneklerde de çocukların görsellerini benzer gönderilerle rızaları dışında bikinili, az kıyafetli vb. talep etmeye başladı. Oluşturulan görsel sayısının büyüklüğü açısından Copyleaks’in 31 Aralık tarihli........