Mahkemeye sunulan dilekçenin temel işlevi hâkime, karşı tarafa davacının iddialarını, davalının savunmalarını taşımaktı. Yapay zekânın dava dosyalarını okumaya başlamasıyla belgenin ikinci ve daha az görünür bir işlevi ortaya çıktı: Belgenin içine yerleştirilen talimatlar, onu inceleyen yapay zekâ sisteminin davranışını değiştirmeye çalışabiliyor.

ABD'nin Connecticut eyaletinde bir mahkemenin ağustos ayında verdiği yaptırım kararı ile Brezilya'da son aylarda ortaya çıkan bir dizi vaka, siber güvenlik çevrelerinde uzun süredir bilinen “prompt injection” tekniğinin artık gerçek dava dosyalarında kullanıldığını gösteriyor.

Connecticut Yüksek Mahkemesi yargıcı Walter Spader Jr., kendi davasını avukatsız takip eden Matthew Elliott'ın 24 Temmuz'da elektronik olarak sunduğu belgelerin içine insan gözüyle görülmesi güç, çok küçük ve beyaz renkte metinler yerleştirdiğini belirledi.

Gizli metin, belgeyi okuyabilecek bir yapay zekâ sisteminden Elliott'ın görüşünü destekleyen çıktı üretmesini ve daha önce aleyhine verilmiş bir mahkeme ara kararının düzeltilmesi gerektiği sonucuna varmasını istiyordu. Mahkeme, bunu bir “prompt injection” girişimi olarak nitelendirdi.

Yargıç Spader, 6 Ağustos tarihli kararında Elliott'ın elektronik dosyalama yetkisini kaldırdı ve bundan sonraki belgelerini kâğıt üzerinde mahkeme kalemine vermesine hükmetti.

Olayın alışılmadık yönlerinden biri, saldırının hedeflediği sistemin gerçekte bulunmamasıydı. Connecticut yargısı dava dosyalarını incelemek veya karara bağlamak için yapay zekâ kullanmıyor. Mahkeme de ara kararında gizli komutun hiçbir kararı etkilemediğini belirtti.

Ancak yargıç açısından bu girişimden sonuç alınamaması davranışın niteliğini değiştirmedi. Spader, bir belgenin görünen içeriğinden ayrı olarak makinelere yönelik gizli bir mesaj taşımasının yargılama sürecinin açıklığıyla bağdaşmadığını söyledi. Elliott ise Reuters'a metni mahkemenin yapay zekâ kullanıp kullanmadığını “denetlemek” amacıyla yerleştirdiğini söyledi.

ABD'deki olayın öncüsü Brezilya oldu

Connecticut mahkemesi kararını verirken doğrudan Brezilya'da birkaç ay önce yaşanan bir olaya atıf yaptı.

Brezilya'nın Pará eyaletindeki Parauapebas 3. İş Mahkemesi'nde görülen bir davada iki avukat, Mayıs ayında sundukları dilekçenin içine beyaz zemin üzerinde beyaz yazıyla yapay zekâya yönelik gizli bir talimat yerleştirdi.

Komut, belgeyi inceleyen yapay zekâdan davalının savunmasını özetlemek için için hazırlayacağı içeriği yüzeysel tutmasını ve dilekçeye ekli belgeleri karara etkili olacak şekilde sorgulamamasını istiyordu.

Ancak saldırı başarılı olmadı. Brezilya iş yargısında kullanılan Galileu adlı yapay zekâ sistemi gizli içeriği tespit etti.

Mahkeme davranışı ağır bir usulî kötü niyet olarak değerlendirdi ve iki avukata dava değerinin yüzde 10'una karşılık gelen yaklaşık 84 bin real para cezası verdi; olay ayrıca Baroya ve ilgili adli mercilere bildirildi.

Başlangıçta sıra dışı görünen olay kısa sürede tekil olmaktan çıktı.

Brezilya Yüksek Adalet Mahkemesi STJ, 20 Mayıs'ta kendi dava arşivinde de gizli yapay zekâ komutları içeren dilekçeler tespit ettiğini açıkladı. Mahkeme Başkanı Herman Benjamin, STJ'nin kullandığı üretken yapay zekâ sistemi STJ Logos üzerindeki girişimlerin engellendiğini, vakaların haritalandırıldığını ve sorumlular hakkında usulî, idari ve olası cezai yaptırımların araştırılacağını söyledi.

STJ ayrıca polis soruşturması ve idari inceleme başlattı.

São Paulo Eyalet Mahkemesi de Campinas ve São Paulo'da aynı avukat tarafından açıldığı belirtilen bir dizi davada beyaz renkle gizlenmiş komutlar tespit etti. Talimatlar yapay zekâdan adli yardım talebini ve varsa ihtiyati tedbiri kabul etmesini ve davalının çağrılmasını istiyordu.

Mahkeme olaylardan birinde avukata kötü niyetli dava takibi nedeniyle 10 asgari ücret tutarında ceza verdi ve dosyanın savcılık, yargı denetim makamı ve barolara gönderilmesine karar verdi. Mahkeme olayları aynı zamanda seri ve kötüye kullanılan dava takibi şüphesiyle ilişkilendirdi.

Santa Catarina yargısı da haziran ayında bir tüketici davasındaki savunma belgesinde gizli talimat tespit edildiğini ve yargıyı kötü niyetle etkileme girişimi nedeniyle yaptırım........

© Hukuki Haber