Bir isim/olay hakkında kamuya açık bilgileri taramanın en kolay yolu internette yapılan aramalar…

Farklı kaynaklarda farklı şekillerde bulunan yanıtları karşılaştırmak, üzerinde çalışılan konunun doğruluğu açısından önemli.

Yapay zeka tüm alanlara sirayet etmeden önce bu karşılaştırmalarda çekirdek bilgilerin farklılık göstermediği, anlatı farklarının yoruma dayalı olduğu görülürdü.

Artık yanlış bilgilerin onlarca farklı kaynağa yayıldığını görmek hiç zor değil.

Son yıllarda yapay zeka tartışmalarının merkezinde sık sık duyduğumuz bir kavram var: Halüsinasyon.

Yapay zekadaki halüsinasyon, sistemin gerçekte var olmayan bir bilgiyi varmış gibi üretmesi anlamına geliyor. Hiç yazılmamış bir akademik makaleden söz edebiliyor, bir kişiye hiç almadığı bir ödülü verebiliyor, doğum yılını/tarihini/yerini uydurabiliyor, hiç söylenmemiş bir sözü ünlü bir düşünürün ağzından aktarabiliyor.

Üstelik bunu son derece ikna edici bir dille yapıyor.

Halüsinasyon kelimesi sizi yanıltmasın; ortada insan zihnindeki anlamıyla bir hayal görme durumu yok. Yapay zeka bir dil modeli olarak çalışıyor: kelimeler arasındaki ilişkileri hesaplıyor ve istatistiksel olarak en olası cümleyi kuruyor. Bu süreç zaman zaman bozuk ilerliyor

Yapay zeka halüsinasyonları zincirin bir halkası, devamı var:

Kontrol edilmeyen bilginin arama........

© OdaTV