At samfunnet så raskt har omfavnet KI er urovekkende |
Hallusinasjonsbygging
GJESTEKOMMENTAR: Kunstig intelligens bør holdes unna alt som dreier seg om sannhet og fakta.
Jørg Arne JørgensenSkribent og religionshistoriker
Jeg var en av de mange som fikk hakeslepp da Chat GPT ble introdusert på tampen av 2022. At en chatbot kunne forstå vanlig språk – norsk! – og gi så fornuftig respons at den i praksis besto Turingtesten, var et enormt gjennombrudd.
Språket er noe genuint menneskelig, hadde vi trodd, men nå måtte vi innse at ved å slippe løs enorm datakraft på språket, hadde man gjennomskuet kompleksiteten og nyansene og klart åoversette det til nuller og enere. At disse generative språkmodellene er dypt imponerende, står jeg fremdeles for.
Men likevel er KI på mange måter en stor hype. For det som man litt beskjemmet måtte innrømme fra dag én, at den «hallusinerer», finner opp fakta, er i realiteten et kjempeproblem.
La meg ta et par eksempler. For å slippe å finlese hele gjeldende læreplan for grunnskolen, ba jeg kunstig intelligens finne de setningene der kristendom ble omtalt.
Jeg tenkte at et såpass enkelt og konkret spørsmål må jo være perfekt oppgave for KI. Jeg fikk umiddelbart svar: I samfunnsfag for 7. klasse skulle elevene «forstå kristendommens betydning for norsk historie».
Men nei. En rask sjekk viste at denne setningen ikke finnes, det står ikke et kvekk om kristendommen i læreplanen for samfunnsfag. Til og med på helt enkle, konkrete oppgaver gjør den altså grove feil.
Randabergskolen har utviklet sitt eget KI-system. Jeg testet det blant annet ved å........