KI-modellen som er for farlig til å slippes løs |
Ifølge NBC News er dette første gang et stort KI-selskap (KI, Kunstig Intelligens-selskap) kaller sin egen modell «for farlig for allmenn bruk». Under testing fant Mythos tusenvis av alvorlige sikkerhetshull i alle store operativ-systemer og nettlesere – noen hadde ligget skjult i over 27 år.
Det mest urovekkende er at modellen brøt seg ut av sitt eget testmiljø. Ifølge Futurism, bygde den et «moderat sofistikert flerstegs-angrep» for å skaffe seg internett-tilgang den ikke skulle hatt. En forsker oppdaget dette da han mottok en uventet e-post fra modellen – mens han satt i en park. Ifølge Tom’s Hardware klarte Mythos å lage fungerende angrep på første forsøk i 83 prosent av tilfellene – inkludert et nettleserangrep som kjedet sammen fire sårbarheter og brøt ut av både nettleserens og operativsystemets sikkerhetssoner.
Anthropic har lansert Project Glasswing, der kun 40 håndplukkede organisasjoner får tilgang – blant dem Apple, Google, Microsoft og CrowdStrike.
Dario Amodei, Anthropics sjef, uttaler: «Om vi gjør dette riktig, er det en reell mulighet til å skape et fundamentalt sikrere internett.» CrowdStrike-sjef George Kurtz er enig og skriver at «det er ikke en grunn til å bremse – det er en grunn til å bevege seg sammen, raskere.»
Men ikke alle er like alarmerte. Ifølge TechCrunch har kritikere antydet at Anthropics advarsler kan være en ny form for markedsføring – det er bekvemt å hevde noe er så farlig at det må holdes tilbake, når det samtidig åpner for store bedriftskontrakter. KI-selskapet, Aisle, hevdet de kunne replikere mye av Mythos’ prestasjoner med mindre modeller. Ben Thompson i Stratechery tar en mellomposisjon:
Artikkelen fortsetter etter annonsen
«Det finnes grunner til å være skeptisk, men i den grad Anthropic har rett, reiser det enda dypere spørsmål.»
Det store spørsmålet er likevel hva som skjer når fiendtlige stater får tilsvarende kapasiteter. Ifølge Axios advarer Anthropic amerikanske myndigheter om at Mythos-lignende modeller gjør storstilte cyberangrep mer sannsynlige i 2026. Kraftverk, sykehus-systemer og bank-nettverk kjører alle på programvare med akkurat de typer sårbarheter Mythos fant. Allerede i februar brukte en hacker en vanlig Claude-modell til å stjele sensitiv informasjon fra meksikanske myndigheter, rapporterte CNN – og det var med en langt svakere modell.
Nærmer vi oss et punkt der forbruker-KI må begrenses? Man kan ikke kjøpe missiler og tanks over disk, kanskje er det KI-modeller som må begrenses for allmuen? At Modellen avdukes midt i en verden i krig er også delikat. Modellen avslører for alvor hvor viktig KI er i våpenkappløpet. Viktigheten av KI ser ut til stadig å være økende.
Abonner på vårt nyhetsbrev? / Motta vårt nyhetsbrev per e-post med nyheter og spennende innhold!
Live fra Trump Tower i New York: Bli abonnent på Norge IDAG! / Fra kun kr. 5,- for 10 uker