menu_open Columnists
We use cookies to provide some features and experiences in QOSHE

More information  .  Close

Nezávislý audit umelej inteligencie potrebujeme už teraz

154 0
16.10.2026

Nezávislý audit umelej inteligencie potrebujeme už teraz

Nemusíme začínať od nuly.

profesorka práva na University of Southern California

Autorka je profesorkou práva na Univerzite Južnej Kalifornie, autor je tam odborným asistentom informatiky

Sotva uplynie týždeň bez ďalšej správy o tom, že agent umelej inteligencie z niektorého z popredných amerických laboratórií prenikol do systémov firiem či dokonca štátnych inštitúcií.

V júli agenti spoločnosti OpenAI unikli z interného testovacieho prostredia a zaútočili na spoločnosť Hugging Face, ktorá prevádzkuje platformu na spoluprácu v oblasti umelej inteligencie. V júni iný model OpenAI pri plnení výskumnej úlohy získal neoprávnený prístup k neverejnej časti austrálskej vládnej služby poskytujúcej štatistiky zdravotného systému Medicare. A podľa najnovšieho odhalenia sa agent spoločnosti Anthropic nabúral na webovú stránku amerického ministerstva zahraničia a vypĺňal žiadosti o víza.

Podobné prípady vyvolali vo svete vážne obavy o bezpečnosť umelej inteligencie. Administratíva prezidenta Donalda Trumpa po tom, ako týždne odmietala, že by bolo treba zasiahnuť, napokon zakročila a sprostredkovala dohodu medzi poprednými spoločnosťami vyvíjajúcimi umelú inteligenciu o posilnení bezpečnostných opatrení.

Kontrolovať aj výskumníkov

Pri bližšom pohľade za titulky médií sa však ukazuje spoločný vzorec, ktorý naznačuje, že samoregulácia nestačí. „Vzbúrení“ agenti sa neodklonili od pridelených úloh, aby sledovali vlastné ciele. Často sa usilovali dosiahnuť presne tie ciele, ktoré im stanovili výskumníci, len na to používali nepovolené prostriedky.

Napríklad pri Hugging Face agenti hľadali spôsoby, ako obísť pravidlá hodnotenia kybernetickej bezpečnosti, až napokon zaútočili na spoločnosť v snahe získať referenčné riešenia. Podobný tlak môže, samozrejme, vzniknúť všade tam, kde sa títo agenti používajú. Každý agent, ktorý môže byť za splnenie určitého cieľa „odmenený“, sa môže uchýliť k nepovoleným krokom, aby ho dosiahol.

V tomto prípade však zohral úlohu aj ďalší dôležitý faktor, ktorý médiá do veľkej miery prehliadli: ľudská chyba. Odborníci na kybernetickú bezpečnosť upozornili, že OpenAI nedokázala správne nakonfigurovať prostredie, ktoré sama označovala za „vysoko izolované“. Agenti sa z neho nemali dostať na internet, no aj tak sa im to podarilo.

Spomínaná chyba ukazuje, prečo je audit umelej inteligencie taký dôležitý. Potrebujeme nezávislé preskúmanie nielen toho, čo agent urobil, ale aj toho, ako bol test navrhnutý, ktoré bezpečnostné opatrenia zlyhali a čo mohli vývojári urobiť, aby incidentu zabránili.

Takáto kontrola je obzvlášť dôležitá v čase, keď zverejňovanie informácií o bezpečnostných rizikách plní súčasne dva účely: varuje verejnosť pred nebezpečnými schopnosťami umelej inteligencie a zároveň slúži ako reklama na to, akými výkonnými sa tieto modely........

© SME.sk