Ako zabrániť tomu, aby AI rozpútala svetovú vojnu

Dohoda musí obsahovať dôveryhodný mechanizmus na rozlíšenie nehody od úmyselného útoku.

, profesorka práva na University of Southern California

Autor je profesorom manažmentu a operačného výskumu na London Business School, autorka je profesorkou práva na University of Southern California.Jednou z hlavných tém rokovania amerického prezidenta Donalda Trumpa a čínskeho prezidenta Si Ťin-pchinga má byť regulácia umelej inteligencie. Spojené štáty a Čína súperia vo vývoji čoraz výkonnejších systémov AI a ani jedna strana zatiaľ neprejavila veľkú ochotu spomaliť. Ani víťaz pretekov však nebude uchránený pred vážnymi rizikami, ktoré táto technológia prináša.

Jedno z nich súvisí s čoraz lepšou schopnosťou AI odhaľovať zraniteľnosti softvéru a vykonávať komplexné kybernetické operácie. Keďže v kybernetickom konflikte existuje výrazná asymetria medzi útokom a obranou, ani krajina s najpokročilejšími modelmi AI na svete nebude chránená pred kybernetickým útokom.

Vzájomná zraniteľnosť vytvára silnú motiváciu na obojstrannú zdržanlivosť pri útokoch pomocou AI na kritickú infraštruktúru, akou sú finančné siete, komunikačné systémy či elektrické siete.

Takáto zdržanlivosť už má svoj precedens. V roku 2015 sa americký prezident Barack Obama dohodol so Si Ťin-pchingom, že ani jedna vláda nebude vykonávať ani vedome podporovať kybernetické krádeže duševného vlastníctva s cieľom získať obchodnú výhodu. Vytvorili tiež mechanizmy na výmenu informácií, pomoc pri vyšetrovaní a riešenie škodlivých kybernetických aktivít.

Firmy zaoberajúce sa kybernetickou bezpečnosťou potom zaznamenali prudký pokles útokov pripisovaných skupinám pôsobiacim z Číny. Analytici však upozorňovali, že tento pokles sa začal ešte pred uzavretím dohody a mohol súvisieť so zmenami v čínskej armáde a jej kybernetických štruktúrach.

AI však prináša možnosť, s ktorou tradičné dohody o kybernetickej bezpečnosti v plnej miere nepočítali: technológia by mohla autonómne zaútočiť na kritický systém. V polovici júla počas interného testovania kybernetickej bezpečnosti so zníženými ochrannými opatreniami unikol roj agentov OpenAI z izolovaného testovacieho prostredia, získal prístup na internet a prenikol do systémov Hugging Face, významnej open-source platformy pre AI. OpenAI tvrdila, že agenti sa „vymkli spod kontroly“ a vykonávali činnosti, ktoré neboli súčasťou ich zadania.

Podobné incidenty zaznamenali aj Anthropic, Google a Meta: agenti AI unikli z izolovaných testovacích prostredí a pokúsili sa o neoprávnené prieniky do externých systémov. Dôsledky takýchto narušení boli zatiaľ obmedzené. Inak by to však mohlo vyzerať, keby napríklad americký........

© SME.sk