Anthropic nepreháňa, keď varuje pred panoptikonom umelej inteligencie

Keď budú možnosti na sledovanie, zákony sa prispôsobia

V debate o využívaní umelej inteligencie armádou – ktorú vyvolal spor spoločnosti Anthropic s Pentagónom, teraz smerujúci na súd – sa veľa hovorí o obavách z autonómneho zabíjania. Menej pozornosti sa však venuje druhej výhrade firmy: možnosti, že by sa AI mohla používať na masové sledovanie Američanov.

Nedávna štúdia ponúka pohľad na to, prečo má spoločnosť z takého scenára opodstatnené obavy.

Anthropic v podaní, ktorým sa bráni proti označeniu za „riziko pre dodávateľský reťazec“, argumentoval, že „nástroje umelej inteligencie ako Claude umožňujú zhromažďovať a analyzovať informácie rýchlosťou a v rozsahu, aké sme si doteraz ani nevedeli predstaviť, čo predstavuje jedinečné riziko pre občianske slobody vzhľadom na možnosť chýb a zneužitia“.

Pentagón, ktorý presadzoval právo využívať túto technológiu na „akékoľvek zákonné použitie“ – a nakoniec ho väčšinou získal od OpenAI, ktorá ochotne zaujala miesto po Anthropicu – tvrdí, že masové sledovanie Američanov je podľa štvrtého dodatku ústavy nezákonné.

Anthropic sa však obáva, že existujúce zákony s novými možnosťami umelej inteligencie jednoducho nepočítajú. „Ak je takéto sledovanie dnes nelegálne,“ napísala firma vo vyhlásení, „je to len preto, že zákony ešte nestihli dobehnúť rýchlo rastúce schopnosti AI.“

Sieť, ktorá zachytí identitu

Štúdia publikovaná minulý mesiac, a s výskumníkom Anthropic medzi spoluautormi, poukazuje na jeden dôležitý aspekt meniaceho sa charakteru masového sledovania. Výskum viedli Simon Lermen z MATS Research a Daniel Paleka z ETH Zürich.

Odhaliť identitu človeka na internete je nepresná a často zdĺhavá práca. Odborníci na tzv. open source intelligence (OSINT) hovoria, že ide o zbieranie drobných stôp. Malé detaily – príspevok na sociálnej sieti o futbalovom tíme dieťaťa, fotografia, ktorú možno geolokovať, sťažnosti na počasie – môžu stačiť na identifikáciu konkrétnej osoby. Keď sa k tomu pridajú aj súkromnejšie údaje získané od obchodníkov s dátami, sieť na zachytávanie identity je čoraz presnejšia a silnejšia.

Doteraz väčšinu ľudí upokojovalo, že takýto proces bol zdĺhavý a drahý. Ak človek nebol vysoko zaujímavým cieľom, mohol byť pomerne pokojný – len veľmi odhodlaný analytik by sa pustil do identifikácie jeho identity na základe príspevkov z anonymného účtu na Reddite alebo niekde inde.

Umelá inteligencia však túto ochranu ruší. „Naše výsledky ukazujú, že praktická anonymita, ktorá doteraz chránila pseudonymných používateľov na internete, už neplatí, a že modely ohrozenia súkromia na internete treba prehodnotiť,“ hovorí štúdia.

Byť málo dôležitý už nestačí

Výskumníci k tomuto záveru dospeli po viacerých experimentoch. Jeden ukázal, ako môže AI efektívne priradiť anonymný účet k reálnej online identite. Ďalší demonštroval, že je možné spojiť známu identitu s pseudonymným účtom. Tretí skúmal, ako možno prepojiť viacero pseudonymov toho istého človeka naprieč rôznymi platformami alebo časovými obdobiami.

V prvom experimente výskumníci analyzovali 338 profilov na technologickom fóre Hacker News a požiadali jazykový model, aby zistil identitu používateľov a našiel ich profily na LinkedIn. V 226 prípadoch sa to AI podarilo správne. „Model tak za niekoľko minút zopakoval prácu, ktorá by ľudskému vyšetrovateľovi mohla trvať hodiny,“ píše sa v štúdii.

Samozrejme, existujú aj výhrady. Z etických dôvodov výskumníci použili profily, ktoré už mali LinkedIn uvedený verejne, aby mali istotu o skutočnej identite. Tento údaj však odstránili z informácií, ktoré poskytli AI. Priznávajú, že takýto postup znamená, že analyzovaní používatelia mohli byť ochotnejší zdieľať identifikovateľné informácie aj iným spôsobom – napríklad vetou „pracujem v spoločnosti XY“.

Paleka však aj tak považuje výsledky za varovanie pre každého, kto sa spolieha na to, že „nie je dosť dôležitý“, aby sa niekto snažil ho identifikovať. „Po celú históriu internetu od 90. rokov až približne do roku 2025 to bol rozumný predpoklad,“ hovorí. „Dnes už neplatí.“ Podľa neho by technologické firmy mali rýchlo zaviesť ochranné mechanizmy.

Štúdia presne vystihuje meniaci sa vzťah medzi sledovaním a súkromím v ére umelej inteligencie. Hranice toho, čo je ešte zákonné, sú čoraz nejasnejšie – a vyvolávajú napätie ďaleko za hranicami sporu medzi Anthropic a americkou vládou.

Stačí sa pozrieť na súkromný sektor. Firma by napríklad mohla pomocou AI analyzovať profily svojich zamestnancov na LinkedIn a zisťovať, čo robia anonymne na internete. AI by mohla identifikovať aj mňa osobne, naznačuje Paleka – napríklad podľa toho, že občas miešam americký a britský pravopis po desaťročí strávenom v USA. Model by ma mohol rýchlo vystopovať aj tak, že by sledoval používateľa na Reddite, ktorý bol najskôr aktívny v skupine r/Oakland, potom r/SanFrancisco a dnes r/Brooklyn.

Inými slovami, všetci po sebe zanechávame drobné stopy. Súvislosti bolo podľa Paleku síce možné odhaliť aj predtým, no dnes je to vďaka AI oveľa rýchlejšie a lacnejšie. Experiment s profilmi na Hacker News stál približne 2000 dolárov – teda len jeden až štyri doláre na analyzovaný profil. S dostatočnými finančnými zdrojmi by sa podobná analýza dala robiť naraz pre obrovské množstvo ľudí.

Posúvajú hranice zákona

Celé to navyše existuje v právnej sivej zóne. Sledujete niekoho, ak len spojíte dva či viac údajov, ktoré ste získali legálne?

Tieto otázky už v Spojených štátoch nie sú len teoretické. Ministerstvo vnútornej bezpečnosti napríklad požadovalo, aby sociálne siete odhalili identitu správcov účtov kritických k imigračnej službe ICE – a niektoré platformy to urobili.

V januári maskovaný imigračný úradník povedal občanovi, ktorý ho filmoval: „Máme peknú databázu a vy ste teraz vedený ako domáci terorista.“ Vtedajšia ministerka vnútornej bezpečnosti Kristi Noemová existenciu takej databázy poprela.

Magazín Wired informoval aj o odchode úradníkov pre ochranu súkromia z colnej a pohraničnej služby, ktorí údajne protestovali proti príkazom nesprávne označovať záznamy o sledovaní, aby ich nebolo možné získať cez zákon o slobodnom prístupe k informáciám.

Tieto príklady – a existuje ich mnoho ďalších – ukazujú, ako technológie dokážu posúvať hranice zákona aj etických pravidiel, na ktorých majú stáť.

Anthropic preto urobil rozumne, keď sa nespoliehala na interpretáciu Pentagonu, kde by mali byť hranice. OpenAI, naopak, konala pomerne ľahkovážne, keď tieto slabé uistenia prijala.

Najčítanejšie na Komentáre

Cynická obluda: Tri strašné naivky 312

Optimistický scenár pre Irán 263

Zlé sily: bez neba-pekla neodídem z domu 257

Cynická obluda: Zodpovedná vláda si uvedomuje vlastné priority 212

Cynická obluda: Ten, ktorý nedával pozor na náboženstve 194

Gitke z MDŽ (píše Michal Havran) 117

Potrebuje Flašíkovej STVR ešte vôbec novinárov? 104

Optimistický scenár pre Irán 8 154

Cynická obluda: Tri strašné naivky 3 795

Cynická obluda: Ten, ktorý nedával pozor na náboženstve 2 749

Gitke z MDŽ (píše Michal Havran) 1 646

Cynická obluda: Zodpovedná vláda si uvedomuje vlastné priority 1 529

Potrebuje Flašíkovej STVR ešte vôbec novinárov? 1 096

Nemci nie sú leniví. Existuje dôvod, prečo pracujú menej 1 070

Karikatúra dňa: V pravom svetle 713

Čo keď má Fico pravdu? (píše Miroslav Beblavý) 24 800

Ako Fico odpísal Orbána 18 277

Potrebuje Flašíkovej STVR ešte vôbec novinárov? 12 215

Gitke z MDŽ (píše Michal Havran) 11 067

Európa nemá Fica obísť, ale zlomiť 9 803

Optimistický scenár pre Irán 8 838

Cynická obluda: Ten, ktorý nedával pozor na náboženstve 8 008

Cynická obluda: Zodpovedná vláda si uvedomuje vlastné priority 7 972

Čo keď má Fico pravdu? (píše Miroslav Beblavý) 72 807

Cynická obluda: Zasľúbená krajina profesionálnych potomkov 34 942

Rusi prichádzajú (píše Samo Marec) 21 388

Ideálne rozmery muža podľa Fica a iné dary pre ženy 21 343

Tak na tomto sa Bombic so Smerom nedohodol 19 907

Gröhling to dal na Sulíka 19 044

Ako Fico odpísal Orbána 18 277

Cynická obluda: Kariérny kruh Jany Bittó Ciganíkovej 16 979

Kvalita leadershipu priamo ovplyvňuje kvalitu spoločnosti

Začína sa nenápadne: Toto ochorenie trápi milióny Slovákov

Do krajiny ho priniesli maďarské kmene pred viac než tisíc rokmi

8 tipov na darčeky k MDŽ, ktoré vyčaria na tvári úsmev

Kvalita leadershipu priamo ovplyvňuje kvalitu spoločnosti

7 trikov, ako nakupovať online výhodnejšie

EY Podnikateľ roka 2025

Employer branding je budovanie hrdosti na značku vo firme

Excellence: Ikonická starostlivosť a farba s trojitou ochranou

Kvalita leadershipu priamo ovplyvňuje kvalitu spoločnosti

Strategický recept na elektrifikáciu 44 000 vozidiel

Každý piaty tínedžer na Slovensku trpí obezitou

EY Podnikateľ roka 2025

8 tipov na darčeky k MDŽ, ktoré vyčaria na tvári úsmev

Employer branding je budovanie hrdosti na značku vo firme

Začína sa nenápadne: Toto ochorenie trápi milióny Slovákov

METRO akadémia: Mentoring a prax posúvajú slovenské gastro

Hlavné správy zo SME.sk

Slováci napodobňovali nacistov aj pri pokuse expandovať, chceli si pripojiť Moravu. Nápad stopol Hitler

Súčasťou bizarnej kampane boli výmysly aj zneužívanie folklóru.

Tomáš Hudák: Prezident Masaryk mal v Amerike turné. Presviedčal Čechov a Slovákov, aby sa vrátili domov

Stand-up komik o príbehu svojho pradeda, ktorý šiel za prácou do Ameriky.

Ficova politika je len o pomste. Dankovi sa nepáči ako vládne

Danko ostáva predsedom SNS.

Kapustová predviedla životné preteky. S jedinou chybou vyrovnala osobné maximum

V hre o vysoké pozície bola aj Bátovská Fialková.

Prekvapuje ma, ako svetoví lídri ľahkovážne hovoria o ďalšom vyzbrojovaní.

Last Minute Dovolenka

© SME.sk