Umelá inteligencia v službách americkej armády takmer rozpútala vojnu s Čínou. Zásahový tím bol krôčik od útoku

Podľa štyroch zdrojov oboznámených s udalosťou začala americká armáda po rozšírení správy pripravovať zadržanie plavidla.

Dva zdroje uviedli, že ozbrojení americkí vojaci sa už chystali vstúpiť na palubu, pričom podľa ďalších informácií boli vo vzduchu aj vojenské lietadlá.

Operácia sa však napokon neuskutočnila. Krátko pred jej spustením začali predstavitelia preverovať podklady správy a zistili, že analytik veliteľstva špeciálnych operácií pri jej tvorbe využil umelú inteligenciu. Chatbot pritom nesprávne určil, čo loď prevážala.

Jeden zo zdrojov označil správu za „úplne nepravdivú“ a zároveň však podľa neho „takmer rozpútala vojnu“. Akýkoľvek americký zásah proti čínskemu plavidlu mohol podľa CNN prerásť do ozbrojeného konfliktu medzi Washingtonom a Pekingom.

Z chatbota priamo do spravodajskej správy

Americká armáda a spravodajské služby čoraz intenzívnejšie zavádzajú umelú inteligenciu do svojej práce. Využívajú ju pri analýze obrovského množstva získaných informácií, výbere cieľov útokov, ale aj pri bežnejších úlohách, ako sú rozpočty, logistika či riadenie dodávateľských reťazcov.

Prípad čínskej lode však podľa CNN poukazuje na riziká nasadenia stále relatívne novej technológie pri vojenských rozhodnutiach. Analytici už dlhšie varujú pred možnosťou katastrofálnej chyby v prípade, že systémy pracujú s nekvalitnými alebo poškodenými údajmi.

V tomto prípade analytik zadal chatbotu otázku týkajúcu sa spravodajských informácií o nákladnom manifeste lode, ktoré pochádzali z amerického Veliteľstva špeciálnych operácií pre oblasť Tichomoria so sídlom na Havaji. Nie je jasné, či išlo o komerčne dostupný chatbot alebo systém vytvorený pre americkú vládu.

„Interné nástroje sú väčšinou len kópie komerčných systémov s novým náterom,“ povedal bývalý vysokopostavený americký predstaviteľ, ktorý pozná systémy využívané vojenskými a spravodajskými analytikmi.

Nástroj spojil informácie z otvorených zdrojov s utajovaným signálovým spravodajstvom a vytvoril nesprávny záver o náklade lode.

Analytik potom umelú inteligenciu použil opäť. Zistenia s jej pomocou spracoval do štandardnej podoby spravodajskej správy, ktorým vojenskí predstavitelia bežne dôverujú, a dokument následne rozšíril.

Písali sme

Svet je bližšie k nočnej more z Terminátora. Ruský dron riadený umelou inteligenciou si v Záporoží vybral cieľ úplne sám

Zrýchlenie boja

Jedným z hlavných argumentov pre rýchle zavádzanie AI je podľa amerických predstaviteľov schopnosť zrýchliť rozhodovanie na bojisku. Systémy majú pomáhať napríklad pri určovaní cieľov útokov alebo rozhodovaní, kam presunúť vojenské kapacity.

Predstavitelia Spojených štátov argumentujú aj tým, že Washington si nemôže dovoliť zaostať v oblasti vojenskej umelej inteligencie pred Čínou či iným potenciálnym protivníkom.

Americký minister obrany Pete Hegseth v januári predstavil rezortnú stratégiu zrýchlenia využívania umelej inteligencie.

„Uvoľníme priestor experimentovaniu, odstránime byrokratické prekážky, sústredíme naše investície a ukážeme spôsob realizácie potrebný na to, aby sme si zabezpečili vedúce postavenie vo vojenskej umelej inteligencii,“ uviedol Hegseth pri predstavení stratégie.

Dokument zároveň počíta s rozsiahlym sprístupnením AI naprieč ozbrojenými silami. Cieľom je podľa memoranda k stratégii dostať špičkové americké modely umelej inteligencie priamo k približne trom miliónom civilných a vojenských pracovníkov na všetkých stupňoch utajenia.

Viacerí americkí predstavitelia však upozornili, že zavádzanie systémov je decentralizované. Jednotlivé časti vlády používajú odlišné nástroje, pravidlá aj bezpečnostné štandardy. Neexistuje jednotný systém, podľa ktorého by sa overovala správnosť informácií vytvorených umelou inteligenciou. Spoľahlivosť jednotlivých riešení sa preto môže výrazne líšiť.

Rizikom nemusí byť samotná AI

V USA sa v posledných týždňoch diskutovalo predovšetkým o varovaniach technologických expertov a šéfov spoločností, že príliš pokročilá umelá inteligencia by sa v budúcnosti mohla vymknúť ľudskej kontrole.

Prípad čínskej lode však podľa CNN ukazuje bezprostrednejší problém – ľudia môžu urobiť katastrofálne rozhodnutie na základe nesprávnych alebo zavádzajúcich informácií vytvorených automatizovaným systémom.

Zdroje CNN uviedli, že americká armáda čoraz viac využíva AI aj pri výbere vojenských cieľov, kde môže mať chyba smrteľné následky.

„Využívanie AI pri určovaní cieľov sa rozhodne rozširuje a neexistujú žiadne skutočné usmernenia, ako má prítomnosť človeka v rozhodovacom procese zabrániť civilným obetiam alebo paľbe do vlastných radov,“ uviedol ďalší zdroj oboznámený so súčasnou politikou armády.

Čítajte viac

Vývoj umelej inteligencie by sa mal spomaliť, tvrdí šéf Anthropicu. Už teraz pomáha pri zločinoch a predstavuje riziko

AI sa často mýli

Ani takzvané halucinácie umelej inteligencie, pri ktorých systém vytvorí presvedčivo pôsobiacu, no nepravdivú informáciu, podľa jedného zo zdrojov nie sú v americkej spravodajskej komunite ojedinelé.

AI modely si totiž často len vymýšľajú veci. Výskumníci začali túto tendenciu AI modelov poskytovať nepresné informácie označovať za „halucinácie“ alebo dokonca „konfabulácie“, ako uviedol šéf AI spoločnosti Meta. Niektorí používatelia sociálnych médií medzitým jednoducho označujú chatbotov za „patologických klamárov.“

Niektorí starší predstavitelia spravodajských služieb, ktorí inak používanie AI podporujú, zároveň upozorňujú, že technológia zvyšuje tlak na analytikov, aby informácie spracovávali a distribuovali rýchlejšie. To podľa nich vytvára priestor na chyby. Viaceré zdroje tvrdia, že najmä mladší analytici sú na tieto nástroje zvyknutí a môžu k ich výsledkom pristupovať príliš nekriticky.

„AI vám umožní dostať sa k zlému nápadu rýchlejšie,“ zhrnul jeden zo zdrojov.

„Naozaj sa boja.“ Bývalý výskumník Anthropicu opisuje obavy ľudí, ktorí umelú inteligenciu vyvíjajú.