Teroristi majú novú zbraň – umelú inteligenciu. Pre Islamský štát je „výskumným asistentom“

„Naše výskumy predpovedali presne to, čo dnes vidíme: teroristi využívajú AI na urýchlenie už existujúcich aktivít, nie na ich revolúciu,“ uviedol Adam Hadley, zakladateľ organizácie Tech Against Terrorism, ktorú podporuje Výbor OSN pre boj proti terorizmu.

Džihádistické skupiny ako Islamský štát a jeho predchodca al-Káida, či dokonca neonacistická skupina The Base, využívali digitálne nástroje na nábor, utajené financovanie cez kryptomeny, sťahovanie zbraní na 3D tlač a šírenie know-how medzi svojimi stúpencami, pričom orgány činné v trestnom konaní a tajné služby len dobiehali ich náskok.

V súčasnosti, s rozvojom umelej inteligencie, sú úrady v pohotovosti.

AI zvyšuje efektivitu

Zdroje oboznámené s protiteroristickými aktivitami americkej vlády pre denník Guardian uviedli, že viaceré bezpečnostné agentúry sú veľmi znepokojené tým, ako umelá inteligencia zvyšuje efektivitu nepriateľských skupín pri plánovaní a operáciách. FBI sa k tejto téme odmietla vyjadriť.

Čítajte viac

Trump vyradí Sýriu zo zoznamu krajín podporujúcich terorizmus. USA chcú dať "novej vláde" šancu zabojovať

„Budúce riziká zahŕňajú možnosť, že teroristi využijú umelú inteligenciu na rýchly vývoj aplikácií a webových stránok, no v zásade generatívna AI zosilňuje hrozby vyplývajúce z existujúcich technológií, skôr než by vytvárala úplne nové kategórie hrozieb.“

Denník uvádza, že skupiny ako IS a im príbuzné entity začali používať umelú inteligenciu, konkrétne chatbot OpenAI ChatGPT, na zosilnenie náborovej propagandy v nových a rozsiahlych formátoch. Rovnako ako je AI hrozbou pre desiatky sektorov trhu práce a môže obohatiť najbohatších ľudí na svete, umelá inteligencia skomplikuje aj otázky verejnej bezpečnosti.

„Zoberte si niečo ako spravodajský bulletin Islamského štátu – dnes ho už viete premeniť na audionahrávku,“ povedal Moustafa Ayad, výkonný riaditeľ pre Afriku, Blízky východ a Áziu v Inštitúte pre strategický dialóg. „To, čo AI robí, je posilňovanie toho, čo už existuje. Podporuje ich schopnosti v oblasti propagandy a šírenia – je to kľúčový nástroj,“ dodáva.

IS má o AI záujem

Islamský štát svoj záujem o nové technológie nezakrýva. Na šifrovaných komunikačných kanáloch už zdieľal príručku pre používanie AI a vo svojej najnovšej propagandistickej publikácii vyzýva nasledovníkov, aby AI prijali ako súčasť operácií.

„Pre každého jednotlivca bez ohľadu na odbor je dnes pochopenie umelej inteligencie nevyhnutné,“ píše sa v článku. „(AI) nie je len technológia, stáva sa silou, ktorá formuje vojnu.“ Ďalej opisuje AI ako „digitálneho poradcu“ a „výskumného asistenta“, ktorého môže využiť každý člen.

Na interných fórach podporovateľov IS prebiehajú debaty o možnostiach využitia AI. Niektorí sa pýtajú, či je bezpečné používať ChatGPT na otázky týkajúce sa výroby výbušnín. „Existujú aj iné možnosti? Niečo bezpečné?“ pýta sa jeden z používateľov.

Návod na výrobu bomby z domácich surovín

Iný užívateľ zvolil obchádzku – do systému zadal schému a inštrukcie pre „jednoduchý prototyp diaľkovo ovládaného vozidla podľa ChatGPT“. Práve nárazy vozidiel sú jednou z metód, ktoré IS v posledných rokoch využíva. V marci sa objavilo AI-vytvorené video s návodom na výrobu bomby z bežných domácich surovín.

Záujem podľa Guardianu prejavujú aj krajne pravicové skupiny. Jedna z nich napríklad radila stúpencom, ako vytvárať dezinformačné meme obrázky, iné hľadali spôsoby, ako pomocou AI vytvoriť grafiky a propagandu s Adolfom Hitlerom.

Písali sme

Trest za dezerciu pri útoku povstalcov: Islamský štát popravil 54 sýrskych vojakov

Ayad uviedol, že niektoré z týchto AI-nástrojov sú pre teroristické skupiny „požehnaním“ aj z hľadiska operačnej bezpečnosti – napríklad pomocou šifrovaných hlasových modulátorov na maskovanie zvuku.

Protiteroristická infraštruktúra v oslabení

„Skupiny ako IS boli vždy na čele využívania digitálneho priestoru. AI je len najnovší príklad,“ pripomína Hadley. Už v roku 2014 IS šokoval svet, keď naživo tweetoval fotografie masových popráv pri útoku na Mosul, čím spôsobil paniku v irackej armáde.

Po zriadení tzv. kalifátu nasledovala vlna spolupráce vlád a technologických firiem, ktoré sa snažili likvidovať účty IS na sociálnych sieťach. Dnes sa pozornosť zameriava na nové nástroje: kryptomeny, šifrované chatovacie aplikácie, návody na 3D tlačené zbrane a najnovšie generatívnu umelú inteligenciu.

Problémom je však oslabovanie protiteroristickej infraštruktúry. „Najväčšou zraniteľnosťou je jej zhoršujúci sa stav,“ varuje Hadley. „Platformy a vlády sa tejto oblasti venujú menej.“

Hadley vysvetlil, že tento úpadok sa zhoduje so stúpajúcou sofistikovanosťou obsahu vytváraného pomocou AI, a vyzval firmy ako Meta a OpenAI, aby posilnili existujúce mechanizmy vrátane zdieľania „hashov“ (digitálnych odtlačkov obsahu) a tradičných detekčných schopností, a aby pracovali na vývoji moderácie obsahu zameranej na AI.

„Naša zraniteľnosť nespočíva v nových schopnostiach AI, ale v oslabenej schopnosti brániť sa voči starým hrozbám,“ dodáva.

Útok z februára tohto roka v Rakúsku mal podľa úradov islamistický motív. Páchateľ sa mal zradikalizovať na sociálnej sieti: