Svet je bližšie k nočnej more z Terminátora. Ruský dron riadený umelou inteligenciou si v Záporoží vybral cieľ úplne sám
Útok ruského dronu v ukrajinskom Záporoží mal byť prvým zdokumentovaným prípadom, keď civilné obete spôsobil stroj vybavený autonómnym systémom umelej inteligencie. Zbraň dokázala sama vybrať cieľ bez priameho rozhodnutia človeka.
Malý ruský dron pripomínajúci model lietadla sa v júli približoval k čerpacej stanici v ukrajinskom meste Záporožie. Po náraze do steny explodoval a úlomky zabili 19-ročnú študentku a ďalších dvoch ľudí.
Podľa odborníkov na drony, ukrajinských vojenských predstaviteľov a tímu, ktorý skúmal trosky zariadenia, však nešlo o bežný útok. Dron mal byť riadený experimentálnym systémom umelej inteligencie, ktorý dokázal samostatne určiť presný cieľ. Na prípad upozornil denník The New York Times.
Cieľ si mal vybrať sám
Dron podľa expertov dostal od ľudských operátorov pokyn letieť smerom ku konkrétnej čerpacej stanici. Keď sa však priblížil k oblasti, mal si sám vybrať cieľ – pravdepodobne propánové nádrže – na základe schopnosti rozpoznať objekty, na ktoré bol vycvičený.
Ukrajinskí predstavitelia uviedli, že analýza trosiek z tohto aj ďalších útokov v Záporoží odhalila minipočítače od spoločnosti Nvidia. Práve tie mali zabezpečovať rozhodovanie o výbere cieľa.
Prítomnosť týchto modulov a absencia antén viedli ukrajinských veliteľov protivzdušnej obrany k záveru, že drony mohli využívať autonómny systém umelej inteligencie.
„Toto je riziko pre celý svet. O niekoľko rokov budeme žiť vo filme Terminátor. Nie je to vtip. Stroje rozhodujú o tom, na čo zaútočia,“ povedal plukovník Serhij Minajev, veliteľ protivzdušnej obrany v Záporoží.
Experimenty s autonómnou umelou inteligenciou
Podľa ukrajinských predstaviteľov nebol čip v dronoch zašifrovaný. Vďaka tomu mohli odborníci analyzovať obrazové dáta, ktoré boli do zariadenia nahrané, a skúmať kód určujúci, aké objekty má systém rozpoznať a napadnúť.
Išlo o modul Nvidia Jetson Orin. Spoločnosť Nvidia potvrdila, že fotografie trosiek ukazujú práve tento typ minipočítača.
Firma uviedla, že ide o bežný spotrebiteľský produkt určený pre študentov, vývojárov a začínajúce firmy na rôzne legitímne využitia. Moduly sa podľa nej v Rusku oficiálne nepredávajú, no môžu byť dostupné prostredníctvom predajcov v iných krajinách.
Umelá inteligencia dokáže byť vycvičená na rozpoznávanie tisícov obrazov a kategórií, napríklad ľudí, vozidiel či budov. Pri autonómnych zbraniach však kritici upozorňujú, že bez zásahu človeka môže systém nesprávne vyhodnotiť situáciu a nerozoznať civilistov od bojovníkov.
Útok v Záporoží z 6. júla by podľa Kateryny Bondarovej z Centra umelej inteligencie Wadhwani v Centre pre strategické a medzinárodné štúdie vo Washington mal byť prvým zdokumentovaným prípadom, keď ruský dron s takýmto systémom spôsobil smrť civilistov. Dodala, že modul Nvidia „je najlepším dôkazom“ toho, že Rusko experimentuje s autonómnou umelou inteligenciou.
AI zbrane testujú obe strany
Umelá inteligencia sa v dronoch využíva už dlhšie, no doteraz mala najmä podpornú úlohu. V starších modeloch pomáhala napríklad v poslednej fáze útoku, keď človek vybral cieľ a systém prispel k jeho presnejšiemu zasiahnutiu. Pri plne autonómnych zbraniach však človek z rozhodovania o konečnom cieli mizne.
Takéto systémy podľa odborníkov testujú obe strany konfliktu. Ukrajinský predstaviteľ Mychajlo Fedorov, ktorý bol nedávno odvolaný z funkcie ministra obrany, uviedol, že Kyjev skúšal autonómny systém umelej inteligencie na okupovanom Kryme. Podľa jeho slov zariadenia zasahovali sklady paliva a vojenskú techniku, pričom civilné obete nezaznamenali.
Ukrajinskí predstavitelia zároveň tvrdia, že Rusko v posledných mesiacoch skúša vlastné drony vybavené umelou inteligenciou. Medzi testované modely majú patriť bezpilotné lietadlá Molnija a V2U.
Podľa miestnych predstaviteľov sa niektoré testy v Záporoží zameriavali na civilné objekty, napríklad čerpacie stanice, ale aj vojenské náborové centrá. Dôvod výberu týchto cieľov nie je jasný.
Obyvatelia Záporožia uviedli, že predstava dronov, ktoré sa nad mestom pohybujú a samy rozhodujú o útoku, v nich vyvoláva obavy. Mesto sa však už roky nachádza pod útokmi rôznych typov bezpilotných zbraní.
Na obranu proti nim Ukrajina využíva napríklad zachytávacie drony, protidronové siete či maskovanie objektov. Na čerpacích staniciach sa používajú aj kryty okolo propánových nádrží, ktoré majú sťažiť ich rozpoznanie umelou inteligenciou.
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"