Hrozí budúcnosť ako z Terminátora, varuje Čína Američanov. V armáde nadužívajú umelú inteligenciu

„Takéto rozhodnutia, ako je neobmedzené využívanie umelej inteligencie armádou, využívanie umelej inteligencie ako nástroja na porušovanie suverenity iných národov, umožňovanie umelej inteligencii nadmerne ovplyvňovať rozhodnutia v boji a udeľovanie právomoci algoritmom rozhodovať o živote a smrti, nielenže narúšajú etické obmedzenia a zodpovednosť vo vojnách, ale tiež predstavujú riziko, že táto technológia sa vymkne spod kontroly,“ povedal v stredu hovorca čínskeho ministerstva obrany Ťiang Pin.

Film Terminátor, ktorý bol uvedený do kín v roku 1984, zobrazuje apokalyptickú budúcnosť, v ktorej roboty ovládané umelou inteligenciou bojujú proti ľuďom.

„Katastrofická budúcnosť zobrazená v americkom filme Terminátor sa jedného dňa môže stať skutočnosťou,“ varoval hovorca.

Grok aj OpenAI sú k dispozícii

Administratíva amerického prezidenta Donalda Trumpa presadzuje neobmedzené využívanie systémov AI v armáde. Pentagón potvrdil, že s firmou xAI amerického miliardára Elona Muska vo februári podpísal zmluvu na využívanie jeho modelu Grok v utajenom prostredí.

Písali sme

Nahradí umelá inteligencia ruských veliteľov? Svod má odstrániť slabiny, ktoré vojakov doteraz brzdili

Zakrátko zakázal spoluprácu s americkou spoločnosťou Anthropic, ktorá sa vzoprela možnosti používať svoj model Claude na hromadné sledovanie Američanov a vývoj plne autonómnych smrtiacich zbraní - teda aktivity prebiehajúce v utajenom prostredí.

V priebehu niekoľkých hodín potom spoločnosť OpenAI oznámila podpísanie kontraktu s Pentagónom, pričom firma súhlasila s nasadením svojich modelov aj v utajenom prostredí na „akékoľvek zákonné účely“. Podobnú formuláciu má v zmluve aj xAI.

Claude potrestali

Spor medzi Pentagónom a spoločnosťou Anthropic vypukol niekoľko dní pred útokmi USA na Irán. Claude je jediný model AI, ktorý v súčasnosti funguje v utajovaných systémoch ministerstva obrany.

Čítajte viac

Miliardári sa boja vlastných vynálezov. Zuckerberg a ďalší giganti technológií si stavajú bunkre pre prípad apokalypsy

Spoločnosť Anthropic podráždila šéfa Pentagónu Peta Hegsetha tým, že odmietla používanie svojej technológie na masové sledovanie či riadenie zbraňových systémov, zatiaľ čo ministerstvo chcelo model využívať bez obmedzení.

Trump následne nariadil všetkým federálnym agentúram, aby prestali používať technológiu tejto spoločnosti.

Hegseth označil spoločnosť za „riziko pre národnú bezpečnosť v dodávateľskom reťazci“ a nariadil, že žiadny vojenský dodávateľ ani spolupracujúca firma „nesmie vykonávať žiadnu komerčnú činnosť so spoločnosťou Anthropic“, pričom Pentagónu poskytol šesťmesačné prechodné obdobie na ukončenie spolupráce.

Umelá inteligencia pritom nie je ani zďaleka neomylná. Muskov Grok sa prednedávnom dostal do problémov kvôli generovaniu sexuálneho obsahu: