Vývoj umelej inteligencie by sa mal spomaliť, tvrdí šéf Anthropicu. Už teraz pomáha pri zločinoch a predstavuje riziko

Načrtol pritom trojkrokový rámec, ktorého cieľom je regulovať rýchlosť vývoja a získať viac času na riadenie súvisiacich rizík. Krok reaguje na rastúce obavy zo zneužitia umelej inteligencie, uviedla v sobotu agentúra Reuters.

„Musíme spomaliť tempo, akým zlepšujeme schopnosti modelov umelej inteligencie. Pokrok bude aj tak rýchly a my musíme múdro využiť čas, ktorý tým získame,“ uviedol Amodei v eseji publikovanej na sociálnej sieti X.

Zabije nás AI do konca desaťročia?

Text nadväzuje na správu o hrozbách, ktorú Anthropic zverejnil vo štvrtok. Opisuje v nej, ako viacerí aktéri zneužili modely umelej inteligencie Anthropic Claude na činnosti od vývoja zbraní cez kybernetické operácie až po sledovanie a podvody.

Obavy z potenciálneho nebezpečenstva umelej inteligencie sa tento týždeň ešte zvýšili, keď výskumník spoločnosti Anthropic Jacob Coxon podal výpoveď a uviedol, že „ľudia, ktorí vyvíjajú umelú inteligenciu, úprimne veria, že by nás mohla do konca tohto desaťročia všetkých zabiť“.

Amodei uviedol, že nechce zastaviť pokrok, ale zabezpečiť, aby spoločnosti mali dostatok času na zabezpečenie svojich modelov AI a na to, aby to mohla overiť tretia strana. Spoločnosť Anthropic v rámci plánu podľa svojho riaditeľa dosadí stálych externých expertov do popredných firiem zaoberajúcich sa umelou inteligenciou, ktorí budú mať prístup k príslušným nástrojom a k interným procesom posudzovania rizík. Podľa Amodia by firmy zaoberajúce sa AI mali dobrovoľne spolupracovať na vytýčení štandardov, keďže americkí zákonodarcovia vyzývajú na zavedenie nových pravidiel.

Čítajte viac

Anthropic zastavil pokusy o vývoj biologických zbraní. Výskumníci tajne žiadali model Claude o pomoc s grantmi či vírusmi

K výzve sa pridal Musk aj Altman

Amodei zároveň zdôraznil, že spomalenie vývoja podľa neho nesmie ohroziť náskok amerických firiem pred Čínou. Koordinovaný postup by podľa neho umožnil americkým spoločnostiam vykonávať potrebný bezpečnostný výskum bez toho, aby sa dostali do konkurenčnej nevýhody. Vyzval preto aj na prísnejšiu kontrolu pokročilých čipov pre AI a na opatrenia proti krádežiam modelov a ich parametrov.

K Amodeiho výzve sa na sociálnej sieti X pripojili tiež šéf spoločnosti OpenAI Sam Altman, rovnako ako Elon Musk, ktorý vedie spoločnosť xAI. Altman uviedol, že OpenAI tiež plánuje využívať nezávislých hodnotiteľov s prístupom k interným procesom firmy.

Amodei svoje návrhy zverejnil v čase, keď sa zvyšujú obavy z rastúcej schopnosti modelov AI samostatne vykonávať zložité operácie. Anthropic minulý týždeň zverejnil informácie o ďalšom prípade, keď jeho model napadol externé počítačové systémy. Podľa Amodia by podobné systémy mohli byť do niekoľkých mesiacov schopné ovládnuť veľkú časť internetu a spôsobiť škody za stovky miliárd dolárov.