„Naozaj sa boja.“ Bývalý výskumník Anthropicu opisuje obavy ľudí, ktorí umelú inteligenciu vyvíjajú

Umelú inteligenciu pomáhal vyvíjať. Teraz varuje pred tým, kam až môže zájsť. Odchod výskumníka Jacoba Coxona zo spoločnosti Anthropic opäť rozprúdil debatu o tom, či technologické firmy nepostupujú rýchlejšie, než dokážeme vytvárať pravidlá na ich kontrolu.

Najväčšie varovanie pred umelou inteligenciou už neprichádza iba od jej kritikov. Ozýva sa priamo od ľudí, ktorí ju pomáhajú vytvárať.

„Rozprávam sa s ľuďmi, ktorí v AI firmách pracujú, a môžem povedať, že sa naozaj boja. Úprimne sa obávajú toho, čo bude s ľudstvom v najbližších dvoch rokoch. Keď premýšľajú o svojej budúcnosti a o tom, ako budú žiť, myslia aj na to, aký vplyv môže mať ich práca. Niektorí napríklad uvažujú, že si kúpia pozemok niekde na odľahlom mieste, pretože sa veľmi boja nestability, ktorú môže spôsobiť rýchly rozvoj umelej inteligencie,“ povedal Coxon.

Výskumník Jacob Coxon odišiel zo spoločnosti Anthropic, ktorá stojí za chatbotom Claude. Tvrdí, že vývoj najpokročilejších systémov napreduje príliš rýchlo a bezpečnostné mechanizmy za nimi zaostávajú.

Obáva sa najmä momentu, keď by umelá inteligencia dokázala samostatne zlepšovať svoje vlastné schopnosti. Človek by tak mohol postupne strácať kontrolu nad technológiou, ktorú sám vytvoril.

A Coxon nie je jediný. Na riziká upozorňujú ďalší odborníci a k potrebe väčšej opatrnosti sa pridal aj šéf Anthropicu Dario Amodei. Hovorí o spomalení vývoja najvýkonnejších systémov, nezávislých bezpečnostných kontrolách aj medzinárodných pravidlách.

Technologické spoločnosti pritom investujú do umelej inteligencie stovky miliárd dolárov a súperia o prvenstvo. Otázka preto už neznie, čo všetko umelá inteligencia dokáže. Ale či ju človek dokáže zastaviť vo chvíli, keď prekročí hranicu, za ktorú ju nikdy nechcel pustiť.

Čítajte viac

Vývoj umelej inteligencie by sa mal spomaliť, tvrdí šéf Anthropicu. Už teraz pomáha pri zločinoch a predstavuje riziko