„Zastavte to, kým je čas.“ Vedci a osobnosti bijú na poplach pred vznikom nadľudskej superinteligencie

Podľa nich vývoj takzvanej superinteligencie predstavuje riziko pre ekonomiku, slobodu, bezpečnosť aj samotnú existenciu človeka, uviedol portál Euronews.

Obavy z „umelého mozgu“, ktorý by nás mohol predbehnúť

Pod otvorený list sa podpísalo viac než 850 osobností z oblasti vedy, technológií, médií a verejného života. Medzi signatármi sú Geoffrey Hinton a Yoshua Bengio, označovaní za „kmotrov umelej inteligencie“, ale aj Steve Wozniak, spoluzakladateľ Applu, či Richard Branson, zakladateľ Virgin Group.

Superinteligencia sa chápe ako forma umelej inteligencie, ktorá prevyšuje ľudské myslenie a schopnosť rozhodovania. Odborníci varujú, že ak by stroje nadobudli schopnosť konať samostatne, ľudia by mohli stratiť kontrolu nad technológiami, ktoré sami vytvorili. Myšlienku, že stroje raz prevezmú vedenie, predpovedal už v 50. rokoch Alan Turing, priekopník modernej informatiky.

Signatári listu upozorňujú, že súčasné „preteky o nadvládu“ v oblasti umelej inteligencie ohrozujú ekonomiku, občianske práva, ľudskú dôstojnosť, národnú bezpečnosť a v krajnom prípade aj prežitie ľudstva.

Čítajte viac

Skrytá hrozba či budúcnosť priemyslu? Umelá inteligencia nepozná hranice, americká spoločnosť opäť prekonala očakávania

Výzva na zákaz vývoja superinteligencie

Podpísaní odborníci žiadajú, aby bol vývoj superinteligencie pozastavený, kým sa nepreukáže, že jej vývoj je bezpečný a kontrolovateľný, a že s ním bude súhlasiť verejnosť.

Šéf spoločnosti OpenAI Sam Altman už skôr varoval, že vývoj superinteligentných strojov je „pravdepodobne najväčšou hrozbou pre prežitie ľudstva“. Podobný postoj zaujal aj Mustafa Suleyman z Microsoftu, podľa ktorého by sa s vývojom nemalo pokračovať, „kým nebudeme mať istotu, že je bezpečný“. Ani jeden z nich však nepatrí medzi signatárov listu.

Altman zároveň rozlišuje medzi superinteligenciou a takzvanou umelou všeobecnou inteligenciou (AGI) – teda teoretickým typom umelej inteligencie, ktorá by dokázala riešiť akýkoľvek ľudský problém bez obmedzení vyplývajúcich z tréningu. Tvrdí, že AGI by mohla „pozdvihnúť ľudstvo“, nie prevziať kontrolu nad strojmi.

Pod výzvou aj známe osobnosti a duchovní lídri

Medzi signatármi výzvy sú aj akademici, mediálne osobnosti ako Stephen Fry a Steve Bannon, náboženskí predstavitelia a bývalí politici.

Podľa britského denníka The Guardian sa k iniciatíve pripojili aj vojvoda a vojvodkyňa zo Sussexu – princ Harry a Meghan Markleová.

Signatári tvrdia, že cieľom výzvy nie je zastaviť technologický pokrok, ale zabrániť tomu, aby sa ľudstvo dostalo do bodu, z ktorého nebude návratu.

Čítajte viac

Nesprávne dátumy, staré informácie a vymyslené udalosti. AI vo veľkom zlyháva pri spravodajských otázkach

Európa uviedla do platnosti nový zákon o AI: