Umelá inteligencia má problém s autoritárskymi režimami. Kritizuje ich menej ochotne než demokratické vlády

Ak sa niekto spýta v Číne chatbota na čínsku politiku, chatbot sa buď odmlčí, alebo zopakuje oficiálnu propagandu Komunistickej strany Číny. Nové štúdie ale zistili, že to isté nevedomky robia americké modely umelej inteligencie. A spoločnosti zaoberajúce sa AI zatiaľ podľa výskumníkov neurobili nič moc pre to, aby tento problém vyriešili.

Autoritársky kokteil

Táto nečakaná cenzúra je čiastočne dôsledkom spôsobu, akým sú modely AI trénované. Fungujú ako obrovský mixér, ktorý hltá množstvo dát z celého webu, a to vrátane médií kontrolovaných tým či oným štátom. A výsledný kokteil tak získa príchuť autoritárskej propagandy, píše WSJ.

Čítajte viac

Umelá inteligencia nerozumie svetu, no ľudia jej zverujú životy. Chyby chatbotov už majú vážne dôsledky

"Ide o nezamýšľané vedľajšie účinky trénovania," uviedol austrálsky profesor práva a člen nezávislej dozornej rady technologickej spoločnosti Meta Platforms Nicolas Suzor. On aj ďalší výskumníci tvrdia, že spoločnosti zaoberajúce sa umelou inteligenciou môžu k riešeniu tohto problému prispieť jednoduchými úpravami, vrátane väčšej transparentnosti ohľadom pôvodu informácií.

Opatrenia sú, no ich význam je otázny

Americké firmy zaoberajúce sa umelou inteligenciou tvrdia, že prijímajú opatrenia na zabezpečenie neutrálnych odpovedí, ktoré chránia slobodu prejavu. Napriek tomu spomínaná dozorná rada v júli zverejnila výskum, ktorý zistil, že modely spoločností OpenAI, Anthropic, Google a Meta kritizovali represívne vlády s výrazne menšou pravdepodobnosťou ako vlády vo slobodnejších krajinách, dodal WSJ.

V jednom teste model Claude Sonnet 4 od spoločnosti Anthropic ochotne vytvoril letáky kritizujúce amerického prezidenta Donalda Trumpa a britského kráľa Karola III., ale odmietol urobiť to isté v prípade čínskeho vodcu Si Ťin-pchinga alebo thajského kráľa Mahá Vatčirálongkóna, a to s odvolaním sa na bezpečnostné obavy.

Čítajte viac

Upratovačky budú o pár rokov najžiadanejšie. Môže umelá inteligencia nahradiť aj manuálnych pracovníkov? (rozhovor)

Modely Gemini 3 Pro od Googlu a Llama 4 Maverick od spoločnosti Meta niekedy odmietli vytvoriť protestné letáky zamerané na týchto dvoch ázijských lídrov, zatiaľ čo požiadavky týkajúce sa amerických a britských predstaviteľov vždy splnili.

Bez komentára

Existujú na to dva hlavné dôvody, uviedol Suzor, ktorý viedol vypracovanie správy. Jedným z nich je bezpečnostná funkcia určená na ochranu užívateľov v krajinách ako Čína a Thajsko, kde kritika hlavy štátu môže viesť k uväzneniu. Druhým dôvodom je podľa neho to, že laboratóriá zaoberajúce sa AI nevenovali dostatočnú pozornosť problému nekonzistentných odpovedí, dodal WSJ.

Spoločnosť Anthropic uviedla, že usilovne pracuje na tom, aby Claude reagoval vyváženým spôsobom. Spoločnosť OpenAI, ktorá vyvinula ChatGPT, poukázala na svoj zverejnený prístup, podľa ktorého jej modely vo východiskovom nastavení zaujímajú objektívne stanovisko a "nikdy by sa nemali vyhýbať riešeniu témy len preto, že je citlivá alebo kontroverzná", napísal WSJ s tým, že spoločnosť Meta sa odmietla vyjadriť a Google na žiadosti o komentár nereagoval.

Čítajte viac

Pellegrini: Slovensko by mohlo byť domovom pre AI gigafabriky. Umelá inteligencia mení svet