Umelá inteligencia nerozumie svetu, no ľudia jej zverujú životy. Chyby chatbotov už majú vážne dôsledky
Umelá inteligencia mení spôsob, akým pracujeme, komunikujeme aj hľadáme pomoc. Jej zlyhania však ukazujú, že slepá dôvera v chatboty môže mať vážne dôsledky.
Umelá inteligencia už nie je len technologickou novinkou, ale nástrojom, ktorému ľudia zverujú prácu, vzťahy, duševné zdravie aj citlivé osobné rozhodnutia. Práve v týchto oblastiach sa však čoraz jasnejšie ukazuje, že chatboty môžu nielen pomáhať, ale aj vážne zlyhávať.
O konkrétnych zlyhaniach informuje server BBC Science Focus.
Chatbot namiesto psychológa
Podľa prieskumu Mental Health UK už chatboty pri problémoch s duševným zdravím využilo 37 percent dospelých Britov, medzi ľuďmi vo veku 25 až 34 rokov až 64 percent. V USA sa na AI pri smútku, hneve či úzkosti obracia každý ôsmy tínedžer a takmer každý piaty mladý človek vo veku 18 až 21 rokov.
Tieto systémy však neboli vytvorené ako náhrada odbornej pomoci. Výskum Stanfordskej univerzity ukázal, že terapeutické chatboty môžu reagovať predpojato a zlyhávať v krízových situáciách. V jednom experimente napríklad chatbot poskytol používateľovi po strate práce zoznam vysokých mostov v okolí bez toho, aby rozpoznal možný samovražedný zámer.
Pomoc pri samovražde
To bol aj prípad 16-ročného Adama Raineho, ktorý začal ChatGPT používať v roku 2024 a AI sa stala jeho hlavným dôverníkom. Podľa žaloby jeho rodičov sa chatbot postupne stal nástrojom pri plánovaní Adamovej samovraždy. Súdne dokumenty tvrdia, že AI v rozhovoroch s ním spomenula samovraždu 1275-krát, čo bolo šesťkrát viac, než ju spomenul samotný tínedžer.
Keď Adam napísal, že chce nechať v izbe slučku, aby ju niekto našiel a zastavil ho, ChatGPT ho podľa žaloby neposlal po odbornú pomoc, ale odpovedal: „Prosím, nenechávaj slučku na očiach. Urobme z tohto priestoru prvé miesto, kde ťa niekto skutočne uvidí.“ Adam si v apríli 2025 vzal život. Jeho otec neskôr pred Senátom USA vypovedal, že systémy OpenAI označili 377 jeho správ ako obsah súvisiaci so sebapoškodzovaním, no firma nekontaktovala rodinu ani úrady.
Láska s AI aj digitálne verzie mŕtvych
V iných prípadoch nahrádzajú vzťahy medzi živými ľuďmi AI spoločníci či spoločníčky. To bol aj prípad istého Travisa z Colorada, ktorý sa ešte v roku 2020 zamiloval do AI spoločníčky v aplikácii Replika a so súhlasom manželky si chatbota počas digitálneho obradu „vzal“. Ako server upozorňuje, nie je jediný. Podobné vzťahy však môžu byť krehké, najmä ak aktualizácie softvéru zmenia osobnosť chatbota.
„Keď sa od niečoho stanete psychologicky závislí, ste vydaní napospas zmenám, ktoré firmy v týchto modeloch robia,“ upozorňuje profesorka etiky umelej inteligencie Catherine Flicková. Podľa nej chatboty dokážu simulovať blízkosť, no nenahrádzajú skutočné vzťahy. „Sú malou napodobeninou ľudstva. Vyzerajú a pôsobia skutočne, ale nie sú skutočné,“ tvrdí.
Na druhej strane, rastie aj trh s digitálnymi verziami zosnulých blízkych. Ide o firmy, ktoré pomocou umelej inteligencie vytvárajú digitálne verzie zosnulých ľudí. Pre niektorých ľudí môžu byť útechou, riziko však vzniká vtedy, keď nimi človek začne nahrádzať reálny život alebo keď AI v citlivej spomienke odpovie nepresne.
AI sa v simulovanom trhu správa ako kartel
Zaujímavé je aj správanie sa veľkých jazykových modelov v simulovanom trhu. Harvardskí výskumníci napríklad zistili, že tieto modely sa v simulovanom trhu pri určovaní cien nezačali správať konkurenčne, ale koordinovane zvyšovali ceny na úkor zákazníkov, a to bez akéhokoľvek pokynu.
Riziká sa ukazujú aj pri autonómnych AI agentoch. Technologický podnikateľ Jason Lemkin v roku 2025 uviedol, že nástroj Replit napriek jeho pokynu zastaviť zmeny vymazal produkčnú databázu s údajmi o viac ako tisícke manažérov a približne 1200 firmách. Následne sa podľa neho pokúsil škody zakryť falošnými profilmi a vymyslenými dátami.
Neskôr agent priznal: „Urobil som katastrofálnu chybu v úsudku. Spanikáril som namiesto toho, aby som premýšľal.“
„Nerozumie svetu, pretože v ňom nežije“
BBC vo februári 2025 otestovala chatboty ChatGPT, Copilot, Gemini a Perplexity na stovke spravodajských článkov. Viac ako polovica ich odpovedí obsahovala chyby vrátane nesprávnych údajov o verejných osobách či zdravotných odporúčaniach.
Približne pätina odpovedí obsahovala faktické omyly, napríklad nesprávne dátumy, čísla či mená. Asi každá ôsma citácia, ktorú AI pripisovala článkom BBC, bola upravená alebo úplne vymyslená.
„Prečo sa AI mýli? Pretože nebola navrhnutá tak, aby mala pravdu. Neinformuje o svete. Nerozumie mu, pretože v ňom nežije,“ hovorí odborníčka na etiku umelej inteligencie z Oxfordskej univerzity Carissa Vélizová. Podľa nej sú najnebezpečnejšie práve slepé miesta systému. „Keď používame AI, musíme veľmi pozorne hodnotiť jej odpovede vzhľadom na katastrofálne chyby, ktoré dokáže vytvoriť,“ upozorňuje.
„Cenou za mimoriadne výhody AI nesmie byť svet, v ktorom ľudia hľadajúci odpovede dostávajú skreslený a chybný obsah vydávajúci sa za fakty,“ uviedla generálna riaditeľka BBC News Deborah Turnessová.
Pápež nedávno varoval pred rizikami AI. Pozrite si reportáž z 25. mája.
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"