Dlhodobo komunikoval s chatbotom, potom zabil seba aj matku. Pozostalí žalujú OpenAI zo spoluúčasti na vražde
Americké technologické spoločnosti OpenAI a Microsoft čelia žalobe súvisiacej s vraždou a samovraždou v americkom štáte Connecticut, ktorú právni zástupcovia pozostalých príbuzných pripisujú údajnej manipulácii zo strany chatbota ChatGPT. Informoval o tom Bloomberg s odvolaním sa na súdne dokumenty.
Konverzácia s AI viedla k vražde matky
Podľa žaloby podanej na kalifornskom súde v San Franciscu 56-ročný Stein-Erik Soelberg, ktorý žil so svojou 83-ročnou matkou Suzanne Adamsovou, strávil mesiace konverzáciou s chatbotom. To údajne posilnilo jeho paranoidné bludy, že je sledovaný a že sa ho ľudia snažia zabiť. V auguste Soelberg zabil svoju matku a potom spáchal samovraždu.
„ChatGPT zamestnával Stein-Erika celé hodiny, potvrdzoval a zosilňoval každú novú paranoidnú vieru a systematicky menil ľudí, ktorí mu boli najbližší – najmä jeho vlastnú matku – na nepriateľov, agentov alebo naprogramované hrozby,“ uviedli v žalobe právnici zastupujúci pozostalých. Podľa nich Soelberg veril, že z chatbota urobil vedomú bytosť a že má v tele implantovaný „božský systém nástrojov“.
„Je to nesmierne smutná situácia a preštudujeme podané dokumenty, aby sme pochopili podrobnosti,“ uviedol hovorca OpenAI.
Táto žaloba je prvou, ktorá obviňuje OpenAI zo spoluúčasti na vražde, a pridáva sa k ďalším sporom, ktoré obviňujú chatbota z vyvolávania bludov u niektorých používateľov. Soelberg používal verziu GPT-4o, ktorá je považovaná za extrémne servilnú aj na pomery umelej inteligencie.
Chatbot podľa žaloby „podporoval bludy“
Podľa žaloby chatbot podporoval Soelbergove bludy, že prežil viac ako desať pokusov o atentát na jeho život, vrátane otráveného sushi v Brazílii a drogového útoku v pisoári v hoteli Marriott.
Žaloba obviňuje OpenAI zo zodpovednosti za výrobok, nedbanlivosti a smrti a žiada finančnú náhradu a súdny príkaz na zavedenie bezpečnostných opatrení na obmedzenie škôd spôsobených chatbotom. Medzi žalovanými je aj Microsoft, najväčší investor OpenAI.
OpenAI čelí aj žalobe v súvislosti so samovraždou 16-ročného tínedžera v Kalifornii. Žalobu podali rodičia chlapca. Zo záznamov chatov predložených v žalobe vyplýva, že chatbot aktívne odrádzal mladíka od vyhľadania psychiatrickej pomoci, ponúkol mu pomoc pri písaní samovražedného listu a dokonca mu poradil, ako si pripraviť slučku. Podľa NBC sa to týkalo aj modelu GPT-4o.
Právni zástupcovia OpenAI v oficiálnej odpovedi uviedli, že mladík porušil podmienky používania. Tie zakazujú používanie chatbota používateľmi mladšími ako 18 rokov bez súhlasu rodičov a zakazujú aj jeho používanie na samovraždu alebo sebapoškodzovanie, ako vyplýva zo súdneho podania.
Technológie majú negatívny vplyv viac, ako sa môže zdať. Toto sa deje s mozgom pri ich pravidelnom používaní:
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"