EK otvára nové vyšetrovanie sociálnej siete X. Chatbot Grok generoval sexualizované fotky žien a detí

Európska komisia (EK) začala nové vyšetrovanie americkej internetovej platformy X miliardára Elona Muska, a to podľa únijného nariadenia o digitálnych službách (DSA).

Vyšetrovanie súvisí so škandálom, keď chatbot s umelou inteligenciou (AI) Grok na žiadosť užívateľov na sieti X generoval sexualizované fotografie žien a detí. Komisia o tom v pondelok informovala vo svojom oznámení. Americký podnik je podozrivý, že riadne neposúdil a nezmiernil riziká spojené so zavedením svojej umelej inteligencie na online platforme.

Nechutné, odkazuje EK

„Domnievame sa, že platforma mohla porušiť nariadenie DSA,“ uviedol na pravidelnom popoludňajšom briefingu hovorca EK Thomas Regnier. „Materiály zobrazujúce sexuálne zneužívanie žien a detí nemajú v Európe miesto,“ dodal.

„Nové vyšetrovanie má za cieľ zistiť, či spoločnosť riadne posúdila a zmiernila riziká spojené s nasadením funkcií chatbota Grok do platformy X v Európskej únii,“ uviedla komisia. To podľa nej zahŕňa riziká súvisiace so šírením nelegálneho obsahu v EÚ, ako sú manipulované sexuálne explicitné obrázky, vrátane obsahu, ktorý môže predstavovať materiál zobrazujúci sexuálne zneužívanie detí.

„Zdá sa, že sa tieto riziká naplnili a že občania EÚ boli vystavení vážnej ujme. Vzhľadom na to bude komisia ďalej skúmať, či spoločnosť X plní svoje povinnosti vyplývajúce z nariadenia o digitálnych službách,“ stojí ďalej vo vyhlásení.

Európska komisia poslala Muskovej spoločnosti X Corp už na začiatku januára žiadosť o informácie ohľadom chatbota Grok. „Nelegálne. Neprijateľné. Nechutné,“ uviedol hovorca EK Thomas Regnier v súvislosti so sexualizovanými fotografiami žien a detí. „Takýto výstup nemôžeme tolerovať. Je to v rozpore s európskymi hodnotami a základnými právami. Dodržiavanie európskej legislatívy nie je voľba, je to povinnosť,“ dodal.

Čítajte viac

Po vyšetrovaní a kritike sieť X sprísňuje pravidlá. Grok už nebude môcť upravovať obrázky a vytvárať explicitný obsah

Funkcia je stále k dispozícii v premium verzii

Sieť X na začiatku januára vypla neplatiacim užívateľom možnosť prostredníctvom chatbota generovať alebo upravovať obrázky. Funkciu majú ďalej k dispozícii užívatelia s modrým overovacím symbolom pri mene, ktorí si platia prémiovú verziu platformy. Podľa mnohých to však situáciu nerieši.

Komisia upozornila, že oficiálne začatie konania neprejudikuje jeho výsledok. Komisia bude teraz naďalej zhromažďovať dôkazy, napríklad zasielaním ďalších žiadostí o informácie, vykonávaním pohovorov alebo inšpekcií, a môže uložiť predbežné opatrenia, ak nedôjde k zmysluplným úpravám platformy X.

Musk vlani oznámil, že kontrolu nad sieťou X prevzal jeho start-up pre umelú inteligenciu xAI, ktorý získal firmu X Corp, ktorá je prevádzkovateľom siete X. Start-up vyvíja aj chatbota Grok, ktorého sieť X integrovala do svojej platformy.

Deepfake, vydieranie, manipulácia. Odborníci varujú pred temnou stránkou umelej inteligencie.