AI ich vyzliekla takmer donaha a úplne bez súhlasu. X zaplavili sexuálne obrázky žien a dievčat, platforma váha zasiahnuť
Používatelia sociálnej siete X v poslednom období masovo zneužívajú jej chatbota Grok na úpravu reálnych fotografií žien a dievčat do sexualizovanej podoby bez ich súhlasu.
Americký denník The Washington Post upozornil, že ide o rýchlo sa šíriaci jav, pri ktorom generatívna umelá inteligencia vytvára tisíce explicitne ladených obrázkov, vrátane výstupov, ktoré zobrazujú neplnoleté osoby. Napriek rastúcej kritike zo strany verejnosti, odborníkov aj regulačných orgánov platforma ani jej majiteľ Elon Musk zatiaľ neprijali opatrenia, ktoré by takémuto zneužívaniu účinne zabránili.
Jedným z najviditeľnejších prípadov je americká konzervatívna influencerka Ashley St. Clair, ktorá je zároveň matkou jedného z Muskových detí. Tá podľa WP zistila, že používatelia pomocou Groka vytvorili sexuálne upravené obrázky založené na jej fotografiách, vrátane snímky z obdobia, keď mala 14 rokov. Po nahlásení príspevkov jej platforma časť obsahu odstránila, pri ďalších však uviedla, že neporušujú interné pravidlá.
„Neozývam sa ako niekto so špeciálnym postavením. Postupujem rovnakou cestou ako ostatní a toto je výsledok,“ povedala St. Clair pre WP. Podľa denníka ide len o jednu z mnohých žien, ktoré Grok v posledných dňoch digitálne „vyzliekol“ alebo zobrazil v ponižujúcich a sexualizovaných pózach. Niektoré z týchto výstupov podľa zistení WP pôsobia, akoby zobrazovali deti.
Jediným tabu je úplná nahota
Chatbot Grok síce negeneruje úplnú nahotu, no opakovane vyhovie príkazom na zobrazenie žien v extrémne odhaľujúcom oblečení alebo v sexualizovanom kontexte. WP upozorňuje, že X sa tým odlišuje od konkurencie, ako sú OpenAI či Google, ktoré majú pri sexuálnom obsahu nastavené prísnejšie obmedzenia.
Musk síce verejne varoval, že vytváranie nelegálneho obsahu môže mať dôsledky, zároveň však na X reagoval posmešnými emotikonmi na príspevky, ktoré ukazovali schopnosť Groka „obliecť do bikín čokoľvek“. Aj to podľa WP prispelo k dojmu, že vedenie platformy situáciu neberie vážne.
Do prípadu sa začínajú zapájať aj regulačné orgány. Britský mediálny regulátor Ofcom uviedol, že je v „urgentnom kontakte“ so spoločnosťami X a xAI a preveruje, či nedochádza k porušeniu zákonov na ochranu dôstojnosti a bezpečnosti používateľov. Záujem o praktiky Groka prejavili aj úrady vo Francúzsku a Indii.
Bývalý manažér Twitteru pre občiansku integritu Eddie Perez pre WP upozornil, že nejde len o zlyhanie moderácie. „Už sa nebavíme len o tom, že platforma nerobí dosť. Vyzerá to skôr tak, že umožňuje nástroje, ktoré spôsobujú škodu, a následne nad tým priviera oči,“ uviedol.
Právne otázky bez jasných odpovedí
Prípad opäť otvoril diskusiu o právnej zodpovednosti za AI-generovaný obsah. Hoci v USA existujú zákony proti šíreniu sexuálneho materiálu bez súhlasu, pri obrázkoch vytvorených umelou inteligenciou nie je vždy jasné, kto je zodpovedný – používateľ, ktorý zadá príkaz, alebo platforma, ktorá obsah vygeneruje?
St. Clair podľa WP zvažuje právne kroky. Zároveň však zdôrazňuje, že problém je systémový. „Toto sa musí zastaviť a musí to riešiť regulácia,“ uviedla s tým, že bez jasných pravidiel zostávajú ženy a dievčatá v online priestore zraniteľné.
Ako upozorňuje WP, prípad Groka ukazuje, že technologický vývoj umelej inteligencie predbieha nielen legislatívu, ale aj schopnosť veľkých platforiem zabezpečiť základnú ochranu ľudskej dôstojnosti v digitálnom verejnom priestore.
O umelej inteligencii sme sa rozprávali s odborníkom Tomášom Meliškom:
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"