Po vyšetrovaní a kritike sieť X sprísňuje pravidlá. Grok už nebude môcť upravovať obrázky a vytvárať explicitný obsah

Tento krok prichádza po tom, ako chatbot čelil veľkej kritike v súvislosti s funkciou, ktorá mu umožňovala generovať sexualizované obrázky žien a detí. Informuje o tom agentúra AFP a televízia BBC.

Opatrenia sa majú týkať všetkých

„Zaviedli sme technologické opatrenia, aby sme zabránili chatbotu Grok editovať obrázky skutočných ľudí v odhaľujúcom oblečení, ako sú bikiny,“ uviedol bezpečnostný tím X vo vyhlásení.

„Toto obmedzenie sa vzťahuje na všetkých používateľov, vrátane platiacich predplatiteľov,“ dodal.

Opatrenie oznámili niekoľko hodín po tom, ako generálny prokurátor amerického štátu Kalifornia začal vyšetrovanie spoločnosti xAI, ktorá chatbot Grok vyvíja, v súvislosti s vytváraním „neoprávneného, sexuálne explicitného obsahu“.

Kritizovaný „Spicy Mode“

Firma xAI čelila tlaku pre funkciu „Spicy Mode“, ktorá používateľom umožňovala vytvárať sexualizovaný tzv. deepfake obsah pomocou jednoduchých textových príkazov, ako napríklad „obleč ju do bikín“ alebo „odstráň jej oblečenie“, vysvetľuje AFP.

Malajzia a Indonézia v nedeľu zablokovali prístup k chatbotu v dôsledku tejto funkcie. Kritike čelil aj zo strany Európskej únie.

Čítajte viac

Úpravy obrázkov už len za peniaze. X po škandále obmedzuje AI, ktorá bez súhlasu „vyzliekala“ ženy na fotkách