Úpravy obrázkov už len za peniaze. X po škandále obmedzuje AI, ktorá bez súhlasu „vyzliekala“ ženy na fotkách
Sociálna sieť X obmedzila možnosti úpravy fotografií pomocou svojho chatbota Grok po tom, ako čelila ostrej kritike za šírenie sexualizovaných deepfake obrázkov vytváraných bez súhlasu dotknutých osôb. Ako informovala britská stanica BBC, nástroj po novom umožňuje podobné zásahy len platiacim používateľom, ktorých meno a platobné údaje sú vedené v systéme.
K zmene dochádza po tom, čo sa Grok stal terčom pobúrenia verejnosti aj politikov pre schopnosť „vyzliekať“ ľudí na reálnych fotografiách na základe jednoduchých textových príkazov. Výsledkom boli tisíce sexualizovaných obrázkov žien či dokonca neplnoletých dievčat, často bez ich vedomia a súhlasu.
Prípad vyvolal zásah aj na politickej úrovni. Britský premiér Keir Starmer označil generovanie takýchto obrázkov za „odporné“ a vyhlásil, že ide o nezákonný obsah, ktorý vláda nebude tolerovať. „Je to nezákonné. Nebudeme to tolerovať. Požiadal som, aby boli na stole všetky možnosti,“ uviedol v rozhovore pre rozhlas Greatest Hits Radio, na ktorý sa odvoláva BBC.
Vláda zároveň vyzvala mediálneho regulátora Ofcom, aby proti platforme postupoval dôrazne. Ofcom má podľa britského zákona o online bezpečnosti právomoc žiadať súdne opatrenia, ktoré by mohli obmedziť fungovanie platformy v Spojenom kráľovstve, vrátane zásahov do jej financovania či dostupnosti.
Platený prístup ako ochrana, nie riešenie
Podľa BBC Grok po novom používateľov upozorňuje, že úpravy obrázkov sú dostupné len pre predplatiteľov. Argumentom platformy má byť vyššia miera zodpovednosti, keďže identita platiacich používateľov je dohľadateľná. Kritici však upozorňujú, že samotné spoplatnenie funkcie problém nerieši, iba ho presúva do uzavretejšieho prostredia.
Ako sme predošle informovali, platforma X čelila kritike aj za nejednoznačný prístup k moderovaniu. V niektorých prípadoch boli nahlásené príspevky odstránené, v iných však sieť tvrdila, že neporušujú jej pravidlá. To prispelo k dojmu, že vedenie spoločnosti situáciu podceňuje.
Majiteľ siete X Elon Musk sa k rozhodnutiu obmedziť funkcie Groka zatiaľ verejne nevyjadril. BBC uvádza, že spoločnosť na jej žiadosť o komentár nereagovala.
Umelá inteligencia vie byť problematická v rôznych sférach. Nebezpečenstvo predstavuje aj to, že ju používatelia často využívajú ako osobného psychológa:
Sledujte ta3 na Google news
po kliknuti zvoľte "Sledovať"