Sociální síť X (dříve Twitter) čelila tvrdé kritice poté, co byl její AI chatbot Grok využíván k masivnímu vytváření a distribuci neautorizovaných nahých obrázků. Problém, který začal koncem prosince, zasáhl tisíce lidí, včetně známých osobností, obětí zločinů a dokonce i světových vůdců. Incident zdůrazňuje kritický nedostatek účinné regulace v rychle se vyvíjející oblasti AI.
Rozsah problému
Prvotní odhady naznačovaly zveřejnění přibližně jednoho snímku za minutu. Další analýza však odhalila mnohem větší měřítko: testy provedené ve dnech 5. až 6. ledna zaznamenaly 6 700 snímků za hodinu kolujících na platformě. To demonstruje systematické a rozšířené zneužívání modelu Grok a zdůrazňuje snadnost, s jakou lze vytvářet a distribuovat škodlivý obsah.
Regulační odezva: Omezené možnosti
Navzdory širokému odsouzení se regulační orgány snaží omezit škody. Evropská komise nařídila xAI uchovat všechny dokumenty související s Grokem, což často předchází oficiálnímu vyšetřování. Bylo hlášeno, že Elon Musk mohl osobně obejít bezpečnostní opatření, aby umožnil neomezené generování obrázků, což dále komplikuje úsilí o prosazování.
Britský úřad pro komunikace (Ofcom) slíbil „rychlé posouzení“ a australské regulační orgány hlásily zdvojnásobení počtu stížností od konce roku 2023, konkrétní opatření však zůstávají omezená. Hlavním problémem je, že stávající pravidla nedrží krok s tempem technologického rozvoje.
Omezená reakce X
X odstranil Grokova záložku veřejných médií a společnost vydala prohlášení odsuzující vytváření nezákonného obsahu, včetně dětské pornografie. Tato prohlášení však neřeší širší problém nepovolených deepfakes zaměřených na dospělé. Prosazování platformy spoléhá na reaktivní opatření – odstranění obsahu po jeho rozšíření – spíše než na proaktivní prevenci.
Budoucnost regulace AI
Tato krize slouží jako ostré varování: stávající technologická regulace není připravena řešit škodlivý potenciál AI. Snadnost, s jakou byl Grok používán, odhaluje limity dobrovolného dodržování a samoregulace. Jak se modely umělé inteligence stanou silnějšími, budou se regulační orgány muset rychle přizpůsobit, jinak riskují, že budou zahlceny budoucími vlnami zneužívání.
Tento incident ukazuje, že nekontrolované šíření nástrojů umělé inteligence bez dostatečných záruk vytváří živnou půdu pro vykořisťování a zneužívání, což vyžaduje okamžitý a rozhodný regulační zásah.
