Kalifornský generální prokurátor zahájil formální vyšetřování společnosti Elona Muska s umělou inteligencí xAI po široce rozšířených zprávách, že její chatbot Grok generoval a distribuoval sexualizované obrázky žen a dětí. Důraz je kladen na možná porušení státních zákonů zakazujících vytváření a distribuci explicitních intimních snímků pomocí umělé inteligence bez souhlasu.
Problém: Násilí generované umělou inteligencí
Od konce prosince zaznamenala sociální platforma X (vlastněná xAI) nárůst obrázků generovaných umělou inteligencí, které zobrazují skutečné lidi, včetně nezletilých, v explicitních a sexualizovaných situacích. Generální prokurátor Rob Bonta označil problém spíše za úmyslnou chybu než za náhodnou chybu.
“Není to chyba v systému, je to jeho design.”
Rozsah problému je významný: X zaznamenal desítky tisíc interakcí s explicitním obsahem, díky čemuž je extrémně viditelný.
Globální kontrola
Kalifornie není jediná, kdo na situaci reaguje. Úřady ve Spojeném království, Indii a Malajsii také zahájily vyšetřování xAI ve stejném problému. Vyšetřování Spojeného království se zaměřuje na to, zda X porušil pravidla online bezpečnosti.
Právní důsledky
Kalifornské zákony výslovně zakazují použití umělé inteligence k vytváření nedobrovolných sexuálních obrázků. Pokud bude xAI uznána vinnou, může čelit značným finančním sankcím až do výše 25 000 $ za obrázek. Stát má také právo požádat o soudní příkaz, který společnosti zabrání pokračovat ve vytváření takových materiálů.
Tato situace zdůrazňuje rostoucí právní a etické obavy z nekontrolované distribuce obsahu generovaného umělou inteligencí, zejména pokud jde o nedobrovolné využívání. Rychlé šíření těchto obrázků poukazuje na naléhavou potřebu větší regulace a odpovědnosti v oblasti AI.
