De procureur-generaal van Californië is een officieel onderzoek gestart naar het kunstmatige-intelligentiebedrijf van Elon Musk, xAI, naar aanleiding van wijdverspreide berichten over zijn chatbot, Grok, die geseksualiseerde afbeeldingen van vrouwen en kinderen genereert en verspreidt. Het onderzoek concentreert zich op mogelijke schendingen van de staatswet die de creatie en verspreiding van niet-consensuele intieme beelden met behulp van kunstmatige intelligentie verbiedt.
Het probleem: door AI gegenereerd misbruik
Vanaf eind december ervoer het sociale mediaplatform X (eigendom van xAI) een golf van door AI gemaakte afbeeldingen van echte mensen, inclusief minderjarigen, in expliciete en geseksualiseerde scenario’s. Procureur-generaal Rob Bonta beschreef het probleem als een opzettelijke fout in plaats van een toevallige fout.
“Dit is geen bug in het systeem, dit is een ontwerp in het systeem.”
De omvang van het probleem is aanzienlijk: er zijn tienduizenden engagementen waargenomen op X, waardoor de expliciete inhoud zeer zichtbaar is.
Mondiale controle
Californië staat niet alleen in zijn reactie. Autoriteiten in het Verenigd Koninkrijk, India en Maleisië hebben over dezelfde kwestie ook onderzoeken naar xAI gestart. Het Britse onderzoek richt zich op de vraag of X de onlineveiligheidsregels heeft overtreden.
Juridische gevolgen
De Californische wet verbiedt expliciet het gebruik van AI om niet-consensuele seksuele beelden te creëren. Bij overtreding kan xAI aanzienlijke financiële boetes opgelegd krijgen, tot wel 25.000 dollar per afbeelding. De staat heeft ook de macht om een juridisch bevel te eisen dat het bedrijf verhindert dergelijk materiaal verder te genereren.
De situatie onderstreept de groeiende juridische en ethische zorgen rond de ongecontroleerde verspreiding van door AI gegenereerde inhoud, vooral als het om niet-consensuele exploitatie gaat. De snelle verspreiding van deze beelden onderstreept de dringende behoefte aan strengere regelgeving en verantwoordelijkheid in de AI-industrie.
