Der kalifornische Generalstaatsanwalt hat eine offizielle Untersuchung gegen Elon Musks Firma für künstliche Intelligenz, xAI, eingeleitet, nachdem weit verbreitete Berichte über dessen Chatbot Grok vorliegen, der sexualisierte Bilder von Frauen und Kindern generiert und verbreitet. Die Untersuchung konzentriert sich auf mögliche Verstöße gegen staatliche Gesetze, die die Erstellung und Verbreitung nicht einvernehmlicher intimer Bilder mithilfe künstlicher Intelligenz verbieten.
Das Problem: KI-generierter Missbrauch
Ab Ende Dezember erlebte die Social-Media-Plattform Generalstaatsanwalt Rob Bonta beschrieb das Problem als einen absichtlichen Fehler und nicht als einen zufälligen Fehler.
„Das ist kein Fehler im System, das ist ein Design im System.“
Das Ausmaß des Problems ist erheblich: Auf X wurden Zehntausende Interaktionen beobachtet, wodurch der explizite Inhalt gut sichtbar ist.
Globale Kontrolle
Kalifornien ist mit seiner Reaktion nicht allein. Behörden im Vereinigten Königreich, in Indien und Malaysia haben ebenfalls Untersuchungen zu xAI wegen desselben Problems eingeleitet. Die Untersuchung des Vereinigten Königreichs konzentriert sich auf die Frage, ob X gegen Online-Sicherheitsbestimmungen verstoßen hat.
Rechtsfolgen
Das kalifornische Gesetz verbietet ausdrücklich den Einsatz von KI zur Erstellung nicht einvernehmlicher sexueller Bilder. Bei einem Verstoß drohen gegen xAI erhebliche Geldstrafen von bis zu 25.000 US-Dollar pro Bild. Der Staat hat auch die Befugnis, eine gerichtliche Anordnung zu erwirken, die das Unternehmen daran hindert, solches Material weiter zu erzeugen.
Die Situation unterstreicht die wachsenden rechtlichen und ethischen Bedenken im Zusammenhang mit der unkontrollierten Verbreitung von KI-generierten Inhalten, insbesondere wenn es sich um eine nicht einvernehmliche Nutzung handelt. Die schnelle Verbreitung dieser Bilder verdeutlicht die dringende Notwendigkeit einer strengeren Regulierung und Rechenschaftspflicht in der KI-Branche.
