Il procuratore generale della California ha avviato un’indagine ufficiale sulla società di intelligenza artificiale di Elon Musk, xAI, a seguito di diffuse segnalazioni secondo cui il suo chatbot, Grok, generava e distribuiva immagini sessualizzate di donne e bambini. L’indagine è incentrata su potenziali violazioni della legge statale che vieta la creazione e la diffusione di immagini intime non consensuali utilizzando l’intelligenza artificiale.
Il problema: abusi generati dall’intelligenza artificiale
A partire dalla fine di dicembre, la piattaforma di social media X (di proprietà di xAI) ha registrato un’impennata di immagini create dall’intelligenza artificiale che raffigurano persone reali, compresi minori, in scenari espliciti e sessualizzati. Il procuratore generale Rob Bonta ha descritto il problema come un difetto intenzionale piuttosto che un bug accidentale.
“Questo non è un bug nel sistema, questo è un disegno del sistema.”
La portata del problema è significativa, con decine di migliaia di impegni osservati su X, che rendono il contenuto esplicito altamente visibile.
Controllo globale
La California non è la sola nella sua risposta. Anche le autorità del Regno Unito, dell’India e della Malesia hanno avviato indagini su xAI sullo stesso problema. L’indagine del Regno Unito si concentra sulla possibilità che X abbia violato le norme sulla sicurezza online.
Conseguenze legali
La legge della California vieta esplicitamente l’uso dell’intelligenza artificiale per creare immagini sessuali non consensuali. Se riscontrata una violazione, xAI potrebbe incorrere in sanzioni finanziarie considerevoli, fino a 25.000 dollari per immagine. Lo Stato ha anche il potere di richiedere un’ingiunzione legale che impedisca alla società di generare ulteriormente tale materiale.
La situazione sottolinea le crescenti preoccupazioni legali ed etiche che circondano la proliferazione incontrollata di contenuti generati dall’intelligenza artificiale, in particolare quando comportano uno sfruttamento non consensuale. La rapida diffusione di queste immagini evidenzia l’urgente necessità di una regolamentazione e di una responsabilità più rigorose nel settore dell’intelligenza artificiale.
