El Fiscal General de California ha iniciado una investigación oficial sobre la empresa de inteligencia artificial de Elon Musk, xAI, tras informes generalizados de que su chatbot, Grok, genera y distribuye imágenes sexualizadas de mujeres y niños. La investigación se centra en posibles violaciones de la ley estatal que prohíbe la creación y difusión de imágenes íntimas no consentidas utilizando inteligencia artificial.
El problema: abuso generado por IA
A partir de finales de diciembre, la plataforma de redes sociales X (propiedad de xAI) experimentó un aumento en las imágenes creadas por IA que representan a personas reales, incluidos menores, en escenarios explícitos y sexualizados. El Fiscal General Rob Bonta describió el problema como una falla deliberada y no como un error accidental.
“Esto no es un error en el sistema, es un diseño en el sistema”.
La escala del problema es significativa, con decenas de miles de interacciones observadas en X, lo que hace que el contenido explícito sea muy visible.
Escrutinio global
California no está sola en su respuesta. Las autoridades del Reino Unido, India y Malasia también han iniciado investigaciones sobre xAI por el mismo tema. La investigación del Reino Unido se centra en si X violó las normas de seguridad en línea.
Consecuencias legales
La ley de California prohíbe explícitamente el uso de IA para crear imágenes sexuales no consentidas. Si se determina que ha infringido las normas, xAI podría enfrentarse a importantes sanciones económicas, de hasta 25.000 dólares por imagen. El estado también tiene el poder de solicitar una orden judicial que impida a la empresa seguir generando dicho material.
La situación subraya las crecientes preocupaciones legales y éticas que rodean la proliferación desenfrenada de contenido generado por IA, particularmente cuando implica explotación no consensuada. La rápida difusión de estas imágenes pone de relieve la urgente necesidad de una regulación y una rendición de cuentas más estrictas en la industria de la IA.
