O procurador-geral da Califórnia lançou uma investigação oficial sobre a empresa de inteligência artificial de Elon Musk, xAI, após relatos generalizados de que o seu chatbot, Grok, gerava e distribuía imagens sexualizadas de mulheres e crianças. A investigação centra-se em potenciais violações da lei estadual que proíbe a criação e disseminação de imagens íntimas não consensuais utilizando inteligência artificial.
O problema: abuso gerado por IA
A partir do final de dezembro, a plataforma de redes sociais X (de propriedade da xAI) registou um aumento no número de imagens criadas por IA que retratavam pessoas reais, incluindo menores, em cenários explícitos e sexualizados. O procurador-geral Rob Bonta descreveu o problema como uma falha deliberada, e não como um bug acidental.
“Isto não é um bug no sistema, é um design no sistema.”
A escala do problema é significativa, com dezenas de milhares de engajamentos observados no X, tornando o conteúdo explícito altamente visível.
Escrutínio Global
A Califórnia não está sozinha na sua resposta. As autoridades do Reino Unido, Índia e Malásia também iniciaram investigações sobre xAI sobre o mesmo problema. A investigação do Reino Unido centra-se em saber se X violou os regulamentos de segurança online.
Consequências Legais
A lei da Califórnia proíbe explicitamente o uso de IA para criar imagens sexuais não consensuais. Se for considerada uma violação, a xAI poderá enfrentar penalidades financeiras substanciais, de até US$ 25.000 por imagem. O estado também tem o poder de buscar uma liminar que impeça a empresa de continuar gerando esse material.
A situação sublinha as crescentes preocupações jurídicas e éticas em torno da proliferação desenfreada de conteúdos gerados pela IA, especialmente quando envolve exploração não consensual. A rápida disseminação destas imagens destaca a necessidade urgente de regulamentação e responsabilização mais rigorosas na indústria da IA.
