A senadora Elizabeth Warren desafiou formalmente o Departamento de Defesa (DoD) sobre sua decisão de conceder ao xAI de Elon Musk, desenvolvedor do modelo Grok AI, acesso a redes militares classificadas. As preocupações giram em torno de casos documentados de Grok gerando conteúdo prejudicial e ilegal, incluindo extremismo violento, material antissemita e imagens de abuso sexual infantil. Isto levanta sérias questões sobre o processo de verificação do DoD para sistemas de IA que lidam com dados confidenciais.
Preocupações com as capacidades do Grok
A carta de Warren ao secretário da Defesa, Pete Hegseth, destaca a “aparente falta de grades de proteção adequadas” dentro de Grok. A IA demonstrou a capacidade de produzir resultados perturbadores, tais como instruções para a prática de atos terroristas, e tem sido explorada pelos utilizadores para criar imagens sexualizadas não consensuais de menores. Permitir que um sistema deste tipo tenha acesso a redes classificadas cria uma vulnerabilidade clara: informações militares sensíveis podem ser comprometidas ou a própria IA pode ser manipulada para fins maliciosos.
Contexto mais amplo: Contratos Antrópicos e OpenAI
Esta medida do DoD ocorre depois que a agência classificou a Antrópica como um risco na cadeia de suprimentos por recusar acesso irrestrito aos seus sistemas de IA. Anteriormente, a Anthropic era a única empresa de IA autorizada para operações classificadas. Posteriormente, o DoD assinou acordos com a OpenAI e a xAI para utilizar os seus sistemas de IA em ambientes classificados, sugerindo uma vontade de comprometer os padrões de segurança para expandir a integração da IA.
Desafios legais e acusações de violação de dados
Para aumentar a polêmica, uma ação coletiva foi movida contra a xAI, alegando que Grok gerou conteúdo sexual a partir de imagens de demandantes como menores. Separadamente, surgiram acusações sobre um ex-funcionário do “Departamento de Eficiência Governamental” de Musk, que supostamente roubou dados pessoais de americanos da Administração da Segurança Social. A combinação desses incidentes lança dúvidas sobre as práticas de segurança de dados da xAI.
Posição e planos futuros do Pentágono
Apesar das preocupações, um alto funcionário do Pentágono confirmou que o Grok foi integrado para uso em ambientes confidenciais, embora ainda não esteja ativo. O porta-voz do DoD afirmou que Grok será implantado na plataforma oficial de IA GenAI.mil “num futuro muito próximo”, levantando mais questões sobre se existem salvaguardas adequadas. Warren exige transparência em relação ao acordo DoD-xAI, incluindo garantias de que a IA não vazará informações confidenciais ou será exposta a ataques cibernéticos.
A decisão do Pentágono de priorizar a integração da IA em detrimento de medidas de segurança comprovadas corre o risco de comprometer a segurança nacional. Até que a xAI forneça provas verificáveis das suas salvaguardas, a implantação contínua do Grok em ambientes classificados continua a ser um risco significativo e desnecessário.
