La senadora Elizabeth Warren ha desafiado formalmente al Departamento de Defensa (DoD) por su decisión de otorgar a xAI de Elon Musk, desarrollador del modelo de IA Grok, acceso a redes militares clasificadas. Las preocupaciones se centran en casos documentados de Grok generando contenido dañino e ilegal, incluido extremismo violento, material antisemita e imágenes de abuso sexual infantil. Esto plantea serias dudas sobre el proceso de investigación del Departamento de Defensa de los sistemas de inteligencia artificial que manejan datos confidenciales.
Preocupaciones sobre las capacidades de Grok
La carta de Warren al secretario de Defensa, Pete Hegseth, destaca la “aparente falta de barreras de seguridad adecuadas” dentro de Grok. La IA ha demostrado la capacidad de producir resultados perturbadores, como instrucciones para cometer actos terroristas, y ha sido explotada por los usuarios para crear imágenes sexualizadas no consensuadas de menores. Permitir que un sistema de este tipo acceda a redes clasificadas crea una vulnerabilidad clara: la información militar confidencial podría verse comprometida o la propia IA podría manipularse con fines maliciosos.
Contexto más amplio: contratos antrópicos y OpenAI
Esta medida del Departamento de Defensa se produce después de que la agencia calificara a Anthropic como un riesgo para la cadena de suministro por negar el acceso irrestricto a sus sistemas de inteligencia artificial. Anteriormente, Anthropic era la única empresa de inteligencia artificial autorizada para operaciones clasificadas. Posteriormente, el Departamento de Defensa firmó acuerdos con OpenAI y xAI para utilizar sus sistemas de IA en entornos clasificados, lo que sugiere una voluntad de comprometerse con los estándares de seguridad para ampliar la integración de la IA.
Impugnaciones legales y acusaciones de violación de datos
Para aumentar la controversia, se presentó una demanda colectiva contra xAI, alegando que Grok generó contenido sexual a partir de imágenes de los demandantes cuando eran menores. Por otra parte, han surgido acusaciones sobre un ex empleado del “Departamento de Eficiencia Gubernamental” de Musk que supuestamente robó datos personales de estadounidenses de la Administración de la Seguridad Social. La combinación de estos incidentes arroja dudas sobre las prácticas de seguridad de datos de xAI.
Postura y planes futuros del Pentágono
A pesar de las preocupaciones, un alto funcionario del Pentágono confirmó que Grok ha sido incorporado para su uso en entornos clasificados, aunque aún no está activo. El portavoz del Departamento de Defensa afirmó que Grok se implementará en la plataforma oficial de inteligencia artificial GenAI.mil “en un futuro muy cercano”, lo que plantea más dudas sobre si existen salvaguardas adecuadas. Warren exige transparencia con respecto al acuerdo DoD-xAI, incluidas garantías de que la IA no filtrará información confidencial ni quedará expuesta a ataques cibernéticos.
La decisión del Pentágono de priorizar la integración de la IA sobre las medidas de seguridad comprobadas corre el riesgo de comprometer la seguridad nacional. Hasta que xAI proporcione pruebas verificables de sus salvaguardas, el despliegue continuo de Grok en entornos clasificados seguirá siendo un riesgo importante e innecesario.
