Senator Elizabeth Warren heeft het ministerie van Defensie (DoD) formeel aangevochten vanwege haar besluit om Elon Musk’s xAI, ontwikkelaar van het Grok AI-model, toegang te verlenen tot geheime militaire netwerken. De zorgen concentreren zich rond gedocumenteerde voorbeelden waarin Grok schadelijke en illegale inhoud genereert, waaronder gewelddadig extremisme, antisemitisch materiaal en beelden van seksueel misbruik van kinderen. Dit roept serieuze vragen op over het doorlichtingsproces van het DoD voor AI-systemen die gevoelige gegevens verwerken.
Bezorgdheid over de capaciteiten van Grok
Warrens brief aan minister van Defensie Pete Hegseth benadrukt het “schijnbare gebrek aan adequate vangrails” binnen Grok. De AI heeft het vermogen aangetoond om verontrustende resultaten te produceren, zoals instructies voor het plegen van terroristische daden, en is door gebruikers uitgebuit om zonder wederzijds goedvinden geseksualiseerde beelden van minderjarigen te creëren. Door een dergelijk systeem toegang te geven tot geheime netwerken ontstaat er een duidelijke kwetsbaarheid: gevoelige militaire informatie kan in gevaar komen, of de AI zelf kan voor kwaadaardige doeleinden worden gemanipuleerd.
Bredere context: antropische en OpenAI-contracten
Deze stap van het Ministerie van Defensie komt nadat het bureau Anthropic een supply chain-risico noemde omdat het onbeperkte toegang tot zijn AI-systemen weigerde. Voorheen was Anthropic het enige AI-bedrijf dat toestemming kreeg voor geheime operaties. Het DoD ondertekende vervolgens overeenkomsten met zowel OpenAI als xAI om hun AI-systemen in geheime omgevingen te gebruiken, wat duidt op de bereidheid om compromissen te sluiten op het gebied van beveiligingsnormen om de AI-integratie uit te breiden.
Juridische uitdagingen en beschuldigingen van datalekken
Wat de controverse nog groter maakt, is dat er een class action-rechtszaak is aangespannen tegen xAI, waarin wordt beweerd dat Grok seksuele inhoud heeft gegenereerd op basis van afbeeldingen van eisers als minderjarigen. Daarnaast zijn er beschuldigingen opgedoken over een voormalig medewerker van Musks ‘Department of Government Efficiency’ die naar verluidt persoonlijke gegevens van Amerikanen zou hebben gestolen van de socialezekerheidsadministratie. De combinatie van deze incidenten doet twijfel rijzen over de gegevensbeveiligingspraktijken van xAI.
Standpunt en toekomstplannen van het Pentagon
Ondanks de zorgen bevestigde een hoge functionaris van het Pentagon dat Grok aan boord is voor gebruik in geheime omgevingen, hoewel deze nog niet actief is. De woordvoerder van het DoD verklaarde dat Grok “in de zeer nabije toekomst” zal worden ingezet op het officiële AI-platform GenAI.mil, wat verdere vragen oproept over de vraag of er voldoende waarborgen zijn getroffen. Warren eist transparantie met betrekking tot de DoD-xAI-overeenkomst, inclusief garanties dat de AI geen gevoelige informatie zal lekken of zal worden blootgesteld aan cyberaanvallen.
De beslissing van het Pentagon om AI-integratie voorrang te geven boven bewezen veiligheidsmaatregelen dreigt de nationale veiligheid in gevaar te brengen. Totdat xAI verifieerbaar bewijs levert van zijn veiligheidsmaatregelen, blijft de voortdurende inzet van Grok in geheime omgevingen een aanzienlijk en onnodig risico.
