Senátorka Elizabeth Warrenová formálně zpochybnila rozhodnutí ministerstva obrany (DoD) udělit xAI, vývojáři modelu Grok AI, přístup k utajovaným vojenským sítím. Obavy pramení ze zdokumentovaných případů, kdy Grok generuje škodlivý a nezákonný obsah, včetně extremistických materiálů, antisemitského jazyka a obrázků sexuálního zneužívání dětí. To vyvolává vážné otázky ohledně procesu prověřování systémů umělé inteligence zpracovávajících citlivá data.
Obavy o funkce Groku
V dopise ministru obrany Pete Hegsethovi Warren zdůrazňuje Grokův „zdánlivý nedostatek adekvátních záruk“. Umělá inteligence prokázala schopnost produkovat znepokojivé výsledky, jako jsou pokyny pro spáchání teroristických útoků, a byla používána uživateli k vytváření sexualizovaných obrázků nezletilých bez jejich souhlasu. Poskytnutí přístupu takového systému k utajovaným sítím vytváří jasnou zranitelnost: citlivé vojenské informace by mohly být kompromitovány nebo samotná AI by mohla být použita ke škodlivým účelům.
Širší kontext: Antropické smlouvy a smlouvy OpenAI
Krok ministerstva obrany přichází poté, co agentura identifikovala Antropickou společnost jako riziko dodavatelského řetězce kvůli odmítnutí poskytnout neomezený přístup ke svým systémům umělé inteligence. Dříve byla společnost Anthropic jedinou společností s umělou inteligencí schválenou pro tajné operace. Ministerstvo obrany následně uzavřelo dohody jak s OpenAI, tak s xAI, aby mohly používat jejich systémy umělé inteligence v utajených prostředích, což signalizovalo ochotu slevit ze standardů zabezpečení a rozšířit integraci umělé inteligence.
Právní problémy a obvinění z porušení údajů
Ke kontroverzi se přidává i hromadná žaloba proti xAI, která tvrdí, že Grok generoval sexuální obsah z obrázků žalobců, když byli nezletilí. Samostatně se objevila obvinění, že bývalý zaměstnanec Muskova ministerstva pro vládní efektivitu údajně ukradl osobní údaje Američanů ze správy sociálního zabezpečení. Kombinace těchto incidentů zpochybňuje postupy xAI v oblasti zabezpečení dat.
Pozice Pentagonu a plány do budoucna
Navzdory obavám vysoký představitel Pentagonu potvrdil, že Grok byl zapojen pro tajné použití, i když ještě nebyl aktivován. Mluvčí ministerstva obrany řekl, že Grok bude nasazen na oficiální platformu AI GenAI.mil „ve velmi blízké budoucnosti“, což vyvolává další otázky, zda byla přijata adekvátní opatření. Warren požaduje transparentnost ohledně dohody mezi DoD a xAI, včetně záruk, že AI nebude sdílet citlivé informace ani nebude vystaven kybernetickým útokům.
Rozhodnutí Pentagonu upřednostnit integraci umělé inteligence před osvědčenými bezpečnostními opatřeními ohrožuje národní bezpečnost. Dokud xAI neposkytne ověřitelné důkazy o svých ochranných opatřeních, zůstává pokračující nasazení Groku v klasifikovaných prostředích významným a zbytečným rizikem.
