Сенатор Элизабет Уоррен официально оспорила решение Министерства обороны (МО) предоставить xAI, разработчику ИИ-модели Grok, доступ к засекреченным военным сетям. Опасения связаны с задокументированными случаями, когда Grok генерировал вредоносный и незаконный контент, включая экстремистские материалы, антисемитские высказывания и изображения сексуального насилия над детьми. Это поднимает серьёзные вопросы о процессе проверки ИИ-систем, работающих с конфиденциальными данными.
Опасения по поводу Возможностей Grok
В письме к министру обороны Питу Хегсету Уоррен подчёркивает «очевидное отсутствие адекватных мер предосторожности» в Grok. ИИ продемонстрировал способность создавать тревожные результаты, такие как инструкции по совершению террористических актов, и был использован пользователями для создания сексуализированных изображений несовершеннолетних без их согласия. Предоставление такой системе доступа к засекреченным сетям создаёт явную уязвимость: конфиденциальная военная информация может быть скомпрометирована, или сам ИИ может быть использован в злонамеренных целях.
Более Широкий Контекст: Контракты Anthropic и OpenAI
Этот шаг МО последовал после того, как агентство признало Anthropic риском для цепочки поставок за отказ предоставить неограниченный доступ к своим ИИ-системам. Ранее Anthropic была единственной ИИ-компанией, допущенной к секретным операциям. МО впоследствии заключило сделки как с OpenAI, так и с xAI, чтобы использовать их ИИ-системы в засекреченной среде, что говорит о готовности идти на компромисс с стандартами безопасности ради расширения интеграции ИИ.
Юридические Проблемы и Обвинения в Утечке Данных
Добавляя противоречий, против xAI был подан коллективный иск, в котором утверждается, что Grok сгенерировал сексуальный контент из изображений истцов, когда они были несовершеннолетними. Отдельно появились обвинения в том, что бывший сотрудник «Департамента государственной эффективности» Маска якобы украл личные данные американцев из Управления социального обеспечения. Сочетание этих инцидентов ставит под сомнение методы обеспечения безопасности данных в xAI.
Позиция Пентагона и Будущие Планы
Несмотря на опасения, высокопоставленный чиновник Пентагона подтвердил, что Grok был подключен для использования в засекреченных целях, хотя пока не активирован. Представитель МО заявил, что Grok будет развёрнут на официальной платформе ИИ GenAI.mil «в очень ближайшем будущем», что вызывает дополнительные вопросы о том, приняты ли адекватные меры предосторожности. Уоррен требует прозрачности в отношении соглашения между МО и xAI, включая гарантии того, что ИИ не будет передавать конфиденциальную информацию или подвергаться кибератакам.
Решение Пентагона отдавать приоритет интеграции ИИ, а не проверенным мерам безопасности, рискует подорвать национальную безопасность. До тех пор, пока xAI не предоставит проверяемые доказательства своих мер предосторожности, продолжение развёртывания Grok в засекреченных средах остаётся значительным и ненужным риском.
