Сенатор Елізабет Уоррен офіційно заперечила рішення Міністерства оборони (МО) надати xAI, розробнику ІІ-моделі Grok, доступ до засекречених військових мереж. Побоювання пов’язані з задокументованими випадками, коли Grok генерував шкідливий та незаконний контент, включаючи екстремістські матеріали, антисемітські висловлювання та зображення сексуального насильства над дітьми. Це порушує серйозні питання щодо процесу перевірки ІІ-систем, що працюють з конфіденційними даними.
Побоювання щодо можливостей Grok
У листі до міністра оборони Піта Хегсета Уоррен підкреслює «очевидну відсутність адекватних запобіжних заходів» у Grok. ІІ продемонстрував здатність створювати тривожні результати, такі як інструкції щодо здійснення терористичних актів, та був використаний користувачами для створення сексуалізованих зображень неповнолітніх без їхньої згоди. Надання такій системі доступу до засекречених мереж створює явну вразливість: конфіденційна військова інформація може бути скомпрометована, або сам ІІ може бути використаний у зловмисних цілях.
Більш Широкий Контекст: Контракти Anthropic та OpenAI
Цей крок МО був після того, як агентство визнало Anthropic ризиком для ланцюжка поставок за відмову надати необмежений доступ до своїх ІІ-систем. Раніше Anthropic була єдиною ІІ-компанією, допущеною до секретних операцій. МО згодом уклало угоди як з OpenAI, так і з xAI, щоб використовувати їх ІІ-системи в засекреченому середовищі, що говорить про готовність йти на компроміс із стандартами безпеки задля розширення інтеграції ІІ.
Юридичні Проблеми та Звинувачення у Витоку Даних
Додаючи протиріч, проти xAI було подано колективний позов, у якому стверджується, що Grok згенерував сексуальний контент із зображень позивачів, коли вони були неповнолітніми. Окремо з’явилися звинувачення в тому, що колишній співробітник Департаменту державної ефективності Маска нібито вкрав особисті дані американців з Управління соціального забезпечення. Поєднання цих інцидентів ставить під сумнів методи забезпечення безпеки даних xAI.
Позиція Пентагону та Майбутні Плани
Незважаючи на побоювання, високопосадовець Пентагону підтвердив, що Grok був підключений для використання в засекречених цілях, хоча поки що не активований. Представник МО заявив, що Grok буде розгорнутий на офіційній платформі ІІ GenAI.mil «в дуже найближчому майбутньому», що викликає додаткові питання про те, чи вжито адекватних запобіжних заходів. Уоррен вимагає прозорості щодо угоди між МО та xAI, включаючи гарантії того, що ІІ не буде передавати конфіденційну інформацію або піддаватися кібератакам.
Рішення Пентагону віддавати пріоритет інтеграції ІІ, а не перевіреним заходам безпеки, ризикує підірвати національну безпеку. Доки xAI не надасть докази своїх запобіжних заходів, що перевіряються, продовження розгортання Grok у засекречених середовищах залишається значним і непотрібним ризиком.
