Искусственный интеллект помогает писать письма, планировать отпуска и оформлять таблицы. Но, по данным Google, он также учит злоумышленников взламывать системы, уязвимость которых мы даже не подозревали.
Угроза масштабная. Речь идет о эксплоите нулевого дня, который был обнаружен моделью ИИ до того, как кто-либо смог использовать его в широких масштабах. Группа по анализу угроз Google сообщает, что хакеры — в частности, группы, связанные с Китаем и Северной Кореей — используют передовые языковые модели для поиска уязвимостей, которые полностью пропускают традиционные сканеры безопасности.
Языковая модель больше не выступает просто пассивным советчиком, а становится активным участником атаки, способным координировать действия на скорости, недоступной человеку.
Слепая зона
В чем проблема? Традиционные сканеры безопасности — это, по сути, цифровые проверщики орфографии. Они ищут утечки памяти, сбои и базовые ошибки.
Но они не анализируют логику.
Эта конкретная уязвимость нулевого дня была скрыта в жестко закодированном предположении, заложенном глубоко в популярном инструменте веб-администрирования. Для стандартного сканера код выглядел безупречно: ни синтаксических ошибок, ни дампов памяти.
Однако логика работы была нарушена. В ней содержалось противоречие в понимании разработчиком того, как должен функционировать двухфакторный процесс аутентификации. Человек-разработчик мог пропустить эту ошибку при проверке кода, если не искал её целенаправленно. Традиционный инструмент же точно её не обнаружит.
ИИ, напротив, мгновенно выявляет несоответствие. Он читает не только синтаксис, но и намерения автора кода. В отчете Google отмечается, что такие модели отлично справляются с поиском высокоуровневых ошибок, когда логика ломается, даже если код компилируется без проблем.
Один риторический вопрос: насколько безопасен сейф, если замок работает безупречно, но строитель случайно забыл задвинуть заслонку?
Охота в промышленном масштабе
Сейчас это уже не просто хитрости. Это конвейер.
Государственные группы из Пхеньяна отправляют в цифровую тьму тысячи автоматизированных запросов, рекурсивно анализируют базы данных уязвимостей (CVE) и проверяют эксплойты концептуального уровня. Они создают арсенал, который человеку-команде было бы невозможно поддерживать без помощи ИИ.
Тем временем акторы, связанные с Россией, используют ИИ для создания вредоносных программ, которые переписывают сами себя — прямо в процессе выполнения, уклоняясь от обнаружения в реальном времени. Раньше для этого требовалась экспертиза высшего класса. Теперь достаточно вычислительной мощности.
Формат фишинга тоже изменился. Фразы вроде «Уважаемый пользователь, ваш аккаунт взломан» остались в прошлом.
Атаки стали хирургически точными. ИИ выстраивает корпоративные иерархии, находит сотрудника с административными правами и создает сообщение, настолько специфичное и персонализированное, что оно обходит любые внутренние инстинкты предосторожности. Приманки высокой точности. Личные. Опасные.
Эффект зеркала
Google пресек массовую эксплуатацию уязвимости до её начала. Они тихо отметили угрозу и уведомили разработчика, который установил патч.
В этом, пожалуй, заключается единственная позитивная черта ситуации. Та же технология, что ищет дыры, может использоваться и для их заделки. Google теперь разворачивает агентов ИИ, чтобы сканировать и патчить системы быстрее, чем это возможно для человеческих команд.
Это гонка вооружений. У нас есть защитники-ИИ. У них — атакующие-ИИ. Инструменты становятся быстрее, решения принимаются на машинных скоростях, а грань между проверкой кода и боевыми действиями стирается.
Мы создали эти системы, чтобы понимать язык. Теперь они понимают, как мы мыслим. И порой они лучше нас понимают наши ошибки.
Поэтому держите двухфакторную аутентификацию. Будьте внимательны. Обновляйте системы.
Но фундамент меняется. И в этом раунде сканеры безопасности не являются победителями. 🤖🛡️
