Штучний інтелект допомагає писати листи, планувати відпустки та оформлювати таблиці. Але, за даними Google, він також вчить зловмисників зламувати системи, вразливість яких ми навіть не підозрювали.
Загроза масштабна. Йдеться про експлоїт нульового дня, який був виявлений моделлю ІІ до того, як хтось зміг використати його в широких масштабах. Група з аналізу загроз Google повідомляє, що хакери, зокрема групи, пов’язані з Китаєм і Північною Кореєю, використовують передові мовні моделі для пошуку вразливостей, які повністю пропускають традиційні сканери безпеки.
Мовна модель більше виступає просто пасивним порадником, а стає активним учасником атаки, здатним координувати на швидкості, недоступної людині.
Сліпа зона
У чому проблема? Традиційні сканери безпеки — це, насправді, цифрові перевіряльники орфографії. Вони шукають витоку пам’яті, збої та базові помилки.
Але вони не аналізують логіку.
Ця конкретна вразливість нульового дня була прихована у жорстко закодованому припущенні, закладеному глибоко у популярному інструменті веб-адміністрування. Для стандартного сканера код виглядав бездоганно: ні синтаксичних помилок, ні дампів пам’яті.
Проте логіку роботи було порушено. У ній містилася суперечність у розумінні розробником того, як має функціонувати двофакторний процес аутентифікації. Людина-розробник могла пропустити цю помилку під час перевірки коду, а то й шукав її цілеспрямовано. Традиційний інструмент точно її не виявить.
ІІ, навпаки, миттєво виявляє невідповідність. Він читає не лише синтаксис, а й наміри автора коду. У звіті Google наголошується, що такі моделі чудово справляються з пошуком високорівневих помилок, коли логіка ламається навіть якщо код компілюється без проблем.
Одне риторичне питання: наскільки безпечним є сейф, якщо замок працює бездоганно, але будівельник випадково забув засунути заслінку?
Полювання в промисловому масштабі
Нині це вже не просто хитрощі. Це конвеєр.
Державні групи з Пхеньяну відправляють до цифрової темряви тисячі автоматизованих запитів, рекурсивно аналізують бази даних уразливостей (CVE) та перевіряють експлойти концептуального рівня. Вони створюють арсенал, який людині-команді було неможливо підтримувати без допомоги ІІ.
Тим часом актори, пов’язані з Росією, використовують ІІ для створення шкідливих програм, які переписують самі себе — у процесі виконання, ухиляючись від виявлення в реальному часі. Раніше для цього була потрібна експертиза вищого класу. Тепер достатньо обчислювальної потужності.
Формат фішингу також змінився. Фрази на кшталт «Шановний користувач, ваш обліковий запис зламаний» залишилися в минулому.
Атаки стали хірургічно точними. ІІ вибудовує корпоративні ієрархії, знаходить співробітника з адміністративними правами та створює повідомлення, настільки специфічне та персоналізоване, що воно обходить будь-які внутрішні інстинкти перестороги. Принади високої точності. Особисті. Небезпечні.
Ефект дзеркала
Google припинив масову експлуатацію вразливості до її початку. Вони тихо відзначили загрозу та повідомили розробника, який встановив патч.
У цьому полягає, мабуть, єдина позитивна риса ситуації. Та ж технологія, що шукає дірки, може використовуватися і для їхнього закладення. Google тепер розгортає агентів ІІ, щоб сканувати та патчити системи швидше, ніж це можливо для людських команд.
Це перегони озброєнь. У нас є захисники-ІІ. У них – атакуючі-ІІ. Інструменти стають швидше, рішення приймаються на машинних швидкостях, а межа між перевіркою коду та бойовими діями стирається.
Ми створили ці системи, щоб розуміти мову. Тепер вони розуміють, як ми думаємо. І часом вони краще за нас розуміють наші помилки.
Тому тримайте двофакторну автентифікацію. Будьте уважні. Поновлюйте системи.
Але ж фундамент змінюється. І у цьому раунді сканери безпеки не є переможцями. 🤖🛡️
