Sztuczna inteligencja pomaga pisać listy, planować wakacje i organizować arkusze kalkulacyjne. Jednak według Google uczy to także atakujących, jak włamać się do systemów, o których nawet nie wiedzieliśmy, że są podatne na ataki.
Zagrożenie jest ogromne. Jest to exploit typu zero-day, który został odkryty przez model AI, zanim ktokolwiek mógł go wykorzystać na dużą skalę. Zespół Google ds. analizy zagrożeń informuje, że hakerzy – szczególnie grupy powiązane z Chinami i Koreą Północną – korzystają z zaawansowanych modeli językowych, aby znaleźć luki w zabezpieczeniach, które są całkowicie pomijane przez tradycyjne skanery bezpieczeństwa.
Model językowy nie pełni już roli biernego doradcy, ale staje się aktywnym uczestnikiem ataku, zdolnym do koordynowania działań z szybkością nieosiągalną dla człowieka.
Martwy punkt
Jaki jest problem? Tradycyjne skanery bezpieczeństwa to zasadniczo cyfrowe moduły sprawdzania pisowni. Szukają wycieków pamięci, awarii i podstawowych błędów.
Ale oni nie analizują logiki.
Ta szczególna luka typu zero-day została ukryta w zakodowanym założeniu, osadzonym głęboko w popularnym narzędziu do administrowania siecią. W przypadku standardowego skanera kod wyglądał bez zarzutu: żadnych błędów składniowych, żadnych zrzutów pamięci.
Jednak logika pracy została złamana. Zawierała sprzeczność w rozumieniu dewelopera, jak powinien funkcjonować proces uwierzytelniania dwuskładnikowego. Programista będący człowiekiem mógłby przeoczyć ten błąd podczas przeglądania kodu, jeśli specjalnie go nie szukał. Tradycyjne narzędzie na pewno tego nie wykryje.
Z kolei sztuczna inteligencja natychmiast identyfikuje rozbieżności. Odczytuje nie tylko składnię, ale także intencje autora kodu. W raporcie Google zauważono, że takie modele doskonale radzą sobie z wyszukiwaniem błędów wysokiego poziomu tam, gdzie załamuje się logika, nawet jeśli kod kompiluje się bez problemów.
Jedno pytanie retoryczne: jak bezpieczny jest sejf, jeśli zamek działa bez zarzutu, a budowniczy przez przypadek zapomniał zamknąć drzwi?
Polowanie na skalę przemysłową
Teraz nie są to już tylko sztuczki. To jest przenośnik taśmowy.
Zespoły rządowe w Pjongjangu wysyłają tysiące zautomatyzowanych zapytań w cyfrową ciemność, rekurencyjnie analizując bazy danych podatności na zagrożenia (CVE) i testując exploity na poziomie koncepcyjnym. Tworzą arsenał, którego utrzymanie przez ludzki zespół byłoby niemożliwe bez pomocy sztucznej inteligencji.
Tymczasem podmioty powiązane z Rosją wykorzystują sztuczną inteligencję do tworzenia złośliwego oprogramowania, które w trakcie działania zapisuje się samoistnie, unikając wykrycia w czasie rzeczywistym. Wcześniej wymagało to najwyższej klasy wiedzy specjalistycznej. Teraz jest wystarczająca moc obliczeniowa.
Zmienił się także format phishingu. Zwroty takie jak „Drogi użytkowniku, ktoś włamał się na Twoje konto” należą już do przeszłości.
Ataki stały się chirurgicznie precyzyjne. AI buduje hierarchie korporacyjne, znajduje pracownika z uprawnieniami administracyjnymi i tworzy przekaz tak konkretny i spersonalizowany, że omija wszelkie wewnętrzne instynkty ostrożności. Przynęty o wysokiej precyzji. Osobisty. Niebezpieczny.
Efekt lustra
Google zaprzestał masowego wykorzystywania tej luki, zanim się rozpoczęło. Po cichu oznaczyli zagrożenie i powiadomili programistę, który zainstalował łatkę.
To chyba jedyna pozytywna cecha tej sytuacji. Tę samą technologię, która znajduje dziury, można również zastosować do ich wypełnienia. Google wdraża obecnie agentów AI, którzy skanują i łatają systemy szybciej niż potrafią to ludzie.
To jest wyścig zbrojeń. Mamy obrońców AI. Mają atakujących AI. Narzędzia są coraz szybsze, decyzje podejmowane są z szybkością maszyny, a granica między przeglądaniem kodu a walką zaciera się.
Stworzyliśmy te systemy, aby rozumieć język. Teraz rozumieją, jak myślimy. Czasem rozumieją nasze błędy lepiej niż my.
Zachowaj więc uwierzytelnianie dwuskładnikowe. Bądź ostrożny. Aktualizuj systemy.
Ale podstawa się zmienia. W tej rundzie skanery bezpieczeństwa nie są zwycięzcami. 🤖🛡️
