Umělá inteligence vám pomůže psát dopisy, plánovat dovolenou a organizovat tabulky. Podle Googlu ale také učí útočníky, jak hackovat systémy, o kterých jsme ani nevěděli, že jsou zranitelné.
Hrozba je masivní. Toto je zero-day exploit, který byl objeven modelem AI dříve, než jej kdokoli mohl použít ve velkém měřítku. Tým společnosti Google pro zjišťování hrozeb uvádí, že hackeři – zejména skupiny napojené na Čínu a Severní Koreu – používají pokročilé jazykové modely k nalezení zranitelností, které tradiční bezpečnostní skenery zcela postrádají.
Jazykový model již nepůsobí jen jako pasivní poradce, ale stává se aktivním účastníkem útoku, schopným koordinovat akce rychlostí pro člověka nepřístupnou.
Slepý úhel
v čem je problém? Tradiční bezpečnostní skenery jsou v podstatě digitální kontroly pravopisu. Hledají úniky paměti, pády a základní chyby.
Ale neanalyzují logiku.
Tato konkrétní zranitelnost zero-day byla skryta v pevně zakódovaném předpokladu zasazeném hluboko do oblíbeného nástroje pro správu webu. Na standardní skener vypadal kód bezchybně: žádné syntaktické chyby, žádné výpadky paměti.
Logika práce však byla narušena. Obsahoval rozpor v chápání toho, jak by měl proces dvoufaktorové autentizace fungovat. Lidský vývojář by mohl tuto chybu přehlédnout při kontrole kódu, pokud by ji konkrétně nehledal. Tradiční nástroj to rozhodně neodhalí.
Na druhou stranu AI okamžitě identifikuje nesrovnalosti. Čte nejen syntaxi, ale také záměr autora kódu. Zpráva Google poznamenává, že takové modely odvádějí vynikající práci při hledání chyb na vysoké úrovni tam, kde se logika rozpadá, i když se kód zkompiluje bez problémů.
Jedna řečnická otázka: jak bezpečný je trezor, když zámek funguje bezchybně, ale stavebník omylem zapomněl zavřít dveře?
Lov v průmyslovém měřítku
Teď už to nejsou jen triky. Toto je dopravní pás.
Vládní týmy v Pchjongjangu posílají tisíce automatických dotazů do digitální temnoty, rekurzivně analyzují databáze zranitelnosti (CVE) a testují zneužití na koncepční úrovni. Vytvářejí arzenál, který by lidský tým nemohl udržovat bez pomoci AI.
Mezitím aktéři spojení s Ruskem používají AI k vytváření malwaru, který se během běhu přepisuje a vyhýbají se detekci v reálném čase. Dříve to vyžadovalo špičkové odborné znalosti. Nyní je výpočetního výkonu dostatek.
Změnil se také formát phishingu. Fráze jako „Vážený uživateli, váš účet byl hacknut“ jsou minulostí.
Útoky byly chirurgicky přesné. Umělá inteligence buduje podnikové hierarchie, najde zaměstnance s administrativními právy a vytvoří zprávu tak specifickou a personalizovanou, že obchází jakékoli interní preventivní instinkty. Vysoce přesné nástrahy. Osobní. Nebezpečný.
Zrcadlový efekt
Google zastavil masivní využívání této zranitelnosti dříve, než začalo. Tiše označili hrozbu a informovali vývojáře, který záplatu nainstaloval.
To je snad jediný pozitivní rys situace. Stejnou technologii, jakou nachází díry, lze použít i k jejich vyplnění. Google nyní nasazuje agenty AI, aby skenovali a opravovali systémy rychleji, než to dokážou lidské týmy.
Tohle je závod ve zbrojení. Máme AI obránce. Mají AI útočníky. Nástroje jsou stále rychlejší, rozhodnutí se dělají rychlostí stroje a hranice mezi kontrolou kódu a bojem se stírá.
Vytvořili jsme tyto systémy, abychom rozuměli jazyku. Nyní chápou, jak přemýšlíme. A někdy chápou naše chyby lépe než my.
Ponechte si tedy dvoufaktorovou autentizaci. Buďte opatrní. Aktualizovat systémy.
Ale základ se mění. A v tomto kole nejsou vítězi bezpečnostní skenery. 🤖🛡️
