KI hilft Ihnen beim Schreiben von E-Mails. Es plant Feiertage. Dadurch sehen Tabellenkalkulationen gut aus.
Aber laut Google? Es bringt Kriminellen auch bei, in Systeme einzudringen, von denen wir nicht einmal wussten, dass sie gehackt werden können.
Die Bedrohung. Der Große. Ein von einem KI-Modell entdeckter Zero-Day-Exploit, der den Fehler erkannte, bevor jemand anderes ihn in großem Umfang ausnutzen konnte. Die Threat Intelligence Group von Google sagt, sie habe Hacker – insbesondere Gruppen mit Verbindungen zu China und Nordkorea – dabei beobachtet, wie sie Frontier-Sprachmodelle nutzten, um Schwachstellen aufzuspüren, die herkömmliche Sicherheitsscanner völlig übersehen hätten.
Der LLM ist nicht länger nur ein passiver Berater, sondern ein aktiver Teilnehmer an der Offensive, der in der Lage ist, mit Maschinengeschwindigkeit zu orchestrieren.
Der blinde Fleck
Hier liegt das Problem. Herkömmliche Sicherheitsscanner sind im Grunde digitale Rechtschreibprüfer. Sie suchen nach Speicherlecks, Abstürzen und grundlegenden Fehlern.
Sie achten nicht auf Logik.
Dieser spezielle Zero-Day war eine fest codierte Annahme, die tief in einem beliebten webbasierten Verwaltungstool vergraben war. Zu einem Standardscanner? Der Code sah gut aus. Keine Syntaxfehler. Keine Speicherauszüge.
Aber die Logik war gebrochen. Ein Widerspruch in der Art und Weise, wie der Entwickler dachte, dass die Zwei-Faktor-Authentifizierung funktionieren sollte. Ein menschlicher Entwickler könnte es bei einer Codeüberprüfung übersehen, wenn er nicht hinschaut. Ein herkömmliches Werkzeug wird es definitiv nicht finden.
Eine KI? Es erkennt die Inkonsistenz sofort. Es liest die Absicht, nicht nur die Syntax. In dem Bericht von Google wird darauf hingewiesen, dass diese Modelle hervorragend darin sind, schwerwiegende Fehler zu finden, bei denen die Argumentation selbst dann fehlschlägt, wenn der Code kompiliert wird.
Eine rhetorische Frage. Wie sicher ist ein Tresorraum, wenn das Schloss einwandfrei funktioniert, der Bauherr aber versehentlich die Tür unverriegelt gelassen hat?
Jagd im industriellen Maßstab
Es sind nicht mehr nur clevere Tricks. Es ist ein Fließband.
Staatlich geförderte Gruppen aus Pjöngjang schießen Tausende automatisierter Eingabeaufforderungen ins Dunkel, analysieren CVEs rekursiv und validieren Proof-of-Concept-Exploits. Sie bauen ein Arsenal auf, das ein menschliches Team ohne KI-Unterstützung nicht unterhalten könnte.
Unterdessen verwenden mit Russland verbundene Akteure KI, um Malware zu schreiben, die sich selbst neu schreibt. Im Handumdrehen. Umgehung der Erkennung in Echtzeit. Früher war dafür menschliches Fachwissen auf höchstem Niveau erforderlich. Jetzt ist nur noch Rechenleistung erforderlich.
Auch Phishing hat sich verändert. Kein „Lieber Benutzer, Ihr Konto ist gefährdet“ mehr.
Angriffe sind jetzt chirurgisch. KI bildet Unternehmenshierarchien ab, findet die Person mit Administratorrechten und erstellt eine Nachricht, die so spezifisch und maßgeschneidert ist, dass sie die Bauchprüfung umgeht. High-Fidelity-Köder. Persönlich. Gefährlich.
Der Spiegeleffekt
Google hat die Massenausbeutung gestoppt, bevor sie begonnen hat. Sie haben es stillschweigend gemeldet. Den Anbieter gepatcht.
Das ist der Silberstreif am Horizont, oder was als solcher gilt. Die gleiche Technologie zur Suche nach Löchern kann auch zum Verstopfen von Löchern verwendet werden. Google setzt jetzt KI-Agenten ein, um schneller zu scannen und Patches zu erstellen, als es menschliche Teams möglicherweise könnten.
Es ist ein Rennen. Wir haben KI-Verteidiger. Sie haben KI-Angreifer. Die Tools werden immer schneller, die Entscheidungen erfolgen in Maschinengeschwindigkeit und die Grenze zwischen Codeüberprüfung und Kampf verschwindet.
Wir haben diese Systeme entwickelt, um Sprache zu verstehen. Sie verstehen jetzt, wie wir denken. Und manchmal verstehen sie unsere Fehler besser als wir.
Sie behalten also Ihr 2FA. Du bleibst wachsam. Sie patchen.
Aber der Boden bewegt sich. Und die Scanner sind nicht diejenigen, die diese Runde gewinnen. 🤖🛡️
