AI membantu Anda menulis email. Ia merencanakan liburan. Itu membuat spreadsheet terlihat bagus.
Tapi menurut Google? Hal ini juga mengajarkan pelaku kejahatan bagaimana membobol sistem yang kita bahkan tidak tahu bisa dibobol.
Ancaman. Yang besar. Eksploitasi zero-day yang ditemukan oleh model AI yang menangkap kelemahannya sebelum orang lain dapat mengeksploitasinya dalam skala besar. Grup Intelijen Ancaman Google mengatakan mereka menyaksikan para peretas—khususnya kelompok yang terkait dengan Tiongkok dan Korea Utara—menggunakan model bahasa terdepan untuk memburu kerentanan yang tidak sepenuhnya terdeteksi oleh pemindai keamanan tradisional.
LLM tidak lagi sekedar nasihat pasif tetapi partisipan aktif dalam pelanggaran, mampu melakukan orkestrasi dengan kecepatan mesin.
Titik Buta
Inilah masalahnya. Pemindai keamanan tradisional pada dasarnya adalah pemeriksa ejaan digital. Mereka mencari kebocoran memori, kerusakan, kesalahan dasar.
Mereka tidak melihat logika.
Zero-day spesifik ini adalah asumsi hardcode yang terkubur jauh di dalam alat administrasi berbasis web yang populer. Ke pemindai standar? Kodenya tampak baik-baik saja. Tidak ada kesalahan sintaksis. Tidak ada dump memori.
Tapi logikanya rusak. Kontradiksi dalam cara kerja autentikasi dua faktor menurut pengembang. Pengembang manusia mungkin melewatkannya dalam tinjauan kode jika mereka tidak melihatnya. Alat tradisional pasti tidak akan menemukannya.
Sebuah AI? Ini segera menunjukkan ketidakkonsistenan. Bunyinya maksudnya, bukan hanya sintaksisnya. Laporan Google mencatat bahwa model-model ini unggul dalam menemukan kelemahan tingkat tinggi ketika alasannya gagal meskipun kodenya dikompilasi.
Satu pertanyaan retoris. Seberapa amankah sebuah lemari besi jika kuncinya berfungsi sempurna, namun pembuatnya secara tidak sengaja membiarkan pintunya tidak terkunci?
Perburuan Skala Industri
Ini bukan sekedar trik pintar lagi. Ini adalah jalur perakitan.
Kelompok-kelompok yang disponsori negara dari Pyongyang meluncurkan ribuan perintah otomatis ke dalam kegelapan, menganalisis CVE secara rekursif dan memvalidasi eksploitasi pembuktian konsep. Mereka sedang membangun persenjataan yang tidak mungkin dikelola oleh tim manusia tanpa bantuan AI.
Sementara itu, aktor yang memiliki hubungan dengan Rusia menggunakan AI untuk menulis malware yang dapat menulis ulang dirinya sendiri. Dengan cepat. Menghindari deteksi secara real-time. Hal ini dulunya memerlukan keahlian manusia tingkat atas. Sekarang hanya membutuhkan komputasi.
Phishing juga berubah. Tidak ada lagi ucapan “Pengguna yang terhormat, akun Anda telah disusupi.”
Serangan sekarang bersifat bedah. AI memetakan hierarki perusahaan, menemukan orang yang memiliki hak istimewa admin, dan menyusun pesan yang sangat spesifik, sangat disesuaikan, sehingga tidak memerlukan pemeriksaan langsung. Umpan dengan ketelitian tinggi. Pribadi. Berbahaya.
Efek Cermin
Google menghentikan eksploitasi massal sebelum dimulai. Mereka menandainya secara diam-diam. Menambal vendor.
Itulah hikmahnya, atau apa yang dianggap salah satunya. Teknologi yang sama untuk mencari lubang dapat digunakan untuk menutupnya. Google kini mengerahkan agen AI untuk memindai dan menambal lebih cepat daripada yang bisa dilakukan tim manusia.
Ini adalah perlombaan. Kami memiliki pembela AI. Mereka memiliki penyerang AI. Alat-alatnya semakin cepat, pengambilan keputusan terjadi pada kecepatan mesin, dan batas antara peninjauan kode dan pertarungan semakin menghilang.
Kami membangun sistem ini untuk memahami bahasa. Mereka sekarang memahami cara berpikir kita. Dan terkadang, mereka memahami kesalahan kita lebih baik daripada kita.
Jadi, Anda tetap mempertahankan 2FA Anda. Anda tetap waspada. Anda menambal.
Namun tanah terus bergerak. Dan bukan pemindai yang memenangkan babak ini. 🤖🛡️
