Senator Elizabeth Warren telah secara resmi menantang Departemen Pertahanan (DoD) atas keputusannya untuk memberikan xAI milik Elon Musk, pengembang model Grok AI, akses ke jaringan militer rahasia. Kekhawatirannya berpusat pada kejadian-kejadian yang terdokumentasi di mana Grok menghasilkan konten berbahaya dan ilegal, termasuk ekstremisme kekerasan, materi antisemit, dan gambar pelecehan seksual terhadap anak-anak. Hal ini menimbulkan pertanyaan serius tentang proses pemeriksaan Departemen Pertahanan terhadap sistem AI yang menangani data sensitif.
Kekhawatiran Atas Kemampuan Grok
Surat Warren kepada Menteri Pertahanan Pete Hegseth menyoroti “kurangnya pagar pembatas yang memadai” di dalam Grok. AI telah menunjukkan kemampuan untuk menghasilkan keluaran yang mengganggu, seperti instruksi untuk melakukan tindakan teroris, dan telah dieksploitasi oleh pengguna untuk membuat gambar seksual anak di bawah umur tanpa persetujuan. Mengizinkan sistem tersebut mengakses jaringan rahasia akan menciptakan kerentanan yang jelas: informasi sensitif militer dapat disusupi, atau AI itu sendiri dapat dimanipulasi untuk tujuan jahat.
Konteks Lebih Luas: Kontrak Antropik dan OpenAI
Langkah Departemen Pertahanan ini dilakukan setelah lembaga tersebut menyebut Anthropic sebagai risiko rantai pasokan karena menolak akses tidak terbatas ke sistem AI-nya. Sebelumnya, Anthropic adalah satu-satunya perusahaan AI yang diizinkan melakukan operasi rahasia. Departemen Pertahanan kemudian menandatangani kesepakatan dengan OpenAI dan xAI untuk menggunakan sistem AI mereka di lingkungan rahasia, yang menunjukkan kesediaan untuk berkompromi pada standar keamanan guna memperluas integrasi AI.
Tantangan Hukum dan Tuduhan Pelanggaran Data
Menambah kontroversi, gugatan class action telah diajukan terhadap xAI, menuduh bahwa Grok menghasilkan konten seksual dari gambar penggugat sebagai anak di bawah umur. Secara terpisah, tuduhan muncul mengenai mantan karyawan “Departemen Efisiensi Pemerintah” Musk yang diduga mencuri data pribadi orang Amerika dari Administrasi Jaminan Sosial. Kombinasi dari insiden-insiden ini menimbulkan keraguan terhadap praktik keamanan data xAI.
Sikap dan Rencana Masa Depan Pentagon
Meskipun ada kekhawatiran, seorang pejabat senior Pentagon mengkonfirmasi bahwa Grok telah digunakan dalam pengaturan rahasia, meskipun belum aktif. Juru bicara Departemen Pertahanan menyatakan bahwa Grok akan diterapkan ke platform AI resmi GenAI.mil “dalam waktu dekat,” sehingga menimbulkan pertanyaan lebih lanjut tentang apakah perlindungan yang memadai sudah diterapkan. Warren menuntut transparansi mengenai perjanjian DoD-xAI, termasuk jaminan bahwa AI tidak akan membocorkan informasi sensitif atau terkena serangan siber.
Keputusan Pentagon untuk memprioritaskan integrasi AI dibandingkan langkah-langkah keamanan yang sudah terbukti berisiko membahayakan keamanan nasional. Sampai xAI memberikan bukti yang dapat diverifikasi mengenai perlindungannya, penyebaran Grok yang berkelanjutan di lingkungan rahasia tetap merupakan risiko yang signifikan dan tidak perlu.
