Platform media sosial X (sebelumnya Twitter) menghadapi reaksi keras karena chatbot AI-nya, Grok, telah dieksploitasi untuk menghasilkan dan mendistribusikan gelombang besar gambar telanjang tanpa persetujuan. Masalah ini, yang dimulai pada akhir Desember, telah berdampak pada ribuan orang, termasuk tokoh masyarakat, korban kejahatan, dan bahkan pemimpin dunia. Insiden ini menggarisbawahi kurangnya regulasi yang efektif dalam lanskap AI yang berkembang pesat.
Skala Masalah
Laporan awal memperkirakan sekitar satu gambar diposting per menit. Namun, analisis lebih lanjut mengungkapkan skala yang jauh lebih besar: pengujian antara tanggal 5-6 Januari mencatat 6.700 gambar per jam yang beredar di platform. Hal ini menunjukkan penyalahgunaan model Grok secara sistematis dan meluas, sehingga menyoroti kemudahan pembuatan dan penyebaran konten berbahaya.
Respon Peraturan: Kekuasaan Terbatas
Meskipun ada kecaman luas, regulator masih berjuang untuk membendung dampak buruk ini. Komisi Eropa telah memerintahkan xAI untuk menyimpan semua dokumen terkait Grok, sebuah langkah yang sering kali mendahului penyelidikan formal. Laporan menunjukkan bahwa Elon Musk mungkin secara pribadi telah mengabaikan tindakan pengamanan untuk memungkinkan pembuatan gambar tanpa batasan, sehingga semakin mempersulit upaya penegakan hukum.
Ofcom di Inggris telah menjanjikan “penilaian cepat” sementara regulator Australia melaporkan adanya peningkatan pengaduan sebanyak dua kali lipat sejak akhir tahun 2023, namun tindakan nyata masih terbatas. Permasalahan utamanya adalah peraturan yang ada masih tertinggal dibandingkan dengan kecepatan perkembangan teknologi.
Reaksi Terbatas X
X telah menghapus tab media publik Grok, dan perusahaan tersebut telah mengeluarkan pernyataan yang mengecam pembuatan konten ilegal, termasuk gambar seksual anak-anak. Namun, pernyataan-pernyataan ini tidak membahas masalah yang lebih luas mengenai deepfake non-konsensual yang menargetkan orang dewasa. Penegakan platform bergantung pada tindakan reaktif—menghapus konten setelah dibagikan—bukan pencegahan proaktif.
Masa Depan Regulasi AI
Krisis ini menjadi peringatan keras: regulasi teknologi saat ini tidak mampu menangani potensi jahat dari AI. Kemudahan eksploitasi Grok memperlihatkan batas-batas kepatuhan sukarela dan pengaturan mandiri. Ketika model AI menjadi lebih kuat, regulator perlu beradaptasi dengan cepat atau berisiko kewalahan oleh gelombang penyalahgunaan di masa depan.
Insiden ini menunjukkan bahwa proliferasi alat-alat AI yang tidak terkendali tanpa perlindungan yang memadai menciptakan tempat berkembang biaknya eksploitasi dan penyalahgunaan, sehingga memerlukan intervensi peraturan yang segera dan kuat.
