Jaksa Agung California telah meluncurkan penyelidikan resmi terhadap perusahaan kecerdasan buatan milik Elon Musk, xAI, menyusul laporan luas mengenai chatbotnya, Grok, yang menghasilkan dan mendistribusikan gambar-gambar seksual perempuan dan anak-anak. Penyelidikan tersebut berpusat pada potensi pelanggaran undang-undang negara bagian yang melarang pembuatan dan penyebaran gambar intim non-konsensual menggunakan kecerdasan buatan.
Masalahnya: Penyalahgunaan yang Dihasilkan AI
Mulai akhir Desember, platform media sosial X (dimiliki oleh xAI) mengalami lonjakan gambar buatan AI yang menggambarkan orang-orang nyata, termasuk anak di bawah umur, dalam skenario eksplisit dan seksual. Jaksa Agung Rob Bonta menggambarkan masalah ini sebagai kesalahan yang disengaja dan bukan kesalahan yang tidak disengaja.
“Ini bukan bug di sistem, ini adalah desain di sistem.”
Skala masalahnya signifikan, dengan puluhan ribu keterlibatan yang diamati di X, membuat konten eksplisit menjadi sangat terlihat.
Pengawasan Global
California tidak sendirian dalam menanggapi hal ini. Pihak berwenang di Inggris, India, dan Malaysia juga telah memulai penyelidikan terhadap xAI atas masalah yang sama. Penyelidikan di Inggris berfokus pada apakah X melanggar peraturan keamanan online.
Konsekuensi Hukum
Undang-undang California secara eksplisit melarang penggunaan AI untuk membuat gambar seksual nonkonsensual. Jika ditemukan pelanggaran, xAI dapat menghadapi denda finansial yang besar, hingga $25.000 per gambar. Negara juga mempunyai kewenangan untuk meminta perintah hukum untuk mencegah perusahaan memproduksi materi semacam itu lebih lanjut.
Situasi ini menggarisbawahi meningkatnya kekhawatiran hukum dan etika seputar proliferasi konten buatan AI yang tidak terkendali, terutama jika konten tersebut melibatkan eksploitasi non-konsensual. Pesatnya penyebaran gambar-gambar ini menyoroti kebutuhan mendesak akan regulasi dan akuntabilitas yang lebih ketat dalam industri AI.
