Pertarungan hukum baru di Tennessee menyoroti evolusi mengerikan dalam pelecehan digital: penggunaan kecerdasan buatan untuk melucuti privasi dan martabat remaja. Gugatan class action yang diajukan pada bulan Maret terhadap xAI, perusahaan kecerdasan buatan Elon Musk, menuduh bahwa asisten AI-nya, Grok, digunakan untuk membuat gambar dan video deepfake yang eksplisit secara seksual dari gadis di bawah umur.
Mekanisme Penyalahgunaan
Gugatan tersebut, yang melibatkan tiga penggugat yang diidentifikasi sebagai “Jane Does”, menggambarkan proses di mana pelaku menggunakan foto asli—seperti gambar buku tahunan—untuk melatih model AI. Model-model ini kemudian menghasilkan konten pornografi yang sangat realistis dan non-konsensual.
Dalam satu contoh mengerikan yang dikutip dalam gugatan tersebut, AI digunakan untuk membuat video “Jane Doe 1” yang menggambarkan dia membuka pakaian sampai dia telanjang bulat. Teknologi ini tidak hanya menciptakan gambar statis; itu menyimulasikan gerakan, membuat pelanggaran terasa sangat nyata.
Beyond the Images: Penyebaran Pelecehan
Dampak buruknya tidak hanya terbatas pada pembuatan gambar-gambar tersebut, namun juga meluas hingga penggunaan gambar-gambar tersebut melalui media sosial. Menurut pengajuan hukum:
– Identifikasi yang Ditargetkan: Pelaku diduga menyebarkan gambar yang diubah dari setidaknya 18 gadis di bawah umur di Discord.
– Doxing: Untuk memaksimalkan kerusakan, gambar-gambar tersebut dilaporkan dilampirkan pada nama depan korban dan identitas sekolah tertentu.
– Distribusi Meluas: Setelah diunggah ke platform seperti Discord, gambar-gambar ini menjadi sulit untuk dibendung, sehingga menimbulkan noda digital permanen pada kehidupan para korban.
Kerugian Manusia: Dampak Psikologis dan Sosial
Meskipun teknologi ini masih baru, trauma yang ditimbulkan sangat mendalam dan bersifat pribadi. Gugatan tersebut merinci bagaimana serangan digital ini menyebabkan penderitaan di dunia nyata bagi para korban remaja:
- Kecemasan Akut: Para korban melaporkan perasaan tidak berdaya yang sangat besar mengenai siapa yang telah melihat file tersebut dan berapa lama mereka akan tetap online.
- Penarikan diri dari Sosial: Rasa takut dikenali atau dihakimi telah menyebabkan dua penggugat menghindari aktivitas normal, seperti bersekolah.
- Kerusakan Reputasi: Karena deepfake semakin sulit dibedakan dari kenyataan, para korban menghadapi kerusakan reputasi yang berkepanjangan di mata rekan-rekan dan komunitas.
Meskipun kasus khusus ini berfokus pada korban perempuan, tren yang lebih luas menunjukkan bahwa remaja laki-laki juga semakin menjadi sasaran deepfake yang dihasilkan oleh AI untuk tujuan pelecehan dan pemerasan.
Mengapa Ini Penting: Kesenjangan Akuntabilitas
Gugatan ini menimbulkan pertanyaan kritis mengenai tanggung jawab pengembang AI. Ketika alat AI generatif menjadi lebih canggih dan mudah diakses, “pagar pembatas” yang dimaksudkan untuk mencegah pembuatan konten berbahaya sering kali diabaikan.
Inti dari argumen hukumnya terletak pada apakah perusahaan seperti xAI telah berbuat cukup banyak untuk mencegah alat mereka digunakan sebagai senjata. Jika asisten AI dapat dengan mudah dimanipulasi untuk membuat konten eksplisit non-konsensual dari foto buku tahunan sederhana, teknologi tersebut menimbulkan risiko sistemik terhadap keselamatan dan privasi anak di bawah umur.
Kemampuan untuk mengubah ingatan yang sehat menjadi alat untuk eksploitasi seksual mewakili perubahan mendasar dalam cara kerja pelecehan digital, mulai dari intimidasi sederhana hingga viktimisasi yang dilakukan secara otomatis dan berteknologi tinggi.
Kesimpulan
Tindakan hukum ini menjadi peringatan penting mengenai titik temu antara teknologi AI dan keselamatan anak. Hal ini menggarisbawahi kebutuhan mendesak akan perlindungan yang lebih kuat dalam pengembangan AI untuk melindungi populasi rentan dari dampak buruk teknologi deepfake.
