Meta telah memperkenalkan fitur baru yang disebut AI Insights, yang memungkinkan orang tua memantau topik umum yang didiskusikan anak remajanya dengan Meta AI. Langkah ini menandai perluasan yang signifikan dari alat pengawasan orang tua di Facebook, Messenger, dan Instagram, seiring dengan upaya perusahaan untuk mengarahkan pengawasan yang lebih intensif terhadap dampaknya terhadap kesehatan mental remaja.
Cara Kerja Fitur Baru
Alat “AI Insights” saat ini tersedia bagi orang tua yang mengawasi Akun Remaja (pengguna berusia 13–17 tahun) di AS, Inggris Raya, Australia, Kanada, dan Brasil, dan peluncuran global diharapkan akan segera diluncurkan.
Daripada memberikan transkrip kata demi kata dari setiap percakapan—yang akan menimbulkan masalah privasi yang besar—alat ini memberikan gambaran umum tingkat tinggi. Orang tua dapat melihat ringkasan topik yang ditanyakan anak-anak mereka selama tujuh hari sebelumnya.
Aspek utama dari fitur ini meliputi:
– Kategori Topik: Wawasan dikelompokkan ke dalam kategori luas seperti sekolah, hiburan, gaya hidup, perjalanan, menulis, dan kesehatan.
– Rincian Terperinci: Dalam topik tersebut, orang tua dapat melihat subkategori, seperti mode atau makanan di bagian “gaya hidup”, atau kesehatan mental di bagian “kesehatan dan kesejahteraan”.
– Peringatan Darurat: Jika seorang remaja bertanya tentang topik sensitif seperti bunuh diri atau menyakiti diri sendiri di Instagram, Meta akan memicu peringatan kepada orang tua.
– Dukungan Pendidikan: Bekerja sama dengan Pusat Penelitian Penindasan Siber, Meta telah menyediakan 11 “pemula percakapan” untuk membantu orang tua menggunakan wawasan ini untuk berbicara dengan anak-anak mereka tentang AI.
Konteks: Pertarungan Hukum dan Sosial yang Berkembang
Peluncuran ini tidak terjadi dalam ruang hampa. Meta saat ini terlibat dalam perselisihan hukum yang signifikan terkait keselamatan anak.
Dalam beberapa bulan terakhir, perusahaan ini menghadapi sanksi keuangan dan tuntutan hukum yang sangat besar, termasuk penemuan kewajiban senilai $375 juta dalam kasus eksploitasi anak dan tuntutan hukum di California yang menuduh bahwa Instagram dan YouTube dirancang untuk membuat ketagihan. Selain itu, lebih dari 40 negara bagian AS telah menggugat Meta, mengklaim bahwa platformnya berkontribusi terhadap krisis kesehatan mental remaja.
Dengan menyediakan alat-alat ini, Meta berupaya mengalihkan sebagian tanggung jawab atas keamanan digital kembali ke unit keluarga, meskipun para kritikus berpendapat bahwa perusahaan harus berbuat lebih banyak pada tingkat arsitektur aplikasinya.
Perdebatan: Keamanan vs. Pengawasan
Meskipun Meta menggambarkan hal ini sebagai cara untuk “membuat pengawasan orang tua menjadi lebih berharga”, para ahli menyuarakan keprihatinan serius tentang konsekuensi yang tidak diinginkan dari pemantauan tersebut.
1. Beban Moderasi
Sosiolog dan pendukung keselamatan anak berpendapat bahwa “pengawasan orang tua bukanlah moderasi konten.” Ada kekhawatiran yang semakin besar bahwa ketika perusahaan-perusahaan teknologi besar menerapkan lebih sedikit perlindungan otomatis, mereka secara efektif mengalihkan tanggung jawab melindungi anak-anak kepada orang tua.
2. Privasi dan Remaja Rentan
Para ahli memperingatkan bahwa pengawasan terus-menerus dapat mendorong remaja menjauh dari platform yang aman dan dimoderasi dan masuk ke “sudut web yang tidak aman.”
– Pemuda Queer dan Trans: Bagi banyak remaja LGBTQ+, ruang digital sangat penting untuk menemukan komunitas dan dukungan. Ketakutan akan pengawasan orang tua dapat menghalangi mereka mencari bantuan atau informasi secara online.
– Lingkungan yang Penuh Kekerasan: Dalam kasus kekerasan dalam rumah tangga atau keluarga, alat pengawasan ini secara tidak sengaja dapat memberikan mekanisme untuk mengendalikan atau memantau anak-anak di rumah yang tidak aman.
3. Konflik Keuntungan vs. Keamanan
Donna Rice Hughes, CEO Enough is Enough, berpendapat bahwa upaya Meta tidak cukup. Dia menunjuk pada upaya lobi perusahaan terhadap Kids Online Safety Act sebagai bukti bahwa perusahaan sering kali memprioritaskan keuntungan dan keterlibatan dibandingkan langkah-langkah keamanan sistemik.
“Orang tua tidak bisa terus memikul beban ini sendirian,” kata Hughes, sambil menekankan bahwa pengendalian yang kuat dan efektif harus diterapkan oleh semua raksasa teknologi, bukan hanya Meta.
Kesimpulan
AI Insights dari Meta menawarkan kepada orang tua jendela baru mengenai kehidupan digital anak-anak mereka, namun solusi ini masih tetap kontroversial. Meskipun hal ini memberikan visibilitas yang berguna mengenai topik yang sedang tren, hal ini menimbulkan pertanyaan mendasar tentang apakah tanggung jawab atas keamanan online harus berada di tangan perancang platform atau induknya.
