Janji agen AI seharusnya adalah kenyamanan. Kami ingin mereka mengetahui cuaca, menyetel pengatur waktu, atau menemukan tempat pizza terdekat tanpa perlu repot. Namun ada kesalahan aneh pada matriks ketika pelayan digital ini memutuskan untuk menafsirkan kebisingan latar belakang sebagai sebuah perintah. Kita semua pernah melihat cerita horor. Seseorang meminta sebuah lagu, dan perangkat tersebut malah memesan rumah boneka. Kedengarannya seperti lelucon, tetapi bagi orang-orang yang terlibat, ini benar-benar kegagalan dalam mengenali niat.
Insiden TV San Diego Dijelaskan
Siaran baru-baru ini di CW6 di San Diego berubah menjadi uji stres dunia nyata bagi speaker pintar yang diaktifkan dengan suara. Pembawa berita sedang mendiskusikan kisah aneh dari Texas: seorang gadis berusia enam tahun menggunakan Amazon Echo milik keluarganya untuk memesan rumah boneka dan empat pon kue. Anak itu mungkin hanya ingin bermain, tetapi perangkat lunak pengenalan suara mengartikannya secara harfiah.
Di sinilah hal menjadi aneh. Saat tim berita melaporkan pembelian yang tidak disengaja ini, mereka secara tidak sengaja memicu perangkat Echo di rumah pemirsa mereka sendiri. Pembawa berita berbicara dengan jelas, tetapi ungkapan spesifik dari cerita tersebut bertindak sebagai kata peringatan atau pemicu perintah untuk perangkat keras di dekatnya.
“Perangkat yang terkena dampak dengan patuh memesan rumah boneka. Pasar real estat rumah boneka mengalami ledakan singkat.”
Kami tidak tahu apakah pesanan sekunder ini benar-benar diproses sebagai transaksi. Pengaturan default Amazon sering kali mengizinkan pembelian dilakukan kecuali profil suara atau PIN diperlukan. Laporan ini menyoroti kerentanan kritis dalam cara sistem ini menangani audio kontekstual. Perangkat tersebut tidak membedakan antara perintah yang dikeluarkan oleh seorang anak di Texas dan laporan tentang anak tersebut yang disiarkan di televisi di California.
Mengapa Asisten Suara Salah Menafsirkan Media Latar Belakang
Ini bukanlah kejadian yang terisolasi. Fenomena speaker pintar yang bereaksi terhadap audio dari televisi atau radio adalah masalah umum pada asisten digital yang diaktifkan dengan suara. Teknologi ini mengandalkan mikrofon yang selalu mendengarkan. Untuk menangkap kata bangun—apakah itu “Alexa”, “Hai Google”, atau “Cortana”—perangkat harus terus-menerus mengambil sampel lingkungan audio.
Saat pembawa acara TV berkata, “Alexa memesan rumah boneka”, kata “Alexa” bertindak sebagai pemicunya. Perangkat akan aktif. Ia kemudian menyalin kata-kata di sekitarnya. Jika isi pidato cocok dengan permintaan belanja, sistem dapat melanjutkan untuk mengeksekusinya. Model bisnis Amazon sangat bergantung pada pembelian sekali klik, sehingga hambatan masuk bagi pesanan yang tidak disengaja menjadi cukup rendah untuk perangkat yang tidak aman.
Saya pernah mengalami perilaku serupa dengan Google Home. Saya memiliki satu di ruang tamu saya. Kadang-kadang terdengar saat saya menonton Selalu Cerah di Philadelphia, salah mengira dialog sebagai perintah. Untungnya, belum pernah memesan. Hal terburuk yang dilakukannya adalah meminta maaf karena tidak memahami apa yang saya katakan. Tapi potensinya ada. Perangkat keras mendengarkan. Perangkat lunak ini menebak. Dan terkadang, tebakannya itu mahal.
Pertukaran Privasi dan Keamanan
Ada sisi gelap dari kenyamanan ini. Perangkat ini pada dasarnya adalah mikrofon di ruang tamu Anda, yang selalu menunggu izin untuk berbicara. Pertanyaan yang membuat para pendukung privasi terjaga di malam hari adalah sederhana: seberapa banyak hidup Anda yang disimpan dalam cache?
Saat perangkat salah menafsirkan acara TV, perangkat sedang memproses lingkungan Anda. Hal ini menimbulkan kekhawatiran serius tentang risiko privasi rumah pintar. Jika seorang peretas dapat mengelabui Alexa agar melakukan pemesanan, dapatkah mereka mengelabuinya agar merekam percakapan pribadi? Bisakah mereka menggunakannya sebagai pos mendengarkan jarak jauh? Wired mempublikasikan penjelasan mendalam tentang kerentanan ini pada bulan Desember lalu, merinci betapa mudahnya sistem ini dapat disusupi atau dikacaukan.
Pengaturan saat ini memberikan beban keamanan pada pengguna. Amazon dan Google mendorong Anda untuk mengatur profil suara atau membeli PIN, namun mereka tidak menerapkannya secara default. Anda harus secara aktif ikut serta dalam perlindungan. Bagi banyak orang, langkah ekstra ini merupakan titik gesekan yang tidak ingin mereka atasi.
Cara Melindungi Perangkat Rumah Pintar Anda
Industri ini bergerak, namun lambat. Kita mungkin melihat lebih banyak perusahaan menerapkan strategi autentikasi secara default di masa mendatang. Bayangkan sebuah dunia di mana asisten Anda menolak memesan taksi atau membeli bahan makanan kecuali Anda memverifikasi identitas Anda melalui voice print atau perangkat sekunder. Memang menjengkelkan, tapi itu akan mencegah insiden rumah boneka.
Sampai saat itu tiba, Anda harus proaktif. Jika Anda mengintegrasikan speaker pintar yang diaktifkan dengan suara ke dalam rumah, Anda harus mengonfigurasinya dengan benar.
- Aktifkan Profil Suara: Ini membantu perangkat membedakan antara Anda dan pembawa acara TV.
- Atur PIN Pembelian: Memerlukan kode untuk transaksi apa pun. Ini menghentikan sepenuhnya masalah “urutan tidak disengaja”.
- Tinjau Pengaturan Privasi: Periksa cara perangkat Anda menyimpan riwayat suara. Anda sering kali dapat menghapus rekaman secara otomatis setelah jangka waktu tertentu.
- Bisukan Saat Dibutuhkan: Sebagian besar perangkat memiliki tombol bisu fisik. Gunakan itu. Ini memutus aliran listrik ke mikrofon.
Daya tarik bantuan digital sangat kuat. Janji akan rumah yang memenuhi kebutuhan Anda sangatlah menarik. Namun kenyamanan itu harus dibayar mahal: data, privasi, dan pengiriman furnitur yang tidak terduga. Bagi sebagian orang, risikonya terlalu tinggi. Mereka lebih memilih keheningan. Bagi yang lain, beberapa rumah boneka yang salah hanyalah pajak untuk hidup di masa depan. Teknologi sudah semakin maju, namun belum sempurna. Dan sampai saat ini, Anda hanya seaman pengaturan yang Anda pilih untuk diabaikan.
