Обіцянка, пов’язана з ІІ-агентами, полягає у зручності. Ми хочемо, щоб вони підкидали погоду, встановлювали таймери або знаходили найближчу піцерію без зусиль з нашого боку. Але є дивний збій у системі, коли ці цифрові слуги вирішують інтерпретувати шум фону як команду. Ми всі бачили страшні історії. Хтось просить пісню, а пристрій замовляє ляльковий будиночок. Це звучить як жарт, але для залучених людей це справжня помилка розпізнавання намірів.
Розбір інциденту з телевізором у Сан-Дієго
Нещодавній ефір на каналі CW6 у Сан-Дієго перетворився на стрес-тест для голосових розумних колонок у реальному світі. Ведучі обговорювали дивну історію з Техасу: шестирічна дівчинка використовувала сімейну Amazon Echo, щоб замовити ляльковий будиночок та чотири фунти печива. Дитина, мабуть, просто хотіла пограти, але програмне забезпечення розпізнавання голосу сприйняло це буквально.
Тут цікаво. Коли команда новин повідомляла про цю випадкову покупку, вони ненавмисно активували пристрої Echo в будинках своїх глядачів. Ведучі говорили чітко, але конкретне формулювання історії спрацювало як слово пробудження або тригер команди для обладнання, що знаходиться поблизу.
«Зачеплені пристрої сумлінно оформили замовлення на ляльковий будиночок. Ринок нерухомості лялькових будиночків пережив короткочасний бум».
Ми не знаємо, чи були ці вторинні замовлення фактично опрацьовані як транзакції. За замовчуванням налаштування Amazon часто дозволяють покупкам проходити, якщо не потрібно голосовий профіль або PIN-код. У звіті наголошується на критичній вразливості в тому, як ці системи обробляють контекстний аудіо. Пристрої не могли відрізнити команду, видану дитиною в Техасі, від повідомлення про те, що дитина транслюється по телебаченню в Каліфорнії.
Чому голосові помічники неправильно інтерпретують фонові медіа
Це не ізольований інцидент. Явище реакції розумних колонок на аудіо з телевізорів чи радіоприймачів — це відома проблема голосових цифрових асистентів. Технологія покладається на мікрофони, які слухають. Щоб вловити слово пробудження — будь то «Аліса», «Окей, Google» або «Кортан» — пристрій має постійно аналізувати аудіо-середовище.
Коли ведучий каже: “Алекса замовила ляльковий будиночок”, слово “Алекса” діє як тригер. Пристрій прокидається. Потім воно транскрибує навколишні слова. Якщо зміст промови збігається із запитом на купівлю, система може приступити до її виконання. Бізнес-модель Amazon сильно спирається на покупку в один клік, що робить бар’єр для випадкових замовлень досить низьким для незахищених пристроїв.
Я стикався з подібною поведінкою з Google Home. У мене є один у вітальні. Він іноді втручався, коли дивився «Нестримних», приймаючи діалог за команди. На щастя він ніколи не оформлював замовлення. Найгірше, що він зробив, це вибачився за те, що не зрозумів, що, на його думку, я сказав. Але потенціал є. Апаратне забезпечення слухає. Програмне забезпечення вгадує. І іноді це вгадування коштує дорого.
Компроміс між приватністю та безпекою
Ця зручність має і темну сторону. Ці пристрої по суті є мікрофонами у вашій вітальні, які постійно чекають на дозвіл заговорити. Питання, яке не дає спати активістам із захисту конфіденційності, просте: скільки вашого життя кешується?
Коли пристрій неправильно інтерпретує телешоу, він обробляє ваше оточення. Це викликає серйозні побоювання щодо ризиків для конфіденційності розумного будинку. Якщо хакер може обдурити Алексу та змусити її зробити замовлення, чи може він змусити її записати приватну розмову? Чи може вона використовувати її як віддалений пункт прослуховування? Wired опублікував глибоке дослідження цих уразливостей у грудні минулого року, докладно описавши, як легко ці системи можна скомпрометувати чи заплутати.
Поточна конфігурація покладає тягар безпеки користувача. Amazon і Google заохочують налаштування голосових профілів або покупку PIN-кодів, але не застосовують їх за промовчанням. Ви повинні активно погоджуватися на захист. Для багатьох цей додатковий крок є перешкодою, з якою вони не готові миритися.
Як захистити ваші пристрої розумного будинку
Промисловість рухається, але повільно. Можливо, у майбутньому ми побачимо, як більше компаній за промовчанням впроваджуватимуть стратегії автентифікації. Уявіть світ, де ваш помічник відмовляється замовляти таксі або купувати продукти, поки ви не підтвердите свою особу за допомогою голосового відбитка або другого пристрою. Це дратуватиме, безумовно, але це запобігатиме інциденту з ляльковим будиночком.
До того часу вам потрібно бути проактивним. Якщо ви інтегруєте голосові розумні колонки у свій будинок, ви повинні правильно їх налаштувати.
- Увімкніть голосові профілі: Це допомагає пристрою розрізняти вас та ведучого новин.
- Налаштуйте PIN-коди для покупок: Вимагайте код для будь-якої транзакції. Це повністю вирішує проблему «випадкового замовлення».
- Перевірте конфіденційність: Переконайтеся, що ваш пристрій зберігає історію голосу. Ви можете автоматично видаляти записи за певний період.
- Відключайте звук за потреби: Більшість пристроїв мають фізичну кнопку вимкнення звуку. Використовуйте її. Вона вимикає живлення мікрофона.
Привабливість цифрової допомоги є сильною. Обіцянка будинку, який передбачає ваші потреби, переконлива. Але ця зручність має свою ціну: дані, конфіденційність та випадкові несподівані постачання меблів. Для деяких ризик занадто високий. Вони віддають перевагу тиші. Для інших кілька помилкових лялькових будиночків — це податок за життя в майбутньому. Технологія вдосконалюється, але вона ідеальна. І доки вона не стане такою, ви так само захищені, як і налаштування, які ви вирішуєте ігнорувати.
