Obietnicą agentów AI jest wygoda. Chcemy, żeby bez żadnego wysiłku z naszej strony zmieniali pogodę, ustawiali timery czy znajdowali najbliższą pizzerię. Jednak w systemie występuje dziwna usterka, polegająca na tym, że cyfrowe sługi decydują się interpretować szum tła jako polecenie. Wszyscy widzieliśmy przerażające historie. Ktoś prosi o piosenkę, a urządzenie prosi o domek dla lalek. Brzmi to jak żart, ale dla zaangażowanych osób jest to prawdziwy błąd w rozpoznawaniu intencji.
Analiza incydentu telewizyjnego w San Diego
Niedawna transmisja na antenie CW6 w San Diego zamieniła się w rzeczywisty test warunków skrajnych dla inteligentnych głośników aktywowanych głosem. Gospodarze omówili dziwną historię z Teksasu: sześcioletnia dziewczynka skorzystała z rodzinnego Amazon Echo, aby zamówić domek dla lalek i cztery funty ciasteczek. Dziecko prawdopodobnie chciało się po prostu pobawić, ale oprogramowanie rozpoznające głos potraktowało to dosłownie.
Tutaj robi się ciekawie. Kiedy zespół informacyjny poinformował o tym przypadkowym zakupie, nieumyślnie aktywował urządzenia Echo w domach swoich widzów. Prezenterzy mówili wyraźnie, ale konkretne sformułowanie historii zadziałało jak słowo pobudki lub sygnał wywołujący polecenie dla pobliskiego sprzętu.
“Urządzenia, których dotyczy problem, w dobrej wierze złożyły zamówienie na domek dla lalek. Rynek nieruchomości w postaci domków dla lalek przeżył krótki okres rozkwitu. “
Nie wiemy, czy te zamówienia wtórne zostały faktycznie zrealizowane jako transakcje. Domyślne ustawienia Amazon często pozwalają na realizację zakupów, chyba że wymagany jest profil głosowy lub kod PIN. W raporcie podkreślono krytyczną lukę w sposobie, w jaki te systemy obsługują dźwięk kontekstowy. Urządzenia nie potrafiły odróżnić polecenia wydanego przez dziecko w Teksasie od komunikatu, że dane dziecko jest transmitowane w telewizji w Kalifornii.
Dlaczego asystenci głosowi błędnie interpretują multimedia w tle
To nie jest odosobniony przypadek. Zjawisko reakcji inteligentnych głośników na dźwięk z telewizora lub radia to znany problem związany z cyfrowymi asystentami aktywowanymi głosem. Technologia opiera się na mikrofonach, które stale nasłuchują. Aby wychwycić słowo budzące — niezależnie od tego, czy jest to „Alice”, „Hej Google” czy „Cortana” — urządzenie musi stale analizować środowisko dźwiękowe.
Kiedy prezenter mówi: „Alexa zamówiła domek dla lalek”, słowo „Alexa” działa jak wyzwalacz. Urządzenie się budzi. Następnie dokonuje transkrypcji otaczających słów. Jeśli treść wypowiedzi jest zgodna z żądaniem zakupu, system może przystąpić do jego realizacji. Model biznesowy Amazona w dużej mierze opiera się na zakupach za pomocą jednego kliknięcia, co sprawia, że bariera dla przypadkowych zamówień w przypadku niezabezpieczonych urządzeń jest dość niska.
Spotkałem się z podobnym zachowaniem w przypadku Google Home. Mam takiego w salonie. Czasami wtrącał się, gdy oglądałem Niezniszczalnych, myląc dialogi z poleceniami. Na szczęście nigdy nie składał zamówień. Najgorsze, co zrobił, to przeprosił za to, że nie zrozumiał, co według niego powiedziałem. Ale jest potencjał. Sprzęt słucha. Oprogramowanie zgaduje. A czasami to zgadywanie ma swoją cenę.
Kompromis między prywatnością a bezpieczeństwem
Ta wygoda ma też swoją ciemną stronę. Urządzenia te to w zasadzie mikrofony w Twoim salonie, stale czekające na pozwolenie na zabranie głosu. Pytanie, które nurtuje działaczy na rzecz ochrony prywatności, jest proste: jaka część Twojego życia jest przechowywana w pamięci podręcznej?
Kiedy urządzenie błędnie zinterpretuje program telewizyjny, przetwarza Twoje otoczenie. Rodzi to poważne obawy dotyczące zagrożeń związanych z prywatnością w inteligentnym domu. Jeśli haker może nakłonić Alexę do złożenia zamówienia, czy może nakłonić ją do nagrania prywatnej rozmowy? Czy może go używać jako stanowiska zdalnego odsłuchu? W grudniu zeszłego roku Wired opublikował szczegółowe spojrzenie na te luki, szczegółowo opisując, jak łatwo można złamać lub zaciemnić te systemy.
Bieżąca konfiguracja nakłada ciężar bezpieczeństwa na użytkownika. Amazon i Google zachęcają do konfigurowania profili głosowych lub kupowania kodów PIN, ale domyślnie ich nie wymuszają. Musisz aktywnie zgodzić się na obronę. Dla wielu ten dodatkowy krok jest przeszkodą, której nie chcą zaakceptować.
Jak chronić inteligentne urządzenia domowe
Branża się rozwija, ale powoli. Być może w przyszłości więcej firm domyślnie wdroży strategie uwierzytelniania. Wyobraź sobie świat, w którym Twój asystent odmawia zamówienia taksówki lub zakupu artykułów spożywczych, dopóki nie zweryfikujesz swojej tożsamości za pomocą odcisku głosu lub drugiego urządzenia. Będzie to oczywiście denerwujące, ale zapobiegnie incydentowi w domku dla lalek.
Do tego czasu musisz działać proaktywnie. Jeśli integrujesz inteligentne głośniki aktywowane głosem w swoim domu, musisz je poprawnie skonfigurować.
- Włącz profile głosowe: Dzięki temu urządzenie może odróżnić Ciebie od prezentera wiadomości.
- Konfiguruj kody PIN dla zakupów: Wymagaj kodu przy każdej transakcji. To całkowicie rozwiązuje problem „losowej kolejności”.
- Sprawdź swoje ustawienia prywatności: Sprawdź, jak Twoje urządzenie przechowuje Twoją historię głosową. Możesz automatycznie usuwać wpisy po upływie określonego czasu.
- Wyciszenie, jeśli to konieczne: Większość urządzeń ma fizyczny przycisk wyciszenia. Użyj tego. Wyłącza zasilanie mikrofonu.
Atrakcyjność pomocy cyfrowej jest duża. Obietnica domu, który przewiduje Twoje potrzeby, jest przekonująca. Ale ta wygoda ma swoją cenę: dane, prywatność i okazjonalna nieoczekiwana dostawa mebli. Dla niektórych ryzyko jest zbyt duże. Wolą ciszę. Dla innych kilka wprowadzonych w błąd domków dla lalek to po prostu podatek na życie w przyszłości. Technologia się poprawia, ale nie jest doskonała. Dopóki tak się nie stanie, będziesz chroniony tylko na tyle, na ile ustawienia, które zignorujesz.
