Dlaczego życiorysy AI w serwisie TripAdvisor ukrywają niebezpieczne zagrożenia dla zdrowia

11

Klikasz na link. Zobacz tytuł. „Nieskazitelnie czysto.” „Popularne miejsce.” „Zachwycające recenzje.”

Wydaje się, że to prawdziwy wakacyjny raj.

Ale gdy przewiniesz stronę w dół, wszystko się zmienia.

Opinie gości pokazują zupełnie inny obraz. Jeden z podróżnych znalazł obok swojego siedzenia martwe myszy. Inny doznał zatrucia pokarmowego po zjedzeniu surowego kurczaka. Poważnie zachorowała grupa weselna licząca 68 osób.

To nie jest awaria systemu. Taka jest nowa rzeczywistość na TripAdvisor i jest niebezpieczna.

Z nowego dochodzenia przeprowadzonego przez brytyjską grupę konsumencką Which? wynika, że ​​nowe narzędzia serwisu TripAdvisor do wznawiania pracy oparte na sztucznej inteligencji systematycznie bagatelizują lub ignorują poważne zagrożenia dla zdrowia i bezpieczeństwa. Zamiast ostrzegać, te algorytmiczne podsumowania malują różowy obraz, który bezpośrednio zaprzecza przerażającym doświadczeniom prawdziwych gości.

Katastrofa w hotelu Riu Palace

Wybierz się do kurortu Riu Palace Santa Maria na Wyspach Zielonego Przylądka. Jest to pięciogwiazdkowy hotel all inclusive. AI TripAdvisor nazywa to miejsce „popularnym wśród wielu podróżnych”, zauważa jego „przestronne pokoje” i opisuje czystość jako „nieskazitelną”.

Ale jaka jest rzeczywistość? Goście narzekają na „wyjątkowo złą higienę” i brak „podstawowych standardów sprzątania”.

Jedzenie tam jest nie tylko bez smaku – jest niebezpieczne.

Jeden z gości został poczęstowany surowym kurczakiem. Inni fotografowali muchy i ptaki pełzające po naczyniach w bufecie. Jedna z kobiet znalazła w pobliżu swojego miejsca do siedzenia smażone zwłoki myszy. Rodzina zachorowała tak poważnie, że musiała pilnie wracać do domu.

„To miejsce zrujnuje Twoje wakacje i może odebrać życie”. — Opinia gościa z serwisu TripAdvisor

Kiedy Which? sprawdzało w marcu, w ostatnich recenzjach tego konkretnego hotelu znajdowały się 102 wzmianki o zatruciu pokarmowym. Pomiędzy grudniem 2025 r. a kwietniem „2026 r.” (w źródle prawdopodobnie błędnie wpisano rok 2024 lub 2025, ale podano tak, jak jest) w 32 recenzjach o niskiej punktacji zgłoszono poważne choroby. Od 2023 roku zgłoszono w tym hotelu siedem zgonów.

Trwa pozew zbiorowy obejmujący 412 urlopowiczów.

A co z sztuczną inteligencją? Nadal nazywa to miejsce „nieskazitelnie czystym”.

Nawet interaktywny planer podróży Olliego ulega błędom. Zapytany bezpośrednio, czy zatrucie pokarmowe stanowi ryzyko w Riu Palace, bot odpowiedział, że „w ogóle nie jest to prawdopodobne” i pochwalił ośrodek za „wysokie standardy higieny”.

Bagatelizowanie najgorszych naruszeń

Nie jest to odosobniony przypadek dotyczący jednego hotelu na Wyspach Zielonego Przylądka. Sztuczna inteligencja serwisu TripAdvisor stale zmiękcza język, opisując poważne incydenty związane z bezpieczeństwem.

W ośrodku Garza Blanca w Cancun w ostatnich recenzjach wspominano o przypadkach zachorowań, także wśród gości weselnych. Wznowić od AI? „Doskonała czystość” i pozytywne opinie żywieniowe.

Podobne „rozjaśnienie” otrzymał hotel Occidental Caribe na Dominikanie. W marcu goście nazwali to miejsce „katastrofą”, zwracając uwagę na zapach ścieków, pleśń i całkowity brak wody w kranach. Jeden z gości wziął prysznic, używając wody butelkowanej. W podsumowaniu AI podkreślono „wystarczające udogodnienia” i jedynie mgliście wspomniano o „niespójnym” poziomie czystości.

Jednak najbardziej niepokojące przypadki dotyczą nie tylko złej żywności, ale także bezpieczeństwa ludzi.

W Antalyi w Turcji goście hotelu Kaia Coracesium zgłosili molestowanie seksualne. Personel płci męskiej opowiadał niestosowne żarty, podążał za gośćmi do ich pokoi i zmuszał kobiety do udostępniania danych w mediach społecznościowych. Jeden kelner poszedł za gościem po schodach.

Sztuczna inteligencja serwisu TripAdvisor określiła usługę jako „przyjazną”. Jedyna wzmianka o tych opłatach?

„Niektóre [awarie] w służbie są zauważane przez nielicznych”.

Zwróć uwagę na to sformułowanie. „Błędy”. “Kilka”. Sztuczna inteligencja zamienia molestowanie seksualne i prześladowanie w drobne błędy w obsłudze.

Jak sztuczna inteligencja „myśli” (i dlaczego jest uszkodzona)

Strona Tripadvisor twierdzi, że jej sztuczna inteligencja wykorzystuje duże modele językowe do identyfikowania typowych tematów. Firma mówi o swoim zaangażowaniu w przejrzystość, pokazując zarówno pozytywne, jak i negatywne recenzje. Życiorysy są aktualizowane co miesiąc na podstawie informacji zwrotnych z ostatnich 12 miesięcy.

Ale implementacja jest wadliwa (wadliwa – słaba jakość/błędna).

Wydaje się, że algorytm przedkłada częstotliwość wzmianek nad wagę problemu. Jeśli słowo „czysty” jest często wymieniane, nawet przez mniejszość, wysuwa się ono na pierwszy plan. Jeśli jeden z recenzentów szczegółowo opisuje dolegliwość, sztuczna inteligencja może to przeoczyć lub złagodzić język, zwłaszcza jeśli inni goście wspominają o „dobrej obsłudze” lub „ładnym widoku”.

Język jest również dziwnie uogólniony. Sztuczna inteligencja unika określonych słów kluczowych, takich jak „zatrucie pokarmowe”, „napaść na tle seksualnym” czy „pleśń”. Woli określenia niejasne, neutralne, które nie onieśmielają użytkownika.

Czy o to właśnie chodzi?

Żebyś klikał? Aby przychody z reklam nie wyschły? A może po prostu AI nie ma niuansów pozwalających zrozumieć kontekst?

Google radzi sobie lepiej

Główny punkt. Życiorysy AI Google radzą sobie z tym znacznie lepiej.

W przypadku tego samego pałacu Riu recenzja Google ostrzega przed „możliwością zachorowania” i odnotowuje „wybuchy chorób”. Wspomina o obawach związanych z ptakami w bufetach. Nie ukrywa zagrożenia.

Porównajmy to z hotelem Britannia International w Londynie, który Which? jest najgorszy od ponad dziesięciu lat. AI TripAdvisor twierdzi, że goście „często chwalą czyste pokoje”, a atmosfera jest „urocza”.

Google twierdzi, że hotel jest „często oceniany jako jedna z najgorszych sieci hotelowych w Wielkiej Brytanii”, podkreślając „brudne” warunki i „straszną” obsługę.

Jedna sztuczna inteligencja podsumowuje prawdę. Drugi to marketing.

Niebezpieczeństwa związane z treściami „łatwymi do odczytania”.

Rzecznik serwisu Tripadvisor upiera się, że te podsumowania nie zastępują pojedynczych recenzji. To tylko zarys sytuacji. Użytkownicy muszą skorzystać z linków, aby zobaczyć pełny kontekst.

Rory Boland, redaktor magazynu Which? Travel, uważa tę radę za niewystarczającą.

„To ignorowanie faktu, że [Tripadvisor] podjął decyzję o umieszczeniu tych podsumowań na górze strony” – mówi Boland. „Ten niefortunny brak kluczowych informacji dotyczących bezpieczeństwa jest niedopuszczalny. I potencjalnie śmiertelny”.

On ma rację. Większość podróżnych nie przewinie dalej niż recenzje. Większość zaufa CV. Większość zarezerwuje „nieskazitelnie czysty” pokój.

Który? radzi przewinąć obok CV AI. Przeczytaj recenzje jednogwiazdkowe. Sprawdź inne strony. Upewnij się, że jakość jedzenia. Upewnij się, że jest to bezpieczne. Sprawdź wszystko.

Ponieważ sztuczna inteligencja nie pilnuje twoich pleców. Śledzi tonację.

I nie zauważa potworów w bufecie.

Są recenzje. Są ostrzeżenia. Są one jednak ukryte pod warstwami algorytmicznego połysku.

Czy jesteś gotowy, aby je wykopać?

Poprzedni artykułJak rozwiązać zagadkę Połączenia NYT z 11 czerwca 2024 r. (Puzzle #1096)