Meta zavedla novou funkci nazvanou AI Insights, která rodičům umožňuje sledovat běžná témata, o kterých jejich děti diskutují s Meta AI. Tento krok znamená velké rozšíření nástrojů rodičovské kontroly na Facebooku, Messengeru a Instagramu, protože společnost zápasí s rostoucím tlakem a kritikou ohledně dopadu, který její platformy mají na duševní zdraví mládeže.
Jak nová funkce funguje
Nástroj AI Insights je v současné době k dispozici rodičům dohlížejícím na účty pro mladistvé (uživatelé ve věku 13–17 let) v USA, Velké Británii, Austrálii, Kanadě a Brazílii; Očekává se, že tato funkce bude brzy uvedena globálně.
Spíše než poskytování doslovného přepisu každé konverzace – což by vyvolalo vážné obavy o soukromí – nástroj nabízí přehled na vysoké úrovni. Rodiče si mohou prohlédnout souhrn témat, která jejich děti požadovaly za posledních sedm dní.
Klíčové vlastnosti:
– Kategorizace témat: Údaje jsou seskupeny do širokých kategorií, jako je studium, zábava, životní styl, cestování, psaní a zdraví.
– Detail: V rámci těchto témat mohou rodiče vidět podkategorie, jako například móda nebo jídlo v sekci životního stylu nebo duševní zdraví v sekci zdraví a wellness.
– Nouzová upozornění: Pokud se dospívající na Instagramu zeptá na citlivá témata, jako je sebevražda nebo sebepoškozování, Meta pošle rodiči upozornění.
– Vzdělávací podpora: Ve spolupráci s Centrem pro výzkum kyberšikany poskytla Meta 11 „začátků konverzace“, aby pomohla rodičům využít tato data k diskusi o AI s jejich dětmi.
Kontext: Rostoucí právní a sociální boje
Tento start se neděje ve vzduchoprázdnu. Meta je v současné době zapojena do vážných soudních řízení ohledně bezpečnosti dětí.
Společnost v posledních měsících čelila obrovským finančním pokutám a soudním sporům, včetně rozsudku ve výši 375 milionů dolarů v případu zneužívání dětí, stejně jako soudnímu sporu v Kalifornii, který tvrdil, že Instagram a YouTube jsou vytvořeny jako návykové. Kromě toho více než 40 států USA podalo žaloby na společnost Meta, v níž tvrdí, že její platformy přispívají ke krizi duševního zdraví mládeže.
Poskytováním těchto nástrojů se Meta snaží přesunout část odpovědnosti za digitální bezpečnost na rodinu, a to i navzdory kritice, že by společnost měla dělat více na architektonické úrovni svých aplikací.
Diskuze: Bezpečnost vs. dohled
Zatímco Meta to nabízí jako způsob, jak „učinit rodičovskou kontrolu ještě cennější“, odborníci vyjádřili vážné obavy z nezamýšlených důsledků takového sledování.
1. Břemeno moderování
Sociologové a obhájci práv dětí tvrdí, že „dohled rodičů není moderování obsahu“. Rostou obavy, že s tím, jak tech giganti zavádějí méně automatizovaných ochran, efektivně přesouvají břemeno ochrany dětí na rodiče.
2. Soukromí a zranitelná mládež
Odborníci varují, že neustálý dohled by mohl odvést dospívající od bezpečných, moderovaných platforem a do „nebezpečných koutů internetu“.
– LGBTQ+ Youth: Pro mnohé v této skupině je digitální prostor životně důležitý pro nalezení komunity a podpory. Strach z rodičovské kontroly jim může bránit ve vyhledávání pomoci nebo informací online.
– Násilné prostředí: V případech domácího nebo rodinného násilí se tyto sledovací nástroje mohou neúmyslně stát mechanismem kontroly nebo sledování dětí v nebezpečných domovech.
3. Konflikt mezi ziskem a bezpečností
Donna Rice Hughesová, generální ředitelka Enough is Enough, tvrdí, že Metaho úsilí nestačí. Poukazuje na lobbistické úsilí společnosti proti zákonu o bezpečnosti dětí online jako důkaz toho, že společnost často staví zisky a angažovanost nad systémová bezpečnostní opatření.
„Rodiče prostě nemohou nadále nést toto břemeno sami,“ řekl Hughes a zdůraznil, že robustní a efektivní kontroly musí zavést všichni tech giganti, nejen Meta.
Závěr
Funkce AI Insights společnosti Meta dává rodičům nové okno do digitálního života jejich dětí, ale zůstává kontroverzní. I když poskytuje užitečné okno do trendových témat, vyvolává zásadní otázku: zda by odpovědnost za online bezpečnost měla spočívat na vývojáři platformy nebo na rodiči.
