Meta a introduit une nouvelle fonctionnalité appelée AI Insights, permettant aux parents de surveiller les sujets généraux dont discutent leurs adolescents avec Meta AI. Cette décision marque une expansion significative des outils de supervision parentale sur Facebook, Messenger et Instagram, alors que l’entreprise tente de faire face à une surveillance de plus en plus minutieuse de son impact sur la santé mentale des jeunes.
Comment fonctionne la nouvelle fonctionnalité
L’outil « AI Insights » est actuellement disponible pour les parents qui supervisent des comptes adolescents (utilisateurs âgés de 13 à 17 ans) aux États-Unis, au Royaume-Uni, en Australie, au Canada et au Brésil, et un déploiement mondial est attendu prochainement.
Plutôt que de fournir une transcription textuelle de chaque conversation – ce qui soulèverait d’énormes problèmes de confidentialité – l’outil fournit un aperçu de haut niveau. Les parents peuvent consulter un résumé des sujets que leurs enfants ont interrogés au cours des sept jours précédents.
Les principaux aspects de la fonctionnalité incluent :
– Catégorisation des sujets : Les informations sont regroupées en grandes catégories telles que école, divertissement, style de vie, voyages, écriture et santé.
– Détails granulaires : Dans ces sujets, les parents peuvent voir des sous-catégories, telles que mode ou alimentation sous « mode de vie » ou santé mentale sous « santé et bien-être ».
– Alertes d’urgence : Si un adolescent pose des questions sur des sujets sensibles comme le suicide ou l’automutilation sur Instagram, Meta déclenchera une alerte au parent.
– Soutien pédagogique : En partenariat avec le Cyberbullying Research Center, Meta a fourni 11 « amorces de conversation » pour aider les parents à utiliser ces informations pour parler de l’IA à leurs enfants.
Le contexte : une bataille juridique et sociale croissante
Ce déploiement ne se fait pas en vase clos. Meta est actuellement impliqué dans d’importantes batailles juridiques concernant la sécurité des enfants.
Ces derniers mois, l’entreprise a fait face à des sanctions financières et à des poursuites massives, notamment une conclusion de responsabilité de 375 millions de dollars dans une affaire d’exploitation d’enfants et un procès en Californie alléguant qu’Instagram et YouTube sont conçus pour créer une dépendance. En outre, plus de 40 États américains ont poursuivi Meta, affirmant que ses plateformes contribuent à une crise de santé mentale chez les jeunes.
En fournissant ces outils, Meta tente de transférer une partie de la responsabilité de la sécurité numérique vers la cellule familiale, même si les critiques soutiennent que l’entreprise devrait faire davantage au niveau architectural de ses applications.
Le débat : sécurité contre surveillance
Alors que Meta présente cela comme un moyen de « rendre la surveillance parentale encore plus précieuse », les experts expriment de sérieuses inquiétudes quant aux conséquences involontaires d’une telle surveillance.
1. Le fardeau de la modération
Les sociologues et les défenseurs de la sécurité des enfants soutiennent que « la surveillance parentale n’est pas une modération du contenu ». On craint de plus en plus que, à mesure que les grandes entreprises technologiques mettent en œuvre moins de mesures de protection automatisées, elles déchargent effectivement le travail de protection des enfants sur les parents.
2. Vie privée et jeunes vulnérables
Les experts préviennent qu’une surveillance constante pourrait éloigner les adolescents des plateformes sécurisées et modérées et les diriger vers des « coins dangereux du Web ».
– Jeunes queer et trans : Pour de nombreux adolescents LGBTQ+, les espaces numériques sont essentiels pour trouver une communauté et du soutien. La peur de la surveillance parentale peut les empêcher de rechercher de l’aide ou des informations en ligne.
– Environnements abusifs : Dans les cas de violence domestique ou familiale, ces outils de surveillance pourraient par inadvertance fournir un mécanisme de contrôle ou de surveillance des enfants dans des foyers dangereux.
3. Le conflit entre profit et sécurité
Donna Rice Hughes, PDG de Enough is Enough, suggère que les efforts de Meta sont insuffisants. Elle souligne les efforts de lobbying de l’entreprise contre la Kids Online Safety Act comme preuve que l’entreprise donne souvent la priorité au profit et à l’engagement plutôt qu’aux mesures de sécurité systémiques.
“Les parents ne peuvent tout simplement pas continuer à assumer seuls ce fardeau”, a noté Hughes, soulignant que des contrôles robustes et efficaces doivent être mis en œuvre par tous les géants de la technologie, et pas seulement par Meta.
Conclusion
AI Insights de Meta offre aux parents une nouvelle fenêtre sur la vie numérique de leurs enfants, mais cela reste une solution controversée. Bien qu’il offre une visibilité utile sur les sujets d’actualité, il soulève des questions fondamentales quant à savoir si la responsabilité de la sécurité en ligne doit incomber au concepteur de la plateforme ou au parent.
