Meta ha introdotto una nuova funzionalità chiamata AI Insights, che consente ai genitori di monitorare gli argomenti generali di cui i loro adolescenti discutono con Meta AI. Questa mossa segna una significativa espansione degli strumenti di supervisione dei genitori su Facebook, Messenger e Instagram, mentre l’azienda tenta di affrontare un controllo sempre più intenso sul suo impatto sulla salute mentale dei giovani.
Come funziona la nuova funzionalità
Lo strumento “AI Insights” è attualmente disponibile per i genitori che supervisionano gli Account per adolescenti (utenti di età compresa tra 13 e 17 anni) negli Stati Uniti, nel Regno Unito, in Australia, Canada e Brasile, con un’implementazione globale prevista a breve.
Invece di fornire una trascrizione letterale di ogni conversazione, cosa che solleverebbe enormi preoccupazioni sulla privacy, lo strumento fornisce una panoramica di alto livello. I genitori possono visualizzare un riepilogo degli argomenti su cui i loro figli hanno posto domande negli ultimi sette giorni.
Gli aspetti principali della funzionalità includono:
– Categorizzazione degli argomenti: gli approfondimenti sono raggruppati in ampie categorie come scuola, intrattenimento, stile di vita, viaggi, scrittura e salute.
– Dettagli granulari: All’interno di questi argomenti, i genitori possono visualizzare sottocategorie, come moda o cibo nella sezione “stile di vita” o salute mentale nella sezione “salute e benessere”.
– Avvisi di emergenza: se un adolescente fa domande su argomenti delicati come suicidio o autolesionismo su Instagram, Meta attiverà un avviso per il genitore.
– Supporto educativo: In collaborazione con il Cyberbullismo Research Center, Meta ha fornito 11 “avviatori di conversazione” per aiutare i genitori a utilizzare queste informazioni per parlare ai propri figli dell’intelligenza artificiale.
Il contesto: una crescente battaglia legale e sociale
Questo lancio non avviene nel vuoto. Meta è attualmente coinvolta in importanti battaglie legali riguardanti la sicurezza dei bambini.
Negli ultimi mesi, la società ha dovuto affrontare ingenti sanzioni finanziarie e azioni legali, tra cui una accertamento di responsabilità da 375 milioni di dollari in un caso di sfruttamento minorile e una causa in California in cui si sosteneva che Instagram e YouTube sono progettati per creare dipendenza. Inoltre, oltre 40 stati degli Stati Uniti hanno fatto causa a Meta, sostenendo che le sue piattaforme contribuiscono alla crisi di salute mentale dei giovani.
Fornendo questi strumenti, Meta sta tentando di trasferire parte della responsabilità della sicurezza digitale al nucleo familiare, anche se i critici sostengono che l’azienda dovrebbe fare di più a livello architettonico delle sue app.
Il dibattito: sicurezza contro sorveglianza
Mentre Meta lo considera un modo per “rendere la supervisione dei genitori ancora più preziosa”, gli esperti sollevano serie preoccupazioni sulle conseguenze indesiderate di tale monitoraggio.
1. Il peso della moderazione
Sociologi e difensori della sicurezza infantile sostengono che “la sorveglianza dei genitori non è moderazione dei contenuti”. Vi è una crescente preoccupazione che, poiché le grandi aziende tecnologiche implementano meno garanzie automatizzate, stanno effettivamente scaricando il lavoro di protezione dei bambini sui genitori.
2. Privacy e giovani vulnerabili
Gli esperti avvertono che una sorveglianza costante potrebbe allontanare gli adolescenti da piattaforme sicure e moderate e spingerli in “angoli non sicuri del web”.
– Giovani queer e trans: per molti adolescenti LGBTQ+, gli spazi digitali sono vitali per trovare comunità e sostegno. La paura del monitoraggio dei genitori può impedire loro di cercare aiuto o informazioni online.
– Ambienti abusivi: in caso di violenza domestica o familiare, questi strumenti di sorveglianza potrebbero inavvertitamente fornire un meccanismo per controllare o monitorare i bambini in case non sicure.
3. Il conflitto tra profitto e sicurezza
Donna Rice Hughes, CEO di Enough is Enough, suggerisce che gli sforzi di Meta sono insufficienti. Indica gli sforzi di lobbying dell’azienda contro il Kids Online Safety Act come prova del fatto che l’azienda spesso dà priorità al profitto e all’impegno rispetto alle misure di sicurezza sistemiche.
“I genitori semplicemente non possono continuare a sostenere questo peso da soli”, ha osservato Hughes, sottolineando che controlli robusti ed efficaci devono essere implementati da tutti i giganti della tecnologia, non solo da Meta.
Conclusione
AI Insights di Meta offre ai genitori una nuova finestra sulla vita digitale dei loro figli, ma rimane una soluzione controversa. Sebbene fornisca un’utile visibilità sugli argomenti di tendenza, solleva domande fondamentali sul fatto se la responsabilità della sicurezza online debba spettare al progettista della piattaforma o al genitore.
