Meta ha introducido una nueva función llamada AI Insights, que permite a los padres monitorear los temas generales que sus hijos adolescentes discuten con Meta AI. Esta medida marca una expansión significativa de las herramientas de supervisión parental en Facebook, Messenger e Instagram, mientras la compañía intenta sortear un escrutinio cada vez más intenso sobre su impacto en la salud mental de los jóvenes.
Cómo funciona la nueva función
La herramienta “AI Insights” está actualmente disponible para los padres que supervisan Cuentas de adolescentes (usuarios de entre 13 y 17 años) en EE. UU., Reino Unido, Australia, Canadá y Brasil, y se espera un lanzamiento global pronto.
En lugar de proporcionar una transcripción literal de cada conversación (lo que plantearía enormes preocupaciones sobre la privacidad), la herramienta proporciona una descripción general de alto nivel. Los padres pueden ver un resumen de los temas que sus hijos han consultado durante los siete días anteriores.
Los aspectos clave de la función incluyen:
– Categorización de temas: Las ideas se agrupan en categorías amplias como escuela, entretenimiento, estilo de vida, viajes, escritura y salud.
– Detalles granulares: Dentro de esos temas, los padres pueden ver subcategorías, como moda o comida en “estilo de vida” o salud mental en “salud y bienestar”.
– Alertas de emergencia: Si un adolescente pregunta sobre temas delicados como suicidio o autolesiones en Instagram, Meta activará una alerta para los padres.
– Apoyo educativo: En asociación con el Cyberbullying Research Center, Meta ha proporcionado 11 “iniciadores de conversación” para ayudar a los padres a utilizar estos conocimientos para hablar con sus hijos sobre la IA.
El contexto: una creciente batalla legal y social
Este lanzamiento no ocurre en el vacío. Meta está actualmente envuelta en importantes batallas legales relacionadas con la seguridad infantil.
En los últimos meses, la compañía se ha enfrentado a enormes sanciones financieras y demandas, incluida una determinación de responsabilidad de 375 millones de dólares en un caso de explotación infantil y una demanda en California que alega que Instagram y YouTube están diseñados para ser adictivos. Además, más de 40 estados de EE. UU. han demandado a Meta, alegando que sus plataformas contribuyen a una crisis de salud mental juvenil.
Al proporcionar estas herramientas, Meta está intentando trasladar parte de la responsabilidad de la seguridad digital a la unidad familiar, incluso cuando los críticos argumentan que la empresa debería hacer más en el nivel arquitectónico de sus aplicaciones.
El debate: seguridad versus vigilancia
Si bien Meta plantea esto como una manera de “hacer que la supervisión de los padres sea aún más valiosa”, los expertos están planteando serias preocupaciones sobre las consecuencias no deseadas de dicha supervisión.
1. La carga de la moderación
Los sociólogos y defensores de la seguridad infantil sostienen que “la vigilancia de los padres no es moderación de contenidos”. Existe una creciente preocupación de que a medida que las grandes empresas tecnológicas implementan menos salvaguardas automatizadas, en la práctica estén transfiriendo la tarea de proteger a los niños a los padres.
2. Privacidad y juventud vulnerable
Los expertos advierten que la vigilancia constante podría alejar a los adolescentes de plataformas moderadas y seguras y llevarlos a “rincones inseguros de la web”.
– Jóvenes queer y trans: Para muchos adolescentes LGBTQ+, los espacios digitales son vitales para encontrar comunidad y apoyo. El miedo a la supervisión de los padres puede impedirles buscar ayuda o información en línea.
– Entornos abusivos: En casos de violencia doméstica o familiar, estas herramientas de vigilancia podrían proporcionar inadvertidamente un mecanismo para controlar o monitorear a los niños en hogares inseguros.
3. El conflicto entre beneficio y seguridad
Donna Rice Hughes, directora ejecutiva de Enough is Enough, sugiere que los esfuerzos de Meta son insuficientes. Señala los esfuerzos de cabildeo de la empresa contra la Ley de seguridad infantil en línea como evidencia de que la empresa a menudo prioriza las ganancias y el compromiso sobre las medidas de seguridad sistémicas.
“Los padres simplemente no pueden seguir cargando con esta carga solos”, señaló Hughes, enfatizando que todos los gigantes tecnológicos, no sólo Meta, deben implementar controles sólidos y efectivos.
Conclusión
AI Insights de Meta ofrece a los padres una nueva ventana a la vida digital de sus hijos, pero sigue siendo una solución controvertida. Si bien proporciona una visibilidad útil sobre los temas de actualidad, plantea preguntas fundamentales sobre si la responsabilidad de la seguridad en línea debe recaer en el diseñador de la plataforma o en los padres.
