Meta heeft een nieuwe functie geïntroduceerd genaamd AI Insights, waarmee ouders de algemene onderwerpen die hun tieners bespreken met Meta AI kunnen volgen. Deze stap markeert een aanzienlijke uitbreiding van de tools voor ouderlijk toezicht op Facebook, Messenger en Instagram, terwijl het bedrijf probeert om te gaan met het toenemende toezicht op de impact ervan op de geestelijke gezondheid van jongeren.
Hoe de nieuwe functie werkt
De tool ‘AI Insights’ is momenteel beschikbaar voor ouders die toezicht houden op Tieneraccounts (gebruikers van 13 tot en met 17 jaar) in de VS, het VK, Australië, Canada en Brazilië. Een wereldwijde uitrol wordt binnenkort verwacht.
In plaats van een woordelijk transcript van elk gesprek te geven – wat enorme zorgen over de privacy zou veroorzaken – biedt de tool een overzicht op hoog niveau. Ouders kunnen een samenvatting bekijken van de onderwerpen waar hun kinderen de afgelopen zeven dagen vragen over hebben gesteld.
Belangrijke aspecten van de functie zijn onder meer:
– Onderwerpcategorisering: Inzichten zijn gegroepeerd in brede categorieën, zoals school, entertainment, levensstijl, reizen, schrijven en gezondheid.
– Gedetailleerde details: Binnen deze onderwerpen kunnen ouders subcategorieën zien, zoals mode of voedsel onder ‘levensstijl’, of mentale gezondheid onder ‘gezondheid en welzijn’.
– Noodwaarschuwingen: Als een tiener op Instagram vraagt naar gevoelige onderwerpen zoals zelfmoord of zelfbeschadiging, activeert Meta een waarschuwing aan de ouder.
– Educatieve ondersteuning: In samenwerking met het Cyberpesten Onderzoekscentrum heeft Meta 11 ‘gespreksstarters’ geleverd om ouders te helpen deze inzichten te gebruiken om met hun kinderen over AI te praten.
De context: een groeiende juridische en sociale strijd
Deze uitrol gebeurt niet in een vacuüm. Meta is momenteel verwikkeld in aanzienlijke juridische strijd over de veiligheid van kinderen.
De afgelopen maanden heeft het bedrijf te maken gehad met enorme financiële boetes en rechtszaken, waaronder een aansprakelijkheidsbevinding van $375 miljoen in een kinderuitbuitingszaak en een rechtszaak in Californië waarin werd beweerd dat Instagram en YouTube ontworpen zijn om verslavend te zijn. Bovendien hebben meer dan 40 Amerikaanse staten Meta aangeklaagd, omdat ze beweren dat haar platforms bijdragen aan een geestelijke gezondheidscrisis onder jongeren.
Door deze tools aan te bieden probeert Meta een deel van de verantwoordelijkheid voor digitale veiligheid terug te verschuiven naar het gezin, ook al beweren critici dat het bedrijf meer zou moeten doen op het architectonische niveau van zijn apps.
Het debat: veiligheid versus toezicht
Terwijl Meta dit beschouwt als een manier om “ouderlijk toezicht nog waardevoller te maken”, uiten experts ernstige zorgen over de onbedoelde gevolgen van dergelijk toezicht.
1. De last van gematigdheid
Sociologen en voorstanders van kinderveiligheid beweren dat ‘ouderlijk toezicht geen inhoudsmatiging is’. Er bestaat een groeiende bezorgdheid dat naarmate Big Tech-bedrijven minder geautomatiseerde beveiligingen implementeren, ze de taak van het beschermen van kinderen feitelijk overdragen aan de ouders.
2. Privacy en kwetsbare jongeren
Deskundigen waarschuwen dat voortdurend toezicht tieners kan wegjagen van veilige, gemodereerde platforms en naar ‘onveilige hoeken van het internet’.
– Queer- en transjongeren: Voor veel LHBTQ+-tieners zijn digitale ruimtes essentieel voor het vinden van gemeenschap en steun. De angst voor ouderlijk toezicht kan hen ervan weerhouden online hulp of informatie te zoeken.
– Misbruikelijke omgevingen: In gevallen van huiselijk of familiaal geweld kunnen deze surveillance-instrumenten onbedoeld een mechanisme bieden voor het controleren of monitoren van kinderen in onveilige huizen.
3. Het winst- versus veiligheidsconflict
Donna Rice Hughes, CEO van Enough is Enough, suggereert dat de inspanningen van Meta onvoldoende zijn. Ze wijst op de lobbyactiviteiten van het bedrijf tegen de Kids Online Safety Act als bewijs dat het bedrijf vaak prioriteit geeft aan winst en betrokkenheid boven systemische veiligheidsmaatregelen.
“Ouders kunnen deze last simpelweg niet alleen blijven dragen”, merkte Hughes op, waarbij hij benadrukte dat robuuste, effectieve controles moeten worden geïmplementeerd door alle technologiegiganten, en niet alleen door Meta.
Conclusie
Meta’s AI Insights biedt ouders een nieuw venster op het digitale leven van hun kinderen, maar het blijft een controversiële oplossing. Hoewel het nuttig inzicht biedt in populaire onderwerpen, roept het fundamentele vragen op over de vraag of de verantwoordelijkheid voor onlineveiligheid bij de platformontwerper of bij de ouder moet liggen.
