Meta geeft ouders meer inzicht in hoe hun tieners de AI op haar platform gebruiken. Dat zei het bedrijf donderdag dat ouders kunnen ontdekken over welke onderwerpen hun kinderen AI de afgelopen week hebben gevraagd op Facebook, Messenger of Instagram – apps van het bedrijf van Mark Zuckerberg.
Hoewel deze stap bedoeld is om de veiligheid van kinderen op populaire sociale platforms te ondersteunen, zeggen experts dat het geen vervanging is voor goede inhoudsmoderatie en veilig ontwerp, en waarschuwen ze dat dit het onbedoelde gevolg zou kunnen hebben dat de privacy van tieners wordt beperkt.
De nieuwe functie heet AI Insights en is nu beschikbaar voor ouders die toezicht houden op tieneraccounts in de VS, het VK, Australië, Canada en Brazilië. Meta zal AI Insights de komende weken wereldwijd uitrollen. Tieneraccounts zijn een ervaring die speciaal is ontworpen voor tieners op een platform met strengere standaardinstellingen voor privacy en inhoud.
Insights volgt andere metabeschermingen die zijn geïntroduceerd voor ouders en kinderen met betrekking tot AI-gebruik. In oktober maakte het bedrijf zijn afkomst bekend kan voorkomen dat kinderen interactie hebben met chatbotkarakters of bepaalde karakters blokkeren. Personages zijn fictieve wezens gemaakt door AI.
Zuckerberg en zijn bedrijf zijn de afgelopen jaren in het nadeel geweest als het gaat om de geestelijke gezondheid van kinderen. Vorige maand, Meta veroordeeld tot het betalen van $ 375 miljoen nadat hij verantwoordelijk is verklaard in gevallen van kinderuitbuiting en ook aansprakelijk bevonden in de zaak Californië waar een vrouw naar verluidt ontwierp voor Instagram en YouTube verslavend voor kinderen.
Een Meta-vertegenwoordiger reageerde niet onmiddellijk op een verzoek om commentaar.
Meer dan 40 Amerikaanse staten heeft in 2023 een rechtszaak aangespannen tegen Metabewerend dat het bedrijf probeert kinderen verslaafd te maken aan de app en daarmee bijdraagt aan een crisis in de geestelijke gezondheidszorg voor jongeren.
Inzichten gebruiken
Als ouders monitoring voor hun kinderen gebruiken op Facebook, Messenger of Instagram, zien ze nu een tabblad met de naam ‘Insights’, zowel in de app zelf als op internet.
(Ouders kunnen monitoring inschakelen in het Meta Family Center – proces hier gedetailleerd – voor hun kinderen van 13 tot 17 jaar met een tieneraccount.)
Nadat ze op het tabblad Inzichten hebben geklikt, kunnen ouders zien over welke onderwerpen hun kind vragen stelt MetaAI over de afgelopen zeven dagen. Het bedrijf zegt dat deze onderwerpen school, entertainment, levensstijl, reizen, schrijven, gezondheid en andere kunnen omvatten.
Er zijn ook categorieën binnen elk onderwerp: mode, eten en vrije tijd in levensstijl en fitness, lichamelijke gezondheid en geestelijke gezondheid in het onderwerp gezondheid en welzijn. Wanneer ouders op een onderwerp klikken, kunnen ze de categorieën zien waar hun kinderen naar vroegen in Meta AI.
Als tieners de AI op Instagram vragen naar zelfmoord of zelfbeschadiging, worden ouders hiervan op de hoogte gesteld, een functie die het bedrijf heeft februari toegevoegd.
Meta zei ook dat hij met de partijen samenwerkte Onderzoekscentrum voor cyberpestenhet is gegroeid 11 gespreksstarters voor ouders om met hun kinderen over AI te praten. Ouders hebben er toegang toe via een link op het tabblad Inzichten.
In haar nieuwsaankondiging op donderdag zei Meta dat het probeerde “ouderlijk toezicht waardevoller te maken voor ouders”. Het bedrijf zei dat het aantal Amerikaanse tieners dat zich inschrijft voor toezicht het afgelopen jaar is verdubbeld.
Ouderlijk toezicht kan gevaarlijk zijn
Deze functie verschuift de verantwoordelijkheid voor het modereren van inhoud naar de ouders, maar kan ook schadelijk zijn voor kinderen in potentieel gewelddadige gezinsomgevingen, omdat het ouders een controle-instrument geeft, aldus het rapport. Ardath Whynachteen professor in de sociologie aan de Mount Allison Universiteit in New Brunswick, Canada, die gespecialiseerd is in geestelijke gezondheid en huiselijk geweld.
“Ouderlijk toezicht is geen contentmoderatie”, vertelde Whynacht aan CNET. “Omdat bedrijven als Meta hun inhoud minder doen dan modereren, stellen ze kinderen en tieners vaker wel dan niet bloot aan schadelijke dingen. Het zou niet de taak van ouders moeten zijn om deze producten minder schadelijk te maken.”
Whynacht, die in gevangenissen heeft gewerkt en tieners met stemmingsstoornissen en psychose heeft behandeld, zegt dat queer- en transtieners het meest lijden onder ouderlijk toezicht.
“Velen wenden zich tot digitale ruimtes voor ondersteuning”, zei Whynacht. “Angst voor ouderlijk toezicht kan kinderen naar meer onveilige hoeken van het internet dwingen.”
“Het is een triest feit dat kinderen vaak net zoveel bescherming nodig hebben van hun ouders als bescherming tegen online gevaren”, voegde hij eraan toe.
Er is meer nodig om kinderen te beschermen
De nieuwe functies van Meta zijn een “stap in de goede richting”, maar bieden niet voldoende bescherming, Donna Rice Hughes, CEO van de online kinderveiligheidsorganisatie Genoeg is genoegvertelde CNET.
“Meta is niet te vertrouwen als het gaat om de veiligheid van tieners en blijft winst boven veiligheid stellen”, zei Hughes, wijzend op het bedrijf. lobby-inspanningen om de Children’s Online Safety Act in het Amerikaanse Huis van Afgevaardigden in 2024 af te schaffen.
Hughes zei dat ouders alle beschikbare online ouderlijk toezicht moeten gebruiken, zoals de nieuwe Meta Insights-functie, maar ook regelmatig met hun kinderen moeten praten over online veiligheid. En controletools moeten robuuster en effectiever worden en door alle Big Tech worden geïmplementeerd, niet alleen door Meta. “Ouders kunnen deze last niet alleen blijven dragen”, zei Hughes.
