Meta leiders weten dat de AI-partners van het bedrijf, bekend als AI-personages, dit kunnen zich bezighouden met ongepaste interacties van seksuele aard en lanceerde het nog steeds zonder strengere controles, volgens nieuwe interne documenten die maandag (28 januari) werden onthuld als onderdeel van een rechtszaak tegen het bedrijf door de procureur-generaal van New Mexico.
De communicatie, verzonden tussen het beveiligingsteam van Meta en de platformleiding waarbij CEO Mark Zuckerberg niet betrokken was, bevatte bezwaren tegen het bouwen van begeleidende chatbots die door volwassenen en minderjarigen gebruikt konden worden voor expliciete romantische interacties. Ravi Sinha, Meta’s hoofd kinderveiligheidsbeleid, en Meta’s mondiale hoofd veiligheid Antigone Davis stuurden berichten waarin ze overeenkwamen dat chatbot-begeleiders bescherming zouden moeten hebben tegen seksueel expliciete interacties door gebruikers onder de 18 jaar. Een andere communicatie beschuldigde Zuckerberg ervan aanbevelingen om ouderlijk toezicht toe te voegen, inclusief de optie om de genAI-functie uit te schakelen, af te wijzen vóór de lancering van de AI-begeleider kort daarna.
Meta wordt geconfronteerd met talloze rechtszaken met betrekking tot zijn producten en de impact ervan op minderjarige gebruikers, waaronder een mogelijke juryrechtspraak over het vermeend verslavende ontwerp van sites als Facebook en Instagram. De concurrenten van Meta, waaronder YouTube, TikTok en Snapchat, zijn ook onder meer juridisch toezicht komen te staan.
De onlangs vrijgegeven communicatie maakt deel uit van de gerechtelijke ontdekking in de zaak tegen Meta, ingediend door procureur-generaal Raúl Torrez uit New Mexico. Torrez eerst ingediend civiele rechtszaak tegen Meta in 2023, waarin het bedrijf ervan werd beschuldigd zijn platform een ”marktplaats voor roofdieren” te laten worden. De interne communicatie tussen Meta-managers werd vrijgegeven en vrijgegeven terwijl de zaak volgende maand voor de rechter komt.
Vernietigbare lichtsnelheid
In november werd in het rapport van een aanklager over een grote rechtszaak die in meerdere districten was aangespannen in het noordelijke district van Californië een soepel beleid gevoerd ten aanzien van gebruikers die de veiligheidsvoorschriften overtraden, inclusief degenen van wie aangifte werd gedaan wegens “mensenhandel voor seksUit de documenten blijkt ook dat leidinggevenden van Meta naar verluidt op de hoogte waren van ‘miljoenen’ volwassenen die via haar sites contact opnemen met minderjarigen. ‘Volledige gegevens zullen aantonen dat we al meer dan tien jaar naar ouders hebben geluisterd, de zaken hebben onderzocht die er het meest toe doen, en echte veranderingen hebben doorgevoerd om tieners te beschermen’, vertelt een woordvoerder van Meta aan TIME.
Na het schikken van een rechtszaak heeft Snapchat nieuw ouderlijk toezicht voor tieners toegevoegd
“Dit is opnieuw een voorbeeld van hoe de procureur-generaal van New Mexico documenten uitkiest om een gebrekkig en onnauwkeurig beeld te schetsen”, zei Meta-woordvoerder Andy Stone in reactie op de nieuwe documenten.
Meta het stoppen van het gebruik van chatbots door tieners in augustus, na een rapport van Reuters waarin de interne AI-regels van Meta werden ontdekt toegestane chatbots om deel te nemen aan een gesprek van ‘sensuele’ of ‘romantische’ aard. Bedrijf later heeft zijn veiligheidsrichtlijnen herzienbehalve inhoud die seksueel misbruik van kinderen ’toestaat, aanmoedigt of bepleit’, romantische rollenspellen waarbij minderjarigen betrokken zijn, en andere gevoelige onderwerpen. Vorige week Meta opnieuw de AI-chatbot vergrendelen voor jonge gebruikers bij het verkennen van de nieuwe versie met verbeterd ouderlijk toezicht.
Torrez heeft andere procureurs-generaal in zijn inspanningen geleid grote sociale-mediaplatforms voor de rechter slepen over kinderveiligheidskwesties. In 2024, Torrez heeft Snapchat aangeklaagdbeweert dat het platform chantage en molestering van minderjarigen mogelijk maakt, terwijl het zichzelf nog steeds op de markt brengt als een veilig platform voor jonge gebruikers.
