Slechts een paar dagen later launch, met dank aan Roblox erg populair AI-aangedreven leeftijdsverificatiesysteem echt rommelig.
Het gezichtsscansysteem van Roblox, dat de leeftijd van een persoon schat voordat deze toegang krijgt tot de chatfunctie van het platform, werd vorige week gelanceerd in de VS en andere landen over de hele wereld, na aanvankelijk in december op sommige locaties te zijn uitgerold. Roblox inspraak het implementeert een systeem waarmee gebruikers veilig kunnen chatten met gebruikers van dezelfde leeftijd.
Maar de spelers zijn binnen rebel omdat ze niet langer met hun vrienden kunnen chatten, Ontwikkelaar klaagt Roblox aan heeft de update geannuleerd, en het allerbelangrijkste is dat experts zeggen dat de AI niet alleen jonge spelers verkeerd begrijpt naarmate ze ouder worden, en dat het systeem omgekeerd weinig doet om het probleem aan te pakken waarvoor het was ontworpen: de vloed aan roofdieren die het platform gebruiken om kinderen te verzorgen.
WIRED heeft talloze voorbeelden gevonden van mensen die op eBay adverteren voor leeftijdsgeverifieerde accounts voor kinderen onder de 9 jaar voor slechts $ 4.
Nadat WIRED de aanbieding had gemarkeerd, zei eBay-woordvoerder Maddy Martinez dat het bedrijf de aanbieding had verwijderd omdat het het beleid van de site schond.
In een e-mail vertelde Matt Kaufman, hoofd veiligheid van Roblox, aan WIRED dat veranderingen van deze omvang op een platform met meer dan 150 miljoen dagelijkse gebruikers tijd vergen.
“Je kunt geen knoppen indrukken terwijl je iets bouwt dat nog niet eerder heeft bestaan”, zei hij. “Als je verwacht dat het systeem van de ene op de andere dag perfect is, negeer je de omvang van deze inspanningen.”
Kaufman zei dat het bedrijf tevreden is met de implementatie en voegde eraan toe dat “tientallen miljoenen gebruikers” hun leeftijd hebben geverifieerd, wat volgens hem bewijst dat “de overgrote meerderheid van onze gemeenschap waarde hecht aan een veiligere, bij de leeftijd passende omgeving.”
Het bedrijf reageerde ook op een deel van de kritiek in update schreef vrijdag: “We zijn op de hoogte van gevallen waarin ouders leeftijdscontroles uitvoeren namens hun kinderen, wat resulteert in kinderen tot 21 jaar en ouder. We zijn op zoek naar een oplossing om dit aan te pakken en we zullen hier binnenkort meer informatie delen.”
Roblox aangekondigd leeftijdsverificatievereiste afgelopen juli als onderdeel van een reeks nieuwe functies die zijn ontworpen om het platform veiliger te maken. Het bedrijf is de afgelopen maanden onder grote druk komen te staan nadat het in een aantal rechtszaken werd beschuldigd van het niet beschermen van zijn jongste gebruikers en het faciliteren van roofdieren om kinderen te verzorgen.
Procureur-generaal Louisiana, TexasEn Kentucky heeft vorig jaar ook een rechtszaak aangespannen tegen het bedrijf en soortgelijke claims ingediend, terwijl de procureur-generaal van Florida een strafrechtelijke dagvaarding uitbrengen om te beoordelen of Roblox “roofdieren helpt bij het toegang krijgen tot en schade toebrengen aan kinderen.”
Roblox beweert dat het eisen van mensen om hun leeftijd te verifiëren voordat ze met anderen kunnen chatten, zal voorkomen dat volwassenen vrijelijk kunnen communiceren met kinderen die ze niet kennen.
Hoewel het proces optioneel is, betekent het weigeren dit te doen dat je geen toegang meer hebt tot de chatfunctionaliteit van het platform, een van de belangrijkste redenen waarom de meeste mensen Roblox gebruiken.
Om hun leeftijd te verifiëren, wordt mensen gevraagd een korte video te maken met de camera van hun apparaat, die wordt verwerkt door een bedrijf genaamd Persona dat hun leeftijd schat. Als alternatief kunnen gebruikers een door de overheid uitgegeven identiteitsbewijs met foto uploaden als ze 13 jaar of ouder zijn.
Roblox zegt dat alle persoonlijke informatie “onmiddellijk na verwerking wordt verwijderd.” Maar veel online gebruikers zeggen dat ze vanwege privacyoverwegingen geen leeftijdsverificatie willen ondergaan.
Mensen die hun leeftijd hebben geverifieerd, mogen alleen chatten met een kleine groep andere spelers die dezelfde leeftijd hebben als zij. Degenen waarvan is geverifieerd dat ze jonger zijn dan 9 jaar, kunnen bijvoorbeeld alleen chatten met spelers tot 13 jaar oud. Spelers die als 16 jaar oud worden beschouwd, kunnen chatten met spelers tussen 13 en 20 jaar oud.
