De grootste technologiebedrijven ter wereld worden geconfronteerd met rechtszaken die de manier waarop sociale media worden ontworpen fundamenteel kunnen veranderen.
Het proces vindt plaats in het Los Angeles County Superior Court, waar de juryselectie op 27 januari begon. Het proces test een nieuwe rechtstheorie die bedoeld is om een grotere regulering van sociale-mediaplatforms zoals TikTokSnap, YouTube en Facebook en Instagram Meta: Advocaten bereiden zich voor om te betogen dat de bedrijven achter deze platforms hun sites opzettelijk hebben ontworpen om verslavend te zijn, wat resulteert in directe persoonlijke schade voor gebruikers, vooral kinderen.
In totaal zal het proces naar verwachting uit negen zaken bestaan, die rechters in het hele land hebben samengesteld als een van de sterkste toeters en bellen voor dit nieuwe argument. Als eerste op de agenda staat zaak ingediend door een 20-jarige eiser geïdentificeerd als KGM, die zei dat een gebrek aan adequate grenzen op sociale-mediasites tijdens zijn jeugd leidde tot dwangmatig gebruik en geestelijke gezondheidsproblemen zoals depressie, angst, lichaamsdysmorfie, zelfbeschadiging en het risico op zelfmoord.
De verdachten die in de eerste rechtszaak van KGM werden genoemd, waren Bytedance, de voormalige meerderheidsaandeelhouder van TikTok; Snap, eigenaar van Snapchat; Google, eigenaar van YouTube; en Meta. Beide zijn echter Snap en TikTok schikte de rechtszaak in de dagen voorafgaand aan de juryselectie voor een niet bekendgemaakt bedrag, waardoor alleen Meta en Google overbleven.
De uitkomst van deze voorlopige uitspraak zal naar verwachting testmateriaal opleveren voor een tweede reeks federale zaken, die deze zomer voor de rechter zullen komen, waarin verschillende schooldistricten, staten en procureurs-generaal van plan zijn te betogen dat sociale media sociale media zijn. ontwrichten van de samenleving en het creëren van verslaving bij kinderen.
De kern van al deze rechtszaken is een op design gebaseerde claim: deze technologiebedrijven gebruiken trucs die opzettelijk zijn ontworpen om verslavend gedrag onder jonge gebruikers te bevorderen. Gerechtsdocumenten wijzen op bepaalde keuzes op het gebied van gebruikerservaring (UX) als bewijs van dit patroon. Hier zijn enkele goede voorbeelden van wat dit betekent.
Eindeloos scrollen
“Eindeloos (of oneindig) scrollen” is een groot probleem in bijna alle ingediende zaken. Dit verwijst naar elke functie waarmee gebruikers zonder onderbreking door video-inhoud kunnen blijven bladeren.
Eén gerechtelijk documentingediend door het kantoor van de procureur-generaal van Florida tegen Meta, waarin wordt beweerd dat oneindig scrollen “het voor jonge gebruikers moeilijk maakt om zich los te maken van de inhoud, omdat er geen natuurlijk eindpunt is om nieuwe informatie weer te geven.”
In rechtszaken vóór de Bytedance-schikking getuigde KGM dat de eindeloze scrollfunctie van TikTok zijn slaap verstoorde en ervoor zorgde dat hij verslaafd raakte aan de app. Volgens een geheim intern bericht verkregen door NPR in oktoberTikTok is zich bewust van het verslavende karakter van de eindeloos scrollende ‘Explore’-pagina en berekende zelfs het aantal video’s dat nodig is om verbinding te maken met de app op 260.
Korte inhoud
Een ander patroon van sociale media-ontwerp dat vaak wordt aangehaald in deze juridische documenten is ‘efemere inhoud’. Dit verwijst naar elk type bericht dat alleen binnen bepaalde tijdsparameters kan worden bekeken, zoals snaps die 24 uur per dag op Snapchat of Instagram Stories zijn gezien.
Het kantoor van de procureur-generaal van Florida maakte specifiek melding van Meta’s visuele ontwerpkenmerken in Instagram Stories, die aangeven dat “inhoud binnenkort voor altijd verdwenen zal zijn”, en verklaarde dat deze tactiek ervoor zorgt dat jonge gebruikers zich meer gedwongen voelen om op nieuwe inhoud te blijven klikken om mogelijke sociale gevolgen te vermijden.
“Meta ontwierp de kortstondige inhoudsfunctie om bij jonge gebruikers een gevoel van ‘FOMO’ op te wekken, d.w.z. ‘angst om iets te missen’, wat de betrokkenheid van jongeren zou stimuleren”, aldus het document.
Aanbevelingen voor algoritmen
Een van de meest zorgwekkende details in de getuigenis van KGM betreft de algoritmische aanbevelingen die hij op sociale media tegenkwam en die hem naar eigen zeggen herhaaldelijk op inhoud van verontrustende of schadelijke thema’s brachten.
“Ik krijg veel inhoud die dat soort dingen promoot, zoals bodychecks, berichten over wat ik op een dag eet (alleen komkommers), waardoor mensen zich slecht voelen als ze niet zo eten”, zei ze in haar verklaring.
Volgens de documenten van de procureur-generaal van Florida leidt het algoritme van Meta gebruikers opzettelijk naar dit soort inhoud. Volgens het document ‘presenteert’ het platform gebruikers regelmatig ‘emotioneel aangrijpende inhoud om intense reacties uit te lokken’ (bijvoorbeeld met betrekking tot eetstoornissen, zelfbeschadiging, zelfmoord, geweld, problemen met het lichaamsbeeld en meer), een resultaat van wat Meta zogenaamd algoritmische ‘voorkeursversterking’ noemt. Ondanks Meta’s beweringen van het tegendeel, veroorzaakt dit ontwerp schade voor jonge gebruikers.
Ondertussen baseerden de advocaten van KGM hun argumenten op precedenten uit het verleden, geschapen door zaken waarin werd bepaald dat producten met een opzettelijk verslavend ontwerp voor kinderen verboden moesten worden.
“Door zwaar te leunen op de gedrags- en neurobiologische technieken die worden gebruikt door gokautomaten en uitgebuit door de sigarettenindustrie, hebben de gedaagden opzettelijk een reeks ontwerpkenmerken in hun producten verwerkt, gericht op het maximaliseren van de betrokkenheid van jongeren om de advertentie-inkomsten te vergroten,” zo beweert de rechtszaak. Hij voegde eraan toe: “Net als de sigarettenindustrie in voorgaande generaties begrijpen (d)gedaagden dat de kindergebruikers van vandaag de volwassen gebruikers van morgen zullen zijn.”
