Paar belangrijke rechtszaken heeft Meta en YouTube vorige week schuldig bevonden aan het schaden van jonge gebruikers door algoritmen te ontwerpen die verslavend zijn en geestelijke gezondheidsproblemen veroorzaken. De verliezen die aan deze bedrijven worden aangerekend, bedragen een klein deel van hun jaarlijkse inkomsten. De impact op de lange termijn kan echter veel groter zijn.
Uit het besluit bleek dat geprogrammeerde algoritmen niet worden beschermd door Sectie 230, de federale wet die sociale-mediabedrijven beschermt tegen aansprakelijkheid voor door gebruikers geplaatste inhoud. Dit toont lacunes aan in de juridische verdediging waarop deze bedrijven al jaren vertrouwen. En duizenden soortgelijke zaken zijn nog in behandeling.
Artikel 230 ligt al enige tijd onder de loep. Wetgevers hebben herhaaldelijk opgeroepen tot intrekking van de regelgeving, hoewel de pogingen tot nu toe geen steun hebben opgeleverd. Velen in het Congres zien de dreiging van het intrekken van de wet als een hefboom en hopen dat dit technologiebedrijven zal aanmoedigen om te onderhandelen over veranderingen die weerspiegelen hoe het internet zich heeft ontwikkeld sinds de wet werd aangenomen.
“Sectie 230 werd gecreëerd aan het begin van het internet, toen wetgevers opkomende online bedrijven de ruimte probeerden te geven om te innoveren en te experimenteren met technologieën die het publiek en beleidsmakers nauwelijks begrepen”, aldus JB Branch. AI Bestuurs- en technologiebeleidsadviseur in de publieke samenleving. “Deze regelgeving was nooit bedoeld als permanent juridisch schild voor enkele van de machtigste bedrijven ter wereld.”
Het argument herformuleren
Heeft artikel 230 zijn beschermende kracht verloren? Nog niet.
Het uitgangspunt van de wet staat nog steeds: bedrijven zijn niet aansprakelijk voor door gebruikers gegenereerde inhoud. Wat verandert, is de manier waarop eisers deze bescherming kunnen omzeilen. Deze nieuwe cases richten zich minder op wat gebruikers posten en meer op hoe het platform is ontworpen.
Met andere woorden, productontwerp kan een grotere juridische kwetsbaarheid betekenen.
“CEO’s als Mark Zuckerberg, Tim Cook en Evan Spiegel moeten de manier waarop ze producten ontwerpen die kinderen kunnen gebruiken, heroverwegen, omdat ze zich niet langer volledig kunnen verschuilen achter Sectie 230”, zegt Sarah Gardner, CEO van het Heat Initiative, een organisatie die zich richt op online veiligheid voor kinderen.
Deze verschuiving gaat ervan uit dat de beslissing een beroep kan overleven. Meta en YouTube zullen naar verwachting de beslissing aanvechten, en dit zal waarschijnlijk een jarenlange juridische strijd veroorzaken eindelijk bereikt Hooggerechtshof. Toch is er een breder debat begonnen.
Gedwongen verantwoording
De implicaties zijn aanzienlijk, vooral als het om jonge gebruikers gaat. De beslissing duwt het bedrijf in de richting van een niveau van verantwoordelijkheid dat in sommige opzichten de richting van de entertainmentindustrie voor volwassenen weerspiegelt.
Het is een imperfecte vergelijking, maar er zijn overeenkomsten, zegt Ramnath Chellappa, professor aan de Goizueta School of Business van Emory University. Sites voor volwassenen moeten steeds vaker de leeftijd van gebruikers verifiëren. Een soortgelijk mechanisme zou op sociale media kunnen ontstaan.
“Monitoringsmechanismen… om ervoor te zorgen dat minderjarigen minderjarig zijn enzovoort, zijn een zeer complex onderwerp geworden”, zei hij. “Wat houdt het in? Is er een derde partij bij betrokken, of moet iemand de rijbewijsgegevens delen?”
Lexi Hazam van Lieff Cabraser Heimann & Bernstein, LLP, een van de Social Media-directeuren van MDL, was het ermee eens dat de beslissing grote operationele veranderingen zou kunnen afdwingen, hoewel ze geen directe vergelijking gaf.
“De implicaties zijn aanzienlijk en laten deze technologiegiganten zien dat geen enkel bedrijf onverantwoordelijk kan zijn als het om onze kinderen gaat”, zei hij. “Bedrijven zullen in de toekomst opnieuw moeten beoordelen hoe ze hun platforms ontwerpen en exploiteren… wat bedrijven mogelijk zou kunnen verplichten echte veranderingen door te voeren, waaronder veiliger platformontwerpen, effectieve leeftijdsverificatie en ouderlijk toezicht dat daadwerkelijk werkt om jonge gebruikers te beschermen.”
Niet iedereen ziet de verzwakking van artikel 230 als gunstig. Critici beweren dat het huidige debat de nadelen te veel benadrukt en de voordelen negeert.
“Het publieke debat over sociale media en de geestelijke gezondheid van tieners heeft zich vrijwel uitsluitend gericht op de potentiële schade ervan”, schreven Ben Sperry en Sabrina Pekarovic van het International Center for Law & Economics in een verklaring. laatste essaymet het argument dat deze nadruk de manier onderschat waarop platforms zelfexpressie mogelijk kunnen maken en jongeren kunnen verbinden met de bredere gemeenschap. Ze voegden eraan toe dat het behandelen van alle tieners als een even kwetsbare groep de kwestie te simpel maakt en niet door bewijs wordt ondersteund. “Een algeheel verbod gaat ervan uit dat alle jongeren met dezelfde risico’s worden geconfronteerd en gelijk moeten worden behandeld”, schreven ze. “Het bewijs suggereert iets anders.”
Groot tabaksmoment
Sommige waarnemers vergeleken het besluit met een ‘Big Tobacco’-moment op sociale media, een langverwachte afrekening die zou kunnen leiden tot ingrijpende regelgeving.
Dit kunnen wijzigingen in Sectie 230 zijn of een bredere herziening van de manier waarop platforms werken. Elke uitkomst zou grote financiële gevolgen hebben voor bedrijven die lange tijd dominante spelers op Wall Street zijn geweest.
De potentiële impact op beleggers is enorm. Een rapport van de Computer and Communications Industry Association schat dat de intrekking van Sectie 230 investeerders 2,2 biljoen dollar zou kunnen kosten en zou kunnen leiden tot ongeveer 1,1 miljoen rechtszaken per jaar tegen bedrijven in de digitale dienstverlening.
Sommige analisten zijn van mening dat de richting duidelijk is.
“De gevolgen voor sociale netwerken zouden verschrikkelijk zijn”, zegt Igor Pejic, een technologie-investeringsstrateeg en auteur Technisch geld. “De regelgeving zal toenemen, net als bij de tabaksindustrie, en op een dag zullen we misschien dingen zien zoals het vereisen van ID-authenticatie. Deze trends in de regelgeving zullen de sociale media niet doden, maar ik geloof dat ze binnen een paar jaar op zijn minst hun status als Big Tech-bedrijven zullen verliezen.”
