De sociale mediaplatforms van X zijn de afgelopen weken overspoeld met door AI gegenereerde seksuele beelden van vrouwen en kinderen – maanden voordat een nieuwe wet van kracht werd die de verspreiding van intieme beelden zonder wederzijds goedvinden verbiedt.
Elon Musk, eigenaar van X, kondig nieuwe functies aan via berichten op kerstavond moedigde gebruikers aan om afbeeldingen en video’s te bewerken met Grok, de chatbot van de app. Toen, een paar weken later, toen het nieuwe jaar begon, zagen veel vrouwen online iets verontrustends: een stortvloed aan door AI gegenereerde seksuele beelden van zichzelf op het socialemediaplatform X. Gebruikers op
Grok wilde geen naakte mensen laten zien, maar volgde de instructies om vrouwen te laten zien die touw en tandzijde droegen. Sommige X-gebruikers vroegen Grok om foto’s te manipuleren met opdrachten als ‘doe haar in een zeer transparante minibikini’, ’trek haar schoolkleding uit’ en ‘spreid haar benen’.
Musk leek de situatie te bagatelliseren toen hij een lachende emoji plaatste als reactie op een AI-bewerking van beroemde mensen, waaronder hijzelf, die bikini’s droegen. Maar Musk zal de zaak wellicht binnenkort serieuzer moeten nemen – in overeenstemming met de federale wetgeving.
In mei 2025 ondertekende president Donald Trump een tweeledige overeenkomst Actie verwijderendie de verspreiding van intieme beelden zonder wederzijds goedvinden criminaliseert, waaronder door AI gegenereerde deepfakes en zogenaamde ‘wraakporno’. Het platform heeft tot mei 2026 de tijd om een request-and-takedown-systeem te implementeren waarbij de afbeeldingen van slachtoffers binnen 48 uur kunnen worden verwijderd.
Zaterdag waarschuwde Musk X-gebruikers in een post: “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
De vraag is: welke van de volgende door Grok gemaakte afbeeldingen wordt als illegaal beschouwd?
De wet definieert “intieme visuele afbeeldingen” als alles wat de onbedekte geslachtsdelen, schaamstreek, anus of tepels van een vrouw laat zien.
Riana Pfefferkorn, beleidsonderzoeker bij het Stanford Institute for Human-Centered AI, zei dat ze denkt dat veel van deze krappe bikinifoto’s als illegaal kunnen worden beschouwd. Hij drong er bij het publiek op aan om verwijderingsverzoeken in te dienen, omdat de wet mediabedrijven stimuleert om twijfelachtige inhoud te verwijderen om boetes van de Federal Trade Commission te voorkomen.
Pfefferkorn zei dat er mogelijk meer publieke druk nodig is om de nieuwste speelfilm van Grok te beëindigen. Als X serieus was over het niet toestaan van het gebruik van afbeeldingen zonder wederzijds goedvinden, zei Pfefferkorn, zou het bedrijf de tool al weken geleden hebben stopgezet.
“Er is geen reden waarom ze de functie niet zomaar zouden kunnen uitschakelen”, aldus Pfefferkorn. “Elke keer dat een ander bedrijf een heel slechte eigenschap heeft, kunnen ze dit stoppen en vervolgens proberen hun wonden te verwerken en uit te zoeken wat er aan de hand is. Maar Elon Musk is de rijkste man ter wereld en hij heeft herhaaldelijk gehandeld alsof hij boven de wet staat en aan de straf is ontsnapt.”
Het is onduidelijk hoeveel van deze foto’s werden verspreid in wat Reuters een ‘massale digitale uitkleedpartij’ noemde, maar uit de beoordeling door het nieuwskanaal van openbare verzoeken die naar Grok werden gestuurd, kwamen minstens 102 pogingen binnen een periode van 10 minuten naar voren.
De stroom van bijna naaktfoto’s – vooral van jonge vrouwen en in sommige gevallen kinderen – leidde tot internationale verontwaardiging: ministers in Frankrijk hebben X gerapporteerd aan toezichthouders; de Britse communicatietoezichthouder nam contact op met het mediabedrijf; en het Indiase ministerie van Elektronica en Informatietechnologie schreef een veroordelingsbrief.
Door deze afbeeldingen toe te staan,
