Nieuwe rechtszaak tegen xAI Elon Musk beweert dat zijn vlaggenschip chatbot, Grokwerd gebruikt om seksuele deepfake-beelden te maken van drie minderjarigen – de inhoud zou volgens de klacht materiaal van seksueel misbruik van kinderen zijn.
De voorgestelde class action, die maandag is ingediend bij de federale rechtbank van Californië, beschuldigt de AI-startup ervan te profiteren van ‘de seksuele predatie van echte mensen, inclusief kinderen’.
“Bijna alle bedrijven die AI creëren, op de markt brengen en verkopen, erkennen de gevaren van dergelijke tools en kiezen ervoor om industriestandaard beperkingen op te leggen die het gebruik van hun producten door een bijzonder gevaarlijke groep zouden verhinderen: kinderseksroofdieren. XAI doet dat niet”, aldus de rechtszaak.
Vertegenwoordigers van Musk en xAI reageerden niet onmiddellijk op het verzoek van Business Insider om commentaar.
Musk zei eerder in een post op X in januari dat hij “niet op de hoogte was van naaktfoto’s van minderjarigen geproduceerd door Grok. Letterlijk nul.”
Grok genereert afbeeldingen op basis van gebruikersverzoeken, schreef hij.
“Als hen wordt gevraagd om beelden te produceren, zullen ze weigeren iets illegaals te produceren, omdat het uitgangspunt van Grok is om te voldoen aan de wetten van welk land of welke staat dan ook”, aldus Musk. “Het kan voorkomen dat een schadelijke hack tegen Grok iets onverwachts veroorzaakt. Als dat gebeurt, repareren we de bug onmiddellijk.”
In de rechtszaak tegen xAI wordt gesteld dat de eisers uit Tennessee “drie minderjarige slachtoffers van xAI zijn die op de hoogte waren van de productie, het bezit en de distributie van door AI gegenereerd materiaal over seksueel kindermisbruik” waarin zij zijn afgebeeld.
De aanklagers, in gerechtelijke documenten alleen geïdentificeerd als Jane Doe 1, Jane Doe 2 en Jane Doe 3, beweren dat de AI-tool xAI werd gebruikt om naaktfoto’s en -video’s van hen te maken. Jane Doe 1, die pas onlangs volwassen was, was minderjarig ten tijde van het vermeende incident, terwijl de andere twee eisers volgens de rechtszaak minderjarig waren.
In december 2025 ontving Jane Doe 1 een bericht van een anoniem Instagram-account waarin ze werd gewaarschuwd dat een ‘foto’ van haar was gemaakt door iemand die ze kende en deelde op het groepschatplatform Discord.
“Via een reeks berichten legde de anonieme gebruiker vervolgens uit dat de dader een bestandsmap met afbeeldingen en video’s van hemzelf en andere minderjarige meisjes naar Discord had geüpload”, aldus de rechtszaak.
Volgens de rechtszaak stuurde de anonieme gebruiker Jane Doe 1 uiteindelijk verschillende door AI gegenereerde seksuele afbeeldingen en video’s van zichzelf en andere minderjarige meisjes.
“Minstens vijf van deze bestanden, één video en vier afbeeldingen, tonen haar echte gezicht en lichaam in vertrouwde omgevingen, maar vervormd tot seksueel expliciete poses”, aldus de rechtszaak. “De afbeelding toont zijn hele lichaam, inclusief zijn geslachtsdelen, zonder enige kleding. Op de video is te zien hoe hij zich uitkleedt totdat hij helemaal naakt is.”
Jane Doe 1 bracht de andere minderjarigen op de beelden en hun families op de hoogte en er werd volgens de rechtszaak een strafrechtelijk onderzoek geopend in Tennessee. Hij voegde eraan toe dat de lokale politie in december 2025 een verdachte heeft gearresteerd in verband met de zaak.
Vorige maand kwam Jane Doe 2 er via een onderzoek achter dat ten minste twee van haar afbeeldingen ook waren gebruikt om door AI gegenereerde seksueel expliciete inhoud te produceren met behulp van xAI-tools, aldus de rechtszaak.
Lokale wetshandhavers vertelden het meisje en haar moeder dat een van de foto’s die van het meisje op het strand in een blauwe bikini waren genomen ‘veranderd was om haar zonder kleding weer te geven’, aldus de rechtszaak.
De autoriteiten vertelden Jane Doe 3 ook dat de door AI gegenereerde afbeeldingen van de mobiele telefoon van de verdachte afbeeldingen bevatten die “waren gewijzigd om haar volledig naakt weer te geven”, aldus de rechtszaak.
Vanessa Baehr-Jones, de advocaat van de aanklager, vertelde Business Insider dat haar cliënt een ‘nachtmerrie’ had.
“Hun CSAM-beelden en video’s waarin ze worden afgebeeld toen ze minderjarig waren, staan nu voor altijd op internet in de duistere wereld van kinderseksroofdieren”, zei Baehr-Jones. “De negatieve gevolgen zijn zeer acuut.”
De advocaat zei dat hij hoopt dat de rechtszaak “verantwoordelijkheid” brengt bij xAI en “het allerbelangrijkste: dit mag geen andere slachtoffers overkomen.”
De rechtszaak eist een niet-gespecificeerde schadevergoeding en beschuldigt xAI ervan onder meer te produceren met de bedoeling kinderpornografie, de verspreiding van kinderpornografie en het bezit van kinderpornografie te verspreiden.
“In ons rechtssysteem is geld de manier waarop we bedrijven laten betalen voor de schade die ze veroorzaken”, zegt Annika Martin, een andere advocaat van de eisers. “Omdat bedrijven winstbejag zijn, is het verstrekken van voordelen aan hen de enige manier om hun besluitvorming te beïnvloeden.”
Eerder dit jaar, Grok xAI veroorzaakte een sterke reactie nadat een AI-beeldgenerator werd gebruikt om niet-consensuele seksuele beelden van echte mensen te creëren.
In reactie daarop zei X, de sociale mediasite die Musk in maart aan xAI verkocht, dat Grok dit zou doen kunnen geen AI-afbeeldingen meer genereren echte mensen in seksuele of onthullende kleding.
Ashley St. Clairdie in 2024 het leven schonk aan een van de zonen van Elon Musk, klaagde xAI in januari aan, omdat hij beweerde dat Grok op verzoek van gebruikers seksueel expliciete deepfakes had gemaakt.
De Franse autoriteiten onderzoeken Grok ook vanwege deepfakes van seksuele aard.
