Drie tieners in Tennessee hebben een aanklacht ingediend xAI Elon Musk deze week en beweert dat de tools voor het maken van afbeeldingen van het bedrijf eraan wennen originele foto morph van hen naar binnen beelden met een expliciet seksueel karakter.
De middelbare scholieren, die onder pseudoniemen verder wilden gaan, spanden een rechtszaak aan in Californië, waar xAI – het bedrijf van Musk kunstmatige intelligentie bedrijf – heeft een hoofdkantoor. Ze streven naar een class action-status om duizenden slachtoffers te vertegenwoordigen, zoals degenen die minderjarig waren of minderjarig waren toen er seksueel expliciete beelden van hen werden gemaakt.
Volgens de rechtszaak werd Jane Doe 1 in december anoniem op de hoogte gebracht dat iemand seksueel expliciete afbeeldingen van haar deelde op een sociale mediasite.
“Minstens vijf van deze bestanden, één video en vier afbeeldingen, tonen haar echte gezicht en lichaam in scènes die ze kende, maar vervormd tot seksueel expliciete poses”, aldus de rechtszaak. Ze beweren dat de persoon die de afbeelding verspreidde Doe kende en een xAI-tool voor het genereren van afbeeldingen gebruikte om een originele foto van haar te veranderen in een foto van een aanranding. Eén van de foto’s is afkomstig van een thuiskomstfoto. Anderen zijn afkomstig uit de jaarboeken van de middelbare school.
Degene die de beelden verspreidde maakte ook expliciete beelden van zeker achttien andere meisjes, van wie er twee eisers zijn in de rechtszaak. Eind december arresteerde de lokale politie de dader en nam zijn mobiele telefoon in beslag. Ze ontdekten dat hij de afbeeldingen op verschillende platforms had geüpload, waar hij ze inruilde voor andere seksueel expliciete afbeeldingen van minderjarigen.
Andere AI-bedrijven hebben hun beeldmakers verboden seksueel expliciete inhoud te produceren, zelfs inhoud voor volwassenen. Musk zag dit als een zakelijke kans en promootte het vermogen van de Grok xAI-chatbot om ‘pikante’ inhoud te creëren, zo beweert de rechtszaak. Er is momenteel echter geen manier om het maken van expliciete afbeeldingen van volwassenen te voorkomen en het maken van afbeeldingen van kinderen volledig te blokkeren, beweert de rechtszaak. Het beweert ook dat xAI wist dat Grok in staat zou zijn seksueel expliciete afbeeldingen van kinderen te produceren, maar deze toch heeft vrijgegeven.
De rechtszaak beweert dat de mensen die de afbeeldingen van de aanklager verspreidden, apps gebruikten die xAI-technologie licentieerden of “toegang tot Grok kochten en als tussenpersonen werden gebruikt.”
XAI reageerde niet op een e-mail van The Associated Press waarin om commentaar werd gevraagd. Maar in een bericht van 14 januari over de controverse op het sociale mediaplatform van X stond: “We blijven ons inzetten voor het maken
“We ondernemen actie om inhoud met een hoge prioriteit te verwijderen, waaronder materiaal voor seksueel misbruik van kinderen (CSAM) en naaktheid zonder wederzijds goedvinden, en nemen passende maatregelen tegen accounts die onze Regel X schenden. We rapporteren ook accounts die op zoek zijn naar materiaal voor seksuele uitbuiting van kinderen aan wetshandhavingsautoriteiten wanneer dat nodig is.”
Ondertussen zeiden de studenten die een rechtszaak aanspanden dat ze bang waren dat de afbeeldingen die ze maakten voor altijd op internet zouden blijven staan. Ze waren bang om gevolgd te worden omdat hun echte voornamen en schoolnamen aan de dossiers waren toegevoegd. Ze maken zich zorgen dat hun vrienden en klasgenoten de foto’s en video’s hebben gezien, die echt lijken, en ze maken zich zorgen over wie ze in de toekomst zal zien.
Jane Doe 1 zegt dat ze lijdt aan angst, depressie en stress. “Hij had moeite met eten en slapen en had last van terugkerende nachtmerries”, staat in de rechtszaak. Jane Doe 2 “begon zichzelf te isoleren en te vermijden om op haar schoolcampus te zijn, en was zelfs bang om haar eigen diploma-uitreiking bij te wonen.” Volgens de rechtszaak leed Jane Doe 3 aan constante angst dat iemand het door AI gegenereerde beeld zou zien en haar gezicht zou herkennen.
—Travis Loller, Associated Press
