Dit verhaal bevat beschrijvingen van seksueel expliciete inhoud en seksueel geweld.
is van Elon Musk Grok chatbots hebben geleid tot verontwaardiging en oproepen tot onderzoek nadat ze eraan gewend waren geraakt X overspoelen met ‘geen kleren’-foto’s. vrouwen en seksuele afbeeldingen van wat minderjarigen leken. Dat is echter niet de enige manier waarop mensen AI gebruiken om seksuele beelden te genereren. De website en applicatie van Grok, die losstaat van X, bevat geavanceerde videocreatie die niet beschikbaar is op
In tegenstelling tot X, waar de uitvoer van Grok standaard openbaar is, worden afbeeldingen en video’s die in Grok-apps of websites zijn gemaakt met behulp van het Imagine-model niet openlijk gedeeld. Als een gebruiker echter een Imagine-URL heeft gedeeld, kan deze voor iedereen zichtbaar zijn. Cache van ongeveer 1.200 Imagine-links, plus WIRED-recensies ervan geïndexeerd door Google of gedeeld op deepfake-pornoforums, met verontrustende seksuele video’s die veel explicieter zijn dan de afbeeldingen die Grok in X maakte.
Een fotorealistische Grok-video, gehost op Grok.com, toont een door AI gegenereerde volledig naakte man en vrouw, bedekt met bloed over hun hele lichaam en gezicht, die seks hebben, terwijl twee andere naakte vrouwen op de achtergrond dansen. De video wordt omlijst door een reeks karakterafbeeldingen in anime-stijl. Een andere fotorealistische video toont een door AI gegenereerde naakte vrouw met een mes in haar geslachtsdelen, terwijl er bloed op haar benen en bed verschijnt.
Andere korte video’s bevatten afbeeldingen van echte vrouwelijke beroemdheden die zich bezighouden met seksuele activiteiten, en een reeks video’s toont ook tv-nieuwspresentatoren die hun topjes optillen om hun borsten te onthullen. Een van de door Grok geproduceerde video’s toont camerabeelden die op tv worden afgespeeld, waarin een bewaker een topless vrouw midden in een winkelcentrum streelt.
Sommige van de video’s – waarschijnlijk gemaakt om te proberen het inhoudbeveiligingssysteem van Grok te omzeilen, dat grafische inhoud kan beperken – bootsen Netflix-filmposters na: twee video’s bevatten een naakte AI-afbeelding van Diana, prinses van Wales die seks heeft met twee mannen in bed met een overlay met het Netflix-logo en de serie Kroon.
Ongeveer 800 gearchiveerde Imagine-URL’s bevatten video’s of afbeeldingen gemaakt door Grok, zegt Paul Bouchaud, hoofdonderzoeker bij de in Parijs gevestigde non-profitorganisatie AI Forensics, die de inhoud heeft beoordeeld. Alle URL’s zijn sinds augustus vorig jaar gearchiveerd en vertegenwoordigen slechts een kleine momentopname van hoe mensen Grok gebruiken, wat waarschijnlijk in totaal miljoenen afbeeldingen heeft opgeleverd.
“Het grootste deel ervan bevat seksuele inhoud”, zei Bouchaud over Grok’s cache van 800 gearchiveerde video’s en afbeeldingen. “Het merendeel van de inhoud bestaat uit expliciete manga en hentai, maar ook uit (andere) fotorealistische inhoud. We hebben volledige naaktheid en volledige audio-pornovideo’s, die vrij nieuw zijn.”
Bouchaud schat dat van die 800 berichten minder dan 10 procent van de inhoud verband lijkt te houden met materiaal over seksueel misbruik van kinderen (CSAM). “Het is vaak hentai, maar er zijn ook voorbeelden van fotorealistische mensen, heel jong, die zich bezighouden met seksuele activiteiten,” zei Bouchaud. “We observeren nog steeds verschillende video’s waarin jonge vrouwen zich uitkleden en activiteiten ondernemen met mannen”, zeiden ze. “Dit is zeer verontrustend.”
Onderzoekers zeiden dat ze ongeveer 70 Grok-URL’s, die mogelijk seksuele inhoud van minderjarigen bevatten, hebben gerapporteerd aan toezichthouders in Europa. In veel landen wordt door AI gegenereerde CSAM, inbegrepen afbeelding of animatiekan als illegaal worden beschouwd. Franse functionarissen reageerden niet onmiddellijk op het verzoek van WIRED om commentaar; Echter, het parket van Parijs onlangs gezegd twee wetgevers hebben klachten ingediend bij zijn kantoor, dat momenteel onderzoek doet naar het socialemediabedrijf, over de ‘gestripte’ beelden.
