Grok, een chatbot van het kunstmatige-intelligentiebedrijf xAI van Elon Musk, publiceert seksuele beelden van kinderen omdat de vangrails lijken te hebben gefaald toen er met gemene gebruikersverzoeken om werd gevraagd.
Gebruikers gebruikten opdrachten als ‘zet haar in een bikini’ onder afbeeldingen van echte mensen in X om Grok zover te krijgen dat hij zonder wederzijds goedvinden afbeeldingen van hen in ongepaste kleding maakte. De vervormde afbeelding die op het account van Grok werd gemaakt, werd openbaar geplaatst op X, het socialemediaplatform van Musk.
AI voldoet aan verzoeken om afbeeldingen van minderjarigen te wijzigen, ook al is dat op zichzelf een overtreding aanvaardbaar gebruiksbeleid.
“Er zijn gevallen geweest waarin gebruikers AI-afbeeldingen opvroegen en ontvingen waarop minderjarigen in schrale kleding te zien zijn, zoals het voorbeeld waarnaar u verwijst”, zegt Grok. antwoord voor gebruikers aan
xAI reageerde niet onmiddellijk op een verzoek om commentaar.
De chatbot berichten verontschuldiging.
“Ik betreur ten zeerste het incident op 28 december 2025, waarbij ik op verzoek van een gebruiker een AI-beeld van twee jonge meisjes (naar schatting 12-16 jaar oud) in seksuele kleding heb gemaakt en gedeeld”, aldus een bericht op Grok’s profiel. “Dit is in strijd met ethische normen en mogelijk in strijd met de Amerikaanse wetten met betrekking tot CSAM. Dit was een tekortkoming in de beveiliging en ik bied mijn excuses aan voor de eventuele schade. xAI voert een onderzoek uit om toekomstige problemen te voorkomen.”
Dat heeft de Indiase regering gezegd
Critici beschuldigden xAI ervan misbruik door AI toe te staan, en waren geschokt en verontwaardigd over het bestaan van functies voor naadloze AI-manipulatie en uitkleedverzoeken.
“Hoe is dit niet illegaal?” journalist Samantha Smith gepost in X veroordeelde hij het maken van zijn eigen niet-consensuele seksuele foto’s.
XAI Musk heeft Grok gepositioneerd als een ‘anti-woke’-chatbot die is geprogrammeerd om opener en scherper te zijn dan concurrerende chatbots zoals ChatGPT.
In mei berichtte Grok over ‘blanke genocide’, waarbij hij een complottheorie herhaalde over zwarte Zuid-Afrikanen die blanke minderheden vervolgen, als antwoord op een niet-gerelateerde vraag.
In juni bood het bedrijf zijn excuses aan toen Grok een reeks antisemitische opmerkingen plaatste waarin hij Adolf Hitler prees.
Bedrijven als Google en OpenAI, die ook AI-beeldgeneratoren exploiteren, hebben veel op hun bord strengere richtlijnen rond inhoud.
De verspreiding van deepfake-beelden zonder wederzijdse toestemming vindt plaats op hetzelfde moment als de wijdverbreide adoptie van AI, met een 400% stijging. in AI-beelden van seksueel misbruik van kinderen in de eerste helft van 2025, volgens de Internet Watch Foundation.
xAI introduceert “Pittige modus” in tools voor het maken van afbeeldingen en video’s in augustus voor geverifieerde volwassen klanten om sensuele inhoud te creëren.
Sommige makers van inhoud voor volwassenen op X moedigden Grok aan om seksuele afbeeldingen te maken om zichzelf op de markt te brengen, wat een paar dagen geleden een internettrend op gang bracht, volgens Copyleaks, een AI-tekst- en beelddetectiebedrijf.
Het testen van Grok’s grenzen verschoof naar een ‘gratis voor iedereen’ toen gebruikers hem vroegen seksuele beelden van beroemdheden en andere mensen te maken.
xAI wordt naar verluidt gewaardeerd op meer dan 200 miljard dollar en heeft miljarden dollars geïnvesteerd in de bouw van ’s werelds grootste datacenters ter ondersteuning van zijn AI-toepassingen.
Echter, het vermogen van Grok nog steeds achtergebleven concurrerende AI-modellen zoals ChatGPT, Claude en Gemini, die meer gebruikers hebben verzameld, terwijl Grok dat heeft gedaan zich wenden tot seksuele AI-vrienden en gewaagde chat om de groei te bevorderen.
