De AI van Elon Musk Grok-chatbot is in gebruik om X mee te overspoelen duizenden seksuele beelden van volwassenen en minderjarigen die krappe kleding dragen. Een deel van deze inhoud lijkt niet alleen de eigen inhoud van X te schenden beleiddie het delen van illegale inhoud zoals materiaal met seksueel misbruik van kinderen (CSAM) verbiedt, maar ook in strijd kan zijn met de richtlijnen van Apple’s App Store en Google Play Store.
Apple en Google verbieden expliciet apps die CSAM bevatten, wat in veel landen illegaal is om te hosten en te distribueren. De technologiegigant verbood ook apps die pornografisch materiaal bevatten of intimidatie mogelijk maken. Apple App Store inspraak de app staat geen ‘openlijk seksueel of pornografisch materiaal’ toe, evenals ‘inhoud die lasterlijk, discriminerend of gewelddadig van aard is’, vooral als de app ‘de neiging heeft om gerichte individuen of groepen in verlegenheid te brengen, te intimideren of schade toe te brengen’. Google Play Store verbod apps die “inhoud bevatten of promoten die verband houdt met seksueel roofzuchtig gedrag, of seksuele inhoud zonder wederzijds goedvinden verspreiden”, evenals programma’s die “bedreigingen, intimidatie of pesten bevatten of faciliteren.”
De afgelopen twee jaar hebben Apple en Google een aantal ‘nudify’-apps en de daaropvolgende AI-beeldgeneratoren verwijderd onderzoek door BBC en 404 Media ontdekt er wordt reclame voor gemaakt of gebruikt om gewone foto’s zonder hun toestemming effectief te veranderen in expliciete afbeeldingen van vrouwen.
Op het moment van publicatie waren echter noch de X, noch de zelfstandige Grok-app blijft beschikbaar in beide appstores. Apple, Google en X hebben niet gereageerd op verzoeken om commentaar. Grok wordt beheerd door Musk’s miljardenbedrijf voor kunstmatige intelligentie xAI, die ook niet reageerde op vragen van WIRED. In een publieke verklaring gepubliceerd op 3 januari, zei X dat het actie onderneemt tegen illegale inhoud op zijn platform, waaronder CSAM. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal met dezelfde gevolgen worden geconfronteerd als wanneer hij illegale inhoud uploadt”, waarschuwde het bedrijf.
Sloan Thompson, directeur training en onderwijs bij EndTAB, een groep die organisaties leert hoe ze de verspreiding van niet-consensuele seksuele inhoud kunnen voorkomen, zei dat het “absoluut gepast” was als bedrijven als Apple en Google actie zouden ondernemen tegen X en Grok.
Het aantal niet-consensuele expliciete afbeeldingen in X, geproduceerd door Grok, is de afgelopen twee weken geëxplodeerd. Een onderzoeker vertelde Bloomberg dat Grok gedurende een periode van 24 uur tussen 5 en 6 januari ongeveer 6.700 afbeeldingen per uur produceerde die zij identificeerden als ‘seksueel suggestief of naakt’. Een andere analist verzamelde meer dan 15.000 afbeeldings-URL’s die Grok op X had gemaakt gedurende een periode van twee uur op 31 december. beoordeeld ongeveer een derde van de afbeeldingen, en ontdekte dat op veel daarvan vrouwen te zien waren die onthullende kleding droegen. Meer dan 2.500 werden gemarkeerd als niet langer beschikbaar binnen een week, terwijl bijna 500 werden bestempeld als ‘inhoud voor volwassenen met een leeftijdsbeperking’.
Eerder deze week zei een woordvoerder van de Europese Commissie, de toezichthoudende instantie van de Europese Unie, openlijk veroordeeld de seksueel expliciete en niet-consensuele beelden Grok op
Donderdag heeft de E.U bestel X om alle documenten en interne gegevens met betrekking tot Grok tot eind 2026 te bewaren, voortbouwend op eerdere bewaarrichtlijnen, om ervoor te zorgen dat autoriteiten toegang hebben tot relevant materiaal in overeenstemming met de EU Digital Services Act, hoewel er geen nieuw formeel onderzoek is aangekondigd. Regelaars binnen andere landeninclusief Groot-Brittannië, India en Maleisië zeiden dat ook zij onderzoek sociale mediaplatforms.
