Na het creëren van duizenden van een foto van een vrouw die zich “uitkleedt”. en seksuele beelden van minderjarigen lijkt X Elon Musk te beperken wie beelden kan maken met Grok. Ondanks de veranderingen worden chatbots echter nog steeds gebruikt om seksuele “uitkleed”-afbeeldingen op het platform te creëren.
Vrijdagochtend bevatte Grok’s account op The message ook een link die mensen naar het jaarlijkse abonnementsniveau van $ 395 van het sociale-mediaplatform duwde. In één systeemtest waarbij Grok werd gevraagd een boomafbeelding te maken, retourneerde het systeem hetzelfde bericht.
Deze schijnbare verandering komt na dagen van groeiende woede jegens en overzicht van Musk’s X en xAI, het bedrijf achter de Grok-chatbot. De bedrijven worden geconfronteerd met een groeiend aantal onderzoeken door toezichthouders over de hele wereld naar het creëren van expliciete afbeeldingen zonder wederzijds goedvinden en vermeende seksuele afbeeldingen van kinderen. De Britse premier Keir Starmer heb het nog niet uitgesloten verbood X in het land en zei dat de actie ‘onwettig’ was.
Noch X, noch xAI, het bedrijf van Musk achter Grok, hebben bevestigd dat ze het maken en bewerken van afbeeldingen een betaalde functie hebben gemaakt. Een woordvoerder van X erkende de vragen van WIRED, maar gaf vóór publicatie geen commentaar. X eerder gezegd ze ondernamen “actie tegen illegale inhoud op X”, inclusief voorbeelden van materiaal met seksueel misbruik van kinderen. Hoewel Apple en Google eerder apps met vergelijkbare ‘nudify’-functies hebben verboden, X en Grok blijven beschikbaar in de betreffende appstores. xAI reageerde niet onmiddellijk op het verzoek van WIRED om commentaar.
Meer dan een week lang hebben gebruikers op Hoewel de openbare feed met afbeeldingen gemaakt door Grok minder resultaten opleverde dan ‘uitkleden’-afbeeldingen op vrijdag, produceerde deze nog steeds seksuele afbeeldingen toen X-gebruikers met betaalde accounts erom vroegen om ‘geverifieerd’ te worden.
“We observeren dezelfde verzoeken, we observeren dezelfde resultaten, alleen minder dan voorheen”, vertelde Paul Bouchaud, hoofdonderzoeker bij de in Parijs gevestigde non-profitorganisatie AI Forensics, aan WIRED. “Het model kan bikini(afbeeldingen) blijven produceren”, zeiden ze.
Uit een WIRED-recensie van enkele van Grok’s berichten op vrijdagochtend bleek dat Grok de afbeeldingen had gemaakt als reactie op gebruikersverzoeken voor afbeeldingen die “hem in latex ondergoed stopten” en “hem in een plastic bikini stopten en hem bedekten met een laag witte donut.” De afbeelding verschijnt achter een vak met een ‘inhoudswaarschuwing’ waarin staat dat er materiaal voor volwassenen wordt weergegeven.
Woensdag onthulde WIRED dat een zelfstandige Grok-website en -app, los van de X-versie, de afgelopen maanden ook was gebruikt om extreem expliciete en soms gewelddadige seksuele video’sinclusief beroemdheden en andere echte mensen. Bouchaud zei dat Grok nog steeds kan worden gebruikt om deze video te maken. “Ik kan zonder enige beperking video’s maken met seksueel expliciete inhoud van niet-geverifieerde accounts”, zeiden ze.
Terwijl WIRED het maken van afbeeldingen met Grok aan het testen was
Veranderingen in X zouden binnenkort de hoeveelheid seksueel expliciet en schadelijk materiaal kunnen beperken dat door het platform wordt gecreëerd, zeggen experts. Dit is echter ook bekritiseerd als een minimale stap die alleen dient als medicijn om de echte slechte effecten te overwinnen veroorzaakt door niet-consensuele intieme beelden.
“Het recente besluit om de toegang tot betalende klanten te beperken is niet alleen ontoereikend – het vertegenwoordigt ook het genereren van inkomsten uit misbruik”, zegt Emma Pickering, hoofd technologiegefaciliteerd misbruik bij de Britse liefdadigheidsinstelling Refuge voor huiselijk geweld, in een verklaring. “Hoewel het beperken van het genereren van AI-afbeeldingen tot betalende gebruikers het volume enigszins kan verminderen en de traceerbaarheid kan verbeteren, is het misbruik ervan niet gestopt. Het is eenvoudigweg achter een betaalmuur geplaatst, waardoor X kan profiteren van verlies.”
