Regering verbiedt chatbot Grok vanwege niet-consensuele bikinifoto’s: NPR

Indonesië en Maleisië tijdelijk geblokkeerd Chatbot

Regeringen over de hele wereld zijn ook onderzoeken gestart. Het laatste gebeurde maandag toen de Britse mediaregulator Ofcom een onderzoek gestart op sociale-mediaplatforms, wat tot een verbod kan leiden.

Grok maakt al geruime tijd seksueel expliciete beelden van mensen. Maar de kwestie kreeg eind december brede aandacht toen mensen chatbots gebruikten om een ​​groot aantal bestaande afbeeldingen te bewerken door de bot in reacties te taggen en opdrachten te geven zoals ‘zet haar in een bikini’. Hoewel Grok niet op al deze verzoeken heeft gereageerd, heeft Grok in veel gevallen gehoor gegeven. In sommige gevallen, zo merkte senior onderzoeker en onderzoeker Kolina Koltai van Bellingcat op, konden gebruikers Grok frontale naaktfoto’s laten maken.

Ontelbare aantallen vrouwen en in sommige gevallen ook kinderen Reuters voor het eerst gemeld, was hun beeltenis online door Grok geseksualiseerd zonder hun toestemming, inbegrepen een van de moeders van de kinderen van X-eigenaar, Elon Musk.

Het is ongebruikelijk dat landen actie ondernemen tegen socialemediabedrijven, maar deze zaak is anders, zegt Riana Pfefferkorn, beleidsonderzoeker aan Stanford University. “Het seksueel misbruiken van kinderen (van materiële aard) is duidelijk illegaal, bijna overal ter wereld.”

Afgelopen vrijdag beperkte X de functie voor het maken van AI-afbeeldingen van Grok zodat deze alleen beschikbaar was voor betalende klanten. Niet-betalende gebruikers kunnen nog steeds met slechts een paar klikken mensen in bikini’s in het openbaar laten zien, maar ze kunnen slechts een paar van dergelijke verzoeken indienen voordat ze worden gevraagd zich aan te melden voor een premium lidmaatschap, dat $ 8 per maand kost.

NPR beoordeelde publiekelijk beschikbare afbeeldingen van Grok die eerder deze maand waren gemaakt en ontdekte dat ze een paar dagen na 2026 waren gestopt met het maken van afbeeldingen van schaars geklede vrouwen. Er waren echter nog steeds af en toe mannen in bikini te zien.

xAI, het moederbedrijf van X, promoot sinds vorig jaar inhoud voor volwassenen met Grok. In mei, Koltai merkte het eerst op dat de chatbot seksueel expliciete beelden zal produceren als reactie op verzoeken in X zoals ‘trek haar kleren uit’. Afgelopen zomer introduceerde Grok een ‘pittige modus’ in zijn zelfstandige app, waarmee gebruikers bikini’s op door AI gegenereerde karakters konden plaatsen.

Ben Winters, directeur AI en privacy bij de belangenorganisatie Consumer Federation of America, zei dat Grok nu niet alleen het bewerken van afbeeldingen van echte mensen mogelijk maakt, maar ook een eenvoudig distributieplatform biedt via X. “Dit is een verdere en aanzienlijke verbetering”, zei hij.

De overheid is boos over de acties van X om de toegang tot beeldcreatiefuncties voor klanten te beperken. Dat heeft de Britse minister van Technologie Liz Kendall gezegd Sky-nieuws “Het is een belediging om te zeggen dat je nog steeds toegang hebt tot deze diensten als je ervoor betaalt.”

De Indonesische regering ontdekte dat Grok geen effectieve beperkingen had om gebruikers ervan te weerhouden pornografische inhoud zonder wederzijds goedvinden te creëren, gebaseerd op autochtone Indonesiërs, eerst Associated Press gemeld.

“De regering beschouwt seksuele nabootsing zonder toestemming als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, aldus de Indonesische minister van Communicatie en Digitale Zaken Meutya Hafid in een verklaring.

De AP meldde ook dat Grok in Maleisië geblokkeerd zal blijven totdat er effectieve vangrails zijn tegen misbruik.

In antwoord op de vragen van NPR wees X-woordvoerder Victoria Gillespie op een stelling gepost op 3 januari en zei: “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.” Deze verklaring is in lijn met de verklaring van Musk na eerder die dag.

Een dergelijke aanpak is ‘een poging om afstand te doen van verantwoordelijkheid’, zei Winters.

“Natuurlijk zijn het niet alleen gebruikers die erop aandringen”, zei hij. “Het feit dat die beelden niet zouden zijn gemaakt zonder de tools die ze hebben gemaakt.”

Voordat de golf van niet-consensuele expliciete deepfakes die Grok genereerde X bereikte, hadden andere AI-makers soortgelijke mogelijkheden aan hun chatbots toegevoegd. In november bracht Google een nieuw model voor het genereren van afbeeldingen uit, de Nano Banana Pro. In december heeft OpenAI zijn ChatGPT Image-model bijgewerkt. Beide kunnen ook afbeeldingen bewerken om mensen bikini’s te laten dragen, Wired gemeld vorige maand. Een thread op Reddit waarin dergelijke afbeeldingen worden verspreid, is verwijderd.

Op een andere plaats X berichtenMusk suggereerde dat omdat tools van andere AI-bedrijven ook deze uitkleedfunctie hebben, druk van de overheid een vorm van censuur is gericht op zijn platform.

Koltai merkt op dat de trend van het creëren van niet-consensuele, door AI gegenereerde intieme media de afgelopen twee jaar aan de gang is. “Je ziet deze advertenties zelfs op Instagram, zoals het plaatsen van een foto van jou en je crush terwijl jullie zoenen”, zei hij. “Dus het is kussen en knuffelen, en dan zie je dat er een extremer spectrum is.”

“Er is duidelijk een groot probleem in de technologie-industrie, omdat we het op meerdere platforms hebben gezien en (er zijn niet) altijd goede richtlijnen, grenzen of voorschriften”, zei Koltai.

De kritiek in de VS is veel gematigder dan in andere landen. Senator Ted Cruz, R-Tex., geplaatst op X Woensdag werd gezegd dat de beelden “eraf moeten worden gehaald en er vangrails moeten worden geplaatst.” Hij zei ook dat hij “bemoedigd was dat X heeft aangekondigd dat ze deze overtreding serieus nemen en werken aan het verwijderen van onwettige en aanstootgevende afbeeldingen van gebruikers van hun platform.”

Grok heeft het afgelopen jaar vaak voor controverse gezorgd. Afgelopen zomer, chatbot noemt zichzelf “MechaHitler” en spuwde antisemitische complottheorieën uit.

Apps met nudificatiemogelijkheden bestaan ​​al jaren, meestal in de schaduw van internet. Winters zei dat ambtenaren meer moeten doen om enkele kenmerken van X te controleren. “Er was een misverstand over de veiligheid van hun product. Er was sprake van een schending van hun servicevoorwaarden”, zei hij.

“We hebben geen noemenswaardige actie gezien van welke Amerikaanse instantie dan ook, staats- of federaal, die de bevoegdheid heeft om de wet te handhaven”, aldus Winters.