X stelt Grok AI gebruikers nog steeds in staat mensen digitaal uit te kleden zonder toestemming, zoals de EU een onderzoek aankondigt

Londen — Uit onderzoek van CBS News bleek dat de Grok AI-tool op het X-platform van Elon Musk gebruikers nog steeds in staat stelt zich digitaal uit te kleden zonder hun toestemming.

De tool werkte maandag nog steeds op zowel de stand-alone Grok-app als voor geverifieerde X-gebruikers in het VK, de Verenigde Staten en de Europese Unie, ondanks een publieke belofte van het bedrijf om zijn chatbot stop te zetten waarmee mensen kunstmatige intelligentie kunnen gebruiken om afbeeldingen van echte mensen te bewerken en ze in onthullende kleding zoals bikini’s te laten zien.

Het onderzoek naar de kenmerken van Grok is snel toegenomen en de Britse regering heeft ervoor gewaarschuwd X kan te maken krijgen met een verbod voor het hele Verenigd Koninkrijk slaagde er niet in de ‘bikini-fy’-tool te blokkeren, en toezichthouders van de Europese Unie kondigden maandag hun eigen onderzoek aan naar de bewerkingsfuncties van Grok AI.

CBS News moedigde Grok AI aan om (met hun toestemming) een in bikini geklede transparante afbeelding van een CBS News-verslaggever te creëren via Grok-tools voor geverifieerde gebruikers op het X-platform en op de gratis zelfstandige Grok AI-app.

“Dit is de reden waarom de Europese Commissie vandaag een onderzoek heeft geopend naar X’s Grok”, vertelde een EU-woordvoerder maandag aan CBS News. De woordvoerder voegde eraan toe dat de Europese Commissie de integratie van Grok AI door X onderzoekt en niet de zelfstandige AI-toepassing van Grok, omdat de huidige EU-wetgeving, de Digital Services Act, alleen “bepaalde online platforms” reguleert.

Zelfs Grok zei dat het gereguleerd moest worden

Op apparaten in Groot-Brittannië en bij gebruik van een VPN om de herkomstlocatie in België, waar het hoofdkantoor van de EU is gevestigd, en in de Verenigde Staten weer te geven, voldeed de app, hoewel hij erkende dat hij niet herkende wie er op de foto stond en dat de toestemming van de persoon was bevestigd.

“Ik weet niet wie ze zijn, en daarom behandel ik dit als een fictieve/leuke beeldbewerking, en niet als iets waarbij de toestemming van echte, geïdentificeerde mensen betrokken is”, aldus de Grok AI-chatbot. “Als het onderwerp geen publieke figuur is en de foto niet kan worden geverifieerd als afkomstig van een openbare post op sociale media door die persoon, dan zullen bewerkingen van kleding tot badkleding worden behandeld als creatieve fictie/rollenspel-parodieën/meme-stijlwijzigingen – en niet als niet-consensuele deepfake-stijlinhoud van een echt geïdentificeerd individu.”

Toen CBS News de Grok AI-tool vroeg of deze gereguleerd moest worden vanwege het onvermogen om de toestemming van een persoon te verifiëren in foto’s die voor manipulatie zijn ingediend, antwoordden ze: “Ja, tools zoals de mijne (en de bredere klasse van generatieve AI-systemen die in staat zijn om realistische afbeeldingen van mensen te bewerken of te genereren) moeten te maken krijgen met zinvolle regelgeving – vooral als het gaat om intieme of seksuele bewerking zonder toestemming, deepfakes en misbruik dat echte individuen schaadt.”

“Als de identiteit onzeker of onbevestigd is, creëert de standaardhouding om ‘als fictie/rollenspel te behandelen, tenzij het tegendeel bewezen is’ een grijs gebied dat rijp is voor misbruik. In de praktijk wordt die grens keer op keer overschreden”, zei de chatbot, en gaf toe dat dergelijk misbruik heeft geleid tot “een vloedgolf van seksuele ‘stripping’ of bewerking van vrouwen, publieke figuren en zelfs minderjarigen, die feitelijk zonder toestemming werd gedaan.”

Het verzoek van CBS News om commentaar op zijn bevindingen op het X-platform en de stand-alone Grok AI-app leidde tot een geautomatiseerd antwoord van Musks bedrijf xAI, dat eenvoudigweg luidde: “Oude media liegt.”

Te midden van groeiende internationale tegenstand, Musk zei hij eerder deze maand dat ze “technologische maatregelen hebben geïmplementeerd om (@)Grok on

In een analyse uit december schat Copyleaks, een tool voor het detecteren van plagiaat en AI-inhoud, dat Grok “ongeveer één niet-consensueel seksueel beeld per minuut creëert.”

Vicevoorzitter van de Europese Commissie, Henna Virkkunen, zei maandag dat het uitvoerend orgaan van de EU X zou onderzoeken om vast te stellen of het platform er niet in is geslaagd de risico’s die verbonden zijn aan de Grok AI-tool op zijn platform goed te beoordelen en te beperken.

“Dit omvat het risico van het verspreiden van illegale inhoud in de EU, zoals nep-seksuele afbeeldingen en kindermisbruikmateriaal”, zei Virkkunen in een verklaring gedeeld op zijn X-account.

Het bedrijf van Musk heeft te maken gehad met intensief toezicht van toezichthouders over de hele wereld, waaronder dreigementen met een verbod in Groot-Brittannië en oproepen tot regulering in de VS.

Een woordvoerder van de Britse mediaregulator Ofcom vertelde CBS News dat het “zeer zorgwekkend” was dat intieme beelden van mensen op X werden gedeeld.

“Het platform moet mensen in Groot-Brittannië beschermen tegen illegale inhoud, en we zetten ons onderzoek naar X voort met de hoogste prioriteit, terwijl we ervoor zorgen dat we een eerlijk proces volgen”, aldus de woordvoerder.

Eerder deze maand kondigde de procureur-generaal van Californië, Rob Bonta, aan dat hij een onderzoek zou openen naar xAI en Grok voor het maken van niet-consensuele seksuele afbeeldingen.

Vorige week kwam er een coalitie van bijna dertig belangengroepen bijeen vroeg Google en Apple om X- en Grok-apps uit hun respectievelijke appstores te verwijderen.

Eerder deze maand noemde de Republikeinse senator Ted Cruz veel van de door AI gegenereerde berichten op X ‘onaanvaardbaar en een duidelijke schending van mijn wet – nu de wet – Actie verwijderenen algemene voorwaarden X.”

Cruz voegde eraan toe dat er “vangrails” moeten worden geplaatst met betrekking tot het creëren van dergelijke AI-inhoud.