Elon Musk’s Grok heeft tot terugslag geleid nadat een AI-beeldgenerator werd gebruikt om niet-consensuele seksuele beelden van echte mensen, inclusief minderjarigen, te genereren.
De afgelopen week hebben sommige X-gebruikers Grok gebruikt om mensen op foto’s digitaal uit te kleden, waarbij het AI-model nepbeelden genereert van onderwerpen die meer huid laten zien, bikini’s dragen of hun lichaamshouding veranderen.
Sommige verzoeken zijn consensueel, zoals Gewoon fans het model vroeg Grok om zijn eigen kleren uit te trekken. Maar er zijn ook mensen die Grok aanmoedigen om zich te ‘uitkleden’ door afbeeldingen van volwassenen die hij niet zijn. Op sommige afbeeldingen zijn minderjarigen te zien, zo blijkt uit screenshots die door de gebruiker in kwestie op het sociale-mediaplatform zijn geplaatst en voorbeelden gezien door Business Insider.
Het beleid van XAI inzake ‘aanvaardbaar gebruik’ verbiedt het ‘op pornografische wijze weergeven van de gelijkenis van een persoon’ en ‘seksualisering of uitbuiting van kinderen’.
Toen om commentaar werd gevraagd, stuurde xAI een geautomatiseerd e-mailantwoord waarin het probleem niet werd opgelost.
De Franse autoriteiten onderzoeken de groei van de door AI gegenereerde deepfakes van Grok, aldus het parket van Parijs Politiek. Op het online verspreiden van deepfakes zonder toestemming staat in Frankrijk een gevangenisstraf van twee jaar.
Ministerie van Elektronica en Informatietechnologie van India schrijf een brief aan het hoofd compliance van de activiteiten van X in India, waarin hij rapporten beschrijft van gebruikers die ‘afbeeldingen of video’s van vrouwen op een aanstootgevende of vulgaire manier delen om hen te vernederen’.
Het ministerie vroeg X om een “uitgebreid technisch, procedureel en bestuurlijk onderzoek” te ondergaan en alle inhoud te verwijderen die in strijd is met de Indiase wet.
Alex Davies-Jones, Britse minister van Slachtoffers en Geweld tegen Vrouwen en Meisjes, pleiten Elon Musk, CEO van moederbedrijf, xAI, om iets aan het AI-imago te doen.
“Als je zoveel om vrouwen geeft, waarom laat je dan toe dat gebruiker X ze uitbuit?” schreef hij. “Grok zou binnen een minuut honderden vrouwen kunnen uitkleden, vaak zonder medeweten of toestemming van de mensen op de foto’s.”
Davies-Jones verwijst ook naar a Brits voorstel dit zou het creëren en verspreiden van seksueel expliciete deepfakes tot een misdrijf maken.
In reactie op screenshots gemarkeerd door gebruiker X, zeiden ze dat Grok seksuele afbeeldingen van minderjarigen maakte, het officiële account van Grok antwoord en zei dat het bedrijf “een zwak punt in de beveiliging had geïdentificeerd en dit onmiddellijk had gerepareerd” – hoewel het onduidelijk is of de reactie van Grok werd beoordeeld door xAI of eenvoudigweg werd gegenereerd door AI.
“Er zijn geïsoleerde gevallen geweest waarin gebruikers AI-afbeeldingen opvroegen en ontvingen waarop minderjarigen in krappe kleding te zien zijn, zoals het voorbeeld waar je naar verwees”, reageerde Grok’s officiële account in een andere draad. “xAI beschikt over beveiligingen, maar er worden verbeteringen aangebracht om deze verzoeken volledig te blokkeren.”
Deepfakes blijven een zorg en moderatie-uitdaging voor AI-bedrijven, ook al heeft Musk de NSFW-kenmerken van Grok verkondigd.
In augustus lanceerde Grok’s beeld- en videomaker Imagine een “pittige” modus.waar gebruikers door AI gegenereerde pornografische afbeeldingen van vrouwen kunnen maken. Hoewel de ‘pittige’ optie niet beschikbaar is voor foto-uploads, kunnen gebruikers aangepaste opdrachten invoeren, zoals ‘uitkleden’.
De arbeider die Grok heeft opgeleid eerder aan Business Insider verteld dat ze seksueel expliciet materiaal hebben gevonden, waaronder gevallen waarin gebruikers om door AI gegenereerde inhoud van seksueel misbruik van kinderen (CSAM) vroegen.
De trend dat Grok “zijn kleren uittrok” nam daarna toe Kabelrapporten op 23 december werden OpenAI’s ChatGPT en Google’s Gemini AI-model gebruikt om op basis van geklede foto’s afbeeldingen van echte vrouwen in bikini’s te genereren.
Het vermogen van een persoon om de AI-deepfakes die ze creëren te bestrijden, varieert.
In de VS, Actie verwijderen beschermt tegen deepfakes zonder wederzijds goedvinden, hoewel het domein afhangt van de afgebeelde leeftijd en lichaamsdeel. Voor volwassenen omvat de wet alleen deepfakes die geslachtsdelen of seksuele activiteit tonen. De wet is strenger voor minderjarigen en heeft betrekking op deepfakes die tot doel hebben “de seksuele verlangens van wie dan ook te misbruiken, in verlegenheid te brengen, lastig te vallen of te degraderen” of “de seksuele verlangens op te wekken of te bevredigen.”
Sommige staten hebben ook strengere wetten aangenomen met betrekking tot de verspreiding van deepfakes.
Hoewel het creëren van deepfakes via AI complexere vragen over verantwoordelijkheid oproept, Sectie 230 De Communications Decency Act van 1996 beschermt onlineplatforms in de eerste plaats tegen aansprakelijkheid voor inhoud die door gebruikers wordt geplaatst.
Praat met Zakelijke insider in augustus vroeg de door technologie gefaciliteerde misbruikadvocaat Allison Mahoney zich af of het beschouwen van de platforms als makers, als instrumenten die AI genereren, ‘hun immuniteit zou wegnemen’.
“Er moet een duidelijk juridisch traject zijn om platforms verantwoordelijk te kunnen houden voor schendingen”, aldus Mahoney.
