Elon Musk is nog niet gestopt Grokchatbot ontwikkeld door zijn kunstmatige intelligentiebedrijf xAIvan het produceren van seksuele beelden van vrouwen. Na rapport Vorige week bleek dat tools voor het maken van afbeeldingen hun intrede deden
Om de paar seconden bleef Grok afbeeldingen genereren van vrouwen in bikini’s of ondergoed als reactie op gebruikersverzoeken op X, volgens WIRED’s beoordeling van de publiekelijk geposte live-uitvoer van de chatbots. Volgens een analyse van de berichten publiceerde Grok dinsdag in minder dan vijf minuten minstens 90 afbeeldingen van vrouwen in zwemkleding en in verschillende mate van uitkleden.
De afbeeldingen bevatten geen naaktheid, maar betreffen de chatbot van Musk die kleding “verwijdert” van foto’s die door andere gebruikers op X zijn geplaatst. In een poging om de vangrails van Grok te omzeilen, vragen gebruikers vaak, niet noodzakelijkerwijs met succes, om foto’s te bewerken zodat vrouwen ‘stringbikinis’ of ’transparante bikini’s’ dragen.
Ondertussen is er gebruik gemaakt van gevaarlijke AI-beeldgeneratietechnologie digitaal intimiderend En vrouwen lastigvallen jarenlang—deze outputs worden vaak deepfakes genoemd en worden gecreëerd door “naakt wordenSoftware: het voortdurende gebruik van Grok om grote aantallen afbeeldingen zonder wederzijds goedvinden te maken, lijkt tot nu toe het meest voorkomende en wijdverbreide voorbeeld van intimidatie te zijn. kwaadaardige nudify- of ‘uitkleed’-softwareGrok brengt gebruikers geen kosten in rekening voor het maken van afbeeldingen, levert binnen enkele seconden resultaten en is beschikbaar voor miljoenen mensen op X, wat allemaal zou kunnen helpen het maken van niet-consensuele intieme afbeeldingen te normaliseren.
“Wanneer een bedrijf generatieve AI-tools op zijn platform aanbiedt, heeft het de verantwoordelijkheid om het risico op op afbeeldingen gebaseerd misbruik tot een minimum te beperken”, zegt Sloan Thompson, directeur training en opleiding bij EndTAB, een organisatie die zich inzet om door technologie gefaciliteerd misbruik aan te pakken. ‘Het zorgwekkende hier is dat
Door Grok gemaakte seksuele beelden gingen eind vorig jaar viraal op X, hoewel het vermogen van het systeem om dergelijke beelden te maken is afgenomen. bekend om maand. De afgelopen dagen zijn foto’s van social media-beïnvloeders, beroemdheden en politici het doelwit geweest van gebruikers op X, die kunnen reageren op berichten van andere accounts en Grok kunnen vragen de afbeeldingen die ze hebben gedeeld te wijzigen.
De vrouw die de foto van zichzelf plaatste, kreeg een antwoord van het account en wist Grok te vragen de foto te veranderen in een ‘bikini’-afbeelding. In één voorbeeldsommige X-gebruikers vroegen Grok om een afbeelding van de Zweedse vice-premier te veranderen, zodat ze een bikini droeg. Twee ministers in Groot-Brittannië zijn ook ‘uitgekleed’ tot in hun bikini’s, zo wordt gemeld inspraak.
De afbeeldingen in ‘@grok zetten haar in een transparante bikini’, luidde zijn typische boodschap. In een andere reeks berichten vroeg een gebruiker aan Grok om ‘zijn borst met 90% op te blazen’, vervolgens ‘zijn dijen met 50% op te blazen’ en ten slotte ‘zijn kleding in een kleine bikini te veranderen’.
Een analist die jarenlang expliciete deepfakes heeft gevolgd en om privacyredenen heeft gevraagd niet bij naam te worden genoemd, zei dat Grok waarschijnlijk een van de grootste platforms is geworden waarop kwaadaardige deepfake-afbeeldingen worden gehost. “Dit is volkomen mainstream”, aldus de onderzoeker. “Dit is niet een of andere schimmige groep (die afbeeldingen maakt), het is letterlijk iedereen, van alle achtergronden. Mensen die berichten plaatsen op hun hoofdaccounts. Er is geen probleem.”
