Meerdere gebruikers populaire chatbot genereert bikini’s vals gebruikt foto’s van volledig geklede vrouwen als bronmateriaal. De meeste van deze nepbeelden lijken te zijn gemaakt zonder toestemming van de vrouwen op de foto’s. Sommige van diezelfde gebruikers boden ook suggesties aan anderen over hoe ze generatieve AI-tools konden gebruiken om vrouwen op foto’s uit te kleden en ze eruit te laten zien alsof ze bikini’s droegen.
Daaronder is nu verwijderd reddit post met de titel “zo eenvoudig om nsfw gemini-foto’s te maken”, wisselden gebruikers tips uit over hoe ze te verkrijgen TweelingHet generatieve AI-model van Google om afbeeldingen te maken van vrouwen in onthullende kleding. Veel van de afbeeldingen in deze thread zijn volledig AI, maar één verzoek valt op.
Eén gebruiker plaatste een foto van een vrouw die een Indiase sari droeg, en vroeg iemand haar kleren ‘uit te trekken’ en ‘een bikini aan te trekken’. Anderen reageerden met deepfake-afbeeldingen om aan het verzoek te voldoen. Nadat WIRED Reddit op de hoogte had gesteld van dit bericht en om commentaar van het bedrijf had gevraagd, verwijderde het beveiligingsteam van Reddit het verzoek en de deepfake AI.
“De regels van Reddit voor de hele site verbieden niet-consensuele intieme media, inclusief het gedrag in kwestie”, aldus een woordvoerder. De subreddit waar deze discussie plaatsvond, r/ChatGPTJailbreak, had ruim 200.000 volgers voordat Reddit deze onder het platform verbood “vernietig de site niet“regel.
Als Generatieve AI tools die het gemakkelijk maken om realistische afbeeldingen te maken, maar nepafbeeldingen blijven zich verspreiden. Gebruikers van deze tools blijven vrouwen lastigvallen met deepfake-afbeeldingen zonder wederzijds goedvinden. Miljoenen mensen hebben het bezocht kwaadaardige ‘nudify’-websiteis ontworpen voor gebruikers om een echte foto van iemand te uploaden en hen te verzoeken zich uit te kleden met behulp van generatieve AI.
Met » Grok AI Bij wijze van uitzondering staan de meeste reguliere chatbots meestal niet toe dat er NSFW-afbeeldingen in de AI-uitvoer worden gemaakt. Deze bots, waaronder Google’s Gemini en OpenAI’s ChatGPT, worden ook geleverd met vangrails die proberen het genereren van kwaadwillenden te blokkeren.
In november bracht Google dit uit Nano Banaan Proeen nieuw beeldvormingsmodel dat uitblinkt in het verbeteren van bestaande foto’s en het produceren van hyperrealistische afbeeldingen van mensen. OpenAI reageerde vorige week met zijn bijgewerkte beeldvormingsmodel, ChatGPT-afbeelding.
Naarmate deze hulpmiddelen zich verder ontwikkelen, kan de schijn realistischer worden naarmate gebruikers in staat zijn vangrails omver te werpen.
In een aparte Reddit-thread over het maken van NSFW-afbeeldingen vroeg een gebruiker om aanbevelingen over hoe je leuningen kunt vermijden bij het aanpassen van de kleding om de rok van het onderwerp strakker te laten lijken. Tijdens de beperkte tests van WIRED om te bevestigen dat deze techniek werkt op Gemini en ChatGPT, zijn we erin geslaagd een afbeelding van een volledig geklede vrouw om te zetten in een deepfake-bikini met behulp van basiscommando’s die in eenvoudig Engels zijn geschreven.
