Ga naar de website van één expliciete deepfake generator en je krijgt een horrormenu te zien. Met slechts een paar klikken biedt het je de mogelijkheid om van één enkele foto een expliciete videoclip van acht seconden te maken, waardoor vrouwen in expliciete, realistisch ogende seksuele situaties terechtkomen. “Verander elke foto in een naaktversie met onze geavanceerde AI-technologie”, luidt de tekst op de website.
De mogelijkheid van misbruik is zeer groot. Onder de 65 video-‘sjablonen’ op de website bevinden zich een reeks ‘de kleren uittrekken“video’s waarin vrouwen zich uitkleden, maar er zijn ook expliciete videoscènes die ‘deepthroat fuck machines’ worden genoemd en verschillende ‘cum’-video’s. Elke video kost een klein bedrag om te produceren; het toevoegen van door AI gegenereerde audio kost meer.
De website, die WIRED niet noemt om verdere blootstelling te beperken, bevat een waarschuwing dat mensen alleen foto’s mogen uploaden waarvoor ze toestemming hebben gegeven om deze met AI te wijzigen. Het is onduidelijk of er controles zijn om dit af te dwingen.
GrokDe chatbot, gemaakt door het bedrijf van Elon Musk, is gebruikt om duizenden niet-consensuele berichten te creëren ‘uitkleden’ of ‘naakt maken’ Bikinifoto’s – meer industrialisatie en normalisering digitale seksuele intimidatieproces. Maar dit zijn alleen de meest zichtbare – en verre van de meest expliciete. In de loop der jaren is het deepfake-ecosysteem, bestaande uit tientallen websites, bots en apps, gegroeid, waardoor het gemakkelijker is geworden om op afbeeldingen gebaseerde seksuele intimidatie te automatiseren, inclusief het creëren van Materiaal met seksueel misbruik van kinderen (CSAM). Dit ‘nudificatie’-ecosysteem, en de verwoestende impact die het heeft op vrouwen en meisjes, is waarschijnlijk geavanceerder dan veel mensen begrijpen.
“Het is niet langer een erg ruwe synthetische strip”, zegt Henry Ajder, een deepfake-expert die de technologie in de gaten houdt. al meer dan een half decennium. “We hebben het over een veel hoger niveau van realisme van wat er daadwerkelijk wordt geproduceerd, maar ook over een bredere functionaliteit.” In combinatie is de service mogelijk miljoenen dollars per jaar verdienen. “Dit is de plaag van de samenleving, en het is een van de ergste en donkerste delen van de AI-revolutie en de synthetische media-revolutie die we zien”, zei hij.
Het afgelopen jaar heeft WIRED gevolgd hoe verschillende expliciete deepfake-diensten nieuwe en snel groeiende functionaliteit hebben geïntroduceerd om de creatie van kwaadaardige video’s aan te bieden. Beeld-naar-video-modellen hebben doorgaans slechts één foto nodig om een korte clip te maken. Uit een WIRED-onderzoek van meer dan vijftig ‘deepfake’-websites, die waarschijnlijk miljoenen views per maand ontvangen, blijkt dat ze nu bijna allemaal expliciete videoproducties van hoge kwaliteit bieden en vaak tientallen seksuele scenario’s bevatten waarin vrouwen kunnen worden afgebeeld.
Ondertussen brengen tientallen deepfake-seksuele kanalen en bots op Telegram regelmatig nieuwe functies en software-updates uit, zoals verschillende seksuele poses en posities. In juni vorig jaar promootte een deepfake-service bijvoorbeeld de ‘seksmodus’, waarbij deze werd geadverteerd naast de boodschap: ‘Probeer verschillende kleding, je favoriete poses, leeftijden en andere instellingen.’ Een ander berichtte dat er binnenkort “meer stijlen” van afbeeldingen en video’s komen en dat gebruikers “kunnen creëren wat je je voorstelt met je eigen beschrijving” met behulp van speciale opdrachten voor het AI-systeem.
‘Het is niet alleen maar: ‘Je wilt iemands kleren uittrekken.’ Het is zoiets als: ‘Dit zijn allemaal verschillende versies van fantasie.’ Dat komt omdat de pose anders is. Het komt door verschillende seksuele posities”, zegt onafhankelijk analist Santiago Lakatos, die bij de media werkte Indicator heeft onderzocht hoe ‘nudify’-diensten vaak gebruik maken van de infrastructuur van grote technologiebedrijven waarschijnlijk veel geld verdienen in het proces. “Er is een versie waarbij je iemand (blijkbaar) zwanger kunt maken”, zei Lakatos.
Uit een WIRED-beoordeling zijn meer dan 1,4 miljoen geregistreerde accounts gebleken voor 39 bots en deepfake-makerskanalen op Telegram. Nadat WIRED Telegram naar de dienst had gevraagd, verwijderde het bedrijf minstens 32 deepfake-tools. “Pornografie zonder wederzijds goedvinden – inclusief deepfakes en de tools die worden gebruikt om deze te maken – is ten strengste verboden volgens de regels van Telegram. servicevoorwaarden”, zei een woordvoerder van Telegram, eraan toevoegend dat het inhoud verwijdert wanneer het wordt gedetecteerd en 44 miljoen stukjes inhoud verwijderd die vorig jaar zijn beleid schond.
