Een platform dat ‘pikante AI-chat’ beloofde, liet bijna twee miljoen afbeeldingen en video’s achter, waarvan vele met particulieren, die aan het publiek werden getoond. 404 Mediaberichten.
Secret Desires, een erotische chatbot en AI-beeldgenerator, liet cloudopslagcontainers met foto’s, vrouwennamen en andere persoonlijke informatie zoals werkplek- en universiteitslocaties kwetsbaar, volgens 404 Media.
Dit ‘enorme lek’ is het nieuwste voorbeeld van mensen die generatieve AI-tools gebruiken om onschuldige foto’s om te zetten in expliciete, niet-consensuele deepfakes.
Hookup-app voor iedereen
—
de keuze van lezers voor informele verbindingen
—
beste keuze voor het vinden van een date
—
een populaire keuze voor reguliere vergaderingen
Producten zijn te koop via affiliate links. Als u iets koopt via een link op onze site, kan Mashable een partnercommissie verdienen.
Sommige foto’s en video’s zijn afkomstig van echte influencers, publieke figuren en niet-beroemde vrouwen. De laatste categorie bevat Snapchat-screenshots en minimaal één jaarboekfoto. Sommige van de blootgestelde media bevatten door gebruikers gegenereerde AI-afbeeldingen, zoals afbeeldingen gemaakt met de inmiddels ter ziele gegane ‘faceswap’-functie, die later eerder dit jaar door Secret Desires werd verwijderd.
Rapport over breekbare trends
Leuk vinden Karakter.AI of Replika, met Secret Desires kunnen gebruikers AI-persona’s creëren en met hen chatten. Wanneer pornografische inhoud is niet toegestaan op Character.AI (en nu alleen toegestaan voor bepaalde Replika-gebruikers), zegt Secret Desires dat het “naadloze intimiteit en verbinding biedt” in de snelstartgids.
Zoals 404 Media ontdekte, waren de door AI gegenereerde media in kwetsbare opslagcontainers meestal expliciet van aard. Sommige bestandsnamen bevatten termen als “17 jaar”.
Het bedrijf reageerde niet op het verzoek van 404 Media om commentaar, maar de bestanden werden ongeveer een uur nadat de publicatie was bereikt ontoegankelijk.
Jarenlang hebben vrouwen en meisjes precies dat gedaan slachtoffers van expliciete deepfakesdat is door AI gegenereerde inhoud. Veel deepfakes zijn de gelijkenissen van vrouwengezichten die worden ‘verwisseld’ met pornografische video’s. Dit geldt voor beroemdheden als Taylor Swift maar ook onbekende vrouwen. Dit gebeurt ook met meisjes, die creatief zijn online materiaal over seksueel kindermisbruik.
Dit jaar heeft het Congres het aangenomen Actie verwijderen om deepfake-afbeeldingen tegen te gaan. Bewezen wet controverseelomdat sommige groepen van vrijheid van meningsuiting en belangenbehartiging beweren dat het kan worden gebruikt als wapen tegen expliciete materiële of consensuele politieke meningsuiting.
Onderwerp
Kunstmatige intelligentie
