AI-afbeelding Het opstarten van de generator heeft volgens nieuw onderzoek van WIRED meer dan 1 miljoen afbeeldingen en video’s achtergelaten die met het systeem zijn gemaakt en voor iedereen online toegankelijk zijn. De “overgrote meerderheid” van de afbeeldingen betrof naaktheid en “afgebeelde inhoud voor volwassenen”, aldus onderzoekers die de blootgestelde dataset openbaarden, waarbij sommige kinderen leken af te beelden of de gezichten van kinderen waren ingewisseld voor door AI gegenereerde lichamen van naakte volwassenen.
Verschillende websites, waaronder MagicEdit en DreamPal, lijken dezelfde onveilige database te gebruiken, zegt beveiligingsonderzoeker Jeremiah Fowler, die het beveiligingslek in oktober ontdekte. Fowler zei dat er destijds elke dag ongeveer 10.000 nieuwe afbeeldingen aan de database werden toegevoegd. Deze afbeeldingen laten zien hoe mensen tools voor het maken en bewerken van afbeeldingen kunnen gebruiken en bevatten ‘ongewijzigde’ foto’s van echte mensen die mogelijk ‘zonder toestemming’ zijn gemaakt.naakt,‘Of hun gezichten worden verwisseld met andere naakte lichamen.
“Het echte probleem zijn eenvoudigweg onschuldige mensen, en vooral minderjarige mensen, wier afbeeldingen zonder hun toestemming worden gebruikt om seksuele inhoud te creëren”, zegt Fowler, een blootgestelde databasejager, die zijn bevindingen publiceerde in ExpressVPN-blog. Fowler zei dat dit de derde verkeerde configuratie was Database voor het genereren van AI-afbeeldingen hij vond ze dit jaar online toegankelijk – en ze leken allemaal expliciete afbeeldingen zonder wederzijds goedvinden te bevatten, inclusief afbeeldingen van jonge mensen en kinderen.
De bevindingen van Fowler komen omdat AI-tools voor het maken van afbeeldingen nog steeds worden gebruikt om op kwaadaardige wijze expliciete afbeeldingen van mensen te maken. Het enorme ecosysteem van ‘nudify’-diensten, dwz gebruikt door miljoenen mensen En miljoenen dollars per jaar verdienengebruikt AI om mensen – bijna allemaal vrouwen – op foto’s te ‘uitkleden’. Foto’s die van sociale media zijn gestolen, kunnen met slechts een paar klikken worden bewerkt: wat leidt tot gruwelijk misbruik en intimidatie van vrouwen. In de tussentijd, rapport criminelen die AI gebruiken om materiaal over seksueel kindermisbruik te maken, waaronder: een reeks onfatsoenlijke beelden waarbij kinderen betrokken zijn, is het afgelopen jaar verdubbeld.
“We nemen deze zorgen zeer serieus”, zegt een woordvoerder van een startup genaamd DreamX, die MagicEdit en DreamPal exploiteert. De woordvoerder zei dat het influencer-marketingbedrijf dat aan de database is gekoppeld, SocialBook genaamd, wordt gerund “door een afzonderlijke juridische entiteit en niet betrokken is” bij de exploitatie van de andere sites. “Deze entiteiten delen een aantal historische relaties via oprichters en oude activa, maar ze opereren onafhankelijk met afzonderlijke productlijnen”, aldus de woordvoerder.
“SocialBook is niet verbonden met de database waarnaar u verwijst, gebruikt deze opslag niet en is op geen enkel moment betrokken bij de werking of het beheer ervan”, vertelde een woordvoerder van SocialBook aan WIRED. “De afbeeldingen waarnaar wordt verwezen, worden niet gegenereerd, verwerkt of opgeslagen door het SocialBook-systeem. SocialBook opereert onafhankelijk en speelt geen rol in de beschreven infrastructuur.”
