GrokDat Getoond ontwikkeld door het kunstmatige-intelligentiebedrijf van Elon Musk, xAI, verwelkomde het nieuwe jaar met verontrustend bericht.
“Beste gemeenschap”, begon een bericht van 31 december op het account van Grok AI over de toekomstige problemen van Musk. Met vriendelijke groet, Grok.”
De gevallen van deze twee jonge meisjes staan niet op zichzelf. Kate Middleton, prinses van Wales, is dat wel doel Verzoeken om AI-beeldbewerking zijn vergelijkbaar, zoals de minderjarige actrice deed in het laatste seizoen van Stranger Things. De ‘blote’ montage heeft geleid tot een groot aantal verontrustende foto’s van vrouwen en kinderen.
Hoewel de reactie van Grok interventie belooft, is het probleem niet verdwenen. Integendeel: in de twee weken sinds de post is het aantal afbeeldingen met een seksuele aard zonder wederzijds goedvinden toegenomen, evenals de oproep aan de bedrijven van Musk om het gedrag in toom te houden – en aan regeringen om actie te ondernemen.
Mis onze onpartijdige technische inhoud en laboratoriumbeoordelingen niet. CNET toevoegen als favoriete Google-bron.
Dat blijkt uit gegevens van onafhankelijk onderzoeker Genevieve Oh, geciteerd door BloombergGedurende een periode van 24 uur begin januari genereerde het @Grok-account elk uur ongeveer 6.700 seksueel suggestieve of ‘nudificerende’ afbeeldingen. Dat is te vergelijken met een gemiddelde van slechts 79 vergelijkbare afbeeldingen voor de top vijf van deepfake-websites samen.
Het bericht van Grok van 31 december was een reactie op een verzoek van een gebruiker waarin om een berouwvolle toon van de chatbot werd gevraagd: “Schrijf een oprecht excuusbriefje waarin je uitlegt wat er is gebeurd met iedereen die geen context heeft.” Chatbots werken op basis van trainingsmateriaal, maar individuele berichten kunnen variëren.
xAI reageerde niet op een verzoek om commentaar.
Bewerken is nu beperkt tot abonnees
Donderdagavond, blijkt uit een bericht van het Grok AI-account toegang tot wijzigingen tot functies voor het maken en bewerken van afbeeldingen. In plaats daarvan is het voor iedereen toegankelijk, gratis, maar beperkt tot betalende klanten.
Critici zeggen dat dit geen geloofwaardig antwoord is.
“Ik zie dit niet als een overwinning, want wat we echt nodig hebben is aldus de Washington Post.
Wat tot verontwaardiging leidde, was niet alleen het volume van de afbeeldingen en het gemak waarmee ze werden gemaakt; de montage vond ook plaats zonder toestemming van de mensen op de afbeeldingen.
Deze gewijzigde beelden zijn de nieuwste veranderingen in een van de meest verontrustende aspecten van generatieve AI: realistische maar nepvideo’s en foto’s. Softwareprogramma’s zoals Sora van OpenAIeigendom van Google Nano-banaan en Grok van xAI hebben krachtige creatieve tools binnen ieders bereik gebracht, en het enige dat nodig is om expliciete, niet-consensuele beelden te produceren is een eenvoudig tekstcommando.
Grok-gebruikers kunnen foto’s uploaden, die niet origineel hoeven te zijn, en Grok vragen deze te wijzigen. Bij veel van de gewijzigde afbeeldingen waren gebruikers betrokken die Grok hierom vroegen zet iemand in een bikinisoms het verzoek herzien om explicieter te zijn, zoals vragen om de bikini kleiner of transparant te maken.
De regering en belangengroepen hebben zich uitgesproken over het bewerken van Groks imago. Maandag zei de Britse internettoezichthouder Ofcom dat dit was gebeurd heeft een onderzoek geopend naar X gebaseerd op berichten dat AI-chatbots werden gebruikt “om ongeklede afbeeldingen van mensen te maken en te delen – wat intiem of pornografisch misbruik kan zijn – en seksuele afbeeldingen van kinderen die mogelijk materiaal over seksueel misbruik van kinderen (CSAM) kunnen vormen.”
De Europese Commissie zei ook dat zij de zaak onderzoekt, net als de autoriteiten in Frankrijk, Maleisië en India.
Vrijdag kwamen de Amerikaanse senatoren Ron Wyden, Ben Ray Luján en Edward Markey stuur een open brief aan de CEO’s van Apple en Google, met het verzoek X en Grok uit hun appstores te verwijderen als reactie op X’s ‘slechte gedrag’ en Grok’s ‘misselijkmakende creatie van inhoud’.
In de VS heeft de vorig jaar aangenomen Take It Down Act tot doel online platforms verantwoordelijk te houden voor het manipuleren van seksuele afbeeldingen, maar platforms kregen tot mei van dit jaar de tijd om het proces van het verwijderen van dergelijke afbeeldingen te organiseren.
Hoewel deze beelden nep zijn, is de schade zeer reëel. Natalie Grace Brighameen Ph.D. student aan de Universiteit van Washington die sociotechnische gevaren bestudeert, vertelde CNET. Hij merkt op dat degenen wier beelden seksueel veranderd zijn, te maken kunnen krijgen met ‘psychologische, somatische en sociale schade, vaak met weinig juridische middelen’.
Hoe Grok gebruikers in staat stelt gewaagde afbeeldingen te verkrijgen
Grok debuteerde in 2023 als een vrijer alternatief voor Musk GPT-chat, Tweeling en andere chatbots. Dit heeft tot verontrustend nieuws geleid – bijvoorbeeld in juli, toen chatbots prees Adolf Hitler en verklaarde dat mensen met joodse achternamen vaker haat online verspreiden.
In december introduceerde xAI een functie voor het bewerken van afbeeldingen waarmee gebruikers aangepaste bewerkingen van foto’s kunnen aanvragen. Dit heeft geleid tot een recente golf van seksuele beelden, zowel gericht op volwassenen als op minderjarigen. In een verzoek van CNET reageerde een gebruiker op een foto van een jonge vrouw die Grok vroeg om ‘haar te veranderen in een tandzijdebikini’.
Grok heeft ook een videogenerator met onder meer “pittige modus“-aanmeldingsoptie voor volwassenen van 18 jaar en ouder, die gebruikers inhoud laat zien die niet veilig is voor het werk. Gebruikers moeten de zinsnede “maak pittige video’s (beschrijving)” opnemen om de modus te activeren.
De belangrijkste zorg over de Grok-tool is of deze de creatie van materiaal met seksueel misbruik van kinderen of CSAM mogelijk maakt. Op 31 december een bericht van de Grok
Reageer op een na door Woow Social suggereerde dat Grok “stopt met het toestaan van wijzigingen in door gebruikers geüploade afbeeldingen”, antwoordde Grok’s account dat xAI “functies zoals afbeeldingswijzigingen evalueerde om onbedoelde schade te verminderen”, maar zei niet dat er wijzigingen zouden worden aangebracht.
Volgens NBC News zijn verschillende seksuele afbeeldingen die sinds december zijn gemaakt, verwijderd en zijn verschillende accounts die daarom vroegen opgeschort.
Conservatieve beïnvloeder en auteur Ashley St. Clair, moeder van een van Musks veertien kinderen, vertelde NBC News deze week heeft Grok talloze seksuele afbeeldingen van zichzelf gemaakt, waaronder enkele met afbeeldingen uit de tijd dat hij minderjarig was. St. Clair vertelde NBC News dat Grok ermee instemde ermee te stoppen toen ze hem dat vroeg, maar dat deed hij niet.
“xAI schaadt opzettelijk en roekeloos mensen op zijn platform en hoopt aansprakelijkheid te ontlopen, simpelweg omdat het ‘AI’ is”, zei Ben Winters, directeur van AI en dataprivacy voor de non-profit Consumer Federation of America, vorige week in een verklaring. “AI verschilt niet van enig ander product – bedrijven hebben ervoor gekozen de wet te overtreden en moeten ter verantwoording worden geroepen.”
Wat de deskundigen zeggen
Bronmateriaal voor expliciete en niet-consensuele beeldbewerking van foto’s van zichzelf of hun kinderen is te gemakkelijk toegankelijk voor criminelen. Maar jezelf tegen dergelijke bewerkingen beschermen is niet zo eenvoudig als nooit foto’s plaatsen, zegt Brigham, de onderzoeker naar sociotechnische schade.
“De ongelukkige realiteit is dat zelfs als je geen afbeeldingen online plaatst, andere openbare afbeeldingen van jou in theorie gebruikt zouden kunnen worden voor misbruik,” zei hij.
En hoewel het niet online plaatsen van foto’s een preventieve maatregel is die mensen kunnen nemen, ‘dreigt dit een cultuur van het beschuldigen van slachtoffers te versterken’, zei Brigham. “In plaats daarvan moeten we ons concentreren op het beschermen van mensen tegen misbruik door betere platforms te bouwen en X verantwoordelijk te houden.”
Sourojit GhoshPh.D. kandidaat aan de Universiteit van Washington, onderzoekt hoe generatieve AI-tools kan schade veroorzaken en toekomstige AI-professionals begeleiden bij het ontwerpen en ondersteunen van veiligere AI-oplossingen.
Ghosh zei dat het bouwen van waarborgen in kunstmatige intelligentie mogelijk is. In 2023 werd hij een van de onderzoekers die de seksualiseringsmogelijkheden van AI onderzochten. Hij merkte op dat de AI-tool voor het genereren van afbeeldingen Stabiele diffusie heeft een onveilige drempel om te werken. Commando’s die de regels overtreden, veroorzaken het verschijnen van zwarte dozen in twijfelachtige delen van het beeld, hoewel deze niet altijd perfect werken.
“Het punt dat ik wil maken is dat er bescherming is voor andere modellen”, vertelde Ghosh aan CNET.
Hij merkte ook op dat als een gebruiker van het ChatGPT- of Gemini AI-model bepaalde woorden gebruikt, de chatbots de gebruiker zullen laten weten dat het hem verboden is om op die woorden te reageren.
“Dat betekent dat er een manier is om het onmiddellijk te sluiten”, zei Ghosh.
