De procureur-generaal van Californië, Rob Bonta, heeft xAI aangeklaagd om te voorkomen dat zijn chatbot, Grok, zich bezighoudt met seksuele activiteiten vals beeld kinderen.
Bonta’s kantoor stuurde een ophouden en ophouden brief tegen de AI-startup van Elon Musk op vrijdag na aanhoudende kritiek op het vermogen van de bot om creatief te zijn niet-consensuele seksuele beeldeninclusief minderjarigen.
De brief eist dat xAI Grok verhindert seksuele afbeeldingen te maken van mensen die niet om het maken van de afbeeldingen hebben gevraagd, of minderjarig waren toen de afbeeldingen werden gemaakt. Het niet stoppen van het maken of verspreiden van dergelijke beelden zou een overtreding vormen van deepfake-pornografie, beelden van seksueel misbruik van kinderen, onwettige opnames en wetten tegen oneerlijke zakelijke praktijken, aldus de brief.
xAI kreeg tot 20 januari 17.00 uur de tijd om aan het bevel te voldoen.
Eerder deze week zei socialemediaplatform X, eigendom van xAI, dat het beperkingen had opgelegd aan Grok.
“We hebben technologische maatregelen geïmplementeerd om te voorkomen dat Grok-accounts het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toestaan”, aldus het X-beveiligingsaccount woensdag in een blogpost op het platform. Deze beperkingen zijn van toepassing op alle gebruikers, inclusief betalende klanten.
Dat weerhoudt de X- of Grok-apps er echter niet van om seksuele afbeeldingen te maken, Henry Chandonnet van Business Insider donderdag ontdekt.
Grok heeft ook te maken gehad met internationale tegenstand en juridische stappen vanwege zijn vermogen om afbeeldingen van echte mensen te onthullen en deepfakes te creëren die die mensen onthullen zonder hun toestemming op verzoek van de gebruiker.
Voorafgaand aan de lastenbrief kondigde Bonta woensdag aan dat zijn kantoor onderzoek deed naar “niet-consensueel seksueel expliciet materiaal geproduceerd en online geplaatst door xAI.”
Daarnaast heeft Ashley St. Clair, een influencer, politiek strateeg en moeder van een van Musks kinderen, xAI donderdag aangeklaagd, omdat Grok zonder toestemming een seksueel expliciete deepfake van haar had gemaakt met behulp van foto’s van toen ze nog een kind was.
De Britse premier Keir Starmer noemde de aangrijpende beelden van Grok in een bijeenkomst met het Lagerhuis ‘walgelijk’ en ‘beschamend’, terwijl Indonesië, Maleisië en de Filippijnen daartoe werden gedwongen. toegang tot Grok blokkeren. Sinds de blogpost van X op woensdag zijn er geen aanwijzingen dat het verbod is opgeheven.
Een vertegenwoordiger van het kantoor van de procureur-generaal van de CA reageerde niet onmiddellijk op het verzoek van Business Insider om commentaar.
In een geautomatiseerd antwoord aan Business Insider zei xAI: “Legacy Media Lies.”
