Elon MuskAI-chatbot Grok heeft beleidswijzigingen aangekondigd die bedoeld zijn om meer bescherming tegen virussen te bieden deepfakes van seksuele aard, althans in X. Het nieuwe beleid komt op een moment dat Californië intussen een onderzoek naar de zaak start Engeland dreigde het te verbieden.
“We hebben technologische maatregelen geïmplementeerd om te voorkomen dat Grok-accounts het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toestaan,” lees de verklaring van het X Safety-account op XGrok’s zustersite, geplaatst vóór 18.00 uur ET / 15.00 uur PT op woensdag. Deze beperkingen zijn van toepassing op alle gebruikers, inclusief betaalde klanten.”
De X-beveiligingsupdate stelt ook dat materiaal over seksueel misbruik van kinderen (CSAM) en naaktheid zonder wederzijds goedvinden serieus worden genomen voordat andere recente wijzigingen worden herhaald: het maken en bewerken van afbeeldingen via Grok-accounts op X nu beperkt tot klanten.
Het X Safety-account kondigde ook aan dat het nu de mogelijkheid heeft om “alle gebruikers geografisch te blokkeren voor het genereren van afbeeldingen van echte mensen die bikini’s, lingerie en soortgelijke kleding dragen via Grok-accounts en op Grok op X in rechtsgebieden waar dit illegaal is.”
Deze tweet is momenteel niet beschikbaar. Mogelijk wordt deze geladen of is deze verwijderd.
Grok en X hebben te maken gehad met een golf van toezicht in het nieuwe jaar nu seksuele en niet-consensuele afbeeldingen van beroemdheden en kinderen, gevoed door gebruikers en gemaakt door de AI, zich hebben verspreid op X. Procureur-generaal van Californië, Rob Bonta, heeft geëist dat Grok en zijn ontwikkelaar xAI stappen ondernemen om dergelijke afbeeldingen te verwijderen en te voorkomen, dreigt “alle middelen te gebruiken die ons ter beschikking staan” om de veiligheid van haar bewoners te waarborgen.
Vernietigbare snelheid van het licht
“Dit materiaal, waarin vrouwen en kinderen op een naakte en seksueel expliciete manier worden afgebeeld, is gebruikt om mensen op internet lastig te vallen.” zei Bonta woensdag in zijn verklaring.
Ondertussen daagde xAI/X/Grok-baas Elon Musk gebruikers blijkbaar uit om “de beeldmoderatie van Grok te schenden” op dezelfde dag dat X Safety zijn nieuwe beveiligingsupdate aankondigde:
Deze tweet is momenteel niet beschikbaar. Mogelijk wordt deze geladen of is deze verwijderd.
De Britse premier Keir Starmer dreigde maandag actie te ondernemen tegen Musk en zei: “Als X Grok niet kan controleren, zullen wij dat wel doen.” volgens een BBC-rapport. Indonesië en Maleisië al de toegang van Grok blokkeren dit weekend.
Politici richtten zich ook op Grok en X, waarbij drie senatoren Apple opriepen de diensten uit de app store te verwijderen. De app was vanaf woensdagavond nog beschikbaar in de app store van Apple.
Volgens de BBC kunnen de recente beleidswijzigingen van X een weerspiegeling zijn van de erkenning door bedrijfsleiders dat het bedrijf niet wordt beschermd door Sectie 230 van de 30 jaar oude Amerikaanse Communications Decency Act. Sectie 230 beschermt technologiebedrijven tegen rechtszaken met betrekking tot door gebruikers gegenereerde inhoud, maar afbeeldingen en andere inhoud die door de technologie van een app zijn gemaakt, zijn mogelijk minder ongevoelig voor dergelijke juridische immuniteit.
