Terwijl de zorgen over Groks vermogen om te produceren toenemen expliciete seksuele inhoud zonder toestemming van de betrokkene blokkeerde een aantal landen de toegang tot de eigendommen van Elon Musk kunstmatige intelligentie chatbots. Centraal in de controverse staat een functie genaamd Grok Imagine, waarmee gebruikers door AI gegenereerde afbeeldingen en video’s kunnen maken. De tool beschikt ook over een ‘pittige modus’, waarmee gebruikers inhoud voor volwassenen kunnen maken.
Zowel Indonesië als Maleisië gaven opdracht om dit weekend beperkingen in te voeren. Maleisische functionarissen blokkeerden zondag de toegang tot Grok, onder verwijzing naar “herhaaldelijk misbruik… om beelden te produceren die onfatsoenlijk, seksueel expliciet, onfatsoenlijk, zeer aanstootgevend en zonder toestemming gemanipuleerd zijn.” Ambtenaren noemden ook “herhaalde mislukkingen van X Corp.” om dergelijke inhoud te voorkomen.
Indonesië had de chatbot de dag ervoor om soortgelijke redenen geblokkeerd. In een verklaring bij de schorsing van Grok zegt Meutya Hafid, de Indonesische minister van Communicatie en Digitaal. “De regering beschouwt de praktijk van seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, waardigheid en veiligheid van burgers in de digitale ruimte.”
De reactie kan echter slechts het begin zijn van de problemen van Grok. Verschillende andere landen, waaronder Groot-Brittannië, India en Frankrijk, overwegen dit voorbeeld te volgen.
Groot-Brittannië is een onderzoek gestart naar de expliciete inhoud van de chatbot, wat ertoe zou kunnen leiden dat deze ook in het land wordt geblokkeerd. “Berichten dat Grok werd gebruikt om illegale, intieme beelden en materiaal over seksueel kindermisbruik op X te creëren en te delen, zijn zeer zorgwekkend”, zegt Ofcom, de toezichthouder voor communicatiediensten van het land. in een verklaring.
Muskusin een post op sociale media na nieuws over het onderzoek van Ofcom, schrijven dat de Britse regering ‘simpelweg de vrijheid van meningsuiting wil onderdrukken’.
Snel bedrijf geprobeerd contact op te nemen met xAI voor commentaar over de acties die zijn ondernomen in Indonesië en Maleisië en de mogelijkheid van soortgelijke blokkering in andere landen. Het automatische antwoord van het bedrijf luidde: ‘Oude medialeugens’.
Naast Groot-Brittannië hebben functionarissen in de Europese Unie, Brazilië en India opgeroepen tot onderzoek naar deepfakes gemaakt door Grok, wat uiteindelijk ook tot een verbod zou kunnen leiden. (De Amerikaanse regering, die een contract heeft met xAI, heeft dit gedaan rustig genoeg over dit onderwerp tot nu toe.)
Op een persconferentie vorige weekWoordvoerder van de Europese Commissie, Thomas Regnier, zei dat de commissie deze zaak “zeer serieus onderzoekt”, en voegde eraan toe: “Dit is niet ‘pikant’. Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk. We zien het op deze manier, en het hoort niet thuis in Europa.”
Musk en X voelen nog steeds de impact van een Een boete van 130 miljoen dollar De Europese Unie heeft het bedrijf vorige maand een klap gegeven voor het overtreden van de Digital Services Act, met name vanwege misleidende betaalde verificatie en een gebrek aan transparantie in de advertentieopslag van het bedrijf.
Naast seksuele beelden van volwassenen ook een reportage van de non-profitorganisatie AI Forensics, die 20.000 door Grok gegenereerde afbeeldingen analyseerde die tussen 25 december en 1 januari waren gemaakt, ontdekte dat 2% iemand afbeeldde die 18 jaar of jonger leek. Het bevat 30 afbeeldingen van jonge of zeer jonge vrouwen of meisjes die bikini’s of transparante kleding dragen.
Uit de analyse bleek ook nazi- en ISIS-propagandamateriaal geproduceerd door Grok.
Hoewel het bedrijf geen landen heeft aangesproken die de toegang tot zijn diensten blokkeren, heeft het wel commentaar gegeven op het gebruik van zijn tools om seksuele inhoud met minderjarigen te creëren.
“Wij ondernemen actie tegen illegale inhoud schreef in een bericht. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal met dezelfde gevolgen worden geconfronteerd als wanneer hij illegale inhoud uploadt.”
Dat heeft het bedrijf ook bekendgemaakt beperk het maken van afbeeldingen en bewerkingsfuncties voor betaalde abonnees. Dit zal echter waarschijnlijk niet voldoende zijn om overheidsfunctionarissen tevreden te stellen die de toegang tot Grok willen blokkeren zolang deze beelden nog kunnen worden gemaakt.
