Indonesië, het land met de vierde grootste bevolking ter wereld, heeft dit ervaren verbiedt de toegang tot Grok nadat de AI-chatbot seksuele beelden genereerde van echte vrouwen en kinderen.
Het Indonesische ministerie van Communicatie zei dat het de toegang tot Grok tijdelijk heeft opgeschort om “vrouwen, kinderen en hele gemeenschappen te beschermen tegen het risico van neppornografische inhoud die wordt gegenereerd met behulp van kunstmatige intelligentietechnologie.”
“De regering beschouwt de praktijk van seksuele deepfakes zonder toestemming als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, aldus Meutya Hafid, minister van Communicatie, in een verklaring.
XAI van Elon Musk heeft Grok gemaakt en is ook eigenaar van X, dat bots in zijn platform integreert. Indonesië is de thuisbasis van het derde grootste aantal X-gebruikers ter wereld.
Wereldregeringen hebben zich op Grok gericht nadat verschillende landen er gebruik van hadden gemaakt een echt persoon digitaal uitkleden op de foto en post deze vervolgens op X.
De Franse autoriteiten vertelden Politico deze maand dat ze een seksueel expliciete deepfake van Grok zouden onderzoeken. En de Indiase regering zei in een brief aan de belangrijkste nalevingsvertegenwoordiger van X in het land dat Grok ‘misbruikt werd door gebruikers’ om ‘op een aanstootgevende of vulgaire manier afbeeldingen of video’s van vrouwen te produceren om hen op onfatsoenlijke wijze te degraderen’.
Het ministerie vroeg X om een “uitgebreid technisch, procedureel en bestuurlijk onderzoek” uit te voeren en inhoud te verwijderen die in strijd is met de staatswet.
Ofcom, de Britse communicatieregulator, vertelde maandag aan Business Insider dat het “dringend contact had gehad met X en xAI om te begrijpen welke stappen zij hebben ondernomen om te voldoen aan hun wettelijke verplichtingen om gebruikers in het VK te beschermen.”
Ondertussen hebben verschillende Amerikaanse senatoren Apple en Google opgeroepen om X en Grok uit hun appstores te verwijderen vanwege het imago.
“Een oogje dichtknijpen voor het slechte gedrag van X zou een aanfluiting zijn van uw moderatiepraktijken”, schreven de senatoren in een persbericht. “Het is waar dat als je geen actie onderneemt, je beweringen in het openbaar en in de rechtszaal zullen worden ondermijnd dat je app store een veiligere gebruikerservaring biedt dan gebruikers apps rechtstreeks naar hun telefoon te laten downloaden.”
Musk reageerde deze maand op kritiek op X en zei tegen een gebruiker: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
In een apart bericht schreef het X-beveiligingsaccount dat het bedrijf actie onderneemt “tegen illegale inhoud”.
Na de tegenreactie is de AI-beeldgenerator van Grok nu beperkt betalende klanten.
