Uit de tijd van Elon Musk kunstmatige intelligentie Het bedrijf, xAI, begon in 2023 met de uitrol van zijn Grok-chatbot voor betalende X-klanten en noemde de tool de slechtste in het grote taalmodel. Grok zou de bevoegdheid moeten krijgen om dingen te zeggen en te doen die zijn politiek correcte concurrenten – vooral ChatGPT, geproduceerd door Musks oude vijanden bij OpenAI – niet doen.
In een aankondiging in Hoewel xAI waarschuwt dat Grok een ‘zeer vroeg bètaproduct’ is, verzekert xAI gebruikers dat Grok met hun hulp ‘elke week snel zal verbeteren’.
Destijds adverteerde xAI niet dat Grok op een dag op verzoek pornografie zonder wederzijds goedvinden zou leveren. Maar de afgelopen weken is dat precies wat er gebeurde, aldus klant X het platform onder water zetten met verzoeken om het echte beeld van de vrouw te veranderen door haar kleren uit te trekken, haar lichaam te veranderen, haar benen te spreiden, enzovoort. X-gebruikers hoeven geen premium-abonnee te zijn om van deze service te profiteren toegankelijk zowel in X als in de standalone Grok-app.
Sommige van de afbeeldingen die met de hulp van Grok zijn gemaakt, tonen topless of suggestieve afbeeldingen van meisjes tussen de 11 en 13 jaar oud. volgens aan de Britse kinderveiligheidswaakhond. Een analyse Uit de 20.000 afbeeldingen die Grok tussen 25 december en 1 januari had gegenereerd, bleek dat de chatbot had voldaan aan gebruikersverzoeken om kinderen af te beelden met seksuele vloeistoffen op hun lichaam. Op oudejaarsavond biedt een AI-bedrijf detectiediensten voor beeldverandering aan geschat dat Grok seksuele beelden produceerde met een snelheid van ongeveer één beeld per minuut.
“Ik heb in het verleden seksuele intimidatie meegemaakt, en het voelde als een digitale versie ervan”, zei een vrouw op de hoogte gebracht De snit nadat gebruiker Grok een foto van haar poserend naast een kerstboom terwijl ze trainingsuitrusting droeg, veranderde in een foto van zichzelf in een stringbikini. “Het is voor mij volkomen onbegrijpelijk dat mensen dit vrouwen mogen aandoen.”
Donderdag meldde journalist en Bellingcat-oprichter Eliot Higgins dat hij Grok’s tekening had gezien van Renee Nicole Good, de 37-jarige ongewapende vrouw die werd neergeschoten en vermoord door ICE-agenten in Minneapolis, aangepast om haar lijk in bikini weer te geven. Als Higgins zei het: “Digitale ontheiliging van lijken is nu beschikbaar voor het publiek.”
Van alle mogelijke toepassingen van AI-chatbots die de afgelopen jaren door AI-bedrijven zijn aangeprezen, is op maat gemaakte porno altijd het meest voor de hand liggend geweest. (Je hoeft geen gedragswetenschapper te zijn om bepaalde demografische gegevens te begrijpen denk er meteen over na om het te doen wanneer ze tools krijgen aangeboden waarvan wordt geadverteerd dat ze op magische wijze fotorealistische beelden kunnen produceren van alles wat iemands geest maar kan bedenken.) Met wisselend succes hebben platforms als ChatGPT en Google Gemini op zijn minst poging Om deze mogelijkheid aan te pakken, moeten er ‘vangrails’ worden gebouwd die proberen de mogelijkheden van gebruikers om NSFW-afbeeldingen aan te passen aan hun smaak te beperken.
Het belangrijkste verschil tussen deze bedrijven en xAI is natuurlijk dat xAI wordt geleid door Musk, wiens ideologische inzet voor het uitroeien van wakkerheid en censuur zich uitstrekt tot het bieden van een hilarische en absurde verdediging van de niet-consensuele inhoud voor volwassenen die wordt gepubliceerd door het vlaggenschipproduct van zijn bedrijf.
Op zijn X-account heeft Musk bevelen gegeven traktatie wat een existentiële crisis zou zijn voor elk ander bedrijf als een leuke en grappige meme. Het feit dat een van hen slachtoffer is Ashley St. Clair, de moeder van Musks 1-jarige zoon, heeft Musk er niet van weerhouden staat zelf kon niet stoppen met lachen bij het beeld van de AI-broodrooster in bikini.
Zowel X als Musk hebben het gedaan gepubliceerd stelling herinnert gebruikers eraan dat de servicevoorwaarden van X de creatie van materiaal met seksueel misbruik van kinderen (CSAM) en pornografie verbieden. X zei ook dat ze CSAM en andere illegale inhoud hadden verwijderd en het account dat de inhoud had aangemaakt, permanent hadden opgeschort. Tegelijkertijd is het een uitdaging voor het bedrijf om zichzelf te positioneren als een bedrijf dat problemen serieus neemt wanneer de eigenaar, die ook de meest gevolgde persoon op het platform is, binnenkomt en de hele kwestie als een grote grap behandelt.
Normaal gesproken zou het bestaan van een online tool die CSAM met één klik kan genereren wijdverbreide verontwaardiging en een snelle reactie van de rechtshandhavingsinstanties veroorzaken. Toezichthouders in landen in Europa, Azië en Zuid-Amerika beschikken er al over beloofd te onderzoeken, en deze week de Europese Commissie verlengd een bevel dat X verplichtte alle documenten en gegevens met betrekking tot Grok te bewaren terwijl ambtenaren hem nader onderzochten.
Daar is de juridische mechanismen die in de VS bestaan om de slechte dingen die Grok heeft gedaan aan te pakken. Minder dan een jaar geleden ondertekende Trump bijvoorbeeld de TAKE IT DOWN Act, een tweeledige wet die websites verplicht om op verzoek van een slachtoffer binnen 48 uur ‘intieme afbeeldingen zonder wederzijds goedvinden’ te verwijderen. Hoewel een bepaling van de federale wet, bekend als Sectie 230, websites en sociale-mediaplatforms in het algemeen beschermt tegen aansprakelijkheid voor inhoud die door hun gebruikers is gepubliceerd, deed Grok hier zelf de ‘publicatie’ door de afbeeldingen te produceren.
Senator Ron Wyden (D-OR), die dertig jaar geleden hielp bij het schrijven van Sectie 230, gewogen in Bluesky, met het argument dat “AI-chatbot-uitvoer niet beschermd is” op grond van Sectie 230, en dat “dit niet onmogelijk is.” Samen met twee andere Democratische senatoren heeft Wyden dit ook gedaan gevraagd Apple en Google zullen Grox en X uit hun appstores verwijderen wegens het schenden van de servicevoorwaarden van de bedrijven. Dit zou een belangrijke stap zijn verder dan wat de enige actie lijkt te zijn die Apple tot nu toe heeft ondernomen: onderhoud Grok-app-leeftijdsclassificatie van 12+ tot 13+.
Dat gezegd zijnde, Musk, wie besteed De tumultueuze vier maanden die zich hebben afgespeeld in de bestuurlijke staat als hoofd van het ministerie van Efficiëntie van de overheid, hebben veel praktische redenen om zich geen zorgen te maken. Dankzij de politieke en financiële steun die Musk en zijn vrienden in Silicon Valley aan de Republikeinse Partij hebben gegeven, is de tweede regering-Trump succesvol geweest enthousiast over het integreren van AI-producten – zowel van xAI als van andere bedrijven – in het werk van de federale overheid.
Het feit dat Trump David Sacks, een technologie-investeerder met aanzienlijke AI- en crypto-belangen (en nauwe persoonlijke en professionele banden met Musk), onmiddellijk benoemde tot zijn AI- en crypto-tsaar, is een vrij goede indicatie dat zinvolle regulering niet snel zal komen.
Volgens het Brennan Center hebben staten met door de Democraten en de Republikeinen gecontroleerde wetgevers sinds 2019 gereageerd op de passiviteit van de federale overheid door meer dan 140 staatswetten aan te nemen die AI reguleren. analyse. Maar in december 2025 kan het Witte Huis de meest veelbelovende actie ondernemen voor de AI-industrie: een uitvoerend bevel bevestigde opnieuw de toewijding van Trump aan het bouwen van een “minder belastend nationaal AI-beleidskader” dat “de mondiale AI-dominantie van de Verenigde Staten zou behouden en versterken.”
Het bevel geeft uitvoerende instanties onder meer de opdracht om AI-regelgeving te identificeren die inconsistent wordt geacht met de agenda van de regering, en moedigt procureur-generaal Pam Bondi aan om een “AI Litigation Task Force” op te richten om overtredende wetten voor de rechtbank aan te vechten.
Zoals de meeste uitvoerende bevelen van Trump zal dit bevel geen onmiddellijke impact hebben enkele opvallende krantenkoppen aanbevelen; Zoals het bevel erkent, zou het Congres actie moeten ondernemen om de inhoudelijke bepalingen van kracht te laten worden. Maar voor Musk is de boodschap die het Witte Huis uitzendt over zijn prioriteiten cruciaal: op dit moment heeft de regering-Trump het te druk met het starten van illegale oorlogen en het executeren van ongewapende demonstranten op straat om zich zorgen te maken over een paar pikante beelden die op de sociale mediaplatforms van haar keuze verschijnen.
Toen Musk vorig jaar Washington verliet, deed hij dat niet stilletjes en bekritiseerde hij Trump vanwege zijn standpunt niet respectvol genoeg volgens zijn voorkeuren en minder dankbaar voor zijn steun. Maar acht maanden later suggereert het feit dat de officiële reactie op de Grok-pornografie en de CSAM-rubriek in feite onverschilligheid was, dat het kwart miljoen dollar dat Musk in 2024 aan Trump en andere Republikeinen schonk een goede investering in de toekomst van zijn bedrijf was.
Op 3 januari, toen Grok er nog was spit Deze beelden zijn op verzoek gemaakt. Musk en Trump zijn voldoende verzoend om samen te gaan eten in Mar-a-Lago. Daarna Trump genaamd Musk is ‘geweldig’ en een ‘goede kerel’, en Musk voorspelde dat 2026 ‘geweldig’ zal zijn.
De wet is slechts zo sterk als de wil van de heerser om deze af te dwingen. Als mensen je controleren, is geen schandaal te walgelijk om mee te lachen.
