Aanklagers in Parijs doen een inval in de kantoren van X in Frankrijk en dagvaarden Elon Musk: NPR

PARIJS – Franse aanklagers hebben dinsdag een inval gedaan in de kantoren van sociale-mediaplatform X als onderdeel van een voorlopig onderzoek naar beschuldigingen, waaronder de verspreiding van afbeeldingen van seksueel kindermisbruik en deepfakes. Ze hebben ook miljardair-eigenaar Elon Musk opgeroepen voor ondervraging.

X en Musk’s kunstmatige intelligentiebedrijf, xAI, worden ook geconfronteerd met intensief toezicht van de Britse toezichthouder voor gegevensprivacy, die een formeel onderzoek heeft geopend naar de manier waarop zij met persoonlijke gegevens omgingen toen ze Musk’s kunstmatige intelligentie-chatbot, Grok, ontwikkelden en implementeerden.

Grokgemaakt door xAI en beschikbaar via X, wordt geactiveerd mondiale verontwaardiging vorige maand nadat ze meerdere niet-consensuele deepfake-afbeeldingen van seksuele aard hadden vrijgegeven als reactie op een verzoek van gebruiker X.

Het Franse onderzoek werd in januari vorig jaar geopend door de cybercriminaliteitseenheid van de aanklager, aldus het parket van Parijs in een verklaring. De rechtbank onderzoekt onder meer vermeende “betrokkenheid” bij het bezit en de verspreiding van pornografische afbeeldingen van minderjarigen, seksueel expliciete deepfakes, ontkenning van misdaden tegen de menselijkheid en manipulatie van geautomatiseerde gegevensverwerkingssystemen als onderdeel van een georganiseerde groep.

Aanklagers vroegen Musk en voormalig CEO Linda Yaccarino om op 20 april ‘vrijwillige interviews’ bij te wonen. Werknemer X was dezelfde week ook opgeroepen om als getuige te worden ondervraagd, aldus de verklaring. Yakarino is de CEO van mei 2023 tot juli 2025.

Een woordvoerder van X heeft niet gereageerd op meerdere verzoeken om commentaar. De advocaat van X in Frankrijk, Kami Haeri, zei tegen The Associated Press: “We hebben in dit stadium geen commentaar.”

In een bericht geplaatst op

“In dit stadium is de uitvoering van het onderzoek gebaseerd op een constructieve aanpak, met als doel ervoor te zorgen dat platform X voldoet aan de Franse wet, aangezien het op nationaal grondgebied opereert”, aldus de verklaring van de aanklager.

Het politiebureau van de Europese Unie, Europol, “steunt de Franse regering hierin”, zei Europol-woordvoerder Jan Op Gen Oorth tegen de AP, zonder er verder op in te gaan.

De Franse autoriteiten begonnen hun onderzoek nadat een rapport van Franse wetgevers stelde dat een algoritme dat gericht was tegen X waarschijnlijk de werking van geautomatiseerde gegevensverwerkingssystemen verstoorde.

Dit escaleerde nadat Grok berichten had geplaatst waarin hij de Holocaust, een misdaad in Frankrijk, zou ontkennen en seksueel expliciete deepfakes had verspreid, aldus de verklaring.

Grok schreef in een breed gedeelde post in het Frans dat de gaskamer zich bevond Auschwitz-Birkenau De vernietigingskampen waren ontworpen voor “desinfectie met Zyklon B tegen tyfus” en niet voor massamoord – taal die lange tijd werd geassocieerd met de ontkenning van de Holocaust.

In een volgend bericht op

De chatbot prees vorig jaar ook Adolf Hitler, in reacties die later door X werden verwijderd klacht.

In Groot-Brittannië zei de Information Commissioner’s Office dat het onderzocht of X en xAI de wet naleefden bij het verwerken van persoonlijke gegevens en of Grok maatregelen had genomen om te voorkomen dat het gebruik ervan om “schadelijke gemanipuleerde beelden” te produceren.

“Het rapport over Grok roept diep verontrustende vragen op over hoe de persoonlijke gegevens van mensen zijn gebruikt om intieme of seksuele beelden te produceren zonder hun medeweten of toestemming, en of er waarborgen zijn getroffen om dit te voorkomen”, zegt William Malcolm, uitvoerend directeur van de waakhond.

Hij specificeerde niet welke boetes er zouden worden opgelegd als uit het onderzoek zou blijken dat de bedrijven zich niet aan de wetgeving inzake gegevensbescherming hielden.

Een afzonderlijk onderzoek naar Grok dat vorige maand werd gelanceerd door de Britse mediaregulator Ofcom, is nog gaande.

Ofcom zei dinsdag dat het nog steeds bewijs aan het verzamelen was en waarschuwde dat het onderzoek maanden zou kunnen duren.

X staat ook onder druk van de EU. Het uitvoerend orgaan van het 27 leden tellende blok werd geopend onderzoek vorige maand nadat Grok zonder wederzijds goedvinden seksuele deepfake-afbeeldingen op het platform had verspreid.

Brussel heeft X behaald met a 120 miljoen euro (toen $140 miljoen) boetes voor tekortkomingen in de digitale regelgeving van het blok, inclusief het blauwe vinkje het overtreden van de regels over “misleidende ontwerppraktijken” die het risico inhouden dat gebruikers worden blootgesteld aan fraude en manipulatie.

Maandag maakte Musks ruimteverkennings- en raketbedrijf SpaceX bekend aangekondigd dat het xAI overneemt in een deal waarbij ook Grok, X en zijn satellietcommunicatiebedrijf Starlink worden gecombineerd.