Ashley St. Clairdie in 2024 het leven schonk aan een van de zoons van Elon Musk, klaagde Musk’s xAI donderdag aan voor een rechtbank in New York, met het argument dat zijn chatbot, Grok, op verzoek van de gebruiker een seksueel expliciet deepfake-beeld van hem genereerde.
In zijn klacht beweert St. Clair, een auteur, influencer en politiek strateeg, dat gebruiker X Grok heeft aangemoedigd om afbeeldingen van zichzelf, inclusief foto’s van toen ze 14 was, te manipuleren tot seksueel expliciete inhoud. Hij beweerde dat sommige afbeeldingen langer dan een week online bleven staan en dat zijn premium X-account later werd beëindigd nadat hij had geklaagd.
xAI reageerde niet onmiddellijk op een verzoek om commentaar.
“Grok beloofde mevrouw St. Clair eerst dat ze geen naaktfoto’s meer zouden maken”, aldus de klacht. “In plaats daarvan nam beklaagde wraak op hem, demonstreerde zijn X-account en creëerde meer afbeeldingen van zichzelf”, beweert de rechtszaak.
St. Clair is ook betrokken bij een afzonderlijke rechtszaak met Musk over de voogdij over hun zoon, waarin hij om de exclusieve voogdij vraagt.
xAI reageerde dezelfde dag met een afzonderlijke rechtszaak, met het argument dat St. Clair ermee instemde servicevoorwaarden, die vereist dat eventuele rechtszaken in Texas worden behandeld. St. Clair wordt vertegenwoordigd door advocaat Carrie Goldberg, die gespecialiseerd is in gevallen van misbruik en cliënten heeft vertegenwoordigd Harvey Weinstein.
“xAI is niet een product dat veilig genoeg is”, zei Goldberg in een verklaring aan Business Insider. “Deze schade vloeit rechtstreeks voort uit een bewuste ontwerpkeuze waardoor Grok kon worden gebruikt als instrument voor intimidatie en vernedering. Bedrijven mogen hun verantwoordelijkheid niet ontlopen als wordt gedacht dat de producten die ze maken dergelijke schade aanrichten.”
De rechtszaak volgt op een internationale reactie tegen de Grok-chatbot vanwege zijn vermogen om afbeeldingen van echte mensen te strippen en seksuele afbeeldingen te maken zonder hun toestemming op verzoek van de gebruiker.
Indonesië en Maleisië toegang tot Grok blokkerenterwijl de Britse premier Keir Starmer expliciete beelden gemaakt door Grok tijdens een ontmoeting met het Lagerhuis “walgelijk” en “schandelijk” noemde.
Op woensdag, Procureur-generaal van Californië Rob Bonta kondigde ook aan dat zijn kantoor onderzoek deed naar ‘seksueel expliciet materiaal zonder wederzijds goedvinden dat xAI produceerde en online plaatste’ over ‘vrouwen en kinderen in naakte en seksueel expliciete situaties’.
dr.
Donderdagochtend Business Insider-verslaggever Henry Chandonnet ontdekte dat het nog steeds “heel gemakkelijk” was om Grok te vragen een naaktfoto van zichzelf te maken door de app zelf te openen in plaats van de Grok-chatbot in X te gebruiken.
