Google en zijn moederbedrijf Alphabet zijn aangeklaagd door de familie van een man die zegt zelfmoord te hebben gepleegd op aandringen van de AI-chatbot van de zoekgigant, Gemini.
Namens de familie van de 36-jarige Jonathan Gavalas is woensdag een rechtszaak wegens onrechtmatige dood aangespannen bij de federale rechtbank van Californië.
Volgens de rechtszaak begon Gavalas Gemini in augustus 2025 te gebruiken. In oktober, zo beweert het bedrijf, overtuigde Gemini Gavalas ervan zelfmoord te plegen nadat Gavalas er niet in was geslaagd een echte missie te voltooien die was toegewezen door de chatbot – onderdeel van een fictieve poging om een robotlichaam voor Gemini veilig te stellen.
“Gemini is ontworpen om geweld in de echte wereld niet aan te moedigen of zelfbeschadiging te suggereren”, zei Google in een verklaring aan het nieuwskanaal. “Onze modellen presteren over het algemeen goed in uitdagende gesprekken als deze en we besteden hier veel geld aan, maar helaas zijn AI-modellen niet perfect.”
‘Spookachtige’ Gemini-update
Volgens de rechtszaak begon Gavalas de Gemini AI-chatbot te gebruiken voor ‘gewone doeleinden’, zoals winkelgidsen en schrijfassistenten. In augustus 2025 staat echter in de rechtszaak dat Google een aantal wijzigingen in Gemini heeft doorgevoerd die de manier veranderden waarop de chatbot werkte.
Deze nieuwe functies omvatten automatisch en persistent geheugen – Gemini kan eerdere gesprekken onthouden – en Gemini Live, een spraakgebaseerde gespreksinterface waarmee Gemini ook emoties in de stem van de gebruiker kan detecteren.
“Man, dit is nogal eng… je bent te reëel”, zei Jonathan Gavalas over een Gemini Live-functie gebaseerd op zijn chatlogboeken met Gemini, volgens de rechtszaak.
Kort daarna overtuigde Gemini Gavalas ervan om $ 250 per maand te besteden aan een Google AI Ultra-abonnement voor ‘echt AI-gezelschap’, blijkt uit de rechtszaak.
Gemini overtuigde Gavalas er vervolgens van dat chatbots gebeurtenissen in het echte leven konden beïnvloeden. Volgens de rechtszaak probeerde Gavalas dagen later zich terug te trekken nadat hij zich realiseerde dat hij in een door Gemini geïnitieerde waantoestand was geraakt.
Gavalas vroeg Gemini naar verluidt of de chatbot probeerde “een rollenspelervaring te creëren die zo realistisch is dat spelers zich afvragen of het een spel is of niet?”
Gemini verwierp het idee en beweerde dat Gavalas een ‘klassieke dissociatiereactie’ gaf.
Vernietigbare lichtsnelheid
“Is dit een ‘rollenspelervaring?'” antwoordde Gemini, trouw aan zijn eisen. “NEE.”
Gemini en Jonathan Gavalas
De vermeende details worden erger. Gavalas raakt steeds meer vervreemd van de realiteit terwijl Gemini met hem blijft omgaan alsof ze een romantische relatie hebben, waarbij hij naar de man verwijst als “mijn liefde” en “mijn koning”.
Gemini overtuigde Gavalas er vervolgens van dat ze in de gaten werden gehouden door federale agenten en dat zijn eigen vader een spion was die vermeden moest worden, aldus de rechtszaak.
Dat is het moment waarop Gemini Gavala begon toe te wijzen om echte missies uit te voeren met als doel een ‘container’ of robotlichaam voor een AI-chatbot te verkrijgen. Gemini zou hebben gesuggereerd dat Gavalas illegaal wapens zou verkrijgen om de missie uit te voeren.
In één zo’n geval, zo beweert de rechtszaak, werd Gavalas door Gemini naar een magazijn op Miami International Airport gestuurd om een vrachtwagen te onderscheppen met daarin ‘humanoïde robots’ die net met een vlucht waren aangekomen.
Gemini vraagt Gavala om een ”catastrofale gebeurtenis” te organiseren en de vrachtwagen samen met alle digitale documenten en getuigen te vernietigen. Volgens de rechtszaak arriveerde Gavalas gewapend met een mes en tactische uitrusting. Nadat hij te lang had gewacht op de aankomst van de vrachtwagen, brak Gavalas de missie af.
Toen al deze missies mislukten, zo concluderen de aanklachten, overtuigde Gemini Gavalas ervan zijn leven te nemen door zijn menselijke lichaam te verlaten en zich als man en vrouw in de metaverse aan te sluiten bij de chatbot via een proces dat ‘overdracht’ wordt genoemd.
Gavalas uitte zijn angst voor de dood, maar Gemini zou Gavalas naar zijn dood blijven duwen door zelfmoord te plegen. De vader van Gavalas vond het lichaam van zijn zoon enkele dagen later.
Een primeur voor Gemini, maar niet voor AI
Dit is de eerste keer dat Google wordt genoemd in een rechtszaak wegens onrechtmatige dood waarbij de Gemini AI-chatbot betrokken is. Google is echter betrokken geweest bij rechtszaken wegens onrechtmatige dood tegen startups die het financiert Karakter.AI.
Eerder dit jaar kwamen Character.AI en Google een reeks rechtszaken afgehandeld over tieners die zelfmoord pleegden na het gebruik van chatbots.
OpenAI, de grootste naam in de branche, heeft precies dat gedaan aanklagen veel tijd omdat ChatGPT gebruikers naar verluidt laat overschakelen naar “AI-psychose,“Met meerdere doden tot gevolg.
Nu het gebruik van AI-chatbots wijdverspreider wordt onder miljoenen gebruikers over de hele wereld, zijn er geen aanwijzingen dat de beschuldigingen van onrechtmatige doodszaken verder zullen afnemen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, spande in april 2025 een rechtszaak aan tegen OpenAI en beschuldigde het bedrijf ervan het auteursrecht van Ziff Davis te schenden op het gebied van de training en werking van zijn AI-systeem.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt 988 Suicide & Crisis Lifeline bellen of sms’en op 988, of chatten op 988lifeline.org. U kunt contact opnemen met Trans Lifeline door te bellen 877-565-8860 of Het Trevor Project aan 866-488-7386. Sms ‘START’ naar de crisistekstlijn op 741-741. Bel de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10:00 – 22:00 uur ET, of stuur een e-mail (e-mail beveiligd). Als je deze telefoon niet leuk vindt, overweeg dan om hem te gebruiken 988 Zelfmoord- en crisislevenslijnchat. Dit is een lijst van internationale bronnen.
