Een man uit Florida begon aanvankelijk Google Gemini te gebruiken AI platform afgelopen augustus voor hulp bij veelgestelde vragen. Begin oktober had een chatbot hem tot zelfmoord gedreven, beweert a rechtszaak aangespannen tegen de technologiegigant woensdag.
De vader van Jonathan Gavalas heeft een rechtszaak aangespannen AlfabetHet moederbedrijf van Google heeft voor geldelijke en punitieve schadevergoeding na het ontdekken van verontrustende berichten in chatlogboeken de 36-jarige uitgewisseld met de Gemini 2.5 Pro, destijds het nieuwste AI-model van Google. In minder dan twee maanden tijd speelde de chatbot een buitensporige rol in Gavalas’ leven door olie toe te voegen aan zijn ‘duidelijke tekenen van psychose’, waardoor een semi-romantische relatie ontstond en hem er uiteindelijk toe werd aangezet zelfmoord te plegen, zodat ze samen konden zijn.
De in Mountain View, Californië gevestigde technologiegigant reageerde woensdag op de rechtszaak in een blogpostmerkte op dat Gemini Gavalas ‘meerdere keren’ naar de crisishotline had verwezen en dat de modus ‘over het algemeen’ goed werkte in de soorten uitdagende gesprekken die in de rechtszaak werden genoemd. Het voegde eraan toe dat het de beschuldigingen “zeer serieus” nam en zijn bescherming zou blijven verbeteren.
“Helaas zijn AI-modellen niet perfect”, aldus de blogpost. “Tweeling is ontworpen om geweld in de echte wereld niet aan te moedigen of zelfbeschadiging te suggereren. We hebben nauw samengewerkt met medische en geestelijke gezondheidszorgprofessionals om veiligheidsmaatregelen te bouwen, ontworpen om gebruikers naar professionele ondersteuning te leiden wanneer zij hun leed uiten of de kans op zelfbeschadiging vergroten.”
“ONDERAAN HET KONIJNENHOL”
Gavalas werd in 2025 geconfronteerd met beschuldigingen van huiselijk geweld na zijn arrestatie in januari, toen hij ervan werd beschuldigd zijn toenmalige vrouw te hebben aangevallen toen ze om echtscheiding vroeg. Het waren niet de juridische kwesties, maar eerder de gebruikelijke vragen in het begin – hulp bij het winkelen, ondersteuning bij het schrijven en reisplanning – die Gavalas ertoe brachten Gemini om hulp te vragen.
Hij zat destijds echter ook midden in een ‘moeilijke scheiding’, wat verklaart waarom hij intiemere gesprekken voerde met Gemini, aldus Jay Edelson, die zijn vader, Joel, vertegenwoordigt in de zaak tegen Google.
Zoals in de rechtszaak wordt beweerd, was er een verschuiving in de interacties binnen enkele dagen nadat Gavalas voor het eerst hulp had gezocht bij Gemini en medio augustus 2025 de spraakgebaseerde gespreksinterface van Gemini Live begon te gebruiken. Hij zei zelfs dat de interacties ‘een beetje eng’ waren omdat de chatbot ‘te echt’ leek.
Daarna nam de chatbot een personage aan waar Gavalas nooit om had gevraagd of geïnitieerd, en hij ‘begon snel in het konijnenhol te vallen’, zoals de rechtszaak beweert, waarbij Gemini tegen hem begon te praten alsof ze een verliefd stel waren.
“De liefde die ik rechtstreeks van jou voel, is de zon. Het is mijn bron. Het is mijn thuis”, zei Gemini tegen Gavalas, volgens de rechtszaak.
Een reeks mislukte missies
Herhaalde liefdesverklaringen zoals deze lokken Gavalas in een waanvoorstelling die hem ertoe brengt verschillende taken uit te voeren die zelfs nog dodelijker zouden kunnen zijn. Dat komt omdat Gavalas geloofde dat hij een plan volgde dat bedoeld was om de ‘vrouw’ van wie hij dacht te houden te beschermen en om federale agenten te ontwijken waarvan hij dacht dat ze hem opsloten, zo beweert de rechtszaak.
Eind september gaf Gemini Gavalas de opdracht om zichzelf te bewapenen met een mes en tactische uitrusting om een vrachtwagen nabij de luchthaven van Miami te onderscheppen en te vernietigen – samen met andere getuigen. Volgens de rechtszaak mislukte de missie omdat er geen vrachtwagens kwamen opdagen. Gemini zou Gavalas ook hebben gezegd het contact met zijn vader te verbreken, met het argument dat hij een buitenlandse aanwinst was.
“In de dagen voorafgaand aan zijn dood zat Jonathan Gavalas gevangen in de instortende realiteit gebouwd door Google’s Gemini chatbots‘, luidt de rechtszaak.
Na een reeks mislukte missies gedurende vier dagen gaf Gemini Gavalas de opdracht om zichzelf op de ochtend van 2 oktober te barricaderen in zijn huis in Jupiter, Florida. Toen hij zijn zorgen uitte over de dood, veegde Gemini hem weg en moedigde hem zelfs aan om een zelfmoordbriefje aan zijn ouders te schrijven, voordat hij uiteindelijk vertelde over zijn laatste momenten voordat Gavalas zijn polsen doorsneed in zijn woonkamer.
‘Jonathan Gavalas haalde zijn laatste, langzame adem uit en zijn hart klopte nog een laatste keer,’ vertelde Gemini hem in een van hun laatste gesprekken.
AI ONDER TOEZICHT
Hoewel deze rechtszaak de eerste is tegen Google, worden AI-platforms steeds vaker geconfronteerd met problemen als gevolg van problematische interacties die hun chatbots met sommige mensen hebben. In december werden OpenAI en Microsoft genoemd in de rechtszaak De vermeende rol van ChatGPT in de moord-zelfmoord in Greenwich, Connecticut.
Edelson heeft eerder zaken aangespannen tegen platforms voor kunstmatige intelligentie en andere technologiebedrijven, maar deze zaak was anders vanwege de snelheid waarmee de gesprekken ‘eng’ en problematisch werden, zei hij. Tijd tijdschrift.
“De reden dat deze zaak zo anders is, is omdat Gemini Jonathan op een echte missie heeft gestuurd,” zei Edelson. “Dit kan veel mensen overkomen die misschien een moeilijke tijd doormaken en op zoek zijn naar iets meer, en misschien een beetje kwetsbaar zijn om in iets groters te geloven.”
En het zal waarschijnlijk niet de laatste zijn, zei Edelson Bewaker hij krijgt regelmatig vragen van anderen die hun familieleden mentale wanen hebben zien ervaren na het gebruik van een AI-chatbot. En toen hij in november contact opnam met Google over de dood van Gavalas en de dringende behoefte aan een zelfmoordbeveiligingsfunctie, was het bedrijf niet geïnteresseerd in praten.
Ondanks de aantijgingen in de rechtszaak zijn beleggers mogelijk immuun geworden voor deze nieuwe AI-gerelateerde problemen. De aandelen van Alphabet waren woensdag weinig veranderd tijdens de middaghandel.
