Google en Character.AI, die het heeft samenwerken aan AI-chatbotshebben er mee ingestemd vijf rechtszaken afgehandeld in vier staten hebben betrekking op minderjarigen die schade hebben geleden als gevolg van interacties met Character.AI-chatbots.
Hoewel de overeenkomst niet definitief is, omvat deze wel de oplossing van de zaken die erin voorkomen Florida, Texas, New York En Colorado over het gebruik van chatbotdiensten. In een beroemd geval, een 14-jarige tiener uit Orlando, Sewell Setzer III, overleden door zelfmoord in februari 2024 na interactie met een van Character.AI’s chatbots. De moeder van de tiener, Megan L. Garcia, spande later dat jaar de rechtszaak aan bij de Amerikaanse rechtbank van Florida.
Mis onze onpartijdige technische inhoud en laboratoriumbeoordelingen niet. CNET toevoegen als favoriete Google-bron.
Vertegenwoordigers van Google reageerden niet onmiddellijk op een verzoek om commentaar. Vertegenwoordigers van Character.AI verwezen naar de aanvraag van de staat, maar konden geen commentaar geven op de schikking.
Vorig jaar werd Character.AI gemaakt Grote veranderingen aan het platformverbiedt personen onder de 18 jaar om deel te nemen aan open chat met zijn chatbot. Aan de andere kant kunnen tieners dat wel bouw verhalen met AI-personages gebruik van bedrijfsapparatuur.
Voorafgaand aan de verandering vorig jaar zei Karandeep Anand, CEO van Character.AI, tegen CNET: “Er zijn betere manieren om tienergebruikers te bedienen. … Het hoeft er niet uit te zien als een chatbot.”
Het bedrijf is ook begonnen met het gebruik van leeftijdsdetectiesoftware om te bepalen wie 18 jaar of ouder is.
Google en Character.AI zijn niet de enige technologiegiganten die te maken krijgen met kritiek en juridische stappen vanwege chatbots en hun interacties met kinderen. OpenAI heeft ook wijzigingen aangebracht in de populaire ChatGPT rechtszaken wegens zelfmoord en kindermisbruik.
(Openbaarmaking: Ziff Davis, het moederbedrijf van CNET, heeft in april een rechtszaak aangespannen tegen OpenAI en beschuldigd van het schenden van het auteursrecht van Ziff Davis op de training en werking van zijn AI-systeem.)
