Op Stanford namen tientallen aanwezigen deel aan een langdurig gesprek over de risico’s en voordelen van begeleidende bots. “Uiteindelijk zagen we veel overeenstemming”, zegt Sunny Liu, directeur van het onderzoeksprogramma aan Stanford. Hij benadrukte de opwinding van de groep over “de manier waarop we dit instrument kunnen gebruiken om mensen bij elkaar te brengen.”
Veiligheid voor tieners
Hoe AI-metgezellen de jongere generatie zouden kunnen beïnvloeden, was een belangrijk onderwerp van discussie, met perspectieven van medewerkers van Character.AI, dat is ontworpen voor rollenspellen en populair is geweest bij tieners, maar ook bij online gezondheidsexperts voor tieners, zoals Digitaal gezondheidslab in het Boston Kinderziekenhuis.
Er ontstond een focus op jongere gebruikers, net als veel oudere mensen klaagde de chatbotmaker aaninclusief OpenAI en Character.AI, voor de dood van kinderen die interactie hebben met bots. OpenAI heeft een serie toegevoegd nieuwe veiligheidsvoorzieningen voor tieners als onderdeel van zijn reactie. En volgende week is Character.AI van plan precies dat te doen verbiedt gebruikers onder de 18 jaar van toegang tot de chatfunctie.
Gedurende 2025 hebben AI-bedrijven expliciet of impliciet erkend dat ze meer kunnen doen om kwetsbare gebruikers, zoals kinderen, die met vrienden kunnen communiceren, te beschermen. “Kinderen betrekken bij romantische of sensuele gesprekken is acceptabel”, luidt een intern metadocument waarin gedragsrichtlijnen voor AI worden uiteengezet, aldus berichtgeving van Reuters.
Tijdens het daaropvolgende tumult van wetgevers en boze ouders, Meta veranderde de gids en het bijwerken van het bedrijf veiligheidsbenadering richting de adolescentie.
Roloproep
Hoewel Character.AI aan de workshop deelnam, was er niemand van Replika, een soortgelijke site voor rollenspellen, of Grok, de bot van Elon Musk met NSFW anime-vriendenHet is er. Woordvoerders van Replika en Grok hebben niet onmiddellijk verzoeken om commentaar geretourneerd.
Aan het volledig expliciete uiteinde van het spectrum verschijnen de makers van Candy.ai, gespecialiseerd in ordinaire chatbots voor heteroseksuele mannen. Gebruikers van het platform voor volwassenen, gecreëerd door EverAI, kunnen geld betalen om ongecensureerde beelden van synthetische vrouwen te genereren, met achtergrondverhalen die veelgebruikte pornografische stijlfiguren nabootsen. Tot de vriendinnen op Candy’s homepage behoren bijvoorbeeld Mona, de ‘rebelse halfzus’ die alleen bij jou thuis is, en Elodie, de dochter van een vriend die ‘net 18 is geworden’.
