Als u overweegt een pratende teddybeer voor uw kind te kopen, is de kans groot dat u zich voorstelt dat deze ondersteunende begeleiding fluistert en onderwijs geeft over de gang van zaken in de wereld. Je kunt je waarschijnlijk niet voorstellen dat ze zich bezighouden met seksuele rollenspellen, of advies geven aan peuters over hoe ze een lucifer moeten aansteken.
Maar dat is waar consumenten naar uitkijken Dat heeft de Public Interest Research Group (PIRG) ontdekt in een recente test van nieuw speelgoed voor de feestdagen. met dank aan FoloToy AI De Kumma-teddybeer, die het GPT-4o-model van OpenAI gebruikt om zijn spraak te stimuleren, is vooral bereid om te verdwalen in gesprekken met kinderen, ontdekte PIRG.
Het gebruik van AI-gemodelleerde geluidsmodi voor kinderspeelgoed is logisch: de technologie is speciaal gebouwd voor de magische tchotchkes waar kinderen dol op zijn en past gemakkelijk op planken naast levensechte poppen die poepen en boeren, evenals Tamagotchi-achtige digitale wezens die kinderen willen proberen vast te houden. Het probleem is dat, in tegenstelling tot eerdere generaties speelgoed, AI-hulpmiddelen verder kunnen gaan dan voorgeprogrammeerde en zorgvuldig doorgelichte, maar toch kindvriendelijke reacties.
De problemen met Kumma benadrukken een groot probleem met AI-speelgoed: ze vertrouwen vaak op AI-modellen van derden waar ze geen controle over hebben, en die onvermijdelijk kunnen worden gejailbreakt – per ongeluk of expres – waardoor de veiligheid van kinderen in gevaar komt. “Er is zeer weinig duidelijkheid over de AI-modellen die in dit speelgoed worden gebruikt, hoe ze zijn getraind en welke waarborgen ze kunnen bevatten om te voorkomen dat kinderen te maken krijgen met voor hun leeftijd ongepaste inhoud”, zegt Christine Riefa, expert op het gebied van consumentenrecht aan de Universiteit van Reading.
Daarom kinderrechtenorganisatie Fairplay een waarschuwing geven aan ouders voorafgaand aan de feestdagen om te suggereren dat ze voor de veiligheid van hun kinderen wegblijven van AI-speelgoed. “Er is een gebrek aan onderzoek dat de voordelen van AI-speelgoed ondersteunt, en een gebrek aan onderzoek dat de langetermijneffecten op kinderen aantoont”, zegt Rachel Franz, programmadirecteur van Fairplay’s Young Children Thrive Offline-programma.
Hoewel FoloToy is gestopt met de verkoop van Kumma en OpenAI de toegang van FoloToy tot zijn AI-modellen heeft ingetrokken, is het slechts een van de vele fabrikanten van AI-speelgoed. Wie is verantwoordelijk als er iets misgaat?
Riefa zei dat er ook hier onduidelijkheid is. “Aansprakelijkheidsproblemen kunnen verband houden met de gegevens en de manier waarop deze worden verzameld of opgeslagen”, zei hij. “Dit kan de verantwoordelijkheid inhouden voor AI-speelgoed dat een kind ertoe aanzet zichzelf of anderen schade toe te brengen, of dat de bankgegevens van een ouder registreert.”
