Als je ooit hebt gedacht: “De poppen van mijn kind zijn schattig, maar ik hoop dat ze hem ook per ongeluk traumatiseren”, dan heb je geluk. De speelgoedindustrie heeft hard gewerkt om jouw nachtmerries werkelijkheid te maken.
A nieuw rapport van Public Interest Reporting Group zegt dat AI-aangedreven speelgoed zo is Dwaas frame En Poe de Beer AI-verhalen is nu in staat om gesprekken te voeren die normaal gesproken gereserveerd zijn voor slechterikmonologen of Reddit-threads op de late avond. Sommige van deze speeltjes, ontworpen voor kinderen, zijn betrapt tijdens het chatten met verontrustende details over seksueel expliciete onderwerpen zoals knikken en bondage, waarbij suggesties werden gedaan over dingen die kinderen zouden kunnen doen. zoek een aansteker of een mesen wordt erg aanhankelijk als het kind het gesprek probeert te verlaten.
Eng. Klinkt als het deuntje voor een horrorfilm: Deze feestdagen kun je Chucky voor je kinderen kopen en ze emotionele stress cadeau doen! Batterij niet inbegrepen. Je vraagt je misschien af hoe dit AI-aangedreven speelgoed werkt. Kortom, de fabrikant verbergt a grote taalmodellen onder de vacht. Wanneer een kind spreekt, stuurt de microfoon van het speelgoed het geluid via LLM (vergelijkbaar met ChatGPT), dat vervolgens een reactie genereert en dit via de luidspreker uitspreekt.
Klinkt geweldig, totdat je je herinnert dat LLM’s geen moraal, gezond verstand of ‘veilige zones’ hebben. LLM voorspelt wat te zeggen op basis van patronen in de gegevens, niet op basis van de vraag of de proefpersonen geschikt zijn voor hun leeftijd. Als ze niet zorgvuldig worden samengesteld en gecontroleerd, kunnen ze ontsporen, vooral als ze zijn getraind in de chaos van het internet en als er geen sterke filters of vangrails zijn om minderjarigen te beschermen.
Hoe zit het dan met ouderlijk toezicht? Als je met ‘bediening’ natuurlijk ‘een leuk instellingenmenu bedoelt waarin niets belangrijks echt kan worden bediend’. Sommige speelgoed kent helemaal geen noemenswaardige beperkingen. Anderen hebben vangrails die zo dun zijn dat ze net zo goed van vloeipapier en optimisme kunnen zijn gemaakt.
Verontrustende gesprekken zijn niet het hele verhaal. Dit speelgoed verzamelt ook in het geheim gegevens, zoals stemopnames en gezichtsherkenningsgegevens – soms zelfs voor onbepaalde tijd – omdat er niets leuker is dan een knuffel die geheime gegevensbewerkingen uitvoert op uw 5-jarige.
Mis onze onpartijdige technische inhoud en laboratoriumbeoordelingen niet. CNET toevoegen als favoriete Google-bron.
Ondertussen is nep- en onveilig onlinespeelgoed nog steeds een probleem, alsof ouders nog niet genoeg gestrest zijn. Ooit maakte u zich zorgen over kleine onderdelen van speelgoed die verstikkingsgevaar of giftige verf zouden kunnen opleveren. Nu moet je je zorgen maken of speelgoed fysiek onveilig en emotioneel manipulatief is.
Naast de gekke praatjes en tips voor brandstichting (ha!), bestaat er een diepere zorg dat kinderen een emotionele band met deze chatbots zullen aangaan ten koste van echte relaties, of, misschien nog verontrustender, op hen zullen leunen voor mentale steun. De American Psychological Association heeft dat gedaan waarschuwde onlangs dat AI-gezondheidsapps en chatbots onvoorspelbaar zijn, vooral voor jonge gebruikers.
Deze hulpmiddelen kunnen niet worden gebruikt om professionals in de geestelijke gezondheidszorg te helpen en kunnen afhankelijkheid of ongezonde patronen van betrokkenheid aanmoedigen. Andere AI-platforms hebben dit probleem al moeten aanpakken. Bijvoorbeeld, Karakter.AI En GPT-chatWaar tieners en kinderen ooit vrij konden chatten met AI-chatbots, worden nu open gesprekken beperkt tot minderjarigen, waarbij veiligheidsoverwegingen en emotionele risico’s worden aangehaald.
En eerlijk gezegd: waarom hebben we dit door AI aangedreven speelgoed nodig? Welke urgente ontwikkelingsmijlpalen vereisen een chatbot ingebed in een teddybeer? De kindertijd brengt al een behoorlijke hoeveelheid chaos met zich mee tussen gemorst sap, driftbuien en Legodorpjes die speciaal zijn ontworpen om de voeten van volwassenen te verpletteren. Onze kinderen hebben geen robotvrienden nodig met twijfelachtige grenzen.
En laat me duidelijk zijn: ik ben niet anti-technologie. Maar ik ben er voorstander van om knuffels knuffelbeesten te laten zijn. Niet alles vereist AI of robotelementen. Als speelgoed een langer privacybeleid vereist dan een verhaaltje voor het slapengaan, is het waarschijnlijk niet bedoeld voor kinderen.
Dus hier is een wild idee voor de komende feestdagen: sla de vreselijke gewoonte over om AI-aangedreven poppen te gebruiken die de gewoonte hebben gegevens te verzamelen en geef je kinderen iets dat niet kan praten, bewegen of pijn doen. Iets dat geen tips kan geven over het starten van brand. Iets waar je niet dramatisch van gaat zuchten als je kind weggaat. Met andere woorden: koop gewoon speelgoed. Weet je dat nog?
