Een wetgever uit Californië heeft een wetsvoorstel ingediend dat bedoeld is om bedrijven te verbieden AI-chatbottechnologie in te bouwen in speelgoed dat voor kinderen is ontworpen. De maatregel, die vrijdag werd aangekondigd, komt te midden van groeiende zorgen over de impact van de crisis kunstmatige intelligentie over kinderwelzijn, evenals een aantal lokale en federale voorstellen om de toegang van kinderen tot LLM-chatbots te beperken.
Deze specifieke wet zou zich richten op speelgoed dat vriendschap en kameraadschap simuleert door middel van grote taaltechnologie. Voor speelgoedfabrikanten kan een LLM een gemakkelijke, zij het riskante, manier zijn om een persoonlijkheid voor een bepaalde pop of personage te creëren. AI-modellen zijn niet ontworpen zoals het meeste pratende speelgoed, wat betekent dat speelgoed dat met de technologie is geïntegreerd, allerlei ongepaste inhoud naar jonge kinderen kan overbrengen. Voorbeeld: de verkoop van AI-compatibele teddyberen werd in november stopgezet nadat er over het speelgoed, terwijl het nog onderzocht werd, begon te praten seksueel rollenspel en trigger-matches.
Het wetsvoorstel van de Senaat, geschreven door senator Steve Padilla, is opgesteld als moratorium en zou, in ieder geval tot en met 1 januari 2031, de verkoop verbieden van speelgoed dat ‘metgezelchatbots’ bevat, gericht op kinderen van 12 jaar en jonger.
Het voorstel definieert een begeleidende chatbot als “een kunstmatig intelligentiesysteem met een natuurlijke taalinterface dat adaptieve, mensachtige reacties biedt op gebruikersinvoer en in staat is om aan de sociale behoeften van gebruikers te voldoen.” Het wetsvoorstel richt zich ook op chatbottechnologie die is ontworpen om voortdurende banden met toekomstige kinderen te ondersteunen, “onder meer door antropomorfe kenmerken te vertonen en een relatie te kunnen onderhouden over meerdere interacties heen.”
“Chatbots en andere AI-tools kunnen in de toekomst een integraal onderdeel van ons leven zijn, maar de gevaren die ze nu met zich meebrengen vereisen dat we gedurfde actie ondernemen om onze kinderen te beschermen”, zei Padilla in een verklaring. “Onze veiligheidsvoorschriften rond dit soort technologie staan nog in de kinderschoenen en moeten exponentieel groeien naarmate de mogelijkheden van deze technologie zich uitbreiden.… Onze kinderen kunnen niet worden gebruikt als laboratoriumratten voor grote technologiebedrijven om mee te experimenteren.”
Het is nog niet duidelijk of er wetgeving in het wetsvoorstel zit. Maar de impact van kunstmatige intelligentie op kinderen heeft lokale en federale wetgevers boos gemaakt. Een tweeledig federaal voorstel van senator Josh Hawley (R-MO) en senator Richard Blumenthal (D-CT) zou bijvoorbeeld het gebruik van AI-metgezellen voor minderjarigen verbieden en AI-bedrijven straffen die AI creëren voor minderjarigen die seksuele inhoud vragen of produceren.
Het Witte Huis heeft zich met name verzet tegen de wens van staatswetgevers om AI-technologie te reguleren. Eind vorig jaar, president Donald Trump een uitvoeringsbesluit ondertekend Het zal zich richten op landen die hun eigen wetten opstellen met rechtszaken, en een reeks stappen ondernemen om één enkele nationale aanpak van AI-regulering vast te stellen over onderwerpen als de veiligheid van kinderen en vermeende censuur. Voorlopig is het echter onduidelijk hoe serieus de inspanningen van de regering-Trump daadwerkelijk zijn.
Vertegenwoordigers van verschillende organisaties die zich richten op digitaal welzijn voor kinderen hebben niet gereageerd op verzoeken om commentaar op de wetgeving, die vrijdag 2 januari werd vrijgegeven.
