China ontwerpt nieuw, strenger beleid AI Regelgeving die ertoe zou kunnen leiden dat het land het eerste land wordt dat de emotionele impact van chatbotpartners reguleert.
Gedetailleerd in een nieuw conceptvoorstel geschreven door de Cyberspace Administration of China en vertaald door CNBCHet beleid vereist toestemming van de voogd voor minderjarigen om te communiceren met chatbotvrienden, evenals een grondige leeftijdsverificatie. Het is AI-chatbots niet toegestaan gokgerelateerde, obscene of gewelddadige inhoud te creëren, of deel te nemen aan gesprekken over zelfmoord, zelfbeschadiging of andere onderwerpen die de geestelijke gezondheid van gebruikers kunnen schaden. Bovendien moeten technologieleveranciers escalatieprotocollen implementeren die menselijke moderators verbinden met gebruikers in nood en risicovolle gesprekken rapporteren aan beheerders.
Chinese toezichthouders zeggen dat het doel is om niet alleen te focussen op de veiligheid van de inhoud, maar ook op de emotionele veiligheid, inclusief het monitoren van chats op emotionele afhankelijkheid en verslaving.
Vernietigbare lichtsnelheid
Dit is een van de eerste wetten die specifiek zijn ontworpen om antropomorfe AI-tools te controleren, zeggen experts. Daartoe zullen de voorschriften van toepassing zijn op alle AI-tools die zijn ontworpen om “menselijke persoonlijkheden te simuleren en gebruikers emotioneel te betrekken via tekst, afbeeldingen, audio of video”, meldde CNBC.
De voorgestelde regelgeving van China weerspiegelt verschillende bepalingen in a heeft onlangs de Californische AI-wet aangenomenbekend als SB 243, werd het in oktober ondertekend door gouverneur Gavin Newsom. De wet vereist strengere inhoudsbeperkingen, herinneringen aan gebruikers dat ze met een niet-menselijke AI praten, en noodprotocollen voor discussies over zelfmoord. Sommige experts bekritiseerden het wetsvoorstel omdat het niet genoeg doet om minderjarige gebruikers te beschermen, waardoor technologiebedrijven de ruimte krijgen om toezicht te ontwijken.
Ondertussen heeft de regering-Trump precies dat gedaan stop verdere regulering van AI op staatsniveau ter ondersteuning van een ‘nationaal raamwerk voor AI-veiligheid’. Het uitvoeringsbesluit is opgeschort federale infrastructuurfinanciering van landen die het AI-toezicht versterken. Federale leiders beweren dat toenemende AI-regelgeving de binnenlandse innovatie zal onderdrukken en de Verenigde Staten achter China zal plaatsen in de mondiale AI-race.
