Zelfs de paus maakt zich zorgen over de manier waarop we met chatbots praten.
In het geschreven adres voor Wereld Sociale Communicatie Dag op zaterdag, Paus Leo XIV wees gewaarschuwd voor gepersonaliseerde chatbots die vriendelijk of intiem gedrag kunnen imiteren.
“Overdreven aanhankelijke chatbots zijn niet alleen altijd aanwezig en beschikbaar, maar kunnen ook verborgen architecten van onze emotionele toestanden worden, waardoor ze de intieme ruimtes van mensen binnendringen en bezetten”, schreef de eerste in de VS geboren paus.
De paus riep op tot nationale en internationale regelgeving om gebruikers te beschermen tegen het aangaan van emotionele, frauduleuze of manipulatieve banden met chatbots.
“Alle belanghebbenden – van de technologie-industrie tot beleidsmakers, van creatieve zakenmensen tot academici, van kunstenaars tot journalisten en docenten – moeten betrokken worden bij het opbouwen en implementeren van bewust en verantwoordelijk digitaal burgerschap”, schreef de paus.
De leider van de Heilige Stoel heeft dat gedaan over AI gesproken en zijn zorgen over technologie meerdere malen sinds hij in mei werd verkozen.
In zijn eerste toespraak sinds hij paus werd, zei hij dat hij AI tot een focus van zijn pontificaat wilde maken en dat de technologie nieuwe uitdagingen met zich meebracht voor ‘menselijke waardigheid, gerechtigheid en arbeid’. In november schreef hij een brief aan AI-leiders bij X, waarin hij hen opriep om “moreel onderscheidingsvermogen te cultiveren” bij het bouwen van AI-tools.
Eind vorig jaar ontmoette de paus Megan Garcia, een vrouw wier 14-jarige zoon, Sewell Setzer, door zelfmoord om het leven kwam. na interactie met de Character.AI-chatbot.
De in Florida gevestigde Garcia heeft een rechtszaak aangespannen tegen chatbot-startup Character.AI, omdat het bedrijf, dat mensen in staat stelt diepgaande informatie te verkrijgen en privégesprek met AI chatbots, verantwoordelijk voor de dood van zijn zoon, Sewell Setzer III.
Eerder deze maand kwamen Google en de startup overeen om meerdere rechtszaken van families te schikken, waaronder Garcia, wiens tienerzoon stierf door zelfmoord of zelfbeschadiging na interactie met de Character.AI-bot. De onderhandelingen vormen een van de eerste schikkingen in rechtszaken waarin AI-instrumenten worden beschuldigd van bijdragen aan een geestelijke gezondheidscrisis en zelfmoord onder tieners.
