Altijd al één-op-één coaching willen ontvangen Vreemde ogen lifestylegoeroe Karamo Brown? Oké, maar hoe zit het met… een digitale kloon van Karamo gemaakt door een bedrijf voor kunstmatige intelligentie?
Donderdag maakte de reality-tv-ster op Instagram bekend dat hij een partnerschap is aangegaan met Delphi, een AI-chatbotbedrijf dat belooft experts in “digitale geest” die op individueel niveau met zijn volgers communiceert, en zelfs videogesprekken mogelijk maakt. Zoals Brown in zijn aankondiging zei: Delphi kan zijn digitale geest, genaamd Kē, “24 uur per dag, 7 dagen per week” beschikbaar maken, en het is alsof je tegen mij praat.
“De afgelopen tien jaar heb ik gehoord: ‘Karamo, ik wou dat je me advies kon geven’, ‘Karamo, ik wou dat ik persoonlijk met je kon praten’, ‘Karamo, ik wou dat je mijn therapeut en mijn raadgever kon zijn’”, zei Brown in de aankondigingsvideo, waarin hij de redenen voor het partnerschap uitlegde.
In zijn aankondiging probeerde Brown de kritiek te adresseren door toe te geven dat de chatbot inderdaad AI is, “maar het is geen ChatGPT AI.” Brown gaf vervolgens een live demonstratie met een chatbot die zijn stem had, waarbij hij verklaarde dat het geen ‘chatbot’ was, maar eerder een ‘digitale weerspiegeling’ van zijn gelijkenis.
Hoe ze ook worden genoemd, AI-chatbots zijn in wezen grote modellen voor het leren van talen, ontworpen om positieve feedbackloops met hun gebruikers te creëren – en de recente golf rapportage En wetenschappelijk onderzoek laat zien dat deze dynamiek ongekende en schadelijke gevolgen kan hebben voor menselijk gedrag en verder onderzoek vereist. Uit een op Stanford gebaseerd onderzoek is zelfs gebleken dat relaties met chatbots tot problemen kunnen leiden “waanvoorstellingenspiraal” waar de valse overtuigingen van gebruikers tot gevaarlijke uitersten worden gevalideerd. We zeggen niet dat Kē je leven zal verpesten, maar de risico’s van het praten met een op LLM gebaseerde ‘digitale geest’ versus een erkende professional in de geestelijke gezondheidszorg kunnen iets zijn om over na te denken.
Zoals Kē zelf (zelf?) zei toen Brown demonstreerde: bots kunnen niet ‘doen alsof ze je therapeut zijn’. Kē zal op 27 april online beschikbaar zijn.
Haal het beste uit wat raar is. Meld u aan voor Zijwekelijkse nieuwsbrief hier.
