Marc Benioff deelt wat volgens hem de donkerste aspecten van AI zijn.
In een aflevering van ‘TBPN’ die woensdag werd uitgezonden, zei de CEO van Salesforce dat hij ‘niet kon geloven wat hij aan het kijken was’ toen hij de documentaire ‘60 Minutes’ zag op chatbot opstarten Character.AI en de impact ervan op kinderen.
“We weten niet hoe dit model werkt. En om te zien hoe het werkt op deze kinderen, en dan eindigen die kinderen hun leven nemen‘, zei hij, ‘het was het ergste dat ik ooit in mijn leven heb gezien.’
Met Character.AI kunnen gebruikers aangepaste chatbots maken die het gedrag van goede vrienden of romantische partners kunnen nabootsen. De startup reageerde niet onmiddellijk op het verzoek van Business Insider om commentaar op de opmerkingen van Benioff.
“Techbedrijven haten regelgeving. Ze haten het”, zei Benioff. “Behalve één regeling die ze leuk vinden: artikel 230. Dit betekent dat deze bedrijven niet verantwoordelijk zijn voor de zelfmoorden.”
Sectie 230 van de Amerikaanse Communications Decency Act van 1996 beschermt sociale-mediabedrijven tegen aansprakelijkheid voor door gebruikers gegenereerde inhoud en staat hen ook toe berichten te modereren. Technologiegiganten gebruiken Sectie 230 als een gemeenschappelijke verdedigingsstrategie en zeggen dat ze slechts platforms zijn en niet verantwoordelijk zijn voor wat gebruikers op die platforms zeggen en doen.
“De eerste stap is om mensen verantwoordelijk te houden”, zei hij. “Laten we artikel 230 hervormen, hervormen en herzien, en proberen daarmee zoveel mogelijk levens te redden.”
Leidinggevenden, waaronder Meta’s Mark Zuckerberg en voormalig Twitter-CEO Jack Dorsey, hebben de regel herhaaldelijk in het Congres verdedigd en opgeroepen om deze uit te breiden in plaats van te verwijderen.
Vorige week waren Google en Character.AI het daarmee eens vele rechtszaken afgehandeld van gezinnen waarvan de tieners stierven door zelfmoord of zelfbeschadiging na interactie met de Character.AI-chatbot.
De onderhandelingen vormen een van de eerste schikkingen in rechtszaken waarin AI-instrumenten worden beschuldigd van bijdrage aan een geestelijke gezondheidscrisis en zelfmoord onder tieners. OpenAI en Meta worden geconfronteerd met soortgelijke rechtszaken terwijl zij, samen met anderen, racen om grote taalmodellen te bouwen die vriendelijker en behulpzamer klinken, waardoor gebruikers uiteindelijk blijven terugkomen voor meer.
