Een van de dingen die ons menselijk maakt, is de unieke manier waarop we denken en problemen oplossen. Maar het gebruik van grote taalmodellen zoals ChatGPT kan dit unieke karakter eroderen en ervoor zorgen dat mensen op vergelijkbare manieren denken en communiceren, volgens een groep wetenschappers en psychologen die co-auteur zijn van een nieuw opiniestuk.
“Elk individu is anders in de manier waarop hij schrijft, redeneert en naar de wereld kijkt”, zegt Zhivar Sourati, computerwetenschapper aan de Universiteit van Zuid-Californië en eerste auteur van het artikel. in een verklaring.
“Wanneer deze verschillen worden gemedieerd door dezelfde LLM, worden hun verschillende taalstijlen, perspectieven en redeneerstrategieën gehomogeniseerd, wat resulteert in gestandaardiseerde uitdrukkingen en gedachten voor alle gebruikers”, vervolgde Sourati.
Dat papierwoensdag gepubliceerd in het tijdschrift Trends in Cognitive Sciences, onderzoekt hoe honderden miljoenen mensen over de hele wereld dezelfde chatbots gebruiken en welke impact dit heeft op onze individualiteit.
Denk binnen de doos
Pew-onderzoek gevonden dat een derde van de Amerikanen vorig jaar ChatGPT gebruikte, een verdubbeling ten opzichte van 2023. En het gebruik van chatbots komt veel vaker voor onder tieners: Twee derde zegt chatbots te gebruiken, en bijna een derde gebruikt ze elke dag.
Ook de zakenwereld begint kunstmatige intelligentie te gebruiken. Stanford gevonden dat 78% van de organisaties aangeeft AI te gebruiken in 2024, tegen 55% in 2023.
We maken dus veel gebruik van AI. Maar het gevaar is dat we de diversiteit in onze manier van denken kunnen verliezen. Het team toonde aan dat LLM’s minder gevarieerd schrijfwerk produceren dan wat mensen zelfstandig produceren.
Eén reden waarom LLM’s homogeen denken aanmoedigen, zijn volgens de auteurs van het artikel de gegevens die worden gebruikt om hen te trainen.
“Omdat LLM’s zijn getraind om statistische regelmatigheden in hun trainingsgegevens vast te leggen en te reproduceren, die vaak overrepresentatief zijn voor dominante taal en ideologie, weerspiegelt hun output vaak een beperkte en onevenwichtige menselijke ervaring”, aldus Sourati.
Waarom divers denken belangrijk is
Er is een goede reden waarom de auteurs waarschuwen voor deze trend. Gehomogeniseerd denken vermindert pluralisme, wat in wezen het idee is dat meerdere perspectieven gunstig zijn voor de samenleving als geheel.
“Deze waarde van pluralisme is geworteld in het al lang bestaande principe dat een goed beoordelingsvermogen blootstelling aan divers denken vereist”, schreven de auteurs in de krant. “Als deze homogenisering niet wordt gecontroleerd, dreigt het cognitieve landschap dat collectieve intelligentie en aanpassingsvermogen bevordert, plat te worden.”
Wij gebruiken dus een andere manier van denken op zoek naar verdere oplossingen voor een probleem. Als we het vermogen verliezen om anders te denken en te communiceren, kan dit van invloed zijn op de manier waarop we ons aanpassen aan nieuwe situaties.
“Het gaat er niet alleen om dat LLM’s vormgeven aan de manier waarop mensen schrijven of spreken, maar ook dat ze op subtiele wijze herdefiniëren wat wordt beschouwd als geloofwaardige spraak, correct perspectief of zelfs goed redeneren,” zei Sourati.
De auteur zegt ook dat deze trend zelfs gevolgen heeft voor mensen die geen chatbots gebruiken.
“Als veel mensen om mij heen op een bepaalde manier denken en praten, en ik doe iets anders, zal ik de druk voelen om mij bij hen aan te sluiten, omdat dit een geloofwaardiger of sociaal aanvaardbare manier lijkt om mijn ideeën te uiten”, zegt Sourati.
