Twee nieuwe experimenten laten zien dat de meeste mensen denk er niet eens over na dat een privébericht zou kunnen zijn AI-gegenereerd, zelfs als ze het zelf gebruiken kunstmatige intelligentie schrijven.
Om te zien hoe mensen iemand beoordelen op basis van wat ze schrijven ChatGPT-leeftijdmijn collega Jia Qi Zhu en ik rekruteerde meer dan 1.300 in de VS gevestigde deelnemers, in de leeftijd van 18 tot 84 jaar, en liet hen door AI gegenereerde berichten zien, zoals een verontschuldiging per e-mail. We verdeelden onze vrijwilligers in vier groepen: Sommige mensen zagen het bericht zonder enige informatie over wie of wat het schreef, zoals in het dagelijks leven. Anderen kregen te horen dat het bericht door een mens geschreven moest zijn, door een AI gecreëerd moest zijn, of dat de bron het een of het ander kon zijn.
Wij hebben gevonden”Sancties bij openbaarmaking van AI.” Toen mensen hoorden dat een bericht door AI was gegenereerd, beoordeelden ze de afzender veel negatiever (‘lui’, ‘onoprecht’, ‘gebrek aan inspanning’) dan wanneer ze geloofden dat hetzelfde bericht door een persoon was geschreven (‘oprecht’, ‘dankbaar’, ‘attent’).
Maar dit is wat er gebeurde: deelnemers aan wie niets over het auteurschap werd verteld, kregen indrukken die net zo positief waren als die van mensen aan wie werd verteld dat de boodschap volkomen menselijk was.
Dit gebrek aan scepticisme verraste ons – en het riep nieuwe vragen op. Misschien waren de deelnemers niet voldoende bekend met AI om te beseffen dat de huidige modellen gedetailleerde en persoonlijke boodschappen kunnen genereren. (Dat kunnen ze.) Of misschien hebben de deelnemers zelf nog nooit AI gebruikt. (Hoogstwaarschijnlijk hebben ze dat gedaan.) Daarom hebben we ook getest of het gebruik van AI door de deelnemers de manier veranderde waarop zij afzenders beoordeelden.
Nog verrassender was dat we geen effect vonden. Mensen die in het dagelijks leven vrij vaak generatieve AI gebruiken (minstens eens in de twee dagen) zullen minder straffen opleggen aan het gebruik van AI wanneer de maker van de AI wordt onthuld, vergeleken met mensen die nooit of zelden AI gebruiken. Maar de deelnemers waren niet langer sceptisch: als de auteur niet werd bekendgemaakt, hadden zware AI-gebruikers, lichte AI-gebruikers en niet-gebruikers de neiging om aan te nemen dat de tekst door iemand was geschreven en in wezen dezelfde indruk wekten.
Waarom het ertoe doet
Gebrek aan scepsis en gebrek aan negatieve indrukken zijn belangrijk vanwege de mensen die ze maken sociale beoordeling altijd uit de tekst. De ontvanger overweegt de tijd en moeite te nemen om een geschreven bericht te versturen innerlijk inzicht de oprechtheid, authenticiteit of competentie van de schrijver, en die indrukken, bepalen de beslissingen van mensen op het gebied van vriendschap, daten en werk.
Maar onze belangrijkste bevindingen laten een opvallende discrepantie zien: mensen vermoeden doorgaans pas het gebruik van AI als dit gebeurt Het is duidelijk. Deze onwetendheid creëert een moreel dilemma: mensen die AI heimelijk gebruiken, kunnen profiteren van de voordelen ervan, maar lopen vrijwel geen risico op ontdekking. Ondertussen is de paradox dat mensen aan het front staan en beweren AI te gebruiken reputatieschade geleden.
Na verloop van tijd kan een gebrek aan scepticisme en bewustzijn de betekenis van schrijven in het dagelijks leven veranderen. Lezers kunnen leren schrijven te behandelen als een minder betrouwbaar signaleer iemands karakter of inspanning, en vertrouw in plaats daarvan op andere vormen van communicatie. Het wijdverbreide gebruik van AI heeft ondernemers bijvoorbeeld aangemoedigd de waarde van AI te negeren sollicitatiebrief van sollicitant. Integendeel, dat zijn ze ook meer vertrouwen gebaseerd op persoonlijke aanbevelingen van de huidige supervisor van de aanvrager of op verbindingen die zijn gelegd via face-to-face netwerken.
Welk ander onderzoek wordt er gedaan
Andere onderzoekers hebben negatieve indrukken gedocumenteerd van mensen die hun gebruik van AI openbaar maken. Uit onderzoek blijkt dat het sollicitanten zichtbaar maakt minder wenselijk en werknemers, zo lijkt het minder competent. Lezers van creatief schrijven beschouwen AI-gebruikers als minder creatief en niet authentiek. Mensen kijken persoonlijke verontschuldiging En excuses van het bedrijf die afkomstig zijn van AI worden als minder effectief beschouwd. Over het algemeen wordt het gebruik van AI onthuld vermindert het vertrouwen en de legitimiteit verzwakken.
Maar zonder openbaarmaking is er duidelijk bewijs dat de meeste mensen dat wel doen kan niet betrouwbaar worden gedetecteerd AI gegenereerde tekst, zelfs met hulp van detectiemiddelenvooral wanneer tekst is een mix door mensen geschreven en door AI gegenereerde inhoud. Zelfs als mensen vertrouwen hebben in hun vermogen om AI-tekst te herkennen, is hun vertrouwen misschien niet meer dan een zelfbevestigende illusie.
Wat is het volgende
Hoewel onze experimenten geen vermoedens over het gebruik van AI aan het licht hebben gebracht, betekent dit niet dat mensen het in de echte wereld nooit vermoeden. Op sommige gebieden is de samenleving misschien al te huiverig voor AI. Gebruik in de academische wereld is een reëel voorbeeld. In toekomstig onderzoek willen we begrijpen wanneer en waarom mensen het gebruik van AI beginnen te vermoeden, en wat er verandert tussen vertrouwen en twijfel.
Als u wilt dat uw persoonlijke boodschap als oprecht wordt beschouwd, is de veiligste strategie tot die tijd misschien wel bellen, een voicemail achterlaten of, beter nog, deze persoonlijk afleveren.
Dat Onderzoekssamenvatting is een kort overzicht van interessant wetenschappelijk werk.
Andere wolken is assistent-professor psychologie bij Universiteit van Michigan.
Dit artikel is opnieuw gepubliceerd van Gesprek onder een Creative Commons-licentie. Lezen origineel artikel.
