Polariserende en laaggeplaatste sociale media-inhoud kan emoties verzachten

Het verminderen van de zichtbaarheid van polariserende inhoud op sociale media kan de vijandigheid tussen partijen aanzienlijk verminderen. Om deze bevindingen te verkrijgen, hebben mijn collega’s en ik een methode ontwikkeld die ons in staat stelde het veranderen van de feedrangschikking van menseniets wat voorheen alleen sociale-mediabedrijven konden doen.

Het opnieuw rangschikken van feeds op sociale media om de blootstelling aan berichten die antidemocratische attitudes en partijdige vijandigheid uiten, te verminderen, beïnvloedt de emoties van mensen en hun opvattingen over mensen die tegengestelde politieke opvattingen hebben.

Ik ben een computer wetenschapper die sociaal computergebruik studeert, kunstmatige intelligentieen internet. Omdat gewoon een social media platform hun algoritmen kunnen aanpassen, hebben we een open source webtool ontwikkeld en uitgebracht waarmee we feeds van instemmende deelnemers op X, voorheen Twitter, in realtime opnieuw kunnen rangschikken.

Op basis van de sociaalwetenschappelijke theorie gebruiken we brede taalmodellen om berichten te identificeren die de neiging hebben de samenleving te polariseren, zoals berichten die politiek geweld bepleiten of oproepen tot de gevangenneming van leden van de tegenpartij. Dit bericht is niet verwijderd; de rangschikking is gewoon lager, dus gebruikers moeten verder scrollen om deze te zien. Dit vermindert het aantal berichten dat gebruikers zien.

We hebben dit experiment gedurende tien dagen uitgevoerd in de weken vóór de Amerikaanse presidentsverkiezingen van 2024. We ontdekten dat het verminderen van de blootstelling aan polariserende inhoud de gevoelens van deelnemers ten opzichte van de tegenpartij aanzienlijk verbeterde en hun negatieve emoties verminderde terwijl ze door hun feeds scrolden. Belangrijk is dat deze effecten vergelijkbaar waren bij alle politieke voorkeuren, wat erop wijst dat deze interventie ten goede komt aan gebruikers, ongeacht welke politieke partij ze ook zijn.

Dit 60 minuten dit segment bespreekt hoe verdeeldheid zaaiende berichten op sociale media meer grip krijgen dan neutrale berichten.

Waarom het ertoe doet

Een veel voorkomende misvatting is dat mensen moeten kiezen tussen twee uitersten: op betrokkenheid gebaseerd algoritme of een puur chronologische feed. In werkelijkheid is er een breed spectrum aan tussenliggende benaderingen, afhankelijk van waarvoor ze geoptimaliseerd zijn.

Lokaasalgoritmen zijn meestal geoptimaliseerd om uw aandacht te trekken, en als gevolg daarvan hebben ze een aanzienlijke impact uw houding, stemming en perceptie van anderen. Daarom is er dringend behoefte aan een raamwerk dat onafhankelijke onderzoekers in staat stelt nieuwe benaderingen onder realistische omstandigheden te testen.

Ons werk biedt een weg vooruit en laat zien hoe onderzoekers alternatieve algoritmen op grote schaal kunnen bestuderen en prototypen, en het laat zien dat platforms dankzij grote taalmodellen eindelijk de technische middelen hebben om polariserende inhoud te detecteren die de democratische houding van hun gebruikers zou kunnen beïnvloeden.

Welk ander onderzoek wordt er op dit gebied uitgevoerd

Het testen van de impact van alternatieve feedalgoritmen op live platforms is moeilijk, en dergelijke onderzoeken zijn de laatste tijd in aantal toegenomen.

Bijvoorbeeld, een recente samenwerking tussen academici en Meta ontdekten dat het veranderen van algoritmische feeds naar chronologisch niet voldoende was om een ​​impact op de polarisatie aan te tonen. Gerelateerde inspanningen, dat is Prosociale beoordelingsuitdagingen onder leiding van onderzoekers van de University of California, Berkeley, onderzoekt het rangschikken van alternatieven op verschillende platforms om nuttige sociale resultaten te genereren.

Tegelijkertijd hebben de vorderingen in de ontwikkeling van taalmodellen in grote lijnen rijkere manieren mogelijk gemaakt om de manier te modelleren waarop mensen denken, voelen en met anderen omgaan. We zien een toenemende belangstelling om gebruikers meer controle te geven, zodat gebruikers kunnen beslissen welke principes bepalend moeten zijn voor wat ze in hun feeds zien, bijvoorbeeld: Bibliotheek van pluralistische waarden van Alexandrië en het Bonsai-feedrangschikkingssysteem. Sociale mediaplatforms, incl blauwe lucht En Xgaat hier ook heen.

Wat is het volgende

Deze studie vertegenwoordigt onze eerste stap in het ontwerpen van algoritmen die hun potentiële sociale impact onderkennen. Er blijven veel vragen open.

We zijn van plan de langetermijneffecten van deze interventie te onderzoeken en nieuwe rankingdoelstellingen te testen om andere risico’s voor het online welzijn aan te pakken, zoals geestelijke gezondheid en levenstevredenheid. Toekomstig onderzoek zal onderzoeken hoe meerdere doelen, zoals culturele context, persoonlijke waarden en gebruikerscontrole, in evenwicht kunnen worden gebracht om online ruimtes te creëren die sociale interacties en gezonde gemeenschappen beter ondersteunen.

Dat Onderzoekssamenvatting is een kort overzicht van interessant wetenschappelijk werk.

Tiziano Piccardi is assistent-professor informatica bij Johns Hopkins Universiteit.

Dit artikel is opnieuw gepubliceerd van Gesprek onder een Creative Commons-licentie. Lezen origineel artikel.