Metabeslissingen voor beëindigde zijn professionele factcheckingprogramma leidde tot een golf van kritiek in de wereld van technologie en media. Critici waarschuwen dat het opgeven van toezicht door deskundigen het vertrouwen en de betrouwbaarheid in het digitale informatielandschap zou kunnen aantasten, vooral wanneer op winst gerichte platforms grotendeels aan toezicht worden overgelaten.
Wat in dit debat echter grotendeels over het hoofd wordt gezien, is dat momenteel AI grote taalmodellen zijn dat wel steeds meer gebruikt om nieuwssamenvattingen, koppen en inhoud te schrijven die uw aandacht trekken lang voordat traditionele mechanismen voor inhoudsmoderatie actie kunnen ondernemen. Het probleem is niet dat gevallen van verkeerde informatie of schadelijke onderwerpen onopgelost blijven zonder moderatie van de inhoud. Wat in deze discussies ontbreekt, is hoe ogenschijnlijk nauwkeurige informatie zodanig wordt geselecteerd, ingekaderd en benadrukt dat deze de publieke perceptie kan beïnvloeden.
Grote taalmodellen beïnvloeden geleidelijk de manier waarop mensen meningen vormen door de informatie te genereren die chatbots en virtuele assistenten in de loop van de tijd aan mensen presenteren. Deze modellen worden nu ook gebouwd op nieuwssites, sociale mediaplatforms en zoekdiensten, waardoor ze de meest populaire modellen zijn belangrijkste toegangspoort tot het verkrijgen van informatie.
Uit onderzoek blijkt dat grote taalmodellen precies dat kunnen doen meer dan alleen het overbrengen van informatie. Hun reacties kunnen op subtiele wijze bepaalde standpunten benadrukken en andere in diskrediet brengen, vaak zonder dat gebruikers het beseffen.
Communicatievooroordeel
Mijn collega, computerwetenschapper Stefan Schmid, en ikeen wetenschapper op het gebied van technologierecht en -beleid wijst er in een artikel voor acceptatie in het tijdschrift Communications van de ACM op dat grote taalmodellen toont communicatievooroordeel. Wij merken dat zij de neiging kunnen hebben bepaalde standpunten te benadrukken en andere te negeren of te bagatelliseren. Dergelijke vooroordelen kunnen van invloed zijn op hoe gebruikers denken of voelen, wat er ook gebeurt of de gepresenteerde informatie waar of onwaar is.
Empirisch onderzoek van de afgelopen jaren is vruchtbaar gebleken benchmarkgegevensset die de modeloutput correleert met partijstandpunten voor en tijdens verkiezingen. Ze onthullen variaties in de manier waarop de belangrijkste taalmodellen van vandaag omgaan met publieke inhoud. Afhankelijk van de persona of context die wordt gebruikt bij het aandrijven van een groot taalmodel, neigen hedendaagse modellen op subtiele wijze naar bepaalde standpunten – zelfs als hun feitelijke nauwkeurigheid intact blijft.
Deze verschuiving duidt op de opkomst van een vorm van op persona gebaseerde controle: de neiging van modellen om hun toon en nadruk af te stemmen op de waargenomen verwachtingen van gebruikers. Wanneer een gebruiker zichzelf bijvoorbeeld beschrijft als milieuactivist en een andere gebruiker als bedrijfseigenaar, kan een model dezelfde vraag over nieuwe klimaatwetten beantwoorden door voor elke gebruiker verschillende, maar feitelijk correcte zorgen te benadrukken. Kritiek zou bijvoorbeeld kunnen zijn dat de wet niet effectief genoeg is in het bevorderen van milieuvoordelen en dat de wet regeldruk en nalevingskosten met zich meebrengt.
