“We betreden een nieuwe fase van informatieoorlog op sociale-mediaplatforms, waar technologische vooruitgang de klassieke botbenaderingen overbodig heeft gemaakt”, zegt Jonas Kunst, hoogleraar communicatie aan de BI Noorwegen Business School en een van de auteurs van het rapport.
Voor experts die jarenlang desinformatiecampagnes hebben gevolgd en bestreden, presenteert het artikel een sombere toekomst.
“Wat als AI niet alleen maar hallucinerende informatie is, maar duizenden AI-chatbots die samenwerken om de dekmantel te bieden voor basisondersteuning waar die voorheen niet bestond? Dat is de toekomst die dit artikel voor ogen heeft – een Russische trollenboerderij op steroïden”, zegt Nina Jankowicz, een voormalige desinformatie-tsaar van de Biden-regering die nu CEO is van het American Sunlight Project.
Onderzoekers zeggen dat het onduidelijk is of deze tactieken al worden gebruikt, omdat de huidige systemen voor het volgen en identificeren van gecoördineerd niet-authentiek gedrag niet in staat zijn om dit gedrag te detecteren.
“Omdat hun eigenschappen moeilijk te imiteren zijn voor mensen, is het erg moeilijk om ze daadwerkelijk te detecteren en de omvang van hun aanwezigheid te beoordelen”, aldus Kunst. “We hebben geen toegang meer tot de meeste (sociale media) platforms omdat ze restrictiever worden, dus het is moeilijk om een idee te krijgen van wat dat is. Technisch gezien is het zeker mogelijk. We hebben er alle vertrouwen in dat het wordt getest.”
Kunst voegde eraan toe dat deze systemen waarschijnlijk nog steeds door mensen zullen worden gemonitord terwijl ze worden ontwikkeld, en voorspelde dat ze weliswaar geen grote impact zullen hebben op de Amerikaanse tussentijdse verkiezingen van 2026 in november, maar dat ze waarschijnlijk zullen worden gebruikt om de presidentsverkiezingen van 2028 te verstoren.
Accounts die niet van mensen te onderscheiden zijn op sociale mediaplatforms zijn slechts een van de problemen. Het vermogen om sociale netwerken op grote schaal in kaart te brengen, zeggen de onderzoekers, zal degenen die desinformatiecampagnes coördineren in staat stellen zich te richten op agenten in specifieke gemeenschappen, waardoor de grootste impact wordt gegarandeerd.
“Uitgerust met dergelijke mogelijkheden kunnen zwermen zichzelf positioneren voor maximale impact en hun berichten afstemmen op de overtuigingen en culturele signalen van elke gemeenschap, waardoor een nauwkeurigere targeting mogelijk wordt dan eerdere botnets”, schreven ze.
Systemen als deze verbeteren zichzelf van nature en gebruiken reacties op hun berichten als feedback om de redenering te verbeteren en boodschappen beter over te brengen. “Als ze voldoende signalen krijgen, kunnen ze miljoenen microA/B-tests uitvoeren, superieure varianten op machinesnelheid inzetten en veel sneller itereren dan mensen”, schreven de onderzoekers.
Om de dreiging van AI-zwermen te bestrijden, stellen de onderzoekers voor om een ‘AI Influence Observatory’ op te richten, bestaande uit mensen uit academische groepen en niet-gouvernementele organisaties die werken aan ‘het standaardiseren van bewijsmateriaal, het verbeteren van het situationeel bewustzijn en het mogelijk maken van snellere collectieve reacties in plaats van het opleggen van reputatiestraffen van bovenaf.’
Eén groep die niet werd opgenomen, waren leidinggevenden van de sociale-mediaplatforms zelf, vooral omdat de onderzoekers geloofden dat hun bedrijven betrokkenheid boven alles stimuleerden, en daarom weinig prikkels hadden om deze groepen te identificeren.
“Stel dat AI-zwermen zo frequent voorkomen dat je niemand meer kunt vertrouwen en dat mensen het platform verlaten”, aldus Kunst. “Natuurlijk zal dit het model bedreigen. Als ze de betrokkenheid alleen maar vergroten, is het voor een platform beter om dit niet te onthullen, omdat het lijkt alsof meer betrokkenheid, meer advertenties worden gezien, een positieve impact zal hebben op de waardering van een bepaald bedrijf.”
Afgezien van een gebrek aan actie van de platforms, zijn experts van mening dat er weinig prikkels zijn voor overheden om betrokken te raken. “Het huidige geopolitieke landschap is misschien niet geschikt voor een ‘observatorium’ dat in essentie online discussies monitort,” zei Olejnik, een punt waar Jankowicz het mee eens is: “Het engste aan deze toekomst is dat er weinig politieke wil is om de verwoestende gevolgen veroorzaakt door AI aan te pakken, wat betekent dat (AI-zwermen) binnenkort werkelijkheid zullen worden.”
