In tijden van politieke onrust, deepfakes en AIde resulterende inhoud kan zich ontwikkelen. Een voorbeeld: online reacties op de verrassingsoperatie van de Amerikaanse regering in Venezuela afgelopen weekend, die verschillende luchtaanvallen omvatte en een geheime missie die eindigde met de arrestatie van de president van het land, Nicolás Maduro, en zijn vrouw. Ze werden onmiddellijk beschuldigd van narcoterrorisme en andere misdaden, en worden momenteel vastgehouden in een federale gevangenis in New York.
Momenteel komen de feiten met betrekking tot deze buitengewone operatie nog steeds naar boven, en de toekomst van Venezuela is zeer onduidelijk. President Donald Trump zegt dat de Amerikaanse regering van plan is zijn land te ‘sturen’. Minister van Buitenlandse Zaken Marco Rubio heeft aangegeven dat Amerika dat niet zal doen, en dat de inmiddels ingehuldigde voormalige vice-president Delcy Rodriguez het voortouw zal nemen. Anderen roepen nog steeds op tot de overname van oppositieleiders María Corina Machado en Edmundo Gonalzez.
In tijden als deze kunnen deepfakes, desinformatiecampagnes en zelfs door AI gegenereerde memes populair worden. Wanneer de waarheid of de toekomst onduidelijk is, stelt generatieve kunstmatige intelligentie mensen in staat inhoud te creëren die onbeantwoorde vragen beantwoordt en de gaten opvult met wat ze kunnen. wil werkelijkheid worden.
We hebben AI-video’s gezien van wat er in Venezuela gebeurt. Sommigen van hen zijn meme-achtige afbeeldingen van Maduro, geboeid in een militair vliegtuig, maar andere kunnen worden aangezien voor echte beelden. Hoewel grote aantallen Venezolanen naar buiten kwamen om de arrestatie van Maduro te vieren, verschenen er ook video’s van door AI veroorzaakte menigten, waaronder Een die blijkbaar X-CEO Elon Musk voor de gek hield.
Op zijn minst anekdotisch is de Venezuela-gerelateerde deepfake-inhoud de afgelopen dagen enorm toegenomen, zegt Ben Colman, mede-oprichter en CEO van Reality Defender, een bedrijf dat deepfakes opspoort. De verhalen zijn aan geen enkele beweging gebonden en ‘variëren van nationalistisch tot anti-regering, pro-Venezuela, pro-VS, pro-eenheid, anti-globalisering en alles daartussenin’, zei hij.
“Het verschil tussen deze gebeurtenis en de gebeurtenissen van enkele maanden geleden is dat de beeldmodellen de afgelopen dagen zo goed zijn geworden dat de meest scherpzinnige factcheckers, mediaverificatie-experts en experts in ons vakgebied veel van deze modellen niet handmatig kunnen verifiëren door te verwijzen naar specifieke aspecten van het beeld als indicatoren voor hun geldigheid of het ontbreken daarvan”, legt Colman uit. “Velen hebben die strijd verloren (handmatige en visuele verificatie).”
zei Open AI Snel bedrijf dat het toezicht houdt op de manier waarop Venezuela zijn producten gebruikt en zegt dat het actie zal ondernemen als het schendingen van zijn gebruiksbeleid constateert.
Het Global Engagement Center van het Amerikaanse ministerie van Buitenlandse Zaken, een federaal agentschap dat is opgericht om desinformatiecampagnes te monitoren, zou de situatie eerder hebben gevolgd, zei een voormalige medewerker.
Tijdens de Russische oorlog in Oekraïne zag het Amerikaanse ministerie van Buitenlandse Zaken bijvoorbeeld grote leugens over leiders die soldaten probeerden te overtuigen hun wapens neer te leggen, en vervalste verhalen over andere deelnemers aan de oorlog. Tijdens politieke onrust is het gebruikelijk dat online actoren proberen tegengestelde facties te ontmoedigen, voegde de persoon eraan toe. Het centrum werd later gesloten, nadat de Republikeinen hen beschuldigden van censuur op Amerikanen.
Het ministerie van Buitenlandse Zaken reageerde niet op een verzoek om commentaar toen dit verhaal werd gepubliceerd.
‘Gaspedaal’
Politieke deepfakes en door AI gegenereerde inhoud zijn nu gemeengoed. Een paar jaar geleden bedacht een tv-nieuwspresentator een AI het verspreiden van regeringsgezinde gespreksonderwerpenblijkbaar bedoeld om het idee te promoten dat de economie en veiligheid van Venezuela over het algemeen goed waren, ging het virus door het hele land. In 2024 sloot de partij zich aan bij de voormalige Zuid-Afrikaanse president Jacob Zuma. deel deepfake-video’s met een door AI gegenereerde Donald Trump die hun platform aandrijft (wat verre van dat is). het enige voorbeeld in het land). Zelfs zoals onlangs New York City verkiezingsshows voor burgemeestersAI wordt vaak ingezet tijdens stressvolle campagneseizoenen.
Knight First Amendment Institute, dat analyse van het gebruik van AI bij verkiezingen in 2024ontdekte dat veel toepassingen van AI, vooral in verkiezingstijd, niet noodzakelijkerwijs bedoeld zijn om te misleiden – en dat desinformatie niet altijd door AI wordt veroorzaakt. Het probleem is niet alleen dat het gemakkelijk is om met AI desinformatie te creëren, maar dat de samenleving ook openstaat voor het ontvangen van desinformatie. Met andere woorden: er is vraag naar dit soort inhoud.
“Deepfakes zijn in deze context niet alleen desinformatie, ze versnellen de zaken ook”, zegt Emmanuelle Saliba, hoofd onderzoek bij GetReal Security, een ander bedrijf dat deepfakes opspoort. Snel bedrijf. “Terwijl een deel van de valse inhoud die we zien circuleren, wordt gecreëerd om de memecultuur te ondersteunen, wordt een deel ervan gecreëerd en verspreid om de samenleving in een toch al onstabiel klimaat te verwarren en te ontwrichten. Vertrouwen hangt aan een zijden draadje.”
