De regering-Trump heeft dit niet geschuwd deel door AI gegenereerde beelden onlineomarmen cartoonachtige beelden en memes en promoot het op officiële kanalen van het Witte Huis.
Maar het is een bewerkte – en realistische – afbeelding van een burgerrechtenadvocaat Levy Armstrong aan verschillende mensen Het huilen na de arrestatie zorgde voor nieuwe zorgen over de manier waarop de regering de grenzen tussen wat echt en nep is vervaagt.
Het account van minister van Binnenlandse Veiligheid Kristi Noem heeft dit geüpload originele afbeelding van de arrestatie van Levy Armstrong voordat het officiële Witte Huis-account een gewijzigde afbeelding plaatste waarop ze huilde. Het nagemaakte beeld maakt deel uit van de overstroming AI-een bewerkt beeld dat sindsdien door het hele politieke spectrum wordt gedeeld fatale schietpartij van Renee Good en Alex Pretti door Amerikaanse grenspolitieagenten in Minneapolis
Het gebruik van kunstmatige intelligentie door het Witte Huis heeft deskundigen op het gebied van desinformatie echter verontrust. Zij vrezen dat de verspreiding van door AI gecreëerde of bewerkte beelden de perceptie van het publiek over de waarheid zal uithollen en wantrouwen zal aanwakkeren.
Als reactie op kritiek op het bewerkte beeld van Levy Armstrong verdubbelden functionarissen van het Witte Huis de titel, met een plaatsvervangend communicatiedirecteur Kaelan Dorr schrijft bij X dat “de memes zullen voortleven.” Abigail Jackson, plaatsvervangend persvoorlichter van het Witte Huis, heeft ook een bericht gedeeld spotte met de kritiek.
David Rand, hoogleraar informatica aan de Cornell University, zei dat het een meme noemen van het gewijzigde beeld ‘een poging lijkt om er een grap of een humoristische post van te maken, zoals hun eerdere cartoons. Dit kan bedoeld zijn om hen te beschermen tegen kritiek vanwege het plaatsen van gemanipuleerde media.’ Hij zei dat het doel van het delen van het gewijzigde arrestatiebeeld “veel dubbelzinniger” leek dan het werkelijke doel cartoon afbeelding die in het verleden door de overheid zijn gedeeld.
Memes dragen altijd gelaagde boodschappen over die grappig of informatief zijn voor mensen die ze begrijpen, maar onbegrijpelijk voor buitenstaanders. Met AI verbeterde of bewerkte beelden zijn slechts het nieuwste instrument dat het Witte Huis gebruikt om delen van Trumps achterban te bereiken die veel tijd online doorbrengen, zegt Zach Henry, een Republikeinse communicatieadviseur die Total Virality, een influencer-bedrijf, heeft opgericht. marketing stevig.
“Mensen online zullen het zien en het onmiddellijk herkennen als een meme”, zei hij. “Je grootouders zien het misschien en begrijpen de meme niet, maar omdat het er echt uitziet, zorgen ze ervoor dat ze er hun kinderen of kleinkinderen naar vragen.”
Nog beter als het een sterke reactie zou uitlokken, waardoor het viraal zou gaan, zei Henry, die over het algemeen het werk van het socialemediateam van het Witte Huis prees.
De creatie en verspreiding van gewijzigde beelden, vooral wanneer ze worden gedeeld door vertrouwde bronnen, “kristalliseert ideeën over wat er gebeurt, in plaats van te laten zien wat er werkelijk gebeurt”, zegt Michael A. Spikes, professor aan de Northwestern University en onderzoeker op het gebied van nieuwsmediageletterdheid.
“De overheid moet een plaats zijn waar je de informatie kunt vertrouwen, waar je kunt zeggen dat de informatie accuraat is, omdat zij de verantwoordelijkheid hebben om dat te doen”, zei hij. “Door dit soort inhoud te delen en dit soort inhoud te creëren… tast het het vertrouwen aan – hoewel ik altijd sceptisch ben over de term vertrouwen – maar ook het vertrouwen dat we zouden moeten hebben in de federale overheid om ons te voorzien van accurate, geverifieerde informatie. Dit is een echt verlies, en het baart me echt zorgen.”
Spikes zei dat hij al een ‘institutionele crisis’ zag rond het wantrouwen jegens nieuwsorganisaties en het hoger onderwijs, en dat het gedrag van deze officiële media deze problemen aanwakkerde.
Ramesh Srinivasan, professor aan de UCLA en presentator van de Utopias-podcast, zei dat veel mensen zich nu afvragen waar ze terecht kunnen voor ‘betrouwbare informatie’. “AI-systemen zullen de problemen die worden veroorzaakt door een gebrek aan vertrouwen, zelfs een gebrek aan begrip van wat als realiteit, waarheid of bewijsmateriaal kan worden beschouwd, alleen maar verergeren, versterken en versnellen”, zei hij.
Srinivasan zei dat hij vond dat het Witte Huis en andere functionarissen die door AI gegenereerde inhoud deelden, niet alleen het grote publiek uitnodigden om soortgelijke inhoud te blijven posten, maar ook toestemming gaven aan anderen met geloofwaardigheid en macht, zoals beleidsmakers, om synthetische inhoud zonder labels te delen. Hij voegde eraan toe dat, gezien het feit dat sociale-mediaplatforms de neiging hebben om op algoritmische wijze extreme en samenzweerderige inhoud te bevoorrechten – die gemakkelijk kan worden gegenereerd door AI-generatietools – “we voor een reeks enorme uitdagingen staan.”
Door AI gegenereerde videostreams met betrekking tot immigratie- en douanehandhavingsacties, protesten en interacties met burgers hebben zich op sociale media verspreid. Na René Goed De foto werd gemaakt door een ICE-officier terwijl ze in haar auto zat, en er begonnen verschillende door AI gegenereerde video’s te circuleren waarin vrouwen te zien waren die wegreden van ICE-agenten die hen zeiden te stoppen. Er circuleren ook veel nepvideo’s van immigratie-invallen en mensen die ICE-agenten confronteren, vaak tegen hen schreeuwend of voedsel in hun gezicht gooien.
Jeremy Carrasco, een maker van inhoud die gespecialiseerd is in mediageletterdheid en het ontmaskeren van virale AI-video’s, zei dat de meeste van deze video’s waarschijnlijk afkomstig zijn van accounts die aan ‘engagementfarming’ doen, of die willen profiteren van klikken door inhoud te genereren met populaire trefwoorden en zoektermen zoals ICE. Maar hij zei ook dat de video werd bekeken door mensen die tegen ICE en DHS zijn en de video misschien als ‘fanfictie’ of simpelweg ‘wishful thinking’ hebben gezien, in de hoop dat ze echte tegenstand tegen de organisatie en haar functionarissen zagen.
Carrasco is echter ook van mening dat de meeste kijkers niet kunnen zeggen of wat ze zien nep is, en vraagt zich af of ze zullen weten “wat echt is of niet als het er echt toe doet, bijvoorbeeld wanneer de inzet veel hoger is.”
Zelfs als er duidelijke tekenen zijn dat AI in opkomst is, zoals ondoordachte verkeersborden of andere voor de hand liggende fouten, zullen kijkers het gebruik van AI alleen in het ‘best case scenario’ begrijpen of er voldoende aandacht aan besteden om het gebruik van AI op te merken.
Deze kwestie beperkt zich uiteraard niet tot nieuws rond immigratiehandhaving en protesten. Verzonnen en verkeerd weergegeven beelden na de arrestatie van de afgezette leider van Venezuela Nicolaas Maduro ontplofte eerder deze maand online. Deskundigen, waaronder Carrasco, beweren dat de verspreiding van door AI gegenereerde politieke inhoud gemeengoed zal worden.
Carrasco is van mening dat de wijdverbreide implementatie van watermerksystemen die informatie over de oorsprong van een medium in de metadatalaag opnemen, een stap in de richting van een oplossing zou kunnen zijn. De Coalition for Origin and Authenticity of Content heeft een dergelijk systeem ontwikkeld, maar volgens Carrasco zal het nog minstens een jaar lang niet breed worden toegepast.
“Dit zal nu een eeuwig probleem blijven”, zei hij. Ik denk niet dat mensen begrijpen hoe erg dit is.”
—Kaitlyn Huamani, AP-technologieschrijver
Associated Press-schrijvers Jonathan J. Cooper en Barbara Ortutay hebben bijgedragen aan dit rapport.
