Gezichtsherkenningsapplicatie Mobiel fortNu gebruikt door immigratieagenten van de Verenigde Staten in grote Amerikaanse steden, was niet bedoeld om op betrouwbare wijze mensen op straat te identificeren en werd geïmplementeerd zonder toezicht dat historisch gezien de uitrol van technologieën met impact op de samenleving heeft beheerst. persoonlijkvolgens gegevens beoordeeld door WIRED.
Dat Ministerie van Binnenlandse Veiligheid lanceerde Mobile Fortify in het voorjaar van 2025 om de identiteit te ‘bepalen of verifiëren’ van personen die door DHS-functionarissen werden tegengehouden of vastgehouden tijdens federale operaties, zo blijkt uit gegevens. DHS koppelde daar expliciet de lancering aan uitvoerend bevelondertekend door President Donald Trump op zijn eerste dag in functie, waarin hij opriep tot een “totale en efficiënte” repressie tegen immigranten zonder papieren, onder meer door middel van versnelde verwijderingen, uitgebreide detentie en financieringsdruk op staten, naast andere tactieken.
Hoewel het DHS Mobile Fortify herhaaldelijk aanprijst als een hulpmiddel voor het identificeren van mensen via gezichtsherkenning, ‘verifieert’ de app niet daadwerkelijk de identiteit van mensen die worden tegengehouden door federale immigratieagenten – een bekende beperking van de technologie en functionaliteit van de manier waarop Mobile Fortify is ontworpen en gebruikt.
“Elke fabrikant van deze technologie, elke politieafdeling die beleid heeft, maakt duidelijk dat gezichtsherkenningstechnologie niet in staat is tot positieve identificatie, dat het fouten maakt en er alleen is om leads te genereren”, zegt Nathan Wessler, adjunct-directeur van het Speech, Privacy and Technology Project van de American Civil Liberties Union.
Uit gegevens die door WIRED zijn beoordeeld, blijkt ook dat de overhaaste goedkeuring door het DHS van Fortify afgelopen mei mogelijk werd gemaakt door het elimineren van gecentraliseerde privacybeoordelingen en het stilletjes opheffen van gezichtsherkenningsbeperkingen op de hele afdeling – veranderingen onder toezicht van een voormalig Heritage Foundation-advocaat en Project 2025-medewerker, die nu een senior DHS-privacyrol bekleedt.
DHS – dat weigerde details te geven over de methoden en instrumenten die het bureau gebruikte, ondanks herhaalde oproepen van het bureau toezichthoudend ambtenaar En non-profit privacywaakhond– heeft Mobile Fortify gebruikt om niet alleen de gezichten van ‘getargete individuen’ te scannen, maar ook van mensen in de toekomst bevestigd een Amerikaans staatsburger te zijn en anderen die wetshandhavingsactiviteiten observeren of protesteren.
Rapportage heeft gedocumenteerd dat federale agenten burgers vertellen dat ze worden opgenomen met gezichtsherkenning en dat hun gezichten zonder toestemming aan de database zullen worden toegevoegd. Andere rapporten beschrijven behandelende middelen accent, waargenomen etniciteit of huidskleur als basis voor het verbeteren van ontmoetingen – en gebruik vervolgens gezichtsscannen als volgende stap nadat de stop bezig is. Over het geheel genomen illustreren de gevallen een bredere verschuiving in de handhaving van het DHS naar ontmoetingen op straat op laag niveau, gevolgd door het vastleggen van biometrische gegevens zoals gezichtsscans, met beperkte transparantie rond de werking en het gebruik van dergelijke hulpmiddelen.
Versterk technologie mobiliseert het maken van gezichtsopnamen op honderden kilometers van de Amerikaanse grens, waardoor het DHS zonder wederzijds goedvinden gezichtsafdrukken kan maken van mensen die “mogelijk”, zegt het DHS Office of Privacy, “Amerikaanse staatsburgers of wettige permanente inwoners” zijn. In het licht van de omstandigheden rond de verspreiding ervan onder agenten van de Douane en Grensbescherming en Immigratie en Douanehandhaving, wordt de functie van Fortify voornamelijk zichtbaar via gerechtelijke dossiers en getuigenissen van beëdigde agenten.
In een federale rechtszaak deze maand zeiden advocaten van de staat Illinois en de stad Chicago dat de app sinds de lancering “meer dan 100.000 keer in het veld” was gebruikt.
Vorig jaar zei een agent in een getuigenis in Oregon dat twee foto’s van een vrouw in hechtenis waren genomen met haar gezichtsherkenningstoepassing verschillende identiteiten produceren. De vrouw was geboeid en keek naar beneden, zei de agent, wat hem ertoe aanzette fysiek van positie te veranderen om het eerste beeld te krijgen. De beweging, zo getuigde hij, zorgde ervoor dat hij schreeuwde van de pijn. De app retourneert de naam en foto van een vrouw genaamd Maria; een match die de agent als “waarschijnlijk” beoordeelt.
De agent riep de naam ‘Maria, Maria’ om haar reactie te peilen. Toen hij niet reageerde, namen ze nog een foto. De agent getuigde dat de tweede uitkomst ‘mogelijk’ was, maar voegde eraan toe: ‘Ik weet het niet.’ Op de vraag wat de waarschijnlijke oorzaak ondersteunde, noemde de agent de vrouw die Spaans sprak, haar aanwezigheid met een andere persoon die geen staatsburger leek te zijn, en een “mogelijke match” via gezichtsherkenning. De agent getuigde dat de app niet aangaf hoe zeker het systeem was in een wedstrijd. ‘Het is maar een beeld, Majesteit. U zou de ogen, neus, mond en lippen moeten zien.’
