President Donald Trump riep vrijdag de Amerikaanse federale instanties op om te stoppen met het gebruik van het medicijn Claude AI van Antropis nadat het bedrijf weigerde het ministerie van Defensie toestemming te geven het te gebruiken voor massale binnenlandse surveillance of voor een volledig autonoom wapensysteem.
President gepost op het Truth Social-platform, waarvan hij eigenaar is, dat hij de federale regering opdroeg het gebruik van antropische instrumenten ‘ONMIDDELLIJK TE STOPPEN’, waarbij hij zei dat er een sluiting van zes maanden zou komen voor agentschappen zoals het ministerie van Defensie. Hij noemde Anthropic ook een “RADIC LEFT COMPANY, WAKE UP.” Het bericht markeert de laatste stap in een geschil dat deze week aanzienlijk escaleerde tussen Anthropic en de federale overheid.
Claude wordt veel gebruikt in het Pentagon, ook in geheime systemen, maar de regering-Trump probeert de technologie te gebruiken voor ‘elk wettig doel’. Anthropic heeft in zijn contracten duidelijk gemaakt dat de technologie niet wordt gebruikt voor massale surveillance van Amerikanen of in autonome aanvalswapensystemen zonder menselijke tussenkomst.
Eerder deze week zei minister van Defensie Pete Hegseth zei Dario Amodei, CEO van Anthropic dat hij zelden gebruikte bevoegdheden zou gebruiken om Anthropic te dwingen Claude door het Pentagon te laten gebruiken voor welk wettig doel dan ook, of om het bedrijf te bestempelen als een risico voor de toeleveringsketen – waardoor het gebruik ervan door overheden of defensiebedrijven in gevaar zou komen. Hegseth gaf Anthropic vrijdag een deadline om hieraan te voldoen.
Anthropic CEO Dario Amodei zei in een stelling dat het bedrijf, opgericht met een focus op AI-veiligheid, “niet met een goed geweten kan instemmen met het verzoek van (het Pentagon)” om contractbepalingen te schrappen die stellen dat Claude niet kan worden gebruikt in volledig autonome wapensystemen of voor binnenlands toezicht.
Lees meer: De Ring-camera van Amazon gaat dieper in het toezicht van politie en overheid
Zorgen over AI en massasurveillance
Amodei uitte zijn bezorgdheid over het feit dat de wet geen rekening houdt met de mogelijkheden voor massale surveillance van Amerikanen. De overheid kan al zonder bevel informatie kopen, zoals de browsegeschiedenis van Amerikanen en individuele bewegingsgegevens, maar kunstmatige intelligentie (AI) vergroot de risico’s. “Krachtige AI maakt het mogelijk om deze verspreide en onschadelijke gegevens samen te voegen tot een alomvattend beeld van iemands leven – automatisch en op schaal”, schreef hij.
Michael Pastor, decaan van het technologierechtprogramma aan de New York Law School, zei in een e-mail dat het in het contractenrecht gebruikelijk is dat betrokkenen duidelijkheid zoeken over de voorwaarden. “Anthropic heeft gelijk als het hard aandringt op wat wordt bedoeld met ‘voor een legitiem doel’”, zei hij. “Als het Pentagon niet bereid is te verduidelijken of het de technologie van Anthropic zal gebruiken voor grootschalige binnenlandse surveillance, dan zou dit een signaal zijn dat Anthropic gerechtvaardigd lijkt om met de hand te zwaaien.”
Claude van Anthropic is naar verluidt het meest gebruikte AI-systeem door het Amerikaanse leger. Alternatieven kunnen tools van OpenAI, Google of xAI van Elon Musk zijn.
In een interne memo Dat meldt The Wall Street Journal Vrijdag vertelde Sam Altman, CEO van OpenAI, aan zijn werknemers dat het bedrijf dezelfde rode lijn deelt als Anthropic: geen massaal binnenlands toezicht of autonome aanvalswapens. Altman zei dat hij gelooft dat deze vangrails kunnen worden beheerd door middel van technische vereisten, zoals het vereisen dat modellen in de cloud worden geïmplementeerd. (Openbaarmaking: Ziff Davis, het moederbedrijf van CNET, spande in 2025 een rechtszaak aan tegen OpenAI en beschuldigde OpenAI ervan inbreuk te maken op de auteursrechten van Ziff Davis op het gebied van de training en werking van zijn AI-systemen.)
Medewerkers van Google en OpenAI circuleren a sollicitatie riepen hun bedrijven op om Anthropic te steunen bij het weigeren van het gebruik van AI-modellen voor binnenlandse massabewaking of volledig autonome dodelijke wapensystemen. In de petitie staat dat het Pentagon “individuele bedrijven probeert te verdelen uit angst dat andere bedrijven zullen toegeven. Die strategie zal alleen werken als niemand van ons weet waar de andere bedrijven staan.”
Net als consumententechnologie worden kunstmatige-intelligentiesystemen op grote schaal toegepast in regerings- en militaire zaken. De mogelijkheden van deze tools zijn de afgelopen jaren aanzienlijk uitgebreid en het tempo van de veranderingen neemt niet af. De regulering van en het toezicht op AI zijn niet goed verlopen. AI heeft de potentiële gevaren van bedrijfs- en overheidstoezicht vergroot door het eenvoudiger en goedkoper te maken.
Pastor zei dat deze geschillen aanzienlijke gevolgen kunnen hebben voor de invloed die overheden en technologiebedrijven op elkaar hebben als hun opvattingen over het juiste gebruik van technologie conflicteren. ‘Anthropic was waarschijnlijk van mening dat het toegeven hier een doos van Pandora zou openen die Claude zou kunnen gebruiken,’ zei hij.
