Geschil tussen AI Antropisch bedrijf en het Pentagon over hoe het leger de technologie van het bedrijf kan gebruiken, is nu openbaar gemaakt. Te midden van gespannen onderhandelingen roept Anthropic naar verluidt op tot beperking van twee belangrijke toepassingen: massasurveillance en autonome wapens. Het ministerie van Defensie, genoemd door Trump Afdeling Oorlog wilden vorig jaar de vrijheid om technologie te gebruiken zonder dergelijke beperkingen.
In het midden zit Palantir. Defensiecontractanten zorgen voor een veilige cloudinfrastructuur waarmee het leger het Claude Anthropic-model kan gebruiken, maar zwijgen als de spanningen oplopen. Het lijkt zelfs op het Pentagon, per axiodreigde Anthropic een ‘toeleveringsketenrisico’ te noemen, een stap die Palantir zou kunnen dwingen de banden met een van zijn belangrijkste AI-partners te verbreken.
De dreiging kan een onderhandelingstactiek zijn. Maar als dit wel gebeurt, zou dit grote gevolgen hebben en mogelijk niet alleen Anthropic, maar ook haar klanten ervan weerhouden om bij de overheid te gaan werken. “Dat betekent dat de meeste bedrijven die Claude nu gebruiken om zichzelf effectiever te maken, plotseling niet meer in aanmerking komen voor overheidswerk”, zegt Alex Bores, een voormalig medewerker van Palantir die bij het bedrijf werkte. is nu kandidaat voor het Congres in het 12e arrondissement van New York. “Dit zal het vermogen van onze regering om dingen gedaan te krijgen ernstig belemmeren.” (Palantir reageerde niet op een verzoek om commentaar.)
Antropisch en de woordenoorlog van het Pentagon
Anthropic onderhield tot voor kort nauwe banden met het leger. Claude is het eerste grensoverschrijdende AI-model dat wordt toegepast op het geheime netwerk van het Pentagon. Afgelopen zomer gunde het Ministerie van Defensie Anthropic een contract ter waarde van $200 miljoen, en de technologie van het bedrijf werd zelfs gebruikt in de recente Amerikaanse operatie om Nicolas Maduro gevangen te nemen. Wall Street Journal gerapporteerd deze week.
Maar de toewijding van het bedrijf aan bepaalde AI-veiligheidsprincipes heeft sommigen in de kring van president Donald Trump geïrriteerd. (Katie Miller, de vrouw van Stephen Miller, heeft beschuldigde het bedrijf publiekelijk van liberale vooroordelen en bekritiseerde haar toewijding aan democratische waarden.) In tegenstelling tot zijn concurrenten xAI en OpenAI, die beide ook contracten hebben met het ministerie van Defensie, is Anthropic nu verwikkeld in een gevecht met het Pentagon dat zich in het openbaar afspeelt.
“Anthropic is vastbesloten om frontier AI te gebruiken ter ondersteuning van de Amerikaanse nationale veiligheid. Daarom waren wij het eerste frontier AI-bedrijf dat onze modellen op geheime netwerken inzet en de eersten die modellen specifiek voor klanten op het gebied van de nationale veiligheid leverden”, aldus een woordvoerder van het bedrijf. Snel bedrijf. “Claude wordt gebruikt voor een verscheidenheid aan inlichtingengerelateerde gebruiksscenario’s binnen de overheid, inclusief DoW, in overeenstemming met ons gebruiksbeleid. productief gesprekken, in goed vertrouwen, met de DoW over hoe we dat werk kunnen voortzetten en dit complexe probleem op de juiste manier kunnen oplossen.”
Het Pentagon heeft een meer confronterende toon aangenomen. Ambtenaren van het Agentschap herzien hun relatie met Anthropic en suggereerden dat andere aannemers ook zouden kunnen worden gevraagd om te stoppen met werken met het bedrijf. “De relatie van het Ministerie van Oorlog met Anthropic wordt momenteel herzien”, zei Pentagon-woordvoerder Sean Parnell Snel bedrijf. “Ons land vereist dat onze partners bereid zijn onze krijgers te helpen in welke strijd dan ook te winnen.” (Parnell reageerde niet op een verzoek om opheldering over specifieke zorgen over autonome wapens of surveillance.)
Palantir, tussenpersoon
Palantir neemt een belangrijke positie in dit ecosysteem in. Als al lang bestaande softwareleverancier voor de overheid voldoet het bedrijf aan een aantal eisen die het in staat stellen clouddiensten aan te bieden ter ondersteuning van geheim werk. En, zoals gebruikelijk is in de duizelingwekkende wereld van technologiecontracten van de overheid, Palantir Ook heeft een belangrijke samenwerking met Anthropic.
Twee jaar geleden werkten de bedrijven samen om antropische technologie naar de overheid te brengen, een stap waarmee Claude bereid was te helpen defensie- en inlichtingendiensten via Amazon Web Services. Afgelopen april sloot Anthropic zich aan bij het FedStart-programma van Palantir, waarmee de beschikbaarheid van zijn technologie voor overheidsklanten via Google Cloud werd uitgebreid.
Technologiecontracten bij de overheid zijn lastig, maar bedrijven die software aan de overheid willen verkopen moeten meestal samenwerken met een gecertificeerde cloudprovider als Palantir, of zich zelf laten certificeren. “Als je nog nooit in een geheime omgeving hebt gewerkt, heb je eigenlijk een voertuig nodig”, legt Varoon Mathur uit, die in de regering-Biden aan AI werkte. “Palantir is een defensie-aannemer met een diepe operationele integratie. Anthropic is een aanbieder van AI-modellen die toegang probeert te krijgen tot dat ecosysteem.”
De groeiende spanning over de manier waarop het ministerie van Defensie Claude zou kunnen gebruiken, roept ook vragen op over de mate waarin bedrijven als Palantir en Anthropic zicht hebben op het gebruik van hun instrumenten door de overheid. “Anthropic en OpenAI bieden het gebruik van Zero Data Retention, waarbij ze geen verzoeken van hun AI opslaan”, zegt Steven Adler, een voormalige OpenAI-medewerker en AI-beveiligingsexpert. Snel bedrijf. “Dit maakt het natuurlijk moeilijker om mogelijke schendingen van hun voorwaarden af te dwingen.”
Een persoon die bekend is met de kwestie zei dat Anthropic inzicht heeft in hoe zijn technologie wordt gebruikt, ongeacht of dit zich in een geheime omgeving bevindt, en dat het bedrijf er vertrouwen in heeft dat zijn partners en gebruikers de technologie hebben geïmplementeerd in overeenstemming met zijn beleid. In haar rapport schrijft The Wall Street Journal geciteerd Mensen die bekend waren met de zaak zeiden dat een medewerker van Anthropic contact had opgenomen met Palantir om te vragen naar de inzet van Claude bij de Maduro-operatie, hoewel Anthropic ontkende dat het buiten de technische discussies om met Palantir had gesproken. Dat zegt een woordvoerder van Anthropic Snel bedrijf dat het bedrijf geen commentaar kon geven op het gebruik van zijn technologie bij specifieke militaire operaties, maar zei dat het “nauw samenwerkte met onze partners om naleving te garanderen.”
Meer in het algemeen dreigt de impasse de betrekkingen tussen Silicon Valley en Washington te verslechteren, in een tijd waarin regeringen de adoptie van AI agressiever pushen. “Eigenlijk zeggen dat dit onze weg of de snelweg is, en als je probeert beperkingen op te leggen, zullen we niet alleen het contract niet ondertekenen, maar achter jouw zaken aan gaan, is een enorme rode vlag voor elk bedrijf dat erover denkt betrokken te raken bij overheidscontracten,” zei Bores.
