Het hoofd Onderzoek en Ontwikkeling van het Pentagon zei dat het ministerie van Defensie ‘doodsbang’ was dat Anthropic op een kritiek moment de toegang tot zijn AI zou afsluiten.
Tijdens een optreden op de ‘All-In Podcast’ die vrijdag werd gepost, beschreef de staatssecretaris van Defensie voor Onderzoek en Techniek Emil Michael twee sleutelmomenten die culmineerden in het Pentagon officieel Anthropic aangemerkt als een risico voor de toeleveringsketeneffectief een van Amerika’s grootste AI-bedrijven op de zwarte lijst zetten.
Een van hen, zei Michael, was toen CEO van Anthropic Dario Amodei suggereerde dat de impasse over de manier waarop het Pentagon AI-startup-modellen kan implementeren, kan worden overbrugd met een telefoontje, zelfs als het op een ‘beslissend moment’ komt.
“Ik gaf dit scenario, het Golden Dome-scenario, enzovoort”, zei Michael op de “All-In Podcast”, waarin hij het kenmerkende raketverdedigingsinitiatief van president Donald Trump beschreef.
“En hij zei: ‘Bel me maar als je nog een uitzondering nodig hebt.’ En ik dacht: “Maar wat als de ballon op dat punt omhoog gaat en het een beslissende actie is die we moeten ondernemen? Ik zal je niet bellen om iets te doen. Het is irrationeel.”
Het is niet helemaal duidelijk wat Anthropic zou afwijzen in de door Michael voorgestelde hypothese, hoewel de implicatie is dat sommige Golden Dome-systemen autonome modi zouden kunnen hebben die wapens afvuren.
In het huidige Amerikaanse raketafweersysteem is het de rol van AI om snel situationeel bewustzijn en aanbevelingen te geven aan menselijke operators. AI kan snel beoordelen of een gedetecteerde lancering een bedreiging vormt en wapens aanbevelen om deze te vernietigen. De beslissing om naar het advies te luisteren wordt vervolgens genomen door de luchtverdedigingscommandant.
Elders in het interview zei Michael dat een deel van de impasse met Anthropic is dat hij “de komende twintig jaar niet kan voorspellen waarvoor we AI zullen gebruiken.”
Michael, die voorheen topman was bij Uber, zei dat de zorgen van zijn afdeling over Anthropic begonnen toe te nemen nadat de VS soortgelijke actie hadden ondernomen. gerichte aanvallen in Venezuela om de Venezolaanse president Nicolas Maduro te arresteren. De aanval riep grote vragen op over de soevereiniteit, en Democratische leden van het Congres zetten vraagtekens bij het besluit om geen goedkeuring te vragen voor de inzet van Amerikaanse troepen.
Na de inval zei Michael dat een niet bij naam genoemde Anthropic-manager belde Palantir leidinggevenden om te vragen of er antropische AI-modellen waren gebruikt om dit uit te voeren. Het Pentagon had toegang tot de AI-modellen van Anthropic via een overheidscloud die werd beheerd door Amazon Web Services en vervolgens werd beheerd door Palantir, zei Michael. (Op 27 februari heeft de voorzitter Donald Trump gaf federale instanties de opdracht om te stoppen met het gebruik van antropische AI, hoewel de richtlijn een uitfaseringsperiode van zes maanden kende.)
Michael zei dat ambtenaren van Palantir zo bezorgd waren over de vragen van Anthropic dat ze hem waarschuwden.
“Ik had zoiets van: ‘Oh mijn god, wat als deze software kapot gaat, de vangrails omhoog gaan, er weerstand is tegen een nieuw gevecht als dit, en we onze mensen in gevaar brengen’, zei Michael, verwijzend naar de huidige Amerikaanse oorlog tegen Iran.
Terwijl het gesprek verhit raakte, zei Michael dat hij het gevoel had dat Anthropic de discussie ‘in een PR-spel’ veranderde. zorgen openlijk uiten over hoe de termen waar het Pentagon naar op zoek is het potentieel voor misbruik niet adequaat beschrijven. Amodei heeft bevestigd dat Anthropic zich grote zorgen maakt over de risico’s van autonome wapens en over de manier waarop zijn krachtige AI-modellen kunnen worden misbruikt om Amerikaanse burgers te bespioneren.
Tijdens een verhitte discussie noemde Michael Amodei publiekelijk een ‘leugenaar’ met een ‘Godcomplex’.
Donderdag zei het Pentagon dat het Anthropic officieel op de hoogte had gesteld van het feit dat het bedrijf en zijn producten een risico voor de toeleveringsketen vormden, de eerste keer in de geschiedenis dat het label op een Amerikaans bedrijf werd toegepast.
Amodei antwoordde dat zijn AI-startup de afgelopen dagen ‘productieve gesprekken’ had gevoerd met het Pentagon, maar Michael zei later dat er geen lopende discussies waren.
Anthropic zei dat het de aanwijzing voor de rechtbank zou aanvechten, vooral omdat minister van Defensie Pete Hegseth zei dat het defensie-aannemers ervan weerhield zaken te doen met Anthropic.
Toen hem werd gevraagd waarom het Pentagon zo ver was gegaan, zei Michael dat de benaming niet ‘bestraffend’ was.
“Als hun model een dergelijke beleidsvooroordeel heeft, laten we zeggen dat het gebaseerd is op de grondwet, de cultuur, de samenleving, enzovoort”, zei hij. “Ik wil niet dat Lockheed Martin hun modellen gebruikt om wapens voor mij te ontwerpen.”
Eerder deze week zei een woordvoerder van Lockheed dat het het voorbeeld van Trump en het Pentagon zou volgen wat betreft de vraag of het Anthropic-producten zou blijven gebruiken. Michaël heeft ook gebeld Boeinglegt uit hoe vliegtuigfabrikanten Anthropic AI kunnen gebruiken voor niet-defensietaken.
“Dus Boeing wil Anthropic gebruiken om een commercieel vliegtuig te bouwen – ga ervoor”, zei hij. “Boeing wilde het gebruiken om straaljagers te maken. Ik kon het niet krijgen omdat ik niet zeker wist wat de resultaten zouden zijn, omdat ze te veel gebonden waren aan hun eigen beleidsvoorkeuren.”
Hoewel Michael Anthropic bekritiseerde, prees hij xAI en Elon Musk omdat ze akkoord gingen met de voorwaarden van het departement, waardoor het AI “voor alle wettige toepassingen” kon toepassen.
Michael prees ook OpenAI en zijn CEO, Sam Altmanom met het Pentagon samen te werken om snel een ander AI-systeem te creëren dat in geheime omgevingen kan werken, zodat de afdeling kan stoppen met het gebruik van Anthropic.
Altman en OpenAI hebben online aanzienlijke terugslag gekregen omdat ze met het Pentagon wilden samenwerken. Altman drong er bij de afdeling publiekelijk op aan om Anthropic niet als een risico voor de toeleveringsketen te bestempelen.
“Wat dankbaar is, is dat ik hem belde en zei: ‘Ik heb een oplossing nodig als dit niet soepel verloopt. Ik heb een verscheidenheid aan oplossingen nodig. Ik wil dat jij een van hen bent’, zei Michael. “En hij zei: ‘Wel, wat kan ik voor dit land doen?’ Ik had zoiets van: ‘Ik moet je zo snel mogelijk laten rennen.’
