Publieke confrontatie tussen Trump-regering En Antropisch kwam in een impasse terecht omdat militaire functionarissen dit eisten kunstmatige intelligentie het bedrijf heeft vrijdag zijn ethisch beleid gewijzigd, anders riskeert het zijn activiteiten te beschadigen.
Anthropic CEO Dario Amodei trok 24 uur voor de deadline een scherpe rode lijn en verklaarde dat zijn bedrijf “niet met een goed geweten kan instemmen” met het laatste verzoek van het Pentagon om onbeperkt gebruik van zijn technologie toe te staan.
Anthropic, maker van de chatbot Claude, kon het zich veroorloven een defensiecontract te verliezen. Maar het ultimatum van minister van Defensie Pete Hegseth van deze week brengt bredere risico’s met zich mee op het hoogtepunt van de opkomst van het bedrijf van een weinig bekend computerwetenschappelijk onderzoekslaboratorium in San Francisco tot een van ’s werelds meest waardevolle startups.
Als Amodei niet toegeeft, hebben militaire functionarissen gewaarschuwd dat ze niet alleen het contract van Anthropic zullen intrekken, maar het ook “als een risico voor de toeleveringsketen zullen beschouwen”, een aanduiding die gewoonlijk wordt gegeven aan buitenlandse tegenstanders die de belangrijke partnerschappen van het bedrijf met andere bedrijven zouden kunnen laten ontsporen.
En als Amodei het opgeeft, zou hij het vertrouwen in de bloeiende AI-industrie kunnen verliezen, vooral van toptalent dat zich tot de bedrijven aangetrokken voelt door hun beloften om op verantwoorde wijze AI te bouwen, beter dan mensen, wat zonder waarborgen enorme risico’s met zich mee zou kunnen brengen.
Anthropic zei dat het van het Pentagon beperkte garanties zocht dat Claude niet zou worden gebruikt voor massale surveillance van Amerikanen of voor volledig autonome wapens. Maar na maanden van privéonderhandelingen die uitmondden in een publiek debat, zeiden ze donderdag in een verklaring dat de nieuwe contracttaal “is geformuleerd als een compromis in combinatie met juridische taal die het mogelijk maakt om naar believen afstand te doen van deze bescherming.”
Dit komt nadat Sean Parnell, de topwoordvoerder van het Pentagon, op sociale media had gepost dat “we GEEN ENKEL bedrijf de voorwaarden zullen laten dicteren over hoe we operationele beslissingen nemen” en voegde eraan toe dat bedrijven “tot vrijdag 17.01 uur ET om te beslissen” of ze aan de eisen zullen voldoen of de gevolgen zullen dragen.
Emil Michael, onderminister van Defensie voor onderzoek en techniek, haalde later uit naar Amodei en beschuldigde X ervan dat hij “een Godcomplex heeft” en “niets liever wil dan proberen het Amerikaanse leger persoonlijk onder controle te krijgen en dat hij er geen probleem mee heeft de veiligheid van ons land in gevaar te brengen.”
De boodschap heeft nog geen weerklank gevonden in een groot deel van Silicon Valley, waar een groeiend aantal technologiewerkers van de belangrijkste concurrenten van Anthropic, OpenAI en Google, eind donderdag in een open brief hun steun uitten voor het standpunt van Amodei.
OpenAI en Google hebben, samen met xAI van Elon Musk, ook contracten om hun AI-modellen aan het leger te leveren.
“Het Pentagon onderhandelt met Google en OpenAI om hen zover te krijgen dat ze instemmen met wat Anthropic heeft geweigerd te doen”, aldus de open brief. “Ze proberen bedrijven te verdelen omdat ze bang zijn dat andere bedrijven het zullen opgeven.”
Ook Republikeinse en Democratische wetgevers en een voormalige leider van het AI-initiatief van het Ministerie van Defensie uiten hun zorgen over de aanpak van het Pentagon.
“Een schot in de roos voor Anthropic zorgt voor vernietigende krantenkoppen, maar uiteindelijk verliest iedereen”, schreef de gepensioneerde luchtmachtgeneraal Jack Shanahan in een post op sociale media.
Shanahan kreeg tijdens de eerste regering-Trump te maken met een andere golf van tegenstand van technologiewerkers toen hij leiding gaf aan Maven, een project dat AI-technologie gebruikte om dronebeelden te analyseren en wapens te richten. Zoveel Google-werknemers protesteerden tegen hun deelname aan Project Maven op een moment dat de technologiegigant weigerde het contract te verlengen en vervolgens beloofde AI niet in zijn arsenaal te gebruiken.
“Aangezien ik midden in Project Maven en Google zit, is het redelijk om aan te nemen dat ik hier de kant van het Pentagon zal kiezen”, schreef Shanahan donderdag op sociale media. “Ik sympathiseer echter met het standpunt van Anthropic. Meer nog dan met het standpunt van Google anno 2018.”
Hij zei dat Claude al veel wordt gebruikt in de regering, ook in geheime situaties, en dat de rode lijnen van Anthropic ‘logisch zijn’. Hij zei dat de grote AI-taalmodellen die chatbots als Claude aandrijven ook “nog niet klaar zijn voor gebruik in nationale veiligheidssituaties”, vooral voor volledig autonome wapens.
“Ze proberen hier niet grappig te zijn”, schreef hij.
Parnell beweerde donderdag dat het Pentagon ‘antropische modellen voor alle legitieme doeleinden wil gebruiken’ en zei dat het openstellen van het gebruik van de technologie zou voorkomen dat het bedrijf ‘kritieke militaire operaties in gevaar zou brengen’, hoewel noch hij, noch andere functionarissen hebben uiteengezet hoe zij de technologie willen gebruiken.
Het leger “is niet geïnteresseerd in het gebruik van AI om massale surveillance van Amerikaanse burgers uit te voeren (wat illegaal is), noch willen we AI gebruiken om autonome wapens te ontwikkelen die opereren zonder menselijke tussenkomst”, schreef Parnell.
Toen Hegseth en Amodei elkaar dinsdag ontmoetten, waarschuwden militaire functionarissen dat ze Anthropic konden bestempelen als een risico voor de toeleveringsketen, het contract konden opzeggen of zich konden beroepen op een wet uit het Koude Oorlog-tijdperk, de Defense Production Act, om het leger meer autoriteit te geven bij het gebruik van zijn producten, zelfs als het bedrijf het niet goedkeurt.
Amodei zei donderdag dat “deze twee nieuwste bedreigingen fundamenteel tegenstrijdig zijn: de ene noemt ons een veiligheidsrisico, de andere noemt Claude belangrijk voor de nationale veiligheid.” Hij zei dat hij hoopt dat het Pentagon dit zal heroverwegen, gezien de waarde van Claude voor het leger, maar als dat niet het geval is, zal Anthropic “zich inzetten om een soepele overgang naar een andere leverancier mogelijk te maken.”
—-
AP-verslaggever Konstantin Toropin heeft aan dit rapport bijgedragen.
—Matt O’Brien, AP-technologieschrijver
