Antropisch kan niet manipuleren zijn generatieve AI-model, Claude, nadat het Amerikaanse leger het had uitgevoerd, schreef een leidinggevende vrijdag in een rechtszaak. De verklaring kwam als reactie op de aantijgingen van de regering-Trump aan het adres van het bedrijf mogelijk schade aan zijn AI-instrumenten tijdens de oorlog.
“Anthropic heeft nooit de mogelijkheid gehad om Claude te laten stoppen met werken, zijn functie te veranderen, de toegang af te sluiten of anderszins militaire operaties te beïnvloeden of te schaden”, zegt Thiyagu Ramasamy, hoofd van de publieke sector van Anthropic. schrijven. “Anthropic had niet de noodzakelijke toegang om de technologie uit te schakelen of het gedrag van het model voor of tijdens de operatie te veranderen.”
Het Pentagon is al maanden aan het sparren met toonaangevende AI-laboratoria over de vraag hoe zijn technologie kan worden gebruikt voor de nationale veiligheid – en wat de grenzen zijn van het gebruik ervan. Deze maand bestempelde minister van Defensie Pete Hegseth Antropisch als een risico’s voor de toeleveringsketeneen aanduiding die het ministerie van Defensie gedurende enkele maanden zou beletten de software van het bedrijf te gebruiken, ook via aannemers. Andere federale agentschappen negeerden Claude ook.
Antropisch heeft twee rechtszaken aangespannen betwist de grondwettigheid van het verbod en verzoekt om een noodbevel om het ongedaan te maken. Klanten zijn echter al begonnen annuleer de overeenkomst. Een hoorzitting in een van de zaken is gepland op 24 maart bij de federale rechtbank in San Francisco. De rechter kan kort daarna beslissen over een tijdelijke terugneming.
In een dossier eerder deze week schreven overheidsjuristen dat het ministerie van Defensie “niet verplicht is het risico te tolereren dat kritieke militaire systemen soms worden bedreigd die cruciaal zijn voor de nationale defensie en actieve militaire operaties.”
Het Pentagon heeft Claude gebruikt om gegevens te analyseren, memo’s te schrijven en te helpen bij het opstellen van gevechtsplannen, WIRED gemeld. Het argument van de regering is dat Anthropic actieve militaire operaties zou kunnen verstoren door de toegang tot Claude uit te schakelen of kwaadaardige updates te pushen als het bedrijf bepaald gebruik niet goedkeurt.
Ramasamy verwierp die mogelijkheid. “Anthropic heeft geen achterdeur of ‘kill switch’ op afstand”, schreef hij. “Antropisch personeel kan bijvoorbeeld niet inloggen op het DoW-systeem om tijdens operaties modellen aan te passen of uit te schakelen; zo werkt de technologie niet.”
Hij vervolgde met te zeggen dat Anthropic alleen updates zou kunnen leveren met goedkeuring van de overheid en haar cloudprovider, in dit geval Amazon Web Services, hoewel hij deze niet specifiek noemde. Ramasamy voegde eraan toe dat Anthropic geen toegang heeft tot aanwijzingen of andere gegevens die militaire gebruikers in Claude invoeren.
Antropische leidinggevenden verklaarden in rechtszaken dat het bedrijf geen veto wil uitspreken over militaire tactische beslissingen. Sarah Heck, hoofd beleid, schrijven in een rechtbankaanvraag vrijdag zei Anthropic bereid was zoveel te garanderen in het voorgestelde contract op 4 maart. “Voor alle duidelijkheid: (Anthropic) begrijpt dat deze licentie geen enkel recht verleent of biedt op controle of vetorecht over de legitieme operationele besluitvorming van het Ministerie van Oorlog”, aldus het voorstel, volgens de indiening, die verwijst naar een alternatieve naam voor het Pentagon.
Het bedrijf is ook bereid een verklaring te ontvangen die tegemoetkomt aan de zorgen over het gebruik van Claude om dodelijke aanvallen uit te voeren zonder menselijk toezicht, beweert Heck. Maar de onderhandelingen mislukten uiteindelijk.
Voorlopig het ministerie van Defensie heeft gezegd in een rechtszaak stelde ze dat ze “extra stappen hebben ondernomen om de risico’s van de toeleveringsketen te beperken” die het bedrijf met zich meebrengt door “samen te werken met externe cloudserviceproviders om ervoor te zorgen dat het leiderschap van Anthropic geen eenzijdige wijzigingen kan aanbrengen” in de huidige systemen van Claude.
