Dario AmodeiDe CEO van Anthropic zal dinsdag naar het Pentagon gaan voor een ontmoeting met de minister van Defensie Piet Hegseth over hoe het leger bedrijfseigendommen gebruikt kunstmatige intelligentie model. En het zal waarschijnlijk een gespannen bijeenkomst worden, zoals de eerste bron zei axio.
Contractbesprekingen tussen AI-startup en Ministerie van Defensie is de afgelopen weken van het goede spoor geraakt Antropisch heeft verschillende waarborgen benadrukt over de manier waarop zijn technologie zal worden gebruikt. Hoewel het in San Francisco gevestigde bedrijf bereid is enkele beperkingen op het gebruik ervan voor het ministerie van Defensie te versoepelen, wil het niet dat zijn modellen voor ten minste twee specifieke doeleinden worden gebruikt: het bespioneren van Amerikanen of het ontwikkelen van autonome wapens.
Voorafgaand aan de bijeenkomst van dinsdag leken de twee facties verschillende opvattingen te hebben over het verloop van de contractbesprekingen. Terwijl een woordvoerder van Anthropic maandag in een verklaring zei dat het bedrijf een “productief gesprekken, in goed vertrouwen” met het Pentagon, zei een woordvoerder van het Ministerie van Defensie vorige week dat de relatie van Anthropic met het Pentagon werd herzien.
“Anthropic weet dat dit geen kennismakingsbijeenkomst is”, zei een hoge functionaris van het ministerie van Defensie axio. “Dit is geen vriendschappelijke bijeenkomst.”
DE ROL VAN ANTROPIE IN NATIONALE VEILIGHEID
Anthropic is momenteel het enige AI-bedrijf dat beschikbaar is op het geheime netwerk van het leger, en is een van de vele bekroond met een contract ter waarde van $ 200 miljoen met het ministerie van Defensie in juli om ‘de Amerikaanse nationale veiligheid te bevorderen’.
Het bedrijf heeft herhaaldelijk zijn inzet voor het ondersteunen van de nationale veiligheid bevestigd, ook op maandag. In juni werd het bekend Claude Gouverneureen reeks modellen die speciaal zijn gemaakt voor Amerikaanse nationale veiligheidsklanten.
Amodei heeft zich echter uitgesproken over het balanceren van de kansen die AI biedt en de zorgen die het met zich meebrengt. In een lange snit Vorige maand gepubliceerd waarschuwde de medeoprichter van Anthropic: “De mensheid zal een bijna onvoorstelbare macht krijgen, en het blijft onduidelijk of onze sociale, politieke en technologische systemen de volwassenheid hebben om die macht uit te oefenen.”
Tijdens de India AI Impact Summit van vorige week zei Amodei dat hij zich zorgen maakte over het autonome gedrag van AI-systemen en het potentieel voor misbruik van AI door individuen en overheden.
DE MADURO-FACTOR
Een andere factor die de betrekkingen tussen Anthropic en het Pentagon verslechterde werd vorige week onthuld: Claude werd begin dit jaar gebruikt in de Amerikaanse militaire operatie om de voormalige Venezolaanse president Nicolás Maduro te arresteren. Wall Street Journal gemeld. De missie lijkt in strijd te zijn met de gebruiksrichtlijnen van Anthropic, die onder meer het gebruik van Claude verbieden om aan te zetten tot geweld of voor strafrecht en toezicht.
Bedrijf gebruiksbeleiddie voor het laatst werd bijgewerkt in september, is bedoeld om “een optimaal evenwicht te vinden tussen het mogelijk maken van nuttig gebruik en het beperken van potentiële schade.”
Maar Anthropic merkt ook op dat het bedrijf “contracten kan sluiten met bepaalde overheidsklanten die gebruiksbeperkingen afstemmen op de publieke missies en wettelijke autoriteiten van die klanten, als, naar het oordeel van Anthropic, de gebruiksbeperkingen en toepasselijke waarborgen van het contract voldoende zijn om de potentiële schade te beperken.”
BEER ZUIGEN
Anthropic heeft geprobeerd zich te onderscheiden van andere AI-ontwikkelaars met een ‘veiligheid eerst’-aanpak die er zelfs stoer uitziet. via een Super Bowl-commercialover het recente besluit van OpenAI om advertenties op te nemen in het ChatGPT-platform.
Hoewel Amodei soms tegendraads lijkt, steekt hij, door het onbeperkte gebruik van Claude’s AI-model voor het Amerikaanse leger af te wijzen, effectief de beer aan die Hegseth is.
Als axio Vorige week werd gemeld dat Hegseth had gedreigd dat het Pentagon Anthropic zou kunnen bestempelen als een ‘toeleveringsketenrisico’, waardoor het contract ongeldig zou worden verklaard en andere bedrijven die met het Pentagon samenwerken, zouden worden gedwongen te verklaren dat ze Claude niet gebruiken in gerelateerde workflows.
“Ons land vereist dat onze partners bereid zijn onze oorlogsstrijders te helpen winnen in welke strijd dan ook”, zei Pentagon-woordvoerder Sean Parnell vorige week tegen de media. “Uiteindelijk gaat dit over onze troepen en de veiligheid van het Amerikaanse volk.”
