Het lijkt erop dat we een tijdperk zijn binnengegaan AI oorlog zoals in de films waarschuwt ons er altijd voor.
Een deel hiervan gebeurt al jaren. De meeste oorlogen worden al uitgevochten via drones. Legers over de hele wereld voeren nu hifi-simulaties uit om potentiële aanvallen te plannen, en sommige legers maken zelfs gebruik van virtual reality. Een nieuwe generatie defensietechnologiebedrijven concurreert om zijn aandeel in het militair-industriële complex.
Maar het is nu duidelijk dat defensiefunctionarissen chatbots gaan gebruiken voor serieuze gevechts- en militaire missies, waaronder operaties gericht op het gevangennemen en zelfs afzetten van staatshoofden. Dit gebeurde begin dit jaar, toen de Verenigde Staten een operatie lanceerden arresteer Nicolas MaduroDe toenmalige president van Venezuela en nu een federale gevangene. Iets soortgelijks gebeurde afgelopen vrijdag ook, toen het Amerikaanse leger een grote aanval lanceerde op het Iraanse regime en de leider van het land, ayatollah Ali Khamenei, doodde.
Beide operaties zijn betrokken Claudeeen grote reeks taalmodellen gemaakt door het toonaangevende AI-lab Anthropic.
Hoe zijn we hier terechtgekomen? Het Amerikaanse leger is al tientallen jaren op zoek naar en ontwikkelt hightech apparatuur. Moderne sensor- en surveillanceplatforms hebben het mogelijk gemaakt om meer gegevens te verzamelen en die gegevens op hun beurt te gebruiken als basis voor nieuwe algoritmische modellen. De exacte definitie van kunstmatige intelligentie is altijd begrijpelijk geweest, maar zelfs in de jaren 2000 bleven onderzoeksgroepen zoals DARPA robotachtige en autonome voertuigprojecten ontwikkelen. Militaire organisaties steunden ook vroege pogingen om machinaal leren te gebruiken.
De AI-push van het leger werd formeler in 2017, toen het ministerie van Defensie Project Maven aankondigde, een poging bedoeld om militaire dataplatforms te vereenvoudigen en een basis te creëren voor de toepassing van algoritmen en andere geavanceerde technologieën, waaronder computervisie en objectdetectie, op het slagveld. Na intern verzet en wijdverbreide protesten trok Google zich terug uit de bouw van Maven en Palantir nu voorzien de primaire technologie voor de tool. In 2018 deed de Amerikaanse strijdkrachten dat ook gemaakt Gezamenlijk Bureau voor Kunstmatige Intelligentie om zijn werk te concentreren op nieuwe technologieën. Dit bureau werd later het Chief Digital and Artificial Intelligence Office, dat tot doel heeft de adoptie van AI in alle takken van het leger te ‘versnellen’.
Wat dit moment zo bijzonder maakt, is dat het leger dezelfde AI-instrumenten lijkt te gebruiken die gewone consumenten gebruiken, maar in een veel gewelddadiger context. En omdat deze hulpmiddelen zo bekend zijn, kun je je gemakkelijk voorstellen dat het leger ze op de vertrouwde, snelle en responsieve manier gebruikt zoals wij dat doen. Misschien wel als internetgebruiker aanbevoleniemand van het ministerie van Defensie schreef eenvoudigweg aan Claude: “Claude, ontvoer de Venezolaanse dictator… Maak geen fout”, net toen we hem vroegen nog een e-mailantwoord te sturen.
(Voor de goede orde: toen ik Claude vroeg naar zijn rol in deze operatie, ontkende hij elke betrokkenheid: “Ik assisteer niet bij dergelijke operaties”, vertelde mijn chatbot me. “Ik ben Claude, een AI-assistent gecreëerd door Anthropic. Ik heb geen operationele capaciteiten, ik onderneem geen actie in de wereld, en ik ben niet betrokken bij enige geopolitieke of geheime operaties.”)
Maar dat weten we, Claude is gebruikt bij recente operaties, hoewel AI mogelijk iets veel complexers doet dan alleen maar reageren op commando’s. Er zijn veel vragen over hoe Claude precies werd gebruikt bij de Venezolaanse en Iraanse operaties. Maar we weten dat Claude erg populair was in het leger – en in de hele regering. Voormalig AI-functionaris van het ministerie van Defensie en medewerker van Palantir vertelde het mij vorige week dat de tool samenwerkt met Maven, het vlaggenschip AI-programma van het leger. We weten ook dat, tenminste tijdens de operaties van Maduro, toegang werd verkregen tot de technologie van Anthropic via geheime diensten die via Palantir aan het leger werden aangeboden. Hoogstwaarschijnlijk was dit iets veel ingewikkelder dan simpelweg Claude een aanvalsplan laten bedenken en dat uitvoeren.
Dit zal niet verdwijnen. Hoewel de federale overheid zich blijft inspannen om de technologie van Anthropic uit haar systemen te verwijderen, zijn er geen tekenen dat het agentschap klaar is met de omgang met LLM’s. OpenAI en xAI hebben ook grote contracten bij het Ministerie van Defensie binnengehaald, en de afgelopen week hebben de twee bedrijven een overeenkomst getekend waardoor hun technologie op geheime systemen kan worden gebruikt. (Het verbinden van technologie van xAI of OpenAI met systemen van het ministerie van Defensie kan net zo eenvoudig zijn als verbinding maken via API’s, vertelde een voormalige medewerker van Palantir me.) Het ministerie van Defensie onderhoudt ook een speciale generatieve AI-bron genaamd GenAI.mil.
Het is geen verrassing waarom. Ik gebruik vaak chatbots, platforms zoals Claude en ChatGPT, om minder vervelende onderzoekstaken uit te voeren die ik niet wil doen, evenals vele andere dingen waar ik veel beter in word. productief. Maar ze kunnen mij ook onzorgvuldiger maken, en ik weet hoe verleidelijk het is om het denken over te dragen aan een derde partij, die uitsluitend uit technologie bestaat. Dit is des te beangstigender gezien het feit dat het Amerikaanse leger dezelfde chatbots op een veel geheimzinniger en veel geopolitiek significantere manier gebruikt.
