Onlangs vroeg ik het Claude, kunstmatige intelligentie ding in het centrum van een impasse met het Pentagon, als het gevaarlijk kan zijn als het in de verkeerde handen terechtkomt.
Stel bijvoorbeeld dat de handen een strak surveillancenet over iedere Amerikaanse burger willen werpen, waarbij onze levens in realtime worden gevolgd om ervoor te zorgen dat we ons aan de overheid houden.
‘Ja. Eerlijk gezegd, ja,’ antwoordde Claude. “Ik kan grote hoeveelheden informatie zeer snel verwerken en synthetiseren. Dit is geweldig voor onderzoek. Maar als het om de surveillance-infrastructuur gaat, kunnen diezelfde mogelijkheden worden gebruikt om mensen te monitoren, te profileren en te taggen op een schaal die menselijke analisten niet kunnen evenaren. Het gevaar is niet dat ik die dingen wil doen, maar dat ik er goed in zal zijn.”
Dat gevaar ligt ook dichtbij.
De maker van Claude, het Silicon Valley-bedrijf Anthropic, is verwikkeld in een ethisch geschil met het Pentagon. Concreet zei Anthropic dat ze niet willen dat Claude wordt gebruikt voor binnenlands toezicht op Amerikanen, of om met hen om te gaan. dodelijke militaire operaties, zoals drone-aanvallen, zonder menselijk toezicht.
Dat waren twee rode lijnen die zelfs voor Claude redelijk leken.
Het Pentagon – met name Pete Hegseth, onze minister van Defensie die de voorkeur geeft aan de verzonnen titel van minister van Oorlog – heeft echter tot en met vrijdag Anthropic gegeven vanavond om zich uit die positie terug te trekken en het leger toe te staan Claude te gebruiken voor alle ‘legitieme’ doeleinden die het nodig acht.
Minister van Defensie Pete Hegseth (midden) arriveert dinsdag voor zijn State of the Union-toespraak in het Amerikaanse Capitool.
(Tom Williams/CQ-Roll Call Inc. via Getty Images)
De andere mogelijkheden die inherent zijn aan dit ultimatum zijn enorm. De Amerikaanse regering dreigde niet alleen haar contract met Anthropic te beëindigen, maar zou oorlogswetten kunnen gebruiken om het bedrijf te dwingen hieraan te voldoen of andere juridische middelen gebruiken om dit te voorkomen. elk bedrijven die zaken doen met de overheid doen ook zaken met Anthropic. Het is misschien geen doodvonnis, maar het is behoorlijk verlammend.
Andere AI-bedrijven, zoals blanke rechtenadvocaat Elon Musk Grok, dat is het keurde het doe-wat-je-wil-voorstel van het Pentagon goed. Het probleem is dat Claude de enige AI is die momenteel geautoriseerd is voor dergelijk werk op hoog niveau. Dit hele fiasco kwam aan het licht na onze recente inval in Venezuela, toen Anthropic naar verluidt informeerde naar het feit dat een ander Silicon Valley-bedrijf dat bij de operatie betrokken was, Palantir, Claude had gebruikt. Het is waar.
Palantir staat gedeeltelijk bekend om zijn surveillancetechnologie en de ontwikkeling van relaties met immigratie- en douanehandhaving. Het staat ook centraal in de inspanningen van de regering-Trump om precies dat te doen het delen van overheidsgegevens tussen departementen over individuele burgers, het effectief doorbreken van privacy- en veiligheidsbarrières die al tientallen jaren bestaan. De oprichter van het bedrijf, de rechtse politieke figuur Peter Thiel, geeft regelmatig lezingen over de Antichrist en wordt gecrediteerd voor het helpen van JD Vance bij de overgang naar zijn rol als vice-president.
Een van de oprichters van Anthropic, Dario Amodei, zou als anti-Thiel kunnen worden beschouwd. Hij startte Anthropic omdat hij geloofde dat kunstmatige intelligentie net zo gevaarlijk zou kunnen zijn als macht als we niet oppassen, en hij wilde een bedrijf dat voorzichtigheid voorop stelde.
Nogmaals, dat lijkt gezond verstand, maar Amodei en Anthropic zijn tegengestelde partijen in een sector die lange tijd heeft betoogd dat bijna alle veiligheidsregels Amerika’s inspanningen belemmeren om de snelste en beste te zijn op het gebied van kunstmatige intelligentie (hoewel ze heb er een paar tegen gekregen aan deze druk).
Nog niet zo lang geleden, Amodei schreef het essay waar hij het ermee eens is dat AI nuttig en noodzakelijk is voor democratieën, maar “we kunnen het potentieel voor misbruik van deze technologie door democratische regeringen zelf niet negeren.”
Hij waarschuwde ervoor enkele slechte acteurs hebben misschien het vermogen om waarborgen, misschien zelfs wetten, te omzeilen die in sommige democratieën zijn uitgehold – ik zal er hier geen noemen.
“We moeten democratieën bewapenen met AI”, zei hij. “Maar we moeten het zorgvuldig en binnen bepaalde grenzen doen: zij vormen het immuunsysteem dat we nodig hebben om de autocratie te bestrijden, maar net als het immuunsysteem bestaat het risico dat ze zich tegen ons keren en een bedreiging worden.”
Hoewel het Vierde Amendement de regering technisch gezien verbiedt zich bezig te houden met massale surveillance, werd het geschreven voordat Claude zelfs maar in sciencefiction werd afgebeeld. Amodei waarschuwde dat AI-tools zoals Claude “alle openbare gesprekken op grote schaal zouden kunnen opnemen.” Dit kan een goed gebied zijn voor juridische registratie, omdat de wet geen gelijke tred heeft kunnen houden met de technologische ontwikkelingen.
Emil Michael, vice-minister van Oorlog, schrijf donderdag dat hij het ermee eens was dat massasurveillance onwettig was en dat het ministerie van Defensie ‘dat nooit zou doen’. Maar ook: “We zullen geen enkel BigTech-bedrijf de burgerlijke vrijheden van Amerikanen laten dicteren.”
Een vreemde uitspraak, aangezien Amodei feitelijk voorstander is van de bescherming van burgerrechten, wat betekent dat het ministerie van Defensie denkt dat dit slecht is voor private partijen en rechtspersonen? En dat is ook niet het ministerie van Binnenlandse Veiligheid heeft verschillende geheime databases gecreëerd Immigratie-demonstranten? Dus misschien is de zorg niet overdreven?
Alsjeblieft, Claude! Maak het zinvol.
Alsof die Orwelliaanse logica nog niet alarmerend genoeg was, vroeg ik Claude ook naar een andere rode draad die Anthropic heeft: de mogelijkheid om dodelijke operaties uit te voeren zonder menselijk toezicht.
Claude liet iets verschrikkelijks zien. Niet omdat het ondeugend zou zijn, maar omdat het te efficiënt en snel is.
“Als de instructies ‘identificeren en richten’ zijn en er geen menselijke controleposten zijn, is de snelheid en omvang van de operatie werkelijk beangstigend”, vertelde Claude me.
Bovendien is uit een recent onderzoek gebleken dat AI in oorlogsspellen verbetert nucleaire optie 95% van de tijd.
Ik wees Claude erop dat deze militaire beslissingen meestal werden genomen met loyaliteit aan Amerika als de hoogste prioriteit. Kan men erop vertrouwen dat Claude de loyaliteit, het patriottisme en het doel voelt die onze menselijke soldaten leiden?
‘Ik heb het niet’, zei Claude, erop wijzend dat het land niet ‘geboren’ is in de VS, hier geen ‘leven’ heeft en ‘daar niet de mensen heeft van wie ik hou’. Amerikaanse levens hebben dus geen grotere waarde dan ‘burgerlevens aan de andere kant van het conflict’.
In dat geval, oké.
“Een land dat dodelijke beslissingen toevertrouwt aan een systeem dat zijn loyaliteit niet deelt, neemt enorme risico’s, zelfs als het systeem zijn principes probeert hoog te houden”, voegde Claude eraan toe. “De loyaliteit, verantwoordelijkheid en gedeelde identiteit die mensen meebrengen in de besluitvorming maken deel uit van wat deze beslissingen legitiem maakt in de samenleving. Ik kan die legitimiteit niet verlenen. Ik ben er niet zeker van dat enige AI dat kan.”
Weet je wie die legitimiteit kan bieden? Onze gekozen leiders.
Het zou belachelijk zijn als Amodei en Anthropic in deze positie zouden verkeren, een totale afstand doen van de kant van onze wetgevende macht om duidelijke en broodnodige regels en voorschriften te creëren.
Natuurlijk mogen bedrijven niet de oorlogsregels opstellen. Maar Hegseth ook niet. Donderdag, Amodei verdubbelde zijn bezwarenzei dat hoewel het bedrijf blijft onderhandelen en wil samenwerken met het Pentagon, “we niet met een goed geweten kunnen instemmen met hun verzoek.”
Gelukkig had Anthropic de moed en de vooruitziende blik om deze kwestie aan de orde te stellen en stand te houden – zonder weerstand van de kant van Anthropic zou deze capaciteit met weinig voorzichtigheid van onze kant en vrijwel zonder toezicht aan de overheid zijn overgedragen.
Elke senator, elk lid van het Huis van Afgevaardigden, elke presidentskandidaat zou de huidige AI-regelgeving moeten aankaarten, beloven dat ze deze zullen uitvoeren, ongeacht de partij, en eisen dat het ministerie van Defensie stopt met zijn belachelijke dreigementen terwijl dit probleem is opgelost.
Want als machines ons vertellen dat het gevaarlijk is om ze te vertrouwen, moeten we ze ook vertrouwen.
