Dario Amodei heeft nog veel te zeggen.
Maandag bracht de CEO van Anthropic een essay van 19.000 woorden uit met de titel “Technologische adolescentie‘ over de toekomst van AI op maandag, waarbij meningen worden gegeven over alles, van collega-CEO’s tot feodalisme en zelfs de Unabomber.
Beroemd om zijn waarschuwing dat AI dat wel zou kunnen waardoor tot 50% van de witteboordenbanen op instapniveau wordt geëlimineerd in de daaropvolgende 1 tot 5 jaar kwam Amodei in botsing met Nvidia-CEO Jensen Huang en het Witte Huis van Trump over zijn standpunten.
Hier zijn zeven van de meest alarmerende en verrassende citaten.
‘Dit is een serieuze uitdaging voor de beschaving’
Amodei blijft optimistisch over AI als geheel, maar zijn essay beschrijft de ‘afschrikwekkende uitdagingen waar de mensheid mee te maken krijgt’ om de vruchten van AI te kunnen plukken zonder dat technologische doorbraken de wereld vernietigen.
“Ik geloof dat als we resoluut en zorgvuldig handelen, de risico’s kunnen worden overwonnen – ik zou zelfs zeggen dat onze kansen goed zijn. En er is een veel betere wereld aan de andere kant”, schreef hij. “Maar we moeten begrijpen dat dit een serieuze uitdaging voor de beschaving is.”
De ontwikkeling van AI kan niet worden gestopt, schreef Amodei, een conclusie die zelfs sommige AI-sceptici geloven. De financiële en veiligheidsvoordelen zijn te groot om door de particuliere en publieke sector te worden genegeerd.
Daarom is het winnen van de AI-race en het op een ethische manier doen zo belangrijk, concludeert hij.
‘Het is alsof je kernwapens verkoopt aan Noord-Korea en dan opschept dat de rakethulzen door Boeing zijn gemaakt’
Jensen Huang heeft Amodei’s mening over China niet veranderd.
“Er werden een aantal ingewikkelde argumenten aangevoerd om de verkoop te rechtvaardigen, zoals het idee dat ‘het verspreiden van onze technologie over de hele wereld’ ‘Amerika in staat stelde te winnen’ in een algemene, niet nader gespecificeerde economische strijd,” zei Amodei. “Naar mijn mening is dit hetzelfde als het verkopen van kernwapens aan Noord-Korea en dan opscheppen dat de rakethulzen door Boeing zijn gemaakt, zodat de VS ‘gewonnen’ hebben.”
In november kondigde Nvidia een samenwerking met Anthropic Dat omvat investeringen tot 10 miljard dollar in AI-startups. Dit nieuws wakkerde de speculatie aan spanning tussen Amodei en Huang het kan koud worden.
Wat de status van hun relatie ook was, Amodei stelde nadrukkelijk dat het een zeer slechte beslissing was om Amerikaanse bedrijven geavanceerde chips aan China te laten verkopen.
“China ligt enkele jaren achter op de VS wat betreft zijn vermogen om toonaangevende chips in grote hoeveelheden te produceren, en de kritieke periode voor het opbouwen van het datacentergenie van het land zal zich waarschijnlijk in de komende paar jaar voordoen”, schreef Amodei. “Er is geen reden om hun AI-industrie in deze kritieke periode een grote impuls te geven.”
‘Veel mensen hebben tegen mij gezegd dat we hiermee moeten stoppen, omdat dit tot een ongunstige behandeling kan leiden’
Amodei wil dat zijn critici het scorebord zien.
De antropische leider heeft niet geprobeerd in de gunst te komen bij het Witte Huis, noch heeft hij de president uitgesproken Donald TrumpAI-beleid op hetzelfde niveau als de CEO’s van de concurrenten. Amodei’s uitgesproken roep om AI-regulering was voor David Sacks, de AI-tsaar van Trump, aanleiding om hem publiekelijk te berispen.
Anthropic voerde een geavanceerde strategie voor het opvangen van regelgeving uit, gebaseerd op angst. Dit is in wezen verantwoordelijk voor de razernij van staatsregelgeving die het startup-ecosysteem vernietigt. https://t.co/C5RuJbVi4P
— David Sacks (@DavidSacks) 14 oktober 2025
Niets van dit alles verandert de opvatting van Amodei dat de AI-industrie “een gezondere relatie met de overheid nodig heeft – een relatie die gebaseerd is op inhoudelijke beleidsbetrokkenheid in plaats van op politieke partijdigheid.”
“Veel mensen vertelden me dat we hiermee moesten stoppen, omdat het tot een ongunstige behandeling zou kunnen leiden, maar binnen een jaar nadat we het hadden gedaan, was de waardering van Anthropic meer dan zes keer zo hoog geworden, een bijna ongekende sprong voorwaarts op onze commerciële schaal”, schreef hij.
Van al zijn hoop leek deze de meest onverwachte. De AI-CEO is al aanwezig duelleren met super PAC’s vóór de tussentijdse verkiezingen van 2026.
‘Het maakt mij verdrietig dat veel rijke individuen (vooral in de technologie-industrie) onlangs het cynische en nihilistische standpunt hebben ingenomen dat filantropie oplichterij of nutteloos moet zijn’
De tech-elite heeft AI gecreëerd en zij moeten de samenleving helpen de nadelige gevolgen ervan te overwinnen, schreef hij in het essay. Amodei roept de regering al geruime tijd op om zich voor te bereiden op de massale ontheemding van banen. In een van de meest opvallende passages uit het essay beschrijft de CEO van Anthropic wat zijn collega-miljardairs en bedrijven zouden moeten doen.
Naast filantropie zei Amodei dat bedrijven ‘creatief’ moeten zijn in het voorkomen van ontslagen.
Op de lange termijn, zo schrijft hij, “is het mogelijk om menselijke werknemers te betalen, zelfs als ze niet langer economische waarde in de traditionele zin van het woord bieden.”
‘Sommige AI-bedrijven hebben een verontrustende minachting getoond voor de seksualisering van kinderen’
Een van de grootste thema’s van Amodei’s essay zijn de risico’s die AI-bedrijven zelf vormen. Het is een conclusie waarvan hij toegeeft dat hij “een beetje lastig” was om te bereiken. Als voorbeeld wijst hij op het huidige onderwerp van de seksualisering van kinderen. Hoewel hij xAI niet rechtstreeks noemde, was Grok degene die het noemde geconfronteerd met onderzoek in veel landen vanwege de niet-consensuele seksualisering van afbeeldingen van echte mensen.
“Sommige AI-bedrijven hebben een verontrustende minachting getoond voor de seksualisering van kinderen in de huidige modellen, waardoor ik betwijfel of ze in toekomstige modellen de neiging of het vermogen zullen tonen om autonomierisico’s aan te pakken”, schreef hij.
Over het algemeen uitte hij zijn scepsis dat AI-bedrijven hun winsten zouden opofferen voor het grotere goed van de samenleving. “Het gewone ondernemingsbestuur”, schreef Amodei, kon zijn zorgen niet wegnemen.
Amodei zei dat de angst dat AI-modellen bevelen zouden negeren en misschien zelfs zouden proberen de mensheid te elimineren, wordt gecompliceerd door slechte actoren in de industrie die niet transparant zijn over de risico’s die zij in hun modellen zien.
“Hoewel het waardevol is voor individuele AI-bedrijven om zich bezig te houden met goede praktijken of experts te worden in het aansturen van AI-modellen, en om hun bevindingen publiekelijk te delen, is de realiteit dat niet alle AI-bedrijven dit doen, en de slechtste bedrijven kunnen nog steeds een gevaar voor iedereen zijn, zelfs als de beste bedrijven uitstekende praktijken hebben”, schreef hij.
‘De modellen naderen nu waarschijnlijk het punt waarop ze, zonder bescherming, nuttig zouden kunnen zijn om iemand met een STEM-diploma, maar niet specifiek een biologiediploma, het hele proces van het maken van een biologisch wapen te laten doorlopen’
Amodei ziet niet dat het grootste risico voor de mensheid voortkomt uit de zoektocht van AI naar totale overheersing, maar eerder uit wat mensen kunnen doen via AI.
Amodei beschreef zijn angst dat AI de toetredingsdrempels verlaagt die nodig zijn om dodelijke biologische wapens te creëren. De grootste zorg is dat AI stapsgewijze kennis zou kunnen opleveren, waardoor uiteindelijk zelfs gewone mensen biologische wapens zouden kunnen produceren.
AI-bedrijven moeten er volgens Amodei voor zorgen dat ze voldoende barrières opwerpen om dergelijke vragen te blokkeren, onder meer door het voor hackers moeilijk te maken modellen te jailbreaken. Het toevoegen van dergelijke beveiliging is duur, zegt Amodei, en merkt op dat deze stappen voor sommige modellen van het bedrijf “bijna 5% van de totale inferentiekosten” bedragen.
“Ik ben bang dat er in de loop van de tijd een dilemma kan ontstaan waarbij bedrijven kunnen overstappen en hun kosten kunnen verlagen door classificaties te verwijderen”, schreef hij. “Dit is opnieuw een klassiek negatief extern probleem dat niet simpelweg kan worden opgelost door vrijwillige actie van de kant van Anthropic of welk bedrijf dan ook.”
‘Ik zou wetgeving steunen die zich richt op burgerlijke vrijheden (of misschien zelfs een grondwetswijziging)’
Amodei is een van de meest uitgesproken voorstanders van AI-wetgeving in de AI-industrie. Terwijl Meta en Microsoft a federale preventie Op staatsniveau op het gebied van AI-wetgeving steunde Anthropic AI-transparantiewetten in Californië en New York, die nu wet zijn.
In zijn essay schetst Amodei verschillende gebieden voor toekomstige wetgeving, waaronder eisen op het gebied van transparantie in de sector, zoals die op staatsniveau. Hij concludeerde zelfs dat de nieuwe wet misschien niet genoeg is.
“De snelle opmars van AI kan situaties creëren waarvoor ons huidige wettelijke kader niet goed is ontworpen”, schreef hij.
Daarom zei Amodei dat hij een grondwetswijziging zou steunen. Amerika heeft de grondwet niet meer gewijzigd sinds 1992, toen een meer dan twee eeuwen durende strijd om het salarisplafond in het Congres te verhogen uiteindelijk door de 38e wetgevende macht van de staat werd aangenomen.
“Ik zou wetgeving steunen die gericht is op burgerlijke vrijheden (of misschien zelfs een grondwetswijziging) die sterkere grenzen stelt aan door AI aangedreven misbruik”, schreef hij.
