NIEUWJe kunt nu naar Fox News-artikelen luisteren!
EERST OP FOX: Toen Washington de exportcontroles aanscherpte om Amerikaanse producten te behouden kunstmatige intelligentie Edge zei het toonaangevende AI-bedrijf Anthropic dat drie in China gevestigde AI-laboratoria een andere manier hebben gevonden om toegang te krijgen tot geavanceerde Amerikaanse mogelijkheden.
Het Amerikaanse bedrijf beschuldigde DeepSeek, Moonshot AI en MiniMax ervan ongeveer 24.000 nepaccounts te gebruiken om meer dan 16 miljoen uitwisselingen met chatbot Claude Anthropic te genereren in een gecoördineerde ‘distillatie’-campagne die was ontworpen om hoogwaardige modeluitvoer te extraheren, volgens het rapport dat voor het eerst werd verkregen door Fox News Digital.
Volgens het rapport gaat de dreiging verder dan het oplichten van Amerikaanse bedrijven. Anthropic stelt dat het onwaarschijnlijk is dat modellen die door middel van grootschalige destillatie zijn gebouwd, de veiligheidsbeperkingen zullen handhaven die in het Amerikaanse grenssysteem zijn ingebed.
“Buitenlandse laboratoria die Amerikaanse modellen verfijnen, kunnen deze onbeschermde capaciteiten vervolgens integreren in militaire, inlichtingen- en surveillancesystemen, waardoor autoritaire regeringen geavanceerde AI kunnen gebruiken voor offensieve cyberoperaties, desinformatiecampagnes en massale surveillance”, aldus Anthropic.
Het Amerikaanse leger heeft naar verluidt Claude, de AI-tool van Anthropic, gebruikt tijdens de operatie waarbij de Venezolaanse leider Nicolás Maduro werd gevangengenomen. (Kurt “CyberGuy” Knutsson)
Anthropic zei dat het de campagne identificeerde met behulp van IP-adrescorrelatie, metagegevens opvragen en infrastructuurindicatoren die aanzienlijk verschilden van normaal klantverkeer. De activiteit concentreerde zich volgens het bedrijf op de meest geavanceerde capaciteiten van Claude – waaronder complex redeneren, coderen en gereedschapsgebruik – in plaats van op de typische consumentenvraag.
“Wij zijn er sterk van overtuigd dat deze laboratoria op grote schaal destillatieaanvallen uitvoeren”, vertelde Jacob Klein, hoofd van de dreigingsinformatie van Anthropic, aan Fox News Digital.
Distillatie is een veelgebruikte AI-trainingstechniek waarbij kleinere of minder capabele modellen worden getraind om krachtigere modeluitvoer te produceren.
Frontier Laboratories gebruikt het vaak intern om goedkopere versies van hun eigen systemen te maken. Maar Anthropic zei dat de ontdekte campagne onwettig was en bedoeld was om jaren van onderzoek te kortsluiten en het leren te versterken.
Volgens Klein zijn er tussen de drie operaties ruim 16 miljoen uitwisselingen gegenereerd over perioden variërend van weken tot maanden. Anthropic kwam tussenbeide na het detecteren van de activiteit, hoewel het erkende dat er bredere uitdagingen aan de gang waren.
“Er is geen wondermiddel dat dit allemaal kan stoppen”, zei Klein. “Wij zien dit als groter dan Anthropic.”
Hoewel het bedrijf niet precies kon meten hoeveel de Chinese laboratoria hun systemen verbeterden, zei Klein dat de upgrade ‘zinvol’ en ‘substantieel’ was.
“Wat we met vertrouwen kunnen zeggen is dat ze ons op grote schaal distilleren”, zei hij.
Het rapport roept nieuwe vragen op over de effectiviteit van de huidige Amerikaanse exportcontroles, die grotendeels gericht zijn op het beperken van de toegang van China tot geavanceerde AI-chips en de directe overdracht van modelgewichten.
Klein stelt dat verfijning zich richt op een andere laag van concurrentievoordeel: een versterkend leerproces dat grensverleggende modellen verfijnt en aanscherpt nadat ze zijn getraind.
“Als je nadenkt over hoe je voorop blijft lopen in de AI-race, is computergebruik daar een onderdeel van”, aldus Klein. “Maar versterkend leren wordt steeds belangrijker. Met destillatie kun je die capaciteiten extraheren.”
China beschuldigd van het stelen van Amerikaanse AI-technologie. (Kritsapong Jieantaratip via Getty Images)
Hij benadrukte dat geavanceerde chips nog steeds ‘erg belangrijk’ zijn, maar zei dat beleidsmakers ‘holistisch’ over de kwestie moeten nadenken.
Anthropic zei dat het zijn bevindingen heeft gedeeld met Amerikaanse overheidsinstanties en relevante industriële partners. Klein suggereerde dat het publiekelijk benoemen van het laboratorium ‘doordachte overheidsactie’ of op zijn minst betrokkenheid bij de betrokken bedrijven zou kunnen aanmoedigen.
Tegelijkertijd zei het bedrijf dat het geen bewijs had dat de Chinese regering de campagne rechtstreeks coördineerde. Maar proxydiensten die worden gebruikt om toegang tot AI-modellen aan de Amerikaanse grens door te verkopen, opereren openlijk in China.
Washington heeft geprobeerd de Chinese AI-vooruitgang te vertragen door de toegang te beperken tot de meest geavanceerde computerchips die worden gebruikt om krachtige systemen te trainen. Maar Anthropic stelt dat zelfs zonder directe toegang tot de chip buitenlandse laboratoria nog steeds delen van de intelligentie van het model zouden kunnen kopiëren door er herhaaldelijk naar te vragen en hun eigen systemen te trainen om het antwoord te krijgen.
Anthropic stond de afgelopen weken in de schijnwerpers vanwege berichten over spanningen met het Pentagon over de manier waarop zijn AI-modellen zouden kunnen worden gebruikt bij militaire operaties. Minister van Oorlog Pete Hegseth had een ontmoeting met CEO Dario Amodei om de voorwaarden voor Claude’s militaire gebruik te bespreken. (iStock)
Op 12 februari stuurde OpenAI een memo naar de House Select Committee van de Chinese Communistische Partij, waarin hij beweerde dat de Chinese AI-startup DeepSeek systematisch zijn intellectuele eigendom ‘stelde’ door middel van grootschalige distillatie. Volgens OpenAI gebruikten medewerkers van DeepSeek routers en maskeringstechnieken van derden om geografische toegangsbeperkingen te omzeilen en de oogst uit te voeren uitvoer van ChatGPT.
KLIK HIER OM DE FOX NEWS-APP TE DOWNLOADEN
Op dezelfde dag, Google Threat Intelligence-groep waarschuwde voor wat het omschreef als een ‘distillatieaanval’ gericht op Gemini-modellen. Google zei dat het een campagne had waargenomen waarbij meer dan 100.000 commando’s werden gebruikt om het redeneervermogen van Gemini na te bootsen. Het bedrijf schreef de activiteit toe aan “bedrijven uit de particuliere sector” en aan staatsgebonden actoren.
Alles bij elkaar laten de rapporten zien dat raffinage een groeiende hotspot is geworden in de AI-concurrentie tussen de VS en China, wat vragen oproept over hoe de leidende systemen van Amerika kunnen worden beschermd, ook al is de directe overdracht van het gewicht van geavanceerde modellen en chips beperkt.
Anthropic stond de afgelopen weken in de schijnwerpers vanwege berichten over spanningen met het Pentagon over de manier waarop zijn AI-modellen zouden kunnen worden gebruikt bij militaire operaties. Minister van Oorlog Pete Hegseth had een ontmoeting met CEO Dario Amodei om de voorwaarden voor Claude’s militaire gebruik te bespreken. Regeringsfunctionarissen zeiden dat Anthropic vragen opriep over de rol van het model in de Amerikaanse operatie tegen de Venezolaanse leider Nicolás Maduro, en verklaarde dat het bedrijf niet zou instemmen met het gebruik van zijn producten, terwijl Anthropic volhield dat de meningsverschillen betrekking hadden op massasurveillance en volledig autonome wapens.
