Op een nieuwe plek Bedreigingstrackerrapport Donderdag gepubliceerd, zei Google dat de hackers zich bezighielden met ‘distillatieaanvallen’, waaronder één geval waarin ze meer dan 100.000 AI-opdrachten gebruikten om de technologie van het bedrijf voor zijn Gemini AI-model te stelen.
Google zei dat de aanvallen uit andere landen leken te komen, waaronder Noord-Korea, Rusland en China, en dat pogingen om AI-intellectueel eigendom te stelen en dit mogelijk in AI-modellen in andere talen te klonen deel uitmaakten van een bredere reeks AI-gebaseerde aanvallen en malware die het bedrijf had gezien.
Het bedrijf identificeerde deze inspanning als een aanval op modelextractie, die volgens het bedrijf “komt voor wanneer een tegenstander geautoriseerde toegang gebruikt om systematisch een volwassen machine learning-model te onderzoeken om informatie te extraheren die wordt gebruikt om een nieuw model te trainen.”
Dit zou kunnen betekenen dat AI wordt gebruikt om Gemini te overspoelen met duizenden opdrachten om de mogelijkheden van zijn modellen te repliceren. Google merkt in zijn rapport op dat dit geen bedreiging is voor zijn gebruikers, maar eerder voor dienstverleners en modelmakers, die kwetsbaar zijn voor diefstal en replicatie van hun werk.
AI-concurrentie en AI-diefstal
John Hultquist, hoofdanalist bij de Google Threat Intelligence Group, die het rapport heeft samengesteld, vertelde NBC News Hoewel Google misschien wel een van de eerste bedrijven is die met dit soort pogingen tot diefstal wordt geconfronteerd, kunnen er nog veel meer zijn. “Wij zullen de kanarie in de kolenmijn zijn als er meer incidenten plaatsvinden”, zei hij.
De oorlog om AI-modellen is op verschillende fronten geëscaleerd, waarvan de meest recente Chinese bedrijven zoals ByteDance zijn die geavanceerde AI-modellen introduceren hulpmiddel voor het maken van video’s. Vorig jaar deed het Chinese AI-bedrijf DeepSeek de AI-industrie opschuddengrotendeels geleid door Amerikaanse bedrijven, die modellen introduceren die kunnen wedijveren met de toonaangevende AI-technologieën ter wereld. Open AI vervolgens beschuldigd DeepSeek trainde zijn AI op bestaande technologie op een vergelijkbare manier als beschreven door Google in zijn nieuwe rapport.
(Openbaarmaking: Ziff Davis, het moederbedrijf van CNET, spande in 2025 een rechtszaak aan tegen OpenAI en beschuldigde OpenAI ervan inbreuk te maken op de auteursrechten van Ziff Davis op het gebied van de training en werking van zijn AI-systemen.)
