Opkomst AI-hacktools hebben het schept angst voor de nabije toekomst waar iedereen geautomatiseerde tools kan gebruiken om exploiteerbare kwetsbaarheden op te sporen welke software dan ookals een soort digitale inbraak-supermacht. Tegenwoordig lijkt AI echter een meer alledaagse, maar nog steeds zorgwekkende rol te spelen in de toolkit van hackers: het helpt middelmatige hackers om een hoger niveau te bereiken en wijdverbreide en effectieve malwarecampagnes uit te voeren. Dit omvat een groep relatief ongeschoolde Noord-Koreaanse cybercriminelen waarvan werd vastgesteld dat ze AI gebruikten om bijna elk onderdeel van de operatie uit te voeren waarbij duizenden slachtoffers werden gehackt om hun cryptocurrency te stelen.
Woensdag zei cybersecuritybedrijf Expel onthuld wat het omschreef als een door de Noord-Koreaanse staat gesponsorde cybercriminaliteitsoperatie die malware voor het stelen van inloggegevens op meer dan 2.000 computers installeerde, specifiek gericht op de machines van ontwikkelaars die werkten aan kleinschalige lanceringen van cryptocurrency, NFT-creatie en Web3-projecten. Met behulp van AI-tools van in de VS gevestigde bedrijven, waaronder OpenAI, Cursor en Anima, kan de hackgroep – die door Expel HexagonalRodent wordt genoemd –”trillingscodeBijna elk onderdeel van zijn inbraakcampagne, van het schrijven van malware tot het bouwen van nep-bedrijfswebsites die worden gebruikt in zijn phishing-programma’s. Dankzij de AI-aangedreven hack kon de groep in drie maanden tijd voor 12 miljoen dollar aan cryptocurrency van zijn slachtoffers stelen.
Het meest opvallende aan de hackcampagne van HexagonalRodent is niet de verfijning ervan, zegt Marcus Hutchins, de beveiligingsonderzoeker die de groep ontdekte, maar eerder hoe de AI-tools de ogenschijnlijk ongekunstelde groep in staat stelden winstgevende diefstallen uit te voeren namens de Noord-Koreaanse staat.
“Deze operators hebben niet de vaardigheden om code te schrijven. Ze hebben niet de vaardigheden om infrastructuur op te zetten. AI stelt hen in feite in staat dingen te doen die ze anders niet zouden kunnen doen”, zegt Hutchins, die later bekendheid verwierf in de cybersecurity-gemeenschap. schakelt de WannaCry-ransomwareworm uit gemaakt door Noord-Koreaanse hackers.
AI geschreven code en bezaaid met emoji’s
De hackoperatie van HexagonalRodent was gericht op het oplichten van crypto-ontwikkelaars valse vacatures in technologiebedrijven, en zelfs complete websites maken voor nepbedrijven die slachtoffers rekruteren, vaak gemaakt met AI-webontwerptools. Ten slotte krijgen de slachtoffers te horen dat ze als test een coderingstaak moeten downloaden en voltooien, waarbij hackers malware hebben geïnfecteerd die hun machines infiltreert en inloggegevens steelt, inclusief degene die in sommige gevallen toegang kunnen geven tot de sleutels die hun crypto-portemonnees beheren.
Delen van de hackoperatie leken goed ontwikkeld en effectief, maar de hackers waren ook onhandig genoeg om delen van hun infrastructuur onbeveiligd te laten, waardoor de commando’s lekten die ze gebruikten om malware te schrijven met tools als ChatGPT en OpenAI’s Cursor. Ze onthulden ook een database waarin ze de portefeuilles van slachtoffers volgden, waardoor Expel de totale hoeveelheid cryptocurrency kon schatten die de hackers mogelijk hadden gestolen. (Hoewel de totale inhoud van die portemonnees $12 miljoen bedroeg, zei Hutchins dat het bedrijf niet voor elk doelwit kon bevestigen of het volledige bedrag uit de portemonnees was gehaald of dat hackers in sommige gevallen nog steeds de sleutels van de portemonnees van de slachtoffers moesten bemachtigen, aangezien sommige mogelijk zijn beschermd met hardwarebeveiligingstokens.)
Hutchins analyseerde ook monsters van de malware van de hackers en vond andere aanwijzingen dat de malware grotendeels (misschien volledig) met AI was gegenereerd. Het was volledig uitgerust met commentaar – in het Engels – wat geen typische Noord-Koreaanse codeergewoonte is, ondanks het feit dat sommige command-and-control-servers voor de malware deze koppelden aan bekende Noord-Koreaanse hackoperaties. De malwarecode is ook bezaaid met emoji’s, wat volgens Hutchins in sommige gevallen een aanwijzing kan zijn dat de software is geschreven met een groot taalmodel in gedachten, aangezien programmeurs die op pc-toetsenborden schrijven in plaats van op telefoons, zelden de tijd nemen om emoji’s op te nemen. “Dit is een teken van door AI geschreven code die goed gedocumenteerd is”, aldus Hutchins.
