Vlad Ionescu en Ariel Herbert-Voss, mede-oprichter cyberbeveiliging stomp RunSybileven in de war toen ze AI De tool Sybil waarschuwde hen afgelopen november voor een zwakte in het systeem van een klant.
Sybil gebruikt een mix van verschillende AI’s model– en ook enkele bedrijfseigen technische trucs – om computersystemen te scannen op problemen waar hackers misbruik van kunnen maken, zoals niet-gepatchte servers of verkeerd geconfigureerde databases.
In dit geval is Sybil gemarkeerd een probleem met de gecombineerde implementatie door de klant van GraphQL, de taal die wordt gebruikt om te bepalen hoe gegevens via internet toegankelijk zijn via application programming interfaces (API’s). Dit probleem houdt in dat de klant per ongeluk vertrouwelijke informatie openbaar heeft gemaakt.
Wat Ionescu en Herbert-Voss in verwarring bracht, was dat het opsporen van dit probleem diepgaande kennis vereiste van verschillende systemen en hoe ze op elkaar inwerken. RunSybil zei dat ze hetzelfde probleem hadden ontdekt met andere GraphQL-implementaties – voordat iemand anders het had gepubliceerd. “We hebben het internet afgespeurd, maar het was er niet”, zei Herbert-Voss. “Het vinden hiervan was een redelijke stap in termen van de mogelijkheden van het model – een stapsgewijze verandering.”
Deze situatie vormt een groeiend risico. Naarmate AI-modellen geavanceerder worden, wordt hun vermogen om zero-day bugs en andere kwetsbaarheden te vinden steeds beter. Dezelfde intelligentie die kan worden gebruikt om kwetsbaarheden te detecteren, kan ook worden gebruikt om deze te exploiteren.
DageraadsliedEen computerwetenschapper aan UC Berkeley die gespecialiseerd is in AI en beveiliging, zei dat recente ontwikkelingen op het gebied van AI hebben geleid tot modellen die beter zijn in het vinden van zwakke punten. Simulatieredenen, waarbij een probleem in delen wordt opgedeeld, en AI van agenten, zoals surfen op het web of het installeren en uitvoeren van software, hebben de cybermogelijkheden van modellen verbeterd.
“De cyberbeveiligingscapaciteiten van het grensmodel zijn de afgelopen maanden drastisch verbeterd”, zei hij. “Dit is een keerpunt.”
Vorig jaar creëerde Song een benchmark genaamd CyberGym om te bepalen hoe goed grote taalmodellen kwetsbaarheden vinden in grote open source softwareprojecten. CyberGym bevat 1.507 bekende kwetsbaarheden gevonden in 188 projecten.
In juli 2025 kon Claude Sonnet 4 van Anthropic ongeveer 20 procent van de kwetsbaarheden in benchmarks vinden. In oktober 2025 kon een nieuw model, Claude Sonnet 4.5, 30 procent identificeren. “AI-agenten kunnen zero-days vinden, en tegen zeer lage kosten”, aldus Song.
Song zei dat deze trend de noodzaak aantoont van nieuwe tegenmaatregelen, waaronder het vragen van cybersecurity-experts om AI-hulp. “We moeten nadenken over hoe AI nuttiger kan zijn in de defensiesector, en we kunnen verschillende benaderingen verkennen”, zei hij.
Eén idee is dat toonaangevende AI-bedrijven vóór de lancering modellen delen met beveiligingsonderzoekers, zodat zij de modellen kunnen gebruiken om bugs te vinden en systemen te beveiligen voordat ze algemeen worden vrijgegeven.
Een andere tegenmaatregel, zei Song, is om opnieuw na te denken over de manier waarop software wordt gebouwd. Zijn laboratorium heeft aangetoond dat AI kan worden gebruikt om veiliger code te produceren dan de meeste programmeurs tegenwoordig gebruiken. “Op de lange termijn denken we dat deze veilig ontworpen aanpak mensenrechtenverdedigers enorm zal helpen”, aldus Song.
Het RunSybil-team zegt dat de codeervaardigheden van AI-modellen in de nabije toekomst hackers de overhand kunnen geven. “AI kan acties op een computer genereren en code genereren, en dat zijn twee dingen die hackers doen”, zegt Herbert-Voss. “Als die mogelijkheden toenemen, zullen ook de offensieve veiligheidsmaatregelen toenemen.”
Dit is een editie Wil Ridder AI Lab-nieuwsbrief. Lees eerdere bulletins Hier.
