Hier is een voorproefje van de onthulling eind maart Antropisch heeft ontwikkeld nieuw sterk Claude model, bedrijf formeel aangekondigd Mythos gaf dinsdag een preview samen met nieuws over het industrieconsortium dat het aan het vormen is, bekend als Project Glasswing, om de cyberveiligheidsimplicaties van dit nieuwe model aan te pakken en de mogelijkheden op het gebied van AI in het algemeen te verbeteren.
Deze groep omvat Microsoft, AppelEn Googlen noch Amazon-webservicesLinux Foundation, Cisco, NvidiaBroadcom en meer dan veertig andere technologie-, cyberbeveiligings-, kritieke infrastructuur- en financiële organisaties zullen privétoegang krijgen tot het model, dat nog niet publiekelijk is vrijgegeven. Het idee is gedeeltelijk om ontwikkelaars van ’s werelds onderliggende technologieplatforms de tijd te geven om Mythos Preview op hun eigen systemen in te schakelen, zodat ze de kwetsbaarheden kunnen beperken en de keten kunnen exploiteren die het model ontwikkelt in aanvalssimulaties. Meer in het algemeen benadrukte Anthropic dat het doel van deze inspanning is om een dringend onderzoek te starten naar de manier waarop AI-capaciteiten in de hele sector zich op een omslagpunt bevinden, aldus het bedrijf, in het verbeteren van de huidige softwarebeveiliging en digitale verdedigingspraktijken over de hele wereld.
“De echte boodschap is dat dit niet over het model of antropisch gaat,” vertelde Logan Graham, leider van het leidende rode team van het bedrijf, aan WIRED. “We moeten ons nu voorbereiden op een wereld waarin deze capaciteiten over zes, twaalf, vierentwintig maanden breed beschikbaar zijn. Er zullen veel dingen anders zijn op het gebied van veiligheid. Veel van de aannames waarop we het moderne veiligheidsparadigma hebben gebouwd, kunnen worden vernietigd.”
Het model is ontwikkeld en getraind door meerdere bedrijven steeds beter in staat om kwetsbaarheden in code te vinden verzachting voorstellen-of strategie voor exploitatie. Hierdoor ontstaat de volgende generatie van het klassieke kat-en-muisspel waarin een tool verdedigers kan helpen, maar ook criminelen kan aanwakkeren en het gemakkelijker kan maken om aanvallen uit te voeren die ooit te duur of te ingewikkeld waren om uit te voeren.
“De preview van Claude Mythos is een enorme stap voorwaarts”, zei Dario Amodei, CEO van Anthropic, dinsdag in een lanceringsvideo van Project Glasswing. “We hebben hem niet specifiek opgeleid tot cyberexpert. We hebben hem opgeleid tot code-expert, maar als neveneffect van het code-expertschap is hij ook cyberexpert geworden.” Hij voegde in zijn video toe dat “sterkere modellen van ons en anderen zullen komen. Daarom hebben we een plan nodig om hierop te reageren.”
Anthropic’s Graham merkt op dat Mythos Preview naast het ontdekken van kwetsbaarheden (waaronder het genereren van potentiële aanvalsketens en proofs of concept) ook in staat is tot meer geavanceerde exploit-ontwikkeling, penetratietesten, eindpuntbeveiligingsbeoordelingen, het zoeken naar verkeerde systeemconfiguraties en het evalueren van binaire softwarebestanden zonder toegang tot de broncode.
Bij het gefaseerd uitrollen van Mythos Preview, te beginnen met een samenwerkingsfase binnen de sector, zei Graham dat Anthropic probeert gebruik te maken van het principe van gecoördineerde openbaarmaking van kwetsbaarheden, wat het proces is waarbij ontwikkelaars de tijd krijgen om bugs te patchen voordat ze publiekelijk worden besproken.
“We hebben Mythos Preview dingen zien bereiken die senior beveiligingsonderzoekers kunnen bereiken,” zei Graham. “Dit heeft enorme gevolgen voor de manier waarop dit soort capaciteiten moeten worden ontketend. Als dit niet zorgvuldig wordt gedaan, kan dit een aanzienlijke versnelling zijn voor aanvallers.”
Partners van Project Glasswing, waaronder een aantal concurrenten van Anthropic, hebben gezamenlijke verklaringen afgelegd als onderdeel van de lancering.
“Google is blij om te zien dat dit brancheoverschrijdende cybersecurity-initiatief tot leven komt”, zegt Heather Adkins, Google’s vice-president van beveiligingstechniek, in een verklaring. “We hebben lang geloofd dat AI nieuwe uitdagingen met zich meebrengt en nieuwe kansen biedt op het gebied van cyberdefensie.”
