Anthropic zei dinsdag dat het een previewversie van de komende versie deelde AI werd een model in een nieuw cybersecurity-initiatief met een coalitie van technologiebedrijven om kwetsbaarheden in kritieke software-infrastructuur te vinden en op te lossen.
Het Project Glasswing-initiatief omvat technologieondersteuners zoals Amazon, Apple, Broadcom, Cisco, CrowdStrike, de Linux Foundation, Microsoft en Palo Alto Networks. Anthropic zei dat de partners het model zullen gebruiken voor defensief veiligheidswerk en hun bevindingen over de hele sector zullen verspreiden. Het bedrijf breidt ook de toegang uit tot ongeveer 40 extra organisaties die kritieke software-infrastructuur bouwen of onderhouden.
De bezorgdheid groeit dat criminelen hiervoor krachtige AI-modellen kunnen gebruiken het ontwikkelen van meer geavanceerde cyberaanvallen. “Het werk om de cyberinfrastructuur van de wereld in stand te houden kan jaren duren; de toonaangevende AI-capaciteiten zullen waarschijnlijk de komende maanden aanzienlijk toenemen”, aldus Anthropic in een verklaring. blogpost. “Om ervoor te zorgen dat cyberverdedigers voorop kunnen blijven lopen, moeten we nu actie ondernemen.”
Anthropic biedt tot $100 miljoen aan modelgebruikscredits voor beveiligingsonderzoek, en $4 miljoen aan directe donaties aan open source-beveiligingsorganisaties.
Athropic zei dat ze sterke beveiligingstoepassingen vonden in “Claude Mythos Preview” terwijl ze het model trainden voor codeer- en redeneervaardigheden. Het bedrijf zegt dat gebruikers uiteindelijk toegang zullen krijgen tot andere leden van de Mythos-modellenklasse.
Het Mythos-model heeft de afgelopen weken duizenden zero-day-kwetsbaarheden geïdentificeerd, zei Anthropic in een blogpost, waarvan er vele kritiek zijn. Het model ontdekte een 27 jaar oude bug in OpenBSD, een besturingssysteem dat bekend staat om zijn veiligheid. Ze ontdekten ook een 16 jaar oude kwetsbaarheid in veelgebruikte videosoftware, die geautomatiseerde testtools niet konden vinden.
Het bedrijf zei dat het in gesprek is met Amerikaanse overheidsfunctionarissen over de offensieve en defensieve cybercapaciteiten van het model. Anthropic acht dit initiatief urgent en stelt dat vergelijkbare AI-mogelijkheden binnenkort beschikbaar zullen zijn voor criminelen.
Anthropic is betrokken bij een vechten met het Pentagon vorige maand vanwege de afwijzing van defensiecontractvoorwaarden die de regering in staat zouden hebben gesteld haar technologie te gebruiken voor binnenlands toezicht en autonome wapens. De vete resulteerde in het uiteenvallen van hun werkrelatie, die nog steeds voortduurt.
