Cyberveiligheid betreft de antropische mythe: wat slimme mensen zeggen

Gary Marcuseen AI-onderzoeker en auteur, zei dat de aankondiging van Anthropic over Mythos ‘overdreven’ was.

“Op een bepaald niveau had ik het gevoel dat we bespeeld werden”, schreef Marcus Substapel. “Deze demonstratie is duidelijk een proof of concept dat we regelgevende en technische instanties moeten reguleren, maar niet de directe dreiging die de media en het publiek geloven.”

Marcus zei dat het model er, op basis van wat hij zag, ‘stapsgewijs beter’ uitzag dan eerdere modellen, en geen ‘doorbraak’.

Yann LeCunde oprichter van AMI Labs en voormalig hoofd AI-wetenschapper bij Meta, heeft ook de Mythos-hype van de hand gewezen.

“Mythisch drama = BS van zelfbedrog”, schreef hij in één X berichten.

Hij reageerde op een bericht van Aisle, een AI-beveiligingsbedrijf, waarin stond dat ze kleinere, goedkopere modellen testten op dezelfde kwetsbaarheden die werden benadrukt in de Mythos-aankondiging van Anthropic en ontdekten dat ze vrijwel dezelfde analyse konden uitvoeren.

Jake Moore, wereldwijd cybersecurity-specialist bij ESET vertelde eerder aan Business Insider dat er enige marketingtaal in de aankondiging van Anthropic zat, maar “in principe ziet dit model er erg indrukwekkend uit en zal het in de loop van de tijd alleen maar verbeteren.”

“Anthropic heeft een reputatie opgebouwd als een ‘veiligheid eerst’ AI-bedrijf, dus aankondigingen als deze dienen twee doelen: oprechte voorzichtigheid en het signaleren van hun veiligheidsbewuste houding,” zei Moore.

Dave Kasten, hoofd beleid bij Palisade Research, zei dat het waarschijnlijk is dat andere AI-modellen niet ver achterlopen op Mythos.

Hij vertelde donderdag in een interview aan CNBC dat de hoop is dat “Anthropic een beetje voorop loopt, maar niet te ver vooruit, en ze hebben hier niet veel permanente slotgrachten.”

Hij markeerde het laatste rapport van axio Er wordt gezegd dat OpenAI ook een model heeft met geavanceerde cyberbeveiligingsmogelijkheden dat het alleen aan een kleine groep wil vrijgeven, niet aan het grote publiek.

Kasten zei ook dat hij denkt dat de Gemini misschien ook niet ver achterloopt, maar het feit dat Google samenwerkt met de Mythos impliceert dat Anthropic waarschijnlijk een voorsprong heeft met dit specifieke model, tenminste voor een paar maanden.

David zakkentechnologie-investeerder en voormalig AI-tsaar van het Witte Huis, zei dat de beweringen van Anthropic over Mythos belangrijk zijn, maar met een korreltje zout moeten worden genomen.

“De wereld heeft geen andere keuze dan Mythos-gerelateerde cyberdreigingen serieus te nemen. Maar het is moeilijk te negeren dat Anthropic een geschiedenis van schriktactieken heeft”, zei Sacks in een verklaring. X berichtendeelde verschillende voorbeelden van gevallen in het verleden waarin Anthropic waarschuwingen of verontrustende verhalen uitte over AI-modellen.

TJ Marlin, CEO van Guardrail Technologies, die eerder bij EY’s wereldwijde forensische technologiepraktijk werkte, zei dat de bijeenkomst tussen federale en Wall Street-functionarissen bedoeld was om ervoor te zorgen dat banken, in het geval van een grote inbreuk op de beveiliging, zich niet konden omdraaien en zeggen: “We wisten het niet.”

“Elke CEO in de zaal die er niet in slaagt de reacties op bestuursniveau te documenteren, opereert nu in de juridisch meest blootgestelde positie”, schreef Marlin in LinkedIn.

Pablos Holmaneen VC bij Deep Future zei dat verdedigers van cyberveiligheid – dat wil zeggen mensen die zich proberen te verdedigen tegen digitale aanvallen – meer zullen profiteren van de vooruitgang op het gebied van AI dan degenen die de aanvallen uitvoeren.

“Nu raakt iedereen gek door AI-aangedreven aanvallen”, zei Holman in een verklaring LinkedIn-bericht op Mythos op 1 april, vóór de aankondiging van Anthropic deze week. “Wat ze missen is dat de verdedigers dezelfde AI hebben. Vaak betere AI en veel meer rekenkracht.”

Holman zei dat cybersecurity-verdedigers toegang zullen hebben tot dezelfde modellen en tot meer middelen om mee te werken, zoals broncode.

“Dit is nog steeds een escalatieoorlog, maar nu zijn het de verdedigers die hiervan profiteren”, schreef hij. “De veiligheid zal beter worden. Niet slechter.”

“We zijn het Manhattan Project-moment van cybersecurity binnengegaan”, zegt Ben Seri, medeoprichter van cybersecurity-startup Zafran Security, in een verklaring. na.

Seri zei dat bedreigingen voor de cyberveiligheid reëel en onmiddellijk zijn, terwijl het defensiepotentieel reëel is, maar het langer duurt voordat deze wordt gerealiseerd. Hij zei dat de echte uitdaging voor cybersecurity-verdedigers is om sneller op grote schaal te werken.

“AI zal kwetsbaarheden sneller opsporen. AI zal ze sneller repareren. Maar het knelpunt is niet alleen ontdekking of herstel. Het is de mogelijkheid om oplossingen veilig, snel en op schaal in productieomgevingen te implementeren”, zei hij. “Het veilig doorvoeren van snelle veranderingen in de productie is de belangrijkste verandering die technologie- en beveiligingsleiders moeten doorvoeren om dit moment te doorstaan.”

Alice Tecotzky heeft bijgedragen aan de rapportage.