A accidentele lekkage nu is dat zo officieel bevestigd van AI-bedrijf Anthropic over het krachtigste AI-model ooit.
Het model, nu bekend als “Claude Mythos”, werd aanvankelijk onthuld in een rapport van Eigendom. Anthropic heeft details over het lek naar zijn stopcontact bevestigd.
Het datalek bevat details over de aanstaande lancering van het AI-model van Claude Mythos, een ‘exclusief CEO-evenement’ en andere interne activa zoals pdf’s en afbeeldingen, aldus Eigendom. In totaal omvat het lek bijna 3.000 assets die Anthropic nog nooit eerder heeft gepubliceerd.
Claude Mythos lekte details
Volgens Anthropic werd het lek veroorzaakt door een probleem met het contentmanagementsysteem (CMS) dat het bedrijf gebruikt. Gegevens worden door het bedrijf naar het CMS geüpload. Anthropic slaagde er echter niet in de items als privé te markeren, dus werden de gegevens opgeslagen in een openbaar toegankelijk datameer.
Sommige gegevens zijn ongebruikte activa uit eerdere aankondigingen van Anthropic. Andere gegevens die lekten, waren interne bedrijfsinformatie, zoals werknemersgegevens of informatie over CEO-evenementen die alleen op uitnodiging toegankelijk waren.
In de gelekte gegevens werd echter ook informatie gevonden over Claude Mythos in een ongepubliceerde conceptblogpost.
Vernietigbare lichtsnelheid
Claude Mythos en de Capibara
Volgens een uitgelekt concept over Claude Mythos heeft Anthropic de training van het model voltooid en noemt het “het krachtigste AI-model dat we tot nu toe hebben ontwikkeld.”
In een verklaring aan Fortune na het lek beschreef een woordvoerder van Anthropic Claude Mythos als een “stapsverandering” in AI-prestaties en zei dat het model “het meest capabele was dat we tot nu toe hebben gebouwd.” Anthropic zegt dat Claude Mythos momenteel wordt getest en beschikbaar is voor het selecteren van ‘early access-klanten’.
Naast het nieuwe AI-model vermeldt de gelekte post ook een nieuw niveau van het AI-model dat nog niet is vrijgegeven Antropisch Capibara genoemd.
Anthropic biedt momenteel drie verschillende niveaus voor elk van zijn AI-modellen: Opus, Sonneten Haiku. Opus is momenteel het krachtigste en duurste niveau, terwijl Haiku het kleinste en goedkoopste niveau is. Capybara zal zelfs boven Opus staan als Anthropic’s grootste en meest intelligente AI-modelniveau.
Capybara-cyberveiligheidsrisico’s
Het gelekte bericht beschrijft ook de zorgen van Anthropic hierover cyberveiligheidsrisico’s die Claude Mythos ook meebracht. Het lijkt erop dat Anthropic gelooft dat Claude Mythos door hackers kan worden gebruikt om cyberaanvallen uit te voeren.
“Ter voorbereiding op de vrijlating van Claude Capybara wilden we extra voorzichtig zijn en de risico’s die dit met zich meebrengt begrijpen – zelfs verder dan wat we tijdens onze eigen tests hebben geleerd”, luidt de gelekte Anthropic-post. “In het bijzonder willen we de potentiële kortetermijnrisico’s van dit model op het gebied van cyberbeveiliging begrijpen – en de resultaten delen om cyberverdedigers te helpen zich voor te bereiden.”
Anthropic beschrijft zijn nog niet uitgebrachte model als “momenteel ver vooruit op andere AI-modellen op het gebied van cybercapaciteiten” en dat het “een komende golf van modellen vertegenwoordigt die kwetsbaarheden kunnen exploiteren op manieren die de inspanningen van verdedigers ver te boven gaan.”
Het bedrijf zei in een uitgelekte conceptblog dat het organisaties vroege toegang bood om hen “een voorsprong te geven bij het verbeteren van de veerkracht van hun codebases tegen een golf van AI-gestuurde exploits.”
