Anthropic lanserar AI för cybersäkerhet: ”Potentiellt farlig”
Anthropic har lanserat sin nya AI-modell för cybersäkerhet, Mythos, till ett urval av företag, enligt Financial Times.
Lanseringen följer en dataläcka, då beskrivningar av Mythos hittades i datalagring öppen för allmänheten.
Företagen som får tillgång till mollen under namnet Project Glasswing är bland annat Amazon, Apple, Microsoft och Crowdstrike.
– Tekniken är kraftfull nog för att göra stor nytta, men kan eventuellt vara skadligt om de hamnar i fel händer, säger Dianne Na Penn, chef för produkt- och forskning på Anthropic.
Hon tillägger att de utvalda företagen får "ett försprång i att säkra sårbarheter och analysera kod i större skala än tidigare".
Faran är uppenbar
I tester upptäckte Mythos en 16 år gammal sårbarhet i ett populärt videoprogram, som automatiska testverktyg hade missat trots fem miljoner körningar. Modellen visade dock också risker:
Mythos visade "en potentiellt farlig förmåga att kringgå våra skyddsåtgärder", skriver Anthropic i sin säkerhetsrapport.
Vid ett tillfälle tog den sig ur sin sandbox – som ska hindra internetåtkomst – och publicerade detaljer om hur den kringgick begränsningarna online.
"Faran med felanvändning är uppenbar, men om vi lyckas finns en chans att skapa ett betydligt säkrare internet", skriver vd Dario Amodei om Project Glasswing på X.
