AI-genombrott oroar – Bessent kallar banktoppar till krismöte

Mötet samlade chefer från flera av USA:s största banker, däribland Bank of America, Citigroup, Goldman Sachs, Morgan Stanley och Wells Fargo, och även Fed-chefen Jerome Powell deltog. JP Morgan Chases vd Jamie Dimon bjöds in till samtalet, men kunde inte närvara.

Enligt uppgifter diskuterades de risker som den senaste AI-tekniken innebär, särskilt dess förmåga att identifiera och potentiellt utnyttja sårbarheter i finansiella system.

Den aktuella modellen, Claude Mythos Preview från AI-bolaget Anthropic, har enligt bolaget redan identifierat tusentals allvarliga sårbarheter – inklusive i stora operativsystem och webbläsare, där vissa legat oupptäckta i decennier.

”AI-modeller har nått en nivå av kodningsförmåga där de kan överträffa alla utom de mest skickliga människorna i att hitta och utnyttja programvarusårbarheter”, skrev Anthropic i ett uttalande i samband med lanseringen.

Kan användas av angripare

Till skillnad från tidigare verktyg kan modellen alltså inte bara hitta bristerna, utan också visa hur de kan utnyttjas, vilket väcker oro för att tekniken ska kunna användas av illvilliga aktörer.

Företagsledare har i flera år varnat för cyberrisker i det finansiella systemet. I sitt årliga brev tidigare i veckan skrev JP Morgan-vd:n Jamie Dimon att det ”fortsätter att vara en av våra största risker” och att ”AI nästan säkert kommer att förvärra risken”.

Anthropic har samtidigt uppgett att man fört samtal med amerikanska myndigheter om modellens både offensiva och defensiva cyberförmågor. Lanseringen har dessutom begränsats till ett fåtal partners, däribland Amazon, Apple och Microsoft.

Den begränsade lanseringen följer efter två incidenter där data från bolaget läckt ut på nätet – något som ytterligare spätt på oron kring säkerheten.