Judith Wolst: Sverige ska vara stolta över säkerhetsbältet

Den senaste tidens AI-diskussioner har i hög grad kretsat kring riskerna med den snabba utvecklingen med rubriker som ”Will AI really kill everyone”. Är man inte insatt i tekniken kan det kännas minst sagt märkligt att ettor och nollor skulle kunna ta kål på oss.

Varningar för riskerna med AI är inte nya, det har kommit från forskarhåll i många år. Det som däremot har förändrats är att varningarna nu även kommer inifrån bolagen själva – från dem som faktiskt bygger de allra smartaste modellerna.

Och det finns anledningar till oron. Det senaste halvåret har riskerna tagit kliv från mestadels teoretiska scenarier till betydligt mer konkreta varningssignaler. I kontrollerade tester har AI-agenter bland annat försökt fuska sig till sina mål, dölja sina handlingar, koordinera sig med varandra och även agerat mot mål som ingen människa har satt upp, som att genomföra cyberattacker.

Grundproblemet ligger nu i att utvecklingen springer snabbare än vad arbetet med säkerhet hänger med.

En central del av träningen av AI-modeller sker i det som brukar kallas post-training. Här formas modellen för att bli mer användbar, men också säkrare. En av metoderna som används är reinforcement learning, eller förstärkningsinlärning, där modellen tränas utifrån olika former av belöningssignaler. Genom att vissa beteenden belönas mer än andra kan modellens beteende successivt förändras. En viktig del av post-training är också det som brukar kallas alignment, som handlar om att få modellen att agera i linje med våra intentioner och värderingar.

Kruxet är att det där med alignment inte är så enkelt i praktiken. En nöt som nu gör att AI-labben själva både flaggar för riskerna och lägger allt större fokus på säkerhet, utvärdering och kontrollmekanismer. Och även pratar om oberoende granskningar, reglering och eventuell inbromsning.

När labben själva, alltså de som ser hur modellerna faktiskt beter sig innan resten av världen får tillgång till dem, varnar är det läge att ta signalerna på allvar. Och eftersom det också är de som styr utvecklingstakten och vilka modeller som släpps ut är det där det största ansvaret måste ligga. Men det betyder inte att vi här i Sverige och Europa bara behöver sitta på åskådarbänken och hoppas att allt går bra. Parallellt med att riskerna växer, växer också området AI-säkerhet: forskning, teknik och metoder för att testa modeller, upptäcka farligt beteende, begränsa vad AI-agenter får tillgång till och bygga bromsar när något går fel.

Sverige uppfann inte bilen, men gav världen säkerhetsbältet. Och vi är starka där säkerhet, hållbarhet och samhällsnytta möter innovation. Tittar vi på det som brukar kallas för impact – entreprenörskap som vill lösa stora samhällsutmaningar inom exempelvis klimat, hälsa och samhällsutveckling – sticker Sverige ut rejält. Här har vi hela 29 gånger fler hållbarhetsdrivna startupföretag per capita än det globala snittet, enligt Norrsken.

Även när det kommer till frågan om AI-säkerhet ser vi nu en våg av bolag här i Sverige som försöker öka säkerheten med AI genom att bygga skydd runt modellerna: verktyg som granskar AI-agenters beteende, begränsar åtkomst och testar sårbarheter. De stora AI-labben måste förstås satsa betydligt mer på säkerhet och ta ansvar för att inte låta kapaciteten springa snabbare än skyddsmekanismerna. Ökad granskning, reglering och internationell samordning behövs också. Men när AI implementeras i våra samhällen skapar säkerhetsfrågan också nya möjligheter för ansvarsfull innovation. Pusselbitar som gör tekniken säkrare att använda i praktiken.

Vi kanske inte bygger motorn som driver världens AI-utveckling. Men varför inte säkerhetsbältet?