Kina rustar för mardrömsscenariot: AI som bryter sig loss
Det skriver Reuters.
Prenumerera från 225 kr/mån – magasinet med unika analyser, intervjuer och reportage.
USA och Kina har varit oense om AI-politik och branschpraxis, och frågorna väntas stå högt på agendan vid bilaterala samtal senare i september.
Medan debatten i USA fokuserar på frågan om avancerad AI skulle kunna utgöra ett existentiellt hot mot mänskligheten, har kinesiska beslutsfattare generellt betraktat AI som en kraftfull men kontrollerbar teknik vars risker kan begränsas genom tekniska standarder, reglering och statlig tillsyn.
”Kinesiska och amerikanska experter är i stort sett överens om vilka riskerna med AI är”, sade Brian Tse, grundare och vd för Concordia AI, en forskningsgrupp med bas i Peking och Singapore som arbetar med AI-säkerhet och styrning. Skillnaden ligger mer i hur riskerna "definieras och prioriteras”.
Kina rustar för ”operativ kontrollförlust”
Kina har inte föreslagit att oberoende granskare ska placeras inne i AI-företagen, vilket Anthropic har förespråkat. Det framväxande kinesiska regelverket bygger i stället på skyldigheter för utvecklare, statligt stödda standarder, säkerhetsbedömningar och extern testning.
Denna strategi påverkas också av en viktig skillnad mellan de båda ländernas AI-industrier. Kinesiska utvecklare har i allt högre grad satsat på så kallade open-weight-modeller. Det handlar om system vars underliggande parametrar kan laddas ned, granskas och modifieras. Ledande amerikanska konkurrenter som Anthropic och Open AI gör däremot inte specifikationer offentligt tillgängliga.
En policy som utfärdades i maj av Kinas cybersäkerhetsmyndighet identifierar ”operativ kontrollförlust” som en säkerhetsrisk för AI-agenter. Reglerna kräver att utvecklarna förbättrar sin förmåga att upptäcka, ingripa mot, blockera och återställa efter olämpligt beteende hos AI-agenter. Kina har dessutom börjat utarbeta en obligatorisk nationell standard för säkerheten hos AI-agenter., vilket kan bli världens första standard av sitt slag.
Varnar för AI som bryter sig loss
Wang Lihong vid cybersäkerhetsmyndigheten sade nyligen att det krävs särskild vaksamhet när det gäller avancerade modeller som tar sig förbi så kallade sandlådemiljöer, kringgår säkerhetsgränser och angriper externa produktionssystem i den verkliga världen.
Kina inkluderade för första gången ett uttryckligt framtida scenario med förlust av kontrollen i ett ramverk för AI-säkerhet som publicerades i september 2024 under vägledning av Kinas myndighet för cyberspacefrågor (CAC).
Kinas reglering skiljer sig från kraven i vissa västerländska AI-säkerhetskretsar på att utvecklare ska bromsa eller pausa utvecklingen av de mest avancerade modellerna tills starkare skyddsåtgärder finns på plats.
Sedan början av året har Kina i stället drivit på för att integrera AI i alla branscher, som en del av Pekings satsning på att göra tekniken till den nya motorn i världens näst största ekonomi. Men Kina har också visat att landet kan skjuta upp lanseringar när myndigheterna bedömer att styrningen och regelverken inte har hunnit ikapp.