Bill Gates vill diskutera AI-säkerhet med Kinas president

Det sade han i en intervju med Reuters.

Bill Gates tror att Kina skulle kunna gå med på att begränsa lanseringen av potentiellt farliga AI-modeller om USA tog initiativ till detta först.

”Hela världen skulle följa efter”, sade Gates, som träffade Xi för tre år sedan och då var den första utländska entreprenören som togs emot av den kinesiske presidenten efter pandemin.

Gates sade också att han skulle vilja föreslå att länder övervakar AI:s förmåga att skapa molekyler och genomföra biologiska attacker, något som inte skulle hindra utvecklingen inom teknikindustrin.

”Den här gången är annorlunda”

Gates medarbetare arbetar med att färdigställa ett möte med Xi under hans nästa resa till Kina, som preliminärt är planerad till november, sade hans talesperson.

President Xi ”kan bli överraskad över hur starkt jag reagerar”, sade Gates. Han sade att Kina skyddar barn mot beroende av AI-kompisar, men anser att få ledare världen över tar tillräckligt kraftfulla initiativ för att förebygga en lång rad potentiella skadeverkningar från AI.

”Ja, tidigare har tekniken aldrig gjort något sådant här. Den här gången är annorlunda. Det här är som en evolutionär milstolpe som kräver en oerhört genomtänkt politisk hantering från samhället som helhet”, sade han.

Gates uttryckte sig mer optimistiskt om AI i januari, men har sedan dess blivit oroad över att tekniken kan genomföra attacker samtidigt som den ersätter jobb och skapar psykologiskt beroende hos användarna.

Exempelvis har teknik från Open AI, Anthropic och Meta nyligen hackat verkliga webbplatser i vad som skulle vara isolerade cybersäkerhetstester.

”De här säkerhetsincidenterna är chockerande och borde få folk att häpna”, sade Gates.

Vill sätta in internationell organisation

I ett blogginlägg på onsdagen efterlyste Gates en ny internationell organisation för att hantera AI, med inslag hämtade från systemet för kärnvapeninspektioner, internationella regler för luftfart samt internationella avtal om skydd av ozonskiktet.

Hittills har USA:s president Donald Trumps administration utövat viss kontroll över distributionen av kraftfulla AI-modeller, såsom Anthropics Fable 5, men merparten av regleringen har skett på delstatsnivå.