AI-jättarnas larm: ”Länge duckat frågan”
– Det är grunden i den här debatten, det är omöjligt att spåra. Trots påtryckningar så har de här amerikanska techgiganterna länge duckat från den här frågan, säger AI-experten Anna Felländer i EFN Morgon.
Prenumerera från 225 kr/mån – magasinet med unika analyser, intervjuer och reportage.
Under måndagen rasade bland annat investeringsjätten Softbank som är en av Open AI:s största finansiärer tvåsiffrigt på den stigande oron.
– Att det finns en förstärkt riskbild ska man ta med en nya salt, det är en risk i AI eftersom man har underinvesterat i säkerhet, men det är inget nytt, säger Anna Felländer, Europachef på Ethical AI Governance Group.
Hon har tidigare bland annat varit rådgivare till Sveriges digitaliseringsminister mellan 2017 och 2019, haft framträdande makroroller på Swedbank och är medgrundare till AI-styrningsföretaget Asenion.
Därför stiger AI-oron
Oron över AI ökade kraftigt under förra veckan efter att Anthopic-forskaren Jacob Coxon lämnat företaget och utfärdat en varning om att tekniken kan hota mänsklighetens existens. Därefter har chefer från både Anthropic och Open AI tillsammans med bland annat Elon Musk och Alphabets Demis Hassabis uppmanat utvecklare att bromsa in AI-utvecklingen av säkerhetsskäl.
– De har ropat varg kring den här frågan ett tag, och då undrar man varför? Min bedömning är dels att de konkurrerar med varandra, så varje säkerhetsåtgärd är som grus i maskineriet.
Skjuter ifrån sig ansvaret
Anna Felländer utvecklar att säkerhetsåtgärder både sätter käppar i hjulet mellan techjättarna själva och i kapplöpningen mot Kina. Hennes bedömning är att uppropet är ett sätt att försöka skjuta från sig ansvaret men samtidigt vara med att påverka utformningen av regelverket och fortsätta diktera villkoren.
Det kan även ses som ett sätt att hindra konkurrensen.
– Det stämmer, och det som skett den senaste tiden som är ett positivt tecken för AI-utvecklingen är att open source har hamnat som ett mycket mer tilltalande alternativ för många. Men det är en balansgång, dels för att lugna investerare men dels för att samtidigt inte reglera för mycket, säger hon.
Spelplanen har förändrats
Anna Felländer lyfter att Trumpadministrationen länge inte velat reglera bolagen och tekniken, just på grund av konkurrenssituationen mot Kina. Men spelplanen har nu förändrats och man förstår att en viss typ av regelutformning kommer ske precis som i Europa.
Dels för att lunga investerarnas och marknadens oro, där lagom mycket mer grus i maskineriet är att föredra.
– Samtidigt är ansvarsfrågan helt avgörande för att vi på sikt ska kunna lita på den här teknologin, säger hon.
Frågan om ansvar har kommit och gått nu under en längre tid och under USA:s tidigare administration kom påtryckningar från Bidens regering. Anna Felländer ser att åtgärder nu kommer komma.
– Jag tror att det kommer komma ett uttalande om lagom mycket åtgärder för att lunga marknaden, men lagom lite för att de fortsatt ska ha en konkurrenssituation mot Kina, säger Anna Felländer I EFN Morgon.
