Open AI:s säkerhetschef lämnar: ”Oacceptabel utveckling”
Prenumerera från 225 kr/mån – magasinet med unika analyser, intervjuer och reportage.
David Robinson har arbetat på Open AI i tre och ett halvt år. I sin senaste roll ledde han arbetet med de säkerhetsrapporter som publiceras inför lanseringar av AI-tjänster.
I veckan lämnade han företaget. På lördagen publicerades hans text i The Atlantic, där han beskriver sin oro för säkerheten när AI-utvecklingen går allt snabbare och hur bolagen hanterar riskerna.
”Nu sällar jag mig till den skara av före detta kollegor – både på Open AI och andra ledande aktörer inom branschen – som kommit fram till att den nuvarande utvecklingen är oacceptabel”, skriver Robinson.
”Kommer leda till fler misslyckanden”
Robinson lyfter bland annat fram en incident i somras, då en Open AI-modell på egen hand hackade konkurrenten Hugging Face.
”Jag anser att sådana misstag är typiska för branschen, med tanke på i vilken hastighet arbetet går framåt”, skriver han.
Han menar att problemen går djupare än enskilda incidenter. Enligt Robinson präglas AI-företagen av en kultur där man försöker, misslyckas och därefter löser problemen längs vägen.
”Om inget förändras kommer branschens inställning till säkerhet att leda till fler misslyckanden”, skriver han.
Robinson anser också att företagen lyssnar för lite på den expertis som redan finns inom området. Dessutom behövs säkrare metoder för att testa ny AI-teknik, skriver han.
”De företag som utvecklar den här tekniken är inte i närheten av att vara tillräckligt försiktiga”, skriver han.
Han efterlyser ett säkerhetsarbete som påminner om det som används inom kärnkraftsindustrin, ”med flera lager av överdriven, tidskrävande planering, så att oundvikliga mänskliga misstag inte öppnar dörren för en katastrof”.
Varningarna blir allt skarpare
Robinson är inte den första tidigare AI-anställda som offentligt har varnat för utvecklingen.
Geoffrey Irving, som tidigare arbetat på Open AI, skrev också en text om AI-säkerhet som publicerades i tidskriften Time på lördagen. Han målar upp en betydligt mörkare bild av framtiden och framhåller risken för att superintelligent AI leder till att mänskligheten dör ut.
”Jag tror att det är ungefär 50 procents sannolikhet att vi alla dör på grund av utvecklingen av smartare AI-system än människor, och att våra handlingar under de kommande två till tio åren kommer att avgöra resultatet”, skriver Irving.
Forskaren Jacob Coxon, som tidigare arbetat på Anthropic, varnade tidigare i höst för riskerna med utvecklingen av avancerad AI. Han sade då att de som bygger artificiell intelligens ”tror på allvar att det kan döda oss alla vid årtiondets slut”.
AI-säkerheten når Vita huset
Frågan om AI-säkerhet har samtidigt nått högt upp på den politiska dagordningen. I tisdags samlade president Donald Trump flera ledande företrädare för AI-sektorn och slöt ett ”moraliskt bindande avtal” med bolagen om att de på egen hand ska stärka säkerhetsåtgärderna i arbetet, utan nya krav eller regleringar från myndighetshåll.
På lördagen rapporterade The Wall Street Journal att mötet också lett till införandet av en ny specialstyrka inom Vita huset med ansvar för AI-frågor.