Karen Hao: Demokratin hotas av teknikjättarna

Det var Open AI:s vd Sam Altman som inledde lovtalen – fjäsket – till Donald Trump när den amerikanske presidenten tog emot några av techindustrins tyngsta företrädare i Vita huset den 4 september. Inför presidenten och cheferna för Meta, Microsoft, Nvidia, Google och Apple förklarade Sam Altman att det är Donald Trumps ledarskap som gör att det blir möjligt att hämta hem ”the power of the industry” till USA.

Någon vecka senare följde sedan Sam Altman med Donald Trump på statsbesök till Storbritannien. Där närvarade han vid undertecknandet av en teknologipakt mellan USA och Storbritannien som ska begränsa Kinas dominans på området.

– Sedan Donald Trump återvände till Vita huset har vi sett en historisk förändring i relationen mellan Silicon Valley och Washington. Både techindustrin och Trumpadministrationen befinner sig i vad jag skulle kalla en imperiebyggarera, säger journalisten Karen Hao via videolänk från Hongkong.

Från öppenhet – till slutna dörrar

Hon utvecklar sin teori i sin bok Empire of AI: dreams and nightmares in Sam Altman’s OpenAI (Penguin Press, 2025). Där beskriver hon hur Open AI men också hela AI-branschen agerar som forna imperier.

– Det finns en idé om världsherravälde, en enorm konkurrenslust och en känsla av överlägsenhet. Precis som det brittiska imperiet ansåg sig mer civiliserat än fransmännen och ville ”befria” franska kolonier agerar Open AI på samma sätt. Det blir särskilt tydligt just när det gäller teknologipakter som ska bromsa det kinesiska inflytandet, säger Karen Hao.

Boken bygger på sju års rapportering för bland annat MIT Technology Review och Wall Street Journal. Hon har gjort över 300 intervjuer, både med topparna i AI-företagen och med de underleverantörer som utför de lägsta, minst betalda och stundtals rent av skadliga uppgifterna i samband med AI-utvecklingen mot AGI: artificial general intelligence. Denna hypotetiska AI beskrivs ofta som en teknik som ska kunna utföra alla intellektuella uppgifter som en människa kan.

– Men exakt vad AGI är kan ingen i branschen eller någon forskare riktigt definiera. Ändå är det Open AI:s uttalade mål att skapa en generell AI. För dem är det nästan en religion.

Karen Hao ser här en parallell mellan detta teknologiska imperiebygge och 1800-talets kolonialmakter. Då användes religionen som maktmedel.

– Gudsbegreppet har ersatts av en nebulös teknologi som ingen riktigt vet vad det är. Men inom Open AI och i branschen i stort talas det om AGI som något som antingen kan frälsa oss – bota cancer, lösa klimatkrisen – eller förinta oss alla. Retoriken är direkt hämtad från religionen.

Ironin med "Open" AI

Första gången Karen Hao rapporterade om Open AI besökte hon företaget på uppdrag av MIT Technology Review. Uppdraget var att skriva ett företagsporträtt av den nya uppstickaren som vid starten var icke-vinstdrivande med ambitionen att arbeta för mänsklighetens bästa. Men det som slog henne var att öppenheten som företagsnamnet signalerar, var en fasad.

– Ironin med namnet är dubbel. Företaget Open AI är allt annat än öppet och dessutom var det i och med deras insteg i branschen som hela AI-utvecklingen gick från att vara öppen till att stängas igen helt.

I boken återger Karen Hao ett e-postmeddelande från medgrundaren och forskningschefen Ilya Sutskever till Elon Musk, som då finansierade företaget. I mejlet skriver Ilya Sutskever att ”det öppna i Open AI är att alla ska kunna ta del av AI:s frukter, men det är helt okej att inte dela forskningen”. Elon Musk svarade kort: ”Yup.”

– Det där skedde tidigt i företagets historia. Andra företag var öppna och insåg att AI var något som behövde utvecklas med försiktighet.

Open AI verkade ha en annan agenda. När Karen Haos artikel med rubriken The messy, secretive reality behind OpenAI’s bid to save the world publicerades mötte den starka reaktioner. Sam Altman, Open AI:s vd och bokens huvudperson, har sedan dess vägrat att ställa upp på intervju.

– Först hette det att han inte hade tid. Sedan kröp det fram att han inte tyckte att min rapportering låg i linje med företagets vision. Open AI var rädda för öppenhet och insyn, säger hon och skrattar torrt.

Vid sitt första besök märkte Karen Hao en påtaglig osäkerhet inom företaget. Det handlade inte om AGI, utan vad de anställda egentligen skulle göra. Det skulle kunna skapa en prövande och öppen forskningsmiljö med stora möjligheter att experimentera, men också en stress bland de anställda för att de inte riktigt visste vad som förväntades.

– Jag har besökt många techbolag, men aldrig sett så förvirrade medarbetare. Den slutna företagskulturen och otydligheten gjorde att flera läger nästan motarbetade varandra. Återigen kring om AI är vår räddning eller undergång. Jag kallar dem ”boomers” eller ”doomers” – optimister respektive domedagsprofeter.

Ett slutet världsherravälde

När den banbrytande chattbotten Chat GPT lanserades i november 2022 blev Open AI världskänt.

– När jag besökte dem första gången hade jag förstås ingen aning om hur inflytelserika de skulle bli. Men efter lanseringen av Chat GPT kände jag att det var enormt viktigt att världen fick veta vad det är för företagskultur som präglar Open AI.

I boken skildrar hon också hur AI är lika mycket berättelsen om AI – och hur skicklig Sam Altman är på att formulera den. Han målar upp en vision där världen blir bättre tack vare AI, men utelämnar ofta baksidorna.

Karen Hao reser därför bland annat till Venezuela, Chile, Uruguay och Kenya för att visa konsekvenserna: de stora datorhallarna som krävs för lagring av data slukar enorma naturresurser och är ett hot mot både naturen och människorna på de platser där de etableras. Detta är dock inget som är unikt för Open AI, utan för hela techbranschen.

– När Uruguay drabbades av historisk torka blandade regeringen salt med sötvatten. Fattiga som inte hade råd att köpa vatten på flaska blev sjuka. Samtidigt etablerade Google en stor dataanläggning som tog stora mängder av landets begränsade färskvatten för kylning. Det är extremt, men liknande exempel finns på alla kontinenter, förutom kanske Antarktis.

Kolonialismens arv i digital form

I Kenya träffade hon arbetare som traumatiserats av det arbete de utfört för att Chat GPT inte ska svara på frågor med problematiskt innehåll. Varje dag tvingades de läsa groteska texter och klassificera dem som våld, extremt våld eller hatpropaganda.

– Många bröts ned psykiskt. Att detta förlades till Kenya är inte så konstigt. Det är ett gammalt kolonialland där Silicon Valley länge lagt sitt ”dirty work”.

Vilket leder oss tillbaka till huvudspåret i Karen Haos bok: att techindustrin är vår tids stora imperier. Precis som det brittiska imperiet en gång såg till att etablera engelskan som ett världsspråk fortsätter nu techbolag att manifestera denna process.

– De senaste årens teknikutveckling har redan påskyndat en global språkutarmning. Med chattbottarna blir effekten ännu tydligare. Om Google Translate stöder ett par hundra språk, klarar chattbottarna kanske tio på djupet.

Karen Hao kritiserar imperialismen som innebär att några få vita män i Kalifornien tjänar enorma summor och exporterar sin föreställning om rätt och fel till resten av världen. Men hon är inte emot AI i sig. I slutet av boken lyfter hon fram positiva exempel, som ett lokalt AI-initiativ i Nya Zeeland för att bevara maorispråket.

– Jag tror på ett öppet AI. Problemet är att dagens företag agerar som imperier. Hotet är inte bara att de dominerar marknaden, utan att de riskerar att undergräva demokratin. Demokratier och imperier är oförenliga.

Hur kan utvecklingen vändas?

– Om vi engagerar oss kollektivt och säger ifrån i de avgörande ögonblicken när storföretagen behöver tillgång till våra data, mark, energi eller vatten och tvingar dem att ge något i gengäld för att återställa balansen i maktförhållandet, då kan vi bryta den imperialistiska modellen. Det är först då vi kan bygga en mer demokratisk och inkluderande AI-utveckling.