Vi ser gärna teknik som verktyg i vår tjänst. Den finns där för att lösa problem och utföra arbete. På så vis blir den ett skikt – ett medium – mellan människor och mellan oss och vår omgivning. Men tecken finns på att rollerna håller på att kastas om.
All intelligens är artificiell. Om vår kognitiva förmåga utmärker oss som art har den formats av tekniker: musik, jakt, jordbruk, handel. Dessa kulturtekniker har inte bara hjälpt oss överleva utan också utvecklat vårt intellekt och våra värderingar. Marknader, bilar, tvålar och telefoner fungerar som protokoll som styr vår kontakt med världen – prissättning, transport, smittskydd, närhet. Även om vi blir kompetenta tack vare våra redskap råder ingen tvekan om maktförhållandet: uppfinnaren styr sin skapelse, ägaren sin egendom, ingenjören sin maskin. Redskapet tjänar ett syfte, utan egen vilja.
Men det finns en annan berättelse: människan själv som medium. Karl Marx beskrev hur arbetare under industrialiseringen gick från att vara hantverkare till att bli maskinoperatörer. Arbetets kärna blev att övervaka maskinerna och korrigera fel med mänskliga händer. Den processoperatör som i dag följer produktionskedjan på en skärm är arvtagare till samma logik. Och vi andra är inte långt ifrån: när vi anpassar våra telefoner, klickar oss genom säkerhetsdialoger eller tränar algoritmer, utför vi ett slags obetalt arbete som lika mycket gynnar systemen som oss själva.
Språktolkning är ett annat exempel. In som franska, ut som tyska. På 1800-talet betecknade ordet ”medium” också spiritualistiska mellanhänder, ofta kvinnor, som sade sig förmedla budskap mellan döda och levande. Och evolutionsbiologen Richard Dawkins beskrev i Den själviska genen (1976) människan som ett emballage för genernas överlevnad – ett medium för arvsmassan, varken mer eller mindre.
Osynliga händer
Digitaliseringens första epok visar samma mönster. Vid utvecklingen av MIT:s Whirlwinddator på 1940-talet var ritningarna fulla av streckgubbar som rusade mellan stationer med papper, film och magnetband i händerna. De var ”bärare av bärare”. Men i de flesta diagram av samma slag trollades människorna bort, det man ville visa var full automatik.
När de ändå syntes var det som felkällor. Men i själva verket var den så kallade automatiska databehandlingen påfallande manuell: programkod i pärmar, magnetband på lastbil, algoritmer inlämnade i receptionen.
I svenska statliga utredningar från 1960-talet talades det om adb som en revolution, men under ytan krävdes en armé av människor som sorterade, bar, rättade och kompletterade. Drömmen om automation byggde på att det manuella arbetet osynliggjordes.
I dagens AI-värld består den logiken. De stora språkmodellerna kräver enorma insatser av manuellt arbete: datarensning, etikgranskning, filtrering. Jobbet outsourcas till underleverantörer, ofta i låglöneländer. Att dessa händer hålls osynliga är en förutsättning för att tekniken ska framstå som intelligent och självgående. Norbert Wiener, cybernetikens grundare, menade redan på 1940-talet att människor borde hållas borta från beräkningar – men i praktiken visade sig människorna oumbärliga.
De stora språkmodellerna kräver enorma insatser av manuellt arbete: datarensning, etikgranskning, filtrering. Jobbet outsourcas till underleverantörer, ofta i låglöneländer.
Människan mellan maskiner
Med den generativa artificiella intelligensen, i form av neurala nätverk och diffusionsmodeller som vi vant oss vid, framstår det som rationellt att utesluta människor inte bara för att vi är oberäkneliga eller dyra i drift, utan även för att vi saknar kognitiva och sensoriska förutsättningar för att bidra till processen. I dag utesluts vi för att vi inte anses klara volymen eller komplexiteten.
Om vi tidigare var smörjmedel mellan maskiner som utförde mekaniskt arbete verkar det som att vi allt oftare får rollen som ett slags hantlangare mellan maskiner som utför intellektuella uppgifter. Tidigare fanns alltid en uppdragsgivare och en uttolkare – chefen som beställde, analytikern som drog slutsatser. Nu har snarast höghastighetshandeln på börsen blivit förebild, även inom AI-säkerhet: modeller granskas bäst av andra modeller.
Om vi tidigare var smörjmedel mellan maskiner som utförde mekaniskt arbete verkar det som att vi allt oftare får rollen som ett slags hantlangare mellan maskiner som utför intellektuella uppgifter.
När jag talar med forskaren Marc Roston vid Stanford nämner han protokollet XBRL för automatisk vinstrapportering från slutet av 1990-talet. Ambitionen var att låta maskiner förhandla med varandra, med så lite mänsklig inblandning som möjligt. Det som gällde där gäller nu allt fler områden: text, bilder, analyser och prognoser – producerade av maskiner, för maskiner.
Vi människor är fortfarande nödvändiga, men på andra sätt. Allt mindre som beställare eller uttolkare, allt oftare som praktiska mellanhänder i skarvarna. Moravecs paradox gäller: det som är lätt för oss är svårt för robotar och vice versa. Därför efterfrågas vår motorik men även vårt omdöme, vår empati. IBM har plattformar där AI-agenter kan vända sig till ”det mänskliga verktyget” när de kör fast. Vi är roddarna som håller systemet i gång.
Maskinerna som herrar
Betyder detta att tekniken befrias från ansvar? Tvärtom, makten koncentreras högre upp, hos bolagsledningar och ägare. Men för alla oss däremellan förändras hierarkin. Arbetsuppgifter som nyss betraktades som kvalificerade blir maskinernas. Vi förskjuts mot en ekonomi där människor ”vårdar” tekniken: övervakar, rättar, tränar. Maskinerna behöver inte bara data, utan energi, kylning, service. Kanske borde vi tala om en ny vårdsektor.
Idén om en ”symbios mellan människa och dator”, formulerad av psykologen och datavetaren J.C.R. Licklider 1960, klingar bekant. Frågan är bara vem som vinner på att vi börjar behandla våra verktyg som kollegor. Författaren och filosofen Henry David Thoreau ställde redan 1847 frågan om vi verkligen använder järnvägen och telegrafen, eller om de använder oss.
Sociologen Sherry Turkle och antropologen Lucy Suchman visade på 1980-talet hur datorer gör dessa gränser problematiska. Platt ontologi och posthumanism fungerar som kritik mot undermålig djurhållning och mossiga värdesystem, men börjar halta inför maskininlärning. I sin iver att montera ner humanismens baksidor har en del teoribildningar närmat sig AI-labbens technoanimism, alltså föreställningen att tekniska system är besjälade. Jag tycker mig kunna skönja framväxten av en bisarr datavitalism, det vill säga uppfattningen att algoritmer för mönsterigenkänning i stora informationsrymder börjar ”leva”.
På AI-företaget Anthropic i San Francisco har man inrättat en avdelning för ”AI-välfärd” – omsorg om algoritmernas välgång, så att de inte far illa. Under tiden sitter tusentals människor i låglöneländer och rensar träningsdata från smuts. Idén om teknikens autonomi döljer alltså ett gigantiskt manuellt maskineri – av kroppar.
Jag tycker mig kunna skönja framväxten av en bisarr datavitalism, det vill säga uppfattningen att algoritmer för mönsterigenkänning i stora informationsrymder börjar ”leva”.
Från tjänare till server
Markus Krajewski, professor i mediestudier, visar i Der Diener (2010) hur tjänaren historiskt varit medium för sin herre, en funktion som senare överförts till tekniken. 1700-talets mekaniska mathissar – ”servanterna” – på Confidencen vid Kina slott kan få illustrera övergången. Rätterna lyftes upp ur golvet utan att personal syntes, en svensk variant av de så kallade ”dumb waiters” den amerikanske grundlagsfadern Thomas Jefferson hade på godset Monticello. I dag känner vi igen efterföljaren i ”servern” som levererar databaser och webbsidor. Den mänskliga handen tycks långt borta – men trenden kan vara på väg att vända.
Med AI-systemen finns risken att vi återigen blir tjänare, fast åt maskinerna. Vi tränar dem med våra data, rörelser och ljud. Vi kyler deras system, kopplar deras nätverk, håller dem vid liv. Vi gör det möjligt för dem att framstå som autonoma – medan vi själva blir osynliga och utbytbara.
Det finns starka krafter som vill att den utvecklingen ska framstå som förutbestämd och oundviklig. Men frågan är vilken berättelse vi väljer: Tekniken som vårt verktyg, eller vi som dess medium?
