Ingrid Dunér: Teknikens löfte, människans öde
Det som en gång avfärdades som science fiction har börjat leta sig in i vardagen. Visioner om artificiell intelligens, uppkopplade hjärnor och teknologisk odödlighet – länge förbehållna transhumanismens utposter – betraktas i dag som plausibla framtidsscenarier. I centrum för denna idévärld står teknikprofeten Ray Kurzweil som i årtionden hävdat att människan kommer att övergå från biologisk varelse till något mer. Och kanske har framtiden redan börjat.
Artificiell intelligens (AI) kommer att nå samma nivå som det mänskliga medvetandet år 2029. Därefter kommer utvecklingen ta fart på allvar, till dess att vi 2045 kommer att stå inför maskiner som inte bara tänker utan som också kan skapa nya, förbättrade versioner av sig själva. Detta kommer att innebära en explosion av intelligens och bli ett slags brytpunkt varefter allting förändras i grunden. Den teknologiska utvecklingen kommer att accelerera förbi mänsklig förståelse och kanske därför också bortom vår kontroll.
Scenariot kallas för den teknologiska singulariteten och är inte tänkt att uppfattas som vare sig dystopisk science fiction eller ett domedagsscenario, utan som ett entusiasmerande försök att förutsäga en ganska snar framtid då samhället kommer att genomgå en fundamental förändring. Och den person som kanske tydligast förknippas med singulariteten är den amerikanske ingenjören, futuristen och entreprenören Ray Kurzweil.
Skriver om ett "oundvikligt scenario"
I över tre decennier har Ray Kurzweil gjort sig ett namn genom att förutsäga teknikens utvecklingsriktning – med visioner som rört sig från det spekulativa till det plötsligt högst plausibla. Redan på 1990-talet talade han om intelligenta maskiner, och för 20 år sedan populariserade han begreppet singulariteten. ”Men vi är närmare framtiden nu”, skriver han i sin senaste bok The singularity is nearer (2024), en både uppdaterad och ihärdig påminnelse om det scenario han så länge hävdat är oundvikligt.
Ray Kurzweil inledde sin bana som uppfinnare och programmerare, och har bland annat arbetat med att försöka få datorer att ”förstå” naturligt språk. Han har grundat flera teknik och innovationsbolag och arbetar sedan 2012 som utvecklingschef på Google, med särskild inriktning mot AI.
Tankarna rör sig inom det idékomplex som kallas transhumanism – en intellektuell social rörelse som förespråkar att mänskligheten ska förbättra sig själv och sin omgivning med hjälp av teknologi och vetenskap. Målet är inte evolutionens slut, utan dess acceleration. Eftersom singulariteten innebär just radikal förändring ses den av många transhumanister som något djupt eftersträvansvärt.
I Ray Kurzweils vision kommer människan inte att ersättas av maskiner – utan integreras med dem. Våra hjärnor kommer att kopplas upp mot molnet och mot artificiella intelligenser, genom implantat som förstärker minne, språkförmåga, inlärning och känsloreglering. Inom transhumanismen beskrivs evolutionen som en slumpartad och ineffektiv process. Den borde, menar Ray Kurzweil och likasinnade, kunna styras bättre – med hjälp av AI, nanoteknologi och genetisk ingenjörskonst. Det är tekniken som ska fullborda det som naturen bara påbörjat.
Singulariteten skulle i sådana fall helt enkelt vara ett slags nästa steg i evolutionen – inte ett brott med det biologiska, utan en teknologisk fortsättning. Det är nu människan befrias från sina kroppsliga begränsningar. Genom nya upptäckter och uppfinningar inom bioteknik och nanoteknologi kommer vi att kunna övervinna både åldrande och död, menar transhumanisterna.
Framtidsvisionerna stannar inte vid spekulationer. De omsätts också i konkreta, ibland drastiska, livsstrategier. Ray Kurzweil själv intar över 100 kosttillskott om dagen – inte för hälsans skull i egentlig mening, utan för att ”hålla sig vid liv tills teknologin löser döden”. Han är inte ensam. Tunga namn som Sam Altman, Peter Thiel och Elon Musk delar både optimismen och målbilden.
Vi är biologiskt kodade för katastrof
Transhumanister ser inte bara framåt – de blickar också bakåt, och ser en historia som präglas av ständig teknologisk förbättring. Det finns, i deras ögon, en tydlig linje: från tryckpressen till bredbandet, från skrivmaskinen till röststyrning, från encyklopedin till AI-assistenten. Varje teknologiskt språng har gjort världen mer tillgänglig, kunskap mer spridd, människan lite mindre begränsad.
En stor del av Ray Kurzweils senaste bok går ut på att motbevisa den allmänna uppfattningen att världen är på väg åt fel håll. I exempel efter exempel visar han att gemene mans uppfattning om sakernas tillstånd är byggda på missuppfattningar eller felslut. Särskilt hård är han mot nyhetsmedierna, vars rubriker enligt honom fylls med svärta inte för att världen är nattsvart, utan för att larm säljer.
Ray Kurzweil förklarar fenomenet i evolutionära termer: våra hjärnor är programmerade att reagera på fara. Det har gynnat vår överlevnad att uppmärksamma hot, inte gradvisa förbättringar. Problemet är bara att det mänskliga varseblivningssystemet inte hängt med i utvecklingen. Vi är biologiskt kodade för katastrof – och dåligt rustade att se framsteg när de sker långsamt.
Vilken tur då att Ray Kurzweil ser hur det verkligen ligger till. Han och hans anhängare menar att sammansmältningen mellan människa och maskin kommer att leda till förbättrade kognitiva förmågor och därmed kraftigt höjd livskvalitet.
Ray Kurzweil har, föga förvånande, sina kritiker. Flera kognitionsvetare har ifrågasatt hans mest långtgående påståenden och menar att de visar på en övertro – eller rentav består av vilseledande förenklingar. Vi är, menar de, fortfarande långt ifrån att förstå vad medvetande är, än mindre hur det skulle kunna replikeras i en maskin.
Andra kritiker är mindre fokuserade på neurovetenskapen och mer oroade över vad som hamnar i skuggan av de teknologiska löftena. De medger gärna att Ray Kurzweil har en sällsynt förmåga att göra komplex teknik begriplig, men pekar på hur både han och andra transhumanister tenderar att blunda för sociala, ekonomiska och institutionella dimensioner. Vad händer med arbetsmarknaden när AI tar över allt fler uppgifter? Vem styr tekniken – och vilka värderingar kodas in i den? Och den kanske mest laddade frågan: Vad händer när de värderingar som styr utvecklingen inte längre är mänskliga? En superintelligens kommer troligtvis att ha helt andra mål än en individuell människa, eller mänskligheten i stort.
Historien ger oss anledning till ödmjukhet
Även om Ray Kurzweil medger att vi inte kan veta vad som väntar bortom singulariteten är han övertygad om att riskerna kan förutses, hanteras och minimeras – förutsatt att vi agerar i tid. Den teknologiska utvecklingen får inte lämnas vind för våg. Den måste kanaliseras, styras, kontrolleras. ”Om vi misslyckas”, skriver Ray Kurzweil, ”hotas själva vår existens.”
Historien ger oss anledning till ödmjukhet. Den visar gång på gång att vi inte alltid förstår konsekvenserna av våra handlingar, och än mindre av våra uppfinningar. Den visar också, med obehaglig tydlighet, att människor – även de med de bästa avsikter – gör fel, missbedömer, eller helt enkelt ändrar sig.
År 2018 lovade Google, där Ray Kurzweil är utvecklingschef, att aldrig använda eller utveckla AI för skadliga syften. I företagets offentliga riktlinjer förbjöds uttryckligen både vapen och övervakningsteknik. Sju år senare har den formuleringen försiktigt raderats. Förra året ändrade också Open AI – företaget bakom Chat GPT – i sin användningspolicy. De raderade de formuleringar som tidigare förbjöd militärt bruk av deras AI. Kort därefter skrev bolaget kontrakt med Anduril, som bland annat utvecklar drönare och säljer militär utrustning till det amerikanska försvarsdepartementet.
Att de som talar mest passionerat om framtidens möjligheter också ofta är dem som säljer den teknik som ska ta oss dit är knappast någon tillfällighet. Ändå ska optimismen inte underskattas. I en tid präglad av krigsrubriker, klimatpanik och politisk instabilitet fungerar framtidstro nästan som en elchock. Den kan inge hopp, men också förlamning. Medan många ser ett världsläge i tilltagande fara talar transhumanismen om en ny era av överflöd, intelligens och teknologiskt driven transcendens.
Ray Kurzweil beskriver ofta singulariteten inte bara som en önskvärd framtid, utan som en oundviklig sådan. Och här börjar den transhumanistiska visionen likna något mer än teknikstrategi. Det messianska tonfallet är svårt att missa. Människan placeras – precis som i den bibliska berättelsen – i centrum. Vår roll, skriver Ray Kurzweil, är att övergå från att vara djur med biologiska hjärnor till att bli transcendentala varelser vars tankar och identiteter inte längre är fjättrade av vårt biologiska arv.
AI, i denna vision, är inte bara ett verktyg – utan nyckeln till frälsning. Det kommer att bota sjukdomar, lösa klimatkrisen, uppfinna nya energiformer och besegra döden. Det kommer inte bara att lösa sig. Det kommer att bli bättre än bra.
Håller på att bli verklighet
Att Ray Kurzweil blivit berömd för sina förutsägelser betyder inte att han alltid träffat rätt. Det betyder snarare att han inte tvekat inför att formulera storslagna och spekulativa uttalanden om vart den teknologiska utvecklingen är på väg – och dess konsekvenser för mänskligheten. Men i rättvisans namn har Ray Kurzweil hållit fast vid sina prognoser i över 30 år. När han på 1980-talet talade om intelligenta maskiner uppfattades hans idéer som science fiction och rena fantasier. AI är inte längre en dröm, utan en del av vardagen – en som formar miljarder människors liv, ofta på sätt som vi ännu inte förstår vidden av.
Många av de teknologier som en gång bara fanns i transhumanismens framtidsberättelser är i dag under aktiv utveckling – stödda av investerare, marknader och myndigheter. Och de som förr sågs som visionärer i teknikens utkanter har i många fall nu tagit plats vid rodret. De leder globala företag, utvecklar framtidens system, påverkar policy – eller skriver om reglerna helt. Så även om man förhåller sig skeptisk till transhumanismens framtidstro bör man kanske ändå lyssna. Inte för att allt kommer att bli som de säger – utan för att det som de säger, i allt högre grad, håller på att bli verklighet.
Ingrid Dunér är doktor i idéhistoria.