Det här missar nästan alla om AI

Ekonomer pratar ibland om ”Anna Karenina-principen”. Den store ryske författaren Leo Tolstoj gjorde sig 1878 skyldig till världslitteraturens mest kända öppningsmening. Han inledde sin stora kärleksroman Anna Karenina med orden: ”Alla lyckliga familjer liknar varandra, varje olycklig familj är olycklig på sitt eget vis.”

Leo Tolstojs poäng var enkel. För att ett äktenskap ska fungera måste många saker stämma samtidigt: tillit, sexliv, ekonomi, hälsa, trohet, värderingar, känslor och tajmning. Saknas bara en av dessa faktorer (till exempel att mannen i familjen råkar ligga med barnens guvernant …) kan allt falla. Misslyckanden kan se ut på tusen olika sätt.

Framgång kräver att alla villkor uppfylls samtidigt.

Därför liknar de lyckliga familjerna varandra.

Managementforskare har lyft fram att samma sak ofta gäller i företagsvärlden. Framgångsrika bolag delar vissa grunddrag: de har en produkt som fungerar, leveranser som kommer fram, en kompetent ledning, tillgång till kapital och en organisation som håller ihop. Eftersom alla dessa delar måste fungera samtidigt ser lyckade företag ofta rätt lika (och kanske lite tråkiga?) ut.

De företag som misslyckas tenderar att bli bättre romaner. Här finns ju fler möjliga intriger: leverantörer som försvinner, finansiering som torkar ut, fabriker som aldrig kommer upp i produktion, interna konflikter, ett varumärke som tappar kraft eller en affärsmodell som springs förbi av ny teknik. Det räcker att en enda länk brister.

Och det gör den ofta på sitt alldeles egna sätt. Som Leo Tolstoj skulle säga: ”Varje olycklig familj är olycklig på sitt eget vis.”

Jared Diamond, professor i geografi vid UCLA, använde den ryske författarens observation i sin bästsäljande bok Vete, vapen och virus 1997. För Jared Diamond blev ”Anna Karenina-principen” ett sätt att förklara varför vi rider på hästar – och inte på zebror. Ja, varför domesticerade människan en gång i tiden kor och får – men inte antiloper och gaseller? undrar Jared Diamond.

Hans svar bygger på Leo Tolstoj. För att ett djur ska kunna bli ett tamdjur måste många egenskaper finnas samtidigt, skrev Diamond: djuret måste tåla människor, acceptera hierarkier, kunna föröka sig i fångenskap, växa tillräckligt snabbt och inte få panik när något oväntat händer.

Saknas bara en av dessa egenskaper faller hela projektet.

Zebror kan till exempel vara starka och snabba. Men de har ett temperament som gör dem nästan omöjliga att tämja: de biter, sparkas och blir alldeles för stressade. Antiloper springer snabbt, men många arter är så nervösa att de aldrig kunnat bli tamdjur. Bara 14 av världens 148 stora landlevande däggdjursarter har därför kunnat bli tama och användas av människor. De andra föll bort.

Var och en av sin egen anledning.

Just den här aspekten saknas ofta i dagens debatt om AI. Robotforskaren Kate Darling vid MIT Media Lab argumenterade redan 2021 i sin bok The new breed för att vi borde sluta jämföra AI med människor och i stället borde jämföra AI med djur. Ja, dessa maskiner är ”intelligenta” men varför utgår vi (felaktigt) från att den enda sortens ”intelligens” på den här planeten är mänsklig intelligens?

Hästar kan läsa mänskliga signaler och samarbeta på ett sätt som kräver betydande social intelligens. Delfiner navigerar och jagar med hjälp av ett biologiskt sonarsystem som (hittills) överträffar det som mänsklig militärteknologi har kunnat skapa. Men inte är dessa djur för den skull som vi människor!

De är något eget.

(Precis som intelligenta växter – som kommunicerar kemiskt med sina grannar och skickar signaler genom sina rotsystem – också är något eget, skulle en vän av ordning kunna påpeka.)

Kate Darling går inte så långt i sin bok. Hennes poäng är mycket mer praktisk:

Hästar drog våra plogar, hundar vaktade våra hem och brevduvor bar våra meddelanden. Djuren ersatte ibland mänsklig arbetskraft, men de förstärkte framför allt mänskliga förmågor genom att komplettera oss. Applicerar man Kate Darlings perspektiv på dagens AI-debatt blir frågan inte bara vilka jobb AI kan ta över, utan hur dess förmågor bäst kan kombineras med människans.

Men för att företag ska kunna fatta sådana beslut måste man först veta en sak: Går AI-tekniken att tämja? Är den en zebra – eller en arbetshäst?

I en ny studie, Towards a science of AI agent reliability, argumenterar forskare vid Princeton University – bland dem Stephan Rabanser, Sayash Kapoor och datavetenskapsprofessorn Arvind Narayanan – för att vi hittills har mätt AI på fel sätt.

AI har främst bedömts efter ett enda mått: hur ofta systemen klarar en uppgift i genomsnitt. Den siffran har stigit snabbt och gett intrycket att tekniken redan är redo att ta över allt fler arbetsuppgifter.

Men i verkliga organisationer räcker genomsnitt ofta inte.

”På dagens flygning räknar vi med en landningsframgång på omkring 93 procent” har ingen flygkapten någonsin sagt. Varför? Därför att flygindustrin inte bedöms efter genomsnitt. Ingen skulle sätta sig på ett sådant plan.

I vissa branscher fungerar i genomsnitt utmärkt. En hedgefond kan förlora pengar vissa dagar och ändå vara en bra investering i längden. Det är snittet över tid som avgör.

Men Princetonforskarna menar att AI snarare bör jämföras med flyg eller kärnkraft. I sådana system räcker det inte att något fungerar ”ofta”. Det måste fungera pålitligt varje gång.

Därför föreslår de att AI bör utvärderas efter flera dimensioner av tillförlitlighet: konsekvens, robusthet, kalibrering och säkerhet.

Problemet är att forskarna identifierar ett gap mellan kapacitet och tillförlitlighet. Vi kan kalla det för ”zebra-häst-gapet”.

AI blir snabbt bättre på att vara imponerande – snabb, stark och elegant som en zebra. Men det betyder inte att AI också är en pålitlig arbetshäst.

Kapaciteten förbättras snabbt just nu. Tillförlitligheten gör det inte i samma takt. Den släpar efter. Och mäts framför allt inte lika mycket.

Detta kan vara en av de viktigaste AI-insikterna för företagsledare just nu. För att AI-tekniken ska bli ett verkligt arbetsverktyg måste många saker fungera samtidigt: systemen måste vara konsekventa, fungera även när omständigheterna förändras, kunna signalera när de är osäkra och göra fel som människor kan hantera.

Saknas bara en av dessa egenskaper blir systemet svårt att lita på i praktiken.

Leo Tolstoj skulle ha känt igen logiken.

Den avgörande frågan är därför inte hur smart AI är.

Utan om AI går att tämja.