AI behöver fler trafikregler – inte fler moralfilosofer

Hur ska en självkörande bil agera om den måste välja mellan två dåliga alternativ? Den typen av moraliska tankeexperiment har länge dominerat AI-etiken. Två forskare från universiteten i Oxford och Warwick menar att frågan har fått alltför stort inflytande över debatten om hur artificiell intelligens ska regleras.

I en artikel i Journal of Business Ethics argumenterar de för att regleringen i stället bör utgå från det samhällssystem där tekniken används. En självkörande bil ingår i trafiksystemet, ett diagnosverktyg i sjukvården och en handelsalgoritm på finansmarknaden. Reglerna bör därför utformas för att systemen som helhet ska bli säkra, rättvisa och effektiva.

När AI påverkar människors beteende

Forskarna illustrerar problemet med en självkörande bil som måste välja mellan två cyklister, där den ena bär hjälm. Om bilen alltid ska minimera den omedelbara skadan blir den hjälmförsedda cyklisten den logiska personen att köra på. Konsekvensen av en sådan regel kan samtidigt bli att viljan att använda hjälm minskar. Därmed försämras trafiksäkerheten över tid. Reglering måste därför ta hänsyn till vilka incitament den skapar i hela systemet.

Ett annat exempel gäller ruttplanering. AI-styrda fordonsflottor kan minska köerna genom att leda trafik genom lugna bostadsområden. Den lösningen flyttar samtidigt buller, risker och utsläpp till de boende. Regleringen bör därför väga effektivitet mot hur kostnader och nyttor fördelas i samhället, skriver forskarna.

Resonemanget sträcker sig långt bortom trafiken. Samma princip bör, enligt forskarna, styra AI i sjukvården, rättsväsendet och finanssektorn. Frågan är inte främst hur en algoritm ska agera i ett enskilt dilemma, utan vilka institutioner och spelregler tekniken ska bidra till att bygga.