Ny studie: Folk litar mer på AI än sig själva

Människor som fick tillgång till AI svarade på fler frågor, men hade bara en tredjedel så många rätt som deltagare utan. Samtidigt blev de betydligt säkrare på sina svar, enligt en ny rapport.

Utan ekonomiska incitament var 27,5 procent av svaren korrekta bland deltagarna utan AI-stöd. I grupperna med AI var andelen 9,2 procent. Den självskattade säkerheten steg samtidigt från 29,6 till 75,9 på en 100-gradig skala.

Forskarna genomförde fem experiment med 3 132 deltagare. De fick svara på sex svåra frågor om detaljer i filmer och kunde också svara ”jag vet inte”. Vissa fick tillgång till AI-råd, andra fick klara sig utan.

Resultaten ska däremot tolkas försiktigt. Rapporten är ett tidigt forskningsresultat, frågorna gällde ett smalt och konstlat område och AI-svaren hade valts för att nästan alltid vara fel. De ekonomiska insatserna var dessutom små: tio cent för rätt svar och lika stort avdrag för fel. Studien ska därför inte förstås som att AI generellt försämrar människors svar.

Svårt att ha fel

Men mönstret väcker frågor om vad som händer när ett självsäkert AI-svar krockar med människans omdöme. AI-grupperna svarade på fler frågor men fick ändå färre rätt. Forskarna anser att felaktiga råd ibland kan ha ersatt svar som annars blivit korrekta.

När rätta svar belönades använde deltagarna AI mer sällan och träffsäkerheten förbättrades. Trots det var de klart mindre benägna att säga ”jag vet inte” än deltagare utan AI.

Forskarna menar att ett övertygande AI-svar kan få människor att avsluta sin egen prövning för tidigt. Risken är inte bara att AI fyller en kunskapslucka med fel information. Den kan också tränga undan kunskap – och befogad tvekan – som människan redan har.