Fri eller fængsel? Algoritmen bestemmer

“Bail is denied.” Vi kender alle scenen fra de amerikanske courtroom dramas. Dommeren afgør, om den anklagede skal tilbringe tiden før retssagen på fri fod mod kaution (bail), eller om vedkommende skal forblive fængslet, fordi risikoen for flugt eller nye lovbrud er for stor. 

Det er vanskeligt for dommeren at foretage en sådan risikovurdering, hvor en række forskellige faktorer indgår, og ofte begås der fejl. Derfor tog de amerikanske myndigheder for to år siden en algoritme til hjælp. 

Algoritmen gør, hvad algoritmer (blandt andet) er gode til – forudsige menneskers adfærd. Den analyserer halvanden million retssager i 30 delstater og finder de mest udslagsgivende faktorer, i alt ni af slagsen.

De inkluderer forhold som den konkrete anklage, straffeattest og alder. Faktorer som race, køn er udeladt. Resultatet er en risikoscore, PSA (Public Safety Assessment), dommeren bruger som vejledning i afgørelsen for den anklagede.

Evidence-based risk assessment, som metoden kaldes, bruges i dag af en række domstole i USA, men den er ikke fejlfri. Tidligere på året blev Lamonte Sims løsladt mod kaution trods flere nylige voldsdomme, men han havde en god PSA-score. Få dage senere slog han et menneske ihjel under et røveriforsøg. 

Hvem begik en fejl, algoritmen eller mennesket? Det er per definition mennesket; algoritmen gør kun, hvad den får besked på. I dette tilfælde fejlede mennesket to steder.

Dommeren stolede for meget på algoritmen i stedet for at danne sig sin egen mening. Det er et generelt problem med sådanne værktøjer, at mennesker, inklusive højtuddannede jurister, tøver mod at gå imod en anbefaling, der er baseret på videnskab. Også selv om det udtrykkeligt kun er en vejledning. 

Samtidig viste det sig, at Lamonte Sims’ PSA-score var forkert på grund af fejlagtige data. En medarbejder havde tastet et for lavt antal fængselsdage i straffeattesten.

Hvad kan vi lære?

Algoritmer er ikke orakler, men kun så gode som de mennesker, der respektive har udviklet og bruger værktøjet. Vi skal derfor lære at bruge algoritmer rigtigt, og det er en svær øvelse, vi først er i gang med at lære.

For den almindelige bruger, som dommeren i en retssag, er algoritmens udregninger en black box. Dommeren kan ikke gå tilbage og se, hvordan algoritmen er kommet frem til det givne resultat, men kan kun forholde sig til det endelige output.

Den situation kommer ikke til at ændre sig. Algoritmer bliver mere effektive for hver dag, der går, mens vores hjerner udvikler sig i evolutionstempo. Vi skal derfor have udviklet en metode, en beslutningsteori, for, hvordan vi håndterer data, analyser og resultater.

Ellers får algoritmerne får meget magt, eller rettere: Menneskerne bag.

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *