Algoritmer kan levere beslutningsstøtte til sagsbehandlere, men det kræver tillid til løsningen

Algoritmer og kunstig intelligens vil kunne hjælpe mange sagsbehandlere i det offentlige med beslutningsstøtte. Men hvis modtageren skal kunne have den nødvendige tillid til anbefalingerne, kræver det meget af løsningen. 

“Hvis en løsning skal levere værdifuld beslutningsstøtte ved hjælp af algoritmer eller kunstig intelligens, så er det afgørende, at arbejdet bygger på valide data af høj kvalitet. Det skal altid være det solide fundament. Men for at kunne identificere de valide data er det også vigtigt at forstå forretningen - altså at man har den faglige domæneviden for at kunne levere anbefalinger, der giver mening for modtageren,” siger Christian Binggeli-Winther, som er direktør for data og analyse i KMD. 

“Samtidig skal fx en sagsbehandler på et jobcenter kunne forstå, hvorfor algoritmerne anbefaler en bestemt tilgang for at hjælpe en ledig borger tilbage i job, hvis man skal opnå den nødvendige tillid til løsningen. Men i sidste ende vil det altid være sagsbehandleren, der træffer beslutningerne, når vi fx taler så komplekse situationer som i et jobcenter. Algoritmerne kan levere støtten, men ikke beslutningen,” siger han. 

Peter Damm, som er leder af Center for Applied AI i KMD, er enig i den vurdering:
“Som brugere skal vi have tillid til, at systemet opfører sig som forventet, hver eneste gang vi bruger det. Samtidig skal vi kunne forstå, hvad der foregår, og det gælder ikke mindst, når systemet anvender kunstig intelligens. Hvis systemet kommer med en anbefaling, så skal et menneske kunne relatere til den anbefaling og skal kunne forstå, hvor den anbefaling kommer fra. Kun på den måde kan man skabe den nødvendige tillid til brugen af kunstig intelligens,” siger han.

Kunstig intelligens skal kunne forklare sine anbefalinger

KMD har arbejdet med kunstig intelligens og algoritmer i flere it-løsninger og deltager også i forskningsprojektet EcoKnow, hvor kunstig intelligens skal hjælpe arbejdsløse hurtigere tilbage i job. Samtidig har man et tæt samarbejde om udviklingen af kunstig intelligens med ejeren NEC’s laboratorier i Tyskland. Erfaringerne viser, at behovet for en kunstig intelligens, der kan forklare sine anbefalinger, er voksende.

Som sagsbehandler i et jobcenter kan man fx opleve, at den kunstige intelligens i systemet kan komme med en vurdering og en anbefaling: Den kunstige intelligens vurderer, at en sag kommer til at tage ekstra lang tid, men foreslår en given aktivitet, som kan mindske tidsforbruget. Den påstand kan være svær at forstå og stole på uden yderligere forklaring. Derfor skal den kunstige intelligens kunne forklare, hvorfor denne anbefaling eller forudsigelse er opstået. Og det skal kunne forklares, så sagsbehandleren forstår det.

“Derfor skal den kunstige intelligens kunne forstå den kontekst, som sagsbehandleren sidder i. Det vil sige, at systemet skal kunne understøtte sin beslutning baseret på den domæneviden, som sagsbehandleren sidder med. Systemet skal kunne tale brugerens sprog. Derfor skal vi bygge domæneviden direkte ind i it-systemet. Det er vi gode til i normale it-systemer, og nu skal domæneviden, forståelse af verden og kontekst også bygges ind i avancerede it-systemer med kunstig intelligens bygget på algoritmer,” siger Peter Damm.

Du kan møde både Christian Binggeli-Winther og Peter Damm i hver deres arrangementer på OffDig Week 2020, hvor de taler meget mere om algoritmedrevet beslutningsstøtte i det offentlige.