Sådan kommer vi i gang med AI uden at svække borgernes tillid

Kunstig intelligens (AI) vil i de kommende år fylde markant mere i danskernes interaktion med stat og kommuner. Derfor bliver det afgørende at sikre, at borgerens interesser er i centrum ved udviklingen af offentlige løsninger i fremtiden.

Hvis vi skal opnå et godt resultat med AI, skal teknologien implementeres 'i borgerens tjeneste', hvor de digitale løsninger bliver set som en meningsfuld støtte frem for en digital kontrolinstans eller effektiviseringsgevinst, der leverer maskine-resultater uden hensyntagen til den enkelte.

Når vi, i udviklingen af teknologier, tager udgangspunkt i borgernes behov, kan vi sikre, at innovation arbejder til fordel for alle, og at AI opfattes som en gevinst for der enkelte og dernæst for samfundet.

”For at opnå succes med AI-baserede løsninger handler det i høj grad om tillid og ansvarlighed mellem udviklere og brugere. Ved at inkludere disse to elementer i overvejelserne inden udviklingen af en AI-model kan man skabe en positiv brugeroplevelse og en win-win-situation,” siger Peter Grostøl, Principal Enterprise Architect i KMD.

Han fremhæver tre områder, som vi bør rette opmærksomheden mod:

• Start med at udvikle AI-baserede løsninger, der åbenlyst og direkte gavner borgerne.
• Undlad at skabe AI-løsninger rettet mod sårbare eller udsatte borgere.
• Sørg for at der opretholdes menneskelig kontakt, så de digitale resultater formidles fra person til person, ikke fra computer til person.

Menneske til menneske - ikke maskine til menneske

For at bevare en menneskelig dimension i vores digitale tid er det nødvendigt at sikre, at kommunikationen forbliver personlig. Selvom teknologi spiller en central rolle, må vi ikke glemme vigtigheden af menneskelig kontakt.

De digitale resultater bør derfor ikke altid formidles fra computer til person, men snarere fra person til person i de tilfælde hvor borgeren - med rette - ikke er tryg ved, at en algoritme har anvist en afgørelse, som borgeren ikke forstår.

Dette sikrer en mere nuanceret og empatisk forståelse af de komplekse udfordringer, som samfundet står over for, og giver plads til en inkluderende udvikling af teknologi. Ved at kombinere innovation med menneskelig interaktion kan vi skabe en fremtid, hvor teknologi tjener borgeren og samfundet positivt og retfærdigt.

Retfærdighed er også omdrejningspunktet i udviklingen af algoritmebaserede løsninger rettet mod svage eller sårbare personer. Økonomisk gevinst ved kortlægning af f.eks. nomadefamilier kan være til stede, men der kan også opstå alvorlige konsekvenser i forhold til, hvordan samfundet reagerer på en sådan løsning.

AI-baserede analyser kan nemlig direkte påvirke mennesker og deres rettigheder, hvilket betyder, at det etiske aspekt, herunder retten til privatliv, ikke-diskrimination og ytringsfrihed, er helt fundamentalt.

Peter Grostøl giver et eksempel på en enkel løsning, der samtidig kan være til fordel for både økonomien og borgeren:

”I NEC, der ejer KMD, har vi udviklet en løsning bestående af en sensor, der kan integreres i en sko og ud fra et stort datagrundlag vurdere, om du har fysiske skavanker. Derved kan du få en hjælpende hånd med at komme til fysioterapeut uden at komme direkte i kontakt med sundhedsvæsenet. En nem lille assistance, der kan have stor betydning for den enkelte person.” Læs artiklen her.

Han påpeger dog også, at det ikke nødvendigvis kun handler om den enkelte person, selv om det er udgangspunktet for vores tænkning, men om mere holistiske AI-modeller, der giver mulighed for at tackle komplekse udfordringer som f.eks. mangel på arbejdskraft i sundhedsvæsnet eller miljø- og energiproblematikker mere effektivt.

Sensoren i skoen hjælper den enkelte borger med at sætte fokus på uopdagede sygdomme/skavanker og kan anvise forebyggende muligheder, men det hjælper også et sundhedsvæsen, der i øjeblikket har en mangel på uddannede fysioterapeuter.

Ved at fokusere på løsninger som direkte og umiddelbart gavner den enkelte borger, kan vi begynde at have en meningsfuld debat om det potentiale, der ligger i AI, i stedet for kun at tale om de etiske udfordringer der helt berettiget fylder meget, når løsningerne retter sig mod svage borgere, mod områder hvor borgere åbenlyst kan komme i klemme, når algoritmerne ikke rammer 100 procent korrekt, eller mod overvågning og kontrol.

Et blankt stykke papir

Argumenterne om tillid og ansvar findes også i både regeringens digitaliseringsstrategi og EU’s AI Act, der begge prioriterer disse to elementer og vurderer dem som vigtige ingredienser i fremtidens AI-løsninger.

AI Act lægger desuden op til, at vi skal genbesøge de allerede anvendte algoritmebaserede løsninger, og i den forbindelse får vi en oplagt mulighed for at evaluere de eksisterende systemer, ud fra menneskelige forudsætninger og rydde op i dem, vi ikke længere bør (eller må) bruge.

Vi har tidligere skrevet en artikel om, hvad det kræver af Staten i forhold til AI Act. Den kan du læse her.

”Det er udmærket, at vi i forbindelse med AI Act skal genbesøge løsningerne, da refleksion og evaluering er vigtigt for at minimere skævheder. I fremtiden vil der også være et løbende behov for at gentræne, teste og gentænke algoritmer og AI-modeller for hele tiden at blive bedre og sikre at brugere og borgere kan forstå meningen og føler, at de bliver behandlet fair og retfærdigt,” siger Peter Grostøl.

I KMD har vi arbejdet med algoritmer, store datamængder og analyser, der involverer mennesker, i mange år. Hvis du er interesseret i at vide mere om AI-mulighederne, er du velkommen til at kontakte os.

Links:

Danmarks digitaliseringsstrategi – Ansvar for den digitale udvikling (digmin.dk)

Artificial Intelligence Act - Wikipedia