KMD: Kunstig intelligens må ikke føre til uforklarlige afgørelser

Af Hans Jayatissa
Teknologidirektør i KMD

Digitalisering og kunstig intelligens er emner, der er meget oppe tiden i den offentlige debat – ikke mindst i forhold til den offentlige sektor. KMD er som Danmarks største it-virksomhed en stor leverandør af netop digitale løsninger til en lang række offentlige instanser.

Derfor er det selvfølgelig en debat, vi i KMD følger ganske tæt. 

Kunstig intelligens har potentialet til at sikre hurtigere, mere ensartede og mere retfærdige afgørelser.

Det næste oplagte skridt i digitaliseringen af den offentlige sektor er derfor at inddrage kunstig intelligens til brug ved afgørelser af sager i den offentlige sektor. En udvikling, der formentlig kan lyde problematisk i nogens ører.

Derfor skal udviklingen selvfølgelig ske med krav og omtanke, for brugen af kunstig intelligens har også et potentiale til at diskriminere og umyndiggøre borgerne.

Det næste oplagte skridt i digitaliseringen af den offentlige sektor er derfor at inddrage kunstig intelligens til brug ved afgørelser af sager i den offentlige sektor. 

Hans Jayatissa
Teknologidirektør i KMD

Men hvad er kunstig intelligens i sagsbehandlingen egentlig? Og hvilke strenge krav skal vi som samfund stille til implementeringen af kunstig intelligens i sagsbehandlingen?

Fortidens data forudsiger fremtiden
Jeg har valgt at fokusere på den gren af kunstig intelligens, der hedder assisteret maskinlæring.

Det er typisk den type teknologi, man vil anvende til sagsbehandling, og den indebærer, at en computer groft sagt bruger fortidens data til at forudsige fremtiden.

Det sker, ved at computeren processerer en lang række eksisterende eksempler på input og svar. Det kunne eksempelvis være, at computeren skal finde ud af, om et konkret billede er et billede af en kat.

På baggrund af et stort antal billeder, samt oplysningen om, hvorvidt de viser en kat eller ej, danner computeren en matematisk model, der så efterfølgende på nye billeder kan vurdere, hvorvidt hvert af disse nye billeder forestiller en kat eller ej.

I en offentlig kontekst kan man tænke, at man fodrer maskinen med tidligere sager og sagsafgørelser, og på baggrund af dem skaber en model til at foretage lignende afgørelser på nye sager i fremtiden.

Så langt, så godt. Men man skal stille to kritiske spørgsmål til assisteret maskinlæring:

Hvilke eksempler er den matematiske model blevet skabt på grundlag af? Og hvordan er computeren kommet frem til sit svar?

Og så kommer vi til det med krav og omtanke.

En uønsket sammenhæng
Med hensyn til det første spørgsmål: Enhver skævhed i de eksempler, modellen er skabt på grundlag af, vil blive reflekteret i modellen.

Hvis vi eksempelvis forsøger at træne en model til at forudsige, om en byggesag bliver godkendt, og vi kun skaber modellen ud fra data om sager for étplanshuse, så vil modellen være dårlig til at afgøre byggesager for toetagershuse eller udestuer og så videre.

Det vil altså være relevant at korrigere for en sådan skævhed ved at medtage alle relevante typer af byggesager. Dette problem kendes også som udvælgelsesbias.

Men modellen kan også fange skævheder, som er irrelevante. Hvis eksempelvis ansøgerens højde eller hårfarve tilføjes som parameter, ud over de almindelige informationer om byggesagen, så vil datasættet måske vise, at lyshårede over 180 cm oftere får en byggesag godkendt.

Det vil sige, at en tilfældig sammenhæng indføres i modellen. Computeren vil dermed være mere tilbøjelig til at give en positiv afgørelse til byggesager fra høje, lyshårede borgere.

Dette er en uønsket sammenhæng, der ikke bør indføres i modellen. Problemet omtales også som en ikke-kausal korrelation, altså at det ikke er højde og hårfarve, som er den ægte årsag til sammenhængen.

I de tilfælde, hvor denne type teknologi bruges til afgørelser eller råd til borgere, er det derfor væsentligt at skabe gennemsigtighed om følgende:

Hvilke eksempler er modellen blevet skabt på grundlag af? Hvis det eksempelvis kun er sager fra før 2017, så kan lovgivningen jo være ændret siden. 

Hvilke parametre fra eksemplerne er anvendt? Er der eksempelvis parametre, som er irrelevante for sagsmaterien?