Professor: Den rigtige brug af kunstig intelligens kan forenkle sagsbehandlingen på handicapområdet

Sirikommissionen afholdte for nyligt konference i Folketinget, hvor den præsenterede sin rapport og anbefalinger om brug af algoritmer og kunstig intelligens i velfærdsstaten.

Tillid var et hovedtema og denne tillid skal opnås med fokus på beslutningsstøtte, bred inddragelse, dataetiske konsekvensvurderinger, kvalitetsforbedringer, mulighed for fravalg og fuld transparens. 

I sidste uge fik vi så den nye digitaliseringsstrategi fra regeringen. Den har mange gode takter, men opmærksomheden på transparens og at kunstig intelligens ikke altid er den rigtige løsning på alle problemer er ikke så udtalte.

Rapporten fra Siri-kommisionen henviser til forskning i min sektion for software, data, personer og samfund ved Datalogisk Institut på Københavns Universitet, og jeg fik lov at fortælle om ansvarlig udvikling af kunstig intelligens.

Algoritmer eller kunstig intelligens?

Én af mine kæpheste er, at vi er nødt til at være mere præcise, når vi snakker om algoritmer og kunstig intelligens. Klassisk set er det to vidt forskellige ting:

En algoritme er en metode til at løse et generelt problem, som kan implementeres, så man finder det rigtige svar hver gang. Som eksempelvis at finde de arbejdsløse blandt jobcenterets sager, der ikke har tidligere ansættelser på deres CV.

Kunstig intelligens baserer derimod sit svar på en ufuldstændig matematisk model. Det kan for eksempel være en vejrudsigt, der er baseret på regler for betydningen af udvikling af tryk, vind og luftfugtighed og målinger fra vejrstationer. 

Det kunne også være en prognose for tilbagefald ved en given kræftbehandling, der baserer sig på et ekspertsystem og viden opnået fra kliniske forsøg. Eller en forudsigelse af langtidsledighed, baseret på en statistisk model lavet ud fra historiske data fra jobcentre. 

Løbet er nok kørt i forhold til at få folk til skelne mellem kunstig intelligens og algoritmer. Men uanset hvad vi kalder det, er det stadig vigtigt at huske på, at kunstig intelligens er baseret på ufuldstændige modeller af virkeligheden.

Transparens er vigtigt

Opmærksomhed på disse begrænsninger er en helt afgørende forudsætning, for at kunne beslutte hvilke problemer vi skal forsøge at løse med kunstig intelligens, og hvordan vi skal agere på de svar systemerne giver os. 

Kunstig intelligens baserer sit svar på en ufuldstændig matematisk model

Thomas Hildebrandt
Professor, Københavns Universitet

Det drejer sig ikke bare om at have gode nok modeller, rigeligt med data og regnekraft nok. Nogle typer af data er utilstrækkelige, uanset hvor mange man har. Vejrudsigter fra gamle aviser er ikke nok til at forudsige vejret i morgen for en specifik by, uanset hvor mange aviser, vi baserer modellen på.

Det viser også hvorfor transparens vigtig, men kan være svær at opnå i praksis: Hvis vi skal have tillid til systemet, skal vi vide hvor regler og data kommer fra, om de er lovlige og etisk forsvarlige at anvende til det formål, og om de stadig er tidssvarende.

Ønsker vi et samfund, hvor data fra elmålere eller et opslag om en ferie på Facebook kan føre til en undersøgelse for socialt bedrageri? Det gør jeg ikke selv, men jeg kunne godt tænke mig at viden om elforbruget kunne bruges til at planlægge el-forbruget og forsyningen mere bæredygtigt.

Vi skal også have en forklaring på, hvorfor systemet foreslår en løsning, ikke kun for bedre at kunne acceptere den, men også for bedre at kunne udfordre og kasserer den, hvis forklaringen giver mistanke om, at modellen tager fejl.

Endelig skal vi vide, om modellen er implementeret på en tillidsværdig og verificerbar måde, og hvem der er ansvarlig for dette.

Fundament for menneskers beslutninger

En anden vigtig pointe er, at anvendelser af kunstige intelligens spænder fra at forstå fortiden og nutiden, til at prøve at forudsige fremtiden og bruge disse forudsigelser til at foreslå handlinger, der har konsekvenser for den enkelte borger og ændrer på fremtiden. 

Alle typer anvendelser kan være relevante og nyttige, men i den fremtidsskuende ende af spektret skal vi være særlig opmærksomme på, hvordan vi validerer præcisionen og om forslag til handlinger fejler på den sikre side eller ej.

Ønsker vi et samfund, hvor data fra elmålere eller et opslag om en ferie på Facebook kan føre til en undersøgelse for socialt bedrageri? 

Thomas Hildebrandt
Professor, Københavns Universitet

Konkret viser arbejdet i min forskningssektion, at der er væsentlige udfordringer ved de foreløbige forsøg med udvikling og brug kunstig intelligens til at forudsige fremtiden for borgere.

Derimod er der stort potentiale i teknologien udviklet i EcoKnow forskningsprojektet sammen med startup-virksomheden DCR Solutions for at lave transparente modeller af lovgivningen, der kan indlejres i sagsbehandlings- og selvbetjeningssystemer, der kan hjælpe både borgere og sagsbehandlere med at overholde og kende mulighederne inden for loven.

Dermed kunne man løbende holde øje med og rette op på de dokumenterede problemer indenfor blandt andet handicapområdet.

Vi har også udviklet en prisvindende process-mining algoritme, der kan lave en model af sagsbehandlingen ud fra logfiler fra for eksempel sagsbehandlingssystemer. Til forskel fra tidligere algoritmer, kan mønstre i sagsforløb præsenteres forståeligt for sagsbehandlere.

Endelig er der også lovende resultater af den forskningsbaserede teknologi udviklet sammen med startup-virksomheden Vital Beats, der kan bruges til at forstå data fra smarte pacemakers til at forklare eller endda forudsige ildebefindende.

Fælles for alle eksemplerne er, at der i udviklingen, dokumentationen og anvendelsen er fokus på bred inddragelse af relevante aktører, transparens og at forstå komplekse data, sagsforløb og lovgivning, så mennesker kan træffe bedre beslutninger, der kan øge velfærden.

Mange af de spørgsmål, man bør stille i et AI-projekt, har jeg hjulpet med at opsummere i to udgivelser om kunstig intelligens (PAS 2500-1 og PAS 2500-2) fra Dansk Standard som kan hentes online og helt gratis – så det er bare at komme i gang!