KMD: Sådan skal kunstig intelligens bruges til beslutningsstøtte

DEBAT: Kunstig intelligens skal i sagsbehandling bruges til at give sagsbehandleren indsigt i relevant data, og på baggrund heraf træffes afgørelsen. Men der er faldgrupper, som vi skal tage højde for, skriver Hans Jayatissa.

Af Hans Jayatissa*
Teknologidirektør i KMD

For nylig havde jeg her på Altinget fornøjelsen af at reflektere over brugen af kunstig intelligens i offentlig sagsbehandling.

Der er dog stadigt er et stykke vej til at anvende kunstig intelligens til at foretage fuldt automatiserede afgørelser inden for det offentlige.

Til gengæld vinder det mere og mere frem at anvende kunstig intelligens til beslutningsstøtte for de medarbejdere, der træffer afgørelser i det offentlige.

Kunstig intelligens til beslutningsstøtte er dog heller ikke uproblematisk. For selv om det i sidste ende er en sagsbehandler, der træffer afgørelsen, så er der også her nogle faldgruber.

I denne klumme vil jeg derfor reflektere over, hvilke krav vi bør stille til kunstig intelligens til beslutningsstøtte.

Først skal man gøre sig klart, hvorfor man vil anvende beslutningsstøtte.

Er det, for at mindre rutinerede medarbejdere skal kunne træffe bedre afgørelser, er det, for at eksperter hurtigere kan få et overblik og på et mere oplyst grundlag træffe deres afgørelser, eller er det, fordi systemet kan komme med forslag til bedre afgørelser end en fuldt oplyst ekspert.

Det sidste er i dag meget svært at opnå, og der er indtil videre meget få eksempler på, at det er lykkedes i en bred praktisk anvendelse. Dette vil jeg derfor ikke behandle yderligere her.

Beslutningsstøtte er en hjælp
Hvordan fungerer et system til beslutningsstøtte så? Lad os bruge en GPS som eksempel. Det kender de fleste af os fra eksempelvis vores biler.

En GPS kan betragtes som et beslutningsstøttesystem til at finde vej.

Hvis man er et sted, hvor man aldrig har været før – altså er uerfaren – så vil man som regel følge GPS'ens rute og komme frem til målet. Man har ikke nødvendigvis fulgt den optimale vej, men man er kommet frem.

Hvis man til gengæld er i sin hjemby – altså er ekspert – så vil man ofte kunne finde en bedre vej end GPS'ens forslag.

Man bruger sin erfaring med, hvorledes lyskrydsene skifter, antal fodgængere, vejens forløb, tidspunktet etc. Her har vi altså de to yderpunkter med GPS og uden GPS.

Men hvis man til gengæld i sin hjemby bruger GPS'ens visning af aktuelle køer til at vælge den optimale rute på det pågældende tidspunkt, ja, så giver GPS'en en information, som man som ekspert kan anvende til at komme med en endnu bedre løsning, da den kan erstatte en muligvis utidssvarende antagelse om bilkøer med aktuelle fakta.

System skal ikke foreslå afgørelser
Hvis vi bringer denne tankegang over i en sagsbehandlingsverden, så handler god beslutningsstøtte således om at tilvejebringe et så oplyst grundlag som muligt for en sag.

Dette vil give den erfarne sagsbehandler mulighed på at basere sin vurdering på aktuelle fakta og mindre på egne erfaringer, der kan være utidssvarende eller have en utilsigtet skævhed (bias), og den uerfarne vil være mindre hæmmet af sin manglende erfaring.

Det er til gengæld mindre vigtigt, om systemet kommer med et forslag til en afgørelse, og i mange tilfælde er det at foretrække, at det ikke sker.

Den uerfarne sagsbehandler vil nemlig have en tendens til at vælge systemets forslag fremfor at tænke selv, hvilket reelt betyder, at systemet foretager afgørelsen.

Omvendt vil eksperten skulle bruge tid på at argumentere for en eventuel afvigelse fra systemets forslag.

Det gode eksempel
Tilvejebringelse af et oplyst grundlag for en sag handler om at finde frem til de karakteristika, der afgør sagen – og her er brugen af kunstig intelligens oplagt.

Der kan for eksempel være tale om at anvende en intelligent søgemaskine, der på baggrund af den gren af kunstig intelligens, der hedder naturlig sprogforståelse, samt avanceret analyse kan søge alle historiske sager igennem og præsentere de få sager, som måtte ligne den aktuelle sag.

Søgemaskinen giver således ikke forslag til en afgørelse, men den klæder sagsbehandleren på til at kende præcedens og historik på området.

Et andet eksempel er, når vi i KMD hjælper myndighederne til at identificere webshops, der sælger specifikke, problematiske produkter som for eksempel farligt legetøj, ulovligt fyrværkeri eller produkter, der – af sikkerhedsmæssige årsager – er tilbagekaldt af producenten.  

Her anvendes kunstig intelligens i form af avanceret tekst- og billedsøgning til at identificere hjemmesider, der potentielt sælger de pågældende produkter.

Bruttolisten af hjemmesider gives til en sagsbehandler, der så efterfølgende foretager den faglige vurdering uden manuelt at skulle pløje hele internettet igennem.

Transparens i systemet
På denne måde anvendes den kunstige intelligens således ikke til at foreslå en afgørelse af sagen, men til at fremhæve karakteristika og skabe indsigter.

Disse præsenteres for sagsbehandleren, der så efterfølgende på baggrund af dette grundlag afgør sagen.

Dette kan dog stadigt være problematisk, da systemet enten kan frasortere væsentlige relevante fakta eller præsentere fakta, der er irrelevante for sagen. Sidstnævnte måske ovenikøbet i en sammenhæng, så sagsbehandleren bliver vildledt til at tro, at de er relevante.

Det må derfor kræves, at systemer til beslutningsstøtte for det første ikke foreslår en afgørelse af en sag uden fuld transparens af, hvordan systemet er kommet frem til denne afgørelse, og for det andet ikke alene præsenterer et grundlag for en afgørelse, men også præsenterer forklaringerne på, hvorfor det netop er disse karakteristika og indsigter, der er relevante for afgørelsen.

Det skal desuden være transparent for sagsbehandlerne, hvordan systemet kommer frem til et sådant grundlag.

...

* Indlægget er ændret 14:30, 20. februar 2020. Det sidste afsnit var ved en fejl ikke med i den tidligere udgave.

Forrige artikel KL: GDPR giver en unødvendig forsigtighedskultur KL: GDPR giver en unødvendig forsigtighedskultur Næste artikel DI: Politisk opbakning til grøn teknologi må ikke kun handle om pris DI: Politisk opbakning til grøn teknologi må ikke kun handle om pris
Den lange rejse mod eksponentiel vækst

Den lange rejse mod eksponentiel vækst

Rent vand ligger højt på listen over klodens største udfordringer; klimaforandringer, forurening og et voksende forbrug vil presse forsyningerne alvorligt i de kommende år. Danske Aquaporin har udviklet et filter til afsaltning og rensning af vand, der er ekstremt effektivt. Nu handler det om at få produktionen op i den helt store globale skala.