KP: Inddrag udsatte borgere i udtænkningen af arbejdsgange med kunstig intelligens

Kommunernes Landsforening har de seneste år søsat en række signaturprojekter med kunstig intelligens i de danske kommuner for at få erfaringer med anvendelse af teknologien. Målet er at blive klogere på teknologiens muligheder og begrænsninger.

Der er en forventning om, at kunstig intelligens vil kunne forbedre indsatsen, eliminere menneskelig bias, spare tid og dermed ressourcer.

Der er imidlertid ikke meget forskningsbaseret dansk viden om, hvorvidt kunstig intelligens kan leve op til disse mål. Derfor bør vi ikke kun afprøve teknologierne, men også forske i effekterne af at anvende kunstig intelligens på området for udsatte borgere. 

Vi bør vide, hvordan kunstig intelligens anvendes i praksis, og hvilken betydning det har for de udsatte borgere, samt hvilke krav den digitale virkelighed stiller til velfærdsprofessionelle, der skal (sam)arbejde med nye ”kolleger” i form af systemer, der indeholder kunstig intelligens.

Vi skal vide hvad vi taler om

I debatten om kunstig intelligens bruges ordet algoritmer ofte i en bred og uspecifik betydning – inklusiv flere debatindlæg i Altinget. Den uklare brug af begrebet algoritmer er med til at forvirre debatten.

Man må nemlig på socialområdet skelne mellem administrative beslutningsalgoritmer og prædiktionsalgoritmer:

Administrative beslutningsalgoritmer samkører relevante data om den enkelte borger for eksempelvis at kunne afgøre, hvilke ydelser han eller hun er berettiget til. Disse algoritmer spiller især en rolle i automatisering af sagsbehandling – er en ansøger berettiget til kontanthjælp eller ikke; er en ansøger berettiget til sygedagpenge; hvornår skal der følges op på sagen og så videre.

Prædiktionsalgoritmer bruger statistiske analyser fra en større gruppe til at profilere individer ud fra bestemte karakteristika, og forudsige hvad der vi ske. Hvad er risikoen for at et barn, som vuggestuen er bekymret for, bliver anbragt udenfor hjemmet? Hvad er risikoen for at en nyledig borger bliver langtidsledig?

Fælles for begge algoritmetyper er, at de leverer beslutningsstøtte til de socialrådgivere, der behandler sagen, men det er kun i den sidste kategori, at kunstig intelligens indgår. 

Udviklingen af kunstig intelligens skal tage udgangspunkt i, hvad der praktisk giver mening

Helle Birkholm Antczak, Frank Ebsen og Line Pape Thomsen
Hhv. docent, docent og forskningsleder og lektor, Socialrådgiveruddannelsen, Københavns Professionshøjskole

Uanset hvilken kategori algoritmen tilhører, vil socialrådgivernes arbejdsgange og arbejdsopgaver ændres. Et centralt spørgsmål er, om socialrådgiveren, i en tidsmæssig eller økonomisk presset forvaltning, reelt kan træffe en anden beslutning end den, beslutningsstøtten foreslår.

I praksis på børneområdet

Kunstig intelligens i form af prædiktive profileringsalgoritmer på børneområdet blev især kendt i Danmark med Gladsaxe Kommunes projekt om at finde frem til familier, hvis børn var udsatte.

Intentionen var at finde dem tidligere og eventuelt tilbyde familierne hjælp ved at træne en algoritme, der kunne udpege dem på baggrund af en række variable som forældres beskæftigelsesstatus og -historik, statsborgerskab, bopæl, barnets brug af tandpleje, underretninger, pasningsforhold og sprog.

Et andet kendt projekt på børneområdet er et underretningsprojekt ved Trygfondens Børneforskningscenter. Målet var, ud fra en række karakteristika, at prioritere de indkomne underretninger, så de mest akutte blev placeret øverst i bunken

For begge projekter gælder, at de ikke længere er aktuelle. Gladsaxeprojektet led af en række datamæssige og juridiske problemer. Underretningsprojektet har ikke spredt sig til andre kommuner, og det er usikkert om det kommer til at ske.

På den måder ligner de to projekter på Børneområdet en række af KL’s signaturprojekter på andre områder, som ikke er kommet i gang. Måske handler det om, at de er udtænkt af andre end de udsatte borgere og de medarbejdere, de møder? Med andre ord er de ikke er praktisk tilstrækkeligt brugbare.

Skønnet og kunstig intelligens

Vi vil ikke udelukke, at kunstig intelligens kan befrugte de fagprofessionelles skøn, vel at mærke hvis teknologien ikke kommer til at overtrumfe den professionelles dømmekraft.

Måske handler det om, at de er udtænkt af andre end de udsatte borgere og de medarbejdere, de møder?

Helle Birkholm Antczak, Frank Ebsen og Line Pape Thomsen
Hhv. docent, docent og forskningsleder og lektor, Socialrådgiveruddannelsen, Københavns Professionshøjskole

Indførelsen af algoritmisk baserede beslutningsstøttesystemer i sagsbehandlingen kræver imidlertid en række (nye) kompetencer hos socialrådgiverne. På Socialrådgiveruddanelsen lærer vi dem gerne:

• Teknologiforståelse: Hvis der indgår beslutningsstøtte, skal socialrådgivere være i stand til at forstå, hvordan og efter hvilke principper, systemet er kommet frem til sit forslag til handling eller vurdering. Det vil især blive en udfordring, hvis det drejer sig om komplekse profileringsalgoritmer, eventuelt med indbygget machine learning.
• Kritisk refleksion over data og digitale løsninger: Socialrådgivere skal kunne forholde sig refleksivt og kritisk til både systemer og data. Denne kompetence indebærer en (kritisk) vurdering af, hvad en teknologis muligheder og begrænsninger er. For eksempel om algoritmen er trænet på historiske data, hvis aktualitet er begrænset på grund af nye love eller problematikker.
• At kunne mediere mellem borger og system: Socialrådgivere skal kunne formidle det, et system er kommet frem til. Socialrådgiveren skal kunne forklare borgeren, hvordan systemet er kommet frem til sit resultat, og gøre rede for, hvordan hun selv lader resultatet indgå i sit skøn og sin socialfaglige vurdering. Hun skal så lade disse to vurderinger indgå i en transparent og meningsfuld dialog med borgerne om, hvordan de selv vurderer deres situation, og hvilken hjælp, der er brug for.

Vores pointe er, at udviklingen af kunstig intelligens skal tage udgangspunkt i, hvad der praktisk giver mening, når der skal skabes bedre løsninger for udsatte borgere.

Når praksis opgiver at anvende dyrt udviklede, kunstigt intelligente løsninger, er det et signal om, at de er udviklet på et uhensigtsmæssigt grundlag. Den direkte involvering af udsatte borgere og de som skal bruge kunstig intelligens, bør være et krav.

Yderligere bør forskning i praksis sikre, at socialrådgivere og andre medarbejdere kan undervises på det rigtige grundlag. Troen flytter bjerge, men det er ikke altid Muhammed kommer.