Dansk Socialrådgiverforening: Det kræver stor selvtillid at gå imod en algoritmes skøn

Algoritmer er allerede en del af det daglige sociale arbejde. I Københavns Kommune har man som socialrådgiver for eksempel robotkollegaer som Albert Aktindsigt og Flora Foranstaltning.

Albert Aktindsigts opgave er at samle en liste over mulige relevante dokumenter i forbindelse med en ansøgning om aktindsigt, mens Flora Foranstaltning sikrer, at der oprettes de rette opfølgningsformularer, så der følges op i overensstemmelse med lovgivningens frister.

Det kan spare socialrådgiverne for timevis af arbejde med at åbne forskellige mapper og søge dokumenterne frem. Dermed kan vi bruge tiden på at tale med udsatte børn og deres familier og sikre den rette støtte. Kunstig intelligens har klart et potentiale i socialrådgivernes arbejdsliv.

Mine advarselslamper begynder at blinke, når talen falder på algoritmer, som påstås at kunne forudse sociale problemer eller anbefale den rigtige indsats til en borger. Sociale problemer er komplekse, og de udvikler sig forskelligt afhængig af borgerens individuelle situation, og hvilken støtte som vi tildeler. Det kan ikke reduceres til nul og et-taller.

Algoritmer må ikke forsimple problemerne
Graden af kompleksitet er ekstrem, når det drejer sig om sociale problemer, og der er så meget information, der ikke kan hentes i Danmarks Statistik. Og selv når man kan hente en relevant statistik, er der et hav af mennesker, der ikke passer ind i den. Fordi at en vis procentdel vil reagere på en bestemt måde, så vil der altid være behov for, at vi i dialogen med borgeren ser potentialerne, der hvor statistikkerne ikke rækker. 

Langt størstedelen af unge med problemer kommer altså fra ikke-belastede hjem.

Ditte Brøndum
Næstformand, Dansk Socialrådgiverforening

Der er for eksempel en udbredt forestilling om, at man kan forudse sociale problemer ud fra forældrenes situation. Det er da også korrekt, at risikoen for social udsathed stiger, hvis forældrene er udsatte. Men det er også korrekt, at langt den største del ikke kommer til at opleve udsathed.

Morten Ejrnæs har foretaget undersøgelser, der viser, at 92 procent af børnene fra belastede hjem ikke selv får et af de alvorlige problemer, som for eksempel stof- eller alkoholmisbrug, når de vokser op. Den samme undersøgelse viser, at 70 procent af de problemramte unge vokser op hos forældre uden problemer. Langt størstedelen af unge med problemer kommer altså fra ikke-belastede hjem.

Beslutningsstøttende algoritmer risikerer at blive besluttende
Et eksempel på en af de algoritmer som, jeg mener, vi skal være meget varsomme med, er de såkaldte jobcenter-algoritmer, som testes i nogle kommuner. Her har Folketinget givet tilladelse til at bruge algoritmer til at udpege potentielle langtidsledige baseret på data om borgerens etnicitet, uddannelsesbaggrund, alder, beskæftigelseshistorik og sundhed.

Et andet eksempel på algoritmer vi bør være varsomme med, er algoritmer, som screener underretninger, og som beregner en sandsynlighed for vanskeligheder senere i livet.

Ditte Brøndum
Næstformand, Dansk Socialrådgiverforening

Men en sådan algoritme kan ikke tage højde for, hvor forskelligt vi reagerer på ledighed, eller på hvilke andre begivenheder vi udsættes for. Algoritmen kan heller ikke tage højde for, at socialrådgiverens tro på borgeren kan have betydning for borgerens egen tro på, at forandring er mulig, eller tusind andre ting.

Et andet eksempel på algoritmer vi bør være varsomme med, er algoritmer, som screener underretninger, og som beregner en sandsynlighed for vanskeligheder senere i livet på baggrund af bestemte ord og andre data om familien. Også det kan være helt umuligt at afgøre alene på baggrund af data. 

Der er klare risici forbundet med sådanne algoritmer. De er oftest forsimplende og nogle gange forfejlede. De risikerer at være for problemfokuserede og for lidt løsningsorienterede. De kan komme til at standardisere, selvom vi ønsker at møde det enkelte menneske individuelt.

Det kræver stor faglig selvtillid at gå imod en algoritmes sandsynlighedsvurdering, hvis man som fagperson ikke er enig i vurderingen. Derfor er der en risiko for, at selvom algoritmerne er tænkt som støtte til socialrådgiverens beslutning, kan de i praksis reelt blive besluttende. 

Afgørende, at det faglige skøn ikke erstattes
Det er afgørende, at vi er opmærksomme på, at denne udvikling ikke kommer snigende, uden vi har taget stilling. Socialrådgiverens faglige skøn og mødet og dialogen mellem socialrådgiveren og borgeren kan ikke erstattes af kunstig intelligens.

Det kræver stor faglig selvtillid at gå imod en algoritmes sandsynlighedsvurdering, hvis man som fagperson ikke er enig i vurderingen.

Ditte Brøndum
Næstformand, Dansk Socialrådgiverforening

Det faglige skøn, som vi som socialrådgivere er uddannet til at forvalte, baserer sig på mere end data og generaliseret viden. Det baserer sig også på individuel kontakt og inddragelse, samt iagttagelser omkring borgerens aktuelle situation, som for eksempel kropssprog, ansigtsudtryk og lugte. Det faglige skøn giver også plads til håb og drømme det udsatte barn eller den ledige, som har nedsat arbejdsevne, har for sin fremtid og holder det sammen med mulighederne i lovgivningen.

Der er stort behov for, at socialrådgivere og andre faggrupper får viden om og et sprog for den teknologi, som de bliver sat til at anvende, og at vi er med til at udvikle de løsninger, som er relevante og kan afvise dem, der ikke er. Vi lærer ikke, hvordan en algoritme virker på socialrådgiverstudiet, men måske burde vi.

Som fagpersoner skal vi have kompetencer til at gennemskue algoritmer, forholde os kritisk og fremme de gode løsningsforslag. Det er også afgørende for borgerens retssikkerhed, at de kender de oplysninger, som deres sag bliver afgjort på baggrund af. Algoritmer må ikke blive en sort boks for hverken socialrådgiver eller borger. 

Algoritmer bør udvikles i dialog med fagpersoner 
Selvom jeg er skeptisk over for dele af den aktuelle udvikling, mener jeg bestemt ikke, vi skal afskrive algoritmer. Men jeg mener, at vi i højere grad skal inddrage medarbejdere og borgere i, hvordan algoritmerne bliver brugbare, forståelige, meningsfulde og tillidsskabende.

PROSA har eksempelvis skrevet om et forskningsprojekt, som har vist, at jobcenteralgoritmen ikke opleves som relevant for jobkonsulenterne. Den individuelle profilering af den enkelte borgers jobchancer og et mål om hurtigst muligt job er langt fra altid det rigtige mål. Da medarbejderne blev spurgt, hvad de kunne se potentialer i, var det nogle helt andre problemstillinger, som de pegede på. I stedet for at prøve at forudsige den enkeltes forløb – hvor der alligevel var så mange faktorer de ikke kunne tage højde for – så foreslog medarbejderne, at kunstig intelligens blev anvendt til at forudsige, hvor i processen og organisationen, der kunne opstå ventetid, for eksempel på en udredning fra arbejdsmedicinsk klinik eller på den rette indsats.

Det bør være et klart krav, at algoritmer bliver udviklet i dialog med fagpersoner og borgere, så de understøtter fagligheden og ikke ender med at underminere den.