Forskere: Algoritmer risikerer at skabe diskriminerende og ulige sagsbehandling i kommunerne

Meget tyder på, at det kun er et spørgsmål om tid, før algoritmer potentielt kan blive en fast del af sagsbehandlingen i danske kommuner.

Den nye teknologi er kommet for at blive, og derfor er det vigtigt, at vi allerede nu spørger os selv, om vi har sikret, at den nye teknologi udvikles og anvendes på en etisk forsvarlig måde.

Et vigtigt spørgsmål er, hvordan vi udnytter teknologiens potentialer på en etisk forsvarlig måde. Det handler først og fremmest om måden, vi bygger teknologien på, og måden, vi fodrer algoritmen med data på.

Det etiske ansvar starter nemlig allerede ved opbygningen af teknologien.

Vi må ikke glemme, at det er os selv, der skaber algoritmerne. Har vi ikke øje for de potentielle faldgruber, når algoritmerne potentielt rykker ind på kommunekontorerne, risikerer vi at skabe en diskriminerende og ulige sagsbehandling.

Større usikkerhed for borgere

I vores forskning har vi undersøgt, om det er muligt at skabe en algoritme, som kan forudsige børns mistrivsel i Danmark – og det er det. Algoritmen er bygget med hensigten om at kunne være støtte i sagsbehandlingen, og den benyttes kun til forskning.

Algoritmen er ikke en erstatning af socialrådgiveren, men bruges i forskningsprojektet til at identificere mønstre, der kan forudsige børns mistrivsel. Mønstre, som ellers kunne være blevet overset.

I opbygningen af algoritmen har vi haft stor omtanke for, hvordan vi fodrer den med data, og hvilke statistiske sammenhænge der ligger bag. Vi har eksempelvis fjernet data om køn, etnicitet og socioøkonomisk baggrund for at undgå, at den blev biased eller diskriminerende, og den er blevet gjort aldersneutral.

Vores store fokus på databehandling skyldes blandt andet, at vi som forskere i Danmark er underlagt krav om etik og gennemsigtighed. Det betyder, at al forskning skal være åben og tilgængelig, så resultaterne og metoderne kan forstås, vurderes og anvendes af andre.