Institut for Menneskerettigheder: Ny strategi skal sætte grænser for digitaliseringen i det offentlige

Algoritmer hjælper sagsbehandleren med at afgøre, om en borger skal have støtte. Under et døgn efter ansøgningen er sendt, får borgeren automatisk svar på sin byggesag. En såkaldt profileringsmodel udpeger, hvilke kontanthjælpsmodtagere der skal gøres en ekstra indsats for at få i arbejde.

Eksemplerne er alle fiktive, men de er ikke usandsynlige. Kunstig intelligens – ligesom mange andre former for teknologi – breder sig i den offentlige sektor, og i løbet af de næste år vil en række nye digitale løsninger blive taget i brug i kommuner, regioner og i staten.

Det er derfor helt på sin plads, at regeringen er på vej med en ny digitaliseringsstrategi. Strategien kommer til at sætte retningen for udviklingen af den digitale offentlige sektor de kommende år, og dermed er det også i netop digitaliseringsstrategien, at visionen skal præsenteres, og grænserne sættes.

Strategien skal forholde sig til, på hvilke områder teknologien kan hjælpe os i retning af det samfund, vi ønsker, og hvor grænserne for digitaliseringen går. Det gælder især, når der er tale om kunstig intelligens, der rejser nye og alvorlige udfordringer for borgernes rettigheder og retssikkerhed.

Strategi bør sætte en politisk og borgerdrevet vision

Vi opfordrer derfor politikerne på landsplan og i regioner og kommuner til at bruge strategien som anledningen til at diskutere og tage stilling til, hvad vi som samfund vil med de digitale løsninger – og hvad vi ikke vil.

Det bør være obligatorisk at gennemføre rettighedsbaserede konsekvensanalyser, når nye digitale løsninger udvikles, anvendes og revideres.

Louise Holck og Rikke Frank Jørgensen
Hhv. direktør og seniorforsker, Institut for Menneskerettigheder

I hvilke dele af forvaltningen giver det mening at automatisere dele af beslutningsprocessen? I hvilke dele trumfer værdien af den menneskelige kontakt og den individuelle sagsbehandling værdien af automatisering? Og hvordan tænkes borgerens livssituation og behov ind i løsningerne?

Det er langt fra den første digitaliseringsstrategi, vi har haft i Danmark, men det er på tide, at strategien tager udgangspunkt i en politisk og borgerdrevet vision for vores samfund.

Indtil videre har effektivisering fyldt meget i den offentlige digitalisering, og selvom en effektiv offentlig sektor er vigtig, må det aldrig blive på bekostning af borgerne og deres rettigheder.

Snarere bør det være et mål i strategien, at nye teknologiske løsninger styrker borgerne i deres livssituation, rettigheder og retssikkerhed – og derigennem er med til at skabe det samfund, vi gerne vil have.

Teknologi må ikke underminere borgernes rettigheder

Det sker ikke af sig selv, for der er mange faldgruber i teknologiske løsninger, der blandt andet kan være med til at skabe mere diskrimination i offentlige myndigheders forvaltning. Teknologien har det også med at gøre sagsbehandlingen mere kompleks og svær at forstå for borgerne.

Myndighederne skal derfor – blandt meget andet – sikre, at de ved indførelsen af nye løsninger stadig på en forståelig måde, kan forklare borgerne, hvordan de er kommet frem til en afgørelse om borgeren.

Som minimum skal strategien sætte rammen for, at ny teknologi ikke underminerer de rettigheder, borgerne har i dag.

Vi mener derfor, at det bør være obligatorisk at gennemføre rettighedsbaserede konsekvensanalyser, når nye digitale løsninger udvikles, anvendes og revideres. På den måde sikres det, at myndighederne tager stilling til løsningens indflydelse på borgerens rettigheder.

Den nye digitaliseringsstrategi er en unik mulighed for at forankre brugen af kunstig intelligens i en politisk vision, der både viser, hvor vi gerne vil hen med brugen af teknologi, og hvor grænserne går.