Justitia om digitalisering i det offentlige: Vi må tale om teknologiens skyggesider

Den offentlige forvaltning er meget dyr at drive. Derfor er det også helt naturligt, at man omfavner ny teknologi med stort effektiviseringspotentiale. Det har ført til en mere og mere digital forvaltning, hvor også anvendelse af kunstig intelligens er begyndt at brede sig.

I sagsbehandlingen giver den digitale udvikling mulighed for mindre ressourcekrævende processer, kortere sagsbehandlingstider og afgørelser, der bygger på datamateriale i stedet for vurderinger foretaget af sagsbehandlere med varierende uddannelses- og erfaringsniveau.

Den digitale udvikling giver også mulighed for at fremkomme med forudsigelser om borgernes fremtid, så der kan skrides ind med forebyggende foranstaltninger, inden problemerne udvikler sig yderligere.

Dette kan for eksempel anvendes, når der skal træffes afgørelse om foranstaltninger til ledige eller tvangsfjernelse af børn.

Kan føre til diskrimination
Det lyder jo alt sammen meget godt, og teknologiens fremmarch hyldes da også rigtigt mange steder. Langt færre taler om teknologiens skyggesider, og når det sker, bliver det ofte udlagt som ubegrundet frygt for en naturlig og succesfuld udvikling.

Det er en skam, for hvis der ikke lyttes til begge sider, risikerer vi en udvikling, som kører af sporet, fordi der ikke i tilstrækkelig grad bliver taget hånd om teknologiens udfordringer.

Teknologien tilbyder nogle retssikkerhedsmæssige forbedringer, men samtidig udhules andre grundlæggende retssikkerhedsmæssige garantier.

Birgitte Arent Eiriksson
Vicedirektør, Justitia

Det er trods alt velkendt, at teknologien i praksis kan have vanskeligt ved at leve op til forventningerne.

Det kan skyldes flere forskellige ting, herunder uhensigtsmæssigt design, dårlig datakvalitet, tekniske fejl eller algoritmer, som udvikler sig i diskriminerende retning.

Sådanne fejl og mangler rammer typisk mange borgere og kan være meget vanskelige at opdage – ikke kun for borgerne og den ansvarlige myndighed, men også for de klageorganer og domstole, som muligvis skal efterprøve en afgørelse.

Lige så velkendt er det, at myndighedernes omgang med borgernes data kan være problematisk.

Det gælder for eksempel, når data på grund af fejl og skødesløshed kommer uvedkommende til kendskab, således at private oplysninger afsløres, og der skabes mulighed for identitetsmisbrug og kriminalitet.

Det gælder også, når store mængder data indsamles, deles og samkøres med henblik på at overvåge borgerne og skabe intense profiler, som presser retten til privatliv.

Hertil kommer, at det ikke er alle borgere, som er lige digitale. Det gælder ikke mindst udsatte og andre ressourcesvage borgere, som kan have behov for personlig vejledning til at søge om den rigtige hjælp og deltage i de nye processer.

Hvordan kan vi sikre os, at de mange databehandlinger sker med den nødvendige respekt for borgernes grundlæggende rettigheder?

Birgitte Arent Eiriksson
Vicedirektør, Justitia

Dette er et problem, der alt for ofte bliver overset, når ny teknologi udvikles, og som ikke kan løses gennem de nuværende, forholdsvis begrænsede muligheder for at blive fritaget for digital post og digitale selvbetjeningsløsninger, hvilket i øvrigt kræver en ansøgning per system.

Retssikkerhed udhules
Hvis vi skal sikre en fornuftig og betryggende teknologisk udvikling af den offentlige forvaltning, er det nødvendigt, at vi også taler åbent og nuanceret om de udfordringer, der kommer med teknologien.

Lad os derfor tale om digital retssikkerhed. Teknologien tilbyder nogle retssikkerhedsmæssige forbedringer, men samtidig udhules andre grundlæggende retssikkerhedsmæssige garantier.

Hvordan kan vi for eksempel sikre os, at afgørelser er gennemsigtige nok til en grundig efterprøvelse, samt at fejl og mangler i teknologien og dens anvendelse hurtigt opdages, så de ikke spredes til større dele af befolkningen?

Og lad os tale om grænserne og vilkårene for digitalisering og anvendelse af kunstig intelligens.

Hvordan kan vi for eksempel sikre os, at de mange databehandlinger sker med den nødvendige respekt for borgernes grundlæggende rettigheder, og at en digital, offentlig forvaltning også er tilgængelig for landets udsatte og ressourcesvage borgere?

Det er svar på spørgsmål som disse, som skal sikre, at den teknologiske udvikling ikke løber løbsk.

Vi må altså tale om teknologiens skyggesider, hvis vi vil sikre en vellykket teknologisk udvikling af den offentlige forvaltning, hvor vi kan høste fordelene uden at miste vores retsstat eller borgernes tillid undervejs.