Debat

Justitia om digitalisering i det offentlige: Vi må tale om teknologiens skyggesider

Mange steder hyldes teknologiens fremmarch. Langt færre taler om teknologiens skyggesider, og når det sker, bliver det ofte udlagt som ubegrundet frygt, skriver Birgitte Arent Eiriksson.

Vi må tale om teknologiens skyggesider, hvis vi vil sikre en vellykket teknologisk udvikling af den offentlige forvaltning, mener Birgitte Arent Eiriksson, vicedirektør i tænketanken Justitia.
Vi må tale om teknologiens skyggesider, hvis vi vil sikre en vellykket teknologisk udvikling af den offentlige forvaltning, mener Birgitte Arent Eiriksson, vicedirektør i tænketanken Justitia. Foto: Pressefoto
Birgitte Arent Eiriksson
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Den offentlige forvaltning er meget dyr at drive. Derfor er det også helt naturligt, at man omfavner ny teknologi med stort effektiviseringspotentiale. Det har ført til en mere og mere digital forvaltning, hvor også anvendelse af kunstig intelligens er begyndt at brede sig.

Temadebat

I april kom EU-Kommissionen med et forslag til, hvordan kunstig intelligens kan reguleres på verdensplan.

Ifølge Kommissionen selv, er det første gang nogensinde, der bliver foreslået en retlig ramme for kunstig intelligens.

Reglerne skal nu forhandles på plads mellem Europa-Parlamentet, Kommissionen og medlemslandene. Når det er sket, begynder en implementeringsperiode, hvorefter reglerne vil være gældende i hele EU.

Lovprocessen rejser dette grundlæggende spørgsmål: Hvordan skal vi udnytte kunstig intelligens?

Her er panelet

  • Mikael Ekman, direktør for Politik og Strategi, Microsoft Danmark & Island
  • Natasha Friis Saxberg, direktør, IT-Branchen
  • Anders Kofod-Petersen, professor ved Norges Teknisk-Videnskabelige Universitet, Trondheim; afgående AI-forsker ved Alexandra Instituttet
  • Jesper Lund, formand, IT-Politisk Forening
  • Rikke Frank Jørgensen og Marya Akhtar, seniorforsker og specialkonsulent, Institut for Menneskerettigheder
  • Niels Bertelsen, formand, Prosa
  • Thomas Ploug, professor, Institut for Kommunikation og Psykologi, Aalborg Universitet
  • Karen Melchior (R), medlem af Europa-Parlamentet
  • Birgitte Arent Eiriksson, vicedirektør, Justitia
  • Rikke Hougaard  Zeberg, branchedirektør, DI Digital
  • Nanna Bonde Thylstrup, lektor med speciale i kommunikation og digitale medier, CBS
  • Christel Schaldemose (S), medlem af Europa-Parlamentet
  • Janus Sandsgaard, digitaliseringspolitisk fagchef, Dansk Erhverv

I sagsbehandlingen giver den digitale udvikling mulighed for mindre ressourcekrævende processer, kortere sagsbehandlingstider og afgørelser, der bygger på datamateriale i stedet for vurderinger foretaget af sagsbehandlere med varierende uddannelses- og erfaringsniveau.

Den digitale udvikling giver også mulighed for at fremkomme med forudsigelser om borgernes fremtid, så der kan skrides ind med forebyggende foranstaltninger, inden problemerne udvikler sig yderligere.

Dette kan for eksempel anvendes, når der skal træffes afgørelse om foranstaltninger til ledige eller tvangsfjernelse af børn.

Kan føre til diskrimination
Det lyder jo alt sammen meget godt, og teknologiens fremmarch hyldes da også rigtigt mange steder. Langt færre taler om teknologiens skyggesider, og når det sker, bliver det ofte udlagt som ubegrundet frygt for en naturlig og succesfuld udvikling.

Det er en skam, for hvis der ikke lyttes til begge sider, risikerer vi en udvikling, som kører af sporet, fordi der ikke i tilstrækkelig grad bliver taget hånd om teknologiens udfordringer.

Teknologien tilbyder nogle retssikkerhedsmæssige forbedringer, men samtidig udhules andre grundlæggende retssikkerhedsmæssige garantier.

Birgitte Arent Eiriksson, vicedirektør, Justitia

Det er trods alt velkendt, at teknologien i praksis kan have vanskeligt ved at leve op til forventningerne.

Det kan skyldes flere forskellige ting, herunder uhensigtsmæssigt design, dårlig datakvalitet, tekniske fejl eller algoritmer, som udvikler sig i diskriminerende retning.

Sådanne fejl og mangler rammer typisk mange borgere og kan være meget vanskelige at opdage – ikke kun for borgerne og den ansvarlige myndighed, men også for de klageorganer og domstole, som muligvis skal efterprøve en afgørelse.

Lige så velkendt er det, at myndighedernes omgang med borgernes data kan være problematisk.

Det gælder for eksempel, når data på grund af fejl og skødesløshed kommer uvedkommende til kendskab, således at private oplysninger afsløres, og der skabes mulighed for identitetsmisbrug og kriminalitet.

Det gælder også, når store mængder data indsamles, deles og samkøres med henblik på at overvåge borgerne og skabe intense profiler, som presser retten til privatliv.

Hertil kommer, at det ikke er alle borgere, som er lige digitale. Det gælder ikke mindst udsatte og andre ressourcesvage borgere, som kan have behov for personlig vejledning til at søge om den rigtige hjælp og deltage i de nye processer.

Hvordan kan vi sikre os, at de mange databehandlinger sker med den nødvendige respekt for borgernes grundlæggende rettigheder?

Birgitte Arent Eiriksson, vicedirektør, Justitia

Dette er et problem, der alt for ofte bliver overset, når ny teknologi udvikles, og som ikke kan løses gennem de nuværende, forholdsvis begrænsede muligheder for at blive fritaget for digital post og digitale selvbetjeningsløsninger, hvilket i øvrigt kræver en ansøgning per system.

Retssikkerhed udhules
Hvis vi skal sikre en fornuftig og betryggende teknologisk udvikling af den offentlige forvaltning, er det nødvendigt, at vi også taler åbent og nuanceret om de udfordringer, der kommer med teknologien.

Lad os derfor tale om digital retssikkerhed. Teknologien tilbyder nogle retssikkerhedsmæssige forbedringer, men samtidig udhules andre grundlæggende retssikkerhedsmæssige garantier.

Hvordan kan vi for eksempel sikre os, at afgørelser er gennemsigtige nok til en grundig efterprøvelse, samt at fejl og mangler i teknologien og dens anvendelse hurtigt opdages, så de ikke spredes til større dele af befolkningen?

Og lad os tale om grænserne og vilkårene for digitalisering og anvendelse af kunstig intelligens.

Hvordan kan vi for eksempel sikre os, at de mange databehandlinger sker med den nødvendige respekt for borgernes grundlæggende rettigheder, og at en digital, offentlig forvaltning også er tilgængelig for landets udsatte og ressourcesvage borgere?

Det er svar på spørgsmål som disse, som skal sikre, at den teknologiske udvikling ikke løber løbsk.

Vi må altså tale om teknologiens skyggesider, hvis vi vil sikre en vellykket teknologisk udvikling af den offentlige forvaltning, hvor vi kan høste fordelene uden at miste vores retsstat eller borgernes tillid undervejs.

Læs også

E-mail Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion