Vigtig bog løfter sløret for skyggesiderne af statens besættelse af digitalisering

Truslen mod vores demokrati kommer ikke nødvendigvis fra de store techgiganter, men fra staten, regionerne og kommunernes egen digitalisering. Ny bog zoomer ind på digitaliseringens skyggesider og en offentlig sektor besat af digitalisering. Bogen er et godt udgangspunkt for en debat, der kun lige er begyndt, skriver Peter Svarre.

Placeholder image
Danmark er på mange måder et digitalt mønsterland, Men den hidsige digitalisering har også haft en skyggeside, som bogen 'Fra velfærdsstat til overvågningsstat' dykker ned i, skriver Peter Svarre. Foto: Simon Læssøe/Ritzau Scanpix
Icon / RatingIcon / RatingIcon / RatingIcon / RatingIcon / RatingIcon / Rating
Fra velfærdsstat til overvågningsstat - Algoritmernes magt i den offentlige forvaltning
Michael Jarlner og Kim Escherich
194 sider, Djøf Forlag, netop udkommet

I juni 2021 blæste statsministeren, kulturministeren og erhvervsministeren til kamp mod techgiganter med en hvidbog, der opstillede ni principper for en bedre digital verden. Techgiganterne blev holdt ansvarlige for uansvarlig brug af algoritmer, skabelse af ekkokamre, undergravning af arbejdstageres rettigheder og i det hele taget en generel opløsning af den demokratiske samtale.

Intentionerne med hvidbogen var prisværdige, men måske kommer den egentlige trussel mod vores samfundsmodel og demokrati ikke udefra – i skikkelse af onde teknofyrster i Silicon Valley – men indefra – i form af digitaliseringsliderlige myndigheder. Det er i hvert fald præmissen og konklusionen i den nye antologi 'Fra velfærdsstat til overvågningsstat', som er redigeret af Michael Jarlner og Kim Escherich.

Et indblik i det digitale maskinrum

Arbejder du med digitale teknologier i den offentlige sektor, eller er du bare perifært interesseret i debatten om teknologi og samfund, så er dette muligvis den vigtigste bog at have liggende på skrivebordet lige nu. De fleste mennesker har sandsynligvis hørt om Gladsaxe-sagen, hvor man ved hjælp af overvågning og statistisk maskinlæring forsøgte at lokalisere misrøgtede børn, eller måske har man hørt historien om Styrelsen for Arbejdsmarked og Rekruttering, som skabte en algoritme, der skulle identificere risiko for langtidsledighed, men som endte med at diskriminere mod danskere af anden etnisk oprindelse.

Arbejder du med digitale teknologier i den offentlige sektor, eller er du bare perifært interesseret i debatten om teknologi og samfund, så er dette muligvis den vigtigste bog at have liggende på skrivebordet lige nu.

Peter Svarre, forfatter, foredragsholder og digital rådgiver

Men historierne om det offentliges brug og misbrug af digitale teknologier og særligt maskinlærende algoritmer har for det meste være anekdotiske og overfladisk behandlede af medier, der interesser sig mere for skandalen end de underliggende dynamikker i en offentlig sektor, der bliver mere og mere som de techgiganter, som regeringen forsøger at bekæmpe.

'Fra velfærdsstat til overvågningsstat' er et seriøst forsøg på at bevæge sig fra anekdotiske skandalehistorier til en dybere forståelse af, hvad der sker nede i de digitale maskinrum i stat, regioner og kommuner. Bogen indeholder otte bidrag fra forfattere, der med ret forskellige udgangspunkter, alle er godt kvalificerede til at deltage i debatten.

Politikens Michael Jarlner og den mangeårige teknologietik-debattør Kim Escherich står for indflyvningen til emnet, mens de resterende kapitler i bogen er mere akademiske, uden dog at være snørklede og ulæselige for lægmand. Tværtimod er det netop nogle af bogens akademiske kapitler, som er de mest interessante, fordi de sparker døren ind til en helt ny forståelse for, hvordan vi kan forstå digitalisering og brug af algoritmer i den offentlige sektor.

Digitaliseringens skyggeside

Den røde tråd gennem alle otte kapitler er, at den offentlige sektor i Danmark er blevet besat af digitalisering, hvilket har betydet, at vi igen og igen står øverst på sejrsskammelen, når vi sammenligner os selv med andre lande. Stort set alle mennesker har internet og bredbånd, myndigheder har i stigende grad udviklet velfungerende, sikre og brugervenlige selvbetjeningsløsninger, og med CPR-registeret og NemID, kan vi altid identificere os og få hurtig og nem adgang til digitale services i det offentlige.

Når staten bliver algoritmisk, bliver borgerne statistiske objekter, som kan behandles med de samme teknikker, som vi kender fra de store tech-selskaber

Peter Svarre, forfatter, foredragsholder og digital rådgiver

Vi er på mange måder et digitalt mønsterland. Men den hidsige digitalisering har også haft en skyggeside, som hænger sammen med, at den drivende kraft i digitaliseringen udspringer af et ønske om effektivisering og besparelser på bekostning af dybere værdier som frihed, autonomi og demokrati.

I den første digitaliseringsbølge, som handlede om øget mulighed for selvbetjening, har statens interesse i effektivisering gået fint i spand med borgernes interesse i at spare tid og få mere kontrol over deres eget liv. Men nu står vi over for digitaliseringens anden bølge, hvor offentlige myndigheder begynder at lade algoritmer og statistiske systemer overtage beslutninger, sagsbehandling og myndighedsafgørelser. Og denne nye bølge af digitalisering skaber helt nye udfordringer, fordi den ændrer forholdet mellem borger og stat.

Borgeren som statisk objekt

Det illustreres fint i bogens mest prægnante kapitel, som er skrevet af Helene Friis Ratner, som er lektor på DPU. Ratners kapitel handler om statistisk maskinlæring og prædiktive algoritmer, altså den slags algoritmer, som ved hjælp af store datamængder og statistiske korrelationer forsøger at forudsige, om børn vil klare sig godt i skolen, eller om arbejdsløse vil ende som langtidsledige.

Problemet ved denne type algoritmer er, skriver Ratner, at de ændrer det basale forhold mellem borger og stat. I den traditionelle forvaltningspraksis er borgeren et individuelt retssubjekt, som beskyttes af lovgivning og rettigheder.

I den algoritmiske stat bliver borgeren derimod et statistisk objekt, hvor staten ved hjælp af data fra tusindvis af andre borgere forsøger at beregne sandsynligheder for borgerens fremtidige handlinger. Vi ophører med at være retssubjekter og bliver i stedet statistiske objekter, som staten behandler på samme måde, som firmaer som Amazon, Netflix og Facebook behandler deres kunder.

Fra velfærdsstat til overvågningsstat fortjener mange læsere, fordi den behandler et emne, som er mindst lige så vigtigt som udfordringen fra de store techgiganter, men er langt mindre belyst

Peter Svarre, forfatter, foredragsholder og digital rådgiver

Som Ratner skriver: ”Risikoscoringer af borgere skaber en ny relation mellem stat og borger, hvor statens rolle bliver at forebygge uønskede sandsynlige fremtider hos den enkelte borger.”

Sammenligningen med de store techgiganters forretningspraksisser finder man også i Mikkel Flyverbom og Frederik Schades interessante kapitel om influencer-staten. Flyverbom og Schade hæfter sig ved, hvordan stater i stigende grad begynder at låne teknikker fra de store teknologifirmaer til at nudge, vejlede og måske endda manipulere borgerne. Og nogle gange arbejder myndigheder decideret sammen med teknologifirmaer og anvender platforme som Tinder eller Facebook til at profilere og manipulere borgerne.

Når staten bliver algoritmisk, bliver borgerne statistiske objekter, som kan behandles med de samme teknikker, som vi kender fra de store tech-selskaber. Det handler ikke længere om at have en konversation med borgerne, det handler om at konvertere dem ved hjælp af profilering og nudging.

Enkelte fodfejl

'Fra velfærdsstat til overvågningsstat' fortjener mange læsere, fordi den behandler et emne, som er mindst lige så vigtigt som udfordringen fra de store techgiganter, men er langt mindre belyst. Bogen lider en smule under at være en antologi med otte ret forskellige forfattere med forskellige vinkler, pointer og konklusioner.

Der er en del eksempler, der gentages, og mange af forfatterne afslutter deres kapitler med netop deres bud på løsninger. Man kunne godt savne en stærkere rammesætning og fælles struktur for de enkelte kapitler, og det ville have været rigtig interessant, hvis de ni forskellige forfattere havde sat sig som mål at skabe en fælles vision for ansvarlig offentlig digitalisering. Lige nu flagrer pointerne og anbefalingerne lidt i vinden, men det er heller ikke noget dårligt udgangspunkt for en debat, som forhåbentlig kun lige er startet.

Omtalte personer

Michael Jarlner

Internationale kommentator, techredaktør, Politiken
cand.polit., Københavns Universitet

Kim Escherich

Executive Innovation Arcitecht, IBM
cand.polit

Politik har aldrig været vigtigere
Få gratis nyheder fra Danmarks største politiske redaktion
Ved at tilmelde dig Altingets nyhedsbrev, accepterer du vores generelle betingelser