Rådgiver og ph.d.-studerende: AI bliver fremstillet som et vidundermiddel, men regeringens spareplan er ren AI-washing

For teknologien alene kan ikke løse nogle af de store udfordringer, som vi står overfor, så som ulighed, klimakrise, krige et cetera. Tværtimod kan AI være med til at forværre disse kriser, hvis vi ikke tænker os ordentlig om.

Et for tyndt grundlag

Regeringen vil ikke fremlægge præcis, hvilke beregninger der ligger bag den ambitiøse plan om at reducere medarbejderstaben i det offentlige med 30.000 årsværk.

Politikerne bør ikke tørre de svære beslutninger af på amerikanske konsulenthuse og algoritmer.

Astrid Haug & Kristian Bloch Haug

Af et notat fra Finansministeriet fremgår det dog, at "det bemærkes, at der er stor usikkerhed om potentialet ved kunstig intelligens". Det fremgår af en aktindsigt foretaget af Akademikerbladet. Ministeriet har ret i, at AI-ambitionerne er stærkt usikre. 

Historien har gang på gang vist, at de luftige beregninger ikke kan modstå mødet med den konkrete, menneskelige virkelighed.

Den ene af os, Kristian, har i sin ph.d. undersøgt AI i den danske beskæftigelsesindsats. Her var de politiske forhåbninger til den såkaldte Star-algoritme store. AI, i form af machine learning, skulle effektivisere visiteringen af ledige. Algoritmen kunne give en sandsynlighed for, hvorvidt den ledige var i risiko for langtidsledighed eller ej.

Hermed kunne de knappe ressourcer prioriteres til de 'svage' ledige, da de 'stærke' kunne klare sig selv. Ideen var tillokkende: Vi bruger ny teknologi til at målrette ressourcerne til de ledige med størst behov.

Imidlertid viste implementeringen, at flere ledige følte sig diskrimineret, og at mange af sagsbehandlerne havde vanskeligt ved at se værdien af, at der blev sat en statistisk sandsynlighedsprocent på den pågældende ledige.

Tilmed klagede Institut for Menneskerettigheder til Ligebehandlingsnævnet, da de mente, at brugen af oplysningen ikke-vestlig herkomst i praksis var i strid med loven forskelsbehandling.

Projektet kuldsejlede, fordi man ikke havde tænkt brugernes behov ind i projektet. Det var ikke fordi, algoritmen fejlede, men fordi man ikke havde blik for maskinens møde med mennesket.

AI er en del af fremtidens velfærdsstat, men det centrale er stadig borgernes behov. Men politikerne bør ikke tørre de svære beslutninger af på amerikanske konsulenthuse og algoritmer. Med sin AI-washing svækker regeringen både tilliden til det politiske system samt til det reelle potentiale i AI.