Annoncørbetalt indholdTilliden til AI vokser, men den offentlige sektor halter bagefter i styring og ansvar

Brugen af AI er støt stigende blandt offentlige organisationer i Danmark. Værktøjerne bruges til at effektivisere behandling, bekæmpe svindel og forudse kapacitetsbehov. Nye potentielle indsatsområder diskuteres flittigt i den offentlige debat, med løfter om hurtigere behandling, øget tilgængelighed og bedre beslutningstagning til gavn for borgerne.

Men samtidig viser nye data, at tilliden til teknologien stiger hurtigere end evnen til at bruge den på en struktureret og ansvarlig måde. Ifølge IDC Data and AI Impact Report: The Trust Imperative, udarbejdet af IDC på vegne af SAS Institute, oplyser 33 procent af de adspurgte nordiske organisationer, at de har et højt niveau af tillid til AI uden at have de nødvendige processer, ressourcer og værktøjer til at sikre, at teknologien er robust, retfærdig og kontrolleret. Denne gruppe befinder sig i det, rapporten beskriver som en "tillidsfarezone": en voksende kløft mellem tillid og faktisk kapacitet.

Tilliden til AI skal fortjenes, ikke tages for givet. Det er først, når man kan kontrollere, gennemgå og tage ansvar for teknologien og dens konsekvenser, at AI er værdifuld for organisationer, brugere og samfundet.
Josefin Rosén,
Ekspert i etisk och pålidelig AI, SAS Institute.

Stor tillid, høj risiko

På trods af at generativ AI ofte er den mindst gennemsigtige type af AI, viser nye data, at det netop er denne teknologi, organisationer har størst tillid til. Globalt angiver 48 procent, at de har et højt niveau af tillid til generativ AI, sammenlignet med kun 18 procent for traditionel AI.

"Generativ AI kan virke meget nærværende og overbevisende, nærmest menneskelig, når man kommunikerer og interagerer med den. Men det er netop denne type AI, der er sværest at gennemgå og forstå, og det gør behovet for klare processer og risikostyring endnu større," fortsætter Josefin Rosén.

I praksis har få organisationer nået et tilstrækkeligt modenhedsniveau til at bruge teknologien på en kontrolleret og ansvarlig måde. Kun 7,5 procent af de nordiske organisationer oplyser, at de er i den mest avancerede modenhedsfase for AI-brug, hvor teknologien er fuldt integreret i virksomheden og bruges til at skabe konkrete, målbare forbedringer i for eksempel beslutningstagning, effektivitet eller gavn for borgerne.

"Det er altid et advarselstegn, hvis tilliden er høj, men styringen er lav. Især i den offentlige sektor, hvor AI kan påvirke folks rettigheder og adgang til offentlige tjenester og ydelser," siger Josefin Rosén.

Fokus på den offentlige sektor

Samtidig viser rapporten, at ambitionsniveauet er højt. 61,7 procent af offentlige organisationer i Europa planlægger at øge deres AI-investeringer i det kommende år, og over 70 procent ser øget personlig produktivitet som den forventede største fordel. Danmark er et af de lande i Europa, der ligger i front med ambitionerne for AI i det offentlige og går forrest i Norden.

Men ambitionerne hæmmes af tre centrale forhindringer:

55 procent oplyser, at deres datainfrastruktur er decentraliseret eller utilstrækkelig.

52 procent mangler datastyring.

41 procent nævner manglende AI-kompetence som en stor hindring.

I de nordiske lande er disse forhindringer endnu mere tydelige end i andre regioner. Nordiske organisationer rapporterer i højere grad end det globale gennemsnit, at de mangler både ledelsesopbakning og klare retningslinjer for brugen af AI.

"Problemet er ikke teknologien eller ambitionerne. Udfordringen ligger i manglende viden, lederskab og evnen til at implementere AI på en ansvarlig måde. AI er mere end et IT-projekt. Det er et strategisk spørgsmål, der kræver ledelse på hvert trin," siger Josefin Rosén.

Styring er kritisk

Governance kan opfattes som en hindring for udvikling, men undersøgelsen viser det modsatte. Organisationer, der investerer i AI-styring, gennemsigtighed og etiske retningslinjer, har 1,6 gange større sandsynlighed for at fordoble effekten af deres AI-investeringer, og ofte mere endnu.

"Når roller, processer og ansvar er tydelige, tør organisationerne tage større skridt, bruge mere avanceret teknologi og skalere deres investeringer," forklarer Josefin Rosén.

Hun understreger, at styring og governance ikke kan reduceres til enkeltstående politikker eller overordnede principper.

"Det handler om at indbygge det i form af gennemsigtighed, etik, dokumentation og risikovurdering fra starten, ikke som en eftertanke. For den offentlige sektor er dette særligt vigtigt, fordi AI-beslutninger har direkte konsekvenser for mennesker,” understreger hun.

Kompetence og ansvar skal fordeles bredere

En af rapportens klareste konklusioner er, at AI stadig ofte behandles som en rent teknisk problemløsning, selvom det grundlæggende er strategisk og går på tværs af forretningen. Derfor kræves en bredere og mere inkluderende kompetenceudvikling.

Tekniske specialister kan ikke stå alene. Advokater, forretningsudviklere, strateger og beslutningstagere må forstå, hvordan AI påvirker deres felt, og hvordan ansvar, etik og governance omsættes til praksis.
Josefin Rosén.

Hun peger også på behovet for kontinuerlig uddannelse, ledelsesstøtte og tværfagligt samarbejde, ikke mindst mellem den offentlige sektor, forskningsverdenen og erhvervsliv.

En skillevej for dansk AI

Danmark er ikke kun forrest i de nordiske lande, man har længe været et af verdens mest digitalt modne lande med stor brug af tjenester og automatiserede processer. Det er et stærkt udgangspunkt. Men uden klar og sammenhængende styring risikerer AI at underminere den tillid, som digitaliseringen hidtil har opbygget.

"Hvis vi vil være pionerer inden for AI, må vi vise, at det er muligt at kombinere teknologisk innovation med gennemsigtighed, ansvarlighed og etik. Den opgave er ikke rodfæstet i teknologien, den hænger sammen med mennesker," siger Josefin Rosén afslutningsvis.

Nøglefakta fra IDC Data and AI Impact Report: The Trust Imperative: