Kommentar af 
Birgitte Arent Eiriksson

Kunstig intelligens må aldrig ledsages af lavere krav til de ansattes uddannelse

Det bør være de mest kompetente medarbejdere, som vi sætter til at vogte over algoritmernes faglige pålidelighed, når kunstig intelligens slippes løs i den virkelige verden, skriver Birgitte Arent Eiriksson.

Placeholder image
Forskning kan hjælpe os med at blive klogere på, hvordan kunstig intelligens kan understøtte gode faglige beslutninger, skriver Birgitte Arent Eiriksson. Foto: Pressefoto
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Kunstig intelligens er under hastig udbredelse i den offentlige sektor godt hjulpet på vej af velmenende ønsker om både at yde bedre service og effektivisere de omkostningstunge velfærdsområder.

For eksempel afprøves kunstig intelligens som beslutningsstøtte, når ledige borgere skal matches med arbejdspladser, når der skal tildeles hjælpemidler, når underretninger om børn i mistrivsel skal vurderes, samt når syge borgere skal diagnosticeres og behandles.

Mulighederne synes nærmest uendelige, men der er også en række risikofaktorer, som kan få stor betydning for borgernes rettigheder, retssikkerhed og tryghed.

Forskning kan hjælpe os med at blive klogere på, hvordan kunstig intelligens kan understøtte gode faglige beslutninger.

Et godt eksempel på dette er et studie fra Massachusetts Institute of Technology og Universität Regensburg, som er omtalt i Ingeniøren 20. maj 2021. I dette studie skulle 138 erfarne radiologer og 127 klinikere uden specialviden kigge på røntgenbilleder af brystkassen.

For hver sag fik den ansatte enten en korrekt eller ikke-korrekt second opinion, ligesom de enten fik at vide, at vurderingen var lavet af en kollega eller af kunstig intelligens. På den baggrund skulle de så give deres egen vurdering af den korrekte diagnose.

Det viste sig, at alle deltagere var bedre til at give korrekte diagnoser, når deres second opinion også var korrekt. Effekten gik dog også den anden vej. 27 procent af radiologerne og 41 procent af de mindre erfarne sundhedsfaglige endte nemlig med at give en forkert diagnose, når de blev givet en forkert second opinion.

Hvad kan vi lære af dette studie?

Vi må i hvert fald kunne konkludere, at beslutningsstøtte kan have væsentlig betydning for den endelige vurdering af en sag – både når den second opinion er korrekt og forkert.

Vi må også kunne konkludere, at selvom alle ansatte kan påvirkes i forkert retning, så er det i særlig i høj grad de mindre erfarne, som lader sig forvilde af en forkert second opinion.

Beslutningsstøtte kan have væsentlig betydning for den endelige vurdering af en sag.

Birgitte Arent Eiriksson, kommentarskribent

Selvom det i studiet viste sig, at det ikke havde den store betydning, om deltagerne fik oplyst, at den second opinion stammede fra kunstig intelligens eller en kollega, er der alligevel nogle forskelle på de to scenarier, som kan have stor betydning i praksis.

Når man beder en kollega om en second opinion, og denne er forskellig fra ens egen vurdering, kan det give anledning til konstruktive drøftelser om de enkelte elementer i vurderingen og deres vægtning, samt om der eventuelt foreligger særlige omstændigheder.

Når en second opinion derimod kommer fra kunstig intelligens, må man normalt genoverveje sin vurdering uden reel viden om, hvordan den kunstige intelligens er kommet frem til et andet resultat.

Hertil kommer, at hvis der er – eller senere opstår – fejl og uhensigtsmæssigheder i den kunstige intelligens, kan dette påvirke rigtig mange sager. Her er der ikke bare tale om nogle få medarbejdere, der performer dårligt, men om en negativ påvirkning af alle medarbejdere, der anvender den kunstige intelligens som beslutningsstøtte.

Samtidig kan fejl i algoritmernes black box være meget vanskelig at opdage, da det forudsætter en stor faglig indsigt og et bredt kendskab til sagerne og deres afgørelse.

Selvom kunstig intelligens kan ses som et effektivt quick fix, er det vigtigt at være opmærksom på, at det er meget svært at udarbejde og ajourføre den perfekte algoritme.

Hvis der samtidig sker en overvurdering af de ansattes evner til at genoverveje egne vurderinger på baggrund af kunstig intelligens, forhøjes risikoen for masseproduktion af fejlagtige vurderinger.

Derfor bør kunstig intelligens aldrig ledsages af lavere krav til de ansattes uddannelse og erfaring. Tværtimod bør det være de mest kompetente medarbejdere, som vi sætter til at vogte over algoritmernes faglige pålidelighed, når kunstig intelligens slippes løs i den virkelige verden.

Mulighederne synes nærmest uendelige, men der er også en række risikofaktorer, som kan få stor betydning for borgernes rettigheder, retssikkerhed og tryghed.


Politik har aldrig været vigtigere
Få gratis nyheder fra Danmarks største politiske redaktion
Ved at tilmelde dig Altingets nyhedsbrev, accepterer du vores generelle betingelser