Professor: Brystkræftscreening med AI giver hurtigere resultater, men det øger risikoen for fejl

Der er mange udfordringer

Men måske er det ikke helt så enkelt. Som en del af et større europæisk forskningsprojekt om AI har jeg interviewet radiologer og ledere i region Syddanmark og Midtjylland, hvor der for tiden forberedes implementering af AI.

Her tegner der sig et noget mere kompliceret billede, som giver anledning til mange spørgsmål. Udfordringerne ved at indføre AI på arbejdspladser er mangeartede.

De algoritmiske systemer når ofte frem til beslutninger på måder, der virker uklare, både for deres brugere, deres objekter og nogle gange endda deres udviklere.

Det er også almindeligt anerkendt, at AI-teknologier langt fra er fejlfrie, og der er dokumenteret flere fejl i AI-baseret diagnosticering og billeddannelse.

Det vigtigste er, hvordan teknologien kommer til at påvirke radiologens arbejdsgange og rolle.

Dorthe Brogård Kristensen
Professor, Institut for Virksomhedsledelse, Syddansk Universitet

Derfor er der almindelig enighed om, at der kræves menneskelig ekspertise for at forstå og komplementere de algoritmiske systemer for at undgå fatale fejl.

Endelig medfører implementering af AI nye typer – ofte usynligt – arbejde, som nemt bliver overset, når gevinsterne skal gøres op.

Implementering er aldrig simpelt

Da Region Hovedstaden i 2022 implementerede AI, var systemet laboratorietestet, og resultaterne indtil da var lovende – som en repræsentant for firmaet fortalte os i et interview.

Da AI ikke bliver træt, opdages der potentielt flere kræfttilfælde og hurtigere, samtidig med at arbejdsbyrden bliver nedsat.

Så AI gør sit job. Og hvad er så udfordringen?

For det første kan evidens fra laboratoriet ikke uden videre overføres til klinikken. Og vi har brug for mere viden fra praksis. For eksempel om hvad der sker med radiologens kompetencer, når arbejdsgangen omlægges, og det fænomen at AI også finder andre kræftknuder end den menneskelige radiolog.

Region Sjælland og Midtjylland har vedtaget at implementere AI systemer i løbet af 2025, og foreløbigt er det Screenpoint Medical som der peges på som leverandør. Region Syddanmark kører et udbud med planlagt idriftsættelse i 2025. 

Gør vi det rigtige, og ved vi nok?

Som en del af en større EU-undersøgelse om AI og offentlige værdier har jeg spurgt ledende overlæger og radiologer om deres syn på AI, inden den implementeres.

Radiologerne er generelt optimistiske i forhold til at kunne nedsætte tidsforbruget og øge kvaliteten. Men de har også mange ubesvarede spørgsmål.

Det vigtigste er, hvordan teknologien kommer til at påvirke radiologens arbejdsgange og rolle, som hænger sammen med den lovede tidsbesparelse og økonomiske gevinst.

Det er afgørende for dem at forstå teknologien og at kunne opdage, når den begår fejl. For det gør den.

Hvem har ansvaret, hvis både AI og den menneskelige radiolog tager fejl? 

Dorthe Brogård Kristensen
Professor, Institut for Virksomhedsledelse, Syddansk Universitet

For eksempel kan ar efter en brystoperation, brystimplantater, forkalkninger, blodkar og lymfeknuder for en AI være tegn på suspekte forandringer eller symptomer på kræft.

En trænet radiolog vil derimod gå tilbage i patientens historie og evaluere udviklingen siden sidste mammografi. Hvis der ikke er nogen dramatisk udvikling, er det som regel ikke tegn på en malign kræft. Det vil være et vurderingsspørgsmål i hvert enkelt tilfælde, som i høj grad beror på radiologens erfaring.

Radiologen skifter således rolle fra at være beslutningstager til også at være kvalitetskontrollør og overdommer, da de nu også skal forholde sig til AI algoritmens vurderinger.

Der er ingen generelle retningslinjer for, hvordan radiologen skal udføre denne funktion, og specielt yngre radiologer kan mangle de nødvendige færdigheder.

Hvis den ikke udføres korrekt, kan det føre til overdiagnostisering, unødvendige indkaldelser og i værste fald unødvendige operationer. Radiologerne spørger sig da også, hvor stor den reelle tidsbesparelse mon er, hvis man medregner det tidsforbrug, som de bruger på at kvalitetstjekke AI.

Bekymring over effekt og ansvar

Et andet og mindst lige så vigtigt spørgsmål er, hvad det betyder for klinisk praksis, at AI kan opdage andre knuder end lægerne, og at de måske ikke er potentielt dødelige.

Hvor mange ikke-dødelige kræftknuder risikerer man at overbehandle? Og hvem tager sig af de kvinder, som bliver indkaldt til ekstra kontrol uden grund? Det påpeges også af flere læger, at vi mangler tallene for dødelighed for at kunne vurdere den reelle effekt. Det klinisk relevante endemål er jo at reducere dødelighed.

Et tredje vigtigt spørgsmål handler om ansvar. Hvem har ansvaret, hvis både AI og den menneskelige radiolog tager fejl? Er det den radiolog, der udførte screeningen, som har ansvaret fordi han/hun kom sidst, og er AI så fritaget for ansvar?

Det lægger en stor byrde på radiologernes skuldre, som de tidligere var to til at løfte, og det er et vakuum, som opstår i kølvandet på AI implementeringen.

Det er problematisk, når AI-løsninger foreslås som en nem plug and play løsning.

Dorthe Brogård Kristensen
Professor, Institut for Virksomhedsledelse, Syddansk Universitet

Det sidste spørgsmål handler om økonomi. Hvor AI-løsningen var gratis i prøveperioden, har den nu en stykpris per screeningsbillede på 24 kroner, mens en screening udført af en læge kun koster 16 kroner. Det vil således øge omkostningerne.

Derudover indvendes det, at der ikke er mangel på arbejdskraft i alle regioner – så er man i færd med at reparere noget, som muligvis fungerer godt? Og med de nævnte risici in mente?

Det er problematisk, når AI-løsninger foreslås som en nem plug and play løsning.

Ifølge min forskning er der i hvert fald en lang række udfordringer i kølvandet: Blandt andet nye typer arbejde og ændrede arbejdsgange, uklar ansvarsfordeling og mulig overbehandling.

Det er derfor også vigtigt at sikre, at hospitalerne og sundhedssektoren har ekspertise til at træffe de rigtige beslutninger, og er indstillet på at involvere de nøglepersoner, som skal arbejde med teknologien, når den implementeres.

I sundhedsvæsenet bør AI-implementeringer finde sted uden eksternt politisk og kommercielt pres og involvere de sundhedsprofessionelle, der skal bruge teknologierne.