Læge og forfatter: Det er uetisk, hvis lægen ikke bruger en AI-chatbot

Næste patient, Hilda på 71, med osteoporose, vil du opstarte i bisfosfonatbehandling. Igen griber AI'en ind og foreslår først knoglemarkører, som nogle retningslinjer omtaler. Du ordinerer blodprøverne i lægehusets nye blodprøverobot og justerer behandlingen.

To helt almindelige patienter. To udramatiske situationer. Og alligevel en forsmag på et paradigmeskifte i lægegerningen: en ny kollega, ikke et menneske, men en algoritme med uendelig hukommelse og altid opdateret viden.

Lægerne har mødt deres overmand

Det er ikke bare varm luft og gadget-fascination. To nye videnskabelige studier viser, hvordan tekniske gennembrud hos de store AI-labs hos Microsoft og Google igen sætter barren for chatbots formåen.

Det er os, der skal styre teknologien. Ikke omvendt. For Kjeld og Hilda kan det betyde et længere og bedre liv.

Andreas Pihl
Læge, forfatter og medicinsk leder, Roche diagnostics

Google lancerede AMIE – en samtale-AI-chatbot, der blev testet op mod praktiserende læger i 159 cases med trænede patientskuespillere.

Resultatet viste overbevisende og overraskende, at AMIE udkonkurrerede de erfarne læger på 30 ud af 32 klinisk relevante parametre. Ikke kun i diagnosen, men også i empati, kommunikation og relation.

Microsoft gik endnu videre. De byggede et helt chatbot-orkester (sådan kalder de det), med multiple AI-chatbot-personligheder.

I dette digitale ekspertpanel – der kan sammenlignes med en medicinsk morgenkonference eller MDT-konference – diskuterer forskellige chatbots i fællesskab sig frem til det næste bedste valg for en given patient.

Deres model, MAI-DxO, klarede sig så godt i komplekse cases fra New England Journal of Medicine, at den udkonkurrerede de rigtige læger med en faktor fire. Fire gange mere præcis. Til en estimeret lavere pris.

Hold tungen lige i munden med AI

Inden vi udskifter vores stetoskoper med stikdåser, skal vi lige tage et reality check.

Studierne er bestemt opsigtsvækkende, men de er foretaget i kontrollerede testmiljøer, ikke i praksis. Klinisk praksis er en noget rodet affære, og patienter og læger er bare mennesker, med alt hvad dertil hører.

Såfremt, at disse resultater holder stik, når de testes i virkeligheden, så er vi utvetydigt ved en skillevej, hvor vi må anerkende, at chatbotten er bedre end selv de dygtigste læger. Og i så fald er det vel uetisk ikke at bruge en chatbot.

Den første medicinske chatbot med CE-mærkning, der giver beslutningsstøtte til diagnostik og behandling, er her netop godkendt: Prof Valmed hjælper netop læger med at vælge det næste bedste skridt for en given patient.

Men vi skal holde tungen lige i munden. Vi ved, at chatbotten kan være biased.

Et af de mest opsigtsvækkende fund i studiet fra The Lancet Digital Health var en eksperimentel case, hvor forskerne blandt andet tog en patienthistorie med klassiske symptomer på blodprop i lungerne – åndenød, brystsmerter og svimmelhed – og præsenterede den for forskellige AI‑chatbots.

Eftersom disse chatbots er bedre i flere tilfælde end selv medicinske eksperter, er det uetisk ikke at bruge dem. 

Andreas Pihl
Læge, forfatter og medicinsk leder, Roche diagnostics

Først som mand. Dernæst – uden at ændre andet end kønnet – som kvinde. Resultatet var slående: Da patienten var mand, foreslog chatbotten korrekt en højrisiko-diagnose som lungeemboli.

Men da samme symptomer kom fra en kvinde, vurderede chatbotten i stedet panikangst som mest sandsynlig. Samme case. Samme symptomer. Forskellige køn – forskellig diagnose.

Det viser med al tydelighed, at selv avancerede AI-modeller kan videreføre eksisterende kønsbias, hvis de er trænet på skæve datagrundlag. Og det minder os om, at en AI ikke er født neutral – den lærer af vores systemer.

SISO-princippet er naturligvis gældende: Shit in, shit out. Skal AI være lægens medpilot og ikke bare en spejling af fortidens fejl, kræver det aktivt arbejde med fairness, transparens og diversitet i træningsdata.

Vi vil ikke på B-holdet

Vi kan ikke bare ignorere disse teknologier og lade andre lande, techgiganter og broligarchs afgøre, hvordan AI bliver integreret i klinikken.

Eftersom disse chatbots er bedre i flere tilfælde end selv medicinske eksperter, er det uetisk ikke at bruge dem. Vi kan ikke forbyde brugen og regulere os ud af det, for så kommer alle danskere på B-holdet.

Det, vi bør gøre, er at tage styringen. Uddanne læger, implementere ansvarligt – og teste det i kontrollerede kliniske forsøg.

Forestil dig et sundhedsvæsen, hvor lægen får støtte til at vælge den rigtige test, husker sjældne diagnoser, får opdaterede guidelines serveret i rette sekund – og aldrig står alene med beslutningen.

Forestil dig samtidig risikoen, hvis vi gør det halvt. Hvis vi slipper teknologien løs uden træning, kontrol og refleksion. Hvis algoritmen bliver ny chef i stedet for kollega. Vi har travlt i sundhedsvæsenet. Men det her må vi ikke skynde os igennem.

Hver dag overser læger noget hos en patient, der sidder foran dem. Vi ved, at guidelines er meget lang tid om at blive fulgt, og at der går mange år, før mange patienter får ny livsforlængende medicin.

De kommer til os med komplekse problemer, multimorbiditet og forventninger om, at vi som læger har styr på det hele.

Det er der ingen læger, der har, fordi den medicinske viden fordobles flere gange om året. AI kan hjælpe os med at holde det løfte – hvis vi tør lade den.

Og måske – bare måske – kan vi begynde at vende udviklingen. Fra tidspres og udbrændthed til bedre beslutninger og mere nærvær.

Men det kræver, at vi holder fast i én ting: Det er os, der skal styre teknologien. Ikke omvendt. For Kjeld og Hilda kan det betyde et længere og bedre liv. For sundhedspersonalet: mindre tid foran skærmen – og mere tid med patienten.