Debat

Lægemiddelstyrelsen: EU-regler om kunstig intelligens skal være mere sektorspecifikke

EU-regler og krav til, hvordan vi tilgår og behandler algoritmer, bør være mere sektorspecifikke, end der er lagt op til. I sundhedssektoren bør hensynet til patientsikkerhed eksempelvis prioriteres mindst lige så højt som datasikkerhed, skriver Thomas Wejs Møller.

På et område som AI, hvor morgendagens muligheder for at udnytte data og løsninger er uforudsigelige, er det vigtigt, at lovgivningen giver fleksibilitet for den enkelte sektor. Det siger Thomas Wejs Møller, enhedschef i Lægemiddelstyrelsen.
På et område som AI, hvor morgendagens muligheder for at udnytte data og løsninger er uforudsigelige, er det vigtigt, at lovgivningen giver fleksibilitet for den enkelte sektor. Det siger Thomas Wejs Møller, enhedschef i Lægemiddelstyrelsen. Foto: Ólafur Steinar Gestsson/Ritzau Scanpix
Thomas Wejs Møller
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Debatten om EU-Kommissionens udspil til en ny fælles regulering af kunstig intelligens har indtil nu mest handlet om at sikre borgernes grundlæggende datarettigheder og forhindre muligt misbrug af personfølsomme data.

Samtidig peges der på, at de kommende regler og krav ikke må blive en stopklods for udvikling og implementering af kunstig intelligens. Begge dele er vigtigt.

I sundhedssektoren bør hensynet til patientsikkerhed prioriteres mindst lige så højt som datasikkerhed, fordi algoritmer, der anvendes til diagnosticering og behandling, hurtigt kan ende med at handle om liv og død

Thomas Wejs Møller, enhedschef, Medicinsk Udstyr, Lægemiddelstyrelsen

I sundhedssektoren bør hensynet til patientsikkerhed imidlertid prioriteres mindst lige så højt som datasikkerhed, fordi algoritmer, der anvendes til diagnosticering og behandling, hurtigt kan ende med at handle om liv og død.

AI-principper skal 'oversættes'
Anvendelsen af kunstig intelligens (AI) i sundhedsvæsnet er i en rivende udvikling, specielt er muligheden for brug af algoritmer og maskinlæring (ML) øget, og der ligger et enormt potentiale for bedre og mere effektive behandlinger og en øget livskvalitet hos patienterne.

Men det skal ske under rammer, hvor patientsikkerheden også forbedres.

Derfor bør kommende EU-regler og krav til, hvordan vi tilgår og behandler algoritmer, være mere sektorspecifikke, end hvad der er lagt op til i udspillet.

De overordnede principper for AI bør med andre ord ’oversættes’, så de bliver så relevante som muligt og kan fungere på den enkelte sektors præmisser frem for at virke overflødige eller i værste fald skadelige i nogle sektorer.

Følsomme algoritmer til behandlinger i sundhedssektoren skal fx ikke nødvendigvis behandles på samme måde som løsninger til eksempelvis bil- eller byggebranchen.

I sundhedssektoren kan en algoritme eksempelvis benyttes til at styre, om en patient bliver indkaldt til behandling eller ej. En fejlagtig vurdering kan have fatale konsekvenser for patienten.

Derfor er det vigtigt, at lovgivningen sikrer specifikke krav om at eftervise en god overensstemmelse mellem effekten af produktet og de risici, der kan være for patienten. Algoritmerne skal styrke patientsikkerheden.

De overordnede principper for AI bør ’oversættes’, så de bliver så relevante som muligt og kan fungere på den enkelte sektors præmisser frem for at virke overflødige eller i værste fald skadelige i nogle sektorer

Thomas Wejs Møller, enhedschef, Medicinsk Udstyr, Lægemiddelstyrelsen

Disse krav til sikkerheden er ikke kun til fordel for patienterne, men også for virksomhederne og sundhedsvæsnet, der skal skabe algoritmer, som både patienter og sundhedspersoner kan have tillid til.

Potentialet ved algoritmer til behandling kan først rigtigt indfries, når den rette balance er fundet mellem teknologisk modenhed og oplevet sikkerhed hos patienter.

Fleksibilitet for den enkelte sektor
Det er naturligvis en udfordring at skabe perfekte rammer på et område, hvor målskiven hele tiden flytter sig, og morgendagens muligheder for at udnytte data og løsninger er uforudsigelige.

Derfor skal lovgivningen give fleksibilitet for den enkelte sektor, så eksperter, myndigheder, brugere og virksomheder kan samarbejde om at finde de rette løsninger.

Inden for medicinsk udstyr er vi allerede langt fremme i forhold til at sikre fælles krav og retningslinjer.

Lægemiddelstyrelsen deltager som EU-repræsentant i det internationale forum for medicinsk udstyr IMDRF’s arbejde for et solidt og harmoniseret grundlag til fabrikanter og brugere, og vi arbejder aktivt for, at man fra europæisk side følger disse og støtter op om internationale retningslinjer.

Lægemiddelstyrelsen arbejder dermed også for at sikre, at de krav der bliver lagt i EU’s nye forordning for kunstig intelligens, flugter med udviklingen i sundhedsvæsnet og styrker patientsikkerheden.

Læs også

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion