Vil ministeren kommentere artiklen »There are holes in Europe’s AI Act — and researchers can help to fill them«?

”Vil ministeren kommentere artiklen »There are holes in Europe’s AI Act — and researchers can help to fill them« fra tidsskriftet Nature den 10. januar 2024, herunder hvilke overvejelser ministeren gør sig i forhold til dansk deltagelse fra forskningsmiljøerne i arbejdet med forordningen?” Svar:

Det har været en prioritet for Danmark, at de dele af forordningen, der primært omhandler store modeller, som har indflydelse på tværs af EU’s grænser, skulle håndhæves på EU niveau.

Med etableringen af det såkaldte ”AI Office”, som omtales i ariklen er dette lykkes.

Jeg er glad for, at det også er lykkedes at få inkluderet et videnskabeligt panel i forvaltningsstrukturen i forordningen om kunstig intelligens. Dette panel skal understøtte bl.a. AI Office.

Det har vi igennem forhandlingerne støttet og arbejdet for fra dansk side. Jeg er nemlig enig i, at det er meget vigtigt, at de myndigheder der skal håndhæve forordningen, har mulighed for at få hjælp fra forskere og andre uafhængige eksperter inden for kunstig intelligens. Teknologien udvikler sig meget hurtigt, og det er derfor meget vigtigt, at der tages en inkluderende tilgang, så nye risici adresseres, når de opstår, samtidig med at vi ikke står i vejen for innovationen.

Artiklen peger på ”huller” i forordningen, som de mener, at disse forskere skal være med til at lukke. Et ”hul” de påpeger er den risikobaserede tilgang. I min optik er det ikke et hul, men en helt central del af forordningens opbygning. Det er med fuldt overlæg, at vi har taget en risikobaseret tilgang, sådan at vi stiller høje krav til AI systerm, der skal anvendes inden for områder, hvor der er en stor risiko for borgerens fysiske sikkerhed eller grundlæggende rettigheder, og mindre eller slet ingen krav, der hvor risikoen er minimal, fx software til at opsummere en tekst, som artiklen selv peger på. Artiklen påstår desuden, at der ikke er nogen kriterier til at vurdere hvornår en anvendelse er at betragte som høj-risiko, hvilket ikke er korrekt.

Kriterierne fremgår af forordningens artikel 7. På baggrund af disse kan listen over høj-risiko anvendelser opdateres med den teknologiske udvikling.

I forhold til dansk deltagelse fra forskermiljøet i det videnskabelige panel og dermed i arbejdet med forordningen forventer jeg, at Kommissionen, når forordningen er formelt vedtaget og offentliggjort, vil offentliggøre et opslag, som jeg bestemt vil opfordre danske forskere til at søge. I forordningen er der fastsat krav om, at det skal sikres, at panelet er geografisk repræsentativt for EU, og at der er en rimelig kønsrepræsentation.

Angående det øvrige arbejde med implementeringen af forordningen vil jeg fortsat løbende være i dialog med det danske forskningsmiljø.