F&P: Ukritisk AI-regulering kan dræbe innovationen i forsikringsbranchen

AI er en gamechanger i en digital verden. Derfor er EU på vej med et regelsæt, som søger at sikre ansvarlig brug af AI i Europa. Netop disse dage er EU's AI-regulering på vej ind i næste fase. Parlamentet har netop stemt, og nu skal det endelige forslag forhandles på plads mellem Ministerrådet og Parlamentet.

Vi håber i forsikrings- og pensionsbranchen, at de kommende nye regler bidrager til ansvarlig brug af AI, uden at dræbe innovationsevnen med ubalancerede og unødvendige krav.
Derfor er vi bekymrede for, at man fra EU's side lægger nye unødvendige byrder på erhvervslivet, som bliver en barriere for brugen af AI i Danmark (og resten af EU).

Lad os understrege, at vi ikke er imod AI-regulering. Reguleringen er nødvendig, men det er vores grundholdning, at reguleringen skal være balanceret, fair og fokusere på reelle risici. Det betyder, at de byrder, som reguleringen lægger på virksomheder og myndigheder, skal stå på mål med de risici, man vil adressere, og det betyder, at vi skal undgå dobbeltregulering.

I den kontekst er der særligt tre elementer i forordningen, som, vi mener, bør have parlamentets og ministerrådets opmærksomhed i de afsluttende forhandlinger.

Reglern skal ramme AI – ikke traditionel software

Det helt centrale element er definitionen af AI. Altså rammen for, hvad EU ser som AI, og som dermed omfattes af reglerne.

Her mener vi, at det er vigtigt at reglerne for kunstig intelligens ikke bredt rammer traditionel software. Definitionen bør derfor fokusere på områder, hvor computeren selv bygger modeller ud fra data, da det er en egenskab, som specifikt adskiller AI fra traditionel software, hvor et menneske bygger modeller og systemer.

Vi frygter, at der reguleres udelukkende på grund af fordomme om branchen

Sigrid Floor Toft
Digitaliseringspolitisk chef, Forsikring & Pension

Ministerrådet har i deres udspil lagt en del vægt på dette kendetegn, mens Parlamentet ser ud til at pege i retning af en bredere definition, der i højere grad kan omfatte traditionel software.

Vi mener, det vil være en fejl, hvis reglerne ender med at ramme traditionel software, der eksempelvis i høj grad bruges til at automatisere processer hos danske virksomheder, som ønsker at effektivisere forretningen.

Det er derfor vigtigt at holde fokus på bolden – og sikre, at reguleringen i tråd med sit formål rammer det som kendetegner AI – og ikke bredt regulerer al software.

Næste centrale element er listen over højrisiko-scenarier, som fastsætter, hvornår brugen af AI vil være omfattet af reglerne. For at sikre en rimelig balance er det vigtigt, at de scenarier, som sættes på listen, reelt er højrisiko. Det kræver, at man analyserer de enkelte scenarier, som sættes på listen og samtidig vurderer, om scenariet allerede er dækket af regulering, som mitigerer risikoen.

På den baggrund undrer det os, at forsikring er i spil til højrisiko-listen, på trods af at den europæiske tilsynsmyndighed for forsikring (EIOPA) har meldt ud, at de ikke ser forsikring som højrisiko grundet den eksisterende regulering.

Få ram på den reelle risiko

Det giver ikke mening at sætte en stor branche på listen, uden der foreligger en grundig analyse, som også ser på effekten af eksisterende lovgivning. Vi frygter, at der reguleres udelukkende på grund af fordomme om branchen.

Uanset om det handler om forsikring eller andre brancher, mener vi, at det er et godt princip, at man tænker sig om for at undgå unødige byrder og dobbeltregulering.

I essensen handler det europæiske forslag om at sikre en balanceret, fair og effektiv AI-regulering. At ramme den rette balance mellem krav og risiko bliver afgørende, hvis vi skal sikre fornuftig forbrugerbeskyttelse og undgå at overbelaste erhvervslivet – og særligt mindre virksomheder – med krav om at etablere et risiko-håndteringssystem, sikre at data i størst muligt omfang er fri for fejl og komplette, udarbejde omfattende dokumentation, sikre tekniske krav til præcision, robusthed og cybersikkerhed.

Det er krav, som giver mening, hvis der er tale om en reel høj risiko for forbrugerne ved brug af AI. Omvendt er det krav, som blot dræber innovationen, hvis de stilles ukritisk til alle virksomheder, uden afvejning af om de står på mål med den reelle risiko.