EU lander aftale om verdens første regelsæt for kunstig intelligens

“Historisk! EU bliver det allerførste kontinent, der opstiller klare regler for brugen af kunstig intelligens.”

Natten til lørdag kunne EU-kommissær for det indre marked, Thierry Breton, endelig breake den nyhed på det sociale medie X, som de europæiske institutioner har drømt om så længe.

EU skriver sig ind i historiebøgerne i sin stræben for med lovgivning at sikre en ansvarlig udvikling i tråd med europæiske værdier af en teknologi, der anses for at være en af de mest revolutionerende, som verden nogensinde har stået overfor.

”Kunstig intelligens er i rivende udvikling og giver fantastiske muligheder, som vi skal udnytte. Jeg er derfor meget glad for og stolt over, at vi nu har skabt verdens første rammer, der giver klarhed for virksomhederne og myndighederne, når de udvikler og bruger kunstig intelligens," udtaler digitaliseringsminister Marie Bjerre (V) i en pressemeddelelse.

Ansigtsgenkendelse i offentlige rum

Hovedideen er at regulere AI efter en risikobaseret tilgang. Jo større skade teknologien i sin brug kan gøre på samfundet, jo strengere regler bliver de underlagt.

Blandt de store knaster i forhandlingerne, der har strakt sig over tre døgn, har været biometrisk identifikation såsom ansigtsgenkendelse.

Det er som udgangspunkt forbudt at bruge ansigtsgenkendelse i det offentlige rum, men efter Rådets ønske er der kommet flere undtagelser. 

Djævlen ligger i detaljen, og vi håber på, at den endelige tekst også viser en risikobaseret og teknologineutral lovgivning.

Camilla Ley Valentin
Branchedirektør, DI Digital

Medlemslandene har blandt andet fået igennem, at man kan bruge målrettet ansigtsgenkendelse til at søge efter ofre og mistænkte ved alvorlig kriminalitet, og at det kan bruges til at forsøge at forhindre eksempelvis terrorangreb.

Det er blevet forbudt at bruge systemer til følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner, men den europæiske gruppe for privatlivsrettigheder European Digital Rights bemærker i en pressemeddelelse, at det ikke udelukker at bruge systemerne eksempelvis ved landegrænser.

Gruppen mener i det hele taget, at EU's samlede pakke med biometri i bedste fald er lunken og erklærer derfor, at kampen mod biometrisk masseovervågning vil fortsætte. 

De nye regler stiller strenge krav til kunstig intelligenssystemer, som man bruger til for eksempel rekruttering eller til at understøtte beslutning om, hvilke sociale ydelser en borger har ret til.

"Her er det vigtigt med strenge krav, da der kan være en risiko for, at borgere ikke får tilbudt et job eller ret til nogle sociale ydelser, hvis der ikke er taget højde for forudindtagethed – også kaldet bias – i de data, som den kunstige intelligens er trænet på," skriver Digitaliseringsministeriet. 

Krav til store AI-modeller

Overfor hensynet til at sikre borgernes grundlæggende rettigheder står et ønske om ikke i for høj grad at bremse de potentialer, som teknologien også indeholder for innovation og økonomisk vækst på europæisk jord, også i erkendelse af det store globale kapløb, der foregår lige nu inden for kunstig intelligens.

Her blev det sent i forløbet et stort stridspunkt, hvor hårdt der skulle sættes ind over for grundlæggende AI-modeller såsom ChatGPT og Bard. 

Jeg er meget glad for og stolt over, at vi nu har skabt verdens første rammer, der giver klarhed for virksomhederne og myndighederne, når de udvikler og bruger kunstig intelligens.

Marie Bjerre (V)
Digitaliseringsminister

Den foreløbige aftale indeholder en række forpligtelser for disse såkaldte “foundation models”, men også overfor AI-systemer til generelle formål (GPAI), blandt andet til gennemsigtighed før de markedsføres.

Parternes ønske om at holde lidt hånd i hanke med de mest kraftfulde modeller til generelle formål indebærer også, at der etableres et nyt kontor i EU-Kommissionen, der skal sikre, at reglerne håndhæves.

Djævlen i detaljen

Blandt andet disse forpligtelser rejser bekymring og kritik blandt europæiske virksomheder.

"Vi har en aftale, men til hvilken pris? Vi støttede fuldt ud en risikobaseret tilgang baseret på brugen af ​​kunstig intelligens, ikke selve teknologien, men forsøget i sidste øjeblik på at regulere fundamentmodeller har vendt dette på hovedet," siger generaldirektør for erhvervsorganisationen DigitalEurope, Cecilia Bonefeld-Dahl, i en pressemeddelelse.

Den internationale organisation CCIA, der repræsenterer virksomheder som Facebook, Instagram og Apple, mener, at hastigheden ser ud til at have sejret over kvaliteten i den foreløbige aftale "med potentielt katastrofale konsekvenser for den europæiske økonomi".

Dansk Industri understreger, at der indtil nu kun er tale om en politisk aftale.

"Det betyder, at der stadig udstår nogle tekniske forhandlinger, før vi ved, hvordan virksomheder kommer til at efterleve de nye regler. Djævlen ligger i detaljen, og vi håber på, at den endelige tekst også viser en risikobaseret og teknologineutral lovgivning. Derfor følger DI fortsat forhandlingerne tæt,” siger branchedirektør for DI Digital, Camilla Ley Valentin, i en pressemeddelelse.

Loven, kaldet AI Act, skal stadig godkendes formelt af Europa-Parlamentet og EU’s medlemslande.