Microsoft vil have ”præciseret” AI-udspil: EU-regler skal være både ”principielle og pragmatiske”

”Europa skal være verdensførende i udvikling og anvendelse af kunstig intelligens (AI), der er både sikker, troværdig og menneskecentreret.”

Sådan fremlagde Magrethe Vestager i april visionen bag EU-kommissionens nye forslag om kunstig intelligens.

På alle måder en vigtig og prisværdig ambition, der vil udgøre en hjørnesten i Europas digitale årti. Men også en monumental opgave, hvor indsatsen næppe kunne være større.     

Europa halter efter
Selvom vi i Europa og Danmark ser utallige eksempler på virksomheder og offentlige myndigheder, der transformerer arbejdsgange og leverer banebrydende løsninger baseret på AI – inden for eksempelvis sundhed, fødevarer og energieffektivitet - så halter Europa på flere afgørende parametre efter USA og Kina, der ifølge nogle beregninger repræsenterer over 80 procent af verdens AI-investeringer.    

Derfor er det helt rigtigt, når Kommissionen med Vestager i spidsen lægger op til en tobenet indsats: Klare, etiske rammer og regler skal gå hånd i hånd med øgede investeringer og bedre koordination af forsknings- og innovationsindsatser på tværs af EU-landene.

Vi skal forstå AI, før vi kan regulere det, som kommissæren tidligere har sagt.

Tillid til teknologien afgørende
Men hvis EU’s ambition skal lykkes, så er det afgørende, at de nye regler fungerer både på papir og i praksis.

Reguleringen af kunstig intelligens er om muligt endnu mere kompleks end GDPR, og efterlevelsesbyrden får direkte konsekvenser for erhvervslivet og myndigheder i Europa.

Som en dansk iværksætter nøgternt pointerede på et nyligt webinar om ansvarlig AI: ”Hvis mine tre første ansatte skal være compliance-officerer, så kan vi lige så godt lukke og slukke”

Mikael Ekman
Direktør for Politik og Strategi, Microsoft Danmark og Island

Som en dansk iværksætter nøgternt pointerede på et nyligt webinar om ansvarlig AI: ”Hvis mine tre første ansatte skal være compliance-officerer, så kan vi lige så godt lukke og slukke”

Derfor er det positivt, at Kommissionen foreslår en risikobaseret tilgang.

Kræfterne skal bruges på de områder, hvor der er ’høj risiko’ for sundhed, sikkerhed eller fundamentale rettigheder, mens ukontroversielle anvendelsesområder, der i praksis er langt størstedelen, skal næres og tilskyndes.  

Det er også positivt, at EU helt forbyder anvendelser af AI, der er i modstrid med EU's grundlæggende normer og værdier – for eksempel ’social scoring’ af europæiske borgere. Uden tillid til teknologien kan vi glemme alt om at høste digitaliseringens gevinster.

Umuligt at risikovurdere på forhånd
Dykker man længere ned i forslaget, er der imidlertid områder, der kan tydeliggøres.

Et eksempel er den ’forventede anvendelse’ af et AI-system. Med fysiske produkter såsom en bil, et køleskab eller et TV, er det relativt ligetil at forudsige, hvordan de vil blive anvendt fra den dag de ruller af samplebåndet og gennem hele levetiden.

Moderne AI-systemer er derimod langtfra éndimensionelle.

Generelle AI-systemer og grundværktøjer inden for maskinlæring, som dem Microsoft udvikler og udbyder, bruges til mange, vidt forskellige formål. Samtidig er systemerne dynamiske og vil udvikle sig over tid i takt med, at modellerne tilpasses og ny data fødes ind.

I praksis er det derfor ofte svært - eller umuligt - for en leverandør på forhånd at risikovurdere anvendelsen af et AI-system.

I praksis er det ofte svært - eller umuligt - for en leverandør på forhånd at risikovurdere anvendelsen af et AI-system

Mikael Ekman
Direktør for Politik og Strategi, Microsoft Danmark og Island

Som eksempel kan en hotelkæde bruge det samme tekstanalyseprogram til at gennemgå online-anmeldelser for positiv/negativ feedback, men også til at sortere i ansøgningerne til en ledig receptioniststilling.

Det ene er helt ukontroversielt. Det andet har potentielt store konsekvenser for fundamentale rettigheder og kræver helt andre forholdsregler.

En mulig løsning, der blandt andet kendes fra det finansielle område, er at skelne mellem ’ibrugtagere’ og leverandører af teknologien.

Førstnævnte har ansvaret for at risikovurdere den konkrete anvendelse i en given kontekst – er der tale om analyse af online-anmeldelser eller screening af jobansøgere - mens teknologileverandørerne skal dokumentere, hvordan et konkret system er designet, trænet og testet inden offentliggørelse.

Regler skal præciseres
Det er også andre områder, hvor forslaget kunne tydeliggøres – for eksempel kravet om ’fejlfri’ og ’fuldstændige’ datasæt, der i praksis er vanskeligt at definere og ikke altid vil være ønskværdigt.   

Det ændrer dog ikke ved, at EU med det nye AI-forslag på ny har lagt sig i spidsen i udformningen af globale normer for ansvarlig teknologi. Normer, der vil gavne borgere og forbrugere – ikke bare i Europa, men på verdensplan.

Hvis EU i de kommende måneder formår at præcisere reglerne, så de er både principielle og pragmatiske, har Europa alle forudsætningerne for at blive verdensførende i ansvarlig kunstig intelligens, inden Europas digitale årti er ovre.