Direktør: EU kan skabe en "verdens-standard" for skabelse og brug af AI

Lad os tage et snigkik på "ansvarlig og troværdig AI"-oplægget, som gruppen altså er ved at operationalisere yderligere på baggrud af input for tusinder af virksomheder og institutioner i Europa.

Det vil kunne komme til at virke som en slags "samfundets grundregler i en verden af AI. De syv parametre er:

1. Menneskets handlekraft og overblik
AI skal understøtte menneskets selvbestemmelse og råderet og altid sikre menneskelig over- og indblik. AI må aldrig kunne underminere eller overtrumfe menneskets selvbestemmelse og autonomi.

2. Teknisk robusthed og sikkerhed
AI-systemer bør udvikles til at forholde sig præventivt til risiko, således at man kan anvende dem i tillid til, at de fungerer som tiltænkt.

AI-systemer bør desuden være robuste over for angreb og i det hele taget stille store krav til sikkerhed/cybersikkerheds-trusler.

Der stilles i øvrigt store krav til AI-systemers præcision, pålidelighed (herunder også evnen til nøjagtigt at reproducere egne handlinger under deres givne forhold).

3. Håndtering af personlige data og datahemmelighed
Alle AI-systemer skal garantere borgernes privatliv og databeskyttelse i hele systemets levetid. Dette gælder samtlige informationer indsamlet – også dem, AI-systemet selv udregner om borgeren, for eksempel om politisk holdning, seksuel orientering, køn, alder og så videre.

Hvis dataindsamling er behæftet med unøjagtigheder, bias eller fejl, skal og bør dette adresseres inden videre brug. Data om borgerne er altid beskyttet og kan ikke uden videre tilgås uden tilladelse. 

4. Gennemsigtighed/transparens
De processer, som afgør AI-systemets handlinger og beslutninger, bør være gennemsigtige – det gælder både sorteringen af data, algoritmer og så videre, således at systemets afgørelse kan udredes "bagud".

Mennesker har krav på at vide, hvis de kommunikerer med et AI-system; det vil sige, AI må ikke udgive sig for at være et menneske.

5. Diversitet, ikke-diskrimination og fairness
Diversitet og inklusion bør være et ufravigeligt krav i hele AI-systemets levetid.

Der bør tages højde for, at de historiske data, der fødes ind i AI-systemer kan reproducere historisk unfair bias.

AI bør indrettes på diversitet også under hensyntagen til handicaps og så videre. Dette kræver, at alle grupper, som direkte eller indirekte får berøring med en AI-løsning, bør høres og involveres i udviklingen af den.

6. Samfundsmæssig og miljømæssig hensyntagen
AI-systemer kan bidrage til løsningen af nogle af vores mest presserende samfundsmæssige udfordringer og bør anvendes til at løse disse, hvor det er muligt. Anvendelse af mindst muligt ressourcer, herunder også energi, bør tages i betragtning.

AI kan anvendes i politiske og demokratiske handlinger, men det bør nøje og kritisk overvejes, før dette realiseres.

7. Tilregnelighed og revidering
AI-systemer skal kunne revideres – ikke på en måde, som afslører forretningmodeller og så videre, men således, at det kan dokumenteres og bevises, at fundamentale rettigheder er overholdt. Kritiske AI-systemer skal kunne revideres af eventuelle eksterne parter.

De syv udmøntninger til AI-systemer er yderligere uddybet i en række tjek-spørgsmål, så skaberen af AI kan anvende disse til at sikre, at der er tænkt over og taget hensyn til disse syv grundprincipper.

Derudover er der beskrevet en organisatorisk governancemodel for implementering i virksomheder og institutioner.

Lige nu arbejder gruppen med at revidere tjeklisten og udarbejde mere sektor-specifikke guidelines. I mine øjne kunne næste skridt meget vel være, at det europæiske rammeværk blev sendt tilbage til landene til endnu en "runde" blandt virksomheder og organisationer. 

Måske er det så første gang, at EU-regulering rent faktisk er implementeret, før den bliver formaliseret, og endog med hele samfundets buy in. 

Jeg tror på, at vi på denne måde er ved at skabe en "verdens-standard" for skabelse og anvendelse af AI. En ramme for ansvarlig og troværdig AI i Europa.

En ramme, som sætter mennesket i centrum og tildeler kunstig intelligens en assisterende rolle i bestræbelserne på at skabe velfærd, velstand og bæredygtig fremgang med europæiske kerneværdier i behold.