EU-Kommissionen: Flere skal have erstatning for fejl begået af kunstig intelligens

Borgere i EU skal beskyttes bedre imod fejlbehæftet kunstig intelligens og forskelsbehandling forårsaget af digitale redskaber.

Sådan lyder det fra EU-kommissionen, som onsdag har fremlagt et forslag om styrkelse af retssikkerheden på området.

Eksempelvis skal det være lettere at opnå erstatning for personer, som forskelsbehandles af kunstig intelligens i forbindelse med en jobansættelse, lyder det i forslaget.

Det skal konkret ske ved at forenkle bevisbyrden for borgerne, der fremover blot skal kunne sandsynliggøre, at kunstig intelligens har forårsaget skadelige fejl.

Desuden skal borgerne kunne få direkte adgang til det bevismateriale, som en virksomhed eller myndighed måtte henvise til i forbindelse med en klage.

Ifølge kommissær for retlige anliggender Didier Reynders er forslaget afgørende for, at EU i fremtiden kan udnytte fordelene ved kunstig intelligens til fulde.

"Samtidig med at vi tager højde for de nye teknologiers enorme potentiale, skal vi altid garantere forbrugernes sikkerhed. Passende standarder for beskyttelse af EU-borgerne udgør grundlaget for forbrugernes tillid og dermed for vellykket innovation,” lyder det i forslaget.

”I dag foreslår vi en række moderne ansvarsregler, der vil sikre netop det. Vi gør vores retlige ramme klar til realiteterne i den digitale omstilling,” tilføjer Didier Reynders.

Skal styrke tilliden

Over bred kam kan det i dag være særdeles vanskeligt at opnå erstatning i sager, der kredser om kunstig intelligens.

Det skyldes ifølge EU-Kommissionen, at systemerne ofte er uigennemsigtige og selvkørende.

Derfor er det særligt vanskeligt eller decideret umuligt at løfte bevisbyrden, hvilket svækker borgernes grundlæggende retssikkerhed, lyder det i forslaget.

Formålet med forslaget er derfor at give ofre for fejl begået af kunstig intelligens samme beskyttelse, som hvis skaden ikke bundede i digitale redskaber.

Reglerne skal samtidig styrke tilliden til nye digitale teknologier og sikre, at medlemslandene ikke laver deres egne regler på området.

Det vil nemlig medføre en såkaldt ”retlig fragmentering” og skabe unødige hindringer og usikkerhed for virksomhederne, fastslår Kommissionen.

Bygger ovenpå tidligere forslag

Det nye udspil fra EU-Kommissionen bygger ovenpå et forslag fra sidste år, hvor kommissionen lægger op til at styrke retssikkerheden og kravene på en stribe punker.

Kommissionen vil med en ny forordning blandt andet direkte forbyde former for kunstig intelligens, som tydeligt vurderes at true borgernes rettigheder.

Forbuddet omfatter blandt andet systemer, der ud fra algoritmer direkte tilskynder mennesker til at foretage specifikke handlinger.

Derudover skal det også være forbudt for regeringer at indføre såkaldte sociale pointsystemer, som eksempelvis kan bruges til at belønne eller straffe specifik adfærd.

Står det til Kommissionen skal kravene til tilladte former for kunstig intelligens afspejle risikoniveauet.

Der stilles således flest krav til kunstig intelligens, som benyttes indenfor kritisk infrastruktur såsom transportsektoren eller sundhedsområdet.

Forslaget til det nye direktiv skal nu vedtages af Europa-Parlamentet og Rådet, før det endeligt skal implementeres i medlemslandene.