Dataetisk Råd: To scenarier for politiets brug af ansigtsgenkendelse bør direkte forbydes

Ansigtsgenkendelse i fire situationer

Vi har i Dataetisk Råd vurderet, at politiet bør have lov til at anvende ansigtsgenkendelse i fire situationer:

1. Til at udføre automatiseret paskontrol i lufthavnen.
2. Til at hjælpe med at genkende ofre i materiale med seksuelt misbrug af børn.
3. Til retrospektivt at søge efter relevante personer i materiale fra det offentlige rum i sager om særligt alvorlig, personfarlig kriminalitet.
4. Til at søge i materiale fra relevante personer, der er knyttet til efterforskning af særligt alvorlig, personfarlig kriminalitet, for eksempel på mobiltelefonen fra et drabsoffer..

Der er flere fællestræk ved disse scenarier, som er med til at gøre anvendelsen dataetisk. Teknologien bruges i konkrete og begrænsede sammenhænge, hvor politiet undersøger et bestemt materiale i en bestemt sag.

Ansigtsgenkendelsen fungerer som et supplement, der letter arbejdet, men ikke erstatter den menneskelige vurdering. Det betyder, at fejl kan opdages og rettes. Og dataindsamlingen berører ikke bredt hele befolkningen.

Der er scenarier for politiets brug af ansigtsgenkendelse, der udfordrer vores dataetiske værdier og principper.

Johan Busse
Formand, Dataetisk Rås

De tre første brugsscenarier findes allerede i dansk politi i dag. Det fjerde scenarie anvendes ikke aktuelt, men har været afprøvet. I Dataetisk Råd vurderer vi altså i udgangspunktet, at den måde dansk politi bruger og har afprøvet ansigtsgenkendelse, er dataetisk forsvarlig.

To scenarier bør forbydes

Der er også scenarier for politiets brug af ansigtsgenkendelse, der udfordrer vores dataetiske værdier og principper. Derfor anbefaler rådet et direkte forbud mod følgende:

• Realtidseftersøgning i det offentlige rum
• Identifikation af ukendte personer i fysiske interaktioner

Disse brugsscenarier skaber hver for sig en del af den nødvendige tekniske kapacitet for meget omfattende og dataetisk problematisk overvågning.

Hvis de indføres, bliver det teknisk muligt at foretage identifikation i realtid af almindelige danskeres færden og adfærd i det offentlige rum.

Det er en overvågningsform, som ikke har nogen parallel i den nuværende danske praksis og som, hvis den indføres, grundlæggende kan ændre balancen mellem borger og stat.

Rådet anerkender, at der kan være nødsituationer, hvor det vil være dataetisk forsvarligt at anvende ansigtsgenkendelse på mere indgribende vis, for eksempel for at afværge alvorlige trusler mod personers liv i forbindelse med et terrorangreb.

Vi mener dog, at sådanne situationer bør behandles som nødretslige undtagelser, som de allerede kan i dag.

Fordele opvejer ulemper

For at trække grænsen mellem gode og dårlige måder at bruge ansigtsgenkendelse, må man afveje fordele og ulemper i hvert brugsscenarie.

Fortalere har på den ene side peget på, at ansigtsgenkendelse kan hjælpe politiet med at opklare alvorlig kriminalitet, frigive ressourcer og beskytte betjente mod psykisk belastende arbejde.

En opdatering af lovgrundlaget er afgørende for at sikre, at ansigtsgenkendelse bruges ansvarligt og inden for klare rammer.

Johan Busse
Formand, Dataetisk Råd

Kritikere har omvendt hævdet, at teknologien vil reducere borgeres privatliv, begå fejl der rammer uskyldige, have bias mod bestemte grupper og afskrække lovlig adfærd.

I de fire tilladte scenarier vurderer vi, at fordelene kan opveje ulemperne, når teknologien anvendes med de rette sikkerhedsforanstaltninger.

I de to forbudte scenarier er indgrebet i borgernes privatliv og risikoen for misbrug så stor, at det ikke kan retfærdiggøres – selv ikke af hensynet til bekæmpelse af alvorlig kriminalitet.

Folketinget skal udarbejde en klar lovramme

Ansigtsgenkendelse er et kraftfuldt værktøj, der kan styrke politiets evne til at opklare alvorlig kriminalitet. Men det er også et værktøj, som skal bruges med omtanke, så vi håndterer risici og begrænser fejl.

Dataetisk Råd anbefaler derfor, at Folketinget og regeringen udarbejder en klar lovramme, som:

• Tillader ansigtsgenkendelse i fire snævre, velafgrænsede situationer: automatiseret paskontrol, offergenkendelse i materiale om seksuelt misbrug af børn, retrospektiv eftersøgning i materiale fra det offentlige rum ved særligt alvorlig, personfarlig kriminalitet og retrospektiv billedsøgning i materiale fra relevante personer i sådanne efterforskninger.
• Forbyder mere vidtgående brug, herunder ansigtsgenkendelse i realtid i det offentlige rum og identifikation af ukendte personer i direkte fysiske interaktioner med politiet.
• Fastlægger krav til politiets brug af ansigtsgenkendelse – herunder hvornår der skal indhentes dommerkendelse, særligt ved retrospektiv eftersøgning i offentlige rums billedmateriale.
• Pålægger politiet at offentliggøre detaljeret information om anvendelsen af ansigtsgenkendelse, inklusive dokumentation for systemernes funktion.
• Stiller tekniske minimumskrav til kvalitet, bias, dokumentation og standarder for systemerne.

Politiets muligheder for at indhente billedmateriale er derfor i praksis vokset dramatisk, uden at lovgivningen er blevet tilpasset denne udvikling.

Johan Busse
Formand, Dataetisk Råd

Lovgivningen er ikke tilpasset udviklingen

Rådet vurderer, at en opdatering af lovgrundlaget er afgørende for at sikre, at ansigtsgenkendelse bruges ansvarligt og inden for klare rammer, før teknologien får en mere omfattende rolle i dansk politiarbejde.

Dataetisk Råd anbefaler i den forbindelse, at Folketinget og regeringen evaluerer og om nødvendigt ajourfører den eksisterende lovgivning for politiets indhentning af billedmateriale.

Disse regler er indført på et tidspunkt, hvor videoovervågning i det offentlige rum havde et langt mindre omfang end i dag. Politiets muligheder for at indhente billedmateriale er derfor i praksis vokset dramatisk, uden at lovgivningen er blevet tilpasset denne udvikling.

Rapporten viser, at teknologien kun kan bruges ansvarligt, hvis lovgivningen tager højde for både mulighederne og de indbyggede risici.

Der er ingen tvivl om, at ansigtsgenkendelse kan styrke efterforskningen, men den kan også udfordre vores privatliv, påvirke vores tillid til politiet og den måde vi færdes i det offentlige rum. Derfor er klare regler nødvendige nu – ikke når teknologien allerede er rullet ud.