Tænketank: Ansigtsgenkendelse flytter demokratiets grænser

DEBAT: Det er billeder fra blandt andet Facebook og Flickr, der bruges i udviklingen af mere præcis ansigtsgenkendelse. Men det er ikke acceptabelt, at techvirksomheder kan sælge fotos af dig, mens du skåler i øl eller løber DHL-stafet, skriver Klavs Birkholm.

Af Klavs Birkholm
Direktør, Tænketanken Teknoetik

Bør ansigtsgenkendelses-teknologi være et redskab i politiets værktøjskasse?

Det mener Københavns Politi, som har fremsat ønsket i forlængelse af regeringens nylige ”sikkerhedspakke”, Tryghed og sikkerhed i det offentlige rum.

Venstre og Dansk Folkeparti støtter forslaget, mens Rigspolitiet for nylig har sagt fra.

Stort marked for billeddata
Skal man foretage en seriøs etisk teknologivurdering, er det altid klogt at tage udgangspunkt i den specifikke teknologi, og det gælder også i dette tilfælde.

Ansigtsgenkendelse bygger på et samspil mellem to komponenter – (a) en selvlærende algoritme (machine learning) og (b) en stor samling portrætter, som udgør det datasæt, algoritmen trænes på.

Et eksempel finder man hos USA’s føderale forskningsenhed IARPA. Deres Janus-program bygger på datasæt omfattende godt 21.000 ansigtsbilleder af i alt 3.500 personer af vidt forskellige professioner og bosat i forskellige dele af verden.

Ingen af personerne har oprindelig været vidende om brugen af deres fotos; de er skrabet sammen af IARPA's underleverandør Noblis via en creative commons licens.

Noget tilsvarende gælder stort set alle de hundredvis øvrige datasæt, som anvendes af andre virksomheder i samme branche.

Der er tale om et hastigt voksende marked, som i 2022 forventes at ramme en global værdi på omkring 60 milliarder danske kroner. Og selvsagt har de mange, konkurrerende operatører taget afsæt i vidt forskellige datasæt.

Ansigtsgenkendelse er upræcis
Vigtigt er her, at jagten på værdifulde datasæt i meget høj grad har ændret karakter de seneste ti år.*

Førhen anvendtes kun fuldt belyste en face-portrætter (som dem, der tages hos fotografen og ses i pas og identitetspapirer).

Men i den analoge virkelighed fanger kameraerne mestendels folk i andre positioner – med ansigterne delvist skjulte bag tørklæder eller kraver, våde fra regnvejr, dårligt belyst på grund af skygge eller tåge, osv.

Det er grunden til, at BBC sidste år kunne konstatere: ”Politiets værktøjer til ansigtsgenkendelse er svimlende upræcise”.

For at kunne overvinde denne vanskelighed må algoritmerne trænes på langt mere varierede og større datasæt.

Det er for eksempel Facebook-poster med billeder fra familiefester; fotos fra Flickr og Instagram; videosekvenser og fotos fra skjulte kameraer på bytorve, markeder og universitetscampuser. Endda overvågningskameraer i butikker og caféer.

Al den slags materiale anvendes nu i tusindvis af akademiske studier og af techvirksomheder til at lokalisere en given person og spore ham, mens han bevæger sig rundt i bybilledet – derved bliver maskinen bedre til personspecifik genkendelse.

Du står i politiets forbryderlineup
Nogle debattører tror en smule naivt, at ”databasen” er et forbryderalbum, så at hver gang en ”uskyldig” fiskes frem, kan han eller hun omgående blive slettet igen.

Men sådan fungerer det ikke.

Nu cirkulerer materiale fra blandt andet Facebook, Google, IBM, det kinesiske SenseTime og Baidu tværtimod hele verden rundt – fra Rusland til Tyrkiet, fra Kina til England, fra Australien til Israel. Kort sagt:

Der er en meget høj sandsynlighed for, at du er i arkivet!

Men hvad betyder det? Det betyder, at du befinder dig i politiets lineup til identifikation af forbrydere, ligesom i en krimi, hvor vidnet bag en énvejsrude skal udpege en gerningsmand. Du har bare aldrig nogensinde givet dit samtykke til at stå der.

Efter min mening er det ikke acceptabelt, at Baidu, Microsoft etc. kan sælge eller dele en samling fotos af dig, mens du skåler i øl, kysser din kæreste eller sveder under en DHL-stafet. Heller ikke selv om disse fotos overdrages til et firma, der sælger ansigtsgenkendelse til Københavns Politi eller Brøndby Stadion.

For dermed flyttes nogle grænser, der altid har været vitale for demokratiet. Du befinder dig pludselig ude i det offentlige rum uden at vide det og uden at ville det.

...

* Som en af de ypperste akademiske eksperter på ansigtsgenkendelse Kelly Gates fortæller, har teknologien været under udvikling lige siden 1960’erne. – Kelly A. Gates (2011): Our Biometric Future. Facial Recognition Technology and the Culture of Surveillance. NYU Press.

Forrige artikel Magistrene: Ansigtsgenkendelse fører til et mistillidssamfund Magistrene: Ansigtsgenkendelse fører til et mistillidssamfund Næste artikel Dansk Folkeparti: Vi skal have flere nummerpladescannere Dansk Folkeparti: Vi skal have flere nummerpladescannere
Analyse: Skal kunstig intelligens fiske med net eller harpun?

Analyse: Skal kunstig intelligens fiske med net eller harpun?

Skal vi fiske med net eller med harpun, når vi bruger kunstig intelligens til at jagte de værdifulde indsigter, som gemmer sig i oceanerne af data? Teknologien gør det muligt at kaste stadig bredere net ud, men hensynet til privatliv og menneskerettigheder passer bedre med at gå efter et enkelt, veldefineret mål.