Domstolsstyrelsen: Kunstig intelligens afslører fordomme mod køn og hudfarve

Af Merethe Eckhardt
Udviklingsdirektør i Domstolsstyrelsen

Der åbner sig i disse år helt nye muligheder med udviklingen af kunstig intelligens (artificial intelligence (AI)).

Et af de fagområder, der allerede er til heftig debat, er jura.

Brugt rigtigt kan AI i juridisk øjemed effektivisere og kvalitetssikre hele retsvæsenet.

AI kan være med til at forkorte sagsbehandlingstider. Understøtte at de rette afgørelser bliver fundet frem som led i sagsbehandlingen. Hjælpe med til at forudsige, hvor ressourcerne skal sættes ind, og måske endda afgøre, om en sag skal føres eller bøden vedtages på stedet.

Et computerprogram bygget med AI kan lynhurtigt finde alle relevante sager i diverse databaser, sortere de mest sammenlignelige sager frem til vurdering og sågar lave et udkast til en afgørelse.

De algoritmer, der kommer til at ligge til grund for juridiske afgørelser, må nødvendigvis være fuldstændig åbne og tilgængelige, så de til enhver tid kan være genstand for revision og demokratisk kontrol.

Merethe Eckhardt
Udviklingsdirektør i Domstolsstyrelsen

Fagre nye verden er lige om hjørnet, hvor kedelige researchtimer kan erstattes af lynhurtige robotter.

En skræmmende virkelighed
Men. De første erfaringer med at introducere AI til den juridiske sagsbehandling har afsløret noget ganske urovækkende.

Det er egentlig ikke softwareprogrammerne og de digitale algoritmer, der skræmmer – det er virkeligheden.

For det fascinerende ved kunstig intelligens er, at den viser os, hvad vi allerede gør – og så gør den mere af det samme. Lad mig give jer tre skræmmende eksempler.

Twitter lærte chatrobot at tale grimt
Amazon måtte skrotte et nyt rekrutteringssystem bygget med AI.

Det viste sig, at systemet nedgraderede alle CV’er med ord som kvinder, kvinde eller lignende.

Og hvorfor gjorde den kunstige intelligens det? Fordi den var oplært på den praksis, der havde været hos Amazon gennem ti år.

Microsofts chatrobot Tay måtte på samme måde afgå ved døden, fordi den på en enkelt dag lærte fra Twitter, hvordan man kan tale grimt og diskriminerende.

Og et juridisk hjælpeprogram brugt i flere amerikanske stater forudsagde fejlagtigt, at sorte dømte havde dobbelt så stor sandsynlighed for at begå kriminalitet igen.

Afslører bias
Den dårlige nyhed er, at programmerne sådan set havde ret. De udledte helt korrekt, hvad vi gør.

Den kunstige intelligens afslørede, at vi fortsat har bias i forhold til minoriteter, hudfarver og køn, og at vi nogle steder taler utrolig grimt til hinanden.

Den gode nyhed er, at det nu kommer for en dag. Det betyder, at vi kan handle på det.

Jeg har det seneste års tid siddet med i en kommission under Europarådet, som netop har diskuteret denne helt aktuelle problemstilling.

Vi har sammen udarbejdet et etisk charter for brug af AI i judicielle systemer, og charteret blev vedtaget 3. december 2018.

Design og implementering skal respektere menneskerettigheder
Europarådets ambition er, at charteret vil blive læst og brugt af offentlige og private aktører, der er ansvarlige for design og implementering af redskaber og værktøj, der gør brug af AI, og som involverer brug eller bearbejdning af juridiske afgørelser eller data.

Charteret er på 55 sider, med fem grundlæggende principper, ti kapitler, der drøfter problemstillingen i praksis, anbefalinger og en tjekliste. 

I min optik understreger charteret tre enkle budskaber, når man arbejder med kombinationen af AI og jura.

Det første er det allervigtigste. Og det er, at man skal være utrolig opmærksom på, at det design og den implementering af AI-værktøjer, man arbejder med, respekterer de fundamentale menneskerettigheder og ikke ubevidst kommer til at diskriminere.

Det kræver en helt særlig opmærksomhed på kvaliteten og karakteren af den data, vi vælger at oplære den kunstige intelligens med.

Transparens, oplysning og informationspligt
Det andet er nødvendigheden af total transparens.

De digitale algoritmer er ofte stærke forretningshemmeligheder, der bliver opbevaret i lufttætte bankbokse.

De algoritmer, der kommer til at ligge til grund for juridiske afgørelser, må nødvendigvis være fuldstændig åbne og tilgængelige, så de til enhver tid kan være genstand for revision og demokratisk kontrol.

Og endelig skal der være et stærkt element af oplysning og informationspligt, så den enkelte borger i retssamfundet kan træffe et informeret valg, være i kontrol, forstå en afgørelse og forsat have tillid til retssystemet.

Et knivskarpt blik på de indbyggede svagheder
I vores begejstring over de muligheder, den digitale udvikling giver os, skal vi have et knivskarpt blik for de indbyggede svagheder, vi fejlbarlige mennesker har skabt i den analoge verden.

Hvis vi ukritisk sætter intelligent strøm til det uperfekte, vil vi lynhurtigt kunne skabe et monster, der får såvel DC's som Marvels superhelteuniverser til at blegne.

Omvendt står vi med nogle fantastiske muligheder for at styrke vores retssystem, som vi helt klart skal gribe med klogskab og omtanke.

Europarådets netop vedtagne charter for brug af AI er et klart skridt i den rigtige retning