Iværksætter advarer: Fokus på kunstig intelligens kan hæmme digital udvikling

KOMMENTAR: Hvis vi skal digitalisere en så fundamental del af vores samfund som den juridiske sektor, bliver vi nødt til at have en konservativ tilgang, mener direktøren i dansk legal tech-virksomhed. Ellers kan det komme til at spænde ben for den digitale udvikling.

Af Niels Martin Brøchner
Administrerende direktør i Contractbook

Man indtager efterhånden et ledigt standpunkt, hvis ikke man anerkender de mange fordele ved digitaliseringen. Sektor efter sektor og branche efter branche indtages af robotter, effektiviserende software og kække tech-iværksættere.

Den slags har vi hørt i årtier. Tilbage i 1996 skrev den amerikansk teknologi-entusiast Nicholas Negroponte sit optimistiske hovedværk Being Digital. Dengang var hans spådom nøjagtig den samme: “Én industri efter den anden må kigge sig selv i spejlet og forholde sig til dens fremtid i den digitale verden, en fremtid der næsten 100 procent er drevet af virksomhedernes evne til at tilbyde deres produkt eller service i en digital form.”

Mere end tyve år efter står hans ord stadig for gældende. Det skyldes ikke, at vi endnu ikke har krydset tærsklen til den digitale tidsalder. Tværtimod viser det, at overgangen fra atomer til bits er en kontinuerlig og langstrakt proces.

Nogle sektorer er længere end andre: Mediebranchen og den finansielle sektor er blevet digitaliseret for længst, hvilket Altingets egen lille chatbot da også vidner om. Andre er godt undervejs, og nogle står mere tøvende tilbage på den analoge perron.

Én af dem er advokatbranchen, som endnu ikke har fået den afgørende digitale overhaling.

Konservativ branche
Digitalisering og nye teknologier har generelt en fantastisk evne til at skabe diskussion, men den har alligevel fået et ekstra nøk med advokatbranchen. Den polariserende debat har nemlig været styret af både utopiske og dystopiske forestillinger om kunstig intelligens.

På den ene side finder man de teknofobiske udmeldinger, der advarer mod massearbejdsløshed, undergravet retssikkerhed og ondsindede robotter, der udnytter menneskets naivitet til at overtage verdensherredømmet.

På den anden side finder man teknoforisk begejstring for de nye teknologiers evne til at disrupte den konservative branche og sikre et mere neutralt retsvæsen med færre fejldomme.

Det er en af forklaringerne på, at advokatbranchen ikke er mere digitaliseret, end den er: Den juridiske sektor må og skal nemlig være konservativ. Retssikkerheden og tilliden til vores retssystem kan man ikke overlade til en profitdrevet move-fast-and-break-things-ideologi. I stedet er præcedens et smukt princip.

Sådan er det generelt med de mest fundamentale dele af vores samfund. I sundhedsvæsenet kan man heller ikke bare kaste sig over de nyeste vidundermidler. Man må nøjsomt og metodisk teste kvaliteten af de produkter, man bruger, anbefaler og ordinerer, for når man ikke gør det, ender det som regel galt.

Når vi har at gøre med så vigtige sektorer som den juridiske, skal man med andre ord imødekomme de nye teknologier med lige dele åbent sind og kritisk sans.

Ikke klar til kunstig intelligens
Før vi overhovedet kan begynde at overveje diverse science fiction-scenarier, som diskussionen om kunstig intelligens rejser, bør vi få afklaret nogle helt grundlæggende principper. Derudover skal vi diskutere de etiske komplikationer og sørge for politisk regulering, så man kan modvirke potentielle bivirkninger. Lad os se nemmere på et par af de problemer, vi endnu ikke har løst.

1. Teknologiens bias
Mange forestiller sig, at teknologier er neutrale. Det er de ikke, for de er skabt af mennesker og er kulturelle produkter, der er formet af vores værdier og fordomme. Indtil videre har denne diskussion både været en fordel og en ulempe for teknologien.

På den ene side har man udviklet algoritmer, som er langt mindre fejlbehæftede end mennesker. En amerikansk undersøgelse viste eksempelvis, at man er mere tilbøjelig til at tabe en retssag sidst på dagen eller lige før frokost, hvor dommeren er træt og sulten. Den slags ustabilitet vil teknologien eliminere.

På den anden side ser man skræmmeeksempler som den racistiske algoritme COMPAS, der gav flere prøveløsladelser til hvide end sorte, fordi den på fejlagtig vis var mere tilbøjelig til at udpege sorte som fremtidige lovovertrædere.

Algoritmer og kunstig intelligens kan reducere fordomme, men de kan også forstærke dem, hvis man bilder sig ind, at teknologien er neutral. Det kræver dog en grundlæggende indsigt, hvilket bringer mig til næste punkt.

2. Manglende forståelse
Lige nu ved de færreste normale mennesker, hvordan en algoritme fungerer i praksis. Kunstig intelligens har endnu færre styr på. Udviklingen af disse teknologier foretages af private tech-firmaer med økonomiske og ophavsretlige incitamenter til at hemmeligholde, hvordan deres teknologier virker.

Det er et problem, for gennemsigtighed, forståelse og tilgængelighed er alfa og omega, hvis vi skal beholde tilliden til retssystemet. Samtidig bliver det sværere at eftertjekke og behandle klager, hvis ikke vi ved, hvordan det fungerer. Det kræver en teknisk indsigt, som alt for få danskere har. Det skal nok komme, men vi er der ikke endnu.

Dertil kommer, at vi mennesker har tendens til at tro blindt på teknologien fremfor at følge vores sunde fornuft. Der mangler ikke eksempler på folk, der har fulgt deres fejlbehæftede GPS ud på dødsensfarlige afveje. Teknologier begår fejl, og når vi ikke ved, hvordan de fungerer, bliver det endnu sværere for os at opdage det. Når vi har så ærgerlig en tilbøjelighed til at miste kritisk sans i mødet med teknologien, bør vi være endnu mere forsigtige – eller endnu bedre uddannede.

3. Etiske problemstillinger
For få år siden måtte Facebook aflyse et kunstigt intelligens-projekt, fordi deres robotter begyndte at kommunikere på et sprog, som mennesker ikke kunne forstå. For hvis vi ikke forstår deres intelligens, hvordan kan vi så kontrollere, at de vil os det godt? Og selv hvis de ikke har en ond vilje; hvordan kan vi være i stand til at imødekomme skadevirkninger, hvis ikke vi kender teknologiernes metoder?

Hvis ikke robotterne og den kunstige intelligens kan forklare sig selv, får vi hurtigt et problem.

Man kan nemt komme til at lyde paranoid, men vi mangler stadig at tage nogle helt grundlæggende diskussioner om brugen af robotter og kunstig intelligens. Derfor mangler vi også at sætte nogle klarere juridiske rammer for brugen af det. Jeg har ikke svaret, men vi bliver nødt til at tage dem, før vi forventer, at advokaterne skal kaste sig hovedkuls ud i brugen af den slags teknologi.

Styr på det grundlæggende
Betyder det så, at advokaterne skal læne sig tilbage og vente på, at ovenstående bliver løst? På ingen måde.

For manges vedkommende handler det stadig om at udskifte ringbind med opbevaring i skyen, ligesom at scanneren skal skiftes ud med et elektronisk underskriftsværktøj. Digitaliseringens historier viser derimod, at vi må tage et skridt ad gangen.

Så lad os nu fokusere på at få det mest grundlæggende på plads først. Digitalisering er mere end kunstig intelligens og jura-robotter. Lad os få lavet nogle digitale arkiver over lovsamlinger og domme, som er ordentligt organiserede og intuitive at navigere i. Lad os få lavet nogle helt grundlæggende platforme, hvor juristerne kan kommunikere med deres klienter.

Vi skal med andre ord bruge tid på digitale redskaber, der kan understøtte advokatbranchen og det danske retsvæsen, som det allerede er. Lad os lave teknologi, der styrker mennesket og vores etiske kompetencer – ikke erstatter det med noget, vi ikke engang har diskuteret.

Hvis vi bliver ved med at have en forestilling om, at digitalisering er lig med kunstig intelligens, så mister vi fokus. Det kan meget vel have været med til at lamme en branche, der ellers har et enormt potentiale.

Forrige artikel Svar til Dansk Energi: Hyppig elmåling kan bruges til profilering Svar til Dansk Energi: Hyppig elmåling kan bruges til profilering Næste artikel ATV: En ekstra teknologimilliard er en investering i nye industrijobs ATV: En ekstra teknologimilliard er en investering i nye industrijobs