Ny Siri-rapport: AI skal ikke erstatte mennesker

Vil du betale med dine personlige data, når du handler ind til aftensmad? Skal din selvkørende bil prioritere dit liv over andres, hvis det bliver nødvendigt at vælge?

Måske bør vi have en dataombudsmand, der ser på beslutninger, der er truffet af en algoritme ud fra data, vi har delt.

Ida Auken (R)
It-ordfører, formand (delt), Siri-kommissionen

Det er to af de scenarier, en ny rapport fra Siri-kommissionen tager livtag med. Scenarierne agerer løftestang for nogle af de overvejelser, folkene bag gerne vil have en debat om – og gerne med den bredere befolkning.

"Vi opfinder ikke den dybe tallerken, men vi kigger på det eksisterende og gør det mere spiseligt," siger Gry Hasselbalch, der er medstifter af DataEthics.eu.

Sammen med Pernille Tranberg, der har samme titel, har hun forfattet rapporten i samspil med en stribe af Siri-Kommissionens medlemmer. Den skal bidrage til debatten om, hvordan vi i vores del af verden skal gå til udviklingen inden for kunstig intelligens.

"I Europa ser vi det som en konkurrencefordel at kunne udvikle kunstig intelligens som et samfundsgode. Det er ikke kun én stat eller virksomhed, der skal sidde på det og drage fordel," siger Gry Hasselbalch, der også er en af 52 eksperter udpeget af EU-Kommissionen til at hjælpe med at lave en europæisk strategi for at implementere kunstig intelligens.

Behov for styrkede institutioner
Thomas Damkjær Petersen, formand for ingeniørforeningen IDA og delt formand for Siri-Kommissionen, er glad for rapporten, som fokuserer på de tre områder, kommissionen også tidligere har berørt, nemlig sundhed, transport og fintech.

"Ny teknologi skal ikke overtage verden. Det skal være et hjælpemiddel, som skal gøre det nemmere for os, der har verden, at leve i den. Vi skal tage kontrollen over egne data, og det skal være os, der bestemmer," siger han.

I tråd med det kredser rapporten en del om gennemsigtighed og forklarlighed af algoritmer, altså at borgere har adgang til en forståelse for, hvordan beslutninger, der vedrører dem, bliver truffet.

Siri-kommissionens idémand og medformand, Ida Auken (R), mener, det kan være nødvendigt at styrke nogle af vores institutioner, der skal styrkes, hvis det skal sikres.

"I dag har vi mulighed for at få hjælp til at forstå afgørelser, og vi har en ombudsmand, der kan hjælpe igennem systemet. Så måske bør vi have en dataombudsmand, der ser på beslutninger, der er truffet af en algoritme ud fra data, vi har delt," siger hun.

Data er magt
Dataetik er en af tidens store digitale dagsordener, og det skorter ikke på arbejdsgrupper. Spørgsmålet er så, om timingen for det store fokus er rigtig.

"Vi er ikke på forkant, men vi skal til at have gjort noget nu, og hurtigt. På miljøområdet havde vi meget længere tid til at udvikle mærkningsordninger og stille krav til virksomheder. Det er ikke for sent med kunstig intelligens – vi er lige, hvor vi skal være," siger Gry Hasselbalch.

Ida Auken mener omvendt, at overvejelserne kommer meget på bagkant.

"Det har taget os for lang tid at forstå, hvor meget magt der ligger i at have oplysninger om borgere. Derfor har de store virksomheder i 10-20 år kunnet indsamle utrolige mængder af data om, hvem vi er. Det har givet dem en utrolig magt, uden at vi har været klar over det," siger hun.

Samarbejdende robotter
For Thomas Damkjær Petersen er det vigtige nu, at de mange anbefalinger bliver omsat.

"Det er ikke nok, at man har fået øje på udfordringen – der skal også besluttes noget. Jeg håber og tror, at vores indspark kan være med til at fremme en proces, så der bliver taget beslutninger," siger Thomas Damkjær Petersen.

Fra politisk hold forestiller Ida Auken sig noget i stil med ti menneskerettigheder inden for teknologi og samfund, som skal overholdes. Det kan fjerne en del af behovet for specifik lovgivning.

Som eksempel nævner hun rapportens anbefaling om, at kunstig intelligens altid skal komplementere mennesker og altså ikke have til formål at erstatte os. De skal være cobots – robotter, der samarbejder med mennesker.

"Det kan vi ikke lovgive os til, men det er et konkret budskab fra befolkningen om, at samfundet ikke synes, det er det rigtige at fjerne arbejdspladser."

Både Thomas Damkjær Petersen og Gry Hasselbalch sidder også i den ekspertgruppe, som regeringen har nedsat til at kigge på dataetik. Deres arbejde bliver offentliggjort i løbet af de kommende uger.