Dataetisk Råd: Tilsynet med kunstig intelligens skal være en del af Datatilsynet

Dataetisk Råd har derimod peget på, at det bør være muligt at overvåge og udøve et effektivt og troværdigt tilsyn med anvendelse af kunstig intelligens, så uønskede eller utilsigtede fejl og negative konsekvenser kan undgås, og tilliden til systemerne bevares.

Rådet har derfor argumenteret for, at tilsynet bør placeres ud fra hensynene til uafhængighed, erfaring og ekspertise samt koordination med eksisterende tilsyn. Dette peger ret entydigt i retning af en placering under Datatilsynet. Rådet for Digital Sikkerhed, Forbrugerrådet Tænk og Danske Advokater har også argumenteret for, at Datatilsynet bør huse det nye tilsyn.

Neutralitet er centralt

Når Dataetisk Råd anbefaler, at AI-tilsynet placeres i Datatilsynet, er det ikke en kritik af Digitaliseringsstyrelsen. Styrelsen har i høj grad drevet den digitale udvikling i det offentlige Danmark, og det ligger i styrelsens dna, at digitalisering og ny teknologi per definition er godt.

Man ville jo heller aldrig foreslå, at ombudsmanden lægges ind under Økonomistyrelsen, eller at Ankestyrelsen varetages af kommunerne

Johan Busse
Formand, Dataetisk Råd

Det er det helt rigtige mindset ud fra styrelsens funktionsbeskrivelse, og styrelsen har indfriet forventningerne.

Men udfordringerne ved styrelsens fokus kan for eksempel ses i den aktuelle sag, hvor styrelsen får kritik for sin omgang med danskernes data (kørekortappen og det digitale sundhedskort), netop fordi man med sin temposættende opgavebeskrivelse satte effektivitet højere end privatliv, datasikkerhed og persondatabeskyttelse.

I sagen om kørekortappen er kritikken udtalt af tilsynet på området, Datatilsynet. Forestiller man sig fremover, at et AI-tilsyn under Digitaliseringsstyrelsen skal udtale kritik af styrelsen selv? Og vi har endnu til gode at se konkrete eksempler på, at Datatilsynet har håndhævet loven for stramt.

Et tilsyn skal være neutralt og alene tage afsæt i reguleringen, som udmønter en demokratisk beslutning om, hvad man må og ikke må.

Eklatant dårlig idé

Jeg har arbejdet ombudsmandsinstitutioner i mere end 25 år og ved, hvor afgørende det er at være reelt uafhængig, hvis man skal være troværdig og tillidsvækkende og kunne fungere på trods af det ydre pres. Jeg ved også, at det tager tid at opbygge de nødvendige kompetencer.

Samfundet er allerede presset nok på tilliden som det er

Johan Busse
Formand, Dataetisk Råd

Der er mange måder at modarbejde et tilsyn på, og det derfor lyder som en eklatant dårlig idé at udstyre AI-tilsynet med ambivalens i forhold til selve tilsynsrollen, at lade tilsynet være i strid med sig selv så at sige. Man ville jo heller aldrig foreslå, at ombudsmanden lægges ind under Økonomistyrelsen, eller at Ankestyrelsen varetages af kommunerne.

I øvrigt risikerer vi en meget høj regning, hvis det danske tilsyn ikke reelt håndhæver EU’s regler.  Ud over risikoen for negativ opmærksomhed af den dyre slags fra EU, risikerer vi at slagsmålene i stedet bliver henlagt til de nationale domstolene og EU-domstolen.

For ikke at tale om risikoen for det tillidstab en sådan løsning indebærer. Samfundet er allerede presset nok på tilliden, som det er.

Befolkningens tillid til, at nye teknologier anvendes på en måde, der er lovlig og dermed medvirker til at sikre, at dataetiske værdier og principper efterleves i samfundet, er på denne måde afgørende for fortsat opbakning til udnyttelse af nye teknologier og dermed for virksomheders og myndigheders muligheder for at udnytte disse teknologier.

Og så har jeg slet ikke udfoldet risikoen for person- og samfundsskadelig udvikling og brug af AI. Overvågning, privatlivskrænkelser og diskrimination af seksuelle minoriteter, handicappede, kvinder, ældre – ja dig. Det er her, det virkelige skræmmescenarie ligger.