Debat

Prosa: EU’s lovforslag om kunstig intelligens sætter marked før mennesker

EU-Kommissionens forslag til regulering af kunstig intelligens fokuserer på at udvikle og udnytte teknologien – ikke på at beskytte menneskers rettigheder ved ibrugtagen af teknologi, hvis konsekvenser kan være svære at overskue, skriver Niels Bertelsen.

Vurderinger af virkninger for mennesker og offentlige høringer bør være en del af reguleringen af kunstig intelligens, mener Niels Bertelsen, formand for Prosa.
Vurderinger af virkninger for mennesker og offentlige høringer bør være en del af reguleringen af kunstig intelligens, mener Niels Bertelsen, formand for Prosa. Foto: Mads Claus Rasmussen/Ritzau Scanpix
Niels Bertelsen
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Mens det er positivt, at EU-kommissionen er kommet på banen med et reguleringsforslag for kunstig intelligens, er vinklingen i forslaget problematisk.

Temadebat

I april kom EU-Kommissionen med et forslag til, hvordan kunstig intelligens kan reguleres på verdensplan.

Ifølge Kommissionen selv, er det første gang nogensinde, der bliver foreslået en retlig ramme for kunstig intelligens.

Reglerne skal nu forhandles på plads mellem Europa-Parlamentet, Kommissionen og medlemslandene. Når det er sket, begynder en implementeringsperiode, hvorefter reglerne vil være gældende i hele EU.

Lovprocessen rejser dette grundlæggende spørgsmål: Hvordan skal vi udnytte kunstig intelligens?

Her er panelet

  • Mikael Ekman, direktør for Politik og Strategi, Microsoft Danmark & Island
  • Natasha Friis Saxberg, direktør, IT-Branchen
  • Anders Kofod-Petersen, professor ved Norges Teknisk-Videnskabelige Universitet, Trondheim; afgående AI-forsker ved Alexandra Instituttet
  • Jesper Lund, formand, IT-Politisk Forening
  • Rikke Frank Jørgensen og Marya Akhtar, seniorforsker og specialkonsulent, Institut for Menneskerettigheder
  • Niels Bertelsen, formand, Prosa
  • Thomas Ploug, professor, Institut for Kommunikation og Psykologi, Aalborg Universitet
  • Karen Melchior (R), medlem af Europa-Parlamentet
  • Birgitte Arent Eiriksson, vicedirektør, Justitia
  • Rikke Hougaard  Zeberg, branchedirektør, DI Digital
  • Nanna Bonde Thylstrup, lektor med speciale i kommunikation og digitale medier, CBS
  • Christel Schaldemose (S), medlem af Europa-Parlamentet
  • Janus Sandsgaard, digitaliseringspolitisk fagchef, Dansk Erhverv

Der er stort fokus på at skabe gode rammer for virksomheder, men der glides let hen over at afdække eventuelle menneskelige omkostninger.

Kan få vidtrækkende konsekvenser
Det lyder umiddelbart fornuftigt, når kunstig intelligens med lovforslaget skal leve op til strenge regler, før den kan markedsføres.

Blandt andet er der på højrisikoområder som for eksempel brug af kunstig intelligens i kritisk infrastruktur, retshåndhævelse (for eksempel vurdering af troværdigheden af beviser) og administration af juridiske og demokratiske processer krav om risikovurderinger, afbødningssystemer, datasæt af høj kvalitet og logning af aktivitet, så resultater kan følges og forstås.

Men dermed foreskriver lovforslaget primært tekniske løsninger på komplekse samfundsmæssige udfordringer. Er det på de parametre, vi vil vurdere kunstig intelligens som brugbar eller ej?

Hvem opstiller i øvrigt rammerne for risikovurderingen? Er det virksomheder, som potentielt kan tjene penge på at markedsføre teknologien? Hvis man kan fremvise en lav, teknisk fejlmargen, er risikovurderingen så bare i orden?

Som lovforslaget er formuleret, har det meget brede rammer, som ikke peger på stram kontrol med virksomheder, men tværtimod giver rammer for at udvikle kunstig intelligens på meget følsomme områder, hvor brugen af teknologien kan få vidtrækkende og svært overskuelige konsekvenser

Niels Bertelsen, formand, Prosa

Som lovforslaget er formuleret, har det meget brede rammer, som ikke peger på stram kontrol med virksomheder, men tværtimod giver rammer for at udvikle kunstig intelligens på meget følsomme områder, hvor brugen af teknologien kan få vidtrækkende og svært overskuelige konsekvenser.

Inspiration fra miljøområdet
Her ser Prosa gerne, at der bliver gået noget grundigere til værks. For eksempel kunne vi lade os inspirere af miljøområdet - et andet forholdsvis nyt indsatsområde, hvor vi har set alvorlige konsekvenser af tidligere tiders dårligt fremtidssikrede beslutninger. Her bruger man nu VVM-undersøgelser i beslutningsprocesser.

En VVM (vurderinger af Virkninger på Miljøet) skal ifølge Miljøvurderingsloven fra 2020 som udgangspunkt altid gennemføres forud for beslutninger, der kan påvirke miljøet væsentligt.

En miljøvurdering giver ikke i sig selv svaret på om planen, programmet eller projektet skal gennemføres.

Men den sikrer, at der gennemføres en grundig analyse af de forskellige miljøpåvirkninger, og den giver et overblik over konsekvenserne af forskellige alternativer. Miljøvurderinger bidrager til, at der kan træffes oplyste og miljømæssigt bedre beslutninger.

Offentlige høringer inden den endelige beslutning træffes er et væsentligt led i processen.

Start ud med stram regulering
I forhold til kunstig intelligens skulle vi naturligvis tale om en vurdering af virkninger på og for mennesker.

Offentlige høringer inden den endelige beslutning træffes er et væsentligt led i processen

Niels Bertelsen, formand, Prosa

Her kunne fokus være, om den påtænkte teknologi (eventuelt med mindre ændringer) kan bruges på en måde, som borgerne vil finde skadelig, eller om den kan krænke retsprincipper eller rettigheder, eller resultere i uigennemskuelige beslutningsprocesser?

Kunstig intelligens er i sin vorden.

Apropos miljøet kan vi sammenligne med kemiindustrien i 60’erne. Læren fra dengang er, at vi nok ikke bare skal tillade Cheminova at dumpe sit kemiaffald ved høfde 42 på Harboøre Tange, men at vi i stedet skal starte ud med en strammere regulering, som vi så kan løsne sidenhen, når vi får de fornødne erfaringer til at træffe andre beslutninger.

Her bør der ligesom ved miljøvurderinger indføres et forsigtighedsprincip, indtil vi er helt sikre på, at teknologien ikke medfører en uforudset eller utilsigtet skadevirkning.

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion