Debat

Karen Melchior om AI-regulering: Teknologien i dag kan mere, end Stasi kunne drømme om

Det er godt, at EU-Kommissionen nu vil sætte grænser for, hvad kunstig intelligens må bruges til. Desværre går forslaget ikke langt nok, skriver Karen Melchior (RV).

Karen Melchior, MEP for Radikale, mener ikke, at EU-kommissionens AI-udspil går langt nok, "når det kommer til at beskytte os mod automatiseret genkendelse og afgørelser ud fra køn eller etnicitet."
Karen Melchior, MEP for Radikale, mener ikke, at EU-kommissionens AI-udspil går langt nok, "når det kommer til at beskytte os mod automatiseret genkendelse og afgørelser ud fra køn eller etnicitet."Foto: Pressefoto
Karen Melchior
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Europa-Kommissionen kom i april i år med en verdenspremiere. Det først bud på, hvordan vi fremtiden skal regulere kunstig intelligens, og under hvilke acceptable rammer, vi kan bruge det i vores samfund.

Temadebat

I april kom EU-Kommissionen med et forslag til, hvordan kunstig intelligens kan reguleres på verdensplan.

Ifølge Kommissionen selv, er det første gang nogensinde, der bliver foreslået en retlig ramme for kunstig intelligens.

Reglerne skal nu forhandles på plads mellem Europa-Parlamentet, Kommissionen og medlemslandene. Når det er sket, begynder en implementeringsperiode, hvorefter reglerne vil være gældende i hele EU.

Lovprocessen rejser dette grundlæggende spørgsmål: Hvordan skal vi udnytte kunstig intelligens?

Her er panelet

  • Mikael Ekman, direktør for Politik og Strategi, Microsoft Danmark & Island
  • Natasha Friis Saxberg, direktør, IT-Branchen
  • Anders Kofod-Petersen, professor ved Norges Teknisk-Videnskabelige Universitet, Trondheim; afgående AI-forsker ved Alexandra Instituttet
  • Jesper Lund, formand, IT-Politisk Forening
  • Rikke Frank Jørgensen og Marya Akhtar, seniorforsker og specialkonsulent, Institut for Menneskerettigheder
  • Niels Bertelsen, formand, Prosa
  • Thomas Ploug, professor, Institut for Kommunikation og Psykologi, Aalborg Universitet
  • Karen Melchior (R), medlem af Europa-Parlamentet
  • Birgitte Arent Eiriksson, vicedirektør, Justitia
  • Rikke Hougaard  Zeberg, branchedirektør, DI Digital
  • Nanna Bonde Thylstrup, lektor med speciale i kommunikation og digitale medier, CBS
  • Christel Schaldemose (S), medlem af Europa-Parlamentet
  • Janus Sandsgaard, digitaliseringspolitisk fagchef, Dansk Erhverv

Det er første gang ikke kun i EU, men i hele verden.

Helt konkret så foreslår Kommissionen en risikobaseret tilgang til anvendelse af kunstig intelligens, hvor de kigger på, hvad systemet skal benyttes til, frem for at kigge på selve teknologien. Jo højere risiko, jo skrappere er reguleringerne.

Der skal for eksempel laves ordentlige risikovurderinger, inden vi går i gang med at bruge ny kunstig intelligens-teknologi.

Vi vil stille krav om, at datasættene er af høj kvalitet, for den kunstige intelligens er kun så god som den data, den er oplært på. God data er blandt andet med til at minimere diskrimination som følge af manglende data om dele af befolkningen.

Udover hvordan den kunstige intelligens er lavet, så skal vi føre kontrol med resultaterne.

Endelig skal systemet logge al aktivitet, så vi kan se, hvad der er sket, når noget går galt, eller vi vil klage over en afgørelse. Det betyder, at virksomhederne, der bruger kunstig intelligens, kan holdes til ansvar for deres afgørelser og ikke bare gemme sig bag ’computer says no.’

Socialdemokratisk misforståelse
Vigtigst af alt sikrer forslaget, at brug af kunstig intelligens til overvågning og karakterer fra regeringen, bliver forbudt. Det er længe siden, at Orwell skrev om Big Brother, men den hårde sandhed er, at teknologien i dag kan meget mere, end han kunne forestille sig, og Stasi kunne drømme om.

Overvågning giver en mere føjelig befolkning, men ikke mere frihed. Derfor er det godt, at Kommissionen bryder med den danske, socialdemokratiske misforståelse og sætter grænser for, hvad kunstig intelligens må bruges til

Karen Melchior (RV)
Medlem af EU-Parlamentet og Københavns Borgerrepræsentation

Vi bliver dagligt udsat for profilering, registrering og behandling gennem den data, vi konstant afgiver, når vi bevæger os rundt på internettet.

“Jeg har ikke noget at skjule, derfor er overvågning i orden” har jeg tit hørt, men vi har ret til at have hemmeligheder for hinanden og staten. Du skal have lov til at have et privatliv.

I Danmark er vi gået videre og vores justitsminister mener, at mere overvågning giver mere frihed!

Det er ikke sandt. Overvågning fængsler mennesker.

Når vi konstant er under overvågning, er vi ikke frie. Øjet i det høje stopper os fra at sige, hvad vi tænker, samles med ligesindede og forsvare vores rettigheder. Overvågning giver en mere føjelig befolkning, men ikke mere frihed.

Derfor er det godt, at Kommissionen bryder med den danske, socialdemokratiske misforståelse og sætter grænser for, hvad kunstig intelligens må bruges til.

Skadeligt at regne på køn og race
Desværre mener jeg ikke, at forslaget går langt nok, når det kommer til at beskytte os mod automatiseret genkendelse og afgørelser ud fra køn eller etnicitet.

Nu er det op til os i Europa-Parlamentet at lave de nødvendige ændringer sådan, at vi for alvor får en lovgivning, der ikke kun har fokus på at hjælpe virksomhederne med at udvikle AI

Karen Melchior (RV)
Medlem af EU-Parlamentet og Københavns Borgerrepræsentation

Det er skadeligt at lade AI-systemer forsøge at regne på vores køn og race og bruge det til afgørelser. Det bidrager blot til at putte mennesker i kasser, som understøtter fordomme frem for at fjerne dem.

Din bank skal ikke bruge AI til at afgøre, om du har det rette køn eller etnicitet for at måtte tage et lån. Socialcentret skal ikke bruge kunstig intelligens til at definere din etnicitet for at beslutte, om du får plads på et herberg.

Nu er det op til os i Europa-Parlamentet at lave de nødvendige ændringer sådan, at vi for alvor får en lovgivning, der ikke kun har fokus på at hjælpe virksomhederne med at udvikle AI, men som også forsøger at sætte mennesket i centrum i den teknologiske udvikling

Databeskyttelsesforordningen har vist, at beskyttelse af vores rettigheder ikke står i vejen for konkurrencedygtige virksomheder, men giver Europa global indflydelse. Det har vi muligheden for at gøre igen nu. Lad os gribe chancen.

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion

Omtalte personer

Nick Hækkerup

Direktør, Bryggeriforeningen
cand.jur. (Københavns Uni. 1994), ph.d. i EU og folkeret (Københavns Uni. 1998)

0:000:00