Debat

Christel Schaldemose om AI: Det er problematisk, når vigtige beslutninger tages helt uden menneskelig indblanding

Én af udfordringerne ved kunstig intelligens er, at flere platforme gør brug af kunstig intelligens til at træffe beslutninger, som vedrører deres brugere. EU's kommende, digitale lovpakke skal sikre større transparens, skriver Christel Schaldemose (S).

Når vigtige beslutninger om brugere på de online platforme tages uden nogen form for menneskelig indblanding, risikerer det at gå udover forbrugernes rettigheder, mener Christel Schaldemose (S).
Når vigtige beslutninger om brugere på de online platforme tages uden nogen form for menneskelig indblanding, risikerer det at gå udover forbrugernes rettigheder, mener Christel Schaldemose (S).Foto: Asger Ladefoged/Ritzau Scanpix
Christel Schaldemose
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Flere af os lever i dag en stor del af vores liv på de online platforme. Den digitale tidsalder skyller ind over os og teknologien udvikler sig hele tiden.

Temadebat

I april kom EU-Kommissionen med et forslag til, hvordan kunstig intelligens kan reguleres på verdensplan.

Ifølge Kommissionen selv, er det første gang nogensinde, der bliver foreslået en retlig ramme for kunstig intelligens.

Reglerne skal nu forhandles på plads mellem Europa-Parlamentet, Kommissionen og medlemslandene. Når det er sket, begynder en implementeringsperiode, hvorefter reglerne vil være gældende i hele EU.

Lovprocessen rejser dette grundlæggende spørgsmål: Hvordan skal vi udnytte kunstig intelligens?

Her er panelet

  • Mikael Ekman, direktør for Politik og Strategi, Microsoft Danmark & Island
  • Natasha Friis Saxberg, direktør, IT-Branchen
  • Anders Kofod-Petersen, professor ved Norges Teknisk-Videnskabelige Universitet, Trondheim; afgående AI-forsker ved Alexandra Instituttet
  • Jesper Lund, formand, IT-Politisk Forening
  • Rikke Frank Jørgensen og Marya Akhtar, seniorforsker og specialkonsulent, Institut for Menneskerettigheder
  • Niels Bertelsen, formand, Prosa
  • Thomas Ploug, professor, Institut for Kommunikation og Psykologi, Aalborg Universitet
  • Karen Melchior (R), medlem af Europa-Parlamentet
  • Birgitte Arent Eiriksson, vicedirektør, Justitia
  • Rikke Hougaard  Zeberg, branchedirektør, DI Digital
  • Nanna Bonde Thylstrup, lektor med speciale i kommunikation og digitale medier, CBS
  • Christel Schaldemose (S), medlem af Europa-Parlamentet
  • Janus Sandsgaard, digitaliseringspolitisk fagchef, Dansk Erhverv

Vi shopper på Amazon, ser serier på Netflix og holder kontakten med venner og familie gennem Facebook. Mange af de online-tjenester vi bruger, er drevet af kunstig intelligens og algoritmer. Måske du umiddelbart tænker på robotter, når du hører ordet ’kunstig intelligens’?

Men faktisk er kunstig intelligens meget mere end det, og vi støder på det i vores hverdag meget oftere, end man måske lige går og tror.

Selvom det på sin vis er en naturlig del af den teknologiske udvikling, så har vi brug for nogle klarere retningslinjer, der kan være med til at afmystificere den kunstige intelligens rolle på de online platforme og ikke mindst sikre bedre rettigheder for de europæiske forbrugere.

Proppet i kasser
Én af de udfordringer ved kunstig intelligens, som jeg er stødt på i mit arbejde som Europa-Parlamentets chefforhandler for den digitale lovpakke ’Digital Services Act’ (DSA) er, at flere platforme gør brug af kunstig intelligens til at træffe beslutninger, som vedrører deres brugere.

Hvis man eksempelvis skal i kontakt med kundeservice på en online markedsplads, kan man opleve at blive sat i kontakt med en såkaldt bot eller en anden form for automatiseret beslutningstager, der træffer afgørelser om ens sag.

Vi ser også i stigende grad problemet i forbindelse med profilering, hvor platforme ved hjælp af algoritmer indsamler personlige oplysninger på baggrund af vores online adfærd.

Brugere, som du og jeg, bliver således proppet i forskellige kasser, som benyttes til at vurdere, hvem vi er som personer.

Ikke nok med at automatiserede beslutningsprocesser, drevet af kunstig intelligens, så igen træffer beslutninger om os og vores videre færd på den pågældende platform, så risikerer det også at føre til diskrimination af bestemte samfundsgrupper.

Brugere, som du og jeg, bliver således proppet i forskellige kasser, som benyttes til at vurdere, hvem vi er som personer

Christel Schaldemose
Gruppeformand, Socialdemokratiet i Europa-Parlamentet

Jeg mener, at det er svært problematisk, når vigtige beslutninger om brugere på de online platforme tages uden nogen form for menneskelig indblanding. Det risikerer simpelthen at gå udover forbrugernes rettigheder.

Krav på at snakke med rigtigt menneske
I mit arbejde med DSA’en kæmper jeg derfor benhårdt for at skabe mere gennemsigtighed omkring brugen af kunstig intelligens på de online platforme.

Først og fremmest skal forbrugerne vide, når en service er drevet af kunstig intelligens.

Derudover skal man kunne gøre krav på at snakke med et rigtigt menneske, hvis man føler sig uretfærdigt behandlet af de automatiserede beslutningsprocesser.

Og sidst, men ikke mindst, skal vi gøre krav på mere åbenhed omkring de online platformes brug af algoritmer.

Det skal være muligt for alle europæere at forstå, hvordan algoritmerne virker og hvad platformene bruger dem til. Kun på den måde kan vi garantere forbrugerrettighederne, og at brugerne gør brug af de online platforme på et velinformeret grundlag.

Man skal holde tungen lige i munden, for emnet er teknisk. Men EU’s digitale lovgivning er ikke blevet ændret de sidste 20 år, så det er helt afgørende at vi får opdateret vores digitale regelsæt, så det passer til 2021.

Jeg er trukket i arbejdstøjet og er klar til at lægge arm med platformene, så vi kan sikre mere åbenhed om deres brug af kunstig intelligens.

Læs også

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion


0:000:00