Magistrene: Vi skal udvikle sikker kunstig intelligens

DEBAT: Der foregår i øjeblikket et kapløb for at opfinde kunstig intelligens. Det kræver, at vi kvalificerer debatten om, hvordan vi ønsker at bruge og udvikle teknologien, og at forskning i kunstig intelligens styrkes, skriver Camilla Gregersen.

Af Camilla Gregersen
Formand, Dansk Magisterforening og medlem af Dataetisk Råd

De potentielle økonomiske gevinster er enorme for de første, som det lykkes at skabe kunstig intelligens såvel for stater som for store virksomheder.

Det er faktisk svært at overdrive konsekvenserne, såvel økonomiske som samfundsmæssige, af udviklingen af generel kunstig intelligens, men det er ikke noget, der diskuteres bredt i samfundet. 

Utilsigtede effekter
I det omfang, det diskuteres, er det ofte med udgangspunkt i de algoritmer, som især teknologigiganterne bruger allerede i dag.

Disse teknologier er groft sagt en måde at træne avancerede computerprogrammer til at genkende mønstre i data og finde måder at optimere mod et bestemt mål. Et eksempel er Youtubes metode til at foreslå nye videoer til brugerne. 

Youtubes algoritmer virker desværre eksempelvis som radikaliseringsmaskiner, der viser allerede yderligtgående brugere mere og mere ekstremt indhold med risiko for radikalisering af udsatte individer.

Det viser, at når man giver en algoritme et mål, så kan den forfølge det mål på en måde, der har utilsigtede effekter.

En algoritme designet med det harmløse mål at optimere reklameindtægter er i eksemplet endt med at forstærke den populistiske bølge, der har resulteret i store politiske omvæltninger, som vi aktuelt ser omkring os nu.

Det er værd at forholde sig til.

Og selvom de er effektive, er de algoritmer, som bruges i dag, milevidt fra generel kunstig intelligens. Kunstig intelligens skal tages endog endnu mere alvorligt end de algoritmer, der allerede nu har forandret det politiske internationale landskab. 

Vi skal reflektere løbende
Måske går vejen til generel kunstig intelligens gennem maskinlæring, men det er også muligt, at den går via teknologier, der ikke er opfundet eller nyder udbredelse i dag. Ingen ved, hvordan vi kommer til at udvikle kunstig intelligens, og ingen ved i sagens natur, hvordan den kommer til at se ud.

Derfor er det helt afgørende, at vi forholder os til teknologien løbende og ikke, når det allerede er udviklet. 

Der er flere grunde til at reflektere, mens teknologien udvikles.

Der er sket store omvæltninger før i tiden, hvor der kom mange flere jobs ud af teknologiske landvindinger, og hvor mange dårlige og nedslidende jobs blev erstattet med mere udviklende arbejde. Men vi kan ikke slutte om fremtiden ved blot at skue bagud.

Hvis kunstig intelligens erstatter job, uden at der kommer nye job i stedet, risikerer vi en voldsom ulighed, som vi som fagforening må tage alvorligt og bruge til at redefinere arbejdslivet.

Kunstig intelligens skal tjene langsigtede interesser
Den anden vigtige grund til at forske i og udvikle kunstig intelligens med indlejrede refleksioner er, at de fleste nu antager, at vi kan angive et mål, som den generelle kunstige intelligens efterfølgende kan forsøge at optimere.

Erfaringerne fra de nuværende algoritmer bør mane til eftertænksomhed, for risikoen ved en kunstig intelligens, der forfølger et mål uden hensyn til negative bivirkninger, er langt større, end hvad de nuværende algoritmer medfører.  

Eftertænksomheden skal ikke holde Danmark uden for den teknologiske udvikling. Tværtimod. For udviklingen kommer på verdensplan, uanset hvad vi vælger at gøre i lille Danmark.

I stedet bør refleksionerne få os til at øge vores forskning og udvikling inden for kunstig intelligens.

Vi har faktisk muligheden for at formulere en forskningsstrategi inden for det teknologiske område, der kan harmonere med vores langsigtede samfundsmål og udvikle vores arbejdsmarked.

Vi skal forske i og udvikle sikker kunstig intelligens, der har indbygget hensyntagen til, at vi som mennesker ikke nødvendigvis er gode til at formulere mål på en måde, der tjener vore langsigtede interesser.

Selv et lille land som Danmark har potentiale til at gøre en stor forskel, så sikker kunstig intelligens kommer til at udvikle vores samfund positivt.

Forrige artikel Jens Rohde til Vestager: Her er min ønskeliste Jens Rohde til Vestager: Her er min ønskeliste Næste artikel Debattør: Bigtech dræner danske medier for fem milliarder årligt Debattør: Bigtech dræner danske medier for fem milliarder årligt
  • Anmeld

    Anne-Marie Krogsbøll · Ufrivillig dataguld for tech-giganter...

    Påvirkningskampagner....

    "Erfaringerne fra de nuværende algoritmer bør mane til eftertænksomhed, for risikoen ved en kunstig intelligens, der forfølger et mål uden hensyn til negative bivirkninger, er langt større, end hvad de nuværende algoritmer medfører. "

    Enig. Så langt, så godt...

    Men så fortsætter det:
    "Eftertænksomheden skal ikke holde Danmark uden for den teknologiske udvikling. Tværtimod. For udviklingen kommer på verdensplan, uanset hvad vi vælger at gøre i lille Danmark.
    I stedet bør refleksionerne få os til at øge vores forskning og udvikling inden for kunstig intelligens.
    Vi har faktisk muligheden for at formulere en forskningsstrategi inden for det teknologiske område, der kan harmonere med vores langsigtede samfundsmål og udvikle vores arbejdsmarked.
    Vi skal forske i og udvikle sikker kunstig intelligens, der har indbygget hensyntagen til, at vi som mennesker ikke nødvendigvis er gode til at formulere mål på en måde, der tjener vore langsigtede interesser.
    Selv et lille land som Danmark har potentiale til at gøre en stor forskel, så sikker kunstig intelligens kommer til at udvikle vores samfund positivt."

    Her går det galt, og man bekræfter mine bange anelser vedr. Dataetisk Råd. Har Dataetisk Råd - som de fleste af de lignende organer - haft besøg af Singularity Universitys apostle?

    Vi skal ikke løbe om kap med Kina, Singularity University osv. For den sikre udvikling, som vi kan overskue, findes ikke på ret mange områder (måske vejudsigter og den slags). Læs f.eks. Cathy O'neills advarende "Weapons of Math Destruction".

    I stedet skal vi bekæmpe denne udvikling, bl.a. ved at nægte adgang til vore privatliv. Vi skal være et alternativ til Kina, ikke en dansk klon af dem. Denne udvikling lever jo af at undergrave og foretage overgreb på vor privatsfære. Man stjæler vore private data, og deler ud af dem til denne forskning - uden vores viden og samtykke.

    Udviklingen drives af Singularity-kulten (en udemokratisk tech-religion, som går ind for ekspert/evolutions-styre i stedet for demokrati og menneskerettigheder). Denne kult, som vores topmagthavere har tilsluttet sig, lover os, at vi kan blive 300 år, og leve i evig overflod.

    Det er løgn. Det vil gå, som med klimakampen - det vil gavne verdens rigeste, men fanden tager de sidste: https://www.information.dk/udland/2019/09/eksperter-kor-verdens-ledere-klima-apartheid-truer?lst_frnt

    Der fremgår ikke direkte et sådant budskab i indlægget, så måske misforstår jeg Gregersen, og skyder ved siden af her - i så fald undskylder jeg. Men jeg forudser flere indlæg rundt omkring fra Dataetisk Råd med dette budskab: At vi er nødt til at "revidere" menneskerettighederne vedr. retten til privatliv, hvis vi vil hænge på udviklingen.

    Det stunt skal vi ikke hoppe på. Singularity vil være begejstrede, for det er deres dagsorden.

    Uden ret til privatliv, ingen menneskelighed intet demokrati, ingen frihed - ren Orwells "1984". Vi er nødt til at sige fra overfor det budskab, også selv om det måske koster i statskassen.

    Uden data, ingen kunstig intelligens. Det er det magtmiddel, vi har. Og det skal vi insistere på at holde fast i: Menneskeretten til privatliv. Lad dem ikke tage den ret fra os. Det bliver kaos.

    Vejen frem til en menneskelig verden kan ses her: www.analogist.dk



  • Anmeld

    ericrush · surveys

    surveys

    It is an amazing article and you explained in a detailed way. Thanks for sharing the useful post here. https://krogerfeedback.pro/kroger-50-fuel-points-survey/

  • Anmeld

    Rasmus Friimer · Direktør

    Det er en svær sag

    Jeg synes det er spændende læsning, men faktum er at AI vil blive farligt, hvis ikke der bliver gjort noget ved det - men det lyder heldigvis til at nogen er begyndt at tage det seriøst!

    Rasmus
    https://korthilsen.dk