Forsker: Derfor er der behov for regulering af kunstig intelligens

Dette er første indlæg i en føljeton om kunstig intelligens skrevet af professor ved Aalborg Universitet, Thomas Ploug. Her skriver han om behovet for regulering.

Hvorfor regulere kunstig intelligens? Det spørgsmål søger professor ved AAU, Thomas Ploug, at besvare i dette indlæg (billedet er taget ved den internationale AI-konference, World Artifical Intelligence Center (WAIC), der blev afholdt i Shanghai den 9. juli sidste år).Foto: Aly Song/Reuters/Ritzau Scanpix

Thomas Ploug

Professor, Institut for Kommunikation, Aalborg Universitet København, formand, den Forskningsetiske Komite, Aalborg Universitet

Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Kunstig Intelligens (AI) transformerer verdenssamfundet i disse år.

Der forskes i og udvikles systemer til diagnosticering i sundhedssektoren, til forudsigelser af kriminalitet, til at opdage forsikringssvindel, til kreditvurderinger, til optimering af transport på verdenshavene, til forudsigelse af mistrivsel blandt børn og unge, til udvikling af lægemidler og så videre.

Temadebat

I april kom EU-Kommissionen med et forslag til, hvordan kunstig intelligens kan reguleres på verdensplan.

Ifølge Kommissionen selv, er det første gang nogensinde, der bliver foreslået en retlig ramme for kunstig intelligens.

Reglerne skal nu forhandles på plads mellem Europa-Parlamentet, Kommissionen og medlemslandene. Når det er sket, begynder en implementeringsperiode, hvorefter reglerne vil være gældende i hele EU.

Lovprocessen rejser dette grundlæggende spørgsmål: Hvordan skal vi udnytte kunstig intelligens?

Her er panelet

Mikael Ekman, direktør for Politik og Strategi, Microsoft Danmark & Island
Natasha Friis Saxberg, direktør, IT-Branchen
Anders Kofod-Petersen, professor ved Norges Teknisk-Videnskabelige Universitet, Trondheim; afgående AI-forsker ved Alexandra Instituttet
Jesper Lund, formand, IT-Politisk Forening
Rikke Frank Jørgensen og Marya Akhtar, seniorforsker og specialkonsulent, Institut for Menneskerettigheder
Niels Bertelsen, formand, Prosa
Thomas Ploug, professor, Institut for Kommunikation og Psykologi, Aalborg Universitet
Karen Melchior (R), medlem af Europa-Parlamentet
Birgitte Arent Eiriksson, vicedirektør, Justitia
Rikke Hougaard Zeberg, branchedirektør, DI Digital
Nanna Bonde Thylstrup, lektor med speciale i kommunikation og digitale medier, CBS
Christel Schaldemose (S), medlem af Europa-Parlamentet
Janus Sandsgaard, digitaliseringspolitisk fagchef, Dansk Erhverv

Det bruges i computerspil, applikationer på telefonen, på sociale platforme, i biler og i mange, mange andre af hverdagens teknologier.

I kølvandet på udviklingen og anvendelsen af AI rejser der sig etiske spørgsmål. Udviklingen af AI kan føre til økonomisk vækst, øget livskvalitet og bidrage til løsningen af klimaproblemer med mere, men den presser også beskyttelsen af grundlæggende rettigheder og værdier.

Menneskehedens udryddelse
AI-udviklingen er for en stor dels vedkommende baseret på indsamling, udveksling og analyse af store mængder personlige data. AI-forudsigelser er fejlbarlige, AI-forudsigelser kan vanskeligt forklares, og AI-systemer, der var tænkt som beslutningsstøtte, kan i realiteten komme til at erstatte menneskehænder og kompetencer med tab af kvalitet og med utryghed og mistillid til følge.

Samtidig har AI-teknologien et stort potentiale for misbrug. For eksempel, er AI blevet brugt i spredning af falske informationer om vacciner. Man kunne kalde disse udfordringer for aktuelle AI-etiske udfordringer.

Den største udfordring er ifølge nogle eksperter dog det svært dystopiske scenario, at AI i en fjern fremtid kommer til at føre til menneskehedens udryddelse.

Dette scenario er udfoldet detaljeret af Oxford-professoren Nick Bostrom. Hans argument er forholdsvist enkelt:

Nutidens AI, der løser specifikke opgaver, vil over tid først udvikle sig til en generel intelligens på niveau med menneskets og siden til en superintelligens, der langt overgår menneskets intelligens. En superintelligens vil kunne kontrollere et samfund. Den vil ikke nødvendigvis have menneskets moralske standarder. Og det er muligt, at den vil betragte mennesket som et middel til at nå sine mål.

AI-forudsigelser er fejlbarlige, AI-forudsigelser kan vanskeligt forklares, og AI-systemer, der var tænkt som beslutningsstøtte, kan i realiteten komme til at erstatte menneskehænder og kompetencer med tab af kvalitet og med utryghed og mistillid til følge
Thomas Ploug
Professor, Institut for Kommunikation og Psykologi, AAU

Kombinationen af magt, samvittighedsløshed og opfattelsen af mennesket som ressource kan i sidste ende føre til menneskehedens udryddelse. Den dystopiske vision har fundet opbakning hos prominente forskere som Stephen Hawking og indflydelsesrige personer som Elon Musk og Bill Gates.

Realiseres næppe af sig selv
I lyset af både muligheder og udfordringer knyttet til AI-teknologier rejser der sig naturligvis spørgsmålet om, hvorvidt der er brug for en særskilt, politisk regulering af udviklingen og brugen af AI.

Et traditionelt synspunkt er, at markedet af sig selv vil lede til en ansvarlig og bæredygtig brug af AI. Givet AI-teknologiens kommercielle potentiale, dens potentiale for misbrug og dens generelle samfundstransformerende karakter, vil en ansvarlig udvikling og brug af AI på tværs af sektorer næppe realiseres af sig selv, og vejen dertil vil under alle omstændigheder have store etiske omkostninger.

Mere interessant er det derfor at overveje, hvad der skal være afsættet for regulering. Vores sondring mellem aktuelle og dystopiske udfordringer giver to mulige afsæt: Dystopi-drevet regulering og aktualitets-drevet regulering.

Dette er første indlæg i en føljeton bestående af tre indlæg skrevet af Thomas Ploug. I indlæg 2 analyseres en dystopi-drevet og aktualitets-drevet regulering af AI for at identificere styrker og svagheder ved reguleringen af AI. I indlæg 3 analyseres EU-kommissionens forordningsforslag til en særlig retlig ramme i lyset af de foregående indlæg.

Læs også