Forskere: AI kan få forskningen ud af elfenbenstårnet – men også misinformere masserne

I en ny rapport fra projektet Viden og Demokrati svarer ti procent af deltagerne mellem 18 og 34 år, at "ChatGPT og andre AI" er blandt deres primære kilder til at tilgå forskningsbaseret viden.

Det er et interessant tal, der peger på, at AI-assisterede teknologier kommer til at spille en rolle for forskningskommunikation fremadrettet. Reaktionerne strækker sig fra frygt for spredning af misinformation til en høj grad af optimisme omkring disse teknologiers evne til at nedbryde barrierer mellem befolkningen og forskningsverdenen.

Frygten for misinformation er ikke ny. Samme frygt opstod i 1500-tallet, da de første trykkerier begyndte at sprede sig i Europa, og tættere på vores tid i 2000'erne med udbredelsen af world wide web og sociale medier.

Det bliver kompliceret at uddanne til kildekritik, når afsenderen er en AI-assisteret algoritme.

Simon Fuglsang, Antoinette Fage-Butler og Kristian Nielsen
Aarhus Universitet

Komplicerer kildekritikken

Den reelle fare for, at forkert eller ligefrem farlig information spreder sig under dække af at have videnskabelig autoritet, er svær at vurdere.

Problemet med forskningslignende misinformation har tidligere vist sig at være overdrevet, for mængden og kvaliteten af troværdig information synes at være steget tilsvarende eller mere.

Det er et åbent spørgsmål, hvorvidt store sprogmodeller som ChatGPT kan medvirke til at producere og sprede store mængder af misinformation, eller ikke, og hvordan sådan information modvirkes.

Det bliver kompliceret at uddanne til kildekritik, når afsenderen er en AI-assisteret algoritme, der kan opbygge ny information på baggrund af næsten al information og kommunikation fra internettet.

Algoritmer er de nye biblioteker

Adgang til information og brug af information har altid været styret af algoritmer, forstået som metoder til at opsøge, kombinere og producere ny information.

Tidligere var det bibliotekskartoteker, tidsskriftskataloger, arkivregistranter og lignende, og de blev kun brugt af relativt få forskere.

Nu er det digitale søgemaskiner, som bliver brugt af næsten alle, eller sprogmodeller som ChatGPT, som sikkert kommer til at dominere informationssøgning i fremtiden.

Udfordringen er den samme: Vi skal blive bedre til at forstå og bruge de algoritmer, der strukturerer og genererer information for os.

AI kan demokratisere forskningen

Forskning har aldrig været demokratisk, men derimod domineret af en lille elite. De har haft – og har – autoritet til at afgøre, hvad der er god og sand viden. Forskningskommunikation er et forsøg på at gøre denne viden mere tilgængelig, med større eller mindre held.

Algoritmer kan være tilsvarende ulighedsskabende. AI-assisterede teknologier har allerede vist sig at reproducere og ofte forøge den ulighed, som allerede eksisterer i samfundet.