Projektleder svarer lærer: SkoleGPT er ikke et opslagsværk og bør heller ikke være det

En teknologisk sandkasse

Det er udviklet som et redskab til at sikre skoleelevers kritiske brug af AI i en sikker ramme. En sandkasse, hvor man kan arbejde med en gennemsigtig teknologi, der kan undersøges, udfordres og forbedres, frem for at ligge skjult under motorhjelmen.

Og et trygt univers, hvor vi ikke logger data, bruger open source, er hostet i Danmark, og hvor vi prøver at skærme eleverne fra dele af det indhold, de ellers kan møde.

Vi konkurrerer ikke med ChatGPT eller Gemini i korrekte svar, hastighed eller dybde – vores budgetter er noget lavere, kan jeg godt afsløre.

SkoleGPT er designet som afsæt for den dannelsesopgave, der ligger i at give et fælles udgangspunkt for at arbejde kritisk med AI på tværs af alder, fag og erfaring.

Derfor er det på en gang forfejlet og velkomment, når Jonas Stenberg Lauritsen med udgangspunkt i en række eksempler på SkoleGPT's svar kritiserer værktøjet for at censurere, være moraliserende og fagligt upålideligt.

SkoleGPT skal ikke lære hverken elever eller lærere, hvad de må mene eller spørge om. Og den er heller ikke noget opslagsværk, der kan konkurrere med de store sprogmodeller.  

Martin Exner
Projektleder, SkoleGPT

SkoleGPT skal ikke lære hverken elever eller lærere, hvad de må mene eller spørge om. Og den er heller ikke noget opslagsværk, der kan konkurrere med de store sprogmodeller.

Samtidig er kritikken fra Jonas Stenberg Lauritsen relevant og fortjener et seriøst svar – fordi den rammer et grundlæggende spørgsmål: Hvordan bruger vi kunstig intelligens i skolen uden hverken at slippe sikkerheden helt eller kvæle den pædagogiske frihed?

Større frihed eller større forsigtighed

Jeg er helt med på, at balancen kan diskuteres. Det er noget, vi hele tiden justerer og arbejder med, og eksemplerne rammer nogle af vores ømme punkter. Jeg køber også gerne ind på, at SkoleGPT ofte ikke kan levere på samme niveau som de store sprogmodeller.

Men før vi køber den underliggende præmis om, at vi skal slippe eleverne helt fri på ChatGPT og lignende, så tror jeg, det er vigtigt at forklare tankerne bag brugen af SkoleGPT. For det kommer med en pris.

Du kan ikke have både trygheden og sikkerheden og samtidigt det teknologisk mest avancerede produkt for vores børn.

SkoleGPT er udviklet til brug i klasselokalet med børn og unge i mange aldre. Det betyder, at værktøjet fra starten er designet med et højt sikkerhedsniveau. Over tid har vi justeret dette niveau flere gange – netop på baggrund af feedback fra lærere.

Nogle har efterlyst større frihed, andre større forsigtighed. Balancen mellem de to er vanskelig, og i perioder har SkoleGPT uden tvivl været for overforsigtig. Det er en reel problemstilling, som vi løbende arbejder med.

SkoleGPT udstiller forcer og svagheder

Det er vigtigt at understrege, at SkoleGPT ikke er en sprogmodel, som den omtales i kronikken.

SkoleGPT er et mangefacetteret værktøj, der blandt andet rummer en sprogmodel. Denne udskifter og opdaterer vi dog jævnligt, så snart nyere og bedre modeller skabes. Og dette er en vigtig pointe i forhold til den kritik, man kan rette mod SkoleGPT.

I SkoleGPT udstiller vi derfor sprogmodellernes forcer og svagheder. Vi laver dem ikke selv.

Vores opgave er at tilgængeliggøre dem for alle elever, så de kan gøre deres egne erfaringer i samspil med en lærer og materialer, der kan klæde dem på i forhold til kritisk brug.

Generativ AI rummer netop censur, er moraliserende og fagligt upålidelig. Det gælder dem alle sammen. Og jo større sprogmodellen er, jo sværere er det at spotte og afsløre. Især for elever i grundskolen, og at give eleverne mulighed for at træne den kritiske kompetence, lidt som et glatbanekursus, inden man slipper de unge løs på vejene, er et af de vigtigste formål med SkoleGPT.

Når Jonas Stenberg Lauritsen kritiserer SkoleGPT for blandt andet ikke at give valide svar, så er han nok ikke den eneste lærer derude, der har samme oplevelse, og derfor tager vi kritikken alvorligt.

Martin Exner
Projektleder, SkoleGPT

Kan ikke bruges som opslagsværk

Jonas Stenberg Lauritsen fremhæver eksempler, hvor forventningen er, at SkoleGPT kan give eksakte og valide svar.

Alle sprogmodeller gætter sig frem, og de rammer som regel inden for skiven, men langt fra plet hver gang. I SkoleGPT-gruppen arbejder vi for at vise eleverne dette frem for at påstå, at man ukritisk kan bruge generativ AI som opslagsværk.

Nederst i chatvinduet står der derfor også: "SkoleGPT kan tage fejl. Tjek altid vigtige oplysninger og råd med en pålidelig kilde."

Af de eksempler, der fremhæves, bevæger man sig ind på emner, som er svære at svare på, også for mennesker, som eksempelvis religion. Jeg vil opfordre læseren til at efterprøve prompten og se, hvilket svar man får.

Eleverne kan også med fordel stille spørgsmålet igen, og så får de formentligt et anderledes svar. Og samtidigt får eleverne forståelse for, at en sprogmodel gætter sig frem og kan i nogle tilfælde ryge ud ad en tangent. Det er en lige så god læring.

Kritikken tages alvorligt

SkoleGPT-værktøjet skal ses og anvendes som en sandkasse, hvor eleverne netop kan finde disse faldgruber, for de er sværere at finde i de store modeller. Det er derfor en øvebane for eleverne, og undervisningen bør også afspejle dette.

Når Jonas Stenberg Lauritsen kritiserer SkoleGPT for blandt andet ikke at give valide svar, så er han nok ikke den eneste lærer derude, der har samme oplevelse, og derfor tager vi kritikken alvorligt.

Det er os, der ikke har kommunikeret tydeligere, hvad SkoleGPT og andre generative AI'er kan og ikke kan bruges til.

SkoleGPT logger ikke data, koster ikke penge, er open source, hostet af DBC Digital her i Danmark og bruger meget mindre strøm end de store sprogmodeller. Alt dette kommer med en pris: Sprogmodellen er ikke lige så stor som ChatGPT eller Gemini. Det giver derfor heller ikke mening at sidestille dem.

Men det kommer med den fordel, at de mellemstore sprogmodeller ikke er lige så gode til at skjule deres bias, og derfor er det lettere for eleverne at lære at finde dem her end i ChatGPT eller Gemini, hvor de let kan tage svarene for gode varer, uden at skæve en ekstra gang til det.

Vores opgave er at tilgængeliggøre forcer og svagheder for alle elever, så de kan gøre deres egne erfaringer i samspil med en lærer og materialer, der kan klæde dem på i forhold til kritisk brug.  

Martin Exner
Projektleder, SkoleGPT

SkoleGPT er et værktøj, der skal understøtte kritisk og kreativ brug af AI. Den er god til at være samtalepartner, scenarie-bygger, feedback- og brainstorm-hjælper og sproglig sparring. Den er også god til at afsløre sine bias. Men SkoleGPT er ikke et faktuelt opslagsværk.

Vi videreudvikler på SkoleGPT hele tiden. Som Jonas Stenberg Lauritsen også omtaler, er vi i øjeblikket i gang med at indbygge et Science-modul. Her skal SkoleGPT svare på naturfaglige spørgsmål med udgangspunkt i de materialer der ligger offentligt tilgængeligt fra blandt andet Astra, Engineer the Future, Zoologiske haver og Life-Fonden og indsætte kildehenvisninger i svarene.

På den måde kigger den ikke ned i sin sprogmodel efter svaret, men i kilderne. Det er en helt ny måde at bruge SkoleGPT på.

Vi har mange udviklingsområder som vi griber fat i, i takt med at vi finder midlerne til det. Blandt andet arbejder vi på at indbygge Wikipedia i SkoleGPT, så man kan få svar med henvisning direkte til kilden, samt mulighed for mundtlig samtale.