Ida Ebbensgaard: OpenAI har ikke styr på sin egen magt. Det er bekymrende for os alle

Siden fredag har vi været vidne til et cirkus, hvor OpenAI-topchefen Sam Altman først blev fyret og nu er blevet genindsat. Det har blotlagt flere faktorer, som er dybt bekymrende demokratisk, skriver Ida Ebbensgaard, der arbejder med kunstig intelligens på Syddansk Universitet.

Et sarkastisk tillykke til OpenAI's bestyrelse, der ville det åbne og det mindre kommercielle. Det er lykkedes markant at styrke en kommerciel tech-gigant. Mere magt til dem. Det var ikke, hvad verden behøvede, skriver Ida Ebbensgaard. — Et sarkastisk tillykke til OpenAI's bestyrelse, der ville det åbne og det mindre kommercielle. Det er lykkedes markant at styrke en kommerciel tech-gigant. Mere magt til dem. Det var ikke, hvad verden behøvede, skriver Ida Ebbensgaard.Foto: Søren Bidstrup/Ritzau Scanpix

Ida Ebbensgaard

Fellow i kunstig intelligens og journalistik, SDU

Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

30. november 2023 er det et år siden, at det dengang ret ukendte firma OpenAI bragte ChatGTP til verden.

For nørder var det ikke en stor ting. GTP-modellerne havde været kendt i mange år, og nu havde OpenAI grundlæggende lavet en lidt bedre model, som de havde sat et chatmodul ovenpå.

For resten af verden blev det en kæmpe omvæltning.

Vores arbejdsliv og forhold til viden forandrer sig grundlæggende lige nu. Det gælder også for mig personligt. Som fellow i generativ kunstig intelligens på Syddansk Universitet arbejder jeg med emnet.

Fredag 17. november fyrede OpenAI’s bestyrelse den administrerende direktør, Sam Altman, med ultrakort varsel. Det blev som forventet en verdensomspændende nyhed. I skrivende stund ser det ud til, at han er på vej tilbage til selskabet.

Men at han vender tilbage, betyder ikke status quo. Lad mig begrunde.

Historien har aktiveret mit andet fagfelt - det udenrigspolitiske.

Det er ekstremt dyrt at bygge store modeller op fra bunden, især hvis de skal være lige så gode, som dem fra OpenAI er.
Ida Ebbensgaard

I tre år var jeg udlandsredaktør på Berlingske, fra 2017 til 2020. Det var dengang, den amerikanske præsident hed Donald Trump og mediet X hed Twitter, og kombinationen af de to var eksplosiv.

Vi talte om corona, Huawei, Brexit, George Floyd, mordet på Kashoggi, Nato, Hongkongs indlemmelse i Kina, stormagternes kamp om Arktis og meget andet.

Men ikke så meget om kunstig intelligens, også kaldet AI.

At dække international politik bredt i verden er en anden linse end at gå i dybden med AI. Derfor er her betragtninger af mere udenrigspolitisk karakter i forhold til det afsindige cirkus, vi har set siden fredag aftens fyring af Sam Altman.

Ingen ved lige nu, hvorfor Sam Altman blev fyret. Men måden, det foregår på, er demokratisk bekymrende for alle os, der er afhængige af firmaet.
Ida Ebbensgaard

Fyringen og nu genindsættelsen af Sam Altman har blotlagt flere faktorer, som er dybt bekymrende demokratisk.

Her er tre faktorer, man skal lægge mærke til.

Vi er afhængige

Først viser det, at vi er afhængige. OpenAI's produkt, ChatGPT og alle dens søskende, er på under et år blevet så vigtigt et produkt, at det nærmer sig status som kritisk infrastruktur.

Mange virksomheder og offentlige institutioner bygger nu deres virksomheder på OpenAI's teknologi, selvom der findes andre. Med fyringen står det klart, hvor sårbar en beslutning, det er.

Vi har nemlig kun kontrol med den operationelle del, som vi selv har lagt på, ikke selve den underliggende model. OpenAI er bare så god og tilgængelig, og de innoverer hele tiden, så den bliver bedre. Hvem vil ikke helst have den stærkeste motor under hjelmen?

Læs også

Fra hjælpeværktøj til forbud: Slotsholmen har vidt forskellige regler for brug af AI-tjenester

Der findes få alternativer

For det andet findes der få alternativer.

Det er ekstremt dyrt at bygge store modeller op fra bunden, især hvis de skal være lige så gode, som dem fra OpenAI er. Det gælder både nu og fremadrettet.

På andre områder, for eksempel inden for råstoffer og sjældne jordarter, arbejder EU målrettet med at gøre sig mindre afhængig af én leverandør - for nu at blive i det kommercielle sprog. Det bør også være en prioritet her.

Når der er sket en magtkoncentration, bør der indlægges procedurer eller ansættes mennesker, der er det enorme ansvar sig bevidst.
Ida Ebbensgaard

Det er uforudsigeligt

For det trejde agerer AI’s øverste top helt uforudsigeligt, når den hælder Sam Altman ud med så kort varsel.

Det er et problem, der ikke kun angår virksomheden, direktøren selv eller investorernes skyld. For med stor magt følger stort ansvar. Der er en grund til, at demokratiske processer er langsommelige, at demokrati er besværligt, og magtens tredeling og de såkaldte checks and balances eksisterer i den vestlige verden.

Hvad kunne de finde på næste gang? Hvilken retning tager et selskab, der har så stor magt?

Det er ikke en historie til erhvervssiderne. Det angår os alle, men bemærk, at jeg ikke vælger side her.

Ingen ved lige nu, hvorfor Sam Altman blev fyret, og én teori om fyringen er jo, at man netop ønskede at sætte tempoet ned. Men måden, det foregår på, er demokratisk bekymrende for alle os, der er afhængige af firmaet.

Big-tech vinder igen

Sagen viser også, at for få mennesker har for stor magt. Det er ikke godt, at enkelte mennesker opnår så stor magt, som den øverste top i OpenAI har fået.

Det er lykkedes markant at styrke en kommerciel tech-gigant. Mere magt til dem. Det var ikke, hvad verden behøvede.
Ida Ebbensgaard

Tænk bare på Elon Musk. Fyringen har åbnet vores øjne for den centralisering af magt, der er sket. Når der er sket en magtkoncentration - for man kan jo ikke lægge OpenAI til last, at de er ved at revolutionere verden - bør der indlægges procedurer eller ansættes mennesker, der er det enorme ansvar sig bevidst.

Big-tech vinder derfor igen.

Findes der én vinder i hele dette morads, er det Microsoft, der opponerede mod den oprindelige fyring og tilbød at tage imod alle ansatte fra OpenAI, da de gjorde oprør mod fyringen. Microsoft magt er styrket.

Så et sarkastisk tillykke til the board of OpenAI, der ville det åbne, det mindre kommercielle: Det er lykkedes markant at styrke en kommerciel tech-gigant. Det var ikke, hvad verden behøvede.

Microsoft er ikke onde, men verden ville blive et bedre sted med kræfter, der arbejdede med 'fælles bedste' som nordstjerne, når det gælder så vild teknologi som kunstig intelligens.

Ret beset kan Sam Altman være ansat i OpenAI, Microsoft eller sit eget startup, når ugen slutter.

Historien er tydeligvis ikke slut endnu, selvom han er på vej tilbage til OpenAI Men den kaotiske forløb har kortlagt, at OpenAI ikke har styr på den enorme magt, selskabet har. Og det er bare godt, gammeldags bekymrende.

Læs også