I filosoffen Platons mesterværk ‘Staten’ fra omkring år 400 før vores tidsregning optræder hans berømte hulelignelse. En flok slaver sidder lænket i en hule med et bål bag sig. Det eneste, de ser, er skyggerne, som bålets lys kaster op på hulevæggen, af det, der passerer forbi udenfor. Fordi slaverne aldrig har set andet, antager de, at skyggerne udgør virkeligheden.

Platon bruger lignelsen til at vise, at menneskets forståelse af virkeligheden muligvis er lige så begrænset. Vi ser kun "skyggerne" og antager, at det er hele virkeligheden.

Helt ud af hulen kan vi ikke komme, for vores sanser kan snyde os. Men ved at studere filosofi og videnskab kan vi komme nærmere virkeligheden.

Vi ved eksempelvis i dag, at Jorden ikke er flad, selvom vores sanser fortæller os det modsatte. Der er mange fordele ved at bevæge sig ud af hulen. Jo mere vi ved om virkeligheden, og jo bedre vi kan enes om, at det er den samme virkelighed, vi taler om, desto ringere kår har konspirationsteorier, polarisering og manipulation.

Forståelsen af hverdagsfænomener skrumper

I det lys er det uheldigt, at vi efter mange års fremskridt i løbet af de sidste 50 år på visse områder er begyndt at kravle tilbage i Platons hule. Ikke hvad angår videnskaben, som trives og har det godt. Men digitaliseringen har fået vores forståelse af almindelige hverdagsfænomener til at starte en langsom implosion.

Vi har fuld fart på turen ind i en verden, vi ved lige så lidt om, som vi vidste om Jorden, dengang vi troede, den var flad.

Thomas Telving
Filosof, forfatter og foredragsholder

Selskabet Elevenlabs' nye værktøj til stemmekloning er en foreløbig kulmination på den uheldige tendens. Men før, vi ser nærmere på det, skal vi have et kig på nogle definerende øjeblikke for opløsningen af skellet mellem virkelighed og illusion.

Det første indtraf i 1960´erne, da internetpioneren Douglas Engelbart opfandt computermusen. Genistregen gjorde det muligt at påvirke en computer på samme måde, som vi påvirker den fysiske omverden. Vi flytter rundt på avanceret computerkode med præcis samme koordination mellem hånd og øje, som når vi flytter en stol.

Efter musen kom Windows-computeren, som kraftigt udbredte brugen af musen. Dernæst kom Apples iPhone, som gjorde, at vi i dag stort set alle flytter rundt på computerkode, der til forveksling ligner fysiske ting, direkte med fingrene. 

Således fik vi i løbet af nogle få årtier vænnet os til at bruge store dele af vores liv i et virtuelt rum, som få ved, hvordan det fungerer. Vi har fuld fart på turen ind i en verden, vi ved lige så lidt om, som vi vidste om Jorden, dengang vi troede, den var flad.

Findes det, jeg ser nu, i virkeligheden?

Succesen med at udvikle kunstig intelligens har sat yderligere fart på opløsningen af skellet mellem fysisk virkelighed og digital illusion. Generativ AI har gjort det muligt at simulere sproglige og visuelle udtryk til noget nær perfektion.

Teknologien bidrager til at udviske grænserne mellem det autentiske og det fabrikerede.

Thomas Telving
Filosof, forfatter og foredragsholder

En computer kan i meget vidt omfang opføre sig som og se ud som et rigtigt, levende menneske. Resultatet er, at den digitale verden, som flertallet i forvejen forstår uendeligt lidt af, men ikke desto mindre bruger uendelige mængder tid i, fyldes af yderligere forvirrende syntetisk skabt indhold.

Er det, jeg ser på min skærm nu, en digital kopi af noget, der også findes i den fysiske verden? Er det en sammenblanding af fysisk virkelighed og digital simulering? Eller er det ren digital illusion? Er det et menneske eller en generativ AI-model, der har skabt det?

Stemmekloning er det sidste, vi har brug for

I denne lettere dystopiske kontekst er Elevenlabs stemmekloningsværktøj noget nær det sidste, verden har brug for. Med et minuts stemmeoptagelse kan enhver klone enhver persons stemme, og de kan få hvem som helst til at sige hvad som helst. På fem minutter. For 1 dollar om måneden.

Teknologien, og ikke mindst dens brugervenlighed og nemme tilgængelighed, bidrager yderligere til at udviske grænserne mellem det autentiske og det fabrikerede.

Det er et iboende problem, at mens god lovgivning tager tid, udvikles og spredes digital teknologi lynhurtigt.

Thomas Telving
Filosof, forfatter og foredragsholder

Alle kan være med, uanset hensigter. Det bliver dog ikke ved lyden, for firmaet har bekendtgjort, at de indleder et samarbejde med platformen D-ID, der blandt andet laver digitale skærm-avatarer, som nu får ekstra autentiske stemmer. Uanset om nogen vil lave videoklip med falske politiske udtalelser eller presse penge ud af forældre ved at lave falske kidnapningsvideoer af deres børn, er der frit slag.

Situationens alvor er svær at overdrive.

Konsekvenserne af at udbrede tvivl om sandt og falsk i stor skala kan være voldsomme og har potentiale til at skabe splittelse, opløse demokratier, starte krige, udløse terror og utallige andre katastrofer. Opløsningen af et fast og fælles virkelighedsbillede fik for alvor digital vind i sejlene med sociale mediers meningsbobler. Vi begynder nu at ane nogle af de meget konkrete farer ved endnu mere avancerede teknologier såsom stemmekloning og forskellige former for generativ AI.

Udviklingen går løber hurtigere end lovgivningen

Politikernes magtesløshed over for digital udvikling er ikke ny. Det er et iboende problem, at mens god lovgivning tager tid, udvikles og spredes digital teknologi lynhurtigt. Ikke desto mindre er det ironisk, at det i mange lande stadig kræver flere godkendelser at lancere en ny læskedrik, end det kræver at lancere en teknologi, hvis potentiale for at skabe politisk usikkerhed og kriminelt misbrug er tæt på uendeligt.

I en tid, hvor teknologien konstant skubber grænserne for, hvad der er muligt, er det vigtigere end nogensinde at huske på Platons lignelse.

Vi har brug for fælles fodslag, fælles fakta og fasthed i vores erkendelsesgrundlag. I stedet lader vi os forføre af de skygger, som Elevenlabs og talrige andre glitrende teknologier kaster på hulevæggen.