Afsenderen er heller ikke herre over, om andre aktører vælger at tage videoen ud af kontekst, klippe AI-markeringen væk og dele den i anden sammenhæng, hvor den fremstår endnu mere virkelig.

Giv det seks måneder, og så kan enhver amatør lave en perfekt deepfake. Og virkeligheden er, at det vil mange gøre.

Kilder forudser, at internettet indenfor få år vil bestå af op til 90 procent AI-skabt indhold. Meget af det vil også være deepfakes.

Lige nu er størstedelen af deepfake-indholdet online desværre af kvinder i seksuelle situationer, de aldrig har været i. Delt mod deres vilje. Det er naturligvis ulovligt. Og i øvrigt strafbart at dele på niveau med “ægte” hævnporno. 

Farligt for demokratiet

Vi kan ikke styre alle aktører, som ønsker at skade demokratiet. Men en overflod af deepfakes kan føre til en slags sandhedsapati.

Vi har ikke brug for, at politikere fjernstyrer modstanderens stemme, ansigt og krop med usandheder. Det er simpelthen for farligt.

Christiane Vejlø
Direktør, Elektronista Media

Når alt, vi møder på nettet, kan være løgn, hvordan skal vi så forholde os til information?

Når politikere, som ellers burde have en interesse i at opretholde befolkningens tillid, også producerer falske videoer, hvordan skal demokratiet så kunne bestå?

Vi ved, at spin, modsigelser og kreative udlægninger er en del af den politiske kommunikation. Men decideret løgn og manipulation bør vi sige fra overfor.

I en digital verden, hvor vi ikke længere kan sige, “jeg skal se det, før jeg tror det,” er det så politikernes rolle at producere indhold, som eroderer sandheden og udfordrer tilliden?

Det mener jeg ikke. Ikke fordi det er forbudt at lave deepfakes (det er det ikke), heller ikke fordi jeg og andre kritikere ikke har humor (Messerschmidts seneste video er faktisk sjov), men fordi det er en meget dårlig idé sætte turbo på Pandoras æske, når man er politiker.

Som borgere ved vi godt, at politikere manipulerer og twister modstandernes ord til egen fordel. Men vi har ikke brug for, at de fjernstyrer modstanderens stemme, ansigt og krop med usandheder. Det er simpelthen for farligt.

Det er vældig fint, at vi med afsæt i Messerschmidts video har fået deepfakes på dagsordenen. Men skal vi så ikke sige, at politikerne på Christiansborg nu giver hinanden håndslag på at vige uden om denne teknisk mulige men aktivt demokratiundergravedende metode?

Ja, deepfakes findes, og vi skal vænne os til at navigere uden om dem. Men det nytter simpelthen ikke noget at selve demokratiets vogtere er afsendere på dem.