I Kina bliver overvågning til et spil

KINA: Fra år 2020 bliver den kinesiske befolkning tildelt individuelle highscores, der kan vise, hvor lydige de er over for staten. Det er et led i den kinesiske stats initiativ Social Credit System, som skal hjælpe Xi Jinping med at opnå total social kontrol i Kina. Men det vi i Vesten oplever som styring og kontrol, ses i Kina som trygt og tillidsskabende.

Kufferten er pakket til bristepunktet med toilettaske, tøj til et par uger og bøger. Du er på vej til lufthavnen, og om tre timer skal du afsted med et fly på tværs af landet.

Du er på vej hjem for at besøge din familie. Med stort feriestemt smil på læben og pas og billet i hånden går du som sædvanligt direkte hen mod skranken for at indtjekke din kuffert. Ekspedienten ved skranken gengælder dit smil, men får pludseligt en mere stram, rynket og beklagende ansigtsmimik, da pas og billet er scannet.

"Jeg må beklageligvis nægte Dem adgang til flyet. Deres personlige highscore er ikke tilstrækkelig," siger ekspedienten og peger stift i retningen mod billejeskrankerne i den anden ende af terminalen.

Det er som taget ud af en scene fra den teknologi-kritiske science fiction-serie Black Mirror. Men fra 2020 kan det blive virkelighed for Kinas befolkning på knap 1,4 milliarder mennesker. Det sker som led i det kinesiske statsråds initiativ - kaldet Social Credit System. Systemet blev lanceret i 2014.  

Med Social Credit System vil den kinesiske stat forsøge at ensrette sine borgere ved at ændre deres adfærd. Det skal ske gennem systematisk indsamling af big-data om kinesernes digitale liv.

I første omgang vil den kinesiske stat kun indsamle oplysninger om sine borgere, men på længere sigt er det hensigten, at hver kineser vil blive tildelt en highscore, der afspejler deres digitale adfærd. Troværdig opførsel over for staten belønnes, og illoyal opførsel straffes.

"Hvis man er en god borger, vil man kunne opnå fordele som bedre lån, hurtigere forfremmelse og komme foran i køen til lægen," siger Casper Wichmann, ekspert i kinesiske sociale medier og koordinator for tænketanken thinkchina.dk.

"Modsat vil man kunne blive nægtet at købe flybilletter og nægtet at tage lån, hvis man har en for lav score."

Det kan endda få betydning, hvem du er venner med på sociale medier. Har dine venner en dårlig highscore, kan de også ende med at trække din score ned.

Systemet er en del af Kinas nuværende og konstant voksende overvågningsapparat, der også tæller kunstig intelligens, ansigtsgenkendelse og kameraovervågning i alle kinesiske byer. Det er et teknologisk fremstød, der, siden Xi Jinping blev Kinas præsident i 2013, er vokset støt.

Techgiganters pilotprojekter  
Pointen med det hele er at skabe tillid i det kinesiske samfund. Social Credit System skal forbedre den offentlige sikkerhed ved at skabe gensidig tillid i samfundet. Systemet skal eksempelvis gøre det muligt for banker og myndigheder at skaffe viden om borgeres og virksomheders kreditværdighed. Kort sagt, om man er en god eller dårlig betaler.

I første omgang er otte private kinesiske techgiganter udvalgt af Kinas centralbank til at udvikle pilotprojekter af sociale kreditsystemer, der kan tildele brugere highscores. Blandt dem er tech-giganten Alibaba. Alibaba har op mod 400 millioner brugere og er det kinesiske svar på den amerikanske nethandelsvirksomhed Amazon. Det er her, kineserne kan købe alt fra bøger og elektronik til sportstøj og madvarer.

Alibaba er allerede i fuld gang med at overvåge deres egne kunders forbrugsmønstre. Via appen Sesame Credit indsamler de oplysninger om, hvad kunderne køber, hvornår de køber, og hvorfor de køber denne vare. Og det er i kraft af disse informationer, at Sesame Credit tildeler brugerne en score, alt efter hvilke varer de køber.  

Lige nu bestemmer kunderne selv, om de vil benytte apps som Sesame Credit, men fra 2020 vil den kinesiske stat sammenkøre de private pilotprojekters erfaring og kombinere dem med statens registeroplysninger. Og så er der ingen vej udenom for de kinesiske borgere.

Kan føre til selvcensur
Den kinesiske stat har sat gang i et initiativ, der fra 2020 skal gøre det til et spil at være lydig overfor staten, hvor kinesernes handlinger bliver tildelt en highscore, som det kendes fra spil. Men det er kommunistpartiet, som bestemmer reglerne i spillet.

"En konsekvens ved det kinesiske statsråds mulige udrulning af et sammenkørt register med data fra de private pilotprojekter kan blive, at den kinesiske befolkning ender med at udøve selvcensur for at undgå en straf," siger Casper Wichmann.

Man kan forestille sig, at kineserne vil undlade at skrive en kritisk opdatering på sociale medier om et politisk emne, når de nu ved, at det kan udløse en lavere highscore.

Adfærdsregulering ved brug af spil kaldes i daglig tale gamification. Det er i sig selv et kendt og anvendt fænomen, også i Danmark. Det bliver benyttet af kommuner, virksomheder og organisationer. Det er et værktøj, der bruges, når man ønsker at ændre en adfærd eller til at gøre det at udføre en opgave sjovere eller mere motiverende.

"Gamification bliver anvendt overalt. Af alle. Det er, når spejdere bliver tildelt duelighedsmærker. Det er, når virksomheder bruger kundeklubber, som Club Matas, der giver forbrugeren loyalitetspoint, jo mere denne handler," siger Michelle Andreassen, gamification-ekspert og adjunkt ved Erhvervsakademi Aarhus.

Det er vigtigt, at gamification skal give modtageren en motivation og ikke udsætte nogen for tvang eller straf.

"Hvis gamification bruges til at straffe mennesker, vil det være forkert brug af gamification," siger Michelle Andreassen.

Det kan få store konsekvenser for de mennesker, der bliver straffet. Det strider derfor mod, hvad vi i Vesten forstår som formålet med gamification, når spil bruges til at kontrollere mennesker.

Overvågning er hverdag
Statslig kontrol er dog ikke noget nyt i Kina. For den kinesiske befolkning føles Social Credit System ikke som en indskrænkning af personlig frihed. Tværtimod. Det er en naturlig forlængelse af den allerede eksisterende overvågning, som har været et livsvilkår, siden Folkerepublikken Kina blev etableret i 1949. Dengang da Mao Zedong blev præsident.

Enhver kineser er i forvejen angivet i offentlige registrer, dang'an, der opstod i Maos regeringstid til at føre kontrol over befolkningen. Det er et arkiv over alle kineseres personlige oplysninger, holdninger og præstationer. I Maos tid blev detaljerne skriblet ned i lange, tykke notesbøger. I dag bliver de personlige detaljer ajourført i digitale databaser.

"De almindelige kinesere har ikke problemer med overvågning. De er altid blevet overvåget. De fleste synes, at det er praktisk, at ny teknologi kan hjælpe med at gøre deres hverdag lettere," siger Christina Boutrup, der er forfatter bag flere bøger om Kina og tidligere Kinakorrespondent på Berlingske.

"Selv kinesere, jeg privat har kendt længe og som er ærlige over for mig, er positivt stemte over for den her øgede overvågning, fordi det også kan sænke kriminalitet og får dem til at føle sig trygge. Men det er klart, at menneskerettighedsaktivister frygter, hvad systemet kan få af konsekvenser."

Overvågningen er velset, da det kan sænke korruption i landet. Der er en lav grad af tillid til folk og virksomheder i Kina, som man ikke har en relation til. Det er et særkende ved kinesisk kultur, som kaldes guanxi.

Kineserne stoler som udgangspunkt ikke på hinanden. Man skal først bevise, at man er til at stole på. Derfor kan en løsning være, at tillid bliver sat på tal og formel. Det kan en highscore være med til at vise.

"Sesame Credit-scoren bliver accepteret af kineserne. De benytter den blandt andet som en slags blåstempling, når de bruger Kinas største datingapp, Baihe," siger Casper Wichmann.

En digital virkelighed
Kina befinder sig cirka 7.041 kilometer i fugleflugt fra Danmark. En direkte flyvetur på knap ni timer. Den geografisk afstand er til at få øje på, men når det gælder digital politik, er vi ikke så langt hinanden, som man kunne tro.

"En tildeling af highscore til mennesker kan virke som dystopisk sci-fi, der kun kan ske i et land som Kina. Men måske er vi ikke så langt fra den kinesiske virkelighed, som vi går og tror," siger Christina Boutrup.

Konkret tænker hun her på den ghettoplan, regeringen netop har fremlagt. Planen indeholder et forslag om at tillade kommuner at samkøre data om forældre og deres børn fra flere registre. Denne data skal så samles til et pointsystem, hvor gode handlinger som forældres retur til arbejdsmarkedet belønnes med point, og skilsmisser eller missede tandlægebesøg straffes og fratrækkes point. Det skal gøre det muligt at opdage udsatte børn så tidligt som muligt.

Det er endnu uvist, hvordan highscores vil blive anvendt i Kina efter 2020. Sikkert er det, at den digitale overvågning til at kontrollere borgeres adfærd er kommet for at blive.

På det kommunistiske partis kongres i oktober 2017 benyttede Xi Jinping sin taletid til at advare Vesten om Kinas fremtidige rolle i verdenssamfundet. For Kina er ikke et land, der lader sig inspirere af Vesten. Det er Vesten, som opfordres til at lade sig inspirere af Riget i Midten.

Og skal man tro på Xi Jinpings ord, så er Kinas teknologiske eksperiment kun lige begyndt.

Forrige artikel Nye tal afliver myte: Ældre har ikke sværere ved digitalisering end unge Nye tal afliver myte: Ældre har ikke sværere ved digitalisering end unge Næste artikel Troels Ørting bliver ny chef for internationalt center for cybersikkerhed Troels Ørting bliver ny chef for internationalt center for cybersikkerhed
Ny temadebat: Hvad skal vi med den fleksible udbudslov?

Ny temadebat: Hvad skal vi med den fleksible udbudslov?

NY DEBAT: Danmark har siden 2016 haft en ny og mere fleksibel udbudslov, som nu er ved at blive evalueret. Altinget Digital sætter i denne nye temadebat fokus på erfaringerne med den nye lovgivning. Mød panelet her, og følg med de kommende uger.