Kronik: Når Facebook fører til etnisk udrensning

Af Frederik Stjernfelt og Anne Mette Lauritzen 
Hhv. professor i semiotik, idehistorie, videnskabsteori ved Aalborg Universitet i København og stud.cand.mag. i filosofi ved Københavns Universitet

I 2014 kom Facebook til Myanmar. Siden har militæret og buddhistiske ekstremister brugt platformen som et effektivt instrument til at sprede misinformation og opildne til voldsomme optøjer.

I 2017 var propaganda, trusler og voldskoordinering på platformen medvirkende til en decideret etnisk udrensning af rohingya-mindretallet. I august 2018, efter FN’s kritik af Facebooks rolle, erkendte virksomheden, at man har været for langsom til at reagere.

Det er på høje tid, at Facebook indser, at de spilder oceaner af tid og arbejdskraft på ømskindede klager over brystvorter, diffus “hate speech”, ironi og andre mere eller mindre harmløse ting. Facebook skulle hellere fokusere kræfterne på kriminelt indhold, der er forbundet med umiddelbar fare.

Konflikt kan (måske utilsigtet) være blevet en hovedingrediens i tech-giganternes algoritmiske lov.

Frederik Stjernfelt og Anne Mette Lauritzen
Hhv professor og stud.cand.mag. i filosofi

Myanmar er et af de uhyggeligste eksempler på netstimuleret social uro – men desværre er det langtfra det eneste. Der er brug for, at Facebook griber ind over for ulovlige handlinger såsom chikane, trusler, planlægning af terror og voldskoordinering.

Ytringsfriheden under pres
Med techgiganter som Facebook, Twitter og Google er en helt ny sfære af problemer for ytringsfriheden vokset frem – ytringer fjernes, brugere fanges i ekkokamre, og grundlaget for den offentlige samtale forvrænges.

I udviklingslande som Indonesien, Mexico, Indien og Sri Lanka har misinformation og voldsopfordringer på Facebook udløst alvorlige og farlige forstyrrelser i det offentlige rum.

Frederik Stjernfelt og Anne Mette Lauritzen
Hhv professor og stud.cand.mag. i filosofi

Techgiganterne har i dag fået monopollignende magt over brugernes informationsflow. Hermed har de skabt et uhyre virkefuldt magtmiddel til at styre og udnytte, hvad der bliver fællesviden. Ikke bare reklamer, men også nyheder, interesseområder og anden information, brugeren møder online, er skræddersyet efter brugerens helt personlige præferencer.

Trods Facebooks flotte idealer om en mere åben og forbundet verden er virksomheden først og fremmest en annoncemægler, som tjener penge på at sælge brugernes opmærksomhed videre til diverse annoncører. Forretningsformularen er simpel: Jo flere personligt relevante informationer techgiganterne kan tilbyde, des flere personligt målrettede annoncer kan de sælge, og des mere sandsynligt er det, at brugeren køber det produkt, som bliver tilbudt.

Bivirkningen ved denne succesrige forretningsstrategi er, at karakteren af det offentlige rum helt ubemærket er i færd med at ændre sig radikalt. Strategien har vist sig at være til fare for ytringsfriheden – særligt for brugernes informationsfrihed.

Mig, mig, mig
Det skyldes først og fremmest, at techgiganternes version af det offentlige rum er blevet til hver enkelt brugers skræddersyede offentlige rum.

Den ekstreme individuelle tilpasning skaber paradoksalt nok konformisme. Algoritmerne fodrer nemlig brugerne med det indhold, som bekræfter allerede eksisterende holdninger. Samtidig undertrykkes holdninger og synspunkter, som kan udfordre og flytte holdninger eller skabe forståelse for modpartens verdenssyn. Brugerens unikt tilpassede informationsunivers skaber uden videre filterbobler, hvor det frie valg er byttet ud med et frit udvalg på en personlig menu.

Konformismen kan slå over i ekstremisering, fordi brugere, der befinder sig i grupper af ligesindede, har en tendens til at søge mod ekstremerne. Man kan simpelthen blive for enige – både politisk, socialt, religiøst, kulturelt, osv. Den polarisering skaber rammen for ekkokamre, hvor det kun er meningsfæller, som lukkes ind.

Det farlige er, at filterboblen er usynlig for brugerne. De kan hermed forledes til at tro, at hans eller hendes boble udgør hele den relevante verden. Informationsfriheden lider et knæk, fordi brugeren ikke frit kan vælge mellem forskellige tilgængelige informationer. På trods af Facebooks ideal om at medvirke til at forbinde mennesker rundtom på kloden med hinanden, så er filterboblens algoritmer bare ikke indstillet til at præsentere brugeren for diversiteten af idéer, synspunkter, mennesker og kulturer.

Dopamin og konflikt
Techgiganterne påvirker ikke kun karakteren af det offentlige rum – de påvirker også selve brugernes kommunikation. Giganterne har skabt et kommunikationssystem, hvor konflikt tilsyneladende har større social transmission end enighed.

I techgiganternes lukrative kommunikationssystem modtager brugeren psykologisk belønning for ytringer, som skaber engagement. Det vil sige, at brugeren får et lille dopaminkick, når ytringer genererer likes, delinger og kommentarer. Techgiganter træner hermed brugeren til at have en adfærd, der søger bekræftelse.

Når algoritmen samtidig favoriserer aktivitetsmobiliserende følelser såsom vrede og frygt, så er konsekvensen, at brugeren får et berusende kick ud af at angribe modstanderen. Det kan være det andet hold, det andet politiske parti eller den anden religion. Konflikt kan (måske utilsigtet) være blevet en hovedingrediens i tech-giganternes algoritmiske lov.

Konformisme, ekstremisering og polarisering er bestemt ikke nye fænomener. Konflikt har altid skabt opmærksomhed. Men med den nye hastighed og globale rækkevidde er der opstået en risiko for at forstærke forstyrrende og direkte farlige tendenser i samfundet – bedst repræsenteret med førnævnte tragedie i Myanmar.

Stammeadfærd – på speed  
I udviklingslande som Indonesien, Mexico, Indien og Sri Lanka har misinformation og voldsopfordringer på Facebook udløst alvorlige og farlige forstyrrelser i det offentlige rum.

Ligesom i Myanmar pustede Facebooks favorisering af negative følelser for eksempel liv i en konflikt mellem buddhister og muslimer på Sri Lanka. Problemet er, at når et lands institutioner er svage, og når der er knaphed på troværdige kilder, så bliver indhold fra “venner” til fællesviden. Gensidigt had kunne helt uhindret dominere nyhedsstrømmen på Facebook, som er srilankanernes primære nyhedskilde.

Kombinationen af mistillid til det politiske system og domstolene på den ene side og panik over misinformation og voldsopfordringer i nyhedsstrømmen på den anden førte til ekstremt voldelige optøjer i gaden – sågar lynchninger.  

Digital kulturkrig i Vesten 
I de vestlige lande er problemerne mindre voldsomme, men ikke ubetydelige. Her er der opstået en ny digital kulturkrig, hvor højreekstreme kæmper mod en aggressiv identitetspolitik. Begge parter befinder sig i hver sin ekstreme meningsboble, hvor sager overophedes så meget, at det udløser shitstorms, trusler og smædekampagner.

Parterne strides om alt fra feminisme, seksualitet, kønsidentitet, racisme, ytringsfrihed og politisk korrekthed. Hele konflikten kan spores tilbage til en strid om diskursen på Facebook. Alt-right kan ses som en reaktion på den altid løftede politisk korrekte pegefinger, som hersker på platformen.

Det første store sammenstød var Gamergate i 2014, hvor de højreekstreme angreb feministiske computerspilskritikere, der kastede et kritisk blik på portrætteringen af kvinder i den amerikanske computerspilbranche. Kvinderne blev udsat for omfattende hadkampagner med barske angreb, chikane og personlige trusler.

Det digitale ekkokammer har vist sig at tendere mod stammeadfærd. Facebook er naturligvis ikke en ond aktør, som har en intention om at drive verden ud over klippekanten. Forklaringen på disse alvorlige forstyrrelser af det offentlige rum findes i det automatiserede algoritmesystem og i forretningsmodellen. Der er elementære bygningsfejl i hele strukturen.

Det er jo mildest talt ikke, fordi Facebook undlader at patruljere platformen. Tværtimod har man en omfattende trafik med censur af ytringer – i første kvartal i 2018 er mere end en milliard posteringer blevet fjernet af Facebooks eget censurpoliti. Men her patruljerer man ud fra en hjemmelavet fjernelseshåndbog, der er mere optaget af brystvorter, diffus “hate speech”, billeder af vold og spam – end af trusler og direkte opfordringer til vold.

I lyset af sager som disse kunne man godt drømme om, at Facebook i det mindste ville koncentrere kræfterne på kriminelle handlinger forbundet med umiddelbar fare. Frem for at problematisere ovennævnte eksempler som “hate speech”-problemer, er vores håb, at Facebook vil fokusere på ulovlige handlinger, som allerede er kriminaliseret i de fleste landes ytringsfrihedslovgivninger.

Vi har brug for et fokusskift i Facebooks „annus horribilis“.

-----------

Frederik Stjernfelt og Anne Mette Lauritzen udgiver 22. oktober bogen "Dit opslag er blevet fjernet - Techgiganter og ytringsfrihed", der beskriver ytringsfrihedens nye vilkår på internettet, kritiserer techgiganternes voksende magt – og foreslår alternativer.