Debat: Under Zuboffs radar vokser det digitale samfundsansvar

DEBAT: Professor Shoshana Zuboff efterspørger lovgivning, der skal regulere de store tech-giganters databrug. Men hun overser en spirende teknologibevægelse, der ikke ønsker at overtage de omdiskuterede overvågningsteknikker, skriver Christian Ingemann.

Af Christian Ingemann 
Grundlægger af Comet Studies & TechCare Conference*

I denne og sidste uge fik den eskalerende diskussion om digitalt samfundsansvar en ufortyndet adrenalinindsprøjtning med besøget af professor og forfatter Shoshana Zuboff.

Med afsæt i bogen Overvågningskapitalismens Tidsalder, som Zuboff er på turné med, rettes en ubetinget kritik at de store tech-giganter og den aktuelle vareliggørelse af vore personlige og private oplevelser, som de står bag.

Budskabet vinder tydeligvis gehør, og både Dansk Industri, Digitaliseringsstyrelsen og CBS har ageret værter for samt nikket anerkendende til Zuboffs pointer.

Overvågning er et samfundsansvar
Et stærkt træk ved kritikken er de udbredte misforståelser, der korrigeres undervejs, som når privatlivskyttelse udlægges som et spørgsmål om individets personlige valg.

Her påpeger Zuboff tydeligt, hvordan dét er et forsøg på at holde os snævert optaget af vore egne behov som forbrugere af digitale tjenester. Frem for vores ønsker, behov, forventninger og værdier som medborgere i et demokratisk samfund.

Sat på spidsen, så er spørgsmålet om, hvorvidt jeg har og benytter en Facebook-konto ikke kun et anliggende mellem mig og Facebook.

Det er samtidig et anliggende mellem mig og alle de andre, der nu overvåges, profileres og adfærdspåvirkes af de teknologier, som mine databidrag er med til at udvikle.

Selvregulerings synes utilstrækkeligt
Zuboffs aktuelle bogturné i 2019 falder sammen med en stigende opmærksomhed omkring behovet for digitalt samfundsansvar og dermed også en mere højprofileret iscenesættelse af etiske retningslinjer og principprogrammer.

Både EU, OECD, en række større tech-virksomheder samt stort set alle større konsulenthuse har gjort sig bemærket her. I rapporter og deklarationer med opstillede etiske principper og anbefalinger.

Herhjemme er som bekendt oprettet et Dataetisk Råd ligesom Djøf har nedsat TechDK Kommissionen og senest udkom Techfestival med The Tech Pledge, en slags løfte for techmiljøet til at bidrage positivt til samfundet.

Flere gange under besøget i Danmark bliver Zuboff spurgt til, om hun mener, at et eksplicit fokus på ansvarlig teknologiudvikling og digital etik kan være en del af løsningen.

Så vi kan beriges af de nye teknologier, men slippe for overvågning og dennes afledte negative effekter.

Det ser ikke ud til at gøre det store indtryk på Zuboff, og ad flere omgange griner hun lidt overbærende. Som om det er en sød, om end ganske naiv tanke.

På ét niveau har hun uden tvivl en pointe; stillet over for tech-elitens mastodonter som Google, Facebook eller Amazon, så er et selvpålagt etisk kodeks og en deraf følgende selvregulering nok usandsynlig. Eller i hvert fald utilstrækkelig.

Ansvarlig teknologibevægelse spirer
Der må international lovgivning til, mener Zuboff, og det gerne i en udgave, der forbyder både dataficering af vores online adfærd og handel med diverse "prediction products".

Den slags, der har til formål at profilere, manipulere og nudge os til bestemte handlinger, der tjener tredjeparts interesser.

Men på et andet plan er Zuboffs ensidige fokus på lovgivning og ekstern regulering også et produkt af en totalitær analyse af den digitale økonomi.

Samlebetegnelsen overvågningskapitalisme gøres gældende i alle henseender, der findes ikke rigtigt nævneværdige sprækker, og vi ledes til at tro, at Google og de andre usual suspects er idealer for alle andre vækstivrige teknologivirksomheder. Sådan forholder det sig selvfølgelig ikke.

På samme måde er Zuboffs påstand om, at ingen leder, endsige moderne virksomhed, kan modstå fristelsen til at høste al mulig data og anvende den til kontrolformål beviseligt forkert.

For under Zuboffs radar vokser for tiden en spirende ansvarlig teknologibevægelse, der opererer med en helt anden opmærksomhed på, hvordan de undgår at overtage overvågningsteknikker fra business as usual.

Det vil sige, de fører en langt mere metodisk revision med deres processer og de sociale og miljømæssige effekter, deres produkter har på omverdenen. Eller de ser en distinkt konkurrencefordel i at adskille sig fra de aktører, der for tiden spiller hasard med forbrugernes tillid.

Vi finder her virksomheder som Duck Duck Go, en privacy-orienteret søgemaskine, Snips, en stemmebaseret virtuel assistent, eller danske Spiir, der tilbyder en app, der giver dig et overblik over dit privatforbrug. Og ret mange flere – mange af dem med millioner af brugere.

Inspiration mens vi venter på lovgivning
Zuboffs ensidige interesse i at modgå techgiganterne overser denne dimension, og hun synes i grunden at betragte digital etik som en ren symbolsk handling, der ikke er meget andet end ethics washing.

En slags afledningsmanøvre, der skal holde lovgivere på afstand.

Med andre ord er det ikke fra Zuboff, vi kan lære, hvordan tidens modige og progressive teknologivirksomheder udøver digitalt samfundsansvar og integrerer etik i selve deres produktudvikling.

Ikke som symbolsk fægtning, men som metode, for eksempel etisk scenarieanalyse, value sensitive design eller forskellige former for etiske scorecard for digitale tjenester.

Her er meget at hente for dem, der søger nye veje til proaktivt at opbygge tillidsfulde relationer til forbrugere og borgere og ikke tror på, eller har tid til at vente på, det store lovgivningsmæssige fix, som Zuboff kalder på.

...

*Rettelse. Det fremgik i en tidligere version, at indlæggets forfatter var adm. direktør i Kraks Fond og ejer af Ingemann & Co.

Forrige artikel Djøf: Vestager er Europas digitale zar, der skal kæmpe for borgerne Djøf: Vestager er Europas digitale zar, der skal kæmpe for borgerne Næste artikel LVS: Ny teknologi skal finde patienter med størst behov fremfor at sygeliggøre alle LVS: Ny teknologi skal finde patienter med størst behov fremfor at sygeliggøre alle
  • Anmeld

    Anne-Marie Krogsbøll · Ufrivillig dataslave for overvågningskapitalister og deres lejesvende i det offentlige system..

    Stråmand....

    Fra debatindlægget:
    "Med afsæt i bogen Overvågningskapitalismens Tidsalder som Zuboff er på turne med rettes en ubetinget kritik at de store tech-giganter, og den aktuelle vareliggørelse af vore personlige og private oplevelser, som de står bag.
    Budskabet vinder tydeligvis gehør, og både Dansk Industri, Digitaliseringsstyrelsen og CBS har ageret værter for samt nikket anerkendende til Zuboffs pointer"

    Mon ikke det er udtryk for repressiv tolerance? Ethics washing? Fordi man ryster i bukserne, netop fordi Zuboff har så knusende ret, at det er umuligt at tilbagevise med argumenter - og så forsøger man sig i stedet med omklamring? Jeg ser i hvert fald intet i dagens samfund, der tyder på, at man fra hverken erhvervslivets eller det offentliges side frivilligt vil give afkald på at have snablen i datasuppen.

    Fra debatindlægget:
    "Samlebetegnelsen Overvågningskapitalisme gøres gældende i alle henseender, der findes ikke rigtigt nævneværdige sprækker, og vi ledes til at tro at Google og de andre usual suspects er idealer for alle andre vækstivrige teknologivirksomheder. Sådan forholder det sig selvfølgelig ikke."

    Nu er det jo fuldstændigt umuligt for nogen at nævne alle virksomheder verden over, og bogen handler om skurkene. Zuboff ridser de overordnede tendenser op, så det bliver lysende klart for alle, hvor alvorlig og kritisk situationen er set fra en demokratisk, menneskelig og menneskeretslig synsvinkel - og da evt. ægte dataetisk agerende virksomheder er meget sjældne, kan hun selvfølgelig ikke begynde at bruge krudt på dem - de er jo ikke problemet, og er jo slet ikke en del af det, hun betegner som "overvågningskapitalisme".

    Fra debatindlægget:
    "For under Zuboffs radar vokser for tiden en spirende ansvarlig teknologibevægelse, der opererer med en helt anden opmærksomhed på, hvordan de undgår at overtage overvågningsteknikker fra business as usual.
    Det vil sige de fører en langt mere metodisk revision med deres processer og de sociale og miljømæssige effekter deres produkter har på omverdenen. Eller de ser en distinkt konkurrencefordel i at adskille sig fra de aktører, der for tiden spiller hasard med forbrugernes tillid.
    Vi finder her virksomheder som DuckDuckGo, en privacy-orienteret søgemaskine, Snips, en stemmebaseret virtuel assistent, eller danske Spiir, der tilbyder en app, der giver dig et overblik over dit privatforbrug. Og ret mange flere - mange af dem med millioner af brugere."

    Ja - men disse virksomheder er jo slet ikke omfattede af det, Zuboff taler om. Når Zuboff anfører, at forbud mod handel med menneskelige data er eneste vej frem, så rammer det jo slet ikke disse virksomheder, hvis de faktisk ER dataetiske - for så samler de ingen menneskelige data, og handler ikke med dem.

    "hun synes i grunden at betragte digital etik som en ren symbolsk handling, der ikke er meget andet end ethics washing.
    En slags afledningsmanøvre, der skal holde lovgivere på afstand."

    Ja! For det er præcist, hvad det er - rent symbolske afledningsmanøvrer og ethics washing, ganske som jeg ser dette debatindlæg som udtryk for det. For som sagt: Zuboff angriber jo IKKE de virksomheder, som ikke røver og handler med og manipulere med vore private data. Hun forbyder jo absolut IKKE, at firmaer finder andre, bedre forretningsmodeller - tvært imod. Det er bare ikke de firmaer, som hun skriver om, men de 99 %, som fortsat kæmper for at manipulere med os og vore demokratier, og for at finde og skabe huller i lovgivningen til at berøve os retten til privatliv. Hvorfor mener Christian Ingemann det nødvendigt at forsvare dem? De kan jo bare komme i gang med at omlægge deres forretningsideer, så de ikke baserer sig på indsamling af og salg af vore data overhovedet, ikke sandt?


  • Anmeld

    Sara · Redaktionsassistent, Altinget

    Rettelse

    @Anne-Marie Krogsbøll og andre læsere af indlægget.

    Altinget bringer en rettelse:
    Afsender på indlægget er Christian Ingemann, grundlægger af Comet Studies & TechCare Conference* - ikke Christian Ingemann, adm. direktør i Kraks Fond og ejer af Ingemann & Co.

    Vi beklager fejlen.

    /Sara, Altinget

  • Anmeld

    Anne-Marie Krogsbøll · Ufrivillig dataslave for overvågningskapitalister og deres lejesvende i det offentlige system..

    Mange tak for rettelse...

    Det er jo en meget vigtig oplysning. uden at jeg i øvrigt kan finde noget om firmaet, så kunne det da ud fra navnet så lyde som et vaskeægte lobbyist-indlæg.

  • Anmeld

    Christian Ingemann · Grundlægger af Comet Studies & TechCare Conference

    Kritikken er rammende, løsningerne er for ensporede

    @ Anne-Marie Krogsbøll

    Tak for dine kommentarer og kritik af mit indlæg.

    Jer er hverken lobbyist ligesom jeg heller ikke, hverken i dette indlæg, eller derudover, forvarer de virksomheder (eller stater) der fremmer den såkaldte overvågningskapitalisme.

    Jeg er helt på bølgelængde med Zuboffs kritik - som i øvrigt ikke rigtigt bringer noget nyt til bords hvis man ellers har fulgt området de sidste 10 år.

    Der er en lang række af forskere, forfattere og meningsdannere, der har sagt det samme og derfor er Zuboffs primære bedrift i mine øjne, at hun har skabt så meget støj at de sædvanlige institutioner (dem jeg nævner indledningsvist) er nødt til at lytte med og "omfavne" det. Om de mener det er svært at sige, noget taler da imod, men det kan du jo heller ikke vide, Hvorfor ikke anerkende Zuboff for at rykke dem i hvert fald lidt i den rigtige retning?

    Noget andet er at Zuboff leverer en rammende kritik, men en ensporet udvej og meget få bud på hvor forandringen skal komme fra. Det er egentlig min pointe og den køber du ikke. Har du læst bogen? Den er på omtrent 700 sider.

    Så mange sider. Jeg havde håbet på mere og noget vi allesammen kunne bruge til at bygge en mere ansvarlig og godtgørende teknologiudvikling.

    //Christian

  • Anmeld

    Anne-Marie Krogsbøll · Ufrivillig dataslave i overvågningskapitalisternes Panoptikon...

    Tak for svar, Christian.

    Ja, jeg har i den grad læst bogen - alle 700 sider - og den er som talt ud af mit hjerte. Den beskriver levende, hvad jeg selv - og mange andre - i stigende grad har tænkt de seneste år. I mine øjne er hendes bedrift at samle betænkelighederne og tech-kritikken, og skabe overblik, struktur og teori ud af det, de fleste af os mere intuitivt har fornemmet. Og at hun har underbygget sine teorier med uafviselige mængder af fakta. Det er det, der efter min opfattelse gør hende umulig at forsøge at overse - som mange nok helst vil. Hun dokumenterer, at hun har ret, så det ikke er til at afvise.

    Der hvor jeg tror, at du og mange andre står af, er i hendes meget radikale løsningsforslag: Dataindsamling uden meget klart og forståeligt samtykke til hvert enkelt formål. Og selve handelen med data skal stoppes helt !!

    Der er jeg fuldstændigt enig - intet andet vil virke. Og det er andre vist også begyndt at indse. Fra interview med en tidligere bagmand for Facebook, Peter McNamee:
    "»Jeg forstår ikke, hvorfor regeringer ikke er gået sammen og har sagt til virksomheder som Google og Facebook: ’Nej, I må ikke lave jeres egen valuta, selvkørende biler, smart cities og kunstig intelligens, fordi I lader til at være en trussel mod demokratiet, folkesundheden, privatlivets fred og den fri konkurrence. Og før vi har fundet ud af, hvad vi skal stile op med alt det, lukker vi ned for jer."

    Det er muligt, at jeg misforstår dig, og i så fald beklager jeg - men jeg opfatter din tilgang som om, at du STADIG tænker, at det gælder om at regulere og tilpasse lidt (det gælder muligvis ikke dig - men der er jo en del fortalere for den tilgang, som så hælder mest til, at det er retten til privatliv, der skal tilpasses lidt, så "pengene kommer til at passe").

    Så jeg er slet ikke enig med dig i, at Zuboff ikke anviser løsninger, jeg tror bare ikke, at du kan lide hendes løsning. Hun anviser netop den eneste løsning, der har en chance for at kunne hamle op med tech-giganterne. Og mht. at hun overser den mere "etiske" udvikling: Nej, det tror jeg ikke, at hun gør, men det er ikke den, som bogen handler om, og jeg tror, at hun - som jeg - ikke tror på, at denne retning har en chance overfor overvågningskapitalisterne.

    Det er da fint, at der kommer alternativer - men de kan kun blive et supplement - ikke løsningen i sig selv. At satse på dem kan under ingen omstændigheder erstatte, at man tager fat ved ondets rod, og forbyder den kommercielle udnyttelse af vore data og privatliv. Helt! Det vil jo ikke ramme de "etiske" firmaer, hvis de faktisk ikke udnytter privatlivsdata.

    Vi hverken KAN eller SKAL forhandle med tech-giganterne og lignende firmaer, som har slået sig op på røveri af vore data, vor menneskelighed og vort demokrati. De har stjålet nogle rettigheder, som de slet ikke burde røre ved, og vi skal "tage kontrollen tilbage". Og så har de bare at rette ind - vi skal ved Gud ikke begynde at forhandle om, hvor lidt eller meget de må trampe på os - de skal bare ud.

    Så jeg undskylder, hvis jeg misforstår dig, men jeg opfatter det som om, du lidt forsøger at "redde stumperne" og blot tilpasse til en mere "etisk" dataindsamling og handel? I givet fald handler det jo mest om, at du ikke rigtigt kan LIDE Zuboffs løsningsforslag - ikke at hun ikke har leveret et.

  • Anmeld

    Anne-Marie Krogsbøll · Ufrivillig dataslave i overvågningskapitalisternes Panoptikon...

    Link til citat...

    Jeg glemte linket til Peter McNamee i min kommentar ovenfor:
    https://www.weekendavisen.dk/2019-41/samfund/alle-tiders-monster

  • Anmeld

    Anne-Marie Krogsbøll · Dataaktivist/datalave i overvågningskapitalisternes forsøgsstalde...

    Supplerende bemærkinger...

    Jeg bliver nødt til at give denne videre:
    https://www.theguardian.com/technology/2019/oct/16/digital-welfare-state-big-tech-allowed-to-target-and-surveil-the-poor-un-warns

    Vi kan ikke hamle op med dette veda t udvikle lidt mere etiske systemer/programmer. Vi har ikke en chance for at udkonkurrere giganterne.