Anmeldelse: Et lille mesterværk om vejen ud af det digitale mørke

Af Tashia Dam
Vice president, Research og Innovation, Lix Technologies

En lørdag morgen i begyndelsen af november i år kunne man på DR’s hjemmeside læse følgende overskrift: “Verdens første kunstige intelligens-nyhedsvært har fået debut.”

Artiklen fortæller om en kinesisk nyhedskanal, der har bygget virtuelle nyhedsværter modelleret over virkelige værter, og forklarer, at “... det kan være svært at gennemskue, om det nu er den kunstige intelligens eller menneskeværten, der styrer showet den dag. Den kunstige intelligens kan nemlig laves, så den ligner en vært, der almindeligvis står for nyhederne.”

Selvom man glider lige igennem de 252 elegant formulerede sider, så er det ikke en let bog. Den er nem at læse, men svær og vigtig at forstå.

Tashia Dam
Vice president, Research og Innovation, Lix Technologies

Det lyder jo smart; billigt i drift, fejlfrit, punktligt og utrætteligt. Men hvad gør det ved vores oplevelse af at leve i en verden, vi kan forstå og agere i, at vi overalt møder tilsyneladende intelligente, kunstige komponenter, som vi ikke rigtig kan skelne fra de ægte eller spore tilbage til et begyndelsessted, et subjekt og en midte? Det er den slags spørgsmål, The New Dark Age forsøger at stille og forsigtigt besvare.

Ingen sølvpapirshat 
Som titlen på James Bridles første bog indikerer, er The New Dark Age ikke et værk skrevet primært for et tekno-entusiastisk publikum, men man skal ikke af den grund straks tænke sølvpapirshat og maskinstormer.

The New Dark Age er et essayistisk forarbejde til en kritik af den digitale tidsalder og kan læses med udbytte, uanset om du er entusiast, pessimist eller noget imellem.

Tashia Dam
Vice president, Research og Innovation, Lix Technologies

James Bridle er, ud over at være forfatter og lejlighedsvis journalist på The Guardian, uddannet i computer science og cognitive science og aktiv som kunstner. Denne renæssancemenneske-lignende baggrund fører nuanceret læseren vidt omkring i de mange lag af halvsynlige digitale komponenter, som vores virkelighed i dag består af, i en tekst vekslende mellem en fri, metaforisk form og grundige, historiske og konkrete analyser.

The New Dark Age er et essayistisk forarbejde til en kritik af den digitale tidsalder og kan læses med udbytte, uanset om du er entusiast, pessimist eller noget imellem. Den vil være en kritik af dit ståsted, uanset hvor du står.

Bestemmer vi, eller bestemmer maskinerne?
Hvis det lyder tørt, kan jeg garantere for, at det er det ikke!

Få fagbøger har holdt mig vågen langt over min sengetid eller fået mig til at gå hjem fra en selskabelighed for lige at nå 20 sider mere den aften, men det gjorde The New Dark Age.

Dens gennemgående spørgsmål er, om vi overhovedet kan tænke, som vi “plejer”, over den verden og det subjekt, der viser sig i den elektroniske sky, i netværket uden en midte.

Der er ifølge Bridle brug for en ny form for tænkning, som gør os i stand til at anskue, ikke kun det sprog, den computationelle virkelighed, netværket og skyen bliver skrevet i, men også de metasprog, som denne virkelighed benytter til at legitimere og give mening til sig selv.

En tænkning, Bridle kalder “systemisk literacy” (systemic literacy, red.). Han skriver på side fire:

"Hvis filosofi er den brøkdel af den menneskelige tænkning, som håndterer det, videnskaben ikke kan forklare, så er systemisk literacy den tænkning, der håndterer, at verden ikke er computationel, mens den anerkender, at verden er uigenkaldeligt formet og informeret af computation."

Med andre ord fordrer den computationelle virkelighed, at vi lærer at tænke igen, på nye måder og med nye metaforer, ikke mindst fordi der ikke er et en-til-en-forhold mellem den verden, det computationelle kan reproducere, og den verden, vi som mennesker udgår fra og finder vores mening i.

Det er denne forskel, vi kun kan forstå, hvis vi påtager os opgaven at tænke ud fra de ændrede vilkår og ikke overlader dét til maskinerne. Uden denne forståelse mister vi vores handlepotentiale. Det sidste lader til at være Bridles primære og motiverende bekymring.

Tanks i solen
Bogen består af ti afsnit, alle med en overskrift bestående af ét ord: Chasm, Computation, Climate, Calculation, Complexity, Cognition, Complicity, Conspiracy, Concurrency og Cloud.

Chasm indleder, og Cloud afslutter og indeholder i store træk ovenstående pointer. Alle afsnit imellem kan læses fritstående som selvstændige afsnit om specifikke computationelle eller systemiske problemstillinger, der alle er forbundet og alle uddyber de andre afsnit og de pointer, som Bridle med poetisk og narrativ, snarere end videnskabelig, præcision skriver frem.

Som et eksempel på dette indledes afsnittet Cognition med en slags “urban legend” om billedgenkendelse. Historien går, at USA's militær på et tidspunkt besluttede at lære maskinerne at skelne mellem billeder af camouflerede tanks og billeder af skove uden tanks.

Man viste computeren opstillede billeder af de to scenarier, og efterhånden lærte den at kende forskel på billeder med og uden tanks, men uden at man vidste præcis, hvordan den gjorde det.

Det virkede perfekt i laboratoriet, men ude i virkeligheden fejlede genkendelsen fatalt. Det viste sig, at billederne med tanks var taget i solskin og billederne uden, som var taget senere på dagen, alle var taget i overskyet vejr, og at det var denne forskel, computeren havde lært at genkende. Ikke om der var tanks på billederne eller ej.

Om historien er sand, er stadig uvist, men Bridles pointe er at illustrere, at vi ikke ved, hvad det er computeren lærer inde i de simulerede, neurale netværker. Vi kan kun vurdere udfaldet, ikke have en samtale med computeren om, hvordan den ræsonnerer.

Det er nogenlunde risikofrit, når vi sætter den til at skelne mellem harmløse ting som katte og hunde, men når vi bygger hele vores virkelighed op af monitoreringer og forudsigelser baseret på producerede eller historiske datasæt og dermed på alle de fordomme, fejlantagelser, magtstrukturer og uligheder, verden allerede er fuld af, så begynder vi at miste herredømmet, bedst som vi tror, at vi vinder det.

AI skal forklare sig til mennesker
Bridle afrunder afsnittet (som kommer langt omkring fra den tidlige konnektionismes forståelse af intelligens over den kunstige intelligens' 40-årige vinter via Googles AI-first og translate-revolutionen i 2016 og Kasparovs nederlag til brute-force-skakcomputeren frem til AlphaGos helt uventede, nærmest sublime udvikling, som skaber “uerkendelige” virkeligheder i vores verden) med en rekurs til science fiction-genrens grand old man Isaac Asimovs tre love for robotics, som i Det Etiske Råds oversættelse er: 

1. lov: En robot må ikke skade et menneske eller ved uvirksomhed lade et menneske komme til skade.

2. lov: En robot skal adlyde ordrer, som gives til den af mennesker, for så vidt disse ordrer ikke er i konflikt med den første lov.

3. lov: En robot skal beskytte sin egen eksistens, for så vidt dette ikke er i konflikt med den første eller den anden lov.

Bridle konkluderer, at der bør tilføjes en førstelov om, at en robot/en-hvilken-som-helst-intelligent-maskine skal kunne forklare sig selv til mennesker. Uigennemsigtigheden af den kunstige intelligens, som vi allerede er omgivet af, gør, at vi handler i blinde, og i praksis betyder det, at vi mister muligheden for at forme vores fremtid på måder, som tager hensyn til den meningshorisont, som mennesket har, men computeren ikke nødvendigvis har, selvom vi selv har bygget den.

Vågn fra din trance
The New Dark Age, som desværre ikke er oversat til dansk endnu, tolker på denne og utallige andre måder, hvad ekkoet fra teknologierne forsøger at fortælle os – om os selv og den verden, vi er i færd med at skabe.

Bridle ser teknologiernes spredte nedbrud og dysfunktioner som budbringere fra et sted, vi endnu ikke har formået at tænke. En krise i tænkningen og forståelsen, som afføder, at vi ikke kan handle.

Titlen vil som metafor vække et billede af, at vi befinder os en ny middelalder, hvor vores teorier om verden er så forkerte, at vi umyndiggør os selv, men vores mørke er overoplysningens. Lige nu befinder vi os i en overbelyst tåge af informationer, meninger, algoritmer, forbindelser og uhellige alliancer mellem disse og kapitalismens grunddrivkraft.

Missionen med bogen er at vække os af den trance, som vores hyperforbundne virkelighed har hyllet os ind i, og begynde at skabe ny tænkning og nye metaforer, som tillader os at forstå denne forandrede virkelighed på en sammenhængende, fortolkende måde.

Bogen er ikke perfekt, men den er perfekt som det, jeg vælger at læse den som; et forarbejde til en kritik. Et lille mesterværk, en generøsitet og ikke, som titlen antyder, en ængstelig nostalgi.

Jeg kommer med sikkerhed til at læse den igen, for jeg ved, at den vil mere, end jeg har formået at få ud af den ved første halvanden gennemlæsning.

Selvom man glider lige igennem de 252 elegant formulerede sider, så er det ikke en let bog. Den er nem at læse, men svær og vigtig at forstå.

James Bridle: The New Dark Age – Technology and the End of the Future, Verso Books, 294 sider