Teknologiekspert: Vi skal vælge, om vi vil have smarte byer eller etiske byer

DEBAT: I en tid, hvor digitalisering er et grundlæggende ideal, har vi ofte glemt at tænke på mennesket i anvendelsen af teknologi. Teknologien er ikke ufejlbarlig, og derfor må vi gøre op med os selv, om vi vil have smarte eller etiske byer, skriver Kim Escherich.

Af Kim Escherich
Executive innovation architect og AI-etisk ombudsmand, IBM 

Drømmen om det datadrevne, optimerede, velfungerende og bæredygtige samfund, hvor mennesker lever på en måde, hvor personlige og individuelle behov opfyldes, samtidig med at vi agerer bæredygtigt, klogt og vejovervejet. Og vi allesammen bor i byer.

Det er vel nogenlunde sådan, mange forstiller sig den smarte by – en symbiose af by og teknologi. En smuk tanke, som både burde give mere bæredygtighed, bedre udnyttelse af vore ressourcer og gladere borgere. 

Der er noget galt
Vi har i nogle år levet i digitalismen – en tilstand, hvor digitalisering er en grundlæggende ideologi og idealet over alt andet. Og vi ser nye teknologier – som Internet of Things, kunstig intelligens – som katalyserer denne acceleration, så digitaliseringen går hurtigere, mere omsiggribende og mere udfordrende.

Der er masser af potentiale for at bruge teknologi i byens infrastruktur, men det er, når teknologien, og specielt kunstig intelligens, møder mennesket, at de etiske udfordringer opstår.

Det er, når vi står i valgene omkring automatisering, når maskiner vil tage beslutninger, som kommer til at påvirke menneskers liv, når teknologien giver os mulighed for at implementere massiv masseovervågning, at vi bliver konfronteret med scenarier, hvor teknologi kan påvirke menneskelig kontakt, muligheder og sammenhængskraft. 

Vi må ikke glemme etikken
Netop derfor er vi nødt til at tale om etik. Og ikke kun i den smallere definition, som oftest går under termen dataetik, men vi er nødt til at rejse en samfundsmæssig diskussion om, hvad vi vil med teknologi i byer. Og hvordan ledere, politikere og administratorer skal bruge den i netop de opgaver, som de løser – for at undgå at gøre skade.

Tidligere i år havde jeg fornøjelsen af være en af hovedtalerne på smart city-konferencen Nordic Edge i Stavanger og talte om emnet "ethics in technology". Formålet med præsentationen var at rejse en diskussion om teknologietisk tænkning i byer og at lave et opråb til de tilstedeværende ledere.

Vi har nemlig i mange år levet i en nærmest kronisk tilstand af solutionism, hvor vi med teknologi søger at finde en løsning uden forudgående at have reflekteret over, hvad problemet egentlig er. Hastighed, eksponentielt stigende digitalisering, nye teknologier og solutionism i forening får os ofte til at glemme etikken.

Jeg gav fem råd til de tilstedeværende ledere på rejsen mod den etiske by, nemlig:

Vi skal udvikle dataetisk dannelse
(1) Forstå overvågningskapitalismen: Vær bevidst om de finansielle og teknologiske mekanismer, som driver tech-sektoren, og som omgiver byen for derved at undgå sammenblanding af samfundsmæssige og kommercielle interesser. Og modstanden er der, eksempelvis den iskolde modtagelse, som Google Sidewalk Labs smart city-projekt har fået i Toronto, eller det faktum at Barcelona i det mindste tænker på at sige nej til big tech.

Problemet er jo, at data både har værdi for byen og leverandøren, så byen er nødt til at forstå, hvilke forretningsmodeller som driver leverandørerne.

(2) Udnyt styrken i tvivlen: En af udfordringerne i dataetik er, at vi ofte ikke ved det, vi ikke ved, så det er svært at forberede sig. Vi er derfor nødt til at udvikle en dataetisk dannelse, som gør, at vi konstant er opmærksomme på de steder, hvor etikken vil blive udfordret.

Det er ikke noget, man kan blive uddannet i, men vi kan skærpe vores dataetiske sans på forskellig vis. Selv har jeg slæbt start 2.000 mennesker gennem dataetiske dilemmaspil det seneste år.

Tænk på mennesket før teknologien
(3) Forstå de specielle problemstillinger i AI-etik: Kunstig intelligens er nok et af de hypede – men også komplekse – felter, og det er ikke let at tilegne sig de grundlæggende kompetencer. Der er bare nogle ting, som vi er nødt til at forstå, herunder hvordan vi undgår bias, skaber fornuftig transparens og forklarlighed i de algoritmer, som vi implementerer.

(4) Erkend teknologiens begrænsninger: Vi tror ofte, at vi kan løse alle problemer med tekniske fix, men teknologi er ikke ufejlbarlig. Og specielt ikke i en verden, hvor vi alle lider af algoritmisk autoritet: Vi tror, at en algoritme kommer med et mere præcist svar end et menneske, selv om vi ikke nødvendigvis har evidens for at tro det. 

(5) Design for mennesker: I mange år har smart city-tanken været drevet af teknologi. Vi har fundet de bedste, sjoveste, letteste eller fedeste tekniske løsninger og har implementeret dem. Men ofte har vi gjort det ud fra et utilitaristisk perspektiv for at blive mere effektive, spare penge eller ressourcer.

I en ekstremt digitaliseret verden er det ikke længere en klog strategi, da teknologi i større grad kan bryde etiske grænser, så vi skal smide teknologien over bord og starte med mennesket. Derfor burde design thinking-kompetencer være et krav i alle smart city-organisationer.   

Vi skal forstå de etiske afspekter af teknologien
I en digitalistisk verden vil man ofte blive beskyldt for at være maskinstormer, hvis man ikke helt tror på, at mere digitalisering er godt, men det tager vi med. Vi er nemlig nødt til at forstå, at tanken om den trygge, smukke, æstetiske by med mennesker, som lever i givende fællesskaber, kan lide skade, hvis ikke vi forstår de etiske aspekter af tekologianvendelse.

Det er ikke sikkert, at mere videoovervågning giver mere sikkerhed, at algoritmerne nede på kommunekontoret tager de rigtige beslutninger, eller at automatisering giver den følelse af lethed i tilværelsen for den enkelte, hvis den samtidig betyder fraværet af menneskelig kontakt. 

Derfor skal vi beslutte, om vi først vil være smarte byer eller etiske byer. Jeg stemmer på etikken. 

Forrige artikel Fond: Hjælp til børn med alvorlig psykisk mistrivsel afhænger af tilfældigheder og postnummer Fond: Hjælp til børn med alvorlig psykisk mistrivsel afhænger af tilfældigheder og postnummer Næste artikel DGI: Det gavner ikke naturen at fjerne mountainbike-spor DGI: Det gavner ikke naturen at fjerne mountainbike-spor
Kronik: Jeg vågnede op i et samleje, jeg ikke vidste, jeg var en del af

Kronik: Jeg vågnede op i et samleje, jeg ikke vidste, jeg var en del af

KRONIK: For syv år siden var jeg blevet for fuld og var faldet i søvn. Jeg vågnede op i et samleje, jeg ikke selv vidste, jeg var en del af. I dag har debatten om #MeToo, sexisme og samtykkeloven givet kvinder som mig et sprog til at sætte ord på egne oplevelser. Nu skal samfundet lytte og handle, skriver Marie de Stoppelaar.