Boguddrag: Hvad gør vi, når Barbie kan tale, og algoritmer udmåle straf?

Uddrag til Altinget fra "Kunstig intelligens efterlader dataetiske spørgsmål"

Kunstigt intelligente teknologier er komplekse databehandlingssystemer, der stiller os over for en række etiske udfordringer. Vi bør tage stilling
til dataintensiteten af de nye teknologier og finde løsninger på deres etiske implikationer i lovgivning, design og i samfundet generelt.

Da Jeff døde, efterlod han et hul i universet. Hun kunne ikke længere røre ved ham, tale med ham, dele hverdagsdetaljerne med ham. Der var så meget, hun ikke kunne. Men det var underligt, for han var der alligevel stadig. Dagene efter ulykken sad hun med mobilen i hånden og genlæste hans beskeder og updates, og nu var han levende, syntes hun. Med humor, meninger, underfundigheder. Hun kunne genkende ham derinde i netværket. Og det var der, hun kom til at tænke på den reklame fra Viva Robots. Om kunstig intelligens' genoplivning. Vi genererer enorme mængder af data online via sociale medier, online søgninger, indkøb, underholdning, havde den pæne dame i videoen sagt. Al den personlige data kan Viva Robots få adgang til og sætte sammen, og det kan bruges til at genskabe en kunstigt intelligent robotversion af os selv eller vore kære. Den bliver fodret med vores data, lærer af vores data og udvikler en personlighed. På den måde kan vi allesammen leve for evigt: Viva Robots – kroppen forgår, men data består.

Den første gang, hun så Jeff igen, gav hun ham et akavet kram, og selv om han lugtede lidt af ny bil, var det alligevel ham, syntes hun. Han lod hende stå der med armene om sig, så sagde han: "Kan du huske sidste år, da vi så X Factor, og ham Paul vandt? Jeg blev så vred og blev uvenner med en masse på FootHook.com". "Ja, og så holdt jeg om dig ligesom nu", sagde hun. "Ja, det husker jeg", svarede Jeff, "gjorde det dig glad?".

Som de fleste eksempler, vi kan komme på, når vi taler om kunstig intelligens, er historien om Jeff ren science fiction. Tænk på Hal fra Space Odyssey 2001, R2-D2, Terminator, Her eller Wall E, der alle er kunstigt intelligente menneskelignende teknologier, der repræsenterer visioner om fremtiden, samfundet og vores eksistens som mennesker. Men faktisk er vi ikke langt fra at kunne udvikle den type teknologier, der kan repræsentere os, lære af vores erfaringer og handle på vores vegne, selv efter at vores fysiske kroppe ikke længere eksisterer. Eller teknologier, som vi kan interagere med, og som kan udføre menneskelige funktioner, som vi ellers synes, det er os mennesker, der har patent på. De intuitive, empatiske og kreative. Kunstigt intelligente musikere og kunstnere, intuitive software-advokater eller empatiske robotassistenter og chatpartnere.

Tv-serier, film, litteratur og mediehistorier om robotter som Jeff sætter tankerne i gang. Vil vores fysiske menneskeliv i fremtiden blot være en lille brik i et langt uendeligt liv som robotter? Skal vi selv bestemme, før vi dør, om den data, vi genererer online, må bruges til andre formål efter vores død? Eller er det de efterladte, der bestemmer det? Vil Jeffs nye, genoplivede robot kunne repræsentere ham som det hele menneske, han var? Respektere hans værdier og holdninger? Hvilke data har han ikke delt på de sociale medier? Hvilke menneskelige kvaliteter misrepræsenterer algoritmerne, der genskaber ham? Eller hvor er falsk data, der slet ikke har noget med Jeffs "ægte" selv (har man sådan et?) at gøre, blevet blandet sammen med Jeffs dataprofil? Når nye Jeff begynder at interagere med verden, hvad er så hans rettigheder? Er det de samme som menneske-Jeffs? Eller skal han have nye robotrettigheder? Og hvem har ansvaret for nye Jeffs handlinger? Viva Robots? Eller skal robotter som Jeff have en egen juridisk status? Det er alt sammen spændende spørgsmål og tanker om fremtiden. Men i dette kapitel bevæger vi os ud over den gængse diskussion om kunstigt intelligente robotter fra fremtiden. De spørgsmål, vi lige har stillet om Jeff, kan vi nemlig lige så godt, og bør vi, stille til de intelligente teknologier, der udvikles nu og her, og som allerede driver udviklingen af alt fra vores økonomi og politik til vores sociale relationer og kultur.

I dag er de meste af de ting, vi bruger i vores hverdag, på den ene eller anden måde forbundet til internettet, som vi udveksler store mængder af personlige data med – bevidst, men ofte også helt uden at vide det. Oplysninger om vores fysiske tilstedeværelse, internetvaner, vores ansigter og fingeraftryk transformeres til data; data om vores interesser, politiske overbevisninger og sundhedsdata – og de bliver delt med virksomheder, offentlige institutioner og forskere verden over. Kunstig intelligens er allerede en integreret del af vores hverdag, og det er en af de største kommercielle indsatser og innovationsområder i den private industri. Google, Facebook, IBM, Microsoft dedikerer store dele af deres budgetter til udvikling af kunstigt intelligente teknologier, som kan skabe mening ud af og handle på data. Det, som muliggør denne udvikling, er de uendelige mængder data, som vi genererer i samfundet – og som med andre ord også bliver kaldt big data. De intelligente teknologier bruges inden for alle sfærer i vores hverdagsliv, i politik, økonomi og kultur til at skabe orden i de store datamængder, forudsige mønstre, analysere risici og handle ud fra den viden. På det individuelle niveau analyserer intelligente algoritmer vores internetvaner og personaliserer det indhold, vi præsenteres for på internettet. Men samtidig bliver makro- samfundsstrukturer defineret og udviklet på baggrund af avancerede og intelligente computeranalyser af data. For eksempel bliver broderparten af alle handler på det globale børsmarked i dag udført af algoritmer, der beregner potentielle risici i forbindelse med en handel. I 2017 skrev The Guardian-journalisten Carole Cadwalladr om, hvordan den amerikanske præsident, Donald Trump, havde benyttet et dataanalysefirma ved navn Cambridge Analytica til at overbevise de amerikanske vælgere med individuel målretning af budskaber baseret på algoritmers psykologiske analyse af millioner af amerikaneres facebookprofiler. Tager man højde for den betydning, de avancerede datasystemer inden for alle disse områder har i vores hverdag og samfund, kan man, og bør man, bevæge sig ud over de eksistentielle etiske spørgsmål om fremtiden og tage hånd om deres dataetiske udfordringer her og nu.

Kunstig intelligens og dataprofilering
Kunstig intelligens er en sofistikeret teknologi, der bruges bredt til at kategorisere, forudsige og finde mønstre i data. Fra et computervidenskabeligt perspektiv kan man se kunstig intelligens som en slags rationel agent, der kan opfatte sine omgivelser og handle ud fra dette for at maksimere sine chancer for at nå et bestemt mål. Men man kan også vælge at se på kunstig intelligens som data – komplekse databehandlingssystemer med inputdata (eksempelvis data, vi selv tilfører dem, når vi samtaler med chatrobotter eller onlinenyhedsartikler og social medie-data, som de selv indsamler ved at crawle internettet), som systemerne lærer af og udvikler sig på baggrund af, og som de handler på i form af outputdata. Et eksempel er Apples Siri, der behandler mundtlige spørgsmål og ordrer enten direkte på devicet eller ved at slå det op på internettet. Det, som gør Siri intelligent, er, at programmet udvikler sig og lærer af den data, man tilfører det via de spørgsmål, man stiller til det. På den måde tilpasser programmet sig sine omgivelser ved at skabe en dataprofil på brugeren og bliver med tiden en mere personlig assistent.

Dataprofiler er en forudsætning for, at en intelligent personlig teknologi fungerer optimalt. Men den intelligente dataprofilering bruges ikke kun til at gøre tingene nemmere for os. I dag bruges mere eller mindre intelligente teknologier til alt fra at vurdere en persons fremtidige sygehistorie og derved udregne forsikringspolicer til at anbefale, om en person skal prøveløslades fra et fængsel på baggrund af en udregning af sandsynligheden for, om han eller hun vil begå en forbrydelse i fremtiden. På den måde fungerer intelligente teknologier – eller hvad man også kalder selvlærende algoritmer, "decision making algorithms", "cognitive computing" eller "machine learning" – som en slags gatekeepers i samfundet. De er personlige og kan derved hjælpe os, fordi de kender os, men de bestemmer også, hvilken information vi bliver præsenteret for, når vi søger på internettet, hvor meget vi betaler for en flybillet, eller hvilket politisk parti vi hører mest fra, og hvad vi hører fra dem. Og deres komplekse dataprocesser udvikler sig i dag så hurtigt, at det bliver sværere og sværere at følge rationalet bag behandlingen af vores data.