Professor: Hvis EU vil være globalt knudepunkt for kunstig intelligens, har vi brug for klogere algoritmer

Når vi i EU snakker om kunstig intelligens (AI) og data, så går diskussionerne fra helt basale ting, som at sikre realtidsdata for offentlig transport i Europa til frygten for, at robotter vil overtage verdensherredømmet.

Men kunstig intelligens rummer mange muligheder for både EU’s borgere og virksomheder, og EU har en ambition om at blive det globale knudepunkt for pålidelig kunstig intelligens, som er tillidsvækkende, forklarligt og transparent, som agerer i overensstemmelse med europæiske værdier, og som kan ”håndtere de risici, der er forbundet med visse anvendelser af denne nye teknologi.”

I EU’s hvidbog om kunstig intelligens (2020) lægger man på den ene side op til at investere i forskning og udvikling af kunstig intelligens for at fremme det, mens man på den anden side ønsker at regulere området for at undgå de pågældende risici og faldgruber. Det er en yderst vanskelig balancegang.

Det er dette begrænsede niveau af raffinement, som har gjort, at vi overhovedet er begyndt at bekymre os om problemer som tillid, forklarlighed, transparens og retfærdighed inden for AI.

Thomas Bolander
Professor i kunstig intelligens på DTU Compute

Arkitekturen af algoritmerne

En af mine hovedpåstande er, at begge mål bedst nås med ét og samme middel: kunstig intelligens med højere kognitive evner.

I de nuværende diskussioner i EU-regi er der rigtig meget fokus på at sikre nok data og nok computerkraft, men i virkeligheden er den mest afgørende flaskehals at få klogere algoritmer.

Det får vi ikke blot gennem større computere og mere data, for det svarer til at påstå, at hvis vi vil have troværdige og tillidsvækkende dyr, som kan agere i overensstemmelse med menneskers værdier og normer, så skal de blot have meget store hjerner og eksponeres for en masse stimuli. Men dyr som elefanter og hvaler har større hjerner og mangler stadig kognitive evner.

Pointen er, at det at få den rigtige type af intelligens handler mere om arkitekturen af hjernen end dens størrelse og det input, den får. I analogi hertil handler AI mere om arkitekturen af algoritmerne end størrelsen af computeren og den data, vi fodrer den med.

AI med mennesket i centrum

Jo, alle tre ting er selvfølgelig essentielle, men den nuværende flaskehals er det begrænsede niveau af raffinement, vi ser i de algoritmer, vi har til rådighed. Og det er dette begrænsede niveau af raffinement, som har gjort, at vi overhovedet er begyndt at bekymre os om problemer som tillid, forklarlighed, transparens og retfærdighed inden for AI.

For at få AI med mennesket i centrum, har vi brug for AI-systemer, som kan relatere sig til mennesker – ligesom vi kan relatere os til hinanden – altså AI-systemer med social intelligens.

Thomas Bolander
Professor i kunstig intelligens på DTU Compute

Når vi taler om disse problemstillinger i AI, så drejer det sig om at få AI-systemerne til at tilpasse sig, hvordan vi mennesker opfatter verden. Vi vil have en forklaring, som vi kan forstå. Vi vil have et system, som vi kan stole på, og som tilpasser sig vores værdier.

For at få AI med mennesket i centrum, har vi brug for AI-systemer, som kan relatere sig til mennesker – ligesom vi kan relatere os til hinanden – altså AI-systemer med social intelligens. Social intelligens nævnes ofte som blandt de vanskeligste menneskelige kognitive evner at efterligne med kunstig intelligens. Det er givetvis rigtigt, men er stadig den eneste vej frem, og er også det område som det meste af min egen forskning fokuserer på.

Digital efteruddannelse er afgørende værktøj

I min forskning er jeg meget inspireret af menneskers evne til at sætte sig i andres sted, vores såkaldte Theory of Mind. Jeg har udviklet én af de formalismer, som kan bruges til at give robotter en Theory of Mind. Vi eksperimenterer lige nu med at få vores robotter på DTU til at bestå en række kognitive tests, som oprindeligt blev udviklet til at teste menneskers evner til at sætte sig i andres sted.

Evnen til at sætte sig i andres sted er første nødvendige skridt på vejen mod robotter med mere generelle sociale evner.

Kloge algoritmer var også det gennemgående tema fra andre oplægsholdere fra industrien, NGO-netværk og universiteter, da jeg bidrog til Europa-Parlamentets offentlige høring om EU’s strategier for AI og data: Fokusér ikke for meget på data og computerkraft, men også på at få udviklet bedre og klogere algoritmer.

I en afsluttende debat var der også bred enighed om, at teknologisk efteruddannelse og digital dannelse er altafgørende værktøjer, hvis EU vil opfylde sin ambition om at blive et globalt knudepunkt for pålidelig kunstig intelligens.

Det er også emner, der bliver diskuteret i de kommissioner og tænketanke, jeg sidder i, og hvor SIRI-kommissionen i løbet af den kommende måned udgiver en rapport ”AI, efteruddannelse og kompetencer” med anbefalinger til efteruddannelse inden for netop AI og digitalisering.