Professor: Mennesket er stadig den bedste computer, men vi skal opføre os klogere for ikke at blive snydt af AI

Kunstig intelligens er hverken kunstig eller intelligent. Selvom den var begge dele, ville vi ikke være kloge nok til at udnytte potentialet i den ekstra intelligens.

Vi ville ikke ane, hvad vi skulle bruge den frigjorte tid til.

I et projekt, hvor målet var at give mere tid til psykiatriske patienter i almen praksis, var bekymringen blandt lægerne før projektstart, at de ville få svært ved at tale så længe med patienterne. Projektet viste da også, at ordningen ikke blev udnyttet af lægerne.

Når vi ikke vil forholde os til vores egen rolle i skabelsen af information, bliver vi lettere at snyde af vores egne AI-systemer. 

AI fødes med fejlfortolkninger

Der er ingen tvivl om, at der er områder af sundhedsvæsnet, hvor vi reelt får støtte af kunstig intelligens, også kaldet AI.

Det er, ganske enkelt fordi AI kan rumme og kombinere langt flere informationer, end vi kan.

AI kan genkende langt flere mønstre, end vi kan, og den kan gøre det langt hurtigere. AI har allerede vist sit værd i analyse af røntgenbilleder, kikkertundersøgelser eller vævsprøver.

Når det kommer til komplekse symptombilleder, er udfordringen, at alle oplysninger skal være til stede, for at AI kan udføre opgaven fornuftigt.

Men hvem ved, hvornår alle oplysninger er til stede? Og hvem fodrer AI med oplysningerne om patienten?

Der er påvist mange barrierer i samtalen mellem læger og patienter. Oplysninger mellem dem flyder ikke frit men påvirkes kraftigt af kontekst, relation og psykologiske mekanismer.

Det betyder, at der kan mangle informationer, samt at informationer kan fejlfortolkes eller ignoreres. Det er den type information, vi føder AI med.

Oplysninger forsvinder i digitale systemer

Mennesker har mange charmerende kompetencer, men vores evne til selvbedrag er knap så charmerende.

Der findes over 187 typer kognitive smutveje, der gør, at flertallet af os med bil mener, at vi er langt bedre end den gennemsnitlige bilist.

AI må ikke blive klogere end os.

Morten Sodemann
Professor, Syddansk Universitet

Det er også en mental smutvej.

Amerikanske færdselsbetjente udskriver eksempelvis færre fartbøder til bilister, der hedder det samme fornavn, som betjenten selv gør.

Hvordan kan mennesker skabe kunstig intelligens, når de konstant overvurderer deres egne evner?

Hvad sker der med mennesker, der arbejder med de skabeloniserede og standardiserede udgaver af virkeligheden, som de præsenteres for på sociale medier og på deres arbejdsplads?

I vores begejstring over en fremtid, hvor AI kan skrive vores eksamensopgaver, stille diagnoser og skrive avisartikler, er vi elegant sprunget hen over det oplagte spørgsmål - hvad sker der med os med tiden, når vi tror, vi tænker, men i virkeligheden overlader det til AI?

Dét ved vi ikke. For det spørgsmål vil vi ikke have svaret på. Men vi kan få nogle ideer om det.

Unge læger, der arbejder med elektroniske patientjournaler skriver 70 procent kortere journalnotater efter syv måneder på sygehuset.

Samtidig med, at journalnotater om patienter er blevet meget kortere efter de elektroniske patientjournaler, er den samlede informationsmængde i journalerne 20-dobbelt.