Dataetisk ekspert: Kunstig intelligens kan kun gøre os klogere på det, vi allerede gør på socialområdet

Siri-Kommissionen udgav i april rapporten "En fremtidssikret velfærdsstat med AI". Her forsøgte vi at komme med en række anbefalinger til brug af kunstig intelligens, ofte kaldet AI, i den offentlige sektor.

Ikke ud fra et ønske om at bruge AI mest muligt eller at spare penge, men ud fra et borgerperspektiv. At arbejde med et borgerperspektiv betød, at et begreb som tillid hurtigt kom til at stå helt centralt i diskussionerne under arbejdet med rapporten.

Kunstig intelligens handler om data, helst store, relevante mængder af data af god kvalitet. Tillid er forudsætningen for, at vi som borgere vil dele de relevante data. Tillid forudsætter, at man som borger har en følelse af at være i kontrol med, hvilke oplysninger om ens privatliv, der er i omløb og hvad de bruges til.

Det kræver, at man som borger har et overblik over, hvilke data, der indsamles om én, hvad formålet er og at de samme data ikke pludselig også bliver brugt til noget helt andet, uden at man ved det.

Tillid handler også om, hvad vi bruger kunstig intelligens til. En måde at bruge kunstig intelligens er prædiktive algoritmer, altså at forsøge at forudsige for eksempel slitage på bygninger eller udpege børn i risikozonen, som skal hjælpes inden det går galt.

I en befolkningsundersøgelse, vi lavede i forbindelse med rapporten, var 67 procent af danskerne helt eller overvejende enige i, at kommunen gerne må bruge data til at forudsige om hans eller hendes kælder bliver oversvømmet, men kun 20 procent af respondenterne var enige i, at kommunen må indhente oplysninger for at forudsige, om deres børn vil klare sig dårligt i skolen.

Det er altså på ingen måde ligegyldigt, om vi bruger kunstig intelligens på fakturaer og klimatal eller om man går helt tæt på os som mennesker. Så lige præcis socialområdet har nogle helt særlige forhold, der kræver omtanke, bred inddragelse af viden og kompetencer.

Data kan ikke ændre tingene selv

En andet væsentligt benspænd i forhold til at bruge kunstig intelligens er, om man prøver at blive klogere på, hvad der foregår eller om man vil forandre praksis.