Forbrugerrådet Tænk: Kunstig intelligens rummer potentialer, men kan loven beskytte os mod truslerne?

Myndighederne har en vigtig opgave i at se GDPR-reglerne igennem og vurdere, om reglerne beskytter vores privatliv og data ved såkaldt generativ AI, skriver Anja Philip, formand, Forbrugerrådet Tænk.

Datamisbrug er en af de største risici for brugere af kunstig intelligens. Med den enorme mængde data, der genereres og behandles af AI-systemer, er der en reel risiko for, at personlige oplysninger bliver misbrugt eller udnyttet uden samtykke, skriver Anja Phillip.Foto: Pressefoto, Forbrugerrådet Tænk

Anja Philip

Formand, Forbrugerrådet Tænk, medlem, 2030-panelet

Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

Nye teknologier har det med at blive så integreret i vores hverdag som forbrugere, at vi glemmer tiden før. Tænk bare på smartphonen, internettet, vaskemaskinen eller endda plastik.

På samme måde kommer vi formodentlig til at tænke om kunstig intelligens om nogle år.

Kunstig intelligens har været en realitet længe inden for eksempelvis søgemaskiner og andre digitale tjenester. Men med såkaldt generativ AI har teknologien kun lige set dagens lys for den almene forbruger. Det sker blandt andet i form af chatbots og billedgeneratorer, der kan skabe kunstige men meget virkelige billeder, og de spiller allerede en rolle i manges hverdag.

Men i de kommende år vil teknologien efter alt at dømme blive en integreret del af et almindeligt forbrugerliv.

Selv lovende teknologi kan vildlede

Som med al teknologi rummer kunstig intelligens store potentialer. Det kan eksempelvis være bedre forbrugeroplevelser, effektivitet og mindre spild, forebyggelse af digital kriminalitet og lavere omkostninger for virksomheder til gavn for forbrugerpriserne.

Alle forbrugere skal have en ret til at få deres data glemt. Også af kunstig intelligens.
Anja Philip
Formand, Forbrugerrådet Tænk.

Men samtidig er udfordringerne alvorlige, og faldgruberne dybe.

I en ny, omfattende rapport fra juni tidligere i år kortlægger det norske forbrugerråd nogle af de risici, der er ved den ellers lovende teknologi. Datamisbrug, vildledning, manipulation og bedrageri er bare noget af det, som kommer til at sætte store krav til forbrugerbeskyttelsen.

Spørgsmålet, som myndigheder og politikere er nødt til at stille sig selv nu, er, om den nuværende lovgivning er i stand til at beskytte forbrugerne mod de trusler, som en verden med AI også rummer?

Alle har ret til at blive glemt

En af de største risici for brugere af kunstig intelligens er datamisbrug. Med den enorme mængde data, der genereres og behandles af AI-systemer, er der nemlig en reel risiko for, at personlige oplysninger bliver misbrugt eller udnyttet uden samtykke.

I Forbrugerrådet Tænk anmeldte vi før sommeren Snapchats chatbot, My AI, til Datatilsynet af netop den årsag.

Chatbots er designet til at være fortrolige, digitale hjælperedskaber, og i tilfældet med My AI bliver den tilmed markedsført til Snapchats unge brugerbase som en digital ”ven”, du kan fortælle alt til.

Mere sofistikeret svindel kræver løbende og synlig forbrugeroplysning, så alle bliver rustet til at gennemskue svindlen.
Anja Philip
Formand, Forbrugerrådet Tænk.

Det er derfor ikke svært at forestille sig børn og unge dele dybt personlige oplysninger med chatbots som My AI, uden at vi på nuværende tidspunkt ved, hvordan den data bliver håndteret, eller hvor den ender.

Samtidig ved vi heller ikke, hvilke potentielt personlige data som chatbotten uden samtykke skraber fra internettet for at generere et svar, eller om den potentielt kan finde på at videreformidle sådanne data til brugerne.

Vi mener derfor, at myndighederne har en vigtig opgave i at se GDPR-reglerne igennem og vurdere, om de beskytter vores privatliv og data ved såkaldt generativ AI, som chatbotter er et eksempel på. Alle forbrugere skal have en ret til at få deres data glemt. Også af kunstig intelligens.

Forbrugerne skal rustes mod svindelforsøg

Digital svindel er en anden af de helt store udfordringer, som kunstig intelligens har bibragt forbrugerne. Vi kan allerede se det ske via TrygFonden og vores app, Mit Digitale Selvforsvar, hvor forbrugere kan fortælle hinanden om svindelforsøg. Her hører vi eksempelvis, at forbrugere bliver ringet op af syntetiske AI-genererede robotstemmer, som forsøger at svindle dem.

De store sprogmodeller som ChatGPT kan også bruges af kriminelle til at generere meget troværdige tekster til at bedrage deres ofre. På samme måde kan sprogmodellerne allerede i dag bruges til blandt andet at ”catfishe”.

Læs også

Adjunkt og chatbot: Kunstig intelligens er kommet for at blive, men teknologien har sine skyggesider

Debat

Det betyder, at svindlere gennem længere korrespondancer og jævnlig kontakt opbygger tillid til deres ofre for så at franarre dem penge. Det fænomen bliver sandsynligvis også overtaget af kunstig intelligens, som allerede i dag er i stand til at kommunikere på skræmmende menneskelig vis.

Vi forventer, at sådanne svindelforsøg bliver både mere udbredt og langt mere overbevisende fremover, hvor såkaldte deepfakes, der er realistiske videoer og stemmegengivelser af begivenheder, der aldrig har fundet sted, eksempelvis vil være i stand til at forfalske familiemedlemmer.

Mere sofistikeret svindel kræver løbende og synlig forbrugeroplysning, så alle bliver rustet til at gennemskue svindlen og gjort opmærksom på de svindelforsøg, der florerer.

Det er afgørende, at politikere og myndighederne nationalt både gennemgår og håndhæver eksisterende lovgivning.
Anja Philip
Formand, Forbrugerrådet Tænk.

I Forbrugerrådet Tænk samarbejder vi i øjeblikket med TrygFonden om blandt andet at få mere viden om svindlen, så den forhåbentlig bedre kan forebygges. Men det kræver også, at banker, virksomheder og myndigheder hurtigst muligt sikrer de nødvendige værn til at begrænse svindlens effekter.

Sociale medier kan påvirke vores mentale sundhed

Teknologiens potentiale til at fastholde os til skærmen er et sidste eksempel på nogle af forbrugernes faldgruber ved kunstig intelligens.

Allerede i dag bruger over halvdelen af danskerne mere tid på sociale medier, end de ønsker at bruge. For 75 procent af dem har det, ifølge dem selv, negative konsekvenser for deres liv. Det viser en undersøgelse fra Forbrugerrådet Tænk.

Med kunstig intelligens kan tech-virksomhederne i langt mere udtalt grad bruge og udvikle diverse mekanismer og justere indhold til at genfange brugerens opmærksomhed, netop som man skal til at lægge skærmen fra sig.

Det kan lyde banalt, men det er manipulation og kan potentielt have alvorlige konsekvenser for vores mentale helbred. Derfor er det endnu en konsekvens af den nye teknologi, som vi skal holde skarpt øje med.

Teknologi kan tæmmes og tilpasses efter værdier

Både forskere og aktører i tech-industrien taler i disse dage om de helt store eksistentielle konsekvenser af kunstig intelligens. Det kan eksempelvis være omkalfatring af fremtidens jobmarked, udfordring af demokratiet, diskrimination, brug i krigsførelse og tilmed trusler mod mennesket som art.

Teknologi er ikke et utæmmeligt dyr, men det skal tilpasses og formes efter regler og værdier i et demokratisk samfund.
Anja Philip
Formand, Forbrugerrådet Tænk.

Midt i disse store og bogstaveligt talt eksistentielle samtaler må vi dog ikke overse de konkrete udfordringer, som teknologien giver forbrugerne her og nu. Det kan være i form af blandt andet datamisbrug, svindel og stærke fastholdelsesmekanismer.

I EU pågår der et stort arbejde med at vedtage den såkaldte “AI Act”, som skal regulere og tilpasse udviklingen af kunstig intelligens. Men den teknologiske udvikling går langt hurtigere end lovgivningsprocessen, og der er flere år til, at reglerne træder i kraft.

Det er derfor helt afgørende, at politikere og myndighederne nationalt ikke kun gennemgår eksisterende lovgivning men også håndhæver den, herunder GDPR-lovgivningen, så vi indfrier potentialer og styrer uden om de dybe faldgruber ved generativ AI.

Som vores kollegaer i det norske forbrugerråd skriver i den nye rapport om kunstig intelligens: ”Teknologi er ikke et utæmmeligt dyr, men det skal tilpasses og formes efter regler og værdier i et demokratisk samfund.”

Læs også