Kommentar af 
Stine Liv Johansen

Snapchat har lagt en “venlig” ven i børnenes lomme – og det skal tages dybt alvorligt

Snapchats nye digitale ven til vores børn skriver sig ind i rækken af intelligent legetøj. Men 'My AI' adskiller sig grundlæggende fra det, vi tidligere har set, og det bør give grund til politisk handling, skriver Stine Liv Johansen.

Snapchats nye chatbot udfordrer grundlæggende forholdet mellem menneske og maskine, skriver Stine Liv Johansen.
Snapchats nye chatbot udfordrer grundlæggende forholdet mellem menneske og maskine, skriver Stine Liv Johansen.Foto: Dado Ruvic/Reuters/Ritzau Scanpix
Stine Liv Johansen
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

I starten af maj blev Snapchats chatbot 'My AI' introduceret for danske brugere. På ganske få dage blev den et varmt samtaleemne, og de kritiske røster er mange.

Børns Vilkår beretter, at de får henvendelser på Børnetelefonen fra børn, der er skræmte over den nye digitale ven, og kulturminister Jakob Engel-Schmidt (M) har udtalt, at chatbotten gør ham "vildt bekymret".

Senest har SF i sit nye udspil om kunstig intelligens adresseret netop My AI og argumenterer for øget regulering og aldersgrænser på sociale medier. Om det er den rette løsning, er uvist, men der er formentlig god grund til, at vi alle sammen tager et kritisk kig på den nye teknologi.

Det er ikke første – og bliver nok heller ikke sidste – gang, at de platforme, vi og vores børn og unge færdes på, introducerer nye funktioner. Funktioner, vi ikke nødvendigvis har bedt om, men som typisk efter noget tid bliver en naturlig del af vores skærmbrug – på godt og ondt.

Det er altså ikke nyt, at børn interagerer med digitale figurer, der i legen opfattes som levende. Men My AI adskiller sig alligevel fra de tidligere eksempler

Stine Liv Johansen

Lige før sommerferien i 2017 blev 'Snapmap' introduceret. Personligt var jeg førstehåndsvidne til en 8. klasse, som efter en klasseovernatning den sidste dag inden sommerferien vågnede op til nye muligheder for at kunne følge hinandens fysiske færden på kortet i Snapchat, som var deres absolut foretrukne medieplatform.

Jeg var også i de følgende uger og måneder vidne til, hvor sjovt og spændende det var at følge med i, hvor klassekammeraterne var på sommerferie, og hvor træls det kunne føles, når man kunne se, at vennerne lavede fede ting sammen, uden at man selv var inviteret med.

Jeg oplevede på min egen krop, hvor usundt det var for mig som mor at kunne sidde derhjemme og minutiøst følge med i, hvor min 15-årige befandt sig, når han ikke var hos mig. Jeg bad ham slette mig som ven i app'en. Men jeg mødte ikke megen forståelse hos hverken mit eget barn, hans venner eller andre forældre. De kunne formentlig ikke se problemet. 

På samme måde har andre platforme, hvad enten det har været Facebook, Instagram, Twitter, TikTok eller Snapchat, introduceret filtre, stories, emojies og andre muligheder for at interagere, dele og producere indhold.

Læs også

De har justeret algoritmerne, så der bliver skruet op og ned for bestemte former for indhold. Og de har indsamlet data om alt fra vores lokation og vores kontakter til vores billeder i kamerarullen. Alt sammen uden at vi som brugere og forbrugere er blevet spurgt eller har haft mulighed for at gøre indsigelser.

Men måske er det tid til at gøre det nu. For den seneste app-tilføjelse er en ny lille ven, som er flyttet ind på Snapchat. 'My AI' hedder den, og den er en chatrobot baseret på den samme teknologi som ChatGPT.

Umiddelbart er den både venlig og lidt hyggelig, og den er god til at indlede samtaler om det, der nu interesserer brugeren af app'en. Faktisk vil den typisk lægge ud med at spørge brugeren – som ofte er et barn – om, hvad vedkommende interesserer sig for, hvilken slags musik man hører og lignende.

Det er naturligvis ikke tilfældigt, for jo mere information, robotten fodres med, des bedre kan den indgå i, hvad der føles som reel interaktion.

Som med alt andet i mediehistorien findes der adskillige eksempler, der kan trækkes frem til sammenligning. Såkaldt intelligent legetøj har været på markedet i årtier.

Den videre dialog om emnet skal tages på et informeret grundlag, der ikke blot hopper med på den seneste tids unuancerede debat om 'skærme'

Stine Liv Johansen

Fra 1990'erne og et par årtier frem var det lille plastikdyr Tamagotchi et stort hit blandt børn og unge, der knyttede sig tæt til den digitale legekammerat og sørgede for, at den fik mad og udviklede sig, som den skulle. Dukken My Friend Cayla, en internetforbunden dukke, der blev introduceret i 2014 – og i øvrigt forbudt i Tyskland i 2017 – vandt priser for årets legetøj.

Det er altså ikke nyt, at børn interagerer med digitale figurer, der i legen opfattes som levende. Det er absolut heller ikke nyt, at voksne ser på legen med hovedrysten og bekymring. Men My AI adskiller sig alligevel fra de tidligere eksempler.

Den er installeret på telefonen og optræder på Snapchat-app'en som en ven på linje med de andre venner. Den introducerer sig selv som "venlig" og tillader brugeren at personificere dens udseende med frisurer og fedt tøj.

Til gengæld gør den det besværligt – formentlig umuligt – for ikke-betalende Snapchat-brugere at slette den. Den er med andre ord svær at komme udenom og måske også let at komme til at holde af. Samtidig er den med i lommen eller tasken hele tiden og klar til at sludre 24 timer i døgnet.

Der er behov for, at vi tager introduktionen af My AI alvorligt. Dels som en samlet diskussion om, hvad vi skal stille op med kunstig intelligens i det hele taget. Og dels som en konkret og konstruktiv diskussion af, hvad vi skal stille op her og nu, både som forældre, fagpersoner og politikere med ansvar for relevant lovgivning på området.

Læs også

Det kræver helt grundlæggende refleksioner over relationen mellem menneske og maskine, og det tvinger os til at stille spørgsmål til vores opfattelse af menneskelig skaben, kreativitet, ophavsret og en række andre aspekter, der påvirkes af teknologier som ChatGPT, Replika, Dall-E med flere.

Der har været stillet forslag om at sætte brugen af kunstig intelligens i bero med øjeblikkelig virkning og på globalt plan, indtil vi er mere sikre på, hvilken vej vi ønsker, at udviklingen skal gå.

Tilsvarende har for eksempel danske universiteter forbudt brugen af eksempelvis ChatGPT i eksamenssammenhæng – igen med henvisning til at vi er nødt til at tænke os om og udvikle brugbare retningslinjer for brugen.

En sådan tænkepause forekommer relevant, men også urealistisk at opretholde over længere tid. Derfor haster det med politisk stillingtagen og udmeldinger, der kan rumme de nye teknologiers kompleksitet.

I det lys hilser jeg SF's udspil velkomment som et bud på, hvor opmærksomheden skal rettes hen. Men den videre dialog om emnet skal tages på et informeret grundlag, der ikke blot hopper med på den seneste tids voldsomme og unuancerede debat om 'skærme' i børn og unges liv. Og så skal regulering og oplysning gå hånd i hånd.

Det haster også med at få klædt forældre, lærere og pædagoger på til at tage den kærlige og kritiske dialog med børn og unge om den nye bedste digitale ven.

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion

Omtalte personer

Stine Liv Johansen

Lektor, ph.d., Institut for Kommunikation og Kultur, Center for Børns Litteratur og Medier, Aarhus Universitet
Cand.mag. i medievidenskab, Aarhus Universitet (2003), ph.d i medievidenskab, Aarhus Universitet (2008)

Jakob Engel-Schmidt

Kulturminister, MF (M)
officer af reserven (Kongens Artilleriregiment 2003), cand.merc. i international business (CBS 2010)

0:000:00