Debat

Børns Vilkår: Skal vi lade børn lege med en chatbot, der giver råd om selvskade?

Snapchats nye chatrobot kan rådgive børn i selvskade. Den er endnu et eksempel på, at sociale medier ikke har børns sikkerhed eller trivsel for øje, skriver Kathrine Elmose Jørgensen.

På Børnetelefonen er antallet af samtaler om selvskade steget kraftigt i første kvartal af 2023. Vi er kommet frem til, at det kun kan være, fordi selvskade generelt fylder mere hos børn og unge, skriver Kathrine Elmose Jørgensen.
På Børnetelefonen er antallet af samtaler om selvskade steget kraftigt i første kvartal af 2023. Vi er kommet frem til, at det kun kan være, fordi selvskade generelt fylder mere hos børn og unge, skriver Kathrine Elmose Jørgensen.Foto: Børns Vilkår
Kathrine Elmose Jørgensen
Dette indlæg er alene udtryk for skribentens egen holdning. Alle indlæg hos Altinget skal overholde de presseetiske regler.

På Børnetelefonen hører vi fra flere børn og unge, der er bange og utrygge ved den nye chatrobot, der ud af det blå er dukket op som "ven" på Snapchat.

Og der er vitterligt intet positivt at sige om Snapchats nye funktion. Det er en chatrobot, som børn er tvunget til at være venner med på det sociale medie, medmindre de betaler for at slippe for den.

En chatrobot, der ligger øverst på alle børns venneliste, og som i øvrigt kan designes af børnene. De kan kalde den et personligt navn og bestemme, hvordan den skal se ud. Og så kan de få alle de gode råd i verden, de ønsker sig – My AI ved alt.

Det er svært at se andet formål med My AI, end at funktionen skal få børn og unge til at bruge mere tid på Snapchat. My AI er endnu et eksempel på, at sociale medier ikke har børnenes sikkerhed eller trivsel for øje. Det er hardcore business.

Det er dybt skræmmende, når man tænker over, at børn og unge i mistrivsel sidder alene med deres smartphones og lokkes ind i et univers, hvor 'en ven' fortæller, hvordan de konkret kan selvskade. Hvordan i alverden kan vi tillade det?

Kathrine Elmose Jørgensen
Ekspert i digitale medier, Børns Vilkår

Rådgiver unge i selvskade

I sig selv er der en masse dybt bekymrende risici ved ovenstående. Vi har, siden funktionen blev lanceret, være bekymrede over, at Snapchat ikke kan garantere, at robotten ikke deler "skadeligt og vildledende indhold".

Den bekymring er ikke blevet mindre, efter at DR's podcast 'Enter' har dokumenteret, hvordan My AI på forespørgsel kan levere vejledning til, hvordan man selvskader.

Den siger blandt andet "Du kan lave små snit på arme og ben…. En anden måde at skade dig selv er at bruge en lighter…". Den slår også fast, at barnet skal huske, at det er i fuld kontrol og kan gøre lige, hvad det vil – og at ingen skal fortælle dem andet.

Det er dybt skræmmende, når man tænker over, at børn og unge i mistrivsel sidder alene med deres smartphones og lokkes ind i et univers, hvor 'en ven' fortæller, hvordan de konkret kan selvskade. Hvordan i alverden kan vi tillade det?

Læs også

På Børnetelefonen er antallet af samtaler om selvskade steget kraftigt i første kvartal af 2023. Vi har vendt og drejet mulige årsager, for der har ikke været store oplysningskampagner eller lignende. Vi er kommet frem til, at det kun kan være, fordi selvskade generelt fylder mere hos børn og unge.

Vi er ikke i tvivl om, at de mange netværk på sociale medier, hvor selvskadende unge opmuntrer hinanden, spiller ind på udviklingen. Derfor er det også meget bekymrende, at en "ven" på Snapchat kan understøtte en så alvorlig adfærd, som kalder på akut hjælp.

Der er brug for politisk handling. Det haster. Det her er ikke noget, man kan lægge over på forældrene – det her er meget større og meget mere alvorligt.

Politik har aldrig været vigtigere

Få GRATIS nyheder fra Danmarks største politiske redaktion

Omtalte personer

Kathrine Elmose Jørgensen

Digital medieekspert, Børns Vilkår
Cand.scient.soc. og Ph.D

0:000:00