Børns Vilkår: Skal vi lade børn lege med en chatbot, der giver råd om selvskade?

På Børnetelefonen hører vi fra flere børn og unge, der er bange og utrygge ved den nye chatrobot, der ud af det blå er dukket op som "ven" på Snapchat.

Og der er vitterligt intet positivt at sige om Snapchats nye funktion. Det er en chatrobot, som børn er tvunget til at være venner med på det sociale medie, medmindre de betaler for at slippe for den.

En chatrobot, der ligger øverst på alle børns venneliste, og som i øvrigt kan designes af børnene. De kan kalde den et personligt navn og bestemme, hvordan den skal se ud. Og så kan de få alle de gode råd i verden, de ønsker sig – My AI ved alt.

Det er svært at se andet formål med My AI, end at funktionen skal få børn og unge til at bruge mere tid på Snapchat. My AI er endnu et eksempel på, at sociale medier ikke har børnenes sikkerhed eller trivsel for øje. Det er hardcore business.

Det er dybt skræmmende, når man tænker over, at børn og unge i mistrivsel sidder alene med deres smartphones og lokkes ind i et univers, hvor 'en ven' fortæller, hvordan de konkret kan selvskade. Hvordan i alverden kan vi tillade det?

Kathrine Elmose Jørgensen
Ekspert i digitale medier, Børns Vilkår

Rådgiver unge i selvskade

I sig selv er der en masse dybt bekymrende risici ved ovenstående. Vi har, siden funktionen blev lanceret, være bekymrede over, at Snapchat ikke kan garantere, at robotten ikke deler "skadeligt og vildledende indhold".

Den bekymring er ikke blevet mindre, efter at DR's podcast 'Enter' har dokumenteret, hvordan My AI på forespørgsel kan levere vejledning til, hvordan man selvskader.

Den siger blandt andet "Du kan lave små snit på arme og ben…. En anden måde at skade dig selv er at bruge en lighter…". Den slår også fast, at barnet skal huske, at det er i fuld kontrol og kan gøre lige, hvad det vil – og at ingen skal fortælle dem andet.

Det er dybt skræmmende, når man tænker over, at børn og unge i mistrivsel sidder alene med deres smartphones og lokkes ind i et univers, hvor 'en ven' fortæller, hvordan de konkret kan selvskade. Hvordan i alverden kan vi tillade det?