Digitalt Ansvar: Apple har taget et vigtigt skridt for at mindske overgrebsmateriale på nettet

For få dage siden lancerede Apple en række værktøjer, der skal være med til at bekæmpe digitalt overgrebsmateriale med børn.

Mest omdiskuteret har været deres udmelding om at implementere et såkaldt ‘perceptual hashing’-værktøj. Et værktøj, der med en ekstrem nøjagtighed kan scanne efter og identificere ulovligt billedmateriale.

Kort fortalt fungerer teknologien ved at sammenholde billeder, der uploades til iCloud, med en liste over billeder med overgrebsmateriale, og hvis teknologien registrerer et match mellem det uploadede billede og et billede på listen over det ulovlige materiale, underrettes myndighederne.

Teknologien kan altså udelukkende udpege indhold, som allerede er identificeret af børneorganisationer og myndigheder som overgrebsmateriale af børn, men kan til gengæld gøre det i meget stor skala.

Kritikere peger på overvågning og censur
Nogle kritikere mener dog, at Apple har taget et skridt, som kan blive en glidebane mod mere overvågning og censur.

Det virker svært at retfærdiggøre, at man ikke skal bruge en effektiv teknologi til at stoppe deling af overgrebsmateriale af børn på grund af en udokumenteret frygt for, hvad Apple kunne tillade i fremtiden. 

Christian Skettrup og Ask Hesby Krogh
Digital analytiker og næstformand, Digitalt Ansvar

Et af argumenterne er, at det er okay at fange overgrebsmateriale af børn, men hvad nu hvis teknologien bliver brugt til at finde folk i eksempelvis Rusland, der har billeder af regnbueflag på mobilen?

Glidebanen kræver i så fald, at Apple giver Rusland mulighed for at bruge teknologien sådan. Det er der intet i sol og måne, der peger på. Problemet er ikke teknologien. Problemet er naturligvis, hvordan man bruger den.

I dette tilfælde virker det svært at retfærdiggøre, at man ikke skal bruge en effektiv teknologi til at stoppe deling af overgrebsmateriale af børn på grund af en udokumenteret frygt for, hvad Apple kunne tillade i fremtiden. Apple er i øvrigt generelt kendt for at vægte privatlivet meget højt.

Derudover taler vi ikke om ny banebrydende teknologi. Flere virksomheder bruger allerede lignende scanningsteknologi. 

Mindre indgribende end en røntgenscanner i lufthavnen
For forståelsens skyld kan man sammenligne værktøjet med en røntgenscanner i en lufthavn, men hvor scanneren kun kan se, om passageren har forbudte genstande i kufferten. Scanneren registrerer eller genkender altså hverken barbermaskiner eller andre mere private ting, man måtte have i sin kuffert.

Apple-værktøjet er på den måde langt mindre indgribende end en kropsvisitation inden en koncert.

Der er ikke tale om et ”overvågningsværktøj”, der mistænkeliggør alle iCloud-brugere, som det ellers har været påstået af en række kritikere.

Der er tale om et sofistikeret og ikke-indgribende værktøj, der netop skal sikre privatlivet for de personer, der har fået det taget fra sig i en meget ung alder.

Kritikken af Apple fokuserer således på privatlivet. Altså, når Apple automatisk tjekker din mobil for allerede identificeret overgrebsmateriale af børn, så har du mindre privatliv.

Men hvad med de ofre for en forbrydelse – her børn – som udsættes for, at deres privatliv bliver krænket igen og igen, når billeder af dem bliver delt? Vi taler her om noget, som er klart ulovligt og en særdeles alvorlig krænkelse af deres privatliv, når et overgreb bliver delt og set af mange. At dine billeder bliver scannet for overgrebsmateriale af børn, må alt andet lige ses som en meget, meget lille indskrænkning af dit privatliv. 

Derfor kan privatlivskritikken virke en smule uproportional.

Scanner materialet inden kryptering
Vi kender allerede til flere store digitale tjenester, der med stor succes gør brug af lignende teknologier for at begrænse videredelingen af overgrebsmateriale med børn.

Vi har brug for virksomheder som Apple, der aktivt forsøger at ændre status quo.

Christian Skettrup og Ask Hesby Krogh
Digital analytiker og næstformand, Digitalt Ansvar

For eksempel bruger flere store sociale medier et Microsoft udviklet værktøj kaldet PhotoDNA, der langt hen ad vejen fungerer på samme måde som det værktøj, Apple har annonceret.

Den store forskel ligger i, at Apples scanninger foregår client-side, altså direkte på brugerens telefon, fremfor server-side, i skyen. På den måde kan Apple scanne efter ulovligt billedmateriale inden indholdet bliver krypteret.

En ændring som Facebook – med Zuckerberg i spidsen – har nægtet at indføre i forbindelse med Facebooks planer om at kryptere beskeder på Messenger. Et valg, der vil få den konsekvens, at personer der deler ulovligt materiale – såsom overgrebsmateriale med børn – ikke ville kunne blive fundet gennem algoritmisk indholdsmoderation, som i øjeblikket sørger for omkring 99% af Facebooks sletninger.

Apples udmeldinger kan derfor lægge pres på blandt andre Facebook til at gå i Apples fodspor.

Sætter ny standard i industrien
Apples udrulning er et skridt i den rigtige retning mod mere digital ansvarlighed.

Apple viser her vejen og sætter en ny ”industry standard”.

Vi ved, at teknologien findes. Nu er det bare et spørgsmål om at bruge den. Alt for længe har det været op til hver enkelt tech-virksomhed, hvorvidt de ville implementere løsninger, der proaktivt kan bekæmpe ulovligt materiale.

Vi har derfor brug for virksomheder som Apple, der aktivt forsøger at ændre status quo.

Indtil vi fra lovgivers side får etableret et krav om at bruge lignende teknologi, der kan fungere på tværs af alle de største digitale platforme – fra hosting- til applikationsniveau – så kan vi glæde os over, at Apple her har løftet barren og sikret, at vi nu kan færdes en smule mere trygt på nettet.