De cijfers van online misbruik zijn alarmerend. Van één op de vijf kinderen wereldwijd werden seksueel expliciete beelden gedeeld zonder hun toestemming. Alleen al in de Filipijnen werden in 2022 bijna een half miljoen kinderen misbruikt voor livestreams, online foto’s en video’s. Ondanks deze cijfers blijft grootschalige verontwaardiging uit, merkt Stevenson. “Pijnlijk genoeg zijn we gewend geraakt aan grote cijfers.”
Daarom pleit Stevenson ervoor om de verhalen áchter die cijfers te vertellen. “Besef dat achter deze grote aantallen individuele kinderen schuilgaan,” benadrukt hij. “Een probleem is dat veel mensen denken dat dit alleen kinderen ver weg overkomt. Dit overkomt echter kinderen in jouw gemeenschap. Er zijn kinderen die in jouw straat wonen en een naaktfoto van zichzelf delen omdat ze denken dat ze een relatie hebben met iemand, maar intussen gechanteerd worden. Ik heb mensen ontmoet die hun kinderen hebben verloren aan zelfmoord nadat ze zijn gechanteerd met naaktbeelden. Dit probleem stoppen is je buren beschermen. Het is ook het beschermen van een kind op de Filippijnen, ja, maar het is het beschermen van jouw kinderen en kinderen in jouw straat.”
Met zijn bedrijf ontwerpt hij tools waarmee snel materiaal van seksueel misbruik kan worden gevonden. Hiermee helpt hij bedrijven om illegaal beeldmateriaal op te sporen en te verwijderen. Ook werkt hij samen met overheden en politie, bijvoorbeeld om beelden van misbruikslachtoffers op te sporen.
De impact van online misbruik is gigantisch, dat ondervindt Stevenson dagelijks. “Ik ontmoet vrouwen van in de dertig die zo’n twintig jaar geleden verkracht zijn en van wie misbruikbeelden nog steeds circuleren op het internet. Nog steeds worden zij benaderd door zieke mensen op het internet die zeggen: ‘Ik zal je misbruik op je social media profielen zetten, tenzij je me nieuwe naaktfoto's stuurt.’”
“Eén van de zaken waar we met de politie in de VS aan hebben gewerkt, was een 11-jarig meisje dat door haar ouders was verkocht, over de grens naar de VS was gesmokkeld en naar allerlei plekken werd gebracht om door groepen mannen misbruik te worden. Gelukkig kon zij worden gered, dankzij de acties van internetplatforms die inlichtingen en wetshandhaving mogelijk maakten. Dit soort verhalen zitten er achter die cijfers. Meisjes worden slachtoffer, maar net zo goed jongens. Bij chantage met AI-gegenereerde beelden zijn het jongens die veel kwetsbaarder zijn.”
Omstreden
Kinderen moeten beschermd worden tegen deze gruwelijke trauma’s, daar is iedereen het over eens. De vraag is: Hoe doe je dat? Daarover lopen de visies nogal uiteen.
“Het gesprek over online veiligheid is niet makkelijk,” merkt Stevenson. “Dat heeft te maken met de lobby van zogenaamde ‘privacy-absolutisten’, mensen die geloven in een absoluut recht op privacy in de online wereld. In geen enkele andere context bestaat een absoluut recht op privacy. Je hebt recht op privacy in je eigen huis. Maar in bijna elk land ter wereld mag de politie je huis binnenkomen als ze denken dat er een misdaad gaande is. Toch zijn er mensen die vinden dat er online een absoluut recht op privacy zou moeten zijn en zij vinden dat elke bedreiging van de privacy, hoe verwaarloosbaar ook, moet worden aangepakt. Hun stemmen hoor je het hardst.”
En hoe verklaart u dat?
“Mensen willen geen genuanceerd gesprek. Mensen willen een soundbite. Dat is de richting waarin de politiek is gegaan, ook als het gaat om een complex thema als migratie. Helaas zijn sommige kwesties gewoon te ingewikkeld voor soundbites. Het is heel gemakkelijk om een soundbite te produceren die zegt: ‘Dit is een bedreiging voor je privacy’. En ja, er zit genoeg waarheid in, want bijna alles is een bedreiging voor je privacy. Wat je dan moet doen is een genuanceerder gesprek voeren. Oké, wat bedoelen we met een bedreiging van je privacy? Is dit een echte bedreiging voor je privacy, of is deze schending proportioneel? Denk aan het gebruik van metaaldetectoren op vliegvelden. Dat neemt een stuk van je privacy weg. Maar metaaldetectoren detecteren alleen metaal. En als zo’n detector afgaat, wordt je niet meteen gearresteerd of in de gevangenis gegooid, dan volgt er een check van een agent. Het is dus een proportionele schending van de privacy vergeleken met het alternatief, namelijk dat vliegtuigen gekaapt worden en uit de lucht komen vallen.”
Snapt u de zorgen over privacy wel?
“Zeker. In de dictaturen van deze wereld zie je hoe desastreus het is als mensen hun privacy kwijt zijn. Eerder zijn binnen de EU gesprekken over eisen dat de EU een algemene achterdeur naar encryptie creëert om kindermisbruik en dergelijks op te sporen. Dat lijkt me een heel gevaarlijk pad om in te slaan. Precies daarom ben ik begonnen en met het maken van technologie die bekend misbruikmateriaal kan blokkeren zonder de privacy en veiligheid fundamenteel te ondermijnen.”
Welke technische oplossingen zijn er om online kindermisbruik tegen te gaan die niet omstreden zijn?
“Tools waarbij misbruik wordt gerapporteerd aan de politie, zorgen voor veel weerstand. Ik merk dat er veel minder weerstand is als illegaal materiaal dankzij tools wordt geblokkeerd, zonder dat het gerapporteerd wordt aan wetshandhavers.
Stel nou dat je techbedrijven wettelijk verplicht om bestaand misbruikmateriaal te blokkeren. Ik verwacht dat zo’n wet een enorm positief effect heeft op de circulatie van bekend kindermisbruikmateriaal. Mensen zullen merken dat gewone afbeeldingen niet geblokkeerd worden. Ze zullen zeggen: ‘Mijn foto’s worden niet geblokkeerd. Ik loop door de metaaldetector zonder elke keer gestopt te worden.’ Het is bij deze tools niet nodig dat een menselijke moderator beelden beoordeelt. Het is niet ingewikkeld. Het blokkeren gaat automatisch. Met extreem weinig vals-positieven – zo weinig dat het geen praktische impact zal hebben.
Veel schade ontstaat doordat mensen het normaal vinden om misbruik van tieners of kinderen te zien. Ze denken dat het normaal is, bijvoorbeeld omdat ze het in een berichtenapp krijgen doorgestuurd. Ze vragen zich af: ik krijg dit gewoon op mijn mobiel, hoe erg kan het zijn? Door dat normalisatieproces is de stap naar extremere overtredingen sneller gemaakt. Het eenvoudigweg blokkeren van de overdracht van bekend misbruikmateriaal zou daar een enorme impact op hebben, zonder dat dit gevolgen heeft voor vrije meningsuiting of mensenrechten.
Een volgende stap kan zijn dat je tools gebruikt die online misbruik opsporen en waarbij rapportage plaatsvindt. Je wilt uiteindelijk daders stoppen. Maar dat moet heel zorgvuldig gebeuren en dat heeft tijd nodig. We moeten ervoor zorgen dat die rapportage waarborgen bevat, zodat als er fouten worden gemaakt, de privacy zo min mogelijk wordt geschonden.”
Cyacomb richt zich op het blokkeren van bestaand kindermisbruikmateriaal. Wat vindt u van tools om nieuw misbruik herkennen, waarbij gebruik gemaakt wordt van kunstmatige intelligentie?
“Ja, er zijn telefoons die op die manier veilig ontworpen zijn. Ik denk dat we die telefoons absoluut moeten geven aan kinderen. Zo voorkom je dat ze per ongeluk of op een andere manier intieme beelden van zichzelf delen of intieme beelden ontvangen die hun ontwikkeling beschadigen. Ook deze techniek is nodig in de strijd tegen online misbruik, ze lossen verschillende stukjes van dezelfde puzzel op.”
De cijfers zijn enorm en je hoort enorm heftige verhalen over online kindermisbruik. Voelt u zich weleens machteloos in de strijd tegen dit onrecht?
“Dat gevoel kan me inderdaad bekruipen. Maar altijd als ik me zo voel, moet ik denken aan een vergelijking van Julie Inman Grant*, de Australische eSafety Commissioner. Zij vergelijkt de strijd voor veilig internet met de strijd voor verkeersveiligheid.
Als je in Amerika in de jaren zestig een auto-ongeluk kreeg, ging je waarschijnlijk dood. Als je iets raakte, vloog je door je voorruit naar buiten, en het ongeluk werd je niet fataal, maar de landing wel. Of de stuurkolom klapte in en ging door je borstkas. Als je van achteren werd aangereden, brak de brandstoftank en stierf je aan een brand in je auto. En in die tijd zeiden de autofabrikanten: ‘De auto is geweldig. Kijk naar de mobiliteit. Kijk naar de vakanties. De auto geeft ons zoveel vrijheid. En die auto-ongelukken? Die zullen er altijd zijn.’
Toch ontdekten wetenschappers dat er bij sommige auto’s veel vaker dodelijke ongelukken voorkwamen dan bij andere. Die waren veiliger ontworpen. Dus mensen zeiden: Wacht even, waarom maken we niet alle auto’s net zo veilig als de veiligste auto’s? Zo werden veiligheidsgordels verplicht, wat voor veel protest zorgde bij autofabrikanten: ‘Jullie zullen innovaties in de kiem smoren,’ riepen ze. ‘Auto’s zullen te duur worden. Consumenten hebben het recht om te kiezen wat ze kopen. We moeten ze niet dwingen om veiligheidsgordels toe te voegen. We zullen geen innovatieve ontwerpen meer kunnen maken. Mensen zullen zich geen auto’s meer kunnen veroorloven.’
Allemaal dezelfde argumenten die we tegenwoordig horen van techbedrijven over maatregelen voor online veiligheid. Ondanks alle protesten werden veiligheidsgordels verplicht. En raad eens? Het aantal verkeersdoden daalde enorm.
De stelling van Julie Inman Grant is dat we op dit moment vlak voor het ‘gordelmoment’ zitten voor online veiligheid. Het internet en alle sociale platforms zijn prachtige uitvindingen. Ze hebben enorm veel goed gedaan door mensen met elkaar in contact te brengen. Maar ze doen ook afschuwelijke dingen, en daar komen we nog steeds achter. Maar net zoals de eerste stap het aanbrengen van veiligheidsgordels was, is de eerste stap het blokkeren van bekend kindermisbruik overal waar het voorkomt. De politici zijn nu aan zet. We hebben moedige politici nodig die bereid zijn deze plaag aan te pakken.”
Wat vindt u van het werk van IJM?
“Ik denk dat IJM op dit moment geweldig werk doet door een brug te slaan tussen mensen zoals ik, die technologen zijn en een soort domeinexperts, en Europese regeringen en het Europees parlement. IJM brengt technologen en beleidsmakers samen, met een diep begrip van het probleem en een sterke motivatie om dat op te lossen. Dat is waarom ik graag met IJM samenwerk, op welke manier dan ook. We vechten tegen hetzelfde onrecht en vormen verschillende stukjes van de oplossing. We kunnen geweldige technologie tegen kindermisbruik ontwikkelen, maar zonder beleidsbeïnvloeding blijven deze tools op de plank liggen. Dat is waar IJM om de hoek komt kijken als brug en als verbinder.”
* Julie Inman Grant is de Australische eSafety Commissioner, verantwoordelijk voor het leiden van 's werelds eerste overheidsinstantie die zich inzet voor de online veiligheid van burgers.