Techbedrijven moeten gebruikers actief monitoren

Man zit achter zijn computer en houdt meerdere schermen met data in de gaten

Om online kindermisbruik effectief aan te pakken, zijn harde maatregelen nodig. In een nieuw wetsvoorstel van de Europese Commissie staat dat providers en techbedrijven gebruikers actief in de gaten moeten houden. Het is aan hen om beeld- en videmateriaal over seksueel misbruik van kinderen op te sporen, te melden en verwijderen.

Dat staat in het wetsvoorstel dat de Europese Commissie vanmiddag heeft gepresenteerd.

Huidige systeem te vrijblijvend en ineffectief

Het dagelijks bestuur van de EU vindt dat het huidige systeem te vrijblijvend en ontoereikend is om de seksuele exploitatie van kinderen op internet tegen te gaan. Vorig jaar ontving het National Centre for Missing and Exploited Children (NCMEC) 29 miljoen meldingen van kindermisbruik. Wereldwijd ging het om ruim 85 miljoen foto’s en video’s. Door de coronapandemie nam de verspreiding van kinderporno afgelopen jaar toe met 64 procent.

Deze vrijblijvendheid levert te weinig op. Daarom komt de Europese Commissie met wetsvoorstel om de verspreiding van kinderporno tegen te gaan. Naar eigen zeggen bevat deze “duidelijke regels, met stevige voorwaarden en waarborgen”.

Europese Commissie wil algemene monitoringsplicht

Eén van de onderdelen van het pakket is dat technologiebedrijven en providers actief hun klanten moeten monitoren. Zij moeten een inschatting maken of hun diensten gebruikt worden om kinderpornografisch materiaal te verspreiden. Hoe ze dat moeten doen, laat de Commissie aan de bedrijven zelf over. “Aanbieder zullen risicobeperkende maatregelen moeten voorstellen”, zo staat er in het wetsvoorstel.

Privacyexperts maken zich daar grote zorgen om. Bits of Freedom is bang dat de Europese Commissie een einde wil maken aan end-to-end encryptie. Door client side device scanning -waarbij techbedrijven in feite de ingebouwde beveiligingsmaatregelen omzeilen- kunnen bedrijven als Meta, Google en Apple actief meekijken en -lezen. Om over privacyinbreuk nog maar te zwijgen. De belangenorganisatie ziet dan ook absoluut niets in een algemene monitoringsplicht.

Ronald Cramer, hoogleraar cryptologie, is bang dat de Europese Commissie “een glijdende schaal” introduceert, waarbij continue monitoring op een gegeven moment genormaliseerd wordt. “Het gaat niet alleen om de vraag of de voorgestelde technologisch aanpak aanzienlijk bijdraagt aan de oplossing, maar ook om de schade van die aanpak”, zo zei hij tegen de Volkskrant.

Dit staat verder in het wetsvoorstel

Verder staat er in het wetsvoorstel dat lidstaten een nationale autoriteit moeten aanwijzen die toeziet op risicobeoordelingen van mogelijk kindermisbruik. Deze toezichthouder kan een verwijderingsbevel uitvaardigen om beeld- en videomateriaal te wissen. Voor hostingbedrijven komt er een meldingsplicht als zij online seksueel kindermisbruik ontdekken. App stores moeten maatregelen treffen om ervoor te zorgen dat kinderen geen apps kunnen downloaden met een hoog risico op grooming.

Tevens pleit de Europese Commissie voor sterke waarborgen. Zo mogen detectietechnologieën alleen gebruikt worden om kindermisbruik op te sporen. Hoe bedrijven dat moeten organiseren, laat de Commissie aan hen. “Aanbieders zullen technologieën moeten inzetten die volgens de stand van de techniek in de sector de minste inbreuk maken op de privacy en die de foutmarge van fout-positieven zoveel mogelijk beperken”, zo staat er in het wetsvoorstel.

Tot slot komt er een nieuw en onafhankelijk EU-centrum voor seksueel misbruik van kinderen. Deze instantie gaat als kenniscentrum voor EU-lidstaten fungeren. Het centrum neemt meldingen van kindermisbruik in ontvangst en verstrekt adviezen aan nationale toezichthouders en rechtshandhavingsinstanties. Tevens helpt de instantie slachtoffers om het beeldmateriaal van internet te verwijderen.

‘Het is onze plicht om kinderen te beschermen’

“De enorme hoeveelheid materiaal over seksueel misbruik van kinderen die op het web circuleert, is verbijsterend. En het is beschamend dat Europa het wereldwijde centrum is voor het grootste deel van dit materiaal”, zo zegt Margaritis Schinas, vicevoorzitter van de Europese Commissie over het wetsvoorstel.

Ze vervolgt haar verhaal. “De regels die wij voorstellen, bevatten duidelijke, doelgerichte en evenredige verplichtingen voor dienstverleners om illegale inhoud over seksueel misbruik van kinderen op te sporen en te verwijderen. Wat de diensten mogen doen, zal zeer strikt worden afgebakend met sterke waarborgen. We hebben het alleen over een programma dat scant op markers van illegale inhoud op dezelfde manier als cyberveiligheidsprogramma’s voortdurend controleren op inbreuken op de beveiliging.”

Ylva Johansson, Eurocommissaris voor Binnenlandse Zaken, sluit zich bij haar collega aan. “Als volwassenen is het onze plicht kinderen te beschermen. Seksueel misbruik van kinderen is een reëel en toenemend gevaar: niet alleen neemt het aantal meldingen toe, maar deze meldingen betreffen tegenwoordig ook jongere kinderen. Het opsporen, melden en verwijderen van seksueel misbruik van kinderen online is ook dringend nodig om te voorkomen dat beelden en video’s van seksueel misbruik van kinderen worden gedeeld, waardoor de slachtoffers vaak jaren nadat het seksueel misbruik is beëindigd nog steeds worden getraumatiseerd.”

Vervolg van het wetsvoorstel

Voordat het wetsvoorstel in werking treedt, moeten het Europees Parlement en de lidstaten zich er nog over uitspreken. Naar verwachting gebeurt dat later dit jaar.

Techredacteur
Techliefhebber pur sang: Anton is gek op alles wat met technologie en internet te maken heeft. Cybersecurity, privacy en internetcensuur hebben dan ook zijn volle aandacht. Meer over Anton.
Plaats een reactie
Een reactie plaatsen