Kritiek op wetsvoorstel Europese Commissie zwelt aan

EU-vlag wappert bij de ingang van het gebouw van de Europese Commissie

Steeds meer belangenorganisaties en privacyexperts uiten hun zorgen over het wetsvoorstel van de Europese Commissie om online kindermisbruik aan te pakken. Ze vrezen dat detectietechnologie nog niet in staat is om beeldmateriaal van seksuele exploitatie van kinderen op te sporen. Of ze zijn bang dat het wetsvoorstel mensenrechten ondermijnt.

Dat blijkt uit reacties van privacydeskundigen in verschillende media.

Europese Commissie presenteert wetsvoorstel

Woensdag presenteerde Eurocommissaris voor Binnenlandse Zaken Ylva Johansson een wetsvoorstel om kinderen online te beschermen tegen seksueel misbruik. In het voorstel staat dat technologiebedrijven en providers hun klanten actief moeten monitoren om zo de verspreiding van kinderpornografisch beeld- en videomateriaal tegen te gaan. Hoe techbedrijven dat doen, laat Johansson aan de bedrijven zelf over. Voorwaarde is ze technologieën gebruiken “die de minste inbreuk maken op de privacy”.

Lidstaten krijgen de taak om een nationale toezichthouder aan te wijzen die risicobeoordelingen van mogelijk kindermisbruik bekijkt. Hostingbedrijven krijgen een meldplicht als ze kinderporno op hun platformen tegenkomen. Google en Apple moeten er alles aan doen om ervoor te zorgen dat kinderen geen apps met een hoog risico op grooming kunnen downloaden. Tot slot roept de Europese Commissie een onafhankelijk kenniscentrum on het leven. Deze gaat adviezen verstrekken aan lidstaten, maar ook slachtoffers helpen om beeldmateriaal van internet te verwijderen.

“Als volwassenen is het onze plicht kinderen te beschermen. Seksueel misbruik van kinderen is een reëel en toenemend gevaar: niet alleen neemt het aantal meldingen toe, maar deze meldingen betreffen tegenwoordig ook jongere kinderen. Het opsporen, melden en verwijderen van seksueel misbruik van kinderen online is ook dringend nodig om te voorkomen dat beelden en video’s van seksueel misbruik van kinderen worden gedeeld, waardoor de slachtoffers vaak jaren nadat het seksueel misbruik is beëindigd nog steeds worden getraumatiseerd”, zei Eurocommissaris Johansson bij de presentatie van het wetsvoorstel.

Kinderen experimenteren

Het wetsvoorstel van de Europese Commissie om online kindermisbruik aan te pakken, klinkt misschien nobel. De wijze waarop het dagelijks bestuur van de EU dat aanpakt baart privacyexperts zorgen. Arda Gerkens, directeur van het Expertisebureau Online Kindermisbruik (EOKM) vindt dat de Europese Commissie geen oog heeft voor de gevolgen van de wet. “Kinderen experimenteren nou eenmaal seksueel online. Ze sturen elkaar foto’s. Je moet niet denken dat dat niet gebeurt: het hoort bij opgroeien. Daar hoort een veilige omgeving bij”, vertelt ze tegenover RTL Nieuws.

Gerkens wijst er tevens op dat leden van de LHBTI+ gemeenschap in landen als Polen en Hongarije wellicht extra risico lopen. Het systeem dat de Europese Commissie voor ogen heeft, kan in theorie gebruikt worden om te kijken hoe er over homoseksualiteit wordt gedacht en gesproken.

Tot slot is ze bang dat techbedrijven berichten van gebruikers gaat scannen om grooming tegen te gaan. “De vraag is dan wat voor tekst ze gaan scannen en wat daarmee gaat gebeuren?”, zegt ze tegenover de NOS. Daarentegen is de directeur van het EOKM blij dat er een Europees expertisecentrum komt.

Detectietechnologie heeft zijn beperkingen

Rejo Zenger, beleidsadviseur bij Bits of Freedom, zegt dat de technologie nog niet zover is om afbeeldingen van kindermisbruik te herkennen. “Stel dat ik een foto maak van mijn jonge dochter die in bad het mooiste schuimkasteel ooit heeft gemaakt. Ik wil die graag naar oma sturen, maar dan loop ik het risico dat een algoritme dit opvat als kinderporno. Het is een foto waar verder niemand wat mee te maken heeft en niks mee aan de hand is, maar ik loop wel het risico dat een automatisch systeem mij rapporteert”, zo zegt hij tegenover RTL Nieuws.

Volgens Zenger is het een kwestie van tijd totdat het fout gaat. Technologie is in zijn ogen nog niet in staat om chatgesprekken te analyseren om te zien of er sprake is van kindermisbruik of niet. “Technologie zou dan teksten moeten analyseren om te achterhalen of een oudere persoon probeert een kind te verleiden en misleiden. Dat is super moeilijk. Dat betekent dat het sowieso een keer fout gaat. Hoe effectief is het dan? En levert dat niet alleen maar meer werk op voor de zedenpolitie?”

‘Een infrastructuur die past bij een totalitaire staat’

Hoogleraar cryptologie aan de Universiteit Leiden Roland Cramer is bang dat techbedrijven als WhatsApp zogeheten backdoors gaan inbouwen in hun applicaties. Alleen zo is het mogelijk om berichten die met end-to-end encryptie beveiligd zijn te scannen. Cramer is bang voor een glijdende schaal. “Dit wordt nu ingezet tegen kinderporno, maar de techniek kan natuurlijk veel meer. Dus waar eindigt dit?”, vraagt hij zich hardop af.

Dat uitgerekend de Europese Commissie met zo’n verregaand wetsvoorstel komt, vindt Cramer vreemd. “Het gaat hier om een infrastructuur die past bij een totalitaire staat, niet bij de EU. Ze schieten door met wat ze hier eisen. Al met al komt dit over als een flink ondoordacht wetsvoorstel”, vertelt hij aan de NOS.

WhatsApp-topman pleit voor meer samenwerking

Ook op Twitter zijn kritische geluiden over het wetsvoorstel te horen. Will Cathcart, de CEO van WhatsApp, zegt “ongelooflijk teleurgesteld” te zijn dat de Europese Commissie niet in staat is om end-to-end encryptie te waarborgen. De monitoringsplicht noemt hij “inconsistent” om onze privacy te beschermen.

In zijn ogen zet de Europese Commissie met zijn plannen een eerste stap om een surveillancesysteem te bouwen. “Wetgevers moeten samenwerken met deskundigen die verstand hebben van internetbeveiliging, zodat niet iedereen wordt benadeeld, en zich richten op manieren om kinderen te beschermen en tegelijkertijd de privacy op internet te bevorderen”, aldus Cathcart.

Het Center for Democracy & Technology benadrukt dat het wetsvoorstel één “fundamentele fout” heeft: het draait end-to-end encryptie de nek om, voor iedereen.

Techredacteur
Techliefhebber pur sang: Anton is gek op alles wat met technologie en internet te maken heeft. Cybersecurity, privacy en internetcensuur hebben dan ook zijn volle aandacht. Meer over Anton.
Plaats een reactie
Een reactie plaatsen