Experts willen niet dat AP toeziet op gebruik algoritmes

Vergrootglas op het keyboard van een laptop

Als het aan het kabinet ligt, dan wordt de Autoriteit Persoonsgegevens de nieuwe toezichthouder voor de inzet van algoritmes. Privacydeskundigen zien niets in dit plan. Zij pleiten ervoor om de controle onder te brengen bij de toezichthouders per sector.

Dat schrijft het Financieele Dagblad.

De gevaren van algoritmes

Vandaag de dag nemen algoritmes een prominente rol in. Ze helpen om de bestuurlijke besluitvorming efficiënter te laten verlopen en om fraude vroegtijdig op te sporen. Financiële instellingen gebruiken algoritmes om de kredietwaardigheid van klanten in kaart te brengen.

Maar als het mis gaat, dan gaat het ook goed mis. De Fraude Signalering Voorziening (FSV) is daar een voorbeeld van. Een algoritme spoorde potentiële fraudeurs op en pakte burgers keihard aan. Hiervoor maakte het algoritme gebruik van onrechtmatig verzamelde persoonsgegevens, zoals nationaliteit.

“Mensen werden vaak onterecht als fraudeur bestempeld, met vreselijke gevolgen”, zo zei AP-bestuursvoorzitter Aleid Wolfsen afgelopen april. “Stond je in FSV, dan kregen sommigen geen betalingsregeling of kwam je niet in aanmerking voor schuldsanering. De Belastingdienst heeft met FSV levens overhoop gehaald.”

De Belastingdienst kreeg een boete van 3,7 miljoen euro aan zijn broek. De fiscus besloot om niet in beroep te gaan tegen de boete.

Extra budget voor Autoriteit Persoonsgegevens

Algoritmes maken ons leven een stuk eenvoudiger. Maar om ervoor te zorgen dat het niet uit de hand loopt, is controle noodzakelijk. Het vierde kabinet Rutte beloofde in het coalitieakkoord ‘Omzien naar elkaar, vooruitkijken naar de toekomst’ om een algoritmewaakhond in het leven te roepen. De regering vond het een goed idee dat de Autoriteit Persoonsgegevens deze rol op zich zou nemen.

In het regeerakkoord beloofden de coalitiepartijen om hier geld voor vrij te maken. Dit jaar krijgt de privacywaakhond er 2 miljoen euro extra bij. In 2023 en 2024 wordt het budget van de Autoriteit Persoonsgegevens met respectievelijk 4 en 6 miljoen euro verhoogd. Vanaf 2025 krijgt de toezichthouder er structureel 8 miljoen euro bij.

Voor de rol van algoritmetoezichthouder zou de privacywaakhond dit jaar één miljoen euro krijgen. Vanaf 2026 loopt dat bedrag op naar 3,6 miljoen euro.

Prins: ‘Wat gaat de AP doen met algoritmes die niet over privacy gaan?’

Privacydeskundigen vinden het een slecht plan om de rol van algoritmewaakhond toe te kennen aan de Autoriteit Persoonsgegevens. Corien Prins, voorzitter van de Wetenschappelijke Raad voor het Regeringsbeleid, benadrukt dat algoritmes nu al volop worden gebruikt in de samenleving. “Heel veel van die toepassingen hebben niets met privacy te maken. De vraag is waarom het dan bij de AP thuishoort. Wat gaat de AP doen met algoritmes die niet over privacy gaan?”, zegt ze tegenover het Financieele Dagblad.

Volgens Prins is het verstandiger om het toezicht op algoritmes bij afzonderlijke toezichthouders te leggen, zoals De Nederlandsche Bank of de Nederlandse Zorgautoriteit. “Als een algoritme in de zorg wordt gebruikt is het onderdeel van een veel breder werk- of behandelproces. Het is onlogisch om het toezicht op het onderdeel waarbij algoritmes worden gebruikt bij de AP neer te leggen en de rest bij de sector zelf te laten. Dat gaat niet werken.”

Moerel: ‘Specifieke kennis van sectoren essentieel’

Lokke Moerel, hoogleraar ICT-recht en advocaat bij Morrison & Foerster, sluit zich bij Prins aan. “Het is een utopie dat één autoriteit toezicht kan houden op algoritmes in alle sectoren, al is het maar omdat deze nooit voldoende capaciteit zal hebben om dit goed te kunnen doen.” Ze wijst erop dat kennis van specifieke sectoren onmisbaar is om de rol van algoritmewaakhond op zich te nemen. Ze denkt dan ook niet dat de Autoriteit Persoonsgegevens de aangewezen instantie is om deze rol op zich te nemen.

Verder wijst ze erop dat de ontwikkeling van algoritmes nog in de spreekwoordelijke kinderschoenen staat. “Toezicht houden vergt dat regels duidelijk zijn. Als een toezichthouder zich met innovatie bemoeit en er ook zelf toezicht op houdt, ontstaat een ongewenste vermenging van petten.” Moerel ziet meer heil in de oprichting van een kenniscentrum om de ontwikkeling te begeleiden.

AP: ‘Geen bevoegdheden inleveren’

Het is niet de eerste keer dat privacydeskundigen vraagtekens zetten bij de Autoriteit Persoonsgegevens als algoritmewaakhond. Bart Schermer, hoogleraar Recht en Digitale Technologie aan de Universiteit Leiden, zei het onverstandig te vinden om de toezichthouder meer verantwoordelijkheden te geven. “Door de taak bij de AP onder te brengen, zit er gelijk het stempel van persoonsgegevens op. De AP heeft niet per se kaas gegeten van algoritmes voor de veiligheid van vliegtuigonderdelen of algoritmes in medische apparatuur.”

De AP wilde geen commentaar geven op de aanzwellende kritiek. De toezichthouder benadrukt dat bestaande partijen geen bevoegdheden hoeven in te leveren. “Het wordt een toevoeging, waarmee het kabinet wil voorkomen dat er iets tussen wal en schip valt”, aldus een woordvoerder.

Staatssecretaris voor Koninkrijksrelaties en Digitalisering Alexandra van Huffelen beloofde eerder deze maand om voor het einde van het tweede kwartaal een brief naar de Tweede Kamer te sturen over de inrichting van een algoritmewaakhond.

Techredacteur
Techliefhebber pur sang: Anton is gek op alles wat met technologie en internet te maken heeft. Cybersecurity, privacy en internetcensuur hebben dan ook zijn volle aandacht. Meer over Anton.
Plaats een reactie
Een reactie plaatsen