Amnesty: ‘Overheid schond mensenrechten in toeslagenaffaire’

Belastingdienst kantoor

De toeslagenaffaire is een schending van de mensenrechten. Het algoritmemodel dat de Nederlandse overheid gebruikte leidde tot etnisch profileren. De maatregelen die de overheid heeft genomen om herhaling te voorkomen schieten tekort. Daardoor is de kans groot dat we in de toekomst opnieuw geconfronteerd worden met vergelijkbare zaken.

Dat schrijft Amnesty International in het maandagavond verschenen rapport  ‘Xenophobic machines – Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal’.

Ongelijke behandeling door de Belastingdienst

Om fraude met kinderopvangtoeslag op te sporen, maakte de overheid gebruik van algoritmes. In feite zijn algoritmes niets meer dan een reeks instructies die een computer uitvoert. Ze zorgen ervoor dat de besluitvorming sneller, effectiever en doelmatiger plaatsvindt. Verder zijn algoritmes in staat om patronen te herkennen, die mogelijk duiden op frauduleuze praktijken.

Het gevaar van algoritmes is echter dat ze leiden tot etnisch profileren. Dat is een vorm van discriminatie waarbij mensen onterecht worden aangewezen als fraudeur op basis van ras of etnische groep. In het geval van de toeslagenaffaire werden mensen met een niet-Nederlandse nationaliteit eerder aangemerkt als fraudeur. “De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst”, zo stelt Amnesty International op basis van eigen onderzoek.

‘Risicomodel is schending van de mensenrechten’

Het risicomodel dat de Belastingdienst gebruikte, werkte niet alleen etnisch profileren in de hand. Het model zorgde er tevens voor dat mensen uit ‘lagere sociale klassen’ extra hard geraakt werden. Volgens de mensenrechtenorganisatie is dat een voorbeeld van discriminatie op basis van sociale klasse. Etnisch profileren en discriminatie op basis van sociale klasse zijn beide in strijd met de mensenrechten.

“De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst”, aldus Amnesty. Door het risicomodel van de Belastingdienst hadden mensen zonder de Nederlandse nationaliteit een grotere kans om onterecht als fraudeur te worden bestempeld.

Amnesty pleit voor algoritmeregister

Volgens Amnesty International heeft de Nederlandse overheid maatregelen genomen om herhaling te voorkomen, onder meer door nationaliteit uit het risicomodel te halen. Echter, deze maatregelen schieten op alle fronten tekort. “Zo zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen, is het toezicht op algoritmes ondermaats, en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheimhouden”, zo stelt de mensenrechtenorganisatie.

Het laatste aspect is iets dat Amnesty International tegen de borst stuit. Ze is niet tegen het gebruik van algoritmes om besluitvorming te versnellen. De mensenrechtenorganisatie pleit echter voor een algoritmeregister: een register of database waarin overheidsorganen in alle openheid en transparantie vertellen dat ze algoritmes gebruiken en voor welke doeleinden.

Amnesty is bang dat we in de toekomst vaker zaken als de toeslagenaffaire zullen zien. De bescherming van mensenrechten moet beter. De belangenorganisatie roept overheden wereldwijd op een kader te formuleren dat mensenrechtenschendingen voorkomt. Ook moeten er monitoring- en toezichtmechanismen worden ingesteld, zodat onafhankelijk kan worden geconstateerd dat de gebruikte modellen niet discrimineren. Tot slot wil Amnesty dat alle slachtoffers van de toeslagenaffaire -en slachtoffers van het risicomodel in het algemeen- worden gecompenseerd.

AP: ‘Registratie nationaliteit is onrechtmatig en discriminerend’

Amnesty International is niet de eerste organisatie die de werkwijze van de Belastingdienst hekelt. Vorig jaar juli was de Autoriteit Persoonsgegevens kritisch over de registratie van de (dubbele) nationaliteit door de afdeling Toeslagen. De toezichthouder noemde de verwerking van nationaliteit ‘onrechtmatig, discriminerend en onbehoorlijk’ en sprak van een ‘zware overtreding van de privacywet’.

“Uit ons onderzoek is naar voren gekomen dat de afdeling Toeslagen van de Belastingdienst op meerdere manieren, op grote schaal en langdurig gegevens bewaarde en gebruikte op een manier die absoluut niet is toegestaan. Het hele systeem was op een discriminerende manier ingericht en werd ook als zodanig gebruikt. Welke concrete gevolgen dit heeft gehad voor individuele aanvragers, dat kunnen we in dit onderzoek niet zien. Wel was er permanent en structureel onnodige negatieve aandacht voor de nationaliteit en dubbele nationaliteit van de aanvragers”, zo schreef de privacywaakhond afgelopen jaar in zijn rapport over de toeslagenaffaire.

Techredacteur
Techliefhebber pur sang: Anton is gek op alles wat met technologie en internet te maken heeft. Cybersecurity, privacy en internetcensuur hebben dan ook zijn volle aandacht. Meer over Anton.
Plaats een reactie
Een reactie plaatsen