Minister van Justitie en Veiligheid Dilan Yeşilgöz-Zegerius zegt zich niet te herkennen in het beeld dat de politie geen basisvereiste van zorgvuldigheid in acht zou hebben genomen bij het gebruik van het Criminaliteit Anticipatie Systeem (CAS). Het systeem ligt voortdurend onder de loep en de politie neemt alle aanbevelingen serieus. Het is dan ook niet nodig om het algoritme buiten werking te stellen.
Dat schrijft minister Yeşilgöz-Zegerius in reactie op de schriftelijke vragen van Songül Mutluer (PvdA) en Stephan van Baarle (DENK).
Algemene Rekenkamer kritisch over onderzochte algoritmes
De vragen van de Tweede Kamerleden gingen over een rapport dat de Algemene Rekenkamer afgelopen mei publiceerde. Onderzoekers concludeerden dat zes van de negen onderzochte algoritmes niet voldeden aan de basiseisen. Dat brengt allerlei risico’s met zich mee, waaronder een gebrekkige controle op prestaties en effecten, vooringenomenheid, een datalek of ongeautoriseerde toegang.
De onderzochte algoritmes worden onder meer door de politie gebruikt in het Criminaliteit Anticipatie Systeem (CAS). Dat is een systeem om criminaliteitspatronen in kaart te brengen. De politie probeert hiermee te voorspellen in welke buurten en wijken criminelen mogelijk hun slag gaan slaan en is voornamelijk gebaseerd op aangiftes van burgers.
Volgens de onderzoekers van de Algemene Rekenkamer is het onduidelijk wie er allemaal toegang hebben tot de data en het algoritme. “Ongeautoriseerde toegang tot systemen kan tot beschadiging of verlies van data leiden, met alle gevolgen voor burgers of bedrijven”, aldus de onderzoekers. Na het uitkomen van het rapport beloofde staatssecretaris van Koninkrijksrelaties en Digitalisering Alexandra van Huffelen om met de politie en andere uitvoeringsinstanties in gesprek te gaan.
Zo wil de minister vooringenomenheid wegnemen
Mutluer en Van Baarle vroegen aan minister Yeşilgöz-Zegerius of het CAS voldoende is gecontroleerd, of dat er gebruik is gemaakt van “discriminatoire gronden in de selectiecriteria”. De bewindsvrouw erkent dat er onvoldoende controle is geweest op mogelijke vooringenomenheid in het model. Dat wil niet zeggen dat er discriminerende selectiecriteria zijn gebruikt.
Om de schijn van discriminatie te voorkomen, heeft de minister aan de politie gevraagd om de procedures voor het vastleggen van controles aan te scherpen. Dataminimalisatie speelt daarbij een prominente rol. Een samenwerkingsverband met de Vrije Universiteit van Amsterdam moet iedere vorm van vooringenomenheid detecteren.
Algoritme wordt voortdurend onderzocht en verbeterd
Dat er bij de start van het CAS geen basisvereiste van zorgvuldigheid in acht zou zijn genomen, ontkent minister Yeşilgöz-Zegerius. “Het rapport van de Rekenkamer geeft de politie handvaten om het gebruik van het CAS verder te verbeteren, dat waarderen zowel de korpschef als ikzelf”, schrijft ze aan de Tweede Kamer.
De minister merkt op dat het algoritme dat het systeem gebruikt al in 2014 is ontwikkeld en sindsdien aan de lopende band wordt geëvalueerd en verbeterd. Naast de Algemene Rekenkamer heeft ook de Inspectie Justitie en Veiligheid naar het systeem gekeken. “De code onder de motorkap van CAS is helder. Aan de code is te zien dat de meeste best practices op het gebied van programmeren zijn toegepast. Er is geprogrammeerd in de taal ‘Python’, wat een toegankelijke taal is. De werking van het systeem is daarmee goed navolgbaar”, zo concludeerde de Inspectie vorig jaar.
De afgelopen jaar hebben studenten en promovendi meer dan tien studies gedaan naar het CAS. “In elk van die gevallen heeft de politie kennisgenomen van de eindverslagen en waar nodig het systeem verbeterd. Dit zal de politie ook doen met de aanbevelingen van de Rekenkamer”, zo belooft de minister van Justitie en Veiligheid.
CAS niet buiten werking gesteld
Het CAS gebruikt locatie-specifieke kenmerken en criminaliteitshistorie (aangiftes van burgers) om te voorspellen waar de kans het grootst is waar misdaden zullen worden gepleegd. Deze criteria zijn afgelopen jaar openbaar gemaakt. Afkomst en nationaliteit worden niet gebruikt om voorspellingen te doen, zo vertelt minister Yeşilgöz-Zegerius. Het is in haar ogen niet nodig om het algoritme buiten werking te stellen.
