Bits of Freedom wil dat de gemeente Amsterdam stopt met Top400. De burgerrechtenorganisatie vindt dat het initiatief jongeren discrimineert en de mensenrechten schendt, waaronder het recht op privacy. Verder is de instantie bang dat minderheidsgroeperingen onevenredig vaak worden geraakt door de algoritmen die de politie hiervoor gebruikt.
Dat schrijft de burgerrechtenbeweging in een persverklaring.
Dit moet je weten over Top400
Top400 is een programma dat in het leven is geroepen door de gemeente Amsterdam om te voorkomen dat jongeren en jongvolwassenen in de criminaliteit terecht komen. Volgens Bits of Freedom werd Top400 gepresenteerd als een programma waarin de zorg- en beheersingsaanpak centraal stond, en allerlei publieke instellingen betrokken waren.
In praktijk lijkt het er meer op dat jongeren al worden gecriminaliseerd voordat ze iets verkeerd hebben gedaan, zo blijkt uit onderzoek van de Public Interest Litigation Project (PILP). Top400 selecteert risicojongeren namelijk op allerlei criteria. Dan moet je denken aan in aanraking zijn geweest met de politie, afwezigheid op school en betrokkenheid bij huiselijk geweld. De onderzoekers van PILP noemen dit “merkwaardige criteria”, omdat jongeren hier niet altijd iets aan kunnen doen.
Het goede nieuws is dat uit stukken van de gemeente Amsterdam en de Amsterdamse politie blijkt dat jongeren niet zijn geselecteerd op basis van etniciteit of nationaliteit. Jongeren met een migratieachtergrond en een laag inkomen werden wel vaker aangemerkt. “Daaruit blijkt dat er een overrepresentatie is van jongeren met een Surinaamse en Marokkaanse achtergrond”, zo merkt PILP op.
Top400 heeft enorme impact op gezinnen
Top400 maakt gebruikt van ProKid+, een datamodel om jongeren te selecteren. Het is een identificatietool die aan de hand van een algoritme probeert te voorspellen waar in de toekomst criminaliteit zou kunnen plaatsvinden. Dit wordt ook wel predictive policing genoemd. In het geval van Top400 wordt er gekeken naar de kans dat specifieke jongeren zich mogelijk schuldig maken aan een crimineel vergrijp of misdrijf.
Bij het inzetten van het algoritme is niet goed uitgelegd waarom iemand precies is geselecteerd. Bovendien hield de politie informatie over het systeem en waaruit zou blijken dat iemand crimineel gedrag zou vertonen voor zich. En dat terwijl de impact enorm kan zijn. Jongeren die door Top400 worden aangewezen, krijgen twee jaar lang een regisseur toegewezen. Deze periode kan daarna opnieuw verlengd worden.
Ouders van de geselecteerde jongeren vertelden dat Top400 een stigmatiserend effect heeft op het gezin. Ook ervaarden ze onmacht vanwege de ondoorzichtigheid van het algoritme en het systeem.
BoF: ‘Stop met Top400’
Samen met PILP, Mamamess, Control Alt Delete en Fair Trails roept Bits of Freedom de gemeente Amsterdam op om te stoppen met Top400. De organisaties stellen dat de politie en opsporingsautoriteiten niet betrokken mogen worden bij sociale dienstverlening en het leveren van zorg. Mensen hebben recht op gelijke behandeling, privacy en effectieve rechtsbescherming. Zolang de gemeente deze grondrechten niet kan garanderen, moet ze de stekker uit het initiatief trekken. Verder moet de gemeente Amsterdam meer oog hebben voor de ervaringen van geselecteerde jongeren en hun ouders.
Bits of Freedom zegt zich te blijven inzetten voor een verbod op predictive policing. “De Top400 is het zoveelste voorbeeld waaruit blijkt dat de beslissingen, die vaak niet of slecht uitlegbaar zijn, een enorme impact hebben op mensen. Door het gebrek aan transparantie en controleerbaarheid is het voor betrokkenen heel moeilijk om op basis van argumenten tot een andere beslissing te komen, of om een juridische procedure te beginnen. Bovendien is uit vele onderzoeken gebleken dat gemarginaliseerde groepen veel vaker geraakt worden door dit soort algoritmen en dat het bestaande discriminatie versterkt”, schrijft beleidsadviseur Nadia Benaissa.
Ook Tweede Kamer bezorgd over predictive policing
Bits of Freedom is niet de enige die zich zorgen maakt om de negatieve uitwassen van predictive policing. In mei liet de Tweede Kamer zich kritisch uit over de mogelijke vooringenomenheid van algoritmes die de politie gebruikt. Songül Mutluer (PvdA) en Stephan van Baarle (DENK) vroegen zich af of het Criminaliteit Anticipatie Systeem (CAS) met discriminerende selectiecriteria werkt. Ze vroegen zich op basis van welke criteria het algoritme voorspellingen doet. Zolang er geen duidelijkheid hierover was en vooringenomenheid niet uitgesloten kon worden, stelden Mutluer en Van Baarle voor om CAS tijdelijk stop te zetten.
Minister voor Justitie en Veiligheid Dilan Yeşilgöz-Zegerius antwoordde dat ze niet van plan was om het algoritme buiten werking te stellen. De bewindsvrouw benadrukte dat het systeem voortdurend wordt gemonitord en de politie alle aanbevelingen serieus neemt. De selectiecriteria zijn bovendien openbaar. Afkomst en nationaliteit zijn geen criteria waarop het CAS misdaadvoorspellingen doet.
