De Socialistische Partij (SP) vraagt zich af welke instanties gebruikmaken van ProKid+, een identificatiemodel om te voorspellen waar criminaliteit zich gaat voordoen. De partij wil weten of het datamodel voldoende rechtsbescherming biedt voor kinderen en hun gezinnen. De fractie vindt het namelijk onwenselijk dat jongeren op basis van het algoritme in Top400 zijn geplaatst.
Dat blijkt uit een reeks schriftelijke vragen van Renske Leijten, Peter Kwint en Michiel van Nispen (allen SP) aan minister Hanke Bruins Slot (Binnenlandse Zaken en Koninkrijksrelaties), minister Dilan Yeşilgöz-Zegerius (Justitie en Veiligheid) en staatssecretaris Maarten van Ooijen (Volksgezondheid, Welzijn en Sport).
BoF: ‘Top400 schendt fundamentele mensenrechten’
Aanleiding voor de vragen is het persbericht van Bits of Freedom over Top400. Dat is een programma dat bedacht is door de gemeente Amsterdam om te voorkomen dat jongeren in de criminaliteit belanden. Top400 maakt gebruik van ProKid+, een tool om te voorspellen waar in de toekomst mogelijk een crimineel vergrijp of misdrijf gaat plaatsvinden. Deze vorm van criminaliteitsbestrijding noemen we ook wel predictive policing.
De burgerrechtenbeweging stelt dat Top400 fundamentele grondrechten schendt, waaronder het recht op gelijke behandeling, het recht op privacy en het recht op effectieve rechtsbescherming. Verder betoogt de organisatie dat het algoritme van het programma “merkwaardige criteria” hanteert en een grote impact heeft op jongeren en hun gezinnen.
“De Top400 is het zoveelste voorbeeld waaruit blijkt dat de beslissingen, die vaak niet of slecht uitlegbaar zijn, een enorme impact hebben op mensen”, zo stelt Bits of Freedom. “Door het gebrek aan transparantie en controleerbaarheid is het voor betrokkenen heel moeilijk om op basis van argumenten tot een andere beslissing te komen, of om een juridische procedure te beginnen. Bovendien is uit vele onderzoeken gebleken dat gemarginaliseerde groepen veel vaker geraakt worden door dit soort algoritmen en dat het bestaande discriminatie versterkt.”
Bits of Freedom wil dan ook dan de gemeente Amsterdam stopt met Top400.
Geen strafbare feiten gepleegd, en toch terechtkomen in de Top400
De opmerkingen van de burgerrechtenbeweging heeft de SP ertoe doen besluiten om opheldering te vragen aan het kabinet. Renske Leijten, Peter Kwint en Michiel van Nispen willen weten of het klopt dat de politie voorspellende algoritmes gebruikt om een inschatting te maken van de kans dat jongeren geweldsdelicten plegen. De partij vraagt zich af welke instanties ProKid+ gebruiken en wie er toezicht houdt op het gebruik van dit algoritme. Tevens zijn ze geïnteresseerd in de criteria die het algoritme gebruikt.
Een ander issue waar de SP mee in haar maag zit, is dat de politie op basis van een voorspellend algoritme bestuursrechtelijke maatregelen neemt die grote gevolgen heeft voor kinderen en hun families. De partij vindt het onwenselijk dat jongeren op de lijst worden geplaatst zonder dat zij strafbare feiten hebben gepleegd. De fractie vraagt zich af wat de bewindslieden daarvan vinden.
“Vindt u dat er voldoende rechtsbescherming is voor de kinderen en hun families die op basis van het ProKid+ algoritme in een bestuurlijk programma worden geplaatst?”, zo wil de SP van het kabinet weten. Tevens informeert de partij of degenen die op de lijst voorkomen daarvan op de hoogte worden gesteld, en of ze inzicht krijgen op basis van welke criteria deze melding tot stand is gekomen.
SP bang dat Top400 wordt ingezet om kosten te besparen
Het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) constateerde in 2011 dat geen enkel politiekorps een goed functionerend ProKid+ programma had. De SP wil weten wat er met deze conclusie is gedaan en of er sindsdien andere onderzoeken zijn uitgevoerd naar het programma. De fractie vraagt specifiek of er een Privacy Impact Assessment (PIA) is gedaan om de bescherming van persoonsgegevens te onderzoeken. De partij is benieuwd of en met wie profielen en gegevens die door ProKid+ zijn gemaakt worden gedeeld.
Tot slot zijn de socialisten bang dat ProKid+ wordt gebruikt om kosten te besparen in de jeugdzorg. “Bent u het met ons eens dat het belang van het kind hierin voorop zou moeten staan en niet de economische effecten?”, zo vragen de Kamerleden aan de bewindslieden.
