D66 wil dat er een verbod komt op het gebruik van slimme algoritmes en gezichtsherkenning totdat hier duidelijke regels voor zijn opgesteld. Volgens D66-Kamerlid Kees Verhoeven moet er “een maatschappelijk debat plaatsvinden over dit soort systemen”. Dit debat is tot nu toe uitgebleven terwijl de overheid al wel gebruik maakt van dergelijke methodes. Een voorbeeld van een methode die al door de overheid wordt ingezet is SyRi.
Dat vertelt Verhoeven tegenover de NOS.
Wat is SyRi?
SyRi staat voor Systeem Risico-indicatie. Het systeem werd door de overheid ontwikkeld om fraude met bijvoorbeeld uitkeringen en belastingen gemakkelijker te kunnen opsporen. Het is als sinds 2014 in de wet opgenomen dat dit systeem door verschillende overheidsinstellingen gebruikt mag worden. Toentertijd gaf de Raad van State al een negatief advies, omdat SyRi wel erg veel gegevens mag gebruiken en op deze manier inbreuk maakt op de privacy. Toch bleef kritiek vanuit de politiek verder uit.
SyRi rechtszaak
Eind oktober vond er een rechtszaak plaats tegen SyRi. De coalitie die de aanklacht deed noemt SyRi een bedreiging voor de rechtsstaat, omdat de geheime algoritmen een enorme inbreuk op de privacy van burgers met zich meebrengt. Ook wordt het systeem toegepast met een soort sleepnetmethode, waardoor veel onschuldige burgers ook geanalyseerd worden omdat ze bijvoorbeeld nu eenmaal in een bepaalde buurt wonen. Ook zouden burgers schuldig zijn totdat zij het tegendeel bewijzen. In een rechtsstaat is het normaal gesproken precies andersom (onschuldig tot het tegendeel is bewezen).
In januari kunnen we pas een uitspraak in deze zaak verwachten. D66-Kamerlid Kees Verhoeven wil tot die tijd niet met lede ogen toekijken. “De zorgen zijn breder dan alleen SyRi. Afgelopen zomer kwam nog naar buiten dat veel overheden op eigen houtje slimme algoritmes blijken te gebruiken.” Hij doelt op berichtgeving van de NOS waaruit bleek dat overheden voorspellende algoritmes gebruiken om fraude en criminaliteit op te sporen. Dezelfde technologie werd ook gebruikt om te voorspellen hoe groot de kans is dat een leerling voortijdig zijn school verlaat, en om te voorspellen welke zorg iemand straks nodig heeft.
Het politieke debat
Vooralsnog bleef een politiek debat over het inzetten van kunstmatige intelligentie (AI) door de regering uit. In september van dit jaar pleitten CDA en D66 voor een onafhankelijke waakhond die de burger zou moeten beschermen tegen dergelijke algoritmes. En nu geeft D66 aan dat er een stop moet komen op deze slimme algoritmes totdat hierover meer duidelijkheid bestaat in de wet.
Een andere angst die bij de politicus heerst, is dat gezichtsherkenning geen strobreed in de weg wordt gelegd. Zo is het mogelijk om gezichtsherkenning aan beveiligingscamera’s te koppelen om verdachten te herkennen. “Daarom moeten we nu alvast nadenken over de grenzen die we willen stellen”, zo zegt Verhoeven, die Chinese praktijken in Nederland wil voorkomen.
