De EU zet grote stappen richting het verbieden van het gebruik van gezichtsherkenning bij onderzoek naar criminele activiteiten. Het Europees Parlement heeft een resolutie aangenomen welke adviseert dat surveillance technologie in combinatie met AI niet in het openbaar gebruikt mag worden. Naast een verbod op gezichtsherkenning roept deze resolutie ook om een verbod op de geautomatiseerde verzameling, analyse en herkenning van andere unieke menselijke eigenschappen. Denk hierbij aan DNA en vingerafdrukken, maar bijvoorbeeld ook de stem, de manier van lopen en ‘andere biometrische en gedragskenmerken’.
Het Europees Parlement erkent de voordelen van het gebruik van AI voor opsporingsdoeleinden, maar geeft aan dat de risico’s van de momenteel beschikbare tools zwaarder wegen. Ze maken zich vooral zorgen over het tekort aan transparantie bij de beslissingen die deze systemen maken, wat kan leiden tot discriminatie en de schending van privacy. Daarnaast komt de bescherming van persoonlijke gegevens, vrijheid van meningsuiting en informatie in het geding.
Resolutie moet fundamentele rechten EU burgers beschermen
Het Europees parlement is bang dat de potentie voor onrechtmatig of foutief gebruik van dit soort data bij criminele onderzoeken en rechtszaken te groot is. Zo komen de onschuldpresumptie en de fundamentele rechten op vrijheid en veiligheid van het individu onder druk te staan. Dit is in strijd met het recht op een doeltreffende voorziening in rechte en het recht op een onpartijdig gerecht.
Ook willen de europarlementariers het gebruik van privedatabases met gezichtsherkennings informatie door politie aan banden leggen. Als voorbeeld wordt Clearview AI genoemd, welke over een database met ruim 3 miljard afbeeldingen beschikt. Deze afbeeldingen zouden onrechtmatig verkregen zijn via sociale media en het internet. Het gebruik van een dergelijke database zou in alle waarschijnlijkheid ook in strijd zijn met de General Data Protection Regulation (GDPR) wetgeving.
Resolutie niet bindend
De resolutie doorstond het parlement met 36 voorstemmen, 24 tegen stemmen en 4 onthoudingen. Petar Vitanov, die de resolutie opstelde, reageerde als volgt: “Dit is een gigantische overwinning voor alle Europese burgers”. Helaas is de resolutie dus niet bindend, maar het geeft wel een kijkje over hoe het parlement in de toekomst soortgelijke wetgeving daadwerkelijk zal aannemen.
Lijst van AI Tools gebruikt binnen strafrecht
Als onderbouwing bij de resolutie zijn er duidelijke voorbeelden van het gebruik van AI bij strafrechtelijke onderzoeken aangedragen. Het parlement erkent dat AI de autoriteiten helpt om sommige vormen van criminaliteit effectiever aan te pakken. Met name financiele misdaden en cybercrime worden met de hulp van AI eerder opgelost. De tools omvatten o.a.:
- Gezichtsherkenning;
- Automatische nummerbord herkenning;
- Identificatie van sprekers;
- Stemherkenning;
- Liplees technologie;
- Geluidssurveillance en schotenherkenning;
- Autonome analyse van databases;
- Forecasting tools i.e. voorspellende algoritmes en analyse van criminele hotspots;
- Tools voor gedragsanalyse;
- Automatische tools ter identificatie van fraude en financiering van terrorisme;
- Social media monitoring;
- IMSI (International Mobile Subscriber Identity) onderscheppers;
- Geautomatiseerde surveillance systemen i.c.m uiteenlopende detectiemogelijkheden;
- Tools die de rechtbank helpen bij het berekenen van de kans op terugval, recidive en het bepalen van de strafmaat.
