Bits of Freedom is sceptisch over het voorlopig akkoord dat afgelopen week in Brussel werd bereikt over de AI Act. De burgerrechtenorganisatie vreest dat de verordening de deur openzet voor het legitimeren van massasurveillance. De beweging zegt de ontwikkelingen nauwlettend in de gaten te houden, totdat de definitieve tekst bekend is.
Dat schrijft Bits of Freedom (BoF) in een blog over de AI Act.
Dit is de AI Act in een notendop
Na ruim 36 uur onderhandelen kwamen de Europese Commissie, het Europees Parlement en de Raad van de Europese Unie tot een voorlopig akkoord over de tekst van de AI ACT. Thierry Breton, Eurocommissaris voor de Interne Markt, noemde het akkoord ‘historisch’. “De EU is het eerste continent dat duidelijke regels stelt voor het gebruik van kunstmatige intelligentie”, zo zei hij op X. In een persverklaring zei hij dat de verordening “een juiste balans” verwoordt tussen het optimaal benutten van de potentie van AI en het beschermen van fundamentele rechten van burgers.
Doel van de AI Act is om het gebruik van kunstmatige intelligentie en algoritmes in Europa aan banden te leggen om zo fundamentele burgerrechten te waarborgen. Zo staat er onder meer in de verordening dat slimme camera’s in publieke ruimte niet gebruikt mogen worden voor (real-time) biometrische identificatie.
Er zijn drie uitzonderingen opgenomen in de verordening wanneer camera’s wel voor dit doeleinde gebruikt mogen worden: (1) als er aanwijzingen zijn dat er terroristische aanslagen gaan plaatsvinden, (2) voor het vinden van slachtoffers van onder meer mensenhandel, en (3) voor opsporing in het kader van ernstige misdaden als terrorisme, kidnapping, vermissing of seksuele exploitatie.
Torenhoge boetes bij overtreding
Verder staat er in de AI Act dat ‘systemen met een onaanvaardbaar risico’ verboden zijn. Dan moet je denken aan camera’s die informatie verzamelen over bijzondere persoonskenmerken, zoals politieke of religieuze overtuigingen, seksuele geaardheid, ras of emotie. Systemen die een hoog risico kennen en gebruikt worden in producten met strenge veiligheidseisen, worden continu in de gaten gehouden.
Toepassingen die gebruikmaken van generatieve AI, zoals ChatGPT, moeten transparant zijn over de data die ze gebruiken om hun modellen mee te trainen. Ook mogen ze geen ‘illegale content’ genereren. Tot slot moeten programma’s die kunstmatige intelligentie gebruiken om bijvoorbeeld foto’s en video’s te verbeteren dit vermelden.
Bedrijven en organisaties die deze regels aan hun laars lappen, riskeren hoge boetes. Deze kunnen oplopen tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet. Voor kleinere bedrijven is de maximale boete vastgesteld op 7,5 miljoen euro of 1,5 procent van de jaaromzet. De hoogte van de boete is afhankelijk van de ernst en impact van de overtreding en de omvang van het bedrijf.
BoF bezorg dat AI Act massasurveillance legitimeert
Bits of Freedom houdt een slag om de arm en is sceptisch over de huidige vorm van de AI Act. Grootste struikelblok is dat er geen totaalverbod is op biometrische identificatie. “Wij hebben er altijd voor gepleit dat mensen zich vrij in de openbare ruimte moeten kunnen begeven. Deze uitzonderingen op het verbod lijken de deur open te zetten voor het legitimeren van massasurveillance”, zo zegt Nadia Benaissa, beleidsadviseur bij Bits of Freedom.
Kim van Sparrentak, Europarlementariër voor GroenLinks, heeft dezelfde mening. “Europa gaat geen Chinese surveillancestaat achterna. Na een enorme strijd met de EU-landen hebben we het gebruik van dit soort systemen aan banden gelegd. In een vrije en democratische samenleving moet je over straat kunnen zonder dat de overheid je zomaar constant volgt op straat, op festivals of in voetbalstadions”, zo zei ze afgelopen week in de media.
Bo Hijstek, onderzoeker bij het Rathenau Instituut, zet ook zijn vraagtekens bij de verordening. “Hoe meet je of een AI-model voldoet aan mensenrechtelijke bescherming? Eisen in de regels zijn vaak op veel manieren te interpreteren. Bij veel producten is het functioneren controleerbaar, maar of iets aan mensenrechten voldoet is veel abstracter”, vraagt hij zich hardop af tegenover NU.nl.
‘Nederlanders moeten beschermd worden tegen AI-toepassingen’
Benaissa wijst erop dat Nederlanders behoefte hebben aan wettelijke bescherming van hun burgerrechten. Ze noemt verschillende praktijkvoorbeelden waarbij mensenrechten door algoritmetoepassingen werden geschonden. Denk aan de toeslagenaffaire, het ministerie van Buitenlandse Zaken die een algoritme racistisch inzette om visumaanvragen te beoordelen, en DUO dat een discriminatoir systeem gebruikte om fraude met studiefinanciering aan het licht te brengen.
“Met al deze voorbeelden waarin Nederland keer op keer de fout in gaat, is het helder waarom burgers tegen de overheid beschermd zouden moeten worden. Als Nederland enig lerend vermogen zou hebben, was er inmiddels wel geconcludeerd dat dit soort algoritme- en AI-toepassingen meer schade toebrengen dan positieve resultaten opleveren. In plaats daarvan heeft Nederland onderhandeld over toepassingen die het mogelijk nog slechter kunnen doen”, aldus Benaissa.
Bits of Freedom zegt de laatste ontwikkelingen nauw in de gaten te houden totdat de definitieve tekst bekend wordt gemaakt.
