De Autoriteit Persoonsgegevens wil dat de inzet van gezichtsherkenningstechnologie en andere real time biometrie (zoals stem- en bewegingsherkenning) in openbare ruimten verboden wordt. Daarnaast moest er een verbod komen op systemen die gebruikmaken van kunstmatige intelligentie (AI) om mensen in te delen op basis van etniciteit, geslacht of seksuele voorkeur. Tot slot pleit de privacywaakhond voor een verbod op techniek die emoties herkent. De risico’s die deze technieken met zich meebrengen wegen niet op tegen de voordelen.
Daarvoor pleiten de Autoriteit Persoonsgegevens en de privacytoezichthouders uit alle andere EU-lidstaten. Zij hebben zich verenigd in de European Data Protection Board (EDPB). Met deze opmerkingen ageren ze tegen het wetsvoorstel van de Europese Commissie over kunstmatige intelligentie.
Europese Commissie streeft naar ‘evenwichtige aanpak’
Afgelopen april kwam de Europese Commissie met een wetsvoorstel om ‘geharmoniseerde regels’ op te stellen voor alle EU-landen op het gebied van kunstmatige intelligentie. Het idee achter deze verordening is dat kunstmatige intelligentie sociale, ecologische en sociaaleconomische voordelen met zich meebrengt. Dat is niet alleen goed voor particulieren, maar ook voor het milieu, onze gezondheid, de overheidsfinanciën, het bedrijfsleven en de algehele Europese economie.
Het dagelijkse bestuur van de EU erkent dat kunstmatige intelligentie, en het tempo waarin het zich ontwikkelt, nieuwe risico’s en uitdagingen met zich meebrengt. Denk bijvoorbeeld aan de uitwassen van algoritmes die overheidsorganen gebruiken om uitkeringsfraude op te sporen. De Europese Commissie streeft dan ook naar een ‘evenwichtige aanpak’.
In het voorstel staat onder meer dat systemen die gebruikmaken van algoritmes of andere vormen van kunstmatige intelligentie verplicht geregistreerd moeten worden. Tevens moet er een certificeringssysteem verschijnen, waarmee bedrijven en overheidsinstanties kunnen aantonen dat ze zich aan de geldende wet- en regelgeving op dit gebied houden. Ook zijn bedrijven en organisaties verplicht om te geven hoe hun systemen werken.
Wetsvoorstel bevat teveel onduidelijkheden
Het grootste euvel waar de Autoriteit Persoonsgegevens, de EDPB en de European Data Protection Supervisor (EDPS) over struikelen, is dat veel regels in het wetsvoorstel onduidelijk zijn. Zo is het onduidelijk welke partij de wet moet gaan handhaven, en hoe dit precies moet gebeuren. Ook is er nog onduidelijkheid over de regels wanneer er met systemen data worden doorgegeven naar landen buiten de EU.
Tevens sluit de verordening momenteel niet goed aan op de Algemene Verordening Gegevensbescherming (AVG). Het wetsvoorstel over kunstmatige intelligentie hanteert andere definities dan de AVG. Ook zijn de procedures die bedrijven moeten doorlopen anders dan in de AVG. Dit zorgt niet alleen voor verwarring, maar maakt het voor bedrijven en organisaties ook erg ingewikkeld om zich aan de wet- en regelgeving te houden.
‘Elke camera met gezichtsherkenning is stap dichter bij een surveillancemaatschappij’
Aleid Wolfsen, bestuursvoorzitter van de Autoriteit Persoonsgegevens, is bang dat het installeren van camera’s met gezichtsherkenningstechnologie meehelpt aan het creëren van een surveillancemaatschappij. “Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij. Een maatschappij waarin je nooit meer ongedwongen over straat loopt. Waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn.”
Wolfsen vervolgt zijn verhaal. “De beheerder van die systemen kan mij geautomatiseerd volgen: die kan precies zien wanneer ik de deur uit ga, waar ik mijn boodschappen doe, wanneer ik een afspraak bij de dokter heb, welke vrienden ik bezoek en waar ik uit eten ga. Willen we dat? Is de mogelijke hulp die deze systemen kunnen bieden bij het voorkomen en bestrijden van criminaliteit het waard de vrijheid van iedereen op te geven? Nee. We leven in een vrije, open samenleving. Dat is een groot goed, dat moeten we beschermen.”
Verbod op AI die emoties herkent
De bestuursvoorzitter ziet ook niks in systemen die kunstmatige intelligentie gebruiken om mensen in te delen op basis van etniciteit, geslacht of politieke voorkeur. Dit werkt volgens hem discriminatie in de hand. “We moeten als maatschappij discriminatie tegengaan. Discriminatie door mensen, maar ook door systemen. Wij kiezen ervoor om te voorkomen dat systemen mensen kunnen discrimineren. Wij hebben in Nederland met de Toeslagenaffaire gezien hoe fout dat kan gaan”, aldus Wolfsen.
De Nederlandse toezichthouder, de EDPB en de EDPS willen tot slot dat er een verbod komt voor kunstmatige intelligentie die emoties herkent. Volgens de belangenorganisaties kleven er grote risico’s voor de vrijheid van burgers aan emotieherkenning. “Denk aan werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten, werknemers die moeten glimlachen om toegang tot de werkplek te krijgen, of politie die uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen”, aldus de Autoriteit Persoonsgegevens.
