De risico’s van kunstmatige intelligentie en algoritmes nemen steeds verder toe, onder meer door de komst van generatieve AI. Technologische innovaties gaan op dit moment sneller dan het implementeren van regelgeving en toezicht. Om meer inzicht in en grip te krijgen op deze risico’s, is een ‘nationaal deltaplan’ nodig.
Daarvoor pleit de Autoriteit Persoonsgegevens in de tweede editie van de ‘Rapportage AI & algoritmerisico’s Nederland’ (pdf).
Goede regelgeving noodzakelijk om risico’s generatieve AI te beheersen
Sinds januari van dit jaar waakt de Autoriteit Persoonsgegevens niet alleen over onze privacy, maar is ze tevens toezichthouder op het gebied van kunstmatige intelligentie en algoritmes. Sinds de privacywaakhond deze taak op zich heeft genomen, waarschuwt ze voor de gevaren van AI-toepassingen. Denk aan privacyschendingen en discriminatie. De toeslagenaffaire is een praktijkvoorbeeld dat laat zien wat er mis kan gaan als er niet of nauwelijks wordt gemonitord op de werking van algoritmes.
Kunstmatige intelligentie en algoritmes kunnen een belangrijke bijdrage leveren aan ons welzijn en onze welvaart. Voorwaarde is wel dat we ons bewust zijn van de risico’s van deze technologie en het toezicht goed geregeld is. Goede regelgeving is daarvoor onmisbaar.
‘Menselijke regie moet uitgangspunt zijn bij nationaal deltaplan’
De Autoriteit Persoonsgegevens pleit daarom voor een ‘nationaal deltaplan’ voor de beheersing van AI en algoritmes. Met zo’n plan werken de overheid, het bedrijfsleven en burgers gezamenlijk naar een samenleving waarin kunstmatige intelligentie en algoritmes verantwoord worden gebruikt. En onze grondrechten worden gewaarborgd.
“Menselijke regie is daarbij een belangrijk uitgangspunt. Die regie werkt alleen als mensen zich beter bewust zijn van de werking en risico’s van algoritmes en AI. Dit ondersteunt niet alleen de veiligheid van individuele AI-systemen, maar bevordert ook de ontwikkeling van veilige en betrouwbare toepassingen”, zo schrijft de toezichthouder.
AP pleit voor ‘structureel investeren in begrip en kennis’
Vroeg of laat komen we allemaal in aanraking met AI en algoritmes. Dat betekent nog niet dat iedereen over dezelfde kennis hoeft te beschikken.
Het beoordelen hoe een algoritme werkt, kunnen we aan experts overlaten. Burgers hoeven alleen te weten wat de inzet van een algoritme voor hen betekent en hoe zij zich daar eventueel tegen kunnen verweren. Bestuurders van een organisatie moeten kunnen inschatten wat de mogelijkheden en effecten van algoritmes zijn alvorens zij deze inzetten.
Om dit te realiseren moet er “structureel geïnvesteerd worden worden in begrip en kennis om als samenleving om te kunnen gaan met de inzet van algoritmes en AI”, aldus de Autoriteit Persoonsgegevens.
AP: ‘Toezicht alleen is niet voldoende’
De toezichthouder waarschuwde al eerder voor de risico’s van generatieve AI. Zo ligt het voor de hand dat persoonlijke gegevens worden gebruikt om AI-modellen te trainen. Naast privacyschending kan generatieve AI ook gebruikt worden om desinformatie te creëren en nepnieuws te verspreiden.
En wat dacht je van bewerkte foto’s en video’s die nauwelijks van echt zijn te onderscheiden? Kwaadwillenden kunnen al deze voorbeelden gebruiken om de publieke opinie te beïnvloeden. Cecile Schut, directeur Systeemtoezicht, Beveiliging en Technologie bij de Autoriteit Persoonsgegevens, adviseerde daarom onlangs om kritisch te zijn op de uitkomsten van GenAI-tools.
In het rapport waarschuwt de Autoriteit Persoonsgegevens opnieuw voor de risico’s van generatieve AI. Dat er in Brussel een politiek akkoord is bereikt over de AI Act, is in de ogen van de toezichthouder een goede zaak. “Beheersing van algoritmes en AI vraagt echter om meer inspanning dan het opzetten van toezicht alleen”, zo waarschuwt de toezichthouder. “Het is belangrijk dat ook bedrijven en organisaties zelf werken aan beheersing, toezicht en controle om tot betrouwbare en veilige inzet van algoritmes en AI te komen.”
