Masterstudente aan de Universiteit Leiden Aylin Alexa Zeinea heeft de allereerste scriptieprijs van de Autoriteit Persoonsgegevens gewonnen. Haar masterscriptie ging in op de vraag in hoeverre de Europese privacywetgeving mensen beschermt tegen discriminatie door geautomatiseerde besluitvorming. De winnares ontvangt een geldprijs van tweeduizend euro.
Dat heeft de toezichthouder vandaag bekendgemaakt.
Discriminatie door geautomatiseerde besluitvorming
De titel van de masterscriptie luidt ‘Automated Decision-Making in Online Platforms: Protection Against Discrimination and Manipulation of Behavior’. In haar scriptie probeert Alexa Zainea de vraag te beantwoorden in hoeverre de Algemene Verordening Gegevensbescherming (AVG) en de AI Act voldoende bescherming bieden tegen discriminatie en gedragsmanipulatie door geautomatiseerde besluitvorming van online platforms.
Er is sprake van geautomatiseerde besluitvorming als een computer of algoritme een besluit neemt over een persoon. Bijvoorbeeld of iemand recht heeft op een uitkering, geld moet terugbetalen aan de overheid omdat er sprake is van fraude, of dat een sollicitant al dan niet wordt uitgenodigd om op kennismakingsgesprek te komen. Dit gebeurt op basis van aangeleverde gegevens over een persoon en aan dit proces komt geen mens te pas.
Geen behoefte aan nieuwe regelgeving
Alexa Zainea komt in haar masterscriptie tot de conclusie dat er geen behoefte is aan nieuwe regelgeving om discriminatie en gedragsmanipulatie aan te pakken die voortkomen uit geautomatiseerde besluitvorming. Wel komt ze met een aantal aanbevelingen voor de AVG en AI Act om mensen beter te beschermen. Verder benadrukt ze het belang van betere handhaving van de bestaande AVG-regels en de noodzaak om Europese regelgeving “grondig te interpreteren voor een nuttige toepassing van het AI-systeem”.
De jury prijst de masterscriptie van Alexa Zainea om haar originele invalshoek. De studente ging in haar scriptie uitgebreid in op de vraag wanneer geautomatiseerde gedragsmanipulatie acceptabel is. Ook was de jury onder de indruk waarmee de studente complexe onderwerpen als kunstmatige intelligentie en algoritmes in haar scriptie heeft beschreven.
Als winnares wint Alexa Zainea de hoofdprijs van tweeduizend euro. De jury bestond uit AP-bestuursvoorzitter Aleid Wolfsen, directeur Systeemtoezicht, Beveiliging en Technologie bij de AP Cecile Schut, en directeur en medeoprichter van Waag en lid van de raad van advies van de AP Marleen Stikker.
Gedeelde tweede plaats
Joosje van Riel en Danny Mekić behaalden een gedeelde tweede plaats en ontvangen elk duizend euro. Van Riel studeerde aan de VU Amsterdam en schreef een masterscriptie over de uitdagingen van het beschermen van persoonsgegevens bij smart cities. Mekić behaalde zijn masterdiploma aan de Open Universiteit met een scriptie over wat het met mensen doet als zij te maken krijgen met geautomatiseerde besluitvorming en in hoeverre zij hier vertrouwen in hadden.
In de zomer van 2023 kondigde de Autoriteit Persoonsgegevens de scriptieprijs aan. Het thema van de scriptieprijs was ‘toezicht op algoritmes’. De toezichthouder erkent dat het een breed thema is, maar tegelijkertijd dat het goed aansluit op de nieuwste taak van de instantie: algoritmetoezichthouder. Sinds januari vorig jaar kijkt de AP hoe algoritmes worden getraind, of er vooroordelen in zijn verwerkt en hoe de verantwoordelijkheden zijn vastgelegd.
