De regering moet open en eerlijk zijn over welke instanties algoritmes gebruiken en voor welke doeleinden. Daarnaast moeten burgers centraal staan als instanties algoritmes gebruiken, niet de overheid. Verder heeft de overheid te weinig oog voor de privacy van burgers en krijgen ethische aspecten te weinig aandacht. Door gebruik te maken van het toetsingskader dat de Rekenkamer ontwikkelde, moet een nieuwe toeslagenaffaire met de kinderopvangtoeslag voorkomen worden.
Dat zijn enkele aanbevelingen van de Algemene Rekenkamer in het dinsdag gepresenteerde rapport Aandacht voor algoritmes.
Algemene Rekenkamer onderzocht risico’s van algoritmes
Algoritmes zijn sets van regels en instructies die een computer geautomatiseerd volgt om een beslissing te nemen, een probleem op te lossen of een prognose te maken. De Algemene Rekenkamer onderzocht hoe de Rijksoverheid algoritmes inzet, voor welke doeleinden en welke risico’s daar aan kleven.
In het recente verleden hebben we meerdere negatieve effecten van algoritmes in praktijk gezien. Het Systeem Risico Indicatie (SyRI) maakt gebruik van algoritmes om fraude op te sporen. De rechter oordeelde in februari 2020 echter dat het systeem een te grote inbreuk op de privacy van burgers vormde. En meer recentelijk bleek dat algoritmes discriminatie en vooringenomenheid in de hand kunnen werken. Het is een van de oorzaken waarom de toeslagenaffaire van de kinderopvangtoeslag heeft kunnen escaleren.
Rekenkamer vindt geen ‘black box’ in algoritmes
De Algemene Rekenkamer constateert dat overheidsinstanties voornamelijk eenvoudige algoritmes inzetten om relatief eenvoudige besluiten te nemen. Dan hebben we het over administratieve handelingen (heeft iemand recht op toeslag of subsidie?) of het automatisch versturen van een ontvangstbevestiging.
De regering maakt geen gebruik van zelflerende algoritmes, alleen lerende algoritmes. Dat betekent dat een algoritme niet de taken van een ambtenaar overneemt, maar dat hij enkel wordt ondersteund door algoritmes. Daarin schuilt echter wel een risico, namelijk dat een medewerker zich laat leiden door het advies van het algoritme en de beslissing die hij uiteindelijk neemt.
De Rekenkamer trof geen black box aan. Van alle algoritmes die de instantie onderzocht, kon worden nagegaan hoe ze werkten en waarvoor ze werden ingezet. Bij de ontwikkeling en het gebruik van algoritmes besteedt de overheid veel aandacht aan het minimaliseren van privacyrisico’s voor burgers.
‘Geef zorgen en twijfels over algoritmes serieuze aandacht’
Dat neemt volgens de onderzoekers niet weg dat er geen ruimte is voor verbetering. De verwachting is dat in de toekomst het gebruik van algoritmes verder toeneemt. “Wanneer algoritmes zelflerend en daardoor complexer worden, kan aan snelheid, kwaliteit en objectiviteit van besluitvorming worden gewonnen”, schrijft de Rekenkamer. Om die reden moeten er meer en hogere eisen gesteld worden aan de kwaliteit van algoritmes.
De Rekenkamer stelt vast dat niet de burger, maar de overheid centraal staat bij de inzet van algoritmes. Zoals gezegd heeft de regering oog voor de privacy van burgers, maar krijgen ethische aspecten te weinig aandacht. Burgers moeten het gebruik en de werking van een algoritme kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Dat is nu niet het geval. Zorgen en twijfels over algoritmes verdienen volgens de onderzoekers ‘serieuze aandacht’.
“Wij bevelen het kabinet aan om burgers op een logische plek inzicht te geven in welke data worden gebruikt in welke algoritmes, hoe die algoritmes op hoofdlijnen functioneren en welke impact de uitkomsten daarvan hebben”, aldus de Rekenkamer.
Rekenkamer ontwikkelt toetsingskader algoritmes
Om negatieve effecten van algoritmes te bestrijden en kwaliteit en inzet ervan te verantwoorden, ontwikkelde de Algemene rekenkamer een toetsingskader. Deze bevat vijf perspectieven waar de overheid rekening mee dient te houden als ze algoritmes inzet of laat ontwikkelen: sturing en verantwoording, data en model, IT General Controls, privacy en ethiek. Het doel van het toetsingskader is om mogelijke zwakheden bij het gebruik van algoritmes in kaart te brengen.
