Rekenkamer: ‘Neem ethische risico’s algoritmes serieus’

Schoolbord dat volstaat met wiskundige formules

De gemeente Rotterdam maakt gebruik van algoritmes om de besluitvorming sneller en doelmatiger te laten plaatsvinden. Ambtenaren beseffen echter nauwelijks dat er ethische risico’s kleven aan het gebruik van algoritmes. Dat kan leiden tot vooringenomenheid. Ook is er momenteel geen volledig overzicht welke algoritmes de gemeente gebruikt en wat de aard ervan is. Gemeenten moeten serieus werk maken van algoritmes om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen.

Dat schrijft de Rekenkamer Rotterdam in haar rapport ‘Gekleurde technologie’.

Aan algoritmes kleven ethische risico’s

Een algoritme is in beginsel niets meer dan een reeks instructies die een computer uitvoert. Algoritmes worden in de politiek toegepast om besluitvorming sneller, doelmatiger en effectiever te laten plaatsvinden. Ook zijn ze in staat om patronen te herkennen. Dat is handig om bijvoorbeeld fraude sneller op te sporen en terug te dringen.

Het gebruik van algoritmes brengt echter ook ethische risico’s met zich, waarschuwt de Rekenkamer Rotterdam. De gemeente Rotterdam vraagt in het programma Datagedreven Werken weliswaar aandacht voor de kwaliteit en ethiek van algoritmes, maar ambtenaren staan er nauwelijks bij stil dat er ethische risico’s kleven aan algoritmes.

Paul Hofstra, voorzitter van de Rekenkamer Rotterdam, geeft in een interview met de Volkskrant een voorbeeld van een ethische blinde vlek van algoritmes. De gemeente Rotterdam gebruikt een algoritme om uitkeringsfraude op te sporen. “Iedereen is zich ervan bewust dat het algoritme bepaalde kenmerken niet mag meenemen, zoals bijvoorbeeld afkomst of nationaliteit. Dat is in strijd met de wet. Maar ondertussen gebruikt het algoritme wel kenmerken die ‘meelopen’ met afkomst, zoals bijvoorbeeld laaggeletterdheid. Daardoor kunnen toch relatief veel mensen met een migratieachtergrond de klos zijn. Er kan daardoor een bepaalde vooringenomenheid in het systeem sluipen. En dat is een probleem.”

Burger heeft geen zicht op rol algoritme in besluitvorming

Doordat de noodzaak van ethisch gebruik van algoritmes niet wijdverbreid is, kan dit leiden tot vooringenomenheid. En daar is de burger de dupe van, bijvoorbeeld als het te horen krijgt dat het een grote som geld moet terugbetalen. Het algoritme dat gebruikt wordt in het project ‘analytics uitkeringsfraude’ brengt volgens de Rekenkamer “mogelijk onrechtmatige uitkeringen in kaart, op basis waarvan uitkeringsgerechtigden voor een heronderzoek kunnen worden uitgenodigd”.

De verantwoordelijkheid van ethische principes is momenteel niet goed geregeld, zo concludeert de Rekenkamer Rotterdam. Daardoor is er te weinig aandacht voor de transparantie en eerlijkheid van algoritmes. “Zo is niet navolgbaar welke keuzes rondom ethische vraagstukken zijn gemaakt en is het voor de betrokken burger onmogelijk goed zicht te krijgen hoe het algoritme een rol speelt bij de uitnodiging voor een heronderzoek”, aldus de Rekenkamer.

Op deze punten schiet de gemeente Rotterdam tekort

Volgens de Rekenkamer denkt de gemeente Rotterdam wel na over de waarborging van de kwaliteit en ethiek van algoritmes, maar wordt er niet naar gehandeld. Zo is er geen volledig overzicht van de algoritmes die de gemeente gebruikt, en wat de aard ervan is. De Rekenkamer pleit ervoor om een algoritmeregister aan te leggen, waarin alle algoritmes die de gemeente gebruikt worden vastgelegd. Inclusief de bijbehorende ethische risico’s en hoe daarmee wordt omgegaan.

Tevens is er geen centrale regisseur en integraal eindverantwoordelijke voor algoritmes. “Nu neemt niemand de verantwoordelijkheid. Ze wijzen soms naar elkaar als het fout dreigt te gaan”, vertelt Hofstra tegenover de Volkskrant. Verder vindt er onvoldoende afstemming plaats tussen de ontwikkelaars van algoritmes en de gebruikers ervan. Daardoor ontstaat het risico dat ethische principes van algoritmes worden verwaarloosd. “Binnen het gehele concern bestaan nog te weinig instrumenten om de transparantie en eerlijkheid van algoritmes te waarborgen”, schrijft de Rekenkamer in haar rapport.

Tot slot zijn er geen richtlijnen om algoritmes te evalueren. “Of een algoritme daadwerkelijk beter presteert dan ‘oudere en meer traditionele’ werkwijzen, wordt niet geëvalueerd. Dat geldt ook voor het algoritme ‘analytics uitkeringsfraude’, terwijl die juist risico’s op vooringenomen uitkomsten bevat.”

College neemt de aanbevelingen over

De Rekenkamer Rotterdam heeft zes aanbevelingen geformuleerd voor de gemeente om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen. Het college van B&W stelt in een reactie dat het werken met algoritmes ‘een relatief nieuw vakgebied’ is en daardoor waarborgen nog niet volledig zijn uitgekristalliseerd. Het college is dan ook dankbaar voor het onderzoek en zegt alle bevindingen te zullen overnemen.

‘Niet de burger, maar de overheid staat centraal in algoritmes’

De Algemene Rekenkamer bracht in januari een rapport uit over de inzet van algoritmes door de overheid. Eén van de bevingen was dat ambtenaren zich niet louter laten leiden door de uitkomsten van algoritmes, maar altijd zelf beslissingen nemen op basis van hun kennis en expertise. Ook constateerden de onderzoekers dat de algoritmes geen black box bevatten. Dat houdt in dat de Rekenkamer kon nagaan hoe algoritmes werken en waarvoor ze werden ingezet.

Een andere conclusie was dat niet de burger, maar de overheid centraal staat als ze algoritmes inzet. De regering heeft weliswaar oog voor de privacy van burgers, maar ethische aspecten krijgen te weinig aandacht. Een van de aanbevelingen van de Rekenkamer luidde om “burgers op een logische plek inzicht te geven in welke data worden gebruikt in welke algoritmes, hoe die algoritmes op hoofdlijnen functioneren en welke impact de uitkomsten daarvan hebben”.

Privacy en security redacteur
Techliefhebber pur sang: Anton is gek op alles wat met technologie en internet te maken heeft. Cybersecurity, privacy en internetcensuur hebben dan ook zijn volle aandacht. 
Plaats een reactie
Een reactie plaatsen