- Ombudsvisie over algoritmen steunt op drie pijlers
- Burgers nauwelijks betrokken bij inzet algoritmen door de overheid
- Vertrouwen van de bevolking is essentieel voor draagvlak
- Algemene Rekenkamer: ‘Burger onvoldoende centraal bij algoritmes’
- Wolfsen: ‘Wees voorzichtig met eenzijdige informatiebubbel door algoritmes’
Voor burgers moet duidelijk zijn wat zij van de overheid mogen verwachten als ze data en algoritmen gebruikt. Dit is niet altijd zichtbaar en herkenbaar, maar heeft wel invloed op het vertrouwen dat burgers in de overheid hebben. Daarom moeten burgers centraal staan als de regering vertrouwt op algoritmen.
Dat schrijft de Nationale Ombudsman Reinier van Zutphen. Hij ontwikkelde een ombudsvisie waarin hij pleit voor ‘behoorlijk gebruik van data en algoritmen door de overheid’.
Ombudsvisie over algoritmen steunt op drie pijlers
In het rapport roept Van Zutphen de overheid op om niet zichzelf, maar de burger centraal te stellen als ze een beroep doet op algoritmen. De Nationale Ombudsman heeft drie uitgangspunten geformuleerd om daarbij te helpen. Allereerst moet de overheid duidelijk zijn wanneer ze data en algoritmen gebruikt. De regering moet burgers hier vooraf actief over informeren. Om verantwoording af te leggen moeten er juridische en ethische kaders geschetst worden.
Het tweede uitgangspunt gaat over toegankelijkheid. Als burgers vragen of klachten over algoritmen hebben, moet de overheid openstaan voor deze feedback. Alleen door burgers zoveel mogelijk te betrekken in het proces, kan ze hun vertrouwen winnen. Daarom is het belangrijk dat de overheid als eenheid optreedt en burgers weten hoe en waar ze contact kan opnemen bij vragen en andere opmerkingen.
Tot slot moet de regering oplossingsgericht werken. Daarmee bedoelt de Ombudsman dat de overheid duidelijkheid verschaft waarvoor data en algoritmen worden gebruikt. Als ze dit mandaat dreigt te overschrijden, moet een ‘stopknop’ de regering een halt toeroepen. Verder moet de overheid van haar fouten leren door continu in gesprek te blijven met burgers en instanties.
Burgers nauwelijks betrokken bij inzet algoritmen door de overheid
Van Zutphen waarschuwt voor het gevaar van een ‘black box’. Daarvan is sprake als de overheid niet langer open, eerlijk en transparant is over het gebruik van data en algoritmen. De complexiteit van de techniek kan tot een beruchte ‘black box’ leiden. Dat moet, koste wat kost, voorkomen zien te worden. “Niemand wil dat burgers slachtoffer worden van een systeem waarin de overheid gebruikmaakt van data en algoritmen Of dat zij worden geconfronteerd met ongewenste resultaten”, zegt de Nationale Ombudsman.
Toch worden volgens de Ombudsman burgers nog nauwelijks betrokken bij het gebruik van data en algoritmen door de overheid. Dat is niet goed voor het onderlinge vertrouwen. “Vertrouwen van burgers in het overheidshandelen is een van de fundamenten van onze rechtsstaat. Dat vraagt om meer dan enkel juridische en ethische waarborgen voor de inrichting van de samenleving. Het vereist een evenwichtige relatie tussen de burger en overheid. In een datasamenleving is dat des te belangrijker”, zo staat er in de ombudsvisie.
Vertrouwen van de bevolking is essentieel voor draagvlak
Van Zutphen erkent dat de overheid steeds meer informatie over burgers verzamelt en verwerkt. De regering weet zodoende steeds meer over de bevolking. “Daarom is het nodig dat de datasamenleving voor zowel de burger als de overheid normen en waarden kent die niet alleen juridisch en ethisch zijn geborgd”, stelt de Ombudsman. In zijn ogen is de overheid aan zet om dit te vertalen naar de dagelijkse praktijk. Daarbij is het van groot belang om het vertrouwen van burgers te winnen en behouden. En dat is alleen mogelijk door hen centraal te stellen bij het gebruik van data en algoritmen.
Voordat de overheid vol enthousiasme met algoritmen aan de slag gaat, moet ze eerst goed nadenken over het gebruik van data. Een andere voorwaarde is dat burgers altijd uit het systeem gehaald kunnen worden als het mis dreigt te gaan. Persoonlijk contact en maatwerk dragen volgens de Ombudsman bij aan het vertrouwen dat de burger heeft in de overheid. In een brief aan Raymond Knops, staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, roept de Ombudsman dan ook op om de burger centraal te stellen.
Algemene Rekenkamer: ‘Burger onvoldoende centraal bij algoritmes’
Het verhaal van de Nationale Ombudsman komt in grote lijnen overeen met dat van de Algemene Rekenkamer. Dat adviesorgaan publiceerde eind januari het rapport ‘Aandacht voor algoritmes’. Daarin stelt de Rekenkamer dat de regering open en eerlijk moet zijn over welke instanties algoritmes gebruiken, en voor welke doeleinden.
Verder constateert de Algemene Rekenkamer dat de overheid niet de burgers, maar haarzelf centraal stelt bij de inzet van algoritmes (denk aan het verlagen van de werkdruk van ambtenaren, of werkproces efficiënter inrichten door het te automatiseren). Burgers moeten het gebruik en de werking van een algoritme kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Dat is nu niet het geval. Zorgen en twijfels over algoritmes verdienen volgens de onderzoekers ‘serieuze aandacht’.
De Algemene Rekenkamer trof geen enkele keer een ‘black box’ aan. Van alle algoritmes die de instantie onderzocht, kon worden nagegaan hoe ze werken en waarvoor ze worden ingezet.
Wolfsen: ‘Wees voorzichtig met eenzijdige informatiebubbel door algoritmes’
Algoritmes zijn sets van regels en instructies die een computer geautomatiseerd volgt om een beslissing te nemen, een probleem op te lossen of een prognose te maken. Aleid Wolfsen, bestuursvoorzitter van de AP, waarschuwde in december dat algoritmes een ‘eenzijdige informatiebubbel’ kunnen creëren. Als mensen iets opzoeken over een bepaald thema en daarna continu advertenties voorgeschoteld worden, lopen zij het risico dat specifieke deelonderwerpen onderbelicht raken. En dat is niet goed voor het wereldbeeld over het onderwerp.
“Vooropgesteld: het gaat mij niet om de inhoud van berichten. Het is een groot goed dat u zelf mag en kunt bepalen welke informatie u consumeert en wat u daarvan vindt. Wat wel essentieel is, is dat u zich niet door bedrijven -die verdienen aan de tijd dat u online bent- onbewust in een eenzijdige informatiebubbel laat zuigen die uw kijk op de wereld bepaalt. Want feitelijk verliest u daardoor ongemerkt uw autonomie”, zo attendeerde Wolfsen.
