Hogescholen en universiteiten gebruiken of houden de optie open om de antispieksoftware van Proctorio te gebruiken bij het afnemen van tentamens. “Onbegrijpelijk en roekeloos”, vindt Naomi Appelman van het Racism and Technology Center. Ook het College van de Rechten van de Mens zegt teleurgesteld te zijn.
Dat blijkt uit een rondgang van RTL Nieuws langs twaalf onderwijsinstellingen die het programma van Proctorio in het verleden hebben gebruikt.
Studente klaagt dat tentamensoftware van Proctorio discrimineert op basis van huidskleur
Voor het begin van deze zaak moeten we terug naar 2022. Robin Pocornie studeerde destijds aan de VU Amsterdam. Omdat studenten vanwege de coronamaatregelen niet in grote groepen in een collegezaal mochten zitten om een examen af te leggen, gebruikte de universiteit surveillancesoftware van Proctorio. Hiermee kon men op afstand kijken of studenten niet spiekten bij het maken van hun tentamen, bijvoorbeeld door een tweede beeldscherm te gebruiken of stiekem door aantekeningen te bladeren.
Al snel ontstonden er zorgen over mogelijke discriminatie, omdat de software minder goed in staat was om gezichten van mensen met een donkere huidskleur te herkennen. Dat is precies waar Pocornie mee werd geconfronteerd toen ze studeerde. Tijdens examens verscheen er een melding als ‘face not found’ of ‘room too dark’ in beeld, of werd ze uit de digitale tentamenomgeving gegooid. Medestudenten met een blanke huidskleur hadden daarentegen nergens last van.
Samen met het Racism and Technology Center in Amsterdam diende Pocornie in juli 2022 een klacht in bij de VU en vroeg om te stoppen met deze software. Toen het College van Bestuur niets deed met hun klacht, besloten ze om naar het College van de Rechten van de Mens te stappen. Die concludeerde dat er geen sprake was van discriminatie op basis van huidskleur en dat de VU haar zorgplicht niet had verzaakt. Wel liet de klachtafhandeling te wensen over.
Meeste onderwijsinstellingen gaan door met Proctorio
Het College van de Rechten van de Mens benadrukte in een tussenvonnis in december 2022 dat er wel degelijk een risico bestond voor discriminatie. Dat was voor RTL Nieuws aanleiding om twaalf hogescholen en universiteiten te benaderen met de vraag of ze Proctorio gebruiken voor het op afstand afnemen van tentamens, of deze optie open houden.
Acht van de twaalf onderwijsinstellingen zei in een reactie de surveillancesoftware van Proctorio te blijven gebruiken. De Radboud Universiteit in Nijmegen is de enige universiteit die de software van Proctorio volledig uitsluit vanwege zorgen rondom discriminatie of mensenrechtenschending. De Hogeschool van Arnhem en Nijmegen (HAN), Universiteit van Tilburg en Universiteit Twente stopten om andere redenen.
De Hogeschool van Amsterdam (HvA), Hogeschool Utrecht, Hogeschool Inholland, Nyrenrode Business University, de Technische Universiteit Eindhoven (TU/e), de Universiteit van Amsterdam (UvA), de Universiteit Leiden en de Universiteit Maastricht geven aan de tentamensoftware van Proctorio te blijven gebruiken.
‘Voldoende bewijs dat er iets mis is’
Naomi Appelman van het Racism and Technology Center zegt tegenover RTL Nieuws dat ze het “onbegrijpelijk en roekeloos” vindt dat zo veel hogescholen en universiteiten hun vertrouwen vestigen op de tentamensoftware van Proctorio.
“Er is voldoende bewijs dat er iets mis is. Deze publieke instellingen nemen op de koop toe dat studenten van kleur hun onderwijs minder goed kunnen volgen. Dat is problematisch. We willen dat zij hun verantwoordelijkheid nemen en dat het besef indaalt dat er significante risico’s aan kleven”, aldus Appelman.
Ook het College voor de Rechten van de Mens is niet te spreken over de uitkomsten van de rondgang van RTL Nieuws. “Het is goed om te zien dat een aantal onderwijsinstellingen het gebruik van Proctorio onder de loep heeft genomen en dat de Radboud Universiteit het risico op discriminatie serieus neemt. Daartegenover staat dat het jammer is dat zo weinig onderwijsinstellingen rekening houden met het feit dat dit soort software kan discrimineren. Want dit blijft een terechte zorg”, zo zegt het College in een reactie.
Proctorio zegt dat het bedrijf hard werkt aan het verbeteren van zijn producten, waaronder de algoritmes. Hoe het bedrijf de gezichtsdetectie denkt te verbeteren, wil ze niet zeggen.
