D66 wil het fijne weten over Proctorio. De antispieksoftware herkende een studente niet vanwege haar donkere huidskleur. Daarop besloot ze om een klacht wegens discriminatie in te dienen bij het College voor de Rechten van de Mens. D66 wil weten hoe het kabinet ervoor gaat zorgen dat het hoger onderwijs in de toekomst geen discriminerende software of technologie gaat gebruiken.
Dat blijkt uit schriftelijke vragen van Jeanet van der Laan (D66) aan de minister van Onderwijs, Cultuur en Wetenschap Robbert Dijkgraaf.
Dit moet je weten over proctoringsoftware
Proctoring is de benaming voor surveillancesoftware, bedoeld om studenten die examen afleggen te controleren of ze niet stiekem spieken. Het programma kan foto’s en video’s maken met de webcam, de microfoon afluisteren, kijken wat er zich op het beeldscherm afspeelt, toetsaanslagen registreren en de surfgeschiedenis van de student bekijken. Tijdens de coronapandemie maakten veel hogescholen en universiteiten gebruik van deze antispieksoftware.
Afgelopen week wist een studente aan de Vrije Universiteit Amsterdam (VU) de nieuwskoppen te halen. Toen zij de proctoringsoftware inschakelde, herkende deze haar in eerste instantie niet vanwege haar donkere huidskleur. De enige manier om deel te kunnen nemen aan het tentamen, was door de hele tijd een lamp op haar gezicht te laten schijnen.
Dat schoot in het verkeerde keelgat bij de studente. “De software herkende me niet als mens”, vertelde ze tegenover de Volkskrant. Haar blanke medestudenten hadden daarentegen nergens last van. De studente diende een klacht in bij de VU en vroeg om te stoppen met de proctoringsoftware. Toen het College van Bestuur in haar ogen niets deed met haar klacht, besloot ze om een klacht wegens discriminatie in te dienen bij het College van de Rechten van de Mens.
Weren van discriminerende software en technologie
Voor Jeanet van der Laan van D66 was dit aanleiding om schriftelijke vragen te stellen aan minister van Onderwijs Robbert Dijkgraaf. Ze vraagt aan de minister of hij van mening is dat het gebruik van proctoringsoftware een onveilige en discriminerende situatie heeft gecreëerd. Van der Laan vraagt aan minister Dijkgraaf of hij bereid is om gesprek te gaan met koepelorganisatie Universiteiten van Nederland (UNL) en de VU om excuses aan te bieden over het gebruik van Proctorio en de klachtenafhandeling van de studente.
“Welke mogelijkheden ziet u om ervoor te zorgen dat onderwijsinstellingen zich voor de inkoop of gebruik ervan te vergewissen dat software of technologie in de brede zin geen discriminerende werking heeft?”, zo vraagt de D66’er aan minister Dijkgraaf. Tot slot vraagt het Tweede Kamerlid welke mogelijkheden de minister ziet om ervoor te zorgen dat onderwijsinstellingen in de toekomst geen discriminerende software of technologie meer gebruiken.
Proctoringsoftware minder effectief bij mensen met donkere huidskleur
Het is overigens geen geheim dat de surveillancesoftware die de VU gebruikt minder goed werkt bij mensen met een donkere huidskleur. “Onderzoekers van MIT en Microsoft toonden in 2018 al aan dat bij drie grote aanbieders van gezichtsherkenningssoftware zwarte vrouwen in bijna 35 procent van de gevallen niet werden herkend, terwijl dit bij witte mannen in minder dan 1 procent van de gevallen fout ging”, vertelt Naomi Appelman van het Racism and Technology Center.
Buitenlandse media hebben volgens haar over vergelijkbare ervaringen als die van de VU-studente geschreven. Nederlandse hogescholen en universiteiten blijven echter de antispieksoftware gebruiken. “In de bredere maatschappelijke discussie is dit helaas nog steeds niet doorgedrongen en wordt de software op steeds meer plekken ingezet”, aldus Appelman. De studente hoopt dat onderwijsinstellingen in ons land de problematiek herkennen en erkennen en beter gaan nadenken over de inzet van dit soort technologie als er sprake is van discriminatie.
Update (13 september 2022): minister van Onderwijs, Cultuur en Wetenschap schrijft in een brief aan de Tweede Kamer dat de Vrije Universiteit hem verzekerd heeft dat er geen bewijs is dat de antispieksoftware van Proctorio discrimineert. Die conclusie is gebaseerd op vertrouwelijk onderzoek dat is uitgevoerd door het bedrijf dat de surveillancesoftware ontwikkelt.
Minister Dijkgraaf benadrukt in zijn brief dat onderwijsinstellingen in Nederland zelf de taak en verantwoordelijkheid hebben om een “veilige en inclusieve (online) omgeving” te creëren. “Daarom vind ik het van groot belang dat onderwijsinstellingen kritisch blijven kijken naar welke software wordt gebruikt en daarbij scherp in de gaten houden dat de gebruikte software niet discrimineert. Meldingen van discriminatie moeten adequaat en zorgvuldig worden behandeld door iedere instelling in het (hoger) onderwijs”, aldus de onderwijsminister.
Tot slot schrijft de bewindsman dat hogescholen en universiteiten zelf gaan over de inkoop en het gebruik van antispieksoftware. “Onderwijsinstellingen gaan zelf over de inkoop en het gebruik van software en technologie en dragen daarin dus zelf verantwoordelijkheid. Ik roep onderwijsinstellingen daarom op om kritisch te kijken naar de door hen gebruikte software.”
