PlusNieuws

VU-student stapt naar College voor Rechten van de Mens: spieksoftware herkent zwart gezicht niet

Een student van de Vrije Universiteit dient vrijdag een klacht in bij het College voor Rechten van de Mens. Volgens haar maakte de VU in coronatijd gebruik van racistische spieksoftware die haar niet herkende als mens vanwege haar zwarte huidskleur.

Roxane Soudagar
Robin Pocornie en Hans de Zwart (Racism and Technology Center) Beeld Racism and Technology Center
Robin Pocornie en Hans de Zwart (Racism and Technology Center)Beeld Racism and Technology Center

Tijdens de coronapandemie moesten studenten hun tentamens thuis maken. Veel universiteiten maakten daarbij gebruik van surveillancesoftware (proctoring) om te controleren op fraude. De VU gebruikte Proctorio: deze software scant aan het begin van elk tentamen het gezicht van de student om in te loggen.

Maar de inmiddels 26-jarige student Robin Pocornie had meerdere keren problemen met inloggen. De eerste keer duurde het ruim een kwartier; uiteindelijk moest ze een felle lamp direct op haar gezicht schijnen. Tijdens een ander tentamen werd ze halverwege uitgelogd omdat ze niet aanwezig zou zijn. Ze verloor opnieuw een kwartier van haar tijd. “Ik had al snel het vermoeden dat het iets met mijn huidskleur te maken had,” zegt Pocornie. “En toen ik ging zoeken naar andere ervaringen wist ik het vrij zeker.”

Onderzoek naar drie grote aanbieders van gezichtsherkenningssoftware toonde al in 2018 aan dat deze software vaak discrimineert. Vooral zwarte vrouwen werden opvallend vaak niet herkend: in bijna 35 procent van de gevallen niet, tegenover 0,8 procent van de witte mannen. En volgens een Amerikaanse software onderzoeker herkent het algoritme van Proctorio meer dan de helft van de zwarte gezichten niet.

Volgens Hans de Zwart van het Racism and Technology Center, dat Pocornie bijstaat, komen discriminerende algoritmes vaak tot stand omdat de set gezichten waarop de software wordt getest, vaak niet divers genoeg is. “We kennen al een aantal andere individuele gevallen in Nederland, maar verwachten dat na dit nieuws meer studenten zich realiseren waarom ze moeilijkheden hadden met de software.”

Officiële klacht

Pocornie diende een officiële klacht in bij de VU en vroeg de universiteit om direct te stoppen met het gebruik van Proctorio. Ook vroeg ze de universiteit om maatregelen te nemen tegen dit soort discriminatie, en publieke excuses aan te bieden aan studenten die dit hebben ervaren. De universiteit willigt de eisen niet in. Pocornie stapt daarom naar het College voor de Rechten van de Mens.

Ze verzoekt het College om te oordelen dat de universiteit zwarte studenten heeft gediscrimineerd. “Het gaat eigenlijk niet om mij,” licht ze toe. “Ik wil ervoor zorgen dat we publieke instellingen verantwoordelijk kunnen houden voor het gebruik van dit soort software, terwijl ze niet hebben gecontroleerd of het werkt voor álle studenten. Het gaat me om hoe we omgaan met dit soort technologieën en met racisme binnen universiteiten.”

De Volkskrant kreeg inzage in correspondentie van de VU, en schrijft dat er inderdaad vooraf geen onderzoek was gedaan naar mogelijke discriminerende effecten van Proctorio. De krant schrijft ook dat het onderzoek dat de universiteit inmiddels heeft ingesteld, wordt uitgevoerd door Proctorio zelf.

In een reactie zegt de VU dat het hen 'zeer raakt dat de studente zich zo benadeeld heeft gevoeld'. De universiteit heeft de klacht onderzocht, waaruit geen bewijs kwam dat de software discrimineert. Ze zijn momenteel in gesprek met Proctoro en overwegen ook nog een aanvullend extern onderzoek.

Het college moet besluiten of het de klacht van Pocornie wil behandelen, pas daarna volgt een eventuele uitspraak.

Tip Het Parool via WhatsApp

Heeft u een tip of opmerking voor de redactie? Stuur een bericht naar onze tiplijn.

Luister onze wekelijkse podcast Amsterdam wereldstad:

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden