PlusFilmrecensie

Coded Bias is een pleidooi voor regulering van algoritmes

Still uit Coded Bias. Beeld
Still uit Coded Bias.

Pas toen ze een wit masker opzette, kon de gezichtsherkenningssoftware haar herkennen. Computerwetenschapper Joy Buolamwini, hoofd­figuur in de documentaire Coded ­Bias, vertelt het met opgewekte strijdvaardigheid. Het is een toon die doorwerkt in deze inzichtelijke en daardoor bij vlagen verontrustende documentaire over de alomtegenwoordigheid van algoritmes in ons dagelijks leven.

Buolamwini richtte de Algorithmic Justice League op, een activistisch verbond dat strijdt tegen de vooroordelen die liggen besloten in algoritmes en kunstmatige intelligentie. Want hoewel algoritmes de suggestie van objectiviteit hebben, zijn de data waarmee ze gevoed worden een reflectie van de wereld zoals deze is, legt Buolamwini uit. Zolang de groep mensen achter deze algoritmes homogeen is (wit, man), zullen de algoritmes die eenkennigheid volgen. Vooroordelen over etniciteit, gender en sociale klasse worden door het algoritme niet uitgebannen, maar juist gemechaniseerd, vastgelegd in een illusie van neutraliteit.

Coded Bias laat zien hoe wijdverspreid het gebruik van dit soort software en algoritmes is. In Londen volgt de documentaire non-profit­organisatie Big Brother Watch, die zich verzet tegen het gebruik van ­gezichtsherkenningssoftware om op straat voorbijgangers te scannen en af te zetten tegen een database van verdachte personen. Ondanks aantoonbare onbetrouwbaarheid wordt het systeem ingezet om mensen staande te houden en te fouilleren.

Meer dan een aanklacht is Coded ­Bias een overtuigend pleidooi voor regulering van deze algoritmes en voor het betrekken van ethiek in de discussie erover. Die discussie komt op politiek niveau de laatste jaren eindelijk serieus op gang, niet in de laatste plaats dankzij het werk van Buolamwini en haar Algorithmic Justice League. Dat levert concrete successen op, maar legt ook bloot hoe ongeremd dit zich jarenlang heeft ontwikkeld, hoeveel kennis (en dus macht) er in dat proces terecht is ­gekomen bij een handjevol tech­bedrijven.

Je kunt je afvragen of de discussie niet nog een stap eerder gevoerd zou moeten worden. Willen we überhaupt algoritmes zo’n grote rol laten spelen in onze samenleving, ook al zijn dat goed werkende algoritmes? De wetenschappers in Coded Bias pleiten weliswaar voor een menselijke sluitpost, maar dat we steeds meer aspecten van ons leven in de handen leggen van kunstmatige intelligentie lijkt een gegeven en daarmee de discussie daarover een gepasseerd station.

Coded Bias

Regie Shalini Kantayya
Met Joy Buolamwini, Meredith Broussard, Cathy O’Neil
Te zien op Netflix, Movies that Matter, Imagine Film Festival

Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden