Zeker 25 gemeenten gebruiken algoritmen voor risicoprofilering inwoners

Zeker 25 gemeenten gebruiken slimme systemen met algoritmen om in te schatten welke burgers mogelijk een risico vormen om bijvoorbeeld fraude te plegen.

null Beeld Hollandse Hoogte
Beeld Hollandse Hoogte

Dat blijkt uit onderzoek van de NOS in samenwerking met een aantal regionale omroepen. Inwoners worden via algoritmen automatisch ingedeeld in profielen om fraude op te sporen of juist te bekijken wie dreigt te bezwijken onder schulden. Het systeem geeft dan een seintje als een hoog risico wordt verwacht, waarna het dossier extra kan worden onderzocht door een ambtenaar.

Vrijwel overal ingezet

De 25 gemeenten, waaronder Breda en Twenterand, gaan daarmee verder dan andere overheden en bedrijven. Algoritmen worden namelijk vrijwel overal ingezet, bijvoorbeeld om boetes voor te hard rijden te geven of om automatisch brieven te versturen. Daarbij is echter nog geen sprake van risicoprofilering.

Het gebruiken van voorspellende systemen om fraude op te sporen ligt onder vuur sinds de toeslagenaffaire. Daarbij bleek bij ontvangers van de kinderopvangtoeslag een dubbele nationaliteit meegewogen te worden bij het formuleren van de risicoprofielen. Critici waarschuwen voor discriminatie: algoritmen worden getraind door mensen en die kunnen vooroordelen hebben die zo in het algoritme terechtkomen.

Transparantie

De Vereniging van Nederlandse Gemeenten stelt dat het inzetten van algoritmen voordelen biedt. Zo kunnen ze patronen herkennen die het menselijk oog niet direct oppikt. ‘Maar ze moeten wel voldoen aan principes van zorgvuldigheid, transparantie en proportionaliteit.’

Aan die transparantie schort het vaak nog. Gemeenten kunnen of willen geen duidelijkheid geven over de precieze werking van hun algoritmen. “Als je in de echte wereld wordt gediscrimineerd, kun je dat instinctief aanvoelen,” zegt jurist Marlies van Eck van de Radboud Universiteit tegen de NOS. “Maar als een algoritme dat doet, merk je dat misschien wel nooit.”

Algoritmeregister

De gemeente Amsterdam opende afgelopen september als een van de eerste steden een algoritmeregister. Dat is bedoeld om transparant te zijn over de inzet van de slimme systemen. In het register is te zien welke algoritmen de gemeente gebruikt met welk doel en hoe ze in elkaar steken. Ook moet er een ‘vergeet-me-knop’ komen. “Amsterdammers kunnen dan de gemeente verzoeken hun data te verwijderen als hier geen wettelijke verplichting of noodzaak tot verzameling voor is.”

Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden