Opinie

‘Bij de juiste keuzes is de app CoronaMelder niet eng’

In Amsterdam werkt de app CoronaMelder nog niet, tot opluchting van menigeen. Volgens ICT-adviseur Christian Verhagen is de vrees voor misbruik door de staat overdreven. 

Beeld Yoko Heiligers

De CoronaMelder wordt door velen nog met scepsis en wantrouwen ontvangen. Het past in de bredere discussie rond het gebruik van technologie en algoritmes door de overheid. Er wordt een angstbeeld gecreëerd rond de app waarbij Nederland zou veranderen in een Orwelliaanse surveillancestaat waarin algoritmes het voor het zeggen hebben.

Nederland is echter geen China. Technologie kan in een totalitair systeem leiden tot een versterking van de controle, maar dit is niet hoe ons systeem werkt. De overheid is bij de inzet van technologie gebonden aan wet- en regel­geving. Privacy en mensenrechten moeten gewaarborgd zijn en discriminatie mag nooit. Ook moet er een juridische basis zijn voor het gebruik van technologieën zoals de Corona­Melder. Na kritiek van de Autoriteit Persoonsgegevens komt er dan ook een wet om de inzet van de app goed te regelen.

Overheden moeten daarnaast uitleg kunnen geven over hoe zij tot een besluit komen of – wanneer transparantie niet gewenst is – moeten zij aantonen dat er rechtmatig en billijk gehandeld is. Wordt niet aan deze voorwaarden voldaan, dan kan de rechter het gebruik van het algoritme verbieden, zoals eerder dit jaar is gebeurd bij SyRI (Systeem Risico Indicatie).

Wel of geen quarantaine

De vraag of we toepassingen als de Corona­Melder of algoritmes ook ethisch vinden, is van een andere orde. Dat gaat niet zozeer over de technologie, maar over hoe we die gebruiken.

Een systeem is uitstekend in staat grote hoeveelheden data te analyseren om statistische patronen en verbanden te herkennen die wij niet zien. Wat daar vervolgens mee gebeurt, is in vrijwel alle gevallen aan de mens. Zo kan de CoronaMelder vrij nauwkeurig aangeven of u in aanraking bent gekomen met het virus. De keuze – en de ethische afweging – om u vervolgens op basis hiervan al dan niet vrijwillig in quarantaine te plaatsen, is in dit geval aan de politiek.

Dat is niet anders dan nu, alleen kan met de CoronaMelder een meer weloverwogen en beter onderbouwd besluit genomen worden. Het nemen van ethisch verantwoorde beslissingen is dan ook aan de mens, en niet aan algoritmes of systemen zoals Rudy van Belkom 29 juli op Het Hoogste Woord bepleitte.

Belastingdienst

In veel van de gevallen waarvan we achteraf stellen dat er onethisch is gehandeld, zoals bij de Belastingdienst, was dat het gevolg van menselijk handelen. Zoals het onjuist of zelfs onwettig gebruik van data, maar bovenal het onterecht en mogelijk moedwillig interpreteren van zachte signalen als hard bewijs. Daardoor zijn op basis van niet meer dan vermoedens ten onrechte toeslagen stopgezet, waardoor burgers in de problemen kwamen.

De achilleshiel bij het gebruik van technologie en algoritmes is en blijft de mens. Dat begint al bij het ontwerp. Bij het gebruik van algoritmes moet goed worden nagedacht over het doel ervan en de data die daarvoor nodig is. De werking van het algoritme wordt immers in grote mate bepaald door menselijke ontwerpkeuzes of bias (vooringenomenheid) in de data. Als de Belastingdienst een algoritme ontwikkelt dat bepaalde groepen stigmatiseert, is dat algoritme niet meer dan een reflectie van onze eigen vooroordelen.

Toetsen en beproeven

Om dat te voorkomen moeten ingrijpende algoritmes getoetst en beproefd worden. Bijvoorbeeld aan de hand van een onafhankelijk toetsingskader of door kritische burgers en experts erbij te halen, zoals is gedaan bij de ontwikkeling van de CoronaMelder. Door transparant te zijn over het gebruik en dat waar nodig te toetsen, helpen algoritmes juist bestaande vooroordelen bloot te liggen en keuzes expliciet te maken.

Het is aan de mens om kritisch te reflecteren op deze keuzes. Technologie als de CoronaMelder is nooit een doel op zich, maar altijd een middel. Hoe we dat middel inzetten, is aan ons. De CoronaMelder helpt ons betere beslissingen te nemen om het virus in te dammen en algoritmes zijn bij goed gebruik een verrijking van ons eigen afwegings­kader, ter vervanging van de onderbuik.

Christian Verhagen. Senior-adviseur data & ­analytics voor de publieke sector bij ICT-adviesbureau Verdonck, ­Klooster & ­Associates.

Reageren op dit opiniestuk, of zelf een opinie insturen? Dat kan via hethoogstewoord@parool.nl.

Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden