PlusAchtergrond

Afspraken over algoritmes: Big Brother willen we hier niet

Bedrijven die als partner van de gemeente Amsterdam kunstmatige intelligentie gebruiken, krijgen voortaan kritische vragen. Doel: algoritmes met vooroordelen weren. De stad neemt ook zichzelf op de korrel.

Beeld Getty Images

Menigtemanagement bij voetbalwedstrijden in de Arena, speuren in big data naar luchtvervuiling of overlast, navigatiesoftware die helpt te voorspellen waar verkeersdrukte optreedt en programma’s die bepalen wat de prijs is voor een taxiritje vanuit bepaalde wijken: de stad is vol zelfdenkende programmatuur die het leven van Amsterdammers beïnvloedt.

De voordelen zijn evident, maar vrij van risico is het gebruik van kunstmatige intelligentie niet. Dat werd begin dit jaar nog maar eens aangetoond met het omstreden landelijke fraudesysteem SyRI (zie kader).

Ook in de stad kan dat beter, stelt de gemeente. “Wij maken nu nog vrijblijvend afspraken met partijen die onze straten gebruiken,” zegt Ger Baron, de topambtenaar technologie van de stad. “Dat moet anders. Hoe ga je om met straatbeelden en de data die ze opleveren? Wat doe je als je ze voor andere doeleinden gebruikt? Ondernemers willen daar best regels voor.”

Grenzen stellen

De gemeente vraagt daarom voortaan van bedrijven die hier zijn gevestigd of die naar Amsterdam komen wat hun beleid is op het gebied van kunstmatige intelligentie. Ondernemers moeten bij de gemeente aangeven in welke processen ze algoritmes gebruiken, en welk beleid ze voeren om invloed van ongewenste vooroordelen te vermijden. Een aantal bedrijven, waaronder Philips en Google, heeft al een handvest over zulke kwesties. “We willen niet per se grenzen opleggen,” zegt innovatiemanager Aik van Eemeren. “Als het echt niet anders kan, gaan we beleid afdwingen.”

Bedrijven zijn daar best gevoelig voor, verwacht Baron, ook omdat ze de overheid nodig hebben om gegevens te verzamelen. “Tal van bedrijven rijden rond met auto’s die in de openbare ruimte foto’s en sensordata verzamelen. Google meet met zijn camera-auto’s luchtkwaliteit in Amsterdam. Die data worden verwerkt en misschien worden daar wel verregaande conclusies aan verbonden.”

Eigen algoritmes

In het streven naar veilige kunstmatige intelligentie wil de stad zelf het goede voorbeeld ­geven. In een register komen de eigen toepassingen van kunstmatige intelligentie én die van partners. Van Eemeren: “Zo vragen we ons af of uitzendbureaus waarmee we zaken doen, voldoende transparant zijn bij de selectie van mede­werkers.”

Ook wordt kritischer gekeken naar de eigen algoritmes. “We onderzoeken of daar vooroordelen in verborgen zitten,” zegt Baron. Dat bleek inderdaad het geval bij de verwerking van klachten. “Iedereen die een melding doet bij Amsterdam.nl wordt beoordeeld door een algoritme. We zien dat sommige mensen ‘beter’ klagen dan anderen. Dat heeft te maken met hoe het algoritme woorden weegt. ‘Klacht’ weegt in het algoritme zwaarder dan ‘teringzooi’. Het ene woord wordt in Zuid vaker gebruikt, het andere in Noord. Sommige mensen weten nu welke woorden ze moeten gebruiken om het beste resultaat te halen. Dat zou niet moeten uit­maken.”

Ook test de stad een algoritme waarmee de naleving van regels voor vakantieverhuur van woningen in kaart wordt gebracht. Zo is het in Amsterdam alleen toegestaan om woningen maximaal 30 dagen per jaar via sites als Airbnb te verhuren en wordt dat in delen van de binnenstad helemaal verboden. “We gebruiken het op proef en niet voor opsporing. Dat kan pas als dat netjes en open mogelijk is. We willen eerst zien waar we tegenaan lopen, ook als voorbeeld­project voor andere toepassingen. Daarom maken we dit zelf. We leggen de spelregels voor het gebruik van kunstmatige intelligentie vast en publiceren hoe we dat doen.”

Hangt reclame goed?

Baron wil met elke partij afspraken maken over het delen van gegevens. “Zodat informatie niet alleen voor commerciële, maar ook voor maatschappelijke doeleinden kan worden gebruikt. Ook start-ups of de ruim duizend onderzoekers aan onze universiteiten moeten toegang hebben.”

En de overheid. “Kunnen we straatbeelden gebruiken om te kijken of reclame op de goede plek hangt, of dat straatmeubilair scheef staat? We werken nu aan een toepassing die objecten herkent, open source, met een controleerbare algoritme en open discussie. Zodat je kunt zien of ergens afval staat, of straatmeubilair kapot is.”

Kentekens en gezichten worden eruit gefilterd. Dat vindt Baron ‘best een lastige discussie’. “We willen met zijn allen geen gezichtsherkenning in de openbare ruimte. Vervolgens doet iedereen op Facebook zelf wel aan gezichts­herkenning.”

SyRI in overtreding

SyRI (Systeem Risico Indicatie) was een systeem van het ministerie van Sociale Zaken dat gegevens uit overheidsdatabanken – ook die met privacygevoelige informatie – samenvoegde. Algoritmes analyseren de data om fraude op te sporen. De keuzes van de kunstmatige intelligentie waren onvoldoende helder om te beloven dat bepaalde groepen niet worden benadeeld. Begin februari oordeelde de rechter dat SyRI een te grote inbreuk maakt op het privéleven van Nederlanders en in strijd is met het Europees Verdrag voor de Rechten van de Mens.

Amsterdam in de voorhoede

Amsterdam behoort volgens het bedrijf in organisatieadvies Oliver Wyman tot de tien wereldsteden die vooroplopen met voorbereidingen op het gebruik van kunstmatige intelligentie – zowel in onderzoek, overheidstoepassingen als bedrijfsleven. “Amsterdam scoort relatief hoog op het gebied van visie,” zegt partner Coen Degen. “De stad heeft goed op de kaart hoe kunstmatige intelligentie een voordeel kan op­leveren voor inwoners en hoe discriminatie te voorkomen. Er wordt nagedacht over ethische keuzes, er vallen besluiten, er zijn regelingen. Er is ook voldoende uitvoering, met pilots binnen de gemeente en samenwerking met universiteiten en onderzoeksinstellingen.”

“Amsterdam scoort wat lager op het vlak van snelheid. Aziatische steden maken sneller stappen met het aantrekken van bedrijven en investeerders op dit vlak.”

Om de voorsprong te behouden moet de stad niet inzakken, adviseert Degen. “Zorg ervoor dat die openheid blijft. Zorg dat divers talent wordt aangetrokken, zorg dat dit onderwerp in Amsterdam op de radar blijft. Juist inpassen van kunstmatige intelligentie in het dagelijks leven is van groot belang voor de toekomstige concurrentiepositie en de sociale cohesie van een stad.”

Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden