Wetenschappelijke raad pleit voor regels gebruik kunstmatige intelligentie

De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) wijst op de de groeiende impact van kunstmatige of artificiële intelligentie (AI) op het openbare leven, bij bedrijven en in de wetenschap. Het adviesorgaan van het kabinet benadrukt dat het de hoogste tijd is af te spreken in hoeverre we die razendsnelle en zelfdenkende technologie willen toelaten in onze samenleving. Nederland loopt achter in de discussie over dit onderwerp. Bovendien kan de technologie averechts werken, zoals wel is gebleken bij de toeslagenaffaire, toen de computer zonder tegenspraak selecteerde wie gecontroleerd moest worden vanwege fraudegevaar.

Daar zijn mensen terecht van geschrokken, aldus Corien Prins, voorzitter van de WRR en hoogleraar recht en informatisering aan de Universiteit Tilburg. Overheid en maatschappelijke instellingen zouden het toezicht op het gebruik van AI en de bewaking van het effect daarvan tot een vast onderdeel moeten maken van het eigen functioneren.” Dat betekent meer transparantie in het gebruik van AI. Burgers zouden bijvoorbeeld inzage moeten kunnen krijgen in een algoritmeregister.”

Voorzichtigheid

Volgens de WRR zijn we op een keerpunt aangekomen. AI is de experimentele fase ontgroeid en wordt inmiddels breed toegepast: van online kopen en zelfrijdende auto’s tot de koppeling van patiëntendata en het oplossen van vergeten misdaden. De raad pleit in zijn rapport voor de oprichting van een landelijk AI-coördinatiecentrum. Volgens Prins moet dat een kennisfunctie hebben, maar ook ‘een plek zijn waar signalen worden opgevangen als het misgaat, zoals bij de toeslagenaffaire. Of zoals in de VS waar een algoritme sollicitanten afwees, omdat ze (vanwege ziekte) een leemte hadden in hun cv. Voorzichtigheid is dus geboden, want de verleiding is groot zo te programmeren dat de computer ‘nieuwe inzichten’ kan verschaffen bij het doorploegen van data. Wereldwijd wordt het meeste geld voor AI geïnvesteerd in verdienmodellen.

De raad ziet naast de risico’s ook veel goede voorbeelden. Zo wordt bij de ambulancedienst in Kopenhagen AI gebruikt die kan vaststellen of een beller een hartaanval heeft. Zo ja, dan stuurt de meldkamer een link naar het mobieltje van de beller zodat die in beeld kan komen en direct eerste hulp kan worden geboden.

Belangrijke rol

Het gebruik van AI kan echter ook hinderlijk zijn, zo ervoer Prins onlangs aan den lijve toen ze haar elektrische auto wilde opladen langs de Duitse snelweg. De oplaadpaal bleek kapot en na drie keer pinnen werd haar creditkaart geblokkeerd. Het late uur, de locatie; de computer vond het maar verdacht. Of, zoals Prins het verwoordt: “Een intelligent systeem met een zekere mate van zelfstandigheid besloot dat er iets verdachts aan de hand was en blokkeerde daarom onze creditcard.”

Gelukkig had hier – en dat is ook waar het in het WRR-rapport over gaat – de mens nog een belangrijke rol te spelen. Prins: “Ik kon bellen met de bank, die controleerde nog wat identificerende gegevens en mijn creditcard werd weer gedeblokkeerd.”

Het is maar een klein voorbeeld van hoe je als organisatie of als samenleving meer dan ooit hebt na te denken over de bredere context van AI, stelt het rapport. Algoritmes kunnen mensen keihard uitsluiten van bijvoorbeeld een toeslag of een hypotheek zonder dat ze hun verhaal kunnen doen. En over dat laatste moeten we praten, benadrukt Prins.

Doemscenario

Dat kwaadaardige AI je de stuipen op het lijf kan jagen, weten we uit sciencefictionfilms als The Terminator en Robocop. Hoewel dat soort verhalen reuze spannend is, zijn ze niet erg realistisch, zegt hoogleraar Haroon Sheikh, medeopsteller van het rapport en projectcoördinator bij de WRR. Het gaat er volgens hem om dat er rond AI niet te hoge verwachtingen zijn, maar ook niet te grote doemscenario’s. “Er is behoefte aan een realistisch beeld wat zelflerende technologie vermag en ook hoe die ons dienstbaar kan zijn. Het zou bijvoorbeeld helpen als de overheid open kaart speelt over wat AI is en waar het zit, zoals inwoners van Amsterdam nu kunnen informeren welke algoritmes worden gebruikt bij de diverse diensten.”

Het is van belang, zo staat in het rapport, dat de overheid de burger veel beter dan nu voorlicht over de implicaties van AI. We moeten kunnen weten hoe en waarom kunstmatige intelligentie wordt toegepast. “Voordat het toeslagenschandaal naar buiten kwam, kon niemand de algoritmes weerspreken en vragen waarom bepaalde mensen de hele tijd werden gecontroleerd,” aldus Sheikh.

Prins trekt een les uit hoe het is gegaan met de wildgroei aan windmolens. “Je krijgt er onder burgers onvrede over, terwijl die windmolens een enorme potentie hebben om onze problemen op te lossen. Hetzelfde zal gebeuren met AI als we alles maar zijn gang laten gaan.”