Plus

Computerethicus Katleen Gabriels: ‘Algoritmen zijn nooit neutraal’

Vooraf kritische vragen stellen voorkomt dat kunstmatige intelligentie met ons aan de haal gaat. Bij Facebook ging het mis, bij de CoronaMelder ging het goed, zegt Katleen Gabriels, filosoof gespecialiseerd in computerethiek. ‘Elke datawetenschapper moet ethiekles krijgen.’

Een met kunstmatige intelligentie aangestuurde robotarm ‘leert’ tennisballen te slaan.Beeld Getty Images

Zelfs een computer zou moeite hebben met het beheer van haar overvolle agenda. Katleen Gabriels is een duizendpoot die niet alleen doceert aan de Maastricht University. Zij schrijft boeken met titels als Regels voor robots, over hoe de digitale wereld het leven bepaalt. Zij voert met technici en het publiek discussies over morele kwesties rond kunstmatige intelligentie (AI, naar het Engelse artificial intelligence).

AI wordt gebruikt voor ongelooflijk veel toepassingen. Zo kun je met stemanalyse een hartaanval voorspellen. Robotdrones schakelen de vijand uit. Hebben we er nog vat op?

“We doen in ons dagelijkse leven vaak een beroep op AI. Met Siri, de virtuele assistent van Apple, de tijdlijn van Facebook en de zoekmachine van Google. We zijn erg afhankelijk van de mobiele telefoon. Mensen keren terug naar huis als ze hun smartphone vergeten zijn.”

“De digitale maatschappij heeft ons gedrag veranderd, onze normen en onze waarden. We denken anders over informatie die we delen. Als je iemand 22 jaar geleden zou hebben verteld dat we nu foto’s van ons eten met anderen delen, dan hadden ze je voor gek verklaard.”

“De digitalisering kent vele valkuilen. Ik wil er twee noemen. Onze slaapkwaliteit holt achteruit, we willen altijd bereikbaar zijn. En met de personalisatie kunnen grote bedrijven veel data van iedereen verzamelen en bijvoorbeeld doelgericht adverteren.”

Technologie is nooit neutraal. Algoritmen bepalen wanneer we wat en hoe te zien krijgen?

“Ik denk niet dat dit goed tot iedereen is doorgedrongen. Mensen zien algoritmen vooral als wiskunde, een neutraal vakgebied. Maar dat is het niet. Gelukkig komt er regelgeving over de toepassing van algoritmen. Als op basis van een algoritme een ingrijpend besluit wordt gemaakt over jouw leven – bijvoorbeeld het afwijzen van een hypotheek – dan heb je recht op uitleg over hoe dat besluit tot stand is gekomen.”

Maken we de gevaren van AI te groot?

“Robots kunnen zichzelf niet ontwerpen. Als machines met kunstmatige intelligentie vanuit zichzelf leren, gebeurt dat onder supervisie van mensen. Er is geen systeem dat zichzelf heeft ontworpen. Machines hebben geen eigen vrije wil. Bij AI beslist de mens. AI is een tool, een gereedschap.”

Bij computertechnieken worden vragen over ethiek pas gesteld als het ontwerp klaar is. Is ethiek in ons technologisch bestaan maar bijzaak?

“Niet altijd. Er is een recent voorbeeld van hoe het wel kan en moet: de ontwikkeling van de corona-app. Daarbij zijn de ethische vragen wel vooraf gesteld, is van meet af aan overleg gevoerd tussen ingenieurs, ethici, beleidsmakers en burgers.”

Is dit een uitzondering op de regel?

“Zeker, maar je kunt het ook zien als een startschot. Bedrijven als Google en Facebook gaan niet meteen overstag. Te veel van hun technieken zijn ontwikkeld op basis van distraction by design, ontworpen om de aandacht te trekken en die met beloning van het brein vast te houden.”

Belangrijke kritiek komt van ontwerpers zelf.

“Gelukkig zijn er spijtoptanten. Zoals Tim Berners-Lee, de bedenker van het wereldwijde web. Hij pleit voor een webcontract met basisprincipes voor bedrijven, regeringen en individuen en werkt aan het platform Solid, waarbij het databeheer bij de gebruiker ligt.”

“De ontwerper van de iPhone, Tony Fadell, twijfelt er hevig aan of hij daarmee wel goed heeft gedaan. Toen hij in de twintig was heeft hij de iPhone ‘vooral voor zichzelf ontwikkeld’. Als veertiger met tienerkinderen ziet hij de schadelijke effecten. Nu pleit hij voor een eed van Hippocrates, niet alleen voor artsen maar ook voor ontwerpers. Of neem Chris Wetherell, de uitvinder van de retweetknop bij Twitter. Hij vergelijkt die knop nu met een geladen wapen in de handen van een vierjarige. Hij dacht met zo’n knop de stem van minderheden harder te kunnen laten klinken, maar de knop zwengelt juist polarisatie, heksenjachten aan.”

Het blijft mensenwerk om oplossingen te bieden?

“De sleutel tot verbetering ligt in de samenwerking tussen de verschillende disciplines. Zoals bij de CoronaMelder. Technologische ontwikkelingen moeten meteen zorgen voor debat. Vanaf het ontwerp, in het onderzoek, bij beleidsmakers. Een beleidsmaker die de techniek niet kent, weet niet wat er met data kan gebeuren. We moeten veel meer met zo’n model werken zoals bij de CoronaMelder.”

Op welke andere terreinen zou u dit model graag toegepast zien?

“Bij de inzet van zorgrobots. Hoe kunnen we die zo gebruiken dat verpleegkundigen meer ruimte krijgen voor een praatje, voor een persoonlijke invulling van zorg? Met AI kun je mensen thuis op afstand verzorgen. Slimme doosjes houden bij of mensen hun medicijnen innemen en slaan alarm als het misgaat.”

“Mensen moeten zelf de copiloot worden van hun gezondheid, met selftrackers en apps omdat we allemaal oud willen worden zonder het te zijn. Maar waar is dan de menselijke warmte? En in hoeverre moet je dat overlaten aan particuliere bedrijven? Wat gebeurt er met de data? En als je niet wil, verlies je dan het recht op een zorgverzekering?”

Iedere wetenschapper droomt van een ideale situatie. Waar wil techniekfilosoof Katleen Gabriels naartoe?

“Naar een wereld met meer kritisch denken, maar minder emocultuur. Met meer samenwerking bij de ontwikkeling van technologieën en meer onderwijs in ethiek. Het is doodnormaal dat iedere arts wordt onderwezen in ethiek. Dat moet ook gebeuren met ingenieurs en data- en computerwetenschappers.”

Katleen Gabriels

Hasselt (België), 1 mei 1983

2005master Germaanse talen, KU Leuven
2009master moraalwetenschappen, Universiteit Gent
2014gepromoveerd in de wijsbegeerte en de moraalwetenschappen, Vrije Universiteit Brussel (VUB)
2014-2017postdoctoraal onderzoeker VUB
2017-2018assistent hoogleraar Technische Universiteit Eindhoven
2019-hedenassistent hoogleraar Universiteit Maastricht, programmadirecteur bachelor digital society

Katleen GabrielsBeeld Karel Duerinckx

Gala van de Wetenschap

Chirurgen en robots opereren gebroederlijk naast elkaar en op het Leidseplein vindt crowdcontrol plaats met behulp van camera’s en computers. Anno 2020 is kunstmatige intelligentie niet meer weg te denken uit ons leven. Maar wat gebeurt er met al die data en hoe zit het met privacy? Volg het Gala van de Wetenschap via een livestream op donderdagavond 26 november met Katleen Gabriels, Rianne Letschert, Robbert Dijkgraaf, Jean Tillie, Lieven Scheire en anderen. galavandewetenschap.nl

Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden