Opinie

'Vooroordelen worden ongecontroleerd machines aangeleerd'

Computers leren op ­basis van het materiaal dat mensen hun geven. ­Linda Duits wil het in 2019 graag over de vooroordelen van de techjongens hebben.

In Terminator 2 wordt de mensheid gewaarschuwd voor kunstmatige intelligentie die de mensheid wil vernietigenBeeld TriStar Pictures

Een angstaanjagend beeld: uitgebrande auto's en ingestorte gebouwen. Overal liggen schedels. Een voice-over vertelt dat drie miljard mensen het leven hebben gelaten.

Terwijl de camera over het apocalyptische landschap glijdt, zegt de stem dat de overlevenden een nieuwe nachtmerrie wacht: de oorlog tegen de machines. Een mechanische voet vertrapt krakend een schedel. Dan zien we een van de machines waarover ze spreekt. Een boosaardige robot met felrode lampjes op de plek waar bij mensen ogen zitten, in zijn hand een machinegeweer.

Het is de openingsscène van Terminator 2: Judgment Day, een sciencefictionfilm uit 1991 en onderdeel van een serie die waarschuwt voor kunstmatige intelligentie die de mensheid wil vernietigen. Het keerpunt is het moment dat 'de machines' zelfbewust worden. De filmreeks laat ons nadenken over de risico's van zelflerende systemen.

Het eerste deel is al uit 1984, maar de boodschap heeft in 35 jaar nauwelijks aan zeggingskracht ingeboet. Sterker, met de snelle groei van kunstmatige intelligentie (artificial intelligence: AI) is het belang van de waarschuwing alleen maar groter geworden.

De macht van algoritmen
Het Amerikaanse onderzoeksinstituut Pew vroeg in de zomer aan bijna duizend deskundigen of ze dachten dat mensen dankzij de groei van AI beter af zijn. De belangrijkste bedreiging die zij zagen: het verlies van menselijke controle. Oftewel: angst dat machines de baas worden.

Algoritmen zijn alomtegenwoordig. Ze bepalen welke zoekresultaten je ziet in Google en wat we krijgen voorgeschoteld op YouTube. Omdat YouTube graag wil dat je blijft kijken, zet het algoritme je steeds extremere video's voor. Ook buiten de media hebben algoritmen macht. Verzekeringspremies, bijstandsfraudeprofielen, controles bij zelfbedieningskassa's: allemaal worden ze gestuurd door algoritmen.

Een algoritme is niets meer dan een recept: een volgorde van stappen. Dat kunnen complexe reeksen worden, die bovendien zelflerend zijn en zo hun effectiviteit kunnen vergroten. Kunstmatige intelligenties ontstaan niet uit zichzelf. Computers leren op basis van het materiaal dat mensen aan hen geven.

Vooroordelen die in die gegevens zitten, worden gereproduceerd door het 'slimme' systeem. Als een machine leert van foto's waarop vrouwen vaker staan afgebeeld met een stofzuiger, leert die machine vrouwen te associëren met stofzuigen. De AI reproduceert zo seksisme.

Witte heteromannen
Er zijn ook voorbeelden in overvloed van homofobe en racistische algoritmen. Zo kwam neuro-informaticus Sennay Ghebreab het gebouw waar hij werkte steeds niet binnen: de deur ging voor hem niet open, maar wel voor zijn collega's. Het bleek dat de automatische deur was aangeleerd te reageren op mensen.

Toevallig ging het promotieonderzoek van Ghebreab over beeldherkenningssystemen. Hij vroeg de plaatjes op waarmee de AI was getraind en zag dat daar alleen witte mensen opstonden. Ghebreab heeft een donkere huidskleur en de AI zag hem dus niet als mens.

De techwereld bestaat grotendeels uit witte heteromannen. Niet zelden vinden zij aandacht voor gender, ras en etniciteit en seksualiteit vervelend en gezeur. De bedrijven die deze technologieën ontwikkelen, lijken bovendien niet geïnteresseerd in het monitoren van vooroordelen. Ze zijn daar ook niet transparant over. Daarmee is het opsporen van bias en de gevolgen daarvan nog moeilijker.

Facebook vormt hier een interessant voorbeeld. De ondoorzichtige algoritmen van het platform speelden bijvoorbeeld een rol bij de Amerikaanse presidentsverkiezingen. Niet alleen weigert Facebook openheid van zaken te geven, eigenaar Mark Zuckerberg ontloopt ook elke vorm van verantwoordelijkheid.

Subjectief en feilbaar
AI is een zwarte doos waarvan het onduidelijk is wie hem heeft gebouwd, en hoe. Er wordt te zeer gedaan alsof zulke systemen autonoom zijn. Het idee is dat mensen subjectief en feilbaar zijn, maar machines niet. Dat leidt ertoe dat de standaarden waaraan we mensen houden niet worden toegepast op machines, terwijl we ze wel verregaande beslissingen over ons leven laten nemen. De mens wordt uitgegumd.

Daar ligt een overeenkomst met Terminator. De wereld die de machines uit de films nastreven, is een wereld zonder menselijk falen en dus zonder mensen. Ik ben niet bang voor de machines. Ik ben bang voor de techjongens die ze bouwen.

Linda Duits, publicist, gespecialiseerd in populaire cultuur, in het ­bijzonder op het gebied van gender en ­seksualiteit
Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden