Opinie

Opinie: ‘Betekenen oorlog en de strijd tegen de misdaad het einde van de privacy in Europa?’

Het is lastig om in een oorlog als die in Oekraïne de identiteit van slachtoffers vast te stellen. Gelukkig helpt het databedrijf Clearview AI. Dat dat bedrijf niet erg zorgvuldig met de privacywetgeving omspringt nemen we voor lief. Betekent dit het einde van het recht op privacy in Europa, vraagt Aaron Mirck zich af.

Aaron Mirck
Clearview AI, een Amerikaans bedrijf, helpt de Oekraïense overheid de identiteit van bij de Russische invasie omgekomen burgers te bepalen, bijvoorbeeld in het stadje Boetsja. Beeld ROMAN PILIPEY/EPA
Clearview AI, een Amerikaans bedrijf, helpt de Oekraïense overheid de identiteit van bij de Russische invasie omgekomen burgers te bepalen, bijvoorbeeld in het stadje Boetsja.Beeld ROMAN PILIPEY/EPA

De oorlog in Oekraïne heeft inmiddels meer dan 1400 Oekraïners het leven gekost. Om de identiteit van de slachtoffers te bepalen wordt een systeem gebruikt waar tien miljard foto’s in staan, zonder dat iemand in die database daar ooit toestemming voor heeft gegeven. Dat is niet het enige Europese privacyschandaal: de Europese Commissie heeft een plan voor een van de grootste gezichtsherkenningssystemen ter wereld. Betekent dit het einde van privacy in Europa?

Clearview

Clearview AI, een Amerikaans bedrijf, helpt de Oekraïense overheid ‘om niet’ de identiteit van bij de Russische invasie omgekomen burgers te bepalen. Ook bij checkpoints komt de software van pas, want zo worden niet-Oekraïners sneller herkend. Dat klinkt als goed nieuws, maar dat is het niet.

De gezichtsherkenningssoftware van het bedrijf is namelijk allesbehalve privacyvriendelijk. Sterker: de kans is groot dat ook uw foto in de database van Clearview AI staat, zonder dat u daar ooit toestemming voor hebt gegeven. Ook als u geen sociale media gebruikt, staat u waarschijnlijk in het systeem, want de kans is groot dat u op een (online) groepsfoto staat en ‘getagd’ bent. Clearview heeft inmiddels meer dan tien miljard foto’s via sociale media en andere online bronnen verzameld.

Google, Meta (het moederbedrijf van Facebook) en Twitter hebben Clearview AI verzocht te stoppen met het verzamelen van foto’s, maar daar gaat het vrolijk mee door. Boetes houden het bedrijf niet tegen, zelfs niet de 20 miljoen euro boete die het vorige maand in Italië kreeg opgelegd omdat het bedrijf zich niet aan de Europese privacyrichtlijn houdt.

Clearview AI komt daarbij regelmatig in opspraak wegens racisme en andere vormen van discriminatie die zich vaak voordoen bij systemen die gebruik maken van kunstmatige intelligentie (AI). Willen we echt dat een racistisch algoritme bepaalt wie wie is? Leren we dan niets van de toeslagenaffaire waarbij een racistisch algoritme bepaalde wie er waarschijnlijk met toeslagen zou frauderen?

Het bedrijf wil tot overmaat van ramp zijn software verkopen aan de Verenigde Arabische Emiraten, een land dat weinig vredelievend is tegenover politieke dissidenten. Ook Qatar en Singapore, waar homoseksualiteit strafbaar is, hebben interesse. Moeten deze landen echt de beschikking krijgen over een database met tien miljard foto’s om zo kritische burgers of homoseksuelen op te sporen? En wat gebeurt er als deze software in handen komt van Russische soldaten, die zo ook Oekraïense burgers kunnen identificeren?

Prüm II

Ook in de Europese Unie staat de privacy onder druk. Prüm II, een nieuw plan van de Europese Commissie, laat Europese landen foto’s van verdachten vergelijken. Net zoals bij de software van Clearview AI wordt er gebruik gemaakt van slimme algoritmes om verdachten te identificeren. Handig als een Spaanse crimineel zich in Frankrijk bevindt, toch?

Als dit plan doorgaat, ontstaat een van de grootste gezichtsherkenningssystemen ter wereld. De politiediensten kunnen stilstaande beelden van straat- en bewakingscamera’s, foto’s van sociale media of die op de telefoon van een slachtoffer vergelijken met mugshots in een politiedatabase. De burgerrechten-ngo European Digital Rights (EDRi) noemt het de meest uitgebreide biometrische surveillance-infrastructuur ter wereld.

Het gebruik van gezichtsherkenningstechnologie is niet zonder risico: wie verkeerd geïdentificeerd wordt door zo’n algoritme is de klos. Dat heeft in de Verenigde Staten al tot schrijnende situaties geleid. Tientallen steden in Amerika verbieden lokale politiediensten dan ook om gezichtsherkenningstechnologie te gebruiken. De EU debatteert op dit moment nog over zo’n verbod.

Clearview AI en Prüm II illustreren een modern dilemma voor Europa. Accepteren we dat de privacy van – ook onschuldige – burgers geschonden wordt in de strijd tegen de misdaad? Komen we in verzet tegen een bedrijf dat software ontwikkelt om mensenrechtenschendingen mogelijk te maken, ook als dat bedrijf Oekraïne helpt om slachtoffers te identificeren? Is het weggeven van software aan een land in oorlog niet een smakeloze manier om goede sier te maken, iets als greenwashing (duurzame schijn), maar dan warwashing? En zouden we iets leren van de toeslagenaffaire, waarbij we de macht uit handen gaven aan een racistisch algoritme?


Aaron Mirck schrijft en spreekt over de impact van technologie op ons dagelijks leven. Recent publiceerde hij de dichtbundel 'Dit algoritme deugt niet'. Beeld -
Aaron Mirck schrijft en spreekt over de impact van technologie op ons dagelijks leven. Recent publiceerde hij de dichtbundel 'Dit algoritme deugt niet'.Beeld -
Meer over

Wilt u belangrijke informatie delen met Het Parool?

Tip hier onze journalisten


Op alle verhalen van Het Parool rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@parool .nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden