Het Edinburgh International Justice Initiativ (EDRi) heeft in een onderzoeksrapport van EDRi de omvang van onwettige biometrische massasurveillancepraktijken in Duitsland, Nederland en Polen aan het licht gebracht die volgens het EDRi openbare ruimtes zoals treinstations, straten en winkels overnemen. De EU en haar lidstaten moeten volgens het EDRi nu actie ondernemen om duidelijke wettelijke grenzen te stellen aan deze praktijken, die volgens het EDRi een staat van permanente monitoring, profilering en tracking van mensen creëren.
Het nieuwe onafhankelijke rapport van het EDRi-netwerk van het Edinburgh International Justice Initiative (EIJI), "The Rise and Rise of Biometric Mass Surveillance in the EU", onthult bewijs van misbruik van gezichtsherkenning en andere vormen van biometrische massasurveillance in de hele Europese Unie. Dit onderzoek toont volgens het EDRi aan dat schadelijke biometrische massasurveillancepraktijken zorgwekkend zijn genormaliseerd door wetshandhavers, andere openbare autoriteiten en particuliere bedrijven in Duitsland en Nederland. Maar ook Polen begint de achterstand in te halen.
Uit het rapport blijkt dat in alle drie de landen biometrische systemen steeds vaker nodig zijn voor toegang tot openbare diensten, reizen, winkelen en andere dagelijkse activiteiten. Als gevolg hiervan krijgen mensen volgens het EDRi de valse ‘keuze’ om ofwel hun gevoelige gegevens in te dienen, ofwel uitgesloten te worden van de samenleving.
In alle drie de landen zetten regeringen en bedrijven biometrische massasurveillancesystemen in voor vermeende doelen zoals misdaadbestrijding of gemak, op manieren die onverenigbaar zijn met de EU-wetgeving inzake gegevensbescherming. Onschuldige mensen worden als verdachten behandeld door hun gevoelige gegevens op te nemen in enorme biometrische databases.
Voorbeelden uit Nederland
Het rapport laat zien hoe de Nederlandse politie naar verluidt financiële prikkels en ‘donkere patronen’ heeft gebruikt om mensen aan te moedigen privé-bewakingsbeelden met de politie te delen voor biometrische analyse, als een manier om de huidige nationale wetgeving te omzeilen. Bovendien laat het bewijs zien hoe publiek-private partnerschappen hele steden hebben veranderd in experimentele 'Living Labs' die de biometrische en andere gegevens van mensen volgen. Ze hebben dit zogenaamd gedaan om de mate van agressie van mensen of hun levensuitkomsten te voorspellen - ondanks recente rechtszaken die het ernstig discriminerende gebruik van AI door de Nederlandse overheid bij het leveren van welzijn en diensten aan het licht hebben gebracht.
Voorbeelden uit Duitsland
In Duitsland hebben autoriteiten in de stad Keulen gezichtsherkenningssystemen ingezet buiten LGBTQ+-locaties, religieuze locaties, dokterspraktijken en advocatenkantoren zonder enige legitieme rechtvaardiging. De onevenredige inzet van dergelijke technologieën tegen bepaalde gemarginaliseerde groepen versterkt de structurele onderdrukking in de samenleving en beperkt de rechten van mensen om zich vrij uit te drukken, zich zonder angst te bewegen en te zijn wie ze zijn.
Voorbeelden uit Polen
In Polen heeft de politie het op gezichtsherkenning gebaseerde COVID-19-quarantainesysteem van het land misbruikt om de huizen van mensen te bezoeken nadat ze hun quarantaine hebben beëindigd. De Poolse regering is ook beschuldigd van het gebruik van spyware waarmee de biometrische gegevens van mensen kunnen worden gesurveilleerd, ondanks het feit dat dergelijke spyware betrokken is geweest bij misdaden tegen mensenrechtenverdedigers.
De dringende noodzaak om biometrische massasurveillance te verbieden
Het onderzoek is volgens het EDRi een aanvullend bewijs van de noodzaak voor de EU om deze praktijken te verbieden en de grondrechten en de rechtsstaat te handhaven. Van het gebruik van kunstmatige intelligentie (AI)-technologieën om biometrische massasurveillance uit te voeren, tot schadelijke sociale scores en voorspellend politiewerk, EDRi pleit voor rode lijnen (wettelijke limieten) voor alle toepassingen van AI die onaanvaardbaar zijn in een democratische samenleving. Naast meer toezicht op degenen die AI ontwikkelen en inzetten, en een meer betekenisvolle betrokkenheid bij degenen die worden onderworpen aan AI-tools, zijn dergelijke maatregelen nodig om ervoor te zorgen dat de EU-aanpak van AI mensen echt op de eerste plaats zet.
Op dit moment bereiden het Europees Parlement en de Raad van de EU zich voor om te onderhandelen over de Artificial Intelligence Act (AI Act), een nieuwe wet die ons een unieke kans geeft om biometrische massasurveillance en andere AI-wetten te verbieden. praktijken die geen plaats hebben in een democratische samenleving. De AI-wet zal van invloed zijn op iedereen in de EU en daarbuiten, dus het is van vitaal belang dat de EU krachtige regels naar voren brengt die individuen en samenlevingen voorrang geven boven staatscontrole en hebzucht van bedrijven.
