Gezichtsherkenning en andere realtime biometrie in de openbare ruimte moet verboden worden. Dit stelt de European Data Protection Board (EDPB) in een reactie op een wetsvoorstel van de Europese Commissie over artificiële intelligentie (AI). In de consultatie pleit de EDPB ook op een verbod op AI-systemen die mensen indelen op basis van bijvoorbeeld etniciteit, geslacht of seksuele voorkeur, omdat dit discriminatie in de hand werkt.
De EDPB is een samenwerking van de privacytoezichthouders van alle EU-landen. Samen met de Europese toezichthouder European Data Protection Supervisor (EDPS) hebben zij gereageerd op het wetsvoorstel.
Beperkte inzet van AI
De huidige tekst van het wetsvoorstel maakt het mogelijk dat overheden dit soort technieken mogen inzetten om bijvoorbeeld criminaliteit te voorkomen en bestrijden. De EDPB en de EDPS vinden dat de risico’s van gezichtsherkenning te groot zijn om deze techniek toe te staan in de openbare ruimte.
Dit geldt ook voor vergelijkbare technieken, zoals stemherkenning en bewegingsherkenning, doordat mensen zich minder vrij voelen om zichzelf te zijn. In het verlengde daarvan willen de toezichthouders ook niet dat AI beslissingen gaat nemen op basis van emoties, waarna de politie iemand kan staande houden die volgens het systeem ‘boos kijkt’.
De Europese Commissie werkt aan een wetsvoorstel over AI. Dit voorstel gaat over veel verschillende systemen, maar legt vooral extra regels op voor systemen met een hoog risico voor burgers. Zoals algoritmes die gaan over toeslagen of uitkeringen van de overheid voor burgers.
Brussel wil registratie, certificering en controles (toegang tot het algoritme’) van AI-systemen, maar de EDPB wil ook vooraf inhoudelijke normen. Ook noemen ze de handhaving en datatransfers naar buiten de Europese Unie. Verder sluiten teksten en definities (nog) niet aan op die in de AVG.
De EDPB en de EDPS zijn deze reactie overeengekomen tijdens de EDPB-vergadering van 18 juni 2021. De EDPB en de EDPS schreven dit advies op verzoek van de Europese Commissie. Later buigen ook de lidstaten van de EU zich nog over het voorstel, daarna nog het Europese Parlement.
