Een meerderheid in het Europees Parlement (EP) heeft ingestemd met een resolutie die de inzet van AI-gezichtsherkenning in de openbare ruimte verbiedt. De resolutie is echter niet bindend. Op basis van de resolutie mogen overheden en wetshandhavers geen automatische gezichtsherkenningssoftware inzetten om mensen te identificeren. Voor lidstaten komt er nu een voorschrift om de resolutie te verankeren in de eigen wetgeving.
Het verbod is tot stand gekomen met het oog op discriminatie. Volgens het Europees Parlement is het niet mogelijk om niet-discriminerende algoritmen te ontwikkelen die het mogelijk maakt om verdachten uit te filteren. Kunstmatige intelligentie zou vrouwen, senioren, LGBT'ers en etnische minderheden te vaak verkeerd identificeren.
Een ander punt waarop de resolutie is aangenomen is dat verdachten het recht hebben om niet mee te werken aan hun vervolging. Geautomatiseerde systemen die vergaande gevolgen hebben voor de juridische positie van verdachten mogen derhalve onder de huidige Europese wetgeving niet ingezet worden.
Het Europees Parlement heeft zich daarnaast ook uitgesproken tegen private databases met informatie over gezichten van EU-burgers en daarop gebaseerde software. Een voorbeeld daarvan is het Amerikaanse ClearView, die op basis van profielfoto's op sociale netwerken een grote database aan gezichtsinformatie heeft opgebouwd en in staat is om vrijwel iedere burger die met een foto op internet staat te herkennen.
Ook andere vormen van wetshandhaving op basis van algoritmes, bijvoorbeeld voorspellende modellen voor criminele activiteiten, mogen volgens het EP niet ingezet worden. Ook heeft de EP zich uitgesproken tegen een sociaal krediet-systeem, zoals dat gangbaar is in China en burgers die goed gedrag vertonen privileges kunnen verdienen en burgers die slecht gedrag vertonen - al dan niet geautomatiseerd - gestraft kunnen worden.
De resolutie sluit aan bij een de concept verordening rondom de inzet van kunstmatige intelligentie en risicovolle toepassingen die in april van dit jaar werd gepubliceerd.
