De overheid beperkt het gebruik van algoritmes en bekijkt of bepaalde software en methoden van Rijksdiensten leiden tot ongeoorloofde profilering, etnische profilering en institutioneel racisme. dat meldt minister Kajsa Ollongren van het Ministerie van BZK aan de Tweede Kamer. De Kamer heeft met moties gevraagd om onderzoek in het plenaire debat over institutioneel racisme op 1 juli 2020.
Ollongren loopt in de kamerbrief enkele lopende dossiers langs. BZK heeft in 2018 onderzoek laten uitvoeren door de Universiteit Utrecht naar de implicaties van algoritmen voor grondrechten. Hierbij kwamen onder meer de risico’s van profileringstechnieken voor het verbod van discriminatie aan de orde. Een onderzoek in 2019 heeft de risico’s van Artificial Intelligence (AI) in kaart gebracht.
Op 26 juni 2020 is het onderzoek gepubliceerd van de Universiteit Utrecht, in opdracht van het WODC, naar de toekomstbestendigheid van de juridische kaders rondom algoritmen die besluiten nemen. Het onderzoek gaat in op algoritmen die besluiten nemen, zelfstandig of als onderdeel van een proces waarin ook menselijke tussenkomst/besluitvorming aan de orde is. Hier heeft het kabinet nog niet op gereageerd.
