Het kabinet heeft een aantal richtlijnen opgesteld voor het gebruik van algoritmes op het gebied van AI (kunstmatige intelligentie), machine learning en deep learning. Het doel is om het toepassen van algoritmen transparant en toetsbaar te maken, stelt minister Dekker van Rechtsbescherming.
Data-analyses met behulp van slimme algoritmes brengen volgens Dekker ook risico’s met zich mee. Dat stelt de minister tegenover de Tweede Kamer als het gaat om toepassen van algoritmen door de overheid. Overheid en burgers moeten zich bewust zijn van deze risico’s van data-analyse.
Zo kan de transparantie over de doelen van het gebruik onvoldoende zijn, brongegevens kunnen fouten bevatten en de toenemende complexiteit maakt algoritmes steeds lastiger te doorgronden. Het vorige kabinet wilde daarom weten of de waarborgen tegen deze risico’s versterkt konden worden.
Zeven richtlijnen
Om ‘transparantie, toetsbaarheid en rechtsbescherming’ te waarborgen zijn er nu zeven richtlijnen geformuleerd. Uiteindelijk wil het kabinet toewerken naar waarborgen die in wetgeving worden vertaald.
- Technische transparantie en uitlegbaarheid: de broncode en input moeten beschikbaar zijn en de uitkomsten uitlegbaar.
- De overheid moet consequenties kunnen uitleggen.
- Er moeten strikte methoden gebruikt worden en tests gedaan worden voor validatie.
- Alle betrokken partijen moeten zich bewust zijn van de risico’s, zoals discriminerende factoren die in het ontwerp zitten.
- De keuzes voor gegevens en parameters moeten worden beschreven.
- Modellen, data, algoritmes, en beslissingen ‘met specifieke consequenties voor individuele burgers’ moeten vastgelegd worden zodat ze verifieerbaar zijn.
- Methoden moeten (gerechtelijk) kunnen worden getoetst.
Volgens Dekker zijn overheden ook verantwoordelijk voor beslissingen die door hun gebruikte algoritmes worden gemaakt, ‘ook als deze door derden zijn gemaakt, zelfs als deze niet in detail uitlegbaar zijn. Zij dienen daarover dan ook verantwoording te kunnen afleggen.’
Binnenlands Bestuur, het blad voor Nederlandse gemeenten, stelt dat er met de Vereniging van Nederlandse Gemeenten (VNG) is afgesproken dat de richtlijnen op gemeenten worden afgestemd. ‘In dat proces zal onder meer worden gekeken naar de uitvoerbaarheid van de richtlijnen en zal onder auspiciën van de VNG een impactanalyse voor gemeenten worden uitgevoerd.’
