De Autoriteit Consument & Markt (ACM) is begonnen met een proef om te achterhalen hoe zij in de praktijk de werking van algoritmes kan controleren bij marktpartijen. De ACM wil uit de proef opgedane kennis gebruiken om marktpartijen te laten weten wat zij kunnen verwachten als de ACM hun algoritmes controleert. De toezichthouder voert de proef uit in samenwerking met Muziekweb, de muziekbibliotheek van Nederland.
Algoritmes spelen een steeds grotere rol bij de handelspraktijken van bedrijven, stelt Cateautje Hijmans van den Bergh, bestuurslid van de ACM, ineen toelichting. "Om digitale markten goed te laten werken is het belangrijk dat wij kunnen vaststellen hoe algoritmes in de praktijk werken en welke gevolgen zij hebben. Daarom zijn we deze proef gestart, waarin we de werking van een concreet algoritme onderzoeken en nagaan wat de ACM voor haar toezicht nodig heeft.”
Zorgen over toepassing algoritmen
De toepassing van AI-gebaseerde algoritmes kan voordelen opleveren voor bedrijven, zoals het beter laten aansluiten van vraag en aanbod. Maar er zijn volgens de ACM ook zorgen. Bijvoorbeeld dat bedrijven algoritmes inzetten om consumenten online te sturen in hun keuzes en aankopen, die niet altijd in het belang van de consument zijn. Ook zijn er twijfels of er nog wel voldoende zicht en controle is op de werking en effecten van complexe algoritmes.
De ACM heeft hierover afgelopen april de Leidraad bescherming online consument uitgebracht. Hierin heeft de toezichthouder de grenzen vastgesteld waar verleiding overgaat in misleiding. Zo werd volgens de ACM een belangrijke volgende stap gezet in de bescherming van de online consument.
Rol algoritmen bij overtredingen
De ACM kan onderzoek doen naar de werking van algoritmes en de manier waarop marktpartijen deze inzetten, als deze een rol spelen bij overtredingen van de normen waarop de instantie toezicht houdt. Dat kan bijvoorbeeld het geval zijn wanneer algoritmes prijzen bepalen, vraag en aanbod op de energiemarkt sturen, het aanbod personaliseren, tot kartelvorming kunnen leiden of consumenten sturen richting een aankoopbeslissing die tegen hun eigen belang ingaat. De ACM heeft hiertoe de beschikking over een team van 15 experts op het gebied van algoritmes en data.
Bij zo’n onderzoek kijken deze experts onder meer naar:
- De rol van het algoritme bij de mogelijke overtreding;
- Het doel waarvoor het algoritme wordt ingezet;
- De uitgangspunten die ten grondslag liggen aan het ontwerp en/of de implementatie van het algoritme;
- De input voor en uitkomsten van het algoritme.
Proefdeelnemer Muziekweb gebruikt algoritmes om bezoekers muziekadvies op maat te geven. In bovengenoemde proef kijkt de ACM hoe het komt dat het algoritme bijvoorbeeld de ene persoon rockmuziek en de andere juist jazz aanbeveelt. De toezichthouder doet geen onderzoek naar deze partij, maar brengt in kaart welke informatie zij nodig heeft om onderzoek te kunnen doen naar de werking van algoritmes. Deze kennis is belangrijk voor toekomstige onderzoeken naar overtredingen van marktpartijen waarbij algoritmes een rol spelen.
De digitale economie is een agendathema voor de ACM. De ACM heeft voor haar eigen toezichtsterreinen in een ‘position paper’ beschreven welke mogelijkheden er in theorie zijn om de werking van een algoritme in te controleren. Uiteraard zijn er ook andere terreinen waarop het gebruik van algoritmes een rol speelt. In het toezicht op algoritmes zoekt de ACM daarom uitdrukkelijk de samenwerking met andere betrokken partijen, zoals andere toezichthouders en inspectiediensten.
Vuistregels online platforms
De ACM publiceerde in november vuistregels voor online platforms. Deze regels moeten consumenten, handelaren op deze platforms en de platforms meer zekerheid geven over hun rechten en plichten. De vuistregels zijn te onderscheiden in informatie- en transparantieverplichtingen enerzijds en organisatorische en controleverplichtingen anderzijds.
In een brief aan de Tweede Kamer gaf het ministerie van EZK eerder deze week een toelichting over haar beleid rondom AI, algoritmen en consumentenbescherming. "Het gebruik van data, AI en algoritmen heeft bedrijven en consumenten kansen en gemak opgeleverd. Desalniettemin is het belangrijk om ook oog te houden voor de keerzijden van deze ontwikkelingen. De digitale economie kan alleen floreren als de consument daarin een sterke positie inneemt. Daar is op nationaal en op Europees niveau aandacht voor", schrijft staatssecretaris Keijzer.
In de Kamerbrief wordt ook verwezen naar het Witboek over AI (artificiële intelligentie) van de Europese Commissie. Hierin wordt benadrukt dat consumentenbescherming ook een plaats moet krijgen bij het ontwikkelen van beleid op het terrein van AI.
Position paper over toezicht op gebruik algoritmen
De ACM heeft ook een position paper gepubliceerd als vertrekpunt van waaruit de de toezichthouder het toezicht op algoritmische toepassingen verder wil ontwikkelen. Het biedt algemene handvatten voor onderzoeken naar overtredingen waarbij algoritmische toepassingen een rol spelen.
De ACM beschrijft in het position paper wat algoritmische toepassing zijn en wanneer zij relevant zijn voor de ACM. Vervolgens licht de ACM toe hoe zij in de praktijk algoritmische toepassingen kan onderzoeken en bespreekt zij enkele uitdagingen waar zij in de praktijk mee te maken kan krijgen.
De ACM wil met deze publicatie bijdragen aan de nationale en internationale discussie over de toepassing van AI (artificiële intelligentie) door bedrijven en het toezicht daarop door toezichthouders.
