De Autoriteit Consument & Markt (ACM) is vandaag een proef gestart hoe zij in praktijk de werking van algoritmische toepassingen bij marktpartijen kan controleren. Met deze kennis wil de toezichthouder bedrijven en organisaties informeren over wat zij kunnen verwachten als de ACM ooit hun algoritmes controleert. In het rapport ‘Toezicht op algoritmes’ somt de toezichthouder een aantal algemene handvatten op naar overtredingen waarbij algoritmische toepassingen een rol spelen.
Dat schrijft de ACM in een persbericht.
Algoritmes hebben voor- en nadelen
Cateautje Hijmans van den Bergh, bestuurslid van de ACM, zegt dat algoritmes vandaag de dag een steeds grotere rol spelen in het bedrijfsleven. Met behulp van algoritmes is het mogelijk om het aanbod beter te laten aansluiten op de vraag van consumenten. Het vergroot de efficiëntie van marktpartijen en verlaagt de bedrijfskosten. Een win-winsituatie.
Maar er zijn ook zorgen. Zo zijn er bedrijven die algoritmes inzetten om het consumptiegedrag van consumenten naar hun hand te zetten. Een voorbeeld daarvan is dat klanten productsuggesties voorgeschoteld krijgen die niet altijd in hun belang zijn. Daarnaast zijn er twijfels of er voldoende inzicht is in en controle is op de werking en effecten van algoritmes.
ACM start proef met Muziekweb
De ACM kan onderzoek doen naar de werking van algoritmes en de manier waarop ondernemers deze inzetten. Als bedrijven bijvoorbeeld algoritmes gebruiken om vraag en aanbod te sturen, adviesprijzen te bepalen of sturing geven aan de aankoopbeslissing van consumenten die tegen hun belang ingaat, dan kan de toezichthouder ingrijpen en boetes opleggen.
Om meer kennis op te doen over de werking en controle van algoritmes in het bedrijfsleven, is de ACM vandaag een proef gestart met Muziekweb. Muziekweb gebruikt algoritmes om bezoekers muziekadvies op maat te geven. In deze proef onderzoekt de toezichthouder hoe het komt dat het algoritme de ene persoon rockmuziek aanbeveelt en een ander een totaal andere muziekstijl.
De ACM benadrukt dat Muziekweb niet wordt onderzocht voor oneerlijke of verdachte bedrijfspraktijken. Het gaat om een proef waarbij de toezichthouder in kaart brengt welke informatie zij nodig heeft om in de toekomst onderzoek te kunnen doen naar de werking van algoritmes. “Deze kennis is belangrijk voor toekomstige onderzoeken naar overtredingen van marktpartijen waarbij algoritmes een rol spelen”, aldus de ACM.
ACM zoekt meerdere samenwerkingspartners
“Om digitale markten goed te laten werken is het belangrijk dat wij kunnen vaststellen hoe algoritmes in de praktijk werken en welke gevolgen zij hebben”, zo vertelt van den Bergh. “Daarom zijn we deze proef gestart, waarin we de werking van een concreet algoritme onderzoeken en nagaan wat de ACM voor haar toezicht nodig heeft.”
Om te kijken welke mogelijkheden er in theorie zijn om de werking van een algoritme te bestuderen, heeft de ACM een position paper geschreven met de titel ‘Toezicht op algoritmes’. Dat is een document dat als vertrekpunt fungeert om onderzoek te doen naar dit onderwerp. Daarin beschrijft de toezichthouder welke soorten algoritmes er zijn, wanneer deze relevant zijn voor de ACM en voor welke uitdagingen ze staat als ze algoritmische toepassingen gaat onderzoeken.
Om meer inzicht te krijgen in het onderzoek naar algoritmes, zoekt de ACM partijen die bereid zijn om samen te werken met de toezichthouder.
Wolfsen: ‘Algoritmes creëren eenzijdige informatiebubbel’
Aleid Wolfsen, bestuursvoorzitter van de Autoriteit Persoonsgegevens, waarschuwde deze week voor algoritmes die online profielen van bezoekers opbouwen. Hij vreest dat mensen door deze algoritmes in een “eenzijdige informatiebubbel” belanden. Hij schreef onder meer het volgende:
“Vooropgesteld: het gaat mij niet om de inhoud van berichten. Het is een groot goed dat u zelf mag en kunt bepalen welke informatie u consumeert en wat u daarvan vindt. Wat wel essentieel is, is dat u zich niet door bedrijven -die verdienen aan de tijd dat u online bent- onbewust in een eenzijdige informatiebubbel laat zuigen die uw kijk op de wereld bepaalt. Want feitelijk verliest u daardoor ongemerkt uw autonomie.”
