M
ag een organisatie testen of haar AI-systeem sollicitanten met een bepaalde etniciteit onterecht discrimineert? In ieder geval stuit je op een probleem: de organisatie kent de etniciteit van haar sollicitanten vaak niet. In beginsel verbiedt de AVG het gebruik van bepaalde categorieën gevoelige persoonsgegevens, waaronder etniciteit. Moet er een uitzondering worden opgenomen in de wet? Frederik Zuiderveen Borgesius en Marvin van Bekkum van de Radboud Universiteit Nijmegen onderzochten het vraagstuk.
Twee vragen
- Belemmeren de regels van de AVG over bijzondere persoonsgegevens het tegengaan van discriminerende effecten van AI-systemen?
- Wat zijn de argumenten voor en tegen het creëren van een nieuwe uitzondering op het AVG-verbod op het gebruik van bijzondere persoonsgegevens om discriminatie door AI-systemen tegen te gaan?
Een uitzondering op het AVG-verbod op het gebruik van bijzondere persoonsgegevens zou kunnen worden opgenomen in de AVG, of in een andere wet, nationaal of op EU-niveau. Wij richten ons alleen op discriminatie met betrekking tot bepaalde beschermde gronden in de non-discriminatierichtlijnen van de EU, namelijk etniciteit, godsdienst of overtuiging, handicap en seksuele geaardheid. In Nederland zijn die richtlijnen grotendeels geïmplementeerd in de Algemene wet gelijke behandeling (Awgb).
∙
∙
∙