taatssecretaris Van Huffelen (Digitale Zaken) wil ambtenaren verplichten een ‘mensenrechten-impact-assessment’ uit te voeren bij nieuwe én bestaande algoritmes. Een goede ontwikkeling, betogen medewerkers van het College voor de Rechten van de Mens op Sociale Vraagstukken. Maar een expliciet onderdeel moet dan wel een bindende discriminatietoets zijn. Alleen zo kan de overheid discriminerende situaties structureel voorkomen.
Onze kijk
Discriminatie is en blijft een van de grootste maatschappelijke problemen, en een van de grootste risico’s bij de inzet van algoritmen. Een verplichte discriminatietoets is één van een veelheid aan maatregelen die kunnen helpen om discriminatie te voorkomen. Een belangrijke uitdaging daarbij zal zijn om te toetsen op alle mogelijke vormen van discriminatie, in het bijzonder institutionele discriminatie.
https://www.socialevraagstukken.nl/overheid-moet-algoritmes-doorlopend-toetsen-op-discriminatie/
