et Rathenau Instituut heeft een advies uitgebracht aan de Commissie Digitale Zaken van de Tweede Kamer over de inzet van algoritmes en data-ethiek binnen de rijksoverheid. Het advies doet de volgende drie aanbevelingen:
- Waarborg de informatievoorziening aan het parlement
- Versterk de juridische waarborgen ten aanzien van non-discriminatie
- Verhelder de juridische eisen ten aanzien van het motiveringsbeginsel
Onze kijk
Een aantal observaties over de verschillende aanbevelingen.
De informatievoorziening aan het parlement moet effectieve controle mogelijk maken op de soms moeilijke afwegingen die overheidsorganisaties moeten maken wanneer ze besluiten of, en zo ja hoe, ze algoritmes willen inzetten. Dat is zonder meer toe te juichen (en waarom eigenlijk dan niet ook voor DPIA’s?). Maar van deze parlementaire controle moeten we natuurlijk geen wonderen verwachten. En dat laatste illustreert waarom het zo belangrijk is dat overheidsorganisaties ook zelf werken aan het data-ethisch bewustzijn in de organisatie, en een eigen data-ethisch kompas hanteren. Terecht hamert het Rathenau Instituut overigens op een complete proportionaliteitsafweging en op het expliciteren en beargumenteren van de gehanteerde rechtvaardigheidsmetriek.
Als juridische waarborgen benoemt het advies het versterken van de rechtspositie van burgers. Met name het deels omdraaien van de bewijslast is daarin een belangrijk element. Verder wil het Rathenau Instituut graag onderzocht hebben of er meer beschermde gronden nodig zijn. Dat is op zich begrijpelijk, maar draagt ook een risico in zich: specifieke gronden benoemen legt de focus ook op precies die gronden, terwijl in essentie artikel 1 van de Grondwet en de AVG samen de gewenste bescherming al bieden tegen álle algoritmische discriminatie.
