verheidsinstanties gebruiken steeds vaker algoritmen en big data om mensen te beoordelen, maar het toeslagenschandaal toont aan dat dit fout kan gaan. Duizenden ouders werden onterecht beschuldigd van fraude, met grote schulden en zelfs verlies van huis en baan als gevolg. De overheid gebruikt gegevens en algoritmen om het risico op fraude te berekenen, zoals iemands afkomst en nationaliteitsstatus, wat discriminerend en daarmee verboden is. Maatregelen om toekomstige incidenten te voorkomen zijn ontoereikend en er is onvoldoende toezicht op algoritmen.
In een masterclass voor studenten bespreken Amnesty International en parlementslid Renske Leijten de discriminatoire gevolgen van overheidsalgoritmen en de noodzaak van regelgeving en transparantie.
Tamilla Abdul-Aliyeva is een senior beleidsadviseur bij Amnesty International en richt zich op het gebruik van overheidsalgoritmen voor fraudepreventie. Renske Leijten is een parlementslid voor de SP en bracht het toeslagenschandaal aan het licht.
https://www.amnesty.nl/wat-we-doen/educatie/masterclass-discriminating-algorithms
[ChatGPT heeft geholpen bij het maken van deze samenvatting]
