Handreiking systeemprincipes voor non-discriminatie en ongewenste bias in algoritmische systemen

Voor ontwikkelaars van AI-systemen is het soms erg lastig om rekening te houden met de juridische kaders rondom non-discriminatie en gelijke behandeling. Het betreft juridische normen met een open of vaag karakter, die niet direct duidelijk zijn voor ontwikkelaars van AI-systemen, maar die wel moeten worden geconcretiseerd en geborgd bij het ontwerp en de ontwikkeling van die AI systemen. Om non-discriminatie en gelijke behandeling in AI systemen beter te borgen is het nodig om een vertaling te maken van het juridisch kader naar AI-systeem principes, ofwel van juridische normen naar ontwerp strategie├źn, die overheden en bedrijven kunnen gebruiken bij de ontwikkeling, de implementatie en het evalueren van AI.

BZK heeft Tilburg University gevraagd om deze vertaling te maken en dat heeft geresulteerd in een handreiking die in januari 2021 is gepubliceerd. De projectleider van het onderzoek, Bart van der Sloot, neemt u graag mee en zal toelichten wat er in deze handreiking staat en hoe deze tot stand is gekomen. Hij gaat met u in gesprek of deze handreiking bruikbaar kan zijn in uw organisatie.

* Op dit beeldmateriaal rust copyright. Het is dus niet toegestaan om deze beelden zonder toestemming te hergebruiken. Kijk voor meer informatie op onze pagina Copyright.

Handreiking systeemprincipes voor non-discriminatie en ongewenste bias in algoritmische systemen