Risico op discriminatie
Hoewel algoritmen op zichzelf veelal niet als eerlijk of oneerlijk bestempeld kunnen worden, kunnen ze wel oneerlijk worden gemaakt en/of ingezet. De reproductie van bewuste of onbewuste discriminatie ligt op de loer. Vooral als het gaat om al gemarginaliseerde groepen, zoals mensen van kleur, vrouwen en LHBTQIA+’ers. Om algoritmen op een eerlijk en proportionele manier te kunnen gebruiken, dienen we waarden te definiëren en te
garanderen in elke stap van de keten. Van de ontwikkelaars en welke training data zij gebruiken, tot medewerkers en hoe zij het algoritme inzetten. Wat D66 betreft moeten we altijd kritisch blijven kijken naar het nut, de wenselijkheid en de proportionaliteit van de inzet
van algoritmes door de gemeente. Risicoprofielen of algoritmen met een mogelijke discriminatoire werking slaan we meteen af.