Grip blijven houden op inzet algoritmen

Hoewel algoritmen op zichzelf veelal niet als eerlijk of oneerlijk bestempeld kunnen worden, kunnen ze wel oneerlijk worden gemaakt en/of ingezet. De reproductie van bewuste of onbewuste discriminatie ligt op de loer. Vooral als het gaat om al gemarginaliseerde groepen, zoals mensen van kleur, vrouwen en LHBTQIA+’ers. Om algoritmen op een eerlijk en proportionele manier te kunnen gebruiken, dienen we waarden te definiëren en te
garanderen in elke stap van de keten. Van de ontwikkelaars en welke training data zij gebruiken, tot medewerkers en hoe zij het algoritme inzetten. Wat D66 betreft moeten we altijd kritisch blijven kijken naar het nut, de wenselijkheid en de proportionaliteit van de inzet
van algoritmes door de gemeente. Risicoprofielen of algoritmen met een mogelijke discriminatoire werking slaan we meteen af.

We zijn dan ook blij dat de gemeente serieuze stappen heeft gezet met een Algorithm Advisory Board (AAB), een algoritme-expert en een algoritmeregister. Onze fracte verwacht dan ook van het college dat zij de juridische en ethische beginselen goed hanteerbaar
maken en de expertise hieromtrent waarborgen. “Het is aan de politiek om ervoor te zorgen dat technologische ontwikkelingen de maatschappij dienen en niet andersom”, aldus Laura
de Vries van de Hans van Mierlo Stichting. De verdere voortgang op dit onderwerp houdt Fatih nauw in de gaten. Zodat we kunnen waarborgen dat Rotterdam ook daadwerkelijk gediend wordt door dit soort toepassingen.