D66 wil extra aandacht voor dit onderwerp
D66 Hilversum is niet tegen het gebruik van algoritmes maar ze moeten zoals de VNG stelt “wel voldoen aan principes van zorgvuldigheid, transparantie en proportionaliteit”.
Bij het gebruik van algoritmes ligt het gevaar op de loer dat we zelf niet meer begrijpen waar beslissingen op gebaseerd zijn. Een algoritme is in de kern een reeks instructies die stapsgewijs wordt uitgevoerd om een probleem op te lossen. Hoe complexer het algoritme, hoe lastiger het is om te begrijpen hoe het precies werkt. Algoritmes zijn op zichzelf niet eerlijk of oneerlijk. Ze kunnen echter wel eerlijk of oneerlijk worden gemaakt en/of ingezet.
D66 Hilversum wil extra aandacht voor dit onderwerp en heeft het college daarom vragen gesteld over het bewustzijn van de gemeente over het gebruik van dit soort instrumenten, het daadwerkelijke gebruik en het toezicht hierop.
Duidelijke communicatie hierover kan namelijk veel zorgen wegnemen die bij de inwoners kunnen spelen op basis van alle berichtgeving.
- Maakt de gemeente nu of in het verleden gebruik van voorspellende systemen en algoritmes om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en om burgers met schulden op tijd te kunnen helpen?
- Maakt gemeente Hilversum gebruik van het opsporen van fraude op basis van risicoprofielen?
- Is de gemeente zich bewust van de risico’s van onethisch gebruik van algoritmes, zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals zelfbeschikking en het in stand houden of versterken van ongelijkheid? Welke maatregelen neemt de gemeente om risico’s te vermijden en potentiële negatieve gevolgen tegen te gaan?
- Neemt de gemeente ethische aspecten van algoritmes mee in inkoopvoorwaarden met leveranciers? Zo ja, welke voorwaarden zijn dit?
- Wil de gemeente het toezicht hierop onderbrengen bij de Functionaris Gegevensbescherming of ziet het andere mogelijkheden?
- Zo ja, kan de FG dit meenemen in de rapportage over 2020?