Grip op algoritmische besluitvorming bij de overheid

De digitalisering van onze samenleving brengt met zich mee dat Artificial intelligence (AI) steeds meer verweven raakt met alle instituties binnen de samenleving. Deze ontwikkeling brengt risico’s met zich mee voor de grondrechten van burgers. Digitalisering is volgens senator Dittrich namelijk nooit waardevrij. Het gevaar ligt op de loer dat de overheid de menselijke maat uit het oog verliest bij de inzet van AI. De digitale consequenties van het gebruik van AI zijn vaak niet inzichtelijk. Volgens senator Dittrich bestaat hierdoor het risico dat de uitvoerende macht een ‘black box’ wordt waarbij niet meer duidelijk is hoe beslissingen tot stand zijn gekomen.

De regering, de ministeries en de uitvoeringsorganisaties hebben duizenden mensen ter beschikking die fulltime kunnen werken met AI. Om te voorkomen dat Eerste Kamerleden achterblijven in deze ontwikkeling, vindt D66 het belangrijk dat zij ook deskundige ondersteuning krijgen op AI. Zo kan de Eerste kamer zijn controlerende taak ook goed kan blijven uitvoeren bij wetgeving waar AI een rol speelt. Ook benadrukte senator Dittrich het belang van een menselijk contactpunt voor burgers, waar zij vragen kunnen stellen over beslissingen die genomen zijn door AI: “Een mens moet door AI genomen beslissingen altijd aan de burger uit kunnen leggen”.

In de praktijk is al gebleken dat gebruik van AI kan leiden tot discriminatie. Een voorbeeld hiervan is het Criminaliteits Anticipatie Systeem van de politie, dat etnisch ging profileren. Om dit in de toekomst te voorkomen, pleit D66 ervoor om de effecten van AI-gebruik strenger en vaker te evalueren. Ook is D66 voorstander van een algoritmetoezichthouder en een jaarplan voor AI, zodat er structureler toezicht gehouden kan worden op algoritmische besluitvorming. Nieuwe digitale ontwikkelingen kunnen soms niet worden doorgevoerd omdat de digitale systemen van de overheid verouderd zijn. Tenslotte sprak senator Dittrich zijn zorgen uit over deze verouderde IT-infrastructuur van de overheid.