D66 Enschede motie “grip op AI” unaniem aangenomen!

De Enschedese rekenkamer deed het afgelopen jaar onderzoek naar het gebruik van algoritmen en AI in Enschede. De ontwikkelingen rondom het gebruik van algoritmen en AI volgen zichzelf in razendsnel tempo op. De gemeenteraad heeft zich, met D66 voorop, in de afgelopen jaren meermaals unaniem of met ruime meerderheid met zorg uitgesproken rondom het gebruik van digitale, mogelijk privacy schendende of potentieel discriminerende, middelen waaronder het gebruik van algoritmen en AI bij de bepaling van WOZ-waarde, digitale deursloten, de toeslagenaffaire en digitale parkeerkaartjes en scanauto’s. In de laatste jaren is er ook steeds meer duidelijk geworden over de risico’s en gevaren die het gebruik van algoritmen en AI met zich mee kunnen brengen, met als meest extreme voorbeeld de toeslagenaffaire.

We zijn tevreden met een mooi onderzoek en rapport van de rekenkamer en PBLQ naar algoritmen en AI in Enschede. We onderschrijven als fractie de aanbevelingen en hebben voor het raadsvoorstel gestemd om de aanbevelingen over te nemen. Het rekenkamerrapport heeft des te meer laten zien hoe ontwikkelingen en gebruik van algoritmen en AI in razendsnel tempo zich opvolgen, en hoe belangrijk het ook is daar als raad grip op te houden. Het rapport stelt niet voor niets “De gemeenteraad heeft daarentegen wel een duidelijke rol in het bespreken van de keuzes en afwegingen die rond de inzet van algoritmen en digitalisering worden gemaakt. Het gaat dan om een inhoudelijk en politiek gesprek over de keuzes in de uitvoering en de prioriteiten die daarin worden gelegd.” 

Het gebruik van algoritmen en AI kan voordelen met zich meebrengen. Zo kan het de dienstverlening sneller, goedkoper, nauwkeuriger en completer maken. Het is in staat om verbanden te zien die een mens soms niet kan zien. Het is daarin wel belangrijk dat we de juiste regels naleven. Vanaf augustus 2024 is de AI-verordening van kracht: een Europese wet die regels stelt voor de ontwikkeling en het gebruik van AI-systemen. Het doel van de AI-verordening is dat AI-systemen die organisaties (binnen de EU) gebruiken, veilig zijn en fundamentele rechten van mensen respecteren. Afhankelijk van de categorie waarin een AI-systeem valt, gelden zwaardere, minder zware of geen regels. Sommige AI-systemen waarmee onze inwoners of interne dienstverlening mee te maken hebben of toekomstig zouden kunnen hebben vallen mogelijk onder hoog-risico volgens de AI-verordening en dit wordt beschouwd als risicovol voor fundamentele rechten, veiligheid en gezondheid.
Het bepalen of iemand in aanmerking komt voor essentiële publieke diensten en subsidies zoals toeslagen valt hier bijvoorbeeld onder (zie bijlage 3, AI-verordening).

De Enschedese raad vindt het belangrijk haar kaderstellende en controlerende taak goed uit te kunnen voeren, en het is daarin van belang grip en inzicht te hebben op het gebruik van algoritmen. Op basis van bovengenoemde argumenten diende D66-raadslid Maschja Baas daarom afgelopen maandag een motie in, mede ingediend door Partij voor de Dieren, Forum voor Democratie, Volt, Groep van Ek/Woltjer en GroenLinks, om meer grip op algoritme en AI te krijgen, en het tegelijkertijd wel uitvoerbaar/werkbaar te houden. 

Wij vragen vier zaken van het college: 
1. In het integraal beleid voor digitalisering, welke eind dit kalenderjaar aan de raad wordt voorgelegd, een hoofdstuk op te nemen over het gebruik van algoritmes en AI;  
2. In dit hoofdstuk tenminste te beschrijven welke verschillende risico kwalificaties de gemeente hanteert bij aanschaf en gebruik van (software die gebruik maken van) algoritmen en AI, en hoe de gemeente de risico kwalificatie van algoritmen afweegt aan de hand van de AI-Verordening;  
3. In dit hoofdstuk een afwegingskader en goedkeuringsstroom voor ingebruikname van algoritmen op te nemen, met daarin expliciet omschreven de rol voor de ethische commissie in dit geheel;  
4. Vanaf nu jaarlijks de raad te informeren, door middel van een jaarrapportage, over de stand van zaken rondom het gebruik van algoritmen en AI, binnen welke risicokwalificaties ontwikkelingen zijn geweest in dat jaar, met uitgebreide aandacht voor de zwaarste risicokwalificaties, met als doel raadsleden jaarlijks in positie te brengen om kaders mee te geven aan het college.  

Ons voorstel is unaniem aangenomen, wat betekent dat het college uitvoering gaat geven aan de bovengenoemde vier punten. In het najaar, tijdens de bespreking van het integrale digitaliseringsbeleid, zullen we dit controleren. Ook zullen we komend jaar de eerste jaarrapportage met veel aandacht lezen en indien nodig dienen we voorstellen in om het beleid bij te sturen. Zo houden we samen meer grip op algoritmen en AI binnen onze stad.