In 1960 stelde de schilder Pablo Picasso: ‘Computers zijn nutteloos. Ze kunnen slechts antwoorden geven.’ Picasso kreeg ongelijk: computers kunnen vandaag de dag heel wat meer dan vragen beantwoorden of zoekopdrachten uitvoeren. Zonder computers kunnen organisaties nauwelijks meer functioneren. En dan hebben we het nog niet over toepassingen als ChatGPT, die de AI-versnellingsbak in de hoogste turbo-stand gooien. Maar Picasso had natuurlijk ook gelijk: wat we niet kunnen uitbesteden aan computers is het stellen van goede vragen en bedenken welke taken voor de mensheid echt belangrijk zijn. Vragen als: waarom wil je automatiseren? Wat is het hogere doel van het uitbesteden van bepaalde taken aan computers of algoritmen? Welke problemen lost automatisering op? Daarvoor hebben we mensen nodig, en daarom moeten vooral publieke organisaties in mensen investeren.
Informatie- en communicatietechnologie (ict) werd lang gezien als een facilitaire ondersteuning van ‘primaire processen’, net als de schoonmaak of de catering. Het wordt steeds duidelijker dat de ict-afdeling geen helpend handje is, maar het hart en hoofd vormt van elke kennisgedreven organisatie. Dit geldt met name voor publieke instellingen zoals universiteiten, scholen, rechtbanken of de Belastingdienst. Wie beleid wil maken en uitvoeren – of het nu gaat om een onderwijscurriculum of fiscale maatregelen – stuit direct op de mogelijkheden en beperkingen van de ict-afdeling. Daar zitten drie knelpunten: er is te weinig ict-capaciteit, met name bij publieke instellingen; er zit onvoldoende ict-expertise in de bestuurslaag; en onze instituties kunnen de complexe ict-ontwikkelingen niet bijbenen.
Te weinig ICT-capaciteit en arbeidstekort
Om bij het eerste te beginnen, het tekort aan ict-ers bij instellingen zorgt dat er steeds meer kennis wordt uitbesteed aan gespecialiseerde, vaak grote, techbedrijven. Bij de Belastingdienst heeft de recente vertrekregeling voor ouder personeel bijgedragen aan dramatische tekorten, juist op een moment dat de combinatie van institutionele ervaring met technische kennis hard nodig blijkt. Ook bij universiteiten zien we dat hun ict-afdelingen weinig aantrekkelijk zijn voor net afgestudeerde informatici. Zij kunnen bij een groot IT-bedrijf niet alleen meer verdienen, maar ook uitdagender klussen krijgen. Niet verwonderlijk, want spannende projecten worden immers steeds vaker uitbesteed aan techbedrijven. Pieter Hasekamp, directeur van het Centraal Planbureau, schreef op 24 maart 2023 in het Financieele Dagblad dat de publieke sector in de afgelopen decennia is gekrompen, maar dat innovatie-uitgaven wel gestegen zijn. Dit komt deels doordat veel specialistische kennis wordt ingekocht. Daarom is Hasekamps advies: ‘Maak de publieke sector productiever en aantrekkelijker.’ Dat kan alleen als mensen goed leren omgaan met technologie en als hun kwaliteiten complementair zijn.
Het arbeidstekort in de samenleving leidt ook tot meer interesse in robots als vervanging voor menskracht. Vooral in de zorg, in het onderwijs en in de rechtspraak – publieke sectoren die sterk onder druk staan door een gebrek aan professionals – wil men graag overstappen op robots die werk kunnen overnemen. Automatisering door middel van AI en robots is meestal gericht op het vervangen van dure of vervelende arbeid, zodat mensen zelf geen machines hoeven te worden. Maar dat is een beperkte blik. Algoritmes en bots zijn geen stukjes ‘automatisering’ die de organisatie komen binnenvliegen en klakkeloos de taken van professionals overnemen.
Erik Brynjolfsson, Amerikaans econoom en schrijver van The Second Machine Age (W.W. Norton & Company, 2016) en ‘The Turing Trap’ (in: Daedelus 151 (2), 2022), stelt dat mensen en robots heel verschillende kwaliteiten hebben. Alleen door hun verschillen te benadrukken, kun je optimale synergie tussen die twee creëren. Algoritmen zijn beter in consistentie, in pure rekenkracht, in het doorzien van patronen. Mensen zijn beter in afwegen van (tegengestelde) belangen, bijvoorbeeld het belang van mensenrechten versus efficiëntie of van veiligheid versus privacy. Beoordelingsvermogen kun je niet uitbesteden, maar door goed doordachte samenwerking kan AI een hulpbron voor mensen worden. En juist aan die uitgekiende samenwerking ontbreekt het, vindt Brynjolfsson. IT-specialisten richten zich vooral op AI-ontwikkeling die het vervangen van menselijke arbeid door machines als doel heeft. Dat noemt hij ‘een luie keuze’; de complementariteit van mens en machine vraagt dan ook vooral om bestuurlijke intelligentie.
Onvoldoende bestuurlijke intelligentie Dat brengt ons bij het tweede probleem: het gebrek aan ict-expertise in de bestuurslaag – mensen die bij de overheid de beslissingen nemen over welke technologie op welke manier in organisaties te implementeren. Cokky Hilhorst, computerspecialist en jarenlang hoofd van het Bureau ict-Toetsing (BIT) van Binnenlandse Zaken, constateerde in de Volkskrant van 26 maart 2023 dat met name grote, publieke organisaties steeds afhankelijker worden van consultants voor het selecteren en implementeren van nieuwe systemen. Door een combinatie van achterstallig onderhoud en de groeiende complexiteit van systemen wordt het gat tussen technische experts en bestuurders steeds groter.
Begrijpen organisaties straks nog wel wat ict kan en mag, wat noodzakelijk en juist onnodig is? Bij elke nieuwe ontwikkeling moeten bestuurders zich hierop bezinnen. Dat vraagt om een integratie van technologische, inhoudelijke en organisatorische kennis. Steeds meer nationale en lokale overheden beseffen dat je mensen moet leren om op een verantwoordelijke manier om te gaan met algoritmisch gestuurde beslissingen. Willen mensen inderdaad in the lead blijven, dan moeten ze de teugels van het paard of het stuur van de auto altijd blijven vasthouden. Maar daarvoor is veel training nodig, zowel van mensen als van AI-gestuurde algoritmen of robots. Want als zorgvuldig afgewogen overwegingen de input van nieuwe AI vormen, zullen ondersteunende algoritmen betere uitkomsten opleveren. Dat betekent dat we moeten investeren in mensen, zodat ze algoritmen vooral kunnen leren hoe we betere mensen kunnen worden.
Een versneller van deze ontwikkelingen is de komst en implementatie van generatieve AI, met name tools als ChatGPT-4. Bestuurders vragen zich natuurlijk af op welke manier deze stochastische AI-papagaai hun bedrijfsprocessen zal beïnvloeden. Zeker voor publieke instellingen ligt hier een belangrijke taak. Scholen en universiteiten maken zich bijvoorbeeld erg zenuwachtig om het detecteren van plagiaat. Om dit te beteugelen, willen ze zwaar geschut inzetten in de vorm van detectietools, die overigens geleverd worden door OpenAI, dezelfde leverancier als van ChatGPT. Zo wordt onderwijs een technologierace, met het ‘product’ als inzet. We zouden echter ChatGPT, net als Wikipedia, zoekmachines, spellingscheckers, synoniemen-apps en andere digitale hulpmiddelen, ook kunnen beschouwen als een onderdeel van het leerproces; en dan is het logisch om te investeren in docenten die studenten leren omgaan met deze nieuwe tools, in plaats van louter geld te steken in plagiaatdetectietechnologie. Maar de beslissing om menskracht te versterken lijkt rechtstreeks in te druisen tegen de trend om allerlei arbeidsintensieve processen te automatiseren.
Update de instituties
Scholen, universiteiten, de rechtspraak en vele andere (publieke) instellingen worstelen met razendsnelle technologische ontwikkelingen die ze nauwelijks kunnen bijbenen. Overheidsinstituties reageren doorgaans traag op snel evoluerende technologie en zetten onvoldoende in op de noodzakelijke coöperatie tussen algoritmische, menselijke en bestuurlijke intelligentie. En dat heeft al tot kostbare mislukkingen geleid in publieke sector.
Zo werd twee jaar geleden in de Toeslagenaffaire pijnlijk duidelijk dat Nederlandse gemeenten decennialang achteloos werkten met geautomatiseerde profilering van risicogroepen om bijstandsfraude op te sporen. Bij de Belastingdienst zorgde het gebrek aan ict-expertise ervoor dat nieuwe beleidsmaatregelen pas over drie jaar uitgevoerd kunnen worden. En ook de rechtbanken worstelen met de automatisering van hun werk. Strafrechter en onderzoeker Manuella van der Put (Universiteit van Tilburg) onderzocht of intelligente software de werklast van rechters kan helpen verlichten door consistente beslispatronen in de jurisprudentie bloot te leggen, waardoor de weging van een oordeel eenvoudiger wordt. Een belangrijke conclusie van haar proefschrift is dat de rechtspraak mensenwerk blijft, omdat met zorgvuldige argumentatie afgeweken kan worden van het beslisalgoritme. Hoe belangrijk dat is, hebben we bijvoorbeeld bij de toeslagenaffaire gemerkt.
Uiteindelijk gaat het om een cultuuromslag in organisaties die zich steeds meer realiseren dat politieke beslissingen en beleid niet uitgevoerd kunnen worden omdat mensen en systemen alléén dit niet aan kunnen. En dan lopen die organisaties vast. Informatietechnologie vraagt om hoogwaardige expertise, gecombineerd met gezond verstand van mensen die publieke waarden in hun organisatie centraal stellen. Innovatie en onderhoud van ict-systemen horen niet thuis in aparte reservaten of uitsluitend bij externen. Ze vormen inderdaad het hart en hoofd van onze instituties. Daarom concludeert filosoof Yuval Harrari in een recent essay in de New York Times: ‘Update onze 19de-eeuwse instituties en zorg dat ze kennis over AI meester zijn voordat AI de instituties overmeestert.’
Inderdaad, om technologische innovatie te laten slagen, moet kunstmatige intelligentie samengaan met bestuurlijke en institutionele intelligentie. Als we niet in onze instituties investeren, verliezen die hun deskundigheid om relevante vragen te stellen aan de technologie. Als we niet in mensen investeren, verliezen die het noodzakelijke beoordelingsvermogen om de technologie te verbeteren. Als we AI niet kunnen trainen met evenwichtige menselijke input, zullen deze tools de taken van mensen nooit kunnen verlichten. En dan krijgt Picasso alsnog gelijk: computers zijn nutteloos als ze slechts antwoorden kunnen geven. Want alleen de intelligentie om deskundige vragen te stellen, kan de mensheid en de samenleving op een hoger plan brengen.
