Hoe breng je technologie binnen de kaders van de democratische rechtsstaat als technologie de kaders zelf al heeft veranderd?

Digitalisering heeft grip op de politiek, maar de politiek heeft geen grip op digitalisering. Dat is een van de centrale stellingen van voormalig Tweede Kamerlid voor D66 Kees Verhoeven in De democratie crasht: Politieke onmacht in het digitale tijdperk. Na bijna elf jaar Kamerlid te zijn geweest, stelde hij zich in 2021 niet opnieuw verkiesbaar. Over zijn ervaringen als portefeuillehouder Digitalisering schreef hij dit boek, dat eind januari 2023 uitkwam.

Het boek staat vol politieke anekdotes die bevestigen wat al wel bekend was over de geringe kennis van en aandacht voor het thema digitalisering bij politiek en bestuur. Zo noemt Verhoeven de eerste fase van de ontwikkeling van de corona track and trace app aan het begin van de pandemie, waarin het onterechte geloof dat technologie maatschappelijke problemen op kan lossen hoogtij vierde. Ook brengt hij op hoe voormalig minister van Justitie en Veiligheid, Ferd Grapperhaus, de risico’s wegwuifde van de Wet Gegevensverwerking door Samenwerkingsverbanden die grootschalige uitwisseling van data tussen overheidsinstanties en private partijen mogelijk maakt. Exemplarisch in het boek is het verhaal van het hoofd van een veiligheidsdienst die medewerkers dreigde te ontslaan als ze nog een keer over de wettelijke grondslag voor hun werkwijze zouden
beginnen.

Ondanks het gebrek aan kennis over data en digitalisering hebben politici en bestuurders wel een oneindig geloof in de mogelijkheden van data, iets dat Verhoeven in navolging van wetenschappers ‘dataïsme’ noemt. Zo kan het dat de overheid enorme data en ICT-projecten optuigt om burgers te controleren, zonder dat politici en bestuurders van tevoren nadenken over de gevolgen hiervan voor mensen. Voorbeelden te over, zoals algoritmes bij de Belastingdienst die mensen selecteerden op basis van nationaliteit, het Systeem Risico Indicatie voor de opsporing van fraude dat in strijd was met
het recht op privacy en veiligheidsdiensten die met nepaccounts mensen volgden via sociale media. Tel daar de (lobby)macht van grote techbedrijven en sociale mediaplatforms als Alphabet, Meta, Microsoft, TikTok en Twitter bij op en duidelijk wordt dat de politiek weliswaar geen grip heeft op digitalisering, maar Big Tech wel flink macht uitoefent op de politiek.

Deze macht van Big Tech heeft ook directe impact op politici, aldus
Verhoeven. Ten koste van hun aandachtspanne en mentale en fysieke
gezondheid, zijn politici via sociale media altijd bereikbaar; terwijl
wetsvoorstellen schrijven, lezen en beoordelen juist vraagt om tijd,
aandacht, reflectie en voldoende rust. Om dit patroon te doorbreken stelt Verhoeven onder andere voor om smartphones in de plenaire zaal van de Tweede Kamer te verbieden.

Een terugkerend thema in het boek zijn de zogeheten biases of denkfouten van mensen, ook wel bekend van het boek Thinking, fast and slow van psycholoog Daniel Kahneman. Ook al spelen deze biases inderdaad een grote rol bij besluitvorming, de link die Verhoeven legt tussen deze denkfouten en politieke besluitvorming al dan niet over digitalisering blijft wat ongemakkelijk, net als het voorstel dat de Tweede Kamer een bundel samenstelt over deze denkfouten. Deze ‘psychologische draai’ leidt bovendien af van de meer structurele voorstellen die Verhoeven doet, zoals de heffing van een belasting op opbrengsten met digitale technologie (de digitaks), de opsplitsing van bedrijven met te veel marktmacht, en de
categorisering van grote techbedrijven als vitale maatschappelijke
bedrijven.

Toch is het de vraag of deze voorstellen wel de kern raken. Want hoe
reguleer je digitale technologie en grote techbedrijven in een tijd waarin technologie ook het recht zelf verandert? Dit is de vraag die Maxim Februari stelt in zijn boek Doe zelf normaal: Menselijk recht in tijden van datasturing en natuurgeweld, dat in februari 2023 verscheen. Volgens Februari zit de mens knel tussen enerzijds de klimaatcrisis en anderzijds digitale technologie en vormt dat een probleem, in het bijzonder voor de democratische rechtsstaat. Zo vraagt de klimaatcrisis om snel en adequaat handelen, waardoor mensen geneigd zijn het democratisch proces en de grondrechten even opzij te schuiven – met het risico dat het niet bij
‘even’ blijft.

Verhoeven en Februari vinden elkaar in het argument dat mensen
technologie zien als dé oplossing voor allerlei problemen – van klimaatverandering tot criminaliteit en kindermishandeling. Volgens Februari ontstaat hierdoor een ‘controleparadox’: mensen proberen naarstig problemen onder controle te brengen met behulp van technologie, maar in dat proces geven ze de controle uit handen aan technologie.

Maar waar Verhoeven zeker erkent dat de democratische rechtsstaat onder druk staat door technologie, schrijft Februari dat de democratische rechtsstaat ook fundamenteel verandert door technologie. Het recht wordt door de toepassing van digitale technologie sneller en dwingender: ‘al met al stuurt code ons gedrag effectiever dan een wet’, schrijft Februari in de inleiding. Het wordt vrijwel onmogelijk om af te wijken van de in code vastgelegde norm – vandaar de titel van het boek Doe zelf normaal Februari geeft het voorbeeld van winkelkarretjes die door sensoren het terrein van de supermarkt niet meer kunnen verlaten, terwijl dit soort karretjes tijdens orkaan Katrina juist buiten dit terrein mensen hielpen met
vluchten. Zijn boodschap: normen worden gezamenlijk bepaald en zijn bovendien veranderlijk. Regels die in code zijn vastgelegd zijn daarentegen rigide en hebben voor deze subtiliteit weinig oog.

Bovendien is technologie vaak in handen van private, commerciële actoren en dat komt met grote macht. In navolging van de Nederlandse staatsrechtjurist Reijer Passchier laat Februari zien dat de regelgevende macht tegenwoordig niet alleen meer in handen is van de overheid, maar steeds vaker ook van techbedrijven en softwareontwikkelaars. Via ‘slimme’ steden, algoritmes die fraude opsporen en sociale media, scheppen bedrijven steeds vaker de kaders waarbinnen menselijk handelen plaatsvindt. Dit heeft geleid tot ‘staatsmacht van de private ondernemingen’, in de woorden van Februari.

Februari benadrukt dat juist de combinatie van digitale toepassingen kan leiden tot onwettelijke en onwenselijke uitkomsten. Hij geeft het voorbeeld van een vliegtuig waarvan de verschillende onderdelen op elkaar inwerken: als een onderdeel niet werkt dat op zichzelf onbelangrijk is, kan dit desondanks de andere onderdelen beïnvloeden waardoor het hele systeem uitvalt. In een wereld waarin data van mensen tegelijkertijd door allerlei verschillende bronnen worden verzameld en geanalyseerd, zijn de gecombineerde effecten hiervan nauwelijks te overzien. Zowel Nederland als de Europese Unie zetten in op toezicht op afzonderlijke toepassingen van technologie, maar toetsen voor mensenrechten en ethische afwegingskaders voor afzonderlijke toepassingen vangen de totaaleffecten van digitale technologie niet op.

Beleidsmakers proberen via regulering de werking van digitale technologie terug te brengen binnen het kader van de democratische rechtsstaat. Maar, schrijft Februari, ‘je kunt toezicht op de digitalisering wel willen overlaten aan de structuren van de oude overheid, maar die overheid is er in feite niet meer, die is vervangen.’ Concreet betekent dit voor politici en beleidsmakers dat ze, hoe hard ze ook werken aan hun individuele denkfouten, vooral zullen moeten nadenken over wat ‘constitutionalisering’ van technologie betekent. Hoe breng je technologie terug binnen de kaders van de democratische rechtsstaat, als door die technologie de kaders veranderen?

Net als Februari heb ook ik het antwoord nog niet. Wel denk ik dat het
verbieden van smartphones in de Tweede Kamer geen structurele oplossing biedt.