Marietje Schaake ontrafelt in haar nog te verschijnen boek De Tech Coup hoe kleine en grote techbedrijven de wereld regeren. Ze pleit voor robuustere juridische en bestuurlijke kaders om de buitensporige macht van deze bedrijven in te dammen en democratische waarden te verdedigen op het internationale toneel.
Deep fakes, met dank aan generatieve AI (een vorm van AI waarmee je content kunt genereren, red.), maken desinformatie geloofwaardiger en heel nauwkeurig te richten op precies de juiste mensen om een verkiezing te winnen. Algoritmes faciliteren discriminatie door de Belastingdienst en er zijn nauwelijks data die niet al een keer gelekt of gehackt zijn, alle mooie beloftes van softwarebedrijven ten spijt. Spionagetechnologie kan van ieders telefoon een slimme inlichtingenverzamelaar maken en overheden worstelen met het optuigen van wetten en regels om ervoor te zorgen dat de democratie de regie houdt. Er gaat geen dag voorbij zonder nieuwe onthulling over machtsmisbruik, nalatigheid of grensverleggende nieuwe mogelijkheden door technologiebedrijven.
De Tech Coup herkauwt deze berichten niet, hoe belangrijk en urgent ze ook mogen zijn. In plaats daarvan laat het boek zien hoezeer deze incidenten wijzen op systemische problemen: het feit dat ons sociale, professionele en maatschappelijke leven in toenemende mate gedigitaliseerd raakt – en dat alle aspecten van de digitalisering in handen zijn van bedrijven; dat bepaalde technologieën inherent antidemocratische kenmerken hebben, terwijl de wetgeving ter bescherming van de democratische waarden en de rechtsstaat daarop achterloopt. En het allerbelangrijkste: dat het uitbesteden van essentiële taken door democratische overheden tot een uitholling van haar kerncompetenties heeft geleid. Deze systemische problemen ondermijnen inmiddels de kern van de democratie: vrije en eerlijke verkiezingen, de rechtsstaat, de scheiding der machten, een goed geïnformeerd publiek debat, de nationale veiligheid en de bescherming van burgerrechten zoals de vrijheid van meningsuiting, het onschuldbeginsel en het recht op privacy. Het ondermijnen van democratische principes heeft daarnaast allerlei reële gevolgen: de voortdurende coup door techbedrijven leidde al tot geweld, instabiliteit en verdeeldheid in de echte wereld.
In de loop van de digitale revolutie hebben bedrijven steeds meer taken op zich genomen die normaal gesproken door staten worden vervuld. Dit leidt tot een afname van beslismacht en verantwoording.
Zo maken militaire leiders zich zorgen over Elon Musks Starlink, de marktleider voor internetdiensten per satelliet. Hun zorgen zijn terecht: tijdens Russische aanvallen heeft Musk persoonlijk een Oekraïens verzoek afgewezen om de Krim te voorzien van Starlink-verbindingen. De miljardair schepte in een Twitterbericht (tegenwoordig X) op: ‘Met Tesla, Starlink en Twitter heb ik misschien wel meer real time economische gegevens in mijn hoofd dan wie dan ook ooit.’
Regeringen beginnen zich te realiseren dat de buitensporige invloed van niet alleen Elon Musk maar de hele techindustrie een groot probleem vormt. President Biden erkende dit op 25 augustus 2021, nadat hij ceo’s van techbedrijven had uitgenodigd in het Witte Huis voor een top over cyberveiligheid. ‘De realiteit is,’ merkte hij op, ‘dat het grootste deel van onze vitale infrastructuur in handen is van, en wordt beheerd door de private sector.’ De Amerikaanse president, misschien wel de machtigste leider ter wereld, gaf daarmee toe dat de overheid het land niet kan beschermen zonder hulp van Silicon Valley. Deze spectaculaire verschuiving – dat de verantwoordelijkheid voor zulke essentiële taken als de bescherming van de nationale veiligheid en het verzamelen van inlichtingen niet meer uitsluitend in handen van de overheid ligt maar ook in die van bedrijven – is misschien nog niet goed doorgedrongen tot het grote publiek. Maar zonder publieke ophef komen de benodigde wetgeving, toezicht en verantwoordingsplicht voor de techindustrie niet snel genoeg tot stand.
Efficiëntie, schaalvoordelen en winst
Gedurende de jaren die ik in het Europees Parlement doorbracht, ben ik technologie steeds meer gaan zien door de bril van macht. Technologie kan helpen mensen te emanciperen en ongehoorde stemmen versterken, maar kan disruptors ook veranderen in monopolisten die meedogenloos streven naar efficiëntie, schaalvoordelen en winst. In geen van beide gevallen is de technologie neutraal. Bepaalde waarden, ook al is dat onbedoeld, zijn al ingebakken in de ontwerpen van de systemen zelf. Daar komt bij dat, omdat de meeste van deze technologieën worden ontwikkeld door bedrijven, ze uiteindelijk zullen worden ingezet voor winstmaximalisatie en dat ze niet zijn gemaakt ten behoeve van de samenleving. Zo streeft Sam Altman’s WorldCoin ernaar om een wereldwijde identiteitsdatabank op te bouwen door mensen in ontwikkelingslanden hun irissen te laten scannen in ruil voor een beetje cryptovaluta. Óf dit bedrijf is blind voor de risico’s van het concentreren van zoveel gevoelige biometrische gegevens onder één dak, óf het is totaal arrogant en gaat haar eigen gang en gebruikt kwetsbare mensen.
Socialemediaplatformen proberen zo lang mogelijk de aandacht van internetgebruikers vast te houden, zonder rekening te houden met de negatieve gevolgen daarvan voor de geestelijke gezondheid van tieners. Techbedrijven en hun producten beslissen tegenwoordig ook over kwesties die letterlijk van levensbelang zijn. Commerciële algoritmen in ziekenhuizen bepalen de triagestatus van patiënten en analyseren medische foto’s. Intussen kennen democratisch gekozen vertegenwoordigers de essentiële details van de werking van deze producten niet, omdat onafhankelijk onderzoek daarnaar vaak onmogelijk is.
Al veel te lang genieten techbedrijven het voordeel van de twijfel, zonder dat we erop toezien dat hun technologie binnen de kaders van de rechtsstaat opereert en de democratie ondersteunt. Democratisch gekozen leiders hebben hun verantwoordelijkheid intussen ook niet genomen. In Polen is spionagetechnologie gebruikt om elke stap van oppositieleden te traceren en de Iraanse overheid spoorde op die manier mensenrechtenverdedigers op. Wetten worden onvoldoende aangepast aan de technologische ontwikkelingen, waardoor digitale onderdrukkingsinstrumenten niet op dezelfde manier worden verboden als materiële. Zo zou een conventionele politie-inval in het huis van een politicus van een oppositiepartij onmiddellijk alarmbellen doen afgaan, maar de inzet van hacking software voor een vergelijkbare digitale ‘inval’ is minder duidelijk en zorgt voor minder ophef. De introductie van nieuwe technologieën lijkt het perspectief van wetgevers te vertroebelen. Ze kunnen zich niet voorstellen dat schendingen van grondrechten – zoals het recht op privacy en de vrijheid van meningsuiting – in de digitale wereld net zo ernstig zijn, terwijl zulke schendingen daar soms minder moeite kosten en zich op grotere schaal voordoen. Zowel topmanagers als aspirant-autocraten profiteren van deze blindheid en zoeken de grenzen van de wet op. Terwijl de digitalisering verder gaat, zien we een verschuiving van macht en verantwoordelijkheid die ten koste gaat van democratische leiders. Deze verschuiving versnelt twee trends: een toename van autoritaire praktijken in de digitale wereld en een grootschalig verval van het democratische bestuur.
Technologie voor politiek gewin
In vergelijking met Europese en Amerikaanse regeringen, die de markt grotendeels haar gang lieten gaan, heeft de Chinese Communistische Partij (ccp) ervoor gezorgd dat nieuwe technologieën in dienst staan van haar politieke systeem en waarden. De afgelopen twintig jaar heeft de ccp deze bedrijven ingezet voor eigen politiek gewin. Zo wordt de kunstmatige-intelligentiesector gevoed met een onbeperkte hoeveelheid door de overheid verzamelde data en stimuleren de onderdrukkingspraktijken van de Chinese overheid allerlei innovaties, van gezichtsherkenningstoepassingen tot nieuwe manieren om grote hoeveelheden mensen te sturen en beïnvloeden. Tijdens de coronapandemie waren mensen in China verplicht om
tracking apps te gebruiken waarmee werd gecontroleerd of ze thuis in quarantaine zaten. Ook gebruikt de Chinese staat geavanceerde camera’s en afluisterapparatuur om de Oeigoerse minderheid in de gaten te houden en op te sluiten, en zo de macht niet alleen te vergroten maar ook te verstevigen. Het is een model dat China graag exporteert via de Digitale Zijderoute en andere ontwikkelingsprojecten.
Door te investeren in infrastructuur van andere landen en cloud computing aan te bieden, krijgt China toegang tot data en invloed op hun ontwikkeling. Zo heeft Egypte zwaar geleund op Chinese investeringen om de telecommunicatie-infrastructuur te moderniseren en zelfs een nieuwe ‘slimme stad’ op te zetten. Via een nieuwe wet tegen cybercriminaliteit heeft het Noord-Afrikaanse land nu bijna automatisch ook het Chinese model voor bestuur van het internet overgenomen. En Egyptische overheidsfunctionarissen volgen censuurtrainingen uit Peking.
Het strategische ‘huwelijk’ dat in China is gesloten tussen geopolitiek en technologie laat zien hoe groot de achterstand van de democratische landen is op het gebied van technologiebeleid. Die discrepantie heeft niet alleen gevolgen voor de burgers van democratieën, maar is ook van invloed op het vermogen van landen om tot gezamenlijke regels en oplossingen te komen. Zo maakt hun
laissez-faire-aanpak ten aanzien van Silicon Valley het de Verenigde Staten moeilijk om in de internationale gemeenschap het initiatief te nemen voor consensus over robuuste wet- en regelgeving voor technologie. China biedt daarentegen een samenhangend top-down bestuursmodel dat zich gemakkelijk laat kopiëren. Deze disbalans versterkt de macht van zowel grote bedrijven als autoritaire staten.
Het opnieuw uitvinden van democratisch bestuur, om het af te stemmen op de uitdagingen van digitalisering, zal niet eenvoudig zijn. De huidige beleidsprocessen lopen niet meer synchroon met het tempo en de schaal van digitale ontwikkelingen. Deze mismatch
is een groeiend probleem voor mensen die vinden dat democratie niet het slachtoffer mag worden van disruptie, ook al zijn de blinkende nieuwe gadgets uit Silicon Valley, Shenzhen of Bangalore nog zo verleidelijk. Het democratische bestuur zal dus geactualiseerd en gerevitaliseerd moeten worden.
Kloof tussen macht en democratie
Hoe meer ik me als Europarlementariër bezighield met technologie-gerelateerde kwesties, hoe duidelijker het me werd dat er een steeds dieper wordende kloof gaapt tussen de macht van bedrijven enerzijds en het democratische vermogen tot wetgeving en toezicht anderzijds
. In sommige gevallen is dit vooral een geldkwestie. In mei 2023 had Apple een marktwaarde van 2,7 biljoen dollar en daarmee was het bedrijf meer waard dan alle beursfondsen van Australië en Duitsland samen. Qua innovatievermogen, om nog maar te zwijgen van salarissen, rekenkracht, kennis en talent, is de overheidssector door deze ongelijkheid in middelen zo ver achteropgeraakt bij de techindustrie, dat haar vermogen om regels op te stellen voor en door de bevolking ernstig wordt gehinderd.
In andere gevallen belemmert het gebrek aan inzicht het opstellen van goede geïnformeerde regels. Software is complex: grote, veelgebruikte programma’s kunnen tientallen miljoenen regels aan code bevatten en AI-systemen kunnen regels ontwikkelen die zelfs door hun eigen makers niet helemaal worden begrepen. Bovendien hebben bedrijven geleerd om het recht op intellectueel eigendom te gebruiken om de ondoorzichtigheid van algoritmen te beschermen en met behulp van de wettelijke bescherming van bedrijfsgeheimen de gekoesterde werkwijzen daarvan aan het publieke zicht te onttrekken. Over het algemeen profiteren bedrijven onevenredig van dit soort bestaande rechtsbescherming, die is ontworpen voordat het internet zelfs maar bestond. Dezelfde wetten die Coca-Cola helpen om het geheime recept te beschermen, zorgen er ook voor dat techbedrijven de werking van hun algoritmen geheim kunnen houden.
Neem de Wet Openbare Overheid (WOO), het recht dat journalisten gebruiken om informatie over overheidshandelen te achterhalen.
Wanneer overheidsdiensten worden uitbesteed aan techbedrijven, kunnen bedrijven die WOO-verzoeken weigeren met een beroep op de bescherming van hun intellectuele eigendom, of zelfs op privacywetgeving. Daarmee omzeilen ze hun verantwoordingsplicht. In andere gevallen voelen overheidsfunctionarissen zich eenvoudigweg niet verplicht om documenten te bewaren als ze commerciële communicatiemiddelen gebruiken. Zo heeft de Ombudsman van de Europese Unie een officiële uitspraak moeten doen om te benadrukken dat tekstberichtjes die EU-leiders uitwisselen via WhatsApp net zozeer onder de regels voor het bijhouden van gegevens en transparantie vallen als officiële e-mails en brieven.
De verstrengeling van economie, veiligheid en rechten die technologie met zich meebrengt, vereist een geïntegreerde politieke visie. Toch hebben democratische leiders maar al te vaak op de digitale revolutie gereageerd met een passieve of versnipperde aanpak en kost het ze grote moeite om een alternatief te formuleren voor de laissez-faire -benadering van de techindustrie. Als een land niet voor ogen heeft hoe het de democratische normen in eigen land kan verankeren, is een geloofwaardige agenda voor het buitenlandbeleid onmogelijk. Om de buitensporige macht van techbedrijven in te dammen, de controle terug te krijgen over de basisfuncties van hun producten en om democratische waarden te verdedigen op het internationale toneel, zijn robuustere juridische en bestuurlijke kaders nodig. Ook zullen we effectieve en sterke prikkels moeten ontwikkelen om te voorkomen dat landen of bedrijven misbruik maken van de macht die nieuwe technologieën hun bieden.
De Tech Coup van Marietje Schaake verschijnt op 27 september bij uitgeverij Atlas Contact.
Marietje Schaake is directeur internationaal beleid bij het Cyber Policy Center van de Stanforduniversiteit en voormalig Europarlementariër voor D66.
Menu
