Het demissionaire kabinet wil ambtenaren verbieden om met AI-software zoals ChatGPT te werken. Grote techbedrijven zoals Meta, Apple en Amazon krijgen miljardenboetes van de Europese Commissie omdat zij zich niet houden aan Europese wetgeving. En President Biden en Xi Jinping maken afspraken over het gebruik van AI in automatische wapens.
Er woedt een mondiale geopolitieke strijd over de toekomst van digitale technologie. Het nieuwe boek van rechtswetenschapper Anu Bradford, Digital Empires: The global battle to regulate technology (Oxford University Press, 2023), is dan ook zeer tijdig en urgent. Ze constateert dat er twee gevechten om AI tegelijkertijd plaatsvinden: een ‘horizontale’ en een ‘verticale strijd’. De horizontale strijd wordt gevoerd tussen de verschillende overheden en dan met name tussen China, de Verenigde Staten en de Europese Unie. De verticale strijd wordt gevoerd tussen de grote technologiebedrijven en deze overheden.
De horizontale strijd is die tussen overheden, en het eerste machtsblok daarin is de Verenigde Staten. Daar heerst volgens Bradford een marktgedreven model gebaseerd op de techno-libertarische overtuiging dat de overheid vooral niet moet reguleren, maar bedrijven de ruimte moet geven om te innoveren. Uit dit model zijn sociale mediaplatforms, zoals Facebook, X en Instagram voortgekomen. Dat de verspreiding van desinformatie en haat op sociale mediaplatforms grote gevolgen had, bleek onder meer uit het Cambridge Analytica-schandaal, de bestorming van het Capitool, en de schade voor de mentale gezondheid van jongeren. Bradford concludeert dan ook dat ‘de economische voordelen van dit Amerikaanse model ten koste gaan van fundamentele rechten, menselijke waardigheid, politieke autonomie en de democratie’.
Het Chinese AI-model daarentegen is volgens Bradford staatsgedreven en vooral gericht op vergroting van de macht van de Chinese overheid, en met name de communistische partij. Via de zogeheten ‘digitale zijderoute’ exporteren Chinese bedrijven software en hardware naar landen met name in Afrika en Zuid-Amerika. Denk aan camera’s met gezichtsherkenningssoftware of Internet of Things-applicaties. Hiermee verspreidt China niet enkel haar economische en geopolitieke macht, maar ook haar autoritaire normen waarin surveillance en controle van mensen door de overheid de boventoon voeren.
De Europese derde weg
De Europese Unie biedt voor beide modellen een alternatief, de zogeheten ‘derde weg’. Fundamentele rechten en vrijheden en de democratie zijn de leidraad voor de ontwikkeling en toepassing van digitale technologie in Europa, aldus Bradford. Dit doet de Europese Commissie met een pakket van 113 stukken wet- en regelgeving, waaronder de AI-Verordening, de wet inzake digitale diensten en de wet inzake digitale markten. De macht van de Europese Unie ligt volgens Bradford in de regulering van digitale technologie én in de overname van deze regels door bedrijven en overheden buiten Europa. Bradford noemt dit laatste het ‘Brussels Effect’, dat ze uiteenzet in haar eerdere boek The Brussels Effect: How the European Union Rules the World (Oxford University Press, 2020). Vanwege de marktgrootte, de strenge standaarden en de reguleringscapaciteit van de Europese Unie, nemen overheden en bedrijven Europese wetten en regels over. Zo hebben deze wetten en regels ook buiten de Europese markt effect.
In de verticale strijd om AI navigeren bedrijven tussen de verschillende AI-modellen van de drie grote machtsblokken. Bedrijven moeten volgens Bradford een afweging maken tussen commerciële kansen en winsten, nationale veiligheid, bedrijfswaarden en strijdige loyaliteiten. Als voorbeeld beschrijft Bradford hoe Google meeging in Chinese censuur, zodat het bedrijf op de Chinese markt kon blijven opereren. Dit kwam het bedrijf op grote kritiek te staan met als gevolg dat Google de zoekmachine in 2010 uit de Chinese markt haalde. Denk ook aan het Chinese bedrijf TikTok dat mogelijk door de Amerikaanse staat Montana verboden wordt, vanwege zorgen om databescherming en veiligheid.
De tegenstrijdige regels tussen de grootmachten brengen volgens Bradford het risico met zich mee dat bedrijven de keuze maken om enkel nog in één van de machtsblokken te opereren – wat ook wel ‘ontkoppeling’ wordt genoemd. Zo kan bijvoorbeeld het internet worden opgeknipt in verschillende delen (zo- dat een ‘splinternet’ ontstaat), data enkel nog lokaal worden opgeslagen (ook wel data-lokalisatie genoemd), en kunnen aandelenmarkten worden opgesplitst. De gevolgen van extreme ontkoppeling zouden volgens Bradford schade berokkenen aan ‘belangrijke technologische vooruitgang en economische voorspoed waar alle digitale regimes van afhankelijk zijn’. En bovendien zou dit volgens Bradford ‘het vooruitzicht op toekomstige detente [verminderde spanning, red.] en co-existentie tussen verschillende grootmachten elimineren’.
De strijd om verbinding
Het zijn zulke spanningen tussen de grootmachten die politicoloog Mark Leonard breder trekt in zijn recent verschenen boek The Age of Unpeace: How Connectivity Causes Conflict (Bantam Press, 2021). Volgens Leonard komt de geopolitieke spanning in deze tijd voort uit ‘alle connecties die de wereld samenbinden – toeleveringsketens, handelsroutes, pijplijnen, spoorlijnen, wegen, kabels en de beweging van mensen, goederen, geld en data’. Hij constateert dat geopolitieke strijd plaatsvindt op verschillende strijdtonelen, namelijk digitale technologie, economie, infrastructuur, migratie en internationaal recht. De gevechten worden uitgevochten met niet-militaire middelen, denk dan aan standaarden, doorvoercontroles, toeleveringsketens, propaganda, sancties, encryptie, monetair beleid en financiële systemen. Voorbeelden te over, dus. Leonard wijdt onder meer een heel hoofdstuk aan de handelsoorlog tussen de Verenigde Staten en China.
Het is de toename van niet-militaire oorlogsvoering die Leonard een continue situatie van ‘niet-vrede’ noemt – vandaar het woord ‘unpeace’ in de titel. Hij stelt dat dit verschillende oorzaken heeft, die ook te maken hebben met digitale connectiviteit. Digitale technologie speelt dus – net zoals Bradford stelt – een belangrijke rol bij de groeiende spanningen in de wereld. Maar waar Bradford zich vooral richt op de acties van over- heden en bedrijven, richt Leonard zich vooral op het individu. Dat heeft voor hem drie aspecten.
Het individu in een veranderende digitale wereld
Ten eerste wijst Leonard op integratie en segregatie die plaatsvindt door digitale technologie. Volgens Leonard versnelt digitale technologie de mate waarin mensen connecties leggen met gelijkgestemden over de hele wereld, wat hij ‘integratie’ noemt. Hierdoor ontstaan ‘imaginaire meerderheden’ van mensen die zich vooral associëren met anderen die hun interesses delen – denk aan de welbekende ‘filterbubbels’ en ‘echo- kamers’, wat Leonard ‘segregatie’ noemt. Deze segregatie leidt ertoe dat mensen, bijvoorbeeld door overheden, politieke partijen of bedrijven, worden beschouwd als een ‘collectie van kenmerken of vaardigheden’, wat mensen hun menselijkheid ontneemt.
Ten tweede ziet Leonard dat de verdergaande automatisering leidt tot een verlies van een gevoel van controle. Bedrijven sturen via algoritmes steeds vaker de gedachten en gedragingen van mensen, zoals de ontmoeting van een partner, de politieke ideeënvorming en de aanschaf van producten. Tegelijkertijd maken bedrijven en overheden ook besluiten over mensen met behulp van algoritmes, bijvoorbeeld over verzekeringen, examens of werk. Doordat deze algoritmes bepalend zijn voor onze levens en tegelijkertijd ondoorzichtig zijn, ervaren mensen volgens Leonard een gebrek aan controle.
Ten derde identificeert Leonard een toename van gevoelens van zowel empathie als jaloezie tussen mensen in verschillende landen en werelddelen, omdat zij zich steeds makkelijker via sociale media met elkaar kunnen identificeren én vergelijken. Dit leidt volgens Leonard tot een toename van een continu gevoel van achtergesteld-zijn bij mensen. Dit gevoel is niet langer ‘relatief’ – gelinkt aan een specifieke situatie – maar ‘universeel’, aldus Leonard.
Strategische autonomie van de Europese Unie
Om de negatieve gevolgen van connectiviteit tegen te gaan, stelt Leonard dat overheden ‘regels en normen’ moeten vaststellen. Als voorbeeld geeft hij de agenda voor ‘strategische autonomie’ van de Europese Commissie. Hiermee wil de Commissie haar grip op toeleveringsketens vergroten, door meer onderdelen van productieketens binnen de Europese Unie te produceren. Dit doet zij bijvoorbeeld via de chipverordening en de grondstoffenverordening.
Volgens Leonard hebben mensen te weinig gelegenheid gehad om toestemming te geven voor de steeds verdergaande globalisering en toename van connectiviteit tussen landen. Techbedrijven zouden daarom onderworpen moeten worden aan ‘echte’ democratische controle, al blijft onduidelijk wat dit precies betekent. Ook ziet Leonard hoop in deliberatieve vormen van democratie die de kloof tussen ‘klassen en etniciteiten’ kunnen overbruggen.
Leonhard waarschuwt tegen nationalistische of protectionistische tendensen. Zo ziet hij grote risico’s in de handelsstrijd tussen China en de Verenigde Staten, die een neerwaartse spiraal zou kunnen veroorzaken. Bovendien onderkent hij dat de grote uitdagingen van deze tijd – zoals klimaatverandering – enkel aangepakt kunnen worden door samen te werken. Deze constateringen sluiten aan bij Digital Empires, waarin Bradford concludeert dat de Europese Unie flink moet blijven reguleren, maar niet op een ‘techno-nationalistische’ manier die gericht is op ‘techno-protectionisme’, zoals via datalokalisatie en industriepolitiek. Dit protectionisme zou namelijk het ongewenste gevolg kunnen hebben dat het – via het Brussels Effect – wordt overgenomen door landen buiten Europa en zo de mondiale standaard wordt.
Protectionisme is niet het antwoord
Bradford en Leonard zijn het erover eens dat protectionisme niet de weg voorwaarts is en op de lange termijn zelfs kan lijden tot meer conflict. Dit strookt ook met onderzoek dat Leonard aanhaalt, waaruit zou blijken dat minder connectiviteit weliswaar leidt tot minder niet-militaire oorlogsvoering, maar ook een grotere kans met zich brengt op militaire oorlogsvoering.
De boodschap van Bradford en Leonard naar de Europese Unie is dan ook duidelijk: herwaardering van productieketens is van groot belang, maar het streven naar ‘strategische autonomie’ moet niet uitmonden
in protectionistische industriepolitiek. Daarbij moet de toekomst van digitale connectiviteit vooral democratischer. Een urgente boodschap in een politiek tijdperk van groeiend rechts-nationalisme in Nederland én Europa.
