De psychische en planetaire pijn achter onze tijdlijn

‘Op welke knop moet je drukken denk je?’ vraagt een contentmoderator aan een collega. ‘Alleen kinderporno, denk ik.’ ‘Kinderporno?’, vraagt de ander bevestigend. ‘Ja, dit moeten we melden bij de cliënt. Controleer zijn profiel en identiteit, en stuur het naar de administratie en dan krijg je een e-mail.’

Deze tekst is een fragment uit de documentaire The Moderators, waarin een groep moderatoren in India wordt gevolgd. Over de hele wereld werken naar schatting meer dan honderdduizend moderatoren voor sociale media en andere techbedrijven – onder andere in de Filipijnen, Kenia en de Verenigde Staten, maar ook in Europa, bijvoorbeeld in Duitsland en Spanje. Officieel worden ze ‘contentmoderatoren’ genoemd, een mooi woord voor online baggerploegers. Ze krijgen video’s en afbeeldingen voorgeschoteld van bijvoorbeeld moord, verkrachting en ander fysiek geweld tegen mensen en dieren, om te beoordelen of deze inhoud in overeenkomst is met de gebruiksvoorwaarden van de technologiebedrijven. Zo doen werknemers in onder andere Kenia dit vuile werk voor Meta (voorheen Facebook). De arbeidsvoorwaarden zijn over het algemeen zeer slecht: contentmoderatoren maken lange dagen, werken onder hoge tijdsdruk en voor een zeer laag loon. WhatsApp, dochterbedrijf van Meta, zou zelfs de tijdsduur van toiletbezoeken registreren. Niet voor niets noemde een werknemer van Meta moderatoren de ‘steenkoolarbeiders van Silicon Valley’.(1)

Gebruikers én werknemers
Alom bekend is hoe grote techbedrijven misbruik maken van de psychische gesteldheid van gebruikers van hun diensten. Zo werd Meta in mei 2022 fel bekritiseerd in de media, toen uit openbaargemaakte documenten bleek dat Instagram destructieve gevolgen heeft voor de psychische gesteldheid van met name jonge vrouwen. Sociaal-liberalen maken zich terecht zorgen over de gevolgen van desinformatie en complottheorieën voor de democratische rechtsstaat. Met wetsvoorstellen zoals de Digital Services Act en de Digital Markets Act poogt de Europese Commissie Big Tech op dit gebied aan banden te leggen.

Minder politieke aandacht gaat tot nu toe uit naar de psychische uitbuiting van de techwerknemers. De nieuwe wetgeving ziet de rechten van werknemers vrijwel volledig over het hoofd. Jurist Anna Drootin noemt de nieuwe Europese wetgeving ‘opmerkelijk vanwege het volledige falen om de benarde situatie van contentmoderatoren aan te pakken’.(2) Het voorstel om illegale content sneller te verwijderen – opgenomen in de Digital Services Act –, zal volgens haar bovendien leiden tot meer vraag naar moderatie, zonder dat moderatoren de nodige bescherming krijgen. Europese wetgeving die wel gericht is op betere arbeidsomstandigheden van werknemers, heeft vooral betrekking op de platformeconomie – denk aan Uberchauffeurs, Deliveroo, Gorillaz en Flinkbezorgers.

Waardeloze arbeidsomstandigheden
De psychische gevolgen van het werk als moderator zijn groot. Doordat moderatoren iedere dag beelden van extreem geweld zien, is het een kwestie van tijd voordat ze gezondheidsproblemen zoals angstklachten, nachtmerries en slapeloosheid ontwikkelen. Zo klaagde in 2021 een aantal contentmoderatoren van Meta in Ierland, Spanje en Duitsland het bedrijf aan vanwege een ontwikkelde posttraumatische stressstoornis. Ook minder extreme uitingen zoals haatzaaijerij, propaganda en samenzweringstheorieën kunnen grote psychische gevolgen hebben: moderatoren die blootstaan aan samenzweringen gaan deze bijvoorbeeld vaker geloven. In reactie hierop biedt Meta werknemers gratis wellness coaches aan – die het bedrijf overigens zelf selecteert en lang niet altijd gecertificeerd zijn voor dit werk.

De waardeloze arbeidsomstandigheden van de moderatoren staan in schril contrast met de waarde van hun werk voor de sociale mediaplatforms. Onder het mom van a human in the loop – het idee dat bij computerbesluiten altijd een mens betrokken moet zijn – trainen de moderatoren de algoritmes waarop de diensten van het bedrijf draaien. Hoe beter het algoritme, des te langer gebruikers op het platform blijven, des te meer advertenties het bedrijf de gebruikers kan laten zien en des te meer geld het bedrijf verdient, is de gedachte. Met andere woorden: meer moderatie betekent meer winst. Winst die overigens niet doorsijpelt naar de werknemers die het vuile werk doen.

Zinloos verzet
In de ideale wereld kunnen werknemers zich verenigen en betere arbeidsomstandigheden eisen, maar niet in de wereld van Big Tech. Wie zich als techwerknemer wil verzetten tegen uitbuiting loopt tegen vele muren op. Zo zette Meta een groep contentmoderatoren in Kenia onder druk om te stoppen met het oprichten van een werknemersvereniging. Amazon startte zelfs een campagne om werknemers in de Verenigde Staten ervan te overtuigen zich niet bij een vakbond aan te sluiten. Met pijn en moeite is het de werknemers uiteindelijk toch gelukt. Duidelijk is dat collectieve werknemersactie geen warm welkom krijgt in de ultrakapitalistische wereld van Big Tech.

Toch zijn er tekenen van succesvol verzet. Zo bouwden werknemers bij het Indonesische deeltaxibedrijf Gojek een app om de algoritmes van het bedrijf om de tuin te leiden, waardoor de chauffeurs veiligere routes kunnen rijden en beter betaalde opdrachten krijgen. In hetzelfde land dreigde een groep motortaxichauffeurs met een staking, met als resultaat dat de motortaxi’s een juridische status kregen en de chauffeurs vervolgens betere werkomstandigheden. Desondanks blijft het ingewikkeld voor techmedewerkers om zich te verenigen. Het helpt niet dat werknemers van hetzelfde bedrijf in verschillende landen werken, terwijl de wetgeving tussen die landen vaak verschilt. Ook zijn de contracten en functietitels per land anders. Werknemers moeten bovendien vaak aan het begin van hun dienstbetrekking een geheimhoudingscontract tekenen, waardoor zij terughoudend zijn zich publiekelijk uit te spreken over de belabberde werksituatie.

De ware kosten van de techindustrie
Uitzoomend naar de gehele toeleveringsketen van onze sociale media tijdlijn, valt nog iets anders op. Niet alleen de menselijke kosten zijn enorm, maar ook de gevolgen voor het milieu en het klimaat. Sterker nog: deze aspecten zijn vaak aan elkaar gelinkt, zo laat Kate Crawford zien in haar boek Atlas of AI. De mijnbouw van vroeger wordt nu gebruikt voor het delven van andere grondstoffen, zoals lithium en kobalt, maar ook het minder bekende dysprosium en neodymium. Deze grondstoffen worden onder meer verwerkt in speakers, batterijen, laptops en telefoons. De werkomstandigheden in deze mijnen in bijvoorbeeld Congo zijn onmenselijk en de grondstoffen eindig.

Ook de CO₂-uitstoot van de techsector is enorm, en neemt alleen maar toe. Zo stoot het trainen van een kunstmatig intelligent computermodel evenveel CO₂ uit als vijf auto’s gedurende hun levensduur. In 2021 stootte Amazon achttien procent meer CO₂ uit dan het jaar daarvoor, terwijl het zichzelf tegelijkertijd presenteerde als een ‘groene kampioen’.(3) De datacenters van techbedrijven draaien bovendien op grote hoeveelheden energie. In 2020 namen datacenters in Nederland 2,8 procent van het landelijk energieverbruik in beslag.(4) In drie jaar tijd is dit percentage meer dan verdubbeld. Mondiaal gebruikt de IT-sector zo’n zeven procent van alle elektriciteit.(5) In New York neemt het mijnen van cryptocurrency zelfs zo’n groot deel van het lokale energienetwerk in beslag, dat het gemeentebestuur heeft besloten de komende jaren geen nieuwe vergunningen af te geven aan cryptomijnbedrijven. De voorstellen van technologiebedrijven om te verduurzamen, blijken bovendien in grote mate af te hangen van investeringen in risicovolle duurzaamheidsprojecten. Van deze projecten is het vaak onzeker in hoeverre ze daadwerkelijk zullen bijdragen aan CO₂-reductie.(6)

De toeleveringsketen achter onze tijdlijn heeft in dit opzicht iets weg van de kledingindustrie. Al gaat het om een ander type product, ze worden beide gecreëerd met enorme klimaat- én sociale kosten, die nauwelijks worden gedragen door de producenten. Beide industrieën houden de ware kosten uit het zicht van de gebruikers. Kledingdragers hebben meestal geen direct contact met de mensen in naaiateliers in China of India, en Instagramgebruikers niet met de contentmoderatoren in Kenia. Door zichzelf naar buiten toe als ‘eerlijk’ en ‘groen’ te presenteren, verdoezelen bedrijven de werkelijke kosten van hun producten. En door hun software ‘slim’ en ’intelligent’ te noemen verdoezelen ze de menselijke arbeid die achter hun praktijken schuilgaat.

Oog voor hele toeleveringsketen
Dat de fast fashionindustrie bloeit onder erbarmelijke arbeidsomstandigheden is bekend. Dat dit ook het geval is voor sociale media en andere technologiebedrijven, heeft nog niet de politieke aandacht die het zou moeten krijgen. Werkomstandigheden en zorg voor milieu en klimaat hangen tot nu toe af van vrijblijvende zelfregulering en Corporate Social Responsibility. Maar zonder het actief monitoren en de druk van overheden en vakbonden heeft dit in de praktijk weinig tot geen effect, zoals ook Anna Drootin stelt. Politici en beleidsmakers zouden daarom de hele toeleveringsketen van Big Tech moeten reguleren.

In februari 2022 publiceerde de Europese Commissie de ‘Richtlijn gepaste zorgvuldigheidsverplichting voor ondernemingen’. Hierin doet zij voorstellen voor meer verplichtingen van (grote) bedrijven voor het beschermen van mensenrechten, milieu en klimaat in hun hele toeleveringsketen. Onduidelijk is in hoeverre de nieuwe regels zullen gelden voor de technologiesector. De wetgeving geldt enkel voor bedrijven buiten de EU, wanneer deze tenminste vijftig procent van hun omzet genereren in een ‘hoogrisico’-sector. Hier valt ook de sector ‘extractie van en handel in grondstoffen (incl. verwerking)’ onder, maar niet de vervuilende sectoren energie, transport en elektronica. De technologiesector zou hierbij geen uitzonderingspositie moeten krijgen. Het is aan politici en beleidsmakers om te zorgen dat Big Tech de dans niet ontspringt.


1. Zie Billy Perrigo (2021) ‘I Sold My Soul.’ WhatsApp Content Moderators Review the Worst Material on the Internet. Now They’re Alleging Pay Discrimination, Time.
2. Anna Drootin (2021) “Community Guidelines”: The Legal Implications of Workplace Conditions for Internet Content Moderators, Fordham Law Review 90, 1197-1244.
3. Justine Calma, (2022) Amazon’s Climate Pollution is Getting Way Worse, The Verge.
4. CBS. Elektriciteit geleverd aan datacenters, 2017-2020.
5. Greenpeace International (2017) Clicking clean: Who is winning the race to build a green internet?
6. Corporate Climate Responsibility Monitor (2022). NewClimate Institute for Climate Policy and Global Sustainability.