Hoe ziet een rechtvaardige digitale toekomst eruit? De auteurs van The Good Robot: Why Technology Needs Feminism schetsen een emancipatoire, inclusieve en solidaire digitale toekomst. Een toekomst die de huidige machtsstructuren rondom digitale technologie bevraagt. Het boek biedt waardevolle inspiratie voor sociaal-liberalen die bezorgd zijn over onze digitale toekomst en op zoek zijn naar nieuwe waarden die leidend kunnen zijn in de ontwikkeling en toepassing van digitale technologie.
Door Laura de Vries
‘Ik zag het vanaf het begin, toen de arme robots nog niet spreken konden, tot het einde, nu ze tussen het mensdom en de vernietiging staan.’ Dit fragment komt uit het boek Ik, robot van Isaac Asimov, geschreven in 1950. Het is een van de bekendste dystopische verhalen over de relatie tussen mens en technologie. De film I, robot is mede geïnspireerd op de verhalen van Asimov. Andere voorbeelden van dystopische technologie-perspectieven zijn The Terminator, Black Mirror en het boek en de gelijknamige film The Circle van Dave Eggers. Dergelijke doemscenario’s sluiten haarfijn aan bij de waarschuwingen voor de existentiële risico’s van kunstmatige intelligentie (hierna: AI). Sommige mensen die werkzaam zijn in het AI-domein hebben zelfs over hun ‘p–doom’, oftewel de kans (p) dat AI volgens hen zal leiden tot uitsterving van de mensheid.
Naast de doemscenario’s staan de veelal utopische beloftes van technologie. Deze kenmerken zich door het ongebreidelde vertrouwen dat technologie complexe en maatschappelijke problemen zoals de klimaatcrisis zal ‘oplossen’. Mensen zelf hoeven volgens deze ‘techno-optimisten’ vrijwel niets te veranderen; we hoeven enkel enorme hoeveelheden geld te investeren in nieuwe, duurzame technologieën. In dit narratief past ook de belofte dat AI bepaalde taken van mensen zal overnemen en daardoor zal leiden tot meer productiviteit en efficiëntie. Of dat AI zelfs het werk geheel uit handen zal nemen – een boodschap die Elon Musk meermaals heeft verkondigd.
Beide perspectieven komen voor in de kringen rondom Silicon Valley. Grote techbedrijven hebben er baat bij de digitale technologie die zij ontwikkelen groter en belangrijker te maken dan dat deze in feite is; ofwel met de claim dat technologie een bedreiging vormt, ofwel dat we er maatschappelijke problemen mee gaan oplossen. Daarnaast hebben beide perspectieven weinig oog voor de schade die technologie op dit moment al aanricht en waarin de aanknopingspunten liggen om technologie in de toekomst beter te maken. Denk aan werknemers bij socialemediaplatforms die tegen geringe betaling traumatiserende beelden moeten bekijken om te zien of deze in strijd zijn met de richtlijnen van het platform.
Bovendien zien beide perspectieven over het hoofd dat technologie als spiegel fungeert: het laat onze goede en slechte kanten zien. Zo kan AI de verspreiding van haat en stereotypen aanwakkeren, maar kan het ook juist ongelijkheid tegengaan, door bijvoorbeeld vacatures te controleren op inclusief taalgebruik. Denk ook aan technologieën die gericht zijn tegen klimaatverandering of de gevolgen daarvan, zoals AI die ontbossing in kaart brengt of waarschuwt voor overstromingen.
Hoe kunnen we technologie meer in lijn brengen met het ‘goede’? Eleanor Drage en Kerry Mclnerney van het University of Cambridge Centre for Gender Studies stelden er een bundel over samen, getiteld The Good Robot: Why Technology Needs Feminism. Bij goede technologie denken we misschien aan technologie die veilig en betrouwbaar is en niet discrimineert. The Good Robot laat zien dat er meer waarden ten grondslag kunnen liggen aan goede, rechtvaardige technologie. Voor de ontwikkeling van zo’n technologie moeten we ‘een toekomst voorstellen die verder gaat dan escapisme of dystopie’, aldus auteurs uit de bundel Hannah Holtzclaw en Wendy Hui Kyong Chun van het Digital Democracies Institute. Drie ideeën uit de bundel zouden in deze toekomst centraal kunnen staan.
Compassie en concrete doelen
Ten eerste wordt goede AI ontwikkeld voor specifieke toepassingen en is deze niet gericht op ‘kunstmatige algemene intelligentie’ (afkorting: AGI), schrijft computerwetenschapper Margaret Mitchell. Kunstmatige algemene intelligentie bestaat niet, maar techondernemers streven hier wel naar door toepassingen te ontwikkelen die verschillende vormen van menselijke intelligentie pogen na te bootsen. In 2023 zei Shane Legg, hoofd AI bij Google, dat er vijftig procent kans bestaat dat het bedrijf AGI bereikt in het jaar 2028. En volgens Sam Altman van OpenAI zijn ‘de voordelen van AGI zo groot’, dat Altman niet gelooft ‘dat het mogelijk of wenselijk is dat de samenleving de ontwikkeling ervan voor altijd stopt.’ Dit schetst bovendien een beeld van technologie als deterministisch, alsof het een ontwikkeling is die ons simpelweg overkomt en we niet kunnen bijsturen. Vanuit democratisch oogpunt is dit beeld uitermate onwenselijk: in een democratie moeten mensen altijd kunnen meebeslissen over digitale innovatie.
Volgens Mitchell is goede AI niet gericht op kunstmatige algemene intelligentie, maar op taakspecifieke assistentie. Een voorbeeld: AI-systemen waarmee mensen die slecht kunnen zien meer toegang krijgen tot de wereld om hen heen, bijvoorbeeld doordat ze visuele informatie kunnen omzetten naar spraak of tekst. Door AI voor concrete doeleinden te ontwikkelen, hebben de makers meer controle over waar de technologie precies voor wordt gebruikt. Ook is bij specifieke toepassingen de kans minder groot dat menselijk falen of vooroordelen – bewust of onbewust – in computers worden gestopt. Dit maakt het risico dat AI-toepassingen leiden tot discriminatie kleiner bij specifiekere toepassingen, aldus Mitchell.
Ook Soraj Hongladarom, hoogleraar filosofie bij de Chulalongkorn Universiteit in Bangkok, pleit in zijn bijdrage voor de ontwikkeling van technologie die specifiek gericht is op het vergroten van gelijkheid tussen vrouwen en mannen, kinderen en volwassenen en minderheden en meerderheden. Volgens hem moet het principe van compassie centraal staan: de voordelen van nieuwe digitale technologie zouden gelijk verdeeld moeten zijn. Dat betekent dat niet alleen grote techbedrijven en ondernemers moeten profiteren van technologie, maar ook de gebruikers, werknemers en de maatschappij als geheel. Hij noemt het voorbeeld van AI waarmee vrouwen in Thailand die ondernemer willen worden beter op de hoogte worden gesteld van de mogelijkheden. En apps om leningen beter af te stemmen op de doelgroep. Op deze manier kan AI bijdragen aan meer financiële mogelijkheden voor vrouwen. Ook pleit Hongladarom voor betere vertegenwoordiging van vrouwen in datasets waarin zij nu nog ontbreken. Het belang hiervan laat cognitiewetenschapper Abebe Birhane van het Trinity College in Dublin zien in haar onderzoek: AI-modellen geven vrouwen, en met name vrouwen van kleur, stereotyperend en seksualiserend weer.
Gemeenschapsgericht
Wie bepaalt ten tweede eigenlijk wat ‘goede’ technologie is? Dat is de centrale vraag die Jennifer Lee van het de American Civil Liberties Union in Washington stelt in haar bijdrage. Volgens Lee moet technologie de rechten en vrijheden van degenen die op dit moment het hardst geraakt worden door technologie centraal stellen. De hedendaagse technologie reflecteert vooral de waarden en voorkeuren van de makers – veelal mensen in geprivilegieerde, machtige posities, waardoor de bestaande machtsstructuren via de technologie nog verder worden versterkt. Als voorbeeld noemt Lee de toepassing van surveillancetechnologie door overheden die ver teruggaat in de geschiedenis. De zogeheten lantaarnwetten(Lantern Laws), in de achttiende eeuw ingevoerd door de staat New York, schreven voor dat zwarte mensen, mensen met een gemengde achtergrond en inheemse mensen zich enkel ’s nachts in de openbare ruimte mochten begeven in het bijzijn van een wit persoon dan wel een lantaarn. Op deze manier wilde de overheid controle op tot slaaf gemaakten controleren.
Ook nu wordt surveillancetechnologie volop toegepast. Zo noemt Lee gezichtsherkenningstechnologie die vooral wordt gebruikt voor de controle van mensen in kwetsbare posities, zoals vluchtelingen. De Europese Unie maakt gebruik van surveillancetechnologie bij grenscontroles, zoals onderzoekers van drie Nederlandse universiteiten aantoonden. Het gaat hier onder meer om biometrische identificatie, leugendetectie en emotie-detectie. De onderzoekers waarschuwen dat bij dergelijke toepassingen verschillende rechten in het geding kunnen komen, waaronder privacy en gegevensbescherming, non-discriminatie alsook rechtsbescherming
. De ontwikkeling van technologie die de rechten en vrijheden van mensen in kwetsbare posities respecteert, draagt bij aan de bescherming van de rechten en vrijheden van ons allemaal, stelt Lee.
Bedachtzaamheid
In de derde plaats is technologie gebaat bij bedachtzaamheid. Ranjit Singh, senior onderzoeker bij de non-profitorganisatie Data and Society, schrijft in zijn bijdrage dat we ‘weg [moeten] van de ‘move fast and break things’-mentaliteit.’ Volgens Singh worden besluiten over technologie veel te gehaast genomen, vooral als het gaat om levensbepalende keuzes zoals technologie die wordt gebruikt bij de toewijzing van sociale voorzieningen. Het risico op discriminatie wordt door deze te snelle besluitvorming ook groter, schrijft Singh. We moeten pas nieuwe digitale technologie introduceren wanneer er voldoende maatschappelijk vertrouwen is in de technologie en mensen op de hoogte zijn van manieren om hun recht te kunnen halen. Voordat technologie in de echte wereld wordt toegepast, moet een eerlijk proces komen, de mogelijke impact worden onderzocht en audits worden uitgevoerd. Dan wordt de waardigheid van mensen niet ingeruild voor ‘data-efficiëntie’, aldus Singh. Tot slot schrijft Singh: ‘Langzaam zijn betekent niet dat je verandering afwijst. Het betekent dat je verandering bedachtzaam omarmt.
Een belangrijke bijdrage in The Good Robot is afkomstig van Michele Elam, hoogleraar geesteswetenschappen aan Stanford University. Elam schrijft dat we er niet klakkeloos vanuit moeten gaan dat technologie onderdeel moet zijn van een oplossing voor een bepaald probleem. In plaats daarvan moeten we onszelf eerst de vraag stellen wat technologie doet, en voor wie. Zo geeft Elam het voorbeeld van zorgrobots, die mensen in verpleeghuizen verzorgen. In plaats van direct te zoeken naar een technologische oplossing voor de toenemende eenzaamheid van ouderen, moeten we volgens Elam eerst meer fundamentele vragen stellen, zoals: hoe ziet onze werk-privébalans eruit? Hoe verdelen we zorgtaken? Bij wie worden zorgtaken belegd en hoe wordt dit gewaardeerd? We moeten er niet bij voorbaat vanuit gaan dat een specifieke technologische toepassing überhaupt goed kan zijn.
Al met al kunnen we ook leren van de utopische en dystopische denkbeelden over AI. Het utopisme leert ons de ogen niet te sluiten voor de mogelijkheden van digitale technologie, bijvoorbeeld in de medische sector, de landbouw en energievoorziening. Het dystopisme leert ons dat we scherp moeten blijven op de risico’s van technologie; dat we voordat AI op de markt komt strenge eisen stellen en ons afvragen of het daadwerkelijk ‘het goede’ zal doen. Voor ‘goede’ technologie is meer nodig en moeten we de leidende waarden blijven herformuleren. The Good Robot biedt hiervoor belangrijke aanknopingspunten: goede digitale technologie gaat uit van compassie, is gemeenschapsgericht en wordt bedachtzaam ontwikkeld voor concrete doeleinden.
Laura de Vries is wetenschappelijk medewerker bij de Mr. Hans van Mierlo Stichting en doet onderzoek naar het gebruik van algoritmes door (lokale) overheden.
Verder lezen
Shannon Valor. 2024. The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press Inc.
Yiran Yang, Frederik Zuiderveen Borgesius, Pascal Beckers en Evelien Brouwer. 2024. Automated Decision-making and Artificial Intelligence at European Borders and Their Risks for Human Rights [working draft].
Menu
