Hoewel menigeen er beducht voor zou zijn, zouden we volgens Lobel computers juist gevoelige gegevens moeten laten verwerken. Immers, pas als we gegevens zoals over afkomst, genderidentiteit of seksualiteit meenemen, kunnen we de bestaande ongelijkheid een beetje ‘corrigeren’. Zo kunnen algoritmes bijdragen aan het tegengaan van de loonkloof, bijvoorbeeld door inzicht te geven in het loonverschil tussen vrouwen en mannen. Algoritmes kunnen er ook aan bijdragen dat vacatures terechtkomen bij groepen die op dat
moment ondervertegenwoordigd zijn in de organisatie.
Wat een eerlijk algoritme precies inhoudt, hangt af van je overtuigingen over gelijkheid. Bovendien, erkent ook Lobel, kan gelijkheid op gespannen voet staan met andere waarden, zoals privacy en autonomie. Algoritmes om online pesten tegen te gaan kunnen bijdragen aan sociale rechtvaardigheid, maar ook de privacy en autonomie van mensen schenden. Terecht constateert Lobel dan ook dat de balans “tussen veiligheid en privacy, gelijkheid en vrijheid en tussen rechten en vrijheden” uiteen zal lopen tussen verschillende democratieën.
De crux zit ‘m in de wijze waarop democratieën zulke afwegingen maken. Want wat een beetje onderbelicht blijft in het boek, is dat de verzameling van meer én van meer gevoelige gegevens niet zonder risico is. Afhankelijk van wie de gegevens in handen heeft, kunnen ze juist ook worden gebruikt voor discriminerend beleid. Het is bij uitstek aan de Democraten om te zorgen dat rechtvaardige technologie hand in hand gaat met democratische waarborgen. Leg bijvoorbeeld vast welk type gegevens voor welke doeleinden gebruikt mogen
worden. Bijvoorbeeld, sta de verzameling van gevoelige gegevens wel toe voor algoritmes met als doel mensen te emanciperen, maar niet voor algoritmes met als doel mensen te controleren. De ontwikkeling van nieuwe technologieën als kunstmatige intelligentie gaat razendsnel, wat het gesprek hierover extra urgent maakt. In de woorden van Lobel: “nu is de tijd om de richting te bepalen waarin technologieën ontwikkeld worden”.
