Digitale Revolutie

De mogelijkheden van technologie zijn haast eindeloos. Het helpt bij het opsporen en genezen van ziekten als kanker of dementie. Het geeft iedereen toegang tot alle informatie die de mensheid ooit heeft verzameld. Maar het brengt ook vrienden en familie dichterbij. We hebben toegang tot een ongekende rijkdom aan muziek, film en andere kunst. We kunnen overal ter wereld de weg vinden met Google Maps, makkelijker reizen boeken met Booking.com en overal in de wereld betalen met Apple Pay. En de toekomstige technologische mogelijkheden rijken nog verder. Veel verder.

In de begintijd van het internet klonk de stellige belofte dat het de wereld zou openen, de mensheid zou verbinden, welvaart beter zou verdelen, democratieën zou versterken en individuen vrijer zou maken. Mensen zouden vrij informatie kunnen delen, ideeën uitwisselen en zichzelf ontdekken. Een supersnelweg, een marktplaats van ideeën waarop iedereen gelijk zou zijn, gevrijwaard van overheidsbemoeienis en machtige tussenpersonen.

Er zit een andere kant aan deze utopie. Als we kijken naar de gevolgen van digitalisering is er veel meer aan de hand dan de zichtbare kant van blinkende gadgets, fraaie platforms en handige apps. Het internet heeft een verborgen karakter. Veel technologieën zijn ongrijpbaar. Techreuzen werken met algoritmes, waardoor mensen in hun ‘eigen bubbel’ leven. Deze algoritmes bepalen namelijk wat voor informatie we te zien krijgen. Doordat de techreuzen ons nauwgezet volgen, voeden zij ons steeds weer met dezelfde informatie.

Het moment dat we wakker worden gemaakt door onze smartphone, het water dat uit de douche komt, de auto of trein die ons naar het werk brengt, het contact met vrienden en familie, het betalen van de boodschappen en de verwarming thuis; alles is verbonden via de digitale snelweg. Al deze aspecten van ons dagelijks leven worden vastgelegd en opgeslagen.

Bedrijven bouwen dossiers op van alle gebruikers. Er staat in welke informatie we opzoeken, met wie we contact hebben, onze geaardheid, onze politieke voorkeur, onze GPS-bepaalde locatie. Alles -van onze favoriete kattenfilmpjes tot en met de meest intieme details van ons leven- is gedigitaliseerd en opgeslagen door bedrijven en overheden.

Algoritmes bepalen wat we zien
Amerikaanse techreuzen als Facebook, Amazon, Apple, Google en hun Chinese evenknieën Tencent, Alibaba, Huawei en Baidu hebben een megamacht in onze samenleving. Dit vormt een maatschappelijke machtspositie die misbruikt wordt om mensen te beïnvloeden, informatie te filteren, kleine makers te onderdrukken, personeel te verwaarlozen, concurrenten te weren en belasting te ontlopen.

Bovendien worden de platforms van deze bedrijven misbruikt door derden om verkiezingen te manipuleren of om angst en twijfel te zaaien over onderwerpen als vaccineren of klimaatverandering. Zo is dus een macht ontstaan die gebruikt wordt tegen mens en maatschappij.

De enorme hoeveelheden data die Facebook over ons bezit werden bijvoorbeeld misbruikt om mensen op oneigenlijke manier te beïnvloeden op een politiek kandidaat te stemmen. Cambridge Analytica gebruikte de data om stemmers tijdens de presidentsverkiezingen van 2016 met gepersonaliseerde advertenties te overtuigen op Donald Trump te stemmen en om andere stemmers – vaak minderheden- te overtuigen niet te gaan stemmen. Een grotere invloed op de democratie en een duidelijker voorbeeld van de enorme maatschappelijke macht van techreuzen is bijna niet denkbaar.

Algoritmes bepalen wie verdacht is
Intussen zien ook overheden de wereld door de bril van techno-utopisme. Overheden verzamelen, koppelen en analyseren steeds vaker en steeds meer data. Allerlei overheidsdatabases met daarin ID-gegevens, woongegevens en belastinggegevens worden gedigitaliseerd, gekoppeld en geanalyseerd op fraude of criminele activiteiten. Dat klinkt misschien mooi en efficiënt, maar heeft een groot effect op onze samenleving.

Een van onze grondrechten is dat de overheid niets te zoeken heeft in ons privéleven, tenzij we ergens van verdacht worden. Dit grondrecht wordt met al deze data-analyses omgedraaid: we zijn bij voorbaat verdacht, tenzij de computer ons vrijspreekt. We lijken te vergeten dat dit grondrecht essentieel is voor onze vrije, democratische rechtstaat en dat het ons beschermt tegen willekeur, discriminatie en onderdrukking.

Wie terugblikt op de afgelopen tien jaar ziet de immense veranderingen die in minder dan een decennium hebben plaatsgevonden. In 2011 was Hyves nog groter dan Facebook. Veiligheidsdiensten werden bekritiseerd over te veel telefoontaps. En de Tweede Kamer debatteerde over een downloadverbod.

De belofte van digitale technologie was dat het de vrijheid van mensen zou vergroten door de toegang tot informatie makkelijker te maken voor iedereen. Dat het de kennis van mensen en daarmee hun macht zou vergroten. Maar wat digitalisering vooral heeft bereikt is het vergroten van de kennis van bedrijven en overheden over mensen.

Datamacht
De hoeveelheid data die bedrijven als Facebook, Amazon en Google over mensen hebben is ongekend. Nog nooit zijn zoveel aspecten van de levens van zoveel mensen vastgelegd als nu. Via zoekopdrachten op Google, likes op Facebook en tweets op Twitter. Maar ook via de koppeling van allerlei databestanden verzamelen bedrijven een ware schat aan kennis. Over wat we denken en leuk vinden, over angsten en wensen. Met wie we contact hebben. Geaardheid, politieke voorkeuren en afkomst. Huisadres, naam en woonplaats. Onze hartslag, locatie en medische gegevens. We geven het allemaal weg aan bedrijven. En we geven ze zo kennis over de meest intieme onderdelen van onze levens.

Al die gegevens creëren een zeer gedetailleerd beeld van ons. Hierdoor kennen deze bedrijven ons feitelijk beter dan onze vrienden en familie. Volgens onderzoek van Cambridge en Stanford kent Facebook ons na 10 likes al beter dan collega’s, na 70 likes beter dan onze vrienden en na 150 likes beter dan onze familie.

Waarom verzamelen bedrijven eigenlijk zoveel informatie over ons? Het verdienmodel van deze bedrijven is de grootste boosdoener (maar niet de enige factor). Google verdient 85% van zijn omzet uit advertenties, Facebook zelfs 99%. Dat werkt als volgt: data helpt om meer clicks op advertenties te krijgen. Want naarmate je meer over iemand weet, groeit de kans dat de gekozen advertentie aansluit op zijn of haar interesses en daarmee de kans dat iemand op deze advertentie klikt.

Mediamacht
Bedrijven weten zoveel over mensen, dat ze weten voor welke soort informatie mensen het meest gevoelig zijn. Controle over wat mensen zien, wat voor informatie ze voorgeschoteld krijgen en wat voor nieuws ze lezen is een enorme bron van macht. Het stuurt namelijk de kennis en het beeld dat mensen van de wereld krijgen. En het beperkt mensen in hun handelen omdat ze niet weten wat ze niet weten.

Het is een keuze van Google om te bepalen welke filmpjes mensen aangeraden krijgen over het ontkennen van klimaatverandering. Het is een keuze van Facebook om politici nepnieuws te laten verspreiden via advertenties en om grote hoeveelheden nepnieuws over vaccinaties te laten circuleren. In de traditionele media zorgen onafhankelijke redacties en statuten voor transparantie en verantwoordelijkheid. Deze verantwoordelijkheid en transparantie ontbreken nu bij grote spelers in de digitale wereld.

Marktmacht
Grote techbedrijven domineren de markt. Ze verzamelen gigantische hoeveelheden aan data en verdienen daarmee zoveel geld, dat ze meer en meer macht hebben. De gevolgen? Medewerkers en kleine makers worden uitgebuit en belastingplicht wordt ontlopen. De gretigheid naar advertentie-inkomsten is zo hoog, dat er liever aan desinformatie wordt verdiend dan op fatsoenlijke bedrijfsvoering wordt toegezien.

Overheden verzamelen, koppelen en analyseren steeds meer data. Bestaande databases van informatie over mensen zijn de afgelopen decennia gedigitaliseerd. In totaal heeft de overheid meer dan 5000 databases met persoonsgegevens en zit de gemiddelde Nederlander in tientallen van dergelijke databases.

Als bedrijven te machtig zijn en de burger daar nadeel van ondervindt, dan is de overheid de aangewezen partij om de burger daartegen te beschermen. Maar de overheid is zelf uit controle-overwegingen ook een grote datagebruiker en daarbij zelfs gebruikmaakt van het bedrijfsleven. De overheid speelt dus een dubieuze dubbelrol als controlestaat en marktcontroleur.

De overheid verzamelt niet alleen meer data, het koppelt en analyseert ook steeds meer data. Een database geeft maar een klein beeld van iemands leven. Twee of drie gekoppelde databases leveren al een completer beeld op, laat staan als tientallen databases gekoppeld worden. Zo kan de overheid onder meer een beeld krijgen van waar je je bevindt, met wie je contact hebt en waar je je geld aan uitgeeft. Een completer beeld van iemands leven kun je je nauwelijks voorstellen.

SyRI: discriminatie om fraude op te sporen
Een voorbeeld van hoe dit nu gebruikt wordt is SyRI, oftewel Systeem Risico Indicatie. Dit is een systeem van de Rijksoverheid dat verschillende databases met persoonsgegevens aan elkaar koppelt om fraude op te sporen. Een computer krijgt voorbeelden van bekende fraudeurs te zien en probeert op basis van die data verbanden te herkennen in de data van onschuldige mensen. Er bestaat op dat moment nog geen concrete verdenking. De data van onschuldige mensen wordt verzameld, gekoppeld en geanalyseerd om te kijken of ze iets fout gedaan hebben.

Het zou bij wijze van spreken kunnen dat het algoritme getraind is met data van alleen maar fraudeurs die op een oneven straatnummer wonen, waardoor het algoritme concludeert dat mensen op een oneven straatnummer eerder fraudeurs zijn. Hierdoor liggen discriminatie en willekeur op de loer.

Bedrijven als Google en Facebook moeten hun maatschappelijke verantwoordelijkheid nemen. Bij Facebook, Twitter of Google moet een onafhankelijke redactie komen die bepaalt welke keuzes er gemaakt worden in het algoritme dat bepaalt wat mensen zien. Mediaorganisaties hebben statuten waarin de journalistieke uitgangspunten op een transparante manier opgeschreven staan. Dergelijke transparantie over de uitgangspunten die ten grondslag liggen aan de inrichting van de algoritmes van Facebook, Google en Twitter is essentieel.

De nieuwe Europese privacywet, de AVG, zorgt ervoor dat mensen toestemming moeten geven voor het delen van hun gegevens. Concreet betekent dit dat websites, apps en browsers niet de toegang mogen ontzeggen aan mensen die hun data niet willen afstaan. In de praktijk is dit nog vrijwel nergens het geval. Al die websites, apps en browsers zijn in strijd met de privacywet. De toezichthouder, de Autoriteit Persoonsgegevens, moet daarom streng toezicht houden en voldoende middelen hebben om haar werk goed te kunnen doen. Momenteel beschikt de toezichthouder over te weinig middelen en menskracht.

Er moet de optie bestaan om techreuzen te splitsen. Facebook, Google en Apple bieden een grote verscheidenheid aan diensten aan. Zo’n combinatie is gevaarlijk voor de economie en de democratie. Verschillende diensten van een enkel bedrijf kunnen namelijk moeiteloos data uitwisselen. En als poortwachter bepalen ze wie toegang heeft tegen welke prijs. In Duitsland is Facebook bijvoorbeeld al verboden om data van Duitse burgers uit Facebook, WhatsApp en Instagram te combineren. Op Europees niveau kunnen lidstaten gezamenlijk een sterke vuist maken tegen dit soort praktijken.

Geef opkomende techbedrijven een eerlijke kans. De marktmacht van techreuzen geeft hen een voorsprong die niet door andere bedrijven in te halen is. Door techreuzen te verplichten om sommige data te delen met nieuwe bedrijven, kunnen nieuwe bedrijven hun eigen algoritmes even slim maken. Ook moet het als klant makkelijk zijn om over te stappen van techbedrijf naar techbedrijf. Als je genoeg hebt van Amazon moet jouw persoonlijke informatie overgezet kunnen worden naar een Disney+ abonnement. Als je je vrienden mee kan nemen van Facebook naar een ander netwerk of als bedrijven hun eigen appstore op de iPhone kunnen zetten dan wordt meer concurrentie en minder marktmacht mogelijk.

Discriminatie door algoritmes bij de overheid, bijvoorbeeld als de overheid fraude wil opsporen, is uit den boze. Het is daarom hoog tijd voor een Algoritme Autoriteit, die het gebruik van algoritmes kan controleren op discriminatie of uitsluiting en deze kan terugdraaien. Ook moet er een meldplicht komen voor het gebruik van ingrijpende algoritmes, zowel bij de toezichthouder als bij de minister voor Rechtsbescherming.

Er komen steeds meer nieuwe technologieën als gezichtherkenningscamera’s op. D66 wil dat die technologieën niet zomaar worden toegepast zonder breed maatschappelijk debat, duidelijke richtlijnen en wettelijke waarborgen. Daarom moeten overheden de toepassing van sensortechnologie, zoals gezichtsherkenningscamera’s, verplicht melden bij de minister voor Rechtsbescherming.

Zomaar databases met persoonlijke informatie van onschuldige mensen koppelen en analyseren, zoals SyRI doet, kan niet zomaar en op grote schaal. Dit kan enkel en alleen als er een duidelijk en belangrijk doel aan ten grondslag ligt. En mits het met (vooraf) weldoordachte en (achteraf) controleerbare methodes gebeurt, die de privacy van onschuldige mensen zo min mogelijk raken. In alle andere gevallen moet er een concrete verdenking van een individu zijn als de overheid die databases wil raadplegen. Hier moet een duidelijke richtlijn voor worden ontwikkeld.