Surveillancekapitalisten controleren de wetenschap, de geheimen en de waarheid

U wordt nú gecontroleerd

Onze digitale eeuw had de Gouden Eeuw van de democratie moeten worden. In plaats daarvan manipuleren tech-bedrijven als Google en Facebook ongestraft onze economie, onze maatschappij en zelfs onze levens. Niet alleen onze privacy, ook de democratie is in gevaar.

Het debat over privacy en de wet in de Federal Trade Commission was die dag ongewoon verhit. Leidinggevenden uit de technologiesector beweerden dat ‘zij heel goed in staat waren om zichzelf te reguleren, en dat overheidsingrijpen kostbaar en contraproductief zou zijn’. Burgeractivisten waarschuwden dat het vermogen van deze bedrijven om data te vergaren en op te slaan ‘een ongekende bedreiging voor de individuele vrijheid’ vormden. Er werd opgemerkt: ‘We moeten beslissen wat de plaats van de mens in het elektronische tijdperk is. Worden we alleen maar bezit voor de commercie?’ Een commissaris vroeg: ‘Waar moeten we de grens trekken?’ Het jaar was 1997.

Die grens werd nooit getrokken en de leidinggevenden kregen hun zin. 23 jaar later is het bewijs binnen. De vrucht van die overwinning was een nieuwe economische logica die ik het ‘surveillancekapitalisme’ noem. Het succes daarvan hangt af van trucjes die misbruik maken van onze onwetendheid en in een mist van misleiding, eufemisme en leugenachtigheid zijn verpakt. Het wortelde en bloeide in de nieuwe ruimtes van het internet, ooit geroemd door surveillancekapitalisten als ‘de grootste onbeheerde ruimte ter wereld’. Maar een leemte vult zich na verloop van tijd steevast met macht, en die ooit zo wilde ruimtes zijn niet langer onbeheerd. In plaats daarvan zijn ze eigendom van en worden ze geëxploiteerd door particulier surveillancekapitaal en worden ze bestuurd door de ijzeren wetten daarvan.

De opkomst van het surveillancekapitalisme in de laatste twee decennia is grotendeels ongehinderd verlopen. ‘Digitaal’ was snel, zo werd ons verteld, en treuzelaars zouden achterblijven. Het is niet verwonderlijk dat zo velen van ons zich hebben gehaast om het levendige Witte Konijn te volgen door zijn tunnel naar een beloofd digitaal Wonderland waar we, net als Alice, ten prooi zijn gevallen aan waanideeën. In Wonderland hebben we de nieuwe digitale diensten als vrij gevierd, maar nu zien we dat de surveillancekapitalisten achter die diensten óns als de vrije handelswaar beschouwen. We dachten dat we Google gebruikten om dingen op te zoeken, maar nu begrijpen we dat Google ons doorzoekt. We gingen ervan uit dat we de sociale media gebruikten om verbindingen te leggen, maar we leerden dat die verbindingen de weg zijn via welke de sociale media ons gebruiken. We vroegen ons nauwelijks af waarom onze nieuwe tv of matras een privacybeleid had, maar beginnen te begrijpen dat ‘privacy’-beleid eigenlijk surveillance-beleid is.

Zoals onze voorouders die de auto een ‘paardloze koets’ noemden omdat ze de ware reikwijdte ervan niet konden inzien, beschouwden wij de internetplatforms als ‘elektronische prikborden’ waar iedereen een briefje op kon prikken. Het Amerikaanse Congres legde dit waanidee vast in een statuut, Sectie 230 van de Communications Decency Act uit 1996, dat deze platformbedrijven vrijwaart van de verplichtingen die gelden voor ‘uitgevers’ of zelfs voor ‘sprekers’.

Herhaalde crises leerden ons dat deze platforms helemaal geen prikborden zijn, maar supersnelle wereldwijde bloedstromen, waarin iedereen een gevaarlijk virus kan inbrengen waar nog geen vaccin voor bestaat. Zo kon de directeur van Facebook, Mark Zuckerberg, op wettelijke gronden weigeren om een vervalste video van Nancy Pelosi, de spreker van het Huis van Afgevaardigden, te verwijderen en later deze beslissing nog eens bevestigen door aan te kondigen dat politieke reclame niet aan een feitencontrole zou worden onderworpen.

Al deze waanideeën berusten op de meest verraderlijke hallucinatie van allemaal: de overtuiging dat privacy privé is. We beelden ons in dat we onze mate van privacy kunnen kiezen met een individuele berekening waarbij een beetje persoonlijke informatie wordt ingeruild voor gewaardeerde diensten – een redelijke tegenprestatie. Toen Delta Air Lines bijvoorbeeld een biometrisch datasysteem beproefde op de luchthaven van Atlanta, meldde het bedrijf dat van de bijna 25.000 klanten die daar iedere week naartoe reisden, 98 procent voor het systeem koos. Daarbij merkte het op dat ‘de optie van gezichtsherkenning iedere klant bij het instappen gemiddeld twee seconden bespaart, of negen minuten als het gaat om een groot vliegtuig’.

De snelle ontwikkeling van systemen voor gezichtsherkenning onthult in feite de publieke gevolgen van deze vermeende privé-keuze. Surveillancekapitalisten hebben het recht opgeëist om onze gezichten overal te registreren waar ze verschijnen – op een straat in de stad of op een Facebook-pagina. De Financial Times meldde dat een Microsoft-database voor gezichtsherkenningstraining, met tien miljoen beelden die zonder medeweten van de betrokkenen van het internet waren geplukt en zogenaamd alleen waren gebruikt voor wetenschappelijk onderzoek, benut was door bedrijven als ibm en staatsinstellingen, waaronder het Amerikaanse en Chinese leger. Daartoe behoorden ook twee Chinese leveranciers van apparatuur aan functionarissen in Xinjiang, waar leden van de Oeigoerse gemeenschap in openluchtgevangenissen wonen die permanent worden bewaakt door gezichtsherkenningssystemen.

Privacy is niet privé, want de effectiviteit van deze en andere particuliere of openbare surveillance- en controlesystemen hangt af van de stukjes van onszelf die we opgeven – of die in het geheim van ons worden gestolen.

Onze digitale eeuw had de Gouden Eeuw van de democratie moeten worden. In plaats daarvan gaan we nu zijn derde decennium in, dat wordt gekenmerkt door een grimmige nieuwe vorm van sociale ongelijkheid die het best kan worden omschreven als ‘epistemische ongelijkheid’. Het doet denken aan een pre-Gutenberg-tijdperk van extreme asymmetrieën van kennis en van de macht die met dergelijke kennis gepaard gaat, nu de technologiereuzen de controle over informatie en het leren zelf in handen krijgen. Het waanidee van ‘privacy als iets wat privé is’ werd in de wereld geholpen om deze onverwachte sociale kloof vorm te geven en te voeden. Surveillancekapitalisten maken gebruik van deze toenemende ongelijkheid van kennis ten bate van de winst. Zij manipuleren ongestraft de economie, onze maatschappij en zelfs onze levens, waardoor niet alleen de individuele privacy maar ook de democratie zelf in gevaar komt. Afgeleid door onze waanideeën hebben we deze bloedeloze staatsgreep van bovenaf niet opgemerkt.

Het geloof dat privacy privé is, heeft ons een toekomst bezorgd waar we niet voor hebben gekozen, omdat het geen rekening heeft gehouden met het diepe onderscheid tussen een samenleving die vasthoudt aan soevereine individuele rechten en een die leeft van de sociale verhoudingen die voortvloeien uit de informatie-ongelijkheid. De les is dat privacy openbaar is: het is een collectief goed dat logischerwijs en moreel gezien onlosmakelijk verbonden is met de waarden van menselijke autonomie en zelfbeschikking waarvan privacy afhankelijk is en zonder welke een democratische samenleving onvoorstelbaar is.

Toch lijkt de wind nu eindelijk uit een andere hoek te waaien. Een fragiel nieuw bewustzijn daagt nu we ons een weg naar huis klauwen uit het konijnenhol. Surveillancekapitalisten zijn snel omdat ze geen werkelijke toestemming of consensus zoeken. Ze vertrouwen op psychische verdoving en boodschappen van onvermijdelijkheid om de hulpeloosheid, berusting en verwarring op te roepen die hun prooi verlammen. De democratie is traag, en dat is een goede zaak. Het tempo ervan weerspiegelt de tientallen miljoenen gesprekken die plaatsvinden in gezinnen, onder buren, collega’s en vrienden, binnen gemeenschappen, steden en staten, en die de slapende reus van de democratie geleidelijk aan tot actie aanzetten.

Deze gesprekken vinden nu plaats en er zijn veel aanwijzingen dat wetgevers bereid zijn om eraan mee te doen en leiding te geven. Dit derde decennium zal waarschijnlijk ons lot bepalen. Zullen we de digitale toekomst beter maken, of zal die ons slechter doen uitkomen? Zal het een plaats zijn die we thuis kunnen noemen?

Epistemische ongelijkheid is niet gebaseerd op wat we kunnen verdienen, maar op wat we kunnen leren. Zij wordt gedefinieerd als de ongelijke toegang tot het leren, opgelegd door private commerciële mechanismen van informatievastlegging, -productie, -analyse en -verkoop. Zij wordt het beste verbeeld door de snelgroeiende afgrond tussen wat we weten en wat er over ons bekend is.

De twintigste-eeuwse industriële samenleving was georganiseerd rond de ‘arbeidsdeling’, waaruit voortvloeide dat de strijd voor economische gelijkheid de politiek van die tijd heeft vormgegeven. In onze digitale eeuw verschuiven de coördinaten van de samenleving van een arbeidsdeling naar een ‘kennisdeling’, en daaruit volgt dat de strijd om de toegang tot kennis en de macht die door die kennis wordt overgedragen de politiek van onze tijd zal vormen.

De epistemische ongelijkheid duidt op een machtsverschuiving van het eigendom van de productiemiddelen, die de politiek van de twintigste eeuw bepaalde, naar het eigendom van de betekenisproductie. De uitdagingen van de epistemische rechtvaardigheid en de epistemische rechten in dit nieuwe tijdperk worden samengevat in drie essentiële vragen over kennis, gezag en macht: wie weet? Wie bepaalt wie wat weet? Wie bepaalt wie bepaalt wie wat weet?

Surveillancekapitalisten willen uw auto en uw medische gegevens. Ze willen uw stem horen en weten wat u eet en koopt. Niets is onbelangrijk

Gedurende de laatste twee decennia hebben de toonaangevende surveillancekapitalisten – Google, later gevolgd door Facebook, Amazon en Microsoft – geholpen om deze maatschappelijke transformatie te stimuleren en er tegelijkertijd voor gezorgd dat ze konden opklimmen naar de top van de epistemische hiërarchie. Ze opereerden in de schaduwen om enorme kennismonopolies te vergaren, door zonder te vragen te nemen, een manoeuvre die ieder kind herkent als diefstal. Het surveillancekapitalisme begint met het eenzijdig opeisen van particuliere menselijke ervaringen als de gratis grondstof voor de vertaling naar gedragsgegevens. Onze levens worden weergegeven als datastromen.

Al vroeg werd ontdekt dat zelfs vrijwillig afgestane data rijke voorspellende gaven hadden, een surplus dat meer is dan wat nodig is voor de verbetering van de dienstverlening. Het gaat niet alleen om wat je online plaatst, maar ook om de vraag of je uitroeptekens gebruikt of om de kleurverzadiging van je foto’s; niet alleen om de vraag waar je loopt, maar ook om de buiging van je schouders; niet alleen om de identiteit van je gezicht, maar ook om je emotionele staat van zijn die wordt gereflecteerd door je ‘micro-expressies’; niet alleen om wat je leuk vindt, maar ook om het patroon van je likes. Al snel werd dit ‘gedragssurplus’ in het geheim nagejaagd en opgeslagen, alsof het om het privé-bezit van de betrokken bedrijven ging.

De gegevens worden overgebracht via complexe toeleveringsketens van apparaten, tracking- en monitoringsoftware en ecosystemen van apps en bedrijven die gespecialiseerd zijn in stiekem vastgelegde niche-datastromen. Uit proeven van The Wall Street Journal bleek bijvoorbeeld dat Facebook hartslaggegevens ontvangt van de Instant Heart Rate: HR-monitor, menstruatiecyclusgegevens van de Flo Period & Ovulation Tracker, en gegevens die blijk geven van interesse in onroerend goed van Realtor.com – en dat alles zonder medeweten van de gebruikers.

Deze gegevens komen terecht in de rekenfabrieken van de surveillancekapitalisten, die ‘kunstmatige intelligentie’ worden genoemd, waar ze worden verwerkt tot gedragsvoorspellingen die wel over ons gaan, maar niet voor ons zijn bedoeld. In plaats daarvan worden ze verkocht aan zakelijke klanten op een nieuw soort markt die uitsluitend in menselijke futures handelt. Zekerheid over menselijke aangelegenheden is het levensbloed van deze markten, waar de surveillancekapitalisten concurreren op de kwaliteit van hun voorspellingen. Dit is een nieuwe vorm van handel die enkele van de rijkste en machtigste bedrijven uit de geschiedenis heeft voortgebracht.

Om hun doelstellingen te bereiken, hebben de toonaangevende surveillancekapitalisten geprobeerd een ongeëvenaarde dominantie op te bouwen over de 99,9 procent van de informatie in de wereld die nu in digitale formaten wordt weergegeven die zij hebben geholpen te creëren. Het surveillancekapitaal heeft de meeste van ‘s werelds grootste computernetwerken, datacentra, serverpopulaties, onderzeese transmissiekabels, geavanceerde microchips en machine-intelligentie opgebouwd, waardoor een wapenwedloop werd ontketend voor de ongeveer tienduizend specialisten op de planeet die weten hoe ze kennis uit deze uitgestrekte nieuwe datacontinenten kunnen genereren.

Met Google aan de leiding proberen de beste surveillancekapitalisten de arbeidsmarkten voor cruciale expertise te controleren, met inbegrip van datawetenschap en dieronderzoek, waarbij ze concurrenten zoals start-ups, universiteiten, middelbare scholen, gemeenten, gevestigde bedrijven in andere sectoren en minder rijke landen uit de markt drukken. In 2016 kreeg 57 procent van de Amerikaanse afgestudeerden in de computerwetenschappen een baan in de surveillance-sector, terwijl slechts elf procent op een universiteit ging werken. In Groot-Brittannië breken universiteitsbestuurders zich het hoofd over een ‘ontbrekende generatie’ van datawetenschappers. Een Canadese wetenschapper klaagt dat ‘de macht, de expertise en de data allemaal geconcentreerd zijn in de handen van een paar bedrijven’.

Google creëerde de eerste waanzinnig lucratieve markten voor de handel in menselijke futures, wat we nu kennen als gerichte reclame online, gebaseerd op hun voorspellingen welke advertenties gebruikers zouden aanklikken. Tussen 2000, toen deze nieuwe economische logica nog maar net was ontstaan, en 2004, toen het bedrijf naar de beurs ging, stegen de inkomsten met 3590 procent. Dit verbijsterende cijfer vertegenwoordigt het ‘surveillance-dividend’. Het zorgde ervoor dat investeerders snel hun kapitaalstromen verlegden, waardoor startende bedrijven, app-ontwikkelaars en gevestigde bedrijven uiteindelijk hun bedrijfsmodel konden verschuiven in de richting van het surveillancekapitalisme. De belofte van een snelle route naar buitensporig grote inkomsten uit de verkoop van menselijke futures dreef deze migratie eerst naar Facebook, vervolgens door de hele tech-sector heen en nu door de rest van de economie naar sectoren zo uiteenlopend als verzekeringen, retail, financiën, onderwijs, gezondheidszorg, onroerend goed, entertainment en ieder product dat begint met het woord ‘smart’ of iedere service die wordt aangeprezen als ‘gepersonaliseerd’.

De economische imperatieven van het surveillancekapitalisme werden verfijnd in de concurrentiestrijd over de verkoop van zekerheid. Het was al snel duidelijk dat de machine-intelligentie zich moest voeden met grote hoeveelheden data, wat dwong tot het nastreven van schaalvoordelen bij de data-extractie. Uiteindelijk werd ingezien dat volume noodzakelijk is, maar niet voldoende. De beste algoritmen vereisen ook zoveel mogelijk verschillende soorten gegevens. Dit besef hielp de ‘mobiele revolutie’ op gang te brengen door gebruikers gewapend met camera’s, computers, gyroscopen en microfoons in hun nieuwe smartphones de echte wereld in te sturen.

In deze concurrentiestrijd om bereik willen de surveillancekapitalisten uw huis binnendringen en alles weten wat u zegt en doet binnen de muren daarvan. Ze willen uw auto, uw medische gegevens en de tv-programma’s waar u naar kijkt; ze willen uw locatie weten, maar ook alle straten en gebouwen die u op uw pad tegenkomt en al het gedrag van alle mensen in uw stad. Ze willen uw stem horen en weten wat u eet en wat u koopt; de speeltijd van uw kinderen en hun scholing; uw hersengolven en uw bloedbaan. Niets is onbelangrijk.

Ongelijke kennis over ons produceert ongelijke macht over ons, en dus wordt de epistemische ongelijkheid groter en omvat zij nu ook de afstand tussen wat we kunnen doen en wat ons kan worden aangedaan. Datawetenschappers omschrijven dit als de verschuiving van monitoring naar inwerkingstelling, waarbij een kritische massa aan kennis over een machinesysteem het mogelijk maakt om dat op afstand te bedienen. Nu zijn mensen het doelwit van deze inwerkingstelling op afstand, omdat de surveillancekapitalisten ontdekten dat de meest voorspellende gegevens voortkomen uit het ingrijpen in het gedrag om dat te loodsen in de richting van commerciële doelstellingen. Dit derde imperatief heeft geleid tot een arena van intense experimenten. ‘We leren hoe we de muziek moeten schrijven’, aldus een wetenschapper, ‘en dan zorgen we ervoor dat de muziek ze laat dansen.’

Deze nieuwe macht ‘om ze te laten dansen’ zet geen soldaten in om dood en verderf te zaaien. Zij komt met een cappuccino, niet met een geweer. Het is een nieuwe ‘instrumentele’ macht die haar wil oplegt via het medium van alomtegenwoordige digitale instrumentatie om subliminale signalen te manipuleren, op psychologische wijze de communicatie te beïnvloeden, keuzes af te dwingen, sociale vergelijkingsdynamiek op te wekken en beloningen en straffen uit te delen – dit alles gericht op het loodsen van menselijk gedrag in de richting van winstgevende resultaten, en altijd ontworpen met de bedoeling om de onwetendheid van de gebruikers in stand te houden.

We zagen de voorspellende kennis veranderen in deze instrumentele macht bij Facebooks ‘besmettings’-experimenten die in 2012 en 2014 werden geopenbaard, toen het bedrijf subliminale signalen en gemanipuleerde sociale vergelijkingen op zijn pagina’s plaatste, eerst om gebruikers te beïnvloeden om te stemmen bij tussentijdse verkiezingen en later om mensen zich droeviger of gelukkiger te laten voelen. Facebook-onderzoekers vierden het succes van deze experimenten en deden daarbij twee belangrijke bevindingen: dat het mogelijk was om online signalen te manipuleren om het gedrag en de gevoelens in de echte wereld te beïnvloeden, en dat dit kon worden bereikt zonder dat de gebruikers daar iets van afwisten.

In 2016 beproefde het door Google bedachte augmented reality-spel Pokémon Go deze strategie op straat. De spelers wisten niet dat ze pionnen waren in het echte spel van gedragsverandering ten bate van de bedrijfswinsten; de beloningen en straffen tijdens de jacht op denkbeeldige wezens werden gebruikt om mensen naar de McDonald’s, Starbucks en lokale pizzeria’s te lokken die het bedrijf daarvoor betaalden, op precies dezelfde manier als online-adverteerders betalen voor het ʻdoorklikken’ naar hun websites.

In 2017 openbaarde een gelekt Facebook-document, dat was verkregen door The Australian, de belangstelling van het bedrijf voor het toepassen van ‘psychologische inzichten’ die waren ontleend aan ‘interne Facebook-gegevens’ om het gedrag van gebruikers te beïnvloeden. De doelwitten waren 6,4 miljoen jonge Australiërs en Nieuw-Zeelanders. ‘Uit het volgen van hun berichten, foto’s, interacties en internetactiviteiten in real time’, schreven de leidinggevenden, ‘kan Facebook afleiden of jonge mensen zich “gestrest”, “verslagen”, “overweldigd”, “angstig”, “dom”, “nutteloos” of een “mislukking” voelen.’ Op grond van deze informatie, zo legden ze uit, kon Facebook het tijdsbestek bepalen waarop een jongere een ‘vertrouwensimpuls’ nodig heeft en het kwetsbaarst is voor een specifieke configuratie van subliminale signalen en triggers. De gegevens worden vervolgens gebruikt om iedere emotionele fase te matchen met de juiste reclameboodschappen voor de maximale kans op gegarandeerde verkoop. Facebook ontkende deze praktijken, hoewel een voormalige productmanager het bedrijf ervan beschuldigde ‘te liegen dat het gedrukt stond’. Feit is dat bij gebrek aan transparantie van het bedrijfsleven en democratisch toezicht de epistemische ongelijkheid triomfeert. Zíj weten het. Zíj beslissen wie het weet. Zíj beslissen wie er beslist.

Het onaanvaardbare kennisnadeel van het publiek wordt nog verdiept doordat de surveillancekapitalisten massacommunicatietechnieken als gaslighting (het psychologisch manipuleren van mensen) verder perfectioneren. Twee voorbeelden zijn illustratief. Op 30 april 2019 deed Facebook-ceo Mark Zuckerberg een dramatische uitspraak op de jaarlijkse ontwikkelaarsconferentie van zijn bedrijf door te zeggen: ‘De toekomst is privé.’ Een paar weken later verscheen er een Facebook-advocaat voor een federale districtsrechter in Californië om een rechtszaak over een inbreuk op de privacy van een gebruiker te dwarsbomen, met het argument dat het gebruik van Facebook iedere redelijke verwachting van privacy ‘rechtens’ tenietdoet. In mei 2019 schreef Sundar Pichai, de ceo van Google, in The New York Times over de toewijding van zijn bedrijf aan het beginsel dat ‘privacy geen luxeproduct kan zijn’. Vijf maanden later bleek dat medewerkers van Google daklozen van kleur in een park van Atlanta giftcards aanboden in ruil voor een gezichtsscan.

Facebook merkt op dat zijn ‘voorspellingsdienst’ ruim zes miljoen voorspellingen per seconde oplert. Maar met welk doel?

De ontkenning van Facebook nodigt uit tot nog meer onderzoek in het licht van een ander gelekt bedrijfsdocument uit 2018. Het vertrouwelijke rapport biedt een zeldzaam inzicht in het hart van de rekenfabriek van Facebook, waar een ‘voorspellingsmotor’ op een platform van de machine-intelligentie draait, die ‘iedere dag biljoenen gegevens consumeert en duizenden modellen traint’ en die dan ‘toepast in de servervloot voor voorspellingen’. Facebook merkt op dat zijn ‘voorspellingsdienst’ ruim zes miljoen voorspellingen per seconde oplevert. Maar met welk doel?

In zijn rapport maakt het bedrijf duidelijk dat deze buitengewone capaciteiten zijn bedoeld om te kunnen voldoen aan de ‘belangrijkste zakelijke wensen’ van zijn zakelijke klanten, met procedures die voorspellingen, microtargeting, interventie en gedragsmodifactie met elkaar in verband brengen. Een Facebook-dienst genaamd ‘loyaliteitsprognose’ wordt bijvoorbeeld aangeprezen vanwege zijn vermogen om te voorspellen wanneer individuen dreigen naar een ander merk over te stappen; adverteerders worden dan gewaarschuwd, zodat ze onmiddellijk met gerichte advertenties tussenbeide kunnen komen om de loyaliteit nét op tijd te stabiliseren.

Datzelfde jaar bracht een jonge man genaamd Christopher Wylie als klokkenluider allerlei wetenswaardigheden naar buiten over zijn voormalige werkgever, een politiek adviesbureau dat bekend staat als Cambridge Analytica. ‘Wij maakten gebruik van Facebook om miljoenen profielen van mensen te verzamelen’, gaf Wylie toe, ‘en bouwden modellen om te profiteren van wat we over hen wisten en hun “innerlijke demonen” te bestoken’. Wylie karakteriseerde deze technieken als ‘informatie-oorlogsvoering’, waarbij hij correct inschatte dat dergelijke schaduwoorlogen zijn gebouwd op asymmetrieën van kennis en de macht. Minder duidelijk voor het publiek of de wetgevers was dat de strategieën van heimelijke invasie en verovering die het bedrijf hanteerde de standaardwerkwijzen van het surveillancekapitalisme waren, waaraan iedere dag miljarden onschuldige ‘gebruikers’ routinematig worden onderworpen. Wylie kon dit proces zo gedetailleerd beschrijven omdat het spoor dat hij volgde al gesneden koek was. De echte innovatie van Cambridge Analytica was dat deze hele onderneming van commerciële naar politieke doelstellingen was omgezet.

Met andere woorden: Cambridge Analytica was de parasiet, en het surveillancekapitalisme was de gastheer. Dankzij zijn epistemische dominantie leverde het surveillancekapitalisme de gedragsgegevens die de doelwitten aan aanvallen blootstelden. Zijn methoden van gedrags-microtargeting en gedragsverandering werden de wapens. En het was het gebrek aan aansprakelijkheid van het surveillancekapitalisme voor de inhoud van zijn platform, als gevolg van Sectie 230, dat de kans bood voor de sluipende aanvallen die waren ontworpen om de innerlijke demonen van nietsvermoedende burgers te activeren.

Het is niet alleen dat de epistemische ongelijkheid ons volkomen kwetsbaar maakt voor de aanvallen van bedrijven als Cambridge Analytica. Het grotere en meer verontrustende punt is dat het surveillancekapitalisme de epistemische ongelijkheid heeft veranderd in een bepalende conditie van onze samenlevingen, waardoor de informatie-oorlogsvoering als een chronisch kenmerk van onze dagelijkse werkelijkheid wordt genormaliseerd, gevoerd door de bedrijven waarvan we afhankelijk zijn voor sociale participatie. Zíj hebben de kennis, de machines, de wetenschap en de wetenschappers, de geheimen en de leugens. Alle privacy berust nu bij hen, waardoor we weinig middelen hebben om ons te verdedigen tegen deze plunderende data-indringers. Zonder wettelijke middelen doen we ons best om ons in ons eigen leven te verstoppen, terwijl onze kinderen aan de eettafel discussiëren over encryptiestrategieën en leerlingen maskers dragen bij publieke betogingen als bescherming tegen gezichtsherkenningssystemen die met behulp van onze gezinsfoto’s zijn gebouwd.

Bij gebrek aan nieuwe verklaringen over epistemische rechten en nieuwe wetgeving dreigt het surveillancekapitalisme de samenleving uit elkaar te doen vallen, net zoals dat met de democratie gebeurt. Van onderaf ondermijnt het de menselijke handelingsmacht, maakt het misbruik van de privacy, vermindert het de autonomie en ontneemt het individuen het recht om te vechten. Van bovenaf zijn epistemische ongelijkheid en onrechtvaardigheid fundamenteel onverenigbaar met de aspiraties van een democratisch volk.

We weten dat surveillancekapitalisten in de schaduw werken, maar wat zij daar doen en welke kennis zij daar opdoen is ons onbekend. Zij hebben de middelen om alles over ons te weten te komen, maar wij weten weinig over hen. Hun kennis van ons is niet voor ons bedoeld. In plaats daarvan wordt onze toekomst verkocht voor de winst van derden. Sinds die bijeenkomst van de Federal Trade Commission in 1997 is de grens nooit getrokken en zijn mensen wel degelijk bezit van de commercie geworden. Een ander destructief waanidee is dat deze uitkomst onvermijdelijk was – een onvermijdelijk gevolg van het gemak dienende digitale technologieën. De waarheid is dat het surveillancekapitalisme het digitale medium heeft gekaapt. Er was niets onontkoombaars aan. Amerikaanse wetgevers zijn om vele redenen terughoudend geweest om deze problemen aan te pakken. Een daarvan is een ongeschreven beleid van het ‘surveillance-exceptionalisme’, gesmeed in de nasleep van de terreuraanvallen van 11 september 2001, toen de aandacht van de overheid verschoof van online privacybescherming naar het nieuwe doel van de ‘totale informatie-bewustwording’. In dat politieke klimaat leken de beginnende surveillance-capaciteiten die uit Silicon Valley kwamen veelbelovend te zijn.

Surveillancekapitalisten hebben zich ook verdedigd door te lobbyen en vormen van propaganda te verspreiden die bedoeld waren om wetgevers te ondermijnen en te intimideren, te bedwelmen en hun actie te bevriezen. Deze propaganda heeft relatief weinig aandacht gekregen in vergelijking met de schade die zij heeft aangericht. Neem twee voorbeelden. Het eerste is de bewering dat de democratie een bedreiging vormt voor de welvaart en de innovatie. De voormalige ceo van Google, Eric Schmidt, verklaarde in 2011: ‘Wij hebben het standpunt “handen af van het internet” ingenomen. Weet je, laat ons met rust. (…) De overheid kan bij het toezicht fouten maken die dit hele gebeuren kunnen vertragen, en wij zien dat en maken ons er zorgen over.’ Deze propaganda is gerecycled van de ʻrobber barons’ uit de Gilded Age (de periode van voorspoed van eind negentiende eeuw in de VS). Zij benadrukten dat er geen behoefte was aan wetten als je de ‘wet van de sterkste’, de ‘wetten van het kapitaal’ en de ‘wet van vraag en aanbod’ had.

Paradoxaal genoeg lijkt het surveillancekapitaal niet de drijvende kracht achter de innovatie te zijn. Uit een veelbelovend nieuw economisch onderzoek blijkt de cruciale rol die de overheid en het democratisch bestuur hebben gespeeld bij de innovatie en blijkt er eerder sprake van een gebrek aan innovatie bij grote technologische bedrijven zoals Google. De informatierijkdom van het surveillancekapitalisme wordt niet ingezet voor dringende zaken als het introduceren van koolstofvrije energie, het uitbannen van de honger, het genezen van kanker, het bevrijden van de oceanen van plastic of het overspoelen van de wereld met goedbetaalde, slimme, liefhebbende leraren en artsen. In plaats daarvan zien we een grensverleggende operatie die wordt geleid door genieën met een enorm kapitaal en rekenkracht achter de hand, die volledig is toegewijd aan de lucratieve wetenschap en economie van het doen van voorspellingen om zoveel mogelijk winst te kunnen maken.

De tweede vorm van propaganda is het argument dat het succes van de toonaangevende surveillancekapitalisten een weerspiegeling is van de werkelijke waarde die zij voor mensen vertegenwoordigen. Maar uit gegevens van de vraagzijde van de economie blijkt dat het surveillancekapitalisme zich beter laat begrijpen als een vorm van marktfalen. In plaats van dat er sprake is van een nauwe afstemming van vraag en aanbod, maken mensen gebruik van deze diensten omdat ze geen vergelijkbare alternatieven hebben en omdat ze niet op de hoogte zijn van de schaduwactiviteiten van het surveillancekapitalisme en de gevolgen ervan. Pew Research Center meldde onlangs dat 81 procent van de Amerikanen gelooft dat de potentiële risico’s van het verzamelen van data door bedrijven zwaarder wegen dan de voordelen, wat erop duidt dat het succes van deze bedrijven eerder afhangt van dwang en verdoezeling dan van het voldoen aan de werkelijke behoeften van mensen.

In zijn prijswinnende geschiedenis van de regelgeving en het toezicht komt historicus Thomas McCraw met een waarschuwing. Door de eeuwen heen hebben toezichthouders gefaald als ze geen ‘strategieën hadden die waren toegesneden op de specifieke sectoren waarop ze toezicht uitoefenden’. De bestaande privacy- en antitrustwetten zijn van cruciaal belang, maar zijn volstrekt ongeschikt voor het pareren van de nieuwe uitdagingen van de epistemische ongelijkheid.

Deze strijd van de 21ste eeuw vereist een raamwerk van in de wet verankerde en aan het democratisch bestuur onderworpen epistemische rechten. Dergelijke rechten zouden de toeleveringsketens van data doorbreken, door de grenzen van de menselijke ervaring te vrijwaren voordat die worden aangevallen door de krachten van de dataficatie. De keuze om elk aspect van hun leven om te zetten in data moet aan individuen toebehoren op grond van hun rechten in een democratie. Dit betekent bijvoorbeeld dat bedrijven niet het recht op je portret kunnen claimen, of je gezicht kunnen gebruiken als gratis grondstof voor analyses, of computerproducten kunnen verkopen die gebaseerd zijn op je gezicht. Het gesprek over epistemische rechten is al begonnen, zoals blijkt uit een baanbrekend rapport van Amnesty International.

Aan de vraagzijde kunnen we de markten die handelen in menselijke futures verbieden en zo de financiële prikkels elimineren die het surveillance-dividend in stand houden. Dit is geen radicaal voorstel. Samenlevingen verbieden bijvoorbeeld ook markten die handelen in menselijke organen, baby’s en slaven. In ieder van die gevallen erkennen we dat dergelijke markten zowel moreel weerzinwekkend zijn als voorspelbare gewelddadige gevolgen hebben. Markten voor menselijke futures kunnen even voorspelbare resultaten opleveren die de menselijke vrijheid op de proef stellen en de democratie ondermijnen. Net als subprime-hypotheken en investeringen in fossiele brandstoffen zullen surveillance-bezittingen de nieuwe giftige activa worden.

Ter ondersteuning van een nieuw concurrentieklimaat zullen wetgevers zich moeten inzetten voor nieuwe vormen van collectieve actie, net zoals dat bijna een eeuw geleden het geval was met de wettelijke bescherming van het recht om zich te organiseren, te staken en collectief te onderhandelen over het inperken van de macht van monopolistische kapitalisten. Wetgevers moeten bondgenootschappen sluiten met burgers die bezorgd zijn over de ongecontroleerde macht van de surveillancekapitalisten en met werknemers die streven naar eerlijke lonen en redelijke bestaanszekerheid in weerwil van de onzekere arbeidsomstandigheden die de surveillance-economie bepalen. Alles wat door mensen is gemaakt, kan door mensen ongedaan worden gemaakt. Het surveillancekapitalisme is nog maar twintig jaar oud, de democratie is veel ouder, geworteld in generaties van hoop en strijd.

Surveillancekapitalisten zijn rijk en machtig, maar ze zijn niet onkwetsbaar. Ze hebben een achilleshiel: hun angst. Ze zijn bang voor wetgevers die niet bang zijn voor hen. Ze zijn bang voor burgers die een nieuwe weg vooruit eisen, terwijl ze aandringen op nieuwe antwoorden op oude vragen: wie zal weten? Wie zal bepalen wie wat zal weten? Wie zal bepalen wie zal bepalen wie wat zal weten? Wie zal de muziek schrijven en wie zal dansen?


Shoshana Zuboff is hoogleraar aan Harvard Business School en auteur van The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (2018). Dit stuk verscheen eerder in The New York Times. Vertaling: Menno Grootveld