Surveillancekapitalisme: Een antidemocratische schaduw

De stofzuiger die stiekem een plattegrond verzendt

De mensen met wie u uw leven deelt, de geheimen die uw kinderen met hun poppen delen, uw slaapgewoonten, uw aarzeling als u in een winkel truien bekijkt. Bedrijven stropen uw privé-ervaringen af, op zoek naar data. Het is tijd om terug te vechten.

Onlangs kwam Mark Zuckerberg onder vuur te liggen van Roger McNamee, zijn vroegere adviseur. McNamee, die al eerder kritiek had geuit op de ceo van Facebook, kapittelde Zuckerberg en zijn onderneming voor hun niet-aflatende streven om in het bezit te komen van gebruikersgegevens, steeds vaker met illegale en destructieve methoden. ‘Om zijn AI (kunstmatige intelligentie – red.) en algoritmen te voeden, heeft Facebook overal waar het kon gegevens verzameld. Het duurde niet lang voordat Facebook iedereen aan het bespioneren was, ook mensen die geen gebruik maken van Facebook’, schreef McNamee. Deze activiteiten, zei hij, werden ontwikkeld om de betrokkenheid van gebruikers te manipuleren met behulp van praktijken die uiteindelijk door slechte spelers werden misbruikt om in het nationale bewustzijn te infiltreren en het politieke discours te verminken.

McNamee’s analyse is een gevaarlijke categoriefout. Hoewel zowel de Russische regering als de plutocraat Robert Mercer, mede-eigenaar van het nu ter ziele gegane Cambridge Analytica en geldschieter van de presidentscampagne van Donald Trump, heeft geleerd hoe zij de ingewikkelde geheime machine moesten bedienen die door Facebook is gebouwd, beginnen of eindigen deze activiteiten en het digitale apparaat waarbinnen zij functioneren niet met Facebook. In plaats daarvan zijn het sleutelelementen van een nieuwe economische logica die ik het ‘surveillancekapitalisme’ noem.

Dergelijke praktijken werden uitgevonden bij Google, zijn door Facebook overgenomen, hebben Silicon Valley overspoeld en zich sindsdien verspreid over alle economische sectoren. Het zou een ernstige vergissing zijn om te veronderstellen dat dit slechts een Facebook-fenomeen is. Reguleer Facebook. Splits het concern op. Eis een verandering van zijn leiderschap. Het surveillancekapitalisme zal er niet onder lijden. Integendeel, het zal de leegte snel opvullen, gecamoufleerd door een nieuwe cast van personages en een frisse, trendy woordenlijst vol eufemismen.

In 1978 ben ik begonnen met het onderzoeken van de digitale revolutie, met de focus op de werkplek. Tegen de tijd dat mijn eerste boek, In the Age of the Smart Machine, in 1988 verscheen, begreep ik dat de weg naar de digitale toekomst beladen zou zijn met conflicten over de vraag wie toegang zou hebben tot nieuwe kennis, wie de bevoegdheid had om te beslissen en wie de macht had om die bevoegdheid af te dwingen.

Inmiddels zijn deze verstrengelde dilemma’s onze werkplekken ontstegen om ieder aspect van ons leven te overspoelen. Informatie- en communicatietechnologieën zijn wijder verbreid dan elektriciteit en bereiken drie miljard van de zeven miljard mensen in de wereld. Hun wortels liggen in de behoeften van het dagelijks leven, waarbij bijna elke vorm van sociale participatie wordt bemiddeld.

Het werd me al snel duidelijk dat het surveillancekapitalisme afweek van veel normen en praktijken die de geschiedenis van het kapitalisme karakteriseren, met name de geschiedenis van de marktdemocratie. Er was iets verbazingwekkends en ongekends ontstaan, en de gevolgen daarvan zullen het morele en politieke milieu van de 21ste-eeuwse samenleving en de waarden van onze informatiemaatschappij vormgeven.

Het surveillancekapitalisme werd uitgevonden in het dal van de dot.com-bust, toen een start-up genaamd Google besloot te proberen zijn advertentie-inkomsten te verhogen door gebruik te maken van zijn exclusieve toegang tot grotendeels genegeerde datalogs – het ‘digitale residu’ dat overblijft van het online zoeken en browsen door gebruikers. De gegevens zouden worden geanalyseerd op voorspellende patronen die advertenties en gebruikers met elkaar konden verbinden. Google zou de ‘overtollige’ gedragsgegevens een nieuwe bestemming geven en methoden ontwikkelen om agressief op zoek te gaan naar nieuwe bronnen ervan.

Volgens de verhalen van zijn eigen wetenschappers werden de nieuwe methoden van Google gewaardeerd omdat ze in staat waren gegevens te vinden die gebruikers graag privé wilden houden en daaruit uitgebreide persoonlijke informatie af te leiden die gebruikers eigenlijk niet wilden delen. Deze activiteiten moesten zich aan het zicht van de gebruikers onttrekken om alle mogelijke ‘fricties’ weg te nemen. Met andere woorden, vanaf het allereerste begin was de doorbraak van Google gebaseerd op een eenrichtingsspiegel: surveillance. De nieuwe methoden werden tussen 2001 en 2004 uitgevonden en ingezet, en strikt geheim gehouden. Pas toen Google in 2004 naar de beurs ging, kwam de wereld erachter dat de omzet van Google dankzij deze nieuwe activiteiten met 3590 procent was gestegen.

Deze verschuiving in het gebruik van gedragsgegevens was een historisch keerpunt. Google had een gratis nieuwe inkomstenbron gevonden, die kon worden opgewaardeerd van een verbetering van de dienstverlening naar een echte handelswaar. Het surveillancekapitalisme migreerde al snel naar Facebook en werd het standaardmodel voor de kapitaalaccumulatie in Silicon Valley, die werd omarmd door iedere start-up en app.

Het werd voorgesteld als een tegenprestatie voor gratis diensten, maar beperkt zich net zo weinig tot die context als de massaproductie zich heeft beperkt tot de fabricage van de T-Ford. Het is nu aanwezig in een breed scala van sectoren, zoals verzekeringen, de detailhandel, de gezondheidszorg, financiën, amusement, onderwijs en nog meer. Het kapitalisme verandert terwijl we toekijken.

Misschien wel de meest indringende illustratie hiervan kan worden aangetroffen in de geboorteplaats van de massaproductie: de Ford Motor Company. Honderd jaar geleden gaven pioniers als Henry Ford vorm aan een nieuwe eeuw van massaconsumptie. Ford begreep dat ook boeren en winkeliers een auto wilden hebben, maar tegen een prijs die ze zich konden veroorloven. In zijn wereld waren klanten en werknemers verbonden in een cyclus van productie en verkoop die goedkope goederen combineerde met de consumptiewaardige lonen die door Fords Five Dollar Day zijn vereeuwigd.

In november 2018 wees Jim Hackett, de president van Ford, op een nieuw paradigma voor autofabrikanten. Hij zei tegen een interviewer: ‘In de toekomst zullen we net zo veel gegevens krijgen uit auto’s, of van de gebruikers van die auto’s, of van de steden die met die auto’s praten, als de andere concurrenten [zoals Tesla] waar u en ik het over hebben (…) Mijn geloof is: er zijn vandaag de dag honderd miljoen mensen die in auto’s van Ford rijden. Dat biedt ongekende mogelijkheden om die gegevens te gelde te maken, méér dan die van een upstart die nu wellicht 120.000 of 200.000 auto’s op de weg heeft. Vergelijk gewoon de twee wagenparken: van welke zou u het liefst de gegevens hebben?’

In de VS sluizen ademhalingsapparaten, die worden gebruikt door mensen met slaapapneu, in het geheim gegevens naar de zorgverzekeraar

Zodra klanten opnieuw zijn uitgevonden als gegevensbronnen is het voor Hackett makkelijk om de volgende stap te bedenken, waarin de gegevens die in real time uit die auto’s stromen worden gecombineerd met de financieringsgegevens van Ford. Hij zegt: ‘We weten al (…) wat mensen maken (…) waar ze werken (…) en of ze getrouwd zijn. We weten hoe lang ze al in hun huis wonen.’ Hij besluit: ‘En denkt u zich eens in wat we met die gegevens kunnen doen.’ Zoals een industrie-analist het stelt, ‘kan Ford een fortuin verdienen met het te gelde maken van die gegevens. Daar hebben ze geen ingenieurs, fabrieken of dealers voor nodig. Het is bijna pure winst.’

Dit is de wereld waar we nu in leven – een wereld waarin bijna elk product of dienst begint met het woord ‘slim’ of ‘gepersonaliseerd’, en elk apparaat of voertuig met internettoegang en elke ‘digitale assistent’ een interface is in de aanbodketen van een onbelemmerde stroom van gedragsgegevens.

Het is al lang bekend dat het kapitalisme zich ontwikkelt door dingen te claimen die zich buiten de dynamiek van de markt bevinden, om die vervolgens te transformeren in marktgoederen die gekocht en verkocht kunnen worden. Het surveillancekapitalisme breidt dit patroon uit door particuliere menselijke ervaringen tot gratis grondstoffen te maken die becijferd en omgezet kunnen worden in gedragsvoorspellingen voor productie en handel. In deze logica stroopt het surveillancekapitalisme ons gedrag af voor toegevoegde waarde en laat het alle betekenis liggen die zich in ons lichaam, onze hersenen en onze kloppende harten bevindt. U bent niet ‘het product’, maar eerder het achtergelaten karkas. Het ‘product’ bestaat uit de surplus-data die uit uw leven zijn gestolen.

In deze nieuwe aanbodketens bevinden zich de mensen met wie u uw leven deelt, uw tranen, uw in woede opeengeklemde kaken, de geheimen die uw kinderen met hun poppen delen, uw gesprekken tijdens het ontbijt en uw slaapgewoonten, de decibelniveaus in uw huiskamer, de dunner wordende zolen van uw sportschoenen, uw aarzeling als u de truien in een winkel bekijkt, en de uitroeptekens die volgen op een Facebook-post, ooit samengesteld in onschuld en hoop. Niets is hiervan uitgezonderd, van ‘slimme’ wodkaflessen tot rectale thermometers met internetaansluiting, nu producten en diensten uit elke sector meedoen aan de concurrentiestrijd om surveillance-omzet.

Al die gegevens worden uit uw dagelijks leven weggezogen op manieren die zijn bedoeld om u onwetend te houden. In de VS sluizen ademhalingsapparaten, die worden gebruikt door mensen die last hebben van slaapapneu, in het geheim gegevens naar de zorgverzekeraar van de slaper, dikwijls om dat bedrijf in staat te stellen betaling te weigeren. Sommige apps op uw mobiele telefoon registreren uw locatie om de twee seconden, ten behoeve van de mogelijke verkoop aan derden.

In juli 2017 haalde de autonome stofzuiger Roomba van iRobot de voorpagina’s, toen de ceo van het bedrijf, Colin Angle, Reuters vertelde over zijn op data gebaseerde bedrijfsstrategie voor het ‘slimme huis’. Hij zei dat de aandelenkoers van het bedrijf was gestegen na zijn voorstel om gratis plattegronden van de woningen van klanten te delen, die met behulp van de nieuwe cartografische mogelijkheden van de machine waren vergaard.

Op een bepaald moment hebben de surveillancekapitalisten de gedragsbeïnvloeding ontdekt: digitaal bemiddelde realtime-interventies die de consument in de richting van gewenst gedrag sturen. Een datawetenschapper vertelde me: ‘We kunnen de context reconstrueren rond bepaald gedrag en op die manier verandering afdwingen (…) We leren nu hoe we de muziek moeten schrijven, en dan zorgen we ervoor dat de muziek mensen laat dansen.’

Voorbeelden hiervan zijn de zachte hand waarmee spelers van Pokémon Go ertoe worden aangezet om te eten, drinken en geld uit te geven in de restaurants, bars en fastfoodketens die betalen om mee te kunnen spelen op de termijnmarkten voor gedrag, of de meedogenloze exploitatie van Facebook-profielen ten behoeve van gedetailleerde ‘psychologische inzichten’, die volgens een intern bedrijfsrapport uit 2017 adverteerders in staat stellen het exacte moment te bepalen waarop een tiener een ‘vertrouwensimpuls’ nodig heeft en het meest kwetsbaar is voor een specifieke combinatie van reclame-uitingen.

Surveillancekapitalisten veroorzaken zeer antidemocratische asymmetrieën van kennis en van de macht die het gevolg is van die kennis. Zij weten alles over ons, terwijl hun activiteiten erop gericht zijn om voor ons onkenbaar zijn. Zij voorspellen onze toekomst en configureren ons gedrag, maar louter om wille van de doelstellingen en het financieel gewin van anderen. Deze macht om menselijk gedrag te kennen en te wijzigen is zonder weerga.

Vaak verward met ‘totalitarisme’ en gevreesd als Big Brother, is het een nieuw soort moderne macht die ik ‘instrumentarisme’ noem. Instrumentaristische macht kan het gedrag van individuen, groepen en populaties beïnvloeden, ten dienste van het surveillancekapitalisme. Het Cambridge Analytica-schandaal heeft laten zien hoe, met de juiste knowhow, deze methoden van instrumentaristische macht kunnen worden aangewend ter verwezenlijking van politieke doeleinden. Maar vergis u niet: iedere tactiek waarvan Cambridge Analytica zich bediende, maakte deel uit van de routinematige activiteiten van het surveillancekapitalisme op het gebied van de gedragsbeïnvloeding.

Dat hoefde niet zo te zijn. In het jaar 2000 werkten computerwetenschappers en -technici samen aan een project, genaamd ‘Aware Home’. Zij voorzagen een ‘symbiose tussen mens en woning’, waarbij levende en levenloze processen zouden worden geregistreerd door een netwerk van ‘contextbewuste sensoren’, ingebed in een huis, en door draagbare computers die door de bewoners daarvan werden gebruikt.

Het systeem was ontworpen als een eenvoudige gesloten lus die volledig door de bewoners werd gecontroleerd. Omdat het huis ‘de verblijfplaats en de activiteiten van de bewoners voortdurend in de gaten zou houden (…) en zelfs de medische toestand van zijn bewoners zou registreren’, concludeerde het team dat ‘er een duidelijke behoefte was om de kennis van en controle over de verspreiding van deze informatie bij de gebruikers te leggen’. Alle informatie moest op de draagbare computers van de bewoners worden opgeslagen ‘om de privacy van de informatie van een individu te waarborgen’.

Google-CEO Schmidt: ‘Als je iets doet waarvan je niet wil dat iemand dat weet, moet je het misschien gewoon maar helemaal niet doen’

Bijna twintig jaar later, in 2017, publiceerden twee wetenschappers van de Universiteit van Londen een gedetailleerde analyse van een ‘smart home’-apparaat, de Nest-thermostaat van Google. Zij stelden vast dat als je het Nest-ecosysteem van gekoppelde apparaten en apps binnentrad, elk met zijn eigen ingewikkelde gebruiksvoorwaarden voor het delen van gegevens met derden, de aankoop van één enkele Nest-thermostaat de noodzaak met zich meebracht om bijna duizend zogenaamde ‘contracten’ te bestuderen. Als de klant weigerde in te stemmen met de voorwaarden van Nest zouden de functionaliteit en veiligheid van de thermostaat ernstig in het gedrang kunnen komen, en zou het apparaat niet langer ondersteund worden door de nodige updates om de betrouwbaarheid en veiligheid ervan te kunnen waarborgen.

Surveillancekapitalisten willen ons doen geloven dat hun route naar de digitale toekomst onvermijdelijk is, maar dat is niet het geval. Vandaag kunnen we misschien treuren om de onschuld van het Aware Home, maar het vertelt ons, als een boodschap in een flesje uit een vervlogen tijd, iets belangrijks. Ooit waren wij het subject van ons leven, nu zijn wij het object ervan. Het Aware Home is een getuigenis van wat we verloren hebben en wat we weer terug moeten vinden: het recht om te weten en te beslissen over wie er iets over ons leven en onze toekomst weet. Dergelijke rechten zijn en blijven de enige mogelijke basis voor de vrijheid van de mens en een functionele democratische samenleving.

Eind oktober 2018 stond Tim Cook, de directeur van Apple, in het Europees Parlement en laakte hij het ‘data-industriële complex’ met zijn ‘enorme hoeveelheden persoonsgegevens’, die uitsluitend dienden om ‘de bedrijven die ze verzamelen te verrijken’. ‘Dit is surveillance’, benadrukte hij, en het stelt bedrijven in staat ‘u beter te leren kennen dan u zichzelf misschien kent (…) Deze crisis is echt. Zij is niet denkbeeldig, overdreven of gek. En degenen onder ons die geloven in het potentieel voor het goede van de technologie mogen hier niet voor wegkruipen.’

Niet verrassend betonen sommigen zich cynisch over de diepgang van Cooks engagement om ‘hier niet voor weg te kruipen’. Zij ontwaren een marketingcampagne die erop gericht is het bedrijf te distantiëren van de schaduw die is neergedaald over de technologiesector. Anderen verwijzen naar de inconsistenties van Apple zelf in de afgelopen tien jaar, met inbegrip van een iPhone die standaard op Google Search overschakelt, de opslag van gebruikersgegevens op Chinese servers, gebrek aan transparantie met betrekking tot veel van Apple’s praktijken op het gebied van de gegevensverzameling, en vele andere tegenstrijdigheden. Tim Bradshaw en Mehreen Khan van The Financial Times merken op dat het voor Apple makkelijker is om een stevig standpunt over privacy in te nemen wanneer de omzet van het bedrijf afhankelijk is van de verkoop van zijn apparaten, en niet van gerichte reclame.

Dit zijn stuk voor stuk belangrijke kritiekpunten, maar veel lezers ontleenden een diep gevoel van hoop aan Cooks opmerkingen die dag – de hoop dat iemand in de technologiesector eindelijk de moed had om zich uit te spreken. In 46 van de 48 belangrijkste opiniepeilingen die tussen 2008 en 2017 in de VS en Europa zijn gehouden, ondersteunden aanzienlijke meerderheden maatregelen ter verbetering van de privacy en de gebruikerscontrole over persoonlijke gegevens. (Twee vroege peilingen waren minder overtuigend, omdat veel deelnemers zeiden dat ze niet begrepen hoe of welke persoonlijke informatie werd verzameld.)

Een belangrijke peiling uit 2009 wees uit dat wanneer mensen geïnformeerd werden over de manier waarop bedrijven gegevens verzamelen voor gerichte online-advertenties ruim 73 procent dergelijke reclame afwees. Uit een peiling in 2015 bleek dat 91 procent van de respondenten er niet mee instemde dat het verzamelen van persoonlijke informatie ‘zonder mijn medeweten’ een eerlijke ruil was voor een korting op de prijs.

Technologiebedrijven verwerpen deze uitkomsten doorgaans, waarbij zij wijzen op het werkelijke gedrag van gebruikers en de spectaculaire inkomsten die dat oplevert ter rechtvaardiging van de status-quo. Denk maar aan de beroemde zinsnede van voormalig Google-ceo Eric Schmidt uit 2009: ‘Als je iets doet waarvan je niet wil dat iemand dat weet, moet je het misschien gewoon maar helemaal niet doen.’ Deskundigen noemen de kloof tussen houding en gedrag ‘de privacyparadox’, maar het is niet echt een paradox. Het is het voorspelbare gevolg van de hevige strijd tussen vraag en aanbod, uitgedrukt in het verschil tussen wat het surveillancekapitalisme ons oplegt en wat we werkelijk willen.

De huidige historische kloof tussen vraag en aanbod is een oproep tot actie voor bedrijfsleiders die over de vooruitziende blik en de overtuiging beschikken om tegen de stroom in te gaan. Verzet tegen het surveillancekapitalisme is niet eenvoudigweg ‘het juiste ding om te doen’. Zo’n beetje iedereen die is aangesloten op het internet schreeuwt om een alternatieve route naar de digitale toekomst, een route die in onze behoeften voorziet zonder afbreuk te doen aan onze privacy, onze beslissingen van ons af te nemen en onze autonomie te reduceren. Gezien de krachten die in het spel zijn, is de persoon met de beste kans om een alternatief te smeden er een die aanzienlijke commerciële en politieke macht achter zich heeft. Dat zou Tim Cook kunnen zijn.

Uit een onderzoek uit 2017 naar het rendement op de aandelenmarkt bleek dat Apple in de twintigste eeuw meer winst voor zijn beleggers had gegenereerd dan welk ander Amerikaans bedrijf ook. Als Cook echt bereid is gevolg te geven aan zijn woorden in Brussel zou Apple een alternatieve route naar de digitale toekomst kunnen bieden, waarin het kapitalisme wordt herenigd met de mensen die het moet dienen. Cook heeft gezegd dat de vermeende conflicten tussen privacy en winst, of privacy en innovatie, valse keuzes zijn. In feite suggereert het historische patroon dat de huidige breuklijnen tussen vraag en aanbod duiden op een dramatische kans voor een kwalitatieve sprong voorwaarts in de evolutie van het kapitalisme.

We hebben al eerder aan dit soort afgronden gestaan. ‘We zijn een tijdje voortgehobbeld in onze pogingen om een nieuwe beschaving op oude manieren te leiden, maar we moeten deze wereld opnieuw vormgeven.’ Het was 1912 toen Thomas Edison zijn visie op een nieuwe industriële beschaving uiteenzette in een brief aan Henry Ford. Edison was bang dat het potentieel van het industrialisme om de vooruitgang van de mensheid te dienen, zou worden gedwarsboomd door de macht van de robber barons en de monopolistische economieën die hun koninkrijkjes bestierden. Hij laakte de status-quo die werd gekenmerkt door de ‘verspilling’ en ‘wreedheid’ van het Amerikaanse kapitalisme.

Zowel Edison als Ford begreep dat de moderne industriële beschaving waarvoor zij zich hadden ingezet hard op weg was naar een toekomst die werd gekenmerkt door ellende voor velen en voorspoed voor een enkeling. Zij begrepen ook dat het morele leven van de industriële beschaving gevormd zou worden door de praktijken van het kapitalisme.

Alles moest opnieuw worden uitgevonden: nieuwe technologieën, ja, maar die zouden nieuwe manieren moeten weerspiegelen om in de behoeften van de mensen te voorzien; een nieuw economisch model dat deze nieuwe praktijken in winst zou kunnen ombuigen; en een nieuw sociaal contract dat dit alles zou kunnen onderbouwen. De burgers, consumenten, leidinggevenden, werknemers, wetgevers, juristen, geleerden, journalisten, managers en overheidsfunctionarissen die zich deze inspanning getroostten begaven zich op onbekend terrein.

Onze tijd vraagt om een dergelijke creatieve sprong in het onbekende, die het traject van de digitale toekomst terug kan buigen naar de mensen toe. Zonder een moedige en creatieve reactie zal het surveillancekapitalisme de leegte blijven opvullen. Als we het surveillancekapitalisme willen stoppen, temmen of zelfs buiten de wet willen plaatsen, zullen we nieuwe wetten, regels en vormen van collectieve actie nodig hebben, die zijn toegesneden op specifieke mechanismen.

Om deze redenen en nog duizend meer roep ik Tim Cook en andere leiders uit het bedrijfsleven op om de uitdaging aan te gaan en een nieuwe route te vinden. U zult niet eenzaam zijn. Degenen van ons die nu de weg kwijt zijn, zullen niet wegkruipen. De strijd voor een menselijke toekomst is van ons allemaal.


© The Financial TimesVertaling: Menno Grootveld