In de dystopische roman De Cirkel van Dave Eggers (2013) koppelt een bedrijf à la Facebook (genaamd de Cirkel) steeds meer data van mensen aan hun Cirkel-account. Niet alleen profielen en e-mails maar ook gezondheidsgegevens en creditcard- en burgerservicenummers kunnen zo worden opgeslagen in de Cirkel. Bovendien plaatst het bedrijf over de hele wereld camera’s, zodat niets zich aan het alziend oog van de Cirkel kan onttrekken. Het einddoel is de zogenaamde voltooiing van de Cirkel, oftewel de vorming van een gesloten netwerk waarin alle mensen op de hele wereld met elkaar verbonden zijn. Via dit ene netwerk, in handen van één bedrijf, komt de weg vrij naar volledige transparantie en het einde van privacy.
Opvallend in de roman van Eggers is dat het totalitaire gevaar niet van de staat komt, maar van een bedrijf dat, zonder dat iemand er werkelijk erg in heeft, meer macht krijgt dan alle staten bij elkaar. Elke stap dichter bij voltooiing van de Cirkel wordt voorgesteld als een vooruitgang voor de mensheid. ‘Met deze geïmplanteerde chip, verbonden aan de Cirkel, kunnen kinderen nooit meer worden ontvoerd! Doordat overal camera’s worden geplaatst kunnen criminelen nooit meer misdaden plegen!’ Telkens is er een reden voor het accepteren van de volgende stap in de onstuitbare mars van het bedrijf naar wereldheerschappij. Oppervlakkige domheid, gemakzucht en luiheid leiden tot een glijdende schaal van acceptatie waarin het bedrijf steeds meer macht krijgt. Totdat het te laat is.
Peter Sunde, computerexpert en politicus van de Finse en Europese Piratenpartij, denkt dat zich op dit moment in de echte wereld een vergelijkbaar proces aan het voltrekken is. De dystopie wordt werkelijkheid. Facebook, en in het bijzonder leider Mark Zuckerberg, is volgens Sunde namelijk bezig om zich een minstens zo grote, wereldwijde macht te verwerven. Hij noemt Zuckerberg zelfs steevast de ‘dictator van de grootste natie ter wereld’.
Sunde verzet zich al jaren tegen de ongebreidelde macht van Facebook en zat zelfs een paar maanden in de gevangenis omdat hij weigerde om de website van Pirate Bay, een alternatieve zoekmachine waarvan hij een van de oprichters was, neer te halen. Het idee van Pirate Bay was dat het mogelijk moest zijn tot een vrije uitwisseling van informatie te komen zonder dat daarbij data van burgers worden verhandeld. Vrije toegang tot internet zonder kapitalistisch verdienmodel, was de gedachte.
Aan de telefoon vertelt hij: ‘Wij willen de algoritmen van Facebook en Google zien. We willen openheid, transparantie. We hebben het over nieuws dat echt is of niet echt, over vooroordelen die mensen al dan niet door Facebook krijgen via een filterbubbel. Het punt is dat Zuckerberg niet in de positie zou moeten zijn om dat allemaal te controleren, zonder dat hij hierover ook maar enige vorm van verantwoording hoeft af te leggen. Het is bizar, hij is niet democratisch gekozen en toch heeft hij meer macht dan alle naties ter wereld.’
Hoewel Sunde denkt dat Zuckerberg ‘waarschijnlijk goede intenties’ heeft, maakt hij zich grote zorgen. ‘Politici hebben totaal niet door hoe groot dit eigenlijk is.’ Het argument dat je toch niet op Facebook hóeft te zitten en dat je ook alternatieve netwerken kunt gebruiken, gaat volgens hem niet op. ‘Wat heb je nou echt voor alternatief? Natuurlijk, technologisch is het heel eenvoudig. De techniek van Facebook is ook niet de beste van de wereld. Je kunt makkelijk iets beters maken. Maar dan zit je met de userbase. Dat is de grote kracht van Facebook. Dat er zoveel mensen op zitten maakt in feite alle concurrentie onmogelijk; we hebben het dus eigenlijk over een monopolie. Het aantal accounts van Facebook blijft alleen maar stijgen. Het probleem is dat jij degene bent die bepaalde informatie mist door niet op Facebook te zitten. Dus het individu betaalt een bepaalde prijs. En mensen zijn nu eenmaal lui en gemakzuchtig.’
Sunde denkt bij de huidige wereldwijde houding ten opzichte van Facebook aan de film Idiocracy, een tamelijk slappe komedie waarin intelligente mensen op steeds latere leeftijd steeds minder kinderen krijgen waardoor domme mensen een evolutionair voordeel krijgen en uiteindelijk de enigen zijn die overleven. Een bibliotheekmedewerker met een gemiddeld IQ wordt ingevroren en in het jaar 2500 ontdooid, waarna hij de slimste mens op aarde blijkt te zijn. ‘De Idiocracy, zo zie ik op dit moment de wereld, en Trump is de belichaming van die beweging. Hoewel ik niet denk dat Trump dom is trouwens. Hij speelt gewoon dat hij dom is, wat natuurlijk weer heel slim is. En Zuckerberg is natuurlijk ook niet gek.’
Mark Zuckerberg lag de laatste weken onder vuur. Na de schok van de verkiezing van Donald Trump werd al snel naarstig gezocht naar schuldigen die verantwoordelijk waren voor deze ramp. Een van die schuldigen werd gevonden in Facebook, dat door de verspreiding van ‘nepnieuws’ had bijgedragen aan de desastreuze verkiezingsuitslag. Zo circuleerden dagen voor de verkiezingen op het sociale netwerk berichten als ‘Paus steunt Trump’. Weliswaar bleken ook andersom onjuiste anti-Trump-berichten te zijn verspreid, maar de pro-Trump-nepberichten waren duidelijk in de meerderheid. Uit een analyse van Craig Silverman van BuzzFeed kwam naar voren dat in de laatste drie maanden voor de verkiezingen de top-twintig gefabriceerde nieuwsverhalen op Facebook populairder waren dan de top-twintig echte nieuwsverhalen. Zeventien van die eerste waren gunstig voor Trump. Facebook had dus bijgedragen aan de verkiezing van Trump, zo luidde de kritiek.
Zuckerberg wees de aantijgingen resoluut van de hand. Het idee dat berichten op Facebook de verkiezingen zouden hebben beïnvloed was volgens hem ‘nogal raar’ en de nepberichten hadden ‘zeker geen invloed’. Later wees hij er in een eigen Facebook-bericht op, zonder dit op enigerlei wijze te onderbouwen, dat ‘99 procent van de berichten op Facebook waar is’. Als dit al zou kloppen, dan nog moet worden bedacht dat een onjuist bericht als dat over de paus meer dan een miljoen keer is gedeeld en dat daarom mag worden aangenomen dat miljoenen mensen het hebben gezien. De latere rectificatie werd vervolgens door bijna niemand meer gelezen.
De reactie van Zuckerberg was dus op z’n minst vreemd te noemen, zeker uit de mond van iemand die adverteerders juist aantrekt met de belofte dat het netwerk een grote impact heeft op keuzes van consumenten. Eerder had hij al opgeschept dat door Facebook twee miljoen meer mensen gingen stemmen. Zo groot was de macht van Facebook kennelijk. Maar toen die macht ‘verkeerd’ uitpakte, was Facebook weer slechts ‘een medium’.
Zuckerberg benadrukte daarbij dat het lastig is om te achterhalen wat precies ‘de waarheid’ is. ‘Sommige hoaxes kunnen volledig worden ontkracht, maar een veel groter deel van de content heeft het algemene idee juist, maar details fout of weggelaten.’ Hij heeft uiteraard gelijk dat het moeilijk is om de waarheid te achterhalen. Toch is een grotere inspanning het minste wat kan worden verwacht, vonden de critici. Als slechts algoritmem nog bepalen welke verhalen ‘trending’ zijn en er geen enkele menselijke controle meer wordt uitgeoefend door editors krijgt nepnieuws vrij baan. (Overigens had Facebook die editors in de zomer juist vervangen door algoritmen om tegemoet te komen aan kritiek uit conservatieve hoek dat zij bevooroordeeld waren.)
De kritiek zwol verder aan en er kwamen ook interne berichten naar buiten van Facebook-medewerkers die vonden dat hun verantwoordelijkheid wel degelijk verder reikte dan hoe Zuckerberg het nu had geformuleerd. Zuckerberg moest iets doen, zoveel was duidelijk. Uiteindelijk volgde kort daarop het bericht dat Facebook, in navolging van Google, aanbieders van nepnieuws voortaan niet meer zou laten adverteren op de site. Hoewel niet al het nepnieuws zo daadwerkelijk kan worden geweerd, was het toch een stap in de goede richting. Zuckerberg toonde zijn goede wil. Eind goed, al goed?
Niet echt. Het probleem met Facebook omvat namelijk nog veel méér dan de verspreiding van nepnieuws. Will Oremus, technologieredacteur van online magazine Slate, stelt dat het debacle over nepnieuws ‘in toenemende mate een bedrijf laat zien dat verscheurd wordt tussen aan de ene kant het zelfbeeld van een neutraal technologieplatform en aan de andere kant de onmiskenbare invloed op de creatie, distributie en consumptie van nieuws en andere media’. Waar volgens de laatste metingen van het Amerikaanse Pew Research Center 44 procent van de Amerikanen Facebook als primaire nieuwsvoorziening gebruikt, moet Zuckerberg zich afvragen welke verantwoordelijkheden daarbij komen kijken. Het gaat niet alleen maar over de vraag of nieuws de waarheid bevat of niet. Het gaat ook om de zogenaamde ‘filterbubbel’.
Nathan Heller schreef onlangs in The New Yorker over dit ‘enclave-extremisme’. De juridische theoreticus Cass R. Sunstein belichtte in 2007 in een artikel in The Chronicle of Higher Education als eerste de filtereffecten van informatieverspreiding op internet (The Polarization of Extremes). Hij wees er toen al op dat deze trend niet veel goeds beloofde voor de vorming van de publieke opinie: ‘De effecten op de lange termijn zijn slecht nieuws voor de democratie. Diegenen die samenzwermen, op het internet of daarbuiten, zullen zowel overtuigd zijn van hun eigen gelijk als het bij het verkeerde eind hebben, simpelweg omdat ze onvoldoende zijn blootgesteld aan contra-argumenten. Ze kunnen hun medeburgers zelfs gaan zien als tegenstanders in een soort “oorlog”.’ Heller voegt daaraan toe dat ‘een president met een dergelijke blik op de wereld gevaarlijk is, maar een overtuigd, verkeerd geïnformeerd publiek nog veel erger’.
Ook de bezwaren tegen de filterbubbel wuifde Zuckerberg gemakkelijk weg. ‘Al het onderzoek dat we hebben suggereert dat dit niet echt een probleem is’, zei hij vlak na de verkiezingen. Hij citeerde daarbij een studie uit 2015, betaald door Facebook zelf. De data daarvan zouden aantonen dat Facebook inderdaad vooral politiek materiaal aanbiedt dat aansluit bij de voorkeuren van de gebruikers, maar dat dit probleem ‘insignificant’ was vergeleken met het probleem dat wordt gevormd door de keuzes die gebruikers zélf maken over welke content ze willen zien. De data van deze studie kunnen niet worden gereproduceerd, omdat Facebook ze niet vrijgeeft.
Schrijver over technologie Om Malik ziet een nog veel algemener bezwaar: Silicon Valley heeft last van een ‘empathievacuüm’. In The New Yorker schrijft hij: ‘We hebben het over filterbubbels op sociale netwerken – de algoritmen die ons verbonden houden met mensen bij wie we ons comfortabel voelen en die ons een beeld van de wereld voorschotelen dat wij willen zien – en hun negatieve impact, maar échte-wereld filterbubbels, zoals die in Silicon Valley, zijn misschien wel nog problematischer. Mensen worden getallen, algoritmen worden regels, en wat de data zeggen vormt de werkelijkheid.’ Malik wijst erop dat de mensen in Silicon Valley die algoritmen schrijven ‘niet harteloos zijn, maar dat ze misschien de context missen van een realiteit buiten hun eigen comfortabele technologiewereldje’. De oplossing ligt volgens hem bij de bewustwording dat de groei van Facebook zowel goede als slechte gevolgen heeft voor ‘echte mensen in de echte wereld’.
Er wordt, kortom, een moreel appèl gedaan op Mark Zuckerberg. Als je zó groot bent geworden, zó veel winst maakt en zó veel invloed kunt uitoefenen op zó veel mensen, dan zitten daar bepaalde verantwoordelijkheden aan vast waar je je rekenschap van moet geven. Dan kun je je niet meer verschuilen achter het ‘slechts een medium zijn’ of ‘niet meer zijn dan een gewoon bedrijf’. Dan geldt: noblesse oblige.
Op het eerste gezicht lijkt Zuckerberg wel gevoelig voor dit adel-verplicht-argument. Zo wordt hij door velen bewonderd en geprezen om zijn besluit van eind 2015 om 99 procent van zijn aandelen in Facebook (een geschatte waarde van 45 miljard dollar) over te dragen aan een filantropische organisatie, het Chan Zuckerberg Initiative. Het officiële doel daarvan is het ‘verhogen van menselijk potentieel en het bevorderen van gelijkheid’; de organisatie richt zich bijvoorbeeld op verbetering van het onderwijs in arme regio’s.
Hij sluit daarbij aan bij de algemene trend onder ultrarijken om geld uit te geven aan liefdadigheid in plaats van het apart te zetten voor hun erfgenamen. Bill Gates richtte al in 2000 de Bill Melinda Gates Foundation op. Toch is er ook kritiek op deze vorm van liefdadigheid. Miljardairs plaatsen op deze wijze immers grote bedragen permanent buiten het bereik van de belastingdienst, waardoor overheidsinkomsten omlaag gaan. En er mag dan worden gezegd dat dergelijke liefdadigheid apolitiek is, het zijn de filantropen zelf die beslissen waar het geld naartoe gaat en niet de overheden. Er wordt tegenwoordig dan ook vaak gesproken van filantrokapitalisme, omdat mensen als Zuckerberg met hun giften hun eigen doelen kunnen nastreven, waarbij ze, in tegenstelling tot democratisch gekozen leiders, geen enkele vorm van verantwoording meer hoeven af te leggen tegenover de rest van de samenleving.
Gelukkig lijkt het erop dat Zuckerberg met zijn liefdadigheidsorganisatie voorlopig werkelijk ‘goede’ dingen doet, maar als hij dat niet zou doen of als iemand daar anders over denkt, dan valt er niets tegen te beginnen. Het enige wat de samenleving kan doen is ‘aardig vragen’. Net zoals met de bestrijding van nepnieuws kan niemand Zuckerberg op dit moment dwingen om iets te doen waar hij geen zin in heeft. Daar ligt dan ook meteen het grootste probleem. Bij Zuckerberg kan het nooit meer zijn dan dat: een beleefde vraag, een moreel appèl.
Zelfs de aandeelhouders van Facebook heeft Zuckerberg grotendeels buitenspel gezet via constructies waarbij hij te allen tijde vetorecht houdt over belangrijke beslissingen van het bedrijf. Zo heeft hij onlangs nieuwe aandelen zonder stemrecht uitgegeven, waarmee hij volledige controle houdt over het bedrijf, terwijl hij zelf slechts vijf procent van de aandelen houdt. Bovendien geeft het bedrijf in een verklaring aan de Amerikaanse Securities and Exchange Commission aan dat het in de toekomst grote aantallen nieuwe aandelen zonder stemrecht wil gaan uitgeven. Felix Salmon van het Amerikaanse online magazine Fusion noemt het dan ook Zuckerbergs ‘boldest power grab ever’, nu hij, ‘vrijwel letterlijk, de macht krijgt om zijn eigen geld te drukken’. En dit allemaal zonder dat hij ook maar toestemming nodig heeft van de raad van bestuur.
Het probleem van Facebook zit ’m in het democratische gehalte. Eerst is dan de vraag wat het effect is van het medium op de democratie. Helpt Facebook om meer mensen naar de stembus te laten gaan? Goed. Helpt Facebook minderheidsgroepen om zich te organiseren? Goed. Helpt Facebook propaganda te verspreiden en een gevaarlijke gek aan de macht te krijgen? Niet zo goed. Maar het onderliggende, echte probleem is dat Facebook een maatschappelijke institutie is geworden die zélf niet democratisch is.
De vraag is hoe je dat zou kunnen veranderen. Zijn er meer checks and balances in te bouwen in het systeem om het op die manier van binnenuit te repareren? Peter Sunde van de Piratenpartij gelooft niet dat dat mogelijk is. In zijn ogen ligt de enige hoop bij Europa, dat Facebook simpelweg zou kunnen verbieden. Dat het concept van data als valuta zou kunnen verbieden. ‘In Noorwegen belasten we suiker, omdat het leidt tot diabetes. Dat is niet populair bij mensen, maar het is wel verstandig. Op dezelfde manier moeten we mensen beschermen tegen de diabetes van Facebook. Ook als het geen populaire maatregel is.’ Hij geeft toe dat een verbod niet in de lijn der verwachtingen ligt. En als het al zou gebeuren, dan zou Zuckerberg er alsnog zijn schouders over kunnen ophalen. Nou ja, dan geen Europa. Too bad. Hij zou nog steeds een enorme markt overhouden.
Aan de andere kant weigert Sunde pessimistisch te worden. ‘We moeten nu beginnen met het bouwen van gereedschap voor de volgende generaties. In feite is het net als met klimaatverandering. Het is te groot om in je eentje op te lossen, maar je kunt nu wel al nadenken wat je voor toekomstige generaties zou kunnen bouwen.’ Hij denkt dan vooral aan gedecentraliseerde systemen. ‘In feite werkt Facebook intern ook al zo. Er zijn allerlei verschillende knooppunten in het netwerk die aan elkaar gekoppeld zijn. Als je daar de optie uithaalt om geld te verdienen met persoonlijke data en als je die knooppunten vervolgens niet allemaal in handen geeft van één persoon, waardoor een monopolie ontstaat, dan heb je al een heel goed beginmodel.’
Hoe ingewikkeld het ook is om iets te veranderen aan de machtspositie van Zuckerberg, het is in ieder geval zaak om hem te blijven vragen om verantwoordelijkheid te nemen voor de enorme invloed die hij met zijn bedrijf uitoefent op de wereld. En om te blijven hameren op de grote gevaren van de geconcentreerde, wereldwijde macht in handen van één bedrijf, van één man. Om te blijven streven naar democratische modellen. Want we weten uit ervaring: macht corrumpeert. Dat is waarom grote bedrijven vrijwel altijd een uitgebreid systeem van checks and balances inbouwen. Dat is waarom de democratie het ‘minst erge systeem’ is van alle systemen. Dat is waarom we de democratische rechtsstaat moeten blijven verdedigen: niet alleen tegen Trump, maar vooral óók tegen Mark Zuckerberg.