Essay: Gedachtecontrole en het internet

Baas in eigen hoofd?

Je kunt Singulariteit, de versmelting van mens en machine, wegzetten als gekke sciencefiction of beschouwen als een zegen. Beide zou naïef zijn. Google als uitbreiding van ons brein is niet zo onschuldig als het lijkt.

BEGIN APRIL meldden onderzoekers aan Washington University in St. Louis dat een vrouw met een kluwen elektrodes boven het spraakcentrum van haar brein de cursor van een computer kon doen bewegen alleen maar door bepaalde geluiden te denken maar die niet uit te spreken. Het was alsof de ‘Singulariteit’ - de oude sciencefictiondroom van het doen samensmelten van mens en machine om een betere soort te creëren - misschien was uitgekomen. Rond dezelfde tijd testten wetenschappers aan Brown University met succes een ander soort brein-computer interface (BCI) met de naam BrainGate, die een verlamde vrouw in staat stelde een cursor te bewegen, opnieuw alleen maar door te denken. Ondertussen kondigde op University of Southern California een team van biomedici aan dat ze met succes nanobuisjes van carbon hadden gebruikt om een werkende synaps te bouwen - de kruising waarlangs signalen van de ene zenuwcel naar de andere gaan - wat de eerste stap markeerde in hun lange mars naar het construeren van een synthetisch brein. Op dezelfde campus is dr. Theodore Berger, die al ruim dertig jaar op zijn eigen manier bezig is om een neurale prothese te maken, begonnen een apparaatje te implanteren in ratten dat een bypass legt om een beschadigde hippocampus in het brein en het werk daarvan overneemt.
De hippocampus is cruciaal voor geheugenvorming, en Bergers uitvinding belooft problemen op te lossen die te maken hebben met zowel normaal geheugenverlies door veroudering als pathologisch geheugenverlies door ziektes als Alzheimer. Op dezelfde manier suggereert het werk op Brown en Washington University de mogelijkheid om mobiliteit te herstellen voor mensen die verlamd zijn en om een stem te geven aan mensen die door ziekte of verwonding zijn beroofd van het vermogen te communiceren. Als dit de Singulariteit is, dan lijkt die niet alleen goedaardig maar zelfs een zegen.
Michael Chorost is iemand die profijt heeft gehad van een brein-computer interface, hoewel het soort BCI die in zijn hoofd werd geïmplanteerd nadat hij in 2001 doof was geworden, een slakkenhuis-implantaat, niet direct in zijn hersenen werd geplaatst, maar in allebei zijn binnenoren. Het resultaat, na een leven van eerst hardhorend zijn en vervolgens opgesloten in complete akoestische eenzaamheid, zoals hij beschreef in zijn memoires, Rebuilt: How Becoming Part Computer Made Me More Human (2005), veranderde zijn leven totaal. Zoals zijn nieuwe, merkwaardig droge boek, World Wide Mind: The Coming Integration of Humanity, Machines, and the Internet, duidelijk maakt, is hij nu een soort cheerleader van het idee dat mensen worden uitgerust met hun eigen, werkelijk persoonlijke, binnenbreinse computers. In de ideale wereld van Chorost, die hij schetst met de onmiskenbare geestdrift van een bekeerling, zullen we allemaal direct met het internet zijn verbonden via een neuraal implantaat, zodat het internet 'naadloos deel van ons zou worden, even natuurlijk en simpel te gebruiken als onze eigen handen’.
De discussie tussen herstellen en verbeteren wordt al heel lang gevoerd in de geneeskunde (en sport, en onderwijs, en genetica), en wordt luider en complexer naarmate de technologie meer vooruitgang boekt. Herstel, zoals wat die onderzoeksteams van Brown, USC en Washington University willen doen voor mensen die zijn getroffen door een beroerte, ruggenmerg- en andere verwondingen, neurodegeneratie, dementie, of geestesziekte, wordt typisch toegejuicht als iets goeds en noodzakelijks en waardigs. Verbetering daarentegen - zoals met prestatieverhogende medicijnen en manipulatie van stamcellijnen - wordt ofwel afgeserveerd als een bedreiging voor onze integriteit en betekenis als mensen of op zo'n manier verward met herstel dat het onderscheid zinloos wordt. Chorost laat die discussie helemaal links liggen. Terwijl de computer in zijn hoofd daar werd geplaatst om een mankement te repareren, lijkt het feit dat het ding er überhaupt zit hem ervan te overtuigen dat we cyborgs zouden moeten worden. Zijn veronderstelling - het zou te genereus zijn om het een argument te noemen - is dat als het voor hém heeft gewerkt het voor ons allemaal zal werken. 'Mijn twee implantaten maken mij gecomputeriseerd, een levend voorbeeld van de integratie van mensen en computers’, schrijft hij. 'Dus voor mij is het idee van het implanteren van zoiets als een Blackberry in mijn hoofd niet zo heel vreemd. Ik denk dat het voor heel veel mensen niet zo vreemd zou zijn.’

RUIM EEN KWART eeuw geleden publiceerde de wetenschapsjournalist David Ritchie een boek dat ik op mijn plank heb laten staan als een herinnering aan wat de post-1984-wereld ons geacht werd te zullen brengen. Het heet The Binary Brain en het looft 'de synthese van menselijke en kunstmatige intelligentie’ door iets dat hij een 'biochip’ noemde. 'Het is fantastisch wat voor mogelijkheden dat biedt’, schreef hij.
Je zou even gemakkelijk kunnen inloggen op het geheugen van een computer als je je schoenen aantrekt. Plotseling zou je hoofd vol zitten met de informatie die is opgeslagen in de computer. Je zou jezelf per direct een deskundige kunnen maken in alles van Spaanse literatuur tot deeltjesfysica… Met biochips om de data op te slaan zou alle informatie in het MIT en de Harvard-bibliotheken kunnen worden gepropt in een volume niet groter dan een boterham. Alles van Shakespeare in een module ter grootte van een BB… Misschien zullen we zulke apparaten al zien voor het einde van de eeuw.
'Vergeet niet’, zegt hij ernstig, 'we hebben het hier over een technologie die vlakbij ligt, of misschien al hier is. Biochips zouden leiden tot de ontwikkeling van allerlei combinaties van mens en machine…’
26 jaar later, in het tweede decennium van het nieuwe millennium, zegt Chorost bijna hetzelfde, en om dezelfde reden: onze hersenen zijn te beperkt om afdoende de wereld te kunnen bevatten. 'Sommige menselijke eigenschappen als het IQ lijken te zijn gegroeid in de twintigste eeuw’, schrijft hij, 'maar die groei gaat veel trager dan die van de technologie. Er bestaat geen wet van Moore voor mensen.’ (De wet van Moore is de vaak geciteerde stelling, inmiddels verheven tot metafoor, die zegt dat het aantal componenten dat kan worden geplaatst op een geïntegreerde schakeling elke twee jaar verdubbelt.) Even afgezien van de gebrekkige gelijkstellingen - dat informatie kennis is en feiten intelligentie zijn - is de 'transmog’-droom van Chorost geworteld in een naïeve, en wijdverbreide, verkeerde voorstelling van de internet-zoekmachine, met name die van Google, waarmee de meeste internetgebruikers navigeren door de veertien miljard pagina’s van het WereldWijde Web.

IK DENK DAT JE RUSTIG KUNT zeggen dat de meeste mensen niet veel nadenken over het algoritme dat de resultaten produceert van een Google-zoekopdracht. Stel een vraag, krijg een antwoord - dat is een duidelijke transactie. Het lijkt niet veel anders dan iets opzoeken in een encyclopedie, een bibliotheekcatalogus, of zelfs een index in een boek. Boeken, die andere bewaarplaatsen van feiten, informatie en ideeën, zijn het sjabloon waarmee we het Web begrijpen, wat een willekeurig, rommelig, immer uitdijend volume is van alles en nog veel meer. Een zoekopdracht is ons pad in die rommel en erdoorheen, en wanneer we dat doen met Google, dan wordt de tocht bepaald door het Google-algoritme, een gepatenteerd en zwaar bewaakt stuk intellectueel eigendom dat het bedrijf PageRank noemt, opgebouwd uit 'vijfhonderd miljoen variabelen en twee miljard termen’.
Die grote aantallen zijn geruststellend. Ze suggereren een ondoordringbare verdediging tegen bias, een wetenschappelijke objectiviteit die mogelijk maakt dat het juiste antwoord op de vraag opborrelt uit de stoofpot van zo veel dingen. Tot op zekere hoogte is het een systeem dat zichzelf in stand houdt, aangezien het populariteit (het aantal links) gebruikt om belangrijkheid te bepalen, zodat hoe vaker er op een bepaalde link wordt geklikt, des te hoger de PageRank ervan is, en des te waarschijnlijker dat hij bij de bovenste zoekresultaten zal verschijnen. (Daarom hebben bedrijven niet noodzakelijk iets tegen slechte recensies van hun producten.) Chorost vergelijkt dit met Hebbiaans leren - het idee dat neuronen die samen vuren, samen werken, omdat een hoog genoteerde pagina meer pageviews zal genereren en daarmee zijn positie op de ranglijst zal verstevigen. Op die manier zullen pagina’s die aan elkaar gelinkt zijn, ook samen 'denken’. Als veel mensen steeds weer een pagina bezoeken, zal de PageRank daarvan zo hoog worden dat hij in wezen wordt opgeslagen in het collectieve menselijke/elektronische langetermijngeheugen.
Zelfs als dit waar blijkt te zijn, is het proces alles behalve zonder bias.
Een Google-zoekopdracht - die Chorost ons zou laten uitvoeren in onze eigen technologisch gemodificeerde hoofden - 'beheert’ het internet. Het algoritme is, in essentie, een redacteur, die omhoog haalt wat hij belangrijk vindt, op basis van het idee dat iemand anders heeft van wat belangrijk is. Dit heeft geleid tot het ontstaan van een industrie van consultants voor search engine optimization (optimalisering van zoekmachines, SEO) die de code, inhoud en sleutelwoorden van een website herschikken om hem hoger op de ranglijsten te krijgen. Ook weten we dat bedrijven hebben betaald voor links om zichzelf hoger op ranglijsten te krijgen, een truc waar Google tegen is en soms ook tegen optreedt. Desalniettemin stijgen zoekresultaten naar de top van een lijst omdat een onzichtbare hand ze daar naartoe leidt.

HET IS NIET ALLEEN HET GROTE aantal zoekvariabelen of het werk van marketeers, dat de informatie vorm geeft die we te zien krijgen door bepaalde pagina’s onder onze aandacht te brengen terwijl andere zo ver dalen op de ranglijst dat ze uit het zicht blijven. Zoals Eli Pariser schrijft in zijn verontrustende boek The Filter Bubble: What the Internet Is Hiding from You, heeft Google sinds december 2009 geprobeerd de resultaten van elke zoekactie zo te verfijnen dat ze passen bij het profiel van de persoon die de zoekopdracht geeft. (Dit afstemmen heeft betrekking op alle gebruikers van Google, hoewel het pas effect heeft nadat de gebruiker al een paar zoekopdrachten heeft gegeven, zodat de resultaten kunnen worden afgestemd op zijn voorkeuren.)
Het zoekproces is met andere woorden 'gepersonaliseerd’ geworden, wat inhoudt dat het niet universeel is maar juist idiosyncratisch en merkwaardig dwingend. Pariser merkt op: 'De meesten van ons gaan ervan uit dat wanneer we een term googelen we allemaal dezelfde resultaten zien - die resultaten waarvan het beroemde PageRank-algoritme van het bedrijf suggereert dat ze de belangrijkste zijn op basis van de links van andere pagina’s.’ Met gepersonaliseerd zoeken 'krijg je nu het resultaat waarvan Google’s algoritme denkt dat het het beste is voor jou in het bijzonder - en iemand anders ziet misschien iets compleet anders. Met andere woorden, er bestaat geen standaard Google meer.’ Het is alsof we hetzelfde onderwerp hebben opgezocht in een encyclopedie en allemaal verschillende lemma’s hebben gevonden - maar natuurlijk zouden we niet denken dat ze verschillend zijn omdat we allemaal veronderstelden dat we een standaard-naslagwerk gebruikten.
Een van de vele verraderlijke consequenties van deze individualisering is dat door het afstemmen van de informatie die je krijgt naar de perceptie van het algoritme van wie jij bent - een perceptie die het opbouwt uit 57 variabelen - Google je stuurt naar materiaal dat hoogstwaarschijnlijk je eigen levensvisie, ideologie en vooronderstellingen bevestigt en versterkt. Pariser stelt, bijvoorbeeld, dat een zoektocht naar bewijzen over klimaatverandering andere resultaten zal opleveren voor een milieu-activist dan voor een manager van een oliebedrijf en, zo mag je aannemen, een ander resultaat voor iemand van wie het algoritme begrijpt dat hij of zij een Democraat is dan voor iemand van wie het denkt dat het om een Republikein gaat. (Je hoeft niet per se een voorkeur voor een partij kenbaar te maken - het algoritme zal dat wel weten te achterhalen.) Op deze manier begint het internet, dat niet de pers is maar vaak fungeert als de pers door nieuws en informatie te verspreiden, ons af te snijden van afwijkende meningen en conflicterende standpunten, terwijl het ondertussen neutraal en objectief lijkt en vrij van het soort vooringenomenheid dat inherent is aan, en wordt omhelsd door, laten we zeggen, The Weekly Standard of The Nation.
Waarom dit ertoe doet is te lezen in een studie in het voorjaarsnummer van Sociological Quarterly, die Parisers zorg onderschrijft dat wanneer ideologie de verspreiding van informatie stuurt, kennis wordt gecompromitteerd. De studie, die standpunten onderzoekt over klimaatverandering onder Republikeinen en Democraten tussen 2001 en 2010, ontdekte dat in die negen jaren, terwijl de wetenschappelijke consensus over klimaatverandering groeide en bijna universeel werd, het percentage Republikeinen dat zei dat de planeet opwarmde sterk daalde, van 49 tot 29. Voor Democraten ging het percentage omhoog, van zestig naar zeventig. Het was alsof de groepen verschillende berichten kregen over de wetenschap, en waarschijnlijk was dat ook zo. De consequentie was, zoals de auteurs van de studie laten zien, dat een echte discussie over algemeen beleid werd belemmerd. Dat is precies Parisers punt, en zijn zorg: als onze ideeën terugkaatsen naar ons, indoctrineren we onszelf onopzettelijk met onze eigen ideeën. 'Democratie eist van burgers dat ze dingen bezien vanuit het perspectief van een ander, maar in plaats daarvan zitten we meer en meer opgesloten in onze eigen zeepbellen’, schrijft hij. 'Democratie vereist dat je kunt vertrouwen op gedeelde feiten; in plaats daarvan worden ons parallelle maar gescheiden universums aangeboden.’
Het is niet moeilijk te zien waar dit allemaal naartoe zou kunnen leiden - hoe makkelijk iets met een agenda (een lobbygroep, een politieke partij, een bedrijf, een regering) de media zou kunnen overspoelen met informatie die fundamenteel is voor haar doel. (Dit is in feite wat er is gebeurd, op rechts, met klimaatverandering.) Wie zou het weten? In elk geval niet Michael Chorost, wiens blinde trouw aan Google - waarvan hij gelooft dat het het centrale deel is van de 'ontluikende voorhersenen, hippocampus, en lange-termijn-geheugenopslag’ van het ophanden zijnde WereldWijde Brein - net zo groot is als zijn verbijsterende politieke naïviteit. Een regering 'die het WereldWijde Brein gebruikte voor openbare controle zou meer totalitair moeten zijn dan enige regering die vandaag bestaat (behalve misschien Noord-Korea)’, schrijft hij. 'De op balans gerichte dynamiek van de evolutie filtert vaak totalitaire maatschappijen uit omdat ze op de lange termijn inefficiënt en verspillend zijn.’ Zet dat tegenover de woorden van de man die het WereldWijde Web heeft bedacht, Sir Timothy Berners-Lee, die niet lang geleden in Scientific American schreef: 'Het Web zoals we het kennen wordt bedreigd… Sommige van de meest succesvolle bewoners ervan zijn aan de fundamenten gaan morrelen… Regeringen - totalitaire en democratische - monitoren de online gewoonten van mensen en brengen belangrijke mensenrechten in gevaar.’
Een van de ingrijpendste veranderingen in het internet sinds het begin in 1993 van de eerste grafische browser, Mosaic, die werd gebouwd op de basis van Berners-Lee’s werk, is de zoektocht geweest er geld mee te verdienen. In de begindagen was het Web een vreemde, eclectische verzameling persoonlijke homepages, een soort digitale muurkunst die traditionele poortwachters omzeilde, niet afhankelijk was van mainstream mediabedrijven of bedrijfsgeld, en niet werd gedreven door commerciële belangen. Computerwetenschapper en musicus Jaron Lanier was bij de creatie, en in zijn woeste, fonkelende manifest, You Are Not a Gadget, herinnert hij het zich zo: 'De opkomst van het Web was een zeldzame gebeurtenis toen we nieuwe, positieve informatie kregen over menselijk potentieel. Wie zou hebben voorspeld dat (in elk geval in het begin) miljoenen mensen zoveel moeite zouden steken in een project zonder de aanwezigheid van reclame, commerciële motieven, dreiging van straf, charismatische figuren, identiteitspolitiek, exploitatie van doodsangst of andere klassieke motivators van de mensheid? In grote aantallen deden mensen iets gezamenlijk, puur omdat het een goed idee was, en het was prachtig.’
Maar toen kwam de commercie erbij, bijna per ongeluk, toen Larry Page en Sergey Brin, het duo dat Google startte, met tegenzin kleine advertenties koppelden aan hun meesterlijke zoekmachine om die te bekostigen. Het was niet hun bedoeling, in het begin, om het grootste reclamepodium in de geschiedenis van de wereld te creëren, of om marketingstrategie te verschuiven van het opdringen van producten naar het trekken van individuele consumenten naar specifieke producten en merken.
Gerichte advertenties (zelfs wanneer ze worden gegenereerd door wat een persoonlijke communicatie leek) lijken misschien onschuldig - per slot van rekening, als er toch reclame moet zijn, waarom dan niet voor producten en diensten die misschien nuttig zijn? Maar om jou tot een transactie te verleiden, denken bedrijven dat ze niet alleen je huidige interesses moeten weten, maar ook wat je vroeger leuk vond, hoe oud je bent, je sekse, waar je woont, wat voor opleiding je hebt, en nog veel meer. Er zijn zo'n vijfhonderd bedrijven die in staat zijn elke stap die je op internet doet te volgen, die het ruwe materiaal van het internet ontginnen en het verkopen aan marketeers. ('Noem jezelf niet langer een gebruiker’, waarschuwt Lanier. 'Je wordt gebruikt.’) Dat je te dik bent, diabetes hebt, twee afbetalingen van de auto hebt overgeslagen, historische romans leest, de Republikeinen steunt, een snoerloze boor gebruikt, winkelt bij Albert Heijn en vaak in het vliegtuig zit is niet alleen bekend bij andere mensen dan jijzelf, het is ook nog eens van grote geldwaarde voor ze. En waar je bent en waar je bent geweest, zoals we onlangs ontdekten toen werd onthuld dat Apple en Google gebruikers van tablets en mobiele telefoons hebben gevolgd en die informatie hebben opgeslagen.
Het is duidelijk dat het potentieel voor schendingen van privacy en burgerrechten hier enorm is. Terwijl de FBI, bijvoorbeeld, een bevel nodig heeft om je computer te doorzoeken, schrijft Pariser dat 'als je Yahoo of Gmail of Hotmail voor je e-mail gebruikt, je “onmiddellijk je grondwettelijke bescherming verliest”, volgens een advocaat van de Electronic Frontier Foundation’. Tenminste één arrestatie is verricht door politieagenten met behulp van locatiegegevens van Apple. Het tracken van gegevens en ze exploiteren geeft een nieuwe betekenis aan de term 'computer-monitor’. En als marketingbedrijven dit kunnen, waarom dan niet politieke kandidaten, de overheid, of bedrijven die de publieke opinie willen beïnvloeden? 'Er zijn ongetwijfeld momenten en plaatsen en manieren om te argumenteren die ons ontvankelijker maken om te geloven wat ons wordt verteld’, merkt Pariser op.

JE KUNT DE SINGULARITEIT natuurlijk eenvoudig wegzetten als een gekke sciencefictionfantasie, maar dat zou nog gekker zijn. Natuurlijk wordt een van de groepen mensen die het meest worden aangetrokken door sciencefiction gevormd door de technici die programmeren en robots bouwen en in minder dan een generatie de manier waarop we onderzoek doen en geneeskunde bedrijven en boeken lezen en communiceren en rekeningen betalen enzovoort hebben veranderd. (In een interview in 2004 zag Larry Page een toekomst voor zich waarin je brein wordt 'uitgebreid’ door Google, zodat wanneer je ergens aan denkt 'je mobiele telefoon het antwoord in je oor fluistert’.) Zoals Lanier opmerkt: 'Wij [de technici] bedenken extensies van je wezen zoals ogen en oren op afstand (webcams en mobiele telefoons) en uitgebreid geheugen (de wereld van details waar je online naar kunt zoeken). Dat worden de structuren waardoor je verbinding maakt met de wereld en andere mensen… We knoeien met je filosofie door directe manipulatie van de cognitieve ervaring. Er is maar een klein groepje technici nodig om technologie te creëren die de hele toekomst van de menselijke ervaring vorm kan geven met ongelooflijke snelheid.’
De wet van Moore zal, zo wordt voorspeld, rond 2015 niet meer gelden, wanneer het onmogelijk zal zijn om nog meer schakelingen op een siliconenchip te persen zonder dat hij oververhit raakt. Maar tegen die tijd zijn computers misschien overgegaan op magnetisch RAM-geheugen (MRAM), chips die werken met subatomische schakelingen. Een van de belangrijkste scheppers van MRAM, Stuart Wolf, ontwikkelde het bij DARPA, het bureau dat ARPANET uitvond, de voorloper van het internet zoals we dat nu kennen. Een paar jaar geleden stelde Wolf zich, in een interview met Fortune, over de toekomst van de computer, voor dat we in de nabije toekomst een hoofdband zullen dragen die direct met het brein is verbonden en waardoor we onder meer kunnen praten zonder te spreken, om hoeken kijken en rijden door te denken.
Een andere tak van DARPA stopt miljoenen dollars in de ontwikkeling van een 'gedachtehelm’ voor het slagveld waardoor soldaten in het veld zonder woorden kunnen communiceren door hersengolven te vertalen, die zullen worden 'gelezen’ door sensoren die in de helm zitten, rond het hoofd, tot hoorbare radioberichten. (Een onderzoeker noemde het een 'radio zonder een microfoon’.) In 2000 begon Sony al te werken aan een gepatenteerde manier om videospelletjes direct het brein in te stralen met behulp van ultrasone pulsen om sensorische beelden te veranderen en te creëren voor een ongelooflijke, overrompelende spelervaring. Meer recent volgden computerwetenschappers aan de Freie Universität in Berlijn Stuart Wolfs visioen van een auto die puur door gedachten wordt bestuurd. Met behulp van commercieel verkrijgbare electroencephalogram (EEG)-sensors om eerst hersengolfpatronen voor 'rechts’, 'links’, 'rem’ en 'gas’ te decoderen, konden ze vervolgens die sensoren verbinden met een door een computer gecontroleerd voertuig, zodat een autorijder 'in staat was de auto zonder problemen te besturen - er zat slechts een kleine vertraging tussen de gedachte commando’s en de reactie van de auto’, zei een van de hoofdonderzoekers.
Bovendien heeft een groep aan de Universiteit van Southampton in Engeland een BCI ontwikkeld - een brein-computer interface - waardoor mensen van brein tot brein met elkaar kunnen communiceren zonder denken of, zoals de ontwikkelaars het noemen, B2B, opnieuw met een soort EEG-helm die de ene persoon laat denken aan 'links’ (zoals gerepresenteerd door een nul) of 'rechts’ (gerepresenteerd door een één), een van die cijfers naar een tweede persoon stuurt die ook is voorzien van elektrodes die zijn verbonden met een computer die het cijfer ontvangt en, zodra het is begrepen, de tweede persoon het cijfer terug naar de zender laat flitsen door middel van een licht uitzendende diode (LED), die wordt 'gelezen’ door de visuele cortex van die persoon. Het is nog niet echt de geluidloze, woordloze, bijna gedachteloze integratie van onze gedachten, B2B, maar het is een vierde of vijfde stap naar een toekomst die steeds zichtbaarder wordt. Jaron Lanier heeft gelijk: je bent geen gadget - nog niet.

Sue Halpern is scholar in residence in Middlebury. Haar recentste boek is Can’t Remember What I Forgot: Your Memory, Your Mind, Your Future

Vertaling Rob van Erkelens