Ethiek in tijden van dataïsme

De wereld is groter dan data

Dataïsme is het rotsvaste geloof dat alles in de wereld in data is te vangen. Maar wat betekent dat voor hoe wij ons leven ervaren?

ENIAC, de tweede elektronische computer, gebouwd voor het Amerikaanse leger, 1946 © Bettmann / Getty Images

Computers begonnen hun loopbaan ooit als mens. Op zwart-witfoto’s zijn ze te zien, de menselijke computers uit het midden van de twintigste eeuw: vrouwen die met scherp geslepen potlood op papier het traject van ruimteraketten, kogels of atomen berekenden, soms geholpen door logge machines en calculators, maar vooral vertrouwend op hun eigen wiskundige denkkracht.

Ondertussen ontwikkelde hun elektronische evenknie zich in duizelingwekkend tempo. Tegenwoordig zou niemand ‘computer’ met een baan of functie, laat staan een mens associëren. De mens wordt wel steeds vaker zelf begrepen als computer, verfijnd aan de ene en rudimentair aan de andere kant, met z’n ontelbare neuronen, genen en omgevingsfactoren die op elkaar reageren en elkaar beïnvloeden, maar gehuisd in een lichaam dat onderhevig is aan allerlei defecten.

Tegen beter weten in, gaat het verhaal, blijft die mens er hardnekkige ideeën op na houden over vrijheid en autonomie, en dwarsboomt zo zijn eigen efficiëntie. In de basis is dit wezen namelijk een informatieverwerkend systeem. Je stopt er aan de ene kant iets in en aan de andere kant komt er iets uit. Het is alleen zaak te weten wat je erin moet stoppen, om na verwerking het gewenste resultaat te krijgen. Garbage in, garbage out, zoals de programmeurs zeggen: als de data waarmee je begint niet kloppen, als de software slordig geschreven is, mag je niet verwachten dat je meer terugkrijgt dan een hoop stront. En stront produceren, dat konden we al.

De meest hoogstaande techniek van de tijd dient vaker als metafoor om de mens – of eigenlijk: de menselijke geest – te omschrijven. Eerder was de eer aan het hydraulisch apparaat, mechanisch uurwerk, de telegraaf. Nu is het de beurt aan de computer – of eigenlijk: software – om de blauwdruk te leveren van dat wat de mens tot mens maakt.

Hoewel het eigenlijk verdergaat dan dat: de computer is een universeel model geworden om uit te leggen hoe niet alleen de mens, maar de hele wereld in elkaar steekt. Uiteindelijk vertelt de metafoor dus niet zozeer wat de mens tot mens maakt, maar levert ze juist bewijs dat de mens helemaal niet zo bijzonder is. Voor de mens gelden dezelfde regels als voor de rest van het universum. Breng in kaart wat er precies in gaat en hoe de informatieverwerking functioneert, en je kunt voorspellen wat eruit komt. Uitgaande van die voorspelling kun je dan weer aanpassen wat je erin stopt en proberen het proces te manipuleren om een andere uitkomst te bewerkstelligen. Het beantwoordt aan het verlangen tot optimalisering, wat evengoed op productie- of organisatieprocessen van toepassing is als op de mens.

Het ‘pancomputationalisme’, zoals de filosoof Luciano Floridi dit denken noemt, kenmerkt zich door universalistische pretenties die iedere tegenwerping direct onklaar maken. Het is daarmee eerder een geloof te noemen dan een wetenschappelijk kader of filosofisch perspectief. Daarin lijkt het op het dataïsme. De twee – pancomputationalisme en dataïsme – kunnen dan ook niet zonder elkaar. Wil de mensencomputer nieuwe stijl werken, dan heb je immers data nodig, heel veel data. Zij zijn de grondstof die het computationele denken draaiende houdt en steeds verdere optimalisering mogelijk maakt.

—————

Het dataïsme is als een kindsterretje dat binnen no time een plek heeft veroverd op podia en in huishoudens over de hele wereld. Nog altijd minderjarig, is het toch larger than life.

In 2013 muntte de Amerikaanse journalist David Brooks het begrip dataïsme voor de drang om via grootschalige dataverzameling te komen tot geoptimaliseerde kennis en controle. Het dataïsme laat ons anders naar de wereld kijken, schrijft hij. In plaats van te moeten vertrouwen op intuïtie en zorgvuldig geformuleerde vragen of hypotheses, kunnen we met behulp van data patronen ontdekken die zich voorheen aan ons opmerkingsvermogen onttrokken. Succes in de sport, de effectiviteit van politieke spotjes en het taalgebruik van leugenaars zijn voorbeelden waarbij data-analyse nieuwe inzichten heeft opgeleverd. Of data ook ons vermogen om de toekomst te voorspellen en de manier waarop we beslissingen nemen zouden veranderen, moest volgens Brooks nog blijken. Hij geeft toe sceptisch te zijn over ‘ons verlangen alles te reduceren tot het kwantitatieve’.

Minder dan een decennium later is het wel duidelijk dat data hun belofte hebben ingelost. Sterker nog, de voorspellende kracht van data, hun werking en hun waarde, lijken tegenwoordig boven alle twijfel verheven te zijn. Het scepticisme is verdwenen, data gelden ondubbelzinnig als de universele code waarin alles te vertalen is; dat zij op die manier de wereld voorspelbaar maken en onder controle brengen staat buiten kijf; dat algoritmes die data verwerken daarom betere beslissingen maken dan de mens en dat we die beslissingen daarom beter uitbesteden, is evident. Uiteindelijk, volgens de profeten van het dataïsme, zal dit uitbesteden zelfs het einde van de mens inluiden, en moet de mens daar dankbaar voor zijn. Larger than life, inderdaad. Want als alles in de wereld met behulp van data in kaart is gebracht, zal de lange weg naar dominantie over de natuur voltooid zijn. De oude mens (wij) ontkomt er als onderdeel van de natuur niet aan zelf ook onderworpen te worden. Hij zal plaats moeten maken voor zijn opvolger, een wezen dat, min of meer alwetend, godgelijk is. Niet voor niets heet de bestseller van de historicus Yuval Noah Harari – het boek dat het dataïsme definitief op de kaart zette – Homo deus: Een kleine geschiedenis van de toekomst.

Over het algemeen wordt dataïsme niet als religie gepresenteerd, ook niet, zoals Brooks deed, als filosofie, maar als de volgende stap in de ontwikkeling van de wetenschap. Dat geldt ook voor Harari. Aan zijn futurologische speculaties ligt een welbepaalde interpretatie van de wetenschapsgeschiedenis ten grondslag. Ingewikkeld is die interpretatie niet. Volgens Harari is honderdvijftig jaar wetenschappelijk onderzoek in drie woorden samen te vatten: ‘organismes zijn algoritmes’. Dat houdt in dat elk organisme, van bacterie via banaan en baviaan helemaal tot de mens aan toe, terug te voeren zou zijn tot een stappenplan. Voorspelbare biologische processen en natuurkundige wetten dirigeren dat stappenplan of algoritme en laten niets aan het toeval over.

Het is pancomputationalisme ten top: plant en dier, mens en machine werken volgens deze leer allemaal op dezelfde manier. Vergeleken met een machine is de mens alleen hopeloos inefficiënt en wanordelijk. Volgens de filosoof Günther Anders lijdt hij daarom aan ‘prometheïsche schaamte’, een conditie die Anders al in het midden van de twintigste eeuw beschreef: de schaamte om anders dan een apparaat niet gemaakt te zijn en dus niet tot in perfectie te optimaliseren. We schamen ons voor onze onderworpenheid, niet aan de apparaten, maar aan onze eigen immer tekortschietende menselijke communicatie en aan ons falende lichaam. We schamen ons voor de lelijkheid ervan, voor onze eigen slordige intelligentie. In robots, aldus Anders, herkennen we iets wat we zelf missen en daarom willen we hun best ten dienste staan.

Deze feil van de mens is tegenwoordig makkelijk op te lossen, aldus het dataïsme zoals Harari het beschrijft. De wetenschap leert organische algoritmes te doorgronden en de technologie biedt de middelen om ze aan te passen. In de nabije toekomst zullen organische algoritmes zoals de mens zo versmelten met digitale algoritmes en daaruit zal een soort ontstaan van algoritmische menswezens die volgens Harari over twee-, driehonderd jaar meer van ons zullen verschillen dan wij nu verschillen van de neanderthalers (behalve dat allen werken als computer). Het is een mechanistisch wereldbeeld dat naar de niet eens zo verre toekomst wordt geëxtrapoleerd.

De computer is een universeel model geworden om uit te leggen hoe niet alleen de mens, maar de hele wereld werkt

Ondergang en vooruitgang gaan daarin hand in hand. De inefficiënte mens gaat een gewisse lotsbestemming tegemoet. Het maakt het dataïsme tot een geloof van het cynische soort, waarin de huidige wereld een betreurenswaardig tussenstadium is op weg naar iets beters. Daarmee lijkt het toch ook op een traditioneel geloof, waarin de ondergang van de mens – of het door de individuele dood is of door een wereldomspannende apocalyps – immers wel vaker een voorwaarde is voor vooruitgang, voor het paradijs.

—————

Zijn vermogen om in de toekomst te kijken verleent Harari de status van visionair. In januari 2018 sprak hij onder de titel ‘Will the future be human?’ het World Economic Forum in Davos toe. Niet veel historici vinden zichzelf terug op dat podium, ‘gesandwicht tussen Angela Merkel en Macron’, zoals de inleidster het formuleerde. Diezelfde Angela Merkel, vertelt ze, de machtigste vrouw ter wereld, is backstage zelfs even uit de gelederen getreden om zich aan Harari voor te stellen en te vertellen dat ze zijn boek gelezen had. Wat ze ervan vond, vermeldt de presentatrice niet.

Het antwoord op de titelvraag van Harari’s presentatie laat zich raden: nee, de toekomst zal niet menselijk zijn, maar toebehoren aan een wezen dat in de coulissen staat te trappelen, het wezen dat net zo ver van ons af zal staan als wij van de neanderthalers. Het zal een wezen zijn dat door data-, bio- en brain-engineering tot stand zal komen.

Als er maar voldoende data zijn, kan de mens – computer die hij nu eenmaal is – gehackt worden, aldus een bekende uitspraak van Harari. Dat maakt data tot een waardevol bezit: zij geven controle over dat hackbare wezen, de mens. Zoals het woord ‘bezit’ aanduidt, speelt deze wedloop zich vooralsnog af op de markt. De politiek bemoeit zich er nauwelijks mee. > Omdat het hier echter draait om de controle over hoe het leven zelf eruit zal zien, aldus Harari, is het uiterst belangrijk om politieke aandacht te besteden aan wat nu vooral als een economisch vraagstuk wordt gezien.

Harari komt zijn toehoorders waarschuwen: zij die de data bezitten, oftewel zij die het nieuwe, algoritmische menstype homo deus gaan ontwikkelen, bezitten de toekomst. Het is een dystopisch toekomstvisioen dat hij de verzamelde wereldleiders voorhoudt. De mensheid zal niet alleen verdeeld zijn in rijk en arm of dominant en onderdrukt, maar in verschillende biologische soorten. Waarbij de ene soort, de homo deus, het uiteraard veel beter zal hebben en veel machtiger zal zijn dan de andere, die oude homo sapiens. De laatste zal waarschijnlijk niet anders kunnen overleven dan als slaaf van de eerste.

Ik heb Harari altijd een paradoxaal figuur gevonden. Als ik hem lees of naar hem luister, bekruipt me steeds weer het gevoel dat de kok net iets te verlekkerd het laatste avondmaal uitserveert. Gelooft hij niet te veel in zijn eigen rol als profeet? En wil hij de komst van de homo deus afwenden of juicht hij haar eigenlijk toe? Wat is het waardoor Harari’s waarschuwing mij uiteindelijk niet overtuigt?

Het heeft ten eerste te maken met het stellig verkondigde reductionisme, zoals dat spreekt uit de slogan ‘organismes zijn algoritmes’. Harari slaat alarm over de aanstaande eindtijd, maar biedt geen ruimte voor een alternatieve visie. Misschien kan dat ook niet, als je gelooft dat de toekomst op mechanistische wijze uit het verleden voortkomt. Het idee dat de wereld een conglomeraat van voorspelbare algoritmes is, laat geen andere uitkomst toe.

Harari’s waarschuwing krijgt daardoor ook iets gratuits. Al bouwt hij, ook in Homo deus, hier en daar een voorbehoud of ironische distantie in, Harari lijkt uiteindelijk te geloven in dat wat hij bekritiseert: dat data de mens haarscherp kunnen uittekenen, dat algoritmes betere beslissingen nemen, dat keuzes niets meer zijn dan opties en dat er zoiets bestaat als een beste optie. Beangstigender dan de aangekondigde dood van homo sapiens vind ik het dat zo’n reductionistisch en mechanistisch wereldbeeld tot de hoogste regionen van politiek en economie blijkt te zijn doorgedrongen, om niet te spreken van elke vliegveld- en stationskiosk. In dat wereldbeeld is nauwelijks ruimte voor de werkelijk ethische vragen. Hoezeer Harari ook oproept om van data een politieke in plaats van zuiver economische kwestie te maken, uiteindelijk blijft ook hij steken bij bezit.

Met een persoonlijk voorbeeld licht hij toe hoe het zou kunnen uitpakken als data en algoritmes in verkeerde handen vallen. Jarenlang, vertelt hij, leefde hij in ontkenning omtrent zijn geaardheid. Hij had er geen idee van wie hij was. Stel nu dat er een algoritme zou bestaan dat hem zonder omhaal had verteld: je bent gay, hier sta je op het spectrum tussen homo en hetero. In wiens bezit wil je dan dat zo’n algoritme komt? Van bedrijven die het gebruiken om advertenties af te stemmen? Van de geheime dienst van bepaalde landen? Of wil je liever dat het beschikbaar komt voor jonge mensen die worstelen met wie ze zijn?

Wat hij niet vraagt, is hoe zo’n algoritme tot stand komt en hoe zeker het is dat bloeddruk en oogbewegingen je geaardheid ‘verraden’. Welke interpretaties het hanteert van welke termen of hoe zo’n spectrum van seksuele voorkeur eruitziet. Wat het eigenlijk betekent om jezelf te kennen. Het uitgangspunt dat organismes algoritmes zijn geeft op voorhand een antwoord op al die vragen.

Een vrouw voert computerdata in, 1960 © H.Armstrong Roberts / ClssicStock/ Getty Images
—————

Data werken, zoveel is duidelijk. Ze leveren resultaten op en genereren winst, ze weten mensen te overtuigen en betoveren. Ze werken ook zoals hout dat eenmaal op de vloer ligt kan gaan werken. Als de zorgvuldige architecturen zijn ingericht, beginnen de data zichzelf te arrangeren in databases en datasets; ze lijken moeiteloos tot stand te komen, vermenigvuldigen zich zonder er omkijken naar te hebben. Hun werkzaamheid verstevigt hun reputatie van echtheid en objectiviteit. De werkzaamheid maakt het dataïsme ook tot een praktisch georganiseerde overtuiging, ingericht rondom het proces van dataficatie: het vertalen van de wereld in data, oftewel het produceren van een gedataficeerde wereld. Aan de basis van dat proces staat de doctrine dat elk fenomeen dat je je kunt voorstellen te vertalen is in digitale data.

Uiteindelijk tast ook dataficatie in het duister. Er moeten toch zeker fenomenen zijn die niet te vangen zijn in getallen?

Wat betekent dat? Om te beginnen gaat ze ervan uit dat een voorstelling – bijvoorbeeld iets wat ik waarneem of me voor de geest haal – per definitie een bepaalde afmeting of dimensie heeft, een ruimtelijke uitgebreidheid. Dat betekent ook dat elk fenomeen dat voor te stellen is, te meten is. Een ruimtelijke uitgebreidheid kan immers onmogelijk bestaan zonder dat je daar getallen op kunt loslaten. Dat geldt niet alleen voor aanwijsbare, tastbare dingen, maar ook voor immateriële zaken zoals gevoelens, karaktertrekken of voorkeuren. Zegt men soms niet dat de liefde van een paar in de loop van de tijd is ‘verminderd’, dat iemand ‘enorm’ vrijgevig is, of een ‘sterke’ overtuiging heeft? Aan de liefde, de eigenschap en de overtuiging wordt in dat geval een dimensie gegeven, wat ze kwantitatief maakt. Zelfs als ze niet letterlijk aan te wijzen zijn, kun je er toch nog mee rekenen.

Deze stelling heeft iets geniepigs. Langzaam maar zeker draait ze zich namelijk om. Als alles wat je je kunt voorstellen een uitgebreidheid heeft waarmee te rekenen valt, dan impliceert dat dat er niets voor te stellen is wat geen uitgebreidheid heeft en dus niets wat niet te kwantificeren is. Niet alleen is elk fenomeen dat je je kunt voorstellen, meetbaar; dat wat meetbaar is, ís. De rest verdwijnt uit beeld.

Nu is het inderdaad lastig om iets te bedenken wat in deze zin geen uitgebreidheid heeft – zelfs een mystieke ervaring heeft nog een duur en een intensiteit, en inderdaad zal zelfs de grootste liefde verzwakken en de sterkste haat fluctueren. Door van de uitgebreidheid van een fenomeen zijn doorslaggevende karaktertrek te maken, wordt echter de kwantitatieve graad van de eigenschappen belangrijker dan de eigenschappen zelf: niet dát iets rood is, maar de diepte van het rood; niet de liefde zelf, maar de verminderde intensiteit ervan. Formalisering, berekening en mechanisering zijn dan de enige overgebleven manieren om de wereld te beschrijven, en dataficatie is daar de grondslag van.

Dataficatie is in de loop van de tijd, aldus de Oostenrijkse kunstenaar, curator en criticus Peter Weibel, ‘een monopolie op werkelijkheidsproductie’ geworden. Net als Harari vat Weibel de lange geschiedenis van de mens samen in een kort en eenduidig verhaal dat als vanzelf voortrolt, de toekomst in. Het verhaal begint met de mens die aan het begin van de antropogenese (wat zoveel betekent als menswording) namen aan de dingen gaf. In een tweede stap gebruikt hij ook beelden om de wereld in te vatten. Iets uitdrukken met behulp van iets anders – een woord, een beeld – is een manier om de wereld te onderzoeken en begrijpen, en tegelijkertijd, schrijft Weibel, wordt de wereld door die representaties uitgebreid. De woorden en beelden voegen iets aan het bestaande toe.

Inmiddels zijn we volgens Weibel aangekomen in de derde fase na het woord en het beeld (die zijn uitgegroeid tot de literatuur en de beeldende kunst): die waarin de wereld wordt vertaald, ja, zelfs veranderd, in getallen. In deze fase is het getal het voorkeursmedium om de wereld te begrijpen. Het is het instrument dat elke verandering, elk beginpunt en elk gewenst eindpunt kan uitdrukken, en dat doet het in het proces van dataficatie, dat zo succesvol is gebleken dat het is uitgegroeid tot wat hij zo treffend het monopolie op werkelijkheidsproductie noemt. Heeft het succes van het dataïsme dan misschien iets te maken met de aantrekkings- en overtuigingskracht van het getal?

Het getal is niet alleen de grote gelijkmaker van dat wat het representeert, in theorie is het ook een gelijkmaker voor wie het wil gebruiken. Getallen beloven een objectief begrip van de wereld dat openstaat voor alle mensen met een stel hersens, en wiskundige wetten zijn voor iedereen gelijk en met de rede na te volgen, al kan de complexiteit tot zo’n grote hoogte stijgen dat ze voor de meesten niet meer na te volgen is.

—————

De wereld is groter dan data. Ook dat is een geloof, gekoesterd door mensen zoals ik. Hoezeer er aan de wereld ook een schier onuitputtelijke hoeveelheid data te onttrekken valt, uiteindelijk loopt dataficatie tegen een grens op. Of beter gezegd: uiteindelijk tast ook dataficatie in het duister, grijpt ze in ijle lucht, ontmoet ze haar eigen falen – want een grens, die zou nog dataficeerbaar zijn. Er moeten toch zeker fenomenen zijn die niet te vangen zijn in getallen? ‘Het incommensurabele’ noemt de hoofdpersoon uit Maxim Februari’s Klont, Alexei Krups, dit spookachtige, niet vast te pinnen iets dat niet in getallen uit te drukken is en zou ontsnappen aan dataficatie. Het is dat wat niet in de hokjes past, wat wegglipt of uit zijn voegen barst.

Wat nog steeds niet zoveel zegt.

Het probleem met het monopolie op werkelijkheidsproductie is dat elke poging om te beschrijven wat het ondataficeerbare zou kunnen zijn, uitloopt op een soort ‘ik weet het beter’. Wat ontsnapt er aan de honger van databedrijven? Mijn innerlijk leven, kunst, muziek zoals van Bach of Coltrane, of dan toch op zijn minst mijn beleving daarvan, of misschien taal, poëzie, liefdesgedichten, of beter nog de liefde zelf, goddelijke liefde, de mystiek, transcendentie, extase?!

Helaas, steeds is het antwoord nee, want het innerlijk is af te lezen aan het uiterlijk, en hier is een robotcomponist die een niet van echt te onderscheiden Bach-etude heeft geschreven – trouwens, wat is echt, dit muziekstuk brengt tranen van ontroering in je ogen, is dat niet echt? Poëzie? Ken je die niet van die apen die Shakespeare typen? Kunstmatige intelligentie avant la lettre. O, en hier is een applicatie die precies voorspelt wie verliefd wordt op wie en of dat goed zal uitpakken, daar een start-up die god wil vangen in een algoritme en over extase hoeven we niet moeilijk te doen, dat is een hersenproces dat gemakkelijk met een pilletje of een speciale helm op te wekken is.

In plaats van het dataïsme de doodsteek toe te brengen, offreert zo’n raadspelletje steeds een nieuwe roos om op te richten. Wat overblijft van alle aan flarden geschoten mikpunten noemt Krups ‘een verzameling verschijnselen die niet bestaan’: een reeks kogelgaten geschoten met de munitie die zij die het incommensurabele proberen te verdedigen zelf aanleveren. Zo maken ze zichzelf medeplichtig aan hun eigen nederlaag.

En de offers zijn dierbaar. Neem de liefde, waarover Februari schrijft: ‘Liefde is geen argument tegen de kenbaarheid van de wereld: je kunt niet volhouden dat de moderne focus op cijfers en getallen alleen al de plank misslaat omdat liefde onmeetbaar is. Je houdt niet van iemand om er iets mee te bewijzen. Je bewijst er ook niets mee.’ Met andere woorden: zodra je de liefde inzet als bewijs tegen de ultieme berekenbaarheid van de wereld, heb je haar al verloren.

Stukje bij beetje verdwijnt de mens, tot hij er uiteindelijk zelf van overtuigd raakt te werken als een computer, met hersenen die input automatisch verwerken tot output.

Inout.


Dit is een bewerkte voorpublicatie uit Frictie: Ethiek in tijden van dataïsme van Miriam Rasch, dat deze week verschijnt bij De Bezige Bij