Het morele tekort van het techniekdebat

Wat hebben de laboratoria voor ons in petto?

Digitale en genetische technieken bepalen in toenemende mate het leven. Ons geloof in ‘vooruitgang door techniek’ staat een moreel debat over deze ontwikkeling in de weg.

Wat kiezers en Kamerleden willen, volgen we op de voet, maar de toekomst van onze samenleving wordt door iets anders bepaald: door de technologische ontwikkeling. Dit menen althans denkers als Dominique Janicaud, die schreef: ‘De kracht van de techniek is revolutionairder dan welke revolutie ook. Ze komt van boven, en niemand weet waar ze heen gaat.’ De rol van de politiek beperkt zich in dit soort visies tot het ordentelijk verspreiden van technische innovaties. Ik ben het daar niet mee eens. Zonder de ‘revolutionaire kracht’ van de techniek te onderschatten, denk ik toch dat de politiek in staat is tot een zekere mate van democratische sturing van technologie. Sterker, de interactie tussen het politieke en het technisch-economische domein is volgens mij de essentie van onze democratie. Maar de politiek verzaakt op dit punt, doordat ze een blinde vlek heeft voor de ideologische rol die technologie in onze samenleving speelt.

Technologie is deel geworden van onze natuur. Ze heeft ons gemaakt tot wat we zijn en gaat daar nog steeds mee door. Naarmate de aard van de technologie zelf veranderde, veranderde ook haar effect op de mens. De eerste technologische revolutie (als we de uitvinding van stenen jagers-verzamelaarsgereedschappen even overslaan) was de agrarische, die zich kenmerkte door een steeds grootschaliger ingrijpen in het landschap. De mens, ooit dier tussen de dieren, begon zichzelf als uitverkoren heerser over de natuur te beschouwen – lees Genesis er maar op na. Maar hoewel hij de natuur gebruikte, temde en beïnvloedde, zag hij haar niet als volledig maakbaar. Een hongersnood op z’n tijd maakt nederig.

De agrarische samenleving, die duizenden jaren heeft bestaan, draaide bovenal om grond. Het bezit ervan was de voornaamste inzet van conflicten, het voornaamste ‘techno-politieke strijdperk’ van die dagen. En aangezien onvruchtbare grond hét doembeeld bij uitstek was, waren boeren steeds op zoek naar manieren om de grond te bewerken op een manier die wij nu ‘ecologisch duurzaam’ zouden noemen: met verschillende bemestingsmethodes, vruchtwisseling enzovoort.

In de zeventiende eeuw ontstaat allengs een nieuwe visie op hoe de mens met de dode en de levende natuur heeft om te gaan. Van cruciale invloed is de gedachte dat God zich niet slechts openbaart in de bijbel, maar ook in het boek der natuur. Deze eeuwenoude notie krijgt een nieuwe betekenis wanneer de gedachte opgang maakt dat de natuur in essentie een doelloos mechaniek is dat de mens in staat is te doorgronden – een gedachte waaraan de naam van Descartes is verbonden. Het wordt als een religieuze opdracht gezien om de natuurwetten, oftewel de goddelijke orde, structuur en regelmaat, wetenschappelijk in kaart te brengen.

Wat in kaart is gebracht, kan betreden en ontgonnen worden. Bij geloof in de verklaarbaarheid van de natuur voegt zich dan ook geleidelijk een geloof in haar maakbaarheid. Een vroege exponent hiervan is Francis Bacon, die ervan overtuigd is dat wetenschappelijke en technische vooruitgang bijdraagt aan maatschappelijke en morele vooruitgang. Hij pleit voor een instrumenteel gebruik van niet alleen de dode natuur, maar ook de levende. Zo gebruiken mensen in zijn bekende utopie Nieuw Atlantis (1624) al telecommunicatie­middelen en kunnen ze vliegen als vogels. Ook kweken ze pluimvee van een formaat dat onze plofkippen doet verschrompelen tot krielhennetjes.

Is Bacon de profeet, dan is James Watt de verlosser. Althans, als goed opgeleid ingenieur én ondernemer symboliseert hij als geen ander de nauwe samenwerking tussen drie voorheen gescheiden sectoren: wetenschap, techniek en bedrijfsleven. Deze drie-eenheid zal de industriële revolutie – letterlijk – op stoom brengen en vanaf de late achttiende eeuw de wereld transformeren, te beginnen met Engeland.

Meer en meer beheerst de mens via wetenschap en techniek met name de dode natuur van delfstoffen, machines en gebruiksvoorwerpen. De wetenschappelijke beschrijving en verklaring van de werkelijkheid komen in de schaduw te staan van het scheppen van een andere werkelijkheid: nieuwe ideeën worden wetenschappelijk verkend, de daaruit voortvloeiende inzichten technisch toegepast en geoptimaliseerd, de resultaten vervolgens economisch uitgebaat. De lijst van innovaties is eindeloos, van spoorlijnen, telegrafie en elektriciteit tot kunstmest, gewapend beton en bakeliet.

Kende de agrarische samenleving een voortdurende strijd om grond, in het ‘techno-politieke strijdperk’ van het industriële tijdperk is arbeid inzet van conflict: het kapitaal wil de arbeid maximaal benutten, de arbeid verzet zich tegen deze onverdraaglijke uitbuiting. Zoals ‘ecologische duurzaamheid’ (weliswaar avant la lettre) het leidende principe werd in de agrarische samenleving, zo wint sociale rechtvaardigheid het pleit als leidend principe voor haar industriële opvolger. Overigens hebben beide principes hun relevantie ook nu nog niet verloren.

De Tweede Wereldoorlog is een dubbele mijlpaal. Enerzijds markeren Auschwitz en Hiroshima een begin van aarzeling over de zegeningen van de technologie, anderzijds luidt dezelfde periode ook een radicale uitbreiding van het maakbaarheidsdenken in, en uiteindelijk de derde revolutie in onze reeks. Al in de jaren vijftig merkte Hannah Arendt op dat ook de levende natuur – en de mens zelf niet in de laatste plaats – tot object van het maakbaarheidsdenken is geworden. Waren voorheen delfstofwinning, bodemvruchtbaarheid, transport en goederenproductie voor verbetering vatbaar, nu blijkt dat potentieel ook te gelden voor zaken als onze persoonlijkheid, voortplanting, lichamelijke prestaties, sociale interacties en geheugen. Onderzoeksterreinen als de genetica, neurologie, farmacologie, medische technologie en informatie- en communicatietechnologie leveren allemaal hun bijdrage aan het project ‘beheersing menselijke natuur’.

Natuurlijk gaapt er nog een kloof tussen de dode en de levende natuur, maar een kloof is voor ingenieurs niets anders dan een plek waar een brug moet komen. Die brug slaat de wiskundige Norbert Wiener, als hij erin slaagt organismen en mechanismen onder één noemer te brengen: die van ‘informatieverwerkende systemen’, met terugkoppeling als centraal sturingsprincipe. Voor de cybernetica, waarvoor Wiener hiermee de grondslag legt, zijn de levende en dode natuur in wezen gelijkvormig en beheersbaar. Het zal de basis blijken voor de informatierevolutie die we nu beleven.

Wieners inzicht legt namelijk de weg open om ook ons biologische, geestelijke en sociale leven te industrialiseren, zoals techniekfilosoof Bernard Stiegler opmerkt, en hij zou geen Franse denker zijn als hij hiervoor niet een term als hyperindustrialisatie munt. Wellicht interessanter is de constatering dat deze domeinen daarmee bloot komen te staan aan typisch industriële verschijnselen als rationalisering, economisering, planning en de imperatief van de efficiëntie.

Nu ict en nanotechnologie bezig zijn zich een plaats te verwerven in de biotechnologie en de hersenwetenschappen is het te verwachten dat in de komende decennia allerlei biologische, cognitieve en sociale processen steeds meer gedigitaliseerd zullen worden. Dit maakt de contouren zichtbaar van twee technische megatrends: biologie wordt steeds meer technologie – en omgekeerd. De eerste trend houdt in dat levende systemen zoals het menselijk lichaam en de hersenen steeds meer gezien worden als een bouwdoos: we zullen kunnen ingrijpen in lichamen zoals we sleutelen aan mechanische voorwerpen. De tweede trend betekent dat apparaten en technische systemen steeds ‘levensechter’ worden: ze zullen organische eigenschappen verwerven als herstelvermogen, voortplantingsvermogen en intelligentie. Beide ontwikkelingen staan nog in de kinderschoenen, maar laten zich al wel op diverse terreinen gelden. Het warme organisme en het koele mechanisme groeien steeds meer naar elkaar toe.

Net zoals eerder de agrarische en de industriële revolutie dat deden, creëert ook de informatierevolutie haar eigen techno-politieke strijdperk en een nieuw doembeeld, en vraagt ze om een nieuw leidend principe. Inzet van het centrale conflict is ditmaal de levende natuur: dieren en planten dus, maar meer nog de mens. Het feit dat wijzelf – ons lichaam, onze genen, onze hersenen, zelfs onze aandacht en sociale wereld – de grondstof zijn, roept op biologisch en cognitief gebied tal van ethische vragen op. In het zwartste scenario wordt de grondstof mens, zowel lichamelijk als geestelijk, net zo uitgebuit en uitgeput als een akker door een roekeloze boer en als een arbeider door een harteloze kapitalist. Een cruciale vraag wordt dan wat het leidende principe moet zijn bij onze inspanningen om dit doembeeld af te wenden. Een voorlopig antwoord hierop, hoe vaag ook, kan zijn: menselijke waardigheid (bijvoorbeeld het recht op respect, privacy en lichamelijke en geestelijke integriteit) en menselijke duurzaamheid (het recht op behoud van menselijke eigenheid: welke aspecten van de mens en ons mens-zijn zien we als maakbaar en welke aspecten willen we graag behouden?).

Hoe zal het bio-politieke strijdperk er concreet uitzien – of althans zo concreet als een sneak preview van de toekomst kan zijn? Tot nu toe hebben vooral gentechnologische nieuwigheden de gemoederen verhit: maïs die tegen pesticide kan, rijst die meer vitamine bevat, bacteriën die insuline produceren, boerderijdieren die Dolly of Herman heten. Inmiddels zitten we in het stadium van de synthetische biologie, die micro-­organismen als te programmeren chemische fabriekjes ziet. Het is nu mogelijk om ieder virus waarvan het genoom bekend is na te bouwen, en in 2010 slaagde het Craig Venter-instituut er zelfs in om dat met een bacterie te doen. Deze ontwikkelingen roepen vragen op op gebieden als veiligheid, octrooien en de technische maakbaarheid van leven.

Betroffen deze ontwikkelingen nog andere soorten, sinds 2001 zijn wij mensen zelf het gen-debat in gezogen. In dat jaar legde de National Science Foundation, de Amerikaanse geldschieter voor wetenschappelijk onderzoek, rechtstreeks het verband tussen twee gebieden: enerzijds de ontwikkelingen in de cognitieve wetenschappen en op nano-, bio- en informatietechnologisch gebied (de zogeheten nibc-convergentie), anderzijds de al wat oudere droom van de zogeheten ‘transhumanisten’, die technologie willen benutten om een snellere, sterkere, slimmere en – als we toch bezig zijn meteen ook maar – onsterfelijke mens te bouwen. Voor deze human enhancement oftewel mensverbetering zijn vele technologieën potentieel inzetbaar, zoals regeneratieve geneeskunde, gen-doping, concentratie verbeterende stoffen, bionische ledematen en zintuigen en rechtstreekse stimulatie van de hersens. Diepe breinstimulatie bijvoorbeeld, nu nog bedoeld ter bestrijding van de hevige trillingen die optreden bij Parkinson, zou ook een middel kunnen worden om depressies te bestrijden, en daarmee wellicht ons karakter te reguleren. Dit laatste roept indringende vragen op over de maakbaarheid van het brein, mentale integriteit en privacy en de grenzen van het informed consent-principe.

Een derde element dat in de sneak preview niet mag ontbreken is de opkomst van intelligente en zelfs emotionele machines. Aan simpele varianten zijn we al gewend, zoals een pratende softbot op de Ikea-website en computerprogramma’s die ons advertenties voorschotelen passend bij onze belangstelling. Heel wat meer vraagtekens zijn er te plaatsen bij de op afstand bestuurbare bewapende vliegtuigen, drones. De ‘piloten’, in Nevada kijkend naar een computerscherm, staan geografisch én moreel op grote afstand van de Afghanen, Jemenieten en anderen die ze met een muisklik doden. Zoals een van het zegt in het boek Wired for War van de politicoloog P.W. Singer: ‘It’s like a video game. It can get a little blood­thirsty. But it’s fucking cool.’ Niet dat deze onverschilligheid onontkoombaar is: sommige computerspellen zijn juist ontworpen op een manier waardoor spelers empathie gaan voelen met fictieve personages. Met zulke ‘persuasieve technologie’ is gedrag dus beïnvloedbaar.

De digitale modificatie van onze sociale leefwereld en de genetische modificatie van het leven zullen al met al een steeds belangrijker bio-­politiek onderwerp worden. Maar waar is het debat? Natuurlijk, het duurt vaak een poos voordat technologie die zich nog ontwikkelt maatschappelijk zichtbaar en dus bespreekbaar wordt. Maar er is meer aan de hand. Lange tijd, ruwweg tot de Tweede Wereldoorlog, werd zo’n debat zelfs als overbodig beschouwd. In de ogen van zowel links als rechts was techniek een middel om politieke idealen te verwezenlijken en economische groei aan te wakkeren – een ander woord voor vooruitgang. De overheid moest zich ertoe beperken die ontwikkelingen te stimuleren en eventuele bijwerkingen achteraf te bestrijden.

Dit blinde vertrouwen liep, zoals gezegd, een lelijke kras op door de Tweede Wereldoorlog. Sindsdien wordt de behoefte gevoeld om in een vroeg stadium het democratische debat te voeren over wat de laboratoria voor ons in petto hebben, al duurde het nog een tijd voor er ook institutioneel in die behoefte werd voorzien. In 1970 stelden de Verenigde Staten een milieueffectrapportage verplicht bij grote technologische projecten. Twee jaar later kreeg het Congres zijn eigen Office of Technology Assessment, om de maatschappelijke effecten van nieuwe technologieën te bestuderen, in de hoop dat de politiek daar tijdig op kon anticiperen. Europese landen richtten enkele jaren later hun eigen organisaties voor Technology Assessment (TA) op, zoals mijn eigen werkgever, het Rathenau Instituut. Niettemin bleef de dominante visie, ook in de TA-praktijk, nog steeds die van het modernisme, dat technologie als hét middel ziet om economische groei te verkrijgen en maatschappelijke problemen op te lossen, waarbij eventuele nadelen met beleidsmatig ingrijpen weggenomen kunnen worden.

Maar kán de politiek überhaupt tijdig anticiperen? Dat is zeer de vraag. Allereerst is daar het zogeheten Collingridge-dilemma: in een vroeg stadium van technologieontwikkeling zijn de effecten nog niet te voorspellen, en tegen de tijd dat dat wél kan, valt er niet veel meer te sturen. Daaraan verwant is de constatering dat de sociale werkelijkheid weerbarstig is, en dat nieuwe technologieën daarin vaak onbedoelde en onverwachte, soms paradoxale effecten blijken te hebben.

Braden Allenby en Daniel Sarewitz graven in hun recente boek The Techno-Human Condition nog een slag dieper en beweren dat controle over techniek uiteindelijk onmogelijk is. Om dat te verduidelijken, onderscheiden ze in de effecten drie niveaus. Op niveau I levert technologie onmiddellijke vooruitgang op: een auto brengt je sneller van A naar B dan een fiets. Maar vervolgens slaat het verschijnsel ‘systeemcomplexiteit’ toe. Op niveau II werken de nieuwe technologie en allerlei reeds bestaande technische en sociale systemen op een complexe manier op elkaar in, zodat de resultaten niet te voorspellen zijn. Neem de auto weer: toen die door Nederland begon te rijden, een man met een rode vlag ervoor, kon niemand verschijnselen voorzien als de snelweg, het woon-werkverkeer en het huwelijk tussen liberalisme en 130 kilometer per uur. Op niveau III, ten slotte, dragen sommige technologieën bij aan niets minder dan transformaties van de wereld zoals we die kennen. De auto heeft een grote rol gespeeld bij tal van veranderingen in de economie, ecologie, politiek en cultuur. Voor wie twijfelt: denk aan massaproductie, klimaatverandering, het Midden-Oosten en individuele bewegingsvrijheid.

Wat voor de auto geldt zal waarschijnlijk nog sterker gelden voor een aantal van de eerder genoemde technologieën die nu in opkomst zijn. Tenslotte is een auto ‘maar’ een vervoermiddel, terwijl de nieuwe golf van innovaties ons zélf kan veranderen. Niveau-I-discussies hierover zijn nauwelijks zinvol; de niveaus II en III moeten erkend en zo mogelijk verkend worden – in het besef overigens dat ontwikkelingen op niveau III betrekkelijk autonoom zijn. Als onwenselijke eigenschappen op niveau III zich eenmaal hebben voorgedaan beschouwen we ze eerder als onaantrekkelijke aspecten van hoe de wereld nu eenmaal is (net als de menopauze, tankstations en het salafisme) dan als problemen die we kunnen verhelpen.

Is het boek van Allenby en Sarewitz recent (2011), Heidegger liet al in de vorige eeuw zien dat wie op een instrumentele manier naar techniek kijkt de essentie consequent over het hoofd ziet. Ook hij meende dat het wezen van de techniek voor een groot deel de maatschappelijke dynamiek bepaalt. Hij vreesde dat we zo door techniek betoverd zouden raken dat – wat hij noemt – het ‘rekenende denken’ uiteindelijk het enige denken zou worden. Wat Heidegger nog vreesde, is volgens de eerder genoemde techniekfilosoof Stiegler inmiddels gebeurd: we leven in de ‘ideologie van de prestatie’. Alles is maakbaar.

Het verlichtingsgeloof in ‘vooruitgang door technologie’ is nog steeds dominant. Nog steeds ook menen de gelovigen dat de mens aan het stuurwiel staat, dus zolang we goed opletten, hoeven we ons geen zorgen te maken. Er zijn goede redenen om dit argeloze zelfvertrouwen niet te delen. Innovaties veranderen de toekomst op grillige manieren, de politiek heeft daar minder greep op dan ze denkt en we zijn zo door de techniek betoverd dat we er moeilijk weerstand aan kunnen bieden. Waar we geloven in ‘vooruitgang door technologie’, gedreven door politieke idealen en debat, is er in feite veeleer sprake van een zielloze ‘ontwikkeling door technologie’, voortgestuwd door het geloof in technische maakbaarheid. Onderwijl is het zelfverzekerde geloof in ‘vooruitgang door techniek’ een sta-in-de-weg voor een werkelijk politiek debat over de maatschappelijke rol van techniek.

De informatierevolutie heeft zo’n debat, waarin menselijke waarden en visies op het goede leven een centrale rol spelen, hard nodig. Het gaat immers om de industrialisering van ons lichaam, onze geest en het sociale domein, met alle ethische en politieke kwesties die dat met zich meebrengt. Continu inspelen op afzonderlijke technologieën (TA op niveau I) is niet afdoende, omdat de bredere samenhang buiten beeld blijft. Het gaat er juist om die bredere technologische trend en het technische ideaal van ‘maakbaar leven’ te maken tot politieke en maatschappelijke issues en naar beste vermogen te verkennen hoe ze de samenleving kunnen transformeren.

Het morele tekort van het huidige techniekdebat toont zich het scherpst in ‘de totale afwezigheid van criteria om ons op te oriënteren in de technowetenschappelijke toekomst die zich onvermijdelijk aan ons opdringt’, om Stiegler nogmaals te citeren. Hij bedoelt: we weten niet wat we willen. ‘Wat we willen’ is wellicht de belangrijkste vraag waarvoor we ons in de 21ste eeuw gesteld zien, omdat het antwoord daarop onze fundamentele waarden en morele codes raakt en kan leiden, of juist niet, tot een wereldwijde intensivering van religieuze en morele conflicten. Er is daarom behoefte aan een politieke discussie over de morele principes die vorm dienen te geven aan de nieuwe technologische golf. Als we ons daarvan laten weerhouden door het vooruitgangsgeloof doen we dat op eigen risico. Dan dreigt de geschiedenis zich te herhalen. De sociale kwestie werd pas in de eerste helft van de twintigste eeuw serieus genomen, de ecologische zelfs nog later (behalve door boeren wier overleven afhing van een vruchtbare bodem). Stel dat burgers en politici aan het begin van de industriële revolutie sociale rechtvaardigheid en ecologische duurzaamheid als leidende principes hadden ingezet – hoe had de wereld er dan nu uitgezien? Ons mens-zijn is te belangrijk om over te laten aan de krachten van techniek en economie, want in dat geval zal technische maakbaarheid de (politieke) leidraad worden. Laten we daarom afstappen van een naïef vooruitgangsgeloof en het grote zwijgen verbreken over hoe de informatierevolutie ons verandert. Zodat we op zoek kunnen naar gedeelde morele principes om die wending op een menswaardige manier politiek richting te geven.


De auteur is werkzaam bij het Rathenau Instituut. Dit artikel is een bewerking van het hoofdstuk De ideologische leegte van het techniekdebat: Het grote zwijgen over hoe de informatierevolutie ons verandert, dat eerder dit jaar verscheen in het boek Stille ideologie: Onderstromen in beleid en bestuur, onder redactie van Cor van Montfort, Ank Michels en Wouter van Doorn en uitgegeven door Boom/Lemma