Technologie is geen natuurkracht

Lessen van de Luddieten

Heeft technologie een eigen wil, waaraan wij nietige mensen zijn overgeleverd? Of hebben wij zelf het stuur in handen? ‘Nieuwe technologie gaat altijd gepaard met keuzes over wat voor een samenleving we willen.’

Medium brace new world lead op maat

Veel is er niet bekend over Ned Ludd. Waarschijnlijk was hij een textielarbeider uit Midden-Engeland die in 1779 in een vlaag van woede twee mechanische weefgetouwen vernielde. Waar hij precies boos over was? Niemand weet het. Bekendheid verwierf hij pas dertig jaar later toen zijn naam opdook onder boze brieven aan fabrieksbazen. Als ze niet zouden stoppen met het gebruik van die verachtelijke machines, dan zwaaide er wat. Niet dat Ned Ludd die brieven zelf had geschreven; zonder dat hij er erg in had was hij uitgegroeid tot de mythische voorman van een beweging die met hamers probeerde de oprukkende industrialisering een halt toe te roepen. Deze ‘Luddieten’ waren bang dat hun vaardigheden en levensstijl in de verdrukking zouden raken. Uit protest grepen ze naar dezelfde middelen als Ned: het saboteren en slopen van de machines. Tevergeefs, want ondanks de opstand denderde de industriële revolutie voort.

Sindsdien staan de Luddieten symbool voor de verwoede strijd tegen technologische innovatie. De moraal van het verhaal wordt vaak als volgt uitgelegd: je kunt uit alle macht proberen om dit soort ontwikkelingen tegen te houden, maar wanneer de tijd voor een technologie is gekomen, is verzet futiel. Luddiet is een scheldwoord geworden voor naïevelingen die in de greep zijn van een nostalgisch verlangen naar een premoderne tijd of irrationele technofoben die vooruitgang willen blokkeren. Het zijn de Don Quichots die vechten tegen windmolens, maar die, net als de echte Luddieten destijds, altijd het onderspit zullen delven.

De Luddieten-opstand is een van de meest fameuze episodes in het historische overzicht van ‘technopaniek’ dat te vinden is op de website van de bbc. Het is een ontnuchterende tijdlijn, die teruggaat tot 400 voor Christus, toen Plato waarschuwde dat de uitvinding van het schrift zou leiden tot vergeetachtigheid. Er staan talloze voorbeelden op die, terugblikkend, ronduit lachwekkend zijn. Vrouwen die niet met de trein durfden te reizen, uit angst dat hun baarmoeder uit hun lichaam zou vliegen. Mensen die bang waren dat kwade geesten door de telefoonkabels hun huiskamers konden binnendringen. En telkens als er een nieuw communicatiemiddel werd geïntroduceerd klonk de zorg dat het ten koste zou gaan van persoonlijk contact en het sociale weefsel.

Het is komisch, zo’n overzicht vol belachelijke hysterie, totdat je bedenkt wat voor alarmistische geluiden er vandaag rondzingen over nieuwe technologie. De legendarische natuurkundige Stephen Hawking waarschuwde dat kunstmatige intelligentie de hele menselijke soort van de planeet dreigt te vegen. Economen voorspellen dat robots hele beroepsgroepen werkloos achter zullen laten. Volgens psychologen zorgt de smartphone voor een generatie eenzame, angstige en depressieve kinderen. En de historicus Yuval Noah Harari publiceerde vorig jaar met Homo Deus een internationale bestseller, waarin hij uittekent hoe we afstevenen op een wereld waarin data de heilige graal zijn en slimme algoritmen langzaam maar zeker de menselijke autonomie ondergraven.

Nu is de angst voor innovaties van alle tijden en hoewel de vrees in het verleden soms terecht bleek, was het vaak overtrokken paniekzaaierij. Ook in de Thalys blijft de baarmoeder gewoon op de plek zitten. En in plaats van sociale isolatie zorgden de post, telefoon en e-mail juist voor een grotere verbondenheid. Zullen we over honderd jaar lachen om de doemscenario’s van Hawking en Harari? Of staan we werkelijk op het punt van een onomkeerbare revolutie met nefaste gevolgen voor de mensheid? En, misschien nog wel belangrijker, zijn we überhaupt in staat om zulke ontwikkelingen in goede banen te leiden? Of zijn wij, nietige wezens, overgeleverd aan de onstuitbare kracht die technologie heet?

Min of meer dat laatste, gelooft Kevin Kelly. In 2010 schreef hij What Technology Wants, een ambitieus boek dat lovend werd onthaald in Silicon Valley-kringen. Kelly is dan ook niet zomaar iemand: hij was een van de oprichters van technologiemagazine Wired en werkte daar zeven jaar als hoofdredacteur, voordat hij besloot zich volledig te wijden aan het schrijven van boeken over technologie. Een opmerkelijke carrière voor iemand die als jongeman juist had besloten om techniek en materiële luxe zo veel mogelijk op afstand te houden. Als twintiger zwierf hij door afgelegen delen van Azië en bewonderde de primitieve volkeren, die nog dicht bij de natuur stonden. Zijn enige bezittingen waren een paar versleten kleren, een slaapzak, een zakmes en een camera.

De ommekeer kwam toen hij op zijn 27ste terugkeerde naar de Verenigde Staten en aan de slag ging als redacteur van de Whole Earth Catalog, een soort Wikipedia op papier. Van een collega kreeg hij de toegangscode tot een experimenteel teleconferentiesysteem en ‘al snel was ik ondergedompeld in iets groters en wilders: de voorloper van een online gemeenschap’, schrijft hij. ‘Ik kwam er tot mijn verbazing achter dat deze high-tech computernetwerken helemaal niet dodelijk waren voor de ziel van vroege gebruikers zoals ik; mijn ziel raakte juist vervuld. Er zat iets onverwacht organisch in dit ecosysteem van kabels en mensen.’

What Technology Wants is de uitwerking van het inzicht dat niet alleen computernetwerken, maar technologie als geheel zich gedraagt als een soort organisme. Al spreekt Kelly in plaats van over ‘technologie’ liever over ‘het technium’: een scheppend wezen, dat op een bepaald punt een zekere autonomie heeft gekregen. Dit technium heeft – inderdaad – een eigen wil. Kelly beseft dat dit vreemd overkomt, dus onderstreept hij van meet af aan dat hij het minder esoterisch bedoelt dan het misschien klinkt. Natuurlijk beweert hij niet dat het ‘technium’ bewustzijn heeft of keuzes maakt zoals de mens dat doet, eerder dat het een basale aandrang heeft om te overleven en te evolueren.

Het technium is een zelfversterkende kracht die telkens groter en complexer wordt, een kracht ook die vooruitgang brengt. Al met al is Kelly namelijk behoorlijk optimistisch over de toekomst: niet alle nieuwe technologie is even fantastisch, maar zolang de voordelen groter zijn dan de nadelen gaat het de goede kant op met de wereld. ‘Vooruitgang is niet een of ander schadelijk bijproduct van permanente optimisten, maar gewoon een deel van onze realiteit’, citeert hij de bioloog Simon Conway Morris met instemming. We leven langer, comfortabeler en gezonder dan ooit. Met dank aan technologie. Dus als het technium zich verder kan ontwikkelen, ziet de toekomst er alleen maar rooskleuriger uit, betoogt Kelly. Geen luddiet die daar iets aan kan veranderen, lijkt het.

‘Vooruitgang is niet een of ander schadelijk bijproduct van permanente optimisten’

Het boek van Kelly is illustratief voor de denkwijze van veel tech-goeroes. Ze zijn er heilig van overtuigd dat technologie een force for good is, dat ze de wereld een betere plek kan maken, zolang we innovatie maar niet te veel dwarsbomen. De meest extreme belichaming van dit techno-optimisme is Ray Kurzweil, de beruchte uitvinder die inmiddels in dienst is bij Google als director of engineering. Hij gelooft dat de singularity ophanden is: het moment waarop kunstmatige intelligentie het menselijke brein voorbijstreeft. Maar anders dan Stephen Hawking ziet Kurzweil dit niet als een ramp, maar als het begin van het paradijs op aarde: slimme computers zullen al het leed en ongemak verhelpen. Mens en machine zullen samensmelten en als dat gebeurt is zelfs sterfelijkheid een overkomelijk euvel. Critici van zijn utopische verhaal zet de Google-ingenieur weg als ‘neo-Luddieten’.

Voor Kelly is Kurzweil niets minder dan een visionair, iemand die heeft begrepen wat technologie wil en daar naar luistert. Als je kijkt naar de ontwikkelingen in het verleden kun je daaruit wetten destilleren waarmee je grofweg de toekomst kunt voorspellen, gelooft hij. De meest bekende daarvan is de Wet van Moore, die stelt dat het rekenvermogen van computerchips iedere twee jaar verdubbelt (als je die lijn doortrekt, redeneert Kurzweil, kom je onvermijdelijk uit bij de singulariteit). En zo is er nog een aantal trends te ontdekken, bijvoorbeeld in de groeiende opslagcapaciteit van harde schijven of de dalende kosten van dna-onderzoek en zonne-energie. ‘Deze “wetten”’, schrijft Kelly, ‘zijn reflexen van het technium die in werking treden ongeacht het sociale klimaat.’

De mens kan, kortom, wel proberen technologie naar zijn hand te zetten, maar zal nooit in staat zijn om er volledig grip op te krijgen. ‘We kunnen niet eisen dat technologie ons gehoorzaamt, net zo min als dat we kunnen eisen dat het leven ons gehoorzaamt’, schrijft hij. In plaats daarvan kunnen we dus maar beter zorgen dat we zo soepel mogelijk meevaren op de stroom van de technologische voorzienigheid. Dat spreekt ook uit de titel van Kelly’s meest recente boek: The Inevitable, waarin hij voorspelt welke onvermijdelijke technologische trends onze wereld in de komende decennia zullen vormgeven. Citaat van de achterflap: ‘Deze grotere krachten zullen de manier waarop we kopen, werken, leren en communiceren compleet op de kop zetten.’

Het is niet zo vreemd dat Kelly’s verhaal gretig aftrek vindt in Silicon Valley, in de kern is het namelijk dezelfde boodschap die de tech-bedrijven zelf graag verkondigen. Zorgt Uber voor oneerlijke concurrentie in de taxibranche? Onzin, zegt de directeur, de wet is gewoon achterhaald. Is het problematisch dat Facebook zo veel gegevens over ons verzamelt? Welnee, want ‘privacy is niet langer een sociale norm’, zei Mark Zuckerberg in 2010. Misschien dat hij door de recente relletjes op deze woorden is teruggekomen, maar de uitspraak verraadt hoe veel ondernemers en politici denken. Volgens hen is de voornaamste taak van beleidsmakers om innovatie te stimuleren en zo goed mogelijk te anticiperen op het onvermijdelijke.

Die houding is niet alleen misleidend, maar heeft ook kwalijke gevolgen, zegt Johan Schot, hoogleraar technologiegeschiedenis aan de Universiteit van Sussex. ‘Vaak wordt een nieuwe technologie uitgerold zonder dat er een publiek debat over is gevoerd. Terwijl de negatieve gevolgen die zo’n techniek met zich meebrengt vervolgens voor de rekening komen van de maatschappij als geheel. Het meest extreme voorbeeld is natuurlijk klimaatverandering: fossiele brandstoffen lagen aan de basis van de industriële revolutie, maar nu we de keerzijden kennen moet de belastingbetaler de kosten ophoesten.’ Behalve de opwarmende aarde noemt Schot ongelijkheid als een van de grootste uitdagingen van onze tijd. Dat is misschien niet een probleem dat we direct met technologie associëren, maar volgens hem valt het er onmogelijk van los te zien. Niet zelden schept technologie nieuwe kloven of verdiept bestaande. ‘Veel nieuwe technologie wordt ontwikkeld door en voor de rijken’, zegt Schot. ‘Prachtig hoor, al die elektrische en zelfrijdende auto’s, maar als we ervoor willen zorgen dat mensen in India toegang krijgen tot betaalbaar en schoon transport kunnen we ons misschien beter afvragen waarom we überhaupt willen vasthouden aan de auto.’

Het probleem is dat we technologie te vaak kritiekloos benaderen als een wondermiddel om de wereld te verbeteren – innovatie is een heilige graal geworden en politici prijzen disruptieve start-ups aan als de motor van de economie. ‘In de pre-industriële samenlevingen waren er veel meer checks and balances, bijvoorbeeld via de gildes, die nieuwe technologie konden tegenhouden’, zegt Schot. ‘Niet dat ik terug wil naar die tijd, maar we zijn doorgeschoten naar de andere kant. Vanaf de negentiende eeuw werd technologie niet langer ter discussie gesteld, dat was iets goeds, daarover waren de marxisten, democraten en de fascisten het eens. Tot op de dag van vandaag is de positieve waardering van technologie iets wat alle ideologieën delen.’

Wat we eigenlijk nodig hebben, gelooft Schot, is een nieuw sociaal contract voor onze omgang met technologie, waarbij we technologie inzetten om problemen op te lossen en tegelijkertijd oog hebben voor de maatschappelijke effecten. Er moet meer ruimte komen om te experimenteren, om de betrokkenen mee te laten praten over mogelijke toepassingen, bijvoorbeeld door de R&D-afdeling van bedrijven te laten overleggen met maatschappelijke actoren. ‘Het komt erop aan een eerlijk en constructief speelveld te creëren en dat gaat niet door enkel te debatteren in het parlement.’

Er staat bovendien nogal wat op het spel, want we bevinden ons midden in een historische omwenteling, daar laat een eindeloze stroom boeken en artikelen geen misverstand over bestaan. We zouden de Second Machine Age binnentreden of aan de vooravond staan van het Machinocene. Sommigen noemen het de ‘vierde industriële revolutie’, anderen spreken over de ict-, big data- of de robotrevolutie. Maar welk label je er ook op plakt, één ding is zeker: de technologie van de nabije toekomst heeft ongekend ingrijpende gevolgen voor ons mens-zijn. Dat blijkt ook uit Homo Deus van Yuval Harari, de Israëlische historicus die de laatste tijd hoge ogen gooit met zijn toekomstvoorspellingen. In tegenstelling tot techno-optimisten als Kelly is Harari een stuk somberder over waar de technologische tendensen ons naartoe voeren. In Homo Deus deelt hij de menselijke geschiedenis op in drie fasen: de mens verovert de wereld, geeft betekenis aan de wereld en verliest vervolgens de controle.

Inmiddels zijn we aanbeland in die laatste fase, een fase waarin de mens over krachten beschikt waar zelfs Griekse goden jaloers op zouden zijn, maar eigenlijk niet goed weet wat hij met al die macht aanmoet. Fysieke arbeid kunnen we uitbesteden aan robots en het denkwerk aan algoritmen, maar wat blijft er dan nog over van de mens? Nu we geloven dat datastromen de sleutel zijn om het universum te verklaren, moet het humanisme plaatsmaken voor een nieuwe levensbeschouwing: het dataïsme. De conclusies die Harari hieraan verbindt liegen er niet om: vrije wil wordt een overbodige illusie, democratie is ten dode opgeschreven en ‘het individu wordt een steeds kleiner chipje in een gigantisch systeem dat niemand echt begrijpt’.

‘Technologie is nooit neutraal. Het maakt uit wie de technieken van de toekomst vorm geeft’

Het zou te makkelijk zijn om Harari’s analyse weg te zetten als blinde technopaniek. Juist doordat hij uitzoomt en de gehele menselijke geschiedenis in ogenschouw neemt, is zijn toekomstscenario zo zorgwekkend. De revolutie die we nu doormaken is van dezelfde orde als de agrarische revolutie van tienduizend jaar geleden, toen we stopten met rondtrekken en land begonnen te bewerken. Voor de menselijke soort was de overgang naar landbouw misschien een zegen, maar de individuele mens was waarschijnlijk beter af als jager dan als boer.

De agrarische revolutie was ‘de grootste zwendel uit de geschiedenis’, schrijft Harari. We liepen massaal in een ‘luxevalkuil’: niemand had vooraf een blauwdruk van hoe de nieuwe landbouwsamenleving eruit moest zien, het was het cumulatieve effect van ‘een opeenvolging van triviale beslissingen’. Aan het begin van de 21ste eeuw dreigen we in exact dezelfde val te trappen. We schaffen allemaal blitse gadgets aan en downloaden de nieuwste apps, in de hoop dat ze ons leven leuker of makkelijker maken, zonder stil te staan bij de impact op lange termijn. Er is geen doelbewust ontwerp nodig van een kwaadaardige dictator om een surveillance-samenleving op te tuigen; een stel handige ondernemers, slimme marketeers en enthousiaste consumenten is al voldoende. En niemand is echt in staat om op de rem te trappen, omdat ‘niemand precies weer waar die rem zit’.

‘Ik zie het boek van Harari meer als een profetisch visioen’, zegt Peter-Paul Verbeek. ‘Hij werpt interessante vragen op en maakt een publiek debat los, dat is positief, maar het blijft behoorlijk speculatief. Ik lees het als een welkome waarschuwing voor wat er kan gebeuren als we niet ingrijpen.’ Verbeek is hoogleraar techniekfilosofie aan de Technische Universiteit Twente en houdt zich bezig met de ethische vragen rond de verhouding tussen mens en technologie. ‘Techniek hoort bij de menselijke conditie’, zegt Verbeek. ‘Het is datgene wat het menselijk bestaan mogelijk maakt. Technologie vormt de mens, maar tegelijkertijd geven wij vorm aan nieuwe technologie. Het is een nooit ophoudende dialoog, die we alleen kunnen begrijpen wanneer we beide gesprekspartners serieus nemen.’

Verbeek kent wel een beter boek dan Homo Deus om na te denken over onze relatie tot technologie: Het monster van Frankenstein, van Mary Shelley. ‘Ik heb het onlangs weer herlezen en het wordt iedere keer beter.’ Het griezelverhaal leert ons dat we verantwoordelijkheid moeten nemen voor onze creaties, in plaats van ons tegen de techniek te keren. Het monster sloeg op hol, omdat zijn schepper, doctor Frankenstein, hem in de steek had gelaten, terwijl hij liefde en aandacht nodig had. ‘Heel hard “nee” roepen of aan de noodrem trekken heeft geen zin’, zegt Verbeek. ‘Want die noodrem is nergens op aangesloten. De juiste vraag is hoe we nieuwe technologie op een goede manier kunnen inbedden in de samenleving.’

Medium thomas henry huxley def2 300dpi

Natuurlijk kan de uitkomst alsnog zijn dat we een bepaalde techniek in de ijskast parkeren, omdat we de ethische of maatschappelijke gevolgen onwenselijk vinden. Mensen klonen gaat voorlopig een stap te ver en hoewel het technisch mogelijk is vechten we onze oorlogen vooralsnog niet uit met killer robots. Maar het punt is, zegt Verbeek, dat we ons niet meer aan onze verantwoordelijkheid kunnen onttrekken zodra een uitvinding is gedaan. ‘Neem de nip-test, waarmee we kunnen zien of een embryo het syndroom van Down heeft. Ook mensen die ervoor kiezen om die test niet te doen, worden gedwongen tot een bewuste afweging. Nieuwe technologie opent een nieuw register van vragen waar we niet omheen kunnen.’

Idealiter zouden we een doorwrocht maatschappelijk debat houden alvorens te beslissen welke technieken we op welke manieren toepassen, maar dat is makkelijker gezegd dan gedaan, weet Verbeek: ‘Het is een klassiek dilemma: als je weet wat de maatschappelijke impact is, betekent dat vaak dat een technologie al is uitgerold, dus ben je eigenlijk te laat. Andersom ben je te vroeg als je nieuwe technologie de nek omdraait nog voordat je weet hoe die in de praktijk gaat uitpakken. De kunst is dus om in het ontwerpproces al te anticiperen op de mogelijke gevolgen. Dat is moeilijk, maar het is bemoedigend om te zien dat steeds meer mensen zich beginnen te bemoeien met technologie. Eerst waren het alleen de radicale hackers die hardop waarschuwden, maar nu verkoopt zo’n boek van Harari miljoenen exemplaren. Techniek kun je niet overlaten aan ingenieurs en ethici, het is iets waar we met z’n allen over moeten praten.’

‘Is it O.K. to be a Luddite?’ vroeg de schrijver Thomas Pynchon zich ruim dertig jaar geleden af in een essay. Om daar een antwoord op te kunnen geven, leek het hem behulpzaam om de actie van Ned Ludd in herinnering te roepen. Want diens woede was niet gericht op ‘de’ technologie, laat staan dat hij bang was voor nieuwe machines. Het model weefgetouw dat hij vernielde bestond al sinds 1589. Ook de beweging die zich naar hem vernoemde werd niet gedreven door een irrationele angst voor het onbekende, de textielarbeiders stonden helemaal niet afwijzend tegen mechanisering die de lichamelijke werklast kon verlichten. Waar ze gefrustreerd over waren, was dat alleen de fabrieksbonzen de vruchten plukten van de industriële revolutie. Eigenlijk waren de Luddieten, in Pynchons woorden, ‘vakbondslieden avant-la-lettre’.

‘Ze protesteerden niet tegen techniek in het algemeen, maar tegen specifieke technieken, of meer precies: tegen de gevolgen die deze technieken hadden voor de samenleving’, zegt ook historicus Johan Schot. ‘Ze waren bang dat bepaalde waarden en normen niet meer gerespecteerd zouden worden, dat zo veel mogelijk arbeid vervangen zou worden door kapitaal. Innovatie vonden ze prima, maar wel in een vorm die hen ook vooruit hielp. Daar hadden ze een terecht punt. De introductie van nieuwe technologie gaat altijd gepaard met keuzes over wat voor een samenleving je wilt hebben.’

Hun protestmethode was wellicht wat onbeholpen, maar de zorgen waardoor de Luddieten gedreven werden leven voort, zeker nu kunstmatige intelligentie steeds meer menselijke arbeid overbodig dreigt te maken. Tijd dus om de Luddieten te ontdoen van hun sukkelige imago en te kijken welke lessen ze te bieden hebben, vond journalist Clive Thompson. ‘Wat ze verafschuwden was de nieuwe logica van het industriële kapitalisme, waarbij de productiviteitswinsten van de nieuwe technologie enkel naar de eigenaars van de machines gingen en niet met de arbeiders werden gedeeld’, schreef hij in een artikel met de kop When Robots Take All of Our Jobs, Remember the Luddites. Tijdens hun slooptochten ontzagen ze bewust de fabrieken die werknemers wel eerlijke lonen uitbetaalden.

De geschiedenis van de Luddieten laat zien dat technologie helemaal geen natuurkracht is, zoals techno-deterministen als Kevin Kelly doen voorkomen: de protesterende textielarbeiders werden niet verslagen door een abstracte kracht als het technium, maar door het Britse leger dat de opstand met geweld de kop in drukte. Hun strijd was een politieke strijd. Al voordat Karl Marx geboren was vroegen de Luddieten zich hardop af wie er profiteert van de nieuwe productiemiddelen.

Het is een vraag die niets aan relevantie heeft ingeboet. Gaan miljonairs als Elon Musk en Jeff Bezos ons de ruimte in leiden? Laten we het aan Mark Zuckerberg om de wereld te verbinden en aan Google om kunstmatige intelligentie te ontwikkelen? Met het risico dat de maatschappij achteraf puin mag gaan ruimen en een select clubje tech-kapitalisten alleen maar meer macht en geld vergaart? Of geven we zelf vorm aan de technologieën die op hun beurt weer vorm geven aan onszelf en de wereld om ons heen? ‘Technologie is nooit neutraal’, zegt techniekfilosoof Peter-Paul Verbeek. ‘Het is geen middel tot een doel, in het ontwerp zitten altijd al normen en waarden vervat, dus maakt het uit wie de technieken van de toekomst vorm geeft. Nu zitten we eigenlijk gevangen tussen twee modellen: het Amerikaanse, waarin commerciële bedrijven de dienst uitmaken, en het Chinese, waarbij de staat alles controleert. Het is een cruciale uitdaging om een meer democratisch alternatief te bouwen.’