Zegeningen en gevaren van de technologie

De nieuwe God

Waarom gaat het bij de verkiezingen niet over de toekomst? Om technologie, om preciezer te zijn. Want die wordt zeer bepalend voor ons leven. Dat besef begint langzaam door te dringen. ‘Het voelt als een verlichtingsproces.’

Large toekomstgericht stemmen fin

In december 2015 publiceerde Klaus Schwab, oprichter van het World Economic Forum, in Foreign Affairs het artikel De Vierde Industriële Revolutie: Wat het betekent en hoe te reageren. In een meeslepend betoog geeft Schwab een helder beeld van de impact van de snelle technologische ontwikkelingen van de afgelopen jaren en van de jaren die gaan komen. Na de uitvinding van de stoomkracht, elektriciteit en digitalisering beleven we nu een integratie van mens en machine, van natuur en techniek. Waar vorige revoluties de mensheid bevrijdden van de beperkingen van dierlijke spierkracht, massaproductie mogelijk maakten en miljarden mensen digitale mogelijkheden brachten, brengt de Vierde Industriële Revolutie een wereld tot leven die eerder enkel bestond in sciencefictionverhalen.

De gecombineerde opkomst van artificiële intelligentie, robotica, Internet of Things, zelfrijdende auto’s, 3D-printers, nanotechnologie, biotechnologie, materials science, energieopslag en quantum computing leidt tot veranderingen met een dusdanige snelheid dat zelfs de grootste genieën op aarde geen idee hebben hoe de wereld er over twintig jaar uit zal zien. Pratende smartphones, drones en kunstmatige hartkleppen – het is nog maar een voorzichtig begin van de meest disruptieve revolutie uit de geschiedenis van de mensheid. ‘Het verandert niet wat we doen, het verandert ons’, aldus Schwab. Of zoals Andrew McAfee, auteur van The Second Machine Age, het graag zegt: ‘You ain’t seen nothing yet.’

De duizenden video’s die beschikbaar zijn op internet bieden enig inzicht in het tijdperk dat wacht. Zoals die over een frisse jongeman die in zijn zelfrijdende auto over een snelweg hoog boven de grond onder een schone Chinese lucht naar zijn werk gaat. Eenmaal aangekomen bedient hij een touchscreen op de zijkant van de auto, waarna een van de wieldoppen uitvouwt tot een hooverwheel. Terwijl hij op zijn hooverwheel naar binnen rijdt, parkeert de auto zelf in en bestelt zijn vrouw vanuit een andere zelfrijdende auto de boodschappen. Een paar aanrakingen op een holografisch touchscreen, waarmee ze ook meteen kan betalen. Een vingerafdruk is genoeg. Vervolgens geeft ze via hetzelfde scherm opdracht de boodschappen te laten bezorgen via luchttransport. Uit het dak van de auto komt een compacte, aerodynamische drone te voorschijn, die wegvliegt richting supermarkt om de boodschappen later voor de deur af te leveren. Als de boodschappen zijn gedaan vouwt de vrouw het touchscreen met een handbeweging in en geeft het aan haar zoontje op de achterbank, dat verder kan met zijn virtual-reality-spelletje. Het zijn de eerste minuten van een reclamevideo van Haval, een automerk van de Chinese fabrikant Great Wall Motors.

Of de documentaire The World in 50 Years, met daarin een jongeman die de ochtend na een avond uitgaan zijn wc in de maling neemt met een bewaard flesje met alcoholvrije urine. De sensoren in de wc meten namelijk zijn waarden en staan in direct contact met de dames van de verzekeringsmaatschappij. Op eveneens holografische beeldschermen houden zij van alle klanten ieder moment de gezondheidssituatie in de gaten. Zodra er reden is voor zorg wordt de klant direct vermanend toegesproken. ‘Het goede nieuws is dat we geweldige medische doorbraken gaan meemaken’, luidt het commentaar van futurist en hoogleraar theoretische natuurkunde Michio Kaku van City College of New York. ‘Therapieën die vandaag als onmogelijk worden beschouwd kunnen gemeengoed worden in de toekomst. Maar er is ook slecht nieuws. De keerzijde is dat als je vindt dat de gezondheidszorg nu al te veel macht heeft over je leven je niet wilt weten wat ons de komende vijftig jaar te wachten staat.’

Er is nooit een tijd geweest van grotere belofte, noch van groter potentieel gevaar, schreef Klaus Schwab in Foreign Affairs. De technologische mogelijkheden die zich zullen aandienen maken het enerzijds mogelijk om een goed bestaan te creëren voor de volledige wereldbevolking en de grote dreigingen voor de planeet en de mensheid het hoofd te bieden. Anderzijds ontstaan er gevaren die ons dichter dan ooit bij de afgrond brengen. Onder denkers heerst een verwoede ideeënstrijd over de vraag wat de samensmelting van mens en machine, van biologie en technologie, ons zou moeten brengen, welke grenzen wel en niet moeten worden opgezocht, wat de rol is van de mens op aarde. Daarin is het bijna religieuze geloof in technologie dat heerst in Silicon Valley een nadrukkelijk aanwezige stroming. Andrew McAfee opent The Second Machine Age met een veelzeggend citaat van de Amerikaanse natuurkundige Freemon Dyson: ‘Technologie is een gift van God. Na de gift van het leven is het wellicht de grootste van God zijn giften. Het is de moeder van de beschaving, de kunst en de wetenschap.’ Het doorbreken van de beperkingen van ons brein is volgens de Amerikaanse co-directeur van het MIT Initiative on the Digital Economy het beste nieuws ooit. ‘We willen allemaal een wereld met meer welvaart en minder rotklussen’, zei hij in een uitzending van Tegenlicht over de toekomst van de arbeidsmarkt. ‘Die wereld creëren we nu.’

Hans Schnitzler, filosoof en auteur van het boek Het digitale proletariaat, vindt het een beangstigende manier van denken: ‘De priester uit het verleden is vervangen door ingenieurs die het eeuwige leven beloven.’ De gladde, gestroomlijnde wereld die te zien is in de futuristische filmpjes over de toekomst van mobiliteit, gezondheid en steden sluit volledig aan bij het toekomstbeeld dat in Silicon Valley wordt nagestreefd. Een gladde, soepele wereld waarin alles loopt zoals we willen. ‘Een heel steriele werkelijkheid’, zegt Schnitzler. ‘Kleurloos en zonder verrassing.’

Als de combinatie van mens en technologie erin slaagt om menselijke cellen te vernieuwen of als het mogelijk wordt een brein te offloaden op een harde schijf en te laten voortbestaan als artificieel intelligent wezen ontstaat de mogelijkheid om hierin eeuwig voort te leven. ‘Maar is dat wat we willen?’ vraagt Schnitzler zich af. ‘We gaan naar een werkelijkheid waarin intelligente machines veel slimmer zijn dan wij.’ Als we willen kunnen we ze voor ons laten denken, kiezen, onze smaak bepalen. Sneller en efficiënter dan de mens zelf ooit zal kunnen. Je hoeft niet meer na te denken over je kleren, je eten, de muziek die je aanzet, de film die je wil kijken, de partij waarop je stemt, de vriendschappen die je sluit of de partner die je kiest. De algoritmes van bedrijven als Google en Facebook nemen je de taken met veel plezier uit handen en maken rationeel gezien de beste keuze die er is. Zoals de zelfrijdende auto zonder brokken en via de snelste route zonder files de gewenste bestemming bereikt, de zelfsturende stofzuiger geheel op eigen initiatief zelfs de meest onbereikbare hoekjes schoon krijgt en de virtual-reality-bril ons op ieder gewenst moment op een zonovergoten palmenstrand in de Stille Zuidzee brengt.

‘Intellectueel snobisme. Wel Goethe en ­Heidegger lezen, maar niet snappen wat een algoritme is’

‘Maar intelligentie is iets anders dan bewustzijn’, zegt Schnitzler. Het leven krijgt pas kleur als zich verrassingen voordoen, beproevingen die leiden tot emoties en nieuwe inzichten, ontmoetingen die verrijken. Zonder dat dreigt het menselijk bewustzijn te worden teruggebracht tot een eendimensionaal pad van A naar B. Niet veel anders dan een artificieel intelligente robot. ‘We staan voor een fundamentele keuze’, zegt Schnitzler. ‘Willen we een intelligente wereld of willen we een bewuste wereld?’

Yuri van Geest, ambassadeur van Singularity University en een veelgevraagd spreker, is net terug van een tripje naar Silicon Valley. Al meer dan tien jaar is hij gefascineerd door de onbegrensde mogelijkheden die de technologische revolutie met zich meebrengt. Van klimaatverandering tot vluchtelingencrisis, van voedselschaarste tot ongeneeslijke ziektes – er is niets wat het groeiende ingenieursgilde in zijn ogen niet kan verhelpen. ‘De technologische middelen om grote problemen op te lossen zijn er al lang, maar ze worden nog niet gebruikt.’ Puur als gevolg van bestuurlijk falen en onwil.

Terwijl de internationale elite, en zeker de Nederlandse, nog altijd voor het overgrote deel bestaat uit gamma’s en alfa’s vinden de werkelijke veranderingen plaats in het technologische domein. ‘Mensen in de politiek, de media en het bedrijfsleven snappen niet wat er gebeurt en weten dus ook niet hoe ze ermee om moeten gaan.’ Ze zitten vast in een lineaire, reactionaire manier van denken, aldus Van Geest: ‘Oude instituties zijn vastgeroest en functioneren niet meer. Het is vooral sussen. Doe maar rustig, dan komt het wel goed. We zijn een polderland en houden niet van radicaal denken.’ Volgens hem vraagt deze tijd juist om grote veranderingen in doen en denken. Een kleinere, transparante overheid, meer contact met de burger, vrij spel voor technologische mogelijkheden bij het bestrijden van de vluchtelingencrisis, klimaatverandering en armoede. Het gebruik van algoritmes en blockchains zou zorgen voor veel meer efficiëntie en lagere kosten. ‘Het onderwijs en de zorg kun je volledig digitaliseren, ze worden dan vijftig procent goedkoper en weer toegankelijk en betaalbaar.’ Door een basisinkomen in te voeren heeft de groep die niet meekomt toch een veilige plek in de samenleving, denkt Van Geest.

‘Maar er wordt helemaal niet gesproken over technologische vooruitgang. Kijk alleen al naar de verkiezingsprogramma’s. Helemaal niets!’ Terwijl de urgentie groot is: ‘We maken een logische transitiefase door. Die is hobbelig en pijnlijk. Een deel van de bevolking kan de ontwikkelingen niet bijhouden, waardoor er een tweedeling ontstaat. IS, Erdogan, Poetin, Trump, Brexit, Wilders: ze maken op eenzelfde manier misbruik van de nostalgie van een kwetsbare groep. Het verleden wordt geromantiseerd, er wordt gesuggereerd dat het mogelijk is de tijd terug te draaien.’ Geef de bewuste kiezers eens ongelijk, zegt hij. Het is hun anker. ‘Maar het is geen oplossing, want de digitalisering houdt niet op.’ Juist de vertraagde reactie van de overheid, bedrijven en andere organisaties vertraagt het transitieproces en maakt de pijn groter.

Onder de donkere houten balken van het zeventiende-eeuwse Pintohuis in het centrum van Amsterdam zit Marleen Stikker, directeur van de Waag Society. Voor haar een MacBook Air en een iPhone. Als internetpionier liep ze voorop bij het verkennen van de digitale wereld en de integratie van het digitale en het analoge domein. Ze viel voor het vrije en disruptieve karakter van het internet, een plek waar iedereen terecht kon en zijn eigen wereld kon creëren. Los van de gebaande paden en de invloed en manipulatie van dominante krachten en stromingen. Inmiddels is er geen plek op de wereld waar de invloed en manipulatie van bedrijven en overheden groter is dan in het digitale domein. ‘Het is een erg benauwend systeem geworden’, zegt Stikker. Met trollen, alternative facts, echokamers, de macht van Facebook en Google, die graag voor ons denken en onze smaken, voorkeuren en gedachten sturen.

Ze is het met Van Geest eens dat er in de politiek en de bredere Nederlandse elite veel te weinig wordt nagedacht over de rol van technologie in het hedendaagse bestaan. ‘Intellectueel snobisme’, noemt ze het. ‘Wel Goethe en Heidegger lezen, maar niet snappen wat een algoritme is.’ Die houding ziet ze geleidelijk veranderen, zeker na de bizarre verkiezingscampagne in de Verenigde Staten en de opmerkelijke winst van Donald Trump. ‘De rol van algoritmes begint inmiddels iets filosofisch te worden, dan wordt het meteen interessant’, zegt ze lachend.

‘Technologie heeft nieuwe producten mogelijk gemaakt, die de efficiëntie en het vermaak in het dagelijkse leven hebben vergroot’, schreef Schwab in De Vierde Industriële Revolutie. ‘Een taxi bestellen, een vlucht boeken, producten kopen, betalen, muziek luisteren, films kijken, gamen, het kan allemaal op afstand.’ Nu pas komen we aan in een fase van meer fundamentele veranderingen in bestaande systemen, structuren en machtsverhoudingen. Een volledig veranderende arbeidsmarkt, waarin een groot deel van de banen is gerobotiseerd bijvoorbeeld. Volgens een onderzoek van Deloitte uit 2014 zou het in Nederland gaan om twee tot drie miljoen banen, vooral in het middensegment. Van administratief medewerkers tot beurshandelaren, van postbodes tot taxichauffeurs en van magazijnmedewerkers tot belastingadviseurs.

‘Het invoeren van een ministerie van Digitale Zaken zou een goede en logische stap zijn’

De huidige democratische crisis is volgens hem voor een groot deel te wijten aan de toenemende problemen voor de middenklasse, decennialang het cement van de westerse samenleving. Daar komt bij dat technologie de relatie tussen burger en overheid ernstig heeft aangetast. Terwijl burgers zich steeds meer bemoeien met het beleid krijgen overheden steeds meer middelen om de bevolking te beheersen en macht uit te oefenen. Waar vijftien jaar geleden de stellige overtuiging bestond dat internet zou leiden tot een nieuw hoogtepunt in de democratische geschiedenis zijn het juist de autoritaire leiders die de harten van het volk stelen.

‘Kan de democratie de Vierde Industriële Revolutie overleven? En zou dat moeten?’ luidde de kop boven een artikel in The Guardian van de Australische links-activistische schrijver Jeff Sparrow. Hierin vraagt hij zich af wat er is overgebleven van de ideeën uit het beroemde artikel Direct Democracy and the Internet van de Amerikaanse ondernemer en topadviseur Dick Morris. In 2001 schreef hij: ‘Het internet biedt een dusdanig uitgesproken mogelijkheid voor rechtstreekse democratie dat het niet alleen ons politieke systeem kan transformeren, maar onze gehele manier van besturen.’ In plaats daarvan verschenen in 2016 meerdere publicaties van prominente denkers waarin werd opgeroepen om stemrecht en het uitoefenen van invloed op het beleid juist minder toegankelijk te maken.

Het leidde tot groot ongenoegen bij Henk Ovink, voormalig topadviseur van president Obama op het gebied van watermanagement. Na de verwoestingen van orkaan Sandy in de staat New York in 2012 werd de Nederlandse topambtenaar de oceaan overgevlogen om daar leiding te geven aan de wederopbouw en het creëren van een waterveilig gebied. Ovink schreef de ontwerpwedstrijd Rebuild by Design uit, waarin ingenieurs, architecten, wetenschappers, ontwerpers, ambtenaren, burgers en politici samenwerkten aan hetzelfde doel. Inclusief en direct. Precies zoals hij vindt dat een moderne democratie moet en kan functioneren.

Het project was succesvol, werd wereldwijd geprezen en vond navolging op verschillende plekken in de VS en ver daarbuiten. Maar het is nog niet genoeg. ‘Het hele systeem staat onder druk en het pad vooruit is zo ingewikkeld. De tijd vraagt om een transparante overheid’, zegt Ovink. ‘De uitdagingen zijn te groot en complex om het alleen te doen. We hebben elkaar nodig.’ Zoals we ook de innovaties die zich voordoen nodig hebben. Schone energie, slimme oplossingen voor waterveiligheid en waterzuivering, voor communicatie tussen burger en overheid, de technologie is al lang beschikbaar. Ovink: ‘Maar om innovaties op de juiste manier te gebruiken, is een integrale visie op de lange termijn nodig. Die ontbreekt nu.’

Er zijn hier en daar voorbeelden van nationale overheden die de nieuwe digitale mogelijkheden aangrijpen voor het vernieuwen van het bestaande systeem. In IJsland schreven burgers die door het lot werden gekozen samen een nieuwe grondwet, in Letland heeft de overheid blockchains en artificiële intelligentie ingezet om een efficiëntere overheid te creëren, in Finland is het onderwijs volledig gedigitaliseerd en in Bogotá worden instituties volledig vernieuwd met een integratie van de online en offline wereld. Maar het houdt niet over. ‘De technologische ontwikkelingen gaan zo snel dat de politiek, en ook bestaande concepten en morele begrippen er altijd achteraan lopen’, zegt Hans Schnitzler. ‘Zie het als een boom die voortdurend ontspruit, met razendsnelle wildgroei, maar waarvan de wortels ontbreken.’ Of zoals Marleen Stikker het zegt: we hebben nog altijd geen politiek of juridisch antwoord op de macht en invloed van bedrijven als Google en Facebook. En zolang dat ontbreekt, is het verstandig om op de rem te trappen. ‘Technologie zou door overheden moeten worden ingezet voor meer weerbarstige, lange-termijnvraagstukken’, zegt Schnitzler. ‘Het invoeren van een ministerie van Digitale Zaken zou een goede en logische stap zijn.’

Dat Trump daar een heel ander idee over heeft, blijkt uit de prominente rol die Peter Thiel, durfkapitalist, oprichter van Paypal en lid van de raad van bestuur van Facebook, heeft in de inner circle van de president. Thiel, een van de invloedrijkste mannen in Silicon Valley, was vanaf het begin betrokken bij de campagne van Trump en speelde een belangrijke rol in het transitieteam. De foto waarop de twee kort na de verkiezingen samen te zien waren, was enigszins beangstigend, zegt Stikker. ‘Thiel is een extreme anarchist, die het liefst de overheid volledig uit de weg zou ruimen om de technologische ontwikkeling vrij spel te geven. Hij gelooft meer in technologie dan in mensen.’ Zeker de combinatie met Steve Bannon, zelfbenoemd leninist en minstens even radicaal tegenstander van de overheid, leidt tot de nodige zorgen.

In de eerste periode van zijn presidentschap maakte Trump een einde aan de zogeheten netneutraliteit, waarmee bepaalde providers voorrang krijgen boven andere. ‘Vergelijk het met een snelweg waar alleen een bepaald soort auto’s op mag rijden’, legt Stikker uit. Bovendien vroeg hij duizenden digitale patiëntendossiers op om te gebruiken bij opsporingsonderzoek en strafvervolging.

Het wordt wel een heel sinister verhaal zo, merkt Stikker op: ‘Terwijl ik wel optimistisch ben. Dat vind ik een plicht.’ Bovendien gelooft ze nog altijd in de positieve mogelijkheden van technologie. Maar dan moet eerst de illusie worden doorbroken dat technologie een neutraal middel is, dat algoritmes vanzelfsprekende gegevens zijn zonder karakter of richting. Technologie wordt nu te veel gebruikt als businessmodel of machtsmiddel om mensen te veranderen in gulzige consumenten of slaafse burgers. Privacy dreigt te veranderen in een prijzig luxe product. Maar het besef dat het anders kan, begint langzaam te komen.

‘Het voelt als een verlichtingsproces’, zegt Stikker. In de achttiende eeuw werd geleidelijk afstand genomen van het idee van de almachtige God, drong het besef door dat mensen zelf verantwoordelijkheid moesten nemen. ‘Technologie is de nieuwe God. Het besef dat we zelf verantwoordelijkheid moeten nemen, begint eindelijk door te dringen.’