Steeds minusculere robotjes

Het nanotijdperk begint

De mens was bevreesd voor de komst van boeken, stoomtreinen, elektriciteit, atoomenergie en nog veel meer, maar heeft alles overleefd. De volgende stap in de ontwikkeling: de nanotechnologie. Nanorobots moeten de wereld beter maken. Er zijn echter risico’s.

Vorige week meldden wetenschappers van de Brandeis universiteit in de Amerikaanse staat Massachusetts dat een computer in hun lab erin was geslaagd een simpele robot te bouwen. Nadat ze de computer hadden verteld welke onderdelen hij mocht gebruiken, in wat voor omgeving de nieuwe robot zou werken en wat de bedoeling was van robots bewegingen, «bedacht» de computer allerlei constructies en methoden van voortbewegen, verwierp wat niet werkte, ging door met wat goed was en schiep uiteindelijk met enige menselijke assistentie een apparaatje dat langzaam over de tafel kroop.

Sommige media vergezelden het nieuws van de alarmerende vraag of robots op het punt staan de macht te grijpen. Voorlopig niet, luidde het antwoord, maar de sfeer van de berichtgeving suggereerde toch dat de mensheid aan de vooravond staat van wellicht zeer bedreigende technologische veranderingen.

Die sfeer hangt sinds een aantal maanden in de lucht dankzij Bill Joy en zijn geruchtmakende essay «Waarom de toekomst ons niet nodig heeft», waarin hij zich uitermate somber toont over de risico’s van wellicht revolutionaire wetenschappen als nanotechnologie. Was dat stuk geschreven door de voorzitter van een ludieke vereniging, dan had niemand er enige aandacht aan besteed. Maar Joy is medeoprichter en wetenschappelijk opperhoofd van Sun Microsystems, een van de gangmakers in Silicon Valley. Het verhaal was bovendien afgedrukt in het cyberblad Wired, wat neerkwam op een pleidooi voor agnosticisme in De Wachttoren. Joys overpeinzingen haalden meteen de zondagse voorpagina van de Washington Post, doken op bij diverse omroepen, leidden tot discussies in Amerikaanse kranten en bladen, en op internet. Congressen over het essay trokken volle zalen, en het onderwerp werd opgepikt door buitenlandse kranten als de Frankfurter Algemeine. NRC Handelsblad kwam met een uittreksel van het essay en drukte afgelopen zaterdag een reactie af van techdenker Hans Achterhuis. Is dit «the new new thing», zoals men in de Valley pleegt te zeggen? Gaat binnenkort een generatie de straat op tegen alles wat nano is? Zullen nazaten van Piet Grijs en Renate Rubinstein er een nieuwe lakmoesproef voor correct denken van maken? Nanorobots als de nieuwe kruisraket — in het essay van Joy zijn genoeg elementen te vinden om menigeen de stuipen op het lijf te jagen: massavernietigingswapens, extremistische individuen, mondiaal kapitalisme, een griezelig inspectieregime en robots die zichzelf vermenigvuldigen.

Joy begon zich zorgen te maken over de toekomst na het lezen van de werken van Hans Moravec, een van de Amerikaanse voorlopers op het gebied van robotonderzoek. Moravec stelt dat biologische levensvormen zelden de komst van een superieure soort overleven, en hij vermoedt dat de mens hetzelfde lot staat te wachten als de intelligente robot eenmaal daar is. Joys stemming werd er niet beter op tijdens bezoeken aan diverse conferenties waar de laat ste inzichten in toekomstige technologie-en werden uitgewisseld.

Hij ligt vooral wakker van nanotechnologie, potentieel de meest verstrekkende wetenschap omdat zij andere enge disciplines als robotica en genetica verregaand zal beïnvloeden. Sterker, nanotechnologie zal zo'n beetje alles beïnvloeden. In «Unbounding the Future» schreef Eric Drexler, oprichter van de studiegroep Nanotechnologie aan het Massachusetts Instituut voor technologie (MIT) en nu de godfather van de moleculaire nanotechnologie: «Kort samengevat betekent moleculaire nanotechnologie een degelijke en goedkope beheersing van de structuur van materie. Vervuiling, lichamelijke kwalen en materiële armoede komen alle voort uit een beperkte greep op die structuur. Lompe twintigste-eeuwse technologieën als mijnbouw, oliewinning, de staalindustrie en het massaal omhakken van bomen worden vervangen, evenals tandartsboren en giftige chemotherapie.»

Nanotechnologie is nu nog niet veel verder dan de tekentafel maar kan, aldus Drexler en anderen, over twintig tot dertig jaar realiteit zijn. Dat is voor de buitenstaander moeilijk voorstelbaar en daarom trekt Drexler een vergelijking met de ruimtevaart: al negentien jaar voor de maanlanding waren insiders ervan overtuigd dat zo'n landing mogelijk was terwijl de buitenwereld dat nog afdeed als sciencefiction.

Nanotechnologie gaat over apparaatjes ter grootte van een nanometer (een miljardste meter) die in staat zullen zijn moleculen te manipuleren. Wegens hun geringe afmetingen zijn er heel veel nodig om een project te realiseren; de aantallen variëren van een paar miljard voor een simpele klus tot biljarden voor een omvangrijk project. Het zou te veel tijd en menskracht kosten om die stuk voor stuk te bouwen en daarom krijgt een deel van de «monteurs» de mogelijkheid zichzelf te reproduceren.

Als het zo ver is, kunnen nanobots alles maken. Supercomputers die in een broekzak passen. Diamanten die niks kosten. Zonnecellen die bijvoorbeeld worden verwerkt in wegen en die een belangrijk deel van de energievoorziening op zich nemen. Een leger van miljoenen nanobots kan worden losgelaten in menselijke aderen om daar aanslag te verwijderen. Of ze gaan in het lichaam op zoek naar een virus en breken dat molecuul voor molecuul af. Ligt er een olievlek op het strand, dan zorgen nanobots voor een hergroepering van moleculen zodat van vervuiling geen sprake meer is. Regenwouden hoeven niet verder te worden aangetast. Arme landen kunnen de industriële revolutie met al haar nadelige gevolgen overslaan en meteen het schone nanotijdperk betreden. De kwaliteit van de atmosfeer zal weer net zo zijn als voor de industriële revolutie.

Een tweede revolutie moet komen van robotica. Intelligente robots kunnen er over een jaar of dertig zijn, meent Ray Kurzweil, een aan het MIT opgeleide computerwetenschapper en auteur van The Age of Spiritual Machines. De robot moet in staat zijn evenveel calculaties te maken als de hersenen, volgens Kurzweil zo'n twintig miljard per seconde, en dat zou kunnen met hulp van de «nanobuis», die een miljoen keer krachtiger zal zijn dan de menselijke hersenen. Kurzweil: «Het resultaat is machines die de complexiteit en vele vaardigheden van de mens combineren met de snelheid, nauwkeurigheid en het vermogen tot uitwisseling van informatie waar machines zo goed in zijn.»

Kurzweil voorziet de implantatie van miljarden nanobots in de hersenen, door middel van injectie of zelfs door ze simpelweg in te slikken. Die hersenen zullen er een stuk flexibeler door worden. Nu werken ze in min of meer vaste patronen, «beperkt» tot het maken van zo'n honderd biljoen verbindingen. Nanobots zullen draadloos met elkaar communiceren en in staat zijn nieuwe verbindingen te leggen en bestaande te verbreken. Ons geheugen zal vele malen groter zijn en de cognitieve kwaliteiten met sprongen vooruitgaan.

«In de tweede helft van deze eeuw zal er geen duidelijk onderscheid zijn tussen mens en computer», schreef Kurzweil in Time. «Hoewel sommige hedendaagse waarnemers (dat) nog een verontrustende gedachte vinden, zullen de meesten van ons tegen de tijd dat we daar aankomen het heel natuurlijk vinden om onze ervaringen, geest en mogelijkheden op die manier uit te breiden.»

Ondanks al die evangelische voorspellingen maken Joy en sommige anderen zich toch zorgen. Omdat het ook vreselijk uit de hand kan lopen. Bijvoorbeeld met de nanobots die zichzelf kunnen kopiëren. De bedoeling is om ze zodanig te programmeren dat ze ermee ophouden op een moment dat vooraf door de maker wordt bepaald. Maar als dat niet werkt? Of als één van de miljarden nanobots in een project kuren krijgt? Of als een onverlaat er mee knoeit? De wereld zou ineens te maken kunnen krijgen met een oncontroleerbare en overrompelende nanoplaag. Het zou een individu kunnen overkomen bij wie van binnen nanobots rondlopen om iets op te knappen maar die zich wegens een mankement als een turbokanker verspreiden. En wat gebeurt er in een hoofd als nanobots in de hersenen ineens voor ervaringen zorgen die de drager helemaal niet wil hebben? Wie is er de baas? Hoe gek kun je worden? En wat kan een losgeslagen leger nanobots aanrichten als het met moleculen gaat knoeien? Een bedreven kwaadwillende zou een omvangrijk arsenaal kunnen scheppen van allesetende bacterieachtige nanobots die het leven op aarde in een paar dagen veranderen in een stofmassa en waarna de mens inderdaad tot stof zal zijn wedergekeerd.

Joy zal niet optimistischer zijn geworden van de overpeinzingen van Stewart Brand, bedenker van de «whole earth catalog» en medeoprichter van de denktank Global Business Network. Brand opperde dat de nieuwe wetenschappen in een essentieel opzicht verschillen van klassieke voorgangers: ze zijn «zelfversnellend» en daardoor ontregelend. Aan een telefoon heb je niks om een betere telefoon te maken, maar met een computer is het makkelijker een nog betere computer te maken. Topcomputers assisteren bij de verwerkelijking van nanotechnologie, nanotechnologie zal bijdragen aan de ontwikkeling van nog veel betere computers, en van nanotechnologie zelf. Computers helpen de DNA-wetenschap, terwijl DNA-wetenschap weer van belang kan zijn voor de bouw van besturingseenheden in nanobots.

De tweede helft van de vorige eeuw, meent Stewart, werd gekenmerkt door een relatief traag tempo van vernieuwing; de telefoon is in beginsel al decennialang hetzelfde, en dat geldt ook voor televisie, auto’s en vliegtuigen. Maar genetische manipulatie, computertechnologie, robotica en nanotechnologie zullen zelf in hoog tempo veranderen en eveneens in hoog tempo de samenleving veranderen. Ze «sturen hele sectoren van de beschaving, en de vooruitgang van de beschaving kan steeds labieler worden, meer onvoorspelbaar en minder betrouwbaar».

Technologische deterministen, merkt Stewart op, menen dat de samenleving als zodanig geen remmen kent. De nieuwe technologieën zijn sterk gedecentraliseerd. Als het ene land besluit op de rem te trappen, geeft een ander land juist gas. Toch sluit hij niet uit dat allerlei maatschappelijke groepen gaan dwarsliggen bij te veel verandering. Religieuze organisaties zouden in verzet kunnen komen tegen een wetenschap die God tracht te vervangen. Politieke groepen zouden zich kunnen richten op de oncontroleerbaarheid van zulke ingrijpende processen en tekeer gaan tegen bedrijven en instituten die te fanatiek de vernieuwing nastreven omwille van de vernieuwing dan wel winstbejag. De dreiging van een Apocalyps veroorzaakt door bijvoorbeeld een nanoplaag of een genetische mismanipulatie zou de wetenschappelijke elite kunnen inspireren tot terughoudendheid en enige vertraging, zoals dat eerder gebeurde ten aanzien van onderdelen van nucleaire en biotechnologie.

Bill Joy denkt dat de remedie inderdaad uit die hoek moet komen. Er zijn wel gedachten over bescherming tegen bijvoorbeeld een nanoplaag, maar hij vreest dat de vereiste technologie net zozeer een bedreiging is. Nanowetenschapper Drexler meent dat bescherming tegen ongelukken met het kopieerproces vrij eenvoudig is, maar erkent dat zijn voorstellen niet zouden werken als iemand van kwade zin is.

Joy bepleit een limiet voor de ontwikkeling van technologieën die als te gevaarlijk kunnen worden beschouwd, maar hoe die terughoudendheid bereikt moet worden, weet ook hij niet precies. De nieuwe wetenschappen hebben een gigantisch commercieel potentieel en dus een enorme aantrekkingskracht op wetenschappers en investeerders. De ontwikkeling ervan kan relatief onopgemerkt gebeuren, waarbij betrokkenen geografisch verspreid kunnen zijn en hun informatie uitwisselen via internet.

Joy stelt voor dat wetenschappers een ethische gedragscode accepteren, waarbij ze verklaren niet te zullen meewerken aan het scheppen, ontwikkelen of verbeteren van wapens die kunnen leiden tot massale vernietiging van mensenlevens. En dat ze alarm zullen slaan als collega’s dat stiekem toch doen.

Zou er al op internationale schaal worden besloten tot beperkingen, dan zal de naleving moeten worden gecontroleerd. Talrijke instituten en individuen zullen begluurd worden. Joy erkent dat dat tot spanningen kan leiden wegens inbreuk op de privacy en een beperking van het bezit van kennis, maar die nadelen zouden opwegen tegen de voordelen: bescherming van het menselijk ras.

Los van de onverkwikkelijke bijverschijnselen gelooft niemand dat zo'n aanpak zou werken. Integendeel, het zou liefhebbers de illegaliteit insturen en het zicht op hun activiteiten ontnemen. Illegaliteit trekt ook types aan van wie je geen tweedehands robot zou willen kopen. Zulke figuren doen niet aan ethische gedragscodes en wel aan contacten met agressieve organisaties.

Het essay krijgt tegen het eind een wonderlijke wending. Uiteindelijk, meent de auteur, gaat het allemaal om de herziening van een ideaal. Nu zijn we (impliciet) uit op onsterfelijkheid; de nieuwe wetenschappen zouden dat ideaal dichterbij brengen door op den duur ziektes, hongersnood, armoede en veroudering aan banden te leggen. Misschien, meent hij, moeten we het idee van groei en onsterfelijkheid inruilen voor dat van broederschap, een term die hij leent van Jacques Attali: eerst was er het streven naar vrijheid, toen naar gelijkheid en nu is het tijd voor broederschap. Joy komt uit bij de dalai lama en diens ethische verhandeling Wijsheid voor een moderne wereld. Joy parafraseert die ethiek als een streven naar een leven vol liefde en compassie voor de naas te, en naar een samenleving met een sterker besef van universele verantwoordelijkheid en van onze onderlinge afhankelijkheid. Hij voegt eraan toe dat we alternatieve doelen moeten vinden voor onze scheppende krachten en dat het streven naar economische groei lange tijd een goede zaak is geweest maar dat het nu misschien tijd is om te kiezen voor minder groei en minder gevaren.

Voorstanders van de ontwikkeling van die nieuwe wetenschappen kunnen echter met evenveel recht beweren dat ze voorstander zijn juist wegens hun liefde en compassie voor de naaste. Wie is er tegen een tijdperk waarin kanker, cholesterol en Alzheimer geen bedreiging meer zijn, waarin het milieu ingrijpend wordt verbeterd, natuurlijke bronnen niet uitgeput raken en hongersnood en epidemieën effectief bestreden kunnen worden? En is het niet arrogant om voor het nageslacht te willen beslissen waar de streep moet worden getrokken? Misschien heeft Joys vernieuwingsangst te maken met een menselijk ontzag voor God of het universum, met een diepgeworteld besef dat fundamentele beslissingen inzake de schepping niet aan de mens kunnen worden overgelaten, een gevoel vergelijkbaar met de nervositeit van een tiener als hij het ouderlijk huis verlaat en zelf de eindverantwoordelijkheid krijgt voor zijn bestaan.

Trouwens, wat stellen broederschap en naastenliefde helemaal voor als die tot stand moeten komen door het aan banden leggen van riskante ontwikkelingen? Het is zoiets als een leeuw zonder tanden en klauwen bij een kudde schapen achterlaten en dan geloven dat de schapen ongedeerd blijven wegens de altruïs tische levensovertuiging van de leeuw.

In een reactie op het essay van Joy schreef Ray Kurzweil dat we bij het onderzoeken van belangrijke vernieuwingen drie stadia doormaken: eerst is er eerbied, verbazing en nieuwsgierigheid voor een fenomeen dat het vermogen heeft eeuwenoude problemen te overwinnen, dan is er angst voor veronderstelde gevaren en die wordt «hopelijk gevolgd door het besef dat de enige zinvolle en verantwoorde route bestaat uit een voorzichtige aanpak die de belofte waarmaakt en weet om te gaan met het gevaar».

De mens was bevreesd voor de komst van boeken, stoomtreinen, elektriciteit, atoomenergie en nog veel meer, maar heeft alles (tot nu toe) overleefd. God zegene de volgende greep.