O, heerlijke nieuwe wereld!

Medium commentaar 20 2018 brave new world 1

Vorige week presenteerde Google zijn nieuwste technologische gemaksmiddel: Duplex, een digitale stem die net als een echt mens klinkt, zelfs aarzelend ‘eh…’ kan zeggen in een conversatie, of een bevestigend ‘hmm’ kan laten horen. Duplex kan afspraken voor je maken met de kapper of een reservering bij een restaurant, en dat kan ze zo levensecht dat mensen aan de andere kant van de lijn niet merken dat ze gebeld worden door een robot. Dat is behoorlijk beangstigend, want voor je het weet ligt misleiding op de loer. Google kondigde dan ook aan dat Duplex zich in de loop van het gesprek als robot kenbaar zal maken.

Deze week was er sprake van een wereldprimeur in Nederland: mensen met een kinderwens die mogelijk drager zijn van een erfelijke ziekte kunnen bij zes huisartsen aankloppen voor een dna-dragerstest. Kosten: 950 euro. In de rest van de wereld wordt de test alleen nog via ziekenhuizen aangeboden. Als de genafwijking vóór de zwangerschap wordt ontdekt kunnen alleen de ‘gezonde’ embryo’s worden teruggeplaatst, of kan worden gekozen voor een eicel- of spermadonor. Ook dit is, zeker voor christelijke politici, beangstigend. De ChristenUnie heeft bij monde van Kamerlid Carla Dik-Faber al haar zorgen geuit. Zal dit soort screening niet leiden tot medicalisering van de zwangerschap, of erger: tot eugenetica? Wat als toekomstige ouders zich zomaar laten testen, ook als er geen erfelijke ziekte in de familie zit? Komt de designbaby dan niet dichtbij?

Dit zijn zomaar twee recente berichten die nog weer eens aangeven dat we midden in een technologische en biochemische revolutie zitten. Of het nu gaat om het gebruik van big data en algoritmen bij, zeg, het bestrijden van misdaad, het selecteren van kandidaten voor een nieuwe baan of het bepalen van de hoogte van je autoverzekering; om de inzet van artificiële intelligentie in ons huis (de keukenrobot die op basis van ingrediënten in de ijskast een recept aanraadt) of in de zorg; om het tegengaan van klimaatverandering met bio-engineering – het is duidelijk dat door nieuwe technologie elk facet van ons leven drastisch zal veranderen. En in alle gevallen is sprake van dezelfde wedloop: de technologische ontwikkelingen lopen voor op de ethische reflectie erop. Wet- en regelgeving hobbelen ook vaak amechtig achter de nieuwe vindingen aan.

Nee, super-intelligente machines zullen de mens niet zomaar tot slaaf maken

Juist die wedloop tussen wat mogelijk en wat wenselijk is, zorgt voor dat beangstigende gevoel. De technologische revolutie wordt maar al te vaak als een onvermijdelijkheid voorgesteld, als iets waar mensen toch geen vat op hebben. En ondertussen dreigen wij te worden overvleugeld door artificiële intelligentie, te worden leeggezogen door de tech-giganten in Silicon Valley of te worden geknecht door algoritmen. De voortschrijdende techniek houdt kortom niet alleen een grote belofte in, omdat ze grote en kleine problemen zal oplossen – van klimaatverandering tot ons gebrek aan lichaamsbeweging (‘je hebt vandaag nog maar drieduizend stappen gezet’) – ze zorgt ook voor angst, omdat ze het wel eens van ons zou kunnen overnemen, waardoor de autonomie van ons mens-zijn verandert.

In dit speciale nummer gaan wij in op de nodige baanbrekende technologische ontwikkelingen: van het slimme huis van de toekomst tot gepersonaliseerde medicijnen, van de zelfrijdende auto tot de voortgang in de voortplantingstechnologie. Maar vooral willen we onderzoeken hoe technologie invloed heeft op ons mens-zijn. Daarbij ontmaskeren we spookverhalen: nee, superintelligente machines zullen de mens niet zomaar tot slaaf maken (Luciano Floridi over onze angst voor AI); nee, er zullen niet zo snel posthumane wezens ontstaan (Jos de Mul over het posthumane tijdperk); nee, de designbaby is echt nog ver weg; en nee, de barbaren nemen het niet van ons over, van de barbaren kunnen we juist veel leren (Alessandro Baricco over de nieuwe mens).

En waar we de greep op de technologie dreigen te verliezen moeten we onszelf voor ogen houden dat techniek niet uit de lucht komt vallen, maar gemaakt wordt door mensen. Daarom moeten we het morele gesprek over technologie blijven voeren. Om dat te stimuleren pleit wiskundige Cathy O’Neil in dit nummer voor een soort eed van Hippocrates voor de bouwers van algoritmen. ‘Uiteindelijk’, zegt ze, ‘gaat het niet om de technologie en de algoritmen, maar om de mensen die erachter zitten en de mensen die ze gebruiken.’ Als we inzien dat technologie inderdaad dát is: mensenwerk, dan moet dat ook de motivatie geven haar te sturen.


PS. Dit is leesstof voor twee weken. Het volgende nummer verschijnt 31 mei.