SUM (mens + machine) = de toekomst

Hand in hand met het moederbord

We gaan ervan uit dat computers onvermijdelijk menselijke arbeidskrachten zullen vervangen. Maar computers vervangen mensen niet, ze vullen hen aan. Waarom zien zo veel mensen de kracht van die aanvulling over het hoofd? Een voorpublicatie.

Medium thiel2

Terwijl de oude industrieën stagneren, is de informatietechnologie zo snel opgerukt dat ze inmiddels synoniem is met ‘technologie’. Op dit moment hebben ruim 1,5 miljard mensen met apparaatjes op zakformaat rechtstreeks toegang tot alle kennis op aarde. Elke moderne smartphone heeft tienduizenden malen meer verwerkingsvermogen dan de computers die astronauten naar de maan hebben geholpen. En als de wet van Moore houdt, zijn de computers van morgen zelfs nog krachtiger.

Computers zijn nu al krachtig genoeg om mensen te overtreffen in activiteiten die vroeger bij uitstek als menselijk werden beschouwd. In 1997 versloeg ibm-computer Deep Blue de wereldkampioen schaken Gary Kasparov. Ken Jennings, de allerbeste deelnemer aan het quizprogramma Jeopardy!, verloor in 2011 van ibm-computer Watson. En de zelfsturende auto’s van Google rijden nu al op de wegen van Californië. Autocoureur Dale Earnhardt jr. hoeft zich niet bedreigd te voelen, maar The Guardian maakt zich wel ongerust (namens de miljoenen chauffeurs en taxichauffeurs op de wereld) dat zelfsturende auto’s ‘wel eens de volgende werkloosheidsgolf zouden kunnen veroorzaken’.

Iedereen verwacht dat computers in de toekomst meer zullen doen – zo veel meer dat sommige mensen zich afvragen of mensen over dertig jaar nog wel íets hoeven te doen. ‘Software eet de wereld op’, verkondigde durfkapitalist Marc Andreessen op een toon alsof niets dat meer tegen kan houden. Durfkapitalist Andy Kessler klinkt bijna blij wanneer hij uitlegt dat ‘mensen ontslaan’ de beste manier is om productiviteit te creëren. Forbes gaf blijk van een meer pessimistische visie toen het zijn lezers vroeg: zal een machine u vervangen?

Soms lijkt het wel of futuristen hopen dat het antwoord op die vraag ‘ja’ luidt. Anti-industrialisten zijn zo bang om overbodig te worden dat ze het liefst zagen dat de ontwikkeling van nieuwe technologie helemaal werd stilgezet. Geen van beide partijen twijfelt aan de premisse dat betere computers onvermijdelijk menselijke arbeiders zullen vervangen. Maar die premisse klopt niet: computers vullen mensen aan, maar vervangen hen niet. De meest waardevolle bedrijven van de komende decennia zullen worden gebouwd door ondernemers die de mensen meer macht proberen te geven in plaats van hen overbodig te maken.

Vijftien jaar geleden vreesden Amerikaanse arbeiders dat ze door goedkopere Mexicaanse arbeidskrachten zouden worden verdrongen. Dat was logisch, want mensen kunnen inderdaad andere mensen vervangen. Nu denken de mensen dat ze het ‘enorme zuigende geluid’ van Ross Perot opnieuw kunnen horen, maar deze keer geloven ze dat het opklinkt uit server-boerderijen in Texas, en niet uit de lagelonenfabrieken in Tijuana. Amerikanen zijn bang voor de technologie van de nabije toekomst omdat ze die opvatten als een herhaling van de globalisering uit het recente verleden. Maar de situatie is volslagen anders: mensen wedijveren met elkaar om werkgelegenheid en grondstoffen; computers concurreren om geen van beide.

Toen Perot waarschuwde voor concurrentie uit het buitenland predikte zowel George Bush sr. als Bill Clinton het evangelie van de vrijhandel: aangezien ieder mens goed is in bepaalde dingen maximaliseert de economie in theorie de rijkdom wanneer mensen zich overeenkomstig hun sterke kanten specialiseren en vervolgens met elkaar handel drijven. In de praktijk is niet ondubbelzinnig duidelijk hoe goed de vrijhandel heeft uitgepakt, in elk geval voor veel arbeiders. De handelswinsten zijn het hoogst wanneer er een groot verschil in relatieve welvaart bestaat, maar wereldwijd is het aanbod van arbeiders die voor heel weinig geld zich herhalend werk willen verrichten extreem groot.

Mensen concurreren niet alleen met elkaar om arbeid te mogen leveren; ze putten ook uit dezelfde hulpbronnen. Terwijl Amerikaanse consumenten profiteerden van goedkoop speelgoed en textiel uit China moesten ze hogere prijzen betalen voor benzine, omdat die sinds kort populair is bij miljoenen Chinese autorijders. Of mensen nu haaienvinnen eten in Sjanghai of vistaco’s in San Diego, ze hebben allemaal voedsel en huisvesting nodig. En hun behoeften houden niet op als ze het bestaansminimum hebben bereikt – als de globalisering voortschrijdt, zullen mensen steeds hogere eisen gaan stellen. Nu miljoenen Chinese boeren eindelijk zeker zijn van een basale hoeveelheid calorieën willen ze meer varkensvlees eten in plaats van alleen granen. Aan de top is de samenvallende vraag zelfs nog duidelijker: alle oligarchen, van Petersburg tot Pyongyang, houden van dezelfde champagne.

Denk nu eens na over het vooruitzicht van concurrentie door computers in plaats van menselijke arbeiders. Aan de aanbodzijde verschillen computers veel sterker van mensen dan welke twee mensen dan ook van elkaar verschillen: mensen en machines blinken uit in wezenlijk verschillende dingen. Menselijk gedrag wordt gekenmerkt door intentionaliteit – wij maken plannen en nemen beslissingen in gecompliceerde situaties. We zijn minder goed in het bevatten van enorme hoeveelheden data. Computers zijn precies het omgekeerde: ze munten uit in efficiënte dataverwerking, maar hebben moeite met eenvoudige inschattingen die ieder mens doodeenvoudig vindt.

Als je de schaal van dit verschil wilt begrijpen, denk dan aan een ander computers-in-plaats-van-mensenproject van Google. In 2012 haalde een van hun supercomputers de voorpagina’s toen hij na het scannen van tien miljoen thumbnails van YouTube-video’s een kat kon herkennen met een nauwkeurigheid van 75 procent. Dat lijkt indrukwekkend – totdat je bedenkt dat een gemiddeld kind van vier dat foutloos kan. Dat een goedkope laptop de slimste wiskundigen bij bepaalde taken overklast, terwijl zelfs een supercomputer met 16{w}000 cpu bij andere niet beter presteert dan een kind, maakt wel duidelijk dat mensen en computers niet simpelweg sterker of zwakker zijn dan de ander – ze behoren tot verschillende categorieën.

Mensen en computers kunnen in samenwerking dramatisch betere resultaten behalen dan een van beide zelfstandig

Door de enorme verschillen tussen mens en machine kunnen er veel grotere verbeteringen worden behaald in het werken met computers dan in de handel met andere mensen. We ‘handelen’ net zo min met computers als met vee of lampen, en dat is het nou net: computers zijn werktuigen, geen rivalen.

Aan de vraagzijde is dat nóg duidelijker. Anders dan mensen in industrielanden willen computers geen luxueuzer voedsel of een villa in Cap Ferrat; ze hebben alleen behoefte aan een beetje elektriciteit en zijn niet eens slim genoeg om dat te willen. Wanneer we nieuwe computertechnologie ontwerpen om problemen op te lossen, profiteren we allemaal van de verhoogde efficiency van een hypergespecialiseerde handelspartner zonder dat we met hem om hulpbronnen hoeven te concurreren. Goed begrepen is de technologie de enige wijze waarop we de concurrentie in een globaliserende wereld kunnen ontlopen. Terwijl computers steeds krachtiger worden, zullen ze mensen niet vervangen, maar aanvullen.

Complementariteit tussen computers en mensen speelt niet alleen op macroniveau. Het is ook de weg naar het opbouwen van een topbedrijf. Dat heb ik bij PayPal ervaren. Halverwege de jaren 2000 hadden we de internetcrisis overleefd en groeiden we snel, maar we hadden een groot probleem: we verloren elke maand ruim tien miljoen dollar aan creditcardfraude. Aangezien we honderden of zelfs duizenden transacties per minuut verwerkten, konden we die onmogelijk allemaal beoordelen – geen enkel menselijk kwaliteitsbewakingteam werkt zo snel.

Daarom deden we wat elke groep IT’ers zou doen: we probeerden de oplossing te automatiseren. Eerst stelde Max een team samen van uitmuntende wiskundigen dat de frauduleuze overboekingen nauwgezet moest bestuderen. Op basis van de inzichten uit dat onderzoek schreven we software die neptransacties in real time automatisch herkende en annuleerde. Maar al snel bleek deze benadering op zichzelf niet te werken: de dieven zouden het al na een paar uur in de gaten krijgen en van tactiek wisselen. We hadden te maken met een adaptieve vijand, en onze software kon zich niet in reactie daarop aanpassen.

De adaptieve ontwijkingen van de fraudeurs bedotten onze geautomatiseerde detectiealgoritmen, maar onze menselijke analisten tuinden er minder snel in. Daarom herschreven Max en zijn ingenieurs de software voor een hybride benadering: de computer signaleerde de meest verdachte transacties op een goed ontworpen gebruikersinterface, en menselijke operators velden het eindoordeel over hun echtheid. Dankzij dit hybride systeem – we noemden het ‘Igor’, naar de Russische oplichter die opschepte dat wij hem nooit zouden kunnen tegenhouden – behaalden we in het eerste kwartaal van 2002 onze eerste kwartaalwinst (tegenover 29,3 miljoen dollar kwartaalverlies een jaar daarvoor). De fbi vroeg ons of zij Igor mochten gebruiken om financiële malversaties op te sporen. En Max kon groots maar naar waarheid opscheppen dat hij ‘de Sherlock Holmes van de internetonderwereld’ was.

Deze symbiose van mens en machine stelde PayPal in staat om in zaken te blijven, wat vervolgens honderdduizenden bedrijfjes in staat stelde om de betalingen aan te nemen die ze nodig hadden om op internet te kunnen floreren. Dat zou allemaal niet mogelijk geweest zijn zonder de mens-machine-oplossing – ook al zouden de meeste mensen die nooit zien of er zelfs maar over horen.

Het bleef me bezighouden nadat we PayPal in 2002 verkocht hadden: als mensen en computers in samenwerking dramatisch betere resultaten konden behalen dan een van beide zelfstandig, welke waardevolle bedrijven kon je dan op basis van dat uitgangspunt opzetten? Het jaar erop vertelde ik wetenschapper Stephen Cohen en Alex Karp, een studiegenoot van me op Stanford, over een nieuw idee voor een start-up: we zouden de hybride mens-en-computerbenadering van PayPals beveiligingssysteem gebruiken om terroristische netwerken en financiële fraude op te sporen. We wisten al dat de fbi interesse had, en in 2004 richtten we Palantir op, een softwarebedrijf dat mensen helpt om overkoepelende inzichten te extraheren uit verschillende informatiebronnen. Het bedrijf is op weg om in 2014 een miljard dollar omzet te boeken, terwijl de software van Palantir in Forbes een killer app werd genoemd vanwege de hulp die ze – naar verluidt – de Amerikaanse overheid heeft geboden bij het opsporen van Osama bin Laden.

We mogen geen details over die operatie vrijgeven, maar we kunnen wel zeggen dat de menselijke intelligentie en computers ons afzonderlijk geen veiligheid kunnen bieden. Amerika’s twee grootste spionageorganisaties hanteren een tegenovergestelde aanpak: de cia wordt geleid door spionnen die voorrang geven aan mensen. De National Security Agency wordt geleid door generaals die prioriteit geven aan computers. cia-analisten moeten zich door zoveel ruis heen werken dat ze de grootste gevaren maar moeizaam herkennen. nsa-computers kunnen enorme hoeveelheden gegevens verwerken, maar machines kunnen niet zelfstandig op gezaghebbende wijze bepalen of iemand een terroristische aanslag beraamt. Palantir stelt zich ten doel deze contrasterende voorkeuren te overstijgen: zijn software analyseert de gegevens die door de overheid worden aangeleverd – zoals telefoongegevens over radicale geestelijken in Jemen of bankrekeningen die verband vertonen met de activiteit van terroristische cellen – en signaleert verdachte activiteiten, zodat een hoogopgeleide analist die kan beoordelen.

Met de software van Palantir hebben analisten niet alleen terroristen opgespoord, maar ook voorspeld waar opstandelingen in Afghanistan bermbommen zouden plaatsen; spraakmakende gevallen van handel met voorkennis vervolgd; het grootste kinderpornografiecomplot ter wereld ontmaskerd; de Centers for Disease Control and Prevention gesteund in hun strijd tegen via voedsel overgedragen epidemieën; en met geavanceerde fraudedetectie zowel zakenbanken als de overheid honderden miljoenen dollars per jaar bespaard. Dat kon allemaal dankzij hypermoderne software, maar de menselijke analisten, aanklagers, wetenschappers en financiële deskundigen, zonder wier actieve betrokkenheid die software niets had uitgehaald, waren zelfs nog belangrijker.

Zelfs de futuristen worden een beetje ongemakkelijk van sterke artificiële intelligentie

Bedenk maar wat het werk van professionals tegenwoordig inhoudt. Advocaten moeten oplossingen voor netelige problemen op verschillende wijzen kunnen formuleren – de presentatie hangt af van de gesprekspartner: je cliënt, de advocaat van de tegenpartij of een rechter. Artsen moeten hun medische kennis combineren met het vermogen om die over te dragen op niet-deskundige patiënten. En goede leerkrachten zijn niet alleen deskundig op hun vakgebied: ze moeten ook weten hoe ze hun onderwijs afstemmen op de belangstelling en leermethoden van verschillende mensen. Computers zouden sommige van die taken kunnen verrichten, maar kunnen die niet doeltreffend met elkaar combineren. Betere technologie in de rechtspraak, de geneeskunde en het onderwijs zal professionals niet overbodig maken, maar hen wel in staat stellen om meer te doen.

Dat is precies wat LinkedIn voor headhunters heeft gedaan. Toen LinkedIn in 2003 werd opgericht, deed het geen opiniepeiling onder headhunters om afzonderlijke pijnpunten te vinden die verholpen moesten worden. En het heeft niet geprobeerd software te schrijven die headhunters helemaal zou vervangen. Headhunten is deels recherchewerk en deels verkoop: je moet de cv’s van sollicitanten doorspitten, hun motieven en geschiktheid beoordelen en de meest veelbelovende overreden om bij jou te komen werken. Het is ondoenlijk om al die werkzaamheden door een computer te laten verrichten. In plaats daarvan nam LinkedIn zich voor om de werkwijze van headhunters te transformeren. Tegenwoordig gebruikt meer dan 97 procent van de headhunters LinkedIn, met zijn krachtige zoek- en filterfuncties, om sollicitanten te vinden, terwijl het netwerk ook waarde heeft voor de honderden miljoenen professionals die het gebruiken om hun persoonlijke merk te beheren. Als LinkedIn had geprobeerd om headhunters door technologie te vervangen, zou het bedrijf nu niet meer bestaan.

Waarom zien zo veel mensen de kracht van de aanvulling over het hoofd? Dat begint op school. Softwareontwikkelaars werken doorgaans aan projecten die mensenwerk overbodig maken, omdat ze daar nu eenmaal voor zijn opgeleid. Academici vestigen hun reputatie met specialistisch onderzoek; hun voornaamste doel is om te publiceren, en publicatie betekent het respecteren van de grenzen van een bepaald vakgebied. Informatici beperken de menselijke vermogens tot gespecialiseerde werkzaamheden die computers één voor één kunnen leren.

Kijk maar naar het hipste vakgebied in de IT van nu. De uitdrukking ‘lerende machine’ roept beelden op van vervanging, en de voorstanders ervan lijken te geloven dat je computers kunt leren om vrijwel elke taak te verrichten, als je maar genoeg trainingsgegevens invoert. Elke gebruiker van Netflix of Amazon heeft ervaren wat een lerende machine doet; beide bedrijven gebruiken algoritmes om producten aan te bevelen op basis van je kijk- en koopgeschiedenis. Hoe meer data je invoert, hoe beter die aanbevelingen worden. Google Translate werkt op dezelfde manier, en biedt grove maar bruikbare vertalingen in alle tachtig talen die het ondersteunt – niet omdat de software de menselijke taal ‘snapt’, maar omdat ze patronen heeft geëxtraheerd door een statistische analyse van een gigantisch tekstcorpus.

De andere modekreet die de voorkeur voor substitutie treffend weergeeft is big data. Moderne bedrijven hebben een onstilbare honger naar data, op grond van de misvatting dat meer data altijd meer waarde creëren. Maar ‘big data’ zijn doorgaans domme gegevens. Computers kunnen patronen herkennen die aan de menselijke aandacht ontsnappen, maar ze weten niet hoe ze patronen uit verschillende bronnen moeten vergelijken of hoe ze complex gedrag moeten interpreteren. Inzichten waarnaar je kunt handelen kunnen alleen worden verschaft door een menselijke analist (of het soort gegeneraliseerde kunstmatige intelligentie die alleen in sciencefiction bestaat).

We hebben onszelf alleen maar door ‘big data’ laten betoveren omdat we de technologie als iets exotisch beschouwen. We laten ons imponeren door kleine prestaties die computers zelfstandig leveren, maar negeren de grote prestaties van de complementariteit omdat ze door de menselijke bijdrage minder griezelig overkomen. Watson, Deep Blue, en zelfs de algoritmes van de betere lerende machines zijn cool. Maar de waardevolste bedrijven van de toekomst zullen zich niet afvragen welke problemen met alleen computers kunnen worden opgelost. Ze zullen eerder vragen: hoe kunnen computers mensen helpen om lastige problemen op te lossen?

de toekomst van de informatica zit noodzakelijkerwijs vol onbekende factoren. Het is mode geworden om steeds slimmere, antropomorfe robotintelligentie zoals die van Siri en Watson te zien als een voorbode van wat er komen gaat. Als computers eenmaal al onze vragen kunnen beantwoorden, gaan ze misschien vragen waarom ze aan ons mensen onderworpen zouden blijven.

Het logische eindstation van dit vervangingsdenken is sterke artificiële intelligentie: computers die mensen in elk belangrijk opzicht in de schaduw stellen. Uiteraard zijn de anti-industrialisten doodsbang voor die mogelijkheid. Zelfs de futuristen worden er een beetje ongemakkelijk van; het is niet duidelijk of sterke AI de mensheid zal redden of tot de ondergang brengen. Technologie wordt geacht onze beheersing van de natuur te vergroten en de rol van het toeval in ons leven te verkleinen; het bouwen van computers die slimmer dan mensen zijn, kan het toeval weer helemaal terugbrengen. Sterke AI is als een kosmisch lootje: als we winnen, krijgen we Utopia; als we verliezen, neemt Skynet onze plaats in.

Maar zelfs als sterke AI een reële mogelijkheid is, en geen moeilijk te bevatten mysterie, zal het niet in de nabije toekomst plaatsvinden: onze vervanging door computers is een zorg voor de 22ste eeuw. Onbepaalde angsten over de verre toekomst zouden ons er niet van moeten weerhouden om nu specifieke plannen te maken. Anti-industrialisten beweren dat we geen computers moeten bouwen die wellicht ooit de plaats van mensen zullen innemen; opgewonden futuristen betogen dat we dat juist wél moeten doen. Deze twee standpunten sluiten elkaar over en weer uit, maar ze zijn niet de enige optie: ertussenin zit ruimte waarin weldenkende mensen een veel betere wereld kunnen bouwen in de decennia die voor ons liggen. Terwijl we nieuwe manieren ontdekken om computers te gebruiken, worden ze niet alleen ‘beter’ in de dingen die mensen al doen; ze zullen ons ook helpen om dingen te doen die voorheen onvoorstelbaar waren.


Dit is een voorpublicatie uit Zero to One – Creëer de toekomst: Wat iedere ondernemer kan leren van Silicon Valley van Peter Thiel (Business Contact, € 29,99)

Medium thiel

Beeld: Gaan computers zich misschioen ooit afvragen waarom ze aan mensen onderworpen zouden blijven? (Getty)