Stel dat je een donkere ruimte in een jou onbekend gebouw binnentreedt. Je zou bang kunnen zijn voor monsters die misschien ergens in een donker hoekje schuilen. Of je zou gewoon het licht aan kunnen doen, om niet tegen het meubilair aan te botsen. De donkere ruimte is de toekomst van de artificiële intelligentie (AI). Helaas denken veel mensen dat we, als we die ruimte binnenstappen, op een paar kwaadaardige, ultra-intelligente machines zouden kunnen stuiten.
Dit is een oude angst die dateert uit de jaren zestig, toen Irving John Good, een Brits wiskundige, die evenals Alan Turing als cryptoloog werkzaam was in Bletchley Park, de volgende observatie deed: ‘Laten we een ultra-intelligente machine definiëren als een machine die alle intellectuele activiteiten van welke mens ook kan overtreffen, hoe slim die mens ook is. Omdat het ontwerpen van machines een van deze intellectuele activiteiten is, zou een ultra-intelligente machine nóg betere machines kunnen ontwerpen; er zou dan onmiskenbaar sprake zijn van een “explosie van intelligentie”, en de menselijke intelligentie zou ver achterblijven. De eerste ultra-intelligente machine is dus de laatste uitvinding die de mens ooit hoeft te doen, vooropgesteld dat de machine dociel genoeg is om ons te vertellen hoe we hem onder controle moeten houden. Het is vreemd dat dit punt zo zelden buiten het domein van de sciencefiction wordt gemaakt. Het is soms de moeite waard sciencefiction serieus te nemen.’
Als ultra-intelligente machines werkelijkheid worden, zullen ze misschien helemaal niet zo dociel blijken te zijn, maar zich gedragen als de Terminator: de mensheid tot slaaf maken als ondersoort, zijn rechten negeren, en eigen doeleinden nastreven, ongeacht de gevolgen voor mensenlevens. Als dit ongeloofwaardig klinkt, denk er dan nog eens over na en spoel een halve eeuw vooruit naar het heden. De verbazingwekkende ontwikkelingen in onze digitale technologieën hebben veel mensen ertoe gebracht te geloven dat Goods ‘explosie van intelligentie’ een serieus risico is, en dat het einde van onze soort wellicht nabij is, als we niet oppassen.
Dit is Stephen Hawking in 2014: ‘De ontwikkeling van volledige artificiële intelligentie kan het einde betekenen van het menselijk ras.’ Een jaar later was Bill Gates het met hem eens: ‘Ik bevind me in het kamp van de mensen die zich zorgen maken over superintelligentie. In eerste instantie zullen de machines ons veel werk uit handen nemen en niet superintelligent zijn. Dat kan positief zijn als we het goed managen. Een paar decennia later zal de intelligentie echter krachtig genoeg zijn om zorgelijk te worden. Ik ben het op dit punt met Elon Musk en een paar anderen eens, en ik begrijp niet waarom sommige mensen zich geen zorgen maken.’
Wat had Musk, de ceo van Tesla, dan gezegd? ‘We moeten heel voorzichtig zijn met artificiële intelligentie. Als ik zou moeten raden wat onze grootste existentiële bedreiging is, dan is het waarschijnlijk dat… Wetenschappers denken steeds vaker dat er misschien sprake zou moeten zijn van enig toezicht op nationaal en internationaal niveau, om zeker te stellen dat we niet iets heel doms gaan doen. Met artificiële intelligentie roepen we de demon op. In al die verhalen waarin een man voorkomt met een pentagram en heilig water weet hij zeker dat hij de demon in bedwang kan houden. Maar zo gaat het vervolgens niet.’
De werkelijkheid is trivialer. In maart 2016 heeft Microsoft op Twitter Tay geïntroduceerd – een op AI gebaseerde chatbot. Slechts zestien uur later moest de chatbot al weer offline gehaald worden. Het idee was dat hij door de interactie met mensen steeds slimmer zou worden. Maar in plaats daarvan werd de chatbot al snel een kwaadaardige, Hitler aanbiddende, holocaust ontkennende en incestueuze seks propagerende, ‘Bush was zelf verantwoordelijk voor 9/11’ uitkramende chatterbox. Waarom? Omdat hij net als keukenpapier louter de lelijke berichten die hij binnenkreeg absorbeerde. Microsoft verontschuldigde zich.
Dit is de staat waarin AI zich vandaag de dag bevindt. Na heel veel gepraat over de risico’s van ultra-intelligente machines is het tijd om het licht aan te doen, op te houden ons zorgen te maken over sciencefictionscenario’s, en te beginnen met het aanpakken van de echte problemen rondom AI, zodat we geen pijnlijke en kostbare fouten zullen maken bij het ontwerpen en gebruiken van onze slimme technologieën.
Laat ik iets specifieker zijn. De filosofie is niet zo goed in nuanceringen. Ze kan zichzelf zien als een model van precisie en fijnmazig afgestemd onderscheid, maar waar ze werkelijk van houdt zijn polarisaties en dichotomieën. Internalisme of externalisme, fundamentalisme of coherentisme, trolley links of rechts, zombies of geen zombies, waarnemer-relatief of waarnemer-onafhankelijk, mogelijke of onmogelijke werelden, gegrond of ongegrond… De filosofie kan het inclusieve vel prediken (‘meisjes of jongens kunnen spelen’), maar gaat zich te vaak te buiten aan het exclusieve aut aut (‘of je houdt ervan of niet’).
Het huidige debat over AI is daar een voorbeeld van. Hier is sprake van een dichotomie tussen degenen die geloven in echte AI en degenen die dat niet doen. Ja, échte AI, niet Siri in je iPhone, Roomba in je huiskamer of Nest in je keuken (ik ben de gelukkige bezitter van alle drie). Denk in plaats daarvan aan de valse Maria in Metropolis (1927); Hal 9000 in 2001: A Space Odyssey (1968), waarbij Good optrad als een van de consultants; C3PO in Star Wars (1977); Rachael in Blade Runner (1982); Data in Star Trek: The Next Generation (1987); Agent Smith in The Matrix (1999) of de lichaamloze Samantha in Her (2013). U begrijpt het wel. Degenen die in échte AI en in Goods ‘explosie van intelligentie’ geloven, behoren tot de Kerk van de Singularitarianen. Bij gebrek aan een betere term zal ik naar de ongelovigen verwijzen als leden van de Kerk der AItheïsten. Laten we eens naar beide geloven kijken en zien waarom ze het allebei mis hebben. En onthoud intussen dat goede filosofie zich vrijwel altijd in het saaie midden bevindt.
De Singularitarianen geloven in drie dogma’s. In de eerste plaats dat de creatie van een of andere vorm van artificiële ultra-intelligentie in de nabije toekomst waarschijnlijk is. Dit keerpunt staat bekend als een technologische singulariteit, vandaar de naam. Zowel de aard van een dergelijke superintelligentie als het exacte tijdstip van de komst ervan blijft onbenoemd, hoewel Singularitarianen vaak de voorkeur geven aan een toekomst die dichtbij genoeg is om je er zorgen over te maken, maar ver genoeg weg ligt om er niet meer te hoeven zijn als mocht blijken dat ze ernaast zaten.
In de tweede plaats loopt de mensheid een groot risico door zo’n ultra-intelligentie te worden gedomineerd. In de derde plaats is het een belangrijke verantwoordelijkheid van de huidige generatie om ervoor te zorgen dat de Singulariteit zich niet zal voordoen of, mocht dat toch gebeuren, dat zij weldadig zal zijn en de mensheid ten goede zal komen. Dit heeft alle elementen van een manicheïsche kijk op de wereld: Goed versus Kwaad, met apocalyptische boventonen; de urgentie van ‘we moeten nu iets doen, anders is het te laat’; een eschatologisch perspectief op de redding van de mens; en een beroep op angst en onwetendheid.
Zet dit alles in een context waarin mensen zich terecht zorgen maken over de impact van idiote digitale technologieën op hun leven, vooral op de arbeidsmarkt en in cyberoorlogen, en waarin de massamedia dagelijks berichten over nieuwe hebbedingetjes en ongekende, door computers veroorzaakte rampen, en je hebt een recept voor massale afleiding: een digitaal opiaat voor de massa’s.
Net als alle op geloof gebaseerde inzichten is het Singularitarianisme onweerlegbaar, omdat het uiteindelijk geen beperkingen kent qua redelijkheid en bewijs. Het is ook ongeloofwaardig, omdat er geen reden is om te geloven dat er ook maar iets wat op intelligente (laat staan ultra-intelligente) machines lijkt zal voortkomen uit ons huidige en voorzienbare begrip van de computerwetenschap en digitale technologieën. Ik zal dit uitleggen.
Soms wordt het Singularitarianisme voorwaardelijk voorgesteld. Dat is slim, want het dan volgt uit het als, en niet alleen in een ex falso quodlibet-zin: als zich een of andere vorm van ultra-intelligentie zou voordoen, dan zouden we (en niet louter ‘kunnen we’, zoals in de uitspraak van Hawking hierboven) diep in de problemen zitten. Dat is correct. Absoluut. Maar dit geldt ook voor de volgende voorwaardelijkheid: als de Vier Ruiters van de Apocalyps zouden verschijnen, dan zouden we nóg dieper in de problemen zitten.
Op andere momenten is het Singularitarianisme gebaseerd op een zeer zwakke variant van een mogelijkheid: een of andere vorm van artificiële ultra-intelligentie zou zich kunnen ontwikkelen, nietwaar? Ja, dat zou kunnen. Maar dit ‘zou kunnen’ is louter een logische mogelijkheid – voorzover wij weten schuilt er geen tegenstrijdigheid in de veronderstelling van de ontwikkeling van artificiële ultra-intelligentie. Toch is dit een truc die het enorme verschil uitwist tussen ‘ik zou morgen ziek kunnen zijn’ als ik me niet helemaal lekker voel en ‘ik zou een vlinder kunnen zijn die droomt dat hij een mens is’.
Er schuilt geen tegenstrijdigheid in de veronderstelling dat een dode verwante waar je nog nooit van hebt gehoord je tien miljoen dollar heeft nagelaten. Dat zou kunnen gebeuren. Dus? Tegenstrijdigheden, zoals gelukkig getrouwde vrijgezellen, zijn geen mogelijke toestanden, maar niet-tegenstrijdigheden, zoals buitenaardse agenten die zó goed verborgen onder ons leven dat we ze nooit hebben ontdekt, kunnen nog steeds als volkomen gestoord van de hand worden gewezen. Met andere woorden, het ‘zou kunnen’ is niet het ‘zou kunnen gebeuren’ van een aardbeving, maar komt overeen met ‘het is niet waar dat het niet zou kunnen gebeuren’ van het idee dat je de eerste onsterfelijke mens bent. Dat klopt, maar dit is geen reden om je te gaan gedragen alsof je altijd zult blijven leven. Tenzij iemand met bewijzen van het tegendeel komt en aantoont dat er iets in ons huidige en voorzienbare begrip van de computerwetenschap schuilt wat ons moet doen vermoeden dat de opkomst van artificiële ultra-intelligentie werkelijk plausibel is.
Op dit punt mengen de Singularitarianen geloof en feiten, dikwijls bewogen, zo meen ik, door een oprecht gevoel van apocalyptische urgentie. Zij beginnen te praten over banenverlies, digitale systemen die gevaar lopen, drones die hun eigen gang gaan, en andere reële en zorgelijke zaken met betrekking tot computertechnologieën die het menselijk leven steeds meer gaan overheersen, van het onderwijs tot de werkgelegenheid, en van entertainment tot conflicten. Van hieruit maken zij de sprong naar hun ernstige zorgen over hun onvermogen om hun volgende Honda Civic onder controle te houden, omdat die een eigen wil zou kunnen hebben.
Het blijft onduidelijk hoe een of andere kwaadaardige ultra-intelligente AI zich ooit autonoom zou moeten ontwikkelen uit de computervaardigheden die nodig zijn om je auto op een klein plekje in te parkeren. De waarheid is dat klimmen naar de top van een boom geen kleine stap is op weg naar de maan: het is het einde van de reis. Wat we in plaats hiervan zullen gaan zien zijn steeds slimmere machines, die in staat zijn meer taken te volbrengen dan we momenteel zelf uitvoeren.
Als alle andere argumenten er niet in slagen te overtuigen, zijn de Singularitarianen er dol op om wat wiskunde in de strijd te gooien. Een favoriete referentie is de Wet van Moore. Dat is de empirische bewering dat in de ontwikkeling van digitale computers het aantal transistoren op chips zo’n beetje iedere twee jaar verdubbelt. Het resultaat is tot nu toe méér computerkracht geweest, zonder dat daar meer inspanningen voor nodig waren. Maar de zaken zijn aan het veranderen. Technische problemen in de nanotechnologie brengen serieuze productie-uitdagingen met zich mee. Er is immers een limiet aan de mate waarin je dingen kleiner kunt maken, voordat ze eenvoudigweg smelten. De Wet van Moore is niet langer van kracht.
Het feit dat iets enige tijd exponentieel is gegroeid, betekent nog niet dat dit voorgoed het geval zal zijn, zoals The Economist in 2014 stelde: ‘Door de hele geschiedenis heen zijn mensen onbetwist de dominante soort op aarde geweest. Zou dat binnenkort kunnen veranderen? Kalkoenen, tot nu toe ongevaarlijke dieren, zijn in omvang geëxplodeerd, en van een gemiddeld gewicht van zes kilo in 1929 opgezwollen naar zo’n vijftien kilo vandaag. Op grond van de rotsvaste wetenschappelijke veronderstelling dat huidige trends zullen aanhouden, gaat The Economist ervan uit dat kalkoenen binnen honderdvijftig jaar net zo groot als mensen zullen zijn. Binnen zesduizend jaar zullen kalkoenen de hele planeet overvleugelen. Wetenschappers beweren dat de snelle groei van kalkoenen het gevolg is van innovaties in de pluimveefokkerij, zoals selectief fokken en artificiële inseminatie. De kunstmatige aard van hun groei en het feit dat de meeste kalkoenen niet meer kunnen vliegen, duiden erop dat nog niet alles verloren is. Toch zijn er, nu er alleen al in Amerika bijna 250 miljoen kalkoenen rondlopen, redenen tot zorg. Tijdens de komende Thanksgiving is er slechts één verstandige gedragslijn: eet ze, vóórdat ze jou opeten.’
Het is een kleine stap van Kalkoenzilla naar AIzilla, ware het niet dat een groeicurve makkelijk sigmoideus kan zijn, met een aanvankelijke groeifase die zo goed als exponentieel is, gevolgd door verzadiging, tragere groei, rijpheid, en uiteindelijk helemaal geen groei meer. Maar ik vermoed dat de representatie van sigmoideuze groeicurves wel eens blasfemisch zou kunnen blijken voor Singularitarianen.
Het Singularitarianisme leidt op onverantwoordelijke wijze de aandacht af. Het is een preoccupatie van de rijke landen. Mensen in samenlevingen met veel vrije tijd maken zich er zorgen over, maar lijken te vergeten welke échte gevaren onze planeet bedreigen en de mensheid parten spelen. Eén voorbeeld volstaat: bijna zevenhonderd miljoen mensen hebben geen toegang tot veilig drinkwater. Dat is een groot gevaar voor de mensheid. O, en als je mocht denken dat voorspellingen van deskundigen een betrouwbare leidraad zijn, denk dan nog eens na. Er zijn veel verbijsterend foute technologische voorspellingen gedaan door deskundigen (zie een paar hilarische voorbeelden bij David Pogue en op Cracked.com). In 2004 zei Bill Gates: ‘Over twee jaar zal spam geen probleem meer zijn.’ En in 2011 verklaarde Stephen Hawking dat ‘de filosofie dood is’ (dus waarom lees je dit dan eigenlijk?).
De voorspelling waar ik het meest van houd is die van Robert Metcalfe, mede-uitvinder van ethernet en oprichter van de digitale-elektronicaproducent 3Com. In 1995 beloofde hij ‘zijn woorden te zullen opeten’ als hij het bij het verkeerde eind zou blijken te hebben dat ‘het internet snel zal exploderen en in 1996 catastrofaal zal ineenstorten’. Omdat hij een man van zijn woord was, maakte hij zijn artikel in 1997 publiekelijk vloeibaar met behulp van een food processor, om het te kunnen opdrinken. Ik zou willen dat de Singularitarianen net zo moedig en coherent waren als hij.
Diepgaand geïrriteerd door degenen die de verkeerde digitale goden aanbidden, en door hun niet uitgekomen Singularitariaanse voorspellingen, hebben de ongelovigen – AItheïsten – het tot hun missie gemaakt om eens en voor altijd te bewijzen dat ieder geloof in echte AI volkomen misplaatst is. AI bestaat gewoon uit computers, computers zijn gewoon Turing Machines, Turing Machines zijn louter syntactische machines, en syntactische machines kunnen niet denken, kunnen niets weten en kunnen geen bewustzijn hebben. Einde verhaal.
Dit is de reden dat er zo veel is dat computers (nog steeds) niet kunnen doen, wat min of meer de titel is van diverse publicaties – Ira Wilson (1970); Hubert Dreyfus (1972; 1979); Dreyfus (1992); David Harel (2000); John Searle (2014) – maar wat ze precies niet kunnen doen is gelukkig een beweeglijk doelwit. Het is ook de reden dat ze niet in staat zijn semantiek te verwerken (van welke taal dan ook, inclusief Chinees, ongeacht wat je met Google Translate kunt bereiken). Dit bewijst dat er absoluut niets te bespreken is, laat staan om je zorgen over te maken. Échte AI bestaat niet, dus a fortiori kunnen er ook geen problemen door worden veroorzaakt. Relax en geniet van al die wonderbaarlijke elektrische apparaten.
Maar het geloof van de AItheïsten is net zo misplaatst als dat van de Singularitarianen. Beide kerken hebben veel volgelingen in Californië, waar sciencefictionfilms uit Hollywood, prachtige universiteiten als Berkeley en een paar van de belangrijkste digitale bedrijven ter wereld naast elkaar floreren. Dat kan geen toeval zijn. Als er veel geld mee gemoeid is, raken mensen makkelijk in verwarring. Google heeft bijvoorbeeld op grote schaal AI-technologiebedrijven opgekocht (disclaimer: ik ben lid van Google’s Advisory Council over het recht om vergeten te worden), dus Google zou toch iets moeten weten over de werkelijke kansen op de ontwikkeling van een computer die kan denken, iets wat wij, die geen deel uitmaken van ‘de Cirkel’, niet weten? Eric Schmidt, bestuursvoorzitter van Google, gaf voeding aan dit idee toen hij in 2013 bij het Aspen Institute zei: ‘Veel mensen in de AI denken dat we de komende vijf jaar dicht in de buurt zullen komen van [een computer die de Turing Test met goed gevolg aflegt].’
De Turing Test is een manier om te checken of AI vorderingen maakt. Je stelt vragen aan een mens en een computer die zich in twee verschillende ruimtes bevinden; als je op grond van hun antwoorden geen verschil kunt ontwaren tussen de twee, is de AI voor de test geslaagd. Het is een grove test. Denk aan het rijexamen: als Alice daar niet voor slaagt, is ze geen veilige chauffeur. Maar zelfs als ze er wel voor slaagt, kan ze nóg een onveilige chauffeur zijn. De Turing Test voorziet in een noodzakelijke, maar ontoereikende voorwaarde voor een vorm van intelligentie. De lat wordt alleen wel heel laag gelegd. En toch is geen AI er tot nu toe in geslaagd er overheen te komen.
Belangrijker nog is dat alle programma’s op dezelfde manier blijven falen, met gebruikmaking van trucs die al in de jaren zestig zijn ontwikkeld. Ik wil nu ook wel een gokje wagen. Ik haat aubergine, maar ik zal er een heel bord van opeten als een softwareprogramma vóór 16 juli 2018 slaagt voor de Turing Test en de gouden medaille van de Loebner Prize wint. Dit is een veilige gok.
Zowel de Singularitarianen als de AItheïsten zitten er naast. Zoals Turing duidelijk stelde in het artikel uit 1950 waarin de test werd geïntroduceerd, is de vraag ‘kan een machine denken?’ ‘te betekenisloos om erover te hoeven discussiëren’. (Die vraag is ironisch genoeg, of misschien juist met vooruitziende blik, op de medaille van de Loebner Prize geëngraveerd.) Het is een waarheid als een koe, ongeacht tot welke van de twee kerken je behoort. Toch houden beide kerken dit zinloze debat vol, en smoren ze iedere afwijkende stem van de redelijkheid.
Échte AI is logisch gezien niet onmogelijk, maar wel uiterst onwaarschijnlijk. We hebben geen idee hoe we zouden moeten beginnen het te bewerkstelligen, niet in de laatste plaats omdat we nog maar heel weinig begrijpen van de manier waarop onze eigen hersenen en onze intelligentie werken. Dit betekent dat we geen minuut wakker hoeven te liggen van de mogelijke verschijning van een of andere ultra-intelligentie. Wat er werkelijk toe doet is dat de groeiende aanwezigheid van steeds slimmere technologieën enorme gevolgen heeft voor de manier waarop we over onszelf, over de wereld en over onze omgang daarmee nadenken. Het punt is niet dat onze machines bewustzijn hebben of intelligent zijn, of in staat zijn om iets te weten zoals wij dat doen. Dat zijn ze niet. Er zijn heel veel bekende resultaten die duiden op de grenzen van wat computers aankunnen, zogenoemd onbeslisbare problemen, waarvoor kan worden bewezen dat het onmogelijk is een algoritme te bouwen dat altijd naar een juist ja-of-nee-antwoord leidt.
We weten bijvoorbeeld dat onze rekenmachines voldoen aan de zogenoemde ‘Curry-Howard correspondence’, waaruit blijkt dat bewijssystemen in de logica enerzijds en de rekenmodellen van computers anderzijds in feite structureel gezien dezelfde soort objecten zijn, en dat derhalve iedere beperking van de logica ook van toepassing is op computers. Veel machines kunnen verbazingwekkende dingen doen, zoals beter dan wijzelf dammen, schaken en Go spelen, of meedoen aan een televisiequiz. En toch zijn het allemaal versies van een Turing Machine, een abstract model dat door zijn wiskundige logica de grenzen bepaalt van wat een computer kan doen.
Quantumcomputers hebben te maken met dezelfde grenzen van wat kan worden berekend (de zogenoemde ‘computable functions’). Er zal nooit een met bewustzijn behept, intelligent wezen te voorschijn komen uit een Turing Machine. Het punt is dat onze slimme technologieën – ook dankzij de enorme hoeveelheid beschikbare data en enig buitengewoon geavanceerd programmeerwerk – steeds meer taken beter kunnen volbrengen dan wijzelf, inclusief het voorspellen van ons gedrag. Wij zijn dus niet de enigen die succesvol taken kunnen uitvoeren.
Dit is wat ik gedefinieerd heb als de Vierde Revolutie in ons zelfbegrip. Wij bevinden ons niet in het centrum van het universum (Copernicus), van het rijk der biologie (Charles Darwin) of van de rationaliteit (Sigmund Freud). En na Turing bevinden we ons ook niet langer meer in het centrum van de infosfeer, de wereld van de informatieverwerking. We delen de infosfeer met digitale technologieën. Dat zijn doodgewone apparaten die ons in steeds meer taken overtreffen, ook al zijn ze niet slimmer dan een broodrooster. Hun vaardigheden zijn vernederend en zorgen ervoor dat wij de menselijke exceptionaliteit en onze speciale rol in het universum, die uniek blijft, moeten heroverwegen. We dachten dat we slim waren omdat we konden schaken, maar nu speelt een telefoon al beter schaak dan een grootmeester. We dachten dat we vrij waren, omdat we konden kopen wat we maar wilden, maar nu wordt ons bestedingspatroon voorspeld door apparaten die niet dikker zijn dan een plank.
Het succes van onze technologieën is grotendeels afhankelijk van het feit dat we, toen we aan het speculeren waren over de mogelijkheid van ultra-intelligentie, de wereld steeds meer hebben volgestopt met zoveel apparaten, sensoren, applicaties en data dat het een IT-vriendelijke omgeving is geworden, waarin technologieën ons kunnen vervangen zonder te beschikken over zoiets als begrip, een geestelijke staat, bedoelingen, interpretaties, een emotionele staat, semantische vaardigheden, bewustzijn, zelfbewustzijn of flexibele intelligentie. Geheugen (zoals in algoritmen en immense databestanden) doet het beter dan intelligentie als het gaat om het aan de grond zetten van een vliegtuig, het vinden van de snelste route van huis naar kantoor, of het ontdekken van de beste prijs voor je volgende koelkast.
Digitale technologieën kunnen steeds meer dingen beter dan wij doen, door steeds grotere hoeveelheden data te verwerken en hun prestaties te verbeteren door hun eigen output als input voor de volgende serie bewerkingen te analyseren. AlphaGo, het computerprogramma dat werd ontwikkeld door Google DeepMind, heeft het bordspel Go tegen ’s werelds beste speler gewonnen, omdat het de beschikking had over een database van zo’n dertig miljoen zetten en duizenden spelletjes tegen zichzelf kon spelen, al doende ‘lerend’ hoe het zijn prestaties moest verbeteren. Het is als een systeem van twee messen die zichzelf kunnen slijpen.
Wat is het verschil? Hetzelfde als het verschil tussen jou en de vaatwasmachine als die de vaat doet. Wat is het gevolg? Dat een apocalyptisch beeld van AI kan worden afgewezen. Wij zijn het probleem en zullen dat in de afzienbare toekomst ook blijven, niet onze technologie. Dus we moeten ons concentreren op de echte uitdagingen. Laat ik er bij wijze van conclusie vijf opsommen, die allemaal even belangrijk zijn.
We moeten AI klimaatvriendelijk maken. We hebben de slimste technologieën nodig die we kunnen bouwen om de concrete noden aan te pakken waar de mensheid en onze planeet mee kampen, van milieurampen tot financiële crises, van misdaad, terrorisme en oorlog tot hongersnood, armoede, onwetendheid, ongelijkheid en godgeklaagde levensstandaarden.
We moeten AI mensvriendelijk maken. Het moet worden gebruikt om mensen altijd als doel en niet als middel te behandelen, om Immanuel Kant te parafraseren.
We moeten de domheid van AI voor de menselijke intelligentie laten werken. Miljoenen banen zullen worden ontwricht, geëlimineerd en geschapen; de voordelen hiervan zouden door allen gedeeld moeten worden, en de kosten moeten door de samenleving gedragen worden.
We moeten de voorspellende kracht van AI laten werken voor de vrijheid en de autonomie. Het marketen van producten, beïnvloeden van gedrag, het stimuleren van mensen en het bestrijden van misdaad en terrorisme mogen nooit de menselijke waardigheid ondermijnen.
En ten slotte moeten we ervoor zorgen dat AI ons menselijker maakt. Het serieuze risico bestaat dat we onze slimme technologieën zouden kunnen misbruiken, ten koste van het grootste deel van de mensheid en de hele planeet. Winston Churchill heeft gezegd dat ‘we onze gebouwen vormgeven en dat onze gebouwen ons daarna vormgeven’. Dit geldt ook voor de infosfeer en zijn slimme technologieën.
Singularitarianen en AItheïsten zullen hun discussies voortzetten over de mogelijkheid of onmogelijkheid van échte AI. We moeten tolerant zijn, maar we hoeven er niet aan mee te doen. Zoals Vergilius oppert in Dante’s Inferno: ‘Spreek niet over hen, maar kijk, en laat ze links liggen.’ Want de wereld heeft behoefte aan goede filosofie, en we moeten ons bekommeren om dringender problemen.
Luciano Floridi is hoogleraar filosofie en informatie-ethiek aan de Universiteit van Oxford, en distinguished research fellow aan het Uehiro Centre for Practical Ethics. Zijn jongste boek is The Fourth Revolution: How the Infosphere Is Reshaping Human Reality (2014). Dit essay werd oorspronkelijk gepubliceerd op Aeon: aeon.co Vertaling: Menno Grootveld