Mary Shelley verwoordt het zo, in haar roman Frankenstein uit 1831: ‘Ik schrok op uit mijn slaap met afgrijzen; een koude dauw bedekte mijn voorhoofd, mijn tanden klapperden en alle ledematen kregen stuiptrekkingen; toen ik bij het schemerige en gele licht van de maan, die zich een weg baande door de luiken, de ellendeling zag − het ellendige monster dat ik had geschapen.’
Het boek draagt de ondertitel The Modern Prometheus. Zoals in de mythe van Prometheus heeft Victor Frankenstein waanzinnig wetenschappelijk inzicht en verwekt hij ook een nieuwe levensvorm. En zoals in de mythe blijkt dat ellendige wezen − ‘miserable wretch’ − oncontroleerbaar, uit op verwoesting. Ellendeling, wretch, die woorden worden gebruikt voor het monster maar ook voor Victor Frankenstein zelf − de man die de gevolgen van zijn uitvinding niet juist had voorzien.
Nu, in 2023, zegt Geoffrey Hinton dat hij spijt heeft van zijn levenswerk. De 75-jarige ‘godfather’ van de kunstmatige intelligentie die nu voor onder meer ChatGPT wordt gebruikt, stapte afgelopen week na tien jaar op bij Google om vrijuit te kunnen spreken over de gevaren van AI. Maar in tegenstelling tot de mythische tragische uitvinder steekt hij niet de hand in eigen boezem: ‘Ik troost me met het gebruikelijke excuus: als ik het niet gedaan had, was het een ander geweest.’
In een dystopisch interview met The New York Times beschrijft Hinton de concurrentiestrijd tussen Google en Microsoft, die allebei diensten zoals chatbots ontwikkelen op basis van kunstmatige intelligentie. Omdat de populariteit van zulke technologie het afgelopen half jaar onder gewone gebruikers enorm is toegenomen, vreest Google zijn dominante positie op het gebied van bijvoorbeeld zoekmachines te verliezen. Nieuwe technologie wordt daarom sneller doorgedrukt en door deze wapenwedloop verliezen bedrijven ethische vraagstukken uit het oog, denkt Hinton.
Hij is bang dat het internet overspoeld zal worden met extreem realistisch nepnieuws, waaronder digitaal gegenereerde foto’s en video’s, waarvan mensen de echtheid niet meer kunnen controleren. Bovendien denkt hij dat het uitbesteden van ‘geestdodende’ taken uiteindelijk enorme gevolgen zal hebben voor de arbeidsmarkt, wanneer steeds meer menselijke banen door AI worden vervuld. Uiteindelijk vreest hij dat kunstmatige intelligentie de mensheid zal doen vervagen.
Hebben we het Frankenstein-moment bereikt, waarop de wetenschappers en de vooruitgangsdenkers plots de gevaren inzien van een zelfgecreëerd monster? Eerder dit jaar publiceerde een groep prominente zakenmensen en wetenschappers op het gebied van technologie een open brief met de oproep om de ontwikkeling van kunstmatige intelligentie te pauzeren. De brief werd ondertekend door onder meer Steve Wozniak, Elon Musk en Yuval Harari. Harari, bekend van zijn boek Sapiens: Een kleine geschiedenis van de mensheid, vreest nu het einde van de beschaving. In The Economist zei hij: ‘AI heeft het besturingssysteem van onze beschaving gehackt.’
Paniek over te snel vorderende technologie was voorheen vooral het gebied van geesteswetenschappers terwijl onder de bouwers het geloof in vooruitgang de boventoon voerde. Nu zijn de rollen omgedraaid en komt de nuancering − we gaan er heus niet meteen allemaal aan − uit de hoek van de ethici.
Ontwikkelaars die van hun eigen technologie schrikken, dat is een bekend fenomeen in de techwereld, zegt Antal van den Bosch, hoogleraar Language, communication and computation aan de Universiteit Utrecht. ‘Denk maar aan Mark Zuckerberg die bij de Amerikaanse senaat verantwoording moest afleggen over Facebook. Die zat daar als een verschrikt konijn in de koplampen. Zijn eerste reactie was: “Wij hebben gewoon een systeem opgezet dat leuk is voor de mensen en dat hebben we geoptimaliseerd. Wij zijn ook niet verantwoordelijk voor de shit die er vervolgens gebeurt.”’
Zuckerberg, Elon Musk, OpenAI-ceo Sam Altman − allemaal mensen uit eenzelfde generatie, ziet Van den Bosch. ‘Ze zijn opgegroeid in de jaren negentig met een alles-kan-mentaliteit: we gaan lekker tech ontwikkelen en veel geld verdienen. Er waren wel futurologen die waarschuwden dat we richting singulariteit gingen, het moment waarop AI de mens inhaalt. Maar de mensen die daadwerkelijk aan het ontwikkelen waren, die waren volstrekt niet in staat om te extrapoleren.’
Van den Bosch, die destijds zelf PhD-student was, beschrijft het onderzoek naar kunstmatige intelligentie dat in de jaren negentig werd gedaan als de tweede AI-hype − onderzoek waar Geoffrey Hinton de belangrijke Turing-prijs voor won. Hinton, die ‘als een pitbull’ bleef vasthouden aan zijn idee over neurale netwerken en de toepassingen daarvan, is onderdeel van een groep mensen die tien jaar geleden zijn grote gelijk kreeg. ‘En deze keer, met de huidige populariteit van AI, zijn er tekenen dat de hype niet meer voorbij gaat. Omdat het vakgebied robuustheid heeft verworpen in de industrie en in de hoofden van regeringsleiders.’
Als ‘prize scientist’ kreeg Hinton aan het einde van zijn carrière een belangrijke positie bij een groot bedrijf. Maar dat betekent nog niet dat hij de waarheid in pacht heeft, zegt Van den Bosch. ‘Journalisten gaan zo’n persoon microfoons onder zijn neus duwen, maar hij weet ook niet waar het heen gaat. Hij heeft de systemen die nu zijn ontstaan ook niet kunnen voorzien. Het vakgebied moet nu collectief verantwoording afleggen aan de wereld. Daar zijn we niet voor opgeleid, en daar komt de schrikreactie vandaan: dat kan ik helemaal niet, ik ben niet opgeleid als ethicus of filosoof − ik ben niet politiek. Dat onvermogen zet Hinton om in angst.’
Het heeft iets vreemds, zegt Vincent Blok, dat filosofen steeds hebben gewaarschuwd voor de maatschappelijke impact van technologie, terwijl de apocalyptische angst nu vanuit de hoek van de techneuten komt. Hij doet aan de universiteit van Wageningen onderzoek naar de filosofie van technologie en verantwoordelijke innovatie. ‘Ze hebben het gevoel dat er een probleem is, en dat wordt dan meteen een enorm ding. Hinton zegt nu dat we een apparaat nodig hebben voor wereldwijde AI-regulatie. Dan denk ik: waar heb je het over? Het lukt de VN niet eens om wereldwijd afspraken te maken.’
Er is heus wel iets aan de hand, benadrukt Blok. ‘Alleen in de discussie rond AI worden nu wel heel veel debatten bij elkaar gevoegd. Als je het hebt over deepfakes of over nepnieuws, dan zijn mensen nu geneigd te zeggen: dat komt door ChatGPT. Maar nepnieuws kennen we eigenlijk al vanaf de verkiezing van Donald Trump, en manipulatie door algoritmen − dat bedrijven ons controleren − dat kwam uit met de schandalen rond Facebook in 2016.’ Hetzelfde geldt wat hem betreft voor de waarschuwing voor de effecten van kunstmatige intelligentie op de werkgelegenheid. ‘Dat is gewoon een patroon. Historisch zie je die angst terug bij elke disruptieve technologie die succesvol is, ook de uitvinding van de stoommachine of de elektriciteit’.
Volgens het Future of Jobs Report van het wef, dat vorige week verscheen, zal de komst van nieuwe technologieën zoals kunstmatige intelligentie naar verwachting vooral leiden tot een omroering: er verdwijnt werk, maar er komen ook nieuwe banen die om nieuwe vaardigheden vragen. ‘Dat is geen AI-vraagstuk’, zegt Blok, ‘maar een vraagstuk over disruptie.’
Er wordt iets aan de technologie opgehangen dat veel meer te maken heeft met de economische aspecten, zegt Blok. Dat wordt volgens hem geïllustreerd door de reden die Hinton gaf voor zijn vertrek bij Google: ‘Hij zegt dat de concurrentie ervoor zorgt dat dit soort bedrijven ethische vragen vergeten in overweging te nemen en daarmee suggereert hij dat ethiek normaal gesproken wel een rol speelt, maar door de hevige concurrentie even niet. Dat is helemaal niet zo − en daar is absoluut wel iets gevaarlijks aan de hand.’
Het is nodig ons geloof in grote bedrijven en het kapitalistisch systeem te herzien, zegt Blok, omdat die perverse prikkels voor de inzet en ontwikkeling van technologie in stand houden. Hij windt zich bovendien op over de angst waarmee de hype gepaard gaat. ‘Door brieven te schrijven waarin je zegt “O mijn god jongens, we zijn bijna zover dat AI menselijke intelligentie heeft ingehaald”, herdefinieer je de mens in termen van informatica. Daarmee ga je voorbij aan de reële, politieke wereld waarin wij leven en zo worden we als het ware secundair aan een kunstmatige, op datapunten gebaseerde werkelijkheid. Alsof ze vanuit de techhoek de geesten al rijp willen maken voor het idee dat AI ons gaat inhalen.’
De open brief om de ontwikkeling van AI te pauzeren, is gepubliceerd op een platform voor longtermism en ondertekend door veel prominente aanhangers van die beweging, die het idee voorstaat dat we als mensheid niet alleen op concrete vraagstukken in het nu moeten reageren, maar ook langetermijngevaren herkennen zodat we de juiste afwegingen maken. Het gaat daarbij om kwesties van millennia in de toekomst.
‘Die afwegingen kunnen ongelooflijk bruusk zijn, en het langetermijnriscio van AI wordt heel hoog ingeschat’, zegt Antal van den Bosch. Zelfprogrammerende computers die de wereld overnemen, dat lijkt hem vooralsnog weinig realistisch. ‘Als we alle netwerken aan elkaar en aan kunstmatige intelligentie koppelen, als computers dus beslissingen kunnen nemen op de beurs, in machines en alarmsystemen, dan lopen we in theorie gevaar. Maar die systemen zijn vooralsnog gescheiden. Het systeem op plek x kan niet de systemen op plek y beïnvloeden. In werkelijkheid hebben we al moeite om onze lampen thuis aan de hub te koppelen, de realiteit is zoveel knulliger en beperkter.’
Met de komst van het algemeen gebruik van AI wordt van de maatschappij een nieuwe taart gebakken, zegt Van den Bosch, en de technologie is slechts een onderdeel van het recept. Een ander belangrijk ingrediënt is maatschappelijke acceptatie en gedrag. En dan is er nog wetgeving. In de Europese Unie wordt momenteel de omvangrijke AI-wet afgerond, waaraan vakgenoten van Van den Bosch ook meewerkten. Ironisch genoeg komt die wet net te vroeg − hij is ontwikkeld vlak voor ChatGPT en plaatjesgenerator dall-e breed in gebruik raakten. ‘Dat is niet erg, met zo’n wet richt je je pijlen op bewegende doelen.’
Nobelprijswinnares Maria Ressa sprak op het 145-jarig jubileum van De Groene Amsterdammer over de gevaren die het algemeen gebruik van AI meebrengt voor haar vakgebied, de journalistiek. Ze onderschrijft het idee dat technologische innovatie altijd met angst gepaard gaat. Het verschil met bijvoorbeeld de komst van de boekdrukkunst, zegt ze, is de ongekend grote schaal waarop de technologie nu beschikbaar is. Bestaande problemen waarmee haar journalistieke platform Rappler kampt, zoals nepnieuws en sturende algoritmen, worden groter door de manier waarop mensen AI gebruiken.
Het echte gevaar zit ’m in hoe de technologie gebruikt wordt, vindt ook Van den Bosch, daarom moeten we nu vooral goed kijken naar hoe politiek en bestuur op AI reageren. ‘En we hebben als vakgebied ook wel de krachten gebundeld de afgelopen jaren.’ Het werk zit nu in het bouwen van een soort meta-kunstmatige intelligentie, systemen die kunnen uitleggen hoe de technologie tot beslissingen komt en van context voorziet. ‘Wat dat betreft is de wetenschap iedereen een aantal stappen voor. Gelukkig maar.’