Kamerleden Hind Dekker-Abdulaziz en Paul van Meenen (beiden D66) hebben tegenover onderwijsminister Dennis Wiersma (vvd) hun zorgen geuit over de gevolgen van ChatGPT voor onderwijsinstellingen. Hoe moeten zij omgaan met deze verbluffende artificiële intelligentie? Hoe kunnen docenten bijvoorbeeld nog weten of leerlingen opdrachten zelf maken, nu plagiaatsoftware de teksten die deze chatbot voortbrengt niet opmerkt? Terechte vragen, maar de mogelijke uitwerking van ChatGPT op onze samenleving reikt hoogstwaarschijnlijk nog veel verder.
Zo krijgt het essay On Bullshit van Harry Frankfurt dankzij de chatbot hernieuwde relevantie. De filosoof maakt een onderscheid tussen personen die liegen en personen die bullshit verspreiden. Een leugen, schrijft Frankfurt, probeert de waarheid te verdoezelen. Bullshit daarentegen is op geen enkele manier gericht op de waarheid; het dient een doel voorbij leugen en waarheid. Neem het fenomeen marketing. Het is daarbij niet relevant of wat in een reclamespot gezegd wordt waar of onwaar is; het doel is consumenten ervan te overtuigen om iets aan te schaffen.
Frankfurt stelt dat beschaving rust op respect voor waarheid en acht bullshit daarom een groter gevaar dan leugens. Een leugenaar is op zijn minst nog bezig met de waarheid, terwijl iemand die bullshit verkondigt de waarheid gewoonweg irrelevant vindt. Bullshit schaadt de maatschappelijke norm van respect voor waarheid daardoor meer dan leugens dat doen.
Kijkend naar de manier waarop ChatGPT nu werkt, kun je concluderen dat het de ultieme bullshitter is in frankfurtiaanse zin. De bot doet in essentie niets anders dan voorspellen wat het meest geschikte volgende woord van een zin is, gebaseerd op onvoorstelbaar veel bestaande teksten van, onder meer, Wikipedia en boeken (in totaal 175 miljard ‘parameters’). Hoewel de makers met filters en andere technische ingrepen proberen bij te sturen, levert dit niet altijd goede antwoorden op. Op sociale media circuleren screenshots van onwaarheden die de chatbot met amusante zelfverzekerdheid presenteert. Maar Frankfurt toont dat er meer speelt dan dat ChatGPT soms op de proppen komt met iets wat niet klopt. Crucialer is dat feiten een ondergeschikte rol hebben in de sommetjes van de chatbot: hij put niet uit een eigen dataset, leunt voornamelijk op kansberekening. En als we Frankfurt volgen, produceert hij daarmee bullshit: hij is niet primair gericht op waarheid en leugen, maar op het fabriceren van statistisch plausibele antwoorden.
Een relevante vraag is of door ChatGPT de hoeveelheid intentioneel verspreid nepnieuws enorm gaat toenemen. Maar het punt dat ik aansnijd is: in wat voor wereld komen we terecht als chatbots de basis gaan vormen van vrijwel alle teksten die we lezen, zonder dat we precies weten van welke? Als een directe zorg voor de waarheid inderdaad nodig is voor beschaving, zouden chabots er niet alleen toe kunnen leiden dat – en ik parafraseer nu Hannah Arendt – leugens soms onterecht geloofd worden, maar dat de categorieën van waarheid en onwaarheid eroderen. Het gevolg? Twijfelen aan de betrouwbaarheid van álle teksten die je leest. Een bullshit-dystopie.
Daarnaast voorzie ik dat ChatGPT allerlei taalgebruik, en daarmee denkwijzen en wereldbeelden, problematisch in stand zal houden, omdat het teksten schept aan de hand van de samenhang van woorden in bestaande teksten. Terwijl: vooruitgang schuilt vaak in radicaal nieuwe perspectieven en vocabulaires. Neem nu de chronische politieke discussie over ‘de integratie’ van migranten in Nederland, waar ik meerdere columns en essays aan wijdde in De Groene. Wie mij volgt weet dat ik meen dat het beste wat deze discussie kan overkomen is dat de besmette en grijsgedraaide termen die haar domineren in onbruik raken, ophouden te bestaan. Om deze reden lanceerde Stichting Civic (waaraan ik verbonden ben) afgelopen week een manifest, waarin zij oproept tot een fundamentele herbezinning op de termen ‘integratie’ en ‘inburgering’. Het manifest stelt onder meer voor de term ‘inburgeringsbeleid’ voor beleid dat nieuwkomers onthaalt in te ruilen voor ‘startbeleid’.
Een vernieuwend manifest als dit zou ChatGPT nooit kunnen schrijven. Dit is niet zozeer een probleem, wellicht juist geruststellend: de mens heeft nog een rol naast de robot. Zorgwekkender is dat chatbots – binnenkort waarschijnlijk ook ingebouwd in programma’s als Word en Google – de doelstellingen van het manifest zouden kunnen gaan tegenwerken, door in een razend tempo allerlei teksten te creëren waarin huidig dominant taalgebruik verder versterkt wordt, als extra stut van de status quo. Het zal politiek al knap lastig zijn de conceptuele piketpalen van thema’s als ‘het integratiedebat’ te verschuiven, maar ook artificiële intelligentie zou zo een remmende werking kunnen gaan hebben op vernieuwende ideeën en progressieve bewegingen. Taal is macht.
ChatGPT doet mij denken aan een droom die ik terugkerend heb. Ik loop door een rechthoekige gang met aan weerszijden meerdere deuren. Ik kies een deur uit en kom uit in een identieke gang met identieke deuren. Dan kies ik weer een deur uit. Weer dezelfde gang. En nog een keer. Een eindeloze herhaling volgt, zonder soelaas.