December is de maand van lichtjesfeesten. Decoratief zijn onze straten, bomen, winkels en huizen versierd met lampjes in alle soorten, maten en kleuren. Te midden van die overdaad van elektrisch licht is het moeilijk voor te stellen dat honderdvijftig jaar geleden de gloeilamp nog moest worden uitgevonden. En dat in 1886, in de schaduw van de molens van Kinderdijk, ons land een eerste elektriciteitscentrale kreeg. Anderhalve eeuw is sindsdien verstreken en deze technologie heeft onze samenleving op fundamentele wijze veranderd. Ze is voor ons nu zo vanzelfsprekend geworden dat we ons maar moeilijk kunnen voorstellen hoe groot die verandering was. Een paar voorbeelden.
In 1882 werd de wondere wereld van elektriciteit tentoongesteld bij het Crystal Palace in Londen, wat in de pers leidde tot wilde speculaties, maar ook doembeelden. Elektriciteitskabels werden dwars door de straten gehangen waardoor burgers geëlektrocuteerd (een nieuw woord dat ‘elektriciteit’ en ‘executie’ combineerde) konden worden. Straatverlichting werd aanvankelijk gezien als een manier voor de overheid en vooral de politie om burgers beter in de gaten te kunnen houden. Elektriciteit bracht ook machtsconcentratie in de handen van bedrijven als General Electric, Westinghouse en Siemens. Op het internationale toneel was er een race om leidend te worden in de toepassing van de technologie en landen legden grote draadloze telegrafische netwerken aan om internationale communicatie te domineren.
Opgave AI
Afgelopen najaar publiceerde de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) het rapport Opgave AI: De nieuwe systeemtechnologie, dat werd opgesteld onder verantwoordelijkheid van Corien Prins en Haroon Sheikh. In een tweeluik zullen Prins en Sheikh stilstaan bij de vragen die AI oproept, vanuit de inhoud van dit WRR-rapport. In dit eerste deel verkennen ze de technologie. In een later te verschijnen tweede deel lichten ze toe wat de betekenis van AI is voor de positie van ons land in het mondiale speelveld en internationale samenwerking
De komst van kunstmatige intelligentie (AI) valt te vergelijken met de introductie van elektriciteit. Evenals bij elektriciteit, en overigens ook bij de stoommachine en de verbrandingsmotor, gaat het bij AI namelijk niet om een geïsoleerde technologie. Het is een technologie die zich onderscheidt door alomtegenwoordigheid, maar ook door een groot potentieel voor technische verbeteringen en complementaire innovaties. Juist wanneer het om een dergelijk type technologie gaat is het belangrijk ons als samenleving goed voor te bereiden op de omgang daarmee.
Maar dat roept direct belangrijke vragen op: over wat voor technologie hebben we het hier precies en wat is de betekenis daarvan voor de inzet van politiek, beleid én samenleving? Om wederom de vergelijking met elektriciteit te maken: het antwoord op de vraag wat elektriciteit is en doet, is redelijk eenvoudig te geven. Zo’n antwoord is bij AI veel moeilijker te vinden. Vooralsnog ontbreken een breed geaccepteerde definitie en een heldere afbakening. Dat is overigens niet verrassend. AI betreft namelijk een imitatie of simulatie van iets wat we zelf nog niet volledig begrijpen: menselijke intelligentie. Bovendien zien we een sterke interactie tussen het onderzoek naar menselijke intelligentie enerzijds en kunstmatige intelligentie anderzijds. We zouden kunnen stellen dat sprake is van een co-evolutie, waarbij dat wat wij als menselijke intelligentie beschouwen mee-ontwikkelt met AI.
Een vaststaand begrip van AI – zoals: de imitatie van volledige menselijke intelligentie – is ook niet noodzakelijk. Liever werken we met een omschrijving waarmee het hele palet van toepassingen dat nu en in de nabije toekomst de weg naar de praktijk vindt in beeld komt. We zoeken daarom aansluiting bij de definitie die wordt gehanteerd door de AI High-Level Expert Group die is opgezet door de Europese Commissie. Het gaat dan om ‘systemen die intelligent gedrag tentoonstellen door hun omgeving te analyseren en acties te ondernemen – met enige graad van autonomie – om specifieke doelen te bereiken’. Deze definitie is zeer goed werkbaar omdat ze de toepassingen omvat die wij op dit moment kwalificeren als AI en tegelijkertijd ruimte laat voor een toekomstige verschuiving van die kwalificatie. Onder deze definitie vallen dus naast geavanceerde AI-technieken als machine learning en deep learning ook de op algoritmen gebaseerde technieken die momenteel door veel overheidsinstellingen worden gebruikt, zonder dat daarbij machine learning wordt benut.
De verbrandingsmotor bracht ons talloze toepassingen die de omgeving zichtbaar en tastbaar veranderden. Zo is de auto nauwelijks nog uit ons straatbeeld weg te denken. Ook elektriciteitsmasten en inmiddels ook windmolens zijn bepalend voor ons landschap. De benutting en invloed van AI is veel minder eenvoudig in het vizier te krijgen. Natuurlijk zijn er datacenters, camera’s of drones als tastbare componenten van de technologie. Maar de werkelijk fundamentele invloed van AI is moeilijk zichtbaar en tastbaar te maken. Immers, de essentie van AI – intelligent gedrag tentoonstellen door de omgeving te analyseren en acties te ondernemen met enige graad van autonomie – uit zich niet of nauwelijks in de fysieke omgeving.
Toch, ook dat wat niet zichtbaar is, kan grote invloed hebben en krijgen. AI wordt inmiddels gebruikt in uiteenlopende toepassingen: van gezichtsherkenning tot vertaal-apps, van medische diagnoses tot anticiperen op criminaliteit, en van fraudebestrijding tot het beïnvloeden van wat we kopen, lezen en stemmen. We staan er nauwelijks bij stil, maar AI is in feite al lang onderdeel van ons dagelijks leven, via zoekopdrachten bij Google, de tijdlijn van Facebook, Siri – de digitale assistent van Apple – en de aanbevelingen van Amazon en Netflix. Talloze Nederlandse bedrijven gebruiken AI inmiddels om hun diensten te personaliseren (financiële sector), producten te vernieuwen (maakindustrie) en hun bedrijfsprocessen te optimaliseren (luchthaven). Ook overheden hebben het potentieel van AI ontdekt. De politie, defensie en douane zetten de technologie bijvoorbeeld in voor veiligheid, Rijkswaterstaat om de publieke ruimte te verbeteren, net als veel gemeenten met hun ‘smart city’-projecten. Kortom, AI zal onze wereld en samenleving onherroepelijk op fundamentele wijze gaan veranderen.
Om die verandering goed te kunnen duiden zullen we AI niet alleen moeten definiëren maar ook moeten typeren. Met wat voor soort technologie hebben we hier van doen? Het antwoord op deze vraag is wezenlijk willen we een beeld krijgen van de noodzakelijke maatregelen die overheid en samenleving de komende jaren moeten nemen om AI goed in de samenleving in te bedden. Als dat beeld ontbreekt lopen we namelijk risico’s als problematische beeldvorming, gebrekkige toepassing, uitsluiting van bevolkingsgroepen, een overheid die haar grip op de ontwikkelingen verliest en een zwakkere positie heeft op het internationale toneel.
We trokken hierboven een parallel met elektriciteit. Een dergelijke vergelijking werd al eerder gemaakt door de bekende onderzoeker Andrew Ng, evenals Google’s ceo Sundar Pichai en zijn voorganger Eric Schmidt. Talloze onderzoekers trekken parallellen met andere ‘grote’ technologieën en ook in de op beleid georiënteerde wereld worden technologieën als de stoommachine en de verbrandingsmotor genoemd. AI past in het rijtje van dit type technologieën omdat ze voldoet aan drie centrale criteria: alomtegenwoordigheid, een groot potentieel voor technische verbeteringen en complementaire innovaties.
Veelal wordt voor dit type technologieën een specifieke naam gebruikt. Bekend is de term general-purpose technology (gpt). Wij spreken over AI als systeemtechnologie. De term ‘gpt’ legt de nadruk op de eigenschap dat een technologie voor veel doelen gebruikt kan worden. Met ‘systeemtechnologie’ willen wij dat accent verleggen naar enerzijds het systeemkarakter van bepaalde technologieën en anderzijds de blik verbreden naar de systemische effecten ervan op de samenleving. Allereerst bestaat de technologie zelf uit een systeem met verschillende componenten. Elektriciteit functioneert in samenhang met generatoren, kabels en batterijen. Ook AI is onderdeel van een breder technisch systeem van data en hardware. Daarnaast doelen wij met systeemtechnologie op het effect dat een dergelijke technologie heeft op allerlei systemen en processen in de samenleving. Dat effect brengt een complex proces van aanpassing, oefening en onderhandeling met zich mee. Anders geformuleerd, deze term brengt het proces van inbedding in de samenleving in beeld. En vooral ook de effecten op de samenleving, maatschappelijke verhoudingen en publieke waarden die daarmee gepaard gaan.
Toch is het belangrijk voor ogen te houden dat AI een eigen dynamiek met zich meebrengt en zich daarom ook onderscheidt van bijvoorbeeld elektriciteit. Bovendien heeft AI bepaalde eigenschappen waardoor ze op onderdelen beter met de ene technologie te vergelijken valt dan met de andere. We spraken hiervoor al over het immateriële karakter van AI: eigenstandig bestaat AI niet, maar slechts als onderdeel van een product of dienst. In deze zin zijn objecten als een broodrooster, lamp of radio met elektriciteit, te vergelijken met thermostaten, horloges en machines met AI.
Ook in een ander opzicht valt de vergelijking met elektriciteit wel maar met de verbrandingsmotor veel minder te maken. Voor sommige technologieën, waaronder zowel elektriciteit als AI, geldt dat het vooral de nieuwsgierigheid van wetenschappers is die de ontwikkeling voortdrijft. Waar de technologie precies voor gebruikt gaat worden blijft lange tijd onduidelijk. Bij een technologie als de verbrandingsmotor daarentegen spelen verwachtingen over concrete toepassingen en daarmee ook commerciële factoren al vroeg een rol. In feite is de ontwikkeling van de technologie hier veel meer doelgericht.
Maar de verschillen en overeenkomsten met eerdere systeemtechnologieën zitten niet alleen op het vlak van de technologie zelf. Ook de tijdgeest waarin AI momenteel tot ontwikkeling komt is een geheel andere dan die ten tijde van bijvoorbeeld de stoommachine. Deze werd ontwikkeld in een laisser-faire-klimaat in Engeland, waarin de overheid maar een zeer beperkte rol speelde. De verbrandingsmotor en de auto kwamen op in tijden van keynesiaans overheidsbeleid in de economie. De context waarin digitalisering, en ook AI, in eerste instantie tot ontwikkeling kwam werd in belangrijke mate bepaald door relatief veel weerstand tegen een sterk sturende rol van de overheid in de economie. Dat de Big Tech-bedrijven zich zo dominant hebben kunnen ontwikkelen heeft veel te maken met de tijdgeest waarin ze groot werden.
Nauw verwant met de tijdgeest zijn natuurlijk ook ontwikkelingen als globalisering en democratisering. Wat betreft de eerste betekent het dat vraagstukken rond AI van het begin af aan ook een mondiaal karakter hebben. Natuurlijk, ook in het verleden was de ontwikkeling van een technologie niet gebonden aan landsgrenzen. Maar de mate waarin de effecten deze grenzen nu overschrijden en toenemend irrelevant maken, neemt met de tijd toe door verdere globalisering. Daarbij gaat het niet alleen om de reikwijdte van markten, relevant zijn ook allerhande internationale kaders, zoals handelsverdragen, mensenrechten en technische standaarden, die het internationale verkeer in banen leiden.
Een laatste reden waarom we de ontwikkelingen rond AI niet in alle opzichten kunnen vergelijken met eerdere systeemtechnologieën houdt verband met de democratisering van onze samenleving. Ten tijde van de industriële revolutie konden fabrieksarbeiders maar beperkt voor zichzelf opkomen omdat de meesten van hen bezig waren te voorzien in hun eerste levensbehoeften. In onze tijd participeren veel meer mensen in het openbare leven en zijn de belangen van werknemers beter vertegenwoordigd. Waar in het verleden ondernemers en overheden veel gemakkelijker hun stempel op de samenleving konden drukken, hebben in de huidige tijd het maatschappelijk middenveld, onderzoekers, individuen en de media een veel sterkere positie. Dat betekent ook dat zij eerder dan bij vroegere systeemtechnologieën worden gemobiliseerd rond AI en zich zullen mengen in de maatschappelijke inbedding van deze technologie.
Een belangrijke vraag is waarom de overheid zich met innovatie en het gebruik van een technologie zou moeten bemoeien. Kan de ontwikkeling van AI niet aan de markt en de samenleving worden overgelaten? Een eerste antwoord is natuurlijk: de overheid kan innovatie stimuleren en, sterker nog, moet dat soms ook doen willen we het verdienvermogen van ons land veiligstellen. Zo sprong het kabinet begin deze eeuw asml financieel te hulp. Maar interventie door de overheid kan ook noodzakelijk zijn om innovatie een bepaalde kant op te sturen dan wel bepaalde publieke belangen te garanderen. Deze tweede rol heeft alles te maken met het feit dat technologie niet een neutraal instrument is. Het ‘doet iets’ met onze samenleving, onze omgeving en ook andere technologieën.
Zo leiden grote technologische veranderingen niet alleen tot andere producten en diensten, maar brengen ze ook bepaalde manieren van denken, werken en principes van organisatie met zich mee. Neem de productie in fabrieken die opkwam met de industriële revolutie en de ‘vernetwerkte’ productie door elektriciteit. Of denk aan de verbrandingsmotor, die niet alleen auto’s bracht maar ook de lopende band. En daarmee stonden arbeidsomstandigheden ter discussie. AI is natuurlijk nog volop in beweging, waardoor dit type veranderingen niet definitief te karakteriseren en te duiden zijn. Toch kunnen we wel al enkele contouren onderscheiden. Die bouwen voort op eerdere vormen van digitalisering en voegen daar nieuwe elementen aan toe.
Allereerst zien we veranderingen in de aard van objecten en producten. Anders dan traditionele producten die op een gegeven moment de fabriek verlaten en verkocht worden, worden zaken in de digitale wereld continu herschreven en aangepast. Digitale producten zijn eigenlijk nooit af. En dan gaat het inmiddels al lang niet meer alleen om de updates die het functioneren van onze computers om de haverklap aanpassen. Ook onze auto, e-reader en andere met het internet verbonden zaken veranderen continu. Verbonden hiermee is dat fysieke objecten die een digitaal aspect krijgen daarmee hun losstaande karakter verliezen. De grenzen tussen objecten, tussen gebruiker en platform, tussen de beslotenheid van ons huis en de buitenwereld, worden als het ware poreus doordat ze onderling zijn verbonden en in elkaar overlopen. Deze veranderingen in de aard van fysieke objecten brengen allerlei vraagstukken mee over (cyber)veiligheid, privacy, aansprakelijkheid en verantwoordelijkheid.
Ten tweede worden – paradoxaal genoeg – individuen transparanter, terwijl juist veel van de technologie onzichtbaar wordt. Op een bijeenkomst in Davos in 2015 voorspelde Eric Schmidt dat het internet zal verdwijnen. Hij bedoelde niet dat het ten onder zou gaan, maar verwees naar een invloedrijk artikel van Mark David Weiser die het idee van ‘ubiquitous computing’ introduceerde: een alomtegenwoordige architectuur van digitale technologie. In de woorden van Weiser: ‘De meest prominente technologieën zijn die technologieën die verdwijnen. Ze weven zichzelf in het weefsel van het dagelijks leven totdat zij er niet meer van te onderscheiden zijn.’ Onze samenleving wordt weliswaar nog steeds gevormd door interacties tussen – zichtbare – mensen, objecten en grondgebied van landen, maar digitalisering voegt daar een dimensie aan toe. Dat is de onzichtbare wereld van internetadressen, clouddiensten en datacenters die op een veelal onopgemerkte manier door al die interacties tussen mensen, objecten en landen heen lopen. Het ontstaan van deze goeddeels onzichtbare wereld roept vragen op ten aanzien van marktrelaties, machtsconcentraties en afhankelijkheden.
Een laatste punt dat wij hier onder de aandacht brengen betreft de invloed van een technologie op weer andere technologieën. In de literatuur spreekt men in dit verband over ‘tweede-orde-technologieën’. Dat is bijvoorbeeld de rem die ingrijpt op de banden van de auto. Maar belangrijk is ons hier te realiseren dat het nog steeds de mens is die de rem indrukt. Bij AI verandert dit. Wat AI namelijk mogelijk maakt, zijn ‘derde-orde-technologieën’, die andere technologieën laten ingrijpen op weer andere technologieën zonder dat daar een mens aan te pas komt. De zelfrijdende auto zou bijvoorbeeld ook de beslissing om te remmen kunnen nemen. Overal waar AI-systemen autonoom tot beslissingen kunnen komen, kan de structuur van een derde-orde-technologie ontstaan. Zo gaat het bijvoorbeeld al met bepaalde verkeersboetes. Een camera maakt een foto van een auto, stelt vast dat er sprake is van een snelheidsovertreding en zorgt ervoor dat een boete verstuurd wordt naar het adres van de eigenaar van de auto. Deze autonomie roept onder andere vragen op over menselijke controle, verantwoordelijkheid en het toerekenen van handelingen met rechtsgevolgen.
AI wordt inmiddels op tal van plaatsen ingezet. Dat levert economische en ook maatschappelijke winst op. Tegelijkertijd zijn er ook signalen van risico’s en negatieve implicaties. Met als meest illustratieve voorbeeld wellicht de problematische gevolgen van de inzet van – door AI gestuurde – sociale media bij verkiezingen, zoals destijds bij de Amerikaanse president Trump. En in eigen land laat de toeslagenaffaire zien dat de Belastingdienst vertrouwde op algoritmen die medewerkers amper begrepen of konden uitleggen.
De toon van het maatschappelijk en politiek debat over AI is daarom ook niet uitsluitend positief. Integendeel, zo lijkt het soms wel. Toch is dat – wederom met een blik op de geschiedenis – niet zo verrassend. Het is net als de eerste auto’s die de weg op gingen zonder veiligheidsgordels, airbags, verzekeringen, nummerplaten, verkeersregels of rijexamens. Of als het begin van de massaproductie van voedsel en medicijnen zonder veiligheidsstandaarden, bijsluiters, keurmerken of toezichthouders. In deze eerste fase zal er ook bij AI veel fout gaan en ontstaan allerlei misstanden door gebrek aan ervaring of duidelijke spelregels.
Een groot risico is echter dat we door alle negatieve berichtgeving het zicht verliezen op de positieve bijdrage die AI kan hebben. Of dat we dusdanig in beslag genomen worden door de risico’s op de korte termijn dat we de vaak grotere gevolgen voor de lange termijn uit het oog verliezen. Mede daarom is het van belang dat we de discussie over AI en de impact ervan vooral ook structureel benaderen. Dat impliceert dat we ons niet alleen richten op acute vraagstukken en knelpunten, maar een gedegen beeld ontwikkelen van de langere termijn. En daarbij nadrukkelijk aandacht besteden aan de rol die de overheid heeft te vervullen.
Hoe kunnen we een dergelijk beeld ontwikkelen? We noemen hier een open debat, inspraak van betrokkenen, een overheid die kaders stelt en een veilige en welvarende economie en samenleving. In essentie vloeien deze opgaven voort uit de fundamenten waarop onze samenleving is gestoeld: de publieke ruimte (de opgave: demystificatie), bedrijfsvoering (de opgave: contextualisering), interactie tussen maatschappelijke actoren (de opgave: engagement), macht (de opgave: regulering) en internationale betrekkingen (de opgave: positionering). Belangrijk om te benadrukken is dat deze fundamenten en dus ook de vijf opgaven niet los van elkaar of volgtijdelijk zijn te begrijpen, maar in hun onderlinge samenhang moeten worden bezien. Wat behelzen deze opgaven precies?
Cruciaal is allereerst demystificatie. Met andere woorden: werken aan een realistische beeldvorming over AI. We kennen allemaal de klassieke plaatjes met angstbeelden over de inhumane werking van stoommachines en auto’s. Evenzo bij AI. Het is geen kwaadaardige robot en ook geen oplossing voor alles. Als we onrealistische beelden niet adresseren, kan de samenleving te veel gaan vertrouwen op AI-systemen, met allerlei kwalijke gevolgen. Het kan ook leiden tot afkeer van AI waardoor de vruchten er niet (voldoende) van geplukt worden. Overtrokken beelden werken ten slotte in de hand dat cruciale vragen over de inbedding van de technologie niet publiek en politiek bediscussieerd worden. Een realistische beeldvorming helpt teleurstellingen voorkomen en kan ervoor zorgen dat burgers de goede kanten van de technologie durven te omarmen.
Ten tweede moeten we ook verder kijken dan alleen de AI-technologie zelf. De context waarin de technologie moet functioneren is eveneens belangrijk wil zij in de praktijk voldoende werken. Om de auto bijvoorbeeld veilig te laten rijden waren destijds allerlei aanpassingen nodig. Denk aan (snel)wegen, bewegwijzering, standaarden, keuringen, training, enzovoort. Zo ook vereist AI aanzienlijke veranderingen op de werkvloer, in de vaardigheden van werknemers en de bredere technische omgeving om deze ‘te kunnen lezen’. Maar net als bij de aanleg van snelwegen: niet alles kan tegelijk. Prioriteiten moeten dus gesteld worden, bijvoorbeeld door in eerste instantie meer aandacht te besteden aan het benutten en faciliteren van AI in sectoren die belangrijk zijn voor ons land. Bijvoorbeeld omdat we een mondiale economische positie hebben te verdedigen – zoals logistiek en landbouw. Maar ook omdat daar grote maatschappelijke belangen zitten, zoals de zorg, het onderwijs en duurzaamheid.
De derde opgave is de noodzaak van beter maatschappelijk tegenspel. Bij nieuwe systeemtechnologieën hebben grote bedrijven en overheden de middelen en belangen om vroege gebruikers van innovaties te zijn. Partijen in het maatschappelijk middenveld raken doorgaans pas later betrokken. Als engagement achterblijft kunnen bestaande machtsongelijkheden zich verdiepen. Of machtsrelaties tussen overheden en grote bedrijven enerzijds en burgers anderzijds verder scheefgroeien. De wijze waarop de stoommachine werd ingezet in fabrieksmatige productieprocessen marginaliseerde bijvoorbeeld de arbeiders. Bij AI kunnen ook publieke waarden als gelijkheid, privacy, non-discriminatie en democratische principes als inspraak en pluriformiteit op de tocht komen te staan. Tegenspel is cruciaal. Verschillende groepen van de bevolking, veelal vertegenwoordigd door het maatschappelijk middenveld, zullen daarom bij een nieuwe technologie moeten worden betrokken.
Ten vierde is een meer strategische visie op regulering en dus wetgeving noodzakelijk om te voorkomen dat wetgeving voor de implicaties van AI nogal reactief, ad hoc en specifiek voor een kwestie is. Dat de wetgever de AI-ontwikkelingen de komende jaren vooral ook dient te beschouwen vanuit een perspectief op de bredere inrichting van de samenleving is wederom historisch te illustreren. Of het nu om de auto, het vliegtuig of elektriciteit gaat: telkens weer diende de wetgever keuzes te maken die veel verder reikten dan individuele beleidsdossiers. Bij deze voorbeelden resulteerde dat in een visie op ruimtelijke ordening en de inrichting van de fysieke leefomgeving. Een soortgelijke strategische agenda is hard nodig voor de digitale leefwereld. Onder meer om te voorkomen dat de risico’s van massasurveillance door en machtsconcentratie bij een beperkt aantal techbedrijven de positieve bijdrage van AI gaan overschaduwen.
Ten slotte – en hier ligt de vijfde opgave – is ook de internationale positie van Nederland in het geding. In een wereld waarin AI aan belang wint moeten het verdienvermogen en de veiligheid van ons land ook in het licht van deze ontwikkeling worden bezien. Wat betreft de eerste is het belangrijk dat ons land aandacht heeft voor de belangrijke keuzes die momenteel op het terrein van standaardisatie worden gemaakt. Wie eerdere systeemtechnologieën weer in gedachten neemt, beseft hoe cruciaal standaarden zijn. Nederland moet in samenwerking met andere Europese landen AI-toepassingen en een goede infrastructuur voor AI ontwikkelen en zich inzetten voor wereldwijde regels en standaarden vanuit wat wij een ‘AI-diplomatie’ noemen.
Met een zekere regelmaat hebben wij de afgelopen periode de vraag gekregen: kan Nederland überhaupt wel sturen op een innovatie als AI? Digitalisering en ook deze nieuwe technologie zijn immers niet aan grenzen gebonden? Wie de toeslagenaffaire in herinnering brengt beseft dat er volop keuzes door onze eigen overheid zijn te maken. De komende tijd liggen dan ook cruciale keuzes voor die de ontwikkelingen in ons land op de langere termijn aangaan.