Kim Kardashian werd veertig en vierde dat op een privé-eiland met een groep vrienden en familie, onder wie haar toenmalige echtgenoot Kanye West. West, die zichzelf graag met Jezus Christus vergelijkt, bewerkstelligde voor de gelegenheid een wederopstanding: hij liet een hologram maken van Kims overleden vader Robert Kardashian. Het was een bijzonder staaltje kunstmatige intelligentie: een realistische, bewegende, pratende versie van een man die al twintig jaar dood is. ‘Een speciale verrassing uit de hemel’, noemde Kim het. Haar digitale vader vertelde haar dat ze getrouwd was met ‘de meest, meest, meest, meest, meest geniale man in de hele wereld’.
Dichter bij huis: in opdracht van De Correspondent werd vorig jaar ook een deepfake gemaakt, maar dan van Mark Rutte, waarin de digitale premier aankondigingen deed die volgens De Correspondent eigenlijk door de echte zouden moeten worden gedaan: deze Rutte neemt de klimaatcrisis serieus, deze Rutte biedt zijn excuses aan. Voor een realistische deepfake-video heb je een computer nodig die getraind is op databases van meer dan tachtigduizend foto’s van willekeurige mensen. Het liefst heb je ook nog zesduizend scherpe foto’s van het gezicht dat je nabootst.
Omgekeerd: The New Yorker publiceerde in 2019 een artikel van Jia Tolentino over het fenomeen Instagram Face. Gezichten die voorbijkomen op Instagram beginnen steeds meer op elkaar te lijken, betoogt Tolentino, met als blauwdruk ongeveer het gezicht van Kim Kardashian. Niet alleen gebruiken we graag filters om onze selfies digitaal op deze ideale vrouw te laten lijken, we gaan ook naar de plastisch chirurg met haar foto of met onze eigen gefilterde selfie om onze fysieke gezichten te laten aanpassen: dikkere lippen, een dunnere neus, amandelvormige ogen, een smalle kaak.
In 2021 werden naar schatting per dag 92 miljoen selfies genomen. Die zomer publiceerde de nieuwswebsite Buzzfeed een lijst van bedrijven, overheden en organisaties die gebruikmaken van Clearview, een database van alle gezichten die op het internet te vinden zijn, foto’s die mensen zelf op sociale media zetten, maar ook van mensen die geen idee hebben dat ze op de foto staan. Op de lijst staan enkele overheden en de Nederlandse politie. Het zorgde voor een berg van Nederlandse Wob-verzoeken, maar tot dusver is geen link met Clearview bewezen. Je zou er bijna door vergeten dat de Nederlandse politie al gebruikmaakt van een gelaatsvergelijkingsdatabase, Catch, en in diezelfde zomer 218.000 onterecht opgeslagen foto’s moest verwijderen.
Dit voorjaar werd bekend dat de Europese Unie een enorm biometrisch datasurveillance-systeem aan het bouwen is, waarmee lidstaten hun fotodatabases kunnen uitwisselen. Volgens het voorstel zouden per zaak foto’s mogen worden gedeeld van het verdachte gezicht én tot tweehonderd gezichten die erop lijken. De Nederlandse database bestond in 2019 uit zo’n 2,2 miljoen opgeslagen foto’s, van 1,3 miljoen mensen.
Deze voorbeelden gaan allemaal over de toepassing van gezichtsherkenningstechnologie. De software heeft een vlucht genomen sinds de opkomst van het internet. De foto’s die je uploadt op sociale media leggen een reis af. Ze worden eerst door privébedrijven opgespoord en daarna opgeslagen in databases, wat geen verrassing mag heten in het post-Snowden-tijdperk. Sommige van die verzamelingen worden direct verkocht aan overheden of andere privébedrijven. Andere worden gebruikt om gezichtsherkenningssoftware te trainen, dat kan namelijk het best op basis van echte mensen. Zo kunnen computers mensen steeds sneller herkennen en profileren: gezichtsfilters worden geavanceerder en deepfakes realistischer. Aan het einde van de reis wordt goed getrainde software ingezet om de selfies op je tijdlijn te doorzoeken en te identificeren, bijvoorbeeld zodra jij of iemand die op jou lijkt door de politie verdacht wordt van een misdrijf.
Er is iets vreemds aan de hand met de simultane opkomst van zeer realistische deepfakes en geavanceerde digitale filters: het fysieke en het digitale gezicht benaderen elkaar geleidelijk bijna volledig. Zelfs in de wetenschap dat we onze beeltenissen een onbekende database in slingeren, schrikken we er nog niet voor terug onze foto’s online te delen. Het is leuk om te zien hoe je je digitale spiegelbeeld kunt vervormen, als een lachspiegel of een make-over, en sommige mensen gaan nog een stapje verder: het filter ervaren ze als mooier of passender, en met make-up of cosmetische ingrepen proberen ze het digitale gezicht in het echt na te bootsen. En terwijl wij onze fysieke gezichten ‘digitaliseren’, worden de gegevens die we tijdens dat proces delen gebruikt om echt digitale gezichten, zoals deepfakes, realistischer te laten lijken, zo echt dat ze niet van het origineel te onderscheiden zijn.
‘Every selfie is a cry for help’, zegt de Amerikaanse stand-up-comedian Taylor Tomlinson. Waarom blijven we delen, zelfs als we weten wat de gevolgen daarvan zijn? In zijn essay Alles dient alleen nog als illustratie bij het ik over online ijdelheid beschrijft Bas Heijne de Parijse selfiecultuur die is ontstaan als gevolg van de populariteit van de Netflix-serie Emily in Paris. Het is ‘inmiddels een vertrouwd gezicht’, schrijft hij: ‘Kleine groepjes modieuze jonge vrouwen, van wie er altijd één wat betreft schoonheid en glamour boven de anderen uitsteekt. De influencer poseert uitdagend voor straatjes in Montmartre, op statige bruggen over de Seine, allemaal locaties die ook in de Netflix-hit Emily in Paris als romantisch decor dienen.’
Heijne beschrijft een hang naar authenticiteit en jezelf zijn die ertoe leidt dat je eenzaam wordt en je je positie constant moet bevechten, door bijvoorbeeld selfies te delen waar je likes en clicks voor krijgt. Het ik maakt van de rest van de wereld een decor waarvoor het staat te schitteren. Zo ook de jonge vrouwen in felgekleurde barretjes onder de Eiffeltoren.
Maar, met het risico te vrij te theoretiseren: selfies dienen over het algemeen helemaal niet als een narcistische bevestiging van het geïndividualiseerde zelf. Veel vaker offert de maker haar ‘authentieke zelf’ in een selfie juist op ten gunste van groepsidentiteit. Poses, outfits, achtergronden, filters worden eindeloos gereproduceerd. De Emily’s in Paris zijn daar een perfect voorbeeld van. Waar de narcist zoekt naar zelfexpressie en onderscheiding willen de barretjes juist signaleren dat ze deel uitmaken van een bredere trend, van een club. Parijs is niet de achtergrond, de wens is om met de stad en met Emily samen te vallen. Hetzelfde geldt voor gezichtsfilters die je over je eigen gezicht legt, waardoor jij weliswaar anders wordt – wat interessant is om te zien – maar waarbij je ook een stukje van je authenticiteit inlevert om sprekend op andere Instagrammers te lijken.
Om een digitaal zelf te hebben moet je doen als de anderen. Die paradox zit heel diep in de internetcultuur, zegt internetcriticus Geert Lovink in zijn kamer aan de Hogeschool van Amsterdam. Het is een klein kantoor met aan twee muren lange boekenkasten, waarin de volledige geschiedenis van de internetkritiek is terug te vinden, zijn eigen boeken, filosofie en rijen in verschillende talen. ‘In de westerse cultuur zit het idee heel diep dat je een uniek zelf hebt. Er zijn erg veel mensen, jonge mensen vooral, die hyperconformisme aanhangen zonder het zelf zo te noemen.’
In zijn boek Sad by Design doet Lovink een poging de selfiekritiek voorbij de morele beschuldiging van narcisme te tillen. Selfies posten is volgens hem vooral een vorm van signaleren dat je er nog bent. ‘Het probleem is noch zelfzuchtigheid noch zelfingenomenheid’, schrijft hij, ‘maar eerder ons gebrek aan bewustzijn over de status van digitale portretten ten tijde van gezichtsherkenningssoftware.’ Volgens Lovink legt de selfiecultuur vooral bloot hoe geobsedeerd sociale media zijn met ID-registratie, en de noodzaak om je visuele aanwezigheid steeds opnieuw op verschillende manieren te bevestigen.
Eigenlijk zou je de these moeten testen, vindt Lovink, of digitale en fysieke gezichten elkaar langzaam benaderen. ‘Een groot onderdeel van gezichtsherkenning gaat over de assen in je gezicht. Als een deel daarvan niet meer leesbaar of uniek is, zoals met de mondkapjes tijdens de coronacrisis, dan houd je alleen ogen over. Dus als mensen identieker worden en zich helemaal zouden richten op een ideaal, zou je dan ook niet kunnen zeggen dat een boel van die software daarmee onbruikbaar wordt?’
Niet alleen mensen, ook trends gaan op het internet al snel op elkaar lijken. Dat heeft volgens Lovink te maken met de niet gevoerde discussie over schaalvergroting, toen het internet rond de eeuwwisseling breed beschikbaar werd. ‘We wilden dat iedereen toegang zou krijgen, en impliciet namen we aan dat mensen door zelforganisatie en het maken van eigen netwerken van onderop een soort differentiatie zouden creëren. Maar dat is niet gebeurd, en dat is het problematische. De schaalvergroting heeft wel plaatsgevonden, maar differentiatie heeft plaatsgemaakt voor generieke modellen.’
Wat het op het internet goed doet, wordt heel groot, versterkt door algoritmes, en daaruit voortvloeiend verdwijnen kleinere, originele dingen. Terug naar het online gezicht: zou een on-Instagrambare schoonheid als Elizabeth Taylor het nu nog goed doen? ’Nee’, zegt Lovink. ‘Ik denk het niet.’
De esthetiek van het filter gaat volgens Jia Tolentino richting ‘generic sameness’, een generiek zelfde. Ze schrijft: ‘Accounts zoals Insta Repeat illustreren de eentonigheid van het platform door rasters van niet te onderscheiden foto’s te plaatsen, die door verschillende gebruikers zijn gepost: een persoon in een gele regenjas die aan de voet van een waterval staat, of een hand die een fel herfstblad omhooghoudt. Sommige dingen presteren gewoon goed.’
‘Meestal nemen ze als ze binnenkomen foto’s mee. Selfies, digitale voorbeelden.’ Aan de rand van de Bussumse heide staat een groot, roodstenen pand, met indrukwekkende hoge muren, kandelaars aan het plafond en achterin een ruimte met een lange houten tafel. Aan de muur hangt een groot scherm, waarop Callum Faris, plastische en reconstructieve aangezichtschirurg en kno-arts, een 3D-foto laat zien van een vrouw. Met zijn cursor gaat hij langs haar wangen, die hij voller maakt, haar wenkbrauwen die hij hoger trekt. De vrouw lijkt tien jaar jonger.
Wie een afspraak maakt bij Face Institute wordt op verzoek digitaal ingescand. Op het beeldscherm laten Faris en zijn collega, cosmetisch arts knmg Susan Schmidt, zien wat haalbaar is. De artsen gebruiken technologie die net als filters gebaseerd is op gezichtsherkenning, maar dan om te laten zien voor welke verandering je kleine of zelfs geen ingrepen nodig hebt, en welke aanpassingen juist ingrijpender zijn dan ze lijken. Als je bijvoorbeeld je ogen groter wil laten lijken, kost dat soms een ingrijpende schedeloperatie. Een versmalling van je kaak kan alleen met verregaande kaakchirurgie. En er zijn ook grenzen aan hoe klein je neus kan zijn, voor je er niet meer door kunt ademen.
In deze kliniek zijn cosmetische ingrepen maar een deel van de behandelingen. De artsen doen ook aan reconstructies, het behandelen van littekens en het oplossen van complicaties bij ingrepen uit andere klinieken. Volgens Faris en Schmidt komt zo’n acht procent binnen met de vraag op een filter te lijken. ‘Laatst liet iemand me een foto zien van Instagram’, zegt Faris, zijn doktersjas nog aan. ‘Met een heel strakke huid. In het echte leven kun je je gezicht helemaal niet zo strak trekken. Ik zie zoiets niet elke dag, maar het is een deel van onze patiënten.’
Faris herkent niet alleen het idee van het generieke zelfde, hij past het ook toe. ‘We hebben klassieke ideeën over schoonheid. Er is genoeg onderzoek.’ Symmetrie vinden mensen vaak mooi. En facial averaging: je legt portretten van een groep individuen op elkaar, vrouwen uit Nederland bijvoorbeeld, en dan krijg je een soort gemiddelde dat veel mensen mooi vinden. ‘Dat gebruiken we wel eens als mensen binnenkomen die er beter uit willen zien, zonder dat ze precies weten hoe. Het is een maat om in te schatten hoe “mooier” eruitziet.’ Maar toch, in dat gemiddelde zit niet het hele verhaal: ‘Angelina Jolie heeft een sterke kaak, dat is een masculiene trek, dus niet gemiddeld, en toch is ze een aantrekkelijke vrouw. En dan zijn er nog trends, grote lippen, brow lifts, kattenogen. Er zijn dingen die klassiek mooi zijn en er zijn sociale-mediatrends, waarbij een influencer een bepaalde look heeft die mensen willen nabootsen.’
Dat nabootsen is vooral iets wat terugkomt bij jonge mensen, benadrukt Schmidt. Voordat de artsen iemand behandelen, hebben ze meerdere consulten waarin ze de vraag bespreken, maar ook controleren of iemand geen last heeft van psychologische problemen. Schmidt wil altijd weten waarom iemand binnenkomt, ze was eerst huisarts en probeert een holistisch beeld te krijgen van de situatie. ‘Er zijn verschillende types patiënten. Jonge mensen zijn vaak het love me-type, ze willen erkenning en acceptatie in de groep. Oudere mensen hebben een meer ontwikkeld idee van wie ze zelf zijn, maar die herkennen zich soms niet meer in de spiegel. Ze willen juist meer op zichzelf lijken, van tien, vijftien jaar terug.’
Om de morphing-software te gebruiken moet je als chirurg heel precies weten wat je kunt. Het is een communicatiemiddel om onrealistische verwachtingen tegen te gaan, niet te creëren. Faris en Schmidt gaan soms nog verder en maken ook 3D-prints van hun klanten. ‘Wij nemen je foto’s en gaan kijken wat we denken dat we je kunnen geven. Dat is compleet anders dan sommige andere klinieken, die gewoon doen wat gevraagd wordt. Wij kunnen aantonen: wat je wil gaat gewoon niet gebeuren.’
Schmidt probeert mensen proporties te leren, hoe mooi volle lippen je staan, is gerelateerd aan hoe groot je ogen zijn. ‘Wij gebruiken parameters om een harmonische en natuurlijk uitziende lip te creëren. Daar zijn bepaalde regels voor, dus dan vraag ik: waarom wil je zo’n grote lip hebben, want in jouw gezicht gaat het er niet mooi uitzien.’ Schmidt laat de modellen zien, rasters waarbij afstanden tussen verschillende delen van het gezicht zijn uitgetekend volgens de gulden snede. ‘Een beetje wiskunde helpt soms.’
Gezichtsherkenning draait om wiskunde, om assen. De beelden die Schmidt laat zien, van gezichten met daarover lijnen in bepaalde hoeken, zien er precies zo uit als de eerste berekeningen van de Amerikaanse wiskundige Woody Bledsoe, een van de grondleggers van moderne gezichtsherkenning. Zijn werk was erop gericht een manier te vinden om computers te leren de afstanden te herkennen tussen neus, mond, kin, tussen wenkbrauw, ooghoek en oor, voor het gezicht in verschillende hoeken, met verschillende uitdrukkingen, en ook wanneer het ouder wordt. Dat deed zijn team op basis van een kleine, zelf aangelegde database van gezichten en met een rand-tablet, een soort iPad waarop studenten de belangrijkste gezichtspunten op de foto’s aanstipten.
Het systeem dat Bledsoe verzon, lijkt op dat van het mugshot, schrijft Wired-journalist Shaun Raviv. Die techniek, in 1879 bedacht door de Franse criminoloog Alphonse Bertillon, beschreef mensen op basis van elf fysieke metingen, over het hele lijf. Volgens hem was ieder mens uniek als je maar lang genoeg bleef meten. Alle vooroordelen die je je daarbij kunt voorstellen, zoals het feit dat Bledsoe alleen werkte met foto’s van witte mannen, of dat je gezichtsmetingen kunt gebruiken voor etnische profilering, zijn ingebakken in huidige systemen. Nog steeds worden gezichten van kleur slechter herkend en sneller als verdacht aangemerkt.
Raviv schrijft dat bijna alle obstakels die Bledsoe tegenkwam inmiddels zijn weggevallen. Om te beginnen is er nu een onuitputtelijke voorraad gedigitaliseerde beelden. ‘En dankzij de vooruitgang op het gebied van machine learning, opslagcapaciteit en verwerkingskracht onderwijzen computers in feite zichzelf. Met een paar rudimentaire regels kunnen ze stapels en stapels gegevens ontleden en uitzoeken hoe ze vrijwel alles kunnen matchen, van een menselijk gezicht tot een zak chips – geen rand-tablet of Bertillon-metingen nodig.’
‘Algoritmische modellering en de uitbreiding van kapitaal naar elke levenssfeer maken allemaal deel uit van één en hetzelfde proces’, schrijft Lovink. Het doel is steeds hetzelfde: substantie moet eerst worden gekwantificeerd om het om te zetten in financiële waarde; daarna moet het organische en vitale worden omgezet in technische middelen. ‘Alles moet losgemaakt worden van elk soort substraat, van alle lichamelijkheid, van alle stoffelijkheid; alles moet gekunsteld, geautomatiseerd en geautonomiseerd worden. Alles moet worden gekwantificeerd en geabstraheerd.’
Wat gebeurt er als je een gezicht loskoppelt van de eigenaar en abstract maakt? In zijn essay Hypercultuur uit 2022 beschrijft de Duits-Koreaanse filosoof Byung-Chul Han de cultuur van een digitaal verbonden maatschappij waarin razendsnel wordt gecommuniceerd. In deze maatschappij is er geen echt verschil meer tussen inheems en buitenlands, dichtbij en veraf, het bekende en het exotische. Vanuit elke cultuur mag worden geleend. Er ontstaat een bricolage, een remix. In reproductie verliezen objecten en culturen volgens Han hun aura. Wat overblijft zijn niet alleen cultuurreplicaties zonder enige authenticiteit: de culturen verworden tot iets nieuws, een andere werkelijkheid, zonder aura, zonder tijd of plaats. Dat noemt hij hyperrealiteit. Niet echt, niet nep, maar een nep soort echtheid.
Han is niet de eerste die over het aura van tijd en plaats begint. Hij citeert Walter Benjamin, die in zijn essay Het kunstwerk in het tijdperk van zijn technische reproduceerbaarheid beschrijft hoe de fotografie het kunstwerk van het aura ontdoet. Zelfs een perfecte kopie van een kunstwerk mist volgens Benjamin de unieke kwaliteit van het bestaan op één plek, op één moment, inclusief de veranderingen die het kunstwerk heeft ondergaan: misschien is het aangetast, misschien is het vaak van eigenaar gewisseld. Dat voegt allemaal toe aan het aura.
Om van een kunstwerk een gezicht te maken, door het los te koppelen, verliest het wellicht die belangrijkste kern: authenticiteit. Volgens Benjamin is dat wat er verloren gaat in tijden van mechanische reproduceerbaarheid. Zelf generaliseert hij zijn uitspraak zo: ‘De techniek van reproductie ontkoppelt het gereproduceerde object van het domein van traditie.’
De vraag is dan wat traditie is, in het geval van gezichten. Tolentino beschrijft iets wat lijkt op hypercultuur in haar essay over Instagram-gezichten: ‘Het was alsof de algoritmische neiging om alles af te vlakken tot een samenstelling van de grootste hits had geresulteerd in een schoonheidsideaal dat de voorkeur gaf aan witte vrouwen die in staat waren een look van ontworteld exotisme te produceren.’ En ook Schmidt en Faris merken dat filters waarmee mensen soms binnenkomen van verschillende etniciteiten lenen.
Hypercultuur zou je een versmolten systeem kunnen noemen. Kunsten, culturen, gezichten, wetenschap, worden opnieuw vermengd en kunnen voor alles gebruikt worden. Het is een laag over de werkelijkheid, waarin alles alles kan zijn, zijn authentieke waarde wellicht verliest, maar waar ook nieuwe waarden worden erkend.
‘Ik krijg op feestjes wel eens de vraag van meisjes: kun je mij als Kim Kardashian fotoshoppen’, zegt deepfake-kunstenaar Bob de Jong in het café onder in het Volkshotel in Amsterdam. Hij is de maker van onder meer de deepfake van Mark Rutte van De Correspondent. Volgens hem is hyperrealiteit een heel logische ontwikkeling: ‘In de kunstgeschiedenis proberen mensen de werkelijkheid altijd op een bepaalde manier weer te geven. Inmiddels zijn we zo ver, meer dan haarscherpe fotografie of film wordt het niet. Voor het eerst in de geschiedenis zijn we nu in een fase beland waarin we de werkelijkheid niet meer proberen op te tekenen, maar kunnen synthetiseren, we kunnen de wereld namaken. We nemen geen genoegen meer met realistisch, maar willen hyperrealistisch, een hyperlaag over de werkelijkheid.’
‘Het synthetiseren van mensen’, waar De Jong dagelijks mee bezig is, roept bij veel mensen angst op, vertelt hij: ‘Ik snap dat, want daarmee komt het vraagstuk op van wat echt is en wat niet. Maar ik ben fan van Nietzsche en ik schop graag tegen dingen aan. Ik heb het idee dat we in een waarheidsfetisj leven en dat we vastgelijmd zijn aan een idee van binariteit: echt of niet. Die verwarring zoek ik als maker op om te laten zien dat de werkelijkheid gefragmenteerd is. Ik vind het gezond, eerlijk gezegd.’
De Jong werkt samen met het team van voetballer Lionel Messi, die niet veel tijd heeft om in reclamefilmpjes te verschijnen. Met zijn portret maakt De Jong commercials waar Messi deels zelf in zit, deels als deepfake. ‘Dat is de revolutie waar we nu in zitten.’ Voor Messi-filmpjes gebruikt De Jong zo’n zesduizend foto’s van de voetballer, waarop hij tussen de veertig en de tachtig gezichtspunten meet. Daar laat hij zijn computer op trainen. Hoe meer punten, hoe meer rekenkracht en hoe langer het duurt. ‘Het gaat om afstanden en hoeveelheid. Als je vijf punten meet voor de wenkbrauw, dan moeten ze steeds alle vijf corresponderen met wat daaromheen gebeurt, met het oog en de neus.’
Niet dat De Jong de gevaren van deepfakes niet ziet, maar hij vertrouwt erop dat er genoeg mensen zijn, journalisten, wetenschappers, onderzoekers, die het neppe kunnen onderscheiden. ‘Maar wat veel gevaarlijker is, en daar komt geen creativiteit of technologisch vermogen bij kijken, is dat je zonder onderbouwing kunt zeggen dat iets niet waar is. Je hoort Trump al: dat heb ik niet gezegd, dat was een deepfake.’
Afgelopen mei publiceerde de Nederlandse politie een deepfake-video van De Jong. Daarin vraagt de dertienjarige Sedar Soares, die in 2003 werd doodgeschoten, ‘zelf’ om aandacht voor de nog altijd niet opgeloste zaak. De mediastunt werkte, de aandacht was enorm en de politie zegt inmiddels al tien tips binnen te hebben gekregen. Maar het filmpje roept ook vragen op, over digitale onsterfelijkheid. Als het gebruikelijker wordt om mensen na hun dood te laten terugkeren, moet je dan iets over digitale reproduceerbaarheid kunnen opnemen in je testament? De familie van Sedar was akkoord met het opnieuw tot leven wekken van het jongetje, maar was hij dat zelf ook geweest?
Volgens De Jong staat dit project op zichzelf, een cinematografische manier om aandacht te wekken voor een zaak, niet iets wat vaak gebruikt moet worden. Voor de familie was het ook troostrijk een video van Sedar te hebben, zegt hij, er was maar weinig beeld van de jongen. Misschien heeft het binnen de context van rouwverwerking ook wel een functie om de doden tot leven te wekken, denkt hij. ‘Een vriend van mij is afgestudeerd op de filmacademie, met de documentaire Deepfake Therapy. Ouders die een kind verloren hebben en nooit afscheid konden nemen, kunnen daarmee live toch nog een laatste gesprek voeren. De stemmen klopten nog niet en de beelden waren niet glad, maar toch hielp het. Het geeft maar aan hoe graag wij in het narratief willen geloven, dat je nog één keer met iemand praat.’
De Jong fantaseert verder: wat als je gesprekken kunt voeren met een home speaker die bij je ouders thuis stond en bijvoorbeeld alle informatie heeft over je moeder, op het moment dat ze dement wordt? Het zijn ideeën die beginnen te lijken op posthumanisme, waarin we ons brein uploaden. Maar hoe dicht een stapel informatie ook bij een mens komt, mist er niet altijd een vorm van bezieldheid? ‘Dat is exact wat er mis is, als ik met een speaker praat weet ik dat het niet echt is, ik krijg een gepolijste versie. En zelfs ingebouwde onvoorspelbaarheid, wat wel mogelijk is, voelt dan nep. In digitale kopieën missen we juist de rimpels, het lelijke, het onvoorspelbare en het ongewone.’
AI-systemen moeten niet alleen oefenen op de foto’s van wie je wil nabouwen, maar hebben ook een database van andere beelden nodig om te leren mensen te herkennen. Gemiddeld zijn daar volgens De Jong zo’n tachtigduizend foto’s voor nodig. Veel onderzoekers maken gebruik van de database van Flickr, waar heel veel stockfoto’s in staan. Andere systemen werken met databases die van sociale media worden gehaald. Het is een lucratieve en vrij onethische business, en allesbehalve onschuldig.
Vormen van gezichtsherkenningstechnologie worden gebruikt voor de beveiliging van je telefoon, voor betalingsapps, voor gerichte reclame, voor filters op Instagram, tot voorkort voor het herkennen van je vrienden op Facebook. Dat is handig en leuk om mee te spelen, maar er zijn ook serieuze gevaren aan verbonden, zeker nu de technologie zo ver ontwikkeld is en zo veel in gebruik genomen. Zo worden gezichtsherkenningscamera’s in openbare ruimtes ingezet voor tracking en voor massasurveillance. In Nederland wordt de technologie door de politie gebruikt als sleepnet en door bedrijven om bezoekers van websites en winkels te volgen. In China zijn op basis van etnische profilering Oeigoeren geïdentificeerd, gevolgd en opgesloten in heropvoedingskampen.
‘Ieder van ons met enige online aanwezigheid staat in een database, dat kan ik garanderen. Je gevoelige biometrische data zijn al gebruikt om winst mee te maken.’ Dat vertelt Ella Jakubowska, die werkt voor de non-profit EDRi, de Europese denktank die opkomt voor internetveiligheid en privacy. Ze zegt dat in veel Europese landen autoriteiten en particuliere bedrijven toegang tot deze databases kopen, evenals bedrijven die producten verkopen die ze hebben getraind met databases, zoals software om geslacht en etniciteit, en emoties op gezichten te voorspellen.
Ze noemt het Nederlandse bedrijf VisionLabs. Volgens een oude reclame die inmiddels verdekter op hun website staat, kan hun software mensen in publieke ruimtes bespieden, gezichten herkennen, geslacht voorspellen en volgen hoe mensen door een winkel lopen en waar hun aandacht naar uitgaat. Die informatie is bruikbaar om mensen te manipuleren zodat je ze meer kunt verkopen. ‘Het is vergelijkbaar met de hyper-invasieve tracking die je al ziet in webwinkels, met ad-tech, maar nu wordt die de fysieke wereld in gebracht. Het is diepgewortelde surveillance en manipulatie.’
Gezichtsherkenningscamera’s worden elke dag gebruikt in heel Europa, door autoriteiten, scholen, winkelcentra en reclameborden. De manier waarop ze onze samenleving infiltreren is enorm, zegt Jakubowska. De Europese Commissie heeft inmiddels in de AI-wet een gedeeltelijk verbod voorgesteld, waarover nu wordt onderhandeld door het Europees Parlement en de Europese Raad. ‘We weten nog niet wat ze zullen beslissen, maar de aanwijzingen van het Parlement zijn dat er sterke steun is voor een volledig verbod op praktijken van biometrische massasurveillance.’
Maar tegelijkertijd wordt gewerkt aan een manier om de bevoegdheden van Europese politie-eenheden uit te breiden, om een groot biometrisch surveillancenetwerk aan te leggen. Nu al kunnen eenheden uit verschillende landen vingerafdrukken en dna uitwisselen, maar de wens is om daar gezichten uit databases aan toe te voegen. In theorie zouden er alleen verdachten van zware misdrijven in moeten staan, maar in Frankrijk bestaat die database al uit acht miljoen foto’s, vertelt Jakubowska. ‘En Nederland is een goed voorbeeld. Jullie hebben de vreemdelingen-database, die biometrische gegevens bevat van mensen wier enige misdaad is dat ze uit het buitenland komen.’
In de Europese Commissie wordt nu gefocust op realtime-tracking door camera’s, maar op verzamelingen van andere beelden, zoals foto’s op het internet, kan ook achteraf gezichtsherkenning worden toegepast, dat heet post-processing. ‘Post-biometrische identificatie is gevaarlijk als je denkt aan klokkenluiders, journalisten, mensen die anonimiteit te beschermen hebben. Dagen, weken en jaren later kun je nog zien of iemand bij een protest was, bijvoorbeeld. Dat zijn geen speculaties. Het Poolse bedrijf Cogniware adverteert met een diagram dat laat zien hoe diep je in iemands leven kunt binnendringen: je kunt iemand verbinden aan ontmoetingen die ze hebben gehad, mensen met wie ze werken. De Tsjechische politie heeft die technologie gekocht. Dat vervult ons met absolute angst.’
Het is een weinig geruststellend feit dat de datahonger van autoriteiten zich nu naar onze gezichten heeft verplaatst. Anderzijds zijn er ook indicatoren dat er verandering op komst is, bijvoorbeeld in de hoeveelheid gegevens die we zelf verstrekken, nu bewustwording over de gevaren ervan groeit.
Geert Lovink is na zijn laatste boek gaan nadenken over de vraag of er een limiet is aan de hoeveelheid bruikbare data die over ons verzameld kunnen worden. Vanaf wanneer houdt informatie op een verschil te maken? Hij hoopt dat databases in de toekomst vermoeid zullen raken, waardoor de verzamelde gegevens er minder toe doen. ‘Er wordt niet veel over gepraat, maar databases hebben een levenscyclus. Op een gegeven moment verliezen data hun zeggingskracht omdat de database te vol en te verouderd is, zo zijn de zoekresultaten van Google nu al minder relevant dan ze vroeger waren.’
Langzaam ziet Lovink iets verschuiven, indicatoren die aangeven dat er inderdaad een piek is bereikt, zoals het feit dat er bijna geen internetgebruikers meer bij komen. ‘Eind dit jaar zijn het er vijf miljard, als je heel jonge en heel oude mensen niet meetelt, zit dan iedereen op het internet. Dat betekent dat een van de basisprincipes van het systeem van Silicon Valley, hypergroei, ophoudt.’
De interessantste tendens heeft volgens Lovink te maken met het afvlakken van de gebruikers van sociale media. De mensen die er al zijn kijken nog wel, maar uploaden veel minder zelf dan in de eerste decennia van het internet. Filters mogen dan interessant zijn, de magie zal ook na een tijdje weer verdwijnen. Het is een belangrijke ontwikkeling, zegt Lovink: ‘In de academische wereld wordt dat interpassiviteit genoemd: eindeloos scrollen zonder zelf input te leveren. Het is televisie geworden.’