Desinformatie op Twitter

Hoe Russische trollen inspelen op westerse angsten

Niet eerder lagen zoveel Russische trollentweets op straat. De Groene Amsterdammer analyseerde bijna drie miljoen tweets, afkomstig uit een trollenfabriek in Sint-Petersburg. Populaire onderwerpen: de MH17-ramp en Wilders.

‘Goh, je gaat me toch niet vertellen dat je onderzoek doet naar Russische invloed op de sociale media hè?’ schrijft @spacema09104056 als we hem vragen naar zijn populariteit onder Russische Twitter-trollen. De Nederlandse oud-militair twitterde de afgelopen vijf jaar meer dan tweehonderdduizend keer, grofweg honderd tweets per dag. Zijn nationalistische boodschappen, gevloek op Brussel en kritiek op de gevestigde media leverden hem meer dan vijfduizend volgers op. Als we hem vragen hoe hij zichzelf zou portretteren zegt hij: ‘Och, ouderwets liberaal, nationalistisch (eng woord). Ben voor rechtvaardigheid, betrokken bij sociale items, ongenuanceerd, maar wel to the point.’

‘Spacema’ komt voor in een dataset van drie miljoen tweets als een van de Nederlanders die het vaakst wordt geretweet door Russische trollen; Twitter-accounts die erop uit zijn om ‘leugens te verspreiden en waarheid te verdringen’, zoals de onderzoekers van de Universiteit van Lund het beschrijven in hun rapport Countering Information Influence Activities: The State of the Art. Dat Spacema ongewild een radertje is geworden in een aan het Kremlin gelieerde propagandamachine vindt hij allesbehalve erg. ‘Ben blij dat mijn invloed reikt tot aan St. Petersburg… LOL… En nee, ik heb het niet zo op de huidige journalistiek.’

Die verwijzing naar de stad Sint-Petersburg is niet zomaar. Daar staat het Internet Research Agency, de bekendste trollenfabriek ter wereld. Vanuit deze vier verdiepingen tellende blokkendoos worden Rusland en het buitenland bestookt door honderden werknemers, wier taak het is om de publieke opinie zachtjes bij te sturen. In de Verenigde Staten zoekt een onderzoeksteam onder leiding van Robert Mueller uit hoe groot de invloed hiervan is geweest op de Amerikaanse verkiezingen van 2016. In de Baltische Staten weten ze niet anders dan dat politiek getinte boodschappen van hun voormalige onderdrukker het medialandschap binnendringen. In Nederland waarschuwde minister van Binnenlandse Zaken Kajsa Ollongren vorig jaar nog voor invloed op het Nederlandse debat.

Overtuigende voorbeelden had de minister toen niet, maar uit een analyse door De Groene Amsterdammer van 2.973.331 tweets afkomstig van 2808 Twitter-trollen blijkt dat Rusland wel degelijk Nederlandse onderwerpen in het vizier heeft. Niet eerder lagen zoveel tweets van het Internet Research Agency op straat, al is ook dit vermoedelijk slechts een topje van de ijsberg. Twee professoren van Clemson University in South Carolina deelden een maand geleden deze data via de Amerikaanse nieuwswebsite FiveThirtyEight vergezeld van een simpele boodschap: ‘vele ogen zien meer dan vier’.

De trollen bemoeien zich actief met voor Nederland relevante onderwerpen zoals de MH17-ramp, waar ruim drieduizend tweets over werden verstuurd. Ook mengen ze zich in het racisme- en migratiedebat. Daarnaast stoken ze de politieke flanken op, wat in Nederland vrijwel alleen maar neerkomt op steun aan alternatief-rechts en de pvv. ‘De Russen hebben natuurlijk niet het internet uitgevonden, maar nu het er is kunnen ze oude tactieken die inspelen op de emoties van mensen ver weg beter uitrollen’, zegt de Amerikaanse historicus Timothy Snyder in een telefoongesprek.

‘Als je wil schrijven dat Angela Merkel lelijk is kun je dat natuurlijk in een tweet zetten. Maar het is veel slimmer om een account te maken met een eigen karakter en hobby’s, met authenticiteit’, vertelt de Russische journalist Ljoedmila Savtsjoek in juni van dit jaar tijdens een nepnieuwsconferentie in Den Haag. Zij werkte in 2014 twee maanden undercover in het Internet Research Agency. ‘Wat wij leerden was dat als je Angela Merkel wilde beledigen je dat slim moest doen. Je kunt je beter voordoen als een vrouw die van koken houdt en dan op Twitter iets schrijven als: “Vanochtend heb ik een taart gebakken maar die is zo mislukt, het is net het gezicht van Angela Merkel!”’ In het Haagse zaaltje wordt hard gelachen.

‘Je moet altijd je boodschap verpakken in menselijkheid. Het politieke vermengen met het persoonlijke’, vertelt Savtsjoek na afloop van haar toespraak. ‘Iedereen meet zichzelf een karakter aan: een leuke fitgirl of een filmliefhebber bijvoorbeeld.’ Werknemers krijgen eigen accounts die ze ’s ochtends bij binnenkomst in gebruik nemen en ’s avonds, na een twaalf uur lange shift, weer verlaten. Die werktijden zijn terug te zien in de bijna drie miljoen tweets die De Groene Amsterdammer analyseerde. ‘Bij de niet geautomatiseerde accounts zie je heel duidelijk dat de activiteit gelijk loopt met een cyclus van twaalf uur’, licht Patrick Warren toe, een van de Amerikaanse hoogleraren die de data deelde.

Het afwisselen van scherpsnedige tweets en luchtige borrelpraat klinkt geraffineerd maar gaat vaak mis, zo blijkt na het bestuderen van het gedrag van een aantal trollen in de lijst. Zo ondergaan de trolaccounts opmerkelijke karakterveranderingen gedurende hun twaalfurige shifts. De account @AmelieBaldwin, die vergezeld gaat met een foto van een wulpse blonde die op haar buik ligt, verspreidde tientallen Nederlandstalige berichten over uiteenlopende onderwerpen als Sylvana Simons, d66 en ‘gutmenschen’. Ook retweette ze een belediging, afkomstig van een uiterst rechtse account, aan het adres van de toenmalige adjunct-hoofdredacteur van RTL Nieuws: ‘Pieter Klein zou men een #probleemjournalist kunnen noemen. Een hooghartig sujet zonder zelfkritiek.’

Hoewel ‘Amelie Baldwin’ zich af en toe mengt in het Nederlandse debat retweet ze ook Filipijnse, Chinese en Griekse tweets. Haar profiel is dan weer volledig Amerikaans. Ze omschrijft zichzelf met de termen ‘Wife, Mother, Patriot, Friend’ en woont volgens haar profiel in de Verenigde Staten, waar ze zich mengt in wapendebatten, het Amerikaanse leger aanmoedigt en driftig twittert over vaccinatie. ‘Je krijgt als medewerker hoofdthema’s, maar die kunnen plots veranderen als de actualiteit verandert’, verklaart Savtsjoek de snelheid waarmee accounts als @AmelieBaldwin wisselen tussen onderwerpen, landen en talen.

Dat Russische trollen in het Nederlands actief zijn is bekend sinds NRC deze zomer een onthullend stuk schreef op basis van ruim tweehonderdduizend onderzochte tweets. De auteurs beschreven daarin nauwkeurig hoe Rusland via Twitter een anti-islamsentiment probeert aan te wakkeren en hoe pvv-leider Geert Wilders kan rekenen op steun. De dataset die De Groene Amsterdammer analyseerde, gecombineerd met een van de datasets waar ook NRC zich op baseerde en de lijsten die het Amerikaanse Congres publiceerde met namen van Twitter-accounts, levert in totaal een lijst op van 3854 Russische trollen. Waardoor een nog nauwkeuriger beeld ontstaat van interactie tussen Nederlandse Twitter-accounts en Russische trollen. Zo blijkt de steun aan Wilders twee keer zo groot als eerder bericht: een kleine vierhonderd tweets gaan over de nationalistische partij of versterken de tweets van pvv-leden zoals Martin Bosma, Toon van Dijk, Marjolein Faber en de partijleider zelf. Andere politici krijgen weinig tot geen aandacht.

‘Je moet altijd je boodschap verpakken in menselijkheid. Het politieke vermengen met het persoonlijke’

Nieuws is dat de ramp met de MH17 een belangrijk thema is voor de Russische trollen. Een snelle greep uit de bijna drie miljoen tweets toont ruim drieduizend berichten die direct gaan over de vliegtuigramp of de inmiddels vier jaar lange afwikkeling daarvan. Geheel in lijn met de Russische staatskanalen worden alternatieve theorieën – ‘er was een bom aan boord’ of ‘was een false flag-operatie’ – verspreid. Dat gebeurt in tal van talen waaronder het Nederlands, Engels, Duits, maar vooral Russisch. Hier barst het van het nepnieuws: zo zou Oekraïne 298 miljoen dollar hebben betaald aan de nabestaanden, is de onschuld van Rusland reeds bewezen en wordt het Britse onderzoeksplatform Bellingcat zwart gemaakt – niet toevallig de journalisten die de laatste vier jaar de meeste onthullingen publiceerden over de vliegramp.

Ook Nederlandse twitteraars duiken hier op. Complotdenkers en activisten worden aangehaald – ‘gementioned’ – of verdedigd, terwijl een tweet over rtl-journalist Jeroen Akkermans, waarin hij wordt beschuldigd van het ‘plaatsen van bewijs’ op de rampplek, wordt geretweet. Opvallend is dat het bedrijf Boeing sinds het neerhalen van de MH17 in verschillende talen wordt besmeurd. Tweets over incidenten rond het bedrijf zoals arbeidsconflicten en rechtszaken worden gretig rondgestuurd door bots. Tweets zoals ‘Boeing employees fired for sexting at work #local’ worden vele malen rondgestuurd door de Russische trollen.

In tegenstelling tot wat vaak wordt gedacht, en waar minister Ollongren ooit voor waarschuwde, lijkt inmenging in het Oekraïne-referendum minimaal. Er bestaan wel retweets zoals ‘6 april: Stem nee! Net wat veiliger’ of een oproep tot een demonstratie tegen het verdrag, maar vooralsnog zijn dat slechts een handjevol tweets. In totaal twitteren de trollen in tientallen talen, van het Thai tot het Kroatisch. Als de trollen in het Engels, Russisch of Duits twitteren schrijven ze nog opvallend vaak zelf hun teksten. Wanneer ze zich in kleinere talen uitdrukken, zoals het Nederlands, beperken ze zich voornamelijk tot retweets. Van de bijna drie miljoen tweets is in ieder geval 42 procent een retweet.

‘In de hoofden kruipen van de burgers van vijandige samenlevingen is iets waar Rusland een lange geschiedenis in heeft’, vertelt de Amerikaanse historicus Timothy Snyder. ‘Zowel in imperialistisch Rusland als de Sovjet-Unie en het huidige Rusland heeft “subversie” altijd een belangrijke plaats gehad.’ Het opvallende aan deze tijd is dat die oude tactieken plots binnen handbereik komen door internet en dan met name sociale media, vertelt hij. ‘Iedereen kan alles zien nu. En wat gezien wordt kan geëxploiteerd worden.’

‘Dark globalisation’ is de naam die Snyder begin dit jaar aan het fenomeen gaf in zijn boek The Road to Unfreedom: Russia, Europe, America, waarin hij uiteenzet hoe Rusland sinds 2010 geleidelijk het Westen ideologisch is gaan beïnvloeden: ‘We zijn eraan gewend dat dit omgekeerd gebeurt en dat globalisering automatisch leidt tot het verspreiden van liberaal-democratisch denken. Nu zien we dat globalisering feitelijk de deur openzet naar tal van mogelijkheden en het ook averechts kan werken.’

Drie miljoen tweets in een zee van westerse Twitter-activiteit is wat hem betreft dan ook geen druppel op een gloeiende plaat maar kan tot significante verandering leiden. ‘Een Russische trol heeft als taak om ongeremd radicaal te zijn, radicaler dan de meeste mensen van zichzelf zijn. Juist dat werkt bijzonder goed op sociale media, waar emoties zich makkelijker verspreiden dan feiten.’ Zo was er begin dit jaar de shooting in Florida waar een kleine groep trollen in een paar uur de discussie kantelde naar de vraag of de overlevenden wel echt waren of acteurs. Snyder: ‘Rusland heeft misschien sympathie voor rechts maar uiteindelijk maakt het ze niet zo veel uit welke boodschap ze pushen, als ze maar verdeeldheid creëren.’

Wetenschappers van George Washington University ontdekten vorige week per toeval hoe Russische trollen zich hadden gemengd in het vaccinatiedebat. Terwijl ze onderzochten hoe ziekenhuizen de communicatie konden verbeteren op sociale media stuitten ze op radicale tweets zoals: ‘Laat ze maar doodgaan aan mazelen.’ Ook accounts die in Nederland actief zijn duiken hier op. Zo retweet @AmelieBaldwin: ‘Autism rates in California Have Skyrocketed Following Mandatory Vaccination Bill.’ Uit ons onderzoek blijkt dat de trollen zich niet alleen mengden in het Amerikaanse vaccinatiedebat, maar dit in ieder geval ook deden in Italië en in veel mindere mate in Duitsland. Opvallend is dat Russische trollen ook bij dit onderwerp de flanken opzochten en zowel voor- én tegenstanders steunden. Wat aardig extreme tweets oplevert: ‘Nu komen ze met plannen om de mensheid te elimineren via vaccinaties.’

Dat het politieke midden wordt genegeerd is terug te zien in de gehele dataset van drie miljoen tweets. De Amerikaanse onderzoeker Darren Linvill liep alle Engelstalige tweets na en categoriseerde er 719.087 als rechts en 427.811 als links. ‘De rechtse trollen gedragen zich als door politiek geobsedeerde Make-America-Great-Again-Amerikanen, terwijl linkse trollen vaak de rol aannemen van Black Lives Matter-activisten. Ze steunen Bernie Sanders en bespotten Hillary Clinton.’ Eenzelfde dynamiek is zichtbaar bij de door trollen verstuurde tweets over de rellen tussen Turkse Nederlanders en de politie die vorig jaar maart plaatsvonden in Rotterdam. Van de meer dan zestig tweets die werden gewijd aan de onlusten is het merendeel anti-islamitisch: ‘Retweet als je denkt dat Turken de EU uitgeschopt zouden moeten worden en Constantinopel weer christelijk moet worden! #EvetAvrupaTitriyor #Rotterdam’, schrijft een Russische trol in het Engels terwijl een collega van hem de volgende boodschap verspreidt: ‘Aan alle Islamieten in Rotterdam, Joden zijn schuldig aan de scheur in de relatie tussen Turkije en Nederland.’

Opvallend is dat wanneer we net als de Amerikaanse hoogleraar honderden Nederlandstalige tweets gaan labelen als ‘links’ en ‘rechts’ de steun aan links niet-bestaand blijkt. Vrijwel alle Russische aandacht gaat uit naar rechtse stemmen op Twitter zoals Telegraaf-columnist Wierd Duk, Metro-columnist Ebru Umar, schrijver en activist Joost Niemöller of voor veel mensen onbekendere twitteraars zoals de nationalistische account @Stormtroepen of de op de Veluwe wonende oorlogsveteraan @spacema09104056.

‘Het Kremlin creëert nauwelijks nieuwe ideeën maar gebruikt vooral dat wat al aanwezig is. Het is opportunistisch en zoekt naar waar de mogelijkheden voor verdeeldheid zitten’, zegt Rusland-expert Mark Galeotti in een telefonisch interview. ‘Wat de trollen doen is slechts een reflectie en een uitvergroting van wat zich afspeelt in de marges van de samenleving. Vergeet niet dat mensen die hier gevoelig voor zijn al sceptisch waren over hun elites en mainstream narratieven.’

‘We love you, Mr President!’, stuurt de beruchte trolaccount @10_gop in september 2017 naar de fervente twitteraar Donald Trump. ‘So nice, thank you!’, reageert de Amerikaanse president, een bericht dat nog altijd zichtbaar is voor zijn tientallen miljoenen volgers. De Russische trol op wie hij reageert laat zich dan al maanden positief uit over de politicus. De bijna gelijknamige Twitter-account @TEN_GOP prijst ondertussen ook Wilders de hemel in door meer dan zestig citaten van de politicus naar het Engels te vertalen en te twitteren: ‘Een islamitisch Europa betekent een Europa zonder vrijheid en democratie, een economisch wasteland.’

Sinds het neerhalen van de MH17 wordt het bedrijf Boeing in verschillende talen besmeurd

Veel politici en belangrijke duiders weten niet wat ‘echt’ is en wat een Russische trol is, zegt Snyder. ‘De voormalige buitenlandadviseur Michael Flynn retweette Russische berichten aan de lopende band. Daar schuilt een groot gevaar in. Als iemand als Trump het retweet is het op slag geen Russisch materiaal meer maar wordt het deel van een landelijke discussie.’

In Rusland is dat al vele jaren de dagelijkse praktijk, weet Galeotti. ‘Er zijn ongeveer zes à zeven bedrijven als het Internet Research Agency.’ Het merendeel vervult nog altijd de functie waarvoor het ooit is opgericht: het verpakken en promoten van commerciële boodschappen aan Russische burgers. ‘Het is pas sinds 2013 dat ze zich zijn gaan realiseren wat het potentieel is van zo’n wapen, vooral wanneer je het op het Westen richt’, zegt Galeotti. Het idee was even slim als simpel: openheid, diversiteit en het vrije debat kunnen krachtig zijn, maar je ook kwetsbaar maken.

‘Ik neem de existentiële angst van de mensen serieus’, schrijft @spacema09104056 als we hem vragen hoe hij zijn grote populariteit op Twitter verklaart. Per maand zien iets meer dan een miljoen mensen zijn tweets, blijkt uit statistieken die hij doorstuurt (elke Twitter-gebruiker kan die opvragen voor de eigen account). Hij ziet om zich heen hoe Nederlanders bang zijn dat hun land verandert door ‘economische avonturiers’ die hier naartoe migreren en een grote influx van moslims. ‘Bang om demografisch het onderspit te delven.’

Voor historicus Timothy Snyder is ‘angst’ een belangrijke verklaring voor de aantrekkingskracht van de Russische informatiecampagne op alternatief-rechts, de groep die de meeste interactie heeft met trollen. ‘Rusland presenteert zich als de enige plek waar Europese beschaving en bijhorende waarden nog gerespecteerd worden. Terwijl de rest van Europa decadent, verwijfd en onbetrouwbaar is geworden’, zegt de hoogleraar. ‘In zekere zin is er een emotionele aantrekkingskracht tot dat soort grote verhalen: een daadkrachtige dictator met sterke idealen.’

Paradoxaal genoeg is de desinformatie-strategie die inspeelt op angst ook uit angst geboren, zegt Rusland-expert Galeotti: ‘Rusland heeft grote ambities, maar veel minder middelen dan het zou willen. De economie is zo groot als die van Spanje, het leger is ongeveer gelijk aan alle Europese Navo-leden bij elkaar.’ De Russische informatiecampagne moeten we daarom niet zien als de opmars naar gewapende strijd maar als de strijd zelf, zegt hij. ‘Uiteindelijk is die strijd zeer opportunistisch en geïmproviseerd. Het is geen magisch wapen, maar een poging om een groter en sterker bondgenootschap van landen zwakker te laten lijken door het zaaien van chaos.’ Zijn devies? De invloed niet overdrijven en ook niet onnodig ingrijpen. ‘Dan speel je juist in op complottheorieën dat er een westerse elite is die alles bepaalt.’

Actief ingrijpen gebeurt inmiddels wel. Met nieuwe Amerikaanse midtermverkiezingen in het vooruitzicht waarschuwde Microsoft vorige week voor Russische hackers: die zouden pogingen hebben ondernomen om conservatieve denktanks binnen te dringen. Een dag later maakte Facebook bekend 652 accounts, groepen en pagina’s te verwijderen die betrokken zouden zijn bij het verspreiden van Russische en Iraanse desinformatie. De accounts en pagina’s vertoonden ‘gecoördineerd, niet authentiek gedrag’. Het populaire internetforum Reddit verbande begin dit jaar duizend trollen van wie ze hadden ontdekt dat die opereerden vanuit het Internet Research Agency. Sociale media hebben lange tijd hun rol ontkend maar gaan nu, onder druk van woedende politici, overstag.

De drie miljoen tweets en de 3854 Twitteraccounts die wij bestudeerden hebben inmiddels ook het veld moeten ruimen. Zij sneuvelden in een van de zogenaamde purges die Twitter nu al een aantal keer heeft uitgevoerd. Of het helpt, valt te betwijfelen, zegt de Amerikaanse onderzoeker Patrick Warren: ‘We zien dat nieuwe accounts hun plaats al weer hebben ingenomen.’

Verantwoording

In Sint-Petersburg staat het Internet Research Agency (IRA), beter bekend als de Russische trollenfabriek. Hoewel Rusland meer van dit soort bedrijven kent is het IRA berucht omdat het ook de Amerikaanse verkiezingen heeft beïnvloed. De Amerikaanse Clemson Universiteit gebruikte een speciaal computerprogramma om de tweets van de trollen te verzamelen die door Twitter zelf zijn aangemerkt als Russische trollen. Dat levert een dataset op van 2,973,371 tweets. Volgens de onderzoekers zijn die verstuurd door 2.848 accounts, al bevat de dataset er uiteindelijk maar 2.808. De eerste tweet werd verstuurd in 2012 en de laatste tweet is van april dit jaar. De overgrote meerderheid werd verstuurd tussen 2015 en 2017.

De Groene Amsterdammer heeft een database gebouwd zodat de grote hoeveelheid informatie makkelijker doorzoekbaar is. Met omvangrijke zoekopdrachten hebben we tweets in specifieke talen of over bepaalde onderwerpen (MH17, de PVV, Oekraïne-referendum) uit het systeem gehaald. De kans dat er over zo’n onderwerp meer aanwezig is is groot.

In het bijzonder hebben wij de interactie tussen Nederlandse twitteraars en Russische trollen onderzocht. Aanvankelijk identificeerden we slechts 78 Nederlandse twitteraccounts die in totaal tweehonderd keer voorkomen. Dat lijkt beperkt maar door de originele tweets terug te zoeken en hun interactie met trollen onder de loep te nemen groeit het aantal Nederlandstalige accounts dat voorkomt in tweets van Russische trol-accounts naar vele honderden. Wij stoppen hier maar als er verder zou worden gezocht wordt de werkelijke interactie nog veel groter.

De tweets van de IRA-trollen zijn inmiddels verwijderd door Twitter maar hun retweets en interactie met anderen is vaak nog terug te vinden. Voor dit onderzoek zijn honderden tweets teruggezocht op Twitter. Russische trollen versterken in veel landen vooral radicale flanken, die kunnen links of rechts georiënteerd zijn. Opvallend is dat in Nederland de steun vrijwel alleen maar uitgaat aan sterk rechts georiënteerde accounts. Wat ook opvallend is is dat er wereldwijd, in veel verschillende talen, over de MH17-ramp wordt getwitterd.

Dit onderzoek is niet volledig afgerond en andere artikelen zijn in voorbereiding.


Dit artikel is tot stand gekomen met steun van Fonds 1877.


Op dit stuk kwamen veel reacties. De auteurs reageren hier