Voor het eerst brengen onderzoekers van de Universiteit van Cambridge in kaart hoeveel het kost om online manipulatiecampagnes op te zetten. ‘We laten het daglicht schijnen op een ondergrondse economie die tot nu toe grotendeels onzichtbaar bleef’, zegt psycholoog en desinformatie-expert Jon Roozenbeek.
Trollenlegers: ze behoren intussen tot het vaste meubilair van sociale media. Het gaat om talloze accounts die ogenschijnlijk beheerd worden door echte mensen, maar waar na enkele kliks blijkt dat ze vaak maar één taak hebben: het beïnvloeden van online discussies, bijvoorbeeld op X (het vroegere Twitter) of Facebook.
Om een account op sociale media aan te maken, eisen platformen doorgaans sms-verificatie via een geldig telefoonnummer. Wie geen simkaart bezit, heeft het dus moeilijker.
De afgelopen tien jaar is echter een schaduweconomie ontstaan van bedrijven die duizenden simkaarten beheren. Daarmee omzeilen ze beveiligingsmaatregelen en verkopen ze in bulk geverifieerde accounts. Die nepaccounts spelen een centrale rol in online fraude, maar ook in georganiseerde beïnvloedingscampagnes, bijvoorbeeld rond verkiezingen.
Tot nu toe bleef het economische model achter die trollenlegers grotendeels verborgen. Met een nieuwe tool bieden onderzoekers van de Britse Cambridge University nu meer inzicht. In de woorden van Jon Roozenbeek, de Nederlandse onderzoeker die meewerkte aan de studie: ‘We laten het daglicht schijnen op een ondergrondse economie die tot nu toe grotendeels onzichtbaar bleef.
Via de Cambridge Online Trust and Safety Index kan per land en per online platform worden nagegaan hoeveel het kost om valse accounts te kopen. Een opvallende conclusie: het is bijna even goedkoop om nepaccounts te verifiëren in het Verenigd Koninkrijk als in Rusland – respectievelijk 0,10 dollar en 0,08 dollar per sms-verificatie.
In België ligt de prijs hoger. Voor een vals profiel op bijvoorbeeld Instagram betaal je al snel 0,92 dollar per sms-verificatie. In landen als Australië en Japan is het nog veel duurder, met gemiddelde kosten van 3,24 en 4,93 dollar.
‘In het verleden onderzocht ik al de productie van propaganda en het effect van misleiding op individuen’, zegt Roozenbeek. ‘De motivatie voor dit onderzoek was om te kijken naar de schakel daartussen: welke infrastructuur wordt gebruikt om mensen te misleiden?’
Welke lessen moeten we uit uw onderzoek trekken?
Jon Roozenbeek: Ik geloof niet in simpele quick fixes, zoals alleen de prijs van simkaarten verhogen. Dan verschuift het probleem gewoon naar een goedkoper land. Wat wel kan helpen, is een combinatie van maatregelen: enerzijds ingrijpen op de sim-infrastructuur zelf en anderzijds meer transparantie vragen van online platformen.
Wat bedoelt u precies met transparantie?
Roozenbeek: Een goed voorbeeld is X. Dat maakte recent zichtbaar in welk land een account geregistreerd is. Plots bleek dat veel accounts die zich voordeden als Make America Great Again (MAGA) of als pro-Gaza-activisten geregistreerd waren in landen als Myanmar, India of Thailand. Als voor iedereen zichtbaar is waar accounts vandaan komen, verandert dat de dynamiek van desinformatie. Mensen die trollenlegers beheren, zullen twee keer nadenken voor ze Oost-Europese of Aziatische accounts gebruiken om politieke en maatschappelijke debatten in België te beïnvloeden. Dat opent de deur voor effectievere nationale regelgeving.
‘Door artificiële intelligentie wordt het bijna onmogelijk om bots te onderscheiden van echte mensen. Ook botdetectoren falen steeds vaker.’
Op X lijkt het soms te wemelen van Russische desinformatie.
Roozenbeek: Het klopt dat de Russische informatiestrategie erin bestaat om nepaccounts te kopen om onze debatten te beïnvloeden. Ze willen dat mensen vooral kwaad worden op elkaar en dat de steun voor Oekraïne afneemt. Maar wat me nog meer zorgen baart, is dat de markt voor desinformatie zo groot is geworden. Het zijn heus niet alleen de Russen die ons online willen beïnvloeden. Je hebt nu grote aantallen mensen die puur uit financiële motieven polariserende content verspreiden. Hoe meer engagement op X, hoe meer advertentie-inkomsten – en engagement krijg je door mensen kwaad te maken. Dat creëert een perverse prikkel. Het is dus niet langer alleen een geopolitiek probleem, maar ook een economisch ecosysteem dat polarisatie beloont.
Desinformatie is dus niet alleen politiek getint?
Roozenbeek: Vaak is ze ideologisch neutraal. Ze volgen gewoon waar op dat moment de meeste woede en dus de meeste clicks te halen zijn. Vandaag is dat vaak een thema als migratie, en springt rechtspopulisme meer in het oog. Maar als ongelijkheid ooit het dominante thema wordt, verschuift de focus vanzelf naar links. De infrastructuur van manipulatie is opportunistisch, niet ideologisch.
‘Ga naar buiten, maak een wandeling: dat lijkt me geen slecht advies.’
Maakt artificiële intelligentie het probleem groter?
Roozenbeek: Zeker. Het wordt bijna onmogelijk om bots te onderscheiden van echte mensen. Studies tonen aan dat mensen het verschil niet meer zien, maar ook botdetectoren falen steeds vaker. Zelfs gespecialiseerde onderzoeksteams, met decennia ervaring in botdetectie, slagen er niet meer in. Vroeger herkende je een Russisch account nog aan het verkeerd gebruik van een lidwoord. Zo’n individuele ontmaskering is vandaag nauwelijks nog denkbaar.
Wat raadt u burgers aan?
Roozenbeek: Dat vind ik een moeilijke vraag. Ik heb jarenlang heel prescriptief advies gegeven: let hierop, wees daar kritisch. Maar eerlijk gezegd weet ik niet meer of dat werkt. Ik heb mezelf grotendeels teruggetrokken uit sociale media. Geen X meer, geen Facebook. LinkedIn gebruik ik enkel om onderzoek te delen, zonder interactie. Ik vind veel online discussies gewoonweg niet zo interessant. Als grote delen van de bevolking zouden denken: ‘Deze interactie is waarschijnlijk gemanipuleerd, ik doe iets anders’, dan zou ik dat persoonlijk niet erg vinden. Ga naar buiten, maak een wandeling: dat lijkt me geen slecht advies.