Na de moord op de Amerikaanse activist Charlie Kirk duiken op sociale media allerlei valse berichten op over beroemdheden uit de sport- en entertainmentwereld die Kirk eer bewijzen.
Bezorgde Knack-lezer Joris mailde ons in de nasleep van de moord op Charlie Kirk een document door met allerlei vreemde berichten die circuleerden op Facebook-fanpagina’s van artiesten als Bob Dylan en de Rolling Stones.
Het waren verhalen over hoe de muzieklegendes recent hun concerten zouden hebben onderbroken voor een pakkend eerbetoon aan Kirk, of hoe ze hadden aangekondigd te zullen optreden op diens begrafenis.
‘Het lijkt wel een georkestreerde campagne om specifiek de minder goed geïnformeerde, goedgelovige Dylan- en Jaggerfans te overspoelen en mee te trekken in dit destructieve leugenpaleis, tot meerdere eer en glorie van Charlie Kirk en het MAGA-universum’, speculeert Joris. Zit hier een gecoördineerde politieke campagne achter?
De nepverhalen over Charlie Kirk zijn een uitvloeisel van de globalisering van nepnieuws, bedoeld om geld te verdienen. Zoek er geen politieke motieven achter.
Begrafenis
Wie de voorbije weken de factcheckersgemeenschap in de gaten hield, zag overal hetzelfde fenomeen opduiken. Italiaanse factcheckers schreven dat het niet klopte dat Jannik Sinner, de nummer één in het mannentennis, een match onderbroken had om Kirk eer te bewijzen. Amerikaanse factcheckers schreven artikels over American footballsterren die zogenaamd honderdduizenden dollars geschonken hadden aan de Kirks familie.
Over talloze beroemdheden uit de sport- en entertainmentwereld kon je lezen hoe ze zogenaamd beloofd hadden Kirks begrafenis te betalen of de studies van zijn kinderen te sponsoren. Woordvoerders van de celebrity’s vielen uit de lucht: het ging om verzonnen berichten.
‘Hartverscheurend’
Het nepnieuws was vaak opvallend gedetailleerd. Zo plaatste de Facebookpagina ‘Hip Hop World’ een breaking news-bericht dat de rappers Eminem, Dr. Dre, 50 Cent en Snoop Dogg hun collectieve wereldtournee hadden afgebroken om een ‘hartverscheurend eerbetoon’ aan Charlie Kirk te brengen. Ter illustratie zagen we afbeeldingen van de vier treurende hiphoplegendes, schouder aan schouder, met een Amerikaanse vlag in hun handen.
Wie onder de post doorklikte, kwam terecht bij een artikel op de pagina ‘Hip Hop Legends’. Daar viel een ellenlang relaas te lezen over hoe de rappers zogenaamd hun gecharterde privévlucht hadden afgelast na het nieuws van Kirks dood. Ze waren, zo klonk het, uitgestapt en hadden op het tarmac een kruis gemaakt van Amerikaanse vlaggen. Daarna volgde een moment van stilte. ‘Snoop Dogg fluisterde iets naar de hemel – een gebed dat alleen hij kon horen’, stond te lezen op de website.
Maar het hele verhaal is van a tot z verzonnen. Er bestaat geen wereldtournee van de bewuste rappers, laat staan een ‘pakkend eerbetoon’. Wél waren er voldoende aanwijzingen dat het ging om een met AI in elkaar geknutseld bericht, in het bijzonder bij de afbeeldingen. De gelijkenis met de rappers is daar niet helemaal geslaagd, het logo op de New York Yankees-pet van 50 Cent lijkt nergens naar, en de Amerikaanse vlag in hun handen telde niet 50 maar slechts 40 sterren en vreemde, onderbroken strepen. Typische foutjes die verraden dat het om AI-beeldgeneratie gaat.
Nepalese bedrijfjes
Wie de Facebook-fanpagina’s bekeek, merkte al snel dat de verhalen over Kirk niet de enige waren waarvan de inhoud en illustraties met AI waren gemaakt. Zo stonden op de Bob Dylan-fanpagina ‘The Harmonica Chronicles’ ook verhalen over hoe de zanger eerder deze maand ‘een met sluiting bedreigd hondenasiel gered had met een gulle donatie’. Een AI-foto van Dylan die een puppy knuffelde, maakte het af.
Het gaat om een genre van ‘hartverwarmende’ celebrity-anekdotes dat al bestond lang voor de aandacht naar Charlie Kirk ging. Meestal worden de verhalen gekopieerd, met de namen van tientallen beroemdheden als inwisselbaar onderdeel. De F1-coureur ‘die een miljoen dollar investeerde in daklozenopvang’ wordt dan in andere versies een bekende Amerikaanse baseballspeler, een Britse acteur of een Pakistaanse cricketer.
Wie of wat zit er achter de massale berichten? Wie zijn de beheerders van, bijvoorbeeld, ‘Hip Hop World’, dat ons een broodjeaapverhaal over Snoop Dogg en Eminem wilde verkopen? De fanpagina geeft dan wel een adres op in de Amerikaanse staat Connecticut, maar de beheerders bevinden zich in werkelijkheid in Nepal. Die locatie is geen uitzondering: ook de Filipijnen, Maleisië en Vietnam duiken vaak op als thuisland van de beheerders van zulke fanpagina’s. De Zweedse journalist Jonathan Lundberg vond zelfs een heus internetmarketingbedrijf in Hanoi terug, met 30 medewerkers, dat naar eigen zeggen meer dan 1600 van zulke pagina’s fabriceerde.
Factcheck: heeft herdenking Charlie Kirk storingen veroorzaakt bij datingapp Grindr?
Clickbait
Nieuwscheckers, een groep factcheckers aan de Universiteit van Leiden, legde recent nog een heel netwerk van Nederlandstalige Facebookpagina’s bloot die ook vanuit Vietnam werden aangestuurd. Ze posten over allerlei Nederlandse onderwerpen, van soaps als Goede tijden, slechte tijden tot recent politiek nieuws. De pagina’s linken meestal door naar pulpsites met een combinatie van gestolen content, geplagieerde artikels, overdreven of verzonnen clickbaittitels en – steeds vaker – ook verhalen die zowel geschreven als geïllustreerd zijn met behulp van AI.
‘Snoop Dogg fluisterde iets naar de hemel – een gebed dat alleen Hij kon horen.’
Soms brachten die pagina’s ook politieke boodschappen – eentje adverteerde zelfs met de antimigratieboodschap ‘Like als je ook vindt dat Nederland vol is’ om duimpjes te scoren – maar oprechte politieke motieven lijken daar niet achter te zitten. Wanneer politiek gevoelige thema’s – zoals onlangs de moord op Kirk – opduiken in dit soort clickbait, dan is dat vooral omdat het veelbesproken, actuele onderwerpen zijn waar heel wat mensen sterke meningen over hebben. En reacties uitlokken is voor de makers van het fakenieuws goud waard.
Want dat is hun ultieme bedoeling: geld verdienen. Dat kan met de verkoop van advertenties op de sites waar ze mensen naartoe leiden, of gewoon rechtstreeks op sociale media, door de uitbetaling van bonussen die populaire ‘creators’ kunnen krijgen op X of Facebook. Zelden gaat het om meer dan een paar honderd euro, maar in Zuidoost-Azië is dat een niet te versmaden bedrag.
Nieuw is het hele fenomeen overigens niet. Bijna tien jaar geleden kon je al lezen over de veelbesproken casus van jongeren in het Noord-Macedonische stadje Veles die goed verdienden met het maken van nepnieuws over de strijd tussen presidentskandidaten Hillary Clinton en Donald Trump. Net zoals de Nepalese en Vietnamese fakenewsfabriekjes vandaag was er toen ook geen sprake van politieke motieven. Het enige verschil? Tien jaar geleden moesten de Macedoniërs de artikels nog zelf (her)schrijven, hadden ze wat talenkennis nodig, en moesten ze fotoshoppen of zelfs eigenhandig fotocollages maken. Vandaag kan iedereen een AI-chatbot teksten laten uitbraken, in eender welke taal, en een AI-beeldgenerator bijbehorende ‘foto’s’ laten maken. De nepverhalen over Charlie Kirk zijn dus enkel een uitvloeisel van de globalisering van nepnieuws, aangevuurd door AI.
Maakt artificiële intelligentie ons dom?
