Het internet is een aantrekkelijke plek voor extremisten. Het is gedecentraliseerd en daardoor moeilijk te reguleren, en iedereen heeft er toegang toe. De decentrale aard maakt het ook bijzonder geschikt voor netwerken van losse groeperingen en de mogelijkheid anoniem te zijn is aantrekkelijk voor extreme denkers. Extreemrechts maakt daarom gretig gebruik van allerlei online ruimtes, en TikTok is daarop geen uitzondering. In een recent artikel [abstract] in het journal Studies in Conflict & Terrorism is onderzocht hoe extreemrechts TikTok inzet.

Achtergrond
Veiligheidsdiensten waarschuwen voor extreemrechts terrorisme. Daders zijn meestal niet verbonden aan een gevestigde groep, waardoor opsporing lastiger is. Volgens de auteurs is de groeiende aanwezigheid van extremistische groeperingen in cyberspace te danken aan twee ontwikkelingen: de democratisering van communicatie, aangedreven door user-generated content, en het groeiende besef van het potentieel van het internet voor extremistische doeleinden.

Terroristen gebruiken internet om psychologische campagnes te lanceren; vrijwilligers te rekruteren en aan te sturen; geld in te zamelen; geweld aan te wakkeren; training te geven; aanvallen te plannen; en netwerken te creëren en te coördineren.

Methode
De onderzoekers identificeerden eerst TikTok-accounts van bekende extreemrechtse groeperingen. Vervolgens verzamelden ze berichten op TikTok met hashtags die geassocieerd worden met extreemrechtse bewegingen, zoals “red-pilled” of “based” en die verwijzingen bevatten naar gekende extreemrechtse groeperingen. Daarna onderzochten ze deze accounts en de accounts die hen liketen of volgden. Extreemrechtse gebruikers werden geïdentificeerd door hun avatars en profielfoto’s te onderzoeken, evenals hun gebruikersnamen. Deze data werden verzameld over de periode februari-mei 2020. Ze vonden in totaal 196 posts. Daarop werd een systematische inhoudsanalyse toegepast.

Meer informatie over de methode geven de onderzoekers helaas niet. Dat maakt het moeilijk in te schatten hoe representatief en betrouwbaar dit onderzoek is. Gaat het alleen om Engelstalige accounts? Of misschien alleen uit de VS? Mij klinkt 196 posts in drie maanden als vrij weinig in de oren. En wat voor inhoudsanalyse is er precies uitgevoerd?

Resultaten
Het merendeel van de extreemrechtse posts gaan over antisemitisme, zie de tabel. Vaak wordt haat gecombineerd, zoals “no gays, no women, no jews. It’s so fucking simple like bing bing boom”. De onderzoekers vonden 29 accounts met gebruikersnamen gerelateerd aan Hitler en verschillende accounts gerelateerd aan terroristen/highschoolshooters als Anders Breivik en Dylann and Eric Harris. Dertien accounts verwezen naar de Klu Klux Klan. In de profielfoto’s keerden vaak extreemrechtse symboliek terug, zoals de SS-schichten en swastika’s.

Onderwerp en aantal posts

Een van de trends die de onderzoekers signaleren is het aanzetten tot geweld:

“One video encourages its viewers to “fight back…they’ve taken your future…revolt against the modern world”, in the same video the sonnenrad and SS bolts can be seen. Another video also encouraging it’s viewers to fight, uses a similar font to Atomwaffen Division videos and behind the image of a sonnenrad, it says “no country for Islam”, this video uses bright colors and the song from the popular film, The Hunger Games, thus trying to appeal and seduce children and teenagers” (p. 759).

Extreemrechtse TikTok’ers maken gebruik van affordances als filters, achtergronden en effecten:

“In one posting, a user opens an oven, with the text “me kosher baking” and applies the “big nose filter” to himself to represent “everyone next in line at Auschwitz”. This post received 181 likes and 2441 views, with comments such as “they get what they deserve” and “alright it might have happened…but 6 million?”” (p. 759).

TikTok heeft bepaalde hashtags aan banden gelegd. Als je zoekt op “Hitler” of “KKK” vind je niets. Maar gebruikers mogen deze hashtags wel ingeven. Daarnaast zijn er veel extreemrechtse hashtags die niet gecensureerd zijn, zoals “heil******”. De meerderheid (66 procent) van de onderzochte postings was vrij van zulke hashtags, wellicht om opsporing te voorkomen. Een andere tactiek om onder de radar te blijven zijn posts vermomd als Koreaanse of Japanse muziekvideo’s, waarbij de oorspronkelijke lyrics vervangen zijn door haatteksten.

Tot slot stellen de onderzoekers vast dat na het kijken van extreemrechts materiaal, de ‘For You’-pagina van TikTok meer en meer video’s toonde met zulke content. De onderzoekers hadden alleen gekeken naar en niet geïnteracteerd met deze accounts. Het algoritme zorgt er dus voor dat mensen die per ongeluk op zulke content stuitten, meer van deze video’s te zien krijgen.

Conclusie
De auteurs concluderen dat extremisten misbruik maken van het jonge publiek en de lakse beveiliging van het platform om kwetsbare personen lastig te vallen. Volgens hen heeft TikTok unieke kenmerken die het platform problematischer maken dan andere sociale netwerken. De gebruikers zijn veelal jonge kinderen, die – in woorden van de auteurs – “naïever en goedgeloviger zijn als het gaat om kwaadaardige inhoud”. Bovendien loopt TikTok achter op zijn rivalen in het beschermen van gebruikers. De bevindingen laten zien dat TikTok zich niet houdt (of niet slaagt in het zich houden) aan de zelfopgelegde richtlijnen. De auteurs stellen juridische stappen voor om TikTok te dwingen tot beter toezicht zodat extreemrechtse extremisten dit platform niet langer kunnen gebruiken.

Hoewel de resultaten zeler verontrustend zijn, gaan de conclusies te ver. Hoe goedgelovig jonge kinderen zijn is bijvoorbeeld helemaal niet onderzocht. Sowieso ontbreken gebruikers in het onderzoek: wie bekijkt deze content en waarom? Wie zijn de makers? Hoewel deze groepen lastig te bereiken is zulk onderzoek broodnodig.