Binnen de online context is de rol van aanbevelingsalgoritmen bij rechtsextremistische radicalisering beperkt. Minstens zo belangrijk zijn de keuzes die gebruikers maken bij het zoeken naar content van extremistische aard. Dit zijn enkele bevindingen uit onderzoek van het Verwey Jonker Instituut en TextGain in opdracht van het WODC. Dit onderzoek heeft geleid tot een toegankelijk overzicht van actuele inzichten over oorzaken en online mechanismen van rechtsextremistische radicalisering.
Een groot aantal risicofactoren op individueel-, groeps- en samenlevingsniveau dragen bij aan het ontstaan van radicaliseringsprocessen. Ontwikkelingspaden van radicalisering zijn erg complex en er is sprake van een wisselwerking tussen online- en offline factoren. Het onderzoek heeft in kaart gebracht wat deze verschillende ontwikkelingspaden naar rechtsextremistische radicalisering zijn en wat hierbij de rol is van sociale mediaplatforms. Daarbij was specifiek aandacht voor de werking van aanbevelingsalgoritmen. Ook is gekeken naar de rol van de offline context in ontwikkelingspaden van rechtsextremistische radicalisering. Op basis van de bevindingen zijn handelingsperspectieven beschreven die haalbaar geacht worden voor de overheid om bij te dragen aan het voorkomen van rechtsextremistische radicalisering via online platforms.
Beperkte rol aanbevelingsalgoritmen
Recente wetenschappelijke studies laten zien dat de rol van aanbevelingsalgoritmen van mainstream sociale media platforms bij rechtsextremistische radicalisering beperkt zijn. Persoonlijke keuzen van gebruikers zijn minstens zo belangrijk, zoals het delen van links naar extremistische content; het abonneren / volgen van bepaalde kanalen op sociale mediaplatforms en op die manier selectief geconfronteerd worden met meer extreme content; het ontmoeten van gelijkgestemden in echokamers; en persoonlijk surf/zoekgedrag. Mensen gaan uit zichzelf op zoek naar extremere content en voeren hiertoe doelbewust bepaalde zoektermen in, of klikken door op de meer extreme aanbevelingen. Praktijktests (‘trials’) die de onderzoekers hebben uitgevoerd ondersteunen de conclusie dat individueel zoekgedrag van gebruikers op sociale mainstream mediaplatforms een belangrijke rol speelt bij het in aanraking komen met radicale content.
Bovendien lijken mainstream sociale media platforms de moderatie van extremistische (illegale) content beter op orde te krijgen. Extremistische content is op mainstream sociale media platform grotendeels vervangen door polariserende borderline content, die legaal is, maar wel schadelijk kan zijn. De onderzoekers constateren een verschuiving van extremistische content naar alternatieve ‘alt-tech’ platforms.
Handelingsperspectieven voor overheid
Het handelingsperspectief van de Nederlandse overheid ten aanzien van de zeer grote online platforms is beperkt, aangezien de Europese Commissie respectievelijk het land van vestiging hier de rol van toezichthouder heeft. Meer handelingsperspectieven lijken mogelijk ten aanzien van de minder grote platforms. Zo zou zij kunnen inzetten op de dialoog met kleinere platforms om extreme, illegale content sneller te verwijderen en kunnen investeren in experimenten met lokaal werkende online platforms. Ook zou de Nederlandse overheid kunnen investeren in samenwerking tussen overheden, online platforms en onderzoekers op het gebied van meer transparantie over aanbevelingsalgoritmen; toewerken naar meer co-regulering tussen platforms en overheid; investeren in het beter begrijpen van de problematiek rondom borderline content en faciliteren dat meer duidelijkheid komt over mogelijke schadelijke effecten en illegaliteit van borderline content.