Extremisten rekrutieren online auf subtile Weise Mitglieder
Eine neue Studie zeigt: Es braucht nicht viel, um neue Mitglieder einer extremistischen Gruppe anzuwerben.
05.08.2024
Mitgliedern extremistischer Gruppierungen gelingt es mit scheinbar harmlosen Interaktionen, im Internet neue Mitglieder zu rekrutieren. Dabei umgehen sie häufig die Moderationsrichtlinien der Plattformen. Dies zeigt eine Studie der Eidgenössischen Technischen Hochschule Lausanne (EPFL).
Randgruppen, die Verschwörungstheorien und extremistische Ideologien verbreiten, gedeihen auf Online-Plattformen, die von der breiten Öffentlichkeit genutzt werden. Wissenschaftler der Eidgenössischen Technischen Hochschule Lausanne (EPFL) haben versucht, besser zu verstehen, was das Wachstum dieser Gruppen begünstigt.
Ein Team des Data Science Laboratory (DLAB) nahm drei grosse Gruppen auf der amerikanischen Diskussions- und Nachrichtenplattform Reddit ins Visier: r/Incels, r/GenderCritical und r/The Donald.
"Es ist bekannt, dass es auf den grossen sozialen Online-Plattformen extremistische Gemeinschaften gibt und dass diese Plattformen versuchen, sie zu moderieren. Aber selbst mit der Moderation wachsen diese Gemeinschaften weiter", wird Giuseppe Russo, Postdoktorand am DLAB und Erstautor der Studie, in einer Mitteilung der EPFL zitiert.
Die Wissenschaftler stellten fest, dass die Interaktionen zwischen "einem verletzlichen Nutzer" und einer Person, die bereits in einer extremistischen Gemeinschaft aktiv ist, dazu führten, dass sich Personen am Rande der Gesellschaft diesen Gruppen annäherten.
Umgehung von Richtlinien
Bei den Interaktionen handelte es sich im Wesentlichen um thematische Diskussionen, "die Aufmerksamkeit erregen und eine clevere Möglichkeit darstellen, den Moderationsrichtlinien zu entgehen", erklärte der Forscher weiter. Die Kommentare waren dabei nicht offensichtlich, wie zum Beispiel "Treten Sie meiner Community bei".
Personen, die solche Interaktionen hatten, schlossen sich um bis zu 4,2 Prozentpunkte häufiger Randgemeinschaften an als ähnliche Nutzer, die diesen Austausch nicht hatten.
Ein Klick genügt
Sobald ein gefährdeter Nutzer an einem Kommentaraustausch teilnimmt, braucht er nur einen Klick, um eine extremistische Online-Gemeinschaft zu finden - denn jedes Nutzerprofil zeigt sofort die Gruppen an, in denen die Person aktiv ist.
Darüber hinaus stellten die Wissenschaftler fest, dass diese Rekrutierungsmethode nur in extremistischen Gemeinschaften vorkommt. Sie fanden sie nicht in Gemeinschaften, die sich beispielsweise mit dem Klima, mit Spielen, Sport oder anderen Themen befassen.
Die Studie, die sich in der Vorveröffentlichungsphase befindet, wurde auf der 18. Internationalen AAAI-Konferenz über das Web und soziale Medien (ICWSM), die im Juni in den USA stattfand, für den besten wissenschaftlichen Artikel ausgezeichnet.