CC BY
73
Вестник Томского государственного университета. 2021. № 467. С. 133-143. DOI: 10.17223/15617793/467/17
УДК 316.35
В.В. Кашпур, А.А. Барышев, С.И. Чудинов
РЕПРЕЗЕНТАЦИЯ РАДИКАЛЬНЫХ СООБЩЕСТВ В РОССИЙСКИХ СОЦИАЛЬНЫХ МЕДИА: СПЕЦИФИКА КОНТЕНТА И ИНДЕКС АКТИВНОСТИ
Исследование выполнено при финансовой поддержке РФФИ и ЭИСИ в рамках научного проекта № 20-011-31666 «Оценка влияния онлайн-активности сторонников радикальных идеологий на политические установки
и настроения населения в офлайне».
Представлены результаты анализа тематической кластеризации контента и онлайн-активности правых, левых и исламских радикалов в социальной сети «ВКонтакте». Выявлены текущие векторы радикализации правых (продолжение практики ненависти), левых (консолидация с целью обеспечения собственного партийного представительства в политических процессах) и исламистских (сохранение истинности и чистоты веры) радикалов. Индекс радикальной онлайн-активности показал большую распространенность лево- и праворадикального контента по сравнению с исламистским контентом. Ключевые слова: правые; левые; исламисты; онлайн-активность; радикализм; контент; социальные сети; индекс.
Введение
Исследования экстремистского интернета имеют на данный момент более чем двадцатилетнюю историю. Документально зафиксировано, что первыми возможности нового медиа оценили неонацисты из Германии, которые коммуницировали между собой и организовывали свою деятельность через платформу ThuleNetz (Network) начиная с 1980-х. Интернет обеспечил экстремистам новые преимущества, состоящие в интерконнективности, анонимности, дешевизне, расширении влияния и обеспечении притока новых адептов [1. C. 231]. Последнее связано с тем, что интернет оказался как будто специально созданным для всех недовольных, заменив для них разговоры на кухне [2. С. 43]
В 1990-е гг. интернет надежно связывал многочисленные и разбросанные по всему миру онлайн-группы Штормфронта (Stormfront) - международного интернет-форума белых супрематистов и неонацистов, базирующегося в США. В эти же годы «ИКТ-медиа стали бесспорно наиболее популярными средствами командования, контроля и взаимодействия» среди организаций исламских экстремистов, радикального милитаристского Движения ополчения, и политических партий крайних правых в США [1. C. 245].
Экстремизм при этом определялся через насилие и террор, применяемые для реализации политических, религиозных, социокультурных целей какой-либо группой (идеологической, этнической, классовой) против тех, подавление которых должно обеспечить процветание если не общества в целом, то уж этой группы точно. Путь к экстремизму, который может приобретать различные формы от физического и вербального воздействия до институциональных и культурных ограничений участия в жизни общества [3], связан с радикализацией мнений и настроений. Соответственно, радикализация и экстремизм соотносятся как процесс и результат, формирующие в современной науке и правозащитной практике единый тематический блок, полностью обозначаемый как «радикализация в направлении насилия (экстремизма)» [4, 5].
Процессу радикализации в условиях стремительного развития новой коллективности в форме онлайн-сообществ значительно способствует эффект эхо-камеры, характерный для коммуникации в изолированных сообществах, которые имеют тенденцию отделять себя от основного общества на базе совместно разделяемых обид и опасений [6. С. 26-30].
Сам по себе термин «эхо-камеры», заимствованный из теории массовой информации, фиксирует лишь интегральное действие множества процессов, протекающих в радикализирующихся онлайн-группах. Среди таких процессов ключевыми в формировании опасных последствий радикализации являются:
- укрепления групповой идентичности индивидов благодаря интерактивным свойствам новых медиа [7];
- анонимность интерперсональных контактов членов онлайн-групп [8];
- возможность экспериментирования (игр) с индивидуальными идентичностью [9. C. 225-240; 10] и идеями с целью предъявления их членам группы в качестве перспективных образцов для ускоренной групповой селекции [11].
- усиление эффективности силовых или про-тестных акций в офлайне посредством роста регулярности, частоты и взаимности связей членов радикальных онлайн-сообществ [12].
Эти и другие процессы онлайн-радикализации охватывают в настоящее время большинство стран. На данный момент как политическая, так и виртуальная география распространения радикальных сообществ достаточно хорошо изучены. Описано сетевое устройство радикальных онлайн-групп Чехии и Словакии [13], Венгрии [14], России [15], Италии, Германии и США [16], Канады [17], Швеции и Финляндии [18], а также конфигурации их межнациональных взаимодействий. Вместе с тем исследуется и специальная география радикализации в контексте особой про-странственности интернета, «материками» которого выступают информационно-технологические платформы: Facebook [19], YouTube [20], Twitter [21], ВКонтакте [22] и др.
Новый этап исследований связывается с более пристальным вниманием к контенту и активности онлайн-групп, которые постепенно демонстрируют растущую самостоятельность по отношению к своим офлайновым источникам в виде идеологий партий и движений и их политических стратегий.
Обзор исследований контента и активности радикальных онлайн-групп
Изучение контента радикальных онлайн-групп в большинстве статей сводится к поиску их специфической тематики, связанной с открытой или завуалированной пропагандой насилия. В случае явной генерации экстремистского контента целью исследований является выявление и оценка ущерба безопасности, чести и достоинству людей, наносимого применением к ним языка ненависти. Под «языком ненависти» понимается «агрессивный тип коммуникационного механизма, нацеленного на различные защищаемые (обществом) персональные характеристики, такие как пол, религия, раса, физические недостатки», - выражают превалирующую точку зрения по этому вопросу авторы современного обзора о языке ненависти в интернете [23. C. 108], хотя в настоящее время наблюдается тенденция к обособлению языка ненависти, используемого в интернете, от его офлайнового аналога путем введения специальной категории «кибербул-линг», предлагаемой в основном специалистами по компьютерной идентификации вредоносного контента [24] для обозначения информационных атак на неотторжимые от личности человека его телесные и социальные качества с использованием средств виртуальной и дополненной реальности, обеспечивающих автоматический троллинг целевой аудитории.
Исследователи экстремистского контента фокусируются при его анализе на идентификации степени враждебности языка по соответствующим лингвистическим маркерам. Для этого используется обычно трехуровневая (или более) шкала, различающая 1) призывы к насилию, направленному на определенную социальную группу или отдельного человека как ее представителя; 2) высказывания, носящие устрашающий/угрожающий характер и 3) выражения (чаще саркастические), троллящие людей соответствующей группы в качестве неполноценных и вредных для общества в лице группы - организатора травли [25].
Как показывают исследования, уровень проявления ненависти понижается по мере движения от периферии сети к ее центру, обеспечивающему всю сеть информационно-аналитическими материалами, пригодными для использования в целях разжигания ненависти, но непосредственно не участвующему в самом процессе травли. Смысл этого состоит в своеобразном разделении функций по шельмованию противника и обеспечению бесперебойности этого процесса в условиях возможных преследований его отдельных участников со стороны закона [2. C. 58-59].
Среди других наработок по поводу экстремистского онлайн контента стоит отметить вывод М. Кайани и А. Клукнавска о детерминированности его характера структурой сети и степенью ее интегрированности
в сети большего масштаба, Так, изучая фрагментиро-ванность сетевого пространства правых экстремистских онлайн-групп Чехии и Словакии, они обнаружили в ней значительный потенциал «ренационализации» - тренда на выход этих стран из состава Европейского Союза [13].
Важное наблюдение об обособлении откровенно экстремистского контента от инициирующих его появление официальных сайтов праворадикальных партий принадлежит А. Бен-Давид и А. Матаморос-Фернандез. Ими показано, как запускается агрессивный коммуникационный механизм языка ненависти через лайки, комментарии и посты читателей, разделяющих язык и визуальные образы насилия по отношению к иммигрантам [26. C. 1176].
Новым трендом в изучении экстремистского контента является его отделение от самого экстремистского действия [10], что означает размывание парадигмы линейности процесса радикализации в сторону насилия и террора. Данное положение К. Маккаули и С. Москаленко выразили в виде приобретшей большую популярность максимы: «Нет никакой конвейерной ленты, соединяющей экстремистские убеждения с экстремистскими действиями» [27. C. 214].
«Нейтральная» часть контента радикальных сообществ представляет интерес прежде всего как средство либо маскировки экстремистского контента [28] либо в качестве своеобразной маркетинговой приманки, предназначенной для целей рекрутинга [29]. Однако в результате смешения экстремистских высказываний с позитивной информацией может происходить и инфицирование последней хейтерскими и другими специфическими значениями [29].
В отношении офлайновых корней экстремистского контента современные исследования особо отмечают специфику происхождения левых идей в интернете. В отличие от непосредственности и естественности правого и исламистского контента левые идеи и настроения требуют для своего появления и пролиферации определенной работы университетских интеллектуалов («leftist content is the language of academia, but on Youtube») [30], которые к тому же слишком переоценили перспективы самоочищения Интернета 2.0 от насилия и похабщины [31],чем объясняется значительное меньшее присутствие левых радикалов в онлайн и их отставание по активности от ультраправых и исламских фундаменталистов в западных странах.
Что касается активности радикальных сообществ, то в настоящее время она трактуется как частота и массовость присутствия соответствующего контента в интернет-пространстве, что получает выражение в соответствующих индексах: «Extremist Media Index»
[32], «Индекс онлайн-активности правых радикалов» и «Индекс активности сторонников А. Навального»
[33].
Обзор публикаций по проблематике статьи демонстрирует дефицит сравнительных исследований контента и активности радикальных онлайн-групп различной идеологической направленности не только в России, но и в мировом масштабе. Поэтому авторы статьи в рамках исследовательского проекта № 20011-31666 «Оценка влияния онлайн-активности сто-
ронников радикальных идеологий на политические установки и настроения населения в офлайне», выполненного при финансовой поддержке РФФИ и ЭИСИ, провели сравнительное исследование, отвечающее на следующие исследовательские вопросы:
1. Какая тематика доминирует в радикальных он-лайн-сообществах различных идеологических направлений в России?
2. Есть ли пересечение ключевых тематических кластеров в дискурсе радикальных онлайн-сообществ различных идеологических направлений?
3. Как распределена активность радикальных правых, левых и исламистских онлайн-сообществ в региональном разрезе?
Методы и источники данных
Для ответа на исследовательские вопросы была разработана авторская методологическая модель анализа, состоящая из нескольких элементов:
1) методы идентификации радикального контента и его носителей в социальных сетях;
2) методы выявления форм и способов репрезентации радикального контента;
3) метод анализа доминирующих тематических спектров радикального контента;
4) метод оценки уровня онлайн-активности сторонников радикальных движений и идеологий.
Рассмотрим содержание каждого из заявленных методов.
1. Для решения задачи идентификации радикального контента и его носителей в социальных сетях были использованы два типа методов: метод поиска через структурные связи - «снежный ком» и методы идентификации посредством автоматического анализа контента - natural language processing (обработка естественного языка). Метод «снежного кома» основывается на выделении известных, устойчивых и многочисленных организаций и групп в социальных сетях и выявлении связанных с ними через «дружеские связи» меньших по численности и малоизвестных организаций и групп. Выявленные организации и группы подвергаются такой же процедуре поиска, до тех пор, пока получившийся «снежный ком» не вберет в себя все субъекты, составляющие целевую аудиторию исследования. Второй способ выявления онлайн-групп и сообществ состоит в выявлении их на основе специфики генерируемого ими контента при помощи лингвистических маркеров. Авторским коллективом обновлен и дополнительно разработан инструментальный набор лингвистических маркеров, при помощи которых проанализирован контент социальной сети «ВКонтакте» и идентифицированы пользователи, генерирующие исламистский, право- и леворадикальный контент. Для изучения текстового контента использована выгрузка текстовых данных - при помощи программного интерфейса приложения (Application Programming Interface, API) «ВКонтакте». Лемматиза-ция текстового контента реализована при помощи библиотек MyStem pymorphy2.
Отбор сообществ сторонников исламистских, право- и леворадикальных идей также формировался в
два такта: на первом такте посредством автоматического поиска по лингвистическим маркерам был составлен реестр сообществ, затем была проведена фильтрация сообществ в ручном режиме и отобраны сообщества, в которых: 1) количество участников было больше 3 000, 2) были новые публикации за последнюю неделю, 3) дискурс радикальной идеологии присутствовал в большинстве постов. Далее, на втором такте использовался метод «снежного кома»: мы просматривали все сообщества, указанные в разделе ссылки отобранных сообществ, и включали в выборку наиболее содержательно релевантные, т.е. идеологически близкие сообщества. В данном случае мы принимали во внимание идеологическую направленность сообществ и их активность, поэтому отобранные таким образом сообщества могут иметь небольшое количество участников (до нескольких сотен). Такой метод позволил сформировать несколько кластеров сообществ, которые ссылаются и «репостят» друг на друга, поэтому эти сообщества можно рассматривать как идеологически родственные.
В результате идентификации радикального контента был составлен перечень из 169 сообществ с общим количеством участников 1 378 717 профилей: 76 леворадикальных сообществ с общим количеством подписчиков 458 815 профилей, 54 праворадикальных сообщества с общим количеством 684 684 профилей и 39 сообществ с контентом исламистского радикализма с общим количеством подписчиков 235 218 профилей. Из общего количества подписчиков были выгружены действующие (не заблокированные и не удаленные) уникальные профили активных подписчиков - те, которые заходили в социальную сеть хотя бы один раз в течение одного месяца перед началом анализа (ноябрь 2020). Итоговый список профилей для анализа состоял из 387 271 уникальных подписчиков: 135 667 профилей в леворадикальных сообществах, 236 334 профилей в праворадикальных сообществах и 15 270 профилей в сообществах исламского радикализма.
2. Для реализации задачи выявления форм и способов реализации репрезентации радикального контента использована комбинация качественных социологических методов и технологий автоматического анализа текстов с целью определения их идеологической принадлежности и разбиения на классы. Анализ форм и способов репрезентации радикального контента реализован использованием моделей дискурс-анализа Т. Ван Дейка и М. Холлидея.
3. Автоматический анализ текстового контента был проведен с помощью пакета программного обеспечения для статистического анализа данных Ро1уАпа^1 Использован метод кластеризации текстов, который автоматически генерирует модель классификации текста. При кластеризации использовался метод вероятностного латентно-семантического анализа (ВЛСА). В качестве текстов был отобран весь контент пяти наиболее массовых радикальных он-лайн-групп по каждому из идеологических направлений с 1 января 2019 г. по сентябрь 2020 г.
Праворадикальные онлайн-группы: Правые (https://vk.com/pub1ic23486475), количество подписчиков 148 950; Русские Регионы (https://vk.com/rus_region),
количество подписчиков 40 277; Пробуждение (https://vk.com/club45706147), количество подписчиков 34 009; Alt-Right (https://vk.com/public32176202), количество подписчиков 29 679; WOTANJUGEND (https://vk.com/public150962667), количество подписчиков 29 126.
Исламистские онлайн-группы: Всадник (https://vk.com/vsadnik20), количество подписчиков 37 698; «At_Tauhid» (https://vk.com/clubtauhid001), количество подписчиков 32 008; TAUHIDj-b'j^P (https://vk.com/tauhidpubli), количество подписчиков 22 639; Черноокая (https://vk.com/cher_no_oka_ya), количество подписчиков 19 555; Абу Умар Дагеста-ний (https://vk.com/public130612677), количество подписчиков 14 222.
Леворадикальные онлайн-группы: Союз Красных Групп и всех, верных СССР! (https://vk.com/cco_cccp), количество подписчиков 51 856; Мама Анархия! (https://vk.com/mother_anarchy_official), количество подписчиков 37 248; Anarcho News (https://vk.com/anarcho. news), количество подписчиков 32 310; Другая Россия Э.В. Лимонова (https://vk.com/drugoross), количество подписчиков 22 206; AVTONOM.ORG (Автономное Действие) (https://vk.com/avtonom_org), количество подписчиков 20 101.
4. Для определения уровня активности разработан авторский индекс информационной активности сторонников радикальных идеологий. Для расчета индекса информационной активности учтены следующие три вида деятельности, которые выполнены в онлайн-пространстве: лайки, репосты, комментарии. Использование IT-технологий обработки естественного языка и алгоритмов машинного обучения позволило проанализировать весь генерируемый контент социальной сети «ВКонтакте» в период с января 2019 по сентябрь 2020 г. и определить локализацию носителей радикального контента.
Индекс онлайн-активности - показатель, отражающий соотношение количества активности участни-
В сообществах правых радикалов достаточно легко обнаруживаются общие темы, против которых они выступают, таким образом эти сообщества формируются на базе неприятия тех или иных явлений и процессов современного общества. Один из популярных в праворадикальных сообществах мемов содержит утверждение: «Всех объединяет ненависть», это выражение наилучшим образом характеризует дискурс праворадикальных сообществ. Объекты ненависти, в свою очередь, достаточно разнообразны и часто вполне конкретны: с одной стороны, это российские
ков искомых сообществ (лайки) по регионам на количество жителей региона.
Формула индекса радикальной онлайн-активности: А/С,
где А - активность в сообществах (лайки) за анализируемый период от активных аккаунтов (заходивших в социальную сеть хотя бы 1 раз в течение месяца до начала сбора данных). Репосты и комментарии были исключены из расчета индекса вследствие крайне низкого их количественного присутствия в радикальных сообществах;
С - количество жителей региона (офлайн). Данные взяты с официальных сайтов региональных отделений Росстата за последний год.
В рамках данного исследования были выгружены показатели оценок (лайки) контента сообществ за период с января 2019 по октябрь 2020 г. с региональной привязкой к автору оценки. Количество оценок контента по месяцам и годам с региональной привязкой было разделено на количество жителей соответствующего региона. Данные по количеству жителей региона были взяты с сайтов региональных отделений Росстата за 2018-2020 гг.
В итоге вычислен интегральный индекс информационной активности сторонников радикальных идеологий для каждого изучаемого идеологического направления: правые и левые радикалы, исламские салафиты в разрезе каждого региона РФ. На основе значений рейтинга отобраны регионы с высокими и низкими значениями индекса онлайн-активности.
Контент и активность правых радикалов
Сообщества сторонников праворадикальных идей отличаются большим разнообразием тематики сообщений. Это показывает кластерный анализ контента пяти наиболее массовых групп правых радикалов, в которых за период с 1 января 2019 г. по сентябрь 2020 г. было размещено 24 518 постов.
власти, и прежде всего фигура действующего президента (Кластер 1); мигранты; большевики и коммунисты, а также современные левые и антифашисты; представители ЛГБТ, феминистки; евреи; чернокожие; и т. д.
Распространенной тематикой обсуждения является ситуация с пандемией коронавируса, которая часто обсуждается в русле теорий заговора и ошибок официальной медицины и властей (Кластер 2).
Если взять за основу определение правого радикализма Минкенберга [34], которое базируется на сле-
Таблица 1
Кластеризация контента правых радикалов
Номер кластера Ключевые слова Количество записей
1 русский, выбор, партия, власть, президент, народ, протест, конституция, политический, кандидат 5 850
2 коронавирус, население, тысяча, миллион, смертность, страна, вирус, заразить, человек, заболеть 1 134
3 женщина, мужчина, фильм, белый, армия, советский, солдат, мужской, офицер, понять 1 050
4 суд, задержать, уголовный, полиция, статья, преступление, дело, ММА, грэпплинг, убийство 977
5 экономика, миллиард, рынок, экономический, страна, компания, нефть, доход, цена, рубль 826
6 раса, бог, древний, нордический, дух, альбом, традиция, жизнь, образ, мир 795
дующем идеологическом наборе: а) вера в абсолютную ценность традиционных институтов и форм социальной организации (государства, церкви, нации) и обозначение их собственных характеристик и уникальности в силу принадлежности к ним; б) вера в необходимость сохранения и защиты этих институтов от угроз, исходящих от модернизационных процессов, происходящих в современном обществе, то будет заметно очень контрастное различение «старых» и «новых» правых. В общем, и те и другие воспринимают будущее как прошлое, как реставрацию минувшего порядка, различие в том, к какому прошлому они обращаются в поисках легитимации своих идей.
«Старые» правые в нашем исследовании представлены некогда очень популярными правыми организациями РНЕ, Общество ПАМЯТЬ и несколькими другими сообществами без выраженной связи с какими-либо политическими движениями (Рассвет и т.д.). В данных сообществах очень активно эксплуатируется тема православия, царской России, белогвардейского движения и белой эмиграции (Кластер 3). «Новые» более разнообразны и в меньшей степени привязаны в своей самоидентификации к конкретным историческим событиям и периодам, и более склонны к некоторой эклектичной мифологичности. Так, существуют достаточно многочисленные сообщества (Пробуждение, WOTANJUGEND и т.д.), объединяющие сторонников язычества, прежде всего скандинавского. Они, развивая типичную праворадикальную риторику, включающую критику европейской толерантности, расизм, обвинения мигрантов и т.п., в качестве образа будущего обращаются к абстрактным временам мифов (Кластер 6).
В другой части «новых» правых сообществ практически полностью игнорируют религиозную тематику и всю критику обрушивают на современное российское государство с позиции национал-либерализма и экономической политики (Кластер 5). Образ будущего, который предлагается в данных сообществах, еще более отвлечен, чем в языческих сообществах. Его можно сформулировать как движение к миру без мигрантов, однополых браков, кавказцев, чернокожих, и в тоже время без полиции, коррупции, чиновников, что очень сильно сближает данную часть правых радикалов с либертарианскими движениями.
Кластеризация коте
Онлайн-активность правых радикалов крайне неравномерно распределена по регионам Российской Федерации. Среди активных подписчиков праворадикальных сообществ лидерами онлайн-активности являются северо-западные регионы и города федерального значения (в скобках даны значения регионального индекса радикальной онлайн-активности за 2020 г.): г. Санкт-Петербург (47,28), г. Москва (35,22), Архангельская область (26,61), Вологодская область (20,30), Мурманская область (20,14), Республика Коми (18,06), Псковская область (17,94), Калининградская область (16,52), Орловская область (16,01), г. Севастополь (15,49), Новгородская область (13,32), Тверская область (13,09), Челябинская область (12,56), Ярославская область (12,17), Пермский край (11,82), Самарская область (11,67), Приморский край (11,56), Кировская область (11,29), Тульская область (10,83), Свердловская область (10,82), Смоленская область (10,81), Костромская область (10,81), Краснодарский край (10,73), Курская область (10,55), Ростовская область (10,31).
Регионами, имеющими минимальные значения индекса онлайн-активности праворадикальных сообществ, стали: Республика Хакасия (2,86), Республика Саха (Якутия) (2,74), Республика Северная Осетия -Алания (2,54), Забайкальский край (2,22), Республика Алтай (2,02), Камчатский край (2,01), Республика Ингушетия (1,90), Кабардино-Балкарская республика (1,14), Карачаево-Черкесская республика (1,05), Чеченская республика (1,01), Республика Калмыкия (0,66), Республика Дагестан (0,34), Республика Тыва (0,26).
Контент и активность исламских радикалов
Практически все салафитские сообщества ведут завуалированную пропаганду своих религиозных и политических взглядов, по всей видимости, рассчитывая установить коммуникацию с активными пользователями социальной сети, интересующимися исламом, с целью их дальнейшего вовлечения в закрытые группы и мессенджеры (такие как Telegram). Это показывает кластерный анализ контента пяти наиболее массовых групп исламских радикалов, в которых за период с 1 января 2019 г. по сентябрь 2020 г. было размещено 3 908 постов.
Таблица 2
исламских радикалов
Номер кластера Ключевые слова Количество записей
1 сестра, брат, Африка, колодец, дитя, нигер, кавказ, мужчина, мечеть, амин 651
2 ширк, явиться, неверие, кафир, куфр, поклоняться, такфир, шейх, религия, поклонение 629
3 приветствовать, благословить, ибн, пророк, хадис, посланник, передать, спросить, ответить, довольный 602
4 помиловать, Ибн, смотреть, страница, имам, источник, знание, чуждый, ас-саликин, сунна 480
5 сердце, терпение, раб, любовь, милость, человек, постичь, испытание, благо, душа 447
6 день, ночь, месяц, рамадан, грех, пост, молитва, поститься, простить, благословение 363
В «ВКонтакте» обнаруживается довольно большое число салафитских сообществ, но только единичные паблики можно отнести к тем, которые открыто про-
поведуют экстремистские взгляды или занимаются морально-идеологической легитимацией практики терроризма (обычно они быстро блокируются). В вы-
борку сообществ в данном исследовании вошли сала-фитские сообщества, которые можно подразделить на несколько категорий по степени радикальности проповедуемых религиозно-политических взглядов:
1. К первой категории мы отнесли сообщества, транслирующие умеренный салафизм (более гибко трактующий вопросы отношения к светской власти и иноверцам, отвергающий необходимость практики джихада в виде вооруженной борьбы на современном этапе исторического развития) - мадхализм (последователи Рабиа аль-Мадхали). К ним относятся сообщества, которые враждебно относятся к суфиям, шиизму, несалафитским течениям в исламе и борются за «чистоту» исламского вероучения и образа жизни мусульман. К примеру, группа «Нововведения в Исламе», которая целиком посвящена теме нововведений и «новведенцев», ведущих к ереси.
2. Другая часть сообществ (наибольший сегмент среди салафитских пабликов) пропагандирует завуалированные формы радикализма и ненасильственного экстремизма (в виде «языка ненависти» и пропаганды враждебного отношения к иноверцам и несалафитам, к которым относится большая часть мусульман, исповедующих различные течения традиционного ислама). Для данного сегмента характерна открытая пропаганда идеологии ваххабизма, ее современных саудовских идеологов. Различие в идеологических взглядах между сообществами в основном сводится к предпочтению того или иного саудовского идеолога(ов) салафизма.
Данный сегмент можно подразделить на две подгруппы: сообщества, которые даже в случае пропаганды ярко выраженного такфиризма открыто декларируют свое отвержение идеологии ИГИЛ; другая часть сообществ, чья позиция по отношению к ИГИЛ не представлена в открытом виде (соответственно, их отношение к практике по осуществлению террористической деятельности также не представляется ясно выраженным).
3. Более политизированные сообщества, не связанные с пропагандой ИГИЛ, но косвенно поддерживающие терроризм, представлены крупным онлайн-сообществом (более 32 тыс. подписчиков) «А1_ТаиЫ&», связанным с репрезентацией взглядов бывшего шариатского судьи запрещенной на территории Российской Федерации террористической организации «Имарат Кавказ» Абдуллаха Костекского.
4. Еще одна часть салафитских сообществ оказывают завуалированную информационную поддержку пропаганды джихадистского салафизма и деятельности запрещенной на территории РФ террористической организации «Исламское государство» (ИГИЛ). К ним относятся эксплицитно такфиритские сообщества «
(Сокровище имамов Неджд)», которое во время проведения исследования преобразовалась в закрытую группу и «ТАЦНГО_^>й». Максимально завуалированной среди подобных групп выступает «Черноокая» -восстановленное сообщество после блокировки за откровенно проИГИЛовскую позицию. Довольно автономную подгруппу в рамках данной категории составляют последователи дагестанского (по происхождению) проповедника Абу Умара Саситлинского, подозреваемого в России в финансировании ИГИЛ и других
террористических организаций, действующих в Сирии. Контент таких сообществ сконцентрирован вокруг информационных материалов, продуцируемых Саситлин-ским.
Все салафитские сообщества отличает глубокая погруженность в религиозную тематику - разбор богословских вопросов или вопросов религиозного права (Кластеры 3, 4). Отличием от ресурсов, транслирующих мировоззрение и систему ценностей традиционного ислама, является ярко выраженный акцент на темах, отделяющих «истинноверующих» от остального социального мира, погрязшего в безбожии, грехах и социальных проблемах (Кластеры 1, 2, 6). К таким темам относятся тема неверия, отпадения и отлучения от ислама (в частности, вопрос об условиях обвинения единоверца в неверии), ненависти к иноверцам как моральной обязанности истинноверующих, отвращения к светским формам жизни, включая празднование общепризнанных и официальных праздников в России (Новый год, 8 марта и др.). Для четвертой категории салафитских сообществ характерна еще более узкая сектантская позиция, согласно которой большинство официальных саудовских богословов, являющихся рупором современного ваххабизма и представляющих авторитет для сторонников «чистого ислама», выбрасываются за борт истинной религии в качестве «ученых зла».
Онлайн-активность исламистов тесно связана с наличием значимой доли мусульман среди населения регионов.
Среди активных подписчиков исламистских (са-лафистских) сообществ лидерами онлайн-активности являются жители национальных республик, в которых ислам исторически доминирующая религия: Республика Дагестан (1,401), Чеченская Республика (1,443), Республика Ингушетия (1,506), Кабардино-Балкарская Республика (0,715), Карачаево-Черкесская Республика (0,562), Астраханская область (0,507), г. Москва (0,402), Ханты-Мансийский автономный округ - Югра АО (0,486), Республика Башкортостан (0,283). Исключением являются Москва и Ханты-Мансийский автономный округ, в которых активность исламистов связана с большим количеством мигрантов-мусульман из стран Средней Азии.
Регионами, имеющими минимальные значения индекса онлайн-активности салафитских сообществ, стали дальневосточные, центральные и северозападные регионы: Кировская область (0,004), Амурская область (0,004), Республика Хакасия (0,004), Владимирская область (0,004), Новгородская область (0,003), Республика Бурятия (0,003), Республика Марий Эл (0,003), Вологодская область (0,003), Сахалинская область (0,002), Курская область (0,002), Ленинградская область (0,000), Республика Саха (Якутия) (0,000), Тамбовская область (0,000).
Контент и активность левых радикалов
Носителей левой идеологии в социальной сети «ВКонтакте» можно подразделить на ультралевых (левых экстремистов), левых радикалов и умеренных. К умеренным относятся активисты и сторонники официальных левых партий (партия Патриоты Рос-
сии, Коммунистическая партия Российской Федерации (КПРФ), Коммунистическая партия Коммунисты России, Коммунистическая партия Социальной Справедливости (КПСС), Российский объединенный трудовой фронт), движений (Левый фронт) и политических организаций (Союз марксистов), использующих мирные средства достижения целей социальной справедливости и равноправия в рамках имеющегося конституционного строя.
Свою борьбу за коренное преобразование общественно-политического строя они ведут в рамках существующих законов, используя различные методы агитации, пропаганды и протестной деятельности для привлечения внимания (в том числе правоохранительных и законодательных органов) к проявлениям коррупции, попрания прав человека, деградации социальной сферы, окружающей среды, общественной нравственности как закономерным последствиям сложившейся государственно-капиталистической системы. Большинство леворадикальных партий и движений не имеют или лишены регистрации в Минюсте РФ в связи с присутствием в их дискурсе элементов, связанных с темой насилия (Кластеры 4, 5). Среди них - Объединенная коммунистическая партия (ОКП), Всесоюзная коммунистическая партия большевиков (ВКПБ), Российский объединенный трудовой фронт, Российское социалистическое движение, Революционная рабочая партия (РРП), Российское социалистическое движение (РСД).
Идеологически большинство левых радикалов придерживается традиционной для России марксистско-ленинской традиции, но имеются и организации, разделяющие «более левые» идеи троцкизма (Революционная рабочая партия (РРП), Российское социалистическое движение, нацеленные на борьбу с бюрократией, отказ от сотрудничества с капиталом, делающие акцент на самоуправлении и создании «настоящих профсоюзов), и маоизма (Российская маоистская партия), проповедующая идеи плановой экономики, антиимпериализма, деколонизации, легализации рабочих-мигрантов, консолидации всех течений, противостоящих капиталистическому строю, включая феминизм (Кластеры 1, 3). К организациям, опирающимся на
Цели радикалов находятся по ту сторону охраняемых конституцией социальных отношений (отрицание капитализма, государства как самостоятельной формы публичной власти и т.д., всех форм эксплуатации человека, ограничения свободы личности и т.д.). Это показывает кластерный анализ контента пяти наиболее массовых групп левых радикалов, в которых за период с 1 января 2019 г. по сентябрь 2020 г. было размещено 36 206 постов.
идеи и практики сталинизма можно отнести Трудовую Россию, Коммунистическую партию большевиков, Российскую коммунистическую рабочую партию (РКРП). В настоящее время российские левые радикалы достаточно умело модерируют жесткость своего публичного дискурса благодаря, прежде всего, его богатой литературной составляющей, включающей неза-прещенные в РФ труды основоположников соответствующих направлений и их продолжателей.
Левый экстремизм является продолжением как умеренных, так и радикальных левых идей за рамками сферы их политкорректного употребления. В таком виде они смыкаются с мнениями и настроениями маргинальных слоев, не способных сдерживать чувства гнева, отвращения и презрения по отношению к социальным группам, олицетворяющим несправедливый общественный порядок, и их сателлитам и руководимых желанием радикального изменения общества путем насильственного лишения этих групп доминирующего положения. При этом не важно, являются ли эти мнения и настроения непосредственной реакцией на определенные ситуации или целенаправленно формируются в соответствии с той или иной левой идеологией. С точки зрения сетевой репрезентации левоэкстремистский дискурс независимо от порождающих его причин находит выражение в вербальных или визуальных образах насилия во имя справедливости и равноправия, циркулирующих в он-лайн-группах, формирующих субкультурный уровень существования официально признаваемых левых идей (Кластер 2).
Особую категорию левых радикалов формируют так называемые «новые левые» (анархисты, антифашисты, антиглобалисты, пацифисты, феминисты), так как их дискурсы являются продуктом достаточно глубокой
Таблица 3
Кластеризация контента левых радикалов
Номер кластера Ключевые слова Количество записей
1 пригласить, группа, друг, власть, народ, буржуй 8 559
2 общество, революция, класс, социалистический, мир, революционный, капитализм, идея, книга, буржуазия 2 893
3 пригласить, группа, социализм, народ, друг, марксизм-ленинизм, капитализм, изучить, борьба, большевик 2 417
4 выбор, конституция, протест, президент, голосование, жилет, власть, партия, жёлтый, поправка 2 271
5 нацбол, акция, активист, другая Россия, митинг, пикет, задержать, пройти, протест, дело 2 224
6 президент, деньги, пенсия, чиновник, рубль, пенсионный, дитя, жить, налог, работать 1 730
7 рубль, доход, рост, россиянин, цена, миллиард, население, составить, вырасти, тысяча 1 435
8 суд, дело, уголовный, полиция, сотрудник, статья, полицейский, задержать, сообщить, адвокат 1 361
рефлексии и на данный момент поддерживаются напрямую соответствующими идеологиями, находящимися в стадии разработки и освоения. Поскольку эти радикальные идеологии находятся в жесткой конфронтации с существующей общественной моралью (Кластер 8), постольку они легко криминализируются по многим статьям УК, постольку люди, их исповедующие (особенно в форме соответствующих материально-дискурсивных акционистских практик (феминисты), практик неповиновения властным предписаниям (пацифисты, анархисты) или агрессивного противодействия проявлениям правого экстремизма (Антифа)), вполне обоснованно подпадают под категорию экстремистов. Усиление элементов перформативности в этих дискурсах приводит к насыщению их видео и аудио текстами (например, песенная коллекция анархистского рока).
В основном дискурс российских левых в «ВКонтак-те» связан с поддержкой акций политического протеста, пропагандой форм самоорганизации населения и производственных коллективов в противовес бюрократической медлительности властей и произволу корпоративного менеджмента, критикой фальсификации выборов, разоблачением коррупционеров в контексте их аффилированности с Единой Россией и путинским режимом, с представлением последнего в качестве оккупационного, обслуживающего мировую олигархию (Кластеры 6, 7). В позитивной части дискурса находятся вопросы самоуправления на всех уровнях (включая поддержку «настоящих» профсоюзов), самообразования и поддержки нуждающихся (Кластер 1). Такова повестка, общая для всех левых групп в интернете независимо от того, являются ли они партийными сайтами, площадками, тяготеющими к существующим в оффлайне политическим организациям и движениям, или независимыми сообществами. При этом вопросами, порождающими разногласия между левыми, являются Навальный, Крым, «Назад в СССР», война в Донбассе, судьба советского наследия, доставшегося ныне суверенным республикам, мигранты, ЛГБТ.
Как и в случае с правыми, онлайн-активность левых радикалов также неравномерно распределена по регионам Российской Федерации. Среди активных подписчиков леворадикальных сообществ лидерами онлайн-активности являются северо-западные и промышленные регионы, а также города федерального значения (в скобках даны значения регионального индекса онлайн-активности за 2020 год): г. Санкт-Петербург (33,30), Новгородская область (33,93), Архангельская область (27,02), Мурманская область (21,71), г. Москва (15,66), Удмуртская Республика (11,64), г. Севастополь (16,34), Республика Коми (18,15), Вологодская область (20,57), Калининградская область (10,21), Нижегородская область (17,82), Республика Карелия (14,91), Псковская область (15,06), Пермский край (12,14), Челябинская область (10,08), Ярославская область (11,01).
Регионами, имеющими минимальные значения индекса онлайн-активности леворадикальных сообществ, стали регионы Дальнего Востока и национальные республики Сибири и Северного Кавказа: Камчатский край (1,54), Еврейская автономная область (2,08), Амурская область (1,21), Республика Калмыкия (1,65), Чукотский автономный округ (1,46), Республика Алтай (0,84), Чеченская Республика (0,26), Республика Ингушетия (0,00).
Заключение
Полученные в результате исследования данные позволяют сформулировать ряд выводов, проясняющих особенности онлайн-радикализма в России.
1. Кластерный анализ текстового контента и анализ дискурсов радикальных онлайн-сообществ позволили зафиксировать расхождение структурных компонентов контента в идеологически разных радикальных движениях. Об этом, прежде всего, свидетельствуют количество и тематическое содержание выявленных кластеров слов, используемых радикалами в своих онлайн-сообществах и группах. Такой анализ позволяет определить текущий вектор радикализации правых, левых и исламистов. В настоящее время радикализация происходит по следующим направлениям: правые - протест против действующей власти; исламисты - истинность и чистота веры; левые - консолидация с целью революции.
2. Можно выделить два структурных компонента дискурса, пересекающихся в идеологически разных радикальных онлайн-сообществах: а) компонент «чистоты» религии, веры, этноса, часто встречающийся у исламистов и праворадикалов, и б) компонент политического протеста против действующей власти, объединяющий правых и левых радикалов.
3. Разработанный индекс радикальной онлайн-активности имеет важное значение для развития исследований онлайн-радикализма, поскольку он может использоваться в качестве объективированной метрики оценки радикальной активности в социальных медиа как в статике, так и в динамике. Он позволяет оценить масштаб и распределение радикальной онлайн-активности в социальных сетях. В нашем случае результаты исследования демонстрируют в целом большую распространенность лево- и праворадикального контента по сравнению с исламистским контентом в российских социальных медиа. Отдельным результатом является фиксация этнорелигиозной обусловленности онлайн-активности в региональном разрезе исламистских радикалов (высокая активность в республиках Северного Кавказа и регионах с большим количеством мигрантов - Москва и ХМАО) и правых радикалов (низкая активность в национальных республиках Северного Кавказа, Сибири и Дальнего Востока).
ЛИТЕРАТУРА
1. Whine M. Cyberspace-a new medium for communication, command, and control by extremists // Studies in conflict and terrorism. 1999. № 22 (3).
P. 231-245. DOI: 10.1080/105761099265748
2. Myagkov M., Kashpur V.V., Baryshev A.A., Goiko V.L., Shchekotin E.V. Distinguishing Features of the Activity of Extreme Right Groups under
Conditions of State Counteraction to Online Extremism in Russia // REGION: Regional Studies of Russia, Eastern Europe, and Central Asia. 2019. № 8 (1). P. 41-74. URL: https://slavica.indiana.edu/journalListings/region/Volume8_No1
3. Galtung J. Cultural Violence // Journal of Peace Research. 1990. № 27 (3). P. 291-305. DOI: 10.1177/0022343390027003005
4. Stern J. Radicalization to extremism and mobilization to violence: What have we learned and what can we do about it? // The Annals of the Ameri-
can Academy of political and social science. 2016. № 668 (1). P. 102-117. DOI: 10.1177/0002716216673807
5. Vergani M., Iqbal M., Ilbahar E., Barton G. The three Ps of radicalization: Push, pull and personal. A systematic scoping review of the scientific
evidence about radicalization into violent extremism // Studies in Conflict & Terrorism. 2020. № 43 (10). P. 854-854. doi.org/10.1080/1057610X.2018.1505686.
6. Sunstein C.R. Going to Extremes : How Like Minds Unite and Divide. Oxford : Oxford University Press, 2009. 208 p.
7. Postmes T., Brunsting S. Collective action in the age of Internet : Mass communication and online mobilization // Social Science Computer Re-
view. 2002. № 20. P. 290-301. DOI: 10.1177/089443930202000306
8. Postmes T., Spears R., Sakhel K., de Groot D. Social influence in computer-mediated communication : The effects of anonymity on group behav-
ior // Personality and Social Psychology Bulletin. 2001. № 27. P. 1243-1254. DOI: 10.1177/01461672012710001
9. Жижек С. Чума фантазий. Харьков : Изд-во Гуманитарный Центр, 2014. 388 с.
10. Koster W., de Houtman D. Stormfront is like a second home to me // Information, Communication & Society. 2008. № 11 (8). P. 1155-1176. DOI: 10.1080/13691180802266665
11. Garrett R.K. Echo chambers online? : Politically motivated selective exposure among Internet news users // Journal of Computer-Mediated Communication. 2009. Vol. 14, № 2. P. 265-285. DOI: 10.1111/j.1083-6101.2009.01440.x
12. Wojcieszak M. "Carrying online participation offline" - Mobilization by radical online groups and politically dissimilar offline ties // Journal of Communication. 2009. № 59 (3). P. 564-586. DOI: 10.1111/j.1460-2466.2009.01436.x
13. Caiani M., Kluknavska A. Extreme right, the Internet and European politics in CEE countries : The cases of Slovakia and the Czech Republic // Social Media and European Politics. London : Palgrave Macmillan, 2017. P. 167-192. DOI: 10.1057/978-1-137-59890-5_8
14. Fomina V. Mapping the Network of Hungarian Extremist Groups In-Depth Analysis Sequence. Paper P. 25.
15. Кашпур В.В., Барышев А.А., Мундриевская Ю.О., Щекотин Е.В. Российский праворадикальный экстремизм и социальные сети как пространство его публичного существования // Противодействие терроризму. Проблемы XXI века-COUNTER-TERRORISM. 2017. № 3. С. 27-33.
16. Caiani M., Della Porta D., Wagemann C. Mobilizing on the extreme right: Germany, Italy, and the United States. New York : Oxford University Press, 2012. 288 p. DOI: 10.1093/acprof:oso/9780199641260.001.0001
17. Tanner S., Campana A. The process of radicalization : Right-wing skinheads in Quebec // Canadian Network for Research on Terrorism, Security, and Society. Conference: TSAS Workshop. Ottawa, 2014. 46 p. DOI: 10.13140/2.1.5093.5681
18. Veilleux-Lepage Y., Archambault E. Mapping Transnational Extremist Networks // Perspectives on Terrorism. 2019. № 13 (2). P. 21-38.
19. Hutchinson J., Amarasingam A., Scrivens R., Ballsun-Stanton B. Mobilizing extremism online: comparing Australian and Canadian right-wing extremist groups on Facebook // Behavioral Sciences of Terrorism and Political Aggression. 2021. P. 1-31. DOI: 10.1080/19434472.2021.1903064
20.Tufekci Z. YouTube, the great radicalizer // The New York Times. 2018. № 10. P. 23.
21. Wei Y., Singh L., Martin S. Identification of extremism on Twitter // 2016 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM). 2016. P. 1251-1255. DOI: 10.1109/ASONAM.2016.7752398
22. Нечаева Е.Д. Особенности экстремистского контента (на материале анализа текстов, размещенных в социальной сети «Вконтакте») // Проблемы филологии глазами молодых исследователей : материалы конференции студентов, аспирантов и молодых ученых. Пермь, 2019. С. 155-158. URL: http://www.psu.ru/files/docs/science/books/sborniki/problemy_filology_ 2019.pdf
23. Chetty N., Alathur S. Hate speech review in the context of online social networks // Aggression and violent behavior. 2018. № 40. P. 108-118. DOI: 10.1016/j.avb.2018.05.003
24. Zhong H., Li H., Squicciarini A.C., Rajtmajer S.M., Griffin C., Miller D.J., Caragea, C. Content-Driven Detection of Cyberbullying on the Insta-gram Social Network // Proceedings of the Twenty-Fifth International Joint Conference on Artificial Intelligence (IJCAI-16). 2016. Vol. 16. P. 3952-3958.
25. Sharma S., Agrawal S., Shrivastava M. Degree based classification of harmful speech using twitter data // Proceedings of the First Workshop on Trolling, Aggression and Cyberbullying (TRAC-2018). 2018. P. 106-112. arXiv: 1806.04197.
26. Ben-David, A., Fernández A.M. Hate Speech and Covert Discrimination on Social Media : Monitoring the Facebook Pages of Extreme-Right Political Parties in Spain // International Journal of Communication. 2016. № 10. P. 1167-1193.
27. McCauley C., Moskalenko S. Understanding political radicalization : The two-pyramids model // American Psychologist. 2017. № 72 (3). P. 205216. DOI: 10.1037/amp0000062
28. Myagkov M., Shchekotin E.V., Chudinov S.I., Goiko V.L. A comparative analysis of right-wing radical and Islamist communities' strategies for survival in social networks (evidence from the Russian social network VKontakte) // Media, War & Conflict. 2020. № 13 (4). P. 425-447. DOI: 10.1177/1750635219846028
29. Graham R. Inter-ideological mingling: White extremist ideology entering the mainstream on Twitter // Sociological Spectrum. 2016. № 36 (1). P. 24-36. DOI: 10.1080/02732173.2015.1075927
30. Kearney R. Meme frameworks : A semiotic perspective on internet memes // Video Journal of Education and Pedagogy. 2019. № 4 (2). P. 82-89. DOI: 10.1163/23644583-00401013
31. Mirrlees T. Kill All Normies: Online Culture Wars From 4Chan and Tumblr to Trump and the Alt-Right by Angela Nagle // Alternate Routes: A Journal of Critical Social Research. Book Review. URL: http://www.alternateroutes.ca/index.php/ar/article/view/22442
32. Holbrook D. Designing and Applying an 'Extremist Media Index' // Perspectives on Terrorism. 2015. № 9 (5). P. 57-68. URL: http://www.terrorismanalysts.com/pt/index.php/pot/article/view/461
33. Щекотин Е.В., Гойко В.Л., Барышев А.А., Кашпур В.В. Влияние парламентских выборов в России на мобилизацию сторонников непарламентской оппозиции // Вестник науки Сибири. 2017. № 3 (26). С. 90-107. URL: http://earchive.tpu.ru/bitstream711683/44045/1/sjs-1037.pdf
34. Minkenberg M. From Pariah to Policy-Maker? The Radical Right in Europe, West and East: Between Margin and Mainstream // Journal of Contemporary European Studies. 2013. № 21 (1). P. 5-24. DOI: 10.1080/14782804.2013.766473
Статья представлена научной редакцией «Социология и политология» 16 апреля 2021 г.
Representation of Radical Communities in Russian Social Media: Content Specifics and Activity Index
Vestnik Tomskogo gosudarstvennogo universiteta - Tomsk State University Journal, 2021, 467, 133-143. DOI: 10.17223/15617793/467/17
Vitaliy V. Kashpur, Tomsk State University (Tomsk, Russian Federation). E-mail: [email protected] Aleksey A. Baryshev, Tomsk State University (Tomsk, Russian Federation). E-mail: [email protected]
Sergey I. Chudinov, Tomsk State University (Tomsk, Russian Federation); Siberian State University of Telecommunications and Information Science (Novosibirsk, Russian Federation) E-mail: [email protected] Keywords: rights; lefts; Islamists; online activity; radicalism; content; social networks; index.
The study is supported by the Russian Foundation for Basic Research and the Expert Institute for Social Reseach, Project No. 20011-31666.
Radical communities are a habitual part of society as a whole. For a long time, the concepts of radicals and extremists were interpreted almost as synonyms. Currently, the key conception of radicalization is that it is an expression of the process leading to extremism, and radicalization is understood as the physical, institutional, cultural violence of one social group against another. With the advent of the Internet, radical online communities have sprung up. Extremist communities are communities that have radicalized into violence. However, at present, in many countries, such communities are banned and exist illegally, camouflaged under ordinary radicals, that is, those in the process of radicalization. The aim of this research is to study the distribution of radicalization activity of the right, left, and Islamist radical online communities by region, clarifying the leading topics of radicalization within each of these areas. The initial question is the question of the hegemonic topics of radical online communities within various ideological sects in Russia. The data for the study were messages in radical groups on the social network VKontakte. The research design was based on the identification of radical content and its carriers using the snowball method and the natural language processing method. In the found groups, an automatic clustering of content was carried out in order to identify the leading topics for all types of groups. The final step was the indexing of the activity in order to determine its distribution by region. The ollowing results were obtained. (1) Current vectors of radicalization of the right, left, and Islamist radicals were identified. At present, radicalization is taking place in the following directions: the right - the continuing practices of hatred; Islamists - the truth and purity of faith; the left - consolidation in order to ensure their own party representation in political processes. (2) Comparison of activity indices showed the insularity of activity in each sect across the country. (3) Ideological forms of radicalization prevail in comparison with the religious (Islamic) ones with the extreme right-wing opinions and sentiments in the lead. (4) Outside of traditionally Islamic regions, the generation of radical Islamic content is large in Moscow and Yugra (Western Siberia) - regions with a large number of migrants. The insularity of radicalization, its thematic heterogeneity, and a strict ban on hate speech suggest a splitting of the conventional model of "radicalization toward extremism" into many independent streams with different, including non-violent and constructive, outcomes pertaining to radicalization " into" civic activism, single-issue radicalism focused on climate, animal rights, body policies, immunization ("antivaxxers"), the use of nuclear energy ("antinukers"), green activism, etc. A comprehensive study of these trends can form the basis for further understanding of the process of radicalization in the new turbulent world.
REFERENCES
1. Whine, M. (1999) Cyberspace-a new medium for communication, command, and control by extremists. Studies in Conflict and Terrorism. 22 (3).
pp. 231-245. DOI: 10.1080/105761099265748
2. Myagkov, M. et al. (2019) Distinguishing Features of the Activity of Extreme Right Groups under Conditions of State Counteraction to Online
Extremism in Russia. REGION: Regional Studies of Russia, Eastern Europe, and Central Asia. 8 (1). pp. 41-74. [Online] Available from: https://slavica.indiana.edu/journalListings/region/Volume8_No1
3. Galtung, J. (1990) Cultural Violence. Journal of Peace Research. 27(3). pp. 291-305. DOI: 10.1177/0022343390027003005
4. Stern, J. (2016) Radicalization to extremism and mobilization to violence: What have we learned and what can we do about it? The Annals of the
American Academy of Political and Social Science. 668(1). pp. 102-117. DOI: 10.1177/0002716216673807
5. Vergani, M. et al. (2020) The three Ps of radicalization: Push, pull and personal. A systematic scoping review of the scientific evidence about radi-
calization into violent extremism. Studies in Conflict & Terrorism. 43 (10). pp. 854-854. DOI: 10.1080/1057610X.2018.1505686.
6. Sunstein, C.R. (2009) Going to Extremes: How Like Minds Unite and Divide. Oxford University Press.
7. Postmes, T. & Brunsting, S. (2002) Collective action in the age of Internet: Mass communication and online mobilization. Social Science Computer
Review. 20. pp. 290-301. DOI: 10.1177/089443930202000306
8. Postmes, T., Spears, R., Sakhel, K. & de Groot, D. (2001) Social influence in computer-mediated communication: The effects of anonymity on
group behavior. Personality and Social Psychology Bulletin. 27. pp. 1243-1254. DOI: 10.1177/01461672012710001
9. Zizek, S. (2014) Chuma fantaziy [The Plague of Fantasies]. Translated from English. Izd-vo Gumanitarnyy Tsentr.
10. Koster, W. & de Houtman, D. (2008) Stormfront is like a second home to me. Information, Communication & Society. 11 (8). pp. 1155-1176. DOI: 10.1080/13691180802266665
11. Garrett, R.K. (2009) Echo chambers online?: Politically motivated selective exposure among Internet news users. Journal of Computer-Mediated Communication. 14 (2). pp. 265-285. DOI: 10.1111/j.1083-6101.2009.01440.x
12. Wojcieszak, M. (2009) "Carrying online participation offline" - Mobilization by radical online groups and politically dissimilar offline ties. Journal of Communication. 59 (3). pp. 564-586. DOI: 10.1111/j.1460-2466.2009.01436.x
13. Caiani, M. & Kluknavska, A. (2017) Extreme right, the Internet and European politics in CEE countries: The cases of Slovakia and the Czech Republic. In: Barisione, M. & Michailidou, A. (eds) Social Media and European Politics. London: Palgrave Macmillan. pp. 167-192. DOI: 10.1057/978-1-137-59890-5_8
14. Fomina, V. (2015) Mapping the Network of Hungarian Extremist Groups In-Depth Analysis Sequence. Budapest: Athena Institute.
15. Kashpur, V.V. et al. (2017) Rossiyskiy pravoradikal'nyy ekstremizm i sotsial'nye seti kak prostranstvo ego publichnogo sushchestvovaniya [Russian right-wing radical extremism and social networks as a space for its public existence]. Protivodeystvie terrorizmu. Problemy XXI veka — COUNTER-TERRORISM. 3. pp. 27-33.
16. Caiani, M., Della Porta, D. & Wagemann, C. (2012) Mobilizing on the extreme right: Germany, Italy, and the United States. New York: Oxford University Press. DOI: 10.1093/acprof:oso/9780199641260.001.0001
17. Tanner, S. & Campana, A. (2014) The process of radicalization: Right-wing skinheads in Quebec. Canadian Network for Research on Terrorism, Security, and Society. Conference: TSAS Workshop. DOI: 10.13140/2.1.5093.5681.
18. Veilleux-Lepage, Y. & Archambault, E. (2019) Mapping Transnational Extremist Networks. Perspectives on Terrorism. 13 (2). pp. 21-38.
19. Hutchinson, J., Amarasingam, A., Scrivens, R. & Ballsun-Stanton, B. (2021) Mobilizing extremism online: comparing Australian and Canadian right-wing extremist groups on Facebook. Behavioral Sciences of Terrorism and Political Aggression. pp. 1-31. DOI: 10.1080/19434472.2021.1903064
20. Tufekci, Z. (2018) YouTube, the great radicalizer. The New York Times. 10. p. 23.
21. Wei, Y., Singh, L. & Martin, S. (2016) Identification of extremism on Twitter. 2016 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM). pp. 1251-1255. DOI: 10.1109/ASONAM.2016.7752398
22. Nechaeva, E.D. (2019) [Features of extremist content (based on the analysis of texts posted on the social network VKontakte)]. Problemy filologii glazami molodykh issledovateley [Problems of philology through the eyes of young researchers]. Conference Proceedings. Perm: Perm State University. pp. 155-158. [Online] Available from: http://www.psu.ru/files/docs/science/books/sborniki/problemy_filology_2019.pdf (In Russian).
23. Chetty, N. & Alathur, S. (2018) Hate speech review in the context of online social networks. Aggression and Violent Behavior. 40. pp. 108-118. DOI: 10.1016/j.avb.2018.05.003
24. Zhong, H. et al. (2016) Content-Driven Detection of Cyberbullying on the Instagram Social Network. Proceedings of the Twenty-Fifth International Joint Conference on Artificial Intelligence (IJCAI-16). Vol. 16. pp. 3952-3958.
25. Sharma, S., Agrawal, S. & Shrivastava, M. (2018) Degree based classification of harmful speech using twitter data. Proceedings of the First Workshop on Trolling, Aggression and Cyberbullying (TRAC—2018). pp. 106-112. arXiv: 1806.04197.
26. Ben-David, A. & Fernández, A.M. (2016) Hate Speech and Covert Discrimination on Social Media: Monitoring the Facebook Pages of Extreme-Right Political Parties in Spain. International Journal of Communication. 10. pp. 1167-1193.
27. McCauley, C. & Moskalenko, S. (2017) Understanding political radicalization: The two-pyramids model. American Psychologist. 72 (3). pp. 205216. DOI: 10.1037/amp0000062.
28. Myagkov, M. et al. (2020) A comparative analysis of right-wing radical and Islamist communities' strategies for survival in social networks (evidence from the Russian social network VKontakte). Media, War & Conflict. 13 (4). pp. 425-447. DOI: 10.1177/1750635219846028
29. Graham, R. (2016) Inter-ideological mingling: White extremist ideology entering the mainstream on Twitter. Sociological Spectrum. 36 (1). pp. 24-36. DOI: 10.1080/02732173.2015.1075927
30. Kearney, R. (2019) Meme frameworks: A semiotic perspective on internet memes. Video Journal of Education and Pedagogy. 4 (2). pp. 82-89. DOI: 10.1163/23644583-00401013
31. Mirrlees, T. (2018) Kill All Normies: Online Culture Wars From 4Chan and Tumblr to Trump and the Alt-Right by Angela Nagle. Alternate Routes: A Journal of Critical Social Research. Book Review. [Online] Available from: http://www.alternateroutes.ca/index.php/ar/article/view/22442
32. Holbrook, D. (2015) Designing and Applying an 'Extremist Media Index'. Perspectives on Terrorism. 9 (5). pp. 57-68. [Online] Available from: http://www.terrorismanalysts.com/pt/index.php/pot/article/view/461
33. Shchekotin, E.V., Goyko, V.L., Baryshev, A.A. & Kashpur, V.V. (2017) Influence of Parliamentary Elections in Russia on Mobilization of Supporters of Non-parliamentary Opposition. Vestnik nauki Sibiri — Siberian Journal of Science. 3 (26). pp. 90-107. [Online] Available from: http://earchive.tpu.ru/bitstream/11683/44045/1/sjs-1037.pdf (In Russian).
34. Minkenberg, M. (2013) From Pariah to Policy-Maker? The Radical Right in Europe, West and East: Between Margin and Mainstream. Journal of Contemporary European Studies. 21 (1). pp. 5-24. DOI: 10.1080/14782804.2013.766473
Received: 16 April 2021
