Научная статья на тему '"ТОКСИЧНЫЙ" КОНТЕНТ В СЕТИ ИНТЕРНЕТ И ЕГО ВЛИЯНИЕ НА РАДИКАЛИЗАЦИЮ МОЛОДЕЖИ'

"ТОКСИЧНЫЙ" КОНТЕНТ В СЕТИ ИНТЕРНЕТ И ЕГО ВЛИЯНИЕ НА РАДИКАЛИЗАЦИЮ МОЛОДЕЖИ Текст научной статьи по специальности «СМИ (медиа) и массовые коммуникации»

CC BY
1065
162
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
КОНТЕНТ / ТОКСИЧНЫЙ / ИНТЕРНЕТ / ДИЗОНТОГЕНЕЗ / РАДИКАЛИЗАЦИЯ / МОЛОДЕЖЬ / ЭКСТРЕМИЗМ / НАСИЛИЕ

Аннотация научной статьи по СМИ (медиа) и массовым коммуникациям, автор научной работы — Сундиев Игорь Юрьевич, Смирнов Александр Александрович

Рассматривается механизм распространения в сети Интернет так называемого токсичного контента, оказывающего деструктивное информационно-психологическое воздействие на аудиторию. Под «токсичным» контентом авторами понимаются различные виды психогенной информации, оказывающие деструктивное воздействие на личность, социальные группы и общество в целом. Изучаются виды «токсичного» контента и подходы к его определению. Дается авторская методология определения «токсичного» контента. Основное внимание уделяется рассмотрению контента экстремистской направленности и связанного с ним процесса радикализации молодежной аудитории. Указано на принципиально новые психосоциальные особенности так называемых поколений Х, Y, Z, проявляющие себя в дизонтогенетическом синдроме - утрате черт социальной субъектности, что препятствует осознанному восприятию социальной реальности и способствует снижению порога критического восприятия информации. Основными чертами дизонтогенеза, проявляющими себя в комплексе девиаций, являются: ограничение способности к целенаправленной деятельности - невозможность нормального взаимодействия в социальной группе, невозможность соотносить результаты своей деятельности с результатами деятельности других людей, в том числе с результатами социальных достижений предшествующих поколений. У представителей поколений Х, Y, Z также формируется упрощенное представление о реальности, наблюдается снижение или инверсия либидо, что приводит к деградации мотивационно-потребностной базы личности. Криминологически значима их психологическая лабильность: из-за недоформированности «тормозных центров» функциональных блоков мозга наблюдается склонность к социальным девиациям, суициду, агрессии. Пытаясь скомпенсировать недостаточность функций полноценной социальной субъектности через современные средства электронной коммуникации - интернет-мессенджеры, представители поколений Х, Y, Z делегируют процесс принятия решения сетевой форме организации, в результате чего возникает новая неспецифическая «роевая» субъектность, которой можно адресно управлять через Интернет и онлайн-среду. Показано, что метод технического регулирования «токсичного» контента - использование адекватных инновационных технических средств выявления, пресечения и мониторинга асоциального контента не может полностью заменить комплексный подход, включающий в себя широкое внедрение в онлайнсреду специально подготовленных сил реагирования - киберполицейских - не только с техническим, но и психологическим, педагогическим, историческим, иным гуманитарным образованием. С учетом того, что в настоящее время киберпреступность становится ядром современной преступности, представляется необходимым экстенсивное наращивание полицейского присутствия в интернет-и онлайн-среде с одновременной интенсификацией антиэкстремистской деятельности при дополнительной гуманитарной поддержке (социальный онлайн-мониторинг) подростков и молодежи, склонных к радикальным проявлениям.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по СМИ (медиа) и массовым коммуникациям , автор научной работы — Сундиев Игорь Юрьевич, Смирнов Александр Александрович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

"TOXIC" CONTENT ON THE INTERNET AND ITS IMPACT ON YOUTH RADICALIZATION

The article examines the mechanism of distribution of so-called «toxic» content on the Internet, which has a destructive informational and psychological impact on the audience. By «toxic» content, the authors understand various types of psychogenic information that have a destructive impact on the individual, social groups, and society as a whole. The types of toxic content and approaches to its definition are studied. The main attention is paid to the consideration of extremist content and the associated process of radicalization of the youth audience. It is pointed out that fundamentally new psychosocial features of the so - called generations X, Y, Z manifest themselves in the dysontogenetic syndrome-the loss of social subjectivity traits, which prevents them from consciously perceiving social reality and reducing the threshold for critical perception of information. The main features of dysontogenesis, which manifest themselves in a complex of deviations, are: limitation of the ability to purposeful activity - the impossibility of normal interaction in a social group, the inability to correlate the results of their activities with the results of other people, including the results of social achievements of previous generations. Representatives of X, Y, Z also form a simplified view of reality, there is a decrease or inversion of libido, which leads to the degradation of the motivational and need base of the individual. Criminologically significant is their psychological lability: due to the lack of formation of the «inhibitory centers» of the functional blocks of the brain-a tendency to social deviations, suicide, aggression. Trying to compensate for the lack of functions of full - fledged social subjectivity through modern means of electronic communication-Internet messengers, representatives of generations X, Y, Z delegate the decision-making process to the network form of the organization, resulting in a new non-specific «swarm» subjectivity, which can be directly managed through the Internet and online environment. It is shown that the method of technical regulation of toxic content - the use of adequate innovative technical means for detecting, suppressing and monitoring antisocial content-cannot completely replace the integrated approach, which includes the widespread introduction of specially trained response forces - cyber police-into the online environment: not only with technical, but also with psychological, pedagogical, historical, and other humanitarian education. Given the fact that cybercrime is now becoming the core of modern crime, it seems necessary to extensively increase the police presence in the Internet and online environment, while simultaneously intensifying anti-extremist activities with additional humanitarian support (social online monitoring) for adolescents and young people who are prone to radical manifestations.

Текст научной работы на тему «"ТОКСИЧНЫЙ" КОНТЕНТ В СЕТИ ИНТЕРНЕТ И ЕГО ВЛИЯНИЕ НА РАДИКАЛИЗАЦИЮ МОЛОДЕЖИ»

УДК 37.017/004.738.5 И. Ю. Сундиев

ВНИИ МВД России; А. А. Смирнов

АТЦ СНГ

«Токсичный» контент в сети Интернет и его влияние на радикализацию молодежи

АННОТАЦИЯ. Рассматривается механизм распространения в сети Интернет так называемого токсичного контента, оказывающего деструктивное информационно-психологическое воздействие на аудиторию. Под «токсичным» контентом авторами понимаются различные виды психогенной информации, оказывающие деструктивное воздействие на личность, социальные группы и общество в целом. Изучаются виды «токсичного» контента и подходы к его определению. Дается авторская методология определения «токсичного» контента.

Основное внимание уделяется рассмотрению контента экстремистской направленности и связанного с ним процесса радикализации молодежной аудитории. Указано на принципиально новые психосоциальные особенности так называемых поколений Х, У, 7, проявляющие себя в дизонтогенетическом синдроме - утрате черт социальной субъектности, что препятствует осознанному восприятию социальной реальности и способствует снижению порога критического восприятия информации. Основными чертами дизонтогенеза, проявляющими себя в комплексе девиаций, являются: ограничение способности к целенаправленной деятельности - невозможность нормального взаимодействия в социальной группе, невозможность соотносить результаты своей деятельности с результатами деятельности других людей, в том числе с результатами социальных достижений предшествующих поколений. У представителей поколений Х, У, 7 также формируется упрощенное представление о реальности, наблюдается снижение или инверсия либидо, что приводит к деградации мотивационно-потребностной базы личности. Криминологически значима их психологическая лабильность: из-за недоформированности «тормозных центров» функциональных блоков мозга наблюдается склонность к социальным девиациям, суициду, агрессии.

Пытаясь скомпенсировать недостаточность функций полноценной социальной субъектности через современные средства электронной коммуникации - интернет-мессенджеры, представители поколений Х, У, 7 делегируют процесс принятия решения сетевой форме организации, в результате чего возникает новая неспецифическая «роевая» субъектность, которой можно адресно управлять через Интернет и он-лайн-среду.

Показано, что метод технического регулирования «токсичного» контента - использование адекватных инновационных технических средств выявления, пресечения и мониторинга асоциального контента не может полностью заменить комплексный подход, включающий в себя широкое внедрение в онлайн-среду специально подготовленных сил реагирования - киберполицейских - не только с техническим, но и психологическим, педагогическим, историческим, иным гуманитарным образованием.

С учетом того, что в настоящее время киберпреступность становится ядром современной преступности, представляется необходимым экстенсивное наращивание полицейского присутствия в интернети онлайн-среде с одновременной интенсификацией антиэкстремистской деятельности при дополнительной гуманитарной поддержке (социальный онлайн-мониторинг) подростков и молодежи, склонных к радикальным проявлениям.

КЛЮЧЕВЫЕ СЛОВА: контент, токсичный, Интернет, дизонтогенез, радикализация, молодежь, экстремизм, насилие.

ДЛЯ ЦИТИРОВАНИЯ: Сундиев И. Ю., Смирнов А. А. «Токсичный» контент в сети Интернет и его влияние на радикализацию молодежи // Научный портал МВД России. 2020. № 4 (52). С. 35-44.

I. Y. Sundiev

NRI of the Ministry of Interior of the Russian;

A. A. Smirnov

CIS ATC

«Toxic» content on the Internet and its impact on youth radicalization

ABSTRACT. The article examines the mechanism of distribution of so-called «toxic» content on the Internet, which has a destructive informational and psychological impact on the audience. By «toxic» content, the authors understand various types of psychogenic information that have a destructive impact on the individual, social groups, and society as a whole. The types of toxic content and approaches to its definition are studied.

The main attention is paid to the consideration of extremist content and the associated process of radicalization of the youth audience. It is pointed out that fundamentally new psychosocial features of the so - called generations X, Y, Z manifest themselves in the dysontogenetic syndrome-the loss of social subjectivity traits, which prevents them from consciously perceiving social reality and reducing the threshold for critical perception of information. The main features of dysontogenesis, which manifest themselves in a complex of deviations, are: limitation of the ability to purposeful activity - the impossibility of normal interaction in a social group, the inability to correlate the results of their activities with the results of other people, including the results of social achievements of previous generations. Representatives of X, Y, Z also form a simplified view of reality, there is a decrease or inversion of libido, which leads to the degradation of the motivational and need base of the individual. Criminologically significant is their psychological lability: due to the lack of formation of the «inhibitory centers» of the functional blocks of the brain-a tendency to social deviations, suicide, aggression.

Trying to compensate for the lack of functions of full - fledged social subjectivity through modern means of electronic communication-Internet messengers, representatives of generations X, Y, Z delegate the decisionmaking process to the network form of the organization, resulting in a new non-specific «swarm» subjectivity, which can be directly managed through the Internet and online environment.

It is shown that the method of technical regulation of toxic content - the use of adequate innovative technical means for detecting, suppressing and monitoring antisocial content-cannot completely replace the integrated approach, which includes the widespread introduction of specially trained response forces - cyber police-into the online environment: not only with technical, but also with psychological, pedagogical, historical, and other humanitarian education.

Given the fact that cybercrime is now becoming the core of modern crime, it seems necessary to extensively increase the police presence in the Internet and online environment, while simultaneously intensifying antiextremist activities with additional humanitarian support (social online monitoring) for adolescents and young people who are prone to radical manifestations.

KEYWORDS: content, toxic, Internet, radicalization, dysontogenesis, youth, extremism, violence.

FOR CITATION: Sundiev I. Y., Smirnov A. A. «Toxic» content on the Internet and its impact on youth radicalization // Scientific portal of the Russia Ministry of the Interior. 2020. № 4 (52). P. 35-44 (in Russ.).

Введение групп населения как основные источники жизнен-

Интенсивное развитие информационно- но важной информации. При этом уровень дове-

телекоммуникационных технологий, наряду с рия к этим источникам у молодежи максимален1. позитивными изменениями в жизни общества, Об угрозе радикализации детей и молодежи

создает новые вызовы, содержит в себе риски через информационно-телекоммуникационную

деструктивного влияния на детей и молодежь. По сеть Интернет (далее - Интернет) заявил Гене-

данным ООН, более миллиона детей и подрост- ральный секретарь ООН А. Гутерриш, который

ков в мире ежегодно подвергаются различным 27 апреля 2020 г. отметил, что в условиях панде-формам противоправных посягательств, в том

числе совершаемых с использованием информа-

См.: Марков А. Информационная безопасность в усло-

ционно-телекоммуникационных технологий. виях пандемии C0VID-19 // Российский совет по междуна

В условиях пандемической и постпандемиче- родным де^м. 9 апреля 2020 г URL : httpsyAussmcouncN

ской реальности социальные сети и новые масс-

ru/analytics-and-comments/analytics/informatsionnaya-bezopasnost-v-usloviyakh-pandemii-covid-19/?sphrase_

медиа приобретают особую значимость для всех id=35369216 (дата обращения : 05.05.2020).

36

1

мии ситуация значительно ухудшилась: свыше 1,5 млрд детей в мире из-за распространения нового коронавируса не ходят в школу и много времени проводят в Интернете, что увеличивает риск их радикализации и вербовки экстремистскими группировками. «Мы уже видим, что [экстремистские] группы пользуются карантинными мерами и активизируют усилия по пропаганде через социальные сети и привлечению на свою сторону молодых людей, которые все больше времени про-

водят дома и сидят в Интернете»

подчеркнул

Генеральный секретарь ООН. Тем самым информационная война в условиях пандемии не только не стихает, но и приобретает новые, более изощренные формы.

Информационные каналы в Интернете, благодаря своим техническим возможностям, наращивают скорость подачи и объемы информации. Как следствие - у потребителей этой информации снижается возможность сформировать свою версию происходящих событий: человек начинает жить в рамках навязанных ему интерпретаций.

Деструктивное информационное влияние на интернет-аудиторию оказывается через распространение «токсичного» контента.

«Токсичный» контент

Под «токсичным» контентом мы понимаем различные виды негативной информации, оказывающей деструктивное психологическое воздействие на личность, социальные группы и общество в целом.

Термин «токсичный» изначально имеет значение «ядовитый» и определяется как способность некоторых химических или биологических веществ нарушать нормальные физиологические функции организма человека, животных или растений, вызывая его отравление (интоксикацию), а при тяжелых поражениях - гибель3.

Однако в последнее время данный термин стал использоваться в иных предметных контекстах. Стало принято говорить о токсичных отношениях, людях, культурах. В 2018 г. Оксфордский словарь выбрал его словом года4.

2 Гутерриш заявил об угрозе радикализации через Интернет более 1,5 млрд детей // ТАСС. 27 апреля 2020 г. URL : https://tass.ru/obschestvo/8347533 (дата обращения : 10.06.2020).

3 См.: Уткин Ю. Н. Токсичный // Большая российская энциклопедия: электронный ресурс. URL : https://bigenc.ru/ chemistry/text/4195484 (дата обращения : 12.10.2020).

4 Оксфордский словарь выбрал слово года - «токсичный». Это и яды, которыми травили Скрипалей, и «токсичные отношения» // Meduza. 15 ноября 2018 г. URL : https:// meduza.io/feature/2018/11/15/oksfordskiy-slovar-vybral-slovo-goda-toksichnyy-eto-ne-tolko-pro-yady-est-toksichnaya-maskulinnost-i-toksichnye-otnosheniya (дата обращения :

12.10.2020).

Используя данный термин в своей статье, мы исходим из возможности токсичного контента оказывать отравляющее воздействие на индивидуальное и групповое сознание и, возможно, бессознательное.

В научной литературе и правовых актах выделяют множество видов негативного контента. Например, В. Н. Лопатиным в качестве «вредной» информации идентифицированы: информация, возбуждающая социальную, расовую, национальную или религиозную ненависть и вражду; призывы к войне; пропаганда ненависти, вражды и превосходства; порнография; посягательство на честь, доброе имя и деловую репутацию людей; реклама (недобросовестная, недостоверная, неэтичная, заведомо ложная, скрытая); информация, оказывающая деструктивное воздействие на психику людей [3].

В аналитическом докладе «Фильтрация контента в Интернете. Анализ мировой практики» 2013 г. назывались следующие категории интернет-контента, которые подвергаются фильтрации в странах мира5:

политический контент (сайты оппозиционных и правозащитных движений, религиозных движений и сект, информация об этнических меньшинствах);

социально опасная информация (порнография, ЛГБТ-пропаганда, разжигание национальной и религиозной розни, призывы к насилию);

контент, связанный с национальной безопасностью (сайты террористических и экстремистских организаций, ресурсы военных противников, ресурсы с конфиденциальными данными и др.);

сайты и сервисы, нарушающие экономические интересы (файлообменные сайты и торент-трекеры);

специализированные интернет-инструменты и социальные сервисы (поисковые сервисы, социальные сети, онлайн-переводчики).

В методологическом плане решение задачи определения видов контента, который идентифицируется как токсичный (негативный, вредный, опасный), и составление его общего перечня может быть осуществлено несколькими способами. Основным из них является аналитический метод, предполагающий вычленение и указание видов негативного контента, закрепленных в международных договорах и национальном законодатель-

5 См.: Фильтрация контента в Интернете. Анализ мировой практики : аналитический доклад / Фонд развития гражданского общества, 2013.

2

стве. Для этого используется сравнительно-правовой метод исследования.

Вместе с тем существует и другой возможный подход, который можно обозначить как сущностный метод. Он предполагает выделение и обоснование критериев вредоносности контента, на основе применения которых динамически выявляется и корректируется перечень деструктивной информации. В определенном смысле его можно сравнить с проактивным принципом работы антивирусных программ, отличающимся от традиционного сигнатурного тем, что вирус обнаруживается не путем сравнения его с эталонным перечнем, а посредством описания и детекции признаков вредоносности. В рамках сущностного метода требуется установить и доказать деструк-тивность того или иного контента на основе определенной процедуры.

Авторское применение первого метода позволило составить обобщенный перечень такого контента, который включает в себя следующие виды информации [5]:

1) информацию, пропагандирующую либо оправдывающая войну и иные международные преступления;

2) информацию, пропагандирующую либо оправдывающую терроризм, иные преступления и правонарушения;

3) информацию, разжигающую расовую, национальную, религиозную ненависть и вражду, пропагандирующую либо оправдывающую экстремистскую деятельность;

4) информацию, оскверняющую историческую память, символы воинской славы или государственные символы;

5) информацию, оскорбляющую религиозные чувства верующих;

6) информацию, отрицающую или дискредитирующую традиционные ценности, пропагандирующую деструктивные ценности и установки;

7) информацию, пропагандирующую либо оправдывающую насилие и жестокость, девиант-ное поведение, а также действия, опасные для жизни и здоровья человека;

8) информацию о способах и средствах совершения преступлений, иных правонарушений или антиобщественных действий, а также действий, опасных для жизни и здоровья человека;

9) сексуально откровенный контент и иную непристойную информацию;

10) нецензурную брань;

11) контент устрашающего характера, включая изображение или описание насилия, жестокости, катастроф или несчастных случаев;

12) заведомо ложную информацию;

13) дискредитирующую информацию;

14) скрытую информацию, воздействующую на подсознание человека;

15) рекламу товаров и услуг, которые могут причинить вред жизни и здоровью человека.

В плане правового регулирования негативный контент в законодательстве большинства западных стран (США, государств - членов ЕС) подразделяется на две категории: незаконный и вредный, правовые режимы оборота которых отличаются. Под незаконным контентом (illegal content) понимается законодательно запрещенная информация, производство и (или) распространение которой является преступлением или административным правонарушением. Такого подхода, в частности, придерживается Международная ассоциация «горячих интернет-линий» INHOPE (http://www.inhope.org). Хотя иногда к незаконному относят контент, преследуемый по гражданскому законодательству. Под вредным контентом (harmful content) понимается иная общественно опасная информация, которая не запрещена уголовным или административным законодательством, но для которой установлены определенные ограничения на ее распространение. В обоих случаях критерии вреда для информации остаются разными на территории разных стран - каждое государство само решает, что считать законным или незаконным на основании различных культурных, моральных, религиозных и исторических признаков и конституционных ценностей. Данный методологический подход используется и в отечественной законотворческой практике.

В силу ряда особенностей, включая децентрализованный характер распространения контента, Интернет насыщен значительным объемом токсичного контента. Особенно в этом плане выделяются социальные сети, контент в которых генерируется самими пользователями.

Специалисты российской компании «Кри-брум», занимающейся мониторингом Интернета, отмечают высокую распространенность в социальных медиа негативной информации и виртуальных сообществ деструктивной направленности: «На сегодняшний день в деструктивные течения в Рунете вовлечены порядка 5-ти миллионов аккаунтов российских подростков (35 % от общего числа подростков в России), и это число продолжает расти. За период с января 2018 г. по март 2019 г. обнаружен стабильно высокий, растущий деструктивный фон, особую опасность

представляют следующие темы: наркомания, ультрадвижение, анархия»6.

Особенности молодежной среды Интернета

Результаты исследования лиц, склонных к радикализации через Интернет [6], позволили выделить их общие социальные черты. Прежде всего, в этот процесс в основном вовлечены молодые люди, поскольку молодежь, как правило, чувствует себя в интернет-среде более комфортно. Люди старшего возраста привыкли к личному общению. Эта поколенческая динамика отчасти прослеживается и среди ученых, занимающихся исследованиями в сфере радикализации.

Формирование своеобразия современной молодежи определяется тремя значимыми факторами: прохождением обществом постиндустриального барьера (развитие автоматизированных производств на границе 90-х стало гарантированно обеспечивать витальные функции всего человечества), созданием глобальной цифровой платформы (обеспечение возможности мобильного коммуницирования через «виртуальную реальность») и, наконец, смещением плотности населения к городским агломерациям (в начале ХХ в. соотношение сельских и городских жителей было 80/20, в ХХ1 в. - 20/80 %). Глобальные лонги-тюдные исследования, проводимые с конца 80-х годов ХХ в., зафиксировали стадийное «катастрофическое нарастание патофеноменов в детской популяции» - различных форм делинквентного и девиантного поведения (агрессивное поведение, токсикомания, речевые расстройства) - «в целом учебную и социальную неуспешность», а также ухудшение состояния здоровья школьников7 (ныне молодых людей, включающихся в основные звенья производства и управления). Но патологический дизонтогенез в популяции проявляет себя и через описательные признаки.

Во-первых, это ограничение способности к целенаправленной деятельности (целеполага-нию и самоорганизации), отсюда - невозможность нормального взаимодействия в социальной группе. Непосредственное общение этих молодых людей со сверстниками вызывает трудности, но если общаться через технический посредник (гаджет-коммуникатор), проблема легко решается8. У-ки и 7еты не понимают переносных

значении и «игру» слов, не воспринимают юмор и не смеются над «классическими» анекдотами и шутками (опять же заменяя в «виртуале» мемами и демотиваторами)9. В свою очередь, отсутствие результатов социально значимой деятельности приводит к потере «обратной связи» - индивид становится склонным значительно завышать собственную самооценку (эффект Даннинга-Крю-гера) [8] и не может реально соотносить свои результаты с реальными результатами деятельности других.

Крайне драматичными являются признаки утраты эмпатии - «эмоционального сострадания» (восприятия чужой боли, физической и душевной, как своей собственной); эмпатия -важнейшее свойство для формирования морально-нравственных качеств личности, без которых общество не может развиваться. Именно поэтому поток «чернухи» из средств цифровой коммуникации не воспринимается как шоковый стимул, не отторгается, не игнорируется. Также утрата эмпатии приводит к потере социально-исторической субъектности - неспособности индивида соотносить результаты своей деятельности с достижениями предшествующих поколений.

Одновременно фиксируется снижение либидо (либо инверсия и патологические влечения), вызванное незрелостью, а, значит, функциональной недостаточностью стволовых отделов головного мозга (особенно, ретикулярной формации). Если Х и У были «живчивками», то 7 не проявляют «непреодолимого интереса» к противоположному полу (заменяя суррогатным или виртуальным сексом, тем более что непосредственное «общение» затруднено или невозможно в силу несложившихся коммуникативных качеств). Они не стремятся к семейной жизни, тем более «заводить детей», поскольку для них это просто «неинтересно» и «противно». Отсюда - движение оЬМКее - пожить для себя любимого.

У представителей этих поколений имеется упрощенное представление о реальности: поскольку отсутствует необходимая дифференциация «функциональных блоков мозга», то и картина мира строится из «крупных пикселов», а не предстает в «качественном» высоком разрешении. Та-

6 Методическое пособие по выявлению признаков риска поведения в социальных медиа. М. : Крибрум, 2019.

7 Семенович А. В. Нейропсихологическая коррекция в детском возрасте. Метод замещающего онтогенеза : учеб. пособие. М. : Генезис, 2007. С. 33.

8 В течение дня поколение Z проводит онлайн более семи

часов - 3:45 с компьютера и 4:01 с телефона (данные Global Web Index).

9 Американские ученые Нейл Хоув и Уильям Штраус предложили в 1991 г. теорию поколений, согласно которой каждые 20-25 лет появляется новое поколение людей, которое отличается от предыдущих привычками, характером, ценностями и целями: молчаливое поколение (родившиеся в 19231943 гг.); беби-бумеры (родившиеся в 1943-1963 гг.); поколение X (родившиеся в 1963-1984 гг.); поколение У (родившиеся в 1984-2004 гг.); поколение 7 (родившиеся в 2004 г. и младше).

Морфологическая обусловленность девиантного поведения

Таблица

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Новые формы девиантного поведения поколений Y, Z Дизонтогенетические патофеномены

Скулшуттинг Психологическая лабильность, отсутствие эмпатии

Буллинг Отсутствие эмпатии

Троллинг Перенаправление эвристики и творческих способностей в виртуальную область, отсутствие эмпатии

Колумбайн Отсутствие эмпатии, невозможность нормального взаимодействия в социальной группе

Суицидальные квесты Психологическая лабильность

Убер-терроризм Психологическая лабильность, отсутствие эмпатии, невозможность нормального взаимодействия в социальной группе, упрощенное представление о реальности

Протестные акции и флэшмобы Психологическая лабильность, упрощенное представление о реальности

Чайлд-фри, гомосексуализм и др. Снижение либидо, инверсия либидо

кой ребенок, «внезапно» ставший взрослым, «не видит проблемы» и «сложностей» в любой области, не различает препятствий и возможных трудностей - целеполагание не работает, а огрубленный «образ цели» долго не удерживается вниманием10.

Криминологически значима их психологическая лабильность: из-за недоформированности «тормозных центров» лобных отделов - склонность к социальным девиациям, суициду, агрессии. Поскольку девиации скомпенсировать невозможно, «онижедети» легко вовлекаются в деструктивные процессы - становятся орудием для социальной деструкции11.

Утрата черт социальной субъектности приводит к тому, что индивиды легко вовлекаются в деструктивную социальную деятельность через широкий спектр новых форм специфической сетевой организации (табл.).

10 Удержание образа будущего требует напряженной работы лобных отделов мозга - вытормаживать мешающие, борющиеся за доминирование другие информационные блоки. Отсюда и невосприимчивость к различным эстетическим формам, «эстетическая слепота» и «когнитивная слепота».

11 По мнению американского исследователя М. Хогга: «Такие люди легко становятся фанатиками и радикалами. ... Людям всего лишь нужен кто-то, кто скажет им, что делать. . источником информации и влияния в большинстве случаев становится Интернет - веб-сайты, социальные сети, каналы в Twitter, подкасты и многое другое. Интернет - идеальное место для избавления от дискомфорта, связанного с неуверенностью в себе.. В Интернете можно с легкостью найти группы, которые малодоступны в обычном мире. . В этих замкнутых социальных вселенных определяются контуры „истины"». (См.: Хогг М. Радикальные изменения. Неопределенность окружающего мира угрожает нашему самоощущению. Люди справляются с этим благодаря увлечению популизмом / пер. С. М. Левензон // Сайт С. П. Курдюмова «Синергетика». URL : http://spkurdyumov.ru/uploads/2019/11/radikalnye-izmeneniya.pdf).

Еще один патологический феномен, характерный для Zетов, - возникновение «роевой» неспецифической субъектности. Недостаточность функциональных блоков мозга компенсируется через сетевые взаимодействия посредством современных средств электронной коммуникации - интернет-мессенджеров. Можно сказать, что «сеть» как форма организации позволяет заместить недостающие функции полноценной социальной субъектности.

Экстремистский контент и угроза радикализации Одним из наиболее опасных видов токсичного контента в Сети выступает экстремистский контент - информация, возбуждающая социальную, расовую, национальную или религиозную ненависть и вражду и стимулирующая насилие.

Потребление экстремистского контента может приводить к вступлению человека в радикальные асоциальные сообщества или способствовать его саморадикализации. В обоих случаях результатом может стать совершение террористического акта или нападения по мотивам ненависти или вражды к определенным группам.

Специалистами неоднократно отмечалось, что Интернет выступает подходящей средой для формирования различных групп девиантной направленности. Я. Костюковский так описывает данный процесс: «Человек, который интересовался чем-то и имел вполне девиантное увлечение, но никогда особо не задумывался над этим, вдруг встречает не только информацию, точно совпадающую с его интересами, но получает теоретические и практические сведения, точный диагноз и название этих интересов, возможность

общаться с коллегами, и наконец, встречаться с ними не только в виртуальном мире» [1, с. 287].

Описанный механизм четко прослеживается на примере экстремистских виртуальных сообществ. Давид Гартенстайн-Росс подчеркивает, что «в Интернете, независимо от того, во что вы верите и как далеко заходите в своих убеждениях, легко найти тех, кто разделяет ваши взгляды. Интернет позволяет стать частью сообщества единомышленников, даже если объединяющие идеи являются экстремистскими - будь то радикальный исламизм, белый национализм, неонацизм или радикализм сторонников освобождения животных. Люди, высказывающие в Сети радикальные взгляды, могут найти тех, кто задается аналогичными вопросами, придерживается таких же крайних представлений о мире или же стремится обратить в свою веру новых сторонников»12.

В составе террористических и экстремистских организаций действуют опытные вербовщики, которые могут самостоятельно отыскивать потенциальных кандидатов и проводить вербовочные мероприятия. «Классической» можно считать схему вовлечения, состоящую из двух этапов.

На первом этапе общения в социальных сетях потенциальные объекты для вовлечения в экстремистские и террористические организации подвергаются убеждающей коммуникации и навязыванию им (отдельным реципиентам и группам) специфической системы ценностей через контент общения. Общий контекст такого воздействия выстраивается на продвижении стереотипов, предрассудков и предубеждений, разделяющих людей на «своих» и «чужих». Под воздействием такого рода коммуникации реципиенты постепенно меняют свои установки и поведение. Под воздействием массированной пропаганды они становятся последователями продвигаемых деструктивным сообществом идей и начинают действовать в соответствии с нормами и моделями поведения, принятыми в данных деструктивных сообществах.

На последующем этапе происходит селекция: реципиенты, проявившие высокую восприимчивость к предлагаемым идеям и ценностям и обладающие необходимыми способностями, вовлекаются в данные сообщества и становятся их членами. Их сознание подвергается насильственному изменению, запускается механизм кон-

12 Радикализация и насилие в интернете // Российский совет по международным делам. 14 июня 2013 г. URL : https://russiancouncil.ru/analytics-and-comments/interview/ radikalizatsiya-i-nasilie-v-internete/? sphrase_id= 37561508 (дата обращения : 10.06.2020).

троля сознания членов лидерами этих подгрупп. Деструктивные сообщества через современные информационно-коммуникационные технологии воздействуют на сознание молодых людей, трансформируют их мировоззрение и установки, изменяют их личность, превращая их в орудие для реализации различных деструктивных целей и задач сообщества [2]. Реципиенты с выраженной психопатологией, психологически неустойчивые, с низким уровнем социально-нравственного развития становятся объектами бесструктурного и бесконтактного воздействия и подготавливаются в основном для акций насыщающего террора [7].

Что касается процесса саморадикализации, то он предполагает самостоятельный поиск и потребление контента террористической и экстремистской направленности, в результате чего лицо усваивает экстремистскую идеологию и приходит к психологической готовности к совершению теракта или иного насильственного преступления.

Основным каналом саморадикализации в современном мире выступают интернет-ресурсы - интернет-сайты, видеохостинги, социальные сети и мессенджеры. Содержащийся в них контент можно условно разбить на две большие группы - пропагандистские и новостные материалы, подготовленные основными медиацентра-ми террористических организаций, и продукция индивидуальной сетевой активности сторонников экстремизма. Во втором случае в основном идет речь о текстовых и голосовых сообщениях, которые распространяют участники многочисленных радикальных чатов и форумов, функционирующих преимущественно на базе мессендже-ров (Telegram, WhatsApp, Skype) и имиджбордов (4chan, 8chan, Gab).

Очевидно, что заходящий на тематические ресурсы или подписывающийся на соответствующий канал индивид делает это не случайно, а уже имея определенный первичный интерес, который может быть детерминирован разными причинами (любопытство, состояние депрессии или озлобленности, решение проблем статуса в молодежной группе). В дальнейшем, потребляя экстремистский контент и активно обсуждая радикальные идеи в виртуальных форумах, индивид может радикализоваться и начать подготовку террористического акта. Параметры протекания данного процесса будут во многом зависеть от его индивидуальных психологических особенностей [4].

Отдельным направлением радикализации выступает вовлечение широких масс в противоправные публичные акции. Социальные сети и мес-

сенджеры стали основным каналом мобилизации массовых протестных мероприятий. В качестве последнего примера можно привести Республику Беларусь, в которой основным информационным каналом для стимулирования радикализации стал телеграм-канал Nexta, имеющий также «зеркала» (дубли) и на других цифровых платформах.

По мере совершенствования технологий коммуникации возникают новые способы организации протестной деятельности. Например, весной 2020 г. в нашей стране были проведены «виртуальные митинги» с использованием «Яндекс-навигатора»13. Митинги, в которых люди участвовали, не выходя из дома, прокатились по стране в последние дни апреля. Волну подняли жители Ростова-на-Дону. Визуальное пространство карты перед зданием администрации региона заполнилось метками-комментариями с помощью сервисов «Яндекс.Карты» и «Яндекс.Навигатор» и их элемента для текстовых комментариев - сервиса «Разговорчики». Начиналось это как флэш-моб граждан, недовольных плохой организацией выдачи пропусков в «режиме повышенной готовности», но быстро превратилось в «виртуальный» митинг с политическими и экономическими требованиями: введения ЧС, помощи тем, кто остался без работы и так далее.

Таким образом, можно констатировать, что формы политической активности (митинги, демонстрации, пикеты и т. д.) успешно переходят в онлайновые формы в цифровой среде и при дальнейшем развитии технических и сценарно-струк-турных элементов могут стать не менее значимыми, чем «классические».

Противодействие «токсичному» контенту в Интернете

Мировой опыт противодействия токсичному контенту в Интернете показывает, что оно включает в ряд направлений:

1) мониторинг интернет-пространства в целях выявления токсичного контента;

2) уголовное или административное преследование либо привлечение к гражданской ответственности лиц и организаций, создающих и распространяющих негативных контент;

3) удаление или ограничение доступа к токсичному контенту в Сети;

13 См.: В городах России прошли виртуальные митинги против режима самоизоляции. Протестующие использовали сервисы «Яндекса» // Meduza. URL : https://meduza.io/ feature/2020/04/20/v-gorodah-rossii-proshli-virtualnye-mitingi-protiv-rezhima-samoizolyatsii-protestuyuschie-ispolzovali-servisy-yandeksa (дата обращения : 29.05.2020).

4) информационно-просветительскую и контрпропагандистскую работу в Сети.

Широко используемый способ блокировки запрещенных материалов имеет ограниченную эффективность, поскольку зачастую способствует перемещению противоправного контента на другую веб-платформу или уходу в теневой Интернет (DarkNet). Тем не менее этот метод работает, особенно если к данному процессу активно подключается администрация самих социальных сетей и мессенджеров. Например, в мессенджере Telegram создан канал ISIS Watch, который в ежедневном режиме публикует данные о блокировке каналов распространения террористического контента и используемых для этих целей ботов.

Решение указанных проблем предопределяет необходимость комплексного подхода, включающего в себя как использование адекватных инновационных технических средств выявления, мониторинга и пресечения асоциального контента, так и широкого внедрения в онлайн-среду специально подготовленных сил реагирования (кибер-полицейских не только с техническим, но и психологическим, педагогическим, историческим, иным гуманитарным образованием). С учетом того, что в настоящее время киберпреступность становится ядром современной преступности, представляется необходимым экстенсивное наращивание полицейского присутствия в интернет- и онлайн-среде с одновременной интенсификацией антиэкстремистской деятельности при дополнительной гуманитарной поддержке (социальный онлайн-мониторинг) подростков и молодежи, склонных к радикальным проявлениям.

Эффективно противодействовать негативному контенту, способствующему вовлечению молодежи в деструктивную деятельность посредством масс-медиа и сети Интернет, необходимо комплексно, в первую очередь с помощью организационно-правовых, информационных и оперативно-розыскных мер. Приоритетное внимание необходимо уделять контрпропагандистской работе, направленной на нейтрализацию экстремистской и иной деструктивной деятельности

14

СПИСОК ИСПОЛЬЗОВАННОМ ЛИТЕРАТУРЫ

1. Костюковский Я. Девиантогенные эффекты Интернета // Девиантность в обществе потребления : коллективная монография / под ред.

14 См.: Смирнов А. А. Организация контрпропаганды в области борьбы с терроризмом и экстремизмом : науч.-практ. пособие / под ред. А. П. Новикова. М. : АТЦ СНГ, 2020.

Я. И. Гилинского и Т. В. Шипуновой. - СПб. : Издательский дом «Алеф-Пресс», 2012. С. 265-294.

2. Лири Т., Стюарт М. [и др.]. Технологии изменения сознания в деструктивных группах / пер. с англ. ; под ред. И. Митрофановой. - СПб. : Экслибрис, 2002. - 223 с. ; 21 см.

3. Лопатин В. Н. Информационная безопасность России : дис. ... д-ра юрид. наук. СПб., 2000. - 433 с.

4. Смирнов А., Андрюхин Н. Терроризм одиночек как современная форма террористической деятельности // Международная жизнь. 2018. № 9. С. 91-109.

5. Смирнов А. А. Негативный контент: проблемы идентификации в контексте правового регулирования // Информационное право. 2015. № 2. С. 18-25.

6. Сундиев И. Ю. Эволюция способов вовлечения в террористическую деятельность с использованием информационных технологий // Вестник национального антитеррористического комитета. 2019 (20). № 1. С. 80-88.

7. Сундиев И. Ю., Смирнов А. А., Андрюхин Н. Г. Бесструктурные и бесконтактные способы вовлечения молодежи в террористическую и экстремистскую деятельность // Научный портал МВД России. 2018. № 2. С. 52-60.

8. Justin Kruger, David Dunning. Unskilled and Unaware of It: How Difficulties in Recognizing One's Own Incompetence Lead to Inflated Self-Assessments // Journal of Personality and Social Psychology : 2009, January. DOI : 10.1037//0022-3514.77.6.1121. 77 (6) : 1121-34. P. 30-46.

REFERENCES

1. Kostyukovskij Ya. Deviantnost v obshhestve potrebleniya : kollektivnaya monografiya / pod red. Ya. I. Gilinskogo i T. V. Shipunovoj (Deviance in the consumer society: collective monograph / ed. Ya. I. Gilinsky and T. V. Shipunova), St. Petersburg: Publishing house "Alef-Press", 2012, pp. 265-294.

2. Liri T., Styuart M. [i dr.]. Tekhnologii izmeneniya soznaniya v destruktivnykh gruppakh / per. s angl. ; pod red. I. Mitrofanovoj (Technologies for changing consciousness in destructive groups / transfer from English; ed. I. Mitrofanova), St. Petersburg: Ex-libris, 2002, 223 p. ; 21 sm.

3. Lopatin V. N. Informatsionnaya bezopasnost' Rossii: dis.... d-ra yurid. nauk (Information security of Russia: Doctor's thesis), St. Petersburg, 2000, 433 p.

4. Smirnov А., Аndryukhin N. Mezhdunarodnaya zhizn (International life), 2018, No. 9, pp. 91-109.

5. Smirnov А. А. Informatsionnoe pravo (Information law), 2015. No. 2, pp. 18-25.

6. Sundiev I. Yu. Vestnik natsional'nogo antiterroristicheskogo komiteta (National Anti-Terrorism Committee Bulletin), 2019 (20), No. 1, pp. 80-88.

7. Sundiev I. Yu., Smirnov А. А., Аndryukhin N. G. Nauchnyj portal MVD Rossii (Scientific portal of the Ministry of Internal Affairs of Russia), 2018, No. 2, pp. 52-60.

8. Justin Kruger, David Dunning. Unskilled and Unaware of It: How Difficulties in Recognizing One's Own Incompetence Lead to Inflated Self-Assessments // Journal of Personality and Social Psychology : 2009, January. DOI : 10.1037//0022-3514.77.6.1121. 77 (6) : 1121-34. P. 30-46.

Рукопись поступила в редакцию 19.10.2020, принята к публикации 11.12.2020.

ИНФОРМАЦИЯ ОБ АВТОРАХ

Игорь Юрьевич Сундиев, доктор философских наук, профессор, главный научный сотрудник отдела по исследованию проблем в сфере оперативно-розыскного противодействия экстремизму, терроризму, а также информационного противоборства научно-исследовательского центра по исследованию проблем оперативно-розыскного противодействия общеуголовным преступлениям, экстремизму и терроризму федерального государственного казенного учреждения «Всероссийский научно-исследовательский институт Министерства внутренних дел Российской Федерации» (Российская Федерация, 121069, г. Москва, ул. Поварская, д. 25, стр. 1)

E-mail: i-sundiev@yandex.ru

Тел.: 8 (495) 214-23-51

Александр Александрович Смирнов, кандидат юридических наук, доцент, ответственный секретарь Научно-консультативного совета при Антитеррористическом центре государств -участников СНГ (Российская Федерация, 119034, г. Москва, Хрущёвский пер., д. 5)

E-mail: smirnovsng@yandex.ru

Тел.: 8 (495) 987-04-13

INFORMATION ABOUT THE AUTHORS

Igor Y. Sundiev, Doctor of Philosophical Sciences, Professor, Chief Researcher of the

Department for Researching Problems in the Field of Operational-Investigative Counteraction to Extremism, Terrorism, and Information Confrontation of the Research Center for Researching Problems of Operational-Investigative Counteraction to Common Crimes, Extremism and Terrorism of the Federal public establishment «National Research Institute of the Ministry of Interior of the Russian Federation» (Povarskaya Str., 25, b. 1, Moscow, 121069, Russian Federation)

E-mail: i-sundiev@yandex.ru Tel.: 8 (495) 214-23-51

ВКЛАД СОАВТОРОВ

И. Ю. Сундиев - постановка и обоснование темы исследования, ее актуальности, описание особенности молодежной аудитории Интернета и механизмов ее радикализации, стратегии противодействия «токсичному» контенту в Сети.

А. А. Смирнов - описание понятия и видов «токсичного» контента, методов противодействия ему в Сети, техническое редактирование статьи.

AUTHORS' CONTRIBUTION

Alexander A. Smirnov, Candidate of Juridical Sciences, Associate professor, Executive Secretary of the Scientific and Advisory Council at the Commonwealth of Independent States Anti-Terrorism Center (Khrushchevskiy per., 5, Moscow, 119034, Russian Federation)

E-mail: smirnovsng@yandex.ru Tel.: 8 (495) 987-04-13

I. Y. Sundiev - statement and justification of the research topic, its relevance, description of the features of the Internet youth audience and mechanisms of its radicalization, strategies for countering toxic content on the web.

A. A. Smirnov - description of the concept and types of toxic content, methods of countering toxic content in the network, technical editing of the article.

i Надоели баннеры? Вы всегда можете отключить рекламу.