CC BY
138
НАУКИ КРИМИНАЛЬНОГО ЦИКЛА
JUS CRIMINALE
DOI: 10.17803/1729-5920.2021.175.6.079-094
Е. И. Галяшина*, В. Д. Никишин**
Деструктивное речевое поведение в цифровой среде: факторы, детерминирующие негативное воздействие на мировоззрение пользователя1
Аннотация. Сегодня в условиях всеобщей цифровизации и информатизации общества интернет-среда становится криминогенной коммуникационной средой, благоприятной для совершения «речевых преступлений», т.е. речевых действий, образующих объективную сторону corpus delicti. Статья посвящена криминологическому анализу факторов, детерминирующих негативное воздействие информационных угроз на пользователей цифровой коммуникационной среды (прежде всего интернет-среды). На основе мониторинга социальной коммуникации в интернет-среде и анализа закономерностей функционирования языка в условиях интернет-коммуникации авторами обобщены основные свойства интернет-коммуникации и факторы, обеспечивающие возможность злоупотребления правами (свободой слова и правом свободно искать, получать, передавать, производить и распространять информацию) в целях деструктивного воздействия на мировоззренческую безопасность интернет-пользователей (прежде всего детей и молодежи). К таким факторам относится симуляция, виральность, гиперреальность, феномен социального растормаживания и др. Особое внимание в статье уделено концепту деструктивности информационного воздействия, рассматриваемому на основе анализа феноменов человеческой деструктивности, агрессии и киберагрессии, девиантности и делинквентности. В качестве информационных угроз мировоззренческой безопасности интернет-коммуникации предлагается рассматривать контент-риски и коммуникационные риски как формы репрезентации деструктивного речевого поведения в цифровой среде. В статье приводится авторская классификация данных информационных рисков на основе обобщения судебной и судебно-экспертной практики (в том числе по делам, решениями по которым материалы включались в Федеральный список экстремистских материалов), практики Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзора), а также междисциплинарного анализа научных публикаций. В контексте обеспечения мировоззренческой безопасности анализируется понятие «мортилатрия» и предлагается ввести термин «эридофобия». Авторами статьи
1 Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-01100190.
© Галяшина Е. И., Никишин В. Д., 2021
* Галяшина Елена Игоревна, доктор юридических наук, доктор филологических наук, профессор, профессор кафедры судебных экспертиз Московского государственного юридического университета имени О.Е. Кутафина (МГЮА), академик Российской академии естественных наук (РАЕН) Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993 eigaljashina@msal.ru
** Никишин Владимир Дмитриевич, кандидат юридических наук, директор Центра академического развития и образовательных инноваций, старший преподаватель кафедры судебных экспертиз Московского государственного юридического университета имени О.Е. Кутафина (МГЮА) Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993 vdnikidhin@msal.ru
анализируется влияние на аксиосферу интернет-пользователя делинквентных субкультур, размывающих идентичность человека с целью навязывания новой — псевдоправильной — идентичности. Ключевые слова: информационная безопасность; мировоззренческая безопасность; симулякры; гиперреальность; информационные угрозы; интернет-коммуникация; деструктивность; речевое поведение; цифровая среда; делинквентные субкультуры.
Для цитирования: Галяшина Е. И., Никишин В. Д. Деструктивное речевое поведение в цифровой среде: факторы, детерминирующие негативное воздействие на мировоззрение пользователя // Lex russica. — 2021. — Т. 74. — № 6. — С. 79-94. — DOI: 10.17803/1729-5920.2021.175.6.079-094.
Destructive Speech Behavior in the Digital Environment: Factors that Determine the Negative Impact on the User's Worldview2
Elena I. Galyashina, Dr. Sci. (Law), Dr. Sci. (Philology), Full Professor, Professor of the Department
of Forensic Expertise, Kutafin Moscow State LAw University (MSAL); Academician of the Russian
Academy of Natural Sciences (RANS)
ul. Sadovaya-Kudrinskaya, d. 9, Moscow, Russia, 125993
eigaljashina@msal.ru
Vladimir D. Nikishin, Cand. Sci. (Law), Director of the Center for Academic Development and Educational Innovation; Senior Lecturer, Department of Forensic Expertise,Kutafin Moscow State Law University (MSAL)
ul. Sadovaya-Kudrinskaya, d. 9, Moscow, Russia, 125993 vdnikidhin@msal.ru
Abstract. Today, in the context of universal digitalization and informatization of the society, the Internet environment is becoming a criminogenic communication environment, favorable for the commission of "speech crimes", i.e. speech actions that form the objective element of the corpus delicti. The paper is devoted to the criminological analysis of the factors that determine the negative impact of information threats on users of the digital communication environment (primarily, the Internet environment). Based on monitoring social communication in the Internet and analyzing the patterns of language functioning in conditions of the Internet communication, the authors summarize the main properties of the Internet communication and factors that provide the possibility of abuse of rights (freedom of speech and the right to freely search, receive, transmit, produce and distribute information) in order to have a destructive impact on the ideological safety of Internet users (primarily children and young people). Such factors include simulation, virality, hyperreality, the phenomenon of social disinhibition, etc. Particular attention is paid to the concept of destructiveness of information impact, considered on the basis of an analysis of the phenomena of human destructiveness, aggression and cyber aggression, deviance and delinquency. The authors propose to treat content risks and communication risks as forms of representation of destructive speech behavior in the digital environment as information threats to the ideological security of the Internet communication. The paper provides the authors' classification of the information risks under consideration based on a generalization of judicial and forensic practice (including cases when materials were included in the Federal List of Extremist Materials by court decisions), the practice of the Federal Service for Supervision of Communications, Information Technology and Mass Communications (Roskomnadzor), as well as interdisciplinary analysis of scientific publications. The authors suggest that the terms "mortilatrya" and "eridophobia" be introduced in the context of ensuring the worldview security. The authors of the paper analyze the influence on the axiosphere of the Internet user of delinquent subcultures that erode a person's identity in order to impose a new pseudo-correct- identity.
Keywords: information security; world outlook security; simulacra; hyperreality; information threats; internet communication; destructiveness; speech behavior; digital environment; delinquent subcultures. Cite as: Galyashina EI, Nikishin VD. Destruktivnoe rechevoe povedenie v tsifrovoy srede: faktory, determiniruyushchie negativnoe vozdeystvie na mirovozzrenie polzovatelya [Destructive Speech Behavior in the Digital Environment: Factors that Determine the Negative Impact on the User's Worldview]. Lex russica. 2021;74(6):79-94. DOI: 10.17803/1729-5920.2021.175.6.079-094 (In Russ., abstract in Eng.).
The reported study was funded by RFBR according to the research project №. 20-011-00190.
2
Введение
В основе построения концепции обеспечения мировоззренческой безопасности интернет-коммуникации лежит антропологический поворот в правоведении и гуманитарных науках, в рамках которого на современном этапе развития общества пришло осознание информационных угроз человеческому сознанию и бытию, осознание необходимости поиска решения проблем негативного воздействия цифровой среды на мировоззрение человека, изменение его ценностных и эмоциональных оценок, волеизъявлений.
Антропологический подход, рассматривающий человека как высшую и абсолютную ценность, требует выстраивания сбалансированных и всесторонних правовых рамок для регламентации коммуникации в интернет-среде в целях соблюдения баланса прав человека на свободу распространения и получения информации, свободу слова и плюрализм мнений, права на безопасную коммуникацию, с одной стороны, и защиту от злоупотребления этими правами, с другой стороны.
Процессы всеобщей цифровизации и глобализации обусловливают понимание Интернета не как средства коммуникации, а как коммуникативной среды (интернет-среды, шире — цифровой среды). Интернет-среда мыслится уже не как дополнение к реальному бытию человека, а как вторая, параллельная — виртуальная — реальность, в которой принимаются и реализуются собственные решения, удовлетворяются потребности, создаются определенные продукты деятельности и процесс общения трансформируется в виртуальные коммуникации3.
В последнее время в обиход специалистов из разных областей научного знания вошел термин VUCA-мир4, метафорически передаю-
щий непреодолимую быстротечную изменчивость мира, неспособность человека «переваривать» и должным образом усваивать всю информацию, поступающую ему по разным коммуникационным каналам, непредсказуемость предстоящих изменений в условиях растущих по экспоненте темпов технического развития и, как следствие, неопределенность в завтрашнем дне, расшатывание скреп аксио-сферы человека, увеличение потенции деструктивного информационного воздействия на его сознание. Примечательно, что стремительные, не поддающиеся контролю изменения во всех сферах жизнедеятельности общества, приводящие к «шоку будущего» («футурошоку»), еще в 1970-е гг. предсказывал с удивительной точностью Э. Тоффлер5.
1. Интернет-коммуникация и ее свойства
Ключевыми характеристиками современной интернет-коммуникации выступают ее опосре-дованность, дистантность, интерактивность, доступность, глобальный межкультурный характер, относительная анонимность, отсутствие статусной иерархии, широкие возможности для конструирования личностной и социальной идентичности, многомерность, картинность, размывание норм поведения и морали, стремление к ненормативному поведению, сжатость (компрессированность), фатичность и креативность, диалогичность, добровольность и желательность контактов, маргинализация и карнавализация коммуникационных процессов, мультимедийность, интерактивность, полимодальность и поликодовость, гипертекстуальность6.
По мнению И. Н. Розиной, компьютерно-опосредованная коммуникация — это комму-
Носов Н. А. Виртуальная психология. М., 2000. 432 с.
Англоязычная аббревиатура VUCA — от слов volatility — нестабильность, uncertainty — неопределенность, complexity — сложность и ambiguilty — неоднозначность, двусмысленность. Термин приписывают футуристу Бобу Джохансену (2007) из Института будущего (the Institute for the Future, Palo Alto, CA), обратившему внимание на всё уменьшающиеся возможности прогнозируемости мира и происходящих в нем событий. См. также: Codreanu A. A VUCA action framework for a VUCA environment. Leadership challenges and solutions // Journal of Defense Resources Management. 2016. Vol. 7, iss. 2 (13). P. 31-38. Toffler A. Future Shock. New York : Bantam Books, 1971. 561 p.
См. также: Gergen K. J. The Saturated Self: Dilemmas of Identity in Contemporary Life. New York, 1991 ; Карпова Т. Б. Категориальные свойства дискурса Рунета // Вестник Пермского университета. Российская и зарубежная филология. 2010. № 3. С. 70-73 ; Виноградова Т. Специфика общения в Интернете // Русская и сопоставительная филология : лингвокультурологический аспект. Казань, 2004. С. 63-67.
3
4
5
6
LEX IPS»
никативный процесс, протекающий в открытой электронной социальной среде, чаще всего посредством вербальных средств коммуникации (текстов, графики, аудио-, видеофайлов и изображений), инициирующий формирование интернет-сообществ и особую форму самопрезентации7.
Интернет-пространство — благоприятная среда для быстротечного, вирусоподобного распространения деструктивной информации, виральность8 которой является основным критерием истинности данной информации для пользователей. Информационные атаки в интернет-медиа преобразуют тоннель виртуальной реальности пользователя, «подсовывая» ему (на основе алгоритмизированного анализа его поведения в Сети, в том числе истории посещений веб-страниц) тот контент, который «зацепит» его внимание (в том числе на основе анализа ключевых слов)9.
Современная цифровая среда, включая интернет-СМИ, блоги и социальные сети, является благодатной почвой для активного функционирования симулякров — псевдообразов явлений действительности. Симулякр с точки зрения семиотики — «самореференциальный знак (образ несуществующей действительности), подменяющий символ, который олицетворяет слово, и его конвенциональные значения»10.
Симулякры активно используются в манипу-лятивных стратегиях, оказывая психологическое воздействие на реципиентов, целенаправленно замещая реальность ложными установками и символами и тем самым становясь «мощней-
шим орудием манипулирования»11 сознанием интернет-пользователей. Тактический прием «симулякр» особенно распространен в таких формах деструктивного информационного воздействия в интернет-среде, как фейкинг и пропаганда экстремистско-террористической идеологии.
С одной стороны, симулякры реализуют деструктивную функцию, разрушая сложившиеся мировоззренческие установки реципиента, подменяя и разрушая его реальность. С другой стороны, симулякры осуществляют конструирующую функцию, создавая новую реальность (киберреальность, гиперреальность, виртуальную реальность), конструируя новую, «правильную» аксиосферу реципиентов или насаждая негативные эмоции и сея панику.
Как утверждает В. И. Демченко, «реальность под воздействием тотальной симуляции превращается в гиперреальность. В этих обстоятельствах симулякр обладает деструктивными функциями по отношению к традиционной культуре, но его конструирующие функции проявляются в формировании гиперреального как реального без истока и без реальности»12.
Использование симулякров в информационной войне — прием достижения лжеинформирования, а информационная война — «не просто "искажение информации и представление реальных фактов в искаженном виде"», а «производство "альтернативной реальности"»13, «"трансформационный перевод" одной картины мира в другую»14.
Относительная анонимность интернет-коммуникации способствует тому, что делинквенты
8
7 Розина И. Н. Компьютерно-опосредованная коммуникация в практике образования и бизнеса // Теория коммуникации и прикладная коммуникация : сб. науч. тр. / под общ. ред. И. Н. Розиной. Ростов н/Д : ИУБиП, 2004. С. 185-192.
Виральность (virality) — характеристика, определяющая стремительность распространения контента
среди пользователей (см.: официальный сайт компании RusBase. URL: https://rb.ru/glossary/virality/ (дата обращения: 11.02.2020)).
Никишин В. Д. Цифровые и речевые следы в аспекте обеспечения информационной (мировоззренческой) безопасности в интернет-среде // Судебная экспертиза. 2020. № 1 (61). С. 131-139. Шевченко Е. В. Симулякр как тактический прием оказания ориентирующего воздействия // Вопросы когнитивной лингвистики. 2015. № 3 (44). С. 145.
Тюрнева Т. В. Опыт анализа лингвосемиотического контекста EDUCATION: концепт ^ понятие ^ термин (на материале английского языка) : автореф. дис. ... канд. филол. наук : 10.02.04. Иркутск, 2012. С. 20.
Демченко В. И. Метафора и симулякр как средства конструирования культурной реальности современного общества : дис. ... канд. филос. наук : 09.00.13. Ставрополь, 2009. С. 8.
Илларионов А. Вызовы информационной войны для свободного общества и возможная контрстра-
тегия : выступление на XIX Форуме Открытого общества Эстонии (Таллинн, 18 сентября, 2014 г.) // URL: http://red-ptero.livejournal.com/1672224.html (дата обращения: 04.11.2020). Почепцов Г. Г. Информационные войны. М. : Рефл-Бук : Ваклер, 2001. С. 25-26.
не до конца осознают степень общественной опасности своего речевого поведения, степень наносимого реципиенту вреда, а даже если и осознают, считают себя находящимися вне поля юридической ответственности за указанные деяния. Такое явление получило название «феномен социального растормаживания (^тЫЫй'оп)»15, когда «люди говорят и делают вещи, которые бы не стали говорить и делать под своим именем, позволяют себе гораздо больше, чем привыкли в обычной жизни, где они несут ответственность за свои поступки и высказывания»16. По меткому утверждению Л. Н. Синельниковой, «всё табуированное в общественной этике переносится в интернет-просторы... То, чего нельзя, неприлично делать в реальной жизни, — можно в виртуальной коммуникации»17.
2. Концепт «деструктивность информационного воздействия»
Деструктивное поведение понимается нами как физические и вербальные проявления индивида, направленные на разрушение чего-либо. Коммуникативная деструктивность обнаруживает себя практически во всех сферах межличностного взаимодействия: начиная с бытового общения и заканчивая политической коммуникацией. Вербальные проявления — деструктивное речевое поведение, направленное на разрушение мировоззренческих установок личности, причинение нравственных страданий и вреда психическому здоровью коммуниканта, характеризуемое чувством удовлетворения от страда-
ний жертвы и сознанием собственной правоты. Основной стратегией деструктивного речевого поведения выступает стратегия собственного возвышения за счет унижения другого, которая реализуется в коммуникации с помощью деструктивных речевых тактик (совокупности коммуникативных ходов, выполняемых в определенной последовательности)18.
По мнению И. В. Лысак, деструктивная деятельность определяется как «специфически человеческая форма активного отношения к миру, основное содержание которой составляет разрушение существующих объектов и систем»19.
Учеными отмечается недостаточное количество прикладных исследований, посвященных проблемам деструктивного поведения человека20. Что касается репрезентации де-линквентного речевого поведения, в аспекте феномена человеческой деструктивности рассматривались только экстремистские речевые действия21. Стоит отметить, что делинквентное речевое поведение понимается нами как деви-антное (отклоняющееся) речевое поведение, влекущее нарушение не любых социальных норм, а именно норм права, т.е. речевые действия образуют объективную сторону правонарушения (преступления).
Феномен деструктивности рассматривался в рамках психологического направления деви-антологии, в то время как причины девиантно-сти как социального явления стали предметом изучения социологии девиантности, представленной обилием школ, течений и теорий22.
Социально-детерминистские подходы к рассмотрению человеческого поведения наиболее
15 Васильев Т. Негативные аспекты виртуальной коммуникации и их пастырская оценка // Христианское чтение. 2016. № 6. С. 321.
16 Бочавер А. А. Хломов К. Д. Кибербуллинг: травля в пространстве современных технологий // Психология. Журнал ВШЭ. 2014. № 3. С. 186.
17 Синельникова Л. Н. Дискурс троллинга — коммуникация без табу // Актуальные проблемы стилистики. 2016. № 2. С. 141.
18 Волкова Я. А. Феномен хамства в деструктивном общении // Вестник ЛГУ имени А. С. Пушкина. 2013. № 4.
19 Лысак И. В. Человек — разрушитель: деструктивная деятельность человека как социокультурный феномен. Таганрог : Изд-во ТРТУ, 1999. С. 5.
20 Богдан С. С. Человеческая деструктивность как социокультурный феномен // Известия РГПУ имени А. И. Герцена. 2010. № 124. С. 311.
21 Никишин В. Д. Криминогенная речевая агрессия в аспекте судебной экспертизы материалов экстре-мистско-террористической направленности // Вестник Нижегородского университета имени Н. И. Лобачевского. 2019. № 3. С. 108-113.
22 Гилинский Я. И. Девиантология: социология преступности, наркотизма, проституции, самоубийств и других «отклонений». СПб. : Юридический центр-Пресс, 2004. С. 28-46.
ярко начинают проявляться в эпоху Просвещения и Нового времени. Так, известный мыслитель Дж. Локк, ратуя за атмосферу свободы, независимости и осознания взаимных обязанностей, считал, что любой человек при рождении — чистый лист бумаги (tabula rasa), не обремененный ни знаниями, ни характером, ни поведенческими стереотипами, в том числе деструктивными (в этом заключалась критика предложенной Т. Гоббсом теории врожденных идей)23. Ж.-Ж. Руссо также видел причины разрушения «естественного чувства свободы» человека в культуре и цивилизации24. К. Гельвеций, не разделявший руссоистскую критику науки, литературы и искусства, утверждал, что «люди не рождаются, а становятся теми, кто они есть»25. Вслед за представителями эпохи Просвещения родоначальники социального утопизма (Т. Мор, Ж. Мелье, Э.-Г. Морелли), размышляя о преступности как форме деструктивного поведения, видели ее причины в дисгармонии социального устройства, недостаточности воспитания и «видели возможность преодоления преступности в переустройстве общества на социалистических началах»26.
Все имеющиеся на сегодня исследования феномена деструктивности рассматривают его во взаимосвязи с концептом «агрессия» (З. Фрейд, К. Лоренц, И. Эйбл-Эйбесфельдт, Н. Тинберген, А. Басс, Л. Берковиц, А. Бандура, Р. Велдер27, Л. Р. Комалова28). Социопсихологические криминологические концепции Г. Тарда29, Э. Сатерленда и Д. Кресси30, теория научения А. Бандуры31 рассматривают агрессию как форму поведения, усвоенного в процессе социального научения, т.е. как результат социокультурных процессов.
В противовес франкфуртской школе русский религиозный философ И. А. Ильин считал носителем социальной деструкции не социум и его институты как таковые, а человека: «Ибо "зло" — не пустое слово, не отвлеченное понятие, не логическая возможность и не "результат субъективной оценки". Зло есть прежде всего душевная склонность человека, присущая каждому из нас, как бы некоторое, живущее в нас страстное тяготение к разнузданию зверя, тяготение, всегда стремящееся к расширению своей власти и к полноте захвата»32.
Признавая огромное влияние социализации конкретной личности на формирование ее поведенческих стереотипов и возможных девиаций, мы в то же время не можем обойти вниманием так называемые акцентуации личности (термин ввел К. Леонгард), т.е. врожденные качества личности (эмотивность, тревожность, импульсивность, лабильность и т.д.), обладающие тенденцией к переходу в патологические состояния33. Если личность не способна по своим индивидуальным качествам стать на путь саморазвития в окружающем ее социуме, то она избирает путь «самоспасения» путем разрушения окружающей ее действительности.
Термин «человеческая деструктивность» был введен немецким психологом Э. Фроммом в 1973 г. в труде «Анатомия человеческой деструктивности»34. В данной работе Э. Фромм выделил различные типы агрессии и деструктивности и их предпосылки. В самом общем виде Э. Фромм делит агрессию на «доброкачественно-оборонительную» (порождается инстинктами, способствует поддержанию жизни) и «злокачественно-деструктивную» (присуща
23 Локк Дж. Сочинения : в 3 т. / ред.: И. С. Нарский, А. Л. Субботин. М. : Мысль, 1985. Т. 1. С. 96-154.
24 Руссо Ж.-Ж. Рассуждения о науках и искусствах // Избранные сочинения : в 3 т. М., 1961. Т. 1. С. 44-45.
25 Гельвеций К. О человеке, его умственных способностях и его воспитании. М. : Соцэкгиз, 1938. С. 90.
26 Богдан С. С. Указ. соч.
27 См. обзор работ указанных авторов: Волкова Я. А. Деструктивное общение в когнитивно-дискурсивном аспекте : монография. Волгоград : Перемена, 2014.
28 Комалова Л. Р. Типология мультилингвальной вербализации эмоционального состояния «агрессия» (на материале разносистемных данных корпусной лингвистики) : дис. ... д-ра филол. наук: 10.02.21. М., 2017. 513 с.
29 Тард Г. Преступник и толпа. М. : Алгоритм, 2016.
30 Sutherland E., Cressey D., Luckenbill D. Principles of Criminology. 11th ed. Lanham — Boulder — New York — Oxford : Rowman & Littlefield Publishers, Inc., 1992. 704 p.
31 Бандура А. Теория социального научения. СПб. : Евразия, 2000.
32 Ильин И. А. Основы христианской культуры. М. : Эксмо, 2011. С. 9.
33 Леонгард К. Акцентуированные личности. Киев : Выща шк. Головное изд-во, 1989. С. 17.
34 Fromm E. The anatomy of human destructiveness. New York : Holt, Rinehart and Winston, 1973.
только человеку, не связана с сохранением жизни). Последняя, согласно гипотезе Фромма, появляется как результат взаимодействия факторов социализации во взаимосвязи с экзистенциальными потребностями человека35.
На наш взгляд, концепты «агрессия» и «деструктивность» соотносятся как общее и частное, деструктивность как крайняя форма агрессии отличается от оборонительной агрессии своей «ненасытностью»: она не обусловлена конкретными жизненно необходимыми потребностями, в то время как доброкачественно-оборонительная агрессия исчезает после удовлетворения таких потребностей, защиты витальных интересов человека.
Рассматривая соотношение концептов «деструктивность» и «девиатность», мы склоняемся к позиции С. С. Богдана, рассматривающего деструктивность как общее свойство различных проявлений девиантного поведения (преступность, наркомания, самоубийство и др.), как критерий «принадлежности к группе девиаций»36, т.к. любая девиация «приводит к разрушению чего-либо (здоровья, отношений, личности, общественного порядка) и даже — к прерыванию самой жизни»37.
Многообразие форм деструктивного речевого поведения в интернет-среде обусловило появление специального термина — «кибер-агрессия», который был введен Д. Шабро38 в 2007 г. для обозначения девиантного поведения в интернет-среде (оскорбление, унижение, издевательство, разоблачение, манипулирование, агрессивные нападки, преследование посредством коммуникативных технологий39), при этом в современных условиях содержание этого термина, на наш взгляд, существенно расширилось и охватывает все рассматриваемые нами ниже формы репрезентации деструктивного речевого поведения в цифровой среде.
3. Информационная (мировоззренческая) безопасность и формы репрезентации деструктивного речевого поведения в цифровой среде
Специалисты факультета психологии МГУ имени М. В. Ломоносова в монографии «Цифровое поколение России: компетентность и безопасность» приводят следующую классификацию онлайн-рисков: контентные, коммуникационные, потребительские, технические риски, а также интернет-зависимость40.
На наш взгляд, в контексте юридико-лин-гвистического обеспечения информационной (мировоззренческой) безопасности интернет-коммуникации целесообразно заимствование концептов «контент-риски» и «коммуникационные риски». При этом под контент-рисками (контентными рисками) мы понимаем информационные угрозы, связанные с «ознакомлением» интернет-пользователей с уже размещенной в интернет-среде деструктивной информацией. Коммуникационные риски возникают в процессе общения (межличностного взаимодействия) интернет-пользователей ввиду использования одним из коммуникантов манипулятивных дискредитационных и иных деструктивных речевых стратегий (в социальных сетях, блогах, мессенджерах, на форумах и т.д.).
Деструктивная информация в цифровой среде распространяется не только вербально, она может передаваться кодами разных семиотических систем (фотоизображения, видео, мелодии, схемы, анимация, гиперссылки и т.д.) посредством разных коммуникационных каналов: вербально-графемного, визуально-образного, вербально-акустического, невербально-акустического.
Речевые продукты, имеющие в своей структуре не только вербальный, но и невербаль-ный(-ые) — несегментный(-ые) — компоненты, получили название креолизованных
35 Агапов П. В. Эрих Фромм о человеческой агрессивности и деструктивности: опыт философско-антропо-логического анализа // Вестник МГУКИ. 2012. № 6 (50).
36 Богдан С. С. Указ. соч. С. 313.
37 Богдан С. С. Указ. соч. С. 313.
38 Chibbaro J. S. School counselors and the cyberbully: interventions and implications // Professional School Counseling. 2007. Vol. 11 (1). P. 65-67.
39 Васильев Т. Негативные аспекты виртуальной коммуникации и их пастырская оценка // Христианское чтение. 2016. № 6. С. 317-318.
40 Солдатова Г. У., Рассказова Е. И., Нестик Т. А. Цифровое поколение России: компетентность и безопасность. М. : Смысл, 2017. С. 90-99.
(поликодовых) текстов. Именно такие речевые продукты с негомогенной структурой составляют основу современной интернет-коммуникации, в информационном воздействии (в том числе деструктивном) обеспечивая синерге-тический перлокутивный эффект (эффект воздействия), т.к. смысл (семантика) таких речевых продуктов не сводится к сумме вербального и невербального компонентов, а рождает новый целостный образ — гештальт.
Исследования показывают, что, например, «большая часть экстремистской информации представлена в форме видеофрагментов (51,2 %). Кроме того, экстремистская информация представлена в виде текста (30,8 %), гра-
фических изображений (10,3 %), аудиофайлов (7,7 %)»41.
На основе обобщения судебной и судебно-экспертной практики (в том числе по делам, решениями по которым материалы включались в Федеральный список экстремистских материалов), практики Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзора), а также междисциплинарного анализа научных публикаций, посвященных проблемам деструктивного информационного воздействия в сети Интернет, нами была сформулирована классификация форм репрезентации девиантного речевого поведения в цифровой среде (см. табл.).
Формы репрезентации девиантного речевого поведения
Контентные риски Коммуникационные риски
— деструктивная пропаганда с использованием контента «фанфикшн» (фанфикшен, фанфик)42 употребления наркотических средств, психотропных и психоактивных веществ или их прекурсоров; нетрадиционных сексуальных отношений; азартных игр; различных видов насилия и нетерпимости, суицида; — пропаганда (героизация, романтизация) культуры андеграунда, культа насилия и жестокости (в том числе тюремной культуры, АУЕ44, жестокого обращения с животными45); — популяризация, героизация, романтизация насилия, убийств и самоубийств посредством распространения субкультуры «колумбайн» («скулшу-тинг», «росляковщина») — открытая либо закамуфлированная вербовка (он-лайн-рекрутинг) в радикально настроенные группы и деструктивные сообщества через социальные сети с использованием таких манипулятивных приемов, как мифотворчество (романтизация, героизация), элитарность («не такой, как все»); геймифика-ция (игровые механизмы), челленджи («беги или умри»), «запретный» контент, конфликт поколений («взрослый мир — плохой мир»), аккумулирование негативизма («весь мир против тебя», «государство — зло» и т.п.), закрытая общность («брат за брата»)43 и др.; — осуществление незаконной миссионерской деятельности
— пропаганда антиконституционных экстремист-ско-террористических идей (в том числе идей сепаратизма, насильственного свержения власти, национализма, неофашизма, религиозного радикализма и т.п.); — фальсификация истории, реабилитация нацизма, оскорбление дней воинской славы и памятных дат России, связанных с защитой Отечества, осквернение символов воинской славы России; — оскорбление чувств верующих и унижение человеческого достоинства по признакам социальной принадлежности — языку, полу, национальности, расе и др.
41 Соловьев В. С. Преступность в социальных сетях Интернета (криминологическое исследование по материалам судебной практики) // Всероссийский криминологический журнал. 2016. № 1. С. 65.
42 Фанфикшн (фанфикшен) (англ. Fanfiction — литература фанатов) — корпус текстов (фанфиков), написанных непрофессиональными авторами по мотивам того или иного произведения культуры (книги, фильма, сериала и т.д.); вид литературного творчества, характерный для информационно-телекоммуникационной сети Интернет (один из видов сетевой литературы — сетературы).
43 Щетинина Е. В. Работа киберлаборатории как фактор профилактики экстремистских и террористических проявлений в сети «Интернет» // Вестник ЮУрГУ. Серия : Право. 2018. Т. 18. № 1. С. 116.
44 «Арестантский уклад един» или «арестантское уркаганское единство» — пропагандирует воровские понятия, продвигает кодекс воровской чести и романтизирует тюремную жизнь.
45 В настоящее время жестокое обращение с животными образует состав преступления, предусмотренного ст. 245 УК РФ, однако распространение информационных материалов, содержащих пропаганду
Контентные риски Коммуникационные риски
— трансформация аккаунтов и сообществ, пропагандирующих суицидальные идеи, в группы, связанные с изучением механизмов кодирования информации, движения, популяризирующие идеи сатанизма и др., а также сообщества, напрямую связанные с культом жестокости и насилия (публикации шок-контента и др.) — кибербуллицид — доведение жертвы кибербул-линга до самоубийства; — киберсуицид (согласованные самоубийства), включая онлайн-кибербуллицид (самоубийство в режиме реального времени перед веб-камерой), флешмоб-киберсуицид, аддиктивный кибер-суицид
пропаганда (героизация, романтизация) аутодеструктивного (анорексия, булимия, селфхарм) и суицидального поведения онлайн (в том числе «группы смерти»; «суицидальные квесты» с использованием сигнов; мистические группы, использующие кодирование информации; форумные ролевые игры и т.д.)
цифровое самоповреждение — распространение дискредитирующей информации о самих себе в интернет-среде
— распространение клеветнической, диффамаци- онной, оскорбительной информации в социальных сетях и мессенджерах — кибертроллинг (включая флейм (флейминг)) — форма социальной провокации в сетевом общении, использующаяся как персонифицированными участниками, заинтересованными в большей узнаваемости, публичности, эпатаже, так и анонимными пользователями без возможности их идентификации; — кибербуллинг (кибермоббинг) — травля, вербальное издевательство, в том числе угрозы, вызывание чувства стыда, враждебного отношения; дискриминационные высказывания, связанные с внешним видом, умственными способностями, умениями и т.д.: харассмент, имперсонация, эксклюзия (остракизм), стигматизация, киберсталкинг, угрозы, хейтинг, стигматизация, хеппислепинг («радостное избиение) и др.46
— распространение детской порнографии — кибергруминг — установление «дружеских отношений и эмоциональной связи с ребенком или подростком для завоевания его доверия с целью сексуальной эксплуатации»47; — секстинг — «вид виртуальной коммуникации, включающий отправку, получение или пересылку текстовых сообщений, изображений фотографий, аудио- и видеозаписей с сексуальным содержани- ем»48; — сексшантаж — «угроза публикации интимных фото жертвы с целью вымогательства дополнительных фотографий, видео или сексуальных дей- « 49 ствий»; — доксинг — «объявление о том, что жертва предлагает сексуальные услуги»50
жестокого обращения с животными, не ограничено. В Государственной Думе ФС РФ на рассмотрении находится законопроект № 812541-7 «О внесении изменения в Федеральный закон "Об информации, информационных технологиях и о защите информации" в части оперативного ограничения доступа к информации в сети "Интернет", содержащей материалы жестокого обращения с животными» (URL: https://sozd.duma.gov.ru (дата обращения: 22.01.2021)).
46 См., в частности: Willard N. E. Cyberbullying and Cyberthreats: Responding to the Challenge of Online Social Aggression, Threats, and Distress. Champaign, 2007.
Kowalski R. M., Limber S. P., Agatston P. W. Cyberbullying: Bullying in the digital age. Chichester, 2011.
47 Мы в ответе за цифровой мир : Профилактика деструктивного поведения подростков и молодежи в Интернете : учебно-методическое пособие / Г. У. Солдатова, С. В. Чигарькова, А. А. Дренёва, С. Н. Илюхина. М. : Когито-Центр, 2019. С. 91.
48 Мы в ответе за цифровой мир. С. 96.
49 Мы в ответе за цифровой мир. С. 12.
50 Мы в ответе за цифровой мир. С. 12.
Контентные риски Коммуникационные риски
— фейкинг (фейк-ньюс) — распространение ложной информации с целью пропаганды и агитации, нацеленной на искажение фактов для политической манипуляции массовым сознанием и создания ложной картины мира51 — астротурфинг («пятая колонна Интернета») — использование современного программного обеспечения или оплачиваемых пользователей для организации поддельных информационных кампаний онлайн и искусственного управления общественным мнением (в политических или предпринимательских целях)
Приведенная классификация не является исчерпывающей и строгой, т.к. нами сознательно допускались отступления от единого основания деления коммуникационных и контентных рисков, а некоторые формы показаны как промежуточные. Однако данная классификация имеет высокую теоретическую значимость как попытка обобщить, исчислить и систематизировать факторы деструктивного информационного воздействия интернет-коммуникации на мировоззрение пользователей.
Указанные в таблице формы репрезентации деструктивного речевого поведения составляют реальную угрозу мировоззренческой (информационной) безопасности интернет-коммуникации (прежде всего мировоззренческой безопасности детей и подростков), т.к. влекут изменение мировоззренческих установок и ценностей (изменяют аксиосферу) в сторону дегуманизации (под прикрытием иных «моральных» ценностей), способствуют распространению нигилизма, анархии, атмосферы паники и хаоса, в том числе катастрофизма и апокалипсизма и т.д., т.е. в целом влекут дезорганизацию и дестабилизацию государственных и общественных структур, социальных связей, нарушение прав и законных интересов граждан.
Как утверждают исследователи, более 50 % подростков 12-17 лет сталкиваются с изобра-
жением жестокости в сети Интернет и порнографией, описанием способов чрезмерного похудения; около 20 % — с контентом о способах употребления наркотиков и причинения себе вреда52; около 70 % подростков и молодежи (15-25 лет) сталкивались с пропагандой экстре-мистско-террористической идеологии в интер-нет-среде53; около 70 % подростков и молодежи сталкивалась онлайн с пропагандой суицида и селфхарма54; около 60 % подростков и молодежи 14-24 лет получают информацию о способах самоубийства в сети Интернет55; 10-14 % российских подростков и молодежи прибегали к самопорезам56; около 25 % подростков сталкивались с пропагандой АУЕ57 и информацией о распространении наркотиков онлайн58; около половины девушек сталкивались в Интернете с контентом, посвященным экстремальным способам похудения59; около половины подростков и молодежи (12-13 лет — 23 %; 14-17 лет — 47 %; старше 17 лет — 54 %) подвергались попыткам кибергруминга60.
Под информационной (мировоззренческой) безопасностью интернет-коммуникации в аспекте рассматриваемой темы нами понимается (на основе легального определения «информационной безопасности детей»61) состояние защищенности пользователей цифровой среды, при котором отсутствуют контентные и коммуникационные риски, связанные с причинением
51 Корецкая О. В. Фейковые новости как объект изучения медиалингвистики (на материале англоязычных СМИ) // Филологические науки. Вопросы теории и практики. 2017. № 9 (75) : в 2 ч. Ч. 1. С. 118-120.
52 Мы в ответе за цифровой мир. С. 11.
53 Мы в ответе за цифровой мир. С. 29-30.
54 Мы в ответе за цифровой мир. С. 110, 140.
55 Сыроквашина К. В., Дозорцева Е. Г., Бадмаева В. Д., Макушкин Е. В., Шкитырь Е. Ю. Клинические и психологические подходы к исследованию проблемы суицидов у подростков // Российский психиатрический журнал. 2017. № 6. С. 24-31.
56 Мы в ответе за цифровой мир. С. 112.
57 Мы в ответе за цифровой мир. С. 41.
58 Мы в ответе за цифровой мир. С. 47.
59 Мы в ответе за цифровой мир. С. 116.
60 Мы в ответе за цифровой мир. С. 92.
61 Федеральный закон от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию» // СЗ РФ. 2011. № 1. Ст. 48.
информацией вреда их здоровью и (или) физическому, психическому, духовному, нравственному развитию.
В данном случае нами сознательно используется прием метонимии: информационная безопасность интернет-коммуникации и информационная безопасность пользователей цифровой среды (интернет-среды) понимаются нами как равнозначные понятия (перенос свойств на основе смежности коммуникации как деятельности и пользователей как коммуникантов, субъектов данной деятельности).
4. Эридофобия и мортилатрия
Для обозначения имеющего хронотоп (локализованного во времени и пространстве) состояния массового страха, надвигающейся катастрофической или апокалиптической угрозы предлагаем ввести термин «эридофобия» (от др.-греч. "Ерц — спор, форо^ — страх), образованный от имени Эрида — богини раздора и хаоса в древнегреческой мифологии62.
Эридофобия населения достигается в информационной войне путем распространения информации о готовящихся террористических атаках, природных катаклизмах, об эпидемиологических катастрофах (что сегодня наглядно видно на примере фейк-ньюс вокруг вируса COVID-19, устрашающих население, сеющих алогичный, всеобъемлющий и непредсказуемый страх путем фальсификации статистических данных, пропаганды «теории заговора» и т.д. в целях распространения антиправительственных идей и дестабилизации обстановки в обществе). Описанный еще в 1950-х гг. социальным психологом Л. Фестингером феномен когнитивного диссонанса объясняет, что в ситуации конфликта сведений человек, пытаясь преодолеть дискомфорт, чаще всего не ищет истину, а пытается «подтвердить свои убеждения любыми возможными способами»63. В контексте мировоззренческой безопасности также нельзя обойти вниманием феномен постправды, при котором мнение интернет-пользователей формируется на основе не объективных фактов, а субъективных интерпретаций и эмоций.
Для концепции обеспечения информационно-мировоззренческой безопасности интернет-коммуникации интерес представляет также понятие «мортилатрия» (от лат. Mors, mortis — смерть и гр. Латргию — служить, покланяться), под которым понимается «культ смерти во имя какой-либо цели»64. На наш взгляд, данное понятие можно экстраполировать не только на джихад, свержение конституционного строя и другие феномены экстремистско-террористи-ческого дискурса, но и на пропаганду суицидального поведения, киберсуицид, онлайнки-бербуллицид, флешмоб-киберсуицид и другие деструктивные информационные угрозы в цифровой среде.
5. Делинквентные субкультуры
Влиянию деструктивно-пропагандистской информации в интернет-среде более всего подвержены дети и подростки как группы с неустоявшимся мировоззрением и «духом бунтарства». В условиях конфликта между целями «большого общества» и институциональными средствами достижения этих целей подростками из низших слоев общества (ситуация аномии в понимании Э. Дюркгейма, фрустрация) в качестве путей адаптации подростков могут выступать ретризм, ритуализм, «бунт», предполагающие построение собственной системы ценностей и норм, т.е. создание субкультуры или присоединение к уже существующей. Наибольшую угрозу мировоззренческой безопасности составляют делинквентные субкультуры экстремистско-террористического толка (неонацисты, шовинисты, радикальные националисты и т.д.), субкультуры «колумбайн» («скулшутинг», «росляковщина»), субкультуры андеграунда, пропагандирующие культ насилия и жестокости (в том числе тюремную культуру, АУЕ), субкультуры аутодеструктивного толка (киберсуицид, флешмоб-киберсуицид, селфхарм, «группы смерти» и т.д.) и др.
Как утверждал А. Коэн, «делинквентная субкультура извлекает свои нормы из норм более широкой культуры, выворачивая их, однако, наизнанку. По стандартам этой субкультуры поведение делинквента правильно
62 GirouxH. Lexicon Iconographicum Mythologiae Classicae. Bd. III. Zürich ; München, 1986. S. 846-850.
63 Мы в ответе за цифровой мир. С. 51-52.
64 Петухов В. Б. Терроризм как форма социокультурной деструктивности // Известия РГПУ имени А. И. Герцена. 2008. № 66. С. 128.
LEX IPS»
именно потому, что оно неправильно по нормам более широкой культуры», «здесь явно присутствует элемент злоумышленности, удовольствия от причинения беспокойства другим, восторг от самого факта отвержения различных табу»65.
Анализ продуктов речевой деятельности экс-тремистско-террористического дискурса показал, что адепты радикальных течений оправдывают свое делинквентное поведение, ссылаясь на высшие понятия (служение Богу, преданность религиозной/этнической группе); прикрывая свое поведение порочностью жертвы или провокацией с ее стороны; отрицая вред своего поведения и утверждая его полезность (в целях утверждения «правильного» социального устройства).
Деструктивное информационное воздействие в интернет-среде усиливает диссоциативные силы, угрожающие целостности человеческой личности, размывает идентичность человека66, в том числе гражданскую идентичность (ее компоненты: исторический, культурный, географический), с целью навязывания новой идентичности — принадлежности к адептам делинквентных субкультур и радикальных течений. Навязывание культа насилия как средства решения проблем рассматривается как конструирование «военной идентичности» (термин предложил Э. Эрик-сон67).
Кроме того, глобальность и доступность интернет-коммуникации усиливает «эффект Вертера» — подражательное поведение ввиду романтизации и героизации суицидального поведения и его жертв68.
Заключение
В рамках исследования был осуществлен мониторинг социальной коммуникации в интернет-среде и анализ закономерностей функционирования языка в условиях интернет-коммуникации с целью выявления признаков деструктивности информационных материалов.
В статье обобщены основные свойства современной коммуникации в цифровой среде, уже не просто дополняющей существующую реальность, а выступающей в качестве второй — альтернативной — реальности. Рассмотренные свойства интернет-пространства (шире — цифровой среды) обеспечивают благоприятные условия для быстротечного, вирусоподобного распространения деструктивной информации, в том числе репрезентации делинквентного речевого поведения онлайн.
Рассмотренные в работе формы репрезентации деструктивного речевого поведения в цифровой среде (контентные и коммуникационные риски) и пропаганда делинкветных субкультур в интернет-среде требуют дальнейшего теоретического осмысления с точки зрения комплексного юридико-лингвистического подхода, призванного обеспечить адекватные правовые механизмы противодействия данным информационным угрозам исходя из коммуникативной (языковой) природы данных феноменов. В частности, дальнейшего осмысления требует соотношение рассмотренной в настоящей работе деструктивности информационного воздействия с такими феноменами, как кримино-генность, конфликтогенность, дискредитацион-ность, вредоносность информации.
65 Коэн А. Содержание делинквентной субкультуры // Социология преступности. М. : Прогресс, 1966. С. 318, 317.
66 Воропаев М. В. Психология и педагогика виртуальных сред. Ростов н/Д, 2007.
67 Erikson E. H. Identity: Youth and crisis. New York : Norton, 1968.
68 Название эффекта появилось в результате резкого роста числа подражающих самоубийств в Европе после публикации романа «Страдания юного Вертера» И. Гёте.
См., например: Fahey Robert A., Matsubayashi T., Ueda M. Tracking the Werther Effect on social media: Emotional responses to prominent suicide deaths on twitter and subsequent increases in suicide // Social Science & Medicine. 2018. Vol. 219. P. 19-29 ; Eisenwort B., Etzersdorfer E., Herberth A., Niederkrotenthaler T., Sonneck G., Strauss M., Till B., Voracek M. Role of media reports in completed and prevented suicide: Werther vs. Papageno effects // The British Journal of Psychiatry. 2010. Vol. 197/10. P. 234-243 ; Суходолов А. П., Бычкова А. М. Освещение суицидальной тематики в средствах массовой информации в свете правовых ограничений и социальной значимости проблемы // Вопросы теории и практики журналистики. 2016. № 4. С. 588-606.
БИБЛИОГРАФИЯ
1. Агапов П. В. Эрих Фромм о человеческой агрессивности и деструктивности: опыт философско-антропо-логического анализа // Вестник МГУКИ. — 2012. — № 6 (50). — С. 56-61.
2. Бандура А. Теория социального научения. — СПб. : Евразия, 2000.
3. Богдан С. С. Человеческая деструктивность как социокультурный феномен // Известия РГПУ имени А. И. Герцена. — 2010. — № 124. — С. 310-119.
4. Бочавер А. А. Хломов К. Д. Кибербуллинг: травля в пространстве современных технологий // Психология. Журнал ВШЭ. — 2014. — № 3. — С. 177-190.
5. Васильев Т. Негативные аспекты виртуальной коммуникации и их пастырская оценка // Христианское чтение. — 2016. — № 6. — С. 311-329.
6. Виноградова Т. Специфика общения в Интернете // Русская и сопоставительная филология : Лингво-культурологический аспект. — Казань, 2004.
7. Волкова Я. А. Деструктивное общение в когнитивно-дискурсивном аспекте : монография — Волгоград : Перемена, 2014.
8. Волкова Я. А. Феномен хамства в деструктивном общении // Вестник ЛГУ имени А. С. Пушкина. — 2013. — № 4. — С. 215-221.
9. Воропаев М. В. Психология и педагогика виртуальных сред. — Ростов н/Д, 2007.
10. Гельвеций К. О человеке, его умственных способностях и его воспитании. — М. : Соцэкгиз, 1938.
11. Гилинский Я. И. Девиантология: социология преступности, наркотизма, проституции, самоубийств и других «отклонений». — СПб. : Юридический центр-Пресс, 2004.
12. Демченко В. И. Метафора и симулякр как средства конструирования культурной реальности современного общества : дис. ... канд. филос. наук. — Ставрополь, 2009. — 22 с.
13. Илларионов А. Вызовы информационной войны для свободного общества и возможная контрстратегия : выступление на XIX Форуме Открытого общества Эстонии (Таллинн, 18 сентября, 2014 г.). — URL: http://red-ptero.livejournal.com/1672224.html (дата обращения: 04.11.2020).
14. Ильин И. А. Основы христианской культуры. — М. : Эксмо, 2011.
15. Карпова Т. Б. Категориальные свойства дискурса Рунета // Вестник Пермского университета. Российская и зарубежная филология. — 2010. — № 3. — С. 70-73.
16. КомаловаЛ. Р. Типология мультилингвальной вербализации эмоционального состояния «агрессия» (на материале разносистемных данных корпусной лингвистики) : дис. ... д-ра филол. наук. — М., 2017. — 513 с.
17. Корецкая О. В. Фейковые новости как объект изучения медиалингвистики (на материале англоязычных СМИ) // Филологические науки. Вопросы теории и практики. — 2017. — № 9 (75) : в 2 ч. — Ч. 1. — С. 118-120.
18. КоэнА. Содержание делинквентной субкультуры // Социология преступности. — М. : Прогресс, 1966.
19. Леонгард К. Акцентуированные личности. — Киев : Выща шк., 1989. — 375 с.
20. ЛоккДж. Сочинения : в 3 т. Т. 1 / ред.: И. С. Нарский, А. Л. Субботин. — М. : Мысль, 1985.
21. Лысак И. В. Человек — разрушитель: деструктивная деятельность человека как социокультурный феномен. — Таганрог : Изд-во ТРТУ, 1999. — 55 с.
22. Мы в ответе за цифровой мир : Профилактика деструктивного поведения подростков и молодежи в Интернете : учебно-методическое пособие / Г. У. Солдатова, С. В. Чигарькова, А. А. Дренёва, С. Н. Илюхина. — М. : Когито-Центр, 2019. — 176 с.
23. Никишин В. Д. Криминогенная речевая агрессия в аспекте судебной экспертизы материалов экстре-мистско-террористической направленности // Вестник Нижегородского университета имени Н. И. Лобачевского. — 2019. — № 3. — С. 108-113.
24. Никишин В. Д. Цифровые и речевые следы в аспекте обеспечения информационной (мировоззренческой) безопасности в интернет-среде // Судебная экспертиза. — 2020. — № 1 (61). — С. 131-139.
25. Носов Н. А. Виртуальная психология. — М., 2000. — 432 с.
26. Петухов В. Б. Терроризм как форма социокультурной деструктивности // Известия РГПУ имени А. И. Герцена. — 2008. — № 66. — С. 124-128.
27. Почепцов Г. Г. Информационные войны. — М. : Рефл-Бук : Ваклер, 2001. — 576 с.
28. Розина И. Н. Компьютерно-опосредованная коммуникация в практике образования и бизнеса // Теория коммуникации и прикладная коммуникация : сб. науч. тр. / под общ. ред. И. Н. Розиной. — Ростов н/Д : ИУБиП, 2004. — С. 185-192.
29. РуссоЖ.-Ж. Рассуждения о науках и искусствах // Избранные сочинения : в 3 т. — М., 1961. — Т. 1.
LEX 1Р?Ж
30. Синельникова Л. Н. Дискурс троллинга — коммуникация без табу // Актуальные проблемы стилистики. — 2016. — № 2. — С. 139-148.
31. Солдатова Г. У., Рассказова Е. И., Нестик Т. А. Цифровое поколение России: компетентность и безопасность. — М. : Смысл, 2017. — 375 с.
32. Соловьев В. С. Преступность в социальных сетях Интернета (криминологическое исследование по материалам судебной практики) // Всероссийский криминологический журнал. — 2016. — № 1. — С. 60-72.
33. Суходолов А. П., Бычкова А. М. Освещение суицидальной тематики в средствах массовой информации в свете правовых ограничений и социальной значимости проблемы // Вопросы теории и практики журналистики. — 2016. — № 4. — С. 588-606.
34. Сыроквашина К. В., Дозорцева Е. Г., Бадмаева В. Д., Макушкин Е. В., Шкитырь Е. Ю. Клинические и психологические подходы к исследованию проблемы суицидов у подростков // Российский психиатрический журнал. — 2017. — № 6. — С. 24-31.
35. Тард Г. Преступник и толпа. — М. : Алгоритм, 2016.
36. Тюрнева Т. В. Опыт анализа лингвосемиотического контекста EDUCATION: концепт ^ понятие ^ термин (на материале английского языка) : автореф. дис. ... канд. филол. наук. — Иркутск, 2012. — 22 с.
37. Шевченко Е. В. Симулякр как тактический прием оказания ориентирующего воздействия // Вопросы когнитивной лингвистики. — 2015. — № 3 (44).
38. Щетинина Е. В. Работа киберлаборатории как фактор профилактики экстремистских и террористических проявлений в сети «Интернет» // Вестник ЮУрГУ. Серия : Право. — 2018. — Т. 18. — № 1. — С. 115-119.
39. Chibbaro J. S. School counselors and the cyberbully: interventions and implications // Professional School Counseling. — 2007. — Vol. 11 (1). — P. 65-67.
40. Codreanu A. A VUCA action framework for a VUCA environment. Leadership challenges and solutions // Journal of Defense Resources Management. — 2016. — Vol. 7, iss. 2 (13). — P. 31-38.
41. Eisenwort B., Etzersdorfer E., Herberth A., Niederkrotenthaler T., Sonneck G., Strauss M., Till B., Voracek M. Role of media reports in completed and prevented suicide: Werther vs. Papageno effects // The British Journal of Psychiatry. — 2010. — Vol. 197/10. — P. 234-243.
42. Erikson E. H. Identity: Youth and crisis. — New York : Norton, 1968.
43. Fahey Robert A., Matsubayashi T., Ueda M. Tracking the Werther Effect on social media: Emotional responses to prominent suicide deaths on twitter and subsequent increases in suicide // Social Science & Medicine. — 2018. — Vol. 219. — P. 19-29.
44. Fromm E. The anatomy of human destructiveness. — New York : Holt, Rinehart and Winston, 1973.
45. Gergen K. J. The Saturated Self: Dilemmas of Identity in Contemporary Life. — New York, 1991.
46. Giroux H. Lexicon Iconographicum Mythologiae Classicae. — Bd. III. — Zürich ; München, 1986.
47. Kowalski R. M., Limber S. P., Agatston P. W. Cyberbullying: Bullying in the digital age. — Chichester, 2011.
48. Sutherland E., Cressey D., Luckenbill D. Principles of Criminology. — 11th ed. — Lanham — Boulder — New York — Oxford : Rowman & Littlefield Publishers, Inc., 1992. — 704 p.
49. Toffler A. Future Shock. — New York : Bantam Books, 1971. — 561 p.
50. Willard N. E. Cyberbullying and Cyberthreats: Responding to the Challenge of Online Social Aggression, Threats, and Distress. — Champaign, 2007.
Материал поступил в редакцию 2 февраля 2021 г. REFERENCES
1. Agapov PV. Erikh Fromm o chelovecheskoy agressivnosti i destruktivnosti: opyt filosofsko-antropologicheskogo analiza [Erich Fromm on human aggressiveness and destructiveness: the experience of philosophical and anthropological analysis]. Vestnik MGUKI. 2012;6(50):56-61 (In Russ.).
2. Bandura A. Teoriya sotsialnogo naucheniya [Social learning theory]. St. Petersburg: Evraziya Publ.; 2000 (In Russ.).
3. Bogdan SS. Chelovecheskaya destruktivnost kak sotsiokulturnyy fenomen [Human destructiveness as a socio-cultural phenomenon]. Bulletin of the Herzen Russian State Pedagogical University. 2010;124:310-119 (In Russ.).
4. Bochaver AA, Khlomov KD. Kiberbulling: travlya v prostranstve sovremennykh tekhnologiy [Cyberbullying: harassment in the space of modern technologies]. Psychology. Journal of the Higher School of Economics. 2014;3:177-190 (In Russ.).
5. Vasiliev T. Negativnye aspekty virtualnoy kommunikatsii i ikh pastyrskaya otsenka [Negative aspects of virtual communication and its pastoral assessment]. Christian readings. 2016;6:311-329 (In Russ.).
6. Vinogradova T. Spetsifika obshcheniya v Internete [Specificity of communication on the Internet]. In: Russian and Comparative Philology: Linguoculturological Aspect. Collection of Articles. Kazan; 2004 (In Russ.).
7. Volkova YaA. Destruktivnoe obshchenie v kognitivno-diskursivnom aspekte: monografiya [Destructive Communication in the Cognitive-Discursive Aspect: Monograph]. Volgograd: Peremena Publ.; 2014 (In Russ.).
8. Volkova YaA. Fenomen khamstva v destruktivnom obshchenii [The phenomenon of boorishness ("hamstvo") in destructive communication]. Pushkin Leningrad State University Bulliten. 2013;4:215-221 (In Russ.).
9. Voropaev MV. Psikhologiya i pedagogika virtualnykh sred [Psychology and pedagogy of virtual environments]. Rostov-on-Don; 2007 (In Russ.).
10. Helvetius K. O cheloveke, ego umstvennykh sposobnostyakh i ego vospitanii [About a person, his mental abilities and his upbringing]. Moscow: Sotsekgiz Publ.; 1938 (In Russ.).
11. Gilinskiy YaI. Deviantologiya: sotsiologiya prestupnosti, narkotizma, prostitutsii, samoubiystv i drugikh «otkloneniy» [Deviantology: Sociology of crime, drug addiction, prostitution, suicide and other "deviations"]. St. Petersburg: Yuridicheskiy Tsentr-Press Publ.; 2004 (In Russ.).
12. Demchenko VI. Metafora i simulyakr kak sredstva konstruirovaniya kulturnoy realnosti sovremennogo obshchestva : dis. ... kand. filos. nauk [Metaphor and simulacrum as a means of constructing the cultural reality of modern society: Cand. Sci. Thesis (Philology)]. Stavropol; 2009 (In Russ.).
13. Illarionov A. Vyzovy informatsionnoy voyny dlya svobodnogo obshchestva i vozmozhnaya kontrstrategiya: vystuplenie na XIX forume Otkrytogo obshchestva Estonii [Information warfare challenges for a free society and a possible counter-strategy: presentation at the 19th Estonian Open Society Forum (Tallinn, September 18, 2014)]. URL: http://red-ptero.livejournal.com/1672224.html (accessed: 04 Nov. 2020).
14. Ilyin IA. Osnovy khristianskoy kultury [Foundations of Christian Culture]. Moscow: Eksmo Publ.; 2011 (In Russ.).
15. Karpova TB. Kategorialnye svoystva diskursa runeta [Categorial attributes of runet discourse]. Perm University Herald. Russian and Foreign Philology. 2010;3:70-73 (In Russ.).
16. Komalova LR. Tipologiya multilingvalnoy verbalizatsii emotsionalnogo sostoyaniya «agressiya» (na materiale raznosistemnykh dannykh korpusnoy lingvistiki): dis. ... d-ra filol. nauk [Typology of multilingual verbalization of the emotional state "aggression" (on the basis of multi-system data of corpus linguistics): Doctoral Dissertation (Philology)]. Moscow; 2017(In Russ.).
17. Koretskaya OV. Feykovye novosti kak obekt izucheniya medialingvistiki (na materiale angloyazychnykh SMI) [Fake news as the object of study of media-linguistics (by the material of english media)]. Philology. Theory & Practice. 2017;9(75):118-120 (In Russ.).
18. Cohen A. Soderzhanie delinkventnoy subkultury [The content of the delinquent subculture]. Sociology of Crime. Moscow: Progress Publ.; 1966 (In Russ.).
19. Leongard K. Aktsentuirovannye lichnosti [Accentuated personalities]. Kiev: Vyshcha shk.; 1989 (In Russ.).
20. Narskiy IS, Subbotin AL, editors. Locke J. Works: in 3 volumes. Vol. 1. Moscow: Mysl Publ.; 1985 (In Russ.).
21. Lysak IV. Chelovek — razrushitel: destruktivnaya deyatelnost cheloveka kak sotsiokulturnyy fenomen [The Man — Destroyer: Destructive Human Activity as a Sociocultural Phenomenon]. Taganrog: Publishing house of TRTU; 1999 (In Russ.).
22. Soldatova GU, Chigarkova SV, Draneva AA, Ilyukhina SN, editors. My v otvete za tsifrovoy mir: profilaktika destruktivnogo povedeniya podrostkov i molodezhi v Internete: uchebno-metodicheskoe posobie [We are responsible for the digital world: Prevention of destructive behavior of adolescents and young people on the Internet: a training manual]. Moscow: Kogito-tsentr Publ.; 2019 (In Russ.).
23. Nikishin VD. Kriminogennaya rechevaya agressiya v aspekte sudebnoy ekspertizy materialov ekstremistsko-terroristicheskoy napravlennosti [Criminogenic speech aggression in the aspect of forensic examination of materials of extremist-terrorist orientation]. Bulletin of Nizhniy Novgorod Lobochevskiy University. 2019;3:108-113 (In Russ.).
24. Nikishin VD. Tsifrovye i rechevye sledy v aspekte obespecheniya informatsionnoy (mirovozzrencheskoy) bezopasnosti v internet-srede [Digital and speech traces in terms of information (ideological) security in internet environment]. Forensic Examination. 2020;1(61):131-139 (In Russ.).
25. Nosov NA. Virtualnaya psikhologiya [Virtual psychology]. Moscow; 2000 (In Russ.).
26. Petukhov VB. Terrorizm kak forma sotsiokulturnoy destruktivnosti [Terrorism as a form of social and cultural destructiveness]. Bulletin of Herzen Russian State Pedagogical University. 2008;66:124-128 (In Russ.).
27. Pocheptsov GG. Informatsionnye voiny [Information wars]. Moscow: Refl-book: Vakler Publ.; 2001 (In Russ.).
28. Rozina IN. Kompyuterno-oposredovannaya kommunikatsiya v praktike obrazovaniya i biznesa [Computermediated communication in the practice of education and business]. In: Rozina IN, editor. Theory of communication and applied communication: collection of research articles. Rostov-on-Don: IUBiP Publ.; 2004 (In Russ.).
29. Rousseau J.-J. Rassuzhdeniya o naukakh i iskusstvakh [Discourses on the sciences and arts]. Selected works: in 3 volumes. Vol. 1. Moscow; 1961(In Russ.).
30. Sinelnikova LN. Diskurs trollinga — kommunikatsiya bez tabu [Discourse of trolling — communication without taboo]. Actual Problems of Stylistics. 2016;2:139-148 (In Russ.).
31. Soldatova GU, Rasskazova EI, Nestik TA. Tsifrovoe pokolenie Rossii: kompetentnost i bezopasnost [The digital generation of Russia: competence and safety]. Moscow: Smysl Publ.; 2017 (In Russ.).
32. Soloviev VS. Prestupnost v sotsialnykh setyakh Interneta (kriminologicheskoe issledovanie po materialam sudebnoy praktiki) [Crime in social networks (criminological research based on judicial practice materials)]. Russian Journal of Criminology. 2016;1:60-72 (In Russ.).
33. Sukhodolov AP, Bychkova AM. The Media Coverage of suicidal issues in the terms of legal restrictions and suicidal issues being of social importance. Theoretical and Practical Issues of Journalism. 2016;4:588-606 (In Russ.).
34. Syrokvashina KV, Dozortseva EG, Badmaeva VD, Makushkin EV, Shkityr EYu. Klinicheskie i psikhologicheskie podkhody k issledovaniyu problemy suitsidov u podrostkov [Clinical and psychological approaches to the study of the problem of suicides in adolescents]. Russian Journal of Psychiatry. 2017;6:24-31 (In Russ.).
35. Tard G. Prestupnik i tolpa [The criminal and the crowd]. Moscow: Algoritm Publ.; 2016 (In Russ.).
36. Tyurneva TV. Opyt analiza lingvosemioticheskogo konteksta EDUCATION: kontsept ^ ponyatie ^ termin (na materiale angliyskogo yazyka) : avtoref. dis. ... kand. filol. nauk [The experience of analyzing the semiotic linguistic context EDUCATION: concept ^ concept ^ term (based on the material of the English language): Cand. Sci. Thesis (Philology)]. Irkutsk; 2012 (In Russ.).
37. Shevchenko EV. Cimulyakr kak takticheskiy priem okazaniya orientiruyushchego vozdeystviya [Simulacrum as a tactical way of orientational influence]. Issues of Cognitive Linguistics. 2015;3(44).
38. Shchetinina EV. Rabota kiberlaboratorii kak faktor profilaktiki ekstremistskikh i terroristicheskikh proyavleniy v seti «Internet» [Cyberlaboratory work as a factor in the prevention of extremist and terrorist manifestations on the Internet]. Bulletin of the South Ural State University. Series "Law". 2018;18(1):115-119 (In Russ.).
39. Chibbaro JS. School counselors and the cyberbully: interventions and implications. Professional School Counseling. 2007;11(1):65-67.
40. Codreanu A. A VUCA action framework for a VUCA environment. Leadership challenges and solutions. Journal of Defense Resources Management. 2016;7-2(13):31-38.
41. Eisenwort B, Etzersdorfer E, Herberth A, Niederkrotenthaler T, Sonneck G, Strauss M, Till B, Voracek M. Role of media reports in completed and prevented suicide: Werther vs. Papageno effects. The British Journal of Psychiatry. 2010; 197/10:234-243.
42. Erikson EH. Identity: Youth and crisis. New York : Norton; 1968.
43. Fahey Robert A, Matsubayashi T, Ueda M. Tracking the Werther Effect on social media: Emotional responses to prominent suicide deaths on twitter and subsequent increases in suicide. Social Science & Medicine. 2018;219:19-29.
44. Fromm E. The anatomy of human destructiveness. New York: Holt, Rinehart and Winston; 1973.
45. Gergen KJ. The Saturated Self: Dilemmas of Identity in Contemporary Life. New York; 1991.
46. Giroux H. Lexicon Iconographicum Mythologiae Classicae. Bd. III. Zürich ; München; 1986.
47. Kowalski RM, Limber SP, Agatston PW. Cyberbullying: Bullying in the digital age. Chichester; 2011.
48. Sutherland E, Cressey D, Luckenbill D. Principles of Criminology. 11th ed. Lanham — Boulder — New York — Oxford: Rowman & Littlefield Publishers, Inc.; 1992.
49. Toffler A. Future Shock New York: Bantam Books; 1971.
50. Willard NE. Cyberbullying and Cyberthreats: Responding to the Challenge of Online Social Aggression, Threats, and Distress. Champaign; 2007.
