CC BY
103
УДК 341.231.14; 342.7; 343.4; 342.9; 343.5; 34.05 Вестник СПбГУ Право. 2021. Т. 12. Вып. 3
Язык вражды как угроза информационной безопасности интернет-коммуникации*
Е. И. Галяшина, В. Д. Никишин
Московский государственный юридический университете имени О. Е. Кутафина (МГЮА), Российская Федерация, 123001, Москва, ул. Садовая-Кудринская, 9
Для цитирования: Галяшина, Елена И., Владимир Д. Никишин. 2021. «Язык вражды как угроза информационной безопасности интернет-коммуникации». Вестник Санкт-Петербургского университета. Право 3: 555-573. https://doi.org/10.21638/spbu14.2021.305
Статья посвящена рассмотрению феномена языка вражды (hate speech) в аспекте обеспечения юридико-лингвистического противодействия информационным угрозам в области интернет-коммуникации. Изучение концепта «язык вражды» производится авторами в свете подходов Европейского суда по правам человека (ЕСПЧ) в контексте обеспечения прав и свобод человека, а также охраны национальной безопасности, конституционного строя, общественного порядка, здоровья и нравственности населения. Авторы выделяют в языке вражды криминализированную часть (hate speech crimes), которую предлагают именовать словесным экстремизмом и рассматривать с позиций российского, международного и зарубежного законодательства. Анализ позиций ученых в отношении содержания понятия «язык вражды» и его криминализированной части — словесного экстремизма, правовых позиций Европейского суда по правам человека и Совета Европы в отношении того, какие именно речевые действия должны быть уголовно наказуемы, а также составов преступлений, охватываемых понятием «язык вражды», в уголовном праве зарубежных государств позволил сформулировать перечень признаков экстремистских речевых действий. Авторы полагают, что рассмотренные позиции ЕСПЧ и Совета Европы имеют прикладное значение для криминалистической диагностики экстремистско-террористического дискурса (формулирование криминалистических диагностических комплексов, выступающих в качестве образцов-эталонов в рамках как судебно-экспертного исследования, так и исследования спорного речевого продукта правоприменителем), а также позволяют сместить фокус внимания юристов (прежде всего, криминологов) на мягкие формы языка вражды, профилактика которых призвана обеспечить превенцию преступлений и правонарушений экстремистской направленности и преступлений террористического характера.
Ключевые слова: язык вражды, информационная угроза, словесный экстремизм, интернет-коммуникация, информационная безопасность, речевой акт.
1. Введение
Технический прогресс, сделавший интернет доступным массовому потребителю благодаря расширенной функциональности мобильных телефонов и разнообразных портативных гаджетов, превратил интернет-коммуникацию в обыден-
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-011-00190.
© Санкт-Петербургский государственный университет, 2021
ное средство повседневного и повсеместного онлайн-взаимодействия. Нейронные сети и речевые технологии, успехи машинного перевода сняли языковые барьеры, а скоростные каналы передачи изображения и звука позволили одновременно задействовать аудиовизуальный и вербальный способы обмена данными.
Использование коммуникаторов и мессенджеров для организации межличностного, группового и массового сетевого общения позволило бизнесу, науке, образованию, государственным структурам и даже органам отправления правосудия переместиться в онлайн-среду. Интернет в медиапространстве уже не просто конкурирует с традиционными печатными и электронными СМИ по объемам и скорости передачи информации, но во многом их превосходит. Программные боты (чат-боты), применяющие модель публичной обратной связи по принципу «многие — многим» посредством имитации дискуссии в чатах при помощи искусственного интеллекта, массово используются как для коммерческого продвижения товаров и услуг, так и в пропагандистских и политических целях для формирования общественного мнения не сверху, а снизу (Провотар, Клочко 2013). Значимым фактором информационного воздействия и организации политического пространства на ме-диаресурсах, в социальных сетях и блогосфере стало использование людей-ботов, или так называемых фабрик ботов, в числе которых исследователи называют российские «фабрики троллей», китайские «водную армию Интернета» и «50-центовую армию», израильские «секретные подразделения» (covert units), информационные войска Украины, британскую Объединенную разведывательную группу исследования угроз, американские организации «Центр стратегии контртеррористических коммуникаций» и «Операция "усиленный голос"» и др. (Мартьянов 2016, 76-77). «Если в виртуальном пространстве "значимая" информация делегитимировалась огромным количеством "незначимой" (великие нарративы vs. локальные наррати-вы и т. п.), то неовиртуальное пространство убивает информацию посредством ее растворения в организованной, аргументированной дезинформации, в массовой мистификации сущего» (Мартьянов 2016, 83).
Глобальная телекоммуникационная сеть обладает феноменальным потенциалом не только для общения людей, независимо от языка, часового пояса и географического местонахождения, но и для эффективного воздействия как на каждого в отдельности пользователя, так и на широкие слои интернет-аудитории. Демократичность и саморегулируемость интернет-среды, неконтролируемость свободно циркулирующих информационных потоков — все это провоцирует конфликты и противоречия, проявления нетерпимости и агрессии на самых разных уровнях социального взаимодействия (Трофимова 2011, 201).
В последнее время особой популярностью пользуются социальные сети Facebook, «ВКонтакте», «Одноклассники», служба микроблогов Twitter, приложение для обмена фотографиями и видеозаписями Instagram, видеохостинг YouTube. Соглашаясь с политикой указанных ресурсов при регистрации своей странички, пользователь обязуется не распространять вредоносный, деструктивный и криминогенный контент, может пожаловаться в службу поддержки или администратору сети на нежелательный или оскорбительный комментарий для его удаления или закрытия доступа к разжигающему рознь и вражду аккаунту. Тем не менее, как показывает статистика, градус агрессии в виртуальном мире постоянно растет, а по-
сты и комментарии в социальных сетях и мессенджерах фигурируют в материалах уголовных дел как доказательства экстремистской деятельности.
Массированная бомбардировка информационными потоками сознания и подсознания постоянных обитателей интернет-среды, в основном молодого поколения, как показывают социологические исследования, не помогает, а затрудняет процессы познания человека, снижает критичность восприятия информации, порождает интеллектуальное иждивенчество, примитивизм и леность в поиске и отборе достоверной информации и проверенных знаний.
[Интернет сегодня вынуждает] познавать окружающую действительность и формировать собственные социальные позиции, социальное поведение, социально-психологическую адаптацию к реальности на основе самых разнообразных, при этом многочисленных сомнительных и откровенно негативных контентов. У индивидуума возникает психологическое притяжение и психологическая зависимость [от Интернета], моделирующая его общественный статус и оценки окружающей действительности, и определение себя в этой самой действительности. Появляются так называемые клиповое мышление и кликовое мышление, характеризующиеся снижением способности к аналитическому восприятию мира, упрощенчеством и примитивизмом. И это все на фоне все заметней культивируемой интернет-средой агрессивной потребности самовыражения (Краснова, Марков 2018, 105).
Деперсонализация автора контента, ношение «виртуальной маски», конструирование репрезентации ботом сетевых виртуалов способствуют правовому нигилизму и удовлетворению низменных потребностей человека посредством унижения других для собственного самоутверждения, упрощают появление пропагандистского дискурса, который способен «промывать мозги», отуплять, оглуплять, провоцировать девиантность и деликвентность поведения, насилие и криминальные поступки в реальном, а не виртуальном мире.
Посредством интернет-общения адепты радикально-агрессивных взглядов и течений навязывают асоциальную модель поведения, индуцируют деструктивное мировоззрение у дегенеративных и аморальных представителей общества, аудитория нацеливается на дестабилизацию государства. В информационном обществе социальная напряженность все более проявляется в языке, посредством которого пользователи интернета обмениваются информацией, делятся своими эмоциями и переживаниями, выражают свое отношение к положению вещей, событиям и друг к другу. Употребление языка вражды (шире — дискурса вражды) в социальных сетях становится трендом, отражающим особенности повседневного бытия (Фадеичева 2015, 23).
Интернет-опосредованная коммуникация, содержащая признаки криминогенной речевой агрессии (Никишин 2019a), проявляется в экстремистских речевых действиях и иных речевых актах ксенофобской направленности, в целом охватываемых понятием «язык вражды» и представляющих реальную информационную угрозу мировоззренческой безопасности коммуникации (Галяшина, Никишин 2018, 266).
2. Основное исследование
2.1.Угрозы национальной безопасности и язык вражды в интернете
Как отмечает А. А. Марков, «по мере развития информационное общество будет сталкиваться и уже сталкивается с рисками, угрозами и опасностями, которые также требуют поиска новых способов обеспечения защиты интересов постиндустриального общества посредством специально ориентированной на обеспечение интересов такого общества информационной безопасности» (Марков 2011, 43).
В Стратегии национальной безопасности Российской Федерации, утв. Указом Президента РФ от 02.07.2021 № 4001, угроза национальной безопасности определена как совокупность условий и факторов, создающих прямую или косвенную возможность причинения ущерба национальным интересам, под которыми понимаются объективно значимые потребности личности, общества и государства в безопасности и устойчивом развитии. К числу основных угроз государственной и общественной безопасности отнесена деятельность, связанная с использованием информационных и коммуникационных технологий для распространения и пропаганды идеологии фашизма, экстремизма, терроризма и сепаратизма, нанесения ущерба гражданскому миру, политической и социальной стабильности в обществе. В современном информационном обществе особо общественно опасными выступают угрозы утраты или трансформации традиционных для России мировоззренческих, духовных, нравственных, культурных ценностей, осуществляемые посредством языка вражды и массово распространяемые с помощью современных телекоммуникационных технологий.
В коммуникативистике язык вражды рассматривается через призму оппозиции «свой — чужой». О. С. Коробкова определяет язык вражды как способ языкового конструирования моделей и практик социального неравенства для выражения этнических различий. Лингвистические средства помогают маркировать «чужого». О. С. Коробкова считает дискурс «другого» исключительно присущим самому себе, в то время как дискурс «своих» использует и другие дискурсы (Коробкова 2009, 202). Е. П. Соколова под языком вражды понимает словесную дискриминацию и речевую агрессию по отношению к этническим и социальным группам. Язык вражды формирует образ «чужого» (Соколова 2010, 276).
Мы солидаризируемся с мнением А. В. Гладилина, полагающего, что язык вражды основан на таких явлениях, как социальные стереотипы, предубеждения и дискриминация (Гладилин 2013, 144), однако считаем, что он представляет собой коммуникативный феномен, который имеет куда более сложную семантическую и прагматическую природу и не исчерпывается названными явлениями.
В этих целях целесообразно рассмотреть понятие и сущность концепта «язык вражды» в рамках правовых и лингвистических категорий.
1 Здесь и далее все ссылки на российские нормативно-правовые акты и судебную практику приводятся по СПС «КонсультантПлюс». Дата обращения 2 июля, 2021. http://www.consultant.ru.
2.2. Концепт «язык вражды»: юридико-лингвистический аспект в свете подходов Европейского суда по правам человека
Язык вражды выступает одним из проявлений человеческой деструктивно-сти (злокачественно-деструктивной агрессии), которая, в понимании Э. Фромма, не обусловлена физиологически (инстинктами), а связана с экзистенциальными потребностями человека, которые в свою очередь определяются специфическими (социальными) условиями человеческого существования (Фромм 1973, 17). По мнению ряда исследователей, в частности А. А. Денисовой, язык вражды интегрирует языковые средства выражения «резко отрицательного отношения "оппонентов" — носителей иной системы религиозных, национальных, культурных или же более специфических, субкультурных ценностей. Это явление может выступать как форма проявления расизма, ксенофобии, межнациональной вражды и нетерпимости, гомофобии, а также сексизма» (Денисова 2002).
Американский сайт юридических дефиниций дает следующее определение языка вражды (hate speech): «...коммуникация, которая не несет никакого иного смысла, кроме выражения ненависти к некоторой группе, особенно в условиях, когда коммуникация может спровоцировать насилие. Это подстрекательство к ненависти в первую очередь в отношении группы лиц, определяемой по признаку расы, этнической принадлежности, национального происхождения, пола, вероисповедания, сексуальной ориентации и т. п. Языком вражды может быть любая форма выражения, расценивающаяся как оскорбительная для расовых, этнических и религиозных групп и других выделяемых меньшинств или женщин»2.
В 1997 г. Комитет министров Совета Европы принял Рекомендацию № R (97) 20 в отношении языка вражды, которая устанавливает следующую дефиницию языка вражды:
...все формы самовыражения, которые включают распространение, стимулирование или оправдание расовой ненависти, ксенофобии, антисемитизма или других видов ненависти на основе нетерпимости, включая нетерпимость в виде агрессивного национализма или этноцентризма, дискриминации или враждебности в отношении меньшинств, мигрантов и лиц с эмигрантскими корнями3.
Враждебность включает в себя два семантических компонента: неприятие и криминогенную речевую агрессию. Данное определение несовершенно, так как охватывает «все формы самовыражения», в то время как язык вражды, исходя из семантики понятия, должен охватывать только вербальную форму (включая креолизованые тексты) (Никишин 2019b, 38-40).
Комиссия Совета Европы по борьбе с расизмом приняла Рекомендацию от 05.12.2015 № 15 в отношении общей политики по борьбе с языком ненависти, в которой определение языка вражды было расширено:
2 "Hate speech law & legal definition". The USLegal Dictionary. Дата обращения 12 ноября, 2019. https://definitions.uslegal.eom/h/hate-speech.
3 Recommendation No. R (97) 20 on "hate speech" adopted by the Committee of Ministers of the Council of Europe on 30 October 1997. Дата обращения 25 декабря, 2019. https://search.coe.int/cm/ Pages/result_details.aspx?0bjectID=0900001680505d5b.
...оправдание, поощрение или возбуждение диффамации, ненависти или поношение лица или группы лиц, любое притеснение, оскорбление, формирование негативных стереотипов, стигматизация или угрозы в отношении данного лица или группы лиц, а также оправдание всех этих форм самовыражения, определяющих лицо или группу лиц по признаку расы, цвета кожи, языка, религии или убеждений, национальности или этнического происхождения, а равно места происхождения, возраста, инвалидности, пола, гендерной идентичности, сексуальной ориентации и других характеристик или статуса4.
Европейский суд по правам человека (далее — ЕСПЧ) расценивает вышеуказанную формулировку как автономный концепт и не считает себя связанным классификациями национальных судов / национальных законодательств. Это ведет к тому, что иногда национальные классификации опровергаются ЕСПЧ или, наоборот, ЕСПЧ классифицирует определенные высказывания как язык вражды, даже если в соответствии с национальным законодательством они таковыми не являются (Tulkens, Casadevall, Myjer 2012, 279-294).
Из практики ЕСПЧ очевидно, что конкретные выражения, которые содержат язык вражды и могут быть оскорбительными по отношению к определенным лицам или группам лиц, не защищены действием ст. 10 Европейской конвенции по правам человека 1950 г.5 (далее — Конвенция) и могут быть запрещены национальными законодательствами. Если некоторые высказывания не содержат язык вражды, то это выступает важным обстоятельством при определении того, являются ли «посягательства» на свободу самовыражения легитимными или нелегитимным в демократическом обществе. Европейский суд с осторожностью провел в своем прецедентном праве границу между реальным, серьезным провоцированием экстремизма и правом людей (включая журналистов и политиков) свободно выражать свои мнения (в том числе в оскорбительной манере) (Никишин 2019b, 35-37).
Таким образом, концепт «язык вражды» позволяет провести разделительную черту между теми высказываниями, которые исключены из действия ст. 10 Конвенции и не защищаются правом на свободу самовыражения, и теми, которые не содержат языка вражды и, следовательно, допустимы в демократическом обществе (Weber 2009, 4-5). Вместе с тем данная разделительная черта достаточно условна, так как ЕСПЧ предпочитает анализировать каждое дело, находящееся в его юрисдикции, согласно своим собственным критериям и подстраховывать себя тем, что обоснование его позиций не ограничено дефинициями, которые могут лимитировать его свободу усмотрения при рассмотрении жалоб в будущем (Tulkens, Casadevall, Myjer 2012, 279-295).
В понятие «язык вражды» включается понятие «языковая инвектива» — языковые средства, используемые для достижения перлокутивного эффекта. «Новейший философский словарь» определяет языковую инвективу как «культурный феномен социальной дискредитации субъекта посредством адресованного ему текста, а так-
4 ECRI General policy recommendation No. 15 on combating hate speech. Дата обращения 25 декабря, 2019. https://rm.coe.int/ecri-general-policy-recommendation-no-15-on-combating-hate-speech/16808b5b01.
5 Европейская конвенция по правам человека (Конвенция о защите прав человека и основных свобод, г. Рим, 04.11.1950). Дата обращения 25 декабря, 2019. https://www.echr.coe.int/documents/ convention_rus.pdf.
же устойчивый языковой оборот, воспринимающийся в той или иной культурной традиции в качестве оскорбительного для своего адресата» (Грицанов 1998, 420). Очевидно, что язык вражды базируется на враждебном отношении к чужим и дружеском отношении к своим, что является необходимым условием конфликтоген-ной ситуации и формирования криминогенной речевой агрессии.
Проанализировав международно-правовое регулирование в области защиты прав человека, специалисты Совета Европы в своем методическом пособии по противодействию языку вражды в интернете через образование в области прав человека признают, что не всякое проявление языка вражды должно быть запрещено законодательством, и выделяют так называемую мягкую ненависть / нетерпимость (mild hate / intolerance). Национальное законодательство может запрещать высказывания, подрывающие безопасность, здоровье, мораль, репутацию и т. д. и должно запрещать высказывания, являющиеся жесткими формами самовыражения, которые посягают на другие права человека и охватываются понятием крайней ненависти (extreme hate) (Keen, Georgescu 2020, 105).
По нашему мнению, криминализированная часть языка вражды охватывается понятием «словесный экстремизм».
2.3. Словесный экстремизм vs. свобода слова: конституционные и международно-правовые основания
Словесный экстремизм представляет собой собирательное понятие для экстремистских речевых действий, представляющих, исходя из их общественной опасности, крайнюю форму языка вражды и образующих объективную сторону соответствующих правонарушений и преступлений.
В Международном пакте о гражданских и политических правах от 16.12.19666 закреплены право на свободное выражение своего мнения и возможности его ограничения «для уважения прав и репутации других лиц, для охраны государственной безопасности, общественного порядка, здоровья и нравственности населения» (ст. 19), а также в связи с запретом пропаганды войны, национальной, расовой или религиозной ненависти (ст. 20). Сходные положения, направленные на противодействие словесному экстремизму путем ограничения права на свободу слова и свободу выражения мнения, содержатся и в других международных договорах: Всеобщей декларации прав человека от 10.12.19487, Европейской конвенции по правам человека (Конвенции о защите прав человека и основных свобод) от 04.11.1950, Международной конвенции о ликвидации всех форм расовой дискриминации от 21.12.19658, Декларации Генеральной Ассамблеи ООН от
6 Международный пакт о гражданских и политических правах от 16.12.1966: принят резолюцией 2200 А (XXI) Генеральной Ассамблеи ООН. Дата обращения 19 декабря, 2019. https:// www.un.org/ru/documents/decl_conv/conventions/pactpol.shtml.
7 Всеобщая декларация прав человека от 10.12.1948. Дата обращения 19 декабря, 2019. https:// www.un.org/ru/documents/decl_conv/declarations/declhr. shtml.
8 Международная конвенция о ликвидации всех форм расовой дискриминации от 21.12.1965. Дата обращения 19 декабря, 2019. https://www.un.org/ru/documents/decl_conv/conventions/raceconv. shtml.
25.11.1981 о ликвидации всех форм нетерпимости и дискриминации на основе религии или убеждений9 и др.
В правовом поле проблема противодействия словесному экстремизму подразумевает конфликт, с одной стороны, свободы слова (права на свободное выражение своего мнения, freedom of expression), свободы совести отдельного лица, а также его права на производство и распространение информации, а с другой — прав иных лиц (в том числе права на недискриминацию и т. д.), а также охраны национальной (государственной) безопасности, конституционного строя, общественного порядка, здоровья и нравственности населения.
Как указывает Т. МакГонагл, научный сотрудник Института информационного права (факультет права Амстердамского университета), целью правового противодействия языку вражды является превенция умаления иных прав и превенция возникновения определенного вреда. В первую очередь, язык вражды может вмешиваться в другие права человека или действующие общественные ценности (operative public values)10: достоинство, равенство и недискриминацию, активное участие в общественной жизни, включая дискуссионные площадки (public discourse), свободу самовыражения, свободу ассоциаций, религию и т. д. Кроме того, должна быть принята во внимание превенция определенного вреда, причиняемого индивидам (жертвам): психологического вреда, вреда чувству собственного достоинства индивида, препятствования самореализации личности, страха и т. д. (McGonagle 2013, 6).
Как отмечалось в решениях ЕСПЧ, свобода самовыражения (freedom of expression) «составляет одну из необходимых основ [демократического общества], одно из базисных условий для его прогресса и развития каждого человека»11. «Терпимость и равное уважение достоинства всех людей составляют основу демократического плюралистического общества. На этом основании принципиальной становится необходимость в некоторых демократических обществах применить санкции против всех форм самовыражения, которые распространяют, провоцируют, стимулируют или оправдывают основанную на нетерпимости ненависть, или даже предотвратить такие формы самовыражения»12. Свобода самовыражения охватывает свободу слова (free speech), а также свободу самовыражения посредством невербальных средств (картины, видео, жесты и т. д.).
Конституционно-правовым основанием установления ответственности за преступления экстремистской направленности являются положения ч. 5 ст. 13, ст. 14, 29 Конституции РФ. Гарантируя каждому свободу мысли и слова, Консти-
9 Декларация о ликвидации всех форм нетерпимости и дискриминации на основе религии или убеждений от 25.11.1981. Дата обращения 19 декабря, 2019. https://www.un.org/ru/documents/ decl_conv/declarations/relintol.shtml.
10 Operative public values (действующие общественные ценности) — это «ценности, к которым общество относится как к части своей коллективной идентичности и в соответствии с которыми оно регулирует отношения между своими членами» и «которые составляют нравственную структуру общественной жизни и дают обществу согласие и стабильность» (Parekh 2006, 363).
11 European Court of Human Rights: Case Handyside v. United Kingdom, No. 5493/72, judgment of 07.12.1976. Дата обращения 25 ноября, 2019. http://hudoc.echr.coe.int/app/conversion/ pdf/?library=ECHR&id=001-57499&filename=001.
12 European Court of Human Rights: Case Erbakan v. Turkey, No. 59405/00, judgment of 06.07.2006. Дата обращения 25 ноября, 2019. https://hudoc.echr.coe.int/app/conversion/pdf/?library=ECHR&id=003-1728198-1812055&filename=003-1728198-1812055.pdf.
туция РФ запрещает пропаганду или агитацию, возбуждающие социальную, расовую, национальную или религиозную ненависть и вражду (ч. 1 и 2 ст. 29).
В Постановлении Пленума Верховного суда РФ от 20.09.2018 № 32, вносящем изменения в Постановление Пленума Верховного суда РФ от 28.06.2011 № 11 «О судебной практике по уголовным делам о преступлениях экстремистской направленности», внимание судов обращается на то, что:
...гарантированные Конституцией РФ и международно-правовыми актами свобода мысли и слова, а также право свободно искать, получать, передавать, производить и распространять информацию любым законным способом могут быть ограничены только в исключительных случаях, прямо закрепленных в федеральном законе, в той мере, в какой это необходимо в демократическом обществе в целях защиты основ конституционного строя, нравственности, здоровья, прав и законных интересов других лиц, обеспечения обороны страны и безопасности государства, общественного порядка, территориальной целостности.
К словесному экстремизму относятся следующие речевые действия, отраженные в ст. 1 Федерального закона от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»:
— публичное оправдание терроризма и иная террористическая деятельность;
— возбуждение социальной, расовой, национальной или религиозной розни;
— пропаганда исключительности, превосходства либо неполноценности человека по признаку его социальной, расовой, национальной, религиозной или языковой принадлежности или отношения к религии;
— пропаганда и публичное демонстрирование нацистской атрибутики или символики либо атрибутики или символики, сходных с нацистской атрибутикой или символикой до степени смешения, либо публичное демонстрирование атрибутики или символики экстремистских организаций;
— публичные призывы к осуществлению указанных деяний либо массовое распространение заведомо экстремистских материалов, а равно их изготовление или хранение в целях массового распространения;
— публичное заведомо ложное обвинение лица, замещающего государственную должность РФ или государственную должность субъекта РФ, в совершении им в период исполнения своих должностных обязанностей деяний, указанных в настоящей статье и являющихся преступлением.
В своих определениях Конституционный суд РФ указывал по поводу приведенного положения:
[Отнесение данным положением] всех действий и материалов, связанных с возбуждением социальной, расовой, национальной или религиозной розни и пропагандой исключительности, превосходства либо неполноценности человека по признаку его социальной, расовой, национальной, религиозной или языковой принадлежности или отношения к религии, основано на положениях Конституции РФ, которая, гарантируя свободу мысли и слова, также запрещает пропаганду, возбуждающую социальную, расовую, национальную или религиозную ненависть и вражду, пропаганду
социального, расового, национального, религиозного или языкового превосходства, что соответствует и международно-правовым стандартам; такое регулирование само по себе конституционные права и свободы не нарушает (Определение Конституционного суда РФ от 17.02.2015 № 347-О; см. также: Определения Конституционного суда РФ от 18.12.2007 № 940-0-0, от 19.06.2012 № 1271-О; от 18.10.2012 № 1995-О).
Под терроризмом в Федеральном законе от 06.03.2006 № 35-Ф3 «О противодействии терроризму» понимается «идеология насилия и практика воздействия на принятие решения органами государственной власти, органами местного самоуправления или международными организациями, связанные с устрашением населения и/или иными формами противоправных насильственных действий» (п. 1 ст. 3).
Согласно указанному закону, террористическая деятельность — это деятельность, включающая в себя такую речевую деятельность, как пропаганда идей терроризма, распространение материалов или информации, призывающих к осуществлению террористической деятельности либо обосновывающих или оправдывающих необходимость осуществления такой деятельности (п. 2 ст. 3).
Законодатель, разводя понятия «терроризм» и «террористическая деятельность», исключил из последнего идеологию насилия, оставив в нем лишь практическую реализацию данной идеологии. Как утверждает И. М. Мацкевич, «не всякая экстремистская деятельность обязательно имеет террористический характер, но всякую террористическую деятельность следует считать экстремистской» (Мац-кевич 2015, 177).
Кроме того, законодатель также определил, что террористическая деятельность и экстремистская деятельность соотносятся как частное и целое, включив публичное оправдание терроризма и иную террористическую деятельность в определение понятия экстремистской деятельности.
Процессы всеобщей цифровизации и глобализации обусловливают активное использование в речевых тактиках информационных онлайн-атак иноязычных (прежде всего, поликодовых) текстов и текстов с иноязычными фрагментами, что поднимает пласт проблем методического обеспечения судебной лингвистической экспертизы экстремистско-террористического дискурса, прежде всего потому, что переводной текст как производный речевой продукт не может быть объектом судебно-экспертного исследования (Борисова, Кургузенкова, Никишин 2018, 455-458).
2.4. Противодействие словесному экстремизму в национальном законодательстве зарубежных стран
В международном праве отсутствует универсальная концепция экстремистских речевых действий, их контекстуальных компонентов и требований к мерам ответственности. В разных странах вопрос противодействия языку вражды решается по-своему. В связи с тем, что Российская Федерация является членом Совета Европы, в рамках которого предполагается гармонизация подходов в национальных правовых системах государств-членов, рассмотрим правовое регулирование противодействия экстремистским речевым действиям в некоторых государствах — членах Совета Европы (Никишин 2019Ь, 51-57).
Статья 82А Уголовного кодекса (далее — УК) Мальты гласит:
Те, кто используют любые угрожающие, оскорбительные или обидные (здесь и далее курсив в цитатах наш. — Е. Г., В. Н.) слова, или ведут себя таким образом, или демонстрируют любые письменные или печатные материалы, которые содержат угрозы, оскорбления, или ведут себя иным образом с целью побудить применять насилие или вызвать ненависть по отношению к другому человеку или группе людей по признаку пола, гендерной идентичности, сексуальной ориентации, расы, цвета кожи, языка, этнического происхождения, религии или политических или иных убеждений... должны понести ответственность в виде лишения свободы на срок от 6 до 18 месяцев13.
Статьи 82В и 82С УК Мальты устанавливают ответственность за попустительство, отрицание или преуменьшение общественной опасности таких тяжких преступлений, как геноцид против группы, идентифицированной по указанным выше критериям, что применимо и для подстрекательства к насилию или ненависти в отношении такой группы.
Из определения преступления в ст. 82А УК Мальты следует, что существуют два обязательных условия для определения наличия преступления:
— формальный акт, который состоит в использовании угроз, оскорбительных / обидных слов, оскорбительного поведения, проявляющихся в любых письменных или печатных материалах;
— намерение разжечь насилие и ненависть против другого человека или группы людей на основании: пола; гендерной идентичности; сексуальной ориентации; расы; цвета; языка; этнического происхождения, религии, политических или иных убеждений; или, при отсутствии данного намерения, результат действий преступника, который, с учетом всех обстоятельств, вызвал насилие или ненависть.
Уголовный кодекс Румынии устанавливает ответственность:
...за подстрекательство к ненависти по признаку национальности, этнической принадлежности, религии, пола, сексуальной ориентации, политических взглядов, убеждений, имущественного положения, социального происхождения, возраста, инвалидности, незаразной болезни или хронической инфекции или ВИЧ/СПИД14.
Уголовный кодекс Федеративной Республики Германии включает § 130 «Подстрекательство против народов», который в ч. 1 устанавливает:
Тот, кто способом, могущим нарушить общественное спокойствие, 1) разжигает ненависть против части населения или призывает к насилию или актам произвола против нее или 2) посягает на человеческое достоинство другого таким образом, что
13 Malta Criminal Code, June 10, 1854. Дата обращения 10 сентября, 2019. https://justice.gov.mt/ en/pcac/Documents/Criminal%20code.pdf.
14 "International legal research group on online hate speech. In cooperation between: the council of Europe and the European Law Students' Association. Final report". ELSA. Accessed December 22, 2019. http://files.elsa.org/AA/Final_Report_OHS_Final.pdf.
этим подвергается поруганию, пренебрежительно представляется или очерняется часть населения, наказывается лишением свободы на срок от трех месяцев до пяти лет15.
Также в данном параграфе установлена ответственность за печать, распространение, опубликование, изготовление, получение, поставку, предложение, передачу по радио и т. д. материалов, которые:
.. разжигают ненависть против части населения или против национальной, расовой, религиозной группы или определяемой какими-либо признаками народности группы, призывают к совершению насилия или актов произвола против них или подвергают поруганию, злонамеренно пренебрежительно представляют или очерняют их (ч. 2 § 13ü).
Кроме того, УК Германии подвергает уголовному преследованию того, кто:
...публично или на собрании одобряет, оспаривает или преуменьшает серьезность геноцида, руководствуясь идеями национал-социализма. способом, могущим нарушить мирное состояние общества (ч. 3 § 130).
Параграф 135а УК Норвегии гласит:
Любое лицо, которое намеренно или по грубой неосторожности (небрежности) публично использовало дискриминирующее либо враждебное выражение, а также определенные символы, наказывается штрафом или лишением свободы на срок не более трех лет. Лицо, содействующее подобному деянию и подстрекающее к его совершению, также подвергается наказанию.
Под дискриминирующим или враждебным выражением в данном случае подразумеваются угрозы или оскорбления, или разжигание ненависти, или преследование, или презрение к кому-либо из-за его: цвета кожи или национальной принадлежности; религии или жизненной позиции; сексуальной ориентации; ограниченной дееспособности16.
Как и в российском уголовном праве, в норвежском уголовном праве необязательно, чтобы дискриминирующие и враждебные выражения были адресованы конкретному лицу. Они, как правило, адресованы мало защищенным социальным группам, перечисленным в § 135а УК Норвегии.
Верховный суд Норвегии определил подобные выражения как побуждающие к нарушению или связанные с нарушением неприкосновенности либо выражения, подразумевающие полное обесценивание человеческого достоинства. В § 135а УК Норвегии выделены определенные социальные группы, подпадающие под защиту. Что касается таких мало защищенных социальных групп, как, например, женщины, пенсионеры, то здесь необходимо обращаться к положениям об угрозе и диффамации.
15 Strafgesetzbuch (Deutschland). Дата обращения 22 октября 2019. https://dejure.org/gesetze/
StGB.
16 Criminal Code of the Kingdom of Norway (1902, amended 2005). Дата обращения 14 октября, 2019. https://www.legislationline.org/documents/id/8909.
Бельгийский законодатель не дает четкого определения языка вражды, включая данное понятие (а также пояснения относительно его содержания) в целый ряд законодательных актов, где с этим понятием также связана уголовная ответственность. Общее определение понятия выводится из формулировок, содержащихся в Законе о борьбе с расизмом17 и Законе о борьбе с дискриминацией18. Мы можем говорить о речи ненависти, когда заявление или публикация побуждает (влечет) дискриминацию, сегрегацию, ненависть или насилие в отношении лица или группы лиц, на основе таких характеристик, как раса, этническая принадлежность, сексуальная ориентация, инвалидность, состояние здоровья и/или пол.
Тем не менее следует учитывать, что между указанными законами существует отличие: оба акта запрещают подстрекательство, но Закон о борьбе с расизмом идет еще дальше, запрещая распространение идей расового превосходства и ненависти. Для установления факта наличия языка вражды необходимо исследовать несколько элементов: содержание, намерение и контекст заявления.
Бельгийский Закон о борьбе с нигилизмом добавляет к признакам языка вражды отрицание, умаление последствий холокоста и криминализирует оправдание холокоста.
Статья 444 УК Бельгии также закрепляет отдельные признаки языка вражды. Наиболее важный признак для признания деяния уголовно наказуемым — необходимость его публичного характера. Хотя ст. 444 УК Бельгии указывает на «письменные источники» в их традиционном понимании, в юридической практике закрепилось, что записи в блогах и на веб-сайтах также являются уголовно релевантными.
Определения языка вражды в бельгийском законодательстве достаточно расплывчаты, и для установления наличия в речевом продукте признаков языка вражды и ненависти суды в большей степени полагаются на фактические обстоятельства дела: на мотивацию субъекта и контекст высказывания (речевого акта).
Определенный интерес представляет подход финского законодателя: в ст. ИЬ 11:10 УК Финляндии сказано:
Лицо, которое делает доступными для общественности или иным образом распространяет в обществе или сохраняет доступной информацию, выражение мнения или иное высказывание, в котором некой группе угрожают, порочат или оскорбляют ее на основании ее расовой принадлежности, цвета кожи, места рождения, национального или этнического происхождения, религии или убеждений, сексуальной ориентации или инвалидности или по схожим основаниям, должно быть приговорено к наказанию за разжигание межнациональной розни в виде штрафа или тюремного заключения на срок не более двух лет19.
17 Law aiming at punishing certain acts inspired by racism and xenophobia (1981, amended 2007). Дата обращения 14 октября, 2019. https://www.legislationline.org/topics/country/41/topic/84.
18 Loi du 10 mai 2007 tendant à lutter contre certaines formes de discrimination (BS 30 V 07) (modifiée par la loi du 30 décembre 2009 portant des dispositions diverse, art. 107-119, MB. 31.12.2009). Дата обращения 14 октября, 2019. https://www.unia.be/fr/legislation-et-recommandations/legislation/ loi-du-10-mai-2007-tendant-a-lutter-contre-certaines-formes-de-discrimination.
19 Criminal Code ofFinland. Дата обращения 1 ноября, 2019. http://finlex.fi/fi/laki/kaannokset/1889/ en18890039.pdf.
Концепция Совета Европы осуждает криминализацию богохульства в национальном законодательстве. Тем не менее позиции как государств — членов Совета Европы, так и иных государств в отношении богохульства и оскорбления чувств верующих варьируется от одного государства к другому (Никишин 2019Ь, 41-51).
Статья 163 УК Мальты предусматривает, что всякий, кто «публично очерняет католическую апостольскую религию» словами, жестами или в письменной форме, будет нести ответственность в виде лишения свободы в диапазоне от одного до шести месяцев. В то же время национальное законодательство не проводит границу между богохульством и языком вражды. Статья 142 УК Норвегии гласит:
Любое лицо, которое словесно либо действием публично оскорбило или каким-либо образом угрожало другому лицу, выражая неуважение, презрение к той законно существующей религии, которую исповедует другое лицо, наказывается штрафом либо лишением свободы на срок не более шести месяцев.
Согласно бельгийскому законодательству, богохульство не является уголовно наказуемым деянием. Тем не менее УК Бельгии предусматривает в ст. 144, что наказуемыми являются «слова, жесты или угрозы, оскорбляющие объект культа или место для его осуществления или совершенные во время публичной церемонии этого культа»20. Бельгийский закон преследует лишь публичные преступления против объекта культа в Бельгии. Существует своего рода «право на богохульство», имеющее вместе с тем пределы, установленные УК. Так, если деяние подпадает под какой-либо состав преступления, например клевету или оскорбление, лицо несет уголовную ответственность по ст. 443 УК Бельгии. Кроме того, подстрекательство к ненависти на основе религии является преступлением согласно Закону о борьбе с дискриминацией. Статья 38 указанного Закона, а также ст. 453Ы8 УК Бельгии криминализируют уничтожение надгробий и могил, предусматривая, что наказание должно быть удвоено, если один из мотивов преступления — ненависть, презрение или враждебность, связанные с религиозными убеждениями. Статья 141 УК Республики Кипр устанавливает:
Лицо, которое говорит или издает звук, который может быть понятен другому лицу, или делает рукой жест перед ним, или ставит любой предмет перед ним с умыслом оскорбить религиозные чувства такого человека, виновно в совершении правонарушения и несет ответственность в виде лишения свободы сроком до одного года21.
В соответствии со ст. 142 (2) УК Республики Кипр, генеральный прокурор имеет исключительное право осуществлять преследование или поддерживать обвинение в отношении лица, которое умышленно публикует книгу, информационный бюллетень, статью или письмо в газете или журнале, публично оскорбляющие чьи-либо религиозные убеждения.
20 Criminal Code of the Kingdom of Belgium (1867, as of 2010). Дата обращения 14 октября, 2019. https://www.legislationline.org/documents/section/criminal-codes/country/41/Belgium/show.
21 Cyprus Criminal code. Accessed November 2, 2019. https://sbaadministration.org/home/legisla-tion/01_02_09_01_C0L0NIAL_CAPS_1959/01_02_01_04_Caps-125-175A/19600101_CAP154_u.pdf.
Параграф 188 УК Австрии запрещает «оскорбление священных лиц или предметов», а также «другие действия, которые могут быть признаны оскорблениями»22.
Анализ криминализированных экстремистских речевых действий в национальном законодательстве государств — членов Совета Европы, с одной стороны, демонстрирует отсутствие единого подхода к пониманию того, какие речевые действия должны быть уголовно наказуемы, а с другой — позволяет выделить признаки экстремистских речевых действий, закрепленные в законодательстве данных стран и укладывающиеся в концепцию противодействия языку вражды, предлагаемую Советом Европы и ЕСПЧ.
3. Выводы
Проведенный анализ позиций ученых в отношении содержания понятия «язык вражды» и его криминализированной части — словесного экстремизма, изучение правовых позиций Европейского суда по правам человека и Совета Европы в отношении того, какие именно речевые действия должны быть уголовно наказуемы, а также обзор составов преступлений, охватываемых понятием «язык вражды», в уголовном праве зарубежных государств показали, что в качестве экстремистских речевых действий выделяются следующие:
— все формы выражения, которые распространяют, возбуждают, поощряют или оправдывают ненависть, основанную на нетерпимости;
— выражение ненависти, влекущее провокацию насилия;
— подстрекательство к ненависти;
— оправдание, поощрение или возбуждение диффамации, ненависти или поношение;
— притеснение, оскорбление, формирование негативных стереотипов, стигматизация или угрозы;
— высказывание, которое побуждает (влечет за собой) дискриминацию, сегрегацию, ненависть или насилие;
— возбуждение национальной или религиозной вражды;
— речевые действия, которые угрожают, порочат или оскорбляют;
— дискриминирующее либо враждебное выражение, т. е. угрозы или оскорбления, или разжигание ненависти, или преследование, или презрение;
— стереотипы, предубеждения и дискриминация;
— речевой акт, который посягает на человеческое достоинство;
— нарушение неприкосновенности, обесценивание человеческого достоинства;
— речевой акт, который подвергает поруганию, злонамеренно пренебрежительно представляет или очерняет представителей социальной группы;
— использование угроз, оскорбительных/обидных слов, оскорбительного поведения; угрожающие, оскорбительные или обидные слова;
— оскорбление или угрозы с выражением неуважения, презрения к исповедуемой оппонентом религии;
22 Penal Code. Austria (English). Дата обращения 14 ноября, 2019. https://www.sbg.ac.at/ssk/docs/ stgb/stgb188_191.htm.
— речевые действия, которые публично оскорбляют чьи-либо религиозные убеждения;
— речевые действия, оскорбляющие объект культа или место для его осуществления либо совершенные во время публичной церемонии этого культа;
— речевые действия, совершенные с умыслом оскорбить религиозные чувства человека;
— попустительство, отрицание или преуменьшение общественной опасности геноцида;
— подстрекательство к насилию или ненависти;
— призывы к совершению насилия или актов произвола в отношении социальной группы;
— угрозы лицу, сопряженные с выражением неуважения, презрения к его религии; и др. (Никишин 2019Ь, 65-67).
Этот обобщающий перечень формулировок, используемых ЕСПЧ, Советом Европы и законодателями в зарубежных европейских странах, демонстрирует общность методологических подходов к определению коммуникативной и криминалистической сущности тех речевых действий, которые составляют криминализированную часть языка вражды.
На наш взгляд, концепт языка вражды, используемый в актах Совета Европы и судебной практике ЕСПЧ, несколько аморфен и не имеет значимого потенциала для российской правоприменительной практики. Речевые действия, входящие в язык вражды, могут как быть, так и не быть противоправными. Четкую границу между деяниями, подлежащими криминализации, и деяниями, не подлежащими ей, не провели ни Совет Европы, ни судебная практика ЕСПЧ. Тем не менее рассмотренные позиции ЕСПЧ и Совета Европы имеют прикладное значение для криминалистической диагностики, так как помогают сформулировать признаки экстремистских речевых действий и их диагностические комплексы (Никишин 2019Ь, 65-85). Кроме того, концепт языка вражды позволяет сместить фокус внимания правоведов, прежде всего криминологов, с крайней криминализированной части языка вражды — вербального экстремизма, на мягкие формы языка вражды — на пропагандистский и дискриминационно-ксенофобский дискурс. Профилактика последнего должна обеспечить превенцию преступлений и правонарушений экстремистской и террористической направленности, что, безусловно, входит в задачи информационно-мировоззренческой безопасности интернет-коммуникации.
Библиография
Борисова, Анна С., Жанна В. Кургузенкова, Владимир Д. Никишин. 2018. «Проблема перевода религиозно-экстремистских текстов в процессе судебной лингвистической экспертизы». Вестник Российского университета дружбы народов. Сер. Лингвистика 22 (2): 448-474. Галяшина, Елена И., Владимир Д. Никишин. 2018. «К вопросу о концепции юридико-лингвистиче-ского обеспечения информационной (мировоззренческой) безопасности в цифровой среде». Становление личности в современном обществе: сб. науч. трудов Международной науч.-практ. конф., 266-269. Томск: Национальный исследовательский Томский политехнический университет.
Гладилин, Алексей В. 2013. «"Язык вражды" в традиционных и новых медиа». Вестник Челябинского государственного университета 21 (312): 144-153.
Грицанов, Александр А., ред. 1998. Новейший философский словарь. Минск: Изд. В. М. Скакун.
Денисова, Анастасия А. 2002. «Язык вражды в российских СМИ: гендерное измерение». Open women line 4. Дата обращения 14 ноября, 2019. http://www.owl.ru/win/womplus/2002/denisova2.htm.
Коробкова, Ольга С. 2009. «Маркеры языка вражды в номинациях этнической принадлежности: социолингвистический аспект». Известия Российского государственного педагогического университета им. А. И. Герцена. Сер. Филология 111: 200-205.
Краснова, Галина В., Марков, Александр А. 2018. «Интернет как актуальная угроза информационной безопасности личности». Известия Санкт-Петербургского государственного экономического университета 2 (110): 102-108.
Марков, Александр А. 2011. «Некоторые аспекты информационной безопасности в контексте национальной безопасности». Вестник Санкт-Петербургского университета. Сер. 12 1: 43-48.
Мартьянов, Денис С. 2016. «Политический бот как профессия». Политическая экспертиза: ПОЛИ-ТЭКС 12 (1): 74-89.
Мацкевич, Игорь М. 2015. Экстремизм и терроризм. М.: Проспект.
Никишин, Владимир Д. 2019a. «Криминогенная речевая агрессия в аспекте судебной экспертизы материалов экстремистско-террористической направленности». Вестник Нижегородского университета им. Н. И. Лобачевского 3: 108-113.
Никишин, Владимир Д. 2019b. Словесный религиозный экстремизм. Правовая квалификация. Экспертиза. Судебная практика. М.: Проспект.
Провотар, Александр И., Кристина А. Клочко. 2013. «Особенности и проблемы виртуального общения с помощью чат-ботов». Научные труды Винницкого национального технического университета 3: 1-6.
Соколова, Елена П. 2010. «Агрессивные тенденции в российских СМИ как проявление особенностей политической культуры». Вестник Санкт-Петербургского университета. Сер. 9 4: 274-280.
Трофимова, Елена А. 2011. «От социального противоречия к социальному конфликту: онтологические и гносеологические аспекты». Исторические, философские, политические и юридические науки, культурология и искусствоведение. Вопросы теории и практики 5 (11) (1): 201-205.
Фадеичева, Марианна А. 2015. «Экзистенциальные основания языка вражды». Дискурс-Пи 1 (18): 20-24.
Фромм, Эрих. 1973. Анатомия человеческой деструктивности. М.: АСТ.
Keen, Ellie, Mara Georgescu. 2020. Bookmarks. A Manual for combating hate speech online through human rights education. Hungary: Council of Europe. Дата обращения 14 ноября, 2019. https://rm.coe.int/ bookmarksen2020-web2/16809e5789.
McGonagle, Tarlach. 2013. The Council of Europe against online hate speech: Conundrums and challenges. Expert paper 5: 1-40. Belgrade: Council of Europe Conference of ministers responsible for media and information society. Дата обращения 7 июля, 2021. https://www.epra.org/attachments/the-council-of-europe-against-online-hate-speech-conundrums-and-challenges.
Parekh, Bhikhu. 2006. Rethinking multiculturalism: Cultural diversity and political theory. 2nd ed. New York: Palgrave Macmillan.
Tulkens, Françoise, Josep Casadevall, Egbert Myjer, eds. 2012. When to say is to do: Freedom of expression and hate speech in the case-law of the European Court of Human Rights. Oisterwijk: Wolf Legal Publ.
Weber, Anne. 2009. Manual on hate speech. Strasbourg: Council of Europe Publ.
Статья поступила в редакцию 3 февраля 2020 г.;
рекомендована в печать 9 июня 2021 г.
Контактная информация:
Галяшина Елена Игоревна — д-р юрид. наук, д-р филол. наук, проф.; galyashina@gmail.com Никишин Владимир Дмитриевич — канд. юрид. наук; vdnikishin@gmail.com
The concept of hate speech as a threat to the information security of Internet communication*
E. I. Galyashina, V. D. Nikishin Kutafin Moscow State Law University,
9, Sadovaya-Kudrinskaya ul., Moscow, 123001, Russian Federation
For citation: Galyashina, Elena I., Vladimir D. Nikishin. 2021. "The concept of hate speech as a threat to the information security of Internet communication". Vestnik of Saint Petersburg University. Law 3: 555-573. https://doi.org/10.21638/spbu14.2021.305 (In Russian)
The article is devoted to a comprehensive examination of the hate speech phenomenon in the aspect of legal and linguistic support for countering the information threats of Internet communication. The legal and linguistic analysis of the concept of "hate speech" is carried out by the authors according to the approaches of the European Court of Human Rights in the context of human rights and freedoms, as well as the protection of national security, constitutional order, public order, health and morality of the population. Verbal extremism as a criminalized part of hate speech is considered in the article from the standpoint of Russian, international and foreign legislation. The authors also analyzed the correlation of the following legal phenomena in international law: verbal religious extremism, insulting the feelings of believers, blasphemy and defamation of religions. The analysis of the scientists' positions regarding the concept of "hate speech" and its criminalized part — verbal extremism: the analysis of the legal positions of the European Court of Human Rights, the Council of Europe, the United Nations, the Parliamentary Assembly of the Council of Europe regarding what kind of speech acts should be criminally punishable; as well as the analysis of the elements of crimes covered by the concept of "hate speech" in the criminal law of foreign states allowed the authors to formulate a list of features corresponding to extremist speech acts.
Keywords: hate speech, information threat, verbal extremism, Internet communication, information security, speech act.
References
Borisova, Anna S., Zhanna V. Kurguzenkova, Vladimir D. Nikishin. 2018. "Translation of religious and extremist texts: Forensic-linguistic expert examination". Vestnik Rossiiskogo universiteta druzhby naro-dov. Ser. Lingvistika 22 (2): 448-474. (In Russian) Denisova, Anastasiia A. 2002. "Hate speech in the Russian media: A gender dimension". Open women line 4. Accessed November 14, 2019. http://www.owl.ru/win/womplus/2002/denisova2.htm. (In Russian) Fadeicheva, Marianna A. 2015. "Existential Foundations of Hate speech". Diskurs-Pi 1 (18): 20-24. (In Russian)
Fromm, Erich. 1973. Anatomy of Human Destructiveness. Moscow, AST Publ. (In Russian) Galiashina, Elena I., Vladimir D. Nikishin. 2018. "On the issue of the concept of legal and linguistic support for information (worldview) security in a digital environment. The formation of personality in modern society". Stanovlenie lichnosti v sovremennom obshchestve: Sb. nauch. trudov Mezhdunar. nauch.-prakt. konf., 266-269 Tomsk, Natsional'nyi issledovatel'skii Tomskii politekhnicheskii universitet Publ. (In Russian)
Gladilin, Aleksei V. 2013. "'Hate speech' in traditional and new media". Vestnik Cheliabinskogo gosudarstven-
nogo universiteta 21 (312): 144-153. (In Russian) Gritsanov, Aleksandr A., ed. 1998. The latest philosophical dictionary. Minsk, V. M. Skakun Publ. (In Russian) Keen, Ellie, Mara Georgescu. 2020. Bookmarks. A Manual for combating hate speech online through hu-
* The reported study was funded by Russian Foundation for Basic Research, project No. 20-011-00190.
man rights education. Hungary, Council of Europe. Accessed November 14, 2019. https://rm.coe.int/ bookmarksen2020-web2/16809e5789. Korobkova, Ol'ga S. 2009. "Markers of hate speech in ethnic nominations: Sociolinguistic aspect". Izvestiia Rossiiskogo gosudarstvennogo pedagogicheskogo universiteta im. A. I. Gertsena. Ser. Filologiia 111: 200205. (In Russian)
Krasnova, Galina V., Markov, Aleksandr A. 2018. "The Internet as an actual threat to the information security of an individual". Izvestiia Sankt-Peterburgskogo gosudarstvennogo ekonomicheskogo universiteta 2 (110): 102-108. (In Russian) Markov, Aleksandr A. 2011. "Some aspects of information security in the context of national security". Vest-
nik of Saint Petersburg University. Ser. 12 1: 43-48. (In Russian) Mart'ianov, Denis S. 2016. "Political bot as a profession". Politicheskaia ekspertiza: POLITEKS 12 (1): 74-89. (In Russian)
Matskevich, Igor' M. 2015. Extremism and terrorism. Moscow, Prospekt Publ. (In Russian) McGonagle, Tarlach. 2013. The Council of Europe against online hate speech: Conundrums and challenges. Expert paper 5: 1-40. Belgrade: Council of Europe Conference of ministers responsible for media and information SOCIETY. Accessed July 7, 2021. https://www.epra.org/attachments/the-council-of-europe-against-online-hate-speech-conundrums-and-challenges. Nikishin, Vladimir D. 2019a. "Criminogenic speech aggression in the aspect of forensic examination of extremist-terrorist materials". Vestnik Nizhegorodskogo universiteta im. N. I. Lobachevskogo 3: 108-113. (In Russian)
Nikishin, Vladimir D. 2019b. Verbal religious extremism. Legal qualification. Expertise. Judicial practice.
Moscow, Prospekt Publ. (In Russian) Parekh, Bhikhu. 2006. Rethinking multiculturalism: Cultural diversity and political theory. 2nd ed. New York, Palgrave Macmillan.
Provotar, Aleksandr I., Kristina A. Klochko. 2013. "Features and problems of virtual communication using chat bots". Nauchnye trudy Vinnitskogo natsional'nogo tekhnicheskogo universiteta 3: 1-6. (In Russian) Sokolova, Elena P. 2010. "Aggressive trends in the Russian media as a manifestation of the characteristics of
political culture". Vestnik of Saint Petersburg University. Ser. 9 4: 274-280. (In Russian) Trofimova, Elena A. 2011. "From social contradiction to social conflict: Ontological and epistemological aspects". Istoricheskie, filosofskie, politicheskie i iuridicheskie nauki, kul'turologiia i iskusstvovedenie. Vo-prosy teorii ipraktiki 5 (11) (1): 201-205. (In Russian) Tulkens, Françoise, Josep Casadevall, Egbert Myjer, eds. 2012. When to say is to do: Freedom of expression
and hate speech in the case-law of the European Court of Human Rights. Oisterwijk, Wolf Legal Publ. Weber, Anne. 2009. Manual on hate speech. Strasbourg, Council of Europe Publ.
Received: February 3, 2020 Accepted: June 9, 2021
Authors' information:
Elena I. Galyashina — Dr. Sci. in Law, Dr. Sci. in Philology, Professor; galyashina@gmail.com Vladimir D. Nikishin — PhD in Law; vdnikishin@gmail.com
