CC BY
168
Комалова Л.Р.
ЯЗЫК ВРАЖДЫ В ПУБЛИЧНОМ ДИСКУРСЕ ИНТЕРНЕТА1
УДК: 82'42 DOI: 10.31249/Н^/2021.02.05
Институт научной информации по общественным наукам РАН, Московский государственный лингвистический университет, Москва, Россия, [email protected]
Аннотация. В статье представлен обзор зарубежных исследований реализации языка вражды в публичном дискурсе институциональных и неинституциональных СМИ и социальных медиа на материале индоевропейской, фино-угорской и сино-тибетской языковых семей. Анализируется содержание понятия «язык вражды» в его широком смысле. В ходе анализа выявляются тематические, дискурсивные и когнитивные особенности реализации языка вражды, поведенческие характеристики хейтеров, а также группы лиц, в отношении которых чаще всего направлены высказывания на языке вражды.
Ключевые слова: язык вражды; ксенофобия; экстремизм; расовая ненависть; скрытая дискриминация; свобода выражения; свобода слова; социальные медиа; институциональные СМИ; дискурс-анализ; текст; сообщение; комментарий; твит; социальная интернет-сеть; интернет-среда; юридический дискурс; политический дискурс; публичный дискурс; религия; этнос; контекст; цифровые социальные
1 Статья подготовлена в рамках государственного задания по теме «Лингво-культурные аспекты цивилизационных противоречий»: http://inion.ru/ru/science/ temy-nir/lingvokulturnye-aspekty-tsivilizatsionnykh-protivorechii/
науки; испанский язык; сербский язык; шведский язык; чешский язык; румынский язык; венгерский язык; бирманский (мьянманский) язык; миноритарные сообщества; малозащи-щенные группы населения; блог; интернет-форум; сайт ненависти; хейтер; дискурсивные практики; Facebook; Twitter.
Komalova L.R.
HATE SPEECH IN THE INTERNET PUBLIC DISCOURSE
Institute of Scientific Information for Social Sciences, Moscow State Linguistic University, Moscow, Russia, [email protected]
Abstract. The paper provides an overview of foreign studies on the implementation of hate speech in the public discourse of institutional and non-institutional media and social media based on the material of Indo-European, Fino-Ugric and Sino-Tibetan language families. The content of the concept «hate speech» is analyzed in the broad sense of this word. The findings reveal thematic, discursive, and cognitive features of hate speech realization, the behavioral characteristics of haters, as well as the groups of people towards whom hate speech is most often targeted.
Keywords: hate speech; xenophobia; extremism; racial hatred; hidden discrimination; freedom of expression; freedom of speech; social media; institutional media; discourse analysis; text; message; comment; tweet; social internet network; internet environment; legal discourse; political discourse; public discourse; religion; ethnos; context; digital social sciences; Spanish language; Serbian language; Swedish language; Czech language; Romanian language; Hungarian language; Burmese (Myanmar) language; minority communities; vulnerable groups of the population; blog; internet forum; hate site; hater; discursive practices; Facebook; Twitter.
Постановка проблемы
В настоящее время доступно достаточно исследований, посвященных деструктивным формам речевого поведения и дискурсам, разжигающим рознь, пропагандирующим насилие, провоцирующим негативные эмоциональные состояния реципиентов. Во многом это связано с доступностью языкового и речевого материала: размещенных в открытом доступе текстов институциональных (сетевых аналогов печатных СМИ, радио- и телепередач) и неинституциональных (сайтов организаций, персональных сайтов и блогов, социальных интернет-сетей, интернет-форумов) СМИ и комментариев к сообщениям.
В научном обороте можно встретить различные номинации данного явления: язык вражды, агрессивное речевое поведение, кибербуллинг, кибертроллинг и т.д. Иногда эти понятия располагают в синонимичном ряду, при этом у каждого из них есть своя специфика.
В настоящей обзорной статье собраны результаты исследовательских проектов (на материале индоевропейской, финно-угорской и сино-тибетской языковых семей), объектом которых является язык вражды (hate speech).
Рассуждая о содержании понятия «язык вражды», А. Браун обращает внимание на тот факт, что, несмотря на существование правовых актов, пресекающих использование языка вражды, по сути, этот концепт является в большей мере обыденным, чем правовым, так как используется в широком смысле слова людьми, которые не являются профессиональными юристами, в социальной, культурной, политической и экономической областях жизни социума [Brown, 2017, р. 422].
Содержание понятия «язык вражды» зафиксировано в Приложении № R (97) 20 к Рекомендациям Комитета министров в области медиа и информационного общества Совета Европы от 30 октября 1997 г. В трактовке данного документа язык вражды следует понимать как все формы выражения, которые распространяют, разжигают, поощряют или оправдывают расовую ненависть, ксенофобию, антисемитизм или другие формы ненависти, основанной на нетерпимости, включая нетерпимость, выражаемую в виде агрессивного национализма и этноцентризма, дискриминации
и враждебного отношения к меньшинствам, мигрантам и людям иммигрантского происхождения [Recommendations...].
В памятке1 о языке вражды в социальных медиа говорится, что язык вражды дискриминирует человека или группу людей по признаку расы, религии, пола или сексуальной ориентации и не является реализацией свободы слова. При этом изучение и мониторинг данного явления позволяют предотвратить реальное насилие, так как 1) язык вражды может рассматриваться как ключевой индикатор для раннего предупреждения массового насилия; 2) ограничение использования языка вражды является способом ограничить реальное насилие; 3) введение в правовой оборот понятия «язык вражды» дает возможность привлекать к ответственности за высказывания, составляющие преступление [Introduction...].
Подтверждением того, что язык вражды является предвестником реальных действий деструктивной направленности, служит статистика по категориям пострадавших в реальных преступлениях на почве ненависти, которую в ежегодном отчете представило Бюро ОБСЕ по демократическим институтам и правам человека в рамках деятельности ОБСЕ, направленной на борьбу с преступле-
□ раса/цвет кожи
□ этническая принадлежность
□ гражданство
□ язык
■ вероисповедание
□ сексуальная ориентация
■ транссексуальность
□ ограниченные возможности
■ тендер
■ другое_
Рис. 1. Категории пострадавших в статистических данных о преступлениях на почве ненависти [Hate crimes..., 2010, p. 23]
1 Памятку разработала Организация по расширению прав и возможностей для прогресса сообщества (Community Empowerment for Progress Organisation -CEPO).
ниями на почве ненависти фис. i).
другое, 17^ ^ раса/цвет кожи, 29 тендер, 1£
ограниченные ^^^^ возможности,
«
транссексуальное, 32
m
этническая принадлежность.
ш
сексуальная
ориентация. 20 гражданство. 17
qii-iK 1 1
вероисповедание, '
29
Наряду с «правозащитными» настроениями в среде исследователей встречаются мнения об оборотной стороне движения против языка вражды, особенно в цифровой и в интернет-среде. По-прежнему существует трудность разграничения между «случайным разовым лозунгом, опубликованным в "Твиттере"» и «реальной угрозой, которая является частью систематической кампании ненавистника» [Rowbottom, 2012; цит. по: Countering..., 2015, р. 13]. При этом в интернет-среде есть разница между постом, которому мало или вообще не уделяется внимания, и постом, который становится вирусным. Кроме того, существуют сложности, с которыми могут столкнуться правительства и суды, например, при попытке применить закон против социальной интернет-сети, штаб-квартира которой находится в другой стране. Таким образом, хотя высказывания на языке вражды в Интернете, по сути, не отличаются от аналогичных высказываний в реальной жизни, существуют специфические проблемы, присущие только онлайн-контенту и его регулированию [Countering., 2015, р. 13].
В интернет-пространстве язык вражды активно развивается на так называемых сайтах (hate sites)1, в блогах (hate blogs) и на форумах ненависти, а также в коммуникации в социальных интернет-сетях, в персональных сообщениях по электронной почте и в рамках коммуникации внутри компьютерных игр, созданных в целях разжигания ненависти и розни. Сайты ненависти посвящены пропаганде или разжиганию ненависти в отношении определенной группы или групп. Самыми «эффективными» сайтами ненависти можно считать те, которые используют все доступные методы электронного общения. Они образуют очаги ненависти с целью построения сообществ, распространения определенной идеологии, вербовки новичков и иногда поощрения преступлений на почве ненависти [Young people., 2012, р. 20]. В персональном блоге ненависти держатель блога обнародует свое отношение к определенной группе лиц или конкретному лицу, а также оставляет ненавистнические комментарии на сайтах, в других блогах, в том числе в блогах жертв [там же, p. 21]. Группы ненависти создают свои
1 В Российской Федерации к таким сайтам относят интернет-страницы, на которых размещаются экстремистские материалы (см.: https://minjust.gov.ru/ru/ extremist-materials/).
собственные антисемитские и расистские онлайн-игры, чтобы подстрекать к насилию и геноциду [Young people., 2012, p. 22].
Современная интернет-среда является благоприятной не только для развития традиционных СМИ, но и для функционирования альтернативных неинституциональных массмедиа в рамках движения «гражданская (titizen journalism) / партисипативная (participatory journalism) / партизанская (guerrilla journalism) / уличная (street journalism) журналистика»1. Далее приводится обзор исследований, в которых рассматриваются особенности реализации языка вражды и речевых практик на основе как сетевых площадок традиционных СМИ, так и социальных медиа (блогов, форумов, социальных интернет-сайтов) в телекоммуникационной сети Интернет.
Язык вражды в дискурсивных практиках
В работе [Hate speech., 2015] проводится анализ языка вражды в социальных медиа (социальные интернет-сети), печатных СМИ, песенных и кинопроизведениях в сопоставлении по параметрам тематики «политика», «этнос», «религия». Анализируемый материал (с января по ноябрь 2015 г.) составил 153 страницы Facebook, 1613 газет и журналов, 269 песен, размещенных на каналах YouTube, и 304 кинофильма.
В ходе анализа было выявлено, что в социальных медиа артефакты языка вражды в коммуникации по поводу политических событий были направлены против 1) оппозиционных партий, 2) протестных движений, способствующих разжиганию политической ненависти, 3) геополитических событий, 4) политических лидеров внутри страны, 5) правящей партии, 6) политических акти-
1 «Оба смысла, которые несет в себе понятие "гражданская журналистика", пришли в мировую журналистику из американской, где закрепились в разных лексических единицах. Одна - civic journalism, другая - citizen journalism. Civic journalism появилась в доинтернетовскую эпоху и означает профессиональную журналистику, направленную на развитие гражданской активности читателей и вовлечение их в публичную жизнь; одновременно это связано с участием читателей в реализации редакционных проектов. Citizen journalism подразумевает деятельность не профессиональных авторов, осуществляемую в Интернете - в блогах, социальных сетях, посредством микроблогинга, а также на сервисах традиционных СМИ» [Хлебникова, 2011].
вистов, 7) армии, 8) военных организаций, 9) предвыборной кампании. Язык вражды встречался в 1) сообщениях о прошлых событиях, связанных с религией, 2) комментариях к сообщениям про попытки противодействовать религиозной вражде через визуальные средства (одежда), 3) комментариях к неуместным фотографиям с символами веры, 4) сообщениях против Будды и буддистских монахов, 5) сообщениях против исламской религии, 6) сообщениях против межконфессиональных браков. При обсуждении этнических вопросов язык вражды был направлен против этнических групп 1) коканд (Kokhant ethnic), 2) бамар (Bamar ethnic), 3) ракхайн (Rakhine ethnic), 4) мон (Mon ethnic).
В сообщениях печатных СМИ по политической тематике артефакты языка вражды были направлены против 1) политических партий, 2) властей, 3) выборов и кандидатов, 4) предпринимателей, 5) политических активистов и вооруженных организаций. Вражда высказывалась в резкой, умеренной и мягкой формах. В рамках религиозной тематики язык вражды 1) был направлен против религий, отличных от буддизма, и 2) предупреждал об опасности, исходящей от других религий. При обсуждении этнических вопросов язык вражды 1) был направлен против этнических групп коканд (Kokhant ethnic), 2) способствовал ксенофобии.
В песенном нарративе в рамках одной песни могли пересекаться артефакты языка вражды по тематике «политика», «религия» и «этнос». В религиозной тематике язык вражды был направлен на 1) защиту религии, 2) идентификацию врага, 3) предупреждение об атеистах, 4) обозначение монахов в качестве религиозного зла. В этнической тематике сообщения 1) защищали этническую принадлежность, 2) способствовали ксенофобии, 3) использовали звуки, имитирующие животных, особенно собак, 4) обвиняли людей, вступивших в брак с не-мьянманцами, в разрушении этнической принадлежности. В сообщениях на политическую тематику 1) использовались звуки, имитирующие животных, особенно собак, 2) язык вражды использовался против политических лидеров.
В кинопроизведениях язык вражды по тематике «политика» 1) был направлен на формирование образа группы животных или подобия людей, 2) использовался при формировании образа врага, 3) использовался в сообщениях протестующих повстанцев и террористов, 4) использовался как подстрекательство к насилию.
Язык вражды, основанный на этническом вопросе, 1) воспроизводился в речи персонажей, защищающих нацию, 2) использовался для создания подобия с животным, особенно с собакой и змеей, 3) использовался для создания негативного образа людей с разной этнической идентичностью.
Обобщая результаты проведенного исследования, можно отметить, что политическая тематика представляется наиболее «острой» в отношении языка вражды для различных коммуникационных сред (см. табл. 1 и рис. 2-5).
Таблица 1
Обобщение результатов исследования (К. Л. на основе данных из: [Hate speech..., 2015, р. 10-75])
Тип среды Тематика сообщений с элементами языка вражды
Политика Этнос Религия
Социальные медиа преобладают в меньшей мере умеренно
Печатные СМИ преобладают умеренно в меньшей мере
Песни преобладают преобладают умеренно
Кинофильмы преобладают в меньшей мере минимально
120
100
80
60
40
Hate Speech based on Politics
Hate Speech based on Ethnicity
Types of hate speech per month
Hate Speech based on Religion
I January February
March
I April May June ■ July August September
October November
Рис. 2. Артефакты языка вражды, обнаруженные в социальных медиа [там же, р. 10]
Рис. 3. Артефакты языка вражды, обнаруженные в сообщениях печатных СМИ [там же, с. 43]
Рис. 4. Артефакты языка вражды, обнаруженные в песнях [там же, с. 70]
60
50 Щ-
40 I- -
■ January February
■ March
■ April
■ May
■ June
■ July
Hate Speech based on Hate Speech based on Ethnic Hate Speech based on
Politics
Religion
August Spptemher
Рис. 5. Артефакты языка вражды, обнаруженные в кинопроизведениях [там же, с. 75]
В рамках дискурс-анализа Ж.П. Доржевич исследует комментарии пользователей к новостным сообщениям на официальном сайте высокотиражной сербской газеты Politika применительно к сообщениям о трансформации вооруженных сил Косово в регулярную армию [Bordevic, 2020]. С помощью инструментария теории социокогнитивного исследования дискурса (theory of Sociocognitive Discourse Studies - SCDS) автор пытается определить, каким образом язык вражды, репрезентируемый в комментариях, влияет на социокогнитивный интерфейс между социумом и дискурсом [там же, р. 2], т.е. каким образом язык вражды «корректирует» образ, создаваемый дискурсом традиционных СМИ. Автор предполагает, что появление языка вражды в комментариях пользователей свидетельствует о том, что сообщения в СМИ негативным образом влияют на их верования, знания и понимание информации о том или ином событии.
Предполагается, что сообщения в СМИ влияют на общество не напрямую, а посредством создаваемого ими интерфейса. Этот интерфейс, помимо самих сообщений и связей между ними, включает комментарии пользователей, в которых высказываются индивидуальные мнения, установки, опасения, нормы, ценности, отношение реципиентов (читателей), социальных акторов (действующих лиц в рамках конкретного события), а также представителей СМИ. В рамках данного интерфейса формируются ментальные модели определенного события.
По мнению автора, к дискурсивным маркерам, в которых может обнаруживаться язык вражды, относятся логическое ударение, интонация, порядок слов в предложении, значения слов, последовательность предложений, слова, передающие мнения и эмоциональные состояния говорящего, тема сообщения, дейктические структуры, выбор определенных речевых жанров, эвиденциаль-ных, конвенциональных, схематических, канонических структур, метафор и средств поляризации смысла высказывания [Во^еую, 2020, р. 4]. Базой для определения данных структур в письменном дискурсе являются лексические единицы.
В качестве экспериментального материала рассматривается корпус из 939 комментариев к 77 новостным сообщениям, опубликованным на сайте газеты РоШка (роИйка.ге) 14 декабря 2018 г. Наибольший объем комментирования пришелся на сообщения в рубриках «политика», «международные новости», «общество», «новости региона»Было выявлено 182 случая проявления (артефакта) языка вражды.
Содержательный анализ комментариев позволяет зафиксировать, что негативная реакция читателей на новостные сообщения свидетельствует о том, что появление регулярной армии в Косово воспринимается как угроза суверенитету Сербии. Кроме того, читатели были разочарованы действиями руководства Европейского союза по данному вопросу и усматривали в них политическое намерение воздействовать на сербские власти. Количественный анализ данных показал три наиболее обсуждаемые темы: 1) формирование регулярной армии Косово противоречит существующим международным договоренностям (254 комментария); 2) очевидная невозможность или нежелание иностранных властей предотвратить появление регулярной армии в Косово (538 комментариев); 3) отсутствие у сербского правительства полномочий в данном вопросе (597 комментариев) [там же, р. 8].
В ходе исследования было выявлено, что читатели новостных сообщений открыто высказывают свое критическое мнение, в том числе нападая на других пользователей. Довольно часто чита-
1 Эти выводы подтверждаются ранними исследованиями, в которых зафиксировано, что актуализация языка вражды в комментариях к новостным сообщениям происходит в ответ на социально значимые события [Countering..., 2015, p. 33-45].
тели используют язык вражды для установления контакта с другими пользователями, проявляя таким образом общие ценности, принципы и нормы. Некоторые ценности (ценность превосходства, влияния, популярности и др.), которые транслируются в новостных сообщениях, могут мотивировать читателей на то, чтобы не только комментировать сообщения, но и высказываться в оскорбительном тоне [Bordevic, 2020, р. 8].
Т. Энерссон и С. Линдгре в рамках критического исследования дискурса (Critical Discourse Studies - CDS), целью которого является анализ того, как использование языка связано с символическим построением институтов, идеологий, властных отношений и идентичностей [Enarsson, Lindgre, 2019], изучают корпус из 19 474 твитов на шведском языке (за 8-15 сентября 2017 г.), посвященных обсуждению вопросов, касающихся национального меньшинства цыган (the Roma minority / population), проживающего на территории Швеции. В современной Швеции цыгане по-прежнему являются группой, подвергающейся дискриминации, например на рынке труда [там же, р. 2].
В процессе анализа при помощи скрытого распределения Дирихле (Latent Dirichlet Allocation) в корпусе было выделено 20 наиболее связных тем (топиков). На рис. 6 представлена модель распределения твитов по темам. Темы были представлены поодиночке (например, обсуждение правоцентристского экстремизма в отношении мигрантов - debate about right-wing extremism in relation to migrants) или объединены в кластеры (например, дискурс против цыган и против попрошайничества - anti-Roma, anti-begging discourse). В данном кластере было выявлено больше всего агрессивных высказываний (в виде критики политической ситуации, того, как политические партии решают вопрос о попрошайничестве) в отношении цыган, которых сравнивают с паразитами, неизлечимой болезнью [там же, р. 9].
Интерпретация содержания дискурса проводилась применительно к корреляциям между ненавистническими или агрессивными высказываниями в рамках тем, где такие высказывания встречались чаще всего, и текстами судебных решений и постановлений Европейского суда по правам человека для шведского законодательства в области свободы выражения (freedom of expression), которая является частью свободы слова. Авторы отмечают, что пра-
вовое регулирование (ограничение, запрет или санкционирование) свободы выражения на материале анализируемого корпуса сильно зависит от широкого дискурсивного контекста, в который вписано конкретное речевое действие (кто является субъектом высказывания, какое положение субъект действия занимает по отношению к социальным институтам, чьи интересы представляет, кто является целью речевого действия, в какой ситуации оно продуцируется, имеет ли предысторию и т.п.).
General political debate about street begging (1 topic) Anti-Roma, anti-begging discourse (9 topics) Ш
Poverty, shelters
Islam and vulnerability
Europe (1 topic) (5 topics)
(1 topic)
The role of news media
(2 topics)
: 1 •' 2% Debate about
5% right-wing extremism
in relation to migrants
10% (1 topic)
Рис. 6. Модель распределения твитов по темам [Enarsson, Lindgre, 2019, р. 8]
В силу того что рассматриваемые твиты не направлены на конкретного субъекта, правовое регламентирование языка вражды возможно в рамках законодательства об агитации против национальной или этнической группы (Уголовный кодекс Швеции (SFS 1962: 700), гл. 16, разд. 8). Притом что размещение сообщения на платформе Twitter можно рассматривать как публичное заявление, необходимо доказать, что такие заявления несут угрозу или выражают неуважение к этнической группе людей [там же, р. 14-16].
Применение языка вражды в отношении малозащищенных групп населения в сообщениях социальных интернет-сетей М. Хрдина рассматривает как форму политического участия, гражданской активности [НМта, 2016]. В работе представлены результаты исследования сообщений на платформе Facebook в Чешской Республике за июнь - сентябрь 2015 г., когда на этом ресурсе наблюдалась волна публикаций, квалифицируемых как разжигание ненависти в отношении иностранцев и мигрантов, в некоторой степени связанная с продолжающимся притоком беженцев и мигрантов в Европу.
В ходе исследования автор оперирует широким определением понятия «язык вражды» и рассматривает его как «любое сообщение, которое публично угрожает группе или унижает группу людей, объединенных по признаку расы, этнической принадлежности или религии, призывает к преследованию или насильственным действиям против таких групп людей или распространяет ненависть или презрение к ним» [там же, р. 40]. Анализ данных проводился по группам наиболее активных пользователей и случайной выборке. Все сообщения были распределены по тематическим категориям «ислам» (п = 49 000), «миграция» (п = 88 000), «Африка», «украинцы» и «вьетнамцы» (последние три категории были исключены из анализа, так как в сообщениях не прослеживалось различие между этническими группами, национальностями и религиями мигрантов и беженцев из Африки и Ближнего Востока).
М. Хрдина описывает образ типичного хейтера (пользователя, опубликовавшего не менее 10 сообщений или комментариев в Facebook, содержащих ключевые слова для выбранной категории), опираясь на результаты анализа демографических данных из открытых профилей (см. табл. 2).
Таблица 2
Профиль хейтера (К. Л. на основе данных из: [там же, р. 41-42])
Категория Артефакты Гендер
Ислам 83% язык вражды, 12% нейтральные или позитивные сообщения, 5% нерелевантные сообщения 64% мужчин, 36% женщин
Миграция 63% язык вражды, 32% нейтральные и нерелевантные сообщения, 5% позитивные сообщения 67% мужчин, 33% женщин
Из 97 профилей хейтеров в категории «ислам» 44 пользователя были отнесены к возрастной когорте 35-45-летних и 31 пользователь - к когорте 45-60-летних. Таким образом, среднестатистического хейтера можно описать как мужчину среднего возраста (от 35 до 50 лет), который имеет законченное среднее образование. Результаты проведенного анализа опровергли предположение о том, что по сравнению со среднестатистическим пользователем хейтеры имеют больше виртуальных друзей: среднее количество друзей среди всех проанализированных выборок (как хейтеров, так и случайных выборок пользователей) составляло около 120-160.
Результаты исследования помогают приблизиться к ответу на вопрос «Где и как создаются сообщения, содержащие язык вражды?», демонстрируя, что большая часть подобного контента создается и распространяется в виде небольших, на первый взгляд, частных (по крайней мере, в восприятии пользователей, а не в соответствии с настройками Facebook) сообщений под публикациями, размещенными в индивидуальных профилях пользователей [Hrdina, 2016, р. 43]. Вклад экстремистских организаций, лидеров мнений, политиков-популистов заметен, однако большая часть усилий по распространению языка вражды осуществляется неорганизованными индивидуальными пользователями, мотивированными своими собственными мнениями и убеждениями [там же]. При этом лишь незначительная часть контента, отнесенного к артефактам языка вражды, представлена прямыми оскорблениями и яростными словесными атаками, которые обнаруживаются и устраняются при помощи автоматизированных алгоритмов [там же, р. 45].
Р.М. Межа, Х.-О. Винцже и А. Могиш проводят сопоставительный анализ репрезентации вражды на материале румынского и венгерского языков [Meza, Vincze, Mogi§, 2018]. Объектом исследования в данной работе являются сообщения, обращенные к представителям таких миноритарных сообществ, как цыгане, евреи, венгры (на территории Румынии), сексуальные меньшинства, которые рассматриваются как уязвимые группы населения. Целью исследования является выявление уязвимых групп, которые наиболее часто упоминаются в комментариях в социальной интернет-сети Facebook к сообщениям на публичных страницах, при-
надлежащих политикам, политическим группам и СМИ в двух странах: Румынии и Венгрии [Meza, Vincze, Mogi§, 2018, р. 33].
В исследуемую выборку источников вошли 55 румынских и 51 венгерская страниц на Facebook, включая все страницы парламентских партий и их лидеров, СМИ с наибольшей аудиторией в Facebook, крупнейшие онлайн-сообщества, ориентированные на развлечения, а также страницы альтернативных СМИ и сообществ политических активистов. Общий объем выгруженных данных составил 1 880 750 комментариев к 144 396 публичным сообщениям (1 031 866 комментариев на румынском и 848 884 комментария на венгерском языках) за три года (с 01 января 2015 по 31 декабря 2017 г.) [там же, р. 33-34]. Все комментарии были отфильтрованы с помощью двух тематических словарей (niche dictionaries), которые содержали несколько форм терминов, используемых для обозначения объектов языка вражды, определяемых как уязвимые группы (цыгане; венгры на территории Румынии; румыны на территории Венгрии; трансильванцы; секлеры (Szeklers); евреи; мусульмане; верующие; атеисты; представители ЛГБТ-сообщества; беженцы / мигранты; неимущие / получатели пособий; пенсионеры; венгры, проживающие за границей территории Венгрии). В результате было получено два подкорпуса сообщений, в которых упоминались целевые группы: 25 912 (2,51%) от общего числа комментариев на румынском языке, 26 026 (3,06%) от общего числа комментариев на венгерском языке [там же, р. 35].
Для подкорпуса на румынском языке наиболее упоминаемой категорией является «получатели социальных пособий», за которой следуют категории «цыгане» и «венгры». Наибольшее количество упоминаний зафиксировано в комментариях, размещенных на страницах политических лидеров и СМИ. Для подкорпуса на венгерском языке упоминания беженцев и мигрантов являются наиболее частыми, за ними следуют упоминания группы цыган (наибольшее количество упоминаний зафиксировано в комментариях, размещенных на страницах политических лидеров и политических партий). Соотношение комментариев на румынском и венгерском языках, в которых имеются отсылки к целевым группам, представлено в табл. 3-4.
Таблица 3
Комментарии на румынском языке, в которых имеются отсылки к целевым группам (по: [Meza, Vincze, Mogi§, 2018,
р. 36])
Категории целей (подкорпус на румынском языке) СМИ Онлайн-сообщества Политические партии Политики Сатира
Никакой 98,03% 98,58% 98,15% 95,93% 97,56%
Получатели социальных пособий 0,50% 0,26% 0,53% 0,85% 0,36%
Цыгане 0,50% 0,16% 0,14% 0,38% 0,50%
Венгры, проживающие на территории Румынии 0,19% 0,18% 0,30% 0,64% 0,46%
Мусульмане 0,24% 0,18% 0,14% 0,50% 0,17%
Беженцы / мигранты 0,15% 0,07% 0,16% 0,48% 0,09%
Представители ЛГБТ 0,11% 0,10% 0,09% 0,43% 0,21%
Пенсионеры 0,13% 0,03% 0,35% 0,38% 0,30%
Верующие 0,05% 0,20% 0,02% 0,12% 0,07%
Евреи 0,05% 0,12% 0,04% 0,13% 0,05%
Трансильванцы 0,02% 0,05% 0,05% 0,06% 0,13%
Атеисты 0,01% 0,05% 0,01% 0,07% 0,03%
Секлеры 0,02% 0,01% 0,02% 0,04% 0,06%
Таблица 4
Комментарии на венгерском языке, в которых имеются отсылки к целевым группам [там же, р. 37]
Категории целей (подкорпус на венгерском языке) СМИ Онлайн-сообщества Политические партии Политики
Никакой 97,39% 99,23% 95,48% 95,74%
Беженцы / мигранты 1,29% 0,19% 2,58% 2,05%
Цыгане 0,34% 0,11% 0,44% 0,61%
Мусульмане 0,33% 0,05% 0,42% 0,46%
Пенсионеры 0,13% 0,04% 0,43% 0,39%
Евреи 0,17% 0,06% 0,24% 0,26%
Представители ЛГБТ 0,19% 0,20% 0,12% 0,17%
Получатели социальных пособий 0,08% 0,03% 0,17% 0,15%
Секлеры 0,05% 0,06% 0,05% 0,07%
Трансильванцы 0,03% 0,02% 0,06% 0,07%
Атеисты 0,01% 0,01% 0,01% 0,02%
Румыны, проживающие на территории Венгрии 0,00% 0,00% 0,01% 0,01%
Верующие 0,00% 0,00% 0,00% 0,00%
Венгры, проживающие за пределами Венгрии 0,00% 0,00% 0,00% 0,00%
Для подкорпуса комментариев на румынском языке пики активности в комментировании приходятся на периоды проведения предвыборных кампаний, пик европейского миграционного кризиса, которые активно освещались в СМИ и на Facebook-страницах политических лидеров. Для подкорпуса на венгерском языке пики активности приходятся на два пика европейского миграционного кризиса. Распределение на временном континууме комментариев на румынском и венгерском языках, в которых имеются отсылки к целевым группам, представлено на рис. 6-7.
welfare/poor Roma/Gipsy
2015 Q1 2015 Q2 2015 Q3 2015 Q4 2016 Q1 2016 Q2 2016 Q3 2016 Q4 2017 Q1 2017 Q2 2017 Q3 2017 Q4
Quarter
Рис. 6. Распределение на временном континууме комментариев на румынском языке, в которых имеются отсылки к целевым группам [Meza, Vincze, Mogi§, 2018, р. 38]
Рис. 7. Распределение на временном континууме комментариев на венгерском языке, в которых имеются отсылки к целевым группам [там же]
Для того чтобы проследить связь между упоминаниями в комментариях объектов языка вражды и другими концептами, был проведен анализ совместной встречаемости (co-occurrences) при помощи полуавтоматического кодирования в KH Coder. Было выявлено, что для комментариев на румынском языке (рис. 8) три наиболее часто упоминаемые целевые группы, на которые направлен язык вражды, связаны с политическими темами в контексте выборов, расходования государственного бюджета, коррупции и воровства. Венгры чаще всего упоминаются в контексте Демокра-
тического союза венгров в рамках участия Румынии в правительстве или коалиции правящей партии. Упоминания ЛГБТ-мень-шинств связаны с концептом сексуальности, тогда как беженцы упоминаются в основном в контексте Европейского союза. Упоминания религиозных меньшинств связаны с религиозной тематикой.
Refugees
stupidity
alcohol
coruption
justice
group_actions
violence
vulgar_express¡ons
expertise
laziness
Community:
■ 01 ■ 04
□ 02 □ 05
□ 03
Coefficient:
0.05 - 0.10
Frequency:
Рис. 8. Визуализация совместной встречаемости для подкорпуса комментариев на румынском языке (использовано 60% данных из общего корпуса) [Meza, Vincze,
Mogi§, 2018, р. 39]
Для комментариев на венгерском языке (рис. 9) выявлена связь между упоминанием целевых групп беженцев и мигрантов и Европейского союза, правительства или политической партии Венгрии. Обнаружилась связь между отсылками к представителям религиозных меньшинств и тематикой насилия. Целевая группа цыган часто упоминается в темах, связанных с выражением сексуальности и с концептом «воровство», отражая негативный стереотип в отношении данной целевой группы.
110
pensioner Romanians
alcohol
Рис. 9. Визуализация совместной встречаемости для подкорпуса комментариев на венгерском языке (использовано 48% данных из общего корпуса) [Meza, Vincze,
Mogi§, 2018, р. 40]
В заключение авторы отмечают, что в публичном дискурсе социальной интернет-сети Facebook исследуемые целевые группы объектов языка вражды на материале румынского и венгерского языков имеют разную значимость, что во многом определяется новостной повесткой, которую формируют СМИ и представители политической элиты. Проблематика, в которой основными субъектами выступают беженцы и мигранты, для двух подкорпусов связана с деятельностью Европейского союза: для венгерского подкорпуса она является центральной, для румынского подкорпуса -второстепенной [там же, р. 41].
Применяя смешанный метод исследования (анализ социальных связей, мультимодального контента, контент-анализ текста и ссылок), А. Бен-Давид и А. Матаморос-Фернандес пытаются выявить механизмы и форматы распространения в косвенной форме
языка вражды на материале дискурсивных практик испанских политических партий [Ben-David, Matamoros-Fernández, 2016]. Авторы доказывают, что исследуемые политические партии не используют прямые формы вербализации ненависти и вражды, поэтому традиционные методы контент-анализа представляются недостаточными для целей проводимого исследования.
В состав исследуемого корпуса вошли текстовые (инициальные сообщения и комментарии к ним) материалы на испанском языке и изображения за 2009-2013 гг., размещенные в официальных Facebook-аккаунтах семи испанских ультраправых политических партий (Alternativa Española - AES, Nudo Patriota Catalunya -NPe, Plataforma per Catalunya - PxC, Movimiento Social Republicano -MSR, FE-La Falange, Democracia Nacional - DN, España 2000) и правящей партии (Partido Popular - PP) (см. табл. 5).
Таблица 5
Характеристики исследуемых аккаунтов политических партий [там же, р. 1174]
Полиическая партия Дата открытия Facebook-аккаунта Количество проанализированы ых постов за 20092013 гг. Количество лайков (данные за апрель 2014 г.)
Alternativa Española (AES) 21 апреля 2011 4 079 1 778
Nudo Patriota Catalunya (NPe) 22 января 2010 1 185 1 868
Plataforma per Catalunya (PxC) 27 апреля 2011 3 362 2 434
Movimiento Social Republicano (MSR) 18 октября 2011 1 692 2 364
FE-La Falange 25 июня 2009 1 529 2 948
Democracia Nacional (DN) 16 февраля 2011 1 794 4 241
España 2000 13 марта 2009 1 997 8 605
Partido Popular (PP) 06 марта 2009 32 343 61 446
В результате анализа совместной встречаемости слов и содержательного анализа сообщений и комментариев к ним применительно к языку вражды все единицы корпуса были сгруппированы в тематические кластеры (рис. 10).
112
Cluster
Words included
Spain
Immigration
Independence movement Insults
Islam Moroccan Black people Romanians South Americans
[españa, españoles, español, española, españolas] [inmigración, immigració, immigracio, immigrants, immigrant, inmigración, ¡migración, extranjeros, extranjero, estranjeros, estrangero, extrangeros, extrangero, estrangers, estranger, extrangers, inmigrantes, inmigrante, immigrante, immigrantes] [independentismo, independentistes, independentisme,
independència, independentisme, independentistas, independencia, separatismo, separatistas]
[mierda, merda, putos, puto, asqueroso, asquerosos, hijoputa, hijoputas, apestosos, apestoso, parásitos, salvajes, parásito, parasitos, parasito, gentuza, rojos, cerdo, cerdos, chusma, marxista, marxistas]
[islam, islamistas, islámica, islamica, islamistes, islamització, islamización]
[magrebís, magrebies, magrebí, magrebins, magrebí, moro, moros, marroquí, marroquíes, marroquins, marroquina, marroquines] [negros, negres, negro, subsaharianos, africano, africans, negre, africanos, africà, subsahariano, subsaharià, negratas, negrata] [rumanos, rumano, romanesos, romanès, Rumania]
[panchitos, panchito, sudacas, sudaques, sudaca, sudamericano, sudamericanos]
Рис. 10. Кластеризация слов, используемых для анализа сообщений и комментариев [Ben-David, Matamoros-Fernández,
2016, р. 1175]
Изображения размечались при помощи следующих категорий: против иммиграции (anti-immigration), против истеблишмента (antiestablishment), против политической партии ETA (anti-ETA), против коммунистов (anti-left), против сепаратизма (anti-separatism), общая информация о политической партии (party general information), религиозный символизм / католические ценности (religious symbolism / Catholic values), испанский национализм (Spanish nationalism), фашистская символика / ностальгия по правлению Франко (Fascist symbolism / Francoist nostalgia). URL-ссыл-ки на внешние источники были классифицированы по следующим категориям: ведущие международные и национальные СМИ; альтернативные СМИ; веб-сайты политических партий; другие вебсайты и блоги; социальные интернет-сети.
В ходе анализа данных было обнаружено, что ультраправые партии в основном размещали ссылки (59%) и фотографии (20%), в меньшей мере - текстовые сообщения (17%) и видеоматериалы (4%). Правящая партия, напротив, в основном размещала тексто-
вые сообщения (75%), реже - ссылки (19%), изредка фотографии (4%) и видео (2%). В отличие от дискурса правящей партии, дискурс крайне правых актуализировал темы, связанные с иммиграцией, которая регулярно ассоциировалась с преступностью, нелегальными иммигрантами, исламистами, угрозами, проблемами, опасностью, сезонной работой [Ben-David, Matamoros-Fernández, 2016, р. 1180].
Количество оскорблений также увеличилось (рис. 11). Они были направлены в основном на иммигрантов (марокканцев, выходцев из Южной Америки), а также каталонцев и размещались только в комментариях к инициальным сообщениям.
España 2000
Democracia Nacional (DN)
Plataforma per Catalunya (PxC)
FE-La Falange Partido Popular (PP) Nudo Patriota Español (NPe) Alternativa Española (AE5)
Movimiento Social Republicano (MSR)
Рис. 11. Сопоставление распределения частотности сообщений и комментариев по кластеру «оскорбления» [там же, р. 1181]
Анализ наиболее популярных изображений (набрали больше всего комментариев, лайков и перепостов) показал, что на страницах ультраправых партий чаще размещаются сообщения из категории «против иммиграции». Сторонники правящей партии в ос-
Insults cluster
12.00
новном поддерживали изображения, несущие информацию о партии (табл. 6).
Таблица 6
Категоризация наиболее популярных изображений (в %) [Ben-David, Matamoros-Fernández, 2016, р. 1182]
Категория Политическая партия
PxC DN FE-La Falange AES MSR Españ a 2000 NPe PP
Против иммиграции 75 11 4 3 7 31 0 0
Против истеблишмента 4 13 10 7 37 17 12 0
Против коммунистов 0 7 4 7 0 0 16 16
Против политической партии ETA 0 3 4 10 0 3 4 2
Испанский националист 0 30 37 13 10 29 24 0
Общая информация о политической партии 21 20 10 17 23 17 8 80
Религиозный символизм / католические ценности 0 0 0 33 0 0 0 0
Фашистская символика / ностальгия по правлению Франко 0 3 31 3 13 0 20 0
Среди наиболее популярных иЯЪ-ссылок, которыми делились ультраправые партии, 25% относились к категории «против иммиграции», в аккаунте правящей партии таких ссылок не обнаружилось. В целом ультраправые партии чаще делились ссылками на свои веб-сайты (41%), веб-сайты и блоги других националистических партий (25%), сайты ведущих СМИ (12%), сайты альтернативных СМИ (11%) и социальные медиа (11%). Правящая партия в основном ссылалась на свой веб-сайт (91%), иногда на ведущие испанские СМИ (7%), изредка на социальные медиа (2%).
Основной вывод А. Бен-Давид и А. Матаморес-Фернандес состоит в том, что правовое регулирование языка вражды на уровне социальных медиа (в частности Facebook) ведется на уровне контента, в то время как в фокусе внимания должны быть речевые практики пользователей (держателей аккаунтов) и технологические возможности социальных медиа, за счет которых, как
выяснилось в ходе исследования, на имплицитном уровне происходит распространение ненависти и вражды.
Прогнозы в отношении развития языка вражды в интернет-среде описаны в экспертном опросе, проведенном Pew Research Center1 [Rainie, Anderson, Albright, 2017]. Коллективный отчет по реализации проекта C.O.N.T.A.C.T. (Creating an On-line Network, monitoring Team and phone App to Counter hate crime Tactics)2 на территории Европейского союза представлен в работе [Online hate..., 2017]. Оба документа описывают как негативные, так и позитивные стороны развития коммуникации, опосредованной Интернетом, подчеркивая значимость сохранения баланса между разумной и обоснованной реализацией свободы слова и правами каждого пользователя на неприкосновенность личности и психологическое здоровье.
Заключение
Подводя итог, можно сказать, что краеугольным камнем для исследователей языка вражды в интернет-среде представляется принципиальное позиционирование в отношении оснований для оценки речевой продукции: результаты исследования зависят от того, опирается ли исследователь на (а) законодательные акты, (б) правила и нормы определенного сообщества или (в) субъективированное понимание языка вражды в самом широком смысле слова. Как отмечалось в большинстве проанализированных исследований, наиболее явно язык вражды актуализируется в рамках политической тематики вокруг социально незащищенных групп населения и миноритарных сообществ. Дискурсивные практики с использованием языка вражды в интернет-среде вербализуются в комментариях к инициальным текстам и к комментариям других пользователей. Среди прочих условий для актуализации языка
1 Pew Research Center - это независимый информационный центр, который информирует общественность о проблемах, взглядах и тенденциях, формирующих мир посредством проведения опросов общественного мнения, демографических исследований, контент-анализа и других социологических исследований на основе данных. (Подробнее см.: https://www.pewresearch.org/about/)
2 Подробнее о проекте см.: http://reportinghate.eu/ru/
вражды выделяются технические возможности, которые имеются в алгоритмах социальных медиа.
Список литературы
Хлебникова Н.В. Гражданская журналистика: К истории становления термина //
Медиаскоп. - 2011. - № 3. - URL: http://www.mediascope.ru/node/896#1 Ben-David A., Matamoros-Fernández A. Hate speech and covert discrimination on social media: Monitoring the Facebook pages of extreme-right political parties in Spain // International Journal of Communication. - 2016. - N 10. - P. 11671193. - URL: https://ijoc.org/index.php/ijoc/artide/view/3697/1585 Brown A. What is a hate speech? Part 1: Myth of hate // Law and Philosophy. - 2017. -
N 36. - P. 419-468. - DOI: 10.1007/s10982-017-9297-1. Countering online gate speech / Gagliardone I., Gal D., Alves Th., Martinez G. - Paris : United Nations Educational, Scientific and Cultural Organization, 2015. - 73 p. Dordevic J.P. The sociocognitive dimension of hate speech in readers' comments on Serbian websites // Discourse, Context & Media. - 2020. - N 33. - DOI: https://doi.org/10.1016/j.dcm.2019.100366. - URL: https://www.sciencedirect. com/science/article/pii/S2211695819301412 Enarsson Th., Lindgren S. Free speech or hate speech? A legal analysis of the discourse about Roma on Twitter // Information? Communications Technology Law. -2019. - N 28 (1). - P. 1-18. - DOI: 10.1080/13600834.2018.1494415. - URL: https://www.tandfonline.com/doi/full/10.1080/13600834.2018.1494415 Hate crimes in the OSCE region - Incidents and responses: Annual Report for 2009. [Преступления на почве ненависти в регионе ОБСЕ: инциденты и меры реагирования. Годовой отчет за 2009 год]. - Warsaw : Organization for Security and Co-operation in Europe, 2010. - 185 с. - URL: https://www.osce. org/odihr/73636
Hate speech: A study of print, movies, songs and social media in Myanmar. - PEN
Myanmar, 2015. - 79 p. Hrdina M. Identity, Activism and Hatred: Hate Speech against Migrants on Facebook in the Czech Republic in 2015 // NASE SPOLECNOST. - 2016. - N 1. -P. 38-47.
Introduction to hate speech on social media // Community Empowerment for Progress Organisation (CEPO), Juba & r0 g_agency for open culture and critical transformation. - Berlin, 2020. - URL: https://openculture.agency/?s= INTRODUCTION+TO+HATE+SPEECH+ON+SOCIAL+MEDIA Meza R.M., Vincze H.-O., Mogi$ A. Targets of online hate speech in context. A comparative digital social science analysis of comments on public Facebook pages from Romania and Hungary // Intersections. East Europe Journal of Society and Politics. - 2018. - N 4 (4). - P. 26-50. - URL: https://intersections.tk.mta.hu/ index.php/intersections/issue/view/18
Online hate speech in the European Union : a discourse-analytic perspective. - Cham : Springer, 2017. - 90 p. - DOI: https://doi.org/10.1007/978-3-319-72604-5. -URL: https://link.springer.com/book/10.1007%2F978-3-319-72604-5 Rainie L., Anderson J., Albright J. The Future of Free Speech, Trolls, Anonymity and Fake News Online // Pew Research Center. Internet & Technology. - 2017. -URL: https://www.pewresearch.org/internet/2017/03/29/the-future-of-free-speech-trolls-anonymity-and-fake-news-online/ Recommendations and declarations of the Committee of Ministers of the Council of Europe in the field of media and information society. - URL: https://rm.coe.int/CoERMPublicCommonSearchServices/DisplayDCTMConten t?documentId=0900001680645b44 Rowbottom J. To rant, vent and converse: Protecting low level digital speech // The
Cambridge Law Journal. - 2012. - Vol 71 (2). - P. 355-383. Young people combating hate speech on-line. Making on-line public space safer by mobilizing young people for human rights, launching a media youth campaign against hate speech in cyberspace and elaborating policy guidelines : mapping study on projects against hate speech online. - Strasbourg : Council of Europe, 2012. - 57 p.
