CC BY
50
2021
ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА СОЦИОЛОГИЯ
Т. 14. Вып. 3
СОЦИОЛОГИЯ КУЛЬТУРЫ И КОММУНИКАЦИЙ
УДК 316.775.2+316.776.23
Коммуникативные стратегии COVID-троллинга в социальной сети «ВКонтакте»
В. В. Василькова, Н. И. Легостаева, П. М. Кручинина
Санкт-Петербургский государственный университет,
Российская Федерация, 199034, Санкт-Петербург, Университетская наб., 7-9
Для цитирования: Василькова В. В., Легостаева Н. И., Кручинина П. М. Коммуникативные стратегии СОУШ-троллинга в социальной сети «ВКонтакте» // Вестник Санкт-Петербургского университета. Социология. 2021. Т. 14. Вып. 3. С. 276-294. https://doi.org/10.21638/spbu12.2021.306
Активизация троллинговых аккаунтов в период пандемии СОУГО-19, которые связаны, как правило, с ковид-диссидентством и ставят под вопрос эффективность принимаемых мер по борьбе с пандемией, актуализирует проблему детектирования потенциально опасных аккаунтов в социальных сетях и анализа коммуникативных стратегий, используемых ими для воздействия на пользователей Сети. Статья представляет собой первый опыт изучения троллинговых стратегий в обсуждении проблемы СОУГО-19 пользователями российской социальной сети «ВКонтакте». Использование авторской методики детектирования троллинговых аккаунтов на основе анализа всплесков сетевой публикационной активности в комментариях в сочетании с профайлингом троллинговых аккаунтов позволило выявить по заданным ключевым словам восемь троллинговых аккаунтов в социальной сети «ВКонтакте» за период с 18 марта по 10 июня 2020 г. Для идентификации используемых ими коммуникативных стратегий была разработана система индикаторов (тактических приемов), соответствующих стратегиям явного и скрытого троллинга. К явной стратегии относятся вербальная агрессия, эмоциональная напряженность, провокация, призыв к конфронтации, опровержение официальной точки зрения, унижение оппонента, перевод дискуссии в другую тему; к скрытой стратегии — приемы иронии или осмеяния, демонстрации авторитета, сомнения в существующем положении дел, «наивные вопросы», введение в заблуждение. В результате анализа выявлено, что анализируемые троллинговые аккаунты используют как явную, так и скрытую стратегии воздействия, при этом преобладает более агрессивная (явная) коммуникативная стратегия. Показаны перспективы развития данной исследовательской тематики: выявление специфики СОУГО-троллинга в соотнесении с другими контекстуально-тематическими видами троллинга; изучение динамики СОУГО-троллинга на разных этапах пандемии, а так-
© Санкт-Петербургский государственный университет, 2021
же особенностей его стратегий, реализуемых пользователями различных социальных сетей и различных стран; анализ степени воздействия СОУГО-троллинга на пользователей.
Ключевые слова: сетевой троллинг, СОУШ-19, коммуникативная стратегия, явный троллинг, скрытый троллинг.
Введение
Сетевой троллинг — особая стратегия борьбы за социальное влияние в информационном пространстве социальных сетей, позволяющая путем провокации и жесткой манипуляции добиться внимания большого числа пользователей. Несмотря на то что эта стратегия социально осуждается и критикуется, она признается весьма действенной и практически ненаказуемой, что связано с особенностью информационно-технологической природы сетевого троллинга, ставшей предметом анализа своего рода междисциплинарного кластера наук, изучающих рассматриваемый феномен (компьютерных наук, социологии, политологии, психологии, лингвистики, медиаисследований и др.).
В частности, психологи отмечают, что сетевой троллинг реализует в виртуальном пространстве агрессию как атрибутивную характеристику в социальных отношениях, понимая под агрессией «мотивированное деструктивное поведение, противоречащее нормам сосуществования людей, наносящее вред объектам нападения, приносящее физический, моральный ущерб людям или вызывающее у них психологический дискомфорт» [1, с. 16]. Приемами выражения агрессии выступают провокация, возбуждение ссор и раздоров, обман, клевета, унижение, призыв к неблаговидным действиям и т. д.
Лингвистический анализ речевого поведения при троллинге выявляет целый ряд специфических приемов выражения агрессии (использование обсценной и пейоративной лексики, эмотивных выражений, стилистических и риторических манипулятивных приемов, конфликтогенность и др.) [2-5]. С этих позиций сетевой троллинг рассматривается как «процесс размещения на виртуальных коммуникативных ресурсах провокационных сообщений с целью нагнетания конфликтов посредством нарушения правил этического кодекса Интернет-взаимодействия» [6, с. 49]. Иными словами, сетевой троллинг может быть интерпретирован как новая специфическая форма проявления социальной агрессии — «киберагрессии».
Информационные и технологические особенности коммуникации в социальных сетях расширили возможности и степень потенциального влияния троллинга как вербальной и психологической стратегии агрессивного воздействия. Причинами лавинообразного распространения троллинга в социальных сетях называют прежде всего анонимный характер и возможность ложной идентичности сетевой коммуникации, а также появление специальных автоматизированных программ (ботов), позволяющих распространять троллинг-сообщения с невиданными ранее скоростью и масштабом.
Анонимность, в частности, обеспечивается путем создания виртуальной фальсификации личности пользователей: создание профилей и аккаунтов с ложными личными данными, использование чужих фото или их полное отсутствие, выбор вызывающих, но скрывающих настоящее имя никнеймов и логинов. Д. Донат — ав-
тор одной из первых работ об интернет-троллинге, определяет троллинг как «игру в фальсификацию личности, разыгрываемую интернет-пользователем без согласия других участников конкретной коммуникативной ситуации» [7, p. 19]. Феномен деиндивидуализации1, возникающий в условиях соблюдения мнимой анонимности, в современной психологии может быть объяснен эффектом «растормажива-ния в Сети» (online disinhibition effect) [8]. Виртуализация социальных отношений и анонимность ослабляют психологические барьеры, ограничивающие трансляцию скрытых чувств и потребностей человека, поэтому в Интернете он может позволить себе поведение, несвойственное ему в личном общении. В сочетании с физической удаленностью от собеседника (в качестве которого тролли обычно выбирают незнакомых, случайных пользователей) описанные условия укрепляют тролля в сознании собственной безнаказанности, позволяют повышать уровень эмоциональности его высказываний, «через унижение и глумление над другими получать удовлетворение» [9, с. 214]. Все это может создавать среду для выбора агрессивных, иногда девиантных форм поведения.
Еще одним фактором экспансии троллинговых стратегий в социальных сетях является использование социальных ботов — программного обеспечения, предназначенного для создания многочисленных суррогатных аккаунтов и профилей в социальных сетях и управления ими. Производимые ботами данные отличаются большими объемами, скоростью и широтой распространения. Социальные боты различаются по уровню автоматизации и степени управляемости человеком. Учетные записи в социальных сетях могут быть созданы реальными пользователями, которые через свои профили используют методы автоматизации, либо профили уже являются ботами, которыми управляют операторы, и они же настраивают параметры активности учетных записей и содержание тиражируемого контента [10]. Сетевой троллинг может использовать полуавтоматизированных или полностью управляемых реальными пользователями ботов, что делает такие аккаунты более гибким инструментом при ведении сетевых дискуссий, поскольку позволяет быстро реагировать на запросы и эмоциональную реакцию пользователей, на смену тематических приоритетов и т. д.
Не случайно такой гибридный продукт, как троллинг с использованием ботов, достигает особого эффекта в астротурфинге. Астротурфинг (от названия американской компании «Astro Turf», производящей покрытие для футбольных полей, имитирующее траву) — это особый комплекс технологий, направленных на искусственное создание общественного мнения, замаскированное под спонтанное массовое поведение. Ощущение «группового консенсуса» по конкретной идее (например, политической) создается, когда большое количество разных источников одновременно транслирует сообщения с похожей идеей, что вызывает особое доверие у пользователей [11].
Расширение возможностей сетевого троллинга привело к ситуации, когда, по мнению исследователей, Интернет прочно оккупирован троллями.
1 Деиндивидуализация — термин, введенный социальным психологом Л. Фестингером в 1950-х годах, обозначает явление, при котором человек совершает импульсивные девиантные действия, находясь в ситуации, в которой, по его мнению, его нельзя идентифицировать лично (например, в Интернете).
Для социологии экспансия троллинговых стратегий в социальных сетях представляет особый интерес и возможность расширения исследовательского поля. Прежде всего речь идет об изучении процесса диверсификации сетевого троллинга как в плане его тематической представленности, так и в плане разнообразных типов, форм и коммуникативных приемов, которые используются различными социальными акторами сетевой коммуникации с разными целями — как манипуля-тивными и злонамеренными актами агрессивного воздействия, так и нейтральными или даже позитивными оценками троллинга как способа оживления дискуссии, возможности повышения посещаемости сайта, интеллектуальной игры без провокационных задач, содержащих креативную составляющую [12-15].
Расширение тематического разнообразия сетевого троллинга обусловлено новыми социальными и коммуникативными практиками и выдвижением на повестку дня новых социально значимых проблем, требующих массового обсуждения в социальных сетях. Причем атрибутивные свойства сетевого троллинга (анонимность, провокативный характер, возможность избежать социального контроля) делают его источником протестных настроений, противостояния общепринятой точке зрения.
Одним из таких новых тематических направлений сетевого троллинга является проблема COVID-19. Новый вид троллинга, который в соответствии со спецификой его контента можно назвать COVID-троллингом, фактически не изучен в силу новизны и онтологической незавершенности самого феномена. На момент написания данной работы вышла только одна статья, посвященная проблеме выявления троллей по теме «COVID-19» и борьбе с ними [16]. При этом важно подчеркнуть практическую значимость и социальный резонанс последствий COVID-троллинга, который содержательно связан с ковид-диссидентством, ставит под вопрос эффективность принимаемых мер по борьбе с пандемией, являясь, как было отмечено ранее, инструментом социального влияния, опасного по своим последствиям. Социальное влияние, как отмечают Ф. Зимбардо и Ф. Ляйппе, имеет имманентно манипулятивную природу, поскольку подразумевает неявное принуждение к принятию мнений и решений, навязываемых (транслируемых) извне [17, с. 17].
Сказанное актуализирует исследовательскую ориентацию данной статьи, которая представляет собой первый опыт изучения троллинговых стратегий в обсуждении проблемы COVID-19 пользователями российской социальной сети «ВКонтакте». Цель статьи — выявление специфики троллинговых аккаунтов по тематике COVID-19 с позиций используемых ими коммуникативных стратегий и тактик. В задачи статьи входит представление результатов исследования, посвященного выявлению троллинговых аккаунтов в социальной сети «ВКонтакте» по авторской методике, а также идентификации типов коммуникативных стратегий и тактик, используемых в сетевом троллинге по теме COVID-19.
Методика выявления и анализа контента COVID-троллей
Для поиска троллинговых аккаунтов за период с 18 марта по 10 июня 2020 г., публикующих тексты на тему COVID-19 в социальной сети «ВКонтакте», использовалась методика анализа всплесков сетевой публикационной активности (СПА) в комментариях (рис. 1) в сочетании с профайлингом троллинговых аккаунтов
ю оо о
а}
к о
Доля публикаций
Тип публикаций
47,2% (77)
25,3% (58)
15.0 1М%(32)
7.2% (и)/4,3% (11)
3,1% (5)
0,0 1,5% (3.)
37,5% (Л)
Тематика
| бизнес | карантан молодежь И паника | полиция
| протест, пикет, митинг | самоизоляция
25,0% (14)
1,9% (5)
5,4% (3) 5,4% (3)
18 марта 20 марта 22 марта 24 марта 25 марта 28 марта 30 марта 1апр.
Дата [2020]
3 апр.
'0,9% (1)
5 апр. 7 апр.
Ьа £
=
Рис. 1. Сетевая публикационная активность троллинговых аккаунтов в комментариях
(если аккаунт не является закрытым или не заблокирован), включающим статичный и поведенческий анализ данных профиля пользователя, статистический анализ текстов (тираж, дата распространения), а также анализ контента текстов для определения тематического поля, в котором работает троллинговый аккаунт.
Новизна и эффективность методики анализа всплесков СПА в комментариях связаны с тем, что она позволяет оперативно локализовать функционирование троллинговых аккаунтов в определенный период и по определенной теме и концентрирует внимание на резком увеличении числа публикаций. Методика дает возможность сконцентрировать внимание на всплеске СПА в комментариях, причинами которого могут быть как резкое естественное увеличение интереса и, следовательно, комментариев пользователей по актуальной/топовой теме, так и искусственное распространение комментариев (за короткий промежуток времени), что характерно при деятельности троллинговых аккаунтов.
Сбор данных производился в социальной сети «ВКонтакте» и охватывал комментарии пользователей в открытых онлайн-сообществах (группы, страницы, события). Для формирования массива данных № 1 с целью поиска повестки по ин-фоповодам, связанным с пандемией COVID-19, а также возможных троллинговых аккаунтов, действующих в этом тематическом поле, был сформирован список ключевых слов на основе анализа цифровых СМИ, результатов опросов, рейтингов, списков тиражируемых текстов за определенный период. К политическим ключам были отнесены такие, как «власть», «президент», «губернатор», «мэр», «администрация», «путин», «глава» и другие; к медицинским — «карантин», «covid», «вирус», «инфекция», «врач», «коронавирус», «коронавирус», «скорая», «лекарства», «эпидемия», «медицинский», «больница», «здравоохранение», «самоизоляция», «пандемия», «изоляция» и другие; к ключам в социальной сфере — «права человека», «школа», «новости», «жители» и др. Второй этап работы с массивом данных заключался в добавлении ключей, которые помогли бы сформировать массив данных № 2, содержащих информацию по Санкт-Петербургу: «спб», «питер», «петербург», «петербургский», «питерский». Третий этап работы с массивом данных № 3 включал разбивку на тематические блоки: бизнес, карантин, молодежь, паника, полиция, протест, самоизоляция, средства защиты. Двухэтапная корректировка исходного массива данных с помощью тематической и геолокационной детализации по Санкт-Петербургу, во-первых, дает наиболее точный результат с точки зрения соответствия ключей и тематического поля, в котором работает троллинговый аккаунт. Во-вторых, уменьшение первоначального массива данных за счет введения ключей «спб», «питер», «петербург», «петербургский», «питерский» необходимо для того, чтобы минимизировать затраты по фильтрации спама. В ходе проведения исследования использовано следующее программное обеспечение: ElasticSearch (сбор и хранение информации), Kibana, Tableau Desktop, Tableau Server (визуализация данных) и скрипты на PHP для скачивания информации, с использованием VK API, и ее обработки (более подробно о методике см.: [18]). Программное обеспечение позволяет реконструировать комментарии, которые были удалены в социальной сети «ВКонтакте» по причине блокировки их создателей — троллинговых аккаунтов. Высокая сетевая публикационная активность в комментариях троллинговых аккаунтов является подозрительной для администрации социальной сети «ВКонтакте», поэтому включаются механизмы блокировки как самих профилей, так и их контента.
Целью анализа контента троллинговых аккаунтов в рамках нашего исследования было выявление основных коммуникативных стратегий и тактик, используемых данными аккаунтами для достижения своих целей. Для идентификации коммуникативных стратегий выявленных троллинговых аккаунтов мы разработали систему индикаторов, отражающих набор отличающих их тактических приемов. Остановимся на этом более подробно.
В целом ряде русскоязычных работ [3; 5; 9; 12; 19] выделяют различные стратегии (типы) сетевого троллинга по степени интенсивности воздействия и мере агрессивности. Для этого чаще всего используются аутентичные термины, рожденные в дискурсе самих пользователей социальных сетей — «толстый» и «тонкий» троллинг. Для «толстого» троллинга присуща активная вызывающая агрессия, конфронтация с собеседником, явное нарушение этических норм сетевой коммуникации, использование пейоративной, т. е. содержащей негативные высказывания, порицание, презрение лексики [3]. «Тонкий» троллинг сложнее в выявлении: агрессия выражается не в открытой форме, а пассивно, посредством юмористических, шутливых замечаний. Такие тролли избегают прямых оскорблений, используют техники психологического воздействия более изощренно, часто оставляя собеседника в смятении [12]. Это своего рода «имитационный троллинг» т. е. ситуация, при которой человек только имитирует конфликт, «играет роль» провокатора в мягкой форме [19]. Его действия не несут цели причинить дискомфорт собеседнику, спровоцировать его негативную реакцию, а лишь создают ощущение спора, наличия разногласий.
В англоязычной литературе существует более академическое наименование этих двух стратегий — явный и скрытый троллинг [20]. По мнению К. Хардакер, это скорее не столько различные стратегии, сколько крайние позиции некоего континуума стратегий: от скрытых (уход от темы дискуссии, ввод новых тем и т. д.) до явных (умышленные открытые нападки провокативного характера с оскорблениями и нецензурной бранью и т. д.). Мы также будем использовать эти термины для обозначения различных типов стратегий троллинга.
Если обобщить тактические приемы реализации двух рассмотренных стратегий, представленных в указанных работах, то можно их сгруппировать и представить следующим образом.
Для явного троллинга характерны следующие тактики: вербальная агрессия (обсценная и пейоративная лексика, нецензурные выражения, негативная коннотация и др.); эмоциональная выразительность и напряженность (выражение чувств при оценке события/оппонента, эмотивная лексика и стилистика); провокация (призыв/побуждение к действиям, которые могут повлечь негативные последствия для участников); призыв к конфронтации; опровержение существующей (официальной) точки зрения; унижение (дискредитация/оскорбление) оппонента и его окружения; попытка увести дискуссию в другую тему.
Для скрытого троллинга характерны следующие тактики: использование вербальных приемов иронии, осмеяния, шутки; демонстрация авторитета (создание доверия к себе и своему мнению, привлечение агентов влияния); высказывание сомнений в существующем положении дел; «наивные» вопросы, порождающие иллюзию незнания/неопытности; введение в заблуждение.
Эти тактические приемы коммуникации будут рассматриваться нами как индикаторы отнесения контента выявленных аккаунтов к той или иной троллинговой стратегии2.
Результаты и обсуждения
В результате исследования, проведенного с 18 марта по 10 июня 2020 г., обнаружено восемь троллинговых аккаунтов. В самом начале периода исследования (март) они активно распространяли тексты за один-два дня, в июне их сетевая публикационная активность в комментариях постепенно угасает. Это связано, во-первых, с лимитированным списком ключей и территориальным ограничением и, во-вторых, с некоторым падением интереса к теме COVID-19 и естественным угасанием обсуждений как в постах, так и в комментариях (в силу перенасыщения тревожной тематики пандемии и переходом к темам отдыха, отпуска и т. д.). Данное обстоятельство сказалось и на сокращении базы данных исследования в этот период.
Троллинговый аккаунт (ТА) № 1 — 20-21 марта 2020 г. опубликовал 50 раз один и тот же текст в комментариях различных групп (рис. 2).
Общее волнение витает в воздухе. Думаю, пришло время и мне, как биологу, много лет читающему общий курс вирусологии в университете, несколько слов сказать о коронавирусе. Попробую сделать это тезисно, потому что и так в интернете на этот счет уже оченьмногобуке и, как говорят в Италии, высказалась уже даже
1) Это всего лишь коронавирус. Один из представителей семейства, которое и раньше было представлено в общем спектре возбудителей ОРВИ человека. Это не чума. Не оспа, не родная еще нашему поколению корь. Это даже не тот коронавирус, который вызывал атипичную пневмонию в 2002 годуй был гораздо жестче. Нынешний вирус убивает, как положено любому уважающему себя вирусу, только что попавшему к людям из другого зверя. Но убивает умеренно. В мире ежедневно умирает от туберкулеза столько же людей, сколько пока что умерло за все время от COVID. И еще столько же - от малярии. Просто за этими цифрами мы не следим в режиме онлайн.
Рис. 2. Фрагмент текста ТА № 1 из https://vk.com
ТА № 2 — 8 апреля 2020 г. 31 раз распространил один и тот же текст в комментариях различных групп/страниц официальных СМИ в социальной сети «ВКонтакте» (далее — ВК) (Телеканал «Санкт-Петербург», «Вести Санкт-Петербург», «Фонтанка.ру», «Деловой Петербург», РЕН ТВ, «Новости Первого канала», «РИА Новости», «Вести», Lenta.ru, «Интерфакс» и др.)
2 Выбор предложенных параметров идентификации скрытого и явного троллинга на основе обобщения существующих подходов нельзя считать окончательным. Авторы понимают, что такого рода работа предполагает дополнительные исследования, связанные с комплексным анализом стилистических, лексических, риторических, психологических и других приемов троллингового воздействия, что требует отдельного рассмотрения за пределами данной статьи.
ТА № 3 — 12 апреля 2020 г. семь раз распространил в комментариях один и тот же текст с критикой власти в части мер, принимаемых в период пандемии, и инициирующий дискуссии в комментариях разных групп в ВК. Пользователь пишет уникальные тексты, а также использует метод копирования текста в комментариях.
ТА № 4 — 10 апреля 2020 г. 13 раз продублировал в комментариях текст с критикой мер, принимаемых в Санкт-Петербурге во время пандемии (рис. 3).
«Я тихо наблюдаю и [нецензурная лексика) от происходящего, особенно в Питере! Методы совершенно не эффективные и абсурдные! Заходил на днях в Ленту, там яблоку негде упасть, народу тьма! Но при этом (условно) небольшой антикварный магазинчик писец какую угрозу для них представляет Или взять салоны красоты к примеру я хожу в салон где единовременно работает 2 мастера (парикмахера), 1 мастер по маникюру и 1 косметолог. Сколько там единовременно посетителей будет находиться при полной загрузке салона, четыре? То-есть метро с огромным пассажиропотоком их не смущает, а салон красоты для них прям рассадник вируса. Неужели нельзя было просто ограничить единовременное посещение тех или иных магазинов или салонов, а не закрывать их! Установить лимит на вход (условно, в магазине или салоне красоты не допускать нахождение более 5 посетителей единовременно!) и всем было бы хорошо и комфортно, бизнес бы потихоньку (худо-бедно но работал бы!)»
Рис. 3. Фрагмент текста ТА № 4 из https://vk.com
ТА № 5 (закрытый профиль) — 18 апреля 2020 г. 21 раз продублировал в комментариях текст (рис. 4).
так называемого "короновируса" не существует ВАС ОБМАНЫВАЮТ ОККУПАЦИОННЫЕ ВЛАСТИ! в короновирусные больные записывают всех умерших подряд
https://www.youtu Ье.сотЛ*а1сЬ?у=АВ_Ос15РисСШеа1и.,
"бессимптомно" болеет это значит здоров
это значит выявили короновирус выявили только тестом
и насильно вкололи какую то гадость от которой стало хуже
чтобы потом смерть списать на короновирус
https://vmw.fontanka.rn/2020/04/13/69088522/7yrwinfo*..
в короновирусные больные всех умерших подряд
https://www.youtu Ье.с от/юа1сЬ?у=АВ_Ос1ЭО &ГеаШ ..
Известный врач о том, что НЫНЕШНИЙ так называемый короновирус НЕ
ЕСЛИ ЧЕЛОВЕК БОЛЕЕТ "БЕЗ СИМПТОМОВ" - ЗНАЧИТ так называемый КОРОНОВИРУС - ФЕЙК, ЛОЖЬ И ОБМАН. А ЛЮДИ В КЛИНИКАХ либо УМИРАЮТ ОТ НЕКОГО ЗЛОНАМЕРЕННОГО ЛЖЕЛЕЧЕНИЯ либо статистика
Рис. 4. Фрагмент текста ТА № 5 из https://vk.com
ТА № 6 (заблокированный профиль) — 24 апреля 2020 г. 25 раз распространил в комментариях один и тот же текст (рис. 5).
П Второе обращение Ассоциации врачей соцкомитета ОСВР
http://bpros.ru/vtoroe-obrashheriie-assotsiatsii-vrach..
Мы, честные и порядочные врачи России, многие года служившие своему
народу и стране, не желаем мириться с обманом СМИ о пандемии
коронэвирусной инфекции, Мы, как и прежде, продолжаем считать, что
заболеваемость коронавирусом преувеличена, как в России, так и в мире.
1. Врач инфекционной больницы из Санкт-Петербурга сообщил, что инфекционистов заставляет ставить диагноз коронавирусная инфекция на обычные случаи ОРВИ и пневмонии главный врач, для статистики и привлечения дополнительных денежных средств в учреждение,
2. Нам поступают сообщения о том, что московским врачам на экстренных совещаниях рассылают смс и приходит распоряжение от «некоего высшего руководства», что пациентам ни в коем случае нельзя говорить какой у него тест — положительный или отрицательный, так как пациенты должны сами получать результат теста на официальном сайте
3. К нам поступает информация и о самих тестах. На пробирках, которые выдают как тест на СОУЮ-2019 нет никаких маркировок и данных, соответственно мы не можем быть уверены в объективности выполняемых
Рис. 5. Фрагмент текста ТА № 6 из https://vk.com
ТА № 7 — 22 мая 2020 г. семь раз растиражировал текст (рис. 6).
Сталин превратил в космическую державу..а моль в заснеженую Нигерию..ДВАДЦАТЬ ЛЕТ V РУЛЯ: ИТОГИ
Двадцать лет тому назад действующий глава государства стал президентом страны. 20 лет — это срок, достаточный для того, чтобы страну не только с колен поднять, но даже возродить как птицу феникс из пепла. Пришло время подводить итоги и делать выводы нам всем, особенно сейчас — в ситуации, когда вся пляска вокруг коронавируса свелась к формуле, что спасение утопающих — дело рук самих утопающих. Наверно самая подходящая характеристика, с которой народ готов выйти на улицы, это «НАДОЕЛ». Правда, двадцать лет видеть несменяемого лидера на том или ином посту, наблюдать развал страны и процветание элиты — кому угодно такое надоесть может. По образному сравнению одного аналитика, Россия сейчас похожа на подводную лодку Курск: как и она страна оказалась брошенной своим руководителем в критический момент своей истории. Дифирамбов действующему главе государства со стороны официальных СМИ воспевается много. И страну с колен поднял, и проблемы многие решил, дал России новое дыхание, изменил фактически модель государства. Из всего этого однозначно к его достижениям можно отнести кардинальную смену модели государства — полный распад социалистической системы и трансформацию а сторону модели, заложенной еще в 90-е годы, Итак, каковы же основные черты этой новой России?
Рис. 6. Фрагмент текста ТА № 7 из https://vk.com
ТА № 8 — 7 июня 2020 г. семь раз распространил в комментариях текст (рис. 7).
НАШ ДЕВИЗ: ЮСТИЦИЯ ЭТО СПРАВЕДЛИВОСТЬ Уважаемые друзья, товарищи, братья и сестры!
Получил ответ из Генеральной прокуратуры Российской Федерации в Южном федеральном округе, на своё письмо в защиту Вадима Чельдиева {Ранее был получен ответ из Прокуратуры Северной Осетии.) Прошу ознакомится и по возможности помочь Вадиму чем сможете. Напишите письмо Вадиму (в группе есть информация), сделайте репост статьи, разместите информацию о Вадиме на своей страничке. Наша борьба в защиту справедливости и порядка продолжается!
Вступите пожалуйста в группу - В защиту Вадима Чельдиева
Мы будем действовать последовательно, грамотно и непреклонно. Нам не нужна месть. Нам нужно торжество справедливости.
Письмо в защиту Вадима Чельдиева https://vk.com/id349398903 Рис. 7. Образец фрагмента текста ТА № 8 из https://vk.com
Анализируя контент выявленных троллинговых аккаунтов в соответствии с обозначенными нами индикаторами отнесения текста к определенной коммуникативной стратегии, мы получили следующие результаты.
Тактические приемы,
используемые в рамках стратегии явного троллинга
Вербальная агрессия (обсценная и пейоративная лексика, нецензурные выражения, негативная коннотация и др.):
Мы накануне грандиозного шухера!3 (ТА № 1).
Я тихо наблюдаю и [нецензурная лексика] от происходящего, особенно в Питере!... Но при этом (условно) небольшой антикварный магазинчик писец [эвфемизм] какую угрозу для них представляет... (ТА № 4). ...вкололи какую-то гадость... (ТА № 5).
Эмоциональная выразительность и напряженность (эмотивная лексика и стилистика):
Общее волнение витает в воздухе (ТА № 1).
Заходил на днях в Ленту, там яблоку негде упасть, народу тьма! (ТА № 4). Использование заглавных букв как маркера эмоционального напряжения:
...КОРОНАВИРУС — ФЕЙК, ЛОЖЬ, ОБМАН... (ТА № 5). Восклицательные знаки в начале обращения:
!!Второе обращение ассоциации врачей соцкомитета ОСВР (ТА № 6).
3 Здесь и далее сохраняется стилистика и пунктуация оригинальных текстов.
Провокация (призыв/побуждение к действиям, которые могут повлечь негативные последствия для участников):
Драка в «Макдональдсе» на Московском с участием экс-депутата началась из-за коронавирусной инфекции (ТА № 3).
Не хотелось бы гражданской войны. Сейчас правительство идет на снижение уровня жизни россиян, если же продлит карантин, то это будет его решение по уничтожению жизнедеятельности большего количества граждан России (ТА № 3).
...насильно вкололи какую-то гадость от которой стало хуже чтобы потом смерть списать на коронавирус (ТА № 5).
...инфекционистов заставляют ставить диагноз коронавирусная инфекция на обычные случаи ОРВИ и пневмонии... для статистики и привлечения дополнительных денежных средств в учреждение (ТА № 6).
...московским врачам на экстренных совещаниях рассылают смс и приходит распоряжение от «некоего высшего руководства», что пациентам ни в коем случае нельзя говорить, какой у него тест — положительный или отрицательный.... (ТА № 6).
Призыв к конфронтации:
Вас обманывают оккупационные власти (ТА № 5).
Пришло время... делать выводы нам всем, особенно сейчас — в ситуации, когда вся пляска вокруг коронавируса свелась к формуле, что спасение утопающих — дело рук самих утопающих. Наверно самая подходящая характеристика, с которой народ готов выйти на улицу, это «НАДОЕЛ» (ТА № 7).
Опровержение существующей (официальной) точки зрения:
...панику очень сильно раздули... это все равно будет очень далеко от тех эпидемий, которые человечество переживало всю свою историю... И почти никто, по меркам тех эпидемий не умрет. Поэтому панику отставить! (ТА № 1). так называемого коронавируса не существует (ТА № 5). ...НЫНЕШНИЙ так называемый коронавирус НЕ ОПАСНЕЕ ОБЫЧНОГО ГРИППА (ТА № 5).
«бессимптомно» болеет это значит здоров (ТА № 5). .ЛЮДИ В КЛИНИКАХ либо УМИРАЮТ ОТ НЕКОГО ЗЛОНАМЕРЕННОГО ЛЖЕЛЕЧЕНИЯ либо статистика ложная (ТА № 5).
...заболеваемость коронавирусом преувеличена, как в России, так и в мире (ТА № 6).
Мы... не желаем мириться с обманом СМИ о пандемии коронавирусной инфекции (ТА № 6).
Унижение (дискредитация/оскорбление) оппонента и его окружения:
...высказалась уже даже свинья (ТА № 1). Методы совершенно не эффективные и абсурдные! (ТА № 4). все для того, чтобы выгодоприобретатель коронавирусной паники БИЛ ГЕЙТС продавал дуракам свои вакцины и чипирующие гаджеты (ТА № 5).
...так называемый КОРОНАВИРУС — ФЕЙК, ЛОЖЬ И ОБМАН (ТА № 5).
Попытка увести дискуссию в другую тему наиболее полно представлен в ТА № 7 и 8.
ТА № 7 переводит проблему коронавируса в тему итогов политического процесса России в последние 20 лет, к которым можно отнести ...кардинальную смену модели государства — полный распад социалистической системы и трансформацию в сторону модели, заложенной еще в 90-е годы (ТА № 7), что связывается с просчетами государственной политики в борьбе с коронавирусом.
ТА № 8 уводит обсуждение в правозащитную деятельность и призывает пользователей поддержать Вадима Чельдиева, обвиненного в распространении фей-ковой информации о коронавирусе, спровоцировавшей массовые беспорядки во Владикавказе. Напишите письмо Вадиму., сделайтерепост статьи, разместите информацию о Вадиме на своей страничке. Наша борьба в защиту справедливости и порядка продолжается! (ТА № 8).
Тактические приемы,
используемые в рамках стратегии скрытого троллинга
Вербальные приемы иронии, осмеяния, шутки:
...в интернете на этот счет уже оченьмногобукв (ТА № 1).
Нынешний вирус убивает, как положено любому уважающему себя вирусу... (ТА № 1).
То есть метро с огромным пассажиропотоком их не смущает, а салон красоты для них прям рассадник вируса (ТА № 4).
Демонстрация авторитета (создание доверия к себе и своему мнению, привлечение агентов влияния):
Думаю, пришло время и мне, как биологу, много лет читающему общий курс вирусологии в университете, несколько слов сказать о коронавирусе (ТА № 1).
Мы, честные и порядочные врачи России, многие годы служившие своему народу и стране... (ТА № 6).
Высказывание сомнений в существующем положении дел:
Это всего лишь коронавирус. Один из представителей семейства, которое и раньше было представлено в общем спектре возбудителей ОРВИ человека. Это не чума. Не оспа, не родная еще нашему поколению корь. Это даже не тот коронавирус, который вызывал атипичную пневмонию в 2002 году и был гораздо жестче (ТА № 1).
Нынешний вирус убивает... Но убивает умеренно. В мире ежедневно умирает от туберкулеза столько же людей, сколько пока что умерло за все время от СОУЮ. И еще столько же — от малярии. Просто за этими цифрами мы не следим в режиме онлайн (ТА № 1).
Коронавирус ВООБЩЕ не похож на вирус гриппа. И поэтому он не будет держать человечество в карантинах и под боем годами и десятилетиями. У коронавирусов нет особенностей и механизмов, обеспечивающих высокую изменчивость, присущую вирусам гриппа. Они, вероятно, пойдут по обычному
пути таких инфекций — чем дольше вместе с человеком, тем мягче симптоматика. И новые формы будут появляться редко... (ТА № 1).
На пробирках, которые выдают как тест на COVID-2019 нет никаких маркировок и данных, соответственно мы не можем быть уверены в объективности выполняемых тестов (ТА № 6).
«Наивные» вопросы, порождающие иллюзию незнания/неопытности:
Неужели нельзя было просто ограничить единовременное посещение тех или иных магазинов или салонов, а не просто закрывать их! (ТА № 4).
Введение в заблуждение:
Но примерно на полгода (моя оценка) текущая эпидемическая ситуация может растянуться... Здоровые взрослые люди, скорее всего, перенесут инфекцию «на ногах», кто-то немного потемпературит, кто-то переболеет, как хорошим гриппом. В больницах по показаниям (то есть при угрозе жизни) окажутся немногие. Из них имеют шанс умереть доли процента. Не страшнее гриппа, одним из самых неприятных и опасных осложнений которого является тоже пневмония (ТА № 1).
...а в Петербурге для контроля самоизоляции планируют ввести «цифровые ошейники» для граждан (ТА № 5).
...в коронавирусные больные записывают всех умерших подряд (ТА № 5).
Таким образом, можно сделать вывод, что в рамках исследуемого массива данных троллинговые аккаунты по теме COVID-19 используют как явную, так и скрытую стратегии воздействия. При этом преобладают тактики, относящиеся к более агрессивной (явной) коммуникативной стратегии.
Авторы осознают ограниченность представленного исследования, связанную с относительно небольшим объемом эмпирической базы как в плане выбранных тематических ключей и сроков проведения анализа, так и в плане доступа к контенту троллинговых аккаунтов, что обусловлено быстрым устранением «подозрительных и вредных» текстов и блокировкой самих аккаунтов.
Однако наше исследование как первый опыт анализа коммуникативных стратегий COVID-троллинга, реализуемого в российской социальной сети «ВКонтак-те», может быть полезным и интересным для дальнейшего развития заявленной тематики.
В частности, при расширении эмпирической базы исследования весьма продуктивным представляется выявление специфики COVID-троллинга в соотнесении с другими контекстуально-тематическими видами троллинга. Подобный подход демонстрируют финские исследователи [21], которые соотносят различные стратегии онлайн-троллинга на форумах различной контекстуально-тематической направленности — политически ориентированных форумах и форумах по интересам. Авторы приходят к выводу, что политические дискуссии в социальных сетях обычно являются эмоционально нейтральными, не затрагивают личность собеседника напрямую, ориентированы на передачу смысла. Такой формат способствует реализации скрытых троллинговых стратегий и тактик, которые сложно выявляются пользователями. Напротив, для обсуждений, связанных с личными интересами и хобби пользователей, характерны большая эмоциональность, ори-
ентированность на частный опыт, агрессивные высказывания, что позволяет троллям использовать техники открытого личного оскорбления, т. е. стратегию явного троллинга. В рамках такого подхода можно предположить, что COVID-троллинг, в котором преобладают явные коммуникативные стратегии, по предпочтениям пользователей в большей степени соответствует дискуссиям, относящимся к личным интересам. (Хотя, как показывает наш анализ, политическая составляющая также присутствует как имманентная в COVID-троллинге, что коррелирует с использованием актуальной, «горячей» тематики коронавируса для пропаганды политических и конспирологических нарративов; подробнее см.: [18].)
В развитии заданной темы было бы продуктивным изучить динамику COVID-троллинга на разных этапах, или волнах, пандемии (каждая из которых отличается специфическим контентом и акцентуацией различных социальных проблем), а также особенности стратегий COVID-троллинга, реализуемых пользователями различных социальных сетей и различных стран.
Особый интерес представляет такой сложно измеряемый аспект темы, как анализ степени воздействия COVID-троллинга на пользователей. Здесь можно упомянуть статью К. Хардакер [13], представляющую типологию различных реакций на действия троллей в зависимости от реализации норм группового поведения и групповой сплоченности. Так, 1) троллинг может сорваться, если пользователи правильно интерпретируют его намерения и их нельзя спровоцировать на ответ; 2) троллинг может быть сорван, если пользователи правильно интерпретируют его намерения и при этом противодействуют ему таким образом, чтобы ограничить или нейтрализовать возможный успех тролля; 3) троллинг неудачен, если пользователи неправильно интерпретируют намерение тролля и не могут быть спровоцированы троллем; 4) троллинг успешен, если пользователей обманом заставили поверить в псевдозначение тролля и спровоцировали их на искренний ответ; 5) пользователи могут высмеивать тролля.
Наконец, методика выявления троллей, представленная в нашей статье, может быть полезна как один из многочисленных инструментов «поиска» троллей. Арсенал таких инструментов достаточно широк — от методов лингвистического анализа (тональности, агрессии, лексических и синтаксических характеристик текста) [22] до использования искусственного интеллекта для автоматического обнаружения троллей (анализ стиля письма, настроений, поведения, социальных взаимодействий, ссылки на одни и те же СМИ и время публикации) [23].
Активизация троллинговых аккаунтов в период пандемии COVID-19 актуализировала проблему детектирования таких потенциально опасных аккаунтов в социальных сетях. Весьма интересной представляется работа американских исследователей, которые разработали и продемонстрировали прикладное значение автоматизированного алгоритма TrollHunter-Evader, который может быть использован для выявления троллинговых аккаунтов в сети Twitter с учетом того, что сами сетевые тролли способны уклоняться от «охоты» на них [16].
В целом проблема соотнесения и взаимодополнения методов обнаружения сетевых троллей (лингвистических, риторических, этических, методов машинного обучения и др.) делает более прозрачными цели различных акторов сетевого воздействия, что приближает исследователей к более глубокому пониманию природы социального влияния.
Литература
1. Авдеева Н. Н., Мещерякова Б. Г., Зинченко В. П. Большой психологический словарь. СПб.: Прайм-Еврознак, 2009.
2. Строителев Н. М. Троллинг как разновидность провокационного речевого поведения // Ученые записки ТОГУ 2013. Т. 4, № 4. С. 663-668.
3. Бондаренко А. О. Троллинг как вид вербальной агрессии (на материале французского языка) // Вестник Московского государственного лингвистического университета. Гуманитарные науки. 2019. № 8 (824). С. 22-32.
4. Синельникова Л. Н. Дискурс троллинга // Дискурс-Пи. 2016. Т. 14, № 3-4. С. 271-279.
5. Воронцова Т. А. Троллинг и флейминг: речевая агрессия в интернет-коммуникации // Вестник Удмуртского университета. Серия «История и филология». 2016. Т. 26, № 2. С. 109-116.
6. Внебрачных Р.А. Троллинг как форма социальной агрессии в виртуальных сообществах // Вестник Удмуртского университета. Серия «Философия. Психология. Педагогика». 2012. № 1. С. 48-51.
7. Donath J. S. Identity and deception in the virtual community // Communities in Cyberspace / ed. by P. Kollock, M. Smith. London: Routledge, 1996.
8. Suler J. The Online Disinhibition Effect // Cyberpsychology & Behavior. 2004. Vol. 7, № 3. Р. 321326. https://doi.org/10.1089/1094931041291295.
9. Тумский С. В. Троллинг как форма провокации в интернет-пространстве // Известия Санкт-Петербургского государственного экономического университета. 2020. № 5 (125). С. 213-218.
10. Gorwa R., Guilbeault D. Unpacking the Social Media Bot: A Typology to Guide Research and Policy // Policy & Internet. 2018. № 12 (3). Р. 1-24. https://doi.org/10.1002/poi3.184.
11. Ratkiewicz J., Conover M. D., Meiss M., Flammini A., Menczer F. Detecting and tracking political abuse in social media // Proceedings of the Fifth International AAAI Conference on Web and Social Media. 2011. Vol. 5, № 1. Р. 1-9.
12. Булатова Е. И. Сетевые коммуникативные стратегии: троллинг // Вестник СПбГИК. 2017. № 2 (31). С. 75-78.
13. Hardaker C. Trolling in asynchronous computer-mediated communication: From user discussions to academic definitions // Journal of Politeness Research. 2010. Vol. 6, № 2. Р. 215-242. https://doi. org/10.1515/jplr.2010.011.
14. Golf-Papez M., Veer E. Don't feed the trolling: rethinking how online trolling is being defined and combated // Journal of Marketing Management. 2017. Vol. 33, № 15-16. Р. 1336-1354. https://doi.org/10.1 080/0267257X.2017.1383298.
15. Kirman B., Lineham C., Lawson S. Exploring mischief and mayhem in social computing or: how we learned to stop worrying and love the trolls // CHI'12 Extended Abstracts on Human Factors in Computing Systems. New York: Association for Computing Machinery, 2012. Р. 121-130. https://doi. org/10.1145/2212776.2212790.
16. Jachim P., Sharevski F., Treebridge P. TrollHunter [Evader]: Automated Detection [Evasion] of Twitter Trolls During the COVID-19 Pandemic // New Security Paradigms Workshop 2020. 2020. Р. 59-75. https://doi.org/10.1145/3442167.3442169/.
17. Зимбардо Ф., Ляйппе Ф. Социальное влияние. СПб.: Питер, 2001.
18. Василькова В. В., Легостаева Н. И. Социальные боты в компьютерной пропаганде: серфинг на информационной волне коронавируса // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 6. С. 329-356. https://doi.org/10.14515/monitoring.2020.6.1762.
19. Акулич М. М. Интернет-троллинг: понятие, содержание и формы // Вестник ТюмГУ Социология. 2012. № 8. С. 47-54.
20. HardakerC. "Uh.... not to be nitpicky, but... the past tense of drag is dragged, not drug.": An overview of trolling strategies // Journal of Language Aggression and Conflict. 2013. Vol. 1, № 1. Р. 58-86. https:// doi.org/10.1075/jlac.1.1.04har.
21. Paakki H., Salovaara A., Vepsalainen H. Do Online Trolling Strategies Differ in Political and Interest Forums: Early Results // Multidisciplinary International Symposium on Disinformation in Open Online Media. New York: Springer, 2020. Р. 191-204.
22. Capistrano J. L. C., Suarez J. J. P., Naval P. C. SALSA: Detection of Cybertrolls using Sentiment, Aggression, Lexical and Syntactic Analysis of Tweets // Proceedings of the 9th International Conference on Web Intelligence, Mining and Semantics. 2019. № 10. Р. 1-6. https://doi.org/10.1145/3326467.3326471.
23. Fornacciari P., Mordonini M., Poggi A., Sani L., Tomaiuolo M. A holistic system for troll detection on Twitter // Computers in Human Behavior. 2018. Vol. 89. P. 258-268. https://doi.org/10.1016/j. chb.2018.08.008.
Статья поступила в редакцию 1 августа 2021 г.; рекомендована к печати 22 сентября 2021 г.
Контактная информация:
Василькова Валерия Валентиновна — д-р филос. наук, проф.; v.vasilkova@spbu.ru Легостаева Наталья Игоревна — канд. соц. наук, ст. науч. сотр.; n.legostaeva@spbu.ru Кручинина Полина Михайловна — студент; kpm060201@gmail.com
Communicative strategies of COVID-trolling on the VKontakte social network
V. V. Vasilkova, N. I. Legostaeva, P. M. Kruchinina St. Petersburg State University,
7-9, Universitetskaya nab., St. Petersburg, 199034, Russian Federation
For citation: Vasilkova V. V., Legostaeva N. I., Kruchinina P. M. Communicative strategies of COVID-trolling on the VKontakte social network. Vestnik of Saint Petersburg University. Sociology, 2021, vol. 14, issue 3, pp. 276-294. https://doi.org/10.21638/spbu12.2021.306 (In Russian)
The activation of trolling accounts during the COVID-19 pandemic, which are usually associated with COVID dissidence and cast doubt on the effectiveness of measures taken to combat the pandemic, has actualized the problem of detecting potentially dangerous accounts on social networks and analyzing the communication strategies they use to influence network users. The article represents the first experience of studying trolling strategies in the discussion of COVID-19 by users of the Russian social network "VKontakte". Using unique methodology to detect trolling accounts based on the analysis of bursts of network publication activity through comments, combined with the profiling of trolling accounts, allowed us to identify 8 trolling accounts in the social network "VKontakte" from March 18 to June 10, 2020 according to the specified keywords. To identify their communication strategies, a system of indicators (tactics) was developed that correspond to the strategies of overt and covert trolling. An overt strategy includes such tactics as verbal aggression, emotional tension, provocation, call for confrontation, refuting the official point of view, humiliating the opponent, changing the topic of discussion. A covert strategy includes tactics of irony or ridicule, demonstrating authority, doubting the status quo, "naive questions" and misleading. As a result, it was shown that the analyzed trolling accounts use both overt and covert strategies of influence, with the more aggressive (overt) communicative strategy predominating. The article indicates the prospects for the research topic's development: identifying the specifics of COVID-trolling in relation to other contextual and thematic types of trolling; studying the dynamics of COVID-trolling at different stages of the pandemic and the features of COVID-trolling strategies implemented by users of various social networks and different countries; analyzing the degree of impact of COVID-trolling on users.
Keywords: online trolling, COVID-19, communication strategy, overt trolling, covert trolling.
References
1. Avdeeva N. N., Mescheryakova B. G., Zinchenko V. P. The Big Dictionary of Psychology. St. Petersburg, Prajm-Evroznak Publ., 2009. (In Russian)
2. Stroitelev N. M. Trolling as a type of provocative speech behavior. Uchenye zapiski TOGU, 2013, vol. 4, no. 4, pp. 663-668. (In Russian)
3. Bondarenko A. O. Trolling as a type of verbal aggression (on the material of French). Vestnik Moskovskogo gosudarstvennogo lingvisticheskogo universiteta. Gumanitarnye nauki, 2019, no. 8 (824), pp. 22-32. (In Russian)
4. Sinelnikova L. N. Trolling Discourse. Diskurs-Pi, 2016, vol. 14, no. 3-4, pp. 271-279. (In Russian)
5. Vorontsova T. A. Trolling and Flaming: Speech Aggression in Internet Communication. Vestnik Udmurtskogo universiteta. Seriia «Istoriia i filologiia», 2016, vol. 26, no. 2, pp. 109-116. (In Russian)
6. Vnebrachnykh R. A. Trolling as a Form of Social Aggression in Virtual Communities. Vestnik Udmurtskogo universiteta. Seriia «Filosofiia. Psikhologiia. Pedagogika», 2012, no. 1, pp. 48-51. (In Russian)
7. Donath J. S. Identity and deception in the virtual community. Communities in Cyberspace, ed. by P. Kollock, M. Smith. London, Routledge, 1996.
8. Suler J. The Online Disinhibition Effect. Cyberpsychology & Behavior, 2004, vol. 7, no. 3, pp. 321326. https://doi.org/10.1089/1094931041291295.
9. Tumsky S. V. Trolling as a form of provocation in the Internet space. Izvestiia Sankt-Peterburgskogo gosudarstvennogo ekonomicheskogo universiteta, 2020, vol. 5, no. 125, pp. 213-218.
10. Gorwa R., Guilbeault D. Unpacking the Social Media Bot: A Typology to Guide Research and Policy. Policy & Internet, 2018, no. 12 (3), pp. 1-24. https://doi.org/10.1002/poi3.184.
11. Ratkiewicz J., Conover M. D., Meiss M., Flammini A., Menczer F. Detecting and tracking political abuse in social media. Proceedings of the Fifth International AAAI Conference on Web and Social Media, 2011, vol. 5, no. 1, pp. 1-9.
12. Bulatova E. I. Network communication strategies: trolling. Vestnik SPbGIK, 2017, vol. 2, no. 31, pp. 75-78. (In Russian)
13. Hardaker C. Trolling in asynchronous computer-mediated communication: From user discussions to academic definitions. Journal of Politeness Research, 2010, vol. 6, no. 2, pp. 215-242. https://doi. org/10.1515/jplr.2010.011.
14. Golf-Papez M., Veer E. Don't feed the trolling: rethinking how online trolling is being defined and combated. Journal of Marketing Management, 2017, vol. 33, no. 15-16, pp. 1336-1354. https://doi.org/10.1 080/0267257X.2017.1383298.
15. Kirman B., Lineham C., Lawson S. Exploring mischief and mayhem in social computing or: how we learned to stop worrying and love the trolls. CHI'12 Extended Abstracts on Human Factors in Computing Systems, New York, Association for Computing Machinery, 2012, pp. 121-130. https://doi. org/10.1145/2212776.2212790.
16. Jachim P., Sharevski F., Treebridge P. TrollHunter [Evader]: Automated Detection [Evasion] of Twitter Trolls During the COVID-19 Pandemic. New Security Paradigms Workshop 2020, 2020, pp. 59-75. https://doi.org/10.1145/3442167.3442169.
17. Zimbardo F., Leippe F. Social influence. St. Petersburg, Piter Publ., 2001. (In Russian)
18. Vasilkova V. V., Legostaeva N. I. Social bots in computer propaganda: surfing on the coronavirus information wave. Monitoring obshchestvennogo mneniia: ekonomicheskie i sotsial'nye peremeny, 2020, no. 6, pp. 329-356. https://doi.org/10.14515/monitoring.2020.6.1762. (In Russian)
19. Akulich M. M. Internet-trolling: concept, content and forms. Vestnik TyumGU. Sotsiologiia, 2012, no. 8, pp. 47-54.
20. Hardaker C. "Uh.... not to be nitpicky, but... the past tense of drag is dragged, not drug.": An overview of trolling strategies. Journal of Language Aggression and Conflict, 2013, vol. 1, no. 1. pp. 58-86. https:// doi.org/10.1075/jlac.1.1.04har.
21. Paakki H., Salovaara A., Vepsalainen H. Do Online Trolling Strategies Differ in Political and Interest Forums: Early Results. Multidisciplinary International Symposium on Disinformation in Open Online Media. New York, Springer, 2020, pp. 191-204.
22. Capistrano J. L. C., Suarez J. J. P., Naval P. C. SALSA: Detection of Cybertrolls using Sentiment, Aggression, Lexical and Syntactic Analysis of Tweets. Proceedings of the 9th International Conference on Web Intelligence, Mining and Semantics, 2019, no. 10, pp. 1-6. https://doi.org/10.1145/3326467.3326471.
23. Fornacciari P., Mordonini M., Poggi A., Sani L., Tomaiuolo M. A holistic system for troll detection on Twitter. Computers in Human Behavior, 2018, vol. 89, pp. 258-268. https://doi.org/10.1016Aj. chb.2018.08.008.
Received: August 1, 2021 Accepted: September 22, 2021
Authors' information:
Valeriya V. Vasilkova — Dr. Sci. in Philosophy, Professor; v.vasilkova@spbu.ru Natalya I. Legostaeva — PhD in Sociology, Senior Researcher; n.legostaeva@spbu.ru Polina M. Kruchinina — Student; kpm060201@gmail.com
