CC BY
139
Медиа и коммуникации во время пандемии COVID-19
Приглашенный редактор С. Г. Давыдов
МЕДИАСОЦИОЛОГИЯ
DOI: 10.14515/monitoring.2020.6.1762
В. В. Василькова, Н. И. Легостаева
СОЦИАЛЬНЫЕ БОТЫ В КОМПЬЮТЕРНОЙ ПРОПАГАНДЕ: СЕРФИНГ НА ИНФОРМАЦИОННОЙ ВОЛНЕ КОРОНАВИРУСА
Правильная ссылка на статью:
Василькова В. В., Легостаева Н. И. Социальные боты в компьютерной пропаганде: серфинг на информационной волне коронавируса//Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 6. С. 329—356. https://doi.org/10.14515/ monitoring.2020.6.1762. For citation:
Vasilkova V. V., Legostaeva N. I. (2020) Social Bots in Computational Propaganda: Surfing the Coronavirus Information Wave. Monitoring of Public Opinion: Economic and Social Changes. No. 6. P. 329-356. https://doi.org/10.14515/monitoring.2020.6.1762. (In Russ.)
СОЦИАЛЬНЫЕ БОТЫ В КОМПЬЮТЕРНОЙ ПРОПАГАНДЕ: СЕРФИНГ НА ИНФОРМАЦИОННОЙ ВОЛНЕ КОРОНАВИРУСА
ВАСИЛЬКОВА Валерия Валентиновна —доктор философских наук, профессор кафедры социологии культуры и коммуникации факультета социологии, Санкт-Петербургский государственный университет, Санкт-Петербург, Россия E-MAIL: v.vasilkova@spbu.ru https://orcid.org/0000-0001-9335-8738
ЛЕГОСТАЕВА Наталья Игоревна—кандидат социологических наук, старший научный сотрудник лаборатории изучения социально-экономических и политических процессов современного общества, Санкт-Петербургский государственный университет, Санкт-Петербург, Россия E-MAIL: n.legostaeva@spbu.ru https://orcid.org/0000-0002-8726-8784
Аннотация. В статье современный феномен инфодемии рассматривается как расширение латентных механизмов информационного воздействия. Авторы интерпретируют этот процесс в контексте концепта компьютерной пропаганды, который позволяет не только описать использование новых компьютерных технологий для манипуляции и дезинформации в социальных сетях (конструирования фейко-вой информации, функционирования социальных ботов и др.), но и выявить скрытые цели субъектов пропаганды в современном онлайн-пространстве. Исследовательская цель статьи связана с анализом использования социальных ботов для пропагандистского воздействия, осуществляемого на информационной волне коронавирусной эпидемической ситуации.
SOCIAL BOTS IN COMPUTATIONAL PROPAGANDA: SURFING THE CORONA-VIRUS INFORMATION WAVE
Valeriya V. VASILKOVA1 — Dr. Sci. (Philos.), Professor at the Department of Sociology of Culture and Communication, Faculty of Sociology E-MAIL: v.vasilkova@spbu.ru https://orcid.org/0000-0001-9335-8738
Natalia I. LEGOSTAEVA1 — Cand. Sci. (Soc.), Senior Researcher at the Research Laboratory for Socio-Economic and Political Processes of Modern Society
E-MAIL: n.legostaeva@spbu.ru https://orcid.org/0000-0002-8726-8784
1 St. Petersburg State University, Saint Petersburg, Russia
Аbstract. The article considers the modern phenomenon of infodemia as an extension of latent mechanisms of information impact. The authors interpret this process in the context of the concept of computational propaganda, which allows the authors not only to describe the use of new computer technologies for manipulation and disinformation in social networks (fake information, social bots, etc.), but also to reveal the hidden goals of propaganda agents in the modern online space. The article aims to analyze the use of social bots for propaganda onslaught amidst the coronavirus outbreak.
The authors performed analytical reviews of the sources describing new forms of misinformation and ways to spread it in social networks during the coronavirus
Для реализации поставленной цели были решены следующие задачи: 1) осуществлен аналитический обзор источников, где описаны новые формы и способы дезинформации в различных социальных сетях, возникшие на волне коронавирусной инфодемии — фейковых новостей, социальных ботов; 2) представлены результаты пилотажного исследования по выявлению и описанию бот-сетей в процессе тематического мониторинга социальной сети «ВКонтакте», связанных с тематикой коронавируса и функционирование которых может быть интерпретировано в контексте компьютерной пропаганды. Исследование проводилось на базе Центра социологических и интернет-исследований СПбГУ в период с 16 марта по 26 мая 2020 г. по авторской методике анализа всплесков сетевой публикационной активности в сочетании с комплексной методикой выявления ботнетов, включающей метод частотного анализа размещаемых сообщений, профайлинг бот-аккаунтов, статистический анализ текстов, анализ структурной организации бот-сети, а также анализ контента публикаций. В результате был обнаружен ряд ботнетов, которые, используя волну популярной темы коронавируса в пропагандистских целях, осуществляют продвижение в информационном поле социальной сети: 1) оппозиционного политического контента с критикой власти и отечественной системы здравоохранения; 2)конспирологиче-ских нарративов, связанных с опасностью массового отравления продуктов, воды и лекарственных препаратов, а также с опасностью «цифрового рабства» населения путем массового введения биометрических данных.
pandemic (fake news, social bots) and presented the results of a pilot study aiming to reveal and describe botnets in Vkontakte social network that are related to coronavirus topic and can be interpreted in the context of computational propaganda. The study was implemented at the Center for Sociological and Internet Research (St Petersburg State University) from March 16th through May 26th 2020 using an author's method to analyze the surges in publication activity combined with a complex method to detect botnets encompassing frequency analysis of the posts, bot accounts' profiling, statistical analysis of texts, analysis of botnet's structural organization, and analysis of the publications' content. As a result, the authors detected the bots that used a wave of a popular coronavirus-re-lated topic for propagandist purposes and promoted the following content on the social network 'VKontakte': (1) oppositionist political content criticizing the government policies and domestic health system; (2) conspiracy narratives related to the dangers of food and water poisoning and toxic medicines and the risks of "digital slavery" caused by the large-scale introduction of biometrics.
Ключевые слова: инфодемия, компьютерная пропаганда, социальные боты, конспирологический нарратив, коронавирус
Благодарность. Исследование выполнено в рамках гранта РФФИ 20-01131318 «Коммуникативные стратегии политико-ориентированных онлайн-со-обществ в социальных сетях». Исследование проведено с использованием оборудования Центра социологических и интернет-исследований Санкт-Петербургского государственного университета.
Keywords: infodemia, computational propaganda, social bots, conspiracy narrative, coronavirus
Acknowledgments. The study was funded by the Russian Foundation for Basic Research (project No. 20-01131318 "Communicative strategies of policy-related online communities on social media"). We would like to thank our colleagues from the Center for Sociological and Internet Research of Saint Petersburg State University for guidance and support.
Постановка проблемы
Социальное дистанцирование как профилактическая мера, направленная на сокращение новых случаев инфицирования COVID-19 путем уменьшения физического контакта между людьми, привело к активному развитию онлайн-коммуникации и исследований в этой области. В настоящее время социальные сети используются как инструмент для продвижения превентивных и контролирующих мер в области здравоохранения, особенно в контексте чрезвычайных ситуаций, но, с другой стороны, они выступают и открытыми площадками для развития каскадов дезинформации различных сетевых акторов (агентов, политических сил).
Причем в современных условиях сложилась уникальная ситуация с распространением дезинформации, связанной с пандемией коронавируса, которая получила название инфодемии. Сам этот термин появился в феврале 2020 г., и был взят на вооружение представителями ВОЗ, когда генеральный директор ВОЗ Т. А. Гебреесус заявил: «Мы не просто боремся с эпидемией; мы боремся с инфодемией» [Zarocostas, 2020]. Инфодемия — это распространение совокупности текстов, включающих недостоверную, ложную информацию, слухи, страхи, панические измышления, некомпетентные советы, происходящее с невиданной прежде скоростью и масштабом. Как отмечал представитель ВОЗ С. Бриан, любая масштабная эпидемическая вспышка сопровождается своего рода «цунами информации», в которых есть место дезинформации, слухам и проч. Однако новые вызовы связаны с механизмами их распространения в современных социальных сетях—когда этот процесс кардинально убыстряется и расширяется, поскольку информация передается подобно вирусам, заражающим сознание людей посредством таких коммуникативных механизмов социальных сетей, как лайки, репосты и т. д.
В практическом плане инфодемия представляет серьезную опасность, поскольку может ускорить эпидемический процесс, воздействуя на социальную реакцию и фрагментируя ее [Kim, Fast, Markuzon, 2019], конструируя и распространяя опас-
ные модели поведения (например, ковид-диссидентство, отказ от самоизоляции и средств защиты), что затрудняет деятельность правительственных организаций и национальных систем здравоохранения по борьбе с заболеванием. Для исследователей феномен инфодемии представляет особый интерес, поскольку позволяет выявить и описать новые формы дезинформации, механизмы ее распространения в социальных сетях, многослойный и диверсифицированный характер мировой дезинформационной среды, последствия ее воздействия на социальные отношения и способы противостояния ей.
Одним из наиболее перспективных направлений в спектре указанных проблем, на наш взгляд, является изучение латентных механизмов пропагандистского воздействия, включающего дезинформацию и осуществляемого на основе темы коронавируса в интересах конкретных социальных акторов. Это и определяет исследовательский фокус данной статьи.
Теоретической рамкой исследования служит концепт компьютерной пропаганды. Это новое исследовательское направление для российского социально-гуманитарного знания. Оно связано с разработками междисциплинарной группы исследователей (специалистов в области компьютерных наук, политологов, социологов и т. д.) в рамках проекта COMPROP на базе Оксфордского института Интернета (Oxford Internet Institute). Они изучают, каким образом политические субъекты и структуры манипулируют общественным мнением через социальные сети, используя различные компьютерные технологии, в том числе конструируя ложные сообщения (фейковую информацию) и распространяя их при помощи специальных алгоритмизированных программ (социальных ботов).
Попытка первичной концептуализации данного направления была предпринята в коллективной монографии под редакцией С. Вулли и Ф. Ховарда, изданной в Оксфорде и объединяющей исследования 12 ученых из девяти стран (Россия, Украина, Канада, Польша, Тайвань, Бразилия, Германия, США, Китай), описывающих опыт и практики данного феномена [Woolley, Howard, 2018] 1. Компьютерная пропаганда трактуется как новое явление и новая область исследования цифровой дезинформации и манипуляции. «Как коммуникативная практика компьютерная пропаганда описывает использование алгоритмов автоматизации с целью полного управления и распространения вводящей в заблуждение информации в социальных сетях» [ibid.: 4], когда новые автоматизированные социальные субъекты используются для поддержки конкретных политиков и политических позиций, заглушая любые несогласные голоса и создавая иллюзию подавляющего превосходства. Негативная коннотация в оценке компьютерной пропаганды связана с тем, что исследователей интересуют преимущественно скрытые информационные воздействия, требующие анонимности субъектов пропаганды, которая обеспечивается современными алгоритмизированными технологиями.
При концептуализации понятия компьютерной пропаганды авторы разделяют социальный и технический аспекты этого феномена. Как социальное явление компьютерная пропаганда представляет собой новейшую форму пропаганды, а именно форму специфической коммуникации, которая для достижения целей
1 Описание структурных характеристик данного концепта в сравнении с традиционным пониманием пропаганды дано в работе [Василькова, Трекин, 2020].
политических акторов избирательно искажает символы и смыслы, обращаясь преимущественно к эмоциональной и бессознательной сфере. Как техническое явление компьютерная пропаганда базируется на новых технологических основаниях (наличие платформ социальных медиа, Big Data, алгоритмизированные агенты) и включает новые инструменты (социальные боты, автоматически распространяющие контент, фейковые новости в социальных сетях). Социальные боты — это основной канал компьютерной пропаганды. В широком смысле под социальными ботами понимают алгоритмизированные программы, которые автоматически создают контент и взаимодействуют с другими пользователями социальных сетей, продвигая данный контент [Ferrara et al., 2016; Василькова, Легостаева, Радушевский, 2019а: 23]. К ним относятся не только ложные ак-каунты, но и действующие в социальных сетях чат-боты, предназначенные для диалогового общения с человеком с использованием естественного языка, спам-боты, интенсивно тиражирующие публикации по заданной теме, боты-сканеры, собирающие информацию по заранее определенному техническому заданию, если они фильтруют или агрегируют социально значимую информацию, а также с трудом поддающиеся идентификации гибридные, полуавтоматизированные боты-киборги [Gorwa, Guilbeault, 2018].
На наш взгляд, в контексте нового концепта компьютерной пропаганды можно рассматривать современные публикации по фейкам и ботам, в которых фиксируется своего рода синергетический эффект их совместного воздействия на аудиторию социальных сетей и пересекающиеся технологии их обнаружения. В этом плане хотелось бы выделить серию публикаций, в которых реализуется междисциплинарный подход к обнаружению фальшивых новостей в социальных сетях и осуществляется синтез методов машинного обучения, сетевого анализа, компьютерной обработки языка и поиска информации для анализа, включающих как изучение содержания, так и исследование способов распространения фейков. При этом ложные новости обнаруживаются по трем направлениям: 1) анализ специфических характеристик новостного контента; 2) анализ шаблонов распространения новостей, включая роль профилей пользователей; 3) взаимодействие пользователей с новостями [Shu et al., 2019; Zhou, Zafarani, 2019; Zhou et al., 2019; Guo, 2020].
Что касается литературы по социальным ботам, то применительно к тематике данной статьи мы считаем целесообразным упомянуть несколько работ, где рассматривается роль социальных ботов в распространении ложных новостей, злонамеренной дезинформации, в первую очередь политического характера [Bessi, Ferrara, 2016; Vosoughi, Roy, Aral, 2018; Grinberg et al., 2019; Shao et al., 2018; Daniel, Millimaggi, 2020; Василькова, Легостаева, 2019]. Также важны работы, в которых изучается роль социальных ботов в обсуждении проблем общественного здравоохранения с намеренным искажением информации, распространением утверждений, противоречащих научным данным [Broniatowski et al., 2018.; Qi, AlKulaib, Broniatowski, 2018].
В контексте сказанного исследовательскую цель статьи можно определить как анализ использования социальных ботов для пропагандистского воздействия, осуществляемого на информационной волне коронавирусной эпидемической ситуации.
Специфической особенностью анализируемой ситуации, отмеченной в ряде зарубежных исследований по данной тематике, является актуализация конспиро-логических нарративов в условиях современной инфодемии. По мнению авторов статьи, конспирологические нарративы можно рассматривать как объяснительные модели для фокусировки потенциального пропагандистского сообщения 2.
Для реализации поставленной исследовательской цели в первой части статьи будет представлен аналитический обзор статей и интернет-источников, в которых описаны новые формы и способы дезинформации в различных социальных сетях, возникшие на волне коронавирусной инфодемии — фейковых новостей, социальных ботов, а также методы их обнаружения и противодействия им. Вторая часть статьи будет посвящена описанию результатов пилотажного исследования по выявлению и описанию бот-сетей в процессе тематического мониторинга социальной сети «ВКонтакте», которые были связаны с тематикой коронавируса и функционирование которых может быть интерпретировано в контексте компьютерной пропаганды.
Фейки и боты о коронавирусе в социальных сетях (обзор источников)
Исследования по проблемам распространения дезинформации о COVID-19 в социальных сетях мы можем разделить в соответствии с их тематической акцентуацией на две группы: содержательные особенности ложных новостей; характер распространения ложных новостей с участием социальных ботов.
Содержательные особенности ложных новостей
Британские исследователи Н. Маршал, Ю. Ау и Ф. Н. Ховард опубликовали результаты исследования содержания новостей о COVID-19 на основе контент-анализа наиболее популярных поисковых запросов на YouTube [Marchai, Au, Howard, 2020]. Отобранный видеоконтент по запросам «коронавирус в Великобритании», «коронавирус в Китае», «коронавирус симптомы», «заговор коронавируса» (всего 320 видео с января по апрель 2020 г.) был классифицирован по четырем категориям в соответствии с: 1) типом доказательств; 2) степенью политизации; 3) фактической точностью информации. В результате зафиксировано, что в ответах на запросы «коронавирус в Великобритании» преобладают фактические и нейтральные (с политических позиций) сообщения (80 %). Что же касается запроса «заговор коронавируса», то две трети сообщений связаны с политизированным контентом или идеологически мотивированными попытками конспирологических разоблачений. Также обнаружена заметная корреляция конспирологической и политизированной по своей направленности информации с запросом «коронавирус в Китае». И, наконец, было показано, что новости и информация о здоровье с высокой степенью политизации являются лидерами по количеству комментариев, вызывая наибольший общественный интерес.
Ученые Германии и США изучали распространение потенциально вредного и тревожного контента, такого как теории заговора и синофобский нарратив, поскольку считается, что COVID-19 происходит из Китая [Schild et al., 2020]. Авторы
2 См. об этом также [Cubitt, 1989; Бразертон, 2017] и Почепцов Г. Коронавирус, конспирология и пропаганда: победы без победителей. URL: https://www.aup.com.ua/koronavirus-konspirologiya-i-propaga (дата обращения 24.12.2020).
собрали и проанализировали два крупномасштабных набора данных из 4chan's / pol / 3 и Twitter и пришли к выводу, что COVID-19 вызвал рост синофобского контента преимущественно в периферийных веб-сообществах (таких как / pol /), и в меньшей степени — в основных, таких как Twitter.
Особый интерес представляет работа калифорнийских исследователей, посвященная выявлению целого ряда конспирологических нарративов в сетевых сообществах [Shahsavari et. al., 2020]:
1) вирус связан с сетью 5G, что объясняет китайское происхождение вируса через присоединение к коммуникационному гиганту Huawei;
2) случайное или преднамеренное высвобождение вируса из китайской (или неустановленной военной) лаборатории и его использование в качестве биологического оружия;
3) обман человечества глобалистской кликой, поскольку вирус не более опасен, чем легкий грипп или простуда;
4) использование пандемии как негласной операции, поддерживаемой Биллом Гейтсом, в которой пандемия и всеобщая вакцинация являются прикрытием для разработки глобального режима наблюдения.
При этом отмечается, что происходит борьба этих нарративных структур за внимание, поскольку еще не сложился единый корпус конспирологических трактовок эпидемии и нет единства в определении виновных и врагов.
К исследованиям, связанным с изучением контента ложных новостей о COVID-19, относятся анонсирование и описание эвристических возможностей создаваемых баз данных (публичных репозиториев), которые могут быть полезными для изучения динамики распространения надежной и ложной информации в контексте эпидемической вспышки. Ряд публикаций посвящен формируемому и постоянно обновляемому общедоступному многоязычному набору данных по ко-ронавирусу в Twitter (репозиторий COVID-19-TwitterIDs GitHab). Обработка этого набора данных позволяет не только показать динамику дискурса о коронавирусе с привязкой к значимым в этом плане событиям, но и отследить дезинформацию и непроверенные слухи по данной теме и в конечном счете, по мнению авторов, способствовать внедрению обоснованных решений и целенаправленных политических мер для борьбы с глобальным кризисом [Chen, Lerman, Ferrara, 2020a]. Начиная с 28 января 2020 г. при использовании потоковой Twitter API и Tweepy собраны более 50 млн твитов при отслеживании определенных тем, ключевых слов и аккаунтов [Chen, Lerman, Ferrara, 2020b]. Было отмечено, что динамика дискурса отражает наиболее значимые события с COVID-19 в различных странах — первые случаи заболевания и первые смерти от коронавируса. (Данную закономерность обнаружила и другая группа исследователей [Alshaabi et al., 2020], формирующая временные ряды ключевых слов, связанных с COVID-19, на 24 языках в Twitter). Оригинальные методы сбора и обработки данных предлагают создатели мультимодального репозитория для исследования достоверности новостей COVID-19 ReCOVery [Zhou et al., 2020]. С января по май 2020 г. было
3 4chan's / pol /.4chan — это имиджборд, который позволяет анонимно размещать информацию. Имиджборд разделен на несколько подсообществ, называемых досками: на каждой доске есть определенная тема и политика модерации. Доска (/ pol /)—это основная доска для обсуждения мировых событий [Schild et al., 2020: 2].
собрано 2029 новостных статей о коронавирусе и 140 820 твитов, по которым можно понять, как эти новостные статьи распространяются в социальных сетях. Репозиторий дает возможность исследовать, каким образом создаются и распространяются новости с низким уровнем доверия, а также позволяет прогнозировать появление «поддельных» новостей. Уникальность авторского подхода заключается в том, что ReCOVery содержит мультимодальную информацию о новостных статьях по COVID-19, которая включает текстовую, визуальную, временную и сетевую компоненты. В целом разработки такого рода представляют не только теоретическую (аналитическую) ценность, поскольку предоставляют коллективно-разделяемый и востребованный опыт способов получения, обработки и использования данных, но и практическую ценность, так как создают основу для отбора достоверных данных, позволяющую вырабатывать приемы «информационной гигиены» для мирового сообщества, алгоритмы по технологической превенции инфодемии.
Распространение ложных новостей с участием социальных ботов
Важным направлением в изучении характера распространения ложных новостей о COVID-19 с участием социальных ботов является анализ специфики этих процессов на платформах различных социальных сетей. В этом плане интересно масштабное исследование, включающее сравнительный анализ пяти социальных сетей во время чрезвычайной ситуации в области здравоохранения, связанной с COVID-19 (Twitter, Instagram, YouTube, Reddit и Gab), и использующее модель распространения эпидемии для моделирования распространения информации в социальных сетях. Авторы пришли к выводу, что решающую роль в распространении информации и дезинформации играют модели взаимодействия каждой платформы социальных сетей в сочетании с особенностями ее аудитории [Cinelli et al., 2020] (в частности, наиболее восприимчивой к распространению дезинформации оказалась платформа Gab). При этом информация, помеченная как надежная или сомнительная, не показывает существенных различий в способах распространения, поскольку распространение информации обусловлено парадигмой взаимодействия, навязываемой конкретными социальными сетями и/ или конкретными моделями взаимодействия групп пользователей в них.
Кстати, к сходным выводам немного ранее пришли ученые из Массачусетского технологического института. Анализируя распространение истинных и ложных новостей в Twitter, они показали, что человеческое поведение в большей степени способствует распространению лжи и правды, чем автоматизированные роботы, и это необходимо учитывать при формировании политики сдерживания дезинформации [Vosoughi, Roy, Aral, 2018: 1149]. Авторы обнаружили, что ложные политические новости распространяются быстрее и являются более вирусными по сравнению с другими категориями ложной информации. Одну из причин этого они видят в их новизне, которая привлекает внимание пользователей и поощряет обмен информацией. В социальных сетях быстрый обмен реакциями становится важнее, чем глубинная работа по установлению достоверности сообщения.
Итальянские исследователи, анализируя эпидемический характер инфодемии, вводят понятие «инфодемика» — «результат одновременного действия множества человеческих и нечеловеческих источников фейковых или ненадежных новостей»
[Gallotti et al., 2020: 3]. Авторы рассчитали индекс инфодемического риска и создали инфодемическую карту мира. В результате обработки более 112 млн сообщений Twitter на 64 языках о COVID-19 в период с 21 января по 10 марта 2020 г. сделан ряд важных выводов. Во-первых, использование современных методов машинного обучения для анализа онлайн-поведения пользователей позволило обнаружить необычную активность автоматических агентов, относящихся к социальным ботам (40,4 % онлайн-сообщений за этот период были связаны с такими автоматизированными агентами, что вдвое превышает их активность по сравнению с оценками четырехлетней давности). Во-вторых, инфодемики обычно вызываются совместными действиями как человеческих, так и нечеловеческих субъектов (ботов), преследующих в основном скрытые цели. В-третьих, можно говорить о развитии интегрированного подхода к общественному здравоохранению, в котором биологические и информационные аспекты в равной степени признаются важными (в будущем речь может идти о подготовке новых высокоспециализированных профессионалов, таких как «инфодемиолог»).
Наиболее подробное исследование, в котором представлены доказательства того, как социальные боты используются в манипулятивных целях, пропагандируя на фоне актуальной тематики COVID-19 политически ориентированные конспиро-логические нарративы, представлено в работе Э. Феррара [Ferrara, 2020] 4. Анализ аккаунтов и их контента в Twitter по авторской методике (за период с 22 января по 12 марта 2020 г.) позволил выделить три группы аккаунтов с различными шаблонами поведения:
1) аккаунты с низкими оценками ботов (люди);
2) аккаунты с высокими оценками ботов с новостным контентом (новостные боты);
3) аккаунты с высокими оценками ботов с конспирологическим политизированным контентом (конспирологические боты).
Показано, что люди-пользователи ориентированы преимущественно на обсуждение вопросов здравоохранения и благосостояния (здоровье, профилактические меры, образ жизни, принятые правительством ограничения, экономическая ситуация). Новостные боты, как правило, автоматически собирают и сопоставляют информацию с новостных сайтов ведущих американских и мировых СМИ, новостных агентств, а также новостных ботов в Twitter (например, SmartNews). Конспирологические боты содержат ключевые слова и хештеги, в которых присутствуют термины, связанные с продвижением альтер-правых организаций США (QAnon 5, WWGWGA 6, infowars, GreatAwakening и др.). Конспирологические нарративы сопровождаются такими сенсационными заголовками, как «Вирус был сделан в лаборатории Ухани», «Вирус является глобалистским биологическим оружием», «Вирус был импортирован в Китай военными США», «Продукты из Китая могут быть заражены вирусом». Другие хештеги и ключевые слова, связанные с этими
4 О политизации пандемии и ключевой роли в этом процессе социальных ботов на примере Twitter пишут также [Yang, Torres-Lugo, Menczer, 2020].
5 QAnon — наиболее влиятельное правое движение, связанное с конспирологической интерпретацией роли Д. Трампа в борьбе против «заговора сатанистов», среди которых—лидеры демократической партии США, а также многие американские знаменитости.
6 WWGWGA (Where We Go One We Go All) — аббревиатура сторонников QAnon, в переводе «Где один, там мы все».
нарративами, включают в себя проблемы свободы слова, внедрения технологии 5G, заговора с участием ботов.
Динамика активности этих трех типов аккаунтов существенно отличается и демонстрирует различия в их целях. Новостные боты были активны более-менее равномерно в течение всего исследуемого периода. Аккаунты пользователей-людей показывают два пика активности — в конце января (появление COVID-19 в США) и в начале марта (первый смертельный случай в США). Между этими двумя всплесками возникали конспирологические нарративы на основе активности ботов, которые заполнили своего рода информационный «пробел», сместив на короткий период содержательный акцент с общественного здравоохранения на политическую идеологию. Этот тип поведения ботов уже был замечен ранее [Metaxas, Mustafaraj, 2012; Hadgu, Garimella, Weber, 2013] и может быть описан так: боты движутся на волне популярности определенной темы (в данном случае—œVID-19), чтобы ввести преднамеренное сообщение или нарратив и привлечь к нему внимание.
Таким образом, анализ источников показывает, что информационная волна материалов по коронавирусу используется в целях пропаганды—для продвижения политизированного контента и конспирологических нарративов, стремящихся найти виновных в глобальном бедствии. В связи с этим значимым становится анализ российского материала такого рода — выявление бот-сетей, связанных с тематикой коронавируса, и интерпретация их деятельности в контексте компьютерной пропаганды.
Ботнеты на информационной волне коронавируса (по материалам эмпирического исследования)
Метод
Поиск ботнетов, связанных с тематикой коронавируса, являлся одним из направлений масштабного мониторинга повестки по инфоповодам, связанным с пандемией COVID-19 и сопутствующими проблемами в социальной сети «ВКонтакте», проводимого сотрудниками Центра социологических и интернет-исследований Санкт-Петербургского государственного университета с 16 марта 2020 г. по настоящий момент. Ботнет авторы определяют как публикационный комплекс, использующий N1 технологических аккаунтов для согласованной публикации информационных материалов определенной тематической направленности N2 тиражом в N3 местах размещения (Nn — задаваемый количественный параметр). При этом технологические аккаунты — это бот-аккаунты, которые представляют собой часть автоматического или полуавтоматического (с использованием оператора/ов) публикационного комплекса в социальной сети «ВКонтакте». Публикационный комплекс включает в себя пять компонентов: технологические аккаунты, места размещения публикаций, публикации, программное обеспечение, оператора/ов.
Для поиска ботнетов за период с 16 марта по 26 мая 2020 г., публикующих тексты на тему COVID-19 в социальной сети «ВКонтакте», была использована методика анализа всплесков сетевой публикационной активности (СПА) (см. рис. 1) в сочетании с авторской методикой выявления структур ботнетов, объединяющей метод частотного анализа размещаемых сообщений, профайлинг бот-аккаунтов, включающий статичный и поведенческий анализ данных профиля пользователя,
статистическим анализ текстов с помощью построения временных гистограмм периода распространения контента с параллельной визуализацией графов соотношения «текст—автор», анализ структурной организации бот-сети, а также анализ контента текстов для определения тематики ботнета (подробнее о методике см. [Василькова, Легостаева, Радушевский, 2019Ь]). Новизна и эффективность методики анализа всплесков СПА связаны с тем, что она позволяет оперативно локализовать функционирование бот-сетей в определенный период и по определенной теме и концентрирует внимание на резком увеличении числа публикаций в определенный период времени. Визуализация графа взаимосвязи «текст—автор» в конкретный период времени с заданными ключевыми словами позволяет выявить количество ботов в ботнете и количество публикаций, тиражируемых в данный период. Благодаря временным гистограммам можно увидеть скорость тиражирования публикации и классифицировать процесс как естественный или искусственный (от 1 минуты до 30 минут). Данная методика дает возможность сконцентрировать внимание на всплеске СПА, причинами которого могут быть как резкое естественное распространение публикаций (по актуальной/топовой теме) пользователями социальной сети «ВКонтакте», так и искусственное распространение публикаций (одномоментное/за короткий промежуток времени), что характерно при активации или привлечении деятельности ботнетов.
Рис. 1. Сетевая публикационная активность (СПА) с 16 марта по 26 мая 2020 г.
Сбор данных (постов) производился в социальной сети «ВКонтакте» и охватывал как персональные открытые страницы пользователей, так и посты открытых онлайн-сообществ (групп, страниц, событий). Для формирования массива данных № 1 с целью поиска повестки по инфоповодам, связанным с пандемией С0УЮ-19, а также возможных ботнетов, действующих в этом тематическом поле, был сформирован список ключей. Список ключевых слов был составлен на основе анализа
цифровых СМИ, результатов опросов, рейтингов, списков тиражируемых текстов за определенный период. К политическим ключам были отнесены такие как «власть», «президент», «губернатор», «мэр», «администрация», «путин», «глава» и др.; к медицинским ключам—«карантин», «covid», «вирус», «инфекция», «врач», «коронавирус», «короновирус», «скорая», «лекарства», «эпидемия», «медицинский», «больница», «здравоохранение», «самоизоляция», «пандемия», «изоляция» и др.; к ключам в социальной сфере—«права человека», «школа», «новости», «жители» и др. Второй этап работы с массивом данных заключался в добавлении ключей, которые помогли бы сформировать массив данных № 2, содержащих информацию по Санкт-Петербургу: «спб», «питер», «петербург», «петербургский», «питерский». Третий этап работы с массивом данных № 3 включал разбивку на тематические блоки: бизнес, карантин, молодежь, паника, полиция, протест, самоизоляция, средства защиты. Двухэтапная корректировка исходного массива данных с помощью тематической и геолокационной детализации по Санкт-Петербургу, во-первых, дает наиболее точный результат с точки зрения соответствия ключей и тематической направленности ботнета. Во-вторых, уменьшение первоначального массива данных за счет введения ключей «спб», «питер», «петербург», «петербургский», «питерский» авторы использовали для того, чтобы минимизировать затраты по фильтрации спама и нерелевантных публикаций, поскольку исследование носило пилотажный характер. За исследуемый период массив данных № 3 составил 149 697 постов.
В ходе проведения исследования было использовано следующее программное обеспечение: ElasticSearch (сбор и хранение информации), Kibana, Tableau Desktop, Tableau Server (визуализация данных) и скрипты на PHP для скачивания информации, используя VK API, и ее обработки. По собранным данным были построены временные гистограммы, включающие в себя временной параметр распространения текста, а также визуализацию пары «тираж контента — число авторов» («count—authors»), что демонстрирует структуру ботнетов, которая описана ниже. Алгоритм сбора и обработки информации см. в Приложении.
Результаты
В результате пилотажного исследования по поиску ботнетов, связанных с темой COVID-19 по Санкт-Петербургу, было выявлено восемь ботнетов, в структурах которых функционировали 889 ботов. Описание структуры выявленных ботнетов содержит следующие параметры: количество ботов в ботнете, тираж одной публикации (тираж публикации — общее число экземпляров одной публикации, сделанной ботнетом), структура ботнета, период анализа работы ботнета, образец публикации или фрагмента публикации.
Ботнет № 1 и ботнет № 2 выявлены по всплеску ключа «карантин» (см. рис. 2). Количество ботов в ботнете № 1—82 группы во «ВКонтакте» (groups), тираж одной публикации — 82. Ботнет тиражирует во «ВКонтакте» информацию с электронного СМИ «КМВ Новости информационное агентство». За период с 18 марта по 7 апреля 2020 г. ботнет № 1 публиковал тексты на тему «Новости COVID-19 в РФ и в мире» (см. рис. 3), которые включали информацию о продлении ограничительных мер в Санкт-Петербурге, о вспышке коронавируса в психоневрологическом интернате Санкт-Петербурга и др.
Рис. 2. Всплеск сетевой публикационной активности (СПА) по ключу «карантин» 22 марта 2020 г. (красным кругом фиксируется всплеск сетевой публикационной активности) 7
По состоянию на 9 апреля 2020 года количество заболевших СОУЮ- 19 в Ставропольском крае увеличилось до 42 человек Об этом на своей странице в инстаграм рассказал глава региона Владимир Владимиров. «Дорогие земляки! Эпидснтуация с коронавирусом продолжает меняться. Мы получили ещё три подтверждения этого диагноза. Выздоровело 6 человек. Вместе с тем, сейчас у нас 7 пациентов с подозрением на коронавирус. В крае зарегистрировано 42 случал заболеваний», - прокомментировал Владимиров. Он добавил, что медики в ожидании результатов итогового тестирования. Все заболевшие находятся на карантине и под наблюдением специалистов. Напомним, накануне в поселке Иноземцеве умерла 53-летняя женщина заболевшая корон авирусом.
До 42 человек увеличилось количество больных короыавирусом на Ставрополье
news-kfflv.ru
Рис. 3. Образец публикации ботнета № 1
Количество ботов в ботнете № 2—27 страниц (pages), тираж одной публикации — 27. За период с 18 марта по 7 апреля 2020 г. ботнет № 2 публиковал тексты по теме «Новости COVID-19 в Санкт-Петербурге» (см. рис. 4), включающие
7 График показывает, что ключ «карантин» опережает все остальные (он выше на графике). Это говорит о том, что мы выбрали верный ключ, по которому по теме «COVID-19» было сделано больше всего публикаций, и первый всплеск позволил нам обнаружить первые два ботнета.
статистику по числу заболевших и умерших в мире, в России, в Санкт-Петербурге, видеоматериалы о режиме всеобщей самоизоляции в Москве и Санкт-Петербурге, продлении запрета на массовые мероприятия в Санкт-Петербурге и др.
СЕГОДНЯ, 28 МАРТА 2020 ГОДА, В САНКТ~ПЕТЕРБУРГЕ В БОЛЬНИЦЕ
ИМЕНИ БОТКИНА УМЕР ПЕРВЫЙ ЗАРАЖЕННЫЙ КОРНАВИРУСОМ ■■■■■■■■■■■■■■■■В
В САНКТ~ПЕТЕРБУРГЕ ВПЕРВЫЕ В РОССИИ ЗА ПОБЕГ ИЗ МЕСТА ПРИНУДИТЕЛЬНОГО КАРАНТИНА
ВОЗБУЖДЕНО УГОЛОВНОЕ ДЕЛО В ОТНОШЕНИИ БОЛЬНОГО ПАЦИЕНТА
Рис. 4. Образец публикации ботнета № 2
Ботнет № 3 выявлен по всплеску ключа «самоизоляция» (см. рис. 5). Количество ботов в ботнете № 3—165 групп (groups), тираж одной публикации — 165. 10 апреля 2020 г. ботнет № 3 опубликовал текст на тему «Индекс самоизоляции по РФ по результатам опроса, проведенного ВЦИОМ» 8.
Фрагмент текста ботнета № 3:
Специалисты ВЦИОМ проводили опрос 30 марта и 2 апреля методом телефонного интервью среди 1600 жителей России в возрасте от 18 лет. Максимальный размер ошибки с вероятностью 95 % не превышает 2,5 %.
В конце марта «Яндекс» начал рассчитывать индекс самоизоляции для российских городов по шкале от нуля до пяти. 28 марта российские города-миллионеры изолировались в среднем на 3 балла. Москва получила 2,9 баллов, Петербург, Воронеж, Омск, Новосибирск по 3,0, Красноярск, Челябинск, Пермь по 3,2. Нижний Новгород, Самара, Уфа, Екатеринбург набрали по 3,1 балла. Волгоград и Казань получили по 2,8 баллов. Хуже всех справляется с задачей Краснодар всего 2,6 баллов.
Ботнет № 4 выявлен по всплеску ключа «полиция» (см. рис. 6). Количество ботов в ботнете № 4—450 групп (groups), тираж одной публикации — 450. 9 апреля 2020 г. ботнет № 4 опубликовал текст, связанный с новостями в России и в мире, в том числе включающими тему «COVID-19». Образец текста ботнета № 4:
Согласно результатам нового исследования, проведенного учеными из Школы общественного здравоохранения Мичиганского университета, четыре из семи известных ко-
8 Орфография и пунктуация во фрагментах текстов, тиражируемых ботнетом, сохранены.
ронавирусов человека вызывают сезонные эпидемии аналогично гриппу. Большинство случаев заболевания отмечается в зимние месяцы. Российские военные врачи приняли первых пациентов с коронавирусом в итальянском городе Бергамо. Пациенты находятся под наблюдением докторов. Приём прошёл в полевом госпитале, сейчас там находятся десять пациентов.
Дата [Алрсла гКО]
Рис. 5. Всплеск СПА по ключу «самоизоляция» 10 апреля 2020 г.
Дата [Д*еел1.2020]
Рис. 6. Всплеск СПА по ключу «полиция» 9 апреля 2020 г.
Ботнет № 5 выявлен по всплеску ключа «бизнес» (см. рис. 7). Количество ботов в ботнете № 5—14 групп (groups), тираж одной публикации — 14. 25 апреля 2020 г. ботнет № 5 опубликовал текст, связанный с критикой местной и федеральной власти как в ситуации пандемии COVID-19, так и в решении других социальных и политических вопросов.
В публикации текста ботнета под названием «Медицинский ад» авторы связывают напряженную ситуацию пандемии с результатами федеральной политики оптимизации системы здравоохранения в последние десятилетия, когда «медицина планомерно уничтожалась»:
В ряде серьезных публикаций многое было сказано о недостатках российского здравоохранения: о более чем 2-х-кратном снижении числа стационаров, закрытии многих родильных домов, уменьшении числа врачей, фельдшеров и медицинских сестер, низких их зарплатах и больших у них переработках, проблемах с дорогами и сантранс-портом в сельской местности, да и во многих больших и малых городах, увеличении объема платных медицинских услуг при низких доходах населения и многодневном ожидании в очередях нужных исследований (ФГДС, УЗИ, КТ, МРТ и др.), трудностях с получением, а порой и недоступностью так нужных лекарств, квот на высокотехнологичные хирургические вмешательства, превышении смертности над рождаемостью в последние годы и т.д. и т. п.
Данный текст заканчивается обвинением федеральных властей в некомпетентности и призывами не голосовать за поправку к Конституции «об обнулении сроков правления президента».
В публикации «МЫ НЕ РАСХОДНЫЙ МАТЕРИАЛ. ОБРАЩЕНИЕ К ЧЛЕНАМ УЧАСТКОВЫХ ИЗБИРАТЕЛЬНОЙ КОМИССИИ» члены избирательных комиссий обращаются с призывом не участвовать в организации голосования по поправкам в Конституцию 1 июля в связи с опасностью заражения коронавирусом:
Участвуя в организации голосования 1 июля, мы не только подвергаем смертельной опасности жизни наших семей, мы рискуем стать настоящими убийцами и для многих избирателей. Ведь мы отлично знаем, какую сознательность при любых голосованиях проявляют люди старших возрастов. Но именно для них коронавирус особенно опасен. А нам предстоит ходить из квартиры в квартиру с переносными урнами в течение семи дней—это самый верный способ распространения болезни. Голосование 1 июля—это бессмысленный риск... и мы просто не понимаем, зачем нужны такие жертвы и риски, почему надо проводить это голосование сейчас и такой ценой.
В другой публикации обсуждается сама процедура предстоящего голосования и звучит призыв к протесту:
У вас есть право не участвовать в лживой процедуре голосования по поправкам. Итоговые цифры они все равно напишут, как захотят. А вы почувствуете, что мы становимся вместе. Вместе против лжи и развала страны. Вы сделаете свой шаг! А следующий шаг, когда станем вместе, тоже будет!
Рис. 7. Всплеск СПА по ключу «бизнес» 25 апреля 2020 г.
Ботнет № 6 выявлен по всплеску ключа «карантин» (см. рис. 8). Количество ботов в ботнете № 6—50 групп (groups), тираж одной публикации — 50. 29 апреля 2020 г. ботнет № 6 опубликовал текст, связанный с критикой действующей власти Санкт-Петербурга и РФ в период пандемии COVID-19, в котором осуждаются принимаемые меры по борьбе с заболеванием («уничтожение экономики города и страны», введение карантина) и делается вывод о некомпетентности власти (см. образец текста ботнета № 6 на рис. 9).
Рис. 8. Всплеск СПА по ключу «карантин» 29 апреля 2020 г.
^ЩРР 29 апр в 17=02 О ПОЛОВИНА НАСЕЛЕНИЯ
Носителями коронавируса являются не только больные с подтвержденным диагнозам, но и почти половина жителей Санкт-Петербурга, заявила tiilHтерфаксу» пресс-секретарь управления Роспотребнадэора по северной столице в понедельник Елизавета Скорынина.
«Сейчас почти 50% горожан являются Бессимптомными носителями вируса С OVIO-19, потому что идет такое заражение», — подчеркнула Скорыми на, сославшись на заявление главного государственного санитарного врача РФ Анны Поповой.
Говоря иначе, и безо всякого карантина эпидемия прошла положенный путь, и если половина пятимиллионного города уже переболела, а трупов вповалку на улицак не на&л гадаете я, то все идёт по плану. И совершенно не нужно было уничтожать экономику города и страны: коллективный иммунитет выработался и 5еэ этого идиотизма, Кого точно нужно изолировать, так это невменяемое руководство страны и всю вертикаль, принимающих смертельно опасны« решения.
Кроме тоге, если половина жителей Петербурга уже переболели или болеют в бессимптомном оидс, то чем зю все отличается от стандартной сезонной эпидемии ОРВИ, сказать становится все сложнее. А уж объяснить, на основании чего е стране происходят откровенно безумные события, скорее всего, невозможно вообще. Единственное объяснение — власть настолько некомпетентна, что принимаемые ею решения совершенно перестали соответствовать реальным проблемам и угрозам,
Ботнет № 7 выявлен по всплеску ключа «паника» (см. рис. 10). Количество ботов в ботнете № 7—70 групп (groups), тираж одной публикации — 70. 4 мая 2020 г. ботнет № 7 опубликовал текст, анализ контекста которого позволяет говорить о наличии в нем двух конспирологических нарративов.
Первый связан с «вредоносным характером» массового внедрения биометрических данных — при оформлении загранпаспортов, банковского обслуживания, оформления водительских прав, обслуживания в магазинах и т. д.
Фрагмент текста № 1 ботнета № 7:
ОБРАЩЕНИЕ К НАРОДУ — ПРОСЫПАЙТЕСЬ!
Если мы промолчим, произойдет предательство народа. Не соглашайтесь на РАБСТВО!
Огромная просьба, ДЕЛАЕМ МЕГАРЕПОСТ чтобы об этом узнали другие.
https://vk.com/wall-26255628_87703
Ведь ни кто в здравом уме не захочет подобное будущее.
Лоббисты цифрофашизма хотят перевести все в единую базу, электронный формат,
ЧТОБЫ У НАС НА РУКАХ НЕ ОСТАЛОСЬ НИКАКОГО ДОКУМЕНТА И ДЕНЕГ. И тогда
Рис. 9. Образец публикации ботнета № 6
они смогут крутить человеком как вздумается.
База имеет короткое и говорящие название — БЕС (Биометрическая Единая Система)...Цифровые трудовые книжки начнут выдаваться в 2021 году. Старый образец
вы уже не получите.
Ведется разработка биометрических прав для вождения, 2020 год является последним, когда можно получить права старого образца. Та же ситуация обстоит и с загран паспортом.
— Внедряют биометрию в армии.
— Сбербанк начинает внедрять эту технологию в магазинах (не нужны деньги и карты) вы
приходите в магазин, вам не нужен ни смартфон, ни наличка, ни пластиковая карта, считывают ваши биометрические данные, вы берете продукты и уходите. Идет подготовка к отмене налички.
— Создаются цифровые школы.
Отказ от учебников и переход на личные планшеты, который узнает лицо ребенка и включается.
Система ладошки, сбор отпечатков пальцев. Облучение детей проходными рамками.
Второй конспирологический нарратив представляет глобальный заговор по уничтожению населения отравленными продуктами, водопроводной водой (в которой «будет содержаться психотропное вещество, которое обычно ставится психически больным — это для эффекта усиления паники у людей на фоне коро-навируса»), вакцинами. Коронавирус—лишь прикрытие для таких действий, его на самом деле не существует (см. фрагмент текста № 2 ботнета № 7, рис. 11).
Рис. 10. Всплеск СПА по ключу «паника» 4 мая 2020 г.
С 05,05.2020 ПО ВСЕЙ СТРАНЕ В МАГАЗИНЫ ЗАВЕЗУТ ОТРАВЛЕННЫЕ
Этот яд на основе токсина, который вызывает симптомы корона а и руса. Яд имеет сложный состав соединений ртути, мышьяка и радиоактивного компонента, которые не выводятся из организма, а НАКАПЛИВАЮТСЯ ао организме Показали действие яда на примере свиньи - ей поставили шприцем. Неделю
Потом симптомы проявляются как у обычной простуды. Снижение иммунитета, Свинья болеет кашляет и чикает. Потом её забивают на мясо. В зависимости от дозы и состояния организма человек ничего не почувствует от недели до
Статистику таких людей массово станут списывать на коронавирус.
Начнут травить людей с таких продуктов как свежие мясо и рыба, затем зерно и зерновые продукты, в том числе молоко и яйца.
КОРОН А ВИРУСА КАК ТАКОВОГО НЕ СУЩЕСТВУЕТ, А ЗАРАЖЕНИЕ СМЕРТЕЛЬНОЙ
ИДЁТ ЧЕРЕЗ ПРОДУКТЫ ТАК ЖЕ КАК ЧЕРЕЗ ОТРАВЛЕННЫЕ ТЕСТЫ И ВАКЦИНЫ Рис. 11. Фрагмент текста № 2 ботнета № 7
Скрытое пропагандистское послание, которое базируется на данном нарративе, не только актуализирует недоверие к официальным структурам и государственным организациям здравоохранения, но и имеет маркетинговый оттенок: в распространении отравленных продуктов обвиняются крупные ретейлеры («Магнит, Пятерочка и др.»). В связи с этим формулируются такие призывы, как «не покупать перечисленные продукты в супермаркетах», «покупать продукты у местных производителей», употреблять еду, выращенную «на своей земле». Еще одним объектом разоблачения являются IT-кампании, внедряющие технологии 5G с их вредоносными последствиями («гарантированное нарушение нервной системы, внутренних органов, убитый иммунитет, онкологические заболевания, повреждение ДНК и т. д.»), от применения которых призывают отказаться.
Ботнет № 8 выявлен по всплеску ключа «средства защиты» (см. рис. 12). Количество ботов в ботнете № 8—31 группа (groups), тираж одной публикации — 31. 11 мая 2020 г. ботнет № 8 опубликовал текст о введении обязательного масочного режима в Санкт-Петербурге, в котором содержится оперативная информация о способах изготовления и применения медицинских масок, местах их приобретения, а также текущая информация об уровне заболевания в Санкт-Петербурге (см. рис. 13).
Дат« [Май 2020J
Рис. 12. Всплеск СПА по ключу «средства защиты» 11 мая 2020 г.
Мой Питер
11 мая в 13:37
12 мая в Санкт-Петербурге вводится обязательный масочный режим. Во всех
общественных местах и на улице необходимо будет надевать одноразовые или
многоразовые средства защиты органов дыхания и перчатки. Выгоднее, конечно,
приобрести многоразовые маски. Их достаточно постирать отпарить утюгом и
можно использовать вновь, Менять маску следует каждые 3 часа.
Приобрести средства индивидуальной защиты можно будет в вестибюлях
станций метро, а также, например, здесь:
https://vk.corn/feya_krestnaya_spb
https://vk.com/zashhitnajamaska
https://vk.com/moctest_rentier
Стоимость одной маски с перчатками можно приобрести за 1Б0 рублей. Можно использовать маски, сдепанные самостоятельно {см, рисунок), Все ограничения и запреты, которые были введены в городе из-за коронавируса, сохранятся до конца мая. Это связано с ухудшением санитарно-эпидемиологической обстановки в городе. Так, 8 мая выявлено 425 заболевших, а выздоровело только 65 человек. Одна из причин такого роста - снижение уровня самоизоляции. В последние дни он упал до 2,1.
Как сделать маску
Маска снижает риск заражения окружающих. Она задерживает вирусные частицы, выделяемые при дыхании, кашле и чихании.
г
Изготовление
1. Отмерьте 70 см от бинта, отрежьте. Отрезок разрежьте вдоль на две части и скрутите два жгута.
2. Отмерьте 60 см бинта, на край квадратом уложите вату толщиной да 1 си.
-С-
Рис. 13. Образец публикации ботнета № 8
Выводы и обсуждения
В результате авторского исследования по заданным ключевым словам, связанным с тематикой коронавируса, за период с 16 марта по 26 мая 2020 г. были выявлены восемь ботнетов, которые включают соответственно по 82, 27, 165, 450, 14, 50, 70, 31 ботов. Анализ контента ботнетов показал, что пять из них (№ 1, 2, 3, 4, 8) являются новостными и выполняют роль вспомогательного информационного ресурса в борьбе с пандемией, распространяя информацию о статистике по заболеванию в мире, России, Санкт-Петербурге, режиме самоизоляции, средствах защиты и т. д. Два ботнета (№ 5, 6) имеют политизированную ориентацию оппозиционного характера (критика федеральных и местных властей, системы отечественного здравоохранения) и цель активизировать протестные настроения. Один ботнет (№ 7) содержит конспирологические нарративы, связанные с заговором целенаправленного отравления населения продуктами питания, водой, вакцинами, а также с опасностью «цифрового рабства» населения путем массового введения биометрических данных.
Данная работа является первым российским исследованием, которое зафиксировало наличие социальных ботов, работающих в поле компьютерной пропаганды, когда боты осуществляют своего рода «захват трендов», используя волну популярной темы (коронавируса), чтобы внедрить в информационное пространство социальной сети определенные политические и конспирологические нарративы в пропагандистских целях (в частности, с целью дискредитации определенных политических структур и коммерческих организаций).
Исследование имеет ряд ограничений:
1) первоначальный массив данных был дважды отфильтрован дополнительными ключами с целью мониторинга сетевой публикационной активности и поиска ботнетов, работающих по теме «COVID-19», с содержанием информации по Санкт-Петербургу;
2) период исследования был ограничен датами с 16 марта по 26 мая 2020 г.;
3) пилотажное исследование проходило в социальной сети «ВКонтакте», не затрагивая другие социальные сети;
4) данное исследование является пилотажным и в настоящее время не позволяет с точностью определить долю публикаций, растиражированных ботнетами, от общего массива данных, поскольку ботнет выявляется по всплеску публикаций на конкретную дату без учета мониторинга его публикационной активности за весь исследуемый период. Но в перспективе именно это ограничение может лечь в основу нового исследования по мониторингу ботнет-активности.
Эти ограничения не позволяют сделать вывод об общем ландшафте и соотношении различных типов ботов (новостных, политизированных, конспирологических), функционирующих в данной сети на информационной волне коронавируса 9.
В связи с этим перспективы развития темы авторы видят в расширении мониторинга исследуемых ботов в различных социальных сетях российского интернет-пространства, в изучении более точного временного анализа потока информации,
9 Методика определения тематической направленности ботнетов более подробно представлена в работе авторов «Тематический ландшафт бот-пространства социальной сети „ВКонтакте"» [см. Василькова, Легостаева, Радушевский, 2019b].
содержащего тему «COVID-19», генерируемого и тиражируемого ботнетами (что возможно за счет расширения списка ключевых слов, а также снятия геолокационных фильтров в текстах). Перспективным также представляется анализ коммуникативных тактик, которые используют ботнеты. В частности, нами были обнаружены различия в структуре тиражируемого контента: новостные ботнеты используют короткий текст с картинкой и ссылкой на источник информации; политизированные ботнеты с оппозиционным характером — яркие заголовки, статистику в длинных текстах; конспирологические ботнеты — длинные тексты, которые размещают не только в постах на стенах сообществ, но и в комментариях, что затрудняет их обнаружение и одновременно повышает уровень вовлеченности пользователей социальных сетей в обсуждение тем, продвигаемых ботнетами, поскольку они «встраиваются» в обсуждение и онлайн-диалог между пользователями. Все это актуализирует будущие исследования о диверсификации способов взаимодействия ботов с аудиторией.
Список литературы (References)
Бразертон Р. Недоверчивые умы. Чем нас привлекают теории заговоров. М. : Альпина Нон-фикшн, 2017.
Brotherton R. (2017) Suspicious Minds. Why We Believe Conspiracy Theories. Moscow: Alpina Non-fiction. (In Russ.)
Василькова В. В., Легостаева Н. И. Социальные боты в политической коммуникации // Вестник Российского университета дружбы народов. Серия: Социология. 2019. Т. 19. № 1. С. 121—133. https://doi.org/10.22363/2313-2272-2019-19-1-121-133. Vasilkova V. V., Legostaeva N. I. (2019) Social Bots in Political Communication. RUDN Journal of Sociology. Vol. 19. No. 1. P. 121—133. https://doi.org/10.22363/2313-2272-2019-19-1-121-133. (In Russ.)
Василькова В. В., Легостаева Н. И., Радушевский В. Б. Социальные боты как инструмент развития гражданского участия // Мониторинг общественного мнения: экономические и социальные перемены. 2019а. № 5. С. 19—42. https://doi.org/ 10.14515/monitoring.2019.5.02.
Vasilkova V. V., Legostaeva N. I., Radushevsky V. B. (2019а) Social Bots as a Tool for Developing Civic Participation. Monitoring of Public Opinion: Economic and Social Changes. No. 5. P. 19—42. https://doi.org/10.14515/monitoring.2019.5.02. (In Russ.)
Василькова В. В., Легостаева Н. И., Радушевский В. Б. Тематический ландшафт бот-пространства социальной сети «ВКонтакте» // Журнал социологии и социальной антропологии. 2019b. Т. 22. № 4. С. 202—245. https://doi.org/10.31119/ jssa.2019.22.4.8.
Vasilkova V. V., Legostaeva N. I., Radushevsky V. B. (2019b) Thematic Landscape of the Bot Space of the Social Network "VKontakte". The Journal of Sociology and Social Anthropology. Vol. 22. No. 4. P. 202—245. https://doi.org/10.31119/ jssa.2019.22.4.8. (In Russ.)
В. В. Василькова, Н. И. Легостаева МЕДИАСОЦИОЛОГИЯ
Василькова В. В., Трекин П. А. Компьютерная пропаганда: структурные характеристики и векторы исследования // Вестник Санкт-Петербургского университета. Социология. 2020. Т. 13. № 1. С. 68—83. https://doi.org/10.21638/ spbu12.2020.105.
Vasilkova V. V., Trekin P. A. (2020) Computer Propaganda: Structural Characteristics and Vectors of Research. Bulletin of St. Petersburg University. Sociology. Vol. 13. No. 1. P. 68—83. https://doi.org/10.21638/spbu12.2020.105. (In Russ.)
Alshaabi T., Arnold M. V., Minot J. R., Adams J. L., Dewhurst D. R., Reagan A. J., Muhamad R., Danforth C. M., Dodds P. S. (2020) How the World's Collective Attention is Being Paid to a Pandemic: COVID-19 Related 1-Gram Time Series for 24 Languages on Twitter. arXiv preprint arXiv:2003.12614. P. 1-13. URL: http://arxiv.org/abs/2003.12614 (accessed: 25.12.2020).
Bessi A., Ferrara E. (2016) Social Bots Distort the 2016 US Presidential Election Online Discussion. First Monday. Vol. 21. No. 11. https://doi.org/10.5210/fm.v21i11.7090.
Broniatowski D. A., Jamison A. M., Qi S., AlKulaib L., Chen T., Benton A., Quinn S. C., Dredze M. (2018) Weaponized Health Communication: Twitter Bots and Russian Trolls Amplify the Vaccine Debate. American Journal of Public Health. Vol. 108. No. 10. P. 1378-1384. https://doi.org/10.2105/ajph.2018.304567.
Chen E., Lerman K., Ferrara E. (2020а) #COVID-19: The First Public Coronavirus Twitter Dataset. arXiv preprint arXiv:2003.07372. URL: http://arxiv.org/abs/2003.07372 (accessed: 25.12.2020).
Chen E., Lerman K., Ferrara E. (2020b). Tracking Social Media Discourse About the COVID-19 Pandemic: Development of a Public Coronavirus Twitter Data Set. JMIR Public Health and Surveillance. Vol. 6. No. 2. e19273. https://doi.org/10.2196/19273.
Cinelli M., Quattrociocchi W., Galeazzi A., Valensise C. M., Brugnoli E., Schmidt A. L., Zola P., Zollo F., Scala A. (2020) The COVID-19 Social Media Infodemic. Scientific Reports. Vol. 10. No. 1. P. https://doi.org/10.1038/s41598-020-73510-5.
Cubitt G. T. (1989) Conspiracy Myths and Conspiracy Theories. Journal of the Anthropological Society of Oxford. Vol. 20. No. 1. P. 12-26. URL: https://www.anthro. ox.ac.uk/sites/default/files/anthro/documents/media/jaso20_1_1989_12_26.pdf (accessed: 25.12.2020).
Daniel F., Millimaggi A. (2020) On Twitter Bots Behaving Badly: A Manual and Automated Analysis of Python Code Patterns on GitHub. Journal of Web Engineering. Vol. 18. No. 8. P. 801-836. http://dx.doi.org/10.13052/jwe1540-9589.1883.
Ferrara E. (2020) What Types of COVID-19 Conspiracies are Populated by Twitter Bots? First Monday. Vol. 25. No. 6. https://doi.org/10.5210/fm.v25i6.10633.
Ferrara E., Varol O., Davis C., Menczer F., Flammini A. (2016) The Rise of Social Bots. Communications of the ACM. Vol. 59. No. 7. P. 96-104. https://doi.org/10.1145/ 2818717.
Gallotti R., Valle F., Castaldo N., Sacco P., Domenico M. (2020). Assessing the Risks of "Infodemics" in Response to COVID-19 Epidemicsi. Nature Human Behaviour. Vol. 4. P. 1285-1293. https://doi.org/10.1038/s41562-020-00994-6.
Gorwa R., Guilbeault D. (2018) Unpacking the Social Media Bot: A Typology to Guide Research and Policy. Policy & Internet. Vol. 12. No. 2. Р. 225-248. https://doi.org/ 10.1002/poi3.184.
Grinberg N., Joseph K., Friedland L., Swire-Thompson B., Lazer D. (2019) Fake News on Twitter During the 2016 U. S. Presidential Election. Science. Vol. 363. No. 6425. P. 374-378. https://doi.org/10.1126/science.aau2706.
Guo B., Ding Y., Yao L., Liang Y., Yu Z. (2020) The Future of False information Detection on Social Media: New Perspectives and Trends. ACM Computing Surveys. Vol. 53. No. 4. P. 1-36. https://doi.org/10.1145/3393880.
Hadgu A. T., Garimella K., Weber I. (2013) Political Hashtag Hijacking in the U. S. In: WWW'13 Companion: Proceedings of the 22nd International Conference on World Wide Web, May 2013. P. 55-56. http://dx.doi.org/10.1145/2487788.2487809.
Kim L., Fast S. M., Markuzon N. (2019) Incorporating Media Data into a Model of Infectious Disease Transmission. PloS One. Vol. 14. No. 2. P. e0197646. https://doi.org/ 10.1371/journal.pone.0197646.
Marchal N., Au H., Howard P. N. (2020) Coronavirus News and Information on YouTube: A Content Analysis of Popular Search Terms. COMPOR Data Memo. COVID-19 Series. Vol. 2020.3. Oxford, UK: Project on Computational Propaganda. URL: https://comprop. oii.ox.ac.uk/wp-content/uploads/sites/93/2020/04/C0VID-19-YouTube-Memo.pdf (accessed: 24.12.2020).
Metaxas P. T., Mustafaraj E. (2012) Social Media and the Elections. Science. Vol. 338. No. 6106. P. 472-473. https://doi.org/10.1126/science.1230456.
Qi S., AlKulaib L., Broniatowski D. A. (2018) Detecting and Characterizing Bot-Like Behavior on Twitter. In: International Conference on Social Computing, Behavioral-Cultural Modeling and Prediction and Behavior Representation in Modeling and Simulation. Lecture Notes in Computer Science. Vol. 10899. P. 228-232. https:// doi.org/10.1007/978-3-319-93372-6_26.
Schild L., Ling C., Blackburn J., Stringhini G., Zhang Y., Zannettou S. (2020). "Go Eat a Bat, Chang!": An Early Look on the Emergence of Sinophobic Behavior on Web Communities in the Face of COVID-19. arXivpreprint arXiv:2004.04046. URL: http:// arxiv.org/abs/2004.04046 (accessed: 24.12.2020).
Shahsavari S., Holur P., Tangherlini T. R., Roychowdhury V. (2020) Conspiracy in the Time of Corona: Automatic Detection of COVID-19 Conspiracy Theories in Social Media and the News. Research Square. https://doi.org/10.21203/rs.3.rs-52079/v1.
Shao C., Ciampaglia G. L., Varol O., Yang K.-C., Flammini A., Menczer F. (2018) The Spread of Low-Credibility Content by Social Bots. Nature Communications. Vol. 9. No. 1. https://doi.org/10.1038/s41467-018-06930-7.
Shu K., Zhou X., Wang S., Zafarani R., Liu H. (2019) The Role of User Profiles for Fake News Detection. In: ASONAM'19: Proceedings of the 2019 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining, August 2019. P. 436-439. https://doi.org/10.1145/3341161.3342927.
Vosoughi S., Roy D., Aral S. (2018) The Spread of True and False News Online. Science. Vol. 359. No. 6380. P. 1146-1151. https://doi.org/10.1126/science.aap9559.
Woolley S. C., Howard P. N. (eds.) (2018) Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. New York, NY: Oxford University Press. https://doi.org/10.1093/oso/9780190931407.001.0001.
Yang K. C., Torres-Lugo C., Menczer F. (2020) Prevalence of Low-Credibility Information on Twitter During the COVID-19 Outbreak. Workshop Proceedings of the 14th International AAAI Conference on Web and Social Media. https://doi.org/10.36190/2020.16.
Zarocostas J. (2020) How to Fight an Infodemic. The Lancet. Vol. 395. No. 10225. P. 676. URL: https://doi.org/10.1016/s0140-6736(20)30461-x.
Zhou X., Zafarani R. (2019) Network-Based Fake News Detection: A Pattern-Driven Approach. ACM SIGKDD Explorations Newsletter. Vol. 21. No. 2. P. 48-60. https:// doi.org/10.1145/3373464.3373473.
Zhou X., Zafarani R., Shu K., Liu H. (2019) Fake News: Fundamental Theories, Detection Strategies and Challenges. In: WSDM'19: Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining. New York, NY: Association for Computing Machinery. P. 836-837. https://doi.org/10.1145/3289600.3291382.
Zhou X., Mulay A., Ferrara E., Zafarani R. (2020) ReCOVery: A Multimodal Repository for COVID-19 News Credibility Research. CIKM '20: Proceedings of the 29th ACM International Conference on Information and Knowledge Management. October 2020. P. 3205-3212. https://doi.org/10.1145/3340531.3412880.
Приложение
Алгоритм сбора и обработки информации сводится к следующим этапам:
1) составление списка ключевых слов;
2) определение периода исследования — с 16 марта по 26 мая 2020 г.;
3) анализ целостности данных в Kibana/Discovery по каждому ключевому слову;
4) внесение отсутствующих ключевых слов в рабочее задание для скриптов на PHP, получающих информацию из VK API и сохраняющих ее в ElasticSearch;
5) добавление в рабочее задание процедур по докачиванию информации для ключевых слов, по которым нет целостности данных (заполнение «пробелов», которые возникли в связи с расширением периода исследования или из-за технических сбоев при обращении VK API);
6) анализ сетевой публикационной активности и взаимосвязей «текст-автор»:
6.1. анализ топов текстов (по тиражируемости) и временных гистограмм их публикации;
6.2. анализ структуры взаимосвязей «текст-автор» на графе;
7) анализ структуры контента и структуры профилей:
7.1. анализ контента публикаций;
7.2. профайлинг авторов (групп, страниц, событий, пользователей), составляющих выявленные ботнеты;
8) анализ всплесков сетевой публикационной активности в дашбордах по выбранным ключам за определенный период;
9) анализ топов публикаций на пиках сетевой публикационной активности в Kibana/Discovery.
