CC BY
27
®
СОЦИОЛОГИЯ КОММУНИКАЦИЙ
DOI: 10.14515/monitoring.2023.4.2387
А. С. Архипова, Д. А. Радченко, С. В. Бондарьков, М. В. Гаврилова, И. В. Лощиц, Н. В. Петров, Б. С. Пейгин
ФЕЙК ИЛИ ПРАВДА? КАК ЛЮДИ РАСПРОСТРАНЯЮТ И ПРОВЕРЯЮТ СЛУХИ ОНЛАЙН
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ АРХИПОВОЙ АЛЕКСАНДРОЙ СЕРГЕЕВНОЙ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА АРХИПОВОЙ АЛЕКСАНДРЫ СЕРГЕЕВНЫ
Правильная ссылка на статью:
Архипова А. С., Радченко Д. А., Бондарьков С. В., Гаврилова М. В., Лощиц И. В., Петров Н. В., Пейгин Б. С. Фейк или правда? Как люди распространяют и проверяют слухи онлайн // Мониторинг общественного мнения: экономические и социальные перемены. 2023. № 4. С. 102—123. https://doi.Org/10.14515/monitoring.2023.4.2387. For citation:
Arkhipova A. S., Radchenko D. А., Bondarkov S. V., Gavrilova M. V., Loshchits I. V., Petrov N. V., Peigin B. S. (2023) Fake or True? How People Spread and Verify Rumors Online. Monitoring of Public Opinion: Economic and Social Changes. No. 4. P. 102-123. https://doi.org/10.14515/ monitoring.2023.4.2387. (In Russ.)
Получено: 17.02.2023. Принято к публикации: 13.07.2023.
ФЕЙК ИЛИ ПРАВДА? КАК ЛЮДИ РАСПРОСТРАНЯЮТ И ПРОВЕРЯЮТ СЛУХИ ОНЛАЙН
АРХИПОВА Александра Сергеевна* — кандидат филологических наук, приглашенный исследователь Лаборатории социальной антропологии, Высшая школа социальных наук, Париж, Франция E-MAIL: alexandra.arkhipova@gmail.com https://orcid.org/0000-0001-8853-0003
FAKE OR TRUE? HOW PEOPLE SPREAD AND VERIFY RUMORS ONLINE
Alexandra S. ARKHIPOVA1 — Cand. Sci. (Philology), Visiting Scholar at the Social Anthropology Laboratories E-MAIL: alexandra.arkhipova@gmail.com https://orcid.org/0000-0001-8853-0003
РАДЧЕНКО Дарья Александровна—кандидат культурологии, старший научный сотрудник Лаборатории теоретической фольклористики ШАГИ ИОН, Российская академия народного хозяйства и государственной службы при Президенте РФ, Москва, Россия E-MAIL: darya_radchenko@mail.ru https://orcid.org/0000-0002-9298-7783
Daria A. RADCHENKO2 — Cand. Sci. (Cultural Studies), Senior Researcher at the Laboratory for Theoretical Folklore Studies E-MAIL: darya_radchenko@mail.ru https://orcid.org/0000-0002-9298-7783
БОНДАРЬКОВ Сергей Владимирович — младший научный сотрудник Института проблем правоприменения, Европейский университет в Санкт-Петербурге, Санкт-Петербург, Россия E-MAIL: sergey.bondarkov@gmail.com https://orcid.org/0000-0003-0714-6208
Sergey V. BONDARKOV3 — Junior researcher at the Institute for the Rule of Law (IRL) E-MAIL: sergey.bondarkov@gmail.com https://orcid.org/0000-0003-0714-6208
ГАВРИЛОВА Мария Владимировна — кандидат филологических наук, старший научный сотрудник Лаборатории теоретической фольклористики ШАГИ ИОН, Российская академия народного хозяйства и государственной службы при Президенте РФ, Москва, Россия; научный сотрудник Центра типологии и семиотики фольклора, Российский государственный гуманитарный университет, Москва, Россия
E-MAIL: mariavl.gavrilova@gmail.com https://orcid.org/0000-0003-0846-3408
Maria V. GAVRILOVA24—Cand. Sci. (Philology), Senior Researcher at the Laboratory of Theoretical Folklore Studies; Researcher at Center for Typology and Semiotics of Folklore
E-MAIL: mariavl.gavrilova@gmail.com https://orcid.org/0000-0003-0846-3408
1 Graduate School of Social Sciences, Paris, France
2 Russian Presidential Academy of National Economy and Public Administration, Moscow, Russia
3 European University at Saint Petersburg, Saint Petersburg, Russia
4 Russian State University for the Humanities, Moscow, Russia
Здесь и далее: * 26.05.2023 внесена в реестр иностранных агентов.
ЛОЩИЦ Игорь Валерьевич—кандидат философских наук, независимый дата-журналист, Москва, Россия E-MAIL: widerabbit@yandex.ru https://orcid.org/0000-0001-5184-6215
Igor V. LOSHCHITS — Cand. Sci. (Philosophy), independent data journalist E-MAIL: widerabbit@yandex.ru https://orcid.org/0000-0001-5184-6215
ПЕТРОВ Никита Викторович — кандидат филологических наук, заведующий Лабораторией теоретической фольклористики ШАГИ ИОН, Российская академия народного хозяйства и государственной службы при Президенте РФ, Москва, Россия; доцент Центра типологии и семиотики фольклора, Российский государственный гуманитарный университет, Москва, Россия; доцент Гуманитарного факультета, Московская высшая школа социальных и экономических наук, Москва, Россия; старший научный сотрудник Центра антропологии, Европейский университет в Санкт-Петербурге, Санкт-Петербург, Россия E-MAIL: nik.vik.petrov@gmail.com https://orcid.org/0000-0002-2467-9535
Nikita V. PETROV2453—Cand. Sci. (Philology), Head of the Laboratory for Theoretical Folklore Studies; Associate Professor at the Center of Typological and Semiotics Folklore Studies; Associate Professor at the Faculty of Humanities; Senior Research Fellow at the Center for the Anthropology of Religion E-MAIL: nik.vik.petrov@gmail.com https://orcid.org/0000-0002-2467-9535
ПЕЙГИН Борис Сергеевич — научный сотрудник Лаборатории теоретической фольклористики ШАГИ ИОН, Российская академия народного хозяйства и государственной службы при Президенте РФ, Москва, Россия E-MAIL: bspeigin@gmail.com https://orcid.org/0000-0003-1493-6283
Boris S. PEIGIN2—Researcher at the Laboratory for Theoretical Folklore Studies, School for Advanced Studies in Human ties E-MAIL: bspeigin@gmail.com https://orcid.org/0000-0003-1493-6283
2 Russian Presidential Academy of National Economy and Public Administration, Moscow, Russia
3 European University at Saint Petersburg, Saint Petersburg, Russia
4 Russian State University for the Humanities, Moscow, Russia
5 Moscow Higher School of Social and Economic Sciences, Moscow, Russia
Аннотация. Статья продолжает исследование российской инфодемии, начатое в январе 2020 г. Ее цель — выявить принципы, по которым интернет-пользователи взаимодействуют
Аbstract. The article continues the study of the Russian infodemic launched by the authors in January 2020. Its goal is to identify the principles by which Internet users interact with coronavirus ru-
со слухами о коронавирусе в социальных сетях и в поисковых запросах. Для этого мы собрали базу инфодемиче-ских нарративов в социальных сетях (6,2 млн репостов) и изучили поведенческие стратегии пользователей в запросах к поисковым машинам. Хотя конспирологические нарративы остаются самыми популярными в запросах российских пользователей, волнуют их совершенно другие тексты, связанные с повседневными рисками, касающимися права на контроль над телом: возможные пути заражения, ограничительные меры со стороны властей, народные лекарства от коронавируса и так далее. Именно такие сообщения пользователи поисковых машин стремились проверять, добавляя к запросу особые словосочетания — операторы сомнения и уточнения («правда или ложь»). При этом некоторые инфодеми-ческие нарративы пользователи были готовы реализовать на практике, добавляя к ним оператор действия—«как приготовить» и «где купить». Анализируя их, мы обнаружили, что к группе наиболее опасных инфодемических наррати-вов относятся: а) тексты, которые могут спровоцировать бесконтрольный прием аптечных лекарств, и б) тексты, в которых излагаются конспирологические сюжеты и квазимедицинские представления об опасности вакцинации, побуждающие людей к отказу от нее.
Ключевые слова: COVID-19, инфоде-мия, коронавирус, слухи, конспирология, социальные сети, социальные медиа, методы обработки естественного языка
Благодарность. Авторы статьи выражают горячую благодарность Тоне Сам-соновой, CEO и основателю Durer.ai, основателю TheQuestion.ru, руководителю
mors on social networks and in search queries. For this, the authors collected a database of infodemic narratives in social networks (6.2 million reposts) and studied the behavioral strategies of users in queries to search engines. The study showed, that although conspiracy narratives remain the most popular among Russian users, they are worried about completely different texts considering everyday risks related to the right to control the body: possible routes of infection, restrictive measures by the authorities, traditional medicines for coro-navirus, etc. It was these messages that search engine users sought to check by adding operators of doubt and clarification ("true or false") to the query. At the same time, users were ready to implement some infodemic narratives in practice, which is confirmed by adding an action operator to them — "how to cook" and "where to buy". Analyzing such requests, the authors found that the group of the most dangerous infodemic narratives includes a) texts that can provoke uncontrolled intake of pharmaceutical drugs, and b) texts that set out conspiracy plots and quasi-medical ideas about the dangers of vaccination, encouraging people to refuse it.
Keywords: COVID-19, infodemic, coro-navirus, rumors, conspirology, social networks, socail media, natural language processing techniques
Acknowledgments. The authors of the article express their deep gratitude to Tonya Samsonova, CEO and founder of Durer.ai, founder of TheQuestion.ru, head
Уа^ех.О (2019—2021) за организацию доступа к данным и возможность заняться этой темой. Н. В. Петров и Д. А. Радченко подготовили статью в рамках гранта, предоставленного Министерством науки и высшего образования Российской Федерации (№ соглашения о предоставлении гранта: 075-15-2022-326).
of Yandex.Q (2019—2021) for organizing access to data and the opportunity to tackle this topic. N. Petrov and D. Radchenko prepared the article in the framework of a research grant funded by the Ministry of Science and Higher Education of the Russian Federation (grant ID: 075-15-2022-326).
Что такое инфодемические нарративы и зачем их изучать?
Правда ли, что Билл Гейтс нас чипирует? Как удалить тяжелые металлы из мозга после вакцинации? Почему после прививки возникает металлический привкус во рту? Можно ли детям после шести лет дышать водкой для профилактики коро-навируса? Все это примеры реальных запросов к поисковым машинам, с помощью которых пользователи рунета пытались совладать с инфодемией — «информационной эпидемией» 2020—2021 гг.
Как правило, исследователи используют в качестве синонима «инфодемии» термин «дезинформация» (в англоязычных исследованиях — misinformation или disinformation), который говорит о заранее определенном противопоставлении «ложь — правда». Мы же, изучая инфодемию с января 2020 г. [Архипова 1* и др., 2020], нередко сталкивались с ситуацией, когда слухи, распространяющиеся по чатам и соседям, передавали информацию, которая могла оказаться как ложью, так и правдой. Например, в марте 2020 г. в чатах WhatsApp распространялись утверждения, что Москва будет закрыта на карантин, и покидать дома будет нельзя. Эту информацию неоднократно опровергали (в том числе, и УМВД по Москве), угрожали штрафами за ее распространение и даже завели уголовное дело об этом «фей-ке». Тем не менее 29 марта в Москве был введен так называемый режим самоизоляции. Был ли этот слух ложью? Строго говоря, нет. Тем не менее, это именно слух—информация, не подтвержденная официально, и не являющаяся высказыванием властного института и передаваемая по системе горизонтальных связей.
Исходя из этой логики, объектами нашего исследования стали повторяющиеся тексты, распространяемые через неформальные каналы коммуникации. «Коллективный автор» и индивидуальный распространитель таких текстов допускают, что изложенная в них информация подлинная и нуждается в распространении, однако на момент распространения эти сведения не подтверждаются либо опровергаются научными исследованиями и/или официальными источниками. Мы будем называть подобные тексты инфодемическими нарративами или слухами. По своей форме они могут быть разными: и пересказами слов соседки о тяжелых металлах в вакцинах, и наукообразными текстами, советующими пить соду с лимоном, и поддельными документами о принудительной вакцинации. Их главное свойство — способность создавать неподцензурные сети сомнения, противопоставляя свое знание официальной информации. Несмотря на то, что на момент публи-
1 Здесь и далее * означает 26.05.2023 внесена в реестр иностранных агентов.
кации статьи ВОЗ признала пандемию COVID-19 завершенной, распространение инфодемических нарративов, во-первых, не прекратилось, а во-вторых, не ограничивается этим конкретным случаем. Полученные нами результаты о принципах распространения таких нарративов и реакции на них пользователей неспецифичны, они применимы и к другим похожим ситуациям.
Задача нашего исследования — определить, каковы ключевые механизмы взаимодействия пользователей социальных медиа с непроверяемыми инфо-демическими нарративами. В первой части статьи мы рассматриваем пользователей социальных медиа в качестве адресантов (отправителей) инфодемиче-ских нарративов и стремимся понять, при каких условиях и какие именно тексты люди распространяют. Во второй части статьи интернет-пользователи интересуют нас как адресаты (получатели) инфодемической информации: мы изучаем то, как они поступают с ней, насколько они в ней сомневаются и как ее проверяют.
Исследования инфодемических нарративов
Изучение инфодемических нарративов особенно актуализировалось после начала пандемии и проводится в рамках ряда исследовательских полей — от психологии до media studies. Цифровые платформы представляют широкое поле для изучения механизмов взаимодействия с инфодемическими нарративами: благодаря большому объему цифровых следов возможно проследить распространение многочисленных текстов и их вариантов в динамике. Специалисты по анализу социальных медиа занимаются исследованием путей распространения слухов и инфодемических нарративов, изучая каскады или «сетевые карты» их трансмиссии. Например, австралийские исследователи, анализируя ключевые слова, создали сетевую карту распространения конспирологической теории о связи 5G и коро-навируса — от простого сомнения, не связаны ли вышки 5G с распространением COVID-19, до глобальной теории заговора, приведшей к массовым протестам и разрушению вышек [Bruns et al., 2020].
Такой подход позволяет увидеть, как недостоверная информация возникает практически из ничего, однако он дает мало оснований для понимания того, почему она распространяется. Пытаясь выйти из этого тупика, некоторые исследователи не только прослеживают пути распространения информации по набору ключевых слов, но и выявляют «информационные пузыри», в которых находятся ее распространители, и устанавливают связь распространяемой информации с политическими пристрастиями. Например, распространители анти-вакцинационных текстов склонны делать ретвиты медиа-персон, известных своими ковид-диссидентскими взглядами [Germani, Biller-Andorno, 2021]. Вместе с тем сами по себе эти данные не отвечают на вопрос о том, воспринимают ли пользователи такую информацию как достоверную — и, если нет, то почему они ее распространяют.
Чтобы понять, как пользователь интернета принимает решение о репосте сомнительной информации, в марте 2020 г. американско-канадская команда психологов в ходе эксперимента предлагала участникам прочитать пост о корона-вирусе, решить, правда это или нет, после чего согласиться или отказаться его перепостить. В результате оказалось, что решение перепостить напрямую не связано с оценкой истинности высказывания: распространить информацию решали
в том числе и те, кто считал ее ложной [Pennycook et al., 2020]. Похожий результат был получен в исследовании поведения российских пользователей VKontakte. Посты о правдивости теорий заговора получали в среднем больше лайков, и их чаще репостили, а посты, содержащие критику таких теорий, получали в среднем больше комментариев [Platonov, Svetlov, 2021]. Иными словами, пользователи горячо обсуждали сообщения, критикующие инфодемические нарративы, в то время как сообщения об их правдивости одобряли и распространяли.
Остается открытым вопрос о том, как в естественных (а не лабораторных, как в описанном выше психологическом экспериментальном исследовании) условиях пользователи взаимодействуют с непроверенной и потенциально недостоверной информацией, есть ли различия в востребованности тех или иных сюжетов и сообщений и, главное, каким инфодемическим нарративам пользователи склонны доверять больше, а каким меньше. Для того чтобы ответить на этот вопрос, необходимо изучать распространение и критику пользователями такой информации на материале одних и тех же сюжетов (то есть не только репосты слухов в соцсетях, но и формы реакции на них—в том числе, за пределами социальных медиа, например, учитывая модальности запросов в поисковых сетях), причем рассматривая не ретроспективные нарративы о том, доверяли ли пользователи тексту в прошлом, когда его репостили, а синхронно анализируя распространение таких текстов и реакцию на них. В этом смысле наше исследование релевантно не только для изучения конкретного случая, связанного с пандемией или для анализа механизмов трансмиссии слухов, но и для понимания того, как содержание текста соотносится с уровнем доверия к нему людей и готовностью некритично его распространять, руководствоваться им в повседневной жизни, или, напротив, подвергать слух сомнению.
Дизайн исследования
Чтобы решить поставленную задачу, мы создали два русскоязычных корпуса: (1) корпус инфодемических текстов, циркулирующих в социальных сетях, (2) корпус поисковых запросов, связанных с этими текстами.
Для работы с текстами социальных медиа применялся метод постоянного мониторинга социальных медиа по стабильным поисковым запросам (Social Media Listening). Он подразумевает, что сообщения в соцмедиа собираются максимально полно, насколько это позволяют технологические особенности конкретной системы. Именно поэтому разные периоды распространения инфодемических нар-ративов можно сравнивать между собой.
Мы начали фиксировать инфодемические нарративы о COVID-19 в соцсетях с 1 января 2020 г.: исследовательский инструментарий описан в нашей предыдущей статье [Архипова* и др., 2020: 240]. Их поиск осуществлялся как путем рекогносцировочного изучения соцмедиа по ключевым словам (например, «слух», «фейк», «правда ли»), так и краудсорсинга (тексты поступали нам от волонтеров — пользователей соцсетей и получателей рассылок). В результате был получен набор текстов, содержащих неверифицируемую информацию, и на основании этого набора сформулирован перечень устойчивых сюжетов (каждый сюжет может включать более одного вида текста и распространяться как в клишированном виде, так и в форме свободного пересказа). Сюжеты были затем объединены в более ши-
рокие тематические макрогруппы. Далее мы формулировали поисковый запрос внутри сервиса анализа соцмедиа: для клишированных текстов (рассылок в мес-сенджерах) это были прямые цитаты, а для слабо структурированных мотивов — набор ключевых слов, связанных операторами поиска (как этные, так и эмные термины), и набор слов-исключений. Поиск настраивался таким образом, чтобы получить максимальное количество релевантных текстов и минимальное количество нерелевантных. Поиск производился по открытому сегменту всех социальных медиа: публичных каналов, пабликов, групп, аккаунтов.
Полученные данные были анонимизированы; база данных содержит сообщения в текстовой форме и метаданные о времени размещения, платформе, ключевые метрики поста (количестве лайков, комментариев, репостов), а также основную информацию о разместившем ее аккаунте — в случае, если его владелец сделал эту информацию публичной (пол, возраст, город).
Для анализа использовались все доступные в результате этой процедуры тексты. В статье проанализировано 243 сюжета, появившиеся до конца мая 2021 г., когда после периода снижения востребованности большинства нарративов такого типа динамика их распространения вышла на «плато». За период наблюдения они были процитированы в социальных медиа более 6,2 млн раз.
Однако этот метод имеет свои ограничения. Во-первых, создаваемый корпус текстов заведомо неполон: он содержит сообщения только из публичной цифровой среды, но не из приватных чатов в мессенджерах, не говоря уже об устном бытовании, где возникает значительное число воспроизведений инфодемиче-ских нарративов, практически недоступных для количественного исследования.
Во-вторых, создание поискового запроса не является строгой процедурой. Во время этой работы исследователь постепенно добавляет и убирает те или иные слова или комбинации слов, чтобы добиться максимально «чистой» выдачи. В результате такой работы нельзя получить все существующие тексты, поэтому к полученным данным следует относиться не как к точным значениям распространенности текстов, а как к описанию трендов и отношений между группами сюжетов.
В-третьих, существуют ограничения, внешние по отношению к данным и связанные с развитием самих соцсетей и практик пользования ими. Такие факторы, как изменение интерфейсов и внутренней политики цифровых платформ, государственного контроля над ними, массовый отток/приток новых пользователей и т. п., системно влияют на сети циркуляции текстов и сам принцип их производства.
Изучение сетевой структуры распространения информации о коронавирусе на материале текстов о связи COVID-19 и 5G в Twitter [Ahmed et al., 2020] показало, что многие посты, содержащие «конспирологический» хештег, не включают утверждения о достоверности конспирологических теорий, но при этом способствуют распространению знаний о них. Именно поэтому мы не разделяем тексты, в которых содержатся утверждения об истинности или ложности сообщения: вне зависимости от того, считает ли пользователь информацию достоверной, он/она поддерживает циркуляцию инфодемического нарратива в соцмедиа.
Вторую группу исследуемых текстов составили поисковые запросы. Пользовательский запрос в поисковых машинах является важным показателем для оценки массового интереса к результатам выборов, развитию эпидемий и сезонных
всплесков заболеваний, уровню преступлений определенного типа, биржевых трендов и т. д. [Eysenbach, 2009; Preis et al., 2013; Yang et al., 2015; Telfer, Woodburn, 2015; Gamma et al., 2016; Verma et al., 2018]. Изучение этого вида данных позволяет получить большие объемы неспровоцированных текстов, в том числе по сенситивным или слабо рефлексируемым пользователями темам. Так, Сет Сте-фенс-Давидовиц предложил использовать запросы в Google для выявления представлений, которые не являются социально одобряемыми, и относительно которых наблюдается высокий уровень искажения при массовых опросах, например, враждебность по расовому признаку [Stephens-Davidowits, 2014].
Наша работа с поисковыми запросами строилась таким образом, чтобы добиться максимальной консистентности с изучением собранных нами инфодемических нарративов в соцмедиа. Из корпуса текстов соцмедиа для достижения максимального разнообразия мы отобрали 29 самых популярных сюжетов так, чтобы в выборке была представлена каждая категория (см. табл. 1). Далее на основании данных ключевой российской поисковой системы была вычислена доля запросов о каждом из этих сюжетов среди всех запросов за каждый месяц в течение того же периода, в который мы наблюдали за распространением инфодемических нарративов в социальных медиа. Также были обработаны анонимизированные2 поисковые запросы (по 100 наиболее частотных запросов к каждому сюжету). На основе созданного корпуса были проанализированы динамика и география распространения запросов, а также структуры запросов (выделение маркеров семантики достоверности / недостоверности — например, «возможно ли», «вероятно ли», «правда ли», «правда», «ложь» и т. п.). Последний производился вручную по эмпирически разработанному словарю кодирования текстов. Затем на основании этой работы был создан алгоритм, позволяющий автоматически размечать тексты по выделенным признакам.
Динамика инфодемии в социальных сетях
В результате этой работы стало понятно, что инфодемия в российских соцсетях весьма неоднородна. Самую значительную часть собранного нами корпуса составляют антивакцинационные слухи (см. табл. 1). Среди них есть как квазимедицинские представления («„Спутник" содержит тяжелые металлы, вакцина вызывает бесплодие/рак»), так и конспирологические теории («с помощью вакцины Билл Гейтс хочет убить всех, кроме „золотого миллиарда"»). На втором месте по популярности — псевдомедицинские слухи и советы («чтобы спастись от COVID-19, надо пить настой имбиря, соду с лимоном и дышать водкой»).
В 14 % случаев встречаются слухи о том, как возник вирус, как он распространяется и каковы его основные свойства («ковид распространяется вышками 5G»). Примерно такой же объем (13 %) занимают отрицания существования коронави-руса и эпидемии («коронавирус—это обычный грипп»). В отдельную группу мы выделили тексты, направленные против ношения медицинских масок (8 %): («маски вызывают легочные заболевания»). Последняя группа — рассказы и «свидетельства» о нежелательных для рассказчика изменениях общества во время пандемии (3 %) («город будут дезинфицировать с вертолетов, и это опасно для людей»).
2 Данные пользователей удалялись и заменялись внутренним идентификатором.
Таблица 1. Репосты инфодемических нарративов в социальных сетях по тематическим группам с 1 января 2020 по 16 мая 2021 г.
Антивакционные нарративы 39 %
Народная медицина: как лечить ковид в домашних условиях 23 %
Происхождение и распространение вируса 14 %
Отрицания коронавируса и эпидемии 13 %
Антимасочные нарративы 8 %
Нежелательные изменения время пандемии 3 %
Полнота собранных данных отличается от нарратива к нарративу, поэтому сравнивать их между собой по популярности в поиске следует крайне осторожно. Дело в том, что разные стороны жизни представлены в интернете в разной степени, поэтому и поисковый интерес к тем или иным темам не пропорционален действительному интересу к ним. Например, интерес к просмотру видео в данных поиска многократно превосходит интерес к употреблению пищи, хотя очевидно, что потребность во втором выше. Поэтому напрямую сравнивать между собой уместно только близкие по характеру темы.
Это относится и к коронавирусным нарративам. Человек будет искать в интернете конспирологический фильм, потому что к нему нет другого доступа, а чтобы купить имбирь для лечения коронавируса, нет необходимости создавать запрос в интернете. Если в течение дня пользователь многократно задавал один и тот же запрос без изменения формулировки, мы считали его поведение подозрительным и учитывали его запрос только один раз.
Как мы подробно показали в предыдущей статье [Архипова* и др., 2020], слухи возникают не в период наибольшей эпидемиологической опасности, а в ситуации максимальной неопределенности, которая сложилась в феврале-марте 2020 г. Когда 25 марта был введен режим самоизоляции, ситуация стала более определенной, и количество инфодемических нарративов резко пошло на убыль. К осени 2020 г. количество зараженных увеличилось, но, по сравнению с весной, инфодемические тексты распространялись с меньшей скоростью: адаптировавшись к ситуации, россияне испытывали меньше желания репостить новую неподцензурную информацию о коронавирусе. Слухи, которые распространялись в этот период, касались последствий эпидемии: дистанционного образования и ношения масок.
После начала вакцинации «Спутником-У» (декабрь 2020 г.) вновь возникли антипрививочные настроения и связанные с ними нарративы. Количество сюжетов о «простом лечении» коронавируса и их репостов резко увеличилось в феврале — апреле 2020 г (число репостов могло достигать 50 тыс. в день), а затем их популярность так же резко прекратилась (менее 100 репостов в день, за исключением небольшого всплеска в ноябре 2021 г.). Антипрививочные же слухи не перестали распространяться: они вышли на продолжительное «плато», когда количество репостов оставалось устойчивым и достаточно высоким на протяжении нескольких месяцев. В декабре 2020 — январе 2021 г. было по 20 тыс. репостов и более, а в период плато (с февраля по июнь 2020 г.) — около 10 тыс. репостов в день (см. рис. 1).
Рис. 1. Динамика количества репостов тематических групп инфодемии в социальных сетях с 1 января 2020 по 16 мая 2021 г.
Далее мы сравнили динамику распространения инфодемических нарративов в социальных сетях с динамикой запросов по этим сюжетам по дням за тот же период (для достижения сравнимости динамики показателей каждый из них был нормирован, соответственно, на общее число репостов по каждому сюжету и общее число запросов по тому же сюжету). Тексты инфодемических нарративов в социальных сетях и запросы о них положительно коррелируют друг с другом на уровне 65 % (коэффициент корреляции Пирсона).
Характерный пример—текст жительницы Италии Полины Головушкиной о тяжелой ситуации в этой стране (№ 10). Это авторский текст, наполненный эмоциональным и преувеличенным описанием увиденного и прочитанного в итальянских СМИ. Пользователи запрашивали этот текст при помощи поисковой машины строго тогда же, когда он распространялся в социальных сетях. Практически такой же, за исключением небольшого повторного всплеска популярности, была ситуация с нарративом о лечении «чесночной водой» (см. рис. 2).
Рис. 2. «Чесночная вода» от С0УЮ-19: репосты слухов и запросы (доля за день от общего количества за анализируемый период)
Динамика популярности группы слухов, связанных с вакцинацией, иная. В отличие от других случаев из нашей коллекции, слухи и запросы о вакцинации сильно разнесены во времени (рис. 3), причем распространение слухов с большим отрывом опережает их проверку.
Рис. 3. Истории о том, что вакцина вызывает бесплодие и болезни: репосты слухов и запросы (доля за день от общего количества за анализируемый период)
Дело в том, что почти все слухи о вредоносности вакцин сформировались в последние два десятилетия и стали широко известны еще до появления COVID-19. Поэтому антивакцинационные нарративы распространялись в течение всего исследуемого периода, а запросы, связанные с их проверкой, активизировались только когда в них появилась насущная необходимость — стартовала массовая вакцинация россиян. Иными словами, информационный фон, препятствующий прививочной кампании, формировался в течение длительного срока.
«Работает или правда?»: как люди оценивают достоверность инфодемических нарративов через поисковые запросы
Пользователи поисковых машин, услышав или прочитав новый слух о COVID-19, естественно, стремились получить побольше информации о нем. Однако не любое «народное знание» интересовало пользователей в одинаковой степени (см. табл. 2).
Таблица 2. Относительная популярность инфодемических нарративов в запросах пользователей поисковой машины. За 100 % принято количество запросов самого популярного сюжета о сокращении населения Земли Биллом Гейтсом через вакцинацию за период с 1 января 2020 г. до 16 мая 2021 г.
Содержание и номер сюжета
Вакцинация — это шаг к новому мировому порядку, предполагающему сокращение населения Земли до 1 млрд человек. В этом заинтересованы богатейшие люди мира — Билл Гейтс и Рокфеллеры (сюжет № 1) Вместе с вакциной в тело человека вводится чип, который может быть использован для контроля населения (№ 2)
Вакцины вызывают бесплодие, онкологические заболевания, туберкулез, гепатит и т. д. (№ 3)
Тип %
Антивакцинационные нарративы 100
27 3,1
Тип
Антимасочные нарративы
Влияние пандемии на обычную жизнь
0,8
0,6 46,1
8,5 21,9 16,8 5,8
Отрицание коронавируса
0,5
4,7
Содержание и номер сюжета
Вакцины содержат «тяжелые металлы». По одной из версий, это позволяет ловить в аэропортах тех, кто не прошел вакцинацию: на них не реагируют детекторы (№ 4)
Тестирование на коронавирус и вакцинация — это прикрытие для сбора генетической информации или вмешательства в ДНК человека (№ 5) Наночип, вводимый в тело человека, является печатью Антихриста (№ 6)
Ношение маски вредит здоровью, например, может вести к легочным заболеваниям (№ 7)
Под микроскопом в ткани медицинских масок можно увидеть черных наночервей. Через дыхательные пути они проникают в мозг (№ 8)
Предупреждение, что «сегодня с 23:00 и до 5:00 утра вертолеты будут распылять лекарство для дезинфекции, окна и балконы должны быть закрыты и на улице после 23:00 находится нельзя» (№ 9)
Письмо Полины Головушкиной об ужасах эпидемии в Италии («это фильм-катастрофа наяву», «трупы вывозят грузовиками») (№ 10) Врачам выгодно указывать коронавирус как причину смерти, поэтому они подделывают документы и даже предлагают родственникам умерших деньги за участие в своей схеме (№ 11) Вакцинацию будут проводить под угрозой увольнения (№ 12)
По квартирам ходят люди, представляющиеся волонтерами: они предлагают маску и просят ее примерить — маска отравлена, жертва теряет сознание, «волонтеры» грабят квартиру (№ 13)
Никакого коронавируса не существует, люди болеют обычным гриппом, а «пандемию» придумали с какой-то целью (№ 14)
0,9 Коронавирус в России был еще зимой 2019 г. (№ 15)
%
1
1
Происхождение и распространение 31 5 Коронавирус — биологическое оружие, разработан-коронавируса ' ное США/Китаем/Россией (№ 16)
Искусственно созданная бактерия «Синтия» использовалась для переработки разлившейся в Мексиканском заливе нефти и «вышла из-под контроля» (№ 17)
Пандемия коронавируса связана с вышками 5в. Излучение вышек ослабляет иммунитет, чем способствует распространению коронавируса, или вышки сами распространяют заразу (№ 18)
21,4
16,4
о
Тип % Содержание и номер сюжета
12,9
3,4
2,2
Люди в Китае погибли, потому что съели бананы, зараженные коронавирусом (№ 19) Заговор фармкомпаний и медицинских организаций: множество организаций — от лаборатории в Ухани до Microsoft и ВОЗ — связаны между собой теневым финансированием (№ 20) Посылки из Китая, в том числе с AliExpress, могут быть заражены коронавирусом (№ 21) Китайцы на улицах просят людей помочь прочитать 0,3 текст на свернутой бумажке. В ней находится отравляющий «белый порошок» (№ 22) «Александр Колосов, русский врач в Италии», рас-Псевдомедицинские советы 72,1 сказывает, как за день вылечился от коронавируса
с помощью вдыхания паров водки (№ 23) Имбирь помогает организму противостоять корона-вирусу (№ 24)
Молодой врач Юра Климов, работающий в Китае и недавно переведенный в Ухань для изучения коро-навирусной пневмонии, дает своим близким советы, как спастись от коронавируса (№ 25) От коронавируса помогает пить горячую воду с лимо-4,9 ном и содой, именно поэтому в Израиле нет погибших от COVID-19 (№ 26) 4 «Чесночная вода» эффективно лечит коронавирус 4 (№ 27)
Немецкие/итальянские врачи вопреки запрету ВОЗ провели вскрытия тел людей, погибших от коро-2 навируса, и узнали, что коронавирус — «это не вирус, а бактерия, вызывающая смерть. Она приводит к образованию тромбов и смерти пациента» (№ 28) «Эксперты из Тайваня» советуют простой тест на коронавирус: если, задержав дыхание на 10 секунд, вы не испытываете дискомфорта, значит, вы здоровы (№ 29)
29,5
10,7
0,1
Далеко не все пользователи принимали на веру инфодемические нарративы из социальных медиа. Однако такие сообщения часто бывали тревожными и требовали предпринять определенные действия для спасения себя и близких от угрозы. Сталкиваясь с подобными текстами, многие люди пытались определить достоверность полученной информации при помощи поисковых машин. Оказалось, что сама формулировка таких запросов содержит сведения об отношении людей к содержанию инфодемических нарративов. Чаще всего запросы были «немыми» (например: «имбирь от коронавируса», «Билл Гейтс нас чипирует»), по ним нельзя было судить, старался пользователь опровергнуть информацию или искал ей подтверждение. Однако в части случаев использовались специальные формулировки, показывающие, что людям нужна была информация по теме, препарированная определенным образом. Некоторые пользователи искали материалы, подтверждающие или опровергающие достоверность текста, поэтому в их запро-
се выражено сомнение. Другие не подвергали информацию сомнению, а сразу переходили к поискам практических советов по ее применению (например: «как заваривать имбирь»).
Формулировку, которая однозначно демонстрирует отношение пользователя к искомой информации, мы называем «модальностью». Модальность может выражаться с помощью «операторов» — лексических и грамматических формальных показателей. Одна из самых частых — модальность сомнения/отрицания. Если пользователь считал информацию ложью или сомневался в ней, он заранее фреймировал ее двумя возможными способами. Он добавлял грамматические («ли» + знак вопроса: «помогаетли имбирь от коронавируса») или семантические операторы ([запрос] + «чушь», «бред», «фейк», «ложь», «обман», «развод», «вранье», «правда или ложь», «фейк или правда», «да или нет», «вопрос», «верно ли», «отзывы»). В одном случае нам встретился оператор сомнения «работает или правда?», который дал название этому разделу. Пример типичного запроса: «чесночная вода от ковида правда или фейк».
После выделения модальности сомнения/отрицания мы провели разметку выборки из корпуса запросов (топ-100 запросов по каждому сюжету слуха, всего объем корпуса — 1,7 миллионов запросов) в ручном режиме за весь период (14 месяцев). После этого на основании ручной разметки мы предложили набор правил для автоматической разметки. В зависимости от содержания нарратива, желание пользователя проверить информацию может проявляться в формулировке запроса по-разному. Например, о «чесночной воде» могут спрашивать, эффективна ли она против коронавируса, пробовал ли кто-то ее на себе, что говорят о ней врачи и т. д. Про заговор во главе с Биллом Гейтсом — насколько вероятно, что это правда, или «фейк это или нет».
Количество возможных маркеров проверки от нарратива к нарративу тоже отличается. Даже если составить списки таких маркеров для каждого текста, не получится добиться одинаковой полноты, а значит, сравнение будет невозможно. Поэтому для автоматической оценки доли проверочных запросов мы использовали маркеры, не зависящие от содержания нарратива — частицу «ли» и конструкции вроде «правда или нет». С их помощью нельзя обнаружить все запросы, авторы которых хотели проверить информацию, поэтому сама по себе доля запросов с этими маркерами ничего не говорит о нарративе. Зато в силу универсальной применимости этих конструкций, по доле запросов, в которых они встречаются, можно сравнивать между собой любые нарративы. Если у одного нарратива доля запросов с универсальными маркерами проверки выше, чем у другого, то можно рассчитывать на то, что и по доле всех проверочных запросов первый нарра-тив тоже превосходил бы второй.
«Своя рубашка ближе телу»: в каких слухах пользователи сомневаются
На первый взгляд, сомнение чаще будет возникать в отношении самых популярных слухов (см. табл. 1), но это не так. Таблица 2 показывает, что запросы, в которых доля операторов сомнения превышает 5 %, имеют общую черту. Они связаны с нарративами, имеющими прямое отношение к телу и здоровью пользователя (например, «правда или нет, что можно лечиться чесноком»; «заражены ли импортные
бананы»). Пользователи чаще проверяли слухи о вакцине «Спутник-У», чем аналогичные слухи об импортных вакцинах, которые россиянам были менее доступны.
Таблица 3. Модальности отрицания/сомнения, в % от суммы топ-100 запросов каждого инфодемического нарратива (результаты ручной разметки)
Сюжет инфодемического нарратива Отрицание /сомнение Сюжет инфодемического нарратива Отрицание /сомнение
Посылки из Китая заражены коронавирусом (№ 21) 70 % Врачи предлагают деньги за постановку диагноза «коронавирус» пациентам, умершим от других болезней (№ 11) 4 %
За отказ сделать прививку от COVID-19 уволят (№ 12) 43 % В медицинских масках живут чер-ви/моргеллоны (№ 4) 4 %
COVID-19 — это обычный грипп, эпидемия выдумана (№ 14) 35 % Юра Климов из Ухани (№ 25) 4 %
«Чесночная вода» помогает от коронавируса (№ 27) 25 % Билл Гейтс хочет сократить население Земли до «золотого миллиарда» (№ 1) 3 %
«Письмо Полины»: в Италии катастрофа, трупы вывозят грузовиками (№ 10) 22 % COVID-19 возник из-за утечки из лаборатории «Вектор» (№ 16) 2 %
Врач из Италии Александр Колосов советует дышать водкой (№ 23) 20 % «Чипирование» через вакцину(№ 2) 1 %
Имбирь спасает от коронавируса (№ 24) 12 % Вышки 5G вызывают коронавирус (№ 18) 1 %
Бананы заражены коронавирусом (№ 19) 12 % Вертолеты будут дезинфицировать город опасным средством (№ 9) 1 %
Бактерия «Синтия» вызвала коронавирус (№ 17) 9 % В России все переболели COVID-19 еще в 2019 г. (№ 15) 0 %
В вакцине от COVID-19 содержатся тяжелые металлы (№ 4) 8 % Билл Гейтс/мировое правительство создали коронавирус (№ 20) 0 %
Медицинская маска вредна (вызывает легочные болезни) (№ 7) 8 % Китайцы заражают людей коро-навирусом, обманом вынуждая их вдыхать белый порошок (№ 22) 0 %
Лимон с содой защищает от коронавируса (№ 26) 8 % Псевдоволонтеры раздают маски с наркотиком и грабят квартиры (№ 13) 0 %
Вакцинация — это эксперимент над людьми (№ 5) 5 % Тайваньские эксперты предлагают диагностировать ковид с помощью «дыхательного теста» (№ 29) 0 %
Коронавирус — это биологическое оружие (№ 16) 5 % Билл Гейтс финансирует ВОЗ и крупные фармкомпании, производящие вакцины (№ 1) 0 %
На первом месте по количеству присоединенных к запросу операторов сомнения стоит запрос о сюжете «посылки из Китая заражены коронавирусом». Доля
сомнения настолько высока (70 %), что это требует отдельного комментария. Речь идет о посылках с популярного сервиса заказа китайских товаров AliExpress. Паническое предупреждение о зараженных посылках возникло в конце января — начале февраля 2020 г.: это первый массовый слух, возникший в России в связи с заболеваемостью COVID-19. Высокий уровень сомнения может быть связан не только с близостью этого вопроса «к телу» самого пользователя, но и с тем, что это был первый слух такого рода, поэтому интенция проверять подобную информацию еще была сильной.
Видимо, «близкие к телу» слухи тревожили пользователей настолько, что они были готовы совершать дополнительные усилия ради их проверки. Из этого можно сделать следующий практический вывод — в первую очередь, следует обращать внимание на нарративы из групп псевдомедицинских советов, антивакци-национных нарративов и историй о распространении коронавируса.
«У матросов нет вопросов». Нет их и у конспирологов
По интенсивности использования операторов сомнения в запросах пользователей инфодемические нарративы можно разделить на две группы (см. табл. 2).
Нарративы, у которых показатель сомнения больше 5 %, можно назвать «нар-ративами оценки рисков» для здоровья и домашней экономики. Сомнение в них обращено на медицинское знание о коронавирусе и его биологических особенностях: как он передается (может ли передаваться через посылки?) и чем лечится (антибиотиками или народными средствами?).
Нижние строчки таблицы занимают нарративы с нулевым уровнем сомнения. В запросах о них пользователи интересовались конспирологическими объяснениями действительности в связи с коронавирусом: распространение вируса через вышки 5G и «чипирование» вакциной. Кроме того, эта группа направлена против социальных последствий карантина: они не признают вакцин («вакцины—это печать дьявола») и отрицают COVID-19 («никакой эпидемии нет, мы все переболели осенью»). Конспирологические запросы не нуждаются в проверке, пользователи лишь интересуются подробностями — поэтому в них высока доля уточнений вроде: «как именно нас всех чипируют» (9 %).
В 2019 г. группа итальянских ученых доказала, что пользователи социальной сети участвуют в распространении/отказе от распространения конспирологиче-ских и научных нарративов в зависимости от первоначальной точки зрения. Люди производят селекцию информации и других пользователей, и в результате вокруг них образуется эхо-камера — пространство, наполненное теми, у кого такие же взгляды [Del Vicario et al., 2016]. Тот факт, что пользователи, интересующиеся конспирологическими слухами, не используют операторы сомнения, косвенно показывает, что они не хотят разрушать свою эхо-камеру.
Чесночная вода против антибиотиков: «переход к действию» в медицинских и псевдомедицинских рекомендациях
Одна из модальностей, которой пользователи сопровождали свои запросы — это модальность действия: «как приготовить», «где купить», «как принимать». Эта модальность показывает, что пользователь уже не подвергает информацию со-
мнению, а готов совершать предложенные действия, и его волнуют только дозировки или объем. Российские пользователи чаще всего использовали модальность действия в псевдомедицинских и медицинских запросах (см. табл. 3). Доля сомнения в том, следует ли принимать эти средства при заболевании С0УЮ-19, во всех случаях довольно высокая (около 20 %), и с этой точки зрения антибиотики не отличаются от народных средств. При этом пользователи поисковой машины значительно реже сомневались в том, что при коронавирусе надо дышать водкой или применять щелочь.
Операторы модальности «переход к действию» («Где купить?», «Каковадозировка?», «Как приготовить?») легко присоединялись к запросу об антибиотиках (33 % запросов). На втором месте, с большим отрывом,—стремление правильно приготовить «чесночную воду» (16 %). Экспериментировать с водкой или щелочью люди были готовы в меньшей степени (до 5 % запросов).
Популярность подобных запросов показывает склонность пользователей к самолечению. В отличие от «чесночной воды», бесконтрольный прием антибиотиков может нанести здоровью большой вред, поскольку таким образом развивается резистентность бактерий по отношению к ним.
Таблица 4. Народные рецепты и операторы сомнения и перехода к действию (доля запросов, содержащих каждый оператор, от общего числа запросов, связанных с данным инфодемическим нарративом)
Медицинские советы Отрицание Сомнение Переход к действию
«Чесночная вода» помогает от коронавируса 1 % 24 % 16 %
В лечении коронавируса применяются антибиотики 0 % 20 % 33 %
Врач из Италии Александр Колосов советует дышать водкой 7 % 13 % 5 %
Щелочь спасает от С0УЮ-19 0 % 3 % 2 %
Заключение: опасная информация и сомнение
Наш анализ инфодемических нарративов в соцсетях и запросов пользователей к поисковой машине показал, что наиболее популярными среди пользователей во время пандемии были две тематические группы: «народные рецепты» лечения С0УЮ-19 и антивакцинационные слухи. Однако пользователи взаимодействовали с такими текстами по-разному.
В обзоре литературы мы писали о том, что исследователи описывают взаимодействие пользователей с новой информацией в рамках биполярной модели (либо отрицают ее, либо некритично руководствуются ею в своих действиях). Наш материал свидетельствует, что между крайними точками доверия и недоверия располагается обширная зона сомнения. Получая новую информацию, пользователи нередко начинали ее проверять в интернете при помощи поисковых машин.
Определенная доля пользователей прибегала к операторам сомнения, уточнения или призыва к действию, в зависимости от содержания текста (например, «правда или ложь», «возможно», «реально», «фейк», «что делать», «как принимать»,
«кому помог» и т. д.). Благодаря этому у нас появилась возможность определить потенциально опасные инфодемические нарративы при помощи формальных критериев — способов формулирования поискового запроса (использование определенных типов поиска — цитат из рассылок или ключевых слов, и использование определенных операторов модальности).
Пользователи практически не стремились проверять конспирологические нарративы (коронавирус «создан» при участии Билла Гейтса / мирового правительства / фармкомпаний, пандемия «организована» ВОЗ с тайной целью и т. п.) — при них операторы сомнения не появлялись. Если люди были озабочены такой информацией, то они искали скорее подтверждение своим взглядам, чем их критику.
В наибольшей степени пользователей волновали нарративы, связанные с повседневными рисками и способные повлиять на ежедневные решения, которые они принимали в связи с постоянно меняющейся эпидемиологической обстановкой. Такие «нарративы оценки рисков» молниеносно распространялись, но очень быстро вызывали у пользователей подозрения в том, что содержащаяся в них информация не соответствует действительности. Поэтому их можно оценить как относительно безопасные, несмотря на их активное распространение.
Опасность инфодемического нарратива определяется не столько тем, что он предлагает искаженное представление о ситуации, сколько тем, в какой степени он провоцирует людей предпринимать (или не предпринимать) те или иные действия. Мы выявили группу запросов, которые наиболее часто стимулировали такой переход к действию — это тексты об использовании лекарственных препаратов. Люди, которые с ними сталкиваются, чаще, чем в других случаях (например, чем в случае с текстами о народных средствах) начинали искать способы перейти к действию: купить препарат и начать его принимать. С одной стороны, это безопаснее многих народных средств, но с другой — самолечение может приводить к опасным последствиям.
Наиболее живучие и одновременно наиболее опасные инфодемические нарративы (например, о вакцинации) основаны на представлениях, которые распространялись задолго до пандемии и начала вакцинационной кампании. Для человека, столкнувшегося с таким нарративом, вероятность получить в интернете подтверждение ложной информации оказывалась выше, чем вероятность обнаружить ее критику, что укрепляло доверие к сообщению и вело к опасным действиям. Эти механизмы взаимодействия с информацией и выявленные нами закономерности могут описывать не только реакцию на пандемию, но и поведение пользователей соцмедиа в ситуации любых других социальных катастроф и кризисов.
Список литературы (References)
Архипова А. С.*, Радченко Д. А., Козлова И. В., Пейгин Б. С., Гаврилова М. В., Петров Н. В. Пути российской инфодемии: от WhatsApp до следственного комитета // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 6. С. 231—265. https://doi.Org/10.14515/monitoring.2020.6.1778. Arkhipova A.S*., Radchenko D. А., Kozlova I. V., Peigin B. S., Gavrilova M. V., Petrov N. V. (2020) Specifics of Infodemic in Russia: From WhatsApp to the Investigative Commit-
tee. Monitoring of Public Opinion: Economic and Social Changes. No. 6. P. 231—265. https://doi.Org/10.14515/monitoring.2020.6.1778. (In Russ.)
Василькова В. В., Легостаева Н. И. Социальные боты в компьютерной пропаганде: серфинг на информационной волне коронавируса // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 6. С. 329—356. https://doi.org/10.14515/monitoring.2020.6.1762.
Vasilkova V. V., Legostaeva N. I. (2020) Social Bots in Computational Propaganda: Surfing the Coronavirus Information Wave. Monitoring of Public Opinion: Economic and Social Changes. No. 6. P. 329—356. https://doi.org/10.14515/monitoring.2020.6.1762. (In Russ.)
Гаврилова М. В. Водка, сода и чеснок: «народные» лекарства против страхов. Фольклор и антропология города. 2020. Т. III. № 1—2. С. 224—260. URL: https:// ufajournal.ranepa.ru/upload/iblock/44b/Мария%20Гаврилова%201.pdf (дата обращения: 20.08.2023).
Gavrilova, M.V. (2020). Vodka, Soda and Garlic: "Folk" Medicines Against Fears. Urban Folklore and Anthropology. Vol. III. No. 1—2. P. 224—260. URL: https://ufajour-nal.ranepa.ru/upload/iblock/44b/Мария%20Гаврилова%201.pdf (accessed: 20.08.2023). (In Russ.)
Ahmed W., Vidal-Alaball J., Downing J., López Seguí F. (2020) COVID-19 and the 5G Conspiracy Theory: Social Network Analysis of Twitter Data. Journal of Medical Internet Research. Vol. 22. No. 5. e19458. https://doi.org/10.2196/19458.
Bastani, P., Bahrami, M. A. (2020) COVID-19 Related Misinformation on Social Media: A Qualitative Study from Iran. Journal of Medical Internet Research. Advance Online Publication. https://doi.org/10.2196/18932.
Breslin S. D., Enggaard T. R., Blok F., Gárdhus T., Pedersen M. A. (2020) How We Tweet About Coronavirus, and Why: A Computational Anthropological Mapping of Political Attention on Danish Twitter during the COVID-19 Pandemic. Somatosphere. URL: http://somatosphere.net/forumpost/covid19-danish-twitter-computational-map/ (accessed: 18.06.2021).
Bruns, A., Harrington, S., Hurcombe, E. (2020). "Corona? 5G? Or Both?": The Dynamics of COVID-19/5G Conspiracy Theories on Facebook. Media International Australia. Vol. 177. No. 1. P. 12—29. https://doi.org/10.1177/1329878X20946113.
Cinelli M., Quattrociocchi W., Galeazzi A., Valensise C. M., Brugnoli E., Schmidt A. L., Zola P., Zollo F., Scala A. (2020) The COVID-19 Social Media Infodemic. Scientific Reports. Vol. 10. No. 1. https://doi.org/10.1038/s41598-020-73510-5.
Del Vicario M. Vivaldo G., Bessi A., Zollo F., Scala A., Caldarelli G., Quattrociocchi W. (2016). Echo Chambers: Emotional Contagion and Group Polarization on Facebook. Scientific Reports. Vol. 6. No. 1. Art. 37825. https://doi.org/10.1038/srep37825.
Eysenbach G. (2009) Infodemiology and Infoveillance: Framework for an Emerging Set of Public Health Informatics Methods to Analyze Search, Communication and Publication Behavior on the Internet. Journal of Medical Internet Research. Vol. 11. No. 1. Art. e11 https://doi.org/10.2196/jmir.1157.
Gamma A., Schleifer R., Weinmann W., Buadze A., Liebrenz M. (2016) Could Google Trends Be Used to Predict Methamphetamine-Related Crime? An Analysis of Search Volume Data in Switzerland, Germany, and Austria. PLOS ONE. Vol. 11. No. 11. Art. e0166566. https://doi.org/10.1371/journal.pone.0166566.
Germani F., Biller-Andorno N. (2021) The Anti-vaccination Infodemic on Social Media: A Behavioral Analysis. PLOS ONE. Vol. 16. No. 3. Art. e0247642. https://doi. org/10.1371/journal.pone.0247642.
Hou, Z., Du F., Jiang H., Zhou X., Lin L. (2020). Assessment of Public Attention, Risk Perception, Emotional and Behavioural Responses to the COVID-19 Outbreak: Social Media Surveillance in China. MedRxiv. 2020.03.14.20035956. https://doi.org/10. 1101/2020.03.14.20035956.
Martel C., Pennycook G., Rand D. G. (2020) Reliance on Emotion Promotes Belief in Fake News. PsyArXiv. https://doi.org/10.31234/osf.io/a2ydw.
Pennycook G., McPhetres J., Zhang Y., Lu J. G., Rand D. G. (2020). Fighting COVID-19 Misinformation on Social Media: Experimental Evidence for a Scalable Accuracy-Nudge Intervention. Psychological Science. Vol. 31. No. 7. P. 770—780. https://doi. org/10.1177/0956797620939054.
Platonov K., Svetlov K. (2020) Conspiracy Theories Dissemination on SNS Vkontakte: COVID-19 Case. In: Chugunov A., Khodachek I., Misnikov Y., Trutnev D. (eds.) Electronic Governance and Open Society: Challenges in Eurasia. Cham: Springer. P. 322—335. https://doi.org/10.1007/978-3-030-67238-6_23.
Preis T., Moat H., Stanley H. (2013) Quantifying Trading Behavior in Financial Markets Using Google Trends. Scientific Reports. Vol. 3. Art. 1684. https://doi.org/10.1038/ srep01684.
Prooijen van. J.W. (2018) Empowerment as a Tool to Reduce Belief in Conspiracy Theories. In: Uscinski J. E. (ed.) Conspiracy Theories and the People Who Believe Them.Oxford: Oxford University Press. P. 432—442. https://doi.org/10.1093/ oso/9780190844073.003.0030.
Stephens-Davidowitz S. (2014) The Cost of Racial Animus on a Black Candidate: Evidence Using Google Search Data. Journal of Public Economics. Vol. 118. P. 26—40. https://doi.org/10.1016/j.jpubeco.2014.04.010.
Sullivan D., Landau M. J., Rothschild Z. K. (2010) An Existential Function of Enemyship: Evidence That People Attribute Influence to Personal and Political Enemies to Compensate for Threats to Control. Journal of Personality and Social Psychology. Vol. 98. No. 3. P. 434—449. https://doi.org/10.1037/a0017457.
Swami V., Furnham A., Smyth N., Weis L., Ley A., Clow A. (2016) Putting the Stress on Conspiracy Theories: Examing Associations between Psychosocial Stress, Anxiety, and Belief in Conspiracy Theories. Personality and Individual Differences. Vol. 99. P. 72— 76. https://doi.org/10.1016/j.paid.2016.04.084.
Telfer S., Woodburn J. (2015) Let Me Google That for You: A Time Series Analysis of Seasonality in Internet Search Trends for Terms Related to Foot and Ankle Pain. Journal of Foot and Ankle Research. Vol. 8. Art. 27. https://doi.org/10.1186/s13047-015-0074-9.
Verma M., Kishore K., Kumar M., Sondh A. R., Aggarwal G., Kathirvel S. (2018). Google Search Trends Predicting Disease Outbreaks: An Analysis from India. Healthcare Informatics Research. Vol. 24. No. 4. P. 300—308. https://doi.org/10.4258/hir.2018. 24.4.300.
Wang H., Li Y., Hutch M., Naidech A., Luo Y. (2021) Using Tweets to Understand How COVID-19—Related Health Beliefs Are Affected in the Age of Social Media: Twitter Data Analysis Study. Journal of Medical Internet Research. Vol. 23. No. 2. Art. e26302. https://doi.org/10.2196/26302.
Yang S., Santillana M., Kou S. C. (2015) Accurate Influenza Epidemics Estimation Via ARGO. Proceedings of the National Academy of Sciences. Vol. 112. No. 47. P. 14473— 14478. https://doi.org/10.1073/pnas.1515373112.
Zhao Z., Zhao Z., Sano Y., Levy O., Takayasu H., Takayasu M., Li D., Wu J, Havlin S. (2020) Fake News Propagates Differently from Real News Even at Early Stages of Spreading. EPJ Data Science. Vol. 9. Art.7. https://doi.org/10.1140/epjds/s13688-020-00224-z.
