CC BY
27
ТЕОРИЯ, МЕТОДОЛОГИЯ И МЕТОДЫ
DOI: 10.14515/monitoring.2024.3.2544
Э. Монахова, Ю.М. Городничева, А.Н. Морозова, А.Н. Шестакова, В.В. Моисеева, В.А. Ключарев
ДОВЕРИЕ К МАНИПУЛЯТИВНОЙ ИНФОРМАЦИИ: ОТ ВОСПРИЯТИЯ К ПРИНЯТИЮ РЕШЕНИЙ
Правильная ссылка на статью:
Монахова Э., Городничева Ю. М., Морозова А.Н., Шестакова А.Н., Моисеева В.В., Ключарев В.А. Доверие к манипулятивной информации: от восприятия к принятию решений //Мониторинг общественного мнения: экономические и социальные перемены. 2024. № 3. С. 42—66. https://doi.Org/10.14515/monitoring.2024.3.2544. For citation:
Monahhova E., Gorodnicheva J.M., Morozova A.N., Shestakova A.N., Moiseeva V.V., Klucha-rev V.A. (2024) Trust in Manipulative Information: From Perception to Decision Making. Monitoring of Public Opinion: Economic and Social Changes. No. 3. P. 42-66. https://doi.org/10.14515/ monitoring.2024.3.2544. (In Russ.)
Получено: 17.12.2023. Принято к публикации: 24.04.2024.
ДОВЕРИЕ К МАНИПУЛЯТИВНОЙ ИНФОРМАЦИИ: ОТ ВОСПРИЯТИЯ К ПРИНЯТИЮ РЕШЕНИЙ
МОНАХОВА Элиана — стажер-исследователь, Центр нейроэкономики и когнитивных исследований, Национальный исследовательский университет «Высшая школа экономики», Москва, Россия E-MAIL: [email protected] https://orcid.org/0000-0001-9426-3642
ГОРОДНИЧЕВА Юлия Михайловна — стажер-исследователь, Международная лаборатория социальной нейробиоло-гии, Национальный исследовательский университет «Высшая школа экономики», Москва, Россия E-MAIL: [email protected] https://orcid.org/0009-0001-5299-2692
МОРОЗОВА Александра Николаевна — стажер-исследователь, Международная лаборатория социальной нейробиоло-гии, Национальный исследовательский университет «Высшая школа экономики», Москва, Россия E-MAIL: [email protected] https://orcid.org/0009-0009-3348-4412
ШЕСТАКОВА Анна Николаевна — кандидат биологических наук, директор Центра нейроэкономики и когнитивных исследований, Национальный исследовательский университет «Высшая школа экономики», Москва, Россия E-MAIL: [email protected] https://orcid.org/0000-0001-9374-9878
МОИСЕЕВА Виктория Владимировна — кандидат биологических наук, ведущий научный сотрудник, Центр нейроэконо-мики и когнитивных исследований, Национальный исследовательский универ-
TRUST IN MANIPULATIVE INFORMATION: FROM PERCEPTION TO DECISION MAKING
Eliana MONAHHOVA1 — Research Assistant, Centre for Cognition and Decision Making
E-MAIL: [email protected] https://orcid.org/0000-0001-9426-3642
Julia M. GORODNICHEVA1 — Research Assistant, International Laboratory of Social Neurobiology E-MAIL: [email protected] https://orcid.org/0009-0001-5299-2692
Alexandra N. MOROZOVA1 — Research Assistant, International Laboratory of Social Neurobiology E-MAIL: [email protected] https://orcid.org/0009-0009-3348-4412
Anna N. SHESTAKOVA1—Cand. Sci. (Biol.), Director of the Centre for Cognition and Decision Making E-MAIL: [email protected] https://orcid.org/0000-0001-9374-9878
Victoria V. MOISEEVA1—Cand. Sci. (Biol.), Leading Research Fellow, Centre for Cognition and Decision Making E-MAIL: [email protected] https://orcid.org/0000-0001-8729-1610
1 HSE University, Moscow, Russia
ситет «Высшая школа экономики», Москва, Россия E-MAIL: [email protected] https://orcid.org/0000-0001-8729-1610
КЛЮЧАРЕВ Василий Андреевич — кандидат биологических наук, ведущий научный сотрудник, Центр нейроэко-номики и когнитивных исследований, Национальный исследовательский университет «Высшая школа экономики», Москва, Россия E-MAIL: [email protected] https://orcid.org/0000-0002-5257-3789
Аннотация. Решения принимаются под сильным влиянием доступной информации. Растущий объем манипуля-тивного контента и новые технологии его производства потенциально создают высокие риски массовой дезориентации в информационном пространстве. Статья демонстрирует ключевые междисциплинарные подходы к изучению ряда важных категорий манипу-лятивной информации и технологическую эволюцию от распространенных медиаманипуляций (на примере медиа-фрейминга посредством эвфемизмов) к современным типам ложной информации (фейковые новости и дипфей-ки). Также рассматривается роль доверия к манипулятивной информации в контексте (а) источника, (б) содержания и (в) потребителя информационных манипуляций. Весь корпус междисциплинарных исследований показывает, что доверие к манипулятивному контенту и его влияние на процесс принятия решений зависит от определенного количества факторов данных категорий. Теоретический обзор не только объединяет результаты ключевых исследований по психологии, социологии и экономике, но и существенно расширяет
VasilyA. KLUCHAREV1—Cand. Sci. (Biol.), Leading Research Fellow, Centre for Cognition and Decision Making E-MAIL: [email protected] https://orcid.org/0000-0002-5257-3789
1 HSE University, Moscow, Russia
Аbstract. Decision making is strongly influenced by available information.The growing volume and new technologies for creating manipulative information cause high risks of disorientation in the media space. The article demonstrates key interdisciplinary approaches to the study of several important categories of manipulative information and the technological evolution from common media manipulations (using the example of media framing through euphemisms) to modern types of false information (fake news and deepfakes). The authors consider the role of trust in manipulative information in the context of (a) the source, (b) content, and (c) consumer of information. An entire body of interdisciplinary research demonstrates that the credibility of fake content and its influence on decision-making is significantly dependent on the factors belonging to these categories. This theoretical review not only combines the results of key studies in psychology, sociology, and economics, but also significantly expands the understanding of the manipulative information impact features in the context of the rapid development of new technologies.
понимание особенностей влияния ма-нипулятивной информации в контексте быстрого развития новых технологий.
Ключевые слова: манипулятивная информация, дезинформация, медиа-фрейминг, фейковые новости, дип-фейк, доверие, принятие решений
Благодарность. Работа выполнена в рамках Программы фундаментальных исследований НИУ ВШЭ.
Keywords: manipulative information, disinformation, mediaframing, fake news, deepfake, trust, decision making
Acknowledgments. The work was carried out within the framework of HSE Basic Research Program.
Введение
В последние десятилетия наблюдается возрастающее признание важности влияния контекста на процесс принятия решений. Нобелевская премия по экономике, присужденная в 2002 г. Даниэлю Канеману за работы по исследованию эвристик и предубеждений1 [Tversky, Kahneman, 1981] и использование поведенческих «подсказок» (англ. nudges), подталкивающих к тем или иным решениям [Thaler, Sunstein, 2008; Kahneman, 2003], высветила важность более глубокого изучения механизмов принятия решений и формирования стратегий выбора. Современные междисциплинарные исследования суждений и принятия решений интегрируют подходы когнитивных наук, поведенческой экономики, академического маркетинга, организационной психологии и социологии для более точного понимания механизмов принятия решений в различных социальных контекстах.
Манипулятивная информация может быть представлена в различных формах, включая повседневную ложную информацию и медиаманипуляции, например, выборочное представление информации, использование ненастоящих экспертов и другие методы, которые могут привести к искажению реальности и введению людей в заблуждение2. Сегодня, при быстром развитии новых технологий создания гиперреалистичной манипулятивной информации, становится особенно актуальным выявление индивидуальных характеристик, определяющих более сильную подверженность такому влиянию. Понимание механизмов воздействия манипулятивной информации важно также для разработки эффективных мер смягчения негативного влияния на формирование стратегий выбора и общественное благополучие.
Данный теоретический обзор описывает психологические и социальные механизмы восприятия классических медиаманипуляций (медиафрейминг, прочие эвфемизмы) и ложной информации (фейкньюс, дипфейки), а также их воздействие
1 Kahneman D. Maps of Bounded Rationality: A Perspective on Intuitive Judgement and Choice (Prize Lecture). 2002. URL: https://cmapspublic2.ihmc.us/rid=1JYQGMJ2F-12L12PD-12N9/kahnemann-lecture.pdf (дата обращения: 09.06.2024).
2 Wardle C., Derakhshan H. Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe. 2017. URL: https://edoc.coe.int/en/media/7495-information-disorder-toward-an-interdisciplinary-framework-for-research-and-policy-making.html (дата обращения: 09.06.2024).
на процесс принятия решений. Обзор фокусируется на классификации факторов доверия к различным типам манипулятивной информации, акцентируя внимание не только на особенностях источника и содержания информационного сообщения, но и на индивидуальных характеристиках потребителя информации. Предыдущие исследования систематизировали ряд факторов, способствующих оценке достоверности (англ. credibility) информационных материалов [Bryanov, Vziatysheva, 2021], а также обозначили ключевые характеристики манипулятивного контента и механизмы его распространения [Зуйкина, Соколова, 2019]. Данный обзор, в свою очередь, объединяет результаты предыдущих фундаментальных и прикладных работ, отражая не только особенности генерации и распространения, но и восприятия (в частности, доверия) манипулятивного контента. Кроме того, особый акцент данная работа делает на влиянии манипулятивной информации на процесс принятия решений.
В силу междисциплинарного характера работы необходимо дать определения ключевых понятий.
1. Медиаманипуляции — ряд согласующихся методов, с помощью которых заинтересованные лица создают образы или аргументы в медиа, благоприятствующие их конкретным интересам [Herman, Chomsky, 1988].
2. Дезинформация — вводящая в заблуждение информация, созданная с целью намеренного обмана, причинения вреда или извлечения выгоды для распространителя [Fetzer, 2004].
3. Медиафрейминг — метод медиаманипуляций, подразумевающий выбор некоторых аспектов воспринимаемой реальности с целью сделать их более заметными в коммуникационном контексте, содействовать конкретному определению проблемы, моральной оценке и/или рекомендациям по решению описанной проблемы [Entman, 1993].
4. Эвфемизм — средство, с помощью которого неприятное, оскорбительное или вызывающее страх сообщение обозначается более мягко, чтобы скрыть негативную коннотацию [Kany, 1960].
5. Фейковые новости — сфабрикованная информация, которая имитирует контент средств массовой информации (СМИ) по форме, но не по организационному процессу или намерениям [Lazer et al., 2018]; преднамеренно ложные или вводящие в заблуждение утверждения, представленные в виде новостей [Gelfert, 2018].
6. Дипфейк—тип ложной информации, созданный с использованием искусственного интеллекта и технологий машинного обучения для манипуляции изображениями, аудио- и видеоматериалами, для создания впечатления, что кто-то говорит или делает что-то, чего он не делал [Kietzmann et al., 2020].
Манипулятивная информация
Манипулятивная информация появилась, вероятно, когда люди только начали формировать первые сообщества, развивать системы письменности и коммуникации [Burkhardt, 2017]. С появлением печатной прессы, радио и телевидения ложные информационные сообщения в медиапространстве стали оказывать все более сильное влияние на социально-политические и экономические процессы. Обеспокоенность в адрес ложных материалов особенно возросла в 2020 г. в свя-
о
зи с широким распространением дезинформации в социальных сетях на тему пандемии коронавируса COVID-19.
Индивид, попадающий под влияние манипулятивной информации, сталкивается с изменением структуры ранее сформированных представлений. Появление и распространение манипулятивной информации создают угрозу нарушения целостности и релевантности накопленного индивидом опыта [Муценек, 2018]. Дезинформация в разных ее проявлениях представляет собой особую опасность для политической и социальной стабильности общества, экономического развития и других важных сфер жизни [Wasserman, Madrid-Morales, 2019]. Так, исследование, проведенное в США, оценило влияние разных типов информации на склонность к вакцинации от коронавируса COVID-19 и показало, что принятие решения о вакцинации сильно зависит от уровня доверия к транслируемым информационным сообщениям, причем к фейковым новостям также формировался определенный уровень доверия [Westney et al., 2023]. А в российском исследовании 2020 г. было обнаружено, что 15,6% студентов доверяют слухам о происхождении коронавирусной инфекции (например, «коронавирус был разработан китайскими военными», «коронавирус был разработан в лаборатории как новое биооружие»), хотя декларация этого доверия является социально неодобряемой [Климова, Чмель, Савин, 2020].
Мы поставили перед собой цель провести анализ литературы в контексте эволюции манипулятивной информации от традиционных медиаманипуляций к технологиям «фейковых новостей» и «дипфейков». Типы и методы манипулятивной информации, описанные в данном обзоре, представляются нам наиболее важными в контексте влияния на процесс принятия решений и формирование выбора ввиду своей распространенности и/или инновационности, рассмотрим аспекты их актуальности далее.
Медиафрейминг — один из самых распространенных способов медиаманипуляций, поскольку его реализация достижима простыми средствами, не включающими сложные технологические решения, а также благодаря сложности идентификации медиафреймов со стороны потребителя информации, как следствие — его эффективности [Entman, 1993]. Медиафрейминг создает заведомо позитивную или негативную рамку восприятия сообщения средствами языка, контекстом сообщения и т.д. «Фрейминг, изменяя формулировки описания явления и фокусируя внимание читающего на необходимых атрибутах, при помощи последних определяет когнитивную схему, которая будет использована при анализе события, ситуации, факта» [Джавадова, 2020: 4].
Метод фрейминга используется практически во всех видах медиаманипуляций — в пропаганде, распространении слухов, конспирологии и т.д.—и носит всеобъемлющий характер. Его можно отнести скорее к распространенной стратегии управления политическим сознанием, нежели к отдельному типу манипуляций [Лопатин, 2019]. Так, подача сообщения в обвинительном или оправдательном тоне, достигаемом средствами языка, заставляет думать о герое сообщения как о преступнике или как о жертве [Seate, Harwood, Blecha, 2010]. Один из наиболее распространенных приемов медиафрейминга — эвфемизирование сообщения. Эвфемизмы доказали свою эффективность в многочисленных исследованиях по широкому кругу
вопросов — в бизнесе, моральных суждениях, оценке рисков и опасностей [Loftus, Palmer, 1974]. Авторы публикации в New York Times проанализировали3 эвфемизмы для слова «уволить» и пришли к выводу, что в активном использовании в английском языке находится не менее 48 действующих языковых единиц, задача которых— сгладить смысл неприглядного сообщения. Департамент экологии США выпустил циркуляр, запрещающий словосочетание «климатические изменения» и предлагающий такой эвфемизм, как «погодные крайности» [Farrow et al., 2021].
Также манипулятивная информация все чаще транслируется в виде фейковых новостей: согласно опросу, проведенному в Великобритании, 45,43 % респондентов считают, что сталкиваются с фейковыми новостями в интернете ежедневно, 19,64%—хотя бы раз в неделю4. Только за период с 2016 по 2017 г. использование термина «фейковые новости» выросло на 365%5. В США лишь 25% американцев уверены в своей способности распознавать фейковые новости6.
Дипфейки, ввиду своей реалистичности и высокотехнологичности, могут еще эффективнее вводить людей в заблуждение. По мнению экспертов, как дипфейки, так и фейковые новости сокращают количество подлинных новостей и могут снизить цифровую грамотность и доверие граждан к информации, предоставляемой властями7. В связи с относительной легкостью реализации технология дип-фейков приобретает большой масштаб распространения и становится все более доступной пользователям.
Типы манипулятивной информации
Способность современного мира создавать, собирать, хранить и вычислять информацию не имеет аналогов в истории человечества [Gilbert, 2011]. Цифровые СМИ и социальные сети являются важной частью этих динамичных процессов. Чем больше источников информации, тем выше конкуренция между ними. Битва за потребителя в условиях изобилия информации часто сводится к тому, чей заголовок окажется наиболее вызывающим и запоминающимся. Поэтому эмоциональные реакции и манипуляции стали одной из главных движущих сил для медиа. Далее мы рассмотрим различные типы манипулятивного контента, а именно ме-диафрейминг средствами языка (эвфемизация), а также полностью ложные сообщения (фейковые новости и дипфейки).
Медиафрейминг
Фрейминг (медиафрейминг) — междисциплинарный феномен, исследуемый на стыке таких дисциплин и областей знаний, как социология, психология, по-
3 Gillen D., Storey W. «You Are Fired», in Terms Only a Boss Could Love // The New York Times. 2013. October 24. URL: https://www.nytimes.com/2013/10/25/business/youre-fired-in-terms-only-a-boss-could-love.html (дата обращения: 24.06.2024).
4 Fake News Statistics — How Big is the Problem? JournoLink. URL: https://journolink.com/resources/post/319-fake-news-statistics-2019-uk-worldwide-data (дата обращения: 13.12.2023).
5 True or False? How Much Is Fake News Influencing Our Lives? University of Derby Magazine. No. 12. URL: https://www. derby.ac.uk/magazine/issue-12/influence-of-fake-news/ (дата обращения: 13.12.2023).
6 Watson A. Fake News in the U.S. —Statistics & Facts. Statista. 2023. January 9. URL: https://www.statista.com/ topics/3251/fake-news/#topicOverview (дата обращения: 13.12.2023).
7 Westerlund M. The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review. 2019. November. URL: https://timreview.ca/article/1282 (дата обращения: 13.12.2023).
литология, теория коммуникаций, медиа и компьютерные науки. Фреймы — это схемы интерпретации информации, которые позволяют воспринимать, идентифицировать и маркировать кажущееся бесконечным число явлений. Это выбор некоторых аспектов реальности и попытка сделать их более значимыми и заметными [Cornelissen, Werner, 2014]. Медиафрейминг стал одним из наиболее распространенных методов решения манипулятивных задач, включая пропаганду, конспирологию и др.
Согласно теории медиаэффекта, медиавлияние может быть сформировано свойствами содержимого сообщения [Valkenburg et al., 2016]. Таким образом, существует связь между негативной эмоциональной валентностью сообщения и вниманием, которое люди уделяют ему по сравнению с позитивными и нейтральными сообщениями [Zillmann et al., 2004]. Манипуляции с переменными, такими как стиль, выразительность языка, акцентуация, благоприятное подчеркивание, могут также обеспечивать эффективный фрейминг. Поскольку не существует единого формата для представления новостного сообщения в силу обилия источников, язык его описания может варьироваться. Различные стили и эмоциональная валентность лексики могут быть использованы для удовлетворения манипулятивной задачи. В этом смысле эвфемизм — это способ создать медиа-сообщение, которое звучит менее прямолинейно и более сглаженно при описании некоторых неприятных, разочаровывающих или шокирующих явлений, нарушающих общепринятые нормы, и таким образом снизить остроту восприятия. Например, пугающее слово «умереть» может заменяться несколькими эвфемистическими синонимами, такими как «оставить этот мир» или «уйти», если цель — сгладить эмоциональность сообщения. Существует множество мотивов для того, чтобы люди хотели ослабить эмоции, вызываемые негативной информацией. Например, эвфемизмы «помереть» или «сыграть в ящик» — это иронические и игривые способы отвлечь человека от трагедии случившегося.
Влияние эвфемизированных и неэвфемизированных сообщений изучалось в контексте важных социальных вопросов, таких как аборты, экология, социальное обеспечение, налоги, иммиграция. Пример одного из сценариев: участник слышал об энергетической неполадке (эвфемизированный вариант) или взрыве (неэвфемизированном) на электростанции по радио во время вождения. Значимые различия в реакции участника наблюдались и в оценке того, насколько угрожающей выглядела данная ситуация, и в решении, насколько отклониться от запланированного маршрута в связи с услышанным [Gladney, Rittenburg, 2005].
Чрезмерное использование эвфемизмов может иметь и противоположный эффект—например, снижать достоверность и убедительность воспринимаемой информации. Одним из наиболее ярких примеров является использование эвфемизма «особые потребности» вместо понятия «инвалидность». Данные о свободных ассоциациях с термином «особые потребности» позволили обнаружить, что он скорее сигнализирует о более тяжелых состояниях, таких как психические заболевания или расстройства развития [Plous, 1993]. Поэтому попытка придать позитивное значение инвалидности привела к противоположному результату. Таким образом, даже если эффект эвфемизма очевиден, его применение требует более подробного изучения.
Фейковые новости
Не только нюансы содержания сообщения могут манипулировать реакцией аудитории, но и сообщение в целом может имитировать реальную медиакомму-никацию. Ложная или вводящая в заблуждение информация все чаще маскируется под достоверные новости [Allen et al., 2020]. По результатам российского исследования выяснилось, что фейки могут распространяться не только через подозрительные сайты и страницы в соцсетях, источниками их распространения могут служить и федеральные СМИ [Зуйкина, Соколова, 2019]. В этой же работе было обнаружено, что фейки нацелены на широкую аудиторию, поэтому это чаще всего короткие текстовые материалы в информационном стиле, а их структура и нейтральная тональность делают их практически неотличимыми от обычных новостных заметок. Фейковые новости — явление не новое, они продолжили эпоху «желтой прессы», включая знакомые аспекты сенсационности — криминальные новости, скандалы и сплетни, репортажи о катастрофах, спортивные сенсации [Molina et al., 2021].
Особую популярность фейковые новости приобрели в социальных сетях. Ввиду возможности свободного распространения информации фейки быстро и успешно приживаются на различных медиаресурсах. Например, в 2016 г. в ходе президентских выборов в США социальная сеть Twitter (в настоящее время — Х) превратилась в удобную площадку для распространения фейков. Н. Гринберг и его коллеги [Grinberg et al., 2019] проанализировали аккаунты американских избирателей, чтобы определить, кто сталкивался с фейковыми новостями о выборах, кто занимался распространением дезинформации и в какой степени фейки перекликались с подлинной информацией. Данные оценки показывают, что более 6% материалов в X оказались фейками, однако читали их далеко не все пользователи. Интересно, что основными потребителями фейковых твитов стали избиратели старшего поколения, придерживающиеся консервативных политических взглядов, а также более вовлеченные в политический дискурс. Помимо X, около 27% американцев хотя бы раз натыкались на фейковый ресурс в интернете за неделю до выборов, а 60% визитов на сайты с фейковой информацией приходилось на самых консервативных избирателей Америки. В 2017 г. издательство HarperCollins, выпускающее толковый словарь английского языка, объявило термин fake news словом года8, подчеркивая его значимость в современном мире. Количество фейковых материалов стремительно увеличивается, новый всплеск дезинформации пришелся на годы пандемии COVID-19. Данный вирус породил большое количество слухов, теорий заговора и ложной информации, посеяв панику и серьезные переживания среди населения. Так, представителям власти в разных странах пришлось оперативно реагировать на большое количество фейковых сообщений, перекрывая их подлинными новостями об опасности и последствиях заражения [Huynh, 2020].
Несмотря на некоторые положительные стороны фейковых новостей (например, демонстрация альтернативного мнения), они представляют серьезную угрозу экономическому развитию, социальной и политической стабильности общества.
8 Словарь Collins назвал словом года «фейковые новости» // Коммерсантъ. 2017. 2 ноября. URL: https://www. kommersant.ru/doc/3458669 (дата обращения: 19.06.2024).
Масштабное распространение дезинформации также может помешать прозрачности политических выборов, обсуждению экологических проблем и безопасности вакцин [Fernandez, Alani, 2018]. Например, фейковые новости в социальных сетях о введении правительством Турции контроля над движением капитала привели к падению курса лиры на 20% по отношению к доллару США и, как следствие, к реальным экономическим потерям. А ложная информация о том, что граница между Грецией и Северной Македонией открыта, побудила сотни мигрантов бежать через греческую границу, из-за чего произошли многочисленные столкновения греческой полиции и мигрантов [Zhou et al., 2019].
Фейковые новости могут нарушить баланс доверия в новостной экосистеме. Они также влияют на последующее восприятие пользователем реальных новостей. Например, человек может перестать отличать правду от лжи в информационных сообщениях, что приведет к тотальному недоверию любой потребляемой информации [Shu et al., 2017]. Кроме того, фейковые новости намеренно убеждают пользователей принять предвзятые или ложные убеждения, а потому часто используются для политической пропаганды и навязывания определенных идей и установок. Фейковые новости как информационный феномен могут также оказывать существенное давление на эмоциональный отклик, мышление и другие когнитивные функции в процессе взаимодействия с контентом [Guo et al., 2021].
Дипфейки
Возрастающий интерес вызывают манипулятивные материалы в более изощренном, высокотехнологичном формате, именуемом дипфейком. Основная цель таких материалов — ввести пользователя в заблуждение, вызвать противоречивый эмоциональный отклик, изменить его отношение и восприятие к личности или явлению, которое он представляет [Korshunov, Marcel, 2018]. В прошлом создание подобных фейковых материалов было сложной дорогостоящей задачей, требующей профессиональных технических навыков, большого количества времени и финансовых затрат. Однако сегодня для создания качественных дипфей-ков достаточно стандартного компьютера, стабильного подключения к интернету и элементарных знаний о нейронных сетях. Некоторые приложения уже позволяют подменить лицо или голос без применения специальных программных решений.
Термин «дипфейк» возник относительно недавно, в 2017 г., когда один из пользователей онлайн-платформы Reddit под ником «deepfakes» заявил, что разработал алгоритм машинного обучения, позволяющий переносить лица знаменитостей в видео интимного содержания в реалистичном ключе. Исследование компании Sensity Artificial Intelligence, специализирующейся на дипфейках, показало, что от 90% до 95% дипфейк-материалов в интернете в период с 2018 по 2020 г. были порнографическими9. Помимо поддельной порнографии, дипфейки используются для создания фейковых новостей, мистификации, денежных махинаций, но иногда и для благих целей, например, при попытке обеспечить анонимность и конфиденциальность герою дипфейка.
9 Deepfakes vs Biometric KYC Verification // Sensity Artificial Intelligence. 2022. URL: https://sensity.ai/reports/ (дата обращения: 20.11.2023).
Эволюция медиаманипуляций в дипфейки привела к созданию сообщений с определенными характеристиками, которые делают их более уникальным и эффективным способом распространения манипулятивной информации [Ahmed, 2023]. Во-первых, как и другие формы визуальной или слуховой дезинформации, дипфейки используют так называемую эвристику реализма [Sundar, 2008], так как люди с большей вероятностью доверяют сгенерированным изображениям и аудиоматериалам, чем тексту, как более правдивому отражению происходящих в реальности событий [Vaccari, Chadwick, 2020]. Б. Рёсслер и соавторы [Rossler et al., 2018] показали, что люди способны распознавать дипфейки только примерно в 50 % случаев — такой показатель почти не уступает случайному угадыванию.
Вторая, не менее важная характеристика дипфейков — дискредитация подлинной информации, которая обусловлена дивидендами лжеца (англ. the liar's dividend) [Chesney, Citron, 2019]. Дипфейки могут полностью перевернуть представление об истине в глазах общественности. К примеру, в 2018 г. в Габоне президент страны Али Бонго несколько недель не появлялся на публике из-за проблем со здоровьем. Правительство было выпустило президентское видеообращение, чтобы прервать публичные спекуляции о распространившихся дипфей-ковых материалах, в которых сообщалось о смерти президента. Доверие к таким новостям настолько укрепилось, что в процесс вынуждены были вмешаться военные, назвавшие распространяемые материалы дипфейком [Giansiracusa, 2021].
В то же время алгоритмы искусственного интеллекта (ИИ), используемые в дип-фейках, предоставляют широкий спектр возможностей для синтеза голосов, текстов, видео, произведений искусства и т.д. Технологии дипфейков можно рассматривать как выгодную альтернативу в обучении и в создании реалистичных образов персонала в обучающих сценариях, которые было бы невозможно реализовать в других условиях из-за их высокой стоимости. Существуют и другие потенциальные возможности использования дипфейк-материалов во благо общества. Например, намеренное предоставление ложного контента в целях борьбы с терроризмом, мошенничеством и другими видами преступлений, направленных против общественного блага [Karnouskos, 2020]. Вне зависимости от цели распространения подобные материалы вызывают доверие со стороны аудитории.
Факторы доверия манипулятивной информации
Для понимания причин подверженности манипулятивной информации необходимо понять основные источники доверия к ней. Доверие к информации играет решающую роль в процессе принятия решений и формировании стратегий выбора индивида. Когда человек доверяет источнику информации, он чаще склонен принимать предложенные в этой информации утверждения как факты, что влияет на его мнения и убеждения. Факторы доверия и убеждения, рассмотренные в данной статье, разделены на три категории: характеристики (а) источника сообщения, (б) его содержания и (в) потребителя сообщения. Рассмотрим эти компоненты доверия подробнее.
Важно отметить, что мы рассматриваем не все факторы доверия и склонности к принятию решения на основе манипулятивной информации: например, мы оставляем без внимания такие факторы, как личная выгода (англ. self-relevance)
и социальная значимость (англ. social relevance), формирующие социальное убеждение по отношению к индивиду [Falk, Scholz, 2018], а также социодемографиче-ские факторы, например пол, возраст, уровень образования и особенности культуры индивида [Figueiras et al., 2021].
Источник манипулятивной информации: авторитетность
Одним из ключевых факторов, оказывающих влияние на доверие к подлинному или манипулятивному контенту, является авторитетность источника информации. Чем выше авторитетность источника, тем сильнее люди склонны доверять представленной информации и модерировать решения в зависимости от доступной аргументации. Авторитетность обладает рядом признаков, включая наличие профессиональных компетенций, практику, цитируемость публикаций и др. Некоторые исследования показывают, что долгосрочный опыт и специализированные знания (то есть наличие компетенции в определенной области) существенно влияют на уровень авторитетности и ее последующую оценку [Ericsson, Charness, 1994]. Одной из основных «переменных», подчеркивающих авторитетность источника, считается высокая экспертиза [Rhine, Severance, 1970], она является ключевым компонентом авторитетности коммуникатора [Priester, Petty, 2003].
Согласно предсказаниям модели углубленной обработки информации [Petty, Cacioppo, 1986] и эвристическо-систематической модели убеждения [Zuckerman, Chaiken, 1998], авторитетность источника может действовать как периферийный критерий или эвристика (как, например, «эксперты обычно правы» [Petty, Cacioppo, Goldman, 1981]), вызывать доверие и искажать понимание сообщения [Chaiken, Maheswaran, 1994], выступать в качестве значимой информации по вопросу или существенно влиять на процесс обработки информации [Heesacker, Petty, Cacioppo, 1983]. У людей могут формироваться субъективные, не всегда осознанные представления об авторитетности источника. Соответственно, уровень доверия к представленному контенту зависит от ряда манипулятивных методик, влияющих на изменение личного мнения и интенции к распространению информации третьим лицам. Исследования показывают, что степень доверия и оценка авторитетности источников могут меняться в зависимости от того, какая информация о них была получена прежде [Hovland, Weiss, 1951], а также насколько привлекательным кажется источник [Mills, Aronson, 1965].
Содержание манипулятивной информации: формат и значимость нарратива
Информационные сообщения в медиасреде обычно представлены в формате нарратива. Нарратив — важнейшая форма социального влияния и убеждения, способная оказывать воздействие на процесс принятия решений. Под термином подразумевается интерпретативный отчет о ситуации или серии событий (и связанного с ними опыта), который может быть как правдивым, так и вымышленным [Fisher, 1984]. Это не только форма коммуникации в человеческом обществе, но и инструмент конструирования реальности — как реальности внешнего мира, так и реальности самого себя [Bruner, 1991]. Например, исследования показывают, что потребление телевизионных новостей возросло, когда новости стали производить в форме нарративов, повествований [Machill, Köhler, Waldhauser, 2007].
Нарративы, в частности манипуляционные, относятся к числу наиболее мощных стимулов, вызывающих эмоции [Jääskeläinen et al., 2021]. Эмоции являются важным аспектом формирования доверия и принятия решений. Классический экономический анализ предполагает, что люди принимают решения рационально, основываясь на максимизации полезности [von Neumann, Morgenstern, 2004]. Более поздние исследования показали, что эмоции влияют на принятие решений в сложных условиях [Zajonc, 1980]. Другой пример—повествования, вызывающие эмоции, доносят информацию о политике до большинства граждан эффективнее, чем сообщения, основанные только на фактах [Piotrowski, Grimmelikhuijsen, Dreat,
2019]. Более того, нарратив политических новостей влияет на восприятие их достоверности. Соответствие новостей о международных отношениях двух стран нарративу, доминирующему в национальной медиасистеме, публикующей новость, влияет на доверие к новости больше, чем достоверность этой новости. Этот эффект усиливается в случае, когда отношения между страной, публикующей новость, и страной, являющейся субъектом новости, напряжены [Bryanov et al., 2023].
Принятие решений в условиях риска, известное как эвристика доступности, лучше объясняется легкостью вспомнить или представить подобное событие, чем объективной вероятностью конкретного события [Folkes, 1988]. Как следствие, драматические и ярко описанные события непропорционально влияют на восприятие риска и решения участников [Loewenstein et al., 2001]. Эмоции играют ключевую роль в принятии решений [Bechara, Damasio, 2005], поэтому эмоциональные нарративы могут объяснить расхождение мнения и поведения общественности и экспертов о рисках, связанных с различными событиями [Lachlan, Spence, 2010].
Конгруэнтность внутренним установкам
Другим значимым фактором, на который аудитория склонна опираться при ознакомлении с медиаконтентом, является его конгруэнтность мнению и внутренним установкам [Pennycook, Fugelsang, Koehler, 2015]. Люди склонны считать источники, например СМИ, которые соответствуют им в идеологическом плане, более достоверными и заслуживающими доверия [Tsfati, Ariely, 2014; Pennycook et al.,
2020]. Апостериорный анализ П. Моравека и его коллег [Moravec et al., 2018] доказывает, что идеологическая предвзятость сильно распространена: пользователи с большей вероятностью поверят заголовкам новостей, которые соответствуют их политическим взглядам. В то же время заголовки, противоречащие их мнению, получают мало когнитивного внимания (игнорируются).
Это согласуется с исследованиями мотивированного рассуждения (англ. motivated reasoning), когда люди выборочно обрабатывают информацию, подтверждающую их взгляды [Druckman, Bolsen, 2011],—так называемый феномен эвристики подтверждения восприятия (англ. confirmation bias) к материалу и источнику, который его транслирует. Подобная предвзятость восприятия выражается в тенденции отдавать предпочтение информации, которая подтверждает ранее существовавшие убеждения. Более того, человек начинает сильнее доверять контенту в том случае, когда информация повторяется несколько раз в различных источниках и становится более знакомой — вероятно, в силу возникающей эвристики доступности, впоследствии потребитель контента начинает доверять таким источникам еще силь-
нее [Родина, Прудков, 2019; Cacioppo, Petty, Kao, 1984]. Исследования обратного эффекта борьбы с медиаманипуляциями (англ. backfire effect) предсказывают, что люди могут закрепить свои некорректные убеждения, даже когда им предоставлена подлинная информация в качестве способа противодействия.
Для объяснения роли конгруэнтности в восприятии информации часто используется теория дуального мышления (англ. dual-process theory). Согласно теории, люди задействуют два режима обработки информации: быстрый, интуитивный режим (система 1) и медленный, преднамеренный режим (система 2)10 [Stanovich, 2009]. Предполагается, что автономные процессы системы 1 приводят к быстрой реакции и мгновенному принятию решения, если в них не вмешиваются особые процессы рассуждения более высокого порядка (система 2) [Evans, Stanovich, 2013]. Иными словами, система 1 связана с низким уровнем аналитических рассуждений и опорой на когнитивные искажения в процессе принятия решений и формирования стратегий выбора, например, интуитивные упрощения, основанные на предшествующих знаниях, убеждениях и приобретенном опыте [Bauer, Clemm von Hohenberg, 2020]. Система 2, напротив, связана с высоким уровнем аналитического мышления и предполагает тщательную и систематическую проверку информации, соответственно, менее подвержена ошибкам и, в контексте данного исследования, фейковому контенту в процессе принятия решений, чем система 1. Например, с большей уверенностью доверяла именно конгруэнтной информации та группа людей, которая больше обращалась к интуиции (системе 1) при оценке достоверности контента, а не руководствовалась длительной аналитической обработкой информации11.
Манипулятивная информация, соответствующая внутренним установкам и убеждениям человека, может также вызвать и усилить эмоциональные реакции, модифицируя процесс принятия решений на уровне системы 1. Исследования моральных и эмоциональных рассуждений демонстрируют, что эмоции играют важную роль в формировании решений и стратегий выбора [Haidt, Baron, 1996; Schnall et al., 2008]. Когда ложная информация резонирует с ранее сформированными установками или настроениями, она может существенно усилить эмоциональное воздействие на людей. Это эмоциональное влияние, в свою очередь, оказывает давление на процесс принятия решений, трансформируя воспринимаемую значимость или срочность информации. Например, политическая дезинформация, соответствующая партийной принадлежности избирателя, или манипулятивные практики по убеждению избирателя могут воздействовать на его финальное решение по голосованию [Hochschild, Einstein, 2015].
Потребитель манипулятивной информации
Аналитическое мышление. Особенности когнитивных процессов реципиента манипулятивной информации могут драматическим образом менять ее эффект
10 Kahneman D., Lovallo D., Sibony O. Before You Make that Big Decision. Harvard Business Review. 2011. June. P. 51—60. https://ir.vnulib.edu.vn/bitstream/123456789/4136/1/21.%20Before%20You%20Make%20that%20Big%20Decision. pdf. (дата обращения: 09.06.2024).
11 Wineburg S., McGrew S., Breakstone J., Ortega T. Evaluating Information: The Cornerstone of Civic Online Reasoning. 2016. URL: https://purl.stanford.edu/fv751yt5934 (дата обращения: 09.06.2024).
о
на поведение и принятие решений. Аналитическое мышление играет важную роль в формировании доверия к информации, поскольку оно способствует критическому анализу представленных данных и оценке их достоверности. Предыдущие исследования показали, что люди, обладающие более высоким уровнем аналитического мышления, с большей вероятностью могут отличить правдивую информацию от ложной и распознать манипуляции вне зависимости от того, соответствует ли она их внутренним установкам и убеждениям [Sindermann, Cooper, Montag, 2020]. Таким образом, люди с более развитыми когнитивными способностями лучше справляются с отличием недостоверного контента от подлинного, а те, кто чаще попадает под влияние дезинформации, не критичны к потребляемому контенту [Pennycook, Rand, 2019]. Согласно предыдущим исследованиям, люди с высоким уровнем аналитического мышления были способны определить от 56% до 95% манипулятивных материалов, в то время как склонность к заблуждениям, догматике и религиозному фундаментализму с большей вероятностью способствует доверию ложной информации — подобная корреляция объяснялась более низким уровнем аналитического мышления [Bronstein et al., 2019].
Уровень аналитического мышления при изучении восприятия манипулятивного контента часто измеряется с помощью теста на когнитивную рефлексию (Cognitive Reflection Test). Он включает в себя набор вопросов, где интуитивный ответ может казаться верным, но при внимательном рассмотрении оказывается ошибочным [Frederick, 2005]. Тест показывает, насколько человек способен преодолевать интуитивные ответы и применять аналитическое мышление для решения логических задач. Исследования указывают на связь между результатами теста на когнитивную рефлексию и рациональностью принятия решений [Pennycook et al., 2016; Levy, 2023]. Когнитивная рефлексия отрицательно коррелирует с воспринимаемой точностью заголовков фейковых новостей и положительно коррелирует со способностью отличать фейковые новости от реальных—даже для заголовков, которые соответствуют политической идеологии испытуемых [Pennycook, Rand, 2019].
Потребность в познании. Потребность в познании также является важным аспектом, определяющим, насколько активно и осознанно индивид стремится к погружению в процессы мышления и определения манипуляций и недостоверного медиаконтента, что можно оценить с помощью шкалы потребности в познании (Need for Cognition Scale). Данная шкала представляет инструмент для измерения степени, с которой человек стремится к погружению в когнитивные процессы и удовлетворению своей потребности в мышлении [Cohen, Scotland, Wolfe, 1955]. Люди с высоким уровнем потребности в познании обычно тщательнее анализируют информацию, полученную из разных источников, содержащих как правдивую, так и манипулятивную информацию [Cacioppo, Petty, Kao, 1984].
Социальное влияние и конформизм. Принадлежность к социальной группе, которая имеет важное значение в эволюционном развитии человека, может быть оформлена путем ознакомления с нормами и моделями поведения, передаваемыми через истории, и адаптации своих взглядов и поведения к принятым в обществе [Cialdini, Goldstein, 2004]. Социальное влияние нарратива создает предпосылки для изменения установок и убеждений, в то время как конформность смыслам, передаваемым через нарратив, — это социальный процесс изменения
личной позиции. Конформизм является тенденцией следовать за нормативным поведением большинства [ТЫгисИэе1уат et а1., 2017], причем мозговая активность, лежащая в основе конформного поведения, связана с теми же нейронными сетями, которые активируются в контексте получения вознаграждения [К1исИагеу, Shestakova, 2015].
Конформизм может оказывать существенное влияние на восприятие манипуля-тивной информации. Например, после воздействия комментариев людей, критикующих фейковые новости, намерение поделиться ими снижается по сравнению с воздействием комментариев, поддерживающих фейковый материал [СоШа^ег, 2019]. Люди, склонные к конформизму, более активно распространяют манипу-лятивный контент, который они считают подлинным ^уепауаке et а1., 2020]. Желание соответствовать мнению большинства позволяет не только следовать нормам и принятым моделям поведения, но и распространять медиаманипуляции и фейковые сообщения.
Выводы
Традиционные манипулятивные практики, такие как фрейминг, продолжают воздействовать на процесс принятия решений в политической, экономической, социальной и других областях. Например, эвфемизмы повсеместно используются для сглаживания вопиющих нарушений моральных норм. При этом исследования реакции на эвфемизмы свидетельствуют о важной роли, казалось бы, несущественных аспектов сообщения, например используемого стиля языка. Так, эвфемизмы и использующие их фейки все активнее заполняют информационное пространство, уменьшая общее доверие к медиаинформации. Коэволюция медиаманипу-ляций и технологий привела к интеграции манипулятивного контента с фейковыми новостями, созданными в том числе методами машинного обучения, в мультимо-дальные дипфейки. Новые формы медиаманипуляций паразитируют на эвристиках реализма и доступности, существенно дискредитируя подлинную информацию.
Одним из ключевых факторов, влияющих на доверие к современному медиа-контенту, является конгруэнтность содержания сообщения внутренним установкам ее реципиента. Например, люди склонны считать источники, которые близки их взглядам, более достоверными и заслуживающими доверия. Уровень аналитического мышления, потребность в познании и уровень конформизма индивида также оказывают существенное влияние на эффективность медиаманипуляций. Таким образом, современные научные работы должны сконцентрироваться как на ключевых параметрах медиаманипуляций, делающих их особенно эффективными, так и на когнитивных особенностях людей, формирующих подверженность негативным эффектам медиаманипуляций. Дальнейшие исследования должны позволить противостоять современным технологиям распространения манипу-лятивной информации через их фильтрацию, индикацию недобросовестного контента и обучение людей эффективным когнитивным стратегиям противостояния манипуляциям.
В связи с широким распространением новых форматов дезинформации перспективным направлением дальнейших исследований представляется, например, изучение долгосрочных эффектов воздействия фейков и манипуляций. Не-
обходимо исследовать когнитивные и поведенческие последствия воздействия фейковых новостей, такие как снижение психического благополучия, социальная изоляция и отсутствие рациональности в принятии решений. Не менее важна разработка эффективных стратегий развития критического мышления и объективной оценки достоверности источников. Люди, обладающие высокими аналитическими способностями, менее подвержены влиянию дезинформации и манипуляций [Pennycook, Rand, 2019]. Тем не менее даже они могут быть введены в заблуждение замаскированной фейковой информацией, в связи с чем методы повышения устойчивости к манипуляциям (например, обучение навыкам факт-чекинга) остаются важной темой для изучения.
Важным и перспективным направлением также является исследование роли личностных факторов и психологических особенностей в восприимчивости к дезинформации. Некоторые работы показывают, что такие черты, как догматизм, религиозный фундаментализм и авторитаризм, могут быть связаны с большей склонностью верить ложной информации [Bryanov, Vziatysheva, 2021]. Углубленное понимание этих факторов поможет разрабатывать более эффективные стратегии преодоления дезинформации для разных групп населения.
Список литературы (References)
1. Джавадова С.А. Медиафрейминг как инструмент влияния на общественное мнение // E-SCIO. 2020. Т. 5. № 44. С. 85—93.
Javadova S.A. (2020). Media Framing as a Tool for Influencing Public Opinion. E-Scio. Vol. 5. No. 44. P. 85—93. (In Russ.)
2. Зуйкина К.Л., Соколова Д. В. Специфика контента российских фейковых новостей в Интернете и на телевидении // Вестник Московского университета. Серия 10: Журналистика. 2019. № 4. С. 3—22. https://doi.org/10.30547/ vestnik.journ.4.2019.322.
Zuykina K. L., Sokolova D.V. (2019) Content Specifics of Russian Fake News on the Internet and on Television. Vestnik Moskovskogo Universiteta. Seriya. 10. Zhur-nalistika. No. 4. P. 3—22. https://doi.org/10.30547/vestnik.journ.4.2019.322. (In Russ.)
3. Климова А. М., Чмель К. Ш., Савин Н.Ю. Верю-не-верю: общественное мнение и слухи о происхождении нового коронавируса // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 6. С. 266—283. https://doi.org/10.14515/monitoring.2020.6.1752.
Klimova A. M., Chmel K. S., Savin N.Y. (2020) Believe It or Not: Public Opinion and Rumors About COVID-19. Monitoring of Public Opinion: Economic and Social Changes. Vol. 6. P. 266—283. https://doi.org/10.14515/monitoring.2020.6.1752. (In Russ.)
4. Лопатин С. В. Политический фрейминг как стратегия манипулирования политическим сознанием // Дискурс-Пи. 2019. Т. 16. No. 1. С. 68—76.
Lopatin S.V. (2019) Political Framing as a Strategy for Manipulating Political Consciousness. Discourse-Pi. Vol. 16. No. 1. P. 68—76. (In Russ.)
5. Муценек В. Е. Дезинформация как инцидент информационной безопасности // Известия Иркутского государственного университета. Серия: Политология. Религиоведение. 2018. Т. 24. С. 24—32.
MutsenekV. E. (2018) Disinformation as an Information Security Incident. The Bulletin of Irkutsk State University. Series «Political Science and Religion Studies». Vol. 24. P. 24—32. (In Russ.)
6. Родина О. Н., Прудков П. Н. Апробация русскоязычных версий теста когнитивной рефлексии // Вопросы психологии. 2019. № 4. С. 155—162.
Rodina O. N., Prudkov P. N. (2019) Testing of a Russian-Language Version of a Cognitive Reflection. Voprosy Psychologii. No. 4. P. 155—162. (In Russ.)
7. Ahmed S. (2023) Navigating the Maze: Deepfakes, Cognitive Ability, and Social Media News Skepticism. New Media & Society. Vol. 25. No. 5. P. 1108—1129. https://doi.org/10.1177/14614448211019198.
8. Allen J., Howland B., Mobius M., Rothschild D., Watts D.J. (2020) Evaluating the Fake News Problem at the Scale of the Information Ecosystem. Science Advances. Vol. 6. No. 14. Art. eaay3539. https://doi.org/10.1126/sciadv.aay3539.
9. Bauer P. C., Clemm von Hohenberg B. (2020) Believing and Sharing Information by Fake Sources: An Experiment. Political Communication. Vol. 38. No. 6. P. 647— 671. https://doi.org/10.1080/10584609.2020.1840462.
10. Bechara A., Damasio A. R. (2005) The Somatic Marker Hypothesis: A Neural Theory of Economic Decision. Games and Economic Behavior. Vol. 52. No. 2. P. 336— 372. https://doi.org/10.1016/j.geb.2004.06.010.
11. Bronstein M.V., Pennycook G., Bear A., Rand D.G., Cannon T.D. (2019) Belief in Fake News is Associated with Delusionality, Dogmatism, Religious Fundamentalism, and Reduced Analytic Thinking. Journal of Applied Research in Memory and Cognition. Vol. 8. No. 1. P. 108—117. https://doi.org/10.1016/jjarmac.2018.09.005.
12. Bruner J. (1991) The Narrative Construction of Reality. Critical Inquiry. Vol. 18. No. 1. P. 1—21. https://doi.org/10.1086/448619.
13. Bryanov K., Kliegl R., Koltsova O., Miltsov A., Pashakhin S., Porshnev A., Sinyav-skaya Y., Terpilovskii M., Vziatysheva V. (2023) What Drives Perceptions of Foreign News Coverage Credibility? A Cross-National Experiment Including Kazakhstan, Russia, and Ukraine. Political Communication. Vol. 40. No. 2. P. 115—146. https://doi.org/10.1080/10584609.2023.2172492.
14. Bryanov K., Vziatysheva V. (2021) Determinants of Individuals' Belief in Fake News: A Scoping Review Determinants of Belief in Fake News. PLOS ONE. Vol. 16. No. 6. https://doi.org/10.1371/journal.pone.0253717.
15. Burkhardt J. M. (2017) Combating Fake News in the Digital Age. Library Technology Reports. Vol. 53. No. 8. Chicago, IL: American Library Association. URL: https://www. journals.ala.org/index.php/ltr/issue%20/viewFile%20/662/423 (accessed: 08.04.2024).
16. Cacioppo J.T., Petty R. E., Feng Kao C. (1984) The Efficient Assessment of Need for Cognition. Journal of Personality Assessment. Vol. 48. No. 3. P. 306—307. https:// doi.org/10.1207/s15327752jpa4803_13.
17. Chaiken S., Maheswaran D. (1994) Heuristic Processing Can Bias Systematic Processing: Effects of Source Credibility, Argument Ambiguity, and Task Importance on Attitude Judgment. Journal of Personality and Social Psychology. Vol. 66. No. 3. 460—473. https://doi.org/10.1037/0022-3514.66.3.460.
18. Chesney B., Citron D. (2019) Deep Fakes: A Looming Challenge for Privacy. California Law Review. Vol. 107. No. 6. P. 1753—1820. https://doi.org/10.15779/Z38RV0 D15J.
19. Cialdini R.B., Goldstein N.J. (2004) Social Influence: Compliance and Conformity. Annual Review of Psychology. Vol. 55. P. 591—621. https://doi.org/10.1146/annurev. psych.55.090902.142015.
20. Cohen A. R., Scotland E., Wolfe D. M. (1955) An Experimental Investigation of Need for Cognition. The Journal of Abnormal and Social Psychology. Vol. 51. No. 2. P. 291—294. https://doi.org/10.1037/h0042761.
21. Colliander J. (2019) "This is Fake News": Investigating the Role of Conformity to Other Users' Views When Commenting on and Spreading Disinformation in Social Media. Computers in Human Behavior. Vol. 97. P. 202—215. https://doi.org/ 10.1016/j.chb.2019.03.032.
22. Cornelissen J. P., Werner M. D. (2014) Putting Framing in Perspective: A Review of Framing and Frame Analysis Across the Management and Organizational Literature. Academy of Management Annals. Vol. 8. No. 1. P. 181—235. https://doi. org/10.5465/19416520.2014.875669.
23. Druckman J.N., Bolsen T. (2011) Framing, Motivated Reasoning, and Opinions About Emergent Technologies. Journal of Communication. Vol. 61. No. 4. P. 659— 688. https://doi.org/10.1111/j.1460-2466.2011.01562.x.
24. Entman R. M. (1993) Framing: Toward Clarification of a Fractured Paradigm. Journal of Communication. Vol. 43. No. 4. P. 51—58. https://doi.org/10.1111/j.1460-2466. 1993.tb01304.x.
25. Ericsson K. A., Charness N. (1994) Expert Performance: Its Structure and Acquisition. American Psychologist. Vol. 49. No. 8. P. 725—747. https://doi.org/10.1037/ 0003-066X.49.8.725.
26. Evans J.S. B., Stanovich K.E. (2013) Dual-Process Theories of Higher Cognition: Advancing the Debate. Perspectives on Psychological Science. Vol. 8. No. 3. P. 223—241. https://doi.org/10.1177/1745691612460685.
27. Falk E., Scholz C. (2018) Persuasion, Influence, and Value: Perspectives from Communication and Social Neuroscience. Annual Review of Psychology. Vol. 69. P. 329—356. https://doi.org/10.1146/annurev-psych-122216-011821.
28. Farrow K., Grolleau G., Mzoughi N. (2021) 'Let's Call a Spade a Spade, Not a Gardening Tool': How Euphemisms Shape Moral Judgement in Corporate Social Responsibility Domains. Journal of Business Research. Vol. 131. P. 254—267. https://doi.org/10.1016/jjbusres.2021.04.002.
29. Fernandez M., Alani H. (2018) Online Misinformation: Challenges and Future Directions. In: WWW'18: Companion Proceedings of The Web Conference 2018. Geneva: International World Wide Web Conference Steering Committee. P. 595—602. https://doi.org/10.1145/3184558.3188730.
30. Fetzer J. H. (2004) Information: Does it Have to Be True? Minds and Machines. Vol. 14. P. 223—229. https://doi.org/10.1023/B: MIND.0000021682.61365.56.
31. Fisher W. R. (1984) Narration As a Human Communication Paradigm: The Case of Public Moral Argument. Communications Monographs. Vol. 51. No. 1. P. 1—22. https://doi.org/10.1080/03637758409390180.
32. Folkes V.S. (1988) Recent Attribution Research in Consumer Behavior: A Review and New Directions. Journal of Consumer Research. Vol. 14. No. 4. P. 548—565. https://doi.org/10.1086/209135.
33. Frederick S. (2005) Cognitive Reflection and Decision Making. Journal of Economic Perspectives. Vol. 19. No. 4. P. 25—42. https://doi.org/10.1257/089533 005775196732.
34. Figueiras M.J., Ghorayeb J., Coutinho M.V., Marôco J., Thomas J. (2021) Levels of Trust in Information Sources as a Predictor of Protective Health Behaviors During COVID-19 Pandemic: A UAE Cross-Sectional Study. Frontiers in Psychology. Vol. 12. https://doi.org/10.3389/fpsyg.2021.633550.
35. Gelfert A. (2018) Fake News: A Definition. Informal Logic. Vol. 38. No. 1. P. 84— 117. https://doi.org/10.22329/il.v38i1.5068.
36. Giansiracusa N. (2021) Deepfake Deception: What to Trust When Seeing Is No Longer Believing. In: Giansiracusa N. How Algorithms Create and Prevent Fake News: Exploring the Impacts of Social Media, Deepfakes, GPT-3, and More. Berkeley, CA: Apress. P. 41—66. https://doi.org/10.1007/978-1-4842-7155-1.
37. Gilbert T. (2011) Information Aggregation around Macroeconomic Announcements: Revisions Matter. Journal of Financial Economics. Vol. 101. No. 1. P. 114—131. https://doi.org/10.1016/jjfineco.2011.02.013.
38. Gladney G.A., RittenburgT. L. (2005) Euphemistic Text Affects Attitudes, Behavior. Newspaper Research Journal. Vol. 26. No. 1. P. 28—41. https://doi.org/10.1177/ 073953290502600104.
39. Grinberg N., Joseph K., Friedland L., Swire-Thompson B., Lazer D. (2019) Fake News on Twitter during the 2016 U.S. Presidential Election. Science. Vol. 363. No. 6425. P. 374—378. https://doi.org/10.1126/science.aau2706.
о
40. Guo B., Ding Y., Sun Y., Ma S., Li K., Yu Z. (2021) The Mass, Fake News, and Cognition Security. Frontiers of Computer Science. Vol. 15. Art. 153806. https://doi. org/10.1007/s11704-020-9256-0.
41. Haidt J., Baron J. (1996) Social Roles and the Moral Judgement of Acts and Omissions. European Journal of Social Psychology. Vol. 26. No. 2. P. 201—218. https:// doi.org/10.1002/(SICI)1099-0992(199603)26:2<201:: AID-EJSP745>3.0.C0;2-J.
42. Heesacker M., Petty R.E., Cacioppo J.T. (1983) Field Dependence and Attitude Change: Source Credibility Can Alter Persuasion by Affecting Message-Relevant Thinking. Journal of Personality. Vol. 51. No. 4. P. 653—666. https://doi. org/10.1111/j.1467-6494.1983.tb00872.x.
43. Herman E.S., Chomsky N. (1988) Manufacturing Consent: The Political Economy of the Mass Media. London: The Bodley Head. URL: http://www.lib.ysu.am/disci-plines_bk/0b336d5592d19eef6f12f6aa52a93a8c.pdf.
44. Hochschild J.L., Einstein K.L. (2015) Do Facts Matter? Information and Misinformation in American Politics. Political Science Quarterly. Vol. 130. No. 4. P. 585— 624. http://www.jstor.org/stable/43828727.
45. Hovland C. I., Weiss W. (1951) The Influence of Source Credibility on Communication Effectiveness. Public Opinion Quarterly. Vol. 15. No. 4. P. 635—650. https:// doi.org/10.1086/266350.
46. Huynh T. L. D. (2020) Does Culture Matter Social Distancing under the COVID-19 Pandemic? Safety Science. Vol. 130. Art. 104872. https://doi.org/10.1016/j. ssci.2020.104872.
47. Jaaskelainen I. P., Sams M., Glerean E., Ahveninen J. (2021) Movies and Narratives as Naturalistic Stimuli in Neuroimaging. Neurolmage. Vol. 224. Art. 117445. https://doi.org/10.1016Xj.neuroimage.2020.117445.
48. Kahneman D. (2003) Maps of Bounded Rationality: Psychology for Behavioral Economics. The American Economic Review. Vol. 93. No. 5. P. 1449—1475. https:// www.jstor.org/stable/3132137.
49. Kany C.E. (1960) American-Spanish Euphemisms. Berkeley, CA: University of California Press. https://doi.org/10.1525/9780520403215.
50. Karnouskos S. (2020). Artificial Intelligence in Digital Media: The Era of Deepfakes. IEEE Transactions on Technology and Society. Vol. 1. No. 3. P. 138—147. https:// doi.org/10.1109/TTS.2020.3001312.
51. Kietzmann J., Lee L.W., McCarthy I. P., Kietzmann T. C. (2020) Deepfakes: Trick or Treat? Business Horizons. Vol. 63. No. 2. P. 135—146. https://doi.org/10.1016/j. bushor.2019.11.006.
52. Klucharev V., Shestakova A. (2015) Social Influence and Persuasion and Message Propagation. Brain Mapping: An Encyclopedic Reference. No. 3. P. 251— 258. https://doi.org/10.1016/B978-0-12-397025-1.00189-5.
53. Korshunov P., Marcel S. (2018) DeepFakes: A New Threat to Face Recognition? Assessment and Detection. arXiv. Art. 1812.08685. URL: https://doi.org/10.48550/ arXiv.1812.08685. (дата обращения: 09.06.2024).
54. Lachlan K., Spence P. R. (2010) Communicating Risks: Examining Hazard and Outrage in Multiple Contexts. Risk Analysis: An International Journal. Vol. 30. No. 12. P. 1872—1886. https://doi.org/10.1111/j.1539-6924.2010.01511.x.
55. Lazer D. M., Baum M.A., Benkler Y. et al. (2018) The Science of Fake News. Science. Vol. 359. No. 6380. P. 1094—1096. https://doi.org/10.1126/science.aao2998.
56. Levy N. (2023) What Does the CRT Measure? Poor Performance May Arise from Rational Processes. Philosophical Psychology. Vol. 36. No. 1. P. 58—84. https:// doi.org/10.1080/09515089.2022.2038123.
57. Loewenstein G. F., Weber E. U., Hsee C. K., Welch N. (2001) Risk as Feelings. Psychological Bulletin. Vol. 127. No. 2. P. 267—286. https://doi.org/10.1037/0033-2909.127.2.267.
58. Loftus E.F., Palmer J.C. (1974) Reconstruction of Automobile Destruction: An Example of the Interaction between Language and Memory. Journal of Verbal Learning and Verbal Behavior. Vol. 13. No. 5. P. 585—589. https://doi.org/10.1016/ S0022-5371(74)80011-3.
59. Machill M., Kohler S., Waldhauser M. (2007) The Use of Narrative Structures in Television News: An Experiment in Innovative Forms of Journalistic Presentation. European Journal of Communication. Vol. 22. No. 2. P. 185—205. https://doi. org/10.1177/0267323107076769.
60. Mills J., Aronson E. (1965) Opinion Change as a Function of the Communicator's Attractiveness and Desire to Influence. Journal of Personality and Social Psychology. Vol. 1. No. 2. P. 173—177. https://doi.org/10.1037/h0021646.
61. Molina M.D., SundarS.S., LeT., Lee D. (2021) "Fake News" Is Not Simply False Information: A Concept Explication and Taxonomy of Online Content. American Behavioral Scientist. Vol. 65. No. 2. P. 180—212. https://doi.org/10.1177/ 0002764219878224.
62. Moravec P., Minas R., Dennis A. R. (2018) Fake News on Social Media: People Believe What They Want to Believe When It Makes No Sense at All. Kelley School of Business Research Paper. No. 18—87. Bloomington, IN: Indiana University. http:// dx.doi.org/10.2139/ssrn.3269541.
63. Pennycook G., McPhetres J., Zhang Y., Lu J.G., Rand D.G. (2020) Fighting COVID-19 Misinformation on Social Media: Experimental Evidence for a Scalable Accuracy-Nudge Intervention. Psychological Science. Vol. 31. No. 7. P. 770—780. https:// doi.org/10.1177/0956797620939054.
64. Pennycook G., CheyneJ.A., KoehlerD.J., Fugelsang J.A. (2016) Is the Cognitive Reflection Test a Measure of Both Reflection and Intuition? Behavior Research Methods. Vol. 48. P. 341—348. https://doi.org/10.3758/s13428-015-0576-1.
65. Pennycook G., FugelsangJ.A., Koehler D.J. (2015) What Makes Us Think? A Three-Stage Dual-Process Model of Analytic Engagement. Cognitive Psychology. Vol. 80. P. 34—72. https://doi.org/10.1016/j.cogpsych.2015.05.001.
66. Pennycook G., Rand D.G. (2019) Lazy, Not Biased: Susceptibility to Partisan Fake News Is Better Explained by Lack of Reasoning than by Motivated Reasoning. Cognition. Vol. 188. P. 39—50. https://doi.org/10.1016/j.cognition.2018.06.011.
67. Petty R.E., Cacioppo J.T., Goldman R. (1981) Personal Involvement as a Determinant of Argument-Based Persuasion. Journal of Personality and Social Psychology. Vol. 41. No. 5. P. 847—855. https://doi.org/10.1037/0022-3514.41.5.847.
68. Petty R. E., Cacioppo J.T. (1986) The Elaborative Likelihood Model of Persuasion. Advances in Experimental Social Psychology. Vol. 19. P. 123—205. https://doi. org/10.1016/S0065-2601(08)60214-2.
69. Piotrowski S., Grimmelikhuijsen S., Deat F. (2019) Numbers over Narratives? How Government Message Strategies Affect Citizens' Attitudes. Public Performance & Management Review. Vol. 42. No. 5. P. 1005—1028. https://doi.org/10.1080/ 15309576.2017.1400992.
70. Plous S. (1993) The Psychology of Judgment and Decision Making. New York, NY: Mcgraw-Hill.
71. Priester J.R., Petty R.E. (2003) The Influence of Spokesperson Trustworthiness on Message Elaboration, Attitude Strength, and Advertising Effectiveness. Journal of Consumer Psychology. Vol. 13. No. 4. P. 408—421. https://doi.org/10.1207/ S15327663JCP1304_08.
72. Rhine R.J., Severance L.J. (1970) Ego-Involvement, Discrepancy, Source Credibility, and Attitude Change. Journal of Personality and Social Psychology. Vol. 16. No. 2. P. 175—190. https://doi.org/10.1037/h0029832.
73. Rossler A., Cozzolino D., Verdoliva L., Riess C., Thies J., NieSner M. (2019) Facefo-rensics++: Learning to Detect Manipulated Facial Images. arXiv. Art. 1901.08971. https://doi.org/10.48550/arXiv.1901.08971.
74. Schnall S., Haidt J., Clore G. L., Jordan A. H. (2008) Disgust as Embodied Moral Judgment. Personality and Social Psychology Bulletin. Vol. 34. No. 8. P. 1096— 1109. https://doi.org/10.1177/0146167208317771.
75. Seate A.A., Harwood J., Blecha E. (2010) "He Was Framed!" Framing Criminal Behavior in Sports News. Communication Research Reports. Vol. 27. No. 4. P. 343— 354. https://doi.org/10.1080/08824096.2010.518917.
76. Shu K., Sliva A., Wang S., Tang J., Liu H. (2017) Fake News Detection on Social Media: A Data Mining Perspective. ACM SIGKDD Explorations Newsletter. Vol. 19. No. 1. P. 22—36. https://doi.org/10.1145/3137597.3137600.
77. Sindermann C., Cooper A., Montag C. (2020) A Short Review on Susceptibility to Falling for Fake Political News. Current Opinion in Psychology. Vol. 36. P. 44—48. https://doi.org/10.1016/j.copsyc.2020.03.014.
78. Stanovich K. E. (2009). Distinguishing the Reflective, Algorithmic, and Autonomous Minds: Is It Time for a Tri-Process Theory. In: Evans J.S. B., Frankish R. (eds.) Two Minds: Dual Processes and Beyond. Oxford: Oxford University Press. P. 55—88.
79. Sundar S.S. (2008). The MAIN Model: A Heuristic Approach to Understanding Technology Effects on Credibility. In: Metzger M.J., Flanagin A.J. (eds.) Digital Media, Youth, and Credibility. Cambridge, MA: The MIT Press. P. 73—100.
80. Thaler R., Sunstein C. (2008) Nudge: Improving Decisions about Health, Wealth and Happiness. New Haven, CT: Yale University Press.
81. Thiruchselvam R., Gopi Y., Kilekwang L., Harper J., Gross J.J. (2017) In God We Trust? Neural Measures Reveal Lower Social Conformity among Non-Religious Individuals. Social Cognitive and Affective Neuroscience. Vol. 12. No. 6. P. 956—964. https:// doi.org/10.1093/scan/nsx023.
82. Tsfati Y., Ariely G. (2014) Individual and Contextual Correlates of Trust in Media Across 44 Countries. Communication Research. Vol. 41. No. 6. P. 760—782. https:// doi.org/10.1177/0093650213485972.
83.Tversky A., Kahneman D. (1981). The Framing of Decisions and the Psychology of Choice. Science. Vol. 211. No. 4481. P. 453—458.
84. Vaccari C., Chadwick A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media+Society. Vol. 6. No. 1. https://doi.org/10.1177/2056305120903408.
85. Valkenburg P. M., Peter J., Walther J. B. (2016) Media Effects: Theory and Research. Annual Review of Psychology. Vol. 67. P. 315—338. https://doi.org/10.1146/ annurev-psych-122414-033608.
86. Von Neumann J., Morgenstern O. (2004). Theory of Games and Economic Behavior. Princeton, NJ: Princeton University Press. https://doi.org/10.1515/97814 00829460.
87. Wasserman H., Madrid-Morales D. (2019) An Exploratory Study of "Fake News" and Media Trust in Kenya, Nigeria and South Africa. African Journalism Studies. Vol. 40. No. 1. P. 107—123. https://doi.org/10.1080/23743670.2019.1627230.
88. Westney Z.V., Hur I., Wang L., Sun J. (2023) Examining the Effects of Disinformation and Trust on Social Media Users' COVID-19 Vaccine Decision-Making. Information Technology & People. Vol. 37 No. 3. P. 1334—1359. https://doi.org/10.1108/ ITP-05-2022-0410.
89. Wijenayake S., van Berkel N., Kostakos V., Goncalves J. (2020) Impact of Contextual and Personal Determinants on Online Social Conformity. Computers in Human Behavior. Vol. 108. Art. 106302. https://doi.org/10.1016/j.chb.2020.106302.
90. Zajonc R. B. (1980) Feeling and Thinking: Preferences Need No Inferences. American Psychologist. Vol. 35. No. 2. P. 151—175. https://doi.org/10.1037/0003-066X. 35.2.151.
91. Zhou X., Zafarani R., Shu K., Liu H. (2019) Fake News: Fundamental Theories, Detection Strategies and Challenges. In: WSDM'19 Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining. New York, NY: Association for Computing Machinery. P. 836—837. https://doi.org/10.1145/ 3289600.3291382.
92. Zillmann D., Chen L., Knobloch S., Callison C. (2004) Effects of Lead Framing on Selective Exposure to Internet News Reports. Communication Research. Vol. 31. No. 1. P. 58—81. https://doi.org/10.1177/0093650203260201.
93. Zuckerman A., Chaiken S. (1998) A Heuristic-Systematic Processing Analysis of the Effectiveness of Product Warning Labels. Psychology & Marketing. Vol. 15. No. 7. P. 621—642. https://doi.org/10.1002/(SICI)1520-6793(199810)15:7<621:: AID-MAR2>3.0.C0;2-H.
