CC BY
196
РЕЧЕВАЯ МАНИПУЛЯЦИЯ В МАССМЕДИЙНОМ ТЕКСТЕ/ДИСКУРСЕ: ПРОБЛЕМА РАСПОЗНАВАНИЯ
Г.А. Копнина
Ключевые слова: манипулирование, речевая манипуляция, автоматизированная система распознавания манипуляции, массмедийный текст / дискурс, защита от манипуляции.
Keywords: manipulation, verbal manipulation, automatized system of manipulation recognition, mass media text / discourse, protection against manipulation.
DOI 10.14258/filichel(2021)3-04
Нельзя не согласиться с мыслью А.А. Чувакина о том, что «современная филология имеет более сложное строение, чем филология прошлого, например, даже середины ХХ в.» [Чувакин, 2020, с. 13] и что «объекты, с которыми она имеет дело, устроены более сложно, чем принято считать» [Чувакин, 2020, с. 42]. В сфере ее интересов оказываются такие проблемы, которые раньше интересовали представителей других гуманитарных наук, в частности психологии, философии и истории. Одной из них является проблема распознавания манипуляции в речи. И эта проблема как никогда актуальна именно в наше время, которое называют эпохой информационно-психологического противоборства разных политических сил, борющихся за власть.
Цель статьи — определить степень изученности проблемы распознавания речевой манипуляции в массмедиа путем краткой характеристики научных исследований в этой области.
Учитывая цель, в качестве материала исследования были выбраны последние публикации, посвященные распознаванию манипуляции в СМИ и сети Интернет. Но прежде чем перейти к заявленному аналитическому обзору, рассмотрим вопрос об определении речевой манипуляции, который не является таким простым, как может показаться на первый взгляд.
Определение речевой манипуляции в аспекте проблемы ее идентификации
Филологи в изучении феномена манипуляции закономерно опираются на исследования психологов (прежде всего Е.А. Доценко) и вслед за ними называют следующие признаки манипулятивного воздействия, которые должны учитываться в совокупности:
— скрытость воздействия (сокрытие истинной цели);
— сознательный характер воздействия;
— побуждение адресата к действиям, угодным манипулирующему, или внедрение в его сознание чуждых ему, но нужных отправителю сообщения желаний, отношений, установок;
— манипулируемый не осознает себя объектом контроля, полагая, что сам принимает решение, связанное с осуществлением тех или иных действий, считает, что сам делает выбор (см.: [Данилова, 2011, с. 11; Зир-ка, 2010, с. 81; Чернявская, Молодыченко, 2017, с. 35-37] и др.).
Применительно к политическому дискурсу признак сознательности воздействия должен приниматься априори и не нуждается в комментировании. Наличие в тексте приемов воздействия на бессознательное, которые достаточно хорошо описаны в литературе, еще не является признаком его манипулятивности, если речь идет, например, о психотерапевтическом дискурсе. Применительно к политической сфере признание манипулятивности дискурса иногда возможно по прошествии какого-то времени, в некоторых случаях только экспериментальным путем — с помощью проведения социологических исследований. Признак наличия побуждения к действиям далеко не всегда представлен в манипулятивном тексте: на наш взгляд, он является конечной целью воздействия, т.е. относится к т.н. «дальней прагматике». Осуществление нужных манипулятору действий происходит в результате изменения картины мира у объекта воздействия, его отношения к определенному предмету (в широком смысле) или явлению, и нацеленность на это изменение как на коммуникативное намерение вычленяется в результате анализа текста. Отдельного комментария требует первый признак о скрытом воздействии. Ответ на вопрос «что скрывает манипулятор», казалось бы, очевиден: манипулятор скрывает прежде всего истинную цель своего воздействия. Но вот тут-то и появляются разногласия в трактовке понятия «языковая (речевая) манипуляция», связанные с пониманием характера этой цели.
Указание на деструктивность языковой (речевой) манипуляции прослеживается в следующей дефиниции этого термина: «Под языковым манипулированием мы понимаем скрытое языковое воздействие на адресата, намеренно вводящее его в заблуждение относительно замысла или содержания речи» [Данилова, 2011, с. 12]. О деструктивно-сти цели манипуляции пишут и другие исследователи-филологи: «Цель речевой манипуляции — склонить манипулируемое лицо (адресата) к тому, чтобы принять определенные высказывания за истинные без учета всех аргументов» [Чернявская, 2006, с. 19]; психологические и психолингвистические механизмы манипуляции «вынуждают адре-
сата некритично воспринимать речевое сообщение, способствуют возникновению в его сознании определенных иллюзий и заблуждений...» [Языковое манипулирование.., 1999, с. 5]; «В широком и размытом семантическом поле термина «манипуляция» выделяются ключевые элементы: «отрицательная» интенциональность адресанта и скрытый (неявный для адресата) характер воздействия» [Беляева, 2009, с. 11]. Как видим, ключевым признаком интересующего нас явления процитированные филологи считают введение адресата в заблуждение относительно истинного намерения или содержания речи.
Признание за манипулятором не только деструктивных, но и альтруистических намерений приводит к рассуждениям о возможности «объективно оценить положительные и отрицательные стороны манипулирования» [Зирка, 2010, с. 79], о признании манипуляции «во благо» [Навасартян, 2017, с. 21], то есть ведет к размыванию понятия «манипуляция». Есть также мнение, что «тенденция считать любой политический дискурс манипулятивным» «не позволяет провести грань между конструктивным и деструктивным воздействием на коммуникативное поле» [Лобас, 2015, с. 91].
В аспекте лингвистической экологии «манипулирование деструктивно постольку, поскольку его применение ведет к деградации коммуникативного пространства», оно «может привести к культурной экологической катастрофе: разрушается обратная связь власти и общества, многие социальные проблемы просто выпадают из общественного рассмотрения, потому что навязанное мифологическое мышление мешает их заметить и т.д.», поэтому «манипулирование должно быть просто минимизировано исходя из тех же экологических потребностей.» [Лобас, 2015, с. 91]. На наш взгляд, идея минимизации манипулирования в какой-то степени звучит как оправдывающая его. Что касается вопроса влияния манипулирования, как и в целом информационно-психологических войн, на язык, то он, несомненно, важен, но требует отдельного изучения.
Сказанное выше свидетельствует о необходимости уточнения предложенного нами ранее определения речевой манипуляции (манипулирования) как разновидности манипулятивного воздействия, осуществляемого путем искусного использования определенных ресурсов языка с целью скрытого влияния на когнитивную и поведенческую деятельность адресата [Копнина, 2010, с. 25]. В этом определении содержатся все основные признаки манипуляции с помощью языка: скрытость воздействия, понимаемая как сокрытие цели и самого факта воздействия,
что создает у адресата иллюзию самостоятельности принятия решения; когнитивная деятельность человека как мишень воздействия и изменение его поведения как конечная цель; средство воздействия — языковые ресурсы языка, среди которых, заметим, есть средства, наиболее пригодные для достижения манипулятором поставленных целей и менее пригодные; искусный характер воздействия, связанный с наличием определенных знаний и мастерства, способствующих эффективности этого воздействия. Тем не менее, для распознавания манипуляции в речи необходима детализация определения.
Предлагаем к обсуждению следующую дефиницию речевой манипуляции применительно к исследованию ее в политическом дискурсе: речевая манипуляция — это скрытое воздействие на адресата, которое основано на использовании таких ресурсов языка, которые в совокупности позволяют сформировать ложное представление о том или ином объекте действительности (в его широком понимании) и определенное отношение к нему, направленные в конечном итоге на изменение поведения адресата в выгодную манипулятору сторону.
Проблемы распознавания речевой манипуляции
«ручным способом»
Говоря образно, речевая манипуляция — это дама, которая может принимать как дьявольский (дискредитирующий), так и ангельский (апологетический) облик и использовать любые технологии (фейковые, НЛП, «окно Овертона» и др.) в зависимости от сферы общения и ситуации для того, чтобы добиться от вас желаемого поведения. Поэтому, на наш взгляд, и нет единственного лингвистического способа распознавания речевой манипуляции. В качестве примера приведем два разных способа, предлагаемых исследователями.
Распознавание «манипулятивных моделей» в экстремистских интернет-текстах Д.В. Моровов осуществляет на основе выявления в тексте актуальных «брендов» (лексических единиц, притягивающих внимание читателя, мотивирующих его к восприятию информации и направляющих внимание по «маршруту», заданному автором), особенно в начале текста; стереотипов и словесных ярлыков, дающих негативные характеристики персоналиям; указаний на статистические данные, которые имеют ангажированный характер; способов создания негативной картины реальности и формирования у читателя чувства страха, ощущения необходимости агрессивного противостояния [Моровов, 2016, с. 16].
В исследовании А.А. Даниловой выделяются три основных критерия анализа текста СМИ: 1) референция как соотноше-
ние высказывания с действительностью (манипуляция характеризуется искажением действительности, тенденциозностью и необъективностью, которые проявляются в предоставлении ложной информации, дезинформации, в воздействии на ассоциативное мышление и создании эмоционально-нагруженного контекста; 2) наличие лингвистических аномалий; 3) частотность употребления лингвистических форм [Данилова, 2011, с. 12-13].
При исследовании совокупности текстов определенной тематики (военный конфликт в Сербии, 1999 г.) А.А. Данилова использует контент-анализ. В качестве операционной единицы выступает конкретный текст публикации по интересующей теме; в качестве смысловых единиц использовались определенные понятия (слова, термины) и персоналии (имена экспертов, аналитиков, свидетелей). Так, процедура контент-анализа политического журнала «Newsweek» включала: 1) отбор публикаций из каждого номера, имеющих отношений к конфликту в Косово, и их классификация по разным основаниям (рубрикам, авторам, основным темам, приемам аргументации, иллюстративному материалу); 2) расчет объема каждой публикации и определение ее удельного веса на газетной площади (количество занимаемых ею полос в соотношении с общим количеством полос в еженедельнике); 3) вычленение лиц, в чьей интерпретации подавались исторические и политические события (основных экспертов, политических и государственных деятелей); 4) анализ заголовков и подзаголовков; 5) выделение основных приемов воздействия; 6) общая характеристика публикаций. Делается вывод об одностороннем освещении событий, что прослеживается на уровнях:
• тематической рубрикации (отсутствие плюрализма в освещении темы);
• оценок, представленных в публикациях (численном преобладании статей «Pro» над нейтральными публикациями и статьями «Contra»; «обильной дисфемизации» сербской стороны; односторонней оценке конфликта с использованием неверифицированной и не подтвержденной информации, в том числе на уровне визуального сопровождения статей);
• выбора экспертов и комментаторов (экспертами, оценивающими конфликт, выступают представители албанской стороны, выражающие позицию НАТО, комментаторами событий являются представители политического руководства и военного командования США и Великобритании, а также политики или очевидцы событий — представители проалбанской линии);
• разной частотности приемов речевого воздействия (численном преобладании дисфемизации, персонализации, эвфемизации, обращение к неназванному эксперту).
Этот же вывод об односторонности освещения событий сделан в результате анализа заголовков трех газет («El Pais», «Le Monde» и «The New York Times»), контекста и частотности употреблений определенных слов (серб, сербский, албанец, беженец) на страницах британской газеты «The Daily Telegraph» [Данилова, 2011, с. 164-177]. Таким образом, контент-анализ, осуществленный, как мы понимаем, «ручным» способом (поскольку в материале автора нет ссылок на используемое программное обеспечение), позволил исследователю выявить направленность ма-нипулятивных текстов на одностороннее освещение событий.
Проблемы, которые возникают при анализе манипулятивных текстов:
— «для распознавания манипуляции необходим анализ таких пара-
метров, как цель вербального общения, коммуникативное намерение, причина, мотив» [Беляева, 2009, с. 12], однако лингвистический анализ текста позволяет выявить коммуникативное намерение, но не цель, которая остается за текстом;
— «активное использование в манипулятивном дискурсе опреде-
ленных грамматических форм и синтаксических конструкций не создает специфической «манипулятивной грамматики», поскольку эти же языковые средства используются и в иных функциях», хотя «учет типичных для манипулятивных текстов языковых средств важен для идентификации факта манипулирования» [Беляева, 2009, с. 12];
— отсутствует лексикографическое издание, которое могло бы послу-
жить базой, ориентиром в процессе исследования манипуляции, хотя о необходимости его создания говорили не раз (в частности, И.В. Беляева предлагает концепцию «словаря манипулятивных техник», в основе которой лежит распределение приемов на основе концептов «свои/чужие», «хорошо/плохо», «комическое/трагическое», «герой/антигерой», «истина/не-истина» [Беляева, 2009, с. 32]);
— терминологический разнобой в теории речевого воздействия,
а именно отсутствие четкого определения и соотнесения понятий при описании феномена речевой манипуляции: технология, техника, инструмент прием и др. (например, кликбей-тинг — это отдельный «инструмент манипулирования» [Гав-рикова, 2020, с. 3] или «форма существования» фейковых новостей и ложных нарративов [Гаврикова, 2019, с. 22], которые также называют инструментом манипуляции);
— большие затраты (временные, энергетические и др.), связанные с использованием статистического инструментария без применения автоматизированных систем. При исследовании огромного объема информации, создаваемого и распространяемого с большой скоростью в сети Интернет, «традиционный способ проверки онлайн контента, то есть посредством «ручной» проверки фактов на основе знаний становится затрудненным или практически невозможным.» [Третьяков и др., 2018, с. 99]. Поэтому чрезвычайно актуальной признается проблема распознавания «потенциально опасных текстов» [Карабулатова, Воронцов, 2020; Палеха, 2013] — а манипулятивные тексты являются таковыми — с использованием искусственного интеллекта.
Проблемы распознавания речевой манипуляции «машинным способом»
Известно, что «практика распространения фейков успешно применяется в качестве манипулятивного инструмента» [Муратова, 2020, с. 43]. Работа по созданию автоматизированных систем распознавания фейковых (дезинформирующих, или ложных) новостей ведется уже давно как за рубежом, так и в России.
Так, на материале русскоязычных текстов проблема выявления фейков рассматривается группой ученых (А.О. Третьяков, О.Г. Филатова, Д.В. Жук, Н.Н. Горлушкина, А.А. Пучковская), которые предлагают один из методов распознавания лжи. Метод анализа содержания новостей (текста, заголовка, доступных метаданных) основан на определении общих характеристик сообщений: репутация интернет-ресурса, а именно доверие ему другими и доменный возраст искомого сайта, и — обратите внимание — качество лексики языка (но подробно об этом не говорится). Предложенный А.О. Третьяковым и его соавторами метод направлен, если мы правильно понимаем, на распознавание техническим модулем задачи, представляемой «в виде системы фактов в текстовом формате». Этот модуль обеспечивает: «ввод и признание системы ввода фактов»; «анализ взаимоотношений данных в графе»; «определение достаточности или недостаточности данных»; «формирование запроса дополнительных данных в случае их недостаточности»; «формирование алгоритма для решения задачи» [Третьяков, 2018, с. 102].
Для обучения системы в нее последовательно вводятся отобранные и классифицированные (в том числе ручным способом) по разным категориям факты («неправильное толкование фактов, псевдонаучные факты, мнение автора, юмор и пр.» [Третьяков, 2018, с. 102]). На осно-
ве каких критериев делились тексты на категории и каков полный перечень этих категорий, в статье, к сожалению, не сказано.
К поддельным новостям авторы относят «все новости, которые не содержат строго фактической информации, не подходят стандартам журналистской этики, а также те, что соответствуют нашим характеристикам фейковых новостей...» [Третьяков, 2018, с. 103]. Эти характеристики даются со ссылкой на других ученых, предлагающих алгоритм анализа, включающий проверку:
а) оригинальности ИКХ-адреса опубликованной новости на соот-
ветствие домену искомого сайта;
б) наличия даты публикации материала;
в) совпадения времени создания изображений и их загрузки с реальными временными рамками событий в новости;
г) качества ресурсов, на которые даются ссылки в материале;
д) авторитетность экспертов в обсуждаемой сфере;
е) внутренней согласованности частей новостного текста и его соот-
ветствия другим текстам. Обращается также внимание на ошибки в тексте (грамматические, пунктуационные) и т.н. сенсационные утверждения.
Фейковые новости могут размещаться на сайтах-двойниках, имитирующих крупные онлайн-издания; они, как правило, не датируются, являются копированием или переписыванием другого текста, но с внесением в него ложных фактов; имеют несовпадение времени создания изображений и их загрузки с реальными временными рамками новостных событий; характеризуются несогласованностью между различными частями текста; дают ссылки на другие фейковые новости; используют имена неавторитетных экспертов в обсуждаемой сфере или ссылаются на них; содержат сигнальные (сенсационные) утверждения [Третьяков, 2018, с. 101-102]. Разработчики считают, что предложенный ими метод «помогает с высоким уровнем достоверности определить ложную новость, что в комплексе с другими доступными методами, как краудсорсинг, классификации источников и авторов, проверка фактов и иные виды анализа текстов может дать максимальный уровень определения новости в классификации правда/неправда» (точнее — истина/ложь) [Третьяков, 2018, с. 103].
Ученые Казахстана провели исследование структуры манипулятив-ного текста для последующего автоматического распознавания манипуляции в СМИ [Кенжебалина и др., 2020; Шакенова и др., 2020]. Ма-нипулятивные тексты, как пишут исследователи, «.строятся на основе определенных макрокомпонетов, репрезентированных языковыми
средствами различных уровней», причем ни один из компонентов по отдельности не может быть признаком манипулятивности: «Манипулятив-ность — это всегда комбинация языковых средств в рамках тех или иных обязательных структурных компонентов» [Кенжебалина и др., 2020, с. 107]. В результате анализа 1000 «дискурсивных образцов» (1063 текста в [Шакенова и др., 2020].) исследователи пришли к выводу, что манипу-лятивные тексты в структурном отношении представляют собой смысловую цепочку: ««триггеры» (слова, словосочетания с социально значимым смыслом, имена, в том числе прецедентные, наличие которых делает текст востребованным для широких масс) + «оценка» (языковые средства разного уровня с негативной и позитивной тональностью) + «национальный контекст» (языковые единицы, называющие казахстанские реалии <...) + «формальные актуализаторы манипуляции» (риторические приемы, лексические повторы, грамматические конструкции и т.д.)» [Кенжебалина и др., 2020, с. 109-110]. В процессе последующего анализа из 200 текстов извлекались индикаторы, которые исследователя делят на две группы: речевые индикаторы (это стратегии и тактики), представляющие трудность для машинного обучения, и индикаторы языковые (слова, словосочетания, грамматические конструкции и т.д.).
Основная проблема, которую пытаются решить филологи, — это проблема параметризации индикаторов для компьютерной обработки.
Среди языковых индикаторов манипулятивности первоначально были выделены следующие группы.
1. Триггеры: явные, или открытые (слова и словосочетания, отража-
ющие социально значимые объекты, явления и т.д.; прецедентные имена), и «скрытые» (визуальные, аудиальные и кинестетические предикаты).
2. Индикаторы, формирующие национальный контекст (с «казах-
станским содержанием»).
3. Оценочные индикаторы:
— слова со средним и невысоким индексом негативной оценки;
— устойчивые выражения, метафоры, штампы с негативной
тональностью;
— слова с высоким индексом негативной оценки; слова с негативной
тональностью в заголовке статьи;
— слова с негативной тональностью в тексте статьи, характеризую-
щие Казахстан и относящиеся к нему объекты и т.д.;
— устойчивые выражения, штампы с негативной тональностью, ха-
рактеризующие страну, государство, правительство, социально значимые объекты, явления и т.д.;
— слова со средним и невысоким индексом негативной тональности
в тексте статьи, характеризующие страну, государство, правительство, социально значимые объекты, явления и т.д.;
— слова с высоким индексом негативной тональности в тексте ста-
тьи, характеризующие страну, государство, правительство, социально значимые объекты, явления и т.д.
4. Формальные актуализаторы манипуляции: повтор слов с негативной тональностью, риторические вопросы, безличные конструкции, генерализация [Кенжебалина и др., 2020, с. 110-114].
Нельзя не обратить внимания на то, что в группе оценочных индикаторов названы слова, словосочетания и др. единицы только с негативной тональностью. Это связано с тем, что для более глубокого анализа были отобраны те 200 текстов, которые имеют дискредитирующий характер [Кенжебалина и др., 2020, с. 116]. И этот выбор понятен: дискредитация — наиболее типичная манипулятивная стратегия в ситуации информационно-психологического противоборства идеологических сторон. Однако в стороне исследования остаются манипулятив-ные тексты апологетической тональности.
У всех индикаторов исследователи определяют процент встречаемости в тексте, дают также характеристику каждой группы индикаторов. Выделяются синкретичные случаи: индикаторы с двойной функцией (это триггер-оценка или формальный актуализатор-оценка) [Кенжебалина и др., 2020, с. 111]. Оценочные индикаторы, на наш взгляд, классифицированы по группам не на едином логическом основании. Так, нам не ясны критерии разграничения слов, негативно характеризующих Казахстан и относящиеся к нему объекты, и слов, негативно характеризующих страну, государство, социально значимые объекты и т.д. Не известна и методика определения индекса негативной оценки.
Не умаляя значимости проведенных исследований, позволим высказать некоторые свои суждения и предположения. Коллектив ученых приводит к выводу «о высокой доле участия слов и словосочетаний, отражающих социально-значимые объекты, явления и т.д. в мани-пулятивных текстах» [Кенжебалина и др., 2020, с. 112]. Однако можно предположить, что и в неманипулятивных текстах СМИ доля использования таких слов будет достаточно высока, поскольку СМИ пишут прежде всего о том, что социально значимо.
Заметим, что слова и словосочетания, отражающие социально значимые объекты, явления и т.д., не относящиеся к той или иной тематике, впоследствии были исключены из перечня индикаторов [Шакено-ва, 2020, с. 120]. Из списка индикаторов были исключены также преце-
дентные имена, устойчивые выражения, штампы с негативной тональностью, формы степеней сравнения и др. [Шакенова, 2020, с. 120]. С использованием программного обеспечения Python происходило оцифрование текстов и распознавание слов загруженного в программу словаря. По результатам анализа текстов составлено 14 словарей. Создан алгоритм распознавания определенных индикаторов. Машинное обучение проводилось с использованием модели Random Forest («случайный лес»), эффективность которой, как пишут, исследователи, составила 94%. Дополнительно был проведен кластерный анализ (методом K-means). В итоге выявлено, что «в корпусе манипулятивных текстов 24 индикатора представлены гораздо интенсивнее, чем в корпусе нема-нипулятивных текстов» [Шакенова, 2020, с. 123].
Исследователи приходят к выводу, что признаком манипулятивно-сти текста, по итогам проведенных ими экспериментов, является интенсивность 24 индикаторов: 1) местоимения, наречия, сочетания с неопределенным и указательным значением; 2) союзы, частицы, сочетания со служебными словами; 3) высокая частотность употребления частицы не; 4) вводные и модальные слова и сочетания; 5) повтор слов с негативной тональностью; 6) слова со средним и невысоким индексом негативной тональности; 7) слова, называющие социально значимые объекты; 8) генерализаторы; 9) слова, передающие казахстанское содержание; 10) сенсорные предикаты (3 и более раза); 11) конструкции с призывом к действию; 12) использование заглавных букв; 13) использование кавычек с целью иронии; 14) слова с высоким индексом негативной тональности; 15) риторические вопросы и риторические предложения; 16) высокая частотность употребления слов с приставками не-, анти-, про-тиво-, а-; 17) сенсорные предикаты; 18) риторические восклицания и восклицательные предложения; 19) конструкции с двойным отрицанием; 20) употребление слова нет; 21) слова с негативной тональностью в заголовке статьи; 22) разговорная лексика; 23) знаки препинания; 24) инвективная лексика [Шакенова, 2020, с. 123].
Не ставя задачи анализа выделенных индикаторов (их перечня, разграничения и полноты), отметим, что учеными Казахстана сделано интересное, на наш взгляд, наблюдение о том, что признаком манипуля-тивности текста является именно интенсивность использования определенных индикаторов, а не индикаторы как таковые. Хотя, как нам кажется, даже наличие одного типичного для манипуляции индикатора, выявленного без применения автоматизированной системы, может служить достаточным доказательством манипулятивности воздействия. Важно заметить также, что созданная автоматизированная система
направлена на распознавание негативных по тональности текстов ма-нипулятивной направленности, а не манипулятивных текстов вообще.
Выявлению вербальных маркеров манипуляции в англоязычном политическом дискурсе СМИ и доказательству их валидности как метрик для создания компьютерного классификатора текстов по уровню мани-пулятивность посвящено диссертационное исследование Ю.А. Горностаевой. Вербальными маркерами манипуляции признаются: дискурсивные маркеры, военная терминология, лексемы Nazi и fascist и производные от них, лексема soviet и лексика на советскую тематику, антонимичные приставки pro- и anti-, прецедентное имя Vladimir Putin [Горностаева, 2018, с. 7]. На начальном этапе был список прецедентных имен [Колмогорова, Калинин, Талдыкина, 2016, с. 197]. Утверждается, что «использование языка программирования Python, а также метода машинного обучения с опорой на алгоритм «дерево принятия решений» позволяют разработать компьютерное приложение, способное на основе учета статистической значимости выявленных метрик классифицировать англоязычные тексты на 1) тексты, не содержащие манипуляцию; 2) тексты с низким уровнем ма-нипулятивность; 3) тексты со средним уровнем манипулятивности; 4) тексты с высоком уровнем манипулятивности» [Горностаева, 2018с. 7-8]. И такое компьютерное приложение было разработано группой исследователей СФУ под руководством А.В. Колмогорой.
Сопоставляя разработки, нельзя не обратить внимание на то, что одни исследователи при разработке автоматизированной системы включают прецедентные тексты в перечень маркеров (индикаторов) манипуляции, используют их как метрики, а другие — нет. Это противоречие также требует осмысления.
Таким образом, существующие автоматизированные модели разработаны для распознавания манипулятивных текстов конкретного типа, причем эти типы текстов (фейковые; дискредитирующие) не находятся в одном логическом ряду, поскольку фейковые тексты также могут быть негативны по тональности и служить цели дискредитации. Ввиду «многоликости» речевой манипуляции вопрос о возможности создания автоматизированной программы распознавания манипулятив-ного текста в целом (любого типа) остается открытым. На наш взгляд, создание такой универсальной автоматизированной системы вряд ли возможно: окончательное решение о манипулятивности текста должен принимать человек, а не машина.
Современные исследователи ставят цель разработки системы не только распознавания информационного воздействия манипулятивно-го характера, но и прогнозирования динамики его развития на основе
математических моделей [Минаев и др., 2016, с. 66]. Одна из задач заключается в выявлении и составлении тезаурусов по различным видам мани-пулятивного воздействия, что в совокупности с другими задачами позволит создать автоматизированные системы диагностики и обнаружения такого воздействия в реальном масштабе времени [Минаев и др., 2016]. Другими словами, если мы правильно понимаем, речь идет о создании целого ряда автоматизированных систем распознавания манипуляции разного типа. Это задача нам видится более достижимой, по сравнению с задачей создания универсальной автоматизированной системы.
Выводы
Исследования по распознаванию манипуляции в массмедийном тексте/дискурсе подразделяются на два типа: 1) предлагающие традиционный алгоритм «ручной» идентификации речевой манипуляции, то есть без использования автоматизированных систем, путем лингвистического анализа материала; 2) включающие разработку автоматизированных систем распознавания речевой манипуляции в СМИ и сети Интернет. Оба типа исследований, в которых принимают участие филологи, сталкиваются с проблемой параметризации лингвистических индикаторов манипуляции на основе корпуса отобранного материала. Эта проблема является основной, поскольку от ее решения зависит следующий шаг — составление математических алгоритмов и обучение машины. Тезис казахстанской группы исследователей о том, что манипу-лятивность текста определяется степенью интенсивности в нем совокупности индикаторов определенного типа, требует дальнейших экспериментальных подтверждений на различном материале.
Несмотря на то, что на данном этапе развития науки, уже созданы автоматизированные системы распознавания потенциально манипу-лятивных текстов определенного типа (фейковых, текстов негативной или позитивной тональности, текстов речевой агрессии), в целом проблему распознавания речевой манипуляции в массмедиа по-прежнему нельзя считать решенной.
Библиографический список
Беляева И.В. Феномен речевой манипуляции: лингвоюридические аспекты : автореф. дис. ... д-ра филол. наук. Ростов н/Д., 2009.
Гаврикова О.А. Кликбейтинг как фактор создания ложного нар-ратива в политическом медиадискурсе // Политическая лингвистика. 2019. № 3 (75).
Гаврикова О.А. Прагматика кликбейтинга в интертекстуальном пространстве медиадискурса : автореф. дис. ... канд. филол. наук. Уфа, 2020.
Горностаева Ю.А. Вербальные маркеры манипуляции в англоязычном поляризованном политическом дискурсе: опыт параметризации и автоматической обработки : дис. ... канд. филол. наук. Красноярск, 2018.
Данилова А.А. Манипулирование словом в средствах массовой информации. М., 2011.
Дзялошинский И.М. Коммуникативное воздействие: мишени, стратегии, технологии. М., 2012.
Зирка В.В. Манипулятивные игры в рекламе: лингвистический аспект. М., 2010.
Карабулатова И.С., Воронцов К.В. Цифровая лингвистическая ми-гратология и мониторинг потенциально опасных текстов и миграции // Миграционные мосты в Евразии: новые подходы к формированию миграционной политики в интересах устойчивого развития: материалы XI Международного научно-практического форума. М., 2020.
Кенжебалина Г.Н., Шаикова Г.К., Шакенова М.Т., Акоева И.Г. Распознавание манипулятивного текста: структура и доминантные языковые параметры // Научный диалог. 2020. № 7. URL: https://doi. org/10.24224/2227-1295-2020-7-105-125.
Колмогорова А.В., Калинин А.А., Талдыкина Ю.А. Языковые маркеры манипуляции в поляризованном политическом дискурсе: опыт параметризации // Политическая лингвистика. 2016. № 4(58).
Копнина Г.А. Речевое манипулирование. М., 2010.
Лобас П.П. Манипулирование в политическом дискурсе (на материале текстов общественно-политической тематики) 2015. URL: https:// core.ac.uk/download/pdf/191043192.pdf
Минаев В.А., Куликов Л.С., Астрахов А.В. Моделирование угроз информационных воздействий манипулятивного характера // Вопросы радиоэлектроники. 2016. № 12. Серия СОИУ Вып. 1.
Моровов В.Д. Вербальные средства манипуляции в русскоязычном экстремистском тексте (на материале Рунета) : автореф.дис. . канд. филол. наук. Нижний Новгород, 2016.
Муратова Н., Тошпулатова Н., Алимова Г. Fake news: дезинформация в медиа. Ташкент, 2020.
Навасартян Л.Г. Языковые средства и речевые приемы манипуляции информацией в СМИ (на материале российских газет) : дис. . канд. филол. наук. Саратов, 2017.
Палеха Е.С. Психолингвистический эксперимент: восприятие потенциально опасного текста (перспективы психолингвистической экспертизы) // Язык и право: актуальные проблемы взаимодействия :
материалы конференции. 2013. URL: http://www.ling-expert.ru/confer-ence/langlaw3/paleha.html
Третьяков А.О. и др. Метод определения русскоязычных фейко-вых новостей с использованием элементов искусственного интеллекта / Третьяков А.О., Филатова О.Г., Жук Д.В., Горлушкина Н.Н., Пучков-ская А.А. // International Journal of Open Information Technologies. 2018. Т. 6. № 12. URL: https://docplayer.ru/191735616-Metod-opredeleniya-russ-koyazychnyh-feykovyh-novostey-s-ispolzovaniem-elementov-iskusstven-nogo-intellekta.html
Чернявская В.Е. Дискурс власти и власть дискурса: проблемы речевого воздействия. М., 2006.
Чернявская В.Е., Молодыченко Е.Н. Речевое воздействие в политическом, рекламном и интернет-дискурсе. М., 2017.
Чувакин А.А. Филолого-коммуникативные исследования: избранные труды. М., 2020.
Шакенова М.Т. и др. Автоматическое диагностирование манипуля-тивного дискурса (на материале корпуса русскоязычных интернет-публикаций) / М.Т. Шакенова, Д.С. Ташимханова, М.А. Баймаханбетов, УА. Оспанова // Вестник КазНУ. Серия филологическая. 2020. Т. 180, №4. URL: https://philart.kaznu.kz/index.php/1-FIL/article/view/2963/2705 Языковое манипулирование общественным сознанием: методическая разработка и рабочая программа для студентов заочного отделения юридического факультета / сост. О.Н. Быкова. Красноярск, 1999.
References
Belyaeva I.V. Fenomen rechevoy manipulyatsii: lingvoyuridicheskie aspek-ty. [Phenomenon of verbal manipulation: linguojuridical aspects]. Abstract of Philol. Cand. Diss. Rostov n/D., 2009.
Gavrikova O.A. Klikbeyting kakfaktor sozdaniya lozhnogo narrativa vpoli-ticheskom mediadiskurseю [Clickbait as a Factor of False Narrative Creation in Political Mass Media Discourse]. InA Politicheskaya lingvistika [Political linguistics]. 2019. No. 3 (75).
Gavrikova O.A. Pragmatika klikbeytinga v intertekstual'nom prostranstve mediadiskursa. [Pragmatics of clickbaiting in the intertextual space of media discourse]. Abstract of Philol. Cand. Diss. Ufa, 2020.
Gornostaeva Yu.A. Verbal'nye markery manipulyatsii v angloyazychnom polyarizovannom politicheskom diskurse: opyt parametrizatsii i avtomatich-eskoy obrabotki [Verbal markers of manipulation in the English-language polarized political discourse: parametrization and automatic processing]. Thesis of Philology Cand. Krasnoyarsk, 2018.
Danilova A.A. Manipulirovanie slovom v sredstvakh massovoy infor-matsii. [Word manipulation in mass media]. Moscow, 2011.
Dzyaloshinskiy I.M. Kommunikativnoe vozdeystvie: misheni, strategii, tekhnologii. [Communicative influence: targets, strategies, technologies]. Moscow, 2012.
Zirka V.V. Manipulyativnye igry v reklame: lingvisticheskiy aspect. [Manipulative games in advertising: linguistic aspect]. Moscow, 2010.
Karabulatova I.S., Vorontsov K.V. Tsifrovaya lingvisticheskaya migra-tologiya i monitoringpotentsial'no opasnykh tekstov i migratsii. [Digital lin-guistical migrationology and monitoring of the potentially dangerous texts on migration]. In: Migratsionnye mosty v Evrazii: novye podkhody k formiro-vaniyu migratsionnoypolitiki v interesakh ustoychivogo razvitiya. [Migration bridges in Eurasia: new approaches to the formation of migration policy on behalf of the sustainable development: proceedings of XI International research and practice forum]. Moscow, 2020.
Kenzhebalina G.N., Shaikova G.K., Shakenova M.T., Akoyeva I.G. Raspoznavanie manipulyativnogo teksta: struktura i dominantnye yazykovye parametry [Recognition of Manipulative Text: Structure and Dominant Language Parameters]. Nauchnyy dialog [Nauchnyi dialog]. 2020. No. 7.
Kolmogorova A. V., Kalinin A. A., Taldykina Yu. A. Yazykovye markery manipulyatsii v polyarizovannom politicheskom diskurse: opyt parametrizat-sii. [Linguistic markers of manipulation in polarized discourse: parametric study]. In: Politicheskaya lingvistika. [Political linguistics]. 2016. № 4(58).
Kopnina G.A. Rechevoe manipulirovanie. [Verbal manipulation]. Moscow, 2010.
Lobas P.P. Manipulirovanie v politicheskom diskurse (na materiale tekstov obshchestvenno-politicheskoy tematiki). [Manipulation in political discourse (on the basis of social and political texts)]. 2015. URL: https://core.ac.uk/ download/pdf/191043192.pdf
Minaev V. A., Kulikov L. S., Astrakhov A. V. Modelirovanie ugroz informat-sionnykh vozdeystviy manipulyativnogo kharaktera. [Modelling of informational manipulative influences threats]. In: Voprosy radioelektroniki. [Issues of radio electronics]. 2016. No. 12. Series SOIU. Iss. 1.
Morovov V.D. Verbal'nye sredstva manipulyatsii v russkoyazychnom ekstremistskom tekste (na materiale Runeta). [Verbal means of manipulation in a Russian-language extremist text (on the basis of Runet)]. Abstract of Philol. Cand. Diss. Nizhniy Novgorod, 2016.
Muratova N., Toshpulatova N., Alimova G. Fake news: dezinformatsiya v media. [Fake news: disinformation in media]. Tashkent, 2020.
Navasartyan L.G. Yazykovye sredstva i rechevye priemy manipulyatsii informatsiey v SMI (na materiale rossiyskikh gazet). [Language means and verbal devices of manipulating the information in mass media (on the basis of Russian newspapers)]. Thesis of Philology Cand. Saratov, 2017.
Palekha E.S. Psikholingvisticheskiy eksperiment: vospriyatie potentsial'no opasnogo teksta (perspektivy psikholingvisticheskoy ekspertizy). [Psycholin-guistic experiment: perception of potentially dangerous text (perspectives of psycholinguistic expert examination)]. In: Cbornik materialov konferentsii «Yazyk ipravo: aktual'nyeproblemy vzaimodeystviya» [Proceedings of the Conference "Language and law: topical problems of interaction"], 2013. URL: http://www.ling-exp ert.ru/conference/langlaw3/p aleha.html
Tret'yakov A. O., Filatova O.G., Zhuk D. V., Gorlushkina N. N., Puch-kovskaya A. A. Metod opredeleniya russkoyazychnykh feykovykh novostey s is-pol'zovaniem elementov iskusstvennogo intellekta. [The method of identification of the Russian-language fake news using artificial intelligence]. In: International Journal of Open Information Technologies. 2018. Vol. 6. № 12. URL: https://docplayer.ru/191735616-Metod-opredeleniya-russkoyazychnyh-feyko-vyh-novostey-s-ispolzovaniem-elementov-iskusstvennogo-intellekta.html
Chernyavskaya V.E. Diskurs vlasti i vlast' diskursa: problemy rechevogo vozdeystviya. [Discourse of power and power of discourse: verbal influence issues]. Moscow, 2006.
Chernyavskaya V.E., Molodychenko E. N. Rechevoe vozdeystvie v poli-ticheskom, reklamnom i internet-diskurse. [Verbal influence in political, advertising and internet discourses]. Moscow, 2017.
Chuvakin A.A. Filologo-kommunikativnye issledovaniya: izbrannye Trudy. [Philological and communicative studies: selected works]. Moscow, 2020.
Shakenova M.T., Tashimkhanova D.S., Baymakhanbetov M.A., Ospanova U.A. Avtomaticheskoe diagnostirovanie manipulyativnogo diskursa (na materiale korpusa russkoyazychnykh internet-publikatsiy). [Automatic diagnostics of manipulative discourse (on the basis of Russian-language internet-publications)]. In: Vestnik Kazanskogo natsional'nogo universiteta. [Kazan National University Bulletin]. Philology Series. 2020. Vol. 180. No. 4. URL: https:// philart.kaznu.kz/index.php/1-FIL/article/view/2963/2705
Yazykovoe manipulirovanie obshchestvennym soznaniem: metodicheska-ya razrabotka i rabochaya programma dlya studentov zaochnogo otdeleni-ya yuridicheskogo fakul'teta. [Verbal manipulation of public consciousness: methodical development and work programme for students of correspondence department of the Faculty of law]. Compiled by. O.N. Bykova. Krasnoyarsk, 1999.
