CC BY
371
УДК 32.019.5
Долгов Максим Игоревич
аспирант кафедры социологии и политологии Самарского государственного университета
КЛАССИФИКАЦИЯ ИНФОРМАЦИОННО-ПСИХОЛОГИЧЕСКИХ ВОЗДЕЙСТВИЙ И ОЦЕНКА СТЕПЕНИ ИХ УГРОЗ ДЛЯ ОБЩЕСТВЕННОГО СОЗНАНИЯ
Dolgov Maxim Igorevich
PhD student, Social and Political Sciences Department,
Samara State University
CLASSIFICATION OF INFORMATION PSYCHOLOGICAL IMPACTS AND ASSESSMENT OF THEIR THREAT TO THE PUBLIC CONSCIOUSNESS
Аннотация:
В статье анализируется понятие информационно-психологического воздействия на индивидуальное и общественное сознание. Рассматривается проблема создания угрозы для информационной сферы Российской Федерации путем применения различных видов информационно-психологического воздействия на общественное сознание. Выделены ситуативные («игры», «спектакли», стратагемы) и вербально-образные (явные и скрытые) информационно-психологические воздействия. Представлены два типовых алгоритма манипулятора: построенный на «игре» манипулятора с информационными потоками и рассчитанный на частную психологическую реакцию объекта воздействия.
Ключевые слова:
информационно-психологическое воздействие, манипуляция, манипулирование сознанием, информационное общество, пропаганда, дезинформация, коллективное сознание, информационно-психологическая безопасность, информационная сфера, алгоритм манипулятора.
Summary:
The article analyses the concept of psychological impact of information on the individual and public consciousness. The author considers formation of the threat to the information sphere of the Russian Federation because of the use of various kinds of information psychological impact on the public consciousness. The paper distinguishes situational ("games", "performances", stratagems) and figurative verbal (explicit and implicit) information psychological impacts. The author discusses two typical manipulative algorithms: based on the "game" with information flows and designed for particular psychological response of the object under influence.
Keywords:
information psychological impact, manipulation, mind control, information society, propaganda, disinformation, collective conscious, information-psychological security, information sphere, manipulative algorithms.
Вступление человечества в ХХ! в. ознаменовано рядом значимых событий и процессов для мировой истории. Как декларировано Окинавской хартией, принятой странами «Большой восьмерки» в 2000 г., человечество устойчиво движется по пути создания глобального информационного общества [1]. Поэтому в Доктрине информационной безопасности Российской Федерации отмечено, что современный этап развития общества характеризуется в первую очередь возрастающей ролью именно информационной сферы, которая выступает в роли системообразующего фактора жизни общества [2]. В связи с этим в условиях необходимости защиты индивидуального и массового сознания от негативных информационно-психологических воздействий развитие научных основ обеспечения информационной безопасности Российской Федерации с учетом современных реалий [3] придает настоящему исследованию серьезную теоретическую ценность. Исходя из этого, как подчеркнуто в Доктрине информационной безопасности Российской Федерации, важной является разработка специальных механизмов недопущения противоправного информационно-психологического воздействия на индивидуальное и массовое сознание [4].
Информационно-психологическое воздействие в современном мире составляет неотъемлемую часть общего информационного воздействия на общество. Однако поскольку информационно-психологическое воздействие является составной частью в том числе и внешних угроз информационной безопасности Российской Федерации [5], следовательно, необходимо организовать защиту информационной сферы России от данного вида угроз.
Проведя анализ точек зрения различных исследователей, в настоящей работе под информационным воздействием будем понимать воздействие различного характера с использованием как сведений о ком-либо или о чем-либо, так и других видов информации. Результатом этого воздействия следует считать изменение субъективного эмоционального настроя, мнения индивидуума относительно целого ряда проблем, его осмысление той или иной ситуации и в конечном счете корректировку индивидуальной картины мира.
Кроме этого, следует отметить, что вряд ли можно считать продуктивным отделение информационного воздействия от психологического, как это делают некоторые исследователи, поскольку изменения в психике отдельного индивида происходят, как правило, под воздействием определенного рода информации.
Из ряда проанализированных определений можно составить содержание понятия «информационно-психологическое воздействие». Прежде всего следует указать, что в данном понятии акцентируется целевая функция информации как специфического средства воздействия на людей, а кроме этого, осуществляется выделение объекта информационного воздействия, в роли которого выступают психика человека или общественная психология.
В работе под информационно-психологическим воздействием понимается особая форма проявления социальной активности индивидуального или группового субъекта в рамках коммуникативного пространства, состоящая в целенаправленном переносе специально подобранной информации в форме знаков (символов), образов или сигналов, ориентирующих воспринимающую систему объекта воздействия относительно смысла и значения данной информации, в результате чего со стороны объекта воздействия формируется психоэмоциональный отклик, приводящий к изменению характера воспринимаемой данным объектом предыдущей и последующей информации, что приводит к корректировке его индивидуальной картины мира в нужном субъекту воздействия ключе.
Исходя из характера и типа информационно-психологических воздействий предлагается разделить их на ситуативные и вербально-образные.
Данное разделение обусловлено тем, что информация, передаваемая по коммуникативным каналам, может как иметь вербально-образную кодировку, так и являться результатом восприятия объектом воздействия некоего набора реализуемых в процессе этого воздействия моделей поведения, под влиянием чего у объекта формируется некий определенный психоэмоциональный отклик, корректирующий его индивидуальную картину мира.
Некоторые ситуативные виды информационно-психологического воздействия можно рассматривать как специфическую форму спектакля. Данный тип спектакля предполагает обязательное наличие «режиссера», «актеров» («случайных» и заранее знакомых со «сценарием»), аудитории, которая может быть как интегрированной, так и не интегрированной. Для достижения этого результата «режиссер» должен не только создавать и реализовывать сценарий поведения «профессиональных актеров», но и определенным образом строить всю окружающую обстановку для усиления нужного психологического эффекта.
Общей особенностью всех ситуативных воздействий можно считать то, что при их реализации субъекты воздействия не в состоянии детально предусмотреть результат информационно-психологического воздействия в силу наличия определенного спектра психологических реакций индивида на однотипные внешние раздражители. Следовательно, в ходе реализации ситуативного информационно-психологического воздействия «режиссер» в определенных ситуациях, отслеживая реакцию объекта воздействия, как правило, корректирует ход «спектакля», что тоже можно отнести к особенностям данного типа информационно-психологических воздействий.
К основным видам ситуативных информационно-психологических воздействий, кроме спектаклей, можно отнести «игры» и стратагемы.
Под игрой в социальных отношениях Э. Берн понимает «серию последовательных дополняющих скрытых транзакций, приводящих к четко определенному предсказуемому исходу» [6, с. 13]. Наиболее часто встречающейся разновидностью «игр» в социальной среде является блеф.
Понятие «стратагема» было заимствовано из древнекитайской военной науки и в буквальном переводе значит «ловушка», «хитрость». В середине 1-го тысячелетия до н. э. в китайской военной науке распространяется представление о том, что «лучшая война - это война, которая не начиналась» [7, с. 112], а победа была одержана благодаря тому, что противник попал в заранее организованную ловушку [8, с. 113].
В интерпретации большинства современных специалистов стратагема - это, как правило, заранее разработанный стратегический план, нацеленный на решение одной или нескольких важнейших стратегических задач политики государства и предусматривающий использование обманных действий (хитростей, ловушек), которые вводят конкретного противника в заблуждение относительно истинных целей и побуждают его действовать определенным образом, выгодным для противоположной стороны [9].
Тем самым, в отличие от «игры», стратагему скорее следует рассматривать как специфическую форму спектакля, где «режиссер» создает сцену до включения в нее объекта воздействия, корректировка здесь возможна до начала активной фазы «спектакля».
Таким образом, становится очевидным, что:
1) в стратагеме есть четко продуманный «сценарий», созданный, как правило, с учетом индивидуальных характеристик объекта воздействия;
2) в стратагеме большое внимание придается окружающей объект воздействия обстановке, поскольку она несет большую психологическую нагрузку, обычно намного более значительную, чем при блефе;
3) в отличие от блефа, в ходе «игры» у «режиссера» практически нет возможности серьезно скорректировать процесс информационно-психологического воздействия, потому что он зачастую не является активным участником «спектакля».
Вербально-образный тип информационно-психологического воздействия, как уже было отмечено выше, предполагает в качестве основного типа специально подобранной информации использование именно вербально-образной кодировки. Следовательно, психоэмоциональный отклик воспринимающей системы объекта воздействия формируется под влиянием реакции на высказывания и образы, что, по сути, отличает данный тип информационно-психологических воздействий.
Основным признаком информационно-психологических воздействий можно считать степень завуалированности смысла специально подобранной информации. Такой акцент обусловлен тем, что смысл и значение передаваемого объекту воздействия информационного блока могут быть представлены как открыто, в доступной форме для объекта информационно-психологического воздействия, так и завуалированно, то есть скрыты под открыто предоставляемой дополнительной информацией, несущей второстепенную семантическую нагрузку. Таким образом, можно выделить явные и скрытые виды вербально-образного типа информационно-психологического воздействия.
Явное информационно-психологическое воздействие не только не скрывается, но, наоборот, целью данного вида воздействия является прямая передача смысла и значения предоставляемой объекту информации. При этом смысл и значение предоставляемой информации должны быть достаточно очевидны для объекта воздействия, поскольку в противном случае желаемый эффект не будет достигнут. Всеобщее осознание таковых воздействий только усилит их эффект.
К основным примерам данной разновидности информационно-психологических воздействий можно отнести явную пропаганду. Мы говорим именно о явной пропаганде, так как пропаганда может также быть скрытой. Проявления явной пропаганды - распространение листовок на территории, подлежащей воздействию, звуковое воздействие записанной ранее информацией. Таким образом, явная пропаганда - пример, который ярко показывает, как может проявляться явное информационно-психологическое воздействие.
Целью пропаганды можно считать оказание воздействия на общественное мнение для формирования определенных теоретических установок, стереотипов, моделей поведения, необходимых субъекту воздействия. При этом воздействие производится на определенную целевую аудиторию или на социум в целом с помощью подбора информационных блоков, где основную смысловую нагрузку несет, как правило, вербальная информация, дополняемая образной информацией. Задача ее состоит в формировании эмоционального фона, повышающего эффективность восприятия объектом предоставляемой ему информации.
Под дезинформацией в Большой советской энциклопедии понимается передача заведомо ложных или искаженных сведений [10]. Следовательно, дезинформацию можно рассматривать как целенаправленное распространение заведомо искаженной информации, не соответствующей первоисточнику. Однако известно, что искажения информации могут быть случайными и преднамеренными. В качестве преднамеренного искажения можно понимать ситуацию, когда источник на основе первоначальных сведений создает некую новую конструкцию, которая не соответствует первоначальной, но может быть принята за нее, что должно ввести объект в заблуждение.
Однако следует отметить, что некоторые современные исследователи вносят в определение понятия «дезинформация» еще ряд дополнительных моментов. Под дезинформацией иногда понимают не столько часть коммуникативных процессов, сколько метод или способ доведения искаженной, не соответствующей первоисточнику информации. К примеру, А. Даллес считал, что дезинформацию можно считать специальным методом введения противника в заблуждение относительно своих возможностей и намерений [11, с. 116]. А по мнению А.И. Доронина, под дезинформацией следует понимать способ маскировки, который реализуется с помощью преднамеренного распространения ложных сведений об объектах, их составе и деятельности, а также имитацию деятельности в соответствии с этими сведениями [12].
На основании вышеизложенного можно сделать вывод, что цель дезинформации состоит в том, чтобы обыграть противника и взять над ним вверх, ввести его в заблуждение, навязать ему превратное, искаженное и просто лживое представление о реальной действительности.
Таким образом, в настоящей работе под дезинформацией понимается преднамеренное распространение искаженных сведений или сведений, не соответствующих первоисточнику.
Скрытое информационно-психологическое воздействие является наиболее опасным для индивидуума и общества именно по причине того, что это воздействие тщательно маскируется и действует на объект воздействия незаметно для него. Говоря о том, что скрытое воздействие самое опасное, имеем в виду, что его очень сложно обнаружить и, следовательно, весьма проблематично эффективно ему противодействовать.
К основным видам скрытого информационно-психологического воздействия можно отнести скрытую пропаганду и манипуляции.
Скрытая пропаганда предусматривает малозаметное вербально-образное информационно-психологическое воздействие на индивидуума или общество с целью корректировки различных суждений, мнений, убеждений путем распространения идей, теорий, воззрений, скрытых под информационными блоками, несущими иную семантическую нагрузку. Скрытая пропаганда является сложнейшим методом воздействия на общество, способным изменить даже существующий строй.
Ярчайшим примером скрытой пропаганды является использование данного информационно-психологического воздействия при формировании мифа «американской мечты». Во всех средствах массовой информации и при помощи индустрии развлечений велась не только явная, но и скрытая пропаганда. Не озвучивая явных целей напрямую, людям показывали, как хорошо живется при соблюдении всех «формальностей» и «ритуалов» американского образа жизни.
Анализ понятия «манипуляция» имеет определенное значение в целях поддержания системы обеспечения информационной безопасности Российской Федерации, поскольку, как указано в Доктрине информационной безопасности Российской Федерации, одной из угроз конституционным правам и свободам человека и гражданина в области духовной жизни и информационной деятельности, индивидуальному, групповому и общественному сознанию может являться манипулирование информацией [13].
Манипуляция (от фр. тап1ри!а^оп) в политике рассматривается в следующих двух основных значениях: 1) махинация; 2) система психологического воздействия, ориентированная на внедрение иллюзорных представлений [14].
Современные исследователи рассматривают манипуляцию как особый вид информационно-психологических воздействий, реализуемый в процессе межличностного общения и имеющий ряд специфических особенностей, которые позволяют отделять его от пропаганды, дезинформации и прочего. Манипуляция определяется как скрытое воздействие, требующее значительного мастерства и знаний, факт которого не должен быть замечен объектом манипуляции [15]. По мнению Г. Грачева и И. Мельника, манипуляция предполагает сокрытие истинных целей действий, суть которых заключается, как правило, в получении односторонней или большей выгоды для инициатора этих действий [16]. При этом используются приемы, маскирующие истинные цели и побуждающие совершать действия, выгодные для инициатора их применения [17]. Фактически главным условием при манипуляции является то, что объект не понимает, что им манипулируют. Объект при манипуляции не осознает причин, побудивших его к принятию решения, фактически считает принятое решение своим собственным. Это позволило А. Зелтыну иронически заметить, что манипуляция представляет собой «промывку мозгов и заведение очей зрячих в трансе с изменением состояний психики, пудрение мозгов и отведение глаз слепых в ступоре неизменяемости психических процессов» [18, с. 3].
Объектами манипулирования могут выступать как личность, так и отдельные целевые группы и общество в целом.
Рассмотрим каждый из объектов манипуляции. При манипулировании отдельно взятым человеком манипулятор старается передать ему нужную самому манипулятору точку зрения на определенные проблемы. При этом субъект использует различные методы подачи информации и, соответственно, манипулирования ею. Тем самым манипулирование индивидуальным сознанием специалистами относится к наиболее эффективным видам манипулирования в том случае, когда объект не в состоянии получить информацию из других источников, поскольку манипулятор может строить свое воздействие с учетом индивидуальных характеристик психики объекта, что невозможно реализовать при воздействии на коллективные объекты.
Манипулирование осуществляется и для изменения сознания отдельных социальных групп. Вследствие этих воздействий в обществе может появиться социальная группа со своим представлением о действительности, отличающимся от существующей действительности. Можно также предположить, что если эта социальная группа будет достаточно большой, она уже сама станет влиять на другие социальные группы и менять представление мира этих групп. Учитывая такое развитие событий, становится возможным предположение о том, что если применить манипуляции на элитарных слоях общества отдельно взятого государства, то, в случае успешного проведения такого воздействия, этот элитарный слой начнет самостоятельно менять картину мира остальных общественных групп. Исходя из этого представляется возможным предположить, что подобные воздействия могут иметь глобальные цели, связанные уже не только с отдельными слоями, но и со всем социумом, и, как следствие, являются угрозой существующему общественному строю.
При манипулировании общественным сознанием воздействие должно быть массированным и направленным на определенное программирование поведения всего общества или отдельно взятой группы (слой населения, общественные объединения и пр.). При воздействии на общественное сознание манипулятор должен применять большой арсенал воздействия. Ярчайшим примером массированного воздействия может служить религия. Религия влияет на все стороны жизни общества и личности. Данное массированное воздействие будет иметь довольно продолжительное действие на общество и при попытке поменять установки через небольшой промежуток времени после первой обработки может привести к появлению депрессивного настроя в обществе.
Манипулирование общественным сознанием является опасным как для государственного строя, так и для отдельных личностей, из чего делаем вывод: такие манипуляции есть не что иное, как оружие, от которого необходимо защищаться.
Манипуляции, охарактеризованные как тайные принуждения, являются манипуляциями как информацией, так и сознанием. Они воздействуют на объект таким образом, чтобы, изменив его
представление о существующей действительности, заставить его принять выгодное субъекту манипулирования управленческое решение. Эти манипуляции являют собой ряд приемов, применяемых в определенный момент времени для достижения конкретной цели. Эти манипуляции не деформируют психическое сознание объекта, а лишь запутывают его и приводят к неправильным выводам.
К примеру, С.Г. Кара-Мурза определяет манипуляцию как психологическое воздействие, подчеркивая, что это - вид духовного, психологического воздействия (а не физическое насилие или угроза насилия). Мишенью действий манипулятора является дух, психические структуры человеческой личности [19]. С точки зрения данного автора в понятие манипуляции включаются не столько манипуляции со способом подачи информации, сколько манипуляции с психическим состоянием. С учетом того, что автор в приоритете манипуляции рассматривает манипуляции с общественным сознанием, можно сделать вывод о том, что они могут применяться для изменения сознания абсолютно всего социума.
По мнению А. Зелтына, манипуляции приводят к перестройке психического состояния объекта манипулирования [20]. Результатом такого воздействия станет изменение психического состояния объекта манипулирования, после чего объект примет выгодное субъекту управленческое решение. Объект манипулирования под воздействием манипулятивных процессов находится в состоянии измененного сознания, что фактически приводит его к невозможности адекватно оценить последствия своих решений. Следовательно, у объекта манипулирования в отсутствие понимания процессов влияния на мотивацию принимаемых им решений нет и не может быть свободы выбора для принятия выгодного ему самому управленческого решения.
Исходя из этого становится очевидным, что в рассмотренных выше позициях акцент переносится на результат информационно-психологического воздействия - приведение психики объекта воздействия в измененное состояние, при этом особое внимание типам и видам специально подобранной информации, как правило, не уделяется.
Следующая группа исследователей, наоборот, смещает акцент на способы и формы подачи информации, с помощью которой осуществляется манипуляция.
К примеру, К. Каландаров рассматривает манипулятивные воздействия исключительно как манипуляцию информацией. По его мнению, манипулирование связано с целенаправленным искажением информации. При этом особую роль играет символизация информации, которая напрямую связана с созданием «воображаемых миров» [21]. Уточняя этот момент, С.Г. Кара-Мурза отмечает, что при манипулятивном воздействии вначале происходит подача субъекту измененной информации, которая заставляет этот субъект изменить свое видение на поставленную проблему и тем самым сместить психологический уклад в необходимую манипулятору сторону [22].
Е.Л. Доценко считает, что манипуляция возможна только при использовании способов преобразования информации, к примеру искажения информации (от открытой лжи до смещения по семантическому полю), утаивания ее части, использования различных способов подачи информации и т. п. [23]. Тем самым объект воздействия, получивший специально подобранную информацию, вынужден самостоятельно принимать вполне конкретное управленческое решение, поскольку оно является единственно возможным, принятым на основе поданной таким образом информации. Это происходит в связи с тем, что реализация вышеуказанных методов приводит к формированию у объекта манипулирования измененной картины мира (или «воображаемых миров» по К. Каландарову). Результатом этих изменений становится искаженное восприятие реальности, которое толкает объект воздействия на принятие вполне конкретного управленческого решения, нужного манипулятору.
Таким образом, под манипуляцией следует понимать разновидность вербально-образного типа информационно-психологического воздействия, относящегося к скрытым воздействиям, целью которого является подталкивание объекта воздействия к принятию конкретного управленческого решения. Данный результат достигается благодаря предоставлению объекту воздействия специально подобранной информации, способной изменить его психическое состояние, скорректировать его картину мира, но, в отличие от явной пропаганды, сам объект не увязывает напрямую принятие управленческого решения с внешним информационно-психологическим воздействием.
Можно построить два типовых алгоритма действия манипулятора, ориентированные на различные стороны психики объекта манипулирования и применяемые в зависимости от возможностей манипулятора и характеристик объекта воздействия.
Первый пошаговый алгоритм связан с использованием методов, построенных на «игре» с информационными потоками:
1) первичная информация,
2) формирование информационного сообщения манипулятором со специфическими синтаксическими или семантическими параметрами для передачи объекту воздействия,
3) специально подготовленная информация доводится до объекта манипулирования,
4) объект воспринимает и перерабатывает полученную информацию по предполагаемым манипулятору принципам,
5) в результате у объекта формируется скорректированная в нужном манипулятору ключе картина существующей действительности,
6) объект манипулирования принимает необходимое субъекту управленческое решение. Следующий алгоритм рассчитан на частную психологическую реакцию объекта воздействия. При реализации данного алгоритма манипулятор рассчитывает на то, что управленческое решение объектом будет принято после потери им ориентации в социальной среде, возникновения чувства тревожности или неуверенности в будущем. После формирования у объекта данного психологического состояния манипулятор может в качестве одного из вариантов предложить ему «простое» решение как выход из ситуации, не настаивая при этом на принятии данного решения, или целый спектр решений, где присутствует самое простое и очевидное решение, выбор в пользу которого и делает объект. Алгоритм:
1) манипулятор перегружает сознание объекта различными информационными сообщениями,
2) наступает момент, когда объект больше не способен адекватно воспринимать, фильтровать и оценивать информационные сообщения,
3) наступает состояние дезориентации в социальной среде, возникает состояние тревожности или неуверенности,
4) манипулятор отследил и констатировал состояние объекта,
5) манипулятор предлагает «простой» выход из сложившегося положения или ряд решений, где все, кроме одного, не могут быть приемлемы для объекта,
6) объект манипулирования принял предложенное управленческое решение.
Итак, анализируя процесс обращения информации в манипуляциях, становится возможным построить цепочку:
1) информация 0,
2) информация 1, подготовленная манипулятором,
3) отражение информации 1 в сознании объекта,
4) сформированное знание объекта
5) скорректированная картина мира в сознании объекта,
6) управленческое решение, к которому манипулятор подталкивал объект.
Таким образом, проведенный анализ показал, что манипуляции как разновидность информационно-психологического воздействия представляют собой наиболее серьезную угрозу информационно-психологической безопасности индивида и социума, поскольку относятся к скрытой разновидности информационно-психологических воздействий, что затрудняет борьбу с данным видом угрозы, при этом являясь одними из самых эффективных по воздействию на индивидуальное и массовое сознание.
Ссылки:
1. Окинавская хартия Глобального информационного общества [Электронный ресурс]. URL: http://kremlin.ru/supple-ment/3170 (дата обращения: 02.11.2015).
2. Доктрина информационной безопасности Российской Федерации (утв. Указом Президента Российской Федерации от 9 сентября 2000 г. № 123) // Российская газета. 2000. 11 сент.
3. Там же.
4. Там же.
5. Там же.
6. Берн Э. Игры, в которые играют люди. Психология человеческих взаимоотношений. М., 2008.
7. Сунь-Цзы. Искусство войны. М., 2015.
8. Там же. С. 113.
9. Мясников В.С. Империя Цин и Русское государство XVII в. М., 1980.
10. Большая советская энциклопедия [Электронный ресурс] : в 65 т. на 2 DVD. 1 -е наиболее полн. изд. 2010. Диск 2.
11. Даллес А. Искусство разведки. М., 1992.
12. Доронин А.И. Дезинформация, или Война в королевстве кривых зеркал. М., 2001.
13. Окинавская хартия ...
14. Политология : энцикл. слов. / общ. ред. и сост. Ю.И. Аверьянов. М., 1993.
15. Кара-Мурза С.Г. Манипуляция сознанием. М., 2005.
16. Кара-Мурза С.Г. Указ. соч. ; Грачев Г.В., Мельник И.К. Манипулирование личностью: организация, способы и технологии информационно-психологического воздействия. М., 2002.
17. Кара-Мурза С.Г. Указ. соч. ; Грачев Г.В., Мельник И.К. Указ. соч.
18. Зелтын А. Промывка мозгов. М., 2004.
19. Кара-Мурза С.Г. Указ. соч.
20. Зелтын А. Указ. соч.
21. Каландаров К.Х. Управление общественным сознанием. Роль коммуникативных процессов. М., 1998.
22. Кара-Мурза С.Г. Указ. соч.
23. Доценко Е.Л. Психология манипуляции. М., 2003.
References:
1. Okinawa Charter on Global Information Society 2015, retrieved 02 November 2015, <http://kremlin.ru/supplement/3170>.
2. 'The doctrine of information security of the Russian Federation (approved by the Presidential Decree of September 9, 2000 № 123)' 2000, Russian newspaper, Sep. 11.
3. 'The doctrine of information security of the Russian Federation (approved by the Presidential Decree of September 9, 2000 № 123)' 2000, Russian newspaper, Sep. 11.
4. 'The doctrine of information security of the Russian Federation (approved by the Presidential Decree of September 9, 2000 № 123)' 2000, Russian newspaper, Sep. 11.
5. 'The doctrine of information security of the Russian Federation (approved by the Presidential Decree of September 9, 2000 № 123)' 2000, Russian newspaper, Sep. 11.
6. Berne, E 2008, Games People Play. Psychology of human relationships, Moscow.
7. Sun Tzu 2015, Art of War, Moscow.
8. Sun Tzu 2015, Art of War, Moscow.
9. Myasnikov, VS 1980, Qing Dynasty and the Russian state in the seventeenth century, Moscow.
10. The Great Soviet Encyclopedia: in 65 vols. 2010, DVD.
11. Dulles, A 1992, Intelligence Art, Moscow.
12. Doronin, A 2001, Disinformation, war, or in the kingdom of crooked mirrors, Moscow.
13. Okinawa Charter on Global Information Society 2015, retrieved 02 November 2015, <http://kremlin.ru/supplement/3170>.
14. Averyanov, YI (ed.) 1993, Politics: Encyc., Moscow.
15. Kara-Murza, SG 2005, Manipulation of consciousness, Moscow.
16. Kara-Murza, SG 2005, Manipulation of consciousness, Moscow; Grachev, GV & Miller, IK 2002, Manipulation person: organization, methods and technologies of information-psychological influence, Moscow.
17. Kara-Murza, SG 2005, Manipulation of consciousness, Moscow; Grachev, GV & Miller, IK 2002, Manipulation person: organization, methods and technologies of information-psychological influence, Moscow.
18. Zeltyn, A 2004, Brainwashing, Moscow.
19. Kara-Murza, SG 2005, Manipulation of consciousness, Moscow.
20. Zeltyn, A 2004, Brainwashing, Moscow.
21. Kalandarov, KH 1998, Management of public consciousness. The role of the communication processes, Moscow.
22. Kara-Murza, SG 2005, Manipulation of consciousness, Moscow.
23. Dotsenko, EL 2003, Psychology of manipulation, Moscow.
