CC BY
1743
ЛОГИКА И ТЕОРИЯ ПОЗНАНИЯ
УДК 162.5
БОБРОВА Л.А.* КОГНИТИВНЫЕ ИСКАЖЕНИЯ. (Обзор). DOI: 10.31249/rphil/2021.02.04
Аннотация. В обзоре рассматриваются причины и условия появления когнитивных искажений в мышлении, а также их последствия, анализируются некоторые конкретные виды когнитивных ошибок.
Ключевые слова: когнитивные способности; мозг; когнитивные искажения (когнитивные ошибки); Д. Канеман; А. Тверски; Д. Ариели; поспешные выводы; персонализация; произвольные умозаключения; сверхгенерализация; эффект негативности; эффект ложного консенсуса; эффект большинства.
BOBROVA L.A. Cognitive biases. (Review).
Abstract. The review examines the causes and conditions of the appearance of cognitive distortions in thinking, as well as their consequences, and analyzes some specific types of cognitive errors.
Keywords: cognitive abilities; brain; cognitive biases (cognitive errors); D. Kahneman; A. Tversky; D. Arieli; quickly conclusions; personalization; arbitrary inferences; overgeneralization; The effect of negativity; false consensus effect; majority effect.
Для цитирования: Боброва Л.А. Когнитивные искажения. (Обзор) // Отечественная и зарубежная литература. Серия 3 : Философия. - 2021. -№ 2. - С. 69-79. DOI: 10.31249/rphil/2021.02.04
* Боброва Любовь Алексеевна - кандидат философских наук, старший научный сотрудник отдела философии Института научной информации по общественным наукам РАН. E-mail: bobrovala2012@yandex.ru
Введение
Понятие «когнитивные искажения» было введено Д. Канема-ном и А. Тверски в 1972 г. и наряду с понятием «когнитивные ошибки» получило широкое распространение в гуманитарных дисциплинах. Под когнитивными ошибками / искажениями понимаются «систематические ошибки в мышлении или шаблонные отклонения, которые возникают на основе дисфункциональных убеждений, внедренных в когнитивные схемы, и которые легко обнаруживаются при анализе автоматических мыслей». Таким образом, речь идет не о случайных ошибках, а о таких, которые предсказуемо возникают в одних и тех же обстоятельствах.
Тема когнитивных ошибок раскрывается как один из аспектов дискуссии о рационализме, начавшейся в 70-е годы ХХ в. В отечественной литературе принято говорить о классическом и неклассическом рационализме [9]. Как отмечает Д. Канеман, первый основывается на двух положениях: 1. Люди в основном рациональны и, как правило, мыслят здраво. 2. Большинство отклонений от рациональности объясняется влиянием эмоций [5, с. 10].
Тема ошибок мышления (когнитивных, языковых, логических) имеет долгую историю. Так, логические ошибки мышления были выявлены и систематизированы еще Аристотелем, разоблачены в софистических практиках. Прошло более 2000 лет развития логики, а люди до сих пор делают всё те же ошибки. Почему? Только в последние десятилетия раскрытие механизма работы мозга человека благодаря важным открытиям в области наук о мозге позволило объяснить причины ошибок мышления. Однако оказалось, что объяснение причин ошибок еще не означает, что человечество может быть избавлено от них. Как отмечает А.В. Курпатов, «вы все можете знать о когнитивных искажениях, понимать их природу, даже знать, как с ними бороться, но ваш мозг все равно будет их производить. Он так устроен, с багами» [8, с. 93]. Объяснение ошибок мышления работой мозга подвело к пересмотру представлений о человеке как всегда поступающем рационально и потребовало более внимательного отношения к ошибкам мышления и в целом к понятию рациональности.
В 2002 г. Д. Канеман получил Нобелевскую премию за исследования оценочных суждений и принятие решений в условиях
неопределенности. В обоих случаях наблюдались систематические отклонения принятых решений от рациональной теории. Эти исследования начинались в 1970-е годы совместно с А. Тверски. Их результаты опубликованы в статьях [6] и [7]. Для объяснения отклонений были разработаны теория оценочных суждений и теория принятия решений, которые легли в основу новой дисциплины «поведенческая экономика».
В обзоре рассматриваются причины и условия появления ошибок в мышлении, а также их последствия, анализируются некоторые конкретные виды когнитивных ошибок.
По мнению А. Курпатова, причины когнитивных ошибок / искажений связаны, прежде всего, с нейрофизиологией мозга, с эволюционным развитием человеческого мышления и его познавательных способностей. Выделяются также причины ошибок, связанные с влиянием эмоций на мышление. Кроме того, на появление когнитивных ошибок сильное влияние оказывают социальные и культурные установки [8, с. 94].
Нейрофизиологическая основа когнитивных ошибок
Д. Канеман в книге «Думай медленно... решай быстро» [5] анализирует ошибки оценочных суждений и их выбора. Его подход основан на представлении о работе мозга в двух режимах, которые он называет «Система-1» (режим быстрого, автоматического мышления) и «Система-2» - это режим медленного мышления, требующего определенного усилия (например: умножить 17 на 24).
Д. Канеман отмечает, что «думая о себе, мы подразумеваем Систему-2, сознательное "Я", имеющее убеждения и принимающее решения, о чем думать и что делать. Однако, несмотря на то что Система-2 считает себя главной, но именно Система-1 порождает впечатления и чувства, которые являются главным источником сознательного выбора» [5, с. 17].
Система-1 генерирует удивительно сложные схемы мыслей, а Система-2 упорядочивает их в определенные последовательности шагов.
Система-1 отвечает за видение и ориентацию. Это требует определенного внимания. В противном случае мы можем быть слепы к очевидному, и более того, не замечать своей слепоты.
Система-2 контролирует поведение и отвечает за самоконтроль. Одна из главных характеристик Системы-2 - леность, т.е. нежелание тратить силы больше необходимого. «Лень - неотъемлемая часть нашей натуры» [5, с. 21].
Система-1 импульсивна и интуитивна. Система-2 способна к рассуждениям и осторожна.
Наша интуиция иногда нас подводит, и мы принимаем неправильные решения. Для наглядности Д. Канеман предлагает дать интуитивный ответ на следующую задачу (подготовленную совместно с Ф. Шейном):
Мяч и бита вместе стоят 1 доллар 20 центов.
Бита стоит на доллар дороже мяча.
Сколько стоит мяч?
Эта задача предлагалась студентам. Интересно, что 50% студентов Гарварда, Принстона и Массачусетского технологического института дали интуитивный неверный ответ (10 центов), Комментируя результаты эксперимента, Д. Канеман отмечает, что «люди слишком самоуверенны, склонны чересчур доверять собственной интуиции. Очевидно, многим претят умственные усилия, и их стараются избежать любым возможным способом» [5, с. 31]. Тех, кто избегает «греха» интеллектуальной лености, Д. Канеман называет «вовлеченными». Они внимательнее, интеллектуально активнее, менее склонны удовлетворяться поверхностно привлекательными ответами, более скептически относятся к своей интуиции.
Основная часть работы мышления проходит скрытно от сознательного «Я». «Мысль об ограниченном доступе к собственному разуму трудно принять, поскольку она не соответствует нашим ощущениям. Тем не менее мы знаем о себе меньше, чем нам кажется» [5, с. 35]. В частности, мы не осознаём события, которые влияют на наши действия, а также влияние идей, концепций, слов. Но именно в результате их влияния формируются определенные установки. Д. Канеман приводит пример: мысль о деньгах дает установку на индивидуализм, нежелание взаимодействовать, откликаться на просьбы [5, с. 36]. Так, студенты, уже настроенные на
тему «Деньги», не хотели помогать другим студентам решить предложенную экспериментаторами задачу [5, с. 38]. Другой пример: мысль о старости заставляет людей медленнее ходить. Эффект предшествования довольно устойчив и широко используется для манипуляций сознанием людей (например, в голосовании). Тем не менее мы не полностью зависимы от того, какие установки нам дает окружающая среда. «Эффект предшествования устойчив, но не силен» [5, с. 39].
Исследования эффекта предшествования (прайминга) ставят под сомнение наше восприятие себя как сознательных и независимых творцов своих суждений и сознательных выборов.
Работа Системы-1 создает ощущение когнитивной легкости с иллюзиями правды, приятными чувствами и пониженной бдительностью. В мозгу постоянно идет работа, постоянно проверяются и обновляются ответы на вопросы: происходит ли что-то новое? Нет ли угрозы? Всё ли идет хорошо? Не нужно ли переориентировать внимание? Не нужно ли затратить на это задание больше усилий? Одна из целей Системы-1 - определить, нужно ли включить в более серьезную работу Систему-2?
Что дает ощущение когнитивной легкости? В результате повторения событие кажется знакомым, четкое отображение текста создает иллюзию правильного содержания, подготовленная мысль кажется хорошей. Хорошее настроение создает иллюзию отсутствия угрозы.
Связь позитивных эмоций с когнитивной легкостью эволю-ционно обусловлена. Она позволяет различать опасные и безопасные предметы и места обитания, а также формирует простейшую базу для социальных отношений. Таким образом, они являются «основой связности и социальной организации, главных источников психологической и социальной стабильности» [5, с. 46].
Д. Канеман рассматривает несколько когнитивных ошибок. Например, ошибка «Поспешного вывода». Механизм поспешных выводов основан на том, что Систем-1 не отслеживает альтернативы, игнорирует сам факт их существования, подавляет сомнения. Альтернативами и подверженностью к сомнениям ведает Система-2. Но если она ослаблена, получаем ошибку «Поспешных выводов» Например, ...
Другой пример: когда Система-2 ослаблена (например, усталостью), человек готов поверить чему угодно. Так, известно, что реклама влияет сильнее на усталых людей [5, с. 55].
Система-1 работает только с наличной информацией. Она строит наилучшую из возможных «историю» о действительности. Но когда информации мало, система работает как механизм для поспешных выводов. Склонность делать поспешные выводы из ограниченного количества данных Д. Канеман называет эффектом WYSIALTI (сокращение фразы «What you see is all there is» - «Что ты видишь, то и есть»).
Механизм WYSIALTI влияет на субъективную уверенность. Мы часто не учитываем возможность того, что у нас нет данных для формирования суждений, т.е. «мы учитываем только то, что есть». Например, на вопрос: «Будет ли Х хорошим лидером, если нам известно, что она умная и сильная?» - нам приходит в голову быстрый ответ: «Да». Однако мы поторопились. Д. Канеман отмечает, что оценивая Х в роли лидера, необходимо было начать с вопроса: «Что нужно знать, чтобы сформировать мнение о хорошем лидере?» Механизм работы Системы-1 в этом случае был следующим. С первого же прилагательного Система-1 принялась за самостоятельную работу: «умная» - хорошо, «сильная» - отлично. Это лучшая история, которую можно построить по двум прилагательным, и система ее создала с большой когнитивной легкостью. Теперь, даже если появится новая информация (например, что Х -коррумпирована), историю пересмотрят, но субъективного дискомфорта не будет. Первое впечатление всё равно кажется предпочтительным.
Эффект WYSIALTI состоит в том, что ни количество, ни качество доказательств не влияют на субъективную уверенность отдельных индивидов. Вера в собственные убеждения зависит от качества истории, составляемой на основании увиденного, даже если увиденного немного.
С помощью механизма WYSIALTI можно объяснить искажения в выборе суждений (например, эффект фрейминга, когда разные способы подачи информации приводят к принятию разных суждений). Например, утверждение «Выживаемость в течение месяца после операции составляет 90%» успокаивает больше, чем эквивалентное утверждение «Смертность в течение месяца после
операции составляет 10%». Эквивалентность формулировок очевидна, но человек обычно видит лишь одну из них, для него «существует лишь то, что он видит» [5, с. 60].
Следующая ошибка («подстановка») состоит в том, что мы можем не заметить, как ответили на более легкий вопрос вместо родственного ему трудного. Например, вместо ответа на вопрос: «Насколько вы в последнее время счастливы?» - ответили на вопрос: «Какое у меня сейчас настроение?».
Известен эвристический метод Д. Пойя: «Если задачу решить не удается, найдите более легкую родственную задачу, которую вы сможете решить» (цит. по: [5, с. 67]). Различие между двумя процедурами состоит в том, что во втором случае речь идет о процедуре, намеренно реализуемой Системой-2. А в первом - процедура не выбирается намеренно, она является следствием эффекта «мысленной дроби», т.е. такой особенности Системы-1, которая состоит в неточном контроле над поиском ответа на вопрос. Как при выстреле дробью нет точного попадания в цель и область поражения шире нужной, так и в «мысленной дроби» нет точного ответа на вопрос. Мы можем не заметить, что ответили на другой вопрос, потому что Система-2 этот ответ, как правило, принимает.
Можно привести целый ряд других ошибок / искажений таких, как ... и др., которые объясняются особенностями работы Си-стемы-1.
Эволюционные основы ошибок / искажений в мышлении
Здесь следует еще раз подчеркнуть важный момент. Ошибки мышления не являются следствием дефекта работы мозга. Механизмы его работы создавались в процессе эволюции и служат важным целям, в первую очередь безопасности человека, его адаптации к окружающей среде. Так, благодаря WYSIALTI легче достичь когерентности и когнитивной легкости, которые заставляют нас принимать утверждение как истинное. «Именно поэтому мы думаем быстро и осмысливаем неполную информацию о сложном мире. В основном наши истории (которые создает Система-2 о реальности) близки к реальности и служат основаниями для рациональных действий» [5, с. 60]. Но случаются и ошибки. В частности, из-за неуместного применения навыков, бывших адаптивными
в других условиях. Например, мы уделяем больше внимания плохим новостям, нежели хорошим. Это объясняется тем, что в процессе эволюции закрепилась правильная реакция на плохие новости, которые были важнее, чем хорошие. Отсюда следует избирательность информации. Например, в наши дни уровень преступности и количество войн ниже, чем когда-либо в истории. Но большинство из нас соглашается, что ситуация на Земле становится все хуже.
Ошибки в суждениях, совершаемые под влиянием эмоций
Выделяется группа когнитивных ошибок в оценочных суждениях, которые появляются под влиянием эмоций (например, страха, ненависти и т.д.). К таким ошибкам относятся следующие.
Персонализация - склонность человека интерпретировать события в аспекте личных значений. Например, люди с повышенной тревожностью считают, что события, совершенно не связанные с ними, касаются их лично или направлены против них.
Дихотомическое мышление - склонность человека мыслить крайностями в ситуациях, задевающих его чувства в ситуации опасности. Человек воспринимает мир в контрастных красках, отвергая полутона и нейтральное эмоциональное состояние. Например, человек делает предсказание о наиболее худшем исходе, без учета других вариантов.
Выборочное абстрагирование - склонность игнорировать другую информацию. Вывод делается на недостаточных основаниях.
Произвольные умозаключения - умозаключения, которые являются бездоказательными или противоречащими фактам. Например, работающая мать в конце тяжелого рабочего дня делает вывод: «Я плохая мать».
Сверхгенерализация - неоправданное обобщение на основе единичного случая. Например, после неудачного свидания женщина делает вывод: «Все мужчины одинаковы. У меня никогда ничего не получится в отношениях с мужчинами».
Катастрофизация - преувеличение негативных последствий какого-либо события. Например: «Эти люди обо мне плохо подумают. Это ужасно».
Социально обусловленные искажения
Эффект большинства. Человек - существо коллективное. Нам нравится быть как все, даже если мы сами это не всегда осознаем. В ситуации, когда приходит время массово выбирать победителя или фаворита, индивидуальное мышление уступает место групповому. Так, политики не любят опросы. В них налицо эффект подражания, который отвечает за распространение форм поведения, социальных норм и идей среди групп людей вне зависимости от того, какие мотивы или основания есть у этих людей.
Отрицание вероятности. Люди не в состоянии правильно оценить риск или опасность того или иного события, занятия. Так, например, автокатастрофы имеют вероятность 1:84, катастрофы самолетов - 1:5000. Но последних боятся больше, чем первых.
Эффект ложного консенсуса. Бессознательно мы склонны полагать, что другие мыслят точно так же, как мы. Мы уверены, что большинство окружающих разделяют наши убеждения, даже если у нас нет для этого никакого основания. Проецировать свой способ мышления на других людей очень легко. Но крайне трудно научиться проецировать на себя мысли и взгляды других людей.
Это когнитивное искажение часто приводит к эффекту ложного консенсуса. Например, члены террористических организаций склонны преувеличивать число своих сторонников.
Эффект привязки (или «якоря»).
Заключение
Итак, основной вывод состоит в том, что когнитивные ошибки неизбежны. Они ведут к искажению реальности, являются причиной неразумных оценок, выводов, решений и поступков. Мы ошибаемся в том, как думают другие. Нам кажется, что другие думают так же, как мы, оценивают события так же, как мы. Когнитивные ошибки ведут к коммуникативным провалам, т.е. эффектам, показывающим, что намерения говорящего (получить информацию, предупреждение и т.д.) не достигли своей цели. Это возможно, например, в ситуации, когда вместо ответа на вопрос звучит не сообщение информации, а встречный вопрос или ответ на другой вопрос.
Д. Канеман видит свою задачу в том, чтобы улучшить нашу способность узнавать когнитивные ошибки / искажения. Поскольку умственная работа проходит скрыто, то следует обратить внимание на условия и обстоятельства возникновения ошибок. Следует распознавать ситуации, в которых возможны ошибки (а они, как правило, стандартные), и стараться избегать их. Д. Канеман отмечает, что у нас получается лучше увидеть ошибки других. Со временем можно будет научиться узнавать ошибки и у себя. Определенные тренинги помогут в этом.
Д. Ариели, который занимался проблемами искажений в течение двадцати лет, считает, что из своих нелогичных поступков можно извлекать и пользу. Во-первых, ошибки дают нам возможность что-то улучшить. Во-вторых, существуют способы, помогающие нам принимать более обоснованные решения [1; 2; 3].
Успехи наук о мозге последних десятилетий оказали влияние на весь спектр гуманитарных наук. В философии это дискуссии о рационализме, эмпиризме, скептицизме и реализме, частью которых являются исследования ошибок мышления [9; 10].
В логике ведутся дискуссии о новом психологизме. Появились новые дисциплины: теория аргументации, спора, где важную роль играют темы логических ошибок, ошибок в аргументации [4].
В социологии можно выделить проблемы управления и манипуляции, также опирающиеся на достижения психологии, теории оценочных суждений, теории принятия решений. Таким образом, исследования когнитивных ошибок / искажений занимают важное место в современных дискуссиях.
Список литературы
1. Ариели Д. Вся правда о неправде. Почему и как мы обманываем. - 2013. - 271, [1] с.
2. Ариели Д. Предсказуемая иррациональность. Скрытые силы, определяющие наши решения. - М. : Альпина паблишер, 2019. - 335 с.
3. Ариели Д. Предсказуемая иррациональность. Как извлекать выгоду из своих нелогичных поступков. - М. : Альпина паблишер, 2019. - 312 с.
4. Ивлев Ю.В. Теория и практика аргументации : учебник. - М. : Проспект, 2013. - 288 с.
5. Канеман Д. Думай медленно. решай быстро. - М. : АСТ, 2016. - 653 с.
6. КанеманД., Тверски А. Суждения в условиях неопределенности : эвристические методы и ошибки // Канеман Д. Думай медленно. решай быстро. - М. : АСТ, 2016. - С. 276-289.
7. Канеман Д,, Тверски А. Выбор ценности и фреймы // Канеман Д. Думай медленно. решай быстро. - М. : АСТ, 2016. - С. 290-300.
8. КурпатовА.В. Красная таблетка-2. Вся правда об успехе. - СПб. : ООО «Дом печати издательства книготорговли «Капитал»», 2019. - 352 с.
9. Лекторский В.А. Эпистемология классическая и неклассическая. - М. : УРСС, 2001. - 255 с.
10. Микешина Л.А. Философия познания. Полемические главы. - М. : Прогресс-Традиция, 2002. - 624 с.
