CC BY
24
Философский журнал 2023. Т. 16. № 2. С. 62-77 УДК 17.034
The Philosophy Journal 2023, Vol. 16, No. 2, pp. 62-77 DOI 10.21146/2072-0726-2023-16-2-62-77
МОРАЛЬ, ПОЛИТИКА, ОБЩЕСТВО
O.b. Артемьева
КОГНИТИВНЫЙ СТАТУС МОРАЛЬНЫХ СУЖДЕНИЙ*
Артемьева Ольга Владимировна - кандидат философских наук, старший научный сотрудник. Институт философии РАН. Российская Федерация, 109240, г. Москва, ул. Гончарная, д. 12, стр. 1; e-mail: o_artemyeva@mail.ru
Статья посвящена рассмотрению проблемы когнитивного статуса моральных суждений в моральной философии и когнитивной науке. Обладание когнитивным статусом означает, что суждение адекватно выражает моральное содержание в характерной для морали форме. В моральной философии, начиная с Нового времени, проблема когнитивного статуса представала в виде вопроса о природе моральных суждений и формулировалась как дилемма разума и чувства. В процессе обсуждения этой проблемы сложились два направления: интеллектуализм и сентиментализм, которые задали парадигму размышления о моральных суждениях, воплощенную и в современной этике. В рамках обоих направлений утверждение «разумной» или «чувственной» природы моральных суждений служило обоснованию таких их особенностей, как безусловность, непосредственность, универсальность, императивность, внеутилитарность. В современной когнитивной науке с проблемой «рациональной» или «чувственной» природы моральных суждений соотносится тема чувственно-интуитивного и рационально-дискурсивного факторов в формировании моральных суждений. На примере анализа концепций Джонатана Хайдта, согласно которому когнитивным статусом обладают чувственно-интуитивные моральные суждения, и Джошуа Грина, согласно которому только рационально-дискурсивные суждения обладают таким статусом, было показано, что дилемма разума и чувства в когнитивной науке не проясняется, а лишь воспроизводится. Урок, который моральная философия должна извлечь из обсуждения моральных суждений в когнитивной науке, состоит в необходимости признать, что ни достоверность моральных суждений, ни их специфические особенности не зависят от того, участвует ли в их формировании разум или чувство, дискурсия или интуиция. Эти особенности всецело определяются спецификой морали как культурного феномена и не производятся природными механизмами.
Ключевые слова: мораль, разум, рассуждение, чувство, эмоции, знание, интуиция, моральное суждение, нейроэтика, когнитивная наука
Для цитирования: Артемьева О.В. Когнитивный статус моральных суждений // Философский журнал / Philosophy Journal. 2023. Т. 16. № 2. С. 62-77.
Исследование проведено при финансовой поддержке гранта Министерства науки и высшего образования РФ (проект «Новейшие тенденции развития наук о человеке и обществе в контексте процесса цифровизации и новых социальных проблем и угроз: междисциплинарный подход», соглашение № 075-15-2020-798, внутренний номер 13.1902.21.0022).
© Артемьева О.В., 2023
Стремительное развитие когнитивной науки, ее все большая дифференциация, становление нейронауки, появление и совершенствование революционно новых эмпирических методов исследования познания, мышления способствовали расширению предметной сферы когнитивной науки - включению в нее тех феноменов, в ходе исследования которых давно сложились специальные области знания. Это касается и морали - предмета моральной философии, или этики. Когнитивная наука - междисциплинароное исследование сознания, включающее философию, психологию, искусственный интеллект, нейронауку, лингвистику, антропологию1, - претендует на собственную трактовку моральных феноменов, на переосмысление философских концептуализаций.
Особенности моральных суждений - важный предмет исследования как в когнитивной науке, так и в моральной философии. В моральной философии, начиная с Нового времени, главным вопросом относительно моральных суждений был вопрос об их природе, который ставился в виде дилеммы: является ли она «рациональной» или «чувственной». В когнитивной науке с проблемой «рациональной» или «чувственной» природы моральных суждений соотносятся две темы: тема интуитивно-бессознательного и дис-курсивно-рефлексивного факторов в формировании моральных суждений, а также тема эмоционального и рационального факторов. Две эти темы не всегда различаются, интуитивно-бессознательное нередко смешивается с эмоциональным или подразумевается в эмоциональном, а рациональное - непременно с дискурсивным, рассудочным2. Роль всех этих факторов исследуется на основе анализа психологических, психофизиологических механизмов, сопровождающих различные моральные реакции, принятие моральных решений, вынесение моральных суждений3.
Несомненно, заслуживает внимания тот факт, что в когнитивной науке вопрос о природе моральных суждений столь же актуален, как он актуален в моральной философии, и обсуждается в рамках схожей теоретической диспозиции «разум - чувство». Более того, выделенные в когнитивной науке характеристики эмоционально-интуитивных и рационально-дискурсивных моральных суждений (мгновенность vs протяженность во времени, непосредственность vs опосредованность опытом, разного рода соображениями, беско-
См.: Thagard P. Cognitive Science // The Stanford Encyclopedia of Philosophy. Winter 2020. URL: https://plato.stanford.edu/cgi-bin/encyclopedia/archinfo.cgi?entry=cognitive-science (дата обращения: 09.05.2020).
Вместе с тем некоторые авторы специально отмечают, в частности, что ментальные процессы могут осуществляться неосознанно, но это не означает, что они нерациональны ^м.: Rini R.A. Morality and Cognitive Science // The Internet Encyclopedia of Philosophy. URL: https://iep.utm.edu/m-cog-sc/ (дата обращения: 12.01.2022)). Нейл Леви связывает интуицию не с бессознательным и не с эмоцией, а определяет ее как спонтанное именно интеллектуальное представление ^м.: Levy N. Cognitive Scientific Challenges to Morality // Philosophical Psychology. 2006. Vol. 19. No. 5. P. 569).
См.: Арутюнова К.Р., Александров Ю.И. Мораль и субъективный опыт. М., 2019; Wilson E.O. Sociobiology: The New Sythesis. Cambridge (MA), 1975; Damasio A. Descartes' Error: Emotion, Reason, and the Human Brain. L., 2005; Haidt J. The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgement // Psychological Review. 2001. Vol. 108. No. 4. P. 814-834; Haidt J. Moral Psychology and Misunderstanding of Religion // Edge. 21.09.2007. URL: https://www.edge.org/conversation/moral-psychology-and-the-misunderstanding-of-religion (дата обращения: 01.10.2022); Haidt J., Bjorklund F. Social In-tuitionists Answer Six Questions About Moral Psychology // Moral Psychology. Vol. 2. Cambridge (MA), 2008. P. 181-217; Green J.D. The Secret Joke of Kant's Soul // Moral Psychology. Vol. 3. Cambridge (MA); L., 2008. P. 35-80; и др.
2
3
рыстность vs утилитарность)4 совпадают с представлением о чувственно-интуитивных и рационально-дискурсивных суждениях сентименталистов в их критике интеллектуализма. Особый интерес представляет и то, что, в отличие от моральных философов, специалисты в области когнитивной науки в исследовании моральных суждений опираются не на внутренний опыт, а используют эмпирические методы (например, методы электрофизиологии, нейровизуа-лизации, методы неинвазивного воздействия на активность мозга и др.). Тем самым когнитивная наука, раскрывая действительные механизмы формирования моральных суждений, как будто бы открывает возможность объективного рассмотрения проблемы их природы, их когнитивного статуса, т.е. способности выражать специфически моральные оценки и решения. Помимо того, что выяснение в рамках когнитивной науки природы моральных суждений - того, являются ли они продуктом интуиции как автоматического, бессознательного, эмоционально окрашенного процесса или продуктом эмоционально нейтрального рассуждения, - значимо не только само по себе, но и в перспективе понимания морали в целом и ее концептуализации в этике. Вовсе не случайно моральные философы иногда воспринимают когнитивные исследования в сфере морали как вызов5, а сами специалисты в области когнитивной науки убеждены в том, что результаты их исследований ведут к опровержению некоторых видов моральных теорий6.
В настоящей статье я попытаюсь разобраться, насколько же данные когнитивных исследований относительно природы моральных суждений можно рассматривать как вызов философским представлениям об особенностях моральных суждений и какой урок может извлечь из когнитивных исследований моральная философия.
Проблема когнитивного статуса моральных суждений в моральной философии обсуждалась в ходе нововременного осмысления морали как самостоятельного, обладающего специфическими особенностями феномена7. Она представала в виде вопроса о природе моральных суждений8 и форму-
См., напр.: Арутюнова К.Р., Александров Ю.И. Указ. соч.; Хаузер М.Д. Мораль и разум: как природа создавала наше универсальное чувство добра и зла. М., 2008; Green J.D. Op. cit. P. 35-80; Haidt J. Op. cit. P. 814-834; Idem. The Righteous Mind: Why Good People Are Divided by Politics and Religion. N.Y., 2012; и др.
См., напр.: Апресян Р.Г.* Нейроэтика: вызовы и недосмотры // Философия. Журнал Высшей школы экономики. 2020. Т. IV. № 1. С. 13-23.
См., напр.: Green J.D. Op. cit. P. 35-80.
Подробно об этом см.: Артемьева О.В. Английский этический интеллектуализм XVIII-XIX вв. М., 2011.
Строго говоря, моральные философы раннего Нового времени анализировали не столько природу моральных суждений, сколько природу (источник) моральных восприятий, идей, понятий, оценок и т.д. Однако, используя эту терминологию, они, по существу, обсуждали именно моральные суждения. Неслучайно в фундаментальной статье-введении к «Обозрению основных вопросов морали» Прайса Дэвид Д. Рафаэль, обсуждая морально-гносеологическую концепцию Прайса, говорит именно о трактовке природы и особенностей моральных суждений (см.: Raphael D.D. Editor's Praface // Price R. A Review of the Principal Questions in Morals. Oxford, 1948. P. xii-xxiii). Включен в реестр иностранных агентов по решению Минюста России от 09.12.2022.
4
5
лировалась как дилемма разума и чувства. Источником моральных суждений могло быть либо «чистое» чувство, либо «чистый» разум. В процессе обсуждения данной проблемы сложились два оппозиционных направления - этический сентиментализм (граф Шафтсбери, Френсис Хатчесон, Дэвид Юм и др.), связывающий природу моральных суждений с моральным чувством и утверждающий, что в моральных суждениях выражено переживание, и этический интеллектуализм (Сэмюэл Кларк, Уильям Уолластон, Джон Бэлгай, Ричард Прайс и др.), для которого природа моральных суждений исключительно рациональна, и они конститутируются на основе понятий. Контроверза между этими направлениями составляла один из ключевых мотивов западноевропейской этики в Новое время. Моральные философы отводили проблеме природы моральных суждений центральное место, поскольку рассматривали моральное чувство или разум не просто как гносеологические способности, но прежде всего как начало, основание морали в человеке. Дэвид Юм так и представлял дилемму разума и чувства -как спор об общих основаниях морали9. Оппонент Юма интеллектуалист Ричард Прайс так же, как Юм, считал ключевым в этике вопрос о природе моральных понятий, представлений, оценок, или вопрос о том, проистекают ли они из чувства или из разума (понимания), и был убежден в том, что это вопрос об основаниях морали, а потому - единственный вопрос, который заслуживает обсуждения10. Утверждение «чувственной» или «разумной» природы моральных суждений одинаково служило в рамках сентиментализма и интеллектуализма обоснованию таких специфических черт моральных суждений, как безусловность (необходимость), универсальность, императивность, непосредственность, внеутилитарность. Противостояние нововременного сентиментализма и интеллектуализма в вопросе о природе моральных суждений в значительной мере было следствием предубежденности сентименталистов против разума, который они отождествляли с пассивным, медленным и корыстным рассудком, и интеллектуалистов - против морального чувства, которое они не отличали от пассивного ощущения и от слепой страсти. Между тем сентименталисты наделяли моральное чувство теми же характеристиками, какими интеллектуалисты наделяли разум, и наоборот.
Вместе с тем неправильно было бы утверждать, что полемика по вопросу о природе моральных суждений между сентименталистами и интеллектуалистами была порождена недоразумением. В рамках каждого из направлений были акцентированы ключевые характеристики моральных суждений. Сентименталисты, связав моральное суждение с моральным чувством, посуществу, отделили моральные суждения от познавательных, указывая на своеобразие морали как прежде всего эмотивно-волевой сферы. Для ин -теллектуалистов же, связывающих моральное суждение с разумом, важно было акцентировать объективность моральных суждений и показать, что моральное суждение по своей сути независимо не только от произвола внешних по отношению к человеку сил - традиций, позитивных законов, воли Бога или правителя, указаний разного рода авторитетов, но и от влияния стихии его собственных страстей, которая является в той же мере внешней для человека. Кроме того, интеллектуалисты подчеркивали, что моральное
9 См.: Юм Д. Исследование о принципах морали // Юм Д. Сочинения: в 2 т. Т. 2. М., 1996. С. 179.
10 См.: Price R. A Review of the Principal Questions in Morals. Oxford, 1948. P. 14-15.
суждение не спонтанно, а осознанно и принципиально и именно потому оно разумно.
Оба направления имели приверженцев и в последующем развитии этики. Интеллектуалистские идеи развивали Генри Сиджвик, Джордж Эдвард Мур, Уильям Дэвид Росс, Роберт Ауди, Майкл Хьюмер и др., сентимента-листские - Роберт Соломон, Марта Нуссбаум, Майкл Слоут и др. Сентиментализм и интеллектуализм раннего Нового времени задали своего рода парадигму размышления о моральных суждениях, которая в разных формах воплощается и в современной моральной философии.
Моральные суждения в когнитивной науке рассматриваются с разных сторон и на основе различной методологии. Авторы большинства из этих исследований полагают, что этико-философские представления о моральных суждениях умозрительны и не находят эмпирического подтверждения. Противопоставляя этико-философской позиции позицию научную, эти авторы стремятся показать, как в реальности формируются моральные суждения - под воздействием каких факторов и посредством каких механизмов. Предмет исследования здесь составляют конкретные суждения людей, которые они выносят в отношении предлагаемых исследователем «моральных» ситуаций.
Одна из стратегий состоит в демонстрации того, что в действительности моральные суждения обычных людей большей частью интуитивны, т.е. спонтанны, не являются результатом рассуждения. К такому выводу приходит в своих исследованиях, например, социальный психолог Джонатан Хайдт11. Интуитивность, по Хайдту, проявляется в том, что моральные суждения, включая аффективную оценку («хорошо - плохо», «нравится - не нравится»), возникают в уме внезапно, неосознаваемо, автоматически, без усилий, без предварительного взвешивания аргументов, без выведения одного суждения из другого. Интуитивные моральные суждения Хайдт противопоставляет суждениям, полученным в результате рассуждения - осознанной разумной деятельности, состоящей в преобразовании определенной информации с целью выработки морального суждения12. Она осознанна в том смысле, что преднамеренна, требует усилий и поддается контролю. Кроме того, она рефлексивна, т.е. рассуждающий человек отдает себе отчет в том, что происходит. В представлении Хайдта интуиция и рассуждение различаются как механизмы формирования суждения, но когнитивный статус у них одинаков: и интуиция, и рассуждение являются видами познания. В случае интуитивного морального суждения сознанию доступен лишь результат, в случае рассуждения - вся цепочка аргументов, приводящая к результату. Опираясь на собственные исследования и исследования своих коллег13,
11 Критический разбор концепции Хайдта см.: Прокофьев А.В. «Не упускай из виду интуи-ций...» (теоретические проблематизации интуитивных моральных суждений в современной этике) // Философский журнал / Philosophy Journal. 2016. Т. 9. № 1. С. 146-163.
12 См.: Haidt J. Op. cit. P. 818.
13 В частности, на исследования Антонио Дамасио (Damasio A. Descartes' Error: Emotion, Reason, and the Human Brain. L., 2005), Джона Баджа (Bargh J.A The Four Horsemen of Automaticity: Awareness, Efficiency, Intention, and Control in Social Cognition // Handbook
Хайдт утверждает, что моральные суждения по своей природе интуитивно-эмоциональны. Рассуждение не порождает моральное суждение, а имеет дело с уже вынесенным моральным суждением. Человек прибегает к рассуждению, когда оправдывает собственное моральное суждение для самого себя. Это оправдание всегда post hoc, оно представляет собой набор доводов в пользу уже вынесенного морального суждения и подтверждает, а не изменяет и тем более - не опровергает его. Оно выполняет роль не столько судьи, сколько адвоката. Хайдт допускает, что в некоторых случаях чистая сила логики может повлиять на исходное моральное суждение и в результате оно даже может быть преодолено. Но такие случаи крайне редки. Они имеют место при слабой изначальной интуиции и сильной способности к аргументации. Редки и такие случаи, когда человек в ходе размышления о ситуации пробуждает в своем сознании интуитивное моральное суждение, противоположное изначальному. Такое возможно, когда человек ставит себя на место другого, ощущает его боль, испытывает симпатию к нему, сопереживает ему и получает возможность видеть ситуацию, по поводу которой выносит суждение, с разных сторон. В результате у него возникает несколько сталкивающихся моральных интуиций. Решение в такой ситуации может быть вынесено или на основе наиболее сильной интуиции, либо в результате доверенного разуму выбора посредством осознанного применения принципа или общего правила14. Рассуждение, выраженное вербально, также может использоваться с целью убедить других людей в правильности собственной моральной позиции и привлечь их на свою сторону. Однако успех в этом случае определяется не «силой логики», а таким воздействием речи на людей, которое пробуждает в их сознании аффективно окрашенные моральные интуиции, созвучные собственным интуициям произносящего эту речь. В моральных спорах люди приводят разные аргументы в пользу своих моральных суждений, но даже если аргументы какой-либо из сторон разрушают аргументы оппонента, «побежденный» не откажется от своего суждения именно потому, что опровергнутый аргумент не был основанием или причиной его морального суждения, а был сформулирован после того, как суждение было вынесено15.
Хайдт не отрицает значения рассуждения, однако считает, что главную роль в порождении морального суждения играют эмоции, они обеспечивают саму возможность рассуждения. Благодаря разуму (рассуждению, контролируемому процессу) люди могут размышлять о долгосрочных целях и, избегая тирании настоящего момента, оказываются способными не поддаваться сиюминутным искушениям, представлять альтернативы возможных решений, из разговоров люди могут узнавать о том, какой выбор вероятнее всего приносит успех и обеспечивает престиж. Эмоционально-интуитивную природу моральных суждений Хайдт вполне в духе нововременного сентиментализма объясняет еще и тем, что моральные суждения побуждают человека действовать, а разум побуждать к поступкам не может, поскольку обладает относительно слабой мотивирующей силой. Напротив, эмоции, интуиция сформированы естественным отбором для побуждения к быстрым
of Social Cognition. Vol. 1. 2nd ed. Hillsdale (NJ), 1994. P. 1-40; Bargh J.A., Chartrand T.L. The Unbearable Automaticity of Being // American Psychologist. 1999. No. 54 (7). P. 462-479.
14 Haidt J. Op. cit. P. 819.
15 Cm.: Haidt J. The Happiness Hypothesis. L., 2006. P. 21.
и надежным действиям, они соотносятся с теми участками мозга, которые заставляют нас чувствовать удовольствие и боль и порождают мотивацию, связанную с выживанием. Однако возникает вопрос: почему мы должны безоговорочно полагаться на моральные интуиции?
По Хайдту, моральные суждения-интуиции не иррациональны и не произвольны, они укоренены в биологической природе человека. «Праведный ум» до всякого индивидуального опыта биологически определенным образом организован. Его интуитивное действие обеспечивают шесть врожденных модулей, выключателей, вкусовых рецепторов, или моральных оснований: забота, честность, верность сообществу, уважение к авторитету и иерархии, святость (чистота), свобода16, сформировавшихся в ходе эволюции в результате удачного решения критических для выживания человечества задач. Например, модуль заботы сложился в результате необходимости защищать беспомощное потомство и заботиться о нем. Изначально он мгновенно «включался» в ситуации страдания, нужды, переживаемых собственным ребенком. Впоследствии в процессе биологического и историко-культурного развития триггеры для «включения» модуля заботы стали более разнообразными. Он включается не только по отношению к собственному ребенку, но и по отношению к другим детям, а также по отношению к животным. Действие каждого модуля связано с определенной эмоцией. Так, забота всегда сопряжена с состраданием.
Модули, в интерпретации Хайдта, представляют собой сформировавшиеся в ходе эволюции функциональные системы мозга, матрицу, которая в ходе исторического развития наполняется разнообразным культурным содержанием. В культурах модули по-разному упорядочиваются, по-разному соотносятся друг с другом, однако во всех культурах они по-своему и в разной степени признаются значимыми17.
В представлении о природе моральных суждений Хайдт опирается на философское наследие этического сентиментализма, главным образом на моральную философию Дэвида Юма периода «Трактата о человеческой природе», где разуму отведена роль раба страстей. Хайдту импонировала и Юмова аналогия морали и вкуса. Однако в то время, как для Юма вкус в большей степени был эстетической способностью, действующей и в морали, в метафорах Хайдта вкус гораздо ближе к внешнему чувству. Отталкиваясь от замечания Мэн-цзы о том, что мораль аналогична вкусу и справедливость услаждает наши сердца так же, как отменные блюда услаждают наши рты, Хайдт уподобляет «праведный ум» языку с шестью вкусовыми рецепторами (модулями), а мораль - кухне, которая хоть и является культурным конструктом, при этом не настолько гибка, чтобы адаптироваться под любые продукты: нельзя готовить из коры деревьев или только из горьких продуктов. Кухни различных народов различны, но все они должны удовлетворять неизменному набору вкусовых рецепторов. Точно так же и моральные матрицы, хоть и различаются в разных культурах, должны удовлетворять праведные умы, оснащенные одними и теми же социальными рецепторами.
Хайдт стремится убедить нас в том, что моральные интуиции запрограммированы в биологической природе человека, и это является достаточным основанием для того, чтобы доверять своим интуитивным моральным
16 См.: Haidt J. The Righteous Mind. P. 155, 157.
17 Ibid. P. 152.
суждениям. Однако, во-первых, такое объяснение сопряжено с неразрешимыми трудностями. На одну из них обращает внимание А.В. Прокофьев, замечая, что такое объяснение не позволяет решить задачу обоснования морали как «выдвижение аргументов, убеждающих человека принять определенную систему норм и ценностей в качестве основы своих оценок и поступков» без какого-либо принуждения или прагматической заинтересованности18. Думается, такая задача и не предполагается в концепции Хайдта. Если определенные моральные интуиции запечатлены в биологической природе человека и «включаются» сами по себе в триггерных ситуациях, никакое обоснование не нужно. Но это противоречит реальному нравственному опыту человечества и результатам его осмысления в рамках моральной философии. Во-вторых, утверждение Хайдта о «правильности» моральных ин-туиций противоречит данным когнитивных исследований, которые показывают, что интуиции часто оказываются иррациональными и ненадежными. Они часто оказываются реакциями на не относящиеся к морали факторы. Например, они подвержены эффекту фрейминга, который проявляется в том, что интуитивное суждение определяется не существом проблемы, а тем, в каких терминах она сформулирована19. Моральные интуиции также могут быть всего лишь разного рода предубежденностями, эвристиками, надежность которых, в особенности в сложных ситуациях, сомнительна. Психологические исследования показали также, что интуитивные моральные оценки и решения могут зависеть от того, насколько был чистым стол, за которым сидел человек, участвующий в исследовании, был ли этот человек сытым или голодным и т.п., т.е. определяются случайными факторами20.
В когнитивной науке осмысление результатов исследования интуиции нередко оказывается основанием для вывода о недостоверности интуитивных моральных суждений, а следовательно, невозможности полагаться на них в морали. Психологические исследования интуиции дают интересный, разнообразный материал, касающийся того, как в реальности люди принимают решения, что влияет на их суждения. Однако следует отметить, что без специальных психологических исследований моральные философы с древних времен вполне отдавали себе отчет в том, что людям свойственно ошибаться, опираются ли они в своих суждениях на разум или на чувство. Интуиция как и рассуждения, сами по себе не являются гарантами истинности суждения. Именно поэтому в философии был важен критерий достоверности суждения, которым могли бы руководствоваться люди, проверяя себя. Таким критерием служит, например, категорический императив Канта в совокупности трех его принципов - универсальности, человечности и автономии.
В моральной философии также акцентировалось внимание на том, что интуиция в морали не действует автоматически, помимо усилий человека. Условия достоверности моральной интуиции - чистота сознания или непрерывное критическое внимание к собственным суждениям и побуждениям.
18 Прокофьев А.В. Указ. соч. С. 151.
19 Эффект фрейминга был впервые осмыслен в работе Амоса Тверски и Дэниэла Канемана. См: Tversky A., Kahneman D. The Framing of Decisions and the Psychology of Choice // Science. 1981. No. 211 (4481). P. 453-458.
20 См.: Schnall S., Haidt J., Clore G.L., Jordan A.H. Disgust as Embodied Moral Judgment // Personality & Social Psychology Bulletin. 2008. No. 34 (8). P. 1096-1109; Shai D., Levav J., Av-naim-Pesso L. Extraneous Factors in Judicial Decisions // Proceedings of the National Academy of Sciences. 2011. No. 108 (17). P. 6889-6892.
Для философов (как сентименталистов, так и интеллектуалистов) интуитивность моральных суждений была знаком их беспредпосылочности, непро-изводности от внеморальных суждений - тех, которые детерминированы удовольствием, послушанием, адаптивностью, лояльностью, личным интересом, склонностью и т.д. Обсуждение моральной интуиции в моральной философии - это не столько психологическое рассмотрение моральной способности, сколько этико-философское осмысление специфики морального суждения как суждения не опосредованного внеморальными факторами. Трактуется ли интуиция как эмоциональная или как интеллектуальная, интуитивность морального суждения в обоих случаях связывают не с его бессознательно-автоматическим характером, а с тем, что оно не может быть выведено из внемо-ральных суждений. Осознание того, что люди нередко выносят ошибочные моральные суждения, или того, что их моральные суждения искажают внешние по отношению к морали факторы, ведет к пониманию необходимости при вынесении моральных суждений быть сосредоточенными и критичными, развивать и укреплять свои моральные способности - способности различать добро и зло в конкретных обстоятельствах.
Если для Хайдта признаком достоверности интуитивных моральных суждений является их укорененность в биологической природе человека, то Джошуа Грин - философ, экспериментальный психолог, специалист в области нейроэтики, напротив, считает эту укорененность основанием для признания неадекватности интуиций в морали и построенных на их основе теорий. В отличие от Хайдта, для которого моральные интуиции выражают действительно моральное содержание, Грин видит в интуициях - автоматических, эмоционально окрашенных, эволюционно обусловленных реакциях - лишь побочный продукт эволюции, а не прозрение моральной истины21. Например, интуитивная убежденность в необходимости справедливого возмездия для преступника в любых ситуациях, даже таких, в которых это возмездие не приводит ни к какой общественной пользе, Грин объясняет тем, что эмоции, побуждающие наказывать преступников, развивались в ходе эволюции как механизм стабилизации сотрудничества между отдельными людьми и внутри больших групп. Эмоциональная интуиция, побуждающая верить в необходимость наказывать нарушителей порядка, с точки зрения Грина, является всего лишь грубым биологическим инструментом адаптации, сформировавшимся в ходе эволюции22. Люди жаждут возмездия вовсе не по той причине, что преступники заслуживают его, а по той, что «склонность к возмездию - это эффективный способ побуждения к поведению, которое позволяет людям, живущим в социальных группах, распространять свои гены»23. На предполагаемый вопрос о том, почему адаптивное поведение обусловлено интуициями и эмоциями, а не рассуждением, Грин отвечает, что эмоции в отличие от рассуждения - это надежный и быстрый ответ на повторяющиеся ситуации. Поэтому, когда природа решает поведенческую задачу, она, где это возможно, действует посредством интуиций и эмоций24. Мораль решает поведенческие задачи иного рода и по-другому. По существу, по Грину, получается, что потребность в специфически
21 Green J.D. Op. cit. P. 70, 75.
22 Ibid. P. 71.
23 Ibid.
24 Ibid. P. 60.
моральных суждениях возникает в сложных и неопределенных ситуациях, в которых полагаться на природу невозможно. Такие суждения всегда предполагают взвешивание разных альтернатив, учет разных подробностей и обстоятельств, поэтому они не могут не быть результатом рассуждения.
С точки зрения Грина, теории морали, опирающиеся на интуитивные суждения, всего лишь рационализируют интуиции в том смысле, что приписывают им значение, которым они не обладают, полагая при этом, что открывают моральную истину как таковую. Ошибочной теорией морали Грин считает деонтологию кантовского типа, которую противопоставляет более адекватным, с его точки зрения, консеквенциалистским теориям, основанным на рассуждении. Различие между деонтологическими и консеквенциалист-скими суждениями Грин видит в том, что первые обусловлены автоматическими эмоциональными реакциями (интуициями), а вторые формируются на основе когнитивных процессов (рассуждения). Именно они действительно выражают специфически моральное содержание, а не маскируют внемо-ральные эволюционные механизмы.
Деонтологические теории формулируют нормы преимущественно в терминах абстрактных прав и обязанностей. Деонтологическое суждение основано на безусловном уважении к определенным нормам, которые вменяется выполнять вне зависимости от того, к каким последствиям приведет их выполнение. Например, неправильно пожертвовать жизнью одного человека ради спасения жизни большего количества людей. Деонтологическое суждение всегда антиконсеквенционально, эмоционально, выносится мгновенно и лишь post hoc подвергается рационализации25.
Консеквенциализм, в отличие от деонтологии, придает значимость последствиям действий, и консеквенциалистское суждение апеллирует к послед -ствиям. Консеквенциализм допускает возможность перенаправить с помощью переключателя потерявшую управление вагонетку с пути, на котором находятся пять человек ради спасения их жизни, на путь, на котором находится один человек. Отличие консеквенциалистских суждений от деонто-логических состоит и в том, что они эмоционально нейтральны, являются результатом не автоматических, а когнитивных процессов. Когнитивные процессы задействованы в нестереотипном, сложном, требующем гибкости поведении, в котором автоматические эмоционально-интуитивные реакции неуместны и невозможны. Косеквенциалистские суждения не предопределены, открыты, многовариантны, учитывают множество особенностей ситуации, подлежат пересмотру в случае открывшихся новых обстоятельств, занимают больше времени. Грин признает, что консеквенциалистские суждения также могут быть эмоционально окрашены, однако эмоции, сопровождающие их, имеют другой, нежели сопровождающие деонтологические суждения, характер. Эмоции, сопровождающие консеквенциалистские суждения, привлекают внимание к важным особенностям ситуации, они указывают на то, что имеет значение. Эмоции же, определяющие деонтологические суждения, выступают в качестве сигнала тревоги, пресекающего совершение действия или принуждающего к его совершению26.
Свою гипотезу о связи деонтологических суждений с автоматическими (эмоционально-интуитивными процессами) и консеквенцикалистских -
25 Ibid. P. 38-39.
26 Ibid. P. 64.
с когнитивными (рассудочными) Грин обосновывает эмпирически, полагаясь на метод нейровизуализации. Благодаря использованию этого метода Грин показывает, что вынесение деонтологических суждений сопровождается повышенной нейронной активностью в областях мозга, связанных с эмоциями27. Вынесение же консеквенциалитских суждений сопровождается активизацией областей мозга, наиболее тесно связанных с высшими когнитивными функциями (исполнительный контроль, сложное планирование, дедуктивные и индуктивные рассуждения и т.д.)28.
Интересно, что, полагаясь на эмпирические методы, Хайдт и Грин приходят к противоположным заключениям относительно природы моральных суждений: для Хайдта все моральные суждения эмоционально-интуитивны, для Грина специфически моральными являются лишь суждения, полученные на основе рассуждения. В оппозиции Хайдта и Грина, по существу, воспроизводится морально-философская дилемма «разума и чувства» в отношении природы моральных суждений. Разделение рационального и эмоционально-интуитивного факторов в формировании моральных суждений так или иначе сохраняется и в концепциях, которые признают моральную релевантность и тех, и других. Например, Карина Арутюнова и Юрий Александров в исследовании моральной оценки и ее природы рассматривают разум (сознание) и эмоции «континуально», т.е. не как «дизъюнктивные психологические процессы, имеющие различные нейронные механизмы, а как различные характеристики единой системной организации поведения»29. Хотя в данном исследовании признается роль и рационального, и эмоционально-интуитивного факторов в формировании моральной оценки, однако в то же время утверждается, что каждый из этих факторов связан с разными этапами субъективного опыта - раннего низкодифференцированного и более позднего высокодифференцированного, и соответственно с разными типами моральных суждений30.
Исследования природы моральных суждений в рамках когнитивной науки воспроизводят дилемму «разума и чувства» и нисколько ее не проясняют. Урок, который моральная философия должна извлечь из обсуждения моральных суждений в когнитивной науке, состоит, на мой взгляд, в необходимости признать, что ни достоверность моральных суждений, ни их специфические особенности не зависят от того, участвует ли в их формировании разум или чувство, дискурсия или интуиция. Особенности моральных суждений определяются спецификой морали. Что же касается их природных механизмов, то, по всей вероятности, моральные суждения являются результатом более сложных, неразложимых на «разум» и «чувство» (во всех их возможных проекциях) процессов, и в формировании каждого морального суждения одновременно участвуют разные факторы. Такой вывод просматривается еще в давних спорах интеллектуалистов и сентименталистов, в ходе
27 Ibid. P. 44.
28 Ibid. P. 47.
29 Арутюнова К.Р., Александров Ю.И. Указ. соч. С. 43.
30 Там же. С. 43-47.
которых моральное чувство становилось все более разумным, а моральный разум изначально был наделен свойствами воли. Такой вывод обнаруживается и в исследовании Джеффри Хольцмана31 - специалиста в области экспериментальной философии, моральной психологии и нейроэтики.
Хольцман указывает на ошибочность рассмотрения природы моральных суждений в рамках, заданных противопоставлением разума и чувства. Он стремится показать, что чувства (эмоции) и разум (контролируемое познание) неправильно рассматривать как отдельные процессы с четко идентифицируемыми нейронными основаниями32. Опираясь на результаты недавних нейрозиологических исследований, показывающие, что отделы мозга, связанные с проявлением эмоций, одновременно связаны с «контролируемым познанием», с разумом, а также с функциями, которые нельзя отнести ни к эмоциональным, ни к разумным, Хольцман приходит к выводу, что картина нейронных оснований моральных суждений гораздо более сложная и тонкая. Он полагает, что моральные суждения в конечном итоге формируются посредством интеграции многих видов информации из различных отделов мозга, и настаивает на необходимости развития интегратив-ных моделей формирования моральных суждений. Он призывает отказаться от обсуждения моральных суждений в терминах разума - чувства, или интуиции - рассудка, или эмоции - контролируемого познания33.
Значит ли это, что надо вообще отказаться от философского понимания моральных суждений в когнитивных исследованиях? Хольцман так не считает. Он замечает, что ученым в вопросе о природе моральных суждений важно принимать во внимание все разнообразие морально-философских подходов, а не только сентиментализм и интеллектуализм. Однако здесь гораздо важнее другое.
Невозможно исследовать моральное суждение, не прояснив его особенности как морального феномена, а значит - и особенности собственно морального, т.е. морали. Когнитивная наука не имеет собственных инструментов для такого прояснения в силу специфики морали как исключительно культурного (а не естественного) феномена. Концептуализация морали - задача философская. Но представители когнитивной науки уделяют недостаточное внимание тому, на какое понимание морали опираются, и нередко исходят из своих неотрефлексированных представлений о ней34. В результате рассматривают мораль преимущественно как один из инструментов адаптации человека, выработанный в процессе эволюции, и игнорируют ее сверхприродную, сущность, ее императивный характер. Они не принимают во внимание тот существенный факт, что в морали человек не приспосабливается к реальности, а преобразует ее в соответствии с представлением о надлежащих отношениях между людьми и о том, каким он сам должен быть, и тем самым создает новую реальность. Выделяя коммуникативный аспект в содержании морали, ученые пренебрегают перфекционистским. В силу непроясненного понимания морали представление о моральных суждениях в когнитивной науке оказывается неопределенным. Ни с точки
31 См.: Holtzman G.S. A Neuropsychological Challenge to the Sentimentalism/Rationalism Distinction // Syntheses. 2018. Vol. 195. No. 5. P. 1873-1889.
32 Ibid. P. 1875.
33 См.: Ibid. P. 1885-1886.
34 См. об этом подробнее: Апресян Р.Г.* Этика. М., 2017. С. 56-59.
* Включен в реестр иностранных агентов по решению Минюста России от 09.12.2022.
зрения содержания, ни с точки зрения формы и функций моральные суждения здесь не специфицированы как предмет исследования по сравнению с другими ценностными и нормативными суждениями, напротив, их особенности, выявленные в моральной философии, в когнитивной науке нивелируются.
По остроумному замечанию Вальтера Синнотта-Армстронга, нейронау-ка о морали пока лишь ребенок, пусть и быстро развивающийся35. Эта характеристика вполне уместна и в отношении когнитивной науки, сосредоточенной на изучении моральных феноменов, в частности моральных суждений. За последнее время ребенок подрос и окреп, но зрелость, которая проявляется в том числе в осознании границ собственных теоретических полномочий, а также необходимости обращения в своих исследованиях к морально-философскому опыту осмысления морали, пока еще не наступила.
Список литературы
Апресян Р.Г." Нейроэтика: вызовы и недосмотры // Философия. Журнал Высшей школы
экономики. 2020. Т. IV. № 1. С. 13-23. Апресян Р.Г." Этика. М.: Кнорус, 2017. 356 с.
Артемьева О.В. Английский этический интеллектуализм XVIII-XIX вв. М.: ИФ РАН, 2011. 196 с.
Арутюнова К.Р., Александров Ю.И. Мораль и субъективный опыт. М.: ИП РАН, 2019. 188 с. Прокофьев А.В. «Не упускай из виду интуиций...» (теоретические проблематизации интуитивных моральных суждений в современной этике) // Философский журнал / Philosophy Journal. 2016. Т. 9. № 1. С. 146-163. Хаузер М.Д. Мораль и разум: как природа создавала наше универсальное чувство добра
и зла / Пер. с англ. Т.М. Марютиной. М.: Дрофа, 2008. 639 с. Юм Д. Исследование о принципах морали / Пер. с англ. В.С. Швырева // Юм Д. Сочинения: в 2 т. Т. 2. М.: Мысль, 1996. C. 177-314. Bargh J.A. The Four Horsemen of Automaticity: Awareness, Efficiency, Intention, and Control in Social Cognition // Handbook of Social Cognition. Vol. 1 / Ed. by R.S. Wyer, Jr. and T.K. Srull. 2nd ed. Hillsdale (NJ): Erlbaum, 1994. P. 1-40. Bargh J.A., Chartrand T.L. The Unbearable Automaticity of Being // American Psychologist.
1999. No. 54 (7). P. 462-479. Damasio A. Decartes' Error: Emotion, Reason, and the Human Brain. L.: Penguin Books Ltd., 2005. 352 p.
Green J.D. The Secret Joke of Kant's Soul // Moral Psychology. Vol. 3 / Ed. by W. Sinott-Arm-
strong. Cambridge (MA); L.: A Brandford Book; The MIT Press, 2008. P. 35-79. Haidt J. Moral Psychology and Misunderstanding of Religion // Edge. 21.09.2007. URL: https://www.edge.org/conversation/moral-psychology-and-the-misunderstanding-of-religion (дата обращения: 01.10.2022). Haidt J. The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral
Judgement // Psychological Review. 2001. Vol. 108. No. 4. P. 814-834. Haidt J. The Happiness Hypothesis. L.: Arrow Books, 2006. 320 p.
Haidt J. The Righteous Mind: Why Good People Are Divided by Politics and Religion. N.Y.: Pantheon Books, 2012. 528 p.
35 Sinnott-Armstrong W. Introduction // Moral Psychology. Vol. 3. Cambridge (MA); L., 2008. P. xiii.
* Включен в реестр иностранных агентов по решению Минюста России от 09.12.2022.
Haidt J., Bjorklund F. Social Intuitionists Answer Six Questions About Moral Psychology // Moral Psychology. Vol. 2 / Ed. by W. Sinnott-Armstrong. Cambridge (MA): MIT Press, 2008. P. 181-217.
Holtzman G.S. A Neuropsychological Challenge to the Sentimentalism/Rationalism Distinction // Synthese 2018. Vol. 195. No. 5. P. 1873-1889.
Levy N. Cognitive Scientific Challenges to Morality // Philosophical Psychology. 2006. Vol. 19. No. 5. P. 567-587.
Price R. A Review of the Principal Questions in Morals. Oxford: Oxford University Press, 1948. 301 p.
Raphael D.D. Editor's Preface // Price R. A Review of the Principal Questions in Morals. Oxford: Oxford University Press, 1948. P. iv-xlvii.
Rini R.A. Morality and Cognitive Science // The Internet Encyclopedia of Philosophy. URL: https://iep.utm.edu/m-cog-sc/ (дата обращения: 12.01.2022).
Schnall S., Haidt J., Clore G.L., Jordan A.H. Disgust as Embodied Moral Judgment // Personality & Social Psychology Bulletin. 2008. No. 34 (8). P. 1096-1109.
Shai D., Levav J., Avnaim-Pesso L. Extraneous Factors in Judicial Decisions // Proceedings of the National Academy of Sciences. 2011. No. 108 (17). P. 6889-6892.
Sinnott-Armstrong W. Introduction // Moral Psychology. Vol. 3 / Ed. by W. Sinott-Armstrong. Cambridge (MA); L.: A Brandford Book; The MIT Press, 2008. P. xiii-xix.
Thagard P. Cognitive Science // The Stanford Encyclopedia of Philosophy / Ed. by E.N. Zalta. Winter 2020. URL: https://plato.stariord.edu/cgi-bin/encyclopedia/archinfo.cgi?entry= cognitive-science (дата обращения: 09.05.2020).
Tversky A., Kahneman D. The Framing of Decisions and the Psychology of Choice // Science. 1981. No. 211 (4481). P. 453-458.
Wilson E.O. Sociobiology: The New Synthesis. Cambridge (MA): The Belknap Press of Harvard University Press, 1975. 697 p.
The cognitive status of moral judgements*
Olga V. Artemyeva
Institute of Philosophy, Russian Academy of Sciences. 12/1 Goncharnaya Str., Moscow, 109240, Russian Federation; e-mail: o_artemyeva@mail.ru
The article deals with the problem of the cognitive status of moral judgements in moral philosophy and cognitive science. Having a cognitive status means that a judgement adequately expresses moral content in a form specific to morality. In moral philosophy, beginning with the Modern Times, the problem of cognitive status has been presented as a question about the nature of moral judgements and formulated as a dilemma of reason and sense. In the process of discussing this problem, two schools of thought emerged: intellectualism and sentimentalism, which set a paradigm for thinking about moral judgements that is also incorporated in contemporary ethics. In both, the assertion of the 'rational' or 'emotional' nature of moral judgements was used to justify such features as un-conditionality, directness, universality, imperativeness, and non-utilitarianism. In contemporary cognitive science, the issue of the 'rational' or 'emotional' nature of moral judgements is related to the issue of the emotional-intuitive and rational-discursive factors in the formation of moral judgements. By analysing the theories of Jonathan Haidt, according to which sense-intuitive moral judgements have cognitive status, and Joshua Green, according to which only rational-discursive judgements have such status, it was shown that the dilemma of reason and feeling is not clarified in cognitive science, but
The research was carried out with a financial support of the Ministry of Science and Higher Education of the Russian Federation (Project "New tendencies of the humanities and social sci -ences development in the context of digitalization and new social problems and threats: interdisciplinary approach", Agreement No. 075-15-2020-798, inside number 13.1902.21.0022).
only reproduced. The lesson that moral philosophy must learn from the discussion of moral judgements in cognitive science is to recognise that neither the validity of moral judgements nor their specific features depend on whether reason or feeling, reasoning or intuition is involved in their formation. These features are entirely determined by the specificity of morality as a cultural phenomenon and are not produced by natural mechanisms.
Keywords: morality, reason, reasoning, emotions, cognition, intuition, moral judgement, neuroethics, cognitive science
For citation: Artemyeva, O.V. "Kognitivnyi status moral'nykh suzhdenii" [The cognitive status of moral judgements], Filosofskii zhurnal / Philosophy Journal, 2023, Vol. 16, No. 2, pp. 62-77. (In Russian)
References
Apressyan, R.G.* "Neiroehtika: vyzovy i nedosmotry" [Neuroethics: Challenges and Omissions], Filosofiya, Zhurnal Vysshei shkoly ehkonomiki, 2020, Vol. IV, No. 1, pp. 13-23. (In Russian)
Apressyan, R.G.* Ehtika [Ethics]. Moscow: Knorus Publ., 2017. 356 pp. (In Russian)
Artemyeva, O.V. Angliiskii ehticheskii intellektualizm XVIII-XIX vv. [English Ethical Intellectu-alism in the Eighteenth and Nineteenth Centuries]. Moscow: IPhRAS Publ., 2011. 196 pp. (In Russian)
Arytyunova, K.R. & Alexandrov, Y.I. Moral' i sub"ektivnyi opyt [Morality and Subjective Experience]. Moscow: IPsRAS Publ., 2019. 188 pp. (In Russian)
Bargh, J.A. "The Four Horsemen of Automaticity: Awareness, Efficiency, Intention, and Control in Social Cognition", Handbook of Social Cognition, Vol. 1, ed. by R.S. Wyer, Jr. and T.K. Srull, 2nd ed. Hillsdale, NJ: Erlbaum, 1994, pp. 1-40.
Bargh, J.A. & Chartrand, T.L. 'The Unbearable Automaticity of Being", American Psychologist, 1999, No. 54 (7), pp. 462-479.
Damasio, A. Decartes'Error: Emotion, Reason, and the Human Brain. London: Penguin Books Ltd., 2005. 352 pp.
Green, J.D. "The Secret Joke of Kant's Soul", Moral Psychology, Vol. 3, ed. by W. Sinott-Arm-strong. Cambridge, MA; London: A Brandford Book; The MIT Press, 2008, pp. 35-79.
Haidt, J. "Moral Psychology and Misunderstanding of Religion", Edge, 21.09.2007 [https:// www.edge.org/conversation/moral-psychology-and-the-misunderstanding-of-religion, accessed on 01.10.2022].
Haidt, J. "The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgement", Psychological Review, 2001, Vol. 108, No. 4, pp. 814-834.
Haidt, J. The Happiness Hypothesis. London: Arrow Books, 2006. 320 pp.
Haidt, J. The Righteous Mind: Why Good People Are Divided by Politics and Religion. New York: Pantheon Books, 2012. 528 pp.
Haidt, J. & Björklund, F. "Social Intuitionists Answer Six Questions About Moral Psychology", Moral Psychology, Vol. 2, ed. by W. Sinnott-Armstrong. Cambridge, MA: MIT Press, 2008, pp. 181-217.
Hauser, M.D. Moral' i razum: kak priroda sozdavala nashe universal'noe chuvstvo dobra i zla [Moral Minds: How Nature Designed Our Universal Sense of Right and Wrong], trans. by T.M. Marjutina. Moscow: Drofa Publ., 2008. 639 pp. (In Russian)
Holtzman, G.S. "A Neuropsychological Challenge to the Sentimentalism/Rationalism Distinction", Syntheses, 2018, Vol. 195, No. 5, pp. 1873-1889.
Hume, D. "Issledovanie o printsipakh morali" [An Enquiry Concerning the Principles of Morals], trans. by V.S. Shvyrev, in: D. Hume, Sochinenia [Works], Vol. 2. Moscow: Mysl' Publ., 1996, pp. 177-314. (In Russian)
Включен в реестр иностранных агентов по решению Минюста России от 09.12.2022.
Levy, N. "Cognitive Scientific Challenges to Morality", Philosophical Psychology, 2006, Vol. 19, No. 5, pp. 567-587.
Price, R. A Review of the Principal Questions in Morals. Oxford: Oxford University Press, 1948. 301 pp.
Prokofyev, A.V. "'Ne upuskai iz vidu intuitsii...' (teoreticheskie problematizatsii intuitivnykh moral'nykh suzhdenii v sovremennoi ehtike)" ['Keep your eye on the intuitions.' (theoretical problematizations of intuitive moral judgments in contemporary ethics)], Filosofskii zhurnal / Philosophy Journal, 2016, Vol. 9, No. 1, pp. 146-163. (In Russian)
Raphael, D.D. "Editor's Preface", in: R. Price, A Review of the Principal Questions in Morals. Oxford: Oxford University Press, 1948, pp. iv-xlvii.
Rini, R.A. "Morality and Cognitive Science", The Internet Encyclopedia of Philosophy [https:// iep.utm.edu/m-cog-scc/, accessed on 12.01.2022].
Schnall, S., Haidt, J., Clore, G.L. & Jordan, A.H. "Disgust as Embodied Moral Judgment", Personality & Social Psychology Bulletin, 2008, No. 34 (8), pp. 1096-1109.
Shai, D., Levav, J. & Avnaim-Pesso, L. "Extraneous Factors in Judicial Decisions", Proceedings of the National Academy of Sciences, 2011, No. 108 (17), pp. 6889-6892.
Sinnott-Armstrong, W. "Introduction", Moral Psychology, Vol. 3, ed. by W. Sinott-Armstrong. Cambridge, MA; London: A Brandford Book; The MIT Press, 2008, pp. xiii-xix.
Thagard, P. "Cognitive Science", The Stanford Encyclopedia of Philosophy, ed. by E.N. Zalta, Winter 2020 [https://plato.stanford.edq/cgi-bin/encyclopedia/archinfo.cgi?entry=cognitive-science, accessed on 09.05.2020].
Tversky, A. & Kahneman, D. "The Framing of Decisions and the Psychology of Choice", Science, 1981, No. 211 (4481), pp. 453-458.
Wilson, E.O. Sociobiology: The New Synthesis. Cambridge, MA: The Belknap Press of Harvard University Press, 1975. 697 pp.
