CC BY
23
Философский журнал 2022. Т. 15. № 4. С. 136-151 УДК 17.0
The Philosophy Journal 2022, Vol. 15, No. 4, pp. 136-151 DOI 10.21146/2072-0726-2022-15-4-136-151
МОРАЛЬ, ПОЛИТИКА, ОБЩЕСТВО Р.С. Платонов
НЕЙРОФИЗИОЛОГИЯ И МОРАЛЬ:
ПРОБЛЕМА МЕЖДИСЦИПЛИНАРНОГО ИССЛЕДОВАНИЯ*
Платонов Роман Сергеевич - кандидат философских наук. Институт философии РАН. Российская Федерация, 109240, г. Москва, ул. Гончарная, д. 12, стр. 1; e-mail: roman-vsegda@mail.ru
Цель статьи - показать основные методологические проблемы нейроэтики на пути ее развития как междисциплинарного направления изучения морали; дать критическое осмысление результатов когнитивной науки (нейрофизиологии) в контексте моральной философии. Для этого проводится анализ современного предметного поля нейроэтических исследований, рассматриваются с точки зрения философской этики основные концепции, обобщающие результаты нейрофизиологических исследований процесса принятия морального решения. Общее разделение предметного поля описывается в терминах: «нейроэтика № 1», являющаяся частью биоэтики, и «нейроэтика № 2», претендующая быть частью философии морали. Объектом исследования данной статьи является нейроэтика № 2. Показывается, что концептуализация процесса принятия морального решения в нейроэтике № 2 повсеместно проводится по схеме «двойных процессов»: интуитивного / быстрого / ассоциативного познания и дискурсивного / медленного / основанного на расчетах познания. Даже в случае отрицания роли интуиции дуальность сохраняется, так как в основании быстрого решения полагаются эмоции, внерациональная часть психики. Показывается, что как на уровне формирования предмета исследования, так и на уровне метода происходит нерефлексивное заимствование понятий и концепций моральной философии, их качественно содержательное значение размывается или подменяется, в результате чего междисциплинарность по большей части лишь симулируется языковым переходом за границы собственной предметной области нейрофизиологии, само же исследование остается в рамках изучения когнитивных процессов без их моральной составляющей. Автор статьи делает вывод, что для развития нейроэтики именно как междисциплинарного направления необходимо добиться синтеза смыслов, выработанных в ходе культурного развития, с данными о биологическом развитии человека. Далее под такой синтетический предмет необходимо скорректировать метод исследования, исключающий подмену понятий философской этики.
* Исследование проведено при финансовой поддержке гранта Министерства науки и высшего образования РФ (проект «Новейшие тенденции развития наук о человеке и обществе в контексте процесса цифровизации и новых социальных проблем и угроз: междисциплинарный подход», соглашение № 075-15-2020-798, внутренний номер 13.1902.21.0022).
© Платонов Р.С., 2022
Ключевые слова: мораль, этика, нейроэтика, нейрофилософия, нейрофизиология, когнитивные науки, моральная философия
Для цитирования: Платонов Р.С. Нейрофизиология и мораль: проблема междисциплинарного исследования // Философский журнал / Philosophy Journal. 2022. Т. 15. № 4. С. 136-151.
Развитие технологий изучения нервной системы человека и в первую очередь головного мозга уже к концу ХХ в. вдохновили некоторых исследователей обратиться к нейрофизиологии с целью получить естественно-научную опору в ответе на философские вопросы (о природе сознания, свободной воле и проч.). В самом общем смысле все попытки обрести такую опору стали называться нейрофилософией1. По сути, это философствование с привлечением данных нейрофизиологии в качестве аргументов или способа описания предмета, принимающее по умолчанию сциентистские мировоззренческие установки2. Как отмечает первооткрыватель этого направления Патриция Черчленд, если сначала оно воспринималось крайне скептически, так что философские факультеты некоторых университетов получили прозвища «антимозговые» (апйЬгат), то уже в начале XXI в. курсы по нейрофилосо-фии стали повсеместно востребованы3.
В это же время начали активно развиваться нейрофизиологические исследования поступка и принятия решения в аспекте их моральности4 (как следствие изучения биологических основ социального поведения). Эта область получила название нейроэтики. Первая посвященная ей научная конференция прошла в 2002 г. Джуди Иллес считает, что уже тогда нейроэтика была представлена как самостоятельная дисциплина, хотя по ее же описаниям видно, насколько значителен был разброс тем - от проблемы Я и ответственности до теории образования и этики проведения научных экспериментов, применения их результатов (генная терапия и проч.)5. Собственно, с последним значением, т.е. как область биоэтики, термин «нейроэтика» встречался и ранее, именно его выделял на той конференции Вильям Са-фир6, которого часто упоминают как первого, кто дал нейроэтике определение. В том же 2002 г. Адина Роскис описала эту новую дисциплину как дву-
1 Churchland P.S. Neurophilosophy: Toward A Unified Science of the Mind-Brain. Cambridge, 1986. P. X-XI.
2 Татьяна Сидорова образно описывает эту ситуацию, как «натурализм, выгнанный в дверь, возвращается в окно» (Сидорова Т.А. Нейроэтика между этикой и моралью // Идеи и идеалы. 2018. № 2. Т. 1. С. 87).
3 Churchland P.S. Brain-Wise: studies in neurophilosophy. Cambridge, 2002. Р. VI.
4 Материалы круглого стола «Актуальные проблемы нейроэтики» // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 136; Бажанов В.А., Шабалкина Е.Е. Проблема поиска нейрофизиологических оснований морали: нейроэтика // Философские науки. 2017. № 6. С. 65.
5 Illes J. Neuroethics in a New Era of Neuroimaging // American Journal of Neuroradiology. 2003. Vol. 24. No. 9. Р. 1739-1741. В дальнейшем это плохо систематизируемое разнообразие так и осталось особенностью нейроэтики (см.: Levy N. Neuroethics: Challenges for the 21st Century. Cambridge, 2007; Сидорова Т.А., Сандакова Л.Б. Оппозиции философских программ в решении проблем нейроэтики // Вестник ТГУ. Философия. Социология. Политология. 2020. № 53. С. 86).
6 Safire W. Visions for a new field of «Neuroethics» // Neuroethics: Mapping the Field. Conference Proceedings (May 13-14, 2002, San Francisco, California). N.Y., 2002. Р. 3-9.
составную - одна часть которой относится к биоэтике, вторая же «действительно новая» и представляет собой «этические следствия нейронауки» (ethical implications of neuroscience)7. В результате по сей день сохраняется двойственность в описании специфики нейроэтики как «изучения этических стандартов исследований мозга человека», с одной стороны, и как «изучения мозговой деятельности в качестве основы осуществления этических способностей»8, с другой. Хотя очевидно, что столь сильное различие собственного предмета в первом и втором случае, скорее, указывает на наличие двух отдельных дисциплин. Та же Роскис признает, что эти части могут рассматриваться отдельно друг от друга, а вторая еще и требует «интеграции нейробиологических знаний с этической и социальной мыслью», т.е. в отличие от первой является междисциплинарной по предмету и методу. На сегодня степень такой интеграции и в целом разработанность второй части характеризуется В.А. Бажановым и Е.Е. Шабалкиной как «предпа-радигмальная», когда еще не создано «целостной, систематической теории с общепринятыми базисными принципами и устоявшимися критериями анализа и интерпретации результатов измерительных процедур»9. Это проявляется и в «неопределенной научной принадлежности работ, посвященных нейроэтике», как пишет об этом Ю.Ю. Петрунин, анализируя статистику публикаций: философия составляет 27%, медицина 13%, экономика 7%, биология 6%, психология 5% и т.д.10
Отметим, что «нейроэтика 1»11 более системная и в этом смысле более состоявшаяся, так как речь идет о специализации в рамках биоэтики12 по функционально давно определенным задачам моральной регуляции научных экспериментов как одного из видов деятельности и относится к практической этике. Тогда как во втором значении смысл «этика» выражает направленность на моральный поступок или моральное решение как предмет исследования и относится к теоретической этике, философии морали. При этом, также в отличие от первого варианта, совсем не очевидно, изучается ли моральная составляющая поступка не косвенным образом, так как непосредственным предметом здесь является работа мозга. Тем более речь не идет о построении этической концепции13, хотя и в этом направлении уже есть движение с далеко идущими
7 Roskies A. Neuroethics for the New Millennium // Neuron. 2002. Vol. 35. No. 1. Р. 21-23.
8 Материалы круглого стола «Актуальные проблемы нейроэтики». С. 135; Дубровский Д.И. Нейроэтика: некоторые актуальные философско-методологические вопросы // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 24; Апресян Р.Г. Нейроэтика: вызовы и недосмотры // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 14.
9 Бажанов В.А., Шабалкина Е.Е. Проблема поиска нейрофизиологических оснований морали. С. 65.
10 Петрунин Ю.Ю. Проблема демаркации в российской нейроэтике: наукометрический анализ // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 94-95. Более подробно о сложностях формирования нейроэтики и ее развитии на примере обзора тематической литературы см.: Федорова М.В. Нейроэтика «тогда и сейчас»: проблемы и перспективы // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 171-199.
11 Для удобства изложения такое наименование взято нами из указанной статьи Петрунина.
12 Сидорова Т.А. Нейроэтика между этикой и моралью. С. 79-82; Иллес Д., Бёрд С. Нейроэтика: этика нейронауки в современном контексте // Человек. 2017. № 6. С. 64-79.
13 Теоретические экспликации Джошуа Грина и Марка Хаузера (самые целостные на данный момент) справедливо можно называть «исследовательскими программами», как это делают Бажанов и Шабалкина, но не полноценными теориями морали.
последствиями, как, например, «разоблачение морали»14, «легитимация когнитивного усовершенствования»15.
Безусловно, это не говорит о том, что «нейроэтика 2» является бесперспективной или изначально ущербной; ее, скажем так, недооформленность -следствие ее молодости. Станет ли она отдельным междисциплинарным направлением или будет только поводом для псевдонаучных и околофилософских моральных теорий или же действительно приведет к созданию целостной концепции морали, которую уже без оговорок можно будет назвать нейроэтикой наряду с коммуникативной этикой, этикой добродетели, утилитаристкой этикой и т.д.? Все это покажет время, и говорить об этом пока рано (в общем рано говорить что-то определенное и о нейрофилософии в целом). Возможно даже термин «нейроэтика» пока справедливо оставить только за первым значением - методологически, тематически и дискурсивно ясным и находящимся, как говорится, на своем месте. Тогда как нейрофизиологические исследования совершения морального поступка и принятия морального решения находятся еще в первую очередь в рамках нейрофизиологии. Именно междисциплинарность таких исследований, т.е. их выход за пределы нейрофизиологии в область собственно теории морали, на сегодня вызывает больше всего вопросов. Р.Г. Апресян называет их «вызовами и недосмотрами», когда «ученые, имея дело с антропологическими данными, берутся говорить о морали, не придавая значения тому, что на деле спонтанно используют обыденные представления о "морали", не принимают во внимание, что эти данные характеризуют важные антропологические предпосылки, но не социально-коммуникативные, нормативные и духовные основы морали, не учитывают внутреннюю разнородность морали, ее функциональную специфику, а также то, что на уровне поведения она проявляется главным образом в характере целеполагания и ценностного обоснования решений»16. Подобные «недосмотры» характерны вообще для сциентистских подходов к изучению морали (например, социобиологии), и их источник также достаточно ясно указан Апресяном: «исследования такого рода нуждаются в уточнениях, касающихся морально-философских установок самих исследовательских программ»17. Заметим только, что сама ситуация такого уточнения является следствием междисциплинарности и в целом выражает проблему объединения различных научных областей - их методов и предметов исследования, в том числе используемых понятий, а - шире -и дискурса, т.е. языка исследований. В данной статье мы будем отталкиваться в первую очередь от проблемы языкового перехода.
В случае нейроэтики № 2 языковой переход вызван необходимостью перенести концепции, выработанные в рамках развития культуры, в пространство естественно-научного метода, по сути, синтезировать изучаемый предмет - теперь это не только работа мозга и когнитивная деятельность, но и деятельность, определяющая, что есть хорошо, а что плохо, или сама
14 Прокофьев А. Эволюционно-психологическое разоблачение моральных принципов как этическая проблема // Вопросы философии. 2022. № 3. С. 23-33.
15 Сидорова Т.А. Нейроэтика между этикой и моралью. С. 89. Апологетом такого усовершенствования (с помощью психоактивных препаратов) выступает сегодня Томас Мет-цингер (см.: Метцингер Т. Наука о мозге и миф о своем Я. Тоннель эго. М., 2017).
16 Апресян Р.Г. Нейроэтика: вызовы и недосмотры. С. 20-21.
17 Апресян Р.Г. Моральная философия перед вызовами науки. Послесловие к монографии // Арутюнова К.Р., Александров Ю.И. Мораль и субъективный опыт. М., 2019. С. 148.
определяемая как хорошая или плохая в моральном смысле18. Каким образом осуществляется это синтезирование предмета как физического и культурного и в какой степени ему соответствует метод? Чтобы объектное поле было репрезентативным, мы обратились к работам, представленным в новой монографии наших коллег из Института психологии РАН Ю.И. Александрова и К.Р. Арутюновой «Мораль и субъективный опыт»19. Насколько можно судить по количеству ссылок и цитирований, наиболее влиятельным в нейроэтике № 2 является подход Джошуа Грина, хотя его влияние все же не обеспечивает методологического единообразия и даже целостности языка описания исследования и формулирования задач.
Ключевая идея Грина такова - «деонтологические суждения находятся под влиянием эмоциональных реакций и деонтологическая философия не основывается на моральном рассуждении, - это в значительной степени упражнение в нравственной рационализации»20. Грин странным образом подменяет рациональную экспликацию акта выбора (еще и субъективную -когда испытуемый постфактум дает объяснение своему выбору) понятием «деонтологическое суждение». Тем самым он как бы обосновывает выход за пределы исследования когнитивных способностей в область моральной теории. Однако это до скандальности откровенно риторический прием подмены понятий и не более того. Понятие долга не предполагает субъективного мотива, более того, рациональная процедура, предложенная Кантом, - определение должного / правильного поступка посредством категорического императива (в нескольких дополняющих друг друга формулировках) - это именно процедура десубъективизации морального суждения и поступка, т.е. его универсализация21, которая происходит до совершения поступка и предполагает именно императивную функцию. То есть не индивид делает выбор, а потом объясняет его, а универсально рациональными процедурами определяется то, что индивид должен выбрать. В этом суть деонтологии -в императивно предъявленном рационально универсализированном решении, функция которого в том, чтобы знать, как правильно поступить. Собственно, только поступок, определенный таким знанием, и признается моральным. Тот факт, что человек, даже зная, как правильно, все равно может выбрать неправильное, был отмечен еще Аристотелем в противопоставлении,
18 Подчеркнем, что эта проблема не снимается возможным включением нейроэтики в спектр «культурной нейронауки», которая предполагает устранение «противопоставления между природой и культурой» (Фаликман М.В., Коул M. «Культурная революция» в когнитивной науке: от нейронной пластичности до генетических механизмов приобретения культурного опыта // Культурно-историческая психология. 2014. Т. 10. № 3. C. 7), так как такое устранение обеспечивается взаимовлиянием развития мозга и культуры. В нашем случае, во-первых, речь идет не о генезисе культурных форм / понятий, а об их содержании, во-вторых - социокультурная трактовка морали не единственная в моральной философии, и представление о междисциплинарности нейроэтики как синтезе социального и биологического детерминизма не выведет ее на уровень моральной теории как таковой, а только адаптирует к социокультурной трактовке.
19 Арутюнова К.Р., Александров Ю.И. Мораль и субъективный опыт. М., 2019.
20 Greene J. The secret joke of Kant's soul // Moral Psychology. Vol. 3: The Neuroscience of Morality: Emotion, Brain Disorders, and Development. Cambridge, 2007. P. 36.
21 См. подробнее о деонтологии: Апресян Р.Г. Кант, тест на универсальность и критерий морали // Философские науки. 2018. № 11. С. 70-85; Он же. Две версии принципа универсализации в моральной философии И. Канта // Вестник Томского университета. Философия. Социология. Политология. 2018. № 6. С. 104-111.
как это принято называть, «рационализму Сократа», т.е. утверждению, что когда человек знает, как правильно, то не может поступить иначе, будучи разумным существом. Аристотель же указывает на наличие внерациональ-ной составляющей морального выбора. Кантовский вариант этики также не предполагает, что человек обязательно выберет должное. Так что обнаруживаемая Грином глубинная внерациональная мотивация совершенно никак не может быть даже намеком на основание критики деонтологии. Но необоснованное заимствование терминов создает иллюзию уже заранее данного синтетического предмета исследования - морального выбора, тогда как исследуются лишь когнитивные процессы, посредством которых этот выбор совершается, а рефлексия испытуемых выдается за деонтологическую процедуру универсализации.
Нет, Грин, конечно, не настолько наивен и спешит предупредить упреки в «false by définition». Но делает он это не менее странным образом: он утверждает, что «философы не обязательно знают, что такое деонтология на самом деле», это же, по его мнению, относится и к консеквенциализму. Увы, основано это экстравагантное заявление на банальном натуралистическом редукционизме. «Я считаю, - пишет Грин, - что консеквенциалистские и деонтологические взгляды философии не столько философские изобретения, сколько проявления в философии двух диссоциативных психологических паттернов, которые были частью человеческого репертуара на протяжении тысяч лет»22. Другими словами, не мы думаем мозгом, а мозг думает нами. Таким образом, деонтология лишается собственного содержания, каким его можно найти в работах Канта, и должна подвергнуться своеобразной натуралистической деконструкции. Что ж, никто не запрещает этого делать, но в этом случае чисто методологически нейроэтика № 2 ограничивает свои перспективы исключительно созданием очередной натуралистической моральной теории, теряя какую-либо эвристическую ценность для прочих теорий и в этом смысле для философии морали в целом. Если вы хотите сказать что-то о деонтологии, как и о любой моральной теории, то надо говорить о ней такой, какая она есть, а не сочинять новую.
Стоит заметить, что, кроме деонтологии и консеквенциализма, никакие моральные концепции в поле зрения Грина не попадают, что указывает на особенность его образования, явно воспринявшего моральную проблематику в рамках интерпретации аналитической философии. Такое косвенное (через работы по нейроэтике № 2) влияние прослеживается даже в работах отечественных исследователей, когда включение интуиции как когнитивной способности наряду с рассудком в процесс морального решения представляется достижением «современных теоретических подходов и исследований в области психологии морали»23, хотя этому подходу уже несколько столетий24.
Однако сам вариант нейроэтики № 2 с выделением интуиции можно рассматривать как альтернативу концептуализации Грина, который за «познавательное действие» принимает лишь рассудочное, т.е. дискурсивно
22 Greene J. The secret joke of Kant's soul. Р. 37.
23 Арутюнова К.Р., Созинова И.М., Александров Ю.И. Мозговые основы моральной оценки действий // Современная зарубежная психология. 2020. Т. 9. № 2. С. 69.
24 См. подробнее об интуитивизме: Артемьева О.В. Интуитивизм в этике (из истории английского этического интеллектуализма Нового времени) // Этическая мысль. Т. 10. М., 2010. С. 90-113.
раскрытое, противопоставляя ему скрытое как эмоциональное25. Наиболее влиятельные авторы, представляющие эту альтернативу, Джонатан Хайдт (интуиционизм) и Марк Хаузер (универсальная моральная грамматика), среди отечественных исследователей концепцию интуиции разрабатывают Арутюнова и Александров. Но давая возможность большего уточнения, нюансирования результатов нейрофизиологических исследований, этот подход также не устраняет проблемы неопределенности предмета исследования: по-прежнему речь идет о физиологии процесса принятия решения, а не собственно о моральности решения (например, Арутюнова и Александров заменяют понятие «моральное суждение» на «моральная оценка», что удачно расширяет предметное поле, но не более того). Также ни Хайдт, ни Хаузер не занимаются деконструкцией моральных теорий, что, безусловно, выгодно отличает их от Грина. В целом же все они так или иначе остаются в рамках теории двойных процессов, истоки которой восходят к Улья-му Джеймсу и его делению познавательных процессов на «ассоциативные» и «истинные», которое в свою очередь является отголоском идеи Аристотеля о «пассивном» и «активном» уме. Наиболее современный вариант теории двойных процессов принадлежит Даниэлю Канеману, который как раз формулирует разделение «системы 1» (интуитивного, быстрого, ассоциативного познания) и «системы 2» (дискурсивного, медленного, основанного на расчетах познания), именно ко второй системе, например, относится свобода выбора26.
«Социально-интуиционистская модель» (the social intuitionist model) Хайдта рассматривает «моральное обоснование» (moral reasoning) как рефлективное (ex post facto process), следующее уже за интуитивной моральной оценкой как ее рационализация и интерсубъективация в социуме, что и порождает моральные суждения (judgments), в последнем он схож с Грином. Но из того факта, что роль морального обоснования (reasoning process) слишком преувеличена, Хайдт делает вывод, что ключевую роль в моральной оценке играет интуиция27. Это в значительной мере сближает его позицию с интуитивизмом XVIII в., и по этой же причине делает ее совершенно бессмысленной с точки зрения деонтологии, где, как уже говорилось, рациональные процедуры представляют собой логически самодовлеющий инструмент / способ обнаружения морально правильного.
Хаузер, в свою очередь, разрабатывает более амбициозный проект -«универсальной моральной грамматики»28, декларирует свою приверженность идеям Ноама Хомского, называя себя «моральным филологом»29. Его работы нельзя отнести именно к направлению нейроэтики, их профиль шире - психология морали, и в построение своей системы он включает вообще
25 Бажанов В.А., Шабалкина Е.Е. Проблема поиска нейрофизиологических оснований морали. С. 69.
26 Канеман Д. Думай медленно, решай быстро. М., 2021. С. 57-94. В отличие от теории морали подобный подход удачно реализован в экономике, за что, собственно, Канеман получил в 2002 г. Нобелевскую премию, разработав теорию «принятия решения в условиях неопределенности».
27 Haidt J. The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment // Psychological Review. 2001. Vol. 108. No. 4. P. 814-834.
28 Хаузер М. Мораль и разум. Как природа создавала наше универсальное чувство добра и зла. М., 2008. С. 88-101.
29 Там же. С. 29, 80.
все подходящие данные различных дисциплин30. Но мы не могли его не упомянуть, учитывая его участие в работах, дополняющих изыскания в области нейроэтики31, а также то, что именно «универсальную моральную грамматику» часто называют альтернативой подходу Грина32. В нашем случае пример Хаузера, как и Хайдта, интересен тем, что показывает, как ней-роэтика теряет позиции самостоятельной дисциплины и оказывается лишь набором нейрофизиологических исследований процесса принятия морального решения, используемых для аргументации в рамках самостоятельных моральных теорий. В этом смысле они оба составляют действительную альтернативу идеям Грина, аккумулированным полностью в рамках нейропсихологии.
Однако, исключив наработки Хаузера как тематически более широкие, мы увидим и общую проблему, скажем так, чистой нейроэтики № 2 - ее несоответствие требованию к знанию о морали, которое, в частности, формулирует Апресян. А именно, «валидность знания о моральных суждениях зависит от того, в какой мере оно специфицировано по сравнению со знанием о других ценностных суждениях и о суждениях вообще» 33. В исследованиях же Грина и в исследованиях Хайдта мы можем убрать слово «моральное» - и ничего не изменится ни в процессе исследования, ни в его выводах (к сожалению, подобное обнаружилось у всех авторов, рассмотренных нами)». Чем моральная оценка будет отличаться, например, от эстетической, вообще от «суждений вкуса»? Не окажется ли понимание морали, оставленное один на один с нейрофизиологическими исследованиями, обреченным на какой-то аналог эмотивизма Альфреда Айера?
Относительно предмета исследования на сегодня очевидно, что в ней-роэтике № 2 он не проблематизируется как синтетический (междисциплинарный), что приводит либо к натуралистическому редукционизму, либо к размыванию, упущению его собственно морального содержания. Обобщение результатов таких исследований в зависимости от определения понятия «когнитивного» ведет к превращению нейроэтики № 2 либо в очередную натуралистическую теорию, либо в дополнение к уже существующим моральным теориям. В обоих случаях она теряет свое возможное универсальное значение для моральной философии в целом.
Далее, обратившись к методологии нейроэтики, обнаруживаем, что ее ключевая особенность - в том, что когнитивные процессы исследуются в количественных параметрах (быстрые, медленные; локализация в той или иной области мозга), тогда как моральные понятия (благо, добро, справедливость, счастье, альтруизм, милосердие, прощение и т.д.) являются исключительно качественными. Фактически все они следуют уже упомянутой схеме двойных процессов (системе 1 и системе 2). Даже если не принимать
30 Также мы хотели бы избежать ошибочных ссылок на его методологию, учитывая его увольнение из Гарварда в 2011, связанное с некорректностью некоторых его исследований, так как у нас нет возможности получить полноценные сведения об этом.
31 Arutyunova K.R., Alexandrov Yu.I., Hauser M.D. Sociocultural influences on moral judgments: East-West, male-female and young-old // Frontiers in Psychology. 2016. Vol. 7. Article ID 1334. URL: https://www.frontiersin.org/articles/10.3389/fpsyg.2016.01334/full (дата обращения: 10.08.2022).
32 Бажанов В.А., Шабалкина Е.Е. Проблема поиска нейрофизиологических оснований морали. С. 69.
33 Апресян Р.Г. Моральная философия перед вызовами науки. С. 148.
во внимание критику «натуралистической ошибки» Джорджа Мура в определении понятия «благо» через внешние, так или иначе количественно измеряемые, характеристики, очевидно, что содержание моральных понятий требует ответа на вопрос «что?», а не «как?». То есть не « как мы понимаем, что нечто правильно?», а «что есть правильное?». Это вопрос о ценностях, соответственно, и о методе обнаружения ценностей. Опять же нейроэтики не первые, кто столкнулся с этой проблемой. Аристотелю понадобилась целевая причина в его методологии, чтобы иметь возможность говорить об этом предельном ценностном что. Канту нужно было провозгласить постулаты практического разума (а именно о существовании бога)34, чтобы разум мог задать рассудку ценностную парадигму. Максимально близкий к нейроэтике способ решения проблемы содержания моральных понятий -именно как перевод количественных показателей в качественные - был конституирующей задачей этики утилитаризма и даже получил свое название благодаря Иеремии Бентаму - «моральная арифметика», однако разработать ее так и не удалось, она осталась в истории лишь упованием на всесилие рассудка35. В нейрофизиологии наблюдаются отдельные попытки рефлексии по поводу метода, но они сосредотачиваются на обсуждении расхождений в концептуализации морали на основе получаемых данных, в первую очередь в понимании морального поступка и принятия морального решения36. В основном же все работают так, будто моральная арифметика уже создана. Собственно поиск коррелятов мозговой активности и морального содержания и принимается ими совершенно некритично за такую арифметику.
Наряду с локализацией областей мозга, коррелятивных процессу принятия решения, одним из основных параметров описания морального решения в указанных исследованиях является скорость принятия решения, на основе которого и создается разделение процесса на два типа. При этом для именования типов не используется сама характеристика скорости (например, быстрые и медленные решения), а заимствуется терминология моральной философии и гносеологии. Так решения «системы 1» (принимаемые быстро) именуются деонтологическими или интуитивными, а «системы 2» (занимающие несколько большее время) - утилитарными или рациональными. Причина такого именования в том, что длительность принятия решения может быть представлена как делиберация, размышление, рассуждение37.
34 В аспекте целостности представления о морали этот постулат играет ту же роль, что и целевая причина Аристотеля.
35 Подробнее см.: Платонов Р.С. Моральная универсальность в этике классического утилитаризма (И. Бентам, Дж.С. Милль) // Антиномии. 2020. Т. 20. № 4. С. 45-64.
36 Marazziti D. et al. The neurobiology of moral sense: Facts or hypotheses? // Annals of General Psychiatry. 2013. Vol. 12. Article ID 6. URL: https://annals-general-psychiatry.biomedcentral.-com/articles/10.1186/1744-859X-12-6 (дата обращения: 08.08.2022); Kahane G. et al. The neural basis of intuitive and counterintuitive moral judgment // Social Cognitive and Affective Neuroscience. 2012. Vol. 7. No. 4. P. 393-402; Young L., Dungan J. Where in the brain is morality? Everywhere and maybe Nowhere // Social Neuroscience. 2012. Vol. 7. No. 1. P. 1-10.
37 Арутюнова К.Р., Созинова И.М., Александров Ю.И. Мозговые основы моральной оценки действий. С. 68-81; Arutyunova K.R., Alexandrov Yu.I., Hauser M.D. Sociocultural influences on moral judgments: East-West, male-female and young-old // Frontiers in Psychology. 2016. Vol. 7. Article ID 1334. URL: https://www.frontiersin.org/articles/10.3389/fpsyg.2016.01334/ full (дата обращения: 10.08.2022); Everett J.A.C., Pizarro D.A., Crockett M.J. Inference of Trustworthiness from Intuitive Moral Judgments // Journal of Experimental Psychology: General. 2016. Vol. 145. No. 6. P. 772-787; Park G. et al. At the heart of morality lies neuro-
Как следствие, нейрофизиологами учитывается именно количественный показатель морального выбора (скорость). Однако в моральной философии указанные понятия характеризуют моральный выбор качественно - отличие утилитарных и деонтологических решений определено не их интуитивностью или делиберацией, а мотивами и целями, что и образует ценностную составляющую решения. Таким образом качественная характеристика используемых моральных понятий выпадает из внимания исследований нейрофизиологов, однако это остается скрыто за омонимией терминов. Мы вынуждены оставить за рамками данной статьи подробный разбор всех несистемных / неряшливых употреблений философских терминов в работах нейрофизиологов, иначе объем текста существенно увеличился бы. При этом дискурсивные заимствования не влияют на результаты самих исследований, так как в рамках их методологии остаются лишь маркерами наблюдаемых процессов. Даже в том случае, когда делается вывод об эффективности или неэффективности «моральных решений», речь не заходит непосредственно о конкретном содержании каких-либо моральных норм, а только о процессе принятия решения. В итоге методология нейроэтики не развивается как междисциплинарная и функционирует за счет опрощения моральных понятий. Именно поэтому нейроэтика № 2 тяготеет к редукционизму - моральные понятия должны лишиться своего содержания и наполниться новым натуралистическим. Возможно, это самый легкий путь развития нейроэтики38.
Очевидно, что нейроэтика еще не состоялась как междисциплинарное направление в первую очередь из-за ее неотрефлексированного перехода между языками нейрофизиологии и философии морали, который скрывает за собой недоопределенность предмета исследования и, соответственно, затрудняет адаптацию метода исследования под такой предмет. Для того чтобы нейроэтика стала значимой для философии морали в целом, ей необходимо избавиться от соблазна натуралистического редукционизма, а также воспринимать этические понятия в их собственном качественно содержательном значении. Безусловно, это не может произойти само собой и вне
visceral integration: lower cardiac vagal tone predicts utilitarian moral judgment // Social Cognitive and Affective Neuroscience. 2016. Vol. 11. No. 10. P. 1588-1596; Duke А.А., Begue L. The drunk utilitarian: blood alcohol concentration predicts utilitarian responses in moral dilemmas // Cognition. 2015. Vol. 134. P. 121-127; Friesdorf R., Conway P., Gawronski B. Gender differences in responses to moral dilemmas: a process dissociation analysis // Personality and Social Psychology Bulletin. 2015. Vol. 41. No. 5. P. 696-713; Van Bavel J.J., FeldmanHall O., Mende-Siedlecki P. The neuroscience of moral cognition: From dual processes to dynamic systems // Current Opinion in Psychology. 2015. Vol. 6. P. 167-172; Conway P., Gawronski B. De-ontological and utilitarian inclinations in moral decision making: A process dissociation approach // Journal of Personality and Social Psychology. 2013. Vol. 104. No. 2. P. 216-235; Pascual L., Rodrigues P., Gallardo-Pujol D. How does morality work in the brain? A functional and structural perspective of moral behavior // Frontiers in Integrative Neuroscience. 2013. Vol. 7. Article ID 65. URL: https://www.frontiersin.org/articles/10.3389/fnint.2013.00065/full (дата обращения: 10.08.2022); Kuo W.J. et al. Intuition and Deliberation: Two Systems for Strategizing in the Brain // Science. 2009. Vol. 324. P. 519-522; Funk C.M., Gazzaniga M.S. The functional brain architecture of human morality // Current opinion in neurobiology. 2009. Vol. 19. No. 6. P. 678-681; Greene J.D. et al. Cognitive load selectively interferes with utilitarian moral judgment // Cognition. 2008. Vol. 107. P. 1144-1154; Sunstein C.R. Moral heuristics // Behavioral and brain sciences. 2005. Vol. 28. No. 4. P. 531-542.
38 Хинаяна (малый путь, малая колесница), нацеленная лишь на совершенствование себя, как сказали бы буддисты, чей подход к этике, кстати, вообще не существует в мире нейрофизиологов.
тесного сотрудничества исследователей естественно-научного и гуманитарного направления, так как сама задача изучения нейрофизиологических основ процесса принятия морального решения и осуществления морального действия уже подразумевает синтезирование смыслов, выработанных в ходе культурного развития, с данными о биологическом развитии человека. Мы надеемся, что наша работа в какой-то степени будет способствовать формированию междисциплинарной методологии нейроэтики, если таковая вообще возможна.
Список литературы
Апресян Р.Г. Две версии принципа универсализации в моральной философии И. Канта // Вестник Томского университета. Философия. Социология. Политология. 2018. № 46. С. 104-111.
Апресян Р.Г. Кант, тест на универсальность и критерий морали // Философские науки. 2018. № 11. С. 70-85.
Апресян Р.Г. Моральная философия перед вызовами науки. Послесловие к монографии // Арутюнова К.Р., Александров Ю.И. Мораль и субъективный опыт. М.: Ин-т психологии РАН, 2019. С. 140-151. Апресян Р.Г. Нейроэтика: вызовы и недосмотры // Философия. Журнал Высшей школы
экономики. 2020. Т. 4. № 1. С. 13-23. Артемьева О.В. Интуитивизм в этике (из истории английского этического интеллектуализма Нового времени) // Этическая мысль / Отв. ред. А.А. Гусейнов. Т. 10. М.: ИФ РАН, 2010. С. 90-113. Арутюнова К.Р., Александров Ю.И. Мораль и субъективный опыт. М.: Ин-т психологии РАН, 2019. 186 с.
Арутюнова К.Р., Созинова И.М., Александров Ю.И. Мозговые основы моральной оценки
действий // Современная зарубежная психология. 2020. Т. 9. № 2. С. 68-81. Бажанов В.А., Шабалкина Е.Е. Проблема поиска нейрофизиологических оснований морали: нейроэтика // Философские науки. 2017. № 6. С. 64-79. Дубровский Д.И. Нейроэтика: некоторые актуальные философско-методологические вопросы // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 24-41. Иллес Д., Бёрд С. Нейроэтика: этика нейронауки в современном контексте / Пер. с англ.
П.Д. Тищенко // Человек. 2017. № 6. С. 64-79. Канеман Д. Думай медленно, решай быстро / Пер. с англ. А. Андреева, Ю. Деглина,
Н. Парфенова. М.: АСТ, 2021. 653 с. Материалы круглого стола «Актуальные проблемы нейроэтики» // Философия. Журнал
Высшей школы экономики. 2020. Т. 4. № 1. С. 135-167. Метцингер Т. Наука о мозге и миф о своем Я. Тоннель эго / Пер. с англ. Г. Соловьевой. М.: АСТ, 2017. 651 с.
Петрунин Ю.Ю. Проблема демаркации в российской нейроэтике: наукометрический анализ // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 85-107. Платонов Р.С. Моральная универсальность в этике классического утилитаризма (И. Бен-
там, Дж.С. Милль) // Антиномии. 2020. Т. 20. № 4. С. 45-64. Прокофьев А.В. Эволюционно-психологическое разоблачение моральных принципов как
этическая проблема // Вопросы философии. 2022. № 3. С. 23-33. Сидорова Т.А. Нейроэтика между этикой и моралью // Идеи и идеалы. 2018. № 2. Т. 1. С. 75-99.
Сидорова Т.А., Сандакова Л.Б. Оппозиции философских программ в решении проблем нейроэтики // Вестник ТГУ. Философия. Социология. Политология. 2020. № 53. С. 85-94.
Фаликман М.В., Коул M. «Культурная революция» в когнитивной науке: от нейронной пластичности до генетических механизмов приобретения культурного опыта // Культурно-историческая психология. 2014. Т. 10. № 3. C. 4-18.
Федорова М.В. Нейроэтика «тогда и сейчас»: проблемы и перспективы // Философия.
Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 171-199. Хаузер М. Мораль и разум. Как природа создавала наше универсальное чувство добра и зла / Пер. с англ. Т.М. Марютиной; под ред. Ю.И. Александрова. М.: Дрофа, 2008. 639 с.
Arutyunova K.R., Alexandrov Yu.I., Hauser M.D. Sociocultural influences on moral judgments: East-West, male-female and young-old // Frontiers in Psychology. 2016. Vol. 7. Article ID 1334. URL: https://www.frontiersin.org/articles/10.3389/fpsyg.2016.01334/full (дата обращения: 10.08.2022).
Churchland P.S. Brain-Wise: studies in neurophilosophy. Cambridge: MIT Press, 2002. 471 р. Churchland P.S. Neurophilosophy: Toward A Unified Science of the Mind-Brain. Cambridge:
MIT Press, 1986. 546 р. Conway P., Gawronski B. Deontological and utilitarian inclinations in moral decision making: A process dissociation approach // Journal of Personality and Social Psychology. 2013. Vol. 104. No. 2. P. 216-235. Duke А.А., Begue L. The drunk utilitarian: blood alcohol concentration predicts utilitarian responses in moral dilemmas // Cognition. 2015. Vol. 134. P. 121-127. Everett J.A.C., Pizarro D.A., Crockett M.J. Inference of Trustworthiness from Intuitive Moral Judgments // Journal of Experimental Psychology: General. 2016. Vol. 145. No. 6. P. 772-787.
Friesdorf R., Conway P., Gawronski B. Gender differences in responses to moral dilemmas: a process dissociation analysis // Personality and Social Psychology Bulletin. 2015. Vol. 41. No. 5. P. 696-713. Funk C.M., Gazzaniga M.S. The functional brain architecture of human morality // Current
opinion in neurobiology. 2009. Vol. 19. No. 6. P. 678-681. Greene J. The secret joke of Kant's soul // Moral Psychology. Vol. 3: The Neuroscience of Morality: Emotion, Brain Disorders, and Development / Ed. by W. Sinnott-Armstrong. Cambridge: MIT Press, 2007. P. 35-79. Greene J.D. et al. Cognitive load selectively interferes with utilitarian moral judgment // Cognition. 2008. Vol. 107. P. 1144-1154. Haidt J. The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral
Judgment // Psychological Review. 2001. Vol. 108. No. 4. P. 814-834. Illes J. Neuroethics in a New Era of Neuroimaging // American Journal of Neuroradiology.
2003. Vol. 24. No. 9. Р. 1739-1741. Kahane G. et al. The neural basis of intuitive and counterintuitive moral judgment // Social
Cognitive and Affective Neuroscience. 2012. Vol. 7. No. 4. P. 393-402. Kuo W.J. et al. Intuition and Deliberation: Two Systems for Strategizing in the Brain // Science.
2009. Vol. 324. P. 519-522. Levy N. Neuroethics: Challenges for the 21st Century. Cambridge: Cambridge University Press, 2007. 346 р.
Marazziti D. et al. The neurobiology of moral sense: Facts or hypotheses? // Annals of General Psychiatry. 2013. Vol. 12. Article ID 6. URL: https://annals-general-psychiatry.biomedcen-tral.com/articles/10.1186/1744-859X-12-6 (дата обращения: 08.08.2022). Park G. et al. At the heart of morality lies neuro-visceral integration: lower cardiac vagal tone predicts utilitarian moral judgment // Social Cognitive and Affective Neuroscience. 2016. Vol. 11. No. 10. P. 1588-1596. Pascual L., Rodrigues P., Gallardo-Pujol D. How does morality work in the brain? A functional and structural perspective of moral behavior // Frontiers in Integrative Neuroscience. 2013. Vol. 7. Article ID 65. URL: https://www.frontiersin.org/articles/10.3389/fnint.2013.00065/ full (дата обращения: 10.08.2022). Roskies A. Neuroethics for the New Millennium // Neuron. 2002. Vol. 35. No. 1. Р. 21-23. Safire W. Visions for a new field of «Neuroethics» // Neuroethics: Mapping the Field. Conference Proceedings (May 13-14, 2002, San Francisco, California) / Ed. by S.J. Marcus. N.Y.: The Dana Press, 2002. Р. 3-9. Sunstein C.R. Moral heuristics // Behavioral and brain sciences. 2005. Vol. 28. No. 4. P. 531-542.
Van Bavel J.J., Feldman Hall O., Mende-Siedlecki P. The neuroscience of moral cognition: From dual processes to dynamic systems // Current Opinion in Psychology. 2015. Vol. 6. P. 167-172.
Young L., Dungan J. Where in the brain is morality? Everywhere and maybe Nowhere // Social Neuroscience. 2012. Vol. 7. No. 1. P. 1-10.
Neurophysiology and morality:
the problem of interdisciplinary research*
Roman S. Platonov
Institute of Philosophy, Russian Academy of Sciences. 12/1 Goncharnaya Str., Moscow, 109240, Russian Federation; e-mail: roman-vsegda@mail.ru
The aim of the paper is to reveal the main methodological problems of neuroethics in the course of its development as an interdisciplinary approach to the study of morality, as well as to propose a critical analysis of the results of cognitive science (neurophysiology) in the context of moral philosophy. For this purpose, the author analyzes the modern subject field of neuroethical research from the point of view of philosophical ethics and discusses the main conceptions in which the results of neurophysiological studies of the moral decision-making process are summarized. The author describes a general division of the subject field in terms of "neuroethics No. 1" (a part of bioethics) and "neuroethics No. 2" (a proclaimed part of moral philosophy). The object of research of this article is neuroethics No. 2. It is argued that in neuroethics No. 2 the conceptualization of the moral decision-making process is carried out everywhere in accordance with the scheme of "double processes": intuitive / quick / associative and discursive / slow / calculation-based. Even if the role of intuition is denied, duality is still preserved. This is so because emotions, as an extra-rational part of the psyche, are considered the basis of a quick decision. It is shown that a non-reflexive borrowing of concepts and conceptions of moral philosophy is carried out both at the level of formation of the subject of research and at the level of method. The qualitatively meaningful meaning of concepts is blurred or substituted. Such a language transition outside the boundaries of the subject area of neurophysiology only simulates the presence of interdisciplinarity. The research remains in the frames of the study of cognitive processes, without their moral component. It is concluded that for the development of neuroethics as an interdisciplinary direction, we need to obtain a synthesis of the meanings developed in the course of cultural devel -opment and of the data on human biological development. Further, in accordance with such a synthetic subject we need to adjust the research method, also we must avoid substituting the concepts of philosophical ethics.
Keywords: morality, ethics, neuroethics, neurophilosophy, neurophysiology, cognitive sciences, moral philosophy
For citation: Platonov, R.S. "Neirofiziologiya i moral': problema mezhdistsiplinarnogo issledovaniya" [Neurophysiology and morality: the problem of interdisciplinary research], Filosofskii zhurnal /Philosophy Journal, 2022, Vol. 15, No. 4, pp. 136-151. (In Russian)
The research was carried out with a financial support of the Ministry of Science and Higher Education of the Russian Federation (Project "New tendencies of the humanities and social sci -ences development in the context of digitalization and new social problems and threats: interdisciplinary approach", Agreement № 075-15-2020-798, inside number 13.1902.21.0022).
References
"Aktual'nye problemy neiroetiki: Materialy kruglogo stola" [Current Issues of Neuroethics: Panel Discussion Chronicles], Filosofiya. Zhurnal Vysshey shkoly ekonomiki, 2020, Vol. 4, No. 1, pp. 135-167. (In Russian) Apressyan, R.G. "Dve versii printsipa universalizatsii v moral'noi filosofii I. Kanta" [Two Versions of Universalizability Principle in Immanuel Kant's Moral Philosophy], Vestnik Tom-skogo universiteta. Filosofiya. Sotsiologiya. Politologiya, 2018, No. 46, pp. 104-111. (In Russian)
Apressyan, R.G. "Kant, test na universal'nost' i kriterii morali" [Kant, Universality Test, and
a Criterion of Morality], Filosofskie nauki, 2018, No. 11, pp. 70-85. (In Russian) Apressyan, R.G. "Moral'naya filosofiya pered vyzovami nauki. Posleslovie k monografii" [Moral Philosophy in front of the Challenges of Science. Afterword to the Book], in: K.R. Arutyunova & Yu.I. Alexandrov, Moral' i sub"ektivnyi opyt [Morality and Subjective Experience]. Moscow: RAS Institute of Psychology Publ., 2019, pp. 140-151. (In Russian)
Apressyan, R.G. "Neyroetika: vyzovy i nedosmotry" [Neuroethics: Challenges and Omissions], Filosofiya. Zhurnal Vysshey shkoly ekonomiki, 2020, Vol. 4, No. 1, pp. 13-23. (In Russian) Artemieva, O.V. "Intuitivizm v etike (iz istorii angliiskogo eticheskogo intellektualizma Novogo vremeni)" [Intuitionism in Ethics (from the History of English Ethical Intellectu-alism of the Modern Times)], Eticheskaya mysl' [Ethical Thought], Vol. 10, ed. by A.A. Guseinov. Moscow: IPh RAS Publ., 2010, pp. 90-113. (In Russian) Arutyunova, K.R. & Alexandrov, Yu.I. Moral' i sub"ektivnyi opyt [Morality and Subjective Experience]. Moscow: RAS Institute of Psychology Publ., 2019, 186 pp. (In Russian) Arutyunova, K.R., Alexandrov, Yu.I. & Hauser, M.D. "Sociocultural Influences on Moral Judgments: East-West, Male-Female and Young-Old", Frontiers in Psychology, 2016, Vol. 7, Article ID 1334 [https://www.frontiersin.org/articles/10.3389/fpsyg.2016.01334/full, accessed on 15.07.2022].
Arutyunova, K.R., Sozinova, I.M. & Alexandrov, Yu.I. "Mozgovye osnovy moral'noi otsenki deistvii" [Brain Activity During Moral Judgement of Action], Sovremennaya zarubezh-naya psikhologiya, 2020, Vol. 9, No. 2, pp. 68-81. (In Russian) Bazhanov, V.A. & Shabalkina, E.E. "Problema poiska neirofiziologicheskikh osnovanii morali: neiroetika" [The Problem of Quest for the Neurophysiological Foundations of Morality: Neuroethics], Filosofskie nauki, 2017, No. 6, pp. 64-79. (In Russian) Churchland, P.S. Brain-Wise: Studies in Neurophilosophy. Cambridge: MIT Press, 2002. 471 pp. Churchland, P.S. Neurophilosophy: Toward A Unified Science of the Mind-Brain. Cambridge:
MIT Press, 1986. 546 pp. Conway, P. & Gawronski, B. "Deontological and Utilitarian Inclinations in Moral Decision Making: A Process Dissociation Approach", Journal of Personality and Social Psychology, 2013, Vol. 104, No. 2, pp. 216-235. Dubrovskiy, D.I. "Neyroetika: nekotoryye aktual'nyye filosofsko-metodologicheskiye voprosy" [Neuroethics: Some Relevant Philosophical and Methodological Issues], Filosofiya. Zhurnal Vysshey shkoly ekonomiki, 2020, Vol. 4, No. 1, pp. 24-41. (In Russian) Duke, А.А. & Begue, L. "The Drunk Utilitarian: Blood Alcohol Concentration Predicts Utilitarian Responses in Moral Dilemmas", Cognition, 2015, Vol. 134, pp. 121-127. Everett, J.A.C., Pizarro, D.A. & Crockett, M.J. "Inference of Trustworthiness from Intuitive Moral Judgments", Journal of Experimental Psychology: General, 2016, Vol. 145, No. 6, pp. 772-787.
Falikman, M.V. & Cole, M. "'Kul'turnaja revoljucija' v kognitivnoj nauke: ot nejronnoj plas-tichnosti do geneticheskih mehanizmov priobretenija kul'turnogo opyt" ['Cultural Revolution' in Cognitive Science: From Neuroplasticity to Genetic Mechanisms of Acculturation], Kul'turno-istoricheskaya psikhologiya, 2014, Vol. 10, No. 3, pp. 4-18. (In Russian) Fedorova, M.V. "Neyroetika 'togda i seychas': problemy i perspektivy" [Neuroethics 'Then and Now': Problems and Prospects], Filosofiya. Zhurnal Vysshey shkoly ekonomiki, 2020, Vol. 4, No. 1, pp. 171-199. (In Russian)
Friesdorf, R., Conway, P. & Gawronski, B. "Gender Differences in Responses to Moral Dilemmas: A Process Dissociation Analysis", Personality and Social Psychology Bulletin, 2015, Vol. 41, No. 5, pp. 696-713.
Funk, C.M. & Gazzaniga, M.S. "The Functional Brain Architecture of Human Morality", Current Opinion in Neurobiology, 2009, Vol. 19, No. 6, pp. 678-681.
Greene, J. "The secret joke of Kant's soul", Moral Psychology, Vol. 3: The Neuroscience of Morality: Emotion, Brain Disorders, and Development, ed. by W. Sinnott-Armstrong. Cambridge: MIT Press, 2007, pp. 35-79.
Greene, J.D., et al. "Cognitive Load Selectively Interferes with Utilitarian Moral Judgment", Cognition, 2008, Vol. 107, pp. 1144-1154.
Haidt, J. "The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment", Psychological Review, 2001, Vol. 108, No. 4, pp. 814-834.
Hauser, M. Moral' i razum. Kak priroda sozdavala nashe universal'noe chuvstvo dobra i zla [Moral minds: How nature designed our universal sense of right and wrong], trans. by T.M. Maryutina, ed. by Yu.I. Alexandrov. Moscow: Drofa Publ, 2008. 639 pp. (In Russian)
Illes, J. "Neuroethics in a New Era of Neuroimaging", American Journal of Neuroradiology, 2003, Vol. 24, No. 9, pp. 1739-1741.
Illes, J. & Bird, S. "Neyroetika: etika neyronauki v sovremennom kontekste" [Neuroethics: A Modern Context for Ethics in Neuroscience], trans. by P.D. Tishchenko, Chelovek, 2017, No. 6, pp. 64-79.
Kahane, G., et al. "The Neural Basis of Intuitive and Counterintuitive Moral Judgment", Social Cognitive and Affective Neuroscience, 2012, Vol. 7, No. 4, pp. 393-402.
Kahneman, D. Dumai medlenno, reshai bystro [Thinking, Fast and Slow], trans. by A. Andreeva, Yu. Deglina and N. Parfenova. Moscow: AST Publ., 2021. 653 pp. (In Russian)
Kuo, W.J., et al. "Intuition and Deliberation: Two Systems for Strategizing in the Brain", Science, 2009, Vol. 324, pp. 519-522.
Levy, N. Neuroethics: Challenges for the 21st Century. Cambridge: Cambridge University Press, 2007. 346 рp.
Marazziti, D., et al. "The Neurobiology of Moral Sense: Facts or Hypotheses?", Annals of General Psychiatry, 2013, Vol. 12, Article ID 6 [https://annals-general-psychiatry.biomedcentral. com/articles/10.1186/1744-859X-12-6, accessed on 15.09.2021].
Metzinger, T. Nauka o mozge i mif o svoem Ya. Tonnel' ego [The Ego Tunnel. The Science of the Mind and the Myth of the Self], trans. by G. Solov'eva. Moscow: АСТ Publ., 2017. 651 pp. (In Russian)
Park, G., et al. "At the Heart of morality Lies Neuro-Visceral Integration: Lower Cardiac Vagal Tone Predicts Utilitarian Moral Judgment", Social Cognitive and Affective Neuroscience, 2016, Vol. 11, No. 10, pp. 1588-1596.
Pascual, L., Rodrigues, P. & Gallardo-Pujol, D. "How does Morality Work in the Brain? A Functional and Structural Perspective of Moral Behavior", Frontiers in Integrative Neuroscience, 2013, Vol. 7, Article ID 65 [https://www.frontiersin.org/articles/10.3389/fnint. 2013.00065/full, accessed on 10.09.2021].
Petrunin, Yu.Yu. "Problema demarkatsii v rossiyskoy neyroetike: naukometricheskiy analiz" [The Problem of Demarcation in Russian Neuroethics: Scientometric Analysis], Filo-sofiya. Zhurnal Vysshey shkoly ekonomiki, 2020, Vol. 4, No. 1, pp. 85-107. (In Russian)
Platonov, R.S. "Moral'naya universal'nost' v etike klassicheskogo utilitarizma (J. Bentham, J.S. Mill)" [Moral Universality in the Ethics of Classical Utilitarianism (Jeremy Bentham, John Stuard Mill)], Antinomii, 2020, Vol. 20, No. 4, pp. 45-64. (In Russian)
Prokofyev, A.V. "Evolyutsionno-psikhologicheskoe razoblachenie moral'nykh printsipov kak eticheskaya problema" [The Evolutionary and Psychological Debunking of Moral Principles as an Ethical Problem], Voprosy Filosofii, 2022, No. 3, pp. 23-33. (In Russian)
Roskies, A. "Neuroethics for the New Millennium", Neuron, 2002, Vol. 35, No. 1, pp. 21-23.
Safire, W. "Visions for a New Field of 'Neuroethics'", Neuroethics: Mapping the Field. Conference Proceedings (May 13-14, 2002, San Francisco, California), ed. by S.J. Marcus. New York: The Dana Press, 2002, pp. 3-9.
Sidorova, T.A. "Neiroetika mezhdu etikoi i moral'yu" [Neuroethics: between Ethics and Morality], Idei i idealy, 2018, Vol. 1, No. 2, pp. 75-99. (In Russian)
Sidorova, T.A. & Sandakova, L.B. "Oppozitsii filosofskikh programm v reshenii problem neiroetiki" [Oppositions of Philosophical Programs in Solving Problems of Neuroethics], Vestnik Tomskogo universiteta. Filosofiya. Sotsiologiya. Politologiya, 2020, No. 53, pp. 85-94. (In Russian)
Sunstein, C.R. "Moral heuristics", Behavioral and Brain Sciences, 2005, Vol. 28, No. 4, pp. 531-542.
Van Bavel, J.J., Feldman Hall, O. & Mende-Siedlecki, P. "The Neuroscience of Moral Cognition: From Dual Processes to Dynamic Systems", Current Opinion in Psychology, 2015, Vol. 6, pp. 167-172.
Young, L. & Dungan, J. "Where in the Brain is Morality? Everywhere and maybe Nowhere", Social Neuroscience, 2012, Vol. 7, No. 1, pp. 1-10.
