Научная статья на тему 'Мораль, вероятность и риск'

Мораль, вероятность и риск Текст научной статьи по специальности «Философия, этика, религиоведение»

CC BY
446
90
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Философский журнал
Scopus
ВАК
RSCI
ESCI
Ключевые слова
мораль / риск / вероятность / неопределенность / этика абсолютных запретов / этика прав человека / этика добродетели / утилитаризм / дисконтирование будущего / принцип предосторожности / morality / risk / probability / uncertainty / ethics of absolute prohibitions / ethics of human rights / ethics of virtue / utilitarianism / discounting the future / precautionary principle

Аннотация научной статьи по философии, этике, религиоведению, автор научной работы — Прокофьев Андрей Вячеславович

В статье исследован вопрос о возможности выявить или создать систему моральных требований, регулирующую реакцию общества на вероятностные угрозы. В ее первой части предпринята попытка проверить способность основных нормативных программ морали стать основой для такой системы. Автор демонстрирует, что этика абсолютных запретов, этика прав человека и этика добродетели сталкиваются при этом с непреодолимыми затруднениями. Утилитаризм гораздо проще интегрирует фактор вероятности в логику принятия морально значимых решений, но и он в данном практическом контексте нуждается в серьезной трансформации, касающейся метрики и структуры. Для обозначения результата этой трансформации автор использует понятие, введенное Р. Эриксоном и А. Дойлом, «мораль ответственности и подотчетности». Во второй части статьи проанализированы основные проблемы, стоящие перед ней. Именно их решение достраивает образ данного нормативного феномена. Для того чтобы «мораль ответственности и подотчетности» смогла выполнить свою роль, необходимо: а) сформировать такой тип морального сознания, который был бы адаптирован к влиянию суждений о вероятности тех или иных событий на моральные оценки; б) обнаружить оптимальные способы приписывания индексов вероятности будущим событиям; в) преодолеть психологические и социокультурные предубеждения, касающиеся оценки вероятности событий; г) установить морально оправданные коэффициенты дисконтирования будущего; д) определить должную реакцию общества не только на определенный риск угроз, но и на неопределенность в отношении их вероятности (что позволяет обеспечить избирательное применение принципа предосторожности).

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Morality, probability, and risk

The paper explores the problem of discovering or creating a system of moral criteria that could regulate society’s reactions to probabilistic threats. The first part of the paper studies the capacity of the most popular normative programs of morality to provide a basis for such criteria. The author demonstrates that the ethics of absolute prohibitions, the ethics of human rights, and virtue ethics face insurmountable difficulties. Utilitarian ethics seems to be much better at integrating the probability factor into the logic of decision-making. However, despite its success, utilitarian ethics also needs a serious transformation as far as its structure and metrics are concerned. Following R. Ericson and A. Doyle, the author calls the product of such a transformation the‘morality of responsibility and accountability’. In the second part of the paper some basic challenges to this model of morality are explored. The author argues that in order to deal with these challenges, the‘morality of responsibility and accountability’ must 1) create a moral consciousness that would be adapted to the influence that judgments about probability of events have on the moral evaluation of actions; 2) find optimal methods to attribute the numerical probability to future events; 3) overcome psychological and cultural prejudices that affect our estimations of probability; 4) elaborate flexible formulae that discount the future, 5) form a proper reaction of society not only to risk, but also to uncertainty.

Текст научной работы на тему «Мораль, вероятность и риск»

Философский журнал

The Philosophy Journal 2019, Vol. 12, No. 2, pp. 5-19 DOI 10.21146/2072-0726-2019-12-2-5-19

2019. Т. 12. № 2. С. 5-19 УДК 17.021.1

МОРАЛЬ, ПОЛИТИКА, ОБЩЕСТВО

А.В. Прокофьев

МОРАЛЬ, ВЕРОЯТНОСТЬ И РИСК

Прокофьев Андрей Вячеславович - доктор философских наук, ведущий научный сотрудник. Институт философии РАН. Российская Федерация, 109240, г. Москва, ул. Гончарная, д. 12, стр. 1; e-mail: [email protected]

В статье исследован вопрос о возможности выявить или создать систему моральных требований, регулирующую реакцию общества на вероятностные угрозы. В ее первой части предпринята попытка проверить способность основных нормативных программ морали стать основой для такой системы. Автор демонстрирует, что этика абсолютных запретов, этика прав человека и этика добродетели сталкиваются при этом с непреодолимыми затруднениями. Утилитаризм гораздо проще интегрирует фактор вероятности в логику принятия морально значимых решений, но и он в данном практическом контексте нуждается в серьезной трансформации, касающейся метрики и структуры. Для обозначения результата этой трансформации автор использует понятие, введенное Р. Эриксоном и А. Дойлом, «мораль ответственности и подотчетности». Во второй части статьи проанализированы основные проблемы, стоящие перед ней. Именно их решение достраивает образ данного нормативного феномена. Для того чтобы «мораль ответственности и подотчетности» смогла выполнить свою роль, необходимо: а) сформировать такой тип морального сознания, который был бы адаптирован к влиянию суждений о вероятности тех или иных событий на моральные оценки; б) обнаружить оптимальные способы приписывания индексов вероятности будущим событиям; в) преодолеть психологические и социокультурные предубеждения, касающиеся оценки вероятности событий;

г) установить морально оправданные коэффициенты дисконтирования будущего;

д) определить должную реакцию общества не только на определенный риск угроз, но и на неопределенность в отношении их вероятности (что позволяет обеспечить избирательное применение принципа предосторожности).

Ключевые слова: мораль, риск, вероятность, неопределенность, этика абсолютных запретов, этика прав человека, этика добродетели, утилитаризм, дисконтирование будущего, принцип предосторожности

Для цитирования: Прокофьев А.В. Мораль, вероятность и риск // Философский журнал / Philosophy Journal. 2019. Т. 12. № 2. С. 5-19.

© Прокофьев А.В.

Жизнь человека во все времена была наполнена составлением планов, реализация которых зависела от благоприятного и неблагоприятного стечения обстоятельств. Каждый из нас пытается заглянуть в будущее, создать картину дальнейшего хода событий и повлиять на него своими действиями. При этом какие-то неблагоприятные события мыслятся в качестве более вероятных и потому требующих большего внимания, а другие - в качестве маловероятных и находящихся на периферии планирования. Эта предельно общая и тривиальная особенность человеческой практики приобретает дополнительное значение, когда речь идет о сфере общественно-политических решений, способных влиять на судьбы огромного количества людей. В современном обществе свой вклад в весомость прогнозов по поводу будущих потерь вносит беспрецедентная технологическая оснащенность человечества. Пытаясь моделировать в воображении возможные последствия безответственного отношения к оружию массового уничтожения, антропогенного изменения климата, промышленного загрязнения окружающей среды, широкого внедрения искусственного интеллекта, экспериментов в области генетики и т. д., мы понимаем, насколько в каждом из этих случаев широк круг потенциальных пострадавших от ошибочных решений. Имеются в виду те решения, которые принимают политики, чиновники, генералы, а также отдельные граждане, голосующие на выборах, примыкающие к партиям и общественным движениям или выстраивающие свое экономическое поведение.

Любая озабоченность негативными последствиями индивидуальных поступков и коллективных практик неизбежно приобретает моральную форму или хотя бы включает моральную составляющую. Такие последствия автоматически становятся предметом пристального внимания морального деятеля, чья центральная ценностная установка - содействие благу Другого (другого человека, другого живого существа, общества, природы). Однако пригодность моральных ценностей и норм в качестве ориентиров для решений, которые уменьшают и увеличивают, создают и предотвращают риски, не является очевидным фактом. Во всяком случае, многие влиятельные интеллектуалы конца XX в., стоявшие у истоков теоретического осмысления феномена риска, выражали свое сомнение в такой пригодности.

К примеру, Никлас Луман в работе 1987 г. с характерным названием «Мораль риска и риск морали» писал следующее: «По причине того, что мораль не может решить проблему риска адекватно, она сама следует рискованным курсом»1. Энтони Гидденс четыре года спустя выразился еще более категорично: мораль полностью «испаряется» при соприкосновении с риском. «Моральные принципы, - продолжил он свою мысль, - противо -речат понятию риска и мобилизующей динамике контроля. Мораль остается чуждой всему, что касается колонизации будущего»2. Другие теоретики, принадлежащие к той же плеяде, были менее категоричны. Ульрих Бек рассматривал суждения о рисках как «моральные суждения онаученного общества», а Мэри Дуглас видела в концепте «риск» современную форму «морализации опасностей»3. Однако и у них постоянно возникала мысль о том,

Luhmann N. The Morality of Risk and the Risk of Morality // International Review of Sociology Series 1. 1987. Vol. 1. No. 3. P. 93.

Giddens A. Modernity and Self-Identity: Self and Society in the Late Modern Age. Cambridge, 1991. P. 145.

Бек У. Общество риска. На пути к другому модерну. М., 2000. С. 271; Дуглас М. Риск как судебный механизм // THESIS. 1994. Вып. 5. С. 246-248.

2

что мораль предстает в сфере риска в каком-то нехарактерном для нее виде. У Бека эта мысль нашла выражение в эксцентричной формулировке «количественно-теоретико-каузальная имплицитная мораль»4.

В этой скептической позиции есть доля истины. Для того чтобы моральные требования и опирающиеся на них оценки не попадали в тупик при соприкосновении с рисками, следует использовать такую модель морали, которая соответствует данному практическому контексту. Другими словами, необходимо выстроить нормативную систему, которая не расходилась бы с основными установками морального сознания, то есть не переставала бы быть моралью и вместе с тем фиксировала бы важные разграничения в области действий, сопряженных с риском: позволяла бы отличать в ней правильное поведение от неправильного, допустимое от недопустимого. Важным шагом на пути к обнаружению или созданию такой системы является попытка ответить на вопрос, могут ли быть ее основой традиционные нормативные программы морали.

Проблема риска и основные нормативные программы

а) этика абсолютных запретов

Наименьшим потенциалом в этом отношении обладает тот образ морали, который всецело сконцентрирован на достижении отдельным индивидом духовно-практического совершенства. Его сторонники стремятся полностью устранить зависимость человека от действующих в мире причинно-следственных цепочек и реализовать его стремление «учреждать мир», а не следовать его данностям. На фоне этого стремления в основные принципы индивидуального поведения превращаются те требования, которые могли бы регулировать отношения в сообществе людей, всеми силами стремящихся воплотить в своей практике моральный идеал. Совершенствующийся индивид выбирает свои поступки, исходя из их уместности именно в том, идеальном и воображаемом, сообществе, а не из их реальной роли в реально складывающихся отношениях между людьми. Этим определяется пренебрежение, которое испытывают приверженцы морали подобного образца к последствиям формально правильного поступка. Она носит строго антиконсеквенциалистский, или деонтологический, характер. Нормативное содержание морали индивидуального совершенства состоит из вариаций императива «действуй как должно и будь что будет», причем «будь что будет» относится не только к собственному положению деятеля, возникающему в результате исполнения нормы, но и к положению всех затронутых по -ступком лиц. Кроме того, этот образ морали тяготеет к абсолютизму, под которым я понимаю выдвижение требований, превращающих какое-то действие или воздержание от какого-то действия в правильное для всех возможных ситуаций. На роль абсолютных требований больше всего подходят предельно общие запреты, такие как «не убивай», «не лги», «не кради» и т. д. Любые попытки использовать менее строгие нормативные ориентиры, оставляющие простор для учета специфики конкретных ситуаций, такие, например, как «помогай другим», «заботься о них» и даже «не вреди

Бек У. Общество риска. С. 271.

им», воспринимаются абсолютистами как форма скрытого уклонения от исполнения долга за счет размывания его границ. В российской этике абсолютизм запретов ярко представлен моральной философией А.А. Гусейнова, а в западной - проявляется у некоторых католических мыслителей5.

Мне представляется, что важнейшим истоком антиконсеквенциализма и абсолютизма в этике является стремление моралистов снабдить морального деятеля такой нормативной программой, которая позволяла бы ему не опасаться потери моральной чистоты в силу неблагоприятного стечения обстоятельств. Ни запутанная структура ситуаций морального выбора, ни зависимость между моральной оправданностью решений и правильностью предсказаний будущего не могут сбить нравственный компас сторонника этики абсолютных запретов. Он обладает иммунитетом от морального риска и находится в полной моральной безопасности. Однако попытка устранить моральный риск чревата крайне негативными следствиями. Прежде всего, она ведет к пренебрежению интересами и потребностями тех людей, спасти которых от значительных потерь можно посредством тех действий, которые нарушают абсолютистски понятый запрет, но при этом существенно уменьшают количество незаслуженных страданий, унижений, смертей в мире. Эта негативная черта абсолютистской этики запретов находится на периферии данного исследования. Зато другая, наоборот, имеет для него центральное значение. Характерное для этики запретов стремление устранить моральный риск лишает мораль способности реагировать на риск как на часть окружающей реальности.

Дело в том, что этика запретов оперирует с такими действиями, которые прямо нацелены на определенные последствия и неразрывно соединены с ними (например, преднамеренным убийством или причинением страдания и вреда здоровью). В их отношении она предоставляет деятелю очень точные и недвусмысленные нормативные ориентиры. Однако это преимущество исчезает в области регулирования таких действий, которые всего лишь создают угрозу причинения вреда. В особенности если они нацелены не на вред сам по себе, а на реализацию каких-то эгоистических или даже альтруистических интересов, порождающую вред в качестве побочного следствия. В отношении таких действий абсолютист может или расширить исходный ряд запретов за счет требования: «не создавай своими действиями риска причинения смерти, боли, увечья, разрушения имущества», или оставить сферу создания вероятностных угроз вне каких бы то ни было моральных разграничений6. Однако обе эти опции ведут в теоретический тупик.

Первое невозможно, поскольку парализует всю индивидуальную и общественную практику. Ведь предвидимый риск причинения вреда для заранее неопределенного круга людей присутствует едва ли не во всех проявле -ниях человеческой активности. Быстрое перемещение в пространстве с помощью тех или иных приспособлений, использование самых простых орудий труда и технологий, создание простейших укрытий от холода или жары - все это грозит ущербом людям и должно попасть под безоговороч-

См.: Гусейнов А.А. Об идее абсолютной морали // Вопросы философии. 2003. № 3. С. 3— 12; Finnis J. Moral Absolûtes: Tradition, Revision, and Truth. Washington, DC, 1991. В этом направлении, как мне кажется, движется абсолютистская моральная философия Гусейнова, в которой озабоченность благом людей в «конкретных предметных областях деятельности» оказывается вопросом «целесообразности», а не морали (Гусейнов А.А. Этика и ее место в философии // Мораль в современном мире и проблемы российской этики. М.; СПб., 2017. С. 14).

5

ный запрет. Второе невозможно, поскольку в живом нравственном опыте очень глубоко укоренена обязанность не быть безразличным к потребностям и интересам другого человека, не создавать по неосторожности или небрежности угроз его безопасности. Эту обязанность нельзя просто проигнорировать, оставив порождение вероятностных угроз вне сферы индивидуальной моральной ответственности.

А третий выход из этого положения доступен стороннику этики абсолютных запретов только за счет отказа от его базовых убеждений. Чтобы избежать практического паралича и, одновременно, выразить в своей деятельности искреннюю озабоченность положением других людей, он должен провести границу между запрещенным и разрешенным поведением по какой-то величине создаваемого риска, которая будет считаться приемлемой с моральной точки зрения. Убийцей в этом случае будет тот, кто умышленно или неосторожно создал риск, превышающий предельно допустимый, если этот риск реализовался в гибели другого человека. Например, водитель, который нарушил скоростной режим на дороге или не проверил исправность своего транспортного средства. Но и в случае нереализовав-шегося риска человек, который его создал, должен считаться нарушителем фундаментального морального требования, хотя интенсивность осуждения его действий будет при этом гораздо меньшей. Согласившись устанавливать предельно допустимые величины порождаемого действиями риска, аб -солютист-деонтолог вынужден присоединиться к следующему суждению: лучше посредством действия a создать риск смерти другому человеку с вероятностью в N % или меньше, чем допустить потери (самого деятеля, других лиц, общества в целом), связанные с отказом от действия a. А это значит, что он перестает быть и деонтологом, и абсолютистом.

Его исходная позиция разрушается при этом двумя обстоятельствами. Во-первых, установление порога морально неприемлемого риска предполагает проведение расчета коллективных потерь и приобретений, то есть представляет собой конструирование системы моральных требований на основе чуждой для деонтологического абсолютизма нормативной логики -оценки действий на основе анализа их последствий в перспективе суммированных потребностей и интересов. Во-вторых, в отношении такого порога всегда будет сохраняться подозрение в том, что он зависит от субъективных особенностей устанавливающих его лиц и групп, а, значит, у деятеля, который соблюдает норму, опирающуюся на этот порог, никогда не будет полной уверенности, что его поступки безупречны в моральном отношении.

б) этика прав человека и этика добродетели

Это положение в целом характерно не только для проанализированной выше нормативной программы. Оно воспроизводится и в отношении другой версии абсолютистской деонтологической этики - этики неотчуждаемых прав человека. В ее генезисе индивидуально-перфекционистские установки не играют столь же существенной роли, как в случае с этикой абсолютных запретов, однако ригористичность нормативного дискурса прав человека также трудно совмещается с неопределенностью знания о вероятностных угрозах и условностью величин предельно допустимого риска. Один из ключевых представителей этики прав человека XX столетия, Роберт Но-зик, сформулировал в этой связи следующий вопрос: «Каков уровень, начи-

ная с которого вероятность ущерба, нарушающего чьи-то права, сама является нарушением прав?» И пришел к выводу о его неразрешимости в пределах этой нормативно-теоретической традиции: «Трудно представить себе, что традиция естественных прав, не отступая от своих принципиальных положений, может установить пороговое значение вероятности, начиная с которого возникает неприемлемо высокий риск для других. Это означает, что трудно понять, как в этих случаях традиция естественных прав проводит столь важные для нее границы». Более мягкая формулировка Нозика такова: «...ни одна теория естественного права еще не установила точную линию, определяющую естественные права людей в рискованных ситуациях»7. Но, скорее всего, речь должна идти не о недостатке приложенных усилий, а о недостижимости самой цели. В сугубо деонтологической перспективе этики прав человека проблема выявления норм, регулирующих создание и предотвращение рисков, остается нерешенной, идет ли речь об ограничении определенных видов деятельности или о справедливой компенсации за причиненный ими ущерб.

Примечательно, что и третья нормативная программа современной этики, которая не является деонтологической, но по-своему противостоит кон-секвенциализму, также мало приспособлена для вынесения оценок в сфере порождающих риск решений. Речь идет об этике добродетели. Конечно, она обладает большей ситуативной гибкостью и способна вместить в себя озабоченность вероятностными угрозами, затрагивающими других людей или природу. Однако эта ее способность не может быть выведена на уровень операционализируемых предписаний, нацеленных на создание свободной от угроз (безопасной) общественной среды. В особенности если эти угрозы динамичны, изменчивы и реализуются на значительных промежутках времени. Последнее обстоятельство контрастно выражено у Ганса Йонаса в оппозиции «этики прошлого» и «этики будущего». Первая, по его мнению, «принимала в расчет лишь некумулятивное поведение». Для нее «базовая ситуация взаимоотношений человека с человеком, на которой должна быть проверена добродетель и обнажены пороки, остается неизменной, и именно с нее заново начинается всякое деяние»8. Вторая, напротив, реализует себя в сфере дальнодействия и кумулятивного накопления опасных эффектов че -ловеческой деятельности. Она изначально ориентирована на прогнозирование будущего, которое может оказаться совсем непохожим на прошлое, и на выявление в будущем скрытых угроз тем, кто зависит от принимаемых сегодня решений. Человек, который не рассматривает мир как статичную сцену для реализации моральной добродетели, опасается не столько своей неспособности вовремя проявить мужество или справедливость, сколько наступления катастрофических событий, инициированных его выбором. Понятие риска находится в центре его морального мировоззрения.

Некоторые теоретики считают, что нормативная программа, ориентированная на понятие добродетели и на набор свойств совершенного человеческого характера, обладает преимуществом и в «этике будущего». Они рассматривают в качестве ключевой добродетели, обеспечивающей такое преимущество, добродетель ответственности, противостоящую пороку небрежности. Только обладатель ответственного характера может быть всерьез

7 Нозик Р. Анархия, государство и утопия. М., 2008. С. 104-105.

8 Йонас Г. Принцип ответственности. Опыт этики для технологической цивилизации. М., 2004. С. 52.

сосредоточен на выявлении возможных потерь других людей или возможного ущерба природе. Именно он способен к тождественной аристотелевскому фронесису тонкой и гибкой оценке ситуаций морального выбора, связанных с порождением вероятностных угроз9. Отчасти это верно, но лишь отчасти. Проблема в том, что обладатель ответственного характера: а) озабочен прогнозированием последствий альтернативных линий поведения и в этом смысле выступает как стандартный консеквенциалист; б) способен определять границу, за которой заканчивается разумный риск и начинается небрежное отношение к положению других людей и состоянию природы, только опираясь на опыт коллективного формулирования норм в этой сфере. Добродетель ответственности - это всего лишь эмоционально-волевая составляющая нравственного сознания консеквенциалистского образца, обеспечивающая его устойчивость и препятствующая превращению морального мышления в механическую «моральную калькуляцию».

в)утилитаризм

Итак, анализ трех нормативных программ дал негативный результат. Ни одна из них не может стать основой такой системы требований, которая позволяет реализовать основные установки морали при выборе между линиями поведения, создающими риски. Однако в ходе обсуждения их недостатков определились некоторые общие черты подобной системы. Она является: 1) в широком смысле слова консеквенциалистской, 2) ситуати-вистской, 3) опирающейся на подвижные границы допустимого и недопустимого, выявляемые посредством метода проб и ошибок и обучения на практике. Кроме того, это такая модель морали, в которой ретроспективная ответственность, то есть вопрос о распределении негативных санкций между деятелями, не доминирует над достижением общего положительного результата, а скорее находится у него в подчинении.

Можно ли сказать, что перед нами просто версия всем известной четвертой традиционной нормативной программы - утилитаризма, а именно вероятностный утилитаризм, в рамках которого позитивная или негативная ценность последствий действия, взятая сама по себе, увеличивается или уменьшается пропорционально степени вероятности их наступления? Свен Ханссон выступил против такого отождествления. По его мнению, хотя утилитаризм сталкивается с меньшими трудностями при интегрировании фактора вероятности в логику принятия морально значимых решений, он имеет несколько неустранимых недостатков. Он неспособен учесть моральную значимость катастрофических событий, вероятность наступления которых невелика, а также сохранить нормативную перспективу, в которой уникальная личность каждого человека имеет высочайшую ценность (например, не может отстоять недопустимость такого положения вещей, когда ради минимальных приобретений большого количества людей приносятся в жертву благополучие, здоровье или даже жизнь отдельного человека). Более обоснованной альтернативой вероятностного утилитаризма Ханссон считает позицию, которая сочетает провозглашение права каждого человека не подвергаться риску негативного воздействия на его жизнь, здоровье и собственность с признанием существования

Обобщенное изложение позиции см.: Ross A., Athanassoulis N. Risk and Virtue Ethics // Handbook of Risk Theory: Epistemology, Decision Theory, Ethics, and Social Implications of Risk. Dordrecht, 2012. P. 833-857.

ситуаций, в которых это право может преодолеваться более весомыми соображениями. В числе подобных соображений - сохранение различных элементов системы институционализированного взаимодействия между людьми, которая приносит выгоду всем, включая человека, подвергающегося риску10.

Предложенная Ханссоном модель имеет много преимуществ. Но фактически она все равно остается версией вероятностного утилитаризма, хотя и с усложненной метрикой и структурой. Что касается метрики, то в рамках этой модели суммируется не благосостояние, а успешная реализация самых разных прав, включая право на определенный уровень благосостояния. При этом прирост успешной реализации одних прав допустимо обеспечивать за счет отказа от реализации других. Что касается структуры, то суммирование осуществляется непрямолинейно. Оно предполагает установление порогов, до достижения которых результаты суммирования не влияют на необходимость строго соблюдать права, в том числе право не подвергаться риску. И лишь при превышении порогового уровня риск одних людей и вытекающий из него ущерб превращаются в допустимое средство для обеспечения безопасности других (как правило, гораздо более многочисленных). Приостановленные утилитаристские критерии снова обретают свою силу. Однако сохранение обсуждаемой моделью утилитаристской природы связано не только с тем, что за утилитаризмом оказывается последнее слово в экстремальных ситуациях. Дело в том, что сама процедура установления порогов ориентирована на анализ последствий и суммирование реализованных прав. Пороги определяются на основе идеи общественного блага и обобщения коллективного опыта его достижения.

Трудности морали ответственности и подотчетности

На примере концепции Ханссона мы видим, что в современной социальной этике успешно развивается проект создания такой модели морали, которая позволяет оценивать решения, создающие и предотвращающие риск причинения вреда. Среди множества использующихся обозначений конечного итога этого проекта мне импонирует формулировка, предложенная редакторами известного коллективного труда «Мораль и риск» (2003), Ричардом Эриксоном и Аароном Дойлом, «мораль ответственности и подотчетности»11. Она подчеркивает те смыслы, которые связывал с понятием «ответственность» Йонас: ориентацию деятеля на последствия его решений и положение тех, кто находится в пределах досягаемости его силы и влияния, обращенность в будущее, готовность непрерывно реагировать на изменения, касающиеся внешних обстоятельств его деятельности и состояния предмета его заботы. И одновременно - добавляет не обсуждавшийся мною до сих пор, но очень важный публично-коммуникативный аспект, а именно - вмененную деятелю готовность давать отчет о своих решениях перед всеми, кто затронут ими. Если мораль ответственности и подотчетности является утилитаристской, то это явно не утилитаризм административной элиты. Все калькуляции потерь и приобретений, равно как и принципы установления

10 Hansson S.O. Ethical Criteria of Risk Acceptance // Erkenntnis. 2003. Vol. 59. P. 305 (расширенную версию концепции см.: Hansson S.O. The Ethics of Risk: Ethical Analysis in an Uncertain World. Basingstock, 2013. P. 97-110).

11 Doyle A., Ericson R.V. Risk and Morality // Risk and Morality. Toronto, 2003. P. 4.

деонтологических порогов, вынесены в ней на общественное обсуждение. В экстренных случаях, требующих мгновенного принятия решений, это обсуждение превращается в обсуждение пост-фактум12.

Мораль ответственности и подотчетности сталкивается с рядом трудностей. Их преодоление обсуждается теоретиками как каскад взаимосвязанных проблем. В оставшейся части статьи я хотел бы кратко прояснить их содержание.

Во-первых, мораль ответственности и подотчетности нуждается в формировании особого типа индивидуального морального сознания, такого, который принимает нормативные следствия того, что знание о вероятности тех или иных событий не является абсолютным и имеет динамический характер. В этой связи, как заметил Фрэд Джэксон, деятель, ориентированный на прогнозирование последствий своих решений, неизбежно сталкивается с «раздражающим избытком долженствований»13. Он хорошо понимает, что ему приходится выявлять содержание своего морального долга на основе доступной ему ограниченной информации и ограниченных способностей ее обработки. Он понимает также, что эта ограниченная перспектива может отличаться от той, которая возникла бы в свете абсолютно -го достоверного, объективного знания о будущем или будущего знания об уже реализовавшихся последствиях действий. Приняв за точку отсчета объективное знание, он обрекает себя на отчаяние и пассивность. Посчитав, что его субъективной уверенности в последствиях действия достаточно для выявления и исполнения долга, он лишается психологических стимулов к постоянному уточнению своего знания о вероятностных угрозах. А если он пытается сохранить промежуточную позицию, для которой значимо и объективное, и субъективное долженствование, то его существование наполняется душевным дискомфортом, поскольку время от времени он получает информацию, в свете которой расклады вероятности, служившие основанием для принятия решений в прошлом, оказываются неоправданными. Он периодически ощущает себя «моральным неудачником», который пытался быть предельно внимательным к последствиям своих

12 Анонимный рецензент статьи высказал мнение, что обсуждаемая в ней модель морали тесно привязана к вполне определенному социально-политическому контексту - жизни либерально-демократических сообществ, обладающих эффективно работающими институтами публичной политики и гражданского общества, что, по его мнению, снижает релевантность выводов этого исследования для российских условий. В целом я согласен с этим утверждением. Однако дело в том, что именно присутствие неимитационной публичной политики и влиятельного гражданского общества является условием успеха реализации моральных ценностей в сфере предотвращения вероятностных угроз. Не удивительно, что эти условия встроены в предложенную мной идеальную модель морали ответственности и подотчетности. Социально-этический анализ российского среза проблемы «мораль и риск» в этой связи мог бы разворачиваться в двух направлениях: 1) создание «неидеальной теории», приспосабливающей нормативные критерии морали ответственности и подотчетности для сообществ, имеющих выраженные авторитарные и патерналистские тенденции, 2) прослеживание возможностей усиления в России тех институтов, которые обеспечивают общественный контроль за принятием административных и политических решений. Однако это потребовало бы проведения дополнительного прикладного исследования.

13 Jackson F. Decision-Theoretic Consequentialism and the Nearest and Dearest Objection // Ethics. 1991. Vol. 101. No. 3. P. 471. Меаэтические проблемы, связанные с этим обстоятельством, проанализированы Майклом Циммерманом (Zimmerman M.J. Ignorance and Moral Obligation. Oxford, 2014), практические - Дэвидом Маккарти (McCarthy D. Probability in Ethics // The Oxford Handbook of Probability and Philosophy. Oxford, 2016. P. 709710, 731).

решений, но из-за сугубо эпистемологических затруднений не выполнил свой долг. «Досадный избыток долженствований» и сопутствующий ему риск моральной неудачи являются неизбежной платой за возможность полноценно осуществлять стремление к благу другого в сфере вероятностных угроз. Но включение их в устойчивую и внутренне сбалансированную форму морального опыта - очень непростая задача.

Во-вторых, мораль ответственности и подотчетности нуждается в методиках, позволяющих приписывать различным результатам наших действий индексы вероятности. Для достижения этой цели можно опираться исключительно на анализ частоты тех или иных событий в предыдущем опыте или задействовать всю полноту знаний и даже обыденных представлений о процессах, создающих угрозу. В последнем случае приходится использовать как точку отсчета распределение вероятности между альтернативными исходами, полученное за счет обобщения ее оценок экспертами и представителями широкой публики, а затем - постоянно корректировать это распределение на основе новой информации, полученной из наблюдений или экспериментов. Однако ни один из этих подходов не является безупречным. Первый страдает от хронического недостатка необходимых данных и времени для анализа. Кроме того, вероятность, выявляемая на его основе, относится к большим массивам объектов или процессов, а не к входящим в них конкретным единицам. Второй подход оставляет слишком большой простор для воздействия на итоговые выводы различных субъективных факторов, что грозит принятием решений, которые не будут оптимальными в отношении общего блага. В дополнение к трудностям, характеризующим два подхода к приписыванию вероятности, необходимо иметь в виду, что оценка рисков, создаваемых человеческой деятельностью, затруднена фактической невозможностью прогнозировать ее последствия до их хотя бы частичного наступления. И когда мы сталкиваемся с последствиями, которые включены в неудержимую цепную реакцию, мы оказываемся в практическом тупике, поскольку частичное наступление таких последствий тождественно полному. До масштабного развертывания опасных процессов (например, каких-то технологических проектов, сулящих значительные выгоды) у занимающихся прогнозами специалистов еще нет информации для оценки вероятности неблагоприятных эффектов. После того как процессы уже развернулись, такая оценка оказывается бессмысленной, поскольку у общества не остается действенных средств для предотвращения или компенсации вреда. Бек пишет в этой связи о том, что главный доступный человеку метод поиска оптимальных решений - «метод проб и ошибок» - находится в таких случаях на грани паралича14.

В-третьих, мораль ответственности и подотчетности вынуждена преодолевать не только трудности сугубо эпистемологического порядка, о которых шла речь в предыдущем пункте, но также психологические и социокультурные затруднения. Это крайне сложная и многоаспектная задача. Информация, имеющая отношение к установлению степени риска, проходит через многочисленные психологические фильтры, рациональность которых постоянно стоит под вопросом. Часть таких фильтров связана с разным восприятием разных угроз (например, стихийно возникших и намеренно созданных), а другая часть - со способами их языковой и образной презентации. Социокультурный срез данной трудности связан с существованием

14 Beck и. МэгЫ at Risk. Cambгidge, 2009. Р. 74.

«культурных типов», принадлежность к которым определяет высокую чувствительность людей к одним видам риска и минимальную чувствительность к другим15. Ни один из таких способов восприятия риска нельзя рассматривать как иррациональный, поскольку у нас нет образца строго рационального отношения к вероятностным угрозам. Именно поэтому Бек изобразил современное состояние общественных дискуссий о том, какие риски следует предотвращать в первую очередь, в виде аналога хантингто-новского столкновения цивилизаций, в котором участвуют не религиозные и культурные общности, а «культуры риска» или даже «религии риска». Основную нормативную проблему, связанную с этим столкновением, он охарактеризовал как проблему взаимной терпимости16. Однако в случае с «культурами» и «религиями» риска возможности использования опыта религиозной и мировоззренческой терпимости, который имеется у либерально-демократических обществ, изначально ограничены, поскольку общественную опасность в этом случае имеет не сам по себе конфликт представителей разных культур и религий, а возможность пропустить серьезную угрозу - одну из тех, на которых сосредоточено внимание противостоящих друг другу позиций (ядерную террористическую атаку, изменение климата, установление удушающего авторитарного контроля над индивидами или что-то иное). Поэтому сторонники разных «культур» и «религий» риска не могут договориться о том, чтобы толерантно вывести свои разногласия за пределы публичного обсуждения. Они обречены на то, чтобы спорить друг с другом по существу дела, пытаться убедить друг друга, стремиться обеспечить политическую мобилизацию как можно большего количества людей вокруг своей позиции и т. д. Важно, чтобы они дискутировали внутри поля, которое размечено в соответствии с требованиями морали ответственности и подотчетности. Тогда их полемическое столкновение, приводящее к состояниям временного равновесия, основанным на различиях в социально-политической силе и ситуативной убедительности аргументов, может быть продуктивным.

В-четвертых, мораль ответственности и подотчетности имеет дело с открытой временной перспективой и вынуждена формулировать специальные подходы для учета этого обстоятельства в своей системе нормативных требований. С одной стороны, она пытается достичь максимального «дальнодействия», с другой - не может не рассматривать какой-то момент в будущем в качестве итогового состояния. Это создает парадокс, нуждающийся в преодолении. Проблема невозможности использовать консеквенциалистский механизм принятия решений при неограниченном временном горизонте, как правило, решается за счет особого распределения моральной значимости событий вдоль оси времени. Имеется в виду так называемое дисконтирование будущего - пропорциональное уменьшение «веса» позитивных и негативных событий по мере их удаленности от нынешнего момента. Оно позволяет снять с повестки дня учет влияния нынешних действий на отдаленное будущее, за исключением глобальных катастрофических последствий, значение которых даже дисконтирование не сводит на нет. Оно же дает надежду, что

15 Cm.: Douglas M., Wildavsky A.B. Risk and Culture: An Essay on the Selection of Technical and Environmental Dangers. Berkeley, 1982; Kahan D.M. Cultural Cognition as a Conception of the Cultural Theory of Risk // Handbook of Risk Theory: Epistemology, Decision Theory, Ethics, and Social Implications of Risk. Dordrecht, 2012. P. 725-760.

16 Beck U. World at Risk. P. 74.

морали ответственности и подотчетности удастся избежать пристрастного отношения к ныне живущим людям и людям будущего («диктатуры настоящего», возникающей при нечувствительности к интересам тех, кого еще нет, и «диктатуры будущего», которая возникает, если уравнять в значении интересы ограниченного количества современников и потенциально бесконечного количества их преемников). Однако разработанные на настоящий момент формулы дисконтирования либо не удерживают баланс между двумя потенциальными диктатурами, либо не позволяют создать внутренне согласованные алгоритмы принятия решений17.

В-пятых, внедрение фактора вероятности в систему моральных критериев принятия решений дополнительно усложняется в силу того, что моральный деятель имеет дело не только с риском, то есть исчислимой вероятностью негативных последствий своего действия или бездействия, но и с неопределенностью. Неопределенность имеет место в тех случаях, когда ограниченному количеству известных исходов нельзя приписать какой-то индекс вероятности (или этот индекс указывает на широкий промежуток значений), а также в тех случаях, когда количество возможных исходов, обсуждаемых в связи с ситуацией, не может считаться исчерпывающим. Простой наглядный пример иллюстрирует различия между риском и разными проявлениями неопределенности. Для человека, решившего сыграть в русскую рулетку, риск присутствует в том случае, когда он непосредственно перед началом игры зарядил один патрон в барабан револьвера. В этом случае игрок может точно сказать, что вероятность выжить равна 6:1. Неопределенность начинается там, где он точно не помнит, сколько именно патронов зарядил в свой револьвер несколько дней назад: один или два. И наконец, самое яркое выражение неопределенности присутствует там, где игрок пытается воспользоваться чужим револьвером, который может быть заряжен любым образом или не заряжен вовсе. Можно усложнить ситуацию, представив, что окружающие люди, опираясь на разную информацию или на различные подходы к интерпретации одной и той же информации, высказывают игроку разные мнения о количестве патронов в барабане18. Неопределенность парализует прямолинейные подсчеты будущих потерь и приобретений, однако не отменяет необходимости действовать в тех ситуациях, где угрозы остаются неопределенными. Это становится серьезным моральным затруднением, выходом из которого считается использование такого нормативного ориентира, как «принцип предосторожности». Этот принцип гласит: допустимо или обязательно предпринимать действия, позволяющие избежать ущерба людям и природе, в тех случаях, когда возможность такого ущерба неопределенна (т. е. нет достоверных научных доказательств на этот счет), но при этом вполне реальна. Однако без выявления ограниченного ряда типичных случаев, в которых следует применять принцип предосторожности, он не столько ориентирует, сколько парализует деятельность по предотвращению угроз19.

17 Обзор проблемы см.: Broom J. Ethics out of Economics. Cambridge, 1999. P. 44-69. На русском языке: Сычев А.А. Этика экологической ответственности. М., 2014. С. 216-226.

18 Пример Фрица Олхоффа: Allhoff F. Risk, Precaution, and Emerging Technologies // Studies in Ethics, Law, and Technology. 2009. Vol. 3. No. 2. P. 3-4.

19 Обзор разных моделей обоснования принципа и интерпретаций его нормативного содержания см.: Steel D. Philosophy and Precautionary Principle: Science, Evidence, and Environmental Policy. Cambridge, 2015. На русском языке: Прокофьев А.В. Проблема предосторожности: нормативный контекст, истоки актуальности, альтернативные решения // Вестник РУДН. Сер.: Философия. 2018. Т. 22. № 3. С. 291-300.

Охарактеризованные мною трудности морали ответственности и подотчетности серьезны, но не фатальны. Непрекращающаяся работа над их разрешением, в которой участвуют как теоретики, так и практики, дает положительные результаты и вносит в образ этого феномена дополнительные черты.

Список литературы

Бек У. Общество риска. На пути к другому модерну / Пер. с нем. В. Седельника, Н. Федоровой. М.: Прогресс-Традиция, 2000. 384 c.

Гусейнов А.А. Об идее абсолютной морали // Вопросы философии. 2003. № 3. С. 3-12.

Гусейнов А.А. Этика и ее место в философии // Мораль в современном мире и проблемы российской этики / Под ред. Б.И. Пружинина. М.; СПб.: Принт, 2017. С. 10-32.

Дуглас М. Риск как судебный механизм / Пер. с англ. А.Д. Ковалева // THESIS. 1994. Вып. 5. С. 242-253.

Йонас Г. Принцип ответственности. Опыт этики для технологической цивилизации / Пер. с нем. И.И. Маханькова. М.: Айрис-пресс, 2004. 480 с.

Нозик Р. Анархия, государство и утопия / Пер. с англ. Б. Пинскера. М.: ИРИСЭН, 2008. 424 с.

Прокофьев А.В. Проблема предосторожности: нормативный контекст, истоки актуальности, альтернативные решения // Вестник РУДН. Сер.: Философия. 2018. Т. 22. № 3. С. 291-300.

Сычев А.А. Этика экологической ответственности. М.: Альфа-М, 2014. 318 с.

Allhoff F. Risk, Precaution, and Emerging Technologies // Studies in Ethics, Law, and Technology. 2009. Vol. 3. No. 2. P. 1-29.

Beck U. World at Risk. Cambridge: Polity Press, 2009. 269 p.

Broome J. Ethics out of Economics. Cambridge: Cambridge University Press, 1999. 267 p.

Douglas M., Wildavsky A.B. Risk and Culture: An Essay on the Selection of Technical and Environmental Dangers. Berkeley: University of California Press, 1982. 221 p.

Doyle A., Ericson R.V. Risk and Morality // Risk and Morality / Ed. by R.V. Ericson and A. Doyle. Toronto: Toronto University Press, 2003. P. 1-10.

Finnis J. Moral Absolutes: Tradition, Revision, and Truth. Washington, DC: Catholic University of America Press, 1991. 128 p.

Giddens A. Modernity and Self-Identity: Self and Society in the Late Modern Age. Cambridge: Polity Press, 1991. 256 p.

Hansson S.O. Ethical Criteria of Risk Acceptance // Erkenntnis. 2003. Vol. 59. P. 291-309.

Hansson S.O. The Ethics of Risk: Ethical Analysis in an Uncertain World. Basingstock: Palgrave, 2013. 172 p.

Jackson F. Decision-Theoretic Consequentialism and the Nearest and Dearest Objection // Ethics. 1991. Vol. 101. No. 3. P. 461-482.

Kahan D.M. Cultural Cognition as a Conception of the Cultural Theory of Risk // Handbook of Risk Theory: Epistemology, Decision Theory, Ethics, and Social Implications of Risk / Ed. by S. Roeser, R. Hillerbrand, P. Sandin and M. Peterson. Dordrecht: Springer, 2012. P. 725-760.

Luhmann N. The Morality of Risk and the Risk of Morality // International Review of Sociology Series 1. 1987. Vol. 1. No. 3. P. 87-101.

McCarthy D. Probability in Ethics // The Oxford Handbook of Probability and Philosophy / Ed. by A. Hajek and C. Hitchcock. Oxford: Oxford University Press, 2016. P. 705-736.

Ross A., Athanassoulis N. Risk and Virtue Ethics // Handbook of Risk Theory: Epis-temology, Decision Theory, Ethics, and Social Implications of Risk / Ed. by S. Roeser, R. Hillerbrand, P. Sandin and M. Peterson. Dordrecht: Springer, 2012. P. 833-857.

Steel D. Philosophy and Precautionary Principle: Science, Evidence, and Environmental Policy. Cambridge: Cambridge University Press, 2015. 256 p.

Zimmerman M.J. Ignorance and Moral Obligation. Oxford: Oxford University Press, 2014. 149 p.

Morality, probability, and risk Andrey V. Prokofyev

Institute of Philosophy, Russian Academy of Sciences. 12/1 Goncharnaya Str., Moscow, 109240, Russian Federation; e-mail: [email protected]

The paper explores the problem of discovering or creating a system of moral criteria that could regulate society's reactions to probabilistic threats. The first part of the paper studies the capacity of the most popular normative programs of morality to provide a basis for such criteria. The author demonstrates that the ethics of absolute prohibitions, the ethics of human rights, and virtue ethics face insurmountable difficulties. Utilitarian ethics seems to be much better at integrating the probability factor into the logic of decision-making. However, despite its success, utilitarian ethics also needs a serious transformation as far as its structure and metrics are concerned. Following R. Ericson and A. Doyle, the author calls the product of such a transformation the'morality of responsibility and accountability'. In the second part of the paper some basic challenges to this model of morality are explored. The author argues that in order to deal with these challenges, the'morality of responsibility and accountability' must 1) create a moral consciousness that would be adapted to the influence that judgments about probability of events have on the moral evaluation of actions; 2) find optimal methods to attribute the numerical probability to future events; 3) overcome psychological and cultural prejudices that affect our estimations of probability; 4) elaborate flexible formulae that discount the future, 5) form a proper reaction of society not only to risk, but also to uncertainty.

Keywords', morality, risk, probability, uncertainty, ethics of absolute prohibitions, ethics of human rights, ethics of virtue, utilitarianism, discounting the future, precautionary principle For citation: Prokofyev, A. V. "Moral', veroyatnost' i risk" [Morality, probability, and risk], Filosofskii zhurnal /Philosophy Journal, 2019, Vol. 12, No. 2, pp. 5-19. (In Russian)

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

References

Allhoff, F. "Risk, Precaution, and Emerging Technologies", Studies in Ethics, Law, and Technology, 2009, Vol. 3, No. 2, pp. 1-29.

Beck, U. Obshchestvo riska. Na puti k drugomu modernu [Risk Society: Towards a New Modernity], trans. by V. Sedelnik and N. Fedorova. Moscow: Progress-Traditsiya Publ., 2000. 384 pp. (In Russian)

Beck, U. World at Risk. Cambridge: Polity Press, 2009. 269 pp.

Broome, J. Ethics out of Economics. Cambridge: Cambridge University Press, 1999. 267 pp.

Douglas, M. "Risk kak sudebnyi mekhanizm" [Risk as a Forensic Resource], trans. by A. D. Kovalev, THESIS, 1994, No. 5, pp. 242-253. (In Russian)

Douglas, M. & Wildavsky, A. B. Risk and Culture: An Essay on the Selection of Technical and Environmental Dangers. Berkeley: University of California Press, 1982. 221 pp.

Doyle, A. & Ericson, R. V. "Risk and Morality", Risk and Morality, ed. by R. V. Ericson and A. Doyle. Toronto: Toronto University Press, 2003, pp. 1-10.

Finnis, J. Moral Absolutes: Tradition, Revision, and Truth. Washington, DC: Catholic University of America Press, 1991. 128 pp.

Giddens, A. Modernity and Self-Identity: Self and Society in the Late Modern Age. Cambridge: Polity Press, 1991. 256 pp.

Guseinov, A. A. "Ehtika i ee mesto v filosofii" [Ethics and Its Place in Philosophy], Moral' v sovremennom mire i problemy rossiiskoi ehtiki [Morality in the Contemporary World and Problems of Russian Ethics], ed. by B. I. Pruzhinin. Moscow: Print Publ., 2017, pp. 10-32. (In Russian)

Guseinov, A. A. "Ob idee absolyutnoi morali" [On the Idea of Absolute Morality], Voprosy filosofii, 2003, No. 3, pp. 3-12. (In Russian)

Hansson, S. O. "Ethical Criteria of Risk Acceptance", Erkenntnis, 2003, Vol. 59, pp. 291-309.

Hansson, S. O. The Ethics of Risk: Ethical Analysis in an Uncertain World. Basingstock: Palgrave, 2013. 172 pp.

Jackson, F. "Decision-Theoretic Consequentialism and the Nearest and Dearest Objection", Ethics, 1991, Vol. 101, No. 3, pp. 461-482.

Jonas, H. Printsip otvetstvennosti. Opyt ehtiki dlya tekhnologicheskoi tsivilizatsii [The Imperative of Responsibility: In Search of an Ethics for the Technological Age], trans. by I. I. Makhankov. Moscow: Airis-press, 2004. 480 pp. (In Russian)

Kahan, D. M. "Cultural Cognition as a Conception of the Cultural Theory of Risk", Handbook of Risk Theory: Epistemology, Decision Theory, Ethics, and Social Implications of Risk, ed. by S. Roeser, R. Hillerbrand, P. Sandin and M. Peterson. Dordrecht: Springer, 2012, pp. 725-760.

Luhmann, N. "The Morality of Risk and the Risk of Morality", International Review of Sociology Series 1, 1987, Vol. 1, No. 3, pp. 87-101.

McCarthy, D. "Probability in Ethics", The Oxford Handbook of Probability and Philosophy, ed. by A. Hajek and C. Hitchcock. Oxford: Oxford University Press, 2016, pp. 705-736.

Nozick, R. Anarkhiya, gosudarstvo i utopiya [Anarchy, State, and Utopia], trans. by B. Pinsker. Moscow: IRISEhN Publ., 2008. 424 pp. (In Russian)

Prokofyev, A. V. "Problema predostorozhnosti: normativnyi kontekst, istoki aktual'nosti, al'ternativnye resheniya" [The problem of Precaution: Normative Content, Grounds for Urgency, Alternative Solutions], Vestnik RUDN. Seriya: Filosofiya, 2018, Vol. 22, No. 3, pp. 291-300. (In Russian)

Ross, A. & Athanassoulis, N. "Risk and Virtue Ethics", Handbook of Risk Theory: Epistemology, Decision Theory, Ethics, and Social Implications of Risk, ed. by S. Roeser, R. Hillerbrand, P. Sandin and M. Peterson. Dordrecht: Springer, 2012, pp. 833-857.

Steel, D. Philosophy and Precautionary Principle: Science, Evidence, and Environmental Policy. Cambridge: Cambridge University Press, 2015. 256 pp.

Sychev, A. A. Ehtika ehkologicheskoi otvetstvennosti [Ethics of Environmental Responsibility]. Moscow: Al'fa-M Publ., 2014. 318 pp. (In Russian)

Zimmerman, M. J. Ignorance and Moral Obligation. Oxford: Oxford University Press, 2014. 149 pp.

i Надоели баннеры? Вы всегда можете отключить рекламу.