CC BY
68
АНАЛИТИКА ДУХОВНОЙ КУЛЬТУРЫ
Б01: 10.17212/2075-0862-2018-2.1-100-111 УДК 179
ГУМАНИТАРНАЯ ЭКСПЕРТИЗА И ДИСКУРС АНТИЦИПАЦИИ1
Гребенщикова Елена Георгиевна,
доктор философских наук,
руководитель Центра научно-информационных исследований по науке, образованию и технологиям
Института научной информации по общественным наукам РАН, Россия, 117997, Москва, Нахимовский проспект, д. 51/21 ОЯСГО: 0000-0002-5007-7626 aika45@yandex.ru
Аннотация
Концепция гуманитарной экспертизы была предложена Б.Г. Юдиным и разработана им совместно с рядом российских исследователей. Он акцентировал внимание на упреждающем характере гуманитарной экспертизы, обусловленном ее направленностью как на существующие, так и на новые технологии. Существенная для теории гуманитарной экспертизы идея «предварительного обживания» новых технологий обществом может быть теоретически эксплицирована с точки зрения принципа предосторожности как попытка ответа на «дилемму Коллингриджа». Другая теоретическая перспектива связана с релевантностью основных установок гуманитарной экспертизы зарубежным подходам и программам, определяющим социогуманитарные контуры технонауки. В частности, идеи антиципации рассматриваются как стратегии выбора наиболее устойчивых траекторий движения в будущее и привлечения необходимых для этого ресурсов. Соответственно, гуманитарная экспертиза раскрывается как новый тип этики, который начал формироваться в связи с развитием крупных научных проектов. Его характеризуют следующие особенности: междисциплинарность и трансдисциплинарность, управление на основе антиципации, сложность и социальная значимость проблем, связь с подходами и институтами, сложившимися в биоэтике. Актуальность гуманитарной экспертизы явным образом просматривается в тех проблемах, которые возникают в связи с интенсивным развитием биомедицинских технологий. В частности, практика «отложенного материнства» открывает перспективы «индивидуального форсайта» — влияния на временные горизонты женщины и формирование новых способов управления индивидуальными рисками здоровья. Нарушение траекторий есте-
1 Статья подготовлена при поддержке гранта РФФИ, проект «Дивергенция будущего человека: конвергенция технологий, их философское осмысление и этико-правовое нормирование» № 17-23-01017.
ственных циклов жизни оказывается не только средством выхода из режимов естественной данности, но и способом калькуляции рисков, расширяющих горизонт ответственности, и попыткой страхования от возможного разочарования в будущем. Стратегии предосторожности позволяют балансировать между конкурирующими способами освоения будущего, а гуманитарная экспертиза является важной составляющей построения эффективной методологии принятия решений в ситуации неопределенности и поиска согласованных координат устойчивого будущего, что, безусловно, подтверждает ее актуальность и перспективы дальнейшего развития.
Ключевые слова: гуманитарная экспертиза, принцип опережающего реагирования, антиципация, риск, неопределенность, предосторожность, будущее.
Библиографическое описание для цитирования:
Гребенщикова Е.Г. Гуманитарная экспертиза и дискурс антиципации // Идеи и идеалы. - 2018. - № 2, т. 1. - С. 100-111. - аои 10.17212/2075-0862-2018-2.1-100-111.
Концепция гуманитарной экспертизы была предложена в конце прошлого века Б.Г. Юдиным и разработана совместно с исследователями И.И. Ашмариным, В.А. Луковым, Г.Б. Степановой и др. Борис Григорьевич определял гуманитарную экспертизу как социальную практику, «сутью которой является защита человека в той мере и в тех ситуациях, когда он подвергается воздействию (или, иначе говоря, когда ему приходится взаимодействовать) многочисленных новых технологий, включая технологии социальные» [6, с. 150]. При этом, рассматривая технологию в качестве объекта экспертизы и предостерегая от узкого предметоцентрич-ного взгляда, он подчеркивал, что речь может идти как о существующих, так и о новых технологиях. Соответственно, упреждающий характер «гуманитарной экспертизы представляется вполне естественным, а во многих случаях - и просто необходимым, поскольку позволяет предвидеть и скорректировать как прямые, так и опосредованные, отдаленные неблагоприятные последствия» [5, с. 135]. Наиболее явно идея «предварительного обживания» новых технологий выражена в принципе опережающего реагирования, основанного на двух исходных посылках: «1) любое социальное или научно-техническое новшество можно считать источником негативных последствий, рисков, угроз для человеческого потенциала, пока в отношении него не показано обратное; 2) нередко эти угрозы, риски и негативные последствия оказываются непредвиденными не в силу принципиальной невозможности их спрогнозировать, а просто в силу того, что на предваряющих или на начальных стадиях их внедрения просто не было предпринято требуемых для этого специальных усилий» [7].
Первая посылка в полной мере согласуется с принципом предосторожности, которому в дискуссиях относительно защиты здоровья человека и окружающей среды отводится значительная роль. Принцип предосторожности или принцип опережающего предупреждения был сформулирован в ходе Конференции ООН по окружающей среде и развитию иЫСЕО (Рио-де-Жанейро, 1992 г.). В частности, в п. 15 Декларации ООН по окружающей среде и развитию указывается на необходимость принятия мер предосторожности в целях защиты окружающей среды. «В тех случаях, когда существует угроза серьезного или необратимого ущерба, отсутствие ее полного научного обоснования не должно использоваться в качестве причины для отсрочки принятия экономически эффективных мер по предупреждению ухудшения состояния окружающей среды» [14]. Согласно этому подходу ответственность за доказательство безопасности технологии лежит на изобретателе/производителе, который должен провести соответствующие научные исследования, прежде чем она будет реализована.
К идее предосторожности обращаются в случае ограниченных научных данных о возможных последствиях применения той или иной инновации. Исследователи университета Балеарских островов Х.Л. Лухан и О. Тодт отмечают, что в ситуации нехватки знаний сам принцип далек от однозначности: его сторонники часто апеллируют к предосторожности, когда приводят аргументы, доказывающие необходимость введения запретов (или моратория) на развитие тех или иных технологий, например, таких как генетически модифицированная пища или использование в городских условиях мобильных телефонов, снабженных антеннами; критики, напротив, рассматривают принцип предосторожности как ненаучный, иррациональный способ реагирования на технологические новации [10]. Чтобы внести ясность в дискуссии и соотнести различные теоретические подходы, указанные авторы предлагают три переменные: научная неопределенность, роль научного знания и управление (принятие решений). В результате первая интерпретация принципа предосторожности основывается на риске, вторая - на эпистемологических границах, третья интерпретация связывается с выбором технологий. Они представляют эвристический интерес и для понимания специфики гуманитарной экспертизы.
Как утверждают разработчики, гуманитарная экспертиза нацелена в первую очередь на те последствия развития технонауки, которые обладают, или предполагается, что обладают, наибольшим рискогенным потенциалом. Несколько десятилетий назад Н. Луман заметил, что «если пытаешься определить понятие риска, то впечатление такое, будто заехал в густой туман, где видимость не дальше бампера машины» [3, с. 139]. За прошед-
шее время ситуация не сильно изменилась: дискуссии относительно новейших технологий явным образом демонстрируют актуальность социо-гуманитарных измерений «технологики» технонауки.
Не случайно понимание триединой роли науки — как источника техногенных угроз, ресурса экспертного знания и как средства разрешения возникших проблем — имеет ключевое значение в проблематизации риска. Действительно, наука выступает основным фактором изменения привычных координат риска: известное и, казалось бы, надежное вдруг оказывается опасным и неизвестным. «В один день мы слышим об опасности ртути и бежим выбрасывать с полок банки тунца; на другой день продуктом, которого следует избегать, может стать масло, считавшееся нашими дедами воплощением здоровой пищи; потом мы соскребаем свинцовую краску со стен. Сегодня опасность кроется в фосфатах, содержащихся в нашем любимом стиральном порошке; завтра вам указывают на опасность инсектицидов, которые еще несколько лет назад превозносились как средство, спасающее миллионы людей от голода и болезней. Опасность смерти, помешательства и, что страшнее всего, рака кроется во всем, что мы едим и к чему притрагиваемся» [13, p. 5]. Но не только новые знания, но и сомнения в этической нейтральности науки, объективности ее экспертной позиции привели к необходимости «аудита общества» (М. Пауэр) [12], что явным образом выражено в установках гуманитарной экспертизы.
Еще один аспект, активно обсуждаемый в литературе и, по сути, фундирующий идеи предосторожности, связан с временным разрывом между предположением о негативном воздействии и реальным решением. Б. Ла-тур хорошо продемонстрировал это в отношении асбеста. «Это был совершенный материал (его называли magic material), одновременно инертный, эффективный и рентабельный, и потребовались десятки лет, чтобы последствия его распространения и его влияние на здоровье человека наконец были соотнесены с ним самим, чтобы возникли сомнения в нем, а также в тех, кто его изобрел, в его изготовителях, сторонниках и инспекторах; потребовались десятки тревожных сигналов и судебных тяжб, чтобы профессиональные заболевания, рак, трудности с утилизацией привели к тому, что причина всего этого была установлена и что всё это стало рассматриваться как часть свойств асбеста. Это привело к медленному изменению статуса последнего: из инертного и идеального материала он стал кошмарной смесью права, гигиены и риска. Объекты такого типа по-прежнему населяют большую часть мира здравого смысла, в котором мы живем» [2].
Большинство факторов риска ставят под вопрос возможность разграничения риска и опасности, выводя в сферу исследовательского интереса проблему границ незнания и необходимости расширения зоны ответ-
ственности. Причем признание рискогенного характера ситуации неизбежно ведет к принятию ответственности за выбор, который автоматически не приводит к безопасности и требует своевременных и взвешенных управленческих решений. Акцент на времени неслучаен: предосторожность на стадии управления рисками часто описывается как неэффективная и запоздалая. Соответственно, более действенными оказываются стратегии, совмещающие оценку и управление риском.
Интерпретация через выбор технологий предлагает, по сути, альтернативу: понимать принцип предосторожности как условие выбора технологий или как принцип замещения существующей технологии новой, специально предназначенной для того, чтобы обойти ограничения или проблемы, связанные с прежней.
В таком контексте реализация предосторожности предполагает управленческие решения, включающие этико-аксиологические измерения, а гуманитарная экспертиза может рассматриваться как новый «тип этики», а точнее, одна из комплексных программ, которые развиваются в качестве вспомогательных компонентов крупных научно-технических проектов. Они «не соответствуют ни академической области, ни рациональным размышлениям об основах нравственной жизни, а представляют собой новый инструмент управления, основанный на предварительной институциона-лизации биоэтики, как способе решения морально неоднозначных проблем в биомедицине» [11, p. 823—851].
По мнению норвежских исследователей Р. Стрэнда и М. Кайзера, область исследований и инноваций представляет значительные трудности для управления [15]. Первая проблема связана с возникающим дефицитом компетентности: передний край технонауки движется вперед с возрастающей скоростью, а получение новых знаний и их понимание вызывает большие трудности. Вторая хорошо фиксируется «дилеммой Коллингрид-жа»: внедрение новых технологий — открытый и непредсказуемый процесс, все последствия которого можно оценить только в реальной жизни, но к этому времени они уже могут стать необратимыми. Речь идет о необходимости предваряющих мер по оценке и анализу возможных эффектов реализации новой технологии до того, когда усилия потребуют больше ресурсов или окажутся малоэффективными. Таким образом, гуманитарная экспертиза, выступающая «ядром систематической и социально значимой деятельности, нацеленной на прогнозирование вновь возникающих угроз для человеческого потенциала», подтверждает свою актуальность [7].
Управление на основе антиципации (англ. anticipation — «предвосхищение, ожидание») вышло на первый план теоретических дискуссий не так давно, но уже продемонстрировало значимость дополнительных переменных в футурологических штудиях, стремящихся преодолеть узкий
технологический детерминизм. Дело здесь не только в стремлении учесть «сложностную» динамику коэволюции науки и общества, ставшую общим местом многих подходов, но и в том, что на вызовы будущего готовых ответов быть не может. А потому особую роль приобретают своевременные решения — «достаточно рано, чтобы быть конструктивными и достаточно поздно, чтобы быть значимыми» [8].
Корреляция установок гуманитарной экспертизы с зарубежными программами и подходами, обеспечивающими социогуманитарные контуры развития технонауки, просматривается на многих уровнях. Особый интерес представляет подход «Ответственные исследования и инновации», который развивается в рамках программы ЕС «Горизонт 2020». Одной из его ключевых характеристик наряду с инклюзией, рефлексивностью и реагированием является антиципация [9]. Последняя, по мысли разработчиков, позволяет понять, каким образом аффективные желания и текущая динамика влияют на проектирование будущего. Антиципация направлена на раннее предвидение и предотвращение потенциально опасных последствий новых технологий и нацелена на: 1) рефлексию мотивов и последствий исследовательского проекта; 2) прояснение неопределенностей и дилемм; 3) раскрытие образов будущего для широкой публики; 4) использование результатов для выбора направлений развития исследований и инноваций [9, р. 10—11]. Антиципацию следует понимать не только как попытку предвидения, а прежде всего как стратегию выбора устойчивых траекторий и привлечения ресурсов, необходимых для достижения социально приемлемых и желаемых образов будущего. Соответственно, ей атрибутируются формы моральной ответственности, связанные с выбором наиболее социально приемлемых перспектив и обеспечением социальной устойчивости научно-технического развития.
Дискурс антиципации важен и для понимания социальных общностей, объединяющихся вокруг надежд и ожиданий, связанных с прогрессом биомедицины. Новая «политэкономия надежды» пациентских организаций основана на признании перформативного характера социальных ожиданий и понимании того, как образы желаемого будущего конвертируются в практику реальных проектов. В условиях конкуренции за ограниченные ресурсы здравоохранения важную роль имеет умение не только выбрать пути в желаемое будущее, но и идти по ним. Так, многие паци-ентские организации, привлекая ресурсы для проведения научных исследований и многофункциональных онлайн-платформ, продемонстрировали возможности перехода от ожиданий и желаний к реальным проектам и практическим действиям.
Утверждение «Мы живем в прогностическом обществе» (Т. Давенпорт) фиксирует важную, но далеко не единственную характеристику современ-
ного общества, которому часто атрибутируют также определения, связанные с риском и знаниями. При этом «общество риска» нередко оказывается оборотной стороной «общества знаний», поскольку расширение технона-учных возможностей расширяет горизонт непознанного и умножает риски. В середине прошлого века немецкий философ Г. Йонас писал: «Разрыв между силой предвидения и мощью действия порождает новую этическую проблему. Признание неведения становится оборотной стороной обязанности знать и через это — частью этики, которая призвана подвигнуть нас на делающийся всё более настоятельным самоконтроль за собственной непомерной мощью. Никакой предыдущей этике не приходилось принимать в расчет глобальные условия человеческой жизни и отдаленное будущее, даже само существование человеческого рода» [1, с. 53]. Предлагая императив новой этики технологической цивилизации «действуй так, чтобы последствия твоей деятельности были совместимы с поддержанием подлинно человеческой жизни на Земле» [1, с. 58], Йонас подчеркивает его нацеленность не на согласованность деяния с самим собой, а с его последствиями — с продолжением человеческой деятельности в будущем [1, с. 59].
Установки новой этики технологической цивилизации представляют интерес и с точки зрения перспективы, обозначенной Б.Г. Юдиным следующим образом: «один из главных векторов, которыми можно охарактеризовать направленность развития науки (да и техники) в последние десятилетия, это ее неуклонное приближение к человеку, к его потребностям, устремлениям, чаяниям. <...> Наука и техника приближаются к нему не только извне, но и как бы изнутри, в известном смысле делая и его своим произведением, проектируя не только для него, но и самого же его. В самом буквальном смысле это делается в некоторых современных генетических, эмбриологических и т. п. биомедицинских исследованиях» [4, с.187]. При этом возможности современной биомедицины открывают перспективы «индивидуального форсайта» — влияния на временные горизонты женщины и формирование новых способов управления индивидуальными рисками здоровья. В частности, развитие технологий «замораживания» гамет (криоконсервация, витрификация) на длительный срок без потери их жизнеспособности привело к неоднозначной в моральном плане практике «отложенного материнства». Этому, безусловно, способствовало включение его в социальный пакет сотрудников таких компаний, как Apple и Facebook. Не случайно практика «отложенного материнства» метафорически описывается как «банковское время» — период сохранения биологического капитала, позволяющий перенести жизненно важные решения на другой этап жизни, застраховаться от необратимости и неизбежности биологического времени, от будуще-
го сожаления, которым чревато откладывание времени зачатия ребенка. В таком контексте репродуктивное старение рассматривается не как факт жизни, а как зависимая переменная, на которую до определенного времени можно влиять.
Вместе с тем нарушение траекторий естественных циклов жизни оказывается не только средством выхода из режимов естественной данности, но и способом калькуляции рисков, расширяющих горизонт ответственности. Порождая множество вопросов, практика отложенного материнства демонстрирует специфику новых технологий, требующих комплексных подходов социогуманитарной оценки и анализа. Б.Г. Юдин, раскрывая специфику гуманитарной экспертизы, неоднократно отмечал ее междисциплинарный характер, подчеркивая также «исключительность не только профессиональных, но и личностных качеств» экспертов [5, с. 132]. Для понимания роли трансдисциплинарных установок важное значение имеют два обстоятельства: первое — уже в процессе идентификации и отбора проблем учитывается их восприятие представителями заинтересованных социальных групп и, таким образом, определяется оптимальное поле поиска решений; второе — трансдисциплинарная контекстуализация на первоначальном этапе выступает своеобразным способом предотвращения возможных конфликтов и некоторых рисков еще на стадии планирования. Таким образом, формируются предпосылки учета сложностей социальной акцептации новых технологий, а ключевые переменные формулы будущего не оставляют без внимания факторы риска. Другими словами, стратегии предосторожности позволяют балансировать между конкурирующими способами освоения будущего, в которых переплетаются различные способы компенсации дефицита знания и разные горизонты планирования. В таком теоретическом ракурсе гуманитарная экспертиза является важной составляющей построения эффективной методологии принятия решений в ситуации неопределенности и поиска согласованных координат устойчивого будущего, что, безусловно, подтверждает ее актуальность и перспективы дальнейшего развития.
Литература
1. ЙонасГ. Принцип ответственности: опыт этики для технологической цивилизации. — М.: Айрес-пресс, 2004. — 479 с.
2. Латур Б. Политика природы [Электронный ресурс] // Неприкосновенный запас. Дебаты о политике и культуре. — 2006. — № 2 (46). — URL: http://magazines. russ.ru/nz/2006/2/la3.html (дата обращения: 23.04.2018).
3. Луман Н. Понятие риска // THESIS. - 1994. - № 5. - С. 135-160.
4. Юдин Б.Г. Необходимость и возможности гуманитарной экспертизы // Знание. Понимание. Умение. - 2006. - № 4. - С. 187-194.
НАУЧНЫЙ /ЖУРНАЛ
5. Юдин Б.Г. От этической экспертизы к экспертизе гуманитарной // Знание. Понимание. Умение. — 2005. — № 2. — С. 126— 135.
6. Юдин Б.Г. Технонаука, человек, общество: актуальность гуманитарной экспертизы // Век глобализации. — 2008. — № 2. — С. 146—155.
7. Юдин Б.Г., Луков В А. Гуманитарная экспертиза: к обоснованию исследовательского проекта [Электронный ресурс] // Человеческий потенциал России: web-сайт. — URL: http://hdirussia.ru/69.htm (дата обращения: 23.04.2018).
8. Rogers-Hayden T., Pidgeon N. Moving engagement "upstream"? Nanotechnologies and the Royal Society and Royal Academy of Engineering's inquiry // Public Understanding of Science. — 2007. — Vol. 16, iss. 3. — P. 345—364.
9. Burget M., Bardone E., Pedaste M. Definitions and conceptual dimensions of responsible research and innovation: a literature review // Science and Engineering Ethics. - 2017. - Vol. 23, iss. 1. - P. 1-19.
10. Goklany I.M. The precautionary principle: a critical appraisal of environmental risk assessment. - Washington, DC: Cato Institute, 2001. - 119 p.
11. Hilgartner S, Prainsack B., Hurlbut J.B. Ethics as governance in genomics and beyond // The Handbook of science and technology studies. - Cambridge, MA: MIT Press, 2017. - P. 823-851.
12. Power M. The audit society: rituals of verification. - Oxford, UK: Oxford University Press, 1999. - 200 p.
13. Rabinowitch E. Living dangerously in age of science // Bulletin of the Atomic Scientists. - 1972. - Vol. 28, iss. 1. - P. 5-8.
14. Rio Declaration on environment and development [Electronic resource]. - URL: http://www.un.org/documents/ga/conf151/aconf15126-1annex1.htm (accessed: 23.04.2018).
15. Strand R., Kaiser M. Report on ethical issues raised by emerging sciences and technologies [Electronic resource]: report written for the Council of Europe, Committee on Bioethics / Centre for the Study of the Sciences and the Humanities, University of Bergen, 23 January 2015. - URL: https://rm.coe.int/168030751d
(accessed: 23.04.2018).
Статья поступила в редакцию 12.03.2018 г. Статья прошла рецензирование 29.03.2018 г.
DOI: 10.17212/2075-0862-2018-2.1-100-111
HUMANITARIAN EXPERTISE AND DISCOURSE OF ANTICIPATION
Grebenshchikova Elena,
Dr. of Sc. (Philosophy),
Head of the Center of Scientific Information and Research
on Science, Education and Technologies, Institute of Scientific
Information for Social Sciences, RAS
51/21, Nakhimov ave., 117997, Moscow, Russian Federation
ORCID: 0000-0002-5007-7626
aika45@yandex.ru
Abstract
B.G. Yudin proposed the concept of humanitarian expertise and developed it together with a number of Russian researchers. He focused on the anticipatory nature of humanitarian expertise, due to its focus on both existing and new technologies. The idea of "preliminary habitation" of new technologies by society is essential for the theory of humanitarian expertise and can be theoretically explicated from the point of view of the precautionary principle and as an attempt to answer "the Collingridge dilemma." Another theoretical perspective is connected with the relevance of the main humanitarian assessments to foreign approaches and programs that determine the social and humanitarian contours of the technoscience. In particular, the ideas of anticipation are considered as strategies for selecting the most stable path to the future and attracting the resources necessary for this. Accordingly, humanitarian expertise is revealed as a new "type of ethics", which began to take shape in connection with the development of major scientific projects. It is characterized by the following features: interdisciplinarity and transdisciplinarity, management based on anticipation, complexity and social significance of problems, connection with approaches and institutions that have developed in bioethics. The urgency of the humanitarian expertise orientation is clearly visible in those problems that arise in connection with the intensive development of biomedical technologies. In particular, the practice of "deferred motherhood" opens the prospects for an "individual foresight" — the formation of new options to manage individual health risks. The violation of natural cycle's trajectories of life is a way of calculating risks that expand the horizon of responsibility and try to insure against possible disappointment in the future. Precautionary strategies allow balancing between competing ways of mastering the future, and humanitarian expertise is an important component of building an effective decision-making methodology in a situation of uncertainty and finding adjusted coordinates for a sustainable future, which certainly confirms its relevance and prospects for further development.
Keywords: humanitarian expertise, principle of anticipatory response, anticipation, risk, uncertainty, precaution, future.
SCIENTIFIC /JOURNAL
Bibliographic description for citation:
Grebenshchikova E.G. Humanitarian expertise and discourse of anticipation. Idei i ide-aly - Ideas and Ideals, 2018, no. 2, vol. 1, pp. 100-111. doi: 10.17212/2075-0862-20182.1-100-111.
1. Jonas H. Das Prinzip Verantwortung: Versuch einer Ethik für die technologische Zivilisation. Frankfurt am Main, Insel, 1979 (Russ. ed.: Ionas G. Printsip otvetstvennosti. Opyt etiki dlya tekhnologicheskoi tsivilizatsii. Moscow, Aires-press Publ., 2004. 479 p.).
2. Latour B. Politique de la nature. Neprikosnovennyi zapas. Debaty opolitike i kul'ture — Debates on politics and culture, 2006, no. 2 (46). (In Russian). Available at: http://magazines. russ.ru/nz/2006/2/la3.html (accessed 23.04.2018).
3. Luhmann N. Der Begriff Risiko. THESIS, 1994, no. 5, pp. 135-160. (In Russian).
4. Yudin B.G. Neobkhodimost' i vozmozhnosti gumanitarnoi ekspertizy [Necessity and possibilities of expert evaluation in the humanities]. Znanie. Ponimanie. Umenie — Knowledge. Understanding. Skill, 2006, no. 4, pp. 187-194.
5. Yudin B.G. Ot eticheskoi ekspertizy k ekspertize gumanitarnoi [From an ethical expertise to humanitarian expertise]. Znanie. Ponimanie. Umenie — Knowledge. Understanding. Skill, 2005, no. 2, pp. 126-135.
6. Yudin B.G. Tekhnonauka, chelovek, obshchestvo: aktual'nost' gumanitarnoi ekspertizy [Technoscience, human being, society: the relevance of humanitarian expertise]. Vekglobalizatsii — Age of Globalization, 2008, no. 2, pp. 146-155. (In Russian).
7. Yudin B.G., Lukov V.A. Gumanitarnaya ekspertiza: k obosnovaniyu issledova-tel'skogo proekta [Expert evaluation in the humanities: substantiation of the research project]. Chelovecheskii potentsialRossii [Human potential of Russia]: web-site. Available at: http://hdirussia.ru/69.htm (accessed 23.04.2018).
8. Rogers-Hayden T., Pidgeon N. Moving engagement "upstream"? Nanotechnol-ogies and the Royal Society and Royal Academy of Engineering's inquiry. Public Understanding of Science, 2007, vol. 16, iss. 3, pp. 345-364.
9. Burget M., Bardone E., Pedaste M. Definitions and conceptual dimensions of responsible research and innovation: a literature review. Science and Engineering Ethics, 2017, vol. 23, iss. 1, pp. 1-19.
10. Goklany I.M. The precautionary principle: a critical appraisal of environmental risk assessment. Washington, DC, Cato Institute, 2001. 119 p.
11. Hilgartner S., Prainsack B., Hurlbut J.B. Ethics as governance in genomics and beyond. The Handbook of science and technology studies. Cambridge, MA, MIT Press, 2017, pp. 823-851.
12. Power M. The audit society: rituals of verification. Oxford, UK, Oxford University Press, 1999. 200 p.
13. Rabinowitch E. Living dangerously in age of science. Bulletin of the Atomic Scientists, 1972, vol. 28, iss. 1, pp. 5-8.
14. Rio Declaration on environment and development. Available at: http://www.un.org/ documents/ga/conf151/aconf15126-1annex1.htm (accessed 23.04.2018).
References
15. Strand R., Kaiser M. Report on ethical issues raised by emerging sciences and technologies: report written for the Council of Europe, Committee on Bioethics. Centre for the Study of the Sciences and the Humanities, University of Bergen, 23 January 2015. Available at: https://rm.coe.int/168030751d (accessed 23.04.2018).
The article was received on 12.03.2018. The article was reviewed on 29.03.2018.
