CC BY
12
НАУКА И ОБЩЕСТВО
2015.04.001. СТРЭНД Р., КАЙЗЕР М. ДОКЛАД ОБ ЭТИЧЕСКИХ ПРОБЛЕМАХ, ПОРОЖДАЕМЫХ НОВЫМИ НАУКАМИ И ТЕХНОЛОГИЯМИ.
STRAND R., KAISER M. Report on ethical issues raised by emerging sciences and technologies / Report written for the Council of Europe, Committee on Bioethics. - 2015. - 23 January. - 41 р. - Mode of access: http://www.coe.int/t/dg3/healthbioethic/Activities/12_Emergingtechnolo gies/BergenStudy_e.pdf
Ключевые слова: новые науки и технологии; нейронаука; на-нотехнологии; информационно-коммуникационные технологии (ИКТ); улучшение человека; социотехнические мнимости.
Р. Стрэнд - профессор Центра изучения естественных и гуманитарных наук Бергенского университета (Норвегия), М. Кайзер -директор того же Центра. Реферируемый доклад подготовлен для конференции «Новые технологии и права человека», организованной Комитетом по биоэтике Совета Европы и состоявшейся 4-5 мая 2015 г. в Страсбурге (Франция).
Исследования и инновации - область, наиболее трудная для управления. Это обусловлено двумя причинами. Во-первых, компетентное управление социальными приложениями науки и технологий может потребовать знания и понимания содержания этой науки и технологий. Но поскольку передний край исследований движется вперед с возрастающей скоростью, получение этих знаний и их понимание вызывает большие трудности. Во-вторых, в области науки и исследований, по определению, создается новизна, удивительные и непредсказуемые вещи. Один из вариантов этого парадокса в регулировании и управлении технологиями называется «дилеммой Коллингриджа» (Collingridge dilemma). Воплощение технологий в обществе - сложный, открытый и непрогнозируемый
процесс. Всю меру рисков и побочных эффектов можно узнать только на опыте, но к этому времени они могут стать необратимыми из-за их величины или укоренения в инфраструктурах общества или в культуре. Отличным примером этой дилеммы является частный автомобиль.
Управление наукой и технологиями неизбежно будет отстающим и запоздалым, если оно будет реагировать только на конкретные реальности в форме вполне устоявшихся, используемых и вышедших на рынок технологических приложений. Политическое и регуляторное действие должно обязательно включать элемент предвидения, который будет воздействовать на то, что еще не существует, но что мыслится в качестве науки и технологий будущего. Действительно, благодаря высоким темпам развития существует временной лаг не только в политических и регуляторных действиях, но теперь уже и в интерпретации и понимании этого развития. Иногда новые вещи быстрее делаются, чем понимаются. Делание, сколь угодно изощренное, может быть ограниченной задачей проектирования и сборки, тогда как понимание требует знания огромного количества взаимодействий между новым продуктом и многочисленными другими элементами в природе и культуре.
Наука и технологии будущего - еще более специфические объекты с точки зрения управления. Они не есть нечто материальное, скорее они существуют в форме индивидуальных и коллективных ментальных конструктов, важным элементом которых является воображение. Ученые из междисциплинарной исследовательской области «исследования науки и технологий» (Science and Technology Studies - STS) убедительно показывают, что исследовательская политика, как и исследовательская практика, в существенной мере зависит от социотехнических мнимостей, т.е. нарра-тивов, которые воображают нынешнее и будущее общество, нынешнюю и будущую науку и технологии и их взаимодействие. Биоэкономика; трансформация химической промышленности посредством нанотехнологий; автоматизация сектора здравоохранения за счет персональных автономных роботов; ИКТ будущего с «компьютером на каждом рабочем столе» - таковы убедительные примеры социотехнических мнимостей, которые оказывают определяющее влияние на европейскую политику в области исследова-
ний в течение последних десятилетий. Некоторые из этих мнимостей отмирают, другие изменяются, а иные транслируются в действия, которые формируют конкретную материальную реальность. Для того чтобы усовершенствовать управление наукой и технологиями необходимо понять, что социотехнические мнимости реальны и важны, и не нужно отворачиваться от них как от «научной фантастики». Социотехнические мнимости являются конститутивной частью любого понимания науки и технологий, на основании которого можно выносить этические, политические и регуляторные суждения.
В управлении наукой и технологиями используются два важных подхода к этим мнимостям.
Первый подход заключается в том, что их существование должно рассматриваться как эмпирический факт. Теорема Томаса из сферы социологии и психологии гласит: «То, что люди воспринимают как реальное, реально по своим последствиям» (цит. по: с. 13). Она применима и к социотехническим мнимостям. Например, история техники изобилует примерами интересных технологических возможностей, которые не смогли завоевать поддержку за счет убедительных мнимостей или потерпели неудачу из-за того, что публичное, политическое и научное доверие этим мнимостям не могло быть восстановлено в течение довольно долгого времени. Примеры - история дирижаблей и электростанций на основе энергии молний Н. Теслы. Реальность мнимостей означает, однако, что они могут быть объектами управления. До сих пор в их разработке, формулировании и продвижении доминировали ученые, инновато-ры и инвесторы, но это необязательно должно быть так. Во многих европейских странах и США стали уделять много внимания так называемому «идущему снизу» вовлечению общественности с целью расширить его участие в выработке повестки дня для исследований и инноваций и демократизировать процессы.
Впрочем, сложным является не только объект управления наукой и технологиями. В своем нынешнем развитии само управление правильно характеризуется как сложное, как управление не сложностью, а изнутри самой сложности. Интенсивные усилия, вызванные необходимостью решения этических проблем, такие как ответственные исследования и инновации (Responsible Research and Innovation - RRI), «идущее снизу» вовлечение общественности,
демократизация выработки повестки дня исследований и инноваций параллельны с усилением фокуса на инструментализации, так что научная политика все в большей мере сосредоточивается на инновациях, экономическом росте и создании рабочих мест.
Иногда эти сложности могут выражаться в форме видимой конкуренции между «более мягкими» опасениями этического характера и «более жесткими» опасениями и интересами экономического характера. Эти трения могут выражаться через различение «более мягких» форм управления, поощряющих акторов принимать во внимание этику, и «жесткого» управления в форме обязывающих законов и регуляций. В последние годы, однако, появляется больше возможностей преодолеть это различение. Этика становится все более законоподобной, а закон включает в себя больше этики. Например, принятая Евросоюзом концепция «Ответственных исследований и инноваций» включает не только ряд практик, в которых должны участвовать различные социетальные акторы, но и юридический принцип, принятый Европарламентом. Подобным же образом Декларация ЮНЕСКО по вопросам биоэтики содержит такие принципы, как солидарность и сотрудничество.
Второй подход к социотехническим мнимостям состоит в том, чтобы рассматривать их в качестве ранних сигналов и предупреждений, т.е. использовать их как предиктивную информацию об актуальной науке и технологиях будущего. Конечно, эта информация внутренне неопределенна и ненадежна, при этом нет проверенных знаний о том, как лучше ее интерпретировать и использовать. Неясно и то, может ли быть разработано такое знание: по существу это вопрос степени внутренней креативности и непредсказуемости различных областей науки и технологии. Все это, однако, не исключает возможности управления, даже жесткого. Ранние предупреждения, основанные на мнимостях, могут использоваться в мониторинговых схемах - как добровольных, так и предписанных законом. Они могут использоваться и как сценарии худшего случая для выработки регуляций, как это было с клонированием человека (его запретом) или ксенотрансплантацией (выработкой всеобъемлющих схем безопасности).
В докладе обсуждаются три области научно-технологического развития, рассматриваемые как парадигматические случаи, -нейро-, нано- и ИКТ. Наряду с этим речь идет о трех общих для
всех этих областей аспектах: 1) размывании границ между медицинской и немедицинской сферами; 2) этических проблемах глобальных разделений и справедливого доступа; 3) этических вызовах, порожденных использованием технологий в военных целях.
Нейронаука рассматривается как парадигматический случай вызовов идентичности и целостности человека. В 1932 г. Олдос Хаксли опубликовал свой роман-антиутопию «О дивный новый мир», в котором предвосхитил создание технологий улучшения человека, технологий убеждения и изменения личности. В какой-то мере и в какой-то форме такие технологии используются уже в течение долгого времени. Алкоголь, например, может в принципе рассматриваться как средство и убеждения, и изменения личности. Многие любители кофе испытывают эффект подъема и улучшения как физического, так и ментального здоровья. Соответственно этические соображения относятся не столько к сущности или новизне этих технологий, сколько к их величине, необратимости, обнару-жимости, манипуляции, другими словами, - к их специфическим деталям.
С одной стороны, обещания создать технологии улучшения человека столь же стары, как и «Новая Атлантида» Ф. Бэкона, с другой - они стали вызывать этические дискуссии не так давно, особенно интенсивно после разработки технологий рекомбинант-ной ДНК, пригодных для генетической инженерии. Исходя из уже существующих технологий и тех, которые имеют потенциал вероятного будущего развития (т.е. учета нынешних мнимостей как ранних сигналов), можно рассматривать такие сценарии, как направленная и делаемая по заказу модификация человеческого генетического материала (вмешательство в зародышевую линию); фармацевтика и машины (протезы конечностей и органов), усиливающие или улучшающие физические, сенсорные и / или умственные способности человека; приборы, позволяющие наладить функциональный двусторонний интерфейс между мозгом и компьютером.
По поводу этического статуса технологий улучшения человека как такового не существует консенсуса. В научной литературе можно встретить разные точки зрения - от ярых противников технологий, открывающих возможность улучшения человека, до тех, кто активно пользуется ими в идеологии «трансгуманизма». Авторы предлагают сделать этические дискуссии, касающиеся этих тех-
нологий (и новых технологий в целом), более этически специфическими. Исходя из этики дискурса, которая признает законным плюрализм моральных ценностей, представляется ясным, что невозможно выдвинуть решающий аргумент в пользу или против технологий улучшения человека как такового в целом. Скорее необходимо обсуждать этически значимые характеристики данной технологии. В связи с этим авторы предлагают некоторые свои наблюдения.
Во-первых, модификация зародышевой линии человека, т.е. передающееся по наследству изменение его генетической композиции, в целом считается неприемлемой и незаконной. Было бы, однако, неразумно отказываться от обсуждения этой возможности, имея в виду выработку мер предосторожности.
Во-вторых, улучшение - это нормативное понятие и в большинстве случаев ученые имеют дело с целым набором намеченных и побочных эффектов, каждый из которых может быть двусмысленным по своей природе. Хороший пример - «фармацевтические» и «нейрологические» попытки «улучшения памяти». Если индивид обладает повышенной способностью вспоминать прошлое, можно говорить об улучшенной памяти. Но является ли это «улучшением человека», - вопрос определения. Кто-то может иметь в виду человека, способного успешно конкурировать в играх или на работе. Можно, однако, легко представить себе, что обладание чрезвычайно детальной или устойчивой памятью может быть помехой для личности в целом, для коммуникационных умений и благополучия личности. Хотя каузальность еще не установлена, хорошо известно, что некоторые индивиды, у которых диагностирован аутизм, могут превосходить большинство нормальных индивидов, например в играх, в которых важна память. С точки зрения эволюционной биологии можно утверждать, что чрезвычайная результативность в немногих специфических интеллектуальных умениях связана с риском нарушения общего баланса личности.
Эта двусмысленность «улучшения» отмечается в связи с технологией глубокой стимуляции мозга (Deep Brain Stimulation -DBS), которая используется на практике. Она выполняется со специфической (терапевтической) целью, но эмпирический опыт показывает, что непредсказуемые побочные эффекты являются правилом, а не исключением. Побочные эффекты, двусмысленность и
непредсказуемость - это то, чего следует ожидать, и они имеют большое значение с этической точки зрения, поскольку допускается, что судьба участников испытания не может быть полностью оценена или контролируема заранее. В случае DBS и других технологий воздействия на мозг этот принцип можно обосновать даже научно. Хотя нейронаука показывает довольно хорошую корреляцию между некоторыми ментальными функциями и некоторыми анатомическими участками мозга (например, «речевыми центрами»), существуют убедительные свидетельства об индивидах, у которых после травмы мозга постепенно восстанавливались такие функции, как речь и память. Восстановление речи показывает, что мозг - это самоорганизующаяся, адаптивная система, способная к спонтанной перезаписи. Восстановление потерянной осознанной памяти показывает нечто большее, а именно, что мозг - это нейронная сеть, функции в которой в какой-то мере делокализованы: (виртуально) все (виртуально) везде. Следовательно, локализованные интервенции, такие как DBS, могут воздействовать на несколько функций.
Еще одна важная тема - справедливая конкуренция в играх, спорте и труде. Здесь парадигматической реальностью уже стал случай Оскара Писториуса, у которого ампутированы обе ноги и он бегает на двух протезных конечностях. Функция этих конечностей оказывается противоречивой: то ли они просто компенсируют его физический недостаток, то ли дают ему конкурентное преимущество по сравнению с другими атлетами.
Таким образом, этическую озабоченность может вызывать не сама по себе технология улучшения, а справедливость конкуренции, доступность улучшения и право отказаться от него. Право на отказ от улучшения особенно значимо с этической точки зрения, поскольку могут иметь место побочные эффекты - негативные, двусмысленные или неопределенные. Праву на отказ может препятствовать принуждение, социальное давление и прямой приказ. Например, известно, что по приказу солдаты испытывали некоторые лекарства, например модафинил, которые предназначены снизить психологическую потребность в сне. Возможно, этот пример является исключительным, хотя и реалистичным.
Множество вопросов возникает, когда применение улучшения оправдывается большим благом для общества, например ожи-
даниями общества в отношении профессионалов. Легко вообразить сценарий, когда существование методик улучшения сенсорики и / или средств, повышающих стрессоустойчивость и способность управлять самолетом в критической ситуации, могут стать нормой для аэрокомпаний при наборе пилотов. Аргументом будет служить баланс между повышением безопасности для большого числа пассажиров и (безвредным?) изменением ожиданий, предъявляемых к работе пилотов. Еще большим может стать давление со стороны потребителей, общества в целом, направленное на то, чтобы авиакомпании применяли эти технологии. Добровольность в большинстве областей использования таких улучшающих лекарств будет обеспечиваться тем, что их применение станет условием работы в некоторых профессиях. Поэтому будут необходимы политические действия, направленные на защиту целостности индивида в сфере труда против таких ожиданий, которые ставят во главу угла этическое значение общественного блага.
Подобная ситуация может быть более скрытой от публичных взоров в случае имплицитных ожиданий в институтах, претендующих на статус элитных. Хотя и не высказываемые эксплицитно, ожидания относительно качества деятельности могут быть столь высоки, что улучшение станет необходимым для их достижения. Стоит отметить, что такое выдающееся качество, как качество исполнения (например, в учебе), обычно не соответствует качеству результата.
Таким образом, приведенные примеры показывают наличие веских причин для того, чтобы рассматривать меры мониторинга технологических разработок и непрерывно оценивать потребность превентивных мер, с тем чтобы защищать право на отказ при наличии прямого или непрямого давления либо принуждения.
В целом, как считают авторы, «улучшение человека» как таковое не может быть наиболее релевантным локусом этического действия.
В заключение авторы формулируют пять рекомендаций, обсуждение которых они считают уместным в рамках Комитета по биоэтике Совета Европы.
Б.Г. Юдин
