CC BY
51
Мирский Эдуард Михайлович
доктор философских наук, главный редактор журнала «Курьер РАН и высшей школы»
Юдин Борис Григорьевич
доктор философских наук, член-корреспондент РАН, зав. отделом комплексных проблем изучения человека Института философии РАН, главный редактор журнала «Человек».
byudin@yandex.ru
ЧЕЛОВЕЧЕСКОЕ ИЗМЕРЕНИЕ НТП
Введение
Курс на модернизацию экономики, однозначно заявленный руководством страны и усердно тиражируемый СМИ, бесспорно, является не просто стратегией возможного развития, но единственным способом выживания российского государства в условиях быстро изменяющегося мира. Целью модернизации является достижение российской экономикой уровня передовых стран мира по всем основным показателям. В стратегии реализации этой цели отчетливо выделяются два существенно различных, но одинаково важных направления.
Первое направление - создание технологической базы для построения современной экономики. В общих чертах эту задачу т. н. «догоняющей» модернизации многие страны с тем или иным успехом уже решали на протяжении истории. Главными условиями успеха является наличие ресурсов и разумное использование политической воли.
Второе направление, относительно новое для нашей страны - это совместная работа в рамках мирового сообщества над решением тех проблем, которые в данный момент важны для развития нашей цивилизации. Только в ходе такой работы и формируется полноценное партнерство, при котором усилия каждой страны оказываются полезными и необходимыми остальным. Для успеха в этом направлении нужны не столько финансовые и материальные ресурсы, сколько ресурсы интеллектуальные и постоянный мониторинг изменяющейся ситуации с тем, чтобы незначительные поначалу трудности не приводили к острым кризисным явлениям.
С энтузиазмом переводя на русский язык такие термины, как «общество знания», «инновационная экономика» и т. п., мы, как и любой догоняющий, имеем в виду главным образом результаты нового этапа научно-технологического прогресса. Между тем формирование экономики на инновационной основе обнаруживает и целый ряд проблем, которые раньше, если и были известны, то не оказывали заметного влияния на развитие научно-технологического комплекса.
Особую обеспокоенность в последнее десятилетие во всех развитых странах вызывает ряд проблем внутреннего и внешнего бытия науки,
ранее оттесненных на далекую социально-гуманитарную периферию. По очень точной характеристике М. К. Петрова, основная социально-экономическая функция науки - обеспечивать качество прогресса, то есть, во-первых, открывать новые его возможности и перспективы (исследования), а во-вторых, удерживать общество от опрометчивых, подчас опасных, шагов в использовании его достижений (экспертиза и прогноз). Успешное решение обеих задач существенно зависит от уровня экспертизы: внутренней - когда научное сообщество регулирует поведение своих членов, оценивая результаты их работы (публикации), и внешней - когда общество и государство контролирует качество и безопасность готовой продукции, способов ее получения и распространения.
Последнее десятилетие показало, что традиционные механизмы, регулирующие поведение ученых при выполнении обеих этих задач, в значительной мере утратили свою эффективность. Особую обеспокоенность во всех развитых странах стало вызывать то, что в текстах научных публикаций обнаруживаются многочисленные случаи плагиата, фабрикации данных, манипулирования данными, неправомерного расширения интерпретации, необоснованного присуждения ученых степеней, недоброкачественной экспертизы и т. п. Масштабы и опасность такого рода нарушений потребовали многообразных управленческих воздействий со стороны институтов научного сообщества и органов государственного управления. В этой связи исследователи все чаще возвращаются к фундаментальным проблемам внутреннего и внешнего бытия науки, ранее оттесненным на далекую социально-гуманитарную периферию.
Среди них одно из центральных мест занимает проблема добросовестности в исследованиях1.
Недобросовестность в исследованиях - масштабы нарушений и необходимость объединения усилий
Сами факты нарушения сложившихся в науке норм не являются чем-либо новым. Споры о приоритете, о достоверности публикуемых данных и правомерности интерпретаций и т. п. постоянно возникали в научном сообществе, которое, однако, довольно успешно справлялось с этими видами нарушений. Традиционно наука рассматривалась как самокорректирующаяся система: считалось, что нарушения, допущенные тем или иным исследователем, достаточно быстро будут выявлены его коллегами. А это значит, что они не принесут большого вреда науке и уж тем более обществу - неприятности постигнут главным образом самого нарушителя. В наши дни ситуация изменилась, и одна из причин
1 Здесь и далее мы за отсутствием устойчивых русских эквивалентов будем использовать термины «добросовестность в исследованиях» (research integrity) и «ненадлежащее поведение» (research misconduct).
этого - то, что результаты исследований все чаще начинают восприниматься обществом и так или иначе воздействовать на него еще до того, как будут проверены научным сообществом.
Тревогу вызвал лавинообразный рост этих нарушений, который поставил под вопрос доверие к науке вообще. Как пишет один из ведущих специалистов по проблематике добросовестности в исследованиях, почетный профессор истории университета штата Мичиган (Энн-Эрбор) Николас Стенек, «озабоченность общественности нарушениями этических норм при проведении исследований впервые обозначилась в начале 1980-х годов в результате появления в печати нескольких докладов о фактах вопиющих нарушений. Один исследователь напечатал под своим именем десятки статей, ранее опубликованных другими. Другие исследователи в той или иной форме фальсифицировали результаты проведенных исследований. Усугубило ситуацию то, что создавалось впечатление, будто в ряде случаев исследовательские учреждения старались игнорировать или намеренно покрывали такие факты, а не расследовали их» [1].
Нарушения, естественно, обнаруживались самими исследователями. Однако довольно быстро выяснилось, что хотя корректировка поведения исследователей традиционно относилась к прерогативам институтов научного сообщества, в случае массовых нарушений добросовестности в исследованиях механизмы борьбы, которыми располагают институты сообщества в борьбе с нарушителями, оказались крайне неэффективными.
Дело в том, что императивы, которые, по мнению социологов науки, являются ориентирами для исследователей, не являются вполне этическими. Это императивы научного этоса, то есть системы практик, регулируемой не столько этическими категориями, сколько добровольными (минимально формализованными) обязательствами исследователя перед сообществом, членом которого он себя считает. Соответственно, главными средствами борьбы с нарушениями традиционно выступали разоблачение нарушений и формирование общественного мнения относительно нарушителей. Однако рассеянные санкции, действительно губительные для репутации нарушителей, оказались эффективными только в отношении небольшой части исследователей, прежде всего представителей научной элиты, уже заслужившей определенную репутацию, и наиболее амбициозной части карьерно мотивированной исследовательской молодежи. Что же касается огромной массы «рабочих лошадок», уже или еще не имеющих больших карьерных амбиций, то практическое отсутствие у них сколько-нибудь сложившейся репутации сильно уменьшает действенность рассеянных санкций2. Между
2 Свою роль, несомненно, сыграло и стремление к понятной для чиновника формализации «вклада» ученого в виде некого численного показателя, в качестве которого стало выступать число публикаций. Будучи спущен по бюрократической лестнице, этот показатель уже выглядел как: «Публикуйся любой ценой!». Цена обнаружилась достаточно быстро.
тем именно на них и их ценностные установки сильнейшее давление оказывают внешние соблазны. Идет постоянная жесткая конкурентная борьба, в которой исследователю приходится сталкиваться с трудными решениями: если, скажем, результаты одного из экспериментов в серии противоречат другим, ученый испытывает искушение игнорировать их и заявить, что все данные свидетельствуют в пользу исходной гипотезы.
Что же касается научных учреждений, то для выявления, а тем более, для наказания нарушителей (понижение в должности, увольнение и т. п.) у их руководства практически отсутствовали механизмы и нормативная база. Создание системы если не предотвращения нарушений, то хотя бы эффективных мер противодействия нарушителям требовало объединения усилий сообщества и органов государственного управления научно-технологическим комплексом. Не следует забывать, что речь шла о бюрократии десятков государств, каждое из которых обладает своими традициями и особенностями в управлении исследованиями.
Первыми в этот процесс вступили США: «...Вмешался Конгресс и потребовал, чтобы федеральные министерства и агентства и научно-исследовательские институты разработали документы, регламентирующие меры на случай нарушения этических норм» [2].
С некоторой задержкой проблемой добросовестности в исследованиях обеспокоились институты ЕС.
Серьезная оценка массовых нарушений добросовестности исследований дается в докладе экспертной группы Европейской комиссии «Добросовестность в исследованиях. Обоснование действий Европейского сообщества», опубликованном в марте 2007 г. В документе, в частности, обсуждается следующий вопрос: иногда говорится, что ненадлежащее поведение в исследованиях - это преступление, которое обходится без жертв. Однако, пишут его авторы, с этой точкой зрения нельзя согласиться:
«... ненадлежащее поведение исследователей вызывает много жертв. В их числе:
- пациенты, которые участвуют в мошенническом исследовании или пользуются его результатами;
- общество, доверие которого ко всем вообще исследованиям подрывается;
- лица, принимающие решения, начинают сомневаться в надежности данных, на которые они опираются;
- налогоплательщики или компании, деньги которых тратятся понапрасну;
- в глазах всех страдает репутация исследований как таковых;
- страдают и исследовательские архивы, в которых оказываются трудно устранимые искаженные данные» [2].
Таков весьма красноречивый, хотя, как представляется, далеко не полный перечень тех, кто оказывается жертвами недобросовестно проводимых исследований. Обращает на себя внимание то, что первое место
в этом перечне отведено тем тяжелым последствиям, которые возникают вследствие ненадлежащего проведения биомедицинских исследований - с качеством именно их связаны наиболее серьезные опасения общественности.
Сколько-нибудь точных данных о распространенности ненадлежащего поведения при проведении исследований немного. Тем не менее существующие данные говорят о том, что масштабы подобных явлений весьма значительны. Так, один из опросов, проведенных в США в 2002 г., в котором участвовало 3600 ученых среднего возраста и 4160 исследователей, недавно защитивших диссертации, чьи проекты были поддержаны Национальным институтом здоровья (NIH), дал такие результаты: 33 % респондентов (38 % находящихся на пике карьеры и 28 % молодых исследователей) признали, что за предыдущие три года у них бывали достаточно серьезные случаи ненадлежащего поведения, включая фальсификацию или фабрикацию данных, несообщение сведений о конфликте интересов, использование идей других исследователей без ссылки на них и утаивание данных, которые противоречат результатам своих ранее опубликованных исследований [3].
Согласно данным, цитируемым в докладе экспертов Еврокомиссии, нечестными являются от 0,1 до 0,3 % исследований. Таким образом, по оценке европейских экспертов, учитывая, что в странах Евросоюза 1,2 млн. исследователей, то даже при 0,1 % получается, что набирается около 1200 нечестных исследователей [4].
А вот некоторые данные, относящиеся к Китаю - стране, которая делает чрезвычайно много для того, чтобы занять лидирующие позиции в мировой науке. В 2009 г. Китайская ассоциация науки и технологий провела опрос, который показал, что почти половина исследователей в Китае считает ненадлежащее поведение в науке общераспространенной практикой. Когда респондентов попросили оценить серьезность распространения таких явлений, как плагиат, мошенничество и автоплагиат; оценки «серьезное» и «очень серьезное» дали соответственно 43,4 %, 45,2 % и 51,2 %. При анализе на плагиат, проведенном в 2007 г., в выборке китайских данных в 72 % статей был обнаружен плагиат, в 24 % - частичный плагиат, только 4% статей не содержали плагиата.
В 2009 г. агентство Синьхуа провело он-лайн опрос, показавший, что 44,25 % считают мошенничество «распространенным явлением». При этом 24,28 % респондентов отметили, что, поскольку так поступает большинство исследователей, отказываться от этого было бы, возможно, «достойно уважения, но глупо». Anthony L. Spek из Утрехтского университета, Голландия, редактор журнала «Crystalis», обнаружил 70 мошеннических статей, написанных в течение 2007-2008 гг. двумя профессорами одного из китайских университетов.
Особый размах в Китае приобрело такое сравнительно новое для науки явление, как фабрикация научных статей: в 2008 г. не менее 4700 человек в Китае покупали статьи, которые писались на английском кем-то другим. В 2007 г. общий объем покупаемых статей в Китае оценивался
в размере 1,8 млрд. юаней (270 млн. долл. США). В 2009 г. он возрос в 5,5 раз. В одной компании по торговле статьями в г. Ухань работает на полной ставке более 80 фабрикаторов статей. Она имеет прямой контакт с редакторами 200 журналов [5].
Значительные масштабы и серьезность последствий, вызываемых этими явлениями, привели к тому, что проблемами недобросовестного поведения исследователей стали заниматься не только внутри научного сообщества, но и в тех административных структурах, которые так или иначе связаны с разработкой и реализацией научной политики. Такого рода органы создаются и действуют уже во многих странах; впрочем, их статус и полномочия от страны к стране могут серьезно различаться. Так, в США Отдел по обеспечению честности в исследованиях (Office of Research Integrity), созданный при Министерстве здравоохранения и социального обеспечения, занимается исследованиями в области биомедицинских и поведенческих наук. Отдел осуществляет мониторинг проводимых в различных научных учреждениях расследований о ненадлежащем проведении исследований, а также посредством образовательной, превентивной и регуляторной деятельности способствует ответственному проведению исследований.
Если говорить об образовательной деятельности в сфере ответственного проведения исследований, то следует отметить, что в соответствии с сегодняшней политикой Национального института здоровья (NIH) США - крупнейшего в мире центра биомедицинских исследований -все участники финансируемых NIH исследований должны пройти курс ответственного проведения исследований (responsible conduct of research - RCR) и получить соответствующий сертификат. Это требование распространяется и на зарубежных исследователей, коль скоро они участвуют в финансируемых NIH проектах, и на проекты международных исследований, осуществляемых под эгидой NIH.
Безусловно, само по себе прохождение этого курса отнюдь не является гарантией того, что владелец сертификата будет безукоризненно соблюдать все принципы и нормы RCR. Но он по крайней мере будет осведомлен об их существовании, о том, что плагиат, фальсификация и фабрикация являются нарушением этих принципов и норм. Как мы увидим позже, это особенно важно в современной науке, в которой на ведущие роли все чаще претендуют молодые исследователи, далеко не всегда знающие о том, что является приемлемым, а что - недопустимым в практике проведения исследований.
Если говорить о Европе, то здесь по инициативе Европейской комиссии были созданы общеевропейские органы, ответственные за обеспечение добросовестности в исследованиях, а также даны рекомендации по формированию соответствующих структур на национальном уровне стран-членов ЕС.
Таблица 1. Национальные государственные органы стран ЕС, ответственные за контроль добросовестности в исследованиях
Страна Национальный орган Тип деятельности Уровень воздействия Связь с результатами исследований
Дания Комитеты по научной недобросовестности (DCSDs) Расследования Все институты государственного сектора, университеты и штат академий Национальная юрисдикция
Франция Нет постоянного органа (Экстренные меры INSERM и COMETS) Консультации и расследования Расследования, когда речь идет о государственном финансировании Государственный контроль институтов
Финляндия Финское национальное бюро по этике Консультации и рассмотрение апелляций Университеты, добровольно Сигналы от добровольцев
Германия Служба омбудсмена при DFG Консультации и расследования Расследования в сфере поддержки DFG Условие господдержки исследований
Нидерланды Национальный комитет по научной добросовестности Консультации и надзор за расследованиями Добровольно -университеты и институты NWO и KNAW Работа по соглашению с NCSI
Швеция Рабочая группа по ненадлежащему поведения в исследованиях Шведского научного совета Консультации и изучение научных публикаций Университеты на добровольной основе Соглашение с SRC
Великобритания Экспертная группа по добросовестности исследований в медицине и биомедицинских науках Консультации Консультации Постоянные связи отсутствуют
Формы и нормы
Национальный совет по науке и технологиям - исполнительный орган при президенте США - дает следующее определение ненадлежащего исследовательского поведения (research misconduct): «фабрикация, фальсификация или плагиат в предложении, проведении или рецензировании исследования либо в сообщении его результатов» [6]. При этом под фабрикацией (подлогом) понимается выдумывание данных или результатов и запись или сообщение их; под фальсификацией - манипулирование исследовательскими материалами, оборудованием или процессами либо изменение или невключение данных или результатов, вследствие чего искажаются материалы исследования; под плагиатом - присвоение идей, процессов, результатов или слов другого лица без указания
соответствующих заслуг этого лица. Однако различие во мнениях не относится к ненадлежащему поведению [6].
Наряду с перечисленными формами ненадлежащего исследовательского поведения обсуждается и такая тема, как спорные исследовательские практики (Questionable Research Practices), под которыми понимаются отклонения от принятой в соответствующем исследовательском сообществе практики проведения исследований [7]. Считается, что нарушения такого рода имеют место более часто, их общее количество оценивается в диапазоне от 10 % до 40 %. К их числу относят: статистические ошибки; неправильное указание авторства; дублирование публикаций; неряшливые или небрежные публикации [8].
Согласно документу Национального совета по науке и технологиям, с юридической точки зрения говорить о ненадлежащем исследовательском поведении можно только тогда, когда:
- имеет место значительное отступление от принятых в данном исследовательском сообществе стандартов научной деятельности, и
- такое ненадлежащее поведение осуществляется намеренно либо сознательно, либо с пренебрежением к принятым стандартам и
- обвинение доказывается неопровержимыми свидетельствами [6].
Следует, однако, подчеркнуть, что в цитируемом документе речь
идет лишь о таких нарушениях, к рассмотрению которых могут привлекаться соответствующие органы федерального правительства США. Иными словами, документ задает минимальный стандарт оценки приемлемого поведения, а не критерий оценки поведения исследователей в целом. В частности, при этом вовсе не имеется в виду, что прочие нарушения норм исследовательского поведения приемлемы. Основной заботой государственных органов при разработке этого определения являлось обеспечение точности и правильного представления результатов финансируемых государством научных исследований посредством четкого указания на то, что фабрикация, фальсификация и плагиат при проведении научных исследований неприемлемы [1].
В свою очередь, эксперты Еврокомиссии дают такую характеристику отступлений от надлежащего исследовательского поведения. Это:
- плагиат - несанкционированное использование или близкое к тексту воспроизведение языка и мыслей другого автора и представление их в качестве собственной оригинальной работы. Пример: при создании телескопа и открытии пятен на солнце Галилей утверждал, что работы, сделанные другими, принадлежат ему;
- фальсификация - манипулирование данными исследований или невключение критических данных и результатов. Пример - Г. Мендель, как было показано английским статистиком Р. Фишером, манипулировал своими данными, указывая менее существенный разброс данных, чем он мог наблюдать в действительности. Впрочем, в данном случаем, как замечают авторы доклада, можно говорить не столько о фальсификации, сколько о примере предвзятости;
- фабрикация - умышленная фальсификация исследовательских данных и результатов в записях и сообщении о них в журнальной ста-
тье, в некоторых случаях запрещается законом. В качестве примера при этом упоминается казус, произошедший с норвежским исследователем Йоном Судбё (Jon Sudb0) [2, р. 8].
В 2004 г. онколог из радиевой больницы в Осло, выполнявший исследование по гранту американского Национального ракового института (National Cancer Institute), опубликовал в одном из ведущих медицинских журналов «Lancet» статью, согласно которой препарат ибупрофен снижает риск рака гортани. Выводы Судбё и соавторов основывались на данных, касающихся 908 испытуемых, часть из которых страдала раком гортани, часть принадлежала к контрольной группе.
Как сообщал сайт elementy.ru, исследование привлекло большой общественный интерес, о нем сообщало даже такое известное издание, как американский журнал Forbes. Вскоре, однако, выяснилось, что база данных, на которых основывалось исследование, была сфабрикована. Как оказалось, у 250 из зафиксированных в ней пациентов была обозначена одна и та же дата рождения.
Если наиболее распространенные и опасные виды нарушений, как и санкции против нарушителей, определены достаточно надежно, то совокупность действий по их обнаружению и особенно предотвращению пока еще далеко не сформирована. Предпринимаемые различными странами и институтами в этом направлении меры могут рассматриваться лишь как пробные камни в решении задачи, так как они дают пока очень неоднозначные результаты.
Так, под давлением жесткой конкуренции появляется соблазн (подчас с самыми благими намерениями) опорочить методы и результаты конкурента, с тем чтобы, если не скомпрометировать их окончательно, то, по крайней мере, затормозить их публикацию.
Кроме того, далеко не все исследователи одобряют деятельность своих супербдительных коллег, что, собственно, и послужило поводом для введения в германских университетах института омбудсмена, главной задачей которого становится конфиденциальный разбор ситуаций, а также защита жалобщиков и доносителей. Думается, о многих других следствиях мер, предпринимаемых с самыми благими целями, мы узнаем в ближайшее время.
Это способствует развитию подозрительности, закрытости и существенному нарушению коммуникаций в научной среде.
Значительную роль сыграло и поведение издателей некоторых весьма престижных научных журналов. При публикации статей, к примеру, нарушалось одно из главных неписаных требований: не указывался источник финансирования исследований. Кроме того, анализ пресс-релизов девяти ведущих научных журналов по медицине, проведенный американскими учеными, показал их откровенно рекламный крен и неправомерно высокие оценки практических перспектив ряда работ. Не остались в стороне и научные журналисты.
Возможно, все это неизбежные издержки первой чисто эмпирической реакции сообщества и общества на возникшую опасность. Тем не менее, с уверенностью можно говорить об одном - происходят серьезные из-
менения во всей системе взаимоотношений внутри исследовательской деятельности.
Вместе с тем становится все более ясно, что объединение усилий сообщества и государственных органов в принципе не может покрыть всю сферу регулирования деятельности ученых. В настоящее время, и это отмечают многие специалисты, основная конкуренция в науке идет не только, а подчас, и не столько за рост профессионального признания, сколько за доступ к источникам финансирования исследований. А среди этих источников практически во всех развитых странах огромную роль играют деньги, идущие от бизнеса - напрямую через исследовательские субсидии и косвенно через систему фондов.
Особую остроту проблема воздействия бизнеса на исследовательскую деятельность приобрела в сфере биомедицинских исследований. Вообще говоря, эта сфера примечательна тем, что, как правило, именно в ней впервые обнаруживаются многие из тех, порой весьма радикальных, структурных и институциональных трансформаций, которые характерны для современной науки и ее взаимоотношений с обществом. Значительную часть исследований в этой сфере (порядка 80 %) составляют клинические испытания новых лекарственных препаратов. Чаще всего эти исследования финансируются фарминдустрией, которая в наши дни является одним из наиболее прибыльных бизнесов. Современное биомедицинское исследование - это поле, на котором происходит взаимодействие, а, следовательно, и столкновение интересов целого ряда игроков. Помимо исследователя и испытуемого это еще и члены этического комитета, и спонсор исследования (чаще всего - та же фармкомпания), и представители популяции, население которой выступает в качестве испытуемых, и т. д. [9].
Расхождение, порой доходящее до резкого противостояния интересов взаимодействующих сторон, носит институциональный характер - иными словами, дело не в злом умысле той или иной из них, а в характере той ситуации, в которую они объективно поставлены. Поэтому существуют и институциональные же механизмы регулирования такого рода конфликтов. Скажем, институциональный интерес испытуемого (он же, как правило, и пациент) заключается в том, чтобы поправить свое здоровье. Что касается исследователя, то его институциональный интерес - получение нового знания. И руководствуясь этим интересом, он может идти на попрание интересов тех, кто участвует в его исследовании.
Институциональным механизмом регулирования такого рода конфликтов в современной практике биомедицинских исследований является этический комитет. Это - структура, впервые появляющаяся в середине 70-х годов ХХ века; сегодня же проводимая этическим комитетом экспертиза стала неотъемлемой частью исследовательского процесса в биомедицинских (а в некоторых странах и поведенческих) науках. Этический комитет выступает в качестве посредника между испытуемым и исследователем: учитывая, что во взаимодействии с исследователем испытуемый (пациент) является уязвимой стороной, нетрудно понять, что этот посредник призван прежде всего защищать именно испытуемого.
Но особенно влиятельный игрок на поле биомедицинских исследований - это спонсор, фармацевтическая фирма, которая финансирует и создание нового лекарственного препарата, и его клинические испытания. Институциональный интерес спонсора, очевидно, заключается в получении прибыли. И этот интерес, вообще говоря, может оказывать весьма существенное воздействие на исследователя, приводя к искажениям, далеко не всегда преднамеренным, как получаемых в ходе исследования данных, так и их интерпретации. Обычно исследователь и с финансовой, и с карьерной точки зрения крайне заинтересован в сотрудничестве со спонсором, а значит, податлив по отношению к некоторым исходящим от спонсора воздействиям, включая и такие, которые могут сказываться на добросовестности проведения исследования.
Можно констатировать, что, несмотря на достаточно интенсивные поиски, пока не удается выстроить надежных институциональных механизмов для нейтрализации такого влияния спонсора на исследователя. Впрочем, нельзя сказать, что такие поиски совсем уж безуспешны. Так, одна из проблем состоит в том, что зачастую по условиям контракта со спонсором исследователь не может самостоятельно решать вопрос о том, где и когда он вправе публиковать результаты своего исследования. Исследователь заинтересован в том, чтобы публикация вышла в свет как можно быстрее, однако спонсору это не всегда бывает выгодно. Его позиция может быть обусловлена либо соображениями сохранения коммерческой тайны, либо нежеланием делать публичными результаты клинического испытания, которое не подтвердило эффективности проверяемого лекарственного препарата или даже выявило какие-либо негативные последствия от его применения. Во втором случае решение отказаться от публикации может нанести урон интересам не только исследователей, но и участников исследования, и всех потенциальных потребителей испытываемого препарата. Более того, при этом в определенной мере нарушаются интересы и других исследователей, и других фармацевтических компаний, поскольку они будут понапрасну тратить свои ресурсы на поиск в заведомо бесперспективном направлении.
В рамках традиционного этоса науки исследователь сам решает вопрос о том, публиковать или не публиковать полученные им результаты - при этом считается, что отказ от публикации наносит ущерб только (или прежде всего) ему самому. Но сегодня, как мы видим, ситуация намного усложняется, публикация исследовательских результатов (а следовательно, и само проведение исследований!) затрагивает интересы самых разных сторон.
Решением, по крайней мере частичным, этих проблем является получающая в последние годы все более широкое распространение практика регистрации всех подаваемых заявок на проведение биомедицинских исследований в электронных базах данных. По мере того, как эта практика приобретает обязательный характер, мы получаем институциональное решение одной из весьма остро стоящих проблем организации, проведения и использования результатов биомедицинских исследований.
Так выглядит краткая экспозиция тех явлений и игроков, которые взаимодействуют в рамках единого поля, на котором осуществляются процессы производства и использования научного знания, сопровождаемые, увы, всякого рода нарушениями. Все это позволяет утверждать, что мы имеем дело с некоторыми системными изменениями в социально-экономическом развитии, и, прежде всего, в характеристиках научно-технологического прогресса как его основы.
Устранение частных отклонений в поведении элементов системы, то есть действия в режиме обратной связи, имплицитно предполагают возврат системы в уже утраченное ею состояние. Такие действия, естественно, оказываются малоэффективными.
Более обещающим выглядит углубленный анализ характера и масштаба произошедших изменений и коррекция поведения в результате мониторинга системы в целом.
Направления системного анализа ситуации
Массивные исследования изменений в научно-технологическом комплексе развернулись в 90-х годах в связи с попытками наполнить содержанием представления об «экономике знаний», «обществе знаний» и т. п., интуитивная ясность которых опиралась на мощную идеологию и, вроде бы, подтверждалась многочисленными иллюстрациями и примерами.
Среди этих направлений, на наш взгляд, наиболее последовательно продвигались исследователи группы М. Гиббонса и Х. Новотны, работавшие над концепцией новой формы производства знаний (так называемый «режим-2»). Новое производство знаний носит подчеркнуто междисциплинарный, нередко даже трансдисциплинарный (т. е. вообще выходит за рамки научных дисциплин) характер и ориентировано на крупные научные и/или прикладные проблемы в реальном мире. Она идеологически и структурно противостоит «режиму-1», для которого характерна монодисциплинарность исследований, инициатива отдельного ученого в выборе проблемы, и ее развитие, по крайней мере, на первых порах неформальными группами, т. н. «невидимыми колледжами» [10].
Книга Гиббонса и коллег, содержащая множество ярких примеров и достаточно представительную феноменологию, вызвала широкое обсуждение, в котором, однако, постепенно стали преобладать критические нотки.
Главная претензия касалась неправомерного ограничения объекта исследований - практически единственной сферой производства знания в книге оказывалась наука и метаморфозы, произошедшие с ней в последние годы. Между тем, как отмечали критики, современное производство знаний происходит при взаимодействии трех социальных институтов: академической науки - бизнеса - правительства [11]. Для обозначения структуры этого взаимодействия был выбран броский тер-
мин «Тройная спираль», вызывающий аллюзии со знаменитой книгой Д. Уотсона.
Это взаимодействие, где каждая из трех составляющих функционирует и развивается под влиянием интересом двух других и определяет стратегию и отдельные крупные сдвиги внутри сферы непосредственной работы над знанием, которая сегодня далеко выходит за рамки чистой науки и с 60-х годов обозначается термином «исследования и разработки» (R&D).
Концепция «Тройной спирали» учитывает целый ряд параметров, характеризующих современные изменения в системе научно-технологического развития: неравномерную скорость прогресса в отдельных областях науки и технологий, появление инновационного развития как существенной черты новой экономики, основанной на знании, и ряд других не менее важных моментов [11].
Основная цель концепции может быть определена как выработка динамичной и рациональной научно-технологической политики, учитывающей интересы всех трех спиралей.
В нашу задачу не входит подробный анализ концепции «Тройной спирали», так как она концентрируется исключительно на взаимодействиях институционального уровня и практически не уделяет внимания центральной для нас проблеме - поведению индивидуальных участников, работающих в лабораториях, институтах и т. д. Подобные претензии в адрес «Тройной спирали» высказывают многие социологи.
Действительно, при всем разнообразии отличий современного этапа научно-технологического прогресса, все без исключения отмечают возросшую роль человеческого фактора. Логичной поэтому будет попытка проследить, как фундаментальные подвижки на макроуровне отражаются в конечном итоге на поведении всех тех, кто обитает на микроуровне -ученых, инженеров, студентов, бизнесменов, официальных лиц и т. п. Почему совокупность писаных и неписаных норм и схем, успешно регулировавшая это поведение на протяжении четырех-пяти десятилетий, стала малоэффективной и, по-видимому, требует серьезной коррекции?
Чтобы разобраться в этом, вспомним, что само представление о нормальном ходе научно-технического прогресса сложилось у специалистов, а затем и перешло в общественное сознание относительно недавно. Понятие научно-технического комплекса как носителя прогресса сформировалось в послевоенные годы, в ходе большой работы по «демобилизации» науки. Сформировалось не без трудностей и ожесточенных дискуссий о том, что на смену «малой» (университетской) науке теперь повсеместно приходит «большая» наука, построенная по производственным принципам: жесткое разделение труда, вертикально интегрированное управление и коммуникации, закрытость относительно конкурентов и т. п.
Последовательность переходов между научной идеей и экономикой (волна обновления) была выстроена в виде цепочки: фундаментальные исследования - прикладные исследования - научно-конструкторские разработки - внедрение - производство - рынок. Официальный статус
этой схеме был придан в документах ООН и ЮНЕСКО (Fraskati Manual).
На магистральных направлениях научно-технического прогресса величина этого промежутка колебалась вокруг пятнадцати лет, то есть фактически волна обновления технологий совпадала по продолжительности с серьезными сдвигами в экономике. При ближайшем рассмотрении можно обнаружить совпадение этого интервала с динамикой основных социально-экономических процессов, таких, как максимальная продуктивность «поколения» работников в основных сферах деятельности; мода на новую волну рыночных продуктов; идеологическое осмысление новой ситуации; подготовка нового поколения в науке (от ученика до учителя); карьерное продвижение в управленческих структурах; серьезные сдвиги в характере потребления и т. п. Для формирования научно-технологической политики и стратегии управления НТП особое значение имело и то, что на интервал 15-20 лет можно было строить достаточно надежные прогнозы (научно-технологическое прогнозирование становится одной из самых почтенных сфер экспертной деятельности во всем мире). В традиционном НТП само технологическое развитие, то есть реализация прогнозов, в значительной мере рассматривалось как реализация военных, экономических или социальных задач, стоявших перед той или иной страной, как выполнение определенного социального заказа.
Ограниченность и недостатки этого представления о динамике и структуре НТП выявились по мере развития ряда отраслей высоких технологий и инновационной экономики3. Новая «волна обновления», характерная для высокотехнологичных отраслей экономики, а также, что, пожалуй, еще более важно, для системы высшего профессионального образования, теперь составляет всего 2-4 года.
Хочется отметить, что речь идет отнюдь не о метафоре: у каждой из указанных возрастных групп полностью присутствуют все основные социальные характеристики, традиционно отличающие данное поколение от предыдущих и последующих. Основными характеристиками такого рода являются: повышение уровня доступа к информации для каждого нового поколения; стремление в пределах данного интервала (2-4 года) определить свою нишу и статус в социальной сфере и на рынке труда; мотивированность на участие в рисковых инновационных проектах; активное участие в сетях коммуникации своего поколения (следует отметить, что речь не идет о пресловутой проблеме «отцов и детей»: отношение к другим поколениям в целом вполне лояльное, но коммуникация с ними резко ослаблена) и готовность к формированию подобных сетей
3 Понятие инновации, как одного из двигателей прогресса, веденное в первой половине ХХ в. Й. Шумпетером, объединяло идею нововведения (технического, организационного, социального и т. п.) и энергию предпринимателя - инициативного индивида, готового рисковать своим временем и капиталом для того, чтобы обеспечить рыночный успех реализации новой идеи. В этом смысле инновационное развитие по ряду существенных характеристик альтернативно традиционному НТП, а в ряде случаев противостоит его организационным схемам.
по широкому набору тем и функций; постоянное стремление к смене партнеров и расширению коммуникаций внутри сети; отсутствие постоянного управляющего центра при широком обращении к сетевым информационным ресурсам; осознанная необходимость в постоянной образовательной подпитке.
Современный прогресс в области высоких технологий уже невозможно уложить в традиционную схему. Во-первых, их взрывное развитие в очень многих случаях существенно обгоняет наличные практические потребности и, соответственно, не поддается стратегическому планированию. Во многих случаях эти потребности осознаются или изобретаются уже задним числом, когда инновации, необходимые для их удовлетворения, уже существуют годами. Это заставляет корпорации и правительства затрачивать серьезные ресурсы для формирования даже довольно «мягких» прогнозов типа forеsight, в стремлении определить сферы возможного применения даже той относительно небольшой части научных идей и технологических новаций, которые удается предвидеть более или менее надежно.
Во-вторых, инновационное развитие не удается описать в традиционной последовательности звеньев в цепочке НТП (фундаментальные исследования - ...).
В традиционной схеме НТП практическое знание было уделом специалистов, которые передавали его в экономику и к населению в виде уже готовых продуктов и услуг (в том числе и образовательных), предварительно обрабатывая его на каждом шаге уже упоминавшейся цепочки переходов. Соответственно, цикл передачи знания (от новой научной идеи до конечного продукта) занимал в среднем около 15 лет, а доступ к знанию на каждом шаге находился под контролем системы управления.
Хронологическая согласованность этих и массы других, тесно связанных процессов была настолько велика, что воспринималась как нечто «естественное». Не менее естественным выглядело и возрастное накопление профессиональных, должностных и социальных преимуществ (стаж работы). Смена шагов приводила, как правило, к определенным локальным напряжениям (пресловутые конфликты «отцов и детей»), которые достаточно легко преодолевались. Согласованность процессов давала возможность составлять достаточно надежные научно-технологические и экономические прогнозы, то есть делало НТП в определенной степени управляемым.
Не менее естественным представлялось и то, что в управленческой вертикали каждый высший уровень обладал преимуществом в доступе и объеме информации о поведении системы в целом.
Инновационное развитие по практически всем основным параметрам: субъектам процесса, схеме отношений между ними, последовательности этапов и т. д. кардинально отличается от «магистрального пути» НТП, основными двигателями которого были государственные хозяйственные отрасли и крупные корпорации.
До тех пор, пока вклад индивидуальных инноваторов и малых предприятий в НТП был практически незаметным, им можно было прене-
брегать. Сегодня роль инновационного развития в общей экономической динамике и его масштабы осознаны, накоплен достаточно большой материал о специфике этого развития, однако его взаимоотношение с традиционной схемой управления НТП выпало из сферы интересов исследователей социально-экономических процессов.
Можно утверждать, что речь идет о двух альтернативных типах научно-технологического прогресса, обеспечивающих его в различных сегментах социально-экономической системы.
Между тем в научной политике и стратегии развития современных государств хотя и декларируется приверженность к инновационному развитию, но его специфика практически никак не отражается в сфере управления. На законодательном уровне и в практике управления социально-экономическими системами описанная ситуация рассматривается как «временные трудности». Они не включены в список актуальных управленческих задач, а учеными - не сформулированы как проблемы, в решении которых можно продвинуться за счет исследований.
На практике это приводит к тому, что в государственном управлении экономикой, особенно в индустриально развитых странах, научно-технологическая и инновационная политика либо развиваются параллельно, либо реализуются главным образом с помощью совершенно непригодного инструментария, некогда созданного для традиционной модели НТП.
Между тем общество знания, по определению, представляет собой общество, население которого обладает доступом к знанию (включая способы его культурного и экономического использования), достаточным для активного и квалифицированного участия в процессе инновационного развития, то есть изменения условий жизни путем создания и распространения инноваций. Наивно было бы думать, что такие кардинальные изменения не затронут идеологию, ценностные ориентации и регуляторы поведения кадрового потенциала научно-технологического комплекса.
Таблица 2. Идеология и социально-психологическая среда участников двух типов НТП
«Шаг времени»: 12-15 лет Традиционная экономика «Шаг времени»: 3-5 лет Инновационная экономика
Определяющие параметры: стабильность, резидентность, преемственность Определяющие параметры: динамика, мобильность, дискретность
Мотивация: Возрастное накопление социальных преимуществ (стаж) Мотивация: Участие в рисковых проектах, чтобы найти свою нишу и получить экономические преимущества
Решающий карьерный рывок: 35-40 лет Решающий карьерный рывок: 24-27 лет
Доступ к информации непосредственно зависит от величины административного ресурса Доступ к информации зависит от мотивации, способностей и коммуникативности пользователя.
В приведенной таблице [12] намечены узловые характеристики, которые, на наш взгляд, определяют мотивацию выпускников высшей школы на разных этапах их трудовой деятельности. Еще относительно недавно карьера выпускника выглядела довольно узким коридором. Накопление статуса специалиста происходило шаг за шагом, в соответствии с его способностями (аспирант, научный сотрудник или инженер, старший преподаватель или доцент и т. п.). Параллельным вариантом было продвижение по должностной лестнице (руководитель подразделения, заместитель декана или директора НИИ и т. п.). Естественно, подавляющее большинство «солдат» достаточно быстро обнаруживали, что перспективы выйти в генералы у них практически отсутствуют. Однако альтернативы форм карьеры, исключая, может быть, политическую деятельность, не было. Мотивация, управленческая, информационная инфраструктура, система поддержания и повышения квалификации, императивы профессионального сообщества - все это жестко ограничивалось карьерным коридором.
Ситуация стала серьезно изменяться по мере развития того, что с серьезным расширением термина мы называем инновационной экономикой.
Для нашей темы особую важность приобретают две клеточки в правой части таблицы: /1/возраст основного карьерного рывка, /2/мобиль-ность наиболее активной части кадрового потенциала по фронту рыночных потребностей.
1. Возраст основного карьерного рывка. Для молодого человека, восемнадцать лет своей жизни потратившего на образование, основной карьерный рывок означает, в полном соответствии со сложившейся в обществе идеологией, принадлежность к «среднему классу», причем не в отдаленном будущем, а в возрасте 30-35 лет. Это не только стремление перейти в определенную статусную категорию, но и определенный материальный достаток, средства на достойное содержание семьи и т. п.
В исследованиях интервал принятия судьбоносных индивидуальных решений (27-33 года) совпадает с окончанием первой или второй стажировки. Здесь исследователю становится ясно, имеет ли смысл его дальнейшее постепенное продвижение в науке, или же имеет смысл использовать накопленный человеческий капитал в сфере инновационного развития, консультирования и т. п. Нужно учесть, что в быстро развивающихся областях технологии на исследователей оказывается огромное давление. Исследовательский грант, как правило, на порядки меньше исследовательской субсидии, предоставляемой фирмой, надеющейся опередить конкурентов на рынке.
Как следствие этого исследователь сталкивается с трудными решениями: если результаты одного из экспериментов в серии противоречат другим, ученый испытывает искушение игнорировать его и заявить, что все данные указывают в одном направлении. Экстремальные случаи намеренной фальсификации редки4.
4 Внимание социологов и науковедов сконцентрировалось на самих особенностях корпоративной этики, которая, как это, в общем-то, было известно, является этикой
2. Мобильность наиболее активной части кадрового потенциала по фронту рыночных потребностей. Здесь мы сталкиваемся, прежде всего, с инновационной деятельностью. Из науки и инженерии в инновационный процесс ежегодно уходят тысячи молодых талантливых и азартных специалистов, готовых принять характерные для фронтира правила конкуренции. Значительное большинство этих молодых людей успеха не добивается, недаром инновационный бизнес основан на риске. Жесткие санкции и отторжение нарушителей научного этоса ведут к огромным кадровым издержкам - научное сообщество навсегда потеряет своих талантливых и энергичных блудных детей [13].
Поэтому постепенно растет понимание главной задачи - предотвращение нарушений, а не борьба с нарушителями. Эта задача, по определению имеет стратегический характер.
Направления стратегического движения
Проводимые исследования сложившейся ситуации, а также выявившаяся ограниченность практических оперативных мер по ее выправлению, как со стороны научного сообщества, так и со стороны исполнительных государственных органов - все поставило вопрос о серьезном пересмотре позиций в современной постановке проблемы отношения общества к НТП. Ситуация, в которой эти отношения общество фактически делегировало органам исполнительной власти и научному сообществу, показало свою неадекватность современным условиям.
Поэтому одним из главных направлений в стратегии стало расширение общественного контроля за развитием науки и НТП в целом. В центре внимания оказались вопросы инновационного развития и технологического трансфера.
Прежде всего, предпринимаются последовательные усилия по развитию правовой базы НТП с упором на регулирование инновационных процессов. Так в США первый закон об инновациях (т. н. закон Бэя-Доула) был принят еще в 1980 г. Затем этот закон, определяющий правовую базу современного НТП, был существенно модифицирован в 2008 г. [14].
лишь в очень ограниченном специальном смысле (неслучайно в специальной литературе для ее обозначения используется термин «этос»). Правила поведения в профессиональном сообществе, приверженность его ценностям, идеологии, моральным обязательствам и т. п. действуют лишь тогда и постольку, когда и поскольку человек связывает свое настоящее и особенно свою будущую карьеру с признанием исключительно в границах этого сообщества. Если индивид меняет сферу деятельности, он попадает в зону действия других правил, (в данном случае - бизнес-сообщества) причем его нравственный облик, интегрированность личности, отношения с богом и мир в его душе вовсе не разрушаются. Мы чуть ли не каждый день сталкиваемся в жизни и видим в телевизоре политиков, бизнесменов, журналистов и др., некогда пришедших в это профессию из науки. Никаких особых этических реликтов исследовательского прошлого в их поведении не заметно, они, так или иначе, адаптировались к новому окружению.
Ряд правовых шагов был предпринят и с целью обеспечить прозрачность НТП для широкого участия общества в контроле инновационной деятельности. Сегодня есть все основания говорить о социально распределенном производстве знаний, когда общество в лице отдельных локальных сообществ, социальных групп и разного рода потребительских движений рассматривается не как пассивный восприемник новых научных и технологических достижений, а как одна из сторон инновационного процесса, участвующая в формировании проблематики исследовательских и технологических проектов.
В процессе технологического трансфера вместо традиционной схемы все чаще говорится о схеме R&D&D, третьим новым обязательным звеном которой является демонстрация каждого этапа НТП обществу. Усилия законодателей [15], идут параллельно с интенсивным обсуждением проблемы и огромным числом конкретных проектов R&D&D практически во всех развитых регионах мира [16, 17].
Одновременно развертывается серьезная работа по подготовке общества к полноценному участию в этом процессе под девизом - «Общественное доверие в науке и технологии - критическое качество для развитого общества». Первые инициативы исходили из сферы биомедицинских исследований, в рамках которой нащупываются разнообразные пути и формы того, что называют вовлеченностью общества или отдельных сообществ (public engagement, community engagement). В частности, при планировании и проведении приобретающих все более широкий размах международных многоцентровых клинических исследований быстро возрастает роль локальных сообществ. Их лидеры или представители начинают привлекаться к участию в исследованиях, получают право голоса в решении таких вопросов, как, скажем, определение целесообразности испытания данного лекарственного препарата именно в данном сообществе (что зависит от распространенности среди членов сообщества тех заболеваний, для борьбы с которыми предназначен данный препарат), параметры рекрутирования участников планируемого исследования и т. п.
Другим примером может служить серия проектов, реализуемых в рамках Европейской комиссии по теме «Нанотехнологии и общество» [18, 19]. В этих проектах не только оцениваются уровень информированности общества и позиции различных социальных групп относительно тех благ и рисков, которые несет с собой развитие нанотехнологий. Наряду с этим анализируется широкий круг инициатив по вовлечению общественности в обсуждение перспектив развития нанотехнологий, стимулированию широкого диалога между научным сообществом и общественностью, определению целесообразности этического и правового регулирования тех или иных нанотехнологических разработок и т. п.
С целью максимально компетентного участия в осуждении научно-технологических новинок формируется новый виток в развитии популяризации науки - создании новых форм научных и технологических музеев, научных фестивалей и т. п.
Другим стратегическим направлением является пересмотр системы профессиональной подготовки ученых. Целью здесь выступает де-сакрализация представлений о научной профессии, описание научной деятельности в современной социально-организационной реальности. Творческий характер деятельности ученых вовсе не отменяет их обязательств перед обществом, все более основательная и многогранная вплетенность науки в сложные организационные системы предполагает определенную регламентацию научной деятельности, которая должна и может быть подробно описана. Примером такого описания может служить «Европейская хартия исследователей», в кодексах которой зафиксированы отношения между исследователем, организацией и работодателем [20].
В настоящее время успешно реализуется ряд программ подготовки исследователей, упор в которых делается на систему дистанционного обучения и консультаций. Дальше других продвинулась «Объединенная институциональная учебная инициатива» CITI, на базе которой создается мощный общедоступный ресурс «Ответственное поведение ученых» с подробнейшими методическими разработками во всех областях наук (биомедицина, социальные науки, естественные и гуманитарные науки, технические науки, науки об управлении) [21].
Таким образов в обоих главных направлениях выбранной стратегии уже наметилось серьезное продвижение.
Хочется надеяться, что люди и институты, ответственные за научную политику и управление наукой в нашей стране, поймут всю важность процессов модернизации, которые проходят во всех развитых странах [22].
Литература
1. Steneck Nicholas H. ORI introduction to the responsible conduct of research. Washington, D.C.: Dept. of Health and Human Services, Office of the Secretary, Office of Public Health and Science, Office of Research Integrity, 2003. P. 12.
2. Integrity in Research - a Rationale for Community Action http://ec.europa. eu/research/science-society/document_library/pdf_06/integrity-in-research-ec-expert-group-final-report_en.pdf.
3. Martinson Brian C., Anderson Melissa S., de Vries Raymond. Scientists behaving badly // Nature, 435, 737-738 (9 June 2005).
4. FP7 - 2007-2013 webpage (http://cordis.europa.eu/fp7/home_en.html).
5. Zhu Guo-Guang, IlkkaMarjomaa. Recent trends of scientific misconduct in China, and suggestions towards a system of scientific integrity // 2-nd World Conference on Research Integrity. Singapore. July 2010.
6. Federal Policy on Research Misconduct // http://www.ostp.gov/cs/ federal_policy_on_research_misconduct.
7. Steneck, Nicholas H. Fostering integrity in research: Definitions, current knowledge, and future directions // Science and Engineering Ethics, Volume 12, Number 1, March 2006, pp. 53-74.
8. Kelly L. Wester; John T. Willse; Mark S. Davis. Responsible Conduct of Research Measure: Initial Development and Pilot Study // Accountability in Research, Volume 15, Issue 2 April 2008, pp. 87-104.
9. Юдин Б. Г. Антропологические основания биомедицинского исследования // Философия и этика. Сборник научных трудов к 70-летию академика А. А. Гусейнова. М., Альфа-М, 2009, с. 680-693.
10. Gibbons Michael, Camille Limoges, Helga Nowotny, Simon Schwartz-man, Peter Scott, & Martin Trow. The new production of knowledge: the dynamics of science and research in contemporary societies // London: Sage/1994.
11. Ицковиц Г. Тройная спираль. Инновации в действиию // Томск. Издательство Томского ГУ систем управления и радиоэлектроники. 2010. 238 с.
12. Барботько Л. М., Мирский Э. М. ИТ и модернизация социально-экономических систем // САИТ-2005, Первая Международная конференция «Системный анализ и информационные технологии» 1216 сентября 2005 г. Переславль-Залесский. С. 15-20.
13. Мирский Э. М., Барботько Л. М., Войтов В. А. Наука и бизнес. Этос фронтира // Этос науки. М.: Academia, 2008. С. 137-151
14. The National Innovation Act of 2008 http://dst.gov.in/draftinnovationlaw. pdf.
15. Legislative Branch - Research, Development, Demonstration & Deployment (RD&D) (111th Congress) http://www.acore.org/policy/legislative-branch-research-development-demonstration-deployment-rdd-111th-congress.
16. Changqing Urban-Rural Infrastructure Development Demonstration Project //Loan-2648 PRC: http://www.adb.org/projects/project. asp?id=42012.
17. Research, development, demonstration, and commercial application activities //42 USC 13541 - Sec. 13541. http://us-code.vlex.com/vid/demonstration-commercial-application-19244391.
18. Understanding public debate on nanotechnologies. Options for framing public policy. A report from the European Commission Services. Ed. by Rene von Schomberg and Sarah Davies. Luxembourg: Publication office of the European Union, 2010.
19. Public consultation on the needs for EU action related to Nanotechnologies http://ec.europa.eu/research/consultations/snap/consultation_en.htm.
20. Commission Recommendation on the European Charter for Researchers and on a Code of Conduct for the Recruitment of Researchers // Brussels, 11.3.2005, C(2005) 576 final (Перевод на русский язык Э. М. Мирского см. http://www.courier-edu.ru//cour0504/5900.doc).
21. The CITI Program: An International Online Resource for Education in Human Subjects Protection and the Responsible Conduct of Research https://www.citiprogram.org/rcrpage.asp.
22. Аузан А. А. Как снизить риски модернизационных проектов http:// www/courier-edu.ru/cour1103/3600.htm.
