Научная статья на тему 'Абсорбционный потенциал результатов целевых государственных научно-технических программ: опыт теоретического исследования'

Абсорбционный потенциал результатов целевых государственных научно-технических программ: опыт теоретического исследования Текст научной статьи по специальности «Экономика и бизнес»

CC BY
317
43
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ПРИНЯТИЕ РЕШЕНИЙ / ЭКСПЕРТИЗА / ИННОВАЦИИ / ВЕРБАЛЬНЫЙ АНАЛИЗ / МУЛЬТИМНОЖЕСТВА / DECISION-MAKING / EXPERTISE / INNOVATION / VERBAL ANALYSIS / MULTISETS

Аннотация научной статьи по экономике и бизнесу, автор научной работы — Проничкин С.В.

Предмет. Одним из механизмов реструктуризации экономики России, ее модернизации и устойчивого подъема при переходе к инновационному типу развития являются научно-технические программы. Внедрение результатов интеллектуальной деятельности исполнителей программ должно быть обеспечено эффективными средствами поддержки. В связи с кризисными явлениями в национальной экономике, в условиях ограниченности средств проблема выбора лучших результатов научно-технических программ, обладающих максимальным потенциалом их внедрения, приобрела еще большую актуальность. Цели. Цель теоретического исследования разработать научно-методические подходы к оценке и анализу абсорбционного потенциала результатов целевых государственных научно-технических программ. Для достижения этой цели необходимо рассмотреть основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения, выделить основные типы программ, формализовать признаки понятия абсорбционного потенциала в виде системы критериев, выявить методологические дефекты существующих походов к оценке и анализу потенциала научно-технических результатов выполнения государственных программ. Методология. В основу работы положены принципы системного подхода с использованием общенаучных методов исследования, таких как классификационный и структурный анализ, сочетание логического и функциональных методов, выявление причинно-следственных связей. В качестве методологической основы оценки абсорбционного потенциала результатов программ используются методы вербального анализа решений и теории мультимножеств. Результаты. Определены основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения, выделены основные типы программ. Формализовано понятие абсорбционного потенциала результата научно-технической программы в виде системы критериев. Выявлены методологические дефекты существующих походов к оценке и анализу потенциала научно-технических результатов выполнения государственных программ. Разработаны научно-методические подходы к оценке и анализу абсорбционного потенциала, которые учитывают недостатки существующих подходов. Выводы. Использование результатов теоретического исследования абсорбционного потенциала результатов целевых государственных научно-технических программ позволит принимать научно обоснованные решения об их внедрении.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Absorption capability of State target-oriented scientific and technical programs'' results: A theoretical study experience

Importance Scientific and technical programs are one of the mechanisms of the Russian economy's restructuring and modernization. Introducing the intellectual deliverables of the program contractors should be effectively supported. Under the economic crisis and scarcity of funds, it is important to choose the best deliverables of scientific and technical programs, possessing the maximum potential of their implementation. Objectives The objective of the theoretical research is to develop scientific and methodological approaches to evaluation and analysis of absorption capability of results of State dedicated scientific and technical programs. Methods Principles of the systems approach and general scientific methods of research, i.e. the classification and structural analysis, a combination of logic and functional methods, revealing the cause-and-effect relations serve as a methodological basis of the study. To assess the absorption capability of program results, I employ methods of verbal decision analysis and the theory of multisets. Results The paper defines basic characteristics of scientific and technical programs, their major types, formalizes the concept of absorption capability of the scientific and technical program's result in the form of a system of criteria. I reveal methodological flaws in the existing approaches to assessing and analyzing the potential of scientific and technical results of State programs' implementation, and offer approaches to absorption capability analysis, considering the weaknesses of the existing approaches. Conclusions and Relevance The findings of the study will enable to make scientifically reasonable decisions on dedicated programs' implementation.

Текст научной работы на тему «Абсорбционный потенциал результатов целевых государственных научно-технических программ: опыт теоретического исследования»

ISSN 2311-8725 (Online) ISSN 2073-039X (Print)

Анализ интеллектуального потенциала

АБСОРБЦИОННЫЙ потенциал результатов целевых государственных НАУЧНО-ТЕХНИЧЕСКИХ ПРОГРАММ: ОПЫТ ТЕОРЕТИЧЕСКОГО ИССЛЕДОВАНИЯ*

Сергей Васильевич ПРОНИЧКИН

кандидат технических наук, старший научный сотрудник,

Центральный экономико-математический институт РАН, Москва, Российская Федерация pronichkin@mail.ru

История статьи:

Принята 27.10.2015 Одобрена 27.11.2015

УДК 338.28

JEL: D81, Н53, 032, 038

Ключевые слова: принятие решений, экспертиза, инновации, вербальный анализ, мультимножества

Аннотация

Предмет. Одним из механизмов реструктуризации экономики России, ее модернизации и устойчивого подъема при переходе к инновационному типу развития являются научно-технические программы. Внедрение результатов интеллектуальной деятельности исполнителей программ должно быть обеспечено эффективными средствами поддержки. В связи с кризисными явлениями в национальной экономике, в условиях ограниченности средств проблема выбора лучших результатов научно-технических программ, обладающих максимальным потенциалом их внедрения, приобрела еще большую актуальность. Цели. Цель теоретического исследования - разработать научно-методические подходы к оценке и анализу абсорбционного потенциала результатов целевых государственных научно-технических программ. Для достижения этой цели необходимо рассмотреть основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения, выделить основные типы программ, формализовать признаки понятия абсорбционного потенциала в виде системы критериев, выявить методологические дефекты существующих походов к оценке и анализу потенциала научно-технических результатов выполнения государственных программ.

Методология. В основу работы положены принципы системного подхода с использованием общенаучных методов исследования, таких как классификационный и структурный анализ, сочетание логического и функциональных методов, выявление причинно-следственных связей. В качестве методологической основы оценки абсорбционного потенциала результатов программ используются методы вербального анализа решений и теории мультимножеств. Результаты. Определены основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения, выделены основные типы программ. Формализовано понятие абсорбционного потенциала результата научно-технической программы в виде системы критериев. Выявлены методологические дефекты существующих походов к оценке и анализу потенциала научно-технических результатов выполнения государственных программ. Разработаны научно-методические подходы к оценке и анализу абсорбционного потенциала, которые учитывают недостатки существующих подходов.

Выводы. Использование результатов теоретического исследования абсорбционного потенциала результатов целевых государственных научно-технических программ позволит принимать научно обоснованные решения об их внедрении.

© Издательский дом ФИНАНСЫ и КРЕДИТ, 2015

Введение

Инновация подразумевает внедрение новых организационно-технологических средств,

в основу которых положены научные разработки. Оценка абсорбционного потенциала научных разработок позволяет оценить техническую и организационную возможность их внедрения в производство. Причем на любой стадии внедрения допустимо использование независимых экспертных оценок. Это в полной мере относится и к результатам целевых государственных научно-технических программ, хоть и обоснованным с тех или иных сторон в ходе конкурсных процедур и научных разработок, но не является основанием

* Статья подготовлена при финансовой поддержке РНФ. Грант № 14-18-01590.

для того, чтобы безоговорочно внедрять полученные результаты в производство. Поскольку в ходе научной разработки могут быть допущены ошибки, в ходе практического внедрения нередко выясняется, что эффект применения новой техники или технологии зависит от каких-то не учтенных разработчиками факторов. Поэтому в процессе принятия решения о внедрении результатов какой-либо научной разработки необходимо оценить отдельные характеристики абсорбционного потенциала разработки: практическую значимость и новизну результата, определить возможные сроки и объемы внедрения, способности потребителей (внедряющих

организаций) к освоению результата, возможный масштаб использования результатов и др.

Важно отметить, что научная обоснованность принимаемых решений о внедрении результатов научно-технической деятельности определяется используемыми моделями и алгоритмами их экспертной оценки. Абсорбционный потенциал результатов во многом определяется конкретным типом программ.

Рассмотрим основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения и выделим основные типы программ.

Основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения

Государственные научно-технические программы (НТ11) являются важным средством реализации приоритетных направлений развития науки и техники. В рамках программ должна иметь место существенная концентрация научно-исследовательских ресурсов. Выделяют пять основных этапов реализации НТП [1]:

• формирование направлений исследований;

• финансирование и управление проектами;

• обмен знаниями и распространение результатов;

• практическая реализация результатов;

• создание условий для инновационной деятельности.

В рамках НТП реализуются долгосрочные стратегические направления развития науки. Выбор этих направлений представляет собой серьезную задачу, решение которой во многом определяет эффективность реализации НТП. Формирование стратегических направлений исследований может быть реализовано в рамках метода форсайта [2]. Выработке практических рекомендаций для формирования направлений исследований посвящена работа [3]. Эти рекомендации можно сформулировать в виде трех тезисов:

• экспериментируйте с горизонтальными механизмами;

• сфокусируйтесь на подрывных инновациях;

• используете механизм краудсорсинга.

Примером развития последнего тезиса является работа [4], в которой краудсорсинг был использован политическими ведомствами стран -членов Евросоюза в рамках проекта WoodWisdom-Net1 - одной из инициатив сетевого сотрудничества ERA-NET2 для идентификации приоритетов проекта и создания партнерской сети для реализации.

К сожалению, пока отсутствуют работы, в которых проведен анализ проблемы формирования направлений исследований в рамках НТП с системных позиций. В рамках НТП ежегодно планируется выполнить большое количество проектов, имеющих разностороннюю тематику и оказывающих различное влияние на совершенствование отдельных элементов национальной инновационной системы (НИС). При формировании направлений исследований необходимо учитывать ключевые характеристики НТП (табл. 1).

Приведенные характеристики определяют конкретный тип НТП и во многом абсорбционный потенциал результатов. Выделим основные типы НТП исходя из отечественной практики.

Научно-техническая программа под ученого.

Ученому выделяется сумма для проведения исследований по его усмотрению. Он должен поставить цель исследования, выбрать его направление, разработать план по выполнению исследования и пути его осуществления. В этом случае можно получить новые знания, которые позволят сделать большой шаг вперед в какой-то отрасли знаний и в их практической реализации. Однако могут быть получены результаты с низким абсорбционным потенциалом, которые

в настоящее время ничего не смогут дать практике.

Научно-техническая программа под научное направление. Научно-техническим советом, состоящим из чиновников и потенциальных исполнителей программы, определяются направления исследований. По сравнению с первым вариантом диапазон направлений исследований заметно сужается, и в этом случае до некоторой степени конкретизируется конечный результат, достаточно четко определяются сроки завершения исследования и практической реализации результатов.

1 WoodWisdom-Net. URL: http://www.woodwisdom.net/

2 European Research Area-NET. URL: http://cordis.europa.eu/coordination/era-net.htm

Целевая научно-техническая программа. В этом случае определяются направление и конкретная цель мероприятий программы, формулируется конечный результат исследования,

устанавливаются сроки выполнения этапов и завершения работ. Другими словами, оговариваются результат и сроки его создания и практической реализации.

При создании результатов НТП, их практической реализации часто возникают весьма ценные, а порой и кардинальные решения. Возникает потребность в дополнительных исследованиях и существенных технологических новшествах. В зарубежных странах давно исследуют проблему возможного практического применения

результатов научных исследований [6, 7]. Было установлено, что широта практического использования во многом определяется фундаментальностью исследования [8]. Отечественный же опыт показывает, что к практическому использованию, которое особенно целесообразно в рамках научно-технических программ, относятся как к чему-то второстепенному в научном плане. Таким образом, задача оценки возможного практического применения результатов научных исследований, полученных в рамках НТП, на данном этапе не нашла должного решения. Попытаемся восполнить это пробел.

Понятие абсорбционного потенциала результата научно-технической программы

Понятию потенциала результата научно-технической программы придается разный смысл. Изучая в деталях тот или иной проект НТП, заинтересованные лица представляют себе совокупность определенных результатов, но это представление едино для всех лишь в той части, в какой эти результаты описаны в рассматриваемых ими материалах. В части возможности практического использования (коммерциализации) эти результаты, как правило, не описаны или описаны недостаточно подробно, и взгляды разных людей на проект могут различаться.

Вопросы коммерциализации обычно

рассматриваются в инвестиционных проектах. Так, в российском законодательстве3 под инвестиционным проектом понимается

обоснование экономической целесообразности,

3 Об инвестиционной деятельности в Российской Федерации, осуществляемой в форме капитальных вложений: Федеральный закон от 25.02.1999 № 39-ФЗ (ред. от 28.12.2013).

объема и сроков осуществления капитальных вложений, в том числе необходимая проектно-сметная документация, разработанная

в соответствии с законодательством Российской Федерации и с утвержденными в установленном порядке стандартами (нормами и правилами), а также описание практических действий по осуществлению инвестиций (бизнес-план).

Инвестиционный проект, предусматривающий разработку и применение новых наукоемких организационно-технологических средств,

является инновационным.

Как объект оценки эффективности инновационные проекты отличают:

• многоэтапность (они предусматривают проведение НИОКР, экспериментальное внедрение, доработку конструктивных и технологических решений, серийное производство и расширение объемов применения);

• необходимость создания или приобретения объектов интеллектуальной собственности;

• повышенные затраты в период освоения новой техники в производстве и в сфере применения;

• наличие специфических и существенных рисков (высокий риск успешного завершения НИОКР и/или экспериментального внедрения);

• использование специфических форм финансирования (бюджетное, венчурное и др.).

Таким образом, инновационные проекты базируются на научных результатах, имеющих нестандартный характер. Внедрение полученных в ходе реализации мероприятий НТП научных разработок, как правило, требует определенных изменений в технике, технологии и организации производства. Поэтому реализация таких проектов подчас встречает активное сопротивление со стороны менеджеров, привыкших к сложившемуся порядку вещей. Убедить заинтересованных лиц и организации в целесообразности предлагаемых изменений можно только путем объективной оценки и последующего ее подтверждения.

Эффект реализации мероприятий НТП в общем случае характеризуется эффективностью в социальной, экологической, научно-технической, инвестиционной, производственной, финансовой, оборонной и иных сферах. В общем случае эффективность результата программы НТП - это категория, выражающая соответствие результатов

и произведенных затрат определенным целям и интересам.

Представления об эффективности (выгодности) НТП у различных заинтересованных сторон могут не совпадать.

Оценка эффективности государственных программ регулируется рядом нормативных актов. Так, согласно постановлению Правительства Российской Федерации4 оценка эффективности государственной программы проводится ответственным исполнителем на этапе ее разработки и реализации для оценки вклада результатов государственной программы в социально-экономическое развитие

и обеспечение национальной безопасности Российской Федерации. Разработана

соответствующая методика для оценки эффективности, которая введена в действие приказом Минэкономразвития России5.

Согласно этой методике эффективность реализации государственной программы оценивается в зависимости от значений оценки степени реализации государственной программы и оценки эффективности использования средств федерального бюджета. Эффективность использования средств федерального бюджета рассчитывается как отношение степени реализации мероприятий к степени соответствия уровню расходов из средств федерального бюджета. А оценка степени достижения целей и решения задач программы определяется как степень достижения плановых значений каждого показателя (индикатора), характеризующего цели и задачи программы. Оценка степени достижения целей и решения задач программы происходит на основании периодической отчетности, которую в соответствии с действующим порядком ежеквартально предоставляют исполнители мероприятий программы. При этом в составе паспорта целевой программы Правительством Российской Федерации утверждаются

приложения, которые содержат методику оценки степени реализации программы. В качестве исходных данных для проведения такой оценки используются численные индикаторы и показатели

4 Об утверждении Порядка разработки, реализации и оценки эффективности государственных программ Российской Федерации: постановление Правительства Российской Федерации от 02.08.2010 № 588

(ред. от 17.07.2015).

5 Об утверждении Методических указаний по разработке и реализации государственных программ Российской

Федерации: приказ Министерства экономического развития Российской Федерации от 20.11.2013 № 690.

итогов выполнения программных работ, такие как количество вышедших публикаций, защищенных диссертаций, вновь разработанных технологий, защищенных патентами, мощность введенных в эксплуатацию объектов капитального строительства и др.

Указанный подход, наряду с основным своим преимуществом - возможностью четко и однозначно провести оценку количественных параметров и определить процент достижения заданных нормативных показателей, имеет и существенные недостатки. Приведенные количественные характеристики результатов выполнения программ зачастую недостаточно полно характеризуют эффективность выполнения программных мероприятий, их соответствие утвержденным целям и задачам.

Широко распространена ситуация, когда исполнители вынуждены в первую очередь заботиться о количестве выполняемых разработок и оформляемых патентов, упуская из виду их общий научно-технический уровень, степень непосредственного влияния на достижение установленных программных целей и технико-экономические аспекты в интересах дальнейшего внедрения полученных результатов.

Важно отметить, что в Методических указаниях по разработке и реализации государственных программ Российской Федерации речь идет не о коммерческой, а бюджетной эффективности программы в целом. Такая методика не предусматривает детальной оценки

эффективности отдельного результата программы и тем более не позволяет оценить его абсорбционный потенциал.

В то же время определение коммерческой эффективности также регулируется на государственном уровне. Разработаны

и утверждены Методические рекомендации по оценке эффективности инвестиционных проектов6. Коммерческая эффективность проекта в целом учитывает финансовые последствия его осуществления для реализующей его организационной структуры в предположении, что все необходимые для реализации проекта затраты производятся за счет ее средств. Проект считается эффективным, если реализация этого проекта

6 Методические рекомендации по оценке эффективности инвестиционных проектов: утв. Министерством экономики Российской Федерации, Министерством финансов Российской Федерации, Государственным комитетом Российской Федерации по строительной, архитектурной и жилищной политике 21.06.1999 № ВК 477.

выгодна его участникам. Это значит, что затраты, связанные с реализацией проекта, оцениваются не выше, чем получаемые результаты. Оценка коммерческой эффективности проекта базируется на оценке затрат и результатов проекта, представленных в количественном (числовом) выражении в виде денежных потоков [9]. Таким образом, чтобы использовать существующий методический инструментарий, например, для расчета показателя чистого дисконтированного дохода, необходимо чтобы все основные характеристики результата программы,

определяющие его эффективность, были определены в денежной форме. Однако для научного результата программ получить адекватные денежные оценки весьма затруднительно. В мероприятиях программ преобладают НИР и ОКР, имеющие высокую степень риска и неопределенности конечных результатов. Оценка денежных потоков (необходимых затрат и результатов) является настолько неопределенной, что иногда даже нет смысла говорить о практической реализуемости научного результата, а не только о его коммерческой эффективности.

На данном этапе развития методического инструментария теории оценки эффективности проектов оценка абсорбционного потенциала научных результатов, полученных в ходе реализации мероприятий НТП, не разработана. И на практике этот этап из инвестиционного процесса выпадает, а сразу рассматривается этап капитальных вложений в новые организационно-технологические средства.

Предлагается рассматривать оценку

абсорбционного потенциала научного результата как начальный этап инвестиционного инновационного проекта, направленного на достижение конечной цели - производство конечной продукции или (в более общем случае) удовлетворение потребностей конечных потребителей этой продукции.

Инвестиционный инновационный проект внедрения результата НТП будет успешным [10, 11], если акторы НИС будут обладать способностью их абсорбировать. Понятие «абсорбционный потенциал» можно

рассматривать в общем смысле [12] как возможность использовать новые знания.

Многоаспектное описание понятия

«абсорбционный потенциал результата научно-

технической деятельности» представляет собой самостоятельную сложную научную задачу.

Показатели оценки потенциала могут представлять собой набор индикаторов различного характера. Они могут выражаться как в качественной, так и количественной форме. Однако только использование качественных показателей позволяет получить всестороннюю экспертную оценку. Основным преимуществом качественных показателей является возможность получения более широкой оценки за счет того, что она формулируется не в виде одного или нескольких количественных характеристик, а в виде качественного описания.

Впервые такое описание было применено к странам [13] и включало в себя технические и управленческие компетенции, инфраструктуру страны и ее институции. Затем появились работы, которые анализировали абсорбционные возможности организаций [10, 14] и отдельных технологий [11]. В указанных работах выделяются конкретные проблемы, обусловленные

технологическими и нетехнологическими факторами.

Затем предлагаются институциональные и организационные изменения, которые необходимы, чтобы абсорбировать новую технологию. В то же время каждый из компонентов абсорбционного потенциала требует разработки самостоятельных критериев. Все они должны образовать единую систему, которая позволит провести агрегирование и ранжирование результатов НТП. Агрегирование и ранжирование позволит получить значения показателей более высокого уровня. Такая система критериев позволит оценить отдельные аспекты возможности внедрения результатов НТП. Например, реализуемость является одной из характеристик абсорбционного потенциала результата НТП и означает, что в ходе его реализации соблюдаются все необходимые ограничения технического, экологического, социального, финансового характера и др. Соответственно, реализуемость может оцениваться с разных точек зрения -технической, технологической, оборонной, экологической и пр.

Для оценки абсорбционного потенциала научно-технических результатов, полученных в ходе выполнения мероприятий государственных программ, предлагается иерархическая система качественных критериев, которая могла бы с системных позиций дать представление

о различных аспектах возможности применения результатов НТП (рис. 1).

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Система включает семь групп критериев.

Первая и вторая группы отражают характер и вид результата НТП.

Третья группа критериев учитывает вклад результата в достижение важнейших целевых индикаторов и показателей НТП.

Четвертая группа критериев дает оценку вклада результата НТП в решение социальных проблем.

Пятая и шестая группы критериев позволяют получить оценку востребованности

и реализуемости результата.

Для оценки готовности потребителей результатов НТП предназначена седьмая группа критериев.

Для каждого критерия разработана вербальная шкала с небольшим количеством градаций, обеспечивающих ясную различимость оценок. Например, шкала критерия «актуальность результата» имеет такой вид:

• требуется безотлагательное применение результата;

• результат потребуется в ближайшее время;

• результат потребуется в отдаленной перспективе;

• оценить неотложность применения результата затруднительно.

Использование качественного подхода к оценке абсорбционного потенциала результата НТП позволит принимать научно обоснованное решение о его внедрении. Критерии оценки позволят обосновать те или иные технические, технологические или финансовые проектные решения. Например, инвесторы смогут получить информацию о возможном спросе на результат; кредиторы смогут подтвердить обоснованность определения потребности в кредитных ресурсах, изучая такой аспект модели, как наличие финансовых средств для освоения результата, а государство сможет получить информацию о возможной сфере использования результата, о масштабе его применения и научно-технической значимости.

Методология оценки абсорбционного потенциала научно-технических результатов выполнения целевых программ

В настоящее время отсутствует общепринятая методология оценки абсорбционного потенциала результатов выполнения мероприятий научно-технических программ. Дополнительные трудности возникают, когда оцениваются НИР и ОКР, имеющие высокую степень риска и неопределенности конечных результатов, что характерно для результатов научно-технических программ.

Одним из наиболее популярных подходов к оценке эффективности НТП является метод «стоимость -эффективность» (Cost - Efficiency), который первоначально был предназначен для экономической оценки рентабельности

капитальных вложений [15]. Существует вариант этого метода, известный как метод «стоимость -выгода», где эффективность и стоимость выражены в денежном виде. Позднее подход «стоимость - эффективность» стал применяться при анализе научных проектов, вариантов сложных решений, позволяя учитывать факторы разной природы, а не только стоимостные показатели. Метод «стоимость - эффективность» включает в себя три основных этапа: построение модели эффективности, построение модели стоимости, синтез оценок стоимости и эффективности.

Авторы метода предостерегают против механического использования при соизмерении показателей стоимости и эффективности отношения стоимости к эффективности, указывая, что оно (отношение) может быть одним и тем же при совершенно разных абсолютных значениях числителя и знаменателя. Модели стоимости и эффективности бывают весьма сложными. При оценке стоимости комплексной НТП ее разбивают на отдельные элементы. Стоимость каждого элемента определяют на основе прошлого опыта или по результатам прогнозирования. При прогнозировании стоимости отдельных элементов раздела НТП часто используют экспертные оценки. Стоимость отдельных элементов вносят в так называемую матрицу стоимости, которая в данном случае и является моделью описания эффективности раздела НТП.

Для оценки эффективности НТП также используется разбиение на функциональные элементы. Рассматривается совокупность критериев, позволяющих оценить с разных сторон качество. Эксперты дают количественную оценку каждому элементу по каждому критерию, причем критерии трактуются как шансы достижения результатов НТП определенного качества. Все

оценки эффективности заносятся

в матрицу эффективности.

Соизмерение показателей стоимости

и эффективности (объединение оценок) осуществляется в разных случаях по-разному путем создания модели соизмерения стоимости и эффективности. Общего алгоритма порождения такой модели не существует. Поскольку оценки стоимости и эффективности НТП зависят от времени их получения и использования, строятся и рассматриваются соответствующие временные зависимости. Для сложных стратегических проектов в рамках НТП стараются учесть все этапы жизненного цикла научной продукции.

Рекомендуется проводить анализ

чувствительности основных параметров моделей «стоимость - эффективность» к возможным вариациям. В общем случае проверка моделей контрольным экспериментом невозможна. Поэтому рекомендуется попытаться дать ответ на следующие вопросы:

• достаточно ли хорошо описывает модель известные факты и ситуации?

• будут ли разумными результаты при вариации основных параметров?

• можно ли рассмотреть в рамках модели случаи, когда известны ожидаемые результаты?

• могут ли модели адекватно описать уже известные явления?

Обычное изложение идей метода «стоимость -эффективность» сопровождается, как правило, указаниями на необходимость качественной проверки результатов. Судя по публикациям [16-18], метод «стоимость - эффективность» успешно применялся его создателями для оценки и отбора проектов НИОКР в рамках создания военно-технических и технических систем. Вместе с тем использование метода в министерстве обороны США сопровождалось ожесточенным сопротивлением лиц, считавших недопустимым само сопоставление эффективности и стоимости НИОКР.

Успехи при принятии решений в рамках системы «планирование - прогнозирование -бюджетирование» привели к широкому распространению области применения метода «стоимость - эффективность». При этом выявились его определенные методологические дефекты. Они в значительной мере связаны

с трудностями построения моделей стоимости и эффективности особенно для сложных научных исследований из-за большой неопределенности привлекаемых исходных данных. Однако прежде всего эти трудности обусловлены неоднозначностью в путях построения моделей соизмерения стоимости и эффективности, применение которых в конечном счете определяет итоговую оценку.

Следующий метод - система сбалансированных показателей (Balanced Scorecard) - был разработан в начале 1990-х гг. в бизнес-школе при Гарвардском университете США и пропагандируется как новый подход к стратегическому управлению проектами различной природы [19, 20]. Авторы метода считают, что традиционные финансовые показатели давали неполную и устаревшую картину результативности проекта, которая мешала видению его долгосрочных перспектив. Выявив слабые места и неопределенности в предшествующих управленческих подходах, авторы предложили свое описание того, что нужно измерять, чтобы сбалансировать оценку НИОКР. Апологеты системы сбалансированных

показателей (ССП) расширили понимание этого подхода, считая, что ССП - это система принятия решений (а не просто система оценки). Система обеспечивает обратную связь между внутренними процессами, необходимыми для достижения результатов в рамках проекта научных исследований, и внешними показателями, нужными для повышения стратегической эффективности и достижения результатов.

Основные идеи сбалансированной системы показателей состоят в следующем.

Система поддерживает традиционные финансовые показатели. Дополнительно к ним вводятся показатели, отражающие удовлетворенность потребителей результатами НИР, эффективность функционирования процессов, необходимых для достижения результатов исследований.

Методология ССП представляет основные факторы проекта научных исследований в виде набора определенных количественных

показателей. Их анализ позволяет понять, достигаются ли цели проекта научного исследования в рамках направления исследований. Полностью реализованная ССП подразумевает последовательное рассмотрение деятельности участников проектов научных исследований. В конечном счете каждый участник проекта разрабатывает личную систему показателей,

стараясь достичь своих персональных целей на основе показателей проекта научного исследования в целом.

В системе сбалансированных показателей предлагается рассматривать проект НИР с четырех точек зрения (перспектив):

• перспективы обучения и развития участников проекта;

• перспективы процессов, необходимых для достижения конечного результата;

• перспективы конечных потребителей;

• финансовой перспективы.

В соответствии с каждой из этих перспектив необходимо тщательно разрабатывать

количественные показатели, собирать данные и анализировать их. Хотя сбалансированная система показателей и выходит за рамки финансовых параметров, она полностью от них не отказывается. Само название концепции отражает попытку учесть набор показателей, где сбалансированы как кратковременные, так и долговременные цели, которые в большей степени характерны для проектов

фундаментальных исследований, финансовые и нефинансовые показатели, запаздывающие и опережающие индикаторы, внутренние и внешние перспективы эффективности.

Сбалансированная система показателей помогает лицу, принимающему решение, обратить внимание на самые важные моменты. Международный опыт использования системы показывает, что для каждой предметной области исследований есть свои особенности, зависящие от ресурсов и масштабов проекта. Поэтому лицу, принимающему решение, необходимо выделить главные моменты, характерные именно для рассматриваемого проекта, и тогда можно будет направить все усилия на повышение эффективности в необходимых местах.

В существующих методиках оценки эффективности проектов используют так называемый количественный подход, основанный на числовом измерении качественных показателей [21]. Однако несмотря на кажущуюся простоту и очевидность, такой подход мало пригоден для работы с качественными характеристиками, которыми оцениваются научные результаты НТП, так как содержит ряд методологических дефектов, хорошо известных специалистам.

Практически невозможно априори назначить количественные шкалы оценок, сопоставив с качественными факторами какие-либо числа так, чтобы они правильно выражали плохо формализуемые свойства научных результатов и одинаково понимались разными людьми. Тем более, числовые оценки неприменимы для измерения непорядковых показателей. Более того, было показано, что использование даже по одним и тем же критериям порядковых шкал, имеющих разные числовые шкалы оценок, может привести к совершенно разным упорядочениям и разбиениям на классы исходной совокупности объектов. При этом не существует никакой содержательной аргументации в пользу выбора той или иной шкалы. Тем самым только путем произвольного изменения градаций оценок на шкалах можно получить любую ранжировку и любую классификацию многопризнаковых объектов. Наконец, при использовании шкал числовых оценок появляется искушение сформулировать один простой итоговый показатель, агрегирующий частные оценки (обычно в виде суммы, взвешенной суммы или некоторой усредненной оценки), по величине которого и проводится сравнение результатов НТП. В этом случае происходит смешивание разнородных показателей, важных и неважных факторов, оценок разных экспертов, что не позволяет выделить наиболее значимые для выбора показатели.

Предлагается в качестве методологической основы экспертной оценки абсорбционного потенциала результатов НТП использовать методы вербального анализа решений и теории мультимножеств. Вербальный анализ решений [22, 23] является одним из новых и многообещающих отечественных направлений в теории принятия решений, ориентированных на изучение так называемых слабо структурируемых проблем выбора, которые задаются качественными и количественными признаками.

Отличительные черты вербального анализа решений:

• получение информации от лица, принимающего решение, или эксперта на привычном для него языке;

• использование нечисловой информации без каких-либо ее преобразований в числовую на всех этапах анализа и решения задачи выбора;

• проверка суждений лица, принимающего решение, на непротиворечивость;

логическое правила;

обоснование вида решающего

• возможность объяснения полученного решения.

В целом вербальные методы более прозрачны, малочувствительны к ошибкам измерения и менее трудоемки для человека. Исследования в области группового вербального анализа решений и теории мультимножеств, активно развиваемые в нашей стране, являются новыми и оригинальными, находятся на мировом уровне работ.

Оценка абсорбционного потенциала результата НТП подразумевает групповую оценку выполнения всех реально существующих ограничений технического, экологического, финансового, юридического характера и др. Таким образом, для решения этой задачи должны применяться методы группового принятия решений.

Задача группового многокритериального анализа в общем виде формулируется следующим образом. Задана совокупность результатов НТП А,..., А„, каждый из которых оценивается k экспертами по т критериям Qь••, Qm, характеризующим особенности объекта. Каждый критерий (содержательный признак) Qs имеет шкалу X = (х^1,., х, 5 = 1,., т, вербальные градации которой упорядочены. Основываясь на суждениях нескольких экспертов, требуется выделить несколько лучших вариантов.

В работах [24, 25] принято объекты Аг представлять в т-мерном пространстве Х1 х ... ^ х Хт группой, состоящей из k векторов

{х,(1),..., х,да} вида х® = (х/1»..., хт,т\ ] = 1,., К которая должна рассматриваться как единое целое.

Совокупность таких составных объектов может иметь в пространстве Х1 х ... ^ х Хт сложную структуру, достаточно трудную для анализа. Непросто ввести в этом пространстве и метрику для измерения расстояний между объектами. Указанные трудности можно преодолеть, если воспользоваться иным способом представления многопризнаковых объектов, основанным на формализме мультимножеств, который позволяет одновременно учесть различные комбинации значений качественных признаков, а также их многозначность.

Введем вместо прямого произведения т шкал признаков Х1 х ... ^ х Хт обобщенную

гипершкалу признаков - множество Х =

и представим объект Аг

в таком символическом виде:

Лг = (КАг (Х11)°Х11,., КАг (Х1Л1)°Х1Л1,., Ка, (Хт1)°Хт1,.

к (х Ьт)°х т

Аг т т

где КАг(хэе!!) - число, указывающее, сколько раз признак Хэ^^ е Хх встречается в описании объекта А,-; знак «°» обозначает кратность вхождения признака х/5, 5 = 1,..., т; = 1,..., Нц. Такой вид представления объекта Аг есть множество с повторяющимися элементами х^ еХ или мультимножество Аг.

Особенности группового принятия решений обусловлены наличием нескольких независимых экспертов, чьи индивидуальные предпочтения не обязаны совпадать. Несогласованность

индивидуальных суждений обусловливается неоднозначностью понимания решаемой задачи разными людьми, различием оценок одних и тех же объектов, данных разными персонами, специфичностью знаний самих экспертов, многими другими обстоятельствами.

Агрегированные экспертные оценки должны учитывать все индивидуальные суждения, среди которых могут быть одинаковые, сходные, различающиеся и противоречивые.

Предлагается использовать метод вербального анализа решений для группового упорядочения реально имеющихся объектов А1,..., Аи, которые оценены несколькими экспертами по многим качественным критериям без построения индивидуальных ранжировок объектов. Метод основан на расчете близости объекта к идеальному объекту, имеющему наилучшие или наихудшие оценки по всем критериям, данные всеми экспертами.

Метод включает в себя несколько шагов.

Первый шаг. Представить каждый объект в виде следующего мультимножества:

Лг = (Ка,(х11)°х11,., Ка, (х1Н1)°х1Н1,., Ка, (хт^хт1,... к (х Нт)°х Нт}

. . . , 1\>Аг\л>т ) ^т

где КА(х°*) равно числу экспертной оценки х проекта А, по критерию Qs.

Второй шаг. Задать наилучший и наихудший объекты (опорные точки) в виде мультимножеств:

л+ = (К°х11,0, .,0, К°х21,0, .,0,., К°хт1,0, .,0},

Л- = (0,...Д К°х1Н1, 0,...,0, К°х2Н2,., 0,., 0,К°хтНт}.

XU

UXm

состоящее из т групп признаков,

Третий шаг. Задать в пространстве мультимножеств расстояние

Четвертый шаг. Упорядочить объекты по увеличению расстояния от наилучшего объекта A+. Объект Ai считается предпочтительнее объекта Aj (AAД если d(a+, А) d(A+,Л).

Пятый шаг. Упорядочить объекты по уменьшению расстояния от наихудшего объекта A- Объект Aj ^Л]), если d(a", а;) d(a", а;).

Шестой шаг. Объединить восходящую и нисходящую ранжировки объектов в одну общую ранжировку.

Представленный алгоритм группового

вербального анализа решений с применением аппарата теории мультимножеств целесообразно использовать в качестве инструментария для анализа многокритериальных оценок результатов НТП, полученных при проведении комплексных экспертиз. Обоснованность подхода как с математической, так и с психологической точек зрения [22], что немаловажно при работе с экспертами, участие в экспертизе высококвалифицированных специалистов

позволят качественно провести комплексную экспертизу результатов НТП, получить аргументированные обоснования выводов, сделанных по многим анализируемым аспектам.

Предлагаемый подход ориентирован на качественные (вербальные) оценки характеристик абсорбционного потенциала результатов НТП и не использует преобразования качественных оценок признаков в какие-либо числовые показатели. Рассмотренный алгоритм позволит выделить лучшие результаты НТП с точки зрения их

абсорбционного потенциала, в которых будут учтены различающиеся, в том числе и противоречивые, заключения многих экспертов. А использование в алгоритме различных ранжировок позволит нивелировать влияние разных критериальных характеристик результатов НТП на их итоговую ранжировку.

Заключение

В результате проведенного теоретического исследования выделены основные характеристики научно-технических программ как инструмента формирования спроса на новые знания и их предложения, представлены основные типы программ. Формализовано понятие

абсорбционного потенциала результата НТП в виде системы критериев. Выявлены методологические дефекты существующих походов к оценке и анализу потенциала научно-технических результатов выполнения

государственных программ. Представлены научно-методические подходы к оценке и анализу абсорбционного потенциала, которые учитывают недостатки существующих подходов.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Разработанные научно-методические подходы и система критериев представляют собой прозрачный механизм оценки и анализа абсорбционного потенциала. Вербальные методы обработки экспертных суждений не требуют проведения громоздких и трудоемких вычислений сотен числовых показателей и весовых коэффициентов. Предлагаемый подход ориентирован на качественные (вербальные) оценки характеристик абсорбционного потенциала результатов НТП, позволяет принять научно обоснованное решение о его внедрении. Критерии оценки позволят обосновать те или иные технические, технологические или финансовые проектные решения.

Таблица 1

Ключевые характеристики научно-технических программ

Характеристика Описание

1. Характер поддерживаемых исследований В рамках НТП может осуществляться проектное финансирование и (или) институциональное финансирование, когда осуществляется поддержка не только группы исследователей, но и лабораторий, и даже целых научных и образовательных организаций

2. Потребители результатов НТП Программа может быть ориентирована на конкретных потребителей, на развитие институций или на решение более широких политических задач

3. Диверсификация или специализация направлений НТП Диверсификация учитывает несколько различных направлений, а специализация сосредоточивается на конкретных взаимосвязанных направлениях

4. Масштаб НТП Крупномасштабные проекты гарантируют большее вовлечение государственных ресурсов и участие различных партнеров, но в то же время развертывание таких проектов, их практическая реализация являются более трудоемкими, чем для небольших проектов

5. Ориентация НТП на этап производства знаний Программа может быть ориентирована на поддержку фундаментальных исследований, прикладных исследований или инноваций

6. Ориентация НТП на спрос или предложение новых знаний Направление исследований может задаваться конечным потребителем и отражать спрос на новые знания. В качестве акторов формирования спроса на новые знания, как правило, выступают крупные компании, которые все в большей степени организуют, координируют, планируют научные исследования и разработки. Компании стремятся получить как можно большую добавленную стоимость. Поэтому они активно используют результаты научных исследований для проектирования инновационных продуктов и решений. Если направление исследований определяет инициативный коллектив ученых, то такое направление отражает предложение на новые знания. В этом случае, как правило, создаются более сложные наукоемкие направления по сравнению с направлениями, движущей силой которых выступает спрос

7. Период реализации мероприятий НТП Программа может быть ориентирована на долгосрочные стратегические проекты, которые состоят из нескольких этапов или на выполнение краткосрочных проектов, как правило, до одного года

8. Размер бюджета НТП Размер бюджета на выполнение научных исследований и разработок должен зависеть от предмета работ, сложности, глубины проработки, масштабности и региональных условий выполнения работ

9. Порядок формирования направлений исследований в рамках НТП Большое значение имеет порядок формирования направлений исследований и разработок. Это могут быть как процедуры сверху вниз, так и снизу вверх и соединение этих двух подходов [5]. Подход формирования направлений сверху вниз - это, как правило, определение областей научных исследований со стороны государства. В случае формирования направлений снизу вверх уже представителям бизнеса и науки необходимо не только сформулировать, но обосновать необходимость НТП, убедить в этой необходимости заказчика

10. Исполнители НТП Для участия в программе могут привлекаться самые влиятельные и известные ученые, при этом, как правило, осуществляется поддержка направлений, где имеется значительный задел и получаемые научные результаты носят в основном эволюционный характер. В то же время привлечение новых, еще малоизвестных научных коллективов в некоторых случаях позволяет получить революционный научный результат

Рисунок 1

Система критериев оценки абсорбционного потенциала результата научно-технической программы

Список литературы

1. Stamm A., Figueroa A. Effective International Science, Technology and Innovation Collaboration: From lessons learned to policy change. In: Meeting Global Challenges through Better Governance: International Cooperation in Science, Technology and Innovation. OECD Publishing, 2012. P. 207-231.

2. Keenan M., Cutler P., Marks J., Meylan R., Smith C., Koivisto E. Orienting international science cooperation to meet global "grand challenges" // Science and Public Policy. 2012. Vol. 39. P. 166-177.

3. Boden M., Cagnin C., Carabias V., Haegeman K., Konnola T. Facing the Future: Time for the EU to Meet Global Challenges. European Commission, Joint Research Centre, Institute for Prospective Technological Studies, 2010. 42 p.

4. Brummer V., Salo A., Nissinen J., Liesio J. A methodology for the identification of prospective collaboration networks in international R&D programs // International Journal of Technology Management. 2011. Vol. 54. P. 369-389.

5. Голиченко О.Г. Национальная инновационная система. М.: МФТИ, 2010. 479 с.

6. Lane J., Owen-Smith J., Rosen R., Weinberg B. New linked data on research investments: Scientific workforce, productivity, and public value // Research Policy. 2015. Vol. 44. P. 1659-1671.

7. Lamanauskas V., Augiene D. Development of Scientific Research Activity in University: A Position of the Experts // Procedia - Social and Behavioral Sciences. 2015. Vol. 167. P. 131-140.

8. Kaur J., Ferrara E., Menczer F., Flammini A., Radicchi F. Quality versus quantity in scientific impact // Journal of Informetrics. 2015. Vol. 9. P. 800-808.

9. Виленский П.Л., Лившиц В.Н., Смоляк С.А. Оценка эффективности инвестиционных проектов: теория и практика. М.: Дело, 2008. 1095 c.

10. Mowery D., Oxley J. Inward technology transfer and competitiveness: the role of national innovation systems // Cambridge Journal of Economics. 1995. Vol. 19. P. 67-93.

11. Teixeira A., Fortuna N. Human capital, R&D, trade, and long-run productivity. Testing the technological absorption hypothesis for the Portuguese economy, 1960-2001 // Research Policy. 2010. Vol. 39. Iss. 3. P. 335-350.

12. Cohen W., Levinthal D. Absorptive capacity: a new perspective on learning and innovation // Administrative Science Quarterly. 1990. Vol. 35. № 1. Special Issue: Technology, Organizations, and Innovation. P. 128-152.

13. Millikan M., Rostow W. A Proposal: Key to an Effective Foreign Policy. N.Y.: Harper & Brothers, 1957. 236 p.

14. Fagerberg J., Mowery M., Nelson R. The Oxford Handbook of Innovation. N.Y.: Oxford University Press, 2008. 421 p.

15. Venkataraman R., Pinto J. Cost and Value Management in Projects. Hoboken: John Wiley & Sons, 2008. 348 p.

16. Yates B. Cost-Benefit and Cost-Effectiveness Analyses in Evaluation Research. In: J.D. Wright (Ed.), International Encyclopedia of the Social & Behavioral Sciences (2nd ed.), Volume 5. Oxford, Elsevier. 2015. P. 55-62.

17. Drummond M., Sculpher M., Torrance G., O'Brien B., Stoddart G. Methods for Economic Evaluation of Health Care Programmes. Oxford: Oxford University Press, 2005. 385 p.

18. Levin H., McEwan P. Cost-Effectiveness Analysis: Methods and Applications. Thousand Oaks, CA, Sage Publications, 2001. 261 p.

19. Keyes J. Implementing the Project Management Balanced Scorecard. N.Y.: CRC Press, 2011. 312 p.

20. Hoque Z. 20 years of studies on the balanced scorecard: Trends, accomplishments, gaps and opportunities for future research // The British Accounting Review. 2014. Vol. 46. P. 33-59.

21. Яковлева А. Ф. Об основных подходах к оценке результативности научных исследований в России // Измерение философии. Об основаниях и критериях оценки результативности философских и социогуманитарных исследований / сост. и отв. ред. А.В. Рубцов. М.: ИФ РАН, 2012. С. 144-156.

22. Ларичев О.И. Вербальный анализ решений / под ред. А.Б. Петровского. М.: Наука, 2006. 286 с.

23. Петровский А.Б. Теория принятия решений. М.: Академия, 2009. 376 с.

24. Adam F, Humphreys P. Encyclopedia of Decision Making and Decision Support Technologies. N.Y.: Information Science Reference, 2008. 1064 p.

25. Рыков А.С. Модели и методы системного анализа: принятие решений и оптимизация. М.: МИСИС. 2005. 352 с.

Экономический анализ: Economic Analysis:

теория и практика 4 (2016) 122-136 Theory and Practice

ISSN 2311-8725 (Online) Analysis of Intellectual Capital

ISSN 2073-039X (Print)

ABSORPTION CAPABILITY OF STATE TARGET-ORIENTED SCIENTIFIC AND TECHNICAL PROGRAMS' RESULTS: A THEORETICAL STUDY EXPERIENCE

Sergei V. PRONICHKIN

Central Economics and Mathematics Institute, RAS, Moscow, Russian Federation pronichkin@mail.ru

Article history:

Received 27 October 2015 Accepted 27 November 2015

JEL classification: D81, H53, O32, O38

Keywords: decision-making, expertise, innovation, verbal analysis, multisets

Abstract

Importance Scientific and technical programs are one of the mechanisms of the Russian economy's restructuring and modernization. Introducing the intellectual deliverables of the program contractors should be effectively supported. Under the economic crisis and scarcity of funds, it is important to choose the best deliverables of scientific and technical programs, possessing the maximum potential of their implementation.

Objectives The objective of the theoretical research is to develop scientific and methodological approaches to evaluation and analysis of absorption capability of results of State dedicated scientific and technical programs.

Methods Principles of the systems approach and general scientific methods of research, i.e. the classification and structural analysis, a combination of logic and functional methods, revealing the cause-and-effect relations serve as a methodological basis of the study. To assess the absorption capability of program results, I employ methods of verbal decision analysis and the theory of multisets.

Results The paper defines basic characteristics of scientific and technical programs, their major types, formalizes the concept of absorption capability of the scientific and technical program's result in the form of a system of criteria. I reveal methodological flaws in the existing approaches to assessing and analyzing the potential of scientific and technical results of State programs' implementation, and offer approaches to absorption capability analysis, considering the weaknesses of the existing approaches.

Conclusions and Relevance The findings of the study will enable to make scientifically reasonable decisions on dedicated programs' implementation.

© Publishing house FINANCE and CREDIT, 2015

Acknowledgments

The article was supported by the Russian Science Foundation, grant No. 14-18-01590.

References

1. Stamm A., Figueroa A. Effective International Science, Technology and Innovation Collaboration: From lessons learned to policy change. In: Meeting Global Challenges through Better Governance: International Cooperation in Science, Technology and Innovation. OECD Publishing, 2012, pp. 207-231.

2. Keenan M., Cutler P., Marks J., Meylan R., Smith C., Koivisto E. Orienting International Science Cooperation to Meet Global 'Grand Challenges'. Science and Public Policy, 2012, vol. 39(2), pp. 166-177.

3. Boden M., Cagnin C., Carabias V., Haegeman K., Konnola T. Facing the Future: Time for the EU to Meet Global Challenges. European Commission, Joint Research Centre, Institute for Prospective Technological Studies, 2010, 42 p.

4. Brummer V., Salo A., Nissinen J., Liesio J. A Methodology for the Identification of Prospective Collaboration Networks in International R&D Programs. International Journal of Technology Management, 2011, vol. 54, pp. 369-389.

5. Golichenko O.G. Natsional'naya innovatsionnaya sistema [National innovation system]. Moscow, MIPT Publ., 2010, 479 p.

6. Lane J., Owen-Smith J., Rosen R., Weinberg B. New Linked Data on Research Investments: Scientific Workforce, Productivity, and Public Value. Research Policy, 2015, vol. 44, iss. 9, pp. 1659-1671.

7. Lamanauskas V., Augiene D. Development of Scientific Research Activity in University: A Position of the Experts. Procedia - Social and Behavioral Sciences, 2015, vol. 167, pp. 131-140.

8. Kaur J., Ferrara E., Menczer F., Flammini A., Radicchi F. Quality versus Quantity in Scientific Impact.

Journal of Informetrics, 2015, vol. 9, pp. 800-808.

9. Vilenskii P.L., Livshits V.N., Smolyak S.A. Otsenka effektivnosti investitsionnykh proektov: teoriya i praktika [Estimating the efficiency of investment projects: theory and practice]. Moscow, Delo Publ., 2008, 1095 p.

10. Mowery D., Oxley J. Inward Technology Transfer and Competitiveness: The Role of National Innovation Systems. Cambridge Journal of Economics, 1995, vol. 19, pp. 67-93.

11. Teixeira A., Fortuna N. Human Capital, R&D, Trade, and Long-Run Productivity. Testing the Technological Absorption Hypothesis for the Portuguese Economy, 1960-2001. Research Policy, 2010, vol. 39, iss. 3, pp.335-350.

12. Cohen W., Levinthal D. Absorptive Capacity: a New Perspective on Learning and Innovation. Administrative Science Quarterly, 1990, vol. 35, no. 1, Special Issue: Technology, Organizations, and Innovation, pp. 128-152.

13. Millikan M., Rostow W. A Proposal: Key to an Effective Foreign Policy. N.Y., Harper & Brothers, 1957, 236 p.

14. Fagerberg J., Mowery M., Nelson R. The Oxford Handbook of Innovation. N.Y., Oxford University Press, 2008, 421 p.

15. Venkataraman R., Pinto J. Cost and Value Management in Projects. Hoboken, John Wiley & Sons, 2008, 348 p.

16. Yates B. Cost-Benefit and Cost-Effectiveness Analyses in Evaluation Research. In: J.D. Wright (Ed.), International Encyclopedia of the Social & Behavioral Sciences (2nd ed.). Volume 5. Oxford, Elsevier, 2015, pp. 55-62.

17. Drummond M., Sculpher M., Torrance G., O'Brien B., Stoddart G. Methods for Economic Evaluation of Health Care Programmes. Oxford, Oxford University Press, 2005, 385 p.

18. Levin H., McEwan P. Cost-Effectiveness Analysis: Methods and Applications. Thousand Oaks, CA, Sage Publications, 2001, 261 p.

19. Keyes J. Implementing the Project Management Balanced Scorecard. N.Y., CRC Press, 2011, 312 p.

20. Hoque Z. 20 Years of Studies on the Balanced Scorecard: Trends, accomplishments, gaps and opportunities for future research. The British Accounting Review, 2014, vol. 46, pp. 33-59.

21. Yakovleva A.F. Ob osnovnykhpodkhodakh k otsenke rezul'tativnosti nauchnykh issledovanii v Rossii. Vkn.: Izmerenie filosofii. Ob osnovaniyakh i kriteriyakh otsenki rezul'tativnosti filosofskikh i sotsiogumanitarnykh issledovanii [About basic approaches to estimating the productivity of scientific researches in Russia. In: Philosophy measurement. On bases and criteria of performance management of philosophical and socio-humanistic researches]. Moscow, Institute of Philosophy of RAS Publ., 2012, pp. 144-156.

22. Larichev O.I. Verbal'nyi analiz reshenii [Verbal decision analysis]. Moscow, Nauka Publ., 2006, 286 p.

23. Petrovskii A.B. Teoriyaprinyatiya reshenii [Decision theory]. Moscow, Akademiya Publ., 2009, 376 p.

24. Adam F., Humphreys P. Encyclopedia of Decision Making and Decision Support Technologies. N.Y., Information Science Reference, 2008, 1064 p.

25. Rykov A.S. Modeli i metody sistemnogo analiza: prinyatie reshenii i optimizatsiya [Models and methods of systems analysis: decision-making and optimization]. Moscow, MISiS Publ., 2005, 352 p.

i Надоели баннеры? Вы всегда можете отключить рекламу.