CC BY
0
УДК 355/359; 004.8
doi: 10.52135/2410-4124_2021_4_29
О ПОДХОДЕ К ФОРМИРОВАНИЮ И РАЗВИТИЮ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ ПРИМЕНЕНИЯ В ПЕРСПЕКТИВНЫХ ОБРАЗЦАХ ВВСТ
ABOUT APPROACH TO FORMATION AND DEVELOPMENT OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES FOR USE IN ADVANCED WEAPONS, MILITARY AND SPECIAL EQUIPMENT
СЕРГЕЙ ЕГОРОВИЧ ПАНКОВ
первый заместитель генерального директора Концерна "Созвездие", кандидат технических наук, Лауреат премии Правительства Российской Федерации в области науки и техники, Москва, Россия, s.e.pankov@sozvezdie.su, https://orcid.org/ 0000-0002-0087-837X
Sergey E. Pankov — First Deputy General Director of the Concern “Sozvezdie" Candidate of Technical Sciences, Laureate of Government of the Russian Federation in the field of science and technology, Moscow, Russia, s.e.pankov@sozvezdie.su, https://orcid.org/ 0000-0002-0087-837X
ВИКТОР ЛЮДВИГОВИЧ ЛЯСКОВСКИЙ
главный научный сотрудник Научно-исследовательского института информационных технологий, профессор Учебного отдела Аспирантуры ВНИИ "Центр", доктор технических наук, профессор, эксперт РАН,
Тверь, Россия, dop_big@mail.ru н , https://orcid.org/0000-0003-2348-2607
Victor L. Lyaskovskiy — Chief scientific officer of Scientific-research Institute of information technologies, Professor of Postgraduate Study of the VNII "Center", Doctor of Technical Sciences, Professor, expert of the Russian Academy of Sciences, Tver, Russia, dop_big@mail.ru H, https://orcid.org/0000-0003-2348-2607
СЕРГЕЙ СЕРГЕЕВИЧ СМИРНОВ
руководитель проекта Концерна "Созвездие", кандидат технических наук, доцент, Москва, Россия, s.s.smirnov@sozvezdie.su, https://orcid.org/ 0000-0002-4365-8721
Sergey S. Smirnov — Project manager of the Concern "Sozvezdie", Candidate of Technical Sciences, Associate Professor, Moscow, Russia, s.s.smirnov@sozvezdie.su, https://orcid.org/ 0000-0002-4365-8721
•J1 АННОТАЦИЯ
В настоящей статье приведены основные положения по формированию и развитию технологий искусственного интеллекта (ИИ) для применения в перспективных образцах вооружения, военной и специальной техники (ВВСТ), сущность оценки влияния технологий ИИ на развитие перспективных образцов ВВСТ, формализация задачи формирования и обоснования перечня фундаментальных, поисковых и прикладных исследований в области ИИ в интересах их реализации в образцах ВВСТ, а также общий подход к её решению.
ABSTRACT
In article the main provisions to formation and development of artificial intelligence (AI) technologies for use in advanced models of weapons, military and special equipment, the essence of assessing the impact of AI technologies on development of advanced models of weapons, military and special equipment, formalization of the task of forming and substantiating the list of fundamental, search and applied research in the field of AI in the interests of their implementation in advanced models of weapons, military and special equipment, as well as
КЛЮЧЕВЫЕ СЛОВА:
образцы вооружения, военной и специальной техники, перечень фундаментальных, поисковых и прикладных исследований, технологии искусственного интеллекта
KEYWORDS:
models of weapons, military and special equipment, list of fundamental, search and applied research, artificial intelligence technologies
^ ДЛЯ ЦИТИРОВАНИЯ:
Панков С. Е., Лясковский В. Л., Смирнов С. С. О подходе к формированию и развитию технологий искусственного интеллекта для применения в перспективных образцах ВВСТ // Научный вестник оборонно-промышленного комплекса России. 2021, № 4. С. 29-35.
FOR CITATION:
Pankov S.E., Lyaskovskiy V. L., Smirnov S. S. About approach to formation and development of artificial intelligence technologies for use in advanced weapons, military and special equipment. Scientific Bulletin of the military-industrial complex of Russia. 2021;4:29-35 (In Russ.).
ВВЕДЕНИЕ
В настоящее время ведущие государства мира рассматривают технологии ИИ как один из основных факторов достижения военного, политического и экономического превосходства. США, Китай, Великобритания, Франция, Израиль, Индия, Япония, Республика Корея уже обладают наработками в данной сфере, которые могут стать базой для получения преимуществ в развитии экономики и в области обеспечения национальной безопасности.
Основные направления и способы применения элементов и технологий ИИ в военном деле приведены в ряде работ.1-3
В 2019 году в США была принята Американская инициатива по искусственному интеллекту, направленная на координацию программ военного ведомства, предполагающих использование технологий ИИ. Стоимость этой инициативы — 1,7 млрд $ на 6 лет.
В стратегии Министерства обороны США по искусственному интеллекту, опубликованной 12 февраля 2019 г., в качестве главной цели определено повышение эффективности процесса принятия решений и проводимых операций посредством этапов:
- улучшения параметров осведомленности, повышения эффективности, точности и оперативности принимаемых решений;
- повышения показателей живучести (отказоустойчивости) ВВСТ, в том числе за счет внедрения автономных и робототехнических систем;
- внедрения системы обеспечения технического и сервисного обслуживания ВВСТ, а также обоснование адаптивных планов оснащения частей и подразделений ВВСТ на основе текущей оценки и прогнозирования их потребностей;
- оптимизации и координации деятельности органов управления министерства
обороны США.
Аналогичные стратегические документы были приняты в оборонных ведомствах Великобритании, Франции, Китае и Индии.
Учитывая темпы получения практических результатов развития военных технологий и элементов ИИ за рубежом, можно прогнозировать, что в течение нескольких ближайших лет, особенно в США и Китае, могут быть созданы информационно-управляющие системы, которые могут быть применены в военной сфере и позволят обеспечить существенный прирост эффективности ведения разведывательно-ударных действий с использованием средств разведки и огневого поражения, включая комплексы с высокоточными и гиперзвуковыми средствами поражения.
В России в настоящее время приоритеты в области развития военно-технических систем, а также планы создания и внедрения технологий и элементов ИИ при разработке ВВСТ остаются в значительной степени неопределенными. На сегодняшний день норматив-но-планирующие документы по развитию отечественных военных технологий ИИ носят фрагментарный характер. Это обусловлено методически несистемным характером процесса планирования научно-исследовательских, опытно-конструкторских и технологических работ области применения технологий и элементов ИИ в военной сфере, а также становлением соответствующих центров ответственности, что не позволяет своевременно и обоснованно определять направления и формы дальнейшего их развития, применения технологий и элементов ИИ при создании (модернизации) образцов ВВСТ.
К основным проблемам, препятствующим эффективному развитию и внедрению технологий ИИ в интересах обороны и обеспечения безопасности государства, относятся:
- отсутствие единой методологии программно-целевого планирования развития технологий ИИ в образцы ВВСТ;
- фрагментарность и несогласованность проводимых исследований;
- слабое развитие нормативно-технической базы в области разработки и внедрения технологий ИИ;
- отставание в развитии отечественной электронной компонентной базы, поддерживающей технологии ИИ;
- отсутствие общесистемного программного обеспечения в интересах создания унифицированных интеллектуальных аппаратно-программных платформ и средств обучения интеллектуальных систем;
- необходимость создания развитых систем валидации образцов ВВСТ, использующих технологии ИИ в критических приложениях;
- отсутствие стендовой базы для испы-
таний перспективных образцов ВВСТ с элементами ИИ.
С учетом перечисленных проблемных вопросов далее предложен научно-методический подход к планированию развития технологий ИИ для применения в перспективных образцах ВВСТ, заключающийся в получении сравнительных оценок эффективности параметров и характеристик определённого типа образца ВВСТ до и после внедрения элементов и технологий ИИ.3-5
СУЩНОСТЬ ОЦЕНКИ ВЛИЯНИЯ
ТЕХНОЛОГИЙ ИИ НА РАЗВИТИЕ
ПЕРСПЕКТИВНЫХ ОБРАЗЦОВ ВВСТ
Схема процесса изменения параметров и характеристик эффективности определённого типа образца ВВСТ и его стоимости при внедрении ряда технологий ИИ приведена на рисунке 1.
Рисунок 1. СХЕМА ПРОЦЕССА ИЗМЕНЕНИЯ ЭФФЕКТИВНОСТИ И СТОИМОСТИ ОБРАЗЦА ВВСТ
ПРИ ВНЕДРЕНИИ ТЕХНОЛОГИЙ ИИ
Эффективность образца ВВСТ может определяться на основе оценки реализованных в нем тактико-технических характеристик (ТТХ). При этом для ряда численных значений ТТХ и параметров могут задаваться директивно заданные значения, которые в обязательном порядке должны быть достигнуты, или требования к их максимизации (минимизации). Например, обеспечение максимальной дальности обнаружения воздушного объекта определенного типа, обеспечение минимальной среднеквадратической ошибки изменения координат воздушного объекта определенного типа.
В качестве критерия эффективности внедрения технологий ИИ, полученных при выполнении фундаментальных, поисковых и
прикладных исследований (ФППИ), может быть принят технический уровень образца ВВСТ, который в соответствии с ГОСТ 15467-79 "Управление качеством продукции. Основные понятия. Термины и определения" представляет собой относительную характеристику качества продукции с базовыми значениями, основанную на сопоставлении значений показателей, характеризующих техническое совершенство оцениваемого образца.
Для проведения оценки по каждой технологии ИИ, предлагаемой к реализации, должны быть определены такие типы образцов ВВСТ, в которые потенциально могут быть внедрены соответствующие результаты исследований и технологических разработок. При этом для каждого из заданных типов об-
разцов ВВСТ составляется информационная ражающая свойства и ТТХ рассматриваемого иерархическая модель оценки качества, от- типа образца ВВСТ (см. рисунок 2).
Рисунок 2. ИНФОРМАЦИОННАЯ МОДЕЛЬ КАЧЕСТВА ОБРАЗЦА ВВСТ
ФОРМАЛИЗАЦИЯ ЗАДАЧИ ФОРМИРОВАНИЯ И ОБОСНОВАНИЯ ПЕРЕЧНЯ ФУНДАМЕНТАЛЬНЫХ, ПОИСКОВЫХ И ПРИКЛАДНЫХ ИССЛЕДОВАНИЙ В ОБЛАСТИ ИИ В ИНТЕРЕСАХ ИХ РЕАЛИЗАЦИИ В ОБРАЗЦАХ ВВСТ
Задача обоснования и формирования (развития) технологий ИИ для применения в перспективных образцах ВВСТ может быть сформулирована следующим образом. Требуется определить множество ФППИ в области ИИ, выполнение которых позволит обеспечить максимальный вклад в развитие ВВСТ в условиях ресурсных, временных и рисковых ограничений.67
В качестве исходных данных для решения сформулированной задачи используется следующая документация:
- перечень угроз национальной безопасности России в научно-технической сфере на рассматриваемый период прогноза;
- военно-стратегические и оперативные исходные данные на рассматриваемый период прогноза в части тактико-технических требований (ТТХ) к перспективным отечественным образцам ВВСТ, включая заданные директивой ТТХ, которые должны быть достигнуты в обязательном порядке;
- анализ мировых тенденций развития ВВСТ на рассматриваемый период прогноза в части ТТХ перспективных зарубежных образцов ВВСТ;
- прогноз развития науки и техники в интересах обеспечения обороны страны и безопасности государства на рассматриваемый период прогноза в области ИИ;
- результаты выполненных ФППИ в области ИИ и предполагаемые эффекты от их реализации в образцах ВВСТ;
- перечень ведущихся ФППИ в области ИИ и предполагаемые эффекты от их реализации в образцах ВВСТ;
- предложения в проект перечня ФППИ в области ИИ;
- допустимые риски при выполнении ФППИ в области ИИ и реализации их результатов в образцах ВВСТ;
- допустимый объем финансовых средств на выполнение всех ФППИ в области ИИ на рассматриваемый период прогноза;
- допустимые сроки выполнения ФППИ в области ИИ.
С математической точки зрения задача обоснования и формирования перечня ФППИ в области ИИ в интересах их реализации в образцах ВВСТ при заданных ресурсных, временных и рисковых ограничениях в общем виде формулируется следующим образом.
ДАНО:
Исходный перечень предложений по постановке ФППИ в области ИИ Х = {хД, i=1,I,
полн
каждое из которых описывается следующими прогнозными параметрами, определяемыми заявителями предложений:
- стоимостью выполнения ФППИ С = {с},
- сроками выполнения ФППИ Т = {ti},
- рисками выполнения ФППИ R = {гД,
- сроками реализации результатов ФППИ в перспективных (модернизируемых) образцах ВВСТ Т = {ДД,
- рисками реализации результатов ФППИ в перспективных (модернизируемых) образцах ВВСТ R = {/Д;
- на выполнение ФППИ планируется выделение ограниченного объема денежных средств в размере Сзад;
- сроки выполнения ФППИ не должны
превышать заранее допустимые Тзад (рекомендуются Тзад =3 года);
- сроки реализации результатов ФППИ в образцах ВВСТ не должны превышать заранее допустимые Тзад (рекомендуются Т\ад = 9 лет);
- риски выполнения ФППИ (получения прогнозных результатов ФППИ) не должны превышать заранее допустимые Рзад;
- риски реализации результатов ФППИ в образцах ВВСТ не должны превышать заранее допустимые Рзад;
- существует экспертное сообщество специалистов в области разработки и внедрения технологий ИИ в перспективные образцы ВВСТ - Ω (экспертиза ФППИ в области ИИ в интересах их реализации в образцах ВВСТ должна проводиться по соответствующим направлениям, принятым в исследованиях по ИИ);
- заданы требования к количеству экспертов для процедур как экспресс-оценки Рэ, так и численной оценки Рч предложений по постановке ФППИ (рекомендуются следующие численные значения по количеству экспертов: Рэ = 3, Рч = 7);
- известны существующие результаты выполненных ФППИ в области ИИ, а также предполагаемые результаты ведущихся ФППИ в области ИИ с которыми эксперты в процессе проведения экспертизы предложений могут ознакомиться.
При формализации и решении задачи обоснования и формирования перечня ФППИ в области ИИ примем предположение, что существует возможность реализации всех отобранных ФППИ различными организациями независимо, в том числе различными коллективами подразделений разработчиков в составе одной организации.
ТРЕБУЕТСЯ:
Разработать научно-методический аппарат формирования ФППИ в области ИИ для их реализации в перспективных образцах ВВСТ (М), содержащий порядок сбора оценки, формирования и согласования перечня ФППИ, отбора экспертов в области разработки и внедрения технологий ИИ в перспективные образцы ВВСТ (U ), который и на основе выполненных экспертных оценок позволит найти такие ФППИ, выполнение которых позволит максимизировать суммарный вклад при их реализации в перспективных образцах ВВСТ в условиях ограничений на общую стоимость выполнения ФППИ, сроки и риски выполнения ФППИ, а также сроки и риски реа-
лизации результатов ФППИ в образцах ВВСТ:
М :<U, X"> = argmaxutQ , Α{0;ΐ} Σ^ Wt(U) Xt
при ограничениях:
U={Q, uj, ui },j= ÎN ; для Vj \uj\ > Pj, \ui\ > P„;
Σ=1 Ct (U)xt < Сзад;
для Vt ti (U) xt < Тзад, ti (U) xt < Тзадv;
для Vt rt (U) Xt < Rзад, rt (U) Xt <Rзад',;
где xt - параметр выбора, характеризующий t-ое предложение в проект перечня ПН ФППИ, принимающий значение 1 в случае включения ФППИ t-го предложения в рассматриваемую совокупность ФППИ и 0 - в противном случае;
wt(U) - показатель оценки научно-технического влияния t-ого предложения в проект перечня ФППИ на развитие ВВСТ, определяемый на основе экспертной оценки U;
U - состав экспертов для оценки предложений в проект перечня ФППИ;
Q - руководитель экспертной группы по j-му направлению ФППИ;
uj - множество экспертов, отобранных для экспресс-оценки предложений по j-му направлению ФППИ;
ui - множество экспертов, отобранных для численной экспертной оценки предложений по j-му направлению ФППИ;
ct(U) - экспертная оценка стоимости выполнения t-го предложения в проект перечня ФППИ;
tt(U) - экспертная оценка сроков выполнения t-го предложения в проект перечня ФППИ;
rt(U) - экспертная оценка рисков выполнения t-го предложения в проект перечня ФППИ;
tt(U) - экспертная оценка времени реализации результатов t-го предложения в проект перечня ФППИ в перспективных (модернизируемых) образцах ВВСТ;
rt(U) - экспертная оценка рисков реализации результатов t-го предложения в проект перечня ФППИ в перспективных (модернизируемых) образцах ВВСТ.
ОБЩИЙ ПОДХОД К РЕШЕНИЮ ЗАДАЧИ ФОРМИРОВАНИЯ И ОБОСНОВАНИЯ ПЕРЕЧНЯ ФУНДАМЕНТАЛЬНЫХ, ПОИСКОВЫХ И ПРИКЛАДНЫХ ИССЛЕДОВАНИЙ В ОБЛАСТИ ИИ В ИНТЕРЕСАХ ИХ РЕАЛИЗАЦИИ В ОБРАЗЦАХ ВВСТ
Решение поставленной задачи целесообразно осуществить в следующей последо-
вательности (рисунок 3):
1. Подготовка исходных данных для сбора предложений в проект перечня ФППИ в области ИИ для их реализации в перспективных образцах ВВСТ.
На данном этапе организация, ответственная за сбор исходных данных по ФППИ в области ИИ и проведение экспертизы, до начала очередного программного периода для заявителей соответствующих ФППИ раз-
Критерии для экспрессоценки параметров ФППИ
ФППИ исключается из
дальнейшего
рассмотрения
Сбор и предварительная экспертиза предложений :::::в проект перечня ФППИ в области ИИ
• выявление и устранение дублирования по ФППИ;
• выявление и объединение близких по тематике ФППИ;
• доработка предложений в проект ПН ФППИ по результатам экспресс-оценки.
руководители
экспертных
эксперты для экспрессоценки
Организации высшей школы Организации РАН
Генеральные конструкторы ___________ВВСТ____________
Руководители приоритетных технологических направлений
Проведение экспертизы предложений в проект перечня ФППИ в области ИИ
я численной
Эксперты д оценки предложений в проект перечня ФППИ ________в области ИИ
Решение задачи выбора рационального ножества предложений в проект перечня ФППИ в области ИИ
Проект перечня ФППИ в области ИИ
Согласование проекта перечня ФППИ ■цв области ИИ, представление в ВПК при Правительстве РФ
Уточненные предложения по ФППИ
Критерии
Рисунок 3. ОБОБЩЕННЫЙ АПООРИТМ ФОРМ ИРОВАИИЯ И ОБОСНОВАНИЯ ПЕРЕЧНЯ ФППИ В ОБЛАСТИ ИИ
рабатывает методические указания (рекомендации) по сбору предложений по постановке ФППИ в области ИИ для постановки на рассматриваемом программном периоде.
Методические указания (рекомендации) по сбору предложений по постановке ФППИ области ИИ должны включать:
- унифицированный формат описания ФППИ, например, как предложено в статьях6,7;
- форму тематической карточки на проведение предлагаемой к постановке научноисследовательской работы;
- форму справки-обоснования необходимости задания предлагаемой к постановке научно-исследовательской работы.
Кроме того, в процессе сбора предложений по формированию перечня ФППИ в области ИИ могут в инициативном порядке принимать участие ведущие эксперты по соответствующим направлениям ФППИ.
Исходные данные для определения прогнозных значений показателей оценки научнотехнического влияния предложений в проект перечня ФППИ Wj(U), а также стоимости (c/U)), сроков (tj(U)), рисков (rj(U), rJ(U)) выполнения ФППИ и их реализации в образцах ВВСТ должны задаваться заявителями указанных работ в процессе формирования ими заявок по постановке и реализации соответствующих ФППИ.
2. Сбор и предварительная экспертиза предложений в проект перечня ФППИ в об-
ласти ИИ для их реализации в перспективных образцах ВВСТ.
Поступившие от опрашиваемых организаций и субъектов предложения в перечень ФППИ проходят предварительную проверку на соответствие формату представления информации и ее достаточность для проведения экспертной оценки. На данном этапе выполняются следующие мероприятия:
- выявление и устранение дублирования по ФППИ в области ИИ, в том числе выявление и исключение из дальнейшего рассмотрения ФППИ, по которым проводятся или уже завершены исследования;
- выявление и объединение близких по тематике ФППИ в области ИИ;
- доработка предложений в проект ПН ФППИ по результатам предварительная экспертиза предложений.
Для подбора и формирования состава экспертных групп по отбору ФППИ, оценки параметров и показателей квалификации экспертов может быть использован научнометодический аппарат, приведенный в рабо-те.8 Некоторые подходы к выбору критериев для экспресс-оценки параметров ФППИ приведены в работах.7,8
В интересах удобства сбора и последующей обработки информации все предложения, поступившие от ОВУ, ВУНЦ и НИО Минобороны России, организаций ОПК, уч-
реждений РАН и высшей школы, генеральных конструкторов ВВСТ или их представителей, руководителей приоритетных технологических направлений или их представителей, целесообразно записать в специализированную автоматизированную систему поддержки принятия решений по сбору, формированию и корректировке перечня ФППИ в области ИИ. Представляется целесообразным такую систему разработать и принять на снабжение.
3. Проведение экспертизы предложений в проект перечня ФППИ в области ИИ для их реализации в перспективных образцах ВВСТ.
Для проведения данной экспертизы организацией, ответственной за сбор исходных данных по ФППИ в области ИИ и проведение экспертизы, должны быть определены руководители экспертных групп по отдельным направлениям в области ИИ, а также отдельные эксперты. Руководители экспертных групп по отдельным ПН ФППИ и отдельные эксперты должны отбираться из числа генеральных конструкторов ВВСТ или их представителей, руководителей приоритетных технологических направлений или их представителей, ведущих специалистов ВУНЦ и НИО Минобороны России, ОПК и высшей школы, ведущих ученых учреждений РАН по согласованию с каждым из экспертов установленным порядком.
Некоторые подходы к выбору критериев для численной оценки параметров ФППИ приведены в статьях.7-9
Окончательные значения параметров Wi(U), (Ci(U)), (ti(U)), (rt(U), n(U) могут быть откорректированы на основе результатов численной экспертной оценки. При этом проведение процедур экспресс-оценки и численной экспертной оценки может проводится путем распределения исходных заявок на постановку ФППИ в области ИИ для их реализации в перспективных образцах ВВСТ между соответствующими центрами компетенции по существу представленных заявок (ОВУ, ВУНЦ и НИО Минобороны России, организации ОПК, учреждения РАН и высшей школы), с организацией последующего сбора электронных анкет, поступивших из соответствующих организаций (экспертов).
4. Формирование итогового проекта перечня ФППИ в области ИИ для их реализации в перспективных образцах ВВСТ при заданных ресурсных, временных, рисковых ограничениях.
На данном этапе осуществляется отбор наиболее предпочтительных ФППИ для включения в проект итогового документа
с учетом ограничений на допустимые значения рисков, сроков и объема финансовых средств, необходимых для их выполнения и реализации в образцах ВВСТ. Для этого может быть использован научно-методический аппарат, приведенный в работах.7-9
5. Согласование проекта перечня ФППИ в области ИИ для их реализации в перспективных образцах ВВСТ. На данном этапе проводится согласование проекта перечня ФППИ в области ИИ со всеми заинтересованными лицами и организациями.
ЗАКЛЮЧЕНИЕ
Применение предложенного научнометодического подхода позволит обеспечить сбор, оценку и формирование перечня ФППИ в области разработки и внедрения технологий ИИ, направленного на максимизацию общего военно-технического эффекта от их последующей реализации в перспективных образцах ВВСТ в условиях ограничений на общую стоимость выполнения ФППИ, сроки и риски выполнения ФППИ и внедрения результатов отобранных инноваций в образцах ВВСТ.
СПИСОК ИСТОЧНИКОВ
1. Степанов А.В. Основные направления применения искусственного интеллекта в вооруженных силах ведущих зарубежных стран // Зарубежное военное обозрение. 2021, №1. С.30-35.
2. Галкин Д. В., Коляндра П. А., Степанов А.В. Состояние и перспективы использования искусственного интеллекта в военном деле // Военная мысль. 2021, №1. С. 113-124.
3. Абросимов В.К. Искусственный интеллект и проблемы развития вооружения и военной техники // Вооружение и экономика. 2021, №2 (56). С. 5-21.
4. Буренок В.М., Ивлев А.А., Корчак В.Ю. Развитие военных технологий XXI века: проблемы, планирование, реализация. - Тверь: Купол, 2009.-623 с.
5. Буренок В.М. Технологические и технические основы развития вооружения и военной техники // Вооружение и экономика. 2010, № 4 (12). С.113-124.
6. Лясковский В.Л., Смирнов С.С., Борисенков И.Л. Методика выбора состава исследований на основе унифицированных процедур // Компетентность. 2013, №3 (104). С. 6-11.
7. Лясковский В.Л., Саркисян Д.А. К вопросу оценки прогнозирования потенциала реализации результатов инновационных теоретических исследований в образцах вооружения, военной и специальной техники // Научный вестник ОПК России. 2019, №1. C. 20-26.
8. Лясковский В.Л., Саркисян Д.А. Методика сбора, оценки и выбора инноваций: перспективы реализации // Компетентность. 2020, №8. C. 6-11.
9. Леонов А.В., Пронин А.Ю. Инновационнотехнологические пути обеспечения национальной безопасности России.-М.: ИНФРА-М, 2018.- 268 с.
