CC BY
170Интеллектуализация — важная составляющая цифровизации Вооруженных Сил Российской Федерации
Генерал-лейтенант О.В. МАСЛЕННИКОВ
Полковник запаса Ф.К. АЛИЕВ, доктор физико-математических наук
Полковник А.В. ВАССЕНКОВ, кандидат технических наук
Полковник О.М. ТЛЯШЕВ, кандидат технических наук
АННОТАЦИЯ ABSTRACT
Обсуждается положение о том, что цифровизация Вооруженных Сил Российской Федерации приводит к их цифровой трансформации. The paper discusses the idea of digitalization in the Armed Forces of the Russian Federation resulting in their digital transformation.
КЛЮЧЕВЫЕ СЛОВА KEYWORDS
Цифровизация, интеллектуализация, информационные технологии, робото-технические системы, искусственный интеллект, сетецентрический принцип.
Digitalization, intellectualization, information technologies, robotic systems, artificial intelligence, network-centric principle.
В ПРОЦЕССЕ военного строительства можно указать на определенные знаковые вехи, которые связаны с началом смены технологических укладов в экономике и социальной инфраструктуре нашего общества, с переходом от одного технологического уклада к другому. Образно говоря, с глубокой модернизацией страны, которая неизбежно затрагивала и Вооруженные Силы. Примером такой модернизации является индустриализация страны в 20—30-х годах прошлого века.
В наше время начало очередной такой глубокой модернизации было положено Указом Президента РФ от 09.05.2017 года № 203 «О стратегии развития информационного общества в Российской Федерации на 2017—2030 годы» и Указом Президента РФ от 07.05.2018 года
№ 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года».
Указом Президента РФ от 07.05.2018 года № 204 установлено, что обеспечение ускоренного внедрения цифровых технологий в эко-
номике и социальной сфере является одной из приоритетных целей развития Российской Федерации на период до 2024 года.
Отражением выполнения задачи достижения этой цели и использования полученных результатов в части укрепления и усиления военной составляющей нашего общества — Вооруженных Сил Российской Федерации, дальнейшего повышения обороноспособности нашей страны явилась цифровизация, под которой понимается широкое внедрение, развитие и применение в военной области современных информационных технологий (ИТ) на базе средств вычислительной техники и связи.
Цифровизация вооруженных сил приводит со временем к замещению цифровыми двойниками многих процессов военной деятельности и многих участвующих в ней субъектов и объектов.
В результате этого происходит качественная трансформация (цифровая трансформация) вооруженных сил в такое их состояние, при котором цели вооруженного противоборства достигаются преимущественно за счет применения новых видов оружия и военной техники, новых методов и способов ведения войны, основанных на новых ИТ и являющихся в определенном смысле следствием их появления. При этом разработка, применение и развитие указанных видов оружия и военной техники, методов и способов ведения войны невозможны без соответствующих ИТ.
Цифровые вооруженные силы (цифровая армия) представляют собой результат цифровой трансформации вооруженных сил, под которой понимается их синергетическое преобразование путем внедрения, развития и применения сквозных цифровых технологий.
Таким образом, цифровая трансформация является механизмом построения цифровых вооруженных сил, а инструментарием (набор инструментов) построения служат сквозные цифровые технологии.
Необходимо пояснить более подробно смысл использованного выше понятия «сквозная цифровая технология». Появление объектов, для обозначения которых используется это понятие, в сущности, и предопределило возможность создания и развития цифровых вооруженных сил.
Но перед этим укажем, не претендуя на исчерпывающую полноту, на две важные, по нашему мнению, принципиальные особенности цифровых вооруженных сил, в корне отличающих их от армий доцифрового мира. Они заключаются в том, что в цифровых вооруженных силах в полной мере происходит ориентация на сетецентрические принципы ведения войны и принципиально изменяется роль человека в военном деле1.
Термин «сетецентрическая война» впервые появился в американской военной науке в конце 1990-х годов в связи с массовым поступлением в вооруженные силы компьютерных средств сбора, обработки и передачи данных. В начале 2000-х годов он начал активно использоваться и в других государствах.
В России основные положения се-тецентрических принципов ведения войны развиты и представлены в работах видного российского ученого и военного деятеля Игоря Анатольевича Шеремета2, 3 4.
Сущность понятия сетецентри-ческая война заключается в том, что в целях достижения информационного и, как следствие, оперативного превосходства над любым противником органы военного управления всех уровней, соединения и части до отдельной единицы техники и военнослужащего при ведении боевых действий
должны быть интегрированы в единую сетевую информационно-телекоммуникационную инфраструктуру. Такой подход предполагает обеспечение качественно нового уровня взаимодействия и многократного повышения эффективности применения сил и средств.
Полагается, что роль человека в военном деле в цифровых вооруженных силах будет заключаться прежде всего в наблюдении за ситуацией, комплексном анализе принимаемых роботизированными системами решений, а также в контроле за выдачей команд на уничтожение противника, особенно в случае угрозы гибели мирного населения. Таким образом, формирование и принятие решений в своей существенной части становится прерогативой машин, точнее, систем искусственного интеллекта. Отметим, что данное положение в полной мере распространяется на процессы управления оружием.
Процессы управления войсками и прежде всего общевойсковыми формированиями в части принятия решения еще долго будут оставаться прерогативой командиров и коман-
Термин «сетецентрическая война» впервые появился в американской военной науке в конце 1990-х годов в связи с массовым поступлением в вооруженные силы компьютерных средств сбора, обработки и передачи данных. В начале 2000-х годов он начал активно использоваться и в других государствах. В России основные положения сетецентрических принципов ведения войны развиты и представлены в работах видного российского ученого и военного деятеля Игоря Анатольевича Шеремета.
дующих всех уровней. При этом количественное обоснование решений будет осуществляться с применением всей мощи ИТ.
В системах управления оружием человек включается лишь в исключительных критических случаях. Основные его функции — наблюдение и контроль. Итак, полагается, что формирование и принятие решений в боевых операциях и действиях в цифровых вооруженных силах в основном будут осуществлять робото-технические системы, объединенные в боевые комплексы в соответствии с решаемыми боевыми задачами. На возможность такого развития событий еще в 2013 году указывал начальник Генерального штаба ВС РФ генерал армии В.В. Герасимов: «В недалеком будущем возможно создание полностью роботизированных формирований, способных вести самостоятельные боевые действия»5.
Вернемся к инструментарию построения цифровых вооруженных сил, т. е. к сквозным цифровым технологиям.
Перечень основных сквозных цифровых технологий представлен в национальной программе «Цифровая экономика Российской Федерации». А в федеральном проекте «Цифровые технологии» представлен следующий уточненный перечень сквозных цифровых технологий: большие данные; искусственный интеллект; системы распределенного реестра (блокчейн); квантовые технологии; новые производственные технологии; промышленный интернет; робототехника; сенсорика; беспроводная связь; виртуальная реальность; дополненная реальность.
Множество сквозных цифровых технологий является подмножеством более широкого по составу множества уже выше упомянутых информационных технологий, т. е. сквозная цифровая технология — ин-
формационная технология. Именно данный аспект сквозных цифровых технологий объясняет их гигантскую продуктивность и неограниченно масштабируемое воздействие на различные сферы человеческой жизни (в современном нашем понимании), приводящее к их преобразованию в состояние с дальнейшим экспоненциальным ускорением в прогрессивном развитии.
Сказанное выше обусловливает высокую эффективность сквозных цифровых технологий в создании не только цифровых ВС, но и в построении и развитии всей экономики и социальной сферы государства.
Отражением этого и является наличие цитируемого выше положения (обеспечение ускоренного внедрения цифровых технологий в экономике и социальной сфере является одной из приоритетных целей развития Российской Федерации на период до 2024 года) в Указе Президента РФ от 07.05.2018 года № 204.
Теперь, учитывая вышесказанное, следует остановиться на феномене «информационная технология», обсудить, в чем состоит ее привлека-
В системах управления оружием человек включается лишь в исключительных
критических случаях. Основные его функции — наблюдение и контроль. Итак, полагается, что формирование и принятие решений в боевых операциях
и действиях в цифровых вооруженных силах в основном
будут осуществлять робототехнические системы, объединенные в боевые комплексы в соответствии с решаемыми боевыми задачами.
тельность для эффективного использования той или иной частью человеческого сообщества для достижения широкого спектра своих целевых по-лаганий. По нашему мнению, это обсуждение может быть полезным для понимания процессов (а возможно, и управления ими) цифровой сферы, ставшей планетарным явлением, охватив почти все население земли на основе мобильных гаджетов.
Информационной технологией6 называется технология, реализация которой сводится к выполнению конечной последовательности операций, сутью которых являются:
• хранение информации;
• обработка информации;
• передача информации.
Установлено, что с течением времени ресурсы, необходимые для хранения, обработки и передачи 1 бита информации, настолько быстро убывают, что в настоящем к ним применяется даже такое образное выражение, как «исчезающе малые».
Считается, что указанное обстоятельство обусловливает наличие у ИТ следующих трех свойств7:
• свойства экспоненциального развития;
• свойства комбинаторности;
• свойства рекурсивности.
Информационные технологии
лежат в основе создания разных типов вычислительной и телекоммуникационной техники, которые, в свою очередь, способствуют появлению новых информационных и телекоммуникационных технологий. И в такой цепной реакции не предвидится никакого окончания ни во времени, ни в расширении разнообразия выполняемого функционала, ни в степени улучшения и развития имеющихся и вновь появляющихся технологий. Улучшение и развитие технологий реализуется в соответствии с «законом ускорения отдачи», сформулированным американским
изобретателем Рэйем Курцвейлом8, 9. Этот закон (свойство) заключается в следующем: «Параметры развития ИТ следуют предсказуемой экспоненциальной траектории, т. е. чем мощнее становится та или иная технология, тем большее ускорение в своем развитии она приобретает».
Информационные технологии хорошо сочетаются (т. е. комбинируются) друг с другом. Комбинаторность в развитии ИТ означает, что разные проявления технологического прогресса комбинируются (сочетаются) и интегрируются (суммируются). Внедрение, развитие и применение сочетаний приводят к синергетиче-ским результатам, т. е. к результатам, которые качественно и количественно превосходят результаты, которые можно получить раздельным применением технологий, составляющих сочетания. Более того, эти синергетические результаты невозможно получить простым суммированием результатов раздельного применения технологий. На основе этих синергетических проявлений технологического прогресса путем их комбинации и интеграции запускается порождение новых синергетиче-ских достижений и так далее по цепи лавинообразного развития.
Для примера, такие технологии, как искусственный интеллект (ИИ), Интернет вещей, беспроводная связь, квантовые технологии и т. д. начинают сочетаться и дополнять друг друга. Они применяются во многих секторах мирового хозяйства, широко наблюдаются последствия их комбинированного и интегрированного применения.
Информационные технологии могут при своем внедрении, развитии и применении привести к рекурсивным (т. е. самоусилительным) усовершенствованиям, т. е. к усовершенствованиям созданных по этим технологиям систем самих себя. На примерах при-
менения таких информационных технологий, как технологии ИИ, можно уже наблюдать первых роботов, которые могут сами себя обновлять и перепрограммировать, контролировать состояние энергосети, от которой зависит их функционирование.
Свойства экспоненциального развития (по-другому, закон ускорения отдачи Рэя Курцвейла), комбинатор-ности и рекурсивности ИТ обусловливают также экспоненциальное развитие и тех областей существования и жизнедеятельности людей, где технологии внедряются, развиваются и применяются, приводя к развертыванию рекурсивной цепи синергети-ческих достижений все более высокого уровня, которые невозможно или очень сложно получить альтернативными путями.
Вычленение из множества ИТ ряда технологий и их включение в перечень сквозных цифровых технологий обусловлено расстановкой приоритетов в государственном строительстве, усилении защищенности и безопасности наших сограждан, повышении народного благосостояния, а также учетом объема и состояния необходимых ресурсов (материальных, финансовых, трудовых и т. д.). В дальнейшем перечень несомненно может быть расширен и преобразован в зависимости от изменения соответствующих приоритетов.
По результатам изучения и анализа материалов из доступных источников можно предположить, что при всей важности перечисленных сквозных технологий, наивысший приоритет в ближайшей и среднесрочной перспективе для военной сферы будут иметь решения на основе объединения следующих из этих технологий:
• технологии смешанной реальности (совместное применение технологий виртуальной и дополненной реальности);
• квантовые технологии;
• технологии искусственного интеллекта.
Данное положение обосновывается следующим.
Технологии смешанной реальности могут послужить основой для создания нового пользовательского интерфейса, который преобразует в единое целое военный цифровой мир и военный физический мир вооруженных сил, выводя военную деятельность на новый качественный уровень. Данные, приложения и даже каждый военнослужащий будут доступны благодаря таким гаджетам, как смартфон, планшет, где бы они ни понадобились. Работы в этих направлениях ведутся.
На квантовые технологии возлагаются надежды в двух направлениях.
Первое — это изменение физических принципов вычислений, используемых в настоящее время. Предполагается, что это приведет к грандиозному взрывному росту производительности вычислений, что имеет большое значение для военной деятельности в настоящее время и в перспективе.
Второе — появляется потенциальная возможность обеспечить принципиальную, полную и безусловную защищенность информации, циркулирующей в военных технических системах.
Технологии ИИ усиливают любой военный профессиональный опыт, дополняя возможности военнослужащего такими экспертными знаниями и такой мощностью прогнозирования, которые недостижимы для человека.
Более того, создание автономных систем ИИ военного назначения (в средствах массовой информации часто встречается и такой термин, как «автономное оружие») считают третьей революцией в военном деле, после изобретения пороха и атомной бомбы.
Поэтому дальнейшее развитие и углубление процессов цифровиза-ции в вооруженных силах ведущих стран мира связывают во многом с интеллектуализацией, т. е. с созданием, широким внедрением и применением
систем искусственного интеллекта (СИИ), под которыми понимается машинная система (программная, аппаратная или программно-аппаратная система), способная выполнять творческие функции, которые традиционно считаются прерогативой человека10 (т. е. способная действовать таким образом, что будет восприниматься человеком как разумная11).
Такому положению дел не только в военной области, но и в более широком плане можно дать следующие объяснения. На современном этапе развития цифровизации, принявшей планетарный масштаб благодаря массовому распространению мобильных средств коммуникации, наблюдается тот факт, что вещи тоже становятся, образно говоря, умными. Многие объекты вокруг нас, которые раньше существовали обособленно и по большому счету без изменений в сво-
Информационные технологии могут при своем внедрении, развитии и применении привести к рекурсивным (т. е. самоусилительным) усовершенствованиям, т. е. к усовершенствованиям созданных по этим технологиям систем самих себя. На примерах применения
таких информационных технологий, как технологии ИИ, можно уже наблюдать первых роботов, которые могут сами себя обновлять
и перепрограммировать, контролировать состояние энергосети, от которой зависит их функционирование.
ем состоянии и назначении, подключаются теперь к глобальным сетям. Они с помощью датчиков и сенсоров постоянно обновляются. Полагают, что можно наделить интеллектом буквально все, т. е. многие вещи можно превратить в СИИ. Таким образом, буквально все можно наделить способностью решать те или иные задачи, традиционно являющиеся прерогативой человека. Считается, что в настоящее время для этого есть все необходимые средства. Такова суть интеллектуализации.
В настоящее время основным двигателем интеллектуализации является машинное обучение и его разновидность — глубокое обучение. В общем, машинное обучение — новая парадигма, пришедшая на смену традиционному подходу к программированию машин, который заключался в том, что машины должны следовать инструкциям (командам) и выполнять свою работу.
При новой парадигме — машинном обучении (точнее, при его разновидности — глубоком обучении) предполагается обеспечить их (т. е. машины) следующим:
• большой вычислительной мощностью (высокопроизводительные вычисления);
• доступом к огромному количеству информации (большие данные);
• набором базовых правил обучения.
Далее дается простая команда, например: «Выясни, как выиграть в шахматы». После получения этой команды машина самостоятельно находит такие правила и стратегии, до которых люди никогда бы не додумались.
Как правило, глубокое обучение применяется для обучения нейронных сетей, на основе которых в настоящее время строятся СИИ.
Высокую эффективность машинного обучения как класса методов построения СИИ объясняют прежде
всего тем, что большинству явлений и процессов нашего реального мира присуще свойство регулярности. Это означает, что вещи в мире меняются постепенно. Для примера, мы не перемещаемся скачком из точки А в точку Б. Для этого мы должны пройти все промежуточные точки, принадлежащие соответствующей траектории движения. По-другому, методы машинного обучения эффективны для создания СИИ в тех случаях (а они в нашем человеческом мире являются преобладающе распространенным явлением), когда выполняемая функция (в самом общем смысле задача) обладает следующим свойством: малые изменения аргумента функции приводят к малым изменениям значения функции. Это свойство принято называть признаком регулярности.
Не претендуя на исчерпывающую полноту, можно указать, что наряду с машинным обучением, при создании СИИ нашли применения (возможно, несколько в меньшем масштабе, чем машинное обучение) следующие технологии ИИ:
• технологии создания экспертных систем и систем поддержки принятия решений;
• технологии поиска (в том числе следующие типы поиска: поиск в пространстве состояний системы; поиск пути; эвристический поиск; информационный поиск);
• технологии обработки естественного языка (основная решаемая задача заключается в создании СИИ, который наделен способностью анализа и синтеза фраз на естественном языке для общения с человеком);
• технологии представления знаний;
• технологии получения, представления и обработки знаний с НЕ-факторами (примеры НЕ-фак-торов: нечеткость, неопределенность, неточность и недоопределенность);
• технологии интеллектуального анализа данных (набор методов для обнаружения в данных полезной информации);
• технологии распознавания образов;
• технологии создания интеллектуальных роботов и роботизированных технических комплексов;
• технологии создания и применения многоагентных систем (в том числе массированных группировок типа «рой»).
Эффективным инструментом реализации СИИ в настоящее время считается аппарат нейронных сетей. Данное обстоятельство объясняется следующим12. Класс функций, который очерчивает современная физика для объяснения реального мира является довольно «узким» классом функций по причинам того, что «законы физики довольно просты». Более того, крошечная доля функций, эффективно вычисляемая нейронными сетями, совпадает с тем «узким» классом функций, интересоваться которыми нас заставляет физика при изучении реального мира. Таким образом, на сегодняшний день можно считать нейронные сети основным инструментом для построения систем искусственного интеллекта. Судя по публикациям, они дают хорошие результаты при решении большого количества практически востребованных задач, таких, как обработка речи, создание голосовых помощников, распознавание изображений и т. д.
Для ВС РФ в вопросе интеллектуализации, в вопросе применения ИИ для повышения обороноспособности России имеется полная определенность. Она однозначно выражена Президентом Российской Федерации, Верховным главнокомандующим Вооруженных Сил Российской Федерации Владимиром Владимировичем Путиным, указавшем 9 ноября 2019 года
в своем выступлении на международной конференции по ИИ, состоявшейся в Москве, что ИИ отводится роль эффективного инструмента для решения задач практически во всех жизненных сферах, включая и вопросы повышения обороноспособности.
Действуя в русле данной установки Верховного главнокомандующего, ИИ надо применять в военном деле, но не в той степени, чтобы везде им подменять человека. Представляется, что пока еще предпочтительной является схема «человек плюс машина», где машины с ИИ поддерживали бы людей, расширяли бы их возможности в военном деле, позволяя достичь тех результатов, которые раньше (до применения ИИ) считались невозможными.
Говоря о положительном эффекте применения ИИ в военном деле, можно привести следующий очень яркий, на наш взгляд, пример13 из практики действий ВС РФ.
Всем известно, что война, ведение боевых действий являются для участников и действующих в них сторон очень дорогими, затратными мероприятиями. Поэтому всегда стоит задача обеспечения малоза-
На современном этапе развития цифровизации, принявшей планетарный масштаб благодаря массовому распространению мобильных средств коммуникации, наблюдается тот факт, что вещи тоже становятся, образно говоря, умными. Многие объекты вокруг нас, которые раньше существовали обособленно и по большому счету без изменений в своем состоянии и назначении, подключаются теперь к глобальным сетям.
тратности боевых действий. Приводимый пример — об успешном решении этой задачи в ходе специальной операции в Сирийской Арабской Республике. В рамках этой операции в составе авиации были задействованы бомбардировщики СУ-24М и ТУ-22М3. Для решения боевых задач использовались свободно падающие (неуправляемые) авиационные бомбы ФАБ-500М62 и корректируемые (управляемые) авиационные бомбы. Самолеты были оснащены новейшей специализированной вычислительной подсистемой СВП-24, в которой реализованы технологии ИИ, в части анализа данных ГЛОНАСС о взаимном расположении самолета и цели, учета атмосферных факторов, погодных условий и другое при расчете начальных значений параметров (курс, скорость, высота сброса и т. д.) авиационной бомбы. После выполнения этих расчетов бомбометание осуществлялось в автоматическом режиме. Результаты практических применений оказались превосходными. Использование СВП-24 позволило обеспечить эффективность поражения объектов противника неуправляемыми бомбами, сопоставимую с точностью применения корректируемых авиационных бомб, т. е. высокоточного оружия.
Итак, боевая задача решалась с помощью неуправляемой авиационной бомбы с эффективностью сопоставимой с применением высокоточной управляемой авиационной бомбы. То есть было достигнуто уменьшение затрат в разы, более чем на порядок. Даже с учетом издержек на разработку и серийное производство программно-аппаратной интеллектуальной системы СВП-24 получается достаточно серьезная экономия средств. Таким образом, налицо эффективное решение задачи обеспечения снижения затратности боевых действий авиации.
Другим положительным примером развития интеллектуализации в ВС РФ, т. е. создания и применения СИИ может служить современное решение задачи интеллектуализации бортовых систем управления авиационных комплексов в части обеспечения задач боевого применения14.
Эти примеры показывают, что в военной области применение ИИ по схеме «человек плюс машина» в настоящее время имеет высокую степень эффективности.
Судя по данным из различных доступных источников информации, к близкому по значению выводу пришли и военные специалисты ведущих стран НАТО. Так, например, начиная с 2009 года в ВВС США используются смешанные группы (звенья), состоящие из пилотируемого самолета в роли ведущего и трех беспилотных устройств (летающие роботы). У каждого робота своя задача: воздушный бой, подавление наземного огня, бомбометание и т. п. При этом ведущий «контролирует и отслеживает выполнение определенных решений». Пилот может корректировать действия роботов.
Но, однако, в военных кругах США полагают15, что с течением времени «развитие ИИ позволит СИИ принимать боевые решения и действовать в рамках юридических и политических ограничений без контроля со стороны человека».
Еще в июле 2013 года в вооруженных силах США были испытаны беспилотные реактивные истребители. Были отработаны такие элементы, как приземление на палубу авианосца — это тогда считалось одной из сложнейших задач даже для обычного пилота, не говоря уже о беспилотном летательном аппарате.
К концу 2040-х годов, как полагает командование ВВС США16, «технология позволит сократить время на наблюдение, ориентирование, принятие
решений и действия до микро- или наносекунд. Текущие тенденции показывают, что в 2040-е годы военные действия полностью контролировать будут роботы».
В заключение данной статьи укажем концентрированно на следующие основные направления интеллектуализации (т. е. создания и применения СИИ) в рамках процессов цифровизации в ВС РФ.
1. Системы поддержки принятия решений на тактическом, оперативном и стратегическом уровнях.
2. Автоматизированные и автономные беспилотные аппараты и средства (включая их использование массированными группировками типа «Рой»), участвующие в боевых действиях.
3. Видеоаналитика, совмещенная с системами смешанной реальности, для использования непосредственно в бою.
4. Обеспечивающие системы на поле боя (например, роботы для разминирования, роботы-эвакуаторы).
ПРИМЕЧАНИЯ
1 Масленников О.В., Курочкин В.П., Алиев Ф.К., Тляшев О.М. Об информатизации Вооруженных Сил Российской Федерации // Военная Мысль. 2019. № 12. С. 57—67.
2 Шеремет И.А. «Сетецентрическая война»: истоки и технические аспекты // Военно-промышленный курьер. № 7. 2006.
3 Шеремет И.А. Сетецентричность и роботизация: две стороны облика боевых систем будущего // Национальная оборона. № 3. 2006.
4 Шеремет И.А. Управление и мета-управление в сетецентрических системах / Материалы пленарного заседания научной конференции «Современные тенденции развития теории и практики управления в системах специального назначения». М.: Системпром, 2011.
5 Герасимов В.В. Основные тенденции развития форм и способов применения ВС, актуальные задачи военной науки по их совершенствованию. Доклад на общем собрании АВН // Военно-промышленный курьер. 2013. № 8 (476). 27 февраля.
6 Курцвейл Р. Эволюция разума. М.: Эксмо, 2018.
7 Там же.
8 RayKurzweil. TheAgeof Spiritual Machines, 1999.
9 Курцвейл Р. Эволюция разума.
10 Масленников О.В. ТрЦОД ВС РФ как фабрика, продуцирующая «разум» для перспективных систем искусственного интеллекта военного назначения. Федеральный справочник. Оборонно-промышленный комплекс [информационно-аналитическое издание]; Т. 14 / Центр стратегических программ. М.: Центр стратегических программ, 2018. 592 с.
11 Джонс М.Т. Программирование искусственного интеллекта в приложениях: пер. с англ. М.: ДМК Пресс, 2015. 312 с.
12 Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. М.: Издательство АСТ, 2019.
13 Макушев И.Ю. Основные результаты применения вооружения, военной и специальной техники в Сирийской Арабской Республике. Федеральный справочник. Оборонно-промышленный комплекс [информационно-аналитическое издание]; Т. 14. М.: Центр стратегических программ, 2018. 592 с.
14 Макушев И.Ю., Сергеев С.Н., Гин-дранков В.В., Людский В.А. Интеллектуализация бортовых систем управления авиационных комплексов // Военная Мысль. 2019. № 7. С. 68—76.
15 Моррис Я. Война! Для чего она нужна?: Конфликт и прогресс цивилизации — от приматов до роботов. М.: Кучково поле, 2016.
16 Там же.
