CC BY
96
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
УДК 004.8
К вопросу об обосновании термина «военный искусственный интеллект»
Забегалин Е. В.
Актуальность задачи: использование искусственного интеллекта (ИИ) в военном деле, требуемое политическим и военным руководством Российской Федерации, должно иметь соответствующее нормативно-техническое регулирование. Вместе с этим на правительственном уровне отмечается отсутствие однозначного понимания терминов «искусственный интеллект», «робот» и др., создающее терминологическую проблему в формировании регулирования, и поэтому допускается возможность разных терминологических определений в разных отраслях применения ИИ. Такая возможность необходима и в отрасли военного применения ИИ, и, соответственно, актуальной задачей является обоснование термина «военный ИИ». Определение «ИИ», данное в «Национальной стратегии развития искусственного интеллекта на период до 2030 года», является недостаточно чётким и ясным, поэтому целью статьи является преодоление недостатков данного определения и разработка более чётких и ясных определений терминов «ИИ» и «военный ИИ». Метод решения задачи: прежде всего принята парадигма выведения смысла термина «ИИ» из содержательного понимания интеллекта человека (ИЧ), и в этой парадигме составлена и реализована трёхэтапная схема решения исследовательской задачи: сначала определяется термин «ИЧ», потом на его основе определяется термин «ИИ», затем в контексте выведенного понимания «ИИ» определяется термин «военный ИИ». Результат решения задачи: разработаны новые определения терминов «ИЧ», «ИИ», «военный ИИ», новизну которым придаёт привлечение необходимых сведений об интеллекте человека из источников профессиональных знаний по медицине и психологии. Практическая значимость решения состоит в возможности использования разработанных определений терминов «ИЧ», «ИИ», «военный ИИ» в нормативно-техническом регулировании сферы ИИ и отрасли военного использования ИИ.
Ключевые слова: интеллект человека, искусственный интеллект, военный искусственный интеллект.
Актуальность
Утверждённая распоряжением Правительства Российской Федерации «Концепция регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» [1] отмечает: «Отсутствие однозначного понимания содержания терминов «искусственный интеллект», «робот», «умный робот», «робототехника», «интеллектуальный агент» приводит к терминологическим проблемам при формировании регулирования. В то же время с учётом прикладного характера применения этих технологий в самых разных областях может требоваться формулирование разных определений в зависимости от отрасли применения технологий искусственного интеллекта и робототехники». Это в полной мере относится к отрасли военного применения искусственного
Библиографическая ссылка на статью:
Забегалин Е. В. К вопросу об обосновании термина «военный искусственный интеллект» // Системы управления, связи и безопасности. 2022. № 1. С. 140-157. DOI: 10.24412/2410-9916-2022-1-140-157 Reference for citation:
Zabegalin E. V. A Question of Justification of the Term "Military Artificial Intelligence". Systems of Control, Communication and Security, 2022, no. 1, pp. 140-157 (in Russian). DOI: 10.24412/2410-99162022-1-140-157
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
интеллекта (ИИ) и робототехники, то есть необходимо рациональное обоснование содержательного понимания ИИ военного назначения - «военного ИИ».
Началом нормирования терминологии ИИ стала «Национальная стратегия развития искусственного интеллекта на период до 2030 года» [2] (далее -НСРИИ-2030), в которой сформулировано определение ИИ и которая подтолкнула последующее принятие стандартов классификации и способов доверия к ИИ [3, 4], а также вызвала ряд научных публикаций по военному осмыслению ИИ, ещё далекому до завершения.
НСРИИ-2030 определила термин «ИИ» как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Это определение ИИ повторено в стандартах [3, 4] и в глоссарии [5].
Недостатком этого определения можно считать его недостаточные чёткость и ясность, которые просматриваются в том, что:
- во-первых, не определены вспомогательные термины «когнитивные функции человека» и «интеллект человека», для которых множество различающихся известных определений шире множества известных определений ИИ;
- во-вторых, использованный глагол «имитировать» значительно снижает ту большую практическую значимость ИИ, которую задаёт НСРИИ-2030.
Таким образом, продолжает быть актуальной задача терминологического определения ИИ в его общем понимании и в различных отраслях применения ИИ, включая отрасль военного применения ИИ. Настоящая статья описывает исследовательскую разработку варианта решения этой задачи.
Постановка задачи
В обозначенной выше проблемной ситуации применение одних только общих логических правил определения понятий1 для разработки понятия ИИ оказывается недостаточным потому, что невозможно определить сущность ИИ без соотнесения его с содержательным пониманием интеллекта человека (ИЧ). Поэтому в настоящей статье дополнительно принимается парадигма решения исследовательской задачи, предусматривающая разработку сначала определения термина «интеллект человека», а потом в логическом согласовании с ним - разработку определения термина «искусственный интеллект».
1 Эти правила ориентированы на представление понятий целостными совокупностями утвердительных суждений о наиболее общих и наиболее существенных признаках соответствующих им объектов и включают: отнесение к ближайшему роду и выявление видового отличия, соблюдение соразмерности определяемого и определяющего понятий, выделение существенных видовых признаков, отсутствие терминологического круга, применение позитивной формы суждений, недопущение логических противоречий и двусмысленности, достижение чёткости и ясности [3].
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
В рамках этой парадигмы задача статьи решается по следующей методической схеме:
- сначала нужно выявить наиболее понятные инвариантные смыслы в известных определениях терминов «когнитивные функции человека», «интеллект человека» и составить из этих смыслов одно обобщающее определение термина «ИЧ» с преимущественным использованием понятных русских слов;
- потом на основании полученного определения термина «ИЧ» и с учётом известных отличительных признаков ИИ, которые доминируют в научных публикациях, составить новое определение термина «ИИ»2;
- затем, исходя из составленного нового определения термина «ИИ» и специфики военного приложения ИИ, составить определение равнозначных терминов «военный ИИ» и «ИИ военного назначения»;
- в завершение предложить схему классификации военного ИИ.
Определение термина «интеллект человека»
Автору настоящей статьи не удалось найти в Интернете достаточно авторитетные русскоязычные источники с определениями термина «когнитивные функции». В англоязычных Интернет-ресурсах термин «cognitive functions» определяется по-разному и без какой-либо логической строгости, а в целом же мнения авторов сходятся к тому, чтобы считать его синонимом терминов «intel-lectual functions», «mental processes».
Электронный словарь по психологии [7], составленный Американской психологической ассоциацией, даёт следующие определения:
- «cognition - all forms of knowing and awareness, such as perceiving, conceiving, remembering, reasoning, judging, imagining, and problem solving. Along with affect and conation, it is one of the three traditionally identified components of mind; an individual percept, idea, memory, or the like» (ко-гниция - все формы знания и осведомленности, такие как восприятие, представление, запоминание, рассуждение, суждение, воображение и решение проблем. Наряду с аффектом и притворством это один из трех традиционно определяемых компонентов разума; а также индивидуальное восприятие, идея, память и т. п.);
- «cognitive functioning - the performance of the mental processes of perception, learning, memory, understanding, awareness, reasoning, judgment, intuition, and language» (когнитивное функционирование - выполнение психических процессов восприятия, обучения, памяти, понимания, осведомлённости, рассуждений, суждений, интуиции и языка);
- «intellect - the intellectual functions of the mind considered collectively; an individual's capacity for abstract, objective reasoning, especially as contrasted with his or her capacity for feeling, imagining, or acting» (интеллект - интеллектуальные функции разума, рассматриваемые в совокупности; способность человека к абстрактным, объективным рассуж-
2 Парадигма выведения понятия «ИИ» из понятия «ИЧ» была ранее предложена ведущим российским учёным в сфере ИИ Финном В.К. [6].
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
дениям, особенно в отличие от его способности чувствовать, воображать или действовать);
- «intellectual function - any of the mental functions involved in acquiring, developing, and relating ideas, concepts, and hypotheses. Memory, imagination, and judgment can also be considered intellectual functions» (интеллектуальная функция - любая из психических функций, участвующих в приобретении, развитии и связывании идей, концепций и гипотез. Память, воображение и суждение также можно считать интеллектуальными функциями).
Русский логический словарь [8] содержит следующие определения:
- «когнитивный - познаваемый, соответствующий познанию»;
- «интеллект - целостная совокупность функций, проявлений деятельности высокоорганизованной материи — человеческого мозга (мышления, эмоций, воли, фантазий и др.), направленной на познание и преобразование природы, общества и самого себя»;
- «искусственный интеллект - машины, выполняющие такие действия, для которых обычно требуется человеческий мозг».
Русский Интернет-ресурс «Словари онлайн» [9], в котором собрано большое количество словарей и энциклопедий (в том числе психологических), даёт множество определений терминов, относящихся к когнитивности и интеллектуальности, - вот лишь некоторые из них:
- «когнитивные процессы - познавательные процессы человека, включая его ощущения, восприятие, внимание, воображение, память, мышление, речь»;
- «интеллект - относительно устойчивая структура умственных способностей индивида, проявляющихся в различных сферах практической и теоретической деятельности»;
- «интеллект - общая способность к познанию и решению проблем, определяющая успешность любой деятельности и лежащая в основе др. способностей; система всех познавательных (когнитивных) способностей индивида: ощущения, восприятия, памяти, представления, мышления, воображения; способность к решению проблем без проб и ошибок «в уме»;
- «ум, разум - способность мышления и понимания»;
- «мышление - высшая форма познавательной деятельности, определяющая внутренние связи между людьми, предметами и явлениями, тесно связанная с памятью, речью, способностью к анализу и синтезу, обобщению накопленных ранее знаний и вновь приобретенной информации. О мышлении человека судят по его высказываниям и деятельности. Уровень мышления и способность к проникновению в суть возникающих проблем, к выработке наиболее адекватных решений входят в понятие интеллекта».
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
Компания «CogniFit» - одна из ведущих компаний-разработчиков компьютерных программ для оценки и тренировки интеллектуальных способностей людей - так сообщает своё понимание рассматриваемых терминов [10]:
- «Когнитивность - это способность воспринимать и обрабатывать данные, поступающие к нам различными способами (восприятие, опыт, убеждения...), чтобы превратить их в знание. Эта способность охватывает различные когнитивные процессы, такие как обучение, внимание, память, речь, рассуждение, принятие решений и др., которые являются частью интеллектуального развития и опыта»;
- «Когнитивные функции являются умственными процессами, которые позволяют нам принимать, отбирать, накапливать, перерабатывать, создавать и восстанавливать информацию. Это помогает нам понимать окружающий нас мир и общаться с ним».
Из приведенных примеров можно сделать следующие выводы:
- в зарубежных источниках когнитивность понимается в большинстве случаев как синоним интеллектуальности и повторяется при этом чаще, чем интеллектуальность, в то время, как в отечественных источниках когнитивность чаще всего понимается более узко в аспекте познания и может рассматриваться в дальнейшем как часть интеллектуальности и применяться тогда, когда необходимо акцентировать познавательный аспект интеллектуальности;
- в определениях интеллектуальности используются (по одному и вместе) термины «функция», «процесс», «способность», что не придаёт ясности определениям;
- для достижения чёткости и ясности определений необходимо привлечь философские категории «сущность и явление» и полагать то, что интеллектуальные функции и процессы мозга человека есть проявления его интеллектуальных способностей, которые в совокупности и составляют интеллектуальную сущность человека.
В соответствии с этими выводами предлагается определить ИЧ:
интеллект человека - устойчивый комплекс умственных способностей человека, которые сформированы обучением и личным опытом, проявляются и сознательно используются человеком в осмысленном поведении, в том числе в планировании, организации и ведении целенаправленной деятельности, а также в познании.
Это определение само по себе ещё не даёт полной ясности понимания ИЧ потому, что в нём есть не определённое пока выражение «умственные способности человека». Для прояснения вопроса об умственных способностях человека лучше всего обратиться к знаниям из области, в которой специалисты работают с интеллектом людей профессионально и ответственно. Авторитетным письменным источником специальных знаний по умственным способностям людей является «Diagnostic and Statistical Manual of Mental Disorders» («Диагностическое и статистическое руководство по психическим расстройствам»), последнее 5-е издание которого - «DSM-5» - было разработано и выпущено Американской психиатрической ассоциацией в 2013 году [11].
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
Согласно «DSM-5» основные умственные способности (general mental abilities) взрослого человека:
- во-первых, связаны с интеллектуальными функциями (refers to intellectual functions) человека, к число которых «DSM-5» включает: рассуждение, решение проблем, планирование, абстрактное мышление, суждение, обучение на основе инструкций и опыта, а также практическое понимание (reasoning, problem solving, planning, abstract thinking, judgment, learning from instruction and experience, and practical understanding). Критическими компонентами интеллектуальных функций человека являются: вербальное понимание, рабочая память, перцептивное мышление, количественное мышление, абстрактное мышление и когнитивная эффективность (verbal comprehension, working memory, perceptual reasoning, quantitative reasoning, abstract thought, and cognitive efficacy);
- во-вторых, проявляются в повседневном адаптивном поведении человека (everyday adaptive functioning), которое обеспечивается памятью, языком, чтением, письмом, математическими рассуждениями, приобретением практических знаний, решением проблем, суждениями в новых ситуациях; осведомленностью о мыслях, чувствах и опыте других; сочувствием, навыками межличностного общения, способностью дружбы, социальными суждениями, обучением и самоуправлением в жизненных условиях, включая личный уход, должностными обязанностями, управлением деньгами, отдыхом, самоуправлением поведения, организацией школьных и рабочих задач (memory, language, reading, writing, math reasoning, acquisition of practical knowledge, problem solving, and judgment in novel situations, awareness of others' thoughts, feelings, and experiences, empathy, interpersonal communication skills, friendship abilities, social judgment, learning and self-management across life settings, including personal care, job responsibilities, money management, recreation, self-management of behavior, and school and work task organization).
Одновременное использование в «DSM-5» двух не различённых по смыслам терминов «умственные способности» (mental abilities) и «интеллектуальные функции» (intellectual functions) для объяснения одного и того же предмета -интеллектуальной недостаточности (intellectual disability) - затрудняет понимание и этого предмета, и указанных двух терминов. Поэтому практически полезным выходом из этой ситуации может быть следующая логическая формула:
- человек обладает умственными способностями, которые проявляются в виде выполняемых интеллектуальных функций и решаемых интеллектуальных задач в волевых актах применения и реализации этих способностей;
- допускаются одинаковые наименования для умственных способностей человека и соответствующих им интеллектуальных функций.
С учётом этой формулы на основе рекомендаций «DSM-5» и с дополнением их сведениями из других (указанных выше) источников можно составить
145
DOI: 10.24412/2410-9916-2022-1-140-157_
URL: https://sccs.intelgr.com/archive/2022-01/06-Zabegalin.pdf
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
расширенный перечень умственных способностей человека, которые проявляются в виде одноимённых интеллектуальных функций в волевых актах человека:
- избирательное и устойчивое внимание;
- восприятие, узнавание, запоминание объектов, явлений, событий;
- запоминание информации и личного опыта;
- анализ и обобщение информации, конструирование абстракций и классификаций;
- ориентация в пространстве и во времени;
- освоение языка;
- устная речь, письмо, межличностные коммуникации;
- принятие обучения на основе инструкций и опыта;
- установление причинно-следственных связей;
- суждения и умозаключения, построение гипотез и доказательство;
- натуральный счёт, вычисление количеств и величин;
- прогнозирование;
- вырабатывание смыслов;
- усвоение, накопление и производство знаний;
- мобилизация воли;
- определение целей и целенаправленное поведение;
- планирование собственных действий;
- выработка, принятие и реализация поведенческих решений;
- понимание, анализ и решение проблем;
- осознание и преодоление опасностей, в том числе оценка рисков;
- творчество;
- понимание действий окружающих людей;
- социальная адаптация.
Этот перечень умственных способностей / интеллектуальных функций человека не претендует на большую точность и полноту, над их профессиональным анализом должны работать философы и психологи. Так, например, ведущий российский учёный (философ и математик) в сфере ИИ Финн В.К. сформулировал следующие тринадцать основных интеллектуальных способностей «идеального интеллекта»3 [6]: выделение существенного в данных, целе-полагание и достижение запланированных целесообразных действий, нахождение необходимых знаний, рассуждение, принятие рациональных решений, рефлексия, интерес к познанию, объяснение причин и следствий, эвристическое решение проблем, обучение и использование памяти, рационализация идей и
3 В опубликованной беседе [6] Финн В.К. не пояснил смысл своего выражения «идеальный интеллект», которое (по мнению автора настоящей статьи) можно было бы понимать как теоретический конструкт, характеризующий интеллект человека вообще во всей полноте его возможных интеллектуальных способностей.
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
образование понятий, систематизация знаний и построение рациональных теорий, корректировка теорий по новым знаниям4.
Определение термина «искусственный интеллект»
Учитывая то, что ИИ становится социальным фактором, который в дальнейшем будет расширяться и усиливаться, нельзя обойти вниманием начавшееся его философское и социологическое осмысление, дающее большую полноту понимания ИИ. Так, например, в статье [12] предложено следующее понимание ИИ: «Искусственный интеллект представляет собой ансамбль разработанных и закодированных человеком рационально-логических, формализованных правил, которые организуют процессы, позволяющие имитировать интеллектуальные структуры, производить и воспроизводить целерациональные действия, а также осуществлять последующее кодирование и принятие инструментальных решений вне зависимости от человека. ... Искусственная социальность представляет собой эмпирический факт участия агентов ИИ в социальных взаимодействиях в качестве активных посредников или участников этих взаимодействий. При этом под «агентом ИИ» мы имеем в виду устройство, деятельность которого опосредует и фиксирует проявления искусственного интеллекта. Если для ИИ атрибутом выступает процессуальность, то для агента ИИ ключевой характеристикой является наличное бытие в качестве продукта». В статье [13], развивающей статью [12], в данное понимание ИИ, добавлены инструментальные правила и механизмы более высокого уровня для машинного без контроля человека кодирования правил целенаправленного поведения.
В данном понимании ИИ содержится ценная рекомендация рассматривать ИИ в двух существенных аспектах: в теоретическом и в техническом, то есть -сначала ИИ возникает умозрительно и фиксируется теоретически как «ансамбль разработанных и закодированных человеком рационально-логических, формализованных правил», а затем ИИ реализуется практически в виде технических «агентов ИИ». Если сравнить это понимание ИИ с пониманием ИИ в НСРИИ-2030, то в этой стратегии нет такого аспектного расщепления ИИ (хотя в ней и говориться лишь узко и недостаточно чётко о перспективных методах создания «принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта»). Таким образом, видится логически правильным и практически полезным разделение сферы ИИ на две части: на теоретическую - это математические методы, модели и алгоритмы ИИ, и на техническую - это технологии ИИ и техника с ИИ.
Поскольку изначальной идеей ИИ было математическое и техническое конструирование некоторого искусственного подобия интеллекта человека, постольку ничто не препятствует тому, чтобы и смысл термина «ИИ» определялся в русле логического подобия смыслу термина «ИЧ».
Кроме того, поскольку конструирование ИИ является техническим, постольку вполне логична и необходима явная фиксация этого аспекта ИИ в его терминологическом определении подобно тому, как это сделано в НСРИИ-2030.
4 Данный перечень интеллектуальных способностей «идеального интеллекта» приведен здесь не точным цитированием, а в кратком пересказе автора настоящей статьи.
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
Вместе с тем, помимо зафиксированного в НСРИИ-2030 одного только типа конструирования ИИ - информационно-технологического - есть также ки-берфизическое конструирование. Киберфизические системы (КФС) определяются как системы, в которых вычислительные ресурсы интегрированы в физические процессы [4]. Иными словами - информационные системы в КФС интегрированы аппаратно-программным способом в технические устройства или интегрированы с группой технических устройств физического назначения, и управляют их физическим поведением. Примерами КФС являются роботы с автономным техническим зрением и манипулированием, роевое поведение автономных технических агентов, технические комплексы типа «умный дом» и т. п. Область КФС достаточно хорошо и содержательно рассмотрена, например, в книге [14]. Примерами военных КФС могут быть военные роботы с ИИ, идея которых описана в статье [15], и интеллектуальные боевые системы, идея которых описана в статье [16].
В предыдущем разделе статьи было составлено определение термина «интеллект человека», состоящее из двух частей: основное определяющее суждение + перечень умственных способностей / интеллектуальных функций человека. В соответствии с принятой в начале статьи парадигмой решения исследовательской задачи в такой же логической структуре следует составить определение термина «ИИ», но при этом нужно учесть такие существенные качественные характеристики ИИ, как его математическое происхождение, программно-алгоритмическую функциональность, техническую реализацию. Таким образом можно сформулировать следующее определение ИИ: искусственный интеллект - различные комплексы математических методов, моделей и алгоритмов, информационно-технологических и технических конструкторских решений, которые моделируют с различной степенью подобия умственные способности человека, встраиваются в информационные и ки-берфизические системы и выполняют функции, подобные интеллектуальным функциям человека.
К этому определению ИИ должны прилагаться следующие обязательные дополнения, которые следует включить в будущий терминологический ГОСТ по ИИ как примечания к определению термина «ИИ», или должны быть частью энциклопедической статьи об ИИ.
1) Моделирование умственных способностей человека в системах с искусственным интеллектом реализуется закладкой в них комплексов операционных возможностей выполнения наборов функций, рассматриваемых как интеллектуальные, в том числе таких функций, как:
- адаптивная активация состояний и программ функционирования по сигналам технических сенсоров;
- адаптивная ориентация в пространстве и во времени;
- обнаружение, распознавание, запоминание объектов, явлений, событий по видовой, звуковой, химической и другой сенсорной информации;
- восприятие звуковой речи и адаптивное реагирование на неё;
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
- запоминание новой информации и собственных выполненных действий;
- натуральный счёт, быстрое и сложное вычисление количеств и величин;
- многокритериальный поиск информации в базах и хранилищах данных;
- аналитическая обработка информации с выявлением закономерностей, с кластеризацией, с порождением новых сущностей в базах данных;
- выработка смыслов и образов;
- суждение, умозаключение, построение гипотез, доказательство;
- установление причинно-следственных связей;
- прогнозирование;
- ситуационный анализ, выработка и реализация поведенческих и управленческих решений, запоминание возникающих новых непредвиденных ситуаций и принятых в них решений;
- обнаружение и преодоление опасностей, в том числе с оценкой рисков;
- планирование собственных действий (операций);
- составление смысловых текстов, синтез и воспроизведение устной речи с вложенными смыслами;
- содержательное общение с людьми и с искусственными интеллектами;
- принятие внешнего обучения и самообучение на основе инструкций и опыта;
- принятие, накопление и производство знаний;
- целенаправленное функционирование и поведение;
- анализ и решение проблем;
2) Для количественной оценки степени подобия ИИ интеллекту человека разрабатываются и применяются специальные методы;
3) Информационные и киберфизические системы с ИИ создаются и используются для замены людей в тех случаях, когда объём и сложность решения поставленных задач превосходят умственные способности человека, и в случаях иной целесообразности - экономической, военной, в чрезвычайных ситуациях и пр.
В данном выше новом определении ИИ намеренно не использован глагол «имитировать» для того, чтобы не снижать практическую значимость ИИ, которую задаёт НСРИИ-2030, вместо «имитации» предложено понимание ИИ как действующей операционной модели интеллекта человека. Кроме того, здесь уместно сослаться на мнение автора монографии [17] о фундаментальном характере модельного аспекта ИИ.
Составленный выше перечень операционных способностей / интеллектуальных функций ИИ не претендует на большую точность и полноту и будет в
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
дальнейшем меняться и уточняться в ходе развития методов, алгоритмов и технологий ИИ и КФС.
Традиционное и широкое понимание искусственного интеллекта
В третьем разделе статьи составлен перечень умственных способностей / интеллектуальных функций человека, в который (согласно «DSM-5» [11]) включена способность / функция математического мышления (вычисления количеств и величин). Это даёт формально-логическое основание для отнесения к ИИ классических электронных вычислительных машин, которые лучше людей выполняют сложные и объёмные вычисления. В соответствии с этим предлагаются два варианта понимания ИИ:
- традиционное понимание, исключающее из ИИ способность / функцию быстрого и сложного вычисления количеств и величин;
- широкое понимание, включающее в ИИ способность / функцию быстрого и сложного вычисления количеств и величин, значительно превышающего вычислительные способности мозга человека.
Традиционное понимание ИИ прослеживается, например, в статье [18], в которой принципиально разводятся ИИ (понимаемый её автором как «способность компьютера принимать решения в разнообразных и быстро меняющихся ситуациях аналогично человеку») и автоматизированные системы управления войсками и военной техникой (характеризуемые автором статьи [18] как вычислительные машины, запрограммированные совокупностью алгоритмов обработки информации и решения боевых задач формальными методами).
Широкое понимание ИИ прослеживается, например, в статье [19], в которой, в частности, отмечается то, что «Возможное участие в ударе гиперзвуковых средств приведёт к кардинальному ужесточению требований к продолжительности принятия ответных мер. В такой ситуации только ИИ способен помочь центру управления вовремя и корректно различать цели и давать команды на их поражение в нужном порядке, другими словами, формировать информационно-расчётные задачи в реальном масштабе времени с учётом постоянно меняющейся обстановки».
В каком понимании - традиционном или широком - будет развиваться дальше ИИ в его военных приложениях покажут военные наука и практика. Сейчас же представляется вполне логичным и практически продуктивным методический подход к определению потребностей в военной технике (ВТ) со встроенным ИИ, предложенный в статье [20]. В этом подходе требования к ВТ с ИИ определяются по схеме нисходящего сужения предметной области:
- сначала определяются операционные требования от сферы применения ВТ с ИИ и от сценариев боевых действий;
- потом выбираются типы ИИ, подходящие под операционные требования своими функциональными и техническими возможностями;
- затем определяются тактико-технические требования к ВТ с выбранными типами встраиваемого ИИ.
К этой схеме можно добавить определение и учёт требований доверия к ИИ, которые описаны в ГОСТ [4].
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
Определение термина «военный искусственный интеллект»
В контексте сформулированного выше общего понимания и определения термина «ИИ» задача определения термина «военный ИИ» решается просто:
военный искусственный интеллект, искусственный интеллект военного назначения - это искусственный интеллект, встроенный в военную технику.
При этом военная техника может пониматься и классифицироваться, например, так, как это рекомендовано в ГОСТ [21].
Такое неожиданно короткое определение «военного ИИ» обусловлено предыдущими содержательно развёрнутыми общими определениями терминов «ИЧ» и «ИИ», что диктует необходимость включения их в будущий стандарт терминов и определений военного ИИ.
Вместе с тем на основе составленного выше общего определения «ИИ» можно дополнительно составить следующее развёрнутое определение «военного ИИ»:
военный искусственный интеллект, искусственный интеллект военного назначения - различные комплексы математических методов, моделей и алгоритмов, информационно-технологических и технических конструкторских решений, которые моделируют с различной степенью подобия умственные способности человека, встраиваются в военную технику и выполняют функции, подобные интеллектуальным функциям человека.
Вполне очевидно то, что нормативная классификация военного ИИ должна и будет отличаться от общей классификации ИИ, составленной в ГОСТ [3]. Разработка нормативной классификации военного ИИ является отдельной большой задачей, которая выходит за рамки настоящей статьи и которая должна решаться в отдельной научно-исследовательской работе. Тем не менее, для дальнейшего обсуждения вариантов классификации военного ИИ предлагается следующая матричная схема классификации военного ИИ, образуемая декартовым произведением двух групп классификационных признаков, первую из них составляют технические типы ВТ, вторую - профили назначения ВТ:
1) классификация военного ИИ по техническим типам ВТ:
- ИИ, встраиваемый в автоматизированные системы управления (АСУ) военного назначения (ВН);
- ИИ, встраиваемый в информационные системы (ИС), информационно-расчётные системы (ИРС), в программно-аппаратные комплексы (ПАК) ВН;
- ИИ, встраиваемый в робототехнические комплексы и системы (РТК и РТС) ВН;
- ИИ, встраиваемый в другие образцы, комплексы и системы военной техники, которые не являются ни АСУ ВН, ни ИС, ИРС и ПАК ВН, ни РТК и РТС ВН;
2) классификация военного ИИ по профилям назначения ВТ:
- ИИ, встраиваемый в вооружение5;
- ИИ, встраиваемый в технику видов обеспечения боевых действий, которая не является вооружением;
5 Вооружение - часть боевой техники, представляющая собой совокупность оружия и технических средств, обеспечивающих его применение [21, 22].
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
- ИИ, встраиваемый в технику информационного противоборства;
- ИИ, встраиваемый в технику испытательных полигонов;
- ИИ, встраиваемый в учебно-тренировочную технику;
- ИИ, встраиваемый в ИС, ИРС, ПАК военного образования;
- ИИ, встраиваемый в ИС, ИРС, ПАК военной науки.
Таким образом, на верхнем иерархическом уровне получаются 28 классификационных групп военного ИИ. Эта классификационная матрица может превращаться в ^мерную добавлением других групп классификационных признаков, например, наборов характеристик ИИ из ГОСТ [3] - функций контура управления, специализаций, моделей знаний, методов обработки информации и др., или же, например, добавлением «периодической системы технологий ИИ», предложенной в книге [23] и показанной на рис. 1. Для практических реализаций военного ИИ из определённых классификационных групп, потребуются соответствующие группы спецификаций тактико-технических требований к ИИ.
Следует отметить также то, что разработка методов рационального выбора типов ИИ, подходящих для интеграции в ту или иную военную технику, уже скоро станет актуальной научной проблемой, которую нужно будет решать. Частью решения этой проблемы станет определение ключевых принципов выбора ИИ. Сейчас трудно точно предсказать эти принципы, но один принцип можно предложить уже сейчас - это принцип допустимого риска: какой-либо ИИ допускается к встраиванию в ВТ, если оцениваемый риск невыполнения военных задач с применением ВТ с ИИ при ошибочном функционировании ИИ не превысит задаваемого допустимого уровня, а последствия ошибочного функционирования ИИ могут быть компенсированы человеком с приемлемыми затратами ресурсов и времени.
Заключение
В рамках актуальной необходимости построения системы нормативно-технического регулирования области военного использования ИИ, а также по причине недостаточных чёткости и ясности определения термина «ИИ», данного в «Национальной стратегии развития искусственного интеллекта на период до 2030 года», поставлена и решена актуальная исследовательская задача разработки новых более содержательных и понятных определений терминов «ИИ» и «военный ИИ».
Задача решена в принятой автором статьи парадигме выведения смысла термина «ИИ» из содержательного понимания интеллекта человека следующим образом: сначала определён термин «ИЧ» с привлечением необходимых сведений из источников профессиональных знаний по медицине и психологии, потом на его основе определён термин «ИИ» с наследованием общепризнанных существенных характеристик ИИ, затем в контексте содержательного понимания ИИ определён термин «военный ИИ» как ИИ, встроенный в военную технику.
Для дальнейшего смыслового развития области военного ИИ предложена матричная схема его классификации по двум качественным категориям военной техники (в которую встраивается ИИ): «по техническим типам ВТ» х «по профилям назначения ВТ», что даёт 28 классификационных групп военного ИИ на верхнем иерархическом уровне.
Результаты выполненного в статье исследования могут быть использованы при разработке нормативно-технических документов, регулирующих общую сферу ИИ и область военного применения ИИ.
DOI: 10.24412/2410-9916-2022-1-140-157
о о
2 4 4
2 4
9
2 О 2 2
4 О
1Л
7
У?
М № 3
М
о ^
п о
3
п о
3
3 с
3
п"
а о
3
а
3 3
от №
п с
ип 3
Рис. 1. «Периодическая система технологий ИИ» (иллюстрация взята из книги [23] со стр. 22, автор этой книги - Душкин Р.В. - дал своё разрешение на использование этой иллюстрации в настоящей статье)
(А
п
п 3
1
(О
п
о 3
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
Литература
1. Концепция регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р // Официальный интернет-портал правовой информации [Электронный ресурс]. 2011. - URL: http://publication.pravo.gov.ru/Document/View/0001202008260005 (дата обращения: 18.01.2022).
2. Национальная стратегия развития искусственного интеллекта на период до 2030 года. Указ Президента Российской Федерации от 10 октября 2019 г. № 490 // Официальный интернет-портал правовой информации [Электронный ресурс]. 2011. - URL: http://publication.pravo.gov.ru/Document/View/0001201910110003 (дата обращения: 18.01.2022).
3. ГОСТ Р 59277-2020. Системы искусственного интеллекта. Классификация системы искусственного интеллекта. - М.: Стандартинформ, 2021. - 16 с.
4. ГОСТ Р 59276-2020. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения. - М.: Стандартинформ, 2021. - 16 с.
5. Бегишев И. Р., Хасимова З. И. Искусственный интеллект и робототехника: глоссарий понятий. - М.: Проспект, 2021. - 64 с.
6. Чертова дюжина идеального интеллекта. Беседа первая // Стимул [Электронный ресурс]. 2019. - URL: https://stimul.online/articles/science-and-technology/chertova-dyuzhina-idealnogo-intellekta-beseda-pervaya-/ (дата обращения: 18.01.2022).
7. APA Dictionary of Psychology. 1992. Available at: http://dictionary.apa.org (дата обращения: 18.01.2022).
8. Кондаков Н. И. Логический словарь-справочник. - М.: Наука, 1975. -720 с.
9. Словари онлайн // Интернет-портал [Электронный ресурс]. 2010. -URL: http://slovaronline.com (дата обращения: 18.01.2022).
10. Компания «КогниФит» // Интернет-портал [Электронный ресурс]. 1999. - URL: http://www.cognifit.com/ru (дата обращения: 18.01.2022).
11. American Psychiatric Association. Diagnostic and Statistical Manual of Mental Disorders, Fifth Edition. Arlington, VA, American Psychiatric Association, 2013. 991 p. Available at: http:// www.psychiatry.org/psychiatrists/practice/dsm (дата обращения: 18.01.2022).
12. Резаев А. В., Трегубова Н. Д. «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий // Мониторинг общественного мнения. 2019. № 6. С. 35-47. - URL: http://doi.org/10.14515/monitoring.2019.6.03 (дата обращения: 18.01.2022).
13. Резаев А. В. Двенадцать тезисов об искусственном интеллекте и искусственной социальности // Мониторинг общественного мнения: экономические и социальные перемены. 2021. № 1. С. 20-30. - URL: http://doi.org/10.14515/monitoring.2021.1.1894 (дата обращения: 18.01.2022) (in English).
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
14. Громаков Е. И., Сидорова А. А. Современные технологии. Киберфизические системы: учебное пособие. - Томск: Изд-во Томского политехнического университета, 2021. - 166 с.
15. Гончаров А. М., Рябов С. В. Искусственный интеллект как основное направление развития робототехнических комплексов // Военная мысль. 2021. № 6. С. 65-70.
16. Лукашов А. М., Панфёров О. С., Максимов В. В., Башкиров А. Е. Развитие технологий искусственного интеллекта в интересах создания интеллектуальных боевых систем // Военная мысль. 2021. № 6. С. 71-80.
17. Одинцов Б. Е. Модели и проблемы интеллектуальных систем: монография. - Москва: ИНФРА-М, 2020. - 219 с. DOI: 10.12737/1060845.
18. Буренок В. М. Искусственный интеллект в военном противостоянии будущего // Военная мысль. 2021. № 4. С. 106-112.
19. Галкин Д. В., Коляндра П. А., Степанов А.В. Состояние и перспективы использования искусственного интеллекта в военном деле // Военная мысль. 2021. № 1. С. 113-124.
20. Абросимов В. К. Искусственный интеллект и проблемы развития вооружения и военной техники // Вооружение и экономика. 2021. № 2. С. 5-21.
21. ГОСТ РВ 51540-2005 Военная техника. Термины и определения. -М.: Стандартинформ, 2011. - 7 с.
22. Вооружение // Интернет-портал Минобороны России. Военный энциклопедический словарь [Электронный ресурс]. 10.07.1997. - URL: http : //encyclopedia.mil .ru/encyclopedia/dictionary/details.htm? id=4605 (дата обращения: 18.01.2022).
23. Душкин Р. В. Искусственный интеллект. - М.: ДМК Пресс, 2019. -
280 с.
References
1. The concept of regulation of relations in the field of artificial intelligence technologies and robotics until 2024. Official Internet Legal Information Portal, 19 August 2020. Available at: http://publication.pravo.gov.ru/Document/View/0001202008260005 (accessed 18 January 2022) (in Russian).
2. National strategy for the development of artificial intelligence for the period up to 2030. Official Internet Legal Information Portal, 10 October 2019. Available at: http://publication.pravo.gov.ru/Document/View/0001201910110003 (accessed 18 January 2022) (in Russian).
3. State Standard R 59277-2020. Artificial intelligence systems. Classification of artificial intelligence systems. Moscow, Standartov Publ., 2021. 16 p. (in Russian).
4. State Standard R 59276-2020. Artificial intelligence systems. Methods for ensuring trust. General. Moscow, Standartov Publ., 2021. 16 p. (in Russian).
5. Begishev I. R., Khasimova Z. I. Iskusstvennyi intellekt i robototekhnika: glossarii poniatii [Artificial intelligence and robotics: a glossary of concepts]. Moscow, Prospekt Publ., 2021. 64 p.
6. Chertova diuzhina ideal'nogo intellekta. Beseda pervaia [Damn dozen perfect intelligence. First conversation]. Stimul. 2019. Available at:
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
https://stimul.online/articles/science-and-technology/chertova-dyuzhina-idealnogo-intellekta-beseda-pervaya-/ (accessed 18 January 2022).
7. APA Dictionary of Psychology. 1992. Available at: http://dictionary.apa.org (accessed 18 January 2022)
8. Kondakov N. I. Logicheskii slovar'-spravochnik [The logical dictionary-directory]. Moscow, Nauka Publ., 1975. 720 p. (in Russian).
9. Slovari onlain [Dictionaries online]. Internet-portal, 2010. Available at: http://www.cognifit.com (accessed 18 January 2022) (in Russian).
10. CogniFit Inc. Internet-portal, 1999. Available at: http://www.cognifit.com. (accessed 18 January 2022).
11. American Psychiatric Association. Diagnostic and Statistical Manual of Mental Disorders, Fifth Edition. Arlington, VA, American Psychiatric Association, 2013. 991 p. Available at: http:// www.psychiatry.org/psychiatrists/practice/dsm (accessed 18 January 2022).
12. Rezaev A. V., Tregubova N. D. Artificial Intelligence, On-line Culture, Artificial Sociality: Definition of the Terms. Monitoring of Public Opinion: Economic and Social Changes, 2019, no. 6, pp. 35-47. Available at: https://doi.org/10.14515/monitoring.2019.6.03 (accessed 18 January 2022) (in Russian).
13. Rezaev A. V. Twelve Theses on Artificial Intelligence and Artificial Sociality. Monitoring of Public Opinion: Economic and Social Changes, 2021, no. 1, pp. 20-30. Available at: https://doi.org/10.14515/monitoring.2021.1.1894 (accessed 18 January 2022).
14. Gromakov E. I., Sidorova A. A. Sovremennye tekhnologii. Kiberfizicheskie sistemy [Modern technologies. Cyber-Physical Systems]. Tomsk, Tomsk Polytechnic University Publ., 2021. 166 p. (in Russian).
15. Goncharov A. M., Ryabov S.V. Artifi cial Intelligence as the Main Development Trend in Furthering Robotechnical Systems. Military Thought, 2021, no. 6, pp. 65-70. (in Russian).
16. Lukashov A. M., Panferov O. S., Maksimov V. V., Bashkirov A. Ye. Progress in Artifi cial Intelligence Technologies in the Interests of Making Intelligent Combat Systems. Military Thought, 2021, no. 6, pp. 71-80 (in Russian).
17. Odintsov B. E. Modeli i problemy intellektual'nykh system [Models and Problems of Intelligent Systems]. Moscow, INFRA-M Publ., 2020. 219 p. DOI: 10.12737/1060845. (in Russian).
18. Burenok V. M. Artificial Intelligence in the Military Confrontation of the Future. Military Thought, 2021, no. 4, pp. 106-112 (in Russian).
19. Galkin D. V., Kolyandra P. A., Stepanov A. V. The Condition and Use Prospects of Artificial Intelligence in Military Affairs. Military Thought, 2021, no. 1, pp. 113-124. (in Russian).
20. Abrosimov V. K. Iskusstvennyi intellekt i problemy razvitiia vooruzheniia i voennoi tekhniki [Artificial intelligence and problems of development of weapons and military equipment]. Armament and Economics, no. 2, pp. 5-21 (in Russian).
21. State Standard 51540-2005. Voennaia tekhnika. Terminy i opredeleniia [Military equipment. Terms and Definitions]. Moscow, Standartov Publ., 2011. 7 p. (in Russian).
DOI: 10.24412/2410-9916-2022-1-140-157
Системы управления,связи и безопасности №1. 2022
Systems of Control, Communication and Security sccs.intelgr.com
22. Vooruzhenie [Armament] // Internet-portal Minoborony Rossii. Voennyi entsiklopedicheskii slovar' [Internet portal of the Russian Ministry of Defense. Military encyclopedic dictionary], 10 July 1997. Available at: http://encyclopedia.mil.ru/encyclopedia/dictionary/details.htm?id=4605 (accessed 18 January 2022) (in Russian).
23. Dushkin R. V. Iskusstvennyi intellekt [Artificial intelligence]. Moscow, DMK Press Publ., 2019. 280 p. (in Russian).
Статья поступила 20 января 2022 г.
Информация об авторе
Забегалин Евгений Викторович - кандидат технических наук. Ведущий научный сотрудник. 4 Центральный научно-исследовательский институт Министерства обороны Российской Федерации. Область научных интересов: автоматизация, информационные технологии, искусственный интеллект. E-mail: [email protected]
Адрес: 141092, Россия, Московская обл., г. Королёв, мкр. Юбилейный, ул. М.К. Тихонравова, д. 29.
A Question of Justification of the Term "Military Artificial Intelligence"
E. V. Zabegalin
The relevance of the problem: the use of artificial intelligence (AI) in the military sector, required by the political and military leadership of the Russian Federation, must have appropriate normative technical regulation. However, as noted at the government level, the terms "artificial intelligence", "robot", etc. lack unambiguous understanding, which creates a terminological problem for the regulation. Therefore, in different areas of AI use, different terminological definitions are allowed. They are also necessary in the military use of AI, which makes the justification of the term "military artificial intelligence " an urgent task. As the "National Strategy for the Development of Artificial Intelligence until 2030" does not define AI clearly enough, this article aims to overcome these shortcomings and develop consistent and clear definitions of the terms "AI" and "military AI". The method for solving the problem is based on adopting a paradigm to derive the term "AI" from substantial meaning of "human intelligence" (HI). Within this paradigm, there is a three-stage scheme for solving the research problem: first, the term "HI" is defined; next, on its basis the term "AI" is defined; finally, the term "military AI" is defined on the basis the term "AI". As a result, new definitions of the terms "HI", "AI", "military AI" are developed, with their novelty consisting in drawing on information about human intelligence from scientific sources in medicine and psychology. Practical relevance of the paper lies in the possibility of using the developed definitions of the terms "MI", "AI", "military AI" in the normative technical regulation of AI and the military use of AI.
Keywords: human intelligence, artificial intelligence, military artificial intelligence.
Information about Author
Evgeniy Viktorovich Zabegalin - Ph.D. of Engineering Sciences. Leading Research Officer. The 4th Central Research Institute of the Ministry of Defence of the Russian Federation. Field of research: automation, information technology, artificial intelligence. E-mail: [email protected]
Address: Russia, 141092, Moskovskaya oblast, Korolev, mkr. Yubileyny, ulica M.K. Tikhonravova, 29.
DOI: 10.24412/2410-9916-2022-1-140-157
