CC BY
129Современные задачи автоматизации органов военного управления на базе технологий искусственного интеллекта
Полковник запаса А.А. ПРОТАСОВ, доктор военных наук
Полковник А.В. ШИРМАНОВ, кандидат технических наук
С.И. РАДОМАНОВ
АННОТАЦИЯ
ABSTRACT
Рассматриваются задачи автоматизации органов военного управления на базе технологий искусственного интеллекта. Формулируются текущие задачи, решаемые Минобороны России в порядке внедрения технологий искусственного интеллекта в системы автоматизации.
The paper looks at the tasks of automating military control bodies based on artificial intelligence technologies. It formulates the current tasks tackled by the Russian Ministry of Defense when introducing artificial intelligence technologies in automation systems.
КЛЮЧЕВЫЕ СЛОВА
KEYWORDS
Органы военного управления, автоматизированные системы, искусственный интеллект, универсальный искусственный интеллект, обработка естественного языка, семантический анализ, онтологии, классификация, апробация, защита государственной тайны.
Military control bodies, automated systems, artificial intelligence, universal artificial intelligence, natural language processing, semantic analysis, ontologies, classification, approbation, protection of state secret.
ПРИ РАССМОТРЕНИИ процессов внедрения технологий искусственного интеллекта в сферу деятельности Вооруженных Сил Российской Федерации нетрудно увидеть, что эти процессы развиваются в различных направлениях и с разной скоростью, что отражает такое же неравномерное развитие соответствующих направлений современного искусственного интеллекта (ИИ).
На сегодняшний день до уровня практического применения в первую очередь поднялись в своем развитии технологии предиктивной аналитики и компьютерного зрения. Во многом это напоминает соответствующие фазы развития живого человека: сначала ребенок научился предугадывать последующие события по цепочке предшествующих; затем реагировать, различать и опознавать зрительные образы, и только потом переходит к освоению живой речи. И здесь ему предстоит преодолеть те же проблемы, с которыми сталкиваются современные технологии ИИ при решении задач обработки естественного языка (Natural Language Processing, NLP).
Действительно, можно констатировать, что в области NLP пока делаются только первые шаги, а именно: достаточно уверенно решаются задачи распознавания речи (переход от звуков к письменному тексту) и задачи поддержания диалога на основе индукции (по формуле: «обычно в таких случаях здесь произносят следующий текст...»). При этом реплики нейросетей в диалогах могут быть как «впопад», так и «невпопад». В любом случае ответ нейросети принципиально не допускает какого-либо объяснения (интерпретации): почему он был сформулирован именно так, а не по-другому. Любое объяснение сводится всегда к одному и тому же: «Меня так обучили»*.
* Это относится и к таким мощным нейромоделям, как BERT (от Google), GPT-2, GPT-3 (от Open AI)1.
Внимание авторов именно к технологиям обработки естественного языка не случайно. Дело в том, что работа с неструктурированными (слабоструктурированными) текстами играет первостепенную роль в деятельности органов военного управления (ОВУ), автоматизацией которой 27 ЦНИИ Минобороны России (27 ЦНИИ) занимается многие годы с момента своего основания. В стенах 27 ЦНИИ развитию так называемого «логического ИИ» и технологиям обработки естественного языка традиционно уделялось серьезное внимание. Здесь во второй половине прошлого века сформировалась научная школа под руководством Г.Г. Белоногова2, представители которой внесли существенный вклад в развитие технологий обработки естественного языка и внедрение их в действующие образцы систем автоматизации деятельности ОВУ Вооруженных Сил СССР, а затем — Российской Федерации. Были разработаны первые для того времени лингвистические процессоры, способные не только выполнять традиционные операции графематического анализа, но и составлять на основе частотного анализа словари многословных терминов, обозначающих понятия соответствующей предметной области. С помощью выявленных понятий далее производились всевозможные преобразования на основе правил логики, продуцировались те или иные решения-рекомендации в соответствующих экспертных системах / системах поддержки принятия решений. В то время были разработаны
и в последующем совершенствовались алгоритмы морфологического анализа и синтеза слов, синтаксического анализа предложений, выделения именных словосочетаний, которые были реализованы в виде программ и применялись во многих образцах автоматизированных систем военного назначения.
Работы по применению искусственного интеллекта, проводившиеся в стенах института в 50—90-е годы
прошлого века, были неразрывно связаны со многими другими исследованиями, проводившимися в то время в этой области. При этом можно констатировать, что искусственный интеллект, зародившийся в конце 40-х годов прошлого века в недрах кибернетики как попытка повторения мыслительных способностей и действий человека, развивался на протяжении последних 75 лет по двум основным направлениям (рис. 1).
Рис. 1. История и перспективы развития искусственного интеллекта
Первое из них можно условно обозначить как «логический ИИ» (часто его называют также «символьным ИИ»), — это искусственный интеллект, основанный на знаниях, логическом выводе и имитации человеческих рассуждений. Примеры — универсальные решатели задач, программы, способные на основании аксиом геометрии доказать все множество теорем школьной программы, и, наконец, язык Пролог, экспертные системы и все, что с ними связано: базы знаний, логические модели, продукционные правила, семантические сети.
Второе направление — это современные нейросетевые технологии машинного обучения, основанного на примерах, выявлении смыслов
и скрытых закономерностей «по аналогии» (индуктивно). Такой искусственный интеллект можно условно назвать «нейросетевым ИИ». Сегодня его принято характеризовать как «слабый ИИ» (Narrow Artificial Intelligence).
Однако у систем «логического ИИ» был (и остается до настоящего времени) существенный «родовой» изъян. Они выдают абсолютно правильные решения-рекомендации, но при одном условии — все слова и словосочетания, поступающие на вход этих систем, должны быть абсолютно точно заменены теми смыслами (например, понятиями), которые дальше предназначаются для подстановки в различные формулы, например, предикатной алгебры. В реальности
повсеместно (и в том числе в процессах деятельности органов военного управления) имеет место риск неоднозначной интерпретации смысла текстовых данных. Это является следствием фундаментального свойства естественного языка, где всякий смысл может быть изложен разными словами (синонимия) и одни и те же слова/словосочетания могут иметь разный смысл (омонимия). Таким образом, всякие попытки практического применения различных систем, построенных с использованием технологий «логического ИИ», сопряжены, вплоть до настоящего времени, с необходимостью распознавания смысла (интерпретации) «в ручном режиме» тех входных данных, которые представлены в виде текста на естественном языке. При этом объем такой ручной работы, как правило, настолько велик, что сводит практически «на нет» эффект от применения технологий «логического ИИ».
Решение проблемы семантической неоднозначности может быть достигнуто путем применения методов математической статистики (включая нейросетевые технологии) для привязки фрагментов текста (слов, словосочетаний, фраз, высказываний) к тем или иным известным смыслам, которые заранее выявлены и сведены в общую структуру. При этом развивается так называемый «утилитарный подход к формированию понятийных основ использования технологий искусственного интеллекта для автоматизации деятельности органов военного управления», где, в частности, формулируется определение «смысла» как понятия/класса или факта/ экземпляра. В качестве структуры, объединяющей смыслы, рассматривается онтология (или ее модели), представляющая собой в общем случае полииерархическую структуру, задающую взаимосвязь зон действия всех групп процессов окружающего
нас мира, объединения которых принято называть онтологиями или (более правильно) моделями онтологии/ онтологическими моделями/онтомо-делями. Условно онтологические модели можно разделить на две части: модель понятий/классов («модель онтологии понятий») и модель фактов/экземпляров («фактологическая онтология»).
При всей кажущейся простоте изложенной схемы интерпретации надо иметь в виду то обстоятельство, что для более или менее «универсального ИИ» (Artificial General Intelligence, AGI), способного «читать» (интерпретировать) практически значимые тексты, число узлов-смыслов, которые должны содержаться в его «голове», исчисляется многими миллиардами, а возможно, и триллионами. Справедливость такой оценки подтверждается, в частности, размерами неявных (ассоциативных) онтологических моделей, формируемых во внутренних структурах таких известных нейросетевых моделей-транс-формеров*, как BERT, GPT-2, GPT-3 и других.
* Трансформер (Трансформер-Де-кодер, decoder-only Transformer) придумали ученые из Google Research и Google Brain3,4.
Таким образом, для того чтобы получить ИИ, способный «читать» неструктурированные данные (в первую очередь на естественном языке) и далее рассуждать логически, необходимо построить максимально емкую общую онтологическую модель с миллиардами-триллионами узлов-смыслов, обучая ее на всей совокупности имеющихся данных. В свою очередь, должны быть решены следующие задачи:
Задача 1. Создание общей модели онтологии «осмысленных» понятий/ классов и фактов/экземпляров путем связывания между собой (гармонизация) всех (поименованных, символьных) прообразов «осмысленных» онтомоделей понятий/классов и фактов/экземпляров в виде различных таксономий: классификаторов, тематических рубрикаторов, словарей, тезаурусов, схем деления и т. д. Для решения этой задачи потребуется привлечение большого числа специалистов по библиографии, способных квалифицированно проводить разметку сверхбольших объемов данных (сотни терабайт), привязывая фрагменты текстов к различным известным таксономиям. Потребный объем вычислительных мощностей здесь прогнозируется сравнительно небольшой. Основная нагрузка в данном случае ложится на экспертов. Понятно, что в процессе разметки будет происходить обучение нейросетевой общей модели онтологии, и нагрузка на экспертов будет снижаться. Объем узлов-смыслов результирующей онтологической модели станет сравнительно небольшим, в пределах миллионов.
Задача 2. Создание общей модели онтологии «неявных» представлений (концептов) и образов/экземпляров путем связывания между собой (гармонизации) всех «неявных» (ассоциативных) составляющих общей «неявной» модели онтологии: неявных (ассоциативных) онтомоделей, формируемых нейросетями типа трансформеров, а также неявных он-томоделей, возникающих в результате кластеризации (как нейросетевой, так и традиционными методами математической статистики). В качестве датасетов (обучающих выборок) здесь используются не только текстовые данные, но и речевые, визуальные, результаты видео-, радиолокационных, инфракрасных, гидро-
акустических и других наблюдений. Ключевыми признаками в векторах образов*/эмбеддингах** выступают также различные сигнатуры, паттерны и другие явные смыслы и неявные образы. Объем узлов-образов здесь резко увеличится до триллионов, потребуются колоссальные вычислительные ресурсы.
* Векторное представление слов (англ. word embedding) — общее название для различных подходов к моделированию языка и обучению представлений в обработке естественного языка, направленных на сопоставление словам из некоторого словаря векторов небольшой размерности5'6. ** Эмбеддинг (word embedding) — сопоставление элемента речи (слова, предложения и т. д.) числовому вектору7,8.
Задача 3. Связывания между собой (гармонизация) «осмысленных» и «неявных» моделей онтологии. Разработка технологий постоянного «осмысления» узлов-образов «неявных» онтомоделей и привязки их к новым или известным узлам-смыслам общей «осмысленной» онтомодели.
Разделение на «осмысленную» и «неявную» системы можно рассматривать как развитие идей лауреата Нобелевской премии Даниэля Кане-мана, изложенных им в своей работе9, где он выделяет в нашем сознании две системы: «Систему 1» и «Систему 2». «Система 1» занята формированием «неявных»/ассоциативных (интуитивных) представлений и образов, обобщает накапливаемый опыт и в результате почти мгновенно выдает решения в тех ситуациях, когда обстоятельства не выходят за рамки той модели окружающего мира, по которой обучалась (и к которой приспособлена) «Система 1». В случае возникновения нештат-
ной ситуации «Система 1» обращается к «Системе 2», которая принимает решения медленно, путем рассуждений, примерно так, как это реализуют технологии «логического ИИ». Поэтому можно предположить, что «осмысленная» онтологическая модель содержит те смыслы, которые используются «Системой 2», а «неявная» — те образы (представления, концепты), которыми оперирует «Система 1». При этом происходит постоянная миграция образов из «неявных» онтомоделей в «осмысленные» путем последовательной трансформации первоначальных представлений в образы, образов — в концепты (центроиды выявляемых кластеров) и, наконец, при переходе из «неявной» в «осмысленную» онтомо-дель, — в смыслы (понятия/классы или факты/экземпляры).
В случае успешного решения этих задач передача смыслов, выявленных в текстах и «очищенных» с помощью мощных моделей онтологий, может разрешить наконец застарелую проблему, приостановившую когда-то развитие экспертных систем, а именно: проблему подготовки исходных данных на основании автоматической обработки неструктурированных данных, и в первую очередь текстов на естественном языке. В этом случае можно ожидать, что экспертные и другие системы на базе технологий «логического ИИ» уже без участия человека смогут на основании правильно интерпретированных смыслов извлекать знания из текстов и других видов неструктурированных данных, а далее путем логико-предикатных вычислений синтезировать из уже «осмысленных» новые знания. Таким образом, «логический ИИ», вобрав в себя возможности «нейросетевого ИИ», приобретет свойства «универсального ИИ», способного «понимать смысл» прочитанного, рассуждать и синтезировать новые знания, в том числе в областях, в отношении которых он не был заранее натренирован. Попут-
но при этом, возможно, удастся преодолеть известную «непрозрачность» нейросетевого ИИ и получить «объяс-нимость» действий, предлагаемых системами поддержки принятия решений с искусственным интеллектом.
В Минобороны России вопросам внедрения технологий ИИ (ТИИ) в настоящее время уделяется значительное внимание. В последнее время приняты важные организационные решения, заданы системные научно-исследовательские работы (НИР) по обоснованию развития и внедрения ТИИ и формированию научно-технического задела. На фоне применения традиционных «алгоритмических» решений для построения автоматизированных систем управления войсками (силами) в Минобороны России и, в частности, в 27 ЦНИИ в последние годы проводятся работы по внедрению в эти системы ТИИ. Успешная реализация заложенных в техническом задании требований по семантической обработке текстовых документов и их классификации на базе онтологий должна позволить сделать важный шаг к созданию программно-технического комплекса (ПТК), способного уже в ближайшем будущем решать задачи обработки естественного языка, в том числе и из состава описанной выше задачи 1.
Кроме того, в 2019 году в институте проведена НИР, результаты которой вошли в основу общих требований на создание перспективной информационно-управляющей системы с применением ТИИ (в части сбора, обработки и анализа неструктурированных/ слабоструктурированных данных), утвержденных руководством Минобороны России.
Представляет интерес сопоставление между собой результатов проведенных НИР, с одной стороны, и тех указанных выше задач, которые необходимо решить при переходе к «универсальному ИИ» с другой. Оказалось, что сформулированные требования
к информационным сервисам на базе ТИИ предусматривают в своей основе формирование общей модели онтологии «осмысленных» понятий/классов и фактов/экземпляров, т. е. решение так называемой задачи 1. Таким образом, задачи внедрения ТИИ в автоматизированные системы управления ОВУ и задачи перехода к универсальному интеллекту объективно оказываются неразрывно связанными друг с другом, выступают как «две стороны одной и той же медали».
Такая двойственность является не случайной, подтверждая еще раз общеизвестный факт, что сознание (в его «сильном» понимании) является результатом функционирования так называемой второй сигнальной системы, образуемой процессами внутреннего (или с участием внешних акторов) речевого проговаривания. При этом следует обратить внимание, что функционирование очень похожих на осмысленную речь различных «говорилок» (голосовых ассистентов), применяемых в чат-ботах, сай-центрах и реализованных в моделях типа трансформеров, не является и вряд ли когда-нибудь станет «рассудочным сознанием» в том смысле, в котором это понятие применимо к человеку. Только когда соответствующие интеллектуальные системы начнут «осознанно» оперировать (а не имитировать) словами (словосочетаниями и т. д.) как символами: названиями, обозначениями смыслов (понятий или экземпляров) — только тогда возникнет полноценная модель «второй сигнальной системы», которая путем «речевого проговаривания» будет строить различные логические преобразования смыслов, по-настоящему (осмысленно) рассуждая, а не имитируя некоторую связную, но не осмысливаемую речь. Таким образом, задачи внедрения ТИИ в процессы автоматизации деятельности ОВУ, с одной стороны, и задачи создания «универсального ИИ» — с другой, являются двойственными
по причине их текстовой (речевой) природы.
Как видно из частичной расшифровки состава работ по решению задачи 1, результаты решения этой задачи (в виде общей «осмысленной» модели онтологии) могут использоваться для классификации документов (фрагментов) путем формирования смыслового образа документа. Одновременно с этим задачи классификации могут решаться и с помощью других методов: с использованием как традиционных методов математической статистики, так и современных — нейросетевых. Определить заранее, какой метод классификации окажется более эффективным, представляется затруднительным, в связи с чем особый интерес представляет апробация различных вариантов действующих программных инструментов, классифицирующих тексты на естественном языке, в том числе при проведении практически значимых работ, уже заданных руководством Минобороны России.
С учетом обострения межгосударственной конкуренции в рассматриваемой области исследований, временной интервал, который отведен для решения перечисленных выше задач (как в контексте автоматизации деятельности ОВУ, так и в процессах создания «универсального ИИ»), следует рассматривать в горизонте 2025—2030 годов. Это значит, что данные задачи требуют концентрации усилий высококвалифицированных специалистов, а также использования нестандартных решений как с технической, так и с организационной точек зрения. В частности, по нашему мнению, по всем упомянутым выше работам уже на стадии «Исследование и обоснование разработки» необходимо в соответствии с ГОСТ РВ 15.004-2004 запланировать в рамках гособоронзаказа серию НИР*, предусматривающих проведение экспериментов (апробаций, испытаний) с действующими программными ин-
* Этап 1.2. НИР по созданию изделий на стадии «Исследование и обоснование разработки» предусматривает теоретические и экспериментальные исследования с применением математического моделирования, в том числе в целях изготовления макетов, моделей, экспериментальных образцов для принятия эффективных и обоснованных решений по результатам их испытаний10.
струментами на базе ТИИ, предлагаемыми российскими разработчиками. К этим экспериментам (как на стадии формирования условий испытаний, так и для подведения итогов) должны быть привлечены ведущие специалисты по ИИ в целом, а также по технологиям ЖР в частности. Этому также должно способствовать решение руководящих научно-технических органов, предусматривающее создание межведомственного центра компетенций для обеспечения проведения совместных работ по экспертизе, апробации и выработке рекомендаций по применению ТИИ в интересах обороны и обеспечения безопасности государства.
Свою роль в проведении поисковых исследований в целях выбора наиболее эффективных решений российских разработчиков ТИИ должен сыграть и запланированный к созданию в соответствии с протокольным поручением заместителя Министра обороны Российской Федерации от 07.12.2019 учебно-испытательный стенд (платформа) на базе Военного инновационного технополиса «ЭРА».
Таким образом, реализация всех вышеизложенных мероприятий позволит, по мнению авторов, сформировать в рамках Минобороны России необходимые условия для ускорения внедрения лучших продуктов российских разработчиков ТИИ в системы
автоматизации деятельности органов военного управления.
В заключение следует затронуть тему подготовки данных для обучения нейросетевых моделей (датасетов). Здесь есть два аспекта, порождаемых спецификой Вооруженных Сил Российской Федерации:
• потребность в синтетических данных,
• требования по защите государственной тайны.
Первая тема уже рассматривалась достаточно подробно авторами11'12, и суть ее сводится к тому, что с помощью «экспертных» нейросетевых моделей (ЭНСМ) можно заранее выявлять зависимости тактико-технических характеристик образцов вооружения, военной и специальной техники (ВВСТ) от различных условий их применения в реальной боевой обстановке. Затем обученные ЭНСМ будут мгновенно выдавать необходимые данные при проведении соответствующего моделирования и принятии решений по управлению военными действиями. Однако специфика ВВСТ существенно затрудняет или вообще не позволяет проводить всесторонние испытания в реальных условиях и накапливать да-тасеты требуемого объема. Для этого необходимо использовать цифровые двойники (ЦД) этих образцов ВВСТ и полигоны типа «ЦД» для различных театров военных действий. Работам по созданию цифровых двойников сейчас уделяется серьезное внимание как в Минпромторге России, так и в Минобороны России. При этом следует в числе прочих целей иметь в виду и использование ЦД для формирования синтетических данных в обучающих выборках нейросетевых моделей.
Второй аспект, связанный с требованиями по защите государственной тайны, обусловлен тем, что текстовые данные, на основе которых должно проводиться обучение нейросетей, содержат государственную тайну. Из
этого следует невозможность привлечения предприятий промышленности к работе по разметке закрытых данных и по обучению нейросетей для военных целей в полном объеме. В связи с этим необходимо проработать вопрос об участии промышленности только в поддержке работоспособности систем и проведении обучения и консультаций специалистов по порядку их
использования. При этом необходимо обеспечить такой уровень зрелости данных систем (предназначенных, в частности, для семантической обработки текстовых данных военного назначения), чтобы сотрудники Минобороны России могли без посторонней помощи в автономном режиме проводить все необходимые операции по обучению нейросетевых моделей13.
ПРИМЕЧАНИЯ
1 Сбер выложил русскоязычную модель GPT-3 Large с 760 миллионами параметров в открытый доступ. 22 октября 2020 г. // Харб: [сайт]. URL: https://habr. com/ru/company/sberbank/blog/524522/ (дата обращения: 23.09.2021).
2 Белоногое Г.Г., Калинин Ю.П., Хороши-лов А.А. Компьютерная лингвистика и перспективные информационные технологии: теория и практика построения систем автоматической обработки текстовой информации. М.: Русский мир, 2004. 246 с.
3 Трансформер (модель машинного обучения) // Википедия: [сайт]. URL: https:// ru.wikipedia.org/wiki/Трансформер_(мо-дель_машинного_обучения) (дата обращения: 23.09.2021).
4 Как работают трансформеры — кру-тейшие нейросети наших дней - URL: https://sysblok.ru/knowhow/kak-rabotajut-transformery-krutejshie-nejroseti-nashih-dnej/ (дата обращения: 23.09.2021).
5 Векторное представление слов // Университет ИТМО: [сайт]. URL: https:// neerc.ifmo.ru/wiki/index.php?title=Вектор-ное_представление_слов (дата обращения: 23.09.2021).
6 Word2Vec: покажи мне свой контекст, и я скажу, кто ты. URL: https://sysblok.ru/ knowhow/word2vec-pokazhi-mne-svoj-kontekst-i-ja-skazhu-kto-ty/ (дата обращения: 23.09.2021).
7 Что такое эмбеддинги и как они помогают машинам понимать тексты. URL: https://ai-news.ru/2020/03/chto_ takoe_embeddingi_i_kak_oni_pomogaut_ mashinam_ponimat_teksty.html (дата обращения: 23.09.2021).
8 Что такое эмбеддинги и как они помогают искусственному интеллекту по-
нять мир людей // Наука и жизнь, 17 апреля 2019 г.: [сайт]. URL: https://www.nkj.ru/ open/36052/ (дата обращения: 23.09.2021).
9 Канеман Даниэль. Думай медленно... решай быстро. М.: АСТ, 2014. 653 с.
10 Военная техника. Стадии жизненного цикла изделий и материалов. ГОСТ РВ 15.004-2004. Введ. 01.01.2006. М.: Стан-дартинформ, 2005. 23 с.
11 Ширманов А.В. и др. Технология автоматического планирования операций с применением глубоких нейросетевых моделей, настраиваемых методом «обучения с подкреплением» на базе полигонов типа «цифровой двойник» / А.В. Ширманов, И.В. Аблов (27 ЦНИИ), Ю.В. Визильтер,
B.С. Горбацевич (ГосНИИАС), С.С. Захаров, С.И. Радоманов (27 ЦНИИ) // Сборник докладов IX Форума по цифровиза-ции оборонно-промышленного комплекса России ИТОПК. Калуга: CONNECT, 2020.
C. 148—149.
12 Ширманов А.В. и др. Потенциал инфраструктуры ВИТ «ЭРА» для обучения экспертных нейросетей по результатам испытаний ВВСТ на полигонах типа «цифровой двойник» / А.В. Ширманов, С.С. Захаров, И.Г. Захаренков, С.И. Радоманов, А.А. Шевчук // Сборник статей III Всероссийской научно-технической конференции «Состояние и перспективы развития современной науки по направлению «АСУ, информационно-телекоммуникационные системы», 22—23 апреля 2021 г. Анапа: ВИТ «ЭРА», 2021. Т. 2. С. 134—138.
13 Протасов А.А., Ширманов А.В., Радоманов С.И. Первоочередные задачи внедрения технологий искусственного интеллекта в интересах автоматизации деятельности органов военного управления // Информатизация и связь. 2021. № 2. С. 91—94.
