CC BY
0
УДК 004.89, 006.015.8, 519.718, 519.876.2 doi: 10.21685/2307-4205-2024-2-16
ОБОБЩЕННАЯ МЕТОДОЛОГИЯ ПОСТРОЕНИЯ МУЛЬТИАГЕНТНЫХ СИСТЕМ УПРАВЛЕНИЯ ЖИЗНЕСПОСОБНОСТЬЮ КРИТИЧЕСКИХ ИНФРАСТРУКТУР
А. В. Маслобоев
Институт информатики и математического моделирования имени В. А. Путилова Федерального исследовательского центра «Кольский научный центр Российской академии наук», Апатиты, Россия
masloboev@iimm.ru
Аннотация. Актуальность и цели. Работа направлена на адаптацию, применение и развитие технологий распределенного искусственного интеллекта для задач информационно-аналитического обеспечения ситуационных центров регионального уровня и повышения эффективности их функционирования при управлении безопасностью и жизнеспособностью критических инфраструктур. Цифровизация ситуационного управления требует разработки и внедрения адаптивных самоорганизующихся систем, основанных на знаниях и обладающих высокой автономностью, про-активностью и интероперабельностью. Материалы и методы. Работа основана на комплексном анализе и обобщении потенциала известных методических подходов к построению прикладных мультиагентных систем, а также современных практик синтеза сетецентрических систем ситуационного управления распределенными объектами. Обзорно рассмотрены методы и инструментарий проектирования мультиагентных систем. Результаты и выводы. Разработана обобщенная методология построения мульти-агентных систем поддержки управления жизнеспособностью критических инфраструктур, основанная на комбинированном использовании принципов анализа и синтеза систем обеспечения безопасности критически важных объектов, адаптивных систем ситуационного управления и агентно-ориентированных приложений. Отличительной особенностью методологии является расширение функциональных возможностей известных технологических решений в части реализации имитационного аппарата агентов и блока координации совместной деятельности посредством «развязывания взаимодействий» и самоорганизации агентов в коалиции на базе модели градиентных вычислительных полей. Это позволит повысить эффективность систем обеспечения безопасности и жизнеспособности критических инфраструктур, применяемых в ситуационных центрах, за счет поддержания высокого уровня управляемости, адаптивности и интеллектуализации этих систем средствами мультиагентных технологий.
Ключевые слова: методология разработки, мультиагентная система, управление, системный анализ, жизнеспособность, критическая инфраструктура, моделирование
Финансирование: работа выполнена в рамках государственного задания ИИММ КНЦ РАН (НИР № FMEZ-2022-0023).
Для цитирования: Маслобоев А. В. Обобщенная методология построения мультиагентных систем управления жизнеспособностью критических инфраструктур // Надежность и качество сложных систем. 2024. № 2. С. 134-146. doi: 10.21685/2307-4205-2024-2-16
A GENERIC METHODOLOGY OF MULTI-AGENT SYSTEM DESIGN FOR RESILIENCE MANAGEMENT OF CRITICAL INFRASTRUCTURES
A.V. Masloboev
Putilov Institute for Informatics and Mathematical Modeling of the Federal Research Centre "Kola Science Centre of the Russian Academy of Sciences", Apatity, Russia
masloboev@iimm.ru
Abstract. Background. The study is aimed at adapting, applying and developing distributed artificial intelligence technologies for the issues of information and analytical support of situational centers at the regional level and efficiency enhancement of their operation when managing the security and resilience of critical infrastructures. Digitalization of situational control requires the development and implementation of adaptive self-organizing systems based on knowledge and with high autonomy, pro-activeness and interoperability. Materials and methods. The work is based on a comprehensive analysis and generalization of the well-known methodological approaches potential to the engineering
© Маслобоев А. В., 2024. Контент доступен по лицензии Creative Commons Attribution 4.0 License / This work is licensed under a Creative Commons Attribution 4.0 License.
of applied multi-agent systems, as well as modern practices for the synthesis of network-centric systems for situational control of distributed objects. The methods and tools for designing multi-agent systems are reviewed. Results and conclusions. A generic methodology for multi-agent systems engineering to support the management of critical infrastructures resilience, based on the combined use of the principles of analysis and synthesis of security systems for critical facilities, adaptive situational control systems and agent-based applications, has been developed. A distinctive feature of the methodology is the expansion of the functionality of known technological solutions in terms of the implementation of a simulation apparatus within the agents and a unit for joint activities coordination through «untying interactions» and self-organization of the agents into coalitions based on the model of gradient computational fields. This will improve the performance of systems for ensuring the critical infrastructures security and resilience used in situational centers by maintaining a high level of controllability, adaptability and intelligentization of these systems applying multi-agent technologies.
Keywords: engineering methodology, multi-agent system, management, systems analysis, resilience, critical infrastructure, modeling
Financing: the work was carried out within the framework of the State Research Program of the Putilov Institute for Informatics and Mathematical Modeling KSC RAS (project No. FMEZ-2022-0023).
For citation: Masloboev A.V. A generic methodology of multi-agent system design for resilience management of critical infrastructures. Nadezhnost' i kachestvo slozhnykh sistem = Reliability and quality of complex systems. 2024;(2):134-146. (In Russ.). doi: 10.21685/2307-4205-2024-2-16
Введение
Высокая актуальность и стратегическая значимость научных исследований в области развития доверенных технологий искусственного интеллекта для цифровой трансформации ключевых отраслей экономики, социальной сферы и системы государственного управления подтверждается стратегическими документами, принятыми на государственном уровне, в частности, Национальной стратегией развития искусственного интеллекта на период до 2030 г. [1], утвержденной Указом Президента Российской Федерации № 490 от 10 октября 2019 г., Стратегией развития информационного общества в Российской Федерации на 2017-2030 гг. [2], Стратегией научно-технологического развития Российской Федерации [3], Стратегией национальной безопасности Российской Федерации [4], а также рядом иных программно-целевых документов, таких как Национальная программа «Цифровая экономика Российской Федерации» [5], программа «Национальная технологическая инициатива» [6] и др. Реализация Национальной стратегии развития искусственного интеллекта на период до 2030 г. является приоритетной задачей не только для органов государственной власти на федеральном и региональном уровне, органов местного самоуправления, государственных корпораций и акционерных обществ с государственным участием, но и для государственных академий наук, научных и образовательных организаций. Одна из ключевых целей этой Стратегии связана с повышением качества жизни населения, обеспечением национальной безопасности и правопорядка, что требует решения задач информационно-аналитического обеспечения системы распределенных ситуационных центров [7], работающих по единому регламенту и используемых для цифровизации и интеллектуализации государственного управления по этим целевым направлениям деятельности. Достижение этой цели напрямую зависит от эффективности работы региональных ситуационных центров, осуществляющих проблемный мониторинг и прогнозирование социально-экономической обстановки, а также интеллектуальную поддержку управления различными аспектами безопасности критически важных объектов, систем жизнеобеспечения и критических инфраструктур.
Цифровая трансформация и интеллектуализация государственного управления на базе системы распределенных ситуационных центров предполагает создание и внедрение в их работу автоматизированных средств информационно-аналитической поддержки, основанных на знаниях и обеспечивающих адаптивное управление устойчивым функционированием и развитием социально-экономических систем посредством применения современных методов и технологий искусственного интеллекта, а также компьютерного моделирования и анализа больших данных. Это, в свою очередь, способствует формированию благоприятных условий для организации превентивного управления системными рисками нарушения безопасности и жизнеспособности региональных критических инфраструктур на более качественном уровне. Однако имеющиеся проблемы в деятельности ситуационных центров, связанные с острыми кадровыми потребностями в специалистах (операторах, аналитиках, риск-менеджерах) по управлению критическими инфраструктурами, ограниченностью ресурсов и возможностей для комплексной интеллектуальной поддержки оперативного ситуационного управления,
несовершенством нормативно-правовой базы, регламентирующей использование технологий и систем искусственного интеллекта в сфере обеспечения безопасности, снижают общую эффективность процессов принятия управленских решений в ситуационных центрах и требуют разработки инновационных методов и подходов к решению задач организационного управления жизнеспособностью критически важных объектов и инфраструктурных систем с применением интеллектуальных информационных технологий.
Одной из таких перспективных технологий, которая эволюционировала из концепции распределенного искусственного интеллекта в 80-х гг. прошлого столетия, является технология мультиагентных систем [8]. Эта технология успешно зарекомендовала себя для решения задач управления распределенными динамическими системами в самых различных областях, в том числе в сфере обеспечения региональной безопасности [9], но по экспертным и литературным данным ранее не применялась в практике управления жизнеспособностью и безопасностью критических инфраструктур. Предварительные исследования показали [10], что технология мультиагентных систем адекватно моделирует в динамике информационную и функциональную структуру децентрализованного принятия решений по обеспечению жизнеспособности критических инфраструктур и является одним из эффективных средств реализации ситуационного управления безопасностью в сетецентрических многоуровневых системах, к которым относится, например, система распределенных ситуационных центров.
С точки зрения кибернетики и системного подхода критические инфраструктуры можно определить как «системы систем», состоящие из совокупности взаимосвязанных элементов, представляющих сами из себя сложные киберфизические или социотехнические объекты (системы), распределенных на некоторой территории и имеющих критическое значение для функционирования друг друга, надсистемы и внешнего окружения, т.е. критические инфраструктуры - это открытые динамические многоуровневые системы, имеющие сложную организационную структуру, в которых нарушение работоспособности хотя бы одного из компонентов может привести к существенному снижению безопасности и жизнеспособности системы в целом или потере ее устойчивости (деградации и разрушению).
В настоящей работе для задач интеллектуализации управления жизнеспособностью и безопасностью критических инфраструктур в региональных ситуационных центрах предлагается обобщенная методология построения мультиагентных систем поддержки принятия решений, учитывающая специфику и принципы синтеза систем обеспечения безопасности критически важных объектов, а также обеспечивающая поэтапную разработку и интеграцию моделирующих и программных средств информационно-аналитической поддержки управления жизненным циклом жизнеспособности критических инфраструктур в единый программно-технический комплекс. Под интеллектуализацией управления в данном случае понимается внедрение и применение в работе ситуационных центров технологий искусственного интеллекта, методов машинного обучения и средств автоматизации процесса принятия решений для повышения оперативности и качества управленческой деятельности, оптимизации ресурсов и функций, необходимых при подготовке и реализации превентивных мер по обеспечению безопасности в условиях разноплановых критических ситуаций. Такой высокоуровневый подход к цифровизации ситуационного управления будет способствовать совершенствованию существующих организационных систем, ответственных за поддержку жизнеспособности критических инфраструктур, в части обеспечения высокой автономности и быстрой адаптации этих систем к новым условиям и режимам функционирования. Сегодня это особенно актуально с точки зрения вопросов национальной безопасности и устойчивого развития нашей страны на современном фоне эскалации геополитического напряжения и противостояния ведущих мировых центров силы.
Теоретические основы исследования
На протяжении последних десятилетий мультиагентные модели и технологии [11-13] широко применяются для информационной поддержки управления организационными и техническими системами в самых различных предметных областях и сферах деятельности. За это время было создано множество разнообразных библиотек, инструментальных средств, программного обеспечения, языков программирования и специализированных платформ для разработки прикладных мультиагент-ных систем разного назначения [14]. Некоторые из них до сих пор продолжают развиваться в русле современных трендов компьютерных наук. Эти инструменты различаются лежащими в их основе методологиями разработки, архитектурой, достигнутым уровнем завершенности и классами целевых
систем, для реализации которых эти средства могут быть использованы на практике. При этом сегодня не существует единой универсальной методологии или программного инструментария, покрывающих весь спектр приложений мультиагентных систем. Под методологией в программной инженерии агентно-ориентированных приложений в широком смысле понимается совокупность принципов и идей, регламентирующих комбинированное использование определенных методов и средств в рамках систематического подхода к разработке, исследованию, функционированию и сопровождению мультиагентных систем.
Известные методологии имеют ограниченную область применения, фокусируются на разных критериях и требованиях к целевым системам, а также отличаются целеполаганием и подходами к процессу спецификации и реализации конкретных прототипов мультиагентных систем. Среди формальных методологий разработки агентно-ориентированных приложений, получивших широкую известность и имевших определенный успех применения в реальной практике создания и внедрения исследовательских, коммерческих и смешанных проектов мультиагентных систем, можно выделить следующие отечественные и зарубежные подходы [15-17]: ACSME (Agent-based Control System Methodology - методология разработки агентных систем управления), ADELFE (Toolkit for Designing Software with Emergent Functionalities - инструментарий для разработки программных средств с эмер-джентными функциональными возможностями), ASEME (Agent-Oriented Software Engineering Methodology - методология разработки агентно-ориентированного программного обеспечения), BDI Agents Methodology (Belief-Desire-Intention Agents - методология агентного моделирования на основе убеждений, желаний и намерений агентов), CASSIOPEIA (A Method for Designing Computational Organizations - метод проектирования вычислительных организаций), CoMoMAS (Multi-Agent Systems Design Approach from Conceptual Models to Executable Code - подход к разработке мультиагентных систем «от концептуальных моделей к исполняемому коду»), DACS (Designing Agent-based Control Systems - метод проектирования агентных систем управления), DECAF (Distributed Environment Centered Agent Framework - программная агентная платформа, ориентированная на разработку и объединение агентов в единой распределенной среде), DISIT (Distributed Intelligent System Integrated Toolkit -интегрированный набор инструментов разработки распределенных интеллектуальных систем), GAIA (Generic Architecture for Information Availability - общая архитектура доступности информации), HLIL (Methodology with High-Level and Intermediate Levels - методология высокоуровневой и промежуточной разработки), IDEAS (Interactive Development Environment for Agent-based Simulation - интерактивная среда разработки для агентного моделирования), INGENIAS (Engineering for Software Agents -методология разработки программных агентов), MagentaToolkit (инструментарий разработки открытых мультиагентных систем), MaSE (Multi-Agent Systems Engineering - инжиниринг мультиагентных систем), MASDK (Multi-agent System Development Kit - набор средств разработки мультиагентной системы), MASON (Multi-Agent Simulator Of Neighborhoods/Networks - мультиагентный симулятор сетевого окружения), MASSIVE (Multi-Agent Systems Iterative View Engineering - методология итеративного проектирования представлений мультиагентных систем), MAS-CommonKADS (Multi-Agent Systems Common Knowledge Acquisition and Design Support - структурная методология поддержки разработки мультиагентных систем, основанных на знаниях), MEI (Methodology for Enterprise Integration - методология интеграции систем предприятия на основе агентов), MESSAGE (Methodology for Engineering Systems of Software Agents - методология разработки систем программных агентов), ODAC (Organization-based Agent Coordination System - система координации агентов на основе организационных взаимодействий), PASSI (Process for Agent Societies Specification and Implementation -процесс спецификации и реализации агентных сообществ), PROMETHEUS (A Pragmatic Methodology for Engineering Intelligent Agents - практичная методология разработки интеллектуальных агентов), PROSA (Programming in the Large with Agents - программирование «в больших масштабах» с использованием агентов), RETSINA (Reusable Environment for Task-Structured Intelligent Networked Agents -исполнительная среда для многократного использования распределенных по задачам сетевых интеллектуальных агентов), ROADMAP (Role-Oriented Analysis and Design for Multi-Agent Programming -ролевой анализ и проектирование для многоагентного программирования), SODA (Societies in Open and Distributed Agent spaces - сообщества в открытых и распределенных агентных пространствах), TROPOS (A Requirements-driven Methodology for Agent-oriented Software Development - методология, основанная на управлении и анализе требований к разработке агентно-ориентированных программных систем) и им подобные. Эти, на первый взгляд, разные методологии имеют технологические сходства в части идеологии и структуры жизненного цикла разработки мультиагентных систем, но
обладают рядом функциональных различий в части методов и средств реализации компонентов этих систем, а также отдельных этапов «внутреннего» проектирования агентов и связанных с ними моделей автономного поведения и алгоритмов взаимодействия, обеспечивающих корректное функционирование агентов в виртуальной среде.
Перечисленные методологии разработки мультиагентных систем реализуются либо на собственных проприетарных агентных платформах, либо на специализированных агентных платформах, поддерживающих использование данных методологий. К таким общеизвестным и популярным агент-ным платформам (фреймворкам), предназначенным для развертывания и программирования муль-тиагентных приложений (агентов, агентных сред и организационных систем), относятся следующие [18-20]: ActressMas, AgentBuilder, Agent Factory Framework, AgentScape, agentTool, Aglets, AIOMAS, AnyLogic, BDI4Jade, Coguaar, CArtAgO, Cormas, EMERALD, GAMA, Grasshopper, FIPA-OS, JADE, JADEX, JACK, JaCaMo, Janus, JASON, INGENIAS IDE, LEAP, Living SystemsRTechnology Suite, MESA, MaDKit, MASON, Moise, MOLE, NetLogo, osBrain, Repast Suite, RETSINA, Pangea, SAGE, SeSAm, SOAR, SPADE, SPARK, Swarm, TuCSoN, ZEUS и др.
Анализ доступной научной литературы и проектной документации по использованию приведенных методологий [15-17, 21-23] показал, что по экспертным оценкам большинство из них имеют недостатки, по крайней мере в одной из следующих областей проектирования агентно-ориентирован-ных приложений, существенные для вопросов разработки агентов и мультиагентных систем управления распределенными динамическими объектами, например, такими как критические инфраструктуры, являющиеся предметом нашего исследования:
— внутреннее проектирование архитектуры агентов в части разработки и комбинированного использования имитационного аппарата агентов и моделей обучения с подкреплением, а также ментальных логических структур, моделирующих убеждения, мотивацию, планы, целеполагание, намерения, действия и прочие когнитивные функции автономных агентов;
— поддержка моделей логического вывода на знаниях, определяющих способность агентов к рассуждениям, и обеспечение семантической связности, полноты и непротиворечивости коммуникаций между агентами в процессе формирования ситуационной осведомленности (единого информационного поля принятия решений);
— поддержка использования встраиваемых методов и средств обеспечения информационной безопасности как на уровне агентов, так и мультиагентной системы в целом;
— поддержка отказоустойчивости и ремонтопригодности элементов мультиагентных систем в режимах до и после сбоя при различных сценариях использования;
— проектирование сетевых моделей коммуникации агентов в части разработки адаптивных интерфейсов, алгоритмов и протоколов межагентного информационного взаимодействия на естественном языке;
— оптимизация распределения задач/ресурсов между агентами системы в части разработки алгоритмов групповой самоорганизации агентов в коалиции (сетевые организационные структуры) и динамической реконфигурации ассоциированных с ними виртуальных сетей ресурсов и сервисов;
— моделирование многоуровневой организационной структуры мультиагентной системы в части установления социальных отношений (контактов) и организационного подчинения между агентами в зависимости от их роли в системе в процессе принятия решений;
— поддержка моделей координации децентрализованного принятия решений и совместной деятельности агентов при решении задач управления в сетецентрической виртуальной среде;
— поддержка технологической, семантической и организационной интероперабельности компонентов мультиагентных систем, функциональной совместимости агентов, а также их повторного использования в процессах разработки, управления и интеграции с внешними информационными системами и сервисами;
— поддержка процедур верификации и валидации мультиагентных систем управления на основе применения онтологий и прочих специальных средств автоматической проверки корректности и адекватности моделей и алгоритмов функционирования агентов с учетом установленных требований и спецификаций.
Систематизация функциональных достоинств современных методических подходов к проектированию, моделированию и анализу агентно-ориентированных систем и обобщение с результатами предшествующих исследований в этой проблемной области [9, 10, 24-26] обеспечили организационно-техническую основу разработки облика новой агрегированной методологии синтеза
прикладных мультиагентных систем управления, нивелирующем ряд недостатков известных технологических решений и позволяющей удовлетворить в той или иной мере указанные инструментальные потребности для более эффективного инжиниринга программных систем данного класса, масштаба и назначения. Далее будут рассмотрены общая характеристики, структура и возможности предлагаемой обобщенной методологии построения прикладных мультиагентных систем для предметной области «региональная безопасность» и класса задач информационной поддержки жизненного цикла управления жизнеспособностью критических инфраструктур.
Общая характеристика и структура обобщенной методологии
Разработанная обобщенная методология синтеза прикладных мультиагентных систем информационной поддержки управления жизнеспособностью критических инфраструктур представляет собой совмещенный итеративный и инкрементный процесс проектирования и реализуется в шесть основных этапов, на каждом из которых последовательно используются конкретные методы и средства для создания базовых и специальных компонентов системы. Результирующая информация (продукты на выходе) и исходные данные (ресурсы на входе) каждого этапа используются, соответственно, в качестве входных или выходных средств для реализации другого этапа, полученных на предыдущей итерации. При этом обеспечивается покрытие всех взаимосвязанных задач, решаемых в процессе разработки мультиагентной системы. Общая структура методологии схематично представлена на рис. 1 и включает следующие этапы:
1) анализ требований (внешнее проектирование);
2) концептуализация знаний о предметной области;
3) разработка мультиагентной системы (внутреннее проектирование);
4) программная реализация мультиагентной системы;
5) верификация и валидация мультиагентной системы;
6) оптимизация мультиагентной системы.
Входные данные и средства
Используемые методы и подходы
/'Информация о пробпемной\ области и управленческой
сферы деятельности; характеристика объектов информатизации; постановка задач _управления_
/" Актуальные и ' ретроспективные данные, экспертные знания об объектах предметной области и связанных с ними информационных и
у управляющих процессах ,
Концептуальная,\ когнитивная, онтологическая модели предметной области; зависимости динамических характеристик процессов и
Уобьектов информатизации^/
^Организационная модель^ {структура) МАСУ; внутренняя архитектура и спецификации агентов; модели коммуникации, интерфейсы и алгоритмы
V взаимодействия агентов; У
( Спецификация МАСУ; \ Прототип МАСУ; Фреймворк МАСУ; Программно-техническое и информационное обеспечение МАСУ;
V набор тестовых задач
/" Перечень ошибок и аварийных ситуаций в работе агентов и МАСУ; критические значения количественных и качественных показателей
V функционирования МАСУ У
О
о о о
Структурные, объектно-ориентированные и экспертные методы анализа требований; диаграммы ролевой деятельности и вариантов использования; _прототипирование_
Функционально-целевой и контекстно-управляемый подходы; методы концептуального и онтологического моделирования; методы инженерии знаний_
Системный подход; паттерны^
проектирования; методы системной динамики, теории управления и иерархических многоуровневых систем, нечеткой логики, активных систем, ИИ, обеспечения ИБ /
Стандарты, библиотеки, языки и технологии программирования агентов; инструментальные среды разработки MAC; средства интеграции информационных / ресурсов и сервисов агентов/
Методы тестирования и проверки соответствия компонентов МАСУ определенным требованиям и ' спецификациям; сценарные методы;анализ причинно-следственных связей
Этапы методологии разработки мультиагентных систем управления (МАСУ)
m
АНАЛИЗ ТРЕБОВАНИИ (ВНЕШНЕЕ ПРОЕКТИРОВАНИЕ)
ш
КОНЦЕПТУАЛИЗАЦИЯ ЗНАНИИ О ПРЕДМЕТНОЙ ОБЛАСТИ
а
РАЗРАБОТКА МАСУ (ВНУТРЕННЕЕ ПРОЕКТИРОВАНИЕ)
И
ПРОГРАММНАЯ РЕАЛИЗАЦИЯ МАСУ
а
ВЕРИФИКАЦИЯ И ВАЛИДАЦИЯ МАСУ
Методы оптимизации кода агентов, самонастройки и реконфигурации программно- \ технических средств МАСУ; эвристические, эмпирические I
и формальные методы оценки эффективности МАСУ/
И
ОПТИМИЗАЦИЯ МАСУ
1
Итеративный процесс 1-6
Выходные результаты и продукты
ТЗ на разработку МАСУ Перечень технических, организационных, нормативных требований, цели, критерии, спецификации решаемых задач, условия и режимы функционирования, необходимые ресурсы, сферы применения, ограничения
БЗ и прикладные онтологии агентов Концептуальная модель/онтология предметной области; онтология КВО и критических инфраструктур; онтология региональной безопасности; онтология ЧС и кризисных ситуаций
V._„
/"" ИА агентов и архитектура МАСУ Информационные, функциональные, поведенческие модели агентов; модели координации совместной деятельности, модели обучения агентов; структура МАСУ; алгоритмы самоорганизации агентов и динамической реконфигурации МАСУ
Г Прототип МАСУ ^ Исполняемый программный код агентов; программные компоненты МАСУ; протоколы информационного обмена; специализированная агентная платформа ^для развертывания МАСУ__^
Дерево событий и отказов Критические области и компоненты МАСУ, требующие доработки, отладки и настройки; модель актуальных угроз; перечень влияющих ситуационных факторов на режимы работы МАСУ
Эффективные конфигурации МАСУ Оценки эффективности функционирования МАСУ; оптимальные режимы работы МАСУ в заданных условиях; улучшение рабочих характеристик агентов (производительность и оперативность) при решении задач МАСУ
Рис. 1. Структура обобщенной методологии разработки мультиагентных систем управления жизнеспособностью критических инфраструктур: ИИ - искусственный интеллект; МАСУ - мультиагентная система управления; ИБ - информационная безопасность; ТЗ - техническое задание; БЗ - база знаний; ИА - имитационный аппарат
На первом этапе с привлечением экспертов в рассматриваемой предметной области (в нашем случае: безопасность и жизнеспособность региональных критических инфраструктур) и системных аналитиков на основе применения специальных методов анализа требований и прототипирования осуществляется формирование и согласование технического задания на разработку мультиагентной системы информационной поддержки управления в этой сфере.
Второй этап предполагает формализацию знаний предметной области, для которой будет предназначена мультиагентная система, средствами концептуального, когнитивного и онтологического моделирования. Реализация концептуальных моделей в виде прикладных онтологий предметной области, критически важных объектов и критических инфраструктур, региональной безопасности, чрезвычайных и кризисных ситуаций образуют общесистемный тезаурус и базу знаний агентов системы.
Третий этап является одним из ключевых в процессе разработки мультиагентных приложений и нацелен на внутреннее проектирование агентов системы и обеспечивающих их функциональность средств и ресурсов. Этот этап включает разработку организационной модели (структуры) мультиа-гентной системы; разработку имитационного аппарата агентов, представляющего собой полимодельный комплекс, состоящий из моделей внешней среды и деятельности агентов различного типа (информационных, функциональных, поведенческих, системно-динамических, ситуационных, нейросетевых, нечетких, рефлексивных); разработку гибридной архитектуры агентов; разработку моделей коммуникации агентов и межагентного взаимодействия; разработку алгоритмов самоорганизации и динамической реконфигурации мультиагентной системы; разработку моделей координации совместной деятельности и ситуационной осведомленности агентов в условиях децентрализованного принятия решений на разных уровнях управления; разработку архитектуры мультиагентной системы и сервис-ориентированной инфраструктуры среды развертывания и исполнения агентов. В качестве средств реализации данного этапа выступают библиотеки паттернов проектирования, методы системной динамики, искусственного интеллекта, теории активных систем, нечеткой логики, теории иерархических многоуровневых систем, сетецентрического управления, обеспечения информационной безопасности и другие.
На четвертом этапе с использованием специализированных инструментальных сред разработки агентно-ориентированных приложений, поддерживающих открытые стандарты, протоколы, библиотеки и языки программирования агентов, а также средства интеграции информационно-вычислительных ресурсов, выполняется программная реализация базовых компонентов мультиагентной системы и их объединение в единый программный комплекс.
Пятый этап направлен на верификацию и валидацию спроектированного прототипа мультиа-гентной системы и фреймворка, на котором развернуты и реализованы ее элементы. Для этого применяются методы анализа причинно-следственных связей, сценарного анализа систем, а также процедуры проверки соответствия компонентов и функций мультиагентной системы заданным требованиям и спецификациям. Тестирование сети агентов проводится на определенных наборах тестовых данных и задач при различных условиях и режимах работы системы и позволяет идентифицировать критические события, ошибки, сбои и отказы в работе агентов и системы в целом, являющиеся причинами потери ее функциональности и снижения производительности. Тем самым определяются области и компоненты системы, требующие доработки, отладки и/или настройки.
На шестом этапе проводится оценивание и анализ качественных и количественных показателей эффективности функционирования мультиагентной системы с использованием эвристических, эмпирических и формальных методов оценки для оптимизации рабочих характеристик агентов (производительность, оперативность, автономность, адаптивность и т.д.) при решении поставленных задач и выбора оптимальных режимов работы системы в заданных условиях. Реализация данного этапа подразумевает формирование эффективных конфигураций мультиагентной системы, перенастройку или реконфигурацию программно-технических средств среды ее исполнения, а также оптимизацию программного кода агентов.
Предлагаемая методология синтеза прикладных мультиагентных систем управления по сравнению с аналогичными подходами и методиками в исследуемой проблемной области наряду с общими функциональными возможностями обладает следующими отличительными особенностями:
- поддержка создания агентов с более высоким уровнем автономности и адаптивности за счет средств реализации имитационного аппарата агентов на основе методов автоматизированного синтеза концептуальных, системно-динамических, нечетких и ситуационных моделей виртуальной среды и
ее про-активных сущностей (агентов), а также его совместного использования с моделями на основе коллективного обучения с подкреплением;
- поддержка разработки мультиагентных систем с высоким уровнем управляемости, координи-руемости и устойчивости за счет средств реализации децентрализованного принятия решений агентами на основе моделей координации путем развязывания взаимодействий и формирования агентных коалиций на разных уровнях управления, организованных по гетерархическому принципу;
- поддержка создания моделей ситуационной осведомленности агентов, обладающих достаточной полнотой, связностью и согласованностью, за счет средств реализации организационной структуры мультиагентной системы на основе сетецентрического подхода, игровых и сетевых моделей активных систем с выделенными управляющими центрами;
- поддержка оптимизационных алгоритмов конфигурирования и самоорганизации элементов мультиагентных систем за счет средств реализации динамического синтеза и реконфигурации структуры и состава системы на основе моделей открытых самоорганизующихся сетей агентов по принципу градиентных вычислительных полей и моделей коллективной адаптации агентов к изменениям среды функционирования;
- поддержка реализации мультиагентных систем, обладающих более высоким уровнем интер-операбельности, за счет применения средств технологической и семантической интеграции разнородных информационных ресурсов и сервисов агентов на базе онтологий, а также на основе моделей и открытых стандартов интероперабельности распределенных информационных систем;
- поддержка связности и дискретизации различных моделей в составе полимодельных комплексов агентов, а также автоматизированного переключения между различными уровнями абстракции моделирования при проектировании элементов мультиагентных систем;
- поддержка контроля целостности и надежности открытых мультиагентных систем за счет средств реализации механизмов доверительных отношений между агентами на основе стохастических имитационных моделей оценки репутации агентов и моделей управления доступом к ресурсам, сервисам и узлам виртуальной среды посредством формирования сети удостоверяющих центров на базе специализированных агентов сертификации, что обеспечивает создание мультиагентных систем, совмещающих свойства открытости и информационной защищенности.
В табл. 1 приведено сравнение эксплуатационных характеристик систем обеспечения безопасности критически важных объектов, построенных традиционным способом на базе объектно-ориентированных методологий и интегрированных в архитектуру распределенных ситуационных центров, и функциональных особенностей агентно-ориентированных систем управления жизнеспособностью критических инфраструктур, имеющих сетецентрическую организационную структуру и реализованных посредством мультиагентных технологий.
Таблица 1
Сравнительный анализ особенностей реализации традиционных и мультиагентных систем управления безопасностью и жизнеспособностью критических инфраструктур (обобщено по результатам исследований [27])
Традиционные системы ситуационного управления Мультиагентные системы сетецентрического управления
1 2
Физическая локальность, изолированность системы управления, централизация всех ресурсов в одной точке Децентрализация субъектов управления и средств информационной поддержки, распределенный доступ к ресурсам и сервисам единой виртуальной среды
Необходимость физического присутствия субъектов управления на территории ситуационных центров в условиях возникновения кризисных ситуаций, временные затраты на формирование рабочих групп и комиссий под проблемную ситуацию Оперативное согласование локальных планов и действий субъектов управления посредством переговорного процесса между их агентами в автономном режиме и алгоритмов динамического формирования проблемно-ориентированных коалиций агентов «под задачу»
Организационная разнородность субъектов управления, наличие смешенных горизонтально-вертикальных связей, децентрализованное принятие решений Сетецентрическая структура, координация децентрализованного управления, кооперативность участников информационных процессов, целостность
Окончание табл. 1
1 2
Динамичность состава участников и параметров процессов ситуационного управления, в том числе ресурсов, объектов и влияющих факторов и т.д. Расширяемость, адаптивность, способность к самоорганизации, мультипредметность, открытость
Симметричный характер взаимодействия и долговременный характер информационных интересов субъектов управления Сервис-ориентированная архитектура; про-активность, мобильность, персонализация компонентов, потенциал к саморазвитию
Сложность оперативного перераспределения ресурсов, сил и средств реагирования, а также формирования экспертных групп и координационных комиссий «под задачу» в условиях изменения критических ситуаций Оперативная перенастройка и реконфигурация структуры и состава участников процессов управления в динамических условиях обстановки, независимость локализации ситуации/объекта управления от средств мониторинга и контроля
Ограниченные возможности интеграции с внешними системами, длительное согласование организационных и технических регламентов взаимодействия при подключении дублирующих или сторонних средств ситуационного управления Механизмы гибкой интеграции с внешними системами и сервисами в независимости от их архитектуры и уровней технической реализации, контролируемое свободное подключение к сети новых участников и их агентов
Технологическая, семантическая, организационная неоднородность информационных ресурсов и сервисов Логическая интеграция ресурсов, поддержка интероперабельности разнородных программных компонентов
Высокие затраты на приобретение специального оборудования, техническое сопровождение, аренду и охрану помещений Относительно низкая стоимость развертывания инфраструктуры, предоставляющей программные средства и специализированные сервисы субъектам управления
Централизованное администрирование и локальная настройка программно-аппаратных средств и коммуникационной инфраструктуры Распределенное администрирование и гибкая настройка компонентов системы через общесистемный интерфейс, предоставляющий унифицированный доступ к системе
Функционально фиксированный пользовательский интерфейс, зависящий от профиля деятельности и индивидуальных особенностей работы разнотипных субъектов управления Интеллектуальный пользовательский интерфейс с возможностью автоматизированной когнитивной настройки под конкретную категорию пользователя в зависимости от входных данных о ситуации и его ситуационной осведомленности
Необходимость обеспечения конфиденциальности и контроля технических регламентов работы всех компонентов системы как в стабильных, так и в критических ситуациях Информационная защищенность компонентов системы обеспечивается ограниченным набором программно-технических средств администрирования и контроля доступа к ресурсам системы, а также надежными протоколами сетевого взаимодействия
Заключение
В современных условиях обеспечение безопасности и устойчивого функционирования региональных критических инфраструктур является одним из приоритетных направлений государственной политики Российской Федерации. Возрастающее многообразие внешних и внутренних угроз требует пристального внимания к вопросам организационного управления надежностью и жизнеспособностью критически важных и потенциально опасных объектов и обусловливает необходимость постоянного повышения эффективности действующих систем обеспечения региональной безопасности и защищенности этих объектов. Последнее может быть достигнуто за счет применения современных методов и информационных технологий мониторинга и управления критическими инфраструктурами, основанных на искусственном интеллекте. Цифровизация и поддержка управления на качественно новом уровне позволят повысить устойчивость и адаптивность этих инфраструктур к воздействиям множественных угроз различной природы, а также обеспечат более высокую оперативность реагирования на критические ситуации и возможность оптимизации процессов ситуационного управления «на лету» в зависимости от контекста и динамики ситуации. Вместе с тем специфичность объектов для разного типа критических инфраструктур в той или иной степени ограничивает возможности разработки эффективных средств информационно-аналитической поддержки ситуационного управления ими на основе известных нейросетевых моделей и генеративного искусственного
интеллекта. Более перспективным и приемлемым решением для этих целей с точки зрения уровня надежности и прозрачности представляется использование технологий мультиагентных систем и доверенных моделей объяснимого искусственного интеллекта.
В ходе анализа проблематики информационно-аналитической поддержки управления жизнеспособностью критических инфраструктур установлено, что системные исследования вопросов использования доверенных моделей и технологий искусственного интеллекта для задач управления и принятия решений в этой области за рубежом и в нашей стране ранее не проводились, поскольку комплексное изучение этих вопросов представляется достаточно проблематичным в силу междисци-плинарности и многоаспектности данного направления исследований. В связи с этим расширение сферы применения технологий искусственного интеллекта для информационно-аналитического обеспечения процессов принятия решений по управлению жизнеспособностью критических инфраструктур в системе распределенных ситуационных центров является актуальной научно-технической задачей, которая требует дополнительной теоретической проработки и операционализации на практике.
Для решения обозначенной проблемы в работе была предпринята попытка развития, обобщения и интеграции известных методических подходов к проектированию прикладных мультиагентных систем поддержки принятия решений, основанных на знаниях, в рамках единой методологии синтеза и анализа адаптивных самоорганизующихся систем управления распределенными динамическими объектами. Предложенная методология в совокупности с программным инструментарием реализации интеллектуальных агентов предназначена для разработки элементов сетецентрических мультиагентных систем ситуационного управления жизнеспособностью региональных критических инфраструктур и их объединения в единый комплекс программ, который может быть использован в составе программно-технических средств ситуационных центров.
Ограничениями применимости методологии, безусловно, являются сложность учета и покрытия всех аспектов поведения и динамических характеристик моделируемых объектов, включая латентные свойства последних, а также невозможность заранее предусмотреть все вероятные исходы взаимодействия автономных агентов, которые могут фактически привести к непредсказуемому поведению системы или потери ее управляемости в неопределенных ситуациях, в процессе разработки распределенных мультиагентных систем управления. Это связано с естественной ограниченностью моделей неоднородных агентов и их окружения, а также не всегда формализуемой логикой поведения агентов при совместном решении задач. Трудность точного и однозначного воспроизведения реальной природы принятия решений с учетом влияния ситуационных и социальных факторов средствами агентных моделей делают процесс разработки мультиагентных систем достаточно трудоемким, продолжительным и дорогостоящим. Вместе с тем дополнительные технические ограничения накладывают недостаточная стандартизация отдельных этапов разработки, сложность гибкой интеграции с другими технологиями, ограниченность набора специальных инструментов и фреймворков для автоматизации программной реализации компонентов мультиагентных систем. Однако указанные проблемные точки нивелируются широким спектром преимуществ, которые на практике обеспечивают технологические решения, построенные на базе мультиагентных систем и технологий распределенного искусственного интеллекта.
Дальнейшие исследования будут, главным образом, связаны с детальной проработкой каждого отдельного этапа предложенной методологии, ее операционализацией на практике и опробованием результатов при разработке и реализации проекта мультиагентной системы информационно-аналитической поддержки управления жизнеспособностью региональных критических инфраструктур для ситуационных центров Мурманской области.
Список литературы
1. Национальная стратегия развития искусственного интеллекта на период до 2030 года (в ред. Указа Президента РФ № 124 от 15.02.2024). URL: http://static.kremlin.ru/media/events/files/ru/AH4x6HgKWANwVtM OfPDhcbRpvd1HCCsv.pdf
2. Стратегия развития информационного общества в Российской Федерации на 2017-2030 годы (Указ Президента РФ № 203 от 09.05.2017). URL: http://static.kremlin.ru/media/acts/files/0001201705100002.pdf
3. Стратегия научно-технологического развития Российской Федерации (Указ Президента РФ № 145 от 28.02.2024). URL: http://static.kremlin.ru/media/events/files/ru/HHNAzTI1guvX9Y00yaFA4KkMWPyYc WS8.pdf
4. Стратегия национальной безопасности Российской Федерации (Указ Президента РФ № 400 от 02.07.2021). URL: http://www.kremlin.ru/acts/bank/47046/page/1
5. Национальная программа «Цифровая экономика Российской Федерации» (Распоряжение Правительства РФ № 1632-р от 28 июля 2017 г.). URL: http://static.government.ru/media/files/9gFM4FHj4PsB79I5v7 yLVuPgu4bvR7M0.pdf
6. Программа «Национальная технологическая инициатива». URL: https://nti2035.ru/
7. Зацаринный А. А., Козлов С. В., Колин К. К. Система распределенных ситуационных центров России как технологическая основа информационно-аналитического обеспечения органов государственного управления // Информационные процессы, системы и технологии. 2023. Т. 4, № 3 (27). С. 21-28.
8. Goonatilleke S. T., Hettige B. Past, Present and Future Trends in Multi-Agent System Technology // Journal Européen des Systèmes Automatisés. 2022. Vol. 55, № 6. P. 723-739.
9. Masloboev A. V. A technology for dynamic synthesis and configuration of multi-agent systems of regional security network-centric control // Reliability and Quality of Complex Systems. 2020. № 3. P. 112-120.
10. Маслобоев А. В. Принципы разработки прикладных мультиагентных систем управления жизнеспособностью критических инфраструктур // Труды Института системного анализа Российской академии наук. 2024. Т. 74, № 2.
11. Mathieu P., Corchado J. M., Gonzalez-Briones A., De la Prieta F. Advancements in the Practical Applications of Agents, Multi-Agent Systems and Simulating Complex Systems // Systems. 2023. Vol. 11, № 10. P. 525.
12. Городецкий В. И., Бухвалов О. Л., Скобелев П. О., Майоров И. В. Современное состояние и перспективы индустриальных применений многоагентных систем // Управление большими системами. 2017. № 66. С. 94-157.
13. Юрков Н. К., Бецков А. В., Самокутяев А. М. Мультиагентное управление сложными динамическими системами // Труды Международного симпозиума Надежность и качество. 2023. Т. 1. С. 6-12.
14. Cardoso R. C., Ferrando A. A Review of Agent-Based Programming for Multi-Agent Systems // Computers. 2021. Vol. 10, № 2. P. 16.
15. Abdalla R., Mishra A. Agent-Oriented Software Engineering Methodologies: Analysis and Future Directions // Complexity. 2021. № 11. P. 1-21. Article ID: 1629419.
16. Jazayeri A., Bass E. J. Agent-Oriented Methodologies Evaluation Frameworks: A Review // International Journal of Software Engineering and Knowledge Engineering. 2020. Vol. 30, № 9. P. 1337-1370.
17. Spitsina I. A., Krochin A. L., Aksyonov K. A., Aksyonova O. P. Survey of Present System Engineering MultiAgent Based Methods. Development and Application // Proceedings of the Second International Workshop on Radio Electronics & Information Technologies. Yekaterinburg, Russia, 2017. P. 137-144.
18. Wrona Z., Buchwald W., Ganzha M. [et al.]. Overview of Software Agent Platforms Available in 2023 // Information. 2023. Vol. 14, № 6. P. 348.
19. Kravari K., Bassiliades N. A Survey of Agent Platforms // Journal of Artificial Societies and Social Simulation. 2015. Vol. 18, № 1. P. 1-11.
20. Rendon T., Sànchez-Marrè M. A review on multi-agent platforms and environmental decision support systems simulation tools. Research report. 2006. 22 p.
21. Multi-Agent Systems / ed. by V. Botti, A. Omicini, S. Mariani // Applied Sciences Special Issue. Basel, Switzerland, Mdpi AG. 2019. 392 p.
22. Dorri A., S. Kanhere S., Jurdak R. Multi-Agent Systems: A Survey // IEEE Access. 2018. Vol. 6. P. 28573-28593.
23. Handbook on Agent-Oriented Design Processes / ed. by M. Cossentino, V. Hilaire, A. Molesini, V. Seidita. Springer-Verlag Berlin Heidelberg, 2014. 569 p.
24. Маслобоев А. В. Гибридная архитектура интеллектуального агента с имитационным аппаратом // Вестник МГТУ: Труды Мурманского государственного технического университета. 2009. Т. 12, № 1. С. 113-124.
25. Маслобоев А. В., Путилов В. А. Разработка и реализация механизмов управления информационной безопасностью мобильных агентов в распределенных мультиагентных информационных системах // Вестник МГТУ: Труды Мурманского государственного технического университета. 2010. Т. 13, № 4/2. C. 1015-1032.
26. Маслобоев А. В., Путилов В. А. Многоагентная среда моделирования процессов управления региональной безопасностью: принципы построения и элементы автоматизации // Автоматизация процессов управления. 2018. № 1. С. 4-13.
27. Маслобоев А. В. Средства поддержки интероперабельности сетецентрических систем управления региональной безопасностью // Надежность и качество сложных систем. 2020. № 1. С. 91-105.
References
1. Natsional'naya strategiya razvitiya iskusstvennogo intellekta na period do 2030 goda (v red. Ukaza Prezidenta RF № 124 ot 15.02.2024) = The National Strategy for the Development of Artificial Intelligence for the period up to 2030 (ed. Decree of the President of the Russian Federation No. 124 dated 02/15/2024). (In Russ.). Available at: http://static.kremlin.ru/media/events/files/ru/AH4x6HgKWANwVtM OfPDhcbRpvd1HCCsv.pdf
2. Strategiya razvitiya informatsionnogo obshchestva v Rossiyskoy Federatsii na 2017-2030 gody (Ukaz Prezidenta RF № 203 ot 09.05.2017) = The strategy for the development of the Information Society in the Russian Federation
for 2017-2030 (Decree of the President of the Russian Federation No. 203 dated 05/9/2017). (In Russ.). Available at: http://static.kremlin.ru/media/acts/files/0001201705100002.pdf
3. Strategiya nauchno-tekhnologicheskogo razvitiya Rossiyskoy Federatsii (Ukaz Prezidenta RF № 145 ot 28.02.2024) = The strategy of scientific and technological development of the Russian Federation (Decree of the President of the Russian Federation No. 145 dated 02/28/2024). (In Russ.). Available at: http://static.krem-lin.ru/media/events/files/ru/HHNAzTI1guvX9Y00yaFA4KkMWPyYc WS8.pdf
4. Strategiya natsional'noy bezopasnosti Rossiyskoy Federatsii (Ukaz Prezidenta RF № 400 ot 02.07.2021) = The National Security Strategy of the Russian Federation (Decree of the President of the Russian Federation No. 400 dated 07/02/2021). (In Russ.). Available at: http://www.kremlin.ru/acts/bank/47046/page/1
5. Natsional'naya programma «Tsifrovaya ekonomika Rossiyskoy Federatsii» (Rasporyazhenie Pravitel'stva RF № 1632-r ot 28 iyulya 2017 g.) = The National program "Digital Economy of the Russian Federation " (Decree of the Government of the Russian Federation No. 1632-r dated July 28, 2017). (In Russ.). Available at: http://static.gov-ernment.ru/media/files/9gFM4FHj4PsB79I5v7 yLVuPgu4bvR7M0.pdf
6. Programma «Natsional'naya tekhnologicheskaya initsiativa» = The National Technology Initiative Program. (In Russ.). Available at: https://nti2035.ru/
7. Zatsarinnyy A.A., Kozlov S.V., Kolin K.K. The system of distributed situational centers of Russia as a technological basis for information and analytical support of public administration bodies. Informatsionnye protsessy, sis-temy i tekhnologii = Information processes, systems and technologies. 2023;4(3):21-28. (In Russ.)
8. Goonatilleke S.T., Hettige B. Past, Present and Future Trends in Multi-Agent System Technology. Journal Européen des Systèmes Automatisés. 2022;55(6):723-739.
9. Masloboev A.V. A technology for dynamic synthesis and configuration of multi-agent systems of regional security network-centric control. Reliability and Quality of Complex Systems. 2020;(3):112-120.
10. Masloboev A.V. Principles of development of applied multi-agent systems for managing the viability of critical infrastructures. Trudy Instituta sistemnogo analiza Rossiyskoy akademii nauk = Proceedings of the Institute of System Management analysis of the Russian Academy of Sciences. 2024;74(2). (In Russ.)
11. Mathieu P., Corchado J.M., Gonzalez-Briones A., De la Prieta F. Advancements in the Practical Applications of Agents, Multi-Agent Systems and Simulating Complex Systems. Systems. 2023;11(10):525.
12. Gorodetskiy V.I., Bukhvalov O.L., Skobelev P.O., Mayorov I.V. The current state and prospects of industrial applications of multi-agent systems. Upravlenie bol'shimi sistemami = Management of large systems. 2017;(66): 94-157. (In Russ.)
13. Yurkov N.K., Betskov A.V., Samokutyaev A.M. Multi-agent control of complex dynamic systems. Trudy Mezhdu-narodnogo simpoziuma Nadezhnost ' i kachestvo = Proceedings of the International Symposium Reliability and Quality. 2023;1:6-12. (In Russ.)
14. Cardoso R.C., Ferrando A.A Review of Agent-Based Programming for Multi-Agent Systems. Computers. 2021;10(2):16.
15. Abdalla R., Mishra A. Agent-Oriented Software Engineering Methodologies: Analysis and Future Directions. Complexity. 2021;(11):1-21. Article ID:1629419.
16. Jazayeri A., Bass E.J. Agent-Oriented Methodologies Evaluation Frameworks: A Review. International Journal of Software Engineering and Knowledge Engineering. 2020;30(9):1337-1370.
17. Spitsina I.A., Krochin A.L., Aksyonov K.A., Aksyonova O.P. Survey of Present System Engineering Multi-Agent Based Methods. Development and Application. Proceedings of the Second International Workshop on Radio Electronics & Information Technologies. Ekaterinburg, Russia, 2017:137-144.
18. Wrona Z., Buchwald W., Ganzha M. et al. Overview of Software Agent Platforms Available in 2023. Information. 2023;14(6):348.
19. Kravari K., Bassiliades N. A Survey of Agent Platforms. Journal of Artificial Societies and Social Simulation. 2015;18(1): 1-11.
20. Rendon T., Sànchez-Marrè M. A review on multi-agent platforms and environmental decision support systems simulation tools. Research report. 2006:22.
21. Botti V., Omicini A., Mariani S. (eds.). Multi-Agent Systems. Applied Sciences Special Issue. Basel, Switzerland: Mdpi AG, 2019:392.
22. Dorri A., Kanhere S.S., Jurdak R. Multi-Agent Systems: A Survey. IEEE Access. 2018;6:28573-28593.
23. Cossentino M., Hilaire V., Molesini A., Seidita V. (eds.). Handbook on Agent-Oriented Design Processes. Springer-Verlag Berlin Heidelberg, 2014:569.
24. Masloboev A.V. Hybrid architecture of an intelligent agent with a simulation device. VestnikMGTU: TrudyMur-manskogo gosudarstvennogo tekhnicheskogo universiteta = Bulletin of the Moscow State Technical University: Proceedings of the Murmansk State Technical University. 2009;12(1):113-124. (In Russ.)
25. Masloboev A.V., Putilov V.A. Development and implementation of information security management mechanisms for mobile agents in distributed multi-agent information systems. Vestnik MGTU: Trudy Murmanskogo gosudarstvennogo tekhnicheskogo universiteta = Bulletin of the Moscow State Technical University: Proceedings of the Murmansk State Technical University. 2010;13(4/2):1015-1032. (In Russ.)
26. Masloboev A.V., Putilov V.A. Multi-agent environment for modeling regional security management processes: principles of construction and elements of automation. Avtomatizatsiya protsessov upravleniya = Automation of management processes. 2018;(1):4-13. (In Russ.)
27. Masloboev A.V. Means of supporting the interoperability of network-centric regional security management systems. Nadezhnost' i kachestvo slozhnykh system = Reliability and quality of complex systems. 2020;(1):91-105. (In Russ.)
Информация об авторах / Information about the authors
Андрей Владимирович Маслобоев
доктор технических наук, доцент, ведущий научный сотрудник лаборатории информационных технологий управления промышленно-природными системами, Институт информатики и математического моделирования имени В. А. Путилова Федерального исследовательского центра «Кольский научный центр Российской академии наук» (Россия, г. Апатиты, ул. Ферсмана, 14) E-mail: masloboev@iimm.ru
Andrey V. Masloboev
Doctor of technical sciences, associate professor, leading researcher of the laboratory of information technologies for industrial-natural system management, Putilov Institute for Informatics and Mathematical Modeling
of the Federal Research Centre "Kola Science Centre of the Russian Academy of Sciences" (14 Fersmana street, Apatity, Russia)
Автор заявляет об отсутствии конфликта интересов / The author declares no conflicts of interests.
Поступила в редакцию/Received 05.12.2023 Поступила после рецензирования/Revised 12.01.2024 Принята к публикации/Accepted 12.02.2024
