Анализ надежности работы многоагентных систем с использованием графовой модели Текст научной статьи по специальности «Компьютерные и информационные науки»

Оригинальная статья / Original article УДК 004.89

DOI: 10.21285/1814-3520-2017-1-72-80

АНАЛИЗ НАДЕЖНОСТИ РАБОТЫ МНОГОАГЕНТНЫХ СИСТЕМ С ИСПОЛЬЗОВАНИЕМ ГРАФОВОЙ МОДЕЛИ

1 9

© Л.В. Массель1, В.И. Гальперов2

1Институт систем энергетики им. Л.А. Мелентьева СО РАН, Российская Федерация, 664033, г. Иркутск, ул. Лермонтова, 130. 1,2Иркутский национальный исследовательский технический университет, Российская Федерация, 664074, г. Иркутск, ул. Лермонтова, 83.

РЕЗЮМЕ. ЦЕЛЬ. Рассматривается предлагаемый авторами подход к оценке надежности работы многоагентных систем на основе теории графов, показано его применение на реальных примерах использования авторской мно-гоагентной системы «EstateMAS». МЕТОДЫ. Для решения поставленных задач использовались теория и методы оценивания состояния электроэнергетических систем (ЭЭС), методы теории графов, методы теории вероятности и математической статистики, методы искусственного интеллекта, методы объектного проектирования и программирования, многоагентные технологии. РЕЗУЛЬТАТЫ И ИХ ОБСУЖДЕНИЕ. В настоящее время существует небольшое количество платформ, поддерживающих реализацию многоагентных систем (МАС), тем более ощущается недостаток подобных платформ, ориентированных на применение в энергетике. Эта задача обусловливает необходимость создания проблемно-ориентированного методического подхода к разработке многоагентных систем в области энергетики. Авторами в предыдущих работах был предложен и описан такой подход к построению многоагентных систем. На основе этого подхода реализована МАС «EstateMAS» для распределенного оценивания состояния электроэнергетических систем. После построения многоагентной системы необходимо провести оценку ее надежности, в связи с чем авторами предложена методика анализа надежности работы МАС, включающая следующие этапы: построение графа агентных взаимодействий и матрицы смежности для этого графа, определение степеней вершин, их ранжирование, выявление критичных агентов и формулирование рекомендаций по повышению их надежности. ВЫВОДЫ. Предложена методика для оценки надежности работы многоагентных систем и выявления критических важных агентов, основанная на теории графов. Методика апробирована на примерах разных конфигураций МАС. Выявлены критичные агенты и сформулированы рекомендации по повышению их надежности.

Ключевые слова: многоагентные системы, оценка надежности, теория графов, оценивание состояний ЭЭС, агентные сценарии.

Формат цитирования: Массель Л.В., Гальперов В.И. Анализ надежности работы многоагентных систем с использованием графовой модели // Вестник Иркутского государственного технического университета. 2017. Т. 21. № 1. С. 72-80. DOI: 10.21285/1814-3520-2017-1-72-80

MULTI-AGENT SYSTEM OPERATION RELIABILITY ANALYSIS BASED ON A GRAPH MODEL L.V. Massel, V.I. Galperov

Melentiev Energy Systems Institute SB RAS,

130, Lermontov St., Irkutsk, 664033, Russian Federation.

Irkutsk National Research Technical University,

83, Lermontov St., Irkutsk, 664074, Russian Federation.

ABSTRACT. PURPOSE. The article deals with the proposed by the authors approach to the reliability assessment of multi-agent system operation based on the graph theory. Its application is demonstrated on the real-world examples of using an author's multi-agent system «EstateMAS». METHODS. The set goals are solved through the use of the theory and methods of electric power system (EPS) state estimation, graph theory methods, probability theory and mathematical statistics methods, artificial intelligence techniques, object design and programming methods and multiagent technologies. RESULTS AND THEIR DISCUSSION. Today there are very few platforms that support the implementation of multi-agent systems (MAS). Moreover, there is lack of similar platforms designed to be used in the energy sector. In view of

1

Массель Людмила Васильевна, доктор технических наук ИСЭМ СО РАН, профессор кафедры автоматизированных систем Института кибернетики ИРНИТУ, e-mail: massel@isem.irk.ru Lyudmila V. Massel, Doctor of technical sciences ESI SB RAS, Professor of the Department of Automated Systems of the Cybernetics Institute of IrNRTU, e-mail: massel@isem.irk.ru

2Гальперов Василий Ильич, аспирант, инженер, e-mail: galperov@gmail.com Vasiliy I. Galperov, Postgraduate Student, Engineer, e-mail: galperov@gmail.com

this, a methodical approach is proposed for the development of multi-agent systems in the field of the energy sector. In previous works the authors proposed and described such approach to the construction of multi-agent systems. On the basis of this approach a MAS «EstateMAS» has been implemented for the distributed estimation of electric power system (EPS) state. After the construction of a multi-agent system it is necessary to assess its reliability. For this purpose, the authors have proposed the analysis methodology of MAS reliability estimation that includes the following steps: construction of a graph of agent interactions and its incidence matrix, determination of vertices degrees, their ranking, identification of critical agents and formulation of recommendations in order to improve their reliability. MAIN CONCLUSIONS. A graph theory-based methodology is proposed for the assessment of multi-agent system operation reliability and identification of critical agents. The methodology has been tested on examples of various MAS configurations. Critical agents are identified and recommendations are given to improve their reliability.

Keywords: multi-agent systems (MAS), reliability assessment, graph theory, EPS state assessment, agent scenarios

For citation: Massel L.V., Galperov V.I. Multi-agent system operation reliability analysis based on a graph model // Proceedings of Irkutsk State Technical University. 2017, vol. 21, no. 1, pp. 72-80. (In Russian) DOI: 10.21285/1814-3520-2017-1 -72-80

Введение

Многоагентные технологии являются перспективным направлением для разработки сложных адаптивных распределенных систем промышленного уровня. Привлекательными для многоагентных технологий до настоящего времени являлись задачи коллективной робототехники, однако можно указать и ряд других классов приложений, для которых многоагентная парадигма применима, например, для приложений управляющих сложными объектами сетевой структуры в таких сферах, как транспорт, производство, здравоохранение и энергетика [1]. Одним из многообещающих направлений исследований по созданию самовосстанавливающихся энергетических систем является разработка муль-тиагентных интеллектуальных систем управления для разных уровней на основе теории группового управления.

К сожалению, в отношении много-агентных технологий пока нет четких методов разработки и алгоритмов функционирования. Основные достижения в этой области пока ориентированы на аспекты теоретической реализации, а количество практических реализаций не очень велико.

В работе [2] авторами был предложен методический подход для построения многоагентных систем в энергетике. На основе этого подхода и была реализована многоагентная система оценивания состояний ЭЭС «Е81а1еМД8» [3].

Данная статья посвящена предлагаемому подходу к оценке надежности МАС с использованием графовой модели, с учетом апробации работы МАС «Е81а1еМД8» на реальных примерах, с использованием двух агентных сценариев.

Методы, результаты и их обсуждение

Многоагентная система

«EstateMAS» для оценивания состояний электроэнергетических систем. На

рис. 1 приведена общая архитектура мно-гоагентной системы для оценивания состояния ЭЭС. В настоящее время разработаны все агенты МАС, а именно: главный модуль; агент декомпозиции исходных данных, содержащих непроверенную информацию о текущем режиме по уровням напряжения; агенты оценивания состояния, кооперации и агрегирования. В главном модуле реализован также пользователь-

ский интерфейс.

Ранее (до разработки

МАС «EstateMAS») задача оценивания состояния решалась с помощью программно-вычислительного комплекса (ПВК) «Оценка-ПК» только для отдельных подсистем (сейчас этот ПВК перешел в категорию унаследованного программного обеспечения (ПО)). В ПВК не предусматривались задание и смена сценариев, операции декомпозиции и координации, которые в МАС «EstateMAS» реализованы и автоматизированы.

Рис. 1. Архитектура многоагентной системы «EstateMAS» для оценивания состояния ЭЭС Fig. 1. Architecture of a multi-agent system «EstateMAS» for EPS state estimation

Использование МАС при декомпозиции задачи оценивания состояния (ОС) обеспечивает возможность проводить расчет отдельных подсистем параллельно друг другу, что на системах с большим количеством узлов позволяет ускорить процесс обработки данных, однако это требует решения координационной задачи, что может привести к дополнительным итерациям расчета. Благодаря агентным сценариям [4] пользователь может редактировать алгоритм, что обеспечивает более гибкий подход к решению задачи.

Предлагаемый подход к оценке надежности МАС. Для функционирования многоагентной системы необходимо, чтобы все ее составляющие работали исправно. Выход из строя одного или нескольких агентов может повлиять как на быстродействие системы, так и полностью вывести ее из строя. Решением данной проблемы может быть введение в систему резервных агентов, которые смогут заменить вышедших из строя. Подобное решение эффективно, но при этом используются дополнительные мощности, что может пагубно повлиять на быстродействие системы. Таким образом, необходимо выявить критически важных агентов, выход из строя которых приведет к максимальному ущербу, и принять меры по повышению надежности их

работы.

Существующие методики обеспечения отказоустойчивости многоагентных систем (МАС) Brokered MAS [5], DARX [6], Meta-Agent [7] и работа [8] основаны на избыточности агентов или избыточности агентов и некоторых задач. Такие методики подтверждают возможность повышения уровня надежности многоагентных систем, то есть снижения количества отказов, только экспериментально [9]. Авторами предлагается методика оценки надежности МАС, основанная на теории графов, позволяющая в краткие сроки определить критически важных для функционирования МАС агентов без проведения натурных экспериментов.

Для оценки надежности МАС предлагается методика, включающая семь этапов:

1. Построение графа агентных взаимодействий.

2. Анализ структуры графа.

3. Использование методов описания графа (например, построение матрицы смежности для этого графа).

4. Определение степеней вершин на основе определения степеней захода и исхода.

5. Выделение вершин с наибольшей степенью.

6. Выявление критически важных для функционирования МАС агентов.

7. Формулирование рекомендаций по повышению надежности этих агентов.

Более подробно описание и применение данной методики рассмотрено в следующем разделе на примерах численных экспериментов.

Апробация МАС «EstateMAS» и оценка надежности функционирования МАС. Апробация МАС была выполнена на

двух примерах, первый - схема ЭЭС «Московское кольцо» [10, 11], графически схема изображена на рис. 2.

Была выполнена декомпозиция схемы по уровням напряжения. Первая группа включала в себя узлы с напряжением от 750 кВ и выше, вторая группа состояла из узлов с напряжением от 500 кВ и ниже. В каждую группу также попадают граничные узлы и связи. Результаты декомпозиции представлены графически на рис. 3.

Рис. 2. Схема 33C «Московское кольцо» Fig. 2. «Moscow ring» EPS scheme

Рис. 3. Схема «Московское кольцо» после декомпозиции Fig. 3. «Moscow ring» scheme after decomposition

Для сравнения выполнен расчет полной схемы и получившихся подсистем. Результаты расчетов в ПВК «Оценка-ПК» показаны в табл. 1 (выделены значения в граничных узлах), где U - напряжение, кВ; 6 - фазовый угол, град. Была решена задача координации значений в граничных узлах, после чего повторно проведено оценивание состояний с корректированными значениями, поэтому разница между показателями минимальна, не превышает установленную в агенте координации погрешность.

Результаты расчетов Calculation results

Для оценки надежности работы МАС была применена вышеприведенная методика. Построен граф агентных взаимодействий (рис. 4), в котором агенты сопоставлены с вершинами: Дтт - главный модуль, ДЬ - агент декомпозиции, Де81 - агенты оценивания состояния, Дсоор - агент координации, Дадг - агент агрегирования. Вершины соединяются дугами, причем дуга из Д1 идет в Д| только в том случае, если агент Д1 обращается к агенту Д|.

Таблица 1 Table 1

Номер узла / Node number Измеренное напряжение, кВ / Measured voltage, kV Оцененные значения / Estimated values

Полная схема / Full scheme Полная схема / Full scheme Первая подсистема / First subsystem Вторая подсистема / Second subsystem

U 6 U 6 U 6

5 752,7 747 -5,85 746,63 -5,42 746,65 -5,44

6 509 517,5 -7,03 517,72 -7,71 517,8 -7,73

7 500 502 -9,39 - - 502,41 -8,77

11 500 505 -10,14 - - 505,34 -9,24

22 500 498 -9,03 - - 498,055 -9,79

32 500 497 -6,71 - - 496,775 -6,47

41 500 512 -6,16 - - 511,595 -6,08

56 500 515 -6 - - 515,125 -5,36

101 500 515 -6,08 - - 514,98 -5,84

326 750 741 -11,08 740,64 -10,29 - -

453 510,3 512 -7,06 512,045 -6,92 512,029 -6,92

454 740 740 -4,8 740,35 -4,36 740,35 -4,36

473 750 753 -0,01 753,26 -0,04 - -

Fig. 4. Graph of agent interactions

Построим матрицу смежности для этого графа (табл. 2). Пользуясь свойствами матриц смежности, можно найти степень вершин Р(а)=Р*(а)+Р/(а), где Р1+(а) - полустепень захода (показатель входящих связей); Р/(а) - полустепень исхода:

Р

j=i

; (a) = X 4ij ; i=1

где м - количество вершин.

qij =

1, если из вершины / идет дуга к вершине у; 0, если из вершины / нет дуги к вершине у.

Степени вершин приведены в табл.3.

Отсюда следует, что наибольшую степень имеют (наиболее часто взаимодействуют с другими агентами) агенты Асоор, Атт, АЬ, что необходимо учесть при оценке надежности и отказоустойчивости системы, а также при запуске

резервных агентов.

Проведен также более обширный эксперимент, основанный на данных по системе Красноярскэнерго, состоящей из 111 узлов и 176 связей. Схема здесь не приводится из-за ее больших размеров. Исходная система была разделена на две подсистемы по 27 (включая 11 граничных узлов из другой подсистемы) и 95 узлов (включая 12 граничных узлов из другой подсистемы). Всего выделено 23 граничных узла, в которые были установлены (программно) датчики РМи. Поскольку значения узловых напряжений (данные от РМи) в граничных узлах принимаются точными, далее расчет идет относительно этого условия. Таким образом, мы можем исключить агента координации из алгоритма ОС. В итоге расчетные значения обеих подсистем и общей схемы получились идентичными, и нет необходимости вносить корректировки в значения в граничных узлах. Из-за большой размерности таблицы численных результатов они здесь полностью не приводятся.

Матрица смежности для графа Vertex incidence matrix for the graph

Таблица 2 Table 2

Вершина I Vertice Amm Ad Aes1 Aes2 Aes3 Acoop Aagr Pj-(a)

Amm G 1 G G G G G 1

Ad 1 G 1 1 1 G G 4

Aes1 1 G G G G 1 G 2

Aes2 1 G G G G 1 G 2

Aes3 1 G G G G 1 G 2

Acoop 1 G 1 1 1 G 1 5

Aagr 1 G G G G G G 1

Pi+(a) 6 1 2 2 2 3 1 -

Степени вершин Vertice ranks

Таблица 3 Table 3

a Amm Ad Aes1 Aes2 Aes3 Acoop Aagr

P(a) 7 5 4 4 4 8 1

m

m

Для этого примера также были построены граф агентных взаимодействий (рис. 5), матрица смежности (табл. 4), а также были определены степени вершин (табл. 5). Выявлено, что наибольшую степень имеют агенты Дтт (главный модуль) и ДЬ (агент декомпозиции).

Следует заметить, что могут быть использованы и другие подходы к описанию и анализу графа, например, в [12] рассматривается степень близости вершин. Это может быть учтено при дальнейшем

развитии предлагаемого подхода.

После выявления наиболее критичных агентов могут быть предложены меры по повышению их надежности. На данный момент наиболее доступное решение - резервирование (дублирование) критичных агентов. В принципе, для повышения надежности работы агентов могут быть использованы и другие рекомендации по повышению надежности программного обеспечения [13].

Ad

Рис. 5. Граф агентных взаимодействий Fig. 5. Graph of agent interactions

Таблица 4

Матрица смежности для графа

Table 4

Vertex incidence matrix for the graph_

Вершина / Vertice Amm Ad Aes1 Aes2 Aes3 Aagr Pj-(a)

Amm 0 1 0 0 0 0 1

Ad 1 0 1 1 1 0 4

Aes1 1 0 0 0 0 1 2

Aes2 1 0 0 0 0 1 2

Aes3 1 0 0 0 0 1 2

Aagr 1 0 0 0 0 0 1

Pi+(a) 5 1 1 1 1 3 -

Таблица 5

Степени вершин

Table 5

Vertice ranks

a Amm Ad Aes1 Aes2 Aes3 Aagr

P(a) 6 5 3 3 3 4

Результаты работы

На основе авторского методического подхода были выполнены проектирование и реализация многоагентной системы оценивания состояний ЭЭС «Е81а1еМАБ». В данной статье предложена методика по оценке надежности работы многоагентных систем и выявлению критически важных агентов, основанная на теории графов. Проведены вычислительные эксперименты по оцениванию состояний ЭЭС «Московское кольцо» и ЭЭС г. Красноярска. Выполнено сравнение результатов расчета основной схемы и схем, полученных после

декомпозиции, подтверждена корректность алгоритма работы МАС «Е81а1еМАБ» [10, 11]. Для этих примеров применена методика оценки надежности работы МАС: построены графы агентных взаимодействий, получена матрица смежности, определены степени вершин, выявлены критичные агенты и сформулированы рекомендации по повышению их надежности.

Результаты получены при частичной финансовой поддержке грантов РФФИ: проекты № 16-07-00474, № 16-0700569, № 15-07-01284.

1. Городецкий В.И., Скобелев П.О., Бухвалов О.Л. Промышленные применения многоагентных систем: прогнозы и реалии // Проблемы управления и моделирования в сложных системах: труды XVIII Между-нар. конф. Самара: Изд-во ООО «Офорт», 2016. С. 137-162.

2. Массель Л.В., Гальперов В.И. Разработка многоагентной системы оценивания состояний электроэнергетических систем с использованием событийных моделей // Наука и образование. МГТУ им. Баумана. 2015. № 9. С. 200-214. DOI: 10.7463/ 0915. 0811180.

3. Массель Л.В., Гальперов В.И. Проектирование и разработка многоагентной системы оценивания состояний ЭЭС // Вестник ИрГТУ. 2015. № 10 (105). С. 27-33.

4. Гальперов В.И. Методика построения многоагентных систем с использованием Joiner-сетей для описания сценариев взаимодействия агентов // Системные исследования в энергетике: труды молодых ученых ИСЭМ СО РАН. Иркутск: Изд-во ИСЭМ СО РАН, 2015. Вып. 45. С. 153-160.

5. Kumar S., Cohen P.R. Towards a fault-tolerant multiagent system architecture. In: Proceedings of the Fourth International Conference on Autonomous Agents. ACM, 2000, pp. 459-466. DOI:10.1145/336595.337570

6. Guessoum Z., Briot J.P., Faci N. Towards Fault-Tolerant Massively Multiagent Systems. In: Massively Multi-Agent Systems I. Springer Berlin Heidelberg, 2005. P. 55-69. (Ser. Lecture Notes in Computer Science; vol. 3446). DOI: 10.1007/11512073_5

7. Serugendo G.D.M., Romanovsky A. Designing Fault-Tolerant Mobile Systems. In: Scientific Engineering for

шй список

Distributed Java Applications. Springer Berlin Heidelberg, 2003. P. 185-201. (Ser. Lecture Notes in Computer Science; vol. 2604). DOI: 10.1007/3-540-36520-6_17

8. Mellouli S. A Reorganization Strategy to Build Fault-Tolerant Multi-Agent Systems. In: Advances in Artificial Intelligence. Springer Berlin Heidelberg, 2007. P. 61-72. (Ser. Lecture Notes in Computer Science; vol. 4509). DOI: 10.1007/978-3-540-72665-4_6

9. Игумнов А.В., Сараджишвили С.Э. Оценка надежности резервированных многоагентных систем // Наука и образование. МГТУ им. Баумана. 2014. № 1. С. 83-114. DOI: 10.7463/0114.0696290

10. Гальперов В.И. Методика построения многоагентных систем с использованием Joiner-сетей для описания сценариев взаимодействия агентов // Системные исследования в энергетике: труды молодых ученых ИСЭМ СО РАН. Иркутск: Изд-во ИСЭМ СО РАН, 2015. Вып. 45. С. 153-160.

11. Гальперов. В.И. Применение многоагентного подхода для разработки программных систем оценивания состояния ЭЭС. // Системные исследования в энергетике: труды молодых ученых ИСЭМ СО РАН. Иркутск: Изд-во ИСЭМ СО РАН, 2014. Вып. 44. С. 165-170.

12. Лифшиц Ю. Структура сложных сетей [Электронный ресурс] // Алгоритмы для Интернета: курс. URL: http://logic.pdmi.ras.ru/~yura/internet/04ianote.pdf (13 ноября 2016).

13. Мальков М.В. О надежности информационных систем // Труды Кольского научного центра РАН. Апатиты: КНЦ РАН, 2012. Т. 3. № 4. С. 49-58.

References

1. Gorodetskii V.I., Skobelev P.O., Bukhvalov O.L. Promyshlennye primeneniya mnogoagentnykh sistem: prognozy i realii [Industrial applications of multi-agent systems: forecasts and realities]. Trudy XVIII Mezhdu-

narodnoi konferentsii "Problemy upravleniya i modeliro-vaniya v slozhnykh sistemakh" [Proceedings of XVIII International Conference "Control and modeling problems in complex systems"]. Samara, OOO "Ofort" Publ.,

2016, pp. 137-162. (In Russian)

2. Massel' L.V., Gal'perov V.I. Razrabotka mnog-oagentnoi sistemy otsenivaniya sostoyanii elektroener-geticheskikh sistem s ispol'zovaniem sobytiinykh modelei [Development of a multi-agent system for EPS state estimation using event models]. Nauka i obrazovanie. MGTU im. Baumana [Science and education. MSTU named after Bauman]. 2015, no. 9, pp. 200-214. (In Russian) DOI: 10.7463/ 0915. 0811180

3. Massel' L.V., Gal'perov V.I. Proektirovanie i razrabot-ka mnogoagentnoi sistemy otsenivaniya sostoyanii EES [Design and development of a multi-agent system for electrical power system state estimation]. Vestnik IrGTU [Proceedings of Irkutsk State Technical University]. 2015, no. 10 (105), pp. 27-33. (In Russian)

4. Gal'perov V.I. Metodika postroeniya mnog-oagentnykh sistem s ispol'zovaniem Joiner-setei dlya opisaniya stsenariev vzaimodeistviya agentov [A method for constructing multi-agent systems using Joiner networks to describe agent interaction scenarios]. Trudy molodykh uchenykh ISEM SO RAN "Sistemnye issle-dovaniya v energetike" [Proceedings of ESI SB RAS young scientists "System researches in energy sector"]. Irkutsk, ISEM SO RAN Publ., 2015, vol. 45, pp. 153-160. (In Russian)

5. Kumar S., Cohen P.R. Towards a fault-tolerant multiagent system architecture. In: Proceedings of the Fourth International Conference on Autonomous Agents. ACM, 2000, pp. 459-466. DOI:10.1145/336595.337570

6. Guessoum Z., Briot J.P., Faci N. Towards Fault-Tolerant Massively Multiagent Systems. In: Massively Multi-Agent Systems I. Springer Berlin Heidelberg, 2005, pp. 55-69. (Ser. Lecture Notes in Computer Science; vol. 3446). DOI: 10.1007/11512073_5

7. Serugendo G.D.M., Romanovsky A. Designing Fault-Tolerant Mobile Systems. In: Scientific Engineering for Distributed Java Applications. Springer Berlin Heidelberg, 2003, pp. 185-201. (Ser. Lecture Notes in Computer Science; vol. 2604). DOI: 10.1007/3-540-36520-6_17

8. Mellouli S. A Reorganization Strategy to Build Fault-

Критерии авторства

Массель Л.В, Гальперов В.И. рассмотрели подход к анализу надежности работы многоагентных систем, провели обобщение и написали рукопись. Массель Л.В, Гальперов В.И. имеют равные авторские права и несут равную ответственность за плагиат.

Конфликт интересов

Авторы заявляют об отсутствии конфликта интересов.

Статья поступила 20.10.2016 г.

Tolerant Multi-Agent Systems. In: Advances in Artificial Intelligence. Springer Berlin Heidelberg, 2007, pp. 61-72. (Ser. Lecture Notes in Computer Science; vol. 4509). DOI: 10.1007/978-3-540-72665-4_6

9. Igumnov A.V., Saradzhishvili S.E. Otsenka nadezh-nosti rezervirovannykh mnogoagentnykh sistem [Reliability evaluation of redundant multi-agent systems]. Nauka i obrazovanie. MGTU im. Baumana [Science and education. MSTU named after Bauman]. 2014, no. 1, pp. 83-114. (In Russian) DOI: 10.7463/0114.0696290

10. Gal'perov V.I. Metodika postroeniya mnog-oagentnykh sistem s ispol'zovaniem Joiner-setei dlya opisaniya stsenariev vzaimodeistviya agentov [A method for constructing multi-agent systems using Joiner-network scenarios to describe agent interaction]. Trudy molodykh uchenykh ISEM SO RAN "Sistemnye issle-dovaniya v energetike" [Proceedings of ESI SB RAS young scientists "System researches in energy sector"]. Irkutsk, ISEM SO RAN Publ., 2015, vol. 45, pp. 153-160. (In Russian)

11. Gal'perov. V.I. Primenenie mnogoagentnogo pod-khoda dlya razrabotki programmnykh sistem otsenivaniya sostoyaniya EES [Application of a multiagent approach for the development of software systems for EPS state estimation]. Trudy molodykh uchenykh ISEM SO RAN "Sistemnye issledovaniya v energetike" [Proceedings of ESI SB RAS young scientists "System researches in energy sector"]. Irkutsk, ISEM SO RAN Publ., 2014, vol. 44, pp. 165-170. (In Russian)

12. Lifshits Yu. Struktura slozhnykh setei [Complex network structure]. In: Algoritmy dlya Interneta [In: Internet Algorithms]. Available at: http://logic.pdmi.ras.ru/~yura/internet/04ianote.pdf (accessed 13 November 2016).

13. Mal'kov M.V. O nadezhnosti informatsionnykh sistem [On the reliability of information systems]. In: Trudy Kol'skogo nauchnogo tsentra RAN [Proceedings of the Kola Scientific Center RAS]. Apatity, KNTs RAN Publ., 2012, vol. 3, no. 4, pp. 49-58. (In Russian)

Authorship criteria

Massel L.V, Galperov V.I. considered an approach to the reliability analysis of multi-agent system operation, summarized the material and wrote the manuscript. Massel L.V., Galperov V.I. have equal author's rights and bear equal responsibility for plagiarism.

Conflict of interests

The authors declare that there is no conflict of interest regarding the publication of this article.

The article was received 20 October 2016