CC BY
72
УДК 681.5
АКТИВНАЯ НЕЙРОСЕТЕВАЯ МОДЕЛЬ УПРАВЛЕНИЯ КРИТИЧЕСКИМИ ОБЪЕКТАМИ
Е.М. Васильев, Р.А. Говоров
Решается задача построения нейросетевой модели управления объектами в критических режимах их функционирования. На примере решения этой задачи для системы принятия решений в электрической распределительной сети показана возможность построения активных нейросетей на базе принципов многоальтернативности
Ключевые слова: система принятия решений, принципы многоальтернативности, активная нейросеть
1. Введение
Принятие решений в системах управления критическими объектами, нарушение нормального функционирования которых наносит значительный ущерб экономике и обществу, предполагает высокую степень соответствия принимаемого решения текущему состоянию объекта [1-3]. Обеспечение этого соответствия путём создания автоматизированных систем интеллектуального управления предусматривает [4]:
накопление фактических данных об объекте управления и установление на основе этих данных причинно-следственных взаимосвязей его состояния с параметрами внешней среды;
обобщение полученной информации и формирование общей модели управления, позволяющей принимать решения не только в известных, но и в ранее не встречавшихся ситуациях.
непосредственное применение построенной модели для выработки решения по текущему состоянию объекта.
Диалектическая необходимость указанных гносеологических и репродуктивных задач объективно свидетельствует о существовании биологических прототипов, процессы в которых, в соответствии с основной идеей кибернетики [5,6], могут быть использованы для построения формальных систем управления и принятия решений.
Таким прототипом является процесс нервной деятельности живых организмов, в результате которого у животных накапливается набор приобретённых рефлексов, обеспечивающих адекватную реакцию организма на изменяющиеся условия среды обитания. Более того, эволюционный механизм естественного отбора закрепляет наиболее важные генетические изменения в наследуемые формы [7]. Материальные носители этого процесса образуют нервную систему, которая, по современным представлениям [8], может рассматриваться как совокупность нейронов - нейросеть.
Теория искусственных нейронных сетей со времени первой публикации 1943 года [9,10] развивалась по пути всё более детального воспроизведения физиологических особенностей работы отдель-
Васильев Евгений Михайлович - ВГТУ, канд. техн. наук, ст. науч. сотрудник, e-mail: [email protected] Говоров Роман Александрович - ВГТУ, студент, тел. (473) 243-77-76, e-mail: [email protected]
ных нейронов и их взаимосвязей. Однако успехи в этом направлении следует признать весьма скромными не только в практических приложениях, но и в плане построения общей нейронной модели деятельности мозга именно в силу излишней детализации этой деятельности без осмысления работы нервной системы в целом [11,12].
В предлагаемой работе рассматривается построение нейросетевой модели управления на основе достаточного общих эволюционных принципов организации её функционирования - принципов многоальтернативности, изложенных в работах [1315]. Обращение к этим принципам основано на том, что сам факт формирования нервной системы у высших организмов является необходимой предпосылкой их эволюционного приспособления к многообразию условий внешней среды, в отличие от простейших животных, среда обитания которых ограничена узкой экологической нишей. Можно заметить, что адаптационная гибкость поведения высших организмов, приобретаемая благодаря наличию нервной системы, является, по существу, следствием непрерывной череды принимаемых ими решений в критических условиях или ситуациях, угрожающих их существованию.
Для предметного сопоставления известного и многоальтернативного подходов к построению искусственных нейросетей в статье используется демонстрационная задача технического содержания, которую можно рассматривать также как частный случай информационной системы [16].
2. Техническое содержание задачи
В качестве демонстрационного примера рассмотрим распределительную электрическую сеть, состоящую из входной высоковольтной подстанции и тридцати трансформаторных подстанций низкого напряжения, рис. 1 [17].
Примем, что кабели передачи электроэнергии, обозначенные штриховыми линиями, являются резервными и подключаются к системе при возникновении критических событий: перегрузках или выходе из строя основных питающих кабелей.
Для данной системы электроснабжения можно поставить задачу разработки нейросетевой модели приятия решений, обеспечивающей, при возникновении критического события, подачу команды на подключение соответствующей резервной линии.
Небольшая размерность поставленной задачи, определяемая числом подстанций п=30, позволяет
составить полный перечень критических ситуации и необходимых управлений и количественно анализировать работоспособность построенных вариантов нейросети при сокращении обучающей выборки, а
1
также при одновременном возникновении нескольких критических событий. Номера этих событий с указанием номеров подстанций, соединяемых отказавшей линией, представлены в табл. 1.
Входная подстан-
Рис. 1. Конфигурация рассматриваемой электрической сети
Множество критических событий
Таблица 1
Номер события 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30
Номера подстанций 01 12 23 34 38 89 87 76 65 026 2627 2722 2328 2829 2930 2322 2221 2120 2019 010 1016 1618 1817 1815 1511 1112 1213 1314 2724 2425
3. Построение пассивной нейросети
В классическом виде нейросеть представляется
функционалом [18,19]:
( (
У} N (Х) = Р
IЬ
] N
•Р
IЬ
,2 02
1гЗг
\
\
(1)
Х- •
+ с. ) +с .
Л Л
+...+ с.
] N
х Р (I Ьц
401
в котором Ь, с - векторы настраиваемых параметров (весовых коэффициентов); г - номер слоя сети; ]г -номер нейрона в слое г; 1г - номер входа в нейрон; N - количество слоёв сети; х, у - векторы входных и выходных переменных сети; Х - элемент / векто-
1гЗ г
ра х, подаваемый на нейрон ] в слое г; Е(Ь,с,х) -функция активации нейронов, например, сигмои-дального вида:
Р(Ь, с,х) =-1— + с . (2)
1 + е
Один слой такой сети без обратных связей (сеть прямого распространения сигналов) показан на рис. 2, содержание которого позволяет отнести сети такого рода к классу пассивных сетей в силу неизменности своей структуры в процессе обучения, заключающемся только в параметрической настройке весовых коэффициентов Ь и с.
Рис. 2. Слой пассивной нейросети
Для данной задачи была использована двухслойная сеть с тридцатью входами, десятью нейро-
х
нами в первом слое и одиннадцатью выходами, т.е. N =2, |х| = п =30, у| = т =11.
Обучающая выборка представляет собою перечень из 1=30 критических ситуаций (событий), характеризующихся, как было указано выше, отключением нескольких подстанций из-за перегрузки или выходе из строя основных питающих линий.
Фрагмент обучающей выборки в
Фрагмент обучающей выборки представлен в табл. 2, полное число строк в которой равно количеству возможных критических событий, т.е. числу основных линий, а число столбцов - количеству подстанций. Единица в ячейке у означает, что при возникновении критического события / подстанция с номером у будет обесточена.
Таблица 2
матрицы критических событий
№ события Номера обесточенных подстанций
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30
1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
2 0 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
3 0 0 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
4 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
5 0 0 0 0 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
29 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0
30 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0
Нумерация резервных линий приведена в табл. 3; перечень принимаемых решений (матрица решающих правил) - в табл. 4
Таблица 3
Нумерация резервных линий
Номер 1 2 3 4 5 6 7 8 9 10 11
линии
Номера под- 4- 7- 0- 5- 11- 17- 19- 0- 30- 9- 20-
станций 9 11 5 17 14 19 26 30 26 12 25
Обучение нейросети осуществлялось методом обратного распространения ошибки и заключалось в предъявлении тридцати векторов критических ситуаций х и соответствующих решений у, необходимых для восстановления работоспособности сети. Кроме того, в опытах 2...13 (табл.5) с целью оценки обобщающих свойств нейросети обучение проводилось по неполным выборкам, и при проверке для распознавания предъявлялись ситуации, не участвующие при обучении. С этой же целью в сеть, обученную по полному набору одиночных отказов, вводились одновременные отказы двух основных линий (табл. 6).
Таблица 4 Фрагмент матрицы решающих правил
№ события Номера резервных линий
1 2 3 4 5 6 7 8 9 10 11
1 0 0 1 0 0 0 0 0 0 0 0
2 0 0 1 0 0 0 0 0 0 0 0
3 0 0 1 0 0 0 0 0 0 0 0
4 1 0 0 0 0 0 0 0 0 0 0
5 0 0 1 0 0 0 0 0 0 0 0
29 0 0 0 0 0 0 0 0 0 0 1
30 0 0 0 0 0 0 0 0 0 0 1
Таблица 5
Результаты исследования одиночных отказов
Ситуации, не Номера
№ вошедшие нераспознанных
опыта в обучающую ситуаций при
выборку проверке сети
1 Нет Нет
2 9 9,20
3 8,9 7,8,9,10,24,25,26
4 7,8,9 8,9,11,26
5 5,7,8,9 5,6,7,8,9,10,11
6 3,5,7,8,9 5,6,7,8,9,10,11
7 2,3,5,7,8,9 1,2,3,5,7,8,9,11
8 22 9,11,22,26
9 21,22 20,21,22
10 15 11
11 14,15 10,11,15
12 13,14,15 11,15
13 12,13,14,15 4,12,15,29,30
Таблица 6
Результаты исследования двойных отказов
Номера ситу- Номера
№ аций, созда- нераспознанных
опыта ваемых при ситуаций при
проверке сети проверке сети
1 1 и 20 1,20
2 1 и 10 1,10
3 10 и 20 10,20
4 24 и 20 24
5 10 и 11 11
Результаты проверки сведены в табл. 5,6 и свидетельствуют о следующем:
из тринадцати вариантов обученных сетей только одна сеть (опыт 1, табл.5) полностью распознала все предъявленные аварийные ситуации, входящие в обучающую выборку;
большинство сетей не распознаёт события, не входящие в обучающую выборку (табл. 5), т.е. пас-
сивные нейросети демонстрируют отсутствие экстраполирующих свойств и полное несоответствие своей структуры структуре критических событий. В частности, в опыте 2, табл.5 не распознаётся ситуация 9, являющаяся частным случаем шести! ситуаций 1,2,3,5,7,8 (см. рис. 1, табл.1,2), все из которых распознаются сетью. Аналогичные результаты показывают опыты 3...7; 8,9; 11___13, табл. 1. Эти факты
свидетельствует об отсутствии обобщающих способностей у полученных сетей;
при одновременном возникновении двух событий, каждое из которых по отдельности распознаётся сетью, во всех опытах (табл. 6) не было получено ни одного полностью верного решения, что говорит о невысоких интерполирующих и избирательных свойствах сети.
В целом, выявленные на тестовой задаче низкие функциональные возможности построенной нейросети не позволяют использовать её в ответственных задачах управления критическими объектами. Попытки изменить конфигурацию сети, число слоёв и количество нейронов, метод обучения - не приводят к существенному улучшению сети из-за её общей, принципиальной ограниченности: сеть не способна к изменению своей структуры при обучении, т.е. пассивна.
Устранение указанной причины возможно при переходе к концепции проектирования сетей на основе эволюционных принципов многоальтернатив-ности: модульности, многоуровневости и разделения функций [13-15], позволяющих строить так называемые активные нейронные сети.
4. Построение активной нейросети
Отмеченная выше неспособность пассивной нейросети к изменению своей структуры приводит к возникновению у искусственных сетей недостатков, совершенно не свойственных их биологическим прототипам [4,12,20], в частности:
проблема переобучения, заключающаяся в том, что обучение нейросети каждому новому входному событию-образу происходит путём изменения всех параметров b и c сети. При этом неизбежно искажаются результаты предшествующего обучения, в то время как в естественных нейросетях элементы памяти обладают высокой избирательностью (селективностью), и характер запоминания носит накопительный характер, практически неограниченный по объёму;
отсутствие обобщающих свойств, устанавливающих между распознаваемыми ситуациями отношения "частное-общее", для чего сеть должна обладать развитой многоуровневой, иерархической структурой;
отсутствие блочности строения искусственных нейросетей, приводящее к быстрому росту числа настраиваемых параметров с увеличением размерности задач, т.е. проявлению "проклятья размерности" при обучении. В биологических нейросетях ограничений на вновь запоминаемую информацию, связанных с её объёмом, накопленным ранее, не наблюдается.
Современные представления о нервной системе как о структурной организации нервных клеток [8,12] свидетельствуют о том, что для биологических нейросетей характерны:
независимое хранение событий нервной деятельности в виде ансамбля связанных нейронов, дифференцированно возбуждаемых только от определённых сенсорных сигналов. Такая независимость исключает возникновение переобучения;
организация нейроансамблей одновременно как в иерархическую, так и в сетевую структуру, связывающую их по различным общим признакам (свойствам) входных сигналов-событий;
активность нейросети, обеспечивающая перестройку структуры связей между ансамблями после каждого факта обучения (формирование нового устойчивого ансамбля и встраивание его в общую структуру сети).
Для реализации указанных свойств в искусственной нейросети предлагается отказаться от попыток имитации работы биологической нервной системы на уровне процессов функционирования элементарных нейронов и перейти к воспроизведению информационной структуры хранения и обработки информации [21].
В качестве такой структуры может быть использован фасетный принцип классификации объектов (от фр. facette - грань), который характеризуется тем, что для каждого события формируется ансамбль (набор) {f,s} признаков-фасетов f совокупность значений s которых определяет собою конкретный объект a(f,s):
аеА, \A\=z, f = {fl,f2,...,jn} , (3)
5 = {sfl,/2,...Jn }, sfi = {sfi, gfi ..., ji = in . (4)
Фасетный принцип хранения информации позволяет объединять различные объекты в сетевую
структуру Ai = ai a2 ^ . ^ a'z отдельно по каждому признаку fi, при этом введение дополнительного признака или объекта не требует перестройки ранее имеющейся структуры связей, а лишь дополняет её. Существенно, что в сформированном множестве признаков-фасетов fi возможна некоторая иная, например, иерархическая, классификации объектов.
Для рассматриваемой задачи перечень фасетов f = {fbf2'...'jn}, «=30, образует собою столбцы табл. 2; число объектов-событий z=30 - строки этой таблицы; количество значений каждого признака
t=2: sfi = {0;i} .
Графическая иллюстрация фасетной организации фрагмента сети представлена на рис. 3, на котором ансамбли нейронов F выполняют логическую операцию "и". Нумерация нейронов соответствует номеру события из табл. 1.
Важной особенностью полученной модели является её структурная аналогичность модели объекта, т.е. структура модели отображает объектную среду. Например, при выходе из строя основной линии 11-12 будут обесточены подстанции 12,13 и 14, что соответствует событию 26 и приятию реше-
ния о включении резервной линии 10 (см. рис.3). В то же время из рис. 1 следует, что частным случаем возникшей ситуации является обесточенность подстанций 13 и 14. Этому случаю соответствует событие 27 и принятие моделью решения о включении
резервной линии 5. Таким образом, использование модели приведёт к включению двух резервных линий с номерами 10 и 5. Анализ электрической схемы рис. 1 показывает, что при отказе основной линии 11-12 оба этих решения эквивалентны.
^ - ансамбли нейронов
Номера решений
Рис. 3. Фасетная структура активной нейросети
Из этого следует, что построенная модель обладает обобщающими свойствами в той мере, в которой это позволяет структура объекта. Действительно, если при обучении сети будет предъявлена ситуация 20 (Р20 на рис. 3), то этого окажется достаточным для правильного парирования не рассмотренных при обучении критических ситуаций 21,22,24,25,26,27,28, поскольку все они являются частными случаями общей ситуации 20. Отметим, что появление обобщающих свойств у фасетной нейросети обусловлено наличием в ней иерархических взаимосвязей, т.е. её многоуровневостью.
Процедура обучения в такой нейросети включает в себя:
добавление нового объекта в виде ансамбля значений признаков а^)^ (строка х+1 в в табл. 2);
включение каждого признака-фасета объекта в сетевую структуру этого признака.
При этом ранее сформированные взаимосвязи в сети не разрушаются, что исключает возможность появления в ней явления переобучения. Поскольку блочный характер обучения сводится к простому наращивания сведений о новых ситуациях и не требует какой-либо многопараметрической оптимизации, то в сети сохраняются высокие избирательные свойства: для каждой аварийной ситуации вырабатывается одно решение с суперпозицией этих решений при одновременном возникновении нескольких отказов. Например, при одновременном возникновении событий 10 и 11 (опыт 5, табл.6) моделью бу-
дут выработаны решения 7,8 и 9, полностью восстанавливающие электроснабжение (см. рис.3).
Иллюстрация изменения структуры модели при появлении в обучающей выборке новых событий приведена на рис. 4.
бытиям 29 и 30 (отключение подстанций 24, 25)
Рис. 4 иллюстрирует накопительный характер обучения, полностью сохраняющий в нейросистеме сформированные ранее структурные связи.
5. Заключение
Использование пассивных нейросетевых моделей принятия решений в ответственных системах
управления критическими объектами сталкивается со значительными трудностями их практической реализации по причине склонности этих моделей к переобучению и низких интерполирующих и экстраполирующих возможностей.
Проектирование нейронных систем на основе эволюционных принципов многоальтернативности позволяет создавать активные нейромодели с перестраиваемой структурой, по своим свойствам в значительно большей степени приближающиеся к их биологическим прототипам:
иерархическая многоуровневая схема внутренних взаимосвязей в сети обеспечивает высокие обобщающие способности системы при приятии решений в ситуациях, не встречавшихся при обучении;
модульность строения позволяет встраивать в структуру системы новые ансамбли нейронов, не встречая при этом ограничений "проклятья размерности" и эффекта переобучения;
фасетная организация памяти по правилу "одно событие - один ансамбль" обеспечивает возможность неограниченного избирательного наращивания числа событий в системе и практическую реализацию сформулированного У.Эшби информационного принципа необходимого разнообразия [6].
Литература
1. Егоров, Н.В. Диагностические информационно-экспертные системы [Текст] / Н.В. Егоров, А.Г. Карпов. -С.-Пб.: СПбГТУ, 2002. - 472 с.
2. РД 03-418-01. Методические указания по проведению анализа риска опасных производственных объектов [Текст] // Серия 03. Нормативные документы межотраслевого применения по вопросам промышленной безопасности и охраны недр. Выпуск 10. - М.: ГУП НТЦ ПБ Госгор-технадзора России, 2001. - 60 с.
3. Интеллектуальные системы поддержки принятия решений в нештатных ситуациях с использованием информации о состоянии природной среды [Текст] / А.В. Геловани, А.А. Башлыков, В.Б. Бритков и др. - М.: Эдиториал УРСС, 2001. - 304 с.
4. Ткалич, С. А. Основания и возможности использования искусственных нейросетей в системах прогнозирования [Текст] / С.А. Ткалич, Е.М. Васильев // Электротехнические комплексы и системы управления. - 2008. - № 2.
- С. 37-38.
5. Винер, Н. Кибернетика или управление и связь в животном и машине [Текст] / Н. Винер. - М.: Наука, 1983.
- 344 с.
6. Эшби, У.Р. Введение в кибернетику [Текст] / У.Р. Эшби. - М.: УРСС, 2006. - 432 с.
7. Анохин, П.К. Системные механизмы высшей нервной деятельности [Текст] / П.К. Анохин. - М.: Наука, 1979. - 453 с.
8. Карпенков, С.Х. Концепции современного естествознания [Текст] / С.Х. Карпенков. - М.: Академический Проект, 2003. - 640 с.
9. McCulloch, W. A logical calculus of the ideas immanent in nervous activity [Text] / W.McCulloch, W.Pitts // The Bulletin of Mathematical Biophysics.- 1943.- № 5.- P.115-133.
10. Мак-Каллок, У.С. Логическое исчисление идей, относящихся к нервной активности [Текст] / У.С. Мак-Каллок, У.Питтс // Нейронные сети: история развития теории. - М.: Радиотехника, 2001. - С. 5-22.
11. Редько, В.Г. Эволюция, нейронные сети, интеллект: модели и концепции эволюционной кибернетики [Текст] / В.Г. Редько. - М.: Либроком, 2013. - 224 с.
12. Шамис, А.Л. Пути моделирования мышления [Текст] / А.Л. Шамис. - М.: Комкнига, 2006. - 336 с.
13. Подвальный, С.Л. Эволюционные принципы формирования структуры вычислительных систем [Текст] / С.Л. Подвальный // Адаптация в сложных системах управления: сб. науч. тр. Воронеж: Воронежский политехнический институт, 1979 . - С. 60-63.
14. Подвальный, С.Л. Многоальтернативные системы: обзор и классификация [Текст] / С.Л. Подвальный // Системы управления и информационные технологии. -2012. - Т .48, № 2. - С. 4-13.
15. Подвальный, С.Л. Многоальтернативное управление открытыми системами: концепция, состояние и перспективы [Текст] / С.Л.Подвальный, Е.М.Васильев // Управление большими системами.- 2014.- №.48.- С. 6-58.
16. Kravets, O.Ja. Multivariate time series analysis with significant factors delayed influence consideration based on discrete processes dynamics neural network simulation [Text] / O.Ja. Kravets, I.N. Kryuchkova // Control Systems and Information Technology. - 2014. - Vol. 3. - No. 1. - P. 12-19.
17. Васильев, Е.М. Синтез электрических сетей с оптимальной конфигурацией [Текст] / Е.М. Васильев, И.В. Крутских // Вестник Воронежского госуда рственного технического университета. - 2011. - Т. 7, № 4. - С. 16-20.
18. Хайкин, С. Нейронные сети: полный курс [Текст] / С. Хайкин. - М.: Вильямс, 2006. - 1104 с.
19. Васильев, Е.М. Метаэвристический алгоритм обучения нейронных сетей [Текст] / Е.М. Васильев, В.В. Ме-ренков // Электротехнические комплексы и системы управления. - 2009. - № 3. - С. 56-59.
20. Мануковская, М.М. Активные нейросетевые модели принятия решений [Текст] / М.М. Мануковская, Е.М. Васильев // Электротехнические комплексы и системы управления. - 2008. - № 4. - С. 76-78.
21. Мугатина, В.М. Нейро-информационные структуры в системах принятия решений [Текст] / В.М. Мугати-на, Е.М. Васильев // Современные методы прикладной математики, теории управления и компьютерных технологий: Сб. науч. тр. VII Международной конференции ПМТУКТ-2014. - Воронеж: Научная книга, 2014. - С. 265-268.
Воронежский государственный технический университет
ACTIVE NEURAL NETWORK CONTROL MODEL OF CRITICAL OBJECTS
E.M. Vasiljev, R.A. Govorov
The problem of building a neural network control model of objects in critical modes of operation. For example, the solution of this problem for a system of decision-making in the electricity distribution network is a possibility of building a active neural network on the basis of principles multialternative
Key words: decision-making system, the principles multialternative, active neural network
