CC BY
28
ОБЛАСТИ УСТОЙЧИВОСТИ НЕЙРОННЫХ СЕТЕЙ КОНФИГУРАЦИЙ ТИПА «КОЛЕСО» И «ЛИСТ МЁБИУСА» С ЗАПАЗДЫВАЮЩИМИ
ВЗАИМОДЕЙСТВИЯМИ
Григорян Духик Гургеновна
магистрант, факультет информатики, Челябинский государственный
педагогический университет, РФ, г. Челябинск
Email: grigoryandg@cspu.ru Подкорытова Елена Васильевна магистрант, факультет информатики, Челябинский государственный
педагогический университет, РФ, г. Челябинск Email: podkorytovaev@cspu.ru Речкалова Лариса Владимировна магистрант, факультет информатики, Челябинский государственный
педагогический университет, РФ, г. Челябинск
Email: rechkalovalv@cspu.ru Кипнис Михаил Маркович д-р физ.-мат. наук, профессор, кафедра математики и методики обучения математике, Челябинский государственный педагогический университет, РФ,
г. Челябинск Email: kipnismm@cspu.ru
THE STABILITY DOMAINS OF A NEURAL NETWORKS OF «WHEEL» AND «MÖBIUS» CONFIGURATIONS WITH DELAYED INTERACTIONS
Grigoryan Dukhik
graduate student, Dept. of Computer Science, Chelyabinsk State Pedagogical
University, Russia Chelyabinsk Podkorytova Elena
graduate student, Dept. of Computer Science, Chelyabinsk State Pedagogical
University, Russia Chelyabinsk Rechkalova Larisa
graduate student, Dept. of Computer Science, Chelyabinsk State Pedagogical
University, Russia Chelyabinsk Kipnis Mikhail
professor, PhD, Department of Mathematics, Chelyabinsk State Pedagogical
University, Russia Chelyabinsk
АННОТАЦИЯ
Численными экспериментами получены области устойчивости в пространстве параметров дискретных нейронных сетей с топологией связей в виде колеса и листа Мёбиуса. Задача сводится к проблеме устойчивости матричных разностных уравнений высоких порядков с запаздыванием.
ABSTRACT
The stability domains of a discrete neural network are obtained by numerical experiments. The network has wheel and Möbius architecture. The problem is reduced to the matrix delay equations of higher order.
Ключевые слова: нейронные сети; разностные матричные уравнения; устойчивость; конфигурации «колесо» и «лист Мёбиуса».
Keywords: neural networks; difference matrix equations; stability; wheel architecture; Möbius tape architecture.
Нейронные сети представляют собой систему соединённых и взаимодействующих между собой искусственных нейронов. Каждый нейрон имеет дело только с сигналами, которые он периодически получает, и сигналами, которые он периодически посылает другим нейронам. Из-за запаздываний в передаче сигналов в нейронных сетях иногда возникают нежелательные колебания, что называется неустойчивостью.
Искусственные нейронные сети с нейронами в дискретном линеаризованном варианте описываются разностными уравнениями [1—6]
. (1)
Мы рассматриваем нейронную сеть из четырех нейронов с архитектурой связей в виде колеса (Рисунок 1).
Рисунок 1. Нейронная сеть конфигурации «колесо»
Уравнение (1) для этой нейронной сети примет вид
х5 = уЕх3_г + Вх3_к, 5 = 1,2,... , (2)
где Е единичная матрица размером 4x4, у коэффициент демпфирования собственных колебаний нейронов, — 1 < у < 1 , В матрица взаимодействий между нейронами в сети с запаздыванием к, х3 4-мерный вектор состояния нейронной сети в момент 5.
Матрица взаимодействий В имеет вид
В=
0 а а 0
а 0 0 а
а 0 0 а
0 а а 0
(3)
где: а — сила взаимодействия между нейронами.
Устойчивость нейронной сети — это стремление к нулю векторов состояний х3 при 5 ^ го, при любых начальных условиях.
Характеристическое уравнение для матричного уравнения (2) таково:
det(AkЕ — уЕ Лк~1 — В) = 0. (4)
Уравнение (4) имеет порядок пк, где к — запаздывание, п — количество нейронов в сети. Нейронная сеть является асимптотически устойчивой, если корни характеристического уравнения Л1,А2,..., Лпк удовлетворяют условию
1^1 <1. (5)
При фиксированном значении запаздывания к с помощью программы МаШсаё была определена область устойчивости в плоскости (у, а).
0.6
а
-0.4
-0.2
0.4
0.2
0
-0.6
- 1
-0.5
0
0.5
1
Рисунок 2. Область устойчивости колеса в плоскости при
В процессе проведения численного эксперимента было установлено, что коэффициент запаздывания не влияет на размер и форму области устойчивости для нейронной сети, представленной на Рисунке 1 и описанной уравнением (2) с матрицей взаимодействий (3). Были рассмотрены запаздывания на 1, 2, 3, 4 и 5 тактов (Рисунок 2).
Рассмотрим теперь нейронную сеть из четырех нейронов с архитектурой связей в виде листа Мёбиуса (Рисунок 3).
Матрица взаимодействий для нейронной сети конфигурации «лист Мёбиуса» имеет вид
Рисунок 3. Нейронная сеть конфигурации «лист Мёбиуса»
где: — сила взаимодействия между нейронами.
При фиксированном значении запаздывания , с помощью программы МаШсаё была определена область устойчивости в плоскости представленная на Рисунке 4.
0.6 0.4 0.2
а о -0.2 -0.4 -0.6
- 1 -0.5 0 0.5 1
1
Рисунок 4. Область устойчивости листа Мёбиуса в плоскости при
В процессе проведения расчетов было установлено, что коэффициент запаздывания влияет на размер и форму области устойчивости для нейронной сети, представленной на Рисунке 3 и описанной уравнением (2) с матрицей взаимодействий (6). Были рассмотрены запаздывания на 1, 2, 3, 4 и 5 тактов (Рисунок 5).
0.6
а1 0.4
Л2... 0.2
аЗ
- 0
а4
-0.2
а5
- 0.4
-0.6 - — -
- 1 -0.5 0 0.5 1
1
Рисунок 5. Область устойчивости листа Мёбиуса при
Сравнивая области устойчивости нейронных сетей конфигураций «колесо» и «лист Мёбиуса» при фиксированном коэффициенте запаздывания , мы установили, что область устойчивости листа Мёбиуса больше области устойчивости колеса при любом от 1 до 5. На Рисунке 6 границы области устойчивости колеса обозначены сплошной линией, а листа Мёбиуса — пунктирной линией.
Рисунок 6. Области устойчивости в плоскости колеса и листа
Мёбиуса
При нечетных и значениях параметров и с одинаковым знаком границы областей устойчивости совпадают (Рисунок 6 а, Ь, с), при четных и положительных значениях параметра границы областей устойчивости также совпадают (Рисунок 6 ё, е). Области устойчивости при нечетных симметричны относительно начала координат, области устойчивости при четных симметричны относительно оси ординат.
Работа выполнена при поддержке гранта Министерства образования и науки 1.1711.2011.
Список литературы:
1. Иванов С.А., Козлова С.А., Невзорова Е.Н. Устойчивость рекурсивных нейронных сетей цилиндрической архитектуры с запаздывающими взаимодействиями // «Инновации в науке»: материалы XVI международной заочной научно-практической конференции. Новосибирск: Изд. «СибАК», — 2013. — Ч. 1. — С. 7—11.
2. Иванов С.А., Пархоменко А.А. Устойчивость плоского однородного нейронного поля // «Инновации в науке»: материалы XVI международной заочной научно-практической конференции. Новосибирск: Изд. «СибАК», — 2013. — Ч. 1. — С. 11—16.
3. Речкалова Л.В. Область устойчивости нейронных сетей древовидной конфигурации с запаздывающими взаимодействиями // Всероссийская научная конференция «Информатика и информационные технологии»: сборник научных статей. Челябинск: Изд. ЗАО «Цицеро», 2013. — С. 20— 24.
4. Ivanov S.A., Kipnis M.M. Stability analysis of discrete-time neural networks with delayed interactions: torus, ring, grid, line. // International Journal of Pure and Applied Math. (2012) V. 78(5). — P. 691—709.
5. Khokhlova T.N., Kipnis M.M. Numerical and qualitative stability analysis of ring and linear neural networks with a large number of neurons // International Journal of Pure and Applied Math. (2012) V. 76(3). — P. 403—419.
6. Khokhlova T.N., Kipnis M.M. The breaking of a delayed ring neural network contributes to stability: The rule and exceptions // Neural Networks (2013) V. 48. — P. 148—152.
