CC BY
23
УСТОЙЧИВОСТЬ РЕКУРСИВНЫХ НЕЙРОННЫХ СЕТЕЙ ЦИЛИНДРИЧЕСКОЙ АРХИТЕКТУРЫ С ЗАПАЗДЫВАЮЩИМИ ВЗАИМОДЕЙСТВИЯМИ
Иванов Сергей Александрович
аспирант кафедры математического анализа Челябинского государственного
педагогического университета (ЧГПУ), г. Челябинск
E-mail: ivanovlord@yandex. ru Невзорова Елена Николаевна магистрант, ЧГПУ, г. Челябинск Козлова Светлана Анатольевна магистрант, ЧГПУ, г. Челябинск
STABILITY OF RECURSIVE NEURAL NETWORKS OF CYLINDRICAL ARCHITECTURE WITH DELAYED INTERACTIONS
Ivanov Sergey
post-graduate student, Dept. of Mathematical Analysis, Chelyabinsk State Pedagogical University (CSPU)
Nevzorova Elena
graduate student, Dept. of Computer Science (CSPU)
Kozlova Svetlana
graduate student, Dept. of Computer Science (CSPU)
Работа поддержана грантом Министерства образования и науки 1.1711.2011 и грантом для аспирантов Челябинского государственного педагогического университета. Авторы благодарны проф. Кипнису М.М. за постановку задачи и ценные советы.
АННОТАЦИЯ
Экспериментально получены области устойчивости дискретных нейронных сетей с цилиндрической топологией связей в пространстве параметров. Задача сводится к проблеме устойчивости матричных разностных уравнений высоких порядков с запаздыванием.
ABSTRACT
The stability domains of a discrete neural network are obtained by numerical experiments. The network has a cylindrical architecture. The problem is reduced to the matrix delay equations of higher order.
Ключевые слова: нейронные сети; разностные матричные уравнения; устойчивость разностных уравнений; цилиндрические нейронные сети.
Keywords: neural networks; difference matrix equations; stability; cylinder.
Мы рассматриваем нейронную сеть из шести нейронов с цилиндрической топологией связей с равным запаздыванием между нейронами в сети. В статье [1] приведены геометрические алгоритмы для проверки на устойчивость матричного разностного уравнения с двумя запаздываниями.
Рисунок 1. Цилиндрическая нейронная сеть с шестью нейронами.
Рассмотрим дискретную модель нейронной сети с цилиндрической топологией связей. В модели взаимодействие различных нейронов запаздывает на к тактов. Силу воздействия нейрона с "меньшим" номером на нейрон с "большим" обозначим посредством а, а силу обратного воздействия посредством Ь. Модель имеет вид
х5 = Ах3_± + Вх3_к,Б = 1 , 2 . . . (1)
Для сетей с цилиндрической топологией уравнение (1) примет вид:
х5 = у1х5_! + В х5_ к, 5 = 1 ,2 ... (2)
где I — единичная матрица, у — коэффициент затухания собственных
колебаний нейрона, В — матрица взаимодействий между нейронами в сети.
Здесь х 3 есть 6 — мерный вектор состояния нейронной сети в момент 5.
Для сети из шести нейронов с цилиндрической конфигурацией матрица взаимодействий В размера 6x6 примет вид
В =
/О а Ь а 0 0\
а 0 а 0 а О
Ь а 0 0 0 а
Ь 0 0 0 а Ь
. О Ь 0 а 0 а .
' О О Ь Ь а 0'
(3)
Характеристическое уравнение для матричного уравнения (2) имеет вид
с1 е Ь М(Х) = 0 , (4)
где
м(я) = ак - у/лк -1 -в. (5)
Для изучения устойчивости уравнения (2) с матрицей (3) будем использовать программу Маткад. Мы фиксируем запаздывание к = 2 и коэффициент демпфирования у = 0 . 6. Затем перебираем значения а из некоторого интервала с некоторым шагом. Для каждого значения а мы подбираем граничные значения Ь , в окрестности которых устойчивость системы граничит с неустойчивостью. Этот подбор происходит следующим образом. Мы ищем корни уравнения (4) с учетом (5), и в качестве искомого значения берем то значение, при котором все корни характеристического уравнения (4) находятся внутри единичного круга на комплексной плоскости, а по крайней мере один корень на границе круга. В результате мы получаем область устойчивости в пространстве параметров ( а, Ь). В конце создаем график, иллюстрирующий полученную область устойчивости для выбранных параметров и .
Результаты вычислений области устойчивости для запаздываний на 1,2 и 3 такта показаны на Рис. 2.
0.5 0 0.5
а
Рисунок 2. Области устойчивости в пространстве параметров (а,Ь)
для у=0.6, к=1,2,3.
Полученные области позволят решить вопрос об устойчивости исследуемой модели в зависимости от интенсивности взаимодействия между нейронами.
Полученные результаты будут отправной точкой для дальнейшего развития теории об устойчивости цилиндрической нейронной сети с различным числом нейронов в сети.
Рекурсивные нейронные сети с топологией связей, отличной от цилиндрической, изучены в работах [2, 3]. Непрерывные модели нейронных сетей исследуются в работе [4] на основе теории конусов устойчивости для дифференциальных уравнений с запаздываниями [5].
Список литературы:
1. Заенцов И.В., Нейронные сети: основные модели. Издательство
Воронежского университета, Воронеж, 1999.
2. Иванов С.А. Область устойчивости в пространстве параметров рекурсивных нейронных сетей с топологией многомерного куба. Челябинск: Вестник ЮУрГУ серия Математика. Механика. Физика Выпуск 7, 2012.
3. Ivanov S.A., Kipnis M.M. Stability analysis of discrete-time neural networks with delayed interactions: torus, ring, grid, line. International Journal of Pure and Applied Math. (2012) V. 78(5), p. 691—709.
4. Khokhlova T.N., Kipnis M.M. Numerical and qualitative stability analysis of ring and linear neural networks with a large number of neurons, International Journal of Pure and Applied Math. (2012) V. 76(3), pp. 403—419.
5. Khokhlova T.N., Kipnis M.M., Malygina V.V. The stability cone for a delay differential matrix equation, Appl. Math.Letters (2011) V. 24, pp. 42—745.
