CC BY
1
Нелинейная
^^^^^^^^ динамика и нейронаука
Известия высших учебных заведений. Прикладная нелинейная динамика. 2024. Т. 32, № 2 Izvestiya Vysshikh Uchebnykh Zavedeniy. Applied Nonlinear Dynamics. 2024;32(2)
Научная статья УДК 530.182
DOI: 10.18500/0869-6632-003096 EDN: QZDYAI
Релейная модель замирающего нейрона
*
В. К. Зеленова
Ярославский государственный университет им. П. Г. Демидова, Россия
E-mail: Elverzelenowa12@gmail.com Поступила в редакцию 31.08.2023, принята к публикации 17.01.2024, опубликована онлайн 19.02.2024, опубликована 29.03.2024
Аннотация. Данное исследование является продолжением работы М.М. Преображенской «Relay System of Differential Equations with Delay as a Perceptron Model», идея которой заключалась в объединении подходов, связанных с искусственными нейронными сетями и моделированием биологических нейронов с использованием дифференциальных уравнений с запаздыванием. В ней была предложена модель одного нейрона, которая допускает существование режимов специального вида, называемых «стареющим» и «умирающим» поведением нейрона. В работе была найдена некоторая область параметров, при которых существует режим «умирающего» нейрона и численно показано существование режима «стареющего» нейрона. Цель. Объединим понятия «стареющего» и «умирающего» нейрона термином «замирающий» нейрон. Для него аналитически построим решение и найдем область параметров его существования и устойчивости, что будет являться расширением результатов опорной статьи. Методы. Для исследования данной модели рассматривается вспомогательное уравнение, полученное в результате экспоненциальной замены в исходном. Далее используется метод шагов интегрирования дифференциального уравнения с запаздыванием и введение дополнительных функций. Результаты. Построено решение вида «замирающего» нейрона исходной модели, описана область параметров для существования и устойчивости данного решения. Заключение. Для модели, предложенной М. М. Преображенской, получено расширение результатов для решений специального вида.
Ключевые слова: феноменологическая модель нейрона, дифференциальное уравнение с запаздыванием, релейное уравнение, метод шагов, область параметров, устойчивость.
Благодарности. Работа выполнена в рамках реализации программы развития регионального научно-образовательного математического центра (ЯрГУ) при финансовой поддержке Министерства науки и высшего образования РФ (Соглашение о предоставлении из федерального бюджета субсидии № 075-02-2023-948).
Для цитирования: Зеленова В. К. Релейная модель замирающего нейрона // Известия вузов. ПНД. 2024. T. 32, № 2. С. 268-284. DOI: 10.18500/0869-6632-003096. EDN: QZDYAI
Статья опубликована на условиях Creative Commons Attribution License (CC-BY 4.0).
* Работа публикуется по материалам доклада, сделанного на конференции «Нелинейные дни в Саратове для молодых - 2023».
Article
DOI: 10.18500/0869-6632-003096
Relay model of a fading neuron*
V.K. Zelenova
P. G. Demidov Yaroslavl State University, Russia E-mail: Elverzelenowa12@gmail.com Received 31.08.2023, accepted 17.01.2024, available online 19.02.2024, published 29.03.2024
Abstract. This study is a continuation of M. M. Preobrazhenskaya's work "Relay System of Differential Equations with Delay as a Perceptron Model", which aimed to combine approaches related to artificial neural networks and modeling biological neurons using differential equations with delay. The model of a single neuron was proposed, which allows for the existence of special modes called "aging" and "dying" behavior of the neuron. The study found a certain range of parameters where the "dying" mode of the neuron exists and numerically demonstrated the existence of the "aging" mode. Purpose. We will unify the concepts of "aging" and "dying" neurons into the term "freezing" neuron. For this neuron, we will analytically construct a solution and find the range of parameters for its existence and stability, which will extend the results of the reference article. Methods. To study this model, an auxiliary equation obtained by exponential substitution in the original equation is considered. Then, the method of step integration of a differential equation with delay and the introduction of additional functions are used. Results. A solution of the "freezing" neuron type for the original model is constructed, and the range of parameters for the existence and stability of this solution is described. Conclusion. The study obtained an extension of results for solutions of a special type in the model proposed by M. M. Preobrazhenskaya.
Keywords: phenomenological model of a neuron, differential equation with delay, relay equation, step method, parameter range, stability.
Acknowledgements. This work was carried out within the framework of a development programme for the Regional Scientific and Educational Mathematical Center of the Yaroslavl State University with financial support from the Ministry of Science and Higher Education of the Russian Federation (Agreement on provision of subsidy from the federal budget No. 075-02-2023-948).
For citation: Zelenova VK. Relay model of a fading neuron. Izvestiya VUZ. Applied Nonlinear Dynamics. 2024;32(2):268-284. DOI: 10.18500/0869-6632-003096
This is an open access article distributed under the terms of Creative Commons Attribution License (CC-BY 4.0).
Введение
Данное исследование является продолжением работы [1], идея которой заключалась в объединении подходов, связанных с искусственными нейронными сетями и моделированием биологических нейронов с использованием дифференциальных уравнений.
В настоящее время нейромоделирование является востребованной задачей и представляет большой интерес в науке. Выбор удобной, биологически правдоподобной модели нейрона составляет определенную сложность. В связи с этим активно развиваются феноменологические модели, более или менее точно отражающие его динамику, но достаточно простые для аналитического или численного исследования. Более подробно о построении и изучении моделей нейрона с помощью дифференциальных уравнений с запаздыванием написано в [2].
В статье [1] была изучена феноменологическая модель нейронной сети в виде перцептрона, которая представляет собой систему дифференциально-разностных уравнений, где неизвестные функции описывают изменения нормированных мембранных потенциалов нейронов с течением времени. В модели участвуют три типа нейронов: сенсорные, ассоциативные и реагирующие.
*The paper presents materials of a talk given at the conference "Nonlinear days in Saratov for young scientists-2023".
Для реагирующего нейрона предложена модель
R = X
Л
(.R(t — h)) + н(X*(i))] R(t). (1)
Здесь R(t) — нормированный мембранный потенциал, X > 0 — скорость электрических процессов в нервной клетке, Т и % — пороговые функции,
, Г 1, 0 <и < 1, Т(и) = { -а и > 1,
/ -П, 0 <и < е, %(и) = \ i, ^>е,
Х*(£) = еХх* х* (¿) — периодическая функция с периодом Т*, в концах периода и в некоторой точке ¿* принимающая нулевое значение, до точки ¿* на периоде имеющая положительные значения, а после ¿* — отрицательные значения до конца периода:
x*(t)
= 0, t = 0,
> 0, 0 <t<t*,
= 0, t = t*,
< 0, t* <t< T*,
параметры n,a, 6 — положительные, h > 0 — запаздывание.
Уравнение (1) — это модификация обобщенного уравнения Хатчинсона [3]
и = Xf (u(t — 1))и, (2)
предложенного в статье [4]. Здесь и = u(t) ^ 0, X ^ 1, функция f (х) бесконечно дифференцируема на полуоси R+ = [х Е R : х ^ 0} и такая, что f (0) = 1, f (х) ^ —а при х ^ +то. В данной статье для уравнения (2) доказано, что при большом параметре X уравнение имеет асимптотически орбитально устойчивый релаксационный цикл u*(t, X) > 0 периода Т(X), удовлетворяющий предельным соотношениям
lim Т(X) = То, max lx(t, X) — zo(i)| = 0(1/X), X ^ то,
где T0 = (1 + a)t0, t0 = 1 + 1/a, x(t, X) = (1/X)ln u*(t, X), а T0-периодическая функция x0(t) задается равенствами
( t, t Е [0, 1],
X0(t) = < 1 — a(t — 1), t Е [1,i0 + 1], (t — T0, t Е [¿0 + 1,20],
X0(t + 20) = X0(t).
В настоящее время уравнение (2) лежит в основе ряда феноменологических нейромоделей.
В работе [1] для уравнения (1) доказано существование решений специального вида: на некотором начальном промежутке существует любое наперед заданное количество одинаково высоких всплесков, после которых решение сразу переходит в периодическое с малыми колебаниями. Здесь и далее под термином «высокие всплески» будем понимать значения функции R(t) порядка eX, под термином «малые колебания» — порядка e-X. Такой нейрон назван «умирающим».
Щ
щ
-1
a b
Рис. 1. Схематичное изображение «умирающего» (а) и «стареющего» (b) нейронов соответственно Fig. 1. Schematic representation of «dying» (a) and «aging» (b) neurons, respectively
Также численно было показано существование решений, где после начального промежутка с одинаково высокими всплесками решение к малым колебаниям переходит постепенно, всплески некоторое время уменьшают свою амплитуду. Такой нейрон назван «стареющим».
В настоящей работе получено расширение данных результатов, а именно аналитически показано существование и устойчивость решения и найдена область параметров, при которых решение от высоких периодических всплесков переходит к малым колебаниям сразу или постепенно с уменьшением амплитуды, что объединяет виды поведения «стареющего» и «умирающего» нейрона (рис. 1). Данное обобщение назовем «замирающим» нейроном, где под термином «замирание» будем иметь ввиду переход к малым колебаниям.
1. Постановка задачи
Для уравнения (1) докажем существование и устойчивость режимов специального вида (рис. 2): решений, обладающих любым наперед заданным количеством одинаково высоких всплесков, после которых происходит постепенное затухание всплесков и устанавливаются колебания с малой амплитудой.
Для этого в уравнении (1) сделаем экспоненциальную подстановку К(Ъ) = Получим
релейное уравнение
г = ^(г(Ъ - к))+ Н(х*($), (3)
Дхл I 1, % < 0,
F(х) = Ле )Н - (4)
1 -а, х> 0,
Я(*)= W(e-) = | -| I > 0 (5)
Уравнение (3) является центральным объектом исследования данной работы.
Для уравнения (3) режим специального вида соответствует существованию следующего решения (рис. 3): периодического с положительными и отрицательными значениями на промежутке до некоторой точки (см. I на рис. 3), после чего происходит уменьшение положительных значений и длин отрезков положительности (см. II на рис. 3), и с некоторого момента устанавливается периодическое решение с только отрицательными значениями (см. III на рис. 3).
Рис. 2. Схематичное изображение специального вида функ- Рис. 3. Схематичное изображение специального вида функ-
ции R(t)
ции r(t)
Fig. 2. Schematic representation of a special type of func- Fig. 3. Schematic representation of a special type of func-
tion R(t)
tion r(t)
Введем множество начальных функций
5 d= (фСО е С[-h, 0], фСО < 0, ф(0) = -d}
(6)
где й — положительный параметр, ограничения на который будут уточнены в дальнейшем.
Выполним переобозначение параметров для большего удобства в дальнейших вычислениях:
а := 1 + а, ^ :=1+|, п := 1 — Л.
2. Результат
Теорема 1. Для любого п е N существует область параметров а,п, Ъ
пТ* < к< (п + 1)Т*,
ч > 1, п =
-чи
а > max ■
, i)
I пТ**' J
такая, что уравнение (3) с начальной функцией из множества Б при
0 <d<
имеет устойчивое решение следующего вида.
d ч
1. На отрезке [0, h + |] совпадающее с Т*-периодической функцией
r(l)(t) =
4t - d,
0 <t <t*,
n(t - t*) + 4t* - d, t* < t < T*
(7)
(8)
(9)
(10)
г(1)(1 + Т*) = г(1)(1),
помещающей на этом промежутке п полных периодов, причем на периоде у данной функции есть положительные и отрицательные значения.
2. На отрезке [Н + | ,Н — л + Ь* + (п — 1)Т*] совпадающее с функцией . r(1)(í) — ей + с^+, Н + - + кгТ* < 4 < Н — —-+ Ь* + кгТ*,
г(2)(*) = 1 I -л П * (11)
г(1\1) + сЙ2_, Н — ^-+ и + к2Т* < 4 < Н + - + (к2 + 1)Т*,
п i
где
ск1 + = *г ф* — й) + а(Н + | + ВД), (12)
^ i
— = (к2 + 1)—п) (а* — д), (13)
кг = 0,1,...,п — 1, к2 = 0,1,...,п — 2.
Причем с некоторого момента { € [Н + |,Н — - + Ь* + (п — 1)Т*] все значения функции г(2)(£) становятся отрицательными.
На отрезке [Н — + Ь* + (п — 1)Т* ,Н + I] продолжается решение типа предыдущего пункта
Г(г)(£) — аí + Уг+, йг ^ £ ^ Ьг,
r(1)(í)+ , ^ < £ < ат,
r(2)(i) = |
где г = 1,2,.. .,1, I < п, ^ С(п—2)_ и У1+ ^ С(п—1)+ — некоторые константы, Н — ^ + ¿* + (п — 1)Т* < 0,1, Ьг < I
3. С момента I + Н решение совпадает с функцией
{ t — d — А, 0 <t<U,
r(3)(t) = { _ (14)
[ n(i — **) + t* — d — А, t* < i < T*,
r(3)(t + T*) = r(3)(i),
где А > 't* — d. Решение совпадает с Т*-периодической функцией с только отрицательными значениями на периоде.
Отметим, что решение, описанное в теореме 1, совпадает с решением, соответствующим решению специального вида уравнения (3). Конкретнее, функция r(1)(i) соответствует первой части — периодическому решению с положительными и отрицательными значениями на промежутке до некоторой точки (см. I на рис. 3). Функция r(2) (t) соответствует второй части решения, где происходит уменьшение положительных значений и длин отрезков положительности (см. II на рис. 3). Функция г(3) (t) соответствует третьей части, на которой устанавливается периодическое решение с только отрицательными значениями (см. III на рис. 3).
Теорема 2 (Следствие теоремы 1). Для любого п Е N существует область параметров а,n, h, определенная в теореме 1 такая, что модель (1) имеет устойчивые режимы типа «замирающего» нейрона.
Перейдем к доказательству теорем.
3. Исследование уравнения (3)
Будем строить решение уравнения (3), соответствующее решению специального вида уравнения (1), описанное во Введении. Ограничения на параметры будем формировать во время построения решения. Для удобства разобьем построение функции г(Ь) на этапы. Построение периодической части с положительными и отрицательными значениями назовем 1 этапом, доказательство наличия переходного процесса — 2 этапом, установление периодической части, имеющей только отрицательные значения — 3 этапом.
Выберем натуральное число п, соответствующее количеству всплесков на 1 этапе. Запаздывание Ъ > 0 выберем таким образом: пТ* ^ Ъ < (п + 1)Т*, что соответствует формуле (7).
Функции Р(х) и Н(х), заданные равенствами (4) и (5), кусочно-постоянные, следовательно, функция г(Ь) будет кусочно-линейной. Комбинаций пар значений функций Р(х) и Н(х) всего 4, рассмотрим все варианты решения.
3.1. Типы решения уравнения (3) на отрезке. Каждая из функций Р(х) и Н(х) принимает всего два значения 1 и —а + 1, Ч — 1 и п — 1 соответственно. Рассмотрим некоторый отрезок [¿1,12] на положительной полуоси, на котором правая часть уравнения (3) постоянна. Типов таких отрезков всего 4. Найдем значения функции г(Ь) на данном отрезке в общем виде, обозначив значение функции Р(х) за f, а значение функции Н(х) за Ъ. Для этого решим задачу Коши на данном отрезке, предположив, что начальное значение известно, обозначим его п = ^(¿1). Тогда задача Коши выглядит так:
Теперь определим каждый из четырех типов отрезков в зависимости от конкретных значений функций Р(г(1 — Ъ)) и Н(х*(1)) на отрезке [¿ь^].
Первый тип отрезка соответствует предположению
Г = / + Ъ, г(11) = г1.
Следовательно, решение на отрезке [Ь1,Ь2] с начальным значением г1 будет иметь вид
г(г) = (а+~Ъ)(г — ¿1) + п.
(15)
(16)
при нем Р(г(Ь — Ъ)) = 1, Н(х*(Ь)) = Ч — 1, следовательно, решение будет иметь вид
г(1) = — ¿1)+ п.
(17)
Аналогично второй тип отрезка соответствует предположению
(18)
Тогда Р(г(Ь — Ъ)) = 1, Н(х*(Ь)) = п — 1, следовательно, решение будет иметь вид
г(1) = п^ — Ь) + п.
(19)
Третий тип отрезка также соответствует предположению
(20)
при котором Р(r(í — Н)) = —а + 1, Н(ж*(í)) = i — 1, следовательно, решение будет иметь вид
г(*) = (—а + i)(í — 1г)+ гг. (21) Предположение для четвертого типа отрезка
( [¿г, ¿2] € [кТ* + г*, (к + 1)Т*], к € N и {0},
I г(г) > 0, í € [¿г — Н, ¿2 — Н]. (22)
Тогда Р(г(Ь — Н)) = —а + 1, Н(ж*(í)) = п — 1, следовательно, решение будет иметь вид
г(*) = (п — а)(* — ¿г) + п. (23)
3.2. Вспомогательные функции. В данном пункте введем и изучим две вспомогательные функции, связанные с функцией г(Ь). Рассмотрим функции г_(Ь) и г+(Ь), такие как
г— (¿) = 1 + н (х*(г)), (24)
г+С0 = —а + 1 + Н (х*(г)). (25)
Уравнения (24) и (25) — варианты уравнения (3) с постоянным (1 или —а + 1) значением функции Р(г(Ь — Н)). Для функций г_ (¿) и г+(£) введем начальные условия
г_ (0) = —й, г+(0) = —й.
Заметим, что при t € (кТ*, кТ* + £*), к € N и {0} функция Н(ж*(í)) = i — 1. Тогда задачи Коши на данном интервале для уравнений (24) и (25) с начальными значениями, обозначенными аг_ и йг+, выглядят соответственно так:
г_ = i, г_ (кТ*) = аг_,
г+ = —а + ^ г+(кТ*) = аг+.
Следовательно, решения здесь будут иметь вид
т_ (*) = ^ — кТ*) + аг_, r+(í) = (—а + i)(í — кТ*) + (ц+,
которые совпадают соответственно с первым и третьим типами решения уравнения (3) при ¿г = кТ*, гг = аг_ и гг = аг+.
Аналогично при £ € [кТ* + I*, (к + 1)Т*], к € N и {0} функция Н(ж*(í)) = п — 1. Значит, задачи Коши на данном отрезке для уравнений (24) и (25) с начальными условиями, обозначенными й2_ и й2+ соответственно, выглядят следующим образом:
г_ = п, г_(кТ* + ¿*) = а2_, г+ = п — а, г+(кТ* + ¿*) = й2+.
Следовательно, решения будут иметь вид
г_(¿) = п^ — кТ* — ¿*) + й2_ , г+ (¿) = (п — а)(£ — кТ* — ¿*) + й2+,
которые совпадают со вторым и четвертым типами решения уравнения (3) при ¿г = кТ* + ¿*, гг = а2_ и гг = а2+ соответственно.
Замечание 1. Кусочно-линейная функция г(Ь) на каждом линейном отрезке представима в виде г(Ь) = г*(Ь) + с, где символ «*» означает один из возможных индексов «—» или «+», ас — некоторая константа, зависящая от отрезка рассмотрения. Причем символ «*» на некотором отрезке ^3,14] будет нести смысл индекса «—», если г(1) < 0 при £ е ^з — Ъ, £4 — Ъ], и смысл индекса «+», если г(Ъ) > 0 при £ е [£3 — Ъ, ¿4 — Ъ].
Выпишем полные решения уравнений (24) и (25) соответственно
(Л= Г — кТ*) + г-(кт*), кТ* <кТ* + и,
Г-( ) \ п(^ — кТ* — и)+ г-(кТ* + и), кТ* + и (к + 1)Т*, ( )
( (—а + Ч)(г — кТ*)+ г+(кТ*), кТ* < кТ* + и,
г+ (I) = I (27)
( (п — а)(ь — кТ* — и) + г+(кТ* + и), кТ* + г* < Ь < (к + 1)Т*,
где к е N и {0}, г-(0) = г+(0) = —((.
Изучим, как растет разница значений введенных функций.
Лемма 1. Рассмотрим произвольный отрезок [Ь,Ы на положительной полуоси. На его концах верно: Т— (¿2) — г+(12) = а(^ — ¿1) + Г—(И1) — г+С).
Доказательство. Вычтем из левой и правой части равенства (24) соответственно левую и правую части равенства (25)
Г—(Ь) — г+(г) = 1 + н(х*(г)) — ( — а + 1 + Н(х*(г))^ = а,
проинтегрируем на отрезке [¿1, ¿2], подставим в полученную функцию значение Ь = ¿2 и получим утверждение леммы 1. □
3.3. Построение функции г(1) на 1 этапе. Будем считать, что на отрезке [—Ъ, 0] функция г(Ь) совпадает с одной из функций множества 5, описанного формулой (6). Заметим, что до точки £ = пТ* функция г(Ъ — Ъ) совпадает с функцией ф(£ — Ъ) из начального множества 5, так как пТ* < Ъ. Тогда значения функции г(1 — Ъ) < 0 при £ е [0, пТ*], и функция Р(г(1 — Ъ)) = 1 при тех же значениях 1 Следовательно, с учетом равенства г(0) = г—(0) = —(, функции г(Ь) и г—(Ь) совпадают на промежутке [0, пТ*] и имеют вид (26).
Для достижения специального вида функции г(Ь), описанного в постановке задачи, необходимо, чтобы на 1 этапе построения выполнялись следующие условия.
1. Периодичность функции г(Ь) при £ < пТ*. Это условие выполняется при равенстве начальных значений задач Коши на каждом интервале (кТ*, кТ* + Ь*), к = 0,1,... ,п — 1. Получаем необходимое условие г(кТ*) = г(0) = —((, к = 0,1,... ,п, равенство достижимо при введении ограничения г(Т*) = — ( & пТ* + (Ч — п)=0 &
п = . (28)
^ * Ь*
2. Возрастание значений функции г(1 ) на интервалах (кТ*, кТ* + t *) и убывание значений на отрезках [кТ* + Ь*, (к + 1)Т*], к = 0,1,... ,п — 1. Данное условие эквивалентно положительности значения коэффициента Ч (выполняется автоматически, так как = Ч — 1 > 0) и отрицательному значению коэффициента п, что верно из ограничения (28).
3. Существование положительных и отрицательных значений на периоде. Отрицательные значения мы имеем из условия периодичности функции г(Ь). Положительные значения должны достигаться в концах отрезков, на которых функция г(Ь) возрастает. Из второго
условия известно, что это точки кТ*+£*, к = 0,1,... ,п-1, также из условия периодичности достаточно, чтобы г(£*) > 0 ^ Чt* — 0, то есть
0 <(1< (29)
Таким образом, условия существования функции г(Ь) специального вида на первом этапе — это (28) и (29), которые соответствуют ограничениям (8) и (9) теоремы 1. Применим ограничение (28) к формуле (26) и получим уточненный вид решения уравнения (24) при £ ^ 0
Г чt — й, 0<ки,
г_со = { (30)
[ ф — и)+ чи — л, и < t < п,
r_(í + Т*) = г_($,
то есть функция r_(í) Т* -периодическая на всей области определения. Из совпадения функций г(£) и r_(í) на первом этапе также следует, что функция г(£) при £ е [0, пТ*] имеет вид
r(í) = ^ (31)
[ п(* — **)+ Ч^* — t* < 4 < Г*,
г(* + Г*) = г(*).
Учитывая вид решения (30) уравнения (24) и применяя лемму 1, получаем уточненный вид решения уравнения (25)
Г (—а + Ч^ — й, 0 < Ки,
г+(£) = (32)
[ (п — а)(* — £*) + (—а + Ч^* — й, г* < 4 < Г*,
г+(* + Г*) = г+(*) — аТ*. Вспомогательный факт. Для любого 1> 0 на отрезке [0,£] по лемме 1 верно
г_(Ь) — г+(г) = а(* — 0) + г_ (0) — г+(0) = а* — — (—¿) = а*,
отсюда следует, что верны формулы, связывающие функции г_({) и г+(£)
г+(£) = г_(£) — аЪ, г_(£) = г+(£) + а^
3.4. Построение функции г(£) на 2 этапе. В данном пункте рассмотрим изменение поведения функции г(Ь) на 2 этапе построения. Заметим, что при постоянном значении функции Р(г(Ь — К)) = 1 решение уравнения (3) совпадало бы с решением (31) на всей оси, но это неверно, так как функция Р(г(Ь — К)) изменяет свое значение на —а + 1, если ее аргумент г(Ъ — К) становится положительным. В связи с этим рассмотрим влияние положительнозначных отрезков 1 этапа на построение решения уравнения (3) на 2 этапе. Для этого найдем нули функции г(Ь) на 1 этапе. Заметим, что при введенных ограничениях (28) и (29) функция г(Ь) принимает отрицательные значения в точках £ = кТ*, к = 0,1,... ,п и положительные значения в точках £ = I* + кТ*, к = 0,1,... ,п — 1. На интервалах (кТ*,кТ* + ¿*) и отрезках [¿* + кТ*, (к + 1)Т*], к = 0,1,... ,п — 1 функция г(£) линейна, следовательно, на данных интервалах и отрезках будет ровно по одному нулю. Найдем их значения.
Нули функции г(1) на интервалах ( кТ*, кТ* + ¿*), к = 0,1,... ,п — 1 обозначим найдем
их значения, решая уравнения Ч(— кТ*) — ( = 0, получим
= ( +кТ*, к = 0,1,...,п — 1. (33)
(2)
Нули функции г(Ъ) на отрезках ^* + кТ*, (к + 1)Т*], к = 0,1,... ,п — 1 обозначим гк ч
(2)
Их значения найдем, решая уравнения п(Ц,) — кТ* — I*) + Чt* — ( = 0, получим
Л.2) = + + кТ*, к = 0,1,...,п — 1. (34)
й —п
Отметим, что все нули функции г(Ь) на 1 этапе строго упорядочены
ь0 < ь0 < П < П < < ьп—1 < 1п—1.
На 1 этапе функция г(1) принимает положительные значения на отрезках: [1 [)1), ¿д2)], [¿11), ¿12)], ... [¿|11— 1, 1]. Заметим, что г(1 — Ъ) < 0 при £ < Ъ + ¿)1), так как функция г(1) впервые принимает неотрицательное значение в точке ¿)1). Следовательно, до точки
г = ъ + ¿)1)
функция Р(г(Ь — Ъ)) = 1, значит, решение уравнения (3) совпадает с решением уравнения (24) до данной точки, что соответствует формуле (10) теоремы 1, и верно г(Ъ + ¿)1)) = г—(Ъ + ¿)1)). Будем считать точку Ъ + £ )1) окончанием первого этапа. На втором этапе [Ъ + ¿)1), Ъ + 42)1] разобьем все точки на два вида.
1. Точки на отрезках
[Ъ + I [1),Ъ + 42)], к = 1,2,... ,п — 1. На них функция г(Ъ — Ъ) > 0 ^ Р(г(Ь — Ъ)) = —а + 1, тогда согласно замечанию из пункта 3.2 верно, что на данных отрезках функция г(1 ) представима в виде г(1 ) = г+(1) + Ск+, к = 1, 2,... ,п — 1, где Ск+ — некоторые константы.
2. Точки на отрезках
[Ъ + I <2 ),Ъ + ], к = 1,2,... ,п — 2. На данных отрезках функция г(Ъ — Ъ) < 0 ^ Р(г(Ь — Ъ)) = 1, тогда аналогично предыдущему случаю здесь верно, что функция г(1) представима в виде г(1) = г— (1) + ск—, к = 1, 2,... ,п — 2, где ск— — некоторые константы.
Уточним значения констант ск— и ск+. По показанному выше на [Ъ + ¿)1), Ъ + ¿)2)] функция г(1) представима в виде г(1) = г+(£ ) + с0+. При этом известно, что г(Ъ + ¿)1)) = г— (Ъ + ¿)1)) = = г+(Ъ + ¿)1)) + а(Ъ + ¿)1)) (последнее равенство следует из вспомогательного факта). Отсюда получаем, что с0+ = а(Ъ + ¿)1)), функция г(1 ) = г+(£ ) + а(Ъ + ¿)1)) и значение в последней точке отрезка г(Ъ + г)У) = г+(Ъ + ¿)2)) + а(Ъ + ¿)1)). Аналогично на отрезке
[Ъ + 42),ъ + ¿(11)] верно г(Ь) = т—(Ь) + Со—. Тогда с помощью
(2) (2) (1) (2) вспомогательного факта получаем г(Ъ + г0 )) = г+(Ъ + г0 )) + (1 + а)(Ъ + ¿0 )) = г—(Ъ + ¿0 )) —
— а(42) — ¿01)). Отсюда верно с0— = —а(^2) — ¿01)).
Лемма 2. Для констант ск+ и ск— верны формулы с0+ = а(Ъ + ¿01))
к—1
ск+ = — ^ а( ¿(2) — ¿(1)) + а(Ъ + ¿V), к = 1,2,...,п — 1, (35)
г=0 к
ск— = — ^ а( ¿(2) — ¿(1)), к = 0,1,2,...,п — 2. (36)
г=0
Доказательство. Проведем доказательство методом математической индукции (ММИ). Базовые утверждения ММИ доказаны выше при к = 0. Предположим, что при некотором к = т <п — 2 утверждение верно. Тогда на [К + ^,К + функция г(£) = г+(£) — Ет=_1 а(£(2) — ¿(1)) + + а(К + ^ а на [К + ^ К + ^ ] верно г(*) = г_(*) — £™0 а(^2) —
Проверим утверждения для к = т+1. По показанному выше на [К+£т+1, К+ функция г(£) представима в виде г(£) = г+(£) + С(т+1)+. Из предположения индукции и вспомогательного
факта верно г (К + ¿^+1) = г_(К + + ст_ = г+(К + ¿¿1+1) + а(К + ¿¿1+1) + ст_. Отсюда
получаем, что С(т+1)+ = а(К + ) + Ст_ = — а(£(2) — ¿(1)) + а(К + ¿¿т+1) — подтверждает формулу (35) леммы 2. Функция г(£) = г+(£) + С(т+1)+ и значение в последней точке отрезка
г(к+=г+(к+¿т+о+с(т+1)+.
Аналогично на отрезке [К + ^т+^К, + ¿т+2] верно г(£) = г_(£) + С(т+1)_. Тогда с помощью
(2) (2)
предыдущего шага и вспомогательного факта получаем г (К + ¿„1+1) = г+(К + ¿„1+1) + С(т+1)+ =
= Г_(К+^т+1) — >а(К+*2ц )+С(т+1) + . Отсюдаверно С(т+1)_ = — Е™0 а(^(2) —^(1)) + а(К+^!т+1) — —а(К+£т+1)=— Ето1 а(^(2)—¿(1)) — подтверждает формулу (36) леммы 2. Утверждение леммы 2 доказано. Отметим, что формулы (35) и (36) подтверждают формулы (12) и (13) теоремы 1. □ Таким образом, получаем вид решения уравнения (3) на 2 этапе при £ е [К + ¿0^, К + ¿|12)1] (см. рис. 4)
_ ( Г+С0 + Ск+, К + ^ < 4 < К + ¿к2),
г® = { + * * (37)
[ Г_С0 + Ск_, К + ¿к2) < * < К + ¿к+г
Рассмотрим значение функции г(Ь) в последней точке второго этапа
п— 1
) = r+(h + 422i) + C(n—1)+ = г— (Л + ¿I) - V a(i(2) - i(1))
г=0
Получаем общую формулу для разности значений функции г_(£) и r(í) в последней точке второго этапа, обозначим ее А:
п—1
А = г—(h + ¿2— i) - r(h + ti2—i) = £ a(i(2) - i(1)). (38)
j=0
Рис. 4. Схематичное изображение функций r-(t), r(t), r+(t) на 2 этапе (цвет онлайн) Fig. 4. Schematic representation of the functions r-(t), r(t), r+(t) at stage 2 (color online)
Подставим в формулу (38) значения нулей первого этапа (33) и (34) функции г(Ь) и значение параметра п из (28):
А = п * —(() =п Ы * — (() = № * —(), где у = п 0^. (39)
пЧ Ч Ч
3.5. Построение функции г(1) на 3 этапе. На 3 этапе решения необходимо получить отрицательные значения функции г(Ь) при всех ¿. С помощью вспомогательного факта и формулы (37) выразим функцию г(Ь) только через функцию г—(Ь)
_ ( г—(г) — а« + ск1+, Ъ + < £ < Ъ +
Г \ г—(1)+ ск2—, Ъ + ¿¡Ц < í < Ъ + 41+1,
к1 = 0,1,... ,п — 1, к2 = 0,1,... ,п — 2. Применим к полученному выражению лемму 2 для коэффициентов ск+ и ск—, получим
' Г—(Ь) — а(г — Ъ — 41)), Ъ + 41) Ъ + 42),
г(1) = { г—(1) — а(1 — Ъ — I С(кз—1)—, Ъ + I Ц Ъ + I™, ^ г—(1) + cki—, Ъ +г % Ъ +г í14)+l,
здесь к3 = 1,... ,п — 1, к4 = 0,1,... ,п — 2, причем все ск— < 0 по формулам (36), г = 1, 2, 3, 4.
(2) (2)
Из предыдущего пункта также известно, что г(Ъ + ¿„_1) = г—(Ъ + ¿„_1) — А. Введем ограничения,
(2) (2) при которых г(Ъ+гп_1) < 0. Для этого нужно, чтобы г—(Ъ+гп_1 )—А < 0. Максимальное значение
функции г— ({) достигается в точках кТ* + 1 *, к е Nи{0} и равно гтах — = Чt* — (. Так как мы не
(2)
знаем точного расположения точки Ъ + гп_ 1 относительно периода функции г— (1), то достаточное условие отрицательности значения в этой точке — отрицательность значения в максимальной точке функции: гтах — — А < 0. Подставим в данное неравенство значения параметров гтах — из написанного выше и А из равенства (39) и сделаем некоторые преобразования
чt *—(—п ач^ (Ч *—() < 0, Ч
получаем ограничение на параметр а:
а >1* • <40>
Отметим, что при достаточно больших п это условие выполняется автоматически, так как а = а + 1 > 1. Данное условие соответствует ограничениям (8) теоремы 1.
(2)
Лемма 3. При выполнении ограничения (40) функция г(Ъ) < 0 при всех £ > Ъ + ц1_1.
(2) (2)
Доказательство. Пусть для всех £ е [¿¡1—1, Ъ + Ц1—_1\ функция т(1) < 0. Тогда на 3 этапе при
(2) (2)
I е [Ъ + Ц1)1, 2Ъ + функция т(1 — Ъ) < 0 и Р(т(1 — Ъ)) = 1, из чего следует, что функцию
г(Ь) можно представить в виде г(Ь) = г—(Ь) — с—, где с— — некоторая константа. Из пункта 3.4
(2) (2) (2) (2) известно, что г(Ъ + = г—(Ъ + — А, следовательно, при £ е [Ъ + 2Ъ + функция
г(Ь) = г—(Ь) — А. По введенному условию леммы 3 максимальное значение функции г—(Ь)
(2) (2)
меньше А, следовательно, при £ е [Ъ + tn_1, 2Ъ + ¿„_1] функция г(1) < 0. Тогда заметим, что все
(2) (2) (2) (2) рассуждения для отрезка [^п)1, Ъ + теперь можно повторить для отрезка [Ъ +, 2Ъ +
и далее для каждого отрезка [ кЪ + (к + 1)Ъ + к е N. Значит, функция г(Ь) < 0 при
всех £ > Ъ + 42)1.
(2) (2)
Пусть теперь на отрезке Н + существуют I пар (I € М, I < п) таких упорядоченных точек {а,г, Ъ{}, г = 1,... ,1, что при £ € (сц, Ъг) функция r(í) > 0 (данные точки существуют
обязательно парами на данном отрезке, так как значения в его концах меньше или равны нулю).
(2) (2)
Тогда аналогично пункту 3.4 и лемме 2 получаем формулу для г(£) при £ € [Н + 2Н + гп_ 1]
г- (¿) - А, Н + ¿¡12)1 < I < Н + а,1,
г- (¿) - а(£ - Н - а-и) - А ¡'Г,1 а(^ - а{), Н + ^ ^ £ ^ Н + К, г(ч = (41)
г_(¿) - А - Е¡Г а(^ - Ог), Н + ^ £ ^ Н + аад+ь
г-(¿) - А - ^=1 а(Ъг - а»), Н + Ъг < 4 < 2Н + ^
(2) (2)
здесь V = 1,..., I, ад = 1,... ,1 - 1. Следовательно, при £ € [Н + ¿„_1, 2Н + ¿„_1] функция
г(Ь) ^ г_ (¿) - А < 0. Значит, с данным отрезком можно провести рассуждения первого случая
(2)
(на нем нет положительных значений функции г(£)) и далее для каждого отрезка [кН +
(2) (2)
(к + 1)Н + ¿„_1], к € N. Значит, функция г(Ь) < 0 при всех Ь>Н + ¿„_1. □
(2)
Следствие Леммы 3. При ограничении (40) функция г(£) при I > 2Н + является Т*-периодической функцией, имеет только отрицательные значения и описывается формулой
I
г(1) = Г-(¿) - А - ^ а(Ъг - Ог), I € N и {0}, I < п, (42)
г=1
(2)
Доказательство. По лемме 3 верно, что при t > h + tni_1 функция r(t) < 0, значит, при
t > 2h + i|l2-1 функция r(t - h) < 0 и функция F(r(t - h)) = 1. Тогда при t > 2h + t^ функцию r(t) можно представить в виде r(t) = Г- (t) + const. Из формулы (42) получаем, что r(2h + i^) = г-(2h + - А li=1 a(bi - ai),l е N U{0}, I <n (если I = 0, то последнего
(2) 7
слагаемого просто нет). Тогда при t > 2h + rn_1 функция r(t) = r_ (t) - А - Е¿=1 а(^г - а»), где I е N U {0}, I < п. Причем функция Г-(t) является Т*-периодической функцией, а при добавлении константы -А является отрицательнозначной. Результат гарантирует справедливость формулы (14) теоремы 1. □
Таким образом, функция специального вида r(t) поэтапно построена.
1. На первом этапе мы получили формулу для функции r(t) (31). На нем она является Т* -периодической функцией с положительными и отрицательными значениями.
2. На втором этапе получили формулу (37) для функции r(t). На нем происходит переходный процесс.
3. На третьем этапе получили формулы (41) и (42) для функции r(t). На нем по лемме 3 и следствию из нее функция r(t) переходит в периодический режим с только отрицательными значениями.
3.6. Исследование решения уравнения (3) на устойчивость. Докажем устойчивость построенного решения уравнения (3). Пусть || ■ || — стандартная норма в С[-h, 0], то есть
||r(i)|| = max |r(i)|.
te[ - Ml
Будем следовать определению устойчивости для дифференциального уравнения с отклоняющимся аргументом из работы [5]. Выберем е > 0 и покажем существование такого 8(e) > 0, что для начальных функций е С[-h, 0] и ф(£) е S неравенство ||^(i) - ф(£)|| < 8(e) влечет за собой неравенство ||r^(i) - гф(^)| < е для построенных по ним решений при t > 0. Будем искать 8(e) в виде Me, то есть докажем существование константы М такой, что необходимая
8(е) = Ме. Зафиксируем q>(t) Е S, обозначим возмущение этой начальной функции через Q(t) = ) — ф(£), будем считать, что \\Q(t)\\ < Ме и константа М > 0 в нашем распоряжении.
~ def
Обозначим значение функции Q(t) в точке ноль через 6 = 0(0). Из предполагаемой малости нормы добавки 0(t) следует, что введенная константа 0 удовлетворяет неравенству |0| < Ме.
Рассмотрим решение с начальной функцией ty(t) = y(t) + 0(i). Мы интересуемся малыми е, поэтому будем считать, что выполняется неравенство ty(t) < 0 на [—h, 0] (так как \\ty(t) — ty(t)\\ <
< 8(е), то 8 можно выбрать из условия 8 < min |ф(£)|). Тогда функция ty(t) отличается от
te[-h,o]
функций из множества S только «подправленным» значением в точке ноль: ^(0) = —d + 0. Следовательно, решение уравнения (3) с начальной функцией ty(t) отличается от решения с начальной функцией из множества S только заменой параметра —d на —d + 0. Тогда на первом этапе
(lt — d + 0, 0 <t<U,
r*(t) = < , ' (43)
v { 4(t — t*)+ lt* — d + 0,
r^(t + T*) = r^(t).
Выполнение ^t — d+0 > 0 следует из ограничения (29) и малости е. Отметим также, что из формул (31) и (43) верно |r<f(t) — r^(i)| = |0| для всех t Е [0,пТ], следовательно, \\r^(t) — гф(£)\\ = |6| на первом этапе.
Для оценки нормы разности значений функций гy(t) и rv(t) на втором этапе необходимо получить значение Д^. Проведем рассуждения аналогичные пункту 3.5 и получим
Д^ = Ч(Ш * — d + 0).
Отдельно подчеркнем, что ограничение (40) не зависит от параметра d, поэтому его выполнение остается верным. Разница значений функций гy(t) и гц(Ь) растет с увеличением параметра t на 2 этапе (по построению), а значит, достигает максимума в конечных точках этапа, то есть
\\r^(t) — ?>(i)\\ = max |r^(t) — r^(t)| < |0 + Д — Д^| < (1 + уЩ.
te[nT*,h+t^1]
Теперь рассмотрим третий этап. На нем все значения строго отрицательны. Заметим, что с момента установления периодического решения с только отрицательными значениями у обеих функций r^,(t) и r^(t) разница их значений останется постоянной. До этого момента влияние положительнозначных отрезков из второго этапа может быть не больше п штук, причем длины строго меньше длин отрезков с положительными значениями функции r(t) первого этапа. Следовательно,
\\r^(t) — r>(i)\\ = max |r^(t) — (t) < (1 + 2y)|0|.
Очевидно, что
(1 + 2у)|6| > (1+ у)|6| > Щ,
откуда следует, что константу М нужно выбирать исходя из ограничений на норму разности функций гy(t) и r^ft) на третьем этапе. Значит, необходимо
(1 + 2у)|6| < (1 + 2у)Ме<е,
тогда константу М нужно выбрать из условия
1
«М •
например, М
1 + 2у"
1
Таким образом, для любого е > 0 существует 8(e) = Me такая, что выполнено условие устойчивости решения уравнения (3). Следовательно, теорема 1 полностью доказана.
3.7. Численные результаты. В данном пункте приведем иллюстрации решений, полученных численно в приложении «WOLFRAM MATHEMATICA» при конкретных параметрах, удовлетворяющих найденным ограничениям, указанных в теореме 1.
Например, графики функций r(t) и R(t) при d = 2, а = 0.06, | = 2, t* = 1, Т* = 2, п = 6, h = 12.2, X = 1 на рис. 5.
Другой пример — графики функций r(t) и R(t) при d = 2, а = 2.5, | = 2, t* = 1.5, Т* = 3, п = 6, h = 19.8, X = 1 на рис. 6.
r{t) R(i)
5 10 15 20 25 30
Рис. 5. Графики функций r(t) и R(t), демонстрирующие поведение «стареющего» нейрона Fig. 5. Graphs of functions r(t) and R(t) demonstrating the behavior of an «aging» neuron
r(t) R{t)
10 20 30 40 50
Рис. 6. Графики функций r(t) и R(t), демонстрирующие поведение «умирающего» нейрона Fig. 6. Graphs of functions r(t) and R(t) demonstrating the behavior of a «dying» neuron
Заключение
В настоящей работе получено расширение результатов [1] в том смысле, что аналитически показано существование и устойчивость решения и поэтапно найдена область параметров, при которых решение от высоких периодических всплесков переходит к малым колебаниям, то есть существуют решения вида «замирающего» нейрона.
Для уравнения (3) доказана теорема 1. Для уравнения (1) доказана теорема 2, являющаяся следствием теоремы 1. Результаты работы численно проиллюстрированы.
В дальнейшем планируется рассмотреть объединение нескольких «замирающих» нейронов в сеть, в том числе их взаимодействие при различных формах цепи: цикл, полносвязная система
и другие. Для цепей «замирающих» нейронов планируется изучение вопроса существования и устойчивости периодических решений. Данное исследование может помочь созданию более точных и эффективных искусственных нейронных сетей. Свое применение работа также может найти в математической биологии и теории моделирования нейронных сетей.
Список литературы
1. Preobrazhenskaia M. M. Relay system of differential equations with delay as a perceptron model // In: Proceedings of the XXIV International Conference on Neuroinformatics «Advances in Neural Computation, Machine Learning, and Cognitive Research VI». 17-21 October 2022, Moscow, Russia. Cham: Springer Cham, 2022. P. 530-539.
2. Кащенко С. А., Майоров В. В. Модели волновой памяти. М.: ЛИБРОКОМ, 2009. 288 с.
3. Hutchinson G.E. Circular causal systems in ecology // Annals of the New York Academy of Sciences. Teleological Mechanisms. 1948. Vol. 50, no. 4. С. 221-246. DOI: 10.1111/ j.1749-6632.1948.tb39854.x.
4. Колесов А. Ю., Мищенко Е. Ф., Розов Н.Х. Об одной модификации уравнения Хатчинсона // Ж. вычисл. матем. и матем. физ. 2010. Т. 50, № 12. С. 2099-2112.
5. Эльсгольц Л. Э., Норкин С. Б. Введение в теорию дифференциальных уравнений с отклоняющемся аргументом. М.: Наука, 1971. 296 с.
References
1. Preobrazhenskaia MM. Relay system of differential equations with delay as a perceptron model. In: Kryzhanovsky B, Dunin-Barkowski W, Redko V, Tiumentsev Y. (eds.): Proceedings of the XXIV International Conference on Neuroinformatics «Advances in Neural Computation, Machine Learning, and Cognitive Research VI». 17-21 October 2022, Moscow, Russia. Cham: Springer Cham; 2022. P. 530-539.
2. Kashchenko SA. Models of Wave Memory. Cham: Springer International Publishing; 2015. 267 p. (Lecture Notes in Morphogenesis).
3. Hutchinson GE. Circular causal systems in ecology. Annals of the New York Academy of Sciences. Teleological Mechanisms. 1948;50(4):221-246. DOI: 10.1111/j.1749-6632.1948.tb39854.x.
4. Kolesov AY, Mishchenko EF, Rozov NK. A modification of Hutchinson's equation. Computational Mathematics and Mathematical Physics. 2010;50(12):2099-2112.
5. El'sgol'ts LE., Norkin SB. Introduction to the Theory and Application of Differential Equations with Deviating Arguments. New York: Academic Press; 1973. 356 p.
Зеленова Вера Константиновна — родилась в городе Гаврилов-Яме Ярославской области (2001). Окончила с отличием математический факультет Ярославского государственного университета им. П. Г. Демидова по направлению «Прикладная математика и информатика» (2023). С 2022 года работает в РНОМЦ «Центр интегрируемых систем» ЯрГУ в должности стажера-исследователя. Научные интересы — нейронаука, математическое моделирование.
Россия, 150003 Ярославль, ул. Советская, 14
Ярославский государственный университет им. П. Г. Демидова
E-mail: verzelenowa12@gmail.com
ORCID: 0009-0000-5974-6614
AuthorID (eLibrary.Ru): 1145522
