CC BY
14
Известия высших учебных заведений. Прикладная нелинейная динамика. 2022. Т. 30, № 4 Izvestiya Vysshikh Uchebnykh Zavedeniy. Applied Nonlinear Dynamics. 2022;30(4)
Научная статья DOI: 10.18500/0869-6632-2022-30-4-495-512
УДК 537.86 EDN: DOBQUT
Оценка параметров импульсного воздействия с помощью сети нейроподобных осцилляторов
Е.В. Навроцкая1'2, Д. Д. Кульминский1'3, В. И. Пономаренко1'2, М.Д. Прохоров1И
1 Саратовский филиал Института радиотехники и электроники им. В. А. Котельникова РАН, Россия 2 Саратовский национальный исследовательский государственный университет имени Н.Г. Чернышевского, Россия 3Научно-технологический университет «Сириус», Сочи, Россия E-mail: sidakev@gmail.com, kulminskydd@gmail.com, ponomarenkovi@gmail.com, Elmdprokhorov@yandex.ru Поступила в редакцию 12.05.2022, принята к публикации 26.05.2022, опубликована 1.08.2022
Аннотация. Цель исследования — разработка метода оценки параметров внешнего периодического импульсного воздействия с помощью спайковой сети нейроподобных осцилляторов. Методы. Исследовалась спайковая активность сети, состоящей из связанных между собой неидентичных нейроподобных осцилляторов ФитцХью-Нагумо, в зависимости от параметров периодического импульсного воздействия. Для оценки амплитуды внешнего импульсного сигнала мы расстраивали осцилляторы ФитцХью-Нагумо, находящиеся в устойчивом состоянии равновесия в отсутствие внешнего воздействия, по пороговому параметру, отвечающему за возбуждение осциллятора. Для оценки частоты возбуждающих импульсов мы расстраивали осцилляторы ФитцХью-Нагумо по параметру соотношения временных масштабов, от величины которого зависит собственная частота колебаний осциллятора. Также мы меняли длительность внешних импульсов. Результаты. Показано, что количество спайков, генерируемых сетью неидентичных осцилляторов ФитцХью-Нагумо, имеет монотонную зависимость от амплитуды внешнего импульсного сигнала и немонотонную зависимость от частоты импульсного сигнала. Количество спайков, генерируемых сетью, остается постоянным в широком диапазоне значений длительности внешних импульсов. Предложен метод оценки амплитуды и частоты импульсного воздействия. Работоспособность метода продемонстрирована при численном моделировании и в радиофизическом эксперименте. Заключение. Предложенный метод позволяет оценить амплитуду внешнего импульсного сигнала, зная его частоту, и оценить частоту этого сигнала, зная его амплитуду. Метод может быть востребован в робототехнике при решении задач обработки информации, связанных с управлением движением мобильных роботов.
Ключевые слова: нейроподобные осцилляторы, модель ФитцХью-Нагумо, спайковая нейронная сеть, периодическое импульсное воздействие, радиофизический эксперимент.
Благодарности. Исследование выполнено за счет гранта Российского научного фонда № 22-22-00150, https://rscf.ru/ project/22-22-00150/.
Для цитирования: Навроцкая Е. В., Кульминский Д. Д., Пономаренко В. И., Прохоров М.Д. Оценка параметров импульсного воздействия с помощью сети нейроподобных осцилляторов//Известия вузов. ПНД. 2022. T. 30, № 4. С. 495-512. DOI: 10.18500/0869-6632-2022-30-4-495-512. EDN: DOBQUT
Статья опубликована на условиях Creative Commons Attribution License (CC-BY 4.0).
Article
DOI: 10.18500/0869-6632-2022-30-4-495-512
Estimation of impulse action parameters using a network of neuronlike oscillators
E. V. Navrotskaya1'2, D.D. Kulminskiy1'3, V.I. Ponomarenko1'2, M.D. Prokhorov
1 Saratov Branch of Kotelnikov Institute of RadioEngineering and Electronics of RAS, Russia
2 Saratov State University, Russia 3Sirius University of Science and Technology, Bolshoy Sochi, Russia E-mail: sidakev@gmail.com, kulminskydd@gmail.com, ponomarenkovi@gmail.com, Elmdprokhorov@yandex.ru Received 12.05.2022, accepted 26.05.2022, published 1.08.2022
Abstract. Aim of the study is to develop a method for estimating the parameters of an external periodic impulse action using a spiking network of neuronlike oscillators. Methods. The spiking activity of a network consisting of coupled nonidentical neuronlike FitzHugh-Nagumo oscillators was studied, depending on the parameters of the periodic impulse action. To estimate the amplitude of the external impulse signal, we detuned the FitzHugh-Nagumo oscillators, which were in a stable state of equilibrium in the absence of an external action, by the threshold parameter responsible for the excitation of the oscillator. To estimate the frequency of excitatory pulses, we detuned the FitzHugh-Nagumo oscillators by the parameter characterizing the ratio of time scales, the value of which determines the natural frequency of oscillators. We also changed the duration of external pulses. Results. It is shown that the number of spikes generated by a network of nonidentical FitzHugh-Nagumo oscillators has a monotonic dependence on the amplitude of the external pulse signal and a nonmonotonic dependence on the frequency of the pulse signal. The number of spikes generated by the network remains constant over a wide range of external pulse durations. A method for estimating the amplitude and frequency of impulse action is proposed. The method efficiency is demonstrated in numerical simulations and in a radio physical experiment. Conclusion. The proposed method allows one to estimate the amplitude of an external pulse signal, knowing its frequency, and estimate the frequency of this signal, knowing its amplitude. The method can be used in robotics when solving the problems of information processing related to the motion control of mobile robots.
Keywords: neuronlike oscillators, FitzHugh-Nagumo model, spiking neural network, periodic impulse action, radio physical experiment.
Acknowledgements. This study was supported by the Russian Science Foundation, Grant No. 22-22-00150, https://rscf.ru/ project/22-22-00150/.
For citation : Navrotskaya EV, Kulminskiy DD, Ponomarenko VI, Prokhorov MD. Estimation of impulse action parameters using a network of neuronlike oscillators. Izvestiya VUZ. Applied Nonlinear Dynamics. 2022;30(4):495-512. DOI: 10.18500/08696632-2022-30-4-495-512
This is an open access article distributed under the terms of Creative Commons Attribution License (CC-BY 4.0).
Введение
Искусственные нейронные сети, построенные по принципу организации и функционирования сетей нейронов головного мозга, но состоящие из взаимодействующих между собой искусственных нейронов, широко используются в самых разных научных дисциплинах для решения задач идентификации, классификации, прогнозирования и адаптивного управления. Первоначально, в качестве узловых элементов искусственных нейронных сетей использовались формальные нейроны [1-6], представляющие собой пороговые элементы, осуществляющие преобразование вход-выход [7]. Однако такие формальные нейроны слишком просты и не имеют собственной динамики, а состоящие из них сети очень далеки от нейронных сетей мозга.
Для моделирования процессов активности мозга требуются более адекватные модели нейронов в виде нелинейных динамических систем [8]. Наиболее известными динамическими моделями нейронной активности, подробно рассмотренными в обзоре [9], являются модели Ходжкина-Хаксли, Моррис-Лекара, Хиндмарша-Роуза и ФитцХью-Нагумо, описываемые обыкновенными дифференциальными уравнениями, и модели Ижикевича, Рулькова и Курбажа-Некоркина, описываемые точечными отображениями. Параметры таких модельных нейронов имеют физиологический смысл, а сами эти нейроны способны демонстрировать присущую реальным нейронам
сложную динамику, в том числе спайки (импульсы), которые возникают, когда мембранный потенциал нейрона превышает некоторый пороговый уровень.
Построенные из таких нейроподобных осцилляторов нейронные сети, называемые спай-ковыми или импульсными нейронными сетями, позволяют эффективно моделировать процессы обработки и запоминания информации головным мозгом [10]. Спайковые нейронные сети успешно применяются на практике для автоматического распознавания звуковой и зрительной информации [11,12], классификации характерных паттернов в биомедицинских сигналах [13-16] и для решения задач обработки информации, связанных с управлением движением роботов [17-20]. По сравнению с остальными искусственными нейронными сетями, спайковые нейронные сети обычно требуют меньшего числа нейронов для решения поставленных задач.
Внешняя стимуляция нейронов может приводить к изменению амплитуды и частоты генерируемых ими спайков [21,22]. Поскольку спайки играют важную роль в передаче информации между нейронами, подаваемое на нейронную сеть внешнее воздействие способно повлиять на процесс обработки информации в сети [23-25]. Таким образом, задача оценки параметров внешнего воздействия представляет большой интерес, например, в робототехнике и нейрофизиологии. Отметим, что спайковые нейронные сети применялись ранее для пороговой классификации внешнего воздействия, подаваемого на нейроны сети [26], и для оценки амплитуды внешнего гармонического сигнала [27]. Известны также методы восстановления параметров внешнего воздействия, основанные на реконструкции модельных уравнений осцилляторов [28-31].
В данной работе мы впервые рассматриваем задачу оценки амплитуды и частоты импульсного воздействия, подаваемого на спайковую нейронную сеть, как в численном, так и в радиофизическом эксперименте, а также исследуем влияние формы и длительности импульсов на генерацию спайковой активности.
1. Динамика нейроподобного осциллятора ФитцХью-Нагумо под внешним периодическим импульсным воздействием
В качестве узлового элемента спайковой нейронной сети выберем нейроподобный осциллятор, описываемый упрощенными дифференциальными уравнениями ФитцХью-Нагумо [32,33], динамика которого под внешним импульсным воздействием описывается следующими модельными уравнениями:
и3 а)
ей(1)=и(1) - ь(1) + у(1), (1)
■Ь(1 ) = и(1) + а,
где и(Ь) описывает динамику мембранного потенциала нейрона; отвечает за восстановление потенциала покоя мембраны; е — параметр соотношения временных масштабов, который обычно является малой величиной; а — пороговый параметр; у(Ь) — внешнее воздействие, представляющее собой прямоугольные импульсы. Уравнения ФитцХью-Нагумо являются эталонной моделью возбудимой динамики нейронов. В отличие от записи уравнений ФитцХью-Нагумо, приведенной в обзоре [9], во втором уравнении в (1) отсутствует член -Ъи, что существенно упрощает анализ системы [34] и ее реализацию в радиофизическом эксперименте.
В отсутствие внешнего воздействия осциллятор (1) при а > 1 находится в устойчивом состоянии равновесия. При этом действие внешнего сигнала может вызывать генерацию системой спайков (импульсов возбуждения), поэтому такое состояние называют возбудимым. При а < 1 и у(^) = 0 осциллятор (1) демонстрирует периодические автоколебания, которые возникают в результате бифуркации Андронова-Хопфа при а = 1 [32]. Мы будем рассматривать только случаи а > 1, соответствующие возбудимому состоянию осциллятора ФитцХью-Нагумо, при котором генерация спайков отсутствует без внешнего воздействия.
Динамика осциллятора ФитцХью-Нагумо под внешним гармоническим воздействием исследовалась, в том числе экспериментально, в работах [22,27]. В настоящей работе мы подробно рассмотрим случай внешнего периодического импульсного воздействия. Такое воздействие применяется, например, при электрической стимуляции отделов головного мозга для управления уровнем синхронизации нейронов при лечении некоторых патологий мозга [35,36].
Вид периодического импульсного сигнала у(Ь), подаваемого на осцилляторы ФитцХью-Нагумо, показан на рис. 1. Сигнал у(Ь) представляет собой прямоугольные импульсы с амплитудой В, периодом Т и длительностью М. Для удобства мы используем в статье для описания импульсов их частоту / = 1/Т и относительную длительность И = М/Т. Преимущественно рассматривается случай, когда амплитуда импульсов меняется от 0 до 1. Такое однополярное воздействие моделирует ситуацию, при которой после прохождения импульса длительностью М нейроосциллятор находится в автономном режиме в течение времени Т — М (рис. 1, a). Однако такой вид внешнего воздействия на реальные нейроны не всегда оказывается возможным. Например, при лечении пациентов с болезнью Паркинсона с помощью импульсной стимуляции отделов головного мозга используют преимущественно двухполярные электрические стимулы [36], состоящие из двух прямоугольных импульсов, имеющих разную полярность (рис. 1, Ь). Это позволяет избежать накопления заряда в живых тканях мозга за счет равенства нулю общего тока внешних стимулов. Оптимальный вид внешних импульсов для десинхронизации осцилляторов сети исследован в [37].
На рис. 2, а разными цветами показано, какое количество спайков N за время £ = 100 демонстрирует нейроподобный осциллятор ФитцХью-Нагумо (1) в зависимости от амплитуды и частоты подаваемого на него внешнего импульсного воздействия у(Ь). Рисунок построен при изменении частоты / и амплитуды В импульсного сигнала от 0 до 1с шагом 0.01 для случая И = 0.5 и параметров осциллятора: а = 1.1 и е = 0.1. Начальные условия одинаковы для каждой точки на плоскости параметров (/, В).
Как видно из рис. 2, а, при малых значениях В осциллятор (1) не генерирует спайки и, соответственно, число спайков N = 0. То есть при малых В внешний стимул слишком слаб для возбуждения нейроподобного осциллятора. При амплитуде В, превышающей некоторое пороговое значение Вр, которое зависит от частоты / воздействия, осциллятор ФитцХью-Нагумо начинает генерировать спайки. Количество спайков растет с увеличением В и при фиксированном Ь достигает максимального значения ^тах, которое тоже зависит от величины /. Например, при частоте импульсов / = 0.24, близкой к собственной частоте /3 периодических автоколебаний, демонстрируемых осциллятором (1) при е = 0.1, а < 1 и у(Ь) = 0, величина Nmax = 24 при £ = 100. Это означает, что каждый импульс воздействия вызывает генерацию спайка. Временная
У 0-
м <->
в
у 0
а
Рис. 1. Вид импульсного воздействия y(t) при М = Т/2 (D = 0.5). а — Однополярный импульсный сигнал. b — Двухполярный импульсный сигнал
Fig. 1. Shape of impulse action y(t) at M = T/2 (D = 0.5). а — Unipolar pulse signal. b — Bipolar pulse signal
Рис. 2. a — Количество спайков N, генерируемое осциллятором (1) за время t = 100 при а = 1.1 и е = 0.1, в зависимости от частоты f и амплитуды В внешнего импульсного воздействия y(t) при D = 0.5 (цвет online). b — Временная реализация u(t) при В = 0.5 и f = 0.24. c — Временная реализация u(t) при В = 0.5 и / = 0.48
Fig. 2. a — The number of spikes N generated by the oscillator (1) over time t = 100 at a = 1.1 and e = 0.1, depending on the frequency f and amplitude В of external impulse action y(t) at D = 0.5 (color online). b — Time series of u(t) at В = 0.5 and f = 0.24. c — Time series of u(t) at В = 0.5 and f = 0.48
реализация динамической переменной и(Ъ) при В = 0.5 и / = 0.24 приведена на рис. 2, Ь. На этом рисунке частота следования спайков совпадает с частотой внешнего импульсного сигнала, и N = 24.
При В > Вр и небольших значениях / каждый импульс, действующий на осциллятор, вызывает генерацию спайка. Например, при / = 0.01 за время наблюдения £ = 100 на осциллятор приходит один импульс и вызывает один спайк, при / = 0.02 за время £ = 100 на осциллятор действуют два импульса, вызывающие два спайка, и так далее. В результате N линейно зависит от / в области / ^ ¡'3.
Реальные нейроны, а также их модели в виде нелинейных динамических систем, обладают свойством рефрактерности, которое состоит в том, что после генерации спайка мембранный потенциал нейрона некоторое время остается малой величиной, и в течение этого периода рефрактерности нейрон не реагирует на внешние воздействия [9]. Когда частота внешнего воздействия
становится достаточно большой, некоторые импульсы воздействуют на нейроподобный осциллятор в тот момент, когда он является невозбудимым из-за рефрактерности, и поэтому не вызывают генерацию спайка. По этой причине при / > /3 зависимость N (/) перестает быть монотонной. Например, на рис. 2, c приведена временная реализация динамической переменной и(Ь) при В = 0.5 и / = 0.48. На этом рисунке частота следования спайков в два раза меньше частоты внешнего импульсного сигнала и N = 24, как на рис. 2, Ь. При достаточно больших / частота следования спайков может быть в три и более раз меньше частоты внешнего импульсного сигнала.
Таким образом, спайковая активность нейроподобного осциллятора ФитцХью-Нагумо зависит как от параметров самого осциллятора, так и от параметров внешнего импульсного воздействия. В следующих разделах мы рассмотрим сети, состоящие из связанных между собой неидентичных осцилляторов ФитцХью-Нагумо (1), и покажем возможность их использования для оценки параметров внешнего периодического импульсного воздействия.
2. Использование сети осцилляторов ФитцХью-Нагумо для оценки параметров импульсного воздействия при численном моделировании
Рассмотрим спайковую нейронную сеть, состоящую из связанных между собой нейроподоб-ных осцилляторов ФитцХью-Нагумо, динамика которых описывается модельными уравнениями следующего вида:
U3(t)
егщ(1) = Ui(t) - Vi(t) +22 kij(Uj(t) - иг(t)) + y(t), (2)
Vi(t) = Ui(t) + ai,
где i = 1, ...,L — номер осциллятора; L — количество осцилляторов; ki,j — коэффициент связи, действующей со стороны j-го элемента на г-й. В общем случае все осцилляторы сети являются неидентичными, но находятся под действием одинакового внешнего импульсного воздействия y(t).
При численном моделировании мы исследуем сеть, состоящую из L = 50 осцилляторов (2). Архитектуру связей выбираем таким образом, чтобы на каждый из осцилляторов действовало по десять других осцилляторов, номера которых выбраны случайно. Это означает, что в уравнении (2) из 49 коэффициентов связи ki,j для каждого осциллятора 39 коэффициентов равны нулю. Значения всех ненулевых коэффициентов связей в сети выбраны одинаковыми: kij = 0.01. При таких малых значениях ki,j спайки в осцилляторах сети не возникают без внешнего воздействия. Для всех рассмотренных в этом разделе примеров архитектура связей в сети и сила связей одинакова.
Спайковая активность исследуемой нейронной сети сложным образом зависит от параметров внешнего периодического импульсного воздействия. Такая сеть может генерировать одинаковое количество спайков при отличающихся параметрах импульсного сигнала. Поэтому одновременная оценка всех параметров внешнего стимула y(t) по отклику нейронной сети в общем случае оказывается невозможной. Мы рассмотрим более простую ситуацию, при которой требуется оценить амплитуду импульсного сигнала y(t), зная его частоту, и ситуацию, когда требуется оценить частоту сигнала y(t), зная его амплитуду. Отдельно рассмотрим влияние длительности импульсов на генерацию спайковой активности.
2.1. Оценка амплитуды импульсного воздействия. Как показано выше, в разделе 1, даже по отклику на внешнее воздействие одного нейроподобного осциллятора, находящегося в возбудимом состоянии, можно очень грубо оценить амплитуду стимула. Повысить точность оценки амплитуды внешнего периодического импульсного воздействия позволяет использование спайковой сети неидентичных осцилляторов, причем, чем больше число L осцилляторов в
сети, тем точнее оценка В. Для оценки величины В осцилляторы сети следует расстроить по параметру от величины которого зависит пороговое значение Вр, а также количество спайков, генерируемое каждым г-м осциллятором.
В исследуемой сети все осцилляторы ФитцХью-Нагумо были неидентичными и отличались величиной параметра а^, который принимал значения от а\ = 1.1 до а$о = 1.2715 с шагом 0.0035. При таких значениях нет генерации спайков в отсутствие внешнего воздействия. Мы меняли амплитуду В импульсного сигнала от 0 до 1 с шагом 0.01 и для каждого значения В подсчитывали общее количество спайков, генерируемых всеми 50 осцилляторами за время £ = 100. На рис. 3 построены зависимости для трех разных значений / при И = 0.5 и е^ = е = 0.1. Такие графики позволяют оценить неизвестную амплитуду В внешнего импульсного воздействия при известной частоте воздействия /.
Подсчитав количество спайков N, наблюдаемых в сети за выбранное время, можно определить В. Например, если N = 800 при £ = 0.24, то В = 0.42. Чем более плавно растет N, тем точнее оценка В. Из трех кривых, представленных на рис. 3, наиболее медленный рост демонстрирует зависимость N(В) при частоте импульсов / = 0.24. Эта кривая выходит на плато лишь при больших В, причем число спайков на этом плато является максимально возможным (Ж = 1200) для сети из 50 осцилляторов при / = 0.24. Как отмечалось в разделе 1, частота /3 собственных автоколебаний осцилляторов (1) при е = 0.1 и а < 1 примерно равна 0.24. Таким образом, если имеется возможность выбирать частоту воздействия на спайковую сеть, то для более точной оценки В следует использовать / ~ Д. Если частота сигнала у{1) не может быть изменена, но заранее известна, то для более точной оценки В надо таким образом подобрать параметры осцилляторов, чтобы их собственные частоты также были близкими к частоте воздействия /3 ~ /.
Мы исследовали эффективность метода при различной архитектуре связей в спайковой нейронной сети и при различном количестве связей между осцилляторами. Установлено, что эти характеристики слабо влияют на точность оценки амплитуды внешнего импульсного воздействия. Более существенное влияние на точность метода оказывают значения коэффициентов связи к^ между осцилляторами. При больших к^ точность метода снижается, так как зависимость N ( В) становится более крутой, быстро переходя от минимального до максимального значения N.
Мы сравнили спайковую активность сети из нейроподобных осцилляторов (2) для случаев изменения амплитуды импульсов от 0 до 1 и от —1 до 1.
0.0 0.2 0.4 0.6 0.8 1.0 В
Рис. 3. Зависимости количества спайков N, генерируемых сетью (2) за время t = 100, от амплитуды В внешнего импульсного воздействия y(t) при D = 0.5, L = 50, ei = е = 0.1, a,i £ [1.1; 1.2715] для f = 0.12 (синяя кривая), f = 0.24 (красная кривая) и f = 0.36 (зеленая кривая) (цвет online)
Fig. 3. Dependences of the number of spikes N generated by the network (2) over time t = 100 on the amplitude В of external impulse action y(t) at D = 0.5, L = 50, £; = e = 0.1, and m £ [1.1; 1.2715] for f = 0.12 (blue line), f = 0.24 (red line), and f = 0.36 (green line) (color online)
0.0 0.2 0.4 0.6 0.8 1.0
\в\
Рис. 4. Зависимости количества спайков N, генерируемых сетью (2) за время t = 100, от |В| для случаев однополярного (красная кривая) и двухполярного (синяя кривая) импульсного воздействия с частотой f = 0.24. Параметры сети такие же, как для рис. 3 (цвет online)
Fig. 4. Dependences of the number of spikes N generated by the network (2) over time t = 100 on |B| for the cases of unipolar (red line) and bipolar (blue line) impulse action with the frequency f = 0.24. The network parameters are the same as for Fig. 3 (color online)
Полученные результаты иллюстрирует рис. 4, на котором по оси абсцисс отложен 1В |. Как и следовало ожидать, импульсное воздействие с амплитудой В, изменяющейся от —1 до 1, оказывает более заметное влияние на спайковую активность сети. При таком двухполярном импульсном воздействии пороговое значение Вр, при котором сеть начинает генерировать спайки, оказывается меньше, чем при однополярном импульсном воздействии. Кроме того, при двухполяр-ных импульсах количество спайков достигает максимального значения при меньших значениях 1В |, чем при однополярных импульсах.
2.2. Оценка частоты импульсного воздействия. Рассмотрим теперь задачу оценки частоты / внешнего импульсного сигнала у(Ь) в предположении, что нам известна амплитуда этого сигнала. Для решения этой задачи расстроим осцилляторы сети (2) не по параметру а^ как в разделе 2.1, а по параметру е^, величина которого определяет частоту Д периодических автоколебаний осцилляторов ФитцХью-Нагумо (1) при а < 1 в отсутствие внешнего воздействия.
Все осцилляторы ФитцХью-Нагумо в исследуемой сети из 50 элементов были неидентичными и отличались величиной параметра е^, который принимал значения от е\ = 0.02 до £50 = 0.51 с шагом 0.01. На рис. 5, a построены зависимости N(/) для двух разных значений В при И = 0.5 и аг = а = 1.1.
В отличие от зависимостей N (В), представленных на рис. 3, зависимости N (/) не являются монотонными. При различных значениях / сеть может генерировать одинаковое количество спайков N. Аналогичную картину мы наблюдали для одиночного осциллятора ФитцХью-Нагумо (см. рис. 2). Следовательно, для оценки / может быть недостаточным просто подсчитать количество спайков в сети. Например, при В = 0.4 число спайков N = 635 может наблюдаться как при / = 0.13, так и при / = 0.44 (см. рис. 5, a). Для того чтобы определить частоту импульсного воздействия в этом случае необходим дополнительный анализ.
Нами установлено, что на участках роста зависимости N (/) все или почти все осцилляторы сети (за исключением осцилляторов с наименьшими или наибольшими значениями е^) генерируют одинаковое количество спайков при фиксированном значении /. На участках, где зависимость N (/) уменьшается, осцилляторы, имеющие большую расстройку относительно друг друга по параметру е%, демонстрируют разное количество спайков при фиксированном значении /. Значит, для оценки величины / по числу спайков N в случае неоднозначности зависимости N (/) нужно дополнительно сравнить количество спайков N1, генерируемое двумя осцилляторами, у которых параметры существенно отличаются. При выбранном диапазоне изменения параметра е% можно
Рис. 5. a — Зависимости количества спайков N, генерируемых сетью (2) за время t = 100, от частоты f внешнего импульсного воздействия y(t) при D = 0.5, L = 50, a,i = а = 1.1, ei £ [0.02; 0.51] для В = 0.2 (синяя кривая) и В = 0.4 (красная кривая) (цвет online). b — Временная реализация ug(t) при eg = 0.1, В = 0.4, f = 0.13. c — Временная реализация u20(t) при е20 = 0.21, В = 0.4, / = 0.13. d — Временная реализация wg(i) при eg = 0.1, В = 0.4, f = 0.44. е — Временная реализация U20 (t) при £20 = 0.21, В = 0.4, f = 0.44
Fig. 5. a — Dependences of the number of spikes N, generated by the network (2) over time t = 100, on the frequency f of external impulse action y(t) at D = 0.5, L = 50, a,i = a = 1.1, and ei £ [0.02; 0.51] for В = 0.2 (blue line) and В = 0.4 (red line) (color online). b — Time series of ug(t) at eg = 0.1, В = 0.4, and f = 0.13. c — Time series of u20(t) at e20 = 0.21, В = 0.4, and f = 0.13. d — Time series of ug(t) at eg = 0.1, В = 0.4, and f = 0.44. е — Time series of U20(t) at £20 = 0.21, В = 0.4, and f = 0.44
сравнивать Щ, например, для осцилляторов с £9 = 0.1 и £20 = 0.21. Если при N = 635 имеем N9 = N20, то f = 0.13, а если N9 = N20, то f = 0.44.
На рис. 5, Ь, c приведены временные реализации переменных щ(Ь) и и20(1), соответственно, при В = 0.4 и £ = 0.13. На обоих графиках количество спайков совпадает: N<9 = Ы20 = 13. В этом случае частота / сигнала у(Ь) соответствует восходящей ветви зависимости N (/) при N = 635. На рис. 5, d, e приведены временные реализации переменных и9(Ь) и -и^^), соответственно, при В = 0.4 и £ = 0.44. Количество спайков на рис. 5, d и рис. 5, в отличается: N9 = 22 и Ы20 = 11. В этом случае частота / сигнала у(Ь) соответствует нисходящей ветви зависимости N (/) при N = 635.
2.3. Влияние длительности импульсов на генерацию спайковой активности. Спай-ковая активность сети нейроподобных осцилляторов ФитцХью-Нагумо (2) зависит не только от амплитуды и частоты внешнего импульсного сигнала у(Ь), но и от длительности импульсов. Мы исследовали влияние относительной длительности И импульсов на количество генерируемых спайков. Осцилляторы ФитцХью-Нагумо, как и в разделе 2.1, были расстроены по параметру а^ который принимал значения от а\ = 1.1 до а50 = 1.2715 с шагом 0.0035. Мы меняли длительность
0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0
D Ъ D
Рис. 6. Зависимости количества спайков N, генерируемых сетью (2) за время t = 100, от относительной длительности D импульсов сигнала y(t) при L = 50, ei = е = 0.1, a,i e [1.1; 1.2715]. a — f = 0.24, В = 0.2 (синяя кривая), В = 0.6 (красная кривая), В = 1 (зеленая кривая). b — В = 0.6, / = 0.12 (синяя кривая), f = 0.24 (красная кривая), f = 0.36 (зеленая кривая) (цвет online)
Fig. 6. Dependences of the number of spikes N generated by the network (2) over time t = 100 on the relative duration D of impulse signal y(t) at L = 50, £; = e = 0.1, and a; e [1.1; 1.2715]. a — f = 0.24 and В = 0.2 (blue line), В = 0.6 (red line), and B=1 (green line). b — B=0.6 and f=0.12 (blue line), f=0.24 (red line), and f=0.36 (green line) (color online)
И импульсов от 0 до 1с шагом 0.01 и для каждого И подсчитывали общее количество спайков, генерируемых всеми 50 осцилляторами за время £ = 100. На рис. 6, а построены зависимости N (И) для трех разных значений В при £ = 0.24 и ег = е = 0.1.
Под действием очень коротких импульсов осцилляторы из-за своей инерционности не успевают сгенерировать спайки, поэтому N = 0 при малых значениях И. С увеличением И наблюдается быстрый рост N, и зависимости N (И) выходят на плато, значение N на котором зависит от амплитуды импульсов. В достаточно широком диапазоне значений И величина N остается максимальной, а затем уменьшается с ростом И. Случай И =1 соответствует постоянной внешней силе, действующей на осцилляторы. При таком воздействии спайковая активность отсутствует.
На рис. 6, Ь построены зависимости N (И) для трех разных значений / при В = 0.6. Вид этих зависимостей качественно совпадает с графиками N (И) на рис. 6, а. Графики N (И) на рис. 6, Ь хорошо согласуются с зависимостями N (В) на рис. 3. Из рис. 6 следует, что в общем случае оценить длительность периодического импульсного воздействия по отклику сети не представляется возможным. Вместе с тем, количество спайков, генерируемых сетью, остается постоянным в широком диапазоне значений И.
3. Оценка параметров внешнего импульсного воздействия с помощью малой сети осцилляторов ФитцХью-Нагумо в радиофизическом эксперименте
Для экспериментального исследования спайковой активности в сети, состоящей из связанных неидентичных нейроподобных осцилляторов, описываемых уравнениями ФитцХью-Нагумо (2), нами была построена радиотехническая установка. Принципиальная схема реализованных нами радиотехнических генераторов ФитцХью-Нагумо подробно описана в работе [38]. В отличие от описанных выше численных исследований, в радиофизическом эксперименте исследовалась малая сеть, состоящая из 10 связанных генераторов. Для реализации связей между генераторами был использован предложенный нами подход, в основе которого лежит программный способ формирования сигналов, отвечающих за связь между генераторами [39]. Суть такого подхода состоит в том, что сигналы напряжения с выхода каждого генератора подаются на аналоговые входы многоканального аналого-цифрового преобразователя и оцифровываются для дальнейшей обработки. Затем, с помощью программы на ЬаЬУ1е"№ проводится преобразование этих сигналов, и формируются сигналы, отвечающие за связь генераторов. К каждому из сигналов связи
в соответствии с уравнением (2) добавляется оцифрованный сигнал импульсного воздействия. Сформированные таким образом сигналы преобразовываются в аналоговый вид с помощью многоканального цифро-аналогового преобразователя и подаются на вход каждого генератора.
Такой подход позволяет задать произвольную архитектуру и вид связей между генераторами. Архитектура связей была выбрана таким образом, чтобы на каждый из генераторов действовало по два других генератора, номера которых были выбраны случайно. В соответствии с модельным уравнением (2) в установке реализована простая линейная связь между генераторами, моделирующая электрическую синаптическую связь между нейронами. При аналоговом моделировании такая связь соответствует связи двух генераторов через резистор [40,41].
Сначала мы расстроили генераторы ФитцХью-Нагумо по параметру щ, который принимал значения от а\ = 1.1 В до а\0 = 1.28 В с шагом 0.02 В. Мы меняли амплитуду В импульсного сигнала от 0 до 1 В с шагом 0.02 В и подсчитывали общее количество спайков, генерируемых всеми десятью генераторами за 100 мс при фиксированном значении В. На рис. 7 построена зависимость N (В) при f = 240 Гц, D = 0.5, ^ = £ = 0.1 мс. Значения всех ненулевых коэффициентов связи в сети были выбраны одинаковыми: fc^- = 0.01. Построенный график позволяет оценить неизвестную амплитуду В внешнего импульсного воздействия, подсчитав количество спайков N, генерируемых в сети. Например, если N = 156, то В = 0.16 В. Результаты, полученные в радиофизическом эксперименте, хорошо согласуются с приведенными выше результатами численных исследований сети нейроподобных осцилляторов (2).
Затем мы расстроили генераторы ФитцХью-Нагумо по параметру Ei, который принимал значения от е\ = 0.05 мс до е\0 = 0.56 мс. Шаг изменения Ei был неравномерным и определялся емкостью имеющихся в наличии конденсаторов. Мы меняли в эксперименте частоту f импульсного сигнала от 20 Гц до 1000 Гц с шагом 20 Гц и для каждого значения f подсчитывали общее количество спайков, генерируемых всеми десятью генераторами за 100 мс. На рис. 8, a построена зависимость N (f) при В = 0.6 В, D = 0.5, ai = а = 1.1.
Так же, как и в численном эксперименте, зависимость N (f) является немонотонной, и при различных значениях f сеть может генерировать одинаковое количество спайков. Например, число спайков N = 94 может наблюдаться в сети при f = 120 Гц и при f = 660 Гц. Для оценки величины f нужно сначала подсчитать общее количество спайков N в сети, а затем сравнить количество спайков Ni, генерируемое двумя генераторами, имеющими отличающиеся значения Ei. Мы сравнивали 4-й и 5-й генераторы, для которых е4 = 0.18 мс и = 0.25 мс, соответственно.
На рис. 8, b, c приведены временные реализации переменных и4(t) и и5(£), соответственно, при f = 120 Гц. На обоих графиках количество спайков совпадает: N4 = N5 = 12. В этом случае
250 -г
200 -
150 -
N
100 -
50 -
0 -
0.0 0.2 0.4 0.6 0.8 1.0
в, V
Рис. 7. Зависимость количества спайков N, генерируемых сетью из 10 радиотехнических генераторов за время ¿=100 мс, от амплитуды В внешнего импульсного воздействия при f=240 Гц, D=0.5, £i =£=0.1 мс, ai G [1.1; 1.28]
Fig. 7. Dependence of the number of spikes N generated by a network of 10 radio technical generators over time t = 100 ms on the amplitude В of external impulse action at f = 240 Hz, D = 0.5, £i = £ = 0.1 ms, and ai G [1.1; 1.28]
Рис. 8. a — Зависимость количества спайков N, генерируемых сетью из 10 радиотехнических генераторов за время t = 100 мс, от частоты f внешнего импульсного воздействия при В = 0.6 В, D = 0.5, ai = а =1.1, £i G [0.05; 0.56]. b — Временная реализация и4(t) при £4 = 0.18 мс, f = 120 Гц. c — Временная реализация U5 (t) при £5 = 0.25 мс, f = 120 Гц. d — Временная реализация и4 (t) при г4 = 0.18 мс, f = 660 Гц. e — Временная реализация и5 (t) при £5 = 0.25 мс, f = 660 Гц
Fig. 8. a — Dependence of the number of spikes N generated by a network of 10 radio technical generators over time t = 100 ms on the frequency f of external impulse action at В = 0.6 V, D = 0.5, ai = a = 1.1, and Si G [0.05; 0.56]. b — Time series of U4(t) at £4 = 0.18 ms and f = 120 Hz. c — Time series of U5 (t) at £5 = 0.25 ms and f = 120 Hz. d — Time series of u4(t) at £4 = 0.18 ms and f = 660 Hz. e — Time series of u5 (t) at £5 = 0.25 ms and f = 660 Hz
частота / импульсного сигнала соответствует восходящей ветви зависимости Ж (/) при Ж = 94. На рис. 8, d, e приведены временные реализации переменных и4(£) и и5 (£), соответственно, при f=660 Гц. Количество спайков на рис. 8, d и рис. 8, e различно: N4=22 и =11. В этом случае частота / импульсного сигнала соответствует нисходящей ветви зависимости Ж (/) при Ж=94.
Заключение
Нами предложен метод оценки амплитуды и частоты импульсного воздействия, подаваемого на спайковую нейронную сеть. В качестве элементов сети использованы неидентичные нейро-подобные осцилляторы ФитцХью-Нагумо. Показано, что спайковая активность исследуемой нейронной сети сложным образом зависит от параметров внешнего периодического импульсного воздействия. Поскольку такая сеть может генерировать одинаковое количество спайков при отличающихся параметрах импульсного сигнала, одновременная оценка всех параметров внешнего стимула по отклику нейронной сети в общем случае оказывается невозможной. Поэтому мы решали задачи оценки амплитуды и частоты импульсного воздействия по отдельности.
Для оценки амплитуды внешнего импульсного воздействия мы расстраивали осцилляторы сети по параметру а, отвечающему за возбуждение осциллятора, а для оценки частоты возбуждающих импульсов расстраивали осцилляторы по параметру е, от величины которого зависит собственная частота колебаний осциллятора. Предложенный метод реализован как в численном, так и в радиофизическом эксперименте, показав хорошую согласованность полученных результатов. Также исследовано влияние формы и длительности внешних импульсов на генерацию спайковой активности в сети.
Полученные результаты могут быть востребованы в робототехнике при решении задач обработки информации, связанных с управлением движением роботов [19,42]. Например, спайковые нейронные сети можно использовать для оценки характеристик внешних сигналов, регистрируемых сенсорами мобильного робота. Затем, на основании полученных значений с помощью других систем управления можно изменить при необходимости режим движения робота.
Список литературы
1. Haykin S. Neural Networks and Learning Machines. Upper Saddle River, New Jersey: Prentice Hall, 2009. 906 p.
2. Ripley B. D. Pattern Recognition and Neural Networks. Cambridge: Cambridge University Press, 1996. 403 p. DOI: 10.1017/СВ09780511812651.
3. Egmont-Petersen M., de Ridder D., Handels H.Image processing with neural networks — a review // Pattern Recognition. 2002. Vol. 35, no. 10. P. 2279-2301. DOI: 10.1016/S0031-3203(01)00178-9.
4. Dwarakish G. S., Rakshith S., Natesan U. Review on applications of neural network in coastal engineering // Artificial Intelligent Systems and Machine Learning. 2013. Vol. 5, no. 7. P. 324-331.
5. Frolov N., Maksimenko V., Luttjohann A., Koronovskii A., Hramov A. Feed-forward artificial neural network provides data-driven inference of functional connectivity // Chaos. 2019. Vol. 29, no. 9. P. 091101. DOI: 10.1063/1.5117263.
6. Hramov A. E., Maksimenko V.A., Pisarchik A. N. Physical principles of brain-computer interfaces and their applications for rehabilitation, robotics and control of human brain states // Phys. Rep. 2021. Vol. 918. P. 1-133. DOI: 10.1016/j.physrep.2021.03.002.
7. McCulloch W.S., Pitts W. A logical calculus of the ideas immanent in nervous activity // Bulletin of Mathematical Biophysics. 1943. Vol. 5, no. 4. P. 115-133. DOI: 10.1007/BF02478259.
8. Rabinovich M. I., Varona P., Selverston A. I., Abarbanel H. D. I. Dynamical principles in neuroscience // Rev. Mod. Phys. 2006. Vol. 78, no. 4. P. 1213-1265. DOI: 10.1103/RevModPhys.78.1213.
9. Дмитричев А. С., Касаткин Д. В., Клиньшов В. В., Кириллов С. Ю., Масленников О. В., Щапин Д. С., Некоркин В. И. Нелинейные динамические модели нейронов: Обзор // Известия вузов. ПНД. 2018. Т. 26, № 4. С. 5-58. DOI: 10.18500/0869-6632-2018-26-4-5-58.
10. Quiroga R. Q., Panzeri S. Principles of Neural Coding. Boca Raton: CRC Press, 2013. 663 p. DOI: 10.1201/b14756.
11. Yu D., Deng L. Automatic Speech Recognition: A Deep Learning Approach. London: Springer, 2015. 321 p. DOI: 10.1007/978-1-4471-5779-3.
12. Hossain M. S., Muhammad G. Emotion recognition using deep learning approach from audio-visual emotionalbig data//Information Fusion. 2019. Vol. 49. P. 69-78. DOI: 10.1016/j.inffus.2018.09.008.
13. Kasabov N. K. Evolving Connectionist Systems: The Knowledge Engineering Approach. London: Springer, 2007. 451 p. DOI: 10.1007/978-1-84628-347-5.
14. Lobov S., Mironov V., Kastalskiy I., Kazantsev V. A spiking neural network in sEMG feature extraction// Sensors. 2015. Vol. 15, no. 11. P. 27894-27904. DOI: 10.3390/s151127894.
15. Virgilio C.D., Sossa J.H., Antelis J.M., Falcon L.E. Spiking Neural Networks applied to the classification of motor tasks in EEG signals // Neural Netw. 2020. Vol. 122. P. 130-143. DOI: 10.1016/j.neunet.2019.09.037.
16. Lobov S. A., Chernyshov A. V., Krilova N. P., Shamshin M. O., Kazantsev V.B. Competitive learning
in a spiking neural network: Towards an intelligent pattern classifier // Sensors. 2020. Vol. 20, no. 2. P. 500. DOI: 10.3390/s20020500.
17. Wang X., Hou Z.-G., Lv F., Tan M., Wang Y. Mobile robots' modular navigation controller using spiking neural networks // Neurocomputing. 2014. Vol. 134. P. 230-238. 10.1016/j.neucom. 2013.07.055.
18. Chou T.-S., Bucci L.D., Krichmar J.L. Learning touch preferences with a tactile robot using dopamine modulated STDP in a model of insular cortex // Front. Neurorobot. 2015. Vol. 9. P. 6. DOI: 10.3389/fnbot.2015.00006.
19. Bing Z, Meschede C., Rohrbein F., Huang K., Knoll A. C. A survey of robotics control based on learning-inspired spiking neural networks // Front. Neurorobot. 2018. Vol. 12. P. 35. DOI: 10.3389/fnbot.2018.00035.
20. Lobov S.A., Mikhaylov A. N., Shamshin M., Makarov V.A., Kazantsev V.B. Spatial properties of STDP in a self-learning spiking neural network enable controlling a mobile robot // Front. Neurosci. 2020. Vol. 14. P. 88. DOI: 10.3389/fnins.2020.00088.
21. Croisier H., Dauby P. C. Continuation and bifurcation analysis of a periodically forced excitable system // J. Theor. Biol. 2007. Vol. 246, no. 3. P. 430-448. DOI: 10.1016/j.jtbi.2007.01.017.
22. Феоктистов А. В., Анищенко В. С. Динамика системы ФитцХью-Нагумо под внешним периодическим воздействием // Известия вузов. ПНД. 2011. Т. 19, № 5. С. 35-44.
DOI: 10.18500/0869-6632-2011-19-5-35-44.
23. Novikov N., Gutkin B. Role of synaptic nonlinearity in persistent firing rate shifts caused by external periodic forcing // Phys. Rev. E. 2020. Vol. 101, no. 5. P. 052408.
DOI: 10.1103/PhysRevE.101.052408.
24. Eidum D. M., Henriquez C. S. Modeling the effects of sinusoidal stimulation and synaptic plasticity on linked neural oscillators // Chaos. 2020. Vol. 30, no. 3. P. 033105. DOI: 10.1063/1.5126104.
25. Рой М., Новиков Н. А., Захаров Д. Г., Гуткин Б. С. Взаимодействие между ультрамедленными флуктуациями нейронных сетей префронтальной коры и колебаниями мозга // Известия вузов. ПНД. 2020. Т. 28, № 1. С. 90-97. DOI: 10.18500/0869-6632-2020-28-1-90-97.
26. Andreev A. V., Ivanchenko M. V., Pisarchik A. N., Hramov A. E. Stimulus classification using chimera-like states in a spiking neural network // Chaos, Solitons & Fractals. 2020. Vol. 139. P. 110061. DOI: 10.1016/j.chaos.2020.110061.
27. Пономаренко В. И., Кульминский Д. Д., Андреев А. В., Прохоров М.Д. Оценка амплитуды внешнего периодического воздействия при помощи малой спайковой нейронной сети в радиофизическом эксперименте // Письма в ЖТФ. 2021. Т. 47, № 4. С. 7-10.
DOI: 10.21883/PJTF.2021.04.50636.18529.
28. Bezruchko B. P., Smirnov D. A. Constructing nonautonomous differential equations from experimental time series // Phys. Rev. E. 2001. Vol. 63, no. 1. P. 016207. DOI: 10.1103/PhysRevE.63.016207.
29. Смирнов Д. А., Сысоев И. В., Селезнев Е. П., Безручко Б. П. Реконструкция моделей неавтономных систем с дискретным спектром воздействия // Письма в ЖТФ. 2003. Т. 29, № 19. С. 69-76.
30. Яхно Ю. В., Мольков Я. И., Мухин Д.Н., Лоскутов Е. М., Фейгин А. М. Реконструкция оператора эволюции как способ анализа электрической активности мозга при эпилепсии // Известия вузов. ПНД. 2011. Т. 19, № 6. С. 156-172.
DOI: 10.18500/0869-6632-2011-19-6-156-172.
31. Сысоева М.В., Пономаренко В. И., Прохоров М.Д., Сысоев И. В. Реконструкция систем с запаздыванием под внешним периодическим воздействием // Нелинейная динамика. 2013. Т. 9, № 4. С. 613-625. DOI: 10.20537/nd1304001.
32. Dahlem M.A., Hiller G., Panchuk A., Scholl E. Dynamics of delay-coupled excitable neural systems//Int. J.Bifurc.Chaos. 2009. Vol. 19, no. 2. P. 745-753. DOI: 10.1142/S0218127409023111.
33. Plotnikov S.A., Lehnert J., Fradkov A.L., Scholl E. Adaptive control of synchronization in delay-coupled heterogeneous networks of FitzHugh-Nagumo nodes // Int. J. Bifurc. Chaos. 2016. Vol. 26, no. 4. P. 1650058. DOI: 10.1142/S0218127416500589.
34. Lindner B., Garcia-Ojalvo J., Neiman A., Schimansky-Geier L. Effects of noise in excitable systems // Phys. Rep. 2004. Vol. 392, no. 6. P. 321-424. DOI: 10.1016/j.physrep.2003.10.015.
35. Tass P. A. Phase Resetting in Medicine and Biology: Stochastic Modelling and Data Analysis. Berlin: Springer, 1999. 329 p. DOI: 10.1007/978-3-540-38161-7.
36. Holt A. B., Kormann E., Gulberti A., Potter-Nerger M., McNamara C. G., Cagnan H., Baaske M. K., Little S., Koppen J. A., Buhmann C., Westphal M., Gerloff C., Engel A.K., Brown P., Hamel W., Moll C.K.E., Sharott A. Phase-dependent suppression of beta oscillations in Parkinson's disease patients // J. Neurosci. 2019. Vol. 39, no. 6. P. 1119-1134. DOI: 10.1523/JNEUR0SCI.1913-18.2018.
37. Mau E. T. K., Rosenblum M. Optimizing charge-balanced pulse stimulation for desynchronization // Chaos. 2022. Vol. 32, no. 1. P. 013103. DOI: 10.1063/5.0070036.
38. Kulminskiy D. D., Ponomarenko V.I., ProkhorovM. D., Hramov A. E. Synchronization in ensembles of delay-coupled nonidentical neuronlike oscillators // Nonlinear Dyn. 2019. Vol. 98, no. 1. P. 735-748. DOI: 10.1007/s11071-019-05224-x.
39. Кульминский Д. Д., Пономаренко В. И., Сысоев И. В., Прохоров М.Д. Новый подход к экспериментальному исследованию больших ансамблей радиотехнических генераторов со сложными связями // Письма в ЖТФ. 2020. Т. 46, № 4. С. 26-29.
DOI: 10.21883/PJTF.2020.04.49046.18018.
40. Щапин Д. С. Динамика двух нейроноподобных элементов с подавляющей обратной связью // Радиотехника и электроника. 2009. Т. 54, № 2. С. 185-195.
41. Sysoev I. V., Prokhorov M.D., Ponomarenko V.I., Bezruchko B. P. Reconstruction of ensembles of coupled time-delay systems from time series // Phys. Rev. E. 2014. Vol. 89, no. 6. P. 062911. DOI: 10.1103/PhysRevE.89.062911.
42. Kurkin S. A., Kulminskiy D. D., Ponomarenko V.I., Prokhorov M. D., Astakhov S. V., Hramov A. E. Central pattern generator based on self-sustained oscillator coupled to a chain of oscillatory circuits // Chaos. 2022. Vol. 32, no. 3. P. 033117. DOI: 10.1063/5.0077789.
References
1. Haykin S. Neural Networks and Learning Machines. Upper Saddle River, New Jersey: Prentice Hall; 2009. 906 p.
2. Ripley BD. Pattern Recognition and Neural Networks. Cambridge: Cambridge University Press; 1996. 403 p. DOI: 10.1017/CBO9780511812651.
3. Egmont-Petersen M, de Ridder D, Handels H. Image processing with neural networks — a review. Pattern Recognition. 2002;35(10):2279-2301. DOI: 10.1016/S0031-3203(01)00178-9.
4. Dwarakish GS, Rakshith S, Natesan U. Review on applications of neural network in coastal engineering. Artificial Intelligent Systems and Machine Learning. 2013;5(7):324-331.
5. Frolov N, Maksimenko V, Liittjohann A, Koronovskii A, Hramov A. Feed-forward artificial neural network provides data-driven inference of functional connectivity. Chaos. 2019;29(9):091101. DOI: 10.1063/1.5117263.
6. Hramov AE, Maksimenko VA, Pisarchik AN. Physical principles of brain-computer interfaces and their applications for rehabilitation, robotics and control of human brain states. Phys. Rep. 2021;918:1-133. DOI: 10.1016/j.physrep.2021.03.002.
7. McCulloch WS, Pitts W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics. 1943;5(4):115-133. DOI: 10.1007/BF02478259.
8. Rabinovich MI, Varona P, Selverston AI, Abarbanel HDI. Dynamical principles in neuroscience. Rev. Mod. Phys. 2006;78(4):1213-1265. DOI: 10.1103/RevModPhys.78.1213.
9. Dmitrichev AS, Kasatkin DV, Klinshov VV, Kirillov SY, Maslennikov OV, Shchapin DS, Nekorkin VI. Nonlinear dynamical models of neurons: Review. Izvestiya VUZ. Applied Nonlinear Dynamics. 2018;26(4):5-58 (in Russian). DOI: 10.18500/0869-6632-2018-26-4-5-58.
10. Quiroga RQ, Panzeri S. Principles of Neural Coding. Boca Raton: CRC Press; 2013. 663 p. DOI: 10.1201/b14756.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
510
Yu D, Deng L. Automatic Speech Recognition: A Deep Learning Approach. London: Springer; 2015. 321 p. DOI: 10.1007/978-1-4471-5779-3.
Hossain MS, Muhammad G. Emotion recognition using deep learning approach from audio-visual emotional big data. Information Fusion. 2019;49:69-78. DOI: 10.1016/j.inffas.2018.09.008. Kasabov NK. Evolving Connectionist Systems: The Knowledge Engineering Approach. London: Springer; 2007. 451 p. DOI: 10.1007/978-1-84628-347-5.
Lobov S, Mironov V, Kastalskiy I, Kazantsev V. A spiking neural network in sEMG feature
extraction. Sensors. 2015;15(11):27894-27904. DOI: 10.3390/s151127894.
Virgilio CD, Sossa JH, Antelis JM, Falcon LE. Spiking Neural Networks applied to the
classification of motor tasks in EEG signals. Neural Netw. 2020;122:130-143.
DOI: 10.1016/j.neunet.2019.09.037.
Lobov SA, Chernyshov AV, Krilova NP, Shamshin MO, Kazantsev VB. Competitive learning in a spiking neural network: Towards an intelligent pattern classifier. Sensors. 2020;20(2):500. DOI: 10.3390/s20020500.
Wang X, Hou ZG, Lv F, Tan M, Wang Y. Mobile robots' modular navigation controller using spiking neural networks. Neurocomputing. 2014;134:230-238. DOI: 10.1016/j.neucom.2013.07.055. Chou TS, Bucci LD, Krichmar JL. Learning touch preferences with a tactile robot using dopamine modulated STDP in a model of insular cortex. Front. Neurorobot. 2015;9:6. DOI: 10.3389/fnbot.2015.00006.
Bing Z, Meschede C, Rohrbein F, Huang K, Knoll AC. A survey of robotics control based on learning-inspired spiking neural networks. Front. Neurorobot. 2018;12:35. DOI: 10.3389/fnbot.2018.00035.
Lobov SA, Mikhaylov AN, Shamshin M, Makarov VA, Kazantsev VB. Spatial properties of STDP in a self-learning spiking neural network enable controlling a mobile robot. Front. Neurosci. 2020;14:88. DOI: 10.3389/fnins.2020.00088.
Croisier H, Dauby PC. Continuation and bifurcation analysis of a periodically forced excitable system. J. Theor. Biol. 2007;246(3):430-448. DOI: 10.1016/j.jtbi.2007.01.017. Feoktistov AV, Anishchenko VS. Dynamics of the FitzHugh-Nagumo system under external periodic force. Izvestiya VUZ. Applied Nonlinear Dynamics. 2011;19(5):35-44 (in Russian). DOI: 10.18500/0869-6632-2011-19-5-35-44.
Novikov N, Gutkin B. Role of synaptic nonlinearity in persistent firing rate shifts caused by external periodic forcing. Phys. Rev. E. 2020;101(5):052408. DOI: 10.1103/PhysRevE.101.052408. Eidum DM, Henriquez CS. Modeling the effects of sinusoidal stimulation and synaptic plasticity on linked neural oscillators. Chaos. 2020;30(3):033105. DOI: 10.1063/1.5126104. Rooy M, Novikov NA, Zakharov DG, Gutkin BS. Interaction between PFC neural networks ultraslow fluctuations and brain oscillations. Izvestiya VUZ. Applied Nonlinear Dynamics. 2020;28(1):90-97. DOI: 10.18500/0869-6632-2020-28-1-90-97.
Andreev AV, Ivanchenko MV, Pisarchik AN, Hramov AE. Stimulus classification using chimeralike states in a spiking neural network. Chaos, Solitons & Fractals. 2020;139:110061. DOI: 10.1016/j.chaos.2020.110061.
Ponomarenko VI, Kulminskiy DD, Andreev AV, Prokhorov MD. Assessment of an external periodic force amplitude using a small spike neuron network in a radiophysical experiment. Tech. Phys. Lett. 2021;47(2):162-165. DOI: 10.1134/S1063785021020255.
Bezruchko BP, Smirnov DA. Constructing nonautonomous differential equations from experimental time series. Phys. Rev. E. 2001;63(1):016207. DOI: 10.1103/PhysRevE.63.016207. Smirnov DA, Sysoev IV, Seleznev EP, Bezruchko BP. Reconstructing nonautonomous system models with discrete spectrum of external action. Tech. Phys. Lett. 2003;29(10):824-827. DOI: 10.1134/1.1623857.
Yakhno YV, Molkov JI, Mukhin DN, Loskutov EM, Feigin AM. Reconstruction of an evolution operator as a technique of analysis of epileptiform electric brain activity. Izvestiya VUZ. Applied
Nonlinear Dynamics. 2011;19(6):156-172 (in Russian). DOI: 10.18500/0869-6632-2011-19-6156-172.
31. Sysoeva MV, Ponomarenko VI, Prokhorov MD, Sysoev IV. Reconstruction of time-delay systems under external periodic driving. Russian Journal of Nonlinear Dynamics. 2013;9(4):613-625 (in Russian). DOI: 10.20537/nd1304001.
32. Dahlem MA, Hiller G, Panchuk A, Scholl E. Dynamics of delay-coupled excitable neural systems. Int. J. Bifurc. Chaos. 2009;19(2):745-753. DOI: 10.1142/S0218127409023111.
33. Plotnikov SA, Lehnert J, Fradkov AL, Scholl E. Adaptive control of synchronization in delay-coupled heterogeneous networks of FitzHugh-Nagumo nodes. Int. J. Bifurc. Chaos. 2016;26(4): 1650058. DOI: 10.1142/S0218127416500589.
34. Lindner B, Garcia-Ojalvo J, Neiman A, Schimansky-Geier L. Effects of noise in excitable systems. Phys. Rep. 2004;392(6):321-424. DOI: 10.1016/j.physrep.2003.10.015.
35. Tass PA. Phase Resetting in Medicine and Biology: Stochastic Modelling and Data Analysis. Berlin: Springer; 1999. 329 p. DOI: 10.1007/978-3-540-38161-7.
36. Holt AB, Kormann E, Gulberti A, Potter-Nerger M, McNamara CG, Cagnan H, Baaske MK, Little S, Koppen JA, Buhmann C, Westphal M, Gerloff C, Engel AK, Brown P, Hamel W, Moll CKE, Sharott A. Phase-dependent suppression of beta oscillations in Parkinson's disease patients. J. Neurosci. 2019;39(6):1119-1134. DOI: 10.1523/JNEUROSCI.1913-18.2018.
37. Mau ETK, Rosenblum M. Optimizing charge-balanced pulse stimulation for desynchronization. Chaos. 2022;32(1):013103. DOI: 10.1063/5.0070036.
38. Kulminskiy DD, Ponomarenko VI, Prokhorov MD, Hramov AE. Synchronization in ensembles of delay-coupled nonidentical neuronlike oscillators. Nonlinear Dyn. 2019;98(1):735-748.
DOI: 10.1007/s11071-019-05224-x.
39. Kulminskiy DD, Ponomarenko VI, Sysoev IV, Prokhorov MD. A new approach to the experimental study of large ensembles of radioengineering oscillators with complex couplings. Tech. Phys. Lett. 2020;46(2):175-178. DOI: 10.1134/S1063785020020236.
40. Shchapin DS. Dynamics of two neuronlike elements with inhibitory feedback. J. Commun. Technol. Electron. 2009;54(2):175-184. DOI: 10.1134/S1064226909020089.
41. Sysoev IV, Prokhorov MD, Ponomarenko VI, Bezruchko BP. Reconstruction of ensembles of coupled time-delay systems from time series. Phys. Rev. E. 2014;89(6):062911.
DOI: 10.1103/PhysRevE.89.062911.
42. Kurkin SA, Kulminskiy DD, Ponomarenko VI, Prokhorov MD, Astakhov SV, Hramov AE. Central pattern generator based on self-sustained oscillator coupled to a chain of oscillatory circuits. Chaos. 2022;32(3):033117. DOI: 10.1063/5.0077789.
Навроцкая Елена Владимировна — родилась в Алма-Ате (1987), республика Казахстан. Окончила Саратовский государственный университет имени Н. Г. Чернышевского (2011) по направлению «Биомедицинская инженерия». Защитила диссертацию на соискание ученой степени кандидата физико-математических наук по специальности «Радиофизика» (2016, СГУ). Работает в Саратовском университете с 2008 года, в настоящее время — в должности доцента кафедры динамического моделирования и биомедицинской инженерии. Автор более 15 статей в рецензируемых журналах.
Россия, 410012 Саратов, ул. Астраханская, 83 Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского Россия, 410019 Саратов, ул. Зеленая, 38
Саратовский филиал Института радиотехники и электроники
им. В. А. Котельникова РАН
E-mail: sidakev@gmail.com
ORCID: 0000-0002-1649-440X
AuthorID (eLibrary.Ru): 542544
Кульминский Данил Дмитриевич — родился в Саратове (1991). Окончил Саратовский государственный университет (2014). После окончания СГУ работал научным сотрудником в Саратовском филиале Института радиотехники и электроники им. В. А. Котельникова РАН и доцентом кафедры динамического моделирования и биомедицинской инженерии СГУ. В настоящее время работает в Научно-технологическом университете «Сириус» (Сочи). Область научных интересов: теория динамических систем, анализ временных рядов, математическое моделирование. Автор 20 научных статей в отечественных и зарубежных журналах. Стипендиат фонда «Династия».
Россия, 410019 Саратов, ул. Зеленая, 38
Саратовский филиал Института радиотехники и электроники им. В. А. Котельникова РАН
Россия, Краснодарский край, 354340 Сочи, Олимпийский пр., 1 Научно-технологический университет «Сириус» E-mail: kulminskydd@gmail.com ORCID: 0000-0002-3936-2813 AuthorID (eLibrary.Ru): 721334
Пономаренко Владимир Иванович — родился в Саратове (1960). Окончил Саратовский государственный университет (СГУ, 1982). Защитил диссертацию на соискание ученой степени кандидата физико-математических наук (1992) и доктора физико-математических наук (2008). Ведущий научный сотрудник Саратовского филиала Института радиотехники и электроники им. В. А. Котельникова РАН, профессор кафедры динамического моделирования и биомедицинской инженерии СГУ. Область научных интересов — статистическая радиофизика, анализ временных рядов, нелинейная динамика и ее приложения. Автор более 200 научных публикаций.
Россия, 410019 Саратов, ул. Зеленая, 38
Саратовский филиал Института радиотехники и электроники
им. В. А. Котельникова РАН
Россия, 410012 Саратов, ул. Астраханская, 83
Саратовский национальный исследовательский государственный
университет имени Н. Г. Чернышевского
E-mail: ponomarenkovi@gmail.com
ORCID: 0000-0002-1579-6465
AuthorID (eLibrary.Ru): 39986
Прохоров Михаил Дмитриевич — родился в Саратове (1968). Окончил Саратовский государственный университет (1992). Защитил диссертацию на соискание ученой степени кандидата физико-математических наук (1997) и доктора физико-математических наук (2008). Заведующий лабораторией моделирования в нелинейной динамике Саратовского филиала Института радиотехники и электроники им. В. А. Котельникова РАН. Область научных интересов: нелинейная динамика и ее приложения, математическое моделирование, анализ временных рядов. Имеет более 200 научных публикаций.
Россия, 410019 Саратов, ул. Зеленая, 38
Саратовский филиал Института радиотехники и электроники им. В. А. Котельникова РАН E-mail: mdprokhorov@yandex.ru ORCID: 0000-0003-4069-9410 AuthorID (eLibrary.Ru): 39985
