CC BY
36
Нелинейная
^^^^^^^^ динамика и нейронаука
Известия высших учебных заведений. Прикладная нелинейная динамика. 2022. Т. 30, № 3 Izvestiya Vysshikh Uchebnykh Zavedeniy. Applied Nonlinear Dynamics. 2022;30(3)
Научная статья
УДК 004.032.26+004.274
DOI: 10.18500/0869-6632-2022-30-3-299-310
Сегментная спайковая модель нейрона CSNM
А. В. БахшиевА. А. Демчева
Санкт-Петербургский политехнический университет Петра Великого, Россия E-mail: [email protected], [email protected] Поступила в редакцию 7.11.2021, принята к публикации 20.12.2021, опубликована 31.05.2022
Аннотация. Цель настоящего исследования — разработка сегментной спайковой модели нейрона как элемента растущих нейронных сетей. Методы. В работе применены методы математического и численного моделирования и проведено сравнение реакций на одиночный импульс предложенной сегментной спайковой модели нейрона и модели порогового интегратора с утечкой. Рассмотрен также вопрос о влиянии гиперпараметров предложенной модели на динамику возбуждения нейрона. Все описанные эксперименты проводились в среде Matlab Simulink с использованием средств разработанной библиотеки. Результаты. По результатам исследования был сделан вывод о том, что предложенная модель способна качественно воспроизвести реакцию точечной классической модели, а настройка гиперпараметров позволяет воспроизводить следующие закономерности распространения сигналов в биологическом нейроне: уменьшение максимального потенциала и увеличение задержки между входным и выходным импульсами с увеличением размера нейрона или длины дендрита, а также рост потенциала при увеличении числа активных синапсов. Заключение. Показано, что предложенная сегментная спайковая модель нейрона позволяет описывать поведение биологических нейронов на уровне воспроизведения динамики преобразования импульсных сигналов. Гиперпараметры модели позволяют осуществлять настройку реакций нейрона при фиксированных остальных параметрах. Такая модель может использоваться как элемент спайковых нейронных сетей с детализацией до уровня сегментов дендритных деревьев нейронов.
Ключевые слова: нейроморфные системы, спайковая нейронная сеть, спайковый нейрон, сегментная модель нейрона.
Для цитирования: Бахшиев А. В., Демчева А. А. Сегментная спайковая модель нейрона CSNM //Известия вузов. ПНД. 2022. T. 30, № 3. С. 299-310. DOI: 10.18500/0869-6632-2022-30-3-299-310
Статья опубликована на условиях Creative Commons Attribution License (CC-BY 4.0).
Article
DOI: 10.18500/0869-6632-2022-30-3-299-310
Compartmental spiking neuron model CSNM
A. V. BakhshievM, A. A. Demcheva
Peter the Great St. Petersburg Polytechnic University, Russia E-mail: [email protected], [email protected] Received 7.11.2021, accepted 20.12.2021, published 31.05.2022
Abstract. The purpose of this work is to develop a compartment spiking neuron model as an element of growing neural networks. Methods. As part of the work, the CSNM is compared with the Leaky Integrate-and-Fire model by comparing the reactions of point models to a single spike. The influence of hyperparameters of the proposed model on neuron excitation is also investigated. All the described experiments were carried out in the Simulink environment using the tools of the proposed library. Results. It was concluded that the proposed model is able to qualitatively reproduce the reaction of the point classical model, and the tuning of hyperparameters allows reproducing the following patterns of signal propagation in a biological neuron: a decrease in the maximum potential and an increase in the delay between input and output spikes with an increase in the size of the neuron or the length of the dendrite, as well as an increase in the potential with an increase in the number of active synapses. Conclusion. The proposed compartment spiking neuron model allows to describe the behavior of biological neurons at the level of pulse signal conversion. The hyperparameters of the model allow tuning the neuron responses at fixed other neuron parameters. The model can be used as a part of spiking neural networks with details at the level of compartments of neurons dendritic trees.
Keywords: neuromorphic systems, spiking neural network, spiking neuron, compartment neuron model.
For citation: Bakhshiev AV, Demcheva AA. Compartmental spiking neuron model CSNM. Izvestiya VUZ. Applied Nonlinear Dynamics. 2022;30(3):299-310. DOI: 10.18500/0869-6632-2022-30-3-299-310
This is an open access article distributed under the terms of Creative Commons Attribution License (CC-BY 4.0).
Введение
В последнее десятилетие теория и практики искусственных нейронных сетей достигли ряда значимых результатов в решении задач машинного обучения [1], однако вопрос создания аппаратных энергетически эффективных нейроморфных вычислителей по-прежнему остается открытым [2]. Разработка аппаратных реализаций спайковых нейронных сетей является одним из перспективных решений этой проблемы [3].
Несмотря на достигнутые успехи, глубокие нейронные сети испытывают ряд проблем, связанных с ограниченной обобщающей способностью, особенно в условиях изменяющейся среды [4]. Поэтому исследование структуры и принципов функционирования нервной системы с целью предложения новых архитектур и методов обучения искусственных нейронных сетей остается по-прежнему актуальным. В этом направлении применение спайковых моделей нейронов и нейронных сетей перспективно как для описания поведения естественных нейронных структур, так и для моделирования нейроморфных систем управления и обработки информации.
В настоящее время в спайковых нейронных сетях применяются, в основном, достаточно простые, точечные модели нейронов, такие как модель порогового интегратора (Integrate-and-Fire, IaF) и ее модификации, модель Ижикевича, SRMo (Simple Spike Response Model) [5], а также относительно простые модели синаптической передачи [6,7]. Точечную спайковую модель нейрона как элемента нейронной сети можно представить следующей функциональной схемой (рис. 1).
На схеме S(x,w,t) — функциональная запись модели синаптической передачи, которая осуществляет преобразование входного сигнала в синаптический ток; М(i^,t) — функциональная запись модели мембраны, осуществляющей пространственное и временное суммирование входных сигналов; G(U, t) — генератор потенциала действия, который формирует выходной сигнал в ответ на превышение потенциалом U нейрона некоторого порогового значения.
Рис. 1. Функциональная схема точечных моделей нейронов Fig. 1. Functional diagram of point neuron models
Более сложные биофизические модели мембраны нейрона (например, модель Ходжкина-Хаксли [8]), как правило, не применяются в силу высокой вычислительной сложности.
В природе одним из основных способов достижения пластичности нервной системы, не учитываемой точечными моделями, является рост дендритного дерева и синаптического аппарата нейрона, участвующего в запоминании информации и формировании новых паттернов активности. Для описания сложной структуры мембраны нейрона существует кабельная теория [9] и сегментные модели нейронов [10], однако они также вычислительно сложны и не вполне удобны для моделирования спайковых нейронных сетей.
В работах [11,12] была представлена сегментная спайковая модель нейрона. Ее особенностью является возможность формировать требуемую реакцию нейрона, оперируя такими гиперпараметрами, как размер нейрона, длина дендритов, число возбуждающих или тормозных синапсов, не переходя к параметрической настройке каждого элемента. Модель применялась для исследования систем управления и обработки информации, базирующихся на приближенных к биологии моделях нейронных сетей [13]. Недостатком этой модели является несовместимость функциональных элементов (синапс, сегмент мембраны, низкопороговая зона) по входам и выходам с классическими моделями. Также, реализация генератора импульсов для стабилизации длительности выходного импульса содержит дополнительное неадаптивное инерционное звено, негативно влияющее на общие инерционные свойства нейрона.
В этой работе мы представляем обновленную сегментную спайковую модель нейрона (Compartment Spiking Neuron Model — CSNM), свободную от указанных недостатков.
1. Модель нейрона
1.1. Архитектура модели. В основе модели лежит эквивалентная электрическая схема мембраны по Экклсу (рис. 2) [14]. Здесь Кт — сопротивление мембраны, Ст — емкость мембраны, Е3 — сопротивление синапса, Ет и Ев — ЭДС мембраны и синаптической передачи, соответственно.
В модели CSNM мы абстрагируемся от количественного описания химических процессов в нейроне — так же, как и от понятия ионных каналов. Однако, чтобы сохранить возможность описать сложную динамику интегрирования входных сигналов на мембране, мы вводим понятие ионных механизмов, которых может быть, в общем случае, произвольное число, и процессы в которых в целом соответствуют
Рис. 2. Эквивалентная электрическая схема мембраны по Экклсу
Fig. 2. Eccles membrane equivalent electric diagram
динамике схемы на рис. 2. На рис. 3 представлено структурное описание сегмента мембраны нейрона предлагаемой модели. Здесь ^ — суммарное влияние тормозящих синапсов, ^ — суммарное влияние возбуждающих синапсов, ига — тормозящий (отрицательный) вклад в потенциал нейрона, иг8 — возбуждающий (положительный) вклад в потенциал нейрона. Важно, что возбуждающие синапсы ^ оказывают воздействие на тормозной ионный механизм га, а тормозные ^ — на возбуждающий ц. Та-
Рис. 3. Структура ионного механизма сегмента мембраны нейрона
Fig. 3. Structure of neuron membrane segment ion mechanism
ким образом, синапс ослабляет нормальную функцию ионного механизма.
На рис. 4 представлена структурно-функциональная схема модели [12]. На схеме приняты следующие обозначения: В1 ...В^ — сегменты мембраны тела нейрона; Жг — размер тела нейрона; Б1,1 — сегменты мембраны дендритного дерева; — длина
дендрита; Ь — число дендритов; 51 ...5^8уп — синапсы (нижний индекс определяет возбуждающий синапс (в), или тормозный (а); Жгуп — число синапсов, образованных на сегменте дендрита;
TNsyn
«X/ Q . . . «X/ g
— входной сигнал (последовательность импульсов), поступающий на синапсы; i1^,
*s2
суммарное влияние тормозящих и возбуждающих синапсов, соответственно; Ет — начальное состояние ионных механизмов в покое; и1 ...и— вклады сегментов мембраны тела в общий потенциал нейрона; и? — общий потенциал нейрона; У — выходной сигнал (последовательность импульсов), формируемый нейроном.
Полагаем, что нейроны обмениваются информацией через события-импульсы (спайки), которые можно представить как:
х =
е ■
ti < t < ti + At, t<ti, t>ti + At,
(1)
где Еу — амплитуда входного импульса, ^ — время начала формирования входного импульса, At — длительность входного импульса.
Рис. 4. Структурно-функциональная схема модели нейрона Fig. 4. Structural and functional diagram of the neuron model
Поступающие на вход синапсов импульсы х преобразуются в них в выходную величину, моделирующую влияние синаптического тока на сегмент мембраны нейрона. Сегменты мембраны тела нейрона и дендритов представляют собой пары ионных механизмов, описывающих механизмы деполяризации и гиперполяризации. Выходом сегмента мембраны является пара значений гиперполяризации и деполяризации, определяющая их вклад в суммарный потенциал.
Генератор потенциала действия формирует выходной импульс, который может быть передан другим нейронам сети, а также формирует сигнал обратной связи на сегменты мембраны тела клетки, что позволяет описывать переходные процессы, возникающие во время генерации импульса.
Такая структурная организация модели нейрона позволяет проводить расчет систем дифференциальных уравнений для каждого нейрона независимо, поскольку нейроны обмениваются исключительно информацией о моменте времени возникновения импульса, а входной вектор системы уравнений модели нейрона формируется внутри модели как функция от моментов времени прихода импульсов.
Система в целом характеризуется набором из следующих гиперпараметров: размер нейрона Ж (число блоков-моделей сегмента мембраны), длина дендритов Ж и число возбуждающих или тормозных синапсов (число соответствующих блоков в модели) Ж8уп. Их значения задают общий вид системы и позволяют сформировать требуемую реакцию нейрона.
Далее рассмотрено математическое описание моделей функциональных элементов нейрона.
1.2. Модель синаптической передачи. На вход модели синапса (2) поступает сигнал с выхода пресинаптического нейрона вида (1). На выходе модели синапса формируется синаптиче-ский ток. Модель синапса реализует основные особенности функционирования синаптической передачи — экспоненциальный характер выделения и распада медиатора, различие в скоростях протекания этих процессов и эффект пресинаптического торможения. Модели возбуждающих и тормозных синапсов идентичны друг другу, различие в их воздействии на сегмент мембраны определяется тем, к какому из ионных механизмов подключен каждый конкретный синапс.
Уравнения модели синапса:
ш ^ =х-рф
9 = ^Рге^р)
Ч =9-5-™ К8
(2)
где Е3 > 0 — сопротивление синапса, — электродвижущая сила (ЭДС) синаптической передачи, д — временная переменная, описывающая активность синапса с учетом эффекта пресинаптического торможения, ™ — вес связи, г8 — выходной синаптический ток, р — характеризует условную концентрацию медиатора, выделившегося в ответ на импульс. Начальные условия: р(0) = 0.
В уравнении выше Т (¿) представляет собой постоянную времени, определяемую по формуле
(т8, х(Ъ) > 0,
ВД= , () , (3)
{та, х(г) < 0,
где х3 — постоянная времени выделения медиатора, т^ — постоянная времени распада медиатора. ^Ргет(р) — функция, имитирующая эффект пресинаптического торможения, описываемая в виде:
( (4£ (р - ^Р2), £ ^ 0.5\ ^Ргет(р) = шах( 0^ ^ ^ (4)
где Z G 0, [0.5, те) — критическое значение концентрации медиатора, при котором начинает сказываться эффект пресинаптического торможения (нулевая величина означает отказ от использования эффекта пресинаптического торможения).
Заметим, что в данной модели вклад в меру эффективности воздействия синапса на сегмент мембраны вносят как его физические параметры Rs и es, так и вес w. Это связано с унификацией использования модели синапса — в режиме оптимизации параметров нейронной сети (например, по правилу STDP — Spike-timing dependent plasticity) модификации подвергается вес w. В режиме же структурной адаптации вес синапса принимается равным единице. Физические параметры модели в любом случае подбираются исходя из специфики моделируемой структуры связей.
Непосредственно на ионный механизм мембраны нейрона оказывает влияние синаптический ток гs, пропорциональный эффективной проводимости синапса.
1.3. Модель ионного механизма сегмента мембраны. В работах [11,12] предложена модель ионного механизма, который имеет три основные характеристики: сопротивление Rm, емкость Ст и концентрацию ионов Ет, поддерживаемую насосной функцией канала внутри клетки. Произведение Тт = RmCm характеризует инертность канала в покое, то есть скорость восстановления нормальной концентрации ионов в клетке.
Модель ионного механизма отражает изменение потенциала мембраны в зависимости от влияния синапса, заключающегося в потере эффективности насосной функции канала и в снижении концентрации ионов в клетке с постоянной времени этого процесса Т(t) = R1 (t)Cm.
Сопротивление R1 (t) определим из соотношения
1 -w(i) + +... + 1 №(f) + -L, (5)
к1 (*) £§2 & бп в,т к
где г г 82(£ ),..., г 8П (£ ) — синаптические токи активных синапсов, действующих на данный ионный механизм; в81, ев2,..., ебп — ЭДС синапсов; = гв^^)/— суммарная проводимость моделей активных синапсов, г«е(^) — суммарный синаптический ток, кт > 0 — сопротивление мембраны. Далее будем считать, что ЭДС всех синапсов равны. Соответствующая система уравнений приведена ниже.
т! ^ = - (1 + д^.кт)и
м с }, (6)
гг ст т = -
№ + д
т
где (t) — ожидаемый вклад сегмента в величину внутриклеточного потенциала при отсутствии внешнего возбуждения, которая определяется активностью предыдущих сегментов мембраны, u(í) — реальный вклад сегмента в величину внутриклеточного потенциала. Начальные условия:
и(о) = 0.
Модель сегмента мембраны структурно состоит из одного или нескольких ионных механизмов и синапсов. Таким образом, каждый сегмент имеет два вектора входов — синаптических входов X и ожидаемых вкладов в мембранный потенциал U-%, и один вектор выходов U.
1.4. Модель генератора выходного сигнала. Еще одно важное звено рассматриваемой модели — генератор выходного сигнала, формирующий события о генерации нейроном импульса. Значение выходного сигнала нейрона определяется следующим выражением:
У = FG(U, Pact, Prest), (7)
где U — среднее значение потенциала с участков мембраны тела нейрона, у — сигнал (импульс), сообщающий о срабатывании нейрона, Fg(U) — функция гистерезиса, возвращающая 1 при
превышении U порога Pact, и 0, если значение U становится ниже порога Prest. Формируемый выходной сигнал у поступает в обратные связи перезаряда тела нейрона, что позволяет описывать эффекты абсолютной и относительной рефрактерности, а также остаточной деполяризации нейрона после генерации импульса.
1.5. Система уравнений модели нейрона. Система уравнений, описывающая модель нейрона, содержит N дифференциальных уравнений первого порядка, где N вычисляется по формуле
где Ь — число сегментов тела нейрона, Ьги — число сегментов дендрита, соответствующего г-му сегменту тела, Мгв — суммарное число возбуждающих и тормозных синапсов на г-м сегменте тела нейрона, Щ — суммарное число возбуждающих и тормозных синапсов на 1-м сегменте дендрита г-го сегмента тела нейрона.
Несмотря на кажущуюся сложность, как говорилось выше, благодаря принятой модели входных и выходных сигналов, при численном решении такую систему уравнений можно на каждом шаге расчета разделить на N независимых дифференциальных уравнений первого порядка, сшиваемых по граничным условиям в моменты начала или окончания входного и выходного импульса. При этом дополнительно уравнения моделей синапсов становятся линейными. Таким образом, численный расчет всей нейронной сети может быть реализован как расчет системы независимых дифференциальных уравнений первого порядка.
1.6. Параметры модели. В Таблице приведены значения параметров моделей всех функциональных элементов нейрона. Значения параметров выбирались таким образом, чтобы наиболее наглядно продемонстрировать возможности качественного описания реакций естественных нейронов с различной структурной организацией мембраны.
Постоянная времени выделения медиатора т8 = 0.001 с Постоянная времени распада медиатора та = 0.005 с Амплитуда входного сигнала Еу = 1
Коэффициент влияния эффекта пресинаптического торможения = 1 Эквивалентное сопротивление синапса («вес» синапса) Д, = 2 • 107 Ом ЭДС синаптической передачи ен = -0.07 В Ионный механизм мембраны
Эквивалентное сопротивление мембраны в состоянии покоя Д0 = 1 • 107 Ом Эквивалентное сопротивление в состоянии перезаряда Кр = 1 • 107 Ом Эквивалентная емкость мембраны Ст = 1 • 10-9 Ф
Начальные вклады {Ет} = {Е+, Е-} в мембранный потенциал ионных механизмов
в состоянии покоя: Е+ = 0.93, Ет = —1
Генератор потенциала действия
Порог активации нейрона Роп = —0.055 В
Порог деактивации нейрона Род = —0.1 В
Постоянная времени, определяющая инерцию генераторного механизма Тс = 0.005 с Амплитуда выходного сигнала Еу = 1 Коэффициент обратной связи Т = 2
(8)
Таблица. Значения параметров модели нейрона Table. Values of neuron model parameters
Синапс
2. Эксперименты
В разделе описаны результаты математического и численного моделирования на основе модели С8КМ. Эксперименты проводились в среде МаНаЪ ВтиПпк с использованием средств библиотеки блоков, предложенной авторами. Параметры блоков заданы по умолчанию в соответствии с Таблицей, если в описании эксперимента не оговорено иное. Численное решение получено с применением явного метода Рунге-Кутты с переменным шагом. Сама библиотека, а также блоки и схемы, использованные в экспериментах, доступны по ссылке [15].
2.1. Анализ реакций точечной модели на одиночный импульс. Для сравнения предложенной модели с классической моделью порогового интегратора было выполнено моделирование реакции на импульсное воздействие.
Для обеих моделей было задано единое входное воздействие. На выходе были получены зависимости от времени потенциала мембраны как реакция на поступивший импульс. На рис. 5 изображены результаты моделирования. Графики потенциала мембраны для двух рассматриваемых моделей схожи по предельным амплитудам и временным задержкам. Качественные отличия в форме импульса определяются различием в математическом описании моделей (иная модель мембраны и генератора потенциала действия в модели С8КМ).
Рис. 5. Сравнение реакций моделей CSNM и IaF на одиночный импульс Fig. 5. Comparison of reactions of CSNM and IaF models to a single spike
2.2. Влияние гиперпараметров модели на возбуждение. Был проведен ряд экспериментов по исследованию поведения модели в зависимости от структурных параметров. Для проведения экспериментов порог нейрона был искусственно завышен, чтобы исключить генерацию выходных импульсов. Таким образом были получены зависимости пикового значения амплитуды потенциала от размера тела Жг и длины дендрита (рис. 6), от числа активных синапсов Жгуп (рис. 7).
По результатам экспериментов можно видеть, что при одинаковом входном воздействии пиковая амплитуда потенциала более крупного нейрона (Жг >1) нелинейно уменьшается. Аналогичная картина наблюдается при изменении длины дендрита — чем длиннее дендрит, по которому был передан возбуждающий сигнал, тем меньше пиковый потенциал при одинаковом входном воздействии. Увеличение числа активных синапсов Жгуп способствует росту пиковой амплитуды потенциала нейрона.
На рис. 8 показана зависимость величины задержки формирования выходного импульса от места расположения синапса (или иначе — длины дендрита Ж^) и размера нейрона Жг. Таким образом, можно сделать вывод о возможности оптимизировать структуру нейрона под входные паттерны импульсов. При этом параметр Жг будет определять общую инерционность нейрона, — величину задержки в срабатывании по приходу сигнала по данному дендриту, Жгуп — амплитуду потенциала (и как следствие — частоту выходных импульсов).
Рис. 6. Зависимость пикового значения амплитуды потенциала от размера тела нейрона при различных длинах дендрита
Fig. 6. Dependence of the peak potential amplitude on the neuron body size at different dendrite lengths
Рис. 7. Зависимость пикового потенциала нейрона от числа активных синапсов
Fig. 7. Dependence of the peak potential on the number of active synapses
Рис. 8. Зависимость времени задержки между входным и выходным импульсами от длины дендрита и размера нейрона
Fig. 8. Dependence of the delay time between the input and output spikes on the length of the dendrite and the size of the neuron
Способность предложенной модели к структурной адаптации вместе с наблюдаемыми в экспериментах закономерностями позволяют применить С8КМ для решения задач распознавания образов. Так, в работе [16] был реализован алгоритм структурного обучения модели нейрона распознаванию паттерна импульсов.
Заключение
Предложенная сегментная спайковая модель нейрона позволяет качественно описывать поведение биологических нейронов на уровне динамики преобразования импульсных потоков, однако остается открытым вопрос о верификации модели на реальных биологических объектах. Гиперпараметры модели, такие как число сегментов тела, длины дендритов и число синапсов позволяют осуществлять настройку реакций нейрона при фиксированных остальных параметрах. Такая модель может использоваться как элемент спайковых нейронных сетей с детализацией до уровня сегментов дендритных деревьев нейронов. В рамках дальнейших исследований ведется работа по созданию архитектуры и алгоритмов структурного обучения сегментных спайковых нейронных сетей для решения задач машинного обучения. В перспективе планируется создание аппаратных реализаций сегментных спайковых нейронных сетей.
Список литературы
1. Shrestha A., Mahmood A. Review of deep learning algorithms and architectures // IEEE Access. 2019. Vol. 7. P. 53040-53065. DOI: 10.1109/ACCESS.2019.2912200.
2. James C.D., Aimone J.B., Miner N.E., Vineyard C.M., Rothganger F.H., Carlson K.D., Mulder S. A., Draelos T.J., Faust A., Marinella M.J., Naegle J.H., Plimpton S.J. A historical survey of algorithms and hardware architectures for neural-inspired and neuromorphic computing applications // Biologically Inspired Cognitive Architectures. 2017. Vol. 19. P. 49-64.
DOI: 10.1016/j.bica.2016.11.002.
3. Tavanaei A., Ghodrati M., Kheradpisheh S. R., Masquelier T., Maida A. Deep learning in spiking neural networks // Neural Networks. 2019. Vol. 111. P. 47-63. DOI: 10.1016/j.neunet.2018.12.002.
4. Marcus G. Deep Learning: A Critical Appraisal [Electronic resource] // arXiv:1801.00631. arXiv Preprint, 2018. 27 p. Available from: https://arxiv.org/abs/1801.00631.
5. Gerstner W. Population dynamics of spiking neurons: Fast transients, asynchronous states, and locking//Neural Computation. 2000. Vol. 12, no. 1. P. 43-89. DOI: 10.1162/089976600300015899.
6. Gerstner W., Kistler W.M. Spiking Neuron Models: Single Neurons, Populations, Plasticity. Cambridge: Cambridge University Press, 2002. 480 p. DOI: 10.1017/CBO9780511815706.
7. Izhikevich E. M. Simple model of spiking neurons // IEEE Transactions on Neural Networks. 2003. Vol. 14, no. 6. P. 1569-1572. DOI: 10.1109/TNN.2003.820440.
8. Hodgkin A. L., Huxley A.F. A quantitative description of membrane current and its application to conduction and excitation in nerve // Bulletin of Mathematical Biology. 1990. Vol. 52, no. 1-2. P. 25-71. DOI: 10.1007/BF02459568.
9. Bell J. Cable theory // In: Binder M. D., Hirokawa N., Windhorst U. (eds) Encyclopedia of Neuroscience. Berlin, Heidelberg: Springer, 2009. DOI: 10.1007/978-3-540-29678-2_775.
10. Lindsay A. E., Lindsay K. A., Rosenberg J.R. Increased computational accuracy in multi-compart-mental cable models by a novel approach for precise point process localization // Journal of Computational Neuroscience. 2005. Vol. 19, no. 1. P. 21-38. DOI: 10.1007/s10827-005-0192-7.
11. Бахшиев А. В., Романов С. П. Воспроизведение реакций естественных нейронов как результат моделирования структурно-функциональных свойств мембраны и организации синаптического аппарата // Нейрокомпьютеры: разработка, применение. 2012. № 7. С. 25-35.
12. Bakhshiev A., Gundelakh F. Mathematical model of the impulses transformation processes in natural neurons for biologically inspired control systems development // In: Supplementary Proceedings of the 4th International Conference on Analysis of Images, Social Networks and Texts (AIST-SUP 2015). Vol. 1452. Yekaterinburg, Russia, April 9-11, 2015. Aachen, Germany: CEUR-WS, 2015. P. 1-12.
13. Бахшиев А. В. Перспективы применения моделей биологических нейронных структур в системах управления движением // Информационно-измерительные и управляющие системы. 2011. № 9. С. 85-90.
14. Экклс Дж. Физиология синапсов. М.: Мир, 1966. 396 с.
15. Neuro Matlab: модели спайковых нейронов в Matlab Simulink [Электронный ресурс]. Режим доступа: https://github.com/aicommunity/NeuroMatlab.
16. Бахшиев А. В., Корсаков А. М., Астапова Л. А., Станкевич Л. А. Структурная адаптация сегментной спайковой модели нейрона // Труды VII Всероссийской конференции «Нелинейная динамика в когнитивных исследованиях — 2021». Нижний Новгород, 20-24 сентября 2021. Нижний Новгород: Институт прикладной физики РАН, 2021. С. 30-33.
References
1. Shrestha A, Mahmood A. Review of deep learning algorithms and architectures. IEEE Access. 2019;7:53040-53065. DOI: 10.1109/ACCESS.2019.2912200.
2. James CD, Aimone JB, Miner NE, Vineyard CM, Rothganger FH, Carlson KD, Mulder SA, Draelos TJ, Faust A, Marinella MJ, Naegle JH, Plimpton SJ. A historical survey of algorithms and hardware architectures for neural-inspired and neuromorphic computing applications. Biologically Inspired Cognitive Architectures. 2017;19:49-64. DOI: 10.1016/j.bica.2016.11.002.
3. Tavanaei A, Ghodrati M, Kheradpisheh SR, Masquelier T, Maida A. Deep learning in spiking neural networks. Neural Networks. 2019;111:47-63. DOI: 10.1016/j.neunet.2018.12.002.
4. Marcus G. Deep Learning: A Critical Appraisal [Electronic resource]. arXiv:1801.00631. arXiv Preprint; 2018. 27 p. Available from: https://arxiv.org/abs/1801.00631.
5. Gerstner W. Population dynamics of spiking neurons: Fast transients, asynchronous states, and locking. Neural Computation. 2000;12(1):43-89. DOI: 10.1162/089976600300015899.
6. Gerstner W, Kistler WM. Spiking Neuron Models: Single Neurons, Populations, Plasticity. Cambridge: Cambridge University Press; 2002. 480 p. DOI: 10.1017/CBO9780511815706.
7. Izhikevich EM. Simple model of spiking neurons. IEEE Transactions on Neural Networks. 2003;14(6):1569-1572. DOI: 10.1109/TNN.2003.820440.
8. Hodgkin AL, Huxley AF. A quantitative description of membrane current and its application to conduction and excitation in nerve. Bulletin of Mathematical Biology. 1990;52(1-2):25-71. DOI: 10.1007/BF02459568.
9. Bell J. Cable theory. In: Binder MD, Hirokawa N, Windhorst U, editors. Encyclopedia of Neuroscience. Berlin, Heidelberg: Springer; 2009. DOI: 10.1007/978-3-540-29678-2_775.
10. Lindsay AE, Lindsay KA, Rosenberg JR. Increased computational accuracy in multi-compartmental cable models by a novel approach for precise point process localization. Journal of Computational Neuroscience. 2005;19(1):21-38. DOI: 10.1007/s10827-005-0192-7.
11. Bakhshiev AV, Romanov SP. Reproduction of the reactions of biological neurons as a result of modeling structural and functional properties membrane and synaptic structural organization. Neurocomputers. 2021;(7):25-35 (in Russian).
12. Bakhshiev A, Gundelakh F. Mathematical model of the impulses transformation processes in natural neurons for biologically inspired control systems development. In: Supplementary Proceedings of the 4th International Conference on Analysis of Images, Social Networks and Texts (AIST-SUP 2015). Vol. 1452. Yekaterinburg, Russia, April 9-11, 2015. Aachen, Germany: CEUR-WS; 2015. P. 1-12.
13. Bakhshiev AV. Prospects for application of models of biological neural structures in the motion control system. Information-measuring and Control Systems. 2011;(9):85-90 (in Russian).
14. Eccles JC. The Physiology of Synapses. Berlin, Heidelberg: Springer; 1964. 316 p. DOI: 10.1007/978-3-642-64950-9.
15. Neuro Matlab: the spiking neuron models in Matlab Simulink [Electronic resource]. Available from: https://github.com/aicommunity/NeuroMatlab.
16. Bakhshiev AV, Korsakov AM, Astapova LA, Stankevich LA. The structural adaptation of the compartment spiking neuron model. In: Proceedings of the VII All-Russian Conference «Nonlinear Dynamics in Cognitive Research — 2021». Nizhny Novgorod, 20-24 September 2021. Nizhny Novgorod: Institute of Applied Physics RAS; 2021. P. 30-33 (in Russian).
Бахшиев Александр Валерьевич — родился в Санкт-Петербурге (1979). Окончил с отличием физико-механический факультет Санкт-Петербургского государственного политехнического университета по направлению «Прикладная механика» (2002). Защитил диссертацию на соискание ученой степени кандидата технических наук по специальности «Системный анализ, управление и обработка информации» (2017, СПИИРАН). С 2017 года работает в Высшей школе «Автоматизация и робототехника» Санкт-Петербургского государственного политехнического университета Петра Великого в должности доцента. Научные интересы — искусственные нейронные сети, глубокое обучение, математическое моделирование. Опубликовал свыше 80 научных трудов по указанным направлениям.
Россия, 195251 Санкт-Петербург, ул. Политехническая, 29 Санкт-Петербургский политехнический университет Петра Великого (СПбПУ) E-mail: [email protected] ORCID: 0000-0002-1284-0088 AuthorID (eLibrary.Ru): 172135
Демчева Александра Андреевна — родилась в Самаре (1999). Окончила с отличием Санкт-Петербургский политехнический университет Петра Великого по направлению «Мехатро-ника и робототехника» (2021), продолжает обучение в магистратуре. Научные интересы — искусственные нейронные сети, глубокое обучение, математическое моделирование.
Россия, 195251 Санкт-Петербург, ул. Политехническая, 29 Санкт-Петербургский политехнический университет Петра Великого (СПбПУ) E-mail: [email protected]
