Аппаратная реализация сегментной спайковой модели нейрона CSNM на операционных усилителях

Бойко Александр Васильевич; Бахшиев Александр Валерьевич; Корсаков Антон Михайлович

Методы, технологии и приложения искусственного интеллекта

УДК 004.27+621.382 DOI:10.25729/ESI.2024.34.2.004

Аппаратная реализация сегментной спайковой модели нейрона CSNM на операционных усилителях

Бойко Александр Васильевич1, Бахшиев Александр Валерьевич1'2, Корсаков Антон Михайлович1'3

1Санкт-Петербургский политехнический университет Петра Великого, 2ООО Системы Компьютерного зрения,

3Центральный научно-исследовательский и опытно-конструкторский институт робототехники и технической кибернетики,

Россия, Санкт-Петербург, bakhshiev_av@spbstu.ru

Аннотация. В работе предложен вариант аппаратной реализации сегментной спайковой модели нейрона на операционных усилителях. Актуальность работы обусловлена растущей потребностью как в аппаратных реализациях нейросетевых решений в целом, так и необходимостью развития адаптивных способностей сетей, в первую очередь, к изменяющимся условиям среды. Одним из перспективных направлений представляется реализация спайковых нейронных сетей, в которых основным функциональным элементом является не нейрон, а сегмент мембраны нейрона. Аппаратная реализация таких моделей нейрона на дискретной элементной базе должна позволить облегчить экспериментальные исследования данного направления. В основу предложенного решения положена модель нейрона С8ММ. В работе рассмотрены существующие подходы к аппаратной реализации моделей нейронов и выбран подход реализации на операционных усилителях. Разработаны схемы каждого сегмента реализуемой модели нейрона. Проведены тестовые эксперименты и сравнение с математической моделью, результаты которых позволили заявить, что реализация достаточно точно воспроизводит требуемые временные характеристики процессов преобразования сигналов в нейроне. Предложенная реализация позволяет гибко менять структуру дендритного и синаптического аппарата нейрона и удобно интерпретировать сигналы для сопоставления с математической моделью. Недостатком предложенного решения является низкая энергоэффективность, однако для исследовательских целей этот аспект на данном этапе не является критичным.

Ключевые слова: cпайковые нейронные сети, глубокое обучение, нейроморфные системы, спайковый нейрон, сегментная модель нейрона, машинное обучение, операционный усилитель, аппаратная реализация

Цитирование: Бойко А.В. Аппаратная реализация сегментной спайковой модели нейрона CSNM на операционных усилителях / А.В. Бойко, А.В. Бахшиев, А.М. Корсаков // Информационные и математические технологии в науке и управлении. - 2024. - № 2(34). - С. 41-49. - Б01: 10.25729/ЕБ1.2024.34.2.004.

Введение. В современном мире все большее применение находят технологии, основанные на нейронных сетях. Направление спайковых нейронных сетей является важной частью современной нейронауки. Это обусловлено как потребностью в создании энергоэффективных реализацией глубоких нейронных сетей [1], так и поиском новых, более эффективных архитектурных решений. Одним из направлений таких исследований являются попытки реализации вычислений на дендритных деревьях отдельных нейронов, с далеко идущей целью создания архитектур, где функциональным элементом выступает не отдельный нейрон как точечный объект, а сегмент (компартмент) дендритного дерева.

Нейробиологические исследования показали, что дендриты нейронов играют важную роль в интеграции синаптических входов, что может увеличить способность нейронов обрабатывать информацию [2, 3]. Применение модели нейрона с учетом описания структуры дендритного дерева предложено в [4], однако модель не рассматривает сигналы в сети как

спайковые. Модели, учитывающие структуру нейрона, называют сегментными моделями (compartmental). На данный момент можно выделить двухсегментную модель [5], состоящую из модулей сомы и дендритов, и трехсегментную модель, состоящую из модулей сомы, апикальных и базальных дендритов [6]. В работах [7, 8] показывается, что многосегментные модели нейрона, реализованные на нейроморфных чипах, позволяют имитировать динамические процессы нейронных цепей мозга при низких энергозатратах. В работе [9] предлагается алгоритм обучения спайковой нейронной сети, использующей многосегментные нейроны для обработки данных о состоянии системы.

В статье рассматривается аппаратная реализация модели нейрона CSNM, представленная в работах [10, 11, 12]. Модель CSNM позволяет описывать нейрон как древовидную структуру, состоящую из отдельных сегментов, каждый из которых может содержать произвольное число возбуждающих и тормозных синапсов. Особенностью модели является простота реализации на ней нейронов с различной конфигурацией дендритного и синаптического аппаратов с сохранением возможности описания динамических процессов преобразования импульсных потоков в нейроне. Целью работы было реализовать качественно подобное поведение аппаратной реализации на дискретных элементах с возможностью в будущем формировать требуемую структуру мембраны вручную.

В разделе 1 представлен краткий обзор подходов к реализации спайковых моделей нейронов на аналоговой электронике, в разделе 2 описано предлагаемое решение, в разделе 3 демонстрируются результаты симуляции.

1. Обзор подходов к аппаратной реализации моделей нейронов на аналоговой элементной базе. Большинство схем используют транзисторные каскады для реализации уравнений модели [13, 14]. Транзисторы не потребляют много энергии, работают при низких напряжениях, имеют малые габариты и довольно высокий КПД, но при этом чувствительны к температуре и статическому электричеству. Эти недостатки устраняют с помощью обратных связей, в результате чего схемы становятся довольно сложными для восприятия и расчета. Кроме того, схемы на транзисторах чувствительны к параметрам элементов в нем, особенно к качеству транзисторов. Если схема симметрична, то практически обязательным требованием является использование транзисторов из одной партии. При сборке схем на дискретной элементной базе это необходимо учитывать.

В некоторых реализациях кроме транзисторных каскадов используются и операционные усилители (ОУ), чаще - в схемах для обучения нейросетей. ОУ обычно выполняет вспомогательную функцию, например, по объединению нейронов определенным образом или созданию положительной обратной связи. Иногда ОУ используется в качестве компаратора с гистерезисом. В некоторых реализациях ОУ играет главную роль, например, в [15] ОУ используется в качестве интегратора в синапсе. В работе [14] предложен синапс с использованием ОУ для сохранения бистабильности.

Отдельно стоит выделить аппаратную реализацию нейрона Neurogrid [16]. Дифференциальные уравнения модели реализованы с помощью управляемой проводимости, интеграторов на емкости и управляемых источников тока. В основе элементной базы управляемых элементов лежат транзисторы. Главным отличием этой реализации от рассмотренных ранее является ее наибольшая приближенность к биологическому нейрону: наличие "популяции" синапсов, а также отдельно выраженных ионных каналов, дендрита и сомы.

Операционные усилители не пользуются большой популярностью при реализации спайковых нейронных сетей, так как математические модели обычно описывают поведение тока внутри нейрона, а операционные усилители преобразуют именно напряжение.

Исключением является синапс, который, как в модели, так и в реализациях, оперирует входным напряжением, но выходом все равно является синаптический ток.

Схемы на операционных усилителях отличаются постоянством и надежностью характеристик. Параметры такой схемы практически полностью зависят от внешних элементов, а не самого ОУ, поэтому тщательный подбор элементов здесь не нужен. Существуют готовые схемы на ОУ для типовых операций и звеньев теории автоматического управления, которые практически не требуют дополнительной настройки, а также, при каскадном подключении схемы на ОУ, обладают меньшим шумом по сравнению с каскадным подключением транзисторных схем. В случае с сегментной реализацией очень важна повторяемость параметров одинаковых сегментов, что трудно ожидать от транзисторных схем на дискретных элементах.

Относительно недавно в реализациях появился новый подход - использование мемристоров. Мемристор - это элемент, который сохраняет определенное значение своего сопротивления в зависимости от проходившего через него тока. В реализациях он обычно используется для хранения веса нейрона, что облегчает обучение нейросети.

В одной из аналоговых реализаций мемристор используется как генератор.

Мемристоры пока являются довольно новыми компонентами, и еще не настолько хорошо изучены и описаны. Они имеют несколько недостатков: от одного цикла переключения к другому они слегка меняют свои характеристики, и, так же, как и транзисторы, обладают вариацией характеристик от одного устройства к другому.

2. Аппаратная реализация модели CSNM на операционных усилителях. Рассматриваемая модель нацелена на реализацию пластичности нейрона через изменение структуры мембраны и числа синапсов, поэтому для сохранения всех функций модели нет необходимости обеспечивать изменение веса синапса. Также, поскольку планировалось использование дискретных элементов, в основу были положены операционные усилители. Вопросы оптимизации энергопотребления и сложности схемотехнических решений в рамках данной работы не рассматривались.

Аппаратная реализация делится на следующие модули аналогично модели CSNM: синапс, сегмент мембраны и генератор импульсов. Далее эти структурные элементы можно комбинировать, формируя нейрон с различной организацией дендритного и синаптического аппарата. Для примера, на рисунке 1 изображена схема простейшего нейрона с одним синапсом и мембраной.

X,Y - входной и выходной сигналы соответственно (прямоугольный импульс)

Ui, U2 - потенциал на входе и выходе модели сегмента мембраны W - вклад синапса в изменение потенциала мембраны H - влияние генератора на изменение потенциала мембраны (обратная связь) Рис. 1. Структурная схема аппаратной реализации нейрона

На рисунке 2 приведены схемы функциональных элементов модели. Использование напряжения как носителя сигнала вытекает из факта использования ОУ.

Здесь: In - вход, Out - выход, Rep - повторитель, InvAmp - инвертирующий усилитель, q - коэффициент усиления, VCS - управляемый напряжением ключ, R - сопротивление, C -емкость, OpAmp - операционный усилитель, Gnd - земля, Wln - сигнал с синапса, Fb -

обратная связь, UIn - входное напряжение, SumW - сумматор сигналов с синапса, SumU-сумматор напряжений, VCR - управляемое напряжением сопротивление, Uout - выходное напряжение, Us - суммарное напряжение, Corr - корректировщик, Inv - инвертор.

(1) - Синапс (2) - сегмент мембраны (3) - генератор импульсов Рис. 2. Схемы функциональных элементов модели

В модели CSNM синапс представлен апериодическим звеном 1-го порядка с логическим управлением постоянной времени. На вход синапса подается положительный прямоугольный импульс длительностью 1 мс и амплитудой 5В. Так как на выходе мы хотим получить положительный отклик синапса, а ОУ инвертирует сигнал, мы предварительно инвертируем импульс с помощью инвертирующего усилителя с коэффициентом усиления 1.

Синапс должен обладать разными постоянными времени во время своего роста (когда импульс активен) и своего спада (когда импульс отсутствует). Постоянная времени апериодического звена на ОУ зависит от сопротивления и емкости С С обратной связи (Т = И1С Т = RlC), поэтому, чтобы менять постоянную времени, нужно менять сопротивление или емкость. Добавление емкости вызывает «просадки» сигнала при зарядке конденсатора, поэтому было принято решение управлять сопротивлением. Для этого в участок обратной связи был добавлен ключ, управляемый напряжением (VCS), с параллельным ему добавочным сопротивлением На затвор подается импульс с генератора, таким образом,

когда импульс есть - VCS замыкается и шунтирует сопротивление (Твоз = когда

импульс отсутствует - VCS размыкается и сопротивление участвует в цепи (Тспад =

[йх + Я2]С). Сопротивления были подобраны так, чтобы временные постоянные были приближены к таковым в модели.

Так как напряжение импульса делится на две ветви и уменьшается, коэффициент инвертирующего усилителя был изменен на 2.

Также выход генератора импульсов является выходом операционного усилителя (т.е. низкоомный выход). При подключении следующего нейрона сигнал с него должен идти на

вход другого ОУ в синапсе (т.е. высокоомная нагрузка), и для избежания помех сигнала в синапсе применен повторитель входного сигнала.

Функциональная схема сегмента мембраны представлена на рисунке 2(2). Реализация сегмента состоит из двух частей (ионных механизмов), обеспечивающих условно положительный и отрицательный вклады в потенциал. Разделение на полярность считается условным, потому что играет роль только знак при сложении значений, само напряжение в каждой части положительное. Каждый ионных механизм, по сути, представляет собой апериодическое звено первого порядка с обратной связью. Сигнал синапса участвует в обратной связи и в постоянной времени апериодического звена. Если пересчитать этот элемент с учетом обратной связи, то так же, как для синапса, можно получить интегратор со следующим выражением для выходной характеристики:

С р + г2Я + е„

ТТ _ т± о т о ТТ

~ . 1 / ч и 1п

(г + )Р

/ т

где С - емкость мембраны,

Я - сопротивление мембраны, г - суммарная текущая проводимость синапсов.

Предложенная реализация не обеспечивает точного соответствия, но решение было подобрано так, чтобы качественно повторять поведение математической модели.

Для реализации изменяемой временной характеристики было использовано сопротивление, управляемое напряжением (управляемое сопротивление). На данный момент в схеме оно представлено виртуальным элементом.

Входными сигналами для сегмента мембраны являются два входа для потенциалов (в случае конечного сегмента дендрита в цепочке - это потенциал с источника напряжения, а в случае последующих - это вклады с предыдущих сегментов), два входа для сигналов с синапсов (тормозящий и возбуждающий) и два входа для обратной связи (ОС) на каждый из потенциалов. Выходными сигналами являются два выхода для потенциала каждого знака и выход для суммы потенциалов. Разделение на полярность считается условным, потому что играет роль только знак при сложении значений, само напряжение в каждой части положительное.

На входе для сигналов с синапса стоят инвертирующие сумматоры, которые позволяют подключать на вход мембраны несколько синапсов с разным весом.

Принцип работы генератора выходных импульсов таков: сигнал обратной связи и выходной импульс начинают генерироваться, когда сигнал на входе выше определенного уровня (Рх), а заканчивает генерироваться, когда ниже другого уровня (Р2, Р2 < Р1). Такому поведению полностью соответствует компаратор с гистерезисом на операционном усилителе (ОУ). Функциональная схема генератора импульсов представлена на рисунке 2(3).

Параметры компаратора (значения порогов) задаются через отношения сопротивлений и й2, R1иR2и максимального и минимального напряжений на ОУ. Компаратор выдает свой отрицательный нижний порог, поэтому он «сдвигается» до нуля суммированием результата компаратора с дополнительным напряжением, противоположным нижнему порогу. Этот элемент схемы представлен как «Corт». Далее сигнал с соответствующим знаком идет на выход и на обратную связь (ОС).

3. Экспериментальное исследование. Для того, чтобы сравнить полученную аппаратную реализацию, был поставлен следующий эксперимент. В качестве входа на синапс и ионный механизм сегмента мембраны подавались одинаковые сигналы: импульс

(прямоугольный сигнал длительностью 1 мс) и ступенька (прямоугольный сигнал длительностью в 1 с). Временем возрастания считалось время, когда сигнал изменяется от 5% до 95% расстояния между экстремумами, время спада, соответственно, наоборот. Результаты экспериментов представлены в таблице 1.

Таблица 1. Время возрастания и спада выходного сигнала реализации синапса _и ионного механизма сегмента мембраны, мс

Синапс Сегмент мембраны

Модель Аппаратная А Модель Аппаратная А

симуляция симуляция

Твоз Тспад Твоз Тспад Твоз Тспад Твоз Тспад Твоз Тспад Твоз Тспад

Импульс 1 29 0,8 29,2 0,2 0,2 102 1,5 97 1,5 7 0

Ступенька 2 28,5 2,9 29,2 0,9 0,7 294 78 228,7 55,3 63,3 22,7

Для наглядности результаты были нормированы и представлены на рисунке 3 (продолжительные плато урезаны для компактности), по оси абсцисс указано время (сек).

(1) - Реакции синапса (2) - Реакции ионного механизма сегмента мембраны Рис. 3. Реакции синапса и ионного механизма сегмента мембраны на ступенчатое входное

воздействие

Можно видеть, что качественно аппаратная реализация повторяет поведение математической модели. Рассогласование обусловлено спецификой аппаратной реализации, а также некоторыми допущениями в реализации сегмента мембраны. Тем не менее, результаты качественно соответствуют друг другу. Полученная количественная погрешность в длительности переходных процессов может быть компенсирована эмпирической коррекцией параметров модели.

Заключение. Был проведен анализ существующих подходов к аппаратной реализации спайковых нейронов на дискретных аналоговых элементах. Разработаны схемы реализаций функциональных элементов модели CNSM, проведена эмпирическая настройка полученной схемы под типовые параметры математической модели.

Преимуществом предложенного решения является его модульность, то есть возможность собирать произвольные конфигурации структуры мембраны нейрона.

Для оценки качества полученного решения проведены эксперименты со сравнением отклика синапса и сегмента мембраны на типовые входные воздействия. Эксперименты показали, что реализация повторяет временные характеристики, которые наблюдаются в математической модели, что позволит использовать ее для аппаратной реализации предобученных спайковых нейронных сетей.

Из недостатков на данном этапе можно выделить сложность описания схемы, недостаточно эффективное энергопотребление, неопределенность в физической реализации некоторых элементов схемы, необходимость эмпирической подстройки временных параметров схемы.

В качестве перспективных направлений работы можно выделить следующие: необходимость разработки метода сравнения амплитуд в математической модели с амплитудами в её аппаратной реализации, проведение дополнительных экспериментов с отдельными нейронами и цепочками нейронов, оптимизация схемы и сборка прототипов.

Благодарности. Исследование выполнено за счет гранта Российского научного фонда № 23-21-00287, https://rscf.ru/project/23-21-00287.

Список источников

1. Bouvier M., Valentian A., Mesquida T. et al. Spiking neural networks hardware implementations and challenges: A survey. ACM Journal on Emerging Technologies in Computing Systems (JETC), 2019, no. 15(2), pp. 1-35.

2. Smith S. L. et al. Dendritic spikes enhance stimulus selectivity in cortical neurons in vivo. Nature, 2013, vol. 503, no. 7474, pp. 115-120.

3. Gidon A. et al. Dendritic action potentials and computation in human layer 2/3 cortical neurons. Science, 2020, vol. 367, no. 6473, pp. 83-87.

4. Khan G.M., Miller J.F. In search of intelligence: evolving a developmental neuron capable of learning. Connection Science, 2014, vol. 26, no. 4, pp. 297-333.

5. Urbanczik R., Senn W. Learning by the dendritic prediction of somatic spiking. Neuron, 2014, vol. 81, no. 3, pp. 521-528.

6. Sacramento J. et al. Dendritic cortical microcircuits approximate the backpropagation algorithm. Advances in neural information processing systems, 2018, vol. 31.

7. Shrestha A. et al. In-hardware learning of multilayer spiking neural networks on a neuro-morphic processor. 2021 58th ACM/IEEE Design Automation Conference (DAC), IEEE, 2021, pp. 367-372.

8. Kopsick J. D. et al. Robust resting-state dynamics in a large-scale spiking neural network model of area ca3 in the mouse hippocampus. Cognitive computation, 2022, pp. 1-21.

9. Sun Y. et al. Multi-compartment neuron and population encoding improved spiking neural network for deep distributional reinforcement learning. arXiv preprint arXiv:2301.07275, 2023.

10. Бахшиев А.В. Математическое моделирование процессов преобразования импульсных потоков в естественном нейроне / А.В. Бахшиев, С.П. Романов // Нейрокомпьютеры: разработка, применение, 2009. - №3 - C.71-80.

11. Bakhshiev A., Gundelakh F. Mathematical model of the impulses trans-formation processes in natural neurons for biologically inspired control systems development. Supplementary Proceedings of the 4th International conference on analysis of images, social networks and texts (AIST-SUP 2015), Yekaterinburg, Russia, April 9-11, 2015. Published on CEUR-WS, vol. 1452, pp. 1-12, 15.10.2015, available at: http://ceur-ws.org/Vol-1452/

12. Бахшиев А.В. Сегментная спайковая модель нейрона CSNM / А.В. Бахшиев, А.А. Демчева // Известия высших учебных заведений. Прикладная нелинейная динамика, 2022. - Т. 30. - № 3. - С. 299-310. -DOI: 10.18500/0869-6632-2022-30-3-299-310.

13. Chicca E., Stefanini F., Bartolozzi C., Indiveri G. Neuromorphic Electronic circuits for building autonomous cognitive systems. Proceedings of the IEEE, 2014, vol. 102, no. 9, pp. 1367-1388.

14. Azghadi M.R., Iannella N., Al-Sarawi S.F., Indiveri G., Abbott D. Spike-based synaptic plasticity in silicon: design, implementation, application, and challenges. Proceedings of the IEEE, 2014, vol. 102, no. 5, pp. 717-737.

15. Millner S., Grubl A., Meier K., Schemmel J., Schwartz M.-O. A VLSI implementation of the adaptive exponential. Advances in neural information processing systems, 2010, vol. 23, pp. 1642-1650.

16. Zohora F.T., Debnath S., Rashid A.H.-u, Memristor-CMOS hybrid implementa-tion of leaky integrate and fire neuron model. International Conference on electrical, computer and communication engineering (ECCE), Cox'sBazar, Bangladesh, 2019.

Бойко Александр Васильевич. Студент СПбПУ. Направление обучения: мехатроника и робототехника, автономные роботы. ORCID: 0009-0009-7230-3346, boyko02av@mail.ru, 195251, Санкт-Петербург, ул. Политехническая, д. 29.

Бахшиев Александр Валерьевич. К.т.н., СПбПУ, доцент. Направления исследований: искусственные нейронные сети, нейроморфные системы, компьютерное зрение. AuthorlD: 172135, SPIN: 7055-8676, ORCID: 0000-0002-1284-0088, palexab@gmail.com, 195251, Санкт-Петербург, ул. Политехническая, д. 29.

Корсаков Антон Михайлович. Старший научный сотрудник ЦНИИ РТК. Направления исследований: искусственные нейронные сети, нейроморфные системы, компьютерное зрение. AuthorlD: 172137, SPIN: 37363401, anton_korsakov@mail.ru, 194064, Санкт-Петербург, Тихорецкий пр., д. 21.

UDC 004.27+621.382 DOI:10.25729/ESI.2024.34.2.004

Operational-amplifier-based hardware implementation of the compartmental spike model of the CSNM neuron

Alexander V. Boyko1, Alexander V. Bakhshiev1'2, Anton M. Korsakov1'3

1Peter the Great St. Petersburg Polytechnic University, 2Computer Vision Systems LLC, St. Petersburg,

3Russian state scientific center for robotics and technical cybernetics (RTC), Russia, St. Petersburg, bakhshiev_av@spbstu.ru

Abstract. In this paper, a variant of the compartmental spiking neuron model hardware implementation on operational amplifiers is proposed. The relevance of the work is due to the growing need for both hardware implementations of neural network solutions in general and the need to develop adaptive abilities of networks, primarily to changing environmental conditions. One of the promising directions is the implementation of spike neural networks, in which the main functional element is not a neuron, but a compartment of the neuron membrane. The hardware implementation of such neuron models on a discrete element base should make it possible to facilitate experimental research in this area. The proposed solution is based on the CSNM neuron model. The paper considers the existing approaches to the hardware implementation of neuron models and selects the implementation approach on operational amplifiers. Schematics of each compartment of the implemented neuron model have been developed. Test experiments and comparison with a mathematical model were carried out, the results of which allowed us to state that the implementation reproduces the required time characteristics of signal conversion processes in a neuron quite accurately. The proposed implementation makes it possible to flexibly change the structure of the dendritic and synaptic apparatus of a neuron, and it is convenient to interpret signals for comparison with a mathematical model. The disadvantage of the proposed solution is low energy efficiency, however, for research purposes, this aspect is not critical at this stage.

Keywords: spike neural networks, deep learning, neuromorphic systems, spike neuron, compartmental neuron model, machine learning, operational amplifier, hardware implementation

Acknowlegements: The research was carried out at the expense of a grant from the Russian Science Foundation No. 23-21-00287, https://rscf.ru/project/23-21-00287.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

References