CC BY
21
I сотрудник научно-исследовательской лаборатории многомерных данных Института информационных технологий,
А.В. Лебедева, к.б.н., до цент кафедры нейротехнологий Института биологии и биомедицины1; Н.В. Громов, лаборант-исследователь научно-исследовательской лаборатории перспективных методов ализа многомерных данных Института информационных технологий, математики и механики1; .Е. Мальков, к.б.н., старший научный сотрудник лаборатории системной организации нейронов2; А.А. Федулина, младший научный сотрудник лаборатории генетики развития мозга
'чно-исследовательского института нейронаук1; Т.А. Леванова, к.ф.-м.н., доцент кафедры теории управления и динамики систем Института информационных технологий, математики и механики1;
А.Н. Писарчик, PhD, зав. лабораторией вычислительной биологии Центра биомедицинских технологий3
Нижегородский государственный университет им. Н.И. Лобачевского, пр. Гагарина, 23, Н. Новгород, 603022;
2Институт теоретической и экспериментальной биофизики РАН, ул. Институтская, 3, Пущино, Московская область, 142290;
3Мадридский политехнический университет, 28223, Мадрид, Испания
Цель исследования — оценить возможности предсказания эпилептиформной активности по данным нейрональной активности, полученной от гиппокампа и медиальной энторинальной коры мозга мышей с хронической эпилептиформной активностью.
Для достижения этой цели была разработана глубокая искусственная нейронная сеть (ИНС) и продемонстрирована реализация такой сети с использованием мемристивных устройств.
Материалы и методы
Биологическая часть исследования. Использованы молодые здоровые аутбредные мыши CD1, разделенные на две группы: контрольная (n=6) и с индуцированной хронической эпилептиформной активностью (n=6). Для регистрации нейрональной активности от гиппокампа и медиальной энторинальной коры мозга у мышей обеих групп получены локальные полевые потенциалы (ЛПП). Полученные записи ЛПП использованы для обучения глубокой искусственной нейронной сети (ИНС). Эпилептиформную активность у мышей моделировали с помощью внутрибрюшинного введения пилокарпина (280 мг/кг). Регистрацию ЛПП у бодрствующих мышей проводили через месяц после индукции эпилептиформной активности.
Математическая часть исследования. Разработана глубокая ИНС долгой краткосрочной памяти (long short-term memory, LSTM), способная предсказывать биологические сигналы нейрональной активности мышей. Реализация ИНС была основана на использовании мемристивных устройств, которые описываются уравнениями окислительно-восстановительных процессов, протекающих в мемристивных тонких пленках «металл-оксид-металл», например Au/ZrO2(Y)/TiN/Ti и Au/SiO2(Y)/TiN/Ti. Для обучения разработанной ИНС предсказывать эпилептиформную активность использован алгоритм обучения с учителем. Это позволило настроить параметры сети и обучить ее на основе предоставленных записей нейрональной активности.
Результаты. После обучения на записях ЛПП гиппокампа и медиальной энторинальной коры мозга мышей с хронической эпилептиформной активностью предложенная глубокая ИНС продемонстрировала высокие значения метрики качества (средняя квадратичная ошибка, RMSE) и успешно предсказывала появление эпилептиформной активности незадолго до ее возникновения (40 мс). Результаты численных экспериментов показали, что значение метрики качества предсказания составило 0,019, что свидетельствует об эффективности данного подхода. Точность предсказания эпилептиформной активности с задержкой в 40 мс является значимым результатом и указывает на потенциал разработанной архитектуры нейронной сети.
Заключение. Разработанная глубокая ИНС может быть использована для предсказания патологической нейрональной активности, в частности эпилептической судорожной (фокальной) активности у мышей до ее непосредственного возникновения. Кроме того, она может быть применена для построения долгосрочного прогноза течения заболевания на основе данных ЛПП. Таким образом, разработанная ИНС на основе мемристивных устройств представляет новаторский подход к предсказанию и анализу патологической нейрональной активности, обладая потенциалом для улучшения диагностики и прогнозирования эпилептических судорог и других заболеваний, связанных с нейрональной активностью.
Ключевые слова: эпилепсия; локальные полевые потенциалы; искусственные нейронные сети; мемристивные устройства.
Для контактов: Лебедева Альбина Владимировна, e-mail: lebedeva@neuro.nnov.ru
Как цитировать: Gerasimova S.A., Lebedeva A.V., Gromov N.V., Malkov A.E., Fedulina А.А., Levanova T.A., Pisarchik A.N. Memristive neural networks for predicting seizure activity. Sovremennye tehnologii v medicine 2023; 15(4): 30, https://doi.org/10.17691/ stm2023.15.4.03
English
Memristive Neural Networks for Predicting Seizure Activity
S.A. Gerasimova, PhD, Researcher, Research Laboratory of Perspective Methods of Multidimensional Data Analysis, Institute of Information Technologies, Mathematics, and Mechanics1; A.V. Lebedeva, PhD, Associate Professor, Department of Neurotechnologies, Institute of Biology and Biomedicine1;
N.V. Gromov, Laboratory Research Assistant, Research Laboratory of Perspective Methods of Multidimensional Data Analysis, Institute of Information Technologies, Mathematics, and Mechanics1; A.E. Malkov, PhD, Senior Researcher, Laboratory of Systemic Organization of Neurons2; A.A. Fedulina, Junior Researcher, Laboratory of Brain Development Genetics, Research Institute of Neurosciences1;
T.A. Levanova, PhD, Associate Professor, Department of System Dynamics and Control Theory, Institute of Information Technologies, Mathematics, and Mechanics1;
A.N. Pisarchik, PhD, Head of the Laboratory of Computational Biology, Center for Biomedical Technology3
1Lobachevsky Research State University of Nizhni Novgorod, 23 Gagarin ave, Nizhny Novgorod, 603022, Russia;
institute of Theoretical and Experimental Biophysics of Russian Academy of Sciences, 3 Institutskaya St., Puschino, Moscow Region, 142290, Russia; 3Universidad Politécnica de Madrid, Madrid, 28223, Spain
The aim of the study is to assess the possibilities of predicting epileptiform activity using the neuronal activity data recorded from the hippocampus and medial entorhinal cortex of mice with chronic epileptiform activity. To reach this goal, a deep artificial neural network (ANN) has been developed and its implementation based on memristive devices has been demonstrated.
Materials and Methods
The biological part of the investigation. Young healthy outbred CD1 mice were used in our study. They were divided into two groups: control (n=6) and the group with induced chronic epileptiform activity (n=6). Local field potentials (LFP) were recorded from the hippocampus and medial entorhinal cortex of the mice of both groups to register neuronal activity. The LFP recordings were used for deep ANN training. Epileptiform activity in mice was modeled by intraperitoneal injection of pilocarpine (280 mg/kg). LFP were recorded in the awake mice a month after the induction of epileptiform activity.
Mathematical part of the investigation. A deep long short-term memory (LSTM) ANN capable of predicting biological signals of neuronal activity in mice has been developed. The ANN implementation is based on memristive devices, which are described by the equations of the redox processes running in the memristive thin metal-oxide-metal films, e.g., Au/ZrO2(Y)/TiN/Ti and Au/SiO2(Y)/TiN/Ti. In order to train the developed ANN to predict epileptiform activity, a supervised learning algorithm was used, which allowed us to adjust the network parameters and train LSTM on the described recordings of neuronal activity.
Results. After training on the LFP recordings from the hippocampus and medial entorhinal cortex of the mice with chronic epileptiform activity, the proposed deep ANN has demonstrated high values of evaluation metric (root-mean-square error, RMSE) and successfully predicted epileptiform activity shortly before its occurrence (40 ms). The results of the numerical experiments have shown that the RMSE value of 0.019 was reached, which indicates the efficacy of proposed approach. The accuracy of epileptiform activity prediction 40 ms before its occurrence is a significant result and shows the potential of the developed neural network architecture.
Conclusion. The proposed deep ANN can be used to predict pathological neuronal activity including epileptic seizure (focal) activity in mice before its actual occurrence. Besides, it can be applied for building a long-term prognosis of the disease course based on the LFP data. Thus, the proposed ANN based on memristive devices represents a novel approach to the prediction and analysis of pathological neuronal activity possessing a potential for improving the diagnosis and prognostication of epileptic seizures and other diseases associated with neuronal activity.
Key words: epilepsy; local field potentials; artificial neural networks; memristive devices.
Введение
Эпилепсия характеризуется спонтанными и непредсказуемыми судорогами, которые часто сопровождаются ухудшением или потерей сознания, психическими, вегетативными, сенсорными и моторными
симптомами [1]. С помощью имеющихся сегодня про-тивоэпилептических препаратов эпилептические судороги можно удовлетворительно контролировать примерно у двух третей пациентов [2]; у 8% пациентов эпилепсия может быть устранена хирургическим путем. Оставшиеся 25% больных эпилепсией не могут
быть адекватно вылечены с помощью каких-либо доступных на сегодняшний день средств.
В настоящее время медикаментозное лечение остается наиболее распространенным методом терапии эпилепсии. Однако существует ряд проблем, связанных с недостаточной эффективностью и терапевтической безопасностью противоэпилептических препаратов. Некоторые формы эпилепсии не поддаются медикаментозной терапии и их трудно контролировать. К таким формам относится синдром Леннокса-Гасто, который представляет собой одну из форм детской эпилепсии, проявляющейся во время сна [35]. Кроме того, резистентная форма эпилепсии, которая может развиться на фоне травмы головного мозга, инфекционных заболеваний и др., также не поддается стандартной медикаментозной терапии [6]. Стоит отметить, что даже при должном уровне эффективности медикаментозной терапии у пациентов периодически могут проявляться побочные эффекты: дезориентация, депрессивные состояния, судороги, эффекты замедления, неврологический дефицит в виде ухудшения памяти и концентрации внимания, проблемы со зрением, слухом и координацией движений [7-9]. В связи с этим поиск путей предсказания, коррекции и лечения эпилепсии является одной из актуальных задач современной науки, требующих междисциплинарного подхода, включая нейровизуализационные технологии, генные исследования, современную фармакологию, а также математические методы, такие как машинное обучение глубоких искусственных нейронных сетей (ИНС).
В последние годы машинное обучение показало себя очень эффективным инструментом для изучения эпилепсии. Это связано с тем, что алгоритмы машинного обучения позволяют анализировать большие объемы данных активности мозга [10-14] и медицинских изображений [15, 16], что помогает лучше понять природу эпилептических приступов, обнаружить области их возникновения и распространения, а также разработать наиболее эффективный план медикаментозной терапии с учетом индивидуальных особенностей пациента [17, 18]. Следует при этом отметить, что эффективность обучения глубоких ИНС напрямую зависит от качества данных, на которых это обучение проводится. Экспериментальные данные нейрональной активности при эпилепсии могут быть получены с помощью различных биологических моделей. Здесь наиболее предпочтительны биологические модели с использованием грызунов (крыс, мышей), поскольку грызуны способны проявлять индуцированную хроническую эпилепти-формную активность, что позволяет исследовать патологические механизмы данного заболевания.
В современной научной литературе широко описаны некоторые междисциплинарные подходы к исследованию нейрональной активности в биологических моделях эпилепсии у грызунов с использованием машинного обучения. В частности, в работах [19, 20] представлены результаты классификации нейронной активности грызунов в норме и при патологии.
Отдельно стоит отметить исследования, посвященные предсказанию эпилептических припадков на основе данных ЭЭГ [21, 22]. Архитектуры используемых глубоких ИНС при этом варьируются от сверточных сетей [23] до трансформеров [24] и генеративно-состязательных сетей [25]. В работе [26] для задачи прогнозирования припадков в генетических моделях абсансной эпилепсии у крыс в записях от кортико-таламических областей получена высокая точность за счет использования машинного обучения.
Следует, однако, отметить, что глубокие нейросе-ти имеют огромное количество параметров (весов), настраиваемых в процессе обучения, что в свою очередь приводит к большим вычислительным затратам, которые при дальнейшем развитии описанного подхода могут стать чрезмерными. В последние годы для решения этой проблемы при реализации различных ИНС, таких как спайковые нейронные сети [27, 28], многослойные нейронные сети [29-31], нейронные сети Хопфилда [32, 33], сверточные нейронные сети [34, 35] и сети долгой краткосрочной памяти (long short-term memory, LSTM) [36], широко использовались мемристивные архитектуры. Эти новые реализации архитектур нейронных сетей позволили получить существенные преимущества с точки зрения энергопотребления, ускорения вычислений и других важных показателей. Мемристивное устройство может выполнять вычисления в памяти, а мемристивная матрица может ускорить векторно-матричное умножение. Поэтому реализация нейронных сетей на основе мем-ристивных устройств является перспективным способом решения вышеуказанных проблем.
Таким образом, благодаря прогрессу в построении ИНС, в особенности с применением новых энергоэффективных архитектур (таких, как мемристивные кроссбары), открываются новые возможности для эффективного предсказания и анализа патологической нейрональной активности и, соответственно, для разработки новых современных методов предсказания и лечения эпилепсии.
Цель исследования — оценить возможность предсказания эпилептиформной активности по данным нейрональной активности, записанной от гиппокампа и медиальной энторинальной коры мозга мышей с хронической эпилептиформной активностью, с помощью разработанной глубокой искусственной нейронной сети, а также продемонстрировать реализацию такой сети с использованием мемристивных устройств.
Материалы и методы
Биологическая часть исследования. Работа проведена в соответствии с этическими принципами, сформулированными в Хельсинкской декларации (2013), и с Регламентом Европейского парламента (86/609/ЕЕС от 24 ноября 1986 г).
В экспериментах использовали молодых взрослых аутбредных самцов мышей CD1 (n=12) массой тела
28-35 г, взятых из Клиники экспериментальных животных Института теоретической и экспериментальной биофизики РАН (Пущино, Россия). Мыши содержались по двое в контролируемых условиях (22-24°C, 12-часовой цикл свет/темнота) с пищей и водой ad libitum. Животных распределили случайным образом на экспериментальную (n=6) и контрольную (n=6) группы. Для индукции эпилептического статуса в модели хронической эпилепсии бодрствующим мышам системно инъецировали скопаламин (2 мг/кг внутри-брюшинно) и спустя 30 мин — пилокарпин (280 мг/кг внутрибрюшинно).
Контрольным мышам с той же массой и того же возраста инъецировали физиологический раствор аналогичным образом. Для характеристики эпилептического статуса использовали шкалу Расина: стадии 4, 5 (тонико-клонические припадки, круговые движения с потерей позы и падением, длящиеся не менее 1,5 ч) определяли как развитие эпилептического статуса. Запись локальных полевых потенциалов (ЛПП) в поле СА1 гиппокампа и в медиальной энторинальной коре, слой III (MEC III), проводили спустя 1 мес после индукции эпилептического статуса. Регистрацию осуществляли в одно и то же время, между 17:00 и 21:00.
У мышей эпилептической группы регистрацию проводили в межсудорожный период. Перед началом экспериментов животных подвергали хирургической операции под общей анестезией (30 мг/кг золетила и 12 мг/кг ксилазина внутримышечно) в сте-реотаксическом аппарате (Model 902 Small Animal Stereotaxic Instrument; David Kopf Instruments, США). Температуру тела поддерживали с помощью электрогрелки, а сердечно-легочное состояние во время операции контролировали с помощью пульсового оксиметра (Oxy9Vet Plus; Bionet, Южная Корея). Глубинные регистрирующие электроды (изолированный нихром, диаметр — 0,05 мм) имплантировали с использованием Атласа мозга (Paxinos & Watson, 1998) в гиппокамп (поле CA1: AP (anteroposterior) равняется -2,5 (рострокаудальное направление коор-
динат, рассчитываемое от брегмы); ML (mediolateral) равняется 2 (медиолатеральное направление координат, рассчитываемое от брегмы); DV (dorsoventral) равняется 1,5 (дорсовентральное направление координат, рассчитываемое от брегмы)), а также в медиальную энторинальную кору (MEC III: AP=-3; ML=4,5; DV=5). Референтный электрод ввинчивали в затылочную кость над мозжечком. Весь комплекс фиксировали на голове акриловым цементом. В течение недели животные восстанавливались после операции и приучались к экспериментальной обстановке. В данной работе использовали записи хронической нейрональной активности от гиппокампа и MEC III, при этом данные по исследованию поведенческих паттернов в момент регистрации нейрональной активности не применялись.
Математическая часть исследования. Разработана глубокая нейронная сеть архитектуры LSTM, способная предсказывать биологические сигналы нейрональной активности мышей. Показаны подходы, позволяющие получить схемотехническую реализацию разработанной сети на основе мемристивных устройств, поведение которых описано уравнениями окислительно-восстановительных процессов, протекающих в мемристивных тонких пленках металл-оксид-металл: Au/ZrO2(Y)/TiN/Ti и Au/SiO2(Y)/TiN/Ti.
Сети долгой краткосрочной памяти. Типичная ячейка сети LSTM показана на рис. 1. Она представляет собой рекуррентный модуль сети, способный запоминать значения как на короткие, так и на длинные промежутки времени. Поскольку ячейка LSTM не использует функцию активации внутри своих рекуррентных компонентов, то в случае применения метода обратного распространения ошибки во времени хранимое значение не размывается во времени и градиент не исчезает (т.е. не стремится к нулю по мере того, как реализуется обратное распространение ошибки) при обучении ИНС.
Опишем работу ячейки LSTM. Она имеет два скрытых состояния: одно из них представляет собой
Рис. 1. Архитектура ячейки долгой краткосрочной памяти
— ВЫХОД
краткосрочную память Ь, а другое — долгосрочную память с(. Три фильтра регулируют поток информации в ячейку и из нее. Ячейка также содержит блоки сигмоид о и блоки гиперболических тангенсов ({дЬ), которые называются вентилями.
Идея долгосрочной памяти заключается в том, чтобы по совокупности информации от краткосрочной памяти на предыдущем шаге и от входа х( понять, какую информацию мы хотим далее хранить, а какую нет.
Сначала рассмотрим информацию, которую мы хотим забыть (не хранить дальше). За это отвечает вентиль забывания уравнение для которого выглядит следующим образом:
^о^х+Ш^ц+Ь), (1)
где о — сигмоидная функция активации; —
обучаемые матрицы весов.
Индексы здесь и далее обозначают следующее. Первый из индексов указывает на принадлежность к краткосрочной памяти Ь или входу х. Второй индекс отвечает за принадлежность к тому или иному вентилю. Таким образом, — обучаемая матрица весов, соответствующая входу х и вентилю забывания /¡. Обучаемые смещения обозначены как Ь, здесь и далее индексы указывают на принадлежность к вентилю. Таким образом, Ь — обучаемое смещение, соответствующее вентилю забывания 4 Если в результате покомпонентного умножения (х) на состояние долгосрочной памяти см мы получаем 0, то данная информация будет забыта, если 1 — сохранена.
Для информации, которую мы хотим запомнить, используем вентиль с сигмоидой о, чтобы понять, в какие компоненты состояния долгосрочной памяти с мы хотим вставить информацию:
1=о(ШхХ,+ШьЛ М+Ь,). (2)
Вентиль д( с гиперболическим тангенсом ({дЬ) используется для того, чтобы понять, какую информацию хотим сохранить:
д=дЬ(ШхдХ,+Ш„дЬм+Ьд). (3)
Иными словами, в схеме на рис. 1 умножение означает выбор информации, а сложение — добавление информации. Тогда итоговая формула для изменения долгосрочной памяти с будет выглядеть следующим образом:
С{=Ъс-1+1д (4)
Для получения выхода Ь используется вентиль выхода о1 и информация из долгосрочной памяти с{.
Ь=о х ШС), (5)
где о= о(№ХоХ(+№ЬоЬ+Ьо).
Глубокие искусственные нейронные сети, содержащие ячейки LSTM, называются сетями долгой краткосрочной памяти ^ТМ-сетями). Используемая в данной работе глубокая нейронная сеть LSTM имеет
следующую архитектуру. Первым идет входной линейный слой, переводящий входную информацию в признаковое пространство размерности 100. Далее идут два слоя ячеек LSTM. Результат проецируется линейным выходным слоем. Матрицы весов Ш и смещения Ь обучаются методом обратного распространения ошибки, при этом используется среднеквадратическая функция потерь (MSE):
-I N
М5Е=11 X (Уп -у п )2,
' п=1
где N — количество примеров, уп — текущее значение амплитуды для п-го примера, а уп — предсказанное значение для п-го примера.
Сети LSTM хорошо подходят для классификации, обработки и прогнозирования на основе данных временных рядов, поскольку между важными событиями во временном ряду могут быть промежутки неизвестной продолжительности. Относительная нечувствительность к длине окна также является преимуществом сетей LSTM перед обычными рекуррентными сетями, скрытыми марковскими моделями и другими методами машинного обучения для работы с последовательностями во многих приложениях. В предыдущей работе [37] авторов ансамбль, состоящий из нейронных сетей различного типа (сети прямого распространения, резервуарные вычисления и сети LSTM), был протестирован в задаче предсказания экстремальных событий и хаотической динамики по данным временного ряда.
Мемристивные устройства. Аппаратно матрица весов ячейки LSTM может быть реализована с использованием массивов мемристорных кроссбаров [35, 36]. При этом отдельные мемристивные устройства типа «металл-оксид-металл» [38] представляют собой тонкопленочные структуры, проводимость которых меняется на несколько порядков при приложении напряжения. Мемристивное устройство — это резистор с памятью, который способен сохранять полученное состояние: низкоомное или высокоомное, что указывает на так называемую резистивную память. Для моделирования поведения лабораторных мемристо-ров мы используем стандартный подход, описывающий окислительно-восстановительные процессы при приложении электрического напряжения и. Состояние мемристора м изменяется благодаря процессам миграции ионов кислорода при увеличении эффективного миграционного барьера Ет. В свою очередь миграция обеспечивается джоулевым нагревом кТ и приложенным электрическим напряжением и. Полная плотность тока j через мемристор представляет собой сумму линейной j|¡n и нелинейной jnon|¡n составляющих. Первая соответствует омической проводимости с удельным сопротивлением р, а вторая определяется транспортом носителей заряда через дефекты в областях изолятора, не занятых используемыми нитями, в том числе в области разрыва нити. Перенос тока осуществляется по механизму Пула-Френкеля с эффективным барьером ЕЬ.
Рис. 2. Схема векторно-матричного умножения для вентиля забывания: I — мемристивный кроссбар, где W — весовая функция, G — проводимость мемристивного устройства; II — структура мемристора, где u — приложенное напряжение; III — схема построения сигмоиды
Гейт забывания
Xt
h— % %
h1-i \ \
hh\ %
hh \ \
bt \ t \
\
III
Мемристивный кроссбар
aw=g2-g1
с \
Мемрнстор
Сигмоида
В данной работе мы использовали уравнения для мемристивного переключения (6), детальное описание получения которых представлено в статье [39].
¡=Щ«П + попНп
¡п = и / Р
¡поти = uexP(^^/й- Еь)
Мехр(-Ет -au)(1-(2w-1)2р), ики^
dw dt
0 Vset <U<Veset
<p(- Eri (1- (; i)2p и <ue
(6)
Параметры A, B, а взяты из экспериментальных данных. Параметры uset и ureset — пороговые напряжения переключения мемристивной структуры. Параметры Eb и Em — эффективные внутренние параметры, характеризующие разные пленки (Au/ZrO2(Y)/ TiN/Ti, Au/SiO2(Y)/TiN/Ti), p — положительное целое число, которое обеспечивает нулевое значение w вне интервала (0, 1).
Использование мемристоров в массивах кроссба-ров для выполнения векторно-матричного умножения позволяет получить высокую скорость вычислений при небольшой площади самого устройства.
Мемристивные нейронные сети. Поскольку вес в ячейке LSTM может принимать как положительные, так и отрицательные значения, его можно представить как разность проводимостей двух мемристоров AW=G2-G! [40]. Это удваивает количество мемристоров в матрице. На рис. 2 показана реализация вентиля забывания ячейки LSTM. Аналогичный подход можно использовать для построения остальных вентилей.
Для последующей аппаратной реализации мемристивной нейронной сети такие элементы, как мемристивное устройство, мемристивный кроссбар, сигмоида и гиперболический тангенс, были реализованы в программе Simulink с учетом параметров лабораторных мемристоров. На рис. 2 представлена схема для вентиля забывания (см. уравнения (1)-(5)). Сигмоида и гиперболический тангенс реализованы на транзисторах [41]. При этом использовано свойство дифференциального усилителя — постепенное и плавное увеличение выходного напряжения, когда дифференциальный вход находится в желаемом диапазоне.
Результаты
Обучение разработанной глубокой нейронной сети проводили на данных нейрональной активности мышей с эпилепсией, полученной в лабораторных условиях. Было проведено три вида численных экспериментов. Во всех случаях к данным был предварительно применен гауссовский фильтр для устранения шума. В первом эксперименте использовались данные длинной записи ЛПП одной мыши с эпилептической активностью, которые в отношении 4:1 разбивали на тренировочную и тестовую выборки. Затем проводили нормировку данных, чтобы их среднее значение было равно нулю, а разброс — единице. Далее данные преобразовывали к формату «временная последовательность-ответ». Например, 20 временные отсчетов подавали на вход модели, а 21-й использовали как ответ. На таких последовательностях обучали разработанную сеть LSTM. Для предсказания на один
II
шаг тестовую часть предобрабатывали таким же образом. Для предсказания на несколько шагов в последовательность на вход в сеть итеративно добавляли ответ модели на предыдущий шаг.
Во втором типе экспериментов в качестве данных использовали ЛПП всех мышей. Каждую запись делили в отношении 4:1 на тренировочную и тестовую выборки, далее следовала последовательность действий, как в первом эксперименте.
В третьем эксперименте в качестве обучающих данных использовали записи ЛПП всех мышей, кроме одной, которая служила тестовой.
Качество предсказания эпилептиформной активности оценивали с использованием метрики средней квадратичной ошибки (RMSE):
RMSE=^L £ (yn -yn )2,
Шаг предсказания
Рис. 3. Значение метрики RMSE в зависимости от длины шага предсказания
Оранжевая кривая соответствует численным экспериментам, в которых использовались данные без фильтра, голубая кривая — экспериментам с данными после применения гауссовского фильтра
Рис. 4. Истинные (синяя линия) и предсказанные (красная линия) значения для одного шага предсказания локальных полевых потенциалов мыши с эпилептиформной активностью
Рис. 5. Истинные (синяя линия) и предсказанные (красная линия) значения для пяти шагов предсказания локальных полевых потенциалов мыши с эпилептиформной активностью
где N — количество примеров, уп — текущее значение амплитуды для п-го примера, а уп — предсказанное для п-го примера.
Результаты численных экспериментов представлены на рис. 3-5. Из рис. 3 видно, что качество прогноза временных рядов существенно зависит от наличия фильтра данных и от шага прогноза. Одношаговое предсказание является достаточно точным (значение метрики качества RMSE=0,019), хотя и наблюдаются некоторые ошибки неверного предсказания амплитуды событий. С увеличением размера шага прогнозирования точность прогноза достаточно сильно снижается. Истинные и предсказанные ИНС-значения для одного шага прогнозирования временного ряда с эпилептиформной активностью представлены на рис. 4. Аналогично истинные и предсказанные ИНС значения для пяти шагов предсказания временного ряда с эпилептиформной активностью представлены на рис. 5. Из рисунка также видно, что с увеличением числа шагов, начиная с 5-го шага, в первую очередь падает качество предсказаний высокоамплитудных значений временного ряда, что особенно важно для предсказания судорожной активности. Здесь высокоамплитудными считаются события, амплитуда которых превышает среднее значение более чем на 5 стандартных отклонений [38]. Отметим, что для предсказания на число шагов вперед, меньшее 5, удается получить точность 100 и полноту 76 для предсказания высокоамплитудных событий. Эти результаты согласуются с полученными ранее [42] данными об особенностях предсказания эпилептиформной активности. Таким образом, предложенная сеть способна достаточно точно предсказывать появление эпилептиформной активности за 40 мс до ее начала.
Обсуждение
Раннее прогнозирование эпилептических припадков очень важно для сохранения здоровья и жизни пациентов. Всего нескольких секунд достаточно, чтобы человек смог принять удобное положение и не упал внезапно, травмируя себя, или не создал аварийную ситуацию, например управляя автомобилем.
Хотя в последние годы достигнут значительный прогресс в выявлении специфических закономерностей во временных рядах нейрональной активности мозга [41-45], исследования по прогнозированию судорожной (фокальной) эпилептиформной активности не были плодотворными. Тем не менее в этой области предпринято несколько успешных попыток с использованием различных подходов. В частности, X. и и соавт. [43] использовали метод энтропии перестановок для предсказания судорожной активности у крыс. Авторам удалось достичь среднего времени предсказания 4,9 с. Другой подход, основанный на статистических свойствах активности мозга и теории экстремальных событий [44], позволил предсказать возникновение судорог у крыс WAG/Rij за 7 с до их начала [45]. Высокоточное прогнозирование эпилептических судорог до их наступления посредством анализа данных ЛПП методами глубокого обучения нейросетей позволит существенно расширить существующие возможности терапии, а также разработать методы диагностики, позволяющие обнаруживать ранние нарушения в ритмической активности мозга у пациентов.
Использование мемристивных элементов в качестве аппаратной платформы для реализации ИНС способно не только решить ряд технических проблем, типичных для больших ИНС (большие затраты памяти и энергозатраты для обучения), но также поможет
разработать носимые терапевтические устройства, с помощью которых можно отслеживать активность мозга пациента, и в случае появления угрожающих состояний подавать оптимальное внешнее воздействие для устранения этого состояния. Создание таких устройств в сочетании с традиционной терапией даст возможность значительно улучшить качество жизни пациентов, снизить заболеваемость и смертность.
Заключение
В данном исследовании мы использовали глубокую искусственную нейронную сеть для прогнозирования патологической нейрональной активности, в частности хронической эпилептиформной активности у мышей. Основное преимущество этого подхода заключается в использовании мемристивных устройств в качестве аппаратной платформы для реализации искусственной нейронной сети. Такой подход обеспечивает быстрые и энергоэффективные вычисления.
Разработанная искусственная нейронная сеть демонстрирует возможность предсказывать судорожную (фокальную) эпилептиформную активность до ее непосредственного возникновения. Это может иметь важное значение для ранней диагностики и лечения эпилепсии. Полученные результаты исследования способствуют более глубокому пониманию механизмов развития эпилептических судорог в целом.
Использование глубоких искусственных нейронных сетей и мемристивных устройств открывает перспективы для разработки новых и более точных методов прогнозирования эпилептиформной активности и других неврологических заболеваний. Применение более детального математического анализа может помочь улучшить точность и надежность предсказаний.
Однако для того, чтобы применять полученные результаты в клинической практике, необходимо провести дополнительные исследования на людях. Это позволит подтвердить и обобщить полученные результаты и оценить применимость разработанной методологии для прогнозирования и диагностики эпилепсии у пациентов.
Благодарности. Авторы выражают благодарность В.Б. Казанцеву и А.Н. Михайлову за значимые советы при постановке задач исследования и оформлении статьи.
Источник финансирования. Работа поддержана Российским научным фондом (грант №22-71-00112).
Конфликт интересов. У авторов нет конфликта интересов.
Литература/References
1. Chang R.S., Leung C.Y.W., Ho C.C.A., Yung A. Classifications of seizures and epilepsies, where are we? — a brief historical review and update. J Formos Med Assoc 2017; 116(10): 736-741, https://doi.Org/10.1016/j.jfma.2017.06.001.
2. Pearce J.M.S. Bromide, the first effective antiepileptic
agent. J Neurol Neurosurg Psychiatry 2002; 72(3): 412, https:// doi.org/10.1136/jnnp.72.3.412.
3. Mahaseth A., Lekhjung T. Child with intra cardiac masses and multiple seizure types. Rhabdomyoma, tuberous sclerosis and possible Lennox-Gastaut syndrome — a rare case report. Int J Cardiol Congenit Heart Dis 2023; 11: 100425, https://doi.Org/10.1016/j.ijcchd.2022.100425.
4. Knupp K.G., Scheffer I.E., Ceulemans B., Sullivan J., Nickels K.C., Lagae L., Guerrini R., Zuberi S.M., Nabbout R., Riney K., Agarwal A., Lock M., Dai D., Farfel G.M., Galer B.S., Gammaitoni A.R., Polega S., Davis R., Gil-Nagel A. Fenfluramine provides clinically meaningful reduction in frequency of drop seizures in patients with Lennox-Gastaut syndrome: interim analysis of an open-label extension study. Epilepsia 2023; 64(1): 139-151, https://doi.org/10.1111/epi.17431.
5. Balfroid T., Warren A.E.L., Dalic L.J., Aeby A., Berlangieri S.U., Archer J.S. Frontoparietal 18F-FDG-PET hypo-metabolism in Lennox-Gastaut syndrome: further evidence highlighting the key network. Epilepsy Res 2023 May; 192: 107131, https://doi.org/10.1016/j.eplepsyres. 2023.107131.
6. Manral M., Dwivedi R., Gulati S., Kaur K., Nehra A., Pandey R.M., Upadhyay A.D., Sapra S., Tripathi M. Safety, efficacy, and tolerability of modified Atkins diet in persons with drug-resistant epilepsy: a randomized controlled trial. Neurology 2023; 100(13): e1376-e1385, https://doi.org/ 10.1212/wnl.0000000000206776.
7. Mutanana N., Tsvere M., Chiweshe M.K. General side effects and challenges associated with anti-epilepsy medication: a review of related literature. Afr J Prim Health Care Fam Med 2020; 12(1): e1-e5, https://doi.org/10.4102/ phcfm.v12i1.2162.
8. Braun E., Gualano F.M., Siddarth P., Segal E. Second-line cannabis therapy in patients with epilepsy. Clin Neurol Neurosurg 2023; 227: 107638, https://doi.org/10.1016/j. clineuro.2023.107638.
9. Suluhan D., Kose K., Yildiz D., Unay B. Attitudes toward rational drug use and medication self-management among parents of children with epilepsy. Jundishapur J Chronic Dis Care 2023; 12(1): e134446, https://doi.org/10.5812/ jjcdc-134446.
10. Donnan A.M., Schneider A.L., Russ-Hall S., Churilov L., Scheffer I.E. Rates of status epilepticus and sudden unexplained death in epilepsy in people with genetic developmental and epileptic encephalopathies. Neurology 2023; 100(16): e1712-e1722, https://doi.org/10.1212/wnl.0000000000207080.
11. Gracie L., Rostami-Hochaghan D., Taweel B., Mirza N.; SAGAS Scientists' Collaborative. The Seizure-Associated Genes Across Species (SAGAS) database offers insights into epilepsy genes, pathways and treatments. Epilepsia 2022; 63(9): 2403-2412, https://doi.org/10.1111/epi.17352.
12. Deivasigamani S., Senthilpari C., Yong W.H. Retracted article: machine learning method based detection and diagnosis for epilepsy in EEG signal. J Ambient Intell Humaniz Comput 2021; 12: 4215-4221.
13. Mir W.A., Anjum M., Izharuddin M., Shahab S. Deep-EEG: an optimized and robust framework and method for EEG-based diagnosis of epileptic seizure. Diagnostics (Basel) 2023; 13(4): 773, https://doi.org/10.3390/diagnostics13040773.
14. Azzony S., Moria K., Alghamdi J. Detecting cortical thickness changes in epileptogenic lesions using machine learning. Brain Sci 2023; 13(3): 487, https://doi.org/10.3390/ brainsci13030487.
оригинальные исследования
15. Jehi L. Machine learning for precision epilepsy surgery. Epilepsy Curr 2023; 23(2): 78-83, https://doi. org/10.1177/15357597221150055.
16. Yao L., Cai M., Chen Y., Shen C., Shi L., Guo Y. Prediction of antiepileptic drug treatment outcomes of patients with newly diagnosed epilepsy by machine learning. Epilepsy Behav 2019; 96: 92-97, https://doi.Org/10.1016/j. yebeh.2019.04.006.
17. Hakeem H., Feng W., Chen Z., Choong J., Brodie M.J., Fong S.L., Lim K.S., Wu J., Wang X., Lawn N., Ni G., Gao X., Luo M., Chen Z., Ge Z., Kwan P. Development and validation of a deep learning model for predicting treatment response in patients with newly diagnosed epilepsy. JAMA Neurol 2022; 79(10): 986-996, https://doi.org/10.1001/ jamaneurol.2022.2514.
18. Plata A., Lebedeva A., Denisov P., Nosova O., Postnikova T.Y., Pimashkin A., Brazhe A., Zaitsev A.V., Rusakov D.A., Semyanov A. Astrocytic atrophy following status epilepticus parallels reduced Ca2+ activity and impaired synaptic plasticity in the rat hippocampus. Front Mol Neurosci 2018; 11: 215, https://doi.org/10.3389/fnmol.2018.00215.
19. Lundt A., Wormuth C., Siwek M.E., Müller R., Ehninger D., Henseler C., Broich K., Papazoglou A., Weiergräber M. EEG radiotelemetry in small laboratory rodents: a powerful state-of-the art approach in neuropsychiatrie, neurodegenerative, and epilepsy research. Neural Plast 2016; 2016: 8213878, https://doi.org/10.1155/2016/8213878.
20. Wei L., Boutouil H., Gerbatin R.R., Mamad O., Heiland M., Reschke C.R., Del Gallo F., Fabene P.F., Henshall D.C., Lowery M., Morris G., Mooney C. Detection of spontaneous seizures in EEGs in multiple experimental mouse models of epilepsy. J Neural Eng 2021; 18(5): 056060, https:// doi.org/10.1088/1741-2552/ac2ca0.
21. Vishwanath M., Jafarlou S., Shin I., Lim M.M., Dutt N., Rahmani A.M., Cao H. Investigation of machine learning approaches for traumatic brain injury classification via EEG assessment in mice. Sensors (Basel) 2020; 20(7): 2027, https://doi.org/10.3390/s20072027.
22. Ahmad I., Wang X., Zhu M., Wang C., Pi Y., Khan J.A., Khan S., Samuel O.W., Chen S., Li G. EEG-based epileptic seizure detection via machine/deep learning approaches: a systematic review. Comput Intell Neurosci 2022; 2022: 6486570, https://doi.org/10.1155/2022/6486570.
23. Rosas-Romero R., Guevara E., Peng K., Nguyen D.K., Lesage F., Pouliot P., Lima-Saad W.E. Prediction of epileptic seizures with convolutional neural networks and functional near-infrared spectroscopy signals. Comput Biol Med 2019; 111: 103355, https://doi.org/10.1016/j.compbiomed.2019.103355.
24. Wu X., Zhang T., Zhang L., Qiao L. Epileptic seizure prediction using successive variational mode decomposition and transformers deep learning network. Front Neurosci 2022; 16: 982541, https://doi.org/10.3389/fnins.2022.982541.
25. Li G., Lee C.H., Jung J.J., Youn Y.C., Camacho D. Deep learning for EEG data analytics: a survey. Concurr Comput Pract Exp 2020; 32(18): e5199, https://doi.org/ 10.1002/cpe.5199.
26. Budde B., Maksimenko V., Sarink K., Seidenbecher T., van Luijtelaar G., Hahn T., Pape H.C., Lüttjohann A. Seizure prediction in genetic rat models of absence epilepsy: improved performance through multiple-site cortico-thalamic recordings combined with machine learning. eNeuro 2022; 9(1): ENEUR0.0160-21.2021, https://doi.org/10.1523/eneuro. 0160-21.2021.
27. Camuñas-Mesa L.A., Linares-Barranco B., Serrano-Gotarredona T. Neuromorphic spiking neural networks and their memristor-CMOS hardware implementations. Materials (Basel) 2019; 12(17): 2745, https://doi.org/10.3390/ ma12172745.
28. Fouda M.E., Kurdahi F., Eltawil A., Neftci E. Spiking neural networks for inference and learning: a memristor-based design perspective. arXiv; 2019, https://doi.org/10.48550/ arxiv.1909.01771.
29. Bayat F.M., Prezioso M., Chakrabarti B., Nili H., Kataeva I., Strukov D. Implementation of multilayer perceptron network with highly uniform passive memristive crossbar circuits. Nat Commun 2018; 9(1): 2331, https://doi.org/10.1038/ s41467-018-04482-4.
30. Li C., Belkin D., Li Y., Yan P., Hu M., Ge N., Jiang H., Montgomery E., Lin P., Wang Z., Song W., Strachan J.P., Barnell M., Wu Q., Williams R.S., Yang J.J., Xia Q. Efficient and self-adaptive in-situ learning in multilayer memristor neural networks. Nat Commun 2018; 9(1): 2385, https://doi. org/10.1038/s41467-018-04484-2.
31. Zhang Y., Wang X., Friedman E.G. Memristor-based circuit design for multilayer neural networks. IEEE Trans Circuits Syst I Reg Papers 2017; 65(2): 677-686, https://doi. org/10.1109/tcsi.2017.2729787.
32. Hu S.G., Liu Y., Liu Z., Chen T.P., Wang J.J., Yu Q., Deng L.J., Yin Y., Hosaka S. Associative memory realized by a reconfigurable memristive Hopfield neural network. Nat Commun 2015; 6: 7522, https://doi.org/10.1038/ncomms8522.
33. Zhang S., Zheng J., Wang X., Zeng Z., He S. Initial offset boosting coexisting attractors in memristive multi-double-scroll Hopfield neural network. Nonlinear Dyn 2020; 102(4): 2821-2841.
34. Yakopcic C., Alom M.Z., Taha T.M. Memristor crossbar deep network implementation based on a convolutional neural network. In: 2016 International Joint Conference on Neural Networks (IJCNN). IEEE; 2016; p. 963-970, https://doi.org/ 10.1109/ijcnn.2016.7727302.
35. Yakopcic C., Alom M.Z., Taha T.M. Extremely parallel memristor crossbar architecture for convolutional neural network implementation. In: 2017 International Joint Conference on Neural Networks (IJCNN). IEEE; 2017; P. 1696-1703, https://doi.org/10.1109/ijcnn.2017.7966055.
36. Xu W., Wang J., Yan X. Advances in memristor-based neural networks. Front Nanotechnol 2021; 3: 645995, https:// doi.org/10.3389/fnano.2021.645995.
37. Gromov N., Gubina E., Levanova T. Loss functions in the prediction of extreme events and chaotic dynamics using machine learning approach. In: 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN). IEEE; 2022, https://doi.org/10.1109/cnn56452.2022.9912515.
38. Gerasimova S.A., Mikhaylov A.N., Belov A.I., Korolev D.S., Guseinov D.V., Lebedeva A.V., Gorshkov O.N., Kazantsev V.B. Design of memristive interface between electronic neurons. AIP Conf Proc 2018; 1959(1): 090005, https://doi.org/10.1063Z1.5034744.
39. Kipelkin I., Gerasimova S., Guseinov D., Pavlov D., Vorontsov V., Mikhaylov A., Kazantsev V. Mathematical and experimental model of neuronal oscillator based on memristor-based nonlinearity. Mathematics 2023; 11(5): 1268, https://doi. org/10.3390/math11051268.
40. Li C., Wang Z., Rao M., Belkin D., Song W., Jiang H., Yan P., Li Y., Lin P., Hu M., Ge N., Strachan J.P., Barnell M., Wu Q., Williams R.S., Yang J.J., Xia Q. Long short-term
memory networks in memristor crossbar arrays. Nature Mach Intell 2019; 1: 49-57.
41. Mikhaylov A.N., Belov A.I., Korolev D.S., Gerasimova S.A., Antonov I.N., Okulich E.V., Shuiskiy R.A., Tetelbaum D.I. Effect of ion irradiation on resistive switching in metal-oxide memristive nanostructures. J Phys Conf Ser 2019; 1410(1): 012245, https://doi.org/10.1088/1742-6596/ 1410/1/012245.
42. van Luijtelaar G., Lüttjohann A., Makarov V.V., Maksimenko V.A., Koronovskii A.A., Hramov A.E. Methods of automated absence seizure detection, interference by stimulation, and possibilities for prediction in genetic absence models. J Neurosci Methods 2016; 260: 144-158, https://doi. org/10.1016/j.jneumeth.2015.07.010.
43. Li X., Ouyang G., Richards D.A. Predictability analysis of absence seizures with permutation entropy. Epilepsy Res 2007; 77(1): 70-74, https://doi.org/10.1016/j. eplepsyres.2007.08.002.
44. Pisarchik A.N., Grubov V.V., Maksimenko V.A., Lüttjohann A., Frolov N.S., Marqués-Pascual C., Gonzalez-Nieto D., Khramova M.V., Hramov A.E. Extreme events in epileptic EEG of rodents after ischemic stroke. Eur Phys J Spec Top 2018; 227: 921-932.
45. Frolov N.S., Grubov V.V., Maksimenko V.A., Lüttjohann A., Makarov V.V., Pavlov A.N., Sitnikova E., Pisarchik A.N., Kurths J., Hramov A.E. Statistical properties and predictability of extreme epileptic events. Sci Rep 2019; 9(1): 7243, https://doi.org/10.1038/s41598-019-43619-3.
/тяттту/тттттту/ттту/тттятттттш
