CC BY
0
ISSN 1026-2237BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION NATURAL SCIENCE. 2024. No. 2
Научная статья УДК 519.254
doi: 10.18522/1026-2237-2024-2-12-20
АЛГОРИТМ АППРОКСИМАЦИИ СИГНАЛОВ ДЛЯ КЛАССИФИКАЦИИ ЭЛЕКТРОЭНЦЕФАЛОГРАММ ЧЕЛОВЕКА
Григорий Исаакович Белявский1, Никита Александрович Мишин2, Константин Эдуардович Ажогин3<я
123Южный федеральный университет, Ростов-на-Дону, Россия 1gbefyavski@sfedu. ru 2nmishin@sfedu. ru 3azhogin@sfedu. ruB
Аннотация. Рассматривается актуальная проблема, связанная с классификацией электроэнцефалограмм (ЭЭГ). Возникающий шум в сигналах, обусловленный разнообразными факторами, препятствует эффективному анализу и интерпретации данных. Основной целью исследования является анализ эффективности алгоритма аппроксимации сигналов с применением вейвлет-техники с последующим кусочно-постоянным представлением сигнала, которое применяется для классификации сигналов сверточной нейронной сетью. Проведено сравнение точности классификации предложенного алгоритма с фильтром низких частот при различных частотах среза. Одним из ключевых результатов исследования является двухэтапный подход к обработке сигналов. На первом этапе модель обучается на необработанных данных, а затем применяется обученное ядро свертки с наибольшей дисперсией в качестве материнской функции для кусочно-постоянного представления сигнала - так решается проблема выбора материнской функции. Этот подход направлен на усиление информативных компонентов в сигнале. Второй этап обработки представляет собой применение предложенного алгоритма аппроксимации после свертки, что дополняет первый этап, создавая комплексный метод, который не только эффективно снижает уровень шумов в данных, но также обладает высоким потенциалом для улучшения общей точности в решении задач классификации ЭЭГ-сиг-налов. Таким образом, в работе получены важные практические и теоретические результаты, в перспективе возможно применение предложенного метода в области анализа сигналов.
Ключевые слова: электроэнцефалография, аппроксимация, классификация, сверточные нейронные сети, обработка сигналов, вейвлеты, подавление шума
Для цитирования: Белявский Г.И., Мишин Н.А., Ажогин К.Э. Алгоритм аппроксимации сигналов для классификации электроэнцефалограмм человека // Изв. вузов. Сев.-Кавк. регион. Естеств. науки. 2024. № 2. С. 12-20.
Статья опубликована на условиях лицензии Creative Commons Attribution 4.0 International (CC-BY 4.0).
Original article
SIGNAL APPROXIMATION ALGORITHM FOR HUMAN ELECTROENCEPHALOGRAMS CLASSIFICATION
Grigory I. Belyavsky 1, Nikita A. Mishin 2, Konstantin E. Azhogin 3B
12 3Southern Federal University, Rostov-on-Don, Russia 1gbelyavski@sfedu. ru 2nmishin@sfedu. ru 3azhogin@sfedu. ruB
© Белявский Г.И., Мишин Н.А., Ажогин К.Э., 2024
ISSN 1026-2237 ИЗВЕСТИЯ ВУЗОВ. СЕВЕРО-КАВКАЗСКИЙ РЕГИОН. ЕСТЕСТВЕННЫЕ НАУКИ._2024. № 2
ISSN 1026-2237 BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION. NATURAL SCIENCE. 2024. No. 2
Abstract. The article examines the problem of classification of electroencephalograms (EEG), where noise in the signals, caused by various factors, prevents effective analysis and interpretation of the data. The main goal of the study is to analyze the effectiveness of a signal approximation algorithm using a wavelet technique with the next piece-wise approximation in order to effectively remove noise and subsequently solve the problem of signal classification using a convolutional neural network. The classification accuracy of the proposed algorithm with a low-pass filter is compared at different cutoff frequencies. One of the key findings of the study is a two-step approach to signal processing. In the first stage, the model is trained on the raw data, and then the trained convolution kernel with the highest variance is applied to the original signals. This solves the problem of choosing the mother function. This approach aims to enhance the informative components in the signal. The second processing step involves applying the proposed approximation algorithm after the convolution, which complements the first step to create a comprehensive method. This method not only effectively reduces noise in the data, but also has high potential to improve the overall accuracy in solving EEG signal classification problems. Thus, the results of the study provide important practical and theoretical implications, highlighting the prospects for applying the proposed method in the field of signal analysis.
Keywords: electroencephalography, approximation, classification, convolutional neural networks, signalpro-cessing, wavelets, noise reduction
For citation: Belyavsky G.I., Mishin N.A., Azhogin K.E. Signal Approximation Algorithm for Human Electroencephalograms Classification. Bulletin of Higher Educational Institutions. North Caucasus Region. Natural Science. 2024;(2):12-20. (In Russ.).
This is an open access article distributed under the terms of Creative Commons Attribution 4.0 International License (CC-BY4.0).
Введение
Электроэнцефалография (ЭЭГ) является важным инструментом в исследованиях и клинической практике, позволяющим мониторить электрическую активность мозга. Электрические сигналы, регистрируемые ЭЭГ, - результат сложных взаимодействий между множеством нейронов, исходящих из различных областей мозга [1]. Однако, несмотря на свой потенциал, ЭЭГ-сигналы обладают одним существенным недостатком - шумом.
Шум в ЭЭГ-сигналах может иметь разнообразное происхождение, включая электромагнитные помехи, мускульную активность, глазодвигательные артефакты и другие факторы. Это делает анализ и интерпретацию ЭЭГ-данных непростой задачей, особенно в контексте их применения в нейрофизиологических исследованиях и диагностике нейрологических заболеваний.
Цель статьи заключается в рассмотрении проблемы классификации ЭЭГ-сигналов и выявлении методов, позволяющих эффективно устранить шум и повысить точность распознавания паттернов в данных. Мы утверждаем, что успешное подавление шума в ЭЭГ-сигналах существенно улучшает качество и достоверность результатов анализа, что имеет критическое значение как для научных исследований, так и для клинической практики.
Для достижения поставленной цели применяется алгоритм аппроксимации сигнала с вейвлет-техникой, использующей материнскую функцию ty(t), t 6 [0, Т] для построения двухпараметри-
ческого семейства функций (t) = , t 6 [aj, aj + 2-iT[, с последующим ку-
сочно-постоянным представлением сигнала: s(t) = Y!k=1 akVik,jk(6rfc). Здесь {Rk} - разбиение отрезка [0, T]; фЫк(t) = .. 1 ,, pikJk(t); ak = (sIRk, Vikjk). Скалярное произведение и
норма вычисляются в пространстве ¿2. Нетрудно убедиться, что неравномерное квантование является частным случаем данного алгоритма для материнской функции, которая является константой.
Данный алгоритм не является методом представления сигнала в вейвлет-базисе. Для его успешного использования необходимы удачный выбор материнской функции и построение хорошего разбиения.
ISSN 1026-2237 ИЗВЕСТИЯ ВУЗОВ. СЕВЕРО-КАВКАЗСКИЙ РЕГИОН. ЕСТЕСТВЕННЫЕ НАУКИ._2024. № 2
ISSN 1026-2237BULLETINOFHIGHEREDUCATIONALINSTITUTIONS. NORTHCAUCASUSREGION. NATURALSCIENCE. 2024. No. 2
Для выбора разбиения применяется специальная хааровская фильтрация, т.е. на каждой итерации дробится на два только один интервал, выбор которого осуществляется с целью уменьшить максимальную локальную среднеквадратическую ошибку.
Для выбора материнской функции используется сверточная нейронная сеть. Она обучается на необработанных сигналах с целью выделения главного ядра, которое далее используется в качестве материнской функции.
Таким образом, к новым результатам относятся обобщение метода неравномерного квантования и схема машинного обучения: нейронная сеть ^ кусочно-постоянное представление ^ нейронная сеть.
Полученные результаты позволяют эффективно сокращать размерность пространства признаков при интерпретации электрической активности мозга, что делает результаты машинного обучения робастными.
Структура работы такова: сначала описывается метод кусочно-постоянной аппроксимации, далее приводятся результаты обработки синтезированных сигналов, затем изучается задача распознавания ЭЭГ.
Метод
Сигнал s(t) и материнская функция ^(t) задаются n+ 1-отсчетами (n - степень двойки): Si = <Pi = ^(i^) , i = 0,1,.. п.
Вычисляем первую аппроксимацию s1 = (s, <Pi)<Pi = «i<Pi, <Pi = ^^—77, и средний квадрат ошибки err1 = ^+1Ef=0(si — ^ )2.
Если ошибка меньше е, то процесс можно остановить. В противном случае делим множество индексов на две равные части по числу отсчетов: = jo,1,.., и = jj, -2 + 1,.., с общим элементом 2. Рассматриваем на каждой из этих частей вышеописанную аппроксимацию, для чего определим новые функции, опираясь на процедуру сжатия в два раза и сдвига материнской функции: <р2(0 = ?(2t), 0 < t < 2; <р2(0 = <Р (2 (t — £)), \ < t < Г.
Например, если исходная материнская функция ^ имела вид гауссиана, то ее трансформация в функции и показана на рис. 1. На каждом из подмножеств выполняем процедуру аппроксимации:
= (i=0 <Pi2,¿Si) <Pi2j = «My, <Pi2j = n vlj , у = 1,2.....72 — 1 ;
= (ir=n/2 ^ = ^ = j = и/2, и/2 +1.....п.
ZjU«,)2
Для /j1 локальная погрешность err2 = ^ £¿=0 1(si — S(2,1) , для -
err22 = ^Е^п/ (^ — s(2,2)2, общая погрешность err2 = max{err2, err^}. Если err < £, то
процесс останавливается, иначе - продолжается.
Выбор интервала для последующего деления производится по максимальной ошибке аппроксимации. Если err2 = err2, то разбивается первый интервал /-j2, иначе - второй Допустим, разбивается первый интервал, тогда по этому разбиению вычисляются элементы для третьей итерации следующим образом: ^f(t) = ^ (4^), ^1(0 = ^ (4(f — 4)), (0 = (0. Остальные
элементы: <р3 (t), <р3(0, <Рз(0, ai, a2 вычисляются по аналогичным формулам предыдущей итерации, a| = а2 .
Итерации продолжаются до тех пор, пока не будет достигнута заданная точность £.
ISSN 1026-2237 BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION. NATURAL SCIENCE. 2024. No. 2
a/a
6/b
в/с
Рис. 1. Вид материнской функции на первой (а) и последующих (б, в) итерациях алгоритма / Fig. 1. View of the mother function at the first (a) and subsequent (b, c) iterations of the algorithm
Представим данную процедуру в виде информационного дерева (рис. 2).
Допустим, алгоритм остановился после к итераций. В результате вычислена последовательность {(/£, ц>\, а%),..., (/£, , а£)}. Числовая последовательность {(^, а^),..., , а£)}, где ^ - правые концы отрезков разбиения, содержит достаточную информацию для восстановления сигнала. Поэтому разбиение можно считать удачным, если оно описывается меньшими п/2 числами.
Если с разбиением интервала алгоритм справляется: при заданной материнской функции строится последовательность приближений с монотонно убывающей максимальной локальной ошибкой, то выбор хорошей материнской функции является сложной задачей.
В литературе описаны различные материнские функции. Перечислим некоторые из них.
Рис. 2. Информационное дерево / Fig. 2. Information tree
ISSN 1026-2237 ИЗВЕСТИЯ ВУЗОВ. СЕВЕРО-КАВКАЗСКИМ РЕГИОН. ЕСТЕСТВЕННЫЕ НАУКИ._2024. № 2
ISSN 1026-2237BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION. NATURAL SCIENCE. 2024. No. 2
¡-(t-m)2\
Функция Гаусса [2] имеет следующий вид: (pit) = we\ 2S2 где w, m, s Ф 0 - произвольные вещественные числа.
График гауссовой функции при w > 0 и s Ф 0 - колоколообразная кривая (рис. 1), параметр w определяет максимальную высоту графика - пик колокола, m отвечает за сдвиг пика от нуля (при b = 0 - пик в нуле), а s влияет на ширину (размах) колокола.
ВейвлетМорле. Материнская функция [3, 4] ф(Ь) = ) соб(1(Ь — т)), где w, т,Ф 0 -
произвольные вещественные числа, параметр I > 0 определяет частоту колебаний.
Экспоненциально модифицированное нормальное распределение [5] описывает сумму независимых нормальных и экспоненциальных случайных величин. Такая случайная величина Z может быть выражена как Z = X + У, где X и У независимы, Xраспределена по Гауссу со средним значением ^ и дисперсией о2, а У - экспоненциально с интенсивностью I, поэтому данная материнская
-((г-т)-т)2\ 1т
функция = wl f 2s2 ' dz получается сверткой нормальной и экспоненциальной
плотности распределений.
Материнская функция имеет характерный положительный перекос, возникающий от экспоненциальной составляющей.
Данная функция имеет вид = 2t^ erfc где w, m, s Ф 0 - произволь-
ные вещественные числа; параметр l > 0 определяет интенсивность показательного закона распределения. В зависимости от его значения форма распределения может меняться от почти экспоненциальной до почти нормальной, erfc - дополнительная функция ошибок.
Асимметричное нормальное распределение по сравнению с экспоненциально модифицированным нормальным распределением [6] позволяет получить перекос в материнской функции как в положительном, так и в отрицательном направлениях. Материнская функция имеет нормальные хвосты относительного k. Напротив, экспоненциально модифицированное нормальное распределение имеет экспоненциальный хвост в направлении перекоса.
w -JcjrLi ({i—)X\
Материнская функция (p(t) = e 2 I 1 + erf I ^jj ) ), где w, m, s Ф 0, l - произвольные
вещественные числа; erf - функция ошибок.
Можно убедиться, что получается нормальное распределение, когда l = 0, и что абсолютное значение асимметрии увеличивается по мере роста абсолютного значения l. Распределение скошено вправо, если l > 0, и скошено влево, если l < 0.
ft-™ -¡=ZH\
-I-+e s )
Распределение Гумбеля. Материнская функция [7] = we \2S /, где w, m, s Ф 0 -
произвольные вещественные числа.
i( 1 \2
Логистическое распределение. Материнская функция [8] <p(t) = w — I-n-m\ ) , где w, m,
4s\cosh{—)/
s Ф 0 - произвольные вещественные числа.
Примеры. Сгенерированы синтетические сигналы для демонстрации метода аппроксимации: меандр, пилообразный, синусоидальный, сигнал с экспоненциально возрастающими частотой и амплитудой, с экспоненциально возрастающей частотой и убывающей амплитудой. Испробованы перечисленные выше материнские функции для £ =0,05. Результаты получались примерно одинаковые. На рис. 3 приведен пример аппроксимации данных сигналов гауссианом.
Видно, что предложенный метод способен аппроксимировать различные сигналы, однако не исключается возникновения шумов.
Число отсчетов равно 256, число разбиений колебалось от 32 для меандра до 6 для экспоненциально затухающего сигнала.
Далее рассматривается машинное обучение с предварительной обработкой данных. Предложенный метод сравнивается с полосовыми фильтрами.
ISSN 1026-2237 BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION NATURAL SCIENCE. 2024. No. 2
1.0 0.5 0.0 -0.5 -1.0
аппроксимация оригинальный сигнал
50
LOO
150
200 250
аппроксимация оригинальный сигнал
0 50 100 150 200 250
Рис. 3. Аппроксимация синтетических сигналов / Fig. 3. Approximation of synthetic signals
ISSN 1026-2237 ИЗВЕСТИЯ ВУЗОВ. СЕВЕРО-КАВКАЗСКИЙ РЕГИОН. ЕСТЕСТВЕННЫЕ НАУКИ._2024. № 2
ISSN 1026-2237BULLETINOFHIGHEREDUCATIONALINSTITUTIONS. NORTHCAUCASUSREGION. NATURALSCIENCE. 2024. No. 2
Данные. Для экспериментов использовался датасет BCI Compétition IV 2a [9]. Датасет BCI Compétition IV 2a - это набор данных, предназначенный для исследования в области интерфейсов мозг - компьютер (BCI). Он содержит электроэнцефалограммы, сделанные во время выполнения различных ментальных задач, таких как воображение движений конечностей. Данные разделены на четыре класса для многоклассовой классификации и характеризуются сложностью и наличием шумов.
Эксперимент. Архитектура сверточной сети EEGNet представляет собой инновационный метод анализа ЭЭГ-сигналов, который был разработан с целью улучшить качество классификации и интерпретируемость модели. EEGNet включает сверточные слои, Depthwise Separable Convolution для более эффективной обработки сложных сигналов [10].
Каждый прецедент длиной 4 с и частотой дискретизации 250 Гц нарезался на семплы длиной 512 отсчетов, с шагом в 1 отсчет. Это дает 36 864 обучающих примера для каждого класса. Были обучены модели на оригинальных сигналах после применения фильтра низких частот (фильтр Баттерворта 8-го порядка) с частотой среза 20 и 10 Гц с использованием предложенного метода аппроксимации с различными материнскими функциями.
Результаты приведены в таблице.
Результаты эксперимента / Experiment results
Тип сигнала Точность классификации, % Точность аппроксимации (средний квадрат ошибки ± ст. откл.)
Оригинал 75 -
ФНЧ 20 Гц 71 0,03±0,015
ФНЧ 10 Гц 59 0,069±0,028
Аппроксимация гауссианом 67 0,059±0,042
Аппроксимация вейвлетом Морле 67 0,051±0,033
Аппроксимация экспоненциально модифицированным нормальным распределением 60 0,086±0,051
Аппроксимация асимметричным нормальным распределением 64 0,067±0,04
Аппроксимация распределением Гумбеля 67 0,063±0,043
Аппроксимация логистическим распределением 66 0,049±0,032
В первой строке представлены результаты распознавания после обучения на необработанной выборке. Основной вывод - фильтр низких частот 20 ГЦ существенно не снижает качество обучения. Аналогичный вывод можно сделать по отношению к вейвлетам Гаусса, Морле и Гумбеля. Однако во втором случае снижается размерность признакового пространства - это хорошее качество метода, непосредственно влияющее на робастность распознавания.
Далее совершена попытка выбора хорошей материнской функции.
Двухэтапная предобработка данных. Для выбора материнской функции применяется та же нейронная сеть, которая обучается на необработанных сигналах. После обучения выбирается ядро из первого сверточного слоя, обладающее наибольшей дисперсией (рис. 4).
Искомая материнская функция является результатом свертки выбранного ядра с вейвлетом Морле. На рис. 5. представлен результат аппроксимации сигнала сверточным вейвлетом Морле.
Далее нейронная сеть обучалась на аппроксимированных сигналах. В результате точность классификации составила 75 %, т.е. получена максимальная точность распознавания.
Рис. 4. Выбранное ядро / Fig. 4. Selected kernel
ISSN 1026-2237 BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION. NATURAL SCIENCE. 2024. No. 2
le-5
0 100 200 300 400 500
Рис. 5. Результат аппроксимации после свертки / Fig. 5. Result of approximation after convolution
Заключение
Качество предложенного метода предварительной обработки связано прежде всего с выбором материнской функции, которая должна зависеть от обучающей выборки и может быть получена в результате применения машинного обучения.
Двухэтапный метод позволил избавиться от некоторых шумов в сигнале, не жертвуя точностью классификации. Поэтому данный подход демонстрирует высокий потенциал в решении задач классификации ЭЭГ-сигналов при условии воздействия шумов.
Список источников
1. Электроэнцефалография (ЭЭГ) // CMI Brain Research. URL: https://cmi.to/электроэнцефалография-ээг (дата обращения: 01.12.2023).
2. Вентцель Е.С. Теория вероятностей. 10-е изд., стереотип. М.: Academia, 2005. 576 с.
3. НовиковИ.Я., Стечкин С.Б. Основы теории всплесков // Успехи матем. наук. 1998. Т. 53, вып. 6 (324). С. 53-128.
4. Morlet wavelet // Mathworks. URL: https://www.mathworks.com/help/wavelet/ref/morlet.html (дата обращения: 01.12.2023).
5. Grushka E. Characterization of Exponentially Modified Gaussian Peaks in Chromatography // Analytical Chemistry. 1972. Vol. 44 (11). P. 1733-1738.
6. OHagan A., Leonard T. Bayes estimation subject to uncertainty about parameter constraints // Biometrika. 1976. Vol. 63 (1). P. 201-203.
7. Gumbel E.J. The return period of flood flows // The Annals of Mathematical Statistics. 1941. Vol. 12. P. 163-190.
8. Balakrishnan N. Handbook of the Logistic Distribution. New York: Marcel Dekker, 1992. 624 p.
9. Leeb R., Brunner C., Müller-Putz G.R., Schlögl A., Pfurtscheller G. BCI Competition 2008 - Graz data set A. URL: https://bbci.de/competition/iv/desc_2b.pdf (дата обращения: 01.12.2023).
10. Lawhern V.J., Solon A.J., Waytowich N.R., Gordon S.M., Hung Ch.P., Lance B.J. EEGNet: A Compact Convolutional Neural Network for EEG-based Brain-Computer Interfaces // J. of Neural Engineering. 2018. Vol. 15(5).
References
1. Electroencephalography (EEG). CMI Brain Research. Available from: https://cmi.to/электроэнце-фалография-ээг [Accessed 1st December 2023]. (In Russ.).
2. Ventzel E.K. Probability theory. 10th ed. Stereotype. Moscow: Academia Publ.; 2005. 576 p. (In Russ.).
3. Novikov I.Ya., Stetchkin S.B. Basic Theory of Flares. Uspekhi matem. nauk = Advances in Mathematical Sciences. 1998;53(6):53-128. (In Russ.).
4. Morlet wavelet. Mathworks. Available from: https://www.mathworks.com/help/wavelet/ref/morlet.html [Accessed 1st December 2023].
5. Grushka E. Characterization of Exponentially Modified Gaussian Peaks in Chromatography. Analytical Chemistry. 1972;44(11):1733-1738.
6. O'Hagan A., Leonard T. Bayes estimation subject to uncertainty about parameter constraints. Biometrika. 1976;63(1):201-203.
7. Gumbel E.J. The return period of flood flows. The Annals of Mathematical Statistics. 1941;12:163-190.
8. Balakrishnan N. Handbook of the Logistic Distribution. New York: Marcel Dekker; 1992. 624 p.
ISSN 1026-2237BULLETIN OF HIGHER EDUCATIONAL INSTITUTIONS. NORTH CAUCASUS REGION NATURAL SCIENCE. 2024. No. 2
9. Leeb R., Brunner C., Müller-Putz G.R., Schlögl A., Pfurtscheller G. BCI Competition 2008 - Graz data set A. Available from: https://bbci.de/competition/iv/desc_2b.pdf [Accessed 1st December 2023].
10. Lawhern V.J., Solon A.J., Waytowich N.R., Gordon S.M., Hung Ch.P., Lance B.J. EEGNet: A Compact Convolutional Neural Network for EEG-based Brain-Computer Interfaces. Journal of Neural Engineering. 2018;15(5).
Информация об авторах
Г.И. Белявский - доктор технических наук, профессор, кафедра высшей математики и исследования операций, Институт математики, механики и компьютерных наук им. И.И. Воровича.
Н.А. Мишин - аспирант, кафедра высшей математики и исследования операций, Институт математики, механики и компьютерных наук им. И.И. Воровича.
К.Э. Ажогин - аспирант, младший научный сотрудник, Научно-исследовательский технологический центр нейротехнологий.
Information about the authors
G.I. Belyavsky - Doctor of Science (Technical), Professor, Department of Higher Mathematics and Operations Research, Vorovich Institute of Mathematics, Mechanics and Computer Sciences.
N.A. Mishin - Postgraduate Student, Department of High Mathematics and Operations Research, Vorovich Institute of Mathematics, Mechanics and Computer Sciences.
K.E. Azhogin - Postgraduate Student, Junior Researcher, Research Technology Center for Neurotechnology.
Статья поступила в редакцию 24.12.2023; одобрена после рецензирования 15.03.2024; принята к публикации 24.05.2024. The article was submitted 24.12.2023; approved after reviewing 15.03.2024; accepted for publication 24.05.2024.
