Научная статья на тему 'Нейросетевое проектирование методами эволюционных алгоритмов'

Нейросетевое проектирование методами эволюционных алгоритмов Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
66
18
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
РАСПОЗНАВАНИЕ БОЛИ / УМЕНЬШЕНИЕ РАЗМЕРНОСТИ ПРИЗНАКОВОГО ПРОСТРАНСТВА / МЕТОД РОЯ ЧАСТИЦ / PAIN RECOGNITION / REDUCING DIMENSIONALITY / PARTICLE SWARM OPTIMIZATION

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Скороход А.В.

Представлено решение задачи распознавания боли у респондента при помощи нейросетевого классификатора. Для повышения эффективности классификации было применено уменьшение размерности признакового пространства модифицированным методом роя частиц

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Скороход А.В.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

NEURAL NETWORK DESIGN BY METHODS OF EVOLUTIONARY ALGORITHMS

The article presents the solution of the problem of pain recognition in the respondent using a neural network classifier. For improving the efficiency of the classifier, the dimensionality of the feature space was reduced by a modified particle swarm optimization.

Текст научной работы на тему «Нейросетевое проектирование методами эволюционных алгоритмов»

УДК 519.87

НЕЙРОСЕТЕВОЕ ПРОЕКТИРОВАНИЕ МЕТОДАМИ ЭВОЛЮЦИОННЫХ АЛГОРИТМОВ*

А. В. Скороход

Сибирский государственный университет науки и технологий имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: SkorokhodAV@yandex.ru

Представлено решение задачи распознавания боли у респондента при помощи нейросетевого классификатора. Для повышения эффективности классификации было применено уменьшение размерности признакового пространства модифицированным методом роя частиц.

Ключевые слова: распознавание боли, уменьшение размерности признакового пространства, метод роя частиц.

NEURAL NETWORK DESIGN BY METHODS OF EVOLUTIONARY ALGORITHMS

A. V. Skorokhod

Reshetnev Siberian State University of Science and Technology 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: SkorokhodAV@yandex.ru

The article presents the solution of the problem ofpain recognition in the respondent using a neural network classifier. For improving the efficiency of the classifier, the dimensionality of the feature space was reduced by a modified particle swarm optimization.

Keywords: pain recognition, reducing dimensionality, particle swarm optimization.

В современном мире все большее значение получает задача распознавания и прогнозирования. Задача распознавания образов на изображении и видеоизображении, распознавания речи и т. д. Однако при решении принципиально новых задач, исследователям изначально не всегда ясно, какие характеристики принесут полезную для распознавания информацию, а какие нет.

Таким образом, появляются базы данных большой размерности или большие данные [1].

Задачей такого типа является задача распознавания боли у пациента по входящим параметрам, таким как данные с аудио-, видеозаписей, данных о электромиографической активности трапециевидной мышцы (ГРГ), ЭКГ и дыхания. Болевой синдром создавался при помощи подведения небольшого нагревательного устройства к правому и левому предплечью пациента. Впервые задача была описана исследовательской группой Ульмского Университета под руководством Ф. Швенкера [2; 3] в рамках проекта SenseEmotion. Целью этого проекта является разработка автоматических систем распознавания боли и эмоций для успешной оценки и эффективного персонализированного управления болью. База данных состоит из 40 участников (20 мужчин и 20 женщин), подвергнутых четырем уровням боли. Задача бинар-

ной классификации заключается в определении 1 или 4 уровня.

База является базой данных большой размерности. Таким образом, решение задачи классификации становиться для некоторых алгоритмов трудоёмким. Например, при использовании искусственной нейронной сети количество нейронов в первом слое равно количеству параметров, подаваемых на вход, т. е. число нейронов будет равняться размерности признакового пространства. А количество весов, которые необходимо будет настроить какому-либо обучающему алгоритму будет еще больше. Таким образом, возникает проблема затраты большого количество ресурсов. Поэтому в рамках данного исследования было произведено уменьшение размерности признакового пространства при помощи Биомимикрии паразитического поведения в коэволюционном роевом (стайном) алгоритме глобальной оптимизации (PSOPB) [4] при решении задачи распознавания эмоций, а именно определение боли.

Снижение признакового пространства уже было произведено авторами данной базы данных классическими методами, такими как Метод главных компонент [2; 3] и т. д., поэтому для решения данной задачи был выбран иной подход, принципиально отличающийся от классических.

* Исследование выполнено при поддержке Красноярского краевого фонда науки в рамках прохождения стажировки «Рекуррентные нейронные сети глубинного обучения для интеллектуального анализа видеоизображений».

Решетневские чтения. 2018

Таблица 1

Пример преобразования вектора атрибутов в вектор «частицы»

Признаки «Частица» алгоритма PSOPB

Х1 1

Х2 > 0

xn 1

Таблица 2

Результат работы ИНС на исследуемой базе данных при различных используемых признаках

Предплечье Алгоритм Количество признаков, участвующих в классификации Точность (среднее) Дисперсия p value

«Левая» PSOPB + RNN 44 0,809507 0,123711 0,811629

RNN 77 0,816172 0,122437

«Правая» PSOPB + RNN 39 0,801519 0,132708 0,952649

RNN 77 0,803288 0,129501

Каждый признак «зашифровывается» в частице модифицированного метода роя частиц, т. е. перекодируется в биномиальную строку, где значение 1 подразумевает использование характеристики в процессе классификации, а значение 0 - нет, т. е. функция пригодности для данного алгоритма будет представлять собою «отсечение» характеристик с «нулевой» характеристикой [5]. Таким образом, строка выходных параметров классификации будет являться для алгоритма оптимизации вектором биномиальных значений -пространством поиска. Характеристикой «частицы» станет результат работы алгоритма классификации -точность, fl-мера и т. п. (табл. 1).

В данном исследовании в качестве алгоритма классификации использовалась нейронная сети из библиотеки Keras [6] языка Python типа Долгая краткосрочная память (LSTM). Была создана интеграция алгоритма МРЧ, реализованных на C++, и реализации нейронной сети в Python. Работа с модулем Python, который содержит функцию параллельного вычисления нейронных сетей, была реализована с использованием библиотеки C-API.

Эксперименты проводились на базе данных, содержащую информация с аппарата ЭКГ. Она состоит из двух частей: «правое» и «левое» предплечье, поэтому результатом работы PSOPB будут два биномиальных вектора коэффициентов параметров.

Применение бионического алгоритма позволило уменьшить размерность для набора данных левого предплечья с 77 до 44 без ухудшения эффективности классификации по t-критерию Стьюдента (табл. 2).

0,0,1,1,1,0,1,0,0,0,0,0,0,1,0,0,0,0,1,0,1,0,0,1, ' 0,1,1,1,1,0,1,1,1,0,1,0,0,0,0,1,1,1,1,1,0,0,1,1,1,1, 0,1,1,1,0,0,1,1,0,1,0,1,1,1,1,1,1,0,1,1,1,0,1,1,1,0,1

Для задачи правого предплечья бионическому алгоритму удалось уменьшить размерность с 77 до 39 параметров без потери эффективности работы классификаторов по t-критерию Стьюдента (табл. 2)

0,1,0,0,0,1,1,0,0,0,0,1,1,1,1,0,1,0,1,1,0,0,1,1,0,1, 0,1,0,1,0,0,0,1,1,1,0,0,0,1,1,0,0,0,1,1,1,1,0,0,0,

0,1,0,1,1,1,0,0,1,1,1,0,0,0,1,1,0,0,1,1,1,1,0,1,1,0

Таким образом, можно сделать вывод о применимости метода Биомимикрии паразитического поведения в коэволюционном роевом (стайном) алгоритме глобальной оптимизации для уменьшения размерности признакового пространства задач с большой размерностью.

Библиографические ссылки

1. Черняк Л. Большие данные - новая теория и практика (рус.) // Открытые системы. СУБД. 2011. № 10.

2. Velana M., Gruss S., Layher G. [et al.] The SenseEmotion Database: A Multimodal Database for the Development and Systematic Validation of an Automatic Pain- and Emotion-Recognition System. in Multimodal Pattern Recognition of Social Signals in Human-Computer-Interaction, Vol. LNAI 10183. Springer International Publishing, Dec. 2016. Р. 126-138.

3. Audio-Visual Recognition of Pain Intensity / P. Thiam [et al.] // IAPR Workshop on Multimodal Pattern Recognition of Social Signals in Human-Computer Interaction. Springer, Cham, 2016. Р. 110-126.

4. Qin Q., Cheng S., Zhang Q., Li L., Shi Y. Biomimicry of parasitic behavior in a coevolutionary particle swarm optimization algorithm for global optimization //Applied soft computing. 2015. Vol. 32. Р. 224-240.

5. Мещеряков Р. В., Ходашинский И. А., Гуса-кова Е. Н. Оценка информативного признакового пространства для системы обнаружения вторжений // Известия Южного федерального университета. Технические науки. 2013. № 12 (149).

6. Keras library URL: https://keras.io/ (дата обращения: 10.03.2018).

x =

References

1. Chernyak L. Bolshie dannye novaya teoriya i praktika [Big Data new theory and practice]. Otkrytye sistemy. SUBD. 2011. No. 10.

2. M. Velana, S. Gruss, G. Layher [et al.] The SenseEmotion Database: A Multimodal Database for the Development and Systematic Validation of an Automatic Pain- and Emotion-Recognition System. in Multimodal Pattern Recognition of Social Signals in Human-Computer-Interaction, Vol. LNAI 10183. Springer International Publishing, Dec. 2016. Р. 126-138.

3. Audio-Visual Recognition of Pain Intensity / P. Thiam [et al.] //IAPR Workshop on Multimodal Pattern Recognition of Social Signals in Human-Computer Interaction. Springer, Cham, 2016. Р. 110-126.

4. Qin Q., Cheng S., Zhang Q., Li L., Shi Y. Biomimicry of parasitic behavior in a coevolutionary particle swarm optimization algorithm for global optimization // Applied soft computing. 2015. Vol. 32. Р. 224-240.

5. Meshcheryakov R. V., Hodashinskij I. A., Gusakova E. N., Ocenka informativnogo priznakovogo prostranstva dlya sistemy obnaruzheniya vtorzhenij [Evaluation of an indicative space for an intrusion detection system]. Izvestiya Yuzhnogo Federalnogo Universiteta. Tekhnicheskie nauki. 2013. No. 12 (149).

6. Keras library. Available at: https://keras.io/ (accessed: 10.03.2018).

© Скороход А. В., 2018

i Надоели баннеры? Вы всегда можете отключить рекламу.