Научная статья на тему 'Исследование эффективности искусственной нейронной сети при малых объемах обучающей выборки'

Исследование эффективности искусственной нейронной сети при малых объемах обучающей выборки Текст научной статьи по специальности «Медицинские технологии»

CC BY
196
28
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ИСКУССТВЕННАЯ НЕЙРОННАЯ СЕТЬ / ЭФФЕКТИВНОСТЬ / НАСТРОЙКИ БИНАРНОЙ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ / РАЗМЕРНОСТЬ ОБУЧАЮЩЕЙ ВЫБОРКИ / ОБЪЕМ ОБУЧАЮЩЕЙ ВЫБОРКИ / ТИПЫ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ / ДИАГНОСТИКА / СФИГМОГРАФИЯ / ARTIFICIAL NEURAL NETWORK / EFFICIENCY / SETTINGS OF A BINARY ARTIFICIAL NEURAL NETWORK / THE DIMENSION OF THE TRAINING SAMPLE / THE SIZE OF THE TRAINING SAMPLE / TYPES OF ARTIFICIAL NEURAL NETWORK / DIAGNOSTICS / SPHYGMOGRAPHY

Аннотация научной статьи по медицинским технологиям, автор научной работы — Абросимов Альберт Александрови, Рябов Алексей Евгеньевич, Воронцов Дмитрий Сергеевич, Макарова Евгения Алексеевна, Малькова Ольга Андреевна

Исследована эффективность бинарной искусственной нейронной сети при малых объемах обучающей выборки. Исследования проведены с использованием модуля Neural Network Toolbox программного комплекса MATLAB для задачи классификации. Наиболее подробно исследована искусственная нейронная сеть прямого распространения. Для нее установлено, что число нейронов внутреннего слоя в исследованном диапазоне изменения оказывает незначительное влияние на эффективность. Объем обучающей выборки снижает эффективность при очень малой величине. Исследовано влияние размерности входной обучающей выборки на эффективность, размерность снижалась с 64 до 16 путем исключения различного набора входных параметров. Установлено, что такие изменения оказывают различное влияние на эффективность, при некоторых условиях эффективность увеличивается. Для каскадной бинарной сети прямого распространения и каскадной бинарной сети с обратным распространением ошибки установлено, что эффективность в зависимости от количества нейронов в скрытом слое в исследованном диапазоне изменяется незначительно. Двухслойная каскадная сеть с обратным распространением ошибки при определенном сочетании нейронов имеет более высокую эффективность по сравнению с однослойной. Полученные результаты позволяют наметить пути повышения эффективности.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по медицинским технологиям , автор научной работы — Абросимов Альберт Александрови, Рябов Алексей Евгеньевич, Воронцов Дмитрий Сергеевич, Макарова Евгения Алексеевна, Малькова Ольга Андреевна

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

RESEARCH OF EFFICIENCY OF THE ARTIFICIAL NEURAL NETWORK AT LOW VOLUMES OF THE TRAINING SAMPLE

The effectiveness of the binary artificial neural network at low volume of training samples was investigated. The studies were conducted with the MATLAB software’s Neural Network Toolbox module used for the classification task. Feed-forward artificial neural network was thoroughly studied. It was discovered, that the number of neurons in the inner layer in the range of changes had little effect on efficiency. The volume of training samples reduces efficiency when the value is very small. The influence the of the input training samples dimension on the efficiency was studied; the dimension was reduced from 64 to 16 by eliminating a different set of input parameters. It is established that such changes have a different impact on efficiency, and under certain conditions, the efficiency increases. For a cascade binary network of feed forward propagation and a cascade binary network with reverse propagation of error, it was established that the efficiency changes slightly depending on the number of neurons in the hidden layer in the studied range. A two-layer cascade network with reverse error propagation with a certain combination of neurons has a higher efficiency compared to a single-layer one. The results allow us to outline ways to improve efficiency.

Текст научной работы на тему «Исследование эффективности искусственной нейронной сети при малых объемах обучающей выборки»

ВЕСТН. САМАР. ГОС. ТЕХН. УН-ТА. СЕР. ТЕХНИЧЕСКИЕ НАУКИ. 2019. № 4 (64)

Информатика, вычислительная техника и управление

УДК 004.8:616.1

ИССЛЕДОВАНИЕ ЭФФЕКТИВНОСТИ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ ПРИ МАЛЫХ ОБЪЕМАХ ОБУЧАЮЩЕЙ ВЫБОРКИ

A.A. Абросимов1, А.Е. Рябов2, Д. С. Воронцов1, Е.А. Макарова1, O.A. Малькова1

1 Самарский государственный технический университет Россия, 443100, г. Самара, ул. Молодогвардейская, 244

2 Самарский государственный медицинский университет Россия, 443099, г. Самара, ул. Чапаевская, 89

Аннотация. Исследована эффективность бинарной искусственной нейронной сети при малых объемах обучающей выборки. Исследования проведены с использованием модуля Neural Network Toolbox программного комплекса MATLAB для задачи классификации. Наиболее подробно исследована искусственная нейронная сеть прямого распространения. Для нее установлено, что число нейронов внутреннего слоя в исследованном диапазоне изменения оказывает незначительное влияние на эффективность. Объем обучающей выборки снижает эффективность при очень малой величине. Исследовано влияние размерности входной обучающей выборки на эффективность, размерность снижалась с 64 до 16 путем исключения различного набора входных параметров. Установлено, что такие изменения оказывают различное влияние на эффективность, при некоторых условиях эффективность увеличивается. Для каскадной бинарной сети прямого распространения и каскадной бинарной сети с обратным распространением ошибки установлено, что эффективность в зависимости от количества нейронов в скрытом слое в исследованном диапазоне изменяется незначительно. Двухслойная каскадная сеть с обратным распространением ошибки при определенном сочетании нейронов имеет более высокую эффективность по сравнению с однослойной. Полученные результаты позволяют наметить пути повышения эффективности.

Ключевые слова: искусственная нейронная сеть, эффективность, настройки бинарной искусственной нейронной сети, размерность обучающей выборки, объем обучающей выборки, типы искусственных нейронных сетей, диагностика, сфигмография.

Абросимов Альберт Александрович (к.т.н.), доцент кафедры «Автоматика и управление в технических системах».

Рябов Алексей Евгеньевич (к.м.н.), доцент кафедры «Пропедевтическая терапия». ВоронцовДмитрий Сергеевич, магистрант. Макарова Евгения Алексеевна, магистрант. Малькова Ольга Андреевна, магистрант.

Введение

В настоящее время искусственные нейронные сети (ИНС) [1] являются эффективным инструментом решения различных задач в области управления. Это во многом связано с тем, что для принятия управляющих решений во многих случаях используются многомерные процессы, характеризующиеся множеством входных параметров, которые могут изменяться одновременно, и необходимо учитывать эти изменения при отсутствии моделей, объединяющих выходную величину с параметрами.

В энергетике ИНС применяются для анализа предаварийных состояний турбоагрегатов электростанций [2], в сельском хозяйстве - с целью агроэкологиче-ской группировки эрозионных земель [3], используются как инструмент прогнозирования ожидаемой продолжительности жизни населения [4], для решения трудоемких задач в различных сферах жизнедеятельности человека [5].

ИНС интенсивно входят в медицинскую практику, способствуя повышению эффективности лечебной деятельности в целом и диагностики в частности.

В задачах медицинской диагностики (классификации) эффективность является во многом определяющей. Эффективная диагностика без непосредственного участия врача позволяет системно использовать ранее накопленный лучший научный опыт многих исследователей и врачей, перенеся его в практическую деятельность и донеся его до каждого пациента.

В [6] разработана концепция значения информационного обеспечения различных медицинских технологий, в том числе медицинской диагностики. В задачах медицинской диагностики не представляется возможным учесть все реально имеющиеся условия, от которых зависит диагноз, а можно лишь выделить приблизительный набор наиболее важных условий. Так как часть условий при этом не учитывается, то алгоритм нахождения ответа не может быть сформулирован точно и ответ носит неточный, приблизительный характер. Поэтому применение ИНС в задачах медицинской диагностики способно существенно повысить эффективность процедуры диагностики. Приведено применение ИНС для анализа электрокардиосигнала с целью исключения интенсивных помех и нестационарности полезного электрокардиосигнала. Это позволило создать систему тестирования аппаратно-программных средств медицинского приборостроения, формировать их объективные оценки, визуально оценивать эффективность алгоритмов, приборов и систем кардиологического назначения.

Различные аспекты применения ИНС проанализированы в [7]. На основе комплексного подхода к использованию ИНС в работе изложены методики оценки различных медицинских показателей, включая прогноз их отдаленного изменения, в том числе методики выполнения расчетов морфологических показателей миокарда.

В [8] проработана задача обнаружения заболеваний сердца исходя из полученных анализов. Это задача классификации, и ИНС хорошо зарекомендовали себя в решении подобных задач. В работе выбрана архитектура нейронной сети, проведено тестирование с целью оценки ее эффективности. Отличительной особенностью предложенной ИНС является необходимость предварительного проведения предварительных анализов, что требует необходимого оборудования, увеличивает время обследования пациента и тем самым усложняет процедуру диагностики.

При помощи ИНС решаются разнообразные медицинские задачи: классификация характера мозговой активности [9], диагностика диссинхронизации миокарда [10] и другие.

С целью упрощения процедур реализации и обучения ИНС расширяется ин-струментарийработы с ИНС [11, 12, 13, 14, 15, 16].

Особенность применения ИНС в задачах медицинской классификации (диагностики) состоит в том, что она может проводиться с применением обучающих выборок небольшого объема, при этом эффективность диагностики необходимо обеспечить на высоком уровне.

Постановка задачи

Целью настоящей работы является исследование эффективности ИНС при ее применении в задаче классификации (диагностики) при малом объеме обучающей выборки с применением бинарной ИНС. На качественном уровне эффективность ИНС зависит от типа и параметров настройки ИНС, объема и параметров обучающей выборки. На показатели эффективности оказывает влияние и диагностируемый процесс, обладающий определенными внутренними закономерностями, которые обычно мало изучены или вообще неизвестны.

В настоящей работе исследование эффективности ИНС проводится на примере процесса сфигмографии, который является перспективным методом оценки биомеханики системы кровообращения, представляющим собой продолжение метода апекскардиографии [17, 18, 19, 20, 21, 22, 23, 24, 25, 26].

Регистрация параметров основана на применении современных средств электроники и вычислительной техники [22, 23, 24]. Для этого применяется программно-техническое устройство, включающее датчик давления и устройство ввода аналогового сигнала с датчика давления в компьютер, в котором программным путем обрабатывается введенный сигнал. В настоящее время создан мобильный программно-технический комплекс регистрации параметров биомеханики системы кровообращения по сфигмограмме с применением персонального компьютера. Одним из эффективных направлений применения мобильного комплекса может быть его применение для массового обследования различных групп населения с целью раннего выявления заболеваний системы кровообращения, что позволит повысить эффективность последующего лечения. В свою очередь, повышение эффективности медицинского лечения несомненно снизит смертность от заболеваний системы кровообращения, которая в 2018 г. послужила причиной смерти приблизительно половины всех умерших в стране [27]. Комплекс не требует предварительных анализов, мобильность комплекса дает возможность применять его не только в лечебных учреждениях, но и непосредственно на рабочем месте обследуемого пациента.

Для реализации таких возможностей имеющийся комплекс необходимо дополнить диагностикой в реальном времени состояний системы кровообращения. Сочетание современного средства регистрации сфигмограммы, ее ввода в персональный компьютер, метода преобразования аналогового сигнала в набор параметров и эффективной диагностики состояния сердечно-сосудистой системы позволит получить новый высокоэффективный инструмент для исследования системы кровообращения. В перспективе этот инструмент способен получить такое же распространение, какое имеет сейчас тонометр — прибор для измерения артериального давления.

В настоящей работе проведено исследование эффективности ИНС, диагностирующей состояния системы кровообращения на выборках пациентов с раз-8

личными статусами (классами). В выборке пациентов с таким заболеванием, как ишемическая болезнь сердца с хронической сердечной недостаточностью второго класса (ИБС ХСН II), содержится 50 пациентов, у каждого из которых измерены показатели сфигмограммы локтевой артерии. В выборке пациентов с ишеми-ческой болезнью сердца с хронической сердечной недостаточностью третьего класса (ИБС ХСН III) содержится 28 таких пациентов.

Сфигмограмма локтевой артерии каждого пациента представлена набором 64 параметров, структурированных в определенной последовательности. По методу В.Н. Фатенкова сердечный цикл разбит на восемь интервалов-фаз, имеющих обозначения: t0t1, t1t2, t2t3, t3t4, t4t5, t5t6, t6t7, t7t0. Правила разделения сердечного цикла на восемь фаз обоснованы использованием характерных точек графика аналогового входного сигнала и его второй производной [17, 28]. Для каждой фазы приняты восемь показателей: длительность фазы, средняя скорость, экстремальная скорость, среднее ускорение, экстремальное ускорение, средняя мощность, экстремальная мощность, работа. Для каждого показателя рассчитываются его величины в каждой из восьми фаз сердечного цикла, в результате аналоговый сигнал сердечного цикла преобразуется в 64 параметра.

Особенность работы состоит в том, что исследования проводятся на обуча-ющих выборках небольшого объема. Формирование выборок пациентов большого объема с различным статусом представляет собой трудоемкую задачу с большими затратами времени, поэтому исследования проведены на тех обучающих выборках, которые получены в результате предварительно накопленных данных. Малый объем обучающей выборки - это объем выборки в несколько десятков обучающих элементов, выборка в несколько элементов - это выборка очень малого объема.

Исследования проведены с использованием модуля Neural Network Toolbox программного комплекса MATLAB [29], критерием эффективности ИНС принят показатель результативности тестирования, отображаемый матрицей тестирования результатов работы ИНС.

Исследования проведены для нескольких типов бинарной ИНС: ИНС прямого распространения, каскадной ИНС прямого распространения ошибки, каскадной ИНС с обратным распространением ошибки, многослойной каскадной ИНС с обратным распространением ошибки.

Наиболее подробно исследована эффективность бинарной ИНС прямого распространения. Бинарная ИНС выбрана потому, что на основе бинарной сети можно построить открытую иерархическую структуру диагностики с включением в нее новых заболеваний по мере того, как разработанный комплекс будет внедряться в медицинскую практику. Для бинарной ИНС прямого распространения оценивается влияние на эффективность параметров самой ИНС, объема обучающей выборки и размерности входных данных.

Исследования однослойной бинарной ИНС прямого распространения проведены для трех выборок с малым числом элементов. В первую выборку входят 78 пациентов с приведенным выше статусом, из которых 50 пациентов имеют статус ишемической болезни сердца с хронической сердечной недостаточностью второй стадии (ИБС ХСН II) и 28 пациентов имеют статус ишемической болезни сердца с хронической сердечной недостаточностью третьей стадии (ИБС ХСН III). Во вторую выборку с равным числом пациентов входят 56 пациентов, из которых 28 пациентов имеют статус ИБС ХСН II и 28 пациентов имеют статус ИБС

XCH III. В третью входят 28 пациентов, из которых 14 пациентов имеют статус ИБС XCH II и 14 пациентов имеют статус ИБС XCH III.

Эффективность бинарной ИНС прямого распространения

В бинарной ИНС прямого распространения для каждой обучающей выборки было определено число нейронов внутреннего слоя, при котором ИНС имеет наибольшую эффективность. Нарис. 1 представлен график изменения эффективности в зависимости от числа нейронов внутреннего слоя для обучающей выборки 78 (50, 28).

Эффективность, %

Основной Основной Основной Основной Основной

Основной Основной Основной Основной Основной

Число нейронов

Рис. 1. Эффективность ИНС в зависимости от числа нейронов внутреннего слоя

для выборки 78 (50, 28)

Число нейронов внутреннего слоя в данном диапазоне оказывает некоторое влияние на эффективность ИНС. Минимальная величина эффективности составляет чуть более 50 %, максимальная величина эффективности - почти 70 %.

Для последующего исследования влияния объема обучающей выборки с малым числом элементов на эффективность ИНС число нейронов внутреннего слоя принято равным десяти.

Проведено исследование эффективности ИНС в зависимости от объема обучающей выборки, результаты приведены в табл. 1.

Таблица 1

Эффективность ИНС в зависимости от объема обучающей выборки

Объем обучающей выборки 78 (50, 28) 56 (28, 28) 28 (14, 14)

Эффективность ИНС, % 66,6 65 50,8

Эффективность ИНС оценивалась по 30 повторным предъявлениям обучающей выборки. Как видно из табл. 1, для первой и второй выборок эффективность ИНС практически неизменна и снижается для третьей выборки. В целом величина эффективности невысока и при данной конфигурации, параметрах ИНС и объемах обучающих выборок неудовлетворительна для высококачественной диагностики.

С целью возможного повышения эффективности ИНС проведено исследование влияния размерности обучающей выборки на ее эффективность. Оно вызвано тем, что при изменении статуса пациента параметры биомеханики системы 10

кровообращения, а следовательно, параметры его сфигмограммы изменяются. В настоящее время отсутствуют сведения о характере и величинах изменения параметров сфигмограммы при различных заболеваниях. Принята гипотеза о том, что при этих изменениях имеются параметры, которые изменяются незначительно, и параметры, которые изменяются значительно. Те параметры, которые изменяются незначительно, при обучении ИНС создают «информационный шум», способный снизить эффективность ИНС, поэтому исключение таких параметров способно повысить эффективность ИНС.

Снижение размерности обучающей выборки достигалось исключением некоторых параметров сердечного цикла из числа входных параметров обучающей выборки. Такое исключение проводилось «блоками» по нескольким вариантам.

Первый вариант состоит в том, что исключался один или несколько показателей для всех восьми фаз, при этом размерность обучающей выборки снижалась на восемь единиц при исключении одного показателя, на шестнадцать единиц -при исключении двух показателей и т. д.

На рис. 2 представлен график изменения эффективности ИНС при снижении размерности обучающей выборки с 64 до 56 исключением одного показателя. Понижение размерности изменяет эффективность ИНС, она увеличивается при исключении показателя «Экстремальное ускорение» как для выборки объемом 78 (50, 28), так и для выборки объемом 56 (28, 28). Для выборки объемом 78 (50, 28) эффективность составляет 75,5 %, для выборки объемом 56 (28, 28) эффективность составляет 71,5 %. При исключении показателя «Экстремальная мощность» или показателя «Работа» эффективность ИНС снижается по сравнению с выборкой полной размерности.

Эффективность, %

Основной

Основной

Основной

Основной

Выборка 78 Выборка 56

Основной

Основной

Основной

Рис. 2. Эффективность ИНС при размерности обучающей выборки, равной 56, получаемая путем исключения одного показателя.

Исключаемые показатели: 1 - длительность фаз; 2 - средняя скорость; 3 - экстремальная скорость; 4 - среднее ускорение; 5 - экстремальное ускорение; 6 - средняя мощность;

7 - экстремальная мощность; 8 - работа

В табл. 2 приведены данные эффективности ИНС при пониженной размерности обучающей выборки путем одновременного исключения нескольких показателей. В таблице приведены результаты с наибольшей эффективностью. Всего проведены исследования семи комбинаций с исключением двух показателей, семь комбинаций с исключением трех показателей и пять комбинаций с исключением четырех показателей для двух указанных объемов обучающей выборки. Установлено, что минимальная эффективность при исключении нескольких показателей составляет от 60 % для объема обучающей выборки 56 (28, 28) и 65 % для объема обучающей выборки 78 (50, 28).

Таблица 2

Эффективность ИНС при снижении размерности обучающей выборки исключением параметров

Исключаемые параметры Экстремальное ускорение, экстремальная скорость Экстремальное ускорение, экстремальная скорость, средняя скорость Экстремальное ускорение, экстремальная скорость, средняя мощность, экстремальная мощность

Размерность обучающей выборки 48 40 32

Объем выборки 78 (50, 28) 56 (28, 28) 78 (50, 28) 56 (28, 28) 78 (50, 28) 56 (28, 28)

Эффективность ИНС, % 76 75,5 71 75,5 74,3 68,5

Полученные результаты свидетельствуют, что понижение размерности обучающей выборки по первому варианту путем исключения одного или нескольких показателей повышает эффективность ИНС по сравнению с полноразмерной выборкой, но это повышение незначительно.

В табл. 3 приведены результаты исследования эффективности ИНС при понижении размерности обучающей выборки по второму варианту путем исключения фаз.

Таблица 3

Эффективность ИНС при снижении размерности обучающей выборки

исключением фаз

Исключаемые фазы 13 14 13 14, 14 15 13 14, 11 12, 15 16

Размерность обучающей выборки 56 48 40

Объем выборки 78 (50, 28) 56 (28, 28) 78 (50, 28) 56 (28, 28) 78 (50, 28) 56 (28, 28)

Эффективность ИНС, % 82,7 62,8 72,7 61,5 73,3 63

Этот вариант состоит в том, что исключается одна или несколько фаз для всех восьми показателей, при этом размерность обучающей выборки снижается на восемь единиц при исключении одной фазы, на шестнадцать единиц - при исключении двух фаз и т. д.

Понижение размерности обучающей выборки до 56 исключением фазы 13 14 дает максимальную эффективность ИНС при объеме выборки 78 (50, 28), а для выборки 56 (28, 28) эффективность ИНС при таком исключении несколько снижается (см. табл. 1). При исключении одновременно двух и трех фаз эффективность ИНС, приведенная в табл. 3, близка к максимальной по сравнению с дру-12

гими комбинациями исключаемых фаз. Эффективность ИНС для выборки 78 (50, 28) во всех случаях исключения фаз несколько выше, чем для выборки 56 (28, 28).

Исключение фазы 13 14 повышает эффективность до максимальной величины 82,7 % при объеме обучающей выборки 78 (50, 28), максимальная эффективность для объема обучающей выборки 56 (28, 28) наблюдается при исключении фазы 16 17 и составляет 75,5 %. Исследованы семь комбинаций с исключением двух фаз, шесть комбинаций с исключением трех фаз и пять комбинаций с исключением четырех фаз для двух указанных объемов обучающей выборки. Установлено, что минимальная эффективность при исключении нескольких показателей составляет от 62 до 64 % для объема обучающей выборки 56 (28, 28) и от 62 до 58 % для объема обучающей выборки 78 (50, 28).

В целом установлено, что понижение размерности обучающей выборки по второму варианту путем исключения одной или нескольких фаз повышает эффективность ИНС по сравнению с полноразмерной выборкой, но это повышение незначительно.

Исследована эффективность ИНС при понижении размерности обучающей выборки по третьему варианту одновременным исключением показателей и фаз. В табл. 4 приведены результаты, полученные для наиболее эффективных комбинаций прежних опытов.

Таблица 4

Эффективность ИНС при снижении размерности обучающей выборки одновременным исключением показателей и фаз

Исключаемые показатели и фазы Экстремальное ускорение 13 14 Экстремальное ускорение, экстремальная скорость 13 14, 14 15 Экстремальное ускорение, экстремальная скорость, средняя мощность 11 12, 13 14, 14 15

Размерность обучающей выборки 48 32 16

Объем выборки 78 (50, 28) 56 (28, 28) 78 (50, 28) 56 (28, 28) 78 (50, 28) 56 (28, 28)

Эффективность ИНС, % 70 64,5 72,7 61,5 69,7 66,3

Результаты табл. 4 показывают, что снижение размерности обучающей выборки одновременным исключением показателей и фаз в некоторых случаях повышает эффективность ИНС по сравнению с полноразмерной выборкой, но это повышение незначительно. Проработаны и другие сочетания одновременного исключения показателей и фаз, снижающие размерность обучающей выборки дополнительно к опытам, представленным в табл. 4; эффективность ИНС в этих случаях имеет приблизительно такие же величины, как в табл. 4.

Эффективность бинарных каскадных ИНС

Исследована эффективность диагностики других типов ИНС. Исследование проведено на полноразмерной выборке объемом 78 (50, 28). Для каскадной бинарной сети прямого распространения исследована эффективность в зависимости от количества нейронов в скрытом слое в диапазоне от 4 до 24 нейронов с шагом в один нейрон. Эффективность имеет минимальную величину 64 % при 8 нейронах и максимальную величину 74 % при 23 нейронах.

Для каскадной бинарной сети с обратным распространением ошибки эффективность изменяется от 63 % при 16 нейронах скрытого слоя до 69 % при 24 нейронах.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Исследована эффективность многослойной каскадной ИНС с обратным распространением ошибки, результаты исследования представлены в табл. 5.

Каскадная бинарная ИНС с процедурой обратного распространения ошибки уступает по эффективности аналогичной ИНС с прямым распространением, двухслойная каскадная ИНС с обратным распространением ошибки при определенном сочетании нейронов (8 нейронов в первом слое и 11 нейронов во втором слое) имеет немного более высокую эффективность 78,7 % по сравнению с однослойной.

Таблица 5

Эффективность двухслойной каскадной ИНС с обратным распространением

ошибки

Число нейронов в первом слое Число нейронов во втором слое

8 9 10 11 12 13 14 15 16 17 18

7 70,6 68,7 70 66,5 68,1 68,1 65,9 68,1 67,5 71,8 65

8 67,8 69,3 68,7 78,7 68,4 69,6 70,6 67,8 70,3 72,5 71,2

9 67,8 68,7 70,6 69,3 70,3 76,2 69,0 68,4 76,2 65,9 69,6

10 70,6 70,3 67,8 65,6 67,5 67,8 70,6 72,1 68,4 65 66,2

11 70,6 70,3 70 70,3 69,3 73,4 68,7 67,8 65,3 66,5 72,5

12 72,1 68,2 76,5 70,6 75,6 72,1 70,3 69,8 68,5 66,6 68,1

13 69,06 74,06 70 70 71,56 67,18 68,43 68,75 69,06 68,43 70,93

14 70,3 68,7 72,8 69,6 68,7 75,3 70,3 68,7 71,2 73,1 70,6

15 70,9 67,1 67,1 71,2 69,0 68,7 69,3 74,3 68,1 71,8 70,3

16 69,3 71,5 67,1 72,5 66,8 69,0 65 70,6 68,7 71,7 69,0

17 72,1 73,1 65,6 73,7 72,5 67,1 74,3 69,6 75,9 68,7 72,1

18 71,2 72,5 73,1 72,18 71,25 70,62 69,06 68,75 71,56 66,25 72,5

Результаты исследований различных типов ИНС показывают, что различие в типах ИНС, включая различные конфигурации, дает лишь незначительное повышение эффективности по сравнению с однослойной ИНС прямого распространения. Если однослойная ИНС прямого распространения имеет эффективность 66,6 %, то двухслойная каскадная ИНС с обратным распространением ошибки имеет эффективность 78,7 % для обучающей выборки того же объема. Для целей медицинской диагностики такое повышение нельзя считать достаточным.

Заключение

В целом проведенные исследования позволяют сделать следующие выводы.

1. Искусственная нейронная сеть является инструментом, который может быть использован в задаче классификации (диагностики) состояния биомеханики системы кровообращения в реальном времени по параметрам сфигмограммы.

2. В бинарной однослойной ИНС прямого распространения при малом объеме обучающей выборки число нейронов внутреннего слоя оказывает незначительное влияние на ее эффективность.

3. Эффективность бинарной однослойной ИНС прямого распространения даже при малых объемах обучающей выборки тем выше, чем больше объем обучающей выборки.

4. Бинарные каскадные ИНС различных типов имеют приблизительно равную эффективность при применении обучающих выборок малого объема.

5. Способом повышения эффективности ИНС, применяемой для диагностики многомерных процессов, является снижение размерности обучающей выборки. Для получения существенного повышения эффективности предварительно следует проанализировать характер и величины изменения параметров многомерного процесса при его переходе из одного класса в другой. Это позволяет использовать для обучения ИНС меньшее число параметров с максимальными величинами изменения.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Аксёнов C.B., Новосельцев В.Б. Организация и использование нейронных сетей (методы и технологии). - Томск, 2006.

2. Слепнев Е.С. Применение искусственных нейронных сетей для анализа предаварийных ситуаций турбоагрегатов электростанций // Интернет-журнал Науковедение. - 2014. -№ 3(22). - С. 124.

3. Павлова А.Н. Применение искусственных нейронных сетей для целей агроэкологической группировки эрозионных земель // Перспективное развитие науки, техники и технологий: Матер. 3-й Междунар. науч.-практ. конф. Т. 2. - 2013. - С. 41-44.

4. Потылицина E.H., Сугак Е.В. Прогнозирование ожидаемой продолжительности жизни населения с использованием искусственных нейронных сетей // Нейроинформатика, ее приложения и анализ данных: Матер. XXV Всеросс. семинара. - 2017. - С. 43-48.

5. Дзараскев С.Ш. Применение искусственных нейронных сетей как эффективный способ решения трудоемких задач в различных сферах жизнедеятельности человека // Современные тенденции развития в области экономики и управления: Матер. Междунар. науч.-практ. конф. -2018. - С. 404-408.

6. Горбанъ А.Н., Дубинин-Барковский В.Л., Кирдин А.Н. [и др.]. Нейроинформатика: учеб. пособие. - Новосибирск: Наука. Сибирское предприятиеРАН, 1998.

7. Фомин А.М., Супильников A.A., Кисляев С.Е. Комплексное применение искусственных нейронных сетей в морфологии гемомикроциркуляторного русла и у пожилых больных и долгожителей с послеоперационной вентральной грыжей [Электронный ресурс]: метод. пособие. - Самара: РЕАВИЗ, 2009. - 36 с. - Режим доступа: http://www.iprbookshop.ru/14891.html

8. Рашитов Т.Ф. Использование нейронных сетей для определения наличия сердечных заболеваний // Синергия наук. - 2018. - № 20. - С. 293-299.

9. Саменко H.A. Применение методов машинного обучения и искусственных нейронных сетей в задачах классификации характера мозговой активности // Инноватика 2018: Сб. матер. XIV Междунар. школы-конф. студентов, аспирантов и молодых ученых; под ред. А.Н. Солдатова, С.Л. Минькова. - 2018. - С. 409-411.

10. Руденко Т.А., ВласенкоМ.А. Системы нечеткой логики в диагностике диссинхронии миокарда // Science Rise. - 2015. - T. 5. - № 4 (10). - С. 52-61.

11. Жаксылыков K.M. Реализация искусственных нейронных сетей в Линукс // NovaInfo.Ru. -2014. - № 21. - С. 25-34.

12. Запрягаев С.А., Карпушин A.A. Вычисление и обучение искусственных нейронных сетей прямого распространения на графическом процессоре // Вестник Воронежского государственного

университета. Сер. Системный анализ и информационные технологии. - 2011. - № 1. - С. 157164.

13. Андреева Е.А., Мазурова И.С. Обучение искусственных нейронных сетей методом БАД // Математические методы управления: Сб. науч. трудов. - Тверь, 2015. - С. 5-18.

14. Мамедов B.C. Использование языка программирования Python для создания искусственных нейронных сетей // Современные условия взаимодействия науки и техники: Сб. ст. по итогам Междунар. науч.-практ. конф.: в 3 ч. - 2017. - С. 95-98.

15. Савенков К.Е. Методы дифференцирования для обучения искусственных нейронных сетей // Информационные технологии в науке и образовании. Проблемы и перспективы: Сб. науч. ст. Всеросс. межвуз. науч.-практ. конф.; под ред. Л.Р. Фионовой. - 2018. - С. 111-114.

16. Черепанов Ф.М. Способ настройки чувствительности к ошибкам первого и второго рода для алгоритмов обучения нейронных сетей // Искусственный интеллект в решении актуальных социальных и экономических проблем XXI века: Сб. ст. по матер. Всеросс. науч.-практ. конф. -2016. - С. 188-193.

17. Фатенков В.Н. Биомеханика сердца в эксперименте и клинике: учеб. пособие. - М.: Медицина, 1990. - 160 с.

18. Фатенков В.Н. Новый взгляд на биомеханику сердца // Кардиология и сердечно-сосудистая хирургия. - 2009. - Т. 2. - № 5. - С. 65-71.

19. Фатенков В.Н. Новое в биомеханике сердца // Вестник Российской академии медицинских наук. - 1999. - № 2. - С. 44-50. ISSN 0869-6047.

20. Фатенков В.Н., Фатенков О.В. Новое в биомеханике сердца // Казанский медицинский журнал. - 2003. - Т. 84. - № 5. - С. 330-336.

21. Фатенков В.Н., Бухвалова Л.П. Автоматизированный анализ биомеханики сердца по апекскар-диограмме // Клиническая медицина. - 1991. - Т. 69. - № 8. - С. 50.

22. Рябов А.Е., Гаранин A.A. Программа RHEOGRAPH для расчета параметров биомеханики кровообращения // Международный журнал прикладных и фундаментальных исследований. -2015. - № 12-6. - С. 1145.

23. Гаранин A.A., Рябов А.Е., Фатенкова О.В. Компьютерная реография в оценке патологии биомеханики большого круга кровообращения у лиц с факторами риска сердечно-сосудистых заболеваний // Реабилитация и вторичная профилактика в кардиологии: Матер. X науч.-практ. конф. -2013. - С. 22-23.

24. Гаранин A.A., Рябов А.Е. Комплексная оценка вклада факторов рисков ИБС в изменения биомеханики сердечно-сосудистой системы // Профилактика заболеваний и укрепление здоровья. -2008. - Т. 11. - № 6 S1. - С. 17.

25. Солдатова O.A., Рябов А.Е., Щукин Ю.В. Компьютерная сфигмография как неинвазивный метод оценки эндотелиальной дисфункции у больных постинфарктным кардиосклерозом с артериальной гипертензией // Кардиоваскулярная терапия и профилактика. - 2005. - Т. 4. - № 4 S. -С. 303.

26. Рябое А.Е., Германов A.B., Фатенков О.В. Нарушения биомеханики артерий при хронической сердечной недостаточности // Казанский медицинский журнал. - 2004. - Т. 85. - № 1. - С. 2932.

27. Фатенков В.Н., Щукин Ю.В., Фатенков О.В. Новое в фазовой структуре сердечного цикла // Российский кардиологический журнал. - 2001. - № 2. - С. 85-89.

28. Neural Network Software, About Neuro Solutions URL [Электронный ресурс]. - Режим доступа: http//www.neuroproject.ru//php (дата обращения 02.09.2018).

Статья поступила вредакцию 5 апреля 2019 года

RESEARCH OF EFFICIENCY OF THE ARTIFICIAL NEURAL NETWORK AT LOW VOLUMES OF THE TRAINING SAMPLE

A.A. Abrosimov1, A.E. Ryabov2, D.S. Vorontsov1, E.A. Makarova1, O.A. Malkova1

1 Samara State Technical University

244, Molodogvardeyskaya st., Samara, 443100, Russian Federation

2 Samara State Medical University

89, Chapaevskaya st, Samara, 443099, Russian Federation

Abstract. The effectiveness of the binary artificial neural network at low volume of training samples was investigated. The studies were conducted with the MATLAB software's Neural Network Toolbox module used for the classification task. Feed-forward artificial neural network was thoroughly studied. It was discovered, that the number of neurons in the inner layer in the range of changes had little effect on efficiency. The volume of training samples reduces efficiency when the value is very small. The influence the of the input training samples dimension on the efficiency was studied; the dimension was reduced from 64 to 16 by eliminating a different set of input parameters. It is established that such changes have a different impact on efficiency, and under certain conditions, the efficiency increases. For a cascade binary network of feed forward propagation and a cascade binary network with reverse propagation of error, it was established that the efficiency changes slightly depending on the number of neurons in the hidden layer in the studied range. A two-layer cascade network with reverse error propagation with a certain combination of neurons has a higher efficiency compared to a single-layer one. The results allow us to outline ways to improve efficiency.

Keywords: artificial neural network, efficiency, settings of a binary artificial neural network, the dimension of the training sample, the size of the training sample, types of artificial neural network, diagnostics, sphygmography.

REFERENCES

1. Aksenov S.V., Novoseltsev V.B. Organization and use of neural networks (methods and technologies). - Tomsk, 2006.

2. Slepnev E.S. Application of artificial neural networks for analyzing emergency situations of turbine power plants. Online Journal of Science. 2014. № 3 (22). P. 124.

3. Pavlova A.I. Application of artificial neural networks for the purpose of agroecological grouping of erosive lands. In the collection: Perspective development of science, technology and technology. Materials of the 3rd International Scientific and Practical Conference: Volume 2. 2013. Pp. 41-44.

4. Potilitsina E.N., Sugak E. V. Prediction of life expectancy of the population using artificial neural networks. In the collection "Neuroinformatics, its applications and data analysis". Materials XXV All-Russian seminar. 2017. Pp. 43-48.

5. Dzaraskev S.Sh. The use of artificial neural networks as an effective way to solve time-consuming tasks in various spheres of human activity. In the collection "Modern development trends in the field of economics and management". Materials of the International scientific-practical conference. 2018. Pp. 404-408.

6. Gorban A.N. Neuroinformatics: study guide / A.N. Gorban, V.L. Dubinin-Barkovsky, A.N. Kirdin. JV "Science" of the Russian Academy of Sciences. 1998.

Albert A. Abrosimov (Ph.D.), Associate Professor. Alexey E. Ryabov (Ph.D.), Associate Professor. Dmitry S. Vorontsov, Graduate Student. Evgenia A. Makarova, Graduate Student. Olga A. Malkova, Graduate Student.

7. Fomin A.M. Complex use of artificial neural networks in the morphology of the hemomicrocirculato-ry bed in elderly patients and centenarians with postoperative ventral hernia [Electronic resource]: a methodological guide / A.M. Fomin, A.A. Supilnikov, S.E. Kislyaev. Samara: REAVIZ, 2009. 36 p. URL: http://www.iprbookshop.ru/14891.html

8. Rashitov T.F. Using neural networks to determine the presence of heart disease. Synergy of Sciences. 2018. No. 20. Pp. 293-299.

9. Samenko I.A. Application of machine learning methods and artificial neural networks in the tasks of classification of the nature of brain activity. In the collection: Innovation 2018. Collection of materials of the XIV International School-Conference of students, graduate students and young scientists. Edited by A.N. Soldatova, S.L. Minkova. 2018. Pp. 409-411.

10. Rudenko T.A., Vlasenko M.A. Fuzzy logic systems in the diagnosis of myocardial dyssynchrony. Sci-enceRise. 2015. Vol. 5. No. 4 (10). Pp. 52-61.

11. Zhaksylykov K.M. Implementation of artificial neural networks in Linux. NovaInfo.Ru. 2014. No. 21. Pp. 25-34.

12. Zaryagayev S.A., Karpushin A.A. Calculation and training of artificial neural networks of direct distribution on the graphics processor. Bulletin of the Voronezh State University. Series: Systems Analysis and Information Technologies. 2011. No. 1. Pp. 157-164.

13. Andreeva E.A., Mazurova I.S. Training of artificial neural networks using the BAD method. In the collection "Mathematical Methods of Control". Collection of scientific papers. Tver, 2015. P. 5-18.

14. Mamedov V.S. Using the Python programming language to create artificial neural networks. In the collection "Modern conditions of interaction of science and technology". Collection of articles on the results of the International Scientific and Practical Conference: in 3 parts. 2017. Pp. 95-98.

15. Savenkov K.E. Differentiation methods for learning artificial neural networks. In the collection "Information technologies in science and education. Problems and prospects" Collection of scientific articles of the All-Russian Intercollegiate Scientific and Practical Conference. Edited by L.R. Fionic. 2018. Pp. 111-114.

16. Cherepanov F.M. The method of setting the sensitivity to errors of the first and second kind for neural network learning algorithms. In the collection "Artificial Intelligence in Solving Actual Social and Economic Problems of the 21st Century". Collection of articles on the materials of the All-Russian scientific-practical conference. 2016. Pp. 188-193.

17. Fatenkov V.N. Heart biomechanics in experiment and clinic: studies. manual / V.N. Fatenkov. M.: Medicine, 1990. 160 s.

18. Fatenkov V.N. A new look at the biomechanics of the heart. Cardiology and cardiovascular surgery. 2009. Vol. 2. No. 5. Pp. 65-71.

19. Fatenkov V.N. New in the biomechanics of the heart. Bulletin of the Russian Academy of Medical Sciences. 1999. № 2. Pp. 44-50. ISSN 0869-6047.

20. Fatenkov V.N., Fatenkov O.V. New in the biomechanics of the heart. Kazan Medical Journal. 2003. T. 84. № 5. Pp. 330-336.

21. Fatenkov V.N., Bukhvalova L.P. Automated analysis of heart biomechanics by apexcardiogram. Clinical medicine. 1991. T. 69. № 8. P. 50.

22. Ryabov A.E., Garanin A.A. The program RHEOGRAPH for calculating the parameters of circulatory biomechanics. International Journal of Applied and Fundamental Research. 2015. № 12-6. Pp. 1145.

23. Garanin A.A., Ryabov A.E., Fatenkova O.V. Computed rheography in the assessment of the pathology of biomechanics of a large circle of blood circulation in persons with risk factors for cardiovascular diseases. In the collection: Rehabilitation and secondary prevention in cardiology. Materials X scientific conference. 2013. Pp. 22-23.

24. Garanin A.A., Ryabov A.E. Comprehensive assessment of the contribution of risk factors of CHD to changes in the biomechanics of the cardiovascular system. Disease prevention and health promotion. 2008. Vol. 11. No. 6 S1. P. 17.

25. Soldatov O.A., Ryabov A.E., Schukin Y.V. Computer sphygmography as a non-invasive method for assessing endothelial dysfunction in patients with post-infarction cardiosclerosis with arterial hypertension. Cardiovascular therapy and prevention. 2005. V. 4. No. 4 S. P. 303.

26. Ryabov A.E., Germanov A.V., Fatenkov O.V. Violations of arterial biomechanics in chronic heart failure. Kazan Medical Journal. 2004. T. 85. № 1. S. 29-32.

27. Fatenkov V.N., Schukin Y.V., Fatenkov O.V. New in the phase structure of the cardiac cycle. Russian Journal of Cardiology. 2001. № 2. Pp. 85-89.

28. Neural Network Software, About Neuro Solutions. URL: http // www. neuroproject.ru//php (date of appeal 02.09.2018).

i Надоели баннеры? Вы всегда можете отключить рекламу.