Научная статья на тему 'Быстрый алгоритм обучения больших сетей искусственных нейронов квадрата среднего геометрического плотностей распределения значений многомерных биометрических данных'

Быстрый алгоритм обучения больших сетей искусственных нейронов квадрата среднего геометрического плотностей распределения значений многомерных биометрических данных Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
114
24
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
НЕЙРОСЕТЕВОЙ ПРЕОБРАЗОВАТЕЛЬ БИОМЕТРИЯ-КОД / БИОМЕТРИЧЕСКИЕ ДАННЫЕ / БОЛЬШАЯ РАЗМЕРНОСТЬ ДАННЫХ / МАЛОРАЗРЯДНЫЕ ВЫЧИСЛЕНИЯ С ИСПОЛЬЗОВАНИЕМ ЛОГАРИФМОВ ТАБЛИЦ ПЛОТНОСТИ ВЕРОЯТНОСТИ / NEURAL CODE-BIOMETRICS CONVERTER / BIOMETRIC DATA / BIG DATA DIMENSIONALITY / LOW BITNESS CALCULATIONS USING LOGARITHMIC TABLES OF PROBABILITY DENSITY

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Волчихин Владимир Иванович, Иванов Александр Иванович, Перфилов Константин Александрович, Малыгина Елена Александровна, Серикова Юлия Игоревна

Актуальность и цели. Целью работы является описание искусственных нейронов, построенных как аналоги статистического критерия квадрата среднего геометрического плотностей распределения значений многомерных биометрических данных «Свой» и многомерных плотностей распределения значений, предъявленных биометрических данных. Решается задача перехода от одномерного статистического анализа к многомерному статистическому анализу биометрических данных за счет создания семейства нейронов среднего геометрического. Материалы и методы. Для решения поставленной задачи использован метод имитационного моделирования. Результаты. Предложено два варианта реализации нейронов. Первый вариант ориентирован на вычислительную технику с высокой разрядностью, программное обеспечение которой способно достаточно точно вычислять интеграл произведения сравниваемых плотностей распределения значений. Второй вариант реализации построен на применении низкоразрядных двухмерных логарифмических таблиц заранее вычисленных значений квадрата среднего геометрического плотностей вероятности. В качестве одной переменной таблицы используется разница между ожидаемым и наблюдаемым математическими ожиданиями сравниваемых биометрических данных. Другая переменная использует отношение стандартных отклонений двух сравниваемых выборок. Выводы. Доказано, что мощность созданных квадратичных нейронов намного выше, чем мощность классических квадратичных радиально базисных нейронов. При этом важнейшее свойство линейной вычислительной сложности обучения квадратичных нейронов сохранено, что позволяет быстро обучать как угодно большие искусственные нейронные сети среднего геометрического на малых обучающих выборках.Background.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Волчихин Владимир Иванович, Иванов Александр Иванович, Перфилов Константин Александрович, Малыгина Елена Александровна, Серикова Юлия Игоревна

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

The aim of the presented work is to describe artificial neurons, built as analogues of the statistical criterion of the square geometric mean of densities of "Friend" multidimensional values distribution of biometric data and multidimensional density distribution of values against the biometric data. The article solves the problem of transferring from one-dimensional to multidimensional statistical analysis of biometric data by creating a collection of neurons of the geometric mean. Materials and methods. the method of simulation was to solve the task. Results. Two options were proposed for the realization of neurons. The first option focused on computing equipment with high bitness, the software of which was able to accurately calculate the integral of the density distribution of values to compare works. The second option was based on the application of low-bit 2D logarithmic tables of pre-computed values of the squared geometric mean of probability densities. The difference between expected and observed mathematical expectations of compared biometric data was used as a table variable. The ratio of standard deviations of the two samples compared was used as another variable. Conclusions. It is proved that the power generated by quadratic neurons is much higher than the power of classical quadratic radial basis of neurons. At the same time, the crucial property of linear computational complexity of quadratic neurons teaching is saved, allowing to quickly teach anyhow large artificial neural networks of the geometric mean for small training samples.

Текст научной работы на тему «Быстрый алгоритм обучения больших сетей искусственных нейронов квадрата среднего геометрического плотностей распределения значений многомерных биометрических данных»

УДК 519.24; 53; 57.017

DOI 10.21685/2072-3059-2018-3-3

В. И. Волчихин, А. И. Иванов, К. А. Перфилов, Е. А. Малыгина, Ю. И. Серикова

БЫСТРЫЙ АЛГОРИТМ ОБУЧЕНИЯ БОЛЬШИХ СЕТЕЙ ИСКУССТВЕННЫХ НЕЙРОНОВ КВАДРАТА СРЕДНЕГО ГЕОМЕТРИЧЕСКОГО ПЛОТНОСТЕЙ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ МНОГОМЕРНЫХ БИОМЕТРИЧЕСКИХ ДАННЫХ

Аннотация.

Актуальность и цели. Целью работы является описание искусственных нейронов, построенных как аналоги статистического критерия квадрата среднего геометрического плотностей распределения значений многомерных биометрических данных «Свой» и многомерных плотностей распределения значений, предъявленных биометрических данных. Решается задача перехода от одномерного статистического анализа к многомерному статистическому анализу биометрических данных за счет создания семейства нейронов среднего геометрического.

Материалы и методы. Для решения поставленной задачи использован метод имитационного моделирования.

Результаты. Предложено два варианта реализации нейронов. Первый вариант ориентирован на вычислительную технику с высокой разрядностью, программное обеспечение которой способно достаточно точно вычислять интеграл произведения сравниваемых плотностей распределения значений. Второй вариант реализации построен на применении низкоразрядных двухмерных логарифмических таблиц заранее вычисленных значений квадрата среднего геометрического плотностей вероятности. В качестве одной переменной таблицы используется разница между ожидаемым и наблюдаемым математическими ожиданиями сравниваемых биометрических данных. Другая переменная использует отношение стандартных отклонений двух сравниваемых выборок.

Выводы. Доказано, что мощность созданных квадратичных нейронов намного выше, чем мощность классических квадратичных радиально базисных нейронов. При этом важнейшее свойство линейной вычислительной сложности обучения квадратичных нейронов сохранено, что позволяет быстро обучать как угодно большие искусственные нейронные сети среднего геометрического на малых обучающих выборках.

Ключевые слова: нейросетевой преобразователь биометрия-код, биометрические данные, большая размерность данных, малоразрядные вычисления с использованием логарифмов таблиц плотности вероятности.

V. I. Volchikhin, A. I. Ivanov, K. A. Perfilov, E. A. Malygina, Yu. I. Serikova

A FAST LEARNING ALGORITHM OF LARGE NETWORKS OF ARTIFICIAL NEURONS OF THE SQUARED GEOMETRIC

© Волчихин В. И., Иванов А. И., Перфилов К. А., Малыгина Е. А., Серикова Ю. И., 2018. Данная статья доступна по условиям всемирной лицензии Creative Commons Attribution 4.0 International License (http:// creativecommons.org/licenses/by/4.0/), которая дает разрешение на неограниченное использование, копирование на любые носители при условии указания авторства, источника и ссылки на лицензию Creative Commons, а также изменений, если таковые имеют место.

MEAN OF DENSITIES OF MULTIDIMENSIONAL VALUE DISTRIBUTION OF BIOMETRIC DATA

Abstract.

Background. The aim of the presented work is to describe artificial neurons, built as analogues of the statistical criterion of the square geometric mean of densities of "Friend" multidimensional values distribution of biometric data and multidimensional density distribution of values against the biometric data. The article solves the problem of transferring from one-dimensional to multidimensional statistical analysis of biometric data by creating a collection of neurons of the geometric mean.

Materials and methods. the method of simulation was to solve the task.

Results. Two options were proposed for the realization of neurons. The first option focused on computing equipment with high bitness, the software of which was able to accurately calculate the integral of the density distribution of values to compare works. The second option was based on the application of low-bit 2D logarithmic tables of pre-computed values of the squared geometric mean of probability densities. The difference between expected and observed mathematical expectations of compared biometric data was used as a table variable. The ratio of standard deviations of the two samples compared was used as another variable.

Conclusions. It is proved that the power generated by quadratic neurons is much higher than the power of classical quadratic radial basis of neurons. At the same time, the crucial property of linear computational complexity of quadratic neurons teaching is saved, allowing to quickly teach anyhow large artificial neural networks of the geometric mean for small training samples.

Keywords: Neural code-biometrics converter, biometric data, big data dimensionality, low bitness calculations using logarithmic tables of probability density.

Введение

Информационное общество предполагает активное использование интернет-ресурсов. Государственные и частные структуры создают на своих сайтах личные кабинеты пользователей. К сожалению, существующая практика парольной защиты доступа к личным кабинетам обладает существенными уязвимостями. Пользователи не способны запоминать длинные случайные пароли. Владелец информационного ресурса не может быть уверен в том, что к личному электронному кабинету получил доступ именно его хозяин. Пароль может быть перехвачен программной закладкой, также не составляет проблемы подменить IP-адрес интернет-пользователя.

Для усиления защиты доступа к электронным кабинетам в настоящее время разрабатываются технологии биометрической аутентификации личности путем преобразования личных биометрических данных человека в его криптографический ключ или длинный случайный пароль доступа. Используются такие биометрические образы, как рисунок отпечатка пальца, рисунок радужной оболочки глаза, голосовой пароль, рукописный пароль, рисунок кровеносных сосудов глазного дна или ладони руки. Естественно, что преобразователи биометрия-код не могут быть идеальными и имеют вероятности ошибок первого и второго рода. Возникает необходимость тестирования ошибок первого и второго рода на реальных биометрических данных. Кроме того, при настройке «нечетких экстракторов» и при обучении нейросетевых преобразователей необходимо контролировать отсутствие в биометрических

данных грубых ошибок. По сути дела, на небольшом числе примеров биометрического образа необходимо контролировать показатель близости распределения биометрических данных к многомерному нормальному закону. Формально для этой цели может быть использован классический одномерный хи-квадрат критерий Пирсона, однако такой подход далек от оптимального. В рамках данной статьи мы попытаемся доказать, что контроль нормальных плотностей распределения биометрических данных выгоднее осуществлять статистическим критерием Крамера - фон Мезиса. Мощность критерия Крамера - фон Мезиса на малых выборках примеров биометрических данных оказывается существенно выше, чем мощность аналогичного критерия хи-квадрат.

Общие положения классических статистических критериев

В 1900 г. Пирсон предложил хи-квадрат статистический критерий [1], который на сегодня практически стал стандартом [2]. Популярность хи-квадрат критерия Пирсона обусловлена тем, что для больших выборок в 400 и более опытов им была дана аналитическая зависимость плотности распределения значений от числа степеней свободы (от числа столбцов гистограммы экспериментальных данных). Десятки других статистических критериев [3] на практике куда менее востребованы из-за того, что для них математиками построены таблицы доверительных вероятностей, но нет их точного аналитического описания.

К сожалению, основная масса таблиц доверительных вероятностей для сотен известных на данный момент статистических критериев перекочевала в справочники и стандартизованные рекомендации из первоисточников без независимой серьезной проверки инженерным сообществом. В начале XX в. подобная проверка была очень дорогим удовольствием, так как отсутствовали средства вычислительной техники и большие объемы статистических данных с известным (эталонным) законом распределения значений. Сейчас ситуация изменилась, мы имеем на своих столах достаточно мощные вычислительные средства, способные создавать большие объемы статистических данных, например, в среде моделирования: МаШЬАВ, МаШСАБ, 8ТАТ18Т1СА и др. Однако мы этими новыми возможностями не пользуемся. В инженерной среде не принято проверять таблицы доверительных вероятностей, приведенные в справочниках. В итоге возникает путаница с достоверностью данных, публикуемых в современных статистических справочниках. В этом отношении источник [1] является одним из самых достоверных, так как в нем содержится очень большое число ссылок на первоисточники. По крайней мере, каждый сомневающийся инженер может проследить цепочку ссылок и попытаться найти сведения о независимом подтверждении достоверности таблиц доверительных вероятностей в том или ином первоисточнике.

Тяжесть проблемы состоит в том, что при статистическом анализе биометрических данных приходится настороженно относиться даже к проверенному вдоль и поперек хи-квадрат критерию. Причина состоит в том, что таблицы хи-квадрат критерия для выборки в 16-20 опытов не существует или они не опубликованы в уважаемых статистиками журналах. Каждый инженер может написать программку из 10 строк, получить таблицы доверительных вероятностей для нужных выборок, но осмелиться их использовать в своих расчетах может далеко не каждый. Будут отсутствовать ссылки на авторитеты.

Еще одной дополнительной проблемой является наличие большого числа предложенных математиками статистических критериев. Часть известных статистических критериев, построенных для интегральных характеристик - сравниваемых функций вероятности, приведена в табл. 1.

Таблица 1

Статистические критерии проверки гипотезы о соответствии эмпирической функции вероятности Р(и) некоторому ее аналитическому описанию Р (и)

Название критерия и год создания Формула вычисления критерия

Хи-квадрат критерий Пирсона, 1900 г. [1] т 2 / = ( - Р ) /Р , 1=1 где N - число опытов, т - число интервалов гистограммы, пг - число отсчетов в г-м интервале, Р -теоретическая вероятность попадания в г-й интервал

Критерий Крамера -фон Мизеса, 1928 г. [1] = | {Р(и) - Р(и)} • Си —

Критерий Смирнова -Крамера - фон Мизеса, 1936 г. [1] = | {Р(й) — Р(и)}2 • СР(и) —

Критерий Джини, 1941 г. [1] = | |Р(и) — Р(и)| • с1и) —

Критерий Андерсона -Дарлинга, 1952 г. [1] +Т{Р(Й) — Р (и )}2 = Г 4—=—• СР (и) ^ Р (и) -{1 — Р (и)}

Критерий Ватсона, 1961 г. [1] Г 12 = Г !Р (и) — Р(и) — Г [ Р (и) — Р( и)] • СР (и)1 • СР (и) —оо ^ —^ J

Критерий Фроцини, 1978 г. [1] = Г |Р(и) — Р (и) • СР (и) —оо

Критерий среднего геометрического, сравниваемых функций вероятности 2014 г. [4] = Г 4р(и) • (1 — Р(и)) • Си —оо

Очевидно, что интегральная функция вероятности Р(и) через дифференциал связана с ее дифференциальным аналогом р(и) - плотностью распределения функции вероятности. В силу линейности операций интегрирования и дифференцирования [4] во всех интегральных статистических критериях табл. 1 функцию вероятности Р(и) можно заменить на ее дифференциал -р(и). В итоге мы получим таблицу дифференциальных статистических критериев (табл. 2).

Таблица 2

Статистические критерии проверки гипотезы о соответствии наблюдаемой дифференциальной плотности вероятности

р(и) =- некоторому ее аналитическому описанию р (и)

ёи

Название критерия и год создания Формула вычисления критерия

Дифференциальный вариант критерия Крамера - фон Мизеса, 2016 г. [4] = | {р(и) - р(и)}2 -ёи —^

Дифференциальный вариант критерия Смирнова - Крамера -фон Мизеса, 2016 г. [4] = | {р(и) — р(и)}2 • р(и) • ёи —^

Дифференциальный вариант критерия Джини, 2006 г. [5-7] = | |р(и) — р(и)| • ёи —^

Интегродифференци-альный вариант критерия Андерсона -Дарлинга, 2016 г. [4] = +Г{(и) — р(и)}} • р(и) • ёи ^ Р(и) {1 — Р(и)}

Дифференциальный вариант критерия Ватсона, 2016 г. [4] +г ]2 - 1 ■< р(и) — р(и) — 1 [р(и) — р(и)]р(и) • ёи ^ • р(и) • ёи —^ ^ —^ J

Дифференциальный вариант критерия Фроцини, 2016 г. [4] - | |р(и) — р(и)| • р(и) • ёи —^

Среднее геометрическое плотностей сравниваемых вероятностей, 2016 г. [5, 8] - | л/р(и) • р(и) • ёи —^

Квадрат среднего геометрического плотностей вероятности, 2016 г. [5, 8] - | р(и) • р(и) • ёи —^

Подобная замена увеличивает число возможных для использования функционалов обогащения данных. Как показано на рис. 1, в ряде случаев дифференциальные функционалы имеют мощность существенно выше интегральных функционалов, если речь идет о разделении биометрических данных с нормальным законом распределения на фоне альтернативного равномерного закона распределения значений [5, 8].

Как видно из рис. 1, квадрат среднего геометрического сравниваемых функций распределения дает наибольшую мощность (dsg2), обеспечивая минимальное значение равновероятных ошибок первого и второго рода на малых выборках. Видимо, это самый мощный на текущий момент статистический критерий [4] из известных критериев.

g CP ) 10 EE

"

\ — 2

\ --- Л

\

\ -sg

-A— -

\ i

\ dsg ass -----

\

\

О 20 40 60 30 100 120 140

Рис. 1. Эталонная мощность хи-квадрат критерия (толстая линия) в логарифмической шкале равновероятных ошибок; sg - интегральный функционал среднего геометрического (табл. 1, строка 2), dsg - дифференциальный вариант функционала среднего геометрического (табл. 2, строка 8)

Из рис. 1 следует, что равновероятные ошибки первого и второго рода р = р = Pee для хи-квадрат критерия достигают значения 0,01 при 160 опытах. Та же самая вероятность ошибок Pee = 0,01 для критерия dsg2 получается на выборке из 27 опытов. Наблюдается 6-кратное снижение требований к размеру тестовой выборки, что крайне существенно для биометрических приложений.

Переход от одномерного статистического анализа к многомерному нейросетевому анализу биометрических данных

При практической реализации многомерного статистического анализа очень удобным оказалось применение искусственных нейронных сетей [9], обучаемых стандартным алгоритмом [10] с линейной вычислительной сложностью и тестируемых после обучения стандартными алгоритмами [11]. Быстрое и абсолютно устойчивое автоматическое обучение может быть организовано не только для сетей из персептронов, но и для иных нейронных сетей, воспроизводящих хорошо исследованные радиально-базисные функции [12] или множество иных, менее изученных, квадратичных функционалов [13-19].

Можно представить, что любому известному статистическому критерию (статистическому функционалу) можно поставить в соответствие некоторый нейрон [4]. Их отличие будет состоять только в том, что нейрон требует обучения (настройки), тогда как статистические критерии, как правило, не настраивают (не регулируют) в части предобработки данных. При использовании статистических критериев необходима настройка только порогового элемента (необходимо выбрать значение требуемого показателя доверительной вероятности).

Так же как все квадратичные функционалы, нейрон среднего геометрического со структурой, изображенной на рис. 2, всегда имеет положительный отклик линейной части. Его настройка сводится к нормированию и центрированию т входных биометрических параметров по формуле

E(Vi) - у, C(V; )

(1)

где 7 - упорядоченные номера входов нейрона, 7 = 1, 2,..., т, связанные с 416, контролируемыми биометрическими параметрами БиоОбраза, например, полученного в среде моделирования «БиоНейроАвтограф» [19], таблица связей формируется заранее с использованием генератора псевдослучайных чисел, как это рекомендует стандарт [11].

Рис. 2. Структурная схема искусственного нейрона, построенного как эквивалент квадрата среднего геометрического сравниваемых плотностей распределения значений

После нормирования и центрирования (1) для выборки т параметров по п примерам образа «Свой» вычисляют математическое ожидание Е(и) и стандартное отклонение с(и) для нормального теоретического распределения р(и).

Если после настройки нейрона dsg2 подать на его входы тестовые примеры образа «Свой», не участвовавшие в его обучении, то на выходе линейной части получим отклики с малой дисперсией:

1 I 2 ' 2

\2

У

= { (p(u))2

= ij |eXP

( 2 ^ -u

2

v

du.

(2)

где математическое ожидание Е(и) ~ 0 практически не является случайной величиной, стандартное отклонение с(и) ~ 1 также практически не является случайной величиной.

Если же на входы обученного нейрона dsg2 подавать биометрические данные образа «Чужой», то для них нормировка (1) работать не будет:

й = ^, (3)

^)

где Ъу - биометрический параметр образа «Чужой».

Как следствие, математическое ожидание Е(и) оказывается случайной величиной, а стандартное отклонение с(н) принимает большое значение в интервале от 2 до 5. В итоге отклик у нейрона dsg2 на воздействие вектором биометрических параметров образа «Чужой» Ъ будет описываться уравнением, совершенно не похожим на уравнение (2):

1 Г ( 2 М Г ( / гл / ~Ч \2 Л

1 - I -u I I (E(u) - u)

, !exp - 1 J —

2n-o(U^ | ^

y = p (u) • p(u) • du =-

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

J 2n • Ып) J

exp

2 • (a(u))2

>du, (4)

где математическое ожидание Е (и) - случайная величина с нулевым математическим ожиданием Е(Е(и)) ~ 0,0 и значительным стандартным отклонением с(Е(и)) ~ 1,41, стандартное отклонение <з(и) ~ 3,8 самой переменной не случайно и имеет значительную величину.

Кардинальное отличие уравнений состоит в том, что они дают совершенно разные по своей природе отклики. Уравнение (2) является почти детерминированным, тогда как уравнение (4) дает случайную величину с большим стандартным отклонением с(у). Именно это обстоятельство и давало возможность добиваться высокого уровня подавления шумов квантования, возникающих на малых выборках при применении критерия среднего геометрического от двух сравниваемых плотностей распределения значений [6, 20]. Соотношения математических ожиданий распределения математических ожиданий образов «Свой», «Чужой» и их стандартных отклонений приведены на рис. 3 для нейронов dsg2 с 8 входами (данные среды моделирования «БиоНейроАвтограф» [19]).

p(v p(A ) ) / \ iV° (V)

*<vW

Рис. 3. Распределения математических ожиданий и стандартных отклонений для биометрических параметров образа «Свой» V и образа «Чужой» Ъ для нейрона dsg2 с 8 входами

В силу того, что выражение (2) дает большое и почти детерминированное значение, а выражение (4) дает малое и случайное значение, примеры образа «Свой» и примеры образов «Чужой» оказываются хорошо различимы, если использовать нейрон dsg2 с 8 входами.

Результат разделения (одинаковая вероятность ошибок первого и второго рода) оказывается намного лучше, чем для линейного нейрона и обычного квадратичного нейрона:

- линейный нейрон с 8 входами Pi = P2 = PEE = 0,45;

- квадратичный нейрон, имеющий 8 входов, PEE = 0,26;

- нейрон dsg2 с 8 входами P1 = P2 = PEE = 0,21.

С ростом размерности нейросетевого преобразования выигрыш от замены линейных и квадратичных нейронов на нейроны среднего геометрического квадрата плотностей распределения значений вероятностей усиливается.

Реализация нейрона dsg2 на малоразрядных вычислительных машинах малой производительности

Очевидно, что прямые вычисления вида (2), (4) реализовать на низкоразрядных процессорах с малой производительностью трудно. В связи с этим достаточно сложные функции преобразования (2) и (4) следует вычислить заранее и представить в виде двухмерной таблицы:

Y = -log2( y ((E (u), o(«)). (5)

Проблемы вычислений с использованием очень малых значений вероятностей решаются заранее во время вычисления двухмерных таблиц. Эта задача хорошо решается при использовании 64-разрядной сетки вычислительной машины под управлением какой-либо из сред для математических вычислений (например, MathLAB, MathCAD и др.). Сам же нейрон квадрата среднего геометрического может быть реализован программно на любом 8-разрядном процессоре низкой производительности.

Заключение

В данной работе впервые сделана попытка показать, что каждому из известных статистических функционалов может быть поставлен в соответствие некоторый нейрон. Особый интерес этот подход представляет при реализации многомерного статистического анализа биометрических данных. При технической реализации нейронов квадрата среднего геометрического проблемы работы с малыми значениями вероятностей легко разрешимы применением заранее вычисленных двухмерных таблиц логарифмов вероятностей. Это позволяет реализовывать нейроны квадрата среднего геометрического не только на обычных ПЭВМ, работающих под операционной системой семейства Windows, но и на любом 8-битном процессоре малой производительности.

Библиографический список

1. Кобзарь, А. И. Прикладная математическая статистика для инженеров и научных работников / А. И. Кобзарь. - М. : Физматлит, 2006. - 816 с.

2. ГОСТ Р 50.1.037-2002. Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Ч. 1. Критерии типа хи-квадрат. - М. : Госстандарт России, 2001. - 140 с.

3. ГОСТ Р 50.1.037-2002. Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Ч. 2. Непараметрические критерии. -М. : Госстандарт России, 2002. - 123 с.

4. Иванов, А. И. Многомерная нейросетевая обработка биометрических данных с программным воспроизведением эффектов квантовой суперпозиции : монография / А. И. Иванов. - Пенза : Изд-во АО «ПНИЭИ», 2016. - 133 с.

5. Волчихин, В. И. Эффект снижения размера тестовой выборки за счет перехода к многомерному статистическому анализу биометрических данных / В. И. Волчихин, А. И. Иванов, Н. И. Серикова, Ю. В. Фунтикова // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2015. -№ 1 (33). - С. 50-59.

6. Малыгин, А. Ю. Быстрые алгоритмы тестирования нейросетевых механизмов биометрико-криптографической защиты информации / А. Ю. Малыгин, В. И. Волчихин, А. И. Иванов, В. А. Фунтиков. - Пенза : Изд-во ПГУ, 2006. -161 с.

7. Серикова, Н. И. Оценка правдоподобия гипотезы о нормальном распределении по критерию Джини для числа степеней свободы, кратного числу опытов / Н. И. Серикова, А. И. Иванов, Ю. И. Серикова // Вопросы радиоэлектроники. -2015. - № 1 (1). - С. 85-94.

8. Иванов, А. И. Оценка соотношения мощностей семейства статистических критериев «среднего геометрического» на малых выборках биометрических данных / А. И. Иванов, К. А. Перфилов // Современные охранные технологии и средства обеспечения комплексной безопасности объектов : XI Всерос. науч.-практ. конф. - Пенза ; Заречный, 2016. - С. 223-229.

9. ГОСТ Р 52633.0-2006. Защита информации. Техника защиты информации. Требования к средствам высоконадежной биометрической аутентификации. - М. : Стандартинформ, 2007. - 27 с.

10. ГОСТ Р 52633.5-2011. Защита информации. Техника защиты информации. Автоматическое обучение нейросетевых преобразователей биометрия-код доступа. -М. : Стандартинформ, 2012. - 16 с.

11. ГОСТ Р 52633.3-2011. Защита информации. Техника защиты информации. Тестирование стойкости средств высоконадежной биометрической защиты к атакам подбора. - М. : Стандартинформ, 2012. - 16 с.

12. Саймон, Х. Нейронные сети: полный курс / Х. Саймон. - М. : Вильямс, 2006. -1104 с.

13. Ахметов, Б. Б. Многомерный статистический анализ биометрических данных сетью частных критериев Пирсона / Б. Б. Ахметов, А. И. Иванов, А. В. Безяев, Ю. В. Фунтикова // Вестник Национальной академии наук Республики Казахстан. -2015. - № 1. - С. 5-11.

14. Иванов, А. И. Подавление шумов квантования биометрических данных при использовании многомерного критерия Крамера - фон Мизеса / А. И. Иванов, А. И. Газин, К. А. Перфилов, С. Е. Вятчанин // Проблемы информационной безопасности. Компьютерные системы. - 2016. - № 2. - С. 19-25.

15. Ахметов, Б . Многомерные статистики существенно зависимых биометрических данных, порождаемые нейросетевыми эмуляторами квадратичных форм : монография / Б. Ахметов, А. Иванов. - Алматы, Казахстан : LEM, 2016. - 86 с.

16. Иванов, А. И. Снижение требований к размеру тестовой выборки биометрических данных при переходе к использованию многомерных корреляционных функционалов Байеса / А. И. Иванов, П. С. Ложников, А. Е. Сулавко, Ю. И. Серикова // Инфокоммуникационные технологии. - 2017. - № 15 (2). - С. 186-193.

17. Иванов, А. И. Идентификация подлинности рукописных автографов сетями Байеса-Хэмминга и сетями квадратичных форм / А. И. Иванов, П. С. Ложников, Е. И. Качайкин // Вопросы защиты информации. - 2015. - № 2. - С. 28-34.

18. Иванов, А. И. Биометрическая идентификация рукописных образов с использованием корреляционного аналога правила Байеса / А. И. Иванов, П. С. Ложников, Е. И. Качайкин, А. Е. Сулавко // Вопросы защиты информации. - 2015. - № 3. -С. 48-54.

19. Среда моделирования «БиоНейроАвтограф» / Иванов А. И., Захаров О. С. [Программный продукт создан лабораторией биометрических и нейросетевых технологий]. - URL: ШрУ/пниэи.рф/асйу^/Баепсе/пос.ЬШ (дата обращения: 10.08.2017).

20. Иванов, А. И. Оценка качества малых выборок биометрических данных с использованием дифференциального варианта статистического критерия среднего геометрического / А. И. Иванов, К. А. Перфилов, Е. А. Малыгина // Вестник Сибирского государственного аэрокосмического университета имени академика М. Ф. Решетникова. - 2016. - № 4 (17). - С. 864-871.

References

1. Kobzar' A. I. Prikladnaya matematicheskaya statistika dlya inzhenerov i nauchnykh rabotnikov [Applied mathematical statistics for engineers and researchers]. Moscow: Fizmatlit, 2006, 816 p.

2. GOST R 50.1.037-2002. Prikladnaya statistika. Pravila proverki soglasiya opytnogo raspredeleniya s teoreticheskim. Ch. 1. Kriterii tipa khi-kvadrat [Applied statistics. Rules of verifying agreement between testing and theoretical distribution. Part 1. Chi-square criteria]. Moscow: Gosstandart Rossii, 2001, 140 p.

3. GOST R 50.1.037-2002. Prikladnaya statistika. Pravila proverki soglasiya opytnogo raspredeleniya s teoreticheskim. Ch. 2. Neparametricheskie kriterii [Applied statistics. Rules of verifying agreement between testing and theoretical distribution. Part 2. Non-parametric criteria]. Moscow: Gosstandart Rossii, 2002, 123 p.

4. Ivanov A. I. Mnogomernaya neyrosetevaya obrabotka biometricheskikh dannykh s pro-grammnym vosproizvedeniem effektov kvantovoy superpozitsii: monografiya [Multidimensional neural network processing of biometric data with software reproduction of quantum superposition effects: monograph]. Penza: Izd-vo AO «PNIEI», 2016, 133 p.

5. Volchikhin V. I., Ivanov A. I., Serikova N. I., Funtikova Yu. V. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki [University proceedings. Volga region. Engineering sciences]. 2015, no. 1 (33), pp. 50-59.

6. Malygin A. Yu., Volchikhin V. I., Ivanov A. I., Funtikov V. A. Bystrye algoritmy testirovaniya neyrosetevykh mekhanizmov biometriko-kriptograficheskoy zashchity in-formatsii [Fast algorithms of testing neural network mechanisms of biometric cryptographic protection of information]. Penza: Izd-vo PGU, 2006, 161 p.

7. Serikova N. I., Ivanov A. I., Serikova Yu. I. Voprosy radioelektroniki [Issues of radio electronics]. 2015, no. 1 (1), pp. 85-94.

8. Ivanov A. I., Perfilov K. A. Sovremennye okhrannye tekhnologii i sred-stva obespeche-niya kompleksnoy bezopasnosti ob"ektov: XI Vseros. nauch.-prakt. konf. [Modern security technologies and onject's complex security means: XI All-Russian scientific and practical conference]. Penza; Zarechnyy, 2016, pp. 223-229.

9. GOST R 52633.0-2006. Zashchita informatsii. Tekhnika zashchity informatsii. Tre-bovaniya k sredstvam vysokonadezhnoy biometricheskoy autentifikatsii [Information protection. Information protection technology. Requirements to means of high-reliability biometric authentification]. Moscow: Standartinform, 2007, 27 p.

10. GOST R 52633.5-2011. Zashchita informatsii. Tekhnika zashchity informatsii. Avto-maticheskoe obuchenie neyrosetevykh preobrazovateley biometriya-kod dostupa [In-

formation protection. Information protection technology. Automatic learning of neural network biometrics-access code converters]. Moscow: Standartinform, 2012, 16 p.

11. GOST R 52633.3-2011. Zashchita informatsii. Tekhnika zashchity informatsii. Te-stirovanie stoykosti sredstv vysokonadezhnoy biometricheskoy zashchity k atakam pod-bora [Information protection. Information protection technology. Testing of high-reliability biometric protection means' resistance to picking attacks]. Moscow: Standartinform, 2012, 16 p.

12. Saymon Kh. Neyronnye seti: polnyy kurs [Neural networks: complete course]. Moscow: Vil'yams, 2006, 1104 p.

13. Akhmetov B. B., Ivanov A. I., Bezyaev A. V., Funtikova Yu. V. Vestnik Natsional'noy akademii nauk Respubliki Kazakhstan [Bulletin of the National Academy of Sciences of the Republic of Kazakhstan]. 2015, no. 1, pp. 5-11.

14. Ivanov A. I., Gazin A. I., Perfilov K. A., Vyatchanin S. E. Problemy informatsionnoy bezopasnosti. Komp'yuternye sistemy [Problems of information security. Computer systems]. 2016, no. 2, pp. 19-25.

15. Akhmetov B., Ivanov A. Mnogomernye statistiki sushchestvenno zavisimykh bio-metricheskikh dannykh, porozhdaemye neyrosetevymi emulyatorami kvadratichnykh form: monografiya [Multidimensional statistics of significantly dependent biometric data created by neural network emulators of quadratic forms: monograph]. Almaty, Kazakhstan: LEM, 2016, 86 p.

16. Ivanov A. I., Lozhnikov P. S., Sulavko A. E., Serikova Yu. I. Infokommunikatsionnye tekhnologii [Infocommunicational technologies]. 2017, no. 15 (2), pp. 186-193.

17. Ivanov A. I., Lozhnikov P. S., Kachaykin E. I. Voprosy zashchity informatsii [Issues of information protection]. 2015, no. 2, pp. 28-34.

18. Ivanov A. I., Lozhnikov P. S., Kachaykin E. I., Sulavko A. E. Voprosy zashchity informatsii [Issues of information protection]. 2015, no. 3, pp. 48-54.

19. Ivanov A. I., Zakharov O. S. Sreda modelirovaniya «BioNeyroAvtograf» [Simulation environment "BioNeuroAvutograph"]. [Pro-grammnyy produkt sozdan laboratoriey bi-ometricheskikh i neyrosetevykh tekhnologiy]. Available at: http://pniei.rf/activity/ science/noc.htm (accessed Aug. 10, 2017).

20. Ivanov A. I., Perfilov K. A., Malygina E. A. Vestnik Sibirskogo gosudarstvennogo aerokosmicheskogo universiteta imeni akademika M. F. Reshetnikova [Bulletin of Siberia State Aerospace University named after academician M.F. Reshetnikov]. 2016, no. 4 (17), pp. 864-871.

Волчихин Владимир Иванович Volchikhin Vladimir Ivanovich

доктор технических наук, профессор, Doctor of engineering sciences, professor,

президент Пензенского государственного president of Penza State University

университета (Россия, г. Пенза, (40 Krasnaya street, Penza, Russia) ул. Красная, 40)

E-mail: president@pnzgu.ru

Иванов Александр Иванович доктор технических наук, доцент, начальник лаборатории биометрических и нейросетевых технологий, Пензенский научно-исследовательский электротехнический институт (Россия, г. Пенза, ул. Советская, 9)

E-mail: ivan@pniei.penza.ru

Ivanov Aleksandr Ivanovich Doctor of engineering sciences, associate professor, head of the laboratory of biometric and neural network technologies, Penza Research Institute of Electrical Engineering (9 Sovetskaya street, Penza, Russia)

Перфилов Константин Александрович аспирант, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)

E-mail: perfilov58@gmail.com

Малыгина Елена Александровна кандидат технических наук, научный сотрудник, межотраслевая лаборатория тестирования биометрических устройств и технологий, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)

E-mail: mal890@yandex.ru

Серикова Юлия Игоревна аспирант, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)

E-mail: julia-ska@yandex.ru

Perfilov Konstantin Aleksandrovich Postgraduate student, Penza State University (40 Krasnaya street, Penza, Russia)

Malygina Elena Aleksandrovna Candidate of engineering sciences, researcher, interdisciplinary laboratory of biometric devices and technologies testing, Penza State University (40 Krasnaya street, Penza, Russia)

Serikova Yuliya Igorevna

Postgraduate student, Penza State University (40 Krasnaya street, Penza, Russia)

УДК 519.24; 53; 57.017

Быстрый алгоритм обучения больших сетей искусственных нейронов квадрата среднего геометрического плотностей распределения значений многомерных биометрических данных / В. И. Волчихин, А. И. Иванов, К. А. Перфилов, Е. А. Малыгина, Ю. И. Серикова // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2018. -№ 3 (47). - С. 23-35. - БОТ 10.21685/2072-3059-2018-3-3.

i Надоели баннеры? Вы всегда можете отключить рекламу.