CC BY
12
УДК 004.8; 004.032.26 doi:10.21685/2072-3059-2022-3-4
Снижение требований к корректирующей способности классических кодов с обнаружением и исправлением ошибок при использовании предварительного нейросетевого обогащения биометрических данных
А. П. Иванов1, Е. А. Кольчугина2, А. В. Безяев3, Р. В. Еременко4
1,2,3,4Пензенский государственный университет, Пенза, Россия 1ivan@pniei.penza.ru, 2kea@pnzgu.ru, 3tsib@pnzgu.ru
Аннотация. Актуальность и цели. Получение численных оценок корректирующей способности классических кодов с высокой избыточностью и нейросетевых корректирующих конструкций на примере контроля 416 биометрических параметров рукописного парольного слова «Пенза». Материалы и методы. Предложено использовать настройку корректоров ошибок для единственного кодового состояния, построенного только из состояний «0». Автоматическое обучение нейросетевого корректора ведется стандартным алгоритмом согласно ГОСТ Р 52633.5-2011. Результаты. На примере реальных данных показано, что корректирующая способность нейросетевых конструкций позволила снизить поток ошибок в два раза при использовании обогащающих данных сетью из 416 нейронов с четырьмя входами. При использовании нейронов с восемью входами удается дополнительно снизить число ошибок еще в два раза. Выводы. Предварительное нейросетевое обогащение данных перед их свертыванием избыточным самокорректирующимся кодом многократно снижает требования к корректирующей способности кода.
Ключевые слова: искусственные нейроны, нейроны среднего гармонического, нейроны среднего геометрического, защита искусственного интеллекта Для цитирования: Иванов А. П., Кольчугина Е. А., Безяев А. В., Еременко Р. В. Снижение требований к корректирующей способности классических кодов с обнаружением и исправлением ошибок при использовании предварительного нейросете-вого обогащения биометрических данных // Известия высших учебных заведений. Поволжский регион. Технические науки. 2022. № 3. С. 37-45. doi:10.21685/2072-3059-2022-3-4
Reducing the requirements for the corrective ability of classical codes with error detection and correction using preliminary neural network enrichment of biometric data
A.P. Ivanov1, E.A. Kol'chugina2, A.V. Bezyaev3, R.V. Eremenko4
i,2,3,4penza State University, Penza, Russia 1ivan@pniei.penza.m, 2kea@pnzgu.ru, 3tsib@pnzgu.ru
Abstract. Background. Obtaining numerical estimates of the corrective ability of classical codes with high redundancy and neural network corrective structures by the example of controlling 416 biometric parameters of the handwritten password word "Penza". Materials and methods. It is proposed to use the error corrector setting for a single code state consist-
© Иванов А. П., Кольчугина Е. А., Безяев А. В., Еременко Р. В., 2022. Контент доступен по лицензии Creative Commons Attribution 4.0 License / This work is licensed under a Creative Commons Attribution 4.0 License.
ing only of "0" states. Automatic training of the neural network corrector is carried out using the standard algorithm State Standart R 52633.5-2011. Results. By the example of real data, it is shown that the corrective ability of neural network structures made it possible to reduce the flow of errors by half when using a data-enriching network of 416 neurons with four inputs. When using neurons with 8 inputs, it is possible to additionally reduce the number of errors by a further two times. Conclusions. Preliminary neural network enrichment of data before their folding with redundant self-correcting code greatly reduces the requirements for the corrective ability of the code.
Keywords: artificial neurons, harmonic mean neurons, geometric mean neurons, protection of artificial intelligence
For citation: Ivanov A.P., Kol'chugina E.A., Bezyaev A.V., Eremenko R.V. Reducing the requirements for the corrective ability of classical codes with error detection and correction using preliminary neural network enrichment of biometric data. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki = University proceedings. Volga region. Engineering sciences. 2022;(3):37-45. (In Russ.). doi:10.21685/2072-3059-2022-3-4
Введение
В настоящее время активно развиваются приложения искусственного интеллекта, в том числе приложения нейросетевой биометрической идентификации и аутентификации [1, 2]. При этом возникает вопрос о том, какие преимущества имеют нейросетевые конструкции, заранее обученные обнаруживать и устранять ошибки в наблюдаемом образе, по сравнению с классическими самокорректирующимися кодами. Очевидным является то, что все классические коды с высокой избыточностью были построены в рамках той или иной статистической гипотезы о распределении ошибок в разрядах кодов. Изменение гипотезы приводит к разрушению самокорректирующихся кодовых конструкций (катастрофическому снижению их корректирующей способности). В этом отношении технически крайне сложно построить кодовую конструкцию под то или иное распределение ошибок в реальных данных.
В этом отношении сети искусственных нейронов обладают существенным преимуществом, так как они обучаются на реальных данных и, соответственно, способны учитывать законы распределения реальных ошибок реальных данных.
Одним из сдерживающих исследования моментов является отсутствие доступных достоверных данных, отражающих реальные процессы нейросете-вой биометрической идентификации и аутентификации. Это связано с рядом ограничений, накладываемых законодательствами передовых стран на сбор, хранение и использование биометрических данных пользователей. Единственным на сегодня источником достоверных данных, не подпадающим под ограничения, является свободно распространяемая среда моделирования «БиоНейроАвтограф» [3, 4]. Среда моделирования «БиоНейроАвтограф» используется при проведении лабораторных и практических занятий на кафедре «Технические средства информационной безопасности» Пензенского государственного университета. С 2009 г. по настоящее время это единственный биометрический продукт, созданный промышленностью для русскоязычных университетов. В обычных биометрических продуктах данные недоступны для наблюдения, в учебном продукте [3] данные наблюдаемы (пишутся в файлы каталога DATA). На рис. 1 представлена экранная форма режима обучения среды моделирования «БиоНейроАвтограф».
Рис. 1. Экранная форма среды моделирования в режиме обучения нейросети на 20 примерах преобразованию рукописного пароля «Пенза» в трудно запоминаемый код доступа из 32 случайных символов
Проблема угрозы компрометации персональных биометрических данных снимается за счет того, что среда моделирования «БиоНейроАвтограф» работает с динамикой воспроизведения рукописных букв паролей пользователя. Каждый образ динамики рукописного почерка преобразуется в 416 контролируемых биометрических параметров. Используется двухмерное преобразование Фурье, близкое по смыслу с преобразованиями, используемыми в JPEG-архиваторах. После использования своих уникальных биометрических данных студент (пользователь) удаляет их из вычислительной машины университета, соответственно нарушения закона РФ «О персональных данных» нет. Нет необходимости оформлять со стороны студента разрешения университету использовать его персональные биометрические данные. Студент сам создает, использует и удаляет свои персональные биометрические данные при самостоятельном выполнении им его лабораторной работы.
Так как среда моделирования «БиоНейроАвтограф» предназначена для выполнения лабораторных и практических работ, ее данные доступны и пишутся в соответствующие текстовые файлы с расширением *Лх1 Пользуясь этими данными, мы можем рассчитать математические ожидания контролируемых биометрических параметров. На рис. 2 приведено распределение математических ожиданий рукописного пароля «Пенза».
Каждый из 416 биометрических параметров имеет смысл двумерного преобразования Фурье от пары колебаний пера х(0, у(0 при воспроизведении рукописного пароля (см. рис. 1). Из рис. 2 видно, что примерно половина математических ожиданий биометрических параметров имеет отрицательный знак, а вторая половина имеет положительный знак. Пользуясь этим, так называемые «нечеткие экстракторы» [5-7] выполняют квантование данных,
как это показано на рис. 2. Все БиоПараметры с отрицательным математическим ожиданием должны давать с достаточно высокой вероятностью состояние «0». Все БиоПараметры с нулевым и положительным математическим ожиданием должны с достаточно высокой вероятностью давать состояние «1». К сожалению, БиоПараметры с математическим ожиданием, близким к нулю, с высокой вероятностью дают ошибки в их разрядах, однако эти ошибки «нечеткие экстракторы» должны обнаруживать и править классическими самокорректирующимися кодами с достаточно высокой избыточностью. Пример распределения расстояний Хэмминга для образа «Свой» и разных образов «Чужие» приведен на рис. 3.
0.03
рСЕ(х»
с.о:
0.01-
Рис. 2. Распределение математических ожиданий БиоПараметров рукописного пароля «Пенза»
Рис. 3. Пример распределений расстояний Хэмминга между «сырыми» кодами образа «Свой» (левая часть рисунка) и кодами образов «Чужие» (правая часть рисунка)
Из рис. 3 видно, коды длиной 416 бит, полученные на выходе среды моделирования «БиоНейроАвтограф» от образа «Свой», практически никогда не совпадают с кодами от образа «Чужой». В лучшем случае они имеют разницу примерно в 50 бит. Наиболее вероятное расхождение кодов «Свой» составляет 80 бит. Задача разделения кодов «Свой» и кодов «Чужие» вполне разрешима в пространстве расстояний Хэмминга, если воспользоваться порогом в 150 бит (рис. 3). Как итог, в «нечетких экстракторах» [5-7] приходится использовать самокорректирующиеся коды, способные обнаруживать и исправлять около 36 % ошибочных разрядов, например, коды с 30-кратной избыточностью. Синтез подобных самокорректирующихся кодов является достаточно сложной технической задачей [8]. Предельно сложной задачей для любых самокорректирующихся кодов является корректировка 50 % ошибочных разрядов. Считается, что решить такую задачу практически невозможно при любом уровне избыточности и неограниченной длине самого кода.
Упрощение задачи синтеза самокорректирующихся кодов при предварительном нейросетевом обогащении данных
Задача синтеза и применения самокорректирующихся кодов [8] существенно упрощается, если возможно снижение в них интенсивности потока ошибок с 36 % до меньшей величины. Здесь под потоком ошибок рассматривается пересечение плотностей распределения данных «Свой» и данных «Чужие». В каком разряде 256-битного кода возникнет ошибка - неизвестно, однако можно оценить сколько в коде должно появиться ошибочных разрядов и сколько верных разрядов. При разработке реальных «нечетких экстракторов» для этой цели добиваются маскированием 10 % наиболее нестабильных (неустойчивых) разрядов кода. Чем ближе математическое ожидание БиоПараметра (см. рис. 2) к центру, тем больше вероятность ошибок в этом БиоПараметре. В связи с этим «маскируют» (накрывают фиксированной «маской» или отключают) БиоПараметры с малыми по модулю значениями математических ожиданий. То есть в итоге снижают поток ошибок в разрядах кода до 26 %.
Возможен иной подход к решению этой технической задачи. Мы имеем возможность создать нейросетевой обогатитель «сырых» биометрических данных, опираясь на его быстрое автоматическое обучение алгоритмом ГОСТ Р 52633.51. Стандартизованный алгоритм автоматического обучения сети персептронов построен на том, что весовые модули весовых коэффициентов для каждого из биометрических параметров вычисляются как отношение математического ожидания к стандартному отклонению. Знак весового коэффициента выбирается исходя из требуемого значения выходного состояния нейрона «0» или «1» при воздействии на него примерами образа «Свой». На рис. 4 приведено распределение расстояний Хэмминга между идеальным выходным кодом «Свой», состоящим только из нулей «000.. .0000», и реальными кодовыми откликами. Реальные коды с обнаружением и исправлением ошибок всегда работают хуже «идеальных» кодов, которые наблюдают расстояния Хэмминга. Такие коды можно рассматривать только в теории, все практические коды наблюдают расстояния Хэмминга не точно (косвенно) через вычисление синдромов ошибок и их обобщения.
1 ГОСТ Р 52633.5-2011. Защита информации. Техника защиты информации. Автоматическое обучение нейросетевых преобразователей биометрия-код доступа.
Рис. 4. Распределение расстояний Хэмминга после обогащения «сырых» данных однослойной сетью из 416 персептронов, каждый из которых имеет по 4 входа со случайным подключением к исходному коду
Сравнивая рис. 3 с рис. 4, мы наблюдаем сдвиг порога идеального квантователя в пространстве Хэмминга со 150 до 72 бит. Это эквивалентно примерно двукратному снижению потока ошибок в новом выходном коде (поток упал примерно до 18 % ошибок). Для корректировки потока ошибок такой интенсивности необходимо применять самокорректирующиеся коды примерно с 10-кратной избыточностью.
Очевидно, что мы имеем техническую возможность увеличить эффект предварительного нейросетевого обогащения «сырых» биометрических данных. Для этой цели следует воспользоваться нейронной сетью с нейронами (персептронами), имеющими 8 входов. Соответствующие изменения распределений расстояний Хэмминга приведены на рис. 5.
Рис. 5. Результат обогащения данных нейронной сетью из 416 нейронов, каждый из которых имеет по 8 входов
Из рис. 5 видно, что удвоение числа входов у нейронов предварительного обогащения сырых данных приводит к двукратному снижению потока ошибок кодов «Свой». Если на рис. 4 порог принятия решений составляет 72 бита, то на рис. 5 порог принятия решений снижается до 34 бит. По мере роста числа входов у нейронов предварительного обогащения данных мы наблюдаем монотонное снижение требований по корректирующей способности классической кодовой конструкции, предназначенной для обнаружения ошибок и их корректировки. Внешне это выглядит как сжатие распределения неопределенности кодов «Свой» по отношению к распределению кодов «Чужие». При 16 входах у искусственных нейронов для «хороших» рукописных данных, полученных с графического планшета, распределение образа «Свой» сжимается до одного бита в пространстве расстояний Хэмминга. Полностью отпадает необходимость в использовании дополнительного избыточного кода для обнаружения и исправления ошибок.
Однако среда моделирования «БиоНейроАвтограф» ориентирована на работу с «плохими» данными, полученными от манипулятора «мышь». В связи с этим число входов у нейронов увеличено до 24, что поднимает качество «плохих» данных до приемлемого уровня.
Заключение
Таким образом, мы всегда имеем в биометрических приложениях техническую возможность обогащать нейронной сетью «сырые» биометрические данные и тем самым снижать требования к корректирующей способности классических самокорректирующихся кодов с избыточностью. По мере снижения потока исправляемых ошибок, очевидно, будет снижаться избыточность той или иной самокорректирующейся кодовой конструкции. При этом снижение потока ошибок до 5 % от длины кода позволяет специальными процедурами вообще устранить избыточность самокорректирующихся кодов [9]. По сути дела, мы получаем возможность адаптировать различные кодовые конструкции (гипотезы, в рамках которых они были построены) к распределению ошибок в реальных данных за счет предварительного обучения нейросетевого обогатителя.
Еще одним важным моментом рассматриваемой проблемы является эффект нормализации распределения расстояний Хэмминга кодов «Чужой» по мере роста числа входов у искусственных нейронов и эффект приближения расстояний Хэмминга к хи-квадрат распределению для кодов «Свой». На эффекте нормализации данных «Чужой» построен стандарт ГОСТ Р 52633.3-2011 по оценке вероятности ошибок второго рода нейросетевой биометрии (ошибочный пропуск «Чужого») на малых выборках. Видимо, эффект быстрого приближения данных «Свой» к хи-квадрат распределению может позволить значительно снизить объемы выборок при оценке вероятности ошибок первого рода (ошибочного отказа в признании образа «Свой»).
Список литературы
1. Лукин В. С., Иванов А. И., Перфилов К. А. Искусственный интеллект в защищенном исполнении: преимущества замены классических искусственных нейронов на нейроны среднего геометрического и среднего гармонического // Известия высших учебных заведений. Поволжский регион. Технические науки. 2021. № 3. С. 43-52. doi:10.21685/2072-3059-2021-3-5
2. Волчихин В. И., Иванов А. И., Фунтиков В. А., Малыгина Е. А. Перспективы использования искусственных нейронных сетей с многоуровневыми квантователями в технологии биометрико-нейросетевой аутентификации // Известия высших учебных заведений. Поволжский регион. Технические науки. 2013. № 4. С. 86-96.
3. Иванов А. И., Захаров О. С. Среда моделирования «БиоНейроАвтограф» [Программный продукт создан лабораторией биометрических и нейросетевых технологий, размещен с 2009 г. на сайте АО «ПНИЭИ»]. URL: М1р://пниэи.рф/аСМ1у/ science/noc/bioneuroautograph.zip
4. Иванов А. И. Автоматическое обучение больших искусственных нейронных сетей в биометрических приложениях : учеб. пособие. Пенза, 2013. 30 с. URL: http://пниэи.рф/activity/science/noc/tm_IvanovAI.pdf
5. Dodis Y., Reyzin L., Smith A. Fuzzy Extractors: How to Generate Strong Keys from Biometrics and Other Noisy // Proc. EUROCRYPT (April 13). 2004. P. 523-540.
6. Ушмаев О. В., Кузнецов В. В. Алгоритмы защищенной верификации на основе бинарного представления топологии отпечатка пальцев // Информатика и ее применения. 2012. № 6 (1). С. 132-140.
7. Чморра А. Л. Маскировка ключа с помощью биометрии // Проблемы передачи информации. 2011. Т. 47, № 2. C. 128-143.
8. Морелос-Сарагоса Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение. М. : Техносфера, 2005. 320 с.
9. Безяев А. В. Биометрико-нейросетевая аутентификация: обнаружение и исправление ошибок в длинных кодах без накладных расходов на избыточность : препринт. Пенза : Изд-во ПГУ, 2020. 40 с.
References
1. Lukin V.S., Ivanov A.I., Perfilov K.A. Protected artificial intelligence: benefits of replacing classical artificial neurons with geometric mean and harmonic mean neurons.
Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki = University proceedings. Volga region. Engineering sciences. 2021;(3):43-52. (In Russ.). doi:10.21685/2072-3059-2021-3-5
2. Volchikhin V.I., Ivanov A.I., Funtikov V.A., Malygina E.A. Prospects for the use of artificial neural networks with multilevel quantizers in biometric-neural network authentication technology. Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki = University proceedings. Volga region. Engineering sciences. 2013;(4):86-96. (In Russ.)
3. Ivanov A.I., Zakharov O.S. Sreda modelirovaniya «BioNeyroAvtograf» [Programmnyy produkt sozdan laboratoriey biometricheskikh i neyrosetevykh tekhnologiy, razmesh-chen s 2009 g. na sayte AO «PNIEI»] = Simulation environment "BioNeyroAvtograf' [The software product was created by the laboratory of biometric and neural network technologies, posted since 2009 on the website ща Penza Research Electrotechnical Institute]. (In Russ.). Available at: http://pniei.rf/activity/ science/noc/bioneuroautograph.zip
4. Ivanov A.I. Avtomaticheskoe obuchenie bol'shikh iskusstvennykh neyronnykh setey v biometricheskikh prilozheniyakh: ucheb. posobie = Automatic training of large artificial neural networks in biometric applications: textbook. Penza, 2013:30. (In Russ.). Available at: http://pniei.rf/activity/science/noc/tm_IvanovAI.pdf
5. Dodis Y., Reyzin L., Smith A. Fuzzy Extractors: How to Generate Strong Keys from Biometrics and Other Noisy. Proc. EUROCRYPT (April 13). 2004:523-540.
6. Ushmaev O.V., Kuznetsov V.V. Secure verification algorithms based on binary representation of fingerprint topology. Informatika i ee primeneniya = Computer science and its applications. 2012;(6):132-140. (In Russ.)
7. Chmorra A.L. Key masking with biometrics. Problemy peredachi informatsii = Information transfer problems. 2011;47(2):128-143. (In Russ.)
8. Morelos-Saragosa R. Iskusstvo pomekhoustoychivogo kodirovaniya. Metody, algo-ritmy, primenenie = The art of error-correcting coding. Methods, algorithm, application. Moscow: Tekhnosfera, 2005:320. (In Russ.)
9. Bezyaev A.V. Biometriko-neyrosetevaya autentifikatsiya: obnaruzhenie i ispravlenie oshibok v dlinnykh kodakh bez nakladnykh raskhodov na izbytochnost': preprint = Bio-metric-neural network authentication: error detection and correction in long codes without redundancy overhead: preprint. Penza: Izd-vo PGU, 2020:40.
Информация об авторах / Information about the authors
Алексей Петрович Иванов
кандидат технических наук, доцент, заведующий кафедрой технических средств информационной безопасности, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)
E-mail: ap_ivanov@pnzgu.ru
Aleksey P. Ivanov
Candidate of engineering sciences, associate professor, head of the sub-department of technical means of information security, Penza State University (40 Krasnaya street, Penza, Russia)
Елена Анатольевна Кольчугина
доктор технических наук, доцент, профессор кафедры математического обеспечения и применения ЭВМ, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)
E-mail: kea@pnzgu.ru
Elena A. Kol'chugina Doctor of engineerings sciences, associate professor, professor of the sub-department of mathematical software and computer applications, Penza State University (40 Krasnaya street, Penza, Russia)
Александр Викторович Безяев кандидат технических наук, докторант кафедры технических средств информационной безопасности, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)
E-mail: tsib@pnzgu.ru
Aleksandr V. Bezyaev Candidate of engineering sciences, doctor's degree student of the subdepartment of technical means of information security, Penza State University (40 Krasnaya street, Penza, Russia)
Роман Викторович Еременко старший преподаватель кафедры радио- и спутниковой связи, Военный учебный центр, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)
Roman V. Eremenko Senior lecturer of the sub-department of radio and satellite communications, Military Educational Center, Penza State University (40 Krasnaya street, Penza, Russia)
Поступила в редакцию / Received 25.04.2022
Поступила после рецензирования и доработки / Revised 23.06.2022 Принята к публикации / Accepted 23.08.2022
