CC BY
33
УДК 004.942
МЕТОДОЛОГИЧЕСКИЕ АСПЕКТЫ ПРИМЕНЕНИЯ НЕЙРОННЫХ СЕТЕЙ ДЛЯ ОХРАНЫ ОБЪЕКТОВ
C.B. Костин, A.A. Сотников, Д.С. Мишин
В настоящее время повышение уровня защищенности на охраняемых объектах достигается посредством введения в эксплуатацию новых перспективных средств, ярким представителем которых является система биометрической идентификации, принцип которой реализован с помощью программно-технического комплекса на основе нейронных сетей.
Ключевые слова: охраняемый объект, алгоритм, биометрическая идентификация, нейронная сеть.
Под искусственной нейронной сетью обычно понимается программа, реализующая вычислительную модель, основой которой является структура головного мозга. Она также способна к обучению, выполнению задач по классификации, предсказанию, принятия решений и еще ряда возможностей. Это особенно важно при использовании нейронных сетей в системах охраны на основе биометрических систем доступа, а так же для прогнозирования угроз безопасности объекта.
Любая нейронная сеть имеет входящую информацию, которая может быть цифровой при поступлении двоичного сигнала и аналоговой при работе с действительными числами.
Искусственная нейронная сеть состоит из искусственных нейронов, представляющих из себя пороговый элемент обработки и вычислительных операций, преобразовывая входные сигналы в выходной:
у = sign^o им, (1)
где ai - весовые коэффициенты, а0- пороговое значение; Xj - входные значения нейрона; N - размерность входного сигнала.
В целом, алгоритм работы нейронов полностью идентичен и задается создателем сети. Ключевые различия вносят соединения между ними, синапсы, оказывающие параметрическое влияние на проходящий сигнал, усиливая или ослабляя его в течение времени [1]. Они устанавливаются на входе и выходе нейронов вместе с весовыми функциями и функциями активации.
Весовые функции (вес) необходимы для установки последовательности при прохождении сигнала. Информация сигнала с большим весом будет в приоритете относительно той, вес которой меньше. В зависимости от вида весовой функции сети могут быть с фиксированными связями, установленными начальными условиями, и с динамическими связями, веса которых меняются в ходе обучения.
Функция активации также определяет выходную информацию при заданной входной. Она нормализует входные данные и подгоняет под заданный диапазон выходящие значения. Диапазон же зависит от видов используемой функции, перейдем к их рассмотрению.
331
Наиболее распространенная линейная функция имеет вид f = ах и используется для тестирования сети или передачи сети без изменений. Следующей по популярности являются сигмоида, имеющая вид:
я*) =
( 0 при х<0 и ступенчатая функция /(х) = Ц при х > 0-
Однако самой удобной является гиперболический тангенс
/м = 71^-1.
поскольку его диапазон лежит от -1 до 1, что упрощает работу сети. Графическое изображение представлено на рис. 1.
Рис. 1. Графическое представление функций активации
Далее несколько нейронов объединяются в слой. Обычно выделяют три слоя: входной, скрытый и выходной. Входной слой необходим лишь для дальнейшей передачи и распределения поступившей информации в скрытый слой, поскольку не имеет синапсов, приносящих изменения в выходной сигнал. К слову, данный слой является общим для всех. Скрытый слой преобразует и передает информацию в выходной. Выходной слой предназначен для вывода обработанной информации пользователю.
В общем случае на вход поступает несколько сигналов, заданных нейронной сетью по критериям отбора, они умножаются на вес и суммируются. При этом нейрон имеет несколько входов и лишь один выход, причем значения на выходах слоя различны. Далее они проходят через функцию активации и поступают на следующий слой.
Итак, получив представление о структуре и способах функционирования элементов и сети в целом, рассмотрим ее виды.
В зависимости от структуры NN (neural network) может быть простой или многослойной. Простой персептрон является примером линейной однослойной сети, построенной на основе прямой передаче сигнала и состоит из входного (ассоциативного) слоя, выполняющего функцию распределения, и выходного (реагирующего) слоя, производящего простейшие операции вычисления и обработки и выдающего конечный результат [2]. Модель задается матрицей М*М, которой соответствуют веса синапсов, и вектором смещения М, в соответствие которому ставится пороговое значение. Такая сеть обладает рядом недостатков: неспособность обеспечения линейным элементом достоверной вероятности верного распознавания для распределений, отличных от нормального и невозможность воплощения гиперплоскостью любой булевой функции в многомерном пространстве переменных. Для устранения данных недостатков модель была усложнена. Так появился многослойный персептрон.
332
Многослойный персептрон имеет три или более слоев: входной, скрытые и выходной, при этом количество этих скрытых слоев зависит от сложности сети [3]. При обработке информации каждый промежуточный слой есть промежуточный этап обработки и распределения. Процесс получения выходного сигнала состоит в заключении на выходе нейрона взвешенную сумму входов с поправкой, проходящей через нелинейную функцию активации. Каждый узел в слое соединяется с узлами на следующем уровне, делая сеть полностью связанной, где каждый параметр является свободным. Она применяется, если исход зависит только от входных сигналов, и результат будет всегда соответствовать требованиям, полученным в ходе обучения. К достоинствам сети относится изученность сети и устойчивая работоспособность. Недостатками являются невозможность работы с динамическими процессами и необходимость большой обучающей выборки.
Большую популярность обрела ее улучшенная модификация, свер-точная сеть. Помимо многослойных персептронов в слоях заключены частично или полностью связанные сверточные слои и слои объединения. Так, первые используют свертку для передачи результата в следующий слой, увеличивая глубину сети с одновременным уменьшением количества параметров [4], а вторые - для интегрирования результатов. Особенностью является последовательная фрагментарная обработка данных от слоя к слою, что обуславливает удобство его работы с графической и аудио информацией. При работе с изображениями происходит распараллеливание вычислений и использование графических процессоров, что несколько усложняет настройку сети.
По направлению распространения информации многослойный персептрон подразделяется на два основных типа: сеть прямого и обратного (рекуррентную) распространения.
При прямом распространении сигнал движется строго от входного слоя к выходному, а количество входов, выходов и нейронов равное в каждом слое. Применяется для задач распознавания, прогнозирования и кластеризации [5]. Кроме того, стоит упомянуть и модели с перекрестными и с латеральными связями, однако наиболее гибкими и совершенными для решения сложных задач являются сети с обратными связями, поэтому им стоит уделить больше внимания.
Рекуррентная (рекурсивная) сеть обладает той же структурой, что и прямолинейная, с тем различием, что выходы нейрона также участвуют в обработке следующего входного вектора, возвращаясь обратно на вход. И информация к нейронам приходит не только с прошлых слоев, но и от самих себя в процессе итерации. Тогда связи между нейронами предстают направленными циклами, а функция активации дает возможность предсказания входной структуры в иерархическом порядке при использовании схожих наборов весов, что делает сеть более глубокой. В итоге, получается не набор отдельных бессвязных образов, а процесс, где имеют значение не только сами входы, но и последовательность поступления входной информации. характерно наличие кратковременной памяти, восстанавли-
333
вающей и дополняющей сигнал при обработке. Однако существует и долгосрочная память (Ь8ТМ), разработанная для создания наиболее точных моделей временных последовательностей, нежели обычная ЯМЫ. Она обходится без активационной функции в рекуррентных компонентах, сохраненные значения неизменны, а градиент не исчезает при обучении. Структурно узлы разбиты на блоки с числом единиц, включающих несколько затворов, управляющие информацией на основе логистической функции.
К достоинствам сети можно отнести высокую адаптивность к обработке динамической информации. Недостатками являются вероятность перекрытия сигналом цикла входного сигнала, недостаточная изученность модели, неустойчивость обучения. Однако главной проблемой является утеря источника ошибки, поскольку посредством циклов она может уйти далеко от него. Что касается практического применения, то ЯЫЫ решают задачи управления динамическими процессами, предсказания динамических процессов, решает задачи ЫЪР (распознание рукописного текста или речи). Несмотря на большой спектр недостатков, рекурсивные сети обладают большим потенциалом.
Не менее любопытной для изучения представляет сеть Хопфилда. Значимым отличием между многослойным персептроном и сетью Хопфилда является то, что нейроны в ней минуют все три вида. Так, до обучения они сенсорные, во время - ассоциативные, а после - реагирующие. Процесс обучения может вестись как последовательно, так и параллельно. Графически сеть Хопфилда изображается в виде полносвязного графа. Ответ выдается при установлении устойчивого состояния. Применяется данная сеть в роли ассоциативной памяти для восполнения и восстановления объекта при наличии основного элемента. Также конкретно сеть Хопфилда может использоваться для решения задач оптимизации.
До этого мы рассматривали модели, работа которых основана на конкретных, вещественных данных и сигналах. Однако совершенно иными выступают вероятностные сети, которые мы и рассмотрим ниже.
В данной сети выходы представляют собой оценку вероятности принадлежности элемента к некоторому классу, обучаясь оценивать функцию плотности вероятности совместного распределения входных и выходных данных, что применимо к задачам регрессии и имеет место в Байесовской статистике, оценивая верность модели по имеющимся данным. Минимизация ошибки достигается выбором модели с параметрами, при которых плотность будет максимальной.
Так, применение данной модели для классификации наиболее целесообразно, поскольку аппроксимация плотности вероятности, чаще всего имеющей вид нормального распределения, становится главной задачей обучения сети. Такая функция позволяет аналитическим методом получить оценку параметров.
Другим способом определения плотности вероятности основан на ядерных оценках. Его суть построена на наблюдении, что где-то в пространстве имеется такая точка, близлежащие кластеры которой указывают на наибольшую функцию плотности вероятности. В результате их инте-
грирования получаем функцию общую для всей сети. Для большего удобства при данном методе используется гауссовская функция. Теперь перейдем непосредственно к нейронным сетям, построенным по вышеперечисленным методам.
Вероятностная нейронная сеть (РК№) представляет собой реализацию ядерной аппроксимации и имеет структуру многослойного персеп-трона, т. е. включает три и более слоя: входной, радикальный и выходной. Количество радикальных слоев зависит от числа наблюдений и представляют собой гауссовскую функцию [7]. Соединение производится между элементами одного класса выходных элементов, собирая его отклики. В результате, сигналы на выходе пропорциональны ядерным оценкам вероятности своего класса и после нормировки мы имеем итоговые оценки вероятности каждого класса.
Среди сетей выделяют два типа. В первом классовые пропорции при обучении идентичны пропорциям класса в сети, т.е. вероятность априорна, и при установлении различий выдаваемой результат сетью будет неверным. Это помогает коррелировать выходные значения к истинным при помощи изменения поправочных коэффициентов для каждого класса отдельно. Особенностью второго сети второго типа является иерархичность ошибок классификаций, возникающих ввиду шумов и иных искажений данных. каждой ошибке присваивается определенный «вес». Тогда выходные вероятности сети умножают на коэффициенты потерь, установленные в соответствие с весом ошибок.
Кроме того, в сеть может быть включен дополнительный четвертый слой с матрицей потерь, умножаемая на вектор оценок третьего слоя. Ответом служит класс с меньшей оценкой потерь. Обучающим параметром управления таких сетей является степень сглаживания. От его выбора зависит точность и способность обобщения сети, его значение находится опытным путем. К преимуществам сети относятся вероятностный смысл выходного значения, быстрая обучаемость, обусловленная малым объемом вводимой информации (обучающие наблюдения), скорость работы и простота интерпретации. Недостатком является большие требования к памяти и влияние ее объема на быстродействие сети. Данная сеть благодаря быстродействию и простоте обучения отлично подходит для тестирования и проведения экспериментов, например, для нахождения оптимальных значений исходных значений.
Помимо сети стоит указать и на обобщенно- регрессионную сеть (ОЯМЫ). Её строение и принцип работы схож с первой сетью, а область применения ограничивается задачей регрессии. В ней также как и в обучающей представляется гауссова ядерная функция. Алгоритм работы основан на присвоении поверхности отклика наблюдения конкретного значения, высоты, которая уменьшается при удалении от точки. Кстати, данная модель включает в себя все наблюдения обучения и применяет их в оценке отклика, а выходная оценка есть взвешенное среднее от выходов из всех этих наблюдений, а веса - это расстояния от наблюдений до точки оценки. Особого внимания требует ее структура. Так, первый слой состоит
335
из радикальных элементов, второй включает элементы оценки среднего взвешенного: выходу слоя присваивается свой элемент формирования взвешенной суммы, после чего она делится на сумму весовых коэффициентов. Определив спец элементом крайней суммы, выходной слой производит деление, что в конечном счете, дает нам число элементов второго промежуточного слоя на один больше, чем в выходном. Если говорить о достоинствах и недостатках сетей, то они аналогичны РЫЫ.
Итак, перейдем к более подробному рассмотрению сети Хопфилда, работа которой основывается на базе взаимосвязи (аксонах) между нейронами, которые, в процессе работы, позволяют запоминать признаки изображения и, в дальнейшем, использовать память для их обработки и идентификации.
Функционирование нейронной сети Хопфилда целесообразно начинать с рассмотрения особенностей строения головного мозга человека. Как известно из медицины, нейрон (рис. 2) является клеткой, обеспечивающей циркуляцию информации посредством электрических и химических сигналов. На базе данного взаимодействия образуется целая система [6]. По аналогии взаимодействия между нейронами можно предложить некоторый алгоритм.
Рис. 2. Изображение нейрона
Реализация схемы возможна на базе одного или нескольких слоев нейронов, которые могут быть приняты в качестве элементов логики и включать в себя входы, количество которых равно числу выходов, весовые коэффициенты, сумматор и нелинейный преобразователь. Принято считать, что взаимодействие реализуется посредством синапсов, но, при этом, возможен вход сигнала через один синапс нейтрона, а сигналы на выходе формируются уже на аксонах.
Таким образом, охарактеризовать сеть Хопфилда можно следующими составляющими: архитектура сети, функциональные способности отдельных нейронов, способы их взаимодействия и образования связей [7].
Математическая модель алгоритма работы нейронной сети Хопфилда основывается на матрице коэффициентов и векторов (рис. 3).
Входной двоичный сигнал описывается вектором X = (хх ...хп),гдеп определяется числом нейронов и размерность входных и выходных векторов. При этом каждый нейрон находится в одном из двух состояний: хп(1:) е [—1; +1].
Пусть на вход подается вектор, который описывает т-ный образец с помощью Хт, а его составляющие- Х™, где т=0...2-\, где ъ- число образцов.
обратная связь
Вход
Выход
Рис. 3. Структурная схема функционирования нейронной сети
Хопфилда
Взаимодействие между нейронами, которые ввиду биполярности также называют спинами, обуславливается особенностью структурной схемы и характеризуется следующим выражением:
Е(2)
где со ¿;— элементы матрицы взаимодействий состоящей из весовых коэффициентов связей между нейронами, куда и заносятся эталонные образы. При этом стоит отметить, что матрица связей симметрична, а диагональные элементы равны нулю для исключения воздействий нейронов самих на себя.
Установка весовых коэффициентов производится по следующему принципу:
I £т=0 ХРХ-" ,1 ^ ) 'ч 1 0,1 = ]
— 1 « : : > (3)
где \ - коэффициент предсинапсического нейрона; ] - коэффициент пост-синапсического нейрона, а Х^Х™ - \ и ] элементы вектора т-го образца. При этом коэффициенты изменяются исходя из параметров, архитектуры сети и правилами ее обучения.
На нелинейном преобразователе осуществляется сравнение числа, полученного в результате сложения выходных значений на сумматоре, с некоторым установленным заранее пороговым значением. Нейрон пропускает сигнал при его уровне выше порогового, а противном случае сигнал приравнивается к 0.
Алгоритм работы выглядит следующим образом.
На первом этапе происходит подача сигнала и установка аксонов
У1(0) = хь 1=0. ..п-1. (4)
Далее рассчитывается новое состояние нейронов:
^(Р + 1) = 1?=оЧУ1(р) А = 0 ...П - 1, (5)
где р- номер итерации и новое состояние аксонов:
У1(р+1) = ^(р + 1)], (6)
где Г - функция, характеризующая единичный скачок.
337
Алгоритм работы сети следующий представлен на рис. 4.
На заключительном этапе реализуется проверка изменения состояния аксонов за последнюю операцию. В случае положительного ответа происходит возврат к расчету нового состояния, при отрицательном ответе работа прекращается, а на выходе появляется эталонный образец схожий со входным вектором.
Таким образом, при подаче на вход исходного изображения возможны только два результата.
1. Сеть верно идентифицирует изображение, исправляя при необходимости пораженные составляющие без добавления ошибок.
2. Обнаружение нескольких схожих изображений с искомым, вследствие чего пороговое число циклов будет превышено, и не будет никакого результата.
Расчет состояний нейронов и аксонов
_V_
Проверка изменения состояния аксонов
Представление эталонного образца
Рис. 4. Алгоритм работы нейронной сети Хопфилда
Машинная реализация данного метода основывается не только на использовании ассоциативной памяти (в ходе алгоритма обращение к ячейкам памяти происходит по содержимому последних, а не по конкретному адресу, что реализуется на ассоциативных ЗУ, такие как запоминающий массив, регистры ассоциативных признаков, маски и индикаторов ад-
338
peca со схемами сравнения), но и автоассоциативной, способной завершить работу или изменить образ. При этом автоссоциативная память не способна ассоциировать полученный образ с другим. Еще к одной характерной особенности следует отнести наличие обратных связей, образованных соединением аксонов каждого нейрона с дендритами остальных нейронов, а веса синоптических связей рассчитываются в начале работы и не изменяются.
Приведем стандартный пример использования сети в биометрической идентификации.
Процесс распознавания начинается с детектирования лица. После изображение дифференцируется на кластеры, совокупность нескольких пикселей (2x2, 5x5 и др.), количество которых задается разработчиком. Это будет входной слой, поступающий на сеть слоев- фильтров с наборами признаков разной сложности и различного размера. Выделенные признаки попадают на классификатор, представленный обычно в виде многослойного персептрона [8]. Далее, как рассмотрено ранее, происходит передача данных сигналов от слоя к слою, при этом параллельно рассчитываются весовые коэффициенты синапсов. При этом они суммируются, заключая в себе информацию об отдельных фрагментах лица. По завершении работы мы будем иметь конкретный набор коэффициентов, который сравнивается с матрицей весов, сформированной по правилу Хэбба [9]. Основной задачей является подбор этих коэффициентов для уменьшения выходной ошибки.
К достоинствам метода нейронных сетей Хопфилда можно отнести: -отсутствие громоздких вычислительных операций (весовые коэффициенты изначально рассчитаны по одной формуле); -высокая точность (свыше 90%);
-высокая устойчивость работы, обусловленная асинхронный режимом работы и отсутствия работы нейронов на себя (задается матрицей связей);
К недостаткам метода нейронных сетей Хопфилда относятся: - малая емкость запоминаемых эталонов, которая определяется выражением
где К- число нейронов. Примерно получается около 15% от общего количества нейронов;
- возможность зацикливания при распознавании обусловленная схожестью объектов;
- наличие перекрестных ассоциаций при большом объеме выборки образцов.
Для повышения эффективности метода нейронных сетей Хопфилда целесообразно использовать различные модификации. Например, применение ортогонального преобразования поможет работать с сильно коррелированными изображениями, преобразуя начальное множество в дуальную совокупность векторов, к которой он способен обращаться при обра-
339
ботке похожих изображений. Также уместно использование гибридных методов, которые основываются на достоинствах их составных частей, нивелируя недостатки.
Примером реализации метода нейронных сетей Хопфилда является программа Recognition (с использованием компонента TNeuraliNetHopf), где при подаче некоторого искаженного образа на вход нейронная сеть его восстанавливает посредством соотношения с одним из хранимых образов или же, в случае неудачи, выдает «химеру» (неаутентичный образ).
Список литературы
1. Асадуллаев Р.Г. Нечеткая логика и нейронные сети: учебное пособие. Белгород: БелГУ, 2017. 309 c.
2. Тадеусевич Р., Боровик Б., Гончаж Т., Леппер Б. Элементарное введение в технологию нейронных сетей с примерами программ / пер. с польск. И.Д. Рудинского. М.: Горячая линия - Телеком, 2011. 410 c.
3. Каллан Роберт. Основные концепции нейронных сетей. Пер. с англ. М.: Издательский дом "Вильямc", 2001. 287 с.
4. Хайкин С. Нейронные сети: полный курс. 2-е изд., испр. М.: ООО "И.Д. "Вильямс", 2006. 1104 c.
5. Терехов С. А. Лекции по теории и приложениям искусственных нейронных сетей, 2004.
6. Тariq Rashid. Make Your Own Neural Network, 2016. 222 с.
7. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы / пер. с польск. И. Д. Рудинского. М.: Горячая линия -Телеком, 2006. 452 c.
8. Галушкин А.И. Нейронные сети: основы теории, 2012. 496 с.
9. Тадеусевич Рышард, Леппер Бартош, Боровик Барбара, Гончаж Томаш. Элементарное введение в технологию нейронных сетей с примерами программ, 2011. 408 с.
10. Костин С.В., Мишин Д.С., Сотников А.А. Перспективы применения нейронной сети Хопфилда в биометрической идентификации // Общественная безопасность, законность и правопорядок в III тысячелетии. 2019. № 5-2. С. 158-163.
Костин Сергей Викторович, канд. техн. наук, сотрудник, techsyst@academ.msk.rsnet.ru, Россия, Орёл, Академия Федеральной службы охраны Российской Федерации,
Сотников Александр Александрович, сотрудник, techsyst@academ. msk. rsnet. ru, Россия, Орёл, Академия Федеральной службы охраны Российской Федерации,
Мишин Дмитрий Станиславович, канд. юрид. наук, доцент, mishinds@,mail. ru, Россия, Орёл, Орловский юридический институт МВД России имени В. В. Лукьянова
THE USE OF NEURAL NETWORKS AT PROTECTED SITES
S.V. Kostin, A.A. Sotnikov, D.S. Mishin 340
Currently, increasing the level of security at protected sites is achieved through the commissioning of new promising means. A striking representative of this is the biometric identification system, the principle of which is implemented using a software and hardware complex based on neural networks.
Key words: protected object, algorithm, biometric identification, neural network.
Kostin Sergey Viktorovich, candidate of technical sciences, employee, techsyst@academ. msk. rsnet. ru, Russia, Orel, Academy of Federal Security Service of Russia,
Sotnikov Alexander Alexandrovich, employee, techsyst@academ.msk.rsnet.ru, Russia, Orel, Academy of Federal Security Service of Russia,
Mishin Dmitry Stanislavovich, candidate of legal sciences, employee, mishindsamail. ru, Russia, Orel, Orel Law Institute of the Ministry of Internal Affairs of Russia named after V. V. Lukyanova
УДК 004.942
МЕТОДИКА ОПРЕДЕЛЕНИЯ НЕОБХОДИМОГО КОЛИЧЕСТВА АРЕНДУЕМЫХ ЦИФРОВЫХ ПОТОКОВ ДЛЯ ЗАЩИТЫ ОТ ИНФОРМАЦИОННО-ТЕХНИЧЕСКИХ ВОЗДЕЙСТВИЙ
М.М. Добрышин, Д.Е. Шугуров, А.Д. Локтионов
Совершенствование средств и способов ведения информационно-технических воздействий способствует существенному росту финансовых и репетиционных убытков для компаний, активно использующих информационные ресурсы. С целью снижения ущерба и повышения защищенности от указанных угроз разработана методика, позволяющая оценить способность злоумышленника своевременно идентифицировать узел и воздействовать на него. На основании проведенного анализа должностные лица, отвечающие за эксплуатацию и информационную безопасность, способны определить минимально допустимое количество арендуемых цифровых потоков.
Ключевые слова: компьютерная разведка, ББо8-атака, защищенность, реконфигурация.
Развитие цифровой экономики требуют от коммерческих компаний все большее применение компьютерных сетей связи. Компании, имеющие несколько филиалов или отделений, для организации связи требуется либо использование собственных линий связи, либо аренда цифровых потоков или услуг связи у провайдеров. Ввиду существенных затрат на построение и поддержание в работоспособном состоянии собственных линий связи большинство компаний отдают предпочтение арендуемым услугам связи.
Вместе с переходом экономической деятельности в цифровое пространство, туда же перешли и злоумышленники, применяющие широкий перечень средств информационно-технических воздействий, в том числе и DDoS-атаки. Целью применение данных атак является блокирование передачи информации, для дальнейшего получения «выкупа» за прекращения атаки [1-3].
