CC BY
131
W 004896 А.А. Микрюков, А.В. Бабаш, В.А. Сизов
DOI: http://dx.doi.org/10.21686/1818-4243-2019-1-4-13 „ „ ,_„,_,
Россиискии экономическим университет им. Г.В. Плеханова,
Москва, Россия
Классификация событий в системах обеспечения информационной безопасности на основе нейросетевых технологий*
Цель исследования. Целью исследования является повышение эффективности управления информационной безопасностью за счет повышения точности и оперативности классификации событий безопасности, инцидентов безопасности, угроз и т.п., в системах обеспечения информационной безопасности. В качестве средства классификации событий в системах обеспечения информационной безопасности предложено использование нейросетевых технологий, которые позволяют учесть неполноту, неточность и во многом неопределенность исходных данных, а также использовать ранее накопленную информацию о событиях безопасности. Для получения более эффективного решения поставленной задачи рассмотрены коллективные методы решения задач классификации на основе нейросетевых ансамблей (комитетов нейронных сетей) и предложен усовершенствованный комплексный подход.
Материалы и методы исследования. При решении сложных задач классификации зачастую ни один из используемых алгоритмов классификации не обеспечивает требуемой точности. В таких случаях строят композиции алгоритмов, в которых ошибки отдельных алгоритмов взаимно компенсируются. Рассматривается применение нейросетевого ансамбля для решения задач классификации событий безопасности в корпоративной информационной системе. Представлен краткий обзор существующих подходов к построению нейросетевых ансамблей и методов формирования решений задач, в которых используются нейросетевые классификаторы. Предложен усовершенствованный комплексный подход к решению задач классификации событий безопасности на основе нейросетевых ансамблей (комитетов нейронных сетей). Основу подхода составляет трехэтапная процедура. Описаны этапы реализации процедуры. Результаты. Предложен комплексный подход к построению нейросетевого ансамбля для решения задач классификации со-
бытий безопасности в системах обеспечения информационной безопасности. Особенностями предлагаемого подхода является адаптивная редукция нейросетевого ансамбля (отбор лучших классификаторов на основе оценки степени соответствия области компетенции частного нейросетевого классификатора и сходимости результатов частных классификаторов), а также выбор и обоснование метода голосования (композиции или агрегирования выходов частных классификаторов). Результаты проведенных численных экспериментов подтверждают эффективность предлагаемого подхода.
Заключение. Коллективное использование искусственных ней-росетей в виде нейросетевых ансамблей (комитетов нейронных сетей) позволят получить более точные и достоверные результаты классификации событий безопасности в корпоративной информационной сети. Предложен усовершенствованный комплексный подход к построению нейросетевого ансамбля, обеспечивающий получение более эффективных результатов классификации. Подход основан на применении процедуры адаптивной редукции результатов частных классификаторов и процедуры выбора метода агрегирования результатов частных классификаторов. Показано, что использование рассматриваемого подхода, обеспечивает повышение эффективности решения поставленной задачи.
Полученные результаты могут быть использованы при совершенствовании систем управления инцидентами информационной безопасности. Определены тенденции и направления развития методов коллективных решений на основе нейросетевых ансамблей (комитетов нейронных сетей).
Ключевые слова: классификация событий, инцидентов безопасности, угроз, искусственные нейронные сети, нейросетевые ансамбли, комитеты нейронных сетей
Andrey A. Mikryukov, Aleksander V. Babash, Valeriy A. Sizov
Plekhanov Russian University of Economic, Moscow, Russia
Classification of events in information security systems based on neural networks
Purpose of the research. The aim of the study is to increase the effectiveness of information security and to enhance accuracy and promptness of the classification of security events, security incidents, and threats in information security systems. To respond to this challenge, neural network technologies were suggested as a classification toolfor information security systems. These technologies allow accommodating incomplete, inaccurate and unidentified raw data, as well as utilizing previously accumulated information on security issues. To address the problem more effectively, collective methods based on collective neural ensembles aligned with an advanced complex approach were implemented. Materials and methods: When solving complex classification problems, often none of the classification algorithms provides the required
accuracy. In such cases, it seems reasonable to build compositions of algorithms, mutually compensating errors of individual algorithms. The study also gives an insight into the application of neural network ensemble to address security issues in the corporate information system and provides a brief review of existing approaches to the construction of neural network ensembles and methods to shape problem solving with neural networks classifiers. An advanced integrated approach is proposed to tackle problems of security event classification based on neural network ensembles (neural network committees). The approach is based on a three-step procedure. The stages of the procedure implementation are described. It is shown that the use of this approach facilitates the efficiency of solving the problem.
* Работа выполнена при финансовой поддержке РФФИ (проекты №№ 18-07-00918А от 7.09.17 г., 19-07-01137 от 3.01.2019 г.)
Results: An advanced integrated approach to addressing security event classification based on neural network ensembles (neural network committees) is proposed. This approach applies adaptive reduction of neural network ensemble (selection of the best classifiers is based on the assessment of the compliance degree of the competence area of the private neural network classifier and convergence of the results ofprivate classifiers), as well as the selection and rationale of the voting method (composition or aggregation of outputs of private classifiers). The results of numerical experiments support the effectiveness of the proposed approach. Conclusion: Collectively used artificial neural networks in the form of neural network ensembles (committees of neural networks) will provide more accurate and reliable results of security event classification in the corporate information network. Moreover, an advanced
integrated approach to the construction of a neural network ensemble is proposed to facilitate effectiveness of the classification process. The approach is based on the application of the adaptive reduction procedure for the results of private classifiers and the procedure for selecting the method of aggregation of the results ofprivate classifiers. These outcomes will enable advancement of the system control over information security incidents. Finally, the paper defines tendencies and directions of the development of collective solution methods applying neural network ensembles (committees of neural networks).
Keywords: classification of events, security incidents, threats, artificial neural networks, neural network ensembles, committees of neural networks
1. Введение
Среди существующих методов классификации событий безопасности, инцидентов безопасности, угроз и др. находят широкое применение интеллектуальные информационные технологии — искусственные нейронные сети (ИНС), нечеткие и нейроне-четкие системы, эволюционные алгоритмы, многоагент-ные и иммунные системы. Однако, зачастую из-за сложности задачи, низкого качества обучающих данных и других причин не удается достичь удовлетворительного качества работы модели. Тогда целесообразно применить набор моделей, используемых совместно для решения единственной задачи. Такой набор моделей называется ансамблем (комитетом) моделей.
Проведенный анализ
практического использования таких систем позволяет утверждать, что повышение эффективности их применения является возможным за счет использования в рамках одной системы информационной безопасности (ИБ) нескольких технологий, например коллектива (ансамбля) нейронных сетей.
Предложен усовершенствованный комплексный подход к построению нейро-сетевого ансамбля, обеспечивающий повышение эффективности решения задачи классификации событий безопасности.
2. Организация ансамблей нейросетей для решения задач классификации событий информационной безопасности и пути их совершенствования
В работе [1] отмечается, что перспективным направлением совершенствования ИНС является объединение (композиция) множества отдельных ИНС в одну систему (ассоциативную машину). В этом случае ошибки отдельных алгоритмов классификации взаимно компенсируются. Ансамблевая организация рассматривается в ряде работ [2—9]. В работе [8] экспериментально доказана эффективность применения ансамблевой организации для распознавания изображений.
При построении ансамбля нейросетей одновременно используют конечное множество предварительно обученных ней-росетей, выходные сигналы которых комбинируются в объединенную оценку, превосходящую по качеству результаты, полученные с помощьюлокальных сетей, входящих в ансамбли.
Ансамбль Щ(х ) моделей к(х)(/ = 1, 2, ..., N представляет собой композицию алгоритмических операторов ^Я1 ^ Я и корректирующей операции И: Яы ^ Я, в которой множеству оценок ^(х), h2(x), ..., hN(X) ставится в соответствие итоговая оценка Щ(х) [4]:
Щ(х) =
= F(h1(x), ^(х), ..., hNCx)). (1)
Как известно, фундаментальной задачей при построе-
нии ансамблей является генерация разнообразия ансамбля (или различия индивидуальных моделей) [6].
Очевидно, что агрегация схожих моделей в ансамбле не может привести к существенному повышению качества решения задачи.
Ансамбль моделей может быть лучше отдельных моделей, входящих в ансамбль по следующим причинам [8]:
1. Ансамбль уменьшает среднеквадратическую ошибку. Применение ансамбля моделей усредняет ошибку каждой отдельной модели и уменьшает влияние неста-бильностей и случайностей при формировании гипотез. Решение задач классификации и регрессии представляет собой поиск гипотез о свойствах системы или о следующем состоянии системы. Если использовать достаточно большое количество моделей, обученных примерно на одном и том же множестве примеров, то можно уменьшить нестабильность и случайность полученного результата путем комбинирования результатов. Усреднение по множеству моделей, построенных на основе независимых обучающих множеств, всегда уменьшает ожидаемое значение среднеквадра-тической ошибки.
2. Ансамбли моделей, обученных на различных подмножествах исходных данных, имеют больший шанс найти глобальный оптимум, так как ищут его из разных начальных точек.
Рис. 1. Архитектура ансамбля нейросетей
3. Комбинированная гипотеза может не находиться во множестве возможных гипотез для базовых классификаторов, т.е. при построении комбинированной гипотезы, расширяется множество возможных гипотез.
Применяется несколько подходов к построению ансамблей моделей. Чаще всего ансамбль состоит из базовых моделей одного типа, которые обучаются на различных наборах обучающих выборок (рис. 1).
Для формирования выходного значения ансамбля при определенных состояниях выходов моделей наиболее распространенными являются следующие алгоритмы [11]:
1. Голосование. Применяется в задачах классификации. Выбирается тот класс, который был выдан простым большинством моделей ансамбля.
2. Взвешенное голосование. Отличается от простого голосования назначением весов (баллов) для результатов разных моделей. Баллы учитывают точность работы разных классификаторов.
3. Усреднение (взвешенное или невзвешенное). Применяется при решении с помощью ансамбля задачи регрессии, когда выходы моделей будут числовыми. Выход всего ансамбля может определяться как простое среднее значение выходов всех моделей. Если производится взвешенное усреднение, то выходы моделей умножаются на соответствующие веса.
4. Смесь экспертов. В этом случае весовой коэффициент представляет собой функцию от входного вектора.
Простейшим примером голосования является простое голосование:
V (х ) =
= ¥ ( (х) , У2 (х) >•••> Ук (х)) =
1 т
= 11 У,- (х), (2)
тП
где х = (х1; х2,..., хк) — входной вектор,
к — число входов нейронной сети,
Цх) = (У1, У2, ..., Ук) - вектор значений выходного сигнала нейросетевого ансамбля, ¥ — функция для получения результирующего решения.
Простое голосование представляет частный случай взвешенного голосования:
Г (х ) =
= ¥ ( (х), у2 (х),..., у, (х)) = 1 т
= т X ау(х),
т I=1
т
£ а = 1, а > 0, (3)
I=1
где а1 — весовой коэффициент /-ой модели.
Взвешенное голосование является частным случаем смеси экспертов:
У (х ) =
= ¥ (( (х), уг (х),..., у, (х)) = 1 т
= т X а(х) (х ^
т ,=1
т
X а, (х) = 1, Ух е X, (4)
,=1
В общем случае решение задачи классификации на основе коллектива ИНС заключается, во-первых, в формировании и обучении конечного мно-
жества ИНС, участвующих в решении, и во-вторых, определении такого способа согласования индивидуальных решений, чтобы итоговое решение было наилучшим.
На следующем этапе выполняется отбор тех ИНС из общего пула, с помощью которых будет сформировано итоговое решение. В общем случае, итоговое решение представляет собой некоторую функцию, входными параметрами которой являются частные решения ИНС, входящих в ансамбль:
Я = Лп, /2,..., гп), (5)
где Я — общее решение, // — индивидуальное решение /-й ИНС, п - общее число ИНС в ансамбле. Функция / определяет способ обобщения индивидуальных решений.
Решение Я в задаче классификации заключается в выборе номера одного из классов А]г] = 1, 2, ..., I, или выборе пустого множества в случае отказа от классификации. Каждое частное решение // может принимать значение образа или быть пустым множеством, если паттерн не принадлежит области компетентности частного классификатора. Под областью компетентности понимается подмножество объектов признакового пространства, в пределах которого определена сфера действия частного классификатора с заданным подмножеством распознаваемых образов. В общем случае синтез функции / является центральной задачей применения нейросетевых ансамблей [12].
Каждому из решений // может быть присвоен вес, а также определена область компетентности. Решение коллектива определяется совокупностью индивидуальных решений г, которые принадлежат области компетентности К(г/).
Таким образом, решение коллектива определяется набором индивидуальных решений, соответствующих областям их
компетентности. Такой подход содержит ИНС, решения которых соответствуют области компетентности. На следующем этапе осуществляется вычисление выходного значения ансамбля одним их вышеназванных алгоритмов.
В настоящее время наиболее разработанными методами построения комитетов нейро-сетей являются: равноправное или неравноправное голосование для задач классификации и простое или взвешенное усреднение для задач регрессии [13].
Анализ существующих подходов показал, что они не всегда обеспечивают необходимое качество принятия итогового решения (точность и обоснованность).
К наиболее существенным недостаткам относятся:
— зависимость конечного результата от достоверности определения коэффициентов компетентности, что может привести к некорректному результату;
— часто обучающая выборка содержит шумовые выбросы, приводящие к увеличению вероятности ошибочных решений частными классификаторами, т.к. попытка обучающего алгоритма настроиться на шум ухудшает аппроксимирующие возможности сети;
— необходимость использования большого количества примеров обучающей выборки для успешной реализации алгоритма;
— архитектура нейросетево-го ансамбля зачастую является избыточной, что не способствует увеличению точности решения задач классификации и приводит к существенному увеличению требуемого вычислительного ресурса.
3. Комплексный подход к решению задач классификации на основе нейросетевых ансамблей (комитетов нейронных сетей)
Для повышения качества получения решения на основе нейросетевого ансамбля пред-
ложен подход, позволяющий с одной стороны, снизить вычислительные затраты на реализацию работы нейросетевого ансамбля, а с другой стороны, повысить качество решения задач классификации за счет применения метода адаптивной редукции нейросетевого ансамбля (отбор лучших классификаторов на основе оценки степени соответствия области компетенции частного ней-росетевого классификатора и оценки сходимости полученных результатов частных классификаторов), а также выбора и обоснования метода агрегирования результатов (композиции выходов частных классификаторов).
Задача классификации заключается в том, чтобы по количественным признакам неизвестного объекта определить его принадлежность к определенному образу.
Подход включает совокупность этапов:
1. Формирование исходно -го набора (пула) нейросетей, входящих в ансамбль (определение количества скрытых слоев нейронов, функций активации, размера обучающей выборки).
2. Редукция нейросетево-го ансамбля (отбор лучших классификаторов на основе вычисления коэффициентов надежности классификации, сравнения полученных значений коэффициентов с заданными пороговыми значениями и оценки сходимости результатов, полученных частными классификаторами).
3. Выбор и обоснование метода агрегирования результатов (метода голосования).
На первом этапе отбираются (генерируются) нейро-сети, отвечающие заданным требованиям. Определяются архитектура и параметры искусственной нейросети — классификатора, размер обучающей выборки. В этом случае нейросети формируются в виде более простых структур,
в отличие от традиционного подхода к синтезу классификатора, использующего одну нейронную сеть. Простые сети достаточно легко обучаются и менее склонны к переобучению.
На втором этапе выполняется отбор лучших классификаторов. Для оценки компетентности классификатора используется специальный алгоритм (рефери). Под компетентностью классификатора в данной области пространства представления объектов классификации понимается его точность, т.е. вероятность правильной классификации объектов, чье описание принадлежит этой области.
Для формализации метода агрегирования результатов (схемы голосования) используется коэффициент Цу < 1 надежности классификации частным классификатором. Коэффициент Цу представляет собой долю объектов с заданным значением образа у, попадающих в область компетенции /-го классификатора
М„ =
* (1)
(6)
* (1)'
где F(j) — накопленная частота решения в исходной базе данных, Fi(j) — накопленная частота решений образа у для /-го частного классификатора в его собственной области компетенции. Функция голосования ц у-го класса представляется выражением:
1] = 1* > 1 = 1'2'-'(7)
\
Если паттерн Х не принадлежит области компетенции частного /-го классификатора, то значение цу = 0. В этом случае, результаты работы частного классификатора в дальнейшем не учитываются, т.е. выполняется процедура редукции нейросетевого ансамбля.
Суммирование производится по всем оставшимся классификаторам. Решение о принадлежности паттерна Х к одному
из классов Ау принимается в соответствии с правилом:
Если
д., = тахд., X е Л,. (8)
1 у 1 1
Такой подход не всегда является оправданным в условиях зашумленности исходных данных, в связи с чем может фиксироваться отказ от классификации. Выбор стратегии комбинирования решений частных классификаторов как правило не требует больших вычислительных ресурсов, но при этом обеспечивает более высокое качество коллективного решения. В этом случае может быть использована одна из стратегий [14]: селекция и слияние. В первом случае каждому подпространству решений соответствует отдельный классификатор, во втором случае частные классификаторы используются на всем пространстве решений.
Из технологий, обеспечивающих эффективное проецирование решений частных классификаторов на целевое пространство, наиболее приемлемыми являются [2, 15]:
— метод шаблонов решений (наиболее простой метод);
— взвешенное усреднение;
— метод многоярусного обобщения (использует двухступенчатую процедуру формирования решений классификаторов с нелинейной комбинацией отдельных решений), имеющий различные модификации.
Выбор предпочтительного метода агрегирования осуществляется на основе правила минимума ошибки классификации.
Вычислительный эксперимент для проверки предло-
женного подхода проводился с использованием тестовых данных из репозитория [16]. Для проведения эксперимента использовались двухслойные нейросети прямого распространения. Проведение вычислительного эксперимента показало увеличение точности решения классификации на основе нейросетевых ансамблей в среднем на 8—12%.
Перспективным направлением является развитие коллективных методов классификации событий безопасности с учетом значительного разнообразия и корреляции входных данных. Интересные результаты могут быть получены при применении в архитектуре нейросетевых ансамблей ней-росетей на основе новых ней-роподобных элементов, например избирательных нейронов, более близких к реальному биологическому нейрону и обладающих элементами когни-тивности [17, 18]. Избирательные нейросети не используют весовые коэффициенты, что позволяет значительно сократить объем вычислений при обучении нейросети и повысить эффективность решения задач классификации.
Важным направлением является разработка моделей классификации на основе применение мультиагентного подхода, позволяющего генерировать нейросети — классификаторы ансамбля с учетом особенностей предметных областей и использовать их в качестве интеллектуальных агентов. Большой интерес представляет разработка гибридных систем классификации, как многоальтернативных
систем, основанных на различных математических моделях и технологиях для единой предметной области.
Заключение
В статье рассмотрен подход к решению задач классификации событий безопасности в корпоративной информационной системе на основе коллективного использования искусственных нейросетей в виде нейросетевых ансамблей (комитетов нейронных сетей), что позволят получить более точные и достоверные результаты.
Предложен усовершенствованный комплексный подход к построению нейросетевого ансамбля, обеспечивающий получение более эффективных результатов классификации. Подход основан на применении процедуры адаптивной редукции результатов частных классификаторов и процедуры выбора метода агрегирования результатов частных классификаторов. Результаты вычислительного эксперимента показали увеличение точности решения классификации на основе нейросетевых ансамблей в среднем на 8—12%.
К основным направлениям развития подходов к повышению эффективности нейросе-тевых систем классификации можно отнести следующие: реализация архитектур нейро-сетевых классификаторов на основе избирательных нейронов и построение гибридных моделей на основе интеграции нейросетевых, мультиа-гентных и когнитивных технологий.
Литература
1. Bishop C. M. Neural Networks for Pattern Recognition. Oxford: Oxford University Press, 1995. 496 p.
2. Zhou Z.-H. Ensemble Methods: Foundations and algorithms. Chapman & Hall/Crc Machine Learning & Pattern Recognition. 2012. 236 p.
3. Kuncheva L.I. Combining Pattern Classifiers:
Methods and algorithms. Hoboken: John Wiley & Sons, 2004.
4. Терехов С. А. Гениальные комитеты умных машин // Научная сессия МИФИ-2007. IX Всероссийская научно-техническая конференция «Нейроинформатика-2007»: Лекции по нейроинформатике. Часть 2. М.: МИФИ. 2007. С. 11-42.
5. Воронцов К. В. Лекции по алгоритмическим композициям. [Электрон. ресурс]. Режим доступа: http://www.ccas.ru/voron/download/Composition.pdf (дата обращения: 10.12.20185).
6. Гончаров М. Ансамбли моделей. [Электрон. ресурс]. Режим доступа: http://www.business data analytics.ru/download/Model Ensembles.pdf (дата обращения: 10.12.2018).
7. Гольцев А.Д. Нейронные сети с ансамблевой организацией. Киев: Наукова думка. 2005, 200 с.
8. Боровиков В.П. Нейронные сети. Statistica Neural Networks. Методология и технологии современного анализа данных. 2-е изд., перераб. и доп. М.: Горячая линия — Телеком, 2008. 392 с.
9. Бодянский Е.В., Руденко О.Г. Искусственные нейронные сети: архитектуры, обучение, применения. Харьков: ТЕЛЕТЕХ, 2004. 362 с.
10. Бертсекас Д. Условная оптимизация и методы множителей Лагранжа. М.: Радио и связь, 1987. 400 с.
11. Паклин Н. Б., Орешков В. И. Бизнес-аналитика: от данных к знаниям. СПб.: Питер. 2013. 704 с.
12. Бова В.В., Дуккарт А.Н. Применение искусственных нейронных сетей для коллективного решения интеллектуальных задач. Проблемы представления знаний в интегрированных системах поддержки управленческих решений // Известия ЮФУ. Технические науки. 2010. № 7 (108). С.131-138.
13. Воеводин Ю.Ю., Комарцова Л.Г. Применение генетического алгоритма для оптимизации параметров нейронной сети в задачах классификации // Информатика: проблемы, методология, технологии. М.: Изд-во МГТУ им Баумана. 2005. С 42-46.
14. Plumton C.O., Kuncheva L.I. Choosing parameters for Random Subspase Ensembles for fMRI classification // Proceedings of Multiple Classifier Sistems (MCS 10), Cairo, Edgipt, LNCS 5997. 2010. P. 54-63.
15. Wolpert D.H. Stacked generalization // Neural Networks. 1992. 5. P. 241-259.
16. Frank A., Asuncion A. UCLMachineLearn-ingRepository. University of California, School of Information and Computer Science. Irvine, 2010. [Электрон. ресурс] Режим доступа: http://arhive.ics. uci.edu/ml (дата обращения: 17.12.2018).
17. Мазуров М.Е. Нелинейная избирательность в нейросетевых системах, избирательные нейроны и нейронные сети. Труды школы-семинара «Волны-2016». Нелинейная динамика и информационные системы. 2016. С. 12-17. [Электрон. ресурс] Режим доступа: http://waves.phys.msu.ru/ files/docs/2016/thesis/Section10.pdf (дата обращения 17.12.2018).
18. Мазуров М.Е. Однослойный персептрон на основе избирательных нейронов. Патент на изобретение № 2597497 от 13.01.2015.
References
1. Bishop C. M. Neural Networks for Pattern Recognition. Oxford: Oxford University Press; 1995. 496 p.
2. Zhou Z.-H. Ensemble Methods: Foundations and algorithms. Chapman & Hall/Crc Machine Learning & Pattern Recognition; 2012. 236 p.
3. Kuncheva L.I. Combining Pattern Classifiers: Methods and algorithms. Hoboken: John Wiley & Sons; 2004.
4. Terekhov P. A. The genial committees of smart machines. Nauchnaya sessiya MEPhI -2007. IX Vserossiyskaya nauchno-tekhnicheskaya konferentsiya «Neyroinformatika-2007»: Lektsii po neyroinformatike. Chast' 2. = Scientific session MIFI-2007. IX All-Russian Scientific and Technical Conference «Neuroinformatics-2007»: Lectures on neuroinformatics. Part 2. Moscow: MEPhl. 2007: 11— 42. (In Russ.)
5. Vorontsov K. V. Lektsii po algoritmicheskim kompozitsiyam = Lectures on algorithmic compositions. [Internet]. Available from: http://www.ccas.ru/voron/ download/Composition.pdf (cited: 10.12.2018). (In Russ.)
6. Goncharov M. Ansambli modeley = Ensembles of models. [Internet]. Available from: http://www. business data analytics.ru/download/Model Ensembles. pdf (cited: 10.12.2018). (In Russ.)
7. Goltsev A.D. Neyronnye seti s ansamblevoy organizatsiey = Neural networks with ensemble organization. Kiev: Naukova dumka. 2005; 200 p. (In Russ.)
8. Borovikov V.P. Neyronnye seti. Statistica neural networks. Metodologiya i tekhnologii sovremennogo analiza dannykh. 2-e izd., pererab. i dop. = Neural networks. Statistica neural networks. Methodology and technologies of modern data analysis. 2nd Edition. Moscow: Hotline - Telecom; 2008. 392 p. (In Russ.)
9. Bodyanskiy E.V., Rudenko O.G. Iskusstvennyye neyronnyye seti: arkhitektury, obucheniye, primeneniya = Artificial neural networks: architecture, training, applications. Kharkov: Teletech; 2004. 362 p. (In Russ.)
10. Bertsekas D. Uslovnaya optimizatsiya i metody mnozhiteley Lagranzha = Conditional optimization and Lagrange multiplier methods. Moscow: Radio and communication; 1987. 400 p. (In Russ.)
11. Paklin N. B., Oreshkov V. I. Biznes analitika: ot dannykh k znaniyam = Business analyst: from data to knowledge. Saint Petersburg: Piter; 2013. 704 p. (In Russ.)
12. Bova V.V., Dukkart A.N. The use of artificial neural networks for the collective solution of intellectual problems. Problems of knowledge representation in integrated support systems for management decisions. Izvestiya YUFU. Tekhnicheskiye nauki. = SFU News. Technical science 2010; 7 (108): 131-138. (In Russ.)
13. Voyevodin YU.YU., Komartsova L.G. Primeneniye geneticheskogo algoritma dlya optimizatsii parametrov neyronnoy seti v zadachakh klassifikatsii. Informatika: problemy, metodologiya, tekhnologii = The use of a genetic algorithm to optimize the parameters of the neural network in the tasks of classification. Informatics: problems, methodology,
technology. Moscow: Publishing House of Bauman Moscow State Technical University. 2005. P. 42-46. (In Russ.)
14. Plumton C.O., Kuncheva L.I. Choosing parameters for Random Subspase Ensembles for fMRI classification. Proceedings of Multiple Classifier Sistems (MCS 10), Cairo, Edgipt, LNCS 5997. 2010: 54-63.
15. Wolpert D.H. Stacked generalization. Neural Networks. 1992. 5: 241-259.
16. Frank A., Asuncion A. UCLMachineLearningRepository. University of California, School of Information and Computer Science. Irvine; 2010. [Internet] Available from: http:// arhive.ics.uci.edu/ml (cited: 17.12.2018).
Сведения об авторах
Андрей Александрович Микрюков
К.т.н, доцент, доцент кафедры Прикладной информатики и информационной безопасности ИЦЭ и ИТ
Российский экономический университет им. Г.В. Плеханова, Москва, Россия Эл. почта: [email protected]
Александр Владимирович Бабаш
Д.ф.-м.н, профессор, профессор кафедры Прикладной информатики и информационной безопасности ИЦЭ и ИТ Российский экономический университет им. Г.В. Плеханова, Москва, Россия Эл. почта: [email protected]
Валерий Александрович Сизов
Д.т.н, профессор, профессор кафедры Прикладной информатики и информационной безопасности ИЦЭ и ИТ Российский экономический университет им. Г.В. Плеханова, Москва, Россия Эл. почта: [email protected]
17. Mazurov M.E. Nonlinear selectivity in neural network systems, selective neurons and neural networks. Trudy shkoly-seminara «Volny-2016». Nelineynaya dinamika i informatsionnyye sistemy = Proceedings of the school seminar «Waves 2016». Nonlinear dynamics and information systems. 2016: 12—17. [Internet] Available from: http://waves.phys. msu.ru/files/docs/2016/thesis/Section10.pdf (data obrashcheniya 17.12.2018). (In Russ.)
18. Mazurov M.E. Odnosloynyy perseptron na osnove izbiratel'nykh neyronov. Patent na izobreteniye No. 2597497 ot 13.01.2015 = Single-layer perceptron based on selective neurons. Patent for invention no. 2597497 from 01/13/2015. (In Russ.)
Information about the authors
Andrey A. Mikryukov
Cand. Sci. (Engineering), Associate Professor, Associate Professor of the Department of Applied Information Technology and Information Security Plekhanov Russian University of Economics, Moscow, Russia E-mail: [email protected]
Aleksander V. Babash
Dr. Sci. (Physics and Mathematics), Professor, Professor of the Department of Applied Information Technology and Information Security Plekhanov Russian University of Economics, Moscow, Russia E-mail: [email protected]
Valeriy A. Sizov
Dr. Sci. (Engineering), Professor, Professor of the Department of Applied Information Technology and Information Security
Plekhanov Russian University of Economics, Moscow, Russia E-mail: [email protected]
