Научная статья на тему 'Метод идентификации технического состояния радиотехнических средств с применением технологий искусственных нейронных сетей'

Метод идентификации технического состояния радиотехнических средств с применением технологий искусственных нейронных сетей Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
310
55
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
идентификация технического состояния / искусственные нейронные сети / радиотехнические средства / машинное обучение / нормировка данных / эвристическая модификация алгоритма Левенберга–Марквардта. / technical state identification / artificial neural networks / radio engineering tools / machine learn- ing / data normalization / heuristic modification of the Levenberg-Marquardt algorithm.

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Р В. Допира, А А. Шведун, Д В. Ягольников, И Е. Яночкин

Современные радиотехнические средства военного назначения функционально и технологически усложняются, поэтому возрастает актуальность задачи создания систем функционального контроля и идентификации технического состояния радиотехнических средств. Эффективные и полностью автоматические системы идентификации технического состояния радиотехнических средств различных типов пока еще не построены. Одним из путей решения задачи является создание систем идентификации технического состояния радиотехнических средств, основанных на принципах машинного обучения. Отличительной особенностью применения обученных искусственных нейронных сетей для решения задачи идентификации технического состояния радиотехнических средств можно считать выработку прототипа наблюдаемых ситуаций, обобщений по преобладанию и подобию на множестве однотипных радиотехнических средств, а также высокую оперативность и достоверность решения данной задачи. В статье представлен метод идентификации технического состояния радиотехнических средств с использованием прецедентных принципов машинного обучения искусственных нейронных сетей. С его помощью в реальном масштабе времени решается задача идентификации текущих классов технического состояния радиотехнических средств на основе результатов измерений контролируемых параметров их основных систем. С учетом специфики решаемой задачи обоснован выбор многослойной нейронной сети прямого распространения, включающей три скрытых слоя. Количество нейронов входного слоя определяется количеством контролируемых параметров технического состояния основных систем радиотехнических средств конкретного типа, а нейронов выходного слоя – количеством возможных классов технического состояния радиотехнических средств. Элементарные преобразователи данной сети имеют функцию активации сигмоидального вида. Для обучения искусственной нейронной сети применяется эвристическая модификация алгоритма Левенберга–Марквардта.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Р В. Допира, А А. Шведун, Д В. Ягольников, И Е. Яночкин

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

A method of identifying technical condition radio engineering means using artificial neural network technologies

Due to the fact that modern military-grade radio equipment is becoming functionally and technologically more complicated, the urgency of the task of creating functional control systems and identifying technical state of radio equipment is increasing. Nowadays, there are no effective and fully automatic systems for identifying technical state of various types of radio equipment. One of the ways to solve the problem is to create systems for identifying technical state of radio equipment is based on machine learning principles. A distinctive feature of the application of trained artificial neural networks to solve the identifying problem is the development of a prototype of the observed situations, generalizations for the predominance and similarity in a variety of same type radio equipment, as well as high efficiency and reliability of solving this problem. The paper presents a method for identifying technical state of radio equipment using case-law principles of machine learning of artificial neural networks. It allows solving the problem of identifying current classes of the radio equipment technical condition based on measurement results of the main system controlled parameters in real time. Taking into account the problem specifics, the choice of a multilayer direct distribution neural network including three hidden layers is substantiated. The number of neurons of the input layer is determined by the number of controlled parameters of the technical condition of the main systems of radio equipment of a particular type. The number of output layer neurons is determined by the number of possible classes of the radio equipment technical condition. Elementary converters of this network have an activation function of a sigmoid type. To train an artificial neural network, the authors used a heuristic modification of the Levenberg-Marquardt algorithm.

Текст научной работы на тему «Метод идентификации технического состояния радиотехнических средств с применением технологий искусственных нейронных сетей»

УДК 004.896 Дата подачи статьи: 08.07.19

DOI: 10.15827/0236-235X.128.628-638 2019. Т. 32. № 4. С. 628-638

Метод идентификации технического состояния радиотехнических средств с применением технологий искусственных нейронных сетей

Р.В. Допира 1, д.т.н., профессор, научный сотрудник,, [email protected] А.А. Шведун 2, адъюнкт, [email protected]

Д.В. Ягольников 2, к.т.н, преподаватель, [email protected] И.Е. Яночкин 1, к.в.н, начальник отдела,, [email protected]

1 Научно-производственное объединение «Русские базовые информационные технологии», г. Тверь, 170001, Россия

2 Военная академия воздушно-космической обороны им. Маршала Советского Союза Г.К. Жукова, г. Тверь, 170100, Россия

Современные радиотехнические средства военного назначения функционально и технологически усложняются, поэтому возрастает актуальность задачи создания систем функционального контроля и идентификации технического состояния радиотехнических средств.

Эффективные и полностью автоматические системы идентификации технического состояния радиотехнических средств различных типов пока еще не построены. Одним из путей решения задачи является создание систем идентификации технического состояния радиотехнических средств, основанных на принципах машинного обучения.

Отличительной особенностью применения обученных искусственных нейронных сетей для решения задачи идентификации технического состояния радиотехнических средств можно считать выработку прототипа наблюдаемых ситуаций, обобщений по преобладанию и подобию на множестве однотипных радиотехнических средств, а также высокую оперативность и достоверность решения данной задачи.

В статье представлен метод идентификации технического состояния радиотехнических средств с использованием прецедентных принципов машинного обучения искусственных нейронных сетей. С его помощью в реальном масштабе времени решается задача идентификации текущих классов технического состояния радиотехнических средств на основе результатов измерений контролируемых параметров их основных систем.

С учетом специфики решаемой задачи обоснован выбор многослойной нейронной сети прямого распространения, включающей три скрытых слоя. Количество нейронов входного слоя определяется количеством контролируемых параметров технического состояния основных систем радиотехнических средств конкретного типа, а нейронов выходного слоя - количеством возможных классов технического состояния радиотехнических средств. Элементарные преобразователи данной сети имеют функцию активации сигмоидального вида. Для обучения искусственной нейронной сети применяется эвристическая модификация алгоритма Левенберга-Марквардта.

Ключевые слова: идентификация технического состояния, искусственные нейронные сети, радиотехнические средства, машинное обучение, нормировка данных, эвристическая модификация алгоритма Левенберга-Марквардта.

В современных условиях радиотехнические средства (РТС) военного назначения как технически сложные системы должны отвечать комплексу требований по обеспечению работоспособности в условиях воздействия различного рода влияющих факторов. Вместе с тем РТС и их составные элементы функционально и технологически усложняются. Поэтому необходимы непрерывный мониторинг и контроль параметров РТС для обеспечения их надлежащего функционирования, что, в свою очередь, требует создания систем функционального

контроля и идентификации технического состояния РТС с высокой достоверностью.

Анализ известных систем функционального контроля и идентификации технического состояния РТС [1] свидетельствует о том, что существует объективная научно-техническая задача создания комплексных систем мониторинга, построенных на универсальных принципах и обеспечивающих высокий уровень достоверности идентификации технического состояния изделий. Перспективным направлением для оценки технического состояния РТС яв-

ляется использование нейросетевых технологий [2]. Несмотря на то, что данная проблема рассматривалась рядом авторов [3-5], в настоящее время нет единого метода, позволяющего решить задачу идентификации технического состояния РТС в процессе их эксплуатации.

В статье предлагается метод идентификации технического состояния РТС военного назначения с использованием интеллектуального метода на основе прецедентных принципов машинного обучения искусственных нейронных сетей, в котором в реальном масштабе времени решается задача идентификации текущих классов технического состояния РТС на основе результатов измерений контролируемых параметров их основных систем.

Структурно-логическая схема метода идентификации технического состояния РТС представлена на рисунке 1.

При рассмотрении данного метода следует учитывать, что техническое состояние РТС описывается совокупностью определяющих его параметров, причем для каждого конкретно выбранного РТС она может быть различной. В первую очередь, это обусловлено особенностями РТС, а также задачей идентификации. Идентификация технического состояния РТС -это процедура отнесения текущего технического состояния к одному из возможных классов (диагнозов).

Существенной частью процесса идентификации является выбор параметров, описывающих техническое состояние РТС [6]. Они должны быть достаточно информативны, чтобы при выбранном числе диагнозов процесс разделения (распознавания) мог быть осуществлен. Задача оптимального выбора контролируемых параметров должна решаться изготовителем

Исходные данные:

1. Результаты измерений контролируемых параметров технического состояния основных систем РТС

2. Возможные классы технических состояний РТС

X - {xi,x2,—xn)

О = {oi, о2,...от)

Выбор архитектуры нейронной сети Определение количества слоев нейронной сети

1 <

Выбор функции активации нейронов 1 + е Определение количества нейронов в слоях

1-й этап

Выбор и обоснование архитектуры нейронной сети для идентификации технического состояния РТС

2-й этап

Предварительная обработка результатов измерений контролируемых параметров технического состояния основных систем РТС

Выбор алгоритма Задание ошибки 3-й этап

обучения обучения Е0 Обучение нейронной сети

Выходные данные:

Классы текущих технических состояний РТС

Рис. 1. Структурно-логическая схема метода идентификации технического состояния РТС

Fig. 1. A structural-logical scheme of the identification method of the radio equipment

technical condition

РТС, и их перечень должен быть отражен в нормативно-технической документации на РТС, поэтому будем считать, что набор контролируемых параметров задан.

Метод идентификации технического состояния РТС состоит из последовательного выполнения трех этапов.

Исходными данными являются результаты измерений контролируемых параметров технического состояния основных систем РТС и возможные классы технического состояния РТС.

На первом этапе необходимо осуществить выбор и обоснование архитектуры искусственной нейронной сети для решения задачи идентификации технического состояния РТС.

На данный момент известно множество архитектур искусственных нейронных сетей для решения различного рода задач [7]. Отличительной особенностью применения обученных многослойных нейронных сетей в целях контроля технического состояния РТС можно считать высокую достоверность идентификации технического состояния РТС с использованием технологий искусственного интеллекта: выработки прототипа наблюдаемых ситуаций, обобщений по преобладанию и подобию на множестве однотипных РТС, а также высокую оперативность решения данной задачи. В интересах идентификации и контроля технического состояния РТС наиболее перспективными являются три базовые архитектуры искусственных нейронных сетей, краткая характеристика которых приведена в таблице.

Как видно из таблицы, многослойные нейронные сети прямого распространения обладают наибольшей информационной емкостью и требуемой обобщающей способностью при контроле технического состояния РТС, а недостаток, связанный с необходимым большим объемом обучающей выборки, несущественен при ее наличии [8].

Соответственно, для идентификации технического состояния РТС выбрана архитектура многослойной нейронной сети прямого распространения, которая позволит оперативно решить данную задачу с заданной достоверностью.

Также при построении обучаемых (самообучаемых) систем идентификации в целях контроля технического состояния РТС необходимо учитывать то, что они должны быть надежными в вычислениях и устойчивы к ошибкам измерений и помехам. Устойчивость к помехам обеспечивается распределенной структурой многослойных нейронных сетей прямого распространения. Кроме того, предложенная архитектура искусственной нейронной сети обладает способностью к самообучению, гибкостью и устойчивостью при аппроксимации несвязных областей в признаковых пространствах.

Структуру модели идентификации технического состояния РТС рассмотрим на примере искусственной нейронной сети прямого распространения, состоящей из пяти слоев, с нелинейной функцией активации вычислительных

Архитектура искусственной нейронной сети Максимальный объем памяти (К - количество запоминаемых прецедентов) Функции, необходимые для контроля технического состояния Требуемый объем обучающей выборки Ограничения и недостатки использования архитектуры

Многослойная нейронная сеть прямого распространения K»2BL, B - количество нелинейных преобразователей в слое, L - количество нелинейных преобразований Распознавание обобщения по подобию, обобщение по преобладанию Требует большого числа прецедентов Непрогнозируемое время синтеза классификатора

Нейронная сеть с обратными связями К~0,14С, C - количество нейронов в сети Распознавание, выработка прототипа, ассоциативное воспроизведение зашумленных образов Не требует большого числа прецедентов Непредсказуемость структуры фазового пространства сети

Самоорганизующиеся слои и карты Кохонена К~П, Б - количество нейронов слоя Кохонена Распознавание и отображение входной информации с сохранением топологии Не требует большого числа прецедентов Требует продолжительного обучения

Характеристики базовых архитектур искусственных нейронных сетей в интересах решения задачи идентификации технического состояния РТС

Characteristics of the basic architectures of artificial neural networks to solve the problem of identifying radio equipment technical condition

элементов во всех слоях, позволяющей формировать любые области технических состояний в пространстве измерений. Архитектура данной нейронной сети представлена на рисунке 2.

Первый (левый) слой нейронов - это входной слой, на который подаются нормированные значения контролируемых параметров технического состояния основных систем РТС. Количество нейронов входного слоя определяется количеством контролируемых параметров основных систем РТС конкретного типа. За ним следует скрытый слой, включающий три слоя, в котором обрабатывающие элементы связаны с предшествующим и последующим слоями. Правый слой - выходной, для снятия данных о классе технического состояния РТС. Количество нейронов выходного слоя определяется количеством возможных классов технических состояний РТС конкретного типа. Все слои искусственной нейронной сети являются полностью взаимосвязанными.

На рисунке 2 использованы следующие обозначения: (х1, х2, ..., хп} - нормированные значения контролируемых параметров технического состояния основных систем РТС; {^п, ..., Wij} - весовые коэффициенты между г-м и 7'-м нелинейными преобразователями; {011, ..., 9у} - значения смещений или пороговых величин в сумматорах нелинейных преобразователей; {о1, о2, ..., от} - возможные классы технического состояния РТС; ДИ) - активационная функция элементарных преобразователей сети.

Структура нейронов (элементарных преобразователей) сети схематично представлена на рисунке 3 [7].

Нейрон состоит из взвешенного сумматора и нелинейного элемента. Функционирование искусственного нейрона определяется форму-

Слой к нейронj

x w

X W2

... ...

Xn Wn

Рис. 3. Структура искусственного нейрона Fig. 3. An artificial neuron structure

лами: NET = IxnWm, OUT=f(NET - 9), где Xn -входные сигналы; wn - весовые коэффициенты; NET - взвешенная сумма входных сигналов; 0 - пороговый уровень данного нейрона; f[Y) -нелинейная функция, называемая функцией активации.

Далее необходимо выбрать вид функции активации нейронов сети. Вид функции активации нейрона не всегда оказывает принципиальное влияние на решение поставленной задачи, однако удачный выбор может сократить время обучения искусственной нейронной сети в несколько раз.

Выбор функции активации определяется спецификой решаемой задачи, удобством реализации, а также алгоритмом обучения нейронной сети: некоторые алгоритмы накладывают ограничения на вид функции активации, их нужно учитывать.

Таким образом, функция активации должна позволять моделировать схемы с непрерывными сигналами и иметь непрерывную первую производную для применения градиентных методов обучения искусственных нейронных сетей. Данным требованиям удовлетворяют следующие функции активации нейронов.

1. Логистическая (сигмоидальная) функция:

OUT =-1-, (1)

, -aNET ' V '

1 + e

где a — параметр крутизны функции.

Часто применяется для сетей с непрерывными сигналами. Гладкость и непрерывность функции - важные положительные качества. Непрерывность первой производной позволяет обучать сеть градиентными методами. Значение производной легко выражается через саму функцию: OUT' = OUT(1 - OUT).

Быстрый расчет производной ускоряет обучение нейронной сети.

Данная функция сжимающая, то есть для малых значений NET коэффициент передачи

K = OUT/NET велик, для больших значений он снижается. Поэтому диапазон сигналов, с которыми нейрон работает без насыщения, оказывается широким.

Также положительным качеством сигмоида является то, что он позволяет усиливать слабые сигналы и не насыщаться от сильных.

2. Гиперболический тангенс:

OUT = tanh( NET) = -

Очень похож на логистический сигмоид: непрерывен, ограничен и производную от него также легко вычислить:

1апЬ'(#£Т) = 1 - ЬапЬ^ШТ).

По сравнению с логистическим сигмоидом гиперболический тангенс значительно «круче» растет и убывает, быстрее приближается к своим пределам.

Для решения задачи идентификации технического состояния РТС целесообразно использовать функцию активации нейронов сети логистического (сигмоидального) вида (1).

Таким образом, для идентификации технического состояния РТС конкретного типа обоснован выбор многослойной нейронной сети прямого распространения, включающей три скрытых слоя. Количество нейронов входного слоя определяется количеством контролируемых параметров основных систем РТС конкретного типа, а выходного - количеством возможных классов технического состояния РТС. Элементарные преобразователи данной сети имеют функцию активации сигмоидального вида.

На втором этапе необходимо предварительно обработать результаты измерений контролируемых параметров технического состояния основных систем РТС.

Контролируемые параметры технического состояния РТС могут иметь различные единицы измерения, поэтому, чтобы над ними можно было производить арифметические, логические действия, их необходимо нормировать, переходя к безразмерным величинам.

Приведение данных к единичному масштабу [0,1] в соответствии с выбранным видом функции активации (1) обеспечивается нормировкой каждого значения входных переменных на диапазон разброса их значений. В простейшем варианте это линейное преобразование в единичный отрезок х"""" е [0,1]:

где Хп - нормированное значение; хг - истинное значение; х шах, хг шт - максимальное и минимальное значения г-го параметра.

Линейная нормировка оптимальна, когда значения переменной хг плотно заполняют определенный интервал. Если в данных имеются относительно редкие выбросы, намного превышающие типичный разброс, именно эти выбросы определят масштаб нормировки. Это приведет к тому, что основная масса значений нормированной переменной хпогт сосредоточится вблизи нуля (рис. 4).

Рис. 4. Гистограмма значений параметра при наличии редких, но больших отклонений от среднего после проведения линейной нормировки

Fig. 4. The histogram of the parameter values

when there are rare but large deviations from the average after linear normalization

Для устранения указанного недостатка предлагается ориентироваться при нормировке не на экстремальные значения, а на типичные, то есть статистические характеристики данных, такие как среднее и дисперсия. В этом случае основная масса данных будет иметь единичный масштаб, то есть типичные значения всех переменных будут сравнимы (рис. 5).

Как видно из рисунка 5, распределение значений после такого нелинейного преобразования гораздо ближе к равномерному. Преобразование х ^ х™™, I = 1, N , в диапазон [0, 1] осуществляется в соответствии с выражениями, содержащими функцию нелинейного преобразования [3]:

1

x" = — V x.,

' N V iV1 '=1

1 + e

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

I Ni 2

V1 (x. -x*)

1 N -1 Vy 1 ''

0

norm

x. =

norm

x. =

где х* - среднее значение г-го параметра за N1

отсчетов; - среднеквадратическое отклонение значения г-го параметра за N отсчетов; N - число прецедентов выборки.

1

0 1

Рис. 5. Гистограмма значений параметра при наличии редких, но больших отклонений

от среднего после проведения нелинейной нормировки

Fig. 5. A parameter value histogram when there are rare but large deviations from the mean after nonlinear normalization

На третьем этапе необходимо осуществить обучение искусственной нейронной сети.

Для решения задачи идентификации технического состояния РТС нейронная сеть должна быть обучена. Одним из способов улучшения качества идентификации является выбор наиболее подходящего алгоритма обучения нейронной сети.

Большинство опубликованных научных исследований опираются на наиболее известный алгоритм обучения нейронных сетей - алгоритм градиентного спуска с обратным распространением ошибки [9, 10]. Однако в работе [11] убедительно доказано, что этот достаточно универсальный алгоритм не обеспечивает наилучшей сходимости, требует достаточно много времени для обучения нейросети, а также эмпирического или алгоритмического определения оптимальной скорости обучения, которая значительно влияет на результативность алгоритма. В силу популярности данного алгоритма многочисленные исследования были направлены на его улучшение, что привело к появлению эвристик [12], улучшающих этот алгоритм. Наиболее известные эвристики, такие как «момент», «изменяемая скорость обучения» или «стохастическое обучение», приводят к небольшим улучшениям, реализую-

щимся при решении определенных классов задач. Значительное улучшение результативности может быть достигнуто применением алгоритмов второго порядка, таких как алгоритмы Ньютона, алгоритм сопряженных градиентов или алгоритм Левенберга-Марквардта. Считается, что алгоритм Левенберга-Марквардта позволяет достигать наименьшей ошибки нейронной сети, причем нередко с наименьшими временными затратами [7, 10]. Алгоритм обеспечивает приемлемый компромисс между скоростью сходимости, присущей алгоритмам Ньютона, и стабильностью, свойственной алгоритму градиентного спуска [10, 12].

Обучение нейронной сети предполагает наличие обучающих образов, называемых обучающей последовательностью. При этом для каждого входного образа вычисляют реакцию сети и сравнивают с соответствующим целевым образом, их разница представляет собой невязку (ошибку рассогласования), которую сравнивают с заданной точностью. Если невязка превышает ее, то корректируют весовые коэффициенты нейронной сети, если невязка находится в допустимых пределах, обучение останавливают.

Алгоритм Левенберга-Марквардта является одним из приложений стратегии оптимизации Ньютона. Основным выражением методов Ньютона являетсярк = - [И(ад)]-1 g(wk), где рк - направление, гарантирующее достижение минимального для данного шага значения целевой функции; g(м>k) - значение градиента в точке последнего решения wk; И(м>к) - значение матрицы Гессе в точке последнего решения

Одной из особенностей алгоритма Левен-берга-Марквардта является его чувствительность к локальным минимумам (как, впрочем, и всех алгоритмов локального поиска). Алгоритм Левенберга-Марквардта изменяет весовые коэффициенты нейронной сети, используя квадратичную аппроксимацию поверхности ошибки. Данная аппроксимация помогает найти минимум достаточно быстро, но, с другой стороны, она увеличивает опасность нахождения локального экстремума на поверхности ошибки обучения.

Для решения этой проблемы предлагается использовать эвристический подход для поискового процесса в локальных минимумах. Оригинальный алгоритм Левенберга-Марквардта не позволяет совершать шаги, увеличивающие среднюю ошибку нейронной сети [12]. Предлагаемый эвристический подход заставляет алгоритм совершать «рискованные» шаги по по-

верхности ошибки в случайном направлении с нарастающей величиной шага, пытаясь таким образом выскочить из локального минимума, чтобы затем продолжить продвижение к новому минимуму, используя правила оригинального алгоритма. После нескольких неудачных попыток в данной работе предлагается использовать шесть попыток, найденный минимум признается наименьшим и алгоритм завершает свою работу.

Для описания эвристической модификации алгоритма Левенберга-Марквардта представим целевую функцию в следующем виде, где Е - локальная целевая функция (в общем случае среднеквадратическая ошибка обучения, вычисленная в выходном слое нейронной сети как половина суммы разностей желаемых и действительных выходов элементов выходного слоя, возведенных в квадрат):

1 Р м

Е К)=1К), (2)

2 р= 1 т=1

врт(Щг]) = dpm - Opm(Wy■),

где dpm - учебный (идеальный) выход нейронной сети; орт - выход нейронной сети; т - количество выходов, т = 1, М ; р - количество примеров, р = 1, Р ; Wij - весовой коэффициент между г-м и у-м нелинейными преобразователями.

В ходе реализации алгоритма Левенберга-Марквардта (в частности, при вычислении функции Е) не осуществляется вычисление матрицы Гессе (матрицы вторых частных производных целевой функции по wij), требующее больших объемов вычислительных ресурсов для обучения сети:

H =

d2 E ( w v )

52 E (w v )

d2E(wiJ)

dw2 dwidw2 dwldwJ

д2 Е ( w v ) d2E(wv) d2E(wt)

dw2 dwl dw2 dw2dwj

d2E(wv) d2E(wv) d2E(w^)

dw, dw.

dw, dw0

dw.dw.

Вычисляется матрица, аппроксимирующая матрицу Гессе:

ящ) « ./КУК) + ц Дщу), (3)

где .ЛУу) - якобиан (матрица первых производных целевой функции по Щу); УТ(Щу) - транспонированная матрица Якоби; ц - параметр Левенберга-Марквардта, является скалярной величиной, изменяющейся в процессе оптими-

зации; /Щу) - диагональная матрица из элементов главной диагонали произведения матриц

(УЩ) УК)).

Матрица Якоби имеет вид

J(w j ) =

дЕ (wv) dw, dw.

(4)

При использовании данных обозначений шаги эвристически модифицированного алгоритма Левенберга-Марквардта для обучения искусственной нейронной сети будут следующими.

Шаг 1. Инициализировать начальные значения пороговых величин 9 у, параметра Левенберга-Марквардта ц и весовых коэффициентов нейронной сети Щу случайными числами.

Шаг 2. Вычислить матрицу Якоби по формуле (4).

Шаг 3. Вычислить матрицу, аппроксимирующую матрицу Гессе, по формуле (3).

Шаг 4. Определить значение изменения весовых коэффициентов нейронной сети по выражению

Ащ = (/(М>г]).(М>г]) + Ц ДЩ))-1 е(М>г]).

Шаг 5. Скорректировать весовые коэффициенты нейронной сети для к + 1-й итерации:

Щ+1 = Щк - Ащ.

Шаг 6. Вычислить ошибку обучения нейронной сети на к + 1-й итерации по выражению (2).

Шаг 7. Сравнить величину ошибки на итерации к + 1 с заданным значением ошибки обучения нейронной сети Ео. При выполнении условия Ек+1 < Е0 обучение нейронной сети заканчивается. Если условие не выполнено, необходимо перейти к следующему шагу алгоритма.

Шаг 8. Сравнить величину ошибки на итерации к + 1 с предыдущим значением ошибки обучения нейронной сети. Если ошибка выросла по отношению к предыдущей итерации, Ек+1 > Ек, то необходимо перейти к следующему шагу алгоритма, если нет, то переход к шагу 11.

Шаг 9. Увеличить параметр Левенберга-Марквардта в 10 раз (ц: = ц10).

Шаг 10. Оценить количество неудачных попыток выхода из области локального минимума ошибки обучения нейронной сети тг < 6. Если данное условие выполняется, необходимо перейти к шагу 5. При невыполнении условия переход к шагу 2.

Шаг 11. Уменьшить параметр Левенберга-Марквардта в 10 раз (ц: = ц/10) и сохранить значения весовых коэффициентов нейронной

сети на данной итерации w¿: = w¿+\. Далее перейти к шагу 2.

Таким образом, обучение искусственной нейронной сети заканчивается при достижении заданного значения ошибки обучения. Нейронная сеть, обученная с применением интеллектуального метода, основанного на прецедент-

ных принципах машинного обучения, позволяет идентифицировать техническое состояние РТС с заданной достоверностью. А применение эвристической модификации алгоритма Левенберга-Марквардта, схематично представленного на рисунке 6, позволяет повысить скорость обучения нейронной сети, а также,

С

Начало

3

Инициализация начальных значений W H %

m

_QTL

Уменьшение параметра Левенберга-Марквардта в 10 раз и сохранение значений весовых коэффициентов данной итерации:

_Ц := Ц /10; wt := wt+!_

Рис. 6. Эвристическая модификация алгоритма Левенберга-Марквардта Fig. 6. A heuristic modification of the Levenberg-Marquardt algorithm

в отличие от оригинального алгоритма и алгоритма градиентного спуска с обратным распространением ошибки, снизить чувствительность к локальным минимумам целевой функции.

Практический эксперимент

В ходе проведения исследования оценивалось техническое состояние двух однотипных РТС на основании мониторинга показаний 8 датчиков, установленных на основных системах РТС, оказывающих непосредственное влияние на их техническое состояние. Исходная выборка включала 3 800 наблюдений, при этом объем контрольной выборки составил 15 %. Достоверность оценки технического состояния РТС составила 93 %. Можно сделать вывод [13], что при увеличении накопленной фактографической информации по обучающим прецедентам эксплуатации однотипных РТС

достоверность идентификации технического состояния РТС возрастет.

Заключение

Результаты эксперимента показывают, что предложенный метод, основанный на прецедентных принципах машинного обучения искусственных нейронных сетей, позволяет в реальном масштабе времени решать задачу идентификации текущих классов технического состояния РТС военного назначения на основе результатов измерений контролируемых параметров основных систем РТС. Реализация данного метода в виде специального ПО позволит создать комплексные системы мониторинга технического состояния РТС военного назначения [14], построенные на универсальных принципах и обеспечивающие высокий уровень достоверности идентификации технического состояния изделий.

Литература

1. Допира F.B., Щербинко A.B., Брежнев Д.Ю., Щербинко Т.А. Методический подход к построению диагностической модели поиска отказов сложной технической системы при организации восстановления ее работоспособности // Ремонт. Bосстановление. Модернизация. 2017. № S. С. 23-25.

2. Бабокин Г.И., Шпрехер Д.М. Контроль технического состояния электромеханических систем при помощи нейросетевых схем распознавания // Изв. ТулГУ. 2010. № 1. С. 109-114.

3. Допира Р^., Маслов Ф.Д., Королев B.B., Шароглазов B^. Метод акустической диагностики вращающихся частей антенно-фидерных устройств с применением самообучающейся нейросети // T-Comm: Телекоммуникации и транспорт. 2017. Т. 11. № 10. С. 45-50.

4. Kiselev M.I., Pronyakin V.I. and Tulekbaeva A.K. Technical diagnostics functioning machines and Mechanisms. IOP Conf. Ser., MSE, 2018, vol. 312. DOI: 10.1088/1757-899X/312/1/012012.

5. Генов A.A., Русаков К.Д., Хиль С.Ш. Идентификация состояния сложной технической системы в условиях неопределенности измерительной информации // Программные продукты и системы. 2017. Т. 30. № 3. С. 373-377. DOI: 10.15827/0236-235X.119.373-377.

6. Русаков К.Д., Хиль С.Ш. О задаче выбора признаков наблюдаемого состояния сложного динамического объекта в условиях различного качества измерительной информации // Нейрокомпьютеры и их применение: тез. докл. XV Bсерос. науч. конф. М.: Изд-во МГППУ, 2017. С. 246-248.

7. Хайкин С. Нейронные сети: полный курс; [пер. с англ. Н.Н. Куссуль, A.^^ Шелестова]. М.: B^ льямс, 2006. 1104 с.

8. Пекунов B.B. Извлечение информации из нейронных сетей прямого распространения в виде простых алгебраических моделей // Информационные технологии. 2017. Т. 23. № 1. С. 76-80.

9. Rumelhart D.E., Hinton G.E., Williams R.J. Learning internal representations by error propagation, in parallel distributed processing. MIT Press, 2011, vol. 1, pp. 318-362.

10. Bоронина B.B., Михеев A.B., Ярушкина Н.Г., Святов KB. Теория и практика машинного обучения. Ульяновск: Изд-во УлГТУ, 2017. 290 с.

11. Samad T. Back-propagation improvements based on heuristic arguments. Proc. IJCNN, Washington, USA, 1990, vol. 1, pp. 565-568.

12. Махотило KB., Bороненко Д.И. Модификация алгоритма Левенберга-Марквардта для повышения точности прогностических моделей связного потребления энергоресурсов в быту // bíct. НТУ «ХП1». 2005. № 56. С. 83-90 (на рус.).

13. Жуков ДА., Клячкин B.fr Bлияние объема контрольной выборки на качество диагностики состояния технического объекта // Aвгомагизация процессов управления. 201S. № 2. С. 90-95.

14. Ягольников Д.В., Допира Р.В., Шведун А.А. Интеллектуальная система информационной поддержки принятия решений при управлении технической эксплуатацией систем вооружения радиотехнических войск // Военная мысль. 2019. № 3. С. 13-19.

R.V. Dopira 1, Dr.Sc. (Engeneering), Professor, Researcher, [email protected] A.A. Shvedun 2, Postgraduate Student, [email protected] D.V. Yagolnikov 2, Ph.D. (Engeneering), Teacher, [email protected] I.E. Yanochkin 1, Ph.D. (Military Sciences), Head of Department

1 Russian Basic Information Technologies, Tver, 170001, Russian Federation 2Military Academy of the Aerospace Defense, Tver, 170100, Russian Federation

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Abstract. Due to the fact that modern military-grade radio equipment is becoming functionally and technologically more complicated, the urgency of the task of creating functional control systems and identifying technical state of radio equipment is increasing.

Nowadays, there are no effective and fully automatic systems for identifying technical state of various types of radio equipment. One of the ways to solve the problem is to create systems for identifying technical state of radio equipment is based on machine learning principles.

A distinctive feature of the application of trained artificial neural networks to solve the identifying problem is the development of a prototype of the observed situations, generalizations for the predominance and similarity in a variety of same type radio equipment, as well as high efficiency and reliability of solving this problem.

The paper presents a method for identifying technical state of radio equipment using case-law principles of machine learning of artificial neural networks. It allows solving the problem of identifying current classes of the radio equipment technical condition based on measurement results of the main system controlled parameters in real time.

Taking into account the problem specifics, the choice of a multilayer direct distribution neural network including three hidden layers is substantiated. The number of neurons of the input layer is determined by the number of controlled parameters of the technical condition of the main systems of radio equipment of a particular type. The number of output layer neurons is determined by the number of possible classes of the radio equipment technical condition. Elementary converters of this network have an activation function of a sigmoid type. To train an artificial neural network, the authors used a heuristic modification of the Levenberg-Marquardt algorithm.

Keywords: technical state identification, artificial neural networks, radio engineering tools, machine learning, data normalization, heuristic modification of the Levenberg-Marquardt algorithm.

1. Dopira R.V., Scherbinko A.V., Brezhnev D.Yu., Scherbinko T.A. Methodical approach to the construction of a diagnostic model of failures of a complex technical system when organizing the restoration of its performance. Repair. Recovery. Modernization. 2017, no. 8, pp. 23-25 (in Russ.).

2. Babokin G.I., Shpreher D.M. Control of the technical condition of electromechanical systems using neural network recognition schemes. Bulletin of Tula State Univ. 2010, iss. 1, pp. 109-114 (in Russ.).

3. Dopira R.V., Maslov F.D., Korolev V.V., Sharoglazov V.B. Acoustic diagnostics method for rotating parts of antenna-feeder devices using a self-learning neural network. T-Comm: Telecommunications and Transport. 2017, vol. 11, no. 10, pp. 45-50 (in Russ.).

4. Kiselev M.I., Pronyakin V.I., Tulekbaeva A.K. Technical diagnostics functioning machines and Mechanisms. IOP Conf. Series: Materials Science and Engineering. 2018, vol. 312. DOI: 10.1088/1757-899X/312/1/012012.

Software & Systems

DOI: 10.15827/0236-235X.128.628-638

Received 08.07.19 2019, vol. 32, no. 4, pp. 628-638

A method of identifying technical condition radio engineering means using artificial neural network technologies

References

5. Genov A.A., Rusakov K.D., Hill S.Sh. Identification of a complex technical system functional state under conditions of measurement data ambiguity. Software & Systems. 2017, vol. 30, no. 3, pp. 373-377. DOI: 10.15827/0236-235X.119.373-377 (in Russ.).

6. Rusakov K.D., Khil S.Sh. On the problem of selecting the characteristics of the observed state of a complex dynamic object under conditions of different quality of the measurement information. Proc. 15 th AllRuss. Sci. Conf. "Neurocomputers and Their Application". Moscow, MSUPE Publ., 2017, pp. 246-248 (in Russ.).

7. Khaykin S. Neural Networks: a Comprehensive Foundation. 2nd ed., Moscow, Vilyams Press, 2006, 1104 p.

8. Pekunov V.V. Information extraction from direct distribution neural networks in the form of simple algebraic models. Information Technologies. 2017, vol. 23, no. 1, pp. 76-80 (in Russ.).

9. Rumelhart D.E., Hinton G.E., Williams R.J. Learning in Parallel Distributed Processing. MIT Press, 2011, vol. 1, pp. 318-362.

10. Voronina V.V., Mikheev A.V., Yarushkina N.G., Svyatov K.V. Machine Learning Theory and Practice. Ulyanovsk, UlGTU Publ., 2017, 290 p.

11. Samad T. Back-propagation based on heuristic arguments. Proc. IJCNN. Washington, USA, 1990, vol. 1, pp. 565-568.

12. Mahotilo K.V., Voronenko D.I. Modification of the Levenberg-Marquardt algorithm to improve the accuracy of predictive models of coherent energy consumption in everyday life. Bulletin of the National Tech. Univ. Kharkiv Polytechnic Institute. Series: Computer Science and Modeling. 2005, pp. 83-90 (in Russ.).

13. Zhukov D.A., Klyachkin V.N. The Effect of the control sample volume on the quality of diagnosticsof the technical object state. Automation of Control Processes. 2018, no. 2, pp. 90-95 (in Russ.).

14. Yagolnikov D.V., Dopira R.V., Shvedun A.A. The intelligence system of information support of decision making in managing technological operation of armament systems for the radio-engineering troops. Military Thought. 2019, no. 3, pp. 13-19 (in Russ.).

Для цитирования

Допира Р.В., Шведун А.А., Ягольников Д.В., Яночкин И.Е. Метод идентификации технического состояния радиотехнических средств с применением технологий искусственных нейронных сетей // Программные продукты и системы. 2019. Т. 32. № 4. С. 628-638. DOI: 10.15827/0236-235X.128.628-638.

For citation

Dopira R.V., Shvedun A.A., Yagolnikov D.V., Yanochkin I.E. A method of identifying technical condition radio engineering means using artificial neural network technologies. Software & Systems. 2019, vol. 32, no. 4, pp. 628-638 (in Russ.). DOI: 10.15827/0236-235X.128.628-638.

i Надоели баннеры? Вы всегда можете отключить рекламу.