Научная статья на тему 'ПРОГНОЗИРОВАНИЕ ОТКАЗОВ СЛОЖНЫХ МНОГООБЪЕКТНЫХ СИСТЕМ НА ОСНОВЕ КОМБИНАЦИИ НЕЙРОСЕТЕЙ: ПУТИ ПОВЫШЕНИЯ ТОЧНОСТИ ПРОГНОЗИРОВАНИЯ'

ПРОГНОЗИРОВАНИЕ ОТКАЗОВ СЛОЖНЫХ МНОГООБЪЕКТНЫХ СИСТЕМ НА ОСНОВЕ КОМБИНАЦИИ НЕЙРОСЕТЕЙ: ПУТИ ПОВЫШЕНИЯ ТОЧНОСТИ ПРОГНОЗИРОВАНИЯ Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
626
159
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ПРЕДСКАЗАТЕЛЬНОЕ ОБСЛУЖИВАНИЕ / ОСТАТОЧНЫЙ РЕСУРС / ГЛУБОКИЕ НЕЙРОННЫЕ СЕТИ / АНСАМБЛЕВЫЕ МЕТОДЫ / ГИПЕРПАРАМЕТРИЧЕСКАЯ ОПТИМИЗАЦИЯ / PREDICTIVE MAINTENANCE / REMAINING USEFUL LIFE (RUL) / DEEP NEURAL NETWORK / ENSEMBLE METHOD / HYPERPARAMETER OPTIMIZATION

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Сай Ван Квонг, Щербаков Максим Владимирович

Для прогнозирования отказов сложных многообъектных систем в работе предложена гибридная нейросетевая модель с двумя выходами на основе сверточных нейронных сетей (convolutional neural network, CNN ) и сетей долгой краткосрочной памяти( long short-term memory; LSTM ). Сети CNN используются для извлечения пространственных свойств из многомерных сенсорных данных, а сети LSTM - для темпорального моделирования долговременных зависимостей. Первый выход предложенной модели является классификатором, позволяющим предсказать отказ системы в следующих n-шагах. Другими словами, он является идентификатором стадии деградации оборудования. Второй выход является регрессором, позволяющим оценить величину остаточного ресурса ( remaining useful life, RUL ) оборудования. Представлены результаты вычислительных экспериментов, подтверждающие высокую эффективность предложенного решения.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Сай Ван Квонг, Щербаков Максим Владимирович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

FAILURE PREDICTION OF COMPLEX MULTIPLE-COMPONENT SYSTEMS BASED ON A COMBINATION OF NEURAL NETWORKS: WAYS TO IMPROVE THE ACCURACY OF FORECASTING

The paper proposes a hybrid neural network model with two outputs based on convolutional neural networks (CNN) and long short - term memory networks (LSTM) for predicting failures of complex multi - component systems. CNN networks are used to extract spatial properties from multidimensional sensor data, and LSTM networks are used for temporal modeling of long - term dependencies. The first output of the proposed model is a classifier that allows you to predict whether the system may fail in the next n - steps of time in the future, in other words, it is an identifier of the stage of degradation of the equipment. The second output is a regressor that allows to predict the number of the remaining useful life (RUL) of the equipment at each time step. The results of computational experiments confirming the high efficiency of the proposed solution are presented.

Текст научной работы на тему «ПРОГНОЗИРОВАНИЕ ОТКАЗОВ СЛОЖНЫХ МНОГООБЪЕКТНЫХ СИСТЕМ НА ОСНОВЕ КОМБИНАЦИИ НЕЙРОСЕТЕЙ: ПУТИ ПОВЫШЕНИЯ ТОЧНОСТИ ПРОГНОЗИРОВАНИЯ»

D0I 10.21672/2074-1707.2020.49.4.049-060 УДК 004.02

ПРОГНОЗИРОВАНИЕ ОТКАЗОВ СЛОЖНЫХ МНОГООБЪЕКТНЫХ СИСТЕМ НА ОСНОВЕ КОМБИНАЦИИ НЕЙРОСЕТЕЙ: ПУТИ ПОВЫШЕНИЯ ТОЧНОСТИ ПРОГНОЗИРОВАНИЯ1

Статья поступила в редакцию 05.03.2020, в окончательном варианте -11.03.2020.

Сай Ван Квонг, Волгоградский государственный технический университет, 400005, Российская Федерация, г. Волгоград, пр. Ленина, 28,

аспирант, e-mail: svcuonghvktqs@gmail.com

Щербаков Максим Владимирович, Волгоградский государственный технический университет, 400005, Российская Федерация, г. Волгоград, пр. Ленина, 28,

доктор технических наук, профессор, e-mail: maxim.shclierbakov@vstu.ru

Для прогнозирования отказов сложных многообъектных систем в работе предложена гибридная нейросе-тевая модель с двумя выходами на основе сверточных нейронных сетей (convolutional neural network, CNN) и сетей долгой краткосрочной памяти (long short-term memory; LS7M). Сети CNN используются для извлечения пространственных свойств из многомерных сенсорных данных, а сети LSTM — для темпорального моделирования долговременных зависимостей. Первый выход предложенной модели является классификатором, позволяющим предсказать отказ системы в следующих п-шагах. Другими словами, он является идентификатором стадии деградации оборудования. Второй выход является регрессором, позволяющим оценить величину остаточного ресурса (remaining usefiil life, RUL) оборудования. Представлены результаты вычислительных экспериментов, подтверждающие высокую эффективность предложенного решения.

Ключевые слова: предсказательное обслуживание, остаточный ресурс, глубокие нейронные сети, ансамблевые методы, гиперпараметрическая оптимизация

Графическая аннотация (Graphical annotation)

Многомерные сенсорные сигналы

i 3

100 200 300

100 200 300

200 300

Гибридная нейросетевая модель

Классификатор ■

Если деградация

CNN-LSTM

Регресор RUL

Планирование

Техническое обслуживание

FAILURE PREDICTION OF COMPLEX MULTIPLE-COMPONENT SYSTEMS BASED ON A COMBINATION OF NEURAL NETWORKS: WAYS TO IMPROVE THE ACCURACY OF FORECASTING

The article was received by the editorial board on 05.03.202006, in the final version -11.03.2020.

Sai Van Cuong, Volgograd State Technical University, 28 Lenin Ave., Volgograd, 400005, Russian Federation,

post-graduate student, e-mail: svcuonghvktqs@gmail.com

Shcherbakov Maksim K, Volgograd State Technical University, 28 Lenin Ave., Volgograd, 400005, Russian Federation,

Doct. Sci. (Engineering), Professor, e-mail: maxim.shcherbakov@gmail.com

The paper proposes a hybrid neural network model with two outputs based on convolutional neural networks (CNN) and long short-term memory networks (LSTM) for predicting failures of complex multi-component systems. CNN networks are used to extract spatial properties from multidimensional sensor data, and LSTM networks are used for temporal modeling of long-term dependencies. The first output of the proposed model is a classifier that allows

1 Работа выполнена при поддержке РФФИ, проект № 19-47-340010_р_а.

you to predict whether the system may fail in the next n-steps of time in the future, in other words, it is an identifier of the stage of degradation of the equipment. The second output is a regressor that allows to predict the number of the remaining useful life (RUL) of the equipment at each time step. The results of computational experiments confirming the high efficiency of the proposed solution are presented.

Key words: predictive maintenance, remaining useful life (RUL), deep neural network, ensemble method, hyperparameter optimization

Введение. В современных экономических условиях обеспечение технического обслуживания и ремонта (ТОиР) оборудования на промышленных предприятиях [2], на транспорте, в высокотехнологичных медицинских организациях [1] и пр. играет важнейшую роль. Одним из основных факторов, оказывающих влияние на рентабельность деятельности предприятий в различных отраслях промышленности, являются простои и отказы оборудования, сопровождающиеся большими производственными потерями. Это сказывается на повышении себестоимости производства продукции и снижает конкурентоспособность предприятий, работающих в различных предметных областях. Аналогично для медицинских организаций простои медоборудования ухудшают «доступность и качество» медицинской помощи и, как следствие, конкурентоспособность на рынке оказания медицинских услуг.

Обеспечение надежного функционирования оборудования на этапе эксплуатации с минимальными затратами является актуальной задачей для различных производств/организаций с учетом следующих факторов: 1) быстрого роста сложности систем; 2) возрастающих рисков, связанных с простоями оборудования; 3) ужесточения условий к выполнению требований техники безопасности на производстве и охране окружающей среды.

В последнее время в рамках внедрения концепции «Индустрия 4.0» в области организации ТОиР сложной техники значительный интерес вызывают подходы, основанные на использовании передовых методов анализа больших массивов данных на базе использования инновационных технологий искусственного интеллекта. В основном речь идет о концепции предсказательного технического обслуживания (predictive maintenance (PdM)), а именно о создании предсказательных моделей для предотвращения отказов оборудования. Под прогнозированием отказа здесь понимается оценка длительности временного интервала, по истечении которого произойдет отказ оборудования. Этот интервал получил название «остаточный срок полезного использования» или «остаточный ресурс» (remaining useful life (RUL)). Достоверная оценка RUL и вероятности наступления отказа оборудования является основанием для приниятия оптимального решения при выборе стратегии воздействия на оборудование [3]. Такие решения, принятые на основе достоверного прогноза RUL, обеспечивают соблюдение оптимального баланса между затратами на проведение технологических воздействий (операций) и величиной потенциальных ущербов и рисков от отказов оборудования.

В рамках техник PdM исторически изучаются различные подходы к моделированию процесса деградации оборудования для оценки RUL: а) подходы, основанные на физической модели деградации (physical model-based methodology (МВМ)); б) подходы, основанные использовании формализованных знаний (knowledge-based methodology (КВМ))\ в) подходы, основанные на обработке и анализе данных (data-driven methodology (DDM)). Тенденции последних лет доказывают, что именно DDM обладает наибольшим потенциалом и практической эффективностью, которая продолжает наращиваться на основе использования как статистических методов анализа многомерных данных, так и методов машинного обучения. Статистические подходы включают винеровский процесс [13] и методы стохастической фильтрации [5]. Среди методов машинного обучения наибольшее распространение получили такие методы, как метод опорных векторов (support vector machine (SVM)) [8], метод случайного леса (random forest (RF)) и градиентый бустинг {gradient boosting (GB) [9]. В последнее время методы глубокого машинного обучения показали отличную производительность при прогнозировании RUL. Здесь отметим сверточные нейронные сети (Convolutional neural network (CNN)) [10] и рекуррентные нейронные сети (recurrent neural network (RNN)) [6, 7]. Одна из причин успешного применения глубоких нейронных сетей заключается в том, что они автоматически выделяют из данных важные признаки, необходимые для решения задачи [4]. В работе [3] предложенный нами гибридный метод на основе сетей CNN и LSTM дал превосходный результат по сравнению с альтернативными методами при прогнозировании остаточного ресурса авиационных газотурбинных двигателей.

Настоящая работа посвящена совершенствованию архитектуры предложенной нами гибридной модели, оптимизации гиперпараметров и преобразованию целевой переменной RUL для получения более высокой точности при прогнозировании отказов сложных многообъектных систем.

Постановка задача. Пусть эксплуатается некоторый парк однотипного оборудования типа ß. Условно будем называть такой парк оборудования парком оборудования и обозначать его как DP.

Пусть каждая единица оборудования в парке id 6 DP, id — 1, ...,т оснащена сенсорной сетью, состоящей из п сенсоров s¡id\ i — 1, — ,ns, при этом сенсоры являются источниками информации о состоянии узлов и агрегатов оборудования и об условиях его эксплуатации. Тогда парк однотипного оборудования представляется на основе сенсорных данных в следующем виде:

D& = (id, (sf^^V^)}^).

где id - уникальный идентификатор оборудования, ís^] - множество сенсоров для оборудо-

вания id Е D@\id — 1, ...,т, — данные, поступившие от сенсора s¡td^ для множества

моментов измерения Т^ — t[id\ t^,..., t^'fy, будем называть траекторией /-го сенсора для -го экземпляра оборудования id

EDP. Тогда данные, поступившие от щ сенсоров для единицы id е Dß, представляют собой многомерные временные ряды R^ :

r№ = i •• i

\ r(.m(tm л ... mrtm л /

V'l VLT(id)J Tns (LT(id)J j

Рассмотрим ситуацию, когда имеется конечное множество D\. £

DP,

состоящее из q единиц

оборудования типа ß, для которых массив показаний сенсоров Rq (t(D¡)) = {r[id\T^)\id = 1,..., q, Vid :id G i — 1,..., ns}, состоящий из прошедших наблюдение траекторий каждая из которых заканчивается выходом из строя, соответствующего экземпляра id G D^. Другими словами, в момент времени оборудование id £ D^ выходит из строя.

При изучении пришедших сенсорных данных из q единиц оборудования из множества требуется построить эффективную модель, которая позволяет предсказать в момент времени «/», выйдет ли оборудование типа ß из строя в ближайшем будущем с приемлемой точностью. Эта задача может быть сформулирована в виде одного из двух подходов. Первый подход предсказывает, существует ли вероятность отказа в следующих «-шагах по времени. Второй подход предсказывает, сколько времени осталось до следующего отказа (остаточный ресурс, RUL).

Создание целевой переменной RUL для обучения моделей. Для q единиц оборудования из множества

Dßq RUL

представляет собой линейную функцию затухания и вычисляется по формуле RUL = Т^ — где - время, на котором произошёл отказ для оборудования id, a t^ -текущее время наблюдения за его работой (рис. 1).

Однако в начале, когда оборудование работает в совершенно «здоровом» состоянии, его состояние не может быть принято как деградирующее (рис. 2). Поэтому данные мониторинга перед тем, как оборудование начинает быстро деградировать, не следует использовать дня обучения модели, потому что это может привести к тому, что модель будет ошибаться при опенке КЦЬ. Для этого целевая переменная ИШЬ преобразуется в виде кусочно-линейной функции следующим образом:

для < г <Т

где Та — момент времени начала деградация (рис. 3); Я11ЬС - постоянная величина Я11Ь. Кусочно-линейная функция КЩ, затем используется в качестве цели для обучении алгоритмов.

Sensor 3

555-554' 553-552' 551

100

200

300 О Time

Sensor 7

100

200

300

Рисунок 2 — Пример данных, полученных из двух сенсоров на двух экземплярах однотипного оборудования

^4*<v44>. — Кусочно-линейная функция RUL

RULc i i i

i i

i i i

i i Td

Time

Рисунок 3 — Кусочно-линейная функция RUL

Предложенная гибридная модель CNN-LSTM, Архитектура предложенной гибридной модели CNN-LSTM представлена на рисунке 4.

Пред ложенная модель состоит из двух основных компонентов: а) сети 1D CNN для извлечения нужных признаков; б) сети LSTM для темпорального моделирования долговременных зависимостей признаков. Модель включает полносвязанную нейронную сеть для формирования двух выходов: 1-й предсказывает, существует ли вероятность отказа на следующих n-шагах по времени — задача классификации; 2-й предсказывает, сколько времени осталось до следующего отказа (остаточный ресурс, RUL) — задача регресии.

Многомерные сенсорные данные

Детектор признаков (Фильтры)

Входные данные для моделей

Карта признаков

Входнные признаки для модели

Инструмент моделирования последовательностей Сети LSTM

Сверточный спой

Пул ин го вый слой

Экстрактор признаков Сети 1D CNN

Выход 1: Классификатор

Выход 2: Регресор

Полносвязный спой

Рисунок 4 — Архитектура предложенной гибридной модели CNN-LSTM

Первый выход дает только логический ответ, но может обеспечить высокую точность при меньшем количестве данных. Второй выход предоставляет больше информации о том, когда произойдет отказ. Главным недостатком второго выхода является то, что он даёт более точный ответ тогда, когда остаточный ресурс оборудования ближе к нулю, то есть когда оборудование находится на стадии деградации. Однако на практике мы не знаем, когда оборудование находится на этой стадии. Следовательно, не можем оценить, насколько точен ответ, который дает второй выход для принятия оптимального решения. И в этом контексте важную играет первый выход как идентификатор стадии деградации оборудования.

Свёрточные нейронные сети (convolutional neural network (CNN)) являются лучшим инструментом машинного обучения для обработки изображений и видео. Основная причина успеха в этом случае определяется высокой способностью CNN по извлечению локальной информации из больших данных путем «скольжения» сверточных фильтров по двумерным входным данным. В таких задачах используются так называемые двумерные сверточные нейронные сети (2D CNN), так как они извлекают двумерные шаблоны из изображений и применяют идентичные преобразования к каждому такому шаблону. Аналогично можно использовать одномерные свертки для извлечения одномерных шаблонов (подпоследовательностей) из данных с сенсоров в виде последовательности. Рисунок 5 отражает разницу между 1D CNN и 2D CNN.

1DCNN 2D CNN

Рисунок 5 - Разница между ID CNN и 2D CNN

Сети LSTM - особая разновидность архитектуры рекуррентных нейронных сетей (recurrent neural networks, RNN), разработаная Хохрейтером и Шмидхубером в 1997 г. LSTM имеют цепную структуру повторяющих модулей (repeating module) нейронной сети, как и стандартные RNN. Однако повторяющие модули в LSTM имеют более сложную структуру (рис. 6а) по сравнению с стандартными RNN. Благодаря этой структуре LSTM способны запоминать информацию в течение длительных периодов времени. По этой причине LSTM являются мощным инструментом для моделирования данных последовательности, в частности сенсорных данных в виде многомерных временных рядов. Рисунок 66 иллюстрирует применение сетей LSTM для моделирования данных многомерных временных рядов.

Временные шаги

yi у2 yi

А) Б)

Рисунок 6 — LSTM для моделирования данных многомерных временных рядов

У а

Окончательное состояние

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Алгоритм обучения предложенной гибридной модели CNN-LSTM показан на рисунке 7.

Рисунок 7 - Алгоритм обучения гибридной модели CNN-LSTM

Результаты и обсуждение. Для обоснования эффективности предложенной модели были проведены вычислительные эксперименты, реализация которых осуществлялась с помощью программы, написанной на языке Python. Нейросетевые модели были реализованы с использованием модульной библиотеки Keras [14], функционирующей поверх библиотек TensorFlow от Google [16].

Для проведения экспериментов был использован набор данных FD001 из широко известной базы данных C-MAPPS Dataset (NASA) [11], который содержит показания сенсоров в полете, имитирующих поведение однотипных авиационных газотурбинных двигателей и условия их работы. Этот набор включает в себя две выборки: обучающую выборку train_FD001.txt и тестовую выборку test_FD001.txt. Обе они содержат информацию по 100 двигателям. Каждый двигатель в обучающей выборке работает до отказа, а каждый двигатель в тестовой выборке — до определенного момента времени, предшествующего отказу. На основе данных из обучающей выборки необходимо предсказать отказ для каждого двигателя в тестовой выборке.

Подготовка данных для обучения сетей. Процесс подготовки данных для обучения моделей целесообразно представить в виде следующей последовательности шагов.

Шаг 1. Выбор признаков. Многомерные сенсорные данные в наборе FD001 содержат показания от 24 сенсоров. Однако при анализе и визуализации данных было обнаружено, что некоторые сенсоры имеют постоянные значения во времени. Поэтому следует исключить эти сенсорные показания из набора данных, так как они не дают ценной информации. В результате получается набор данных от 17 сенсоров.

Шаг 2. Нормализация данных. Следует отметить, что значения, полученные от разных сенсоров, имеют величины, относящиеся к самым разным диапазонам (рис. 2). Нейронные сети, конечно, смогут автоматически адаптироваться к таким разнородным данным, однако это усложнит их обучение и может негативно повлиять на качество результатов обучения. Поэтому для улучшения работы нейронных сетей воспользуемся min-max нормализацией данных в пределах [0, 1]:

У. — У . Л?пт

Шаг 3. Создание кусочно-линейной функции RUL для обучающей выборки (как описано в предыдущем разделе).

Шаг 4. Создание меток для задачи классификации. Набор данных помечается двумя классами в соответствии со значением величины RUL. Для временных шагов, где значение RUL > 40, помечается «классом 0», а там, где RUL < 40, помечается как «класс 1».

Шаг 5. Подготовка данных для обучения сетей Нейронные сети будут принимать в качестве входных данных последовательность значений. В данном случае в качестве входных данных использована матрица, состоящая из 17 признаков и фиксированного скользящего окна длиной L = 30. В результате были получены трехмерные тензоры с формой (образцы, метки_времени, признаки).

Обучение нейросетевых моделей производилось на облачном сервисе Google Colaboratory (также известного как Colab) с графическим процессором GPU NVidia TeslaK80 с 12 Гб видеопамяти

Оптимизация гиперпараметров нейросети с помощью фреймворка Keras-Tuner. Для выбора набора оптимальных гиперпараметров для обучающих сетей применялся приём случайного поиска с использованием фреймворка Keras-Tuner [15]. Keras-Tuner - это фреймворк для оптимизации гиперпараметров для моделей Keras, созданный Google. В данном случае выполняется поиск комбинации следующих гиперпараметров: количество нейронов в каждом слое; функции активации, которые используются в слоях; тип оптимизатора при обучении нейронной сети. Процедура оптимизации гиперпараметров для нейросетевых моделей представлена на рисунке 8.

Цикл поиска

Рисунок 8 — Процедура оптимизации гиперпараметров для нейросетевых моделей

Результат в виде оптимальных гиперпараметров для предложенной модели показан в таблице 1.

Таблица 1 - Набор полученных оптимальных гиперпараметров для предложенной модели

№ Тип слоя Фильтры/ нейроны Размер фильтра Регион Функция активации Коэффициент прореживания

1 ConvlD 32 5 - relu

2 ConvlD 64 3 - relu

3 MaxPool ing ID - - 3 -

4 LS TM 70 - - 0.2

5 Dense 80 - -

6 Dense (Классификатор) 1 - - sigmoid

7 Dense (Perpeccop) 1 - - linear

На рисунке 9 представлены графики изменения значений функции ошибки по эпохе при обучении предложенной модели с использованием полученных оптимальных гиперпараметров.

50-

Ш 30" <

10"

0 10 20 30

Эпоха

Рисунок 9 — Графики изменения значений функции ошибки по эпохе при обучении

Метрики оценки качества моделей. В данной работе для оценки точности регрессора используются средняя абсолютная ошибка (mean absolute error (МАЕ)), средняя квадратичная ошибка (root mean square error (RMSE)) и средняя абсолютная процентная ошибка (mean absolute percentage error (МАРЕ)). Они рассчитываются по формулам:

МАЕ = -£"=1|ег| = mean(i=1:n|et|),

RMSE= = Vmeani=1;n(e?),

MAPE= ±£?=1100.^ = meani=1;n(100.^),

где в[ = (уi — У[), Vi ™ Vi — прогнозное и истинное значения RUL для двигателя i соответственно.

Для оценки точности классификатора используется доля правильно классифицированных объектов (accuracy), точность (precision) и полнота (recall):

TP+TN _

accuracy = TP+TN+PP+FN > п0 cy™5 это вероятность того, что класс будет предсказан правильно; precision — ТР показывает, какую долю объектов, распознанных как объекты положительного

' Tp+Fp ' J 'г

класса, мы предсказали верно;

recall — -показывает, какую долю объектов, реально относящихся к положительному классу, мы предсказали верно,

где TP, TN, FP, FN - значения матрицы ошибок бинарной классификации (табл. 2).

Таблица 2 - Матрица ошибок бинарной классификации

у = 1 y = o

у = 1 True Positive (TP) False Positive (FP)

у = 0 False Negative (FN) True Negative (TN)

Примечание, у - это ответ алгоритма на объекте; у — истинная метка класса на этом объекте. ТР — истинно-положительное решение; ТЫ — истинно-отрицательное решение; БР — ложно-положительное решение (ошибка типа 1); ЕЫ—ложно-отрицательное решение (ошибка типа 2).

На рисунке 10 представлено сравнение прогнозных значений 1ШЬ и истинных значений 1ШЬ на двигателе 1(1 = 2 в обучающей выборке для линейной целевой функции 1ШЬ и кусочно-линейной целевой функции.

150-

D

m 100-

■ Actual RUL

■ Predicted RUL

Actual RUL Predicted RUL

Cycle

150 200

Cycie

а) 6)

Рисунок 10 - Сравнение прогнозных значений КЦЪ и истинных значений 1ШЪ на двигетеле [¿ = 2 в обучающей выборке: а) для линейной целевой функции 1ШЪ; б) для кусочно-линейной целевой функции КЦЬ

ЯМБЕ, по тестовым данным полученной сети, составило 12,478. Для сравнения ИУВЕ, по тестовым данным для предложенной нами гибридной модели в работе [3], составило 15,076. Таким образом, точность предлагамого алгоритма повысилась на 17 %.

Таблица 3 показывает сравнение результатов, полученных для предложенной модели с результатами других исследований применительно к решению рассматриваемой задачи.

Таблица 3 — Сравнение результатов, полученных для предложенной модели с другими исследованиями

Название модели RMSE Год публикации

SVM [7] 29,82 2013

CNN [9] 18,45 2016

LSTM [5] 17,84 2017

Глубокие LSTM [6] 16,74 2018

DenseStacking Ensemble [11] 16,67 2019

Предложенная CNN-LSTM-модель 12,48 -

На рисунке 11 представлена визуализация реальных значений 1ШЬ и прогнозных значений ЯНЬ, полученных с помощью предложенной модели.

Actual RUL • Predicted RUL

100-

ZI

50-

f—*

f* J

0

75

25 50

Engine Number

Рисунок 11 — Результаты прогнозирования RUL тестовых двигателей (по возрастанию RUL)

Следует отметить, что при возрастании величины RUL точность прогнозирования уменьшается. Другими словами, модель даёт более точные прогнозы, когда двигатель находится ближе к моменту отказа. Это подтверждается результатами, показанными в таблице 4. Она содержит результаты ошибки прогнозирования, полученные с помощью предложенной модели для прогнозирования остаточного ресурса на двигателях в тестовом наборе по различным группам.

Таблица 4 — Ошибки прогнозирования RUL предложенной модели на различных группах двигателей

Ошибка прогнозирован™ Группа 1 (.RUL <40) Группа 2 ( 40 < RUL < 80) Группа 3 (RUL > 80) Для всех двигателей

МАЕ 2,043977 9,047644 12,61425 8,561976

RMSE 3,024680 11,13613 16,23768 12,47810

МАРЕ 9,323707 15,74691 12,10987 11,92597

Точности классификации для предложенной гибридной модели на тестовых двигателях показаны в таблице 5.

Таблица 5 - Результаты для точности классификации состояний оборудования на данных по тестовым двигателям

Accuracy Precision Recall

Классификатор CNN-LSTM 99% 100 % 98,7 %

Заключение. Результаты моделирования показывают, что предложена» гибридная нейросе-тевая модель CNN-LSTM с двумя выходами, основанная на использовании сверточной нейронной сети (CNN) и сети долгой краткосрочной памяти (LSTM), превосходит аналоги при тестировании на базе данных C-MAPPS. Полученные результаты и алгоритмы могут быть использованы в системах превентивного обслуживания оборудования с целью высоконадежной идентификации стадии его деградации и прогнозирования отказов сложных многообъектных систем.

Библиографический список

1. Брумштейн Ю. М. Управление парком оборудования в российских медицинских учреждениях: технологии принятия и реализации решений, оценки их результативности / Ю. М. Брумштейн, Е. В Пфандер //Прикаспийский журнал: управление и высокие технологии. - 2017. - № 4 (40). - С. 110-125. (http ://hi-tech.asu.edu.ru/files/4(40)/l 10-125.pdf)

2. Ерохин Е. А. Особенности организации служб технического осблуживания оборудования на предприятиях / Е. А Ерохин // Экономинфо. - 2009. - № 12. - С. 11-13.

3. Сай Ван Квонг. Метод прогнозирования остаточного ресурса на основе обработки данных многообь-ектных сложных систем / Сай Ван Квонг, М. В. Щербаков // Прикаспийский журнал: управление и высокие технологии. -2019. -№ 1 (45). - С. 33^4. (http://M-tech.asu.edu.ru/files/l(45)/33-44.pdf)

4. Сай Ван Квонг. Глубокие нейронные сети для предсказательного технического обслуживания / Сай Ван Квонг // Моделирование, оптимизация и информационные технологии (МОИТ). — 2019. — Т. 7, № 4 (27). — 11 с. DOI: 10.26102/2310-6018/2019.27.4.011.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

5. Cui L. A novel Switching Unscented Kaiman Filter method for remaining useful life prediction of rolling bearing / L. Cui, X. Wang, Y. Xu, H Jiang, J. Zhou // Measurement. - 2019. - № 135. - P. 678-684.

6. Dong D. Life prediction of jet engines based on LSTM-recurrent neural networks / D. Dong, X. Li, F. Sun // Prognostics and System Health Management Conference. - 2017. - P. 1-6.

7. Hsu C. S. Remaining useful life estimation using Long short-term memory deep learning / C. S. Hsu, J. R. Jiang // IEEE International Conference on Applied System Invention. -2018. - P. 58-61.

8. Louen C. A new framework for remaining useful life estimation using Support Vector Machine classifier / C. Louen, S. X. Ding, C. Kandier // Conference on control and Fault-Tolereant Systems. - 2013. - P. 228-233.

9. Patil S. Remaining Useful Life (RUL) Prediction of Rolling Element Bearing Using Random Forest and Gradient Boosting Technique / S. Patil, A. Patil, V. Handikherkar, S. Desai, V M. Phalle & F. S. Kazi // ASME 2018 International Mechanical Engineering Congress and Exposition. American Society of Mechanical Engineers Digital Collection.-2018.

10. Sateesh Babu G. Deep Convolutional Neural Network Based Regression Approach for Estimation of Remaining Useful Life / G. Sateesh Babu, P. Zhao, X. L. Li // International Conference on Database Systems for Advanced Applications. -2016. -P. 214-228.

11. Saxena A., Goebel K. Turbofan Engine Degradation Simulation Data Set. - Режим доступа: https://ti.arc.nasa.gov/tech/dash/groups/pcoe/prognostic-data-repository, свободный. - Заглавие с экрана. -Яз. англ. (дата обращения: 14.08.2019).

12. Singh S. К. A novel soft computing method for engine RUL prediction / S. K. Singh, S. Kumar, J. P. Dwivedi // Multimed. Tools Appl. - 2019 - № 78. - P. 4065- 4087.

13. Zhang Z. Degradation data analysis and remaining useful life estimation: A review on Wiener-process-based methods / Z. Zhang, X. Si, C. Hu, Y. Lei // Eur. J. Oper. Res. - 2018. - № 271. - P. 775-796.

14. Keras: The Python Deep Learning library. - Режим доступа: https://keras.io/, свободный. - Заглавие с экрана. -Яз. англ. (дата обращения: 12.12.2019).

15. Keras Tuner. - Режим доступа: https://keras-team.github.iQ/keras-tuner/, свободный. - Заглавие с экрана. -Яз. ант. (дата обращения: 15.01.2020).

16. Tensorflow. - Режим доступа: https://www.tensorflow.org/, свободный. - Заглавие с экрана. - Яз. ант. (дата обращения: 08.12.2019).

References

1. Brumshteyn Yu. М., Pfander E.V Upravlenie parkom oborudovaniya v rossiyskikh meditsinskikh uchrezhdeniyakh: tekhnologii prinyatiya i realizatsii resheniy, otsenki ikh rezultativnosti [Management of efficiency of operation of the park of the medical equipment in stationary medical institutions: the system analysis of the purposes, methods of acceptance and implementation of decisions, criteria for evaluation of the achieved results].

Prikaspiyskiy zhumal: upravleme i vysokie tekhnologii [Caspian Journal: Control and High Technologies], 2017, no. 4 (40), pp. 110-125. (http://hi-tech.asu.edu.ru/files/4(40)/l 10-125.pdf)

2. Erokhin E. A. Osobennosti organizatsii sluzhb tekhnicheskogo osbluzhivaniya oborudovaniya na predpriya-tiyakh [Characteristics of organization of equipment maintenance services at enterprises]. Ekonominfo [Econominfo], 2009, no. 12, pp. 11-13.

3. Say Van Kvong, Shcherbakov M. V. Metod prognozirovaniya ostatochnogo resursa na osnove obrabotki dannykh mnogoobektnykh slozhnykh system [A data-driven method for remaining useful life Prediction of multiple-component systems]. Prikaspiyskiy zhurnal: upravleme i vysokie tehnologii [Caspian Journal: Control and High Technologies], 2019, no. 1 (45), pp. 33^14. (http://hi-tech.asu.edu.ru/files/l(45)/33^4.pdf)

4. Say Van Kvong. Glubokie neyronnye seti dlya predskazatelnogo tekhnicheskogo obsluzhivaniya [Deep neural networks for predictive maintenance]. Modelirovanie, optimizatsiya i informatsionnye tekhnologii (MOIT) [Modeling, optimization and information technology], 2019, vol. 7, no. 4 (27). 11. p. DOI: 10.26102/2310-6018/2019.27.4.011.

5. Cui L., Wang X., Xu Y, Jiang H., Zhou J. A novel Switching Unscented Kalman Filter method for remaining useful life prediction of rolling bearing. Measurement, 2019, no. 135, pp. 678-684.

6. Dong D., Li X., Sun F. Life prediction of jet engines based on LSTM-recurrent neural networks. Prognostics and System Health Management Conference, 2017, pp. 1-6.

7. Hsu C. S., Jiang J. R, Remaining useful life estimation using long short-term memory deep learning. IEEE International Conference on Applied System Invention, 2018, pp. 58-61.

8. Louen C., Ding S. X., Kandler C. A new framework for remaining useful life estimation using Support Vector Machine classifier. Conference on control andFault-Tolereant Systems, 2013, pp. 228-233.

9. Patil S., Patil A., Handikherkar V, Desa S., Phalle V M. & Kazi F. S. Remaining Useful Life (RUL) Prediction of Rolling Element Bearing Using Random Forest and Gradient Boosting Technique. ASME 2018 International Mechanical Engineering Congress and Exposition. American Society of Mechanical Engineers Digital Collection, 2018.

10. Sateesh Babu G., Zhao P., Li, X. L. Deep Convolutional Neural Network Based Regression Approach for Estimation of Remaining Useful Life. International Conference on Database Systems for Advanced Applications, 2016, pp. 214-228.

11. Saxena A., Goebel K. Turbofan Engine Degradation Simulation Data Set. Available at: https://ti.arc.nasa.gov/tech/dash/groups/pcoe/prognostic-data-repository (accessed 14.08.2019).

12. Singh S. K, Kumar S., Dwivedi J. P. A novel soft computing method for engine RUL prediction. Multimed Tools Appl., 2019, no. 78, pp. 4065^087.

13. Zhang Z., Si X., Hu C., Lei Y., Degradation data analysis and remaining useful life estimation: A review on Wiener-process-based methods. Eur. J. Oper. Res., 2018, no. 271, pp. 775-796.

14. Keras: The Python Deep Learning library. Available at: https://keras.io/ (accessed 12.12.2019).

15. Keras Tuner. Available at: https://keras-team.github.io/keras-tuner/ (accessed 15.01.2020).

16. Tensorflow. Available at: https://www.tensorflow.org/ (accessed 08.12.2019).

i Надоели баннеры? Вы всегда можете отключить рекламу.