Научная статья на тему 'МЕТОД ПРОГНОЗИРОВАНИЯ ОСТАТОЧНОГО РЕСУРСА НА ОСНОВЕ ОБРАБОТКИ ДАННЫХ МНОГООБЪЕКТНЫХ СЛОЖНЫХ СИСТЕМ'

МЕТОД ПРОГНОЗИРОВАНИЯ ОСТАТОЧНОГО РЕСУРСА НА ОСНОВЕ ОБРАБОТКИ ДАННЫХ МНОГООБЪЕКТНЫХ СЛОЖНЫХ СИСТЕМ Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
405
80
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ИНТЕРНЕТ ВЕЩЕЙ / ПРОГНОСТИЧЕСКОЕ ОБСЛУЖИВАНИЕ / ОСТАТОЧНЫЙ РЕСУРС (RUL) / МАШИННОЕ ОБУЧЕНИЕ / ГЛУБОКОЕ ОБУЧЕНИЕ / CNN / LSTM / XGBOOST / SVM / RANDOM FOREST / INTERNET OF THING / PREDICTIVE MAINTENANCE / REMAINING USEFUL LIFE / MACHINE LEARNING / DEEP LEARNING

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Сай Ван Квонг, Щербаков Максим Владимирович

Поддержка функционирования оборудования на этапе эксплуатации с минимальными затратами является актуальной задачей для различных производств. Классические подходы к техническому обслуживанию (корректи-рующее и профилактическое обслуживание) в значительной мере теряют свою эффективность в современных условиях. Это обусловлено возрастающей сложностью многообъектных целевых технических систем и запаздыва-нием развития систем диагностики и методик технического обслуживания и ремонта. В статье описывается метод проактивного обслуживания оборудования на основе прогнозирования его остаточного ресурса (Remaining Useful Life (RUL)). Основной целью данного исследования является разработка метода прогнозирования RUL, направ-ленного на минимизацию эксплуатационных расходов при обслуживании оборудования. Основные научные ре-зультаты статьи следующие. 1. Новая архитектура системы прогностического обслуживания, функционирующая в режиме реального времени. 2. Результаты исследования эффективности применения различных подходов (как глубоких нейронных сетей, так и типовых алгоритмов машинного обучения) при прогнозировании RUL. 3. Новая гибридная модель CNN-LSTM, построенная на основе объединения сверточных нейронных сетей (CNN) и сетей долгой краткосрочной памяти (LSTM), превосходящая аналоги при решении задачи прогнозирования RUL на данных Turbofan Engine Degradation Simulation Data Set от NASA

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Сай Ван Квонг, Щербаков Максим Владимирович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

A DATA-DRIVEN METHOD FOR REMAINING USEFUL LIFE PREDICTION OF MULTIPLE-COMPONENT SYSTEMS

Supporting the operation of the equipment at the operational stage with minimal costs is an urgent task for various industries. Classical approaches to maintenance of systems lose their effectiveness in modern conditions. The article describes a data-driven method of proactive maintenance of equipment based on predicting the remaining useful life (RUL). The main purpose of this research is to develop a method of predicting the RUL aimed at minimizing operating costs in the maintenance of equipment. Contributions of the paper are: i) a new architecture of real-time predictive maintenance system; ii) the study of the effectiveness of different approaches (both deep neural networks and typical algorithms of machine learning) in RUL predicting; iii) a new hybrid CNN+LSTM model based on the combination of convolutional neural networks (CNN) and long short-term memory networks (LSTM), superior analogues in solving the problem of predicting the RUL using Turbofan Engine Degradation Simulation Data Set from NASA

Текст научной работы на тему «МЕТОД ПРОГНОЗИРОВАНИЯ ОСТАТОЧНОГО РЕСУРСА НА ОСНОВЕ ОБРАБОТКИ ДАННЫХ МНОГООБЪЕКТНЫХ СЛОЖНЫХ СИСТЕМ»

23. Tikhonov Aleksey. Altsoph's blog. Double-sided QR-Code. Available at: https://medium.com/altsoph/double-sided-qr-code-c946468f05d4 (accessed 30.03.2019).

24. Two dimensional data encoding structure and symbology for use with optical readers. Available at: http://patft.uspto.gov/netacgi/nphParser?Sect1=PTO1&Sect2=HITOFF&d=PALL&p=1&u=%2Fnetahtml%2FPTO%2Fsrc hnum.htm&r=1&f=G&l=50&s1=5,591,956.PN.&0S=PN/5,591,956&RS=PN/5,591,956 (accessed 30.03.2019).

25. QR-code development story. Available at: https://www.denso-wave.com/en/technology/vol1.html/ (accessed 30.03.2019).

26. QR Code Error Correction . Available at: https://blog.qrstuff.com/2011/12/14/qr-code-error-correction (accessed 30.03.2019).

27. QR-kody -problemy bezopasnosti: ne potoropilis li my [QR codes - security concerns: whether we hurried]. Available at: https://letstalkpayments.com/qr-codes-security-challenges (accessed 17.03.2019).

28. Wounded QR codes. Available at: http://datagenetics.com/blog/november12013/index.html (accessed 18.06.2018).

29. What is a QR Code? Available at: https://www.qrcode.com/en/about/ (accessed 18.06.2018).

30. Wounded QR codes. DataGenetics. Available at: http://datagenetics.com/blog/november12013/index.html (accessed 30.03.2019).

31. Wounded QR codes. Available at: http://datagenetics.com/blog/november12013/index.html (accessed 18.06.2018).

УДК 004.02 + 004.855.5(6)

МЕТОД ПРОГНОЗИРОВАНИЯ ОСТАТОЧНОГО РЕСУРСА НА ОСНОВЕ ОБРАБОТКИ ДАННЫХ МНОГООБЪЕКТНЫХ СЛОЖНЫХ СИСТЕМ1

Статья поступила в редакцию 27.02.2019, в окончательном варианте — 08.03.2019.

Сай Ван Квонг, Волгоградский государственный технический университет, 400005, Российская Федерация, г. Волгоград, пр. Ленина, 28,

аспирант, e-mail: [email protected]

Щербаков Максим Владимирович, Волгоградский государственный технический университет, 400005, Российская Федерация, г. Волгоград, пр. Ленина, 28,

доктор технических наук, профессор, e-mail: [email protected]

Поддержка функционирования оборудования на этапе эксплуатации с минимальными затратами является актуальной задачей для различных производств. Классические подходы к техническому обслуживанию (корректирующее и профилактическое обслуживание) в значительной мере теряют свою эффективность в современных условиях. Это обусловлено возрастающей сложностью многообъектных целевых технических систем и запаздыванием развития систем диагностики и методик технического обслуживания и ремонта. В статье описывается метод проактивного обслуживания оборудования на основе прогнозирования его остаточного ресурса (Remaining Useful Life (RUL)). Основной целью данного исследования является разработка метода прогнозирования RUL, направленного на минимизацию эксплуатационных расходов при обслуживании оборудования. Основные научные результаты статьи следующие. 1. Новая архитектура системы прогностического обслуживания, функционирующая в режиме реального времени. 2. Результаты исследования эффективности применения различных подходов (как глубоких нейронных сетей, так и типовых алгоритмов машинного обучения) при прогнозировании RUL. 3. Новая гибридная модель CNN-LSTM, построенная на основе объединения сверточных нейронных сетей (CNN) и сетей долгой краткосрочной памяти (LSTM), превосходящая аналоги при решении задачи прогнозирования RUL на данных Turbofan Engine Degradation Simulation Data Set от NASA.

Ключевые слова: интернет вещей, прогностическое обслуживание, остаточный ресурс (RUL), машинное обучение, глубокое обучение, CNN, LSTM, XGBoost, SVM, Random Forest

A DATA-DRIVEN METHOD FOR REMAINING USEFUL LIFE PREDICTION OF MULTIPLE-COMPONENT SYSTEMS

The article was received by editorial board on 27.02.2019, in the final version — 08.03.2019.

Sai Van Cuong, Volgograd State Technical University, 28 Lenin Avе., Volgograd, 400005, Russian Federation,

post-graduate student, e-mail: [email protected]

Shcherbakov Maksim V., Volgograd State Technical University, 28 Lenin Ауе., Volgograd, 400005, Russian Federation,

Doct. Sci. (Engineering), Professor, e-mail: [email protected]

1 Работа выполнена при поддержке РФФИ, проект № 16-37-60066_мол_дк.

Supporting the operation of the equipment at the operational stage with minimal costs is an urgent task for various industries. Classical approaches to maintenance of systems lose their effectiveness in modern conditions. The article describes a data-driven method of proactive maintenance of equipment based on predicting the remaining useful life (RUL). The main purpose of this research is to develop a method of predicting the RUL aimed at minimizing operating costs in the maintenance of equipment. Contributions of the paper are: i) a new architecture of real-time predictive maintenance system; ii) the study of the effectiveness of different approaches (both deep neural networks and typical algorithms of machine learning) in RUL predicting; iii) a new hybrid CNN+LSTM model based on the combination of convolutional neural networks (CNN) and long short-term memory networks (LSTM), superior analogues in solving the problem of predicting the RUL using Turbofan Engine Degradation Simulation Data Set from NASA.

Key words: internet of thing, predictive maintenance, remaining useful life, machine learning, deep learning, CNN, LSTM, XGBoost, SVM, Random Forest

Graphical annotation (Графическая аннотация)

Анализ и прогнозирование Analysis and prediction

Данные об условиях

работы Environmental data

Данные о состоянии оборудования Machine data

Техническое обслуживание Maintenance

Планирование Planning

Результаты анализа Analysis results

Введение. Обеспечение работоспособности оборудования с минимальными затратами является актуальной задачей для различных производств [3]. Согласно статистике, из-за неэффективного технического обслуживания наблюдается двукратный рост расходов на обеспечение функционирования оборудования [8]. В условиях быстрого роста сложности многообъектных целевых технических систем и выполняемых ими функций для обеспечения высокой степени надежности функционирования оборудования возникает необходимость пересмотра существующих механизмов реализации обеспечивающих систем и процедур принятия решений. С другой стороны, классические подходы к организации технического обслуживания (профилактическое и корректирующее техническое обслуживание) при таких условиях в значительной мере теряют свою эффективность.

Например, зачастую плановое профилактическое техническое обслуживание оборудования в ситуациях с щадящими условиями его эксплуатации выполняется достаточно рано, когда реальной необходимости в таких операциях еще не возникло. Это приводит к увеличению трудоемкости работ по техническому обслуживанию, а в ряде случаев и к неоправданному расходу деталей, если их замена предусматривается регламентами проведения работ.

Или, наоборот, корректирующие решения принимаются и реализуются уже после возникновения проблемы и ее обнаружения. При этом «запаздывание» технического обслуживания может приводить к предаварийным и аварийным ситуациям, сокращать длительность жизненного цикла оборудования.

Исходя из анализа работ [1, 10], следует сделать вывод, что проактивная стратегия технического обслуживания и ремонта оборудования (ТОиР) является наиболее эффективной и целесообразной для внедрения в современных экономических условиях. Данная стратегия позволяет переходить от грубого планового обеспечения к обеспечению функционирования оборудования по его фактическому состоянию - за счет разработки и внедрения интеллектуальных систем, выполняющих функции предсказательной аналитики и предсказательного обслуживания. Такой подход позволяет выполнять обслуживание наиболее эффективным с экономической точки зрения образом и перейти к ремонту по состоянию и, как следствие, обеспечить увеличение межремонтного интервала.

«Ресурс» является важнейшей характеристикой, определяющей продолжительность безопасной

эксплуатации как отдельных производственных объектов, так и сложных технических систем [2]. Основанием для принятия решения о возможности и условиях дальнейшей эксплуатации технического устройства (единицы оборудования) являются результаты оценки его остаточного ресурса (Remaining Useful Life (RUL)). Оценка RUL является ключевой операцией для технического обслуживания по состоянию [20].

Развитие и удешевление повсеместных (ubiquitous) систем сбора данных и удешевление систем сбора данных, в том числе в дистанционном режиме и в реальном масштабе времени, позволяет собирать большие объемы данных о многообъектных целевых системах. Последующая обработка собранных данных позволяет как выявлять факторы, влияющие на состояние оборудования, так и получать прогнозные модели с использованием методов интеллектуального анализа данных и машинного обучения.

Основными научными результатами статьи являются следующие. 1. Предложена новая архитектура системы прогностического обслуживания оборудования, функционирующая в режиме реального времени. 2. Проведено исследование эффективности различных подходов (как глубоких нейронных сетей, так и типовых алгоритмов машинного обучения) при прогнозировании RUL. 3. Предложена новая гибридная модель CNN-LSTM на основе объединения сверточных нейронных сетей (CNN) и сетей долгой краткосрочной памяти (LSTM). Новая модель превосходит аналоги при решении задачи прогнозирования RUL на данных Turbofan Engine Degradation Simulation Data Set от NASA. Используемый метод основан на принципах про-активной поддержки принятия решений в рамках подхода на основе обработки данных (data-driven подхода), позволяющего перейти к обслуживанию по фактическому состоянию оборудования.

Постановка задачи. Будем считать, что имеются значения характеристик системы, записанные в течение экспуатационного срока службы одного или нескольких экземпляров (единиц) однотипного оборудования. Датчики являются источниками информации о состоянии узлов и агрегатов оборудования и об условиях его эксплуатации. Для каждого экземпляра оборудования i ЕЕ, многомерные сенсорные данные могут быть представлены в виде временных рядов x(l) = jx(l), x(l),...,х^}, где T(l) - длина временных рядов для i-го экземпляра, х(1) Е Мп - n-мерный вектор, соответствующий показаниям п датчиков в момент времени t. Для экземпляра оборудования i, для которого был зафиксирован отказ, длина Г(1) соответствует полному эксплуатационному сроку службы (от начальной приработки до момента отказа). Для текущего работающего экземпляра длина Г(1) соответствует истекшему эксплуатационному сроку службы - от начальной приработки до текущего наблюдаемого момента времени.

Задача заключается в определении временной метки RULto возникновения отказа на основе имеющихся сенсорных данных:

RULto = G(xj^),

при этом RUL(t0) = t1 — t0, если t±> t0, где t1 - момент времени, на котором произошёл отказ (максимальное время работы системы), t0 - текущее время наблюдения за работой системы. Графическое представление постановки задачи иллюстрируется рисунком 1.

Обзор литературных источников. Ключевой целью в прогностическом техническом обслуживании является прогнозирование остаточного ресурса (RUL) оборудования для поддержки различных видов деятельности по принятию решений, таких как планирование работ, устранение неисправностей [19]. RUL - это остаточное время компонента или системы выполнения своих функциональных возможностей до момента появления отказа [25].

Методы предсказания RUL могут быть классифицированы на методы, основанные на обработке данных (data-driven methods), и методы, основанные на моделях (model-based methods) [12]. Методы, основанные на моделях (МОМ), используют математические или физические модели для описания поведения и процессов деградации оборудования, при этом значения параметров изменяются на основе собранных данных [7, 9]. Основной недостаток МОМ заключается в необходимости регулярной структурной и параметрической оптимизации моделей из-за динамически меняющегося окружения [14]. Кроме того, сложные системы требуют значительных затрат на создание и настройку МОМ, в том числе и с привлечением экспертов [26]. Для преодоления данных недостатков были предложены и в настоящее время активно развиваются методы, основанные на использовании данных для предсказания RUL [6].

Методы, основанные на обработке данных (МОД), описывают процесс деградации оборудования на основе измеряемых данных с использованием методов машинного обучения [13]. Эти методы основываются на предположении, что статистические оценки данных относительно стабильны при функционировании в штатном режиме (если неисправность не возникает). Таким образом, точность предсказания МОД зависит не только от количества, но и от качества исторических (накопленных) данных [12]. МОД обладают свойствами универсальности, поскольку они абстрагированы от физической природы объектов, не требует знаний его внутренней структуры и функциональных связей между элементами [10].

МОД могут быть построены на основании алгоритмов машинного обучения, таких как метод опорных векторов (SVM), случайный лес (RF), деревья решений (CART), экстремальный градиентный бустинг (XGBoost), метод k-ближайших соседей (KNN).

Следует отметить критику применения вышеуказанных подходов при решении задачи прогнозирования RUL [15]. Она связана, в частности, с тем, что указанные методы дают неудовлетворительные результаты при обработке сложных многомерных сенсорных данных. Кроме того, эти классические модели машинного обучения обычно основаны на процессе инженерии признаков (feature engineering), в результате которого для создания и отбора нужных признаков используется опыт экспертов в данной области. Последнее, как правило, затрудняет повторное использование разработанных моделей, поскольку инженерия признаков специфична для конкретного сценария проблемы. Возможно, наиболее привлекательной частью применения глубокого обучения в области предсказательного обслуживания является тот факт, что эти сети могут автоматически извлекать нужные признаки из данных, устраняя необходимость в ручном feature engineering.

Это подтверждается результатами прогнозирования остаточного ресурса на основе нейронных сетей долгой краткосрочной памяти (Long short-term memory (LSTM)) [27] и свёрточных нейронных сетей (Convolutional Neural Network (CNN)) [11].

Предлагаемый метод. Он основан на проактивном подходе к обслуживанию оборудования, который использует прогнозирование RUL на основе массива исторических данных. Архитектура, реализующая данный подход, представлена на рисунке 2. На основе данных формируются модели, позволяющие получить конкретные численные значения прогнозного остаточного ресурса. Полученные модели могут быть использованы для выработки рекомендаций по оптимальному использованию оборудования в онлайн-режиме.

Обучение моделей осуществляется на основе выборки данных о состоянии оборудования до «факта отказа» (от начальной приработки до момента отказа) однотипных систем или различных систем, имеющих схожее поведение (рис. 3).

Рисунок 2 - Архитектура системы прогностического обслуживания

ш

I-

о

X

0 к

X

1

к о

13

О

0

го р

го

ч

1 X

ш х

I

ш т го

I

m

1.1

0.9 О 8 0.7 0.6 0.5 0-4 0.Э 0 2 0.1

Оценка RUL на основе сходства

-■ Обучающие данные

- Текущие данные

Данные об отказе

Ч % +** I*

50

100 150

Время (ч)

200

250

Рисунок 3 - Данные о поведении однотипных систем - основание для формирования выборки данных

В работе использовались различные модели прогнозирования RUL: деревья решений (CART); метод опорных векторов (SVM); метод k-ближайших соседей (KNN); Бэггинг; случайный лес (RF); экстремальный метод градиентного бустинга (XGBoost) и глубокие нейронные сети: LSTM и CNN.

Для повышения качества прогнозирования RUL в работе также представлена гибридная CNN-LSTM, где сверточные нейронные сети (CNN) используются для извлечения пространственных свойств из многомерных сенсорных данных, а сети долгой краткосрочной памяти (LSTM) - для обучения долговременным зависимостям и формирования прогнозных значений.

На рисунке 4 представлена архитектура предложенной авторами гибридной CNN-LSTM модели.

Входные признаки для модели

\

у

J А 1

I I I I I ПГ1 I I I I I

~Y Вход

Свёрточный Подвыборочны й LSTM слой слой слои

Полносвязный слой

Рисунок 4 - Архитектура гибридной СNN-LSTM модели для прогнозирования RUL

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

На рисунке 5 представлена схема процесса выбора наилучшей модели для проактивной стратегии обслуживания оборудования на основе использования различных моделей прогнозирования ЯЦЪ.

Необработанные данные

Рисунок 5 - Схема процесса выбора наилучшей модели

Применение нескольких вышеописанных алгоритмов позволяет исключить возможность пропуска лучшей модели в соответствии с различными критериями качества. Ансамблевый подход позволяет эффективно использовать достоинства разных моделей для достижения лучшей точности прогнозирования по сравнению с применением их по отдельности.

Результаты и обсуждение. Для обоснования эффективности моделей прогнозирования RUL были проведены эксперименты, реализация которых осуществлялась на языке R [21]. Все модели глубоких нейронных сетей были реализованы с использованием модульной библиотеки Keras [16], функционирующей поверх библиотек TensorFlow от Google [17]. Все модели машинного обучения были реализованы с помощью известных R-пакетов: caret, randomForest, XGBoost [5, 18, 24].

Для проведения экспериментов был использован набор данных о деградации турбореактивного двигателя FD001. Этот набор был создан NASA Ames Prognostic Center в 2008 г. [23]. Он включает в себя обучающую и тестовую выборки. Обе выборки состоят из показаний датчиков в полете, имитирующих поведение авиационных газотурбинных двигателей и условия их работы. Эти выборки представляют собой набор данных многомерных временных рядов. Каждый двигатель в обучающей выборке работает от начальной приработки до момента отказа, а каждый двигатель в тестовой выборке работает

от начальной приработки до определенного момента времени перед отказом. Тестовая выборка не содержит данные об отказах. На основе данных из обучающей выборки необходимо выполнить прогноз остаточного ресурса для каждого двигателя в тестовой выборке. Как обучающая, так и тестовая выборки содержат данные о состоянии узлов и агрегатов двигателей (21 датчик) и состоянии систем в операционном окружении двигателя (3 датчика). Так как двигатель работает в различных режимах, на рисунках 6 и 7 представлены графики изменения значений характеристик 24 сенсоров для 10 двигателей, выбранных случайно из обучающей выборки.

Рисунок 6 - Показания датчиков о состоянии узлов и агрегатов двигателей для 10 случайно выбранных двигателей в обучающей выборке данных

Рисунок 7 - Показания датчиков о системах в операционном окружении для 10 случайно выбранных двигателей в обучающей выборке данных

Процесс подготовки данных для обучения моделей целесообразно представить следующей последовательностью шагов.

1. Вычислить RUL для каждого двигателя в обучающей выборке (из набора отказавших двигателей) и добавить в выборку данных новый столбец, соответствующий значению расчетного RUL.

2. Выполнить инженерию признаков для алгоритмов машинного обучения: удалить признаки, значения которых не изменяются, создать новые признаки из необработанных данных на основе rolling mean и rolling sd с windowsize = 5, выбрать значения 20 признаков, имеющих максимальную корреляцию с RUL.

3. Выполнить min-max нормализацию данных:

V — V .,/ Л1 лт1п

4. Создать трехмерные тензоры с формой (образцы, меткивремени, признаки) для алгоритмов глубоких нейронных сетей.

5. Подготовить тестовые данные для следующей оценки качества моделей (по аналогии с подготовкой обучающей выборки).

Обучение всех моделей на обучающем наборе данных производилось на ноутбуке под управлением операционной системы Window 10 x64 с процессором Intel(R) Core(TM) i7-8550U CPU с помощью встроенных возможностей среды разработки R.

Рассмотрим специфику настройки алгоритмов. Для алгоритмов машинного обучения:

1) обучение всех моделей осуществляется с использованием 10-блочной перекрёстной проверки (K-Fold Cross Validation, k_fold = 10 характеризует число блоков данных) и гиперпараметров по умолчанию;

2) выбор лучших моделей (в данной работе SVM, XGBoost, и Random Forest);

3) оптимизация гиперпараметров (параметров настройки алгоритма) осуществляется для каждой модели из списка лучших моделей: для поиска наилучших гиперпараметров используется приём сеточного поиска (grid search) [22]:

i) для алгоритма Random Forest лучшей комбинацией гиперпараметров являются: количество деревьев ntree = 500, количество признаков mtry = 11;

ii) для алгоритма SVM лучшей комбинацией гиперпараметров являются: РБФ-ядра с С = 10 и sigma = 0.05;

iii) для алгоритма XGBoost лучшей комбинацией гиперпараметров являются: nrounds = 500, eta = 0.1, maxdepth = 4.

Для алгоритма глубоких нейронных сетей при прогнозировании RUL были реализованы 3 модели глубоких сетей (LSTM, CNN, CNN-LSTM). Вход для всех сетей - inputshape = c(50, 18), а выход -блок Dense с 1 выходом (численное значение RUL). Dropout слой в сетях использовался для решения проблемы переобучения.

Для обучения моделей прогнозирования были использованы оптимизатор «armsprop» и функция потерь «MSE». Структуры этих моделей с обозначениями слоев в соответствии с нотацией [16] представлены на рисунке 8.

lstni l input: LiputLayer input: (None, 50,18)

output: (None, 50,18)

lstml: LSTM input: (None, 50,18)

output: (None, 50,100)

dropout_l: Dropout input: (None, 50,100)

output: (None, 50,100)

lstin_2: LSTM input: (None, 50,100)

output: (None, 50)

dropout_2: Dropout input: (None, 50)

output: (None, 50)

densel: Dense input: (None, 50)

output: (None, 1)

activation_l: Activation input: (None, 1)

output: (None, 1)

а)

max„pooling! <1_1 : MaxPooIinglD input: (None, 46,64)

output: (None, 15,64)

lstai_l: LSTM input: (None, 15,64)

output: (None, 15,100)

lstm_2: LSTM input: (None, 15,100)

output: (None, 50)

dropout_2: Dropout input: (None, 50)

output: (None, 50)

denseJL Dense input: (None, 50)

output: (None, 1)

activahon_l: Activation input: (None, 1)

output: (None, 1)

б)

convl d_l _iiiput: LiputLayer input: (None, 50,18)

output: (None, 50,18)

dropoutl: Dropout input: (None, 15,100)

output: (None, 15,100)

convld_l: ConvlD input: (None, 50,18)

output: (None, 48,64)

max_poolingld_l: MaxPooIinglD input: (None, 48,64)

output: (None, 24,64)

input: (None, 24,64)

output: (None, 1536)

dense_2: Dense input: (None, 1536)

output: (None, 64)

dense_3: Dense input: (None, 64)

output: (None, 1)

в)

Рисунок 8 - Структура нейросетевых моделей: LSTM (а), CNN-LSTM (б) и CNN (в)

Оценка моделей. В данной работе для оценки точности прогноза используется средняя квадратичная ошибка (Root Mean Square Error, RMSE), которая рассчитывается по формуле:

ЯМБЕ = = ^шеап,=1,п(е12},

где б; = (у^ — у1), уь и у^ - прогнозное и истинное значения RUL для двигателя i соответственно.

Кроме этого, для учета затрат, связанных с различными видами неправильных прогнозов, использован подход, который заключается в использовании асимметричной функции затрат для оценки. В нашем случае хорошим вариантом является функция S-score, предложенная в [7, 14]. Ее расчет осуществляется по формуле:

S-score =

SiLie

I <-

LSUe-

(y i- Ур

— 1, если yt- yt< 0

Ol- Vi)

ю — 1, если у1 — у^ >0 , где N - общее число двигателей для оценки; уь и у; - прогнозное и истинное значения RUL для двигателя i соответственно.

При выборе из нескольких моделей предпочтительна модель с наименьшим значением функции S-score.

Ошибка прогнозирования

Рисунок 9 - Сравнение функции S-score и RMSE метрики (ошибка прогнозирование = у1 - у; )

В таблице представлены значения ошибок, полученных в результате применения различных подходов для прогнозирования остаточного ресурса на двигателях в тестовом наборе данных для про-активной стратегии технического обслуживания. Исходя из приведенных в таблице данных, можно сделать вывод, что методы, основанные на глубоких нейронных сетях, дают результаты лучше других моделей машинного обучения, таких как: случайный лес (RF), экстремальный градиентного бустинга (XGBoost), метод опорных векторов (8\М). Предлагаемый метод на основе ансамбля С№Ы-Ь8ТМ превосходит другие методы по точности как по ЯМ8Е, так и по оценочному критерию 8-БС0ге.

Таблица - Результаты ошибок прогнозирования ЯНЬ, полученных различными методами

Методы RMSE S-score

CART 24.759 8669.391

SVM 21.836 2084.973

KNN 26.798 10711.539

RF 23.941 2884.107

Бэггинг 23.939 2584.048

XGBoost 22.724 2213.892

LSTM 16.235 1402.445

CNN 18.905 1871.980

CNN-LSTM 15.076 443.231

Заключение. В данной работе предложен метод прогнозирования остаточного ресурса оборудования на основе обработки данных многообъектных сложных систем, основанный на использовании ансамбля нейросетевых моделей CNN-LSTM. Рассмотрен подход, предусматривающий предварительную обработку данных для последующего построения модели. Представлена архитектура системы прогностического обуслуживания на основе прогнозирования RUL.

В результате вычислительных экспериментов на основе открытых данных NASA показано, что предлагаемая гибридная CNN-LSTM модель, основанная на объединении сверточной нейронной сети (CNN) и сети долгой краткосрочной памяти (LSTM), способна отображать динамику и сложность многомерных данных для решения задач технического обслуживания, дает более высокую точность.

Библиографический список

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1. Бобровицкий В. И. Совершенствование системы ТОиР оборудования в условиях централизации ремонтной службы предприятия / В. И. Бобровицкий, А. В. Сидоров // Вибрация машин: измерение, снижение, защита. - Донецк, 2011. - № 1 (24). - С. 23-28.

2. Рябов А. А. Обзор существующих методов оценки остаточного ресурса оборудования нефтегазопере-работки / А. А. Рябов // Нефтегазовое дело. - 2016. - № 1. - С. 198-220.

3. Современные стратегии ТОиР. - Режим доступа: http://galaktika.ua/eam/sovremennye-strategii-toir.html, свободный. - Заглавие с экрана. - Яз. рус. (дата обращения 16. 11.2018).

4. Чан Ван Фу Грамматика запросов для хранилища разнородных данных в проактивных системах / Ван Фу Чан, М. В. Щербаков, Ван Квонг Сай // Программные продукты и системы. - 2018. - № 4. - C. 659-666.

5. Caret: Classification and Regression Training. - Режим доступа: https://cran.r-project.org/web/packages/caret/index.html, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 24.01.2018).

6. Goebel K. Prognostics in battery health management / K. Goebel, B. Saha, A. Saxena, J. Celaya, J. Christophersen // IEEE Instrumentation &Measurement Magazine. - 2008. - № 8. - P. 33-40.

7. Hanachi H. A physics-based modeling approach for performance monitoring in gas turbine engines / H. Hanachi, A. Liu, Y Banerjee, A. Koul // IEEE Trans. Rel. - 2015. - № 1. - С. 6197-205.

8. Heng A. Intelligent prognostics of machinery health utilising suspended condition monitoring data / A. Heng // Queensland University of Technology. - Australia, Brisbane, 2009.

9. Huang Z. Remaining useful life prediction for a nonlinear heterogeneous Wiener process model with an adaptive drift / Z. Huang, Z. Xu, W. Wang, Y. Sun // IEEE Trans. Rel. - 2015. - № 2. - С. 687-700.

10. Khoury E. On the Use of Time-Limited Information for Maintenance Decision Support: A Predictive Approach under Maintenance Constraints / E. Khoury, E. Deloux, A. Grall, C. Berenguer // Mathematical Problems in Engineering. - 2013. - № 2. - P. 1-11.

11. Li X. Remaining useful life estimation in prognostics using deep convolution neuralnetworks / X. Li, Q. Ding, J. Sun // Reliab. Eng. Syst. Saf. - 2018. - С. 1-11.

12. Liu J. A data-model-fusion prognostic framework for dynamic system state forecasting / J. Liu, W. Wang, F. Ma, Y. Yang, C. Yang // Eng. Appl. Artif. Intell. - 2012. - № 4. - P. 814-823.

13. Liu J. A multi-step predictor with a variable input pattern for system state forecasting / J. Liu, W. Wang, F. Golnaraghi // Mech. Syst. Signal Process. - 2009. - P. 1586-1599.

14. Liu J. An adaptive recurrent neural network for remaining useful life prediction of lithiumion batteries / J. Liu, A. Saxena, K. Goebel, B. Saha, W. Wang // Annual Conference of the Prognostics and Health Management Society. -2010. - P. 1-29.

15. Mathew V. Prediction of Remaining Useful Lifetime (RUL) of Turbofan Engine using Machine Learning / V Mathew, T. Tom, S. Vikram, B. Maheswara, M. Kumar // IEEE International Conference on Circuits and Systems (ICCS 2017). - 2017.

16. R Interface to Keras. - Режим доступа: https://keras.rstudio.com/, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 06.02.2018).

17. R Interface to TensorFlow. - Режим доступа: https://tensorflow.rstudio.com/, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 06.02.2018).

18. Random Forests R Package. - Режим доступа: https://cran.r-project.org/web/packages/randomForest/, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 24.01.2018).

19. Shankar S. Remaining Useful Life Prediction through Failure Probability Computation for Condition-based Prognostics / S. Shankar // Annual Conference of the Prognostics and Health Management Society. - 2015.

20. Si S. Remaining useful life estimation-A review on the statistical data-driven approaches / S. Si , W. Wang, H. Hu, H. Zhou // Eur. J. Oper. Res. - 2013. - P. 1-11.

21. The R Project for Statistical Computing. - Режим доступа: https://www.r-project.org/, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 10.10.2018).

22. Tuning machine learning models using the caret R package. - Режим доступа: https://machinelearningmastery.com/tuning-machine-learning-models-using-the-caret-r-package/, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 15.10.2018).

23. Turbofan engine degradation simulation data set. - Режим доступа: https://c3.nasa.gov/dashlink/resources/139/, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 06.04.2018).

24. XGBoost R Package. - Режим доступа: https://xgboost.readthedocs.io/en/latest/R-package/index.html, свободный. - Заглавие с экрана. - Яз. англ. (дата обращения 24.01.2018).

25. Xiongzi C. Remaining useful life prognostic estimation for aircraft subsystems or components: A review / C. Xiongzi, Y. Jinsong, T. Diyin, W. Yingxun // 10th IEEE International Conference on Electronic Measurement & Instruments (ICEMI). - 2011. -№ 2. - P. 94.

26. Yaguo L. A Model-Based Method for Remaining Useful Life Prediction of Machinery / L. Yaguo, L. Nai-peng, G. Szymon, L. Jing, R. Stanislaw, D. Jacek // IEEE Transactions on Reliability. - 2017.

27. Yu J. Remaining useful life prediction for lithium-ion batteries using a quantum particle swarm optimization-based particle filter / J. Yu // Quality Engineering. - 2017. - Iss. 29. - P. 536-546.

References

1. Bobrovitskiy V. I., Sidorov A. V. Sovershenstvovanie sistemy TOiR oborudovaniya v usloviyakh tsentrali-zatsii remontnoy sluzhby predpriyatiya [Improvement of the equipment maintenance and repair system in the conditions of centralization of the enterprise's repair service]. Vibratsiya mashin: izmerenie, snizhenie, zashhita [Machine vibration: measurement, reduction, protection], 2011, no. 24, pp. 23-28.

2. Ryabov A. A. Obzor sushhestvuyushchikh metodov otsenki ostatochnogo resursa oborudovaniya nefte-gazopererabotki [Review of existing methods for assessing the residual life of oil and gas processing equipment]. Nefte-gazovoe delo [Oil and Gas Business], 2016. no. 1, pp. 198-220.

3. Sovremennye strategii [Modern MRO strategies]. Available at: http://galaktika.ua/eam/sovremennye-strategii-toir.html (accessed 16. 11.2018).

4. Chan Van Fu, Shcherbakov M. V., Say Van Kvong. Grammatika zaprosov dlya khranilishcha raznorodnykh dannykh v proaktivnykh sistemakh [Query grammar for storage of heterogeneous data in proactive systems]. Programmnye produkty i sistemy [Software Products and Systems], 2018, no. 4, pp. 659-666.

5. Caret: Classification and Regression Training. Available at: https://cran.r-proj ect. org/web/packages/caret/index.html (accessed 24.01.2018).

6. Goebel K., Saha B., Saxena A., Celaya J. R., and Christophersen J. P. Prognostics in battery health management. IEEE Instrumentation &Measurement Magazine, 2008, vol. 8, pp. 33-40.

7. Hanachi H., Liu J., Banerjee A., Chen Y., and Koul A. A physics-based modeling approach for performance monitoring in gas turbine engines. IEEE Trans. Rel., 2015, vol. 64, no. 1, pp. 197-205.

8. Heng A. Intelligent prognostics of machinery health utilising suspended condition monitoring data. Queensland University of Technology, Brisbane, Australia, 2009.

9. Huang Z. Y., Xu Z. G, Wang W. H., and Sun Y. X. Remaining useful life prediction for a nonlinear heterogeneous Wiener process model withan adaptive drift. IEEE Trans. Rel., 2015, vol. 64, no. 2 pp. 687-700.

10. Khoury, E., Deloux, E., Grall, A., & Berenguer, C. On the Use of Time-Limited Information for Maintenance Decision Support: A Predictive Approach under Maintenance Constraints. Mathematical Problems in Engineering, 2013, no. 2, pp. 1-11.

11. Li, X., Ding, Q., Sun, J. Remaining useful life estimation in prognostics using deep convolution neural networks. Reliab. Eng. Syst. Saf., 2018, pp. 1-11.

12. Liu J., Wang W., Ma F., Yang Y., and Yang C. A data-model-fusion prognostic framework for dynamic system state forecasting. Eng. Appl.Artif. Intell., 2012 vol. 25, no. 4, pp. 814-823.

13. Liu J., Wang W., and Golnaraghi F. A multi-step predictor with a variable input pattern for system state forecasting. Mech. Syst. Signal Process., 2009, vol. 23, pp. 1586-1599.

14. Liu J., Saxena A., Goebel K., Saha B., and Wang W. An adaptive recurrent neural network for remaining useful life prediction of lithiumion batteries. Annual Conference of the Prognostics and Health Management Society, 2010, pp. 1-9.

15. Mathew V, Tom T., Vikram S., Maheswara B., Kumar G. Prediction of Remaining Useful Lifetime (RUL) of Turbofan Engine using Machine Learning. IEEE International Conference on Circuits and Systems (ICCS 2017), 2017.

16. R Interface to Keras. Available at: https://keras.rstudio.com/ (accessed 06.02.2018).

17. R Interface to TensorFlow. Available at: https://tensorflow.rstudio.com/ (accessed 06.02.2018).

18. Random Forest R Package. Available at: https://cran.r-project.org/web/packages/randomForest/ (accessed 24.01.2018).

19. Shankar S. Remaining Useful Life Prediction through Failure Probability Computation for Condition-based Prognostics. Proceedings of the 2015 Annual Conference of the Prognostics and Health Management Society, 2015.

20. Si S., Wang W., Hu H., Zhou H. Remaining useful life estimation-A review on the statistical data-driven approaches. Eur. J. Oper. Res., 2011, pp. 1-11.

21. The R Projectfor Statistical Computing. Available at: https://www.r-project.org/ (accessed 10.10.2018).

22. Tuning machine learning models using the caret R package. Available at: https://machinelearningmastery.com/tuning-machine-learning-models-using-the-caret-r-package/ (accessed 15.10.2018).

23. Turbofan engine degradation simulation data set. Available at: https://c3.nasa.gov/dashlink/resources/139/ (accessed 06.04.2018).

24. XGBoost R Package. Available at: https://xgboost.readthedocs.io/en/latest/R-package/ (accessed 24.01.2018).

25. Xiongzi C., Jinsong Y., and Yingxun W. Remaining useful life prognostic estimation for aircraft subsystems or components: A review. 10th IEEE International Conference on Electronic Measurement & Instruments (ICEMI), 2011, no. 2, p. 94.

26. Yaguo L, Naipeng Li, Szymon Gontarz, Jing Lin, Stanislaw Radkowski, and Jacek Dybala. A Model-Based Method for Remaining Useful Life Prediction of Machinery. IEEE Transactions on Reliability, 2017.

27. Yu J. Remaining useful life prediction for lithium-ion batteries using a quantum particle swarm optimization-based particle filter. Quality Engineering, 2017, vol. 29, pp. 536-546.

i Надоели баннеры? Вы всегда можете отключить рекламу.