CC BY
30II. ИНФОРМАЦИОННЫЕ СИСТЕМЫ. АВТОМАТИЗАЦИЯ И СИСТЕМЫ
УПРАВЛЕНИЯ
УДК 65.012.12:311.2
Andrey V. Makshanov2, Alexander A. Musaev1
CHAOTIC PROCESSES FORECASTING BASED ON PRECEDENTIAL DATA ANALYSIS
1St Petersburg State Institute of Technology (Technical University), Moskovskiy Pr., 26, St Petersburg, Russia 2Admiral Makarov state University of maritime and inland Shipping, Dvinskaya st., 5/7, Saint-Petersburg, Russia e-mail: amusaev@technolog.edu.ru
The problem of predicting of chaotic processes - which are typical for evoUution of parameters of unstable systems - is considered. Examples of such systems are gas, hydro, and thermodynamic media whose state dynamics are described by a system of open nonlinear equations. In that case, the traditional methods of extrapolation approach are ineffective. The multiplicity of bifurcation points leads to the fact that even minor perturbations can radically change thhe dynamics of thhe observed process. In this regard, the article presents precedential forecasting algorithms. The proposed method is based on a combination of statistical analysis and machine learning techniques.
Keywords: forecasting, chaotic processes, precedential analysis, analogs, precedent, nearest neighbor method, metrics.
001 10.36807/1998-9849-2020-55-81-85-90
Введение
Реальные стохастические процессы и отвечающие им ряды наблюдений на практике часто не соответствуют упрощенным математическим моделям, широко используемым в задачах прогнозирования и управления. В частности, динамические процессы, протекающие в нестабильных газодинамических средах [1, 2, 3 и др.], некорректно описывать традиционной аддитивной моделью прямых наблюдения вида
Ук = Хк + , к = 1,...,п , С1)
где системная составляющая Хк, к = 1,...,п ,
используемая в процессе принятия решений, представляет собой неизвестный детерминированный процесс, подлежащий идентификации, а у , к = 1,...,п - случайный процесс, имитирующий
шумы системы или погрешности измерений.
Заметим, что структура модели (1), в
Макшанов А.В. 2, Мусаев А.А. 1
ПРОГНОЗИРОВАНИЕ ХАОТИЧЕСКИХ ПРОЦЕССОВ НА ОСНОВЕ
ПРЕЦЕДЕНТНОГО АНАЛИЗА ДАННЫХ
1Санкт-Петербургский государственный технологический институт (технический университет), Московский пр., 26, Санкт-Петербург, Россия Государственный университет морского и речного флота им. адм. С.О. Макарова, ул. Двинская, 5/7, Санкт-Петербург, Россия e-mail: amusaev@technolog.edu.ru
Рассмотрена задача прогнозирования хаотических процессов, характерных для эволюции параметров нестабильных систем. Примерами таких систем являются газо-, гидро- и термодинамические среды/, динамика состояния которых описывается системой открытых нелинейных уравнений. В этом случае традиционные методы/ экстраполяционного подхода оказываются неэффективны/ми. Множественность бифуркационных точек приводит к тому, что даже незначительные возмущения могут радикально изменить динамику наблюдаемого процесса. В связи с этим в статье представлены/ алгоритмы/ прецедентного прогноза, основанны/е на сочетании методов статистического анализа и машинного обучения.
Ключевые слова: прогнозирование, хаотические процессы, прецедентный анализ, аналоги, прецедент, метод ближайшего соседа, метрики.
Дата поступления -17 сентября 2020 года
принципе, может быть сохранена, хотя трехкомпонентная модель, предложенная в [4, 5], позволяет более наглядно интерпретировать ее составляющие. Принципиальное несоответствие состоит в определении аддитивных составляющих модели (1). В частности, системная компонента Хк, к = 1,...,п для турбулентных газодинамических
потоков представляет собой колебательный непериодический процесс с многочисленными локальными трендами, т. е. реализацию модели динамического хаоса [1-3, 6, 7 и др.].
Шумовая компонента у(к), к = 1,..., п
модели наблюдений (1) на практике представляет собой нестационарный процесс с переменной дисперсией и коэффициентом автокорреляции, зависящим от времени. Традиционное предположение о гауссовости случайной компоненты, в силу центральной предельной теоремы [8], выполняется, но лишь приблизительно, поскольку в подобных средах
достаточно регулярно возникают доминирующие факторы, что приводит к нарушению условия Линденберга и других ограничений указанной теоремы.
В качестве иллюстрации на рис. 1 приведены примеры изменений значений параметров реального хаотического процесса, полученные в процессе мониторинга состояния газодинамического технологического процесса (ТП) на интервале в 200 дней с периодичностью отсчетов Дt = 1мин .
Process
1000|-т---■-
nPlayDays=200; dt=1 min хЮ5
nPlayDays=200; dt=1 min хЮ5
Рис. 1. Примеры рядов наблюдений хаотического процесса на интервале в 200дней
Наличие хаотической системной компоненты и нестационарной шумовой составляющей рядов наблюдений приводят к тому, что традиционные экстраполя-ционные технологии прогнозирования и отвечающие им методы прогностического управления оказываются неэффективными.
Возможной альтернативой к традиционным экстраполяционным схемам прогноза являются технологии прецедентного анализа данных, базирующиеся на методах статистической классификации и машинного обучения [9, 10, 11, 12, 13 и др.]. В основу данного подхода положено предположение о том, что за подобными по своей статистической и динамической структуре группам последовательных наблюдений временных рядов следуют, в течение некоторого времени, подобные последействия. Задача прогнозирования в этом случае состоит в отыскании в базе ретроспективных данных временных отрезков наблюдений, подобных текущей ситуации. При этом под текущей ситуацией понимается отрезок наблюдений, непосредственно примыкающий к текущему моменту времени. Степень подобия оценивается на основе тех или иных метрик близости, используемых в задачах статистиче-
ского анализа и машинного обучения [12, 13]. При этом используемые технологии отыскания подобных участков наблюдений учитывают характерные для нестационарных процессов вариации среднего, параметров рассеянья и автокорреляционной структуры.
Выявленные в процессе сканирования ретроспективных данных отрезки наблюдений, подобные текущей ситуации, будем называть аналогами, а аналог с наибольшей степенью подобия -прецедентом. Выявление аналогов осуществляется путем просмотра ретроспективных данных скользящим окном наблюдений, равным по длине интервалу времени, выбранному для описания текущей ситуации. На каждом шаге сканирования вычисляется скалярное значение метрики подобия, после чего ряд полученных значений сортируется, например, по возрастанию. Интервалы наблюдений, отвечающие значениям метрик подобия меньше заданного критического уровня, образуют аналоги текущей ситуации, а интервал наблюдений, соответствующий наименьшему значению подобия, может использоваться в качестве прецедента.
Формализованная постановка и алгоритм решения задачи
Имеем многомерный временной ряд наблюдений (1), особенности которого описаны выше. Требуется осуществить прогноз наблюдаемого векторного процесса на момент времени Т, т. е. определить значения системной составляющей Хк к = \,...,п, отвечающие выбранному
показателю качества.
В простейшем случае показателем качества прогноза являются его суммарное
среднеквадратическое отклонение (СКО) или, с учетом возможного смещения, полный квадрат ошибки. В связи с высоким уровнем хаотичности наблюдаемого процесса, традиционные показатели эффективности прогноза могут существенно изменяться. В некоторых случаях оказывается достаточным лишь предсказание направления тренда. В этой ситуации качество прогноза может быть оценено частотой правильно определенных направлений тренда.
В рассматриваемом в статье классе приложений системная составляющая рядов наблюдений представляет собой сложный колебательный непериодический процесс, содержащий локальные тренды и скачкообразные изменения. Такой тип процесса, как уже отмечалось, относится к категории динамического хаоса и не допускает простого разделения системной и случайной компонент наблюдаемого процесса. В то же время случайная составляющая, даже на больших участках наблюдения, не отвечает условиям стационарности, независимости и т. п. С учетом описанных особенностей наблюдаемых процессов их следует отнести к категории стохастического хаоса. Примерами таких процессов являются динамика параметров ТП, протекающего в турбулентных газодинамических средах.
Обзор традиционных подходов к прогнозированию хаотических процессов, основанных на методах экстраполяции, регрессионного анализа, калмановской фильтрации и др., показывает их низкую эффективность для описанного выше типа рядов
наблюдений [4, 5, 14, 15 и др.]. В связи с этим в настоящей статье рассмотрен альтернативный подход, основанный на прецедентном анализе данных.
Пусть (ук, k = 1,...,п} - массив
наблюдений, накопленных на текущий момент времени к, который предполагается использовать в качестве полигона данных для выявления аналогов текущей ситуации. Будем описывать текущую ситуацию на момент времени к окном наблюдений
Ук= (ук,...,ук) . Для °тыскания ситуаций-
аналогов в массиве ретроспективных данных осуществляется сканирование имеющегося полигона у = (у у ) скользящим окном наблюдения
\,к-Ь ^ У1'*"'у к-Ь'
У1+Ь-\,к = (У1.....У1+ь-\ ). 1 = \....,к - Ь ■
В случаях с быстрым устареванием данных, в качестве полигона используется лишь часть наиболее
d, =Z Y
- Y
í+L-1, к к-L+l,k
i = 1,...,к -L,
(3)
= (y^,...,yk -l) ■
где значения Yu_L+l, Y
к-L+l,k
центрированы величи-
и сумма квадратов (или абсолютных значений) нормированных разностей
& =Е (У.^к/*. -Ук-ь+\,к/*к)2, 1 = \,...,к -Ь,(4)
свежих данных у =, „ „
к0,,к-Ь \ ка' ' .Тк-Ь'
В процессе последовательного сканирования полигона вычисляются значения расстояний
= ^(у.,.+1-\,к> Ук-ь+\,к). . = 1,..,к -Ь между
окном сканирования и окном текущего состояния.
На основе найденных значений метрик . = \,...,к - Ь осуществляется их сортировка
(например, по возрастанию) & <& <... <&<кь> и
селекция первых та окон-аналогов, отвечающих наименьшим значениям метрики подобия. В соответствии с номерами отобранных метрик, формируется совокупность окон последействия
ус = [у(к),у(к + \),...,у(к + т)], с = \,...,ша,
где совокупность {с = ш } представляет
собой последовательность номеров наблюдений, непосредственно следующих за интервалами окон-аналогов.
В качестве последовательных прогностических оценок системной составляющей наблюдений X = (хм, t = к + \,...,К} в простейшем случае
используются последействия прецедента, т.е. участка наблюдений, наиболее близкого в смысле выбранной метрики к текущей ситуации. В более общем случае для построения прогноза используется выявление и обработка группы последействия окон-аналогов. Примером такой обработки являются простое или взвешенное усреднение нескольких последействий найденных окон-аналогов с наиболее высоким уровнем подобия.
Метрики подобия
Метрика подобия участков наблюдения &
выбирается из априорных представлений о характере исследуемого процесса. На практике широкое распространение нашла простейшая квадратическая или евклидова метрика, имеющая вид:
Ь
=ъ (У„1+Ь-\,к -Ук-Ь+\Л)2, . = \,...,к -Ь, (2)
где = *(Ук,к-Ь+\). = *(У-ь+\). . = \....,к - Ь -
оценки СКО для соответствующих окон наблюдений. Такой подход позволяет сделать оценку подобия независимой от размаха вариаций наблюдений на окне наблюдения.
Очевидно, что на качество решения задачи выявления аналогов для всех приведенных метрик может оказать существенное влияние случайная компонента ук, к = \,..., п модели (1). Для
уменьшения ее значимости допускается применение предварительного сглаживания наблюдаемого процесса, например, на основе экспоненциального фильтра вида
Ук = аУк-\ + (\ - а)(Ук - Ук-\), где а е (0,1) ■
Более упрощенный вариант, хотя и вполне рациональный с учетом сложности поиска аналогов в хаотических средах, дают метрики подобия на основе полиномиальной аппроксимации процесса в окнах наблюдения. В этом случае в качестве метрики подобия может использоваться, например, расстояние между коэффициентами полиномиального представления. В частности, при использовании полинома первого порядка, подобие окон наблюдения будет определяться наклоном линейного тренда.
Программная реализация задачи прогнозирования на основе прецедентного анализа данных
Структура программной реализации представлена на рис. 2.
ной оценки среднего на соответствующих окнах наблюдения. Альтернативой к (2) могут служить сумма абсолютных разностей
Рис.2. Структура программы прецедентного прогнозирования
В качестве исходных данных для прецедентного анализа используется информация, накопленная в базе данных (БД) ретроспективных наблюдений в процессе мониторинга состояния наблюдаемого объекта. По мере поступления новых наблюдений БД непрерывно расширяется, обогащая накопленный опыт прогностического управления. Изменения значений параметра состояния представлены минутными отсчетами.
Программа осуществляет последовательное сканирование рядов наблюдений, выбранных из всей БД, в процессе которого на каждом шаге вычисляются и запоминаются значения метрики подобия между текущим и сканируемыми окнами. При использовании метода ближайшего соседа (nearest neighbor method) в качестве прецедента используется окно-аналог с наименьшим значением метрики подобия, а в качестве прогноза - следующий непосредственно за ним участок последействия длиной Т . При использовании метода k ближайших соседей (kNN) прогнозом может служить, например, результат усреднения отрезков наблюдений, представляющих собой последействия для mA окон-аналогов с наименьшим значением метрик подобия.
Параметрами программы являются размер окна сканирования, число используемых окон-аналогов mA, временной сдвиг окна сканирования SL, а также выбор используемой метрики. В случае использования сглаженного процесса дополнительным параметром является коэффициент передачи фильтра a .
Особенности решения и оценка эффективности алгоритмов прогнозирования
В процессе упорядочивания окон сканирования по показателю подобия в число аналогов могут попасть отрезки наблюдений, сдвинутые друг относительно друга на минимальное расстояние, что очевидным образом не может улучшить результат прогнозирования. В связи с этим целесообразно выбирать шаг сдвига окон сканирования на величину, не меньшую трети размера самого окна сканирования.
Для оценки эффективности алгоритма прогнозирования традиционными показателями являются СКО прогноза или, с учетом возможного смещения, полный квадрат ошибки, задаваемые, соответственно, соотношениями
1 "р
^(ттЦЕС^-®)2)1'2.'
1 t=i
г = (■
NP -1
1
N -
1 1=1
-х YY2'
k+i+т k+i+т ' )
где N - число шагов прогноза.
С учетом специфики решаемой задачи традиционные показатели эффективности прогноза
могут существенно изменяться. В частности, в некоторых случаях оказывается достаточным лишь правильное предсказание направления тренда. В этой ситуации качество прогноза может быть оценено частотой правильно выбранных направлений тренда ^ , где m - число совпадений реального и
' " N
прогнозируемого тренда.
Результаты численных исследований
На рис. 3 приведен пример результата работы программы прецедентного анализа. Текущее состояние объекта отображено в виде крайне правого отрезка, заключенного между звездочкой (начало интервала) и кружком (конец интервала).
Рис. 3. Пример решения задачи обнаружения аналогов и отвечающих им последействий
В результате сканирования полигона ретроспективных данных скользящим окном наблюдения длиной в L = 300 отсчетов и шагом сканирования в SL = 150 отсчетов выявлены 3 окна-аналога, начала которых также обозначены звездочкой, а конец -кружком. Непосредственно за каждым аналогом формируется окно последействия, размером в т = 150 отсчетов, представляющие собой вариант прогноза. В качестве метрики использовалась усредненная сумма абсолютных разностей (3) между наблюдения в окне текущего состояния и окне сканирования ретроспективных данных.
Для более наглядного отображения полученного результата на рис. 4 приведены в более крупном масштабе графики текущей ситуации и трех ее аналогов, а на рисунке 5 - прогнозируемый участок и три варианта прогноза, отвечающие найденным аналогам (участки наблюдений, следующие за звездочкой).
Рис. 4. Участок текущего состояния и его аналоги
Рис. 5. Реальный процесс с участком прогнозирования и три варианта аналогов и отвечающих им последействиям
Достоинством использованных в работе метрик является наглядность подобия выявленных аналогов текущему отрезку наблюдений, что подтверждает работоспособность программы. Применение упрощенных метрик, например, основанных на сравнении векторов коэффициентов полиномиальной аппроксимации, такой наглядностью не обладает.
Как уже отмечалось выше, во многих практических задачах требуется получить лишь качественные показатели прогнозируемой динамики. В этом случае правильность предсказания оценивается совпадением линейного тренда прогноза с трендом реального изменения прогнозируемого процесса. На рис. 6 приведен иллюстрирующий пример.
Рис 6. Процессы и их тренды, отвечающие прогнозируемому участку наблюдения и трем вариантам
прогноза, отвечающие окнам-аналогам
Из приведенных графиков видно, что в представленном примере и прототип, и два найденных аналога дали верный прогноз развития ситуации.
Заключение
Из приведенных в статье результатов можно сделать предположение о принципиальной возможности формирования прогноза хаотических процессов на основе предложенного в работе варианта прецедентного анализа данных. Данный вывод является существенным, так как ранее проведенные исследования [5, 6] показали принципиальную невозможность прогнозирования процессов такого типа на основе традиционных алгоритмов статистической экстраполяции. Однако более содержательные выводы об эффективности такого прогноза требуют статистических исследований с перебором вариантов значений параметров алгоритма прецедентного прогнозирования. Данные исследования предполагается разместить в последующих публикациях, посвященных данному вопросу.
Приведенные исследования осуществлены при поддержке грантов РФФИ (№№ 17-29-07073, 18-0701272, 18-08-01505, 19-08-00989, 20-08-01046) в Санкт-Петербургском институте информатики и автоматизации РАН.
Литература
1. Климонтович Ю.Л. Турбулентное движение и структура хаоса. М.: 1990. 316 с.
2. Омельченко А.В., Усков В., Кожемякин А. Нестационарные процессы в газовой динамике СПб.: Изд-во БГТУ, 2005. 270 с.
3. Трубецков Д.И. Турбулентность и детерминированный хаос // Соровский образовательный журнал. 1998. № 1. С. 77-83.
4. Ананченко И.В., Мусаев А.А. Трехкомпонентная модель динамики котировок торговых активов // Векторы развития современной науки: Материалы международной научно-практической конференции: Часть 3. Уфа: РИО ИЦИППТ, 2014. С. 10-14.
5. Мусаев А.А. Quod est veritas. Трансформация взглядов на системную составляющую наблюдаемого процесса // Труды СПИИРАН. 2010. Вып. 15. С. 53-74.
6. Мун ^.Хаотические колебания / Пер. с англ. Ю.А. Данилова и A.M. Шукурова. М.: Мир, 1990. 312 с.
7. Broer H., Takens F. Dynamical Systems and Chaos. Groningen: Springer Basel AG, 2010. 344 p.
8. Прохоров Ю.В., Розанов Ю.А.Теория вероятностей. Основные понятия. Предельные теоремы. Случайные процессы М.: Наука, 1967. 496 с.
9. Bishop C.M. Pattern Recognition and Machline Learning. NY: Springer, 2006. 738 p.
10. Hastie T, Friedman R, Tibshirani J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. 2nd ed. NY: Springer, 2009. 746 p.
11. Murphy K.P. Machine Learning: A Probabilistic Perspective. Cambridge: MIT: 2012. 1067 p.
12. Witten I.H., Frank E. Data mining: practical machine learning tools and techniques, 2nd ed. London: Academic Press Inc. 2006. 525 p.
13. Abbasffard M.R., Ghahremani B. Naderi B.H. A Survey on Nearest Neighbor Search Methods // International Journal of Computer Applications. 2014. Vol. 95. № 25. P. 39-52.
14. Мусаев А.А. Оценка инерционности хаотических процессов с учетом качественных характеристик локальных трендов // Известия СПбГТИ(ТУ). 2014. № 25(51). С. 83-87.
15. Мусаев А.А. Статистический анализ инерционности хаотических процессов // Труды СПИИРАН. 2014. Вып. 2(33). С. 48-59.
References
1. Kimontovich Yu.L. Turbulentnoe dvizhenie i struktura haosa. M.: 1990. 316 c.
2. Omel'chenko A.V., Uskov V., Kozhemyakin A. Nestacionarnye processy v gazovoj dinamike SPb.: Izd-vo BGTU, 2005. 270 c.
3. Trubeckov D.I.Turbulentnost' i determini-rovannyj haos // Sorovskij obrazovatel'nyj zhurnal. 1998. № 1. S. 77-83.
4. Ananchenko I. V,, Musaev A.A. Trekhkompo-nentnaya model' dinamiki kotirovok torgovyh aktivov // Vektory razvitiya sovremennoj nauki: Materialy mezhdu-narodnoj nauchno-prakticheskoj konferencii: CHast' 3. Ufa: RIO ICIPPT, 2014. S. 10-14.
5. Musaev A.A. Quod est veritas. Transformaciya vzglyadov na sistemnuyu sostavlyayushchuyu nablyudae-mogo processa // Trudy SPIIRAN. 2010. Vyp. 15. S. 5374.
6. Mun F. Haoticheskie kolebaniya / Per. s angl. Yu.A. Danilova i A.M. Shukurova. M.: Mir, 1990. 312 s.
7. Broer H, Takens F Dynamical Systems and Chaos. Groningen: Springer Basel AG, 2010. 344 p.
8. Prohorov Yu.V., Rozanov Yu.A. Teoriya veroyatnostej. Osnovnye ponyatiya. Predel'nye teoremy. Sluchajnye processy M.: Nauka, 1967. 496 s.
9. Bishop C.M. Pattern Recognition and Machine Learning NY: Springer, 2006. 738 p.
10. Hastie T, Friedman R, Tibshirani J. The Elements of Statistical Learning. NY: Springer, 2009. 746 p.
11. Murphy K.P. Machine Learning: A Probabilistic Perspective. Cambridge: MIT: 2012. 1067 p.
12. Wttten I.H., Frank E. Data mining: practical machine learning tools and techniques, 2nd ed. London: Academic Press Inc. 2006. 525 p.
13. Abbasffard M.R., Ghahremani B. Naderi B.H. A Survey on Nearest Neighbor Search Methods // International Journal of Computer Applications. 2014. Vol. 95. № 25. P. 39-52.
14. Musaev A.A. Ocenka inercionnosti haotich-eskih processov s uchetom kachestvennyh harakteristik lokal'nyh trendov // Izvestiya SPbGTI(TU). 2014. № 25(51). S. 83-87.
15. Musaev A.A. Statisticheskij analiz inercionnosti haoticheskih processov // Trudy SPIIRAN. 2014. Vyp. 2(33). S. 48-59.
Сведения об авторах
Мусаев Aлександр Aзерович, д-р техн. наук, профессор, декан факультета информационных технологий и управления, заведующий кафедрой системного анализа и информационных технологий, вед. науч. сотр. СПИИPAH; Alexander A. Musaev, Dr. Sci. (Eng.), Professor, Dean of the faculty of information technology and management, head of the Department of system analysis and information technologies, leading researcher SPIIRAN, amusaev@technolog.edu.ru
Макшанов Aндрей Владимирович, д-р техн. наук, профессор, каф. информатики и вы/числительной техники; Andrey V. Makshanov, Dr. Sci. (Eng.), Professor of the Department of Oomputer Science, andrey_makshanov@mail.ru
