CC BY
77
----------------------□ □----------------------------
У даній статті представляється огляд сучасних математичних моделей і методів, що стрімко розвиваються останнім часом автором у різних галузях науки і техніки, заснованих на спільному використанні ідей методу «Гусениця^-SSA і методу Бокса-Дженкінса. Пропоновані автором моделі є пріоритетними на сьогоднішній день ймовірнісно-детермінованими нелінійними декомпозиційними моделями.
Ключові слова: метод «Гусениця^-SSA, метод Бокса-Дженкінса, модель АРІКС, декомпозиційний метод моделювання та прогнозування, декомпозиційна штучна нейронна мережа.
□----------------------------------------------□
В данной статье представляется обзор стремительно развивающихся в последнее время автором в различных отраслях науки и техники современных математических моделей и методов, основанных на совместном использовании идей метода «Гусеница^-SSA и метода Бокса-Дженкинса. Предлагаемые автором модели являются приоритетными на сегодняшний день вероятностно-детерминированными нелинейными декомпозиционными моделями.
Ключевые слова: метод «Гусеница^-SSA, метод Бокса-Дженкинса, модель АРПСС, декомпозиционный метод моделирования и прогнозирования, декомпозиционная искусственная нейронная сеть.
□----------------------------------------------□
This paper presents an overview of the rapidly developing in recent years by the author in various fields of science and technology of modern mathematical models and methods based on joint usage of ideas of the «Caterpillar»-SSA and Box-Jenkins methods. The proposed by author models are a priority at present probabilistic and deterministic nonlinear decomposition models.
Keywords: «СaterpШar»-SSA method, Box-Jenkins method, ARIMA model, decomposition method of modeling and prediction, decomposition artificial neural network. ----------------------□ □----------------------------
УДК 621.311-025.12
ОТ идей методов
«ГУСЕНИЦА»-SSA
и бокса-дженкинса
ДО ДЕКОМПОЗИЦИОННОГО МЕТОДА
прогнозирования и декомпозиционной ИНС
В. Н. Щелкалин
Инженер 1-й категории Кафедра прикладной математики Харьковский национальный университет радиоэлектроники пр. Ленина, 14, г. Харьков, Украина, 61166 Контактный тел.: +38 (057) 7-19-91-09, +38098-388-16-17 Е-mail: [email protected]
1. Введение
В статье представлены наработки от отдельного использования классических методов прогнозирования, таких как: метод Бокса-Дженкинса, метод «Гусеница»-$$А, метод группового учета аргументов (МГУА) и их моделей и пр., комбинированных методов и моделей: метод «Гусеница»-SSА — АРСС, «Гусеница»-SSА — АРПСС, вероятностно-детерминированная модель совместного использования идей методов Бокса-Дженкинса и «Гусеница»-SSА, модель авторегрессии — спектрально проинтегрированного скользящего среднего и ее векторное обобщение — модель \ARSIMAX, метод авторегрессии — спектрально проинтегрированного скользящего среднего со спектрально проинтегрированной обобщенной авторегрессионной условной гетероскедастичностью (АРСПСС — СПОАРУГ), метод «Гусеница»-SSА — АРПСС — СПОАРУГ, до предложенных в данной статье декомпозиционных методов прогнозирования и декомпозиционной нейронной сети [3, 4 ,11—14, 17, 18].
Развитие теории математического моделирования определяется степенью математического описания процессов и явлений, имеющих место в различных отраслях
науки и техники. Научно-технический прогресс постоянно развивает экономические, технические, социальные, медицинские и прочие системы, усложняя их структуру и увеличивая количество их сложных внутренних взаимосвязей и внешних факторов, от которых они зависят и большинство из которых учесть невозможно. Поэтому актуальной является разработка и использование универсальных математических моделей и методик позволяющих моделировать, прогнозировать и управлять широким классом процессов, т. к. это позволит повысить эффективность управления и планирования режимов работы сложных систем, сэкономить значительные средства и ресурсы не разработкой новых энергосберегающих ресурсов, а путем всяких математических ухищрений, а также существенно разгружает работу соответствующего персонала различных организаций и позволяет предвидеть аварийные ситуации и привносит еще много прочей пользы.
Главными требованиями к построению математических моделей в 70—90-е годы прошлого века, являлись экономность по количеству параметров, скорость определения модели и ее ресурсоемкость для использования на доступных тогда ЭВМ малой производительности. Однако, современная вычислительная техника и методы
математического моделирования предоставляют большие возможности для анализа, моделирования, прогнозирования и управления временными рядами различной природы. Поэтому в настоящее время указанные требования не являются определяющими и современные вычислительные средства и системы позволяют выносить на первый план требования точности моделирования, качества анализа и прогнозирования. Одними из широко применяемых моделей, соответствующих вышеназванным требованиям являются модели АRIMАX.
В 80-е же годы прошлого века Гренджер и Джойо [1] предложили новый класс АRFIMА моделей, удобно описывающего финансово-экономические временные ряды с эффектами длинной и короткой памяти.
2000-е годы характеризуются применением большого спектра моделей для анализа и прогнозирования временных рядов, а также ансамблей моделей с различной структурой. С появлением высокоскоростных ЭВМ происходил и переход от ансамблей прогнозирующих моделей к ихней комбинации. Отличие комбинированных моделей от их ансамблей заключается в одновременном подстраивании параметров моделей.
Наиболее важными характеристиками моделей при анализе и выборе наиболее подходящих математических моделей являются следующие характеристики:
■ способ моделирования трендовой составляющей временного ряда;
■ способ нелинейного моделирования временного ряда;
■ способ моделирования внутренних взаимосвязей между констуктивными компонентами, определяемыми при декомпозиции временных рядов;
■ способ моделирования случайной составляющей временного ряда;
■ способ учета влияния внешних факторов на процесс.
Поэтому приоритетным видом моделей являются
комбинированные вероятностно-детерминированные нелинейные декомпозиционные модели, т. к. при этом в модели одновременно учитываются и используются как статистические, так и детерминированные составляющие и сложные внутренние взаимосвязи процессов, что позволяет достичь наилучшего качества прогнозирования [2]. Среди детерминированных моделей приоритетным вариантом является детерминированная модель спектрального разложения, реализующая моделирование на основе разложения по детерминированному ортонорми-рованному базису, отличному от гармонических функций и используемая в методе «Гусеница»-SSА. В то время как наиболее приоритетной среди вероятностных моделей является модель авторегрессии — проинтегрированного скользящего среднего c экзогенными переменными.
В зарубежной литературе давно известны комбинированные вероятностно-детерминированные модели, представленные в [2]. В данной же статье предлагается обзор очередных модификаций моделей АГША и GАRCH, метода «Гусеница»-SSА — АРПСС — СПОАРУГ, комбинированная вероятностно-детерминированная модель авторегрессии — спектрально проинтегрированного скользящего среднего со спектрально проинтегрированной обобщенной авторегрессионной условной гетеро-скедастичностью (АРСПСС — СПОАРУГ, на англ. яз. АRSIMА — SIGАRCH, на укр. яз. АРСЖС — ОУАРУГ) и метод ее построения, которые позволяют более гибко анализировать, моделировать и прогнозировать времен-
ные ряды в сравнении с моделями АГША — GАRCH. А также представлены декомпозиционная модель прогнозирования и декомпозиционная нейронная сеть.
2. Изложение основного материала исследования
Суть зарождения всего теоретического материала автора сначала заключалась в многомерной декомпозиции экзогенных временных рядов и прогнозируемого временного ряда, на базисные латентные компоненты, включая их степени и комбинации, получаемые методами главных (PCА), гладких (SCА) и независимых компонентов (ЮА) в отборе из этих базисных компонентов конструктивных методом быстрого ортогонального поиска (FOS), одного из эффективных и экономных по временным затратам методов в зарубежной литературе, и отсечении деструктивных, тем самым сформировав передаточную функцию математической модели процесса; в дальнейшей идентификации шумовой части математической модели процесса благодаря сезонным моделям авторегрессии — скользящего среднего, и одновременной параметрической идентификации полученной структуры модели методом Левенберга-Марквард-та [3]. Как стало известно позже, предложенный метод несколько схож с декомпозиционным методом моделирования (ДММ) [2]. Метод «Гусеница»-SSА тоже использует декомпозицию временных рядов по сингулярным значениям (SVD). Известны публикации использования метода «Гусеница»-SSА в различных отраслях науки и техники как метода достаточно хорошо описывающего нестационарные временные ряды с линейными, параболическими или экспоненциальными трендами с не всегда устойчивой колебательной составляющей, однако метод для моделирования использует неоптимальный с точки зрения точности воспроизведения некоторых временных рядов ортогональный базис векторов траекторной матрицы. Поэтому было предложено совместно использовать рекуррентную модель прогнозирования метода «Гусеница»-SSА и модель авторегрессии — скользящего среднего, обученных на конкурентной основе с учетом обобщенного критерия точности и адекватности. Использование такой комбинации было продиктовано тем, что отдельно эти подходы имеют ряд недостатков, а совместное их использование приводит к синергии, повышая их эффективность, робастность и адекватность. Однако при выделении тренда методом «Гусеница»-SSА, как и любым другим методом, остаточная составляющая ряда в большинстве случаев остается нестационарной, поэтому далее метод «Гусеница»-SSА использовался уже в комбинации с моделью авторегрессии
— проинтегрированного скользящего среднего (АРПСС). При этом совместное использование приведенных выше методов подразумевает, что параметрическая идентификация осуществляет вычисление оценок параметров модели АРПСС и нелинейного обобщения авторегрессии на главных компонентах, минимизируя сумму квадратов отклонений ошибок моделирования с учетом временного ряда, получаемого методом «Гусеница»-SSА, который в течение моделирования не имеет в явном виде модели и соответственно параметров, а метод Левенберга-Марквардта, вычисляя параметры остальных аддитивных частей модели помогает определить внешний вид временного ряда метода «Гусеница»-SSА, выступающего в роли помощника определения детерминированной (трендовой) составляющей процесса.
Предлагаемый подход как раз и является одним из вариантов приоритетных на сегодняшний день комбинированных вероятностно-детерминированных подходов. Здесь также реализуется так называемый трендовый подход, когда процесс моделируется как отклонение фактических значений от тренда (который представлен здесь временным рядом, получаемым методом «Гусеница^-SSA) и который обеспечивает устойчивость получаемой модели и достаточную точность моделирования, тогда как ранее вероятностной моделью АРПСС пытались описать весь процесс, а в моделях АРПСС временные ряды приводятся к стационарному виду путем элиминирования большой мощности на низких частотах (нестационарной низкочастотной компоненты) фильтром первых разностей, максимум вторых. Поэтому метод сезонной АРПСС удовлетворительно моделировал и прогнозировал временные ряды только относительно простой структуры.
Таким образом, произведена успешная попытка спустя более тридцати лет после создания метода Бокса-Дженкинса и метода «Гусеница^-SSA объединить их. Однако для удовлетворения таких требований к моделям, как: скорость обучения, трудоемкость, ресурсо-емкость, наглядность модели, простота использования и интерпретируемость, затратный по времени и ресурсам метод «Гусеница^-SSA в дальнейшем было предложено использовать лишь для предварительной структурной идентификации и грубой параметрической идентификации так называемого интегрирующего полинома от оператора задержки предлагаемой модели, а также для грубой структурной и параметрической идентификации полинома от оператора задержки, наличие которого отличает более общую полиномиальную модель от модели Бокса-Дженкинса, структура и коэффициенты которого сначала равны таковыми рекуррентной модели прогнозирования метода «Гусеница^-SSA.
Метод «Гусеница^-SSA также предлагается использовать для предварительного обобщенного коинтегри-рования временных рядов при моделировании многосвязных процессов, а также для разделения отдельно на финитный и отдельно на апериодический регуляторы в случае использования предлагаемой модели в теории автоматического управления [4]. Также возможно нелинейное усложнение передаточной функции модели одним из способов: FOS, GMDH, RBF, LARS, построенных на главных компонентах, их степенях и сочетаниях. Поэтому, в первую очередь, предлагаемая выше автором модель направлена на теорию автоматического управления, моделирование и прогнозирование технических систем и технологических процессов, в связи с тем, что их передаточные функции более детерминированные и имеют сложную нелинейную структуру.
3. Описание предлагаемых математических моделей
Математическая модель процессов, зависящих от нескольких экзогенных факторов в операторной форме может быть представлена в виде модели сезонной авторегрессии — проинтегрированного скользящего среднего (САРПССЭ) [5]:
zy _ zt
N bn . (L)
= ^_ nbi v '
:(L)
i=l <i (L)
"t-mi
dYY (L)
et ,
где 1 — оператор сдвига по времени на одну единицу назад, такой что их4 = х4 — , N — количество экзогенных переменных^У — пронормированный от 0 до 1 по
y _ y mi
формуле zy =-
или каким-либо другим спосо-
(1)
бом преобразованный временной ряд моделируемого и прогнозируемого процесса с вычтенным математическим ожиданием; zx-m. — пронормированный таким же образом ьй экзогенный временной ряд х£ с вычтенным математическим ожиданием•;mi — задержка i -го экзогенного временного ряда х£ по времени относительно прогнозируемого временного ряда ; а^ , Ь^ . (L) —
полиномы от 1 степеней п^ и п^ соответственно;
сП(L)=с^1 (Ь31)■с^2)X...хс^ДЦ1-*)=1^10^; (Lsi) — по-
Пс Пс Пс Пс* А А »с
0 1 = 1
лином Lsi степени пС, определяющий составляющую скользящего среднего периодической компоненты с пе-
П3
риодом Si, п?=£ пС ■ 31;
dVv (L) = dn (L)VSD‘VSD22 ...VsD- =
=dni (Lsi) ■ dn2 (Ls2) ■... ■ dnns (Lsns )?* VD22 • • •=
s1 s2 sns
= ftdii (Ls.)VDiVD2 .„V ,
11 ni v ’ si S2 sns ’
nj = n! +
£ Di ■ Si,
i=1
(L)=4-1 (^1) ■ 4-2 (^2) X... х (^^) =П^ (Lsi)
d d d па I=1 d
— полином от Lsi степени п^ , определяющий составляющую авторегрессии сезонной компоненты с периодом Si ,
П3
п^=^ ; et — остаточные ошибки модели: Di —
1=1
порядок взятия разности Si; Vsi и Lsi — упрощающие
операторы такие, что VSiУt = (1 - Ь* ) ■ yt = yt - Уt-^ .
Выражение (1) в более компактной форме можно представить в виде:
к
а (q)■ ^ = Х Ь + с
где
a (L) = dyy (L) ■ Пai (L)>
i=1
bi(L) = Чы (LHML> П jjOO-j=1,i * j
c (q)=сПН^ПаПа (q). i=1,N
c i=1 a
Выражение для прогноза с упреждением 1 при помощи предложенной модели совместного использования модели метода «Гусеница»-SSА и сезонной модели авторегрессии — проинтегрированного скользящего среднего с экзогенными переменными, после приведения ее от дробно-разностного (рационального) к разностному уравнению принимает вид:
d
1л
N
па+Х па
УЧ Л^Д І=1
Уt Iі) = Iі) + X а і ■ ьу+1 - і +
І=1
па + ПЬІ + Х паР
+х Ь 0 ■ xt+1 - ті - х
і=1 і=1
N
П? + X п.,
С] ■ Єі +1 -] ; х1^ (1)=
=1
пхк : і пхк?
+ х а хк ■ 2х+к1 -і+ X С хкІ
і=1 =1
N
Х>
р=і
І ' і+1 - ті - і
et+і = < Ьу = у і - У ^+1;
t+J І0, і>0; і і
У488Л (і) = Х1 ■ ^ЙИ, і = 1,1; #у*+1 = ]Уі,і > *’
1 и 1=1 1 І+1-Г і N+1, і < ^;
разованиям 1-х временных рядов, соответствующих экзогенным временным рядам, при помощи сингулярного спектрального анализа на этапе диагонального усреднения, переводящего матрицу, состоящую из К столбцов от 0 -1)- К -го до i ■ К -1 -го матрицы Z в ряды #,..., # х‘_1 , по формуле
(2)
где аП . (L), Ьп . (L) — полиномы от 1 степеней паі и пЬі соответственно;
[Уі і І<0, . И+і- І^_
Уі+^Ч-п • п хі+і=1 і,ч і=^
[уі (і)- і>0- [хі (І), І>0,
К+і, і<0,
к+1
ї+ї X 2 ід-і+2-і = 0,тіп (Ь,К)-2;
і=1
л тіп(Т,К)
тіп(Т-К) X 2іі-і+2,і=тіп(ЦК)-1,тах(Ь,К)-1;
1 п-тах(Т,К)+1 _______________
ПЗГ X 2 і,і - і+ 2-і = тах (Т,К),п - 1-
І= к-тах(Х,К)+2
1 К Т
(М-*...,^ = -^-------------X< '( ( ^ <-1)Т,
1 -X Н )2і=1 і=1
где ( ( ... и[_^Т — вектор, состоящий из первых
(L -1) элементов і-того собственного вектора и1 сингулярного разложения траекторной матрицы экзогенных и моделируемого процессов
X = (1X2 ... X* Y)=(Xlд Хі,2 ... Хі,к Х2,1 Х2,2 ...
• •• Х2,к Хщ Хк,2 ... ХКд Yl Y2 ... Yк); ^=(-1 У (-2 ••• Уj+L-2) ,
ХІ0 = (Х]-1 Х]-2 . Х^-2 ), і = Щ j = 1Д
— преобразования исходного ( +1) -мерного временного ряда ( N — количество экзогенных временных рядов и один прогнозируемый) в последовательность Ьу — мерных векторов ( Ьу — ширина окна), число которых равно ( + 1) К, К = п-Ьу +1, где п — длина временных рядов;^ — последний элемент вектора и1; Я — количество элементов сингулярного разложения;
~ SSA ^ 1
у4 (і) = ^ £У ■ #у+М — модель рекуррентного прогно-
і=1
зирования метода «Гусеница»-$$А временного ряда у4, t = 0,п -1; которая в свою очередь нередко может быть экономно записана сезонной моделью АРПСС (АРП) или при помощи модели распределенных лагов Алмон, где \^УК+1, \\'УК+1,..., — ряд соответствующий
преобразованию прогнозируемого временного ряда у4; ряды XVXі, ,..., #П-!, і = 1^ соответствуют преоб-
к = 1, N +1; где Z = Ъ1 +... + Z3 — сумма матриц разложения
г = (и ■(Ui)T ■ Х1 Ui .(№ )т ■ х2 ...
... Ui ■(Ui )т ■ ХК Ui ■(Ui )т ■ Y),
отобранных стандартным анализом собственных чисел траекторной матрицы в методе «Гусеница»-$$А;
-kSSA ^ -1
х t (i)= X ^ ^х+1-|1, к = 1,N, тоже самое, только ]=1
для к-того экзогенного временного ряда, а также все переменные и параметры с индексом х‘, i = 1, N аналогично интерпретируются как для временного ряда у1;, t = 1,п. Имеется и модификация рекуррентного метода SSА-прогнозирования — векторное SSА-прогнозирование [6], которое в ряде случаев позволяет получать более точные прогнозы.
Предлагаемая модель позволяет моделировать и прогнозировать зашумленные циклические компоненты временного ряда, модулированных по амплитуде и частоте, благодаря своей возможности, в отличие от метода Фурье, выделять колебательные составляющие с модулированной амплитудой и частотой и различные шумовые составляющие с изменяющейся дисперсией.
С нелинейным усложнением передаточной функции выражение (2) принимает вид:
N
“М -У
гУ Ш= Уt Ш+Х gi' Pt + X аі' Ьу+1-і +
і=1
N
+х
+1 -
Па+Пы +Х ПаР
Р=1
X
і=1
V
п? + Х Паі і=1
- X X і ■ et+1 - і, і=1
/
-кЗЗЛ .
и*11
^ *ка п*к?
хі(1)=х"Гл(1)+ £ ахк^ ■ + £ Схк; ■ ехкі+і-], к = Ш
і=1 j=1
где gi ■ рі — члены полинома Колмогорова — Габора:
г ( М ММ
^gi■ РІ = FOS ^gi■ х‘ +ХХЇ)■ ХІ■
і=і ^ і=і і=іі=і
МММ
-ХХХ з? ■ х і ■ х г ■
і=і і=і к=і
1 = з?Іі^к, п = 1,г
или
Xgi ■ Р‘ = FOS X|5i .фi (х
м2
тельной обобщенной коинтеграции временных рядов и модель разбивается следующим образом:
где
Фi (х t )=-
/ I |-1
(2п) 2 -|2i| 2
• е 2
2(х t - ci -1(х t - ci)
С У № t =
ЬУ ^) кЬ^у (L) С№Упус(У)
пЬУ 1 > 7У , у nЬi 7xi + п"Ус1 ’
аП У (L) t й а-УП„У (L) t-т‘ ^У(!^)
;^У . П >
Л. (L)
ci — вектор математических ожиданий временных рядов, -й = fу (У) ■ #t + й —, . ■ гк> +
--- ^ ^ ^ а1 (у) t-щ
представляющих главные компоненты, £ ь i = 1,М — ковариационные матрицы; или
:(У)
(у) t-т ДО
~х.) П
X gi ■ Р! = GMDH ( 1,х 2,...,х м)
i=1
— структурная идентификация методом МГУА, р{ = = х[ ■ х^ ■... ■ х^ , составленного из главных компонент временного ряда zУ -#^+! обозначенных х[Д = 1,М, а также их степеней и сочетаний, отобранных при помощи FOS-алгоритма, определяющего нелинейную часть предложенной модели; FOS-функция структурного упрощения модели, записанной в ее аргументе, с учетом характера поведения временных рядов, при помощи алгоритма быст-
Г
рого ортогонального поиска; Ь[ = zУ - #[,+1 - ^ gi ■ р‘ .
1=1
Процесс нахождения таких комбинированных моделей (2) совместного использования модели АРПСС и метода «Гусеница»-SSА может быть продолжительным в связи с ресурсоемкостью метода «Гусеница»-SSА. Поэтому метод «Гусеница»-SSА анализа предложено использовать лишь для предварительной структурной идентификации и грубой параметрической идентификации интегрирующего полинома w(Ь) (отсюда и название модель авторегрессии — спектрально проинтегрированного скользящего среднего (АРСПСС)) от оператора задержки Ь, который также может быть интерпретирован как оператор перевода в пространство состояний, модели
f(L= ( ) ■ et — модель АРСПСС, (3) <1(]^)
а рекуррентный метод SSА-прогнозирования для грубой структурной и параметрической идентификации полинома f (L), структура и коэффициенты которого сначала равны таковыми рекуррентной модели прогнозирования метода «Гусеница»-SSА и наличие которого отличает более общую полиномиальную модель от модели Бокса-Дженкинса, а также совместно с w(X) ( w(Ь) вообще говоря может быть рационального вида) определяющих долгосрочную память модели, описывая более широкий класс процессов долгосрочной памяти, чем при фрактальном интегрировании в модели АRFIMА, которая в свою очередь была придумана для преодоления недостатка АПМА моделей при моделировании и прогнозировании процессов в длинной памятью — потери (искажения) долгосрочной информации при взятии приращений. Полиномы d (Ь) и с(Х), в свою очередь, определяют краткосрочные зависимости процесса. Модель АРСПСС может быть также построена опираясь не на метод «Гусеница»-SSА, а на метод главных компонент.
При анализе и прогнозировании временных рядов, зависящих от нескольких других необходима сбалансированность динамических свойств переменных, стоящих в левой и правой частях уравнения модели. В этом случае идеи метода «Гусеница»-SSА выступают для предвари-
(у) 1 —
ех , 1 = 1, N,
(4)
i — аппроксимация временным рядом у4 и экзогенными временными рядами х^, j = 1, N временного ряда #У при помощи модели сезонной АРПССЭ (или АРПЭ — проинтегрированной авторегрессии с экзогенными переменными), изначально полученного методом «Гусеница»-SSА, а впоследствии подстраиваемого оптимизационным методом при конкурентном обучении модели;ю(Ь) — интегрирующий полином, переводящий временной ряд
1 „ с-х
х| во временной ряд \\^ — аппроксимация временного
ряда моделью АРПСС;начальные грубые зна-
чения коэффициентов полиномов fy (L), fxi (L) и их количество берутся равными коэффициентам £У и ^х‘ , j = 1,N моделей рекуррентного SSА-прогнозирования
~SSA ^~kSSA -1
уt (i)= X#у?ч и х‘ ()= X ^#х+н1 соот-]=1 __________________ ]=1
ветственно;ЬУ и , i = 1, N — соответствующие длины окон; а затем итерационно подстраивать вместе с остальными коэффициентами модели (4) при помощи метода Левенберга-Марквардта. Модель (3) существенно выигрывает по времени обучения комбинированную модель совместного использования сезонной модели АРССЭ и метода «Гусеница»-SSА (2), но несколько уступает ей по статистическим свойствам и с учетом способа ее построения названа сезонной моделью авторегрессии — спектрально проинтегрированного скользящего среднего с экзогенными переменными (АРСПССЭ, АRSIMАX) и может быть записана следующим образом:
N
+Х
i=1
N N
ЬУ +пьу + X п^у +п^у ^ + X па1 + п^ 1=1 а 1=1
X
]=1
пЬ _
а ■ 2;+1-]+
Ь0 ■ <1 -ш, -Х Ь)■ <1 -ш, -] ]=1
пА+пау +Х пу +п™у *+х па1 + п\ 1=1 а 1=1
Х
]=1
N N
17 + п"у? + пау +Х п^у ++Х па1 +п^
I “
]=1
хк кхк + “Л
21 (!) = X ахк ■ 2Х+ч + X схк ■ еХкц - к = ^ -]=1 ]=1
N N
где И; , ] = 1,№ + ПЬу + Х П^у + п»! ^+Е nai + п^ — коэф-1=1 а 1=1
фициенты полинома
а(4 = Гу(Ч^у (L)■П(L)■ ^(^ Ь',
І=1
і = 1,N, j = 1,2,., пь ;
пь = \у + тах
п"у + > п"' + + п"у У + > Пі + П
па + па,
р2 _ ^((фЫ)
£‘ _(1 -e(q)-ф(q))Vt’
где s = тах(г,т), VI =е|-о2.
Фрактально проинтегрированный процесс САГСН может быть записан следующим образом:
.і = 1,N, ПЬІ + ПаУ + X П1 + П^! + X 1 П!
1=1,1* і і=1,ї*і
(1 - L)2-H є? =
-( ~Ф(Ь))
(1 -е(і. )-ф(і. ))(1 - д-
-1
vt,
коэффициенты полинома
N
і=1
N
N
где Н — показатель Херста.
Предлагаемая спектрально проинтегрированная обобщенная модель с авторегрессионной условной ге-тероскедастичностью имеет вид:
-X(ЬУы^Ку (L)■ I! ^ (L). ^v(L). а^(Ц- <М^уY(L)
1=1 V ^=1,.И ^ А а=1,^^1
ы(L)=fy(^ ь^у(L)■ п ^(ЧЧу(L)■ ^уу(Ч- П <,00. ^)
ь1 І=1,і^і
І=1,І^Ї
у V п%
; („).„,(,к=7^+(ми,
с ^, j=і,п?+паУ +ХпГ + п*У1+Хпа + п!
І=1 І=1
— коэффициенты полинома
С(L) = С^Ку (ВДа^У Й^Уv(L)*
І=1 а1 а
ХП аУа1 (L )■ dVv(L),i = 1, N;
1=1
.І = Ш + П*У?+ паУ + ХП^ ++]СПа> + П!
І=1 І=1
— коэффициенты полинома
З(L) = fy(L^с-^)^ (LШа^ (дх
І=1 а1
х Г1апаі ^). =Щ
1=1 а 3
ах‘, j = 1^хк + В0 + пхк^ коэффициенты полинома
I х (L )=^ (L ^(Ц^, У(Ц;
(1 -е(я)-ф(я))
где юе2 (L) — интегрирующий полином от оператора задержки, с помощью которого аппроксимируется временной ряд дисперсии шумов є? в преобразованный
сглаженный методом «Гусеница»-SSА временной ряд
Є2
wtt , а предварительная структурная идентификация и грубая параметрическая идентификация полинома от оператора задержки fе2 (L), с помощью которого аппроксимируется сам ряд є2 производится при определении коэффициентов рекуррентной прогнозирующей формулы метода «Гусеница»-SSА•, w — среднее значение или уровень временного ряда є2 .
Таким образом, модель авторегрессии — спектрально проинтегрированного скользящего среднего со спектрально проинтегрированной обобщенной авторегрессионной условной гетероскедастичностью и экзогенными переменными (АРСПСС — СПОАРУГ, АRSIMА -SIGАRCH) принимает вид:
N N
ЬУ +ПЬУ +Е п^у +п»УУ + £ паі + пУ і=1 а І=1
і=1
аі ■ 2;+1-і+
N
+е
І=1
ь 0 ■ <і-т, -Еь )■ <і - ті - і І=1
с Х, j = 1,пхк? — коэффициенты полинома
СХ‘ (L) = СХ‘Пх.).
ПА+пау + Е пу +п™у *+£ паі + п\ і=1 а і=1
Е
і=1
Сі■et+1-і
Для учета гетероскедастичности процесса (изменения дисперсии процесса во времени) применяется обобщенная модель с авторегрессионной условной гетероскеда-стичностью САГСН (т,г), имеющая вид [7]:
о1 = w + e(L)et2 + ф^)о2, где О? — временной ряд изменения дисперсии процесса , 0^)= 01L + 02L2 + ... + 0рЬ“ , ф^) = ф1L + ф^2 +... + ф^ ,
е| — остаточные члены модели. Модель САГСН (т,г) может быть записана через модель АРСС (,ш) следующим образом [8]:
N N
V + Е»УЬпау + Х !*у ++Х па +пУ і=1 а І=1
X
і=1
<іі ■ е*\+1 - і,
„хк ^к + пхка п*к? _____
2* № = X аХк ■ 2?+і-і + XсХк ■ е?+кч - к=^-
І=1 і=і
є2 = оtzt,
~ N (0,1),
f є2 (L) ■ юе2 ■ є2 = 7 + ( у4 .
(1 -e(L )-ф(L))
Модель может быть обобщена для многомерного случая.
Такие полиномиальные модели позволяют адекватно описывать чрезвычайно широкий класс стохастических систем и процессов и решать на их основе задачи моделирования, прогнозирования и управления [9].
4. декомпозиционная модель прогнозирования (дМп)
Возвращаясь к моделям (3), (4) предложено идентифицировать и строить АРПССЭ (АШМАХ) моде-
#П— , i = 1, N, полученных на четвертом этапе диагонального усреднения метода «Гусеница»-$$А матриц Zi,
Iі = (и-(№)т ■ Х1 и1 -(№)т ■ Х2
... и1 ■(и1 )т ■ Хк и1 ■(и1 )т ■ Y),
о (і)
№ t =-
ь(!„, (ч
_Пьа)
,(()
(ь)
,(і)
N
-£:
Ь№(.І) і
•“'х
() (Ь)
^(і) і
па(:і) ь„(і) ‘„(і) (Ь)
і=1 “ х х„(і)
ПХ;
с„
СОп
„(і)Х
(Ь)
(Ь)
( )
а „(і ) і і=1,і*і ^ (і)
Ь« (Ь)
п,_(к) V !
(к)_ Пь(к)
а(к)
Ь„(к)‘„„(к) (Ь)
=
Пк)(к) (Ь) -тУ*(к) £а„(к)и(Ь) -
„(к)
а(к)
Ь„(к) і ,, (Ь)
М Ь„ п„(к)
г(к)п
— я»(к)і (Т ) ^-тг(і) + Н^(к)У (Т)^ ’
і=1,1 * і а„ „(к) (Ь) 4 ті а „™(к)у (Т)
»(к):
;(Ь)
г(к) .
i = 1,N +1, состоящих из К столбцов от 0 -1)- К-го до
i К - 1-го матрицы Z, где Z = 2i + ... + Zз — сумма матриц разложения
zy =
-М! ьп„ (Т) -с-(к) Дьч|Т| ,1 + ) (5)
" -г-+;?ії«7(Г) аш "•. (5)
отобранных стандартным анализом собственных чисел траекторной матрицы в методе «Гусеница»-SSА, а идентифицировать и строить АРПССЭ (АШМАХ) модели
каждого из временных рядов диагонального усреднения подматриц Ъ^ , i = 1, \ , состоящих из К столбцов от 0 -1) ■ К -го до j■ К -1 -го матрицы Ъ1, {= 1,Ь\ Таким
образом, потенциально можно сформировать \У х( +1) временных рядов разложения (компонент) исходного прогнозируемого временного ряда и экзогенных временных рядов (или Ь х( +1 временных рядов факторных векторов, временные затраты на вычисление которых меньшие), подлежащих, как было указанно выше, моделированию, после отбора из этих компонент конструктивных и удаления деструктивных. Однако нет необходимости формировать все № х (+1 моделей, а формируются только значимые, т. е. моделирующие конструктивные компоненты. Для отбора наиболее конструктивных компонент (наиболее коррелируемых с прогнозируемым временным рядом), как и в других работах автора, предлагается использовать алгоритм быстрого ортогонального поиска (FOS). При этом столбцами рабочей матрицы алгоритма являются значения полученных методом «Гусеница»-SSА компонент разложения прогнозируемого и экзогенных временных рядов, исходные значения прогнозируемого и экзогенных временных рядов, а также их задержки вплоть до т -той (где значение т предлагается выбирать не более 3). Эта процедура необходима для формирования передаточной функции АШМАХ модели второго слоя предлагаемой модели. Построение же моделей конструктивных компонент необходима, для дальнейшего использования их как гребенки фильтров, широко применяемой в задачах моделирования радиосигналов.
Таким образом ^..., \у[ в каждый момент вре-
мени можно интерпретировать как значения модели в пространстве состояний, а совокупность их моделей как гребенку фильтров, подобно методам и моделям адаптивной цифровой фильтрации, моделям в пространстве состояний и прогнозирующим фильтрам Калмана-Бьюси, способных решать большой класс задач с минимальными вычислительными затратами. В книгах [5], [15] описано как идентифицировать передаточную функцию модели АШМАХ процедурой выбеливания спектра. Однако при идентификации передаточной функции АШМАХ модели с более чем одной экзогенной переменной рассмотрение процедуры выбеливания спектра перебирая все варианты функций отклика на единичный импульс является затруднительным. Поэтому для идентификации передаточной функции модели с большим количеством экзогенным переменных автор рекомендует использовать алгоритм быстрого ортогонального поиска, столбцы рабочей матрицы которого состоят из временных рядов разложения и их задержек не выше третьей. В остальном идентификация каждой из моделей входящей в состав выражения (5) на высоком уровне описано в книге [5].
На рис. 1 представлена структурная схема предложенной модели декомпозиционного метода прогнозирования (ДМП). В качестве математических моделей автором предлагается использовать модели АШМАХ (рис. 2) или их производные АRSIMАX, NАRIMАX и пр. Для придания моделям АШМАХ нелинейности можно добавлять в них нелинейные составляющие, как это было указано выше, путем составления полинома Колмогорова —
Г
Габора £ gi ■ р[, где gi ■ р[ — члены полинома Колмого-і=1
рова — Габора:
£gi ■ р! = FOS £gi ■ хІ
І=1
МММ
+£££ g і ■ х! ■ х і ■ хк+. і=іі=ік=і
ММ
-££ g іі ■ х! ■ х і + і=1 І=1
gn = g і)...к, П = 1,Г
а
+
У
ли не ряда \\^ и соответственно рядов 5і , Р
и
Рис.
1. Структурная схема модели декомпозиционного метода прогнозирования
Предложенные декомпозиционные методы производят самоорганизацию моделей, определяя существенные связи и отбрасывая несущественные, производя тем самым структурную идентификацию предложенных моделей.
На рис. 3 представлена структурная схема предложенной декомпозиционной нейронной сети. В качестве искусственных нейронных сетей составляющих первый и второй слой общей нейронной сети автором предлагается использовать радиально-базисные искусственные нейронные сети, структурная и параметрическая идентификация которых, производится традиционно рекомендуемым автором алгоритмом быстрого ортогонального поиска ^ОБ), описанного в работе [6] или МГУА.
Рис. 2. Структурная схема ARIMAX модели
Рис. 3. Структурная схема декомпозиционной искусственной нейронной сети
или
Г (М2 _
£ gi • р* = FOS £ &-фі (х^
і=1 Іі=1
где
Фі і ) = ■
(2п)
М
2 ‘И
ci — вектор математических ожидании временных рядов, представляющих главные компоненты, X [, i = 1,М — ковариационные матрицы; или
X gi • Р\ = GMDH (х 1,х ?,...,х ,м)
і =1
- структурная идентификация методом МГУА, р[ = = х£ • х| •... • х^ , составленного из главных компонент временного ряда zУ - VN+1 обозначенных х[, і = 1,М, а также их степеней и сочетаний, отобранных при помощи FОS-алгоритма, определяющего нелинейную часть предложенной модели.
Рис. 4. Структурная схема радиально-базисной искусственной нейронной сети
6. Результаты исследований
5. Декомпозиционная искусственная нейронная сеть
Используя такие же идеи декомпозиции временного ряда на конструктивные компоненты строится и декомпозиционная искусственная нейронная сеть. Методом «Гусеница»-ББА производится предварительная структурная идентификация значений выходов (аксонов) первого слоя искусственной нейронной сети, в свою очередь состоящего из искусственных нейронных сетей.
Тестирование предложенной модели декомпозиционного метода прогнозирования проводилось на реальных среднесуточных данных потребления газа и изменения температуры воздуха за трехлетний интервал времени.
По факторным временным рядам, соответствующих большим и близким по величине собственным значениям информационной матрицы данных, можно судить о недельных и годовых сезонных составляющих данных временных рядов.
Рис. 5. График среднесуточных данных изменения температуры воздуха
Рис. 6. График среднесуточных данных потребления газа
Рис. 7. Графики некоторых факторных временных рядов, приведенных процессов
После этапа разложения при структурной идентификации модели второго слоя предложенного декомпозиционного метода прогнозирования (при структурной идентификации последней модели, стоящей в выражении (5)) в ее состав предложенный метод не включил переменные разложения. Это говорит о том, что рассматриваемые процессы имеют достаточно простую структуру и необходимости в моделировании первого слоя общей модели декомпозиционного метода моделирования нет. В результате, предложенный декомпозиционный метод моделирования идентифицировал частный случай своей модели — сезонную модель АРПССЭ.
Полученная модель САРПССЭ для прогнозирования потребления природного газа с учетом изменения температуры воздуха приняла вид
^ _ -0,659 + 0,191Ь ™ „
^7Уз65у1 = 1 _ол^ + 0.26Ш 7У7?365Х +
(1 _ 0,915В) • (1 _ 0,748В7 + 0,254^4)
+ (Т^^73Ь_0,Т55Ь2)^(Т^^01В^(Т^^88В36^'
Средний процент ошибки прогнозирования составил 1,87 %.
Рис. 8. Графики прогнозов потребления природного газа моделью САРПССЭ и 95 % доверительные интервалы
Однако при моделировании временного ряда электроэнцефалограммы модель декомпозиционного метода прогнозирования получила существенно лучшие результаты по среднеквадратической ошибке, чем традиционная модель АРПСС.
Графики серий
Рис. 10. Графики некоторых временных рядов разложения временного ряда электроэнцефалограммы
По результатам алгоритма быстрого ортогонального поиска можно судить о необходимости отбора в качестве конструктивных компонент временные ряды разложения с номерами 12, 4, 11, 1, 2, 3, 4, 5, 7 временные ряды разложения для дальнейшего их моделирования и включении
Е
D12411 1 2 З 6 5 7 813 21910 ЗО 15 18 17 26 25 23
Рис. 11. Результаты применения алгоритма FOS для отбора конструктивных компонент разложения временного ряда электроэнцефалограммы
моделей в состав общей модели декомпозиционного метода прогнозирования.
Рис. 12. Графики исходного временного ряда электроэнцефалограммы и восстановленного моделью декомпозиционного метода прогнозирования
Рис. 13. График остаточных ошибок модели декомпозиционного метода прогнозирования
Cреднеквадратическая ошибка моделирования составила 2,37.
Выводы
Таким образом, для получения адекватных моделей сложных процессов, высококачественных прогнозов и качественного управления необходимо комбинировать модели с разными структурами, включая нелинейные модели, которые являются взаимодополняющими при их конкурентном обучении.
Предлагаемый метод «Гусеница»-8БА — АРПСС -СПОАРУГ является модификацией метода «Гусени-ца»-8БА с автоматическим отделением долгосрочной памяти от краткосрочной и периодических составляющих, а предложенная модель АРСПСС — СПОАРУГ, как и модель АRFIMА — FIGАRCH, является очередной модификацией модели АИМА — GАRCH, а метод построения предлагаемой модели является развитием метода Бокса-Дженкинса, но для моделирования более широкого класса процессов. Модель декомпозиционного метода прогнозирования может быть интерпретирована как
развитие моделей в пространстве состояний, позволяет реализовать общую модель как совокупность взаимоувязанных более простых моделей. Такая структура модели позволяет повысить адекватность и точность моделирования и прогнозирования нелинейных нестационарных многомерных процессов, повысить устойчивость идентификации процесса и упростить ее.
Предложенная модель АРСПСС — СПОАРУГ, модель декомпозиционного метода прогнозирования и методики их построения являются некоторым промежуточным подходом между классическими регрессионными и современными нейросетевыми и более формализованные по выбору структуры, являясь при этом оптимальной, по мнению автора, по детализации с учетом существующих на сегодняшний день математических и машинных как достоинств и достижений так и недостатков и ограничений.
Подводя итоги описанным выше преимуществам предлагаемых математических моделей, еще раз следует отметить, что основная идея состоит в эффекте синергии, который возникает в результате комбинированного применения идей двух методов: метода «Гусеница»-8БА и метода Бокса-Дженкинса.
Основным преимуществом предлагаемых методик построения моделей адекватных исследуемому процессу является их строгая формализация и, следовательно, возможность полной автоматизации всех этапов построения и использования модели.
Литература
1. Granger C. W. J. An Introduction to Long-Memory Time Series Models and Fractional Differencing [Текст] / C. W. J. Granger, R. Joyeux // Journal of Time Series Analysis. — 1980. — N 1(1). — P. 15—29.
2. Cедов A. В. Моделирование объектов с дискретно-распределенными параметрами: декомпозиионный подход [Текст] / A. В. Cедов. — М. : Наука, 2010. — 438 с.
3. Aвтоматизированная система анализа и оперативного прогнозирования процессов потребления целевых продуктов в жилищно-коммунальном хозяйстве [Текст] : Международный конкурс инновационных проектов «Харьковские инициативы». — Харьков, 2010.
4. Модель авторегрессии — спектрально проинтегрированного скользящего среднего со спектрально проинтегрированной обобщенной авторегрессионной условной ге-тероскедастичностью для моделирования, фильтрации, прогнозирования и управления процессами в современных системах автоматизации [Текст] : труды Международной научно-практической конференции «Передовые информационные технологии, средства и системы автоматизации и их внедрение на российских предприятиях» AITA-2011., 4—8 апреля 2011, г. Москва, 2011. — 1048 с.
5. Евдокимов A. Г. Оперативное управление потокораспре-делением в инженерных сетях [Текст] / A. Г. Евдокимов,
A. Д. Тевяшев. — Х. : Вища школа, 1980. — 144 с.
6. Голяндина Н. Э. Метод «Гусеница»-SSA: прогноз временных рядов [Текст] : учеб. пособие / Н. Э. Голяндина. — ОТб., 2004. — 52 с.
7. Перцовский О. Е. Моделирование валютных рынков на основе процессов с длинной памятью [Текст] / Н. Э. Перцовский : Препринт WP2/2004/03 — М. : ГУ ВШЭ, 2003. — 52 с.
8. Bollerslev T. Generalized autoregressive conditional heteroscedasticity / T. Bollerslev // Journal of econometrics. — 1986. — V. 31. — PP. 307—327.
9. Тевяшев А. Д. Системный анализ и управление большими системами энергетики [Текст] / А. Д. Тевяшев. — Х. : 2009. — 507 с.
10. Juang J.-N. and Phan M. Q. Deadbeat Predictive Controllers [Текст] / J.-N. Juang, M. Q. Phan // AIAA 35th Aerospace Sciences Meeting. — AIAA paper number 97-0455. — Reno. — January 1997.
11. Цифровое моделирование радиосигналов комбинированными нелинейными моделями, основанными на моделях метода «Гусеница^-SSA и сезонной АРССЭ [Текст] : труды 13-й Международной конференции «Цифровая обработка сигналов и ее применение — DSPA-2011», 30 марта — 2 апреля 2011, г. Москва. — С. 165—168.
12. Модель VARSIMAX. Синтез финитного апериодического регулятора [Текст] : сборник статей одиннадцатой Международной научно-практической конференции «Фундаментальные и прикладные исследования, разработка и применение высоких технологий в промышленности», 27—29 апреля 2011 г., Санкт-Петербург, Россия / под ред. А. П. Кудинова. — СПб. : Изд-во Политехн. ун-та, 2011. — С. 457—464.
13. Системный подход к автоматическому построению комбинированных математических моделей, основанных на совместном использовании моделей сезонной АРССЭ и метода «Гусеница»-SSA с нелинейным усложнением передаточной функции, для моделирования и прогнозирования широкого класса процессов, описанных временными рядами. Сезонная модель нелинейной авторегрессии — спектрально проинтегрированного скользящего среднего (сезонная нелинейная АРСПССЭ модель, seasonal NARSIMAX model) [Текст] : сборник статей десятой Международной научно-практической конференции «Фундаментальные и прикладные исследования, разработка и применение высоких технологий в промышленности», 09—11 декабря 2010 г. Санкт-Петербург, Россия / под ред. А. П. Кудинова. — СПб. : Изд-во Политехн. ун-та, 2010. — С. 361—369.
14. Методика построения комбинированных математических моделей для описания и прогнозирования широкого класса физиологических и психофизиологических процессов [Текст] : сборник трудов первой Международной научно-практической конференции «Высокие технологии, фундаментальные и прикладные исследования в физиологии и медицине», 23—26 апреля 2010 г., Санкт-Петербург, Россия / под ред. А. П. Кудинова, Б. В. Крылова. — СПб. : Изд-во Политехн. ун-та, 2010. — С. 457—464.
15. Бокс, Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление [Текст] / Дж. Бокс, Г. Дженкинс ; пер. с англ. — М. : Мир, 1974. — Вып. II. — 197 c.
16. Ahid, Ahmed. Fast Orthogonal Search For Training Radial Basis Function Neural Networks / Ahmed Ahid // Abstract of a Thesis Presented in Partial FulFillment of the Requirements for the Degree of Master of Science (in Electrican Engineering). August, 1994. — 69 p.
17. Метод «Гусеница»-SSA — АРПСС — СПОАРУГ и модель АРСПСС — СПОАРУГ для анализа и прогнозирования финансовоэкономических временных рядов [Текст] : сборник трудов второй Международной научно-методической конференции «Математические методы, модели и информационные технологии в экономике», 4—6 мая 2011 г., Черновцы. — С. 306—308.
18. Тевяшев А. Д. Сравнительный анализ методов прогнозирования процессов потребления природного газа / А. Д. Тевяшев,
В. Н. Щелкалин // Восточно-европейский журнал передовых технологий [Текст]. — 2009. — № 42. — С. 8—16.
