Анализ и оперативная диагностика систем, описываемых нестационарными случайными процессами Текст научной статьи по специальности «Математика»

с

истемный анализ и обработка данных

УДК 519.27

АНАЛИЗ И ОПЕРАТИВНАЯ ДИАГНОСТИКА СИСТЕМ, ОПИСЫВАЕМЫХ НЕСТАЦИОНАРНЫМИ СЛУЧАЙНЫМИ ПРОЦЕССАМИ1

Е.А. Гребенюк Институт проблем управления им. В.А. Трапезникова, г. Москва

Рассмотрена задача обнаружения изменений свойств коинтегрированных нестационарных процессов. Для обнаружения нарушения коинтеграционной связи предложен алгоритм кумулятивных сумм. Эффективность предлагаемого подхода продемонстрирована решением задачи анализа группы индексов российских финансовых рынков, описываемых нестационарными временными рядами.

ВВЕДЕНИЕ

Большинство процессов в экономике, демографии и социологии представляет собой так называемые «развивающиеся процессы», анализ которых в силу их нестационарного характера зачастую невозможен традиционными методами. При определенных условиях между нестационарными процессами может существовать взаимосвязь, называемая коинтеграцией, методы анализа и исследования таких взаимосвязей относятся к коинтеграционно-му анализу [1, 2]. Существование коинтеграцион-ных связей объясняется наличием «общих трендов» [3, 4]. Если связи между процессами — устойчивые, то можно предположить, что система, поведение которой описывается этими процессами, тоже устойчивая, а нарушение связей может привести к дисбалансам в системе.

Периодически в процессах происходят изменения. Изменения хотя бы в одном из процессов приводят к разрушению коинтеграционных связей. Последствия этих разрушений зависят напрямую от содержания происходящих явлений и дальнейшего поведения системы. Связи могут восстановиться через некоторое время на новом уровне, если соответственные изменения произойдут и в

1 Статья рекомендована к печати Программным комитетом Второй международной конференции по проблемам управления (Москва, 2003 г.).

остальных процессах, все компоненты могут вернуться в прежнее состояние и, наконец, нарушение связей может привести к разрушению системы. Поэтому нахождение связей, анализ их поведения и обнаружение изменений свойств нестационарных компонент, приводящих к разрушению связей, являются мощным средством анализа систем, описываемых нестационарными процессами.

В настоящей работе предлагается подход к анализу и прогнозу систем, описываемых нестационарными рядами, основанный на выделении интервалов, в которых не изменяются параметры нестационарных процессов, построении в этих интервалах моделей коинтеграционных связей и отслеживании изменений как в самих процессах, так и образуемых ими долговременных коинтеграционных связях. Для обнаружения изменений в нестационарных процессах и выделения стационарных интервалов построены алгоритмы обнаружения типа кумулятивных сумм, которые в случае точно известных параметров процесса обладают оптимальными свойствами по критерию наискорейшего обнаружения [5]. В рассматриваемом нами случае параметры процесса после изменения свойств неизвестны, могут быть сделаны только некоторые предположения относительно типа их изменений. Поэтому для обнаружения изменений мы пользуемся модификациями алгоритмов кумулятивных сумм, которые не являются оптимальными, но гарантируют приемлемое качество обнаружения.

ПОСТАНОВКА ЗАДАЧИ

Рассмотрим систему, поведение которой описывается векторной случайной последовательностью временных рядов:

<1, <2, ..., <, ..., <а + 1, ...,

Где < = (Уц, \2*, ..., УрУ.

Предположим, что последовательность удовлетворяет следующим условиям.

1. Компоненты вектора < описываются моделями вида:

Уи = У и + Ни,

(1)

где ег7 — стационарный процесс, уг7 = р + уи—1 + уг7, уг7 ~ 1(0, 5у), уг7 и ег7 — независимые процессы, р — константа, определяющая размер и направление дрейфа, / = 1, 2, ..., р.

2. Существует постоянная рхр-матрица С такая, что процесс

= = С< = I ,

1 = о

где

$ =

а11

V ар1

а

у = 0, 1, 2, ..., к, является стационарным.

3. В некоторый неизвестный момент времени t в к Р р компонентах процесса < возникают изменения следующих типов:

• изменение стохастического тренда

V1,, если І < іа

Vй, если І > І а

где

52(V1) * 52( V2), 52(V/,), ] = 1, 2 -

(2)

(3)

дисперсия процесса , / = 1, 2, ..., к, до изменения

(у = 1) и после изменения (у = 2).

• изменение дрейфа:

если І < І а

(4)

.рг., если t > ta

Требуется обнаружить изменение свойств процесса, т. е. определить моменты изменения и характер изменения моделей отдельных компонент и связей между компонентами.

АНАЛИЗ ПОСЛЕДСТВИИ ИЗМЕНЕНИИ СВОЙСТВ НЕСТАЦИОНАРНЫХ ПРОЦЕССОВ

Изменения в системе в соответствии с п. 3 постановки задачи могут возникать в одном или сразу в нескольких процессах (компонентах). Рассмотрим типы возможных изменений и влияние изменений в отдельной компоненте на коинтегра-ционную связь.

Нестационарный процесс, к-е разности которого стационарны, называют интегрированным к-го порядка. Если процессы у1, у2, ..., уп (п О 2) интегрированные порядка к, и их линейная комбинация является процессом, интегрированным порядка к — 1, то они называются коинтегрированными порядка к, а связь между ними — коинтеграцией.

Пусть исходный процесс описывается моделью вида (1). Рассмотрим первые разности процесса в случае, когда в нем изменяется стохастический тренд (2):

А у, =

Р + Vt + Є, - Є,_ 1, если І < Іа

.р + Vt + et - et_ 1, если t > ta

Из выражения (3) следует, что ряд разностей А у после момента t изменяет дисперсию. Рассмотрим первые разности процесса в случае, когда в нем изменяется дрейф (4):

+ Vt + et _ Et_ 1, если t > ta

(индекс / здесь опущен).

Ряд разностей Ау{ после момента t изменяет среднее, поэтому в случае детерминированного тренда задача обнаружения сводится к обнаружению изменения среднего в стационарной последовательности А у .

Рассмотренные изменения приводят к нарушению коинтеграции, если они происходят только в одном из процессов.

Пусть имеются два ряда уи и у2/, коинтегриро-ванных порядка 1, тогда существуют ненулевые константы Е1 = 1 и р2 = Е, для которых их линейная комбинация стационарна. Это может быть тогда и только тогда, когда

У 1і + Е У 2І = 0. Если условие (5) выполняется, то

(5)

уц + Ру2< = у 1, + Е у 2/ + ^ + Ен2/ = ^ + Ен2/.

Предположим, что в одном из рядов изменяется стохастический тренд:

У 1і

Р1 + У1І- 1 + VlІ + Н1 і, если І< Іа Р1 + У1І - 1 + V2 і + Н1 і , если І > Іа

Тогда в момент времени /а

у1/ + Р2 у2 / = у 1 / + Р2 у 2 / + £1/ + р£2 / =

= (П/ — + £1/ + р£2Р

и для любого момента времени t О /а линейная комбинация (5) имеет вид:

у1 / + ^2/ = у 1 /—1 + + Р у 2 /—1 + р^/ + £1 / + р£2/ =

= I (П/ — + н1/ + р£2Р

м = * а

т. е. процесс становится интегрированным первого порядка.

• Предположим, что стохастический тренд изменяется в обоих рядах. Тогда в момент времени /а

у1 / + Р у2 / = у 1 / + Р у 2 / + £1 / + р£2 / =

= (П/ — ИЛ + £Х/ + р£2р

и для любого момента времени t О /а линейная комбинация (5) имеет вид:

у1 / + ру2 / = у 1 /—1 + ^ / + Р у 2 /—1 + pV2 / + £1 t + р£2 t =

= I (v2t — pv2t) + £1/ + р£2Г

м = * а

Если изменения таковы, что связь между ни-

2

ми сохраняется, то существует р такое, что v1t —

— pv2t = 0.

• Предположим, что в одном из рядов изменяется дрейф:

Гр1 + ух/- 1 + Vlt + £11, если t< ta

у1/ = 1 2 - .

^ + ух/- 1 + V1t + £Хt, если t> /а

Тогда в момент времени /а

ух/ + ру2 t = у Х/ + Р у 2/ =

= у 1/—1 + Р1 + р у 2/—1 + рр2 = (Р1 — р1^

и для любого момента времени / О /а линейная комбинация имеет вид:

у1/ + ру2 / = у 1/ + р у 2/ =

= у 1/—1 + v2t + р у 2/—1 + Рv2t =

= ( / — /а + 1)( Р2 — р1),

т. е. линейная комбинация становится нестационарной и ее среднее линейно возрастает со временем.

Предположим, что дрейф изменяется в обоих рядах. Тогда в момент времени /а

у1/ + Ру2 / = у 1/ + Р у 2 / =

= у 1/—1 + Р2 + р у 2 /—1 + РР2 = (Р1 — РP2),

и для любого момента времени / О /а линейная комбинация имеет вид:

у1/ + Ру2 / = у 1/ + Р у 2 / =

= у 1 /_1 + v2t + р у 2 /—1 + Рv2 / =

= ( / — /а + 1)( р1 — Рр2),

Если изменения таковы, что связь между ними

2

сохраняется, то существует р такое, что v1 + + p'vр2 = 0.

ПРОВЕРКА КОИНТЕГРАЦИИ

Методика определения коинтеграционных связей достаточно полно разработана и включает в себя следующие шаги:

• определяется порядок интегрированности процессов и их составляющих — (по критериям Дики—Фуллера, Перрона, Парка, Квятковско-го и др.);

• если процессы — интегрированные одного порядка, то между ними возможна коинтеграци-онная связь — вычисляется регрессия;

• проверяется порядок интегрированности остатков (по модифицированному критерию Дики— Фуллера).

Изменения в одном или нескольких рядах приводят к:

— изменению дисперсии ряда разностей;

— изменению порядка интегрированности линейной комбинации этих рядов и увеличению ее дисперсии;

— изменению среднего ряда разностей;

— изменению порядка интегрированности линейной комбинации этих рядов и увеличению ее среднего.

Таким образом, в случае изменений отдельного ряда коитеграционная связь нарушается всегда, в случае изменения двух рядов она может либо сохраниться, либо нарушиться. Сохранение коинте-грационной связи означает, что система приходит в состояние равновесия после произошедших в ней изменений. Нарушение связей может привести к разрушению системы или к серьезным изменениям в ней.

Нарушение коинтеграции вследствие изменения свойств одного ряда может привести к следующим последствиям:

— формированию новой связи вследствие изменений другого ряда;

— восстановлению связи в результате возврата первого ряда в исходное состояние;

— разрушению связей между рядами в долгосрочном периоде.

ПОСЛЕДОВАТЕЛЬНЫЕ АЛГОРИТМЫ ОБНАРУЖЕНИЯ ИЗМЕНЕНИИ

Для обнаружения изменений свойств процесса по текущим наблюдениям применим алгоритмы последовательного анализа. После получения очередного наблюдения алгоритм анализирует его и принимает решение о наличии либо отсутствии изменения свойств. Алгоритм обнаружения представляет собой последовательную процедуру проверки гипотез — проверяется гипотеза +0: плотность распределения процесса равна 3Х против альтернативной гипотезы +х: плотность распределения процесса равна 32.

Для условий точно известных параметров распределения 9Х и 02, соответственно до и после изменения свойств процесса ух, у2, ..., у* , ... и неизвестного момента изменения /а, разработан алгоритм кумулятивных сумм, получивший название СШиМ [6]. Основная идея алгоритма заключается в вычислении статистики

t

Vt - V In Л= <W

V On ІГТУІ:

i = k /01<у)

(б)

где /01( Уг) и /02( у;) — функции правдоподобия распределения случайной величины у до и после изменения свойств. Момент изменения свойств определяется алгоритмом как решение оптимизационной задачи:

(7)

Решающая функция j допускает рекуррентное представление:

(

о,

t -1

+ In

/е2 <уі)'

Те 1 < у i)J’

= о.

В работе [5] показано, что в случае точно известных параметров до и после обнаружения алгоритм (7) обладает оптимальными свойствами в смысле критерия минимизации средней задержки обнаружения в «наихудшем случае»:

w = sup [hvvsup(02 (t — t + 1|уі , t < ta)]

ta * 1 2

при среднем времени T до ложной тревоги, удовлетворяющем условию T = Е0 (t |t < ta) > у, где w —

момент обнаружения изменений, (0 (•) — математическое ожидание величины (•) при распределении /9, ( у* ), / = 1, 2, у — допустимый уровень

ложных тревог. Среднее время задержки в обнаружении определяется для всех действительных 02 выражением

(0 (Т(у)) а 1П (У 1 ) .

V .(02,0Х)

Величина .(02, 9Х) представляет собой информационную меру, называемую информацией Куль-бака—Лейблера, которая определяется выражением

.(0i, 0j) = Е0

' /02<у,)'

In-т2------

/0t< у, )

i, j = 1, 2, i z у. (8)

Предположения о точно известных параметрах после момента обнаружения являются слишком жесткими. Ясно, что в случае, например, экономических индексов можно в лучшем случае высказать только предположение об увеличении, либо уменьшении параметров. В случае неизвестных параметров в [7] было предложено два подхода к решению этой проблемы. Первый заключается в замене отношения правдоподобия (6) на «взвешенное» правдоподобие, второй — в максимизации отношения правдоподобия по всей области допустимых параметров. Соответствующие модифицированные алгоритмы исследованы в работах [8, 9]. Качество обоих алгоритмов практически одинаковое. Первый из них требует вычисления достаточно сложного интеграла, второй — большого объема необходимых вычислений. Рассмотрим алгоритм обнаружения изменений, основная идея которого близка к идее второго алгоритма, но реализация значительно проще.

Изменение среднего. Рассмотрим алгоритм обнаружения изменения среднего для случая, когда наблюдения распределены по нормальному закону с параметрами 0Х = (тх, 5Х), а после неизвестного момента времени /а распределение процесса подчиняется нормальному закону с параметрами 0 = (т > т2, 5Х), где параметр т — неизвестен, т2 — значение среднего, превышение которого хотим обнаружить.

Изменение дисяерсии. Рассмотрим алгоритм обнаружения изменения дисперсии для случая, когда наблюдения распределены по нормальному закону

с параметрами 0Х = (тх, 5Х), а после неизвестного момента времени /а распределение процесса подчиняется нормальному закону с параметрами 0 х = = (тх, 5 О 52), где 5Х > 52, параметр 5 неизвестен,

261

CONTROL SCIENCES № 4 • 2OO3

52 — значение дисперсии, превышение которого хотим обнаружить.

Описание алгоритма. Для статистики логарифма отношения правдоподобия последовательности ух, у2, ..., у* , у* +1, ..., распределенной по нормальному закону распределения с параметрами 1

и в случае изменения среднего ( в случае изменения дисперсии) выбираются пороги Л и Л, обеспечивающие желаемый уровень ложных тревог и задержку в обнаружении. Обозначим 2 = (т2, 51),

02 = (тх, 52). Среднее время между ложными тревогами и средняя задержка в обнаружении определяются по формулам [10]:

( (т) = I н Л _ 1 I 0х() .( 01, 0 2 )

еН + Л - 1|

(2(Т) .(02, 01)

где .( 0Х, 02) и .( 02, 0Х) определяются выражением (8). Отсюда при заданных значениях (0х (т) и (02 (т) определяется порог Л.

Далее при получении очередного наблюдения вычисляются статистики:

V/ = 1п(/( у*)) = 1п

702 (у* У х (у.)

при обнаружении изменения среднего и

V, = 1п(/( у.)) = 1п

7е2 ОД 10Л

(9)

(10)

при обнаружении изменения дисперсии, где / — функция правдоподобия.

Правила остановки:

(11)

/ = N

для обнаружения изменения среднего;

/ = N

(12)

для обнаружения изменения дисперсии.

Свойства предлагаемых алгоритмов определяются следующей теоремой.

Теорема. Дусть у х, у2, ..., у*, ... — иоследователь-ность независимых величин, расиределеннь/х ио нормальному закону с иараметрами 0Х = (тх, 5Х) до момента г включительно и с иараметрами 0 = (т, 5Х) х

х (0 = (т х, 5)) иосле момента /а, где т и 5 — не-

известные значения иараметров, т2 и 5 2 — их граничные значения, иричем т > т2( 5 > 5 2). Тогда:

7) для алгоритмов (9), (77) и (76),(72) средняя задержка в обнаружении стремится к нулю ири разнице между фактическими и граничными значениями иа-

раметров Ат = т — т2 о да и А5 = 5 — 5 2 о да, соответственно;

2) для алгоритмов (9), (77) и (70),(72) средняя задержка в обнаружении стремится к среднем задержке для алгоритма (6), (Т) с точно известными иараметрами иосле обнаружения ири разнице между фактическими и граничными значениями иарамет-

ров Ат = т — т2 о 0 и А5 = 5 — 5 2 о 0, соответственно.

Доказательство заключается в оценивании средней задержки в обнаружении для алгоритмов (9), (11) и (10), (12) и сравнении ее с задержкой для алгоритма (6), (7) при условиях Ат = т — т2 о да,

А5 = 5 — 5 2 о да и Ат = т — т2 о 0, А5 = 5 — 5 2 о о 0, соответственно.

ПРИМЕНЕНИЕ РАЗРАБОТАННЫХ АЛГОРИТМОВ

Разработанные алгоритмы применялись для анализа экономических индексов России в период с 1995 по 2002 г. Период с 1995 г., когда появились российские биржевые индексы, характеризуется неустойчивостью процессов в российской экономике. За это время на российских финансовых рынках неоднократно возникали кризисные ситуации, кульминацией которых был кризис 1998 г.

Следуя экспертным оценкам, рассматривались следующие кризисные события:

— банковский кризис ликвидности (25 августа 1995 г.);

— социально-экономический кризис доверия правительству накануне президентских выборов (3 июня — 16 июля 1996 г.);

— обвал фондового рынка (24 октября 1997 г.);

— кризис 17 августа 1998 г., явившийся одновременно валютным, банковским, инвестиционным и кризисом внешнего долга.

Исходные данные для анализа:

— российские биржевые индексы АК&М ($.0) и РТС (СТС);

— недельная средневзвешенная доходность ГКО (*ХО);

— обменный курс рубля к доллару (86");

— однодневные объявленные ставки по размещению кредитов (075057);

— месячные объявленные ставки по размещению кредитов (07505^0).

Рис. 1. Доходность GKO и месячные процентные ставки:

сплошная линия — недельная средневзвешенная доходность *.2; штриховая линия — усредненные по неделям месячные процентные ставки MIB30W

Методика анализа:

— проверялось наличие коинтеграционных связей в рассматриваемых рядах;

— определялись моменты изменения этих связей, в выделенных интервалах строились ре гресси-онные модели;

— по текущим наблюдениям вычислялись отклонения реальных рядов от моделей, определялись периоды возникновения значимых отклонений, которые служили сигналами о возможности возникновения кризисов.

Рассматривалось поведение индексов 0750550 и *АО (рис. 1). В результате статистического анализа свойств этих рядов было обнаружено, что ряды являются стационарными в первых разностях, а ряды первых разностей изменяют свои свойства после 90-й точки наблюдения (4.10.1996 г.).

Для периода 1.01.1995—4.10.1996 регрессионная модель имеет вид:

*.О01 (/) = 0,945 • 07530Ж(0 — 9,073 (13)

Для периода 5.10.1996—16.08.1998:

*.О0 (/) = 0,932 • 07530:(/) — 1,316. (14)

Если "(/ (/) = *.0 (/) — *.О01 (/) > 0, то доходность *.0 растет быстрее, чем процентные ставки по рублевым кредитам, если < 0, то цена на кредиты растет быстрее, чем падают цены на *.0. Среднее ("(/ (/)) для модели (13) составляет 9,44 при стандартном отклонении а = 24,27, а для

модели (14) — 2,42 при а = 12,31. Статистики кумулятивных сумм остатков моделей (13) и (14) представлены на рис. 2.

Выход отклонения за нижний порог в 1995 и 1998 гг. является признаком кризисов в банковском секторе. Отклонение 1997 г. вызвано понижением доходности *.О относительно ставок межбанковских кредитов (из-за привлечения нерезидентов), сопровождавшегося увеличением объемов выпуска *.О Выход за верхний порог (см. рис. 2, а) сигнализирует о резком падении цен на *.О; этот момент предшествует за семь недель кризису 1996 г.

Рис. 2. Решающая функция алгоритма обнаружения отклонений доходности GKO от модели:

а — для периода январь 1995—октябрь 1996 гг.; б — для периода ноябрь 1996—август 1998 гг.; штриховые линии — пороги алгоритма

10 н о - -10 — -20 — -30 — „ Л/ Л д /и.^^лЛ

\ ' I |

I ' I 1 1 1 1 1996 1998 2000 2002

Рис. 3. Решающая функция алгоритма обнаружения отклонений обменного курса доллара от модели (штриховая линия — порог алгоритма)

Рассматривалось совместное поведение индексов АКМ, РТС и обменного курса доллара (USD):

LnUSD (t) = -0,971 • LnPTC(t) +

+ 0,971-LnAKM(t) + 3,551

USD = const(AKM/RTS )0,971.

Графики решающей функции, обнаруживающей отклонение USD от модели, и индекса RTS приведены на рис. 3. Рост статистики говорит о том, что курс доллара занижен относительно цены акций в долларах, падение статистики указывает на обратный эффект.

Анализ взаимосвязи процентных ставок по краткосрочным (МІВОЯ1) и среднесрочным кредитам (МІВОЯЗО) показывает, что коинтеграцион-ная связь между процентными ставками нарушилась за три недели до начала банковского кризиса 1995 г. и за два месяца до начала августовского кризиса 1998 г.

Полученные результаты показывают эффективность разработанных алгоритмов при анализе нестационарных систем, описываемых временными рядами.

ЛИТЕРАТУРА

1. Greene W. H. Econometric Analysis. — New Jersey: Prentice Hall, 1999.

2. Engle R.F., Granger C.W.J. Cointegration and error correction:

representation, estimation and testing // Econometrica. — 1987. — Vol. 55. — P. 251—276.

3. Nyblom -., Harvey A. Tests of Common Stochastic Trends //

Econometric Theory. — 2000. — Vol. 16. — P. 176—199.

4. Vahid F., Engle R.F. Common Trends and Common Cycles //

Journal of Applied Econometrics. — 1993. — № 8. — P. 341—360.

5. Lorden G. Procedures for reacting to a change in distribution //

Annals Math. Statistics. — 1971. — Vol. 42. — Р. 1897—1908.

6. Page E.S. Continuous inspection schemes // Biometrika. — 1954. — Vol. 41. — P. 100—115.

7. Wald A. Sequential Analysis. — New York: John Wiley and Sons, 1947.

8. Basseville М., Nikiforov I.V. Detection of abrupt changes — theory and application. — New Jersey: Prentice Hall in Information and System Sciences, 1993.

9. Никифоров И.В. Модификация и исследование процедуры кумулятивных сумм // Автоматика и телемеханика. — 1980. — № 8. — С. 74—80.

10. Siegmund D. Sequential Analysis. Tests and Confidence Intervals. — New York: Springer—Verlag, 1985.

Ш (095) 334-76-40

E-mail: grebenuk@yahoo.com □

Подписку на журнал {Проблемы управления» можно оформить с любого месяца в любом почтовом отделении [подписной индекс 8ЛУ08 в каталоге Роспечати или 38006 в объединенном каталоге «Пресса России»], а также через редакцию [из любого места России]. Отдельные номера редакция высылает по первому же требованию. Стоимость одного номера — 440 руб.