Адаптивное прогнозирование для процесса авторегрессии со случайным параметром Текст научной статьи по специальности «Математика»

АДАПТИВНОЕ ПРОГНОЗИРОВАНИЕ ДЛЯ ПРОЦЕССА АВТОРЕГРЕССИИ СО СЛУЧАЙНЫМ ПАРАМЕТРОМ

Кусаинов Марат Исламбекович

аспирант

Томского Государственного Университета,

РФ, г. Томск E-mail: [email protected]

ADAPTIVE PREDICTION FOR RANDOM COEFFICIENT AUTOREGRESSIVE PROCESS

Marat Kusainov

postgraduate student, Tomsk State University, Russia, Tomsk

АННОТАЦИЯ

Решается задача адаптивного прогнозирования значений устойчивого многомерного процесса авторегрессии первого порядка с дрейфом параметра динамики. С использованием метода усечённого оценивания неизвестных параметров построены одношаговые прогнозы значений процесса. Для заданной функции потерь решена задача оптимизации, показана асимптотическая оптимальность процедуры прогнозирования, для чего вводится специальный момент остановки.

ABSTRACT

The problem of adaptive prediction for stable multivariate autoregressive process of the first order with parameter drift is studied. A one-step adaptive predictor of the process' values is built using the truncated estimation method to estimate unknown parameters. For a certain loss function the optimization is performed, the asymptotic optimality of the prediction procedure is shown, a special stopping time is introduced to this end.

Ключевые слова: процесс авторегрессии; одношаговые прогнозы; метод усечённого оценивания.

Keywords: autoregressive process; one-step predictor; truncated estimation method.

Постановка задачи

Пусть устойчивый многомерный процесс авторегрессии задаётся следующим уравнением

х(к) = Ак_х(к -1) + £(к), к > 1,

(1)

где

Л* =Л + л(к) к > 0,

Л — это неизвестная Р х Р матрица, последовательности к^ к - ^ к >1 независимы между собой и образованы из независимых одинаково распределенных случайных векторов с нулевым средним и конечной

дисперсией " Е11^(1)! ' ал " Е1Ь(0)11 • Устойчивость процесса требует также

выполнения условия Е!х(0)И <( и того, чтобы матрица Л_ ЕЛ0 ®Л0, где ¥ ® % — кронекеровское произведение матриц У и Z, была устойчива. Такая модель описывает специфику многих стохастических процессов лучше авторегрессии с постоянными параметрами динамики.

Хорошо известно, что оптимальным в среднеквадратическом смысле одношаговым прогнозом является условное математическое ожидание относительно «прошлого» процесса, т. е.

хор (к) = Лх(к -1), к > 1.

Заменяя неизвестную матрицу Л некоторой оценкой ^к' получим адаптивные прогнозы вида

х(к) = Ак_гх(к -1), к > 1.

Тогда соответствующая ошибка прогноза

е{к) = х{к) - х(к) = (Л - Лк_х)х(к -1) + ц(к -1 )х(к -1) + Щ).

Обозначим e (n) выборочное среднее квадратов нормы ошибок прогноза

1 П о

||ад||2.

Пк=1

Определим функцию потерь

A 2. ч

Ln = — e (n) + n. n

Параметр A(> 0) можно трактовать как стоимость ошибки прогнозов. По определению соответствующая функция риска имеет вид

A 2

Rn = E0Ln =— E0e (n) + n n

E P

где 0 обозначает математическое ожидание по распределению 0 при

заданном значении вектора параметров _( п''"' ' ^5 ^). Обозначим ©

0е© д - а2,а2 >0.

множество векторов, такое что для матрица А устойчива и л

R

Основная задача заключается в минимизации Rn по размеру выборки n. Схожая задача для скалярного процесса авторегрессии без дрейфа решалась в работе [3], где для оценивания Л был использован метод наименьших квадратов, для многомерного процесса авторегрессии без дрейфа — в работе [2].

Основной результат

Для оценивания Л используется метод усечённого оценивания, предложенный В.А. Васильевым в работе [4] и позволяющий получить оценку параметра с гарантированной точностью в среднеквадратическом смысле при фиксированном объёме наблюдений.

created by free version of

DociFreezer

Усечённая оценка матрицы Л основывается на оценке по методу наименьших квадратов

Лк=етт1, к > 1, Л0=0,

^ 1 ^ ...Г.. „ „ 1 *

е* = 7 X х(1)хТ (г -1), Г = - X х(г -1)хт (г -1),

и определяется следующим образом

Здесь л к = йе1( Г), нк = 1п к, а %(В) обозначает индикатор множества В.

ТТ ~ Д ||в(^)||2

Для выделения главной части риска п перепишем величину 9 н 4 используя определение (2) и независимость шумов

Ев ||в(А:)||2 = Ев (Л- -1)' + яв 1К* - № - 1)|Г + 4

II2 . _2

Заметим, что йСпхг ^ ), где tr(У) обозначает след матрицы У,

аргумент времени (к) опущен для простоты записи. Используя свойства следа,

получим Ее1М|2 = *(ЕеЛЧЕеххТ)=ЕеххТ), где * = Ее^ не зависит от времени в силу свойств п(к). Тогда риск принимает вид

А ,

Яп = а (ст| + 1г(Т Г) + Бп) + п,

п (3)

где

Г = Иш Евх(к)х (к),

к ^да

А, = -Е ЧЧ(Евх(к -1 )х\к -1) - Л) + -X £е I (Л,., - Л)*(* -1)

И ¿=1 п к=1 1

!!\ сгеа1ес1 Ьу free уегсюп

д Роа^геегег

о ^ ©

Матрица Г существует и положительно определена при [1].

Оценим первое слагаемое Вп, Используя определение х(к), запишем

к-1

Л

£ех(к)хт(к) = Х ПЛ

I=0

'"к-]

1=1 У

Цк - I)£Т(к - I)

ПЛ к-,

1=1 У

пренебрегая незначимым слагаемым с х(0). Воспользуемся оператором уес[7] обращающим р х р матрицу У в р х 1 вектор, составленный из столбцов У. Согласно свойству оператора уес[*7%] =(% 0 *)уес[7]> имеем

к-1

^ л

Ее уес[х( к) х т(к)] = ПЛ к-;

'=0 V1= У

уес[Е],

(4)

где Е = ^С1)^1)' Г®2 = 7 ® 7. Поскольку (* 0 *)(7 0 % ) = 0

5 имеем

( ' ^ П Л к-; V;=1 У

^ V Л

02

Пл

J = 1

®2 к-1 '

ПЛ к-1 =П ЕеЛ® -; =Л '>

а следовательно V1 1 у 1 1 вследствие

независимости п(к). Тогда ряд в (4) приобретает вид суммы первых к членов

многомерной геометрической прогрессии, и с учетом устойчивости Л

к-1_ — —

Е vec[x (к) хт (к)] = ^Л/уес[Е ] = (I - Л)- (I - Л *) уес[Е ],

I=0

уес^] = ( 1 -Л)"уес[21- Используя

откуда показать, что

это представление, нетрудно

да 1 п

2 р-(Еех(к -1)хт(к -1) - Е) < С, - £ (Еех(к -1)хт(к -1) - Е)) < Сп

к=1 п к=1

здесь и далее С обозначает неотрицательные, необязательно равные между собой постоянные, значения которых не принципиальны.

т

^ сгеа!ес1 Ьу ^ее уетоп

д Роа^геегег

Для оценивания второго слагаемого Вп используем свойства оценки ^к9 для установления которых ниже сформулирована лемма. Определим

д-2

к0 = гах^ [е ]1}, где [а]

целая часть а, и

вспомогательную величину А = det(Г) > 0.

Лемма 1. Пусть (1) задаёт процесс х(к), и для некоторого целого т >1 выполняются условия

Е||^(1)|4Рт <(, Е||х(0)ГРт <(.

4 рт

Е Л ®4 рт

Предположим также, что матрица 0 устойчива. Тогда для усечённой оценки ^к справедливо (1) для 1 * к < к0

Л,-Л

2т

<С;

(И) для к > к0

Еа

Л,-Л

2т С\пт к <-

к"1

(5)

Доказательство Леммы 1 проводится аналогично [2]. Используя (5) и неравенство Коши-Буняковского, получим

\ п и ~ 2 с п I ~

-X ■Ее (АН - А)х(к -1) < -Е ^е Аы - А л к=1 п к=1 *

4 С\пп

<

п

Таким образом, использование оценки ^к в прогнозе гарантирует

^ ^Лп2 п

Вп < С-= о(1) при п

п

^ сгеа!ес1 Ьу ^ее уетоп of

д Роа^геегег

Обозначим а а+ ).Принимая во внимание определение (3), поставленная задача сводится к минимизации главной части функции риска

п* A 2

К*^—а + п-> шт.

п

П

Нетрудно видеть, что минимум достигается на значении

п°л = Л"2 а. (6)

Тогда приблизительное минимальное значение риска

К= 2Л12а + О(1п2 Л) при Л ^ да.

пЛ

Подобно [2], [3], введем момент остановки ТА, приближающий

п° 2 установленный теоретически Л вида (6), заменяя неизвестный параметр а

~ а 2

некоторой его оценкой п

Тл = ы{п>А1/2дп},

п>пА ^ ) (7)

где: пА — так называемая задержка процедуры, зависящая от значения А, и

1 И .. „ 2

п к=1

Следующая теорема устанавливает асимптотическую эквивалентность ТА и

П°

Л в смысле сходимостей почти наверное и в среднем, а также оптимальность процедуры адаптивного прогнозирования в смысле эквивалентности величин

1 9

КЛ = Ее ЬТа = ЛЕе— е\Та ) + Е,ТА Та

п

R *o.

и nA

Теорема 1. Пусть матрица х Р устойчива, El^(1)i <да, EWx(о)1 <да и

< да

па в (7) удовлетворяет max{ko,Аln А} ^ nA = o(A ) для r G (2/5'1/2) Тогда для любого

— ——-► 1 PQ- п.н., ^ ——-> 1, ——-► 1.

o А^да ö 7 o А^да 7 d* А^да

nA ПА R o

A A па

Заключение

В настоящей работе решена задача построения оптимальных одношаговых прогнозов значений многомерного устойчивого процесса авторегрессии первого порядка с дрейфом параметра динамики. Все параметры модели полагаются неизвестными. Прогнозы построены на базе оценок по методу усечённого оценивания, достигающего заданной точности на выборках конечного объёма. Оптимальный объём наблюдения определён как теоретически, так и на основе данных в виде момента остановки, показана их асимптотическая эквивалентность в случае неограниченно растущей цены ошибки прогноза.

Список литературы:

1. Кашковский Д.В., Конев В.В. О последовательных оценках параметров авторегрессии со случайными коэффициентами // Автометрия. — 2005. — № 1. — С. 70—81.

2. Kusainov M.I., Vasiliev V.A. On optimal adaptive prediction of multivariate autoregression // Sequential Analysis. — 2015. — № 2. — С. 211—234.

3. Sriram T.N. Sequential estimation of the autoregressive parameter in a first order autoregressive process // Sequential Analysis. — 1988. — № 7. — С. 53—74.

^ created by free version of

S DociFreezer

4. Vasiliev V.A. Truncated estimation method with guaranteed accuracy // Annals of Institute of Statistical Mathematics. — 2014. — № 1. — C. 141—163.