CC BY
32
УДК 519.234.3
DOI: 10.18698/1812-3368-2017-6-19-30
РОБАСТНОЕ ОЦЕНИВАНИЕ В ПОРОГОВОЙ АВТОРЕГРЕССИИ
В.Б. Горяинов1 Е.Р. Горяинова2
vb-goryainov@bmstu.ru el-goryainova@mail.ru
1 МГТУ им. Н.Э. Баумана, Москва, Российская Федерация
2 Национальный исследовательский университет «Высшая школа экономики», Москва, Российская Федерация
Аннотация
Изучены робастные свойства М-оценок параметров самовозбуждающейся пороговой авторегрессионной модели. Функция потерь, определяющая М-оценки, предполагалась выпуклой и дважды дифференцируемой. Порог авторегрессионной модели считался известным и единственным. Доказана асимптотическая нормальность М-оценок параметров авторегрессионного уравнения. Найдена асимптотическая относительная эффективность М-оценок, оценки наименьших квадратов и оценки наименьших модулей по отношению друг к другу. Значения асимптотической относительной эффективности вычислены для нормального распределения, двойного экспоненциального распределения (распределения Лапласа) и загрязненного нормального распределения (распределения Тьюки). Исследована зависимость асимптотической относительной эффективности указанных оценок от параметров (доли загрязнения и величины загрязнения) распределения Тьюки. Для всех трех оценок в пространстве параметров распределения Тьюки построены линии равной эффективности, которые позволили выделить области предпочтения для каждой пары рассмотренных оценок. Показано, что при небольшом отклонении распределения обновляющего процесса от нормального М-оценки являются эффективнее оценок наименьших квадратов и наименьших модулей. Приведены рекомендации по использованию указанных оценок в практических исследованиях
Ключевые слова
Пороговая модель авторегрессии, М-оценки, асимптотическая нормальность, асимптотическая относительная эффективность, распределение Тьюки
Поступила в редакцию 20.02.2017 © МГТУ им. Н.Э. Баумана, 2017
Введение. В последнее время в теории временных рядов большое внимание уделяется нелинейным моделям, широко используемым в различных областях науки и техники [1].
Одним из наиболее распространенных классов нелинейных моделей является класс пороговых моделей, описываемых кусочно-линейными уравнениями в зависимости от величины пороговой переменной [2]. Возникновение таких
моделей, в частности, было обусловлено желанием описать «эффект асимметрии» в поведении финансовых индексов. Этот эффект возрастания волатильно-сти после падения цен не удавалось описать ни в рамках линейных, ни в рамках условно гетерокседастических моделей.
Когда каждый линейный режим описывается авторегрессионным уравнением, модель называется пороговой авторегрессионной моделью (threshold autoregression, или TAR) [3]. Если пороговой переменной является одно из прошлых наблюдений этого же временного ряда, пороговая модель называется самовозбуждающейся (self excited threshold autoregression, или SETAR). Примеры, приведенные в работе [2], показывают, что модели TAR обеспечивают лучшее описание реальных временных рядов, чем линейные модели. В частности, SETAR-модели способны описывать предельные циклы, резонансные скачки и некоторые другие асимметричные особенности, наблюдаемые в самых разнообразных, в том числе экономических и финансовых, временных рядах.
Одна из наиболее важных задач в теории нелинейных временных рядов — оценивание параметров описывающей этот ряд модели. Настоящая работа посвящена М-оценкам авторегрессионных коэффициентов SETAR-модели с одним порогом, доказана асимптотическая нормальность этих оценок и исследована их асимптотическая относительная эффективность по отношению к оценкам наименьших квадратов и наименьших модулей.
Постановка задачи. Рассмотрим простейший вариант самовозбуждающейся пороговой модели, а именно случайный процесс Xt, описываемый уравнением
Xt = aiXt+_! + a2Xf_i +et, t = 1,2,..., (1)
где x+ =max(x,0), а x~ = min(x,0). В (1) авторегрессионные коэффициенты
представляют собой неслучайные действительные числа, а st, t > 1 — последовательность независимых одинаково распределенных случайных величин с нулевым математическим ожиданием Est =0. Эквивалентным образом модель (1) может быть представлена в виде Xt = h(Xt_1) + et, t = 1,2,..., где h(Xt_1) = > 0) + a2I( Xt _1 < 0)) Xt _1; I(A) — индикаторная функция множества A.
Известно, что если плотность распределения вероятности f(x) случайных величин st четная, то распределение вероятности Xt симметрично относительно нуля тогда и только тогда, когда a1 = a2. Поэтому модель (1) иногда называют асимметричной авторегрессионной моделью.
Далее всюду будет предполагаться, что f(x) > 0 для любых x е К и существует E|st |2+5< да для некоторого 5 >0. В этом случае процесс Xt является стационарным и эргодическим тогда и только тогда, когда одновременно a1 <1, a2 <1 и a1a2 <1 [4].
Цель настоящей работы — исследование свойств М-оценок коэффициентов a = (a1,a2)1^ по наблюдениям Xb..., Xn, а также сравнение эффективности
М-оценок по отношению к оценкам наименьших квадратов и наименьших модулей.
Оценка наименьших квадратов. Оценку наименьших квадратов а* = (а*, а* )т параметра а = (аьа2)т по наблюдениям Х1,Х2,...,Хп определяют как точку минимума функции
п
- \2
llsq («) = е(xt - «1 xt-1 - «2xt-1 )2.
t=1
С учетом того, что Xt Xt = 0, для любого t, имеем
n n
SXtXt+-i XXtX «1 = "П-; «2= iTL
t-1
£(Щ2 КХ-1)2
г=1 (=1
Эти оценки состоятельны и асимптотически нормальны с ковариационной матрицей с2К_1, где
^ Е( Х{ )2 0 ^ 0 Е( ХГ )2
К =
Состоятельность означает, что при n ^ да последовательность а* сходится по вероятности к а, асимптотическая нормальность — что для любых действительных х и y
lim WnEX^2 (a*n - «i)< ха^nEXf2(«2n - «2)< ycj = Ф(х)Ф(y),
t2
1 х t
где Ф(х) = .— J e 2 dt — функция распределения вероятности стандартной
нормальной случайной величины; с2 = Es2 — общая дисперсия всех st, t = 1, 2,...
Оценка наименьших модулей. Оценку наименьших модулей « = (0г1, «2 )т параметра а по наблюдениям X1, X2, ..., Xn определяют как точку минимума функции
n
LLAD (а) = X I Xt ~ а1 Xt+-1 _ «2Xt-1 | . t=1
Оценки наименьших модулей состоятельны и асимптотически нормальны с ковариационной матрицей К[5].
Функция Llad («) кусочно-линейна и выпукла. Ее минимум можно найти стандартными методами минимизации кусочно-линейных выпуклых функций,
например методами линейного программирования [6] или методом Нелдера — Мида [7], который так же известен как метод деформируемого многогранника, или симплекс-метод. Однако наиболее распространенным способом минимизации функции Llad (a) является итерационный взвешенный метод наименьших квадратов [8], при котором эта функция представляется в виде
n
Llad (a) = Ywt (a1, a2)(Xt - aX^ - a2X^)2 (2)
t=1
с весами wt(a1,a2) = 1/|Xt -a1Xt+_1 -a2Xtl1|. Точка минимума a функции Llad(a) является пределом последовательности a(k) = (ajk ),a2k ))т, k-й член которой находится с помощью минимизации функции
Llad (a) = fwt (aj^, a2k"1))(Xt - a1 X^ - a2Xr_1 )2. t=1
В качестве начального приближения a(0) =(aj0), a20) )т можно использовать, например, оценку наименьших квадратов.
Сравнение оценок наименьших квадратов и наименьших модулей. Точность состоятельной и асимптотически нормальной оценки определяется ее асимптотической дисперсией — чем меньше асимптотическая дисперсия, тем точнее оценка. Из двух оценок лучше та, которая имеет меньшую дисперсию. Сравнительной характеристикой точности двух асимптотически нормальных оценок является асимптотическая относительная эффективность, определяемая как обратное отношение асимптотических дисперсий оценок. Асимптотическая относительная эффективность одной оценки по отношению к другой показывает, во сколько раз меньше наблюдений необходимо первой оценке для достижения точности второй оценки. Таким образом, асимптотическая относительная эффективность оценки наименьших квадратов (ОНК) по отношению к оценке наименьших модулей (ОНМ) равна
e(OHK, ОНМ) = ——. (3)
4a2 f 2(0)
Обычно полагают, что флуктуационные возмущения st модели (1) являются суммой большого числа примерно одинаковых малых случайных величин, имеющих самое разнообразное происхождение и, следовательно, на основании центральной предельной теоремы подчинены нормальному закону. Если st нормальные случайные величины с нулевым математическим ожиданием, то
1
( X 2 >
f (х)= ,— ехр--- , поэтому е(ОНК, ОНМ) = % /2, т. е. оценка наимень-
■\12%а ^ 2с )
ших квадратов лучше оценки наименьших модулей в % /2 раз — примерно в 1,5 раза. Другими словами, для достижения одинаковой с оценкой наименьших квадратов точности оценке наименьших модулей необходимо в п /2 раз больше наблюдений.
Однако нормальное распределение является не единственно возможным естественным распределением возмущений гt. Во многих случаях разумно полагать, что распределение случайных величин гt является нормальным, но со случайной дисперсией ^ (точнее нормальным является условное распределение st при условии, что случайная дисперсия ^ приняла какое-то конкретное значение у ). Если о дисперсии ^ дополнительно не делается никаких предположений, кроме существования средней дисперсии Ег|, то, полагая положение дисперсии ^ на числовой оси максимально неопределенным, методами теории информации можно получить [9], что безусловное распределение st будет двусторонним экспоненциальным распределением, или распределением Лапласа с плотностью
f (x ) =
1 -Jl\x\
V2c
где с2 = (Ег|)2/2. В этом случае е(ОНК, ОНМ) = 1/2, т. е. оценка наименьших модулей в 2 раза эффективнее оценки наименьших квадратов.
Согласно центральной предельной теореме, предположение о нормальности выполняется лишь приближенно. Общепринятая модель приближенного нормального распределения — распределение Тьюки, являющееся сочетанием нормальных распределений, при котором с небольшой вероятностью дисперсия нормального распределения значительно увеличивается, иногда в несколько раз. Плотность распределения вероятности распределения Тьюки имеет вид
2 х2 X л X
f(x) = (1 -у)-=г~~ + у-_е 2^2, т>1, 0<у<1. (4)
у12% \12%Т
Другими словами, если последовательность случайных величин имеет распределение Тьюки, то среди с вероятностью 1 -у встречаются стандартные (с нулевым математическим ожиданием и единичной дисперсией) нормальные величины, а с вероятностью у — нормальные величины с дисперсией
х2. Чем больше у и т, тем сильнее распределение Тьюки отклоняется от нормального.
В этом случае ст2 = 1 + х2 у-у, f (0) = (1 -у + у/ х)/^2тс, а величина е(ОНК, ОНМ), согласно (3), будет равна
лх2
е(у т)= -
2(1 -у + ут2)((1 -у)т + у)2
С ростом у и х величина е(у, х) становится меньше единицы, т. е. оценка наименьших модулей становится лучше оценки наименьших квадратов. Кроме того, так как е(у,х)^0 при х^да и любом фиксированном у, то оценки наименьших модулей могут быть эффективнее оценки наименьших квадратов в любое чис-
ло раз. При небольших т оценка наименьших квадратов всегда (при любых у) эффективнее оценки наименьших модулей. Действительно, минимум e (у, т) как
х + 2 . . 27 лх2(х +1)2
функция у, достигаемый в точке у =-, равен min e(y, х) =- и
3(т + 1) о <y<i 8(х2 +Х +1)3
становится меньше единицы только при т > т0, х0 « 2,3.
Следовательно, в наиболее распространенном на практике случае небольшого отклонения распределения et от нормального эффективность обеих оценок невелика — оценка наименьших квадратов уже неэффективна, а оценка наименьших модулей еще неэффективна.
М-оценки. Получить оценки, достаточно эффективные во всем диапазоне значений х и у можно, рассмотрев оценки, которые являются точкой минимума функции
n
C(ai,аг) = Xр(X -aiX^i -a2Xf-i), (5)
t=i
где функция p(x) ведет себя в окрестности начала координат как x2, а вне этой окрестности как | x |. Наиболее распространенным является семейство р-функ-ций Хьюбера [i0]:
| x2, если IX < k;
Рк (X) = W | | k2 ^ k (6)
12k | x | -k , если |X > k,
где k — параметр, изменяющийся от нуля (метод наименьших модулей) до бесконечности (метод наименьших квадратов). Оценки a = (iii, 0г2)т, полученные минимизацией (5) с произвольной р-функцией, называют М-оценками (получившими такое название от оценок максимального правдоподобия, которые являются частным случаем М-оценок с р-функцией, p(x) = - ln f (x)). Имеет место следующая теорема.
Теорема. Пусть процесс Xt, описываемый уравнением (1), является стационарным, р — выпуклая функция, р" непрерывна почти всюду и ограничена, а плотность f (x) независимых одинаково распределенных случайных величин st в (1) удовлетворяет условиям f (x) >0, x е Ж, Est =0, E(p'(st )2) > 0, Ep'(st) = 0, 0<Ep"(st)<да и Es2+5 < да для некоторого 5 >0. Тогда при n случайный
вектор 4n (a - a) является асимптотически нормальным с нулевым математическим ожиданием и ковариационной матрицей
_i E[p'(si)2] (E[p"(si)])2 .
< Отметим, что вектор a минимизирует (5) тогда и только тогда, когда вектор (X = a - a) является точкой минимума функции
L(«) = £(р (Et - атXXtn-т ) - p(et)), t=i
где Xt = (Xt+_1,Xt_1)T. Раскладывая L(a) в окрестности нуля по формуле Тейлора, получаем
L(a) = - Да + ат L2a + Р(а),
где
Li = n-т fp'(st )Xt; L2 = n-1 £ P"(st )XtXT, t=i t=1
P(a) = n-1 £ (p" (st - 6aTXtn-m ) - p"(st)) aTXtX?a, 0 e (0,1).
t=1
Рассуждая так же, как и в работе [10], получаем, что из стационарности Xt и st, Ep"(st )< да, непрерывности и ограниченности р" (x) по теореме о мажорируемой сходимости следует, что E| P(a) 0 при n ^ да, отсюда P(a) ^ 0 по вероятности при n ^ да.
Обозначим через а минимум функции L(a) = - Ща + 2-1 a7W а, где W = = E(p"(s1))K. Очевидно, что а = W ~1L1. Последовательность p'(st )Xt, t = 1,2,..., образует мартингал-разность относительно последовательности с-алгебр At, порожденной множеством |ss, 5 < t}, поскольку E[p'(st)X.t | At_1] = 0 в силу Ep'(st ) = 0 и независимости Ep'(st) от X.t. Согласно центральной предельной теореме, для мартингалов [12] случайный вектор L1 является асимптотически нормальным с нулевым математическим ожиданием и ковариационной матрицей RE[ р'( s11)2]. Следовательно, случайная величина a = W ~1L1 асимптотически нормальна с нулевым математическим ожиданием и ковариационной матрицей R _1E[p'( s11)2]. Поэтому для доказательства теоремы достаточно показать, что a - a —^ 0 по вероятности, т. е. P|| a -а | <5} ^ 1 для любого 5 >0.
Доказательство проведем по схеме, приведенной в работах [13, 14]. Зафиксируем 5 >0. Из асимптотической нормальности последовательности а следует ее ограниченность по распределению. Таким образом, существует компакт B из Ж2 с вероятностью, сколь угодно близкой к единице, содержащий сразу для всех n шары с центром а и радиусом 5.
Согласно закону больших чисел, для стационарных последовательностей L2 ^ W при n ^ да. В связи с этим L(a) - L(a) ^ 0 по вероятности при n ^ж. Следовательно, выпуклая функция L(a) + L1 сходится к выпуклой функции 2_1 a7Wа при n ^да. Таким образом, (3(a) ^ 0 равномерно на любом компакте, в частности, А = sup | Р(а) 0 по вероятности при n ^ ж [15].
aeB
Обозначим через e произвольный вектор единичной длины, а* = а + 5e, а = a + te, t > 5. Из выпуклости L(a) следует, что
L(a*) < ^ 1 -j^j L(a)+jL(a),
поэтому Да) > Да)+- ( Да*) - (Ьа)) > Да) + - ( Ь(а*) - (Ь а))+Р(а*) - Р(а). Поскольку матрица Ш положительно определена, Да*)-(Ьа) = 2_152втШв >0. Следовательно,
ш£ Ь(а) = Да) + М - ( Да*) - Да)) > I(а) + 2"152втШв - 2А.
аеВ (>5 5 '
Поэтому с вероятностью, стремящейся к единице, минимум Да) лежит внутри компакта В, т. е. Р{| а -а |<5| для любого 5 >0 при п ^да. Теорема доказана. ►
Эффективность М-оценки. Для семейства р-функций Хьюбера (6)
E[p'(si)2] = 4 k2 + 2(1 -у)(1 - k 2)Ф o(k) + 2у(х2 - к2)Ф о| - | + W2(y-1) „-f _ кхуУ2
(
E[p"(6i)] = 4 (1-у)Фо(к) + уФо
V
t2
1 —
где Ф0(х) = | ,— в 2 й- — функция Лапласа.
о >/2я
Это позволяет получить аналитическую зависимость асимптотической относительной эффективности М-оценки относительно оценки наименьших квадратов и оценки наименьших модулей, которые имеют вид
в(М, ОНК)= °2№"'е'">2 и в(М, 0НМ)= (е[р"(8'>1)!
E[p'fe)2] 4 f 2(0)E[p'(ei )2 ]
соответственно.
Выясним, когда М-оценки эффективнее оценок наименьших квадратов и наименьших модулей. На практике, как правило, ее (0,0,3), те (1,10). Анализ показывает, что для таких значений в и т величины е(М, ОНК) и е(М, ОНМ) принимают наибольшие значения при к е (1,3).
Линии уровня e (М, ОНК) = 1, e (ОНМ, ОНК) = 1, e (М, ОНМ) = 1 асимптотических относительных эффективностей е(М, ОНК), е(ОНМ, ОНК) и е(М, ОНМ) при к = 1,5 как функции т(у) приведены на рисунке. При этом множество {(у, т): е (М,ОНК) > 1} находится над кривой 1, множество|(у, т): е (ОНМ, ОНК) > > 1} — над кривой 2, множество {(у, т): е(М, ОНМ) > 1} — под кривой 3.
Для типичных на практике значений у е (0,1, 0,3), т > 2, М-оценки эффективнее и оценки наименьших квадратов, и оценки наименьших модулей. В частности, если (у, т) лежит между кривыми 1 и 2, то оценка наименьших квадратов все еще лучше оценки наименьших модулей, но уже хуже М-оценки.
8 6 4 2
Линии уровня е(М, ОНК) = 1 (1), е(ОНМ, ОНК) = 1 (2) и е(М, ОНМ) = 1 (3) асимптотических относительных эффективностей
Следовательно, при оценивании параметров модели пороговой авторегрессии М-оценку следует предпочесть как оценке наименьших квадратов, так и оценке наименьших модулей.
Заключение. Моделирование приближенного нормального распределения распределением Тьюки называется инновационной моделью погрешности наблюдений. Более серьезной причиной снижения точности оценки наименьших квадратов является проведение наблюдений авторегрессионного процесса с погрешностями. Наиболее распространенными моделями погрешностей наблюдений являются аддитивная и замещающая модели. В этом случае оценки, как правило, становятся смещенными, и количественной мерой этого смещения является функционал влияния оценки. Далее планируется для приведенных здесь оценок вычислить функционалы влияния, как это было выполнено в работе [16] для оценки наименьших квадратов параметра авторегрессионной модели со случайным коэффициентом.
ЛИТЕРАТУРА
1. Frames P.H., Dijk D.V., Opschoor A. Time series models for business and economic forecasting. Cambridge: Cambridge University Press, 2014. 300 p.
2. Tong H. Nonlinear time series: A dynamical approach. New York: Oxford University Press, 1990. 564 p.
3. Tong H. Threshold models in time series analysis — 30 years on // Statistics and its Interface. 2011. Vol. 4. No. 2. P. 107-118. DOI: 10.4310/SII.2011.v4.n2.a1
4. Petruccelli J.D., Woolford S.W. A threshold AR(1) model // J. Appl. Probab. 1984. Vol. 21. Iss. 2. P. 270-286. DOI: 10.1017/S0021900200024670
5. Wang L., Wang J. The limiting behavior of least absolute deviation estimators for threshold autoregressive models // J. Multivariate Anal. 2004. Vol. 89. Iss. 2. P. 243-260.
DOI: 10.1016/j.jmva.2004.02.006
6. Pan P.-Q. Linear programming computation. Heidelberg: Springer, 2014. 747 p.
7. Press W.H., Teukolsky S.A., Vetterling W.T., Flannery B.P. Numerical recipes: The art of scientific computing. New York: CAP, 2007. 1235 p.
8. Bissantz N., Dumbgen L., Munk A., Stratmann B. Convergence analysis of generalized iteratively reweighted least squares algorithms on convex function spaces // SIAM J. Optim. 2009. Vol. 19. Iss. 4. P. 1828-1845. DOI: 10.1137/050639132
URL: http://epubs.siam.org/doi/abs/10.1137/050639132
0,1 0,2 0,3 0,4 у
9. Мудров В.И., Кушко В.Л. Метод наименьших модулей. М.: Знание, 1971. 64 с.
10. Huber P., Ronchetti E.M. Robust statistics. Hoboken: Wiley, 2009. 360 p.
11. Горяинов В.Б. М-оценки пространственной авторегрессии // Автоматика и телемеханика. 2012. № 8. C. 119-129.
12. Häusler E., Luschgy H. Stable convergence and stable limit theorems. Heidelberg: Springer, 2015. 228 p.
13. Горяинов В.Б. Оценки наименьших модулей коэффициентов пространственной авторегрессии // Известия РАН. Теория и системы управления. 2011. № 4. С. 58-65.
14. Горяинов А.В., Горяинова Е.Р. Сравнение эффективности оценок методов наименьших модулей и наименьших квадратов в авторегрессионной модели со случайным коэффициентом // Автоматика и телемеханика. 2016. № 9. C. 84-95.
15. Andersen P.K., Gill R.D. Cox's regression model for counting processes: A large sample study // Ann. Statist. 1982. Vol. 10. No. 4. P. 1100-1120. DOI: 10.1214/aos/1176345976
URL: https://projecteuclid.org/euclid.aos/1176345976
16. Горяинов В.Б., Горяинова Е.Р. Влияние аномальных наблюдений на оценку наименьших квадратов параметра авторегрессионного уравнения со случайным коэффициентом // Вестник МГТУ им. Н.Э. Баумана. Сер. Естественные науки. 2016. № 2. С. 16-24.
DOI: 10.18698/1812-3368-2016-2-16-24
Горяинов Владимир Борисович — д-р физ.-мат. наук, профессор кафедры «Математическое моделирование» МГТУ им. Н.Э. Баумана (Российская Федерация, 105005, Москва, 2-я Бауманская ул., д. 5, стр. 1).
Горяинова Елена Рудольфовна — канд. физ.-мат. наук, доцент департамента математики на факультете экономических наук Национального исследовательского университета «Высшая школа экономики» (Российская Федерация, 101000, Москва, ул. Мясницкая, д. 20).
Просьба ссылаться на эту статью следующим образом:
Горяинов В.Б., Горяинова Е.Р. Робастное оценивание в пороговой авторегрессии // Вестник МГТУ им. Н.Э. Баумана. Сер. Естественные науки. 2017. № 6. C. 19-30. DOI: 10.18698/1812-3368-2017-6-19-30
ROBUST ESTIMATION IN THRESHOLD AUTOREGRESSION
V.B. Goryainov1 vb-goryainov@bmstu.ru
E.R. Goryainova2 el-goryainova@mail.ru
1 Bauman Moscow State Technical University, Moscow, Russian Federation
2 National Research University Higher School of Economics, Moscow, Russian Federation
Abstract
In this paper we study robust properties of M-estimates of the parameters of self-excited threshold autoregression model. The loss function that determines M-estimates was supposed to be convex and twice differentiable. The threshold of the autoregressive model was considered to be known and unique.
Keywords
Threshold autoregression model, M-estimates, asymptotic normality, asymptotic relative efficiency, Tukey distribution
We proved the asymptotic normality of M-estimates of autoregressive equation parameters. Moreover, we found the asymptotic relative efficiency of M-estimates, the least square and least absolute deviation estimates with respect to each other. First, we calculated the asymptotic relative efficiency values for the normal distribution, as well as the values of the double exponential distribution (Laplace distribution) and contaminated normal distribution (Tukey distribution). Then, we described the dependence of the asymptotic relative efficiency of these estimates on Tukey distribution parameters (the proportion and level of contamination). Next, for all three estimates in the space of Tukey distribution parameters, we built lines of equal efficiency, which made it possible to single out the preference areas for each pair of estimates considered. Findings of the research show that M-estimates are more efficient than the least squares and least absolute deviation estimates if the distribution of the innovation process slightly deviates from the normal distribution. Finally, we give recommendations on the use of these estimates in practical appli- Received 20.02.2017 cations © BMSTU, 2017
REFERENCES
[1] Franses P.H., Dijk D.V., Opschoor A. Time series models for business and economic forecasting. Cambridge, Cambridge University Press, 2014. 300 p.
[2] Tong H. Nonlinear time series: A dynamical approach. New York, Oxford University Press, 1990. 564 p.
[3] Tong H. Threshold models in time series analysis — 30 years on. Statistics and its Interface, 2011, vol. 4, no. 2, pp. 107-118. DOI: 10.4310/SII.2011.v4.n2.a1
[4] Petruccelli J.D., Woolford S.W. A threshold AR(1) model. J. Appl. Probab, 1984, vol. 21, iss. 2, pp. 270-286. DOI: 10.1017/S0021900200024670
[5] Wang L., Wang J. The limiting behavior of least absolute deviation estimators for threshold autoregressive models. J. Multivariate Anal., 2004, vol. 89, iss. 2, pp. 243-260.
DOI: 10.1016/j.jmva.2004.02.006
[6] Pan P.-Q. Linear programming computation. Heidelberg, Springer, 2014. 747 p.
[7] Press W.H., Teukolsky S.A., Vetterling W.T., Flannery B.P. Numerical recipes: The art of scientific computing. New York, CAP, 2007. 1235 p.
[8] Bissantz N., Dümbgen L., Munk A., Stratmann B. Convergence analysis of generalized itera-tively reweighted least squares algorithms on convex function spaces. SIAM J. Optim., 2009, vol. 19, iss. 4, pp. 1828-1845. DOI: 10.1137/050639132
Available at: http://epubs.siam.org/doi/abs/10.1137/050639132
[9] Mudrov V.I., Kushko V.L. Metod naimen'shikh moduley [Least modules method]. Moscow, Znanie Publ., 1971. 64 p.
[10] Huber P., Ronchetti E.M. Robust statistics. Hoboken, Wiley, 2009. 360 p.
[11] Goryainov V.B. M-estimates of the spatial autoregression coefficients. Automation and Remote Control, 2012, vol. 73, iss. 8, pp. 1371-1379. DOI: 10.1134/S0005117912080103
[12] Häusler E., Luschgy H. Stable convergence and stable limit theorems. Heidelberg, Springer, 2015. 228 p.
[13] Goryainov V.B. Least-modules estimates for spatial autoregression coefficients. Journal of Computer and Systems Sciences International, 2011, vol. 50, no. 4, pp. 565-572.
DOI: 10.1134/S1064230711040101
[14] Goryainov A.V., Goryainova E.R. Comparison of efficiency of estimates by the methods of least absolute deviations and least squares in the autoregression model with random coefficient. Automation and Remote Control, 2016, vol. 77, iss. 9, pp. 1579-1588.
DOI: 10.1134/S000511791609006X
[15] Andersen P.K., Gill R.D. Cox's regression model for counting processes: A large sample study. Ann. Statist., 1982, vol. 10, no. 4, pp. 1100-1120. DOI: 10.1214/aos/1176345976
Available at: https://projecteuclid.org/euclid.aos/1176345976
[16] Goryainov V.B., Goryainova E.R. The influence of anomalous observations on the least squares estimate of the parameter of the autoregressive equation with random coefficient. Vestn. Mosk. Gos. Tekh. Univ. im. N.E. Baumana, Estestv. Nauki [Herald of the Bauman Moscow State Tech. Univ., Nat. Sci.], 2016, no. 2, pp. 16-24 (in Russ.). DOI: 10.18698/1812-3368-2016-2-16-24
Goryainov V.B. — Dr. Sc. (Phys.-Math.), Professor of Mathematical Simulation Department, Bauman Moscow State Technical University (2-ya Baumanskaya ul. 5, str. 1, Moscow, 105005 Russian Federation).
Goryainova E.R. — Cand. Sc. (Phys.-Math.), Assoc. Professor of Faculty of Economic Sciences, Department of Mathematics, National Research University Higher School of Economics (Myasnit-skaya ul. 20, Moscow, 101000 Russian Federation).
Please cite this article in English as:
Goryainov V.B., Goryainova E.R. Robust Estimation in Threshold Autoregression. Vestn. Mosk. Gos. Tekh. Univ. im. N.E. Baumana, Estestv. Nauki [Herald of the Bauman Moscow State Tech. Univ., Nat. Sci.], 2017, no. 6, pp. 19-30 (in Russ.). DOI: 10.18698/1812-3368-2017-6-19-30
