CC BY
81
УДК 519.254
А. С. Ивлиев
РЕКУРРЕНТНОЕ ОЦЕНИВАНИЕ ПАРАМЕТРОВ МАТРИЦ МНОГОМЕРНОЙ ПО ВЫХОДУ ЛИНЕЙНОЙ АВТОРЕГРЕССИИ С ПОМЕХАМИ В ВЫХОДНЫХ ПЕРЕМЕННЫХ
Аннотация. Актуальность и цели. Существует достаточно большое количество рекуррентных методов моделирования динамических систем с помехами во входных и выходных сигналах, которые различаются требуемой априорной информацией о сигналах и помехах, объемом вычислений, точностью получаемых оценок. При различных динамических параметрах систем, входных сигналов, помех различные методы показывают наилучшие результаты в отдельных конкретных случаях. В связи с этим наиболее остро стоит задача разработки методов моделирования, которые бы совмещали высокую точность оценивания, малую априорную информацию об объекте с умеренной вычислительной сложностью при различных параметрах систем, входных сигналов, помех. Материалы и методы. Рассматривается проблема идентификации с использованием метода рекуррентного оценивания параметров матриц линейной авторегрессии. Описывается рекуррентный алгоритм, применяемый для нахождения оценок параметров модели то стационарными белошумными помехами наблюдений в выходных сигналах при отсутствии информации об их законах распределения. Результаты. Предложенный стохастический градиентный алгоритм минимизации доказывает сильную состоятельность оценивания параметров матриц и показывает сходимость параметров матриц к истинным значениям. Одним из основных факторов надежной работы железнодорожного транспорта является обеспечение безопасности движения поездов, которое, в свою очередь, напрямую зависит от значений геометрических параметров рельсовой колеи. На основании этого наиболее актуальной является задача построения математической модели подобной динамической системы и прогнозирование геометрических параметров на примере этой аналитической модели. Выводы. Реализация предложенного алгоритма позволяет создать программное обеспечение, которое может послужить основой внедрения новых высокоэффективных автоматических систем управления технологическими процессами, а также математические модели в различных областях науки.
В рамках данной статьи построена модель прогнозирования геометрических параметров динамической системы, которая является инструментальным средством решения задачи имитационного моделирования.
Ключевые слова: идентификация, сильно состоятельные оценки, линейная авторегрессия, положительная определенность, случайный марковский процесс.
A. S. Ivliev
RECURSIVE ESTIMATION OF THE PARAMETERS OF A MATRIX OUTPUT IN MULTIVARIATE LINEAR AUTOREGRESSIVE INTERFERENCE IN OUTPUT
Abstract. Background. There is quite a number of recursive methods of simulation of dynamic systems with noise in the input and output signals, which differ in required a priori information about the signals and noise, volume calculations, the ac-
curacy of the estimates. With a variety of dynamic system parameters, input signals and interference different methods show the best results in individual cases. In this respect, the most urgent task is to develop simulation methods that would combine high estimation accuracy, low a priori information about the object with moderate computational complexity for different system parameters, the input signal and noise. Materials and methods. This article deals with the problem of identification using the recursive parameter estimation matrix linear autoregression. The described recurrent algorithm is applied in finding estimates of parameters of the model by stationary hindrances in the form of white noise supervision in output signals in case there is no information on their laws of distribution. Results. The proposed stochastic gradient algorithm of minimization proves strong consistency of estimation of the parameters of the matrix and shows the convergence of the matrix parameters and their true values. One of the main factors of safe railway transportation is to ensure the safety of the trains, which, in turn, depends on the values of the geometric parameters of the rail track. According to this, the most urgent task is to construct a mathematical model of such a dynamical system and prognosticate geometrical parameters on the base of this analytical model. Conclusions. The implementation of the proposed algorithm allows to create software that can form the basis of new highly automated process control systems and mathematical models in various fields of science. This article represents a model of predicting geometric parameters of a dynamic system, which is a tool for solving the problem of simulation.
Key words: identification, strongly consistent estimates, linear autoregression, positive definiteness, random Markov process.
Введение
Математические модели представляют собой формализованное представление системы с помощью математических соотношений, отражающих процесс ее функционирования. При известной структуре модели системы процедура определения ее параметров основывается на обработке потока информации о выходных и входных данных. Часто модели такой сложности задаются в форме линейных разностных уравнений при наличии помех управления.
1. Рекуррентный алгоритм моделирования
Рассмотрим многомерную стационарную устойчивую линейную динамическую систему в форме авторегрессии заданного порядка с дискретным временем (i =... —1,0,1...), описываемую следующим уравнением:
ZM — G(1)Zi — G(2)Z—i — G(3)Zi—2 —... — G(r)Zi—r =S1(i), (1)
Yi = Zi +E 2 (i),
где Zi, Yi - ненаблюдаемый и наблюдаемый векторы состояний системы соответственно (Zi ,Y е Rp). Проблема идентификации сводится к процедуре
определения матриц неизвестных параметров G(1),..., G(r) по {Y} при известном порядке r.
Пусть выполняются следующее условия:
10. Множество, которому априорно принадлежат истинные значения матриц параметров устойчивой линейной авторегрессии, является компактом.
20. Векторы {Е^/)}, {Е2О')} - стохастически независимые последовательности, при этом Мп)(/)}, Ш'7')(/)} , п, ] = 1,р, - стационарные в сово-
купности в узком смысле последовательности независимых случайных величин с дробно-рациональной спектральной плотностью с Е {е1 (/)} = 0,
E{H2(i)}= 0, E\ j) I = cj > 0 , E l ^10
-(n)/
торых постоянных констант nSn), nSj) :
S2 Sl
Sfli)
(n) S2 ,
| = on >0 и для неко-
s2j )(і)
< nSj) п.н., где
Sl
Е - оператор математического ожидания.
Требуется рекуррентно определить оценки неизвестных матриц параметров объекта, описываемых уравнением (1), по наблюдаемой последовательности {У}.
Уравнение (1) можно записать в виде
Ч+1
■H2(i + 1) = G(1)1Y- _H2(i)) + ... + G1 r^_r _H2li _r)) =Hl(i),
или
3+1 = о^у +...+о(г+ Е1(0+е2 (/■ +1) - а(1)Е2 (0 -... - а(г)е2 (/ - г).
Представим уравнение (1) в виде скалярных уравнений: (п = 1, р) у(П1 = Ъ$у +... + ьП •) у-г + ^(п)(0 + 4п)(/ +1) - ьП1.) Е 2 (0 -... - Ь^ Е2(7 - г), (2)
где ь"? - п строка матриц О4*',...; Ъ"? - п строка матриц
О(1),...; ь£) - п строка матриц О(г). Уравнение (2) можно записать следующим образом:
b(0 = 1 b(1) ! ••• ! b1 r) I Y li) = 1 YT ! ••• ! YT Г
bn* = 1 bn. I I bn. |; Yr(i) = 1 Yr I I Yr—r I :
тогда
у"+1 =
7(0)
bn.
|Yr (i)\ + S2n)(i +1) + S(1n)(i) _ b
(n)t
r(0)„
где Ег =| Е2(0 | ••• | Е[ (/ - г) ( .
Из предположения 2 следует, что обобщенная ошибка имеет нулевое среднее, а из предположения 20 и леммы 11 [1] получаем, что средняя дисперсия обобщенной ошибки будет равна
1
N
lim — У E
N
N
i=1
e(n) (ь"0) , i +1)
= |с
Mi2 +/„("П2 + bl?>Dbl0>T
+|o^' | + ь". Db,;:' =ю|Ь"'0)
2
где
D =
D 1 0 i '“V ,r 1 .. 1 * 1 0r ,r
0r ,r ! D 1 ** . 1 1 0r ,r
r . -1 • 1 ‘ r 1 -r . 1 1 0r ,r
0r ,r i 0r,r 1 1 1 . 1 1 D
В работе [1] показано, что оценки будут сильно состоятельными при выполнении следующего критерия:
N _
z (y(,l -14 ^ ц )|)2 /=1______________________
a,. )t <tb (о2”> )2+(oj-> )2+РП'.'пьТ
arg min ■
(3)
Оценки неизвестных параметров матриц можно получить с помощью стохастически градиентного алгоритма минимизации функционала (3):
ь,. (i+i)=ь,. (i) - a v
(y+l - Ь,. (i) \Yr (i +1) )2
W ь,.(i )|
(4)
где аг- - последовательность, для которой выполняется ряд условий, а именно ^ а, =^, а, > а,+1 и ^ а/ при / < 1. Тогда оценки, определяемые
/=1 1=0
этим алгоритмом (4), при выполнении условий 10 и 20 и ограничения на {а,} ,
являются строго состоятельными.
В доказательстве утверждения главную роль играют теоремы 3.15 и 3.17 [2, с. 113]. Теорема 3.15 доказана Л. Льюнгом в [3], а теорема 3.17 в [2, с. 114].
Построим асимптотическую непрерывную детерминированную модель алгоритма (4). Случайный процесс Е^/) с дробно-рациональной спектральной плотностью может быть представлен через векторный белый шум, для которого Е(£,к (С/)Т) = 5^/р, где а* - символ Кронекера, 1р - единичная матрица.
I I Т I т Т Можно показать, что вектор | у/ \ Уг (/) | | является марковским
случайным процессом.
Функционал (3) можно представить в виде
J (Ь ) = 1 +
(,.)-(,0)) H* (,.)-(
ю(Ь ,•)
где
N
H = lim E £
N^~ і=і
Ч—1
7.
^i—r
^7T* I 7T I ^ — I 7T I > 0 7i I 7i—1 I '" I 7i—r I > 0,
что следует из условия 2 [4].
= -V(in. )V 1і". ) =^(Ь"‘ ).
Асимптотическая непрерывная детерминированная модель имеет вид Ьп•
Функция Ляпунова равна
V (Ьп•) = 3 (Ьп•),
2
тогда множество
но V(in.) = VT- V(in. )^(i".) =
("• )
V/T Jv". )
("• )
5* ={(Ьп^\У (Ь^) = 0} состоит из стационарных точек функционала 3 (Ьп•) [2, с. 114].
Из теоремы 3.15 [2, с. 113] следует, что возможными предельными точками алгоритма (4) являются точки множества:
В*
= {(in.): V(in.) = 0, u —V2J < 0}.
Выполнение условия 2 теоремы 3.15 [2] следует из Н > 0 (условия
10 — 20) и [1]; выполнение условия 3 этой же теоремы вытекает из стационарности процесса, описываемого уравнением (1).
Покажем, что В* ={(Ьп^) = (Ь^))} состоит из одной единственной точки, для этого рассмотрим функционал
,, ч u Hi u
J (u) = -T71-
u 1 u
где u = (ul,...,u(r+i)p+1 ) )+1)p+1 , H1 = lim
—y(n) Jl i+i Yr (i)
(—yi(n) j Yj (i))
f ( ^2 1 1 f З,” I ! 0ixr+1 !-• V J 1 1 01xr +1
0T !f al1) I21 ! Jf 0r+1x1 1 I a2 I fr+1 1 " flr+i)p+i = _■ v J [ ц
: і : і \ • i • 1 • 1 1 ~T 1 1 0r +1x1 | " і " f a1 p) I2 f 1 a2 1 fr+1
где 1г+1 - единичная матрица размерности г +1. Очевидно, что
шт 3 (п^) = тт*/' (и) = 3 (Ь^) = Л т;п,
(Ьп^) и
(5)
где Лтщ - минимальное собственное число регулярного пучка форм [5] (так как 1(Г+1) р+1 - положительно определенная матрица), т.е. Лш^п - наимень-
* /
ший корень уравнения det(Hl — Л1(г+1)р+1) = 0 .
Пусть Лшт =Л(1) ^ ... ^Л(( Г+1)р+1) = Л тах и u1,..., и(г+1)р+1 - соответствующие им главные собственные векторы. Тогда Л^ , где к = 1,(г +1)р +1, являются стационарными значениями функции 3'(и), которые достигаются при и равных и1,...,и(г+1)р+1 соответственно. Следовательно, стационарные
значения функции 3(Ьп^); У г 3(Ьп^) = 0 достигаются в точках
Ьт
(ь,.)1 =
f и(2)
(1),-,
u((r +1) p+1) u1
(ь+.j
f (2)
U( r+1) p+1
(r+1) p+1
Из (4) следует, что (п^) = Ь Остается показать, что
(1)
(г+1) p+1
(0) ^
,• I •
(1)
((г+1) p+1) \ r+1) p+1
(1)
(r+1) p+1
V J(,.) ^ 0,v(,. ) {(,.): (,. )1(ь,. j
'( r+1) p+1
(6)
лишь в одной стационарной точке:
(,•) = f ь,• I
(0) j
Задача определения минимума 3(п^) эквивалентна задаче на условный экстремум:
T *
min и H1 и
Т
и 1(r+1) p+1U = 1,
(7)
она может быть решена с помощью метода неопределенных множителей Лагранжа, необходимые условия запишем в виде
(H1 -0/('r+1) p+1)u =0,
иТ I(r+1) p+1U = 1,
(8)
где 0 - неопределенный множитель Лагранжа. Множеством решений системы (8) являются 0е{Л1,...,Л(г+1)р+1} и соответствующие им главные собственные векторы М1,..., и (^г+1) р+1.
* /
Исследуем матрицу #1 — 01(г+1) р+1 на положительную определенность. Из (5) следует, что
Л
(1)
H(
< Л
(1)
где Л(1) - минимальное собственное число матриц Й* и Й
H zz = Hzz +
К’ )2
r+1 1 " '
I
: I ^ ■
• I '
г—
0т !
r+1xr+1 I
I
0
r+1xr+1
Kp))2 >r+1
По теореме Штурма [5]
Л(1)
<
Л(2)
H(
или
Л(1)
H(
<
Л(2)
H(
(9)
* /
Из (9) следует, что матрица #1 — 01(г+1) р+1 неотрицательно определена лишь при 0 = Лтщ и (6) выполняется в (Ьп») = ^ьП» ^, т.е. для всех 0 > Лт^п
матрица имеет отрицательные собственные значения, откуда непосредственно следует (4).
Заключение
В данной статье доказана сходимость параметров матриц к истинным значениям. На основе предложенного алгоритма построена модель прогнозирования геометрических параметров рассматриваемой динамической системы, которая является инструментальным средством решения задачи имитационного моделирования.
Список литературы
1. Кацюба, О. А. Рекуррентное оценивание параметров авторегрессии при наличии помехи в выходном сигнале / О. А. Кацюба, Д. В. Иванов // Новые информационные технологии в исследовании сложных структур : тезисы докладов Седьмой Российской конференции с международным участием. - Томск : Изд-во НТЛ, 2008. - С. 97.
2. Деревицкий, Д. П. Прикладная теория дискретных адаптивных систем управления / Д. П. Деревицкий, А. Л. Фрадков. - М. : Наука, 1991. - 215 с.
3. Льюнг, Л. Идентификация систем. Теория для пользователя / Л. Льюнг. - М. : Наука, 1991. - 432 с.
4. Цыпкин, Я. З. Информационная теория идентификации / Я. З. Цыпкин. - М. : Наука, 1995. - 336 с.
5. Гантмахер, Ф. Р. Теория матриц / Ф. Р. Гантмахер. - М. : Наука, 2010. -560 с.
References
1. Katsyuba O. A., Ivanov D. V. Novye informatsionnye tekhnologii v issledovanii slozhnykh struktur: tezisy dokladov Sed’-moy Rossiyskoy konferentsii s mezhdunarod-nym uchastiem [New information technologies in research of complex structures: abstracts of VII Russian conference with international participants]. Tomsk: Izd-vo NTL, 2008, p. 97.
2. Derevitskiy D. P., Fradkov A. L. Prikladnaya teoriya diskretnykh adaptivnykh sistem upravleniya [Applied theory of discrete adaptive control systems]. Moscow: Nauka, 1991, 215 p.
3. L'yung L. Identifikatsiya sistem. Teoriya dlya pol’zovatelya [System identification. Theory for a user]. Moscow: Nauka, 1991, 432 p.
4. Tsypkin Ya. Z. Informatsionnaya teoriya identifikatsii [Information theory of identification]. Moscow: Nauka, 1995, 336 p.
5. Gantmakher F. R. Teoriya matrits [Matrix theory]. Moscow: Nauka, 2010, 560 p.
Ивлиев Александр Сергеевич аспирант, Самарский государственный университет путей сообщения (Россия, г. Самара, 1-й Безымянный пер., 18)
Ivliev Aleksandr Sergeevich Postgraduate student, Samara State University of Railway Transport (18 1st Bezymyannyy lane, Samara, Russia)
E-mail: Sanja_ivliev@mail.ru
УДК 519.254621.396 Ивлиев, А. С.
Рекуррентное оценивание параметров матриц многомерной по выходу линейной авторегрессии с помехами в выходных переменных /
А. С. Ивлиев // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2013. - № 3 (27). - С. 97-104.
