Рекуррентная идентификация билинейных ARX-систем с помехой наблюдения в выходном сигнале Текст научной статьи по специальности «Математика»

УДК 519.254

Д. В. Иванов, О. В. Усков

РЕКУРРЕНТНАЯ ИДЕНТИФИКАЦИЯ БИЛИНЕЙНЫХ ARX-СИСТЕМ С ПОМЕХОЙ НАБЛЮДЕНИЯ В ВЫХОДНОМ СИГНАЛЕ

Аннотация. Предложен рекуррентный алгоритм для идентификации билинейных ARX с помехой наблюдения в выходном сигнале. Доказана сильная состоятельность получаемых оценок. Результаты моделирования подтвердили высокую эффективность предложенного алгоритма.

Ключевые слова: рекуррентная идентификация, модель выходной ошибки, стохастическая аппроксимация, помеха наблюдения, билинейные системы.

Abstract. The authors suggest a recursive algorithm for identification of singleinput-single-output (SISO) bilinear dynamic ARX systems with output-error. The estimates are proved to be convergent to the true values with probability one. The results of a simulated example indicate that the proposed algorithm provides good estimates.

Key words: recursive identification, output-error model, stochastic approximation, measurement noise, bilinear systems.

Введение

Билинейные системы - это класс нелинейных систем с простой структурой. Билинейные системы являются простейшим обобщением линейных динамических систем: выходной сигнал зависит не только от входных и выходных сигналов, но и от произведения входного сигнала на выходной. Моделирование физических процессов с помощью билинейных систем находит применение во многих областях науки, таких как ядерная физика, электрические сети, химическая кинетика, гидродинамика и т.д. [1].

По виду параметризации шума модели можно выделить две группы моделей: модель ошибки в уравнении (ARX-модель) и модель выходной ошибки [2]. Идентификация моделей ошибки уравнения сводится к классической задаче регрессионного анализа и может быть решена методом наименьших квадратов. В моделях ошибки в уравнении считается, что помеха проходит через часть динамической системы, что не всегда удобно для приложений. Свободной от этого недостатка является модель выходной ошибки, однако идентификация данной модели существенно сложнее.

В настоящее время активно развиваются методы идентификации билинейных динамических систем с помехой в выходном сигнале, такие как инструментальные переменные [3], компенсирующий смещение метод наименьших квадратов [4], метод максимального правдоподобия [5] и методы на основе высших статистик [6]. Рекуррентные методы идентификации билинейных систем, которые могут быть получены из рекуррентных методов идентификации линейных систем, приведены в [7]. Некоторые предложенные методы используют подход на основе рекуррентных методов идентификации систем с ошибкой в уравнении, модифицируя при этом функцию ошибки, например улучшенный метод наименьших квадратов [8].

Естественным обобщением двух данных моделей является ARX-модель с помехой наблюдения в выходном сигнале. В настоящее время существуют

методы идентификации линейных АЯХ-систем с помехой в выходном сигнале [9, 10] и рекуррентный алгоритм для оценивания параметров АЯХ-систем класса Гаммерштейна с помехой наблюдения в выходном сигнале [11].

В данной статье предложен рекуррентный алгоритм идентификации билинейных АЯХ-систем с помехой в выходном сигнале на основе стохастической аппроксимации.

1. Постановка задачи

Пусть билинейная динамическая система описывается стохастическими уравнениями с дискретным временем 7 =... — 1,0,1...:

Г г Г2 г3(т)

2 — 2 *0™)2'—т = 2 а0т)Хг—т + 2 2 ^)X—т21—к + ^1 ОХ (1)

т=1 т=0 т=0 к=1

У = 2 + ^2 ОХ

где 2, У! - ненаблюдаемая и наблюдаемая выходные переменные; хг- -наблюдаемая входная переменная; ^(7) - помеха в уравнении; ^(0 - помеха наблюдения в выходном сигнале.

Пусть выполняются следующие предположения:

10. Множество В , которому априорно принадлежат истинные значения параметров устойчивой, управляемой и идентифицируемой билинейной системы, является компактным.

20. Помехи {^1(7)} и {^2(7)} статистически не зависят между собой:

£{^(7)/^(1)} = 0, ££2(0/^(2)} = 0,

£{^2(7)/^-(1)}^Щ(1) <~, £{(^2(7)/Ъ(2)} = Щ(2) <~,

где Е}(1), — а -алгебры, индуцированные семействами случайных величин

{^(7), 7 е Т } и {^2(7), 7 е Т }, Т' = {7, 7 ^ 7, 7 е Zc }, Zc - множество целых чисел; ^7^, - случайные величины Е )-л^, Е )-л^2, Е -

оператор математического ожидания.

30. {^1(7)} , {^2(7)} статически не зависит от {хг- } .

40. Последовательности {хг-} - стационарные в узком смысле с дробно-

2 2

рациональной плотностью случайные сигналы с £{(хг-) } = ах > 0. Для некоторых п х> 0 : |хг | < пх почти наверное (п.н.).

50. Априорно известно отношение дисперсий помех у = а2/а2 .

2. Рекуррентный алгоритм идентификации

Уравнение (1) может быть представлено в форме линейной регрессии:

У =ф[ 0 + е,-, (2)

где

Фг = ( (7) \ фТ (7) | фТу (7))Т е ЛГ+Г1+Гз(0)+.+Гз(г2)+г2+2, Фу (7) = ( (—1,. У,-—г ) е , Фх (7) = (

х7 ,-,хы

е Лг‘+1,

Ф.

ху

(7) = ( х;У;—1 , . , х1У1—г3 (0) | х7—1У—1 , . , х7—1У—г3 (1)

I х V I х V- ( ) I е ^г3(0)+.+г3(г2)+г2 +1

\ i—r2■y,—1,■■■, i—r2■y,—rз(r2)! еЛ •

00 =[ЬТ | аТ

I сТ ) е Тг+г1+г3(0)+.+г3(г2)+г2+2, *0 =(ь01)...ь0г)) е Яг,

а0 =(а01)...°0Г1)) е Я1+1,

С0 =( )(с011) ... с01г3(1)) | с021) ... с02г3(2)) |...| ^ ... с0г2г3(г2))

е Я

г3(0)+.+г3(г2)+ г2 +1

г2 г3(т)

е = ^(7)+^2(7)—2 Ь0т)^2(7—т) — 2 2 с0тк)х72 т - тт

т=1

т=0 к=1

Из предположений 10 и 20 следует, что обобщенная ошибка имеет нулевое среднее значение и ее локальная дисперсия с вероятностью 1 будет равна

1 N

а2 = Ит ^2Е((((b0,С0,7)) )=а2 + а2 +а2*0Ь0 + а2а2Тс0 =

7=1

= а2(1 + У+Ь0Ь0 +а2хсо с0) =а2®(bo, с0).

Определим оценку 0(N неизвестных параметров 0 из условия минимума суммы взвешенных квадратов обобщенных ошибок (е^ (*0, с0,7) )2 с весом ю(Ь,с) [12], т.е.

. (Ь, а, с)

= тт-

0еВ 7=11 + у + ь°Ь + а2хс°с 0еВ ю(Ьс)

(3)

тогда оценки неизвестного вектора 0 можно получить с помощью стохастически градиентного алгоритма минимизации функции (3):

0(7 +1) =0(7) — а^

(+1- ф°+10(о )2

1 + у + ь° (7)(7) + а2хсТ ()с(7)

(4)

где аг- - последовательность, удовлетворяющая следующим условиям:

60. іа І ^,

а > аі+і и і аі < ^ , если I > 1.

если

і=0 і=0

70. і аі^1(і) <^ і аі^2 (і) < ~. п.н.

і=1 і=1

Теорема 1. Пусть динамическая система описывается уравнениями (1) и выполняются предположения 10-70, тогда оценки, определяемые алгоритмом (4), либо 0(і) —:->00 п.н., либо 0(і) —:---—«>.

і——^ і—^

Доказательство. Доказательство состоятельности получаемых с помощью (4) оценок основывается на методе непрерывных моделей [13, 14].

Построим асимптотическую непрерывную детерминированную модель алгоритма (4).

Минимизируемую в (3) функцию можно представить в виде

,(0) = _2 , (0-0О)ГЯф(0-00)

^(0) а1 + т 2 Т ,

1 + у + Ь Ь + ахс с

где

Яф = ііш Е

і——^

ф(0) (ф(0)' т

> 0,

ф(0) = ( (і) | фХ (і) I фТ,(і))Т Є )+Т + ,'3(0)+-+'■3(Г2)+г +2, ф, (і) = (-Ь... ,-г Т є Яг,

фх, (і) = ( Хігі-1,--; Хі,і-г3(0) І Хі-12і-1,--; Хі-1,і-г3(1) І •••

І т

! Х , і Х ,■ ( ) ) Є Дг3(0)+---+г3<>2)+г2 +1

• Хі-г2 Хі-г2 2і-Г3 (Г2)) є Л ,

что следует из 10, 40.

В данном случае асимптотическая непрерывная детерминированная модель имеет вид

0 = —?0 3 (0). (5)

Здесь точка означает производную по времени.

Связь между уравнениями (4) и (5) устанавливается с помощью фик-

к—1

тивного времени 7к = 2а [13, с. 89].

7=0

Пусть функция Ляпунова равна

V (0) = 3 (0). (6)

Так как функция Ляпунова непрерывно дифференцируема и

К (0) = У^ (0)3 (0) = — |у°3 (0)|2,

(0)3 (0) < 0, (7)

то множество В = {0е Яг+г +г(0)+* • -+г(г2)+г2 +2 : V(0) = 0} состоит из стационарных точек 3(0) [13, с. 114].

Для перехода от (4) к непрерывной модели необходимо показать, что для {^1(7)}, {^2(7)} и {а7} выполняется равенство [14, с. 12]:

lim limsup—

Т^0 Т

k(n,T)

£ аг-£,■ (ö(7), (i(z), ^(7))

= 0,

(8)

где для Т > 0, k(n, Т) = max j k: ^ а7- < T l.

Для выполнения равенства (8) необходима ограниченность последовательности {0(7)} , что подразумевает ограниченность роста функции VqJ(0)

при ||0| ^ га. В нашем случае

lim VqJ(0) = 0.

Из ограниченности сумм в условии 70 и последовательности {0(7)} дует ограниченность суммы

сле-

7=1

откуда следует выполнение (8).

Из теорем, приведенных в [13, с. 12, 292], следует, что при выполнении

предположений 10-70 и (7), (8) последовательность {0(7)} ограничена и при

7 ^ га, {0(7)} стремится к точкам множества

В ={0е ЯГ+г1+г3(0)+-"+г3(г2)+г2 +2 : V (0)= 0} .

Исследуем непрерывную модель (4), покажем, что

В* ={0е Яг+г1+г3(0)+-+г3(г2)+г2 +2 : 0 = 00} ,

т.е. множество В* состоит из одной единственной точки 00 .

со

Для этого рассмотрим функцию

где

D =

uTH yU T

и Du

= ( U , ^ (= ^Г+Г1 +r3(0)+'-'+r3(r2)+r2 +3

^u1,...,ur+ ri+Гз(0)+_+13(^2)+ ?2 +3 j e Ä ,

Hy = lim E

i

V"y";

I T

-yi l 9i

1 ! 01xr 01xr1+1 ! 01xr3(0)+...+r3(r2)+r2 +1

0 i !r 0 rx1 rx1 ! 1+ Y j 0rXr1+1 I 0rXr3(0)+...+r3(r2)+r2+1 1

T 0r1+1x1 1 0r1+1xr 1 0Г[+1ХГ[+1 ! 0r1+1XF$(0)+. ..+Г$(Г2)+Г2 +1

1 1 1 0 Г3(0)+^+Г3(г2)+Г2 +1x1 j wr3(0)+.. .+Г3(Г2)+Г2 +1xr 1 lr+1 и 7r3(0)+...+r3(r2) - единит +... + r3(r2) соответственно. Очевидно, что min J(0) = min J'( 0 u 1 2 J 0 | °xJr3(0)+.+r3(r2)+i2+1

0r3(0)+.+r3(r2)+r2+1Xr1+^ 1 + ^ шые матрицы размерностей r +1 и u)= J (00 ) = Лтт, (9)

где Л m^ - минимальное собственное число регулярного пучка форм (так как D - положительно определенная матрица), т.е. Лтщ- наименьший корень уравнения det(# ф-ЛD) = 0.

Пусть

Л . =Л(1) < <л(Г+Г1 +r3(0)+---+r3(r2)+r2 +3)=Д

1 '-mm — ^ ^ ^ ^ —1 »-max

и ui ,...,и (0)+ + ( )+ +3 - какие-либо соответствующие им главные

Г +Г1+Гз(0)+...+Гз(Г2)+Г2 +3

собственные векторы. Тогда Л^ , где к = 1,r + ri + Г3(0) +... + ^(r^) + + 3,

являются стационарными значениями функции J' (и), которые достигаются при и, равных ui ,...,u +r (0)+ +r (r )+r +3 соответственно. Следовательно, стационарные значения функции J(0); VqJ(0) = 0 достигаются в точках

( u(2) u (r +r1 +r3 (0)+- • •+r3 (r2 )+r2 +3)

u

(1)

1

0

r+r +Г3 (0)+.. .+73 (Г2 )+r2 +3

( u (2) u(r+t\ +Гз(0)+_+Гз(г2)+г2 +3) ^

r+rj +Г3 (0)+.. .+r (r2 )+r2 +3 r+rj +?з(0)+.. .+Г3 (r2 )+r2 +3

Uö) ’■■■’

r+rj +Г3 (0)+.+r3 (r2 )+Г2 +3 r+r +Г3 (0)+.+r3 (r2 )+Г2 +3

причем из (9) следует, что 0J =0 .

Остается показать, что

V2J(0)> 0 (10)

лишь в одной стационарной точке 0 = 01 =00.

Задача определения минимума функции J(0) эквивалентна задаче на условный экстремум

T — T

min u H^u, u Du = 1. (11)

Задача (11) может быть решена с помощью метода неопределенных

множителей Лагранжа. Тогда необходимые условия запишутся в виде

(Нф - XD)u =0, uTDu = 1, (12)

где X - неопределенный множитель Лагранжа. Множеством решений систе-

мы (12) являются Хе{ль..., Лг+r +r3(0)+.+r3(r2)+r2+3} и соответствующие им

главные собственные векторы ui ,...,u , , , , Ni ,-.

f i 5 5 r+T1 +r3(0)+.+r3(r2)+r2 +3

Исследуем матрицу Нф-XD на положительную определенность. Из (12) следует, что

Л(1) |н ф|<Л(1) \н ф|,

где Л(1) |нф и Л(1) |нф - минимальные собственные числа матриц Нф и Нф соответственно

В свою очередь по теореме Штурма [15, с. 146]

Л(1) |нф|<Л(2) |Нф| или Л(1) |Нф|<Л(2) Н ф|, (13)

отсюда следует, что матрица Нф - ХО неотрицательно определена лишь при ^ = Лтт и (10) выполняется в 01 =0о, т.е. для всех Х>Лт^п матрица Нф — ХО имеет отрицательные собственные значения, откуда непосредственно следует (4).

В формуле (4) используется дисперсия входного сигнала, которая обычно неизвестна. Согласно теореме Манна-Вольда [16]: если случайная

-2 2 величина <3х сходится почти наверное соответственно к постоянной ах, то

2

любая непрерывная функция J(ах) сходится почти наверное к постоянной 3(а2):

¿.2 п.н. 2 т(^2\ п.н. т(г*2\ ¿лл\

ах — ^ах, *^(ах) — ^*^(ах), (14)

следовательно, если заменить в (3) а2 оценками с2, оценки параметров 0 останутся сильно состоятельными.

2

Состоятельная и несмещенная оценка дисперсии ах может быть получена как

N N

а2 =(-1)-1 ^(х -х)2, х = N-1 ^х. (15)

і=1 і=1

Вычисление дисперсии (15) может быть представлено в виде рекуррентной процедуры:

хі+1 = хі + (хі+1 - хі)/(/ +^

^2 (і +1) = а2 (і +1) + ((х - х )2 - <а2 (і +1)) / і.

3. Результаты моделирования

Предложенный алгоритм (4) был реализован в МаАаЬ и сравнен с рекуррентным алгоритмом наименьших квадратов и рекуррентным методом расширенных инструментальных переменных. Динамическая система описывается уравнениями:

г, - 0,7г,— + 0,4^_2 = 0,3х, + 0,7х,— + 0,2х,_2 + 0,2хг_ + ^ (г),

У, = г- +Ы0. (16)

На вход подавался входной сигнал:

х, + 0,5 х,_1 = £,■ + ° 8^,_1 + 0,6^,_2,

где £,■ - белый шум.

Отношение помеха/сигнал: с^сг ~ 0,2 , с2 - 0,5.

Начальные значения параметров равны 0.

На рис. 1. представлены графики погрешности оценок параметров, определяемые по формуле

50і =

0і - 0о

Заключение

В работе предложен рекуррентный алгоритм для оценивания параметров билинейной АЯХ-системы с помехой наблюдения в выходном сигнале. Для получения сильно состоятельных оценок не требуется информация о законах распределения помех, достаточно знать отношение дисперсий помех. В среде МаАаЬ создано программное обеспечение, результаты моделирования подтверждают эффективность работы предложенного алгоритма. Полученные результаты могут послужить основой для создания новых высокоэффек-

тивных автоматизированных систем управления технологическими процессами. Дальнейшие исследования могут быть направлены на построение алгоритмов идентификации при автокоррелированных помехах.

90

80

70

60

гг

© 50

03

"5

Ш 40

QJ

ТЗ

30

20

10

1

2

3.

1 1 i i i

1000 2000 3000 4000 5000 6000 7000 8000 9000 10000

Рис. 1. График погрешности оценок параметров:

1 - рекуррентный метод наименьших квадратов; 2 - рекуррентный метод инструментальных переменных; 3 - алгоритм (4)

Список литературы

1. Mohler, R. R. Bilinear Control Processes: With Applications to Engineering, Ecology, and Medicine / R. R. Mohler. - New York : Academic Press, 1973.

2. Льюнг, Л. Идентификация систем. Теория для пользователя / Л. Льюнг. - М. : Наука, 1991. - 432 с.

3. Ahmed, M. S. Parameter estimation in bilinear systems by instrumental variable methods / M. S. Ahmed // International Journal of Control. - 1986. - V. 44 (4). - Р. 11771183.

4. Ekman, M. Modeling and control of bilinear systems: application to the activated sludge process / M. Ekman // PhD thesis, 2005.

5. Gabr, M. M. On the identification of bilinear systems from operating records / M. M. Gabr, T. Subba Rao International Journal of Control. - 1984. - V. 40 (1). -Р. 121-128.

6. Tsoulkas, V. Identification of input-output bilinear systems using cumulants / V. Tsoulkas, P. Koukoulas, N. Kalouptsidis // In Proceedings of the 6th IEEE International Conference on Electronics, Circuits and Systems, Pafos, Greece. - 1999. -Р. 1105-1108.

7. Fnaiech, F. Recursive identification of bilinear systems / F. Fnaiech, L. Ljung // International Journal of Control. - 1987. - V. 45 (2). - P. 453-470.

8. Zhu, Z. Adaptive identification of bilinear systems / Z. Zhu, H. Leung // In Proceedings of the 1999 IEEE International Conference on Acoustics, Speech, and Signal Processing, Phoenix, Arizona (March). - 1999. - P. 1289-1292.

9. Кацюба, О. А. Особенности применения МНК для оценивания линейных разностных операторов в задачах идентификации объектов управления / О. А. Кацюба, А. И. Жданов // Автоматика и телемеханика. - 1979. - № 8. - С. 86-96.

10. Diversi, R. Identification of ARX models with noisy input and output / R. Diversi, R. Guidorzi and U. Soverini // Proc. of the 9th European Control Conference, Kos, Greece, - July 2007. - P. 4073-4078.

11. Авсиевич, А. В. Рекуррентное оценивание параметров нелинейных динамических объектов класса Гаммерштейна с помехой на выходе / А. В. Авсиевич, Д. В. Иванов // Информационные системы и технологии. - 2010. - № 5 (61). -С. 43-50.

12. Кацюба, О. А. Теория идентификации стохастических динамических систем в условиях неопределенности : моногр. / О. А. Кацюба. - Самара : СамГУПС, 2008. - 119 с.

13. Chen, H. F. Stochastic Approximation and Its Applications / H. F. Chen. - Kluwer, Dordrecht, 2005.

14. Деревицкий, Д. П. Прикладная теория дискретных адаптивных систем управления / Д. П. Деревицкий, А. Л. Фрадков. - М. : Наука, 1991. - 215 с.

15. Беллман, Р. Введение в теорию матриц / Р. Беллман. - М. : Наука, 1989. - 376 с.

16. http://en.wikipedia.org/wiki/Continuous_mapping_theorem#CITEREFMannW ald1943 (дата обращения: 20.04.2009).

Иванов Дмитрий Владимирович

кандидат физико-математических наук, старший преподаватель, кафедра мехатроники в автоматизированных производствах, Самарский государственный университет путей сообщения

E-mail: [email protected]

Усков Олег Владимирович аспирант, Самарский государственный университет путей сообщения

E-mail: [email protected]

Ivanov Dmitry Vladimirovich Candidate of physical and mathematical sciences, senior lecturer, sub-department of mechatronics in automatic production, Samara State University of Railway Transport

Uskov Oleg Vladimirovich Postgraduate student, Samara State University of Railway Transport

УДК 519.254 Иванов, Д. В.

Рекуррентная идентификация билинейных ARX-систем с помехой наблюдения в выходном сигнале / Д. В. Иванов, О. В. Усков // Известия высших учебных заведений. Поволжский регион. Технические науки. -2012. - № 2 (22). - С. 96-105.