ВЕСТНИК ТОМСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА
2024 Управление, вычислительная техника и информатика № 68
Tomsk: State University Journal of Control and Computer Science
Научная статья УДК 681.5
doi: 10.17223/19988605/68/10
Идентификация с использованием расширенного экстраполятора Калмана при аномальных ошибках в наблюдениях
Валерий Иванович Смагин1, Константин Станиславович Ким2
12Национальный исследовательский Томский государственный университет, Томск, Россия
1 [email protected] 2 [email protected]
Аннотация. Рассматривается задача идентификации для дискретной стохастической системы при аномальных ошибках в наблюдениях. Предложено для решения задачи идентификации использовать алгоритмы одновременного оценивания состояния и аномальных ошибок (неизвестного входа в наблюдениях). Для повышения точности идентификации оценки неизвестного входа предложено вычислять с использованием алгоритмов дополнительного сглаживания. Представлены результаты моделирования. Ключевые слова: идентификация; аномальные ошибки; сглаживание.
Для цитирования: Смагин В.И., Ким К.С. Идентификация с использованием расширенного экстраполятора Калмана при аномальных ошибках в наблюдениях // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2024. № 68. С. 92-99. doi: 10.17223/19988605/68/10
Original article
doi: 10.17223/19988605/68/10
Identification using the extended Kalman extrapolator in case of anomalous errors in observations
Valery I. Smagin1, Konstantin S. Kim2
12 National Research Tomsk State University, Tomsk, Russian Federation 1 [email protected] 2 [email protected]
Abstract. The identification problem for a discrete stochastic system with anomalous errors in observations is considered. It is proposed to use algorithms for simultaneous assessment of the state and anomalous errors (unknown input in observations) to solve the identification problem. To increase the accuracy of identification, estimates of an unknown input are proposed to be calculated using additional smoothing algorithms. The simulation results are presented. Keywords: identification; anomalous errors; smoothing.
For citation: Smagin, V.I., Kim, K.S. (2024) Identification using the extended Kalman extrapolator in case of anomalous errors in observations. Vestnik Tomskogo gosudarstvennogo universiteta. Upravlenie, vychislitelnaja tehnika i informatika - Tomsk State University Journal of Control and Computer Science. 68. pp. 92-99. doi: 10.17223/19988605/68/10
Введение
Проблема оценки параметров стохастических линейных динамических систем была исследована в значительной степени из-за ее важности для построения моделей [1]. Хорошо известно, что общий случай задачи идентификации стохастических систем, описываемых дифференциальными и разностными уравнениями, приводит к задаче нелинейного оценивания. Было предложено несколько методов,
© В.И. Смагин, К.С. Ким, 2024
большинство из которых основано на расширенном фильтре Калмана (EKF) [1, 2]. В настоящее время при решении различных задач идентификации, требующих применения аппарата нелинейной фильтрации, часто используются сигма-точечные алгоритмы нелинейной фильтрации Unscented Kalman filter (UKF) [3, 4] и кубатурные алгоритмы Cubature Kalman filter (CKF) [5, 6]. Алгоритмы рекуррентного оценивания при аномальных ошибках в канале наблюдений рассматривались в работах [7, 8]. В работах [9, 10] исследовались задачи, в которых строились оценки вектора состояния и неизвестного входа в канале наблюдений. В [11, 12] предложено в алгоритмах оценивания неизвестного входа с целью повышения точности дополнительно использовать процедуры непараметрического сглаживания.
В настоящей работе рассмотрена задача идентификации с использованием расширенного экстраполятора Калмана при аномальных неизвестных входах в канале наблюдений. На примере оценки параметров модели нелинейной дискретной системы показано, что применение методов рекуррентного оценивания и дополнительного сглаживания в системах с аномальными ошибками измерения может повысить точность идентификации. При моделировании выполнено сравнение точности при использовании различных методов сглаживания.
1. Постановка задачи
Пусть модель объекта и канала наблюдений имеет вид:
x(k +1) = f (8, x(k), k) + q(k), x(0) = x0, (1)
y(k) = 5(k)x(k) + Иц(к) + v(k), (2)
где x(k) e Rn — вектор состояния, x0 - случайный вектор (предполагаются известными дисперсионная матрица N0 = м{(x0 -x0)(x0 -x0)T} и математическое ожидание x0 = M{x0 }), 8e Rp - неизвестный
постоянный параметр, вектор f (8,x(k)) - заданная функция, q(k) e Rn и v(k) e Rr - последовательности нормально распределенных случайных векторов со следующими характеристиками:
M{q(k)} = 0, M{q(k)qT(,)} = Q(k)S„,
M {v(k)} = 0, M {v(k)vT(,)} =V(k)5k,. (3)
Здесь S^. - символ Кронекера. В (2) y(k) e R1 - вектор наблюдений; S(k) - известная матрица канала
наблюдений; *q(k) e Rs - неизвестный вектор (неизвестный вход в канале наблюдений, являющийся моделью аномальной ошибки в канале наблюдений); H - матрица влияния неизвестного возмущения. Предполагается, что последовательности q(k), v(k) и x0 независимы между собой, матрица Q(k) -неотрицательно определена, а матрица V(k) - положительно определена.
Важной задачей, часто возникающей в различных областях науки и техники, является разработка алгоритмов параметрической идентификации для математической модели (1), (2) с учетом высказанных выше предположений. Задача заключается в нахождении оценок неизвестных параметров 8e Rp по данным наблюдений y(k) при аномальных ошибках в наблюдениях.
Итак, по информации, поступившей в момент k e[0;^ ], требуется найти оценку 8 (k) на основе минимизации следующего критерия:
J [0;Г ]= M {£ (8-8 (k))T (8-8 (k))l. (4)
k=0
2. Применение расширенного экстраполятора Калмана
Для решения задачи идентификации будем использовать расширенный экстраполятор Калмана, вычисляющий оценку экстраполяции на один такт вперед. Построим оценки х(к) и 0 (к) при условии,
что 0 является неизвестным постоянным вектором. Дополнительно в этом разделе будем предполагать, что вектор n(k) известен точно, оценку этого вектора опишем в разд. 3.
В качестве динамической модели вектора 0 можно использовать разностное уравнение
0(к +1) = 0(k), 9(0) = 0О, (5)
где 0 - случайная величина с математическим ожиданием 0 и дисперсионной матрицей р .
Введем в рассмотрение расширенный вектор
rx(k)Л
X (k ) =
e( k )
Уравнения динамики модели (1) с учетом (5) можно записать в виде:
X (к +1) = ^ (X (к), к) + д (к),
(б)
(7)
где векторная функция F (X (k), k) =
f ( x(k ), e(k ), k k)
e(k )
, q (k ) - последовательность нормально распре-
J
Q(k) o'
V 0 0У
деленных случайных векторов со следующими характеристиками:
М{д(к)} =0, м{д(к)дт(/)} = &(к)5к], £(к) =
Канал наблюдений примет вид:
у(к) = БХ (к) + Н л(к) + у(к),
где Б = [ Б 0].
Оценку вектора найдем с помощью рекуррентного алгоритма (экстраполятора):
( х(к +1) ^
,0 (к +1),
(S)
XX (k +1) =
(f ( x (k ), e (k
e ( k )
= F (X (k )) + K (k )[ y (k ) - SXX (k ) - H v(k )] = - K (k )[ y (k ) - Sx(k ) - H v(k )].
(9)
Здесь
XX (k ) =
x(k )
e (k )
K (k ) = A(k )P (k )S т [SP (k )S т + V (k )]-1,
(10)
где
- dF A(k ) = — dX
X=XX (k )
dx
v
f
x=x(k ),e(k ) de 0
Л
x=x ( k ),e( k )
E
Е - единичная матрица размерности р х р.
Дисперсионная матрица Р(к) определится из уравнения
Р(к +1) = (А(к) - К (к )Б) Р(к )(А(к) - К (к )Б )т + К (к )Г (к) К (к )т + 0(к), Р(0) = Р0.
(11)
(12)
3. Построение оценок неизвестного входа
В качестве алгоритма оценивания неизвестного входа ц(к) будем использовать алгоритмы МНК, в этом случае оценку можно построить на основе минимизации дополнительного критерия [7]:
k
J(v(k)) = Д||y(t) - Sx(t))||W v(t) ||W2 },
(13)
где Щ > 0, W > 0 - весовые матрицы.
Оценка 1 (к) определяется из условий минимума критерия (13). В результате получим
| (к) = (Н т ЩН + Щ)- Н т Щ [у (к) - 5х(к)]. (14)
Отметим, что оценку вектора состояния системы определим по формуле (9) с заменой п(к) на ее оценку:
X (k +1) =
x(k +1) 8 (k +1)
7 (x (k), 8 (k ))Л 8 (k)
= F (XX (k)) + K (k)[ y(k) - SXX (k) - И\ (k)] =
(15)
- K (k)[ y(k) - Sx(k) - И\(k)].
Оценку (14) можно модифицировать, выполнив дополнительное сглаживание [11-13]. Для вычисления оценки сглаживания можно использовать метод взвешенного скользящего среднего [11]:
г=0
где gi > 0 - весовые коэффициенты, для которых
Т-1
£ gт. = 1-
(16)
(17)
Здесь в (16) вычисления реализуются от к = Ts (Ts - целое число, определяющее величину скользящего интервала), значения gi можно найти, решив оптимизационную задачу
J(g) = Z (ПО')" 4(j, g)f => min
(18)
gi > 0, £ = 1, г = 1, Т. (19)
при ограничениях аг > ¿^аг > > *
Для сглаживания можно также использовать алгоритм экспоненциального сглаживания [11].
Модификацию оценки можно выполнить на основе непараметрического сглаживания [12, 13], тогда оценка определится по формуле
|(к) = (Ит ЩИ + Щ)-1 Ит Щ6(к), (20)
где]-я компонента вектора 6(к) имеет вид:
£ [ y(i) - Sx(i)] ,G
Ь, (k) =
^k - i + 0
V ^ У
k r k - i+0
(21)
£ G
V ^ У
В соотношении (21) G(•) является ядерной функцией, - коэффициенты размытости.
Для непараметрического сглаживания можно также использовать оценку (20), вычисленную на
скользящем интервале Ts. В этом случае 6 ^ (к) вычисляется по формуле
£ [y(i) - Sx(i)] ,G
Ь, (k) = i=k^
f k - i +1 ^
V У
£G
( k - i +1 ^
V У
(22)
4. Результаты моделирования
Перейдем к рассмотрению результатов моделирования алгоритма идентификации в задаче передачи скрытой цифровой информации [14, 15] при аномальных ошибках в наблюдениях на основе
i=0
1=0
1=1
i=1
k-Т3-1
оценок неизвестного входа с дополнительным сглаживанием процесса ^(к) при использовании в качестве детектора алгоритма идентификации (15).
Задача передачи скрытой информации реализуется с использованием модели аттрактора с неизвестным параметром при наличии в канале передачи информации дополнительных ненаблюдаемых аномальных помех. Модель аттрактора использовалась следующая [14]:
x(k +1) = f(0,х(к)) = 0-1 -0|х(к)|, х(0) = х0, (23)
где 0 - неизвестный параметр, х(к) - переменная состояния. Канал передачи информации имеет вид:
у(к) = x(k) + ц(к) + у(к), (24)
где п(к) и у(к) - скалярные процессы (п(к) - ненаблюдаемые аномальные помехи, у(к) - последовательности нормально распределенных случайных величин с нулевым средним и математическим ожиданием: М{у(к)у(/)}^Ь^ ).
Значения параметров модели задавались: 0 = 1,55 (соответствует передаваемому цифровому сигналу «0») и 0 = 1,95 (соответствует передаваемому цифровому сигналу «1»). Параметры модели принимались следующими:
х(0) = 0,1; х(0) = 0,12; 0(0) = 1,75 ; Т = 3; д = 0; Р(0) = 10; V = 0,01. (25)
Для диагностики значения передаваемого сигнала можно использовать следующее правило:
Если значение оценки 9(к) больше 1,75 (среднее арифметическое возможных значений 0), то считается, что передается сигнал верхнего уровня «1», если значение оценки 9(к) меньше 1,75, то считается, что передается сигнал нижнего уровня «0».
Решение задачи идентификации выполнялось для пяти вариантов алгоритма идентификации:
- без учета оценок неизвестного входа;
- с учетом оценки неизвестного входа (14) (без сглаживания);
- с учетом оценки неизвестного входа с использованием экспоненциального сглаживания;
- с учетом оценки неизвестного входа с использованием непараметрического сглаживания (со скользящим интервалом);
- с учетом оценки неизвестного входа с использованием взвешенного скользящего сглаживания.
Моделирование выполнялось на временном интервале [0, Л] (Л = 50) для следующих видов неизвестного входа (ненаблюдаемых аномальных ошибок) в канале наблюдений:
- неизвестный постоянный вход,
- неизвестный колебательный вход (п(к) = С08(2к)),
- неизвестный ступенчатообразный вход вида:
-4, 0 < к < 10,
-2, 10 < к < 20,
2, 20 < к < 30,
4, 30 < к < 40,
8, 40 < к < 50.
ц(к ) =
Расчет среднеквадратических ошибок оценивания параметра 0 выполнялся по формуле
(26)
п А N £(0 -щ))2 к= 1
Л N -1 .
(27)
В таблице приведены среднеквадратические ошибки оценок идентификации о для различных методов оценивания неизвестного входа в канале наблюдений. Усреднение осуществлялось по 100 реализациям. При непараметрическом сглаживании использовалась ядерная функция гауссовского вида:
exp
G(u ) =
(-u u^
Среднеквадратические ошибки оценок идентификации б параметра 0
Неизвестный вход Метод
Без учета оценок неизвестного входа С учетом оценки неизвестного входа без сглаживания (15) С учетом оценки неизвестного входа с использованием экспоненциального сглаживания С учетом оценки неизвестного входа с использованием непараметрического сглаживания С учетом оценки неизвестного входа с использованием взвешенного скользящего сглаживания
Постоянный 1,644 0,222 0,085 0,077 0,071
Колебательный 1,277 0,211 0,152 0,116 0,084
Ступенчатообразный 1,636 0,202 0,361 0,087 0,067
На рис. 1, 2 приведены результаты моделирования для случая неизвестного входа в виде ступенчатой функции при передаче сигнала верхнего уровня «1» (см. рис. 1) и при передаче сигнала нижнего уровня «0» (см. рис. 2). Результаты моделирования приведены для двух случаев:
- оценки неизвестного входа вычислены без дополнительного сглаживания (см. рис 1, а, 2, а);
- оценки неизвестного входа вычислены с использованием дополнительного сглаживания по алгоритму взвешенного скользящего среднего (см. рис 1, Ъ, 2, Ъ).
а b
Рис. 1. Оценка параметра 0(/с) при неизвестном входе в виде ступенчатой функции без использования дополнительного сглаживания (а), с использованием дополнительного сглаживания (алгоритм (16)) (b) (передается сигнал верхнего уровня «1») Рис. 1. Estimation of the 0(А") with an unknown input in the form of a step function without using additional smoothing (a), using additional smoothing (algorithm (18)) (b) (an upper-level signal "1" is transmitted).
еда
... 1.75
1,55
1 1 1 |
kk)
1,75
1,55
' > >
0 10 20 30 40 k 0 10 20 30 40 k
а b
Рис. 2. Оценка параметра 0(/c) при неизвестном входе в виде ступенчатой функции без использования дополнительного сглаживания (а), с использованием скользящего сглаживания (алгоритм (16)) (b) (передается сигнал нижнего уровня «0»), Рис. 2. Estimation of the Q(k) with an unknown input in the form of a step function without using additional smoothing (a), using sliding smoothing (algorithm (18)) (b) (a signal of the lower level "0" is transmitted)
Из рисунков и таблицы видно, что при наличии ненаблюдаемых помех в канале наблюдений применение дополнительного сглаживания в алгоритме идентификации позволяет существенно повысить точность оценки 0(к) и, как следствие, точность определения передаваемого цифрового двоичного сигнала. Из таблицы видно, что лучшая точность оценивания параметра 0 достигается для алгоритмов с дополнительным использованием методов взвешенного скользящего сглаживания и непараметрического сглаживания.
Заключение
Рассматривается задача идентификации для дискретной стохастической системы с неизвестными аномальными ошибками в наблюдениях. Предложено для решения задачи идентификации использовать алгоритмы одновременного рекуррентного оценивания вектора состояния и неизвестного входа с использованием алгоритмов дополнительного сглаживания. На примере решения задачи передачи скрытой цифровой информации показано, что лучшая точность оценивания неизвестного параметра 0 достигается при дополнительном использовании методов взвешенного скользящего сглаживания и непараметрического сглаживания оценок неизвестного входа в канале наблюдений.
Список источников
1. Astrom K.J. Introduction to stochastic control theory. New York : Academic Press, 1970. 322 с.
2. Sage A.P., Melsa J.L. Estimation Theory with Applications to Communications and Control. McGraw-Hill, 1971. 529 p.
3. Julier S.J., Uhlmann J.K., Durrant-Whyte H. A new approach for filtering nonlinear systems // Proc. of the American Control
Conference. Seattle, WA, 1995. P. 1628-1632.
4. Sarkka S. On unscented Kalman filter for state estimation of continuous-time nonlinear systems. // IEEE Trans. Automat. Control.
2007. V. 52 (9). P. 1631-1641. doi: 10.1109/TAC.2007.904453
5. Arasaratnam I., Haykin S. Cubature Kalman filters // IEEE Trans. Automat. Control. 2009. V. 54 (6). P. 1254-1269. doi:
10.1109/TAC.2009.2019800
6. Цыганова Ю.В., Куликова М.В. Об эффективных методах параметрической идентификации линейных дискретных стоха-
стических систем // Автоматика и телемеханика. 2012. № 6. С. 34-51.
7. Janczak D., Grishin Yu. State estimation of linear dynamic system with unknown input and uncertain observation using dynamic
programming // Control and Cybernetics. 2006. V. 4. P. 851-862.
8. Дёмин Н.С., Рожкова О.В., Рожкова C.B. Фильтрация в динамических системах по наблюдениям с памятью при наличии
аномальных помех // Известия Томского политехнического университета. 2009. Т. 314, № 5. С. 16-20.
9. Xiao M., Zhang Y., Fu H. Three-stage unscented Kalman filter for state and fault estimation of nonlinear system with unknown
input // Journal of the Franklin Institute. 2017. V. 354. P. 8421-8443. doi: 10.1016/j.jfranklin.2017.09.031
10. Hsieh C.-S. Unbiased minimum-variance input and state estimation for systems with unknown inputs: a system reformation approach // Automatica. 2017. V. 84. P. 236-240. doi: 10.1016/j.automatica.2017.06.037
11. Булашев С.В. Статистика для трейдеров. М. : Спутник+, 2003. 245 с.
12. Smagin V.I., Koshkin G.M. Kalman filtering and control algorithms for systems with unknown disturbances and parameters using nonparametric technique // Proc. 20th Int. Conference on Methods and Models in Automation and Robotics (MMAR 2015). 24-27 August. 2015. Miedzyzdroje, Poland, 2015. P. 247-251.
13. Koshkin G., Smagin V. Kalman filtering and forecasting algorithms with use of nonparametric functional estimators // Springer Proc. in Mathematics and Statistics. Nonparametric Statistics. 2016. V. 175. P. 75-84.
14. Ruan H., Zhai T., Yaz E. A Chaotic Secure Communication Scheme with Extended Kalman Filter Based Parameter Estimation // Proc. IEEE Int. Conference on Control Applications. Istanbul, Turkey, 2003. P. 404-408.
15. Sadeghian H., Salarieh H., Alasty A., Meghdari A. On the fractional-order extended Kalman filter and its application to chaotic cryptography in noisy environment // Applied Mathematical Modelling. 2014. V. 38, is. 3. P. 961-973.
References
1. Astrom, K.J. (1970) Introduction to Stochastic Control Theory. New York: Academic Press.
2. Sage, A.P. & Melsa, J.L. (1971) Estimation Theory with Applications to Communications and Control. McGraw-Hill.
3. Julier, S.J., Uhlmann, J.K. & Durrant-Whyte, H. (1995) A new approach for filtering nonlinear systems. Proceedings of the American
Control Conference. Seattle. WA. pp. 1628-1632.
4. Sarkka, S. (2007) On unscented Kalman filter for state estimation of continuous-time nonlinear systems. IEEE Trans. Automat.
Control. 52(9). pp. 1631-1641. DOI: 10.1109/TAC.2007.904453
5. Arasaratnam, I. & Haykin, S. (2009) Cubature Kalman filters. IEEE Trans. Automat. Control. 54(6). pp. 1254-1269. DOI:
10.1109/TAC.2009.2019800
6. Tsyganova, Yu.V. & Kulikova, M.V. (2012) Ob effektivnykh metodakh parametricheskoy identifikatsii lineynykh diskretnykh
stokhasticheskikh system [On effective methods of parametric identification of linear discrete stochastic systems]. Avtomatika i telemekhanika. 6. pp. 34-51.
7. Janczak, D. & Grishin, Yu. (2006) State estimation of linear dynamic system with unknown input and uncertain observation using
dynamic programming. Control and Cybernetics. 4. pp. 851-862.
8. Demin, N.S., Rozhkova, O.V. & Rozhkova, S.V. (2009) Fil'tratsiya v dinamicheskikh sistemakh po nablyudeniyam s pamyat'yu
pri nalichii anomal'nykh pomekh [Filtering in dynamic systems based on observations with memory in the presence of abnormal interference]. Izvestiya Tomskogopolitekhnicheskogo universiteta. 314(5). pp.16-20.
9. Xiao, M., Zhang, Y. & Fu, H. (2017) Three-stage unscented Kalman filter for state and fault estimation of nonlinear system with
unknown input. Journal of the Franklin Institute. 354. pp. 8421-8443. DOI: 10.1016/j.jfranklin.2017.09.031
10. Hsieh, C.-S. (2017) Unbiased minimum-variance input and state estimation for systems with unknown inputs: A system reformation approach. Automatica. 84. pp. 236-240. DOI: 10.1016/j.automatica.2017.06.037
11. Bulashev, S.V. (2003) Statistika dlya treyderov [Statistics for traders]. Moscow: Sputnik+.
12. Smagin, V.I. & Koshkin, G.M. (20015) Kalman filtering and control algorithms for systems with unknown disturbances and parameters using nonparametric technique. Proceedings 20th Int. Conference on Methods and Models in Automation and Robotics (MMAR 2015). August 24-27. Miedzyzdroje. Poland. pp. 247-251.
13. Koshkin, G. & Smagin, V. (2016) Kalman filtering and forecasting algorithms with use of nonparametric functional estimators. Springer Proceedings in Mathematics and Statistics. Nonparametric Statistics. 175. pp. 75-84.
14. Ruan, H., Zhai, T. & Yaz, E. (2003) A Chaotic Secure Communication Scheme with Extended Kalman Filter Based Parameter Estimation. Proceedings IEEE Int. Conference on Control Applications. Istanbul, Turkey. pp. 404-408.
15. Sadeghian, H., Salarieh, H., Alasty, A. & Meghdari, A. (2014) On the fractional-order extended Kalman filter and its application to chaotic cryptography in noisy environment. Applied Mathematical Modelling. 38(3). pp. 961-973.
Информация об авторах:
Смагин Валерий Иванович - профессор, доктор технических наук, профессор кафедры прикладной математики Национального исследовательского Томского государственного университета (Томск, Россия). E-mail: [email protected] Ким Константин Станиславович - кандидат физико-математических наук, доцент Высшей IT школы Национального исследовательского Томского государственного университета (Томск, Россия). E-mail: [email protected]
Вклад авторов: все авторы сделали эквивалентный вклад в подготовку публикации. Авторы заявляют об отсутствии конфликта интересов.
Information about the authors:
Smagin Valery 1 (Doctor of Technical Science, Professor, National Research Tomsk State University, Tomsk, Russian Federation). E-mail: [email protected]
Kim Konstantin S. (Candidate of Physical and Mathematical Sciences, National Research Tomsk State University, Tomsk, Russian Federation). E-mail: [email protected]
Contribution of the authors: the authors contributed equally to this article. The authors declare no conflicts of interests.
Поступила в редакцию 24.04.2024; принята к публикации 03.09.2024 Received 24.04.2024; accepted for publication 03.09.2024