CC BY
10
Доклады БГУИР
2015
№ 5 (91)
УДК 519.2:005
ВЛИЯНИЕ ИНФОРМАЦИОННОМ ПРОГНОЗИРУЕМОСТИ НЕСТАЦИОНАРНОГО ШУМА НА РЕАЛИЗАЦИЮ АЛГОРИТМОВ ОЦЕНИВАНИЯ ПАРАМЕТРОВ ПОЛЕЗНОГО СИГНАЛА
А.В. ОВСЯННИКОВ, В.М. КОЗЕЛ
Белорусский государственный университет пр. Независимости, 4, Минск, 220030, Беларусь
Белорусский государственный университет информатики и радиоэлектроники П. Бровки, 6, Минск, 220013, Беларусь
Поступила в редакцию 11 ноября 2014
Приведены необходимые теоретические сведения для получения алгоритмов оценки неизвестных полезных параметров на фоне шумовых нестационарных стохастических процессов. Показана взаимосвязь информационных прогнозируемостей стохастического процесса и оцениваемых параметров.
Ключевые слова: информационная прогнозируемость, стохастический процесс, алгоритм оценки.
В работах [1-3] авторами исследовались вопросы, связанные с информационной прогнозируемостью (ИП), в общем случае, нестационарных стохастических процессов в дискретном и непрерывном времени, анализировались возможности оценки функции ИП. Под такой функцией авторы подразумевают функцию времени, количественно определяющую информацию, содержащуюся в адекватной модели, описывающей стохастический процесс и отражающую факт наличия знаний о нем в любой будущий момент времени. Конкретный вид функции ИП определяется изменением во времени количества информации Фишера относительно исследуемого процесса или его параметров.
В данной работе исследуется еще один аспект - связь ИП шумового процесса с задачей оценивания (фильтрации) параметра сигнала на его фоне. Наблюдение представляет их аддитивную смесь. Такая постановка задачи позволяет говорить об ИП оценки параметра сигнала. Действительно, алгоритм оценки содержит, в общем случае, матрицу усиления невязки [4-6], элементы которой определяют асимптотическую скорость сходимости алгоритма. В то же время, некоторые из этих компонент определяют ИП шумового процесса. Таким образом, очевидно наличие определенной взаимосвязи.
Цель данной работы - исследование связи ИП нестационарного шумового стохастического процесса с реализацией алгоритма оценивания (фильтрации) параметра сигнала на его фоне.
Оценка параметров сигналов на фоне нестационарных шумовых процессов
В качестве моделей шумовых процессов будем рассматривать условные марковские процессы, вероятностная структура которых описывается одношаговой плотностью перехода (ОПП). Известно, что ОПП марковского процесса из одного фиксированного значения у в другое ум за малый интервал времени А = — ^ имеет вид
Введение
(1)
где M = y — Да - математическое ожидание марковского процесса, at = a(ti, y) - функция сноса в уравнении Фоккера-Планка-Колмогорова, Д = b(ti )Д - дисперсия марковского
процесса, b(ti) = /2Д)|' g2(t)dt - коэффициент диффузии, a(t, y) и g(t) - известные
детерминированные функции стохастического дифференциального уравнения L(t,y) = y(t) + a(t,y) = g(t)C,(t), >'(0) = 0. удовлетворяющие условию Липшица, C,(t) нормальный белый шум с нулевым средним и дельтообразной корреляционной функцией (C(t)C(t) = N8(t'—1)/2, N - односторонняя спектральная плотность.
Для обобщения (1) также используют формальные конструкции ОПП. Так, при решении практических задач нашли применение модели, совпадающие по форме с обобщенно-нормальным распределением:
= B(v)exp (—A(v) (|y+1 — M|/д/Д")'), v > 0,5, P(yJ =я1>0> (2)
где A(v) = (Г(3/ v)r—1 (1 / v))v 2, B(v) = A(v)1/v / (2^/^T(1 +1/ v)), Г - гамма-функция. Наиболее часто такие модели используются с параметром v е {1; 2} . Строго говоря, полученная таким образом конструкция ОПП, в общем случае, не является физически обоснованной или математически доказанной. Однако, сконструированные таким образом ОПП являются удобными аналитическими моделями с физически понятными при их использовании результатами.
Далее перейдем к рассмотрению задачи оценки скалярного параметра 0 полезного сигнала s(t, 0) по результатам наблюдений r = S + У (i = 1k) на интервале времени [tx t]. Оптимальная выборочная оценка формируется из условия минимизации эмпирических потерь 0* = arg min Jk (0), где Jk (0) = —^k_0 ln , У = Г — S . Стандартная процедура стохастической
е
аппроксимации [4,5] для момента времени ^ имеет следующий вид:
-1
■'к ~еэ,к 1 _а "кVе)' ае J а111 щк,к-1 ' ^е|е=е*_1
а2Зк (е) / Ш2 = а2! (е) / Ш2 -а21п / Ш2, (4)
0* = 0* + [д2Jk(0) / д02 ]—1 дln1 / Ö0|e=eu , 0* = const, (3)
а 1пЩк,к-1 / ае^ =-и400|У* -М*-1| - Д^ипС* -М*-1)йРк,к-1 / ае^*, (5)
где б*^ - сформированное одним из известных способов значение предварительной оценки, в частности, это может быть экстраполированное на шаг вперед значение или значение на предыдущем шаге, т.е. 0*^. =0*ч . В формулах (3)-(5) введены обозначения: ук = гк - sVtk,0к-1),
м*-1 = У*-1 - Аа(/к-1, У*-1), ук-1 = гк-1 - -1, ек-1), Рк,к-1 = Ук - Ук-1 + Аак-1 • Качественный аналго
рекуррентных оценок (3)-(4) выводит за рамки статьи. Однако можно указать на то, что оценки максимального правдоподобия при общих условиях регулярности состоятельны, асимптотически эффективны и асимптотически нормальны, в ряде случаев они могут оказаться смещёнными. Статистическое усреднение второй производной эмпирического функционала
приводит к рекуррентному соотношению Кк 1 = ^ (е) / 5е2|е=0, ^ = Кк\ - 1пщ / ае2|е=е, *
(а21пЩк,к-1 / ае2)7 =-((а 1пщ-^/ ае)^ =-д>(д^к)=-Р (а-)(а^к,к-1 / ае)2, где /Ре(А/к) -
одношаговая информационная прогнозируемость скалярного параметра е, /Рм (А/к ) = у2Г(2 -1/ V)Л(у)2/г (Г(1 / у)Пк ) 1 - одношаговая информационная прогнозируемость математического ожидания процесса у(^) [2]. Учитывая последние формулы уравнение (4) может быть переписано в виде:
К-1 = - /Ре (А/к )| = К-1 - Рм (Ч )№,-ч / ае)! (6)
или в явной форме
1 = у2Г(2 — 1/V)А(у)2'Ук Ц , 2
к— =--Го/Т»-Е=1 Ц ае) |0=е*1 • (7)
Анализ формулы (7) позволяет заметить, что информационная прогнозируемость скалярного параметра равна величине
1Ре С—+т ) = —К+т, (8)
где индекс т определяет поведение функции информационной прогнозируемости в будущие моменты времени 4+т по результатам наблюдения на интервале ] •
Далее рассмотрим алгоритм (3)-(7) с параметром v = 2, при котором ОПП имеет вид нормального закона (1). Информационная прогнозируемость (ИП) оцениваемого параметра е следующая:
Р (Ч+т)=Е—= Щт (Э^—, / эе)2, (9)
а уравнение (3) для момента времени ^ имеет вид:
е— =е——! + 1Ре (гк )—1 ц— / эе,е=е^ • (10)
Поскольку значения оценок е1+т для индексов т > 1 неизвестны, то вычисление функции ИП непосредственно по формуле (9) невозможно. Однако в случае $ = ае (а -
некоторый коэффициент пропорциональности) получаем (э^+тг+т_1 / Э9|0=0, ) =а2 (А / т) , где Т ~ (а'у) - постоянная времени. Тогда отношение ИП оцениваемого параметра к ИП
шумового процесса равно постоянной величине Ъ]Рк+т = 1Ре(г—+т)/ 1РМ(гк+т) = (А/Ту) .
Уравнения (9),(10) при А^0, А— ^ Т, Ат ^т можно записать в непрерывной форме. Так, функция ИП параметра е примет вид интегрального уравнения
1Ре (Т, т) = и+^пж / )]2 а, (11)
а дифференциальное и интегральное уравнения оценки будут следующими:
ё- =2Рв(г)-1г»(о-1^[а^/5е]|^в.(0, (12)
е*(Т) = 1Ре(Т)—1 {^(О4 L[ЭL/ Ш]^) А . (13)
^■т
о ! 0=е,(
Ниже приведены некоторые примеры алгоритмов (11)—(13), для наиболее значимых нестационарных шумовых процессов используемых в задачах теории оценивания.
1. Процесс у(?) - чисто диффузионный: а^, у) = 0, g(?) = g , Щ = У, Ц = ^2А /2 . Уравнение наблюдения г = $ + у • В этом случае ИП определяется формулой
= или в непрерывной форме I 11,(1) = Ь 1 |' (л')2б//. А = Л/«2 / 2.
Уравнение (10) с учетом (7) принимает вид
е—=е*—1 +(Е—=к—1 ]2)—1 ($;———г*.о.
Последняя формула показывает, что алгоритм оценки имеет смысл только для случая, когда информационный сигнал не тождественен информационному параметру, т.е. $ ^ае, где а - некоторый коэффициент пропорциональности.
2. Процесс ) - гауссовский: а(г,у) = цу(0, ц> 0, g(?) = g , Щ = (1 — Ац)у, Ц = 2А / 2. Уравнение наблюдения г = $ + у • В дискретном времени ИП определяется
формулой 1Ре 0—+т ) = (ЬА)4 =1[$г'+т—1+т + АЦ$'— 1+т ]2 или в непрерывной форме
^'Т+т
+ , где обозначено Ъ=Щ2 ! 2.
Уравнение (10) для момента времени ^ и s = 0 = const принимает вид е; =0^ + (кАц)- (у*-[1 — Ац]^). (14)
Замечаем, что при выборе шага дискретизации равным времени корреляции А = 1/ ц получаем известный линейный алгоритм 0* = 0*_] + к l(rk — 0*_i) .
Из уравнений, определяющих коэффициент усиления в (12), согласно (11) получаем зависимость относительной дисперсии ошибки оценки
52 = 2(q2T»—1 (15)
или 51 = (а2 / ;)(1 + р) / (1 — р), р = ехр(-Ац) при Ац << 1, где q2 = 02 / а2 - отношение сигнал-шум, а2 = b /2ц, T = кА. Таким образом, качество оценки 0* улучшается (относительная дисперсия ошибки уменьшается) при увеличении отношения сигнал-шум, времени наблюдения и уменьшении постоянной времени ц-1 (рис. 1, кривые 1 и 2). Зависимости рис. 1 строились для значений 0 = 0,2, А = 0,1, ц = 0,5 , q2 = 0,4 (кривая 1, рис. 1) и ц = 2, q2 = 1,6 (кривая 2, рис. 1). В то же время отношение информационных прогнозируемостей имеет вид
521РМт = (А / Ty )2, (16)
где T =ц—1 - постоянная времени процесса y(t). Зависимость относительной ИП 5^к+т от шага
дискретизации и постоянной времени шумового процесса позволяет сделать вывод о том, что уменьшение постоянной времени процесса y(t) ведет к увеличению ИП оцениваемого параметра 0; относительно ИП среднего этого процесса, и наоборот. Причем, в данном случае величина 52Рк+т не зависит ни от времени наблюдения (T = к А), ни от глубины прогнозируемости (т = тА).
1 БЛдБ |
д > 1
\
N : з
А ч. 1^-4 г
Д f А А
А Д А i г
Рис. 1. Относительные дисперсии ошибки оценки : 1 - формула (г), ц = 0,5 , q2 = 0,4 ; 2 - формула (г), ц = 2, q2 = 1,6 ; 3 - результаты моделирования, ц = 0,5 , q2 = 0,4 ; 4 - результаты моделирования, ц = 2, q2 = 1,6
Непрерывный аналог уравнения (14) получается предельным переходом А—>0 (Т = кА): б"(У) = 0 / Т)^у '('Г) /ц + >'"('/')] . Если выбрать в качестве начального условия
0П = г(0) / ц, + /"(0) , то решение вышеприведенного дифференциального уравнения получается следующим: в*(Т) = (1/Т)^[г(Г)/¡л+г(Г)]^ (Р.Л. Стратонович, 1959).
3. Процесс у(/ ) - флуктуационный: а(/,у) = цу(/), ц> 0, g(/) =7&0~+&/, М = (1 - Ац)yi, Ц = АЪ(ti) = А(Ъ0 + Ь/ ), Ъу = /2, V = 0,1. Уравнение наблюдения г = е+у , ИП оценки определяется формулой /Ре (/к+т) = ^^ (Ъ0 + Ъ^+т) 1 Дц2 или в случае = (г + т)А
и Ъ > 0 получаем Щ (^+т ) = ц2 \И(г + к+т) - И(г + т)] / Ь , где 2 = Ъ0 / ЪА, И(х) -гармоническое число от нецелого аргумента. Учитывая последние выражения, несложно записать уравнение (10) для момента времени ^ :
9* - 9к-1
к
(У* - [1
, к- — К-1 + (Ь + щк )-1.
(17)
Дц(Ьо + V* )
На рис. 2 приведены зависимости ИП оцениваемого параметра (^ —9) для гауссовского процесса 1Р9 (Т, т) — |2Т / Ь (кривая 1) и процесса, рассмотренного в пп. 3 1 +1 (Т + т)"
Р (Т, т) — |21п
1 + 1т
/ Ь, I — Ь / Ь . Последняя формула показывает, как ИП оценки для
этого случая зависит от соотношения времени накопления Т и прогноза т.
1р„(т т)
1 2 4
3 х
г
Рис. 2. Информационная прогнозируемость оценки Р (Т, т), | — 1, Ь — Ь0 — 1, Ь — 0,01: 1 - гауссовский шумовой процесс; 2 - т —10; 3 - т —100
В заключение отметим еще одну важную взаимосвязь приведенных выше алгоритмов ИП оцениваемого параметра и подавления шумового процесса. Коэффициент улучшения отношения сигнал-помеха на выходе демодулятора определяется величиной
ц — а2 ^(д1пр(у) / ду , справедливой для стационарного шумового процесса с независимыми
отсчетами. Однако в общем случае, для нестационарных процессов с изменяющейся величиной параметра масштаба, но с ее предельным стационарным значением, этот коэффициент
преобразуется в функцию ц(?) — 1Ру(?)/Нш 1Ру(?), где 1Ру(?) — ^(д 1пр(?,у)/ду)2^ - ИП
стохастического процесса относительно его математического ожидания, р(?, у) -нестационарная плотность. Так, в частном случае гауссовского нестационарного процесса, получим ц(?) — (1 - е-1 )-1.
Исследовалось качество алгоритма оценки постоянного параметра (14) на фоне нестационарного гауссовского шумового процесса с ОПП (1). Уравнение наблюдения имело вид г — 9+у . Расчет относительной дисперсии отклонения оценки параметра от его истинного
значения осуществлялась по формулам: 5* — 92 / Оек, Оек — (к -1 / к)Век_} + (9* - 9)2 / к .
Результаты моделирования, полученные усреднением по 50 реализациям 5 2 в сравнении с теоретическими (формула (15)), приведены на рис. 1 (кривые 3 и 4, отмеченные маркерами). Параметры моделирования выбирались аналогичными расчетам для кривых 1 и 2 рис. 1. Шумовой процесс моделировался уравнением у — -Д%ч +Д^Ск, где Ск -независимая гауссовская случайная величина с нулевым средним.
Заключение
Рассмотрены вопросы взаимосвязи ИП нестационарного шумового стохастического процесса с алгоритмами оценивания неизвестного информационного параметра сигнала на его фоне. Установлено, что ИП оценки параметра полностью определяется коэффициентом усиления невязки. В отличие от ИП шумового процесса, ИП оценки содержит квадрат производной по параметру сигнальной компоненты в точке предварительной оценки. Поскольку будущие значения оценок неизвестны, точное значение ИП возможно лишь на один шаг вперед. Для приближенного определения ИП оценки на большие временные интервалы можно воспользоваться статистическим усреднением. Зависимость ИП оценки от постоянной
времени шумового процесса и шага дискретизации позволяет обеспечить, за счет выбора последнего, оптимальное соотношение между ИП оценки и ИП шумового процесса.
Рассмотренные примеры алгоритмов оценивания на фоне нестационарных шумовых процессов иллюстрируют особенности ИП оценки, которые могут быть использованы при решении практических задач.
IMPACT OF INFORMATIONAL PREDICTABILITY OF NONSTATIONARY NOISE ON THE PARAMETERS ESTIMATION ALGORITHMS REALIZATION
OF USEFUL SIGNAL
A.V. AUSIANNIKAU, V.M. KOZEL
Abstract
The necessary theoretical information for algorithms estimating unknown parameters useful for background noise nonstationary stochastic processes is given. The relationship of information predictability stochastic process and evaluation is shown.
Список литературы
1. Овсянников А.В. // Докл. БГУИР. 2014. № 6 (84). С. 48-54.
2. Овсянников А.В., Козел В.М. // Докл. БГУИР. 2014. № 8 (86). С. 48-54.
3. Овсянников А.В. // Докл. БГУИР. 2015. № 1 (87). С. 54-60.
4. Тартаковский Г.П. Теория информационных систем. М., 2005.
5. Цыпкин Я.3. Информационная теория идентификации. М., 1995.
6. ЯрлыковМ.С., МироновМ.А. Марковская теория оценивания случайных процессов. М., 1993.
