Модель шума квантования векторас ненулевыми математическими ожиданиями Текст научной статьи по специальности «Математика»

УДК 519.213.7, 621.391.82

DOI: 10.14529/mmph200205

МОДЕЛЬ ШУМА КВАНТОВАНИЯ ВЕКТОРА С НЕНУЛЕВЫМИ МАТЕМАТИЧЕСКИМИ ОЖИДАНИЯМИ

В.В. Заволокин

Южно-Уральский государственный университет, г. Челябинск, Российская Федерация E-mail: zavolokinvv@susu.ru

Получена математическая модель шума квантования, возникающая в высокоточных измерительных системах. Новая формула плотности распределения вероятности получена для алгоритма квантования с округлением до ближайшего целого нормального вектора с ненулевыми математическими ожиданиями. Эта формула - обобщение результата, полученного для плотности вероятности эхо-сигнала от капель атмосферной влаги. Формула получена на основе теории вероятностей, разложений в ряды Фурье и интеграла Фурье. Для данной плотности получены формулы векторов математического ожидания и второго начального момента.

Ключевые слова: разложение в ряды Фурье, интеграл Фурье; нормальная плотность распределения с ненулевыми математическими ожидания, порождающая шум квантования.

Введение

При формировании цифрового кода возникает шум квантования. Характеристика формирования шума квантования изображена на рис. 1. Этот шум складывается с обрабатываемым сигналом.

Любая излучающая (принимающая) антенна радиосигнала, так же, как и любой приемопередающий датчик (в случае ультразвукового сигнала), в силу условий его физической реализуемости, имеет боковые лепестки диаграммы направленности. По ним может приниматься сигнал от побочного (неинформативного) импульсного объема, расположенного на той же дальности, что и исследуемый импульсный объем, находящийся в створе главного лепестка, но расположенный под другими углами азимута и места. В нем могут быть отражатели, совокупность которых в тексте работы и называется отражающей доминантой. Квантуется сигнал, отраженный от капель дождя (от однородной и изотропной среды), в смеси с сигналами отражающих доминант. Таким образом, эхо-сигнал есть нормальный случайный процесс с математическим ожиданием m = m (t) .

координат вектора г/=(^в шум квантования Сущность математической модели

При формировании эхо-сигнала складываются: центрированный нормальный случайный процесс эхо-сигнала дождя с детерминированной, повторяющейся вдоль развертки во времени сферической координаты дальности при повторяющихся угловых координатах главного лепестка, функцией m = m(t). Она имеет место вдоль сферической координаты дальности и вызвана

отражающими доминантами, эхо-сигнал которых принят по боковым лепесткам. Плотность распределения вероятности вектора, являющегося результата сложения сигнала метеоэхо и сигналов отражающих доминант имеет вид:

1 (xl-m(t))2- Рц(т)(XY-mjt))(x2-m(t+T))+[х2-m(t+г))2

Wij(X1>X2 ) =

1

j (l-Pfj (т))

(1)

2nar (1-Pr (т))

где x1 , x2 - значения координат вектора rj (г1Г2) в моменты времени t1 и t2 ; (т2 — дисперсия значений координат х1 и х2 вектора rj (г1Г2); m (t) - математическое ожидание координат вектора rj (г1Г2); ij = (л1П2) = n + 4; п = (n1,n2) - вектор теплового шума приемника; 4 = (4,42) - нормальный вектор эхо-сигнала от облачно-дождевой системы. Здесь = о^ = °ç2 информа-

тивные величины, необходимые для формирования оценок Kw , а затем о и г . рц (т) -коэффициент корреляции координат r1 и r2 . т = t2 -11 - шаг дискретизации.

Так как m = m (t) неслучайная функция, повторяющаяся от зондирования к зондированию, то обозначим m (t) = m1, а m (t + т) = m2 формулу (1) перепишем с учетом этих обозначений:

_1 (x1-m1 )2- Рц(т)(X1 -m1)(x2-m2)+(x2-m1 )2 1 2 °n(1-P-v(T))

Wv( x1, X2 ) =

-e

2rnj2 (1 -,

(2)

■2 (1 -P2-v (т))

Из определения шума квантования [2] известно, что вектор шума квантования есть разность векторов Z = П - X , где п - входной вектор алгоритма квантования, и X выходной квантованный вектор. На рис. 1 видна периодичность функций iy(Xj), формирующих шум квантования с периодом А . Учитывая их «периодичность» разложим в ряд Фурье функции iy(Xj ) .

2

Математические преобразования

Выполним математические преобразования аналогичные преобразованиям, проделанным в работе [1], но с той разницей, что квантуемый сигнал в данной работе имеет не центрированную плотность вероятности, описываемую выражением (2). Из [2] известно разложение периодической функции у (Xj ) (см. рис. 2) в ряд Фурье:

, А^(-1)" . 2пп

у( xj=—2/^“sın—

X і

А J

где j = s, c - синфазная или квадратурная составляющая комплексного сигнала. Характеристическая функция вектора rj = ( r1, r2 ) (см. [2]) имеет вид:

Фї(Щ = Ф (М’ J&2 ) = M{ exP(Av(x1) + М2^(x2 ))} =

1(МУ(X1 )+^(X2 ))

П ei(

( x1, x2 ) dx1dx2.

Здесь i - мнимая единица, а M{} - символ математического ожидания.

Разложим периодические функции el(й1^(X1)) и ei(М^(X2)) в ряды Фурье:

J(Мф(X1)) _

І(Мф(X1)) тя J(Мг(X2))

П2my( X1)

Лп

п1

=-да

А

-да -да

(3)

(4)

(5)

0i (Mw( X2)) =

да

2 С2п

п2=-да

em21my(, X2)

А

(6)

Здесь А играет роль периода, а функции /(х) и /(x2) на каждом из отрезков линейности А,—А длиной А, изображенные на рис. 1, есть периодические куски прямых линий:

/(Х1 ) = Х1,/(Х2 ) = Х2 (7)

в центре системы координат z0x и смещенные по оси z в зависимости от текущего значения Xj . После подстановки /( х1), /( х2) в (5) и(6) разложения примут следующий вид:

J (*/(xı)) _

e

щ 2лхі

'1n

i(&2/(Х2)) _

'2n

n2

=—<X>

А

^2^X2

А

(8)

(9)

Коэффициенты разложения функций e1 (*/(Х1)) и e1 (,^/( Х2)) (см. [2]) есть интегралы:

, А

1 Г 2еі^іХі

АА

2

(*/(Х1)) ы j(&2/(Х2)) in 2ПХ

2* — ^)!

ОХх = ■

*1 —

2жп1 і А

(10)

С2 n =

1 J 2e

л Г

*2 Х2 Є

} 2жх0

-0Х2 =

sin I * —

А ) 2 2жпп і А

А

2

* — 2жп2 |А 2 А ) 2

(11)

Подставив формулы (10) и (11) в (8) и (9), а результаты подстановки в (4), перепишем (4) в следующем виде:

Ф^(*) = Ф—Ç (j*1, j*2 ) = M (і exp (*1/(Х1) + *2/(x2 ))) =

и

'Г*) = Ф—4 А ) 2 e

. і 2 жп1 і А

sinl * - |— jn 2 ж ж

. і 2жп2 і А

Яп| *-----А_ I^ ei”22ЖХ2

*—Ужх Iа

1 А ) 2

А ^ ( - 2 жж і А

”2=—да 1 *-----2 і

А ) 2

W^( Х1, Х2 ) dx1dx2. (12)

Изменив порядок суммирования и интегрирования и оставив под знаком интеграла только выражения, зависящие от переменных интегрирования, получим иной вид выражения (12):

Ф?( j*1, j*2 )= £

sin1 * —

2жп і А

sini * — —2П'2 ' А

2 д I ^ да да 2жХ2 ^in^2жХ

2жщ і А

*1 —

_ і _ 2жщ і А J J А

— n2 =—да *-------2 — —да —да

А 12 I 2 А ) 2

JJ

#П(x1, x2 )dx1dx2 .(13)

Вычисляя интеграл формулы (13), являющийся интегралом преобразования Фурье, подставив формулу (2) вместо (Х1, Х2 ), получим (см. [2]) следующий вид этого интеграла:

да in-ı 2жх, in 2жх0 e 1 1 e 2 2

1 (х1—™1)2 — P—VD(х1—m )(х2 —m2 )—(х2—m2 )2

1

2ж^ (1 — РП (0)

Г (1—РПw)

dx1dx2 =

n 2ж n2жі 1

'I m2T+m-ГГ2

= e

21ЛЛ:*» 12122 (2

\2і

(14)

После этого искомая характеристическая функция (13) вектора Z примет вид:

да

=—да

да

c1 n =

да —да

2

1

да

Фг{ я, і А) = Z

sin І А - ж ]л

да I 1 л 12

А -

и Sin |я2 - ж 1л

^ і 2 ЛІ 2

Z “^

2жп1 |л 2Г» |2 2жп2 \л

"Т~ Іг Г2 “л~ І2

f 2

( пЛп п22жЛ 11 г f 2ж) / ч

( ”1 ІГ” -\-}-2І I -1л-і + 1

2 і п12ж |1 п2 2ж

2 і п2 2ж

2

xey к JJ. (15)

Плотность распределения шума квантования есть обратное преобразование Фурье (см. [2]) выражения (15):

» » от

Wl( zı-Z2)-—2 1 1 Z

( 2ж ) _nn —nr п —от

sin А -

(?ж\2 J J f _ 2жщ \л ■“

(2ж ) -от-отп1 =-да 2--------L п2

11 л І 2

10 t s-[22 -^)л х

-да і а-Ат)л

,і пАА\-11 і і f+ фі і И |2

л ) 21 ^ J л

7і л )і л ) 7 J л

хе

х е 21+А z2) d A1d А; | z11 < л; \z2\ < л.

(16)

Из вида функций z1 = ıp(x1) , z2 =^(x2 ) изображенных на рис. 1, следует, что область определения функции (16) есть: \z^ < л и \z2| < л . Это обстоятельство и учтено в формуле (16). Изменив порядок интегрирования и суммирования, оставив под знаком интеграла множители, зависящие от переменных интегрирования, перепишем (16) иначе:

W?( z

і да да

(z1. z2 ) = -----"Г Z Z eXP

( 2ж) п =-да п2=

2 f п{2п

J J

+ Рц(т)

2 f п12а)| іп22ж) 2 f п22ж

7\')Gn\ л

+ ^\ л

2

J)

п

2жп1) л

sin І А - ~" ‘^1 |— sin І А - ~" 2

п 2А m2ж^

Л m —-hm —

хе^”1 л 2 л ^х 2жп9 ) л

і п 2жп1 ) л

11 л ) 2

А - 2жп2 )л

2 л ) 2

л ) 2 хe-(AZ1+A2Z2)dA1dA2;|z1 <л; jz2| <л. (17)

А=1

sin Ах -

Обозначим интеграл в формуле (17) как I1 . Тогда подынтегральное выражение формулы (17) есть произведение множителей с независимыми переменными и Ij будет иметь вид:

2Жі)л да sin\Я - А^л л л

2dA1 х f А-------л ' 2е~1 Ая2dA2 ;Iz1 <л;jz2| <л. (18)

1 1 f„ 2жп2) л 2 1 1 Xі 2| 2

-да А -д-д

В интегралах(18) сделаем замену переменных лх^/2 = лЯ1/2 -ж^ и лх2/2 = лЯ2/2 -жп2 . Тогда dx1 = dA1 , Я1 = x1 + 2жп1/л, dx2 = dA2 , Я2 = x2 + 2жп2/л и (18) примет вид:

-да \ я. - ж )л

-г'2жи^, -г'2жи^2 Г sin (Ах1/2)^

sin (Ах2/2)

I = e-ie-i-«2Z2 f / ( ^ )e-ix1Z1 dx. X f “7 ("“112’e-x2Z2dxn.

1 -І (Ax^/2) 1 -і (Ax2/2)

(19)

Характеристическая функция (см. [2]) одномерного равномерного W<p(^) = — закона рас-

л

пределения случайной величины (р на интервале [a,b] имеет вид:

Ф (») •

ib» —ib»

e — e

i»( a — b )

(20)

Тогда для нашего случая имеем, что [a,b] = А, a = А , b = — А .

Фф( i») =

А»

b» —ib» 2 2 іо

e — e e 2 — e 2 I 2

А» . ГА»

—i 2sın

—2sin

А»

(21)

i»( a — b) i»A i»A »А

Нетрудно заметить, что интегралы в (19), дополненные множителями 1/2ж с точностью до знака функции (21), это обратные преобразования Фурье. Выражение «характеристическая функция равномерной плотности распределения» следует понимать лишь в контексте промежуточного преобразования. Результат вычисления обратных преобразований Фурье (19) примет вид:

^2 ,2жп^ ,2nri2Z2 .

(22)

h =

22 (2ж) „—г-

А2

А ;\z1\ < — ;\z2\<—.

1 11 2 1 2 2

Искомая плотность распределения после подстановки I (22) в формулу (17) примет вид:

Г п 2ж щ 2жЛ

{mi nT+m Іт)

і да да

»Hzi. Z2 )= -2 Е Е

А2 ~

*-*■ п =—да П2=—да

2 Г п{2ж

°-\ А

+ р-(т)°-

2 Гп12ж\(п22ж

2 | п22ж + —

2

xe

2жп^і 2жп222

' ' А ;Ы <А;Ы(23)

x e А e

Для удобства дальнейших преобразований формулу (23) перепишем следующим образом:

,2ж.

w,(z1,z2)=-L ЕЕ ЕЕ e-'ır(nlZ1-”'>2n2(Z2—m2>)

А nı =—да п2=—да

(24)

2 ГП2ж

р— (т~)^—

2 Гп12ж Vп22ж

2 г п22ж

2

xe

) II А , , А

J;\z1\< —;|z2 < —. 1 11 2' 21 2

Учитывая нечетность функции sin(x), выражение (25) перепишем иначе:

їда да 2ж

Wç( zU z2 )=— Е Е C0S~^(n2 (( z2 — m2 ) + П1 (( z1 — m1 ))))X

2

А пх =—да n2 =—да

(25)

2 Гп2ж

Р— (т~)^—

2 Гп12ж Vп22ж

21 п22ж

2

\x e

А II А , , А

J;\z1\< —;|z2 < —. 1 11 2' 21 2

Графики W" (zı, z2 ) (25) (см. рис. 2) построены для различных значений m1 и m2 и для одинаковых Рп (т) . Список параметров процедуры proc(^, ... u2) пакета Маріе: t, rho, ml, m2, u1, u2.

А2

Здесь ml = m2, m2 = m2, rho = р-(т), z1 = u1, z2 = u2, ft = —— - глубина квантования, t =

2ж

Р

вспомогательный параметр.

При m1 Ф m2 график не симметричен (рис. 2, в). Вектор математического ожидания плотности (показано ниже) в общем виде всегда имеет нулевые координаты =(м^\,М^2) = (0,0)

при любых m и m . Заметим, что равенство щ = m2, не является достаточным условием симметрии графика плотности как может показаться из рис. 2.

а)

б)

Рис. 2. Плотность распределения шума квантования при различных щ и т2. Здесь а) это плотность распределения при proc(1,3, 0,7, 0,5, 0,5, u1 ,u2), б) плотность распределения при proc(1,3, 0,7, 0,0, 0,0, u1, u2), в) плотность

распределения при proc(1,3, 0,3, 0,3, 0,75, u1, u2)

Статистические характеристики двухмерной плотности вероятности шума квантования

Вычислим векторы математического ожидания = (м^ j ,М^2) и дисперсии

плотности (26). Разобьем индексы суммирования в формуле (25) на девять групп и запишем ее в виде суммы девяти сумм:

D =( DÇVDÇ 2 ) для

Wı= (zj,z2) = 5) («j = 0,п2 = 0)+<S’2 (иі = 0,w2 є Z+j + ıS’3 |flj£ Z+,w2 = oj + «S^ є Z+ ,n2 є Z+j

'2 c ^ |TlJ3

+S5 ^n1= 0,n2 eZ~^ + S6^n1e r£~,n2 = oj + ^7 є Z~,n2 e Z_ j + <S8 ^ є Z +,n2 e Z_ j (26)

где

-\~Sg ^ nx є Z ,«2 є Z+ j

*1 («1 = 0,П2 = 0) = ^

-t

S2(nl=0,n2eZ+)=— £

1 ( щ 2Л

- -2Г

2

e

V A У

cos

A nt=l

2л

n2 z2 cos

2л

■T

S3 («ı є Z+- я2 = о) =— £ e ^ ^ =1

1 ( щ 2лл

ГГ2 1

- 2 7

2

V

У

cos

2л

n1z1 cos

2л

-щт,

1m1 I;

/ , 1 CO CO 2

^(«i eZ+,«2 eZ+J=— Yj Yje

„1=1 „2=1

2л /

2 ( п12лЛ|2 2

V. У

( щ2лЛ( п22лл

V A У

V A У

+Г2

(n 2лЛ

2İ

(27)

(28)

(29)

X (30)

Х cos (П2 (( ^ - m2 )) + (n1 (( z1 - т1)))) |;

^(йі=0,«2є77) =— £

__Г2

- o 7

( n2 2 л N

l~J

cos

A2 п2=1

2л

n2z2 cos

2л

-п т

2т2 I;

(31)

п2т2 I;

1

2

e

*1 uv

S6(nl&lT’rh=6) = —Yje

1 9(п,2лл

— -2аї Т '

2 V Л У

2л

2л

cos I — n1z1 I cos I — n1m1 |;

(32)

1 «i m 2

S7(n1eZ-,n2eZ-) = —£ Yje A „1=1„2=1

( п12лл

l~J

+P^(j)v2

( п12л'\( п22лл

V yv

+o2

( п22Л

l~J

2У

X C0SII (П2 I Z2 - m2 I + (n1 (( z1 - m1

(33)

і oo oo

^(«l єґ>«2 eZ") = -7 Z Z

A „1=1„2=1

oo oo 2

e

(п12лл

l~J

-РтМ<^

( п12л^( п22лл

V Л yv

( п22лл

l~J

2 У

X C0S ( (п1 ((Z2 - m2 )) - (п2 (((1 - m1

\ 1 “ “ S9(n1eZ-,n2eZ+) = —£ £

( п12лл

m

-Рп(тЩ

( п12лЛ( п22лЛ 2( п22лл

(34)

2Ҳ

+&2

V JV У

V Л У

А Иі_і„2_і

XC0S і ((п2 (((2 - ( )) -(п1 (((1 - m1

2л

Л

Объединяя совпадающие слагаемые: (28) с (31), (29) с (32), (30) с (33) и (34) с (35) получим:

\2

(35)

*1 ^ Wî((1,(2)-“Т |1+2 Z

1 2

- ^

( п22л\ к~Л У

п1-1

2л

Л"

cos — п2z2 I cos I — п2ш2 I +

2л

Л"

( п12лл

2

2 Z e п1-1

V Л У

2л ^ (2л

cos I — п1(1 I cos I — п1m1 | +

1

— — 2 +2 Z Ze п1 1п2-1

V

2 І п12л ^1 Л

Pn(r)Gv

2 (п12л^(п22л\ 2 (п22л

+ 0-:

2

Xcos |(I I(2 - I )) + (п1 (((1 - m1))))] +

1

— — 2 +2 Z Ze п1 1п2-1

f

п 2лХ , ч 2 ( п 2 л V п2л ) 9 ( п 2л

^21 —— I - р^(г)ст^| —— II —— | + ст<

V

2

2

1

1

e

1

2

2

X cos

|(1

<- ;lz2 <2 2 2

По определению значения координаты М^ (см. [2, 3]) можем записать:

(36)

Ма = J J zl5 z2 ) dz1dz2

15 , А А

JT X1 =± J J Zl

А2 « А2 А А

2 2

1+2 X

да ~2-

1 J п22жл

V А J

nı-1

2ж

А

cos — n2z2 | cos I — n2m2 | +

2ж

Â"

■2 X

n1"

(

1 J n 2жл

___ҐГ2 1---

да 2 -

2

e

V А J

n1-1

2ж

cos j — n1z1 I cos I — n1m1 | +

2ж

_1

да да 2

+2 X X e

n1-1 n2 -1

2 f n(2n

X coS I — (n2 ((I - m2 )) + (n1 (( j - m1))))

Р-(гК

2 f п12ж'\(n22n\ 2 f п22ж

2

1

да да 2

+2 X Xe

n1-1 n2 -1

f

2 I ^2ж

| - Р-(т)а- j

2 і n12ж If n2 2ж I 2f n2 2ж

'°- Г“А

2

2ж /

X coS I — (n2 ((Z2 - m2 )) - (n1 ((Z1 - m1)))) I \dz1dz2 •

(37)

Изменяя порядок суммирования и интегрирования в слагаемых суммы (37) после вычисления простейших интегралов, получаем: /2 — 0, /3 — 0 и 14 — 0.

1

_ да да 2

;== A XX e

А n1—1n2 —1

2 f П12ж

Р-(гК

2 f п12ж||п22ж| 2 f п22ж

2

А А (2ж Л

J dz2 J Z1cos I -^(n2 ((z2 - m2 )) + (n1 ((Z1 - m1)))) dz1 — 0

-А -А V А 2

(38)

2 2

f

1

~ да да о

16 = 4 XX e

n1—1 n2 —1

2 f П12ж

"-1 А

-Р-(гК

2 f п12ж||п22ж| 2 f п22ж

2

А А s2j[

X J dz2 J z1 cos -^(n2 ((z2 -m2 )) (n1 ((z1 -m1)))) dz1 — 0

(39)

_А _А

2 2

Повторные интегралы в выражениях 15 и 16 содержит по восемь слагаемых, каждое из которых содержит нулевой интеграл-множитель и поэтому 15 — 0 и 16 — 0. В результате M1 —12 +13 +14 +15 +16 — 0. Аналогично М^1 получаем М^2 — 0 и M^=(Mç\,М^2) = (0,0) .

да -да

2

Квантование с округлением до ближайшего целого не смещает квантуемую амплитуду сигнала или данных (в отличие от других видов квантования).

Из [2, 3] известно, что значения координаты вектора для двухмерной плотности

(25) вычисляются по формуле:

А А

% = I I Z1W?( z1’ z2 ) dz1dz2 =

А А

2 2

1

А2

А А

I I z2<

А А

1+2 X

- ia2 ж 2°

п22л\

V

n2 -1

2п

cos — nz,

А

2 z2

cos

2л

—nm +

А 2 2)

2 2

ж

+2 X e n1=1

1 ,,(in 2л A

—as

cos

2л

-nz

11

2л

cos| — n1m А

ж ж

+2 X X

n1 1n2 =1

X

cos

2 л /

(n2 (( Z2 - m2 ))-(n1 ((Z1 - m1 ))))jj dz1dz2 =X1

12 2 •

(40)

Вычислим сумму (40), обозначив ее слагаемые как I21,I22,I23,I24 и I25 . В результате вычисле-

А 2

ния простейших интегралов получаем I21 = и I22 = 0 .

Изменяя порядок суммирования и интегрирования, вынося за знаки интегралов множители, не зависящие от переменных интегрирования в I23 , I24 и I25, получим:

1 2( п12л

~ ж

123 = ТІ X * А n =1

a

(2л А , А 2 (2л V ,.,-

cos n1m1 J J dz2 J z1 cos n1z1 J dz1. (41)

2

2

2 2

А А

X I I zf cos _А_А - 2 - 2

2 л / А (

n2 ((Z2 - m2 ))-(n1 ((Z1 - m1)))) dz1dz2 = °-

(42)

~ го го 9

' 25 = 4 EZ ^

п1 —1 n2 -1

21 Щя

] -Pn(T)an |

2 і п12я I) n22n

2 і п22я

2

Л Л ,2я N

Х I I ^12C0S I ~^(n2 ((z2 - m2 ))-(nı ((Z! - mı)))) dz^ - 0. _A_A 2 A 2

2 2

(43)

2яп z

Вычисляя интеграл выражения I23 выполним замену переменной вида x — -------— •

A

xA ,

z1 —-----dx —

2яп,

2яп

A

1 dz1; хв — яп1 ; xH — -яп1:

1 2( /п12я

I23 —

A

го ,

Z 4t

4(я) n—1

2я

cos I — n

1m1 I I dz2 I x2 cos xdx.

A — яп

2

(44)

Воспользовавшись очевидным соотношением:

I x2cos xdx — 2x cos x + ( x2 — 2)sin x + C (45)

и учитывая, что sin ятг = 0, значение внешнего интеграла в (44) равно А, и то, что множитель cos (7Г/7) есть чередующаяся последовательность +1, где знак «-»-соответствует нечетным п, а

«+» - четным, то получим следующий результат:

123 _

1 0(п 2я

__/Т± 1

A ГО 1 2 1

(я)2 п—1п

го

Z А

2

cos

2я

я

2 ГО

Al2 Z(—т

п —1 п

1 ,,( п 2я| п —

2 1 Л

2

V

2

cos

2я

п1т1 I(cos(яп)) I dz2

2 _A

2

(A)2 ГО ИГ*

2я

где

■ п1т1 I = --J Z -ТТ q 1 cos I X п1т1

A 2 (я) m—1 (п) V A

2 я2

q — e * — e &

(46)

(47)

Повторный интеграл выражения I24 является сумой восьми выражений, каждое из которых имеет нулевой интеграл-множитель. Аналогично выражению I24 формула I25 также является суммой из восьми выражений, каждое из которых содержит нулевой интеграл-множитель. Следовательно I24 —125 — 0. Окончательно сложив I21 , I22 , I23 , I24 и I25 получим значение Dç1 :

DÇ1 — I21 + I23 — — + I - I ZjYГ cosпт1 |.

п—1

2я

(48)

Выражение для D^2 с точностью до номера индекса т2 совпадает с выражением (48).Таким образом, окончательный вид вектора второго начального момента следующий:

D —(D,. D*)— ||z|2cos 1212+12

2 я

12 Vя) tî («)2 VA 2 12 Vя) 2 («)2 VA

A2 (Ax2

.(-1 )"

2я

q" cos I — пт2

Ҳ

. (49)

1

2

Основные выводы

Из выражения (49) видно, что значения координат вектора второго начального момента для двухмерной плотности шума квантования зависят от величин математических ожиданий щ и щ квантуемого нормального двухмерного вектора (2). Значения координат второго начального момента в свою очередь являются информативными величинами в радиометеорологии и содержат интересующие физические величины. Тогда вторые члены в суммах в (48) приводят к смещению оценок значений координат этого вектора из-за присутствия величин щ и щ . Например, в радиометеорологии D (см. [5]) несет информацию о наведенном дипольном моменте Kw капель дождя, затухании радиосигнала туда и обратно на трассе распространения/ (r0, Kw,ш),

интенсивности дождя R и водности облачно-дождевой системы M.

Для физической реализуемости высокоточных измерений заключающейся в формировании

несмещенной и состоятельной оценки D с последующим вычислением оценок Kw, / (r0,Kw,®), R и со, необходимо избавиться от второго слагаемого в выражении (49), так как шум квантования по мощности (не когерентно) складывается с сигналом дождя. Ранее было показано (37)-(39), что значения координаты вектора равны нулю при квантовании с округлением до ближайшего целого. По этой причине оценки щ и щ могут быть вычислены с требуемой наперед заданной точностью, но с физическим ограничением на интервал времени пока величины Kw , /(r0,Kw,ш), R и M можно считать постоянными. В этом случае, очевидно, что для

оценки Dz будет иметь место следующее выражение:

DÇ -(DÇ1> DÇ2 ):

f

Af ў(-1) 12 'v *) n (и)

2n „ ) A2 22

2 q cos, -ПЩ ,,12

.(-1)

„ q cos — rnn2

2 I A 2

2ж

\

(50)

n=1 ( 1 )

Наконец, поскольку дисперсия квантованного сигнала, согласно теореме о дисперсии [см.

(4)] суммы есть величина:

Dx - Dfj + D + 2X KvtÇ z’j - 1 2;

(51)

i <j

где

D-x- D?+ Dn. (52)

Тогда, заранее вычислив оценки щ и щ , легко избавиться от вторых слагаемых в выражении (51) что и позволит сделать искомую оценку D [Çt ] несмещенной и состоятельной при апри-

орно известной величине A и апостериорных, не смещенных, состоятельных оценках Dn и D^ ,

вычисление которых на практике не вызывает затруднений с помощью алгоритма выборочного второго начального момента. Материалы работы важны при организации высокоточных измерений в связи, медицине, радиометеорологии и других областях науки и техники.

Литература

1. Математическая модель шума квантования сигналов, отраженных от протяженных пространственных помех / Б.М. Балясников, М.С. Ворона, В.В. Заволокин и др. // Труды Военнокосмической академии им. А.Ф. Можайского. - 2011. - Вып. 633. - Ч. 2. - С. 131-138.

2. Тихонов, В.И. Статистическая радиотехника / В.И. Тихонов. - М.: Радио и связь, 1982. -624 с.

3. Пугачев, В.С. Теория случайных функций и ее применение к задачам автоматического управления / В.С. Пугачев. - М.: Физматгиз, 1960. - 883 с.

4. Вентцель, Е.С. Теория вероятностей. - М.: Наука, 1969. - 576 с.

5. Довиак, Р. Доплеровские радиолокаторы и метеорологические наблюдения / Р. Довиак, Д. Зрнич. - Л.: Гидрометеоиздат, 1988. - 511 с.

Поступила в редакцию 7 июля 2019 г.

Bulletin of the South Ural State University Series “Mathematics. Mechanics. Physics" ___________2020, vol. 12, no. 2, pp. 37-48

DOI: 10.14529/mmph200205

NOISE MODEL OF QUANTIZATION OF THE VECTOR WITH NON-ZERO MATHEMATICAL EXPECTATIONS

V.V. Zavolokin

South Ural State University, Chelyabinsk, Russian Federation E-mail: zavolokinvv@susu.ru

The mathematical model of quantization noise arising in high-precision measuring systems is obtained. A new formula of the probability distribution density is obtained for the quantization algorithm with rounding to the nearest whole normal vector with non-zero mathematical expectations. This formula is a generalization of the result obtained for the probability density of the echo signal from drops of atmospheric moisture. The formula is obtained on the basis of the probability theory, Fourier series expansions and Fourier integral. For this density, the formulas of the expectation vectors and the second initial moment are obtained.

Keywords: Fourier series expansion; Fourier integral; normal distribution density with non-zero mathematical expectations resulting in quantization noise.

References

1. Balyasnikov B.M., Vorona M.S., Zavolokin V.V., Korshunov A.Yu., Maksimenko M.D., Odinochenko N.M. Matematicheskaya model' shuma kvantovaniya signalov, otrazhennykh ot protyazhennykh prostranstvennykh pomekh (A Mathematical model of the quantization of the signals reflected from expended spatial interference). Trudy Voenno-kosmicheskoy akademii im. A.F. Mozhayskogo (Proceedings of the Mozhaisky Military Space Academy), 2011, Vol. 633, no. 2, pp. 131138. (in Russ.).

2. Tikhonov V.I. Statisticheskaya radiotekhnika (Statistical Radio Engineering). Moscow, Radio i svyaz' Publ., 1982, 624 p. (in Russ.).

3. Pugachev V.S. Teoriya sluchaynykh funktsiy i ee primenenie k zadacham avtomaticheskogo upravleniya (Theory оf Random Process аnd Its Application to Automatic Control Problems). Moskow: Fizmatgiz Publ., 1960, 883 p. (in Russ.).

4. Venttsel' E.S. Teoriya veroyatnostey (Probability Theory). Moskow, Nauka Publ., 1969, 576 p. (in Russ.).

5. Doviak R.J., Zrnic D.S. Doppler Radar and Weather Observations. Orlando, San Diego, San Francisco, New York, London, Toronto, Montreal, Sydney, Tokyo, Sâo Paulo: Academic Press Inc., 1984,458 p.

Received July 7, 2019