ОЦЕНИВАНИЕ ХАРАКТЕРИСТИК ШУМА ИЗМЕРЕНИЯ В МОДЕЛИ "СИГНАЛ+ШУМ" Текст научной статьи по специальности «Электротехника, электронная техника, информационные технологии»

УДК 519.2

Оценивание характеристик шума измерения в модели «Сигнал+шум»

Ю.Е. Воскобойников1'2, Д. А. Крысов2

1 Новосибирский государственный архитектурно-строительный университет (Сибстрин), Новосибирск,

Россия

2ФГБОУ ВО Новосибирский государственный технический университет, просп. Карла Маркса, д.20,

Новосибирск, Россия

Аннотация - При решении многих задач идентификации и управления в технических системах используемый сигнал представляет собой смесь «сигнал + шум». Возникает задача по наблюдаемым значениям этой смеси оценить числовые характеристики шумовой составляющей, знание которых необходимы для принятия соответствующих решений. В данной работе в качестве таких характеристик рассматриваются дисперсия шума и относительный уровень шума. Предлагаются оценки для этих числовых характеристик, существенно использующие коэффициенты дискретного преобразования Фурье смеси «сигнал+шум». Построенные оценки обобщаются на случай, когда смесь «шум+сигнал» является двумерным сигналом. Проведенный вычислительный эксперимент показал приемлемую точность этих оценок: относительная ошибка оценивания дисперсии не превосходила 3-5 %, а относительного уровня шума - 2%.

Ключевые слова: смесь «сигнал+шум», числовые характеристики шума, дискретное преобразование Фурье, оценка для дисперсии шума, оценка для относительного уровня шума, оценки характеристик двумерного шума.

ВВЕДЕНИЕ И ПОСТАНОВКА ЗАДАЧИ

Стандартной ситуацией, возникающей во многих экспериментах, где используется та или другая измерительная система, является случай, когда регистрируемый (измеряемый, наблюдаемый и т. д.) сигнал представляет собой смесь полезного сигнала и шума измерения. Для описания такой ситуации можно привлечь аддитивную модель «сигнал+шум». Для правильного и эффективного применения алгоритмов обработки данных таких экспериментов необходимо знание либо дисперсии шума, либо относительного уровня шума.

Поясним это на примере непараметрической идентификации динамической системы, Наиболее часто в качестве математической модели используется интегральной уравнение Вольтера I рода с разностным ядром вида:

!

| к (/-т)ф) ёт = / (/) , (1)

0

где к (г) - импульсная переходная функция (ИПФ) динамической системы (ядро интегрального уравнения (1)), ф(т), /{() -

входной и выходной сигналы системы. Как известно, задача параметрической

идентификации заключается в построении оценки для ИПФ системы по зарегистрированным значениям сигналов <р(т), /(7). Эта задача относятся к классу некорректно поставленных задач, когда могут нарушаться условия корректности по Адамару, в частности, появляется неустойчивость решения интегрального уравнения к погрешностям задания выходного сигнала

/С) [1, 2].

Для нахождения единственного и устойчивого решения задачи идентификации (т.е. решения уравнения (1) относительно функции к(г)) используют различные методы регуляризации, как детерминированные, так и статистические [2,3]. Важным моментом при этом является выбор параметра регуляризации, который существенно влияет на величину ошибки идентификации. Для успешного выбора параметра регуляризации необходимо достаточно точно знать дисперсию шума измерения выходного сигнала. К сожалению, в большинстве случаев экспериментатор не может задать эту характеристику с требуемой точностью (обычно, не более 10-15%). Если дисперсия шума занижается, то шум измерения переходит в регуляризированное решение и вызывает значительную случайную ошибку (в решении появляются характерные осцилляции). Если дисперсию задается завышенной, то регуляризированное решение имеет большую систематическую ошибку (сглаживаются «тонкие» составляющие ИПФ). И в том и другом случае регуляризированное решение имеет значительную ошибку [3].

Задание дисперсий шума требуется также и при дифференцировании зашумленных экспериментальных данных с использованием сглаживающих сплайнов [3] или других аппроксимирующих функций для правильного выбора параметра сглаживания или других параметров применяемого сглаживающего алгоритма.

Знание относительного уровня шума измерений является важным моментом при выборе регуляризирующего алгоритма непараметрической идентификации

динамической системы. Было показано [5], что,

если уровень шума входного сигнала идентифицируемой системы меньше или равен уровню шума измерения выходного сигнала, то можно использовать регуляризирующий алгоритм, в котором при построении регуляризированного решения и выборе параметра регуляризации не учитывается шум измерения входного сигнала. В противном случае для повышения точности идентификации необходимо использовать более сложный регуляризирующий алгоритм, учитывающий этот шум измерения [6].

Все эти примеры показывают важность и актуальность задача оценивания приведенных характеристик шума в модели «сигнал+шум». Заметим, что в литературе этой задаче не уделяется должного внимания и отсутствуют алгоритмы, позволяющие с приемлемой точностью оценить эти числовые характеристики.

Поэтому в данной работе решается задача построения статистических оценок для дисперсии шума и относительного уровня шума по дискретным измеренным значениям смеси «сигнал+шум».

1. АЛГОРИТМ ОЦЕНИВАНИЯ ЧИСЛОВЫХ ХАРАКТЕРИСТИК СКАЛЯРНОГО ШУМА ИЗМЕРЕНИЯ

затраты машинного времени на выполнение ДПФ по сравнению с «прямым» вычислением сумм в (3). Функции, реализующие БПФ, входят во все современные системы компьютерной математики (например, МаШСАБ, МаНаЪ и другие). В частности, выбор периода N определяется требованием функции БПФ к длине периодической последовательности (например, период N должен быть равен

степени 2, т.е. N = 2т,т > 3).

Утверждение 1. Коэффициенты ДПФ являются случайными величинами с

^ (l),

нулевым математическим

_2

одинаковой дисперсией <сту выражением:

V,

=M

К (')2

ожиданием и , определяемой

N

N v

Доказательство утверждения приведено в работе [4].

Таким образом, определив коэффициенты ДПФ V, (I), можно вычислить выборочную

оценку <5у дисперсии этих коэффициентов по

формуле:

=

1 N-1 ,

N-1 'S К (' J

(4)

Первоначально предположим, что дана

случайная дискретная последовательность ],

У = 0,...,N. -1, состоящая из N элементов,

которые имеют нулевое среднее, дисперсию ст;;

и значения vj не коррелированны между собой.

Из этой непериодической последовательности сформируем периодическую (с периодом

N > N) последовательность (у )| из N

элементов по следующему правилу:

\ (j) =

\vj, j = 0,...,Nz -1; 10, j = N,..., N -1.

(2)

Дискретное преобразование Фурье этой последовательности определим парой преобразований:

V, (') =1XVР (0 • ехр^Т-1 • ^У), I = 0,..., N -1;

N

j=0

N"

Vp (У) =ТУР (I) • ехр(7-1 • У = 0,..., N-1.

"1=0 N

(3)

Коэффициенты ДПФ V, (0 обладают важным

свойством: модули V (0| симметричны

относительно точки I = ^^. Заметим, что

использование алгоритма БПФ (быстрого преобразования Фурье) существенно уменьшает

а затем оценить дисперсию Ст; непериодической последовательности }:

Л2 N2 д2

ст V =--ст V

v N Vp

(5)

Как правило, объем выборки N > 256, что позволяет достаточно точно оценить дисперсию

ст2.

Напомним, что полученная оценка

дисперсии (4) имеет место, если

последовательность {^} не имеет

детерминированную составляющую. Однако, смесь «сигнал+шум» всегда включает низкочастотную (по сравнению с шумом измерения) детерминированную составляющую и в этом случае оценка дисперсии (4), вычисленная по всем коэффициентам ДПФ смеси будет существенно завышена. Как же оценить дисперсию шума в этом случае?

Введем в рассмотрение модель «сигнал+шум» следующего вида:

*у = Vy + /у, У = 0,...,N-1, (6) где / - значения детерминированного сигнала. В соответствии со свойством линейности ДПФ, коэффициенты 2р (I) также представляют собой сумму:

^р (I) = V" (I) + Гр (/),/ = 0,..., N-1.

Вновь заметим, что в этом случае нельзя

2

оценивать дисперсию ст„ по всем коэффициентам ДПФ 2р (I). Для преодоления этого затруднения используем тот факт, что в окрестности точки I = коэффициенты 2р (I)

определяются (для низкочастотного сигнала ^) только коэффициентами V (I) и в этом случае

сигнала при идентификации динамической системы второго порядка (Nz = 150, N = 256).

оценку сг2 можно вычислить по формуле:

1 M I

= 2M ■, (

%+/)

(7)

а затем воспользоваться соотношением (5). Таким образом, суммируются только те Z (l), индексы которых попали в линейную апертуру

A = [ N/2 - M, N/2 + M ], т.е.

l е [ N/2 - M, N/2 + M ].

Для иллюстрации эффективности такого подхода к оцениванию дисперсии шума в модели «сигнал+шум» был выполнен следующий вычислительный эксперимент. В качестве «точного» сигнала был принят выходной сигнал f, значения которого

показаны на рис. 1 сплошной кривой. Эти значения искажались нормально

распределенным шумом (результат z. показан

на Рис. 1 точечной кривой). Такая форма сигнала является типичной для выходного

Рис. 1. Значения сигналов f., z.

j j j

На Рис. 2 приведены квадраты модулей 2 (I)| (сплошная кривая) и V (I)| (точечная кривая). Видно, что в достаточно большой окрестности точки I = = 128 (например,

I = 128 + 90) эти квадраты модулей совпадают и по этим коэффициентам 2 (I) можно вычислять оценку (7).

Далее, на Рис. 3 сплошной кривой

г. 2 "

показаны значения оценки а2, вычисленной по формуле (5) при разных М, а точечной кривой - оценка дисперсии, вычисленная по известной реализации шума {у, }. Видно, что при

В данном

может успешно

M е [60,100] оценка ст2

использоваться для оценивания дисперсий шума суммы «сигнал+шум». Этот пример и другие эксперименты с оценкой с2 по формуле (7) позволяют рекомендовать выбор M из

Рис. 2. Коэффициенты ДПФ сигналов {у,. }, {^ }

интервала [1.1-%,1.3 • .

примере эта рекомендация дает значения М е [70,84]. Увеличение ошибки оценивания

при малых значениях М можно объяснить малым объемом выборки, по которой вычисляется оценка (7), увеличение ошибки при больших значениях М - в сумму (7) начинают входить коэффициенты Р (I). Заметим, что выбор М также можно осуществить из анализа графика коэффициентов (I )| (сплошная кривая на рис. 2).

2

Рис. 3. К оцениванию дисперсии шума

В качестве оценки относительного уровня шума суммы «сигнал+шум» примем отношение:

8„ =

M

(8)

где V - квадрат евклидовои нормы вектора V , составленного из N значении дискретного шума {V,} модели (6). При этом будем (как и ранее) предполагать:

• дискретная последовательность {^},

/ = 0,...,-1, состоит из N случайных

2

величин с нулевым средним, дисперсией а,,

и не коррелированных между собой, т.е.

М [ v¡vj ] = 0,, ф ] ;

• элементы {V,.} и {/} также не

коррелированы между собой. Первоначально вычислим величину числителя при сделанных предположениях:

M

= M

Zv2

= a2 • N .

Для вычисления знаменателя (8) обратимся к представлению :

M

= M

+M

= M

из которого следует выражение:

= M

- M

По одной реализации невозможно достаточно точно вычислить выборочную оценку для

M

и потому ее заменим величинои z

Для вычисления ||г|| обратимся к равенству

Парсеваля, которое для ДПФ имеет вид (подробнее см. [4]):

N -1

N -1

11 (у )=I =1142 = N (012.

]=0 1=0 1=0

(9)

Тогда, возвращаясь к (8), получаем следующую оценку для относительного уровня шума } в модели «сигнал+шум» вида

г, = V. + X, 1 = 0,..., N2-1:

5„ =

a 2 • Nz

N-1 N •£ z, (/) 2 -a 2 • N

(10)

п 2 2 где оценка а2 дисперсии шума а2 вычисляется

по формулам (5), (7) при соответствующем выборе величины М в выражении (7).

Для исследования точности этой оценки был проведен вычислительный эксперимент с различными сигналами и уровнями шумов. Результаты эксперимента показали, что относительная ошибка определения уровня шума не превосходит 2-4 %, что позволяет считать оценку (10) достаточно эффективной оценкой.

2. АЛГОРИТМ ОЦЕНИВАНИЯ ЧИСЛОВЫХ ХАРАКТЕРИСТИК ДВУМЕРНОГО ШУМА ИЗМЕРЕНИЯ

Обобщим оценки (5), (7) для оценивания дисперсии шума измерения двумерного сигнала вида:

= V] + 4а> ]1 = N. - 1 ]2 = - 1 , (11)

где {^ ^} - случайные величины с нулевым

математическим ожиданием, дисперсией а и некоррелированные друг с другом. Сформируем дискретную двумерную периодическую последовательность

V (], ])}, 0 < ] < N -1, 0 < у2 < N -1, по правилу:

ч ¡V. ,. , если 0 < и < N -1,0 < и < N -1;

-у (у j ) _ ) ]1 ,]2 ^ 1 2 г2

р ' [0, в других случаях.

(12)

Вычислим коэффициенты ДПФ случайной последовательности {ур( ] у )} (прямое двумерное ДПФ):

Г, (4.4) = Z Z vp (Л, j2)exp+ ¿Nf.

N1N2 ji=0 j =0

J1 • l1 I J 2 • l2

N2

(13)

Z z2 ( J ) = N Z| Z, (/)|2.

j=o /=0

Тогда последнее выражение можно переписать как

Д = 0.....n -1; h = 0.....N -1.

2

2

2

2

2

2

Для этого также используется алгоритм двумерного БПФ.

Утверждение 2. Коэффициенты ДПФ V (', /2) являются случайными величинами с нулевым математическим ожиданием и одинаковой дисперсией (Ту , определяемую выражением:

at = M

Vp (ll> l2)|2

a2

N2 • n2 v.

Очевидно, что вычислив выборочную оценку ( , можно определить выборочную оценку

для дисперсии оу в виде:

a

N2 • 2

a17

• NZ2 Vp

(14)

По аналогии с (9), (10) определим периодическую последовательность

К С/1, Л )},0 < у, < N-1,0 < у < N-1 и ее коэффициенты ДПФ \т.р ('„ /2)}. К сожалению, оценка о]2 , определяемая выражением:

aV =

2Mi 2M2 2=-M2

Zp(Л + ll, + ^

. (15)

дает завышенные значения. Обусловлено это

тем, что в «углах» прямоугольной апертуры

А = [(Щ/2 -Щ,N /2 + Щ)х (N /2 -Щ,N/2 + Щ)]

присутствуют уже коэффициенты ДПФ

детерминированного сигнала, которые не

должны входить в сумму (15). Выходом из

такой ситуации является использования

круговой апертуры с центром в точке

М/ ЩА Е> ТЗ

, % радиуса Л . В этом случае оценка

имеет вид:

Nsam (Л) -l if-0 if-0

т-z : к (ii, м •1 (ii, i2, r ), l

(16)

где функция I (', '2, Л) равняется 1, если удовлетворяется условие:

1, - V) +['2 - К'А) <*

(17)

и нулю в противном случае, Жшт (Л) - число

коэффициентов ДПФ 1 ('х, '2), индексы

которых удовлетворяют (17), т.е. объем выборки

при оценивании дисперсии о2 . Для

определения Л соотношение

Даже при малых значениях Л, величина Жшт (Л) равняется нескольким сотням, что обеспечивает приемлемую точность оценивания дисперсии (например, если даже Л = 10, то

Ышт (К) = 2пЛ2 = 314 ). Вычислив оценку ¿2 ,

Л 2

по формуле (14) находим оценку о^ для неизвестной дисперсии двумерного шума

К/2 } .

Обратимся к оценке (10) и обобщим ее на случай двумерного дискретного сигнала вида:

/2 = /2 + У = 0,■■■, N. - 1 /2 = 0,■■■, ^ - 1

где {V

j}

случайные величины с нулевым

математическим ожиданием, дисперсией ау и некоррелированные друг с другом. Получаем следующую оценку для относительного уровня шума:

8, =

a2 • nz • Nz v z1 z2

N1 -1 N2 -1 N1 • N2 • ss ^p (11,12) 2 -a2 • Nz • Nz v z1 z2

(18)

Для иллюстрации эффективности предлагаемого подхода к оцениванию дисперсии двумерного шума в модели «сигнал+шум» был выполнен следующий вычислительный эксперимент. В качестве «точного» точного двумерного сигнала

{Лиг} было принято изображение,

представляющее собой сумму двух экспонент размером 160 х160 пикселей, изометрия которого показано на рис. 4а). Это изображение искажалось нормально распределенным шумом с различной дисперсией. На рис. 4б) нанесены изолинии изображения, искаженного шумом с относительным уровнем 0.10. Величины Щ = 256, Ж, = 256 .

В таблице приведены значения относительных ошибок оценивания дисперсии и

уровня шума, формулам:

8

vebi6

-a

где

можно рекомендовать R = (0.05-O.l)• min(N1,N2) . © AUTOMATICS & SOFTW ARE ENGINERY. 2018, № 3 (25)

которые вычислялись по

• 100%, 100%,

увыб , "увыб- выборочные °ценКИ для дисперсии и уровня шума, вычисленные по известной реализации шума (что возможно

¿8 =

vebiQ

8выб 8v

8,

vebi6 2 8

p

2

l

только в вычислительном эксперименте), сту ,

- оценки (14), (18). Эти значения были вычислены при четырех значениях параметра

R и объеме выборки 50. Затемненные ячейки

соответствуют минимальным значениям ошибки при том или ином уровне шума.

а)

б)

Рис. 4. Точное и зашумленное тестовое изображение

Значения относительных ошибок оценивания дисперсии и уровня шума

Таблица

Уровень шума ¿V R = 80 R = 100 R = 120 R = 150

Ъ Ъ Ъ Ъ Ъ

0.02 1.05 0.52 1.67 0.83 4.55 2.25 517 148

0.05 0.88 0.44 0.69 0.34 0.79 0.38 82.8 35.3

0.075 0.92 0.46 0.62 0.31 0.49 0.24 36.7 17.1

0.10 0.78 0.38 0.71 0.35 0.49 0.24 20.6 9.91

0.15 0.89 0.47 0.56 0.28 0.49 0.26 9.21 4.63

Видно, что приемлемые значения параметра R лежат в интервале [80...120], а

относительные ошибки оценивания не превышают нескольких процентов. Такая высокая точность объясняется большим объемом Nsam (R) выборки коэффициентов ДПФ в выборочной оценке (16) при

соответствующем определении параметра R. Действительно, при R = 100 объем выборки

Nam (R) равен

Njam (R) = 2%R2 = 3.14 x 10000 = 31400 коэффициентов ДПФ.

ЗАКЛЮЧЕНИЕ

В работе построены две оценки, которые позволяют достаточно точно оценить дисперсию и относительный уровень шума, как одномерного, так и двумерного дискретного шума модели «сигнал+шум». Использование этих оценок позволит более точно определить параметры алгоритмов решения задач

фильтрации или регуляризирующих алгоритмов

решения обратных задач и задач

идентификации.

ЛИТЕРАТУРА

[1] Тихонов А.Н., Арсенин В.Я. Методы решения некорректно поставленных задач. М.: Наука, 1979. - 278 с.

[2] Тихонов А. Н. и др. Численные методы решения некорректных задач. М.: Наука, 1990. - 231 с.

[3] Воскобойников Ю.Е., Преображенский Н.Г., Седельников А.И. Математическая обработка эксперимента в молекулярной газодинамике. -Новосибирск: Наука, 1984. - 238 с.

[4] Воскобойников Ю.Е. Устойчивые алгоритмы решения обратных измерительных задач. Новосибирск: НГАСУ (Сибстрин), 2007. - 184 с.

[5] Воскобойников Ю.Е., Крысов Д.А. Непараметрическая идентификация динамической системы при неточном входном сигнале. Автоматика и программная инженерия. 2017. № 4 (22). С. 86-93.

[6] Воскобойников Ю. Е., Крысов Д.А. Алгоритм идентификация импульсной переходной функции при высоком уровне шума измерения входного сигнала системы. Автоматика и программная инженерия. 2018. № 2 (24). С. 67-75.

Юрий Евгеньевич Воскобойников, выпускник кафедры автоматики НГТУ (НЭТИ), доктор физ.-мат. наук, профессор, Заслуженный работник Высшей школы РФ, Соросовский профессор, действительный член МАИ,

РАЕ, МАН ВШ, заведующий кафедрой прикладной математики Новосибирского государственного архитектурно-строительного университета

(Сибстрин), профессор кафедры автоматики НГТУ. Автор более 295 публикаций, 6 монографий, посвященных решению некорректных задач интерпретации данных и обработке сигналов и изображений, и большого числа учебников и учебных пособий.

Новосибирск, 530073, просп. К. Маркса, д.20

Данила Алексеевич Крысов,

аспирант кафедры

Автоматики Новосибирского государственного технического университета. Автор ряда научных статей. Область научных интересов: вейвлет-фильтрация, идентификация систем. Новосибирск, 530073, просп. К. Маркса, д.20

E-mail: tamahouk@sibnet.ru

Статья поступила 12 августа 2018 г.

E-mail: voscob@mail.ru

Estimation of the Noise Measurement Characteristics in the Model "Signal + Noise"

Yu.E. Voskoboinikov1,2, D. A. Krysov2 Novosibirsk State Architectural and Construction University (Sibstrin), Novosibirsk, Russia 2FGBOU VO Novosibirsk State Technical University, prosp. Karl Marx, 20, Novosibirsk, Russia

Abstract - When solving problems of identification and control in technical systems, the used signal is a mix of "signal + noise". The problem arises from the observed values of this mix, to estimate the numerical characteristics of the noise component, knowledge of which is necessary for making the appropriate decisions. In this paper, the noise variance and the relative noise level are considered as such characteristics. Estimates for these numerical characteristics are proposed. To find the estimates, the coefficients of the discrete Fourier transform of the "signal + noise" mix are used. The constructed estimates are generalized to the case when the "noise + signal" mix is a two-dimensional signal. The computational experiment showed acceptable accuracy of these estimates: the relative error of estimating the dispersion didn't exceed 3-5%, and the relative noise level was 2%.

Key words: "signal + noise" mix, numerical characteristics of noise, discrete Fourier transform, noise variance estimation, relative noise level estimation, estimation of two-dimensional noise characteristics.

REFERENCES

[1] Tikhonov A.N., Arsenin V.Ya. Metody resheniya nekorrektno postavlennykh zadach. M.: Nauka, 1979. - 278 s.

[2] Tikhonov A. N. i dr. Chislennyye metody resheniya nekorrektnykh zadach. M.: Nauka, 1990. - 231 s.

[3] Voskoboynikov YU.Ye., Preobrazhenskiy N.G., Sedel'nikov A.I. Matematicheskaya obrabotka eksperimenta v molekulyarnoy gazodinamike. -Novosibirsk: Nauka, 1984. - 238 s.

[4] Voskoboynikov YU.Ye. Ustoychivyye algoritmy resheniya obratnykh izmeritel'nykh zadach. Novosibirsk: NGASU (Sibstrin), 2007. - 184 s.

[5] Voskoboynikov YU.Ye., Krysov D.A. Neparametricheskaya identifikatsiya dinami-cheskoy sistemy pri netochnom vkhodnom signale.

Avtomatika i programmnaya inzheneriya. 2017. № 4 (22). S. 8б-93.

[б] Voskoboynikov YU. Ye., Krysov D.A. Algoritm identifikatsiya impul'snoy perekhodnoy funktsii pri vysokom urovne shuma izmereniya vkhodnogo signala sistemy. Avtomatika i programmnaya inzheneriya. 201S. N 2 (24). S. б7-75.

Yury

Voskoboinikov,

physical and sciences. in

Evgenievich

doctor of mathematical Economics,

Professor, Honored Worker of the Higher School of Russia, Soros Professor, Full Member of the MAI, RAE, MAN VS, Professor, Automation Department, NSTU.

Head of the Department of Applied Mathematics of the Novosibirsk State Architectural and Construction University (Sibstrin). He is the author of more than 300 scientific publications, 6 monographs devoted to solving ill-posed problems of data interpretation and signal and image processing, 16 textbooks and teaching aids. Novosibirsk, prosp. K. Marx, 20 E-mail: voscob@mail.ru

Danila Alekseevich Krysov, postgraduate student of Automation Department of Novosibirsk State Technical University. Author of several scientific articles. Research interests: wavelet filtration, identification of systems. Novosibirsk, prosp. K. Marx, 20 E-mail: tamahouk@sibnet ru

The paper was received on August, 12, 2018.