УДК 519.2
Выбор наилучшей двухпараметрической пороговой функции в алгоритмах вейвлет-
фильтрации
Ю.Е.Воскобойников :'2, Д.А. Крысов 1 1 ФГБОУ ВПО НГТУ, 2 ФГБОУ ВПО НГАСУ (Сибстрин) Новосибирск, Россия
Аннотация: Большинство используемых алгоритмов вейвлет-фильтрации носят пороговый характер: коэффициент разложения меньший по абсолютной величине некоторой пороговой величины зануляется, в противном случае коэффициент подвергается некоторому (чаще всего нелинейному) преобразованию, которое задается используемой пороговой функцией. В настоящее время используются двухпараметрические пороговые функции, которые в определенной степени лишены недостатков, присущих традиционным однопараметрическим пороговым
функциям. В литературе предложено несколько таких функций, однако отсутствуют комплексные исследования влияния вида пороговой функции на ошибку вейвлет-фильтрации, что затрудняет обоснованное применение таких пороговых функций на практике. В работе выполнены оригинальные исследования влияния четырех видов функций на ошибку фильтрации как одномерных сигналов, так и изображений при различных уровнях шума измерений. Вводится коэффициент оптимальности, позволяющий объективно сравнивать разные пороговые функции. На основе анализа этого коэффициента даются практические рекомендации по применению наилучших (оптимальных) пороговых функций.
Ключевые слова: вейвлет-представление сигналов, пороговые алгоритмы вейвлет-фильтрации, пороговые функции, однопараметрические пороговые функции, коэффициент оптимальности пороговых функций, наилучшая пороговая функция
ВВЕДЕНИЕ
Фильтрация в базисе вейвлет-функций (так же, как и Фурье-фильтрация) включает три этапа:
• вычисление прямого дискретного вейвлет-преобразования (нахождение коэффи-
циентов разложения по зашумленным значениям дискретного сигнала);
• обработка «зашумленных» коэффициентов разложения;
• вычисление обратного дискретного вейвлет-преобразования (нахождение «сглаженных» значений дискретной функции).
Совокупность этих трех этапов принято называть вейвлет-фильтрацией. Очевидно, что качество фильтрации зашумленного сигнала определяется алгоритмами обработки, используемыми на втором этапе. Большинство применяемых на практике алгоритмов носят пороговый характер: коэффициент разложения меньший по абсолютной величине некоторой пороговой величины зануляется, в противном случае коэффициент сохраняется или подвергается некоторому (в общем случае нелинейному) преобразованию. Распространение на практике получили «жесткая» и «мягкая» пороговые функции, имеющие известные и весьма существенные недостатки. Поэтому в последнее время используются двухпараметрические пороговые функции, в определенной степени свободные от этих недостатков и зависящие уже от двух параметров. При этом вид функции оказывает влияние на величину ошибки фильтрации. Однако в соответствующих научных публикациях отсутствуют комплексные исследования влияния вида используемых на практике пороговых функций на ошибку вейвлет-фильтрации, что затрудняет обоснованное применение двухпараметрических пороговых функций на практике. Заметим, что в работе [1] были выполнены подобные исследования только для двух функций, и они не включали в себя исследования влияния вида функции при фильтрации изображений.
Поэтому данная работа посвящена комплексным исследованиям влияния четырех видов пороговых функций на ошибку фильтрации, как одномерных сигналов, так и изображений при различных уровнях шума измерений. Вводится коэффициент опти-
мальности, позволяющий объективно сравнивать разные пороговые функции. На основе анализа этого коэффициента выбирается наилучшая (оптимальная) двухпараметрическая пороговая функций с наименьшей среднеква-дратической ошибкой фильтрации.
1. ДВУХПАРАМЕТРИЧЕСКИЕ ПОРОГОВЫЕ ФУНКЦИИ АЛГОРИТМОВ ВЕЙВЛЕТ - ФИЛЬТРАЦИИ
Кратко приведем основные понятия и определения, необходимые для изложения результатов работы (подробнее см. [2-4]). Многомасштабное (шиШгеБоМоп) представление функции /(/) в базисе вейвлет-функции имеет вид [5,6]:
Л о + ^
ДО = X аЛ0+^ 9 к(1) + X X (t), (1)
к Л=Ло+1 к
которое можно интерпретировать как восстановление функции /(/) по ее коэффициентам разложения на J -м уровне (Л0 -начальный уровень разложения). Функции №} к(0} называют масштабирующими (или
отцовскими), а функции {у к0)}- вейвлет -
аЛк = | / ^ук (№,
я
где Я - интервал определения функции /(/). Переменная у характеризует уровень разложения и ее часто называют коэффициентом масштаба, а переменная к - временной сдвиг той или иной базисной функции. Системы функций {9}кк(?)}, {Уу,к (?)} составляют
ортогональный базис пространств вейвлет -функций (подробнее см. [2,3,7]). Заметим, что чем меньше номер у, тем более «мелкие» структуры исходной функции /(/) могут быть представлены в базисах {9у,к(0}, {Уу,к (*)} и
тем ближе реконструированный сигнал /(/) к исходному.
Теоретической основой пороговых алгоритмов вейвлет-фильтрации является следующая предпосылка: уровень коэффициентов разложения случайных ошибок исходных сравнительно мал по сравнению с коэффициентами разложения точного сигнала, что позволяет распознать две ситуации: «шумовой» коэффициент (в основном обусловлен шумом измерения) и «информативный» коэффициент (в основном определяется значениями точного сигнала). Таким образом, для успешной фильтрации необходимо обратить в ноль шумовые коэффициенты, сохранив при этом информативные коэффициенты разложения. Эта идея реализуется пороговыми алгоритмами обработки «зашумленных» коэффициентов разложения.
Хронологически первыми в алгоритмах вейвлет-фильтрации использовались однопара-
функциями (или материнскими). Коэффициенты разложения а у к называют аппроксимирующими, Щл к - детализирующими и они определяются выражениями:
dj,k = I /('У Л,к (*^ , (2)
Я
метрические пороговые функции:
• «жесткая» пороговая функция вида:
10, если Щ < 1;
Л Л ; (3)
Щ, если Щ > 1
• «мягкая» пороговая функция вида:
10, если Щ < 1,
- Г -I о! И о (4) sign(d) • I Щ -11, если Щ >1;
где 1 - величина порога, с- - обрабатываемый коэффициент разложения (как правило - это детализирующие коэффициенты, относительная погрешность которых на порядок и более выше, чем у аппроксимирующих коэффициентов (см. [7], стр. 58-60). Графики функций (3), (4) приведены на Рис. 1 для 1 = 1 (1 - график функции (3), 2 - функция (4)).
Отметим характерные особенности этих функций:
• из-за уменьшения амплитуды коэффициента разложения на величину 1 в функции (Щ-, 1) возможно сглаживание
(размытие) контрастных элементов обрабатываемого сигнала, особенно при больших значениях 1;
• наличие в функции Тн разрыва в
окрестности 1 может вызвать появление осцилляций (эффект Гиббса) в «особых» точках обрабатываемого сигнала.
Для преодоления этих недостатков в литературе были предложены двухпараметри-ческие функции, которые сейчас будут рассмотрены.
1. Пороговая функция TSS () [8]
(обозначаемая в зарубежной литературе как semisoft или firm) вида:
Tss () =
0, если \d\ £Д;
sign
(d)
Д (\d\-l)
Д-1
если \d\ > Д,
которая включает уже две пороговые величины 1, 1. График этой функции (при 1 = 1,1 = 2) приведен на Рис. 1 (кривая 3). В работе [8] были исследованы статистические характеристики ошибок фильтрации для трех пороговых функций (3), (4), (5). Было показано (аналитически и в вычислительном
0, если С <1;
theb () =
d
e -1
d,
( Щ-\ \ еД -Д -1
r( ci,1,a) =
если Д < \d\ £ Д
(5)
эксперименте), что функция (3) имеет наименьшее смещение, функция (4) -наименьшую дисперсию, функция (5) -наименьшую СКО фильтрации.
2. Пороговая функция THEB (ёЦ) [9], определяемая выражением:
если Д < \d\ £ Д,
(6)
если |с?| > Д,
На Рис. 2 представлены графики функции (6) (кривая 1) и функции (5) (кривая 2), построенные при 1 = 1,1 = 2. Видно, что на
интервале Ц ] функция (6) отличается от
прямой (которая присутствует в функции (5)). 3. Комбинированная пороговая функция
Tcom (d,1,a) [10],
определяемая выражением:
(1 -m)Th +
+mrs (dux
если \d\ £ Д;
если \ d\ > Д,
(7)
С-1
где л = а ^ . Эта пороговая функция есть линейная комбинация «жесткой» и «мягкой» пороговых функций и она также включает два параметра 1, а, при этом 0 < а < 1.
Рис. 1. Графики пороговых функций (3), (4), (5)
Рис. 2. Графики пороговых функций (5), (6)
Очевидно, что при а = 0 значение /л = 0 и Тсом(с1,1,0) = Тн(И,Л). Если а= 1, то ¡1 = 1 и т^ (с, 1,1) = Т5 (С,Л).
На Рис. 3 приведены графики функции Тсом (С,3,а) при различных значениях параметра а: кривая 1 - а= 0.001 ; кривая 2 -
0
2
а = 0.5; кривая 3 - а = 0.99. Эти кривые хорошо иллюстрируют изменение пороговой функции при вариации параметра а.
TTH (d,1, C) =
0, если \d\ < Л;
d -Л +Л-th
d + Л + Л -th
где th (x ) = -
гиперболический тангенс,
а параметр
С
удовлетворяет условию 0 < С < 1. Можно показать, что при С = 0
функция TTH (С,1, C) превращается в Tн (С,А) ; при С = 1 - в функцию Т8 (с-, 1).
Рис. 3. Графики пороговой функции (7) при разных значениях параметра а
На Рис. 4 показаны значения пороговой
функции ТТн (си, с) при разных значениях С :
кривая 1 - значение С = 0.1; кривая 2 -значение С = 0.4; кривая 3 - значение С = 0.8; кривая 4 образует угол с осью абсцисс 45 градусов.
Очевидно, что различное поведение этих функций обуславливает разную ошибку алгоритмов вейвлет-фильтрации, использующих двухпараметрические пороговые функции. Возникает нетривиальный вопрос: какая из приведенных выше пороговых функций имеет меньшую ошибку фильтрации? Ответ на этот вопрос позволил бы рекомендовать эту оптимальную функцию для использования на практике.
4. Пороговая функция TTH (d,1, C) [9], определяемая выражением:
C d-Л
1 - C Л
C d + Л 1 - C Л
если d > Л;
■ d < -Л,
(8)
Рис. 4. Графики пороговой функции (8) при разных значениях параметра C
2. РЕЗУЛЬТАТЫ ЧИСЛЕННЫХ ИССЛЕДОВАНИЙ
К сожалению, пороговой характер обработки коэффициентов вейвлет-разложения
зашумленного сигнала обуславливает нелинейность порогового алгоритма вейвлет-фильтрации. Это делает затруднительным дать ответ на предыдущий вопрос исходя из аналитических исследований
среднеквадратической ошибки фильтрации с использованием разных пороговых функций.
Поэтому для ответа на вопрос о наилучшей пороговой функции был проведен обширный вычислительный эксперимент по фильтрации одномерных сигналов Doppler и Rectangular (Рис. 5) и изображений LENA и TARGET (Рис. 6). Заметим, что LENA является стандартным изображением при тестировании алгоритмов фильтрации двумерных сигналов (например, [11]). Характерной чертой этих сигналов является их разные частотные характеристики: Doppler и LENA представляют собой «гладкие» сигналы, Rectangular и TARGET - «контрастные» сигналы с резким изменением амплитуд. Спектр последних сигналов является широкополосным, что существенно усложняет их фильтрации из-за совпадений высокочастотных составляющих сигнала и шума измерения.
относительному уровню
8 = 0.015,0.05,0.15, который
Рис. 5. Одномерные сигналы Doppler и Rectangular
Рис. 6. Изображения LENA и TARGET
Точные значения сигналов и изображений искажались нормально распределенными шумами измерений с нулевым средним и дисперсией, определяемой по задаваемому
выражением
0 =
Il f—f II llfll
где
шума определялся
II - евклидова
норма вектора или матрицы.
Для общности записи параметров пороговой функции введем обобщенные параметры д1,в2, которые для каждой пороговой функции принимают конкретное содержание. Так, для
функции TSS (ёЦ ) положим q = 1х;в1 = 1,
для функции TTH (d,1, C) имеем q = 1; в2 = С.
Обозначим через fz результат вейвлет-фильтрации с пороговой функцией Z и определим минимальную относительную ошибку как
8 • il^ - f 8Z = min <!11
где f, fz - не зашумленный (точный) и отфильтрованный сигналы, а минимум определяется по параметрам q1,q2 , от значения которых зависит ошибка фильтрации. Нахождение минимума является возможным, так как точные значения сигнала в вычислительном эксперименте (в отличии от практики) известны. Заметим, что в работе [12] предложен алгоритм, позволяющий при фильтрации реальных данных достаточно точно оценить оптимальные значения 01opt ,62opt, доставляющие минимум
СКО фильтрации.
В качестве меры точности фильтрации при использовании различных пороговых функций принята средняя минимальная относительная
ошибка фильтрации 8Z , вычисляемая по объему выборки 30, т.е.
1 30
8Z =—Y8Zm) ,
z 30 £z ' где 8Z(m) - минимальная относительная ошибка фильтрации да-ой реализации зашумленного сигнала.
Введем в рассмотрение оптимальности пороговой определяемый выражением:
min {d}/ = /8 •
коэффициент функции Z,
К =
Очевидно, что пороговая функция, имеющая kZ = 1 является наилучшей для вейвлет-фильтрации данного зашумленного сигнала. Значения kZ для различных пороговых
функций и уровней шума представлены в Таблице 1 (одномерные сигналы) и Таблице 2
(изображения). Ячейки, в которых к2 = 1 -г = 1-^2, (т)
— / ¡2 ,
(максимальное значение), выделены серым 12 т=
фоном. 1 (т) жж
В качестве интегрированной характеристики где к2 ' значение коэффициента
оптимальности пороговых функций примем оптимальности для т - го сочетания уровня
среднее значение коэффициента оптимальности, шума измерения и вида сигнала (берется из
которое вычисляется для каждой пороговой Табл. 1, 2). Результаты вычислений приведены в
функции по всем уровням шума измерения и Таблице 3.
всем сигналам (таких сочетаний 12), т. е.
Таблица 1
Пороговая функция Фильтруемый сигнал Относительный уровень шума
0,015 0,05 0,15
TSS (¿ДЛ ) Doppler 0,998 0,998 1,000
Rectangular 0,994 0,997 0,999
Тсом (И,Л,а) Doppler 0,952 0,952 0,959
Rectangular 0,964 0,968 0,999
THEB () Doppler 1,000 1,000 1,000
Rectangular 1,000 1,000 1,000
TTH (d,Ä, C) Doppler 0,993 0,996 0,994
Rectangular 0,998 0,998 0,999
Таблица 2
Пороговая функция Фильтруемое изображение Относительный уровень шума
0,015 0,05 0,15
TSS (d?>11>12 ) LENA 1,000 1,000 0,986
TANGER 0,994 0,993 0,993
Тсом (¿Ла) LENA 0,983 0,912 0,890
TANGER 0,995 0,995 0,901
THEB () LENA 0,977 0,987 1,000
TANGER 1,000 1,000 1,000
TTH (d,1, C) LENA 0,991 0,993 0,991
TANGER 0,994 0,992 0,993
Таблица 3
Пороговая функция Среднее значение коэффициента оптимальности
TSS (d,Л1,Л ) 0,996
TCOM (d,Л,а) 0,955
THEB (d ,Л1,Л2 ) 0,998
TTH (d,Л, C) 0,991
ЗАКЛЮЧЕНИЕ
Анализ значений коэффициента
оптимальности kZ, приведенных в этих двух
таблицах, позволяет сделать следующие выводы:
1. Максимальные значения kZ = 1 (а следовательно, и наименьшую ошибку фильтрации) при фильтрации одномерных дискретных сигналов имеет пороговая функция THEB (dЦ). Немного меньшие значения коэффициента оптимальности имеет пороговая функция TSS (dЛ, Л).
2. Максимальные значения коэффициента оптимальности при фильтрации изображений имеют разные пороговые функции и это зависит от уровня шума и изображения (наиболее предпочтительной является пороговая функция
THEB (dЛЛ ) ).
3. Анализ средних значений коэффициентов оптимальности, приведенных в таблице 3, позволяет рекомендовать в качестве оптимальной пороговой функции функцию
THEB (dЛ,Л) - она имеет максимальное
среднее значение kZ коэффициента оптимальности. Приемлемой альтернативой является функция TSS (dЛ,Л).
ЛИТЕРАТУРА
[1] Ю.Е. Воскобойников. Вейвлет-фильтрация с двухпараметрическими пороговыми функциями: выбор функции и оценивание оптимальных параметров. Автоматика и программная инженерия. 2016, №1(15)
[2] В. П. Дьяконов. Вейвлеты. От теории к практике. В. П. Дьяконов. М.: СОЛОМОН-Р, 2002. - 448 с.
[3] Н. К. Смоленцев. Основы теории вейвлетов. Вейвлеты в MatLAB. Н. К. Смоленцев. М.: ДМК, 2005. 304 с.
[4] Н.М. Астафьев.а Вейвлет-преобразования. Основные свойства и примеры применения. Н.М. Астафьева. М.: ИКИ РАН, 1994. № 1891. 56 с.
[5] S.Mallat. Multiresolution approximation and wavelet orthonormal bases of LA2(R). Trans. AMS. 1989. Vol. 315, № 1. P. 69-87.
[6] S.Mallat. А theory of multiresolution signal decomposition: the wavelet representation. IEEE Trans. Pattern Anal. Machine Intell. 1989. Vol. 11, № 9. P. 674-693.
[7] Ю. Е. Воскобойников. Вейвлет-фильтрация сигналов и изображений (с примерами в MathCAD): монография. Новосибирск: НГАСУ (Сибстрин), 2015. - 188 с.
[8] A. G. Bruce, H.-Y. Gao. Waveshrink with firm shrinkage. Statistica Sinica. 1997. Vol. 4, № 6. P. 855- 874.
[9] B.Vidakovic. Statistical modeling by wavelets. Wiley series in probability and statistics. John Wiley & Sons Inc., 1999. - 365 p.
[10] H.-Y. Gao. Wavelet shrinkage denoising the nonnegative garrote. Journal of Computational and Graphical Statistics. 1998. V. 7, № 4. P. 469-488.
[11] У.Прэтт. Цифровая обработка изображений. Т.1. М.: Мир, 1982. 312 с.
[12] Ю. Е. Воскобойников, А. В. Гочаков. Построение алгоритмов вейвлет-фильтрации с двухпараметрическими пороговыми функциями. Автометрия. 2012. Т. 48, № 1. С. 17-29. (Yu. E. Voskoboinikov, A. V. Gochakov. Construction of a wavelet-filtration algorithms with two-parametrical threshold functions. Optoelectronics, Instrumentation and Data Processing. 2012. Vol. 48, № 1. P. 17-27).
Selection of the Best Two-Parameter Threshold Function in the Algorithms of Wavelet Filtering
YU.E. VOSKOBOINIKOV, D.A. KRISOV
Abstract: Most of the used wavelet filtering algorithms are threshold nature: expansion coefficient smaller absolute value of a threshold value becomes zero, otherwise the coefficient is subjected to some (often nonlinear) transformation, which is given by the threshold function is used. Currently, two-parameter threshold functions used to a certain extent without shortcomings inherent in traditional single-parameter threshold functions. It proposed in the literature several such functions, but there are no comprehensive studies influence on the function type error threshold wavelet filter, which makes use of such reasonable threshold functions in practice. The work carried out original research of influence of the four types of functions on a one-dimensional filtering error signals and images at different levels of measurement noise. We introduce the optimal ratio, which allows to objectively compare different threshold functions. Based on the analysis of this factor provides practical guidance on the application of the best (optimal) threshold functions.
Key words: wavelet representation of signals, threshold algorithm of wavelet filtering, threshold function, one-parameter threshold functions, optimality ratio threshold functions, the best threshold function
REFERENCES
[1] Ju.E. Voskobojnikov. Vejvlet-fil'tracija s dvuhparametricheskimi porogovymi funkcijami: vybor funkcii i ocenivanie optimal'nyh parametrov. Avtomatika i programmnaja inzhenerija. 2016, №1(15)
[2] V. P. D'jakonov. Vejvlety. Ot teorii k praktike. V. P. D'jakonov. M.: SOLOMON-R, 2002. - 448 s.
[3] N. K. Smolencev. Osnovy teorii vejvletov. Vejvlety v MatLAB. N. K. Smolencev. M.: DMK, 2005. 304 s.
[4] N.M. Astafev.a Vejvlet-preobrazovanija. Osnovnye svojstva i primery primenenija. N.M. Astafeva. M.:
IKI RAN, 1994. № 1891. 56 s.
[5] S.Mallat. Multiresolution approximation and wavelet orthonormal bases of LA2(R). Trans. AMS. 1989. Vol. 315, № 1. P. 69-87.
[6] S.Mallat. A theory of multiresolution signal decomposition: the wavelet representation. IEEE Trans. Pattern Anal. Machine Intell. 1989. Vol. 11, № 9. P. 674-693.
[7] Ju. E. Voskobojnikov. Vejvlet-fil'tracija signalov i izobrazhenij (s primerami v MathCAD): monografija. Novosibirsk: NGASU (Sibstrin), 2015. - 188 s.
[8] A. G. Bruce, H.-Y. Gao. Waveshrink with firm shrinkage. Statistica Sinica. 1997. Vol. 4, № 6. P. 855- 874.
[9] B.Vidakovic. Statistical modeling by wavelets. Wiley series in probability and statistics. John Wiley & Sons Inc., 1999. - 365 p.
[10] H.-Y. Gao. Wavelet shrinkage denoising the nonnegative garrote. Journal of Computational and Graphical Statistics. 1998. V. 7, № 4. P. 469-488.
[11] U.Prjett. Cifrovaja obrabotka izobrazhenij. T.1. M.: Mir, 1982. 312 s.
[12] Yu. E. Voskoboinikov, A. V. Gochakov. Construction of a wavelet-filtration algorithms with two-parametrical threshold functions. Optoelectronics, Instrumentation and Data Processing. 2012. Vol. 48, № 1. P. 17-27.
Воскобойников Юрий Евгеньевич, доктор физ.-мат. наук, профессор, Заслуженный работник Высшей школы РФ, Соросовский профессор, действительный член МАИ, РАЕ, МАН ВШ, заведующий кафедрой
прикладной математики Новосибирского государственного архитектурно-строительного университета (Сибстрин), профессор кафедры автоматики НГТУ. Автор более 290 публикаций, 6 монографий, посвященных решению некорректных задач интерпретации данных и обработке сигналов и изображений и большого числа учебных пособий. уозсоЬ@таИ. ги
Крысов Данила Алексеевич, аспирант кафедры автоматики факультета автоматики и вычислительной техники НГТУ.
1атакоик@&Ьпе1. ги