CC BY
7
УДК 519.22, 53.088
А. А. Кудрявцев, О. В. Шестаков2
АСИМПТОТИЧЕСКОЕ ПОВЕДЕНИЕ ФУНКЦИИ ПОТЕРЬ В МЕТОДЕ МУЛЬТИПЛИКАТИВНОГО МАСШТАБИРОВАНИЯ ВЕЙВЛЕТ-КОЭФФИЦИЕНТОВ ФУНКЦИИ СИГНАЛА*
В работе рассматривается метод построения оценки функции сигнала по зашум-ленным данным, основанный на минимизации вероятности превышения максимальной ошибкой вычисления вейвлет-коэффициентов заданного критического значения. В модели с аддитивным гауссовским шумом оценивается порядок функции потерь в классе функций, регулярных по Липшицу.
Ключевые слова: вейвлеты, подавление шума, функция потерь.
1. Введение. Задачи построения оценок функции сигнала с помощью вейвлет-методов привлекают внимание многих исследователей уже несколько десятков лет. Получено множество теоретических и практических результатов в области выбора параметров этих методов. Основная идея при построении вейвлет-оценок заключается в выборе относительно малого числа вейвлет-коэффициентов для представления функции сигнала. За количество этих коэффициентов обычно отвечает величина, называемая порогом. Однако существуют и другие методы выделения полезного сигнала, например, использование "масштабирующих" множителей.
Большая часть методов выделения сигнала ориентирована на минимизацию функции потерь, называемой среднеквадратичной погрешностью (риском) [1]. Асимптотический порядок риска и статистические свойства его оценок подробно исследованы в работах [2-4]. В работе [5] предложено рассмотреть новую функцию потерь, основанную на вероятностях превышения ошибками вычисления вейвлет-коэффициентов некоторого критического уровня. При этом функция потерь рассматривалась отдельно для каждого коэффициента. В данной работе рассматривается обобщение функции потерь, предложенной в [5], заключающееся в вычислении вероятности превышения максимальной ошибкой заданного критического значения, и исследуется асимптотическое поведение функции потерь в классе функций, регулярных по Липшицу.
2. Постановка задачи. При использовании вейвлет-методов построения оценок функция / € L2(R), описывающая сигнал, разлагается в ряд из сдвигов и растяжений некоторой вейвлет-функции ф:
/ = Y1 (1)
j,ke z
где = 2^2ф(2ix—k) (семейство {^fc, j, к € Z} образует ортонормированный базис в L2(R)).
Индекс j в (1) называется масштабом, а к — сдвигом. Функция ф должна удовлетворять определенным требованиям, однако ее можно выбрать таким образом, чтобы она обладала некоторыми полезными свойствами, например, была дифференцируемой нужное число раз и имела заданное число М нулевых моментов, т. е.
сю
J хкф{х) dx = О, 0О<М-1.
— сю
В дальнейшем будут рассматриваться функции сигнала / € L2(R) на конечном отрезке [а,Ц, равномерно регулярные по Липшицу с некоторым показателем j > 0: / € Lip(7). Для таких функций известно (см. [6]), что если вейвлет-функция М раз непрерывно дифференцируема (М ^ 7),
1 Факультет ВМК МГУ, доц., к.ф.-м.н., e-mail: nubigenaQmail.ru
2 Факультет ВМК МГУ, доц.; Институт проблем информатики Федерального исследовательского центра "Информатика и управление" Российской академии наук, ст. науч. сотр., д.ф.-м.н., e-mail: oshestakovQcs.msu.su
* Работа выполнена при финансовой поддержке РНФ (проект 14-11-00364).
имеет М нулевых моментов и быстро убывает на бесконечности вместе со своими производными, т. е. для всех любого т € N найдется константа Сто, такая, что при всех гей
Сп
ф(к)(х)
__то
I т 1 Х\
то найдется такая константа С/ > 0, что
1</,^>1<С/2-'(7+1/2). (2)
Далее предполагается, что вейвлет-функция ф удовлетворяет этим требованиям.
На практике функция сигнала / обычно задана в дискретных отсчетах. Предположим, что число этих отсчетов равно 21 для некоторого J > 0. Дискретное вейвлет-преобразование представляет собой умножение вектора значений функции / на ортогональную матрицу, определяемую вейвлет-функцией ф. При этом дискретные вейвлет-коэффициенты задаются соотношением /х^й = 2,7/2{/, ф]^) (см., например, [6]). Кроме того, в реальных наблюдениях присутствует шум. В данной работе рассматривается следующая модель сигнала с шумом: Х^ = + 1 ^ I ^ 2,/, где /г — отсчеты полезного сигнала, a,Wi — независимые случайные величины, имеющие нормальное распределение с нулевым средним и дисперсией а2. Для эмпирических дискретных вейвлет-коэффициентов принимается следующая модель:
Чк = Н,к + Щ,к, 0 < к < 2' - 1, 0 < з < I - 1,
где случайные величины также независимы и имеют нормальное распределение с нулевым средним и дисперсией а2.
3. Метод подавления шума. Для подавления шума обычно используется пороговая обработка, смысл которой заключается в обнулении коэффициентов, чьи абсолютные значения не превышают заданного порога. Среднеквадратичный риск таких методов имеет меньший порядок, чем у линейных методов подавления шума (см. [7]). В работе [5] рассмотрен альтернативный метод масштабирования вейвлет-коэффициентов и экспериментально показано, что при минимизации вероятностей превышения ошибками вычисления коэффициентов заданного значения этот метод в некоторых случаях превосходит пороговую обработку по критерию отношения сигнал/шум.
Обозначим через оценку вейвлет-коэффициента, которая получается путем умножения на "масштабирующий" множитель а^ € [0,1]: = а^!}^. Рассмотрим функцию потерь, определяемую для заданного е > 0 следующим образом:
Ь(Л = Р(тах|У} & - из Л > е). (3)
\ ],к /
Заметим, что при неограниченном возрастании числа отсчетов /,/(/) стремится к единице. Целью данной работы является поиск оптимальных "масштабирующих" множителей а^, обеспечивающих минимальные потери в том смысле, что скорость стремления функции потерь (3) к единице при данном наборе "масштабирующих" множителей является наименьшей. Эта задача ввиду соотношения
.1-1 2*-1
1 - - > = П П Р(|^ ~ ^ е)
Ь j=0 к=О
эквивалентна поиску оптимальных а^, для которых наименьшей является скорость стремления к бесконечности функции потерь вида
.7-1 2} -1
глл = Е Е |lnP(ft.fc -М < (4)
j=О к=О
4. Основные результаты. Основные результаты формулируются для минимаксной постановки задачи в классе функций / € Lip(7), для которой функция потерь определяется как
Rj = sup rj(f). (5)
/GLip(7)
Далее будем использовать обозначения Ст и См для некоторых положительных констант, которые могут зависеть от параметров модели, но не зависят от «7.
Пусть функция д\{,1) > 0 сколь угодно медленно убывает по ,1 к нулю, а <72(«Л > 0 сколь угодно медленно неограниченно возрастает по <7. Неравенство (2) дает возможность разбить все множество индексов {0,..., «7 — 1} на три класса в зависимости от величины Пусть индексы
Л и у2-, 31 < 32, таковы, что
При этом в силу (2) будем иметь
Ы</))-(7+1/2\ Ы')Г(7+1/2\
il < i < 32 - 1,
J
Зг =
27+ 1
log2 9i{J).
(6)
Разобьем сумму (4) на три слагаемых:
.7-1 2^-1 31-12^ — 1
3=0 к=0 3=0 к=О
З2 1 — 18 ^ ^ 1 ,7-1 2^—1
3=п к=О
Нашей целью является поиск таких а^, которые минимизируют слагаемые в (7) или, что то же самое, максимизируют вероятности
(8)
Y1
3=3i к=О
S1+S2 + S3. (7)
1з,к = Ру^'./г - НА < £)-
В работе [8] было показано, что при ^ £ максимум (8) достигается при а^ = 0 и равен
единице. При > £ и а^ ф 0 (в точке а^ = 0 в этом случае величины принимают
минимальные значения) максимум достигается в точках
2"2 — 2e/ij)fc6r2 In
3,к
о 1п
причем подкоренное выражение всегда положительно. Отрицательным значениям /х^ соответствует точка максимума а^?, а положительным — точка максимума а^ кК Очевидно, что
lim
hk
= 1 и lim ait? = 1. Поэтому для любого ö G (0,1) и достаточно больших \ßj к\ (±)
выполняется неравенство о^- > 1 — <5, и следовательно
4 ^ Р
^ - нА << ф
(1 - Í)t7
(9)
Воспользуемся изложенными результатами для определения оптимального порядка функции потерь (5). Рассмотрим S3 из (7). Пусть е — некоторое положительное число. Заметим, что для любого е > 0 найдется такое Jq = Jo(e), что [g2{J)]~(a+l^2^ ^ £ для всех J > J0. Следовательно, имеет место соотношение \(ij,k\ ^ £ Для 32 ^ j ^ J — 1- При этом минимизирующие компоненту функции потерь S3 коэффициенты a,:j^ = 0 обеспечивают равенство S3 = 0.
Предположив, что все вероятности из (8) для 0 ^ j ^ 32 — 1 отделены от нуля и единицы некоторой константой, получаем, что наихудшим порядком (верхней границей) в минимаксном смысле для функции потерь (5) является значение порядка Si + S2, т.е. (•'\/2J". где 32 определено в (6).
Теперь найдем нижнюю границу для функции потерь (5). Заметим что для любой константы Cf из (2) найдется такая функция / G Lip(7), что в неравенстве (2) будет достигаться равенство для 0 ^ j ^ ji — 1 (см. [6]). Следовательно, существует такое Ji > 0, что для всех е > 0, S G (0,1)
и J > Ji выполняются неравенства \(ij,k\ > е-, •> — ^ и соотношение (9) при 0 ^ j ^ ji — 1. В этом случае порядок суммы Si в (7) равен Ст2-J1, где ji определено в (6). Поскольку сумма S2 может лишь ухудшить порядок функции потерь, истинное значение функции потерь Rj имеет порядок не ниже Ст2-?1, т.е. рассматриваемый порядок является нижней оценкой для истинного порядка функции потерь.
Приведенные рассуждения позволяют сформулировать следующее утверждение. Теорема. При выборе оптимальных а масштабирующих" множителей a,:j^ функция потерь (5) удовлетворяет неравенствам
Crn2WfTgi(J) <: Rj <: CM2^g2(J),
где Ст и См — некоторые положительные константы.
Замечание. Оптимальные значения множителей a,jtk зависят от неизвестных величин /х^. Для практического применения величины /х^ заменяют на оценки максимального правдоподобия (т.е. Yj k) и вычисляют оптимальные множители a,j для получившейся оценки функции потерь (см. [5])'.
СПИСОК ЛИТЕРАТУРЫ
1. Jans en М. Noise Reduction by Wavelet Thresholding. Lecture Notes in Statistics. Vol. 161. New York.: Springer Verlag, 2001.
2. Donoho D., Johnstone I. M. Adapting to unknown smoothness via wavelet shrinkage//J. Amer. Stat. Assoc. 1995. 90. P. 1200-1224.
3.Маркин А.В., Шестаков О.В. О состоятельности оценки риска при пороговой обработке вейвлет-коэффициентов // Вестн. Моск. ун-та. Сер. 15. Вычисл. матем. и киберн. 2010. № 1. С. 26-34. (Mark in А. V., Shestakov O.V. Consistency of risk estimation with thresholding of wavelet coefficients // Moscow Univ. Comput. Math, and Cybern. 2010. 34. N 1. P. 22-30.)
4. Шестаков О.В. Асимптотическая нормальность оценки риска пороговой обработки вейвлет-коэффи-циентов при выборе адаптивного порога // Докл. АН. 2012. 445. № 5. С. 513-515. (Shestakov O.V. Asymptotic normality of adaptive wavelet thresholding risk estimation // Doklady Mathematics. 2012. 86. N 1. P. 556-558.)
5. Sadasivan J., Mukherjee S., Seelamantula C. S. An optimum shrinkage estimator based on minimum-probability-of-error criterion and application to signal denoising // Proc. IEEE ICASSP 2014. Florence: IEEE, 2014. P. 4249-4253.
6. Ma 11 at S. A Wavelet Tour of Signal Processing. New York: Academic Press, 1999.
7. Donoho D., Johnstone I. M. Minimax estimation via wavelet shrinkage // Ann. Statist. 1998. 26. N 3. P. 879-921.
8. Кудрявцев А. А., Шестаков О. В. Оценка оптимального порядка риска обработки вейвлет-коэффициентов, основанного на вероятностях ошибок // Вестн. Тверского ун-та. Сер. Прикладная математика. 2016. № 1. С. 5-12.
Поступила в редакцию 25.05.16
