Использование обобщенной кросс-валидации при обращении линейного однородного оператора с помощью вейглет-вейвлет разложения Текст научной статьи по специальности «Математика»

Использование обобщенной кросс-валидации при обращении линейного однородного оператора с помощью вейглет-вейвлет разложения

Ключевые слова: вейвлеты, пороговая обработка,

обобщенная кросс-валидация, адаптивный порог, Изучается оценка функции сигнала, пропущенного через линейный однородный преобразователь в

рИск оценки сигнала, асимптотическая модели с аддитивным шумом. Исследуются асимптотические свойства оценки риска процедуры

нормальнюстъ, линейное сднюрю/нюе пороговой обработки коэффициентов вейглет-вейвлет разложения сигнала при выборе адаптивного

преобразование, устойчивый базис. порога на основе минимизации функции обобщенной кросс-валидации.

Кудрявцев А.А., Московский государственный университет имени М.В.Ломоносова, факультет ВМК, [email protected] Шестаков О.В., Московский государственный университет имени М.ВЛомоносова, факультет ВМК; Институт проблем информатики Российской академии наук, [email protected]

Введение

В последние годы методы обработки сигналов и изображений, использующие аппарат вейвлет-анализа стали применяться во многих прикладных задачах физики плазмы, компьютерной томографии, анализа телекоммуникационного графика, астрономии и т.д. Объясняется это тем, что вейвлет-анализ позволяет гораздо более эффективно исследовать нестационарные сигналы, чем традиционный Фурье-анализ. Часто данные (представляющие собой некоторый сигнал) измеряются не напрямую, а после прохождения через некоторый линейный преобразователь (например, через некоторый линейный фильтр). Кроме того, в измерениях всегда присутствует шум, обусловленный несовершенством оборудования и различными случайными помехами. Таким образом, измеряемые данные описываются следующей моделью:

(1)

где индекс / обозначает номер отсчета измеряемого сигнала, X, — наблюдаемые данные, К — некоторое линейное преобразование, / - истинная (незашумленная) функция сигнала, а £, - случайные погрешности измерения. Будем

предполагать, что все £: независимы и имеют одинаковое

2

гауссово распределение с нулевым средним и дисперсиеи сг~. В данной работе мы также предполагаем, что линейное преобразование К является однородным с показателем (X, т.е.

К[/Ш - х0))] = аа(К/)[а(х - х0)] (2)

аля любого Хц и любого а > 0. Примерами однородных

линейных преобразований служат оператор интегрирования, преобразование Абеля, некоторые виды операторов свертки и (при соответствующем выборе системы координат) преобразование Радона (см. [1-3]).

Одной из основных задач, для решения которой используется вейвлет-разложение, является удаление шума. При этом наиболее популярным методом является пороговая обработка вейвлет-коэффициентов, которая обнуляет коэффициенты, не превышающие заданного порога. Порог можно выбирать различными способами, исходя из постановки задачи и целей обработки (см., например, [4-7]).

Наличие шума неизбежно приводит к погрешностям в оцениваемом сигнале/изображении. Свойства оценки таких погрешностей (риска) исследовались в работах [4-15] при различных условиях измерения и различных методах представления сигнала. В частности, в работах [14-15] рассматривается метод представления сигнала, получивший название вейглет-вейвлет разложение (Vaguelette-Wavelet Decomposition), и доказывается, что при выполнении определенных условий оценка риска является асимптотически нормальной. Пороги, используемые в указанных работах, пропорциональны дисперсии шума. Однако во многих практических ситуациях уровень шума неизвестен. В работах [14-15] исследуется ситуация, в которой вместо дисперсии шума подставляется ее оценка. При этом оказывается, что предельная дисперсия оценки риска зависит от выбора оценки дисперсии шума. В качестве альтернативы в работах [16-17] предложено использовать для выбора порога процедуру минимизации функции обобщенной кросс-валидации. В [16] показывается, что порог, выбранный на основе этой процедуры, является в некотором смысле асимптотически оптимальным. В данной работе доказывается асимптотическая нормальность оценки риска при выборе порога, основанного на минимизации функции обобщенной кросс-валидации. Этот факт служит дополнительным обоснованием для выбора порога, минимизирующего эту функцию.

Представление сигнала

В работе [1] предложен метод представления сигнала, получивший название «вейглет-вейвлет разложение». Идея этого метода заключается в представлении функции Kf в виде ряда из сдвигов и растяжений некоторой вейвлет-функции If/ :

Kf= (3)

j.keZ

где i///k(x) = 2J,:i//(2Jx-k) (семейство {у/jJk}jkBZ образует ортонормированный базис в Zr(R)). Индекс j в (3) называется масштабом, а индекс к — сдвигом. Функция / представляется в виде ряда

/= L/?,,<*/,v',,(4)

j.keZ

где uJ k = К >,,//?„’ а Pj k = Ц/ГУ^.Ц • Заметим, что если

преобразование К однородно с показателем а, го К 1 однородно с показателем — а. Следовательно, Р:к =2(см. [1] и [14]). Функции и;к называются

«вейглетами». При этом семейство {?/, *} уже не обладает

свойством ортонормированиости, однако при выполнении определенных условий, образует так называемый «устойчивый» базис. Справедливо следующее утверждение (см. [14]).

Лемма I. Пусть существуют такие константы Д >0, а( > 0 и Ь1 > 1 (I = 1,2), что К У (со) < А, |г»р (1 +|<у|‘) <*|+“|>"

к’ч/(а))< Л,|<вГ2(1+|ю|2) <л-+с,2 * -

для всех шеР, тогда последовательность {«,*} образует устойчивый базис в ¿:(Р),т.е. существуют такие константы 0 < А < В < оо, что

АЪ1 *

¡.к

¡.к

(5)

/.*

Замечание. Иногда свойство (5) называют «почти ортогональностью» (см. [2]).

В дальнейшем будем предполагать выполнение некоторых условий гладкости. Будем считать, что функция К/ еЬ:(Н) задана на конечном отрезке [с/,6] и равномерно регулярна по Липшицу с некоторым параметром у > О. Также будем предполагать, что вейвлет-функция М раз непрерывно дифференцируема (М >у), имеет М нулевых моментов и быстро убывает на бесконечности вместе со своими производиыми (см. [18]). При выполнении этих условий найдется такая константа А > О, что А

(6)

2-/(/+1я)'

При практической реализации метода в представлении (3) вместо ряда функция К/ аппроксимируется конечной суммой следующего вида

К/ = (К/, <р00)<р0 о + Уц .

г О к- О

где (р00 — так называемая масштабирующая функция,

которая фактически описывает среднее значение измеряемых данных (см. [19]). Соответственно, вместо формулы (4) функция сигнала задается формулой

/ = (К/,<р00)К-'<р00 +

7=0 к=0

Ошибка, возникающая из-за такой аппроксимации, носит неслучайный характер, и рассматривать ее мы не будем.

3 Пороговая обработка вейвлет-коэффнциентов и оценка риска.

На практике измеряемые данные всегда заданы в дискретных отсчетах на конечном отрезке. Не ограничивая общности, будем считать, что это отрезок [0,1 ] и функция

К/ (и /) задана в точках /72'/ (/ = 1,...,2'/ для некоторого 3 ): (КО, = (*У)['/27 ] (и / = /(//г7)). Дискретное

вейвлет-преобразование представляет собой умножение вектора значений функции К/ на ортогональную матрицу IV, определяемую вейвлет-функцией Ц/ (см. [18]). При этом дискретные вейвлет-коэффициенты приближенно равны

непрерывным вейвлет-коэффициентам, умноженным на 1'"', т.е. коэффициенты выглядят следующим образом: к) (см., например, [1] или [18]). Это приближение

тем точнее, чем больше J. Таким образом, в силу ортогональности матрицы преобразования, дискретные вейвлет-коэффициенты наблюдаемых данных (1), которые

мы обозначим через ¥¡1, описываются следующей моделью:

(8)

где ц1к=2 ^ 1 к), а случайные погрешности е"к

независимы и имеют одинаковое гауссово распределение с нулевым средним и дисперсией сг .

Поскольку в измерениях присутствует шум, необходимо использовать некоторые процедуры для его удаления. Мы рассмотрим процедуру пороговой обработки (см. [18]). Смысл пороговой обработки вейвлет-коэффициентов измеряемого сигнала заключается в удалении достаточно маленьких коэффициентов, которые считаются шумом. Будем использовать так называемую мягкую пороговую обработку с порогом Т., зависящим от масштаба /. К

каждому вейвлет-коэффициенту за исключением коэффициента при <р00 применяется функция

РТ (*) =5§п(.г)(|.т| - Т] )+ • При такой пороговой обработке

коэффициенты, которые ПО модулю меньше порога Ту,

обнуляются, а абсолютные величины остальных коэффициентов уменьшаются на величину порога. В результате функция сигнала / (на самом деле ее масштабированная версия) оценивается следующим образом:

f ~ ^ о.о К <Л,.о + ^ *У,Р* к Рт, (У].к )м¡.к ’

/=0 к=0

где представляет собой зашумленный коэффициент при

К~'<р00. Коэффициент У0'0 обычно не подвергается

пороговой обработке, так как входит в ту часть оценки, которая описывает среднее значение измеряемых данных (см. [19]), и дисперсия шума в этом коэффициенте много меньше его абсолютного значения, поэтому мы будем полагать, что он не содержит шума. Такое предположение не влияет на

асимптотические свойства оценки риска, рассматриваемые в данной работе.

*

Риск (среднеквадратичную ошибку) оценки / в рамках модели (8) определим так же как в работе [14J:

г,(сг,Т) = £-PrXYjjt))2> <9)

/=0* = 0 J

где Т = (Tu,...,Tj_t). В выражении (9) присутствуют неизвестные величины HiJk , поэтому вычислить значение l'j нельзя. Однако его можно оценить. В каждом слагаемом если |) ( А| > Г(, то вклад этого слагаемого в риск составляет ß2k(<r2 + Tj), а если К ,| < Г , то вклад составляет ß)kn)j • Поскольку Е Yjk = а2 + р)к, величину можно оценить разностью УД - а1.

Таким образом, в качестве оценки риска можно использовать следующую величину:

= (10)

у» о *=0

где

F( x,ajj) = (x-а- )1(|.х| <Т;) + (а2 + Т; )l(|.t| > Т; ).

Для так определенной оценки риска справедливо следующее утверждение (см. [ 18]).

Лемма 2. Ei'j{a,T) = rj(a,T). »i.e. г,(«г,Г) является

несмещенной оценкой для г,(о,Т) .

В работах [14-15] для каждого масштаба j выбирается

порог Т\ = yj21п2,<т . Такой порог получил название

«универсальный», т.к. он не зависит от наблюдаемых данных. В работах [5-6] было показано, что при выборе этого порога риск г, близок к минимальному. В [14-15] также

показано, что при выполнении определенных условий оценка риска (10) является асимптотически нормальной.

В работе [4] рассматривается метод пороговой обработки с названием SureShrink (от Stein Unbiased Risk Estimate -несмещенная оценка риска Стейна), заключающийся в выборе на каждом масштабе j порога, минимизирующего соответствующий вклад в оценку риска на множестве Т, €[0,rt/],y = 0....7-1, где Т„ =у/2(2а + ])ln2Jа

(исследования, проводимые в работах [4] и [7], показывают, что можно не рассматривать Т > Ти ), т.е. вектор порогов

're = (Tfi 1 ) выбирается следующим образом:

rj(cr,TSVRE) = min ô(<7,T).

(Il)

т.ф.ти\.

Этот вектор порогов имитирует теоретический «идеальный» порог Тш,, одинаковый для всех масштабов у :

гЛ<т,ТМ1п)= min YZß)ß{Hj.k-pT{Yj.k)f (12) Тф.Ти\^^>

(здесь вместо векторного аргумента Т используется скалярный аргумент ТМ1 )■

Замечание. Вместо одного порога

порогов

Т., можно

Mm

тм=(т0м,...,Ю,

рассматривать вектор выбираемый но правилу г7(сг,Т„)= min

Т;Ф.ТЦ\.

7-0..J-1

При этом основные результаты данной работы не изменятся. В то время как значение порог а Тш найти нельзя,

если неизвестны незашумленные значения // k (можно лишь

в некоторых случаях выяснить его асимптотическое поведение), алгоритм поиска вектора порогов TWÄf очень прост, и его описание можно найти в [18] или [20]. Вектор порогов Twjwr является адаптивным, поскольку использует

только наблюдаемые данные и «автоматически адаптируется» к гладкости сигнала.

В работах [13-15] доказываются следующие утверждения об асимптотической нормальности оценки риска.

Теорема 1. Пусть преобразование К однородно с показателем а > 0. вейвлет-функция I// удовлетворяет условиям леммы 1. а функция Kf задана на отрезке [0,1 ] и равномерно регулярна по Липшицу с показателем у > (8а + 2)"1. Тогда

/ „ , _ ч / ^ ч \

гА^ТМіп)-гАст,ТМІЛ) D,

где

р. _ I Al.o ~,{2a+\n)J J у 24„+і _ ,

< JC

■ф(х),

(13)

а Ф(дг) - функция распределения стандартного нормального закона.

Теорема 2. Пусть преобразование К однородно с показателем а > 0, вейвлет-функция Ц/ удовлетворяет условиям леммы 1. а функция К/ задана на отрезке [0,1 ] и равномерно регулярна по Липшицу с показатепем ^>(8а + 2)_|. Тогда

гЛ<7ЪцКе)-ГЛ°1ТЫп) D,

< X

■ Ф(-г)-

(14)

3. Обобщенная кросс-валидация

Цель процедуры обобщенной кросс-валидации заключается в минимизации ошибки без использования ненаблюдаемых истинных значений функции сигнала и точного значения дисперсии шума. Для этого на каждом масштабе / строится следующая функция обобщенной кросс-валидации, которая зависит только от наблюдаемых данных и порога Г (см. [16]):

ІЬ- р,, о-,.))

Су(Гу) = -4^_

(15)

а;

’'-і

где

' *■ *-0

Для того чтобы О-(Т.) не принимала бесконечного значения, при цт =0 полагают СДГ() = 0. Выбор вектора

порогов Тост = (Гда,...,Т^_,), основанных на процедуре обобщенной кросс-валидации, заключается в минимизации функции С 1(Т/) на некотором множестве Т. е [ 7^,,Тс]:

Су(7'°)= шіп С?ДГу),

г.біт-о.Гу) 7 '

(16)

где Т0 - достаточно большое, но не зависящее от / число. Выбор Т0 обусловлен тем, что при стремлении Т, к нулю 6Д Г ) также может стремиться к нулю (см. [ 12], [ 16] и [ 17]),

т.е. к своему абсолютному минимуму. В то же время в [12] показывается, что «разумный» порог должен возрастать с увеличением у . При этом, как уже отмечалось выше, можно не рассматривать Т>ТГ (подробнее с методом поиска Тсст и поведением функций Ст.(Г ) и ЕС (Г) при значениях Т,, близких к нулю, можно познакомиться в [12]). Порог имитирует теоретический порог Г. :

Есдг;)= шіп ЕСу(Гу).

Г.«|Г0Т№| ' 7

(17)

В работе [16] показано, что при выборе теоретического порога по критерию (17) риск стремится к минимальному при J —> оо. Это утверждение служит некоторым обоснованием для выбора вектора порогов Т<;ск (особенно в

случаях, когда дисперсия шума неизвестна). В следующем разделе будет доказана асимптотическая нормальность оценки риска г,(<т,Тос1,), что является дополнительным доводом для выбора такого вектора порогов.

5. Асимптотическая нормальность оценки риска

Докажем асимптотическую нормальность оценки риска при выборе адаптивных порогов Т(іСК = (7'0°,...,7’іа1) по

критерию (16).

Теорема 3. Пусть преобразование К однородно с показателем а > 0. вейвлет-функция (// удовлетворяет условиям леммы 1, а функция К/ задана на отрезке [0,1 ] и равномерно регулярна по Липшицу с показателем у > (8а + 2)~‘. Тогда

гА<гЛ<*т)-гА<г,Тш)

О,

<х

Ф(*).

(18)

Доказательство. Запишем выражение в левой части (18) в виде

'/(оХ< ,)-г/(тТш) _ гАа,Тш)-г/и,Т^+о(стД„ ,)-?/* Т„,) _

Ц,

= 5,+5,.

Ці

0,

В силу теоремы 1, первое слагаемое сходится по распределению к стандартному нормальному закону. Покажем, что второе слагаемое стремится по вероятности к нулю.

Пусть 0 < Т' < Т- < Ти некоторые значения, которые будут выбраны позднее. Так же как в работе [14] можно показать, что часть суммы 5-,, в которой суммирование по У ведется от 0 до уи-1 = [V + 1о§;-/)/(2/+1)]), стремится к нулю по вероятности. Поэтому далее будем считать, что в суммирование по j ведется от /га до J - 1. Для некоторого е! > 0 (ограничения на которое будут наложены ниже) справедливо

Р(5,>г;)< Хр(Т? е[Т0,ТЦ)+ £Р(Т“ е[Т;,Т;')) +

+Р(52 > е,,Т° е[Г/,Гу],у = уя,...,у-1) = /> + /> +РУ Для Р\ имеем

/}<•/• шах Р(г/€[0,г;]).

1

Заметим, что при выполнении условий теоремы 2у(2а +1 )1(2у +1) > 1/2.

Выберем Т‘ = <7у]А\п21 с некоторым 0 < Я < 1.

Поступая как в работе [13] и применяя неравенство для вероятности уклонения эмпирического процесса (см., например, [21-23]), можно показать, что для некоторых констант К] > 0 и С, > 0 выполнено

Р, <7/:1ехр[-С|2>",1'‘*,/(1п2-')’].

лУ ч5-|

(19)

Для оценки Р2 выберем Г'1 = 1п2' с

1 < в < тт[3/2,4/(2а +1 )/(2у +1)].

Замечание. Значение в ■ можно выбирать зависящим от у так, чтобы выполнялось ¿?1п27 <ггпг(3/2,4,'(2аг + 1)/(3' + 1)]1п2’/. Однако такой выбор не влияет на порядок скорости сходимости 5, к нулю.

Применяя неравенство для вероятности уклонения эмпирического процесса, имеем для некоторых констант К2 > 0 и С, > О

Л <•/• шах Р(Т? є [Т ,Т ]) < Ж,ехр[-С,2

/""в‘№/(1п2-'),:]

(20)

Можно выбрать 0 < Я < 1 и

1«9<тн{3/2,*(2а+1)/0'+1)] такими, что \-в + №>0. Тогда правая часть (20) будет стремиться к нулю.

Осталось оценить Р}. Возьмем = Сг2 ниоуг(\^ ) т с некоторой константой С . Обозначим

j=jm|c=o

з зт

Имеем

(

Д ä3

sup V.J=.'m.......J-1

£[¿0,7}) -EAO.T})]

+ sup J^Ehis.T^^Djej

Г^.Гр], j=j„

Firn.J-1

<P

sup > ^jgj — о +p sup i-i

Tjetflv), >=4

(21)

Поскольку найдется такая константа СЕ > 0 , что

sup Y Eh(s,T. ) < С,

Г,<Г" ТЦ1 І=ІШ

2 JQa+\-82)

(1п2 )1/2 ’

то, начиная с некоторого J , вторая вероятность в (21) равна нулю, если ег2д20/[2(24а+1 - 1)]|/2Сг > СЕ. Следовательно,

применяя к первому слагаемому неравенство для вероятности уклонения эмпирического процесса, можно показать, что при ег2Д20/[2(24“+1 - 1)]1ЯСЕ. > СЕ найдется такая константа С0 , что

Ср

Р < 3

Г3 - 2 Л2 ■

(22)

Объединяя (19)-(22), получаем, что стремится к нулю по вероятности. Теорема доказана.

s = гА.сг,ТМп)-гАсг,ТМп) ^ = r/a, Тасу) - rs (сг,Тш„)

D,

Имеем

sup

isR

D,

< X

-ФЕ0)

= SU]

ip|P(s; + Sz < x) - <*t(x)| < sup|P(s; < x)- <*b(x)|+ -%= +Pfe > £j). ■ хек V2jt

(25)

Поступая, как в работе [11] и используя оценки из теоремы 3, можно показать, что для некоторой константы С'0 справедливо

(26)

Для оценки третьего слагаемого в (25) нужно более точно оценить вероятности , Р2 и Р5 в теореме 3. Кроме того, необходимо оценить скорость стремления по вероятности к нулю части суммы о,, в которой суммирование ведется по _/ от 0 до ] — 1 (обозначим ее через 3'2). Возьмем

т’ = сгЛ|''1п2'' - dl ст1п 1п2' /Л/1п2'' ■ Константу d1 > О можно выбрать таким способом, чтобы в (19) было справедливо

<v

некоторой

константой

(27)

Далее возьмем

6. Оценки скорости сходимости к нормальному закону В процессе доказательства теоремы 3 используются методы, позволяющие оценить скорость сходимости распределения оценки риска к нормальному закону.

Теорема 4. Пусть выполнены условия теоремы 3, тогда

существуют такие константы С0, что

sup

xeR

p| Ö(g.Tgty)^ rj(a,Tm) <я^_ ф(х)

4](ln2 )

J

І2 2Г+1 J (23)

если max{(8a+2) 1,1 /4} < у <3/(16a+2), и

sup

ieR

(°~>TsoO rs D,

< x

-Ф(х)

c^^y112

(24)

если у > 3/(16а + 2).

Замечание. В теореме предполагается, что (8а + 2)“1 ^ 3/(1661? + 2) . Если эго не так, то выполнено (24), если у > (8а + 2)"1.

Доказательство. Как и в предыдущей теореме, обозначим

Dr

= Sl+S2,

где

Г/ = er-Je ln2J -d2a ln In2j/-Jln2j ,

где в = min [3/2,4 у(2a. + l)/(2 у + 1)]. Константу d2> О

можно выбрать таким способом, чтобы в (20) было

справедливо

Cd J

7

(28)

с некоторой константой Cd

При таком выборе в для оценки Р,, как и в предыдущей

теореме, возьмем £

= Cs2J(1-m(\n2Jy

с некоторой

константой С . Рассуждая как при выводе соотношений (21)

(22),

показать,

при

£г2Д20/[2(24к+1 - l)]lßCf > СЕ найдется такая константа

р ,что

Р3<

_з_ i ja ■

(29)

Наконец, рассуждая как в работе [15], можно показать, что

is:i<

-2 n^'yJ\1+2г+1

Cscr (1п2 )

/1

9 1,2 2^+1 ,]

П.В.

(30)

с некоторой положительной константой Cs. Объединяя (25)-(30) и учитывая выбор £, и в, получаем (23) и (24). Теорема доказана.

Замечание. В работе [4] отмечается, что порог TWJW; в случае, когда больших вейвлет-коэффициентов слишком мало, несколько недооценивает порог TMin. Как видно из доказательства теорем 3 и 4, если /<3/(16«+ 2), т.е. регулярность функции сигнала относительно невелика, то вероятности событий j 7" < Тш} стремятся к нулю, и

пороги Т? могут, скорее, переоценивать ТМп, что справедливо и для порога Ts( RE . Если же у > 3/(16а + 2), то ТМп > yj3/2\n2J , но можно лишь утверждать, что вероятности событий {Т* < д/з/21п2';} стремятся к нулю, и в этом случае пороги Т? действительно могут недооценивать Тмы так же, как порог TWR£. Таким образом, доказанные теоремы дают количественную характеристику регулярности, влияющую на свойства порогов Т° ■

Литература

1. Abramovich F., Silverman B.W. Wavelet Decomposition Approaches to Statistical Inverse Problems // Biometrika, 1998. Vol. 85. No. I. P. 115-129.

2. Lee N. Wavelet-vaguelette decompositions and homogenous equations: PhD dissertation. Purdue University, 1997.

3. Donoho D.L. Nonlinear solution of linear inverse problems by wavelet-vaguelette decomposition // Applied and Computational Harmonic Analysis, 1995. Vol. 2. P. 101-126.

4. Donoho D., Johnstone I. M. Adapting to Unknown Smoothness via Wavelet Shrinkage//J. Amer. Stat. Assoc., 1995. Vol.90. P. 1200-1224.

5. Donoho D., Johnstone I. M. Ideal Spatial Adaptation via Wavelet Shrinkage // Biometrika, 1994. Vol. 81. No. 3. P. 425-455.

6. Donoho D. L., Johnstone !. М., Kcrkyacharian G., Picard D. Wavelet Shrinkage: Asymptopia? // J. R. Statist. Soc. Ser. B„ 1995. Vol. 57. No. 2. P. 301-369.

7. Mari on J. S., Adak S., Johnstone I. М., Neumann М. H., Patil P. Exact Risk Analysis of Wavelet Regression // J. Comput. Graph. Stat., 1998. Vol. 7. P. 278-309.

8. Antoniadis A., Fan J. Regularization of Wavelet Approximations Hi. Amer. Statist. Assoc., 2001. Vol. 96. No. 455. P. 939-967.

9. Маркин A.B., Шестаков O.B. О состоятельности оценки риска при пороговой обработке вейвлет-коэффициентов // Вести. Моск. ун-та. Сер. 15. Вычисл. матем. и киберн., 2010. № 1. С. 26-34.

10. Маркин А.В. Предельное распределение оценки риска при пороговой обработке вейвлет-коэффициентов // Информатика и ее применения, 2009. Т. 3. № 4. С. 57-63.

11. Шестаков О.В. Аппроксимация распределения оценки риска пороговой обработки вейвлет-коэффициентов нормальным распределением при использовании выборочной дисперсии // Информатика и ее применения, 2010. Т. 4. №4. С. 73-81.

12. Jansen М. Noise Reduction by Wavelet Thresholding. - Springer Verlag. Lecture notes in Statistics. Vol. 161. 2001.

13. Шестаков O.B. Асимптотическая нормальность оценки риска пороговой обработки вейвлет-коэффициентов при выборе адаптивного порога //Доклады РАН, 2012. Т. 445. № 5. С. 513-515.

14. Кудрявцев А.А., Шестаков О.В. Асимптотика оценки риска при вейглет-вейвлет разложении наблюдаемого сигнала // T-Comm — Телекоммуникации и Транспорт, 2011. № 2. С. 54-57.

15. Кудрявцев А. А., Шестаков О.В. Асимптотическое распределение оценки риска пороговой обработки вейглет-коэффициентов сигнала при неизвестном уровне шума // T-Comm — Телекоммуникации и Транспорт, 2011. № 5. С. 24-30.

16. Jansen М., Malfait М., Biiltheel A. Generalized Cross Validation for wavelet thresholding II Signal Processing, 1997. Vol. 56. No. I. P. 33-44.

17. Jansen M. Minimum risk methods in the estimation of unknown sparsity II Technical report, 2010. U.L.B.

18. Mallat S. A Wavelet Tour of Signal Processing. - Academic Press, 1999.

19. Boggess A., Narkowich F. A First Course in Wavelets with Fourier Analysis. - Prentice Hall. 2001.

20. Захарова T.B., Шестаков O.B. Вейвлет-анализ и его приложения. Учебное пособие. - М.: МАКС Пресс. 2009.

21. Vaart A.W., Wellner J.A. Weak convergence and empirical processes. - Springer Verlag. New York. 1996.

22. Alexander K. Probability inequalities for empirical processes and a law of the iterated logarithm // Ann. Probab. 1984. Vol. 12. No. 4. P. 1041-1067.

23. Shen X., Wong W. H. Convergence rate of sieve estimates // Ann. Statist. 1994. Vol. 22. No. 2. P. 580-615.

Работа выполнена при финансовой поддержке РФФИ (гранты 11-01-00515а и 11-01-12026-офи-м), а также министерства образования и науки РФ (государственный контракт № 14.740.11.0996).

Using a generalized cross-validation to invert linear homogeneous operator with the use of vaguelette-wavelet decomposition

Kudryavtsev A.A., Moscow State Lomonosov University, Faculty of Computational Mathematics and Cybernetics, [email protected] Shestakov O.V., Moscow State Lomonosov University, Faculty of Computational Mathematics and Cybernetics,

Institute of Informatics Problems of the Russian Academy of Sciences, [email protected]

Abstract

We study the evaluation function of the signal sent through a linear transducer in a homogeneous model with additive noise. The asymptotic properties of risk assessment procedures vaguelette coefficients thresholding wavelet decomposition of the signal in selecting adaptive threshold based on minimizing a function of the generalized cross-validation.

Keywords: wavelet, generalized cross-validation, adaptive threshold, risk assessment of the signal, asymptotic normality, linear homogeneous transformation, sustainable basis.