CC BY
8где 3^1, — вспомогательные углы, поэтому начиная с некоторого достаточно большого значения ¿з(т) на любом промежутке длины 7Г будет иметь ровно 3 нуля. Кроме того, согласно теореме 2 из [3], найдется вектор Ш2 -Ц тп\, для которого при любом £ € М+ выполнено неравенство и*(г, т2, 0) < оо. Следовательно, имеем
7г
7г
a*(z) = inf ( lim — v*(z, m, ts{m), 0) + lim —z/*(z, m, t, ¿з(т))) = lim —
m£l™ Vi—>oo t
i—> oo t
7г
i—> oo t
3(i + ii -i3(rn))
7г
= 3,
где [«] — целая часть числа Для нижних полных гиперчастот решения г справедливы аналогичные равенства, поэтому имеет место цепочка равенств
a*(z) =ä*(z) =3.
(5)
Несовпадение друг с другом величин (4) и (5) означает, что рассматриваемые частоты не являются остаточными. Теорема доказана.
СПИСОК ЛИТЕРАТУРЫ
1. Сергеев И.Н. Определение и свойства характеристических частот линейного уравнения // Тр. Семинара им. II.Г. Петровского. 2006. Вып. 25. 249-294.
2. Сергеев И.Н. Определение полных частот решений линейного уравнения // Дифференц. уравнения. 2008. 44, № И. 1577.
3. Сергеев И.Н. Замечательное совпадение характеристик колеблемости и блуждаемости решений дифференциальных систем // Матем. сб. 2013. 204, № 1. 119-138.
4. Сергеев И.Н. К теории показателей Ляпунова линейных систем дифференциальных уравнений // Тр. Семинара им. II.Г. Петровского. 1983. Вып. 9. 111-166.
5. Сташ А.Х. О существовании линейного дифференциального уравнения третьего порядка с континуальными спектрами полной и векторной частот // Вестн. Адыгейского гос. ун-та. Сер. Естественно-математические и технические науки. 2013. Вып. 3 (122). 9-17. URL: http://vestnik.adygnet.ru.
6. Сергеев И.Н. Колеблемость и блуждаемость решений дифференциального уравнения второго порядка // Вестн. Моск. ун-та. Матем. Механ. 2011. № 6. 21-26.
7. Филиппов А.Ф. Введение в теорию дифференциальных уравнений М.: Едиториал УРСС, 2004.
8. Сергеев И.Н. Об управлении решениями линейного дифференциального уравнения // Вестн. Моск. ун-та. Матем. Механ. 2009. № 3. 25-33.
Поступила в редакцию 07.06.2016
УДК 517.518.36
СКОРОСТЬ СХОДИМОСТИ СЛАБЫХ ЖАДНЫХ ПРИБЛИЖЕНИЙ ПО ОРТОГОНАЛЬНЫМ СЛОВАРЯМ
А. С. Орлова1
В работе изучается скорость сходимости слабого ортогонального жадного алгоритма на подпространстве Iх С (2 в случае ортогонального словаря. Показано, что общие результаты о скорости сходимости слабых ортогональных жадных приближений в этом случае могут быть значительно уточнены. Кроме того, установлено, что полученное уточнение асимптотически неулучшаемо.
Ключевые слова: слабый ортогональный жадный алгоритм, ортогональная система, скорость сходимости.
Convergence rate of weak orthogonal greedy algorithm is studied for the subspace tl С i72 and orthogonal dictionaries. It is shown that general results on convergence rate of weak
1 Орлова Анастасия Сергеевна — студ. каф. математического анализа мех.-мат. ф-та МГУ, e-mail: anastasia-orlovalQya.ru.
orthogonal greedy algorithme сап be essentially improved in the studied case. It is also shown that this improvement is asymptotically sharp.
Key words: weak orthogonal greedy algorithm, orthogonal system, convergence rate.
1. Введение. Переупорядочение слагаемых в ряде Фурье по убыванию норм совершенно естественно с точки зрения приближения п-членными линейными комбинациями векторов ортогональной системы, так как при таком переупорядочении частичные суммы ряда Фурье и являются элементами наилучшего n-членного приближения (это утверждение сразу следует из экстремального свойства коэффициентов Фурье и тождества Бесселя [1, гл. 3, §4, п.4]). В работе [2] установлено, что такое переупорядочение естественным образом возникает и при изучении вопроса абсолютной сходимости ряда Фурье.
Переупорядочение ряда Фурье по убыванию норм слагаемых эквивалентно применению к ортогональной системе и приближаемому элементу чисто жадного алгоритма [3]. Напомним соответствующее определение.
Пусть H — гильбертово пространство, D С H — нормированный словарь (т.е. линейная оболочка D всюду плотна в H m все элементы d € D имеют единичную норму в Н). Для приближаемого вектора х € H определим индуктивно последовательность остатков {r,^GA(x) }га_0, последовательность коэффициентов и последовательность элементов {e^GA(x) ^ D:
r?GA{x) = X-,
en+i (x) G D : | (r™A(x), e?GA(x)) \ = sup | {r?GA(x),d) | ,
d&D
~PGA _ ( PGA( s PGAr \\ rPGA( s _ rPGA( s _ ¿.PGA PGA, s „ _ n 1 2
хп+1 - v n w)eri+1 \-ь))1 1 n+1 w — 'n w хп+1 era+1 w) /t — u, l, z, . . . .
Чисто жадным разложением вектора х по словарю D называется ряд
оо
aPGA PGA, }
/ у сга V"*V •
п= 1
Легко видеть, что остаток разложения гм(х) совпадает с разностью приближаемого элемента
n
х и N-ft частичной суммы разложения ^ x^GAe^GA(x).
п= 1
Отметим, что для ортогонального словаря sup I (t^ga(x), d) I заведомо достигается и вместо
deD
точной верхней грани можно говорить о максимуме.
Для ортогональных словарей чисто жадный алгоритм эквивалентен ортогональному жадному алгоритму, который определяется следующим образом [3].
Пусть H — гильбертово пространство, D С H — нормированный словарь. Для х € H определим индуктивно последовательность остатков {rGGA(x)}n_0, последовательность приближений
{GGGA{x)}°^=0 и последовательность элементов {&nGAix)}°^=i с D:
GoGA(x) = 0, г£СА(х) = х; еп+А(х) G D : | (rGGA(x), eGGA(x)) \ = sup | {rGGA(x),d) | ,
d&D
G%Gf(x) = PmjieoGA(x)r+ix, rGGf{x) =x- G°nGf{x), n = 0, 1, 2, ... .
L к \ 1 ik=1
Здесь Proir oga/ nn+1 — оператор ортогонального проектирования на линейную оболочку tefc УХ)1к=1
{e°kGA{x)Tkt\-
Последовательность {GGGA(x)}^=0 называется последовательностью ортогональных жадных приближений вектора х по словарю D, а элемент Ggga(x) — п-м ортогональным жадным приближением х по словарю D.
Наиболее сложным в реализации чисто жадного алгоритма и ортогонального жадного алгоритма является выбор очередного разлагающего элемента en+i{x)- В.Н. Темляковым в работе [4] было предложено ввести так называемую ослабляющую последовательность {tnС (0,1] и в качестве
очередного элемента разложения еп^\{х) выбирать произвольный элемент словаря, удовлетворяющий условию
\(гп(х),еп+1(х))\ ^1п+1$,щ>\{гп{х),(1)\. (1)
с
Модификации жадных алгоритмов, в которых выбор очередного элемента разложения еп^\{х) осуществляется на основе этого условия, называются слабыми жадными алгоритмами. В частности, соответствующая модификация ортогонального жадного алгоритма называется слабым ортогональным жадным алгоритмом (\¥ООА).
В силу изоморфизма бесконечномерных сепарабельных гильбертовых пространств будем считать, что Н = £2 и И — стандартный базис £2.
Общий результат о скорости сходимости ортогональных жадных приближений [3] в этом случае может быть сформулирован следующим образом. Пусть х € I1 С Н. Тогда
\\гпаА{%)\\, < Чг-
Для чисто жадных алгоритмов в случае произвольного словаря оценка скорости сходимости является значительно более слабой. А именно в работе [5] показано, что для каждого х € A\(D) С Н (в рассматриваемом случае ортогонального словаря A\(D) = ll) справедлива оценка
\\rPGA(x)\\ < 1 7-liíüi.
||'n \ ) 112 -*->' n0,182'
а в работе [6] установлено, что существуют словарь D и ненулевой элемент х € A\(D), обеспечивающие выполнение обратных неравенств
И PGA( ч|| Г_1ИЬ_ П'га W|l2 n0,1898
(здесь С — положительная константа).
Таким образом, при обсуждении скорости сходимости жадных приближений по ортогональным словарям корректнее осуществлять сравнение с общими результатами именно для ортогонального жадного алгоритма.
Общий результат о скорости сходимости слабых ортогональных жадных приближений [4] в рассматриваемом случае может быть сформулирован следующим образом. Пусть х € I1 С Н. Тогда
Ji+Efg
у fc=i
В настоящей работе показывается, что в случае ортогонального словаря приведенная выше оценка скорости сходимости может быть уточнена, а именно устанавливается следующая
Теорема. Пусть приближаемый вектор х € i1 С Н, а словарь ортогонален. Тогда для всех натуральных п справедлива оценка
'|Ж|11 (2)
п
k=1
Как легко видеть, в случае tn, стремящихся к нулю, это уточнение является существенным. Например, в случае tn = общий результат гарантирует, что порядок скорости сходимости не
хуже ^—, в то время как результат для ортогональных систем гарантирует, что порядок скорости
сходимости не хуже
В работе также показывается, что полученная для ортогональных систем оценка асимптотиче-
оо
ски неулучшаема при £ tk = оо, а именно устанавливается, что величина
\KOGA(x)L
Сп = sup -77—Г-~
ж6£1\{0} IfIII
П , N
заключена между и где Тп = £ tk, а (Зп = — (1 + 2Тп)~ J —,> 1 при п —> оо.
Величина сп характеризует наибольшее возможное отклонение слабого ортогонального жадного приближения от приближаемого вектора на п-м шаге для элементов из i1.
2. Доказательство теоремы. Зафиксируем произвольное натуральное п и произвольный приближаемый вектор х = (х\, Х2, Жз, ...) € I1 С Н. Для доказательства требуемой оценки достаточно рассмотреть случай r^OGA{x) ф 0. Тогда на каждом из первых п шагов слабого ортогонального жадного алгоритма при переходе к очередному остатку осуществляется замена одной из ненулевых компонент предыдущего остатка нулем. Без ограничения общности можно считать, что на j-м шаге нулем заменяется j-я компонента (j = 1, 2, ... ,п) — этого можно добиться переупорядочением координат. Тогда r^OGA(x) = (0, 0,... , 0, Жп+ъ %п+2, • • •)• Также без ограничения общности можно считать, что все компоненты вектора х — неотрицательные числа.
В силу однородности устанавливаемой оценки (т.е. в силу того, что при умножении приближаемого вектора х на положительное число на это же число одновременно умножаются нормы, стоящие в левой и правой части оценки) достаточно ограничиться рассмотрением случая ^r^OGA(x) || = 1. При таком ограничении условия (1) гарантируют, что для всех j € {1, 2, ... , п} справедлива оценка Xj ^ tj.
Обозначим через у "хвост" п-го остатка (совпадающий с п-м "хвостом" приближаемого вектора ж): У = (хп+1,хп+2,хп+3,...). Заметим, что
\KOGA(x)\\2 = \\у\\2 ^ \\у\\2 = \\у\\2
INIl IMIl +Xi -hx2 + • • • +xn ^ ||y||i +Í1 +Í2 + • • • +tn \\y\\i+Tn
Так как все компоненты вектора у принадлежат отрезку [0,1], справедливо неравенство
\
Е х1«
к=п-\-1
\
Хк =
к=п-\-1
с учетом которого получаем
г,
WOGA
<
VM
где f(a) = Тп > 0. При
llalli \\У\\1+Тп
этом II2/II! ^ 1. Так как
Тп-а
= /(ll»lli),
/'(«) =
Ща + Тп)2'
то для Тп < 1 функция / принимает наибольшее значение на луче [1, +оо) при значении аргумента, равном единице, а для Тп ^ 1 — при значении аргумента, равном Тп. Тогда в первом случае
г,
WOGA
а во втором случае
\х и
llalli
< /(i) =
<f(Tn) =
1
1 + Тп
<
1
Тп Тп
т.е. доказываемая оценка (2) справедлива в каждом из случаев. Таким образом, теорема доказана.
3. Замечание о достаточном условии сходимости. Условием, гарантирующим сходимость слабых ортогональных жадных приближений к приближаемому вектору, является расходимость ря-
оо
да [4]. При этом в случае произвольного приближаемого вектора ослабить это условие нельзя.
к= 1
Однако в случае ортогонального словаря и приближения векторов из подпространства 11 сходи-
оо
мость гарантируется даже при выполнении более слабого условия ^ ¿д. = оо. Это сразу следует из
к= 1
доказанной теоремы. При этом дальнейшее ослабление условия невозможно. Чтобы это обосновать,
достаточно для произвольной ослабляющей последовательности с £ < оо рассмотреть
к= 1
слабые ортогональные приближения вектора х = (1, ¿1, ¿2) • • •, ¿щ • • •) € I1. Возможна реализация слабого ортогонального жадного алгоритма, при которой ни на одном шаге в качестве элемента разложения не выбирается первый базисный вектор (на первом шаге выбирается второй базисный вектор, на втором — третий базисный вектор, на третьем — четвертый базисный вектор и т.д.). Соответственно для этой реализации
\\гп°СЛ(х)\\2 > 1 />0 (п-юо).
4. Доказательство оценки для сп. Верхняя оценка (сп ^ ) сразу следует из установленной теоремы. Для доказательства нижней оценки (сп ^ , где ¡Зп = (1 — (1 + 2Тп)~1)) достаточно рассмотреть вектор
1+[т„]
здесь квадратными скобками обозначена целая часть, а фигурными — дробная часть. Возможной является реализация слабого ортогонального жадного алгоритма, при которой на первом шаге в качестве элемента разложения выбирается первый базисный вектор, на втором шаге — второй базисный вектор и т.д. Для этой реализации
СООА(х) = (ОД^О, ш, о, о,...).
п 1+[Т„]
Соответственно
„WOGA
0*0||2_ V1 + [Тп] + {Тп}2 _у 1 + [Тп] + {Тп}2 > л/тп 1 / 1
||ж||1 тп + 1 + [Тп] + {Тп} 1 + 2Тп 1 + 2 Тп 2^Т~п\ 1 + 2 Тт
5. Заключение. Применение чисто жадных алгоритмов к ортогональным словарям приводит к классическим рядам Фурье, упорядоченным по убыванию норм слагаемых. Такое переупорядочение ряда Фурье является естественным с точки зрения наилучшего п-членного приближения. Также оно возникает и при изучении смежных вопросов, в частности вопроса об абсолютной сходимости ряда Фурье.
Применение слабых жадных алгоритмов к ортогональным словарям приводит к рядам Фурье, в которых слагаемые переупорядочены, но требование монотонности существенно ослаблено (и ослабление тем больше, чем меньше значения ¿га). В работе показано, что для этого случая общие результаты о скорости сходимости жадных приближений могут быть значительно уточнены. Кроме того, установлено, что полученное уточнение асимптотически неулучшаемо.
СПИСОК ЛИТЕРАТУРЫ
1. Колмогоров А.Н., Фомин С.В. Элементы теории функций и функционального анализа. М.: Наука, 1976.
2. Сгпечкин С.Б. Об абсолютной сходимости ортогональных рядов // Докл. АН СССР. 1955. 102, № 1. 37-40.
3. DeVore R.A., Temlyakov V.N. Some remarks on greedy algorithms // Adv. Comput. Math. 1996. 5, N 1. 173-187.
4. Temlyakov V.N. Weak greedy algorithms // Adv. Comput. Math. 2000. 12, N 2-3. 213-227.
5. Сильниченко А.В. О скорости сходимости жадных алгоритмов // Матем. заметки. 2004. 76, № 4. 628-632.
6. Лившиц Е.Д. О нижних оценках скорости сходимости жадных алгоритмов // Изв. РАН. Сер. матем. 2009. 73, № 6. 125-144.
Поступила в редакцию 28.09.2016
