CC BY
14
УДК 517.988.68
Устойчивый итерационный метод градиентного типа для
аппроксимации решений нерегулярных нелинейных уравнений в гильбертовом пространстве
М.Ю. Кокурин, А.И. Козлов
Марийский государственный университет, Йошкар-Ола
Предлагается итерационный метод решения произвольных нерегулярных нелинейных уравнений с неточно заданными гладкими операторами в гильбертовом пространстве. Метод является регуляризованной модификацией стандартного градиентного процесса с постоянным шагом. В предположении истокообразной представимости решения устанавливается стабилизация вырабатываемых приближений в малой окрестности этого решения. Получены оценки диаметра окрестности в терминах параметров метода и величины погрешности.
An iterative method for solving arbitrary irregular nonlinear equations with smooth noisy operators in a Hilbert space is suggested. The method is a regularized version of the standard gradient process with a constant stepsize. Assuming that a solution possesses the sourcewise representation we establish stabilization of iterative point in a small neighbourhood of the solution. We also give the estimate for the diameter of the neighbourhood in terms of the method's parameters and the error level.
1. Рассмотрим операторное уравнение:
Е(х) = 0, х е Н,, (1)
где Е : Н1 ® Н2 - нелинейный дифференцируемый по Фреше оператор, Н1, Н2 - гильбертовы пространства. Считаем, что решение исходного уравнения х * существует, хотя, быть может, не является единственным. Предполагается, что оператор Е дифференцируем по Фреше, причем для всех точек
х, у (х*= {г е Н1: ||г - х* || < Я} производная Е'(х) удовлетворяет условию Липшица:
||Е'(х) - Е'(у)|| < Цх - у||. (2)
Никаких условий регулярности на оператор Е в окрестности решения не налагается, поэтому задача
(1) является в общем случае некорректно поставленной. Считаем, что вместо точного оператора Е доступно лишь его приближение Е: Н1 ®Н2, дифференцируемое по Фреше и удовлетворяющее неравенствам
(2) и условиям:
Е(х)-Е(х) <5, F'(x)-F'(x)
<5
"х,у еПк(х*). (3)
Как известно [1], [2], классический метод Тихонова аппроксимации х* базируется на последовательном при различных значениях а решении регу-ляризованной задачи:
Ф
min фа (х),
xeHJ
1 II ~ ||2 J 2
(х) = — F(х) +—aх -X . 2\\ к 'II 2 11 11
Здесь а > 0 - параметр регуляризации, £ е Н1 -
управляющий параметр, играющий роль начальной
*
оценки х . При изучении задачи (4), как правило,
предполагается, что оператор Е обладает свойством слабой замкнутости [1-6]. При наличии у оператора
Е свойства слабой замкнутости и подходящем согласовании параметра а с погрешностью 3 в указанных работах устанавливается существование элементов х3 , реализующих глобальный минимум функционала (4) на Н1, и сильная сходимость этих
элементов при 3 ® 0 к решению х*. Практическую реализацию описанной схемы в случае общего нелинейного оператора Е существенно осложняет необходимость решения трудоемкой в вычислительном плане задачи глобальной минимизации функционала
Ф а. В частном случае выпуклого функционала
1II |Р *
ф(х) =—||Е(х)|| для аппроксимации решения х*
применимы методы итеративной регуляризации [7-8] вида:
хо е хп
= хп -МпФ'ап (хп ),
Ф' (хп) = F'*(x)F(x)+a(х-X).
(5)
(4)
Здесь последовательность параметров регуляризации an выбирается так, что an >aml > 0, lim an = 0 ; величина шага jLln > 0, lim m = 0. Практическая реа-
n
лизация процесса (5) требует сопровождения итераций
М.Ю.Кокурин, А.И.Козлов
127
критерием останова N=N(5) с выбором в качестве ап-
*
проксимирующего X элемента точки XN5.
В настоящей работе рассматривается итерационный процесс (5) с постоянным шаговым множителем и постоянным параметром регуляризации, т.е. при
¡ип = |> 0, ап =а> 0:
хо е Н1,
Хп+1 = Хп — 1(¥'* (Хп )¥(Хп ) + а(Хп -Х)). (6)
Ниже покажем, что при подходящем выборе щ, а
точки последовательности (6) стабилизируются в малой
*
окрестности решения X уравнения (1), и оценим ее радиус. Выпуклость функционала ф и слабая замкнутость операторов ¥, ¥ здесь не предполагаются.
Ключевую роль в проводимом ниже исследовании асимптотических свойств процесса (6) играет
следующее условие приближенной истокопредстави-
*
мости начальной невязки X — д.
Условие 1. Имеет место представление:
X* — X = ¥'*(x*)v + е Н2,
w е Н1, ||™|| £ А. (7)
Условия вида (7) широко применяются при исследовании сходимости метода Тихонова и его итерированных вариантов вида (5) (см. [9, 10]).
2. Получим вспомогательные оценки, необходимые для исследования асимптотических свойств итерационного процесса (6). Предполагая, что
Хп е Ок (X ) , с использованием (6) запишем:
||хп+1 — X*]2 =|— X*) — Е'^п^^п) + -Х))| = = 1X — X*)2 — 2|( Е^&п )¥^)— X), Xn — X*) + (8)
+Щ||¥'*( xn )¥ ( xn ) + а( xn — Х)|2.
Оценим отдельные слагаемые в правой части последнего равенства. С учетом представления
¥(X) = ¥(у) + ¥'(X)(X — у) + Р(X, у),
1 N 1|2
р(X, у) < 2Цр — у\\,
имеем
2и(¥ '*(xn) ¥ (xn) + а( xn— д), xn— x *) =
=2щ(¥* X )¥ (X*)+¥ '* X )¥ X — X*)+
+¥*( X, ^^, х)+a(xn— х)+а(*— ^—^ = = 2а ¡Щ Xп — X *|| + 2щ( ¥ '* (Xп) ¥ (X *) +
+ ¥ (X, ) ¥ ( X, )( X, — X * ) + (9)
+¥ (X, )0 (X,, X *) + а¥ (X, )ц +
+а( ¥ '* (^ ) — ¥ '*(^ ))ц + а ^ — . Пусть управляющий параметр д е Н1 выбран так, что для элемента V в (7) выполняется условие:
Ц < min {^,1} . (10)
Из (2), (3), (7), (9) с учетом (10) получаем оценку:
2|(¥'* (xn )¥(xn) + a(xn —g), ^ — x*) >
II I\2 { \\ ~ ||2
> 2а||х,„ — х|| — 2m¡-|¥'(xn — ^ Ц + ¥'(Xп)(Xп — X* )|| (|| ¥ (X* )|| +1 р (Xп )|| +1Ц |а)) — —2а|| Ц|| (Ц^п — + 5) + а)| \xn — x*||> (11)
> II .|| 2 1 1_ц ....... V
>аЩXп — — —¡¡о Ц\*п — X || + ||а I -
—2ащ(д + А)|| Xп — X *||.
Пользуясь известными неравенствами
\аЬ\<еа2 + —Ь2е> 0; 1 1 2 2е
(а, +... + ат)2 < т(а2 +... + a2m), (12)
из (11) получаем
2 И (¥ "'(xn)¥(xn) + Фп — д)^п — X*
1
1|2 3
>— аи\\X„ — XI — Цщ X„ — XI — 2 11 п 11 8 11 " 11
(13)
¡(д2 +| Ц|2 а2) —2ащ(5 + А)2.
Перейдем к оценке последнего слагаемого в правой части (8). Из (2), (3), (7), (12) следует
щ2||¥'*(X,)¥(X,) + a(Xn — Х)||2 <
;3|2 (| ¥ (X,)(¥ (X,) — ¥ (X*))
-а21|Xп — x^| +а2|X*—Х| )< < 3щ2 ((2N4 +а2)
(14)
»112
2N +а2 X, — +
+2N252 + 2а2 ( N21 Ц||2 + А2 )). На основании (8), (13), (14) имеем:
1^1 — x'\\2 <¡1 — 1 ащ+ 3(2^ +а2)щ2^ (15)
II 412 3 .и 4 3 /_2 II ||2 2\
— ^ Ц иЫ, — X + — и\о + V а + II п II 8 11 п 11 2 V 11 11 /
+2ащ(5 +А)2 + 6щ2 (N252 +а2 (N2 \2 + А2)).
Оценку правой части неравенства (15) продолжим в предположении, что шаговый множитель щ и погрешности 5, А удовлетворяют следующим условиям:
о <m<-a—(16) +( с [ 1 --aml+3i2m2c2 (А+5+а2) +
12(2N4 + а2) Ç Ç 4 0 8 [ '
( ба+6а2 )A+Ç3+2а+6mN2 05 < (17) +mM (m)H2 )(D+d+a2 ).
è 2 0 Потребуем выполнения следующих дополни-
<Ç 3 + 6mN2v||2 тельных ограничений на параметр регуляризации а,
ç2 / погрешности А, 5 и величину ||v|| :
Обозначим далее
R 2
3 _,Лг2 a£ min■ 3RzLzq,
2 L2q _R_ -8 ï , (23)
m(m) = - + 6Nl [ 32M(m)|Hl mj
С учетом условий (16), (17) и введенного обозна- а (2^)
чения, из (15) получаем: A + S £ ~2Al2C~L
11^- -II2 4- »I xn- *||2 + (18) и £ 1 . (25)
3 2 * 4 2 2 8¿V3m(m)
+^L xn -x || + mM(lU)|h (a + s +a ^ Неравенства (10), (25) определяют верхнюю границу для нормы элемента v, участвующего в истоко-
Тем самым доказано следующее вспомогательное s ^ Ä
^ образном представлении (7). Фактически требуется,
утверждение. , ~„ „ ,
J г чтобы пробный элемент £ был не слишком далек от
Теорема 1. Пусть выполняется условие 1 и соот- решения x*. Определим тешрь клтты q, l , C сле-
ношения (2), (3), (10), (16), (17). Предположим, что дующим образом:
xn eWR (x ), тогда имеет место оценка (18). 1 a 8M(m)|V||2 26
q 1 „ am , l = ——2 , C = . ( )
8 6L q am
3. Покажем теперь, что при выполнении соответствующих условий на параметры процедуры (6) Согласно (23), (25), для константы C справедли-и погрешности S , A, с подходящими постоянными ва оценка
q е (0,1), l, C > 0 имеют место соотношения: ^ £ 1 i 1 R21 (27)
||xn - x* ||2 £ lqn + Cm(A + S + a2), " a 124L ' 4a J
„ , Отметим, что соотношения (23), (24), (26), (27) xn eWR(x );n >0. (19)
обеспечивают выполнение условия (21), поскольку
Предположим, что утверждение (19) справедливо a
для n = 0 и некоторого номера n>0 и покажем, что l + C m(A + S + a ) =LLLfq + тогда:
4P , n+1 ^ /. n 2\ ^ ( a 2ö 32R2L2q a
-x II £lq + Cm(A + S + a2), +Cml-2-+ a2 1 = ^ 1
XM , 1 "
п+1 II 4 ^ > ^ 24 Ь2Ст 0 61} д 24Ц2
хп+1 е0я(х*'). (20) 2 я2 3Я212 Яа2т „2
Заметим, что неравенство +С та <~ + , . т2 + ~ 2 - Я .
12 2 24Ц 4а т
( + Ст(А + 5+а )) <Я, (21) Подставляя второе равенство из (26) в правую часть
в силу (19) обеспечивает принадлежность точки неравенства (22) и утатъшая оценки (24), (27), им^^
хп шару °(х>). № (18), (19) шлучае^ ||хп+1 - х12 < 1дп (1 - 1ат + 3ЦУ
и ц2 ( 1 V \ V 4 8 -ат\удп + Ст(д + 3+а2
||х„+-х*\\ <|1 - —с
4 ' I aq 2Cma
+3 L2m[lq" + Cju(D + S + a2 )) + +mM (u)| H|2 (Д + 5 + a2 )< +C
3 n ^ и c n\2 è 6L2q+ 24L2Cu
2ua2
+—s—+
24L au
f' 1 CiL2 u2 a L2u2a2 M (u)| MI "au
1--au +-i-+ —S-+-u-y—ö—
è 4 64L Cu 64L au 8M(u)|H| У
< lqn - 4aU+ lL2u(lq + 2Cu(D + d+a2 ))^+ (22) u(D+S+a2 )< lq" |l-—au^ + c|i- —2au)u(D+ô + a2\
Пользуясь (23) и (26), окончательно получаем
М.Ю.Кокурин, А.И.Козлов
129
\%п+1 — x'f <Цп+1 + Сщ(А + 5+а2).
Таким образом, установлена справедливость первого из соотношений (20). Наряду с этим условие (21) гарантирует принадлежность точки X +1 шару
(X ), поскольку
^^ — X* | < (Цп+1 + Сщ (а + 5 + а2 ))12 <
1/2
:(l + C¡(á + 8 + a2 )) < R.
* l|2
X„ X
< Цп + Сщ (А + 5 + а2); (29)
Итп®»|X — X*! < Сщ(А + 5 + а2). (30) 4. Обсудим вкратце результат теоремы 2. Пусть параметры а, ¡и выбраны согласно соотношениям (16),
(23), а погрешности А , 5 достаточно малы, так что
А + 8 < da
(31)
- XII < r1 =/l =1
a
6 L
(З2)
пропорциональным V а .Из соотношения (33) заключаем, что точки итерационной последовательности {X,} стабилизируются в окрестности решения X'
с радиусом Г2 , пропорциональным л[а\Ц||. Сопоставляя (32) и (33), видим, что
L2M(|)(d +1) IХП.
Тем самым установлено, что при выполнении сделанных выше предположений соотношения (19) имеют место для всех номеров п > 1. Условия (19) при п = 0 определяют необходимую степень близости начального приближения x0 к решению X .
Следующая теорема подытоживает проведенные выше рассуждения.
Теорема 2. Пусть выполняется условие 1 и соотношения (2), (3), (10), (16), (21), (23), (25), начальное
приближение X0 удовлетворяет условию
12
IX — X»! <(/ + Сщ(А + 5 + а2)) , (28) константы Ц, I ,С выбраны согласно (26). Предположим, что погрешности А, 5 удовлетворяют условиям (17), (24). Тогда для определяемой согласно (6) последовательности {X,} выполняются соотношения:
где й > 0 - фиксированная постоянная. При выборе начального приближения X0, согласно условию
неравенство (28) выполняется автоматически. Соотношение (30) с учетом (31) и последнего равенства в (26) гарантирует выполнение оценки
limи®¥|xn - x*|| < r2 yj8aM(d +1) ||v|| .(33) В силу (32), начальное приближение x0 можно выбирать из окрестности x* c радиусом r,
Таким образом, отношение радиуса окрестности стабилизации итераций (6) и радиуса окрестности выбора начального приближения x0 тем меньше, чем
меньше ||v||, т.е. чем ближе к решению x* взят управляющий параметр Х<еН1. Очевидно, что при фиксированных a, m и достаточно малых А, S выполняются условия (17), (24), (31).
Соотношения (29), (30) означают устойчивость итерационного процесса (6) по отношению к вариации начальной точки в фиксированной окрестности *
решения x , а также к малым погрешностям в задании исходного оператора F. Как следствие, метод (6) не требует сопровождения в виде критерия останова.
Работа выполнена при финансовой поддержке РФФИ (проект 06-01-00282а) и программы «Развитие научного потенциала высшей школы (2006-2008 гг.)» в рамках тематического плана МарГУ (№ 1. 1.06).
ЛИТЕРАТУРА
1. Тихонов А.Н. Методы решения некорректных задач / А.Н. Тихонов, В.Я. Арсенин. - М.: Наука, 1979. - 288 с.
2. Тихонов А.Н. Нелинейные некорректные задачи / А.Н. Тихонов, А.С. Леонов, А.Г. Ягола. - М.: Наука, 1995. - 312 с.
3. Иванов В.К. Теория линейных некорректных задач и ее приложения / В.К. Иванов, В.В. Васин, В.П. Танана. - М.: Наука, 1978. - 208 с.
4. Морозов В.А. Методы регуляризации неустойчивых задач / В.А. Морозов. - М.: Наука, 1987. - 216 с.
5. Engl H.W. Convergence rates for Tikhonov régularisation of non-linear ill-posed problems / H.W. Engl, K. Kunisch, A. Neubauer // Inverse problems. - 1989. - V5. - P. 523-540.
6. Neubauer A. Tikhonov regularization for nonlinear ill-posed problems: optimal convergence rates and finite-dimensional approximation / A. Neubauer // Inverse Problems. - 1989. - V.5. - P. 541-557.
7. Бакушинский А.Б. Итеративные методы решения некорректных задач / А.Б. Бакушинский, А.В. Гончарский. - М.: Наука, 1989. - 128 с.
8. Васильев Ф.П. Методы решения экстремальных задач. Задачи минимизации в функциональных пространствах, регуляризация, аппроксимация / Ф.П. Васильев.- М.: Наука, 1981. - 400 с.
9. Бакушинский А.Б., Кокурин М.Ю. Итерационные методы решения некорректных операторных уравнений с гладкими операторами / А.Б. Бакушинский, М.Ю. Кокурин. - М.: Едиториал УРСС, 2002. - 191 с.
10. Engl H.W. Regularization of inverse problems / H.W. Engl, K. Kunisch, A. Neubauer. - Dordrecht; Kluwer, 1996. - 320 p.
r
2
