126
Естественные науки
УДК 517.988.68
УСТОЙЧИВЫЙ ИТЕРАЦИОННЫЙ МЕТОД ГРАДИЕНТНОГО ТИПА ДЛЯ АППРОКСИМАЦИИ РЕШЕНИЙ НЕРЕГУЛЯРНЫХ НЕЛИНЕЙНЫХ УРАВНЕНИЙ В ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ
М.Ю. Кокурин, А.И. Козлов
Марийский государственный университет, Йошкар-Ола
Предлагается итерационный метод решения произвольных нерегулярных нелинейных уравнений с неточно заданными гладкими операторами в гильбертовом пространстве. Метод является регуляризованной модификацией стандартного градиентного процесса с постоянным шагом. В предположении истокообразной представимости решения устанавливается стабилизация вырабатываемых приближений в малой окрестности этого решения. Получены оценки диаметра окрестности в терминах параметров метода и величины погрешности.
An iterative method for solving arbitrary irregular nonlinear equations with smooth noisy operators in a Hilbert space is suggested. The method is a regularized version of the standard gradient process with a constant stepsize. Assuming that a solution possesses the sourcewise representation we establish stabilization of iterative point in a small neighbourhood of the solution. We also give the estimate for the diameter of the neighbourhood in terms of the method’s parameters and the error level.
1. Рассмотрим операторное уравнение:
F(x) = 0,хеЯр (1)
где F : Нг—> Н2 - нелинейный дифференцируемый по Фреше оператор, Нх, Н2 - гильбертовы пространства. Считаем, что решение исходного уравнения х* существует, хотя, быть может, не является единственным. Предполагается, что оператор F дифференцируем по Фреше, причем для всех точек
х,усПк(хЦ (геЯ, :||г-.\'*||< /?| производная F'(x) удовлетворяет условию Липшица:
\\F'(x)-F'(y)\\<L\\x-y\\. (2)
Никаких условий регулярности на оператор F в окрестности решения не налагается, поэтому задача (1) является в общем случае некорректно поставленной. Считаем, что вместо точного оператора F доступно лишь его приближение F:Hx—>Fl2, дифферен-
цируемое по Фреше и удовлетворяющее неравенствам (2) и условиям:
||я(х)-Г(х)||<5,
<8
Ух,уе ОдО*). (3)
Как известно [1], [2], классический метод Тихонова аппроксимации X* базируется на последовательном при различных значениях а решении регуляризованной задачи:
т1пФ«(Хь
xeHx
ф«(*) = ур(х)|2 +\а\х~%\(4)
Здесь а > 0 - параметр регуляризации, £ е Нх -
управляющий параметр, играющий роль начальной
$
оценки X . При изучении задачи (4), как правило,
предполагается, что оператор F обладает свойством слабой замкнутости [1-6]. При наличии у оператора
F свойства слабой замкнутости и подходящем согласовании параметра а с погрешностью 8 в указанных работах устанавливается существование элементов X ^ , реализующих глобальный минимум
функционала (4) на Hv и сильная сходимость этих
элементов при 5а0 к решению х*. Практическую реализацию описанной схемы в случае общего нелинейного оператора F существенно осложняет необходимость решения трудоемкой в вычислительном плане задачи глобальной минимизации функционала
Фа. В частном случае выпуклого функционала
</>(x)=±\\F(xf
для аппроксимации решения х
применимы методы итеративной регуляризации [7-8] вида:
*^0 ^ ^15 ^п+1 ^п Fn® ап С^и) 5
Ф ^{xn)^P\x)F{x)+a{x-^). (5)
Здесь последовательность параметров регуляризации а„ выбирается так, что а >гу >0, Пт а п = 0 ; ве-
п 1 1 У1—> со
личина шага JUn > 0, Нт /Л = 0. Практическая реа-
72-» оо
лизация процесса (5) требует сопровождения итераций
М.Ю.Кокурин, А,И,Козлов
127
критерием останова N=N(S) с выбором в качестве аппроксимирующего X* элемента точки XN(gy
В настоящей работе рассматривается итерационный процесс (5) с постоянным шаговым множителем и постоянным параметром регуляризации, т.е. при
jun=ju>0, ап =а>0: х0еНх,
=х„ -n{F'*(xn)F(xn) + a(xn -I)). (6) Ниже покажем, что при подходящем выборе /Л, ОС точки последовательности (6) стабилизируются в малой окрестности решения X* уравнения (1), и оценим ее радиус. Выпуклость функционала ф и слабая замкнутость операторов F, F здесь не предполагаются.
Ключевую роль в проводимом ниже исследовании асимптотических свойств процесса (6) играет следующее условие приближенной истокопредстави-
мости начальной невязких* — %.
Условие 1. Имеет место представление:
х* = Fr*(x*)v + w,v е Н2,
we Нх, Н| < А. (7)
Условия вида (7) широко применяются при исследовании сходимости метода Тихонова и его итерированных вариантов вида (5) (см. [9, 10]).
2. Получим вспомогательные оценки, необходимые для исследования асимптотических свойств итерационного процесса (6). Предполагая, что
Хп е ClR(x ) , с использованием (6) запишем:
Ih„ -Т||2 =||(х„-x,)-pi(F,\xn)F(xn)+a(xn-£))|| = =\\х„-х f -2M(F'\xn)F(xn)+a(xn + (8)
+М2I F'\xn)F(xn) + а(хп -1)||2 •
Оценим отдельные слагаемые в правой части последнего равенства. С учетом представления
F(x) = F(y) + F'(x)(x -у) + G(x,у) ,
||^(х,у)||<^Г||х-7||2,
имеем
2 ц (F'\x„)F(x„) + а - £),х„ - х*) =
= 2^F\xn)F(x) + F'\xn)F(xn)(xn -х) +
+F'\xn)G(xn,x) +а(хп -х)+а(х* =
= 2ац\хп-х*||2 +2ju(F'*(xn)F(x*) +
+F'*(xn)F(xn)(xn- х*) + (9>
+F'\xn)G(xn,x*) + +
+a(F'*(x*)-F'\xn))v + aw,xn-x).
Пусть управляющий параметр J; е Нх выбран так, что для элемента v в (7) выполняется условие:
||v||<min{X,ll- <10»
Из (2), (3), (7), (9) с учетом (10) получаем оценку:
2 ц{Р'\хп)Р{хп) + а{хп*
> 2а//|к -х*|| -2ц(-1Р'(х„) )|| +
-\\Пхпххп - x*)||(||f(x*)||+р(хяЦ+НИ) -
-2a^^||v||^z|x„-x*| + (5j +а|||х„-х ||> О1)
аи Ik - х1|2 - {'5 + kLIk " *11+1И1а ) “
-lap ((5 + АЦхп - х*||.
Пользуясь известными неравенствами
\ab\<-a2+—b2’£ >0;
1 1 2 2е
(а, +...+ ат)2 < т(а2 + ...+ а2т)(12)
из (11) получаем
2у{Р'Ухп )F(xJ + - &,хп - х‘)
1|2 3 2 "
>
-TaAxn~x\ ~ ~
2 о
ц{52 + |v|2a2 j-2aiu(S + А)2.
(13)
Перейдем к оценке последнего слагаемого в правой части (8). Из (2), (3), (7), (12) следует
М21 F'\xn)F(xn) + -|)||
<
-^р \ \F”(xn)(F(хп)- F(x'))|| +
(14)
+<х2||хи-х*|| +а2 ||х*
А Л
2N +а )||х„-х +
+2N2S2 + 2а ||v||2 + А2)). На основании (8), (13), (14) имеем:
|к+, <[\--ац+з(2N4 )•
хп -х ( + ^Рм||*„ -х'( +F(s2+ И2а2) -
(15)
+2aju(S + Л)2 + 6ц2{n2S2 ||v||2 + А2
Оценку правой части неравенства (15) продолжим в предположении, что шаговый множитель р и погрешности 5 , А удовлетворяют следующим условиям:
128
Естественные науки
О <р<
а
12(2 N4 + a2)
(ва + 6/ла2)А+( |+ 2а + 6juN2 )<5
(16)
(17)
ХП+1
■xt <
, 1
1—сш 4 И
+
< lqn+i + СрА + 8 + а2у
xn+1
Q,(* ).
\\Х„^ -X
+-R
ju(qn + СрА + S + oi2^j
+^M(^)||v||2(a + <5 + a2)<
<lqn \-—aju+-Tju^lq + 2Cju^A + 5 + a2^j
c(l--a/7\+-L2ju2C2(A+5+a2) +
<^ + 6//#2J||v||2.
Обозначим далее
M(iu) = ^ + 6N2iu ■
С учетом условий (16), (17) и введенного обозначения, из (15) получаем:
/ 1 л.
4)8
+MM(ju)\H2)(a + S +а2).
Потребуем выполнения следующих дополнительных ограничений на параметр регуляризации а, погрешности А, <5 и величину ||v||:
а < min<{ 3 R
A +S <
Rz
8
32М(»)Ц’М
а
(18)
+—Z2)t/|jcw - jc*|| + /лМ(/л)||у||2(д+ <5 +а2у
Тем самым доказано следующее вспомогательное утверждение.
Теорема 1. Пусть выполняется у споет 1 и соотношения (2), (3), (10), (16), (17). Предположим, что
хп е Q^(jt), тогда имеет место оценка (18).
3. Покажем теперь, что при выполнении соответствующих условий на параметры процедуры (6) и погрешности д, А, с подходящими постоянными q е (0,1), /,С > 0 имеют место соотношения:
||хи — х I <lqn + С/л(а + 8 + ос2у
хп eQR(x*);n>0. (19)
Предположим, что утверждение (19) справедливо для п = 0 и некоторого номера п>0 и покажем, что тогда:
II *1)2
24 ИСр
1
SLpM(fi)
(23)
(24)
(25)
Неравенства (10), (25) определяют верхнюю границу для нормы элемента v, участвующего в истокообразном представлении (7). Фактически требуется, чтобы пробный элемент £ был не слишком далек от
решения х*. Определим теперь величины q,i ,с следующим образом:
q = l-^ap , i - & щ £ = 8M(/i)||v|| (26)
ар
8
6L2q
Согласно (23), (25), для константы С справедлива оценка
1 [ 1 R2
С <
ар [ 24Z2 ’ 4а
(27)
Отметим, что соотношения (23), (24), (26), (27) обеспечивают выполнение условия (21), поскольку
а
I + Ср ^ А + S + а2 ^ —
6 ]}q
+С р
а 2
- + сг
(20)
24 IfCju
}2R2L2q а
+ ■
J
6 J}q 24 L2
+
Заметим, что неравенство
( + Cju(A + 5+a2)f2 <R, (21)
в силу (19) обеспечивает принадлежность точки хп шару Q^(x*). Из (18), (19) получаем:
С||2 < j 1 -—ap\ilqn + Cp(k + 8 +а2у +
„ 2 R 3 RZLZ Rap
+Сра2 <— +-------*- +----
2 24Z2 4 а2р
Подставляя второе равенство из (26) в правую часть неравенства (22) и учитывая оценки (24), (27), имеем:
хп+1-х\\
' \ 3 г2
1— н— и ■
v 4 8
f aq 2Cjua33 °--~2
6 Llq 24
J J
2 ца 24 L2aju
+C
л 1
1 —ац +
Cl}ц1 a x Трос2 x
i i —
(22)
4 64 L2Cju64 SM(ju)\\v
■ju(A+5+a2}<lqn\ l-^a/г J+cj J/^A+d+a2).
Пользуясь (23) и (26), окончательно получаем
М.Ю.Кокурин, А.И.Козлов
129
||^7z+i — х I — 1(}П+1 + Сju(А + 8 + ос
Таким образом, установлена справедливость первого из соотношений (20). Наряду с этим условие (21) гарантирует принадлежность точки хп+1 шару
O.R (х*), поскольку
Цх^^ — х + Сfi + 8 + сс ^ <
<( + С/л(А + д + а2)(2 <R.
Тем самым установлено, что при выполнении сделанных выше предположений соотношения (19) имеют место для всех номеров п> 1. Условия (19) при п = 0 определяют необходимую степень близости начального приближения х0 к решению х*.
Следующая теорема подытоживает проведенные выше рассуждения.
Теорема 2. Пусть выполняется условие 1 и соотношения (2), (3), (10), (16), (21), (23), (25), начальное
приближение х0 удовлетворяет условию
||х0 -х*||< ^/ + С,и(Д + 8 + а2^ > (28)
константы q, I ,С выбраны согласно (26). Предположим, что погрешности А, 8 удовлетворяют условиям (17), (24). Тогда для определяемой согласно (6) последовательности {xw} выполняются соотношения:
||хи - х* I < lqn + С ju (Л + 8 + а2 У’ (29)
1ш1и->оо||хя-х*|| <С/л(а + S + a2y (20)
4. Обсудим вкратце результат теоремы 2. Пусть параметры а,/Л выбраны согласно соотношениям (16),
(23), а погрешности Д , 8 достаточно малы, так что
Д + (5 < da2,(31)
где d > 0 - фиксированная постоянная. При выборе начального приближения х0, согласно условию
lh-*'IN <32>
неравенство (28) выполняется автоматически. Соотношение (30) с учетом (31) и последнего равенства в (26) гарантирует выполнение оценки
Нш п—>00 ||xw -х*||< r2 \J%ocM(/j=)(d +1) ||v|| -(23)
В силу (32), начальное приближение х0 можно выбирать из окрестности х* с радиусом Гх,
пропорциональным л[а . Из соотношения (33) заключаем, что точки итерационной последовательности стабилизируются в окрестности решения X*
с радиусом Г2 , пропорциональным л[а ||v||. Сопоставляя (32) и (33), видим, что
К = л/48 ТщТбб +1) |Н| •
ri
Таким образом, отношение радиуса окрестности стабилизации итераций (6) и радиуса окрестности выбора начального приближения х0 тем меньше, чем
меньше ||v||, т.е. чем ближе к решению х* взят управляющий параметр Очевидно, что при фикси-
рованных а, JLI и достаточно малых А, 8 выполняются условия (17), (24), (31).
Соотношения (29), (30) означают устойчивость итерационного процесса (6) по отношению к вариации начальной точки в фиксированной окрестности
решения X , а также к малым погрешностям в задании исходного оператора F. Как следствие, метод (6) не требует сопровождения в виде критерия останова.
Работа выполнена при финансовой поддержке РФФИ (проект 06-01-00282а) и программы «Развитие научного потенциала высшей школы (2006-2008 гг.)» в рамках тематического плана МарГУ (№ 1.1.06).
ЛИТЕРАТУРА
1. Тихонов А.Н. Методы решения некорректных задач / А.Н. Тихонов, В.Я. Арсенин. - М.: Наука, 1979. -288 с.
2. Тихонов А.Н. Нелинейные некорректные задачи / А.Н. Тихонов, А.С. Леонов, А.Г. Ягола. - М.: Наука, 1995. - 312 с.
3. Иванов В.К. Теория линейных некорректных задач и ее приложения / В.К. Иванов, В.В. Васин, В.П. Танана. - М.: Наука, 1978.-208 с.
4. Морозов В.А. Методы регуляризации неустойчивых задач / В.А. Морозов. - М.: Наука, 1987. - 216 с.
5. Engl H.W. Convergence rates for Tikhonov regularisation of non-linear ill-posed problems / H.W. Engl, K. Kunisch, A. Neubauer // Inverse problems. - 1989. - V5. - P. 523-540.
6. Neubauer A. Tikhonov regularization for nonlinear ill-posed problems: optimal convergence rates and finite-dimensional approximation / A. Neubauer 11 Inverse Problems. - 1989. - V.5. - P. 541-557.
7. Бакушинский А.Б. Итеративные методы решения некорректных задач / А.Б. Бакушинский, А.В. Гончарский. - М.: Наука, 1989.- 128 с.
8. Васильев Ф.П. Методы решения экстремальных задач. Задачи минимизации в функциональных пространствах, регуляризация, аппроксимация / Ф.П. Васильев.- М.: Наука, 1981. - 400 с.
9. Бакушинский А.Б., Кокурин М.Ю. Итерационные методы решения некорректных операторных уравнений с гладкими операторами / А.Б. Бакушинский, М.Ю. Кокурин. - М.: Едиториал УРСС, 2002.- 191 с.
10. Engl H.W. Regularization of inverse problems / H.W. Engl, K. Kunisch, A. Neubauer. - Dordrecht; Kluwer, 1996. - 320 p.