О некоторых итерационных методах высокого порядка сходимости для решения нелинейных уравнений Текст научной статьи по специальности «Математика»

УДК 519.6

О некоторых итерационных методах высокого порядка сходимости для решения нелинейных

уравнений

Т. Жанлав *, О. Чулуунбаатар ^

* Факультет математики и компьютерных наук

Монгольский государственный университет г. Улан-Батор, Монголия

^ Лаборатория информационных технологий Объединённый институт ядерных исследований г. Дубна, Московской обл., Россия, 141980

В данной работе изучены итерационные методы высокого порядка сходимости для решения нелинейных уравнений. Показано, что все методы третьего порядка сходимости эквивалентны эталонному методу Чебышева. Рассмотрены приёмы ускорения сходимости метода Ньютона. На этой основе предложены новые итерационные методы. На тестовых примерах сделано сравнение различных итерационных методов.

Ключевые слова: метод Ньютона, итерационные методы.

1. Введение

Для решения большинства нелинейных задач применяются различные итерационные методы. Одним из хорошо известных итерационных методов является метод Ньютона. Его преимущество состоит в том, что он сходится быстрее, чем метод простых итераций. На практике очень важна не только сходимость итерационных методов, но и их скорость сходимости. В последние годы появилось много итерационных методов [1—10], порядок сходимости которых выше второго. Среди них методы типа Хелли [5, 6], двухшаговые и трехшаговые методы Ньютоновского типа [7-9]. Отличительной чертой этих методов является отсутствие явного вычисления второй и более высоких производных, которые обычно присутствуют в итерационных методах высокого порядка сходимости. В работах [11,12] получены методы Ньютоновского типа третьего порядка сходимости, основанные на аппроксимации определённого интеграла различными квадратурными формулами. В работе [4] предложены многошаговые методы, основанные на различных декомпозиционных техниках. В данной работе показано, что существуют многочисленные итерационные методы третьего порядка сходимости и все они эквивалентны эталонному методу Чебышева третьего порядка точности [13]. В параграфе 3 рассматривается возможность ускорения метода Ньютона. Предлагаются полученные на этой основе дискретные и непрерывные модификации метода Ньютона третьего и четвёртого порядка сходимости. В параграфе 4 на тестовых примерах делается сравнение предложенных в данной работе методов с различными итерационными методами.

Статья поступила в редакцию 6 апреля 2009 г.

Работа выполнена в рамках темы ОИЯИ «Математическая поддержка экспериментальных и теоретических исследований, проводимых ОИЯИ 05-6-1060-2005/2010» и поддержана РФФИ (грант 08-01-00604-а «Математическое моделирование динамики лёгких атомов и молекул под действием быстрых частиц, лазерных импульсов и магнитных полей»).

Авторы благодарят С.И. Виницкого, А.А. Гусева, И.В. Пузынина и Л.А. Севастьянова за сотрудничество и поддержку.

2. Связь между итерационными методами третьего порядка сходимости

Как отмечено выше, в последние годы появилось много итерационных методов третьего порядка сходимости для решения нелинейного уравнения

Дх) = 0. (1)

Покажем, что все эти методы эквивалентны эталонному методу Чебышева точности 0(/(ж„)3):

х + -Х- „ = 01 (2)

Жп+1 п Г(ХП) 2(Г(ХП))3 , п -0'1'... (2)

Известно, что метод Чебышева имеет третий порядок сходимости [13]. Главный недостаток метода (2) состоит в том, что в нем участвует f'' (хп), вычисление которой затруднительно.

Получим методы третьего порядка сходимости, для которых не требуется вычисления второй производной. С этой целью будем использовать аппроксимацию второй производной:

^ (У м а/ (х,, - #Ц_) + У(хп) + а (хп + ) . (3)

2 ч/ЧХп)/ V Г(Хп)) V /'(Хп)У

Пусть /(х) — непрерывная трижды дифференцируемая функция в окрестности точки хп, находящейся близко к точному решению х*. Тогда величина Ап — Дхп)//'(хп) является малой, и разложение в ряд Тейлора даёт соотношение

Цх^АП « ( ь + 2с)/(хп) + а^Г(хп)ДП + (с - а)^(хп)дП + • • • (4)

Для того чтобы аппроксимация (4) была третьего порядка, необходимо выполнение равенства:

6 + 2 с —0, а + с — 1 ^ с— --, а — 1+2. (5)

Подстановка разложения (3) в (2) с учётом (5) даёт однопараметрическое семейство схем третьего порядка сходимости

_ 1

хп+1 — х

( хп)

//(хп)

+0+ »)/(*.)- 2/ (*. + ^

(6)

Рассмотрим частные случаи: 1. При 6 — 0 получим схему предложенную в работе [14]

хп+1 — хп - ут^хпу (*хп) + / (хп - ) . (7)

2. При Ь — -2 получим схему предложенную в работе [9]

хп+1 — хп тут1 V (хп + 1((хп\) - /(хп^ . (8)

//(хп) V V //(хп)у /

3. При Ь = — 1 получим схему

^ = *■— У^ (/('"— + + Ш) ■ <9)

которая является линейной комбинацией схем <7) и (8). Далее запишем схему (2) в виде

- = - — М (1 + ^). <10)

При аппроксимации второй производной по формуле

Г{хп)«//(ж" + У г (хп) (11)

схема (10) принимает вид

х =х _ /(х") Л I 1 f(хп) !'(хп + Дп) — /'(хп)\ (12)

х-+1 - лх„) 11+2(/чх„))2 д„ (12)

порядок сходимости которой равен трём. При Дп = а/(хп)//'(хп) формула (12) записывается в виде

-+1=х-—ет^ ((2—а) >'<х-)+а/' (х-+)). (13)

Пусть а = 1/2, тогда имеем

1(хп) ,, ( . 1 /(хп)\ ПлЛ

хп+1 =хп — ---т-г f хп + - ——- . (14)

° (хп)у

(Г(хп)У V " 2 Г(хп)

При а = -1/2 имеем

/(хп) /„,, ч ,, ( 1 1(хп)\\ пк,

хп+1 =хп — (Ш)? (21 (хп) — 1(хп — 2 Ш))) . (15)

Поскольку

1 + Г'(хп) ¡(хп) = ( Г(хп)/(хп)\-1 + 2 1+ 2{Г(хп))2 = {' 2(Г(хп))2 ) + °(} (хп))>

то из (10) получаем также схему третьего порядка сходимости

х (л Г'(х»Щхп) у1 (16)

^ " ГЫК1 2(/'(хп))2 ) . (16)

Подстановка разложения (3) в (16) с учётом (5) даёт также однопараметриче-ское семейство схем

= _ !2(хп) хп+1 = хп Г(хп) Х

X ((1 — Щ ^ — ) / (х„ — ^) + ^ + ^)) -1 . (17)

Рассмотрим частные случаи:

1. При — 0 получим схему

/2(хп) (,, л г( Дхп) ДА-1

хп+1 —хп - 777-Г /(хп) - / хп - -Г . (18)

( хп) ( хп)

2. При — -2 получим схему

хп+1 —хп - Ш (3/<хп> (хп + Ш) )Г . (19)

3. При 6—1 получим схему

- — хп + Ш (3/ (хп - М) " ' (хп + ))-1 . (20)

Используя аппроксимацию (11) из (16), получаем схему

хп+1 — хп - /(хп) (/' (хп) - + Дп '' '(хп) )"' , (21)

порядок сходимости которого равен трём. Пусть Дп — /(хп)/ /'(хп), тогда из (21) следует

хп+1 — хп - 2/(хп) (э/'(хп) - /' (хп + ^Н)) ) . (22)

Если Дп — -/(хп)//'(хп), то из (21) получаем схему, предложенную в работе [12]

хп+1 — хп - 2/(хп) (/'(хп) + /' (хп - у^)) . (23)

3. Об ускорении сходимости непрерывного аналога метода Ньютона

Рассмотрим непрерывный аналог метода Ньютона для нелинейного уравнения (1)

/'(хп) Уп — -/(хп), (24)

хп+1 — хп + ТпУп, 0 < Тп < 1, П — 0, 1,...

В работе [15] показано, что при оптимальном выборе итерационного параметра п итерационный процесс (24) сходится. При этом известно, что при п — 1 метод (24) имеет первый порядок сходимости, а при п — 1 превращается в метод Ньютона, имеющий второй порядок сходимости. Естественно на начальных шагах итераций с линейной сходимостью, когда тп ^ 1, целесообразно применять какой-либо приём ускорения сходимости, который может дать большой эффект [12,14]. В идейном плане приём ускорения сходимости итераций близок к процедуре Ричардсона уточнения решения на последовательности сеток.

Попытаемся ускорить сходимость метода (24) с помощью уже найденных приближений и хп при к — п. Предположим, что вещественная функция /(х) является достаточно гладкой в окрестности изолированного решения х* . Разложим функцию в ряд Тейлора в окрестности решения

( х*)

Дх*) — Дх*) + /'(х*)(х* - х*) + ^^(х* - х*)2 + ■ ■ ■ ,

/■''( х*)

/(хп) — Дх*) + /'(х*)(хп - х*) + (хп - х*)2 + ■ ■ ■

Умножая первое соотношение на хп - х* и вычитая второе умноженное на хк - х*, имеем

х* — х* + —-х*)(хп - х*)Дхх;^) +----, (25)

где

~ _ хfc/(хп) - хп/(хfc) (26)

^ — /(хп) - ¡(хк) . (26)

Из (25) видно, что величина хек, находится ближе к корню х*, чем хк и хп. Конкретно, если хп — х* или — х*, то — х*. Используя (25) при к — п +1 и к — п - 1 , получаем

х* — _ хп+1хп-1 ~х"+1х"-1 +0((х* -хп)3). (27)

хп+1 хп+1 (хп— 1 хп— 1 )

Таким образом, комбинация величин хп—1, хп+1 и хп— 1, хп+1 даёт х* с лучшей точностью, нежели хп+1 и хп+1 в отдельности. Приёмы (26) и (27) в сочетании с основным итерационным процессом (24) позволяют ускорить последний.

Теперь рассмотрим конкретные сочетания основной (24) и вспомогательной (26) итераций. Первым из них является

_ _ /(хп) (28)

хп+1 — хп ^п^ Г, V28/ /'(хп)

хп+1 — хп/(.хп+1) ~хп+1/л(хп), п — 0,1,... (29)

/(хп+1) - /(хп)

Чтобы определить порядок сходимости итерационных процессов (28), (29), перепишем их в виде

еп+1 — еп - тп/(хп2- У), (30)

/'(хп)

хп+1 - х* — 6п + лЬ - /(хп+1)х-п/(хп)(хп+1 - Хп), (31)

где п — хп - х* . Подставляя разложения

СИ 1

/(х*) - /(хп) — -/'(хп)е п + Цх^е п + °(еп),

^/(хп+0 - /(хпЛ —1 1 Л , /''(хп)/(хп) , ^, 2 Л

V — тчхпу I1 + 2( /' ( хп))птп+°(еп);

хп+1 - хп ( хп) 2( ( хп))2

в формулах (30) и (31), получаем

еп+1 — (1 - еп + 0(еп), (32)

п

£ !! /

хп+1 - х* — 2лхп)(1 - тп) еп + °(еп). (33)

Отсюда видно, что итерационный процесс (28) имеет первый порядок сходимости, а процесс (29) имеет второй порядок сходимости. При тп ^ 1 их порядок сходимости увеличивается на единицу.

Итерационные процессы (28) и (29) рассматривались в отдельности. Объединяя их, получим следующие итерационные процессы

( хе п )

хп+1 — хп - Тп , (34)

/'(хп)

х = хп1(хп+1) хп+11(хп) п = 0,1 (35)

¡(хп+1) — ¡(хп)

где хо — заданное начальное приближение к искомому решению х*. Здесь, в отличие от процессов (28) и (29), основным считается (35), а (34) является вспомогательным. При этом легко показать, что

е п+1 = (1 — тп) ёп + 0( ё2п),

° п!

СП I

ёп+1 = Щ^(1— Гп )ё2п + 0(ё1),

где ёп = хп — х*. Следовательно, итерационный процесс (35) имеет второй порядок сходимости, а при т ^ 1 его порядок сходимости увеличивается на единицу. Запишем (34), (35) в более удобном виде, для чего используем представление

хп/(хп+1) хп+1 /(хп) ~ хП+1 хп г / ~ \ _

— хп "77 \ 7~Т~ \1(хп) —

I (хп+1) — /(хп) ¡(хп+1)—1(хп)'

__хп+1 хп г/ \

— хп+1 — !(хп+1 ) — !(хпУ(хп+1).

В результате имеем две итерационных схемы

_ ~ _ /(хп) - _ -__хп+1 хп г(~ ) (36)

хп+1 - хп \ 5 хп+1 - хп /./ \ г / ~ \ J\Xn), (36)

Г(хп) ¡(хп+1) — ¡(хп)

_ - 1(х-п) - __хп+1 — хп г( ) (37)

хп+1 — хп . _ -, хп+1 — хп+1 ——. - —— - J (хп+1). (37)

Г(х-п) 1(хп+1) — /(х-п)

Очевидно, что порядок сходимости схем (36) и (37) равен трём при тп = 1 или тп ^ 1. Оказывается, что можно переходить к непрерывным процессам дискретных схем (36) и (37). Для этого используем аппроксимацию

I (хп+^ — {(хп) >(£п), (38)

хп+1 хп

где хп = ахп+1 + (1 — а)хп, а £ [0,1]. В результате, получим новые итерационные схемы:

хп+1 = хп — Тп г, (~ Г5 / (хЬп)(хп+1 — хп) = — /(хп)5 (39)

Г(хп)

хп+1 =хп — тп {,(х~п\ , ¡'(хп)(хп+1—хп+1) =—¡(хп+1). (40)

/ (хп)

Теперь исследуем сходимость этих итерационных схем. Сначала рассмотрим итерационную схему (39). Из второго соотношения следует, что

ёп+1 = ёп — а'(хп))-1 ¡(хп). (41)

Предположим, что функция /(х) имеет непрерывные производные до четвёртого порядка. Разложим /' (х п) в окрестности точки хп

f ' ''(- )

Г(хп) = /'(хп)+Г(хп)(хп — хп) + (хп — хп)2+0((хп — хп)3). (42)

Аналогично

!(хп) = (хп)

е"п О + Л^п + 0( еп)

2Г(хп) п< вг(хп) п

(43)

Далее, из (39) и (43) следует

_ ( ) _ _ /(хп)

хп хп - &(хп+1 хп ) - & Тп с,/- ч

/'(хп)

& Тп/''(хп) ~2 & Тп/'''(х

п / ~3 I гм ••

_ -(Т Ти е п + 0г//~ \ е п ~аТП~~~\ е п + О( еп). 2/'(хп) 6/'(хп)

Подставляя последнее соотношение в (42), получим

/'(хп) — /'(хп){1 - &т^^гёп + ^ „х

/''(хп) _ + & Тп

/'(хп) еп +2 /'(хп)

х (( //(^Г + атп/'''Ц е~п + °(е~п)}

Если величина ёп является малой, то из последнего соотношения следует, что существует ( /'(хп)) — 1 и имеет вид

(/'(х^п)) —1 — (/'(хп)) —1 | 1 + &Тп ^^ еп

( хе п )

—1 _ ™ —1 ] 1 I__/''(^п) ~ _ & Тп

еп ~ » . / - ч *

2 /'(хп)

х ((1 - 2атп)(^у- + &гп/'''(х^) е! + О^)} . (44)

/'ОМ

Подставляя (43) и (44) в (41), имеем

ёп+1 — (1 - 2 &тп)ёп + О(е~п). (45)

Отсюда итерационная схема (39) в общем случае имеет второй порядок сходимости, а при сттп — 1/2, — третий порядок. В частности при тп — 1

и а — 1/2 схема (39) приобретает вид

__/(хп) (46)

хп+1 хп Т 77 \ V, (46)

+ р х _ /)

что совпадает со схемой, предложенной в работе [11]. Аналогичным образом исследуется сходимость итерационной схемы (40):

-1 _ ЖО, (47)

вп — (1 - Тп)/''(х"+1)[1 + (1 - 2<г)Гп]ёп+

+ 6

3 /''(хп)/''(хп+1)Гп(1 - Тп + (1 - &)(2Тп - 1))+

( хп)

+ /'"(хп+1)(3(1 - &)2тп - (1 - Тп)2)(1 - Тп) е~п + О(е~п).

Из (47) видно, что итерационная схема (40) имеет второй порядок сходимости при тп — 1, а если и — 1, тп — 1, то получаем схему третьего порядка. При и — тп — 1 получаем схему

/(хп) /(хп+1) „ 1

хп+1 — хп - л, хп+1 —хп+1 -г, п — 0,1,..., (48)

/'(хп) /'(хп+1)

имеющую четвертую порядок сходимости.

4. Численные эксперименты

Качество предлагаемых итерационных алгоритмов (36), (37), (39) и (40) проверено на различных тестовых задачах, которые были взяты из работы [3]. Сделано сравнение с известными итерационными процессами со сходимостью третьего и

четвёртого порядка

/1(ж) = ж3 + 4ж2 - 10 = 0, ж* = 1,3652300134140968

/2 (ж) = sin2 ж — ж2 + 1 = 0, ж* = 1,4044916482153412

/з(ж) = ж2 — еж — 3ж + 2 = 0, * ж* = 0,2575302854398607

/4(ж) = cos ж — ж = 0, ж* = 0,7390851332151604

/5(ж) = (ж — 1)3 — 1 = 0, ж* = 2, 0

/б(ж) = ж3 — 10, ж* = 2,1544346900318837

Мж) 2 2 = жеж — sin ж + 3 cos ж + 5 = 0, ж* = —1,207647827130918

/8(ж) = еш2+7ш-30 — 1 = 0, ж* = 3, 0

Таблица 1

Сравнение скорости сходимости итерационных схем по числу итераций

/(ж) жо п в зависимости от схемы, заданной соответствующей формулой

(7), [14] (8), [9] (18) (19) (20) (22) (23), [12] (39) (48)

fi 1 4 4 3 3 3 3 3 3 3

f2 1 16 4 4 3 4 4 4 4 3

f.3 3 4 5 4 5 5 8 4 4 3

/4 1 3 3 3 3 3 3 2 3 2

/5 и 2, 5 4 4 4 3 4 3 4 4 3

1, 5 5 4 4 3 4 6 4 4 3

/г /8 —2 6 5 5 5 6 27 6 5 4

5, 5 32 26 28 14 35 7 30 27 22

В табл. 1 указано число итераций ( п). Итерации были прекращены при выполнение |/(жп)| ^ £ = 10-15. Как видно из табл. 1, качество предлагаемых итерационных схем не хуже, чем ранее известных и они могут быть использованы как альтернативный вариант.

5. Заключение

Изучены итерационные методы высокого порядка сходимости для решения нелинейных уравнений. Получены два основных однопараметрических семейства методов третьего порядка сходимости. На основе полученных методов показано, что все методы третьего порядка сходимости эквивалентны эталонному методу Чебышева. Возможно ускорение итерационного процесса с помощью оптимально выбранного параметра на каждом итерационном шаге.

Рассмотрены приёмы ускорения сходимости метода Ньютона. На этой основе предложены новые итерационные методы до четвёртого порядка сходимости.

Предлагаемые выше итерационные методы применимы для численного решения системы нелинейных функциональных уравнений, если оператор удовлетворяет условиям гладкости и обратимости в окрестности искомых решений.

Литература

1. Aslam N. M., Ahmad F. Numerical Comparison of Iterative Methods for Solving Nonlinear Equations // Appl. Math. Comput. — 2006. — Vol. 180. — Pp. 167-172.

2. Aslam N. M., Inayat N. K. Three-Step Iterative Methods for Nonlinear Equations // Appl. Math. Comput. — 2006. — Vol. 183. — Pp. 322-327.

3. Aslam N. M, Inayat N. K. Some Iterative Schemes for Nonlinear Equations // Appl. Math. Comput. — 2006. — Vol. 183. — Pp. 774-779.

4. An Iterative Method with Cubic Convergence for Nonlinear Equations / N. M. Aslam, N. K. Inayat, S. T. Mohynd-Din, A. Shabbir // Appl. Math. Comput. — 2006. — Vol. 183. — Pp. 1249-1255.

5. Ezquerro J. A, Hernandez M. A. On Halley-Type Iterations with Free Second Derivative // J. Comput. Appl. Math. — 2004. — Vol. 170. — Pp. 455-459.

6. Kou J., Li Y, Wang X. Modified Halley's Method Free from Second Derivative // Appl. Math. Comput. — 2006. — Vol. 183. — Pp. 704-708.

7. Chen J. Some New Iterative Methods with Three-Order Convergence // Appl. Math. Comput. — 2006. — Vol. 181. — Pp. 1519-1522.

8. Homeier H. H. H. On Newton-Type Methods with Cubic Convergence // J. Comput. Appl. Math. — 2005. — Vol. 176. — Pp. 425-432.

9. Kou J., Li Y., Wang X. A Modification of Newton Method with Third-Order Convergence // Appl. Math. Comput. — 2006. — Vol. 181. — Pp. 1106-1111.

10. Kanvar M. V., Kunreja V. K., Singh S. On Some Third-Order Iterative Methods for Solving Nonlinear Equations // Appl. Math. Comput. — 2005. — Vol. 171. — Pp. 272-280.

11. Frontini M, Sormani E. Some Variant of Newton's Method with Third-Order Convergence // Appl. Math. Comput. — 2003. — Vol. 140. — Pp. 419-426.

12. Weerakoon S., Fernando T. G. I. A Variant of Newton's Method with Accelerated Third-Order Convergence // Appl. Math. Comput. — 2000. — Vol. 13. — Pp. 8793.

13. Бахвалов Н. С., Лапин А. В., Чижонков Е. В. Численные методы в задачах и упражнениях. — М.: Высшая школа, 2000.

14. Porta F. A., Ptak V. Nondiscrete Induction and Iterative Processes. — Boston: Pitman, 1984. — Vol. 103.

15. Жанлав Т., Пузынин И. В. О сходимости итераций на основе непрерывного аналога метода Ньютона // Журнал вычисл. матем. и матем. физ. — 1992. — Т. 32, № 6. — С. 846-856.

UDC 519.6

Some Iteration Methods with High-Order Convergence for

Nonlinear Equations

T. Zhanlav *, O. Chuluunbaatar t

* School of Mathematics and Computer Science National University of Mongolia Ulan-Bator, Mongolia t Laboratory of Information Technologies Joint Institute for Nuclear Research Dubna, Moscow Region, Russia 141980

In this paper the iteration methods with high-order convergence for nonlinear equations are studied. It is shown that all the iteration methods with third-order convergence are equivalent to the standard Tchebyshev method. The acceleration of the convergence of the Newton method is also considered. New iteration methods on the procedure discussed above are proposed. Comparison between different iteration methods is given by test examples.

Key words and phrases: Newton method, iteration methods.