CC BY
76
Вычислительная математика
УДК 519.612
ПРОЕКЦИОННЫЙ РЕГУЛЯРИЗИРУЮЩИЙ АЛГОРИТМ для РЕШЕНИЯ НЕКОРРЕКТНЫХ ЛИНЕЙНЫХ АЛГЕБРАИЧЕСКИХ СИСТЕМ БОЛЬШОЙ РАЗМЕРНОСТИ
А. И. Жданов, A.A. Иванов
Самарский государственный аэрокосмический университет им. ак. С. П. Королёва (национальный исследовательский университет), факультет информатики (№ 6),
443100, Самара, ул. Молодогвардейская, 151.
E-mails: zhdanov@smr .ru, ssauivanov^gmail. ru
Рассматривается итерационный проекционный алгоритм решения некорректных систем линейных алгебраических уравнений. Данный алгоритм основан на преобразовании регуляризованной нормальной системы уравнений к эквивалентной расширенной регуляризованной нормальной системе уравнений. Предлагаемый алгоритм позволяет эффективно решать некорректные задачи большой размерности.
Ключевые слова: итеративный проекционный метод, некорректные задачи, ре-гуляризованные решения.
1. Постановка задачи. Рассмотрим стандартную задачу регуляризации А. Н. Тихонова
где А € Мтх", / € Мт, а > 0 —параметр регуляризации, || • || = || • ||2 — евклидова векторная норма.
При большой размерности матрицы А и, возможно, её сильной разреженности часто практически единственно возможным способом решения задачи (1) являются итерационные методы. Однако все итерационные алгоритмы решения задачи (1) основаны на решении уравнений Эйлера (регуляризованных нормальных уравнениях)
где т — знак транспонирования, /„ — единичная матрица порядка п.
С учётом того, что число обусловленности задачи (2) равно приблизительно квадрату числа обусловленности исходной задачи (1), многие плохо обусловленные задачи вида (1) решить известными итерационными методами практически невозможно.
В данной работе предполагается, что параметр регуляризации а известен. Например, эффективным способом выбора параметра регуляризации является результат, полученный В. А. Морозовым и С.Ф. Гилязовым [1]. В соответствии с этим подходом параметр регуляризации а выбирается а = к, где к — величина, характеризующая погрешность задания элементов матрицы А.
2. Метод расширенных регуляризованных нормальных уравнений. Как показано
Александр Иванович Жданов (д.ф.-м.н., проф.), зав. кафедрой, каф. прикладной математики. Андрей Александрович Иванов, магистрант, каф. прикладной математики.
min {\\Аи - f\\2 + а\\и\\2} ,
иЕКп
(1)
(2)
в [2], регуляризованную нормальную систему уравнений (2) можно записать в виде
А™ -ш1п ) ( и ) = ( 0 ) ^ = ^
где ш = л/а.
Матрица Аш системы (3) при всех а > 0 невырождена [2] и её единственным решением является вектор г* = (у~1 ,и1)т, где и* = (АтА + а1п)~1Ат/, у* = г* = / — Аи*.
Спектральное число обусловленности регуляризованной нормальной системы (2) составляет величину
«2 (А^ А + а1п) —
+ а
_2
где Отт и <гтах — минимальное и максимальное сингулярные числа матрицы А соответственно. При этом спектральное число обусловленности расширенной регуляризованной нормальной системы (3) существенно меньше и равно величине К2(АШ) = = л/ К2(А^ А + а1п).
3. Проекционный алгоритм. Запишем расширенную систему (3) в виде системы двух уравнений:
{ш1т:А)г = /, (4)
(АТ: - ш1п)г = 0. (5)
Для решения системы (4), (5) используем блочный вариант алгоритма Качмажа [4, 5] (проекционный алгоритм):
%г,1 = %г,0 \(í^JІ1m•A^)Z.ifi /], (6)
(7)
Zi,t = £¿,4-1 - А,4-1 ( а* 1
О _ К-Ь-^Є4-іНі-1 ^_оо „,1 — 1 и/ т Т Л Т 112 ’ 2, о, ..., п + 1,
(ча4_і, иіе1-_-у) ||
^¿+1,0 ^¿,п+1? ^ 1? 2, ... , (8)
где * — номер внешних итераций, а і — номер внутренних итераций (общее число внутренних итераций в алгоритме (6), (7) равно п+ 1), (еі, ег,..., е„) = А = = (аі, аг,..., а„); (•)+ — псевдообратная матрица.
Матрица невырождена при всех а > 0 [2], следовательно [4, 5], ^¿,п+1 *—-г* при любом начальном значении вектора гі о-
Если обозначить и = (и^\ ..., м(-"^)т, то учитывая, что вектор г = (ут,мт)т, рекуррентное уравнение (7) можно записать в виде двух рекуррентных уравнений:
Т (і—1)
Уі,і — Уі,і— 1 Рі,і— 1СМ— її Рі,і— 1 — Ц _ 112 і 2 7 ^ '
М(^1} - м(‘_1) “¿,4 — “¿,4-1
І «і — 1II + ш
■ її і = 2, 3,..., п + 1. (10)
Так как у = ш 1г, где г = / — Ам, рекуррентные уравнения (9), (10) можно преобразовать к виду
т (*-1)
а4-1Г*,*-1 аиг,Ь-1 ^г,£ — ^г,£—1 Рг^— 1 &£— 1 ? Рг,Ь— 1 — П ¡То | ? (Д1)
||а4_1|г + а
(12)
В [5] отмечалось, что подразделение итерационных шагов и на внутренние и внешние в уравнениях (11), (12) является необязательным, и вычислительный процесс можно представить как расчёт «микроитераций» по некоторому одному параметру к = 1,2.... Для сходимости таких приближений необходимо только, чтобы в последовательности векторов ai, <22,... участвовали все столбцы матрицы А. Более того, будет показано, что при выполнении некоторого дополнительного условия согласования начальных условий ио = ии го = ri o использование первого рекуррентного уравнения (6) в итерационном процессе вообще не требуется. Уравнение (4) используется только для согласования начальных значений ио и го.
Пусть к = 1,2... и j(k) = (к — l)mod(n) + 1. Следовательно, к_1 являет-
ся периодической последовательностью вида 1,2,..., гг, 1,2,..., гг,.... Тогда рекуррентные уравнения (11), (12) можно записать в виде
В уравнениях (13), (14) индекс к и индексы г, t и п в уравнениях (11), (12) связаны соотношением к = (i — 1)п + t — 1, а i - 1 = j(k). Очевидно, что тогда г о = г^о
И = У>1}0 •
Введем вектор &к = (rJ,uJ)T- Тогда рекуррентные уравнения (13), (14) можно записать в виде одного рекуррентного уравнения
где во — вектор начальных значений.
Теорема. Пусть в рекуррентном уравнении (15) вектор во = (г^,г(([)т удовлетворяет условию согласования
Доказательство. Докажем по индукции, что из условия согласованности
(16) начальных значений следует выполнение условия согласованности
при любых к ^ 0, где rkW.Uk вычисляются из рекуррентных уравнений (13), (14). При к = 1 из (13), (14) получаем
Таким образом, для к = 1 условие согласованности (17) выполняется.
Пусть (17) выполняется для некоторого произвольного к = V > 1. Покажем, что тогда из справедливости (17) для к = V следует справедливость (17) при к = V + 1. Из рекуррентных уравнений (13), (14) непосредственно получаем
/ ^ А(ии -\- ) (/ Аии) РиЯ'з(1/-[-1) ^7(1'+1)'
Тк ^к— 1 Рк—1&з(к)і Uk = Uk-1 + Pk-lGj(k),
(13)
(14)
где
Рк-1
атГк-і ае](к)ик-1
11 Q'j ( к) 11 О.
к = 1,2..., (15)
11 Q'j ( к) 11 О.
го = / - Аи0.
(16)
Тогда для произвольного начального вектора ио вk —>• при к —>• оо, где в*
Гк = / - Аик
(17)
/ - Aui = / - А(и0 + р0еі) = (/ - Аи0) - poa>i = r0 - poai = г1.
Из этого следует справедливость (17) для любых к (Е N.
Если в рекуррентных уравнениях (6), (7) yitо и о удовлетворяют условию
ШУ i,o = / — Au\ß,
то z 1д = и, следовательно, векторы и из (11), (12) при к = (i — 1 )n + í — 1
полностью совпадает с вектором из уравнения (15). Из справедливости условия
(17) для всех к = 1,2... непосредственно получаем, что ¿¿д = Zitо и рекуррентное уравнение (6) при выполнении условия (16) не требуется.
Окончательно из полной эквивалентности рекуррентных уравнений (11), (12) и (15) при выполнении условия (16) следует справедливость теоремы. □
Выводы. Проекционный алгоритм (15) эффективен при решении задач регуляризации (4) большой размерности, так как для его реализации на одной итерации требуются лишь две матричные операции: скалярное произведение и операция saxpy.
Работа выполнена при поддержке РФФИ (код проекта № 10-01-00723-а).
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Морозов В. А. Алгоритмические основы методов решения некорректно поставленных задач// Вычисл. методы и программирование, 2003. — Т.45. — С. 130-141.
2. Жданов А. И. Об одном численно устойчивом алгоритме решения систем линейных алгебраических уравнений неполного ранга// Вестн. Сам. гос. техн. ун-та. Сер. Физ,-мат. науки, 2008. — №1(16). — С. 149-153.
3. Kaczmarz S. Angenäherte Auflösung von Systemen linearen Gleichunngen // Bull. Acad. Polon. Sei. Lett. A, 1937. — Vol. 35. — P. 355-357.
4. Васильченко Г. П., Светлаков A.A. Проекционный алгоритм решения систем линейных алгебраических уравнений большой размерности // Журн. вычисл. математики и мат. физики, 1980. — Т. 20, №1. — С. 3-10.
5. Ильин В. П. Об итерационном методе Качмажа и его обобщениях // Сиб. журн. ин-дустр. матем., 2006. — Т. 9, №3. — С. 39-49.
Поступила в редакцию 02/IX/2010; в окончательном варианте — 13/Х/2010.
MSC: 65F10
PROJECTION REGULARIZATION ALGORITHM FOR SOLVING LINEAR ALGEBRAIC SYSTEM OF LARGE DIMENSION
A.I. Zhdanov, A. A. Ivanov
S. P. Korolyov Samara State Aerospace University (National Research University), Faculty of Computer Science,
151, Molodogvardeyskaya St., Samara, 443100, Russia.
E-mails: zhdanovasmr.ru, ssauivanovagmail.ru
The iterative projection algorithm for solving ill-posed systems of linear algebraic equations is examined. This algorithm is based on transforming the regularized normal equations to the equivalent augmented regularized normal system of equations. The proposed algorithm can effectively solve ill-posed problems of large dimension.
Key words: iterativ projection method, incorrect problems, regularized solution.
Original article submitted 02/IX/2010; revision submitted 13/X/2010.
Alexander I. Zhdanov (Dr. Sci. (Phys. & Math)), Head of Dept., Dept, of Applied Mathematics. Andrey A. Ivanov, Master Student, Dept, of Applied Mathematics.
