Параллельный алгоритм метода циклических встречных прогонок для двумерной области Текст научной статьи по специальности «Математика»

УДК 535.42

ПАРАЛЛЕЛЬНЫЙ АЛГОРИТМ МЕТОДА ЦИКЛИЧЕСКИХ ВСТРЕЧНЫХ ПРОГОНОК ДЛЯ ДВУМЕРНОЙ ОБЛАСТИ

© 2008 Л.В. Логанова

Самарский государственный аэрокосмический университет

Работа посвящена построению параллельного алгоритма метода встречных циклических прогонок для решения сеточных уравнений ленточного вида. Рассмотрен вариант линейного разбиения двумерной сеточной области. Произведено сравнение с известными алгоритмами, выявлены недостатки и достоинства приведенного.

Параллельный алгоритм, метод встречных циклических прогонок

Введение

Математическое моделирование получает все большее распространение в различных областях науки и техники, например, в дифракционной оптике [1]. Развитие вычислительных средств привело к необходимости интеграции методов математического моделирования и современных компьютерных технологий.

Моделирование физических процессов зачастую сводится к необходимости решения систем линейных алгебраических уравнений (СЛАУ) вида Ах = Ь, где матрица А имеет ленточную структуру. Причем круговые, сферические и цилиндрические физические подобласти характеризуются матрицей, содержащей кроме ленты на центральных диагоналях ненулевые элементы в верхнем правом и левом нижнем углах. Переход к реальным задачам больших размеров сопряжен с заметным ростом объема вычислений. Именно этот фактор определяет растущую потребность в применении параллельных вычислительных систем для решения больших и очень больших задач и, как следствие, синтез алгоритмов, определяемых такой архитектурой. Для создания параллельных алгоритмов решения вышеуказанных СЛАУ традиционно используются следующие методы: метод прогонки, циклической редук-ции, декомпозиции. Необходимо обратить внимание на то, что метод прогонки является экономичным, но плохо масштабируемым; метод циклической редукции удовлетворительно масштабируется и вместе с тем имеет повышенный объем коммуникаций, метод

декомпозиции обладает приемлемым объемом пересылок и характеризуется большим объемом вычислений. Данные соображения и тот факт, что ограничение на масштабируемость может быть снято в случае многомерной сеточной области, был определен выбор в пользу применения метода прогонки для решения СЛАУ с матрицей ленточного вида.

В работах [2-4] приведены параллельные алгоритмы данного метода. Наряду с несомненными достоинствами каждый из них имеет и недостатки.

Так применение метода правой прогонки из работы [2] непосредственно для одномерной (Ш) сеточной области невозможно. Для случая линейного разбиения одномерной сеточной области возрастает время простоев. Метод встречных прогонок не может быть применим для решения разностных уравнений с циклическими граничными условиями [3], имеет ограничение на число задач (четное) [4].

В данной работе предложен параллельный алгоритм метода встречных циклических прогонок, являющийся развитием алгоритмов из [3], [4]. При этом длительность вычислений по сравнению с алгоритмом из работы [4] не увеличивается и предъявляются относительно низкие требования к объему оперативной памяти вычислительной системы. Целесообразность создания алгоритма данного метода определяется областью его применения:

- при аппроксимации краевых задач для обыкновенных дифференциальных уравнений второго порядка с переменными (периодичными) коэффициентами:

ауг -1 - еуг + Ъ,у1 +1 = -/,

а ф 0, Ъ Ф 0, г = 0, ±1, ±2,...,

аг = аг + N, Ъг = Ъг + N,

Сг = Сг + N, £ = £г + N

- реализация разностных схем для уравнений с частными производными в цилиндрических и сферических координатах.

Параллельный алгоритм для одномерной сеточной области

Прежде чем приступить к рассмотрению параллельного алгоритма метода встречных циклических прогонок для многомерных областей, обратимся к параллельному алгоритму данного метода для одномерной сеточной области. Функциональная декомпозиция метода встречных цикличе-

Задача 1 ос р у

Задача 2 k Л Ф

а)

Задача 1 U,V

Задача 2 U,V

в)

Задача 1 Y,

Задача 2

ских прогонок определяется спецификой использования в ней алгоритма из [5]. Параллельный алгоритм для одномерной сеточной области подробно изложен в работе [4]. Кратко приведем основные моменты данного подхода.

Произведем разбиение одномерной области данных ш1 на равные подобласти ш| и ш2 между двумя задачами параллельного алгоритма. Пусть первая задача вычисляет про-гоночные коэффициенты аг, Рг., уг и иг при 1 < г < g, вторая Сг, Лг, Уг и при

g +1 < г < N, где g - номер последнего узла подобласти ш1, N - номер последнего узла областей ш1 и ш2 .

Задача 1 а (3 у

Задача 2

Задача 1

Задача 2 Un-1> Vn_J

Задача 1 Y

Задача 2 Y

д) е)

Рис. 1. Этапы вычислений по двухзадачному параллельному алгоритму, реализующему метод встречных прогонок на одномерной сеточной области

Вычисления по алгоритму включают: вычисление коэффициентов а, в, у, С, п, ф (прямой ход прогонок, рис. 1а), обмен данными (крайними коэффициентами аё+1, Рё+1, у^ь С§+1, %+ь Фё+1, рис. 1б), вычисления зна-

чений сеточных функций и, V (обратный ход, рис. 1в), пересылка дополнительных данных и^ь У^ (рис. 1г), вычисление у0, пересылка у0 (рис. 1д) и нахождение окончательного решения (рис. 1е). При этом обе за-

дачи производят вычисления одновременно, за исключением вычисления у0. Простои при данном подходе отсутствуют, однако алгоритм не масштабируется.

Ускорение приведенного двухзадачно-го алгоритма оценивается величиной

5 =

С МЫ Та

С1МЫ Та + 3Ы т

где М - размерность СЛАУ, С1Мта - длительность расчета по последовательному алгоритму [5], та - время выполнения одной

операции с плавающей точкой, тк - длительность одной коммуникации между задачами алгоритма в рамках пакетной модели. При пакетной модели передачи [6] данных время передачи некоторого объема данных остается неизменным, если этот объем не превышает размера пакета.

Состоятельность данного алгоритма подтверждается результатами вычислительных экспериментов, которые приведены на рис. 2.

50000 70000 90000 110000 М

Рис. 2. Зависимость ускорения параллельного вычислительного процесса от размера сеточной области

Полученное ускорение для исследуемого алгоритма соответствует закону Амда-ла, согласно которому оно не должно превышать 2.

Например, для всех размерностей сеточной области, начиная с М=50000, ускорение предложенного алгоритма превышает 1,5.

Параллельный алгоритм для двумерной сеточной области, основанный на методе встречных циклических прогонок с линейным разбиением

Для двумерной области ю2 ограничение на масштабируемость снимается. В работе [6] приведен параллельный алгоритм метода встречных прогонок для ю2. Здесь он модифицирован на случай СЛАУ с трехдиаго-нальной матрицей и ненулевыми элементами

в верхнем правом и левом нижнем углах. Если алгоритм состоит из двух задач, то каждая СЛАУ в продольном направлении (прогонки по строкам) решается одновременно обеими задачами. Вычисления в поперечном направлении (прогонки по столбцам) являются независимыми и не сопровождаются коммуникациями. Пусть размер сеточной области ю2 будет ЫхМ узлов. Линейное разбиение выполним по М. Тогда ускорение алгоритма составит

5 = ■

2С МЫ Та

С МЫ Та + 6 N Т

Для алгоритма из 4 задач производится линейное разбиение сеточной области, представленное на рис. 3. Первая и последняя за-

дачи начинают прямой ход без принятия прогоночных коэффициентов, остальные задачи перед прямым ходом принимают про-гоночные коэффициенты, выполнив необходимые вычисления, передают их. Задачи под номерами р/2 и р/2+1 (р - число задач) начинают обратный ход принятием прогоночных коэффициентов друг от друга. Вычислив значения сеточных функций, передают их

задачам р/2-1 и р/2+2. Остальные задачи перед обратным ходом принимают значения сеточных функций, выполнив необходимые вычисления, передают их. Кроме того, задача 4 по завершении обратного хода передает значения сеточных функций задаче 1, которая вычисляет у0 и пересылает его остальным задачам. После чего производится вычисление решения.

Задача 1 Задача 2 Задача 3 Задача 4

Задача 1 Задача 2 Задача 3 Задача 4

* *

1

2 3

1

2 3

а)

Задача 1 Задача 2 Задача 3 Задача 4

* *

б)

Задача 1 Задача 2 Задача 3 Задача 4

1

2 3

1

2 3

в)

Задача 1 Задача 2 Задача 3 Задача 4

Y0 * * *

г)

Задача 1 Задача 2 Задача 3 Задача 4

д)

Задача 1 Задача 2 Задача 3 Задача 4

е)

1

2 3

ж)

Рис. 3. Этапы вычислений по четырехзадачному параллельному алгоритму, реализующему метод встречных прогонок на двумерной сеточной области

Рассмотрим подробнее этапы вычислений для алгоритма из 4 задач, учитывая сказанное выше о пересылках данных. На первом шаге задачи 1,4 начинают прямой ход прогонки для строки 1, задачи 2,3 простаивают (рис. 3а). На втором - задачи 2,3 продолжают прямой ход для строки 1, задачи 1,4 выполняют прямой ход для строки 2 (рис. 3б). Третий шаг характеризуется простоем задач 1,4 и началом обратного хода для строки 1 задачами 2,3 (рис. 3в). Четвертый шаг - прямой ход, выполняются задачи 1,4 для строки 3, задачи 2,3 для строки 2 (рис. 3г). Пятый шаг - все задачи выполняют обратный ход (рис. 3д). После этого прямой и обратный ходы чередуются, пока задачи

2.3 не произведут прямой ход прогонок для последней строки. Каждый раз по завершении обратного хода задачами 1,4, задача 1 получает значения сеточных функций от задачи 4. Задача 1 вычисляет у0 и пересылает задачам 1,2,3,4, которые в это время простаивают (рис. 3е). Наконец, все задачи выполняют вычисления у^ (рис. 3ж). На заключительном этапе задачи 2,3 выполняют прямой ход, при этом задачи 1,4 простаивают. Обратный ход выполняется всеми задачами. После чего задачи 2,3 простаивают, задачи

1.4 завершают обратный ход прогонок для последней строки сеточной области.

Теоретическая оценка ускорения данного алгоритма:

2CMN Та

S =

1^лг о г пм

- C MNtа + 6 Ntt + C1-Та

2 4

Обобщим данный подход на произвольное число задач р. В течение первых р/2 шагов производится только прямой ход прогонки. Задача / (/<=р/2) простаивает /-1 шаг, затем выполняет прямой ход прогонки. После этого происходит чередование прямого и обратного хода, причем задача / простаивает р/2-/ шагов обратного хода. Далее чередование выполняется без простоев. Причем, когда задача 1 производит прямой ход для / строки, то задача / производит прямой ход для строки /-/+1. Когда задача 1 начинает обратный ход для строки /, задача / начинает обратный ход для /+/-1 строки. Каждый раз по завершении обратного хода задача 1, получая значения сеточных функций, вычисляет у0 и пересылает остальным задачам, которые в это время простаивают. Наконец, все задачи выполняют вычисления у/. Последние шаги связаны с простоями задач с меньшими номерами во время прямого хода (/<=р/2) и с большими номерами во время обратного хода. Аналогично проводятся рассуждения для / >р/2. Ускорение такого алгоритма:

S=

2C1MN Та

C MNta (p - 2) M пс 0.

- + 6 N Та + —-- C1 — Та + (1,5 p - 2)т

p 2 p 4

Заметим, что суммарное время простоев любой задачи одинаково, т.к. оно связано с ожиданием выполнения арифметических операций и коммуникаций между задачами алгоритма.

Состоятельность данного алгоритма подтверждается результатами вычислительных экспериментов для случаев 4 и 6 задач.

Приведенные результаты экспериментов согласуются с законом Амдала. Все вычислительные эксперименты проводились на кластере, состоящем из 6 ЭВМ AMD Sem-

pron (tm) Processor 3000+ (1,8 GHz), связанных локальной сетью Ethernet.

Сравнение известных и предложенного алгоритмов

На общее время решения задачи влияет много факторов. Главные из них - время выполнения арифметических операций и время взаимодействия с памятью. Не останавливаясь подробно на вопросах, связанных с организацией памяти ЭВМ, отметим, что оптимальным является вариант использования лишь «быстрой» оперативной памяти.

а)

60000

90000

120000

150000 М

б)

60000

120000

150000

Рис. 4. Зависимость ускорения параллельного вычислительного процесса от размера сеточной области для 4-х задач (а), 6 задач (б)

Традиционно, в силу тенденции к созданию аппаратно-независимых программ понятие размера занимаемой памяти считалось несущественным. Однако известно, что в ряде случаев указанная особенность может становится определяющей [7]. Стремление максимально увеличить размер памяти, необходимой для выполнения программы, может привести к использованию дополнительной «медленной» памяти, которая чаще всего реализуется на жестких дисках. Ее размеры во много раз больше быстрой памяти, но время доступа также во много раз больше.

Тот факт, что операции выполняются только над данными, находящимися в оперативной памяти, приводит к необходимости многократно переносить данные из «медленной» памяти в «быструю» и обратно. Неудачная организация обменов может привес-

ти к тому, что время осуществления обменов между быстрой и медленной памятью будет превосходить время выполнения операций алгоритма в десятки, сотни и даже тысячи раз, что может привести к увеличению времени выполнения вычислений по алгоритму в несколько раз.

Произведем сравнение данного алгоритма и алгоритма, приведенного в работе [4], учитывая вышесказанное. Первые p шагов в этих алгоритмах совпадают. Далее в приведенном алгоритме наблюдается чередование прямого и обратного ходов, что позволяет хранить значения прогоночных коэффициентов и сеточных функций лишь на протяжении р шагов. В алгоритме из работы [4] они сохраняются в течение 2N+p шагов. Ясно, что с ростом N возможность увеличения времени выполнения программы возрастает. Таким образом, требования приведен-

ного алгоритма к памяти по объему в 2Ы/р раз меньше по сравнению с алгоритмом из работы [4].

По сравнению с алгоритмами из [2,3] разработанный алгоритм позволил снять ограничения на масштабируемость, возможность использования для решения разностных уравнений с циклическими граничными условиями (по сравнению [6]), при этом скорость вычислений оказалась выше (по сравнению с [4]).

Выводы

Применение функциональной декомпозиции к синтезу параллельных алгоритмов, основанных на методе циклических встречных прогонок для решения сеточных уравнений трехдиагонального вида, приводит к алгоритмам, обладающим высоким ускорением и эффективностью. Для двух задач алгоритм позволяет получить ускорение 1,9; для 4 задач с Ш разбиением - 3,2; для 6 задач с 1Б разбиением - 3,6.

Представляется целесообразным развитие приведенного метода и синтеза алгоритма с циклическим разбиением двумерной (2Б) области.

Библиографический список

1. Методы компьютерной оптики (Издание второе, исправленное) / под ред. В.А. Сойфера - М.: Физматлит, 2003. - 688 с.

2. Миренков, Н.Н. Параллельные алгоритмы для решения задач на однородных вычислительных системах [текст] / Н.Н. Ми-ренков // Вычислительные системы - Ново-

сибирск: ИМ СО АН СССР. - 1973. - Вып. 57. - С. 3-32.

3. Четверушкин, Б.Н. О возможности реализации квазигидродинамической модели полупроводниковой плазмы на многопроцессорных вычислительных системах [текст] / Л.Ю. Бирюкова, Б.Н. Четверушкин // Математическое моделирование. - 1991. - Т.3, №6. - С. 61-71.

4. Головашкин, Д. Л. Параллельные алгоритмы метода циклической прогонки [текст] / Д.Л. Головашкин, М.В. Филатов // Компьютерная оптика. - 2005. - №27. - С. 123-130.

5. Самарский А.А. Методы решения сеточных уравнений [текст] / А.А. Самарский, Е.С. Николаев - М.: Наука, 1978. -561 с.

6. Головашкин, Д.Л. Параллельные алгоритмы решения сеточных уравнений трехдиагонального вида, основанного на методе встречных прогонок [текст] / Д.Л. Го-ловашкин // Математическое моделирование. - 2005. - Т. 17, № 11. - С. 118- 128.

7. Воеводин, В.В. Параллельные вычисления [текст] / В.В. Воеводин, Вл.В. Воеводин - СПб.: БХВ-Петербург, 2002. - 608 с.

8. Голуб, Дж. Матричные вычисления [текст] / Дж. Голуб, Ван Лоун - М.: Мир, 1999. - 548 с.

9. Ортега, Джеймс М. Введение в параллельные и векторные методы решения линейных систем [текст] / Джеймс М. Ортега, перевод с англ. Х.Д. Икрамова, И.Е. Ка-порина; под ред. Х.Д Икрамова - М.: Мир, 1991. - 364 с.

References

1. Methods of computer optics (The edition the second, corrected) / Edited by V.A. Soifer - Мoscow: "Fizmatlit", 2003. - 688 p. -[in Russian].

2. Mirenkov, N.N. Parallel algorithms for the decision of problems on homogeneous computing systems / N.N. Mirenkov // Computing systems - Novosibirsk: "IM SO AN USSR". -1973. - V. 57. - P. 3-32. - [in Russian].

3. Chetverushkin, B.N. About realisation possibility quasi-hydrodynamic models of semi-

conductor plasma on multiprocessing computing systems / L.Yu. Biryukova, B.N. Chet-verushkin // Mathematical modeling. - 1991. -V. 3, N 6. - P. 61-71. - [in Russian].

4. Golovashkin, D.L. Parallel algorithms of cyclic prorace method / D.L. Golovashkin, M.V. Filatov // Computer Optics. - 2005. -V. 27. - P. 123-130. - [in Russian].

5. Samarskiy A.A. Methods of the decision of the grid equations / A.A. Samarskiy, E.S. Nilolayev - Moscow: "Nauka" (Science), 1978. - 561 p. - [in Russian].

6. Golovashkin, D.L. Parallel algorithms of the grid equations decision of the three-diagonal kind based on a method of counter proraces / D.L. Golovashkin // Mathematical modelling. - 2005. - V. 17, N 11. - P. 118- 128. -[in Russian].

7. Voevodin, V.V. Parallel calculations / V.V. Voevodin, Vl.V. Voevodin - Sankt-Peter-burg: "BHV-Peterburg", 2002. - 608 p. - [in Russian].

A PARALLEL ALGORITHM IN THE CYCLIC COUNTER-SWEEP METHOD FOR A TWO-DIMENSIONAL DOMAIN

© 2008 L.V. Loganova S. P. Korolyov Samara State Aerospace University

Construction of a parallel algorithm in the cyclic counter-sweep method for solving band-type grid equations is discussed. A variant of the linear breakdown of the two-dimensional grid domain is considered. Comparison is made with the familiar algorithms, disadvantages and benefits of the algorithm under discussion are shown.

A parallel algorithm, cyclic counter-sweep method

Сведения об авторе

Логанова Лилия Владимировна, Самарский государственный аэрокосмический университет имени академика С.П. Королева, старший преподаватель кафедры «Техническая кибернетика», e-mail: tk@smr.ru .

Loganova Liliya Vladimirovna, S. P. Korolyov Samara State Aerospace University, senior lecturer at the Technical Cybernetics sub-department, e-mail: tk@smr.ru .

8. Golub, Dg. Matrix calculations / Dg. Golub, Van Lown - Moscow: "Mir" (World), 1999. - 548 p. - [in Russian].

9. Ortega, Dgaims M. Introduction in parallel and vector methods of linear systems decision / Dgaims M. Ortega, translate from English H.D. Ikramova, I.E. Kaporina; edited by H.D. Ikramova - Moscow: "Mir" (World), 1991. - 364 p. - [in Russian].