Оптимизация линейных функций на циклических перестановках на основе случайного поиска Текст научной статьи по специальности «Математика»

КОМПЬЮТЕРНЫЕ НАУКИ

УДК519.854.2

ОПТИМИЗАЦИЯ ЛИНЕЙНЫХ ФУНКЦИЙ НА ЦИКЛИЧЕСКИХ ПЕРЕСТАНОВКАХ НА ОСНОВЕ СЛУЧАЙНОГО ПОИСКА

ГРЕБЕННИК И.В., БАРАНОВ А.В.,

ЧЕРНАЯ О.С., ГОРБАЧЕВА Е.Е._

Предлагается решение задачи оптимизации линейной функции с линейными ограничениями на множестве циклических перестановок. Для этого применяется метод, основанный на идеологии случайного поиска. Вспомогательную задачу оптимизации линейной функции без ограничений на множестве циклических перестановок предлагается решать эвристическим методом, используя стратегию метода ветвей и границ.

Ключевые слова: комбинаторная оптимизация, линейная функция, перестановки, случайный поиск, метод ветвей и границ.

Keywords: combinatorial optimization, linear function, permutations, random search, branch and bound method.

Введение

Появление и развитие теории и методов решения задач линейной оптимизации направлено на решение широкого спектра проблем, возникающих в различных научных и прикладных задачах. Кроме того, технология решения задач линейного программирования играет значительную роль в создании алгоритмов для решения задач математического программирования других типов, в частности, задач комбинаторной оптимизации [1, 2].

Математические модели многих задач могут быть исследованы с помощью моделей и методов комбинаторной оптимизации, переменными в которых являются элементы классических комбинаторных множеств, среди них множества перестановок, сочетаний, размещений и другие [1-5].

Введение в комбинаторные оптимизационные модели дополнительных ограничений на переменные приводит к появлению классов задач комбинаторной оптимизации на подмножествах классических комбинаторных множеств. Одним из таких подмножеств является множество циклических перестановок как подмножество множества перестановок [7-9].

Существующие подходы к решению задач оптимизации на комбинаторных множествах делятся на две основные группы: методы отсечения и комбинаторные методы [1, 2, 10, 11]. Среди них метод комбина-

торного отсечения для задач оптимизации на евклидовых комбинаторных множествах, которые совпадают с множеством вершин своей выпуклой оболочки [5, 8]. Одним из наиболее распространенных точных комбинаторных методов является метод ветвей и границ [1]. Для решения задач комбинаторной оптимизации большой размерности часто используют методы, основанные на случайном поиске [2, 12].

Для повышения эффективности применения известных методов комбинаторной оптимизации целесообразно использовать при их реализации свойства комбинаторных множеств, описывающих области допустимых решений задач оптимизации [8, 9].

В данной работе для решения задач оптимизации на множестве циклических перестановок реализуется идеология случайного поиска на основе использования свойств циклических перестановок и аналитического решения систем линейных неравенств как ограничений на переменные.

Целью настоящей работы является решение задач оптимизации линейных функций на множестве циклических перестановок с линейными ограничениями.

1. Основные понятия и постановка задачи

Определение [11]. Линейное упорядочение элементов некоторого порождающего множества А = {а1,а2,...,ап} называется перестановкой п =

л(а„а2,...,ап) = (п(аД п(а2),..., п^)) = Оа^,...,^

= (р1,р2,...,рп) или, если необходимо подчеркнуть тот факт, что она содержит п элементов, п -перестановкой.

Множество перестановок, порожденное элементами а1 < а2 <... < ап, обозначим Рп.

Рассмотрим некоторую перестановку п = (п(а1),п(а2),...,п(ап)) е Рп и её элемент п(а1) = а], VI,Jn. Тогда можно записать:

п(а]) = п(п(а1)) =п2(а1). Обобщенно эту формулу можно представить в таком виде: пк-1(а]) = п(пк-1(а1)) =пк(а1), VI,]е Jn, к<п.

Таким образом [10], если для некоторого 1 > 1 имеем п1(а1) = а1 , 1 е Jn, и элементы

а1, п(а1), п2 (а1),..., п1-1 (а1) все различны, то последовательность (а1;п(а1),п2(а1),...,п1-1(а1)) называется циклом длины 1 .

Определение [10]. Циклической называется такая перестановка п из п элементов, которая содержит

единственный цикл длины п, т.е. пп (а1) = а1, V! е Jn. Такие перестановки будем обозначать пс .

Обозначим Рпс — множество циклических перестановок без повторений из п действительных чисел а1 < а2 <... < ап [10, 11].

Отметим, что множества перестановок Рп и циклических перестановок Рпс являются евклидовыми комбинаторными множествами, или е-множества-ми [3, 4].

Исследуем задачу комбинаторной оптимизации в следующей постановке: минимизировать линейную функцию с линейными огр аничениями на множестве циклических перестановок:

L(x) = ^ min •

i=1

Cp < d;

P e PnC:

(1)

(2) (3)

где C = [Cji]mXn, d e Rn, ^ e R , Pi > 0; PnC — множество циклических перестановок без повторений из n действительных чисел.

Осуществим отображение множеств перестановок Pn и циклических перестановок PnC в арифметическое евклидово пространство Rn. Согласно [3, 4] указанное отображение (называемое погружением) зададим в виде:

f :P ^ Rn, Vp = (pi,p2,...,pn) e P,

x = f(n) = (x1;x2,...,xn) e E с Rn , xi = pi, i e Jn .

В результате погружения f каждому множеству Pn, PnC поставим во взаимнооднозначное соответствие множество E с Rn: En = f(Pn), EC = f(PnC).

Используя погружение комбинаторных множеств Pn,

PnC в евклидово пространство, сформулируем задачу оптимизации, эквивалентную задаче (1)-(3):

n

L(x) = ^aixi ^ min ; (4)

Cx < d;

x e EnC с Rn,

странство, и аналитическом решении систем линейных неравенств, описывающих ограничения задачи. Подобный подход ранее рассматривался для решения задачи оптимизации линейной функции на множестве

перестановок Рп с линейными ограничениями [8].

Осуществим модификацию этого подхода для решения задачи (4)-(6) на циклических перестановках.

Рассмотрим выпуклую оболочку множества Еп -перестановочный многогранник Пп = соп-Еп.

Так как любая циклическая перестановка принадлежит множеству перестановок Рп, следовательно, все циклические перестановки являются вершинами перестановочного многогранника Пп .

Следуя работе [8], построим п-мерный симплекс Тп с Rn [12], содержащий многогранник Пп. Пусть симплекс Тп описывается системой неравенств С;х < d1, где С - матрица коэффициентов размерности (п +1) х п , d1 е Rn+1. Так как многогранник Пп

полностью содержится в симплексе Тп, то при добавлении в систему ограничений задачи (4) - (6) линейных неравенств, задающих симплекс, все допустимые решения будут сохранены. Объединим (5) с

неравенствами С;х < d1 в систему линейных неравенств вида W0x < v0, где W0 = -

(т + п +1) х п -матрица, -V0 е Rш+п+1. В результате можно сформулировать задачу оптимизации, эквивалентную (4) - (6):

L(x) = ^aixi ^ min •

W0x < v0;

xi > 0 ; x e EC с Rn .

(7)

(8) (9)

(10)

(5)

(6)

где С = [С^хп, а е Rn, а, е R, х > 0; Епс - образ множества циклических перестановок в евклидовом пространстве.

2. Решение задачи на основе случайного поиска

Для решения задачи (4)-(6) используем подход, основанный на идеологии случайного поиска, свойствах перестановок, погруженных в евклидово про-

Рассмотрим стратегию решения задачи (7)-(10) [8]. Следуя идеологии случайного поиска, зададим некоторое количество серий испытаний м и количество испытаний в каждой серии ш .

В каждом испытании в рамках одной серии находится решение системы линейных ограничений-неравенств. Согласно [13], общая формула неотрицательных решений системы (8)-(9) определяется выражением:

z =

^z1 +I2Z2 +... + £ z1 + £ z2 + + £ zl ,

где г^г2,...^1 - найденные фундаментальные решения следующей вспомогательной системы линейных неравенств:

W0x --0хп< 0 - х < 0

(11)

Х* = (х;,х*,...,х;) = а^шт X

х, = argшln х-

хеЕС

(12)

а^ +а2х2 + ... + апхп < d.

_ п

где d = X .

(13)

]=1

(14)

гп+1,гп+1,...,г1п+, - ихпоследние координаты; §2,...,£1 - произвольные действительные числа, удовлетворяющие условию: £1гп+1 +£2г2+1 +... + §1г1п+1 > 0 . Далее случайным образом генерируются значения действительных чисел §2,..., , удовлетворяющих условию ^+§2г;;+1 +... + ^п^ >0 . Исходя из написанного выше, получим г(1) - решение, удовлетворяющее системе (11). Найдем точку множества ЕС,

ближайшую к полученному решению г(1). Для этого определим

где с е R1, V] е Jn, хш = а,, VI е Jn, а последовательность {ш1,ш2,...,шп} такова, что

с > с > ... > с

ш, ш2 П

Поскольку множество циклических перестановок является подмножеством множества перестановок,

то для любого х е ЕС задача (12) сводится к оптимизации линейной функции.

Для множества ЕС задача нахождения

ш,п

хеЕг

Если х, е ЕС не удовлетворяет системе неравенств (11), переходим к следующему испытанию.

В противном случае х, сравнивается с предыдущими приближениями к решению задачи (7)-(10) и в случае, если в точке х, функция цели принимает значение лучше, чем в предыдущих испытаниях, считаем х, новым приближением к решению задачи (7)-(10).

Обозначим х = х,. Будем считать х текущим прибли-

п

жением к решению, а L(x) = - верхней оцен-

ы

кой решения задачи (7)-(10). Добавим к системе (8) линейное неравенство:

В результате получим систему линейных неравенств

W1 х < V1. Найдем в системе W1 х < V1 неравенство с такой же, как в (13), левой частью:

а1х1 +а2х2 +... + апхп < d . Сравним d и d. Если

d < d , заменим в системе ^х < неравенство новым неравенством (13). Это приведет к сокращению области, описываемой системой неравенств. Обозначим d = d . Продолжим процесс решения.

3. Решение вспомогательной задачи на множестве циклических перестановок

Рассмотрим решение вспомогательной задачи (12).

Для множества перестановок решение данной задачи сводится к нахождению безусловного минимума линейной функции и имеет следующий вид [3]:

( п Л

V ]=1

не может быть решена на основе упорядочения элементов, и её предлагается решать с помощью метода ветвей и границ [9].

Основными составляющими метода ветвей и границ являются правило ветвления и правило выбора [1].

При решении данной задачи ветвление на каждом шаге алгоритма, т. е. генерация дочерних вершин, основано на фиксации различных порождающих элементов из числа еще не занятых относительно , -го коэффициента целевой функции, соответствующего данному уровню дерева.

Построение оценки для каждой вершины основано на подсчете произведений уже зафиксированных порождающих элементов на соответствующие коэффициенты функции цели и на перемножении оставшихся порождающих элементов на свободные коэффициенты целевой функции согласно (14).

С помощью этого алгоритма возможно получение точного решение исходной задачи. Но так как при решении (7)-(10) вспомогательную задачу необходимо решать много раз в рамках каждой серии экспериментов, для экономии вычислительных ресурсов был разработан эвристический подход, использующий некоторые шаги метода ветвей и границ.

Решение задачи о поиске эвристического решения состоит из двух этапов. Первый этап - поиск решения по методу ветвей и границ до определённого уровня к, задаваемого пользователем. Второй этап - достраивание набора зафиксированных порождающих элементов до циклической перестановки случайным образом.

В результате получается некоторое эвристическое решение задачи оптимизации линейной функции на циклических перестановках. Полученное решение зависит от размерности п, уровня к, на котором происходит остановка построения дерева, и от коэффициентов целевой функции. Так, при уровне остановки к, близком к п, эвристическое решение может совпадать с решением, полученным методом ветвей и

2

границ. Чем меньше к и чем больше разность п _ к , тем меньше вершин дерева будет пройдено перед случайным построением циклической перестановки и тем менее вероятно получение решения вспомогательной задачи (12), близкого к точному.

4. Использование параллельных вычислений

Описанная стратегия оптимизации линейной функции с линейными ограничениями на множестве циклических перестановок хорошо работает для решения задач относительно небольших размерностей. Но с ростом размерности п исходной задачи наблюдаются значительные затраты времени, необходимые для решения. Особенности принятой стратегии решения задачи дают возможность выполнить распараллеливание вычислений.

При решении задачи (7)-(10) вычисления можно ускорить путем параллельного решения вспомогательных задач вида (12) для случайно сгенерированных точек в рамках каждой серии испытаний. Количество испытаний т в каждой серии можно выбрать пропорциональным количеству процессоров.

Таким образом, стратегия решения задачи (7)-(10) с использованием параллельных вычислений выглядит следующим образом:

1) построение симплекса, содержащего в себе перестановочный многогранник;

2) формирование системы ограничений с учетом исходных данных;

3) одновременная генерация нескольких точек внутри области решений;

4) параллельное нахождение для каждой точки ближайшей вершины перестановочного многогранника с помощью метода ветвей и границ.

5) выбор из полученных решений наилучшего, обновление системы ограничений.

При оценке эффективности параллельных вычислений используют законы Амдала и Густафсона, для того чтобы рассчитать максимально возможное ускорение параллельного выполнения программы по сравнению с последовательным [14].

Рассмотрим 5" - ускорение, которое может быть получено на компьютере при данных значениях. Для ускорения, согласно закону Амдала, существует следующая оценка:

8 о 1

f +

(1 - f) ' Р

где f - доля операций, которые нужно выполнить последовательно; Р - число процессоров.

Так же можно рассчитывать f в процентах, как количество серийного кода, которое может быть распараллелено. В таком случае оценка 8 может быть не столь точна, но её расчет значительно упрощается.

Анализ предложенной стратегии решения показывает, что при использовании параллельных вычислений доля серийного кода, который необходимо выполнить последовательно, будет составлять приблизительно 75%.

Тогда ускорение 8 можно оценить следующим образом:

S <-

1

1

0,75 +

(1 - 0,75) 0,75 + 0,0625 4

= 1,23

5. Результаты вычислительных экспериментов

Изложенный метод оптимизации линейных функций на циклических перестановках с линейными ограничениями реализован программно. Случайным образом генерировались исходные данные задач: коэффициенты функции цели и ограничений. Эксперименты проводились в два этапа. На первом этапе решались задачи размерности до 8 переменных, разработанной модификацией метода случайного поиска, которые затем сравнивались с решениями, получеными полным перебором. Случайным образом генерировались коэффициенты двух линейных ограничений и коэффициенты целевой функции. Коэффициенты целевой функции генерировались в интервале [10; 100].

Для нахождения решения использовалось количество серий, равное 5, каждая серия состояла из 10 экспериментальных точек. Рассчитывалась относительная погрешность для задач, в которых результаты решения разработанным методом и методом полного перебор а не совпадают. Полученные результаты представлены в табл. 1.

Таблица 1

Размерность задачи Число совпавших решений Число не совпавших решений Относительная погрешность Ср. время решения, сек.

3 10 0 0 0,14

4 5 5 0,077 0,269

5 3 7 0,128 0,439

6 4 6 0,072 0,734

7 3 7 0,084 1,527

8 0 10 0,134 3,402

На втором этапе решались задачи большей размерности. В таких задачах для получения нижней оценки минимума вычислялись две оценки [9] следующего вида:

Ei =

Est - Rnd

Rnd

E2 =

Est - Rnd

Est

где Est - минимум функции цели на циклических перестановках без учета линейных ограничений; Rnd - результат решения задачи методом случайного поиска. Результаты соответствующих вычислительных экспериментов приведены в табл. 2.

Для задач размерности выше 15 вспомогательная задача (8) решалась эвристически. Для каждой размерности задачи указан уровень дерева к, на котором останавливалось ветвление.

Таблица 2

Таблица 4

Размерность задачи k Количество задач Средняя огенка Ei Средняя оценка e2 Время решения, сек.

15 1 0 10 0,256 0,255 18,19

20 1 5 10 0,127 0,122 225,9

25 1 5 3 1,716 0,44 809,17

Для решения задач, результаты которых представлены в табл. 1 и 2, использовалось количество серий, равное 5, в каждой из серий проводилось по 10 экспериментов. Таким образом, для решения одной задачи поиска минимума линейной функции на множестве циклических перестановок с ограничениями необходимо было решить 50 вспомогательных задач. Для сокращения временных и технических ресурсов, нео бходимых для решения одной задачи, были проведены эксперименты, в которых количество серий экспериментов было уменьшено до 2, а в каждой серии проводилось по 15 экспериментов. Результаты представлены в табл. 3.

Таблица 3

Размер мерность задачи k Количество задач Сред няя оцен ка E1 Средняя оценка e2 Время решения, сек.

25 15 7 0,165 2 0,203 821,14

30 15 3 0,227 0,308 1805,86

35 15 1 0,219 0,2819 11215,516

40 20 1 0,305 0,379 33112,95

Были проведены также эксперименты по оценке эффективности использования параллельных вычислений при решении задачи (4)-(7). Реальным ускорением параллельного алгоритма будет отношение времени выполнения лучшего последовательного алгоритма ко времени выполнения параллельного алгоритма:

Т

8 = —, где Т - время выполнения последовательно-

Тр '

го алгоритма; Тр - время выполнения на р процессорах.

Для оценки масштабируемости параллельного алгоритма используется понятие коэффициента эффектив-

^ 8

ности распараллеливания: е = —.

р

Размер ность задачи 15 Время решения T1,сек. 493,7 Время решения T = T сек. 281,5 T S = T T p 1,75 E = S P 0,4375

20 4782,9 3297,5 1,45 0,3625

25 625 59,9 31688,3 1,97 0,4925

Отметим, что реальное ускорение, полученное благодаря использованию параллельных вычислений, больше, чем теоретическая оценка по закону Амдала. Это связанно с неточной грубой оценкой f.

Выводы

Предложен метод решения задач комбинаторной оптимизации с линейной целевой функцией и линейными ограничениями на множестве циклических перестановок, использующий схему случайного поиска, свойства циклических перестановок, погруженных в евклидово пространство, и аналитическое решение систем линейных неравенств, описывающих ограничения задачи.

Решение вспомогательной задачи комбинаторной оптимизации на множестве циклических перестановок без ограничений выполнено с использованием метода ветвей и границ. Следует отметить, что применение метода ветвей и границ приводит к экспоненциальному росту трудоемкости при увеличении размерности задачи. Кроме того, наблюдается существенная зависимость трудоемкости решения как от способа ветвления, так и от способа вычисления оценок.

Для решения проблем, связанных с трудоемкостью решения задач комбинаторной оптимизации предложенным методом, были задействованы следующие модификации предложенного метода:

1 ) Модификация с поиском эвристического решения вспомогательной задачи о нахождении минимума нормы разности.

2) Модификация с параллельным вычислением вспомогательной задачи для нескольких точек из допустимой области.

Применение модификаций позволяет снизить вычислительные затраты при решении задач большей размерности. Эффективность предложенных усовершенствований продемонстрирована проведенными вычислительными экспериментами.

Литература: 1. Сергиенко, И. В. Математические модели и методы решения задач дискретной оптимизации / И. В. Сергиенко. К.: Наук. думка, 1988. 472 с. 2. Емец О. А. Комбинаторная оптимизация на размещениях / Емец О. А., Барболина Т. Н. К.: Наук. думка, 2008. 159 с. 3. Стоян, Ю.Г. Теорiя i методи евклiдовоï комбшаторжи опташзацп / Ю.Г. Стоян, О.О. Смець. К. : 1нститут системних дослщ-жень освгги, 1993. 188 с. 4. Стоян, Ю.Г. Математические модели и оптимизационные методы геометрического проектирования. / Ю.Г. Стоян, С.В. Яковлев. К.: Наук.

думка, 1986. 268 с. 5. Емец О.А. Решение линейных задач оптимизации на размещениях методом отсечения / О.А. Емец, Т.Н.Барболина // Кибернетика и системный анализ. 2003. №6. 6. Валуйская О.А. О минимизации линейной функции на вершинах перестановочного многогранника с учетом линейных ограничений / О.А. Валуйская, С.В. Яковлев //Доп. НАНУ.1999. № 11. С. 103-107. 7. Гребенник И.В. Решение некоторых задач условной оптимизации линейных функций на перестановочном многограннике. / И.В. Гребенник // Радиоэлектроника и информатика. 1999. № 1. С. 55-59. 8. ГребенникИ.В.,БарановА.В. Оптимизация линейных функций с линейными ограничениями на комбинаторных множествах на основе случайного поиска // Искусств. интеллект. 2007. № 1. С. 132-137. 9. Гребенник И. В. Оптимизация линейной функции на множестве циклических перестановок / Гребенник, И. В., Литвиненко, А. С., Титова, О. С. Бионика Интеллекта. 2012. №2(79). С.8-12. 10. Стенли, Р. Перечислительная комбинаторика: Пер. с англ. А. И. Барвинка. М.: Мир, 1990. 440 с. 11. Bona M. Combinatorics of permutations Chapman & Hall/CRC, 2004. 337 c. 12. Реклейтис Г. Оптимизация в технике / Реклейтис Г., Рейвиндран А., Рэгсдел К.: Пер. с англ. В. Я. Алтаева. М.: Мир, 1986. 348 с. 13. Черников С.Н. Линейные неравенства / С.Н. Черников. М.: Наука, 1968. 488 с 14. QuinnM.J. Parallel Programming in C with MPI and OpenMP. New York: NY: McGraw-Hill, 2004.

Поступила в редколлегию 18.09.2015 Рецензент: д-р физ.-мат. наук, проф. Новожилова М.В.

Гребенник Игорь Валериевич, д-р техн- наук, профессор кафедры СТ (системотехники) ХНУРЭ. Адрес: Украина, 61166, пр. Ленина, 14, тел. +38 (057) 702-10-06.

Баранов Алексей Васильевич, канд. техн. наук, кафедра СТ (системотехники) ХНУРЭ. Адрес: Украина, 61166, пр. Ленина, 14, тел. +38 (057) 702-10-06.

Чёрная Ольга Сергеевна, ассистент кафедры СТ (систе-мотехники)ХНУРЭ. Адрес: Украина, 61166, пр. Ленина, 14, тел. +38 (057) 702-10-06.

Горбачева Алена Евгеньевна, аспирантка кафедры СТ (системотехники) ХНУРЭ. Адрес: Украина, 61166, пр. Ленина, 14, тел. +38 (057) 702-10-06.

Grebennik Igor Valerievich, Ph.D., Professor, Department of SE (Systems Engineering) Kharkiv National University of Radio Electronics. Address: Ukraine, 61166, 14 Lenin ave., mob. +38 (057) 702-10-06.

Baranov Alexei Vasil'evich, Ph.D., Kharkiv National University of Radio Electronics. Address: Ukraine, 61166, 14 Lemn ave., mob. +38 (057) 702-10-06.

Chyornaya Olga Sergeevna, assistant chair of SE (Systems Engineering), Kharkiv National University of Radio Electronics. Address: Ukraine, 61166, 14 Lenin ave., mob. +38 (057) 702-10-06.

Gorbacheva Alyona Evgen'evna, graduate student SE (Systems Engineering), Kharkiv National University of Radio Electronics. Address: Ukraine, 61166, 14 Lenin ave., mob. +38 (057) 702-10-06.