CC BY
43
Математические
структуры и моделирование 2017. №1(41). С. 88-92
УДК 519.6:519.8
ГИБРИДНЫЕ СХЕМЫ РЕШЕНИЯ ЗАДАЧ УСЛОВНОЙ ОПТИМИЗАЦИИ С ИСПОЛЬЗОВАНИЕМ МЕТАЭВРИСТИК
А.В. Лисин1
технический директор, e-mail: andrey.lisin@gmail.com К.С. Яковенко2
старший преподаватель, к.т.н., e-mail: kirill.yakovenko@gmail.com
1ООО «Кристаллникс» 2Омский государственный университет им. Ф.М. Достоевского
Аннотация. В статье рассматриваются гибридные схемы численного решения задач условной оптимизации, основанные на классических подходах, таких как метод штрафных функций, теория множителей Лагранжа, и ме-таэвристических алгоритмах. Приведён пример гибридной схемы, основанной на методе роя частиц и методе множителей Лагранжа с добавками. Представлены результаты численного эксперимента.
Ключевые слова: условная оптимизация, метаэвристики, штрафные функции, множители Лагранжа.
В общем виде задача условной оптимизации в пространстве Rn может быть записана как
min/(ж), (1)
где целевая функция / : Rn ^ R, а допустимое множество Fe определяется серией ограничений [1]:
Oi(x) = 0, i Е (, ci(x) ^ 0, i Е х.
Далее по тексту для простоты будем рассматривать задачу минимизации без потери общности.
Одним из подходов к численному решению задач условной оптимизации является замена начальной задачи с ограничениями последовательностью задач безусловной оптимизации. Определим штрафную функцию для задачи (1) в виде
где ß > 0 — штрафной коэффициент. Запись [у]- означает max(0, — у). Определим последовательность!^}, и пусть ßk ^ 0 при k ^ го. Пусть также xk — решение оптимизационной задачи для ßk, тогда справедлива следующая теорема [1]:
Теорема 1. Пусть xk — глобальный оптимум Q(x; ßk) и пусть ßk ^ 0. Тогда lim xk ^ x*, где x* — глобальный минимум целевой функции (1).
Приведённая теорема даёт обоснование для следующего обобщённого алгоритма решения задач условной оптимизации:
1. Выбрать произвольные ß0 > 0, коэффициент т0 > 0 и начальное приближение x0.
2. Искать минимум xk функции Q(-; ßk) , начиная с xsk, останавливая процесс поиска при выполнении условия || у Q(x,ßk)|| ^ Tk.
3. Если достигнуто условие остановки, вернуть xk. Иначе выбрать новый штрафной коэффициент ßk+1 е (0,ßk) и перейти к шагу 2, выбрав xk в качестве начального приближения [1].
У приведённого алгоритма есть несколько очевидных недостатков. Во-первых, для того, чтобы последовательность {xk} сходилась к глобальному минимуму целевой функции f (x), необходимо, чтобы выполнялось выражение Q(xk,ßk) ^ Q(x,ßk), где x е С другой стороны, при устремлении числа
шагов k к бесконечности, {ßk} ^ 0, дробь ---у го и очень быстро перестает
умещаться в стандартное представление чисел с плавающей точкой на компьютере. Таким образом, с одной стороны, очевидна потребность в эффективных алгоритмах поиска глобального минимума для задач безусловной оптимизации, с другой, — в уменьшении вычислительной сложности и ограничении роста штрафных коэффициентов. В [2] приводится гибридный алгоритм решения задач условной оптимизации для решения некоторых инженерных задач, использующий множители Лагранжа и метод роя частиц (МРЧ). Далее в статье приводится вариант обобщённой гибридной схемы, аналогичной описанной в [2]. Для краткости изложения будем также использовать МРЧ, однако, мета-эвристическая составляющая может быть представлена любым другим методом численного решения задач безусловной оптимизации в том числе, предположительно, более эффективным, чем МРЧ (см., например, [5]).
МРЧ — один из методов численной оптимизации, основанный на развитии многоагентной системы и не требующий вычисления градиента целевой функции. МРЧ принадлежит к активно развиваемому в последние десятилетия классу метаэвристических алгоритмов, к которым также можно отнести алгоритмы имитации отжига, поиска с запретом, а также варианты генетических алгоритмов. Важной особенностью метаэвристик является их способность выбираться из локальных минимумов, что позволяет применять их для поиска глобальных экстремумов функций. МРЧ использует роевой интеллект для поиска наилучшего положения частицы в пространстве поиска. Положение частицы в пространстве определяется вектором x е S. Траектория i-ой частицы на шаге k может быть описана уравнением [3]:
Xk ++ ^Ах^ , (2)
где Ахк+1 — «скорость» частицы, определяемая согласно формуле:
Axk+1 = uAxk + 6irk,i(xbest'k - xk) + b2Tk2^rkm - xk), (3)
best,k о i best k
где Xj ' — лучшее положение г-ой частицы, наиденное к шагу k, xswtrm — лучшее положение среди всех частиц к шагу k. Параметры т^ и т^ — случайные числа из отрезка [0,1], подчиняющиеся равномерному распределению и служащие для придания алгоритму стохастических свойств. Коэффициенты b1 и b2 — некоторые константы. Стандартная процедура МРЧ состоит из следующих шагов:
1. Сгенерировать np частиц со случайными или предопределёнными координатами. Установить k = 0, найти xbest'0 и х^Гт.
2. Проверить критерий остановки. Если критерий выполняется, вернуть
/-yt^ _ zytbest, k
х х swarm'
3. Пересчитать координаты всех частиц в соответствии с формулами (2) и (3). Установить k = k + 1. Пересчитать xbest ' k и xSWO-m.
4. Перейти к шагу 2.
Далее рассмотрим функцию Лагранжа [4]:
L(x, А) = f (х) + ^ AiCi(x) + ^ XjCj(х).
iec jex
Для некоторого вектора А*+ решение х* задачи (1) является стационарной точкой L(x, А) (не обязательно минимумом). Тогда можно записать формулу, содержащую множители Лагранжа с добавками:
la(x, А,-) = f (х) + ^ АД(х) + 2- ^ 02(х), (4)
ieСих - iecux
где
Q = fсДх),г G С (Jc(х)]-,г е х. Заметим, что формула (4) не требует - ^ 0 [1].
Объединяя метод Лагранжа с добавками с МРЧ, получим следующую гибридную схему решения задач условной оптимизации:
1. Установить v = 0, k = 0, А0 = 0, -0 = -0 и сгенерировать начальные координаты частиц.
2. Проверить условие остановки. Если оно выполняется, вернуть х* = xSWs(trгm и А* = Av в качестве решения.
3. Решить задачу безусловной оптимизации с помощью МРЧ, ограничив число итераций kmax.
4. Обновить значения Л^+1 = Л^ + 1 ^(я) и ц, установить V = V + 1, к = 0 и перейти к шагу 2.
Стратегию обновления значения штрафного коэффициента можно определить следующим образом [2]:
Г 2^*, )| > |сг(^-1)| Л )| > ес
= ) 2 |сг(х^)| ^ еС
для г е ( и аналогично для г е х, заменяя е^ на ех, где е^ и ех — некоторые константы [5].
В таблице ниже приведены некоторые результаты численного эксперимента.
Тестовая функция Ограничения Результат
Унимодальные функции
F = 100(x2 - ж2)2 + (1 - x,)2 -20 ^ x, ^ 20, i = {1, 2} 3.7 x 10-2
F2(x) = xl + ж2 cl(x) = xl - 3 = 0, C2(x) = 2 - x2 ^ 0, -10 ^ x, ^ 10, i = {1, 2} 1.3 x 10
Fa (ж) = (жi - 10)3 + (ж2 - 20)3 13 ^ x, ^ 100, 0 ^ x2 ^ 100 -0.69 x 10
30 f4 (ж) = Y1x2 i=l -100 ^ x, ^ 100 2.1 x 10-4
Мультимодальные функции
F5(x) = 4o0o(xl + x2) - cos (cos(J|) + 1 -30 ^ x, ^ 30, i = {1, 2} 0.61 x 10-2
30 Fa(x) = ^ -Xi sin (VlX") i=l -15 ^ x, ^ 15 9.8 x 103
30 F7(x) = ^ (x2 - 10 cos 2nx, + 10) i=l -5.12 ^ x, ^ 5.12 5.67 x 10
Fg(x) = 4x1 + 2.1x1 + 1 x6 + X1X2 - 4x2 + 4x4 -5 ^ x, ^ 5 -0.1 x 10
Литература
1. Nocedal J., Wright S.J. Numerical Optimization. Springer. 1999. 634 p.
2. Sedlaczek K., Eberhard P. Using augmented Lagrangian particle swarm optimization for constained problems in engineering // Structural Multidisciplinary Optimization. 2006. N. 32. P. 277-286.
3. Kennedy J., Eberhart R. Particle Swarm Optimization // Proceeding of IEEE International Conference on Neural Networks IV. 1995. P. 1942-1948.
4. Rangarajan K.S. A First Course in Optimization Theory. Cambridge University Press, 2014. 367 p.
5. Лисин А.В. Метод Лагранжа с добавками и роевые алгоритмы для решения задач условной оптимизации // Сборник материалов XXXI Международной научно-практической конференции «Наука и современность - 2014». 2014. С. 139-144.
HYBRID METHODS FOR SOLVING CONSTRAINED OPTIMIZATION PROBLEMS USING METAHEURISTICS
A.V. Lisin1
Chief technology officer, e-mail: andrey.lisin@gmail.com K.S. Yakovenko2 Senior Tutor, Ph.D. (Eng.), e-mail: kirill.yakovenko@gmail.com
1Crystalnix Ltd. 2Dostoevsky Omsk State University
Abstract. In the article hybrid methods of numerical solving constrained optimization problems based on classical approaches such as penalty functions method, Lagrange multipliers theory and metaheuristics are discussed. The example of hybrid method based on particle swarm optimization and augmented Lagrangian method is given. Numerical experiment results are provided.
Keywords: constrained optimization, metaheuristics, penalty functions, Lagrange multipliers.
Дата поступления в редакцию: 21.12.2016
