CC BY
21
ФИЗИКО-МАТЕМАТИЧЕСКИЕ НАУКИ
УДК 519.853.4+519.853.6
Городецкий Станислав Юрьевич
канд. физ.-мат. наук, доцент ФГАОУ ВО «ННГУ им. НИ. Лобачевского», г. Нижний Новгород, РФ, E-mail: gorosyu@gmail.com Бабинцева Анна Николаевна магистрант второго курса ФГАОУ ВО «ННГУ им. НИ. Лобачевского», г. Нижний Новгород, РФ, E-mail: anneteg@yandex.ru
СРАВНИТЕЛЬНОЕ ИССЛЕДОВАНИЕ ЭФФЕКТИВНОСТИ МЕТОДОВ ПОИСКА МИНИМУМА ДЛЯ ОДНОГО КЛАССА КУСОЧНО-КВАДРАТИЧНЫХ ВЫПУКЛЫХ
ЗАДАЧ НА СИМПЛЕКСЕ
Аннотация
Численная реализация специального семейства триангуляционных методов условной многоэкстремальной оптимизации требует многократного решения большого количества вспомогательных задач поиска минимума на симплексах. Функции в этих задачах являются верхними огибающими нескольких выпуклых параболоидов. В работе представлены результаты актуального численного исследования по выбору алгоритмов решения задач этого класса. Разработан генератор наборов исследуемых задач, предложена специальная методика представительного тестирования, получены практические выводы по выбору эффективных методов.
Ключевые слова
Триангуляционные методы, условная глобальная оптимизация, кусочно-квадратичные выпуклые функции, методы выпуклой оптимизации, тестирование.
Постановка задачи, актуальность. В статье исследуется сравнительная эффективность ряда методов поиска минимума для специального класса задач выпуклого математического программирования следующего вида:
Q* = minQ(х), Q(x) = .max {gj(x)}; (1)
x6S j=0,...,mv J J
М,- и -и2
gj(x) = Cj + -^\\x-wj\\ ,(j = 0,...,m); (2)
S = S(v0,...,vN) = {x 6 RN: (x — v\ b) <0, (i = 0,., N)}. (3)
В (3) S = S(v0,... ,vN)- симплекс в RN с вершинами в точках v0,...,vN, а b0,...,bN -нормированные векторы, являющиеся внешними нормалями к его граням размерности (N — 1). При этом bl для (i = 1,...,N) ортогонален грани, не содержащей вершины v1-1, а b0 - грани, не содержащей вершины vN. В формуле (2), а также далее в тексте, ||-|| - эвклидова норма.
Критерии эффективности, применяемые для сравнения методов решения задач (1)-(3) пока не конкретизируются. Это будет сделано позднее при описании постановки проводимых вычислительных экспериментов. Пока отметим лишь, что будут учитываться как вычислительные затраты, необходимые для получения оценки решения в (1)-(3), так и характеристика относительной точности этой оценки.
Необходимость прямого численного исследования методов решения (1)-(3) связана с тем, что задачи такого вида возникают в качестве вспомогательных при реализации триангуляционных методов параболоидов (SMP-методов), построенных в [1] для задач поиска условного глобального минимума трудновычислимых многоэкстремальных целевых функций fo (x) при наличии ограничений-неравенств, порождаемых другими многоэкстремальными функциями fj(x), (j = 1, ...,m):
min fo(x), (4)
x6D
D = {хеЕ: ft(x) < 0, ...,fm(x) < 0}, E = {x£Rn: a<x< b}.
(5)
В SMP-методах [1] считается, что все функции ^(х), (] = 0, ...,т), входящие в постановку задачи (4)-(5), обладают на Е липшицевыми производными по направлениям, а именно, существуют константы Липшица М0, Мг,..., Мт, что
Vx', х" е Е и и =
\\x'-x"W
dfj(x') dfjjx")
du
du
< Mj\\x' -x''\\, (j = 0,...,m). (6)
SMP-методы, предложенные в [1] для решения задач (4)-(6), основаны на последовательном построении адаптивной триангуляции множества Е на непересекающиеся по внутренним точкам симплексы 5 = ..., vN), образующие на каждой итерации покрытие [Б}к множества Е. При этом вычисления значений функций fj(x), (] = 0,...,т) проводятся в вершинах симплексов. Точка каждого нового вычисления функций хк+х размещается в центре наибольшего ребра наиболее
" " ск
приоритетного на текущей -й итерации симплекса э* :
H(Sk) = min H(S).
se[s}k
(7)
Способ определения приоритетов симплексов Н(Б), обеспечивающий решение задачи (4)-(6), определен в [1], связан с задачей (1)-(3) и будет пояснен позднее. Сейчас остановимся на двух вариантах SMP-метода, использующих различные правила порождения новых симплексов и приводящих к различиям в их конфигурации.
Первый вариант SMP-метода представлен в [1] и может быть назван методом с неотложенным
делением. В этом варианте метода после нахождения наибольшего ребра гк = [у*к, наиболее
приоритетного, согласно (7), симплекса Бк среди симплексов текущего разбиения определяются все симплексы Б, имеющие среди своих ребер выделенное ребро гк. Каждый из них делится на две части по центральной точке этого ребра, включая и наиболее приоритетный симплекс Бк. Все вновь возникшие симплексы содержат в качестве новой вершины точку нового измерения хк+г. Заметим, что при использовании метода с неотложенным делением значительная доля симплексов может
ск
иметь тенденцию к уплощению, поскольку все симплексы, участвующие в делении и отличные от , делятся, как правило, не по своему большему ребру, и, следовательно, сохраняют свой диаметр при уменьшении объема.
На рис. 1 приведен пример триангуляции, построенной методом с неотложенным делением из [1] в результате решения конкретной задачи вида (4)-(5) из [1]. Серым цветом выделено допустимое множество И из (5).
В описанных ниже численных экспериментах на классе специальных тестовых задач вида (1)-(3) SMP-методу с неотложенным делением будут соответствовать комплекты (наборы) тестовых задач, где нижнее ограничение на минимальный угол между гранями симплексов размерности (Ы — 1), обозначенное ниже как будет мало или будет отсутствовать.
Рисунок 1 - Размещение точек первых 150 измерений и построенная SMP-методом с неотложенным делением триангуляция при решении конкретной задачи размерности N = 2 из [1] с тремя
ограничениями (т = 3)
X -X
Второй возможный вариант SMP-метода может быть назван методом с отложенным делением. В этом варианте метода делению на -й итерации подвергается только один наиболее приоритетный симплекс. Он делится на две части по центральной точке его наибольшего ребра, что, в общем случае, приведет к уменьшению диаметра в симплексах, получаемых в результате такого деления. Это будет препятствовать их уплощению. В описанных ниже численных экспериментах методу с отложенным делением будут соответствовать комплекты тестовых задач, где нижнее ограничение Р* на минимальный угол между гранями симплексов размерности (Ы — 1), будет выбрано достаточно большим.
Заметим, что первые методы, основанные на триангуляции множества Е, на котором выполняется поиск, были независимо предложены в работах [2, 3] и, немного позднее, в [4] применительно к классу липшицевых функций в задачах без ограничений-неравенств. В [3] дополнительно был предложен триангуляционный метод для функций с липшицевой производной по направлениям, использующий вычисления градиента минимизируемой функции. Результаты, связанные с развитием этих подходов представлены в [5], а также [6, 7]. Дополнительное направление исследований по триангуляционным методам отражено в [8, 9]. В частности, в [9] рассмотрены вопросы ускорения триангуляционных методов определенного типа.
В отличие от указанных выше работ [4, 6, 7, 8, 9], в [1], а также [5], рассмотрены триангуляционные методы для задач с ограничениями. Кроме того, вместо предположений о липшицевости функции используется класс функций с липшицевыми производными по направлениям (6), хотя считается, что измерению доступны только значения функций. В [5, стр. 61], а также в [10] доказана лемма, утверждающая, что для функции /(х), при выполнении для нее на симплексе Б = Б(р0,...,рм) условий (6) с константой Липшица для производных, равной М, на симплексе Б существует достижимая нижняя оценка этой функции, имеющая вид выпуклого параболоида Р (х):
м 1
УхЕБ: /(х) >Р(х),Р(х) = С + м\\х — ы\\2, (8)
параметры С и w которого однозначно определяются из решения системы уравнений вида:
2
С + E\\vi — w\\ = /(р1), (¿ = 0,...,Ы) (9)
по имеющимся результатам вычислений функции / в вершинах V0,..., Vм симплекса Б.
Симплексный метод параболоидов ^МР-метод), построенный в [1], предписывает использовать в (7) для выбора наиболее приоритетного симплекса Б*к следующую функцию приоритета, основанную на нижних квадратичных оценках Ро(х), Рг(х), ...,Рт(х) вида (8) целевой функции /0(х), и функций ограничений х), ...,/т(х) из (4)-(5):
Н(Б) = шЫтахШх) — /0*к; Р1(х);...; Рт(х)}), (10)
ХЕБ
м 2
Р}(х) = Сj + м±\\х — w>\\ ,(] = 0,.,т), (11)
где /0*к - наилучшее найденное к текущей итерации значение целевой функции, вычисленное по проведенным измерениям функций на допустимом множестве И из (5) в вершинах симплексов текущей триангуляции. Значения констант Липшица Мj оцениваются методом по результатам всех выполненных измерений, а также измерений в вершинах Б, а С и wJ определяются из решений систем вида (9) с учетом измерений в вершинах только данного симплекса Б.
Таким образом, задачи вычисления (согласно правилам (10)-(11)) приоритетов симплексов совпадают по типу с (1)-(3). Это определяет актуальность проводимого в статье исследования, поскольку снижение вычислительных затрат при определении приоритетов симплексов в SMP-методах непосредственно влияет на повышение быстродействия триангуляционных SMP-методов условной глобальной оптимизации из [1].
Численные методы для сопоставительного исследования. В данной работе для класса задач (1)-(3) экспериментально исследованы четыре метода существенно различных типов: субградиентный с использованием точного негладкого штрафа, сепарабельного программирования,
прямо-двойственный метод Лагранжа-Данцига, метод Монте-Карло. Приведем их описание.
Субградиентный метод с использованием точного негладкого штрафа. Субградиентные методы выпуклой недифференцируемой оптимизации первоначально разработаны (см., например, [11]) для задач без ограничений. Задача (1)-(3) включает ограничения, связанные с принадлежностью х симплексу S из (3). В рассматриваемой задаче для их учета можно построить точную негладкую функцию штрафа, используя известный вид gj(x) из (1)-(2).
Для построения точной штрафной функции получим верхнюю оценку Vmax(S) модуля производной функции Q(x) из (1)-(2) по точкам ее дифференцируемости для х е S. Поскольку из (2) следует, что норма градиента ||V,gy(x)|| = Mj\\x — w-*\\ , имеем:
Vmax(S) = max maxm{Mjllx — wi\l}=,maxnMj max {\\x — will} =
= max Mj max {Цр^-шЩ}. (12)
j=0,...,m J i=0,...,Nu' IIJ
По построению, при выходе х из симплекса S и увеличении расстояния p = p(x,S) от его границ, функция Q(x) не может убывать быстрее, чем зависимость (—Vmax(S)p(x,S)). Поэтому точная штрафная функция \р(х) может быть выбрана в виде
ф(х) = /Vmax(S)p(x,S), (13)
где коэффициент штрафа / должен быть выбран большим единицы и может быть близок к ней. При проведении численных экспериментов использовалось значение / = 1,05. Решение задачи (1)-(3) эквивалентно определению минимального значения в задаче со штрафом:
р* = штр^, (р(х) = Q(x) + \р(х); (14)
Если использовать для субградиента выпуклой функции q(x) в точке х обозначение dq(x), итерационная формула субградиентного метода применительно к задаче (1)-(3) примет вид:
xk+i = xk — Ykd(S)"Q(xkk}+ßVmax(S)3p(xkk";)H, (15)
'«■ y 'WdQix^+pVmoxWdpfrks)! V '
где d(S) - диаметр симплекса (играет роль масштабирующего множителя), последовательность коэффициентов Yk ^ 0, Y^oYi = Ниже в вычислительных экспериментах всегда использовалась последовательность Yk = Yk-1/kv при р = 0,8, и Yo = 2. В качестве оценки минимального значения Q* из (1) используется оценка р^ значения р* из (14), где р* = Q*, а
р*к = imn,kP(xk)
Известно [11], что применение метода (15) обеспечивает lim р^ = р*.
Поскольку метод не имеет гарантирующего критерия останова, в экспериментах использовался эвристический критерий. Останов выполнялся в двух случаях, либо по исчерпанию ресурса, т.е. при к = ктах, либо раньше, при условии, что скользящее среднее значение р>к =-¡hY!i=k-L^(xi) уменьшилось за к* итераций менее, чем на £. Основным варьируемым параметром метода является значение £. Остальные параметры приняты равными: ктах = 500, L = 5, к* = 10.
При выполнении итераций (15) и подсчете р(хк) возникает необходимость в определении значений p(xk,S) и вычислении субградиентов dQ(xk) и dp(xk,S). Наиболее затратными являются операции, связанные с функцией расстояния p(x,S) до множества S. Кратко опишем соответствующие алгоритмы.
Алгоритм вычисления дQ(xk).
Шаг 1. Находим номер j* = j*(xfe) той из функций gj для которой значение gj(xk) (j = 0,...,т) максимально.
Шаг 2. Затем при заданной точности сравнения S,(0 < S « 1) выделяем номера j(xk) = {j1, .■■,jsk} всех функции gj значения которых в точке xk отличаются от наибольшего не более, чем на 5:
j(xk) = {j е {0.....т}: |gj(xfe) — gj*(xk)l < 5}.
Шаг 3. Принимаем
При проведении экспериментов использовалось значение 5 = 10-4. Алгоритм вычисления р(хк,Б) и субградиента др(хк,Б).
Шаг 1. Определяем множество I (хк^ = {(1, .,1Гк} номеров граней размерности (Ы — 1) X — р1ч,Ь1<<) > 0,(ц = 1,..., Гь). Если 1(хк>) = 0, полагаем р(хк
к сЛ _ п с DN
симплекса S, для которых (хк — vlq,blq) > 0,(q = 1, ...,гк). Если l(xk^ = 0, полагаем p(xk,S) = 0 Е
Я1 и др(хк,Б) = 0 е Ям, иначе переходим на шаг 2.
Шаг 2. Выписываем систему условий оптимальности в задаче 2
тт%У=1(г1 — хк) при ограничениях (г — р1ч,Ь1ч^ < 0, (ц = 1,...,гк) в форме линейной системы относительно множителей Лагранжа:
' ^Ь^.Ь^) + ■■■ + ^Гк(Ь1гк,Ь1ч) = (хк — у11,Ь1ч)
(16)
(q = 1, ...,Гк) где для оптимального значения
Шаг 3. Решаем методом Гаусса систему (16) относительно у.*,... ,у.*Гк, полагаем (z* — хк) = — T1rqk=ißqblq, определяем p(xk,S^ = \\z* — xk||. Далее, считая, что при малых изменениях хк ближайшая к нему в S точка z* не зависит от хк, приближенно принимаем в качестве одного из значений субградиента д p(xll,S^) = .
Метод сепарабельного программирования. В исходной форме записи задача (1)-(3) не является сепарабельной, однако может быть эквивалентно преобразована к сепарабельной форме (17)-(18) за счет введения дополнительной искусственной переменной z Е R1:
z* = min z, (17)
(х; z)ED
D = {(x; z) Е Rn: ßjYÜ=i(xs — wj)2 + dj < z, (j = 0, ...,m);
I$=i(xs — vi)bl < 0, (i = 0.....N)} (18)
В (18) использованы обозначения: ß0 = 1, d0 = ^, ßj = dj = ^, для (j = 1, ...,m). Используя технику решения сепарабельных задач (см., например [12]) заменим в (18) каждую из функций, зависящую от xs, ее кусочно-линейной аппроксимацией. Для этого вначале определим минимальные и максимальные значения координат гиперпараллелепипеда Р, описанного вокруг
симплекса S с вершинами в точках v0,...,vN: xSpin = min vi, xSpax = max vS. Нанесем на ^ S i=0,...,N S S i=0,...,N
построенный гиперпараллелепипед Р равномерную сетку, включающую г + 1 точку по каждой
^ Ч min Ттах_ min
переменной xs: xs(q) = x"un + qXs—-Xs—, (q = 0, ...,r).
Произвольное значение xs теперь может быть представлено через узлы сетки xs(0), ...,xs(r) с
помощью набора весовых коэффициентов as = (а$,..., аГ), где все коэффициенты неотрицательны и
их сумма равна единице. Для единственности представления нужно дополнительно потребовать,
чтобы положительными могли быть каждый раз только два соседних коэффициента.
Для перехода к кусочно-линейному представлению функций в (18) по отношению к новым
переменным в виде наборов весовых коэффициентов а1,..., aN выполняется замена каждого элемента ■2 ■ 2 (xs — wj) на функцию от а0, ...,аГ. Для этого используется аппроксимация: Yq=o(xs(q) — wj) .
В результате можно перейти от задачи (17)-(18) к решению аппроксимирующей ее задачи, функции
в которой линейно зависят от новых переменных - весовых коэффициентов. Аппроксимирующая
задача отличается от задачи линейного программирования только тем, что в ней присутствуют
требования положительности только двух соседних весовых коэффициентов в каждой из групп
ао,..., аГ.
В [12, стр. 470] доказана теорема, показывающая, что если в исходной сепарабельной задаче каждая координатная компонента минимизируемой функции строго выпукла, а каждая координатная компонента в нелинейных функциях ограничений - выпукла, то условие положительности только
двух соседних весовых коэффициентов не оказывает влияния на оптимальное решение аппроксимирующей задачи и может быть исключено из ограничений. В рассматриваемом случае задача (17)-( 18) не удовлетворяет указанным требованиям, поскольку целевая функция z в (17) не является строго выпуклой. Однако в [5, 10] доказано, что если в исходной сепарабельной задаче каждая координатная компонента минимизируемой функции выпукла, а каждая координатная компонента в нелинейных функциях ограничений строго выпукла, то условие положительности только двух соседних весовых коэффициентов также не окажет влияния на оптимальное решение аппроксимирующей задачи. Таким образом, решение задачи (17)-(18) может быть приближенно заменено решением стандартной задачи линейного программирования:
z*(r)=mm( в1-в2), (19)
у>0
где использована замена z = (в1 — в^), а вектор неотрицательных переменных имеет вид:
У = {а1,..., аг; ■■■; а0 , •••, аг ;u0, ■■■ ,Um;Um+1, ••• ,Um+1+N; в1>в2) — 0 (20)
Ограничения-равенства в (19) включают три группы условий и имеют вид (21), где для s = 0,1,..., (т + 1 + N) us - искусственные переменные:
\ßj IN=1 Т%=0 aS (xs — wj) + dj — (в1 — в2) + U = 0, (j = 0.....т);
£N=1^=0*% (xs(q) — vS)bls + U(m+1)+i = 0,(i = 0.....N); (21)
.1Г=оа1 = 1, (s = 1.....N).
В численных экспериментах, результаты которых приведены ниже, для решения задачи линейного программирования (19)-(21) использовался прямой симплекс-метод с лексикографическим антициклином. Определяемое при решении (19)-(21) значение z*(r) является приближением искомого оптимального значения z*. Параметр г, определяющий число точек в сетке по каждой из координат, является единственным варьируемым параметром, влияющим на точность решения и вычислительные затраты при использовании метода сепарабельного программирования.
Метод Лагранжа с использованием алгоритма Данцига [13]. Используя обозначения из (2), (3) перепишем эквивалентную форму (17)-(18) исходной задачи (1)-(3) в следующем виде:
z* = min z, (22)
g¡(x)<z, (j=0,..,m), xes(v0,...,vn).
Оптимальному значению z* соответствует значение x*.
Задача (22) является выпуклой, допустимое множество регулярно. Кроме того, исходя из вида функций gj(x) в (2) всегда можно указать ограниченный диапазон значений [z-, z+], в котором достаточно варьировать значение переменной z. Таким образом, для задачи (22) у функции Лагранжа вида L(x, z,Ä) = z + Ym=0 Äj(gj(x) — z) будет существовать конечная седловая точка (x*; z*; А*), для которой, очевидно, будет выполнено [11] специальное условие £j=oAj = 1. Если бы оно было нарушено, то не существовало бы конечного значения min L(x,z,A*), что привело бы к
XES, ZER1
противоречию.
Следовательно, функцию L(x, z, X) достаточно рассматривать лишь на линейном многообразии ^mm-o^-j = 1, на котором исходный вид функции Лагранжа может быть заменен на более простой, не зависящий от переменной , а именно:
L(x,A) = ?m¡=o¿jgj(x). (23)
Поэтому функцию со (А) двойственной по Лагранжу задачи можно определить в виде
u(A)=minL(x,A). (24)
XES
Из слабой теоремы двойственности следует, что VA — 0: ш(А) < z*, однако, с учетом указанных выше свойств рассматриваемой прямой задачи (22), для двойственной к ней задачи будет верно более сильное утверждение:
max ш(А) = ^(Л*) = z*. (25)
Л>0, ?p=0Aj=1
Алгоритм Данцига, используемый для определения z* через седловую точку (х*; Л*) функции (23), следуя описанию в [13, стр. 220], основан на наблюдении, что при конечности множества S двойственную задачу (24)-(25) можно эквивалентно представить задачей линейного программирования вида:
и* = max и, (26)
Л, и:
Ь(х,Л)>и, VxES,
л>о, zm=0*j=i.
В рассматриваемой нами задаче множество S не конечно, а континуально, поэтому в (26) присутствует бесконечное число линейных по А, и ограничений-неравенств, и задача (26) не может быть точно решена.
Приближенное решение, согласно алгоритму Данцига [13], основано на замене в (26) симплекса S конечным множеством уже порожденных на S точек x1,x2, ..,xk и решении последовательности возникающих задач линейного программирования с возрастающим числом ограничений:
(Ак+1, ик+1) = arg max и, (27)
Л, и:
тт=0^(х^>и,(1=1,..,к)
л>о,Гт=0л
1.
Координаты очередной точки хк+1 определяются из решения задачи (24) при Ä = Ак+1. В рассматриваемом случае эта задача является задачей квадратичного программирования следующего вида:
хк+1 = arg min д(х,Ак+1), (28)
(x-vl, bl)<0, (i=0,...,N)
где
д(х, Ак+1) = !(х, Ак+1) = с(Ак+1) + ^+h\\x-w^)\\2, (29)
с(А) = T,Y=otyj, М(Х) = Т?=оЩ, w(Ä)=??=0ÄjMjwJ/?,Y=0ÄjMj.
При этом ш(Ак+1) = д(хк+1,Ак+1).
При проведении числительных экспериментов задача (28), (29) сводилась к задаче линейной дополнительности, которая решалась методом ведущего преобразования Лемке [13].
Таким образом, применение метода Лагранжа с алгоритмом Данцига сводится к последовательному решению пар задач: линейного программирования (27) и квадратичного программирования (28), (29) для возрастающих значений к = (N + 2), (N + 3),.... В качестве начального набора точек в (27) используется множество вершин v0,..., vN симплекса5, т.е. х1 = v1-1, (i = 1,...,N + 1).
Критерий останова основан на выполнении неравенства [13]:
ик+1 - ш(Ак+1) < S. (30)
Описанный алгоритм, согласно [13], обладает сходимостью для рассматриваемого класса исходных задач (1)-(3).
При проведении числительных экспериментов использовалось дополнительное ограничение на количество выполняемых методом итераций: к < ктах = 50. Основным варьируемым параметром метода являлось значение S из условия остановки (30).
Метод Монте-Карло. Этот простой метод был добавлен для возможности сопоставления с ним более сложных методов, описанных выше.
В качестве варьируемого параметра метода выбрана нижняя оценка q* относительной меры подобласти S* в симплексе S со значениями целевой функции Q(х) из (1), достаточно близкими к ее минимальному значению на симплексе. В качестве фиксируемого параметра использовалось значение ß Е (0, 1), определяющее нижнюю оценку вероятности обнаружения точки, принадлежащей подобласти S*.
Метод генерирует п* случайно размещаемых в симплексе S точек xs=£j=0 afv\ (s = 1,..., п*), где af > 0, £¿=0 af = 1, а весовые коэффициенты af вычисляются на основе случайно порождаемых значений %f Е (0, 1] при равномерном законе распределения: af = /Ylq=0^q.
В качестве оценки решения используется наименьшее из вычисленных значений Q(xs), (s = 1, ..., п*). Число п* генерируемых точек определяется известным соотношением:
п*=ЩЕ$-у (3D
Заметим, что при проведении экспериментов выбиралось значение фиксированного параметра ß = 0,99. Варьируемым параметром являлось q*.
Генератор класса тестовых задач. Для проведения представительных численных исследований описанных выше методов на классе (1)-(3), разработан генератор задач такого вида, имитирующий структуру задач (10)-( 11) вычисления приоритетов (7) для компонент-симплексов, возникающих в триангуляционных методах условной глобальной оптимизации при решении многоэкстремальных задач со сложными ограничениями (4)-(6).
Поскольку масштаб, в котором рассматриваются задачи (1)-(3), не имеет значения, генератор порождает задачи, симплексы S в которых всегда имеют диаметр, равный единице. Ниже описаны принятые правила генерации.
Вначале строится шар с центром в точке 0 и диаметром, равным 1. На его поверхности случайно (при равномерном распределении) выбирается начальная вершина симплекса - точка v0. Вершина v1 размещается на поверхности шара диаметрально противоположно вершине v0, т.е. v1 = -v0. Остальные вершины v2, ...,vN случайно размещаются внутри шара так, чтобы векторы (vl — v0), (i = 1, ...,N) были линейно независимы. Предусмотрено два режима генерации симплексов. Первый режим - без контроля уплощения симплексов, второй - с контролем уплощения.
В первом режиме принимается всякий сгенерированный симплекс. Во втором режиме используется специальный параметр генерации ß*, определяющий ограничение снизу на величины углов между всевозможными парами граней размерности (N — 1) симплекса S. В этом режиме происходит многократная генерация симплексов с проверками величин их углов. Принимаются
только те симплексы, которые удовлетворяют поставленному ограничению, связанному со значением ß*.
Заметим, что варианту SMP-метода глобальной оптимизации с неотложенным делением соответствует генерация симплексов без контроля уплощения, а варианту метода с отложенным делением - генерация с контролем уплощения при использовании параметра ß*.
После получения очередного симплекса происходит вычисление внешних нормалей b0, ...,bN ко всем его (N — 1)-мерным граням.
Далее происходит построение т + 1 параболоида (2) со случайно выбираемыми параметрами Cj, Mj, wj. Для этого вокруг шара диаметра 1 с центром в точке ноль описывается гиперкуб П, а также строится расширенный гиперкуб П = аП, где параметр a > 1. В гиперкубе П случайно (с использованием равномерного распределения) выбирается положение вершин wj для т + 1 параболоида (j = 0, ...,т). Значения Mj случайно выбираются на отрезке [5; 1], где 0 < 5 « 1, а значения Cj - на отрезке [С-, С+], где величина С- = — С+, а С+ = ya2. Числа a, 5 являются параметрами генерации.
В численных экспериментах, результаты которых приведены ниже, всегда использовались следующие значения параметров генерации: a = 6, г] = 0,25, 5 = 0,01.
Генератор написан на языке C#. Для численных экспериментов генерируются комплекты задач вида (1)-(3), включающие заданное количество задач. Для генерации последовательности псевдослучайных чисел, используемых при построении каждой из задач комплекта, синтезировалось два датчика случайных чисел Rпd_S и с равномерным распределением, путем вызова
конструктора ^w Ra^cm^sed). Первый датчик использовался для построения симплексов, а второй - параболоидов из (2). Целочисленный параметр инициализации seed выбирался одинаковым
для обоих датчиков. Для обеспечения управляемой повторяемости генерации его значение принималось различным в зависимости от номера комплекта setjium, параметров генерации а и ], размерности N, количества параболоидов (m + 1) и порядкового номера задачи task_num:
seed = set_num + |10aj + [102]\ + 103N + 104(m + 1) + 106task_num. (32)
Заметим, что при решении задач из построенных комплектов, в численных методах, использующих случайность (метод Монте-Карло), применялся отдельный датчик с равномерным распределением, порождаемый вызовом конструктора без параметра new Random(), что соответствует инициализации датчика неопределенным значением с системных часов компьютера.
Методика проведения численного эксперимента. Выбранная концепция методики проведения вычислительных экспериментов направлена на сравнение описанных выше методов по двум основным показателям: значению найденной оценки решения для задач (1)-(3) и времени, затраченного методом для определения этой оценки. Поскольку значения данных показателей при решении разных реализаций задач вида (1)-(3) существенно зависят от решаемой конкретной задачи, вместо них использовались относительные характеристики качества найденного значения и затрат времени, а само тестирование проводилось не на одиночных задачах, а на описанных выше комплектах из tasks_count задач при tasks_count = 300. Выполнялось усреднение полученных относительных характеристик с вычислением среднеквадратических стандартных отклонений от средних значений. Методы сопоставлялись по усредненным относительным характеристикам качества найденной оценки решения и безразмерным характеристикам относительных показателей временных затрат. При этом также принимались во внимание значения стандартных отклонений по этим характеристикам.
Приведем точное поэтапное описание принятой реализации описанной общей концепции сопоставления методов.
Каждый из численных методов имеет набор параметров. При описании методов эти параметры были разделены на две группы: фиксируемые параметры и один основной варьируемый параметр метода, зависящий от типа метода. В данном описании этот параметр всегда будем единообразно обозначать символом р, хотя в приведенных выше методах, каждому из них соответствовало свое обозначение соответствующего параметра. При выполнении эксперимента на комплекте задач для каждого метода (далее используем для него формальное обозначение "Meth") определяется диапазон изменения варьируемого параметра от p*Meth до Рмет а также количество значений К выбираемых из этого диапазона. В ходе эксперимента методы применяются при нескольких значениях параметра:
pMeth = pMeth - (s - 10 (pMeth - pMethV(К - ^ (s = 1, - ,К). (33)
Для определения относительных характеристик качества оценки решения и временных затрат методов на задаче с номером task_num = i выполняется их сопоставление с аналогичными показателями, получаемыми на той же тестовой задаче в простом эталонном методе. В качестве эталонного метода использовалась простейшая процедура определения минимума в задаче (1)-(3) за счет измерения Q(x) в наборе из n^ase случайно выбираемых точек х1 в симплексе S(v0, ...,vN) из (3). Значения х1 =Yd=oa¡vi, (I = 1,...,nbase), где весовые коэффициенты а\ вычисляются на основе случайно порождаемых значений f¡¡ Е (0, 1] при равномерном законе распределения: а\ = %i/T,c¡=0 % q.
Для эталонного метода, примененного к -й задаче, определяется оценка минимума
Qbase = min Q(xl). t=L,...,nfoase
Такие оценки вычисляются подряд Krep раз с определением среднего Qj¡,lase из полученных случайных значений Qj¡,lase, а также замером среднего времени T^ase вычисления одного значения Qbase.
Для каждого метода Meth из исследуемого набора методов также выполняется многократное решение -й задачи с Krep повторениями, в результате чего определяется усредненное по Krep повторам значение Q*Meth(fi) полученных методом оценок QM_eth(P) значений минимума, где р -
использованное значение варьируемого параметра метода. Также измеряется общее затраченное на эти решения время с определением среднего времени TMeth(p) на однократное решение.
Усредненные значения QQ*^ase и QMeth(p) рассматриваются в отклонениях от значения функции Q1 (х) в средней точке симплекса, вычисляемой как среднее арифметическое положений его вершин:
Введем две относительные безразмерные характеристики, определяющие эффективность и затратность метода Meth, применяемого при значении варьируемого параметра р = pMeth из (33) для решения -й задачи из текущего комплекта тестовых задач:
ui (глЛ — QMeth(P)-QL(x)
hMeth(P) = QVase-Q^ , (34)
¿мет(Р) = Щ?М, (35)
^'base
В каждом из проведенных экспериментов количество задач в тестовом комплекте принималось равным 300, т.е. tasks_coun t = 300. Характеристики (34), (35) определялись для каждой из 300 задач ( i = 1, ...,300), выполнялось их усреднение с подсчетом выборочного стандартного отклонения. Получились следующие характеристики:
hMeth(p) = (36)
t Meth(p) = tasks1 munt ^Т~СОиШ tlMeth(v\ (37)
а также
1
°Meth(p) = (tasks1unt-X=T-C0Unt ( hMeth(P) - hMeth(p))2)2 (38) Результат эксперимента, проведенного с одним методом, может быть представлен на плоскости ( t; h) в виде совокупности точек с координатами ( tMeth(p); hMeth(p)) из (36), (37), где параметр р принимает ряд значений р = pMeth из (33) (s = 1, ...,К). Полученные точки можно для наглядности последовательно соединить отрезками прямых.
Такое представление может быть получено для каждого из методов. В дальнейшем для именования методов будут использоваться следующие краткие обозначения: СГ- субградиентный метод с использованием точного штрафа; ЛД- метод Лагранжа с использованием алгоритма Данцига; МК - метод Монте-Карло; СП - метод сепарабельного программирования.
Если метод Meth с параметром p обеспечивает среднюю по комплекту задач относительную характеристику h качества оценки решения, значение которой оказывается меньше, чем у эталонного базового метода с nbase случайными точками, значение hMeth(p) будет больше единицы. Если метод Me h (с параметром p) по временным затратам на решение в среднем окажется более экономичным эталонного базового метода, то значение характеристики tMeth(p) окажется меньшим единицы.
Методы, обладающие лучшим качеством по двум критериям (36), (37), будут порождать точки на плоскости ( t; h), лежащие левее и выше. Можно дополнительно задать граничные значения характеристик, которые выделяют на плоскости ( t; h) подмножество t < tmax и h > hmin значения вне которого не представляют интереса. Тогда целью эксперимента можно считать выделение в указанном подмножестве тех экспериментальных точек ( tMeth(p); hMeth(p)), которые являются эффективными по Парето в двухкритериальной задаче:
tMeth(p) ^ min; hMeth(p) ^ max, (39)
рассматриваемой при следующих четырех группах ограничений:
p = pSMeth из (33), (s = 1.....К); (40)
t Meth(p) < tmax и hMeth(p) > hmin; (41)
Meth 6 { СГ; ЛД; МК; СП }; (42)
°Meth(p) < a* (43)
Последнее неравенство (43) необходимо для того, чтобы исключить из рассмотрения результаты работы тех методов со значениями их параметров, которые приводят к слишком
большому разбросу значений показателя Ьмеш(р), определяющего качество поиска минимума данным методом.
Результаты численного исследования. При сравнении методов, в зависимости от размерности N комплектов тестовых задач, использовались различные значения числа случайно размещаемых точек Щазе в эталонном методе, относительно которого вычисляются безразмерные характеристики качества оценок решения и затратности остальных методов. Принятые значения пЬазе представлены в табл. 1.
Таблица 1
Принятое в экспериментах количество измерений Щазе в эталонном методе в зависимости от размерности задачи N
N ^ЬаБе
2 200
3 500
4 1500
5 4500
6 13500
При проведении экспериментов использовались фиксированные значения параметров методов, приведенные выше при их описании. Принятые диапазоны изменения и наборы значений варьируемых параметров представлены в табл. 2.
Таблица 2
Диапазоны изменения и наборы значений варьируемых параметров методов при числе значений,
принимаемых этими параметрами К = 5
Маркировка метода Meth Обозначение варьируемого параметра Диапазон изменения параметра от р*Ме1П до РмеШ Набор значений параметра Р=Рмегп^ = 1.....К
СГ £ 10-3; 10-5 0,000100; 0,000078; 0,000055; 0,000033; 0,000010
ЛД 5 0,1; 0,01 0,1000; 0,0775; 0,0550; 0,0325; 0,0100
МК № = 2) Я* 0,01; 0,005 0,0100; 0,0088; 0,0075; 0,0063; 0,0050
МК ^ = 3) Я* 0,01; 0,002 0,0100; 0,0080; 0,0060; 0,0040; 0,0020
МК ^ = 4) Я* 0,005; 0,0005 0,0050; 0,0039; 0,0028; 0,0016; 0,0005
МК ^ = 5) Я* 0,002; 0,0002 0,002; 0,0016; 0,0011; 0,0007; 0,0002
МК ^ = 6) Я* 0,0008;0,00008 0,00080; 0,00062; 0,00044; 0,00026; 0,00008
СП г [3; 8 1 3; 4; 5; 6; 8
Число повторений Кгер при решении задач, введенное для повышения точности замеров времени решения, в экспериментах принято равным 50.
Проведено несколько групп экспериментов, в ходе которых:(а) -выяснено влияние количества т параболоидов, порождаемых ограничениями-неравенствами в методах глобальной оптимизации на относительную эффективность методов решения задач (1)-(3) на примере задач с размерностями N = 2иN = 3;(b)- определены эффективные по Парето методы и значения их параметров для ряда сочетаний значений т и N (с) -исследовано влияние уплощения симплексов, а также влияние изменения номера комплекта тестовых задач на результаты экспериментов; - выяснено влияние размерности N при ее изменении от 2 до 6 на относительную эффективность методов.
Выбор диапазона изменений размерности определялся тем, что триангуляционные методы параболоидов для решения задач (4)-(5) условной глобальной оптимизации обычно применяются для прикладных задач относительно невысокой размерности, в которых измерение функций задачи в каждой точке области поиска требует значительных вычислительных затрат.
Ниже кратко представлены количественные результаты обработки части экспериментальных данных, а также представлены описания качественного характера для ряда обнаруженных закономерностей.
Результаты исследований из группы (а). В этом исследовании при генерации тестовых задач вида (1)-(3) было установлено ограничение на вырождение симплексов Б, а именно, использовалось
ограничение Р > Р* при р* = 40° на значение углов р между гранями размерности (Ы — 1) у симплексов (см. описание генератора задач).
Результаты экспериментов могут быть представлены в графической форме. На рис. 2 в качестве примера приведены данные по сопоставлению четырех методов для комплекта задач с номером зе1_пит = 1, состоящего из 300 задач. На левой части рисунка показаны серии из К = 5 точек вида (); ЬМеы(рУ), соединенные отрезками в отдельные кривые, соответствующие четырем методам: СГ, ЛД, МК и СП. Рядом с кривыми указаны маркировки методов. Точки на кривых соответствуют значениям варьируемых параметров методов, приведенных для них в табл. 2. Значения параметров в наборах табл. 2 (см. последнюю колонку) перечислены в порядке, соответствующем следованию точек на графиках слева направо.
Если в ограничениях (41) принять значения ограничителей равными Ьтах = 10, кт(п = 1,05, то множество эффективных (оптимальных по Парето) решений двухкритериальной задачи (39)-(43) будет включать в себя три последние точки метода МК и все 5 точек метода СП. Эти точки отмечены более светлыми маркерами на левой части рис. 2. Они располагаются на верхнее-левой границе выпуклой линейной оболочки множества всех точек, показанных на рисунке. Заметим, что значение ^тах = 10 означает, что для методов допускаются вычислительные затраты в десять раз превышающие затраты эталонного метода, выполняющего питЬазе измерений Q(x). Если Ьтах уменьшить до значения 5, то число оптимальных по Парето точек сократится, из пяти точек метода СП в множестве оптимальных по Парето останется только две первых.
В правой части рис. 2 показаны графики изменения значений оМе1-11(р) - стандартных отклонений (38) характеристик Ь1Ме1:ь(р) от их усредненных значений, представленных на левой части рис. 2. По оси абсцисс на обеих частях рисунка отложены значения В силу введенного
ограничения (43) методы, характеризующиеся слишком большими значениями стандартных отклонений, отбраковываются.
'MetJi
1,10 1,08 1,06 1,04 1,02 1,00 0,98
Усредненные характеристики
.............................. ' 1 > S 1 ' ■ 1 1 1 * 1 ' 1 * 1.....■ 1 1
'СП
<^Meth
Стандартные отклонения
8
10
12
14
0,18 0,16 0,14 0,12 0,10 0,08 0,06
СГ ^^^^
» ♦ -» кмк СП
8
10
12
14
1Ме01 и " 4 " ° " "* 1Ме&
Рисунок 2 - Графическое представление результатов эксперимента для N = 2, при т = 1. Слева показаны изменения характеристик методов при изменениях их параметров, справа - изменения
величин стандартных отклонений
Результаты эксперимента, приведенные на рис. 2, показывают, что при размерности N = 2 и значении т = 1 (напомним, что т - число параболоидов в (2), порождаемых ограничениями-неравенствами в исходной задаче многоэкстремальной оптимизации (4)-(5)) применение субградиентного метода (СГ) и метода Лагранжа с использованием алгоритма Данцига (ЛД) никогда не является оправданным. Они уступают методам МК и СП как по значениям основных усредненных характеристик, так и по значениям стандартных отклонений. Наиболее экономичным по временным затратам является простой метод Монте-Карло (МК), а лучшую точность обеспечивает метод сепарабельного программирования (СП). Однако его использование, как отмечено выше, связано со
значительно большими временными затратами, чем у метода МК, особенно при увеличении параметра г, который в этом методе характеризует количество точек в сетке по каждой переменной.
В более компактном и обработанном виде аналогичные результаты могут быть представлены в табличной форме. Данные табл. 3 соответствуют исследованию эффективности методов для задач с размерностью N = 2 и показывают влияние т, характеризующего количество параболоидов в (2).
При проведении экспериментов расчеты выполнялись для значений т от 1 до 9. В табл. 3 представлены характерные результаты на примере только трех значений. Таблица разделена на блоки. Блоки соответствуют т = 1, 4, 9. В верхней части каждого блока указаны использованные значения ограничителей в задаче (39)-(43), а также значение т и количество вычислений пит^азе функции (((х) в эталонном методе. Вторая и третья строки блока содержат маркировки тех методов и порядковые номера тех значений их параметров (имеются в виду их номера в наборах параметров из табл. 2), которые являются оптимальными по Парето в двухкритериальной задаче (39)-(43). В последних трех строках каждого блока приведены соответствующие этим методам и параметрам значения усредненных характеристик и ЬМеШ, а также значения стандартных отклонений для
этих характеристик (?меш. Первый блок таблицы соответствует результатам на рис. 2.
Таблица 3
Оптимальные по Парето методы и номера значений параметров, соответствующие им
характеристики качества для N = 2
Параметры в (39)-(43) Ограничители: hmin = 1,045; tmax = 10; а* = 0,11. Значение т = 1. Измерений в эталонном методе numbase = 200
МеШ*(рз*) МК МК МК СП СП СП СП СП
Значение 5* 3 4 5 1 2 3 4 5
Ь-мегъ.'&з') 1,049 1,053 1,056 1,080 1,088 1,090 1,091 1,093
^меги*(рз*) 2,0 3,0 4,0 4,2 5,1 6,1 7,3 9,6
^ме1к*(рз*) 0,082 0,081 0,080 0,105 0,098 0,096 0,095 0,095
Параметры в (39)-(43) Ограничители: hmin = 1,045; tmax = 10; а* = 0,11. Значение т = 4. Измерений в эталонном методе numbase = 200
МеШ(р5*) МК МК МК СП СП СП — —
Значение 5* 3 4 5 2 3 4 — —
^мегК*(рз*) 1,045 1,049 1,052 1,085 1,087 1,090 — —
^мегъ.*(рз*) 3,2 4,1 5,2 12,0 13,7 15,6 — —
аме1к*(рз*) 0,070 0,075 0,063 0,078 0,080 0,082 — —
Параметры в (39)-(43) Ограничители: hmln = 1,05; tmax = 18; а* = 0,14. Значение т = 9. Измерений в эталонном методе numbase = 200
МеШ*(рз*) МК МК МК МК МК СП СП —
Значение 5* 1 2 3 4 5 2 3 —
^мегк*(рз*) 1,052 1,058 1,064 1,069 1,072 1,101 1,107 —
^мегъ.<рз*) 1,9 2,1 2,5 3,1 3,9 14,5 16,2 —
амегк*(рз*) 0,105 0,107 0,109 0,109 0,102 0,130 0,125 —
Общие выводы для размерности N = 2 состоят в том, что для всех рассмотренных случаев оптимальными по Парето всегда оказываются методы МК и СП. При этом метод сепарабельного программирования (СП) по характеристике 1т.мет (она отражает относительное качество получаемой оценки решения), примерно на 3-10% превосходит метод МК, но в среднем (по характеристике 1мет) требует большего времени выполнения от 1,5 до 5 раз. Временны е затраты в методе СП возрастают с увеличением т от 1 до 9 примерно в 3 раза, что связано с увеличением числа ограничений в решаемой в этом методе вспомогательной задаче линейного программирования (19)-(21), а также с увеличением числа переменных в этой вспомогательной задаче.
Аналогичные эксперименты по исследованию влияния параметра т, характеризующего количество параболоидов в (2), были проведены при размерности N = 3 для т изменяющегося от 1 до 9. Характерные результаты для т = 1, 4, 9 представлены в табл. 4.
Таблица 4
Оптимальные по Парето методы и номера значений параметров, соответствующие им
характеристики качества для N = 3
Параметры в (39)-(43) Ограничители: кт1п = 1,045; Ьтах = 12,5; а* = 0,15. Значение т = 1. Измерений в эталонном методе питЬа5е = 500
МеЬк*(р5*) МК МК ЛД ЛД СП СП — —
Значение 5* 3 4 4 5 4 5 — —
^МегН*(Рз*) 1,045 1,070 1,173 1,180 1,179 1,182 — —
^Меги*(Рз*) 1,4 2,3 3,9 5,5 8,8 12,2 — —
Смегъ.*(Рз*) 0,100 0,101 0,148 0,142 0,145 0,142 — —
Параметры в (39)-(43) Ограничители: кт1п = 1,045; Ьтах = 15; а* = 0,15. Значение т = 4. Измерений в эталонном методе питЪазе = 500
Ме0г*(р5*) МК СГ СП СП СП СП — —
Значение 5* 4 5 1 2 4 5 — —
^МегН*(Рз*) 1,063 1,104 1,135 1,145 1,152 1,159 — —
^Меги*(Рз*) 2,3 4,7 6,4 8,4 10,9 14,8 — —
^Ме1П*(Рз*) 0,095 0,127 0,140 0,138 0,140 0,130 — —
Параметры в (39)-(43) Ограничители: кт1п = 1,045; Ьтах = 15; а* = 0,15. Значение т = 9. Измерений в эталонном методе питЬа5е = 500
Мегк*(р3*) МК МК СГ СП СП — — —
Значение 5* 3 4 5 1 2 — — —
^мегп^Рз**) 1,051 1,076 1,107 1,147 1,160 — — —
^МегИ*(Рз*) 1,4 2,2 3,7 8,9 10,5 — — —
СмегЪ.*(Рз*) 0,110 0,103 0,130 0,150 0,147 — — —
Выяснено, что изменение размерности приводит к существенным изменениям относительных эффективностей методов. Например, в ряде случаев оптимальным по Парето при N = 3 оказывется метод Лагранжа с использование алгоритма Данцига (ЛД), чего не наблюдалось при N = 2.
Для возможности наглядного сравнения случаев N = 3 и 2 на рис. 3 в графической форме представлены результаты эксперимента при N = 3,т = 1 в том же формате, что и на рис. 2. Точки, соответствующие оптимальным по Парето методам и значениям их параметров, выделены более светлыми маркерами. Увеличение размерности приводит к тому, что вместо метода СП оптимальным по Парето становится метод ЛД. Выяснено, что на этот результат влияет значение т. При его увеличении эффективность метода ЛД по отношению к эффективности СП постепенно снижается и при т = 3 они становятся практически равноценными. Начиная с т = 4, метод ЛД перестает быть оптимальным, а метод СП становится оптимальным по Парето (см. табл. 4).
Ьм„<к Усредненные характеристики Стянляптные отклонения
о 2 4 6 8 ю О 2 4 6 8 10 'МеЛ
Рисунок 3 - Графическое представление результатов эксперимента для N = 3, при т = 1. Слева -изменения характеристик методов, справа - изменения величин стандартных отклонений при
изменении варьируемых параметров
Проведено исследование влияния уплощения симплексов, а также влияние номера комплекта тестовых задач на результаты экспериментов. Для этих целей эксперименты проводились при т = 3 для каждой из размерностей N =2,3,4 на трех комплектах тестовых задач с номерами зе1_пит =
1, 2, 3 из (32). Каждый раз рассматривались два типа комплектов: (а) - с контролем уплощения и ограничением снизу значений углов / между гранями размерности (Ы — 1) симплексов значением 3* = 40о; (Ь) - без контроля уплощения (углы между гранями могли быть любыми).
Выполненные расчеты показали, что изменения номера комплекта из 300 задач не приводит к существенным изменениям ранее полученных результатов. Выводы качественного характера сохраняются, а количественные изменения усредненных характеристик составляет порядка 1-2%, т.е. несущественны.
Включение и выключение контроля уплощения симплексов также не приводит к существенным изменениям наборов оптимальных по Парето методов с их параметрами. Количественные изменения в характеристиках большинства методов составляют 1-2%. Наиболее чувствительным к уплощению симплексов является метод МеНг =ЛД, но поскольку в большинстве случаев (из-за больших значений (Гмет) он не входит в множество методов, оптимальных по Парето, то это не влияет существенно на оптимальное по Парето подмножество.
Влияние размерности N в диапазоне от 2 до 6 исследовалось на примере т = 3. Результаты для размерностей 2 и 3 при т = 4 представлены в табл. 3-4. В табл. 5. приведены результаты для т = 3 при изменениях N от 3 до 6. Заметим, что с ростом размерности наблюдается изменение взаимного расположения кривых (аналогичных показанным на рис. 2-3), соответствующих различным методам. А именно, кривые методов ЛД и СГ смещаются относительно СП и МК влево и вверх, что приводит к тому, что при соответствующих значениях параметров методы ЛД и СГ могут претендовать на оптимальность по Парето. Дополнительное влияние оказывают ограничения на величины стандартных отклонений. Общая ситуация, наблюдаемая в эксперименте, такова, что ^ме1Н(Р) для методов СГ и ЛД в большинстве случаев заметно превышают значения для методов МК и СП. Приемлемые значения стандартные отклонения для СГ и ЛД принимают только при использовании для них параметров из наборов табл. 2 с достаточно большими номерами.
Таблица 5
Зависимость от размерности N оптимальных по Парето методов и номеров их параметров
при т = 3. Соответствующие им характеристики качества
Параметры в (39)-(43) Ограничители: кт1п = 1,045; Ьтах = 15; а* = 0,15. Значение N = 3. Измерений в эталонном методе: питЪазе = 500
МеШ*(рз*) МК СГ СП СП СП СП — —
Значение 5* 4 5 1 2 3 5 — —
гмегъ.*(рз*) 1,049 1,102 1,125 1,139 1,146 1,151 — —
^мегъ.*(рз*) 2,1 4,5 5,4 6,6 8,1 12,5 — —
°Мегъ.*(Рз*) 0,085 0,132 0,148 0,140 0,130 0,137 — —
Параметры в (39)-(43) Ограничители: кт1п = 1,045; Ьтах = 15; а* = 0,15. Значение N = 4. Измерений в эталонном методе: питЪазе = 1500
МеЬк*(рз*) МК СГ СП СП СП СП СП —
Значение 5* 3 5 1 2 3 4 5 —
гмегъ.*(рз*) 1,045 1,155 1,184 1,194 1,196 1,201 1,204 —
^мегъ.*(рз*) 1,1 1,4 3,3 4,0 5,2 6,2 8,3 —
аМегИ*(рз*) 0,074 0,128 0,135 0,140 0,148 0,140 0,135 —
Параметры в (39)-(43) Ограничители: кт1п = 1,05; Ьтах = 18; а* = 0,15. Значение N = 5. Измерения в эталонном методе: питЪазе = 4500
МеШ*(рз*) СГ ЛД СП СП СП СП — —
Значение 5* 5 5 1 2 4 5 — —
гмегъ.*(рз*) 1,165 1,227 1,200 1,213 1,216 1,227 — —
^мегь*(рз*) 0,5 1,7 17 22 34 4,8 — —
аМегИ*(рз*) 0,130 0,125 0,132 0,128 0,148 0,128 — —
Параметры в (39)-(43) Ограничители: кт1п = 1,05; Ьтах = 18; а* = 0,15. Значение N = 6. Измерения в эталонном методе: питЪазе = 13500
МеШ*(рз*) СГ ЛД ЛД СП СП СП СП —
Значение 5* 5 4 5 2 3 4 5 —
гмегъ.*(рз*) 1,181 1,255 1,260 1,245 1,251 1,260 1,260 —
^мегъ.*(рз*) 0,1 0,3 0,4 11 13 1,7 2,3 —
амегъ.*(рз*) 0,145 0,145 0,135 0,140 0,145 0,135 0,141 —
Заметим, что значения, выделенные подчеркиванием в блоках табл. 5 для N = 5 и 6 не являются оптимальными по Парето, но близки к оптимальным.
Заключение. В данной работе проведено представительное экспериментальное исследование численных методов решения специального класса кусочно-квадратичных задач, предложена специальная методика тестирования, построен генератор комплектов задач с нужными свойствами. Апробированы методы, основанные на различных принципах построения. Для ряда значений N и т найдены оптимальные по Парето методы в сочетании со значениями их параметров. Применение полученных результатов к программной реализации триангуляционных методов условной глобальной оптимизации должно привести к существенному повышению ее быстродействия.
Список использованной литературы:
1. Городецкий С. Ю. Триангуляционные методы параболоидов в задачах многоэкстремальной оптимизации с ограничениями для класса функций с липшицевыми производными по направлениям / С.Ю. Городецкий // Вестник Нижегородского государственного университета им. Н. И. Лобачевского. Математическое моделирование и оптимальное управление. — Н.Новгород: Изд-во ННГУ. — 2012. — № 1 (1). — С. 144-155.
2. Городецкий С.Ю. Многоэкстремальная оптимизация на основе триангуляции области / С.Ю. Городецкий // Вестник Нижегородского государственного университета им. Н. И. Лобачевского. Математическое моделирование и оптимальное управление. — Н.Новгород: Изд-во ННГУ. —1999. —№ 2 (21). — С. 249-269.
3. Городецкий С.Ю. Методы многоэкстремальной оптимизации на основе триангуляции области поиска / С.Ю. Городецкий // Первая всероссийская научно-практическая конференция по вопросам решения научно-практических задач в промышленности ОПТИМ-2001. Сборник докладов. — С-Пб.: ЦНИИТС, 2001. — С. 191-196.
4. Clausen J. Subdivision, Sampling, and Initialization Strategies for Simplical Branch and Bound in Global Optimization / J. Clausen, A. Zilinskas // Computers and Mathematics with Applications. — 2002. — № 44. — P.957-967.
5. Городецкий С.Ю. Нелинейное программирование и многоэкстремальная оптимизация / С.Ю. Городецкий, В.А. Гришагин. — Н.Новгород: Изд-во ННГУ, 2007. — 489 с.
6. Zilinskas J. Branch and bound with simplicial partitions for global optimization / J. Zilinskas // Math. Model. Anal. — 2008. — V. 13, № 1. — P. 145-159.
7. Paulavicius R. Investigation of selection strategies in branch and bound algorithm with simplicial partitions and combination of Lipschitz bounds / R. Paulavicius, J. Zilinskas, A. Grothey // Optim. Lett. — 2010. — № 4. — P. 173-183.
8. Елсаков С. М. Однородные алгоритмы многоэкстремальной оптимизации / С. М. Елсаков , В. И. Ширяев // Журн. ВМ и МФ. — 2010. — Т. 50, № 10. — С. 1-14.
9. Елсаков С.М. Однородные алгоритмы многоэкстремальной оптимизации для целевых функций со значительным временем вычисления значения / С.М. Елсаков, В.И. Ширяев // Вычислительные методы и программирование: новые вычислительные технологии. — 2011. — Т. 12, № 1. — С. 48-69.
10.Городецкий С. Ю. SM-методы в задачах многоэкстремальной оптимизации с ограничениями для класса функций с липшицевыми производными по направлениям / С.Ю. Городецкий // Н.Новгород: ННГУ, 2007. — 22 с. — Деп. в ВИНИТИ 11.01.07, № 18-В2007.
11.Поляк Б.Т. Введение в оптимизацию. / Б.Т. Поляк // М.: Физматлит, 1983. — 384 с.
12.Базара М. Нелинейное программирование. Теория и алгоритмы / М. Базара, К. Шетти // М.: Мир, 1982. — 583 с.
13.Мину М. Математическое программирование. Теория и алгоритмы / М. Мину // М.: Физматлит, 1990. — 486 с.
© Городецкий С.Ю., Бабинцева А.Н., 2017
