CC BY
5
УЧЕНЫЕ ЗАПИСКИ КАЗАНСКОГО УНИВЕРСИТЕТА. СЕРИЯ ФИЗИКО-МАТЕМАТИЧЕСКИЕ НАУКИ
2019, Т. 161, кн. 2 С. 263-273
ISSN 2541-7746 (Print) ISSN 2500-2198 (Online)
УДК 519.853
doi: 10.26907/2541-7746.2019.2.263-273
ВАРИАНТ МЕТОДА ШТРАФОВ С АППРОКСИМАЦИЕЙ НАДГРАФИКОВ ВСПОМОГАТЕЛЬНЫХ ФУНКЦИЙ
И.Я. Заботин, К.Е. Казаева
Казанский (Приволжский) федеральный университет, г. Казань, 420008, Россия
Предлагается метод решения задачи выпуклого программирования, идейно близкий к известным методам внешних штрафов. В методе используются вспомогательные функции, построенные на основе штрафных функций общего вида. С целью нахождения приближений надграфики этих вспомогательных функций, а также область ограничений исходной задачи погружаются в некоторые многогранные множества. В связи с этим задачи отыскания итерационных точек представляют собой задачи линейного программирования, в которых ограничениями служат множества, аппроксимирующие надграфики, и многогранник, содержащий допустимую область. Аппроксимирующие множества строятся от шага к шагу с помощью традиционных отсечений плоскостями итерационных точек. Особенность метода заключается в том, что в нем заложена возможность периодического обновления аппроксимирующих множеств за счет отбрасывания отсекающих плоскостей. Доказывается сходимость предложенного метода. Обсуждаются его реализации.
Ключевые слова: условная минимизация, итерационная точка, сходимость, штрафная функция, надграфик, аппроксимирующее множество, отсечение
Один из классов методов условной минимизации образуют методы штрафных функций и близкие к ним (см., например, [1-3]). С помощью этих методов решение задачи сводится к последовательному решению задач минимизации некоторых вспомогательных функций либо на всем пространстве, либо на множествах более простых, чем исходное допустимое множество. Определенным недостатком методов названного класса с практической точки зрения является то, что от шага к шагу решение вспомогательных задач минимизации должно осуществляться с возрастающей точностью. К тому же с ростом числа шагов эти задачи могут усложняться и за счёт ухудшения свойств вспомогательных функций.
Понятно, что в таких методах для решения вспомогательных задач могут применяться любые подходящие алгоритмы. Однако далеко не все из этих алгоритмов позволяют отслеживать точность решения вспомогательных задач. К методам, позволяющим оценивать точность решения на каждой итерации, относятся, например, методы отсечений, в частности те из них, которые используют аппроксимацию над-графика функции цели [4-8].
В работе [9] предложен один метод отсечений, в котором на каждом шаге используется погружение в многогранное множество надграфика не целевой функции, а некоторой вспомогательной функции. Эта вспомогательная функция представляет собой сумму целевой функции и внешнего штрафа области ограничений.
Аннотация
Введение
В связи с этим метод отсечений [9] можно считать своеобразной модификацией известного метода штрафных функций (см., например, [1, 2]).
Особенность модификации заключается в том, что в ней не требуется, даже приближенно, решать задачи минимизации указанных вспомогательных функций. На г-м шаге, г = 0,1,..., метода [9] для нахождения итерационной точки решается задача линейного программирования с использованием в виде ограничения многогранного множества М,,, содержащего надграфик вспомогательной функции Рг(х). Затем, используя Fi(x), найденная итерационная точка отсекается одной или несколькими плоскостями от множества М,,, и полученное в результате отсечения множество считается аппроксимирующим надграфик уже очередной вспомогательной функции Fi+l(x).
Недостаток метода [9] заключается в том, что от шага к шагу при построении множеств М.1 накапливаются отсекающие плоскости. Это приводит к последовательному усложнению задач нахождения приближений. Метод, предлагаемый в настоящей статье, основан на тех же идеях, что и метод [9], но свободен от указанного недостатка. Предлагаемый метод допускает обновление аппроксимирующих множеств за счёт отбрасывания на некоторых итерациях любых ранее построенных отсекающих плоскостей. Возможность периодических обновлений объясняется тем, что в методе заложен критерий оценки качества аппроксимации надграфиков множествами Мi. На тех итерациях, где качество аппроксимации становится достаточно хорошим, и происходят упомянутые обновления. Отметим, что подобные критерии оценки качества аппроксимации были использованы ранее в [10, 11].
1. Постановка задачи
Пусть f (x) - определённая в n-мерном евклидовом пространстве Rn выпуклая функция, множество D с Rn выпукло замкнуто и ограничено. Решается задача
min {f (x) : x £ D} . (1)
Положим f * = min {f (x) : x £ D}, X* = {x £ D : f (x) = f * }, epi (g, G) = = {(x,Y) £ Rn+i : x £ g,y ^ g (x)}, где G с Rn, g (x) - определённая в Rn функция, W (z, Q) = {a £ Rn+i : ||a|| =1, {a,u — z) ^ 0 уи £ Q}, где z £ Rn+i, Q с Rn+i, int Q - внутренность множества Q, K = {0,1,...}. Будем считать, что все встречающиеся далее функции принимают в каждой точке из Rn конечные значения.
2. Вариант метода штрафов и его обсуждение
Предлагаемый вариант метода штрафных функций для решения задачи (1) вырабатывает вспомогательную последовательность {yi}, i £ K, и основную последовательность приближений {xk}, к £ K, и заключается в следующем.
Задаются штрафные для множества D выпуклые функции Pi(x), i £ K, удовлетворяющие следующим условиям:
Pi (x) = 0 У x £ D, 0 <Pi (x) < Pi+1 (x), lim Pi (x) =+ж> у x £ D, (2)
i£K
i £ K. Полагается
Fi (x) = f (x)+ Pi (x), i £ K.
Выбирается точка
v £ int epi (f, D) .
Строится выпуклое ограниченное замкнутое множество Do с Rn и выпуклое замкнутое множество Mo с Rn+i такие, что
D с Do, epi (Fo, Rn) с Mo.
Задаются числа e > 0, eo > 0 и Y ^ fo = min {f (х) : х € Do}. Полагается i = 0, к = 0.
Затем выполняются следующие шаги.
1. Отыскивается точка ui = (yi,Yi), где yi € Rn, Yi € Ri, решение задачи
Y — min (3)
х € Do, (х, y) € Mi, y > Y- (4)
2. Если выполняется включение
Ui € epi (f, D), (5)
то yi € X*, и процесс заканчивается. Если yi € D и f (yi) — Yi ^ e, то yi — e -решение задачи (1).
3. В интервале (v, ui) выбирается точка vi € Rn+i так, чтобы
vi € int epi (Fi, Rn)
и при некотором qi € [1, q], q < , для точки zi = ui + qi (vi — ui) имело место включение
Zi € epi (Fi, Rn) .
4. Если
\\vi — Ui\\ > ek, (6)
то полагается
Qi = Mi, (7)
и следует переход к п. 6. В противном случае выполняется п. 5.
5. Выбирается выпуклое замкнутое множество Qi С Rn+i такое, что
epi (Fi, Rn) С Qi. (8)
Полагается ik = i,
xk = yik, = Yik - (9)
Задаётся £h+i > 0, значение к увеличивается на единицу.
6. Выбирается конечное множество Ai с W (vi, epi (Fi,Rn)) и полагается
Mi+i = Qi п Ti, (10)
где Ti = {u € Rn+i : {a,u — vi) ^ 0 у а € Ai}.
7. Значение i увеличивается на единицу и следует переход к п. 1.
Перед исследованием сходимости метода сделаем относительно него некоторые замечания. Прежде всего докажем непустоту множества ограничений вспомогательной задачи (3), (4). Пусть х* € X*.
Лемма 1. Точка (х*, f *) при всех i € K удовлетворяет ограничениям .задачи
(3), (4).
Доказательство. Поскольку имеют место включение х* € Во и неравенства 7 ^ /о* < /*, то согласно (4) для обоснования леммы достаточно доказать, что
(х*,/*) € Ми (11)
для всех г € К.
Заметим, что по построению для функций Fi (х), г € К, выполняются равенства / (х*) = /* = Fi (х*), г € К, то есть
(х*,/*) € ер[(^,Еп) уг € К. (12)
Тогда при г = 0 включение (11) справедливо в силу условия выбора множества Мо. Далее, пусть (11) имеет место при г = I ^ 0. Докажем выполнение (11) при г = I + 1, тогда утверждение леммы будет доказано. Действительно, ввиду (12) при г = I для всех а € А1 выполняются неравенства {а, (х*, /*) — VI) ^ 0, а значит, (х*, /*) € Т . Кроме того, по индукционному предположению (х*, /*) € М1. Но Ql = М1 согласно (7), либо Ql Э epi(Fl, Нп) согласно (8), то есть с учётом (12) в любом случае выполняется включение (х*, /*) € Ql. Отсюда и из (10) следует, что (х*, /*) € М+1, и лемма доказана. □
Обоснуем теперь критерий оптимальности, заложенный в п. 2 метода.
Лемма 2. При каждом г € К справедливо неравенство
Ъ < /* ■ (13)
Доказательство. Пусть г € К, по лемме 1 точка (х*, /*) удовлетворяет условиям (4) при выбранном г. Тогда для решения (уи, ^г) задачи (3), (4), а значит, для оптимального значения целевой функции этой задачи справедливо (13). Лемма доказана. □
Теорема 1. Пусть при некотором г € К для точки щ = (уи,7и) выполняется включение (5). Тогда уи -решение задачи (1).
Доказательство. Из (5) следует, что уи € В и / (уи) ^ . Значит, с учётом (13) имеем /* ^ / (уц) ^ /* , то есть / У) = /* , и теорема доказана. □
Если точка (уи, ^г) такова, что уц € В и / У) ^ + £, то ввиду (13) справедливы неравенства / * ^ / (уц) ^ / * + £, ив таком случае, как и отмечено в п. 2 метода, уи — £ - решение исходной задачи.
Отметим, что если Во задать с помощью линейных функций и при этом положить
Мо = йп+1
или выбрать Мо в виде многогранного множества, то задачи (3), (4) построения приближений будут при всех г € К задачами линейного программирования.
Точку vi в п. 3 метода можно задавать в виде точки пересечения отрезка ^.1, щ\ с границей множества epi(Fi,Rn), считая = 1, = vi. Условие п. 2 выбора точки vi фактически позволяет отыскивать упомянутую точку пересечения приближенно.
Заметим, что обобщенно -опорные в точках Vi к множествам ер[ (Fi, Rn) векторы можно строить с использованием субградиентов функций Fi (х). А именно, если Vi = (Уиъ), где Ун € Rn, = Rl, и с - субградиент функции Fi (х) в точке Уц , то вектор (си, —1) € Rn+l является обобщенно-опорным к множеству epi(Fi,Rn) в точке Vц (см. [12]).
Способы задания функций Р., (ж) с условиями (2) можно найти, например, в [1].
Как было отмечено выше, метод допускает периодические обновления аппроксимирующих множеств М, за счёт отбрасывания накапливающихся отсечений. Поясним, как эти обновления можно проводить за счёт выбора множеств Qi на итерациях с номерами г = ги .
Пусть номер к € К зафиксирован, и при некотором г точки щ и г, оказались такими, что выполняется неравенство
\г -щ\\ < ек. (14)
Тогда согласно п. 5 метода при выборе множества Qi = Qik должно выполняться лишь включение (8), то есть для задания Qik есть много возможностей. Например, можно положить Qik = Rn+l или Qik = Мо. В таком случае произойдет полное обновление аппроксимирующего множества, поскольку ни одно из отсечений, построенных к шагу г и, не будет принимать участие в формировании множества Мгк + 1 .
При условии (14) множество Qik, ги ^ 1, можно выбрать в виде
Qik = Мо п Т,
где Л С {0,1,... /¿и - 1} , Л = 0, или
Qik = п Т.
З^-Зк.
Тогда часть ранее построенных отсекающих плоскостей будет, согласно (10), участвовать в построении множества М,к+1, то есть произойдёт частичное его обновление.
Неравенства (6) и (14) по сути определяют качество аппроксимации множества вр[ (Fi,Rn) множеством Мi. При выполнении условия (14) качество аппроксимации считается достаточным для фиксирования очередной итерационной точки основной последовательности, а также для формирования обновлённого аппроксимирующего множества. Будет доказано существование для каждого к € К номера г = ¿и, для которого будет выполняться неравенство (14), а значит, появится возможность обновления аппроксимирующего множества.
3. Сходимость метода
Перейдём к обоснованию сходимости предложенного метода. Заметим сразу, что согласно включениям у, € Оо, г € К, неравенствам (13) и последнему из условий (4) последовательность {и,} , г € К, построенная с помощью предложенного метода, ограничена. Значит, ограниченными являются и последовательности {г, {г, }, г € К.
Лемма 3. Пусть {г,}, г € К' с К, - сходящаяся подпоследовательность последовательности {г,}, г € К, и г - её предельная точка. Тогда выполняется включение
г € вр1(/,О). (15)
Доказательство. Пусть г, = , г € К, где и, € Rn, о, € Rl, и г =
= (го, о), то есть и, ^ гг и о, ^ о при г ^ ж, г € К'. По условию задания в п. 3 метода точек г,, для всех г € К имеют место неравенства Fi (и,) ^ о, или
/ (и,) + Р, (и,) < о,.
(16)
Но Pi (wi) ^ 0, i g K. Поэтому f (wi) ^ ai, i g K, и
f (w) < ä (17)
Далее, для доказательства справедливости включения (15) осталось показать,
что
W g D. (18)
Поскольку последовательности {ai}, {f (wi)}, i g K', ограничены, то в силу (16) ограниченной является и неотрицательная последовательность {Pi (wi)}, i g K'. Следовательно, существует такое ß > 0, что
Pi (wi) < ß vi g K'. (19)
Допустим теперь, что включение (18) не выполняется. Тогда согласно (2) Pi (w) ^ ^ , i g K'. Значит, существует такой номер N g K', что выполняется неравенство Pn (w) > ß. Отсюда с учётом непрерывности функции Pn (x) найдётся окрестность ü точки w такая, что
PN (x) >ß vx g ü. (20)
Так как Pi+i (x) ^ Pi (x) для всех x g Rn, i g K, то ввиду (20)
Pi (x) >ß v x g ü, i g K', i > N. (21)
Выберем такой номер r g K', что r ^ N и wr g ü. Тогда в силу (21) Pr (wr) > ß, что противоречит (19). Таким образом, включение (18) доказано, и из (17), (18) следует (15). Лемма доказана. □
Заметим, что условие (8) выбора множества Qi позволяет положить Qi = Mi. Следовательно, независимо от выполнения условия (6) для всех i g K множество Qi может иметь вид (7). С учётом этого замечания обоснуем следующее вспомогательное утверждение.
Лемма 4. Пусть последовательность {ui}, i g K, построена с помощью метода с условием, что для всех i g K, начиная с некоторого номера i ^ 0, множества Qi были выбраны в виде (7). Тогда для любой её сходящейся подпоследовательности {ui}, i g K' с K, справедливо равенство
lim \\vi — т\\ =0. (22)
i^K'
Доказательство. Согласно условию выбора точки vi для каждого i g K существует такое ti g (0,1), что
vi = ui + ti (v — ui). (23)
Зафиксируем номера i', i'' g K' так, что бы i'' > i' ^ i. По условию леммы Mi+i = = Mi p| Ti для всех i ^ i, i g K. Поэтому Mi" с Mi'+1 = M^ p| Ti', и значит, справедливо включение
Ai' С W (vi' ,Mi'').
Тогда с учётом того, что щ» G M\п, имеем (а, щ« — vi'} ^ 0 для всех а g Ai'. Отсюда и из (23) следует неравенство
(а, ui' — Ui"} ^ t^ (a,Ui' — v} v а g Ai'. (24)
Так как г - внутренняя точка множества ер1 (/, О) и г, € ер1(/, О), то найдётся (см., например, лемму 1 из [13]) такое число 6 > 0, что (а, г — гп) ^ —6 для всех а € Ап, г € К. Отсюда, учитывая равенство (23) и неравенства 0 < 1 — % < < 1, имеем (а, г — щ) ^ —6 для всех а € Ап, г € К. Тогда из (24) следует, что (а, щ/ — щн) ^ тп>6 для всех а € Ап, а поскольку \\а\\ = 1 для всех а € Ап, то
\\щ> — Щ"\\ > %'6.
Из последнего неравенства и из сходимости последовательности {ип}, г € К', вытекает предельное соотношение % ^ 0, г € К'. Тогда из (23) ввиду ограниченности последовательности {\\г — щ\\}, г € К', следует (22). Лемма доказана. □
Покажем далее, что вместе с последовательностью {щ}, г € К с помощью предложенного метода будут построены и последовательности {ж и}, {о и}, к € К, в виде (9).
Лемма 5. Пусть последовательность {щ}, г € К, построена предложенным методом. Тогда для каждого к € К существует номер ги € К, для которого выполняются равенства (9).
Доказательство. 1) Пусть к = 0. Докажем тогда существование номера го € К, для которого справедливо неравенство
\К — иПо\\ < £о. (25)
Тем самым будут доказаны равенства жо = уп0, о о = .
Предположим противное, то есть для всех г ^ 0 выполняется неравенство
\г—щ\\ >ео. (26)
Тогда согласно п. 4 метода последовательность {щ}, г € К построена с условием, что Qi = МI для всех г ^ 0. Выделим из {щ}, г € К, сходящуюся подпоследовательность {щ}, г € К' с К. По лемме 4 для этой подпоследовательности выполняется равенство (22), которое противоречит предположению (26). Таким образом, существование номера го , при котором имеет место неравенство (25), доказано.
2) Предположим теперь, что при некотором к = I ^ 0 существует номер г1 такой, что \\гп1 — иП1 \\ ^ £, то есть х\ = уП1, о1 = ^п . Докажем тогда существование при к = I +1 такого номера г;+1 ^ г[ + 1, что
1К+1 — иПг+1 II < £(+1, (27)
тем самым лемма будет доказана.
Допустим противное, то есть для всех г ^ г1 + 1 = г выполняется неравенство
\\гп — щ\\ >£1+1. (28)
Тогда для всех г ^ г множества Qi были выбраны в виде (7), и по лемме 4 для сходящейся подпоследовательности {ип}, г € К' с К, имеет место равенство (22), противоречащее (28). Следовательно, номер г;+1, при котором выполняется (27), существует. Лемма доказана. □
Леммой 5 одновременно обоснована возможность периодического обновления множеств, аппроксимирующих надграфики вспомогательных функций Fi(x).
Лемма 6. Пусть последовательность {и^}, г € К, построена с помощью метода с условием, что
£к ^ 0, к ^ж. (29)
Тогда для последовательности {щк}, к € К, выполняется равенство
Ит \\щк — щк || =0
к^К
Доказательство утверждения следует из неравенства (14), которое выполняется при всех г = гк, к € К, и условия (29).
Лемма 7. Пусть {щк}, к € К' с К, - сходящаяся подпоследовательность последовательности {щк}, к € К, построенной с условием (29), а и - её предельная точка. Тогда
и € ер1 (/, В). (30)
Доказательство. Пусть {г^}, к € К'' с К', - сходящаяся подпоследовательность последовательности {г^ }, к € К', и 7 - её предельная точка. Отметим, что по лемме 3 для точки 7 выполняется включение (15). Согласно п. 3 метода
^ — = ®к — и^) (31)
для всех к € К''. Но по лемме 6 \\ги.1к — щк\\ ^ 0, к ^ ж, к € К". Поэтому из
(31), (15) следует включение (30). Лемма доказана. □
Приведём, наконец, свойство построенных методом основных последовательностей {хк}, {о~к }, к € К.
Теорема 2. Пусть последовательность {(хк,7 к)}, к € К, построена методом с условием (29). Тогда для любой предельной точки (х,7) этой последовательности выполняются соотношения
7 € X*, 7 € /*. (32)
Доказательство. Пусть (7, 7) - предельная точка сходящейся подпоследовательности {(хк,7к)}, к € К' с К. Согласно (9) (хк,&к) = (ук ,ък) = ик , к € К'. Тогда по лемме 7 справедливо включение (7,7) € ер\(/,В), то есть 7 € В и / (7) ^ 7. Кроме того, в силу (9), (13) 7 ^ /* . Следовательно, с одной стороны, / (7) ^ /*, а с другой стороны, / (7) ^ 7 ^ /*. Отсюда вытекают соотношения
(32). Теорема доказана. □
Как замечено выше, на тех итерациях, где выполняется включение уц € В, можно оценить близость текущего значения / У) к /*, так как ввиду (13)
и </* </ У).
В случае сильной выпуклости целевой функции на таких итерациях можно оценить и величину — х* \\. Действительно, если /(х) сильно выпукла на В с константой сильной выпуклости ц, то (¡/2) — х*\ ^ / (у-1) — / (х*) (см., например, [1, с. 207]), и ввиду (13)
\\уг — х*\\ ^ 2(/ Ы) — ^ .
Литература
1. Васильев Ф.П. Методы оптимизации: в 2 кн. - М.: МЦНМО., 2011. - Кн. 1 - 620 с.
2. Коннов И.В. Нелинейная оптимизация и вариационные неравенства. - Казань: Казан. ун-т, 2013. - 508 с.
3. Поляк Б.Т. Введение в оптимизацию. - М.: Наука., 1983. - 384 с.
4. Булатов В.П. Методы погружения в задачах оптимизации. - Новосибирск: Наука, 1977. - 161 с.
5. Булатов В.П., Хамисов О.В. Метод отсечений в En+1 для решения задач глобальной оптимизации на одном классе функций // Журн. вычисл. матем. и матем. физики. - 2007. - Т. 47, № 11. - С. 1830-1842.
6. Zabotin I.Ya., Yarullin R.S. A cutting-plane method based on epigraph approximation with discarding the cutting planes // Autom. Remote Control. - 2015. - V. 76, No 11. -P. 1966-1975. - doi: 10.1134/S0005117915110065.
7. Zabotin I., Shulgina O., Yarullin R. A minimization algorithm with approximation of an epigraph of the objective function and a constaint set // CEUR Workshop Proc. -2016. - V. 1623: Discrete Optimization and Operations Research 2016. (DOOR 2016). -P. 321-324.
8. Нурминский Е.А. Метод отделяющих плоскостей с ограниченной памятью для решения задач выпуклой негладкой оптимизации // Вычисл. методы и программирование. - 2006. - Т. 7, № 1. - С. 133-137.
9. Zabotin I., Kazaeva K. Cutting-plane method with embedding of epigraphs of auxiliary functions // Constructive Nonsmooth Analysis and Related Topics (dedicated to the memory of V.F. Demyanov). - IEEE, 2017. - P. 1-4. - doi: 10.1109/CNSA.2017.7974033.
10. Zabotin I.Ya., Yarullin R.S. A cutting-plane method without inclusions of approximating sets for conditional minimization // Lobachevskii J. Math. - 2015. - V. 36, No 2. - P. 132138. - doi: 10.1134/S1995080215020195.
11. Zabotin I.Y., Shul'gina O.N., Yarullin, R.S. A minimization method with approximation of feasible set and epigraph of objective function // Russ. Math. - 2016. - V. 60, No 11. -P. 78-81. - doi: 10.3103/S1066369X16110098.
12. Заботин И.Я., Шульгина О.Н., Яруллин Р.С. Метод отсечений и построение на его основе смешанных алгоритмов минимизации // Учeн. зап. Казан. ун-та. Сер. Физ.-матем. науки. - 2014 . Т. 156, кн. 4 - С. 14-24.
13. Заботин И.Я. О некоторых алгоритмах погружений-отсечений для задачи математического программирования // Изв. Иркут. гос. ун-та. Сер. Матем. - 2011. - Т. 4, №. 2. - С. 91-101.
Поступила в редакцию 11.03.19
Заботин Игорь Ярославич, доктор физико-математических наук, профессор кафедры
анализа данных и исследования операций
Казанский (Приволжский) федеральный университет
ул. Кремлевская, д. 18, г. Казань, 420008, Россия E-mail: IYaZabotin@mail.ru
Казаева Ксения Евгеньевна, аспирант кафедры анализа данных и исследования операций
Казанский (Приволжский) федеральный университет
ул. Кремлевская, д. 18, г. Казань, 420008, Россия E-mail: k.e.kazaeva@gmail.com
ISSN 2541-7746 (Print)
ISSN 2500-2198 (Online)
UCHENYE ZAPISKI KAZANSKOGO UNIVERSITETA. SERIYA FIZIKO-MATEMATICHESKIE NAUKI
(Proceedings of Kazan University. Physics and Mathematics Series)
2019, vol. 161, no. 2, pp. 263-273
doi: 10.26907/2541-7746.2019.2.263-273
A Version of the Penalty Method with Approximation of the Epigraphs of Auxiliary Functions
I.Ya. Zabotin * , K.E. Kazaeva **
Kazan Federal University, Kazan, 420008 Russia E-mail: *IYaZabotin@mail.ru, **k.e.kazaeva@gmail.com
Received March 11, 2019 Abstract
A method for solving the convex programming problem, which is ideologically close to the known methods of external penalties, was proposed. The method uses auxiliary functions that are built on the general form of the penalty functions. In order to find approximations, the epigraphs of these auxiliary functions, as well as the original problem's domain of constraints, were immersed in certain polyhedral sets. In this regard, the problems of finding the iterative points are the linear programming problems, in which the constraints are the sets that approximate the epigraphs and a polyhedron containing an admissible set. The approximating sets were constructed using the traditional cutting of iterative points by planes. The peculiarity of the method is that it enables a periodic update of the approximating sets by discarding the cutting planes. The convergence of the proposed method was proved. Its implementation was discussed.
Keywords: conditional minimization, iterative point, convergence, penalty function, epigraph, approximating set, cutting hyperplane
References
1. Vasil'ev F.P. Metody optimizatsii [Optimization Methods]. Book 1. Moscow, MTsNMO, 2011. 620 p. (In Russian)
2. Konnov I.V. Nelineinaya optimizatsiya i variatsionnye neravenstva [Nonlinear Optimization and Variational Inequalities]. Kazan, Kazan. Univ., 2013. 508 p. (In Russian)
3. Polyak B.T. Vvedenie v optimizatsiyu [Introduction to Optimization]. Moscow, Nauka, 1983. 384p. (In Russian)
4. Bulatov V.P. Metody pogruzheniya v zadachakh optimizatsii [Embedding Methods in Optimization Problems]. Novosibirsk, Nauka, 1977. 161 p. (In Russian)
5. Bulatov V.P., Khamisov O.V. Cutting methods in En+1 for global optimization of a class of functions. Comput. Math. Math. Phys., 2007., vol. 47, no. 11, pp. 1756-1767. doi: 10.1134/S0965542507110036.
6. Zabotin I.Ya., YarullinR.S. Cutting - plane method based on epigraph approximation with discarding the cutting planes. Autom. Remote Control., 2015, vol. 76, no. 11, pp. 19661975. doi: 10.1134/S0005117915110065.
7. Zabotin I., Shulgina O., Yarullin R. A minimization algorithm with approximation of an epigraph of the objective function and a constraint set. CEUR Workshop Proc., 2016, vol. 1623: Discrete Optimization and Operations Research 2016. (DOOR 2016), pp. 321324.
8. Nurminski E.A. A separating plane algorithm with limited memory for convex nonsmooth optimization. Vychisl. Metody Programm., 2006, vol. 7, no. 1, pp. 133-137. (In Russian)
9. Zabotin I., Kazaeva K. Cutting - plane method with embedding of epigraphs of auxiliary functions. In: Constructive Nonsmooth Analysis and Related Topics (Dedicated to the Memory of V.F. Demyanov). IEEE, 2017, pp. 1-4. doi: 10.1109/CNSA.2017.7974033.
10. Zabotin I.Ya., Yarullin R.S. A cutting - plane method without inclusions of approximating sets for conditional minimization. Lobachevskii J. Math., 2015, vol. 36, no. 2, pp. 132-138. doi: 10.1134/S1995080215020195.
11. Zabotin I.Y., Shul'gina O.N., Yarullin, R.S. A minimization method with approximation of feasible set and epigraph of objective function. Russ. Math., 2016, vol. 60, no. 11, pp. 78-81. doi: 10.3103/S1066369X16110098.
12. Zabotin I.Ya., Shulgina O.N., Yarullin R.S. A cutting method and construction of mixed minimization algorithms on its basis. Uchenye Zapiski Kazanskogo Universiteta. Seriya Fiziko - Matematicheskie Nauki, 2014, vol. 156, no. 4, pp. 14-24. (In Russian)
13. Zabotin I.Ya. Some embedding - cutting algorithms for mathematical programming problems. Izv. Irkutsk. Gos. Univ., Ser. Mat., 2011, vol. 4, no. 2, pp. 91-101. (In Russian)
Для цитирования: Заботин И.Я., Казаева К.Е. Вариант метода штрафов с ап-/ проксимацией надграфиков вспомогательных функций // Учен. зап. Казан. ун-та. \ Сер. Физ.-матем. науки. - 2019. - Т. 161, кн. 2. - С. 263-273. - doi: 10.26907/25417746.2019.2.263-273.
For citation: Zabotin I.Ya., Kazaeva K.E. A version of the penalty method with / approximation of the epigraphs of auxiliary functions. Uchenye Zapiski Kazanskogo \ Universiteta. Seriya Fiziko-Matematicheskie Nauki, 2019, vol. 161, no. 2, pp. 263-273. doi: 10.26907/2541-7746.2019.2.263-273. (In Russian)
