УДК 517
О применении одного класса параметрических функций в качестве внешних штрафов при решении нелинейных задач с ограничениями
Т.В. Саженкова1, А.Н. Саженков1, Е.А. Плотникова2, И.В. Пономарёв1
'Алтайский государственный университет (Барнаул, Россия) 2Новосибирский государственный технический университет (Новосибирск, Россия)
On Applicability of a Class of Parametric Functions as Exterior Penalty Operators to Solve Nonlinear Problems with Constraints
TV. Sazhenkova1, A.N. Sazhenkov1, E.A. Plotnikova2, IVV. Ponomarev1
'Altai State University (Barnaul, Russia)
Novosibirsk State Technical University (Novosibirsk, Russia)
Проведено исследование однопараметрического класса функций, введенного А.А. Капланом, для решения задачи условной минимизации нелинейной выпуклой функции на множестве, заданном с помощью ограничений-неравенств. Предполагается при этом, что множество, задаваемое ограничениями, не пусто и имеет внутренние точки. В монографиях А. Фиакко, Г. МакКормика, Э. Полака, А.А. Каплана представлено систематическое изложение теории методов штрафов и классификации штрафных функций. Опираясь на приемы и методы, изложенные в них, в данной работе устанавливается принадлежность исследуемого класса функций к внешним штрафам для задач выпуклого программирования. Применение методов штрафных функций при решении нелинейных экстремальных задач с ограничениями позволяет использовать методы безусловной нелинейной оптимизации, в том числе градиентные методы. Штрафные функции А.А. Каплана обладают хорошими дифференциальными свойствами и тем самым удобны при использовании итерационных градиентных методов приближенного решения задач на безусловный экстремум. Далее в работе доказывается теорема сходимости последовательности получающихся приближенных решений задач на безусловный экстремум к точному решению исходной задачи. Получена оценка скорости сходимости метода штрафов с использованием рассматриваемого однопараметрического класса функций в качестве штрафных функций. Представляемая оценка скорости сходимости метода получена в предположении, что осуществляется точное решение последовательности задач безусловной оптимизации. Полученные результаты могут быть применены при численном исследовании задач рассматриваемого вида.
Ключевые слова: методы штрафных функций, выпуклое программирование, оценки скорости сходимости.
DOI 10.14258/izvasu(2019)1-18
Kaplan's one-parametric class of functions for solving nonlinear convex minimization problems with one-sided constraints is studied. The set defined by constraints is assumed to have a nonempty interior. In the monographs written by A. Fiacco, G. McCormick, E. Polak, and A. Kaplan, the penalty methods theory and classification of penalty functions are presented quite systematically. With these methods and approaches as backbones, in the present article, we establish that the class of functions under study belongs to the class of exterior penalty functions for problems of convex programming. Application of penalty methods to the solution of nonlinear extremal problems with constraints allows using the toolbox of unconstrained nonlinear optimization, including gradient methods. Kaplan's penalty functions have fine differential properties. Therefore, they are suitable for use in iterative gradient methods of approximate solution of unconstrained extremal problems. After this, we prove the theorem on convergence of the sequence of approximate solutions of penalized unconstrained extremal problems to the exact solution of the original problem with constraints. As well, we establish a bound on the convergence rate for the penalty method with the one-parametric class of functions serving as penalty functions. This bound is derived provided that the exact resolving of the sequence of unconstrained extremal problems is fulfilled. With the help of these results, one may proceed further with a numerical analysis of the class of problems that are under discussion in the article.
Key words: penalty methods, convex programming, convergence rate estimation.
Введение и постановка задачи
Одним из универсальных методов нелинейного программирования для решения экстремальных задач с ограничениями является метод штрафных функций. Монографии А. Фиакко и Г. Мак-Кормика, Ж. Сеа, Э. Полака [1-3] являются источником систематического изложения комплекса различных проблем, связанных с численной реализацией метода штрафов, и содержат развернутое теоретическое обоснование применимости ряда конкретных классов функций в качестве штрафных. В работах А.А. Каплана (на основе предложенной достаточно общей конструкции ^-функций) и Б.Т. Поляка [4-9] расширяется диапазон штрафных функций, исследуется применение методов последовательной безусловной оптимизации, возникающих с использованием штрафных функций, и обсуждается скорость сходимости последовательности получающихся приближенных решений к точному решению исходной задачи.
Поскольку математическое моделирование реальных процессов зачастую приводит к задачам нелинейной условной оптимизации, то вопросы создания и реализации методов решения экстремальных нелинейных задач с ограничениями-неравенствами остаются актуальными и в настоящее время.
В современной литературе представлено построение итерационных процессов последовательной безусловной оптимизации с применением точных, динамических и адаптивных штрафов, барьерных штрафных функций, методов возможных направлений и др. [10-14]. Обсуждаемые в этих работах алгоритмы имеют определённые условия применимости и достоинства для рассматриваемых в них задач.
В данной работе применительно к задачам нелинейного программирования исследуется класс функций, введенных в рассмотрение А.А. Капланом [5-9], обладающих хорошими дифференциальными свойствами и стремлением в бесконечность вне допустимой области. Некоторые вопросы относительно применения исследуемого класса функций уже обсуждались авторами [15-16].
Пусть рассматривается задача минимизации выпуклой функции /на компакте D С Rn, задаваемом системой неравенств
gj(x) < 0, j = 1,2,...,m, с выпуклыми функциями g. .
При этом предполагается дважды дифференциру-емость функций f и g (х), } = 1,2,...,т и существование такой точки х0, что g (х0) < 0 для всех_/.
Далее рассматривается однопараметрическая система функций, имеющая вид
Ф')(х) = А,£(gj(х) + g)(x) + А-2-'), 1=1
где ' > 0 — константа; Ак > 0; Ак ^+ж при к ^ .
Следующие теоретические исследования базируются на установленных в [5, 8] достаточных условиях сходимости метода штрафов.
Теорема 1. Функции Ф() (х) в указанных выше условиях обладают свойствами:
1) Ф() : Rn ^ R — выпуклые функции;
2) lim ф(*)(x) = 0 , если x е int D;
3) lim Ф()(x) = +ж , если x 0 D;
4) начиная с некоторого натурального числа K функции f(')(x) = f (x) + ф() (x)
достигают своего
безусловного минимума. Последовательность xk точек минимума функций Ff) (x) имеет предельные точки, любая из которых принадлежит множеству D и доставляет минимум функции / Доказательство
1. Представим исследуемые функции в следующем виде:
Ф](x) = T^t)(g} (x)),
jeJ
где фк!) (5) = А, (5 +752 + А-2-' ).
Для дважды дифференцируемых функций фк') (х) второй дифференциал имеет вид
V2ф()(х) = £У2ф'(>(gj (х)).
Выпуклость функций фк') (5) следует из их дифференциальных свойств:
(5) = A
И'
5) = Ak + Ak
Ф2 + A-
Ф2 + A-
■ 25
= A,
Ф2 + A-
Ф2 + A-
52 + A-
52 + A-2-' - 52
Ф2 + A-
52 + A-
A2
52 +-
A2
5 +-
A2
Так как Ak > 0, Ak ^ ж при к ^ <, а параметр t> 0,
Для доказательства пунктов 2) — 3) наряду с представлением функций Ф('^ (х) через фк') (5) введем
то (ф()) (/)> 0. Таким образом, функции ф() (¡) — в рассмотрение дополнительную вспомогательную выпуклые, gj (х) — выпуклые функции по условию.
Следовательно, их суперпозиции ф(')(g. (х)) являют- функцию ф* (¡)== Ак ся выпуклыми функциями для любых к е N и ] € 1, а значит, и фф' (х) = ^фк'' (х)) — выпуклые функции.
Очевидно, что ф() (s) > ф'к (s), и
jej
^(s)-фк (s) = Ak (s + Vs2 + A-2-t -s-47) =
A
=Ak (4 s2 + A-2-t-47) < Ak (47+-;L= -47)-
4Al+t 4A,
2+t
k
.= A 2 =_
■ = Ak = _ ,
A 2
ФГ^)- фк (s)
0.
Таким образом, если x e D, т.е. g, (x) < 0, j e J , то
Следующая далее теорема предоставляет оценку скорости сходимости метода штрафов для данного
ф* (s) = Ak (s + s ) = 0 (s = g, (x)). Следовательно, класса штрафных функций при t > 0.
Теорема 2. Если функции f e C (Rn), gj E C1 (Rn), j = 1, 2,...,m, (f" (x)h, h) > \h\f при лю-
ф'(_] (s) ^ 0 и lim Ö*) (x) = 0 при x e D. Если x 0 D , т.е. g, (x)> 0 , то
Фк (s) = Ak (s + |s|) > 0, фк (s)k-^<< (s = gj (x)),
а ф*_) (s) ^ < . Это означает, что lim Ф^ (x) = +<
kk
при x 0 D .
Выполнение пункта 4) при выполнении пунктов решение исходной задачи на условный экстремум, 1) — 3) и условий теоремы следует из соответствую- xk — точки безусловного минимума функций щей теоремы сходимости, представленной в [8].
Доказанная теорема устанавливает принадлежность рассматриваемого класса функций к внешним
бых х, к е Я" и 7 > 0, то при '> 0 имеет место неравенство
II к ,ц2 2т -' \\хк -х <-Ак 2,
II II 7
начиная с некоторого номера к, где х * — точное
F( )(x).
Доказательство
Поскольку для решения х исходной задачи име-штрафным функциям для задачи минимизации вы- ет место равенство нулю первого дифференциала пуклой функции на компакте, задаваемом системой V/ (х * )(хк — х * ) = 0, то согласно формуле Тейлора по-неравенств с выпуклыми функциями. лучаем следующие неравенства:
f (xk)-f (x' )>Vf (x' )(xk-x') + Y|xk — x * Л > Y\\xk-x*|| .
К тому же имеет место оценка для приближенных так как хк - точка минимума функции
)(х ) = / (х) + ф« (х).
Таким образом, получается следующая цепочка соотношений:
и точного решений:
f (x *) + q^ixk )> f (xk) + )(xk),
Ф*_ )(xk ) = f (xk) + q^xk)-f (xk )> f (xk)-f (xk) + Ф )(xk ) = = ( f (xk)- f (x')) + 4) (xk )> Ф(_) (xk) + 2|xk - x* I2,
откуда следует выполнение неравенств
Ф'1 (x ) - Ф* (xk) > Фк'1 (xk) + ||xk - x \\ - Ф*'1 (xk) ||xk - x \\ .
Поскольку справедливо Ф^ (хк) > 0 , то справедливо и неравенство Ф(' (х*) > Фк' (х*) — Ф(' (хк). Кроме того, для точки х* имеют место соотношения
т ^ I 2 I__—'
фЦ] (х) < Ак £(-^ (х I +(gj (х )) + ^А—2-') = тА-2. м
Таким образом, окончательно приходим к неравенствам
|хк - х* ||2 < ф(1 (х*) - ф(' 1 (хк) < ф(1 (х*) < тА—2,
^ и * ц2 -' и * ц2 2т -' — хк - х 1 < тАк 2, хк - х* <— Ак 2. 2» II II II 7
Тем самым справедливость теоремы установлена.
Заключение
В результате проведенного исследования получено лаконичное обоснование использования рассмотренного однопараметрического класса функций в качестве штрафных в решении нелинейных задач с ограничениями. Представлена оценка скорости сходимости метода штрафов при применении указанных штрафных функций в предположении, что осуществляется точное решение последовательности задач безусловной оптимизации.
Библиографический список
1. Фиакко А., Мак-Кормик А.Г. Нелинейное программирование. Методы последовательной безусловной минимизации: пер. с англ. / под ред. Е.Г. Гольштейна. М., 1972.
2. Сеа Ж. Оптимизация. Теория и алгоритмы / пер. с франц. М., 1973.
3. Полак Э. Численные методы оптимизации. Единый подход / пер. с англ. М., 1974.
4. Поляк Б.Т. О скорости сходимости метода штрафных функций // Журнал вычислительной математики и математической физики. 1971. Т. 11, №1.
5. Каплан А.А. Характеристические свойства функций штрафа // Доклады АН СССР. 1973. Т. 210, № 5.
6. Каплан А.А. О некоторых приложениях программирования к решению нелинейных краевых задач // Вариационно-разностные методы математической физики. Новосибирск, 1973.
7. Каплан А.А. К вопросу о реализации метода штрафов. Новосибирск, 1976.
8. Гроссман К., Каплан А.А. Нелинейное программирование на основе безусловной минимизации. Новосибирск, 1981.
9. Kaplan A. and Tichatschke R. Some results about proximal-like metho ds // A. Seeger (Editor), Recent Advances in Optimization. Lecture Notes in Economics and Mathematical Systems. Vol. 563. Berlin ; Heidelberg ; New York, 2006.
10. Griffin J.D. and Kolda T.G. Nonlinearly constrained optimization using heuristic penalty methods and asynchronous parallel generating set search // Applied Mathematics Research eXpress. 2010. Vol. 2010. Issue 1.
11. Лебедев Д.М., Полякова Л.Н. Метод точных штрафов для решения одной задачи выпуклого программирования // Вестник СПбГУ Сер. 10. 2014. Вып. 1.
12. Полякова А.С., Семенкин Е.С. Сравнительный анализ штрафных функций при решении задач условной оптимизации // Решетневские чтения. Т. 2, №16: Математические методы моделирования, управления и анализа данных. Красноярск, 2012.
13. Жеребцова О.В. Единый параллельный алгоритм методов приведённых направлений для решения задачи нелинейной оптимизации с ограничениями-неравенствами // Известия вузов. Поволжский район. №3. Технические науки. Информатика, вычислительная техника. 2008.
14. Урбан А.Р. Методы решения задачи линейного программирования с дополнительными ограничениями на переменные определённого типа // Научно-технический вестник информационных технологий, механики и оптики. 2015. Т. 15, № 2.
15. Саженков А.Н., Саженкова Т.В., Пронь С.П. Об исследовании одного класса штрафных функций // Труды семинара по геометрии и математическому моделированию. Вып. 2. Барнаул, 2016.
16. Саженкова Т.В., Саженков А.Н., Плотникова Е.А. О применении одного класса интегральных штрафных функций при решении вариационных задач // Известия Алтайского гос. ун-та. 2018. №1(99). DOI: 10.14258/ izvasu(2018)1-22.