Условия экстремума с ограничениями в терминах собственных и несобственных коэкзостеров Текст научной статьи по специальности «Математика»

2019 ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА Т. 15. Вып. 2 _ПРИКЛАДНАЯ МАТЕМАТИКА. ИНФОРМАТИКА. ПРОЦЕССЫ УПРАВЛЕНИЯ_

ПРИКЛАДНАЯ МАТЕМАТИКА

УДК 519.853 MSC 49J52

Условия экстремума с ограничениями в терминах собственных и несобственных коэкзостеров*

М. Э. Аббасов

Санкт-Петербургский государственный университет, Российская Федерация, 199034, Санкт-Петербург, Университетская наб., 7—9

Для цитирования: Аббасов М. Э. Условия экстремума с ограничениями в терминах собственных и несобственных коэкзостеров // Вестник Санкт-Петербургского университета. Прикладная математика. Информатика. Процессы управления. 2019. Т. 15. Вып. 2. С. 160— 172. https://doi.org/10.21638/11702/spbu10.2019.201

Коэкзостеры — семейства выпуклых компактов, позволяющие представлять аппроксимацию приращения изучаемой функции в окрестности рассматриваемой точки в виде максимина или минимакса аффинных функций. Исследователями было разработано исчисление таких объектов, позволяющее получать эти семейства для широкого класса негладких функций, а также описаны условия экстремума без ограничений в терминах коэкзостеров, что дало возможность строить новые оптимизационные алгоритмы. В данной работе получены условия экстремума с ограничениями в терминах коэкзо-стеров.

Ключевые слова: негладкий анализ, недифференцируемая оптимизация, коэкзостеры, условия экстремума.

1. Необходимые сведения и обозначения. Коэкзостеры — семейства выпуклых компактов, с помощью которых можно исследовать экстремальные свойства широкого класса негладких функций.

Пусть дана функция f: X ^ К, где X С К" — открытое множество. Рассмотрим точку x € X. Предположим, что функция f непрерывна в x.

Говорят, что в точке x у функции f существует верхний коэкзостер, если имеет место разложение

/(ж + А) =/(ж) + min max [а + (v, A}] + ш(х, A), (1)

сеЕ(х) Мес

* Работа выполнена при финансовой поддержке Российского научного фонда (проект № 18-7100006).

(¡5 Санкт-Петербургский государственный университет, 2019

где Е(х) — семейство выпуклых компактов в Rn+1, а и>(х, Д) удовлетворяет условию

lim^ = 0 УД€М". (2)

а|0 а

Семейство Е(х) называется верхним коэкзостером функции / в точке х.

Говорят, что в точке x у функции f существует нижний коэкзостер, если имеет место разложение

f (x + Д) = f (x)+ max min [b + (w, Д}]+ w(x, Д), (3)

cee{x) [b,w]ec

в котором E_(x) — семейство выпуклых компактов в Rn+1, а и>(х,А) удовлетворяет условию (2). Семейство Е_(х) называется нижним коэкзостером функции / в точке х.

Предположим, что семейства Е{х), Е_(х) ограничены в совокупности. Тогда из непрерывности функции f в точке x сразу вытекают равенства

min max а = 0, max min 6 = 0.

ceB(i) Мес ceE{x)[b,w}ec

Напомним, что семейство E называется ограниченным в совокупности, если найдется R> 0 такое, что для любых z G C, C G E выполняется неравенство ||z|| ^ R.

Как следует из определений (1)-(3), коэкзостеры описывают неоднородную аппроксимацию приращения исследуемой функции в окрестности рассматриваемой точки. Впервые это понятие появилось в работах [1, 2]. Условия безусловного экстремума в терминах таких объектов были выведены в [3-5], что дало возможность строить новые оптимизационные алгоритмы (см. [6]). Оказалось, что условия минимума наиболее органично описываются в терминах верхнего коэкзостера, а максимума — нижнего. Поэтому верхний коэкзостер был назван собственным для задачи на минимум и несобственным для задачи на максимум, а нижний — собственным для задачи на максимум и несобственным для задачи на минимум. В настоящей работе описываются условия экстремума с ограничениями в терминах как собственных, так и несобственных коэкзостеров.

Рассмотрим множество Q С X. Конус

r(x) = {Д G R" | Зак, Дк : (afc, Дк) ^ (+0, Д), x + ак Дк G Ü Ук}

называется конусом Булигана к множеству Q в точке x.

Рассмотрим конус Г с вершиной в нуле и пусть при этом

Г = U{A I A G^},

где A — семейство выпуклых конусов с вершиной в нуле.

Для A определим конус в пространстве на единицу большей размерности

1 = {g G Rn+1 | g = (Л, Д), Л > 0, Д G A} ,

а также конус, сопряженный к A:

A+ = {w G Rn+1 | (w,g} > 0 Уд G 1} = [0, х A+.

Кроме того, для положительного е введем

ÄE = {д G Rn+1 | д = а(1, Д), а> 0, Д G A, ||Д|| < е}

и сопряженный к нему конус

A+ = { ш € К"+1 | {v,g) > 0 Уд € £} .

2. Условия экстремума с ограничениями для аппроксимаций приращения функции. Коэкзостеры описывают минимаксную либо максиминную аппроксимацию приращения изучаемой функции в окрестности исследуемой точки. Эту аппроксимацию будем в дальнейшем обозначать h(A).

Вначале сформулируем условия экстремума функции h(A) на конусе Г в точке 0 в терминах собственных коэкзостеров.

Так как h(0) = 0, то точка 0 является глобальным минимумом h на Г тогда и только тогда, когда для любого A € Г выполняется неравенство h(A) ^ 0. Нуль есть локальный минимум h на Г тогда и только тогда, когда найдется е > 0 такое, что для любого A € Г, ||A|| ^ е выполняется неравенство h(A) ^ 0.

Теорема 1. Для того чтобы точка Ao = 0 была точкой глобального минимума функции

h(А) := min max [а + (v, A}]

сеЕ Мес

на конусе Г, где Е — семейство выпуклых компактов в Rn+1; необходимо и достаточно, чтобы

1+ р| С ф 0 VC G ~Ё, У A G А. (4)

Доказательство. Действительно, так как h(0) = 0, то точка Ao является глобальным минимумом h на Г тогда и только тогда, когда выполняется условие

h(А) := min max [а + (v, A}] >0 VA G Г. сеЕ [».»lee

Оно эквивалентно выполнению неравенства

max [а + {v, А)] >0 VA G Г, VC G ~Ё,

[a,v]ec

равносильное, в свою очередь, тому, что для любых С из Е, g из А, где А £ А, найдется v(C, g) € C, для которого

{v(C,g),g) > 0. (5)

Покажем от противного, что при выполнении неравенства (5) для любого С из Е существует vC € C, удовлетворяющее неравенству

{vc,g) > 0 Уд € A, A €A. (6)

Пусть (6) не имеет места. Тогда найдется Со G Е такое, что при любом v G Со неравенство {v, g) < 0 выполняется при некотором g из какого-то конуса A, A € A. Отсюда для этого конуса A и множества Co должно выполняться условие

Co Р| A+ =

Учитывая, что Co — выпуклый компакт, а A+ — выпуклый, замкнутый конус, по теореме отделимости (см. также теорему 3.1 из [7]) находим д € A++, для которого

{v,g) < 0 W € Co.

Отсюда, пользуясь равенством A++ = cl A, получаем противоречие с (5). Из условия (6) сразу следует выражение (4).

Доказательство достаточности очевидно.

Отметим, что при фиксированном множестве C элемент v(C) G C для каждого A gA, вообще говоря, свой*. Поэтому в условии (4) приходится иметь дело с множеством конусов, сопряженных к конусам, определяемым декомпозицией Г, а не непосредственно с самим конусом Г+. □ Следствие 1. Пусть множество И = {x G R" | фi(x) ^ 0, i = 1,..., m}, причем

• функции фi(x), i = 1,...,m, выпуклы;

• существует точка xi G R" такая, что фi(xl) < 0 для всех i = 1,...,m (условие Слейтера);

• точка x принадлежит Q, а множество индексов активных ограничений в этой точке непусто:

R(X) = {i =1,...,m | фДХ) = 0} = Тогда, для того чтобы точка До = 0 была точкой глобального минимума функции

h(A) := min max [а + (v, А)]

сее Мес

на конусе Булигана к множеству Q в точке x, необходимо и достаточно, чтобы

Ср Ь(х)¥=Ч> УСеЁ, (7)

ieR(x)

где 1Ci(x) = {д G Rn+1 | д = (a, v), а > 0, v G — сопе(9^(ж))} ; дфг(х) — субдифференциалы функций ф, в точке x.

Доказательство. Для конуса Булигана к множеству Q в точке x справедливо представление (см. пример 1.16.5 из [8])

Г(Х)= р| {-[cone(ö^(X))]+}.

ieR(x)

Очевидно, Г(ж) — выпуклый конус, поэтому в данном случае можно считать, что выпуклая декомпозиция состоит лишь из самого Г(ж). Таким образом, A = {A} = {r(x)}. Обозначим

К i(x) = |S€ Rn+1 I g=(a,v), a > 0, v e - [сопе(сЩХ))] + } .

Тогда имеем

1 = p| Ki(x).

ieR(x)

По свойству сопряженных конусов

Ä+= J2 K+(x).

ieR(x)

Но { }

K+(X) = {ge Rn+1 I g=(a,v), a > 0, v e -сопе(сЩж))} . Отсюда и следует эквивалентность условий (4) и (7).

* Здесь речь идет об элементе v(C) € C, для которого при любом g € а, где конус A порожден конусом а, выполняется неравенство (v(C),g) ^ 0.

Отметим, что при R(X) = {i = l,...,m \ фi (X) = 0} = 0 имеем случай экстремума без ограничений, так как Г(ж) = R". □

Следствие 2. Пусть множество

ü = {х е R" \ фг(х) =0, i = 1,...,l, фз(x) < 0, j = 1,...,m},

причем

• функции фг(х), i = 1,...,l, фз (x), j = 1,...,m, — непрерывно дифференцируемы;

• точка х принадлежит ü, градиенты активных ограничений неравенств и всех ограничений равенств в этой точке линейно независимы.

Тогда, для того чтобы точка До = 0 была точкой глобального минимума функции

h(A) := min max [а + (v, А)]

сеЕ Мес

на конусе Булигана к множеству ü в точке х, необходимо и достаточно, чтобы

^П Е + J2 УС е Е,

i=i,...,i jeR(x)

где K^i (х) = {g е Rn+1 \ g = (a,v), а > 0, v е cone ( {-Чф^х), Уф^х)})} ; Кфз (х) = {g е Rn+1 \ g = (a,v), а > 0, v е- сопе(Уфз- (X))}; Vфi (X), Уфз (X) — градиенты функций ф-i, фз в точке X.

Доказательство. Здесь конус Булигана к множеству ü в точке X имеет

вид

Г(Х) = {g е R" \ (Уф^х)^) =0, i = 1,...,l, {Vфi (X), g) < 0, j е R(X)} ,

где R(X) = {j = 1,...,m \ фj(X) = 0}. Отметив, что

r(X)= J П [cone ({-Уф1(х)1 Vфi(X)} )]+)п( П {-[cone( Vфi (X))]+} | , \j=1,-,l J \iER(X) J

можно провести доказательство аналогично доказательству следствия 1. □

Также доказывается справедливость условия локального минимума. Теорема 2. Для того чтобы точка Д0 = 0 была точкой локального минимума функции

h(А) := min max [а + (v, A}]

сеЕ Мес

на конусе Г, где Е — семейство выпуклых компактов в Rn+1; необходимо и достаточно, чтобы нашлось е > 0, для которого

Ä+ р| С ф 0 УС еЁ, УАе А.

Так как h(0) = 0, то точка 0 есть глобальный максимум h на Г тогда и только тогда, когда для любого Д е Г выполняется неравенство Ь,(Д) ^ 0. Нуль является локальным максимумом h на Г тогда и только тогда, когда существует е > 0 такое, что для любого Д е Г, ||Ду ^ е выполняется неравенство Ь,(Д) ^ 0. Поэтому точно

так же могут быть сформулированы аналогичные условия максимума. Далее не будем дополнительно останавливаться на условиях максимума, получая лишь условия минимума.

Отметим, что теоремы 1 и 2 для случая условий экстремума без ограничений Г = {g = (а, Д) \ а > 0, Д е R"}

получены в [5].

Перейдем теперь к условиям минимума (в нуле) для функции h(A) в терминах несобственного коэкзостера, т. е. условиям минимума в терминах нижнего коэкзо-стера.

Теорема 3. Для того чтобы точка Д0 = 0 была точкой глобального минимума функции

ЫД) := max min [а + {v, Д)]

сеЕ [a,v]ec

на конусе Г; где Е_ — семейство выпуклых компактов в Rn+1; необходимо и достаточно, чтобы для любого g G A, A G Л нашлось Сд G Е_ такое, что

(v,g) > 0 У? е Сд. (8)

Доказательство. Действительно, так как h(0) = 0, то точка До является глобальным минимумом h на Г тогда и только тогда, когда выполняется условие

^Д) := max min [а + {v, Д)] > 0 УД е Г. (9)

СеЕ [a,v]eC

Условие (9) эквивалентно тому, что для любого Д из Г может быть найдено Сд из Е_, для которого выполняется неравенство

min [а + {v, Д)] > 0.

[a,v]ec&

Значит, для любого g g A, A g Л в нижнем коэкзостере Е_ имеем множество Сд, для которого

(v,g) > 0 У? е Сд.

Отсюда получаем (8). Для доказательства достаточности нужно провести рассуждения в обратном порядке. □ З а м е ч а н и е 1. Отметим, что из условия (8) вытекает более слабое условие

ЭС g Е: С с cl |м™ \ УАеЛ.

Доказательство. Пусть выполнено условие (8). Выберем произвольное A е A и g =(1, Д) из конуса А, отвечающего A. Определим соответствующее Сд. Покажем, что

Сд с cl{R" , (10)

что и завершит доказательство.

Пусть включение (10) не имеет места. Тогда найдем vд е Сд такое, что

vд е d{ R" \ (-а?^ }.

Отсюда следует, что vA принадлежит внутренности конуса —A+, а значит, для любого p G A выполняется неравенство (vA,p} < 0. В частности, это означает справедливость условия

(vA,g} < 0,

что противоречит (8).

Если внутренность конуса —A+ пуста, сразу же получаем противоречие, так как в этом случае

vA G cl{R" \ (—.= R". □

Следствие 3. Пусть множество ü = {x G R" | фi(x) ^ 0, i = 1,..., m}, причем

• функции ф,^), i = 1,...,m, выпуклы;

• существует точка xi G R" такая, что ) < 0 для всех i = 1,...,m (условие Слейтера);

• точка x принадлежит ü, а множество индексов активных ограничений в этой точке непусто:

R(x) = {i = 1,...,m | ф,(x) =0} = Тогда, для того чтобы точка Д0 = 0 была точкой глобального минимума функции

Н(Д) := max min [а + (v, Д}]

CEE [a,v]eC

на конусе Булигана к множеству ü в точке x, необходимо и достаточно, чтобы

П Ki(x) С U [cone(C)]+, (11)

ieR(x) CEE

где Kj(ж) = jg G Rn+1 \ д = (a,v), а > 0, v е — [сопе(9^(ж))]+1 ; дфг(х) — субдифференциалы функций фi в точке x.

Доказательство. Как и при доказательстве следствия 1, заключаем, что

Л={А} = {Г(Х)}= J П {-[cone(ö&(x))]+H.

[ieR(5) J

Обозначая

К i(x) = [g £ Rn+1 \ g=(a,v), a > 0, v е- [сопе(сЩ£))] + } , можем записать, что A = Р) Ki(x). Условие (8), очевидно, равносильно тому, что

ieR(x)

любое g из А принадлежит конусу [сопе(С)]+ при некотором С из Е_. Отсюда сразу же следует эквивалентность условий (8) и (11). □

Следствие 4. Пусть множество

ü = {x G R" | ^(x) =0, i = 1,...,l, фj(x) < 0, j = 1,...,m},

причем

• функции ^(x), i = 1,...,l, фj(x), j = 1,...,m, — непрерывно дифференцируемы;

• точка X принадлежит Q, градиенты активных ограничений неравенств и всех ограничений равенств в этой точке линейно независимы.

Тогда, для того чтобы точка До = 0 была точкой глобального минимума функции

ЫД) := max min [а + (v, Д}]

сеЕ [a,v]ec

на конусе Булигана к множеству Q в точке X, необходимо и достаточно, чтобы

П К^ (х)]П( П КФ* (X)) С U [cone(C)]+,

= 1,...,г J \jeR(x) J сеЕ

где К^ (X) = { g e Rn+1 \ g =(a,v),a> 0, v e [cone ( {-Уф^(Х), Уф^) })]+} ;

К0з (X) = { g e R"+1 \ g = (a,v), a > 0, v e- [cone(V^j (X))]+J ; W^i(x), Уф^ (X) — градиенты функций ф-i,, фj в точке X.

Доказательство. Оно следует непосредственно из представления

Г(Х)= I П [cone ({-Уф^Х), Vфi (X)} )]+)П( П {-[cone^i(X))] + } I . □

\j=i,...,i ) \ieR(X) )

Совершенно аналогично могут быть доказаны следующие результаты. Теорема 4. Для того чтобы точка Д0 = 0 была точкой локального минимума функции

h(A) := max min [а + (v, Д}]

СеЕ [a,v]eC

на конусе Г, где Е_ — семейство выпуклых компактов в Мп+1; необходимо и достаточно, чтобы нашлось е > 0, для которого при любом g e Ае, A e A существует CA G E_ такое, что

{v,g)> 0 WeCA. (12)

Замечание 2. Отметим, что из условия (12) вытекает более слабое условие

ЗСеЕ: С Gel |м™\ ("Д^)} УАеА.

3. Условия экстремума с ограничениями в терминах собственных и несобственных коэкзостеров. Найдем минимум дифференцируемой по направлениям в смысле Адамара функции f: X ^ К на множестве Q С X, где X — открытое множество, Г(х) — конус Булигана к множеству Q в точке x.

Напомним, что функция f называется дифференцируемой по направлениям по Адамару в точке x e X, если для всех Д e К" существует конечный предел

г, , Д^ r f(x + aA')-f(x) Ттт(х,А)= lim -.

[а,Д'М+0,Д] a

Предполагаем также, что для функции f в точке x существует ограниченный в совокупности верхний и/или нижний коэкзостер. Используем вспомогательную теорему из [9].

Теорема 5. Пусть функция f дифференцируема по направлениям в точке х* G О в смысле Адамара. Для того чтобы точка x* была точкой локального минимума f на О, необходимо, чтобы

fH(x*, Д) > 0 УД G Г(х*), (13)

где Г(х*) — конус Булигана.

Точку х*, в которой выполняется условие (13), будем называть inf-стационарной точкой функции f на множестве О в смысле Адамара.

Из ограниченности в совокупности семейств Е{х*), Е_(х*) следует липшицевость функции ^(Д), а значит, и ее непрерывность. Отсюда для производной по направлению Д функции f в точке x* справедливо равенство

f'н(х*, Д) = h'H(0, Д) УД G Rn.

Таким образом, если для функции h(Д) выполнено достаточное условие локального или глобального минимума в нуле на конусе Г(х*) (т. е. условие, гарантирующее, что нуль — inf-стационарная точка ^Д) на Г(х*) в смысле Адамара), то это же условие будет и достаточным для того, чтобы точка х* была inf-стационарной точкой функции f на множестве О в смысле Адамара.

Таким образом, если дифференцируемая по направлениям в смысле Адамара в точке х* функция f имеет в той же точке ограниченный в совокупности коэкзостер, то достаточное условие локального или глобального минимума в нуле на конусе Бу-лигана для аппроксимации ее приращения в этой точке является также достаточным условием того, что точка х есть inf-стационарная точка функции f на множестве О в смысле Адамара. Условия экстремума для аппроксимации приращения были получены в п. 2. Поэтому с помощью теоремы 5 и результатов п. 2 можно сформулировать условия экстремума в терминах коэкзостеров.

Вначале сформулируем условия минимума с ограничениями в терминах собственного коэкзостера.

Теорема 6. Пусть функция f дифференцируема по направлениям в смысле Адамара в точке x* G Cl, а семейство ограниченных в совокупности выпуклых компактов E С Rn+1 является верхним коэкзостером функции f в точке х*. Для того чтобы точка х* была inf-стационарной точкой f на О в смысле Адамара, достаточно, чтобы нашлось такое е > 0, что

Â+ р| С ф 0 УС G ~Е, У A G Л,

где Г(х*) = У {A | A G Л} — конус Булигана к множеству О в точке х*; A — семейство выпуклых конусов с вершиной в нуле; A£ = {g G Rn+1 | g = a(1, Д),а > 0, Д G A, ||Д|| ^ е}, A+ — сопряженный к A конус.

Замечание 3. Отметим, что в теореме 6 воспользовались условием локального (теорема 2), а не глобального (теорема 1) экстремума для аппроксимации приращения, так как именно при этом получаются более содержательные условия экстремума в терминах собственных коэкзостеров. Действительно, так как A+ С A+ для всех е > 0, то при любом е > 0, например, из C р| A+ = 0 следует C р| A+ = 0, обратное же, вообще говоря, неверно.

Теперь перейдем к условиям минимума с ограничениями в терминах несобственного коэкзостера.

Теорема 7. Пусть функция f дифференцируема по направлениям в смысле Адамара в точке x* G О., а ограниченное в совокупности семейство выпуклых компактов Е_ С Rn+1 является нижним коэкзостером функции f в точке х*. Для того чтобы точка x* была inf-стационарной точкой f на О в смысле Адамара, достаточно, чтобы существовало е > 0, при котором для любого g G Ае, A G А найдется СА G Е_ такое, что

(v,g) > 0 W G CA,

где Г(х*) = У {A | A G A} — конус Булигана к множеству О в точке x* ; A — семейство выпуклых конусов с вершиной в нуле; Ae = {g G Rn+1 | g = a(1, A), a > 0, A G A, ||A|| < 4.

Замечание 4. Отметим, что в теореме 7 воспользовались условием локального (теорема 4), а не глобального (теорема 3) экстремума для аппроксимации приращения, так как именно при этом получаются более содержательные условия экстремума в терминах несобственных коэкзостеров. Действительно, так как Ae С A для всех е > 0, то при любом е > 0 из условия

Vge 3СА G E : (v, g) > 0 \/v G CA

следует условие

Уд G !e 3CA G E: {v, g) > 0 W G CA.

Обратное же, вообще говоря, неверно.

Отметим, что теоремы 6 и 7 дают лишь достаточные условия стационарности. Потому возможны случаи, когда в стационарной точке предложенные условия не выполняются. Эти случаи нуждаются в дополнительном исследовании.

Для описания более «полных» условий нужно работать со значимой частью ко-экзостера, а именно с семействами

Е* = { Q(C) G R™ I С G Ê, max a = 01, E* = { Q(C) G R™ I С G E, min a = 01,

[ K»]EC J [ [a,v]EC )

где Q(C) = {v I [a,v] G C, a = 0} .

Полученные таким образом семейства называются экзостерами (см. [2, 3, 5]) и описывают однородные аппроксимации приращения функции в окрестности изучаемой точки:

f (x + A) = f (х)+ min max(v, A) + ш(х, A),

QeE*(x) v£Q

f (x + A) = f (x)+ max min (v, A) + w(x, A).

QeEt(x) veQ

Условия экстремума с ограничениями в терминах собственных экзостеров были получены в [2].

Важно отметить, что экзостерное точечно-множественное отображение разрывно в метрике Хаусдорфа, а это негативно сказывается на сходимости оптимизационных алгоритмов. Вовлечение дополнительных незначимых множеств позволяет добиться непрерывности и выделить класс функций с непрерывным коэкзостерным отображением.

Пример. Рассмотрим функцию f : R ^ R, f (x) = x2 — Ц и примем О = R. Семейство Е(х) = {С\{х), 6*2(2;)}, где

C1(x) =co {[2x, 1 + 2x];[0,1 + 2x]} , C2(x) = co {[—2x, —1 + 2x];[0, —1 + 2x]} , можно выбрать в качестве верхнего коэкзостера.

Для верхнего экзостера выпишем представление Е * (х) = <

С}(С1 ) = {1 + 2х}, х< 0, ЯС) = {-1 + 2х}, х > 0,

и<Э(С1 ),Я(С2)}, х = 0.

Можно убедиться, что построенное коэкзостерное отображение непрерывно в то время, как экзостерное — разрывно.

Возьмем точку х* = 0.5, являющуюся глобальным минимумом функции / на £2. Имеем А = {А} = {м}, поэтому А£ = {д е м2 | д = а(1, А), а > 0, А е м, | А| < £}, откуда (см. [5])

1+ = |гй е м2 I ТВ = ¡1(1, А), ¡1 > 0, |А| < ^ |.

\ а] \ \ \ / / 1 1 1

\ \ \ \ \ \ V \ 1 / % 1 1

^^ \ ^^ \ \ --- ^ 1 1 / / / / С, .....

V

с2

Рисунок. Множества из верхнего коэкзостера функции / в точке 0.5, а также три различных положения конуса А+, соответствующие разным случаям: £ > 0.5 (точечная линия), £ = 0.5 (сплошная), £ < 0.5 (пунктирная)

Из рисунка понятно, что при £ ^ 0.5 справедливо условие

которое нарушается при £ > 0.5. Отсюда следует (см. теорему 6), что для £ ^ 0.5 выполняются достаточные условия т£-стационарности, а для £ > 0.5 они не удовлетворяются.

Вместе с тем необходимые условия минимума в терминах верхнего экзостера выполняются. Для того чтобы убедиться в этом, достаточно заметить, что экзостерное разложение в данном случае совпадает с «классическим» гладким разложением

/(х* + А) = !(х*) + (-1 + 2х) А + ^(х*, А),

так как функция / (х) = х2 — х в окрестности точки х*.

Литература

1. Абанькин А. Е. Безусловная минимизация Я-гипердифференцируемых функций // Журн. вычисл. математики и матем. физики. 1998. Т. 38(9). С. 1500—1508.

2. Demyanov V. F. Exhausters and convexificators — new tools in nonsmooth analysis // Quasidif-ferentiability and related topics / eds by V. Demyanov, A. Rubinov. Dordrecht: Kluwer Academic Publ., 2000. P. 85-137.

3. Abbasov M. E., Demyanov V. F. Extremum conditions for a nonsmooth function in terms of exhausters and coexhausters // Proceedings of the Steklov Institute of Mathematics. 2010. Vol. 269(1). P. 6-15.

4. Abbasov M. E., Demyanov V. F. Adjoint coexhausters in nonsmooth analysis and extremality conditions // Journal of Optimization Theory and Applications. 2013. Vol. 156(3). P. 535-553.

5. Demyanov V. F. Proper exhausters and coexhausters in nonsmooth analysis // Optimization. 2012. Vol. 61(11). P. 1347-1368.

6. Fominyh A. V., Karelin V. V., Polyakova L. N. Application of the hypodifferential descent method to the problem of constructing an optimal control // Optimization Letters. 2018. Vol. 12(8). P. 1825-1839.

7. Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация. М.: Наука, 1981. 384 с.

8. Половинкин Е. С., Балашов М. В. Элементы выпуклого и сильно выпуклого анализа. М.: Физматлит, 2007. 440 с.

9. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление. М.: Наука, 1990. 431 с.

Статья поступила в редакцию 18 сентября 2018 г.

Статья принята к печати 15 марта 2019 г.

Контактная информация:

Аббасов Меджид Эльхан оглы — канд. физ.-мат. наук, доц.; m.abbasov@spbu.ru

Constrained optimality conditions in terms of proper and adjoint coexhausters *

M. E. Abbasov

St. Petersburg State University, 7—9, Universitetskaya nab., St. Petersburg, 199034, Russian Federation

For citation: Abbasov M. E. Constrained optimality conditions in terms of proper and adjoint coexhausters. Vestnik of Saint Petersburg University. Applied Mathematics. Computer Science. Control Processes, 2019, vol. 15, iss. 2, pp. 160-172. https://doi.org/10.21638/11702/spbul0.2019.201 (In Russian)

Coexhasuters are families of convex compact sets allowing one to represent the approximation of the increment of the studied function in the neighborhood of a considered point in the form of MaxMin or MinMax of affine functions. Researchers developed a calculus of these objects, which makes it possible to build thesefamilies for a wide class of nonsmooth functions. They also described unconstrained optimality conditions in terms of coexhausters, which paved the way for the construction of new optimization algorithms. In this paper we derive constrained optimality conditions in terms of coexhausters.

Keywords : nonsmooth analysis, nondifferentiable optimization, coexhausters, optimality conditions.

References

1. Abankin A. E. Bezuslovnaia minimizatsiia H-giperdifferentsiruemykh funktsii [Unconstrained minimization of H-hyperdifferentiable functions].Computational Mathematics and Mathematical Physics, 1998, vol. 38(9), pp. 1500-1508. (In Russian)

* This work is supported by Russian Science Foundation (project N 18-71-00006).

2. Demyanov V. F. Exhausters and convexificators — new tools in nonsmooth analysis. Quasi-differentiability and related topics. Eds by V. Demyanov, A. Rubinov. Dordrecht, Kluwer Academic Publ., 2000, pp. 85-137.

3. Abbasov M. E., Demyanov V. F. Extremum conditions for a nonsmooth function in terms of exhausters and coexhausters. Proceedings of the Steklov Institute of Mathematics, 2010, vol. 269(1), pp. 6-15.

4. Abbasov M. E., Demyanov V. F. Adjoint coexhausters in nonsmooth analysis and extremality conditions. Journal of Optimization Theory and Applications, 2013, vol. 156(3), pp. 535-553.

5. Demyanov V. F. Proper exhausters and coexhausters in nonsmooth analysis. Optimization, 2012, vol. 61(11), pp. 1347-1368.

6. Fominyh A. V., Karelin V. V., Polyakova L. N. Application of the hypodifferential descent method to the problem of constructing an optimal control. Optimization Letters, 2018, vol. 12(8), pp. 1825-1839.

7. Demyanov V. F., Vasilev L. V. Nedifferentsiruemaya optimizatsiya [Nondifferentiable optimization], 1981, 384 p. (In Russian)

8. Polovinkin E. S., Balashov M. V. Elementy vypuklogo i silno vypuklogo analiza [Elements of convex and strongly convex analysis]. Moscow, Fizmatlit Publ., 2007, 440 p. (In Russian)

9. Demyanov V. F., Rubinov A. M. Osnovy negladkogo analiza i kvazidifferencialnoe ischislenie [Foundations of Nonsmooth Analysis. Quasidifferential Calculus]. Moscow, Nauka Publ., 1990, 431 p. (In Russian)

Received: September 18, 2018.

Accepted: March 15, 2019.

Author's information:

Majid E. Abbasov — PhD in Physics and Mathematics, Associate Professor; m.abbasov@spbu.ru