Условия экстремума в терминах обобщенных несобственных экзостеров Текст научной статьи по специальности «Математика»

2013 ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА Сер. 10 Вып. 3

ПРИКЛАДНАЯ МАТЕМАТИКА

УДК 519.3+519.7 М. Э. Аббасов

УСЛОВИЯ ЭКСТРЕМУМА В ТЕРМИНАХ ОБОБЩЕННЫХ НЕСОБСТВЕННЫХ ЭКЗОСТЕРОВ*)

В работе рассмотрено обобщение понятия экзостеров - новых инструментов изучения негладких функций, введенных в работах В. Ф. Демьянова, А. М. Рубинова, Б. Н. Пшеничного. Экзостеры - это семейства выпуклых компактов, позволяющие представлять главный член приращения функции в исследуемой точке в виде inf max или sup min, причем верхний экзостер используется для первого представления, а нижний - для второго. С помощью данных объектов удалось получить новые условия экстремума, строить направления спуска и подъема и, тем самым, конструировать новые оптимизационные алгоритмы для широкого класса функций. Оказалось, что наиболее органично условия максимума выписываются в терминах нижнего экзостера, а минимума - верхнего. Поэтому нижний экзостер был назван собственным для задачи на максимум, а верхний - на минимум. Соответственно нижний экзостер был назван несобственным для задачи на минимум, а верхний - несобственным для задачи на максимум.

Настоящая работа посвящена получению условий экстремума в терминах несобственного обобщенного экзостера, обобщающих условия, полученные В. Ф. Демьяновым, В. А. Рощиной, М. Э. Аббасовым. Обобщенные экзостеры - это семейства выпуклых компактов, позволяющие представлять главный член приращения функции в исследуемой точке в infsup-м либо supinf-м виде. Использование обобщенных экзо-стеров дает возможность расширить класс рассматриваемых функций по сравнению с классом функций, которые можно исследовать с помощью экзостеров.

Необходимые сведения. Пусть f : X —> R, где X С М" - открытое множество, и имеет место разложение

f (x + g) = f (x) + hx(g)+ox(g). (1)

В (1) ox(g) удовлетворяет одному из условий:

Ип1^М = 0 уде R™ (2)

a|0 a w

Аббасов Меджид Эльхан оглы — кандидат физико-математических наук, доцент, 199034, Санкт-Петербургский государственный университет; e-mail: [email protected].

*) Работа выполнена при финансовой поддержке Российского фонда фундаментальных исследований (грант № 12-01-00752).

© М. Э. Аббасов, 2013

либо

lim V gr G R™. (3)

\\g\H0 \\g\\

Заметим, что если hx(g) положительно однородная (п.о.) функция, то в случае справедливости (2) hx(g) - производная Дини функции f в точке x по направлению g, в случае справедливости (3) - производная Адамара функции f в точке x по направлению g.

Если справедливо представление hx(g) = inf sup(v,g), где E*(x) - семейство

üeE*(x) veo

выпуклых множеств в R", а ox(g) удовлетворяет (2), говорят, что E*(x) - обобщенный верхний экзостер в смысле Дини функции f в точке x; если справедливо (3), - то в смысле Адамара.

Когда справедливо представление hx(g) = sup inf (v,g), где E*(x) - семейство

ceEt(x)vEC

выпуклых множеств в R", а ox(g) удовлетворяет (2), говорят, что E*(x) - обобщенный нижний экзостер в смысле Дини функции f в точке x; если справедливо (3), - то в смысле Адамара.

Если же hx(g) представима в виде min max(v,g) или max min(v,g), где E*(x)

CeE*(x) vEC CeE„(x) veC

и E* (x) - семейства выпуклых компактов, то говорят о верхнем и нижнем экзостере

соответственно. Причем при справедливости (2) говорят об экзостере в смысле Дини,

при справедливости (3) - в смысле Адамара.

Замечание 1. Отметим, что (обобщенный) экзостер функции f в точке x совпадает с (обобщенным) экзостером функции hx в точке 0„. Поэтому далее, если не будет оговорено особо, будем рассматривать функцию hx отдельно и использовать обозначение h(g).

Замечание 2. Отметим, что везде далее, если не оговорено отдельно, речь будет идти об (обобщенных) экзостерах в смысле Дини. Как ясно из определения, (обобщенный) экзостер в смысле Адамара является также (обобщенным) экзостером в смысле Дини.

Понятие экзостеров было введено в работах Б. Н. Пшеничного [1], А. М. Рубинова [2], В. Ф. Демьянова [3], посвященных исследованию невыпуклых функций.

При справедливости условия (2) и п.о. hx(g) необходимым условием минимума является h(g) ^ 0 Vg G R", а h(g) ^ 0 Vg G R" - необходимым условием максимума.

Если выполнено условие (3) и по-прежнему hx(g) - п.о., то h(g) > 0 Vg G R" -необходимое и достаточное условие строгого минимума, а h(g) < 0 Vg G R" - строгого максимума.

Изучаемые в данной работе обобщенные экзостеры являются дальнейшим развитием аппарата экзостеров.

Условия экстремума. Впервые условия экстремума в терминах экзостеров были получены В. Ф. Демьяновым [3-8]. Причем оказалось, что условия минимума выражаются при помощи верхнего экзостера, а условия максимума - нижнего, поэтому верхний экзостер был назван собственным для задачи на минимум, а нижний -собственным для задачи на максимум. Соответственно нижний экзостер был назван несобственным для задачи на минимум, а верхний - несобственным для задачи на максимум. Затем В. А. Рощиной [9] были получены выражения для условий экстремума, использующие несобственные экзостеры, но они не позволяли определять направления спуска и подъема и не обладали той же наглядной и ясной геометрической интерпретацией, которую имели условия экстремума в терминах собственных экзостеров. В работах [10, 11] были представлены новые условия экстремума в терминах несобственных

экзостеров, лишенные этих недостатков. В настоящей работе предпринимается попытка обобщения указанных условий.

Условия экстремума в терминах несобственных обобщенных экзостеров.

Пусть S = {g е М"| ||g|| = 1}. В [10] впервые были сформулированы следующие результаты.

Теорема 1. Для того чтобы h(g) = maxmin(w,g) ^ 0 для любого g е S, где

E* - семейство выпуклых контактов, необходимо и достаточно, чтобы произвольная гиперплоскость, проходящая через нуль, разделяла какие-то два множества семейства E*, т. е. для любого g е S должно существовать C е E* такое, что для всех v е C справедливо неравенство (v,g) ^ 0.

Теорема 2. Для того чтобы h(g) = min max(v, g) ^ 0 для любого g е S, где

E* - семейство выпуклых контактов, необходимо и достаточно, чтобы произвольная гиперплоскость, проходящая через нуль, разделяла какие-то два множества семейства E*, т. е. для любого g е S должно существовать C е E* такое, что для всех v е C справедливо неравенство (v,g) ^ 0.

Сформулируем и докажем аналогичные теоремы для обобщенных экзостеров. Теорема 3. Для того чтобы

h(g) = sup inf (v, g) > 0 Vg е S, (4)

CEE, vEC

где E* - семейство выпуклых множеств в R", необходимо и достаточно, чтобы выполнялось условие

Уе> 0 3Ce е E* : (v, g) > -е Vv е Ce. (5)

Доказательство. Докажем сначала необходимость. Пусть (4) верно. Выберем и зафиксируем произвольное g из S и пусть

sup inf(v,g) = a, a ^ 0.

CEE,vEC

Если a > 0, то по определению точной верхней грани существует множество C из E*, такое что inf (v,g) > a/2 > 0, откуда (v,g) > 0 для любого v из cl C, что

vEC

означает справедливость (5).

Если a = 0, то непосредственно по определению точной верхней грани получаем, что для любого е > 0 существует CE е E* такое, что

inf (v,g) > a — е = -е.

vECe

Отсюда следует, что для любого е > 0 существует CE из E*, для которого выполнено (v,g) > —е для любого v из cl C£, а это означает справедливость (5).

Теперь докажем достаточность. Выберем и зафиксируем произвольное g из S и пусть (5) верно. Возьмем последовательность {еk} такую, что ей > 0, ей —> 0. Тогда с ее помощью найдем соответствующую последовательность {C£k }, для которой

(v,g) ^ —ей при любом v е C£k, т. е. inf (v,g) ^ —Предположим, что

vEC--k

sup inf (v,g) = a, a< 0. (6)

CEE, vECek

Так как ek —> 0, то существует K > 0 такое, что для любого к > K будет a < —£k-Тогда

inf (v, g) ^ —ek > a Vk > K,

veC'Ek

откуда

sup inf (v, g) > a,

CEE*vEC

что противоречит (6). Таким образом, a ^ 0, что означает выполнение (4).

Замечание 3. Если необходимое условие максимума из теоремы 3 не выполнено,

то

Зд G § Зё > 0 : УС G Е* 3ve G С (ve, д) < -е. Любое такое направление есть направление спуска, а направление д G S, где

sup inf(v,g) = inf sup inf(v,g),

CEE*vEC 9ESCEE* vEC

является направлением наискорейшего спуска.

Точно так же доказывается теорема, описывающая условия максимума с помощью обобщенного верхнего экзостера, являющегося в данном случае несобственным.

Теорема 4. Для того чтобы h(g) = inf sup(v,g) ^ 0 для любого g G S, где E* -

CEE*vEC

семейство выпуклых множеств в R", необходимо и достаточно, чтобы выполнялось условие

Уе > 0 ЗСе G E* : (v, g) < е Vv G Ce. Замечание 4. Если необходимое условие максимума из теоремы 4 не выполнено,

то

3g G S Зё > 0 : У С G E*3ve G С (ve, g) > e. Любое такое направление есть направление подъема, а направление д G S, где

inf sup(v, д) = sup inf sup(v, g),

CEE*vEC ' gESCEE*vEC '

является направлением наискорейшего подъема.

Условия строгого экстремума в терминах несобственных экзостеров (см. [10]) имеют следующий вид.

Теорема 5. Для того чтобы h(g) = m^X min(v, g) > 0 для любого g G S, где E* - семейство выпуклых компактов из R", необходимо и достаточно, чтобы произвольная гиперплоскость, проходящая через нуль, строго разделяла какие-то два множества семейства E*, т. е. для любого g G S должно найтись C G E* такое, что для любого v G С будет (v, g) > 0.

Теорема 6. Для того чтобы h(g) = min max(v,g) < 0 для любого g G S, где E* -

семейство выпуклых компактов из R", необходимо и достаточно, чтобы произвольная гиперплоскость, проходящая через нуль, строго разделяла какие-то два множества семейства E*, т. е. для любого g G S должно найтись С G E* такое, что для любого v G С будет (v, g) < 0.

Теперь сформулируем и докажем условия строгого экстремума в терминах обобщенных экзостеров.

Теорема 7. Для того чтобы

h(g) = sup inf (v, g) > 0 Уд e S, (7)

CEE,vEC

где E* - семейство выпуклых множеств из Rn, необходимо и достаточно, чтобы

Зе > 0 : Уд e S 3Cg e E*, (v, g) >e Vv e cl Ca. (8)

Доказательство. Сначала докажем необходимость. Пусть (7) верно. Выберем и зафиксируем произвольное g e S. Тогда существует а > 0 такое, что

sup inf (v, g) = а.

CEE,vEC

По определению точной верхней грани для а/2 должно найтись С e E*, для которого inf (v,g) > а/2, откуда

vEC

(v,g) > а/2 Vv e clC.

Таким образом, беря е = а/2, получим (8).

Достаточность очевидна. Действительно, пусть (8) верно, тогда

inf (v, g) > е Vg e S,

vEC g

откуда окончательно имеем

sup inf (v,g) ^ е > 0 Vg e S.

CE_E, vEC

Аналогично формулируется и доказывается Теорема 8. Для того чтобы

h(g) = inf sup(v, g) < 0 Vg e S,

CeE*vEC

где E* - семейство выпуклых множеств из Rn, необходимо и достаточно, чтобы

Зе > 0: Vg e S 3Cg e E*, (v,g) < -е Vv e cl Cg. (9)

Пример. Рассмотрим в точке 0n функцию

) (0, если g/\\g\\ e Qn или g = 0„, (g) \\\g\\, если g/\\g\\e Qn,

здесь Q - множество рациональных чисел. Очевидно, в исследуемой точке эта функция достигает нестрогого минимума. Имеем E*(0n) = Eo*(0n) У Ei*(0n), где

Eo*(0n) = {Co(A)\ Д e Qn, A e S}, Co(A) = {v e Rn\ (v, Д) < 0},

El*(0n) = {Ci(A)\ A e Qn, A e S}, Ci(A) = {v e Rn\ (v, A) < 1},

E*(0n) = E*°(0n)U E* 1(0„) - нижний экзостер в точке 0n, причем

E*>„) = {0°(Д)| Д е Qn, Д е В}, С0(Д) = {v е Rn| (v, Д) > 0}, E* 1(0„) = {C 1(Д)| Д е Qn, Д е В}, C 1(Д) = {v е Rn| (v, Д) > 1}.

Условие максимума (см. теорему 4) в терминах обобщенного верхнего (несобственного) экзостера не выполняется: для любого g е В, g е Qn и всякого C е E*(0n) найдется v е C, для которого, к примеру, (v,g) > 1/2. Поэтому все направления g е В, g е Qn по замечанию 4 являются направлениями подъема. Так как для всех таких g

выполняется равенство inf sup(v, g) = 1, то все эти направления являются направ-

CEE*(0n) vEC лениями наискорейшего подъема.

Если g принадлежит В и g е Qn, тогда для любого v из C0(g) выполняется неравенство (v,g) > 0. Если g принадлежит В и g е Qn, тогда для любого v из C 1(g) выполняется неравенство (v,g) > 1. Потому для всех g из В выполняется условие (5) из теоремы 3. Следовательно, в точке 0n выполнено необходимое условие минимума в терминах нижнего (несобственного) экзостера.

Литература

1. Пшеничным Б. Н. Выпуклый анализ и экстремальные задачи. М.: Наука, 1980. 320 с.

2. Demyanov V. F., Rubinov A. M. Constructive Nonsmooth Analysis, Approximation & Optimization. Frankfurt am Main: Peter Lang, 1995. Vol. 7. 416 p.

3. Demyanov V. F. Exhausters and convexificators — new tools in nonsmooth analysis, quasidifferen-tiability and related topics // Nonconvex Optim. Appl. Dordrecht: Kluwer Acad. Publ., 2000. Vol. 43. P. 85-137.

4. Demyanov V. F., Rubinov A. M. Exhaustive families of approximations revisited, from convexity to nonconvexity // Nonconvex Optim. Appl. Dordrecht: Kluwer Acad. Publ, 2001. Vol. 55. P. 43-50.

5. Аббасов М. Э., Демьянов В. Ф. Условия экстремума негладкой функции в терминах экзостеров и коэкзостеров // Труды Ин-та математики и механики Урал. отд. РАН. 2009. Т. 15, № 4. C. 10-19.

6. Demyanov V. F., Roschina V. A. Optimality conditions in terms of upper and lower exhausters // Optimization. 2006. Vol. 55. P. 525-540.

7. Demyanov V. F. Proper Exhausters and Coexhausters in Nonsmooth Analysis // Optimization. 2012. DOI:10.1080/02331934.2012.700929.

8. Demyanov V. F. Exhausters of a positively homogeneous function // Optimization. 1999. Vol. 45, N 1-4. P. 13-29.

9. Demyanov V. F., Roshchina V. A. Constrained Optimality Conditions in Terms of Proper and Adjoint Exhausters // Appl. Comput. Math. 2005. Vol. 4, N 2. P. 114-124.

10. Аббасов М. Э. Условия экстремума в терминах несобственных экзостеров // Вестн. С.-Петерб. ун-та. Сер. 10: Прикладная математика, информатика, процессы управления. 2011. Вып. 2. С. 3-8.

11. Abbasov M. E., Demyanov V. F. Proper and adjoint exhausters in Nonsmooth analysis: optimality conditions // J. of Global Optimization. 2013. Vol. 56, issue 2. P 569-585.

Статья рекомендована к печати проф. В. Ф. Демьяновым. Статья поступила в редакцию 21 марта 2013 г.