CC BY
15
Владикавказский математический журнал октябрь-декабрь, 2006, Том 8, Выпуск 4
УДК 519.3
ОБОБЩЕННЫЕ СУБДИФФЕРЕНЦИАЛЫ И ЭКЗОСТЕРЫ1
В. Ф. Демьянов, В. А. Рощина
Посвящается памяти А. М. Рубинова, идеи которого лежат в основе настоящей работы
В статье рассматриваются соотношения между экзостерами и различными обобщенными субдифференциалами. Для субдифференциалов Кларка, Мишеля-Пено, Гато и Фреше получены формулы в терминах экзостеров.
1. Введение
Негладкий анализ сформировался как самостоятельный раздел и непосредственное продолжение классического («гладкого») анализа в 60-70-х годах XX столетия, хотя впервые негладкие задачи были поставлены и изящно решены еще П. Л. Чебышевым. Негладкие задачи до сих пор привлекают внимание исследователей как ввиду наличия множества нерешенных интересных теоретических задач, так и вследствие возникновения новых практических приложений.
Исторически первыми глубоко изученными классами негладких функций были классы выпуклых функций и функций максимума. Исследование этих функций привело к развитию выпуклого анализа и теории минимакса (см., например, [11, 1]). При этом оказалось, что основным инструментом исследования указанных классов функций является субдифференциал (представляющий собой выпуклое множество в сопряженном пространстве), с помощью которого можно, в частности, вычислить производные по направлениям (и тем самым получить аппроксимацию первого порядка функции в окрестности заданной точки), сформулировать условия минимума, найти направления наискорейшего спуска и построить численные методы.
Упомянутые свойства субдифференциалов выпуклых функций и функций максимума привели к многочисленным попыткам найти подобный выпуклый объект и в невыпуклом случае. Различные обобщения понятия субдифференциала были предложены и исследованы. Среди наиболее удачных и популярных следует отметить, в первую очередь, субдифференциал Кларка (см. [6, 16]). Обзор работ по субдифференциалам имеется, например, в [14]. Общая теория субдифференциалов в абстрактных пространствах построена в [7, 8]. Однако, как отмечается в [8], от субдифференциала «мало прока, если
© 2006 Демьянов В. Ф., Рощина В. А.
1 Работа выполнена при поддержке Российского Фонда Фундаментальных Исследований, проект РФФИ N 06-01-00276.
нет достаточно эффективных средств его вычисления». В настоящей работе для некоторых наиболее распространенных субдифференциалов в конечномерных пространствах строятся правила их вычисления. Это делается с помощью экзостеров.
Идея сведения задачи минимизации произвольной функции к последовательности выпуклых задач была воплощена Б. Н. Пшеничным [10], который ввел понятия верхней выпуклой и нижней вогнутой аппроксимаций. А. М. Рубинов в [3] предложил рассматривать исчерпывающие семейства верхних выпуклых аппроксимаций и нижних вогнутых аппроксимаций. Впоследствии были введены понятия верхнего и нижнего экзостеров, представляющие двойственные объекты и позволяющие свести исходную оптимизационную задачу к последовательности выпуклых задач минимизации.
В настоящей работе изучается связь между экзостерами и некоторыми обобщенными субдифференциалами негладких функций. Понятие экзостера и некоторые его свойства описаны в п. 3. В п. 4 субдифференциалы Гато и Фреше для дифференцируемых по направлениям в смысле, соответственно, Дини и Адамара функций выражены в терминах экзостеров. Эти субдифференциалы были введены в работе [13] и изучены в [25, 27].
Субдифференциалы Мишеля-Пено и Кларка обсуждаются в пп. 5 и 6. Их связь с экзостерами устанавливается в п. 7.
2. Исчерпывающие семейства верхних и нижних аппроксимаций
Б. Н. Пшеничный в [10] ввел понятия верхних выпуклых и нижних вогнутых аппроксимаций. Пусть функция h : Rn ^ R — положительно однородна первой степени. Выпуклая положительно однородная функция h : Rn ^ R называется верхней выпуклой аппроксимацией функции h, если
h(g) < h(g) V g G Rn. (1)
Вогнутая положительно однородная функция h : Rn ^ R называется нижней вогнутой аппроксимацией функции h, если
h(g) < h(g) V g G Rn (2)
Исчерпывающие семейства аппроксимаций были определены А. М. Рубиновым в [3] (см. также [4]).
Множество Л* верхних выпуклых аппроксимаций функции h называется исчерпывающим семейством верхних выпуклых аппроксимаций функции h, если
h(g) = _inf h(g) V g G Rn (3)
he Л*
Множество Л* нижних вогнутых аппроксимаций функции h называется исчерпывающим семейством нижних вогнутых аппроксимаций функции h, если
h(g) = sup h(g) V g G Rn (4)
he Л*
Существование исчерпывающих семейств устанавливается в следующей теореме [3].
Теорема 1 (А. М. Рубинов). Пусть h : Rn ^ R — положительно однородная функция. Если h полунепрерывна сверху на Rn, то существует исчерпывающее семейство верхней выпуклой аппроксимации функции h.
Если Н полунепрерывна снизу на Кп, то существует исчерпывающее семейство нижних вогнутых аппроксимаций функции Н.
Если Н — полунепрерывна сверху и ограничена, то, по теореме 1, существует семейство Л* верхних выпуклых аппроксимаций, удовлетворяющее (3). Если Н полунепрерывна снизу и ограничена на В1, то существует семейство Л* нижних вогнутых аппроксимаций, удовлетворяющее (4).
Так как (см. [11]) каждая выпуклая положительно однородная функция Н(д) может быть представлена в виде
Н(д) = тах(г>,д) Vд £ йп,
О(Ь)
где С(Н) — субдифференциал функции Н в нуле (это выпуклый компакт в йп), то (3) может быть записано как
h(g) = inf max(v,g) Vg G Rn, (5)
GeE* vec
где E* = {C С Rn I C = C(h), h G Л*}.
Множество E* = E*(h) называется верхним экзостером функции h. Аналогично, так как любая вогнутая положительно однородная функция h может быть представлена в виде
h(g) = min (v,g) Vg G Rn, veo(h)
где C(h) — супердифференциал функции h в нуле (это тоже выпуклый компакт в Rn), то (4) принимает вид
h(g) = sup min(w,g) Vg G Rn, (6)
GeE* weG
где E* = {C С Rn I C = C(h), h G Л*}.
Множество E* = E*(h) называется нижним экзостером функции h.
3. Условия экстремума в терминах экзостеров
Пусть f : X ^ R, где X С Rn — открытое множество. Функция f называется дифференцируемой по направлениям в смысле Дини в точке x G X, если для всех g G Rn существует конечный предел
fD (x,g) = lim1[f (x + ag) - f (x)]. (7)
a|0 a
Функция f называется дифференцируемой по направлениям в смысле Адамара в точке x G X, если для всех g G Rn существует конечный предел
fH(x,g) = lim i[f(x + ag') - f(x)]. (8)
[a,ö'M+0,ö] a
Пусть f : Rn ^ R — заданная дифференцируемая по направлениям (в смысле Дини или Адамара) функция и h(g) = f'(x,g) — соответствующая производная функции f в точке x по направлению g. Функция h(g) положительно однородна первой степени. Если h — полунепрерывна сверху как функция g, то (см. п. 2) h(g) может быть представлена
в виде (5), а если h(g) = f '(ж, g) — полунепрерывная снизу как функция g, то h(g) может быть выписана в форме(6).
Если h непрерывна по g, то оба представления выше (5) и (6) верны. Например, если f — липшицева функция, то ее производные Адамара совпадают с соответствующими производными Дини и непрерывны как функции направления.
В [15] М. Кастеллани показал, что если функция h — липшицева, то она может быть записана в виде
h(g) = min max(v, g) Vg £ Rn (9)
с&E* veov ' '
и в виде
h(g) = max min(w,g) Vg £ Rn, (10)
oeE ф weo
где семейства множеств E* и E* — ограничены в совокупности. Напомним, что семейство множеств E ограничено в совокупности, если найдется такой шар B в Rn, что C С B V C £ E.
Пара E = [E*, E*] семейств выпуклых множеств, где E* — верхний экзостер, и E* — нижний, называется биэкзостером. Экзостеры были введены в [5, 21, 22].
Там было показано, что если функция f достигает минимума на Rn в точке ж* и если известен верхний экзостер E* функции f в точке ж*, то выполнено следующее необходимое условие безусловного минимума:
0n £ C V C £ E *. (11)
Пусть h — непрерывна. Если найдется такое 6 > 0, что
Bá С C V C £ E*, (12)
где Bs = {ж £ Rn | ||ж|| < 6}, то ж* — точка строгого локального минимума функции f. Условие (12) является достаточным условием строгого локального минимума функции f.
Если ж** — точка максимума функции f на Rn и известен нижний экзостер E* функции f в точке ж**, то необходимое условие максимума в случае отсутствия ограничений принимает вид
0n £ C V C £ E*. (13)
Пусть h непрерывна. Если найдется такое 6 > 0, что
Bs С C V C £ E*, (14)
то ж** — точка строгого локального максимума f. Условие (14) является достаточным условием строгого локального максимума функции f.
В [17] был представлен обзор некоторых результатов, относящихся к этим новым объектам. Некоторые свойства и приложения экзостеров также обсуждались в [19, 20, 29, 30].
4. Соотношение между субдифференциалами Фреше и Гато и верхними и нижними экзостерами
4.1. Субдифференциал Фреше и экзостеры. Пусть X — открытое множество в Rn. Нижний субдифференциал Фреше функции f : X ^ R в точке жо £ X можно определить следующим образом (см. [25, 28]):
d-f (жо) := L £ Rn liminf f (ж) - f (жо) - ^ - жо) > 0) . F [ x^x0 ||ж — ж0|| J
Симметрично нижнему субдифференциалу Фреше также можно определить соответствующий верхний субдифференциал Фреше:
d+f (xo):= (v G Rn limsup f (x) - f (Xo) - - Xo) < öl . F l x^x0 ||x - Xo|| J
Первую из этих конструкций принято называть субдифференциалом Фреше, опуская слово «нижний». Элементы нижнего (верхнего) субдифференциала Фреше называются нижними (верхними) субградиентами Фреше. Насколько нам известно (см. [25]), субградиенты Фреше были впервые введены в [13] для конечномерных пространств и были названы и ^-градиентами.
Нижние и верхние субдифференциалы Фреше также могут быть определены через понятие дифференцируемости по Фреше (см. [14, 25]). А именно, v G Rn является нижним (верхним) субградиентом Фреше функции f в точке xo, если найдется такая дифференцируемая по Фреше в точке xo функция g, что g(x) ^ f (x) (g(x) ^ f (x)) для всех x G X, g(xo) = f (xo) и v = g'(xo).
Функция f : X ^ R называется субдифференцируемой (супердифференцируемой) по Фреше, если множество d—f (xo) (д+f (xo)) — непусто. Заметим, что оба (верхний и нижний) субдифференциала Фреше функции f непусты в точке xo G X тогда и только тогда, когда f дифференцируема по Фреше в точке xo (см. [25]). В этом случае d—f (xo) = д+f (xo) = {f '(xo)}.
Следующее соотношение верно для дифференцируемой по Адамару функции. Лемма 1. Пусть функция f : X ^ R дифференцируема по направлениям в смысле Адамара в точке xo G X. Положим h(g) = f'(xo; g) для всех g G Rn. Тогда
d-f (xo) = d-h(0n); д+f (xo) = d+h(0n). (15)
< Из (8) следует, что
f (x) - f (xo) - (v,x - xo) = f'(x; x - xo) - (v,x - xo) + o(x - xo) ||x - xo|| ||x - xo|| ||x - xo||'
Принимая во внимание, что последнее слагаемое стремится к нулю, когда x ^ xo, и что h(x - xo) - h(0n) = f'(xo; x - xo), подставляя y = x - xo в правую часть, мы сразу же получаем
lim inf f (x) - f (xo) - (v>x - xo) = lim inf h(y) - h(0n) - (v,y) ||x - xo|| ||y||
и
lim sup f (x) - f (xo) - (v'x - xo) = lim sup h(y) - ^ - (v, y), x^xo ||x - xo|1 ||y|1
что влечет (15). >
Следующая теорема о представлении субдифференциала Фреше положительно однородной функции была доказана в [29].
Теорема 2. Пусть E — верхний (нижний) экзостер положительно однородной функции h : Rn ^ R. Тогда
п C = dFh, (16)
с ее
где dF h — нижний (верхний) субдифференциал Фреше функции h в нуле.
Следствие 1. Пусть Е1 и Е2 — различные верхние (нижние) экзостеры одной и той же функции Н : Кп ^ К. Тогда
П с = П с.
С 6Е1 С 6Е2
Из леммы 1 и теоремы 2 можно сделать вывод, что если функция / : X ^ К дифференцируема по направлениям в смысле Адамара в точке жо £ X и /'(жо; д) — полунепрерывна сверху (снизу) как функция д, то
др / (жо) = П С,
С6Е/ (жо)
где др/(жо) — нижний (верхний) субдифференциал Фреше функции / в точке жо, а Е/(жо) — верхний (нижний) экзостер / в точке жо.
Лемма 2. Пусть функции /1, /2 : X ^ К — дифференцируемы по направлениям в смысле Адамара в точке жо £ X и пусть /(ж) = /1 (ж) + /2 (ж) для всех ж £ X. Следующее равенство:
д—/1 (жо) + д-/2(жо) = д-/(жо) (17)
имеет место тогда и только тогда, когда существуют такие верхние экзостеры Е1 и Е2 функций /1 и /2 соответственно, что
П + П = П с
С16Е1 С26Е2 С 6Е
где Е = {С £ Кп | 3 С1 £ Е1, С2 £ Е2 : С = С1 + С2}.
< Следует из представления верхнего экзостера суммы функций (см. [17]) и теоремы 2. >
Аналогичный результат имеет место и для верхнего субдифференциала Фреше. Хорошо известно (см. [11, 25]), что если одна из функций дифференцируема по Фреше в точке жо или обе функции /1 и /2 — выпуклые, то имеет место равенство (17). Несложно убедиться, что эти результаты также следуют из леммы 2.
Известно, что необходимые и достаточные условия минимума могут быть выражены через нижний субдифференциал Фреше (см. [9]). Для того, чтобы точка ж* £ X была точкой локального минимума функции / : X ^ К, необходимо, чтобы
0п £ д— /(ж*);
условие
0п £ т! д—/(ж*)
— достаточное для того, чтобы точка ж* была точкой локального минимума функции /. Пусть / дифференцируема по направлениям по Адамару. Принимая во внимание представление (16) субдифференциала Фреше, получаем условия (13) и (14). Таким образом, выражения для необходимых и достаточных условий минимальности через верхние экзо-стеры и нижний субдифференциал Фреше совпадают для функций, дифференцируемых по направлениям в смысле Адамара. Однако, в случае, когда необходимые условия минимума не выполнены, верхние экзостеры могут предоставить информацию о направлениях спуска (см. [17]), в то время как нижний субдифференциал Фреше - нет, и может даже
оказаться пустым. Подобный результат имеет место для условий максимума в терминах нижнего экзостера и верхнего субдифференциала Фреше.
4.2. Субдифференциал Гато и экзостеры. Пусть f : X ^ R, где X — открытое множество в Rn. Нижний субдифференциал Гато функции f в точке xo £ X можно определить следующим образом (см. [23]):
dGf Ы = {v £ Rn | liiiionf f (x0 +tg) - f (Xo) ^ (v,g) V g £ Rn}.
Верхний субдифференциал Гато может быть определен аналогично:
d+f (xo) = {v £ Rn | limsup f (xo + tg) - f (xo) ^ (v,g) V g £ Rn).
L íio t J
Заметим, что, вообще говоря, d-f (xo) С d-f (xo) и d+f (xo) С d+f (xo) (см. [23]).
Лемма 3. Нижний (верхний) субдифференциал Фреше положительно однородной функции в нуле совпадает с нижним (верхним) субдифференциалом Гато.
< Пусть h : Rn ^ R — положительно однородная функция. Несложно заметить, что для любых g £ Rn и t > 0
h(üra - tg) - h(ora) = thg) = h( ) t t (g)'
Таким образом, нижний и верхний субдифференциалы Гато функции h в нуле принимают вид
d-h(0„) = {v £ Rn | h(g) ^ (v, g) Vg £ Rn}, d+h(0„) = {v £ Rn | h(g) < (v, g) Vg £ Rn},
что совпадает с представлениями для нижнего и верхнего субдифференциалов Фреше положительно однородной функции (см. [25], Предложение 1.9). >
Из леммы 3 немедленно следует, что утверждение, аналогичное утверждению теоремы 2, выполняется для нижних и верхних субдифференциалов Гато. Следующая лемма может быть доказана аналогично лемме 1.
Лемма 4. Пусть фукция f : X ^ R дифференцируема по направлениям в смысле Дини в точке xo £ Rn. Положим h(g) = f'(xo; g) для всех g £ Rn. Тогда
d¿f (xo ) = d-h(ün); d+f (xo) = d+h(0n). (18)
Из вышеизложенного результата очевидно, что нижние и верхние субдифференциалы Гато дифференцируемой по направлениям в смысле Дини функции могут быть выражены и изучены посредством верхних и нижних экзостеров. Результат, подобный результату леммы 2, может быть также получен для дифференцируемой по направлениям в смысле Дини функции и субдифференциалов Гато.
5. Субдифференциал Кларка
В 1973г. Ф.Кларк ввел понятие обобщенного градиента (см. [16, 6]).
Пусть X — открытое множество в Rn и пусть f : X ^ R, x £ X, g £ Rn. Положим
т 1
fci(x;g) = limsup -[f (x' + ag) - f (x')j, (19)
/С(ж; д) = Ит^ 1 [/(ж' + ад) - / (ж')]. (20)
[а,х'Н[+0,х] а
Величина /¿г (ж; д) называется верхней производной Кларка функции / по направлению д, а величина /¿(ж;д) называется нижней производной Кларка функции / по направлению д. Отметим, что пределы в (19) и (20) существуют всегда (хотя могут принимать бесконечные значения). Функции /¿г(ж; д) и /С(ж; д) положительно однородны по д. Если / локально липшицева, то эти значения конечны. Рассмотрим этот случай более подробно.
Итак, пусть функция / локально липшицева на X. Тогда / почти везде дифферен-цирема. Через Т(/) обозначим множество точек дифференцируемости функции /. Множество Т(/) является множеством полной меры. Положим
д3н/(ж) = {V £ Я" | 3{ж&} : ж^ £ Т(/), ж^ ^ ж, /'(ж*) ^ V}. (21)
Это множество было введено Н. З. Шором в 1972 г. (см. [12]) и названо им множеством почти-градиентов. Это множество не обязательно выпукло. Множество
ды/(ж) = ео^ £ Я" | 3{ж&} : ж^ £ Т(/), ж^ ^ ж, /'(ж*) ^ V} (22)
называется субдифференциалом Кларка. Очевидно,
дс1 /(ж) = со дsh/(ж).
Это множество выпукло и компактно (в липшицевом случае). Любое V £ дс/(ж) называется обобщенным градиентом. Ф. Кларк доказал, что (см. [6])
/]С1(ж;д) = тах >,д) УС(ж;д)= ш1п, (23)
Нетрудно видеть, что условие
0п £ дс1/(жо) (24)
является необходимым для того, чтобы точка жо £ X была точкой локального или глобального минимума. Это же условие является необходимым для того, чтобы точка ж0 была точкой локального или глобального максимума. Точка жо £ X, удовлетворяющая (24), называется стационарной (в смысле Кларка) точкой. Таким образом, условие (24) не различает точки минимума и максимума.
6. Субдифференциал Мишеля—Пено
Ф. Мишель и Ж.-П. Пено в [26] предложили следующее обобщение производной по направлению:
/1р(ж; д) = вир \ Итвир — [/(ж + а(д + д)) - /(ж + ад)] 1. (25)
I а|0 а )
Будем называть эту величину верхней производной Мишеля-Пено функции / в точке ж по направлению д. Величина
/4»(ж; д) = ш£ \ ИтМ -[/(ж + а(д + д)) - /(ж + ад)Ц (26)
^ пС. Нп I гх I П СМ I
1
<?еяп I «|о а
называется нижней производной Мишеля-Пено функции / в точке х по направлению д. Если / локально липшицева, то существует выпуклое компактное множество дтр/(х) С й", такое, что
Л^хд) = тах >,д), ^Дхд) = т!п (ад,д). (27)
«€дтр/(х) адбдтр/(ж)
Напомним, что если функция / является дифференцируемой по направлениям, то дтр/(х) есть субдифференциал Кларка функции Н(д) = /'(х,д) в точке д = 0П. Множество дтр/(х) часто называют [24] малым субдифференциалом. Вообще говоря,
дтр/(х) С дс/(х), (28)
а в некоторых случаях
дтр/(х) = дс / (х). (29)
В то же время множество дтр/(х) сохраняет ряд свойств множества дс/(х). Например, условие
0" € дтр/(хо) (30)
является необходимым условием и минимума, и максимума. Условие (30), вообще говоря, сильнее условия (24).
В [18] было показано, что если функция / квазидифференцируемая (в смысле [3, 4]), то можно построить исчисление субдифференциалов Мишеля-Пено в терминах квазидифференциалов. В следующем пункте выводится формула для вычисления субдифференциала Мишеля-Пено в терминах экзостеров.
7. Субдифференциалы Кларка и Мишеля-Пено в терминах экзостеров
7.1. Полиэдральный случай. Пусть функция Н положительно однородная и лип-шицевая. Как отмечалось выше, Н может быть представлена в формах (9) и (10). Вначале рассмотрим представление (9). Положим
д(д) = {С € Е* | Н(д) = тах(^ д)}, (31)
«66
Не (д) = тах(^,д), (32)
«66
Тогда
Vg(C) = {w G C | (w,g) = he(g) = max(v,g)}. (33)
veC
h(g) = min max(v,g) = min max (w,g) = min(w,g) Vg G (34)
cee vec ceQ(g) wev9(c) wee,
где
E* = clco{Vg(C) | C G Q(g)}. (35)
Теперь рассмотрим полиэдральный случай: предположим, что семейство E* содержит конечное количество множеств и каждое множество C G E* является многогранником. Тогда функция h дифференцируема по направлениям в каждой точке g G R*, причем
h'(g, q) = min max (w,q). (36)
K ' ceQ(g) weVg(C)v ,4J K J
Более того, для почти всех д множества ф(д) и (С) являются одноточечными, поэтому множество Е* тоже одноточечное: Е* = }. Это означает, что функция Н почти везде дифференцируема (ее дифференцируемость вытекает из липшицевости Н) и потому для почти каждого д существует градиент Н'(д) функции Н и Н'(д) = . Обозначим через Т(Н) множество точек дифференцируемости функции Н. Множество Т(Н) является множеством полной меры.
7.2. Общий случай. Снова положим
д(д) = {С £ Е* | Н(д) = тах^, д)}, (37)
-бС
Не (д) = тах^, д), (38)
-66
У,(С) = {ад £ С | Кд) = Не(д) = тах^,д)}. (39)
ибС
Тогда
Н(д) = тш max(v,g) ^ max(v,g) = Нс(д) Vд £ Я", VС £ Е*. (40)
СбЕ* ибС ибС
Для любого фиксированного С £ Е* функция Нс (д), как функция максимума, является дифференцируемой по направлениям, при этом
Н6(д,д) = тах (V, д) Vд £ Я". (41)
Функция Не (д) почти везде дифференцируема, т. е. множество УС (д) для почти всех д является одноточечным: УС(д) = ^с(д)}, где vc(д) £ Я".
Поскольку Н — липшицевая функция, то она почти везде дифференцируема и поэтому для почти каждого д существует градиент функции Н: Н'(д) = . Через Т(Н) обозначим множество точек дифференцируемости функции Н. Множество Т(Н) является множеством полной меры.
Зафиксируем до £ Т (Н). Возьмем произвольное С (до) £ ^(до), т. е. Н(до) = Не(ао)(до). Так как Н дифференцируема в точке до, то она дифференцируема по направлениям в этой точке до и
Н'(до,д) = (%о,д) Vд £ Я". (42)
Если точка до — точка дифференцируемости функции Не(ао)(д), то производная по направлениям функции Не(ао) в точке до равна
Н6(^о)(до,д) = ^с(^о)(до),д) Vд£ Я"• (43) Так как Н(д) ^ Нс(^о)(д) Vд£ Я"и Н(до) = Леы^ то
Н'(до,д) < Н6Ы(до,д) Vд £ Я". (44) Из (44), (42) и (43) вытекает
= ^до^ (45)
где v(gо) = Vе(g0) (до). В силу произвольности до заключаем, что = v(g). Это соотношение имеет место только в случае, когда д — точка дифференцируемости обеих функций,
Н и Нс(а).
Множество Т(Н) точек дифференцируемости функции Н является множеством полной меры. Для любого С £ Е* множество Т (Нс) точек дифференцируемости функции Нс тоже является множеством полной меры. Теперь предположим, что множество
Т* = р| Т(Нс) (46)
С бЕ*
является множеством полной меры (это предположение выполняется, например, если множество Е* счетное). Тогда Т(Н) ПТ* — множество полной меры. Из (45) следует, что
% = vс(а)(д) = v(g) для почти всех д. (47)
Замечание 1. Вместо множества Е* в (46) можно взять множество
и з(д) с Е*.
абТ (ь)
Замечание 2. Из определения Н ясно, что
С (Ад) = С (д), ^ (С) = У, (С), д(Ад) = д(А), Нс (Ад) = АНс (д), адл, = vс(лg)(Аg) V А > 0.
Поэтому можно рассматривать только д из единичной сферы.
7.3. Субдифференциалы Кларка и Мишеля—Пено. Известно (см. [6]), что множество
0с1 Н(0") = с1 сс{^ | д £ Т(Н)} (48)
является субдифференциалом Кларка функции Н в точке 0га. Используя соотношение (47), можно выразить субдифференциал Кларка функции Н в 0га конструктивно в терминах точек V,.
Если функция / : Я" ^ Я липшицева и дифференцируема по направлениям в точке ж £ Я", а Н(д) — ее производная по направлениям в точке ж, то дсгН(0га) является субдифференциалом Мишеля-Пено (см. [26]) функции / в точке х:
дтр/(х) = дсгН(0") = с1 сс{^ | д £ Т(Н)} С дс1 / (ж). (49)
Итак, субдифференциал Мишеля-Пено функции / в точке ж может быть построен с помощью верхнего экзостера производной по направлениям Н(д) = /'(х,д). В некоторых случаях (см. [4]) субдифференциал Мишеля-Пено совпадает с субдифференциалом Кларка.
Замечание 3. Аналогичные результаты (с необходимыми изменениями) можно получить, если использовать представление (10) вместо (9). В этом случае используется нижний экзостер Е*.
Замечание 4. Выше в пунктах 4 и 7 было показано, что экзостеры тесно связаны с другими негладкими инструментами, такими как субдифференциалы Мишеля-Пено, Кларка, Гато и Фреше. Отметим, что выведенные отношения имеют вид равенств, т. е. получено исчисление упомянутых субдифференциалов.
Замечание 5. Для квазидифференцируемых функций формула для субдифференциала Мишеля-Пено была получена (см. [18]) с помощью —разности, введенной в [2]. Формула (49) является обобщением этой формулы на случай произвольной дифференцируемой по направлениям функции.
Литература
1. Демьянов В. Ф., Малоземов В. Н. Введение в минимакс.—М.: Наука, 1972.—368 с.
2. Демьянов В. Ф. О связи между субдифференциалом Кларка и квазидифференциалом // Вестник Ленинградского ун-та.—1980.—Т. 13.—C. 18-24.
3. Демьянов В. Ф., Рубинов А. М. Элементы квазидифференциального исчисления // Негладкие задачи теории оптимизации и управления.—Л.: Изд-во Ленингр. ун-та.—1982.—C. 5-127.
4. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление.—М.: Наука, 1990.—432 с.
5. Демьянов В. Ф. Условные производные и экзостеры в негладком анализе // Докл. РАН.—1999.-Т. 338, № 6.—С. 730-733.
6. Кларк Ф. Оптимизация и негладкий анализ.—М.: Наука, 1988.—288 с.
7. Кусраев А. Г., Кутутеладзе С. С. Субдифференциальное исчисление.—Новосибирск: Наука, 1987.— 224 с.
8. Кусраев А. Г., Кутутеладзе С. С. Субдифференциалы. Теория и приложения.—Новосибирск: Наука, 1992.—270 с.
9. Мордухович Б. Ш. Методы аппроксимации в задачах оптимизации и управления.—М.: Наука, 1988.—360 с.
10. Пшеничный Б. Н. Выпуклый анализ и экстремальные задачи.—М.: Наука, 1980.—320 с.
11. Рокафеллар Р. Выпуклый анализ.—М.: Мир, 1973.—472 с.
12. Шор Н. З. О классе почти-дифференцируемых функций и одном методе минимизации функций этого класса // Кибернетика.—1972.—№ 4.—С. 65-70.
13. Bazaraa M. S., Goode J. J., Nashed M. Z. On the Cones of Tangents with Applications to Mathematical Programming // J. of Optimization Theory and Applications.—1974.-V. 13, № 4.—P. 389-426.
14. Borwein J. M., Zhu Q. J. A survey of subdifferential calculus with applications // Nonlinear Anal. Ser. A: Theory and Methods.—1999.—V. 38, № 6.—P. 687-773.
15. Castellani M. A dual characterization for proper positively homogeneous functions // J. of Global Optimization.—2000.—V. 16.—P. 393-400.
16. Clarke F. Generalized gradients and applications // Trans. Amer. Math. Soc.—1975.-V. 205, № 2.— P. 247-262.
17. Demyanov V. F. Exhausters and Convexificators - New Tools in Nonsmooth Analysis // In: V. Demyanov and A. Rubinov (Eds.) Quasidifferentiability and related topics.—Dordrecht: Kluwer Academic Publishers, 2000.—P. 85-137.
18. Demyanov V. F., Jeyakumar V. Hunting for a smaller convex subdifferential // J. of Global Optimization.—1997.—V. 10, № 3.—P. 305-326.
19. Demyanov V. F., Roshchina V. A. Constrained optimality conditions in terms of proper and adjoint exhausters // Applied and Computational Mathematics (Azerbaijan National Academy of Sciences).— Baku, 2005.—V. 4, № 2.—P. 25-35.
20. Demyanov V. F., Roshchina V. A. Optimality conditions in terms of upper and lower exhausters // Optimization.—2006.—V. 55, № 5/6.—P. 525-540.
21. Demyanov V. F. Exhausters of a positively homogeneous function // Optimization.—1999.—V. 45.— P. 13-29.
22. Demyanov V. F., Rubinov A. M. Exhaustive families of approximations revisited // In: R. P. Gilbert, P. D. Panagiotopoulos, P. M. Pardalos (Eds.) From Convexity to Nonconvexity. Nonconvex Optimization and Its Applications.—2001.—V. 55.—P. 43-50. (Dordrecht: Kluwer Scientific Publishers).
23. Guo X. Characteristics of subdifferentials of functions // Appl. Math. Mech.—1996.—V. 17, № 5.— P. 445-450.
24. Ioffe A. D. A Lagrange multiplier rule with small convex-valued subdifferentials for nonsmooth problems of mathematical programming involving equality and nonfunctional constraints // Math. Programming.—1993.—V. 58.—P. 137-145.
25. KrugerA. Ya. On Frechet subdifferentials // J. of Math. Sciences.—N. Y., 2003.—V. 116, № 3.—P. 33253358.
26. Michel P., Penot J.-P. Calcus sous-differential pour les fonctions lipschitzienness et non-lipschitziennes // C. R. Acad. Sc. Paris. Ser. I.—1984.—V. 298.—P. 269-272.
27. Mordukhovich B. S. Necessary conditions in nonsmooth minimization via lower and upper subgradients // Set-Valued Anal.—2004.—V. 12, № 1-2.—P. 163-193.
28. Mordukhovich B. S. Variational analysis and generalized differentiation I. Basic theory.—Berlin: Springer-Verlag, 2006.—xxii+579 p.
29. Roshchina V. On the relationship between the Frechet subdifferential and upper exhausters //
International Workshop on Optimization: Theory and Algorithms. 19-22 August 2006, Zhangjiajie, Hunan, China.
30. Uderzo A. Convex approximators, convexificators and exhausters: applications to constrained extre-mum problems // In: V. Demyanov and A. Rubinov (Eds.) Quasidifferentiability and related topics.-Dordrecht: Kluwer Academic Publishers, 2000.—P. 297-327.
Статья поступила 20 декабря 2006 г. Демьянов Владимир Федорович, д. ф.-м. н.
Санкт-Петербург, Санкт-Петербургский государственный университет E-mail: vfd@ad9503.spb.edu
РощинА Вера Алексеевна
Hong Kong, City University of Hong Kong, Department of Mathematics E-mail: vera.roshchina@gmail.com
