CC BY
26
УДК 517.9
Е. С. Половинкин
Московский физико-технический институт (государственный университет)
О некоторых свойствах производных многозначных
отображений
В работе исследованы новые классы производных от многозначных отображений, получены формулы их вычисления, установлены взаимосвязи с другими производными. Изучены свойства различных эпипроизводных и гипопроизводных и субдифференциалов от произвольных функций. Получены субдифференциальные свойства функции, представимой в виде разности двух выпуклых функций.
Ключевые слова: касательный конус, производная Абена многозначного отображения, производная Кларка, производная Пено, эпипроизводные функций, гипопроиз-водные функций, субдифференциал.
1. Введение
Проблему дифференцирования многозначных отображений F : X ^ V(Y) (где V(Y) - множество всех подмножеств некоторого банахова пространства Y) исследовали многие ученые, начиная со второй половины двадцатого века. Проблема состояла в том, что V(Y) не является линейным пространством. Тем не менее первоначальные подходы к дифференцированию многозначных отображений строились по аналогии с тем, как это делается для функций (см., например, [1,2]).
Примеры аппроксимаций многозначных отображений около некоторой точки графика через касательные конусы были предложены в работах De Blasi F.S. [3], Б.Н. Пшеничного [4] и В.Ф. Демьянова - A.M. Рубинова [5]. Впервые понятие производной многозначного отображения, опирающееся на понятие касательного конуса к графику отображения, было введено в работах Ж.-П. Обена и автора (см., например, [6-9]).
В данной работе предложены новые классы производных с выпуклыми графиками от многозначных отображений. Установлены явные формулы вычисления новых производных, а также формулы вычисления эпипроизводных и гипопроизводных, эписубдиффе-ренциалов и гипосубдифференциалов функций как для общего случая, так и в случаях псевдолипшицевых многозначных отображений. Получены свойства и условия совпадения различных субдифференциалов для функций, пред ставимых в виде разности двух выпуклых функций.
2. Касательные конусы
Напомним основные определения. Пусть X,Y — банаховы пространств а. Через V (Y) будем обозначать множество всех подмножеств пространства Y, а через K(Y) (J(Y)) — метрическое (топологическое) пространство, состоящее из компактов (непустых замкнутых подмножеств) из пространства Y с хаусдорфовым расстоянием h(■, ■) (с соответствующей топологией). Расстоянием по Хаусдорфу между множествами А, В С X называется
h(A, В) = inf{г ^ 0 | А С В + Вг(0), В С А + Вг(0)},
где Br(а) = {х е X | Цх — а|| < г} — открытый шар радиуса г > 0 с центром в точке а. Произведение на число, сумма, и ра,зност,ь Минковского определяются по формулам: \А = {х е X | х = а е А}, А + В = {х е X | х = а + b, а е А,Ъ е В}, А — В = {х е X I х + В С A}. q(x,A) = inf{||ж — уЦ | у е А} - расстояние от, точки до множества. Конусом называется всякое непустое множество Т0 С X, v которого для каждого х е То справедливо включение Хх е То при всех Л > 0.
Напомним, что совокупность всех векторов, касательных к множеству А в некоторой точке а образуют следующий конус (см. [4,12]).
Нижним касательным конусом ко множеству А С X в точке а £ А называется нижний топологический предел вида
Л _ ß
Тн(А; а) = lim inf = [v £ X | lim q(v, A-1(A - а)) = 0}.
л
Следуя Булигану (G. Bouligand) [10] и Кларку [11], получаем другие конусы.
Верхним касательным, конусом (иначе называют,: контингентным конусом или конусом Булигана, (см,. [12, 14])) ко множеству А С X в точке а £ А называется верхний топологический предел вида
Д _ ¡2
Тв(А; а) = limsup—-— = [v £ X | liminf q(v, X-1(A - a)) = 0}.
A|0 А M0
Касательным конусом Кларка ко множеству А С X в точке а £ А называется
л_™
Тс(А; а) = liminf = [v £ X | lim q(v, \-1(А - х)) = 0},
где стремление х ^ а совершается по множеству А.
Очевидны включения Тс (А; а) С Тн (А; а) С Тв (А; а). Если же множество А выпукло (или локально выпукло), то имеет место равенство всех указанных конусов.
Важнейшим свойством касательного конуса Кларка Тс (А; а) является его выпуклость (см., например, [11])- Недостатком касательного конуса Кларка является его малость по сравнению с нижним и тем более с верхним касательным конусом. Недостатком нижнего и верхнего касательных конусов является отсутствие гарантированной выпуклости.
Для устранения последнего недостатка в работе [8] был указан алгоритм, по которому во всяком касательном конусе можно выбрать выпуклый подконус.
Лемма 1. [8] Для всякого замкнутого конуса Т0 множество Т0 — Т0 является его выпуклым, замкнутым подконусом. В случае, когда, замкнутый конус Т0 является выпуклым,, то справедливо равенство Т0 = Т0 — Т0.
В результате приходим к следующим понятиям, являющимся уточнением понятий, введенных в работах [8,15].
Определение 1. Первым асимптотическим нижним (первым асимптотическим верхним) касательным конусом ко множеству А в точке а £ А называется множество
TÄHi(A; а) = Тн(А; а) — Тн(А; а) (Tabi(A; а) = Тв(А; а) — Тв(А; а)).
Определение 2. Вторым асимптотическим нижним касательным конусом ко множеству А в точке а £ А называется множество Тан2(А; а) = Тан1(А; о) П Тав1(А; а).
Определение 3. Вторым асимптотическим верхним касательным конусом ко множеству А в точке а £ А называется множество Тав2(А; а) = Тан1(А; а) + Тав1(А; а).
Аналогично работе [8] доказывается
Теорема 1. Конусы Тан1(А; а), Тан2(А; а), Тав1(А; а) и Тав2(А; а) выпуклы, и замкнуты. При этом справедливы включения
танМ; а) С Тн(А; а), ТАВ1(А; а) С Тв(А; а),
Тс(А; а) С ТАН2(А; а) С ТАНМ; а) С ТАВ2(А; а) С Тв(А; а),
причем включения могут быть строгими.
Последнее утверждение продемонстрируем на примере.
Пример 1. Рассмотрим множество А = epif = [(х,у) £ R2 | у ^ f (х),х £ [-2, 2]}, т.е. А есть надграфик некоторой функции /. Здесь функция f (х) = 0 при всех х £ [-2, 0]
и f (2) = —2. На отрезке [0, 2] функция f является непрерывной ломаной линией, заключенной между лучом у = — х и лучом у = — tg(^/10) ж при ж ^ 0. При этом отрезки каждой ломаной имеют одинаковые по абсолютной величине углы наклона к оси 0ж, равные arctg 10, причем при монотонном vбывании ж от 2 до 0 знаки величин углов чередуются, начиная с минуса. Введем обозначение
К (а, Р) = {(х,у) Е R2 | х = г cos р, у = г sin p,r ^ 0, р Е [а,@ ]}.
Тогда касательные конусы ко множеству А в точке а = 0 удовлетворяют равенствам: Тн (А;0) = К (—ж/10, эт), Тв (А; 0) = К (—ТАН i(A;0) = ТАВ2(А;0) = К (0, 9эт/10), Тан 2(4; 0) = Таш(А;0) = К (0, 3эт/4) и Тс (Л;0) = К (arctg 10,-к — arctg 10).
В дальнейшем для краткости каждый касательный конус будем обозначать общим символом ТВ(А; а), где индекс L соответственно принимает одно из значений {В,Н,С,АН 1, АН 2,АВ1,АВ2}.
3. Производные от многозначных отображений
Для каждого касательного конуса, следуя [6,7], можно определить соответствующую производную от многозначного отображения, которую будем называть аналогично названию конуса, т.е. верхней (В), нижней (Н), Кларка (С) и т.д. производной.
Определение 4. Пусть L Е {В, Н, С, АН 1, АН2, АВ1, АВ2}. L-производной от отображения F: X ^ V(Y) в точке z = (ж, у) Е graphF С Z = X х Y называется отображение DlF (z) : X ^ V (У) вида DLF (z)(u) = {v Е Y | (u,v) Е TL(graphF; z)}, u Е X.
Как обычно, определяем domDBF(z) = {u Е X | DBF(z)(u) = Щ.
Из определения 4 и теоремы 1 получаем для V и Е X включения
DeF(Z)(u) С Dah2F(z)(u) С Dah1F(z)(u) С DAB2F(z)(u) С DBF(z)(u), (1)
DAB1F(z)(u) С Dab2F(z)(u), DahiF(z)(u) С DHF(z)(u) С DBF(z)(u).
Напомним некоторые свойства производных многозначных отображений.
Предложение 1. Для отображения F: X ^ V(Y) в точке z0 = (х0,у0) Е graphF верхняя, нижняя производные и производная Кларка удовлетворяют равенствам
DBF(zo)(u) = {v Е Y I liminf qy(v, X-1(F(xo + Xx) — yo)) = 0}, (2)
\,x:
—yu
DHF(zo)(u) = {v Е Y I lim(liminf qy(v,X-1 (F(xo + Xx) — yo))) = 0}, (3)
A|0 x—уа
DCF (z0)(u) = liminf (limsup X-1(F(x + Xu) — y)). (4)
X,(x,y): u—u
Для отображения F: X ^ V(Y), точки zo = (xo,yo) E graphF и произвольных чисел а\ > 0 а2 > 0 определим отображение (где а = (а\, а2)):
Fa : Ва1 (xo) ^V(Y), Fa(x)=F(ж) П Ва2(yo). (5)
Предложение 2. Для отображений F: X ^ V(Y) ш Fa: X ^ V(Y) из (5) при всех L E {В,Н,С,АН 1, АН2, ABl, АВ2} справедливы равенства
DlF(zo)(u) = DLFa(zo)(u), Уu E X.
Определение 5. Отображение F: X ^ V(Y) называется псевдолипшицевым [16]
около точки z0 = (х0,у0) E X х Y, если существуют числа а\ > 0 а2 > ß(y0, F(ж0)) и число I > 0 такие, что для всех х\,х2 E Ва1 (xo) справедливо включение
F(ж:) П Ва2 (yo) С F(х2) + l\\Xl - х2 \\В\(0).
Если в определении 5 а2 = то отображение F называется липшицевым в окрестности ТОЧКИ Xq.
Предложение 3. Пусть отображение F: X ^ V(Y) псевдолипшицево около точки z0 = (х0,уо) G graphF. Тогда для любого и G X справедливы формулы
DBF(zo)(u) = limsup X-1(F(xq + Xu) - yo), (6)
DHF(zq)(u) = liminf X-1(F(xq + Xu) - yo), (7)
X\.0
DcF(zo)(u) = liminf X-1(F(x + Xu) - y)).
\,(x,y):
,m , NgraphF A^U, (x,y) ^ zо
Приступим к вычислению новых производных.
Предложение 4. Для отображения F: X ^ V(Y) в точке Zo = (xq,yo) G graphF первая асимптотическая нижняя (первая асимптотическая верхняя) производная вычисляется по формуле
DahiF(zo)(u) = П [DHF(zq)(u + u) * DHF(zq)(u)], uEdomDn F (z0)
(DabiF(Zq)(U)= f| [DbF(Zq)(U + u) * DBF(Zq)(U)]).
uEdomDg F(z0)
Теорема 2. Пусть от,обра,жение F: X ^ F(Rm) удовлетворяет условию псевдо-липшицевости в точке z0 = (х0,у0) G graphF с константой I > 0. Тогда множества DBF(z0)(u) не пусты при всех и G X, а отображение и ^ DBF(z0)(u) удовлетворяет условию Липшица, с той же константой I > 0.
Доказательство. По определению 5 найдутся числа ai > 0 и > 0 такие, что отображение F удовлетворяет условию псевдолипшицевости в точке графика Zo = (xo,yo) на множестве Ва1 (х0). Пусть и G X и 5 > 0 такие, что ^ а^ Для всех A G (0,6) определим функцию по формуле р(Х) = g(yo,F(xo + Хи,)). В силу псевдолипшицевости получаем включения у0 G Fa(x0) С F(х0 + Хи) + Х1!и!В1(0), го которых следует, что р(Х) < Ai||«||. Выберем произвольную точку f (X) из непустого множества
F(xq + Хи) П (yo + р(Х)В1(0)).
Получаем следующие неравенства:
у(X) - уоЦ < р(Х) < 1ХЦиЦ,
откуда следует неравенство A-1 Hf(X) - у0Ц ^ ЩиЦ при всех A G (0,£). Следовательно, существует последовательность Xk I 0 такая, что последовательность Vk = X-1(f (Xk) - у0) сходится к некоторому вектору v. Так как Vk G X-1(F (х0 + Xk и) - у0), то получаем, что v G DBF(z0)(u). Итак, domDBF(z0) = X.
Пусть теперь и1,и2 G X и v1 G DBF(z0)(u1). Докажем, что существует v2 G DBF(z0)(u2) такой, что Ць2 - ^ 1Ци2 - И1Ц. Это и будет означать выполнение условия Липшица для отображения и ^ DBF(z0)(и). Пусть число ^ > 0 таково, что ^ a1t ^ a1t
^Н^Н ^ При каждом A G (0,определим (р(Х) = д(у0 + Xv1 ,F(х0 + Хи2)), а также ф(Х) как произвольную точку из множества F(х0 + Хи2) П (у0 + Xv1 + ^(А)Б1(0)). Так как v1 G DBF(z0)(u1), то существуют Xk I 0 и Wk G X-1(Fa(x0 + Xku1) - y0) такие, что lim^^ Wk = v^ Т.е. справедливы включения y0 + Xk Wk G Fa(x0 + Xk u1) при всех k G N. Тогда в силу псевдолипшицевости yo + XkV1 G
G Xk(V1 - Wk) + Fa(xo + XkU1) С F(xo + XkU2) + Xk(||^1 - wk|| + 1Ци1 - U2DB1 (0).
Отсюда получаем неравенство р(Хк) < Хк— ^к|| + 1\\и1 — и2\). В итоге получаем включения
КлШк) - Уо) е vi + 1<р(\к)Вг(0) с ы + (1\\т - U2\\ + \\wk - vi\\)Bi(0),
означающее ограниченность последовательности {Хк 1(ф(Хк) — у0)}• Следовательно, v неё найдётся предельная точка , которая удовлетворяет включению е Vi + l\\ui - U2\\Bl(0), а из определения функции ф(Х) принадлежит множеству DBF(zo)(u2)-
Следствие 1. Пусть отображение F: X ^ V(Rт) и точка, z0 = (х0,у0) таковы, что график graphF является локально замкнутым и локально выпуклым, множеством в точке z0 е graphF, причём х0 е domF. Тогда для любого и е X множества, DBF(z0)(u), VL е {В, Н, С, АН 1, АН2, ABl, АВ2} непусты, равны между собой, вычисляются по формулам (6) или (7), а отображение и ^ DBF(z0)(u) удовлетворяет условию Липшица.
4. Эпи- и гипопроизводные функций
На основе определённых в п. 1 касательных конусов можно вводить различные аппроксимации произвольных функций. Для этого мы введём понятия L-производных скалярной функции f:X ^ R по направлениям и L-субдифференциалов этой функции по аналогии с тем, как это делали Р.Т .Рокафеллар [17], Ф. Кларк [18] для касательного конуса Кларка, а также Ж.-П. Обен [6] для контингентного (т.е. верхнего касательного) конуса.
Напомним, что эффективным, множеством скалярной функции f:X ^ Rl (где Rl = = Rl Uназывается множество domf = {х е X | f (х) = надграфиком («эпи-
графиком») функции f:X ^ Rl называется множество
epif = {(х, а) е X х R | а ^ f (х), х е domf},
подграфиком, («гипографиком») функции f:X ^ Rl называется множество
hypof = {(х, а) е X х Rl | а ^ f (х), х е domf}.
Определение 6. Для всякой функции f:X ^ Rl и для всякого L е {В, Н, С, АН l, АН2, ABl АВ2} L-эпипроизводной (L-гипопроизводной) функции f: X ^ Rl в точке Хо е domf по направлению и е X называется величина
D+f (хо)(и) = inf{а е Rl | (и, а) е TL(epif; (хо, f Ы))},
(Dl f (хо)(и) = sup{a е Rl | (и, а) е Ti(hypof; (хо, f (хо)))}). Отсюда и в силу полученных ранее формул (2), (3), (4) получаем
DBf (хо)(и) = lim inf A" l(f (хо + Xu) - f (хо)), D~+ f (хо)(и) = limsup(liminf A"l(f (хо + Xu) - f (хо))), D+ f (хо)(и) = limsup A"l(f (x + Xu) - f (x))).
Х,х,й:
A^0,Ü—YU,X—
Если же функция f: X ^ Rl является липшицевой в окрести о сти точки хо, то в силу предложения 3 формулы для эпипроизводных этой функции принимают вид
D+f (хо)(и) = lim inf A" l(f (хо + Xu) - f (хо)), (8)
dhf (хо)(и) = limsup A l(f (хо + Xu) - f (хо)), (9)
А^о
D+f(х°)(и) = lim sup X-i(f (х + Xu) - f (x)), (10)
\,x:
причем первые две хорошо известны в теории функций под названием нижней и верхней производных Дини (см., например, [5]).
Замечание. В случае, когда эпипроизводные функции по данному направлению и совпадают, т.е. D+ f (х°)(и) = f (х°)(и), говорят, что существует классическом производная функции по направлению, которую обозначают f '(х°,и) = lim Л-1 (f (x°+\u)-f (х°)).
A\.0
Например, v любой выпуклой функции в точке х° Е domf существует (быть может, равная классическая производная по любому направлению. Полагая, что функция /: X ^ R1 удовлетворяет условию Липшица в окрестности точки xq Е dorn/, вычислим значения эпипроизводных D+Hif(хо)(и), D+Bif(хо)(и), D+H2f (хо)(и), D+B2 f (xo)(u) и сравним их с гипопроизводными.
В силу того, что надграфик отображения D+Hif (ж°) : X ^ R1 является выпуклым замкнутым конусом, пред ставимым по определению 1 в виде разности Минковского нижнего касательного конуса (ко множеству epif) с самим собой, и так как нижний касательный конус к epif является надграфиком функции и ^ f (хо)(и), то, следуя работе [12], получаем, что функция и ^ D+Hif (хо)(и) является «эииразностью» функции и ^ f (хо)(и) с собой, и в силу предложения 4.8.1 из [12] получаем формулу
D+Hif (хо)(и) = sup(D+ f (хо)(и + w) - D+ f (xq)(w)), (11)
wex
т.е.
D+Hif (хо)(и) = sup|limsup(A-i(/(хо + X(u + w)) - f (хо)))-wex A^o
- limsup(X-i(f (xo + Xw) - f (жо)))} <
< sup|limsup(A-i(/(x0 + X(u + w)) - f (x0 + Xw)))}. (12)
wex A^o
Последняя верхняя оценка для D+hif(xo)(u) является выпуклой и положительно однородной функцией, задающей иную аппроксимацию функции f. Эта аппроксимация была получена Ж.-П. Пено (J.-P. Penot) в работе [19], в силу чего функцию
D+f (хо)(и) = sup|limsup(A-i(/(х0 + Х(и + w)) - f (х0 + Aw)))} (13)
wex A^o
называют P- эпипроизводной или эпипроизводной Мишеля-Пено от липшицевой функции f в точке хо ^о направлению и,.
Кроме того, формула (13) означает, что для любого числа е > 0 найдется точка w£ Е X такая, что справедливы неравенства
D+f (хо)(и) < limsup(A-i(/(хо + Х(и + ws)) - f (xq + Xw£))) + £ =
AJ.0
= lim sup (t-i(f (x0 + tw£ + tu) - f (x0 + tw£))) + e <
A4° 0<t<A
< lim sup sup (t-i(f (x + tu) - f (ж))) + e = D+f (x°)(u) + e.
A4° 0<t<A ||ik-iko||<A||w£||
В силу произвольности £ > 0 и из (12) получаем, что
D+HifЫ(и) < D+f(х°)(и) < D+f(х°)(и), У и Е X. (14)
Аналогично тому, как получили формулу (11), получаем формулу для D+Bif(х°)(и) вида
D+Bif (х°)(и) = sup (D+f (х°)(и + w) - D+f (x°)(w)), (15)
we x
откуда следует, что
DABif(x°)(u) = sup|liminf(A i(f(x° + X(u + w)) - f(x°)))-
ex
w
- liminf (\~1 (f (xq + Xw) - f (a*)))} <
x\.o
< sup|limsup(A-1(/(x0 + X(u + w)) - f (x0 + Xw)))} = D+f (x0)(u). (16)
wex A^o
Последнее неравенство следует из того, что для любых функций д, h справедливо неравенство liminf(g(A) + h(X)) < liminf д(Х) +limsuph(X). A^0 A^0 Л|о
Из определения 2 конуса Тан2(А; а) немедленно следует формула
DAH2f (xo)(u) = max(DXmf (xo)(u); D+mf (xo)(u)). (17)
Из неравенств (14), (16) и формулы (17) получаем неравенство: D+H2f(xo)(u) < D+f(xo)(u).
Опишем теперь эпипроизводную D+^f(xo)(u). По определению 3 надграфик этой функции u ^ D+mf(xo)(u) является суммой Минковского двух выпуклых конусов, каждый из которых является надграфиком некоторой выпуклой функции. Получаемая таким образом функция в выпуклом анализе называется инфимальной кошолюцией (см., например, [20]). Первая из двух функций есть функция и ^ D+H1f (хо)(и), а вторая и ^ D+B1f (xo)(u). Используя свойства инфимальной конволюции, получаем, что значения D+B2<f (Xo )(и) вычисляются по формуле
D+B2f (xo)(u) = inf(D+B1f (xo)(v) + D+H J(xo)(u - v)). (18)
vex
Аналогично вычислению эпипроизводных для липшицевой функции f:X ^ R получаются формулы для ее гипопроизводных.
D—f (xo)(u) = limsup X-1(f (xo + Xu) - f (xo)), (19) A^o
D~hf (xo)(u) = liminf X-1(f (xo + Xu) - f (xo)), (20)
D—f (xo)(u) = liminf X-1(f (x + Xu) - f (x)), (21)
X,x:
D-hif (xo)(u) = mf(D-f (xo)(u + w) - D—f (xo)(w)) > (22)
wex
> inf |liminf(A-1(/(xo + X(u + w)) - f (xo + Xw)))} = D-f (xo)(u), (23)
wex A^o
причем последняя формула задает Р-гипопроизводную (или гипопроизводную Мишеля-Пено) этой функции в точке Xo по направлению и,, которая была введена Ж.-П. Пено в работе [19]. Аналогичным образом получаем
D—n2 f (xo)(u) = min(D-H J(xo)(u);; D~-B1f (xo)(u)), (24)
D~-B2f (xo)(u) = sup(D-mf (xo)(v) + D—h J(xo)(u - v)), ve x
где
D-Bif (X°)(v) = inf (D—f(x°)(v + w) - D—f(x°)(w)) > D-f(x°)(v), (25)
we x
так как для любых функций д, h справедливо неравенство
limsup(g(A) + h(X)) > limsupд(Х) + liminf h(X). A|0 A|0 A4°
Из выражений (23), (24) и (25) следует, что (хо)(и) > Ир/(х0)(и) при всех и € X.
Лемма 2. Для любой функции /; X ^ М1, липшицевой в окрест,пост,и тючки хо € (1ош/, и для любого Ь € {С,Р,АН 1,АН2, АВ1,АВ2} каждая функция и ^ 0+ /(х0)(и) (или функция и ^ Ир /(х0)(и)) является положительно однородной и выпуклой (или вогнутой) функцией.
Доказательство очевидно следует из того, что надграфик (или соответственно под-график) этой функции является выпуклым конусом.
Лемма 3. Для липшицевых функций их эпи- и гипо-производные по любому направлению и € X удовлетворяют, равенствам
ОН / (хо)(и) = Б-/(хо)(и), (хо)(и) = БН / (хо)(и), (26)
ВАН1/(хо)(и) = (xо)(—u), 0+-1 / (хо)(и) = —В~АН 1/(xо)(—u), (27)
(хо)(и) = —Б1 /(хо)(—и) УЬ € {С, Р, АН2, АВ2}. (28)
Доказательство. Первые два равенства в (26) очевидно следуют из формул (8), (9), (19) и (20). Из формул (11) и (25) легко получаем левое равенство (27), а из формул (15) и (22) легко получаем правое равенство (27). Из формул (10) и (21) для любого и € X, делая замену у = х + \и, докажем равенство в (28) при Ь = С:
(х0)(и) = Ншвир А" 1(/(х + \и) — /(х)) = — Ншт1 А" 1(/(х) — /(х + \и)) =
А,х: А,х:
Аф0,х^х0 АфО,х^хо
= — 1Ш1 м А"1(/(у — \и) — /(у)) = —Бс/(хо)(—и).
А ,у: Аф0,у^хо
Аналогично проверяются равенства в (28) при остальных Ь.
Определение 7. Для любого Ь € {Н,В,С,АН 1, АН2,АВ 1, АВ2,Р} скажем, что Ь-эписубдифференциалом (Ь-гипосубдифференциалом) функции /: X ^ М1 в точке Хо € (1ош/ называется следующее множество в сопряжённом с X пространстве X *:
д+/Ы = {Р € X* | (р,х) < Б+/(хо)(х), У х € X, },
(д1 /(хо) = {р € X* I (р,х) > /(хо)(х), Ух € X}).
Теорема 3. Для липшицевых функций их субдифференциалы, удовлетворяют, равенствам:
9+1 (хо) = 9С / (xо), д+/(хо) = др f (xо), д+н 1/(хо) = дАт/(xо), (29)
дНт1 (хо) = дАн 1/(xо), д+н^ (хо) = д~Ан2! (xо), д+В2 / Ы = дА-21 (хо). (30)
Доказательство. Равенства (29) и (30) легко следуют из равенств (28) и (27). Покажем это на примере субдифференциала Кларка:
д+/(хо) = {Р € X* I (р,х) < (хо)(х), Ух € X} =
= {р € X* I (р,х) < —Б^/(хо)(—х), У х € X} = = {р € X* I (р, —х) > БС}(хо)(—х), Ух € X} = }(хо).
Замечание. Из леммы 3 и теоремы 3 следует, что для изучения аппроксимаций липшицевых функций достаточно ограничиться рассмотрением лишь эпипроизводных и эпи-субдифференциалов этих функций.
Теорема 4. Для липшицевых функций справедливы соотношения
> (хо)(и) > (хо)(и) > В+Н2/(хо)(и) > > В+Н11 (хо)(и) > О+вЛ(хо)(и) > оу(хо)(и) > —ж. (31)
d+f (хо) D d+f (хо) D 9+я2/(хо) D 9+яJ(жо) D d+B2f (32)
причем каждая эпипроизводпая и каждый эписубдифференциал являются различными объектами, т.е. каждое из неравенств и каждое из включений могут быть строгими.
Доказательство. Неравенства (31) следуют из включения (1) и выражений (12) -(18), (23). Из неравенств (31) очевидно следуют включения (32). То, что эти неравенства и включения могут быть строгими, покажем на примерах 2 и 3.
Пример 2. Рассмотрим непрерывную функцию f : [-2, 2] ^ R1, описанную в примере 1. Из решения примера 1 получаем, что
D+f (0)(и) = 10М, V и G R1; if (0)(и) = 0, и > 0, D+mf (0)(и) = - tg( jo )и, и < 0; D+H2f(0)(и) = 0, и > 0, D+H2f(0)(и) = lui, и < 0; D+bJ(0)(и) = D+h2S(0)(и), V и G R1; D+B2Î(0)(и) = D+H1 f (0)(и), V и G R1.
Пример 3. Рассмотрим функцию f : [-1,1] ^ R1 такую, что f (х) = 0 при х G [-1, 0] и f (1) = -1. На отрезке [0,1] функция f является непрерывной ломаной линией, заключенной между лучами у = х и у = - ж, гада f (х) = (- 1)к+1(10х - 9хк ) при всех х G [хк+ъ Хк ], где Хк = (Ц)к и к = 0,1, 2,...
Для указанной функции легко получаем, что D+f (0)(и) = 10|w|, V и G R1; V+Hiï(0)(и) = и,V и > 0 D\h 1 f (0)(и) =0, V и< 0 D\mf (0)(и) = 0, V и > 0, D\mf (0)(и) = lui, V и < 0 D+H2f (0)(и) = lui, V и G R1; D+B2f (0)(и) = 0 V и G R1. В примерах 2 и 3 также справедливо равенство D+ f (0)(и) = D+f (0)(и), V и G R1, которое не совсем очевидно. Докажем его для примера 3. Покажем, что для каждого и G R1 можно подобрать точку w и последовательность Хп ^ 0 так, чтобы точки Хп(и, + w) и Хпw при каждом п G N лежади на одном отрезке ломаного графика функции f.
Если и > 0, то выбираем w и Хп > 0 из решения уравнений: Хп(и + w) = Х2п+1, Л-nW = Х2п+2, т.е. Хп = ^х2п+2; w = 9и. При этом D+f (0)(u) > lim X-1(f (0 + Xn(u + w)) - f (0 + Xnw)) = lim Л-1(ж2„+1 + Ж2„+2) = 10u =
= D+f (0)(u).
Если u < ^o выбираем w и Xn > 0 из решения уравнений:
Xn(u + w) = X2n+1, Xnw = X2n, т.е. Xn = uj^X2n; w = 11 lu]. При этом
D+f (0)(u) > lim X-1(f (0 + Xn(u + w)) - f (0 + Xnw)) lim Л-1(ж2„+1 + Х2П) = 10|u| =
= D+ f(0)(u). Учитывая, что обратное неравенство (14) всегда справедливо, получаем требуемое равенство.
То, что эпипроизводные Кларка и Пено могут отличаться, т.е. возможно строгое неравенство D+f(0)(u) > D+f(0)(u), покажем в следующем примере.
Пример 4. Рассмотрим функцию f : [-1, 2] ^ R1 такую, что f (х) = 0 при х G [-1, 0] и f (2) = j. На отрезке [0, ^] функция f является непрерывной ломаной линией, заключенной между параболой у = - х2 и парабол ой у = х2. При этом каждый отрезок ломаной имеет одинаковый по абсолютной величине угол наклона к оси 0х, равный причем при монотонном убывании х от 2 до 0 знаки величин углов чередуются, начиная с плюса.
Пусть (хо,х"0) = (1/2,1/4) — начальная верхняя угловая точка графика функции f, а (хп,х2п), п G N, — следующие по порядку справа налево верхние угловые точки графика функции f. Очевидно, что lim хп = 0. Пусть (zn, -z2n), n G N, — все нижние угловые
точки графика функции /, причем zn G [хп,хп-1], Vn G N. Для всякой точки хп точка zn+1 вычисляется по формуле zn+1 = (1/2)(-1 + д/1 + 4хп - 4х2п) = хп - 2х2п + о(х^), т.е.
хп - zn+1 = 2х2п - о(х2п). Анадогично получаем хп+1 = (1/2)(-1 + ^1 + 4zn+1 - 4z2n+1) =
= zn+1 - 2z"2+1 + o(z2+1), т.е. zn+1 - xn+1 = 2z"2+1 - o(z2+1). Тогда для любого и = 0, любого w G R1 и Хп ^ 0 получаем, что
lim X-1(f (0 + Хп(и + w)) - f (0 + Xnw)) < lim X-1(Xl(u + w)2 + X2nw2) = 0,
п^ж п^ж
a при w = 0 и Xn = du^^Xn получаем, что lim X-1(f (Xnu) - f (0)) = 0. В результате доказали, что D+f (0)(и) =0, V и G R1.
В свою очередь по формуле (10) для любого и > 0, выбирая последовательности К = (1/и)(х п — %п+1) — 0 и znнl — 0, получаем, что
и
Иш \п 1(/(гп+1 + ^пи) — /(гп+1)) = 1™ -(хП + гП+1) = и.
п^ж п^ж Хп — Хп+1
Аналогично, для любого и < 0 выбирая последовательности Хп = (1 /^^(Хп^ — Хп+1) — 0 и гп+1 — 0 получаем, что
Ы
Иш \п1 (/(гп+1 + Ки) — /(гп+1)) = 1™ -(х^1 + 4+1) = М.
п^ж п^ж Хп+1 — Хп+1
В итоге доказали, что Б+/(0)(и) = |«|, У и € М1.
Теорема 5. Пусть функция /: X — М1 удовлетворяет условию Липшица в некоторой окрест,ноет,и точки хо с константой I > 0. Тогда для любого Р € {С,Р,АН 1,АН2, АВ1,АВ2} функция и — (хо)(и) (и — Ир/(хо)(и)) является положительно однородной, выпуклой, (вогнутой), конечной, при всех и € X и удовлетворяющей условию Липшица, на, множестве X с той же константой I > 0.
Доказательство. Положительная однородность и выпуклость функции и — (хо)(и) следуют го вида ее надграфика. Определим отображение Р(х) = {у € М1 | у ^ /(ж)} и пусть чиело а > 0 таково, что функция /(■) удовлетворяет условию Липшица на множестве Ва(хо) с константой I > 0. Выберем произвольную точку и € X, и = 0. Тогда для любых точек (х,у) € ер\/ таких, что \\х — Жо|| ^ §, и чисел А € ^0, справедливы
неравенства
/(х + Хи) < /(х) + гА\М\ < у + Аг\М\.
Это означает, что 1\\и\\ € 1(Р(х + Хи) — у), что в силу предложения 3 эквивалентно включению 1\\и\\ € БсР(хо, /(хо))(и), или в иной записи — неравенству 1\\и\\ > (хо)(и).
С другой стороны, опять же из условия Липшица для всех А € ^0, щщ^ имеем неравенство —1\\и\\ < 1 (/(хо + Хи,) — f (хо)). Поэтому для любых е > 0 и А € ^0, щщ) получаем
д(—1\\и\\ — £, А" 1(Р(хо + Хи) — /(хо))) > е,
что в силу равенства (6) означает — 1\\и\\ — е € ^ВТ(хо, }(хо))(и,), или в иной записи — неравенство — 1\\и\\ — е < (хо)(и). В силу произвольности числа е > 0 и из неравенств (31) получаем для любого и € X неравенство
(хо)(и)1 < 1\\и\\, У Р € {С,Р,АН 1,АН2,АВ1,АВ2}.
Перепишем последнее неравенство для произвольных и,1 ,и,2 € X в виде
10+1' (хо )(и2 — и1)1 < 1\\и2 — щ\\. (33)
Так как функция и — (хо)(и) выпукла и положительно однородна, то получаем
(хо)(и2 — и{) < ЫЫ — В+!(хо)(и2) < Б+](хо)(т — и2). (34)
Объединяя неравенства (33), (34), получим утверждение теоремы.
5. Производные функций, представимых в виде разности двух выпуклых функций
В этом параграфе исследуется класс локальнолипшицевых функций, представимых в виде разности двух выпуклых функций. Как известно из выпуклого анализа (см., например, [12]), у таких функций существуют классические производные по направлениям.
Лемма 4. Пусть функция f:X ^ М1 в точке х0 £ domf имеет конечную классическую производную по направлениям, т.е. справедливо равенство
f(xo,u) = D+ f (хо)(и) = D+ f (хо)(и), Уи £ X. (35)
Тогда L-эпипроизводные D+ f (х0)(и) при L £ {АН 1,АН2, ABl, АВ2,Р} совпадают между собой при каждом, и £ X, и для, них справедлива, формула
D+f (хо)(и) = sup (f'(хо,и + w) — f (хо,w)). (36)
wex
Доказательство. В силу общих соотношений (31) достаточно доказать, что
D+Hif (хс)(и) = D+f (хо)(и), У и £ X.
Из формул (11) и (35) получаем формулу D+H1f(х0)(и) = sup(f (х0,и + w) — f (x0,w)).
wex
Из свойств предела имеем
f (хо,и + w) — f (xo,w) = lim X-1(f (хо + X(u + w)) — f (x0)) —
— lim X-1(f (x0 + Xw) — f (x0)) = lim X-1(f (x0 + X(u + w)) — f (x0 + Xw)). A40 A40
Отсюда и по формуле (13) следует равенство D+f (х0)(и) = D+h 1f (х0)(и).
Теорема 6. Пусть функция, f:X ^ М1 локальнолипшицева в окрестности точки х0 £ X и представима в этой окрест,ност,и в виде разности локальнолипшицевых выпуклых функций, т.е. f (х) = f1(x) — f2(x), где f1, f2 : В£(х0) ^ М1 — ограниченные выпуклые функции, причем для заданного и £ X одна, из функций fj., к £ l, 2, удовлетворяет равенству f'k(х0,и) + f'k(х0, —и) = 0 (н,а,прим,ер, одна из функций fj дифференцируема в точке х0 по Гато). Тогда все L-эпипроизводные D+ f (х0)(и) при L £ {АНl,AH2, ABl, АВ2,Р,С} совпадают между собой при любом заданном, и £ X, и справедлива формула
D+f (хо)(и) = f1(xo,u) + f2(xo, —и). (37)
Доказательство. Из свойств выпуклых функций следует, что v функций f2 и f = f1 — f2 существуют классические производные по направлениям и
f (хо,и) = f1(xo ,и) — f2(xo,u).
В силу леммы 4 для любого L £ {АНl, АН2, ABl, АВ2, Р} справедлива формула
D+f (хо)(и) = sup(f1(xo,u + w) — f2(xo,u + w) — f1(xo ,w) + f2(xo,w)). (38)
wex
Как известно, функции и ^ f'k(хо,и), k £ l, 2, также выпуклы, в силу чего получаем
f1(xo,u + w) < f1(xo,u) + f1(xo,w), f2(xo,w) < f2(xo,u + w) + f2(хо, —u). (39)
Отсюда и из (38) получаем, что D+h 1f (х0)(и) < Ц(х0,и) + f2(x0, —и). Чтобы показать, что последнее неравенство является равенством, достаточно, чтобы при некотором w оба неравенства в (39) превратились в равенства. При выполнении условия f1(xo,v,)+ f1(xo, —и) = 0 для этого нужно взять w = — и, а при выполнении условия f2(xo,v,) + f2(xo, —и) = 0 достаточно взять w = 0.
Покажем, что формула (37) справедлива и при L = С. По определению эпипроизводной Кларка получаем
Dcf(хо)(и) = limsup (X-1(f1(x + Xu) — f1(x) — ¡2(x + Xu) + f2(x))) < A40, x^x0
< limsup (\-1(fi(x + Хи) — fi(x))) + limsup (X-l(¡2(x) — f2(x + Xu))) . (40)
По известному свойству эииироизводной Кларка для выпуклой липшицевой функции (см. [11], предложение 2.2.7) справедливо равенство D+ fl(х0)(и) = fl(х0,и). Аналогично, делая замену у = х + Хи, получаем
limsup X-l(f2(x) — f2(x + Хи)) = lim sup sup X-l(f2(x) — f2(x + Xu)) =
А40,ж^жо ||ж-:ко||<<5 Ае(0,<5)
= l¡m sup sup X-l(f2(y — Xu) — ¡2(y)) = D+f2(X0)(—u) = f2 (X0, —u).
<^0 ||//-зд||<¿(i+|MI)Ae(0,¿)
В результате из неравенства (40) получили неравенство D+f (х0)(и) < f[(х0,и) + f2(х0, —и), которое вместе с равенством (37) при L = Ри неравенством (14) завершает доказательство теоремы.
Приведем еще один критерий совпадения всех эпипроизводных функции, представимой в виде разности двух выпуклых функций.
Напомним, что функция h : X ^ Rl называется положительно однородной, если для любого х G X и любого числа Л > 0 справедливо равенство h(Xx) = Xh(x). Очевидно, что такая функция имеет классическую производную по направлениям в точке нуль, и справедливо равенство
h' (0,и) = h (и), У и G X. (41)
Лемма 5. Пусть задана положительно однородная липшицева (быть может невыпуклая) функция h : X ^ Rl. Тогда справедливо равенство всех L-эпипроизводных D+ h(0)(u), а именно:
D+h(0)(u) = sup(h(u + w) — h(w)), У и G X, VL G [АН 1,AH2, AB1, AB2,P,C}. (42) wex
Доказательство. По определению производной Кларка, из положительной однород-h
D+h(0)(u) = lim sup sup X-l(h(x + Xu) — h(x)) = ле(0,<5) |N|<¿
= lim sup sup (h(u + w) — h(w)) <
Ае(0,¿) ||w||<&/А
< sup (h(u + w) — h(w)) = sup (h'(0, и + w) — h'(0, w)) = D+Hlh(0)(u).
wex wex
В силу общих соотношений (31) и, в частности, в силу неравенства D+h(0)(u) > D+Hlh(0)(u) в итоге получаем требуемое равенство (42). Пусть заданы точка Х0 G X и число г > 0.
Следствие 1. Пусть заданы, две выпуклые ограниченные функции fk : Br(х0) ^ Rl; к G 1, 2. Определим функции gk(х) = fk(х0) + fk(х0,х — х0); f (х) = /i(х) — f2(x), х G Вг(х0) и функцию д(х) = д\(х) — д2(х) при х G X. Тогда, справедливо равенство всех L-эпипроизводных функции g в точке х0, причем
D+g(x0)(u) = sup(f(x0,u + w) — f(x0,w)), Vu G X, VL G [AH 1,AH2, AB 1,AB2,P,C}. wex
Доказательство очевидно в силу леммы 5, положительной однородности функции h(x) = g(x0 + х) — fi(ж0) + f2(x0) и равенства д'(х0, и) = f'(x0,u) = h(u) при любом и G X.
Для произвольной выпуклой ограниченной функции f : Br (Х0) ^ Rl определелим функции g и (р по формулам
д(х) = f (х0) + f'(x0,x — Х0), tp(x) = f (х) — д(х), (43)
т.е. функция f в окрестности Br (xq) точки xq представлена в виде суммы ее квазилинейной части g и остатка у. Очевидно, что функции g и р в точке Xq имеют классические производные по направлениям, причем
д'(xQ,u) = f'(xQ,u), р'(xQ,u) = 0 V u G X, (44)
откуда в силу выпуклости функций f и g, а также по формуле (36) получаем равенства
Dcf(XQ)(u) = dc9(xq)(u) = f (xQ,u), D+jj 1ip(xQ,u) = 0, V u G X,
которые в частности влекут неравенство 0 < D+p(xq)(u) при всex u G X, что равносильно включению 0 G d+ <p(xq).
Определение 8. Выпуклая ограниченная функция f : Br (xq) ^ R1 называется сильно регулярной в точке xq, если для соответствующей функции р из (43) справедливо равенство d+(p(xQ) = {0}, т.е. D+(p(xQ)(u) = 0 при вс ex u G X.
Данное определение эквивалентно тому, что функция р регулярна по Кларку в точке Xq (см. определение 2.3.4 в [11]). В частности это выполняется, когда функция р выпукла в некоторой окрестности точки xq. Кроме того, в силу оценки
D+ip(xq)(u) < D+f(xq)(u) + D+(—g)(xQ)(u) = f'(xq,u) + g'(xq, —u) = f'(xq,u) + f'(xq, —u)
получаем, что если для функции f справедливо равенство f (xq,u) + f (xq, —u) = 0 при всех u G X, то функция f сильно регулярна в точке xq. В частности, если функция f дифференцируема по Гато в точке xq, то она сильно регулярна.
Теорема 7. Пусть функция f: X ^ R1 представима в виде разности двух выпуклых сильно регулярных в точке xQ и ограниченных на, Br(xQ) функций f, и f2, т.е. f = f, — f2. Тогда, справедливо равенство эпипроизводных:
D+j(xq)(u) = D+j(xq)(u), V и G X, VL G {P, AH 1, AH2, ABl, AB2},
что равносильно равенству всех субдифференциалов d+f (хо) = ... = d+B2f (хо).
Доказательство. Для каждой функции Д определим функции и по формулам (43). Определим также следующие функции g = g, —g2ü p = Pi —p2- Тогда справедливо равенство f = g+причем f (xq,u) = g'(xq,u) и p'(xq,u) = 0 при всех и G X. По следствию 1 справедливо равенство 0+н,g(xQ)(и) = 0+н1$(xq)(и) и 0+н,р(хо)(и) = 0 < Dçp(xo)(и). По свойствам производной Кларка для функции р = + (—р2) и в силу сильной регулярности функций f, ж f2 получаем
D+ip(x0)(и) < D+ip^xo)(и) + D+ (—ip2)(x0)(и) = D+p^xe)(и) + D+^xo)(—и) = 0,
т.е. D'+p(xo)(и) = 0 при всех и G X. Отсюда и в силу свойства производной Кларка для суммы функций получаем
D+J (х0 )(и) < D+g(xo )(и)+ D+p(x0 )(и) = D^g^o )(и)+0 = D+н i f (хо )(и) < D+j (х0 )(и),
что вместе с леммой 4, примененной к функции f, завершает доказательство теоремы.
Работа выполнена при поддержке РФФИ, грант 10-01-00139а и ФЦП «Научные и научно-педагогические кадры инновационной России».
Литература
1. Banks H. Т. and Jacobs M.Q. A differential calculus for multifunctions //J. Math. Anal, and Applic. - 1970. - V. 29, N 2. - P. 246-272.
2. Hukuhara M. Intégration des applications mesurables dont la valeur est un compact convexe // Funkcialaj Ekvacioj. - 1967. - Y. 10. - P. 205-223.
3. De Blast F.S. On the differentiability of multifonctions // Pacif. J. Math. - 1976. - V. 66, N 1. — P. 67-81.
4. Пшеничный Б.H. Выпуклый анализ и экстремальные задачи. — М.: Наука, 1980. — 320 с.
5. Демьянов В.Ф., Рубинов A.M. Основы негладкого анализа и квазидифференциальное исчисление. — М.: Наука, 1990.
6. Aubin J.-P. Contingent derivatives of set-valued maps and existence of solutions to nonlinear inclusions and differential inclusions and differential inclusions // Advances in Math. Suppl. Studies, Acad. Press. - 1981. - P. 160-272.
7. Половинкин E.G. Теория многозначных отображений. — M.: МФТИ, 1983. — 108 с.
8. Половинкин Е. С. К вопросу о дифференцировании многозначных отображений // Некоторые проблемы современной математики и их приложения к задачам матем. физики. - М.: МФТИ. - 1985. - С. 90-97.
9. Половинкин E.G., Смирнов Г.В. Дифференцирование многозначных отображений и свойства решений дифференциальных включений // Доклады АН СССР. — Т. 288, № 2. - 1986. - С. 296-301.
10. Bouligand Q. Introduction à la géométrie infinitesimale directe // Gauthier-Villars, Paris.
- 1932.
11. Clarke F.H. Optimization and nonsmooth analysis. — New York: Wilev-Interscience, 1983.
12. Половинкин E.G., Балашов M.В. Элементы выпуклого и сильно выпуклого анализа. — М.: Физматлит, 2007. — 440 с.
13. Болтянский В.Г. Математические методы оптимального управления. — М.: Наука, 1969.
14. Aubin J.-P. and Frankovska H. Set-Valued Analisvs. — Boston-Basel-Berlin: Birkhâuser, 1990.
15. Половинкин E.G. О необходимых условиях оптимальности решений дифференциальных включений на отрезке // Совр. математика в физико-техн. задачах. — М.: МФТИ.
- 1986. - С. 87-94.
16. Aubin J.-P. Lipschitz behavior of solutions to convex minimization problems // Math, of Oper. Res. - 1984. - V. 9. - P. 87-111.
17. Rockafellar R. T. Clarke's tangent cones and the boundaries of closed sets in Rra // Nonlinear Analysis: Theory, Meth. and Appl. - 1979. - V. 3, N 1. - P. 145-154.
18. Clarke F.H. Generalized gradients and applications //J. Trans. Amer. Math. Soc. — 1975.
- V. 205. - P. 247-262.
19. Penot J.-P. Calcel sous-differentiel et optimization //J. Funct. Anal. — 1978.— V. 27, N 2. - P. 248-276.
20. Рокафеллар P. Выпуклый анализ. — M.: Мир, 1973.
Поступила в редакцию 29.03.2012.
