Формула субдифференциала одной негладкой функции Текст научной статьи по специальности «Математика»

А. Б. Коноплев

УДК 519.85

ФОРМУЛА СУБДИФФЕРЕНЦИАЛА ОДНОЙ НЕГЛАДКОЙ ФУНКЦИИ

Пусть X = R",Y = Rm, >2* - многозначное отображение с

выпуклым компактным графиком grF . Образуем многозначное отображение Q(x) = }' \ F(x). Рассмотрим функцию

Р(х, у) = min I у -w I - min || у - w ||,

weF(x) wen(jr)1

где J • j - некоторая норма в пространстве Y. Эта функция возникает при решении задач об оценке и аппроксимации многозначных отображений отображениями с шаровыми образами. Поэтому полезно располагать условиями выпуклости функции Р{х,у) и формулой ее субдифференциала. В рассматриваемом случае функция расстояния dF(x,y)= min ||y-w|

weF(x)

является выпуклой и конечной на domFxY, и ее условный субдифференциал в точках множества domFxY выражается формулой [1]

ddF (х, у) = [Хх д\\ у - ту |] о -К' ((х, w), grF), Vw£QF(x,y), (1)

где domF = {х е X|F(x) 0}, Э|-| - субдифференциал нормы, K*(z, А) -положительно сопряженный конус к конусу касательных направлений K(z,A) множества А в точке z,

Qf (х, y) = {we F(x) 11 у - w I = dF (*, y) }.

Пользуясь результатами работы [2], нетрудно доказать, что функция расстояния dn(x,y) является вогнутой и конечной на множестве grF, и ее условный супердифференциал в точках grF выражается формулой

dd~F{x, у) = со{ [X х 3|| - w ||] n K+{(x, w), grF), weQcl(x,y)}, (2)

для (х, у) е int grF . В граничных точках grF функция dü(x,y) дифференцируема по любому направлению g е X х Y, причем

d'n ((*» У), g) = 1'Р a-1 [dn ((х, y) + ag)-dn (х, .у)] = а-Ю

= шах{0, min <(v,w),g >}>

(v,»)£**((*,;>'),grF),||w|M

где jj • J * - норма, полярная к || • < • > - скалярное произведение.

Справедлива следующая

ТЕОРЕМА. Функция Р{х,у) является выпуклой и конечной на domFxY функцией, причем ее условный субдифференциал на clomF х Y можно записать в виде

{[Xxdly-wl^-K+dx^grF), VwGQF(x,y), yiF(x), дР(х, V) = <

(co{(v,>v) е -К+((х, w),grF): || w ||* = 1, w e Qn(x,y)}, у e F(x).

Доказательство. 1. Докажем выпуклость P(x,y). Предположим противное, то есть найдутся zi=(x],yl), z2=(x2,y2) и а0Е(0,1) такие,

Р(га0г, + (1 - a0)z2) > a0P(z,) + (1 - a0)P(z2). (3)

Нетривиальными для рассмотрения являются два случая:

1) г, eint grF, z2 igrF,

2) z,,z2 tgrF, [z,,z2]nintgrF = 0.

Рассмотрим случай 1). Пусть z0 - граничная точка grF, z0 €[z,,z2]. Очевидно, P{x,y) выпукла на [zbz0] и на [z0,z2]. В соответствии с леммой 2.3 из [3] и соотношением (3) выполняется неравенство

P(z0)>ßP(z1) + (l-ß)/>(22)) Vß е(0,1). (4)

Возьмем g = (z2 — z|)/|[z2 -zj и докажем, что из (4) следует

P\z0,g)<-P'(z0-g). (5)

Из (4) получаем

(1 - ß)[P(z2)- P(z0)] < ß[P(z0) - P(z2)] . Положив ß/(l-ß) = ||z2 -z0||/||z, -z0||, имеем

[P(z2) - P(z0)]/||z2 - z01 < [P(z0) - F(z,)]/¡z, - z0||. Из выпуклости />(-,•) на отрезках [z0,z2J и [zuz0 \ следуют неравенства

P'(z0 ,g)<[P(z2)-P(z0)] /||z2 -z0|, P'(zо ,-g) < [P(zx) - P(z0)] /||z, - z0||. Отсюда получаем (5). Покажем теперь, что выполняется

P'(z0,g)>-P'(z0,-g). (6)

Ввиду того что z0 - граничная точка выпуклого множества grF, существует опорная гиперплоскость л, такая что z0eiz к grF с . Следовательно, dn(z0 + ag) = dn(z0 - a g),

P(z0+ag) = dF(z0 + a g) > dn(z0 + a g), 54

- а ё) = -dn (.z0 - a g) > -dK (z0 - a g), dK (z0) = P{z0) = 0.

Отсюда следует, что

P'(z0,g)>d'n(zQ,g), P'(z0-g)>~d'n(z0-g), 4(z0,g) = <O0<-g).

Таким образом, (4) выполняется. Получили противоречие между (5) и (6).

Рассмотрим случай 2). Пусть zx,z2 £ grF, [z|,z2] nint grF ^ 0 . Так как /'(-,■) непрерывна, то найдется элемент z0 e[z,,z2]nint gr_F такой, 4toP(z0)= min /3(z)<0<mm{P(z,),/5(z2)}.

z6[zbz2]

Получили противоречие с неравенством (4).

2. Получим формулу субдифференциала для функции Р(-, ■). Ввиду (1) и (2) достаточно рассмотреть только случай, когда z = (х,у) - граничная точка gr F.

P'(z,g) = d'F(z,g)-d'a(z,g)= max <g,(v,w)>-

(v,w)e[XxS||0|j]n-A:+(z,grF)

-max{0, min <g,(v,vv) >}.

(v, ve)e if+ (z.grF), Jw||*=l

Так как O^y e [A'x 3j| 0r||о -K+(z,grF)], то

max < g,(v, w) >>0.

(v,w)e[XxdlOyl]n-K+(z,grF)

Следовательно,

max < g, (v, w) > =

(v,w)e[Jf x3| Oj.\}n-K+(z,grF)

= max{0, max < g, (v, w) >}.

(v,w)g-K* (z,grF),\w\f=\

Таким образом,

P'(z,g) = d'F(z,g)-d'Q{z,g) =

= max < g, (V, w) > = max < g, (v, w) > .

(V,w)z-K*(z,grF), || w]|*=l co{(v,w)e-K+(z, grF): j| wf*=l}

Откуда и следует справедливость формулы субдифференциала Р{-, •) в данном случае. Теорема доказана.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Коноплев А. Б. Формула субдифференциаяа функции расстояния от точек до образов мультиотображения // Математика. Механика: Сб. науч. тр, Саратов: Изд-во Сарат. ун-та, 2002. Вып. 4. С. 67 - 70.

2. Дудов С. И. Субдифференцируемость и супердифференцируемость функции расстояния // Мат. заметки. 1997. Т. 61, № 4. С. 530 - 542.

3. Дудов С. И., Златорунская И. В. Равномерная оценка выпуклого компакта шаром произвольной нормы//Мат. сб. 2000. Т. 191,№ 10. С. 13-38.