Гиподифференциал и ε-субдифференциал полиэдральной функции Текст научной статьи по специальности «Математика»

ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА

Сер. 10. 2011. Вып. 3

УДК 539.85 Л. Н. Полякова

ГИПОДИФФЕРЕНЦИАЛ И е-СУБДИФФЕРЕНЦИАЛ ПОЛИЭДРАЛЬНОЙ ФУНКЦИИ*)

Введение. Рассмотрим функцию f (x) = max fi(x), где

iel

fi(x) = (a,i,x) + bi, ai e R", bi e R, i e I = l,...,m.

Функция f называется полиэдральной функцией. Очевидно, что полиэдральные функции выпуклые на R". При этом надграфиком полиэдральной функции является многогранное множество в пространстве R"+1. Здесь и в дальнейшем через (*, *) обозначено скалярное произведение.

Класс выпуклых функций - один из наиболее изученных среди семейства негладких функций [1]. Полиэдральные функции, в свою очередь, - наиболее простые среди множества негладких выпуклых функций. Они непрерывны на R" и в каждой точке x e R" субдифференцируемы. Субдифференциал полиэдральной функции есть выпуклый многогранник, а именно:

df(x) = co | У ai 1 , R(x) = {i e I \fi(x) = f (x)} ,

где через co A обозначена выпуклая оболочка множества A. Отметим также, что суб-дифференциальное отображение df : R" —> 2R не является непрерывным в метрике Хаусдорфа.

Пусть е ^ 0. Множество

def (x) = {v e R" | f (z) — f (x) ^ (v,z — x) — е Vz e R"}

называется е-субдифференциалом выпуклой функции f в точке x e R". Известно [2], что е-субдифференциальное отображение

df : R" x (0, +ж) —► 2r"

непрерывно по Хаусдорфу.

Полякова Людмила Николаевна — доктор физико-математических наук, профессор кафедры математической теории моделирования систем управления факультета прикладной математики-процессов управления Санкт-Петербургского государственного университета. Количество опубликованных работ: 72. Научные направления: выпуклый анализ, недифференцируемая оптимизация. E-mail: [email protected].

+ ) Работа выполнена при финансовой поддержке Российского фонда фундаментальных исследований (проект № 09-01-00360).

© Л. Н. Полякова, 2011

Для полиэдральной функции формула е-субдифференциала в каждой точке х € М" имеет вид [1]

def (x) = I v = ^2 Ai ai e R"

i=1

Ё Xi(f (x) — {ai, x) — bi) < e,

i=1 m }. (1)

^2 Ai = 1, Ai ^ 0, i e I

i=1

Таким образом, е-субдифференциал полиэдральной функции f в x e R" также есть выпуклый многогранник. Очевидно, что при е = 0 е-субдифференциал функции f в точке x совпадает с ее субдифференциалом. Следует отметить, что для произвольной выпуклой функции вычисление е-субдифференциала весьма затруднительно. Существуют формулы, позволяющие определять его для суммы выпуклых функций и для функции максимума ( см., например, [3, 4]).

В работе [5] было введено понятие гиподифференциала и гиподифференцируемой функции. Функция f называется гиподифференцируемой в точке x e R", если существует такое выпуклое компактное множество df (x) С R"+1, что справедливо разложение

f (x + Д) = f (x)+ max [a + {v, Д)]+ o(x, A), a e R, v e R",

(v,a)T £df (x)

o(x, aA) , , „

---- —>0 У A G R”,

a a—>0

где знак T обозначает транспонирование вектора. Множество df (x) называется гиподифференциалом функции f в точке x e R". Оно определяется неоднозначно. Функция f называется непрерывно гиподифференцируемой в точке x e R", если в некоторой окрестности точки x она гиподифференцирума и существует непрерывное в метрике Хаусдорфа гиподифференциальное отображение df (x).

Отметим, что функция f - непрерывно гиподифференцируемая на R", поскольку многогранник вида

f <*> = co [и fx(x^} С R" x R (2)

является гиподифференциалом полиэдральной функции f в произвольной точке x e R" и при этом многозначное отображение df : R" —> 2R непрерывно в метрике Хаусдорфа. Очевидно, что множество df (x) С R"+1 есть выпуклый многогранник, содержащийся в полупространстве

P = {z = (z1,..., Z", Z"+1)T e R" x R 1 Z"+1 < 0}.

Обратим внимание на то, что в записи гиподифференциала вида (2) полиэдральной функции f участвуют все функции, входящие в определение данной функции максимума.

Пример 1. Рассмотрим функции

f1(x) = max {5x — 1,1 — x} , f2(x) = max {5x — 1, 3x — 2,1 — x} , x e R.

Очевидно, что они равны. Определим их гиподифференциалы в точке x = 0. Несложно вычислить, что f 1 (0) = f2 (0) = 1 и

5 ^ ^—- ^2 / /^ 5 ^ f 3 \ (— 1 \ I ш>2

65

df1(0) = С^( _2 л 0 С R2, df2(0) = co _2 А _3 A 0 ) } С R2.

Гиподифференциал первой функции есть отрезок, гиподифференциал второй функции - треугольник.

Взаимосвязь между e-субдифференциалом и гиподифференциалом. Между гиподифференциалом вида (2) и е-субдифференциалом полиэдральной функции существует тесная связь. Некоторые свойства данного гиподифференциала полиэдральной функции были рассмотрены в работе [6].

Для функции f в точке x e И" определим число e*(f, x) ^ 0 по формуле

e*(f,x) = max{f (x) - (ai,x) - bi}. iel

Заметим, что

(ai,x) + bi - f (x) > -e*(f,x) Vi e I, Vx e И",

и, кроме того,

e* (f, x) = max fi(x) + max{-fi(x)} = max{(ai, x) + bi} + max{-(ai, x) - bi}. (3)

iel iel iel iel

Пример 2. Рассмотрим функцию

f(x) = max\xi\, i e I = 1 ...n, x = (x1,...,xn)T e И". iel

Положим x = (1,... \)T e И". Тогда, согласно (3), имеем f (x) = 1, e*(f, x) = 2.

Зафиксируем произвольное e, удовлетворяющее условию 0 ^ e ^ e*(f,x). Положим

4f (x) = ^z e df (x) С Rn+1 \ z = (j) , v e И", t e И, -e < t < ^ . (4)

Очевидно, что множество def (x) в (4) непусто, замкнуто и выпукло для любых 0 ^ е ^ е* (f,x). Нетрудно заметить, что

dei f (x) С d£2f (x), 0 < ei < e2 < e*(f,x).

Лемма 1. Для любых 0 ^ e ^ e*(f,x) справедливо следующее равенство:

def (x) = \^v e R" \ e def (x) j . (5)

Доказательство. Если e = 0, то доказательство формулы (5) очевидно. Пусть теперь 0 < e ^ e*(f,x). Обозначим через D множество

D = {v e И" \ Q e df (x)J

и докажем включение def(x) С D. Выберем произвольную точку v e def(x). Тогда

m

существует такой набор чисел Xi(x) ^ 0, i e I, Xi(x) = 1, что справедливы соотно-

i=1

шения

mm

V = ^2 Xi(x)ai, ^2\i(x)(f (x) - (ai,x) - bi) < e.

i=1 i=1

Поэтому

/ т \

22 X (х) а

1=1

т

22 Х(х)((а.х) + Ъ — /(х))

\ 1=1 )

1=1

(х) ( (а.х) + 1- /(х)! ■ (6)

Из (6) вытекает, что г € //(х). Обозначим через г =22 X((а1.х) + Ъ1 — /(х)). Тогда

1=1

—е ^ г ^ 0. Отсюда из этих неравенств и утверждения (6) следует, что V € V. Таким образом, включение де/(х) С V доказано.

Докажем противоположное включение. Выберем произвольную точку V €V. Тогда найдется число г из отрезка [—е. 0] такое, что точка г = (V.г)Т € в,е/(х) С //(х). Следовательно, существует такой набор чисел

\г(х) > 0. г € I. У^/\г(х) = 1.

1=1

что справедливы равенства

тт

г = ^2 Х(х)((а,1 .х) + Ъ1 — /(х)). V = ^2 Х(х)а1 ■

1=1 1=1

И так как

^2\г(х)(/(х) — (аг.х) — Ъ) ^ е. 1

то, согласно (1), точка V € де/(х). Лемма доказана.

Следствие 1. Для любых 0 ^ е ^ е*(/.х) множество йе/(х) лежит в полосе

Ре = {г = (г1. .... гп. гп+1)Т € Мп х М | —е < гп+1 < 0}.

Следствие 2. Для любых е > е*(/.х) справедливы следующие равенства:

де/(х) = де*^,х)/(х) = со |и а^ ■

Замечание1. Рассмотрим функции, представленные в примере 1. Несложно подсчитать, что е*(/1. 0) = 2. е*(/2. 0) = 3. Но де/2(0) = со { — 1. 5} уже при всех е ^ 2. Это получилось потому, что е*(/2. 0) достигается на функции, которая не является образующей для функции максимума, так как 3х — 2 < /2(х) для каждого х € М.

Геометрическая интерпретация е-субдифференциала полиэдральной функции. Введем обозначения

К = {д € Мп+1 | д = Хе. е = (0. „Д —1)Т. X > 0}.

Н(е) = {г = (г1. ■ ■■. гп. гп+1)Т € Мп+1 1 гп+1 = —е}.

Т(/. х) = /(х) + К С Мп+1. Те(/. х) = Т(/. х) П Н(е) С Мп+1.

Отметим, что луч К есть рецессивный конус многогранного множества Т(I, х), множество Н(е) - гиперплоскость. Множества К, Н(е), Т(!,х), Т£(/,х) являются выпуклыми замкнутыми множествами.

Лемма 2. Для любого фиксированного е > 0 в каждой точке х € М" справедливо равенство

деI(х) = |V € М"| € Те(!,х)^ . (7)

Доказательство. Если е = 0, то доказательство формулы (7) очевидно. Если е ^ е* (I, х), то де1 (х) = со {и а*}. Следовательно, при этих е равенство (7) также

г€1

имеет место.

Пусть теперь 0 < е < е* (I, х). Обозначим множество, стоящее в правой части равенства (7), через В, т. е.

В ={V € М"| (V) € Те(1,х)} = {V € М"| € Те(1,х)} .

Так как йеI(х) С Те(1,х), то, в силу равенства (5), де1 (х) С В.

Докажем противоположное включение. Выберем произвольную точку V € В и зафиксируем е ^ 0. Тогда найдется такое число Ь, -е < Ь < 0, что точка г = (го,Ь)т € Т(I, х). В силу определения множества Т(I, х), имеем г = г\ + г2, где г\ € (II(х), г2 € К.

т

Таким образом, существуют такой набор чисел \г(х) ^ 0, г € I, 22 Х(х) = 1 и число

г=1

0 < м < е, что

т

22 Х(х)(ц

г=1

т

22 Х(х)(а ,х) + Ъг - I (х)) \ г=1

0"

+ м I

т

22 К(х)аг

г=1

т

22 Х(х)({а, х) + Ъг -1(х)) - м

\ г=1 )

Отсюда имеем соотношение

т

-е<Ь Хг(х)({аг, х) + Ъг — I (х)) — м.

г=1

Следовательно,

т

Х^(хXI(х) - {аг,х) - Ъг) < е - м < е.

г=1

Тогда V € деI(х). Лемма доказана.

Замечание 2. Для функций Il,І2, рассмотренных в примере 1, множества Т(^,0) и Т(!2,0) совпадают.

Следствие 3. Если оказалось, что для некоторого индекса г € I точка

Л(х)

г? \ ,, 1 I является внутренней точкой многогранного множества Т(I,х),

Iг(х) - I(х).

то функция с эти номером не участвует в образовании £-субдифференциала функции / в точке х. Таким образом, в формировании £-субдифференциала участвуют

Л(х)

только те функции I*, для которых точки \ Л , г € I, есть крайние точки

\!г(х) - I(х)у

множества Т (I,х).

Пример 3. Рассмотрим функцию I(х) = тахIг(х), где

ге1

11(х) = -2х, 12(х) = 2х, Iз(х) = х +1, 14(х) = 3х - 1, х € М.

Пусть x = І. Тогда

f(І) = 2, df (І) = co

—2

4

Точка (2,0)т не является крайней ни гиподифференциала df (1), ни множества T(f, 1). Нетрудно заметить, что f2(x) < f (x) для всех x G R, кроме x = 1.

Известно [3], что, если в точке x при каком-то е ^ 0 выполнено включение 0n G def(x), то выпуклая функция f ограничена снизу, поскольку

f (z) — f (x) ^ —е Уг G Rn.

Следовательно, inf f (z) ^ f (x) — e. В этом случае x - е-стационарная точка функции f. Следствие 4. Если выполнено включение 0n G co < |J ai f, то полиэдральная

Uei )

функция f ограничена снизу.

Пример 4. Пусть f (x) = max{0, (a, x) + b}, a,x G Rn, b G R. Тогда

О"

{a, x) + b < 0,

df(x) = ^ co {0", a}, {a, x) + b = 0, df (x) = co

a {a,x) + b > 0,

О"

—f(x)

{a, x) + b — f (x)

Выведем формулы е-субдифференциала в различных точках. а. Пусть {а,х1) + Ъ = 0 в точке х1. Тогда е*(},х{) =0 и

f (xl)=0, df (xi) = co

T (f,xl)

Є М" х М ] v Є co {0, a}, л ^ 0 > .

Таким образом, деI(х1) = со {0, а} для любого е ^ 0. б. Пусть {а, х2) + Ъ < 0 в точке х2. Тогда

I(х2)=0, е*(I, х2) = -({а,х2) + Ъ), df (х2) = со

(у(е)

{a, X2) + bl j ’

Ts(f,X2) = co

— >■

, ^(є) — —\--------------Г

є / \ {a, X2) + b

Ts(f,X2 ) = co

— >-

Ує > є* (f, X2 ).

a

О

v

л

О

a

О

a

Следовательно,

де/ (х2)

со {0, «(є)}, 0 < є < —({а, х2) + Ь),

со {0, а}, е> -({а,х2) + Ъ).

в. Пусть {а, хз) + Ъ > 0 в точке хз. Тогда

I(хз) = {а, хз) + Ъ, е*(!, хз) = {а, хз) + Ъ = I(хз),

— {а, хз) — Ьу ’ \0

Те(/, хз) = со

у(е)

— >-

{а,хз) + Ь — є /(хз) — є , ,, ,

у(є) =—---г- —а=———-—а

{а, х2) + Ь

Те(/,хз) = со

/(хз)

єє

Ує > /(хз).

Таким образом,

де/ (х2)

со {«(є), а)}, 0 ^ є ^ {а, х2) + Ь,

со {0, а},

є > {а, х2) + Ь.

— >-

Пример 5. Рассмотрим функцию I(х) = тах{|х1|, \х21}, х = (х1,х2) € М2. Тогда функцию I можно представить в виде I(х) = тах{-х1, -х2,х1,х2}. Пусть х = (х1,х2)т € М2, тогда I(х) = 1, е*(I, х) = 2,

д>'Ы = со { (0) ^°) } С М2, (х = со | 0 , 0 , >2) , I-1 I К ^

В этом примере гиподифференциал (II(х) - прямоугольник, все вершины которого лежат в плоскости

V = {(хі, х2, хз) Є М І хі + х2 — хз — 1=0}.

Тогда

(І/(х) П Н(є) = со

/2-е\ / _£ \

2 Л

У 0 < є < 2.

V —2є )

Отсюда следует

де/(х2 ) = <

со

2є

є

2

со

01

є > 2.

Заключение. Установлена взаимосвязь гиподифференциала в виде специального многогранника и е-субдифференциала полиэдральной функции. Приведена геометрическая интерпретация гиподифференциала. Рассмотренные примеры иллюстрируют применение разработанной теории.

°п \ Iа

а

0

а

п

1. Рокафеллар Р. Выпуклый анализ / пер. с англ. А. Д. Иоффе, В. М. Тихомирова. М.: Мир, 1973.

469 с.

2. Нурминский Е. А. О непрерывности в-субградиентных отображений // Кибернетика. 1977. № 5. С. 148-149.

3. Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация. М.: Наука, 1981. 383 с.

4. Кусраев А. Г., Кутателадзе С. С. Субдифференциальное исчисление. Новосибирск: Наука, Сиб. отд., 1987. 224 с.

5. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление. М.: Наука, 1990. 431 с.

6. Полякова Л. Н. Задача глобальной оптимизации разности полиэдральных функций // Вестн. С.-Петерб. ун-та. Сер. 10: Прикладная математика, информатика, процессы управления. 2006. Вып. 4.

С. 83-96.

Статья рекомендована к печати проф. В. Ф. Демьяновым.

Статья принята к печати 11 марта 2011 г.