О субдифференциалах не всюду определенных выпуклых операторов Текст научной статьи по специальности «Математика»

Владикавказский математический журнал октябрь-декабрь, 2006, Том 8, Выпуск 4

УДК 517.98

О СУБДИФФЕРЕНЦИАЛАХ НЕ ВСЮДУ ОПРЕДЕЛЕННЫХ ВЫПУКЛЫХ ОПЕРАТОРОВ1

Е. К. Басаева

Светлой памяти А. М. Рубинова

Рассматриваются сублинейные операторы со значениями в упорядоченном векторном пространстве, содержащем бесконечно много несобственных элементов. Для указанных операторов получены основные формулы субдифференциального исчисления.

Рассмотрим векторное пространство X и упорядоченное векторное пространство Е. При изучении не всюду определенных выпуклых операторов, обычно либо рассматривают операторы / : X ^ Е, определенные на выпуклом множестве С = ёош(/) С X, либо — операторы / : X ^ Е* (Е* := Е и определенные на всем пространстве

X, но принимающие значение при х £ ёош(/), см., например, [3].

Вместе с тем, наличие в упорядоченном векторном пространстве Е* лишь одного несобственного элемента иногда приводит к неестественному сужению рассматриваемого класса операторов, см. примеры 1 и 2 из § 1. Тем самым мотивировано изучение операторов, со значениями в пространствах Е* и Е , содержащих бесконечно много несобственных элементов (определения пространств Е* и Е см. ниже в §1). Цель данной статьи получить основные формулы субдифференциального исчисления для операторов со значениями в Е*.

В статье используются терминология и обозначения из [3, 4].

1. Операторы со значениями в Е* и Е

1.1. Пространство Е*. Пусть Е — произвольное К-пространство. В монографии [4, §4.5] рассматривались выпуклые операторы / : X ^ Е*. Расширим понятие выпуклого оператора, заменив пространство Е* на более широкий объект Е*. В декартовом произведении Е х Р(Е), где Р(Е) — булева алгебра порядковых проекторов в Е, выделим подмножество Е*, состоящее из таких пар (х,п), что пх = 0. В множестве Е* можно корректно ввести сложение, умножение на положительные числа и упорядочение с помощью формул:

(х, п) + (у, р) := (пй Л р^(х + у), п V р), А(х, п) := (Ах, п), (х, п) ^ (у, р) ^ п ^ р & р^х ^ р^у (х, у £ Е; п, р £ Р; А £ М+).

© 2006 Басаева Е. К.

1 Работа выполнена при финансовой поддержке Российского фонда фундаментальных исследований, проект №06-01-00622.

Нетрудно проверить, что E* — порядково полная R-коническая решетка (см. [3, 1.5.1]). Отображение, сопоставляющее элементу ж € E пару (ж, 0), служит вложением E в E*, сохраняющим операции и порядок. Мы будем отождествлять E с соответствующим подмножеством E*. Проектор п € P(E) можно продолжить до проектора на E* следующим образом: если z : = (ж,р) € E*, то полагаем nz := (пж,пр). Множество вида nE* естественно назвать полосой в E*. Пара (0, п), обозначаемая символом + := , будет наибольшим элементом в полосе nE*. Элемент +то := то := «i — наибольшим элементом E*. Таким образом, в каждой полосе nE* имеется своя бесконечность , причем все они являются осколками бесконечности то, т. е. Л = 0 и V = то. Очевидно, что множество всех бесконечных элементов (включая 0 = «о) с индуцированным из E* порядком образует полную булеву алгебру, изоморфную P(E).

1.2. Реализация E*. Обозначим символом C+(Q, R) множество всех непрерывных функций из Q в R := R U {±то}, принимающих значение —то на нигде не плотном множестве. Введем в C+(Q, R) операции сложения и умножения на положительные скаляры, полагая (u + v)(t) = u(t) + v(t) и (Au)(t) = A ■ u(t), причем правые части этих соотношений имеют смысл для каждого t из подходящего котощего множества Qo С Q. (Напомним, что множество в топологическом пространстве называют котощим, если его дополнение является тощим множеством.) Порядок в C+(Q, R) определяется поточечно, т. е. u ^ v означает, что u(t) ^ v(t) для всех t € Q. Тогда C+(Q, R) — порядково полная R-коническая решетка (см. [3, 1.5.1]). Ясно, что C(Q) С C+(Q, R), причем порядок и операции в C^(Q) индуцированы из C+(Q, R). Из результатов о функциональном представлении K-пространств (см. [3, П1.13]) вытекает следующее утверждение.

Пусть E — произвольное K-пространство и Q — стоунов компакт булевой алгебры P(E). Тогда существует полулинейный изоморфизм, отображающий R-коническую решетку E* в R-коническую решетку C+(Q, R). Образ E относительно этого изоморфизма служит фундаментом в C^(Q), а образ E* совпадает с C+(Q, R) в том и только в том случае, если E расширенно.

Очевидно, что элемент € E* при указанном изоморфизме переходит в функцию, принимающую значение +то на открыто-замкнутом множестве Qn С Q, соответствующем проектору п. При этом ограничение этой функции на Q \ Qn входит в C^(Q \ Qn).

1.3. Операторы со значениями в E*. Рассмотрим отображение f : X ^ E*. Эффективное множество и надграфик мы определим обычным образом:

dom(f) := {ж € X : f (ж) € E}, epi(f) := {(ж, e) € X х E : f (ж) < e}.

Полунепрерывность снизу отображения f вводится по аналогии с [4, п. 4.3.3]. Ограничимся случаем, когда E содержит слабую единицу 1. Пусть X — банахово пространство. Возьмем точку жо € X. Обозначим через проектор в E, для которого n^f (жо) = и п^f (жо) € E. Будем говорить, что f полунепрерывно снизу в точке жо, если для любого числа е > 0 существует счетное разбиение единицы (пп)п6м такое, что для всех n € N и ж € X, Уж — жо || ^ 1/n выполняется

пПf (ж) ^ пП(f (жо) — е1), пПf (ж) ^ (1/г)<1,

где пП := пп Л п^ и пП := пп Л Нетрудно убедиться, что отображение f : X ^ E* является полунепрерывным снизу в точке жо € X тогда и только тогда, когда

f (жо) = sup inf {f (ж) : ж € X, ||ж — жо|| ^ 1/n}.

neN

Подчеркнем, что точные границы в этой формуле вычисляются в E*.

Приведем два примера мотивирующих введение пространства Е* (см. [4, §5.1]).

Пример 1. Пусть /1, /2 : X ^ М* — полунепрерывные снизу выпуклые функционалы, определенные на произвольном нормированном пространстве X. Положим Е := М2 и определим операторы Е1 : X ^ Е* и Е2 : X ^ Е* формулами:

Е := / (/1 (х),/2(х)), если х £ аош(/1) П dom(/2),

1 := если х £ doш(/1) П doш(/2);

^2(х) = (/1(х),/2(X)) (X £ X), Е* = М2 и {(0, 0), +то)>.

и, стало быть,

Если хо £ dom(/l) и хо £ doш(/2), то оператор Е2 полунепрерывен снизу в точке хо, а Е1 — нет. Таким образом, если мы рассматриваем операторы со значениями в Е*, то происходит неестественное сужение класса полунепрерывных снизу операторов.

Пример 2. Пусть X — банахово пространство и (П, Е,р) — пространство с мерой. Рассмотрим функцию / : П х X ^ М*. Допустим, что функция /(ш, ■) выпукла при почти всех ш £ П, а композиция ш ^ /(ш,и(ш)) измерима для всех и из некоторого пространства Ь измеримых по Бохнеру вектор-функций и : П ^ X. Тогда интегральный функционал I/ : Ь ^ М* определяется следующим образом:

I/(и) := / /(ш,и(ш)) ^р(ш),

если функция ш ^ /(ш,и(ш)) суммируема, и I/(и) := — в противном случае. Пусть Е := Ь0(П, Е, р) — К-пространство (классов эквивалентности) измеримых функций, а I : Ь1(^) ^ М — интеграл Лебега. Тогда имеет место представление I/ = I о Е, где оператор Е : Ь ^ Е* определяется формулой Е(и) : ш ^ /(ш, и(ш)). В рассматриваемом контексте функцию / принято называть интегрантом. Как видно, допущение к рассмотрению лишь операторов Е со значениями в Е* приводит к нежелательному сужению класса интегрантов.

1.4. Рассмотрим множество Е := {(х,п,р) : х £ Е, пх = рх = 0, п, р £ Р(Е), пор = 0}. Определим на этом множестве порядок и алгебраические операции следующим образом:

(х1,П1,р1) ^ (х2,П2,Р2) ^ П1 ^ П2 & Р1 ^ Р2 &(п2 V р^х1 ^ (п2 V р1^х2; а(х, п, р) = <

(ах, п, р) при а > 0,

(ах,р, п) при а< 0, а £ М;

(0, п, 0) при а = 0,

(х1 ,п1,р1) + (х2,п2,р2) = (х1 + х2, п1 V п2, р1 Л (р2 V п^) V р2 Л (р1 V п^)),

Очевидно, что Е* С Е. Обозначим символом М) множество всех непрерывных

функций из Q в М. Заметим, что Е изоморфно подмножеству в М). Если Е

расширенное К-пространство, то образ Е совпадает с С,±± М).

2. Формула Моро — Рокафеллара

Покажем, что для операторов со значениями в Е* остаются в силе основные формулы субдифференциального исчисления. Начнем с алгебраического варианта формулы Моро — Рокафеллара.

Пусть X — произвольное векторное пространство, а Е — К-пространство. Рассмотрим сублинейный оператор р : X ^ Е*. Опорное множество (субдифференциал в нуле) др оператора р вводится точно так же, как и в [3, 1.4.11]:

др := {Т £ ¿(X, Е) : (Уж £ X) Тж < р(ж)|.

Однако, в отличие случая когда р всюду определенный оператор (см. [3, определение 1.4.11]), включение Т £ др не сводится к справедливости для всех ж £ ёош(р) неравенства Тж ^ р(ж), а требует также выполнения неравенств вида пйТж ^ п^е, если элемент р(ж) £ Е* определяется парой (е, п). Соответствующим образом изменяется и определение общего положения (ср. [3, пп. 3.1.9 и 3.2.8]). Будем говорить, что сублинейные операторы р1,..., рп : X ^ Е* находятся в алгебраическом общем положении, если существует такое подпространство ^о С X", что ^о = ПП=1 ¿ош(пр&) — Дп(X) для любого проектора п £ Р(Е), где Дп (X) := {(ж,..., ж) £ X" : ж £ X}. Заметим, что для двух сублинейных операторов условие общего положения равносильно существованию подпространства Xо С X, обеспечивающего справедливость равенства X0 = ёош(пр1) — ёош(пр2) при всех п £ Р(Е).

Теорема 1. Если сублинейные операторы р1,... ,рп : X ^ Е* находятся в алгебраическом общем положении, то справедлива формула Моро — Рокафеллара

д(р1 + ... + рп) = др1 + ... + дрп.

< Приведем доказательство для случая п = 2. Нужно лишь установить включение С, так как обратное включение очевидно. Возьмем Т £ д(р1 + р2) и (ж, у) £ ^о. В силу условия общего положения для любого п £ Р(Е) имеет место представление (ж, у) = (Д1, Д2) — (Д, Д) = (к, к) — (к1, к2) для некоторых кг £ ёош(пр^) (г := 1, 2) и Д, к £ X. Тем самым справедливы соотношения

ТД + ТА = Т(Д + к) < р1(Д + к) + р2(Д + к)

= р1 (Д + ж + к — ж) + р2(Д + у + к — у) ^ р1 (Д + ж) + р1 (к — ж) + р2(Д + у) + р2(к — у).

Заметив, что Д + ж = , к — ж = к1 £ ёош(пр1) и Д + у = Д2, к — у = к2 £ ёош(пр2), выводим неравенство

—пр1 (к — ж) — пр2 (к — у) + пТк ^ пр1 (Д + ж) + пр2 (Д + у) — пТД,

справедливое для любого п £ Р(Е). Возьмем два произвольных разбиения единицы (п^и (рп)пеи в булевой алгебре порядковых проекторов Р(Е). Положим т^^ := Рп°п£. Тогда (тп,^)(п,£)еНхН — разбиение единицы в Р(Е), служащее измельчением разбиений единицы (п^и (рп)пеи. Согласно сказанному выше для любых £ £ 2 и п £ Н найдутся £ X и кп £ X такие, что

(Д^ + ж) £ ёош(п^р1) С ёош(тп,^р1), (кп — ж) £ ёош(рпр1) С ёош(тп,^р1); (^ + у) £ ёош(п^р2) С doш(тn,¿P2), (кп — у) £ ^ш(рпр2) С ^т(гп,£р2)

и, кроме того, выполняются соотношения:

а := ^ (-РпР1(кп - х) - - у) + Рп

п

= (—гп,€Р1(кп - х) - Р2(кп - у) + Ткп)

(п,с)

^ Е (Гп,^Р1 (^с + х) + Г^сЫ^с + у) - Гп,{ТЛс)

(п,с)

= Е (Лс + х) + + у) - псТЛс).

с

Тем самым, оператор ро : ^о ^ Е корректно определяется формулой ро(х,у) :=т£ Е (псР1(Лс + х) + пс,Р2(Лс + у) - псТЛс) : (пс) € РП;(Е),

1 с

Лс € X, Лс + х € ёош(псР1), Лс + у € ёот(пср2) (£ € € И) |,

где Рг^Е) — множество всех разбиений единицы в булевой алгебре Р(Е).

Покажем, что ро — сублинейный оператор. Положительная однородность оператора ро очевидна, проверим его субаддитивность. Зафиксируем х', х", у', у" € X. Возьмем произвольные разбиения единицы (рс), (р^) € Рг^Е) и обозначим пс,п := Рс Л р^ (заметим, что (пс,п) есть измельчение разбиений рс и р^). В силу условия общего положения операторов р и р2 для любого проектора пс,п можно подобрать Лс, Лп € X так, чтобы Лс + х' € ёош(рс^1), Лс + у' € ёот^р2), а Лп + х'' € ёот(р^р1), Лп + у'' € ёот(р^р2). Тогда справедлива следующая цепочка неравенств:

Ро(ж' + ж", у' + у") < ( + + ж' + ж") + + + у' + у") - Т+ ) |

< У^ ( п«,п+ ж') + п€,пР1(Лп + ж'') + п€,пР2(Л€ + у') + п€,п+ у'') - п€,пТ(^) €,п ^

-п£,пТ(Лп ) 1 < ^ ( п€,пР1 + ж') + п€,пР2 + у') - п^Т^ + п^Р1 (Л^ + ж'')

+п€,пР2(^п + у'') - п^тО Рп'( (рЬ^ + ж')+ Р5Р2 (^ + у') -

/ п ^ € '

+ Е Р€ ( Е (рп'Р1 (Лп + ж'') + Рп'Р2 (Лп + У'') - Рп'Т^п) )

€ V п '

= Е (Р«Р1 (Л€ + ж') + Р€Р2 (Л€ + у') - р€+ Е (Рп'Р1 (Лп + ж'') + Рп'Р2 (Лп + У'') - Рп'ТЛ^ •

€ п

Переходя к инфимуму по (рс) и Лс, а затем по (р^) и Лп, получим ро (х' + х'', у' + у'') ^ ро(х',у') + ро(х'',у'').

Пусть теперь Р — произвольный линейный проектор из X2 на ^о и р := ро 0 Р. Тогда р : X х X ^ Е — всюду определенный сублинейный оператор. Для линейного оператора (Т1, -Т2) € др, действующего по правилу (Т1, -Т2) : (х, у) ^ Т1х + Т2у, будет Т1 € др1, Т2 € др2 и Т = Т1 + Т2. >

Рассмотрим теперь формулу для вычисления опорного множества супремума конечного числа сублинейных операторов.

Теорема 2. Если сублинейные операторы р1,... ,рп : X ^ Е* находятся в алгебраическом общем положении, то справедлива формула

д (р1 V ... V рп) = У {д(«1 о ^1)+ ... + д о .

«1+ ...+ап=1в

< Введем сублинейные операторы 51,..., дп : X х Е ^ Е*, полагая 5к(ж, е) = + , где п — наименьший порядковый проектор, для которого п^рк(ж) ^ пйе. Напомним, что «0= 0 и = поэтому qk(ж, е) = 0 при (ж, е) £ ерЦрк) и qk(ж, e) = если не существует ненулевого порядкового проектора р, для которого ррк (ж) ^ ре. Легко видеть, что ёот(р5к) = ерЦрр) для любого порядкового проектора р, следовательно, операторы 51,..., 5п находятся в алгебраическом общем положении и к ним можно применить теорему 1. Остается заметить, что 7к £ ддк лишь в том случае, если ак : = 7к(0, ■) ^ 0 и Тк £ д(ак о рк), где Тк := (■, 0). >

Используя технические приемы, развитые в [3, гл.2] и [4, гл.4], из формулы Моро — Рокафеллара можно вывести алгебраические варианты основных формул субдифференцирования.

3. Преобразование Юнга — Фенхеля

Принято говорить, что выпуклые операторы /1,...,/п : X ^ Е* находятся в алгебраическом общем положении, если в общем положении находятся преобразования Хермандера этих операторов Н(/1),...,Н(/п). Напомним, что преобразование Хермандера Н(/) : X х Ж ^ Е* выпуклого оператора / : X ^ Е* вводится формулой

Н(/):(ж,Ъ) Л +/(Ж/()' есл" 0'

Iесли ъ ^ 0.

Преобразование Юнга — Фенхеля /* : ¿(X, Е) ^ Е отображения / : X ^ Е* определяется формулой:

/*(Т) = вир {Тж - /(ж) : ж £ X} (Т £ Ь (X, Е)),

где супремум вычисляется в Е . Непосредственно проверяется, что п/* (Т) = (п/)*(пТ) для п £ Р(Е) и Т £ ¿(X, Е). Отсюда вытекает, в частности, что если пТ = п5 для некоторых 5, Т £ ¿(X, Е), то п/*(Т) = п/*(5). Заметим также, что если Т £ ёот(п/)*, то п^Т = 0.

Теорема 3. Если выпуклые операторы /1,..., /п : X ^ Е* находятся в алгебраическом общем положении, то справедлива формула

(/1 + ... + /п)* = /** е... е /п.

Указанная формула точна в следующем смысле: для произвольного проектора п £ Р(Е) и для любого Т £ ёот(п(/1 + ... + /п)*) существуют линейные операторы Т» £ ¿(X, Е) (г := 1,..., п) такие, что

Т = Т1 + ... + Тп п(/1 + ... + /п)*(Т) = п/*(Т1) + ... + п/П(Тп).

< Вновь ограничимся случаем п = 2. Если / := /1 + /2 и Т = Т1 + Т2, то непосредственным вычислением убеждаемся, что

/*(Т) < /* (ТО + /* (Т2).

Отсюда, в частности, видно, что если /*(Т) = (е,р), то «р= р/*(Т) = р/*(Т0 + р/*(Т2). Поэтому остается доказать утверждение о точности формулы.

Пусть Т £ ёош(п/*) и е := п/*(Т) = (п/)*(пТ). Можем считать при этом, что пТ = Т. Тогда ¿(п/)(х/4) ^ Тх-¿е (х £ X, 4 £ Ж), стало быть, оператор Т £ ¿(X х Ж, Е), действующий по правилу Т : (х,4) ^ Тх — ¿е, входит в дН(/). Согласно теореме 1 существуют операторы 71,72 £ ¿(X х Ж, Е) такие, что Т £ дН(п/) и Т = 71 + 72, так как Н(п/) = Н(п/1) + Н(п/2). Положим Т» := 7(', 0) и е» := 7(0,1) (г := 1, 2). Тогда /*(Тг) ^ е» и е = е1 + е2, что и требовалось. >

Теорема 4. Если выпуклые операторы /1,..., /п : X ^ Е* находятся в алгебраическом общем положении, то справедлива формула

{п п Л

0(аг о / )* : аг £ ОгШ(Е) +, £ а; = /Л . г=1 г=1 J

Указанная формула точна в следующем смысле: для произвольного проектора п £ Р(Е) и для любого Т £ ёош(п(/1 V ... V /п)*) существуют линейные операторы Т; £ ¿(X, Е) и ортоморфизмы а; £ Ог1И(Е) (1 := 1,..., п) такие, что

а + ... + ап = /е , Т = Т1 + ... + Тп, п(/1 V ... V /п)*(Т) = п(а1 /1)*(Т1) + ... + п(ап/п)*(Тп).

< Устанавливается по той же схеме, что и в [4, п. 4.1.5] с использованием теоремы 3 и [4, п. 5.5.3 (2)]. >

Литература

1. Гутман А. Е. Банаховы расслоения в теории решеточно нормированных пространств // Линейные операторы, согласованные с порядком.—Новосибирск: Изд-во ИМ СО РАН, 1995.—С. 63-211.

2. Кусраев А. Г. Мажорируемые операторы.—М.: Наука, 2003.—619 с.

3. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. I.—Новосибирск: Изд-во ИМ СО РАН, 2002.—уш+372 с.

4. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. II.—Новосибирск: Изд-во ИМ СО РАН, 2003.—уш+412 с.

5. Кутателадзе С. С. Основы функционального анализа.—Новосибирск: Ин-т мат-ки, 2001.—354 с.

6. Левин В. Л. Выпуклый анализ в пространствах измеримых функций и его применение в математике и экономике.—М.: Наука, 1985.—352 с.

Статья поступила 9 ноября 2006 г.

Басаева Елена Казбековна, к. ф.-м. н. Владикавказ, Институт прикладной математики и информатики ВНЦ РАН E-mail: helen@alanianet.ru