Компактные субдифференциалы высших порядков и их применение к вариационным задачам Текст научной статьи по специальности «Математика»

УДК 517.972: 517.982

Компактные субдифференциалы высших порядков и их применение к вариационным задачам

З. И. Халилова

Таврический национальный университет им. В.И.Вернадского, Симферополь 95007. E-mail: zarik.210289@mail.ru

Аннотация. Приведен обзор теории K-субдифференциалов первого порядка. Построена теория K-суб-дифференциалов второго и высших порядков, вплоть до формулы Тейлора и теории экстремумов. Доказана обобщенная формула Юнга для второго и высших порядков. Рассмотрены приложения к вариационным функционалам с негладким интегрантом. Получена оценка K-субдифференциала второго порядка вариационного функционала, найден компактный выпуклый аналог условия Лежандра. Рассмотрен конкретный пример - «анизотропный субгармонический осциллятор».

Ключевые слова: компактный субдифференциал, включение Эйлера-Лагранжа, формула Тейлора для субдифференциалов, условие Лежандра при негладком интегранте, субгармонический осциллятор.

Введение

В работах И. В. Орлова и Ф. С. Стонякина (см. [2], [7], [12]) было введено понятие компактного субдифференциала (или К-субдифференциала) для отображений скалярного отрезка в локально выпуклое пространство. Идея определения состоит в равномерном стягивании замкнутых выпуклых оболочек разностных отношений к их компактному пересечению (К-пределу). Понятие К-субдифференциала оказалось удобным инструментом при исследовании проблемы Радона-Никодима для интеграла Бохнера и позволило найти топологическое решение этой проблемы в классе пространств Фреше ([3], [6]).

Построена теория К-субдифференциалов для отображений векторного аргумента ([4], [8], [9]). Следуя традиционной для банаховых пространств схеме Адамара-Фреше определения сильной дифференцируемости: К-субдифференциал по фиксированному направлению —> слабый К-субдифференциал —> К-субдифференциал по Гато —> К-субдифференциал по Фреше, мы приходим к нормированным и банаховым конусам (вместо традиционных банаховых пространств), а также к многозначным сублинейным операторам с компактными выпуклыми значениями (вместо традиционных линейных операторов), которые образуют банахов конус.

Таким образом, возникла потребность в предварительном построении элементов сублинейного анализа в нормированных конусах. При этом построение замкнутой теории приводит к необходимости с самого начала вести основные построения в абстрактных нормированных конусах.

Построенный аппарат оказался удобным инструментом при исследовании на экстремум вариационных функционалов с негладким (К-субдифференцируемым) интегрантом. Это позволило получить оценку К-субдифференциала основного вариационного функционала и компактный выпуклый аналог уравнения Эйлера-Лагранжа (включение Эйлера-Лагранжа).

Построенное К-субдифференциальное исчисление позволяет сконструировать и теорию К-субдифференциалов высших порядков как мультисублинейных К-операторов.

© З. И. ХАЛИЛОВА

Здесь удается доказать каноническую изометрию ограниченных сублинейных и бисуб-линейных K-операторов и перенести на случай K-субдифференциального исчисления формулу Тейлора с остаточным членом в форме Пеано.

K-субдифференциалы второго порядка также удалось применить в экстремальных вариационных задачах с не-С2-гладким интегрантом. Это позволило рассмотреть вариационные приложения. Получена оценка второго K-субдифференциала основного вариационного функционала и компактный выпуклый аналог условия Лежандра.

Работа состоит из трех разделов. Первый раздел включает в себя краткий обзор основных понятий K-субдифференциального исчисления первого порядка: нормированные и банаховы конуса, K-операторы в банаховых конусах, компактные субдифференциалы первого порядка отображений в банаховых конусах (по направлению, слабые, Гато, Фреше). Также приведены оценка K-субдифференциала основного вариационного функционала и компактный выпуклый аналог уравнения Эйлера-Лагранжа (включение Эйлера-Лагранжа). Рассмотрен пример с физическим содержанием - «субгармонический осциллятор».

Второй раздел работы содержит теорию бисублинейных K-операторов, теорему о канонической изометрии ограниченных сублинейных и бисублинейных K-операторов, теорию K-субдифференциалов второго порядка, K-субдифференциалов высших порядков, их симметричность, общие свойства. Получена формула Тейлора для K-субдифферен-циалов.

В третьем разделе работы рассмотрены приложения K-субдифференциалов второго порядка к экстремальным вариационным задачам с не-С2-гладким интегрантом. Приведена оценка второго K-субдифференциала основного вариационного функционала и компактный выпуклый аналог условия Лежандра. Рассмотрен конкретный пример -«анизотропный субгармонический осциллятор».

1. K-субдифференциалы первого порядка и их приложения к вариационным задачам

Напомним вначале некоторые основные понятия и результаты.

Пусть F - нормированный конус. Через Fk обозначим множество всех компактных выпуклых подмножеств F. Нетрудно проверить, что Fk образует конус, относительно поэлементного сложения множеств и умножения на скаляры из заданного поля (не только положительные) ([10], [11], [19]). При этом нулём в конусе является множество {0}.

Введем норму в конусе Fk, учитывая компактность С € Fk .

Нормой или конус-нормой множества С € Fk назовём величину \\С|| = sup ||у||.

veo

Отметим, что квазиполнота (см. [4]) конуса F влечёт квазиполноту конуса Fk. Т. е. если F - банахов конус, то Fk - банахов конус .

K-сублинейным оператором (или K-оператором) назовем отображение A действующее из векторного конуса E в банахов конус Fk, где F — нормированный конус, если для любых hí,h2,h € E верно:

(i) A(hi + h2) С Ahí + Ah2;

(ii) A(\h) = Л • Ah, при любом Л € R.

Рассмотрим теперь случай, когда E также нормированный конус. Будем говорить, что K-оператор A ограничен (по норме), если ||A|| = sup \\Ah\\ < ж. Если A ограничен,

Ы<1

то величину ||A|| назовём нормой K-оператора A. Нетрудно убедиться, что норма K-оператора обладает обычными свойствами нормы. Отметим, что K-оператор A : E — Fk ограничен по норме тогда и только тогда, когда A непрерывен в нуле.

Обозначим множество всех ограниченных K-операторов A : E — Fk через Lk(E; F). Отметим, что если E и F - нормированные конуса, то Lk(E; F) - также нормированный конус.

Введем понятие композиции K-сублинейных операторов. Пусть A : E — Fk и B : F — Gk (где E, F и G - нормированные конуса) - K-сублинейные ограниченные операторы.

Определение 1. Композицией [B ■ A] операторов A и B будем называть следующее многозначное отображение:[B ■ A]h = coB(Ah) = co({Jy&Ah By).

При этом если A е Lk (E,F), B е Lk(F, G), то [B ■ A] € Lk(E, G). Перенесем понятие K-предела со случая нормированного пространства ([2]) на случай нормированного конуса.

Определение 2. Пусть {Bs}s>0 - убывающая по вложению система замкнутых выпуклых подмножеств нормированного конуса E. Непустое множество B С E называется

K-пределом системы {Bs}s>0: B = K- lim Bs, если:

¿^0

1) B = P| Bs - компакт;

¿>o

2) VU(0) С E 3 öu > 0 : (0 < 5 < öu) (Bs С B + U).

K-пределы обладают рядом полезных свойств (см. [4]), отметим наиболее важное из них.

Теорема 1. (Признак Вейерштрасса)

Пусть E,F - нормированные конуса, {Bs }s>0 — убывающая по вложению при 5 \

+0 система замкнутых выпуклых подмножеств банахового конуса E. Тогда K-предел

K- lim Bs = B существует в том и только том случае, если для некоторого выпуклого ¿^0

компакта В С E имеет место:

V U(0) С E 35u > 0 : (0 < 5 < öu) ^ (Bs С B + U), при этом B С BB .

Понятие субдифференциала хорошо известно в негладком анализе ([1], [14], [15], [16]), дадим определение K-субдифференциала для случая векторного аргумента.

Всюду далее E, Ei, F, Fj - банаховы конуса, U = U(0) - некоторая окрестность нуля в E. Пусть отображение f : E — F определено в окрестности точки x € E, h € U(0), h = 0.

Напомним, что K-субдифференциалом f в точке x по направлению h называется множество:

dK f (x) = K- lim co {y € F | f (x + th) = f (x) + ty, 0 <t<5} . Перейдем к понятию слабого K-субдифференциала.

Пусть отображение f : E D U (x) — F определено в окрестности точки x € E и K-субдифференцируемо в точке x по любому направлению h € U(0) С E. Будем говорить, что f слабо K-субдифференцируемо в точке x, если K-субдифференциал по направлению дкf (x) : E — FK сублинеен по h.

Пусть отображение f : E — F определено в окрестности точки x € E и слабо K-субдифференцируемо в точке x. Будем говорить, что f K-субдифференцируемо по Гато в точке x, если слабый K-субдифференциал дкf (x)h непрерывен по h в нуле (т.е. ограничен по норме).

Если отображение f K-субдифференцируемо по Гато в точке x, причем сходимость

в K-пределе дкf (x)h = K- lim &Kf (x, ö) равномерна по направлениям ||h|| < 1, то K-

ö—

оператор дкf (x)h назовем K-субдифференциалом по Фреше или сильным K-субдифференциалом f в точке x.

K-субдифференциалы по направлению, слабые K-субдифференциалы, K-субдифференциалы по Гато и Фреше обладают рядом полезных свойств (см. [4]).

В случае банаховых конусов традиционная оценка приращения отображения на отрезке приобретает несколько иной вид.

Теорема 2. (Формула конечных приращений)

Пусть отображения f : [a, b] С R — F и g : [a, b] С R — R непрерывны на [a,b], K-субдифференцируемы на (a, b), и g возрастает на [a, b]. Если при a < x < b выполняется оценка:

sup Цдкf (x)|| < inf дкg(x), (1.1)

то имеют место представление и оценка:

f (b) = f (a) + y, где ЦуЦ< g(b) - g(a). (1.2)

Из формулы конечных приращений (1.1) вытекает соответствующая форма теоремы о среднем.

Теорема 3. (Теорема о среднем) Если отображение f : R D [a,b] — F непрерывно на [a,b] и K-субдифференцируемо на (a,b), то имеют место представление и оценка:

f (b) = f (a) + у, где ЦуЦ < sup (sup Цдкf (x) ^ • (b - a). (1.3)

Важную роль в вариационных приложениях K-субдифференциалов играет K-аналог леммы Ферма.

Теорема 4. (K-лемма Ферма) Пусть f : E —> R. Если f K-субдифференцируемо в точке x € E по некоторому направлению h и имеет экстремум в точке x, то:

0 € д\ f (x).

Рассмотрим классический вариационный функционал Эйлера-Лагранжа

b

Ф(у) = J f (x,y,y')dx, &(•) € Cl[a,b]). (1.4)

Как известно, в случае когда интегрант и = f (х,у,г) принадлежит классу С 1(М3), функционал Ф сильно дифференцируем в С 1[а,Ь], и его первый дифференциал имеет вид

b

. f\df df .

Ф (y)h = J dy (x, У, z)h + dzX Z)h

dx. (1.5)

Рассмотрим вариационный функционал (1.4) в пространстве С 1[а; Ь]. Если интегрант f всюду К-субдифференцируем в М3, то вариационный функционал Ф(у) также К -субдифференцируем всюду в С 1[а; Ь], причем его К-субдифференциал допускает оценку

1.

ь

дкФ(у)Н С I(Vf (х,У,У); дУf (х,у,у')]Н(х) + [дгf (х,у,У); д2f (х,у,у')]Н(х^йх. (1.6)

а

В качестве важных классов мы рассмотрим далее негладкие интегранты, образованные композицией гладкой и негладкой функции.

1) Пусть Ф(у) = Г ф(—(х,у,у'))йх, где f € С1, ф всюду К-субдифференцируема. По формуле (1.5) имеем:

ь (

дкФ(у)Ь, С [\ [дф(^(х,у,у)); дф(^(х,у,у'))] • — (х,у,у')Ь+

п 4

— df + [дф(! (х,у,У)); дф(f (x,y,y'))] • — (x,y,y')h' )dx. (1.7)

2) Пусть Ф(у) = / f (ф(х,у,у'))йх, где f - гладкая, ф К-субдифференцируема. Раса

смотрим случай

ф(х, у, г) = (и = ф1(х),у = ф2(у= фз(г)), Н = (Н1,Н2, Нз).

Тогда выполнена оценка:

ь

Г / - дf - дf Д

дк Ф(у)Н С у \[дуф2; дуф2] ду(ф)Н + д фз; дг фз] д^(ф)Н )йх. (1.8)

а

Сформулируем компактный выпуклый аналог классического уравнения Эйлера-Лагранжа - «включение Эйлера-Лагранжа» ([13], [18]). Для начала приведем аналог основной вариационной леммы.

1 Здесь и далее над интегралом от суммы функциональных отрезков мы понимаем сумму интегралов

от этих отрезков, т.е.

ь ь ь ь ь

! ([«1; + @2])йх := {(1 - А)[ а1 йх + А ^ а2йх\ 0 < А < 1} + {(1 - ¡) ^ /З^х + ц ^ 0 < ц < 1}.

Теорема 5 (Основная лемма). Пусть [ф\; ф2] С Ь2[а; Ь]. ь

Если 0 £ /[ф\; ф2]Н(х для любого Н £ С 1[а; Ь], то 0 € [ф\; ф2].

а

Теорема 6. Пусть интегрант (х, у, г) всюду К-субдифференцируем по у, г. Для того

ь

чтобы функционал Ф(у) = / f (х, у, у')(х определенный в С 1[а; Ь] при граничных условиях

а

у (а) = уа, у(Ь) = уь, достигал на данной функции у = у(х) экстремума, необходимо, чтобы функция у = у(х) почти всюду удовлетворяла включению Эйлера - Лагранжа

0 £ [дуf (х,у,у');дf (х,у,у')] - f (х,у,у');д*f (х,у,у')]. (1.9)

Функцию у(-) £ С 1[а; Ь], удовлетворяющую включению Эйлера-Лагранжа (1.9), назовем субэкстремалью вариационного функционала Ф(у).

Рассмотрим теперь конкретный пример, так называемый «субгармонический осциллятор».

Напомним, что классический гармонический осциллятор имеет вид (см. [17]):

п/2

22

Ф(у) = j (y'2 - y2)dx. (1.10)

о

Рассмотрим обобщенный гармонический осциллятор с негладким интегрантом, вводя модуль под знак интеграла (1.10).

п/2

Ф(у) = I \у'2 - у2\(х. (1.11)

о

Здесь f (у, г) = г2-у2, Щ)(у) = -2у-2у''. При этом f (у, у') = у'2-у2 = 0 ^^ у' = ±у, поэтому условие Эйлера-Лагранжа принимает вид:

либо y = C\ cos x + C2 sin x, при y = Me±x , либо y = M ■ e±x .

(1.12)

Рассмотрим функцию

у = sinx, при 0 < x < n/4;

yo(x) = \ V2 /л

y = ■ ex, при п/4 < x < п/2 .

Непосредственно проверяется, что функция yo(x) удовлетворяет паре условий (1.12) Таким образом y0(x) - субэкстремаль вариационного функционала (1.11), при этом:

yo(п/4 - 0) = sinп/4 = — = уо(п/4 + 0),

V2

У0(п/4 - 0)= cosп/4 = — = у0(п/4 + 0),

откуда следует, что y0 € Cп/2].

2. K-субдифференциалы второго и высших порядков

Перейдем к определению бисублинейных К-операторов. Пусть Ei, E2 - векторные конуса, F - нормированный конус.

Оператор B : E1 х E2 — Fk назовем бисублинейным К-оператором, если он сублинеен по каждой из переменных в отдельности. При этом, если B : E1 х E2 — Fk. Тогда:

1. Оператор B К-бисублинеен в том и только том случае, если

{ B(\h,pk) = \^B(h,k) ;

\ B(hi + h2, ki + k2) С B(hi,ki) + B(hi,k2) + B(h2, ki) + B(h2, k2) .

2. Оператор B непрерывен в нуле тогда и только тогда, когда он ограничен по норме:

\\B\\ := sup \\B(hi,h2)\\ < \\hi\\<i \\h2\\<i

При этом выполняется неравенство:

\\B (hi,h2)\\<\\B\\\\hi\\\\h2\\.

Через Lk(Ei,E2; F) обозначим нормированный конус бисублинейных К-операторов. Если F - банахов конус, то Lk (Ei, E2; F) - также банахов конус.

Имеет место каноническая изометрия: Lk (Ei,E2; F) = Lk (Ei; Lk (E2 ,F)).

Примем далее обозначение L2K(E, F) = LK(E; LK(E, F)).

Всюду далее E, F -банаховы конуса, U(x) - окрестность x точки в E.

Определение 3. Пусть отображение f : E D U(x) — F К-субдифференцируемо (по Фреше) на множестве U.

Рассмотрим отображение дк f : E D U(x) — Lk(E; F).

Если отображение дкf К-субдифференцируемо в точке x, то, по определению, К-субдифференциал Фреше второго порядка f в точке x есть К-субдифференциал от дк f : дК f (x) = дк (дк f )(x), при этом дК f (x) € Lk (E; Lk (E; F)).

В силу канонической изометрии: Lk(E; Lk(E; F)) = Lk(E, E; F) можно считать, что дКf (x) € Lk(E, E; F).

Приведём более подробную запись определения дКf (x), используя определение первого К-субдифференциала дк f (x) :

дК f (x)h = К- co^Z | дк f (x + th) = дк f (x) + t • Z, 0 <t<5^,

где Z - К-операторы из LK (E; F).

Отсюда, используя свойства К-предела, можно получить оценку:

дК f (x)(h; k) С К- ^lirn^ co^Y | дк f (x + th) • k = дк f (x) • k + t • Y, 0 <t<^.

В случае банаховых пространств повторная К-субдифференцируемость влечет обычную дифференцируемость первого порядка в окрестности данной точки. Если Е, Е -банаховы пространства, / : Е э и(х) —> Е и отображение / дважды К-субдифферен-цируемо в точке х, то / дифференцируемо в обычном смысле в некоторой окрестности V(х) С и(х) точки х.

Для фиксированных Н,к € Е предположим, что существует следующий К-предел:

»2 j (x)(h,k) := к - um cu\z\j (X + t

= f (x + th) + f (x + sk) + (st)z\0 <t,s <5}. (2.1)

dPKf (x)(h, k) := K- lim cö{z\f (x + th + sk) + f (x) = S—^-+0

Назовем выпуклое компактное множество (2.1) бисимметрическим вторым К-субдифференциалом отображения / в точке х по паре направлений (Н,к).

Бисимметрический второй К-субдифференциал симметричен относительно векторов Н и к : д\/(х)(Н,к) = д\/(х)(к,Н). Достаточно заметить, что выражение под знаком замкнутой выпуклой оболочки в (2.1) не изменится, если Н и к поменять местами.

Если д\/(х)(Н,к) существует по любой паре направлений (Н,к) € Е2 и оператор д\/(х) : (Н,к) —> д2/(х)(Н,к) является бисублинейным, то будем говорить, что отображение / слабо бисимметрически дважды К-субдифференцируемо в точке х и оператор дк/(х) будем называть слабым бисимметрическим вторым К-субдифференциалом.

Понятия бисимметрических дифференциалов Гато и Фреше вводятся по аналогии с определением дк/.

В случае банаховых пространств К-субдифференциал второго порядка, если он существует, совпадает со вторым бисимметрическим К-субдифференциалом и, как следствие, является симметрическим бисублинейным К-оператором.

Теорема 7. (Обобщенная теорема Юнга) Пусть Е и Е - банаховы пространства, / : Е э и(х) ^ Е. Если отображение / дважды К-субдифференцируемо в точке х, то / также бисимметрически дважды К-субдифференцируемо в этой точке, причем эти К-субдифференциалы совпадают:

д2к/(х)(Н, к) = дК/(х)(Н, к) (УН, к € Е). (2.2)

В частности, ввиду симметричности по (Н, к) бисимметрического К-субдифференциала, дК/(х) также симметричен:

д\/(х)(Н,к) = д\/(х)(к,Н) (УН, к € Е). (2.3)

Доказательство. 1) Согласно общему определению второго К-субдифференциала в банаховых конусах

дК / (х)(Н, к) = К - Иш ао{у | дк/(х + гН) • к = дк/(х) • к + г • У, 0 <г<бЛ. (2.4)

¿4^+0 I J

При этом, поскольку / дифференцируемо обычным образом в некоторой окрестности точки х, то

/(х + *Н + вк) - /(х + *Н) , ч

дк/(х + гН) • к = /'(х + гН) • к = Иш —--——-(2.5)

5^0 в

дкf(x) • k = f'(x) • k = lim f(x + sk——. (2.6)

s^-0 s

Заметим, что в силу повторной K-субдифферецируемости, отображение f1 непрерывно, поэтому предел в (2.5) - равномерный по 0 < t < St.

С учетом (2.5) - (2.6), равенство (2.4) принимает вид:

9 , w х {f' (x + th) — f' (x) } / ,

дК f (x)(h; k) = K - lim cö{ —--—• k, 0 <t<öt }. (2.7)

¿t^+0 [ t )

Наконец, вычитая (2.5) и (2.6) почленно, находим:

f (x + th) — f (x) f (x + th + sk) — f (x + th) — f (x + sk) + f (x)

--k = lim -, (2.8)

t s^+o ts

где f (x + th + sk) — f (x + th) — f (x + sk) + f (x) обозначим через Д9f (x; th, sk). 2) Из (2.8) следует, что при любом e > 0 для 0 < s < Ss(e) и 0 < t < St верно:

f (x + th) — f (x) ( Д9f (x; th,sk))

-1--k € 4—tss—), (2.9)

где ös(e) не зависит от выбора t € (0; öt), в силу равномерности по t предела (2.8). Из (2.8) и (2.9) получаем, при 0 < s < ös(e), 0 < t < St :

ff' (x + th) — f' (x) co<--k

0 <t<s,} с fihsä)

■(-( &2f (x; th, 3k)\

к—*—)

0 <t <St, 0 < s < Ss(e)} =

0 <t<St, 0 <s<ös(e) . (2.10)

Переходя в (2.10) к K-пределу, с использованием при St ^ 0, Ss ^ 0, с учетом (2.7) и K-признака Вейерштрасса, имеем при любом e > 0:

9 , w , ( {Д9f(x; th, sk) }

дк f (x)(h,k) с Oj K- lim cö\———■—- 0 <t<St, 0 <s<Ss> \ [ ts )

= Öl(dK f (x)(h,k)). (2.11)

Так как множество дКf (x)(h,k) замкнуто, то переходя справа в (2.11) к пересечению по всем e > 0, приходим к включению:

дКf (x)(h,k) с дкf (x)(h,k). (2.12)

3) Проверим теперь справедливость обратного включения. Из (2.8) следует, что при любом e > 0 для 0 < s < Ss(e) и 0 <t < St верно:

Д9f (x; th, sk) (f (x + th) — f (x) \ (213)

-ts-€ 4-1--V' (2.13)

Из (2.8) и (2.13) получаем, при 0 < s < Ss(e), 0 < t < öt :

_(Ä 2f (x; th, sk)

co<-

ts

0 <t<5t, 0 <s<5s(e^ С с0^О£(^ f (x + ^—f(x)-k^J 0 <t<51|

0 <t<öA =

=„(pz+rn—m .k) |0 <t<s.)

0 <t<öt . (2.14)

Переходя в (2.14) к пределу при ^ 0,53 ^ 0, с учетом признака Вейерштрасса, имеем при любом е > 0:

дКк / (х)(Н, к) С Ое( К- Иш ед{/ ^ + Н — / (х • к0 <*<5г, 0 < в < ¿Д

\ [ г )

= ЩдК / (х)(Н,к)). (2.15)

Отсюда, приходим к включению:

дК/(х)(Н,к) С дК/(х)(Н,к). (2.16)

4) Наконец, из взаимно-обратных включений (2.12) и (2.16) следуют равенства (2.18) и (2.3). □

Примененный нами подход позволяет использовать индукцию для определения К-субдифференциала п-го порядка.

Пусть отображение / : Е э и(х) ^ Е п-1 раз К-субдифференцируемо на множестве и(х). Рассмотрим отображение: &К-1 / : и(х) —> Ь'К—1(Е; Е). Если отображение д'К-1 / К-субдифференцируемо в точке х, то по определению К-субдифференциал п-го порядка отображения / в точке х есть К-субдифференциал от д'К-1 / : д'К/(х) := дк(д'П-1/)(х), при этом

дК/(х) € ЬК(Е; Ь'К~1(Е; Е)) - ЬК(Е; Е).

Отметим, что если Е, Е - банаховы пространства, / : Е э и(х) —> Е и отображение / п раз К-субдифференцируемо в точке х, то / (п — 1) раз дифференцируемо в обычном смысле в некоторой окрестности V(х) С и(х) точки х.

Обобщим понятие бисимметрического К-субдифференциала на случай п-го порядка. Вначале введем понятие мультисимметрической разности. Пусть х, Н1,..., Нп € Е. Следующее выражение

п п— 1

Ап/(х, Н1,..., Нп) = /(х + £ Нк) — /(х + £ Нь)+

к=1 1<к\<...<кп — 1<п г=1

п—К

+ £ / (х + £ Нкг) —... + (—1)п/(х) 1<к1<...<к„—2<п г=1

назовем мультисимметрической разностью п-го порядка для отображения / в точке х, соответствующей набору приращений (Н1,...Нп). Заметим, что мультисимметрическая разность, очевидно, симметрична относительно любой перестановки переменных Н1, ...Нп.

Для фиксированных направлений Н\,Нп € Е предположим, что существует следующий К-предел:

дпк!(хМ,..,К) = К- Иш П ' ,1 Ь 2 2 ' п п). (2.17)

ъ\ ■ ... ■ гп

Назовем его мультисимметрическим К-субдифференциалом п-ого порядка для f в точке х по направлениям (Н\, ...,Нп) или по направлению Н = (Н\, ...,Нп). Заметим, что дКf (х, Н\,..., Нп), очевидно, не изменяется при любой перестановке Н\,..., Нп.

Если дКf (х,Н\, ...,Нп) существует по любому направлению Н = (Н\, ...,Нп) и является п-сублинейным К-оператором, то будем говорить, что f слабо мультисимметриче-ски К-субдифференцируемо п 'раз в точке х и примем обозначение дКf (х)(Н\, ...,Нп) := дК f (х; Нг,...,Нп).

Далее, если п-сублинейный мультисимметрический К-оператор &Кf (х) ограничен: дК € ЬК(Е; Е), то будем говорить, что f мультисимметрически К-субдифференцируемо п раз в точке х по Гато. Наконец, если дКf (х) - субдифференциал Гато и сходимость в равенстве

- Anf (хЛ\Н\Л2Н2...Лп Нп)

дКf(х)(Н1,..,Нп) = К- ш п '1 ь 22 ' п п;

Ъ\ ■ ... ■ 1п

равномерна по мультинаправлениям Н = (Н\,...Нп), ||Н|| < 1, то будем говорить, что f мультисимметрически К-субдифференцируемо п раз в точке х по Фреше.

Теорема 8. (Обобщенная теорема Юнга п-го порядка)

Пусть Е и Е - банаховы пространства, f : Е Э и(х) ^ Е, х,Н\, ...,Нп € Е. Если отображение f п раз К-субдифференцируемо в точке х, то f также мультисимметрически п раз К-субдифференцируемо в этой точке, причем эти К-субдифференциалы совпадают:

дК f (х)(Н\,..., Нп) = дК f (х)(Н\,..., Нп) (УНг,...,Нп € Е). (2.18)

В частности, ввиду симметричности мультисимметрического К-субдифференциала, дКf (х) также симметричен:

дК f (х)(Нг,..., Нп) = дК f (х)(На1Нап)

для любой перестановки а индексов 1, ...,п.

В случае банаховых пространств для п-кратно К-субдифференцируемых отображений имеет место аналог формулы Тейлора в асимптотической форме.

Теорема 9. Пусть Е и Е - банаховы пространства, отображение f : Е Э и(х) ^ Е непрерывно на [х; х + Н] С и и п раз К-субдифференцирумо в точке х. Тогда:

/п-1 1 1 \ f (х + Н) 1 д f (х)(Н)1 + - дК f (х)(Н)п\ = а(ЦНЦп). (2.19)

Доказательство. 1) Так как f n-кратно К-субдифференцируемо в точке x, следовательно существует (n- 1)-кратная обычная дифференцируемость f в точке x, тогда получаем:

/ дкf (x) = {dl f (x)} при 0 <l < n - 1, \дпк f (x) = d(0(n-1)f )(x). Следовательно, (2.19) можно записать в виде:

( n-1 1 \ 1

f (x + h) - £ -д1 f (x)(h)l\ - -дКf (x)(h)n = o(\\h\\n).

^ l=0 ' ' '

2) Рассмотрим вспомогательную функцию

n-1 1 1 rn(f, h) = f (x + h) - £ - д1 f (x)(h)1 - - дК f (x)(h)n,

l=0 ' '

которая действует из банахового пространства E в банахов конус Fk . Применим математическую индукцию.

a) При n = 1 получим определение К-субдифференциала из критерия К-субдиффе-ренцируемости (см. [4]): f (x + h) - f (x) - дкf (x)h = o(\\h\\).

b) Воспользуемся индукцией по n. Предположим, что формула (2.19) верна для n - 1.

Вычислим К-субдифференциал вспомогательной функции rn, получим:

n-1 1 1

дкrn(f, h) = f (x + h) - д1 f (x)(h)l-1 - дКf (x)(h)n- =

n-2 1 1

= f (x + h) - £ kдlf (x)(h)k - дК-1(/)(x)(h)n-1 = rn-i(f, h),

что по допущению индукции означает:

дк rn(f,h) = rn-i(f',h) = o(\\h\\n-1). Применяя теорему о среднем 3, получим:

\\rn(f,h)\\ = \\rn(f,h) - rn(f, 0)\\< sup \OKrn(f,eh)\^\h\ = sup \\rn-l(f ,dh)\\ • \\h\\ =

0<в<1 0<в<1

= sup o(\dh\n-1) • \\h\\ = o(\\h\\n-1) •\\h\\) = o(\\h\\n). 0<e<1

Таким образом, мы получили формулу Тейлора с остаточным членом в форме Пеано. □

В условиях теоремы верно включение:

n-1 1 1

f (x + h) - £ - 8ff (x)(h)l & - дК f (x)(h)n + o(\\h\\n). l=0 l n

Предварительно введем понятия квадратичной K-формы, неотрицательной, положительной и положительно определенной K-формы. Далее E -банахов конус. Отображение B : E —> Мх назовем квадратичной K-формой, если для любого Л € R и для любого h € E выполняется следующее равенство:

B{Xh) = Л2 ■ B(h). (2.20)

Если B непрерывно в нуле, то из (2.20) следует, что B(0) = {0}.

Определение 4. Пусть B : E —у Мх - квадратичная K-форма.

Будем говорить, что B неотрицательна (B > 0), если выполнено неравенство: min B(h) > 0 (Уh € E).

Будем говорить, что K-форма B(h) положительна (B > 0), если B(0) = {0} и min B(h) > 0 (ih = 0).

Будем говорить, что K-форма B(h) положительно определена (B ^ 0), если существует такая постоянная y2 > 0, что minB(h) > Y2||h||2 (Уh € E).

Заметим, что условия B < 0, B < 0 и B ^ 0 могут быть введены обычным образом, с помощью перехода к форме (-B).

Теорема 10. (Необходимое условие минимума) Пусть отображение f : E —^ М дважды K-субдифференцируемо в точке x € E, причем 0 € дхf (x). Для того, чтобы f достигало минимума в точке x необходимо, чтобы выполнялось условие

дХf (x) > 0. (2.21)

Доказательство. По K-лемме Ферма 0 € дхf (x), при этом если существует дХf (x), то существует f в окрестности точки x, т.е. приходим к условию f (x) = 0.

По обобщенной формуле Тейлора (2.19) второго порядка для любого достаточно малого h получаем: f (x + h) — f (x) — f'(x)h — 1 д2f (x)(h)2 = o(||h||2), откуда при достаточно малых | h| верно:

0 < f (x + h) — f (x) € 2^f (x)(h)2 + а(Щ2) (2.22)

Допустим противное. Пусть существует ho € E и yo < 0 такие, что

дХf (xo)(ho)2 Э yo.

Заменяя в (2.22) h на tho, имеем:

1 дХf(x)(tho)2 + o(UthoU)2 o(t2) -j2- =2 дх f (x)(h0)

где 2дХf (x)(h0)2 Э y0 и (2 ) ^ 0 при t ^ +0. При достаточно малом t > 0 верно

o(t2) \yo\ Т 2дХf(x)(tho)2 + o(UthoU)2

< -. Тогда множество -2-содержит число

2 t2

неравенство:

t2

\у0

zо <Уо + — < 0.

Следовательно, множество 2дК f (х)(Шо)2+о(\,Но\)2 содержит некоторое фиксированное отрицательное число го < 0 (при достаточно малых ,).

Но так как

1 д2к f (x)(tho)2 + o(\\tho\\)

— 0, при t — 0, то и

sup^2дкf (x)(th0)2 + o(\\tho\\)2J < 0 при достаточно малом t > 0. Тогда из (2.22) следует, что f (x+tho)-f (x) < 0 при любом достаточно малом t > 0. Получаем противоречие условию, что f достигает минимума в точке x. □

Если в условиях теоремы 10, f : R — R, то условие (2.21) можно записать в виде:

д(f )(x) > 0.

Действительно, при f : R — R, как известно (см. [5]) д\ f (x) = [d(f )(x); д (f' )(x)]. Применяя теорему 10 получаем, что д(f')(x) > 0.

Получим теперь достаточное условие минимума в терминах второго K-субдифферен-циала.

Теорема 11. Пусть отображение f : E —^ R дважды K-субдифференцируемо в точке x € E, причем выполнено условие f'(x) = 0. Для того, чтобы f достигало минимума в точке x, достаточно, чтобы выполнялось условие:

(д2кf (x) » 0) ^ (minд2кf (x) > Yf2\\h\\2 (У h € E)),

где ff2 = const > 0.

Доказательство. Действительно, выберем е настолько малым, чтобы при \\h\\ < е вели-

Y2

чина o(\\h\\2) в равенстве (2.22) удовлетворяла условию \\o(\\h\\2)\\ < — \\h\\2. Тогда при

<е:

2

(гп/2д2к/(х)(Ш0)2 + ата\\)2) > у\\Н\\2 > 0. (2.23)

Из формулы Тейлора (2.19), как уже отмечалось, вытекает включение

/(х + Н) - /(х) - /'(х)Н е 1 д2/(х)(Н)2 + о(\\Н\\2).

Отсюда, в силу (2.23), получаем

/(х + Н) - /(х) > 72\\Н\\2 > 0

при достаточно малом \\Н\\ > 0, т.е. / достигает строгого локального минимума в точке х. □

3. Приложения Х-субдифференциалов второго порядка к вариационным задачам

Приведем оценку К-субдифференциала второго порядка вариационного функциона-ь

ла Ф(у) = / /(х,у,у')йх.

Теорема 12. Рассмотрим вариационный функционал Ф(у). Если интегрант f дважды K-субдифференцируем, то вариационный функционал Ф(у) также дважды K-субдифференцируем, причем его K-субдифференциал второго порядка допускает оценку

b

дХ y)h С j (V (fy )(x,y,y'); дУ (fy )(x,y,y')]h2(x) +

a

+2[öy (fz )(x,y,y'); дy (fz )(x,y,y' )]h(x)h' (x)dx + [дz (fZ )(x,y,y'); д f )(x,y,y' )]h' ^ dx

(3.1)

Доказательство. Так как f дважды K-субдифференцируем, то f один раз дифференцируем обычным образом (см. [5]), т.е. существует f'. Тогда вариационный функционал Ф(у) также один раз дифференцируем в обычном смысле и его дифференциал выглядит следующим образом

b

V(y)h = Ф'(y)h = j(fy(x, y, y')h + fz(x, y, y')h')dx. (3.2)

a

Введем вспомогательный линейный оператор

(Ay)(x) = (x,y(x),y'(x)), A : C 1[a,b] М x C1[a,b] x C[a,b].

Очевидно, оператор A непрерывен. Теперь введем общий оператор композиции BV(A) = ф(А(у)). Получим Bfy = fy(A(y)) и Bfz = fZ(A(y)). При этом

A € L(C1 [a, b]; М x C 1[a,b] x C[a,b]).

Введем также линейный по u,v и по h интегральный оператор:

b

D(u, v) = j[u(x)h(x) + v(x)h'(x)]dx, D : C[a, b] —> М.

a

Тогда вариационный функционал Ф может быть записан в виде композиции

Ф(y)h = D[(Bf, (A),Bfz(A))]h. (3.3)

Применяя к композиции (3.3) теорему о K-субдифференцировании композиции (см. [9]), получаем

дХФ(у)h = дХ(D[(Bfy(A), Bf'(A))]h) с С [дХD(u,v) ■ [(д'Х2,'Ш3(Bfw2 (w)),дХ2'Ш3(Bfw3 (w))) ■ д(Л(у))Щ. (3.4)

Теперь рассмотрим в отдельности компоненты справа в (3.4).

1) Т.к. A— линейный непрерывный оператор, то он дифференцируем по Фреше, причем A(y) = A. Следовательно, дХ(Ay)(x) = (x,y(x),y'(x)).

2) Для операторов В^2 ^) = (^^2^3)) и В^з ^) = В^з (^^2^3)) мы вычисляем К-субдифференциалы по ,ш2,,ш3. Получаем:

(дК В у (А(у))Н)(х) С [ду /у (х,у,у); ду /у (х,у,у )]Н(х)+[д2 /У (х,у,у'); д2 /у (х,у,у' )]Н' (х),

(дКВк(А(у))Н)(х) С [ду/2(х,у,у); ду/2(х,у,у')]Н(х)+[д2/2(х,у,у'); д2/2(х,у,у')]Н'(х).

3) Т.к. В— линейный непрерывный функционал, то он дифференцируем по Фреше, причем В'(у) = В. Отсюда:

b

дкС j (([dy fy(x, y, y');dyfy(x, y, y')]h(x) + [dz fy(x, y, y'); dzЦ(x, y, y')]h'(x))h(x) +

a

+([dy fZ(x, y, y'); dy fZ(x, y, y')]h(x) + [dzfZ(x, y, y'); dz fZ(x, y, y')]h'(x))h'(x) = b

= J (Vfy(x,y,y'); dy fy(x,y,y')]h2(x) +

a

+2[dz fy (x,y,y'); dz f'y(x,y,y' )]h(x)h' (x) + [dz fZ (x,y,y'); dz fZ (x, y, y')]h'2(x)^J . (3.5)

□

Пусть Ф : E —> Fk . Тогда Ф полунепрерывно сверху в точке x0 (Ф € Cк (x0), если

Vе > 0 3 5> 0 (\\x - xo|| < 5 ) (Ф(x) с U£^(xo))).

В случае F = R при Ф^) = [^(x); Ф^)] условие K-полунепрерывности сверху принимает следующий вид:

$(xo) < lim^o $(x) < Ф(x) < Ф(xo)■

Справедливо следующее условие неотрицательности квадратичных функционалов с коэффициентами из Cк ■

Теорема 13. Для того чтобы K-квадратичный функционал b

*(h) = У (Ph'2 + Qh2)dx (P (x) = [P(x); P(x)], Q(x) = [Q Q], P,Q € CK),

a

определенный на функциях h € C 1[a; b] таких, что h(a) = h(b) = 0, был неотрицательным, необходимо, чтобы выполнялось условие

P(x) > 0 (a < x < b). (3.6)

Доказательство. Действительно, пусть (3.6) не выполнено, т.е. в некоторой точке хо пусть Р(хо) < 0. Покажем, что в этом случае функционал Ф(Ь) примет при соответствующем выборе Ь(х) отрицательное значение. Для этого подберем Ь(х) так, чтобы основной вклад давался бы слагаемым РЬ2, а член Qti2 был бы мал. Положим

h(x) =

f ч

.— / x xQ »

Va( 1 +--) при x0 — a < x < xo,

.— i x xo \

V a ( 1--) при x0 < x < x0 + a,

0 при всех остальных х.

На интервале (хо — а,хо + а) имеем ЬЬ2(х) = 1, Ь2 < а. При таком выборе Ь(х) получаем интегрирование по отрезку [хо — а,хо + а] :

хо+а хо+а

*т= j Q(x)b?dx + J PМ,

XQ-a XQ-a

где hh2 = a, h2 < a на [x0 — a; x0 + a], вне [x0 — a; x0 + a] h = hh = 0. Отсюда

XQ+a XQ+a

w= I + j PM.

xq—a хо—a xo+a __xq +a _

где Фр(h) = f [P(x); P(x)]h'2dx, ^q(h) = f [Q(x); Q(x)]h2dx.

xo —a хо—a

а) Оценим сначала |Фд(Л,)|, применяя аналог теоремы Вейерштрасса:

|Фд(Л-)| < а ■ 2а ■ max(sup |Q|; sup |Q|) —> 0 при а ^ 0.

x x

б) Теперь, используя определение К-полунепрерывности сверху, получаем:

1 1 _ -■ 2а ■ inf P < Фр(h) <-■ 2а ■ sup P.

а \х—хо<&\ а \х—х0<а\

Здесь

1 1 ____

- ■ 2а ■ inf P —у 2 Иш P (x) > 2P (x0) и- ■ 2а ■ sup P —► 2 lim P (x) < 2P (x0)

a \х—хо\<а х^хо а \х—х0<а\ х^х0

Так как P € CK, то 2P_(x0) < ФР(h) < P(xo). Из нашего предположения P(xo) < 0 мы получаем, что Фр(h) < 0. А это противоречит условию минимума. Тем самым наше утверждение доказано. □

Последний результат позволяет обобщить классическое необходимое условие Ле-жандра экстремума вариационного функционала на случай дважды К-субдиф-ференцируемого интегранта. Действительно, из теоремы (13) и необходимого условия

2 d

минимума (теорема (10)) при P = dzK f,Q = dyK f — dj~(dK f) сразу вытекает следующая

теорема. dx

Теорема 14. Для того чтобы на экстремали у = у0(х) достигался минимум функци-

ь _

онала Ф(у) = / / (х, у, у' )(х, где / дважды К-субдифференцируем и / € С к необходимо,

а

чтобы выполнялось неравенство

д2(/2(х,у,у')) > 0.

3.1. Пример

Вернемся к классическому гармоническому осциллятору т

Ф(у) = !(у'2 - у2)(х (у(0 € С1 [0;Т],у(0)= у(Т)=0).

о

Как хорошо известно, Ф достигает минимума на нулевой экстремали при Т < п. Рассмотрим теперь «анизотропный гармонический осциллятор»:

т

f (y,y')

Ф(y) = [ф(У) • y - y ] dx

где

Ф) = 12-' >0;

\ 1, г < 0.

Легко проверить, что у(х) = 0 удовлетворяет уравнению Эйлера-Лагранжа для вариационного функционала Ф(у). Очевидно, на нулевой экстремали Ф также достигает строгого минимума, поскольку Ф(0) и (ф(у') • у'2 - у2 > у'2 - у2) =^ (Ф(у) > Ф(у))-Интегрант функционала Ф имеет вид

( 2г2 - у2, г > 0; / (х,у,г) = { 2

г2 - у2, г < 0.

Отсюда следует:

f )=\4z,z > 0; dz[y,Z) | 2z, z < 0.

д2/ - д/ - д/ Тогда —17(у, 0) не существует, д2(—)(у, 0) = 4 > 0, в частности, д2(—)(0, 0) > 0. Таким дг2 кдг' _ кдг'

образом, классическое условие Лежандра для функционала Ф на нулевой экстремали неприменимо, в то время как обобщенное условие Лежандра выполняется.

Автор выражает признательность профессору И. В. Орлову за постановку задачи и полезные обсуждения.

Список цитируемых источников

1. Дмитрук А. В., Милютин А. А., Осмоловский Н. П. Теорема Люстерника и теория экстремума // УМН. — 1980, 35:6. С. 11-46.

2. Орлов И. В., Стонякин Ф. С. Компактные субдифференциалы: формула конечных приращений и смежные результаты // Современная математика. Фундаментальные направления. — 2009. — Т. 34. — С. 121-138.

3. Орлов И. В., Стонякин Ф. С. Предельная форма свойства Радона-Никодима справедлива в любом пространстве Фреше // Современная математика. Фундаментальные направления. — 2010. — Т. 37. — С. 55-69.

4. Орлов И. В., Халилова З. И. Компактные субдифференциалы в банаховых пространствах и их применение к вариационным функционалам // Современная математика. Фундаментальные направления. — 2013. —Т. 48. — С. 100-136.

5. Стонякин Ф. С. Аналог теоремы Данжуа-Юнг-Сакса о контингенции для отображений в пространства Фреше и одно его приложение в теории векторного интегрирования // Труды Института прикладной математики и механики НАН Украины. — 2010. — Т. 20. — С. 168-176.

6. Стонякин Ф. С. К-свойство Радона-Никодима для пространств Фреше // Учёные записки ТНУ им. В. И. Вернадского. Серия «Математика. Механика. Информатика и кибернетика». -- 2009. — Т.22(61), №1. — C. 102-113.

7. Стонякин Ф. С. Сравнительный анализ понятия компактного субдифференциала // В1сник Харшвського нацюнального ушверситету 1меш В.Н.Каразша. Сер1я "Математика, приклад-на математика i мехашка". — 2009. — №850. — С. 11-21.

8. Халилова З. И. К-сублинейные многозначные операторы и их свойства // Ученые записки ТНУ им. В.И. Вернадского. Серия "Физико-математические науки". — 2011. — Т. 24 (63), №3. — С.110-122.

9. Халилова З. И. Применение компактных субдифференциалов в банаховых пространствах к вариационным функционалам // Ученые записки ТНУ им. В.И. Вернадского. Серия "Физико-математические науки". — 2012. — Т. 25 (64), №2. — С.140-160.

10. Roth W. A uniform boudedness theorem for locally convex cones // Proceedings of the american mathematical society. — 1998. —Vol. 126, №7. - P. 1973-1982.

11. Ranjbari A, Saiflu H. Some results on the uniform boundedness theorem in locally convex cones // Methods of Functional Analysis and Topology. — 2009. — Т. 15, №4. — P. 361-368.

12. Orlov I. V., Stonyakin F. S. impact variation, compact sub differentiability and indefinite Bochner integral // Methods of Functional Analysis and Topology. — 2009. — Vol. 15 (1). -P. 74-90.

13. Иосида К. Функциональный анализ. — Москва: Мир, 1967. — 624 с.

14. Картан А. Дифференциальное исчисление. Дифференциальные формы. — Москва: Мир, 1971. — 400 с.

15. Кларк Ф. Оптимизация и негладкий анализ. — Москва: Наука, 1988. — 280 с.

16. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы: теория и приложения. — Новосибирск: Наука, 1992. — 270 с.

17. Мандельштам Л. И. Лекции по теории колебаний. — Москва: Наука, 1972. — 466 с.

18. Рокафеллар Р. Выпуклый анализ. — Москва: Мир, 1973. — 472 с.

19. Fuchssteiner B., Lusky W. Convex cones. — North Holland Math. Studies, vol.56, 1981. -438 p.

Получена 22.05.2013