Экстремальные вариационные задачи с субгладким интегрантом Текст научной статьи по специальности «Математика»

Ученые записки Таврического национального университета им. В. И. Вернадского

Серия «Физико-математические науки» Том 27 (66) № 1 (2014), с. 125-153.

УДК 517. 972 : 517. 982. 22

З. И. ХллиловА

ЭКСТРЕМАЛЬНЫЕ ВАРИАЦИОННЫЕ ЗАДАЧИ С СУБГЛАДКИМ ИНТЕГРАНТОМ

В работе рассмотрены приложения теории компактных субдифференциалов к вариационным задачам с субгладким интегрантом. Получены аналоги классических условий Лежандра и Лежандра - Якоби. Рассмотрены примеры.

Ключевые слова: субгладкий интегрант, компактный субдифференциал, включение Эйлера - Лагранжа, обобщенные условия Лежандра - Якоби

Введение

Субдифференциалы, как инструмент негладкого анализа, достаточно давно получили признание в математике (см., например, [1], [8], [14], [15]). Начиная с классического субдифференциала выпуклого функционала, появились и продолжают появляться новые определения субдифференциалов, рассчитанные на применение к различным классам экстремальных и других негладких задач (см., например, [6],

[13], [16]).

Исходя из определения компактного субдифференциала (или К-субдифференци-ала) для отображений скалярного аргумента в вещественное ЛВП, введенного в работах И. В. Орлова и Ф. С. Стонякина с целью исследования проблем векторного интегрирования, К-субдифференциал есть некоторое компактное выпуклое множество, и в случае, когда это множество сводится к точке, сводится к обычному к обычному дифференциалу. К-субдифференциалы позволили получить значимые результаты в теории интеграла Бохнера (см. [3], [7], [12]). Теория К-суб-дифференциалов первого порядка для отображений векторного аргумента была построена в работах (см. [4], [5], [9], [10], [11]) и включает в себя приложения к экстремальным вариационным задачам с негладким интегрантом.

Настоящая работа посвящена детальному рассмотрению приложения К-субдиф-ференциального исчисления к исследованию экстремальных вариационных задач с

негладким (а именно, с субгладким) интегрантом. В статье содержатся субгладкие аналоги основной вариационной леммы, уравнения Эйлера - Лагранжа, простого и усиленного условий Лежандра, а также условий Лежандра - Якоби для основного вариационного функционала.

Работа состоит из четырех разделов. Первый раздел посвящен краткому обзору теории К-субдифференциалов первого порядка, а также приведены основные понятия теории нормированных конусов.

Во втором разделе приведен краткий обзор применения компактных субдифференциалов первого порядка к вариационным функционалам с С 1-субгладким инте-грантом. Рассмотрены примеры.

Третий раздел содержит теорию компактных субдифференциалов второго порядка, приведены основные определения и теоремы.

Наконец, четвертый раздел посвящен приложению теории К-субдиффе-ренциалов второго порядка к вариационным функционалам с C1 -субгладким инте-грантом. Получена оценка второго К-субдифференциала основного вариационного функционала. Получены аналоги классических условий Лежандра, а также условий Лежандра - Якоби. Рассмотрены примеры.

1. КОМПАКТНЫЕ СУБДИФФЕРЕНЦИАЛЫ ПЕРВОГО ПОРЯДКА (ОБЗОР)

Для начала напомним основные определения.

Определение 1. Выпуклый конус X назовем нормированным, если для любого его элемента x € X определена неотрицательная величина (конус-норма) ||x||, обладающая следующими свойствами:

(i) (Ixl =0) ^ (x = 0);

(ii) ||x + yll < ||x|| + ||y||;

(iii) ||A • xH = A .||x|| (VA > 0).

Конус-норма индуцирует локально выпуклую конус-топологию в X.

Определение 2. Пусть (X, || • ||) — нормированный конус. Обозначим через Xk множество всех компактных выпуклых подмножеств X. Нетрудно проверить, что Xk образует выпуклый конус относительно поэлементного сложения множеств и умножения на неотрицательные скаляры. Нулем в Xk является множество {0}.

Введем норму в XK : ЦС|| = sup ||x||.

x&C

Теорема 1. Если X — банахов конус, то нормированный конус Xk — также банахов.

Определение 3. Пусть E — выпуклый конус, F — нормированный конус, Fk — нормированный упорядоченный конус выпуклых компактных подмножеств F (см.

определение 2). Сублинейный оператор А : Е ^ Гк назовем сублинейным К -оператором, или, коротко, К -оператором.

Сублинейный оператор f : Е ^ Мк назовем сублинейным К -функционалом, или, коротко, К -функционалом. В случае нормированного конуса Е, банахов конус сублинейных ограниченных К-операторов Ьзиь(Е; Гк) будем более коротко обозначать Ьк (Е; Г); банахов конус сублинейных ограниченных К-функционалов Ьзиь(Е; Мк) = Ьк(Е; М) более коротко обозначим Е*к.

Введем понятие К-композиции.

Определение 4. Пусть Е, Г, С — нормированные конусы, А € Ьк(Е; Г),

В € Ьк (Г; С). К -композицией [В ■ А] К-операторов А и В назовем многозначное

отображение:

Имеет место следующая теорема.

Теорема 2. Если А € Ьк(Е; Г), В € Ьк(Г; С), то [В ■ А] € Ьк(Е; С). При этом выполнено неравенство:

Определение 5. Пусть Е — нормированный конус, {В$}й>о — убывающая по вложению при 5 \ +0 система замкнутых выпуклых подмножеств Е с непустым компактным пересечением В. Множество В назовем К -пределом системы {В$ }^>о при

если Vи(0) С Е 35и > 0 (0 < 5 < 5и) (В& С В + и).

Всюду далее Е, Г — банаховы пространства, и(х) — окрестность точки х € Е, Н € Е — произвольное направление в Е, со — замкнутая выпуклая оболочка множества в Г.

Определение 6. Назовем К -субдифференциалом отображения f в точке х следующий

К-предел (если он существует):

дк f (х, Н) = К- 11ш со {У € Г I f (х + г ■ Н) = f (х) + г ■ У, 0 <г<5} . (1)

й^+0

В случае, когда Г — нормированное пространство, выражение под знаком К-пре-дела в (1) можно выразить в более привычной форме, через разностные отношения:

\\[В ■ А]\\ < \\А\\ ■ \\В||.

5 ^ +0 :

В = К— Иш Вё,

й^+0

дв / (х,Ь)

Отправляясь от К-субдифференциала по фиксированному направлению Н и действуя по аналогии с классической схемой, мы теперь вводим слабый К-субдиф-ференциал как сублинейный К-оператор по Н, К-субдифференциал Гато — как ограниченный сублинейный К-оператор, и наконец, К-субдифференциал Фреше по схеме "Гато" плюс "равномерная по направлениям сходимость в К-пределе

Определение 7. Будем говорить, что отображение f слабо К -субдиф-ференцируемо в точке х, если f К-субдифференцируемо в этой точке по любому направлению Н € Е, и К-субдифференциал по направлению дк f (х, Н) сублинеен по Н. Примем в этом случае обозначение дк f (х)Н = дк f (х, Н). Здесь дк f (х) : Е ^ Ек — сублинейный К-оператор.

Определение 8. Будем говорить, что отображение f К-субдифференцируемо по Гато в точке х, если f слабо К-субдифференцируемо в этой точке и слабый К-субдифференциал дк(х) ограничен (или, что равносильно, равномерно полунепрерывен сверху на Е). В этом случае сублинейный ограниченный оператор дкf (х) назовем К -субдифференциалом Гато отображения f в точке х.

Определение 9. Будем говорить, что отображение f К -субдифференцируемо по Фреше (или сильно К-субдифференцируемо) в точке х, если f К-субдиф-ференцируемо по Гато в этой точке, и сходимость в К-пределе

равномерна по всем направлениям Н, 0 < ||Н|| < 1. В этом случае К -оператор дк (х) назовем К -субдифференциалом Фреше (или сильным К -субдифференциалом) отображения f в точке х.

В случае нормированного пространства Е равенство (2) принимает вид:

Напомним определение полунепрерывности сверху.

Определение 10. Пусть Е, Е — нормированные конусы, Е индуктивно упорядочен, Л : Е Э и(х) ^ Е. Будем говорить, что отображение Л полунепрерывно сверху (или субнепрерывно) в точке х € Е (обозначение Л € С8ф(х)), если

дк f (х, Н)".

дк f (х)Н = К- 11ш ео[У € Е ^ (х + Н) = f (х) + г • У, 0 <г<5}

(2)

Уе > 0 3 5> 0 (||Н|| <6) ^ (Л(х + Н) ^ Л(х) + у, где ЦуЦ < е).

(3)

2. K—СУБДИФФЕРЕНЦИАЛ ОСНОВНОГО ВАРИАЦИОННОГО ФУНКЦИОНАЛА (ОБЗОР)

Теорема 3. Пусть для вариационного функционала b

4V) = J f(x,y,y')dx (y & C1[a; b],f & C1(R3),u = f(x,y,z)). (4)

a

интегрант f является C1 -субгладким: f & Cj^R3) (см. определение 10). Тогда Ф сильно K-субдифференцируем всюду в Cl[a; b], причём справедлива оценка:

Г b b ____■

/f д f df \ f íд f df \ (dy (X'V'V )h + dz (X'V'V )hJ dx; J [qV (x,y,y )h + dz (х,У,У )h'j dx

_a a .

(Vh & Cl[a; b]). (5)

Отметим частный случай оценки (5), когда интегрант образован внешней композицией субгладкой функции с гладкой.

Теорема 4. Пусть b

Ф(у) = J Ф [f (х,у,У)] dx (y & C>; b], f & C1(R3),ф & C^

a

Тогда справедлива оценка:

b

дкФ(у)h С

// o f д f \

Ф (f (x, y, y')) (dy (x, y, y')h + — (x, y, y')h'J dx

b

/(д f д f \ ф' f (x, V, y')) (ду (x, y, y')h + — (x, y, y')h'J dx

(Vh & C 1 [a; b]). (6)

a

Ещё один существенный частный случай представляет внутренняя композиция субгладкой функции с гладкой. Здесь, для простоты, мы рассмотрим композицию только по третьей переменной.

Теорема 5. Пусть b

Ф(У) = j f (х,У,ф(У))dx (y & C1 [a; b], f & C1 (R3),ф & C¡ub

a

Тогда справедлива оценка:

b

í df

дкФ(у^ С J dy(х,у,ф(У))hdx+

+

b b

г df г df _

dz (х,у,ф(у')) ' Ф(y'dx] dz (х,у,ф(у')) ' Ф(У)h ' dx

(h £ C 1[a; b]). (7)

Отметим, в качестве конкретных примеров, случаи интегрантов, образованных композицией гладкой функции и модуля.

Пример 1. Пусть

ь

Ф(у) = / и(х,у,у')\йх (у € С>; Ъ]^ € С1(М3)). (8)

а

После преобразований оценка (9) приводится к оценке

9кт„ с( I (|h+ f )rlx- J (|h+ f),fe) + I [-!;!](f)d

(y'>0) (y'<0) (y'=0)

(9)

В частности, если mes (y' = 0) = 0, то оценка (9) принимает вид точного равенства:

b / \ I' , (df 9f Л

дкФ(y)h = Ф (y)h = J stgn(y ) -I —h + т^М dx.

л. \ /

Пример 2. Пусть

ь

Ф(у) = У f (х,у, \у'\)(х (у € С 1[а; Ъ],f € С1(М3)).

а

После преобразований оценка (7) приводится к оценке: ь

[ дf [ дf дкФ(у)Н С у — (х, у, \у'\)Мх + J в1дп(у') • — (х,у, \у'\)Н'(х+

а (у'=0)

+

/ f(x,y, 0)h'dx;+ J df (x,y, 0)h'dx . (10)

( y'=0) (y'=0)

В частности, если mes (y' = 0) = 0, то оценка (10) принимает вид точного равенства:

дк Ф(y)h = Ф'(у)л, =

f f dy(x, у, \у l)h + sign(y ) - — (x, у, \у |)h

dx.

(11)

b

Экстремальные вариационные задачи с субгладким интегрантом... Пример 3. Пусть

ь

Ф(у) = ! f (х, 1у1,у')йх.

а

Здесь, после аналогичных преобразований, приходим к оценке:

ь

дкФ(у)Н С [ |

] \ |_д-

(у=о)

Т/ [ дf

—(х, 1у1,у )Нйх + J згдиу ■ —(х, 1у1,у )Мх+

+

[ Т/ . Г д/

—(х, 0,у )Нйх; + ~^~(х, 0,у )Мх } ду } ду

Т/ .

(12)

(у=0) (у=0)

В частности, если швв(у = 0) = 0, то оценка (12) превращается в точное равенство:

ь

дк Ф(у)Н = Ф'(у)Н =

дf дf ; 8гдиу ■ —(х, 1у1,у )Н + —(х, 1У1,У )Н

йх.

Заметим, что в рассмотренных примерах, как частный случай, мы находим и обычную вариацию, которая не поддается вычислению классическими методами. Основная вариационная лемма принимает следующий вид.

Теорема 6. Пусть фх,ф2 € Ь2[а; Ь]. Если - ь ь

0 € /I ым*)*

аа

то 0 € [фх; ф2\ С Ь2[а; Ь].

(VН € С [а; Ь])

Используя основную лемму и оценку К-субдифференциала вариационного функционала получаем аналог уравнения Эйлера-Лагранжа.

Теорема 7. Пусть ь

Ф(У) = ! /(х,У,у'^х и € С1иь(М3),У € С[а; Ь],у(а) = Уа,у(Ь) = уь). (13)

а

Тогда условие 0 € дкФ(у) равносильно выполнению "включения Эйлера-Лагран-

жа

0

/ /ч й (д1, Т/ ,

(х,у,у ) - (х,у,у )); (х,у,у )

д£ ду

йх\ д-

ду

й (Т/ . л - ^{д- (х,у,у )

(14)

почти всюду на [а; Ь]. В частности, если Ф достигает локального экстремума в точке у, то включение (14) для у выполнено почти всюду на [а; Ь].

Решение включения (14) назовём субэкстремалью функционала (13). Исследуем, в качестве существенного частного случая, случай модулированного интегранта из примера 1.

Теорема 8. Пусть ь

Ф(У) = /\/(х,у,у')\йх (/ € С 1(М3),у € С>;Ь],у(а) = уа,у(Ь) = уь). (15)

а

Для функционала (15) включение Эйлера-Лагранжа принимает вид альтернативы:

д/ й (д/ \ либ0 ду(х, y, у)- (х, y, у V =0 (при / (х, y, у) =0); (16)

либо /(х,у,у') = 0 (без дополнительных условий).

В частности, если твв(/(х,у,у') = 0), мы приходим к обычному уравнению Эйлера-Лагранжа для / (почти всюду).

Рассмотрим конкретный пример "модулированного" гармонического осциллятора.

Пример 4. Пусть

п/2

Ф(у)=У \у'2 - у2\йх. (17)

0

Здесь /(у, г) = г2 - у2, Ь(/)(у) = -2у - 2у''. При этом /(у, у') = у'2 - у2 = 0 ^

у' = ±у,

поэтому условие (16) примет вид:

либо y'' + y = 0, при y' = ±y либо y' = ±y, при y' = ±y

Решая уравнения в (18), приходим к условиям

либо y = C\ cos x + C2 sin x, либо y = M ■ e±x

Рассмотрим функцию

y = sin x, при 0 < x < n/4;

yc(x) = { V2

1 y = — e-n/4 ■ ex, при n/4 < x < n/2

(18)

(19)

Непосредственно проверяется, что функция yo(x) удовлетворяет паре условий (19). Таким образом y0(x) — субэкстремаль, при этом:

" V2

Уо(п/4 - 0) = sinп/4 = — = yo(п/4 + 0),

у0 (п/4 - 0) = cos п/4 = ^ = у0 (п/4 + 0),

откуда следует, что y0 € C:[0; п/2].

При этом прямая проверка достаточных условий Лежандра - Якоби показывает, что на экстремали yi(x) = sin x вариационный функционал

п/4

./2 „,2\

$i(y)=/(y'2 - y2)dx

0

достигает строгого локального минимума. Тогда из неравенства

п/4

ф 1(у) = I \у'2 - у2\йх > Ф1(у) > Ф1(у1)

0

следует, что вариационный функционал Ф 1(у) тем более достигает на экстремали у1(х) строгого локального минимума. Далее, поскольку вариационный функционал

/2

2 2

Ф2(y) = У У'2 - y2\dx

/4

л/2 _

неотрицателен и на экстремали у2(х) = -^в п/4 ■ ех обращается в нуль, то Ф2 достигает строгого локального минимума на экстремали у2(х). Наконец, поскольку

Ф(у) = фi( У )+Ф2( У

V [0; п/4]/ V

[п/4; п/2] /

то вариационный функционал (у) достигает строгого локального минимума на субэкстремали

( ) \ у1(х), 0 < х < п/4 ; = \ у2(х), п/4 < х < п/2 .

Таким образом, на данной субэкстремали уо(х) достигается строгий локальный минимум вариационного функционала (17).

В заключении рассмотрим вариационную задачу с модулем под знаком интегран-та (см. пример 2).

Теорема 9. Пусть

Ф(У) = ! /(х,у, \у'\)йх (/ € С 1(М3),у € С1[а; Ь],у(а) = уа,у(Ь) = уь). (20)

а

Для функционала (20) включение Эйлера-Лагранжа принимает вид следующей альтернативы:

" д/

ду ' а ' йх

Р , й (д/ \ -(х,у,у)-(х>у>у)) = 0(приу >°);

д/ й (д/ Л

ду(х,у, -у ) + ¿Худк: (х,у, -у )) =°(при у < °);

- Ш (ху а)Ь Ш ^°0

д/

° € ду(х,у, °) +

йх\дх ) йх

В частности, если твв(у' = °) = мы приходим к уравнению

(при у' = °).

(! (х,у, \у

д/ . й (д/ ду(х, у, \у 0 - (8гдп у ) • — [ д^(х' у' \у = ° (п' в)

(21)

3. КОМПАКТНЫЕ СУБДИФФЕРЕНЦИАЛЫ ВТОРОГО ПОРЯДКА.

Приведем вначале определение К-субдифференциала 2-го порядка, следуя стандартной индуктивной схеме. Всюду далее Е, Е — нормированные конусы, и(х) — окрестность х € Е, / : Е э и (х) — Е.

Определение 11. Пусть отображение / (сильно) К-субдифференцируемо на множестве и (х). Если отображение

дк / : Е э и (х) - Ьк (Е; Е)

К-субдифференцируемо в точке х, то будем говорить, что / дважды К -субдифференцируемо в точке х, и введем К -субдифференциал второго порядка от / стандартным индуктивным образом:

дК /(х) := дк (дк /)(х).

В случае нормированных пространств Е и Е, повторная К-субдифферен-цируемость / влечет обычную однократную дифференцируемость / в точке х.

Теорема 10. Пусть Е, Е — нормированные пространства. Если отображение / : Е э и(х) — Е дважды К-субдифференцируемо в точке х, то / дифференцируемо в обычным смысле в этой точке. В частности, если / дважды К-субдифференцируемо в окрестности и (х), то

дК / (х) = дк (/' )(х).

ь

На К-субдифференциалы 2-го порядка обобщается классическая теорема Юнга о симметричности второго сильного дифференциала. Вначале введем вспомогательное понятие.

Определение 12. Для фиксированных h,k € E предположим, что существует следующий К-предел :

dK f (x)(h,k) =

К— limcäiz € F f (x+th+sk)+f (x) = f (x+th)+f(x+sk) + (st)z 0 <t,s <ö\, (22)

<5^+0 L J

который назовем бисимметрическим вторым К -субдифференциалом f в точке x по паре направлений (h,k).

Важный результат этого раздела: в случае банаховых пространств E и F, второй К-субдифференциал дК f (x), если он существует, совпадает со вторым бисимметрическим К-субдифференциалом dK f (x) и, как следствие, является симметрическим бисублинейным оператором.

Теорема 11. Пусть E и F — банаховы пространства, f : E D U(x) — F. Если отображение f дважды К-субдифференцируемо в точке x, то f также бисим-метрически К-субдифференцируемо в точке x, причем

dK f (x)(h,k) = dK f (x)(h,k).

В частности,

dKf (x)(h,k) = dKf (x)(k,h) (Vh, k € E).

Примененный нами подход позволяет использовать индукцию для определения К-субдифференциала n-го порядка. Далее, как и в предыдущем пункте, E и F — нормированные конусы, U(x) — окрестность точки x € E, f : E D U(x) — F.

Определение 13. Пусть отображение f К-субдифференцируемо (n—1) раз в U(x). Если отображение:

dK-1f : E D U(x) —- Lk(E^; F) =: L(E; F)

n— 1

К -субдифференцируемо в точке x, то мы будем говорить, что f n 'раз К -субдифференцируемо в точке x и введем К -субдифференциал n-го порядка от f стандартным индуктивным образом:

dKf (x) := дк(dK—1f)(x).

В случае нормированных пространств E и F, n-кратная К-субдиф-ференцируемость f в точке x влечет обычную (n — 1)-кратную дифференцируе-мость f в этой точке.

Теорема 12. Пусть Е, Е — нормированные пространства. Если отображение

: Е Э и (х) ^ Е п 'раз К -субдифференцируемо в точке х, то дифференцируемо (п — 1) раз в обычном смысле в этой точке. В частности, если п раз К-субдифференцируемо в и (х), то

dK f (x) = дк( f(n-1)) (x). (23)

Теорема 13. Пусть E, F — нормированные конусы, отображение f : E D U (x) ^ F (n — 1) 'раз K -субдифференцируемо в точке x un 'раз K -субдифференцируемо в проколотой окрестности U(x). Если отображение dK f : E D D U(x) ^ LK(E; F) субнепрерывно в точке x (&K f € Csub(x)), т. е. при некотором Vlx € LK (E ; F) верно:

Ve> 0 3 S> 0(0 < \\h\\ <S) ^ (dK f (x + h) ± Vnfx x + Y, где У Y \\ < e),

то f K -субдифференцируемо n раз в точке x, причем dK f (x) ^ Dn x.

Определение 14. Будем говорить, что f : E D U (x) ^ F — субгладкое отображение n-го порядка (или Cn-субгладкое отображение) в точке x, и писать f € C'nub(x), если d'Kf € Csub(x). В случае n = 0 мы отождествляем классы C0ub(x) и Csub(x).

Перенесем на случай высших порядков достаточное условие n-кратной K-субдифференцируемости в терминах частных K-субдифференциалов.

Теорема 14. Пусть E1, ...,En,F — нормированные конусы, f : Ei x ... x Em D U (x) ^ F. Тогда

(f € CSUb(x)) ^ ((i),.^),, )K € Csub(x), (V 1 < ii < ... < in < m))

3&-

f(x) .

Рассмотрим формулу Тейлора в форме Пеано лишь в случае отображений в нормированных пространствах. В этом случае только последнее слагаемое в многочлене Тейлора будет многозначным, что существенно упрощает применения.

Теорема 15. Пусть Е, Е — нормированные пространства, : Е Э и(х) ^ Е. Если К -субдифференцируемо п раз в точке х, то:

п— 1

f (x + h) — £ 1 f (k)(x) • (h)k k=0 '

1

— ndK f (x) ■ (h)n = o(\\h\\n). (24)

Если при этом К -субдифференцируемо п раз в окрестности х, то равенство (24) принимает вид:

п1

k=0

f (x + h) — £ - f (k)(x) ■ (h)k — ndK( f (n-1)(0(h)n-1) (x)h = o(\\h\\n ).

Следствие 1. В условиях теоремы 15 справедлива оценка:

n-1

f (x + h) 1 f (fc)(x) • (h)

k=Q

€

^ dK f (x)(h)n + о

)

(25)

Если при этом К -субдифференцируемо п 'раз в окрестности х, то оценка (25) принимает вид:

n— 1

— 1 1 f (х + Л) - £ ^ f <*>(х) • (Л)* е п%(f (п-1)(-)(ЛГ-1)(х)Л + о(||ЛГ).

Перейдем к условиям экстремума в терминах К -субдифференциалов. Начнем с К-аналога леммы Ферма в традиционной для выпуклого анализа форме.

Теорема 16. Пусть Е — нормированное пространство,

: Е Э и(х) ^ М. Если функционал достигает локального экстремума в точке х и К -субдифференцируем в этой точке, то У Л е Е :

/ df df (0 € dKf (x)h) ^ ( dh(x) < 0 < dh(x)

О1

(26)

В частности, в случае f : Rm двойных неравенств:

R условие (26) принимает вид конечной системы

(27)

(x) < 0 < f(x)\ . [dxi dxi \i=Ym

> R система (27) сводится к неравенству:

Наконец, в случае f :R

df df i~Jx) <0 < i~Jx)-

Рассмотрим теперь условия 2-го порядка, предварительно введя необходимый аппарат теории квадратичных К-форм.

Определение 15. Пусть E — выпуклый конус. Отображение B : E —^ Rk назовем квадратичной K-формой, если:

B(Ah) = А2 • B(h) (Vh € E, VA > 0).

K-форма B неотрицательна (B > 0), если

maxB(h) > 0 (V h € E).

K-форма B положительна (B > 0), если

min B(h) > 0 (V h € E \ {0}).

1Здесь d'Kf (x)h = [min(df (x, h), —df (x, —h));max(df (x, h), —df (x, — h))] - так называемый симметризованный K-субдифференциал функционала f (см. [2])

k

В случае, когда Е — нормированный конус, скажем, что К-форма В положительно определена (В ^ 0), если для некоторой положительной константы 72 :

min B (h) > y

22

(V h € E).

Условия В < 0, В < 0 и В ^ 0 вводятся, как обычно, с помощью перехода к К-форме (-В).

Теорема 17. Пусть Е — нормированное пространство. Если функционал

: Е Э и(х) ^ М дважды К-субдифференцируем в окрестности точки х, то У Л е Е, ||Л|| = 1, выполнено равенство:

д , д , dhf <•№; dh(f ()h)

(аК )f (х)(Л)2 =

Приведем необходимое условие второго порядка для минимума

d2f Q2f dh2(x); dh2(x)

Теорема 18. Пусть Е — нормированное пространство, : Е Э и(х) —^ М. Если функционал достигает локального минимума в точке х и дважды К-субдифференцируем в окрестности этой точки, то УЛ е Е, ||Л|| = 1, выполнено неравенство:

((¿K)sf (x)(h)2 > 0) ^ (x)(h)2 > 0).

(28)

В частности, в случае : Мт —> М неравенство (28) принимает вид условия неотрицательности максимума т-мерного отрезка, соединяющего "нижнюю" и "верхнюю" матрицы Гессе для :

max

J2f (x)(h)2 = ( ¿f (x))(h)2; J f (x)(h)2 =

( д2 f А

\dxidxjj

(x)(h)

> 0. (29)

Обозначая J2f (x),..., J|m f (x) — вершины матричного отрезка, условие (29) можно переписать в более простой форме:

1<Гпахт(J\f (x)(h)2) > 0 (Vh € Rm).

(30)

Наконец, в случае : М —> М матричное неравенство (30) превращается в скалярное неравенство:

Ш2(х) 2 0.

Выпишем теперь достаточного условие локального минимума в терминах второго К-субдифференциала. Заметим, что вывод условия (32) в нем опирается на конечномерную форму теоремы Крейна-Мильмана.

Теорема 19. Пусть Е — нормированное пространство, : Е Э и(х) —^ М, функционал дважды К-субдифференцируем в точке х, причем '(х) = 0. Если выполнено условие:

д2кf (х) » 0, (31)

то достигает строгого локального минимума в точке х.

В частности, в случае : Мт —^ М неравенство (31) принимает вид условия положительной определенности набора "крайних" точек т-мерного отрезка [J2f (х); (х)] :

J12f (х) » 0; J22f (х) » 0;...; J¡m f (х) » 0. (32)

Наконец, в случае : М —^ М система матричных неравенств (32) сводится к одному скалярному неравенству:

d2f

1х1(х) >0.

Доказательство. По К-лемме Ферма 0 € дкв1'(х), при этом если существует дК f (х), то существует ^ в окрестности точки х, т.е. приходим к условию ^(х) = 0.

По обобщенной формуле Тейлора второго порядка для любого достаточно малого Н получаем: f (х + Н) — f (х) — ^(х)Н — 1 д2f(х)(Н)2 = о(||Н||2), откуда при достаточно малых ||Н|| верно:

0 < f (х + Н) — f (х) € 2д2f (х)(Н)2 + о(ЦНЦ2). (33)

Выберем е настолько малым, чтобы при ||Н|| < е величина о(||Н||2) в равенстве (33)

72

удовлетворяла условию ||о(|Н|2)| < — ||Н||2. Тогда при ||Н|| < е :

„2

/ 1 \ (т! 2дКf (х)(Ш)2 + о(рН||)2) > у||Н||2 > 0. (34)

Из формулы Тейлора, как уже отмечалось, вытекает включение

f (х + Н) — f (х) — Г(х)Н € 1 дКf (х)(Н)2 + о(ЦНЦ2). Отсюда, в силу (34), получаем

f (х + Н) — f (х) > 72||Н||2 > 0

при достаточно малом ||Н|| > 0, т.е. f достигает строгого локального минимума в точке х. □

4. ВТОРОЙ К-СУБДИФФЕРЕНЦИАЛ ОСНОВНОГО ВАРИАЦИОННОГО

ФУНКЦИОНАЛА.

Обобщим классическую форму второй вариации на случай субгладких интегран-тов класса С^ДМ3). При этом, как и в случае дкФ, точное равенство переходит в оценку дК Ф.

Теорема 20. Рассмотрим вариационный функционал

ь

Ф(у) = ! f (х,У,Уи € С2иь(М3),у € С>; Ь]). (35)

а

Функционал (35) дважды К-субдифференцируем всюду в С 1[а; Ь], причём справедлива оценка:

ь

Г ( д 2 Г \

дКФ(У)(Н)2 ^ у (ду!(х,у,у')Н2 + (х,У,У)НН'Ых;

ь /

а

п. 4

д 2 f

д2Ъ

(х,у,у )Н2 + ——(х,у,у

ду

дудг

о, у, у)НН^

dx

+

+

( д 2 Ъ д2f \

Ыу (х,у,у')НН'+ш (х,у,у')Н'2;

ь /

а

п \

д2и д2и

— (х,у,у )НН+ ^ (х,у,у

)Н 2

dx

(36)

Здесь, как и при оценке дкФ, мы также выделим случай интегранта, образованного внешней композицией субгладкой функции (теперь уже класса С2иь) с гладкой.

Теорема 21. Пусть

Ф(у) = у ф[Ъ (х,у,у)] dx (Ф € С2иь(М),1' € С 2 (М3), у € С 1[а; Ь]).

а

Тогда Ф дважды К -субдифференцируем всюду в С 1[а; Ь], причём справедлива оценка (в краткой записи):

ь 2

дКФ(у)(Н)2 С | ф'(и) ■ (дуН + ■ fdx+

а

ь ь

/ (и) ■ Шу)2Н2 + ъгНН') dx; I ф(и) ■ )2Н2 + ^хНН') dx

+

+

ь

ь

+

/&) ' (/у*ЛЛ' + (Н)2Л'2) йх^ ) ■ (НугЛЛ' + (Д)2Л'2) йх

(37)

_а а

Доказательство. Непосредственные вычисления дают:

)у2 = Ф' ■ (fy)2 + Ф(Н) ■ О*; т)у2 = Ф7(f) ■ (Ну)2 + Ф(f) ■ О*;

)г2 = Ф' ■ (а)2 + Ф(Н) ■ а*2; т)г2 = Ф7(f) ■ (а)2 + Ф(Н) ■ ^;

Ф(f )уг = Ф' ' 1у ■ и + ф (f) ' Уф; Ф(1')уг = ) ' 1у ■ Ь + ф (f) ' 1уг. Подстановка этих величин в (36) приводит, после преобразований, к оценке (37). □

Рассмотрим, в качестве конкретного примера, класс интегрантов вида f (х,у,у') ■ \1' (х,У,у )|.

Теорема 22. Пусть ь

Ф(у) = [ f(x,y,y') ■ (х,у,У)\йх (Н е С2(М3),у е С>;Ь]).

Тогда справедлива оценка (в краткой записи): ь

д2кФ(у)(Л)2 с/н1уЛ + ауЛ^ ■ fdx + 2 I signf ■ ^у ■ Л + Д ■ Л')2 ■ йх+

(/=0)

+

-2

У (ну2Л2 + нУ^ЛЛ') йх; +2 У (нУ2 Л2 + НугЛЛ') йх

(/=0)

(/=0)

+

+

(38)

-2 I (НугЛЛ' + ^2Л'2) йх; +2 У (НугЛЛ' + ^2 Л'2) йх

(/=0) (/=0) В частности, если mes(f (х, у, у') = 0) = 0, то оценка (38) переходит в точное равенство:

ь

2 2 2

дКФ(у)(Л)2 = Ф"(у)(Л)2 = У и\ ^ддуЛ + дН ■ ийх+

2

+21 ^дпа •(д^ + ■ ^х.

а

В заключение приведём простейший пример.

ь

ь

Пример 5. Пусть

b

Ф(у) = J У' • \dx.

a

Здесь применение оценки (38) приводит к точному равенству:

дк$(y)(h)2 = Ф''(y)(h)2 = 2 J (sign y')h'2dx = 2 J h'2dx - 2 J h'2dx.

(y'=0) (y >0) (y'<0)

В частности, если mes(y' = 0) = 0, получаем:

b

дК Ф(У)(Ь)2 = Фк (y)(h)2 = 2 I (sign y') • h'2dx.

Обобщим классическое необходимое условие Лежандра для минимума основного вариационного функционала на класс интегрантов второго порядка субгладкости. Как и в классическом случае, базовым является соответствующее условие неотрицательности квадратичного функционала.

Теорема 23. Рассмотрим квадратичный функционал ь

Ф(Н) = ! [Р(х)Ь!2 + Я(х)Н2] dx (Н € С 1[а; Ь], Н(а) = Н(Ь) = 0).

а

Если коэффициенты Р(х) и Q(x) ограничены, Р(х) полунепрерывен сверху всюду на [а; Ь], и Ф(Н) > 0 при всех допустимых Н, то

Р(х) > 0 всюду на [а;Ь].

Доказательство. Допустим противное: (хо) < 0 в некоторой точке хо € [а; Ь]. Тогда, в силу полунепрерывности сверху в точке хо, Р(х) < 0 в некоторой ¿-окрестности хо. Положим, следуя классической схеме:

х — х0

1 +---— I при х0 — 6 < х < х0;

{ Г( x - xo\

h(x) =

( x - xo\

I1 -—)

\[5 ( 1--] при x0 < x < x0 + 5;

5

0 приостальных x € [a; b]. Стандартная выкладка приводит к равенству

жо+й жо+й

22

Ф(h)= J Q(x)h dx + J P(xhdx =: Фq(h) + Фp(h). (39)

жо-й жо-й

Оценим оба слагаемых в (39).

а) В силу ограниченности Q,

х о+6

\Фд(Л)\ < MQ ■ ! Л2dX = 2Ыд ■ 5. (40)

хо-6

б) В силу теоремы Вейерштрасса для полунепрерывных сверху функций, Р(х) < —тР < 0 при х е [х0 — 5; х0 + 5]. Отсюда

х о+6

~ ( 2 1 тР

Ф р (Л) <—тР ■ Л2йх = —тР ■ — 25 =--. (41)

52

хо-6

Из (40) — (41) получаем:

тР

Ф(Л) < — —+ 2Мд ■ 52 < 0 при достаточно малых 5 > 0, что противоречит условию. □

Из теоремы 23, общей оценки дК (Ф) (теорема 20) и общего необходимого условия минимума в терминах второго К-субдифференциала (теорема 18) нетрудно получить необходимое условие второго порядка для минимума вариационного функционала с интегрантом из класса С^иЬ (М3).

Теорема 24. Рассмотрим вариационный функционал ь

Ф(у) = /а(х,у,у')йх (а е С.2«ь(М3),у е С>;Ь],у(а)= уа,у(Ь) = уь). (42)

а

Если функционал (42) достигает локального минимума в точке у е С*[а; Ь], то

да .

т—2 (х,у,у ) > 0 всюду на [а;Ь]. (43)

дх2

Доказательство. Применим по формуле (36) оценки дКФ(у)(Л)2 интегрирование по частям к слагаемым под интегралами, содержащим множитель ЛЛ , и преобразуем полученную сумму отрезков как выпуклую оболочку крайних точек:

ь

дКФ(у)(Л)2 с Г

а

п ^

д2и <\ й(д2а( , \\ ду2(х,у,у) — ¿х{дудХ(х,у,у ]))Лйх;

} (ду2 (х,у,у) — Л2йх

+

+

'д2] dz2

(x, y, y ) h2 dx;

д2] dz2

xy,y'h - Т^Ш™* 12

. ,2 did2] \ 21 (x,y,y )h - — ——(x,y,y) h \dx

= co

д2] (д2] dz2(x,y,y)h'2 + ( ay?(x,y,y')-

-i(l]x,y,y') + Uy(x,y,y'^ h

)

( д2]

\дж

d ( д2]

д 2]

дf дх2

(x, y, У )'h +

+ -БГ2(x, У, у') - ^ 7^z(x, У, у') + ^:zг(x, У, у'Л h

dx\ дудх

дхду

)

д2] дх2

(x,y,y' )h'2 + I x,y,y' )-

d ( д2] д2]

--1 -(x, У, У ) +-(x, У

dx\ дудх 55 дхду '

\ду2

(

, y, y )

д2]

—( ду2

h2

д] дх2

d д2]

(

+ I ~дУ2(x, У, у') - dx I ddz(x У, у') + дZдУ(x, У

д 2] дхдуу

(x, У, У )h'2+

, y, y ) h2 dx =:

dx \ дудх

=: co {Ii(h), I2(h), h(h), h(h)} . (44)

Далее, по необходимому условию второго порядка для минимума (теорема 18),

max д2КФ(у)(К)2 > 0 (У h € C1 [a; b], h(a) = h(b) = 0). Из оценки (44) и последнего условия получаем:

max {Ii(h), I2(h), I3(h), I4(h)} > 0. (45)

Обозначим теперь:

л д2]

i д2] . д2] \ ^ ,

р(x) = max ( дz2(x,y,у ), ~дХ2(x,у,у )i= ^(x,у,у );

(

Q(x) = max

ду2

дх2 d f д2]

д2]

—( дх2

(

dx \ дудх

д2] дхдуУ

(x, У, У) - dx ( t^t^x, У, У) + т^тУ.x, У д2]г d ( d2f д2]

, у, у'

ду

;(x,y,y') - -г-

G

dx\ дудх^1 У,У ) + дzдy^X, У

,У,У'

b

b

b

b

2

b

b

(Wf . d ( д2] . d2f Л\

(x y,y ) " dX y,y ) + Шду{Х> y,y ])) '

( д] . d ( д] д2] W

[ Of(x y,y ) - -dx{dïd-z(x y,y ) + ddy(x y,y ï)) ■

b _

Положим I(h) = f (P(x)h'2 + Q(x)h2)dx. Тогда из неравенств Ik(h) < I(h) k = 1, 4 и

a

неравенства (45) следует I(h) > 0 при любом h € C 1[a; b] h(a) = h(b) = 0. Применяя теперь к I(h) теорему 23, получим:

д2] . P (x) = dz2 (х,У,У ) > 0 (a < x < b).

□

Приведём конкретный пример с ещё одним вариантом модуляции гармонического осциллятора.

Пример 6. Пусть

п/2

Ф(у)=/(у' •Iv'\- y2)dx (y е C 1[0; 2], y(0) = 0, y(2) = 1). о

Ограничимся рассмотрением функций у е С 1[0; Т], для которых множество стационарных точек имеет нулевую меру: mes(yl = 0) = 0. Для таких функций уравнение Эйлера-Лагранжа принимает вид:

у'' + у = 0 при у' > 0

(почти всюду на [0; Т]) ; (46)

у — у = 0 при у < 0.

Далее,

Йxvv') = { 2 V - 0

9z2 [-2, y'< 0.

Таким образом, ни одна немонотонная функция не удовлетворяет ни условию (43) ни сопряженному неравенству для максимума:

д2а

dz2

(x,y,V) < 0 почти всюду на [a;b].

Среди монотонных функций (при данных граничных условиях) уравнению (46) удовлетворяют функции y = sin x и y = shx/sh П.

Обобщим классические условия Лежандра-Якоби на случай квадратичных функционалов с ограниченными и полунепрерывными снизу коэффициентами Р (х) и Q(x). Заметим, что понятие сопряжённой точки переносится на этот случай без изменений.

Теорема 25. Рассмотрим квадратичный функционал

ь

ф(Ь) = у (Р(х)Ь'2 + Q(x)h2) йх (Ь £ СЬ]), (47)

а

коэффициенты которого Р(х) и Q(x) ограничены и полунепрерывны снизу на [а; Ь]. Если для функционала (47) выполнены условия (г) Р(х) > 0 при а < х < Ь;

(гг) отрезок (а; Ь] не содержит точек, сопряженных с а; то он положительно определён в С:[а; Ь].

Доказательство. Следуя стандартной схеме доказательства для гладкого случая, добавим к выражению, стоящему под знаком интеграла в (47) величину вида й(иЬ2); при этом значение интеграла не изменится. Если и(х) удовлетворяет уравнению

Р ^ + и' ) = и;2, (48)

то функционал (47) приводится к виду:

ь

~ ( , и 0

Ф (Ь) = Р (Ь + ^Ь)2йх.

а

Стандартным образом проверяется, что ф(Ь) > 0 при Ь = 0, с учетом того, что из полунепрерывности Р снизу на [а; Ь] следует Р(х) > 72 > 0 и ограниченность (1/Р(х)). Отсюда в силу квадратичности функционала ф, следует его положительная определенность.

Остается показать, что уравнение Риккати (48) имеет решение. Стандартными преобразованиями оно приводится к уравнению

й

- йх(Ри') + QU = 0,

т. е. к уравнению Якоби для функционала (47). По условию, это уравнение имеет решение и(х), которое не обращается в нуль при а < х < Ь. Тогда существует и решение уравнения (48), определенное равенством и = —Ри'и-1. Итак, функционал (47) положительно определен на С 1[а; Ь].

□

Теперь перейдём к центральному результату.

Теорема 26. Рассмотрим вариационный функционал ь

Ф(у) = / /(х,у,у')йх (/ £ С2„ь(М3),У £ С 1[а;Ь],у(а) = Уа,у(Ь) = уь). (49)

Предположим, что у — субэкстремаль функционала (49), т. е. почти всюду удовлетворяет уравнению Эйлера-Лагранжа. Пусть вдоль субэкстремали у выполнены следующие условия:

д2/

(1) т—2-(х, у, у') > 0 при а < х < Ь ("нижнее" усиленное условие Лежандра); ох2

(п) для каждого из четырёх уравнений Якоби, соответствующих вершинам двумерного матричного отрезка [У2/(х); 3 /(х)]:

й 'д/

(х дх2

й 'д/

йх дх2

й 'д/

йх дх2

й 'д/

йх дх2

й( д2/ , Л д2/ Л д2/ --1 -(х, у, у ) + дхду (х,у,у ) ) + ду2 (х,у,у )

йх\ дудх

дхду

ду2

(1(02 / ()2/ Ч д2 /

—1х{дуд-х(х,у,у) + дХду(х,у,у V + ду2(х,у,у) (/

йх\ дудх

(1 ( д2/ , Л д2/ Л д2/ --1 -(х, у, у ) + дхду (х,у,у ) ) + ду2 (х,у,у )

дхду

д2/ ( дхду

ду2

..л , °2/ х у у'Л , д/(

ду2

й ( д2 / д2 / Ч

—йхУдудГх(х,у,у) + дду(х,у,у V + ду2(х,у,у)

Ь = 0;

(50) Ь = 0;

(51) Ь = 0;

(52) Ь = 0;

(Ь(а) = 0, Ь (а) = 1)

выполнены условия Якоби отсутствия сопряжённых точек.

Тогда функционал (49) достигает строгого локального минимума в точке у.

(53)

(54)

Доказательство. Воспользуемся оценкой для д2кФ(у)(Ь)2, полученной в доказательстве теоремы 24: ь

д2кФ(у)(Ь)2 С со

{/

д2/ ..я, /д2/ й(д2/ д2/ '

дХ2(х,у,уду2(х,у,у)—ах{дудГх+дудТх(х,у,у) >

дх2

, '^2 , [д2/, (1 ( д2/ д2/ (х, у, у )Ь + ттг(х, у, у ) — ^ тгтг + у, у ) Ь

ду

йх\ дудх дудх

ь

2

148 З. И. Халилова

Ь \дЧ . 2 [дЧ . d / д2 / д/ . \\ / d

^2 , (д2Ч d ( д2/ д2/ \\ 2

(х,У,У)Н Чду?(х,у,у ) — + дУд~г(х,у,у)))Н

а

"дх2(х, у,у )Н Чду2(х, у,у ) — -¿х{дУдТг + дУд~г(х, у,у ))) Н _ **) =:

=: со.Н), .12(Н), .Н(Н), . (55)

Проведем оценку каждого из интегралов .(Н), к = 1,4, пользуясь результатом теоремы 25. а) Положим

д2/ . (д2/ d ( д2/ д2/ Р1(х = м(х,у,у); ^(х) Чм(х,у,у) — +ду^(х,у,у)

Тогда уравнение Якоби для квадратичного функционала

Ь

2

.1(Н) = {\Р1(х)Н'2 + Ql(x)h2]dx

примет вид (50). Таким образом, если выполнено условие Якоби для уравнения (50) и усиленное условие Лежандра

д2/

рлх) = (х, у, у ) > 0 (а < х < Ь), то квадратичный функционал .1 (Н) положительно определен:

.1(Н) > 72 • Щ\2 (УН € С 1[а; Ь], Н(а) = Н(Ь) = 0).

Ь) Аналогичным образом, обозначая через Рк(х) и Qk(х), соответственно, коэффициенты при Н 2 и Н2 для функционалов

Ь

.к(Н) = I[Рк(х)Н'2 + Qк(х)Н2^х (к = 2,3,4),

а

мы приходим к условию Якоби для уравнений (51)-(53) и усиленным условиям Лежандра вида:

ддЧ .

Р2(х) = (х, у, у ) > 0;

д2/ , д2/ Рз(х) = (х,у,у ) > 0; Р4(х) = д^2 (х, у, у ) > 0 (а < х < Ь).

Отсюда вытекает положительная определенность квадратичных функционалов .к(Н), к = 2, 3, 4:

.2(Н) > ^Ш2; .Н(Н) > ~11\\Н\\2; .А(Н) > ^Щ2 (УН € С 1[а; Ь], Н(а) = Н(Ь) = 0).

Таким образом, обозначая = тт^, ^2, Тъ, 11} > 0, приходим к следующему итогу.

При выполнении Якоби для каждого из уравнений (50)-(53) и усиленного условия Лежандра в форме

д2/

(х, у, у ) > 0 (а < х < Ь),

выполнены неравенства

.к(Н) > т2 •М2.

Но тогда из оценки (55) вытекает неравенство д\Ф(у)(Н)2 > • \\Н\\2, т.е. дКФ (у) также положительно определен. Следовательно, в силу общей теоремы 19, Ф достигает строгого локального минимума в точке у. □

Замечание 7. При переходе к достаточным условиям максимума в теореме 1, условие (г) заменяется на условие:

df dz2

(x, y, y') < 0 при a < x < b.

Условие (ii) остаётся без изменения.

В заключении рассмотрим пример применения теоремы 1 к ещё одному варианту одулирования" г

Пример 7. Пусть

"модулирования" гармонического осциллятора.

п/2

Ф (y) = j (py'2 - qy\y\)dx,

-П/2

( „iT п п] (п\

[y € с1 - ^ ,y{ 2)=sin

p • 2) ,y (-D= -sh

(56)

q п \ \

P • 2) ,p> 0,q> .

Здесь уравнение Эйлера-Лагранжа принимает вид:

"py'' + qy = 0 (y > 0); py - qy = 0 (y < 0).

Таким образом, функция у = sin | x) (0 < x < П), y = -sh x

(—П < x < 0), является субэкстремалью функционала (56); при этом y € С2[—П; П]

'Нижнее" условие Лежандра для субэкстремали у выполнено:

д2/ , д2/

(х,У,У ) = (Х,У'У ) = 2Р> 0

'Нижнее" уравнение Якоби (50) принимает вид:

рН" + дН = 0(у' > 0);

(Н(-П) = 0.Н' (-1) = 1)

рН ' - дН = 0(у' < 0). Отсюда

Н(х) =

81П

вН

- х | • сН П + ссе

-Х\ + 2

• вН 2 (0 < х < 2)

2

(-2 < х < 0),

и условие Якоби для уравнения (50), как легко видеть, выполнено. Условие Якоби

для уравнений (50)—(54) проверяется аналогично.

Таким образом, вариационный функционал (56) достигает на субэкстремали

81П

вН

(0 < Х < П);

(-2 < х < 0);

строгого локального минимума.

Автор выражает признательность профессору И. В. Орлову за постановку задачи и полезные обсуждения.

У

Список литературы

[1] Басаева Е. К. О субдифференциалах не всюду определенных выпуклых операторов // Владикавказский математический журнал. - 2006. - 8, № 4. - С. 6-12.

[2] Орлов И. В. Введение в сублинейный анализ // Современная математика. Фундаментальные направления. — 2014. (В печати).

[3] Орлов И. В., Стонякин Ф. С. Компактные субдифференциалы: формула конечных приращений и смежные результаты // Современная математика. Фундаментальные направления. — 2009. — 34. — С. 121-138.

[4] Орлов И. В., Халилова З. И. Компактные субдифференциалы в банаховых конусах // Украинский математический вестник. — 2013. —10, № 4. — С. 532-558.

[5] Орлов И. В., Халилова З. И. Компактные субдифференциалы в банаховых пространствах и их применение к вариационным функционалам // Современная математика. Фундаментальные направления. — 2013. —49. —С. 99-131.

[6] Решетняк Ю. Г. Условия экстремума для одного класса функционалов вариационного исчисления с негладким интегрантом // Сибирский математический журнал. — 1987. — 28, № 6. — С. 90-101.

[7] Стонякин Ф. С. Аналог теоремы Данжуа-Юнг-Сакса о контингенции для отображений в пространства Фреше и одно его приложение в теории векторного интегрирова-нияю // Труды ИПММ НАН Украины. - 2010. -Том 20. -C. 168-176.

[8] Тихомиров В. М. Выпуклый анализ //Современные проблемы математики. Фундаментальные направления. — 1987. — 14. — С. 5-101.

[9] Халилова З. И. ^-сублинейные многозначные операторы и их свойства // Ученые записки ТНУ им. В.И. Вернадского. Серия "Физико-математические науки". - 2011. — 24 (63) , № 3. — С. 110-122.

[10] Халилова З. И. Компактные субдифференциалы высших порядков и их применение к вариационным задачам // Динамические системы. - 2013. — 3(31) , № 1-2. — С. 115-134.

[11] Халилова З. И. Применение компактных субдифференциалов в банаховых пространствах к вариационным функционалам // Ученые записки ТНУ им. В.И. Вернадского. Серия "Физико-математические науки". - 2012. — 25 (64) , № 2. — С. 140-160.

[12] Orlov I. V., Stonyakin F. S. impact variation, compact subdifferentiability and indefinite Bochner integral // Methods of Functional Analysis and Topology. — 2009. — Vol. 15 (1). -P. 74 - 90.

[13] Демьянов В. Ф. Условия экстремума и вариационные задачи. - СПб.: НИИ Химии СПбГУ, 2000. - 136 с.

[14] Дмитрук А. В. Выпуклый анализ. Элементарный вводный курс. - М.: Издательский отдел факультета ВМК МГУ имени М. В. Ломоносова; МАКС Пресс, 2012. - 172 с.

[15] Рокафеллар Р. Выпуклый анализ. — Москва: Мир, 1973. — 472 с.

[16] Ekeland I., Temam R. Convex analysis and variational problems. - North - holland publishing company - Amsterdam, Oxford, American elservier publishing company, inc. - New York, INC.-NEW YORK, 1976. -400 p.

Екстремальш вар1ацшш задач1 i3 субгладким штегрантом

У роботг розглянутг додатки теорп компактних субдгференцгалгв до варгацгйних задач гз субгладкгм гнтегрантом. Отримано аналоги класич-них умов Лежандра г Лежандра - Якобг. Розглянутг приклади.

Ключовi слова: субгладкий штегрант, компактний субдiференцiал, включення

Ейлера - Лагранжа, узагальнеш умови Лежандра - Hrao6i

Extreme variational problems with subsmooth integrand

SubdifferenUals as a tool of nonsmooth analysts, have been recognized for a long Ume m mathemaUcs. Begm^ng wzth the classzcal subdfferenUal of a convex funcUonal there appeared and there conUnue to appear new defimtions

of subdifferentials designed for application to different classes of extremal and other nonsmooth problems.

Based on the definition of a compact subdifferential (or K-subdifferential) for maps of the real scalar argument introduced in the works of Orlov I.V. and Stonyakin F.S. to investigate the problems of integration of the vector integration, K-subdifferential is a compact convex set and when the set is reduced to a point, it reduces to the usual differential. K-subdifferential enable to obtain the significant results in the theory of the Bochner integral. Theory of the first order K-subdifferentials was built in the works by Orlov I. V., Stonyakin F. S, Khalilova Z. I. and includes applications to extreme variational problems with nonsmooth integrand.

The present work is devoted to a detailed consideration of the application of K-subdifferential calculus to research of extreme variational problems with nonsmooth integrand. The nonsmooth analogues of the main variational lemma, Euler-Lagrange equation, simple and strengthened Legendre condition and the Legendre-Jacobi conditions for basic variational functional are obtained. The work consists of four sections.

The first section provides a brief overview of the theory of the first order K-subdifferentials and contains the basic concepts of the theory of normed cones. The second section provides a brief overview of the application of compact subdifferentials to variational functionals with nonsmooth integrand. Some examples are considered. The third section contains the theory of second-order compact subdifferentials, the basic definitions and theorems are given.

Finally, the fourth section is devoted to the application of theory of second-order K-subdifferentials. An estimation of the second K-subdifferential of basic variational functional is obtained. Analogues of classical conditions Legendre and Legendre - Jacobi are obtained. A corresponding result is considered.

Theorem 1. Let's consider the variational functional b

HV) = j f(x,y,y')dx (f £ C2sub(Ri),V £ Cl[a; b],y(a) = ya,y(b) = yb). (*)

a

Let's assume that y is subextremal of the functional (*), i.e. y almost everywhere satisfies the Euler - Lagrange equation. Suppose that the following conditions satisfy along the subextremal y:

d2f

(i) —2(x,y,y ) > 0 at a < x < b ("the lower" strengthened Legendre condition);

(ii) for each of the four Jacobi equations corresponding to the vertices of the two-

( _2

dimensional matrix segment [J2f(x); J f (x)]:

d -of

dx dz2

d 'df

dx dz2

d -df

dx dz2

d

dx dz2

d ( d2f d2f __I __ (x y y') +__—

dx\ dy dz ' ' dz dy

d ( ()2 f 32 f

--( — (x, y, y' ) +--

dx y z z y

df

2f

(x,y,y' Л + (x,y,y )

(x,y,y') J + (x,y,y')

- lidyL(x,y,y') + dzdy(x,y,y' ) ) + (x,y,y )

d

d ( д2 f (Г f д

i^:,(x,y,y') + i^7.(x,y,y'Л + ibi(x,y,y')

dx\ dydz

dzdy

df ( dy2

df ( dy2

d2f (

dy2

■ h = 0; ■ h = 0; ■ h = 0; ■h = 0;

(h(a) = 0, h'(a) = 1) take place Jacobi condition of the absence of adjoint points. Then the functional (*) attains a strict local minimum at the point y.

Keywords: subsmooth integrand, compact subdifferential, the Euler - Lagrange inclusion, the generalized Legendre - Jacobi conditions.