О связи производной многозначного отображения и его опорной функции Текст научной статьи по специальности «Математика»

га для функций с существенным спектром из однородных пространств и стабилизация решений параболических уравнений // Мат. заметки. 2012. Т. 92, № 5. С. 643-661. [Baskakov A. G., Kaluzhina N. S. Beurling's theorem for functions with essential spectrum from homogeneous spaces and stabilization of solutions of parabolic equations // Math. Notes. 2012. Vol. 92, № 5. P. 643-661.]

УДК 517.9

О СВЯЗИ ПРОИЗВОДНОЙ МНОГОЗНАЧНОГО ОТОБРАЖЕНИЯ И ЕГО ОПОРНОЙ ФУНКЦИИ

Е. С. Половинкин

Московский физико-технический институт (государственный университет), Долгопрудный E-mail: polovinkin@mail.mipt.ru

В работе получены достаточные условия, при которых опорная функция производной многозначного отображения в некотором смысле совпадает с производной опорной функции многозначного отображения. Приведен пример несовпадения этих понятий и пример липшицева многозначного отображения, опорная функция которого ни в одной точке не имеет смешанных производных.

Ключевые слова: касательные конусы, производная многозначного отображения, опорная функция.

8. Баскаков А. Г. Исследование линейных дифференциальных уравнений методами спектральной теории разностных операторов и линейных отношений // УМН. 2013. Т. 68, № 1(409). С. 77-128. [Baskakov A. G. The study of linear differential equations by the methods of the spectral theory of differential operators and linear relations // UMN. 2013. Vol. 68, № 1 (409). P. 77-128.]

On Relationship between Derivative of Multifunction and Its Support Function

E. S. Polovinkin

We obtain sufficient conditions under which the support function of the derivative of a set-valued mapping coincides with the derivative of the support function of a set-valued mapping in some sence. The example showing the difference between these concepts and the example of a Lipschitz set-valued mapping whose support function at any point does not have the mixed derivatives are obtained.

Key words: tangent cones, derivative of multifunctions, support function.

ВВЕДЕНИЕ

Проблему дифференцирования многозначных отображений F : X ^ P(Y) (где P(Y) — множество всех подмножеств некоторого банахова пространства Y) исследовали многие ученые. В работах Ж.-П. Обена (J.-P. Aubin) и автора (см., например, [1,2]) впервые было введено понятие производной многозначного отображения, связанное с понятием касательного конуса к графику отображения.

В то же время выпуклозначные отображения удобно исследовать, используя опорную функцию этих отображений. Некоторые авторы пытались строить аппроксимации многозначных отображений, опираясь на первую производную опорной функции x ^ s(p, F(x)) (где s(p, A) = sup{(p, x) \ x e A} — опорная функция множества A с Y в точке p e Y * ) и даже на смешанную производ-

d2s(p, F (x)) „

ную-——-. В некоторых исследованиях им требовалось существование этой смешанной произ-

dxdp

„ d2s(p, F (x))

водной -——-, что предполагалось верным почти всюду для любого липшицева выпуклознач-

dxdp ного отображения.

Производная функции x ^ s(p, F (x)), являясь положительно однородной выпуклой функцией по p, задает опорную функцию некоторого многозначного отображения по x.

В нашей работе мы покажем, что в произвольной точке xo e X (даже при значениях p из нормального конуса к непустому множеству F (x0)) производная функции x ^ s(p, F (x)) в точке x0 может отличаться от опорной функции многозначной L-производной исходного отображения F в этой точке, т.е. производная опорной функции не всегда осуществляет хорошую аппроксимацию многозначного отображения F. Приведем достаточные условия, при которых производная от опорной функции отображения F задает локальную коническую аппроксимацию этого отображения. В п. 3 приведем пример липшицева многозначного отображения, у которого отсутствуют смешанные производные

d2s(p, F (x)) „ , -——- его опорной функции.

dxdp

Уточним определения. Пусть X, У — банаховы пространства. Через К (У) (Т(У)) будем обозначать метрическое (топологическое) пространство компактов (непустых замкнутых подмножеств) из пространства У с хаусдорфовым расстоянием •) (с соответствующей топологией), а через соК(У) или со Т(У) — подпространства выпуклых подмножеств из У, входящие в К(У) или в Т(У) соответственно. Расстоянием, по Хаусдорфу, между множествами А, В с X называется

й(А, В) = т£{г > 0 | А с В + Вг (0), В с А + Вг (0)},

где Вг(а) = {х е X| ||х — а|| < г} — открытый шар радиуса г > 0 с центром в точке а. Произведение на число, сумма и разность Минковского множеств определяются по формулам АА = {х е X | х = Аа, а е А}, А+В = {х е X| х = а+Ь, а е А, Ь е В}, А — В = {х е X | х+В с А}. ^(х, А) = т£{||х — у|| | у е А} — расстояние от точки до множества. Конусом называется всякое непустое множество Т0 с X, у которого для каждого элемента х е Т0 справедливо включение Ах е Т0 при всех А > 0. Выпуклой конической оболочкой множества А называется

0, х, е А, те N

cone A = |x е X| x = ^^ AjXj, Ai > 0, xi е A, m е

i=i

Замыкание множества A обозначаем A. Барьерным конусом b(A) с Y* выпуклого множества A с Y (см., например, [3]) называется конус b(A) = {p е Y* | s(p, A) < Рецессивным конусом выпук-

лого множества A с Y называется множество 0+(A) = {x | x + A с A} (см. [4]), т. е. 0+(A) = A — A. Для произвольного конуса K через K0 = {p е Y* | (p, x) < 0, V x е K} определяется полярный (отрицательный) конус к конусу K.

Среди множества известных типов касательных конусов к невыпуклому множеству рассмотрим лишь два их ярких представителя.

Нижним касательным конусом (см. [3,5]) ко множеству A с X в точке а е A называется нижний топологический предел вида

A — а

Th(A; а) = liminf = {v е X | lim q(v, A-1(A - а)) = 0}.

AJ.0 A Л|0 v

Верхним касательным конусом (иначе называют: контингентным конусом, или конусом Були-гана (см. [3,6])) ко множеству A с X в точке а е A называется верхний топологический предел вида

A — а

Tb(A; а) = lim sup—-— = {v е X | liminf q(v, A-1 (A - а))=0}.

Л|0 A Ai0

Очевидно включение Th (A; а) с Tb (A; а). Если же множество A выпукло (или локально выпукло), то имеет место равенство указанных конусов.

1. ПРОИЗВОДНЫЕ ОТ МНОГОЗНАЧНЫХ ОТОБРАЖЕНИЙ

Для каждого касательного конуса, следуя [1,2], определим соответствующую производную от многозначного отображения, которую будем называть аналогично названию конуса, т. е. верхней (B) или нижней (H) производной по направлениям.

Определение 1. Пусть L е {B,H}. L-производной от многозначного отображения F: X ^ P(Y) в точке z0 е graph F с X х Y называется отображение DLF(z0) : X ^ F(Y) вида

DlF(Z0)(u) = {v е Y | (u, v) е Tl(graph F; Z0)}, u е X.

Из определения 1, очевидно, следует включение DHF(z)(u) с DBF(z)(u).

Предложение 1. Для F: X ^ P(Y) в точке z0 = (x0,y0) е graph F и u е X справедливы равенства

DbF(Z0)(u) = {v е Y| liminf Qy(v, A-1(F(x0 + Ax) - y0)) = 0},

Л,х: Л|0, x^u

DHF(z0)(u) = {v e Y| lim (lim inf qy(v, A-1(F(x0 + Ax) - y0))) = 0}.

Aj0 x^u

Формулы упрощаются, когда F является псевдолипшицевым по Ж.-П. Обену [7].

Определение 2. Отображение F: X ^ P(Y) называется псевдолипшицевым около точки z0 = (x0, y0) e X x Y, если существуют числа a1 > 0, a2 > Q(y0, F(x0)) и константа l > 0 такие, что для всех x1 , x2 e Bai (x0) справедливо включение

F(xi) f| Ba2 (y0) С F(x2) + l ||xi - x2 ||Bi (0).

Предложение 2.Пусть отображение F: X ^ P(Y) псевдолипшицевое около точки z0 = (x0 , y0) e graph F. Тогда для любого u e X справедливы равенства

DbF(z0)(u) = lim sup A-1(F(x0 + Au) - y0), (1)

Aj 0

DhF(Z0)(u) = liminf A-1 (F(x0 + Au) - y0). (2)

A j 0

Теорема 1. Пусть отображение F: X ^ F(Rm) псевдолипшицевое около точки z0 = (x0,y0) e

e graphF с константой l > 0. Тогда множества DBF(z0)(u) не пусты при всех u е X, а отображение u ^ DBF(z0)(u) удовлетворяет условию Липшица с той же константой l > 0.

2. О РАЗЛИЧИИ И СВЯЗИ ПРОИЗВОДНЫХ

Напомним, что опорной функцией отображения F: X ^ P(Y) называется опорная функция его значений F(x), т.е.

s(p, F(x)) = sup{(p, y) | y e F(x)}, p e Y*.

В дальнейшем полагаем, что отображение F: X ^ co F(Y) псевдолипшицевое около заданной точки z0 == (x0,y0) е graphF. Зафиксируем направление u е X и перейдем к более простому отображению Q : [0,1] ^ co F(Y) вида

Q(A)=F(xo + Au) - yo, A e [0,1]. (3)

Тогда включение z0 = (x0,y0) e graphF заменяется на включение (0,0) e graph Q, и справедливы равенства DLF(z0)(u) = DLQ(0,0)(1), V L e {B, H}. Для отображения Q обозначим через

K = {p e Y* | s(p, Q(0)) = 0} (4)

конус, который назовём нормальным конусом ко множеству Q(0) в точке 0 e Q(0). Пример 1. Пусть отображение Q: [0,1] ^ F(R2) имеет вид

Q(A) = {(x,y) e R2 | x e [-1,1], y = Ax}.

Очевидно, что существует предел lim A-1 Q(A) и он равен прямой {(x, 0) | x e R} С R2. Поэтому

A j 0

существуют L-производные отображения Q(-) в точке графика (0,0) e R1 x R2 по направлению u = 1, причём они равны

DhQ(0,0)(1) = DbQ(0,0)(1) = lim A-1 Q(A).

Aj 0

Отсюда для векторов из нормального конуса K0 (см. (4)), принимающих вид pa = (0,a), V a e R1, легко получаем:

s(Pa,DHQ(0,0)(1)) = 0, V a e R1. (5)

С другой стороны, так как опорная функция отображения Q равна s(pa,Q(A)) = |a|A, то её производная по A в нуле равна:

ds(pa, Q(A))

dA

= |a|. (6)

A=+0

Сравнивая (5) и (6), убеждаемся в том, что опорная функция от производной многозначного отображения и производная от опорной функции этого отображения различны.

Изучим условия, при которых возможно равенство между производной опорной функции и опорной функцией от ¿-производной многозначного отображения.

Лемма 1. Для отображения Q: [0,1] ^ со Т (У) и любого р е У * справедливо неравенство

Ншт£ в(р^(А)) > в(р, Нш1п£ Q(А)). (7)

А| 0 ^^ Л| 0

Лемма 2. Пусть отображение Q: [0,1] ^ со Т(У) таково, что 0 е Q(0), и существует число I > 0 такое, что при всех А е [0,1] справедливо неравенство Л,^(А)^(0)) < 1А. Тогда верны равенства

сопе Q(0) = 0+(БнQ(0)(1)) = 0+ (БвQ(0)(1)), (8)

Ко = Ь(Бн Q(0)(1)) = Ь(Бв Q(0)(1)), (9)

где К0 — нормальный конус (4).

Доказательство. Прежде всего отметим, что в силу (1), (2) справедливы равенства

БнQ(0)(1) = Ншт£ , БвQ(0)(1) = Ншвир ^^.

А!0 А А| о А

По условию леммы справедливы включения

с ^+5+770), Щ) с «М + В+АЩ V А е (0,1), (10)

откуда в пределе получаем:

fcoпfi■Q(0) г БНо7п¥ТТ+В7пТ ,

(11)

[DeQ(0)(1) С cone Q(0) + Bi(0).

Учитывая равенство 0+ (A + B) = 0+(A), если A, B e coF(Y) и B ограниченное множество, и включение 0+(A) с 0+ (B), если A с B и A, B e coF(Y), из выражений (11) получаем равенство (8). Очевидно, что для конуса К0 (см.(4)) справедливы равенства полярных конусов:

(coneQ(0))0 = Ко, (Ко)0 = cone Q(0). (12)

Аналогично, переходя в равенстве (8) к полярным конусам и воспользовавшись равенствами (12) и равенством b(A) = (0+ (A))0, V A e coF(Y) (см., например, [4]), получаем равенство замыканий множеств, входящих в выражение (9). Покажем, что замыкания в равенстве можно убрать. Так как конус К0 замкнут, то достаточно доказать включение К0 С 6(DhQ(0)(1)). Пусть p e К0, тогда в силу неравенств (7) и включений (10) получаем неравенства

s(p, DhQ(0)(1)) < liminf A-1 s(p,Q(A)) < liminf[A-1 s(p,Q(0)) + (1 + A)||p||] = ¿HpN,

X j.0 X j.0

откуда следует, что p e b(DHQ(0)(1)). □

Определение 3. Пусть у функции f: XxY ^ R1 в точке (x0, y0) e XxY существует классическая производная по направлению (u, 0) e X x Y, т.е. f ((x0 ,y0), (u, 0)) = lim A-1 (f (x0 + Au,y0) — f (x0 ,y0)).

XI 0

Тогда назовем ее частной производной функции f в точке x0 по направлению u e X при фиксированном y0 e Y.

Для исследования частной производной в точках (x0,y) при y e A, где A С Y, определим функцию o : (0,1) x A ^ R1 по формуле

o(A, У) = f (x0 + Au0, У) — f (x0, У) — Af'((x0, y), (u0,0)), (13)

для которой по определению следует равенство lim A-1o(A, y) = 0.

XI 0

Определение 4. Пусть заданы f: X x Y ^ R1, x0 e X, u0 e X и A С Y. Скажем, что частная производная f'((x0,y), (u0,0)) равномерна по переменному y на A, если 1) f'((x0,y), (u0, 0)) существует для всех y e A, 2) для функции (13) справедливо равенство lim(sup A-1|o(A,y)|) = 0.

Xl0 yeA

Теорема 2. Пусть отображение Q: [0,1] ^ coF(Y) таково, что 0 e Q(0) и существует число l > 0 такое, что для всех A e [0,1] справедливо h(Q(A),Q(0)) < lA. Пусть K0 = {p e Y*| s(p, Q(0)) = 0}, причем K0 = {0}. На множестве [0,1] x K0 определим функцию f (A,p) = s(p, Q(A)). Пусть ее частная производная p ^ f'((0,p), (1,0)) равномерна по переменному p на множестве K0 П dB1 (0), линейна и непрерывна на конусе K0. Тогда отображение Q дифференцируемо в точке (0,0) e graphQ по направлению 1, т.е. DHQ(0,0)(1) = DBQ(0,0)(1), и справедливо равенствоf'((0,p), (1,0)) = s(p, DBQ(0,0)(1)), V p e K0. Доказательство. Для краткости введём обозначение

a(p) = f'((0,p), (1,0)) = lim s (p, Qp) , V p e K. (14)

При p e K0 полагаем, что функция a(p) равна В силу условий теоремы функция a : Y* ^ R1 является ограниченной на K0 П B1 (0), полунепрерывной снизу, положительно однородной и выпуклой (в силу линейности) функцией. Поэтому (см. [4]) существует непустое выпуклое замкнутое множество M С Y такое, что

a(p) = s(p,M), V p e Y*. (15)

В силу неравенства (7) получаем, что

a(p) > Л p, lim sup(A-1Q(A)) ) , V p e Y*,

V Aj 0 )

т.е. M d DBQ(0,0)(1). Определим функцию o(A,p) из равенства

f (A,p) = s(p, Q(A)) = Aa(p) + o(A,p), p e K. (16)

В силу условий теоремы (линейности и непрерывности a(p) на конусе K0) и свойств опорных функций из равенства (16) получаем, что функция p ^ o(A,p) непрерывна, положительно однородна и выпукла на замкнутом выпуклом конусе K0. При p e K0 доопределим функцию o(A,p) равной Следовательно, функция p ^ o(A,p), p e Y* также является опорной функцией некоторого выпуклого замкнутого (непустого) множества B(A). В силу равенств (12) и (16) получаем следующее включение:

Q(A) + cone Q(0) э AM + B(A). (17)

Кроме того, из равенства (8) следует DHQ(0,0)(1) + cone Q(0) = DHQ(0,0)(1), откуда, поделив (17) на A > 0, в нижнем пределе по A j 0 получаем:

DhQ(0,0)(1) э M + B, где B = liminfB(A). (18)

0 A

Покажем, что точка нуль принадлежит множеству B и поэтому из включения (18) получим включение M с DhQ(0, 0)(1), что и завершит доказательство теоремы. Так как по условию теоремы производная f '((0,p), (1,0)) равномерна по переменному p на множестве K0 П dBi(0), то справедливо равенство

lim sup A-1 |o(A,p)| =0, Ai 0 VpeKcndBT(o) )

которое означает, что для любого числа е > 0 найдётся число 5 > 0 такое, что для всех A е (0,5) и всех p е K0 П dB1 (0) имеет место неравенство A-1|o(A,p)| < е, т.е. для всех A е (0,5) непусто пересечение множеств вида A-1B(A) П Be(0), что влечёт включение 0 е B. □

Лемма 3. Пусть число l > 0 и отображение Q: [—1,1] ^ coF(Y) таковы, что 0 е Q(0), h(Q(A), Q(0)) < l|A|, V A е [-1,1]. Пусть K = {p е Y*| s(p,Q(0)) = 0}, причем K = {0}. Пусть у функции f (A,p) = s(p, Q(A)) при каждом p е K0 существуют производные f((0,p), (1,0)) и f'((0,p), (—1,0)), для которых справедливо равенство

f'((0,p), (1,0)) = -f'((0,p), (-1,0)), V p е K. (19)

Тогда функция a(p) = f'((0,p), (1,0)) линейна на конусе K0.

Доказательство. Из выпуклости опорной функции, т.е. неравенств

|A|-1s(api + вР2, Q(A)) < |А|-1 as(pi, Q(A)) + |А|-1 , Q(A)),

в пределе при А ^ +0 и при А ^ —0 получаем выпуклость функций p ^ a(p) и p ^ f '((0,p), (—1,0)). Отсюда и из равенства (19) получаем линейность функции а(-). □

Лемма 4. Пусть отображение F: X ^ co F(Y) удовлетворяет условию псевдолипшицевости в точке z0 = (x0,y0) е graphF с константой l > 0. Определим конус K0 = {p е Y*|s(p, F(x0)) — — (p,y0) =0} и пусть K0 = K0 П dB1(0) = 0. Пусть существует е > 0 такое, что при каждом p е K0 функция f (x,p) = s(p, F(x)) дифференцируема в смысле Фреше по x на множестве B£(x0),

__/ d f (x p) \

причём для любого u е dB1(0) функция (x,p) ^ / —^ ' , u у равномерно непрерывна на множестве Be(x0) х K0. Тогда функция f (■, ■) имеет частную производную f'((x0,p), (u, 0)) по любому направлению u е X, равномерную по p на множестве K0.

Доказательство. Для доказательства леммы, т. е. проверки определения 1, достаточно доказать равенство

-1 , ^ ^ \ /df(x0,P)

lim < sup A

0\ peK0

f (x0 + Au,p) — f (x0,p) — A t,p)

= 0. (20)

В свою очередь, последнее равенство следует из теоремы о среднем, т. е. из следующего равенства при А е (0,1):

/(хо + А«,Р) - /(хо,р) = а(0/(хо + *(А'Р)'",Р),«) ,

/ д f (х р) \

где ^(А,р) е [0, А], и из равномерной непрерывности функции (х,р) ^ ( —^—, иу на множестве

Be (x0) х K0. □

Теорема 3. Пусть отображение F: X ^ co F(Y) псевдолипшицевое около некоторой точки z0 = (x0,y0) е graphF с константой l > 0, и функция f (x,p) = s(p, F(x)) удовлетворяет всем условиям леммы 4. Тогда

DhF(z0)(u)= DBF(z0)(u); f'((x0,p), (u, 0)) = s(p,DBF(x0,y0)(u)), V u е X, p е K. (21)

Доказательство. Воспользуемся для произвольного фиксированного u е X заменой (3), (4), и преобразуем данные условия (например, (20)), после чего в силу теоремы 2, леммы 3 и леммы 4 получаем равенства (21), где K0 = {p е Y* | s(p, F(x0)) — (p, y0) = 0}. □

Теорема 4. Пусть X рефлексивно, а Y гильбертово, и отображение F: X ^ co F(Y) удовлетворяет условиям теоремы 3. Тогда нижняя производная DHF(z0) имеет выпуклый график.

Доказательство. Докажем выпуклость графика нижней производной, т. е. выпуклость касательного конуса TH(graphF; z0).

Для любого u е X соответствующая ему функция а(-) из (14) принимает вид

(/ ds(p,F(xp)) \ \ — 0 ——, u ) , при p е K0; аи(p) = A dx ' /' Р р 0' (22)

при p е к0.

При этом по лемме 3 каждая такая функция аи(-) линейна на конусе K0. Поэтому и функционал ds(-,F (x0)) „

--- : K0 ^ X* также является линейным по p оператором. В самом деле, в противном

dx

случае нашлись бы векторы p1,p2 е K0 такие, что функционал

. ds(p1 + p2,F(x0)) ds(p1,F(x0)) ds(p2,F(x0))

g0 =-о---о---о--(23)

dx dx dx

не равен нулю. По теореме Хана-Банаха в рефлексивном пространстве X для g0 е X* найдется вектор u0 е X такой, что (g0,u0) = ||#0|| = 0. Тогда взяв в формуле (22) функцию аи(■) при u = u0 и применив функционал g0 (23) к вектору u0, получим для функции аио(■) равенство

||д0|| = аио (Р1 + Р2) — аио (рО — аио (р2) = 0, что противоречит доказанной ранее линейности функции аио (•) на конусе К0.

Введём линейное подпространство Ь с У * из равенства Ь = К0+(—К0) и определим на нём оператор А : Ь ^ X* по формуле

Ap = ds(pi, F(xo)) ds(p2, F(xo))

dx

dx

при pi ,P2 e Ko, p - P2 •

(24)

(хо)) ^

Из линейности оператора ---: К0 ^ X* следует корректность этого определения, т.е. неза-

дх

висимость от неоднозначности выбора векторов р1 ,р2 е К0 при задании р е Ь, и его линейность на Ь.

При этом для любого р е К0 справедливо равенство Ар = д^(р' (х0)). Продолжим линейный опера-

дх

тор А с подпространства Ь на всё пространство У * любым допустимым образом, и пусть А* : X ^ У — сопряжённый к А линейный оператор. Покажем справедливость равенства

Б иF(*0)(и) = А*и + К00, V и е X, где К0 — полярный конус к конусу К0. В силу (15), (22), (24) получаем цепочку равенств

(25)

s(p, A*u + K00) = (Ap, u) + s(p, K00) =

(Ap, u), при p e K0, при p e K0,

= a«(p),

что и означает равенство (25). Из равенства (25), очевидно, следует, что график производной, т.е. конус TH(graph F; z0), выпукл. □

3. КОНТРПРИМЕР

В заключение приведем пример (пример 3) липшицева многозначного отображения F : R1 ^ ^ co K(R2), опорная функция которого всюду не имеет второй смешанной производной. Для этого в начале приведем вспомогательный пример (пример 2).

Пример 2. Пусть C — совершенное канторово множество на отрезке [0; 1], а функция f : [0; 1] ^ [0; 1] — канторова лестница (см. определения в [8, гл. 6, §4]). Определим функцию

x

g(x) = / f (t)dt при x e [0; 1]. Эта функция g является дифференцируемой и выпуклой функцией, так

0

как ее производная g'(x) = f (x) непрерывна и мононотонно возрастает на [0; 1]. График функции g является ломаной линией со счетным числом звеньев, причем для любой точки x e [0; 1]\C существует интервал (a; b) такой, что x e (a; b) С [0; 1]\C, и существует двоично рациональное число (2k — 1)/2n, где n e N, k e (1;2n-i), такое, что g'(x) = (2k — 1)/2n для всех x e (a; b). Можно посчитать, что g(0) = g'(0) = 0 и g(1) = 1/2, g'(1) = 1.

Поворачивая график функции g на угол п/4 и сдвигая его на точку (1,1/2), получаем другую

выпуклую функцию gi :

1; 1 +

1

2л/2

1; 3 + V2 2; 2^2

т. е. удовлетворяющую формуле

ёгарЬ д1 = ^ ^ ^^ ёгарЬ д + .

Склеивая эти две функции, получаем функцию Л по формуле Л(х) = д(х) при х е [0; 1] и Л(х) = д1 (х)

при x e функции

1; 1 +

2^2

По построению функция h непрерывна и выпукла на

0, 1 +

2л/2

. Определим

h1(x) = h(x) —

3 + V2 2^2

при

x

0; 1 +

2л/2_

h1(x) = h1 (—x) при x e

1

1

2^2

;0

—»

h2(x) = —hi(x) при x G

-1 -

1 +

2^/2 ' 2^2

и множество A = {(x, y) G R2 | x G

1

1

1+

1

y G [hi(x); h2(x)]}-

2лД ' 2\/2_

По построению множество A является выпуклым компактом на плоскости R2, граница которого состоит из восьми частей сдвинутых, повернутых или симметрично отраженных графиков функции g. Рассмотрим опорные множества Ap = {(x, y) G A| (p, (x, y)} = s(p, A)} для любого p G R2, ||p|| = 1. Пусть a G (0, п/4) — угол наклона отрезка ломаной hi(x) при x G (a,b) С [0; 1] \ C. Тогда вектор нормали к этому отрезку имеет вид p(a) = (tga; —1), причем значение tga является двоично рациональным числом вида 2k2-1, а опорное множество Ap(a) является этим отрезком. Очевидно верно и обратное, при любом a G (0, п/4), для которого tg a является двоично рациональным числом, опорное множество Ap(a) является отрезком, а не точкой. Так как субдифференциал опорной функции в точке p = 0 равняется опорному множеству и для дифференцируемости в точке выпуклой функции необходимо, чтобы ее субдифференциал в данной точке являлся одноточечным множеством, то в точках p(a) опорная функция p ^ s(p, A) не дифференцируема. Множество таких точек p(a)/||p(a)||, очевидно, плотно на дуге окружности, состоящей из точек p(^) = (cos sin при ^ G (3п/2;7п/4). Отсюда и в силу построения множества A получаем, что на единичной окружности существует счетное плотное множество, на котором опорная функция этого множества не дифференцируема.

Пример 3. Рассмотрим множество A G coK(R2), построенное в примере 2. Определим многозначное отображение F : R1 ^ co K(R2) по формуле

F(t) = L(t)A, где L(t) =

cos t — sin t sin t cos t

Это отображение, очевидно, удовлетворяет условию Липшица. Обозначим через f (t, p) = s(p, F(t)) его опорную функцию, где p G R2, t G R1. Очевидно равенство f (t,p) = s(L(—t)p, A) и то, что f (t,p) удовлетворяет как условию Липшица по p при любом t G R1, так и условию Липшица по t при любом p G R2. В силу положительной однородности опорной функции достаточно рассмотреть p G dB1(0). Обозначим такие точки через p = p(^) = (cos sin где ^ G [0, 2п]. В частности, получаем, что p(^) = L(^)po, где po = (1, 0). Поэтому справедливо равенство

f (t,p(^)) = f (0,p(p — t)) = s(p(^ — t), A).

(26)

Если при некотором £0 е R1 у функции р ^ f (£0,р) существует производная в точке р(^0), то в силу равенства (26) получаем, что эта производная является опорным множеством = {(х,у) е R21

(р(^0 — £0), (х, у)} = з(р(^0 — £0), А)} ко множеству А в направлении р(^0 — £0), причем это множество обязано быть одноточечным. Для того, чтобы получить вторую смешанную производную по £ от первой производной опорной функции по р в точке (£0,р(^0)) необходимо, чтобы первая производная опорной функции по р существовала при всех (£,р(^0)), точнее, при всех £ из некоторой окрестности точки £0. Но такой окрестности не существует, так как в любой окрестности точки £0, как показано в примере 2, среди множеств найдутся неодноточечные опорные множества, и поэтому при

таких £ производной от опорной функции р ^ f (£,р) не существует в р0. В итоге показали, что для нашей опорной функции ее вторая смешанная производная по р и по £ не существует ни в одной точке (р, £) е R2 х R1.

Работа выполнена при поддержке РФФИ (проект 10-01-00139а) и ФЦП «Научные и научно-педагогические кадры инновационной России».

Библиографический список

1. Aubin J.-P. Contingent derivatives of set-valued maps and existence of solutions to nonlinear inclusions and differential inclusions and differential inclusions // Advances in Math. Suppl. Studies. 1981. Vol. 7A. P. 160-272.

2. Половинкин Е. С. Теория многозначных отображений. М. : Изд-во МФТИ, 1983. 108 c. [Polovinkin E. S. The theory of multi-valued mappings. Moscow : Moscow Institute of Physics and Technology, 1983. 108 p.]

3. Половинкин Е. С., Балашов М. В. Элементы выпуклого и сильно выпуклого анализа. М. : Физматлит, 2007. 440 c. [Polovinkin E. S., Balashov M. V. Elements of convex and strongly convex analysis. Moscow : Fizmatlit, 2007. 440 p.]

4. Рокафеллар Р. Выпуклый анализ. М. : Мир, 1973. 472 c. [Rockafellar R. T. Convex analysis. Princeton, New Jersey : Princeton university press, 1970. 472 p.]

5. Пшеничный Б. Н. Выпуклый анализ и экстремальные задачи. М. : Наука, 1980. 320 c. [Pshenichny B. N. Convex analysis and extremal problems. Moscow : Nauka, 1980. 320 p.]

6. Aubin J.-P., Frankovska H. Set-Valued Analisys. Boston; Basel; Berlin : Birkhauser, 1990. 464 p.

7. Aubin J.-P. Lipschitz behavior of solutions to convex minimization problems // Math. of Oper. Res. 1984. Vol. 9. P. 87-111.

8. Колмогоров А. Н, Фомин С. В. Элементы теории функций и функционального анализа. М. : Наука, 1975. 496 c. [Kolmogorov A. N., Fomin S. V. Elements of the theory of functions and functional analysis. Moscow : Nauka, 1975. 496 p.]

УДК 517.927.25

РАЗЛОЖЕНИЕ ПО СОБСТВЕННЫМ ФУНКЦИЯМ КВАДРАТИЧНЫХ СИЛЬНО НЕРЕГУЛЯРНЫХ ПУЧКОВ ДИФФЕРЕНЦИАЛЬНЫХ ОПЕРАТОРОВ ВТОРОГО ПОРЯДКА

В. С. Рыхлов

Саратовский государственный университет E-mail: RykhlovVS@info.sgu.ru

Рассматривается квадратичный сильно нерегулярный пучок обыкновенных дифференциальных операторов 2-го порядка с постоянными коэффициентами и с положительными корнями характеристического уравнения. Найдены суммы двукратных разложений в ряд по собственным функциям таких пучков и необходимые и достаточные условия сходимости указанных разложений к разлагаемой вектор-функции.

Ключевые слова: квадратичный пучок дифференциальных операторов, сильно нерегулярный пучок, двукратное разложение по собственным функциям.

Expansion in Eigenfunctions of Quadratic Strongly Irregular Pencils of Differential Operators of the Second Order

V. S. Rykhlov

We consider a quadratic strongly irregular pencil of 2-d order ordinary differential operators with constant coefficients and positive roots of the characteristic equation. Both the amounts of double expansions in a series in the derivative chains of such pencils and necessary and sufficient conditions for convergence of these expansions to the decomposed vector-valued function are found.

Key words: quadratic pencil of differential operators, strongly irregular pencil, two-fold expansion in the eigenfunctions.

1. ПОСТАНОВКА ЗАДАЧИ И КРАТКАЯ ИСТОРИЯ ВОПРОСА

Рассмотрим в пространстве Ь2 [0,1] квадратичный пучок Ь(А) обыкновенных дифференциальных операторов второго порядка при р^- , , е С:

l(y,A) := y'' + piAy' + p2A2y, Uv(y, A) := (aviy'(0) + Aav2y(0)) + (^iy'(1) + A^2y(1)) =0, v =1, 2.

(1) (2)

Обозначим через u, u2 корни характеристического многочлена (х.м.) пучка и пусть выполняется условие

0 < U < U2- (3)

Функции y (ж, А) = exp(Aux), i = 1,2, образуют фундаментальную систему решений (ф.с.р.) уравнения l(x, А) = 0. Считаем далее при каждом v = 1, 2, что av 1 = 0 или ev1 = 0. В остальных случаях рассуждения принципиально не отличаются.

Обозначим Vvj = Uv0(yj ,А)/А = av 1 Uj + , wvj = e-Aaj (yj ,A)/A = Uj + , Vj = (V1j,V2j)T, Wj = (w1j,W2j)T, v,j = 1, 2; asfc = det(Ws, Wk), a^ = det(Vs, Wk), ask = det(Ws, Vk),

= det(Vs, Vk), s,k = 1, 2.

Характеристический определитель пучка L(A) тогда имеет вид

A(A)=det(Uv(yj, A))

= A2 |V1 + eAwi W1 ; V2 + eA^2 W2| =

v\yj A^i

v,j = 1

A^2 1

A2 (aV2 + eAwia12 + eA^2al2 + eA^1+^2>a^) =: A2Aq(A).

2