Теорема вложения Соболева для анизотропно нерегулярных областей Текст научной статьи по специальности «Математика»

УДК 517.518.23

О. В. Бесов

Математический институт им. В.А. Стеклова РАН, Московский физико-технический институт (государственный университет)

Теорема вложения Соболева для анизотропно нерегулярных областей1,2

Установлена теорема вложения пространства Соболева шр(о) в пространство Лебега ьд (о) для анизотропно нерегулярных областей о с К" различных классов.

Ключевые слова: пространство Соболева, теорема вложения, нерегулярная область.

Известная Wm(G) с Lq(G)

теорема вложения Соболева: , характеризуемая неравенством

\\f|Lq(G)\K с\\f|W;(G)|| =

= с( £ \\Daf ILp(G)\\ + If ILp(G)И ,

\H=s )

s G N, 1 <p < q < <x>, (1)

установлена им в 1938 г. (см. [1]) для области G с С R" с условием конуса при

n n

s -- + - > 0. pq

(2)

Соотношение (2) (определяющее максимально возможное значение q в теореме (1)) является и необходимым условием вложения. Результат С.Л. Соболева был перенесен на области более общего области классов Jn-i. Ip 1 _ n (В.Г. Мазья, 1960, 1975, см. [2]), области с условием Джона (John domains; Ю.Г. Решетняк [3,4]), области с условием гибкого конуса (О.В. Бесов, 1983, см. [5]).

Определение ([6]). При а ^ 1 область G С М" называется областью с условием гибкого а-конуса, если при некоторых T > 0, 0 < к0 ^ ^ 1 для любого x е G существует кусочно гладкий путь

7 = 7ж : [0, T] ^ G, 7(0) = x, < 1 п. в.,

□

такой, что

^бЬ^^), М" \ G) > ко*'7 при 0 < Т.

В случае а = 1 такую область называют также областью с условием гибкого конуса. Области, не удовлетворяющие условию гибкого конуса, будем называть нерегулярными.

Для нерегулярной области (которая в окрестности некоторой точки границы может, в частности, иметь вид внешнего пика) вложение (1) может оказаться неверным ни при каких соотношениях параметров или быть верным при некоторых более сильных, чем (2), условиях, связывающих п, ^ р ? и зависящих от геометрических свойств области G. В.Г. Мазья выделил классы областей

1а (1960), Jp,а (1975), для которых установил соответственно при р = 1 и при р > 1 теорему вложения (1) для в = 1 с максимально возможным q. Классы 1а, Jp,а определяются в терминах изопе-риметрических или емкостных неравенств.

В [6] показано, в частности, что для области с а сор еш 6 д—

ливо при соотношении параметров

a(n — 1) + 1 n

s - -J-J— + - > 0.

pq

(3)

Этот результат при s = 1 принадлежит Килпелай-нену и Малы [8]. Д.А. Дабутиным установлено [9], что условие (3) является также и необходимым для данного вложения.

В [6-8] содержатся и весовые обобщения неравенства (1) для области с условием гибкого а-конуса.

Для областей специального вида с условием а-конуса теорема вложения (1) справедлива и при соотношениях параметров, отличных от (3), как показано в работах Д.А. Лабутина [10] и В.Г. Мазьи - C.B. Поборчего [И].

Б.В. Трушиным [12, 13] выделены специальные подклассы класса областей с условием гибкого а-конуса и установлена теорема вложения Соболева при неулучшаемых соотношениях параметров, различных для разных подклассов.

В данной работе мы расширяем сравнительно с [12] классы областей, для которых справедлива теорема вложения Соболева в формулировке [12], обобщая тем самым соответствующие результаты Б.В. Трушина. Метод работ [6, 7,12,13] опирается, в частности, на оценки слабого типа (1,1) для максимального оператора Харди-Литтлвуда и его анизотропного аналога. Здесь мы привлекаем обобщение анизотропного максимального оператора Харди-Литтлвуда, построенное по дифференциальному базису, содержащему прямоугольные параллелепипеды, ребра одних из которых не обязательно параллельны ребрам других.

1 Работа выполнена при финансовой поддержке Российского фонда фундаментальных исследований (проект 11-01-00744-а), Программы РАН «Современные проблемы теоретической математики», гранта Президента РФ (проект НШ-65772.2010.1), гранта АВЦП «Развитие научного потенциала высшей школы» (проект 2.1.1/12136).

2Английский перевод данной статьи опубликован в Eurasian Mathematical Journal 2 (1), 32-51 (2011).

Схема данной работы такова. Для области G определенного типа строится семейство гибких ко-G

дой точки x е G. Строится интегральное представление функции / через ее производные Daf, |а| = s, по гибкому конусу, из которого следуют поточечные оценки функции через интегралы, содержащие соответствующие производные. Этим получение оценки вида (1) сводится к получению оценок соответствующих интегральных операторов. Два основных интегральных оператора сначала оцениваются через максимальный оператор, строящийся по дифференциальному базису, соответствующему заданному семейству гибких конусов. Слабая (1,1)-ограниченность максимального оператора влечет слабую (p, ^-ограниченность упомянутых операторов. Последняя в силу интерполяционной теоремы Марцинкевича влечет (p, ^-ограниченность этих операторов, а значит, и оценку теоремы вложения.

В силу сказанного реализация указанной схемы для данной G

строения согласованных между собой семейства гибких конусов и дифференциального базиса. Такое построение определяется геометрическими G

I. О покрытиях типа Безиковича

Везде далее N — множество натуральных чисел; n е N n ^ 2 R" — n-мерное евклидово пространство; область G с Rn, G = Rn, х — характеристическая функция интервала (0,1). Для измеримого по Лебегу множества E с Мп через IE| обозначается его лебегова мера. При 1 ^ p < ж

\\/\\Р,Е = \\/ ILP(E)W,

П

А = (Аи ..., Ап) е [1, ж)п, min Аг=1, |А| =V Аг,

1<i<n ^—^

i=l

x = (x1, ..xn) e М", Ixlл = max |хг\1/л,

^ + y^ < |xU + Ыл.

Мы перенесем некоторые свойства покрытий мно-

Мп

15]), известные для случаев покрытий шарами или параллелепипедами с ребрами, параллельными координатным осям, на случай покрытий повернутыми прямоугольными параллелепипедами.

Мп

рое семейство операторов поворота K0(x), завися-x е Мп

рических операторов с det Ж0 (x) = 1). Через ffi(x) будем обозначать оператор

№(x)y = x + №0(x)(y - x) Vy е Мп,

который будем называть оператором поворота от-

x

K°(x). Оператор K0(x) (^(x)) может также за-

висеть от дополнительного параметра ! > 0; в таком случае будем обозначать его через №0(х,!) (Щх,!)).

Через Р(х) будем обозначать прямоугольный

х

рами, не обязательно параллельными координатным осям. При д > 0 через дР(х) будем обозначать прямоугольный параллелепипед, подобный

х

д

Положим при !> 0

п

Ял(х,!) := х + Ц[-!Л<,!Хг]■

г=1

Множество вида

Щх,!^л(х,!) (1.1)

будем называть А-параллелепипедом с центром в х

Определение 1.1. Пусть Е — ограниченное множество в М^, и пусть для каждого х € Е за-

Р( х)

sup{diam Р(х): х € Е} < го. Пусть 0 < д < 1 <

< к < ж.

Будем говорить, что покрытие {Р(х)}хеЕ об-д

х, у € Е, Р(х) П Р(у) = 0, у € Р(х), \Р(у)| < 2\Р(х)|

(дР(х )) П (дР(у)) = 0. Будем говорить, что покрытие {Р(х)}хеЕ об-к

х,у € Е, Р(х) П Р(у) = 0, у € Р(х), \Р(у)\ < 2\Р(х)\

следует, что Р(у) С кР(х). □

Теорема 1.1. Пусть к > 1 и пусть {Р(х)}хеЕ

Е

к

Тогда из него можно выбрать конечную или счетную последовательность прямоугольных параллелепипедов {Рк} = {Р(х(к))}, удовлетворяющую при д = 1_+2к Условиям (0 Е С и Рк;

(ii) (dPk) П (вРт) = 0 V k,m, k = m.

□

Лемма 1.1. Пусть {Р(х)}хеЕ — покрытие ограниченного множества Е С Мп со свойством д-отделимости, д € (0,1). Тогда из него можно выбрать конечную или счетную последователь-

{ Рк } =

= {Р(х(к)}, удовлетворяющую условиям 1, п. □ Доказательство леммы проводится по стандартному плану доказательства для случая покрытий кубами (см. [15]). Положим а0 = = 8ир{\Р(х)\: х € Е}. Выберем прямоугольный параллелепипед Р1 = Р(х(1)) € {Р(х)}хеЕ таким, что \Р(х)\ > а0• Пусть Р1, ..., Рт уже выбраны.

Если Е \ и Рк = 0, то процесс выбора закончен.

к=1

В противном случае положим

ат = Бир<^ \Р(х) \: х € Е \ У Рк I

к=1

и выберем прямоугольный параллелепипед

Р = Р (х(т+1))

m+1

Р(xSm+1)) е IР(x): x е E \ у ра

k=1

таким, ЧТО l-Pm+ll > at-

Покажем, что выполняется уеловие (i): E с С U —к- Если процесс выбора обрывается на конечном шаге, то условие (i), очевидно, выполнено. Пусть {Pk} — бесконечная последовательность. Тогда lPkl ^ ^и к ^ го, так как {P(x)}xeE — e-отделимое покрытие, в силу чего J2lOPkl <

о

< го Если найдется x G E \ |J Pk, то сущест-

l

вует такое число m + 1, что lPm+1l < 1 lP(х)|, что

противоречит выбору точки x(m+1K Этим установлено свойство (i). Свойство (ii) следует из 0-отделимости покрытия {P(x)}xeE и способа построения последовательности {Pk}-

Доказательство теоремы 1.1. Достаточно показать, что свойство к-поглощения покрытия {P(x)}xeE влечет свойство 0-отделимости этого покрытия при в = i_+2k'' и воспользоваться леммой 1.1. Пусть x,y G E, и пусть P(x), P(y) — два таких прямоугольных параллелепипеда, что

P(х) П P(y) = 0, y GP(x), lP(y)| < 2lP(x)|, kP(x) D P(y). Покажем, что (eP(x)) П (eP(y)) = ^и в = = 1 + 2K' Достаточно рассмотреть случай x = 0

n

и P(x) = Y\[—ai,ai]- Без ограничения общности

i=i

будем считать, что y1 > a1. Пусть

в G (0, 1), (eP(x)) П (eP(y)) = 0,

z g (eP(x)) n (eP(y)).

Поскольку P(y) С kP(x), имеем lz1 — y1l < 2ква1. Из z G eP(x) имеем lz1 — y1l > (1 — в)а1. Из последних двух соотношений следует, что 2Kea1 > > (1 — e)a1, откуда e > 1 +12К • Поэтому (eP(x)) П

П (eP(y)) = 0 при e = i _+2к • Этим теорема доказана.

Примером покрытия (ограниченного) множества E с Rn со свойств ом к-поглощения яв-E

дами вида (1.1) при №(x,d(x)) = Id, d(x) G G (0,do). Более общим примером покрытия со свойством к-поглощения является покрытие сравнимыми прямоугольными параллелепипедами (см. [14, § 1, замечание (5)]). Далее будем иметь дело лишь с покрытиями множества А-параллелепипедами (1.1) при фиксированном А = (А1?..., Ап) G [1, <x>)n, min Ai = 1.

Пусть A е [1, го)п, 0 < d0 < го, G — открытое множество в Rn. Для каждого x е G через B\(x) обозначим семейство А-параллелепипедов Щх, d)Q\(x, d) вида (1.1) при 0 < d < d0 < го. Объединение этих семейств Бд = |J B\(x) бу-

xEO

дем называть дифференциальным базисом на множестве G (см. [14]). При к > 1 будем говорить, что дифференциальный базис Бд обладает свойством к

x,y е G, M(x, di)Qx(x, di) П Щу, d2)Qx(y, d2) = 0,

у е ®:(x, di)Qx(x, di), \Qx(y, d2)\ < 2\Qx(x, di)\

следует, что K^(x,di)Qx(y,di) D №(y,d2)Qx(y,d2). Введем максимальный оператор, построенный по Бд на множестве G для f е L(G, 1ос):

(x) := sup 1

0<d<do |K(x, ¿^л^, d) П G|

x

х J \1 (у)\!у.

Теорема 1.2. Пусть дифференциальный базис Вл на множестве О обладает свойством к-поглощения при некотором к > 1. Тогда для каждого т > 0 выполняется неравенство

\{х € О: ШлМI(х) > т} < - \\/\Ь1(О)\\, (1.2)

т

где С не зависит ни от /, ни от т. □

Доказательство теоремы аналогично доказательству соответствующего утверждения теоремы 1 из [15, § 1].

Приведем в случае п = 2 пример области О € € М2 и связанного с ней дифференциального базиса вида {Щx,d)QЛ(x,d)}xeQ, 0<а<а0 со свойством к-поглощения. Пусть А = (2,Qл(x,d) = = х + [-!?,!?] х [-!,!]. Опишем

область

О С Мп и построим на ней семейство (усеченных

) гибких конусов (которые впоследствии будут служить носителями интегрального представления функций через производные). Построим затем требуемый дифференциальный базис, согласованный с этими гибкими конусами. Начнем с некоторых вспомогательных построений.

Пусть к € (0,К € , 1). Построим кривую

7(к,К) = 71(к,К) и 72(к,К),

где 71(к,К) является частью окружности радиК

1 - К к(1 - К)'

(xk,R, yk,R)

V1 + k2' V1 + k2

лежащей в угле {(х, у): х > хк,я, ук}п < у < кх}, а 72 — вертикальным лучом, исходящим из нижнеи точки дуги 71 (к, К) и направленным вниз. Точнее говоря,

71(к, К) = {(х, у): (х - хк,я)2 + (у - ук,я)2 = К2,

ук,я < у < кх}, 72(к, К) = {(х, у): х = хк,я + К, у < ук,я}.

Gk

Рис. 1

Отметим, что луч -у2 (к, Я) касается ду1

71(к, Я) в точке (хк, я + Я,ук,я)- Положим

Gk = и !(к,Я) С | (х, у): 2<я<1 ^

1

л/ГГк2

<х<1

(см. рис. 1), так что Gk лежит в вертикальной полосе ширины меньше ^ к2.

Пусть М- := {(х, у): у < 0}, е1 = (1,0). Рассмотрим область

G = = U(Gk3 - --з е1)

М2

\5 = 1

2-з—1 < к2 < 2-з\

Отметим на области G семейство кривых

1

7з (Я) : = 7(кз, Я) - 2—е1, где ] £ М, - <Я< 1,

с помощью которых построим на а дифференциальный базис. Он состоит из всех прямоугольников вида

Щ(х,у),й^х((х,у),й) =

= Щх,у),й)Г(х,у) + [-¿2,й2] х [-¿,4),

(х,у) £ G, 0 < й < й0 < 1,

расположенных следующим образом. Большая сторона прямоугольника либо вертикальна, либо отклоняется от вертикали на угол, не превосходящий П Если точка (х, у) лежит на кривой 7з (Я) и у ^ 0, то середина нижней из малых сторон прямоугольника также лежит на этой кри-

у

ким образом, большая полуось прямоугольника Ш((х,у),й^\((х,у),й), расположенная ниже его центра, является хордой кривой 73(Я). Если же у < 0, то Щ(х,у),й) = И. Геометрически довольно ясно (можно убедиться и аналитически), что построенный дифференциальный базис обла-

дает свойством к-поглощения при некотором к > >1

Построим семейство (усеченных) гибких конусов представления функций.

Пусть (х0,у0) £ G. Построим ось конуса с вершиной в точке (х0,у0). Пусть сначала (х0,у0) £ £ М2-вую

1 (х0, у0) : = {(х0, у): у = у0 - Ь, 0 < Ь < Т},

а в качестве усеченного гибкого конуса представления функций и Q\((х0,у0 - Ь), 0<г<т

Пусть теперь (х0,у0) £ G \ М^. Тогда в качестве оси гибкого усеченного конуса возьмем кривую

1 (х0,у0) = Ю(х0,у0) и (хз,у0) с началом в точке (х0,у0), где 70(х0,у0) — гори-

( х0 , у0 )

точку (хз, у0) кривой 7з(3)> а кривая 73(хз, у0) яв-

3

ляется дугой конечной длины кривой 7з (4), имеет начало в точке (хз,у0) и расположена от этой точки вниз. Кривую 7(х0,у0) параметризуем с помощью параметра Ь, квадрат которого на 70(х0, у0) совпадает с длиной отрезка 70(х0 ,у0), отсчитываемой от точки (х0,у0) (0 ^ Ь ^ Ь(х0,у0)), а на 7з(хз,у0) Ь = Ь(х0,у0) + и, где и — длина дуги 7з(хз,у0), отсчитываемая от точки (хз,у0) в сторону уменьшения ординаты у кривой 7з(хз,у0)-. причем 0 ^ и ^ Т - Ь(х0,у0) (такая специальная параметризация нужна, чтобы выполнялись условия определений следующего раздела).

Точку кривой 7(х0,у0) со значением параметра Ь будем для краткости обозначать ч(Ь), 0 ^ ^ Ь ^ Т. Обозначим через прямоугольник Qx, повернутый на угол, «достаточно близкий» к углу отклонения касательной к кривой 7 (на ее негоризонтальном участке) от вертикали, не конкре-

у

х

тизируя сейчас оператор поворота Щ: QЛ(Y(Ь)) ^ ^ Qx)(Y(t)) (на горизонтальном участке угол поворота равен нулю). Построим гибкий усеченный конус представления функций в виде

и QЛ) ЫЬ),Ф0,у0) + еЬ), 0<г^.т

где г(х0,у0) > 0 е > 0 столь малы, что

У Q{Л)Ш, 2(г(х0,у0)+ еЬ)) С G. 0<г<т

II. Класс рассматриваемых областей и основная теорема

Определение 2.1. Пусть G0, G — открытые множества в М", С^0 С ^ Х = (Хь •• • > Хп) £ £ [1, ж)", шт Х^ = 1, й0 £ (0, ж), к > 1.

Пусть на С^0

задан дифференциальный базис

к

тонности:

Щ(х, Н^л(х, Н) С Щ(х, й^л(х, й) щ>ш Н < й.

Пусть для каждого х £ G0 заданы кусочно гладкий путь 7 = 7х: [0, ^ ^ 7(0) = = х, непрерывная кусочно гладкая функция г = = г1: [0,Ьх] ^ (0, ж), семейство операторов поворота Щ = Щ«(7(Ь)) и семейство сопровождающих 7 Х-парадлелепипедов {Щ^л(-у(Ь),г7(Ь))}0^л^лх со следующими свойствами. 1°. Уснченный гибкий конус

и {2ЩtQл(Y(Ь), г~/(Ь))) лежит в G.

2°. 3 е0 £ (0,1): г(Ьх) > е0 Vх £ Gо. 3°. 7х(Ь) £ Щх,Ь^л(х,Ь) VЬ £ [0,Ьх]. 4°. Матрица преобразования Щ = Щ^(Ь)) непрерывна и кусочно непрерывно дифференцируема по Ь. Производные по Ь от г, 7 и коэффициентов матрицы преобразования Щ ограничены числом, не зависящим от х, Ь, причем |7'\ ^ 1. 5°. 3е1 > 0: ЩQt(Y(Ь),г7(Ь)) С Щ(х,й^л(х,й) ^ ^ г1 (0) + Ь > е1й.

6°. 3 С0 > 0: / ^ хГ^-Л ¿Ь < С0

r(t)

VЖ е Go, VУ е G. Тогда будем писать Go е G(G, А).

□

Определение 2.2. Пусть G = |J Gk, Gk е

1

е G(G,Ak), Л := max |Ак\. Тогда будем писать

G е£(Л). □

Определение 2.3. Пусть А е [1, ж)п, min Ai = = 1, а ^ 1. Будем говорить, что множество Gt удовлетворяет условию А-анизотропного гибкого ст-конуса относительно множества G, и писать Go е G(G, А, а), тел и Gt е G (G, А), и при этом для каждого х е Gt для функции rY из определения класса G(G, А) справедлива оценка rY(t) ^ cota при t е (0, tx], где co > 0 не зависит от х е Go. □

Определение 2.4. Пусть G = |J Gk, Gk G

k = 1

G G(G,Xk ,а) при к = 1, ..., к°, Л = max |Лк |.

G

ряет условию гибкого (Л, а)-конуса, и писать G G

GG (Л,а). □

При S > 0 введем Gg : = {x G G: dist(x, dG) > > S}.

Теорема 2.1. Пусть а > 1, G G G(Л,а), 1 <

< p < q < <x>,

а(Л - 1) + 1 Л

s - а-+ - > 0.

pq

Тогда для f G Wp; (G) справедлива оценка \\f ILq (G)|| < c( £ \\Daf ILP(G)\\ + \\f ILp(Gg )||J,

\|a|=s )

s = 4, (2.1)

cf

Если при этом s - + 1 + Л > о, то

утверждение справедливо при 1 ^ p < q < ж. □ Доказательство теоремы базируется на всех последующих рассмотрениях и будет приведено в конце работы.

III. Интегральное представление функций и поточечные оценки

При выводе интегрального представления функции будем предполагать, что она бесконечно дифференцируема на открытом множестве — области своего определения.

Пусть x G Go, Г = (Гь ..., Г„): [0,tx] ^ G, r = (ri, ..., rn): [0, tx] ^ (0, ж)п — непрерывные кусочно гладкие функции, |Г'| ^ 1, т(0) =00 <

< Ti(t) ^ ^и t > 0 (i = 1, ..., n), оператор ^t = ^t(r(t)) поворота относительно точки r(t)

t

преобразование. Положим Ж°(у) := Kt(r(t) + y) — — r(t^. Пусть {e} — стандартный базис в R",

n

Е <

j=i

nn

= ^o 12 у*А =j2 y-R°

Щ<ч — ^^ aij (t)6j,

=1

n n

n in

Y^ Y yiaij(t)ej = Ш Y aij(t)yi ) "j •

i=1 j = 1

j=1 i=1

Пусть

ш е ^^(K1), suppш е [0,1],

р n

J w(t) dt = 1, П(у)^Ц шУ).

Положим

n

ft(x) = J П

i=1

1

ri(t) \ri(t)

f (r(t) + M0ty) dy ■■

= Jü(y)f (r(t) + to°(r(t)y)) dy, (3.1)

где r(y) := (r1(t)^ ., rn(t)). Заметим, что ft(x) ^ ^ f (x) при t ^ 0,

Заметим, что при в = 1 оценка (3.5) совпадает с (3.3). Допустим, что при некотором в ^ ^ 2 оценка (3.5) верна при замене в ней в на в --1

Зафиксируем £ и у, а значит, и в сс подынтег-

— Л n - L х. ы ; I t г л

— ft(x) = 0,(y)^2 Dj f (r(t) + tö.0(r(t)y)) x ральном выражении (y G Q^(r(t), r(t))). При y =

—t j=1 = r(t) построим путь rt: [0,tx — t + r(t)] ^ G и

x\ rj (t) + E [aij (t)ri(t)yi + aij (t)ri (t)yi}\ dy =

П

^ «Ш ^ Djf (r(t)+

+МУ) rj (t) + J2

ri (t)

aij (t)yi + aij(t) -bt) yi ri(t)

dy.

Отсюда —tft(x)

<

C П-

1

tJ;ri(t)

i=1

yi

ri(t)

^ |Djf (r(t)+ МУ)| dy. (3.2)

j=1

В силу теоремы Ньютона-Лейбница:

lf (x)l < Cj Д ri(t)-1 i ]T|Dj f (r(t) +

i=1

O^Vi^riit), j 1

+K°y)| dydt + lftx (x)|. (3.3)

Далее ограничимся случаем r(t) = (r(t)Xl, ..., r(t)Xn) при фиксированном А = (A1, ..., An) G G [1, ro)n, min Ai = 1.

Лемма 3.1. Пусть область G С МП R > 0, А G [0, го)п, min Ai = 1 x G G, Г: [0,tx] ^ G — кусочно гладкий путь, Г(0) = x,r: [0,tx] ^ [0, го) — непрерывная кусочно гладкая функция, r(0) = 0, r(t) > 0 при t > 0. Пусть №tQx(r(t),r(t)) С G, lr'(t)l < Cb lr'(t)l < 1 да п.в. t G [0,tx], коэффициенты aj матрицы преобразования M — не-

t

laijl < C2. Тогда

lf(x)l < cjts-1r(t)-lxl j £ lDaf(r(t)+

0 | y | <r(t) a =s

+K°y)| dydt + Cj lf (r(tx) + $0x y)l dy, (3.4)

lyU<r(tx)

где C = C(C1, C2) не зависит от f и x G G. □ Доказательство. Установим сначала, что в условиях леммы

lf(x)l < cjts-1r(t)-lxl j £ lDaf(r(t)+

0 lyl<r(t) |a|=s

+^0y|) dydt + C £ l(Dß f )tx (x)l, (3.5) lßKs-1

где C не зависит от f и x G G.

= r(t) построим путь rt: [0,tx — t + r(t)] ^ G и вектор-функцию p = (pxi, ..., pXn), где p: [0,tx — — t + r(t)] ^ [0, го).

Положим u* = ly — r(t)|x, u* := tx — t + r(t),

rt(u) =

у + *%[( u )Xx

x(^0)-1(y — r(t)) , 0 < u < u*, (3.6) r(t), u* < u < r(t),

r(t + u — r(t)), r(t) < u < u*,

при 0 < u < r(t),

P(u) =

r(t + u — r(t)) при r(t) ^ u ^ u*.

(3.7)

Оценка (3.3) для y G Qx) (r(t), r(t)), пути rt, функции Dß f вместо f при lßl = s — 1 и вектор-функции p

lDßf(y)| <

^ Cju-lxlj Y)Daf (rt(u)+ »0z)| dzdu+

0 lzlx<u |a|=s r(t)

+C j u-lxljY^ lDaf (r(t) + »0z)| dzdu+

zlxM-

u"

+cJr(t —r(t)+u)-lxlJj2la=s lDaf (r(t —r(t)+u)+

lXl I \ ^а

lal=s

r(t) | z | A <r(t-r(t)+u)

y0

+K-r(t)+uz) l dz du + | (Dß f )tx (x) l. (3.8)

z

I

1

E lDaf (z)l dz.

\(rn°)-1(z-rt(u))\A<u, |a|=s

|(^0)-1(z-r(t))|A<r(t)

Ho

(M0)-1(z—rt(u)) = (X0)-1(z—y — (u*)\y—r(t))) ,

так что неравенство |(M°)-1(z—rt(u))|x < u влечет неравенство

|(M0)-1(z — y)lx < (^^)X(^0)-1(y — r(t)) u

+ u <

откуда I1 <

l(M0)-1y — r(t)|x + u < 2u,

E lDaf (z)l dz.

l а\ =s

w^t' V \ A

|(^°)-1(z-r(t))|A<r(t)

z

h

J ^lal-

)-1(z-r(t))lA <u

lDaf (z)l dz, u G [u*,r(t)].

x

s

Но (Ж?)-1^ — r(t)) = (Ж?)-1 (z — у) + (Ж?)-1(у — — r(t)), откуда ПРИ |(Ж?) 1(z — r(t))|л < u имеем

КЖ?)-1 (z — у) ^ <

< u + |(Ж?)-1 (у — r(t))U = u + u* < 2u.

tx tx

Так что

I2 <

E Daf (z)| dz.

\OR0)-l(z-r(t))\x<r(t)

Следовательно, из (3.8) имеем Dßf (Ж?у) <

r(t)

< cju-lxlj J2HJDaf (Ж0z)| dz du +

\z-r(t)\Ä<r(t)

+c J r(u)-lxl j E Daf (r(u) + Ж^)| dz du+

i - i s

+ |(Dß f )tx (x)|.

t lzlx<r(u)

Отсюда при У — r(t)l < r(t)

Dß f (Ж? у) | < cj z — yl-lllE Daf (ж^) | dz +

\z-B\x<2r(t), М-«

\z-r(t)\Ä<r(t)

tx

+c[r(u)-lxl[Y Daf (r(u) + ЖUz)| dzdu+ J J ^lal=s

lzl\<r(u)

+ |(Dßf )tx (x)|. (3.9)

Проинтегрируем это неравенство по у G {у: \у — — r(t)U < r(t)} С {у: ^ — zl < 2r(t)}. Заметим предварительно, что

У |z — y^dy < J wl^dm < c2r(t).

ly-T(t)lx<r(t)

lwlx^2r(t)

Тогда

Dßf (Ж?у)| dy <

ly-r(t)l A<r(t)

< csr(t) i E, , Daf Kz^ dz+

lz-r(t)A<r(t) )|л| I r(u)-lx

+Сг(Ь)л I г(и)-л1^21о= \Оа1 (Г(и)+

t \г\х<т(п)

йгйи + г(Ь)|л| /)tx(х)|.

Подставляя эту оценку в неравенство (3.5), в котором в заменено на в - 1, получим оценку

/(х)| <

< С^Ьа-2г(Ь)1-\л\!^И=ра?(Г(Ь)+Щ0^)|

0 \г \ х<т^)

+c4r(t)lлl / ts-2 r(u)-1лl x

?t

x j E Daf (r(u) + ЖUz)| dzdudt+

lzlA<r(u) lal=S

+c E KDßf)tx (x)|. (3.10)

lßl^s-1

Меняя порядок интегрирования во втором слага-

t

r(t)

Оценим слагаемые D31, ß ^ s — 1, из правой

ft

при 0 < |ß| ^ s — 1 интегрирование по частям, получаем

|(Dß f )tx (x)| < cß J f (r(tx) + Ж0^ dy. (3.11)

lylA<r(tx)

Из (3.10), (3.11) следует (3.4).

G? G

жества в МП G? G G, Л = (Ль ..., Лп) G [1, ж), min Лг = 1.

x G G?

гладкий путь 7 = Yx: [0, tx] ^ G, y(0) = x, непрерывная кусочно гладкая функция т = rY : [0, tx] ^ ^ (0, ж) и семейство сопровождающих 7 Л-парадлелепипедов ffitQl(Y(t),T(t))}?^t^tx со свойствами 1, 2, 4 из определения 2.1.

Тогда для f G cTO(G), x G G? оценка

f (x)| < caJ E Daf |) (x)+

\l al = s /

+caJ E Df M (x) + cAf (x), (3.12) Vlal=s )

rY (?)

A1g(x)= J ts-1-\l J

д^+Ж?у) dydt, (3.13)

|y|A<t

А2д(х) = !(Ь + г1 (0))я-1г7 (Ь)-\л\х |0

х I |д(7(Ь)+ ^ йуйЬ, (3.14) Аз/ (х)= I /(7(Ь)+ Щ°°ху)| ¿у, (3.15)

\у\<г~, (ьх)

а постоянная С ^е ^^гасит от /, х, 7, г7. □

Доказательство. По данному пути 7 и функции г = г1 построим путь Г:

Г 7(0) при 0 < Ь < г(0),

Ь \7(Ь - г(0)^ при г(0) < Ь < Ьх + г(0).

a = s

A

Свяжем с путем Г кусочно гладкую функцию тг:

т (Ь) = | £ при0 < ь < г(0),

п ' \г(г - т(0)) при г(0) < г < Ьх + г(0) и оператор поворота ЩГ(Ь)) =

'Щч(0)) при 0 <Ь < т(0),

®г-г(°)(1 (Ь - т(0))) при т(0) < Ь < Ьх + т(0).

Заменив в (3.4) Г тГ, ^(Г(Ь)) их выражениями через 7, т, ^(^(Ь)), получим требуемое.

IV. Некоторые оценки интегральных операторов

Пусть О°, О — открытые множества в Мп, О0 С О

К1 (х) = У к(х,у)1 (у) !у, х € О°, (4.1)

о

где к: О° х О ^ М — измеримая неотрицательная функция. Введем

к( с). ( (\ ^°(х,!))-1(у - х) \ л\\,( )

к(х,у,!) : = (1-^1 -с- ) )к(х,у)

при х € О°, у € О, ! > 0,

, 1

p,q ■■= sup \\k(x, ■,d)\Lp>(G)\\ \ RQx(x,d)\q.

0<d<ж

Лемма 4.1. Пусть 1 ^ p < q < го, K — ин-

k

x е Go

_p

\Kf (x) \ < J1 — Л q x pq

x\\ \ k\\\pq\\f \Lp(G)\\1-p Шхд(\f \p)(x)q. □ (4.2)

Эта лемма обобщает невесовые результаты В.М. Кокилашвили, М.А. Габидзашвили [16, 17] и Б.В. Трушина [12] в отношении вида покрытия типа Безиковича и соответствующего ему вида максимального оператора.

Доказательство. Можно считать, что \\f\Lp(G)\\ > 0 и что правая часть (4.2) конечна. Положим ради краткости обозначений №Qx(x,d) : = 'R(x,d)Q\(x,d). Рассмотрим последовательность {dj}g°: d0 = d, \Qx(x,di)\ = = 2-i\Qx(x,d)\. Представим Kf (x) в виде

Kf (x)= j k(x,y)f(y) dy+

G\^Qx(x,d)

+J2

k(x,y)f (y) dy.

1 °

Применив неравенство Гёльдера с показателями р, р' к каждому из слагаемых правой части, получим

\ К1 (х) \ <

< \ \ \ к\\\\Qл(x,!)\-1 \\1 \ЬР(О \ Щл(х, !))\\ +

+ Е

t\Qx(x,di)\ q x

i=0

x |f\Lp(MQx(x, di) \ MQx(x, di+i)) || <

<

o,q \Qx(x,d) \ q x

\\1 \ Ьр(О \^л(х,!))\\ +2 р (2 р - $ - 1) Хх

х(Шл,ш( \ I \ Р)(х)ПР \ Qл(x,d) \р

Из соображений монотонности и непрерывности при изменении ! ясно, что щи некотором ! оба слагаемых в квадратной скобке окажутся равными друг другу. Обозначим их общее значение через к. Возведя первое слагаемое в степень р -1,

а второе в степень 1 и перемножив их, получим 2к = 21+$\\1 \Ьр(О \^л(х,!))\\1-р х

х(2р-1)р (ШлЛ(\I\р)(х)$ \Qл(x, !) \$),

откуда следует (4.2).

Лемма 4.2. Пусть 1 < р < д < го, К — оператор (4.1) с ядром к. Тогда при \ \ \ к \ \ \ р,ч < го оператор К имеет слабый тип (р,д). □ Доказательство следует из оценок (4.1) и (1.2).

V. Оценки для операторов А\, А2, А3 и доказательство теоремы 2.1

Будем считать, что О € 9(Л, а), так что О =

ко

= и Оь Ок € д(О,Ак, а) при к = 1, ..., к°. Про-

к=1

извольное из открытых множеств Ок (1 ^ к ^ к°)

О° Ак А

раторы Аг: Ьр(О) ^ Ьч(О°) из (3.13) - (3.15) (г = = 1,2, 3).

Оценим снв.ч еле. А3. Учитывая, что при 7 = 7х

\х - (ч(±х) + у)\ < \х - 1(Ьх)\ + \у\ <

< К° + \\л ^ К° + С°,

имеем

, -1

\Af (x)\ < Af (x) := х

GS

y - x

Ro + Co

\f(y) \ dy.

Применяя неравенство Юнга, получаем

\\A3f\Lq(Go)\\ < C\\f\Lp(Gs)\ (5.1)

при 1 ^ p < q < го.

Оценим Aif i = 1,2. Запишем Aif в виде

Aif (x) = J ki(x, y)f (y) dy, x е Go

i = 1, 2.

Оценим \ \ \ kl \\\p,q, ^^^тая, что s — ^^^ + ^ 0. Напомним, что Щ) = (0)). Имеем \ ki(x, y,d) \= x(d\R-l(x, d)(y — x) \x

r-t (o)

x j f-i-x^ \^l(y- x) \^ dt <

o

< Cix{d\K-1(x,d)(y - х)-1) х ххГ(0)-1|Ж-1(х,г7(0))(y - х)|л)х

Ty (0) f

X t p q

-1-IAI

dt.

Отсюда

\\к1(х, ■, d)\Lp>(G)\\p' <

< C1 J \Ж-1(х,Г7(0))х

d<\^-1(x,Tj (0))(y-x)\x<TY (0)

\(Л-Л-|A|)P' dy =

x(y -

х)

A

C

ly\A p q \\)p dy < Cd -Лp,

1A

d<\y\A<Tj (0)

так что

PJU < C3. (5.2)

TT 7 -, ^ IЛI - 1)+1 , Для ядра k2 при 1 ^ p < ж, s--p--+

+ ^ > 0 имеем

\k2(х, y,d)\ = х(4^-1(х, d)(y - х)-1) x

^ urn-|al f \^-1y - Y(t)\A a

xj (t + , mrS <«,-**(

dt.

Применяя (в случае р > 1) неравенство Гёльдера, получаем

Ых, у, й^Р' < хГйЩ-1(х, й)(у - х)|-1) х

х/хГг7(Ь)-1 Щьу - Y(t)|л)х

0

х(Ь + г7(0))(°-1)р'гу(Ь)(Р-\л\)р'йЬ х

( Ьх

хГг7 (ЬГ^у - 7(Ь)|л) йЬ

°

\\к2(х, -^^Ьр'ог' <

< Ср' I ¡хЫьГ^Щ-Чу - 7(Ь))|л)х

х(Ь + г7 (0))(з-1)р' гу (Ь)( Р - \л \)р' йЬ йу.

°

у £ Щ(х, й^л(х, й), у £ ЩQлЫЬ), т-у(Ь)), то е1й < г7(0) + Ь. Поэтому

\Ых, ■, d)\Lp>(G)\\p <

< C1 х

d

с2 max{r7((0), t}

Ух

= c4 x

0

d

c2 max{rY(0), t}

x (t + ry)(0)(s-1)p'ry(t)(1- 1 л 1}p dt.

Тогда, считая, что tY(t) ^ cta ,a ^ 1, имеем \\\k2\\\pp'q < C2 sup (If' (x, d) + Ip (x, d)),

x£G0,0<d^d0

где при тх = min{tx, rY (0)} h(x,d)p' =

X

(сз r7 (0))'

(0)(s-1+ ^)p' dt <

< C4r7(0)Лp'+(s-1+ ^)p'+1 <

h^df = d-q

|Л| '

a p

< C5ry(0)[s-\ A \(P-q)]p' < C( d_ \[S-]p'-1

< C7dЛp' f x(±y Аp'-1 dt < Cs

Объединяя результаты, получаем

\ \ \ k2 \ \\p,q < ж

а(!А\ - 1) + 1 , А

при s

p

+ — > 0. q

(5.3)

Лемма 5.1. 1°. Пусть s G N, Л G [1, ж)п,

min Лг = 1, 1 < p <q< ж, s — ^ + ^ > 0.

Тогда оператор A1 имеет слабый (p, q)-ran.

Если же при этом p > 1 или s — -Lp- + ^^ > 0,

то оператор A1 имеет сильный (p, q)-rmii.

2°. Пусть s G N Л G [1, ж)П minЛг = 11 < ^ 1 IР I - 1) + 1 , I Р I ^ п

< p < q < ж а > 1 s--4 1 p 7 + q > 0,

G? G G(G, Л, а). Пусть оператор A2 построен по 7,Ту, удовлетворяющим требованиям 1-6 из определения 2.1.

Тогда оператор A2: Lp(G) —> Lq(G?) имеет сла-( p, q )

^ ^ 1 -Р- - 1) + 1 , Ьсли же при этом p > 1 или s--p--+

+ -Lp- > ^о оператор A2 имеет сильный ( p, q) □

Доказательство. Из оценок (5.2), (5.3) с помощью леммы 4.2 заключаем, что каждый из операторов A1,A2 имеет слаб ый (p, q)-ran. Отсюда с помощью интерполяционной теоремы Марцин-

кевича получаем утверждения леммы о сильном ( p, q)

Доказательство теоремы 2.1. Пусть об-

ко

ласть G G G(Л,а). Тогда G = U Gk, причем

к=1

Gk G G(G, Лк, а). Пусть f G cTO(G). При каж-

x(t + rY(0))(s 1^p rY(t)(i \ A \)p + \A\ dt = дом k , k0 для каждого х е Gk справедлива

х

|Л

p

d

q

X

оценка (3.11). В силу оценки (5.1) и леммы 5.1 операторы Ai: Lp(G) П C™(G) — Lq(Gk) (i = 1,2,3) ограничены. Следовательно, при 1 ^ k ^ ko для f е Wps(G) П Cж(G) справедлива оценка

\\f \Lq(Gk)\\ < c( Е \\Daf \Lp(G)\\ + \\f \Lp(Gs)\\J,

\|a|=s /

из которой следует оценка (2.1) для f е Cж(G). В

силу плотности C^(G) в Wp,(G) оценка (2.1) оста-

f

ной правой частью (2.1).

Литература

1. Соболев С. Л. Некоторые применения функционального анализа в математической физике. -М.: Наука, 1988. Англ. пер.: S.L. Sobolev, Some applications of functional analysis in mathematical physics // Transl. Math. Monogr. 90, Amer. Math. Soc., Providence, RI, 1991.

2. Мазья В.Г. Пространства С.Л. Соболева. -Л.: Изд-во ЛГУ, 1985. Англ. пер.: Sobolev spaces.

- Springer Ser. Soviet Math., Springer-Verlag, Berlin 1985.

3. Решетняк Ю.Г. Интегральные п p еде тав л е-ния дифференцируемых функций в областях с негладкой границей // Сиб. матем. журн. - 1980. -Т. 21:6. - С. 108-116. Англ. пер.: Yu.G. Reshet-nyak, Integral representation of differentiable functions in domains with nonsmooth boundary, Siberian Math. J. - 1981. - V. 21:6. - P. 883-839.

4. Гольдштейн B.M., Решетняк Ю.Г. Введение в теорию функций с обобщенными производными и квазиконформные отображения. - М.: Наука, 1983.

5. Бесов О.В., Ильин В.П., Никольский С.М. Интегральные представления функций и теоремы вложения. - М.: Наука, 1996. Англ. пер.: O.V. Besov, V.P. Il'in, S.M. Nikol'skii, Integral representations of functions and imbedding theorems. -V.H. Winston & Sons, Washington, DC; J. Wiley & Sons, New York, 1978, 1979. Vols. 1, 2.

6. Весов О.В. Теорема вложения Соболева для области с нерегулярной границей // Матем. сб. -2001. - Т. 192:3. - С. 3-26; Англ. пер.: O.V. Besov, Sobolev's embedding theorem for a domain with irregular boundary // Sb. Math. - 2001. - V. 192:3. -P. 323-346.

7. Бесов О. В. Интегральные оценки дифференцируемых функций на нерегулярных областях // Матем. сб. - 2010. - Т. 201:12. - С. 69-82; Англ. пер.: O.V. Besov, Integral estimates for differentiable functions on irregular domains // Sb. Math. - 2010.

- V. 201:12. - P. 1777-1790.

8. Kilpelainen Т., Maly J. Sobolev inequalities on sets with irregular boundaries // Ztschr. Anal, und Anwend. - 2000. - V. 19:2 - P. 369-380.

9. Лабутин Д.А. Неулучшаемость неравенств Соболева для класса нерегулярных областей //

Тр. МИАН. - 2001. - Т. 232. - Р. 218-222. Англ. пер.: D.A. Labutin, Sharpness of Sobolev inequalities for a class of irregular domains // Proc. Steklov Inst. Math. - 2001. - V. 232. - P. 211-215.

10. Лабутин Д.А. Вложение пространств Соболева не. ге л ь деровых областях // Тр. МИАН.

- 1999. - Т. 227. - С. 170-179. Англ. пер.: D.A. Labutin, Embedding of Sobolev Spaces on Holder Domains // Proc. Steklov Inst. Math. - 1999.

- V. 227. - P. 163-172.

11. Мазья В.Г., Поборчий С.В. Теоремы вложения пространств Соболева в области с пиком и в гёльдеровой области // Алгебра и анализ. - 2006.

- Т. 18:4. - С. 95-126.

12. Трушин Б.В. Теоремы вложения Соболева для некоторого класса анизотропных нерегулярных областей // Тр. МИАН. - 2008. - Т. 260. -С. 297-319. Англ. пер.: B.V. Trushin, Sobolev Embedding Theorems for a Class of Anisotropic Irregular Domains // Proc. Steklov Inst. Math. - 2008. -V. 260. - P. 287-309.

13. Трушин Б.В. Непрерывность вложений весовых пространств Соболева в пространства Лебега на анизотропно нерегулярных областях // Тр. МИАН. - 2010. - Т. 269. - С. 271-289. Англ. пер.: B.V. Trushin, Continuity of Embeddings of Weighted Sobolev Spaces in Lebesgue Spaces on Anisotropi-cally Irregular Domains // Proc. Steklov Inst. Math.

- 2010. - V. 269. - P. 265-283.

14. Гусман M. Дифференцирование интегралов в Rn. - M.: Мир, 1978. Пер. с англ.: М. de Guzman. Differentiation of integrals in Rn. Berlin: Springer, 1975.

15. Cm,ейн И. Сингулярные интегралы и дифференциальные свойства функций. - М.: Мир, 1973; пер. с англ. Ellas М. Stein. Singular integrals and differentiability properties of functions. - Princeton univ. press, 1970.

16. Кокилашвили B.M., Габидзашвили M.A. О весовых неравенствах для анизотропных потенциалов и целых функций // ДАН СССР. - 1985. -Т. 282:6. - С. 1304-1306; Англ. пер.: V.M. Koki-lashvili, M.A. Gabidzashvili, On weighted inequalities for anisotropic potentials and maximal functions // Sov. Math. Dokl. - 1985. - V. 31:3. - P. 583-585.

17. Габидзашвили M.A. Весовые неравенства для анизотропных потенциалов // Тр. Тбилисского матем. института. - 1986. - Т. 82. - С. 25-36.

18. Бесов О. В. Вложения пространств дифференцируемых функций переменной гладкости // Тр. МИАН. - 1997. - Т. 214. - С. 25-58. Англ. пер.: O.V. Besov, Embedding of spaces of differentiable functions of variable smoothness // Proc. Steklov Inst. Math. - 1996. - V. 214. - P. 19-53.

Поступила в редакцию 14-02.2011