Сингулярные интегральные операторы на многообразии с отмеченным подмногообразием Текст научной статьи по специальности «Математика»

ISSN 2074-1863 Уфимский математический журнал. Том б. № 3 (2014). С. 35-71.

УДК 515.168+517.983

СИНГУЛЯРНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ НА МНОГООБРАЗИИ С ОТМЕЧЕННЫМ ПОДМНОГООБРАЗИЕМ

Ю.А. КОРДЮКОВ, В.А. ПАВЛЕНКО

Аннотация. Пусть X — компактное многообразие без края и X0 — его гладкое подмногообразие коразмерности один. В работе вводятся классы интегральных операторов на X c ядрами Кд(х,у), являющимися гладкими функциями при х ф X0 и у ф X0 и допускающими асимптотическое разложение определенного вида, если х или у приближается к X0. Для операторов из этих классов доказаны теоремы о действии в пространствах конормальных функций и теоремы о композиции. Показано, что функционал следа можно продолжить до функционала регуляризованного следа r-Tr, определенного на некоторой алгебре К,(Х, X0) сингулярных интегральных операторов, описанных выше. Доказана формула для регуляризованного следа коммутатора операторов из данного класса в терминах ассоциированных операторов на X0. Доказательства основаны на теоремах о поднятии и опускании конормальных функций при отображениях многообразий с отмеченными подмногообразиями коразмерности один.

Ключевые слова: многообразия, сингулярные интегральные операторы, конормаль-ные функции, регуляризованный след, поднятие, опускание.

Mathematics Subject Classification: 47G10, 58J40, 47C05

1. Введение

Настоящая работа посвящена построению и исследованию некоторых классов сингулярных интегральных операторов на замкнутом гладком многообразии X с отмеченным гладким подмногообразием X0 коразмерности 1. Характерное свойство операторов из этих классов заключается в том, что их ядра ка(х,у) являются гладкими функциями при х ф X0 и уф X0, допускающими асимптотическое разложение определенного вида, если х или у приближается к X0.

Прежде всего, мы доказываем теоремы о действии в пространствах конормальных функций и теоремы о композиции для операторов из этих классов. Затем мы строим алгебру К(Х, X0) сингулярных интегральных операторов данного вида и функционал регуляризованного следа r-Tr на ней, который совпадает с функционалом следа на операторах с гладких ядром. Несмотря на то, что построенный функционал не обладает следовым свойством, мы доказываем формулу для регуляризованного следа r-Tr[A, В] коммутатора операторов А и В, принадлежащих К.(Х,Х0), в терминах некоторых интегральных операторов с гладким ядром на X0, ассоциированных с А и В.

Yu.A. Kordyukov, V.A. Pavlenko, Singular integral operators on a manifold with a distinguished submanifold.

© Кордюков Ю.А., Павленко В.А. 2014.

Работа поддержана РФФИ (гранты 12-01-00519-a).

Поступила 13 марта 2014-

Одной из важнейших мотивировок для наших конструкций является желание обобщить формулу Лефшеца для потока на компактном многообразии, сохраняющем слоение коразмерности один. В случае, когда поток не имеет неподвижных точек, и его орбиты трансверсальны слоям слоения, такая формула была доказана в работе [1]. Существенную роль в работе [1] играет следующий аналитический результат.

Пусть М — замкнутое многообразие и Т — гладкое слоение на М коразмерности один. Предположим, что XI : М м М, Ь € К — поток на М, который отображает каждый слой слоения Т в какой-либо (возможно, другой) слой. Пусть К — послойно сглаживающий оператор на М, то есть оператор в пространстве СМ), задающийся семейством интегральных операторов с гладким ядром, действующих вдоль слоев слоения.

Для любой функции f € определим оператор Af в пространстве СГХ(М) по

формуле

где X* — оператор в С^(М), индуцированный действием потока XI, X*/(х) = f (Х4(ж)). В [1] доказано, что, если орбиты потока трансверсальны к слоям, то для любой функции £ € С^(К) оператор А^ является ядерным оператором в гильбертовом пространстве Ь2(М). Более того, функционал f м ^ Af определяет обобщенную функцию на К. Использование обобщенных функций такого вида позволяет определить число Лефшеца потока Хг как обобщенную функцию на К.

В случае, когда поток Хг имеет конечное число невырожденных неподвижных точек, принадлежащих компактным слоям {Ьг}, и орбиты потока трансверсальны ко всем слоям, кроме {Ьг}, оператор Af, вообще говоря, не является ядерным оператором. Можно показать, что в данном случае оператор Af принадлежит алгебре К(М, М0), где М0 = иЬг, и, тем самым, определен его регуляризованный след г-Tг(Af). Этот факт позволяет определить число Лефшеца потока в данном случае. Эти результаты являются частью нашего совместного проекта с Х. Альваресом Лопесом и Э. Лейчтнамом и будут обсуждаться в последующих работах.

Алгебры операторов, ассоциированные с компактным многообразием с отмеченным подмногообразием, строились ранее в работах Б.Ю. Стернина, В.Е. Шаталова и А.Ю. Савина в связи с исследованием краевых задач для эллиптических уравнений на компактном многообразии, для которых граничные условия задаются как на крае многообразия, так и на гладких подмногообразиях (коразмерности > 1), не являющихся краем. Задачи подобного типа впервые рассматривал Соболев [2]. Общая постановка таких задач и их исследование были даны в [3] и, следуя этой работе, они часто называются задачами Соболева. Алгебра операторов, соответствующая задачам Соболева, была построена в работе [4]. Она получается как расширение алгебры псевдодифференциальных операторов с помощью специального класса операторов, ассоциированных с подмногообразием — операторов Грина. В работе [5] было показано, что теория задач Соболева может быть представлена как относительная теория, т.е. она ассоциирована с гладким вложением г : Хм- М замкнутых многообразий. Относительные теории являются более простыми и элегантными, чем теории, не обладающие этим свойством. Например, вычисление индекса в относительной теории сводится к вычислению индекса на гладких замкнутых многообразиях М и X; напротив, в теории классических краевых задач, которая не является относительной (т.к. ассоциирована с многообразием с краем), вычисление индекса весьма громоздко. В работах [6, 7, 8] Б.Ю. Стернин распространил относительную эллиптическую теорию и на случай, когда подмногообразие является стратифицированным подмногообразием, пред-ставимым в виде объединения трансверсально пересекающихся гладких подмногообразий (см. также [9, 10]).

Построенная в данной работе теория также является относительной теорией в смысле Б.Ю. Стернина [5]. Для ее построения мы используем методы работ Мельроуза [11, 12, 13], в частности, предложенный в них геометрический подход к построению и исследованию алгебр сингулярных интегральных операторов. Введенные нами классы операторов и понятие регуляризованного следа являются аналогами соответствующих объектов, введенных ранее Мельроузом для многообразий с углами.

План статьи следующий. Во втором разделе мы даем определение конормальных функций и конормальных плотностей на многообразии Z с отмеченным подмногообразием Z0 и описываем их основные свойства. Подмногообразие Z0 необязательно является гладким, а представляется в виде объединения гладких связных подмногообразий коразмерности 1, пересекающихся трансверсально. Мы будем называть такие подмногообразия стратифицированными. Одним из основных примеров для нас является следующий: Z = X х X, Z0 = (X0 х X) и (X х X0), где X — гладкое многообразие и X0 — его гладкое подмногообразие коразмерности один. Введенное нами понятие конормальной функции является обобщением классического понятия конормальной функции на гладком подмногообразии, введенным Хермандером. Аналогичное понятие было введено Мельроузом для многообразий с углами. В третьем разделе мы строим различные классы сингулярных интегральных операторов и формулируем теоремы о действии в пространствах конормальных функций и о композиции для операторов из этих классов. Доказательства этих теорем приведены в четвёртом разделе. Они используют теоремы о поднятии и опускании для конормальных функций при отображениях многообразий с отмеченными подмногообразиями и конструкции некоторых вспомогательных многообразий. В пятом разделе мы определяем функционал регуляризованного следа и доказываем его основные свойства, в частности, теорему о регуляризованном следе коммутатора. В приложениях ЛиБ мы приводим доказательства теорем о поднятии и опускании.

Авторы выражают благодарность рецензенту за полезные замечания.

2. КОНОРМАЛЬНЫЕ плотности И ИХ СВОЙСТВА

В данном разделе мы введем класс конормальных функций на произвольном многообразии X с отмеченным стратифицированным подмногообразием X0 коразмерности один.

2.1. Стратифицированные подмногообразия. Пусть X — гладкое многообразие размерности п. Подмножество X0 С X будем называть стратифицированным подмногообразием многообразия X (коразмерности один), если X0 представляется в виде объединения конечного числа гладких подмногообразий Х1,Х2,... ,ХГ размерности п — 1, которые пересекаются трансверсально. Мы будем предполагать, что подмногообразия Х\, Х2,... , Хг связны, и будем называть их компонентами стратифицированного подмногообразия X 0.

Здесь трансверсальное пересечение понимается в следующем смысле. Пусть р Е X0. Предположим, что р принадлежит ровно I компонентам подмногообразия X0, I > 1. Тогда существует локальная система координат к : и С X ^ К1 х Жп-е с координатами (х,х0) Е К1 х К"-1, определенная в окрестности точки р, такая, что пересечения компонент подмногообразия X0, содержащих точку р, с и задаются уравнениями ха = 0 для любого d Е {1,... , 1}. Любая такая система координат будет называться адаптированной в точке р. Без потери общности, мы можем предполагать, что к (и) = И1 х И2, где И1 С К1 и И2 С К"-1 — некоторые открытые подмножества. Часто для определённости мы будем полагать, что р Е Х1 П ... П Хе и р Е Хг+1 и ... и Хг, и адаптированная в точке р система координат выбрана таким образом, что для любого d Е {1,... ,1} пересечение Х^ П и задается уравнением ха = 0. Мы будем всегда рассматривать регулярные локальные системы координат, то есть такие системы координат к : и С X ^ Кга, для которых существует

система координат к : V С X м К", определенная в таком открытом множестве V, что й С V.

2.2. Индексные множества и семейства. Обозначим через 01 множество рациональных чисел, представимых в виде г = |, где р,д € % взаимно просты и д нечетно, и через множество целых неотрицательных чисел.

Определение 1. Индексным множеством называется множество Е С 01 х , удовлетворяющее следующим условиям:

1. Е ограничено снизу, т.е. существует такое Ы1 € 0>1; что для любого (г,р) € Е справедливо неравенство: г > М1;

2. (х,р) € Е, р > д ^ (г, д) € Е;

3. для любого Ы2 € множество Е{~]{(г,р) : г ^ Ж2} конечно;

4. (г,р) € Е,] € N ^ (г + ],р) € Е.

Определение 2. Скажем, что на стратифицированном подмногообразии X0 = Х1 и ... и Хг задано индексное семейство £, если любой его компоненте Х^ поставлено в соответствие индексное множество £(Х^) = Ej, ] = 1,... ,г.

2.3. Конормальные функции и их свойства. Пусть X — гладкое многообразие и X0 = Х1 и ... и Хг — его стратифицированное подмногообразие. Пусть £ = (Е1,... , Ег) — некоторое индексное семейство на X0. Определение конормальной функции в точке р0 € X0 будет дано индукцией по числу I компонент подмногообразия X0, содержащих точку 0.

База индукции: I =1. Предположим, что точка р0 принадлежит в точности одной компоненте, для определенности, р0 € Х1, р0 € Х2 и ... и Хг. Зададим адаптированную в точке р0 систему координат к : и С X м я(и) = И1 х И2 С К х К""-1.

Определение 3. Функция и называется конормальной в точке р0 относительно индексного семейства £, если существует такая окрестность V Си точки р0, к(V) = (—£, е) х У2, где У2 С К"-1, что функция и определена и является гладкой на V \Х0, и

и ~ ^^ аг>д(х°)хг 1П 1x1,

где аг>я € С^(У2). Здесь знак ~ означает, что для любых а € Ъ+, [ € Ж+-1 и N € N существует такая постоянная С = Сарм, что:

(хдх)ад^0(^и(х,х0) — ^ а2Л(х0)х* 1П \х\^

(г,д)еЕ 1

<С\х\м+1, (х,х0) € (—£, е) хУ2,х = 0.

Ш!аг индукции. Пусть I > 2. Предположим, что определение конормальной функции в точке дано для любого гладкого многообразия V с отмеченным стратифицированным подмногообразием V0, на котором задано индексное семейство £0, и для любой точки р1 € V0 при условии, что р1 принадлежит в точности к компонентам подмногообразия V0 при к < I.

Предположим теперь, что X — гладкое многообразие с отмеченным стратифицированным подмногообразием X0 и точка р0 € X0, причём р0 принадлежит ровно I компонентам подмногообразия X0. Для определённости будем считать, что р0 € Х1 П ... П Хе и р0 € и ... и Хг. Зададим адаптированную в точке р0 систему координат

к : и С X м я (и) = И1 х В2 С К1 х Ш"-е такую, что Xj задается уравнением Xj = 0.

Рассмотрим многообразие 2 = К1-1 х Кга с координатами (х2,..., хе, х ), где хз Е К, ] = 2,...,1, х° Е К"-1, наделенное стратифицированным подмногообразием Z0 = {х2 = 0} и ... и {х£ = 0}. Зададим индексное семейство £' на Z0 по формуле £'({х^ = 0}) = Е^, где ] = 2,... ,1. состоит в точности из (I — 1)-й компоненты, поэтому понятие конормальности функции в произвольной точке подмногообразия определено по предположению индукции.

Определение 4. Функция и называется конормальной в точке р0 относительно индексного семейства £, если существует такая окрестность V точки р0, к(у) = (—£,е)г х У2, где У2 С К"-1, что функция и определена и является гладкой на V \ X0,и

и ~ ^^ аг>д(х2,... ,х1,х°)х\ 1П |ж1|, (1)

(2,я)еЕ!

где функции аг,д являются конормальными функциями на (—£,е)е-1 х У2 С Z относительно индексного семейства £'.

Знак ~ означает, что найдутся такие М2,..., М£ Е К, что для любых а Е и Р Е Z+-l и для любого N Е N существует такая постоянная С = Са^м, что:

(хдх)ад^01 и(х1,х2 ,...,хе,х°) — ^ (х2,..., х£, х°)х\ 1П |ж1|)

<С 1Х21М2 • ... • ЫМ1^+1, (х,х0) Е ( — £,£)' х У2,Х3 = 0.

Можно показать, что определение конормальной функции в точке не зависит от выбора локальной системы координат. В частности, разложение типа (1) имеет место для любой из переменных х2,... ,хц.

Определение 5. Функция и называется конормальной функцией на многообразии X со стратифицированным подмногообразием X0 относительно индексного семейства £, если она является гладкой на X \ X0 и конормальной в каждой точке р0 Е X0 относительно индексного семейства £.

Класс конормальных функций на многообразии X с отмеченным стратифицированным подмногообразием X0 относительно индексного семейства £ будем обозначать

рЬ-д^

(Х,Х0).

Замечание 1. (1) Если £ — тривиальное индексное семейство, т.е. £ (X,) = {(1,0) : 1е Z+} для любого ] = 1,...,г, то А£Нд (Х,Х0) = С™(Х).

(2) Для любой функции и Е Ар1д(Х,Х0) и любой функции V Е Афд(Х,Х0) имеют место включения и + V Е Аф^2 (Х,Х0), а также иу Е 82 (Х,Х0).

Пример 1. В простейшем примере, когда X = К2 и X0 = (Кх{0})и({0}хК), функция и(х,у) = \]х2 + у2 на X не является конормальной в точке (0, 0).

Понятие конормальности легко обобщается на сечения векторного расслоения.

Определение 6. Пусть X — гладкое многообразие, X0 — стратифицированное подмногообразие, С — гладкое векторное расслоение на X. Скажем, что сечение ^ является конормальным сечением, ^ Е А£Ьд(Х,Х0,С), если в любой тривиализации С 1и = и х С расслоения С над координатной окрестностью и С X сечение ^ имеет, вид у(х) = (х, (и1(х),..., иг (х)),х Е и, где и^ Е А£Ьд (X, X0), ] = 1,... ,г.

2.4. Конормальные плотности. Мы будем рассматривать операторы, действующие на полуплотностях. Напомним, что гладкая 8-плотность ^ на гладком многообразии М размерности п записывается в произвольной локальной системе координат в виде ^ = и(х1,... ,хп)\йх1...йхп\где и — гладкая функция. Гладкие ^-плотности являются гладкими сечениями некоторого линейного расслоения на М. Будем обозначать через С^ (М, 0,8М) пространство гладких ^-плотностей на М.

Определение 7. Пусть X — гладкое многообразие и X0 = Х1 и ... и Хг — его стратифицированное подмногообразие. 8-плотность ^ на X называется конормальной относительно индексного семейства £, если в любой адаптированной локальной системе координат с координатами (х,х°) € К1 х К"-1 она имеет вид

и(х,X ) . 7 01« / 0\ Ц = -:—:-laxax I = и(х,х )

dx о —dx х

\х\<

где и — конормальная функция относительно индексного семейства £.

Пространство конормальных в-плотностей на X относительно индексного семейства £ естественно изоморфно пространству Афд (X, X0, Qsx Хо) конормальных сечений некоторого линейного расслоения &Х х0 на X. Конструкция расслоения &Х х0 аналогична конструкции расслоения Ь-плотностей на многообразии с углами, предложенной Мельроузом, и мы ее опустим.

s

3. СИНГУЛЯРНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ

В этом разделе мы введем классы сингулярных интегральных операторов на многообразии с отмеченным подмногообразием.

3.1. Классы K£l'£2(X,X0;Y,Y0). Пусть X и У — гладкие компактные многообразия такие, что dimX = п, dimY = т, X0, Y0 — гладкие подмногообразия коразмерности 1 многообразий X и Y соответственно.

Полуплотность kA Е С™ ((X xY) \ ({X0 xY} U {X х Y0}), Щопределяет оператор

А : C™(Y \ Y0, Q^) ^ C™(X \ X0, П\),

1

действие которого на полуплотность ц Е C0^°(Y \ YQy) задаётся формулой:

А,ц = j кАц. (2)

у

Полуплотность кА называется ядром оператора А.

Поясним смысл выражения, стоящего в правой части формулы (2). Ядро к а и плотность ц можно записать в виде:

кА = KA(pi, p2)Idvx (р\)dvY (р 2) 122, ц = и(р 2) Id vy (j>2)122,

где КА Е С~ ((X х Y) \ ({X0 х Y} U {X х Y0})), и Е C^(Y\Y0), IdvxI — некоторая фиксированная положительная гладкая плотность на X и IdvyI — некоторая положительная гладкая плотность на Y. Тогда их произведение

кАц = КА(р i, р2)и (р 2) I dvx (р i)|2 IdvY (р 2) I

является плотностью на У. Ее можно проинтегрировать по У, ив результате получится полуплотность на X:

У кАц = |у КА(р 1,р2)и(р2)\(1у¥(р2)\^ \йьх(Р\)\1.

Легко видеть, что формула (2) согласуется со стандартным выражением для интегрального оператора с ядром К а:

Ац = Аи(рг)\йух(рг)\1, Аи('рг) = ^ КА(р\,р2)и(р2)йьу(Р2).

у

Если р\ е X0, то интеграл, стоящий в правой части, сходится.

Рассмотрим стратифицированное подмногообразие {X0 х У} и {X х У0} многообразия X х У. Любое индексное семейство £ на {X0 х У} и {X х У0} записывается в виде £ = (£\, £2), где £\ — индексное семейство на X0 х У и £2 — индексное семейство на X х У0. В дальнейшем мы будем также рассматривать индексное семейство £\ как индексное семейство на X0 и £2 как индексное семейство на У0.

Определение 8. Пусть £ — индексное семейство на X0, £2 — индексное семейство на У0 и (£\, £2) — соответствующее индексное семейство на {X0 х У} и {X х У0}. Будем говорить, что интегральный оператор А, задаваемый формулой (2), принадлежит, классу К£1'£2(X,X0■,У,У0), если

кА е А^£2) (X х У, {Х° х У} и ^ х у0}, 4х¥ЛХохУ}и{ххУо}) .

Очевидно, что К£1'£2(XX0;У,У0) является линейным пространством.

Пример 2. В простейшем примере, когда X = У = К и X0 = У0 = {0}, интегральный оператор А с ядром

кА = Схау131пр \;г\ Ы9 \у\

¿X йу х У

1/2

х,у е К\{0},

принадлежит классу 1С£1,£2(X,X0■У,У0) в £\Х0) = {(а + ],к) : ] е Ъ+,к = 0,1,...,р}, £2(У 0) = {((3 + 3,к):]е Ъ+,к = 0,1,..., д}.

Для индексного множества Е положим т£ Е := т£{г : (г, р) е Е}. Если £ — индексное семейство на стратифицированном подмногообразии X0 = XI и ... и Xr многообразия X, то положим т£ £ = т£ т£ £ (Xj).

Теорема 1. Пусть А е К,£1'£2 (XX 0;У,У0). Тогда для любого индексного семейства Т на У0, удовлетворяющего условию \п£(£2 + Т) > 0, оператор А продолжается до оператора

А : Ар^д(у,у0, Юууо) ^ АфдX,X0, 0,2Х,х0).

Теорема 2. Если А е К£1'£2 (XX0;У,У0) и В е Кр2(У, У0Х,г0), то при условии \п£(£2 + Т2) > 0 их композиция С = А о В корректно определена и принадлежит классу к£1'рз (XX г0).

3.2. Нормальные координаты около подмногообразия. Пусть М — компактное многообразие, М0 — его гладкое подмногообразие. Выберем риманову метрику дм на М. Рассмотрим нормальное расслоение N(М°) := ТМ/ТМ° = (ТМ°)±. Напомним, что экспоненциальное отображение ехр : N(М°) ^ М римановой метрики дм для подмногообразия М0 определяется следующим образом. Пусть V Е МХ(М°), х Е М. Существует единственная геодезическая 7 : (-то, ^ М, проходящая через точку х с вектором скорости V, то есть, такая, что 7(0) = х, 7(0) = V. Тогда ехр(г>) := 7(1).

Можно отождествить М0 с нулевым сечением расслоения N(М°), что позволяет рассматривать М0 как подмногообразие в М, и как подмногообразие в N(М0). Справедливо следующее предложение.

Предложение 1. Существует окрестность и Э М0 в N(М0), такая что ограничение ехр 1и на и является диффеоморфизмом и на некоторую окрестность ехр(^) подмногообразия М0.

Множество ехр(^) называется трубчатой окрестностью подмногообразия М0 в М. Без потери общности мы можем предполагать, что ехр(^) является е-окрестностью подмногообразия М0 при некотором е > 0.

Предположим, что подмногообразие М0 имеет коразмерность один, и нормальное расслоение N(М0) является тривиальным. Пусть и Э М0 как в предложении 1. Возьмём точку р Е ехр и. Этой точке взаимнооднозначно соответствует пара (х,х0) Е N(М°), где х° Е М°, х Е МХо (М°), ехр(ж) = р. Поскольку риманова метрика задаёт изоморфизм МХо (М0) = К, можно считать, что х Е К. Таким образом, любая точка р, принадлежащая трубчатой окрестности ехр(^), однозначно задаётся набором (х,х°), где х Е К, х° Е М0. Отображение ехр(^) ^ (-е,е) х М°, р м- (х,х°) будем называть нормальной системой координат около М0.

3.3. Классы К,£1 '£2'£о. Пус ть X — гладкое компактное многообразие размерности п, дх — риманова метрика на X, X0 = Х1 и... и Хг — его гладкое подмногообразие коразмерности 1. Тем самым, подмногообразия Х1,... ,ХГ попарно не пересекаются. Предположим, что нормальные расслоения подмногообразий Х1,... , Хг тривиальны.

Рассмотрим оператор А : С0°°(Х \ X0, ^Х) ^ С™(Х \ X0, ^Х) с ядром кА Е С~ ((X х X) \ ({X0 х X} и (X х X0}), 4хх) .

Всюду в дальнейшем |dx0| — фиксированная гладкая положительная плотность на X0.

Выберем нормальную систему координат с координатами (х,х0) Е (-£,£) х X0 в некоторой трубчатой окрестности ехр(^) = V подмногообразия X0. Пусть (х1,х2,х°1) х2) — соответствующие координаты на V х V. Положим П£ = {(х, в) Е К2 : 0 < |ж| < е, \ Х | < е} На множеств по формулам

На множестве (V \ X0) х (V \ X0) введём систему координат (х, з,ж°,ж°) Е П£ х X0 х X0

Х\

X X1, 5 .

Х2

кА = КА(х1,х2,х°, ж°)

1 2

Тогда полуплотность

¿х1 йх2 Х1 х2

в локальной системе координат (х, з,ж°,ж2) записывается в виде:

х

ьа = ка(х,-,х°1,х°) в

О/Ж 1 иХо X 8 12

Определим функцию К а на П£ х X0 х X0 по формуле:

х

К А (х, з, Хо, х<2) — К а (х, , х о, х2) •

Пусть ц Е С™(Х, 0>2Х), ъиррц С V. Запишем ц — и(х,х°) I^йх°12

где

и Е С^ф) — С^((-£,е) х X0). Тогда

Ац

у

ка(х, в, х1, х2)и (х, х^) — ¿х \8 /в

о

о>х 1

х

Определение 9. Пусть 81, 82 — индексные семейства на X0, 8о — {£о,г] ■ г,3 — 1, ■ ■ ■, т} где — индексное множество для любого г,з — !,■■■,г . Скажем, что оператор А принадлежит классу К.£1,£2,£° (Х,Х0), если:

(1) Ядро к а является конормальной полуплотностью на (X х X) \ (X0 х X0) с отмеченным подмногообразием {X0 х (X \ X0)} и {(X \ X0) х X0} относительно индексного семейства Е1 — (£\, 82):

Е^ х (X \X0)) — 8^), Е^Х \X0) х X,) — 82(X,)■

(2) Функция ка(х,8,х01,х00) на П£хX0 хX0 является конормальной на подмногообразии {0} х (К \ {0}) х X0 х X0 относительно индексного семейства Е2:

Е2({0} х (К \ {0}) х X, х X,) — 8о,гз■

(3) Функция ка на {(х, т) Е К2 ■ |х| < £, 1хт| < £} х X0 х X0, определяемая формулой

ка(х, т, х0, х<2) — ка(х, хт, х°1,х<0),

является конормальной на подмногообразии ({0} х К х X0 х X0) и ((-£, £) х {0} х X0 х X0) относительно индексного семейства Е3 — (80,82)

Ез({0} х К х X, х X,) — 8о,гз, Е3((-£, е) х {0} х X, х X,) — 82(X))■

(4) Функция КС а на {(1 ,х) Е К2 ■ \Ъх\ < £, |х| < £} х X0 х X0, определяемая формулой

К А(г ,х,х°1,^0) — К А (гх,х,х°1,х°2) , (г ,х,х01,х02) Е (-£, е) х К х X0 х X0,

является конормальной на подмногообразии ({0} х (—£, £) х X0 х X0) и (К х {0} х X0 х X0) относительно индексного семейства Е4 — (81,8о)

Е4({0} х (-£, е) х XI х X,) — 81X), Е4(Ж х {0} х X, х X,) — 80. Очевидно, что класс К,£1,£2,£° (XX0) является линейным пространством.

г]-

Замечание 2. Можно показать, что К,£1,£2 (XX0) 80,1] — ^^^ + 82 ^^).

С 1С£1,£2,£о (XX0), где

Пример 3. В простейшем примере, когда X — К и X0 — {0}, интегральный оператор А с ядром

кА — хау?(х2 + у2)2 Ыр \х\ 1П |у| 1пг(х2 + у'2)

.2\3

х

х У

1/2

принадлежит классу К.£1,£2,£° (XX0), где 81Х°) — {(а + 3, к) ■ 3 Е Z+,k — 0, !,■■■, р}, 82Х0) — {(Р + з,к) ■ з Е Z+,k — 0, д} и 80 — {(а + Р + 1 + ],к) ■ 3 Е Z+,

к — 0,1, ■ ■ ■ ,р + д + г}.

Пусть Е\, Е2 — произвольные индексные множества. Положим

ЕхиЕ2 = Е и Е2 и {(г,р!+ Р2 + 1) : (г,р 1) Е Еъ (г,р2) Е Е2}.

Теорема 3. Пусть А Е К,£1'£2'£° (Х,Х°). Тогда для любого индексного семейства Т, удовлетворяющего условию т£(£2 + Т) > 0, оператор А продолжается до оператора

А : А^ьд (Х,Х0, ^Х,х0) ^ Афд(Х,Х°, ,х0),

где

д(Хг) = (ц(Т(Х3) + 8о,гз)) , г = 1,...,г.

Теорема 4. Пусть А Е (Х,Х°) и В Е К£?'£?'£о (Х,Х°), причем

1п£(^А + ) > 0. Тогда определена композиция С = А о В, которая принадлежит классу 1С£1 >£Я(Х,Х°), где

(Хг) = ¿А№)й (и, №,гк + ?! (Хк))) ,

(X,) = ?2Б&)й (и, №(хк) + £Е,кз)), Ям = (ик + )) й + ^(X,)) .

Замечание 3. По-видимому, полученные результаты можно распространить на случай, когда нормальное расслоение подмногообразия Х° нетривиально. Для этого необходимо перейти на соответствующее двулистное накрытие и работать с Ъ2-инвариантными операторами. Соответствующая техника была разработана для многообразий с углами в работе [14].

4. Доказательства основных теорем

В данном разделе мы приводим доказательства теорем 1, 2, 3 и 4. Как это уже было сказано во введении, наш подход к построению и исследованию классов сингулярных интегральных операторов является обобщением геометрического подхода, предложенного Мельроузом ([11, 12, 13], см. также [15]). Специфика подхода Мельроуза заключается в том, что классы операторов определяются при помощи некоторых условий на ядро к а оператора А из данного класса. Эти условия являются условиями конормальности либо для самого ядра к а, либо для некоторой полуплотности кА, являющейся поднятием ядра к а на некоторое вспомогательное многообразие, ассоциированное с X х X. Для того чтобы связать оператор А с ядром к а, действие интегрального оператора А на полуплотностях выражается в терминах операторов поднятия и опускания. Тем самым, исследование данного класса интегральных операторов сводится к использованию операторов поднятия и опускания и их свойств. Поэтому, мы начнем с обсуждения операторов поднятия и опускания.

4.1. Поднятия. Напомним определения оператора поднятия, ассоциированного с отображением гладких многообразий.

Пусть X и V — гладкие многообразия, / : X ^ V — гладкое отображение. Для любого векторного расслоения р : С ^ V на V определим векторное расслоение р\ : /*С ^ X следующим образом:

¡*С := {(х, у^х Е XЕ С^х)}, Р\(х, у) := х.

Определение 10. Оператором поднятия называется линейный оператор

/* : С?(У, С) ^ С?(Х, ¡*С), задаваемый для любого в Е С?(У,С) формулой

Г8(х) = (х, 8(¡(х))), X ЕХ.

Пусть Х, У — гладкие многообразия размерности п ит соответственно, Х0 = Х и ... и Хг и у0 = У1 и ... и Уго — стратифицированные подмногообразия многообразий Х и У соответственно.

Определение 11. Гладкое отображение f : Х ^ У называется относительным, если для любой точки р Е Х0 выполнено следующее условие. Предположим для определенности, что р Е Х П.. .ПХ£, р Е Х1+1 и.. .иХг, и / (р) Е У П.. .ПУ1о, ¡(р) Е У1о+1 и.. .иУГ0. Выберем адаптированную в точке р систему координат с координатами (х,х0) Е К1 х К"-1, определенную в окрестности ир, и адаптированную в точке ¡(р) систему координат с координатами (у, у0) Е К10 х Ет-1°. В этих координатах отображение f записывается в виде

Уг = /¿(х,х°), г = 1,...Л; = /¿(х,х0), г = ¿0 + 1,...,т. Тогда найдутся гладкие функции аг, г = 1,... ,10, такие, что аг(х,х0) = 0, ив некоторой окрестности точки р справедливо представление:

I

/г(хь . . . ,х£,х0) = аг(х,х0) Д х1]3

3 = 1

где "(ц — целые неотрицательные числа, г= 1,... ,10, ] = 1,... ,1.

Числа зависят только от компонент Х3 и Уг и будут обозначаться через ef(Х3,Уг). Отметим, что из определения относительного отображения вытекает, что /-1 (У0) С Х0.

Теорема 5. Пусть С — линейное расслоение над У, £0 — индексное семейство на подмногообразии У0. Тогда для любого относительного отображения f : (Х,Х0) ^ (У, У0) оператор * продолжается до оператора

г : АЦ(У, У0, С) ^ А£ф9(Х,Х0, ГС),

где индексное семейство £ на Х0 имеет вид:

£ (Х) = {(*! + Ее / (Х, Уг) Е (^ ф) Е £ 0(Уг), V Е 2+} , (5)

где суммирование ведется по таким г = 1,..., г0, для которых еf (Х3,Уг) = 0. Доказательство теоремы 5 будет дано в приложении А.

4.2. Опускания. Напомним определения оператора опускания, ассоциированного с отображением гладких многообразий. Обозначим

£>'(У,С) = С0°°(У,С*)/.

Имеет место включение

С0°°(У,С 0 Пу) С &(У,С). Для любого и Е С?(У, С 0 Пу) вида и = з 0 где 5 Е С? (У, С), ^ Е С? (У, Пу), соответствующий функционал на С? (У, С*) задается формулой

(и, V) = /(а(у),<р(у)Му) Е С, <р Е С?(У, С*), у

где (в (у), р(у)) Е С обозначает значение функционала р(у) Е С* на в(у) Е Су.

Определение 12. Пусть X, У — гладкие компактные многообразия, С — векторное расслоение на У. Пусть задано гладкое отображение f : X ^ У. Оператором опускания называется линейный оператор

Л : Ъ\х} ГС) ^&(У,С),

задаваемый для любого 1 Е V(X, f *С) формулой:

(ьы) = (1, г<р), <Р ес^(у,с2).

Пусть X, У — гладкие компактные многообразия размерности п и т соответственно, X0 = Х\ и ... и Хг и У0 = У\ и ... и Уго — стратифицированные подмногообразия многообразий X и У соответственно.

Определение 13. Гладкое отображение f : X ^ У называется относительным расслоением, если оно удовлетворяет следующим условиям:

1. ! — относительное отображение;

2. / сюрьективно;

3. Для любой компоненты Xj подмногообразия X0 найдётся не более одной компоненты Уг подмногообразия У0 такой, что ef Х^ ,У) = 0;

4. Пусть р Е X0 такая, что /(р) = р0 Е У0. Предположим, для определенности, что р Е Xl{~]... П Xl и р Е X(+l{^ .. .{^Xr. Как в определении 11, запишем отображение f в локальных координатах в виде

у0 = Л(х,х0), (х,х0) Е«1 х Ега-1, г=1,...,т. Тогда ранг матрицы Якоби 9(10''х°п\ равен т.

Теорема 6. Пусть 6 — такое индексное семейство на X0, что для любого ] = 1,..., г, такого что еf (Xj,У^) = 0 для любого г = 1,..., г0, выполнено неравенство: т£6(Xj) > 0. Тогда для любого относительного расслоения f : (XX0) ^ (У,У°) и для любого линейного расслоения С на У оператор опускания ¡2 ограничивается до оператора:

Г : А£р]гд(X, XГС ® о) ^ (У, У0, С ® Пу,уо), где индексное семейство 60 на У0 имеет следующий вид:

6°та =Си, 7р£уг) '')ф-9)Е 6 № >}• <=1--

Доказательство теоремы 6 будет дано в приложении В.

4.3. Доказательства теорем 1 и 2. Докажем теорему 1. Непосредственным вычислением легко проверить, что отображение

А : С^(У \ У0, П^) ^ С^Х \ X0, П^), определяемое оператором А Е К£1'£2 (XX0;У,У0), можно представить в виде

А1 = пи( кАп*21), 1ЕС™(У \У0, Щ), где отображения : X х У ^ X, п2 : X х У ^ У задаются формулами:

^Жl(х, у) = х; Ъ2(х, у) = у. (6)

Пусть индексное семейство Т на У0 удовлетворяет условию \Ш(62 + Т) > 0 и

1

1 Е Афд (У, У0, П^у0). Можно показать, что п2 — относительное отображение, причем еЖ2(X0 х У, У0) = 0, еЖ2(X х У0,У0) = 1, поэтому по теореме 5 имеем:

а0'т рЬд

Е А°/д(X хУ, {X х У0} и {X0 х У},п*2П1уо).

Из свойств конормальных функций. отмеченных в замечании 1, следует, что:

кАтт*ф е Hgf(X х У, (X х У0} U {X0 х У}, 4xy,{xхУ0}и{хоху} ® о).

Имеет место изоморфизм векторных расслоений:

i 11 О 2 ^ Т*О 2 (9) Т*О 2

XxY,{XхУ0}и{Х0хУ} = щ ОХ,Х0 oY,Y0 '

Следовательно:

кАТТ*ф е А£р%(X хУ, (X х У0} U (X0 х У },т\О^Х0 ® ОХхУ,{ХхУ0}и{Х 0ху}).

Так как ini(S2 + Т) > 0, и можно показать, что щ — относительное расслоение, причем

_1

еЖ1 (X0 х УХ0) = 1, еЖ1 (X х y°,X0) = 0, применяя теорему 6 с G = Ох2х0, f = щ,

получаем, что Ац е Ар1д (X,X0, Ох х0), что завершает доказательство теоремы 1.

Теорема 2 доказывается аналогичным образом. Ядро композиции С = А о В представляется в виде:

кс = *(n*kAnlkB),

где отображения щ : X хУ х Z ^У х Z, т2 '■ X хУ х Z ^ X х Z , : X хУ х Z ^ X хУ определяются по формулам:

щ(x,У, z) = (y, z); щ2(x,y, Z) = (x, z); щ(x,У, z) = у). (7)

Далее остается применить теоремы 5 и 6.

4.4. Доказательство теоремы 3. Пусть X — гладкое компактное многообразие с выделенным подмногообразием X0 коразмерности 1 . Предположим, что на X задана рима-нова метрика дх, и нормальное расслоение подмногообразия X0 тривиально.

Мы будем использовать растянутое произведение X2, которое получается из X х X раздутием подмногообразия X0 х X0 С X х X. Напомним его определение. Прежде всего, введём нормальное расслоение N (X0 х X0) = T (X х X) /T (X0 х X0) над подмногообразием X0 х X0. Заметим, что rankN(X0 х X0) = 2.

Проективизацией расслоения N(X0 х X0) называется расслоение Р(N(X0 х X0)) над X0 х X0, слой которого в точке X0 х X0 состоит из одномерных линейных подпространств в NP(X0 х X0). Зададим множество

V(N(X0 х X0)) = [J V(£),

£еР (N (X 0хХ0))

где V(I) С N(X0 х X0) — одномерное линейное пространство, которое соответствует прямой I. Таким образом, элементами множества V(N(X0kX0)) являются наборы (x0,x2,,l, v), где р = (x0,x0) е X0 х X0, I С NP(X0 х X0), v е V(I). Можно доказать, что множество V(N(X0 х X0)) имеет структуру гладкого многообразия. Введём отображение 3N : V(N(X0 х X0)) ^ N(X0 х X0) по формуле:

¡3N : (x0,x°2,£, v) ^ (x0,x0, v).

Пусть дх хх — такая риманова метрика на X х X, которая совпадает с метрикой дх на множестве TX х {0} и на множестве {0} х TX, которые являются подмножествами TX х TX = Т(X х X). Более того, множества TX х {0} и {0} х TX — взаимно ортогональны.

Согласно предложению 1, существует такая окрестность U множества X0 х X0 в N(X0 х X0), что следующее отображение является диффеоморфизмом:

expxхх \и :U ^ exP(U).

Введём отношение эквивалентности на множестве [(XхХ)\(Х0 хХ0)]и1 (и), положив, что точки (р1,р2) € (XхХ)\(Х0 хХ0) и (х^х^, ь) Е А-1 (и) эквивалентны тогда и только тогда, когда точка (р 1,р2) Е ехр( и) и выполнено равенство ехр(/^(х°,х2,1, у)) = (р 1,р2).

Растянутое произведение Х2 определяется как множество классов эквивалентности на множестве [(Х х Х) \ (Х0 х Х0)] и /-1(и):

Х2 = [(Х х Х) \ (Х0 х Х0)] и /-1(и)/ -,

Множество Х"2 естественным образом наделяется структурой гладкого многообразия.

Определим отображение / : Х" ^ Х х Х следующим образом: если (р 1, р") Е (Х хХ) \ (Х0 хХ0), то

Р ^ри р2) = (р 1, р2 );

если (х0,х2,1,ь) Е 1 (и), то

Р(х01,х02,е, V) = ехр(/м(х?,х",1, г;)). В Х2 имеется подмногообразие:

Хоь = {(х°1,х°2,£, V) Е 1(и):и = 0}.

Положим

Х"ь = Х0 х (Х \ Х0) и {(х°,х°,1, г;) Е и) : I = 11},

где 11 — одномерное подпространство в N(Х0 х Х0), состоящее из векторов (у 1, ь2) Е ТХ х ТХ, таких что у1 Е ТХ0. Аналогично определим

Х"ь = (Х \ Х0) х Х0 и {(х?,х°,1, г;) Е /^(и) : I = £"},

где 12 — одномерное подпространство в N(Х0 х Х0), состоящее из векторов (г; 1, г;2) Е ТХ х ТХ, таких что ь2 Е ТХ0.

Легко видеть, что Х", Х" и ХОь являются гладкими подмногообразиями в Х2. Эти подмногообразия пересекаются трансверсально, и их объединение является стратифицированным подмногообразием многообразия Х2.

Фундаментальное свойство многообразия Х2 приведено в следующем утверждении.

Лемма 1. Оператор А принадлежит классу К,£1'£2'£°(Х,Х0) тогда и только тогда, когда подъем \гА = /*кА ядра кА при отображении / : Х2 ^ ХхХ является конормальной функцией на Х2 относительно индексного семейства (£1, £2, £О) на Х^ = Х^ иХ|ь и ХОь.

При помощи леммы 1 доказательство теоремы 3 проводится следующим образом. Определим отображения / : Х2 ^ Х, /2 : Х2 ^ Х по формулам: / = о /, /2 = ■к2 о /, где и гк2 определены в (6). Прямым вычислением можно показать, что оператор А Е К£1'£2'£° (Х,Х0) представляется в виде

А/ = /*(~кАР*2/), / ЕС? (У \У0, 4), (8)

где кА определено в лемме 1. Далее доказательство теоремы 3 завершается аналогично доказательству теоремы 1 с использованием теорем 5 и 6.

4.5. Доказательство теоремы 4. Теорема 4 доказывается следующим образом. Сначала определяется многообразие Х|, которое является раздутием стратифицированного подмногообразия Х0 = (Х х Х0 х Х0) и (Х0 х Х х Х0) и (Х0 х Х0 х Х) в Х х Х х Х, затем отображения ^ : Х^ ^ Х2, г = 1, 2, 3, являющиеся аналогами проекций 'Ki, г = 1, 2, 3 (см. (7)). Можно доказать, что ядро композиции кс представимо в виде:

кс = 72* (1*кА 7* к в),

где 7З к а , /У**кв — подъём ядер на Х^. Важным фактом является утверждение о том, что существует такое стратифицированное подмногообразие Х^ в Х^, что отображения "Уг : (Хь3, ХЬ3) м (X2, X2) являются относительными расслоениями. После этого доказательство завершается с помощью теорем 5 и 6.

Опишем конструкции многообразия Х^, подмногообразия Х^ и отображений гуг. Рассмотрим нормальное расслоение N(Х0 х Х0 х Х0) = Т(Х х Х х Х)/Т(Х0 х Х0 х Х0) над подмногообразием Х0 х Х0 х Х0 ранга 3. Проективизацией расслоения N (Х0 х Х0 х Х0) называется расслоение Р^(Х0 х Х0 х Х0)) над Х0 х Х0 х Х0, слой которого в точке р Е Х0 х Х0 х Х0 состоит из одномерных линейных подпространств в Х(Х0 х Х0 х Х0). Зададим множество:

V^(Х0 х Х0 х Х0)) = |_| V(I),

££Р (М (Х°хХ°хХ 0))

где V(I) С N(Х0 х Х0 х Х0) — одномерное линейное пространство, которое соответствует подпространству I как элементу N(Х0 х Х0 х Х0). Таким образом, элементами множества V^(X0 х Х0 х Х0)) являются наборы (р, I, у), где р Е Х0 х Х0 х Х0,1 С ^(Х0 х Х0 х Х0) и V Е V(I). Нетрудно показать, что множество V(N(Х0 х Х0 х Х0)) имеет структуру гладкого многообразия.

Определим подмногообразие У0 в V^(Х0 х Х0 х Х0)) по формуле V. = {(р ,1, V) Е V ^ (Х0 хХ0 х Х0)) : V = 0}. Введём отображение : V ^ (Х0 хХ0 х Х0)) м N (Х0 хХ0 х Х0) по формуле

уМ : (х1,х0,х0,1, V) м (х0,х2,х0, V). Нетрудно показать, что ограничение на V \ V определяет диффеоморфизм

■уМ : V^(Х0 х Х0 х Х0)) \ V, м N(Х0 х Х0 х Х0) \ (Х0 х Х0 х Х0).

V\Уо

Аналогично двумерному случаю можно ввести понятие раздутия подмногообразий Х1 = Х х Х0 х Х0, Х2 = Х0 х Х х Х0 и Хз = Х0 хХ0 х Х многообразия Х х Х х Х.

Рассмотрим нормальное расслоение N (X) подмногообразия XX1, слой которого в точке р Е Х1 имеет вид ^(Х1) = Тр(Х х Х х Х)/Тр(Х1) для любого р = (х^х^х0) Е Х1. Определено отображение

рп : N(X) м N(Х0 х Х0), (х1,х0,х3, vl) м (х2,х0, гл), задающее изоморфизм ^(Х{) = ^>о)Жо)(Х0 х Х0).

Введём расслоение Р ^ (X)) над Хь слой которого в точке р = (х1, х^, хз) Е Х1 состоит из одномерных линейных подпространств в NP(X1). Зададим множество:

V ^ (ХХ1)) = □ V (I), еер (м (^1))

где V(I) С N(X) — одномерное линейное подпространство, которое соответствует I как элементу N(ХС1). Таким образом, элементами множества V^(X)) являются наборы (р ,1, у), где р = (х1,х0,х0) Е ХХ1, I С N (X) ко Е V (I).

Введём отображение

^ : V^(XX1)) м N(XX1), (х1 ,х0,х0,11,гл) м (х1,х0,х3,ы).

Аналогичные объекты можно ввести для подмногообразий Х2 и Х3. В частности, определены отображения : V^(X«)) м N(X«) и рп : N(X«) м N(X0 х X0), г = 2, 3.

Определим подмногообразие V в V(М(X¿)), г = 1, 2, 3, по формуле

V = {(р,£, V) еV(М(Хг)):у = 0}.

Нетрудно показать, что ограничение на Vг = 1, 2, 3, определяет диффеоморфизм

^ : V(М(X) \ V ^ NX) \ Хг.

V\У;

Пусть дх хх хх — такая риманова метрика на X х X х X, которая совпадает с метрикой дх на подрасслоениях TX х {0} х {0}, {0} х TX х {0}, {0} х {0} х TX расслоения TX х TX х TX = Т (X х X х X). Согласно предложению 1, существует такая окрестность и множества X0 х X0 х X0 в N(X0 х X0 х X0), что следующее отображение является диффеоморфизмом:

ехр := ехрххХхХ ^ : и ^ ехрххХхХ(и) cX хX х X,

а также существует такая окрестность и множества X0 хX0 в N(X0 х X0), что следующее отображение является диффеоморфным:

ехРххХ ^ : и ^ ехРххХ(и) cX х X. Для любого I = 1, 2, 3 композиция отображения ехрХхХ с рг г определяет диффеоморфизм

ехр; : рг(и) С NX) ^ ехр(рг~1 (^)) С X хX х X.

Введём отношение эквивалентности ~ на множестве (X х X х X\X0) игу:—1(и) и^^(и) и ^(и) и ), положив, что:

• Точки (р1,р2,р3) е X х X х X \ X0 и (х(°,х'2,х'3,£, ь) е /У—1(и) эквивалентны тогда и только тогда, когда (р 1,р2,р3) е ехр( и) и

ехр(чм(х°°,х02,х0з,1, ь)) = (р 1,р2,Рз).

• Для любого г = 1, 2, 3, точки (р 1,р2,р3) е X х X х X \ X0 и (р,£1, ь1) е /у-1(и1) эквивалентны тогда и только тогда, когда точки (р 1,р2,р3) е ехр^рг—1 (и1)) и

ехр^Ж ^Р^и ^ = (P1,P2, Р3).

• Для любого г = 1, 2, 3, точки (х(°,х<2,х33,£, ь) е ч—1 (и) и (р,£1, ь1) е 1~—1(и1) эквивалентны тогда и только тогда, когда

(х1, х21 хз) = P,

и (I, у) отображается в (£1, V-]) при естественном отображении N(X) ^ N(XI). Определим множество X3 как множество классов эквивалентности:

X3 = (X хx хx \X0) и 1—1(и) иг^Ш и г^и) иГщШ/ ~ .

Легко проверить, что множество XI является гладким многообразием. Введем следующие подмножества в X3:

Xo3 = {(р ,£, V) е V X (X0 хX0 х X0)) :у = 0}с ^ 1(и), X3г = {(Р,1, V) е VX(X)) :ь = 0}с Т^и), г = 1, 2, 3.

Определим подмножество X'3 в X3 задав его пересечения с компонентами X3 X3 П (X хX хX \X0) = X0 х (X \ X0) х (X \ X0), X3 П ^ 1(и) = {(р,£, V) е VX(X0 хX0 х X0)) : £ С TX0 хTX х TX},

X3, п Гм\(и1) = {(р,е, V) е VX(X)) :р е X0 хX0 х X0}, X! п Гщи) = {(Р ,1, V) е V X X)) : £ СTX0 хTX х TX},

Х3 п 7-1(^1) = {(р,1, V) Е V(N(Хз)) : I СТХ0 х ТХ х ТХ}.

Аналогично определим подмножества Х| и Х|.

Легко видеть, что все введенные выше подмножества являются гладкими подмногообразиями в XI. Эти подмногообразия пересекаются трансверсально, и их объединение является стратифицированным подмногообразием в X^, которое мы обозначим через Х^:

X* = Х3 и Х3 и Х3 и Х3 и Хд1 и Х^2 и Хдз. Отображения уг : XI м Х^, г = 1, 2, 3, определяются следующим образом. Для (р 1,р2,рз) Е X х X х X \ X0:

1г(р 1, р2, рз) = Ъг(р1, р2, рз), где отображения пг : X х X х X м X хХ определены в (7). Для (х°,х°,х0,1,и) Е 7-1(^):

71

(х1,х0,х0,1,ь) м (х2,х0,11,г>2,г>з), (х1,х2,х0,1, г;) м (х01,х0з,£2, У1, Уз), (х5,х0,х0,1, V) м (х°1,х°2,£з, У1, У2),

72

73

где 11, 12, 1з — образы I при проекциях N(X0 х X0 х X0) на N(X0 х X0): (х0,х0,хз, у) м (х2,х0, У2, уз), (х°1,х0,х0, у) м (х0,х0, У1, уз), (х0,х0,х0, у) м (х0,х0, у1, у2) соответственно.

Для (р,1, у) Е 7-!( (), где р = (х1,х0,х0) Е Х1, I С и у Е V(I):

71 : (х1,х2,х0,1,у) м (х0,х0,рг1(£),рг1(у)),

72 : (х1,х2,х0,1,у) м (х1,ехрх(уз)),

73 : (х1,х2,х0,1,у) м (х1,ехрх(г^)).

Для (р,£, у) Е 7—1((1) отображения у1,у2,уз определяются аналогично.

5. РЕГУЛЯРИЗОВАННЫЙ СЛЕД

Операторы из класса К£1'£2'£° (X, X0), вообще говоря, не является ядерными. Оказывается, что если индексное семейство 8о удовлетворяет следующему условию:

т£ 8о > 0, причём, если (0, д) Е 8о, то д = 0, (9)

то можно ввести функционал на ^£1'£2'£° (X, X0), называемый функционалом регуляризо-ванного следа, который совпадает с функционалом следа на ядерных операторах.

Прежде чем дать определение регуляризованного следа, введем понятие регуляризован-ного интеграла для конормальных плотностей.

5.1. Регуляризованный интеграл. Пусть р — конормальная относительно индексного семейства 8 плотность, заданная на компактном многообразии X с отмеченным гладким подмногообразием X0 коразмерности 1. Предположим, что нормальное расслоение подмногообразия X0 тривиально, и индексное семейство 8 удовлетворяет условию (9). На многообразии X зададим риманову метрику дх. Определим непрерывную функцию г на X по формуле г(р) = д(р,Х0), где д — геодезическое расстояние от точки р до подмногообразия X 0.

Определение 14. Регуляризованный интеграл от плотности р по X определяется формулой

г

= J р + 21п е J р |Х0^ . (10)

X XX0

г(р)>е

Здесь р \хо — плотность на X0, определяемая следующим образом. В нормальной системе координат ехр( и) ^ (—£, е) х X0, р м- (х,х0) около X0 запишем р = и(х,х0) | ^йх0|, где и — конормальная функция на (—£, £) х X0 с отмеченным подмногообразием {0} х X0, \ йх0\ — фиксированная гладкая плотность на X0. Поскольку индексное семейство £ удовлетворяет условию (9), легко видеть, что и продолжается до непрерывной функции на ( — £, £) х X0. Положим

Р \хо = и(0, х0)\йх0\.

Легко проверить, что р \хо не зависит от выбора плотности \йх0 \.

Можно показать, что предел в правой части равенства (10) существует. Следует отметить, что регуляризованный интеграл зависит от выбора римановой метрики дх.

5.2. Регуляризованный след. Пусть X — компактное многообразие и

А : С^Х, ) ^ С" (X, ) — интегральный оператор с гладким ядром 1 1 кА Е С"Х х X, ), действие которого на полуплотность р Е С "(X, 02) задаётся

формулой (2). Напомним, что такой оператор А определяет ограниченный оператор в

1

пространстве Ь2Х, 0Х). Этот оператор является ядерным, причём

Тт(А)^кА\а , (11)

х

где А = {(х,х) & X х X : х Е X}.

Здесь гладкая плотность к а \а на X определяется следующим образом. Пусть йьх — гладкая положительная плотность на X. Запишем

кА = Ка(р 1,р2)\йьх(р 1)\2\йьх(р2)\1, Р\,Р2 Е X, где КА Е С"(X х X). Положим

кА\а = Ка(р , р)\йьх (р)\.

Легко проверить, что это определение не зависит от выбора плотности йьх.

Пусть X — компактное многообразие, X0 — его гладкое подмногообразие коразмерности 1, дх — риманова метрика на X. Предположим, что нормальное расслоение

подмногообразия X0 тривиально. Рассмотрим оператор А Е К£1,£2,£о (XX0) с ядром

1

к а Е С "(X х X \ (X0 х X) и (X х X0), ). Предположим, что индексное семейство £о удовлетворяет условию (9).

Определение 15. Регуляризованный след оператора А определяется по формуле

г

г-Тг(А) = 1кА\а . х

Можно показать, что к а \а является конормальной плотностью на (X, X0) относительно индексного семейства £о, и потому регуляризованный интеграл от к а \а по X корректно определён.

5.3. Регуляризованный след коммутатора. Как и выше, пусть X — компактное многообразие, X0 — его гладкое подмногообразие коразмерности 1, дх — риманова метрика на X. Предположим, что нормальное расслоение подмногообразия X0 тривиально. Функционал регуляризованного следа г-Тг на алгебре К,£1'£2'£о (XX0) не является следовым функционалом, т.е. регуляризованный след г-Тг([А, В]) коммутатора операторов А Е К,£1'£2,£о (XX0) и В Е К,£1'£2,£о (XX0), вообще говоря, не равен нулю. Основным результатом этого раздела является формула, дающая выражение для регуляризованного

следа коммутатора г-Тг([ А, В]) в терминах некоторых интегральных операторов на подмногообразии Х0, ассоциированных с операторами А и В.

Начнем с определения класса операторов, для которого справедлива упомянутая выше формула.

Определение 16. Скажем, что А е К(Х,Х°), если А е К,£1'£2'£° (X, X0) для некоторых индексных семейств £1, £2, £о и выполнены следующие условия:

1. Для любого £ > 0 найдётся 5 > 0, такое что, если д(х,Х0) > е, д(у,Х0) < 5 или д(у, X0) > е, д(х,Х0) < 5, 'то кА(х, у) = 0.

2. £о удовлетворяет условию (9).

3. Выберем нормальную систему координат с координатами (х,х0) е (—£, £) х Х0 в некоторой трубчатой окрестности Х0. Существуют такие т, М, 0 < т < М < то, что носитель функции КА, определённой формулой (4), содержится в множестве всех (х, 8,х°1,х^0) е П£ х Х0 х Х0, таких, что т < |з| < М.

Используя теорему 4, нетрудно показать, что К,(Х,Х0) является алгеброй.

Прежде чем сформулировать утверждение о регуляризованном следе коммутатора, введем понятия определяющего оператора и определяющего семейства, ассоциированных с оператором А е К(Х,Х0), которые необходимы нам для формулировки данной теоремы.

Из условия (2) определения 16 следует, что для оператора А е К,(Х,Х0) существует предел:

ИшХа(Х,З,Х?,Х2) =: ХА(0,З,Х0,Х0), (12)

где К а — функция, определяемая формулой (4).

Определение 17. Определяющим оператором, ассоциированным с оператором А е £(Х,Х0), называется оператор:

1

"К\{0}хХ°) ^ ^0 ((К \ {0}) х Х , ПК\{0}хХ0)

1(А) : С0°°((Е \ {0}) х Х0, П|и0, „о) ^ С?((К \ {0}) х Х0, ),

1 1

действие которого на полуплотность ^ = и(х,х0) | ~Хдх0\2 е С£°((К \ {0}) х Х0, П(2д\{0})хХ0)

задаётся формулой:

х 0

—ах0

х

1(А)ц = 1( А)и(х,х0) где

1(А)и(х,х0) = I I ХА(0,з,х0,х>(х,х0) у^х0, х е К\{0},х0 е Х0.

X0 -те

Следующее понятие является аналогом известного понятия конормального символа (см., например, [13, 16]) в рассматриваемой ситуации.

Определение 18. Определяющими семействами оператора А е К(Х,Х0) называются семейства {1±(А,Л) : Л е С} интегральных операторов на Х0 с гладкими ядрами, задающимися формулами:

+те

Х+(А,А)(х?,х2) = / ^\М0,5,х?,х0)у, 0 0

Х-(А,А)(х0,х0)=/ 1б1-гА1<А(0,8,х01,х(0) ^.

— те

Функция Л м- Kj+(a,\)(x°1,x2í) (соотв. Л м- Ki-(a,\)(x0,x0)) является преобразованием Меллина функции KA(0, s,xi,x2) (соотв. KA(0, — s,xi,x2)) по переменной s на полуоси (0, +ж). Поскольку KA(0, s, х\,х2) является гладкой финитной функцией по s Е (—ж, 0) U (0, +ж) при фиксированных х1, х2 Е Xo, по теореме Пэли-Винера функции Ki±(a,\)(x°i,x0) корректно определены для любого Л Е C и являются целыми функциями. Справедливы следующие свойства определяющих операторов:

1. 1(А о В) = 1(А) о 1(В).

2. 1+(А оВ,Л) = 1+(А, Л) о 1+(В, Л) + Г(А, Л) о Г(В, Л).

3. 1-(А о В, Л) = 1+(А,Л) о 1-(В,Л) + 1-(А,Л) о 1+(В,Л).

Теорема 7. Если А Е K(X,X0) и В Е K(X,X0), то

т-Тт([А,В]) = — — í tr(дх 1+(А,Л) о 1+(В,Л) + дхГ(А,Л) о Г(В,Л)Щ, кг J

—<х

где знак tr означает след интегрального оператора на X0. Доказательство. По определению имеем:

г-Тг[(А,В)] = Ш^ j (Ьав — кВА) \а +2ln£j((kAB — Ьва) \а ) j .

X x° X°

г(р)>£

Определим отображение R : X х X м X х X по формуле R(pi, р2) = (р2, 'Pi). Тогда можно записать

У (kAB)\а = J \J к а (р i, р2) кв (р2, pi) I = J kAR* кв (р i, р2)

X X \X / X х!

r(pi)>£ r(pi)>£ r(pi)>£

где последний интеграл следует понимать как интеграл от плотности kAR*kB на X х X по множеству {(р1,р2) Е X х X : r(p^ > е}. Аналогично,

У (квА) \а = j kBR*kA(pi,Р2) = J kAR*kB(p 1,P2).

X XxX X xX

r(pi)>£ r(pi)>£ r(p2 )>£

Выберем нормальную систему координат с координатами (х,х0) Е (—£i, £\) х X0 в некоторой трубчатой окрестности V = exp(U) подмногообразия X0. В частности, V = {р Е X : г(р) < £]_}. Получаем, что

У (квА — квА)\а = У kAR* к в (pi, Р2) — J kAR*kB (р i, Р2) =

X XxX X xX

r(pi)>£ r(pi)>£ r(p2 )>£

= y kAR* кв (p i, P2) — У kAR* кв (pi, P2)+

У хУ УхУ

r(pi)>£ r(p2)>£

+ У kAR* кв (pi, P2) — У kAR* кв (pi, P2)+

У x(X\V) (X\V)xy

r(pi)>£ r(p2)>£

+ у к а Я* к в (Р1, Р2) - J кАЯ* кв (р 1, Р2)

(X \ У) хХ Хх(Х\У)

г(р1)>£ г(р2)>£

Легко видеть, что для любого 0 < £ < £1:

j кАЯ* кв (р 1, Р2) = j кАЯ* кв (р 1, Р2).

(Х\ У) хХ (Х\ У) хХ

г(р1)>е

j кАЯ* к в (Р1, Р2) = j кАЯ* к в (Р1,Р2).

Х х(Х\У) Х х(Х\У)

г(р2)>£

По условию (1) определения 16 существует такое £2 > 0, что если р1 е V и г(р2) < £2 или г(р 1) < £2 и р2 е V, то кА(р 1,р2) = кв(р 1,р2) = 0. Следовательно, для любого 0 < £ < шт(е 1, £2)

У кАЯ* к в (Р1, Р2) = J кАЯ*кв (Р1/Р2).

(Х \ У )хУ (Х\ У )хУ

г(р2)>£

j кАЯ* кв (р 1, Р2) = j кАЯ* кв (р 1, Р2).

У х(Х\У) У х(Х\У) г(р1)>£

Следовательно, получаем:

J (квА - Ьа) |д = J кАЯ*кв(р 1,Р2) - J кАЯ*кв(р 1,Р2). (13)

Х Ух У Ух У

г(р1)>£ г(р1)>£ г(р2)>£

В окрестности ( V \ Х0) х (V \ Х0) возьмем локальную систему координат (х, в, х®, х0) е П£ х Х0 х Х0, задаваемую формулами (3). В этих координатах отображение Я записывается в виде

Я>(х, 3, х 1, х2^ — ^ , , х<2, х0^ .

Равенство (13) примет вид

+те / е к1 \

у ( к в а - квА) | д = у у [ ! ка(х,8,х\,х2)кв(^ х,1 ,х2,х^ щ 1 у^х?^,

Х Х0хХ0 -те \е /

( р1 ) >

где функции К а и Кв определяются формулой (4)

Используя условия (2) и (3) определения 16, отсюда нетрудно вывести, что существует предел

Иш / ( кВА - к в а) \а

е^0 3 х

Г(р1)>£

/ £ и

х0хх0 \£

Ка(0,8,Х0,Х°2)Кв (0,1 ,х°,х^ гх ) Р;йх0йх°2

1 2 2 1 \ х\ \ \ 1 2

х0хх0

~ ~ 1 йч

1п\.э\Ка(0, в, х°1,х0)Кв(0, -,х0,х°1)—йх°1йх0.

8 И

В частности, отсюда следует, что

хо

(

(к А В - к в а)

а)

0.

хо

Используя связь преобразования Меллина с преобразованием Фурье и равенство Парсе-валя для преобразования Фурье, можно доказать, что, если f1, ¡2 Е Ь2((0, ^), то

преобразования Меллина М(/1), М(f2) принадлежат Ь2(М), и имеет место формула

/ к( в) Ш у = — ] [М (ж Х)[М (/2)](Х)й х.

0 -то

Применяя эту формулу в случае, когда

Л( 8 ) = 1п\з\Ка(0,8,Х°1,Х02 ),

¡2( В )=К в (0, 1 ,х°2,х°1), в

8> 0,

получим, что

~ ~ 1 йч

1п\8\Ка(0,8,х2,х°2)Кв(0, -,х0,х0) — 1 2 2 1

1

+^0

- —кг I д^К1+(А,х)(х2,^0>)К1 +{в,х)(х02,х°2)йХ.

Аналогично имеем

~ ~ 1 й s 1

1п\8\Ка(0,8,х2,х°2)Кв(0,-,х0,х0)щ = -— J дхК1-{АЛ)(х0,х°2)К1-{в,х)(х°2,х0)йХ.

Таким образом, получаем

r-Tr([A, В}) = lim [ (кВА - кВА) |д =

e^O J

X

r(pi)>£

+те

= - Л У j (д\К1+{А,\)(х0^,х0^)К1+{в,\)(х°2,х0^)

X0 xX0 -те

+ дхК1-(А,х)(х(°,х(2)К1 -(в,л) (х0, х0)) dXdx^dx^0 =

+те

= - — [ tr(дл1 +(А,Х) о 1+(В,Х) + дл1 -(А,Х) о I-(B,X))dX. кг J

-те

U

A. Доказательство теоремы 5

Пусть и G (Y, Y0, G). Необходимо показать, что f*u G Aiphg(Х, Х0, f*G).

Прежде всего, отметим, что ограничение отображения f на /-1(Y \ Y0) определяет отображение f : /-1(Y \ Y0) ^ Y \ Y0. Поскольку и является гладким сечением на Y \ Y0, f*u является гладким на /-1(Y \ Y0), в частности, поскольку f-1(Y0) С Х0, на Х \ Х0.

Остается доказать, что сечение /*и является конормальным в произвольной точке р G Х0. Предположим, для определенности, что точка р G Х1П... П Х£ ир G Х1+1U... U Хг. Пусть f(p) = р0. Предположим, что р0 G Y1 П ... П Ylo и р0 G Yl0+1 U ... U Yro. Выберем адаптированную в точке р систему координат с координатами (х1,... , х£, х0) G D1 х D2 и адаптированную в точке р0 систему координат с координатами (у1,... , у£°, у0) G D^0 х D0, где D1 С Rl; D2 С Rm-1; D0 С Rl°; D0 С Rn-l°. Без потери общности, мы можем1 предполагать, что ограничение расслоения G на заданную окрестность точки 0 тривиально, следовательно, мы можем отождествить ограничение сечения и на эту окрестность с функцией. Поэтому в дальнейшем мы будем считать, что и — скалярная функция.

Случай l0 = l = 0 был уже рассмотрен в начале доказательства. В этом случае Р0 G Y \ Y0 и р G Х \Х0.

Рассмотрим случай, когда l0 = 0 и l > 0. В этом случае р0 G Y \ Y0 ир G Х0. Так как р0 G Y \ Y0, имеют место равенства

е^(Х3^г) = 0; V = 1,..., Го; Vj = 1,...,l. (14)

Так как /*и G Сте(/-1(Y \ Y0), f*G), /*и является гладкой в точке р, поэтому /*и — конормальная в точке р относительно тривиального индексного семейства, что в силу (14) согласуется с формулой (5).

Дальнейшее доказательство теоремы проведём индукцией по l0 > 1. Поскольку /-1(Y0) С Х0, 1> 0.

База индукции: l0 = 1. В этом случае имеем:

е , Х ,Y1) = 0; Vj = l +1,..., г;

ef(ХJ,Y1) = 0; Vi = 2,..., Г0; Vj = 1,...,r. ( )

Так как и конормальна в точке р0 относительно индексного семейства £0, справедливо разложение:

и(У1, У0) - £ az,q(у0)у{ 1П |У11,

(z ,q )ее°

где az,q G Сте(D0), ^0 = £0(Y1).

Так как / — относительное отображение, в локальных координатах отображение / записывается в виде:

/ : В1 хВ2 С К1 х Ега-1 х ВО С К х Жт-1, f : (х,х2) ^ (у1, у2),

16)

где

I

У1 = Ь1(х,х°)^х], у0 = д(х,х°),

3 = 1

Ъ1 — гладкая, нигде не обращающаяся в ноль функция на В1 х В2 ид : В1 х В2 ^ В22 — гладкое отображение.

Пусть N — натуральное число, которое будет выбрано позже. Обозначим: и = им + Тм, где

им(У1, У0)= а,,,(у0)у{ 1П \У1\.

(г, д)е Е°

Соответственно, получаем, что /*и = ¡*им + ¡*Гм. Имеем:

Гим(х1,...,хе,х0)= ^ (9*а,,д)(х,х0)Ь\(х,х°)

/у>2 \гр I11" гг1Иг ч,

<Ау /.X' 1 ... кЬ О

(,, д)е е0 г<М

х (Ь \ Ь1(х,х0)\ +^111п \х1 \ + ... + 1п \х£\У

Так как д : В1 х В2 ^ В2° — гладкое отображение и аг^ Е С"(В°), мы имеем 9*аг,я Е С"(В1 х В2). Поэтому ¡*им можно записать в виде:

I

/*им(х1,... ,х£,х°) = ^^ с1г,д(х, х0) ^ х^1зг 1п9 \х^\,

(г, д)е Е0 3=1

г^М

где йг,д Е С"(В1 х В2). Отсюда сразу получается, что /*им конормальна относительно индексного семейства £, задаваемого формулой (5).

По условию, для любых а° Е Ъ+, ¡° Е Ъ™- существует такая постоянная С1, что:

(у 1дУ1 Гд¡0гм(У1, у°)| ^ С1\У1\м+1.

Отсюда, используя представление (16), получаем для любых а Е и 3 Е Ъ+-1 существует такая постоянная С3, что:

(хдх )ад^ Г гм <Сз1(М+1).

:17)

Пусть N-1^ — произвольное натуральное число. Поскольку ¡*им конормальна в точке р относительно индексного семейства £, справедливо разложение:

Гим (х1, . . . ,х£,х° )= ^ (х2,...,хц,х°)х\ Ш \х1 \ + дм,мг ,

(г ,д )еЕх

где Ъ^д — конормальные функции относительно индексного семейства £' = (£Х2),... , £(X,,.)) и м, м удовлетворяет оценкам

(■хдх)ад¡ормм ^ С6\х2\М2... \х£\м1 \х1\м+1 При заданном ^ выберем N таким, чтобы было выполнено неравенство:

N1 + 1 < + 1).

:18)

В силу неравенств (17), (18), (19) имеем:

(хдх)ад^0 (/*ги + 6М,М1 )| ^ С^Г2 ... Мм°

где М0 = ш1п(0, М3) V] = 2,... ,1. Окончательно получаем, что:

/*и = ^ к^ц (х2,...,хг,х°)х\ 1П |х! | + /* гм + дм,М1, (-г, <?)е Е1

откуда следует, что Н^ не зависит от N при + 1 < 7п(^ + 1). Обозначим (х2,... ,х£,х°) = п(х2,... ,х£,х°). Следовательно:

/*и ~ ^^ ,я(х2,... ,хе,х°)х11П |х!|, (•*, я)е Е1

и тем самым /*и является конормальной функцией относительно индексного семейства £.

Шаг индукции. Зафиксируем I > 1. Предположим, что верно следующее утверждение. Пусть Z,Ш — гладкие многообразия, и Ш0 — стратифицированные подмногообразия Z и Ш соответственно. Пусть задано относительное отображение к : (Z, Z0) ^ (]¥, Ш0) и произвольное векторное расслоение Н над Ш. Пусть на подмногообразии Ш0 задано индексное семейство Т0. Пусть также точка р € ^ П ... П Zl и р € Zl+1 и ... и Zr. Пусть Н(р) = р0. Пусть р0 € П ... П и р0 ф Шк0+1 и ... и Шг°, при этом к0 < 10. Пусть и конормальна в точке р0 относительно индексного семейства Т0, тогда к* и конормальна в точке р относительно индексного семейства Т, где каждое индексное множество Т( Zj) индексного семейства Т на Z0 имеет вид:

Т (^

) = { (Ч + X е *(Zэ , Шг)^ (Яг) € Т° (Шг), Г] € Z+|

где суммирование ведется по таким г = 1,... , г0, для которых е/ ( Zj, Шг) = 0.

Пусть функция и, отображение /, точки р и р0 такие, как в формулировке теоремы. Докажем, что /*и является конормальной функцией в точке р. По условию, имеем:

е/(Х,-,У<) = 0; V = 1,...,4; V = I +1,..., г;

е/(Х„Уг) = 0; V = 4 + 1,..., гЪ; У3 = 1,...,г. ( )

Так как и конормальна в точке р0 относительно индексного семейства £0, существует такая окрестность V точки р0, к0(У) = (—£, £)е° х У2, где V2 С Ет-1°, что функция и определена и является гладкой на множестве V \ Х0, и для любого (у2,..., уц°, у0) € (—£, £)е°-1 х V2 имеет место асимптотическое разложение при у1 ^ 0:

и(У, У°) ~ X Уе°, У0) У11П 1У11,

(г Я )€Е°

где Е0, = £0(У1), функции аг,я конормальные на (—£, е)1°-1 х V2 С Z относительно индексного семейства £0.

Здесь мы рассматриваем многообразие Z = К1°-1 хКт-<° с координатами (у2,..., у1о, у0), где у3 € К, ] = 2, ... ,10, у° € Мт-1°, наделенное стратифицированным подмногообразием Z0 = {у2 = 0} и ... и {уе° = 0}. Индексное семейство £0 на Z0 задается формулой £0 ({Уз = 0}) = Е°,гдеJ = 2,...,£о.

Так как — относительное отображение, в локальных координатах отображение записывается в виде:

/ : А х^2 С К1 х Г1-1 ^ х Кт-1°, (х, х0) ^ (уь..., у£°, у0),

где

I

уг = Ьг (х,х°) Дх^, г=1,...,£°, у° = Р (х, х°),

3=1

Ьг — гладкие, нигде не обращающиеся в ноль на X функции. Введём отображение

д:В1 хВ2 С К1 х К1-1 ^ К10-1 х К™-10, (х,х°) ^ (у2,..., у1о, у°),

где

Уг = Ьг (х,х°) Пх1/3, г = 7,...,£°, у° = Р (х,х°). 3 = 1

Заметим, что является относительным отображением, причём

ед (X, ,Уг) = е; (X, ,У); = 1,...,£; У = -,...,1°. (21)

Пусть N — натуральное число, которое будет выбрано позже. Обозначим: и = им + тм, где

„,.,{„, „,°\ - Х^ (у'2,..., уео,

ч

им(У, у0)= ^ аг,ч(У2,..., Уео, У0)у1 ^ \У1\.

(г,д)£Е°

г^м *„. _ -£*„

Соответственно, получаем, что * и = * им + * м. Имеем: /*им (х1,... ,х£,х°) = ^^ (д *аг,д )(х,х°) Ь\(х,х°)х^1г ...х!иг х

(г,д)еЕ0

1

г<м

х (1п \ Ь1(х,х°) \ + У111п \х1 \ + ... + ^и 1п \хе\)д .

Существует такая окрестность и точки р, к (и) = (-5,5)1 х и2, где окрестность и2 С К""-1, что д(и) С V. Так как д — относительное отображение, аг,д Е А£Нд((-£, £)£о-1 хV2), в силу (21) и предположения индукции, получаем, что:

9*аг,д Е А£Нд((-5,5)£ х и2), где индексное множество £(Xj) индексного семейства £ имеет вид:

, о , о ||

Г] + ^е ;X,Уг)гг, ^^ (Яг) Е£°(Уг),г] Е ЪЛ ,

г=2 г=2

£(X,Ь + 5] е; (X,, Уг)Щ У \ г=2 г=2

где суммирование ведется по таким г = 7,... , г °, для которых е;(Xj, Уг) = 0. Следовательно, * им можно записать в виде:

I

/*им (х1, . . . ,х£,х°) = ^^ йг,д (х,х°^^х!1 зг Ш \хз \,

(г,д)еЕ° 3=1

Ч г<м

где йг,д Е А£Нд((-5, 5)£ х и2). Отсюда следует, что ¡*им — конормальная относительно индексного семейства £.

По условию, найдутся вещественные числа М2,..., М^0, такие что для любых а Е Ъ+ и 3 Е Ъ^-10 существует такая постоянная С = Сa¡м такая, что:

(уду)% гм (у, у°)1 ^ С \ У2\М2 • ... • \ У10\М10 \ У1\м+1. Отсюда следует, что при \х^ \ < 1:

1 Г Тм (х,х°^ ^ С1\х2\М°0+^ 2(м+1) . . . \х1\м°0+^(м+1)\х1\^ 1(м+1)+М0

^С4\х2\М ... \х£\М°\х1\И1(м+1)+М0.

1о

М0 = j = 1,...,e.

г=2

Аналогичные оценки справедливы для производных:

(хд^ Г TN\ < С5\Х2\М2 . . . ЫМ°. (22)

Аналогично случаю I = 1, отсюда выводится, что f*u является конормальной функцией относительно индексного семейства £.

B. Доказательство теоремы 6

Пусть р Е Aiphg(Х,Х0, f*G ® Пх). Покажем, что f*/j корректно определена и

EAfhg (Y,Y0,G® nY). Пусть р0 Е Y0. Покажем, что f*р — гладкая плотность в точке р0. В окрестности точки р0 возьмём локальную систему координат с координатами у0 Е D^0 С М.т. Возьмём произвольную точку р Е Х такую, что f(p) = р0. Предположим, что р Е Х1 П ... П Х£ и р Е X£+i U... UXr. Зададим адаптированную в точке р систему координат с координатами (x,x°) Е D1 х D2 С х Rn-1. Так как f — относительное расслоение, в локальных координатах отображение f имеет вид у0 = f(x,x0), где rank [j^^) = т. Следовательно, можно выбрать такую адаптированную в точке систему координат, что имеет вид проекции:

у0 = f(x,x0) = (x0,...,x°m), x Е Di, х0 ED2. (23)

В силу компактности X, существует такое конечное семейство окрестностей VPs,

d

s = 1,...,d, что X = (X \ f-l(p0))U U VPs. Пусть ф3 Е С™(Х),s = 0,...,d — гладкое

разбиение единицы, подчиненное данному покрытию: supp^0 С X \ f-l(p0), supp^s С VPs

d

для s = 1,... ,d, фа > 0, Фэ = 1. Существует такая окрестность Upo точки р0, что

s=0

d

фа(т) = 1 для любого т Е f-1 (UPo).

Как и в доказательстве теоремы 5, без потери общности, можно предполагать, что расслоение G тривиально и р — плотность на X .В координатной окрестности VPs плотность р записывается в виде

dx 0 —dx x

р = р(х, x°)

Возьмём ф Е C0?(Y), такую что supp ф С UPo. Тогда f*ip Е СГХ(Х), причем

{= , Гф) = j р(т)р(!(т)).

f-1(иР0)

Используя разбиение единицы и локальные координаты, получаем

(U,f) = £ J Фа(х,Х° )n(x,x° Mf(x,x0))-dx0. (24)

= „ x

s=lDiXD2

Принимая во внимание формулу (23), формула переписывается в виде

{и,Ф) = I F(y0My0)dy0, (25)

где F задается формулой

d „ F (У°) = £ /

S=1„. Ji

фз(х, У ,Xm+1,

Rlx Rn-l-m

> Хп-£) Х

X ^(х, у , xm+i

> Хп-£) dxm+1... dx £. (26)

x

Так как р Е Х1 П ... П Х^ и р Е Х1+1 и ... и !г и /(р) Е У0, имеем ef (Х3 , У) = 0, если ] = 1,... ,1, г = 1,..., го- Отсюда получаем, что т££(Х3) > 0 для любого ] = 1,... ,1. Следовательно, справедлива оценка

\МХ,У ,xm+i,... ,Хп-г)\ < С|xi|

i£i

■ \xi\

££

где £\,... , £ц — некоторые положительные числа. Отсюда следует, что интеграл, стоящий в правой части (26), сходится равномерно, и, тем самым, функция Р является гладкой в окрестности точки ро. Согласно (25), ограничение плотности на иро корректно определено и совпадает с гладкой плотностью Р(г/°)|с4/°|. Поэтому корректно определена как гладкая плотность на У \ У°.

Пусть р° Е У °. Предположим, что р° Е У и .. .{}Уе0 и р° Е У0+1 и ... и У-о, 1° = 0. Докажем, что — конормальная в точке р°.

Случай 1° = 1. Возьмём адаптированную в точке р° систему координат с координатами (у1, у°) Е х Р° С К х Мт_Возьмём точку р Е Х такую, что ¡(р) = р°. Предположим, что р Е Х П ... ПХ^ и р Е Х1+1 и ... и Хг. Выберем адаптированную в точке р систему координат с координатами (х,х°) Е х Д2 С К1 х Жп~е. В данных системах координат отображение f записывается в виде: (уу°) = /(х,х°), где: у\ = Ъ\(х,х°)х\11 .. .х]11, функция Ь\ — гладкая и нигде не обращается в ноль; у° = д(х,х°). Так как ¡(р) = р°, хотя бы одно из чисел 7п,7\2,... , 7и больше нуля. Пусть для определённости ^ 1 > 0. Тогда, без потери общности, можно считать, что Ь1(х,х°) = 1, так как в окрестности нуля можно сделать замену переменных:

ж1 = Ь1(х,х0)711 x1; Xj

Vj = 2,

00 (/ • 'У - -у*

Якобиан данной замены обозначим через w(x,x°). Легко видеть, что w(0,x°) = 0 для любого x° Е D2.

По условию (4) определения 13 имеем rank [j^^j = т — 1. Следовательно, можно выбрать такую адаптированную в точке р систему координат, что д имеет вид проекции:

g(x,x ) = (x°,... ,xm_ 1), х Е D1, х Е D2.

В силу компактности Х, существует такое конечное семейство окрестностей УРв,

л

з = 1,...,д, что Х = (Х \ /-1(р0. Пусть ф8 Е С™(Х),8 = 0,...,д — гладкое

8=1

разбиение единицы, подчиненное данному покрытию: вирр-фо С Х \ /-1(ро), йирр фф8 С УРа

для 8 = 1,...,й, ф8 > 0, Фэ = 1. Существует такая окрестность иро точки р0, что

=00

1

фэ(т) = 1 для любого т Е /-1 (иро).

8=1

Как и выше, будем предполагать, что расслоение С тривиально и ^ — плотность на Х. В координатной окрестности УРв плотность ^ записывается в виде

^ = ^(x, x°)

dx 0

—dx x

Возьмём р Е С" (У), такую что виррр С иро. Тогда ¡*р Е С"(X), причем

{!*Р,Р) = {р, !*Р) = ! р(т)р(!(т)).

Используя разбиение единицы и локальные координаты, получаем

{¡*р,р) = ^ [ ф3(х,х° )р(х,х°)р(х-111 ...х111 ,х01,.. .,х0т-1)—йх°. (27)

К£х I

-I

Так как 1° = 1, по определению 11 хотя бы одно из чисел 711, 712,... ,7м больше нуля. Пусть для определённости числа 7п, 712,... , 71к1 > 0, 7^,^+ = ... = 7и = 0, где ^ ^ I. Обозначим: р3(х,х°) = —ф3(х,х°)р(х,х°). Равенство (27) записывается в виде

{1*Р,Р) = 711^ I р3(х,х0)р(х111хТ ...хЦ1, , х^п-1)—йх°.

х

2 ... хк1 ,х1,..., хт-1) Сделав замену переменных

У1 = х[11 . . . хкг 1 , = х] = —, . . . У = (хо, . . . , хт-1)

в интеграле, получаем

/1 -712 71к1

р3(у 711... гк1 711 , 12,..., и, у°,хт,...,х°п-е)х

!

, °лйУ1(И 2 0 ° о

х Р(У ЪУ )--Г" . . йхт ...(хп-е.

У1 ¿2 Ч

Следовательно, для любого (у1,у°) из некоторой окрестности точки ро плотность /*р задается формулой

л

¡*Р = ^ У^ У0)

где функции ь>3(у1, у°) имеют вид:

=1

0

^ (у О 1

/1 712 _71к1_

р3(у ™ г--711... г--711, 12,..., и, у°,х°т,..., х°п-е)

К1-1 хКп-т-£+1

(2 ( I ( ° ( °

— . . . — (хт . . . (хп-1, 12 Н

Так как при ] = к1 + 1,... ,1 выполнено условие т£ Е^ > 0, интеграл в последней формуле сходится, следовательно, и3 — гладкая функция при у1 = 0.

Зафиксируем в. Докажем конормальность функции и3 при у1 = 0 относительно индексного множества Е°. Запишем

МУ1, У°)= I р](У1, 1,..., и, у°) -.-Г1, (28)

и £к1 + 1

К1-к1

I

и

где

Уъ ^1+1., и, у°)

1 _ 712 _ 71% ^^

У1711 711 ... tkl~lll , Ь2,..., Ьг,у , хт,..., хп_() —— ... — дхт ... с1хп_е.

711 л-

£ 2 £ ^

(29)

Доказательство теоремы 6 при 1° = 1 завершается при помощи следующего утверждения.

Предложение 2. Если функция ^3(х1,... ,Х(,у°,х°т,... ,х0п_£) финитна и конормаль-на по переменным (х1,...,хе) относительно индексного семейства ( Е1,..., Е1) и 711, Ъ2,..., 11к1 > 0, то функция задаваемая формулой (29), конормальна по переменным (у1, Ьк1+1,..., и) относительно индексного семейства (Е°, Ек1+1,..., Е(), где

Е° = Ц=,.....,{(^ ■€Е>

Если предложение 2 доказано, то, применяя утверждение теоремы 6 к функции ^ в случае 1° = 0 и принимая во внимание, что при ] = к1 + 1,...,1 выполнено условие т£ Е; > 0, из формулы (28) получаем, что функция и3 является конормальной при у1 = 0, что завершает доказательство теоремы 6 при 1° = 1.

Доказательство предложения 2. Так как при у1 = 0 подынтегральное выражение — гладкая, финитная функция, интеграл абсолютно сходится, и ^ является гладкой функцией. Докажем конормальность функции ^ при у1 = 0. Случай к1 = I = 1. В этом случае функция ^ имеет вид:

^(Ш,У°)= / »а(у™ ,у°,х0т,...,хП_1)дх1 ...¿хП_1. (30)

1"-т

Так как — конормальная функция при х1 = 0 относительно индексного множества Е1 , мы имеем:

^3(х1,х°) ~ аг,я(х°)х11П |х11,

где аг,д — гладкие функции. Обозначим ^ = + , где

(х1,х) = аг,д(х°)х11П |х11,

(•, д)еЕ1

N — натуральное число, которое будет выбрано позже. Согласно формуле (30), функция ^ представляется в виде ^ = им + гм, где

^(у1,у0) = ~1г X J а*,1 (у°,хт,...,хП_1)У17111П 1У1 ^х°т...ЛхП_1

^11 (• д)еЕ1„п_т •¿м 1

и

Гм (У1 ,у°)= J Гм (у!11 ,у0,х°т,...,х°п_1)Лх0т ... ЛхП_1.

Имеем

"м(ш,у°)= V к(у°)У!111П |Ш|,

(д)е Е1

•< N

hz ,д {у ) П aZ,q {у , xm, ■ ■ ■ , Хп— l)dxm . . . dxn_ 1■

Ill J

Rn-m

Поскольку az,q являются гладкими финитными функциями, функция и« конормальна при у1 = 0 относительно индексного множества Е0 = {{, q) : {z, q) G El}.

По определению, для любого «о G Z+ и для любого мульти-индекса ßo найдётся постоянная Ci, такая что

ß \ "!

f f) \а°

[xi ^J d$rN{xi,x)

<Ci\xi\N+l.

Поэтому, для любого а Е Ъ+ и для любого мульти-индекса ¡ найдётся постоянная С2, такая что

а

[m > f« (y i,v")

N+1

< c2\yi \ 711 .

У0

Отсюда немедленно получаем, что

р1 (У1,У°) - £ Ъг,д(у°)уг 1п \У1\.

(г, д)е Е°

Рассмотрим случай к1 = I = 7. В этом случае функция р\ имеет вид:

1 —у12 dt

ЛЫ , У°)= I Psiy^t у0,х0т ,...,x0n-2)j dx°m ... dx°n-2. (31)

Так как функция ps(xz, x2, x0) конормальна в точке (xz,x2) = (0, 0) относительно индексного семейства (EZ,E2), мы имеем:

Ps(xi,x2,x0) ~ az1>qi(x2,x0)xz111П1 Ixil,

( Z1, g1)eE1

где aZ1tq1 (x2, x0) — конормальные функции при x2 = 0 относительно индексного множества Е2. По определению, для любого натурального Nz имеет место представление

Ps(xi,x2,x0)= ^^ az1, g1 (x2,x0)xl11П1 |xz| + rN1 (xz,x2,x0).

( Z1, g1)eE1 Z14N1

Функция aZ1,q1 (x2,x0) допускает асимптотическое разложение

az1,Я1 ~ ^2 bZ1,11 ,Z2,g2 (x0)x2 ^ [x21, ( Z2, g2)€E2

bzuqitZ2tq2 — гладкие функции. Поэтому для любого натурального N2 имеет место представление

aZ1,Q1 (x2,x°) = aZ1Q1N2 (x2,x°) + TZ1Q1N2 (x2,x0),

где

aZ1Ç1N2 = ^2 bZ1,g1,Z2,g2 (x )x22 lx2 1.

( Z2, g2)& E2

Z2^N2

Таким образом, получаем представление

Ps(xi ,x2,x ) = pn1n2 (xz,x2,x° ) + tn1n2 (xz,x2,x° ),

где

PN1N2 (xi,x2,x ) = ^2 ^2 bZ1,q1,Z2,g2 (x° )xZ2xZl Щ2 Ш1 Ixzl,

(Z1, g1)e E1 (Z2, g2)e E2 Z14N1 Z2^ N2

Гмм (х1,х2,х°)= Г м- (х1,х2,х°)+ ^ Г^М (х2,х°)х\1 1П1 |х11,

(г 1,91)€Е1 21 ¿N1

N1, N — натуральные числа, которые будут выбраны позже.

По условию существует М1 такое, что для любых а1,а2 Е и для любого мультиин-декса Р2 найдётся постоянная С1 такая, что:

(хгдХ1 Г (х2дХ2 ГМ1 (хьх2,х°)| < С^ |М1 |х2|м2 + 1.

Более того, для любого а2 Е и для любого мультииндекса найдётся постоянная С2, такая что

| (х2дх2 Г Гг1Ям (х2,х°)| < С^х^1.

Отсюда следует, что существует М1 такое, что для любых а1,а2 Е и для любого мультииндекса найдётся постоянная С1, такая что

(х1дх1 Г (х2 дх2 Гд$ ГМ1М2 (х1,х2,х°)1 <С1ЫМ1 Ы^1. (32)

Учитывая тот факт, что ^(х1,х2,х°) = 0 при |х1| > £ или |х2| > £, согласно (31), получаем представление

Уи У°) = (Уи У°) + гмм(Уъ У0),

где

£

^N-,N2 (УЪ У°)= X X / ( / Ьгипют (У0,х°т,...,х°п_2)

(Zl, Я1)е Е1 ^92)е Е21п—т — 1 711

22 ¿N2 у !12 £ 712

„„, , / , , , 712, , Л91 сй\

(7111п |ш|- ^ 1п

¿г2_+!Г у!711 1П2 |*| 7111п | Ш| - 1п |£| - Ыхт ...ЛхП_ 2.

гмм(У1,у0) = [ ^ [ гм-м2(У1711 ^7112^у°,хт,...,хп_2)?^хт...лхп_2.

'рп—т — 1 1

711

У1'"£ '12

Вычисляя явно интеграл по ¿, можно показать, что функция 1'м1м2 (у 1, У°) записывается в виде:

11 12 ^1М2(ш,У°)= X (У°)У1711 1п* Ы + X (ЛГ 1п2 Ы +

(•1,91)6 Е- (22,92 )€ Е2

•-¿М- 22 <N2

+ Е^Ь,1,22,,2 (У°)# 1п 1+?2 + 1 М,

где третья сумма берется по всем наборам (г1, д1) Е Е1, г1 ¿ N1, (х2, д2) Е Е2, г2 ¿ N таким, что — = —.

' _711 712

Оценим Т'м1м2. Разбив интеграл по Ь в сумму двух интегралов, получаем

гN-N2 (У1, У0) = Г^м (У1, У0)+ ГN-N2 (У 1, У0) ,

?мм(Уъ У0)

Rn-m-l

(

„1

l

711+712

Vl

112

Г NM (y'î^t 7l11 ,t, y°,x°

£ 712

t')'

> xn-2 FI

d/X/,0.... dixx,

n 2

i

rri

1

Ï'nm (Уъ У0) = f ^ J r^N2 Ы11 t—P ,t, y0,x°m,... ,x°n-2)dpjdx°m ...dx°n-2.

1

„711+112 „1

1_

+712

Используя (32), получаем оценку

. ° ( Щ + Щ + 1 ^2 + 1 \

\ г мм (У ъ У)\ <С ( \ ш\ 711+712 + \ ш\ 712 ) .

Чтобы оценить т'2^1м2, воспользуемся аналогичным представлением

Гмм (х1,х2,х°)= Гм2 (х1,х2,х°)+ ^ ^^ (х1,х°)х12 Ш2 \х2\,

(г2, Я2)& Е2

г2^ м2

откуда следует, что существует М2 такое, что для любых а1, а2 Е Ъ+ и для любого муль-тииндекса ¡ 2 найдётся постоянная С1 , такая что

(х1 дХ1 )а1 (х2дХ2 )а2 Г мм (хъх2,х°)1 ^ С1\х1\м1+1\х2\М12 . (33)

Используя (33), получаем оценку

2 ° ( 1^2 + ^1 + 1 ^1 + 1 \ \ г мм (у 1, У )\ < С (\ У1\ 711+712 + \ У1\ 712 1 .

Таким образом, имеем

° / М! + Щ + 1 N2 + 1 M2 + N1 + 1 N^1 \

\ г мм (У1,У )\ < С ( \ У1\ 711+712 + \ У1\ 712 + \ У1\ 711+712 + \ У1\ 712 ) .

Отсюда легко следует конормальность функции р\(у1, у°) при у1 = 0 относительно индексного множества

Е° = {( ^, ,) ф,4) еЕ1}0{( ^, ,) Ф ,4) .

Рассмотрим случай ^ = —,1 > к. Сначала предположим, что к1 = 7,1 = 3. В этом случае функция р\ имеет вид:

. -712 dt2

¡A^li h, У0) = I РзЫ11 t2711 , t2, t3, У0 ,x°m,... ^n^ — ^rn ...dx°n-3. (34)

RxRn-m-2

Так как функция ¡s(x1,x2,x3, x0) конормальна в точке (x1,x2,x3) = (0, 0, 0) относительно индексного семейства (Е1 ,Е2,Е3), мы имеем:

ßs(xi,x2,x3,x0 ) ~ az3,q3 (xi,x2,x0 )x3? Ш3 lx3l,

( Z3, дз)е Ез

где а23,д3(х1,х2,х0) — конормальные функции в точке (х^х2) = (0, 0) относительно индексного семейства (Е1,Е2). По определению, для любого натурального N имеет место представление

^(хьх2,х3,х°) = а23,д3(хьх2,х°)х331п93 |х3| + гм(х1,х2,х3,х°).

(ад, дз)€Ез 23 < N

Согласно формуле (34), функция ^ представляется в виде ^ = им + гм, где

Ум

(У1, tз, У°)= X Ь*зяз(У1, У°Гз31П3 |*з|

где

и

^Я3(Уъ У0) =

(23, ^3)е Ё3

1 —712

а ( 1 /711/ 711 У- . 0 х0 х0 ) ^^ (х0 7х0

а 23,93 (У1 ^2 , ^2, У , хт, . . . , хп-3) , (хт . . . (хп-3.

2

Гм(Уl, tз, У0) =

1 —712

гм (у711 £ 2711 , ^ 2, tз,У ,хт,...,хп-3) (хт . . . (1хп_ 3.

КхК"-т-2

2

Согласно предложению 2 в случае к1 = I = 2, функции Ь23,Я3 (у1, у0) являются конор-мальными в точке у1 = 0 относительно индексного множества Е°. Поэтому, функция м( 1, 3, 0) является конормальной в точке ( 1, 3) = (0, 0) относительно индексного множества (Е°,Е3).

По определению существуют такие и М2, что для любых ^,а2,а3 Е и для любого мультииндекса [2 найдётся постоянная С1, такая что

(хкХ П ^^ Г (хз<9Ж3 Г^0 гм (х1,х2,хз,х°)| < СЦх^11 х2 | |хзГ+

Используя эти оценки, можно показать, что существует такая постоянная М, что для любых а1,а2 Е и для любого мультииндекса [ найдётся постоянная С1, такая что

(У1дУ1 Г М,3П^огм(У1, tз, У°)| < С1|У11м|¿з|м+1.

Это завершает доказательство предложения 2 в случае к1 = 2,1 = 3.

Случай к1 = 2 и произвольного I > к доказывается аналогичным образом индукцией по I.

Доказательство предложения 2 при произвольных к1 и I > к1 завершается при помощи индукции по 1 .

Предположим, что утверждение предложения 2 верно при любом к1 < к, при любом I > к1 и для любой функции . Докажем утверждения предложения 2 при к1 = к, при любом I > к1 и для любой функции

Начнем с рассмотрения случая к1 = I = к. В этом случае представим функцию , задаваемую формулой (29), в следующем виде

Уъ у0)

'Яу 1С1к, и, у°) ,

Ьк

где

М^ Ьк, у°) =

»э( Z¡11t

712 _7%к-1

711 у- 711

2 ... 1 к-1

)^к,У ,хт

х

п к)

п к

(М 2

Кк-2хК"

( к-1 к 1

( хт . . . хп к.

-к + 1

1

2

Из утверждения предложения 2 в случае, когда kl = к — 1,1 = к следует, что функция Z\, tk) конормальна по (Z\, tk) относительно индексного семейства (Е0,Ек), где

Е = Ц_,.....k-l {(^ «) ^ЕЕ

Применяя утверждение предложения 2 в случае, когда к\ = l = 2, получаем, что функция us(уI, у0) конормальна по переменной у\ относительно индексного семейства

Е?0{(^■■('■ 1) } = Е0.

Случай к\ = к и произвольного l > к\ доказывается аналогично как выше индукцией по l. Доказательство предложения 2 закончено. □

Докажем теорему 6 в случае l0 = 2. Возьмём адаптированную в точке р0 систему координат с координатами (уi, у2, у0) Е D0 х D20 С I2 х Im-2. Возьмём точку р Е X такую, что f(p) = р0. Предположим, что р Е X П ... П X£ и р Е Xl+l U ... U Xr. Выберем адаптированную в точке р систему координат с координатами (х,х°) Е D xD2 С I х In-1. По условию без потери общности можно предполагать, что в данных системах координат отображение f записывается в виде: (у,, у2, у0) = f(x,x0), где у \ = Ъ\(х,х°)х\11 ...хЦ1, у2 = Ь2(х, х0)х]?1''1\+1 ... хЦк2; функции Ъ\ и Ь2 — гладкие, нигде не обращаются в ноль; числа 7п,..., 7i k1, /y2,k1+i,..., /J2,k1 > 0, k\ < k2 ^ l; у0 = д(х, х0). Как и в случае l0 = 1, не ограничивая общность, можно положить, что b\(х,х°) = Ь2(х,х0) = 1.

По условию (4) определения 13 имеем rank (-т^) = т—2. Следовательно, можно выбрать такую адаптированную в точке 0 систему координат, что имеет вид проекции:

д(х,х°) = (х°,... ,х°т-2), х Е D, х0 Е D2.

В силу компактности X существует такое конечное семейство окрестностей VPs, s = 1,... , d,

d

что X = (X\/-1(ро)Ш U VPs. Пусть Е Cr(X), s = 0,... ,d — гладкое разбиение едини-

s=l

t-1' ■ -.........Vs С Vps

d d

цы, подчиненное данному покрытию: supp-^o С X \f l(p0), supp^s С VPs для s = 1,... ,d,

> 0, = 1. Существует такая окрестность иро точки р0, что ^ (т) = 1 для

8=0 в= 1 любого т Е Г1(иро).

Как и выше, будем предполагать, что расслоение С тривиально и р — плотность на X. В координатной окрестности УРв плотность р записывается в виде

dx

р = р(х, х )

—dx0

х

Возьмём р Е СГ(У), такую что supp р С Upo. Обозначая

ps(x,x°) =-^s(x,x° )р(х,х°),

llll2,kl+l

получаем:

{f*P,P) = llll2M + l / Ps(x,x° )x

s=l R£x I"-'

v т(х-111 х11к1 х11,к1+1 х11,к1 х0 х° )

х р(х1 . . . хк1 , xk1+l . . . х1 ,х1,..., хт-2) ах .

х

Сделав замену переменных

= ■у 11 ■1к1 . = ■1,к1+1 Ик2. 0 = ( 0 0 ).

Уl = х1 ...хк1 . У2 = xk1+l . . . хк2 . У = (х1, . . . ,хт-2);

Ъ = х3 V? = 2,...,к1,к1 + 2,...,1;

в интеграле, получаем

а л ^ -712 71к1

< = £ I К9(у 1711 ¿2711 ... ¿-1711

з=1„

2, . . . , к1

1х

1П-1

7 2,к1+2

72к2

72,к1 + ^ 72,к1+1 , 72,к1 + 1 , , ° ° ° \ / °\ У2 1к1+2 ... Гк2 , ^ к1+2, ... , ,хт, . . . ,х е)<Р(УЪ У2^ )

(д(/2(Й2 (к^ &к1+2 (ЬI ° ° ... . . . ау (хт.

У1 У 2 ь 2 Ск1 с к1+2

. ахп-ц.

Следовательно, для любого (у1, у2, у°) плотность задаётся формулой

а

¡Ф = X У^ У2, У°)

=1

(У1 (У2 ° аУ

1 2

где функции и3(у1, у2, у°) имеют вид:

Г —712 71к1

МУ1, У2, У°)= М11 ¿2711 ... tк1711 , t2,..., 41

1-2 х Кп-т-£+1

1 72,к1+2 72,к1 + ^ , 72,к1+1

У2 к1+2

72к2 , 72,к1+1 , ' к2 , 1 к1 +2,

. , ^£,У , хт, . . . , хп~е)

(2 (к1 (к1+2 (I(0 ( 0

— . . . — - . . . ахт . . . ахп-£.

¿2 Ск1 С к1+2

Так как при ] = к2 + 1,... ,1 выполнено условие т£ Е3 > 0, интеграл в последней формуле сходится, следовательно, и3(у1, у2,у°) — гладкая функция при у1у2 = 0.

Докажем конормальность функции и3(у1, у2,уо) в точке (0, 0) относительно индексного семейства (Е°,Е°). Запишем функцию и3(у1, у2,уо) в виде:

Уз(Уъ У2, У°)

Х1(Уъ У2, tк2+l,..., ^ У°)

(

к2+1

К1-к2

1 к2 + 1

аи и ,

где

Х1(УЪ У2, ^к2+1, . . ., к, У°)

72,к1 + 2

721

72,кт +1 I 72,к1

Х| УЪ У2 1 к1+2 1

72,к1+1

1 к1+2,

М, у

К к2-к1 -

к1+2

(

к2

к1 +2

к2

и

Х( 1, к

1 + 1,

^, у°)

Кз(У

1 —712

71к1

711 а 711 л 711

1 2 . . . к1

12,

к1

^кl+1,

ЛЪ У0,х0т,

° )(¿2 (к1 . ° . , хп—£)^_ . . . ахт

2 к1

( х°

п—£-

Из предложения 2 следует, что функция х(у1, Тк1+1, тк1+2,... , т^,у ) является конормаль-ной по переменным (у1, Тк1+1,... , те) относительно индексного семейства (Е°, Ек1+1,... , Ее) и функция х1 (у1, у2, tк2+1,... , Ьц, у°) является конормальной по переменным (у1, у2, ¿к2+1,... , и) относительно индексного семейства (Е°, Е°, Ек2+1,... , Ее). Конормальность функции

1

1

I

1

vs(yi, у2, у0) в точке (у\, у2) = (0,0) относительно индексного семейства (Е0 ,Е20) следует из утверждения теоремы 6 в случае l0 = 0, принимая во внимание условие inf Еj > 0, = к2 + 1,... ,l. Тем самым, случай l0 = 2 доказан.

Доказательство теоремы 6 в случае произвольного l0 > 2 проводится аналогичным образом индукцией по l0.

СПИСОК ЛИТЕРАТУРЫ

1. J.Alvarez Lopez, Yu.A. Kordyukov Distributional Betti numbers of transitive foliations of codimension one. In: Foliations: Geometry and Dynamics. (Warsaw, 2000). P. 159-183. World Sci. Publishing. River Edge, NJ, 2002.

2. Соболев С.Л. Об одной краевой задаче для полигармонических уравнений // Матем. сб., 2(44):3. 1937. C. 465-499.

3. Стернин Б.Ю. Эллиптические и параболические задачи на многообразиях с границей, состоящей из компонент 'различной размерности // Тр. ММО, 15, УРСС. М. 1966. C. 38-108.

4. Стернин Б.Ю., Шаталов В.Е. Относительная эллиптическая теория и задача Соболева // Матем. сб. 187:11. 1996. C. 115-144.

5. Стернин Б.Ю. Относительная эллиптическая теория и проблема С.Л. Соболева // Доклады АН СССР. 230:2. 1976. C. 287-290.

6. Стернин Б.Ю. Проблемы типа С.Л. Соболева в случае подмногообразий с многомерными особенностями // Доклады АН СССР. 189. 1969. C. 732-735.

7. Стернин Б.Ю. Эллиптические морфизмы (оснащения эллиптических операторов) для подмногообразий с особенностями // Доклады АН СССР. 200. 1971. C. 45-48.

8. Стернин Б.Ю. Эллиптическая теория на компактных многообразиях с особенностями. МИЭМ, М. 1974. 108 с.

9. Стернин Б.Ю., Савин А.Ю. Эллиптические трансляторы на многообразиях с многомерными особенностями // Дифференциальные уравнения. 49:4. 2013. C. 513-527.

10. Стернин Б.Ю., Савин А.Ю. Индекс задач Соболева на многообразиях с многомерными особенностями // Дифференциальные уравнения. 50:2. 2014. C. 229-241.

11. R.B. Melrose Pseudodifferential operators, corners and singular limits // Proceedings of the International Congress of Mathematicians, Vol. I, II (Kyoto, 1990) P. 217-234, Math. Soc. Japan, Tokyo, 1991.

12. R.B. Melrose Calculus of conormal distributions on manifolds with corners // Internat. Math. Res. Notices 1992. no. 3. P. 51-61.

13. R.B. Melrose The Atiyah-Patodi-Singer index theorem. Research Notes in Mathematics, 4. A K Peters, Ltd., Wellesley, MA, 1993.

14. Назайкинский В.Е., Савин А.Ю., Стернин Б.Ю. Некоммутативная геометрия и классификация эллиптических операторов // Труды Крымской осенней математической школы-симпозиума. СМФН. 29. РуДн. М. 2008. C. 131-164.

15. D. Grieser Basics of the b-calculus // Approaches to singular analysis (Berlin, 1999). P. 30-84. Oper. Theory Adv. Appl. 125. Birkhauser. Basel. 2001.

16. V.E. Nazaikinskii, A.Yu. Savin, B.W. Schulze, B.Yu.Sternin Elliptic theory on singular manifolds. Chapman Hall//CRC, Boca Raton, FL. 2006.

Юрий Аркадьевич Кордюков, Институт математики c ВЦ УНЦ РАН, ул. Чернышевского, 112, 450008, г. Уфа, Россия E-mail: [email protected]

Виктор Александрович Павленко,

ФГБОУ ВПО Башкирский государственный аграрный университет, ул. 50-летия Октября, 4, 450080, г. Уфа, Россия E-mail: [email protected]