Точные формулы Карлемана для когомологий Дольбо в вогнутых областях Текст научной статьи по специальности «Математика»

УДК 517.55

Точные формулы Карлемана для когомологий Дольбо в вогнутых областях

Иван В. Шестаков*

Институт математики, Сибирский федеральный университет, Свободный, 79, Красноярск, 660041,

Россия

Получена 11.01.2011, окончательный вариант 11.02.2011, принята к печати 10.04.2011 В 1999 г. М.Начинович и др. предложили абстрактный способ построения формул Карлемана для комплекса Дольбо. Однако достаточно явные простые примеры так и не появились на свет. В настоящей 'работе формулы Карлемана представлены для областей, у которых часть границы, являющаяся дополнением к подмножеству границы с данными Коши, линейно вогнута. Следствием данной формулы выступает теорема единственности для задачи Коши в когомологиях комплекса Дольбо.

Ключевые слова: формула Карлемана, когомологии Дольбо, аналитическое продолжение.

Введение

Задача Коши для однородной системы Коши-Римана, как хорошо известно, является некорректной. Тем не менее она часто возникает в приложениях, например, в теории передачи сигнала и в гидродинамике. В [1] рассматриваются условия разрешимости задачи аналитического продолжения голоморфной функции с куска ее границы, а также строятся формулы Карлемана для решения в некоторых областях. Случай задачи Коши для однородной системы с инъективным символом представлен в книге Н.Тарханова [2]. В [3] эти результаты обобщены на неоднородные системы с инъективным символом. Отметим,что инъективность главного символа играет важную роль при развитии этой теории.

Задачу аналитического продолжения голоморфной функции в область с куска ее границы можно интерпретировать как задачу Коши на нулевом шаге комплекса Дольбо, порождаемого оператором д. Поэтому другим ее естественным обобщением может служить задача Коши на последующих шагах комплекса, т.е. задача нахождения д-замкнутой дифференциальной формы в области D СС Cn по заданным значениям на непустом открытом подмножестве S границы области. Совершенно понятно, что решение такой задачи определяется по модулю д-точного слагаемого. Отсюда вытекает, что классы когомологий комплекса Дольбо являются хорошей заменой голоморфных функций на последующих шагах этого комплекса. Таким образом, задача Коши для когомологий Дольбо обобщает задачу аналитического продолжения.

Проблемы такого рода впервые изучены в работе Андреотти и Хилла [4], они сводили вопросы существования и единственности к исчезновению некоторых когомологий Дольбо в области. Операторы в комплексе Дольбо, за исключением нулевого и (n — 1)-го, не обладают ни инъективным, ни сюръективным символом, что осложняет ситуацию.

Формулы Карлемана для голоморфных функций получили широкое применение в комплексном анализе и на практике [1]. Мы интересуемся построением формул Карлемана для

* Shestakov-V@yandex.ru © Siberian Federal University. All rights reserved

когомологий комплекса Дольбо. Абстрактный подход к этому вопросу был рассмотрен в

[5]. В настоящей работе выписываются точные формулы Карлемана для конкретных областей, у которых дополнение к кусочку границы с данными Коши является вогнутым. В частности, обнаружена явная формула для области Б, у которой дБ \ Б есть часть сферы с центром в нуле в Сп и Б расположена вне шара, ограниченного этой сферой. В [1] появлялись формулы для шара и поликруга в Сп. В нашем случае сферу можно воспринимать как границу шара с центром в бесконечности. Отметим, что данная задача для областей, у которых дополнение к куску границы с данными Коши является выпуклым, изучается в

[6].

Основным инструментом для построения формул Карлемана в данном случае можно назвать формулу Коппельмана для дифференциальных форм [7]. Используется идея, восходящая к С.Н.Мергеляну и М.М.Лаврентьеву, приблизить ядро интегрального представления на дополнительной части границы дБ \ Б формами, д-замкнутыми в окрестности Б. Так как ядро Коппельмана не д-замкнуто, требуется специальная конструкция. Именно, строится разложение ядра, которое позволяет аппроксимировать не само ядро, а некоторую д-замкнутую на дБ \ Б дифференциальную форму. Главная проблема заключается в отыскании приближающего семейства д-замкнутых дифференциальных форм.

Полученные формулы Карлемана представляют всякую д-замкнутую форму в области Б через значения ее класса когомологий на Б С дБ по модулю д-точной формы. Как следствие, появляется теорема единственности для когомологий Дольбо, утверждающая, что д-замкнутая в Б дифференциальная форма, которая точна на Б, является таковой и в области.

1. Ядро и формула Коппельмана

Поскольку в определитель входят только операции сложения и умножения, то можно рассматривать определитель с элементами из произвольного кольца. Пусть «1,„.,«^ — п-мерные векторы с элементами из произвольного кольца, п1,...,п^ — неотрицательные целые числа такие, что п1 +... + и^ = и. Обозначим через Бп1,...,пы(«1,..., «^) определитель порядка и, первыми и столбцами которого служат векторы VI, следующими П2 столбцами являются векторы «2 и т.д., последними п^ столбцами — векторы «^. Такой определитель раскрывается по обычным правилам, причем место каждого сомножителя в слагаемых зафиксировано номером столбца, т.е. ёе^г^) = XX —1)£1 «пь-«^, здесь е1 обозначает знак

I

перестановки (¿1,..., ¿п) чисел (1,..., и).

Пусть г = г (г, £,£) : О х [0,1] —> Сп — гладкая функция, где О — открытое множество в Сп х Сп \ {(г, () : г = (}. Фиксируем 0 ^ р ^ п. Рассмотрим двойные дифференциальные формы бистепени (р, д — 1) по г и (и — р, и — д) по С

(«)

= ( — 1)д+(п-Р)(д-1) / и\/и — 1

= (2пу—Т)пи! V р ) V д — 1

_ _ (1)

х Бр,п-р(дг, дС) Л Бl,q—l,n—q(«, д2«, (дс + ^)«)

для 1 < д < и и К0р) = = 0.

Отметим некоторые свойства этих форм. Лемма 1. Для каждой гладкой функции / на О х [0,1] имеем

^р)(/«) = / пК<р)(«). -407 -

Доказательство. Если д - один из дифференциалов дг, д^ или то мы получаем д(/V) = (д/+ /д«. Поскольку вектор (д/пропорционален V, а определитель с пропорциональными столбцами коммутирующих элементов равен нулю, то (д/)« не дает вклада в последний определитель в (1). □

Обозначим через (•, •} : СП х СП ^ С стандартную билинейную форму

п

(г,т} = ^ 23т. 3=1

Рассматривая вектор-функцию V, удовлетворяющую условию («,£ — г} =0 на О х [0,1], в силу леммы 1 имеем

к^Л ; Л =, / , к(р)(«).

9 — г} У («,С — г}П 9

Поэтому, домножая V на ненулевую функцию, можем считать, что («, £ — г} = 1. Лемма 2. Пусть вектор-функция v(z, С, £) класса С2 удовлетворяет (V, £ — г} = 1 на О х [0,1]. Тогда

(дс + = ( — 1)р+<^ к,^). (2)

Доказательство. См. [8]. □

Заметим, что, если Vj = Vj (г, £) : О ^ Сп, = 0,1, суть гладкие вектор-функции, удовлетворяющие , £ — г} = 1, то гомотопия vt = (1 — ¿^0 + ¿VI также удовлетворяет (ví,C — г} = 1 на О х [0,1].

Лемма 3. Пусть вектор V = v(z, £) удовлетворяет (V, £ — г} = 1 на О х [0,1], причем v(z, С, 0) = v0, v(г, 1) = VI. Тогда

— к^ы = — (—1)р+9дс /?>)

на О, где = ( — JK(-)1(v)dt. Напомним, что J — это оператор внутрен-

0

него умножения.

Доказательство. Проинтегрируем равенство (2) по £ от нуля до единицы:

1 1 1

у =у (—1)р+<^ к^и—у зс к^н.

0 0 0

Поскольку ( — 1)р+9дхV, д^V) = д^дгv,д^V) по лемме 2, то части ( — 1)р+9д2и д^К(+1, не содержащие Л, сокращаются, и мы получаем

1 1

00

Учитывая коммутативность д2 и ^ и антикоммутативность д^ и заключаем справедливость леммы. □ Функция

vl(г,c) = ]-т—^, г = C, |С — г|2

удовлетворяет условию ^(г, £), С — г} = 1 вне диагонали {г = £} в СП х СП. В этом случае двойные формы К<Р)Ы представляют собой ядра интегральной формулы Коппельмана.

Лемма 4. Пусть D - ограниченная область в Cn с кусочно-гладкой границей dD и пусть u е Cx(Ap'qT¿D). Тогда

- J u л Оо + Jdu Л Kg)1(v1) + aju Л K(p)(vi) = XDu, (3)

dD D D

где xD _ характеристическая функция области D.

Доказательство. См. [8]. □

2. Абстрактный подход

Пусть задана ограниченная область D в Cn с кусочно-гладкой границей. Обозначаем через S открытое связное подмножество dD с кусочно-гладкой границей. Мы хотим восстановить d-замкнутую дифференциальную форму u е C 1(Ap'qT¿D) в области по ее значениям на S по модулю точной формы.

Если бы в формуле Коппельмана (3) интегрирование в первом слагаемом велось по S, то эта формула и решала бы нашу задачу, поскольку в силу d-замкнутости u второе слагаемое зануляется, а третье — д-точно.

Пусть семейство дифференциальных форм K^p^v^e) в D приближает при е ^ 0 ядро K(p)1(v1) равномерно по Z е dD \ S для каждого z е D. Тогда формула (3) для д-замкнутой формы u е C 1(Ap'qT¿D) принимает вид

u(z) = - lim J u Л (k^k) - K^K e)) - lim J u Л K^ (vb e) + dju Л Kg ы

S dD D

для всех z е D.

Возникшее нежелательное второе слагаемое занулялось бы ввиду формулы Стокса, если выбрать K(+>1(v1,e) d-замкнутыми по Z в D. Однако такой выбор невозможен, так как в

этом случае ядро K((+)1(v1) должно было бы удовлетворять касательному уравнению Коши-Римана на dD \ S, а это не так.

Приведенные рассуждения говорят о необходимости модификации данной конструкции. В [5] доказывается следующая полезная лемма.

Лемма 5. Пусть 0 ^ q ^ n — 1. Предположим, что dD \ S является строго q-псевдо-вогнутой. Тогда существует окрестность U множества dD \ S в Cn и гладкие двойные дифференциальные формы ñ^^z, Z) и Pq(+)1(z, Z) на (U П D) х (U \ D) такие, что

КЙК ) = ñí+1(z,C ) + (-1)P+q5z Pq(+\(Z,C ),

(4)

д z ñq+1(z,C) = 0.

Наличие разложения (4) позволяет преодолеть вышеописанные препятствия для реализации идеи С.Н.Мергеляна и М.М.Лаврентьева. На основе леммы 5 в [5] выведена соответствующая абстрактная формула Карлемана. Опираясь на представление для Kqp)1(v1) из леммы 3 вместо абстрактного разложения (4), мы получим разновидность формулы Кар-лемана.

Теорема 1. Пусть семейство д-замкнутых по Z е D дифференциальных форм ñq+1(z, Z, N) аппроксимирует форму К^-^о) равномерно по Z на дD\S для каждого z е D

при N ^ <х>. Если и € С 1(АР'9Г^Б) является д-замкнутой в Б, то

и(г) = —|и Л /(+>) — ^Ит^У и Л (ЯГ^К) — д(+1(г,С^)) +

N^то , дЙ Я

/

+ д г

У и Л 4+^) +У и Л К9р) , г € Б.

1

\ в

Доказательство. Действительно, так как семейство Д^+^г, С, N) состоит из д-замкну-тых форм, то ввиду формулы Стокса представление Коппельмана (3) влечет

М(г) = —У и Л (К^Ы — д(+1(г,С^))+ д J и Л К(р) (vl), г € Б.

Теперь разобьем граничный интеграл в сумму интегралов по Б и дБ \ $ и подставим разложение для К^!^!) из леммы 3 во второй из них, получая

и(г) = —I и Л ) — Д(+^(г, С, N)) —

Я

— у и Л «Лы + #>) — (—1)р+9дс— д(+1(г, С, N)) + + д и

для всех г € Б. Поскольку по условию и непрерывна на дБ \ Б и Д(+^(г, N) аппроксимирует К(+)1 ^0) по норме Ь1(дБ \ Б), то

^ У и Л (яЗДЫ — Д(+1 (г, С, N))=0.

Учитывая это наблюдение, а также то, что из оставшихся членов только интеграл по Б зависит от параметра N, мы можем устремить N к бесконечности. Имеем

и(г) = — N1ш^У и Л (К (+)Ы — Д(+1(г,С^))+( — 1)р+9 У и Л д^И +

.и Л 1X9+^1) — Д „+1 (г, С, N ))+( — I и Л I

N ^то Я

/

+ д2

У и Л 4+^)+У и Л Я^Ы , г € Б.

1

\ в

По формуле Стокса

(—1)р+9 у и Л дс4+2^)= У дс(и Л —Iи Л /(+2^),

откуда следует утверждение теоремы. □

3. Теорема единственности для когомологий Дольбо

Приведенная в теореме 1 формула Карлемана дает возможность доказать так называемую теорему единственности для когомологий Дольбо.

Теорема 2. Если в условиях теоремы 1 д-замкнутая в В форма и £ С 1(ЛР'9Т^В) является д-точной на Б, то она д-точна в В.

Доказательство. Действительно, по условию всегда можно найти такую дифференциальную форму т £ С(ЛР'9-1Т^Б), что дт = и на Б. Тогда с помощью формулы Стокса первое слагаемое в формуле для и(г) в теореме 1 преобразуется следующим образом:

/и л (V) = Л /^(«Н

дЙ дЙ

= I д(т Л /^И) - (-1)р+*-1| т Л дс/(+2Н = дЙ дЙ

= (-1)р+9|т Л дс/(Р)2(^). дЙ

Вспоминая, что на дВ \ Б справедливо разложение из леммы 3, а также в силу формулы Стокса имеем

(-1)Р+9/ т Л дс/Йк^! т Л (дг/^ («) + к(р1(^о) - К^Ы) =

дЙ дЙ

= | т Л /^Н + | т Л К^о) - | т Л К^К) = дЙ дЙ дЙ

= дг| т Л т Л К^К)и Л К^К) - (-1)р+*-1| т Л («1).

дЙ дЙ Й Й Поскольку ввиду леммы 2

(-1)Р+9У т Л дсК(+)1(«1)= т Л К(р)(«1), то окончательно получаем

+ д Л т.

I и Л /(+2Н = | т Л К^о) - | и Л К^Ю + дЙ дЙ Й

Пт Л т Л К(р)Ы1 .

Теперь по теореме 1 заключаем

и(г) = т Л К^Ы + У и Л К^Ы - ^ | и Л (к^Ы - Д^^С, N)) +

дЙ Й /

+д2

-1 т Л /(+)1 (V) - | т Л («1) - | и Л /^ («) + | и Л («1) дЙ Й дМЯ В

\ дЙ Й дВ\Й

= -1 т а к^Ы + N | и л д^г, С, N)+ дй

/

■Jw А /^(у) т А К^) - | и А 4+^) + ! и А К^ы] . \ дй й дВ\й В

Наконец, по условию теоремы с учетом формулы Стокса справедливо равенство

| т А К^Ы + л11шс | и А Д^г, С, N) = дй й

= л11то I т А (д^+1 (г, С, N) - (уо)) = 0, дй

откуда и следует утверждение теоремы. □

4. Построение точных формул Карлемана

Мы постараемся реализовать описанный выше абстрактный подход для областей в Сп, у которых часть границы дБ \ Б является линейно вогнутой.

При построении формул Карлемана для конкретных областей в Сп возникают две основные проблемы. Одна из них касается нахождения разложения (4), поскольку лемма 5 не носит конструктивный характер, а лишь гарантирует существование в отдельных случаях. Другая связана с отысканием семейства д-замкнутых по С в Б дифференциальных форм Дд+1.(г, С, е), приближающих Д^+^г, £) по С € дБ \ Б при е ^ 0.

Перейдем к обсуждению конструктивного способа получения разложения (4) . Подходящим кандидатом на эту роль может служить выражение из леммы 3. В самом деле, если

д С < 1(«0) — 0 для С € дБ \ Б, то мы достигаем наобходимой цели, положив

Д^С) — К^К) - (-1)Р+Ч/^Ы, П(+\(г,С) — (-1)р+9 ^М-

Соответствующая этому случаю формула Карлемана представлена в теореме 1. В этой теореме уже достаточно приблизить двойную форму К^+^-Уо) на дБ \ Б формами, д-замк-

нутыми по С € Б. Мы можем добиться выполнения условия д-замкнутости К^+^Уо) по £ € дБ \ Б путем подходящего выбора функции -о.

Определение 1. Гладкое отображение у : Б х (дБ \ Б) —> Сп, удовлетворяющее условию (у, С - г) — 1, называется опорной функцией для когомологий Дольбо в области Б на шаге д, если д^Б11д1„-д-1(у, д2у, д^у) — 0 для всех (г, £) € Б х (дБ \ Б).

Таким образом, в качестве -о необходимо взять опорную функцию. Достаточно найти

функцию у(г, () со свойствами д^Б11д1„-д-1(у, д2у, д^у) —0 и (у, £ - г) —0 в Б х (дБ \ Б),

у

а затем ее отнормировать, т.е. положить уо — --т.

(у, С - г)

Пример 1. Если область Б является линейно вогнутой вблизи дБ\Б, т.е. через каждую точку г, лежащую в Б, можно провести не пересекающуюся с дБ \ Б гиперплоскость

у (г)

(С € Сп : (у (г), С - г) — 0}, то уо — -г представляет собой опорную функцию для

(у(г), С - г)

когомологий Дольбо в Б для всех q.

Общие конструктивные рецепты для приближения неизвестны. Можно наде-

яться построить аппроксимирующее семейство форм, используя тот или иной конкретный вид области. Мы получаем формулу Карлемана для областей В, которые в окрестности дВ \ Б являются линейно вогнутыми. В этом случае пример 1 поставляет нам опорную функцию. Более того, специальный вид этой функции позволяет приблизить К^^-о) на дВ \ Б семейством форм с требуемыми свойствами. В качестве модельного примера В можно представлять себе лежащую вне шара с центром в нуле область, у которой дВ \ Б есть часть сферы, ограничивающей данный шар. Именно на этом примере мы и продемонстрируем получение формулы Карлемана для вышеупомянутых областей.

Теорема 3. Пусть часть границы дВ \ Б области В СС СП является частью сферы (г £ СП : |г| = Е}, причем сама В не заходит внутрь шара (г £ СП : |г| < Е}. Тогда для д-замкнутой в В дифференциальной формы и £ С 1(ЛрТ^В) справедлива формула

и(^)

"У и Л /^2((1 - фо + -

дй

^ / и л (<>, (VI) - (<М>) +

/

+ д2

У и Л /^((1 - фо + ^) + Уи Л (У1Н , г £ В.

Доказательство. В условиях теоремы через каждую точку г £ В можно провести гиперплоскость (С £ СП : (г, ( - г) = 0}, не пересекающую дВ \ Б. Ясно, что у0

опорная функция для когомологий Дольбо для всех д. В силу леммы 1 мы имеем

(г, С - г)

(р)

Для построения семейства д-замкнутых по С £ В дифференциальных форм, аппроксимирующих К((+)1(у0), разложим -— в ряд геометрической прогрессии:

(г, С - г)П ((г, С) - |г|2)П (-|г|2)П\ 1 - Ш

Ряд сходится для | < |г| (как обстоит дело в нашем случае), так как в силу неравенства Шварца имеем |(г, £)| ^ |г||С| < |г|2. Заметим, что форма К^^г) является д-замкнутой по С £ В. Таким образом, семейство дифференциальных форм

\й=0

|г|2

равномерно приближает К^^-о) по С £ дВ\£, г £ В, при N ^ то, и его члены д-замкнуты по С £ В. Доказательство завершается применением теоремы 1. □

Заметим, что данное доказательство теоремы 3 без труда переносится на область В, которая линейно вогнута в каждой точке дВ \ Б. Действительно, как уже отмечалось ранее

1

П

П

1

1

1

1

П

в примере 1, в этом случае через всякую точку г € Б можно провести гиперплоскость (С € Сп : (у(г),£ - г) — 0}, не пересекающуюся с дБ \ Б. Предположим, точка а € Сп такова, что (у(г),г - а) — 0 для всех г € Б. Сформулируем теперь результат в общем случае.

Теорема 4. Пусть область Б СС Сп является линейно вогнутой вблизи дБ \ Б. Если и € С 1(ЛР'9Т^Б) есть д-замкнутая дифференциальная форма, то для всех г € Б, удовле-

(у(г),С - а)

творяющих условию вир

(у(г), г - а) и(г) — -У и А /^+)2((1 - фо + *у1 ) -

< 1, справедлива формула

дй

N

Б

Ит /и А <>!) - /(-1)" , V ((у(г),С - <>) +

N^^ ] \ ' (у(г), г - (у(г),г - а) У ^

/

+ д г

У и А /(Р)1((1 - ¿)Уо + ¿У1)+У и А К(р)(У1) .

и

\

Доказательство. Уже упоминалось, что доказательство проходит аналогично доказательству теоремы 3. Отметим некоторые специфические моменты. Как следует из примера 1, линейная вогнутость дБ \ Б гарантирует существование опорной функции

у (г) г

уо — . , , .-т, гладкой в Б х (дБ \ Б), которая и используется вместо уо — --.

(у(г), С - г) (г, С - г)

Более того, условие принадлежности области внешности шара с центром в нуле заменяется предположением

(у(г),С - а)

вир

(у(г), г - а)

< 1,

которое гарантирует сходимость ряда. □

Для того чтобы сделать приведенную формулу Карлемана более прозрачной, вычислим 4р)((1 - ¿)уо + ¿у1). Имеем

11 д 1 К(^-.(у^Л — ( -

о

1(р)((1 - фо + *у!) — (-1)р+|JKÍ-)l(уt)dí — V . х

1

( П ) ( П-2 ) Бр,п-р(дг, дС) ^У д^Б^^п-д+^у^дгуе, (дс + ^Ю^.

Р / V д

о

Используя свойства определителей, приходим к следующему результату:

(-1)"+("-р+1)^ / п

1(р)((1 - ¿)уо + ¿у1) — ( 1) - п х

х Бр1„_р (дг, дС) А^Д Ппк- 2 ) Б1,1,к, д_й_2,п-9 (уо,у1 , д2 уо, д2 у1,д с у1) для 2 ^ д ^ п. Понятно, что 1(р) = 1^+1 = 0.

х

5. Следствия формулы Карлемана

Отметим два принципиально различных случая, в которых приведенная формула Карлема-

(p) (p)

на принимает более специальный вид. Если q = n —1, то, как было отмечено, Iq+2 = In+i = 0

и интеграл по dS исчезает. Наличие предела в формуле Карлемана свидетельствует о

неустойчивости задачи Коши. Напротив, если q = n — 1, то ввиду d-замкнутости опор-

v(z) ( ) ной функции v° = ———-г по Z мы имеем K:Y-,(v°) = 0. В этом случае полученная

(v(z),C — z) ^

формула Карлемана упрощается - она вовсе не содержит предела, так как приближающее семейство также нулевое. Отсутствие предела показывает устойчивость задачи Коши относительно данных на S.

Таким образом, при q = n — 1 рассмотренная задача Коши для когомологий комплекса Дольбо не является устойчивой, а при q = n — 1 она устойчива.

Для голоморфной в D функции u G C(Ap'°T(tD), формула Коппельмана (3) есть не что иное, как хорошо известная формула Мартинелли-Бохнера, а полученная формула Карле-мана имеет вид

u(z) = —У u Л 4p)((1 — t)v° + tvi) — J u л K(p) (vi). dS S

Границей Шилова относительно алгебры O(D) П C(D) называется минимальное замкнутое множество Г С dD со свойством

sup |u(z)| = sup |u(z)|

zee zer

для всех u G O(D) П C(D). В некоторых вопросах это понятие играет существенную роль. Например, задача Коши с данными на подмножестве границы, содержащем границу Шилова, является устойчивой. Полученный нами результат позволяет извлечь некоторую информацию о границе Шилова области D. Именно, применим приведенную формулу для функций um(z) G O(D) П C(D), m = 1, 2,..., имеем

um(z) = —J um Л /2p)((1 — t)v° + tvi) — J um Л K(p)(v1).

dS S

Отсюда следует оценка

/ \ 1/m |u(z)| < sup |u(z)| | |/2p)((1 — t)v° + tvi)| +J |K(p)(vi)M .

S Vs S /

Устремляя m к бесконечности, заключаем, что граница Шилова содержится в S.

Итак, мы приходим к результату о том, что граница Шилова области D СС Cn, n > 1, относительно O(D) П C(D) лежит в дополнении подмножества границы dD, состоящего из всех точек линейной вогнутости.

Работы, посвященные характеризации границы Шилова для различных областей, появились достаточно давно. В случае псевдовыпуклых областей известен, например, следующий результат о границе Шилова, полученный в [9].

Теорема 5. Пусть D — псевдовыпуклая область в Cn с гладкой границей. Тогда граница Шилова области D относительно алгебры O(D) П C(D) совпадает с замыканием множества всех точек строгой псевдовыпуклости границы 3D.

Автор сердечно благодарен Н.Тарханову за руководство при написании 'работы.

Работа поддержана грантом Рособразования "Развитие научного потенциала высшей школы" №2.1.1/4620.

Список литературы

[1] Л.А.Айзенберг, Формулы Карлемана в комплексном анализе. Первые приложения, Новосибирск, Наука, 1990.

[2] N.Tarkhanov, The Cauchy Problem for Solutions of Elliptic Equations, Berlin, AkademieVerlag, 1995.

[3] И.В.Шестаков, А.А.Шлапунов, О задаче Коши для операторов с инъективным символом в пространстве Лебега L2 в области, Сиб. мат. журн., 50(2009), №3, 687-702.

[4] A.Andreotti, C.D.Hill, E.E.Levi convexity and the Hans Lewy problem. Part 1: Reduction to vanishing theorems, Ann. Scuola Norm. Super. Pisa, 26(1972), №3, 325-363.

[5] M.Nacinovich, B.-W.Schulze, N.Tarkhanov, On Carleman formulas for the Dolbeault cohomology, Ann. Univ. Ferrara, Sez.VII, Sc. Mat., Suppl., XLV(1999), 253-262.

[6] N.Tarkhanov, An explicit Carleman formula for the Dolbeault cohomology, Journal SFU, Mathematics and Physics, 3(2010), №4, 450-460.

[7] W.Koppelman, The Cauchy integral for differential forms, Bull. Amer. Math. Soc., 73(1967), №4, 554-556.

[8] Л.А.Айзенберг, Ш.А.Даутов, Дифференциальные формы, ортогональные голоморфным функциям или формам, и их свойства, Новосибирск, Наука, 1975.

[9] M.Hakim, N.Sibony, Frontiere de Shilov et spectre de A(_D) pour des domaines faiblement pseudoconvexes, C. R. Acad. Sci. Paris Ser. A-B, 281(1975), №22, A959-A962.

Explicit Carleman Formulas for the Dolbeault Cohomology in Concave Domains

Ivan V. Shestakov

In 1999 M.Nacinovich et al. suggested an abstract method for constructing Carleman formulas for the

Dolbeault complex. What has been lacking are simple and explicit examples. In this article we present a

Carleman formula for Dolbeault cohomology classes given on a part of the boundary whose comlement is

concave. As corollary we derive a uniqueness theorem for the Dolbeault cohomology.

Keywords: Carleman formula, Dolbeault cohomology, analytic continuation.