Условия звездообразности областей в r n Текст научной статьи по специальности «Математика»

Труды Петрозаводского государственного университета

Серия “Математика” Выпуск 18, 2011

УДК 517.55, 517.54, 514.752/753

В. В. Старков

УСЛОВИЯ ЗВЕЗДООБРАЗНОСТИ ОБЛАСТЕЙ В М№

Для областей с гладкой границей получен критерий звез-дообразности области относительно внутренней или граничной точки. В качестве приложения отсюда получаются все известные условия звездообразности биголоморфных отображений в шаре и поликруге и достаточные условия звездообразности областей с произвольной границей.

Введение

Пусть область Б С К”, а — фиксированная точка из замыкания Б в К”. Область Б называется звездообразной относительно точки а, если вместе с каждой своей точкой т € Б она содержит и соединяющий ее с а промежуток (а, т] = {аЬ + т(1 — ¿) : 0 <Ь < 1}.

Многие теоремы анализа, формулируемые для звездообразных или выпуклых областей, перестают быть верными для произвольных областей. Поэтому важной является задача описания таких областей со специальными геометрическими свойствами. В К2 хорошо известно аналитическое условие звездообразности области относительно точки 0. В этом случае все сводится к описанию множества биголоморфных в круге Д = {я € С : |я| < 1} функций / (я) = ^^=1 епг”, удовлетворяющих условию

М Я-Ш} > 0 уг € Д. (1)

/ (я)

Неравенство (1) является критерием звездообразности области Б = /(Д). Кикучи [1], Матсуно [2] и Саффридж [3] получили многомерный аналог условия (1) для евклидова шара В” С С”:

К-е((Б/(я))-1/(я), я) > 0 Уя € В” \ {0} (2)

© В. В. Старков, 2011

(здесь и далее я, /(я) и другие векторы — столбцы (если это не приводит к недоразумениям), хотя обычно для удобства координаты их выписываем в строчку), то есть они получили критерий звездообраз-ности области /(В”) при биголоморфных отображениях / шара В”, /(0) = 0, Б/(0) — единичная матрица (как обычно,

”

(т, я) = ^2 т Як к = 1

— комплексное скалярное произведение векторов т = (и>1,...,»”) и я = (я1, . . . , я”) в С”). В действительности, в (1) и (2) вместо строгих неравенств можно писать нестрогие. Для случая звездообразности образа шара относительно граничной точки этого образа соответствующее условие получено в [4].

Однако в случае п > 1 необходимые и достаточные условия звездообразности образа шара или поликруга при биголоморфном (локально биголоморфном) отображении не дают описания всех звездообразных областей в С”, поскольку в С” не работает теорема Римана о биголо-морфной эквивалентности односвязных областей.

В данной статье получено необходимое и достаточное аналитическое условие звездообразности области Б С К” относительно фиксированной точки а € БЯ при условии, что задано уравнение границы области ^(х) = 0, х € К” (хотя бы локально), при этом точки области определяются неравенством ^(х) < 0 и граница области — гладкое многообразие размерности п — 1.

Основной результат. Пусть Б — область из К” и ее граница Б = дБ — гладкое (п — 1)-мерное вещественное многообразие, которое задается уравнением

^(х) = 0, х = (ж1,..., X”); (3)

пусть при этом область Б определяется неравенством

^(ж) < 0 (4)

(гладкая функция ^ может быть задана локально, то есть в окрестности каждой точки р € Б область Б задается функцией ^ = Ер,

определенной только в некоторой окрестности точки р). Поскольку гладкое многообразие в окрестности каждой точки р € Б может быть задано уравнением вида

хк /(х1, . . . ,хк — 1,хк + 1, . . . , х”) (5)

при некотором k = 1,..., n (см. [5]), то можем считать, что grad F(p) =

Под внешней нормалью к области D в точке p G S будем понимать такую нормаль N(p), что p + SN(p) G D при S G (0, ¿о), S0 > 0. Из (3) и (4) следует, что в качестве N(p) можно взять grad F(p). Обозначим n(p) = N(p)/||N(p)|| единичную внешнюю нормаль; здесь и далее ||.||

— евклидова норма.

Лемма 1. Пусть гладкая гиперповерхность S является границей области D С Rn,n(p)- единичная внешняя нормаль в точке p G S. Обозначим

K(p, q, е) = {x G Rn : (x -p,n(p)) > q||x - p||, ||x -p|| < e}

(здесь и далее (x, y) — скалярное произведение в Rn). Тогда для любого q G (0,1) существует е > 0 такое, что K(p, q, е) П D = 0.

Доказательство. Идейно доказательство восходит к представленному в лемме из [4] частному случаю. По теореме Люстерника [6, глава 10, § 2.3] получаем, что для y G S

при ||у — р|| ^ 0, здесь у*— проекция точки у на гиперплоскость Р, касательную к Б в точке р. Доказываем утверждение леммы методом от противного. Пусть существует д Є (0,1) такое, что для любого є > 0 Б ПК (р, д, є) = 0. Тогда существует последовательность хт Є О, хт ^ р такая, что

при некотором £ = Ьт € (0,1], так как «(1) = хт € Б, а «(0) € Б при достаточно больших т по определению внешней нормали. При этом Б э «т = «(£т) ^ р, когда т ^ гс>. Поскольку

IK - p|| = ||tm(xm - p) + (1 - tm) (||xm - p||n(p)) || < ||xm - p||,

0 на S.

У -p = У* -p + o(||y -p||)

(6)

(7)

v(t) = p + t(xm - p) + (1 - t)||xm - p||n(p) Є S

> (qtm + 1 - tm)||xm - p|| > q||xm - p|| > q||vm - p||.

Таким образом, неравенство (7) остается справедливым при замене в нем xm на vm G S. Отсюда с учетом (6), примененного к y = vm, получим противоречивое неравенство

(vm - p,n(p)) = (o(||vm - p||),n(p)) > q||vm - p||.

Это доказывает лемму 1. □

Лемма 2. Если граница области D является гладким (n -1) -мерным многообразием, то область D звездообразна относительно 0 тогда и только тогда, когда ее замыкание D звездообразно относительно 0.

Доказательство. Покажем, что из звездообразности D следует звез-дообразность D. Действительно, предположив противное, придем к существованию точки p G dD = S такой, что (0, p] не содержится в D, то есть для некоторого A G (0,1) существует точка x* = Ap G D. Тогда существует окрестность Ux* этой точки такая, что Ux* П D = 0. Выберем последовательность xm G D, сходящуюся к p. Тогда Axm ^ x*. Поэтому Axm G Ux* при достаточно больших m. Следовательно, Axm G D — противоречие со звездообразностью D относительно 0.

Обратно, пусть D звездообразна относительно 0. Методом от противного докажем звездообразность области D относительно 0. Пусть это не так, тогда существует такая точка y* G D, что (0,y*) э p G S. Поскольку S — (n - 1)-мерное многообразие, то существует последовательность ym G D, ym ^ p. Рассмотрим окрестность Uy* С D и лучи = {tym : t > 0}. При достаточно больших m эти лучи 1m будут пересекать Uy*. Следовательно, существует такая точка y G Uy*, что (0,y] не содержится в D, то есть D не звездообразна относительно 0. Противоречие доказывает лемму 2. □

Теорема 1. Пусть область D С М” задается условиями (3)-(4),

0 G D, dD = S — гладкое (n - 1)-мерное многообразие. Для звездообразности области D относительно 0 необходимо и достаточно, чтобы

(p, grad F (p)) > 0 Vp G S. (8)

Замечание. Критерий (8) просто получается из доказанных А. С. Ду-довой [7] результатов применением леммы 2. Но здесь дается другое

доказательство достаточности (8), отличающееся от приведенного в

[7] своей геометричностью.

Доказательство. 1) Пусть Б звездообразна относительно 0 и р € Б. По лемме 2 Б тоже звездообразна относительно 0. Поэтому

зывает необходимость условия (8).

2) Покажем справедливость обратного утверждения: из (8) следует звездообразность Б относительно 0. В принятых обозначениях условие (8) равносильно условию

Если Б не звездообразна, то существует х Є Б и х' Є (0, х) такое, что х' Є О. Обозначим их/ такую малую окрестность точки х', что их> П Б = 0. Тогда найдется близкая к х точка у Є О такая, что (0, у) П их> = 0. Выберем точку у' Є ((0, у) П их/) и ее окрестность и у/ С их>. Обозначим

Обозначим I связное подмножество пересечения Б П {у£ : £ > 0}, содержащее точку у0 (I может состоять и из единственной точки у0). Из определения ¿о сдедует, что у* (1 + А) € Б для любого у* € I при достаточно малых А > 0. Отсюда и из леммы 1 вытекает, что при этих значениях А у*(1+А) € К (у*, ц, е) для любого ц € (0,1) и достаточно малого е = е(ц) > 0, то есть

В этих рассуждениях из 2) точку у € Б можно заменить любой точкой и из достаточно малой окрестности иу точки у; малость окрестности иу определяется условием не пустоты пересечения луча

^(ір) < 0, 0 < і < 1.

(р, п(р)) > 0 Ур Є Б.

(9)

¿0 = вир(і Є (0,1) : уі Є О}, у0 = іоу Є Б.

(у*,п(у*)) < д||у*|| УдЄ (0,1).

Следовательно, (у*,п(у*)) < 0. Отсюда и из (9) получаем (у*,п(у*))=0 Уу* Є I.

(10)

1« = {¿и : і > 0} с окрестностью их/. В результате получим существование такой точки и0 Є 1« П Б, что интервал (и0, и) С О ив и0 выполнено равенство (10). Такие точки и0 будем называть точками входа (в область О).

Для определенной выше точки у0 выполнено (10). Поэтому унитарным отображением можно преобразовать данную систему координат в М” так, чтобы в новой системе координаты вектора у0 были (||у01|, 0 ..., 0), а координаты вектора п(р) — (0,..., 0,1). Такое преобразование поворота не повлияет на звездообразность области относительно точки 0. В новой системе координаты точки по-прежнему будем обозначать (хі,..., хп); также не будем менять обозначение гиперповерхности Б, точки р Є Б, нормали п(р), получившихся в результате поворота. Поскольку малая окрестность V С Б точки у0 задается уравнением вида (5), то нормаль в точке у0 к поверхности Б имеет вид

N (у0) = ±( / (у0),..., / (у0), -1, / (у0),..., / (у0)).

дхі охй-і охй+і дх”

Но с другой стороны, п(у0) = (0, ..., 1). Поэтому к = п и окрестность V С Б задается уравнением

хп = /(хі,... ,х”_і). (11)

Рассмотрим сечение окрестности V одной из 2-мерных плоскостей

Р = {(хі,..., х”) : хі Є М э х”},

проходящих через у0 параллельно нормали п(у0). В соответствии с (11) в сечении получим график функции

хп = /(хі, 0,..., 0) = Л-(хі),

— открытую гладкую кривую Г, проходящую через точку д = (||у01|, 0) 2-мерной плоскости Р (далее представляем точки этой плоскости только двумя значащими координатами). Окрестность V можно считать такой малой, что Г целиком лежит в правой полуплоскости. Нормаль V(д) к кривой Г в точке д равна проекции нормали п(у0) на Р, то есть v(q) = (0,1). Из непрерывности п(-у) по V Є Б вытекает, что проекция v(s) (в — проекция точки V на Р) нормали п^) на Р также непрерывна, и потому V(в) =0 в малой окрестности точки д Є Г. Следовательно, в некоторой окрестности и С М точки хі = ||у0||

V (в)±Г, в = (хі,^(хі)).

Отсюда и из (10) получаем ортогональность векторов в и V(в) для всех точек входа в = (жх, ^(жх)), жх € и (не каждому значению жх € и, вообще говоря, соответствует такая точка входа в).

Обозначим у = у(жх) непрерывно меняющийся угол между вектором (ж1,^(жх)) € Р и положительным направлением оси Ожх. Пусть при изменении жх € и угол у меняется в промежутке, содержащем отрезок [у7, у77].

Сначала рассмотрим случай у7 = у77. Тогда, как показано выше, на каждом луче, исходящем из 0 под углом у € [у7, у77] к оси Ожх имеется по крайней мере одна точка входа в(у) = (ж^^жх)), жх = жх(у), в область Б. Причем луч {¿в(у) : £ > 0} касается Г в точке (ж^у), ^(ж^у))). Тогда для любого М > 0 и любого у € [у7, у"] по свойству касательной существует такой малый интервал и (у) с центром в у, что длина ДЬ(у) связного фрагмента графика

{(жх, ^(жх) : агС^ ^(жх) € и (у)} С Г, жх

содержащего точку в(у) не меньше МДу, где Ду — длина интервала и (у). Из открытого покрытия отрезка [у7, у77] интервалами и (у) выберем конечное подпокрытие и (у к), к = 1,..., N. Заменим интервалы и(ук) такими промежутками и7(ук) С и(у к), чтобы и7(у^) =

[у7, у77] и и7(ук) П и7(у-) = 0 для любых к = обозначим Д7(ук) длину промежутка и7(у^), ДЬ7(ук) обозначим длину связного фрагмента кривой Г, лежащего в секторе {гегу : у € и7(у^),г > 0} и содержащего точку в(ук). Поскольку ДЬ(ук) > МДу^ при любом к, то для длины Ь кривой Г получим: Ь > М(у77 — у7). В силу произвольности М получаем противоречие с конечностью длины Г.

Следовательно, у7 = у77 и Г представляет собой интервал оси Ожх. Поэтому на луче {¿у0 : £ > 0} найдется одномерная окрестность точки у0, состоящая только из точек границы области Б. А это противоречит определению ¿0 и у0. Противоречие доказывает звездообразность Б относительно 0. По лемме 2 область Б звездообразна. Теорема 1 доказана. □

Следствие. Если область Б С М” задается условиями (3)-(4), а € Б, дБ = Б— гладкое (п — 1)- мерное многообразие, то для звездооб-разности области Б относительно а необходимо и достаточно, чтобы

(р — а, grad ^ (р)) > 0 Ур € Б.

Замечание. Из доказательства теоремы 1 следует, что в формулировке следствия 1 в случае a G dD можно заменить требование гладкости S на гладкость S \ a.

Пример. Пусть область D С R3 задается неравенством

F(ж, у, z) = (ж2 + у2)(ж2 + у2 — 2) — z < 0,

ее граница — 2-мерное многообразие — уравнением F(ж, y, z) = 0. Выясним, для каких a = (0,0, zo) эта область будет звездообразна относительно точки a.

Найдем grad F = (4ж(ж2 +у2 — 1), 4у(ж2 +у2 — 1), —1). По следствию 1 надо проверить, для каких zo G R неравенство 4ж2(ж2 +у2 — 1)+4у2(ж2 + у2 — 1) — (z — zo) > 0 справедливо на границе области D. Учитывая уравнение границы, приходим к проверке неравенства (ж2 + у2)(3ж2 + 3у2 — 2) > —zo в плоскости XY. Минимизируя левую часть последнего неравенства в плоскости XY, получаем решение поставленной задачи:

1

zo > 3.

Приложения. Если область D С Cn задается условиями (3)—(4) (ж = (zi,... .zn) G Cn) и dD — гладкое (2n — 1)-мерное вещественное

dF

многообразие, то (см., например, [1]) gradF(p) = 2^““*(p) и условие

(8) примет вид

dF

Re(p, — (p)) > 0 (12)

(здесь A* означает матрицу, сопряженную к матрице A, так, напри-dF

дж*

легко получаются все известные условия звездообразности биголо-морфного отображения f шара или поликруга типа условий (1), (2), а также условие звездообразности образа шара f (Bn) относительно граничной точки (см. [4]). Так, схема доказательства условий (1)—(2) следующая.

Сначала, как обычно, применением леммы Шварца (в случае звездообразности f (Bn) относительно граничной точки надо применять теорему Жюлиа) доказывается: если для биголоморфного в шаре Bn отображения f f (0) =0 и f (Bn) звездообразна относительно 0, то это означает, что для любого r G (0,1) область f (rBn) также звездообразна относительно 0. Поскольку граница Sr такой области — (2n — 1)-мерное вещественное многообразие и задается уравнением F(w) =

мер, -j— — вектор-столбец с координатами (JF,..., dF ))• Отсюда

||f 1 (w) || —r = 0, wGf (Bn), то по теореме 1 и (12) условие звездооб-

dF

разности относительно 0 области f (rBn) имеет вид Re(p, ——*(p)) > 0,

p Є Sr. Но для p = f (z) Є Sr

d—, ^ /d(||z|| — r)

rh* I,* z

(p) = (Df (z)-1)*r"~" '0* = (Df (z)-1)*

дад*^' ' ^ 7 7 ' дг 7 7 2||^||'

Следовательно, условие звездообразности области / (гВ”) примет вид Ке(/(г), (Б/(z)-1)*z) > 0, ||г|| = г,

то есть

Ие(Б/(г)-/(г),г)> 0, ||г|| = г.

Поскольку, как замечено выше, звездообразность /(В”) равносильна звездообразности /(гВ”) для всех г € (0,1), то получаем следующий критерий звездообразности /(В”):

Ие(Б/(г)-/(г),г)> 0 г € В”.

Отсюда следуют (1) и (2), так как во введении замечено, что строгие неравенства в (1) и (2) можно заменить на нестрогие.

Аналогично получается критерий звездообразности биголоморф-ного отображения поликруга.

Условие гладкости гиперповерхности Б, границы области Б, является существенным препятствием в применении теоремы 1. Однако сама теорема 1 позволяет получать достаточные условия звездообраз-ности областей с «плохой» границей.

Теорема 2. Пусть Б — ограниченная область в М”, 0 Є Б и существует диффеоморфизм / = (/і,..., /”) : Б —> В” = {х Є М” : ||х|| <

1} с якобианом ^ =0. Если для некоторого 6 > 0 в приграничном слое Б(6) = {х Є Б : р(х, дБ) < 6} выполнено неравенство

(/(х))*(Б/(х))х > 0, х Є Б(6), (13)

то Б звездообразна относительно 0.

Доказательство. При фиксированном г є (0,1) обозначим Бг подобласть области Б, определяемую неравенством

/і2 +... + /2 < г2.

Тогда Sr = dDr — гладкое (n— 1)-мерное многообразие, задается уравнением

F (ж) = Д2(ж) + ... + ^(ж) — г2 =0. Внешняя нормаль к Sr в точке p G Sr равна N(p) = grad F (p) = 2(f(p))*(Df(p)), N(p) = 0, так как Jf (ж) = 0 в D.

Из ограниченности области D следует включение Sr С D(5) при г, достаточно близких к 1. Поэтому при таких r скалярное произведение

(gradF(p),p) = (f (p))*(Df (p))p > 0 Vp G Sr.

Следовательно, по теореме 1, область Dr звездообразна относительно

0.

Поскольку для любого ro G (0,1) область D = Ure(r0,i)Dr и области Dr звездообразны относительно 0, то и область D звездообразна относительно 0 как объединение таковых (это свойство, характерное для звездообразных множеств, вообще говоря, теряет силу, например, для выпуклых множеств). Теорема 2 доказана. □

Следствие. Если a G D С К”, то при выполнении прочих условий теоремы 2 с заменой неравенства (13) на

(fH)*(Df(ж))(ж — a) > 0, ieD(i), (14)

область D будет звездообразной относительно a.

Замечание. Из доказательства теоремы 2 легко видеть, что эта теорема и следствие 2 будут справедливы и для неограниченных областей D, если неравенства (13) и соответственно (14) будут выполнены в приграничном слое DTO(5) = f-1(B”(5)), где B”(5) = {ж G B” : ||ж|| > 1 — 5.}.

Следующая теорема дает достаточное условие звездообразности области D относительно ее граничной точки без предположения хороших свойств dD.

Теорема 3. Пусть область D С К”, a G dD и существует диффеоморфизм f = (fi,...,fn) : D —> B” с якобианом Jf = 0 в D, непрерывный в точке a, f (a) = ei = (1,..., 0) G dB”. Обозначим D[5] = f-1({ж G B” : ||ж — 5ei|| < 1 — 5}). Пусть для некоторого 5 > 0 в подобласти D \ D [5] области D выполнено неравенство

(f(ж) — eei)*(Df(ж))(ж — a) > 0,

где е € (0, ¿) и ||ж — евх || = 1 — е. Тогда Б звездообразна относительно граничной точки а.

Доказательство. Фиксируем е € (0, £). Из условия теоремы вытекает, что а € дБ[е] и (дБ[е] \ а) — гладкое многообразие размерности п — 1. Область Б[е] задается неравенством

а ее граница дБ[е] — уравнением ^(ж) = 0. Поэтому, если дБ[е] э р = а, то внешняя нормаль к Б[е] в точке р равна

причем N(р) = 0, так как ^ =0. Тогда по следствию 1 и замечанию

1 область Б[е] звездообразна относительно а, так как

^гаё Р (р),р - а) = 2(/(р) - єві)*(Б/(р))(р - а) > 0 Ур Є дБ [є].

Поскольку области Б [є], є Є (0,1), исчерпывают область Б, то Б звездообразна относительно а. □

Пример. Пусть С — плоская звездообразная относительно 0 область, ф(і) = ш = х + іу — биголоморфное отображение круга Д на С, -0(0) = 0. Обозначим

Граница этой области может и не быть многообразием (например, в случае, когда О — круг Д со счетным множеством разрезов вдоль радиусов, сгущающихся к отрезку [1/2,1]). Для анализа области Б на звездообразность относительно 0 непосредственно теорема 1 не применима. Продемонстрируем на примере этой области, как работает теорема 2 (хотя вывод о звездообразности области Б в данном случае достаточно очевиден).

Обозначим і = у('ш) = и(х, у) + і-у(х, у) обратную к ф функцию, определенную в О. При любом фиксированном г = го Є (-1,1) отображение

Р(х) = (/1 (х) - 6)2 + /22(х) + ... + /2 (х) - (1 - 6)2 < 0

N(р) = gradР(р) = 2(/(р) - єві)*(Б/(р)),

Б = {(х, у, г) Є М3 : х + іу Є О, г Є (-1,1)}.

биективно переводит сечение Б20 области Б плоскостью г = го на ортогональный к оси OZ круг с центром в (0,0, го) и радиусом \/1 - г2. Следовательно, / является диффеоморфизмом области Б на шар В3,

Б/(х,у,г) =

2

Поэтому

/ *Б/ =

, д- , оч д- , 9ч д- , оч д-, оч о о

(и-- (1 — г ) + у-- (1 — г ),м — (1 — г )+ - — (1 — г ), —и г — у г + г), дж дж ду ду

и

(/(ж, у, г))*(Б/(ж,у,г))(ж,у,г) =

д- ду д- ду

= (-аж + -аж)ж(1 — г > + (-аУ + ”ау)у(1 — г > +(1 — - — - )г =

д- ду

= (1 — г )[—(-ж + -у) + —(-ж — -у)] + (1 — - — - )г дж дж

по условию Коши — Римана для функции у. Заметив, что

д- ду

-ж + -у = Ке{и>у(ш)}, -ж — -у = 1ш|г«у(ад)}, ^(ш) = —-----+ —,

дж дж

получим:

(/(ж, у, г))*(Б/(ж, у, г))(ж, у, г) =

= (1 —г2)[Ие^(ш) Ке{Шу(ш)}+1ш^(ш) 1ш{Шу(ш)}] + (1 — -2 — -2)г2 =

= (1 — г 2)[Ке{'шу/('ш)у('ш)} + (1 — - 2 — -2 )г2. (15)

Поскольку для ф выполнено условие (1), то для обратной функции у справедливо неравенство

Ие ( у(^\ } > 0 Уш€С,

[ 'Шу/('Ш) ]

то есть Ке{аду/(ад)у(ад)} > 0 для ш € С. Так как £ = - + *- € А, то -2 + -2 < 1. Следовательно, выражение (15) положительно в Б.

По теореме 2 область Б звездообразна.

Resume

For the domains with smooth boundary the criterion of starlikeness with respect to inner or boundary point has been proved. As a consequence we obtained all known conditions of starlikeness of biholomorphic mappings in the ball and polydisk and sufficient conditions of starlikeness of the domains with arbitrary boundary.

Список литературы

[1] Kikuchi K. Starlike and convex mappings in several complex variables// Pacific J. Math. 1973. V. 44. P. 569-580.

[2] Matsuno T. On starlike and convex-like theorems in the complex vector space // Sci. Rep. Tokyo Kyoiku Dajgaku. Sect. A 5. 1955. P. 89-95.

[3] Suffridge T. J. Starlikenes, convexity and other geometric properties of holomorphic maps in higher dimensions // Lect. Notes Math. 1976. V. 599. P. 146-159.

[4] Liczberski P., Starkov V. V. Starlikenes with respect to a boundary point and Julia’s theorem in Cn // J. Math. Anal. Appl. 2010. V. 366. P. 360-366.

[5] Милнор Дж., Уоллес А. Дифференциальная топология. М: Мир, 1972. 277 с.

[6] Колмогоров А. Н., Фомин С. B. Элементы теории функций и функционального анализа. М: Наука, 1976. 542 с.

[7] Дудова A. C. Условие звездообразности лебегова множества дифференцируемой по направлениям функции // Сб. науч. тр. Сарат. ун-та. Серия Математика. Механика. 2003. Вып. 5. C. 30-33.

Работа выполнена при поддержке РФФИ (проект 11-01-00952-а).

Петрозаводский государственный университет, математический факультет,

185910, Петрозаводск, пр. Ленина, 33 E-mail: vstar@petrsu.ru