Множество Фату целой функции с лакунами Фейера Текст научной статьи по специальности «Математика»

ISSN 2074-1863 Уфимский математический журнал. Том 3. № 3 (2011). С. 120-126.

УДК 517.53

МНОЖЕСТВО ФАТУ ЦЕЛОЙ ФУНКЦИИ С ЛАКУНАМИ

ФЕЙЕРА

Ж.Г. РАХМАТУЛЛИНА

Аннотация. В статье исследуется множество Фату целой трансцендентной функции, то есть наибольшее открытое множество комплексной плоскости, на котором семейство итераций заданной функции образует нормальное семейство. Предполагается, что целая функция, вообще говоря, имеет бесконечный порядок. Найдено достаточное условие (оно сильнее, чем лакунарность по Фейеру) на показатели ряда, при выполнении которого каждая компонента множества Фату ограничена. Данный результат при более сильных ограничениях ранее был доказан Ю. Вангом.

Ключевые слова: целые функции, лакуны Фейера, итерации функций, множество Фату.

1. Введение

Пусть f — нелинейная целая функция комплексной переменной z. Определим естественные итерации функции f следующим образом:

f0(z) = z, f ‘(z) = f(z), ..., fk+‘ (z) = f (fk(z)) (k =1, 2, ...). (1)

Следуя Монтелю [1], назовем класс N аналитических в области D комплексной плоскости C функций нормальным в D, если из любой последовательности {fk} функций из N можно выделить подпоследовательность {fkp}, обладающую свойством: либо {fkp(z)}, либо {f—‘(z)} сходятся всюду в D, причем равномерно на каждом компактном подмножестве M области D. В этом случае говорят, что последовательность {fkp } сходится локально равномерно в D [2].

Множеством Фату F(f) функции f (z) называется наибольшее открытое множество комплексной плоскости, на котором семейство итераций {fk}, определяемых формулой (1), нормально (в смысле Монтеля). Дополнение множества Фату называется множеством Жюлиа J(f) = C \ F(f).

Если f — многочлен степени не менее 2, то множество F(f) содержит компоненту K = {z: fk(z) ^ то}, которая не ограничена. Например, множество Фату функции f (z) = z2 содержит неограниченную компоненту {z: |z| > 1}. Если f — трансцендентная целая функция, то множество J(f) всегда не ограничено, а множество F(f) может иметь либо бесконечно много неограниченных компонент, либо ровно одну, либо не иметь их вовсе [3].

Исследование итераций целых функций было начато еще в 1926 г. П. Фату [4], а затем, спустя почти 40 лет, в работах И. Бейкера (см. обзор в [3]) были получены результаты, оказавшие заметное влияние на развитие данной тематики. Так, Бейкером была доказана следующая

Zh.G. Rakhmatullina, The Fatou set of an entire function with the FejEr gaps.

© РАХМАТУЛЛИНА Ж.Г. 2011.

Поступила 28 июня 2011 г.

Теорема 1 ([5]). Если множество Фату Т(/) целой трансцендентной функции / содержит неограниченную инвариантную компоненту, то она растет быстрее целой функции порядка 1/2 минимального типа.

В [5] показано, что при достаточно больших положительных значениях параметра а множество Фату Т(/) функции

.. ч БШл/г

/ (г) = —-г- + * + а

/г

содержит неограниченную компоненту Д содержащую луч [х0, то), х0 > 0, причем /(г) имеет, очевидно, порядок р =1/2 и нормальный тип.

В 1981 году Бейкером был поставлен вопрос [5]: будет ли каждая компонента множества Т(/) ограничена, если целая трансцендентная функция / имеет достаточно малый порядок роста? В силу теоремы 1 и приведенного примера задачу Бейкера естественно рассматривать в классе целых трансцендентных функций порядка р < 1/2. Сам Бейкер [5], а позже Сталлард [6], Андерсон и Хинканен [7] получили различные достаточные условия, при выполнении которых в указанном классе функций / множество Т(/) не содержит неограниченных компонент.

Особый интерес представляет изучение класса целых трансцендентных функций вида

ГО

/(*) = Vа„гРп (рп е Н, 0 < рп | то). (2)

п= 1

Благодаря наличию пропусков целые функции вида (2) обладают рядом дополнительных свойств, позволяющих судить о компонентах множеств Т(/) в случае любого конечного и даже бесконечного порядка роста.

Говорят, что целая функция вида (2) имеет лакуны Фабри, если п = о(рп) при п ^ то, и лакуны Фейера, если

ОО

V - < то.

П=1 рп

Исследование множеств Фату Т(/) для функций вида (2) теснейшим образом связано с целым рядом классических задач (значения Пикара, борелевские и асимптотические значения, направления Жюлиа, максимум и минимум модуля, проблема Полиа, а также распределение значений целых функций с различными лакунарными условиями). Обзор такого рода исследований представлен в работе [8].

Настоящая статья посвящена изучению множеств Фату Т(/) функций / вида (2) в общем случае, а именно для целых функций произвольного роста (в том числе и бесконечного порядка).

Мы будем пользоваться следующими стандартными обозначениями для максимума модуля М(г) и минимума модуля т(г) функции /:

М(г) = тах |/(г)|, т(г) = тт |/(г)|.

|г|=г |г|=г

Отправным для наших исследований является следующий результат Ванга.

Теорема 2 ([9]). Пусть целая функция / вида (2) удовлетворяет условию: существует Т0 > 1, такое, что

1п М(гТо) , ,

Ит —— > Т0. (3)

г^го 1п М(г)

Если при некотором п > 0

рп > п 1п п(1п1п п)2+п (п ^ п0), (4)

то каждая компонента множества Т(/) ограничена.

Отметим, что для всякой целой функции / и для любого T > 1 (это следует из теоремы Адамара о трех окружностях, см., например, в [10])

Вт 1п М^} > Г. (5)

1п М(г)

В теореме 2 речь идет о целых функциях произвольного роста, поэтому приходится постулировать выполнение более сильной оценки, чем (5).

Что касается условия (4), то при этом условии в [11] Хейманом показано, что для любой целой функции / вида (2) при г ^ то вне некоторого множества нулевой логарифмической плотности

1п М (г) = (1 + о(1))1п т(г). (6)

При доказательстве теоремы 2 данная оценка используется по существу. Так что условие Хеймана (4) в теореме 2 продиктовано именно оценкой (6). На самом деле условие (4) может быть заменено на более слабое [12]: п = о(рп) при п ^ то, и

ОО

- 1 1 Рп

1 і рп

У — In — < то.

,Рп n

п=1

Цель статьи — показать, что при этом условии теорема 2 остается верной.

2. Вспомогательные факты. Основной результат

Для доказательства основного результата нам понадобится следующая лемма, которая доказана Бейкером [5] с использованием теоремы Шоттки.

Лемма 1 ([5]). Пусть аналитическая в области D функция g из некоторого семейства G не принимает значений 0 и 1. Если Do — компактное связное подмножество в D, на котором |g(z)| ^ 1 для всех g Є G, то существуют постоянные U, V, зависящие только от D0 и D, такие, что для любых z, Z из D0 и для всех функций g Є G верна оценка

|g(z')| < U|g(z)|V.

Напомним определения меры, логарифмической меры и верхней логарифмической плотности множества E С [0, то):

/[' dt 1 f dt dt, In -mes E = —, In-dens E = Iim -— —.

’ J V ™ In r J t

E E En(1,r)

Если в последнем выражении существует обычный предел, то говорят, что множество E имеет логарифмическую плотность In -dens E.

Нам понадобится также теорема B из [12] (формулировка дается применительно к степенным рядам вида (2)).

Теорема 3 ([12]). Пусть n = o(pn) при n ^ то и

О

ST' 1 i„ Рп p._ n

— 1п — < то. (7)

П=1

Тогда существует множество Е С [0, то) нулевой логарифмической плотности, такое, что для любой целой функции f вида (2) при г ^ то вне Е

1п М (г) = (1 + о(1))1п т(г). (8)

Наконец, перечислим основные свойства множеств Фату и Жюлиа. Сформулируем их в виде отдельной леммы.

Лемма 2. Для множеств Фату Т(/) и Жюлиа 3(/) целой функции / верны утверждения [3], [13]:

1. Множество Т(/) открыто, а V(/) — замкнуто;

2. Множества Т(/) и V(/) вполне инвариантны относительно / (то есть каждое из этих множеств совпадает как со своим образом, так и с полным прообразом):

1°. /-1(Т (/)) = / (Т (/)) = Т (/);

2°. /-V(/)) = /(а(/)) = а(/).

3. Для любого к > 0 множество Фату (Жюлиа) к-кратной итерации функции / совпадает с множеством Фату (Жюлиа) самой функции / :

3°. Т / ) = Т (/);

4°. а(/к) = а(/).

4. Любая неограниченная компонента множества Т(/) целой трансцендентной функции / односвязна.

5. Множество V(/) целой трансцендентной функции / не ограничено.

Основным результатом статьи является

Теорема 4. Пусть / — целая трансцендентная функция, заданная лакунарным степенным рядом (2), для которой при некотором Т0 > 1 верна оценка (3). Если выполня-

ется условие (7), то каждая компонента множества Т(/) ограничена.

3. Доказательство теоремы 4 Согласно условию (3) при некотором Т1 > Т0 > 1 верна оценка

1п М(гТо) , ,

ыМгТ > Ть г г Хо' (9)

Пусть Т0 <Т < Т1; а д > 1 такое, что дТ < Т1. Тогда (1 — е)Т1 ^ дТ при некотором £ > 0.

По теореме 3 по выбранному таким образом £ > 0 существует множество Е С [0, то) нулевой логарифмической плотности, что

т(г) > М(г)1- (10)

при г € [0, то) \ Е.

Далее, функция / — трансцендентная, поэтому М(г) растет быстрее любой степени гм. Пусть Л1 > 0 такое, что

М(г) > 2г?т при г ^ Л1.

Имея это в виду, рассмотрим последовательность {Яп}, где Яп+1 = М(Яп) (п ^ 1). Ясно, что Яп | то при п ^ то, причем /п С /п, где

= [ЯП, ЯПТ], 1п = [Яп, Яп+1 ] (д > 1, Т > 1).

Покажем, что при п ^ п1 неравенство (10) выполняется для всех точек отрезка .]п. Действительно, если найдется подпоследовательность отрезков 3Пк, на которых (10) не выполняется, то получим противоречие:

ЯчТ

п'чк

1 [ ^ -— 1 С ^ _ 1

ln -dens E = ln -dens E ^ lim ------^ ^ lim ——------- — = 1---.

ln R; J t qT ln J t q

En(l,B«l)

Значит, при n ^ nl каждый отрезок Jn содержит точку pn, не принадлежащую E.

Так что, если учесть оценки (9), (10), получим

m(pn) > M(p„)1-£ ^ [M(ДП)]1-£ > M(Rn)(1-£)Tl, n ^ nb

Так как (1 — e)T1 ^ qT, то при n ^ n1

m(pra) >M(R„)qT = дП+1, (11)

где q > 1, T > 1.

Наша задача — показать, что каждая компонента множества F(/) ограничена. Предположим противное. Пусть F(/) имеет неограниченную компоненту D. Тогда согласно лемме 2 она односвязна.

Далее воспользуемся некоторыми идеями Бейкера. Поскольку D — компонента F(/), и она не ограничена, то существует номер n2 ^ n1, такой, что D П = 0 при всех n ^ n2, где Ara = {z: |z| = R„j.

Введем в рассмотрение также окружности

С„ = {z: |z| = pra}, B = {z: |z| = R^f} (q > 1, T > 1).

Напомним, что R^ ^ pn ^ RnT, Rn < R^ < R^T < Rn+1.

Пусть n ^ n2. Так как множество D связно, и D П An = 0, то в D найдется кривая 7, соединяющая некоторую точку ап Е с какой-то точкой bn+1 Е Вга+ъ Пусть cn+1 — точка кривой y, через которую проходит Cn+1, причем |cn+1| = pn+1. Так как m(pn+1) ^ то при n ^ то (это видно из оценки (11)), то /(D) — неограниченное связное подмножество F(/), содержащее континуум / (y).

Так как ап — точка y, |ап| = Rn, то |/(ап)| ^ M(Rn) = Rn+1. С другой стороны, из (11) следует, что

|/(С„+1)| ^ m(pra+1)

> Rn+2.

Следовательно, кривая /(y) содержит дугу y(1), соединяющую некоторую точку аП+а Е An+1 с точкой бП+2 окружности Bn+2. При этом y(1) содержит некоторую точку сП+2 окружности Cn+2. Продолжая рассуждать по индукции, получим, что /k(D) является неограниченным связным подмножеством F(/), содержащим дугу y(k) кривой /k (y),

(k) ^ A u(k) ^ u (k) ^ /"i

которая соединяет точки а^ Е Ara+k и b„+k+1 Е Bra+k+1 и содержит точку c„+k+1 Е Cra+k+1,

где n (n ^ n2) фиксировано, k ^ 1. Более того,

min |/k (z)| = |/(zk)| ^ Rn+k,

zG7(fc)

где zk — некоторая точка y.

Семейство {/k} нормально в D. Следовательно, существует подпоследовательность {/kp}, которая сходится локально равномерно в D. Не нарушая общности, будем считать, что zkp ^ zo Е y. Так как |/(zkp)| ^ то при kp ^ то, то последовательность {/kp} сходится к бесконечности равномерно на y. Значит, для любого s > 0 при kp ^ N(s) > n3

min |/kp(z)| ^ s. (12)

Рассмотрим семейство функций G = {gkp}kp^N, где

, , /kp (z) — а

gkP (z) = —7-------,

p b — а

а, b — произвольные, но фиксированные точки из множества Жюлиа J(/), такие, что а = b. Значение N выберем позже.

Убедимся, что при некотором N семейство функций G удовлетворяет условиям леммы 1, если в качестве области D взять рассматриваемую нами неограниченную компоненту множества F(/) и положить D0 = y.

Так как по лемме 2 для всех к ^ 1, для любых а, Ь Є 3(/) при г Є О С ^(/) итерации /к(*) не принимают значений а, Ь, то функции дкр (*) не принимают значений 0 и 1 в О при всех р ^ 1. Кроме того, выбрав в (12) з0 = |а| + |Ь — а|, получим, что при кр ^ N(в0) > п3

, 1/кр(*) — а| ^ ||/кр(*)| —|а|К і ^

|дкР(*)| = —[г-----і— ----й-------і--1, * Є 7.

р |Ь — а| |Ь — а|

Таким образом, семейство функций О удовлетворяет условиям леммы 1 при N = N(в0). Значит, существуют постоянные и, V, зависящие только от 7 и О, что

|дкр (*01 <и |дкр (*)Г (13)

для всех *, * Є 7.

Проверяется, что для всех * Є 7

А|/кр(*)| ^ |дкр| ^ В|/кр(*)|,

где

А =—, В = |а| + , во = |а| + |Ь — а|. (14)

во во|Ь — а |

Следовательно, для всех *, * Є 7 при кр ^ N

рк„/ /\| , тт* \*кр/\ |У иВ

|fkp(z')| < U*|f(z)|V , U* =

A '

Пусть kp ^ N, z, z' — точки 7, такие, что:

1) fkp (z) = «n+plp, «Sip є An+kp;

2) f'p(z') = cnk;p>p+1, ¿n+ip+1 є C„+ip+1.

Тогда при kp ^ N

M(Rn+ip) = Дп+ip+i < |cn'!pip+i| = |fip(z')| <

< U*|fip (z)|V = U>n+L lV = U • RV+i

что противоречит тому, что / — трансцендентная функция, так как Дга+кр ^ то при кр ^ то.

Теорема доказана.

СПИСОК ЛИТЕРАТУРЫ

1. Монтель П. Нормальные семейства аналитических функций М.-Л.: ОНТИ, 1936. 238 с.

2. Хейман У.К. Мероморфные функции М.: Мир, 1966. 287 с.

3. Еременко А.Э., Любич М.Ю. Динамика аналитических преобразований // Алгебра и анализ. 1989. Т. 1. Вып. 3. С. 1-70.

4. P. Fatou Sur l’itération des fonctions transcendantes entières // Acta Math. 1926. T. 47. P. 337370.

5. I.N. Baker The iteration of polynomials and transcendental entire functions // J. Austral. Math. Soc. Ser. A. 1981. V. 30. P. 483-495.

6. G.M. Stallard The iteration of entire functions of small growth // Math. Proc. Cambridge Philos. Soc. 1993. V. 114. P. 43-55.

7. J.M. Anderson, A. Hinkkanen Unbounded domains of normality // Proc. Amer. Math. Soc. 1998. V. 126. P. 3243-3252.

8. Гайсин А.М. Оценки роста и убывания целой функции бесконечного порядка на кривых // Матем. сб. 2003. Т. 194. N. 8. С. 55-82.

9. Yu. Wang On the Fatou set of an entire function with gaps // Tohoku Math. J. 2001. V. 53. N. 1. P. 163-170.

10. Титчмарш Е. Теория функций М.: Наука, 1980. 463 с.

11. W.K. Hayman Angular value distribution of power series with gaps // Proc. London Math. Soc. 1972. V. (3) 24. P. 590-624.

12. Гайсин А.М. Об одной теореме Хеймана // Сиб. матем. журн. 1998. Т. 39. N. 3. С. 501-516.

13. J. Milnor Dynamics in one complex variable: Introductory lectures Friedr. Vieweg & Sohn. Braunschweig. 1999.

Жанна Геннадьевна Рахматуллина,

Башкирский государственный университет, ул. Заки Валиди, 32,

450074, г. Уфа, Россия E-mail: rakhzha@gmail.com