О нижних оценках вероятностей уклонений для сумм случайных величин Бернулли Текст научной статьи по специальности «Математика»

УДК 519.214.4

А.Н. Архангельский1

О НИЖНИХ ОЦЕНКАХ ВЕРОЯТНОСТЕЙ УКЛОНЕНИЙ ДЛЯ СУММ СЛУЧАЙНЫХ ВЕЛИЧИН БЕРНУЛЛИ

В работе получены нижние двухсторонние и односторонние оценки для вероятности отклонения среднеарифметического из независимых бернуллиевских случайных величин от математического ожидания.

Ключевые слова', бернуллиевские случайные величины, биномиальные случайные величины, моменты случайных величин, сопряженные случайные величины.

1. Введение. Пусть на вероятностном пространстве (Q, А, Р) заданы независимые одинаково распределенные бернуллиевские случайные величины £n, п = 1,2,..., принимающие значение единица и ноль с вероятностями р G (0,1) и q = 1 — р соответственно. Положим Sn = + ... + £n.

Имеется много работ, изучающих поведение вероятностей Sn. Например, в работе [1] приведены ссылки на основные результаты, связанные с неравенством Колмогорова. Большим достоинством указанной работы является существенное уточнение всех ранее полученных разновидностей неравенства Колмогорова для биномиальных случайных величин. Отметим также работу [2], в которой, в частности, получена нижняя оценка для вероятности хвоста суммы независимых случайных величин Бернулли.

Целью данной работы является получение нижних оценок для вероятностей отклонений сумм одинаково распределенных случайных величин от среднего в однородной схеме Бернулли. Полученные оценки, в частности, уточняют оценку C.B. Нагаева [2, теорема 2] для одинаково распределенных величин. Для того чтобы оценить качество полученных нижних оценок, доказывается соответствующая верхняя оценка.

2. Нижний аналог неравенства Чебышева. Двухсторонние и односторонние нижние оценки. Для получения оценок нам потребуются неравенства (леммы 1-3), которые могут считаться нижними аналогами неравенства Чебышева.

Лемма 1. Предположим, что случайная величина |£| ^ с п.н., где с > 0 — фиксированная постоянная. Пусть для некоторого t > 0 четная, неотрицательная и возрастающая при х > О функция g = g(x), определенная на [—ic, tc], такова, что Eg(t£) < оо. Тогда для любого е > 0 имеет место неравенство

,>,,,, . ч . KfliM) f№) m

Доказательство. Положим А = (—£, е). Пусть 1д(ж) обозначает индикатор множества Л. Очевидно, имеет место следующее неравенство:

Eg(tO = Ед{Ц)Ы0 + %(^)1дп[-с,с](С) < 9&е)Р(£ G Л) + g(tc)P(£ € А) =

= g(te){l^P(\(\^e)} + g(tc)P(\(\^e),

откуда получаем неравенство (1).

Лемма 2. Пусть случайная величина с\ ^ £ ^ с2 п.н., где с\ < с2 — фиксированные постоянные, и пусть для некоторого t > 0 задана неотрицательная монотонно возрастающая на [tci,tc2] функция g = g(x), такая, что Eg(t£) < оо. Тогда для е > 0 имеет место неравенство

P(t>e)> ^te)-g(fe) (2)

sup g(tx) - g(te) xe[ci,c2]

Факультет BMK МГУ, доц., к.ф.-м.н., e-mail: arkhangQgmail.com

Доказательство. Пусть F£ (ж) обозначает функцию распределения Очевидно,

с2 е с2

Ед(Ю = [g(tx)dFs(x) = [g(tx)d,F^x) + f g(tx)d,F^x) < 5(te){l-P(£ ^ e)}+ sup g(tx)P(£ ^ e)

J J J x£[d,C2]

Cl

Cl

откуда получим неравенство (2).

Лемма 3. Пусть случайная величина с\ ^ £ ^ с2 п.н., где с\ < с2 — фиксированные постоянные, и пусть для некоторого I > 0 задана неотрицательная монотонно убывающая на [1сг,1с2] функция д = д(х), такая, что Ед(10 < оо. Тогда для е > 0 имеет место неравенство

P{i < -е) ^

Eg(tQ - g(-te)

sup g{tx) -g{-te)' ®£[CI,C2]

(3)

Доказательство. Очевидно,

C2

c2 —e c2

Eg(t£) = Jg(tx) dFs(x) = Jg(tx) dF^x) + Jg(tx) dF^x) <

Cl

Cl

< sup g(tx){l - ^ e)} + g(-te)P(S > e), ®£[ci,C2]

откуда следует неравенство (3).

Ясно, что случайная величина Sn, определенная выше, имеет биномиальное распределение с параметрами пир. Несложно проверить справедливость следующих равенств:

ESn = пр, ES2 = пр + (п)2р2, ES3 = пр + Цп)2р2 + (п)3р3,

ES* = пр + 7(п)2р2 + 6(п)зр3 + (п)4р4, где (n)k = п(п — 1)... (п — к + 1).

Определим случайную величину

С = (5)

п

Очевидно,

т

= J^-l^C^rrV1-*^.

к=О

Подставляя в последнюю сумму выражения (4) для Ев*, получим

Щ2 = РЯ щг = Ц^_) Е£4 = Щ (зрд + — (1 — брд) п пг пг \ п

Ясно, что если взять д(ж) = ж2, то из (1) и (6) получим следующее простое

(6)

Утверждение. Для любых чисел р € (0,1), q = 1 — р, 0 < е < у/pq/n, п G N, справедливо неравенство

р

п

р

pq/n — е

jr — е2

(7)

где р = тах(р, д).

Получим оценку точнее, чем (7). Для этого выберем функцию д(х) = х2/(1 + ж2). Ясно, что д(ж) ^ ж2 — ж4. Поэтому для случайной величины (5), воспользовавшись равенствами (6), получим нижнюю оценку для математического ожидания

Eg(tO > t2Ee - ¿4Я£4 = ^ t4pq

n r

1

■ipq H--(1 — 6pq)

n

Из (1) получаем

p

S'n

--P

n

> £ \ >

pq/n — t2pq(3pq + (1 — 6pq)/n)/n2 — e2/(l + t2£2) p2/(l + t2p2)^£2/(l + t2£2) :

(8)

где £ > 0. Далее выберем параметр £ так, чтобы правая часть последнего неравенства была наибольшей. Положим £ = ¿2, ё = е2, а = рд/п, Ь = рд(3рд + (1 — 6рд)/п)/п2. Найти точное значение ¿о из условия максимума правой части неравенства (8) затруднительно. Однако заметим, что при малых положительных значениях Ы функция 1/(1 + Ы) достаточно точно оценивается сверху функцией 1 — 1ё + 12ё2. Поэтому будем искать > 0 из условия максимума функции

у (г) = (о - Ы - ё(1 - к + Рё2))(1 + ¿р2),

т. е. из уравнения

у'(г) = 3ё3р2Р + 2(е3 + Ьр2 - ёр2)! - {ар2 + е2 - Ь - ёр2) = 0. Ясно, что решением будет

ё2 + ар2 — Ь — ёр2

и =

у/ (ё3 + Ьр2 — ёр2)2 + 3 ё3р2(ар2 + ё2 — Ь — ёр2) + е3 + Ьр2 — ё2р2 Второе слагаемое под корнем в знаменателе мало. Заменив его на ноль, получаем

а — ё 1

и =

2{Ь - ё2) 2р2

Подставив это значение ¿о вместо I2 в (8), приходим к утверждению:

Теорема 1. Для любых чисел р € (0,1), д = 1 —р, 0 < е ^ -\/рд(1 — 8рд/п)/п, п € М, справедливо неравенство

р

ч РЧ РЧ('\па I 1-^РЧ\(Уч1п-е'Л__1 \ Г2Ц1 , 2 (рч/п-е2__1_\\

--Р

П

У £ \ У - - - » ^ 2(Ь—е4) 2р) 7 У У 2(Ь—е4) 2у>, ,

где Ь = Ь(р, д, п) = рд(3рд + (1 — 6рд)/п)/п2, р = тах(р, д).

Получим теперь односторонние оценки. Начнем с правой оценки.

Теорема 2. Для любых чиселр € (0,1), д = 1 —р, 0 < е < д/(п+ ^/п2 + дп/р), п € М, справедливо неравенство

Р[---^-»-а* (10

\ п ) 1-е'1 — 2£р — р£

П

д(х) = (х + 1р)2/12. Очевидно, что функция д(х) монотонно возрастает при х € [—¿р, ¿д]. Используя (4),

Доказательство. Ясно, что ^¿р ^ t — р) ^ ¿д. Пусть I > 0. Выберем функцию ) = (*

получим

\п ) п* п

Поскольку д{Ье) = (е+р)2, то остается воспользоваться неравенством (2) для случайной величины (5). Приведем еще одну нижнюю границу для той же вероятности.

Теорема 3. Для любых чисел ре (0,1), д = 1 — р, 0 < е < у/ря/п, п € М, справедливо неравенство

и {Зп ^ \ ^ РЧ/п гЛЛ\

^---2~> (п

\ П ) рг — £г

где р = тах(р, д).

Доказательство. Ясно, что, выбрав функцию д(х) = 1/ (1 — ж2), из неравенства (2) для случайной величины, определенной равенством (5), получим

оо ,

1 + 12рд/п + екЕ^2к - (1 - г2£2)

ту I т/ \ \ \ к = 2

Р [--п> £ \ >

п ) ' (1 ^г2р2)~1 - (1

Максимум правой части последнего неравенства достигается при ¿2 0. Используя правило Лопита-ля, получаем (11).

п / и'п ^ \ \ гЧ с (л 0Ч

Замечание. Видим, что правые части (7) и (11) совпадают. Это, в частности, еще раз показывает, что двухсторонняя оценка из утверждения неточна. Получим теперь левую нижнюю оценку.

Теорема 4. Для любых чисел р € (0,1), д = 1 —р, 0 < е < р/(п+ л/п2 + рп/д), п € М, справедливо неравенство

' Бп \ рд/п - е2 - 2ед

--Р < ^е) > -5—о-2

п ) 1 — е1 — 2ед — д2

Доказательство. Выберем функцию д(х) = (х — ¿д)2/£2. Функция д(х) монотонно убывает при х € [—¿р, ¿д]. Снова используя (4), получаем

Ед (-(Бп - пр)) = \еБ2п - -ЕБп + 1 = д -рд + ^ \п ) V/ п п

и проверяем, что ¿е) = (е + д)2. Воспользовавшись теперь неравенством (3) для случайной величины (5), получим (12).

3. Метод сопряженных распределений. В этой части используется другой метод получения оценок. В результате для некоторых значений р и п получаются более точные нижние оценки. Теорема 5. Пусть для р, д = 1 — р, е ип выполняются следующие условия-. (г) 0 < е < д < 1;

(И) п ^ по =

3.662

(р + е)2 + (д - е)24 2

(р + е)(д^е)

1

где [•] обозначает целую часть числа;

[Ш)

(р + е)2 + (д-еУ

(р + е)(д^£) Тогда справедливы оценки:

п р2(д — £) у р2(д — £) I

Р[^-Р>е) >Я{е,п) (1--) 1 + -

п ) \ д) \ Р,

■с \ / \ -п(9-е) / \ -п(р+е)

гс>е

Я(е,п) =

/пе2{1 — е)2(р + е) , . пе2 (1 — е)2 (р + е) 2тт Н--—-;--Ь (7Г — 1)ч /

-1

р2(д — е)

р2(д — е)

-0.9568

Следствие. Пусть выполняются условия (г)-(ш). Тогда справедлива оценка

(13)

(14)

(р + в)2 + (д - е)2 ^п(р + е)(д - е)

(15)

п

Р

^-е) ^ 2<Э(е,п) 1

-п(д-е)

1

Р

-п(р+е)

(16)

где Я(£,п) определено в (15).

Доказательство теоремы 5. Воспользуемся методом сопряженных распределений. Пусть .Р(ж) обозначает функцию распределения ^ и = Еехр(1^). Определим функцию распределения сопряженных случайных величин ^ равенством

х„ ГО, если х ^ 0;

Р(х) = Д-1^) / сЫ <1Е(и) = <) д/(ре* + д), если 0 < ж < 1;

— ос

1,

если х > 1.

Ясно, что ^ — независимые, одинаково распределенные случайные величины, имеющие распределе-

п ~

ние Бернулли с параметром, равным р = ре*/(ре* + д). Положим Бп = Сг- Поскольку Бц имеет

г=1

биномиальное распределение В{(п,р), то ЕБп = пр и ВБп = па2, где а2 = рд, д = я/(рег + д). Легко проверить, что

X

P(Sn <х) = Rn(t) J e~tu dP(Sn < и),

—сю

поэтому получаем

+ СЮ

р (тг ~Р ^ е) = e~tnPRn/ e~ta^v dFn(y), (17)

где Fn{y) = P — пр)/{у/пд) < у J. Найдем t из условия равенства нулю нижней границы интеграла в (17), т. е. из равенства е + р — р = 0, или, что эквивалентно, из уравнения (е + p)(pet + g) = ре*. Если выполняется условие (г) теоремы 5, то t существует и равно

' = Чт^)>0- (18)

Ясно, что для этого t получаемр = р + е, q = g^e, Rn{t) = 1/(1 — e/q). Обозначим rn(y) = Fn(y) — Ф(у) и rn = sup |rn(y)|, где

y(zR

У

ф(у) = (2тг)"1/2 J e~u2/2du.

Из классического неравенства Берри-Эссеена следует, что

3 / „ \ -3/2

гп <: Ап-1'2Е - е£г | (DCi) = А (р2+ q2) (npg)"1/2 где А = 0.4784 (см. [3]). Из (17), учитывая сказанное, получаем

Р (~ ~ Р > с) > f 1 " £) П(9 £) f 1 + £) П(Р+£) (4= / e^vW/2 dy _ i (ig)

'n

П "" V "" V" я J У ' p) \л/2тг

о

где £ задается выражением (18). Заметим, что интеграл

+ СЮ +СЮ

J ехр (—¿стд/пу — у2/2) (¿у = ехр (12а2п) ^ е~у I2 с1у = 1(1оу/п)

о *сгч/п

представляет собой известное отношение Миллса. Воспользовавшись нижней оценкой этого отношения (см., например, [5, с. 144, неравенство (4)]), получим

I(tOy/n) 7Г (Vi2<72« + 2-7Г + (тг - l)tdy/nj

-1

Используя последнюю оценку и неравенство Берри-Эссеена, из (19) получаем оценку (13). Для того чтобы она была нетривиальной, требуется, чтобы <3(е, п) из (15) было больше нуля. Это выполняется, как несложно убедиться, если

рд

> А\ - (л/Ра2 + 2тг/п + (тг - 1)^1 . (20)

р + д V тг V /

Условие (п) теоремы 5 следует из (20), если положить ( = 0 и воспользоваться неравенством 16А2 < 3.662. Легко проверить, что из (18) вытекает

г < е/р + е/(д(1 - е/д)) = е(1 - е)/(р(д - е)).

Поэтому неравенство (20) будет справедливо, если выполняются условия (п) и (ш) теоремы 5, поскольку А~хУ7г/8 > 1.3.

Доказательство оценки (14) проводится совершенно аналогично. Оценка (16) очевидным образом следует из неравенств (13) и (14).

Для того чтобы оценить качество нижних оценок, желательно иметь верхние оценки той же вероятности. Можно, конечно, воспользоваться результатами работы [1]. Однако оценки из этой работы точны лишь при больших значениях п. Более наглядным будет сравнение полученной оценки (13) с верхней оценкой из работы [4, теорема 1]. В следующей теореме будет получена верхняя оценка, являющаяся, по сути, одним из многочисленных уточнений неравенства Хёфдинга. Теорема 6. Пусть выполняется условие (Л 0 < е < д < 1.

Тогда справедливы оценки

/с \ / \ -п(д-е) , \ -п{р+е)

И) (21)

и

/С \ / <-\ / сЛ -п(р+е)

- \ - -ГТ, - / Ь \ / ь

ч» ^^"Ч1^ l1+?J ' (22)

-1

2 ne2(l + e)2(g-e) | ^ пе2(1 + е)2(д - е) . д2(р + е) у д2{р + е) J

(д _ Е)2

0.9568 • 1 w (23)

^п(р + е)(д- е)

Следствие. Пусть выполняется условие (j). Тогда справедлива оценка р

S'ri

--Р

п

)—n(q—e) / \ — п(р+е)

(l + I) . (24)

где U(e,n) определено в (23).

Замечание. Упоминавшееся выше неравенство Хёфдинга имеет вид (21), где U(e,n) = 1. Доказательство теоремы 6 практически полностью повторяет доказательство предыдущей теоремы. Изменение коснется лишь нескольких моментов. Вместо нижнего неравенства (19) будет справедливо неравенство

ИГ""ИГ+"(ж<25)

о

где t снова задается выражением (18). Ясно, что

t ^ е/(р( 1 + е/р)) + е/д = е{1 + е)/(д(р + е)). Воспользовавшись верхней оценкой отношения Миллса (см. [5]), получим

~гОО

j e-taV^y-y2/2 dy ^ ж jy^ _ 2)Ч2а2п + 2тг + 2tay/n)

-i

Используя теперь оценку Берри-Эссеена для гп, из (25) получим требуемое неравенство (21). Неравенство (22) доказывается точно так же. Неравенство (24) есть очевидное следствие неравенств (21) и (22).

4. Заключение. Для наглядности полученных результатов будет полезным привести несколько значений полученных выше оценок.

p q £ n Оценка (7) Оценка (9)

0.1 0.9 10-'2 102 9.8777629 • 10"4 6.6562731 • Ю-2

0.3 0.7 10"2 102 4.0824660 • 10-3 7.8611397-10-2

0.5 0.5 НГ2 102 9.6038415 • 10-3 8.2777933 • lO"2

0.3 0.7 10-4 104 4.2836738 • 10-b 8.3285456-10-2

Сравнивая оценки (10) и (11), заключаем, что обе имеют примерно один порядок. Это видно из приведенных ниже конкретных примеров:

P <2 £ n Оценка (10) Оценка (11)

0.1 0.9 10-4 102 8.8889676 • Ю-4 1.1110987 • 10-3

0.3 0.7 10-4 102 2.2418951 • 10-3 4.2856942 • lO"3

0.5 0.5 10-4 102 3.2004134 • IQ"3 9.9999604 • 10-3

Представим несколько конкретных значений для оценки (12).

P Q £ n Оценка (12)

0.1 0.9 10-4 102 3.7930146 • Ю-3

0.3 0.7 10-4 102 3.8441729 • 10-3

0.5 0.5 10-4 102 3.2004134 • IQ"3

Наконец, приведем несколько примеров значений оценок (13) и (21). Для вычислений приближенных значений вероятностей Р, приводимых ниже для сравнения с верхней и нижней оценками, используется формула Муавра-Лапласа

\ п ) \ у рд у/прд/

и таблицы нормального распределения [6, с. 67, формула (4)]:

P Q £ n Оценка (13) Оценка (21) P

0.1 0.9 10-'2 102 0.129467 0.607802 0.308538

0.1 0.9 10-2 104 0.000371 0.000645 0.000404

0.3 0.7 10-2 102 0.293749 0.530851 0.371834

0.3 0.7 10-2 104 0.013445 0.016371 0.014154

0.5 0.5 10-2 102 0.322971 0.515782 0.382089

0.5 0.5 10-2 104 0.021181 0.024720 0.022216

В заключение отметим, что в случае, когда условие (ш) теоремы 5 не выполняется, то только оценки из второй части работы дают нетривиальные нижние границы вероятностей. Поэтому, например, при малых значениях р можно пользоваться этими оценками.

Автор выражает искреннюю признательность профессору В.М. Круг лову за полезные советы и неоценимую поддержку при написании работы.

СПИСОК ЛИТЕРАТУРЫ

1. Antonov S.N., Kruglov V.M. Sharpened versions of a Kolmogorov's inequality // Stat. & Prob. Letters. 2010. 80. P. 155-160.

ВЕСТН. МОСК. УН-ТА. СЕР. 15. ВЫЧИСЛ. МАТЕМ. И КИБЕРН. 2011. № 1

2. Нагаев С. В. Нижние границы для вероятностей больших уклонений сумм независимых случайных величин // Теория вероятн. и ее примен. 2001. 46. Вып. 4. С. 785-792.

3.Королев В.Ю., Шевцова И.Г. О верхней оценке абсолютной постоянной в неравенстве Берри-Эссеена // Теория вероятн. и ее примен. 2009. 54. Вып. 4. С. 671-695.

4. Hoeffding W. Probability inequalities for sums of bounded random variables //J. Am. Stat. Assoc. 1963. 58. P. 13-30.

5. Люк Ю. Специальные математические функции и их аппроксимации. М.: Мир, 1980.

6. Большее Jl. Н., Смирнов Н. В. Таблицы математической статистики. М.: Наука, 1983.

Поступила в редакцию 20.01.10

ON LOWER BOUNDS FOR BERNOULLI SUMS PROBABILITY Arkhangelsky A. N.

It has been received one- and two-sides probability lower bounds for the independent Bernoulli random variables simple mean deviation from its expectations.

Keywords: Bernoulli random variables, binomial random variables, conjugate random variables.