КРИТЕРИИ РАВЕНСТВА МАТЕМАТИЧЕСКИХ ОЖИДАНИЙ СТЬЮДЕНТА И КРАМЕРА-УЭЛЧА ДЛЯ ДАННЫХ ТИПА ВРЕМЕНИ ЖИЗНИ Текст научной статьи по специальности «Математика»

УДК 519.254

Критерии равенства математических ожиданий Стьюдента и Крамера-Уэлча для данных типа времени жизни

П. А. Филоненко1, С. Н. Постовалов

Рассмотрены параметрический критерий Стьюдента и непараметрический критерий Крамера-Уэлча для проверки гипотезы однородности математических ожиданий. Данные критерии могут использоваться для проверки гипотезы однородности распределений. Представлены статистики критериев, применимые в случае данных типа времени жизни. Показано, что с ростом объемов выборок распределения статистик критериев приближаются к соответствующим предельным распределениям. Кроме того, в данной работе приведены результаты компьютерного моделирования мощности данных критериев с использованием имитационного метода Монте-Карло на альтернативных гипотезах при выполнении и нарушении априорных предположений.

Ключевые слова: проверка гипотезы однородности, критерий Стьюдента, критерий Кра-мера-Уэлча, параметрические критерии, непараметрические критерии, мощность критерия, распределение статистик, данные типа времени жизни, метод Монте-Карло.

1. Введение

В качестве проверки гипотезы однородности распределений могут рассматриваться критерии равенства математических ожиданий, критерии равенства дисперсий и их возможные комбинации в силу того факта, что однородность распределений означает совпадение всех характеристик распределений: Н 0: S1(t) = S2(t) [1].

Если гипотеза однородности математических ожиданий не отклоняется, это еще не означает, что распределения S1(t) и S2(t) однородны, т.к. в таком случае могут отличаться любые другие характеристики распределения (например, дисперсии). Однако факт отклонения такой гипотезы может поставить под сомнение однородность распределений S1(t) и

S2(t), т.к. как минимум одна характеристика распределений может различаться.

В математической статистике широкое распространение получил критерий Стьюдента для проверки однородности математических ожиданий [2]. Данный критерий относится к типу параметрических критериев, а используемым априорным предположением является тот факт, что данные распределены по гауссовскому (нормальному) закону распределения. Имеются работы, в которых показано, что при большом и близком объеме выборок п1, п2

нарушение априорного предположения на распределения статистик критерия Стьюдента St

при справедливости нулевой гипотезы G(St | Н0) существенного влияния не оказывает в си-

1 Работа выполнена при финансовой поддержке Минобрнауки РФ в рамках проектной части государственного задания (проект 2.541.2014К).

лу центральной предельной теоремы [3], однако в противном случае распределение G(St | Н0) может существенно отличаться. Кроме того, проверка гипотезы о нормальности -

более сложная статистическая процедура, чем проверка гипотезы однородности [4]. Поэтому в силу указанных обстоятельств предлагается [4] вместо описанного параметрического критерия Стьюдента использовать непараметрический критерий Крамера-Уэлча со статистикой SKW . Из многомерной центральной предельной теоремы и из теорем о наследовании

сходимости [5] следует, что с ростом объемов выборок п1, п2 распределение статистики Крамера-Уэлча G(SKW | Н0) сходится к предельному распределению (стандартный нормальный закон) и не имеет аналогичного априорного предположения о нормальности данных, как у критерия Стьюдента.

На практике далеко не всегда возможно произвести наблюдение за объектом от самого начала до самого конца исследования. Могут возникать ситуации, в которых объект выбывает из наблюдения, но наверняка известно, что до определенного момента времени этот объект был исправен. Такие наблюдения будем называть цензурированными [6], и для таких данных описанные выше критерии не могут быть применены.

Учитывая все вышесказанное, в главе 1 рассмотрим статистики критериев Стьюдента и Крамера-Уэлча, а также модификации этих критериев для случая данных типа времени жизни. Кроме того, с использованием метода Монте-Карло продемонстрируем, что распределение статистик модифицированных критериев G(St | Н0) и G(SKW | Н0) с ростом объемов выборок п1, п2 приближается к соответствующим предельным распределениям. В главе 2

представим результаты компьютерного моделирования мощности критериев на альтернативных гипотезах при выполнении и нарушении априорных предположений о нормальном распределении данных.

2. Статистические методы 2.1. Постановка задачи

Предположим, мы имеем две выборки из непрерывных случайных величин ^ и :

Выборкам Х1 и Х2 соответствуют функции надежности Si ^) с математическими ожиданиями д и дисперсиями а], i = 1,2 . Тогда

цензурирования для j-ого объекта в ¿-й группе. Величины Т и Сц являются независимыми и одинаково распределенными с соответствующими функциями распределения Fi ^) и FiC ^). Функцией надежности S (^ будем называть такую функцию, значение которой есть вероятность события, что не произойдет отказ объекта после времени t: Si ^) = Р {^ > {} = 1 - Fi ^).

В таком случае нулевая гипотеза Н0 об однородности математических ожиданий выглядит следующим образом:

Х1 = {t11, . . ., ^н, } , Х2 = {^1, ..., t2n1 }

где = тт

^ , ^ - моменты времени отказа, С^ - моменты времени

Н0 : .

2.2. Классический критерий Стьюдента для полных наблюдений

В случае классического критерия Стьюдента для полных наблюдений будем считать 8= 1, V/, ]. В таком случае статистика критерия St будет выглядеть следующим образом:

£ =

М №2

>/(П - 1) ^ +(П2 " 1) ^ \

П1П2 (П1 + П2 - 2)

п1 + п2

где

1 п1 1 п2 А = ^ , = ^ ^2г,

П /=1 П2 /=1

1 п, 1 п^

2 1 хЪ (гу ~ \ 2 2 1

-71/ - А ) , ^ =-72/ - А ) .

п 1 /=1 п2 1 /=1

Основная гипотеза Н0 отвергается с уровнем значимости а , если > V а (п1 + п2 -2),

1 2

где t а (п1 + п2-2) - это ^1- а| квантиль распределения Стьюдента со степенью свободы п1 + п2 - 2 .

2.3. Классический критерий Крамера-Уэлча для полных наблюдений

В случае классического критерия Крамера-Уэлча [7] для полных наблюдений будем считать 8^ = 1, V/, ]. В таком случае статистика критерия £кш будет выглядеть следующим

образом:

л/п1пГ ( А )

£ = .

^2 2 п2 + п1^2

Основная гипотеза Н0 отвергается с уровнем значимости а, если £кж| > а, где

И а ]

г, а - это ^1- — | квантиль стандартного нормального распределения.

2

2.4. Оценки математического ожидания и дисперсии для данных типа времени жизни

Учитывая тот факт, что оценки математического ожидания и несмещенной дисперсии не применимы в случае цензурированных данных, необходимо получить эти оценки. Запишем определение математического ожидания / = М£ случайной величины £ и соответствующей ей функции надежности £(V) = 1 - F(V) :

+ад

/ = М£ = | Ш(V).

-ад

Таким образом, для вычисления математического ожидания в случае данных типа времени жизни необходима оценка ) для функции надежности £(V). Для этого воспользуемся непараметрической оценкой функции надежности Абдушукурова ^А(V) [8], т.к. данная оценка, по сравнению с оценкой Каплана-Мейера [9], лишена недостатка и при любой степени цензурирования Зt: -ад < V < ад : £А (V) = 0.

Для выборки X/, / = 1,2 оценка Абдушукурова £А (V) функции надежности £ (V) выглядит следующим образом:

^ (/) ч

1, t < ^ Г ,\к(г)

п -/

V П у 0, t * ^ )•

,Z(i/■) < t < 2,п+1),1 < / < п -1,

где Я(0 = - 1п № , Б? (t) = ехр [-£ ■ (Z(i/) <^

v Ч 7=1 п -/+1

V /=1 п -1+1 у

, - » < t < +да.

В соотношении выше используемая величина Б? ^) является непараметрической оценкой функции надежности Бреслоу [ 10] для выборки X., i = 1,2.

В итоге оценка математического ожидания в случае данных типа времени жизни может быть вычислена следующим образом:

РС = Е ^) (^ (t - е) - ($ + е)), £ ^ 0.

/=1

Воспользуемся свойством [11] дисперсии случайной величины э2 = для случайной величины £ :

2

^2 = = Ы£2 - (М£)2 = 112dS^) -1 | tdS^)

Тогда оценка несмещенной дисперсии случайной величины в случае данных типа времени жизни может быть вычислена следующим образом:

(^)2 = -^ГГЕЕZ(2/■) (($-е)-^ + е))-(Я)21 ,е ^ 0.

V /=1

2

г' ~ г

Таким образом, если мы вместо величин Д., в приведенных соотношениях для критериев Стьюдента и Крамера-Уэлча будем использовать величины Дс, () , то получим модифицированные статистики критериев Стьюдента и Крамера-Уэлча Б!кж для данных типа времени жизни. В дальнейшем речь будет идти о модифицированных критериях.

2.5. Распределение статистик модифицированного критерия Крамера-Уэлча

Для проведения процедуры проверки статистической гипотезы необходимо сравнить значение статистики критерия Бп с некоторым критическим значением Ба при фиксированной ошибке первого рода а . На основании этого сравнения делается вывод об отклонении или принятии статистической гипотезы. Критическое значение Ба берется из распределения

статистики критерия при справедливости нулевой гипотезы G(Sn | Н0) (в данной работе нулевая гипотеза - это равенство математических ожиданий), которое при п ^ да стремится к предельному распределению G(S | Н0) . На практике очень часто бывает, что при рассмотрении выборки объемом п распределение G(Sn | Н0) еще существенно отличается от предельного распределения G(S | Н0), поэтому использование предельного распределения G(S | Н0) чревато неправильно сделанным выводом. Для определения степени близости распределения G(Sn | Н0) к распределению G(S | Н0) производят исследование скорости сходимости распределения статистик [12]. Покажем на рис. 1 и 2 для модификаций критериев Стьюдента и Крамера-Уэлча, что с ростом объемов выборок п1, п2 распределение статистик G(Sn | Н0) приближается к G(S | Н0).

/ Ж.

I жГ а'' /

/ УУ / ,У / у/

/ у У У У •

V '/ У /

У У у. .-V У/

/ " / / /у / \

* У г / ' / / ' / / 1 1

1,01 1,10 1,18 1,27 1,35 1,43 1,52

- Ст1НГ1рТКО= КСрМ21ЪНО= р!СПр=ЕЭ:=КК=

" Крнг^рнй Стъюл=нт1. п1=п2=200. Ст=п=кь ц=к;уркроБ1кня 20%

.........Крнг^рнй Стъюл=нт1. п1=п2=400. Ст=п=кь ц=к;уркроБ1кня 20%

" " Крнг^рнй Стъюл=нт1. п1=п2=600. Ст=п=кь ц=к;уркроБ1кня 20%

Рис. 1. Распределения статистик модифицированного критерия Стьюдента G(St | Н0)

для разных объемов выборок п1, п2

1.00 0,98 0,96 0,94 0.92 0.90 0.88 0,86 0.84 0.82

0.80

_ _—-- ' _г - "

г _ г " "

щГ

/

///

///

// ■ж

У 1

1.00

1,33

1,67

2.00

2.33

2,67

" Стандартное нормальное распределение

' Критерий Крамера-У з^та, и 1=п2= 10р Степень ЦЕНзурнрсъанкя 20% ' Критерий Краиерд-Уэия, п1=д2=20. Ст=п=нь □2нз\"рироьгккя: 20% " Критерий Крам5ра-Ул1ча. п1=п2=100. Стэпэнь цэкл-ркроыккя 20%

3,00

Рис. 2. Распределения статистик модифицированного критерия Крамера-Уэлча G(SKW | Н0)

для разных объемов выборок п1, п2

Как видно из рисунков выше, с ростом объемов выборок п1, п2 распределения G(St | Н0) и G(SKW | Н0) становятся всё ближе к соответствующим предельным распределениям. Отметим тот факт, что в случае модифицированного критерия Стьюдента с ростом объемов выборок предельное распределение асимптотически стремится к стандартному нормальному распределению, именно поэтому были рассмотрены большие объемы выборок п1, п2.

Таким образом, в данной главе были рассмотрены классические критерии однородности математических ожиданий Стьюдента и Крамера-Уэлча, представлены оценки математического ожидания и несмещенной дисперсии в случае данных типа времени жизни с использованием оценки функции надежности Абдушукурова, а также показано, что с ростом объемов выборок распределения статистик критериев приближаются к соответствующим предельным распределениям.

3. Исследование мощности модифицированных критериев

Мощностью критерия называется вероятность правильно отвергнутой нулевой гипотезы, когда нулевая гипотеза не верна [13]. В подавляющем большинстве случаев на практике для критерия со статистикой неизвестно распределение статистик при справедливости

альтернативной гипотезы G(Sn | Н1). В этом случае поведение функции мощности можно

исследовать с помощью рассмотрения различных классов близких альтернативных гипотез. На основании полученных результатов делаются рекомендации о предпочтительности использования критерия на практике.

Покажем поведение мощности модифицированных критериев однородности математических ожиданий Стьюдента и Крамера-Уэлча при конкурирующих гипотезах с различной степенью близости, а также при конкурирующих гипотезах, для которых выполняются или нарушаются априорные предположения (для критерия Стьюдента) о том, что данные должны быть распределены по нормальному закону. Конкурирующие гипотезы показаны в табл. 1. Для указанных конкурирующих гипотез будем использовать цензурирование случайного типа с распределением Вейбулла-Гнеденко We (^А,2), т.е. FC (^А) = We (^А,2), а параметр

А будет определяться из соотношения | (1 - FC (^А)) f ^ ^ = 1 - у, где f ^)-

—ад

у е [0,1] - заданная степень цензурирования.

Таблица 1. Альтернативные гипотезы

dt

Обозначение Альтернатива Значения параметров

А 8

Н, N (^ А, 1) — N (+ 8,1) 0 0.01

Н 2 N (^ А, 1) - N (+ 8,1) 0 0.05

Н 3 Ехр (^ А) - Ехр (^ А - 8) 1 0.01

Н 4 Ехр (^ А) - Ехр (^ А - 8) 1 0.05

Соотношения функций плотности и используемых обозначений для указанных распределений в табл. 1 представлены в табл. 2.

Таблица 2. Используемые законы распределения

№ Обозначение Закон распределения Функция плотности

1 N ( ГА,о2) Нормальное распределение 2 1 ( о - Х)2" fN(а,^2) = ы2жа 2а ( У , г е Я

2 Ехр ( Г;^) Экспоненциальное распределение fz„(а) = Хехр(-Хг),г > 0

3 We ( г;Х, а ) Распределение Вейбулла-Гнеденко Ле<а,а)=Х(Х) ехр[-(Х^ , г > 0

С учетом введенных обозначений, рассматриваемых распределений, получим результаты компьютерного моделирования с использованием имитационного метода Монте-Карло. Объем моделирования N составил 20 000 повторений (в таком случае распределение статистик критерия G(Sn | Н0) будет иметь погрешность моделирования менее 0.01 [14]), объемы

выборок щ = п2 = 500, зафиксированная ошибка первого рода а = 0.05. Результаты представим в табл. 3.

Таблица 3. Результаты компьютерного моделирования

Критерий Н 0 % 10 % 20 % 30 % 40 % 50 %

Модифицир. критерий Стьюдента Н> 0.052 0.052 0.046 0.053 0.056 0.062

Н 2 0.123 0.128 0.112 0.115 0.108 0.107

Н 3 0.052 0.057 0.054 0.056 0.050 0.048

Н 4 0.133 0.122 0.108 0.105 0.090 0.077

Модифицир. критерий Крамера-Уэлча Н, 0.053 0.055 0.053 0.058 0.054 0.062

Н 2 0.113 0.122 0.116 0.111 0.118 0.106

Н 3 0.050 0.058 0.052 0.049 0.059 0.051

Н 4 0.129 0.116 0.109 0.099 0.095 0.077

Из полученных результатов в табл. 3 можно сделать выводы, что оба критерия очень плохо различают основную и альтернативную гипотезы, когда разница между математическими ожиданиями составляет не более 0.01, даже при объеме выборок п1 = п2 = 500, т.к.

мощности критериев на альтернативных гипотезах Н1 и Н3 близки к значению зафиксированной ошибки первого рода а = 0.05. Зато рассматриваемые критерии лучше определяют альтернативу, если разница между математическими ожиданиями не превышает 0.05, это можно увидеть по результатам мощности на альтернативных гипотезах Н2 и Н4. Отметим тот факт, что с ростом степени цензурирования мощность критериев уменьшается, как это показано с помощью результатов на альтернативных гипотезах Н2 и Н4. Кроме того, тот

факт, что мощности модифицированных критериев Стьюдента и Крамера-Уэлча для рассмотренных альтернативных критериев имеют различие около 1 %, позволяет сделать вывод, что на практике действительно стоит использовать без существенной потери в мощности непараметрический критерий Крамера-Уэлча вместо критерия Стьюдента, для которого необходимо провести сложную проверку нормальности данных.

4. Заключение

Для проверки однородности выборок существуют различные подходы, как, например, проверка гипотезы о равенстве математических ожиданий. Для проверки такой статистической гипотезы на практике часто используют параметрический критерий Стьюдента. Однако существует непараметрический аналог данного критерия - критерий Крамера-Уэлча, статистика которого распределена по стандартному нормальному закону. Для рассмотренных конкурирующих гипотез мощности критериев близки, что подтверждает факт предпочтительности критерия Крамера-Уэлча вместо критерия Стьюдента, для которого необходимо проверять гипотезу о нормальности данных. С ростом степени цензурирования мощность критериев убывает.

В работе приведены оценки математического ожидания и дисперсии для данных типа времени жизни на основе оценки функции надежности Абдушукурова, а также аналоги критериев Стьюдента и Крамера-Уэлча для данных типа времени жизни. Показано, что с ростом объемов выборок распределение статистик критериев приближается к соответствующим предельным законам. Также показано, что критерии плохо различают альтернативную гипотезу, когда расстояние между математическими ожиданиями не более 0.01 даже при объемах выборок n1 = n2 = 500.

Литература

1. Филоненко П. А., Постовалов С. Н. Исследование влияния закона распределения моментов цензурирования и степени цензурирования на мощность критериев однородности // Сибирский журнал индустриальной математики. 2014. Т. 17, № 3. С. 122-134.

2. Student. The probable error of a mean // Biometrika. 1908. № 6 (1). P. 1-25.

3. Орлов А. И. Эконометрика. Изд. 4-е, доп. и перераб. Ростов-на-Дону: Феникс, 2009. 572 с.

4. Орлов А. И. Прикладная статистика. М.: Экзамен, 2006. 671 с.

5. Орлов А. И., Жихарев В. Н., Цупин В. А. Анализ динамики цен на продовольственные товары в Москве и Московской области// В сб.: Научные труды Рижского института мировой экономики. 1998. В. 2. С.19-25.

6. Philonenko P., Postovalov S. A power comparison of homogeneity tests for randomly censored data // Applied methods of statistical analysis. Applications in survival analysis, reliability and quality control (AMSA 2013), Novosibirsk, 25-27 Sept. 2013. P. 227-237.

7. Welch B. L. The generalization of "Student's" problem when several different population variances are involved // Biometrika. 1947. V. 34. P. 29-35.

8. Abdushukurov A. A. Communications in Statistics: Theory and Methods. 1998. V. 27, № 8. P. 1991-2012.

9. Kaplan E. L., Meier P. Nonparametric estimator from incomplete observation // J. Amer. Statist. Assoc. 1958. V. 53. P. 457-481.

10. Breslow N. J. Roy. Stat. Soc. Ser. A. 1972. V. 34. P. 216-217.

11. Бекарева Н. Д. Теория вероятностей: учеб. пособие. Изд-во НГТУ, 2007. 196 с.

12. Статистический анализ данных, моделирование и исследование вероятностных закономерностей. Компьютерный подход: [монография]: монография / Б. Ю. Лемешко, С. Б. Лемешко, С. Н. Постовалов, Е. В. Чимитова. Новосибирск: Изд-во НГТУ, 2011. 888 с.

13. Лемешко Б. Ю., Лемешко С. Б. Об устойчивости и мощности критериев проверки однородности средних // Измерительная техника. М: ФГУП «Рос. науч.-техн. центр информации по стандартизации, метрологии и оценке соответствия», 2008. № 9. С. 23-28.

14. Лемешко Б. Ю., Постовалов С. Н. Компьютерные технологии анализа данных и исследования статистических закономерностей: учеб. пособие. Новосибирск: НГТУ, 2004. 119 с.

Статья поступила в редакцию 22.02.2016

Филоненко Петр Александрович

аспирант кафедры теоретической и прикладной информатики НГТУ (630073, Новосибирск, пр. Карла Маркса, 20), тел. (383) 346-06-00, e-mail: petr-filonenko@mail.ru.

Постовалов Сергей Николаевич

д.т.н., доцент кафедры теоретической и прикладной информатики НГТУ (630073, Новосибирск, пр. Карла Маркса, 20), тел. (383) 346-06-00, e-mail: postovalov@ngs.ru.

The Student and Cramer-Welch tests for two-sample problem testing with lifetime data P. Philonenko, S. Postovalov

The parametric Student test and the nonparametric Cramer-Welch test for two-sample problem of means equality are considered. These tests can be applied for two-sample problem testing. We propose statistics of the tests for the lifetime data case. We present that the distributions of the test statistic look forward to the limit distributions while sample sizes increase. Moreover, the results of the test power simulation are presented in this paper using the Monte-Carlo method. The alternative hypotheses of the test power simulation contain alternative hypotheses that breach of a priory conditions of the data normality.

Keywords: two-sample problem, Student test, Cramer-Welch test, lifetime data, parametric test, nonparametric, test power, test statistic distribution, Monte-Carlo method.