ВСПОМОГАТЕЛЬНЫЕ ТАБЛИЦЫ ДЛЯ ВЫЧИСЛЕНИЯ ДОВЕРИТЕЛЬНЫХ ГРАНИЦ СРЕДНЕЙ АРИФМЕТИЧЕСКОЙ ВЕЛИЧИНЫ ПРИ МАЛОМ ЧИСЛЕ НАБЛЮДЕНИЙ Текст научной статьи по специальности «Математика»

ровывают и промывают горячим раствором NH4C1 (10 мл NH4OH и 10 мг NH4CI в 1 л). 3-й этап — к раствору добавляют 1 мл раствора FeCl3 (5 мг Fe) и 5 мл бромной воды, нагревают 10—15 мин., не доводя до кипения, и осадок отфильтровывают. 4-й этап — к раствору снова добавляют 1 мл раствора FeCl3 (5 мг) и аммиак, не содержащий С02. Осадок отфильтровывают. 5-й этап — раствор нагревают, добавляют насыщенный раствор (NH4)2C03 до полноты осаждения. 6-й этап — осадок фильтруют, промывают водой и растворяют в 6 N HCl. Раствор переносят в 50 мл мерную колбу, доводят до метки и хорошо перемешивают. Отбирают 1 мл раствора, разбавляют до 50 мл водой, хорошо перемешивают и оставляют для определения химического выхода носителя. 7-й этап — вводят носитель Y (10 мг). 8-й этап — оставшийся раствор оставляют для накопления Y90. И, наконец, 9-й этап — через 12 дней выделяют иттрий обычным методом (Ф. И. Павлоцкая и соавторы).

Описываемая методика применима к образцам, в которых отсутствуют «свежие» продукты деления, т. е. через 4 и более месяцев после отбора проб или после испытания ядерного оружия.

ЛИТЕРАТУРА

Павлоцкая Ф. И., Федосеев Г. А., Бабичева Е. В. и др. Почвоведение, 1964, № 2, с. 105. — Лавру хина А. К., Малышева Т. В., Павлоцкая Ф. И. Радиохимический анализ. М., 1963, с. 162. — Сборник радиохимических и дозиметрических методик. М., 1959, с. 45. — Шведов В. П., Широкова С. И. (ред.) Радиохимические загрязнения внешней среды. М., 1962, с. 50. — В г а у a n t F. I., С h a m-b е г 1 a i п А. С., М о г g a n А. е t а 1., Nucí. Energy, 1957, v. 6, p. 22.

Поступила 18/VI 1965 г.

УДК 613/614:519.24

ВСПОМОГАТЕЛЬНЫЕ ТАБЛИЦЫ ДЛЯ ВЫЧИСЛЕНИЯ ДОВЕРИТЕЛЬНЫХ ГРАНИЦ СРЕДНЕЙ АРИФМЕТИЧЕСКОЙ ВЕЛИЧИНЫ ПРИ МАЛОМ ЧИСЛЕ НАБЛЮДЕНИЙ

Канд. мед. наук Д. Д. Войтехов Московский научно-исследовательский институт гигиены им. Ф. Ф. Эрисмана

Обработка данных гигиенических (и не только гигиенических) исследований включает, как правило, элементы статистического анализа полученных результатов (вычисление средних показателей, установление статистической достоверности разности между показателями и т. д.). Зачастую, особенно в условиях эксперимента, подобные расчеты базируются на малом числе наблюдений. Вычисления, которые приходится производить, требуют иногда затраты значительного времени. Это относится и к установлению доверительных границ средней величины, определяемых при малом числе наблюдений (¿/пм).

Для решения вопроса статистической достоверности средней величины (М), вычисленной при малом числе наблюдений (до 20), используют формулу средней ее ошибки (т м) :

V п

где а — среднее квадратическое отклонение ; п — число наблюдений; Ь — число, показывающее, во сколько раз требуется увеличить среднюю ошибку средней величины (ты), чтобы получить статистически досто-

верные пределы колебаний средней арифметической величины (значение t находится по специальной таблице Стьюдента, причем оно зависит от числа наблюдений и желаемой степени вероятности): ¿тм — величина, определяющая границы колебаний полученной средней при данной степени вероятности (так называемые доверительные границы средней).

В свою очередь величина ст определяется по формуле:

ст=

У л — 1

где Е — знак суммирования; й2— отклонение каждой варианты (У) от средней арифметической величины (М), возведенное в квадрат; п — число наблюдений.

Таким образом, для того чтобы вычислить значение tmм, производят немало расчетов, что при значительном числе обрабатываемых вариационных рядов требует большого времени.

Между тем время вычисления величины tmн можно несколько сократить, если воспользоваться одной из приводимых ниже модификаций формулы значения ¿тм.

Модификация 1, с вычислением величины а. а

Формула '"1м = может быть представлена в следующем

виде:

/тм=ст X —, V п

г

где у-г при определенном значении п и желаемой степени вероятности— величина постоянная. Обозначим ее со„ . Таким образом, формула определения доверительных границ средней величины будет представлена в следующем виде:

= а X «>-.

Для вычисления tmм следует сначала определить величину ст (по приведенной выше формуле), а затем полученный результат умножить на соответствующую величину м-, которая находится по таблице значений со - (см. табл. 1).

Модификация 2, без вычисления ст. Формула доверительных границ средней величины

X t

V п

может быть преобразована следующим образом: 1. В формулу подставляют значение о

Г Е IР / Е й-

1/ га—1 У га —1

' \/ ^ тт., _ '

xt

<тм=-—-=—X* или /тм

УТ м Уп

2. Обе части уравнения возводят в квадрат:

1 хЛ2

и получают: Рт2 = " ~~1-

I ]

\

Таблица 1

Значения core

\ р п 0.9 0,95 0,98 0,99 0,999

2 4,475 9,014 22,567 45,149 451,503

3 1,688 2,485 4,029 5,740 18,266

4 1,175 1,590 2,270 2,920 6,470

5 0,951 1,241 1,674 2,053 3,844

6 0,824 1,049 1,375 1,645 2,800

7 0,732 0,924 1,185 1,396 2,249

8 0,671 0,837 1,060 1,237 1,908

9 0,620 0,767 0,967 1,120 1,680

10 0,579 0,715 0,892 1,028 1,513

11 0,545 0,672 0,837 0,955 1,382 ~

12 0,520 0,636 0,786 0,899 1,298-

13 0,493 0,604 0,742 0,848 1,197

14 0,474 0,577 0,708 0,805 1,128

15 0,455 0,553 0,677 0,770 1,070

16 0,437 0,532 0,650 0,737 1,017

17 0,425 0,515 0,626 0,709 0,976

18 0,410 0,498 0,606 0,684 0,936

19 0,397 0,482 0,585 0,660 0,899

20 0,387 0,468 0,568 0,640 0,868

21 0.375 0,456 0,552 0,622 0,841

П р и_м ечание. Р — желаемая степень вероятности (90, 95, 98, 99 и 99,9%); п—число наблюдений. Искомую величину со^ находят в месте пересечения заданных величин.

3. В правой части уравнения производят элементарные преобразования:

Е & Е х

—^-X I- —-

п — 1 п — 1 Е & х Я с .о „, Р

или Е й2 X -=т=-

--- --- -,--Г^ ruin 1_> Ll _ __— .

п п П \П - 1 ) пуп - 1 )

Таким образом:

Г-т2м= Е d2 X ■

п(п— 1)

4. Из обеих частей уравнения извлекают квадратный корень:

d2 х w=T) и "олУчают у Еd2.x ^¿уу .

5. Если множитель под корнем ( {ч ) обозначить со-^ , то формула

определения доверительных границ средней величины примет следующий вид:

¿ты = ]/Е ¿-Х^ •

Значение со- находят в табл. 2 в зависимости от числа наблюдений (п) и желаемой степени вероятности (Р). 72

Значения со

Таблица 2

р п N. 0,9 0.95 0,98 0,99 0.999

2 19,910 80,770 506,255 2026,300 202642,510

3 1,420 3,082 8,097 16,433 166,433

4 0,460 0,842 1,717 2,842 13,953

5 0,227 0,386 0,703 1,058 3,706

6 0,136 0,220 0,379 0,541 1,569

7 0,089 0,143 0,235 0,326 0,846

8 0,064 0,100 0,161 0,219 0,521

9 0,048 0,073 0,117 0,157 0,353

10 0,037 0,057 0,088 0,117 0,254

11 0,030 0,045 0,070 0,091 0,191

12 0,024 0,037 0,056 0,073 0,153

13 0,020 0,030 0.046 0,060 0,120

14 0,017 0,026 0,039 0,050 0,098

15 0,015 0,022 0,033 0,042 0,082

16 0,013 0,019 0,028 0,036 0,069

17 0,011 0,016 0,024 0,031 0,059

18 0,010 0,014 0,022 0,027 0,051

19 0,009 0,013 0,019 0,024 0,045

20 0,008 0,011 0,017 0,021 0,040

21 0,007 0,010 0,015 0,019 0,035

Примечание. Р—желаемая степень вероятности (90, 95, 98, 99 и

99,9%); я—число наблюдений. Искомую величину со- находят в месте пега

ресечения заданных величин.

Таким образом, для того чтобы определить доверительные границы средней величины при малом числе наблюдений (/тм), следует извлечь квадратный корень из произведения суммы квадратов отклонений каждой варианты от средней арифметической величины (Не?2) на значение со^ . определяемое по таблице.

Ниже приводятся примеры расчетов при определении 1ты обычным способом и соответственно двумя изложенными модификациями.

Обычный способ определения величины /тм. 1) Находят сумму Вариационный ряд вариант(Е V): Е V=231; 2) вычисляют среднюю арифметическую

ЕУ 231

величину (М): М=г=- -=- = 33; 3) находят отклонение каж-п '

дой варианты (V) от средней (М)—с!; 4) каждое отклонение возводят в квадрат — ¿-; 5) определяют сумму квадратов от-

V 4 &

35 + 2 4

38 +5 25

39 —4 16

35 +2 4

30 —3 9

29 —4 16

35 +2 4

клонений—Е^-; 6) определяют а: а= ■

п — 1

Г~ у^ ___(У

— V/ 7_1=1^13= ±3,61; 7) определяют ти: ти= у=.

м = 33 л = 7 Е^-=78 ±3>61 ±3>61

= 2 65 =± 1,36; 8) определяют /тм (значение t

отыскивается в таблице Стьюдента). При 95%вероятности /тм= ± 1,36x2,45 = ± 3,3.

73

Модификация 1- 1) Находят сумму вариант (Е V): ЕУ = 231;2) вычисляют сред-

Е V 231

нюю арифметическую величину (М): М=-=г =-у-=33; 3) находят отклонение каждой

п '

варианты (V) от средней (М) — <1\ 4) каждое отклонение возводят в квадрат — сР; 5) оп-

ределяют сумму квадратов отклонений — Е Л-\ 6) определяют а: а=± -» / —- =

У п — \

± Л/ —— ±|^13=± 3,61; 7) определяют (значение со— отыскивают в табл. 1— У 7 — 1 у п

при 95% вероятности : (о-=0,924):

Шы = о X ш- = ± 3,61 X 0,924 = ± 3,3.

п

Модификация 2. 1) Находят сумму вариант (Е V): Е V = 231; 2) вычисляют среднюю

Е V 231

арифметическую величину (М): М = —=■ =-=- = 33; 3) находят отклонение каждой

п '

варианты (V) от средней (М)—<1; 4) каждое отклонение возводят в квадрат — Л-\ 5) определяют сумму квадратов отклонений — Е Л-\ 6) определяют Ши (значение со!_

1 ____ п

отыскивают в табл. 2 —при 95% вероятности со- 0,143): Л/ Е£*3Хо>1- =

п г п

= ±К78 X 0,143 = + КГТТ2=± 3,3.

Поступила 29/VII 1965 г.