Научная статья на тему 'СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНКИ РЕЗУЛЬТАТОВ САНИТАРНО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЙ'

СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНКИ РЕЗУЛЬТАТОВ САНИТАРНО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЙ Текст научной статьи по специальности «Ветеринарные науки»

CC BY
28
16
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Гигиена и санитария
Scopus
ВАК
CAS
RSCI
PubMed
Область наук
i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по ветеринарным наукам , автор научной работы — Г.Н. Красовский, Л.Я. Гусева

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНКИ РЕЗУЛЬТАТОВ САНИТАРНО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЙ»

гическом исследовании объектов внешней среды следующую двух-этапную методику. В малых чашках Петри стерилизовали ватные или марлевые шарики. Перед производством смыва в чашку Петри со стерильными шариками заливали из флакона стерильный физиологический раствор. Если смыв производился с обработанной хлорными дезинфицирующими препаратами поверхности, вместо физиологического раствора мы применяли для смачивания шариков 1—5% стерильный раствор гипосульфита натрия.

Профломбированным пинцетом из чашки Петри брали увлажненный ватный шарик и производили смыв, после чего шарик опускали в пробирку с 5 мл разведенной среды Эйкмана; пробирки помещали в термостат при 43°. Через 18—20 часов из всех пробирок большой петлей производили пересев на среду РДА в пробирках. После 18—20 часов термостатной выдержки при 37° учитывали результаты посевов на среде РДА.

Положительным мы считали исследование, при котором на поверхности РДА вырастали изолированные желтые колонии или в виде желтого штриха. Косячок и столбик РДА окрашивали в желтый цвет с разрывами среды. При выделении паракишечной палочки на скошенной поверхности РДА вырастали серые колонии, а цвет среды в скошенной части не изменялся или приобретал малиновый оттенок. В столбике РДА — среда желтого цвета с разрывами, в конденсационной воде отмечались пузырьки газа. Для подтверждения положительного ответа производили бактериоскопию с окраской препаратов по Граму.

Результаты санитарно-бактериологических исследований объектов внешней среды методом смывов с применением РДА по годам представлены в таблице.

Выводы

1. Двухэтапная методика санитарно-бактериологического исследования объектов внешней среды дает не менее точные результаты, чем трехэтапная, но она более проста и удобна.

2. При санитарно-бактериологическом исследовании объектов внешней среды методом смывов с применением РДА производство анализа сокращается на сутки, экономятся среды и посуда.

3. С применением РДА, подавляющего рост грамположительной сапрофитной флоры, среду Кесслера можно заменить разведенной в соотношении 1:10 средой Эйкмана.

4. Двухэтапная методика с применением РДА может быть рекомендована для работы практических бактериологических лабораторий при санитарно-бактериологических обследованиях объектов внешней среды.

Поступила 5/1II 1962 г

Ъ iz Ъ

ь

СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНКИ РЕЗУЛЬТАТОВ САНИТАРНО ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЙ

Кандидат медицинских наук Г. Н. Красовский, врач Л. Я. Гусева

Из кафедры коммунальной гигиены I Московского ордена Ленина медицинского

института имени И. М. Сеченова

В любом санитарно-гигиеническом исследовании возникает необходимость оценки действия какого-либо фактора внешней среды на организм. Объективно дать эту оценку позволяют методы математической статистики.

4*

51

При статистической обработке результатов любого исследования, в частности санитарно-токсикологического эксперимента, чаще всего возникает необходимость определения различий результатов исследований как по количественным, так и по качественным показателям. Для выявления достоверности этого различия могут быть использованы тест / Стьюдента, дисперсионный анализ, критерий х2 Пирсона.

При использовании этих методов мы сначала принимаем положение об отсутствии действия изучаемого фактора (нулевая гипотеза). Если вероятность этого положения будет очень мала, то по принципу практической неосуществимости маловероятных событий нулевая гипотеза может быть отвергнута и действие изучаемого фактора следует считать доказанным.

В биологических работах общепринято считать, что нулевая гипотеза может быть отвергнута при вероятности Р<0,05. Другими словами, в этом случае действие изучаемого фактора справедливо в 95 случаях из 100.

При оценке достоверности различия количественных показателей применяют тест При использовании этого метода необходимо вычислить следующие статистические параметры: среднюю арифмети-

ческую — х и среднюю или стандартную ошибку средней арифметической— т. Способы определения этих параметров при большом числе наблюдений излагаются во всех руководствах по санитарной статистике.

В своих исследованиях мы чаще всего имеем дело с небольшим (меньше 30) числом наблюдений, поэтому более подробно остановимся на методах вычисления статистических параметров именно при небольшом числе наблюдений. \

0

; = — , (1) п

где г —знак суммы, х — варианты, п — число наблюдений.

а f е(*-*)2 , = ! / £ (*-*)*

т=7Г = |/ : У п у '

(2)

Так как вычисление величины в (х — х)2 представляет известную трудность, для упрощения расчета, особенно при наличии арифмометра, можно использовать следующие формулы:

- /(V ) ■ ^

т= |/ (- -*2 ) • —г (3)

ИЛИ

(£Х)2

т= | / | £ х2— -

п

п(п-1)

1

(4)

При вычислении т предпочтение должно быть отдано формуле (4), по которой достаточно проводить вычисления с точностью до первого знака. Аналогичная величина т по формуле (3) может быть получена лишь при увеличении точности вычисления до 4—5-го знака.

При проведении расчетов величины т следует выписать значение

е л

(Х-*)* = е х* - (—) (5)

т2 (до извлечения корня). Эти величины нам необходимы для последующего вычисления

Вычисление этих статистических параметров может быть еще более упрощено применением метода «смещения начала отсчета».

IV

х =а-\-

п

т

п- - ^

1

г (х— л:)2 = е*/2-

п (я—1)

(ву)2

(В)

(7)

(8)

где и = х — а, т. е. отклонение варианта от условно взятой за начало отсчета величины а. «Смещение начала отсчета» в малых выборках есть не что иное, как метод условных моментов, применяющийся при большом числе наблюдений.

Для оценки достоверности различия между двумя средними необходимо вычислить величину

При числе степеней свободы

/=Щ+/Ц—2 (9)

(число степеней свободы в некоторых руководствах обозначают буквами к и п') более 30

_ Х\-

V гп\+т\

(10)

Если / менее 30, то

Хх—Х<1

у г (*!—*х)

2+е(*2—х2)2 п\+пг

(11)

пх-\-п2—2

Пу • П-2

Далее по таблице Стьюдента определяем, какому уровню вероятности (р) при данном числе степеней свободы соответствует вычисленное значение I.

Пример. При изучении содержания радиофосфора в сердце белых крыс, получавших черемховскую смолу в дозе 100 мг/кгу были получены следующие данные.

X V V«

69 9 • 81

62 2 4

44 — 16 256

39 —21 441

59 —1 1

80 20 400

52 —8 64

76 16 256

53 —7 49

п=9 IV = —6 £=1'21552

(е^)2=36

За начало отсчета приняли 60; т. е. а=60;

*=60+

—6

= 59,3 (6);

т

-VI

1552-

-36

)

1

9(9-1)

]/21,5=±4,б (7);

г(х—аг)2= 1552— -т2=21,5

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

36

= 1548.

(8)

В контрольной группе, состоящей из 10 животных, путем аналогичных вычислений были получены следующие статистические параметры:

¿=73,4; т=±3,5; е (х—~х)*= 1072,4; т2= 11,9.

Для определения достоверности различия между содержанием радиофосфора в сердце подопытных и контрольных животных вычислим величину I.

Поскольку / = 9+10—2=17 (9), / находим по формуле (11), при этом используем выписанные при вычислении т значения е (х— х)2.

73,4 — 59,3 14,1

1 =---— = -- = 2,47.

|/1072,4 + 1548 10 + 9 5'7

' 10 + 9 — 2 10-9

Если / более 30, / находим по формуле (10) и используем выписанные при вычислении т значения т2.

По таблице Стьюдента находим, какому уровню вероятности соответствует вычисленное значение / = 2,47 при числе степени свободы МП, р<0,05.

Таким образом, различие между содержанием радиофосфора в сердце животных, получавших черемховскую смолу, и животных контрольной группы можно считать неслучайным, статистически достовер ным, существенным.

В случаях связанных данных, в частности при сравнении результатов наблюдений, проведенных в динамике на одной и той же группе животных, величину t определяют по формуле

} п(п—\) 'I п I п(п—\)

(12)

где хх\ ¿=- • (13)

п

Пример. При изучении биоэлектрической активности головного мозга морских свинок определяли, в частности, количество высокочастотных волн в одну секунду (|3-ритм) до введения токсической дозы гексахло-рида и через 2 часа после введения. Получены следующие данные.

хг *г (1 ' £11

28 34 +6 36

29 37 +8 64

33 34 + 1 1

42 42 0 0

38 43 +5 25

—количество (}-волн до введения гексахлорида;

*

х2—количество (5-волн после введения токсической дозь. гексахлорида;

20

п—5 £//=20 е</2=126 (ел02=400 - =4 (13);

V

5/ 5(5—1)

По таблице Стьюдента находим, что вычисленному значению / = 2,67 при числе степеней свободы / = 4 соответствует вероятность р>0,05 Следовательно, на основании имеющихся данных еще нельзя сделать заключения об изменении количества р-волн в одну секунду на электроэнцефалограммах морских свинок под действием токсических доз гексахлорида.

Попарно сравнивая с помощью теста / результаты исследований, представленных в виде средних величин, можно выяснить и степень различия между всеми изучаемыми явлениями.

Одновременное изучение действия различных факторов можно провести с помощью дисперсионного анализа, разработанного Р. А. Фишером. В данной статье мы не имеем возможности подробно остановиться на этом методе.

В том случае, когда нужно оценить достоверность различия по качественным показателям при альтернативном варьировании признака, результаты исследования выражают в относительных величинах (обычно в процентах к общему числу исследуемых объектов или индивидуумов). При этом не рекомендуется смешивать их с данными, представляющими количественные показатели в процентах, например: 60% альбуминов по отношению к общему содержанию белковых фракций в сыворотке крови; 3% эозинофилов по отношению к общему числу лейкоцитов. Эти данные следует рассматривать как отдельные варианты и обрабатывать приведенными выше методами оценки различий количественных показателей. Методы оценки качественных показателей, выраженных в процентах, приводятся ниже.

Среднюю ошибку относительной величины при числе наблюдений более 30 определяют по формуле:

т

^у Р(т-Р) , (14)

п

где Р — процент наличия признака. При числе наблюдений менее 30

• I

т==у Р(ЮО-Р) . (15)

п—1

При Р^ЮО или Р^О применяют формулу ван дер Вардена

т

/а (1—а) /1СЧ Р+1

—-—L 06>. гдеа=ГГ^

л+З

Достоверность различия между двумя относительными величинами определяют с помощью теста I.

;= Р}~~Р* . • (17)

I + т 2

Далее по таблице Стьюдента находят, какому уровню вероятности Р при данном числе степеней свободы ¡=п]-\-п2 = 2 соответствует вычисленное значение

#

Пример. При изучении антитоксического действия кальция при отравлении фтором были получены следующие результаты.

Из 31 белой мыши, получавшей хлористый кальций, погибло 17 (550/0). Из 35 контрольных животных погибло 25 (71%). Проверим, можно ли считать статистически достоверным уменьшение процента гибели животных, получавших хлористый кальций.

7'-55 -1.8 (П)

1

/71-29 55-45 \

/ - I -

35 31 *

/=/1,4^2—2=35+31—2=64; Р>0,1.

♦ •

Таким образом, эти данные не позволяют сделать вывод о положительном влиянии хлористого кальция на выживаемость экспериментальных животных, получавших токсические дозы фтора.

Для оценки достоверности различия сразу нескольких относительных величин нужно вычислить критерий х2 Пирсона.

*»=« +е + ....+ {Хп~УпУ (18)

У\ Уг Уп

Пример. При изучении двигательной реакции у 5 белых крыс, получавших черемховскую смолу в дозе 100 мг/кг, под действием сильного звукового раздражителя были получены следующие результаты.

х — количество наблюдений с той или иной степенью двигательной реакции в абсолютных числах; у — «ожидаемое» количество наблюдений для соответствующей степени двигательной реакции;

Всего наблюдений Двигательная реакция

отсут-ство-вала слабая заметная сильная

Фон • . . . . 63 15 30 8 10

Черемховская

смола 100 .

/И?/К2 • . . . 99 50 13 18 18

Уп=п■ - (19);У1=п. —5- =63.

вп

ел

65 162

=25 и т. д.;

х*=6,5+16,44+0,654-0,16=23,74; (18)

/=(с-1) (г—1), - (20)

где с—количество изучаемых признаков (в данном случае степень двигательной реакции); г — число групп;

/= (4-1) (2—1 )=3х 1=3. (20)

По таблице вероятностей для критерия х2 находим, какому уровню вероятности соответствует вычисленное значение х2 = 23,74 при числе степеней свободы / = 3, р<0,01.

При аналогичной обработке данных контрольной группы р>0,2.

Следовательно, можно сделать вывод, что черемховская смола в дозе 100 мг/кг оказывает весьма существенное влияние на степень двигательной реакции белых крыс, подвергавшихся воздействию сильного звукового раздражителя.

■Необходимо отметить, что использование метода х2 возможно тогда, когда ни одно из «ожиданий» у не будет меньше 5. Для большей надежности наших заключений при небольшом числе наблюдений необходимо уменьшить абсолютную величину (х—у) на 0,5 (поправка Иэтса).

В заключение нужно отметить, что рассмотренные методы определения достоверности различия сравниваемых показателей дают возможность выявить объективно существующие закономерности и дать количественную оценку достоверности наших заключений по материалам исследований.

Однако, если с помощью этих методов нам не удалось доказать существенность действия исследуемого фактора, это не значит, что данный фактор не оказал бы действия при увеличении числа наблюдений,

Вычислим для оценки полученных данных величину х2

Двигательная реакция

п отсутствовала слабая заметная сильная

XI (Х,-У,)» Хг (х,-у2)' • х8 (Х,-У,)! Х4 (Х4-У,)«

• у» У1 У* У* Уз Уз У4 Уа

Фон........ 63 15 25 • • 4,00 30 17 9,94 8 10 0,40 . • 10 И 0,09

Черемховская смола 100 жг/кг . . . 99 50 40 2,50 13 26 6,50 18 16 0,25 18 17 0,06 •

• ИТОГО. . . еп= 162 ЕХх=65 • (Хг—У1)2 е ■ — =6У50 ехг=43 (Х2—У2)2 £ ---- - У 2 = 16,44 £Х3=26 • Г(Х3—Уз)2 е — ч =0,65 £Х4=28 (х4—У4)2 е - ■■ _ У4 =0,15 •

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Статистические методы обработки полученых результатов дают необходимую информацию для последующего проведения анализа. Однако при проведении этого анализа математическая статистика является лишь вспомогательным инструментом в руках исследователя. Понимание существа изучаемых процессов не только является решающим условием для уместного использования того или иного статистического. метода, но и необходимо для правильной оценки полученной информации.

ЛИТЕРАТУРА

Беленький М. Л. Элементы количественной оценки фармакологического эффек та. Рига, 1959. — Бессмертный Б. С., Ткачева М. Н. Статистические методы в эпидемиологии. М., 1961. — Боярский А. Я. Статистические методы в экспериментальных медицинских исследованиях. М., 1955.—В а н дер Варден Б. Л. Матема тическая статистика. М., 1960. — К а м и н с к и й Л. С. Обработка клинических и лабо раторных данных. Л., 1959. — М е р к о в А. М. Общая теория и методика санитарно статистического исследования. М., 1960. — Н а л и м о в В. В. Применение математической статистики при анализе вещества. М., 1960—П о м о р с к и й Ю. Л. Методы статистического анализа экспериментальных данных. Л., 1940.— Фишер Р. А. Статистические методы для исследователей. М., 1958. — Хилл А.. Бредфорд. Основы медицинской статистики. М., 1958.

Поступила 16/11 1962 г

* * *

i Надоели баннеры? Вы всегда можете отключить рекламу.