Научная статья на тему 'СТАТИСТИЧЕСКИЙ АНАЛИЗ И НОРМАЛЬНОСТЬ РАСПРЕДЕЛЕНИЯ ВЫБОРОК В ТОКСИКОЛОГО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ'

СТАТИСТИЧЕСКИЙ АНАЛИЗ И НОРМАЛЬНОСТЬ РАСПРЕДЕЛЕНИЯ ВЫБОРОК В ТОКСИКОЛОГО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ Текст научной статьи по специальности «Фундаментальная медицина»

CC BY
16
4
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Гигиена и санитария
Scopus
ВАК
CAS
RSCI
PubMed
i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по фундаментальной медицине , автор научной работы — В.К. Шитиков, В.Н. Тихонов, С.Т. Быков, А.Ф. Ковалев

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «СТАТИСТИЧЕСКИЙ АНАЛИЗ И НОРМАЛЬНОСТЬ РАСПРЕДЕЛЕНИЯ ВЫБОРОК В ТОКСИКОЛОГО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ»

серии растворов-свидетелей (полуколичественный метод, точность 14—16 %).

Полнота определения анилина в воде 91,6± ±2,1 % в 0,3% молочной кислоте 72,5±2,2 %, в 2 % лимонной кислоте 82,5±1,5 %, в 3 % молочной кислоте 66±3,1 %, в 2 % уксусной кислоте с 2% соляной 86,4±2,8%, в спиртово-водной среде 62,1 ±2,2% , в молоке 64,5±3,6%.

Предложенная методика позволяет избирательно определять анилин в присутствии ряда низкомолекулярных органических веществ, выделяющихся из резин: ДФГ, перекиси дикумила, различных стабилизирующих добавок, продуктов их превращения и других веществ.

Описанным методом исследован ряд вулканизированных с ДФГ резин, предназначенных для пищевой промышленности, изготовления обуви и быта. Полученные результаты использовали при решении вопроса о возможности применения исследуемых резин по назначению.

Литература

1. Вредные вещества в промышленности. Л., 1976, т. 2, с. 246—252.

2. Заворовская И. А., Нехорошева Е. Р.— Жури, аналит. химии, 1981, т. 36, № 9, с. 1808—1812.

3. Казаринова Н. Ф., ЛеОовских Н. Г. — Каучук и резина, 1978, № 1, с. 26—28.

4. Кирхнер Ю. Тонкослойная хроматография. М., 1981, т. 1, с. 347—350; 275.

5. Леонова Г. С. — В кн.: Методы анализа и контроля производства в химической промышленности. М., 1977, вып. 7, с. 12—14.

6. Цеханская С. В., Семина Г. И., Юдина И. П. и др.— В кн.: Теория и практика газохроматографического анализа. М., 1977, с. 46—51.

7. Dumont J. N.. Schultz W. Т.. Jones R. D. — Bull. Envi-ronm. Contam. Toxicol., 1979, v. 22, p. 159—166.

8. Ellaithy M. M., El-Tarras M. F„ El-КШееЬ S. Z. — Chem. Biomed. Environm. Instrum., 1983, v. 12, p. 319—325. (РЖХим., 1983, 22Г 143).

9. Norwitz G.. Keliher P. N. — Talanta, 1982, v. 29, p 407— 409

10. Schultz F.. Wayne AT.— Bull. Environm. Contam. Toxicol, 1979, v. 23, p. 814—819.

Поступила 11.06.84

УДК 615.9.015.4.07

В. К. Шитиков, В. Н. Тихонов, С. Т. Быков, А. Ф. Ковалев

СТАТИСТИЧЕСКИЙ АНАЛИЗ И НОРМАЛЬНОСТЬ РАСПРЕДЕЛЕНИЯ ВЫБОРОК В ТОКСИКОЛОГО-ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ

Рубежанский филиал НИИ органических полупродуктов и красителей

Статистическая достоверность сдвигов изучаемых показателей подопытных животных сравниваемых групп оценивается в медико-биологической практике, как правило, с использованием параметрического критерия Стьюдента. С. Weil [3] на довольно ограниченных выборках изучил распределение 7 гематологических и клинико-хими-ческих показателей и в большинстве случаев выявил серьезное отклонение закона распределения экспериментальных данных от нормального, что дало ему основание отдать предпочтение методам непараметрического анализа. Следует, однако, принять во внимание определенный субъективизм в оценке вероятности статистических гипотез по численным значениям непараметрических критериев и их меньшую чувствительность по сравнению с /-критерием Стьюдента. Поэтому эффективной мерой повышения обоснованности использования этого критерия является, по нашему мнению, приближение распределения экспериментально полученных выборок к нормальному путем функционального преобразования исходных данных. Техника такого преобразования описана, например, Д. Тьюки [2].

Выполнен двухэтапный эксперимент: анализ нормальности распределения исходных и преобразованных выборок и изучение сдвига ¿-критерия после преобразования.

На первом этапе с использованием расчетов на ЭВМ проведен анализ нормальности распределения 62 биологических показателей (биохимические и физиологические тесты, показатели работоспособности, масса внутренних органов и др.) на выборках, состоящих из нескольких десятков измерений (максимальная выборка 439 реализаций). Выборки были сформированы из животных контрольных групп, не подвергавшихся воздействию, а также по результатам проведенного в последние годы эксперимента токсиколопщсской лаборатории филиала НИИ органических полупродуктов и красителей. Нормальность распределения, как и в работе С. Weil [31, оценивалась по ^.-критерию Колмогорова — Смирнова [1], а также по величине асимметрии а и эксцесса е. Вычисления показали, что из всех 62 анализируемых показателей для 18 (29 %) параметров статистическая значимость гипотезы о нормальности распределения не превышает 0,05. Те же исходные данные предварительно подвергались серии преобразований X±2, х±3, х~\ х*0'5, х±0'33, In (х), еКх. Для каждой из двух выборок также были вычислены значения X а и е. Было показано, что для 54 из 62 показателей та или иная форма преобразования несколько улучшает нормальность распределения, причем по 12 параметрам гипотеза о нормальности выборок после их трансформации становится достоверной (табл. 1).

Таблица I

Асимметрия (а), эксцесс (е), критерий Колмогорова — Смирнова (X) и вероятность нормального распределения (Я) натуральных и преобразованных выборок биологических показателей

Показатель Объем выборки Вид функции а t X Р

Масса сердца 99 X 1,31 1,03 2,32 0,00005

X"» 0,46 0,69 0,679 0,744

Масса легких 99 X 1,44 2,21 1.8 0,0031

Х-°.» 0,037 —0,402 0,463 0,984

Масса селезенки 99 X 2,23 5,09 2,31 0,00005

1/х —0.062 0,57 0,765 0,61

Норковый 115 X 0,821 0,24 1,447 0,03

рефлекс хо,зз —0.126 0,149 0,507 0,964

Белок в моче 183 X 4,05 26,64 1,755 0,0042

X«.' 1,36 5,82 0,696 0,72

Креатинин 189 X 1,32 1,55 2,55 0,00001

в моче хо,зз 0,17 0,12 0,738 0,644

К-МНА в моче 190 X 1,3 2,02 2,16 0,00018

In (X) —0,15 —0,36 0,262 0,999

Хлориды в моче 179 X 4,87 43,2 1,408 0,038

хо,зз 0.93 6,5 0,494 0,96

Суточное коли- 189 X 1,27 2,94 1,832 0,0025

чество мочи хо,зз 0,065 —0,28 0,474 0,977

Метгемоглобин 44 X 0,995 0,3 1,44 0,032

хо,зз 0,284 —0,09 0,626 0,827

Сульфогемогло- 44 X 1,815 2,2 2,25 0.00008

бин In (X) —0,44 —0,45 0,453 0,984

На втором этапе по 8 биологическим показателям, закон распределения которых в исходном состоянии наиболее контрастно отличался от нормального, изучено изменение /-критерия после нормализации выборок путем функционального преобразования. По результатам эксперимента отобрано 120 выборок, состоящих из 6—12 реали-

Таблица 2

Распределение по диапазонам разностей значений критерия Стьюдента, вычисленных по экспериментальным данным Скат) и преобразованным выборкам (/пР) биологических показателей

Диапазон разности (<цпт — 'пр)

Показатель ш ■No о о 1 1 SS ■о оо 1 о" Sä с* о 1 ю о о сч 0 2 1 е Я и m

Креатинин в моче 1Ч-МНА в моче Суточное количество мочи Белок в моче Метгемоглобин СульфогемоглоСни Хлориды в моче Норковый рефлекс 1/6.25 2/12.5 3/18.8 2/12.5 2/66.7 1/33.3 0.0 1/12.5 6/37.5 7/43.8 3/18.8 5/31.2 0/0 0/0 2/12.5 1/12,5 3/18.8 3/18.8 5/31.2 2/12.5 0/0 0/0 8/50 1/12.5 2/12.5 4/25 2/12.5 2/12.5 0/0 1/33.3 4/25 4/50 4/25 0/0.0 3/18.8 5/31.2 1/33.3 1/33.3 2/12.5 1/12.5 16/100 16/100 I6/1C0 16/100 3/100 3/100 16/100 8/100

Итого . . . 12/12.8 24/25.6 22/23.4 19/20,1 17/18.1 94/100

Примечание. Числитель —число сравниваемых пар (I 'пр) ' знаменатель —доля (в процентах).

Таблица 3#

Статистическая оценка сдвига показателя (креатинин в моче) до и после функционального преобразования

М±т

Вид выборки опыт контроль <-кри-терий Р

Натуральная Преобразованная 22,1 ±1,68 2,76±0,068 33,2±4,68 3,1±0,17 2,4 2,0 0,026 0,060

заций, причем 94 выборки были сформированы по группам животных, подвергавшихся внутри-желудочной затравке органическими веществами, а остальные выборки были контрольными. Сравнивали попарно анализируемые показатели, полученные в опытных и контроле, с использованием /-критерия. Те же исходные данные были преобразованы по функциональному закону, выбранному на первом этапе эксперимента и обеспечивающему наибольшее приближение распределения к нормальному. Преобразованные выборки также сравнивали попарно в опытных и контрольных группах с использованием /-крите- ^ рия.

Анализ сдвигов критерия Стьюдента до и после функционального преобразования показал его относительную устойчивость к нормальности распределения выборок. В 69 % случаев разность значений этого показателя, вычисленных по натуральным и преобразованным выборкам, по модулю не превышала 0,2 (табл. 2). Наибольший дрейф вероятности нулевой гипотезы произошел, например, при оценке содержания креатинина в моче в опыте с затравкой кубогеном красным (табл. 3).

Направленность возможного сдвига /-критерия в общем случае непредсказуема. Например, анализ содержания N-MHA в моче по исходным выборкам имеет тенденцию к гиподиагностике, а концентрация хлоридов — к гипердиагностике.

Выводы. 1. В большинстве случаев при анализе медико-биологических показателей параметрический /-критерий Стьюдента относительно ус- & тойчив к характеру распределения сравниваемых выборок.

2. Для повышения обоснованности /-критерия рекомендуется проводить функциональное преобразование экспериментально полученных выборок с целью приближения их распределения к нормальному.

Литература

1. Гублер Е. В. Вычислительные методы анализа и распознавания патологических процессов. Л., 1978.

2. Тьюки Дж. Анализ результатов наблюдений. М., 1981.

3. Weil С. S. — Arch. Toxicol., 1982, Suppl. 5, p. 237—253.

Поступила 03.07.84

f

i Надоели баннеры? Вы всегда можете отключить рекламу.