Научная статья на тему 'ПРИМЕНЕНИЕ КОРРЕЛЯЦИОННО-РЕГРЕССИВНОГО АНАЛИЗА ПРИ ИЗУЧЕНИИ ВЛИЯНИЯ ПРОИЗВОДСТВЕННЫХ ВРЕДНОСТЕЙ НА ОРГАНИЗМ'

ПРИМЕНЕНИЕ КОРРЕЛЯЦИОННО-РЕГРЕССИВНОГО АНАЛИЗА ПРИ ИЗУЧЕНИИ ВЛИЯНИЯ ПРОИЗВОДСТВЕННЫХ ВРЕДНОСТЕЙ НА ОРГАНИЗМ Текст научной статьи по специальности «Математика»

CC BY
18
6
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Гигиена и санитария
Scopus
ВАК
CAS
RSCI
PubMed
Область наук
i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по математике , автор научной работы — Н Г. Карнаух, Л А. Карнаух

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «ПРИМЕНЕНИЕ КОРРЕЛЯЦИОННО-РЕГРЕССИВНОГО АНАЛИЗА ПРИ ИЗУЧЕНИИ ВЛИЯНИЯ ПРОИЗВОДСТВЕННЫХ ВРЕДНОСТЕЙ НА ОРГАНИЗМ»

5. Как без санитарной обработки кожи, так и после очистки резорбция Am241 в организм в присутствии органического растворителя увеличивается ~ в 30 раз.

6. Полученные в экспериментах данные свидетельствуют о том, что при работах, связанных с использованием радиоактивных изотопов и органических растворителей, необходимо максимально исключить ручные операции, строго соблюдать правила техники безопасности и меры личной гигиены.

ЛИТЕРАТУРА. Осанов Д. П., Клыков О. В. и др. — «Гиг. и сан.», 1974, № 1, с. 54—58. — Tregear R. Т.—«J. Physiol.», 1961, v. 156, p. 307—313.

Поступила 12/VIII 1975 г.

EFFECT OF ORGANIC SOLVENTS ON THE EXTENT OF Am241 PENETRATION THROUGH THE SKIN INTO THE BODY

M. A. Khodyreva, R. Ya. Sitko, G. M. Parkhomenko, V. A. Sarychev

In tests performed over sucking-pigs the authors studied the order of Am241 distribution in the skin and the body of animals in case of two types of contamination: after skin application of the radionuclide nitric acid solution or in combined contamination with Am241 solution and organic tributylphosphate solvent. The authors traced the deponation amount and the distribution features of the radionuclide in the skin and the body both without the use of decontamination means and after the sanitary treatment of the skin with 116 paste.

Методы исследования

УДК 613.6:612.766.1-08

Канд. мед. наук Н. Г. Карнаух, Л. А. Карнаух

ПРИМЕНЕНИЕ КОРРЕЛЯЦИОННО-РЕГРЕССИВНОГО АНАЛИЗА ПРИ ИЗУЧЕНИИ ВЛИЯНИЯ ПРОИЗВОДСТВЕННЫХ ВРЕДНОСТЕЙ НА ОРГАНИЗМ

Научно-исследовательский институт гигиены труда и профзаболеваний, Кривой Рог

Изучение различных корреляций очень важно при проведении работ по гигиене и физиологии труда. В связи с этим приводим пример расчета парной корреляции содержания суммарных 17-оксикортикостероидов (17-ОКС) в моче по температуре воздуха (1в). Данная статистическая совокупность получена при проведении исследований для установления взаимосвязи функциональных систем организма человека и микроклиматических факторов в специальной климатической камере на 10 человек, выполнявших работу средней тяжести при температуре воздуха в диапазоне 20—32° со скоростью его движения 0,5 м/с и относительной влажностью 50%, в одежде с теплоизоляцией 0,8 кло.

Чтобы избежать ошибки в оценке показателей корреляционно-регрес-сионного анализа, необходимо до того, как приступить к нему, составить представление о законе распределения изучаемых признаков. Для этого вычисляют коэффициенты асимметрии и эксцесса и теоретические ряды друг с другом. Так как оцениваемая совокупность немалая (п > 30=45), для упрощения расчетов строят корреляционную таблицу (табл. 1), где варианты группируются в интервальные вариационные ряды таким образом, чтобы частоты оказались у них общие, соответствующие парным значениям

ч

ЧО о

ж о

ч (С — Г- N 00 СО О Ю СЧ 00 1П — 00 -г . 00 00* СП о" о — '

и и 1 О. 38,53 9,24 1,00 14,73 27,0 90,50

в 7,85 8,80 10,13 11,17 11,65 = 9,813 = 26,544

ч в о. 000г3888 — сч сч 1-- 1 =»|| ч

X в о. ©оос-дооою сч ^ -ч- тг ю

ч а О — СЧ СО -Ч" л |

к а. ООООЮООООЮ . — — 1 114 3% 1650 7764 460 386,97

15.45--17.34 16.4 еч — со <о оо g со ~ — о 3888 96 130,16

13.55-— 15,44 14.5 СЧ -ПЮЧ5 Ю1ПЮО 8 — г— с— сооо §

1 1 .65 — — 13.54 12.6 — — СЧ тг Ч- <0 2 1024 70 31,07

9,75-— 11 .64 10.7 сч.мсо-отсо^ § сч с- — рС

7,85-— 9,74 00 00 Ю СО СЧ СЧ со Ю СЧ п 240 90 15,39

5,95--7,84 е> <£> еч сч со — оо — §8 оо оо оо оо со м г— <о

4,05-— 5,94 О из <71 сч — сооооооо"Г- в

1>- О ОТ 00. ^«5 45 о — со 1П г~-*д>со счсчсчсчсч&

СП 00 ^(Ь 1П со 8 Я сч <й ^ й а, | — сч сч сч сч сЗ сО О. о О, 0,0,0,0. О

классов и классовых вариант коррелируемых признаков X = 1в и У = = 17-ОКС.

Величину классового интервала 1 вычисляют по формуле Г. А. Стерджеса:

_ -^тах— -Хт1п 'х ~ 1+3,32^/1

32 — 20,2 — 1 + 3,32^45^

_ ^ та! —

1у ~ 1 + 3,32^ п 17,3—5,0

1.9

1+3,32^45

1.9,

ГДе Лтах. ^тах ~ МЭКСИ-

мальная, а Хт1п, Ут1п — минимальная варианты совокупности; 1 ¿п — десятичный логарифм числа сопряженных вариант.

При разбивке вариации на классы верхние границы их уменьшаются на незначительную величину (в данном случае — на 0,01), чем достигается необходимое разграничение классов; границы первого класса устанавливаются с таким расчетом, чтобы минимальная варианта попадала примерно в середину этого класса. •

Так как температура воздуха является контролируемым фактором, т. е. распределяется не случайно, закон распределения определяется только по результирующему признаку 17-ОКС.

Мерой скошенности данного вариационного ряда служит коэффициент асимметрии Ав, вычисляемый по способу условной средней:

Таблица 2

Теоретические значения частот эмпирического ряда распределения содержания 17-0 КС

(У) в моче и расчет критерия х 9-

>> § к о. о с О х з СС я Э ® О. 2£ • я X V £ ¡1 Я * аг'» % X э> О « ¿8 2 = - о. а * ¡в Теоретические частоты

о с о-Й в° 2 и 5 = 1'Г * Ц 1 1о £ х 5.л < чС факти- округ- 5. 1 а.

* 2 я О У О 1 £•«■-С чески ленно а.

1 3 5,0 —4,813 —1,64 0,1040 3,03 3 0

2 8 6,9 —2,913 —0,99 0,2444 7,12 8 0,109 у=9,813

3 15 8,8 —1,013 —0,34 0,3765 10,97 12 1,480 ау= 1,544

4 9 10,7 0,887 0,31 0,3802 11,08 11 0,404 ¡у — 1,9

5 4 12,6 2,787 0,95 0,2541 7,41 7 1,569

6 3 14,5 4,687 1,59 0,1127 3,28 3

6 4,: ¿3 0,741

7 3 16,4 6,587 2,24 0,0325 0,95 1

2 45 — — — 43,88 45 4.303

(гРусё ЪР2а \ , / 1650 114 396

А. = (-^-36— +26»] : Зх15-х15 +

/114\з

+ 2* 45 ) : 1,5443 = ±0,625

Здесь ау — отклонение классовой варианты от условной средней Ау>, отнесенное к величине классового интервала ¿у, т. е.: 2 Риа„

Ьу =---условный момент первого порядка;

_— условный момент второго порядка;

л

2 Руа1

_— условный момент третьего порядка;

п

Оу = I/ ^ Ра' — — среднее квадратическое отклонение без умноже-

г Л у

ния на величину классового интервала. Мерой эксцессивности служит коэффициент эксцесса, также вычисляемый по способу условных средних:

,"/2Ра4 2Яа. , \ 1 о Г/ 7764 , 114 1650

Х= Ц~--~1Г +662^Г"-3г'4):Ь4]-3=[(~15—4Х 45 +

„ /114\2 396 /114\«\ 1

+ 6'(4б) Х 15~3( 45") ) = 1.544«]-3=-0,137

2 Ра*

Здесь —л— — условный момент четвертого порядка.

Все величины, входящие в состав формул коэффициентов асимметрии и эксцесса, рассчитывают по корреляционной таблице.

Если выборочные показатели данных коэффициентов превосходят свои критические значения, взятые для установленного уровня значимости Р и числа п, то нулевая гипотеза, т. е. предположение о том, что разница между выборочными показателями носит не систематический, а исключительно случайный характер, отвергается. В противном случае ее отвергнуть нельзя.

В нашем примере А,ф < А,( (0,625< 0,825) и Ехф < ЕХч( (0,137<0,852). Отсюда можно заключить, что содержание 17-ОКС в моче испытуемых по температуре воздуха распределяется по нормальному закону.

Для нахождения теоретических частот вариационного ряда по нормальному закону Гаусса — Лапласа служит рабочая формула:

0.

Иначе говоря, если брать среднее квадратическое отклонение из расчета корреляционной таблицы, теоретическая частота будет равна л 1 I*

= где / (0 = у^п е—"¿"—функция нормированного от-

клонения, которую можно определить также по специальной таблице, пользуясь вычисленными значениями нормированных отклонений:

( —У

или в нашем случае t =———Д-.

} ау х 1ц

Оценку расхождений, наблюдаемых между эмпирическими и теоретическими частотами, производят по критерию х2> предложенному Пирсоном:

у* (Р-РУ х ~ ¿1 р1 *

Если стандартное значение, взятое р1 для вероятности Р = 0,95 и числа степеней свободы к = п1 — 3, больше фактического, то нулевая гипотеза сохраняется, т. е. расхождения между эмпирическими и теоретическими частотами носят случайный характер.

В нашем примере при Р0195 и /г = л, — 3=4 > Хф (9,5>4,3). Значит, подтверждается предположение, что содержание 17-ОКС в моче испытуемых распределяется в эмпирическом ряду по нормальному закону.

Расчет теоретических частот 17-ОКС и критерия х2 Дан в табл. 2.

В табл. 2 теоретические и соответственно эмпирические частоты крайних классов объединяются, так как количество вариант в этих классах вариационного ряда, по данным Ван-дер-Вардена, связано с числом степеней свободы следующим образом.

Числа степеней свободы (К = п( — 3): 1, 2, 3—6>6; минимально допустимые теоретические частоты (Р') крайних классов ряда 4, 2, 1, 0,5; п, — число вариационного ряда.

Зная закон распределения рассматриваемой переменной величины, рассчитывают показатели корреляции и регрессии с помощью корреляционной таблицы.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Коэффициент корреляции способом условных средних вычисляют по формуле:

, '55 114

УР „Ь Ь 460-45Х-ТС-Х-7Н-

г = Д рахаи - пЬхЬу _ _45 45 = о 465

пахау 45x2,083x1.544

Формулы расчета условных моментов и среднеквадратических отклонений давались при расчете показателей распределения:

__= 3,444"-= 2,083 и

ау = = |/^-2,533* = 1,544.

Величины 2 Рхах; 2 Руау\ 2 Рха2х\ 2 Руау берут из выделенной графы сумм и рассчитывают в таблице довольно просто.

Наибольших усилий требует вычисление величины Рхуахау. Для этого частоты (Рху) каждой клетки умножают на соответствующие отклонения классовых вариант сначала одного, а затем другого вариационного ряда. Полученные результаты суммируют и записывают в строке: Рхуахау.

Например, число 23 получено следующим образом:

РхуХахХау= РхУаха„ 2x0x1=0 2x3x1=6 3 X 4 X 1 = 12 1X5X1=5 2 = 23

Критерий достоверности полученного коэффициента корреляции определяют по формуле, используемой при количестве парных наблюдений: 30 < п < 100

тУп — 2 0,465 /45 — 2 „ ,

tr = = . г— = 3 445 > . = 2,02.

г У \ — г2 /1— 0.4652 ' '

В случае, если п Ss 100, применяют формулу для Р0.о5 и К = п — 2 =43

tr

_ г Yп

Так как коэффициент корреляции является показателем только линейной связи, при отсутствии уверенности в последней необходимо рассчитать корреляционное отношение, характеризующее нелинейную связь и критерий достоверности меры линейности.

Корреляционное отношение у по х определяют по формуле:

= I /НИЖНИЕ = 1 = 0,484.

V 2РУ(У1-У)* V 386,97

Все значения, входящие в формулу, рассчитывают по корреляционной таблице. > -

~ув — эмпирические групповые средние, вычисленные для каждой строки корреляционной таблицы. Например, уа = 7,85 получена следующим образом: •

2x5,0 + 2x6,9 + 5x8,8+1x10,7 Уз =-¡о-= 7»85,

Критерий достоверности корреляционного отношения определяют аналогично tr. ___

= Ч = V 1-oTw =3>63>2>02 = ^

для Р0,05 и k = n — 2 = 43.

Так как критерии достоверности коэффициента корреляции и корреляционного отношения больше стандартного значения, взятого по таблице Стьюдента для принятого уровня значимости Ролъ и k = 43, можно с уверенностью сказать, что полученные показатели корреляции достоверны.

Критерий достоверности линейности равен:

V 0,018 Л „ где у = Л2 — г2 — меРа линейности;

mv = — ~у ~~— ошибка меры линейности. При <v < 1 предположение о линейности достоверно; в противном случае рассматриваемая зависимость криволинейна.

Итак, корреляционный анализ сводится к измерению тесноты сопряженности между переменными, определению формы и направления связи. В нашем случае по данным расчета можно сказать, что теснота связи между содержанием 17-0КС в моче и температурой воздуха умеренная, направление положительное, т. е. с увеличением температуры воздуха содержание 17-ОКС увеличивается, форма линейная.

м

12 10 в Б 4 2 О

1 - -

,2

, \

\1 1

// \

5,0 8,8 12,В /6.4

Более наглядное представление о форме и направлении корреляции дают графики регрессии.

Построенная по эмпирическим групповым средним уд линия регрессии выглядит в системе координат в виде ломанных линий за счет влияния многочисленных второстепенных (случайных) факторов (рис. 1). Поэтому возникает необходимость их выравнивания. Выравнивание производят способом наименьших квадратов, который сводится к следующим практическим операциям. Посредством логического анализа эмпирического ряда подбирают соответствующее математическое уравнение, наиболее полно отображающее существующую связь.

В данном случае линейность достоверна и эмпирическая регрессия выражается уравнением линейной зависимости: ух = а + Ьх. Здесь ух — ожидаемое значение переменной У, соответствующее заданному значению переменной X.

Решением системы нормальных уравнений или с помощью рабочих формул определяют параметры уравнения. Так как регрессионному анализу предшествовал корреляционный анализ, то коэффициент регрессии рассчитывают по формуле: •

ау X 1|/ „ 1,544x1,9

Рис. 1. Эмпирическая кривая (/) и выраженная (2) по нормальному закону кривая распределения 17-ОКС по температуре воздуха.

По горизонтали —содержание 17-ОКС в моче (в мкг/мл): по вертикали — частоты.

Ьу.х = Г ■

X «,

--= 0,465

2,083 X 1,9

= 0,345,

а свободный член уравнения равен:": а =~у — Ьу1хх = 9,813—0,345x26,544=0,655. • •

Подставив значения параметров в общее уравнение, получают уравнение

регрессии между переменными:

ух = 0,655+0,345* или 17-ОКС = 0,655+0,345 •

где 17-ОКС — содержание 17-ОКС в моче у испытуемых (в мкг/мл); —

температура воздуха (в град.).

Достоверность коэффициента регрессии оценивают по критерию Сть-

юдента для заданного уровня Р0 0й и числа степеней свободы: &=я— 2=43

Ьу/х 0,345

¡у/х = —-= А ■ = 3,45,

тЬу/х 0.1

где ошибка его равна: •

- _ ОуХ1у 1 1,544 х 1,9 и 1-0.465' , ____

-Ьу,х Е^ЗГС 2 - \ 2,083 X 1.9 ) I 45-2 ) " ' МКГ/МЛ

Так как = 3,7 > = 2,02, коэффициент регрессии Ьу'/Х достоверен, т. е. при изменении температуры воздуха на 1° содержание 17-ОКС достоверно изменится на 0,345 мкг/мл.

Для определения возможной вариации линии регрессии используют следующую формулу:

м 12 10

в

■4

г о

о"**

17-ОКС-0.655*0,345 С/

11111

20 22 24 26 28 30 32

Оу/х '■

V

2 Рх(у9-ухГ. п — 2

= у =0,393 мкг/мл.

Рис. 2. Доверительная зона регрессии содержания 17-ОКС в моче у испытуемых по температуре воздуха. По горизонтали —температура воздуха (в град.): по вертикали —содержание 17-ОКС (в мкг/мл).

где в числителе — сумма квадратов разности между эмпирическими и вычисленными значениями членов-ряда, умноженных на частоту.

Максимальную ошибку репрезентативности выборочной линии регрессии определяют по формуле:

Д1/Х = ¡Оу/!.

Огсюда линейную регрессию содержания 17-0КС по температуре воздуха можно выразить уравнением: ух = (а + Ьу]хх) ± {ау/х, по которому определяют доверительные границы линии регрессии для принятого порога доверительной вероятности Р= 0,997, имея в

виду, что в пределах у — За до — + За заключены почти все 100% вариант

нормально распределяемой совокупности.

Именно для первой точки ух = 7,56 находим: нижнюю границу = 7,56—3x0,393=6,38 верхнюю границу = 7,56+3x0,393=8,74

Доверительная зона регрессии содержания 17-0КС по температуре воздуха изображена на рис. 2.

В заключение следует отметить, что, несмотря на формальный характер методов корреляции и регрессии, они, как видно из предыдущего расчета, не только позволяют измерять и анализировать статистические связи, но и прогнозировать возможные изменения сопряженных признаков.

Поступила 30/У1 1975 г.

УДК 614-074

Канд. мед. наук |Б. Экишат\, канд. хим. наук В. Е. Степаненкси канд. биол. наук Е. Н. Помазова

ДИФФУЗИОННЫЙ МЕТОД ПОЛУЧЕНИЯ МАЛЫХ КОНЦЕНТРАЦИЙ ЛЕТУЧИХ ВЕЩЕСТВ В ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ

Новосибирский научно-исследовательский санитарный институт

В исследованиях по гигиеническому нормированию химических веществ в атмосферном воздухе и воздухе рабочих помещений одним из важных моментов является создание постоянных низких концентраций паровоздушных смесей изучаемых веществ. В большинстве случаев это достигается путем длительных экспериментальных поисков. При этом часто наблюдается плохая воспроизводимость вследствие нестабильности концентрации, что ставит под сомнение правильность дозировки.

В литературе по аналитической химии и метрологическим исследованиям освещен ряд методов приготовления паровоздушных смесей известного состава (Н. Ш. Вольберг; В. А. Попов и Е. В. Печенникова). Теоретические основы этих методов довольно полно изложены в работе Д. К. Коллерова. Применение этих методов в исследованиях по гигиеническому нормированию избавляет экспериментатора от необходимости постоянного аналитического контроля за концентрациями получаемых смесей, поскольку последние являются эталонами для проверки точности методов анализа. Из описанных методов экспериментальных исследований в области гигиенического нормирования наиболее удобен диффузионный, основанный на смешении дозируемого диффузионного потока паров вещества из капилляра с потоком газа-носителя, которым чаще всего служит воздух. Диффузионный метод позволяет получать смеси в интервале концентраций от 10 до Ю-3 мг/м3 в зависимости от летучести вещества, размеров капилляра дозатора и расхода воздуха. Количество вещества, испаряющееся из капилляра в единицу времени, при достаточно малом диаметре капилляра будет определяться только диффузионным переносом массы:

• „ . йБМР Р

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

где / — диффузионный поток вещества (в мг/мин); О—коэффициент молярной диффузии дозируемого вещества в воздухе (в см2); 5 — сечение ка-

i Надоели баннеры? Вы всегда можете отключить рекламу.