Научная статья на тему 'К СТАТИСТИЧЕСКОМУ ИЗУЧЕНИЮ СВЯЗЕЙ В ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ'

К СТАТИСТИЧЕСКОМУ ИЗУЧЕНИЮ СВЯЗЕЙ В ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ Текст научной статьи по специальности «Науки о Земле и смежные экологические науки»

CC BY
11
4
i Надоели баннеры? Вы всегда можете отключить рекламу.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по наукам о Земле и смежным экологическим наукам , автор научной работы — П.А. Нагорный

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «К СТАТИСТИЧЕСКОМУ ИЗУЧЕНИЮ СВЯЗЕЙ В ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ»

Таким образом, предлагается чувствительный (при объеме анализируемой воды 100 мл можно определить до 0,01 мг в 1 л Ав) избирательный, оперативный метод (за 2—21/2 ч при наличии 10—15 приборов можно выполнить 10—15 определений). Погрешность определения составляет ±10—15%.

Поступила 13/У 1974 г.

УДК 613:31

Канд. мед. наук П. А. Нагорный

К СТАТИСТИЧЕСКОМУ ИЗУЧЕНИЮ СВЯЗЕЙ В ГИГИЕНИЧЕСКИХ ИССЛЕДОВАНИЯХ

Научно-исследовательский институт гигиены труда и профзаболеваний, Кривой Рог

Выяснение связей между факторами внешней среды и реакцией организма — одна из важнейших задач гигиены. Для статистического изучения этих связей используют ряд методов, однако главными из них являются регрессионный и корреляционный анализы, основанные на положениях и теоремах математической статистики. В гигиенических исследованиях обычно целесообразно рассчитывать как коэффициент регрессии, так и коэффициент корреляции, поскольку они характеризуют разные стороны связи. Первый указывает, насколько изменяется (увеличивается или уменьшается) результативный признак при увеличении факторного признака на единицу его измерения. Коэффициент корреляции указывает на характер и тесноту связи изучаемых признаков (другими словами, как часто с изменением величины одного признака изменяется другой признак). Математически коэффициент корреляции между 2 признаками (г1-2) представляет собой среднюю геометрическую величину 2 коэффициентов регрессии, один из которых характеризует зависимость первого признака от второго (Ь1ш2), а другой — второго признака от первого (£>2.1):

(Ьг.1):г1.г = ±Т/&1268.1-

При изучении множественных связей рассчитывают частные коэффициенты множественной регрессии и множественной корреляции. В отличие от коэффициентов парной связи (называемых еще простыми или полными и обозначающих видимое или общее отношение зависимости между факторным и результативным признаком без учета того, обусловлена ли зависимость влиянием лишь одного или других факторов) они характеризуют связь «чистую». Такие коэффициенты называют еще частными, парциальными или множественными. Эти термины указывают на то, что коэффициенты характеризуют отношение зависимости результативного признака от одного из факторных при исключении или очищении от сопутствующего влияния остальных факторных признаков, которые могут увеличивать или уменьшать значение коэффициента. Понятно, что может быть исключено или учтено влияние лишь изучаемых признаков.

Метод множественного регрессионного анализа взаимосвязи реакции организма с факторами внешней среды детально описан нами ранее (П. А. Нагорный, 1971). В гигиенических исследованиях часто представляет интерес также множественный корреляционный анализ. Он уместен в тех случаях, когда по данным уравнения множественной регрессии все факторы изучаемого комплекса действуют однонаправленно, как синер-гисты (когда все частные коэффициенты множественной регрессии положительные или отрицательные). Могут быть рассчитаны коэффициенты множественной корреляции между величиной эффекта и действием всего учитываемого комплекса факторов, коэффициенты множественной детерминации, частные коэффициенты множественной корреляции между эффектом и действием каждого из факторов, коэффициенты парной корреляции

между интенсивностью одного и других факторов. В качестве примера приведем ход корреляционного анализа зависимости летальности белых мышей в процентах (Л-!) от концентраций паров фенола (Хг) и формальдегида (Х3) в миллиграммах на 1 м3, выделяющихся при нагревании навески водно-лаковой фенолформальдегидной смолы до 100°.

Предварительно рассчитывают частные коэффициенты множественной регрессии каждого фактора и расчетные суммы всех производных величин (П. А. Нагорный, 1973). В данном примере Ь2 = 0,861554, Ь3 = 0,688281, 2 (ХгХо) = 15488, 2 (Х,Х3) = 14860, 2 (Х^) = 7146, 2 (Хг)2 =44795, 2 (Х2у- = 12268, 2 (Хз)2= 12644, п=35. В дальнейшем коэффициент множественной корреляции (/?), характеризующий тесноту связи между изменениями эффекта и всем комплексом изучаемых факторов, вычисляют по формуле: _

»-у

Ь„ (2 Л,Х») + Ьз (2 Х,Х3) +••••+-Ьт (2Х,Хт)

2Х?

В нашем примере он составлял:

к = т/(0,861554XI5488)+ (0,688281 XI4860) = 0 ?3 У 44795

Полученная величина коэффициента указывает на наличие прямой и тесной связи между летальностью подопытных белых мышей и концентрациями формальдегида и фенола в составе комплекса летучих продуктов вод-нолаковой смолы.

Квадрат коэффициента множественной корреляции (/?г) называется коэффициентом множественной детерминации. Он обозначает ту долю эффекта, которая вызвана действием изучаемых факторов. В данном примере он составлял 0,53. Это значит, что влиянием фенола и формальдегида обусловлено 53 % летальности животных, а 47 'о ее вызвано воздействием других, не учитываемых нами веществ.

Для расчета частных коэффициентов множественной корреляции предварительно вычисляют частные коэффициенты множественной регрессии и коэффициенты множественной детерминации при последовательном исключении каждого из изучаемых факторов. В приведенном примере уравнение для расчета частных коэффициентов множественной регрессии при наличии в смеси обоих определяемых продуктов выглядело таким образом:

2 (Хгуъг + 2 (ЗД) Ь3 = 2 (ЛхХг) 2 (ХгХ3) 4>а + 2 (*э)2 Ь3 = 2 (ХхХз).

При исключении влияния формальдегида (Х3) это уравнение было таким:

При исключении же влияния фенола (Х2) уравнение выглядело так:

2 (Х3)* Ь3 = 2 (Х,Х3).

Подставив в последние уравнения соответствующие величины (12268 Ь2=15488 и 12644 Ь3= 14860), получаем, что при исключении влияния формальдегида коэффициент Ьг будет составлять 1,2625, а при исключении влияния фенола коэффициент Ь3 будет равен 1,1753. Рассчитанные по этим данным коэффициенты множественной детерминации составляют соответственно 0,44 и 0,39.

В дальнейшем рассчитывают частные коэффициенты множественной корреляции между эффектом и интенсивностью воздействия каждого фактора при неизменных интенсивностях других факторов. При расчете коэффициентов для факторов, обозначенных цифрами 2 и 3, пользуемся последовательно формулами типа:

»• - 1 / 1 1 ~/?<-23«... т _ "|/ , 1—0,53 _ о 47 и

.'.».•«...» - [/ I- ,_Л?34 т - V ПГ0Т39 -0'47"

г,з 24 т = л/ 1- = 1/ 1-0,53 = 0 40

13.24... т 1/ 1 1п2 V 1 1—0,44

' .24... т

где , 234 ...т — коэффициент множественной детерминации между эффектом (обозначенным цифрой 1) и комплексом всех изучаемых факторов (2, 3, 4, ... , т); R2^.з^...m —тот же коэффициент между эффектом и комплексом изучаемых факторов при исключении воздействия фенола;

24 т — ПРИ исключении влияния формальдегида.

Стандартные ошибки частных коэффициентов корреляции могут быть определены по формуле: тг = У(1 — г2):уп — т, если количество наблю-дений не выше 20, или по формуле тг = (1 — ггу.уп - т, если количество наблюдений больше 20 (п — количество наблюдений; т — количество всех изучаемых признаков). В нашем примере ошибка коэффициента фенола составляла (1 — о,2209):У35 —3) = 0,1377, а формальдегида — 0,1485. Для оценки статистической значимости частных коэффициентов корреляции коэффициенты делят на их ошибки. Полученная величина является критерием t; ее оценивают по таблице Фишера — Стьюдента с числом степеней свободы [ = п — т. Здесь статистически значимыми оказались оба коэффициента (для коэффициента фенола Ь = 3,41; Р<0,001; для коэффициента формальдегида ? = 2,69; Р<0,01).

В гигиенических исследованиях нередко также необходимо рассчитывать коэффициенты парной корреляции между факторными признаками. Например, при изучении комплексов летучих продуктов высокомолекулярных соединений расчет коэффициентов между концентрациями отдельных летучих продуктов при разных условиях нужен для определения постоянства состава выделяющейся смеси. Эти коэффициенты должны учитываться при решении вопроса о возможности контроля за санитарным состоянием воздушной среды и возможности нормирования комплекса факторов по одному или нескольким ведущим компонентам. В нашем примере коэффициент корреляции между величиной концентраций паров с^нола и формальдегида составлял:

К = [2 (Х,Л:з)1:[1/2: (Хг)*х2 (Х3)2] = 7146:1/12268x12644 = 0,574.

Стандартные ошибки этих коэффициентов и их статистическую значимость определяют так же, как и стандартные ошибки частных коэффициентов корреляции, но слеует учитывать, что величина т в данном случае составляет 2. В приведенном примере ошибка составляла (1—0,3292):у 35—2 = = 0,117, критерий / = 4,9; Р <0,001.

Таким образом, между величиной концентрации формальдегида и фено-. ла имеется прямая и тесная связь, т. е. с увеличением концентрации одного летучего продукта, как правило, увеличивается концентрация другого. В связи с этим и ввиду значительной роли формальдегида и фенола в токсичности комплекса летучих продуктов воднолаковой смолы, выявленной при регрессионном анализе, а также высоких коэффициентов множественной корреляции и детерминации мы сделали вывод о целесообразности вести контроль за загрязненностью воздушной среды в условиях производства и применения этого полимера, нормировать этот комплекс по концентрации паров фенола и формальдегида.

Множественный регрессионно-корреляционный анализ взаимосвязей реакции организма с факторами внешней среды позволяет выявить важные закономерности, которые при использовании других методов установить невозможно. Время, необходимое для расчетов, сравнительно невелико. По нашим данным, полный множественный регрессионно-корреляционный анализ комплексов с 4—5 факторными признаками при расчете прямолинейной зависимости можно проводить на обычных счетных машинах, так как потеря рабочего времени при освоенном методе составляет не более 10—15 ч.

При интерпретации результатов регрессионного и корреляционного анализов вообще необходимо учитывать следующее: коэффициенты корреляции* и регрессии свидетельствуют лишь о том, что с изменением величины одного признака в среднем изменяется другой признак. Однако они не указывают на полную причинно-следственную связь между этими признаками. Вопрос о том, наблюдается ли в данном случае обычный параллелизм в изменениях признаков или имеется причинно-следственная связь, должен решаться самим исследователем с использованием современных знаний о механизме действия изучаемого фактора на организм. Понятно, что чем больше выражена связь одного или нескольких факторных признаков с результирующим, тем выше вероятность причинно-следственной связи между ними. Однако это можно утверждать с уверенностью тогда, когда такая связь соответствует характеру действия рассматриваемого фактора и может быть подтверждена экспериментально.

ЛИТЕРАТУРА. Нагорный П. А. Фармакол. и токсикол., 1971, № 3, с. 366. — Он же. Гиг. труда, 1971, 11, с. 21. — Он же. Гиг. и сан., 1973, № 7, с. 76.

Поступила 20/11 1974 г.

УДК 646.226-325:543.432

А. Г. Атласов, А. Г. Новикова (Москва)

КОЛОРИМЕТРИЧЕСКОЕ ОПРЕДЕЛЕНИЕ АЭРОЗОЛЯ СЕРНОЙ КИСЛОТЫ В ПРИСУТСТВИИ СУЛЬФАТОВ

Аэрозоли, образующиеся при электрохимическом осаждении металлов из сернокислых электролитов, содержат, помимо серной кислоты, и сульфаты соответствующих металлов (меди, цинка, никеля и др.). Дисперсная фаза аэрозоля, выделяющаяся при травлении в серной кислоте черных и цветных металлов, также содержит сульфаты. В этих случаях при нефело-метрическом определении тумана серной кислоты по ТУ 122-1/6 с хлоридом бария получаются завышенные результаты вследствие мешающего влияния растворимых в воде сульфатов.

Нами разработан и длительное время успешно применяется метод определения серной кислоты в присутствии сульфатов, основанный на выделении йода и йодид-йодатной смеси в присутствии сильных минеральных кислот (А. К. Бобко и И. В. Пятницкий; И. М. Кольтгоф и соавт.).

!В случае серной кислоты реакция происходит по схеме:

5KI + КЮ3 + 3H2SOr^3I2 + 3K2S04 + зн2о

Выделившийся йод в присутствии йодида образует трийодидионы, окрашивающие раствор в желтый цвет: 12+ KI—>-KJ3.

Чувствительность метода составляет 10 мкг серной кислоты в коло-риметрируемом объеме (5 мл). Определению не мешают сульфаты натрия, калия, магния, кальция, цинка, меди и никеля. Мешающее влияние сульфата окисного железа Fe2 (S04)3 обусловлено образованием мути вследствие гидролиза этой соли в нейтральной среде.

Для обоснования способа отбора проб мы определяли расчетным путем парциальные давления паров над растворами серной кислоты (табл. 1).

Из табл. 1 видно, что предельное содержание паров H2S04 над ее 80% раствором при 20° равно примерно 0,2 мкг/м3, что составляет 1/Шо часть ПДК в рабочей зоне.

Нагрев концентрированных растворов серной кислоты сопровождается выделением серного ангидрида, который, будучи чрезвычайно гигроскопическим веществом, энергично реагирует с избытком имеющейся в воздухе влаги, образуя туман серной кислоты:

S03 (газ) + НгО (nap)-*-H2SO., (жидкость)

I

i Надоели баннеры? Вы всегда можете отключить рекламу.