Статистические методы анализа в экологическом мониторинге родниковых вод Текст научной статьи по специальности «Науки о Земле и смежные экологические науки»

УДК 502.51(282.02):556.3(043.2)

СТАТИСТИЧЕСКИЕ МЕТОДЫ АНАЛИЗА В ЭКОЛОГИЧЕСКОМ МОНИТОРИНГЕ РОДНИКОВЫХ ВОД

М.И. Суслов, К.А. Булкина, А.Г. Бубнов, С.А. Буймова, Ю.В. Царёв

Ивановский государственный химико-технологический университет

Использованы статистические методы анализа результатов мониторинга родниковых вод. В частности, были построены и проанализированы контрольные карты Шухарта (Х и Я-карты). Они позволили выявить вероятные критерии для управления качеством родниковых вод городов Иваново и Кохма. Проведён регрессионный и корреляционный анализ экспериментальных данных за 10 лет наблюдений, характеризующих химический состав родниковой воды г. Иваново.

Ключевые слова: мониторинг качества вод, контрольные карты Шухарта, регрессионный анализ, коэффициент детерминации, парная корреляция.

Оценка качества объектов окружающей природной среды, выявление причин загрязнения и прогнозирование дальнейшего ее состояния является актуальной и важной задачей, поскольку именно качество природных объектов во многом определяет состояние здоровья человека, который является частью природной экосистемы. Одним из индикаторов состояния природной среды являются родники - источники естественной разгрузки грунтовых вод [1]. Поэтому, оценивая уровень их загрязнения и прогнозируя качество родниковой воды, можно предотвратить возможные неблагоприятные воздействия на объекты окружающей среды в местах выхода родников, и, соответственно, сберечь здоровье населения.

Известно [9], что контрольные карты Шухарта позволяют минимизировать число ошибок при принятии решений о работе процесса и помогают отследить показатели качества природных объектов (в т.ч. и родниковых вод) соответствующие/несоответствующие требованиям нормативных документов. Широкое применение нашли Х- и Я-карты, которые показывают уровень состояния и управляемости исследуемого процесса. Применение карт Шухарта для объектов экологического мониторинга, как правило, сопровождается необходимостью использования корреля-

ционного анализа - подтверждения предположения о принадлежности наблюдаемого случайного вектора многомерному нормальному закону. В частности, результаты корреляционного анализа способствуют выявлению наличия и характера функциональной зависимости или предпочтительности для описания исследуемого объекта регрессионной модели того или иного вида [7].

В связи с этим целями работы являлись:

1) анализ показателей качества родниковых вод ( по данным 2014 года) с построением контрольных карт Шухарта (Х- и Я-карт) и получением регрессионных, а также корреляционных зависимостей между химическими и физическими показателями, характеризующими состав родниковых вод, от времени;

2) выявление точек выхода процесса из стабильного состояния с помощью критериев обнаружения и рассмотрение возможных причин обнаруженных отклонений.

Объектами мониторинга и наших исследований являлись 3 родника: два из них находятся в городе Иваново, а один в городе Кохма. Для анализа были отобраны пробы родниковой воды в соответствии с [3] в объёме 5 литров в пластиковые

ёмкости. Мониторинг родников проводился ежемесячно в течение 2014 г. Контроль качества родниковой воды осуществлялся по следующим

показателям:

- обобщённые (Тводы, Твозд, расход, перманганатная окисляемость (ХПК), величина рН, общая минерализация, жёсткость, щёлочность, содержание СПАВ);

- общее содержание металлов (Сг^,

Cuобщ, ^общ);

- содержание анионов и катионов (а-, SO4^ Шз-, Ш2", NH4+, НСОз-, ш+, K+, Ag+, Mn2+, Pb2+, Zn2+, Cd2+, Ni2+, Al3+).

Алгоритм расчёта коэффициента парной корреляции включал расчёт мате-

матического ожидания (оценкой которого служит среднее арифметическое), среднего квадратического отклонения, а также коэффициента парной корреляции и стандартной ошибки этого коэффициента (при малом объёме выборки). Коэффициент парной корреляции между значениями двух показателей качества родниковой воды определяли исходя из расчёта величины математического ожидания (оценкой которого служило среднее арифметическое С,)

и среднего квадратического отклонения (о,) для каждого из показателей. Для одного показателя величины С^ и о, рассчитывались по формуле (1):

где С] - содержание ]-го компонента в родниковой воде;

С] - среднее арифметическое значение содержание ]-го компонента в родниковой воде;

(1)

О] - среднее квадратическое отклонение одиночного наблюдения для ]-го компонента; п - объём выборки (; = 1 .... п).

Аналогично по формуле (2) проводился расчёт для другого компонента:

где См - содержание к-го компонента в родниковой воде;

Ск - среднее арифметическое значение содержание к-го компонента в родниковой воде;

Ок - среднее квадратическое отклонение одиночного наблюдения для к-го компонента; п - объём выборки (; = 1 .... п).

Точечные оценки коэффициентов парной корреляции между содержанием ]-го и к-го компонентов, вычислялись по формуле (3):

_1Г=1(с]1-с])(ск1-ск)

Г]к (11-1)а^к (3)

Считали, что если > 0,6, то наблюдается достаточно высокое значение коэффициента парной корреляции [2] меж-

(2)

ду содержанием ]-го и к-го компонентов в родниковой воде. При нахождении величины Г]к в интервале от 0,4 до 0,5 включительно, говорят о заметной корреляции между рассматриваемыми показателями [5] (при ] < 0,3 делают вывод об отсутствии корреляционной зависимости между исследованными компонентами).

Далее рассчитывали стандартную ошибку коэффициента парной корреляции. При малом объёме выборки (п < 25) это значение вычисляли по формуле (4):

1- г2

= ■

\п -

11 г2 75 г2-13 1+—-+

2п

2пг

- . (4) Исходя из полученного значения стандартной ошибки коэффициента парной корреляции (ог) делали выводы о возмож-

ности оценки наличия стохастическом связи между рассматриваемыми компонентами при малых объемах выборок, аналогично анализу, представленному в [7]. Большая стандартная ошибка коэффициента парной корреляции не позволяет судить о наличии стохастической связи.

Следующим этапом оценки являлось построение матрицы парной корреляции между содержанием рассматриваемых компонентов в родниковой воде с целью выявления отсутствия или наличия корреляций между исследованными показателями. Для построения матрицы парных кор-

реляций использовался пакет прикладных программных средств Microsoft Office профессиональный плюс 2010, в частности, Excel.

Первым этапом работы являлись построение и анализ контрольных карт Шухарта. По полученным значениям показателей качества родниковой воды были построены Х - R контрольные карты Шухарта [4]. Образец построения карт представлен на рис. 1 и 2 на примере содержания соединений Cd2+ в роднике города Иваново.

Cd , мг/л

0,0025

X

------ ------ /\ А

/ / Е

/ с

Номер мгновенной выборки Рис. 1.

U CL

CL

Cd , мг/л

0,0014

0,0008

R '

J.0004

А

■ / \ Б

\ с

с

— -ч^— А

UCL

CL

LCL

Номер мгновенной выборки Рис. 2.

Контрольные карты Шухарта (Х - Я карты) на содержание соединений Cd родник г. Иваново (район городского бассейна), 2014 г.

1 - июнь, 2 - июль, 3 - август, 4 - сентябрь, 5 - октябрь, 6 - ноябрь, 7 - декабрь

На Я-карте обнаружен критерий 6 -четыре из пяти последовательных точек вне зоны В - точки 3 - 7. Значение показателя содержание Сё2+ в роднике города Иваново находилось в течение рассматриваемого периода в статистически управляемом состоянии. На Х-карте показано, что состояние качества родниковой воды по контролируемому компоненту находилось в статистически управляемом состоянии. Отсюда следует, что в 2014 г. качество родниковой воды из источника, расположенного в г. Иваново (район городского бассейна), по содержанию соединений Сё2+ находилось в статистически управляемом состоянии. Загрязнение могли вызвать соединения Сё2+, содержащиеся в выхлоп-

ных газах автомашин от проходящей вблизи источника (на расстоянии 200 м) автомагистрали. Кроме того, причинами обнаруженных отклонений могут быть процессы трансграничного переноса, а также увеличение несанкционированного загрязнения бытовыми отходами близлежащей к родникам территории частного жилого сектора.

Аналогично соединениям Сё были проведены построения и анализ контрольных карт Шухарта (Х- и Я-карты) для других контролируемых показателей качества родниковой воды. Изучение контрольных карт позволило сделать вывод о том, что в 2014 году качество родниковой воды из источника, расположенного в г. Иваново

(район городского бассейна), находилось:

- в статистически неуправляемом

состоянии по величине Тводы, расхода, рН, ХПК, щёлочности, значению общей жёсткости, а также содержанию следующих компонентов: НС03 -, Реобщ, К+, Сё2+;

- в статистически управляемом

состоянии по величине сухого остатка, а также содержанию СПАВ, С1-, Б042-, Ш3-, N0/, №+, №+, А§+, 2п2+, М2+, РЬ2+, А13+,

-Мпобщ,> Cгобщ, Сиобщ.

Полученные данные позволили разграничить природные и антропогенные источники поступления контролируемых веществ в родниковую воду. К группе влияния естественных факторов могут быть отнесены следующие показатели качества родниковых вод: Тводы, расход, величина рН, щёлочности, значению общей жёсткости, а также содержанию следующих компонентов: НС03 -, Беобщ, К+.

К показателям, которые подвержены воздействию техногенных факторов можно отнести следующие: величину сухого остатка, а также содержание С1-, Б042-, N0з-, N02-, ^ЫН4+, Na+, А§+, 2п2+, Ni2+, РЬ2+, А1 , Сгобщ, Сиобщ. При этом наличие некоторых компонентов, таких как СПАВ, соединений Мпобщ, Сё , а также величина ХПК могут быть обусловлены как природными, так и антропогенными факторами.

Чёткое разделение факторов, влияющих на качество родниковой воды на природные (или естественные) и

антропогенные (или человеческие) позволяет наиболее эффективно и точно прогнозировать химический состав природных вод, а главное - устранить (по возможности) источники загрязнения.

Полученные данные подтверждают, что содержание большинства поллютан-тов, поступающих в родниковую воду, можно значительно снизить или полностью устранить, проведя мероприятия по правильному (нормативному) устройству родника (строительству каптажа) и соблюдению зон санитарной охраны вокруг водоисточника. При употреблении родниковой воды в питьевых целях для устранения повышенного содержания некоторых обнаруженных загрязняющих веществ (например, соединений железа и ряда других) можно рекомендовать предварительную очистку воды с использованием различных бытовых устройств по доочистке воды.

Вторым этапом работы являлось проведение регрессионного и корреляционного анализа полученных за период с 2003 по 2012 гг. экспериментальных данных. Для систематизации данных, были применены математические модели (методы построения графиков зависимости) различных показателей от времени, а также проведены регрессионный и корреляционный анализ полученных зависимостей [6]. Критерии оценки связи по значению коэффициента регрессии приведены в табл. 1 аналогично [7].

Таблица 1

Критерии оценки связи между двумя переменными по значению коэффициента детерминации

Значение коэффициента детерминации (Я ) Связь между переменными

0,1 - 0,3 Слабая

0,3 - 0,5 Умеренная

0,5 - 0,7 Заметная

0,7 - 0,9 Высокая

0,9 - 0,99 Весьма высокая

Примечание. Данные критерии, справедливы только в случае достаточно большого числа наблюдений (примерно в 5 - 6 раз больше, чем число оцениваемых параметров).

Коэффициент детерминации (К ) -это одна из характеристик связи между зависимой (у) и независимой (х) переменной; абсолютная величина, на которую в среднем изменится величина одного признака при изменении другого связанного с ним признака на установленную единицу измерения [8]. Коэффициент детерминации не может быть больше 1. Если он > 0,8, то уровень связи между рассматриваемыми переменными высо-

0,8 г

0,7

0,6

0,5

0,4

0,3

0,2

0,1

0,0

кий, если Я < 0,5 - слабый.

Пример обработки данных химического анализа по содержанию соединений свинца в родниковой воде из исследованного источника представлен на рис. 3. Выявлено, что зависимость содержания данного компонента может быть описана уравнением 5-го порядка У = А + В1Х1 + В2Х2 + В3Х3 + В4Х

+

В5Х5 с коэффициентом детерминации Я2 = 0,92.

2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013

Рис. 3. Содержание соединений РЬ + (мг/л) в родниковой воде г. Иваново в различные годы,

обработка полиномом 5-го порядка У = А + В^Х1 + В2Х2 + В3Х3 + В4Х4 + В5Х5

Анализ данных показал, что, в большинстве случаев, для родниковой воды города Иваново (район городского бассейна), наблюдаемые зависимости контролируемых показателей качества могли быть описаны следующими уравнениями трендов:

■ температура воды - полиномом 4-го порядка (на протяжении всего времени наблюдений, за исключением периода январь-апрель), при этом коэффициент детерминации, характеризующий Тводы, составлял от 0,3 до 0,96 (в зависимости от периода года);

■ температура воздуха - полиномом 5-го порядка (на протяжении всего времени наблюдений, за исключением периода май-сентябрь), при этом коэффициент детерминации,

характеризующий Твоздуха, составлял от 0,28 до 0,94 (в зависимости от периода года);

■ дебит - полиномами 4-го и 5-го порядков (на протяжении всего периода наблюдений), при этом коэффициент детерминации, характеризующий дебит источника, составлял от 0,5 до 1,0 (в зависимости от периода года);

■ величина рН - полиномом 5-го порядка (на протяжении всего времени наблюдений, за исключением следующих периодов: май, июнь и август), при этом коэффициент детерминации, характеризующий величину рН родниковой воды, составлял от 0,43 до 1,0 (в зависимости от периода года);

■ сухой остаток - полиномом 5-го порядка (на протяжении всего времени

наблюдений, за исключением следующих периодов: май и август), при этом коэффициент детерминации,

характеризующий величину сухого остатка в родниковой воде, составлял от 0,27 до 0,84 (в зависимости от периода года);

■ жёсткость - полиномом 4-го порядка (на протяжении всего времени наблюдений, за исключением следующих периодов: январь, апрель, сентябрь и декабрь), при этом коэффициент детерминации, характеризующий величину жёсткости родниковой воды, составлял от 0,73 до 1,0 (в зависимости от периода года);

■ СПАВ - полиномом 5-го порядка (на протяжении всего времени наблюдений, за исключением следующих периодов: января, май, июнь, август и сентябрь), при этом коэффициент детерминации, характеризующий содержание СПАВ в родниковой воде, составлял от 0,32 до 1,0 (в зависимости от периода года);

■ нитраты (N0^) - полиномом 5-го порядка (на протяжении всего времени наблюдений, за исключением следующих периодов: май, июнь, август и сентябрь), при этом коэффициент детерминации, характеризующий содержание нитрат-ионов в родниковой воде, составлял от 0,2 до 0,97 (в зависимости от периода года);

■ железо (Беобщ) - полиномом 4-го порядка (на протяжении всего времени наблюдений, за исключением периода январь - май), при этом коэффициент детерминации, характеризующий содержание соединений Бе, составлял от 0,71 до 1,0 (в зависимости от периода года);

■ марганец (Мп2+) - полиномом 5-го порядка (на протяжении всего времени наблюдений, за исключением следующих

периодов: апреля - июнь, август и сентябрь), при этом коэффициент детерминации, характеризующий

содержание соединений Мп, составлял от 0,26 до 0,91 (в зависимости от периода года);

■ свинец (РЬ2+) - полиномом 5-го порядка (на протяжении всего времени наблюдений, за исключением периодов: февраль, апрель - июнь и август), при этом коэффициент детерминации, характеризующий содержание соединений РЬ, составлял от 0,54 до 0,99 (в зависимости от периода года);

■ калий (К+) - полиномом 4-го порядка (на протяжении всего периода наблюдений), при этом коэффициент детерминации, характеризующий содержание соединений К, составлял от 0,47 до 1,0 (в зависимости от периода года).

Таким образом, были получены уравнения трендов, которые описывают зависимость содержания различных компонентов в родниковой воде г. Иваново от времени. В работе был выполнен анализ парной корреляции между содержанием различных компонентов в родниковой воде г. Иваново. Для этого были построены графики зависимости содержания компонентов от времени и проведены точечные оценки коэффициентов парной корреляции. Для примера рассмотрим расчёт и оценку коэффициента парной корреляции между содержанием нитрат-ионов (N0^) и величиной сухого остатка в родниковой воде в ноябре 2003 - 2012 гг. (рис. 4).

Далее были рассчитаны коэффициенты парной корреляции по алгоритму приведённому выше. Значения концентраций данных компонентов за период исследований приведены в табл. 2.

0,0 I ■ —'———'— ■ —.....—^ -1,0

2003 20М 2005 2006 2007 2008 2009 2010 2011 2012

Время, год

Рис. 4. Величина сухого остатка (1) и содержание NO3- (2) в родниковой воде (ноябрь)

1 - Y = A + В1Х1 + В2Х2 + В3Х3 + В4Х4 + В5Х5 (К2 = 0,71);

2 - У = А + В1Х1 + В2Х2 + В3Х3 + В4Х4 + В5Х5 (Я2 = 0,87).

Таблица 2

Величина сухого остатка и содержание нитрат-ионов в родниковой воде

__ (ноябрь 2003 - 2012 гг.) ___

Год 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012

Сухой остаток, мг/л 0,90 0,52 0,40 0,60 0,63 0 0 0,50 0,76 0,63

N03^ мг/л 1,5 0,10 0,50 0,40 0,40 0 0 0,40 0,24 0,44

Величина математического ожидания, оценкой которого служит среднее арифметическое , Сшпраты) и

среднее квадратическое отклонение

■ сухой остаток:

_ с,, _ 0,90 + 0,52 + 0,40 + 0,60 + 0,63 + 0,50 + 0,76 + 0,63

(всух.ост, Онитраты) для каждого из компонентов были рассчитаны по формулам, приведённым выше (1) и (2), следующим образом:

п

10

= 0,494

_ | (0,90 - (ММ ) Ч (0,52 - 04 " + ...+ ( - 0,494 ):

= 0 39

■ нитрат-ионы:

! См 1,50 + о, 10 + 0,50 + 0,40 + 0,40 + 0,40 + 0,24 + 0,44

0,390

0,43,

Точечная оценка коэффициента парной корреляции между содержанием нитрат-ионов и величиной сухого остатка

была вычислена по формуле (1.3) следующим образом:

- - _ 0,393 ■ 0,494

(п-1

(10 - 1) ■ 0,39 ■ 0,43

0,13

Поскольку полученное значение г (сухой остаток/нитраты) равно 0,13, то отсутствует корреляционная зависимость между исследованными показателями. Затем была рассчитана стандартная

ошибка коэффициента парной корреляции. При малом объёме выборки, если п < 25 (в нашем случае п = 10) это значение вычисляли по формуле (4):

Поскольку значение стандартной ошибки коэффициента парной корреляции составило Ог сух.ост./нитраты = 0,32 , при значении %х. ост./нитраты = 0,13 (т.е. более 100 %), что не позволяет судить о степени стохастической связи между рассматриваемыми компонентами. Иначе говоря, нельзя судить о тесноте стохастической связи между величиной сухого остатка и содержанием нитрат-ионов в родниковой воде при малом объёме выборки (п = 10). Требуется анализ выборки большого ии-объёма.

Хотим отметить, что ни одна из построенных регрессий не является статистически значимой. Поэтому, к сожалению, прогнозирование по таким зависимостям не может быть реализовано. В данном случае разумной альтернативой сглаживания временных рядов полиномиальными зависимостями является применение адаптивных моделей в ППП Statistica. Соответствующие процедуры, реализованные в ППП Statistica, позволят корректным образом обработать экспериментальные данные и решить вопросы прогнозирования в рамках выбранных адаптивных моделей. Из того, что регрессии не являются значимыми, следует среди прочего неопровержимость статистической гипотезы о равенстве нулю коэффициента детерминации. То, что эмпирические значения этих коэффициентов (в качестве примера для соединений РЬ2+

0,92) близки к единице, не позволяет нам сделать вывод о высоком уровне связи между рассматриваемыми показателями.

По результатам выполненного анализа можно сделать следующие выводы:

1. Величины ошибок коэффициентов парной корреляции превышают 100 %, что не позволяет судить о силе стохастической связи между рассматриваемыми компонентами. Требуется анализ выборок большего объёма.

2. Использование полиномиальных трендов, описывающих зависимость содержания различных компонентов в родниковой воде г. Иваново от времени, в силу малых объёмов выборок не представляется возможным. По результатам анализа данных предложено применение адаптивных моделей ППП Statistica, соответствующие процедуры которой позволяют корректным образом обработать экспериментальные данные и решить вопросы прогнозирования в рамках выбранных адаптивных моделей.

3. Результаты исследования, обработанные в программе ППП Statistica с применением адаптивных моделей, дадут возможность прогнозировать химический состав на основе выявленных ранее критериальных загрязняющих веществ родниковой воды в г. Иваново и позволят значительно снизить риски заболевае-

мости у населения при употреблении воды из рассматриваемых источников.

ЛИТЕРАТУРА

1. Буймова, С.А. Комплексная оценка качества родниковых вод на примере Ивановской области] / С.А. Буймова, А.Г. Бубнов; под ред. А.Г. Бубнова; Иван. гос. хим.-технол. ун-т. - Иваново, 2012. - 463 с.

2. Гмурман, В.Е. Теория вероятностей и математическая статистика: энциклопедический справочник: [Текст] / В.Е. Гмурман - М.: Высш. образование, 2006. - 404 с.

3. ГОСТ Р 53415-2009. Вода питьевая. Отбор проб для анализа.

4. ГОСТ Р 50779.42-99 (ИСО 8258-91) Статистические методы. Контрольные карты Шухарта.

5. Кобзарь, А.И. Прикладная математическая статистика: энциклопедический справочник / А.И. Кобзарь. - М.: Физматлит, 2006. - 816 с.

6. Ежова, Л.Н. Математическая статистика: учеб. пособие. / Л.Н. Ежова, О.В. Леонова, Л.В. Мамонова, С.И. Никулина. - Иркутск: ГОУ ВПО

Байкальский государственный университет экономики и права, 2009. - 114 с.

7. Наумов, В.А. Корреляционный анализ внутреннего распределения стока рек региона: [Электронный ресурс] / В.А. Наумов, Л.В. Маркова // Известия Калининградского государственного технического университета. -

2012. - № 26. - С. 40 - 46. -Режим доступа к ресурсу:

http://k1gtu.ru/science/magazine/news 1^11/2012 26/ naumov.pdf [дата обращения 28.09.2015].

8. Тебуева, Ф.Б. Декомпозиция и прогнозирование временных рядов с долговременными корреляциями: [Электронный ресурс] / Ф.Б. Тебуева, В.А. Перепелица // Известия Южного Федерального университета. Технические науки.

2013. № 1. - С. 111 - 120. - Режим доступа к ресурсу: http://izv-tn.tti.sfedu.ru/wp-content/up1oads/2013/1/18.pdf [дата обращения 28.09.2015].

9. Шиндовский, Э. Статистические методы управления качеством контрольные карты и планы контроля: перевод с немецкого / Э. Шиндовский, О. Шюрц.- М.: Изд.-во «Мир», 1976. - 597 с.

Рукопись поступила в редакцию 19.11.2015.

STATISTICAL METHODS OF ANALYSIS IN ENVIRONMENTAL MONITORING OF SPRING WATER

M.Suslov, K.Bulkina , A.Bubnov, S.Buymova, Y.Tsarev

Statistical methods of the analysis of results of monitoring of spring waters are used. In particular, control cards of Shuharta (X and R-cards) have been constructed and analysed. They have allowed to reveal probable criteria for quality management of spring waters of cities of Ivanovo and Kohma. Regression and correlation analysis experimental data for the 10 years of observations characterizing the chemical composition of spring water the city of Ivanovo is carried out.

Key words: Monitoring of quality of waters, control cards of Shuharta, regression analysis, the coefficient of determination, pair correlation.