CC BY
31
УДК 504.5:665.7.033.25
Джамиль А. К. М. Рахман (асп.)1, Л. И. Кантор (к.т.н.)2, Е. В. Дружинская (ст. преп.)1, Е. А. Кантор (д.х.н., проф.,зав.каф)1
Мониторинг бенз(а)пирена в водных объектах Сообщение II. Особенности результата мониторинга содержания бенз(а)пирена в створах р. Уфа в 2004-2012 гг.
1 Уфимский государственный нефтяной технический университет, кафедра физики 450062, г. Уфа, ул. Космонавтов, 1; тел. (347) 2420718, e-mail: evgkantor@mail.ru 2Муниципальное унитарное предприятие «Уфаводоканал» 450098, г. Уфа, ул. Российская, 157/2
Jamil A. K. M. Rakhman1, L. I. Kantor2, E. V. Druzhinskaya1, E. A. Kantor1
Monitoring of benzo(a)pyrene in water sources II. Features of monitoring results of benzo(a)pyrene at cross-sections situated on the Ufa Rifer in 2004-2012
1 Ufa State Petroleum Technological University, 1, Kosmonavtov Str., 450062, Ufa, Russia; ph. (347) 2420718, e-mail: evgkantor@mail.ru 2Municipal Unitary Enterprise «Ufavodokanal» 157/2, Rossiskaya Str., 450098, Ufa, Russia
Проведен анализ результатов определения содержания бенз(а)пирена (БаП) в воде в трех створах водоисточника по данным за 2004— 2012 гг. с применением сезонной декомпозиции временного ряда. Установлено, что случайная компонента временного ряда составляет более 75—84 %. Использованы аддитивная и мультипликативная модели, для выделения сезонной составляющей применены методы скользящих средних, среднемноголетних и среднегодовых значений. Вычислены сезонные индексы. С помощью корреляционного анализа (по коэффициентам корреляции между значениями сезонных индексов) установлено, что моделирование содержания Б(а)П в воде можно проводить с помощью мультипликативной или аддитивной модели и любых методов сглаживания (скользящие средние, среднегодовые, средние многолетние). Выявлено, что период 2004—2012 гг. характеризуется снижением содержания Б(а)П по всем створам в 2—3 раза по сравнению с периодом 1995-2003 гг.
Ключевые слова: бенз(а)пирен; временной ряд; корреляционный анализ; полициклические ароматические углеводороды; сезонный индекс.
The purpose of this study is to examine the analysis of the results of the determination of benzo(a)pyrene in water of three cross sections situated on the river Ufa using seasonal decomposition of the time series according to the data from 2004—2012. It was established that the random component of the time series is more than 75—84%. Additive and multiplicative models were used; the moving average method, the average long-term method and annual average method values were used to isolate the seasonal component. Seasonal indexes were calculated. Using correlation analysis, it is found that any of the additive or multiplicative models and any method of smoothing can be used for modeling benzo(a)pyrene content in water. It was revealed that during the period 2004—2012 the content of B(a)P in all cross sections decreased 2—3 times compared with the period 1995—2003.
Key words: benzo(a)pyrene; correlation analysis; polycyclic aromatic hydrocarbons; seasonal index; time series.
Ранее проведен мониторинг содержания Б(а)П в воде водоисточника (р. Уфа) в трех створах, расположенных на р. Уфа в период 1995-2003 гг. с использованием цензуриро-ванных* и нецензурированных временных ря-
Дата поступления 07.02.14
дов с построением аддитивной и мультипликативной модели и различных вариантов сглаживания 2. Нами рассмотрен период, охватывающий наблюдения за содержанием Б(а)П в 2004-2012 гг., с использованием значений концентрации Б(а)П в воде трех створов (створы 1-3) р. Уфа (рис. 1).
Рис. 1. Временные ряды содержания Б(а)П в период 2004—20012 гг.
В качестве исходных использованы результаты аналитического контроля содержания Б(а)П в створах 1—3 р. Уфа, выполненного в МУП «Уфаводоканал»3, обработка которых выполнена методом анализа временных рядов. Этот метод подробно описан и с успехом использовался для анализа состояния водоисточника по различным параметрам 4—. Нами применены аддитивная и мультипликативная модели и различных вариантов сглаживания — скользящие средние (Ск.ср.), средне-
годовые (Ср. год.) и средние многолетние (Ср.мн.) 8. Декомпозиция временного ряда показывает, что основной вклад в содержание Б(а)П вносит случайная составляющая (табл. 1), доля которой в воде во всех створах составляет 75—84 %.
Сопоставление данных, приведенных в табл. 1 с полученными ранее для периода 1995—2003 гг. показывает, что период 2004— 2012 гг. характеризуется более высокой составляющей случайной величины, доля которой на
Таблица 1
Значения вклада компонент временного ряда в содержание Б(а)П в воде створов 1-3 р. Уфа за 2004-2012 гг., %
Метод сглаживания Ск. ср. Ср.год. Ср.мн.
Модель Адд. | Мульт. Адд. | Мульт. Адд. | Мульт.
Створ 1
Детермин. 19 17 19 16 19 18
Случайная 81 83 81 84 81 82
Створ 2
Детермин. 22 21 22 21 22 22
Случайная 78 79 78 79 78 78
Створ 3
Детермин. 20 21 23 24 23 25
Случайная 80 79 77 76 77 75
5—7% выше, чем этот показатель за 1995—2003 гг. Можно предположить, что причиной этому служит снижение концентрации Б(а)П в воде в целом в период 2004—2012 гг. по сравнению с периодом 1995—2003 гг. Действительно, сравнение средних многолетних значений концентрации Б(а)П в воде свидетельствует о снижении этого показателя качества воды более чем в 2 раза (табл. 2).
Таблица 2 Значение средних многолетних концентраций Б(а)П в периоды 1995-2003 и 2004-2012 гг., нг/дм3
Период наблюдений, гг.
Створ 1995-2003 2004-2012
Створ 1 0.64 0.26
Створ 2 0.72 0.26
Створ 3 0.76 0.33
Следует отметить, что за весь период наблюдений по величине среднегодовых концентраций Б(а)П наиболее загрязненным является створ 3, а наименее — створ 1 (табл. 3). Причиной этому служит тот факт, что створ 1 расположен выше по течению р. Уфа и в меньшей степени подвержен загрязнению со стороны промышленной зоны и городского массива. Створ 2 расположен ниже по течению про-
мышленной зоны и выше городского массива, а на створ 3 оказывают влияние и промышленная зона, и городской массив.
Использование корреляционного анализа для оценки связи между временными рядами концентраций Б(а)П в различных водозаборах позволяет сделать заключение о низкой связи между содержанием Б(а)П, определенного в разных створах, — коэффициент корреляции не превышает значения 0.65 (табл. 4).
Сопоставление таких параметров временных рядов, как среднегодовые (Ср.год.), скользящие средние (Ск.ср.) и средние скользящие средние (Ск.ср.*) с помощью корреляционного анализа позволяет установить наличие связи между ними. Так, коэффициенты корреляции скользящих средних (Ск.ср.*) лежат в пределах 0.74—0.90, что свидетельствует о наличии сильной связи между этими параметрами временных рядов 9. Сильная и весьма сильная связь характеризует и среднегодовые значения, коэффициенты корреляции в этом случае выше: 0.85—0.94 (табл. 4).
Таким образом, несмотря на высокий вклад случайной величины в содержание Б(а)П, операция сглаживания позволяет выявить наличие закономерности между показателем качества воды при переходе от одного створа к другому.
Таблица 3
Среднегодовые концентрации Б(а)П, нг/дм3
Год Створ 1 Створ 2 Створ 3 Год Створ 1 Створ 2 Створ 3
1995 1.77 1.46 2.15 2004 0.14 0.13 0.17
1996 0.56 0.52 0.80 2005 0.26 0.28 0.28
1997 0.64 1.37 0.49 2006 0.24 0.30 0.31
1998 0.36 0.30 0.50 2007 0.13 0.14 0.15
1999 0.73 0.66 0.65 2008 0.36 0.29 0.33
2000 0.76 1.17 1.04 2009 0.48 0.45 0.62
2001 0.37 0.43 0.52 2010 0.31 0.28 0.37
2002 0.29 0.30 0.34 2011 0.26 0.26 0.33
2003 0.32 0.26 0.34 2012 0.19 0.22 0.41
Среднее значение за 1995-2012 гг. 0.45 0.49 0.54
Таблица 4
Значения коэффициента корреляции между среднегодовыми (Ср.год.), скользящими средними (Ск.ср., Ск.ср.*), и концентрациями Б(а)П в 2004-2012 гг.
№ Створы Коэс эфициента корреляции
Ср.год. Ск.ср. Ск.ср.* Конц.
1 Створ1/створ2 0.94 0.90 0.90 0.64
2 Створ1/створ3 0.85 0.95 0.74 0.44
3 Створ2/створ3 0.89 0.93 0.88 0.53
Таблица 5
Значения сезонных индексов, полученные в результате использования различных моделей и методов сглаживания при анализе временного ряда содержания Б(а)П в период 2004-2012 гг. по створам 1, 2 и 3
Метод о .д о .н г .р о .д о .н г .р о .д о .н г
сглаживания о .р С С С .р С С С .р С С
Аддитивная модель
Месяц Створ 1 Створ 2 Створ 3
январь -0.03 -0.03 -0.03 0.00 -0.01 -0.01 0.04 0.03 0.03
февраль -0.02 -0.01 -0.01 -0.04 -0.05 -0.05 0.00 -0.03 -0.03
март -0.01 -0.02 -0.02 -0.07 -0.06 -0.06 -0.03 -0.05 -0.05
апрель 0.06 0.06 0.06 0.10 0.09 0.09 0.16 0.12 0.12
май 0.10 0.07 0.07 0.14 0.14 0.14 0.00 -0.02 -0.02
июнь -0.07 -0.06 -0.06 0.00 0.00 0.00 0.01 -0.01 -0.01
июль -0.03 -0.04 -0.04 0.05 0.04 0.04 -0.12 -0.14 -0.14
август -0.09 -0.09 -0.09 -0.09 -0.09 -0.09 -0.08 -0.09 -0.09
сентябрь -0.07 -0.06 -0.06 -0.14 -0.14 -0.14 -0.12 -0.09 -0.09
октябрь 0.03 0.02 0.02 0.01 0.01 0.01 -0.03 0.00 0.00
ноябрь 0.00 0.00 0.00 0.02 0.03 0.03 0.06 0.07 0.07
декабрь 0.15 0.15 0.15 0.02 0.03 0.03 0.09 0.22 0.22
Мультипликативная модель
Месяц Створ 1 Створ 2 Створ 3
январь 0.89 0.88 0.87 1.02 0.95 0.97 1.13 1.07 1.08
февраль 0.98 1.07 0.96 0.97 0.85 0.82 0.93 0.96 0.90
март 1.00 0.92 0.94 0.81 0.84 0.79 0.96 0.88 0.85
апрель 1.26 1.29 1.23 1.39 1.37 1.36 1.36 1.23 1.36
май 1.25 1.09 1.25 1.49 1.52 1.52 1.04 0.96 0.94
июнь 0.75 0.79 0.78 0.98 1.00 1.01 0.96 0.89 0.97
июль 0.80 0.76 0.85 1.09 1.03 1.16 0.61 0.56 0.58
август 0.59 0.59 0.65 0.62 0.61 0.65 0.76 0.73 0.74
сентябрь 0.77 0.79 0.79 0.47 0.53 0.47 0.71 0.76 0.72
октябрь 1.21 1.23 1.09 0.99 0.98 1.03 0.85 0.90 1.00
ноябрь 0.94 0.97 1.00 1.07 1.09 1.10 1.31 1.34 1.20
декабрь 1.56 1.62 1.59 1.09 1.24 1.13 1.38 1.73 1.65
Нами определены величины сезонных индексов (табл. 5) и найдены коэффициент корреляции между этими характеристиками временных рядов содержания Б(а)П, обработанными для построения аддитивной и мультипликативной модели с различными вариантами сглаживания (табл. 6 и 7).
Поиск коэффициента корреляции показал наличие очень сильной и весьма сильной связи между значениями сезонных индексов, характеризующих временной ряд определенного створа вне зависимости от выбора типа модели
или метода сглаживания (табл. 6). Так, для створа 1 коэффициент корреляции лежит в пределах 0.91-1.0, створа 2 - 0.96-1.0 и створа 3 - 0.821.0. Полученные результаты (табл. 1 и 6) являются свидетельством того, что выбор типа модели или метода сглаживания не играет существенной роли и приводит к аналогичным результатам.
Величины коэффициента корреляции, найденные для значений сезонных индексов, определенных для различных типов моделей и методов сглаживания при сопоставлении этого
Таблица 6
Коэффициенты корреляции между значениями сезонных индексов, полученных в результате использования различных моделей и методов сглаживания при анализе временного ряда содержания Б(а)П в период 2004-2012 гг. по створам 1, 2 и 3
Модель и метод сглаживания Аддитивная Мультипликативная
Ск.ср Ср. год Ср.мн Ск.ср Ср. год Ср.мн
Створ 1
Створ 1 Аддитивная Ск.ср. 1.00 0.99 0.99 0.97 0.91 0.99
Ср.год. 0.99 1.00 1.00 0.98 0.95 1.00
Ср.мн. 0.99 1.00 1.00 0.98 0.95 1.00
Мультипликативная Ск.ср. 0.97 0.98 0.98 1.00 0.97 0.98
Ср.год. 0.91 0.95 0.95 0.97 1.00 0.96
Ср.мн. 0.99 1.00 1.00 0.98 0.96 1.00
Створ 2
Створ 2 Аддитивная Ск.ср. 1.00 0.99 0.99 0.98 0.96 0.99
Ср.год. 0.99 1.00 1.00 0.98 0.97 1.00
Ср.мн. 0.99 1.00 1.00 0.98 0.97 1.00
Мультипликативная Ск.ср. 0.98 0.98 0.98 1.00 0.97 0.98
Ср.год. 0.96 0.97 0.97 0.97 1.00 0.98
Ср.мн. 0.99 1.00 1.00 0.98 0.98 1.00
Створ 3
Створ 3 Аддитивная Ск.ср. 1.00 0.89 0.89 0.95 0.82 0.89
Ср.год. 0.89 1.00 1.00 0.93 0.97 1.00
Ср.мн. 0.89 1.00 1.00 0.93 0.97 1.00
Мультипликативная Ск.ср. 0.95 0.93 0.93 1.00 0.92 0.93
Ср.год. 0.82 0.97 0.97 0.92 1.00 0.97
Ср.мн. 0.89 1.00 1.00 0.93 0.97 1.00
Таблица 7
Коэффициенты корреляции между значениями сезонных индексов, полученных в результате использования различных моделей и методов сглаживания при анализе временного ряда содержания Б(а)П в период 2004-2012 гг. между створами 1-3
Створ 1
Модель и метод сглаживания Аддитивная Мультипликативная
Ск.ср | Ср.год | Ср.мн Ск.ср | Ср.год | Ср.мн
Створ 1
Створ 2 Аддитивная Ск.ср. 0.66 0.61 0.61 0.56 0.47 0.59
Ср.год. 0.70 0.65 0.65 0.60 0.50 0.62
Ср.мн. 0.70 0.65 0.65 0.60 0.50 0.62
Мультипликативная Ск.ср. 0.70 0.66 0.66 0.62 0.54 0.64
Ср.год. 0.81 0.77 0.77 0.72 0.63 0.75
Ср.мн. 0.71 0.66 0.66 0.61 0.51 0.63
Ство р 1
Створ 3 Аддитивная Ск.ср. 0.60 0.66 0.66 0.64 0.68 0.65
Ср.год. 0.73 0.80 0.80 0.77 0.84 0.80
Ср.мн. 0.73 0.80 0.80 0.77 0.84 0.80
Мультипликативная Ск.ср. 0.66 0.71 0.71 0.66 0.69 0.70
Ср.год. 0.72 0.79 0.79 0.74 0.80 0.79
Ср.мн. 0.73 0.80 0.80 0.77 0.84 0.80
Створ 2
Створ 3 Аддитивная Ск.Ср 0.54 0.56 0.56 0.64 0.66 0.57
Ср.Г 0.39 0.43 0.43 0.46 0.57 0.44
Ср.Мн 0.39 0.43 0.43 0.46 0.57 0.44
Мультипликативная Ск.Ср 0.47 0.50 0.50 0.56 0.63 0.51
Ср.Г 0.31 0.36 0.36 0.39 0.51 0.37
Ср.Мн 0.40 0.43 0.43 0.47 0.57 0.45
параметра, характеризующего разные створы, значительно ниже, чем указанные выше (табл. 7). Тем не менее, следует отметить, что при сопоставлении параметров, характеризующих створы 1 и 3, коэффициент корреляции лежит в пределах 0.6-0.84, что свидетельствует о наличии сильной и весьма сильной связи, и, следовательно, несколько большем подобии этих створов.
Высокие значения коэффициентов корреляции между скользящими средними временных рядов содержания Б(а)П позволяют сформировать математические модели для вычисления и прогнозирования этих параметров. Наиболее простой подход для вычисления прогноза предопределяет использование линейных уравнений. Из числа полученных наибольший интерес предоставляют уравнения с использованием скользящих средних:
[Б(а)П2]=0.82-[Б(а)Щ] + 0.049; #2=0.812; [Б(а)П3]=1.20-[Б(а)Щ] - 0.003; R2=0.899; [Б(а)П3] = 1.29-[Б(а)П2] - 0.027;
где [Б(а)П1], [Б(а)П2], [Б(а)П3] - значение усредненных скользящих средних содержания Б(а)П в створах 1-3 соответственно;
R2 - коэффициент детерминации.
В целом, результаты обработки временных рядов содержания Б(а)П в трех створах, расположенных на р. Уфа за 2004-2012 гг., позволяют сделать заключение о возможности использования любого из типов моделирования - аддитивной либо мультипликативной модели, и любого метода сглаживания - среднее многолетнее, среднегодовое и скользящее среднее. Выявлена возможность прогнозирования величины содержания Б(а)П с помощью расчета в двух остальных створах по экспериментально определенной концентрации Б(а)П в одном из трех створов. Наиболее перспективной при линейном моделировании является использование скользящих средних, полученных при обработке временных рядов содержания Б(а)П в водоисточнике.
Литература
1. Шемагонова Е. В. Выявление источников и факторов, определяющих содержание бенз(а)-пирена в воде.// Дисс. ...канд. техн. наук.-Уфа, 2004.
2. Джамиль А. К. М. Рахман, Кантор Л. И., Дру-жинская Е. В., Кантор Е. А. // Баш. хим. ж.-2013.- Т.20, №4.- С.113.
3. http://www.accustandard.com/assets/ 550_1.pdf
4. Кантор Л. И., Шемагонова Е. В. // Водные ресурсы.- 2002.- №6.- С.743.
5. Вагнер Е. В., Константинов А. И., Кантор Л. И., Перминова И. В., Вождаева М. Ю., Мельницкий И. А., Кантор Е. А. // Экология и промышленность России. Ноябрь, 2011.- С. 41.
6. Харабрин С. В., Кантор О. Г., Кантор Л. И., Кантор Е. А. // Баш. хим. ж.- 2003.- Т.10, №1.- С.87.
7. Кантор Л. И., Харабрин С. В. // Вода и экология.- 2004.- №1.- С.7.
8. Тюрин Ю. Н., Макаров А. А. Анализ данных на компьютере /Под ред. В. Э. Фигурнова. — М.: ИНФРА- М, 2002.— 528 с.
9. http://ekonomstat.ru/otvety-na-voprosy-k-ekzamenu-statistika/65-ocenka-sushhestvennosti-korrelyacii.html
References
1. Shemagonova E. V. Vyiavlenie istochnikov i faktorov, opredelyayuschhikh soderzhanie benz(a)-pirena v vode. Diss. ...kand. tehn. nauk [Identification of sources and factors determining the contents of benzo(a)pyrene in water. PhD eng. sci. diss.]. Ufa, 2004.
2. Dzhamil' A. K. M. Rakhman, Kantor L. I., Druzhinskaya E. V., Kantor E. A. Bash. khim. zh. 2013. V.20, no.4. P.113.
3. http://www.accustandard.com/assets/ 550_1.pdf
4. Kantor L. I., Shemagonova E. V. Vodnye resursy. 2002. No.6. P.743.
5. Vagner E. V., Konstantinov A. I., Kantor L. I., Perminova I. V., Vozhdaeva M. Yu., Mel'nickii I. A., Kantor E. A. Ekologiya i promyshlennost' Rossii. Nojabr'. 2011. P.41.
6. Harabrin S. V., Kantor O. G., Kantor L. I., Kantor E. A. Bash. khim. zh. 2003. V.10, no.1. P.87.
7. Kantor L. I., Kharabrin S. V. Voda i ekologiya. 2004. No.1. P.7.
8. Tyurin Yu. N., Makarov A. A. Analiz dannykh na komp'yutere [Analysis of the data on the computer]. Moscow: INFRA Publ., 2002. 528 p.
9. http://ekonomstat.ru/otvety-na-voprosy-k-ekzamenu-statistika/65-ocenka-sushhestvennosti-korrelyacii.html
