CC BY
25
УДК 504.5:665.7.033.25
Джамиль А. К. М. Рахман (асп.)1, Л. И. Кантор (к.т.н.)2 Е. В. Дружинская (ст.преп.) 1, Е. А. Кантор (д.х.н., проф., зав.каф) 1
Мониторинг бенз(а)пирена в водных объектах Сообщение I. Мониторинг содержания бенз(а)пирена в 1995-2003 гг. в створах, расположенных на р. Уфа
1 Уфимский государственный нефтяной технический университет, кафедра физики 450062, г. Уфа, ул. Космонавтов, 1; тел. (347) 2420718, e-mail: [email protected] 2Муниципальное унитарное предприятие «Уфаводоканал» 450098 Уфа, ул. Российская, 157/2
Jamil A. K. M. Rahman1, L. I. Kantor2, E. V. Druzhinskaya1, E. A. Kantor1
Monitoring of benzo(a)pyrene in water sources I. Monitoring of benzo(a)pyrene in 1995-2003 in cross sections
located on the river Ufa
1 Ufa State Petroleum Technological University, 1, Kosmonavtov Str., 450062, Ufa, Russia; ph. (347) 2420718, e-mail: [email protected] 2Municipal Unitary Enterprise «Ufavodokanal» 157/2 Rossiskaya Str., 450098, Ufa, Russia
Проведен анализ результатов определения содержания бенз(а)пирена (БаП) в воде в трех створах водоисточника по данным за 1995— 2003 гг. с применением сезонной декомпозиции временного ряда. Установлено, что случайная компонента временного ряда составляет более 71—88 %. Использованы аддитивная и мультипликативная модели, для выделения сезонной составляющей применены методы скользящих средних, среднемноголетних и среднегодовых значений. Вычислены сезонные индексы. С помощью корреляционного анализа (по коэффициентам корреляции между значениями сезонных индексов) установлено, что моделирование содержания БаП в воде можно проводить с помощью мультипликативной или аддитивной модели и любых методов сглаживания (скользящие средние, среднегодовые, средние многолетние). Для моделирования удобным является использование линейных зависимостей связи между содержанием Б(а)П в различных створах водоисточника. По скользящим средним коэффициент корреляции превышает 0.94.
Ключевые слова: бенз(а)пирен; временной ряд; корреляционный анализ; полициклические ароматические углеводороды; сезонный индекс.
The purpose of this study is to examine the analysis of the results of the determination of benzo(a)pyrene in water of three cross sections situated on the river Ufa using seasonal decomposition of the time series according to the data from 1995—2003. It was established that the random component of the time series is more than 71—88 %. Additive and multiplicative models were used; the moving average method, the average long-term method and annual average method values were used to isolate the seasonal component. Seasonal indexes were calculated. Using correlation analysis, it is found that any of the additive or multiplicative models and any method of smoothing can be used for modeling benzo(a)pyrene content in water. For modeling, it is convenient to use linear dependence between the content of B (a) P in the various cross sections of a water source. By using the moving average it is found that correlation coefficient exceeds 0.94.
Key words: benzo(a)pyrene; correlation analysis; polycyclic aromatic hydrocarbons; seasonal index; time series.
Полициклические ароматические углеводороды (ПАУ) широко распространены в окружающей среде и постоянно присутствуют практически во всех источниках водоснабжения 1. Шестнадцать ПАУ определены агент-
Дата поступления 18.10.13
ством по охране окружающей среды США (US EPA) в качестве приоритетных загрязняющих веществ в воде 2'3. Среди них выделяют бенз(а)пирен (Б(а)П), который имеет наибольшую канцерогенную активность из типичных ПАУ, содержащихся в природных средах 4.
Предельно допустимая концентрация (ПДК) БаП согласно российским нормативам (ГН 2.1.5.2280-07) в воде составляет 0.00001 мг/дм3 5. Гигиенический норматив содержания БаП в питьевой воде в соответствии с СанПиН 2.1.4.1074-01 составляет 0.000005 мг/дм3 6. Следует отметить, что установленные в РФ ПДК БаП в воде находятся на уровне наиболее жестких нормативов, используемых в мировой практике: ЕРА — 0.0002 мг/дм3; ВОЗ - 0.0007 мг/дм3 и ЕС -0.00001 мг/дм3 7-9.
Основным водоисточником г. Уфы является р. Уфа, на которой расположено 3 водозабора. В створах этих водозаборов ежемесячно производится отбор проб воды с целью определения содержания Б(а)П. Анализ выполняется в МУП «Уфаводоканал» по разработанной методике 10. Следует отметить, что первый створ расположен до промышленной зоны и севернее городского массива. Второй створ расположен ниже по течению реки. С учетом течения реки с севера на юг можно считать, что этот створ подвержен загрязнению со стороны промышленной зоны. Третий створ расположен южнее второго и загрязненность воды в этом месте возможна не только со стороны промышленной зоны, но и со стороны городского массива.
Ранее, на основе анализа данных о содержании Б(а)П в период 1995-2003 гг. в створах 1-3, расположенных на р. Уфа, были исследованы закономерности загрязнения воды Б(а)П 11. Для построения математической модели использовался метод анализа временных рядов и применена мультипликативная модель декомпозиции временного ряда содержания Б(а)П в воде. Авторами использован цензурированный временной ряд содержания Б(а)П. Цензурирование проведено удалением выбросов и заменой их на средние значения содержания Б(а)П на р. Уфа 12.
Результаты и их обсуждение
Нами проведено исследование нецензури-рованных данных о содержании Б(а)П в воде створов 1-3 (рис. 1). Полученные результаты обработки временного ряда содержания Б(а)П в период 1995-2003 гг. по ранее использованной методике показали, что цензурирование существенно (более, чем на 20%) уменьшает долю вклада случайной величины в общее значение показателя 13 (табл. 1).
Представляется интересным сравнение моделей содержания Б(а)П, получаемых в результате использования различных вариантов выбора метода построения тренда. С этой целью нами осуществлена обработка временного ряда содержания Б(а)П в период 1995-2003 гг., включающая аддитивную и мультипликативную модели и различные виды сглаживания -скользящие средние (Ск.ср.), среднегодовые (Ср.год.) и средние многолетние (Ср.мн.).
4 'Т9М>]1 [
с твор 1
ю.оо 0.00
7.00
Рис. 1. Содержания Б(а)П в створах 1-3 р. Уфа в период 1995-2003 гг.
Установлено, что для створов 1 и 3 доля случайной величины составляет 68-81%, а сезонная величина - от 4 до 20 %. Створ 2 характеризуется еще меньшим различием значений: случайная составляющая изменяется в пределах 84-86 %, а сезонная 7-10 % (табл. 2).
Поиск соответствия между параметрами временных рядов, полученными в результате различных вариантов сглаживания выполнен с помощью корреляционного анализа (табл. 3).
Следует отметить, что удобной моделью для осуществления предсказания о содержании Б(а)П в воде является выявление характерных особенностей поведения временного ряда в годовой период. С этой целю нами проведено усреднение скользящих средних (Ск.ср.*),
Вклад компонент временного ряда в содержание Б(а)П в створах 1 - 3 в период 1995-2003 гг. (мультипликативная модель), %
Компонента Цензу рированные ряды Нецензурированные ряды
Створ 1 Створ 2 Створ 3 Створ 1 Створ 2 Створ 3
Детермин. 51 50 51 23 12 29
Случайн. 49 50 49 77 88 71
Таблица 2
Значения вклада компонент временного ряда в содержание Б(а)П в воде створов 1-3 р. Уфа за 1995-2003 гг., %
Метод сглаживания Скользящее среднее Среднегодовое Среднемноголетнее
Используемая модель Аддитив. Мультипл. Аддитив. Мультипл. Аддитив. Мультипл.
Створ 1
Детермин. 20 19 23 23 23 27
Случайная 80 81 77 77 77 73
Створ 2
Детермин. 15 12 13 12 13 14
Случайная 85 88 87 88 87 86
Створ 3
Детермин. 22 21 36 29 26 32
Случайная 78 79 74 71 74 68
Таблица 3
Значения коэффициента корреляции между среднегодовыми (Ср.год.), скользящими средними (Ск.ср., Ск.ср.*) и концентрациями Б(а)П в 1995-2003 гг.
№ Створы Коэс эфициента корреляции
Ср.год. Ск.ср. Ск.ср.* Конц.
1 створ 1/створ 2 0.79 0.63 0.95 0.21
2 створ 1/створ 3 0.97 0.92 0.94 0.50
3 створ 2/створ 3 0.70 0.45 0.99 0.25
полученных для периода 1995—2003 гг., путем вычисления средних значений, соответствующих каждому месяцу годового цикла. Низкие значения коэффициента корреляции, полученные при сравнении значений временного ряда концентрации Б(а)П, (табл. 3) предопределяются высоким вкладом (более 60%) в значения содержания Б(а)П случайной величины (табл. 2).
Важную информацию о влиянии климатических условий на качество воды водоисточника, как правило, содержат сезонные индексы (СИ), значения СИ получены с использованием различных вариантов моделирования и приемов дифференцирования временного ряда (табл. 4). Для сопоставления результатов определения СИ использован корреляционный анализ. Полученные данные являются свидетельством в пользу того, что при обработке временного ряда содержания Б(а)П в воде выбор модели (аддитивная либо мультипликативная) и метода сглаживания не приводят к существенному изменению модели. Об этом свидетельствуют величины коэффициентов корреляции, которые во многих случаях равны 1 (табл. 5).
С другой стороны, сопоставление параметров, характеризующих различные створы (табл. 6), указывает на очень слабую и слабую связь (по предложенной шкале 1 — функциональная; 0.9—1 — весьма сильная; 0.7—0.9 — сильная; 0.5—0.7 — заметная; 0.3—0.5 — умеренная; 0.2—0.3 — слабая; 0—0.2 — очень слабая 14) между ними. Этот факт вполне объясним в связи с высокой долей вклада в содержание Б(а)П в воде случайной составляющей. Высокий коэффициент корреляции (> 0.93), полученный при сопоставлении скользящих средних (Ск.ср.*) по створам 1—3, (табл. 3) свидетельствует о возможности построения математической модели содержания Б(а)П в этих створах:
[Б(а)П2] = 0.68*[Б(а)Щ] + 0.29, И2=0.893; [Б(а)П3] = 0.95*[Б(а)Щ] + 0.13, И2=0.890; [Б(а)П3] = 1.40*[Б(а)П2] - 0.27,И2=0.984.
где [Б(а)П1], [Б(а)П2], [Б(а)П3] — значение усредненных скользящих средних содержания Б(а)П в створах 1-3 соответственно; Я2 — коэффициент детерминации.
Величины сезонных индексов временных рядов содержания Б(а)П в воде створов 1-3 р. Уфа с использованием различных методов сглаживания в 1995-2003 гг., нг/дм3
№ Створ Створ 1 Створ 2 Створ 3
Метод ^\сгпаж. Месяц Ск.ср. Ср.год. Ср.мн. Ск.ср. Ср.год. Ср.мн. Ск.ср. Ср.год. Ср.мн.
Аддитивная модель
1 январь 0.23 0.37 0.37 -0.24 0.13 0.13 0.29 0.77 0.77
2 февраль -0.14 -0.08 -0.08 -0.19 -0.10 -0.10 -0.23 -0.08 -0.08
3 март -0.09 -0.20 -0.20 -0.30 -0.32 -0.32 0.03 -0.15 -0.15
4 апрель 0.09 0.04 0.04 -0.03 0.04 0.04 0.02 0.03 0.03
5 май -0.07 0.33 0.33 -0.20 -0.24 -0.24 0.13 0.14 0.14
6 июнь 0.14 0.11 0.11 -0.21 -0.32 -0.32 -0.28 -0.33 -0.33
7 июль -0.31 -0.33 -0.33 -0.32 -0.27 -0.27 0.01 -0.04 -0.04
8 август -0.02 -0.09 -0.09 -0.26 -0.25 -0.25 -0.16 -0.22 -0.22
9 сентябрь -0.02 -0.11 -0.11 0.92 0.90 0.90 -0.23 -0.30 -0.30
10 октябрь -0.04 0.00 0.00 0.00 -0.01 -0.01 0.40 0.34 0.34
11 ноябрь 0.20 0.09 0.09 -0.08 -0.10 -0.10 0.00 -0.08 -0.08
12 декабрь 0.01 -0.14 -0.14 0.90 0.53 0.53 0.03 -0.09 -0.09
Мультипликативная модель
1 январь 1.52 1.56 1.57 0.79 1.25 1.18 1.31 1.63 2.01
2 февраль 0.83 0.92 0.87 0.84 1.07 0.86 0.81 0.90 0.90
3 март 0.89 0.92 0.69 0.70 0.72 0.55 1.09 1.03 0.81
4 апрель 1.26 1.19 1.07 1.19 1.17 1.05 1.12 1.15 1.04
5 май 0.86 1.13 1.51 0.87 0.84 0.67 1.12 1.08 1.19
6 июнь 1.05 1.02 1.17 0.71 0.64 0.55 0.56 0.56 0.56
7 июль 0.55 0.53 0.49 0.61 0.58 0.62 0.98 0.84 0.95
8 август 0.83 0.75 0.86 0.83 0.76 0.66 0.90 0.79 0.71
9 сентябрь 1.02 0.83 0.84 2.05 1.74 2.25 0.63 0.60 0.60
10 октябрь 0.90 1.16 1.01 0.80 0.94 0.99 0.98 1.27 1.45
11 ноябрь 1.24 1.12 1.14 1.02 0.85 0.86 1.24 1.11 0.90
12 декабрь 1.04 0.88 0.79 1.58 1.43 1.74 1.27 1.03 0.88
Таблица 5
Коэффициенты корреляции между значениями сезонных индексов, полученных в результате использования различных моделей и методов сглаживания при анализе временных рядов содержания Б(а)П в период 1995-2003 гг. в створах 1-3
Модель и метод сглаживания Аддитивная Мул ьтипликативная
Ск.ср. Ср.год. Ср.мн. Ск.ср. Ср.год. Ср.мн.
Створ 1
Ск.ср. 1.00 0.68 0.68 0.93 0.75 0.69
Аддитивная Ср.год. 0.68 1.00 1.00 0.66 0.86 1.00
Ср.мн. 0.68 1.00 1.00 0.66 0.86 1.00
СО н Мультипликативная Ск.ср. 0.93 0.66 0.66 1.00 0.83 0.66
О Ср.год. 0.75 0.86 0.86 0.83 1.00 0.86
Ср.мн. 0.69 1.00 1.00 0.66 0.86 1.00
Створ 2
Ск.ср. 1.00 0.94 0.94 0.79 0.67 0.94
см Аддитивная Ср.год. 0.94 1.00 1.00 0.76 0.78 1.00
о Ср.мн. 0.94 1.00 1.00 0.76 0.78 1.00
со н Мультипликативная Ск.ср. 0.79 0.76 0.76 1.00 0.90 0.76
О Ср.год. 0.67 0.78 0.78 0.90 1.00 0.78
Ср.мн. 0.94 1.00 1.00 0.76 0.78 1.00
Створ 3
Ск.ср. 1.00 0.84 0.84 0.69 0.86 0.84
со Аддитивная Ср.год. 0.84 1.00 1.00 0.61 0.92 1.00
Ср.мн. 0.84 1.00 1.00 0.61 0.92 1.00
со н Мультипликативная Ск.ср. 0.69 0.61 0.61 1.00 0.82 0.61
О Ср.год. 0.86 0.92 0.92 0.82 1.00 0.92
Ср.мн. 0.84 1.00 1.00 0.61 0.92 1.00
Коэффициенты корреляции между значениями сезонных индексов, полученных в результате использования различных моделей и методов сглаживания при анализе временных рядов содержания Б(а)П в период 1995-2003 гг. между створами 1-3
Створ 1
Модель и метод сглаживания Аддитивная Мультипликативная
Ск.ср. Ср.год. Ср.мн. Ск.ср. Ср.год. Ср.мн.
Створ 1
Аддитивная Ск.ср. 0.09 -0.21 -0.21 0.14 -0.15 -0.20
см Ср.год. 0.17 -0.08 -0.08 0.32 0.03 -0.07
ср о Ср.мн. 0.17 -0.08 -0.08 0.32 0.03 -0.07
Ш н Мультипликативная Ск.ср. 0.13 -0.13 -0.13 0.24 -0.10 -0.12
О Ср.год. 0.23 0.08 0.08 0.45 0.21 0.09
Ср.мн. 0.17 -0.07 -0.07 0.32 0.03 -0.06
Створ 1
Аддитивная Ск.ср. 0.11 0.35 0.35 0.24 0.55 0.36
со Ср.год. 0.28 0.59 0.59 0.47 0.74 0.59
Ср.мн. 0.28 0.59 0.59 0.47 0.74 0.59
ш н Мультипликативная Ск.ср. 0.24 0.27 0.27 0.40 0.44 0.27
О Ср.год. 0.36 0.51 0.51 0.55 0.76 0.52
Ср.мн. 0.27 0.59 0.59 0.46 0.74 0.59
Створ 2
Аддитивная Ск.ср. -0.15 -0.06 -0.06 -0.26 -0.02 -0.05
со Ср.год. -0.25 -0.01 -0.01 -0.29 0.11 -0.01
Ср.мн. -0.25 -0.01 -0.01 -0.29 0.11 -0.01
со Мультипликативная Ск.ср. -0.07 -0.04 -0.04 -0.11 0.04 -0.03
О Ср.год. -0.22 -0.04 -0.04 -0.25 0.10 -0.04
Ср.мн. -0.25 -0.02 -0.02 -0.29 0.11 -0.02
Полученные результаты свидетельствуют о том, что выбор модели (аддитивная либо мультипликативная) не приводит к существенному влиянию на характер изменения вкладов составляющих временного ряда. Для модели-
рования содержания Б(а)П в воде водоисточника удобным является использование линейных уравнений, полученных при обработке скользящих средних (Ск.ср.*).
Литература
1. Ильницкий А. П., Королев А. А., Худолей В. В. Канцерогенные вещества в водной среде.— М.: Наука, 1993.- 222 с.
2. Manoli E., Samara C., Konstantinou I. and Albanis T. // Chemosphere.- 2000.- №41.-P.1845.
3. US EPA. Ground water & drinking water, national primary drinking water regulations. 2006. http://www.epa.gov/safewater/contami-nants/dw_contamfs/benzopyr.html.
4. Майстренко В. Н., Хамитов Р. З., Будников Г. К. Эколого-аналитический мониторинг супертоксикантов.- М.: Химия, 1996.- 319 с.
5. ГН 2.1.5.2280-07 «Предельно допустимые концентрации (ПДК) химических веществ в воде водных объектов хозяйственно-питьевого и культурно-бытового водопользования. Дополнения и изменения N 1 к ГН 2.1.5.1315-03».
6. СанПиН 2.1.4.1074-01 «Питьевая вода. Гигиенические требования к качеству воды централизованных систем питьевого водоснабжения. Контроль качества».
References
1. Il'nitskii A. P., Korolev A. A., Khudolei V. V. Kantserogennye veshchestva v vodnoi srede [Carcinogenic substances in the aquatic environment]. Moscow: Nauka Publ., 1993. 222 p.
2. Manoli E., Samara C., Konstantinou I. and Albanis T. Chemosphere. 2000. No.41. P.1845.
3. US EPA. Ground water & drinking water, national primary drinking water regulations. 2006. http://www.epa.gov/safewater/contami-nants/dw_contamfs/benzopyr.html.
4. Maistrenko V. N., Khamitov R. Z., Budnikov G. K. Ekologo-analiticheskii monitoring supertoksikan-tov [Ecological and analytical monitoring supertoxicants]. Moscow: Khimiia Publ., 1996. 319 p.
5. GN 2.1.5.2280-07 «Predel'no dopustimye kontsen-tratsii (PDK) khimicheskikh veshchestv v vode vodnykh ob"ektov khoziaistvenno-pit'evogo i kul'turno-bytovogo vodopol'zovaniia. Dopolneniia i izmeneniia N 1 k GN 2.1.5.1315-03».
6. SanPiN 2.1.4.1074-01 «Pit'evaia voda. Gigienicheskie trebovaniia k kachestvu vody tsentralizovannykh sistem pit'evogo vodosnab-zheniia. Kontrol' kachestva».
7. http://water.epa.gov/drink/contaminants/ index.cfm.
8. http://www.who.int/water_sanitation_health/ dwq/gdwq0506_8.pdf.
9. http://europa.eu/legislation_summaries/ food_safety/contamination_ environmental_factors/l21290_en.htm.
10. http://www.accustandard.com/assets/ 550_1.pdf.
11. Шемагонова Е. В., Кантор Л. И., Кантор Е. А. // Безопасность жизнедеятельности.— 2004.— №5.- С.40.
12. Шемагонова Е. В. Выявление источников и факторов, определяющих содержание бенз(а)-пирена в воде: Дисс. ... канд. техн. наук.- Уфа, 2004.
13. Елисеева И. И., Курышева С. В., Костеева Т. В. и др. Эконометрика.- М.: Статистика и финансы, 2001.- С.344.
14. http://ekonomstat.ru/otvety-na-voprosy-k-ekzamenu-statistika/65-ocenka-sushhestvennosti-korrelyacii.html
7. http://water.epa.gov/drink/contaminants/ index.cfm.
8. http://www.who.int/water_sanitation_health/ dwq/gdwq0506_8.pdf.
9. http://europa.eu/legislation_summaries/ food_safety/contamination_environmental_ factors/l21290_en.htm.
10. http://www.accustandard.com/assets/ 550_1.pdf.
11. Shemagonova E. V., Kantor L. I., Kantor E. A. Bezopasnost' zhiznedeiatel'nosti. 2004. no.5. P.40.
12. Shemagonova E. V. Vyiavlenie istochnikov i faktorov, opredeliaiushchikh soderzhanie benz(a)pirena v vode [Identification of sources and factors determining the contents of benzo (a) pyrene in water]. Diss. kand. tekhn. nauk. Ufa, 2004.
13. Eliseeva I. I., Kurysheva S. V., Kosteeva T. V. i dr. Ekonometrika [Econometrics]. Moscow: Statistika i finansy Publ., 2001. P.344.
14. http://ekonomstat.ru/otvety-na-voprosy-k-ekzamenu-statistika/65-ocenka-sushhestvennosti-korrelyacii.html.
