CC BY
40
УДК 628.394(001.57) С. Н. КОВАЛЕНКО
Государственное образовательное учреждение высшего профессионального образования «Санкт-Петербургский государственный политехнический университет»
РЕЗУЛЬТАТЫ СТАТИСТИЧЕСКОЙ ОБРАБОТКИ НАТУРНОЙ ИНФОРМАЦИИ ПРИ ИЗУЧЕНИИ БИОГЕННОГО ЗАГРЯЗНЕНИЯ МАЛЫХ РЕК, ПРИНИМАЮЩИХ СТОКИ С МЕЛИОРИРУЕМЫХ СЕЛЬСКОХОЗЯЙСТВЕННЫХ ТЕРРИТОРИЙ
Разработана и адаптирована методика статистического анализа экспериментальных хронологических многолетних рядов наблюдений концентраций загрязняющих веществ в поверхностных водотоках на примере биогенного загрязнения малых рек Нечерноземной зоны РФ. Определение выборочных оценок статистических характеристик выполнено методом моментов. Получены оценки коэффициента автокорреляции.
Статистический анализ, многолетние ряды наблюдений, концентрация загрязняющих веществ, поверхностные водотоки, биогенное загрязнение малых рек, коэффициент автокорреляции.
The method of the statistic analysis of experimental chronological long-term observational series has been developed and adapted of concentrations of polluting matters in surface waterways on the example of the biogenic pollution of small rivers of the Nonblack soil area (Nechernozemje) of RF. Determination of sample estimates of statistic characteristics was performed by a method of moments. There are obtained estimates of the autocorrelation coefficient, fulfilled testing on their significance.
Statistic analysis, long-term observational series, concentration of polluting matters, surface waterways, biogenic polluting of small rivers, coefficient of autocorrelation.
Результатом статистического ана- С учетом возрастающего ухудшения лиза натурной гидрологической и гид- экологического состояния поверхност-рохимической информации является по- ных водотоков изучение процессов получение аналитических кривых ступления, распределения и трансфор-обеспеченности для математического мации загрязняющих веществ в моделирования концентрации биоген- водотоках является актуальной задачей. ного загрязнения малой реки в створе В настоящей работе загрязнение повер-полного смешения в результате поступ- хностных вод рассматривается как веления сточных вод с сельскохозяйствен- роятностный процесс. Данный метод ных территорий. Малые реки - это основан на предположении о случайно-водотоки, протекающие в одной геогра- сти процесса формирования концент-фической зоне, имеющие характерные рации загрязнения. Стохастичность особенности, связанные с климатичес- обусловлена множеством факторов -кими, гидрогеологическими, гидробио- климатических, антропогенных, биоло-логическими и гидрохимическими па- гических, морфологических, определя-раметрами. К малым рекам относятся ющих величину концентрации загряз-все водотоки с длиной русла до 200 км няющего вещества в контрольном и площадью водосбора до 2000 км2. створе. Определением расчетных гид-Следует отметить слабую изученность рологических характеристик с учетом гидрохимических и гидрологических их стохастической природы занимались характеристик малых рек Нечернозем- С. Крицкий, М. Мендель, А. Чеботарев, ной зоны Российской Федерации. А. Рождественский, М. Михалев,
А. Резняковский, Е. Блохинов, Г. Сванидзе и др. В отличие от гидрологических характеристик гидрохимические параметры изучены слабо. Это обусловлено короткими сроками наблюдений, редким отбором проб, трудоемкостью определения количественной оценки величин концентраций загрязняющих веществ.
В настоящей работе процесс загрязнения малых водотоков рассматривается как стохастический. Математическое моделирование методом Монте-Карло (метод статистических испытаний) предусматривает расширение рядов на основе полученных статистических результатов обработки натурной информации. Удлинение экспериментальных рядов наблюдений математическими методами в настоящее время является наиболее доступным при изучении природных процессов.
В основу исследований положены результаты наблюдений государственной службы Росгидромет РФ. Вологодская область относится к его северному отделению. На территории области выбран ряд рек бассейна Северной Двины. Малые реки, типичные для этой природно-климатической зоны, являются притоками реки Сухоны: Лежа, Двинница, Верхняя Ерга; Кичменга -приток реки Юг. Река Лежа - левый приток, впадающий в реку Сухону в верхнем течении. Двинница и Верхняя Ерга - правые притоки Сухоны соответственно в среднем и нижнем течении. Река Кичменга впадает в Юг в среднем течении. Период наблюдений за водными объектами составляет 152 8 лет. Выбранные водные объекты относятся к водотокам четвертой категории. Четвертая категория предусматривает осуществление гидрологических и гидрохимических наблюдений лишь в определенные гидрологические фазы водотока. В среднем количество наблюдений за год по каждому ингредиенту составляет от 7 до 15 проб. На каждом водотоке оборудован один гидрометрический пост наблюдений,
совмещенный с гидрохимическим постом. Следует отметить, что в 90-е годы прошлого столетия число наблюдений было сокращено и часто носило выборочный характер.
Начальным этапом обработки натурной информации является формирование банка данных натурных наблюдений (БДНН). Натурная гидрометрическая и гидрохимическая информация, предоставленная Росгидрометом, преобразована в электронные таблицы в системе Microsoft Office Excel. Банк данных натурных наблюдений представляет собой набор файлов, содержащих исходную информацию по каждой реке. Каждый файл БДНН состоит из следующих совместных характеристик: расход реки, азот аммонийный, азот нитритный, азот нитратный, фосфор минеральный и фосфор общий. Гидрохимические и гидрологические параметры располагаются в хронологической последовательности, общий период наблюдений - с 1978 по 2006 г. Натурная информация связана с датой отбора проб.
При выборе методов оценки натурной информации проведен литературный анализ возможных способов расчета выборочных оценок статистических параметров. В основу обработки данных натурных наблюдений положен метод моментов, широко используемый в практических расчетах. Результаты основных статистических параметров совместных многолетних гидрологических и гидрохимических характеристик натурных данных приведены в таблицах 1...4.
Расчеты выполнены согласно приведенному списку литературных источников [1-5] с использованием результатов натурного эксперимента (Государственный водный кадастр. Разд. 1. : Поверхностные воды. - Сер. 2. Ежегодные данные о качестве поверхностных вод. - Ч. 1. Реки и каналы. -Т. 1 (28)РФ. Бассейны рек на территории Архангельской, Вологодской областей и Республики Коми).
По результатам статистической обработки натурных наблюдений за гидрологическими и гидрохимическими
Таблица 1
Результаты статистической обработка данных натурных наблюдений
по реке Леже
Показатель Расход, м3/с Азот аммонийный, мг/л Азот нитритный, мг/л Азот нитратный, мг/л Фосфор минеральный, мг/л Фосфор общий, мг/л
Количество значений 63 63 63 62 61 61
Максимальное значение 301 1,32 0,107 1,31 0,166 0,214
Минимальное значение 0,52 0 0 0,01 0 0,01
Среднее арифметическое значение 42,43 0,24 0,013 0,23 0,032 0,06
Коэффициент асимметрии С8 1,89 2,5 3,09 2,61 2,45 1,84
Коэффициент эксцесса Се 2,67 8,55 9,41 8,23 7,63 3,98
Дисперсия Г> 5302 0,05 0,0005 0,066 0,0009 0,002
Стандартное отклонение а 72,81 0,23 0,022 0,26 0,03 0,042
Коэффициент вариации Су 1,72 0,96 1,69 1,11 0,94 0,7
Отношение С8/Су 1,1 2,6 1,83 2,34 2,6 2,64
Коэффициент автокорреляции -0,19 0,48 -0,12 0,08 0,12 0,15
Отношение Неймана 2,37 1,03 2,24 1,82 1,75 1,65
Таблица 2
Результаты статистической обработки данных натурных наблюдений
по реке Двиннице
Показатель Расход, м3/с Азот аммонийный, мг/л Азот нитритный, мг/л Азот нитратный, мг/л Фосфор минеральный, мг/л Фосфор общий, мг/л
Количество значений 157 160 160 159 158 134
Максимальное значение 336 6,23 0,15 0,92 0,475 0,59
Минимальное значение 0,09 0 0 0 0 0
Среднее арифметическое значение 40,10 0,57 0,01 0,15 0,04 0,06
Коэффициент асимметрии С8 2,40 4,76 4,74 2,3 4,43 4,58
Коэффициент эксцесса Се 5,49 36,93 30,25 6,55 25,86 29,85
Дисперсия Б 5318,29 0,42 0,0003 0,031 0,003 0,0045
Стандартное отклонение о 72,93 0,65 0,017 0,18 0,057 0,067
Коэффициент вариации Су 1,82 1,13 2,08 1,15 1,63 1,07
Отношение С/Су 1,78 1,65 1,73 1,65 1,77 1,88
Коэффициент автокорреляции 0,08 0,13 -0,11 0,16 0,11 0,05
Отношение Неймана 1,32 4,21 2,28 2 2,73 4,28
Таблица 3
Результаты статистической обработка данных натурных наблюдений
по реке Верхняя Ерга
Показатель Расход, м3/с Азот аммонийный, мг/л Азот нитритный, мг/л Азот нитратный, мг/л Фосфор минеральный, мг/л Фосфор общий, мг/л
Количество значений 147 153 156 152 148 131
Максимальное значение 304 1,92 0,092 0,45 0,092 0,302
Минимальное значение 0,15 0 0 0 0 0
Среднее арифметическое значение 13,11 0,45 0,003 0,09 0,01 0,04
Коэффициент асимметрии С8 7,16 1,14 6,89 1,69 1,92 4,03
Коэффициент эксцесса Се 65,42 0,34 53,06 2,99 5,27 22,15
Дисперсия £) 878,99 0,21 0,0001 0,01 0,0002 0,001
Стандартное отклонение а 29,65 0,46 0,01 0,09 0,02 0,04
Коэффициент вариации Су 2,26 1,01 3,07 1,02 1,00 0,90
Отношение С/С„ 3,16 1,13 2,25 1,65 1,91 4,48
Коэффициент автокорреляции -0,03 0,36 0,11 0,09 0,24 -0,02
Отношение Неймана 2,05 1,26 1,78 1,77 1,50 1,92
Таблица 4
Результаты статистической обработки данных натурных наблюдений
по реке Кичменге
Показатель Расход, м3/с Азот аммонийный, мг/л Азот нитритный, мг/л Азот нитратный, мг/л Фосфор минеральный, мг/л Фосфор общий, мг/л
Количество значений 165 156 163 162 152 131
Максимальное значение 820 1,72 0,132 0,66 0,184 0,394
Минимальное значение 0,1 0 0 0 0 0,005
Среднее арифметическое значение 66,93 0,38 0,004 0,11 0,02 0,05
Коэффициент асимметрии Се 3,36 1,55 7,27 1,73 3,35 4,41
Коэффициент эксцесса Се 17,06 2,49 59,36 3,41 15,06 29,67
Дисперсия, Б 10983 0,12 0,0002 0,01 0,001 0,002
Стандартное отклонение а 104,8 0,34 0,01 0,12 0,03 0,04
Коэффициент вариации Су 1,57 0,91 3,21 1,09 1,23 0,94
Отношение С8/Су 2,15 1,70 2,27 1,58 2,74 4,68
Коэффициент автокорреляции 0,10 0,21 -0,02 0,13 0,10 0,15
Отношение Неймана 1,74 1,54 2,03 1,62 1,18 1,66
показателями малых рек можно сделать следующие выводы:
все рассматриваемые ингредиенты имеют положительную асимметрию;
высокие значения Сн обусловливают смещенность случайных величин относительно центра распределения, причем в большинстве случаев отклонение максимальных значений превышает диапазон разброса в 3а;
большие значения дисперсии и соответствующие ей средние квадрати-ческие отклонения (стандартные отклонения) получены для расходов воды;
в большинстве случаев величины коэффициента автокорреляции имеют положительное значение;
значения С в некоторых случаях близки к единице, а в большинстве случаев превышают ее;
при определении значимости автокорреляционных связей по критерию Андерсона можно утверждать ее наличие при количестве значений в выборке 150...180, если коэффициент автокорреляции превышает 0,15 при 5%-м уровне значимости, а при количестве 60 значений - 0,19;
по отношению Неймана для уровня значимости 5 %о коэффициент автокорреляции значим в выборке: для 60 значений - при величине меньше 1,6; для 160.180 значений - при величине меньше 1,7.1,8.
Значимость коэффициента автокорреляции установлена для аммонийного азота - реки Лежа, Верхняя Ерга и Кичменга, для фосфора общего - реки Лежа и Кичменга, фосфора минераль-
ного - река Верхняя Ерга. Для остальных ингредиентов значимость автокорреляции не подтверждается или носит противоречивый характер.
Наибольшие значения отношения Cs/Cv получены для фосфора общего. В большинстве случаев оно приближается к двум и выше.
Резюмируя полученные результаты статистической обработки многолетних экспериментальных гидрологических и гидрохимических характеристик, следует предположить неоднородность данных натурных наблюдений в выборках, обусловленную годовой неравномерностью формирования случайных величин. Для ликвидации неоднородности случайных величин следует разделить выборку на сезоны и месяцы.
Список литературы
1. Бронштейн, И. Н. Справочник по математике [Текст] / И. Н. Бронштейн, К. А. Семенов. - М. : Наука, 1980. -977 с.
2. Максимов, Ю. Д. Математическая статистика [Текст] / Ю. Д. Максимов. -СПб. : СПБГПУ, 2004. - 100 с.
3. Михалев, М. А. Инженерная гидрология [Текст] / М. А. Михалев. - СПб. : СПбГПУ, 2003. - 360 с.
4. Гидрологические основы гидротехники [Текст] / А. Ш. Резняковский [и др.]. - М. : Энергия, 1979. - 232 с.
5. Общая теория статистики / Т. В. Ряпушкин [и др.]. - М. : Изд-во «Финансы и статистика», 1981. - 279 с.
Материал поступил в редакцию 29.04.09. Коваленко Сергей Николаевич, кандидат технических наук, доцент, докторант
Тел.: 8 (812) 535-46-10 E-mail: kovalenko03@mail.ru
