CC BY
29
УДК 628.394(001.57)
СТАТИСТИЧЕСКАЯ ОБРАБОТКА НАТУРНОЙ ИНФОРМАЦИИ ПРИ ИЗУЧЕНИИ БИОГЕННОГО ЗАГРЯЗНЕНИЯ МАЛЫХ РЕК (НА ПРИМЕРЕ БАССЕЙНА РЕК ВЕРХНЕЙ ВОЛГИ)
С. Н. Коваленко, канд. техн. наук, доцент
ГОУ ВПО «Санкт-Петербургский государственный политехнический университет»,
т. (812) 53-54-610
Разработана и адаптирована методика статистического анализа экспериментальных рядов наблюдений на примере биогенного загрязнения малых рек Нечерноземной зоны РФ. Выполнена оценка автокорреляционных связей в рядах наблюдений. Результаты статистической обработки натурных данных рассматриваются в качестве исходной информации для математического моделирования процесса загрязнения поверхностных водотоков.
Ключевые слова: Нечерноземная зона РФ, малая река, биогенное загрязнение, математическая статистика.
Статистический анализ натурной гидрологической и гидрохимической информации является основой для получения аналитических кривых обеспеченностей и математического моделирования концентрации биогенного загрязнения малой реки в створе полного смешения речных и сбросных вод, поступающих в реку с сельскохозяйственных угодий. Малые реки -это водотоки, протекающие в одной географической зоне, имеющие характерные особенности, связанные с климатическими, гидрогеологическими, гидробиологическими и гидрохимическими параметрами. К малым рекам относятся все водотоки длиной до 200 км и площадью водосбора до 2000 км2. Следует отметить слабую изученность гидрохимических и гидрологических характеристик малых рек Нечерноземной зоны РФ. Учитывая возрастающее ухудшение экологического состояния поверхностных водотоков, изучение процессов поступления, распределения и трансформации загрязняющих веществ в водотоках является актуальной задачей. В настоящей работе загрязнение поверхностных вод рассматривается как вероятностный процесс. Данный метод основан на предположении о случайности процесса формирования концентрации загрязнения. Стохастичность процесса обусловлена множеством факторов, определяющих величину концентрации загрязняющего вещества в контрольном створе. К этим факторам в первую очередь следует отнести климатические, антропогенные, биологические и морфологические. Определением расчетных гидрологических характеристик с учетом их стохастической природы зани-
мались С. Крицкий, М. Мендель, А. Чеботарев, А. Рождественский, М. Михалев, А. Резниковский, Е. Блохинов Г. Сванидзе и др. В отличие от гидрологических характеристик гидрохимические параметры изучены слабо. Это обусловлено короткими сроками наблюдений, редким отбором проб, трудоемкостью определения величин концентраций.
На основе полученных статистических результатов обработки натурной информации предполагается осуществить удлинение экспериментальных рядов наблюдений математическими методами (метод статистических испытаний Монте-Карло).
В основу исследований положены результаты наблюдений государственной службы Росгидромет РФ. Натурная гидрологическая и гидрохимическая информация по биогенному загрязнения малых водотоков была собрана по рекам Вологодской области. Вологодская область относится к северному отделению Росгидромета. В настоящей работе приведена статистическая обработка натурной информации по реке Ягорбе. Она относится к бассейну рек Верхней Волги. Река Ягорба подвергается интенсивному антропогенному влиянию различных хозяйственных объектов сельскохозяйственного профиля. Выбранная малая река является характерной для Нечерноземной зоны РФ. Период наблюдений за водным объектом составляет более 15 лет. Река Ягорба относится к водотокам третьей категории, отбор проб осуществлялся ежемесячно. На данной реке оборудовано три поста наблюдений за гидрологическими и гидрохимическими характеристиками. Первый
Нива Поволжья № 1 (14) февраль 2010 15
Результаты статистической обработки данных натурных наблюдений по реке Ягорбе (д. Мостовая)
Параметр Расход, м3/с Азот мг/л Фосфор мг/л
аммонийный нитрит-ный нитратный минеральный общий
Количество значений 182 184 164 160 186 183
Максимальное значение 250 1,86 0,52 1,9 0,55 0,88
Минимальное значение 0,03 0 0 0,01 0 0,016
Среднее арифметическое значение 7,67 0,36 0,03 0,38 0,08 0,13
Коэффициент асимметрии Cs 6,65 1,89 6,16 1,81 2,35 3,75
Коэффициент эксцесса Се 52,99 5,04 51,96 3,68 8,26 18,50
Дисперсия D 661,62 0,08 0,00 0,13 0,01 0,01
Стандартное отклонение а 25,72 0,28 0,05 0,37 0,08 0,11
Коэффициент вариации ^ 3,35 0,79 1,91 0,97 1,01 0,89
Отношение Cs/Cv 1,98 2,41 3,23 1,86 2,33 4,19
Коэффициент автокорреляции 0,06 0,10 0,05 0,34 0,36 0,06
Отношение Неймана 1,87 1,78 1,86 1,17 1,28 1,82
гидрометрический пост расположен в среднем течении водотока около деревни Мостовая. Второй и третий посты наблюдений расположены в устье реки у правого и левого берега.
Начальным этапом обработки натурной информации является формирование банка данных натурных наблюдений (БДНН). Натурная гидрометрическая и гидрохимическая информация, предоставленная Росгидрометом, была преобразована в электронные таблицы в системе Microsoft Office Excel. БДНН представляет собой набор файлов, содержащих исходную информацию по каждому створу. Файл БДНН состоит из следующих параметров: расход реки, азот аммонийный, азот нитритный, азот нитратный, фосфор минеральный и фосфор общий. Гидрохимические и гидрологи-
ческие параметры располагаются в хронологической последовательности в течение 1990-2006 гг. наблюдений. Натурные данные связаны с датой отбора проб.
При выборе методов оценки натурной информации проведен литературный анализ возможных методов. В основу обработки данных натурных наблюдений положена математическая статистика методом моментов, широко используемая в практических расчетах. Результаты статистической обработки совместных многолетних гидрологических и гидрохимических характеристик натурных данных приведены в таблицах № 1-3.
Расчеты выполнены согласно приведенному списку литературных источников [1-5] с использованием результатов натурного эксперимента [6].
Таблица 2
Параметр Азот, мг/л Фосфор, мг/л
аммонийный нитритный нитратный минеральный общий
Количество значений 196 193 194 196 196
Максимальное значение 5,05 0,372 1,87 0,89 0,74
Минимальное значение 0,02 0 0 0 0,008
Среднее арифметическое значение 0,48 0,03 0,33 0,05 0,11
Коэффициент асимметрии Cs 4,45 3,53 1,84 4,91 2,73
Коэффициент эксцесса Се 22,96 16,03 3,69 34,48 13,70
Дисперсия D 0,49 0,00 0,11 0,01 0,01
Стандартное отклонение а 0,70 0,05 0,34 0,09 0,09
Коэффициент вариации ^ 1,47 1,58 1,01 1,80 0,76
Отношение Cs/Cv 3,03 2,24 1,83 2,73 3,57
Коэффициент автокорреляции 0,55 0,12 0,30 0,09 0,19
Отношение Неймана 0,91 1,73 1,37 1,82 1,61
Результаты статистической обработки данных натурных наблюдений по реке Ягорбе (устье, левый берег)
16
Агрономия
Результаты статистической обработки данных натурных наблюдений по реке Ягорбе (устье, правый берег)
Параметр Азот, мг/л Фосфор, мг/л
аммонийный нитритный нитратный минеральный общий
Количество значений 121 121 121 123 122
Максимальное значение 2,42 0,77 2,08 0,43 0,46
Минимальное значение 0,02 0 0 0 0,022
Среднее арифметическое значение 0,39 0,032 0,27 0,044 0,13
Коэффициент асимметрии Об 2,75 7,55 2,94 3,21 1,63
Коэффициент эксцесса Се 10,13 67,77 10,94 11,97 3,2
Дисперсия й 0,13 0,006 0,12 0,005 0,007
Стандартное отклонение а 0,36 0,08 0,35 0,07 0,083
Коэффициент вариации Оу 0,94 2,48 1,26 1,53 0,65
Отношение Об/Оу 2,94 3,05 2,33 2,096 2,5
Коэффициент автокорреляции 0,02 0,08 0,19 0,00 0,20
Отношение Неймана 1,95 1,84 1,62 1,96 1,59
По результатам статистической обработки натурных данных можно сделать следующие выводы:
1. Все рассматриваемые ингредиенты имеют положительную асимметрию.
2. Высокие значения Ов обусловливают смещенность случайных величин относительно центра распределения, причем в большинстве случаев отклонение максимальных значений превышает диапазон в ±3 а.
3. Большие значения дисперсии и соответствующие ей стандартные отклонения получены для расходов воды.
4. Коэффициент автокорреляции имеет положительное значение для всех параметров.
5. Значения Су в большинстве случаев близки к единице.
6. При определении существенности автокорреляционных связей по критерию Андерсона можно утверждать наличие ее при количестве значений в выборке 150... 180, если коэффициент автокорреляции превышает 0,15 при 5 % уровне значимости.
7. По отношению Неймана для уровня значимости 5 % коэффициент автокорреляции значим в выборке для 120.200 значений при величине, меньшей 1,7.1,8.
8. Коэффициент автокорреляции значим для нитратного азота во всех рассматриваемых створах, для фосфора общего - в устьевых створах, фосфора минерального -в створе у д. Мостовая. Для остальных ингредиентов значимость коэффициента автокорреляции не подтверждается или носит противоречивый характер.
9. Отношения Ов/Оу в большинстве случаев равно 2.3, и лишь для фосфора общего в створе д. Мостовая оно превышает эту величину.
Резюмируя полученные результаты статистической обработки многолетних экспериментальных гидрологических и гидрохимических характеристик, следует отметить неоднородность данных натурных наблюдений в выборках, обусловленную годовой неравномерностью формирования случайных величин. Для ликвидации неоднородности случайных величин следует разделить выборку на сезоны.
Литература
1. Бронштейн, И. Н. Справочник по математике / И. Н. Бронштейн, К. А. Семенов. -М.: Наука, 1980. - 977 с.
2. Максимов, Ю. Д. Математическая статистика / Ю. Д. Максимов. - СПб.: СПБГПУ, 2004. - 100 с.
3. Михалев, М. А. Инженерная гидрология / М. А. Михалев. - СПб.: СПбГПУ, 2003. -360 с.
4. Гидрологические основы гидротехники / А. Ш. Резняковский, А. Ю. Александров [и др.]. - М.: Энергия, 1979. - 232 с.
5. Общая теория статистики / Т. В. Ря-пушкин, М. Р. Ефимова [и др.]. - М.: Финансы и статистика, 1981. - 279 с.
6. Федеральная служба России по гидрометеорологии и мониторингу окружающей среды. Северное территориальное управление по гидрометеорологии и мониторингу окружающей среды. Государственный водный кадастр. Раздел 1 : Поверхностные воды. Серия 2: Ежегодные данные о качестве поверхностных вод. Часть 1: Реки и каналы. Том 1 (28): РФ (Бассейны рек на территории Архангельской, Вологодской областей и республики Коми).
Нива Поволжья № 1 (14) февраль 2010 17
