УДК 519.2:556
СТАТИСТИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ ГИДРОХИМИЧЕСКИХ ПОКАЗАТЕЛЕЙ КАЧЕСТВА ВОДЫ ПОВЕРХНОСТНЫХ ВОДНЫХ ОБЪЕКТОВ
© 2012 г. А.П. Лепихин12, А.А. Возняк2
1 Горный институт Уральского отделения Российской академии наук, г. Пермь
2 Камский филиал ФГУП «Российский научно-исследовательский институт комплексного использования и охраны водных ресурсов», г. Пермь
Ключевые слова: гидрохимические показатели, качество воды, статистики гидрохимических показателей, функции распределения гидрохимических показателей.
А.П. Лепихин А.А. Возняк
Рассмотрен механизм формирования функций распределения химических показателей качества воды. Показано, что изменчивость распределения показателей качества воды характеризуется очень существенной асимметрией и не может быть аппроксимирована нормальным распределением, за исключением растворенного кислорода, гидрокарбонатов и кремния. Предлагается схема построения расчета точечных показателей качества воды на основе материалов регулярного гидрохимического мониторинга качества воды водных объектов.
Общие положения
В простейшем случае изменение содержания рассматриваемых ингредиентов в какой-либо заданной точке водного объекта представляет собой одномерный случайный процесс, который на определенном временном интервале может рассматриваться как стационарный относительно первого и второго моментов. Случайный процесс достаточно полно, как известно,
Водное хозяйство России № 4, 2012
Водное хозяйство России
описывается совокупностью функций распределения и автокорреляции. Положенная в основу действующего мониторинга поверхностных водных объектов дискретная схема наблюдений с шагом Тд >> Т (где Т - характерное время изменения ^го ингредиента под воздействием естественных или антропогенных факторов) делает практически невозможным анализ автокорреляционной функции. Соответственно, продолжительности непрерывного «стояния» определенных концентраций нормируемых поллютантов в действующих российских нормативно-методических документах, связанных с регламентацией антропогенных воздействий на водные объекты [1, 2], в отличие от ряда зарубежных стандартов, в явном виде не учитываются.
Поэтому в данном приближении характеристики изменения содержания химических веществ в воде водных объектов могут быть описаны достаточно полно на уровне одномерных функций распределения.
Использование статистических функций распределения гидрохимических показателей качества воды требуется при решении следующих задач:
- оценка корректности и обоснованности использования методов параметрического статистического анализа при анализе гидрохимической информации;
- построение эффективных, устойчивых показателей «характерных» значений содержания лимитирующих показателей качества воды как естественных, так и искусственных водных объектов;
- установление эффективных «статистических» фильтров отбраковки «испорченных», некорректных результатов анализов проб воды;
- оценка (расчет) экстремальных значений заданной обеспеченности лимитирующих показателей качества воды.
В настоящее время традиционные схемы статистического анализа гидрохимических показателей качества воды основываются, как правило, на параметрических методах статистики.
Данная ситуация приводит к тому, что несмотря на то что статистические колебания химических показателей качества воды характеризуются существенной асимметрией, традиционные статистические оценки строятся на основе среднеарифметических значений. При этом они часто оказываются неэффективными из-за неустойчивости определяемых на их основе характеристик.
В настоящее время достаточно широко обсуждается вопрос о том, что функции распределения химических показателей качества воды не подчиняются нормальному закону распределения [3-5].
Поэтому при анализе эмпирических функций распределения, в первую очередь, проверялась их согласуемость с нормальным распределением. При этом в качестве показателей «нормальности» распределения использовались следующие критерии:
Водное хозяйство России № 4, 2012
Водное хозяйство России
- Колмогорова-Смирнова;
- асимметрии;
- Шапиро-Уилка.
Основные статистические расчеты были проведены на основе использования лицензионного программного продукта 81аЙ8йеа 6, а имитационное статистическое моделирование - программного продукта МаШсад 14, которые позволяют достаточно просто и эффективно выполнить требуемые расчеты.
Анализ эмпирических статистик химических показателей качества воды на реках Камского бассейна
В качестве исходной информации использовались материалы сетевых ежемесячных наблюдений 1974-2000 гг., полученные территориальным подразделением Росгидромета в бассейне Верхней Камы. Всего рассматривалось свыше 68 створов с общим количеством контролируемых показателей качества воды не менее 23 для каждого створа.
В связи с тем, что в работе использовались различные массивы информации за достаточно длительный промежуток времени, на этапе статистической обработки оценивалась однородность гидрохимических рядов с использованием критериев Стьюдента и Манн-Уитли. Дальнейший анализ проводился по однородным выборкам.
«Нормальность» распределения очень существенно влияет на характер статистической обработки рассматриваемых рядов наблюдений. Поэтому в настоящее время предложено достаточно большое количество критериев проверки нормальности распределения, использующих различные свойства данного распределения [6].
Были использованы три критерия оценки «нормальности» распределения рассматриваемых выборок: отношение , Колмогорова-Смирнова,
CS
а также критерий Шапиро-Уилка [6] (Сх - коэффициент асимметрии рассматриваемой выборки; аСз - среднеквадратическое отклонение его оценки). Так как для нормального распределения С5 = 0, а ошибку вычисления выборочных С5 в первом приближении можно принять как имеющую нор-
С
мальное распределение, то если —— > 2 , то с уровнем значимости 0,05
°с
гипотеза о нормальном распределении рассматриваемой выборки может быть отвергнута.
Следует особо отметить критерий Шапиро-Уилка, основанный на отношении оптимальной линейной несмещенной дисперсии к ее обычной оцен-
Водное хозяйство России № 4, 2012
Водное хозяйство России
Таблица 1. Частота (вероятность) описания отдельных химических показателей качества воды на водных объектах Камского бассейна нормальным распределением
№ п/п Наименование веществ Процентное соотношение, % № п/п Наименование веществ Процентное соотношение, %
1 Взвешенные вещества 50 13 Кремний 85
2 Кислород 100 14 Фосфор 30
3 Магний 47 15 Железо 45
4 Хлориды 36 16 Медь 64
5 Сульфаты 37 17 Цинк 40
6 Минерализация 68 18 Марганец 50
7 Гидрокарбонаты 72 19 Фенол 47
8 ХПК 50 20 Кальций 72
9 бпк5 62 21 Нефтепродукты 41
10 Азот аммонийный 43 22 СПАВ 43
11 Азот нитритов 54 23 Фосфаты 62
12 Азот нитратов 56
ке методом максимального правдоподобия. По оценке [6] данный критерий является одним из наиболее эффективных критериев проверки нормальности распределения случайных величин. Нулевая гипотеза нормальности распределения случайных величин отклоняется, если величины критериев Ж < Жкр ^а). Как следует из [6], при N > 50; а = 0,05; Жкр = 0,95 можно принять, что при Ж > 0,95 ряд с уровнем значимости 0,05 может считаться имеющим нормальное распределение.
Выполненный анализ эмпирических выборок химических показателей качества воды для рассматриваемых водных объектов позволил оценить частоту (вероятность) приемлемости использования нормального распределения для описания их статистических колебаний (табл. 1).
Характерной особенностью распределения химических показателей качества воды на всех рассматриваемых створах является существенная асимметрия оцениваемых показателей. Низкой асимметрией и значительно высокими отклонениями от критических значений показателя Шапиро-Уилка характеризуются распределения содержания кислорода (100 %), гидрокарбонатов (72 %) и кремния (85 %). Распределение других химических показателей качества воды очень существенно отличается от нормального (см. табл. 1), для них Ж < 0,95.
Водное хозяйство России
Схемы формирования статистических колебаний химических показателей качества воды в русловых потоках
В общем случае содержание химических веществ в водных объектах определяется совокупностью внешних по отношению к водному объекту факторов и внутриводоемных процессов. При этом принципиальное значение на формирование структурных колебаний химических показателей качества воды водного объекта оказывает их связь с расходом водотока. Внутриводо-емные по механизмам изменения содержания лимитирующих ингредиентов разделяются на процессы:
- разбавления;
- трансформации, самоочищения;
- миграции.
При этом сами поллютанты в зависимости от их поведения в водных объектах разделяются на консервативные, неконсервативные, гетерофазно-неконсервативные.
Изменение содержания в водных объектах консервативных веществ происходит только вследствие процессов разбавления, для неконсервативных определяющими факторами наряду с процессами разбавления становятся процессы трансформации и самоочищения [4, 7].
Для гетерофазно-неконсервативных ингредиентов характерной особенностью является их способность активно мигрировать между отдельными звеньями системы <вода> <взвешенные наносы> <донные отложения>.
Таким образом, если изменения содержания консервативных загрязняющих веществ в водных объектах определяются только интенсивным их поступлением в водный объект и разбавлением, при этом характер внутриводоемных процессов не зависит от характера поллютанта, то для неконсервативных и тем более гетерофазно-неконсервативных веществ интенсивность внутриводоемных процессов существенно зависит от характера веществ.
В отдельном частном случае, когда роль внутриводоемных процессов в трансформации и миграции поллютантов минимальна, имеем
(1)
ь
где д (() ~ | у ((, х, С- интенсивность поступления поллютанта в вод-
0
ный объект, г/с;
У - удельная интенсивность поступления поллютанта, г/мхс.
Водное хозяйство России
Для дальнейшего анализа без существенной потери общности целесообразна степенная аппроксимация д(() ~ Р( • 2"12. При адв = 1 величина С(( ) перестает зависеть от расхода водотока, а определяется параметром Рд(, представляющим в данном случае эффективную концентрацию поступающих в водоток поллютантов. Данная ситуация характерна для консервативных поллютантов, в первую очередь, хлоридов, магния, калия, натрия.
Р Р
В более общем случае имеем С ((())«—^^— = ~<( ' При величине
1 - адд = р параметр адд может быть как положительной величиной (адд > 0), когда интенсивность привноса поллютантов возрастает при увеличении (, так и отрицательной, если интенсивность поступления /-го поллю-танта падает при увеличении ( .
Если изучению характера функций распределения расходов воды в реках посвящены многочисленные исследования, то процессы формирования и статистические структуры С(/) изучены хуже.
Когда известна интегральная функция распределения -(д) процесса д(2(0, 0 распределения Ре((), нетрудно определить функции распределения и РС(С), используя интеграл свертки
Р
(С) = ]Рв(<)• (С-<)й< .
(2)
Если д(/) и ((0 описываются гамма-распределением, то Р(С) =
С"-1 • (1 + С)м
Б(и + V)
- бета-распределение второго рода при и = 1, V = 1 вырож-
дается в распределение Коши-Лоренца.
При д ~ ( С(2) = —р, где 00 - интенсивность поступления от источника
(
загрязнения. При этом, как известно, Р(С) = ветственно, имеем
й ф"1 (С)
dx
Р(С) = д0 ^ )• С ^
• Рп
( 1 ^ Ср
1/р.
Р (ф"1 (С)). Соот-
(3)
Как правило, для описания распределения расходов воды водотоков-приемников используется гамма-распределение. Характерной особенностью данного распределения является то, что оно характеризуется «тяжелым
Водное хозяйство России № 4, 2012
Водное хо зяйство России
хвостом», т. е. вероятность экстремальных значении значительно повышена. В этом случае динамика содержания рассматриваемых поллютантов в водных объектах определяется совокупностью инерционных и флуктуаци-онных внутриводоемных процессов
dC = f (с,t )+o(C,t ).<#),
(4)
где f (С, О - функция, определяющая динамику поведения загрязняющих веществ в водном объекте, в простейшем случае описывается какf(С, 0=К ■ С; £(0 - составляющая флуктуационного воздействия; о(С, t) - ее среднее квадратическое отклонение.
T
При этом обычно соблюдается условие >> 1, где Ти, ^ - характерные
времена, соответственно:
действия инерционных факторов T =
f (C,t)
f (C, t)
dt
J J
действия флуктуационных факторов = |Rг.5 (х)^т ;
о
Ri;s(т) - автокорреляционная функция £(0.
В случае нормального распределения возмущающей функции для С(0 допустима аппроксимация в виде диффузионного процесса, а его стационарная функция распределения будет иметь следующий вид [8]: ' Cf ^
p (c )=K exp (-{
a2 (e)
(5)
Константа K определяется из условия нормирования функции P(C) как
да
J p (с ) = 10
Отсюда следует, что в простейшем случае для химических показателей качества воды при f (e) = f = const и o(e) = o0 = const имеет место экспоненциальное распределение, а приf (e) = а ■ e и o(e) = о0 = const - распределение Гаусса. В более общем случае при f (e) = f+f1e и o(e) = o0 + o1e + o2e2 стационарное распределение вероятности Р(С) удовлетворяет уравнению
dP(C)
C - C
dC b0 + b1C + b2C
P(C);
(6)
Водное хозяйство России № 4, 2012
Водное хозяйство России
С = - Л . ь =
0 Г Т ' 0 1
/1 - 2а2 С1 " 2С2
Ь = Ь2 =
с1 — 2с2 с1 — 2С2
Решением для уравнения (6) при различных значениях С0, Ь0, Ь1, Ь2 является так называемое распределение Пирсона - в частном случае, когда Ь2 = 0 - это двухпараметрическое гамма-распределение (рисунок а).
а
600
с, мг/л
500 400 300 200 100 0
б
3,5
С, мг/л
3,0 2,5 2,0 1,5 1,0 0,5 0,0
1 25 50 75 90 95 99 р, %
Рисунок. Интегральная функция распределения по створу р. Быстрый Танып - г. Чернушка: а - хлоридов; б - азота аммонийного.
Распространение: Гамма (1)
Водное хозяйство России № 4, 2012
Водное хо зяйство России
Таблица 2. Типы распределения гидрохимических показателей качества воды в зависимости от структуры функции / (с) при о(с) = сош!
Структура функции f (C) Плотность статистического распределения
fC) = const fC) = a ■ C AC) ~ - a/c fC) ~ - a ■ ln(C) AC) = exp(- a ■ c) Показательное распределение (распределение Лапласа) Нормальное распределение (распределение Гаусса-Лапласа) Степенное распределение (распределение Парето) Гамма-распределение Распределение экстремального значения
Рассмотрим, как будет изменяться характер функции распределения Р(С) в зависимости от структуры функции / (С) и о (С). В простейшем случае при/(С) ~ к, т. е. когда данная функция является независимой от концентрации рассматриваемых поллютантов в воде водного объекта, как нетрудно видеть из соотношения (5), имеем место экспоненциальное распределение
P (C) = 0-exp (-к/а2 • C) , к
(7)
которое имеет фиксированное значение коэффициента вариации CV = 1 и
асимметрии С = 2 (рисунок б).
Если содержание ингредиентов в водных объектах описывается кинетическим уравнением первого порядка / (С) = —а (с — С ^, что, исходя из особенностей условий формирования, характерно, в первую очередь, только для кислорода [8], то оно описывается нормальным распределением. Как уже отмечалось, «нормальность» распределения содержания кислорода и кремния (см. табл. 1) является характерной особенностью динамики гидрохимического состава на абсолютном большинстве рассматриваемых створов наблюдений.
В целом характер функции гидрохимических показателей качества воды в зависимости от структуры функции/(С) при о = сош! представлен в табл. 2.
Построение оптимальных точечных расчетных оценок фоновых концентраций
При решении широкого круга практических задач требуются точечные оценки содержания химического показателя в воде водного объекта.
В общем виде точечную оценку рассматриваемых значений можно провести, используя схему средних значений Колмогорова
1
N
Ф-11 х)
Водное хозяйство России № 4, 2012
Водное хозяйство России
В достаточно общем виде задача состоит в нахождении такой оценочной функции фу [5], чтобы параметр Сфу, оцениваясь на основе соотношения
Ефу(С -СФу) = 0
(8)
по заданной выборке объема N характеризовался бы минимальной дисперсией.
В простейшем случае, если рассматриваемая выборка:
- стационарна;
- статистически независима;
- описывается нормальным законом распределения,
то наиболее эффективны оценки, построенные с использованием ф(х) = х.
Для других функций распределений характер функции ф(х), при котором будут наблюдаться оптимальные оценки средних значений, может существенно отличаться. При этом возникает задача или нахождения оптимальных функций фу для характерных распределений рассматриваемых ингредиентов, или использования оценок на основе квантилей, являющихся непараметрическими оценками.
Простейшую непараметрическую оценку характерного значения рассматриваемой характеристики имеем при фу(х) = sgn(x). В этом случае в качестве Сфу получаем медиану рассматриваемой выборки.
Численным критерием эффективности применяемого точечного показателя является дисперсия его оценки по заданной выборке объема N. Как известно, дисперсия среднеарифметического значения х задается соотношением
В (х ) = —
У ' N
(9)
(при дисперсии о2 рассматриваемой выборки объема
Согласно [9], дисперсия координаты любого квантиля соответствующей вероятностир определяется следующим соотношением:
В[х,]=
р(1 - р) ( [ р (хр )]2}
(10)
где р(хр) - плотность распределения в точке хр; хр - координата квантиля порядка р.
Для медианы нормального распределения, соответственно, имеем с2(2 -л)
В[х,]=
4 - N
с
N
(11)
Водное хозяйство России № 4, 2012
Водное хо зяйство России
1=1
Таблица 3. Значения среднеквадратичных отклонений оценки среднеарифметических значений и медианы для различных функций распределения
№ п/п Тип распределения к
1 Нормальное распределение 0,64
2 Распределение Коши да
3 Распределение Лапласа 2
Из соотношений (9) и (11) следует, что оценки, построенные на основе средних арифметических характеристик, в п/2 раз более эффективны, чем на основе медианы. Однако данное утверждение справедливо, как уже отмечалось, только для нормального закона распределения.
Относительная погрешность оценки центра распределения с использованием медианы по сравнению со среднеарифметическим, определяемая
г. Щ х)
как к = Л , зависит от характера распределения (табл. 3).
Щ(Л)
Естественно, что оценка центра распределения в виде средних выборочных х эффективна лишь для одномодальных распределений, близких к гауссовскому, тогда как оценки на основе медианы более эффективны для островершинных распределений.
По оценке [10] для плосковершинных и двухмодальных распределений
( х0 25 + х0 75 /
более эффективна оценка в виде центра сгибов хс = -—:—-—:—-, а при
(х + х )
весьма ограниченной выборке - в виде центра размахов хр = -—-—-, где
х1, хы - первые и последние члены упорядоченной выборки.
При сопоставлении различных оценок центра распределения необходимо учитывать также их чувствительность к грубым ошибкам измерений или передачи информации. Параметрические статистики являются более чувствительными к этим погрешностям, чем непараметрические, построенные с использованием квантилей, в т. ч. медиана.
Поэтому, учитывая сложный характер статистических распределений химических показателей качества воды водных объектов, оценка их характерных значений должна проводиться не на основе параметрического показателя - среднеарифметических значений, а на основе квантилей.
Водное хозяйство России
Выводы
В целом, проведенный анализ эмпирических функций распределения показал:
- распределение Гаусса, как правило, описывает распределение содержания в воде растворенного кислорода и химических показателей, формирующихся, в основном, за счет равномерно распределенных факторов;
- изменчивость распределения всех других показателей качества воды характеризуется очень существенной асимметрией и не может быть аппроксимирована нормальным распределением;
- техногенез, как правило, существенно усиливает асимметрию распределения химических показателей [5];
- точечные показатели качества воды из-за существенной асимметрии распределения целесообразно строить на основе квантилей значений порядка, в т. ч. медианы, а не среднеарифметического значения, как это имеет место в действующих нормативно-методических документах.
СПИСОК ЛИТЕРАТУРЫ
1. Методические указания по разработке нормативов допустимых воздействий. Утв. Прика-
зом МПР России № 328 от 12.12.2007.
2. РД 52.24.622-2001 Методические указания. Проведение расчетов фоновых концентраций
химических веществ в воде водотоков.
3. Банникова О.А., Бычкова Е.Н. К вопросу об установлении региональных нормативов ка-
чества воды // Водное хозяйство России. 2011. № 6. C. 54-68.
4. Лепихин А.П., Мирошниченко С. А. Анализ функциональных зависимостей между содер-
жанием поллютантов, обусловленных техногенными факторами, и расходами водотоков-приемников // Водохозяйственные проблемы. Екатеринбург 1997. Вып. 2. C. 41-60.
5. Лепихин А.П., Мирошниченко С. А. Особенности задания «фоновой» концентрации в ес-
тественных водотоках // Водное хозяйство России. 2002. Т. 3. № 3. C. 247-262.
6. Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работни-
ков. М.: ФИЗМАТЛИТ, 2006. 816 с.
7. Никаноров А.М. Гидрохимия: Учебник. 2-е изд., перераб. и доп. СПб.: Гидрометеоиздат,
2001. 444 с.
8. ТихоновВ.И., МироновМ.А. Марковские процессы. М.: Сов. радио, 1977. 488 с.
9. Крамер Г. Математические методы статистики. М.: Мир, 1975. 646 с.
10. Новицкий П.В., Зограф И.А. Оценка погрешностей результатов измерений. Л.: Энерго-
атомиздат, 1991. 301 с.
Сведения об авторах:
Лепихин Анатолий Павлович, д. г. н., профессор, заведующий лабораторией, Горный институт Уральского отделения Российской академии наук (УрО РАН), 614007, г Пермь, ул. Сибирская, 78; директор, Камский филиал ФГУП РосНИИВХ, 614007, г. Пермь, ул. Народовольческая, 33; e-mail: lepihin49@mail.ru
Возняк Анна Анатольевна, к. г н., старший научный сотрудник, Камский филиал ФГУП РосНИИВХ, 614007, г. Пермь, ул. Народовольческая; 33, e-mail: AAVoznyak@gmail.com
Водное хозяйство России № 4, 2012
Водное хозяйство России