CC BY
15
Вестник науки и образования Северо-Запада России
http://vestnik-nauki.ru/ -------
2016, Т. 2, №4
УДК 556.5:627.8
К РАСЧЕТУ МИНИМАЛЬНЫХ ГОДОВЫХ УРОВНЕЙ РЕКИ ПРЕГОЛИ ЗАДАННОЙ ВЕРОЯТНОСТИ ПРЕВЫШЕНИЯ
В. А. Наумов, Е.А. Нелюбина, Е.Ю. Шамсутдинова
CALCULATION OF THE PREGEL RIVER MINIMUM ANNUAL LEVELS GIVEN PROBABILITY OF EXCEEDANCE V.A. Naumov, E.A. Nelubina, E.Y. Shamsutdinova
Аннотация. Исследован ряд минимальных годовых уровней реки Преголи. В первом приближении можно считать названный ряд однородным и использовать модель случайной величины. Вероятность того, что минимальные годовые уровни реки Преголи подчиняются трехпараметрическому гамма-распределения составляет 0,936. По теоретическойя кривой обеспеченности рассчитаны минимальные годовые уровни заданной вероятности превышения. Результаты исследований могут быть использованы при проведении инженерно-гидрометеорологических изысканий в бассейне реки Преголи.
Ключевые слова: река Преголя; минимальные уровни воды; вероятность превышения; теоретическая кривая.
Abstract. The numerical series of the minimal annual levels of the Pregel river are investigated. In the first approximation can be considered a named range and use a homogeneous model of a random variable. The probability that minimum annual levels of the river Pregel are subject to a three-parameter gamma distribution is 0,936. On the theoretical curve of calculated availability of the minimum annual levels specified probability of exceedance. The research results can be used to perform engineering hydrometeorological surveys in the basin of the Pregel river.
Keywords: Pregel river; minimum water level; probability of exceedance; theoretical curve.
Введение
Прогнозирование минимальных уровней в реках важно для гидроэнергетики, планирования судоходства, обеспечения водой из поверхностных источников и других направлений использования водных ресурсов. С точки зрения гидрологических процессов правильным является раздельное рассмотрение минимальных уровней открытого русла и зимних (во время ледостава). Однако в действующие нормативных документах [1, 2] такого четкого разделения не сделано. При проверке отчетов о проведении инженерно-гидрометеорологических изысканий эксперты требуют наличия расчетных минимальных годовых уровней реки без разделения по сезонам. Для чего необходимо построить кривую обеспеченности минимальных годовых уровней в исследуемом створе.
Как показано в [3-5], в качестве аналога для рек бассейна Преголи выбирают гидропост у города Гвардейска. В данной статье получена теоретическая кривая обеспеченности минимальных годовых уровней реки Преголи (Гвардейск), необходимая при проведении инженерно-гидрометеорологических изысканий. Ряд минимальных годовых уровней реки Преголи в створе города Гвардейска был представлен Калининградским ЦГМС. В расчетах был использован ряд минимальных уровней за 1954-2015 годы (длина ряда п = 62), так как в Гидрологических ежегодниках, изданных в послевоенные годы (см. [68] и др.) отметка условного нуля поста указана -5,00 м БС. В последующие годы и до настоящего времени отметка условного нуля поста принята -5,17 м БС (например, [9-12]). На рис. 1 и в дальнейшем все уровни даются в сантиметрах над указанной отметкой нуля поста.
http://vestnik-nauki.ru/
Н см
520 500 480 460 440 420
1955 1960 1965 1970 1975 1980 1985 1990 1995 2000 2005 2010 годы Рисунок 1 - Минимальные годовые уровни реки Преголи (город Гвардейск): 1 - данные наблюдений, 2 - со скользящим осреднением (3 года)
Низший уровень летне-осенней межени реки Преголи в створе города Гвардейска был зафиксирован 06.12.59: Н = 437 см. В отдельные годы минимальный уровень наблюдался во время зимнего ледостава. Например, 06.12.59: Н = 461 см (низший уровень в зимние месяцы за все время наблюдений), 12.03.60: Н = 493 см.
Гидрологическая характеристика бассейна реки Преголи приведена в [13]. Точечные оценки математического ожидания и среднего квадратического отклонения минимальных годовых уровней по формулам [14]:
1 • • |1 ■ ^
• • 9 ,1 * * Т и иГТ А \
4 1 ! * | ! «V ! / ■ Г'* * •V V %
| 1 И • • 1 Л 1 1 ■ 1 »
■ , ■. а.
ь
_ 1 " _
Н = -■ У Н, = 496,0 см, <7 =
п £
±(Н1 - Н )2 = 16,3 г =1
см.
(1)
Проверка ряда минимальных уровней
Для проверки однородности разбиваем ряд на две части, так как нет гидрологических причин вводить иное разбиение: п] = 31; п2 = 1 - п] = 31.
Первая гипотеза: дисперсии двух частей ряда равны. Выборочные средние расходы каждой части ряда:
Н1 = — -УНг = 490,5 см; Н2 п1 й
п1
тг 1
П2 г =п1 +1
У Н, = 501,4 см.
(2)
2
Исправленные выборочные дисперсии каждой части ряда
_ 1 п1 ___ 1 п _
А .- ——У(Н -Н1) = 224,7 см2; £>2 =--У (Н -Н2)= 253,7 см* . (3)
П г=1 П2 г=П1+1
Статистика критерия Фишера Г/ = £2 / = 1,13 меньше критического значения параметра при доверительной вероятности, начиная с у > 0,65. Первая гипотеза не отвергается.
Вторая гипотеза: математические ожидания двух частей ряда равны. Оценка средневзвешенной дисперсии [15]
http://vestnik-nauki.ru/
(гц -1) • Р + (П2 -1) • Р2 = 1547
П\ + П2 - 2
(4)
Значение параметра для проверки гипотезы о равенстве математических ожиданий [15]
Т/:=
Н1 - Н 1|
5/
1
Щ • П2
П1 + п2
= 2,78
(5)
Критическое значение Т/ по распределению Стьюдента не будет превышено при доверительной вероятности у = 0,996 и более. Но если исключить резко отличающееся наблюдение 1976 года, то доверительную вероятность можно снизить до значения у = 0,95. Поэтому и вторая гипотеза не отвергается.
Таким образом, данные выборки не противоречат гипотезе однородности ряда минимальных годовых уровней.
Для проверки применимости модели случайной величины используем критерий общего числа серий [15]. Нулевая гипотеза: минимальные годовые уровни можно считать случайной величиной. Сформируем массив
РН, = Н, - Н .
(6)
Серия состоит из следующих подряд элементов РН, одного знака. Общее число серий будет равно количеству изменений знака в соседних элементах указанного массива. Следующая программа [3] позволяет в среде МаШсаё сосчитать это число:
Ш:=
N ^ 0 /ог ] е 2..п N ^ N +1 / БН] • БН]-1 < 0
N
В рассматриваемом примере № = 25. Математическое ожидание числа серий и среднее квадратическое отклонение для случайной величины [15]
ЛГ п +1
mN =-= 31,5;
2
Ш = 2^1 = 3,90. 2
(7)
Доверительный интервал для числа серий случайной величины
[mN - п • Ш; mN + п • сМ] или [25,1; 37.9]. Так как N принадлежит найденному интервалу, нулевая гипотеза не отвергается.
Теоретическая кривая обеспеченности минимальных уровней
Выдвигаем гипотезу о распределении минимальных уровней по закону Крицкого-Менкеля [16]:
/(х):=
1
Г(а + Ь ) Ь • Г( а) I Г(а)
а/Ь
а/Ь-1 • х •ехр
Г(а + Ь) Г(а)
1 / Ь
•х
(8)
http://vestnik-nauki.ru/
где Г - стандартная гамма-функция; а, Ь - параметры, подлежащие определению; третий
параметр теоретического распределения Н - известен.
Модульные коэффициенты минимальных годовых уровней и эмпирическая ежегодная вероятность превышения (в процентах) [14]:
к, = Н,/Н ; Р1:= 100 • ¡/(п +1) .
(9)
Для определения параметров распределения (8) методом наибольшего правдоподобия вычисляем значение Х2 [14]:
1
¿2 Пк)=-5,753•Ю-4.
п -1 ^
г=1
(10)
Параметры а, Ь закона распределения могут быть найдены из системы интегральных уравнений [17]:
(ю \
¿2 + 1п\
Ь
Г(а + Ь)) _
Г(а) I Г (а)
11а 1 • ¡п(г) • ехр(
V о
= о,
с
а •¿2 -
Г(а + Ь) Г(а)
1 /Ь
• £ \п(к, )•(, )1'
,=1
+ Ь = 0.
(11) (12)
Систему интегральных уравнений (11)-(12) решаем в среде МаШсаё численным методом, описанным в [3, 18]: а = 4,722; Ь = 0,0683. Найденные параметры позволяют записать плотность трехпараметрического гамма-распределения (8):
/(х):= 867,16• х68Д1 •ехр (-(1,104• х)14,636).
(13)
Тогда функция распределения и теоретическая вероятность превышения (обеспеченность) минимальных уровней могут быть рассчитаны по формулам (см. рис. 2):
¥(х) = }/0)Ж; Р(Н)
(
= 100 •
1 -' (Н
(14)
Проверку справедливости гипотезы о законе распределения выполним с помощью модифицированного критерия согласия Пирсона [3], характерной особенностью которого является разбиение оси абсцисс на интервалы, содержащие заданное, как правило, одинаковое количество результатов наблюдений.
Для применения модифицированного критерия согласия Пирсона разбиваем весь диапазон минимальных уровней на 8 интервалов так, чтобы по теоретическому распределению в каждый попало по 7-8 результатов наблюдений.
Значение статистики хи-квадрат, рассчитанное по табл. 2:
= £
] =1
(Ш] - ше^
т,
= 1,286.
(15)
Ь
http://vestnik-nauki.ru/
Н
см 520
490
460
430
0 10 20 30 40 50 60 70 80 90 100 Р:% Рисунок 2 - Кривая обеспеченности минимальных годовых уровней реки Преголи (Гвардейск): точки - эмпирическая; линия - теоретическая по (14)
Таблица 2 - Результаты расчета по модифицированному критерию согласия Пирсона
1о Чо NVio
»(liVi.
iqo
* \ о'
Номер интервала, j
Границы интервалов, см
Количество точек, попавших в j-й интервал
по теоретическому распределению, m
по наблюдениям,
me,-
1
(400,0; 475,961
7
6
(475,96; 484,301
7
8
(484,30
490,871
(490,87
496,351
(496,35
501,541
10
(501,54
507,051
(507,05; 514,021
(514,02; 600,0)
2
3
8
7
4
8
9
5
8
6
8
7
7
8
8
8
8
7
По таблице Пирсона [151 находим, что вероятность отклонения эмпирических частот попадания в интервалы от теоретических частот из-за случайных причин, равна p = 0,936. Эта вероятность оказалась достаточно большой, поэтому гипотеза о распределении минимальных уровней по закону Крицкого-Менкеля не отвергается.
Минимальные расчетные уровни заданной обеспеченности
Найденная функция Р(Н) позволяет находить минимальный уровень любой заданной обеспеченности Рь не пользуясь графиком на рис. 2, решая уравнение с помощью оператора root:
Ht := root(P(Ho)-P,,Ho). (16)
Результаты решения (16) занесены в табл. 2. Р(437 см) = 99,84 % означает, что минимальный уровень 1976 года достигается один раз примерно в 625 лет.
Таблица 2 - Расчетные минимальные годовые уровни реки Преголи (Гвардейск)
Вероятность Минимальный расчетный Вероятность Минимальный расчетный
превышения, Рь % уровень, см превышения, Р, % уровень, см
1 529,9 75 484,9
5 521,0 90 473,6
10 516,0 95 466,3
25 507,2 99 451,7
50 496,5 99,84 437,0
http://vestnik-nauki.ru/
Для прогнозирования гидрологических условий судоходства результатов табл. 2 недостаточно, необходимо учитывать данные по глубинам (отметкам дна). Покажем это на примере данных 1960 года (табл. 3), взятых из [10].
Таблица 3 - Данные измерений уровней воды, глубин и расчета отметки дна
Дата Уровень воды над Средняя Отметки дна,
измерения нулем поста, см глубина, м м БС
14/1 538 1,64 -1,43
22/1 534 1,60 -1,43
29/1 531 1,59 -1,45
10/11 508 1,40 -1,49
16/11 517 1,51 -1,51
23/11 525 1,58 -1,50
29/11 518 1,58 -1,57
10/Ш 499 1,39 -1,12
16/Ш 528 1,65 -1,54
19/1У 620 2,04 -1,01
25/1У 569 1,81 -1,29
29/1У 569 1,80 -1,28
7/У 554 1,71 -1,34
14/У 530 1,54 -1,41
21/У 521 1,52 -1,48
31/У 550 1,66 -1,33
7/У1 524 1,49 -1,42
14/У1 539 1,58 -1,36
29/У1 524 1,50 -1,43
11/У11 565 1,78 -1,30
19/У11 535 1,57 -1,39
29/У11 596 2,02 -1,23
8/УШ 608 2,04 -1,13
30/УШ 611 2,01 -1,07
7/1Х 618 2,07 -1,06
15/1Х 569 1,80 -1,28
26/1Х 518 1,48 -1,47
10/Х 502 1,39 -1,54
26/Х 516 1,45 -1,46
По табл. 3 низшая отметка дна в 1960 г. была -1,57 м БС (29.02.1960); высшая отметка -1,01 м БС (30.08.1960); средняя за год -1,36 м БС. Среднее квадратическое отклонение составило 0,156 м.
Заключение
Проверка показала, что в первом приближении можно считать ряд минимальных уровней реки Преголи однородным и использовать модель случайной величины.
Вероятность того, что минимальные годовые уровни реки Преголи подчиняются трехпараметрическому гамма-распределения составляет 0,936.
По теоретическойя кривой обеспеченности рассчитаны минимальные годовые уровни заданной вероятности превышения.
Результаты исследований могут быть использованы при проведении инженерно-
Вестник науки и образования Северо-Запада России
-http://vestnik-nauki.ru/ -------
2016, Т. 2, №4
гидрометеорологических изысканий в бассейне реки Преголи, а так же при оценке гидрологических условий судоходства.
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ
1. СП 47.13330.2012. Инженерные изыскания для строительства. Утвержден приказом Федерального агентства по строительству и жилищно-коммунальному хозяйству (Госстрой России) от 10 декабря 2012 г., № 83/ГС и введен в действие с 1 июля 2013 г.
2. СП 11-103-97. Свод правил. Инженерно-гидрометеорологические изыскания для строительства. Одобрен Департаментом развития научно-технической политики и проектно-изыскательских работ Госстроя России № 9-1-1/69 от 10.07.97.
3. Наумов В.А., Маркова Л.В. Гидрологические и климатические ряды: Статистический анализ для Калининградской области и соседних регионов. Saarbbrücken: Lambert Academic Publishing, 2013. 109 с.
4. Наумов В.А., Маркова Л.В. Материалы инженерно-гидрометеорологических изысканий в бассейне реки Преголи. Среднегодовые расходы до 1985 // Вестник науки и образования Северо-Запада России: электронный журнал, 2015. Т. 1, № 2. С. 73-83. URL: http://vestnik-nauki.ru/wp-content/uploads/2015/10/2015-№2-Наумов.pdf.
5. Наумов В. А. Результаты статистического анализа региональных гидрологических и климатических рядов // Вестник науки и образования Северо-Запада России: электронный журнал, 2016. Т. 2, № 3. URL: http://vestnik-nauki.ru/wp-content/uploads/2016/08/2016-N3-Naumov.pdf.
6. Гидрологический ежегодник 1950 г. Т. 1. Бассейн Балтийского моря / Под ред. Е.И. Мороз. Вып. 4-6. Л.: Гидрометеоиздат, 1956. 416 с.
7. Гидрологический ежегодник 1951 г. Т. 1. Бассейн Балтийского моря / Под ред. Л.И. Глазачевой. Вып. 4-6. Л.: Гидрометеоиздат, 1957. 330 с.
8. Гидрологический ежегодник 1952 г. Т. 1. Бассейн Балтийского моря / Под ред. Л.И. Глазачевой. Вып. 4-6. Л.: Гидрометеоиздат, 1957. 330 с.
9. Гидрологический ежегодник 1955 г. Т. 1. Бассейн Балтийского моря / Под ред. Л.И. Глазачевой. Вып. 4-6. Л.: Гидрометеоиздат, 1959. - 633 с.
10. Гидрологический ежегодник 1960 г. Т. 1. Бассейн Балтийского моря / Под ред. Л.М. Жвирздинене. Вып. 5,6. Л.: Гидрометеоиздат, 1963. 262 с.
11. Гидрологический ежегодник 1975 г. Т. 1. Бассейн Балтийского моря / Под ред. О. Д. Жукаускене. Вып. 5, 6. Вильнюс: Гидрометеоиздат, 1977. 214 с.
12. Ежегодные данные о режиме и ресурсах поверхностных вод суши 1986 г. Часть 1. Реки и каналы. Т. 1. Вып. 5, 6. Бассейны рек Нямунаса, Преголи и Вислы. Вильнюс: Гидрометеоиздат, 1988. 277 с.
13. Ресурсы поверхностных вод СССР. Т. 4. Вып. 3. Литовская ССР и Калининградская область РСФСР / Под ред. В.Е. Водогрецкого. Л.: Гидрометеоиздат, 1969. 508 с.
14. СП 33-101-2003. Свод правил. Определение основных расчетных гидрологических характеристик. Одобрен для применения в качестве нормативного документа постановлением Госстроя России № 218 от 26 декабря 2003 г.
15. Кобзарь А.И. Прикладная математическая статистика. М.: Физматлит, 2006. 816 с.
16. Крицкий С.Н., Менкель М.Ф. Расчеты речного стока. М.: Госстройиздат, 1934. 260 с.
17. Рождественский А.В., Чеботарев А.И. Статистические методы в гидрологии. Л.: Гидрометиздат, 1974. 424 с.
18. Наумов В.А. Методы обработки гидрологической информации // Вестник учебно-методического объединения по образованию в области природообустройства и водопользования, 2015. Вып. 7. М.: Изд-во ФГБОУ ВО «РГАУ им. Тимирязева». С. 144-150.
Вестник науки и образования Северо-Запада России
http://vestnik-nauki.ru/ -------
2016, Т. 2, №4
ИНФОРМАЦИЯ ОБ АВТОРАХ
Наумов Владимир Аркадьевич ФГБОУ ВО «Калининградский государственный технический университет», г. Калининград, Россия, доктор технических наук, профессор, заведующий кафедрой водных ресурсов и водопользования, действительный член Российской инженерной академии, действительный член Российской академии естественных наук, E-mail: van-old@rambler.ru
Нелюбина Елена Андреевна ФГБОУ ВО «Калининградский государственный технический университет», г. Калининград, Россия, кандидат технических наук, доцент, доцент кафедры водных ресурсов и водопользования,
E-mail: e.nelubina@gmail.com
Шамсутдинова Екатерина Юрьевна Муниципальное бюджетное учреждение «Гидротехник» ГО «Город Калининград», г. Калининград, Россия, инженер; ФГБОУ ВО «Калининградский государственный технический университет», магистрант направления «Природообустройство и водопользование»,
E-mail: katyas94@mail.ru
Naumov Vladimir Arhad'evich FSEI HE «Kaliningrad State Technical University», Kaliningrad, Russia, Chairman of The Water Resources Department, Doctor of Technical Sciences, Professor, Member of Russian Engineering Academy, Member of Russian Academy of Natural Science, E-mail: van-old@rambler.ru
Nelubina Elena Andreevna FSEI HE «Kaliningrad State Technical University», Kaliningrad, Russia, The Water Resources Department, Candidate of Technical Sciences, associate Professor, E-mail: e.nelubina@gmail.com
Shamsutdinova Ehaterina Yurievna Municipal Budgetary Institution «Hydraulics» City District Kaliningrad, Russia, Engineer, FSEI HE «Kaliningrad State Technical University», The undergraduate student, field of study «Environmental engineering and Water management», E-mail: katyas94@mail.ru
Корреспондентский почтовый адрес и телефон для контактов с авторами статьи: 236022, Россия, Калининград, Советский пр., 1, КГТУ, ГУК, каб. 372. Наумов В.А.
8(4012)99-53-37
