CC BY
73
ИССЛЕДОВАНИЯ ВОДНЫХ БИОЛОГИЧЕСКИХ РЕСУРСОВ КАМЧАТКИ И СЕВЕРО-ЗАПАДНОЙ ЧАСТИ ТИХОГО ОКЕАНА, 2015, вып. 36
УДК 551.467.3.03, 519.233.5 DOI: 10.15853/2072-8212.2015.36.107-110
НЕКОТОРЫЕ РЕЗУЛЬТАТЫ СТАТИСТИЧЕСКОЙ ОБРАБОТКИ ДАННЫХ (ЗА 1972-2014 ГГ.) О ЛЕДОВИТОСТИ ОХОТСКОГО МОРЯ
В.В. Коломейцев
Н. с., Камчатский научно-исследовательский институт рыбного хозяйства и океанографии 683000 Петропавловск-Камчатский, Набережная, 18 Тел., факс: (4152) 41-27-01; (4152) 22-66-35 E-mail: kolomeytsev.v.v@mail. ru
ОХОТСКОЕ МОРЕ, ЛЕДОВИТОСТЬ, КОРРЕЛЯЦИОННЫЙ АНАЛИЗ, УРАВНЕНИЕ РЕГРЕССИИ
В работе проведена статистическая обработка средних за декаду данных (за 1972-2014 гг.) о ледовито-сти Охотского моря. Получены сильные положительные линейные связи между ее значениями для смежных декад. Рассчитаны статистические характеристики среднедекадных значений ледовитости Охотского моря, коэффициенты корреляции и детерминации, получены уравнения регрессии для прогнозирования площади ледового покрова по известному значению в предшествующую декаду. Выявлено, что 70-92% вариабельности площади ледового покрова в данную декаду определяются вариабельностью таковой в предшествующую декаду.
SOME RESULTS OF STATISTICAL PROCESSING (1972-2014) THE DATA ON THE ICE EXTENT IN THE SEA OF OKHOTSK V.V. Kolomeytsev
Researcher, Kamchatka Research Institute of Fisheries and Oceanography 683000 Petropavlovsk-Kamchatsky, Naberedzhnaya, 18 Tel., fax: (4152) 41-27-01; (4152) 22-66-35 E-mail: kolomeytsev.v.v@mail. ru
THE SEA OF OKHOTSK, ICE EXTENT, CORRELATION ANALYSIS, REGRESSION EQUATION The paper has demonstrated statistics on the ice extent in the Sea of Okhotsk averaged by ten-day periods. Strong positive linear correlations have been revealed between the ice extent values for adjacent ten-day periods. Statistical characteristics of the averaged values of the ice extent in the Sea of Okhotsk and coefficients of correlation and determination were calculated, and regression equations were obtained to predict the ice extent area on the base of the value for the former ten-day period. It was found that the variability of the current sea ice extent area was in 70-92% determined by the variability for the former ten-day period.
Ледовитость является важной океанологической характеристикой. Она играет значительную роль в формировании термического режима морей в силу теплоизолирующих свойств льда. Ледовые поля существенным образом влияют на биологическую продуктивность моря, так как ледообразование и таяние льда меняют соленость и световой режим верхнего слоя океана. Кроме того, в зимний период они в значительной степени усложняют навигацию судов, как транспортных, так и промысловых. По этим причинам, а также в связи с тем, что ледовитость — индикатор изменений климата, разработка долгосрочных и краткосрочных прогнозов ледовых условий исторически приобрела большое прикладное значение.
Первые попытки получения количественного выражения связи между ледовыми явлениями и обусловливающими их факторами применительно к Охотскому морю были предприняты К.И. Кудрявой и Ю.В. Истошиным в конце 1940-х годов. Однако небольшой массив данных и отсутствие на-
дежных методов оценки характера и интенсивности атмосферной циркуляции определили малую применимость результатов их исследований в прогностической практике. Масштабный сбор материалов об изменчивости ледового покрова как по прибрежным районам, так и по открытому морю был организован в 1950 г. по инициативе морского отдела Центрального института прогнозов (ЦИП) Главного управления Гидрометслужбы (Крындин, 1957). На базе этих материалов был создан ряд практических пособий и усовершенствованы методы ледовых прогнозов. Особый вклад в исследование данного вопроса в то время внесли А.И. Каракаш (1952, 1954) и А Н. Крындин (1957).
Дальнейшие разработки методов прогноза в значительной степени совершенствовались, и, в частности, в современной их интерпретации некоторые авторы предлагают методы интервальной математики для прогноза экстремальной ледови-тости Охотского моря (Цициашвили и др., 2002). В 2007 году по теме «Пространственно-временная
изменчивость ледовых условий Охотского моря по данным дистанционного зондирования» сотрудником ТИНРО-Центра М.Л. Муктепавелом была защищена диссертационная работа на соискание ученой степени кандидата географических наук. Однако применение в практике даже самых современных методов прогнозирования ледовых условий далеко не всегда дает желаемые результаты, что делает необходимым дальнейшее более подробное изучение этого вопроса.
Цель настоящей работы — применение методов статистического анализа данных о ледовито-сти Охотского моря в связи с краткосрочным прогнозированием.
По результатам применения разных методов статистического анализа данных о ледовитости Охотского моря была поставлена задача — выбрать наиболее подходящие из них для достижения поставленной цели.
МАТЕРИАЛ И МЕТОДИКА
Источником данных о ледовых условиях послужили материалы Национального ледового центра США, опубликованные в глобальной сети Интернет (NOAA's National Ice Center, http://www.natice. noaa.gov/). Эти материалы представляют собой ряд с временным интервалом 1-2 недели, начинающийся с 1972 года и продолжающийся по настоящее время. Обработку данных и расчет ледовито-сти для Охотского моря (отношение площади распространения льда к общей площади моря, выраженное в %) проводили с помощью программ ArcView 3.3 (ESRI, Inc.) и MS Excel (Microsoft, Inc.). В результате расчета были получены средние взвешенные за декаду значения ледовитости для сезона с декабря по май за 1972-2014 гг. Среднемного-летняя декадная ледовитость и оценки ее статистических параметров приведены в таблице 1.
Расчет стандартного отклонения s и ошибки среднего m проводился в программе Statistica 8.0 (StatSoft, Inc.) по формулам:
5 = [S(jc¿-M)2/(«-1)]1/2;
т = (s2/ п)т, где s2 — дисперсия; n — количество измерений; М — среднее арифметическое.
Статистический анализ данных осуществлялся с помощью специализированного пакета Statistica 8.0 (StatSoft, Inc.) и включал в себя одномерные
и многомерные методы: корреляционным анализ, регрессионный анализ, дискриминантный анализ, кластерный анализ, метод главных компонент и факторный анализ.
Теоретические и практические основы статистической обработки данных подробно изложены во множестве публикаций, из которых в настоящей работе мы использовали: Афифи, Эйзен, 1982; Леонов, 1990; Смирнов и др., 1992; Ферстер, Ренц, 1983.
Таблица 1. Описательная статистика средних за декаду значений ледовитости Охотского моря (в %)
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
Декада
M
m
d
-5 I +5
декабря
декабря
декабря
января
января
января
февраля
февраля
февраля
марта
марта
марта
апреля
апреля
апреля
мая
мая
мая
10,1 17,8 26,5
36.0
45.8 54,4
61.4
66.9
70.3
71.5 71,2
67.6 61,9 53,2 40,6
29.4
19.1 11,8
0,8 1,1
1.3
1.4 1,6 1,8
1,9 1,9 1,8 1,8 1,8 2,0 2,1 2,2 1,8 1,5 1,0 0,8
4,8 6,8
7.8
8.9
10.5 11,4 11,9 12,0
11.6
11.4 11,7 13,1
13.5 14,0 11,0 9,2 6,0 4,7
16,3
31.2
32.1
32.8 43,6
47.9 51,0 53,5
51.3
52.2
50.4
52.4 53,0
54.3
38.5
38.4 25,2 17,8
8,5
15.5
24.0
33.1
42.4
50.8
57.6 63,1 66,6
67.9
67.5 63,5
57.7 48,7
37.0 26,4
17.1 10,3
11,7 20,0 29,1 38,9 49,1
58.0
65.1 70,7 73,9
75.1 74,9 71,7
66.2 57,6 44,2 32,4 21,1 13,4
38
39 39 39 41 41 41 41 41 41 41 41 41 41 39 39 38 38
Примечание: М—средняя за декаду ледовитость Охотского моря; т — ошибка среднего; s — стандартное отклонение; d — размах значений; -5 — нижняя граница доверительного интервала при заданной вероятности Р=0,95; +5 — верхняя граница доверительного интервала при заданной вероятности Р=0,95; п — количество наблюдений
РЕЗУЛЬТАТЫ И ОБСУЖДЕНИЕ
По результатам применения разных методов статистического анализа данных о ледовитости Охотского моря нами была отобрана наиболее интересная, на наш взгляд, выходная информация корреляционного и регрессионного анализа. Согласно ей, были получены значимые линейные связи между ледовитостью смежных декад. Таким образом, зная значение ледовитости в данную декаду и уравнение линейной зависимости, мы можем рассчитать ледовитость Охотского моря в следующую декаду. Это, в первую очередь, может оказаться полезным при оперативном регулировании промысла в охотоморской минтаевой экспедиции. Однако важным допущением при таких расчетах следует признать невозможность учета экстремального развития процессов, влияющих на ледовые условия. Так, например, в зимний сезон 2014 года, в феврале, ряд глубоких южных циклонов привел к существенным нарушениям в сезонном
Некоторые результаты статистической обработки данных (за 1972-2014 гг.) о ледовитости Охотского моря
109
ходе значении: площадь ледового покрова в результате механического разрушения уменьшилась, хотя обычно в это время происходит интенсивное ледообразование (рис. 1).
В таблице 2 приведены уравнения регрессии для расчета среднеИ ледовитости Охотского моря в следующую декаду по известному значению в текущую декаду, а также характеристики корреляционного анализа (коэффициенты корреляции и детерминации, уровень значимости). В соответствии с таблицей, очевидны сильные положительные линейные связи между ледовитостью в смежные декады в течение всего холодного сезона. Наглядный графический пример такой связи представлен на рис. 2. Высокие коэффициенты детерминации, из-
меняющиеся от 0,70 до 0,92, означают, что 70-92% вариабельности площади ледового покрова в данную декаду определяются вариабельностью таковой
Рис. 1. Изменение средней за декаду ледовитости Охотского моря в зимне-весенний сезон 2013-2014 гг. и в среднем за период с 1972 по 2013 гг.
Рис. 2. Пример двухмерной диаграммы рассеивания и линии регрессии для данных о ледовитости Охотского моря во 2-й (ось X) и 3-й декадах февраля (ось Y)
Таблица 2. Уравнения регрессии для предсказания ледовитости Охотского моря с заблаговременностью в одну декаду
Декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
1 декада
2 декада
3 декада
Уравнение регрессии
<х±СОО 'х±СОО х ± СОО <х±СОО 'х ± СОО <х±СОО х ± СОО :х ± СОО 'х±СОО <х±СОО хх±СОО х х±СОО хх±СОО х х ± СОО х х ± СОО х х±СОО х х ± СОО
г
г2
р
Стандартная ошибка оценки (СОО)
декабря
декабря
января
января
января
февраля
февраля
февраля
марта
марта
марта
апреля
апреля
апреля
мая
мая
мая
= 6,3809 + 1,0777 = 8,6117 + 1,0090 : = 9,1450 + 1,0123 : = 9,9692 + 0,9752 = 9,9415 + 0,9705 : = 6,8345 + 1,0032 = 7,5313 + 0,9674 : = 9,1956 + 0,9132 : = 7,2624 + 0,9135 : = 3,6403 + 0,9451 = -7,4862 + 1,0547 : -3,5694 + 0,9689 = -7,0770 + 0,9726 : -0,6808 + 0,7985 = -2,1805 + 0,7768 = -2,0275 + 0,5941 = -1,4952 + 0,6966
0,8337 0,8819 0,8861 0,8644 0,9001 0,9595 0,9564 0,9500 0,9270 0,9171 0,9473 0,9368 0,9386 0,9233 0,9260 0,8498 0,8871
0,6950 0,7777 0,7851 0,7472 0,8102 0,9206 0,9146 0,9026 0,8593 0,8411 0,8974 0,8777 0,8810 0,8524 0,8574 0,7222 0,7869
0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000 0,0000
3,4646 3,7385 4,1513 5,1426 5,0173 3,3928 3,5586 3,6543 4,3269 4,7387 4,2384 4,7873 4,8921 4,2853 3,5343 3,2133 2,2101
Примечания: х — ледовитость Охотского моря (отношение в %) в предыдущую декаду; г — коэффициент корреляции:
площади моря, покрытой любым льдом. ; г2 — коэффициент детерминации; р —
к общей площади моря, уровень значимости
в предшествующую декаду. И лишь 8-30% изменчивости ледовитости зависит от других факторов, в частности необычного (экстремального) развития синоптических условий. Предсказываемая ледови-тость Охотского моря таким же образом будет связана с ледовитостью в предшествующую декаду с учетом стандартной ошибки оценки.
ЗАКЛЮЧЕНИЕ
В результате проведенной статистической обработки материала были получены уравнения регрессии для расчета средней ледовитости Охотского моря для каждой декады холодного периода года с декабря по май. Между значениями этого показателя в смежные декады существует значимая линейная связь, которая свидетельствует о сильной преемственности развития ледовитости в пределах декадных временных интервалов. Однако полученные закономерности не могут учитывать аномальное развитие гидрометеорологических процессов, которое может привести к существенной ошибке при прогнозировании ледо-витости. Поэтому представляется необходимость дальнейшего изучения данного вопроса.
БЛАГОДАРНОСТИ
Данная работа создана по мотивам семинара по использованию методов статистического анализа для обработки данных мониторинга водных биологических ресурсов и среды их обитания. Автор выражает благодарность ФГУП «КамчатНИРО» и, в особенности, канд. биол. наук С.Л. Рудаковой за организацию семинара и преподавателю семинара, канд. тех. наук, доценту Томского университета и редактору сайта «Биометрика» (www.bio-metrica.tomsk.ru) В.П. Леонову.
СПИСОК ЛИТЕРАТУРЫ
Афифи А., Эйзен С. 1982. Статистический анализ: Подход с использованием ЭВМ. М.: Мир. 488 с. Каракаш А.И. 1952. Предсказание ледовых явлений в Охотском море // Труды ЦИП. Вып. 044. 190 с.
Каракаш А.И. 1954. Об использовании элементов теплового режима Охотского моря при предсказаниях ледовых явлений // Труды ЦИП. Вып. 057. 49 с.
Крындин А.Н. 1957. Льды Охотского моря (режим и методы прогноза ледовитости) // Труды ГОИН. М.: Гидрометеоиздат. Вып. 025. С. 3-119. Леонов В.П. 1990. Обработка экспериментальных данных на программируемых микрокалькуляторах. (Прикладная статистика на БЗ-34, МК-52, МК-54, МК-56, МК-61). Томск: Томский ун-т. 376 с. Муктепавел Л.С. 2006. Пространственно-временная изменчивость ледовых условий Охотского моря по данным дистанционного зондирования / Автореф. дис. ... канд. геогр. наук. Владивосток: ТИНРО-Центр. 23 с.
Смирнов Ч.П., Вайновский П.А., ТитовЮ.Э. 1992. Статистический диагноз и прогноз океанологических процессов. СПб.: Гидрометеоиздат. С. 170178.
Ферстер Э., Ренц Б. 1983. Методы корреляционного и регрессионного анализа: руководство для экономистов. Пер. с нем. и предисл. В.М. Ивановой. М.: Финансы и статистика. 302 с. Цициашвили Г.Ш., Шатилина Т.А., Кулик В.В., НикитинаМ.А., ГолычеваИ.В. 2002. Модификация метода интервальной математики применительно к прогнозу экстремальной ледовитости в Охотском море // Вестник ДВО РАН. № 4. С. 111-118.
