CC BY
28
Фазочастотный критерий Валлиса-Мура в статистическом анализе наличия трендов рентабельности производства продукции растениеводства
Wallis-Moore Phase-frequency Criterion in the Statistical Analysis of the Presence of Trends in the Profitability of Crop Production
Татьяна Чайка 1
Tatiana Chaika
1 National Technical University "Kharkiv Polytechnic Institute"
2 Kirpichov Street, Kharkiv, 61002, Ukraine
DOI: 10.22178/pos.46-1
JEL Classification: C10
Received 28.04.2019 Accepted 25.05.2019 Published online 31.05.2019
Corresponding Author: chaykatata@gmail.com
© 2019 The Author. This article is licensed under a Creative Commons Attribution 4.0 License liULJ
Аннотация. В статье рассматривается проблема определения тренда ряда динамики рентабельности сельскохозяйственной продукции украинских предприятий за период 1990-2017 годы.
Целевые задачи статьи: 1) выявить возможности и особенности применения фазочастотного критерия Валлиса-Мура для диагностики наличия (отсутствия) тренда временного ряда рентабельности сельскохозяйственного производства; 2) систематизировать имеющиеся подходы к определению критического уровня критерия Валлиса-Мура; 3) разработать рекомендации по практическому применению этого критерия при анализе динамики рентабельности сельскохозяйственного производства.
В ходе исследования было установлено, что в настоящее время существуют различные подходы к определению рекомендуемого критического значения критерия Валлиса-Мура; применительно к исследованию динамики рентабельности сельскохозяйственного производства дискуссионным остается вопрос о выборе приемлемого уровня доверительной вероятности (уровня значимости), с которой необходимо проводить исследования. Ведущими факторами, влияющими на тенденцию динамики рентабельности продукции растениеводства в Украине, являются общая экономическая ситуация в стране и природные условия. Специфика сельскохозяйственного производства, его сезонность и зависимость от погодных условий приводит к необходимости «сглаживания» естественных колебаний продуктивности и рентабельности с помощью различных инструментов экономического регулирования, в частности, с помощью привлечения внешнего финансирования.
Результаты критерия Валлиса-Мура в значительной степени зависят от заданного уровня доверительной вероятности. Выбор уровня доверительной вероятности является слабоформализуемым процессом и напрямую зависит от квалификации и опыта исследователя, а также от его оценки требований к достоверности получаемых результатов.
Научная новизна исследования состоит в уточнении методического подхода к установлению доверительной вероятности при исследовании наличия (отсутствия) тренда рентабельности сельскохозяйственной продукции. Результаты данного исследования могут быть использованы при практической аналитической работе, связанной с анализом тенденций развития экономических процессов.
Перспективы дальнейших исследований связаны со сравнительным анализом различных подходов к анализу тренда развития экономических показателей.
Ключевые слова: критерий Валлиса-Мура; критерий Уоллиса-Мура; фазочастотный критерий; рентабельность; рентабельность сельского хозяйства; тренд; определение наличия тренда; доверительная вероятность; уровень значимости.
Abstract. The article deals with the problem of determining the trend of profitability dynamics of agricultural production of Ukrainian enterprises for the period 1990-2017. The objectives of the article are: 1) to identify the possibilities and features of the use of the Wallis-Moore phase-frequency criterion for diagnosing the presence (absence) of a trend in a time series of profitability of agricultural production; 2) to systematize the existing approaches to the determination of the critical level of the Wallis-Moore criterion; 3) to develop recommendations for the practical application of this criterion in the analysis of the dynamics of profitability of agricultural production. The study has found that currently there are various approaches to the determination of the recommended critical value of the Wallis-Moore criterion; with regard to the study of the dynamics of profitability of agricultural production, the question of choosing an acceptable level of confidence probability (level of significance) for conducting research remains a controversial issue. The leading factors influencing the trend of profitability of crop production in Ukraine are the general economic situation in the country and natural conditions. The specificity of agricultural production, its seasonality and dependence on weather conditions leads to the need of "smoothing out" natural fluctuations in productivity and profitability using various instruments of economic regulation, in particular, by attracting external financing.
The results of the Wallis-Moore criterion largely depend on the given level of confidence. The choice of the level of confidence is a poorly formalized process and depends directly on the qualifications and experience of the researcher, as well as on his assessment of the requirements for the reliability of the obtained results.
The scientific novelty of the study lies in clarifying the methodological approach to establishing confidence in the study of the presence (absence) of the profitability trend of agricultural products.
The results of this study can be used in practical analytical work, related to the analysis of trends in the development of economic processes.
Prospects for further research are associated with the comparative analysis of various approaches to the analysis of the development trend of economic indicators. Keywords: Wallis-Moore criterion; phase-frequency criterion; profitability; profitability of agriculture; trend; trend detection; confidence level; significance level.
ВВЕДЕНИЕ
Анализ последних исследований и публикаций. Проблемам исследования динамических рядов распределения и использования фазо-частотного критерия Валлиса-Мура посвящены работы G. Moore, W. Wallis [1], T. Pohlert [2], С. Исаковой, Ш. Мирзакуловой [3], А. Мармозы [4], Н. Садовниковой, Р. Шмойловой [5].
Прогнозируемость является одной из необходимых компонент устойчивого развития. Рентабельность - важнейший относительный показатель, характеризующий способность отдельно взятого предприятия, отрасли, экономики страны в целом генерировать прибыль в расчете на единицу затраченных ресурсов. Естественно, что, в общем случае, непрерывный повышательный тренд рентабельности невозможен, на определенном уровне может быть достигнута «точка насыщения». В тоже время от развивающихся экономик, уровни рентабельности в которых существенно ниже среднемировых, небеспочвенно ожидать именно повышательного тренда уровней рентабельности. Начальным этапом исследования тенденций рентабельности является установление факта наличия (либо отсутствия) тренда рассматриваемого динамического ряда.
В настоящее время существует значительное количество методов определения наличия (отсутствия) тренда временного ряда. Фазо-частотный критерий Валлиса-Мура - один из наиболее часто применяемых способов определения существования тренда. Однако анализ научной литературы показал присутствие различных подходов к определению рекомендуемого критического значения данно-
Изучению особенностей динамики рентабельности сельскохозяйственной продукции посвящены работы Н. Тарасовой, Л. Черняке-вич [6], С. Брик [7].
го критерия; применительно к исследованию динамики рентабельности сельскохозяйственного производства дискуссионным остается вопрос о выборе приемлемого уровня доверительной вероятности (уровня значимости), с которой необходимо проводить исследования. Особенности использования методов определения наличия (либо отсутствия) тренда с учетом специфики изучаемых явлений требуют дальнейшего уточнения.
Цель статьи - выявить возможности и особенности применения фазочастотного критерия Валлиса-Мура для диагностики наличия (отсутствия) тренда временного ряда рентабельности сельскохозяйственного производства. Систематизировать имеющиеся подходы к определению критического уровня критерия Валлиса-Мура. Разработать рекомендации по практическому применению этого критерия при анализе динамики рентабельности сельскохозяйственного производства.
МЕТОДЫ ИССЛЕДОВАНИЯ
В данном исследовании проведена проверка наличия (либо отсутствия) трендов рента-
бельности производства продукции растениеводства украинскими предприятиями за период 1990-2017 годы. Данные взяты из открытой статистической отчетности Государственной Службы Статистики Украины [8]. Эмпирико-статистическое исследование проводилось с помощью графического разведочного анализа и фазочастотного критерия Валлиса-Мура.
РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ
Изложение основного материала исследования. Динамика рентабельности растениеводства в Украине за период 1990-2017 годы представлена на рисунке 1.
Для проверки динамического ряда на наличие тренда могут быть использованы различные методы, один из которых - критерий Валлиса-Мура (другое название - критерий Уоллиса-Мура).
Фазочастотный критерий разностей (критерий Валлиса-Мура) рассматривает абсолютные цепные приросты А1* = у1 — у—1 [1].
%
600 500 400 300 200 100 0
-100
Рентабельность растениеводства в Украине
от-с^со-^юсог^оэслот-счсо-^юсог^оэслот-счсо-^юсог^
0)0)0)0)0)0)0)0)0)0)0000000000^-т-т-т-т-т-т-т-0)0)0)0)0)0)0)0)0)0)000000000000000000 т-т-т-т-т-т-т-т-т-т-СМСМС^СМСМС^СЧСМСМС^СМСМС^СМСМСМСМСМ
Рентабельность производства зерна Рентабельность производства семян подсолнечника Рентабельность производства сахарной свеклы Рентабельность производства картофеля Рентабельность производства овощей открытого грунта
Рисунок 1 - Динамика рентабельности растениеводства в Украине за период 1990-2017 годы
Нулевая гипотеза (Н0) формулируется следующим образом: знаки абсолютных цепных приростов Лц образуют случайную последовательность (при этом под случайной подразумевается последовательность, подчиняющаяся нормальному закону распределения).
Альтернативная гипотеза (Н1): последовательность знаков абсолютных цепных приростов Лц значимо отличается от случайной (является нормально распределенной) [2]. Фактическое значение критерия Валлиса-Мура () рассчитывается по формуле (1):
h 2 • n - 7 3 - 0,5
1 /16 • n - 29
90
(1)
где п - число уровней динамического ряда; данная формула может применяться для п > 12;
И - число фаз (последовательность знаков абсолютных цепных приростов Лц называется фазой). Первая и последняя фаза в расчет не принимается. Также не учитываются
разности у - у_1 = 0 [3].
Фазочастотный критерий разностей (критерий Валлиса-Мура) позволяет диагностировать временные ряды с количеством наблюдений п > 12 и не зависит от вида распределения рассматриваемой переменной [3].
Слагаемое -0,5 в числителе формулы (1) называется поправкой на непрерывность (поправкой Йейтса). При п > 30 эта поправка может быть опущена (2):
h
2 • n - 7
3
16•n - 29 90
(2)
Далее 7ф сравнивается с критическим уровнем критерия Валлиса-Мура 7 . Критический уровень критерия Валлиса-Мура является табличным значением и может быть получен из таблицы значений функции Лапласа при разных значениях 7 (таблицы нормального распределения) [4]. Если > , нулевая гипотеза (Н0) отвергается, то есть признается, что рассматриваемый динамический ряд имеет тренд.
Например, если принять 5% уровень значимости полученных результатов (доверительная вероятность (Р) равна 95 %, или Р = 0,95000), критическое значение 7 , найденное по таблице значений функции Лапласа, составит: 7 = 1,96. Таким образом, для подтверждения достоверности гипотезы (Н0) с 95 %-ой доверительной вероятностью, требуется выполнение неравенства
7ф > 1,96.
Если мы хотим изменить уровень достоверности получаемых результатов, поменяется и
соответствующее табличное значение 7 . Так, при доверительной вероятности 99,99% (Р = 0,99990) (уровень значимости 0,01 %),
табличное значение 7 = 3,9 . И тогда для подтверждения достоверности гипотезы (Н0) с 99,99 %-ой доверительной вероятностью, требуется выполнение неравенства
<Ф > 3,9.
Часто условие принятия (отвержения) нулевой гипотезы подается в упрощенном виде:
если 7ф > 3, нулевая гипотеза отвергается, то
есть признается, что рассматриваемый динамический ряд имеет тренд [5]. Значение критического уровня 7кр = 3 соответствует доверительной вероятности Р = 0,99730.
В таблицах 1 и 2 представлены данные о динамике рентабельности производства продукции растениеводства украинскими предприятиями за период 1990-2017 годы.
t
ф
t
ф
Таблица 1 - Динамика рентабельности производства продукции растениеводства (зерно, семена подсолнечника, сахарная свекла) украинскими предприятиями за период 1990-2017 годы [ 8]
Год У з. Знак Ач 3. Нумерация фаз (зерно) Уп. Знак Ач. п 1 Нумерация фаз (семена подсолнечника) У сс. Знак Ач . сс 1 Нумерация фаз (сахарная свекла)
1990 275,1 236,5 29,5
1991 166,2 - не учитывается 307,6 + не учитывается 59,9 + не учитывается
1992 346,0 + 1 541,6 + 142,9 +
1993 361,1 + 505,6 - 1 143,5 +
1994 214,1 - 2 224,1 - 66,0 - 1
1995 85,6 - 170,9 - 31,2 -
1996 64,6 - 53,0 - 3,8 -
1997 37,5 - 19,4 - -10,4 -
1998 1,9 - 22,0 + 2 -12,0 -
1999 12,0 + 3 54,5 + -14,8 -
2000 64,8 + 52,2 - 3 6,1 + 2
2001 43,3 - 4 68,7 + 4 1,5 - 3
2002 19,3 - 77,9 + -8,6 -
2003 45,8 + 5 64,3 - 5 6,2 + 4
2004 20,1 - 6 45,2 - -0,8 - 5
2005 3,1 - 24,3 - 4,8 + 6
2006 7,4 + 7 20,7 - 11,1 +
2007 28,7 + 75,9 + 6 -11,1 - 7
2008 16,4 - 8 18,4 - 7 7,1 + 8
2009 7,3 - 41,4 + 8 37,0 +
2010 13,9 + 9 64,7 + 16,7 - 9
2011 26,1 + 57,0 - 9 36,5 + 10
2012 15,2 - 10 45,8 - 15,7 - 11
2013 1,5 - 28,5 - 2,7 -
2014 25,8 + 11 36,5 + 10 17,9 + 12
2015 43,1 + 80,5 + 28,2 +
2016 37,8 - не учитывается 63,0 - не учитывается 24,3 - не учитывается
2017 25,0 - 41,3 - 12,4 -
Таблица 2 - Динамика рентабельности производства продукции растениеводства (картофель и овощи
открытого г рунта, украинскими предприятиями за период 1990-2017 годы [8]
Год У* Знак Ач. к 1 Нумерация фаз (картофель) У* Знак АЧ. о. Нумерация фаз (овощи открытого грунта)
1990 27,2 27,6
1991 150,4 + не учитывается 60,3 + не учитывается
1992 233,8 + 72,8 +
1993 68,6 - 1 39,4 - 1
1994 112,1 + 2 106,8 + 2
1995 34,3 - 12,8 -
1996 6,4 - 3 -26,5 - 3
1997 -24,1 - -37,4 -
1998 -18,6 + -25,2 +
1999 -12,5 + 4 -12,8 +
2000 14,0 + -1,7 + 4
2001 11,4 - 5 -0,8 +
2002 24,2 + 6 8,9 +
2003 33,5 + 30,9 +
2004 -0,7 - 7 -5,0 - 5
2005 17,8 + 8 16,1 + 6
2006 56,2 + 14,8 - 7
Год y* Знак А". к 1 Нумерация фаз (картофель) Уо, Знак А". о, Нумерация фаз (овощи открытого грунта)
2007 24,7 - 9 14,1 -
2008 7,9 - 11,1 -
2009 12,9 + 10 19,1 + 8
2010 62,1 + 25,5 +
2011 17,7 - 11 9,9 - 9
2012 -21,5 - -6,8 -
2013 23,0 + 12 7,0 + 10
2014 9,2 - 13 16,7 +
2015 24,2 + 14 47,5 +
2016 -3,2 - 15 19,7 - не учитывается
2017 10,0 + не учитывается 15,6 -
В таблице используются следующие обозначения:
y3. - i -й уровень динамического ряда рентабельности производства зерна в Украине;
уп. - i -й уровень динамического ряда рентабельности производства семян подсолнечника в Украине;
yCCi - i -й уровень динамического ряда рентабельности производства сахарной свеклы в Украине;
yK. - i -й уровень динамического ряда рентабельности производства картофеля в Украине;
y0. - i -й уровень динамического ряда рентабельности производства овощей открытого грунта в Украине;
Л3 - абсолютный цепной прирост i -го
уровня динамического ряда рентабельности производства зерна в Украине;
Л". = У - У ■
3, у 31 у 31 —1 '
Л" - абсолютный цепной прирост i -го уровня динамического ряда рентабельности производства семян подсолнечника в Украине;
Лпг уш уш—1 ;
ЛцсЫ - абсолютный цепной прирост i -го
уровня динамического ряда рентабельности производства сахарной свеклы в Украине;
Л". = У ■ - y . , ;
CCI у CCI у CCI —1 '
Л" - абсолютный цепной прирост i -го уровня динамического ряда рентабельности производства картофеля в Украине;
Лк У к, У кг—1;
ЛЦ - абсолютный цепной прирост г -го уровня динамического ряда рентабельности производства овощей открытого грунта в Украине; ЛЧ01 = уы _ уы_1.
Рассчитаем фактические значения критерия Валлиса-Мура (7ф) для рентабельности производства зерна, семян подсолнечника, сахарной свеклы, картофеля и овощей открытого грунта при доверительных вероятностях 95,00 %, 99,73 % и 99,99 % (таблица 3). Поскольку п = 28 < 30, применяем формулу (1).
Что касается тенденций динамики рентабельности продукции растениеводства в Украине, следует отметить, что ведущим фактором влияния является, несомненно, общая экономическая ситуация в стране, однако необходимо принимать во внимание и влияние природных условий. Влияние неблагоприятных природных условий на спад трендов рентабельности сельскохозяйственной продукции является общемировой тенденцией [6]. Специфика сельскохозяйственного производства, его сезонность и зависимость от погодных условий приводит к необходимости «сглаживания» естественных колебаний продуктивности и рентабельности с помощью различных инструментов экономического регулирования. Как отмечает, в частности, С. В. Брик (2013), привлечение внешнего финансирования способно привести к существенному росту рентабельности собственного капитала сельскохозяйственного предприятия [7].
Таблица 3 - Применение критерия Валлиса-Мура при оценке наличия тренда рентабельности продукции растениеводства предприятий Украины в период 1990-2017 годы_
Вид продукции n h t Ф Доверительная вероятность 95,00% ве Доверительная роятность 99,73% ве Доверительная роятность 99,99%
t Р Выводы о наличии тренда * р Выводы о наличии тренда * * Выводы о наличии тренда
Зерно 28 11 2,24 1,96 тренд есть 3 тренда нет 3,9 тренда нет
Семена подсолнечника 28 10 2,70 1,96 тренд есть 3 тренда нет 3,9 тренда нет
Сахарная свекла 28 12 1,78 1,96 тренда нет 3 тренда нет 3,9 тренда нет
Картофель 28 15 0,39 1,96 тренда нет 3 тренда нет 3,9 тренда нет
Овощи открытого грунта 28 10 2,70 1,96 тренд есть 3 тренда нет 3,9 тренда нет
ВЫВОДЫ
Расчеты, представленные в таблице 3:
- при доверительной вероятности 95,00% позволяют сделать выводы о наличии трендов во временных рядах рентабельности производства украинскими предприятиями зерна, семян подсолнечника и овощей открытого грунта за период 1990-2017 годы и об отсутствии трендов во временных рядах рентабельности производства украинскими предприятиями сахарной свеклы и картофеля за период 1990-2017 годы;
- при доверительной вероятности 99,73% позволяют сделать выводы об отсутствии трендов во временных рядах рентабельности производства украинскими предприятиями зерна, семян подсолнечника, сахарной свеклы, картофеля и овощей открытого грунта за период 1990-2017 годы;
- при доверительной вероятности 99,99% полученные результаты аналогичны результатам, полученным при доверительной вероятности 99,73%.
В ходе исследования было установлено, что разные авторы по-разному подходят к вопросу установления критического уровня крите-
рия Валлиса-Мура. Однако, как видим, результаты критерия Валлиса-Мура в значительной степени зависят от заданного уровня доверительной вероятности. Выбор уровня доверительной вероятности является сла-боформализуемым процессом и напрямую зависит от квалификации и опыта исследователя, а также от его оценки требований к достоверности получаемых результатов.
Научная новизна данного исследования состоит в уточнении методического подхода к установлению доверительной вероятности при исследовании наличия (отсутствия) тренда рентабельности сельскохозяйственной продукции.
Практическое значение: результаты данного исследования могут быть использованы при практической аналитической работе, связанной с анализом тенденций развития экономических процессов.
Перспективы дальнейших исследований связаны с сравнительным анализом различных подходов к анализу тренда развития экономических показателей.
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ / REFERENCES
1. Moore, G., & Wallis, W. (1943). Time Series Significance Tests Based on Signs of Differences.Journal
of the American Statistical Association, 38(222), 153-164. doi: 10.2307/2279535
2. Pohlert, T. (2018, July 30). Non-parametric trend tests and change-point detection. Retrieved from
http://cran.stat.upd.edu.ph/web/packages/trend/vignettes/trend.pdf
3. Isakova, S., & Mirzakulova, Sh. (2018). Statisticheskaja ocenka osnovnyh tendencij izmerennogo
vremennogo rjada [Statistical estimation of the main trends of the measured time series]. Vestnik KRSU, 18(12), 51-54 (in Russian)
[Исакова, С., & Мирзакулова, Ш. (2018). Статистическая оценка основных тенденций измеренного временного ряда. ВестникКРСУ, 18(12), 51-54].
4. Marmoza, A. (2013). Teoriia statystyky [Statistic theory] (2nd ed.). Kyiv: Tsentr uchbovoi literatury
(in Ukrainian)
[Мармоза, А. (2013). Теоря статистики (2-ге вид). Кшв: Центр учбово! лггератури].
5. Sadovnikova, N. A., & Shmojlova, R. (2009). Analiz vremennyh rjadov i prognozirovanie [Time Series
Analysis and Forecasting]. Moscow: EAOI (in Russian)
[Садовникова, Н. А., & Шмойлова, Р. (2009). Анализ временных рядов и прогнозирование. Москва: ЕАОИ].
6. Tarasova, N., & Chernjakevich, L. (2013). Tendencii razvitija pticevodstva v transformacionnoj
jekonomike [Poultry development trends in a transformational economy]. Sovremennye problemy nauki i obrazovanija, 4, 259 (in Russian)
[Тарасова, Н., & Чернякевич, Л. (2013). Тенденции развития птицеводства в трансформационной экономике. Современные проблемы науки и образования, 4, 259].
7. Brik, S. (2013). Efektyvnist finansovo-kredytnoho zabezpechennia silskohospodarskoho
vyrobnytstva [Efficiency of financial and credit support of agricultural production]. Oblik, kontrol ta analiz na pidpryiemstvakh APK: stan ta perspektyvy rozvytku, 3-4 October 2013 (p. 1-2). Vinnytsia: VNAU (in Ukrainian)
[Брж, С. (2013). Ефектившсть фшансово-кредитного забезпечення сыьськогосподарського виробництва. Облт, контроль та аналiз на тдприемствах АПК: стан та перспективи розвитку, 3-4 жовтня 2013 р. (с. 1-2). Вшниця: ВНАУ].
8. State Statistics Service of Ukraine. (2019). Riven rentabelnosti vyrobnytstva silskohospodarskoi
produktsii v silskohospodarskykh pidpryiemstvakh (1990-2017). Retrieved March 1, 2019, from http://www.ukrstat.gov.ua/operativ/operativ2006/sg/sg_rik/sg_u/rrv_sgp_u.html (in Ukrainian)
[Державна Служба Статистики Украши. (2019). Рiвень рентабельностi виробництва сльськогосподарськоi продукци в сльськогосподарських тдприемствах (1990-2017). Актуально на 01.03.2019. URL:
http://www.ukrstat.gov.ua/operativ/operativ2006/sg/sg_rik/sg_u/rrv_sgp_u.html].
