CC BY
23
DOI: 10.34020/2073-6495-2020-1-255-267 УДК 311, 591.2
ТИПОЛОГИЧЕСКАЯ ГРУППИРОВКА НА ОСНОВЕ ДЕКОМПОЗИЦИИ СМЕСЕЙ
ВЕРОЯТНОСТНЫХ РАСПРЕДЕЛЕНИЙ
Исмайылова Ю.Н., Хрущев С.Е.
Новосибирский государственный университет экономики и управления «НИНХ» E-mail: ismaiylova@gmail.com, s.e.hrushchev@edu.nsuem.ru
Смесь вероятностных распределений является математической моделью, которая позволяет адекватно описывать неоднородные данные. Задачей разделения смесей или задачей декомпозиции называется задача оценивания неизвестных параметров смешивающихся распределений. Несмотря на адекватность описания неоднородных данных, декомпозиция смесей представляет собой отдельную проблему, ввиду большого количества параметров, подлежащих оцениванию. В статье осуществлены историческая периодизация, систематизация и критический сравнительный анализ существующих методов и алгоритмов декомпозиции смесей вероятностных распределений, выявлены возможности и ограничения их применения для анализа реальных совокупностей. На основе существующих алгоритмов предложена методика разделения смесей произвольного известного количества вероятностных распределений и дальнейшей типологической группировки реальных социально-экономических совокупностей. В отличие от существующих методик предложен способ вычисления пороговых значений для определения границ типов и числа компонент смеси в случаях, когда оно неизвестно. На основе предложенной методики осуществлена типологизация субъектов Российской Федерации по уровню безработицы.
Ключевые слова: разделение смесей, метод моментов, метод максимального правдоподобия, EM-алгоритм, типологическая группировка, уровень безработицы.
TYPOLOGICAL GROUPING BASED ON DECOMPOSITION OF PROBABILITY DISTRIBUTIONS MIXTURES
Ismaiylova Yu.N., Khrushchev S.E.
Novosibirsk State University of Economics and Management E-mail: ismaiylova@gmail.com, s.e.hrushchev@edu.nsuem.ru
A mixture of probability distributions is a mathematical model that allows to describe heterogeneous data. The task of separating mixtures or decomposition is the task of estimating the unknown parameters of miscible distributions. Despite the adequacy of the description of heterogeneous data, the decomposition of mixtures is a separate problem, due to the large number of parameters to be evaluated. The article carries out historical periodization, systematization, and a critical comparative analysis of existing methods and algorithms for decomposition of mixtures of probability distributions, identifies the possibilities and limitations of their application for the analysis of real populations. Based on existing algorithms, a method for separating mixtures of an arbitrary known number of probability distributions and a further typological grouping of real socio-economic aggregates is proposed. Unlike existing methods, a method for calculating threshold values to
© Исмайылова Ю.Н., Хрущев С.Е., 2020
determine the boundaries of types and the number of components of the mixture, in cases where it is unknown, is proposed. Based on the proposed methodology, a typology of the subjects of the Russian Federation by the level of unemployment in the Russian Federation is carried out.
Keywords: mixture separation, moments method, maximum likelihood method, EM-algorithm, typological grouping, unemployment rate.
1. ВВЕДЕНИЕ
В условиях быстрого турбулентного развития современного общества необходимо адекватно реагировать на политические, экономические и социальные изменения и сдвиги. Для этого необходимо обладать полной, достоверной статистической информацией о различных социальных и экономических процессах, которые, как правило, описываются смесями вероятностных законов, что приводит к необходимости знания значений параметров смесей распределений, т.е. к необходимости решения задачи о разделении или декомпозиции смесей вероятностных распределений. Декомпозиция смесей распределений позволяет разбивать всю исходную совокупность исследуемых объектов на однородные группы, что является одной из важнейших задач любого статистического исследования.
Основными методами выделения однородных групп в рамках сово-купностной концепции являются типологическая группировка, портфельный анализ, историческая и параллельная периодизация [8, 9]. Но если рассматривать однородность объектов как возможность описания всех единиц частной совокупности одним вероятностным распределением, то при помощи методов декомпозиции смеси возможно разбивать исходную совокупность на однородные в этом смысле группы. Поэтому синтез типологической группировки и методов разделения смесей вероятностных распределений представляется актуальным направлением развития методологии в рамках совокупностной концепции. Задача разбиения исходной совокупности исследуемых объектов на однородные подгруппы является приоритетной при анализе данных любой природы: технических, биологических, социально-экономических.
2. ПОСТАНОВКА ЗАДАЧИ РАЗДЕЛЕНИЯ СМЕСЕЙ ВЕРОЯТНОСТНЫХ РАСПРЕДЕЛЕНИЙ
Предположим, что неоднородность совокупности порождается двумя или более законами распределения вероятностей и нам необходимо данную выборку разделить на однородные подгруппы. Задача разделения выборки на однородные подгруппы называется задачей разделения (декомпозиции) смеси и включает в себя несколько подзадач: оценивание параметров смесей, построение правила для определения совокупности, к которой принадлежит заданный элемент. В зависимости от порядка решения этих подзадач меняются методы их решения. Оценив сначала параметры смеси, можно на основе известных методов (например, дискриминантный анализ, байесовский наивный классификатор и др.) сформулировать решающее правило, таким образом, решив вторую подзадачу. Решение задачи в этом порядке требует у исследователя знания типов распределений совокупностей, вхо-
дящих в смесь, что позволяет применять классические методы, такие как метод моментов, метод максимального правдоподобия.
С другой стороны, группировка элементов по группам (при помощи, например, методов кластерного анализа) позволяет оценить параметры смесей распределения стандартными методами.
В данной работе будет рассматриваться задача первого типа, математическая постановка которой выглядит следующим образом.
Пусть х = (х1, х2,..., хп) - наблюдаемое значение случайной выборки X = (Хг, Х2,..., Хп), в которой Х1, Х2, ..., Хп - независимые одинаково распределенные случайные величины с функцией распределения, тогда:
^(х) = • ^(х), (1)
1=1
где i = 1, ..., к, р{ > 0 - смешивающие вероятности, удовлетворяющие условию р1 + р2 + ... + р1с = 1; Fе.(x) - функция распределения некоторой случайной величины, известным образом зависящая от неизвестного параметра 9г- , который может быть как скалярным, так и векторным.
Задача разделения (декомпозиции) смеси состоит в поиске оценок неизвестных параметров 9 = (р1,.., рк, 01,...,9к) размерностью d, где d = 2k - 1, в случае скалярного параметра , и d = (т + 1)k - 1, в случае, если - векторный параметр размерности т.
В случае смеси дискретных распределений формулу (1) можно записать как
Р(X = т) = ^рг • Ре_(X = т),
1=1
где Ре (X = т) - вероятность принятия значения т случайной величиной с дискретным распределением, зависящим от параметра 9г,
Если же в смеси участвуют только абсолютно непрерывные распределения, то формулу (1) удобнее использовать в следующем виде:
к
Р( х) = Е Р1 • Ре,( х^
1=1
где ре(х) - плотность распределения абсолютно непрерывной случайной величины, зависящей от параметра 9г-.
3. обзор существующих методов разделения смеси
ВЕРОЯТНОСТНЫХ РАСПРЕДЕЛЕНИЙ
Историю исследования задачи разделения смеси можно рассматривать с двух точек зрения: с точки зрения развития каждого из методов или же во временном разрезе. Рассматривая развитие методического аппарата для решения задачи декомпозиции смеси как исторического процесса, можно выделить четыре этапа. Сами этапы и их описание представлены в табл. 1.
Метод моментов. Одним из методов нахождения оценок неизвестных параметров распределения является метод моментов. Идея метода состоит в замене теоретических моментов их выборочными аналогами. Остановимся на нем более подробно. Пусть Х1, Х2, ..., Хп - выборка объема п из некоторого распределения которое известным образом зависит от
Таблица 1
Историческая периодизация развития теории разделения смесей вероятностных распределений
Этап Основные ученые, внесшие значительный вклад в развитие методического аппарата Характеристика этапа
1-й этап. 1897-1940 гг. К. Пирсон, Б. Стрёмгрен, К. Бюрро Первая формулировка задачи о разделении смеси. Решение задачи для частных случаев
2-й этап. 1940-1970 гг. В.Ю. Урбах, К. Бхаттачария, Н. Дэй, В. Хассельблад, С. Джон Более общая постановка задачи. Исследование вопроса о существовании решения в общей постановке. Решение задачи для более широкого класса распределений. Модификация стандартных методов для решения задачи разделения смеси. Исследование свойств решений
3-й этап. 1970-1985 гг. М.И. Шлезингер, Н. Дэй, Б.Эфрон, А. Дэмпстер, Н. Лэйрд, Д. Рубин Формулировка ЕМ-алгоритма. Исследование его свойств. Применение ЕМ-алгоритма для моделирования смесей, а также для решения различных прикладных задач
4-й этап. 1985 г. - н.в. Б. Эверитт, Ж. Селю, Г Гуверт, Р Левайн, Х. Дилбу, В.Ю. Королев, В.В. Глинский Разработка различных модификаций ЕМ-алго-ритма. Первые применения алгоритмов для решения прикладных экономических задач
неизвестного параметра 0. Вычисляется один из существующих моментов случайной величины Х1, который является некоторой функцией от неизвестного параметра: ЕХк = И(0). Решив это уравнение относительно параметра 0, получим 0 = Л~1(ЕХ1к). В качестве оценки параметра берется величина 0* = ), в которой теоретический момент заменен своим выборочным аналогом. В случае, когда неизвестных параметров несколько, то в методе моментов берется не один момент ЕХк, а столько, сколько требуется для того, чтобы выразить все неизвестные параметры. Применение метода моментов для разделения смесей распределений в общем случае нецелесообразно в силу большого количества оцениваемых параметров и сложности получаемой системы уравнений. Однако в частных случаях, когда смесь состоит из двух компонент, метод моментов позволяет получать простые оценки неизвестных параметров.
Первые работы, посвященные разделению смесей и вообще формулировка самой задачи, принадлежат Пирсону (1897), который применил метод моментов к смеси двух нормальных распределений. Применение метода моментов позволяет свести задачу разделения смеси к решению системы алгебраических уравнений. В частности, в работе Пирсона полученная система уравнений сводилась к решению уравнения девятой степени.
Отметим, что в ряде работ рассмотрены модификации метода моментов. В [10, 14] для составления системы уравнений используются дробные моменты, в [4-6] - факториальные.
Метод максимального правдоподобия. Метод максимального правдоподобия состоит в том, что в качестве значения параметра берут такую величину, которая максимизирует вероятность получить при п испытаниях данную выборку Х = (Хх, Х2,.., Хп).
Решение задачи разделения смеси при помощи метода максимального правдоподобия рассматривается в литературе более полно и глубоко. В ра-
ботах, которые посвящены этому методу, развиваются те или иные итерационные схемы, позволяющие найти максимум функции правдоподобия. Ниже будут более подробно рассмотрены некоторые итерационные методы, позволяющие найти точку максимума функции правдоподобия.
Метод Ньютона-Рафсона. В большинстве известных методов решение задачи о нахождении точки максимума функции правдоподобия (логарифмической функции правдоподобия) сводится к решению задачи нахождения нулей производной.
Один из итерационных алгоритмов для нахождения нулей некоторой функции - это метод Ньютона-Рафсона. Он использует вектор-градиент логарифмической функции правдоподобия и ее линейное разложение в ряд Тейлора для нахождения оценки параметра 0 на ^ + 1)-й итерации.
В случае, когда логарифмическая функция правдоподобия является вогнутой и унимодальной, то итерационный метод сходится к точке максимума. Скорость сходимости метода - квадратичная. В случае, когда условие вогнутости не выполнено, последовательность итераций сходится не от всех произвольных начальных приближений. Основным достоинством метода является его быстрая скорость сходимости, но в некоторых случаях реализация метода влечет за собой определенные трудности: на каждой итерации требуется вычисление информационной матрицы и решение системы уравнений, которое достигается за счет арифметических операций и требует время порядка d 3, т.е. при росте размерности вектора оцениваемых параметров время, необходимое для итерации метода Ньютона-Рафсона может стать очень большим [12]. Кроме того, для ряда задач метод Нью-тона-Рафсона требует нецелесообразно точных начальных приближений, чтобы итерационная последовательность сходилась к точке глобального максимума. В задачах подобного типа последовательность может сходиться не только к точкам локального максимума функции правдоподобия, но и к ее седловым точкам, и локальным минимумам.
Квазиньютоновские методы. Широкое применение получили так называемые квазиньютоновские методы, которые являются своеобразным продолжением метода Ньютона-Рафсона. Оценка 0 на ^ + 1)-й итерации также получается при помощи вектора-градиента логарифмической функции правдоподобия и ее линейного разложение в ряд Тейлора, но вместо прямого вычисления обратной матрицы к матрице Гессе используется ее некоторое приближение. Например, приближение может быть получено при помощи поправок первого или второго рангов, вносимых на каждой итерации [13].
Квазиньютоновские методы имеют преимущество перед методом Нью-тона-Рафсона в том, что они не требует оценки матрицы Гессе на каждой итерации алгоритма и реализуются способами, которые требуют только порядка d2 арифметических операций для решения системы d линейных уравнений. Однако эти методы также требуют достаточно точных начальных приближений для 0 и для обратной матрицы к матрице Гессе. Еще одно преимущество квазиньютоновских методов состоит в том, что при выполнении необходимых условий они всегда сходятся к локальным максимумам функции правдоподобия.
Но даже при всех этих достоинствах квазиньютоновские методы не всегда применимы в статистических приложениях [11]. В частности, обыч-
но на первом шаге матрица Гессе аппроксимируется единичной матрицей, что приводит к неоправданно завышенным или заниженным значениям логарифмической функции правдоподобия.
ЕМ-алгоритм. Одной из наиболее используемых итерационных процедур, построенных для максимизации функции правдоподобия, является ЕМ-алгоритм. Само название ЕМ-алгоритма и его формулировка в том виде, в котором он существует сейчас, предложены в работе Дэмпстера, Лэйрда и Рубина [7], которая посвящена применению метода максимального правдоподобия к статистическому оцениванию по неполным статистическим данным. В этой работе были исследованы свойства ЕМ-алгоритма, его сходимость, а также приведены примеры его применения к различным прикладным задачам.
ЕМ-алгоритм - это итерационная процедура поиска оценок максимального правдоподобия вектора параметров (p15...,pk,0j,...,0к). Каждая итерация алгоритма состоит из двух этапов: на первом этапе (Е-этапе, англ. Expectation - ожидание) определяется условное математическое ожидание логарифма функции правдоподобия при известных значениях наблюдаемых переменных. На втором этапе (М-этапе, англ. Maximization) вычисляется оценка максимального правдоподобия, которая используется для Е-этапа на следующей итерации.
Пусть известно значение вектора параметров на m-й итерации ЕМ-ал-
p(m) ■ f (х )
горитма: (p(m),..., p[m), 0{m),...,0«), m > 0. Обозначим g(m) = -,
V Г=1 Pr ■ f0<m)(XJ )
где f0 (х) - плотность распределения, i = 1, ..., k, j = 1, ..., n. Тогда значения
параметров на (m + 1)-й итерации ЕМ-алгоритма определяются следующим образом:
p(m+1) =1Vn g(m), 0(m+1) - оценки максимального правдоподобия неиз-
n 1
вестного параметра 0г , построенные по реализации X = (х1; х2,..., хп) выборки X = (X1, X2,..., Xn), как если бы распределение каждого ее элемента за-
g
давалось вероятностями ij
(m)
(m) '
V n g( :
Кроме того, необходимо определить критерий остановки работы ЕМ-алгоритма. Реализация ЕМ-алгоритма может быть осуществлена на любом языке программирования.
SEM-алгоритм. Несмотря на неоспоримое достоинство ЕМ-алгоритма -его простоту, он обладает существенным недостатком: сильной зависимостью результатов его применения от начального приближения, так как выбирает первый попавшийся локальный максимум. То есть являясь методом локальной оптимизации, он приводит не к глобальному максимуму функции правдоподобия, а к тому локальному максимуму, который является ближайшим к начальному приближению.
Таким недостатком не обладает SEM-алгоритм - Stochastic EM-algorithm (стохастический или случайный ЕМ-алгоритм), идея которого заключается в случайном «встряхивании» наблюдений на каждой итерации.
Пусть известно значение вектора параметров на m-й итерации ЕМ-алгоритма: (p((m),..., p(km\ ö((m),...,ökm-1), m > 0, а также значения gJm), причем V k= gjm) = 1, Для каждого j = 1, ..., п и при каждом m.
Для каждого j = 1,..., п генерируются векторы y(m+() = (jj(m+1), y2m+1),..., уП7+()) как реализации случайных векторов с полиномиальным распределением с параметрами 1 и g((m),...,gj) (gJm) - это вероятность того, что y(m+() = 1).
Таким образом, векторы y(m+() при каждом j имеют только одну ненулевую компоненту (равную единице).
Для каждого i = 1, ..., k вычисляются v(m+() = V"= yj+(). Тогда значения
г J =( J
параметров на (m + 1)-й итерации SEM-алгоритма определяются следующим образом:
y(m+()
p( m+() =_i-, m+() - оценки максимального правдоподобия неизвестно-
n
го параметра öi , построенные по реализации x = (y((m+()x(, yJ(-m+()x2,..., y(nm+()xn) с объемом выборки v( m+(), g(m+() =—p-f—)—--.
р г g- vk=( ¿m+() ■ x-)
После оценки неизвестных параметров смеси распределений важной задачей является задача определения числа компонент смеси, если оно заранее неизвестно. В этом случае предлагается использовать информационный критерий Акаике (AIC), предложенный в 1971 г. Х. Акаике и исследованный затем в его работах 1973, 1974 и 1983 гг. и работах других авторов [1-3]. В качестве показателя качества модели Акаике предложил использовать следующую статистику:
AIC = -2 In f ( x; ö( x)) + 2d.
Этот показатель является мерой «несогласия» модели и реальных данных, т.е. чем меньше значение AIC, тем лучше модель.
При этом включение в модель дополнительных параметров только увеличивает правдоподобие модели и, следовательно, уменьшает первое слагаемое в AIC. Однако при этом увеличивается второе слагаемое, «штрафующее» за использование дополнительных параметров.
Руководствуясь информационным критерием Акаике, оптимальное число компонент смеси можно определить следующим образом:
копт = ar8 min {- In f ( x; ö( x)) + (m + ()k - (},
где m - размерность параметра öi .
После определения числа компонент смеси распределений необходимо вычислить пороговые значения показателя, зная которые, можно определять принадлежность объекта к той или иной компоненте смеси. Предлагается считать объект со значением показателя x, принадлежащим i-й ком-
рг ■ Fö (x) p- ■ Fö-(x) поненте смеси, если —,-г-> —к-J- для всех i ф j, т.е. если i-я
V ;=( pi ■ Fö,(x) V и PI ■ Fö,(x)
компонента дает наибольший вклад в В(х). Это условие выполняется, когда р • (х) > р] • (х). Таким образом, определение пороговых значений сводится к решению ^ - 1) неравенства типа р; • (х) > • (х), а затем к
нахождению пересечения полученных множеств. Для большинства известных распределений подобные неравенства возможно решить в явном виде. В случае же, когда смесь состоит из двух компонент, нахождение пороговых значений сводится к решению одного неравенства: р1 • ^ (х) > р2 • е (х).
Стоит отметить, что в случае дискретных распределений неравенства удобнее решать в виде р; • Ре (X = х) > • Ре (X = х). А в случае абсолютно непрерывных распределений р. • ре (х) > pj • рв (х).
Результаты сравнительного анализа рассматриваемых методов декомпозиции смесей распределений представлены в табл. 2.
Таблица 2
Сравнительный анализ рассматриваемых методов декомпозиции смесей распределений
Методы Преимущества Недостатки
Метод моментов Простота вычисления оценок для двухкомпонентных смесей Состоятельность оценок Сложность вычисления оценок для смесей с тремя и более компонентами Для выборок небольшого объема может давать оценки, которые существенно хуже оценок максимального правдоподобия
Метод Ньютона-Рафсона Быстрая скорость сходимости Большая вычислительная стоимость каждой итерации Требует большого количества памяти Обладает неустойчивостью по начальным данным Может сходиться не только к локальным максимумам функции правдоподобия, но и к минимумам и седловым точкам
Квазиньютоновские методы Сходится к локальным максимумам функции правдоподобия Меньшая вычислительная стоимость каждой итерации по сравнению с методом Ньютона-Рафсона Обладает неустойчивостью по начальным данным приводит к неоправданно завышенным или заниженным значениям функции правдоподобия Достаточно большая вычислительная стоимость каждой итерации
ЕМ-алгоритм Численно стабилен Легко программируется и не требует большого количества памяти Низкая вычислительная стоимость каждой итерации, что может компенсировать большое количество итераций по сравнению с другими алгоритмами Реализован в ППП STATISTICA Обладает медленной скоростью сходимости для ряда задач Не гарантирует сходимости к глобальному максимуму при наличии нескольких максимумов Обладает неустойчивостью по начальным данным В некоторых задачах Е-шаг может быть аналитически трудноразрешимым
SEM-алгоритм Численно стабилен Обладает устойчивостью по начальным данным Как правило, сходится глобальному максимуму функции правдоподобия Быстрая скорость сходимости Существует ряд смесей, для которых алгоритм не эффективен
Проведенный сравнительный анализ показывает, что для решения задачи разделения смеси наиболее эффективным является использование SEM-алгоритма. В ряде случаев можно использовать ЕМ-алгоритм, ввиду удобства его использования (так как ЕМ-алгоритм реализован в ППП STATISTICA), а также метод моментов в силу его простоты.
4. ТИПОЛОГИЧЕСКАЯ ГРУППИРОВКА НА ОСНОВЕ ДЕКОМПОЗИЦИИ СМЕСЕЙ ВЕРОЯТНОСТНЫХ РАСПРЕДЕЛЕНИЙ
Проведенный обзор исследований, ряд выполненных и апробированных практических работ позволили сформировать авторское видение методического подхода к разделению смесей распределений.
Предложенный методический подход реализуется в несколько этапов.
I. Статистическое наблюдение.
Исследование социально-экономического явления может проводиться на макро-, мезо- и микроуровнях. В зависимости от уровня исследования данные необходимо собирать в разрезе стран, субъектов Российской Федерации или муниципальных образований. При выборе показателя, отвечающего за характеристику социально-экономического явления или процесса, следует придерживаться следующих правил:
- показатель должен разрабатываться органами официального статистического учета;
- не рекомендуется использовать показатель, оценка которого проводится экспертным путем;
- для различных единиц совокупности данные должны быть сопоставимы, т.е. скорректированы либо с учетом размера территории, либо с учетом численности населения
II. Разведывательный анализ.
Этот этап реализуется в несколько шагов. На первом шаге на основе теоретических предположений, а также при помощи гистограммы и визуального анализа выдвигается гипотеза о законе распределения, которому подчиняется распределение значений данного показателя, а также вычисляются оценки максимального правдоподобия для неизвестных параметров распределения. Далее осуществляется проверка соответствия реальных данных предполагаемому закону распределения при помощи одного из критериев согласия (критерий Пирсона, критерий Колмогорова-Смирнова). Здесь же вычисляется значение информационного критерия Акаике (А1С1) для данной выборки и данного распределения. В случае, когда основная гипотеза по критерию согласия не отвергается, данные можно считать однородными. В случае, когда основная гипотеза отвергается в пользу альтернативной, выдвигается предположение о смеси нескольких законов распределений и дальнейшее исследование осуществляется по схеме, представленной на рисунке.
Оценка параметров смеси распределений может осуществляться при помощи любого из трех перечисленных методов, но стоит отметить, что SEM-алгоритм дает наиболее устойчивые результаты, а метод моментов разумно применять в случае, когда число компонент смеси равно двум.
Выбор показателя
Гипотеза ________________. Гипотеза
подтверждается__^-----Проверка гипотезы не подтверждается
Методика типологизации на основе разделения смесей вероятностных распределений
Следующий шаг после определения числа компонент смеси - определение пороговых значений для каждой компоненты, который сводится к решению системы, состоящей из ^ - 1) неравенства.
III. Типологическая группировка.
На основе результатов предыдущего шага проводится разделение всех объектов наблюдения на k типов. Вычисленные числовые характеристики для каждой компоненты смеси позволяют дать качественное описание каждого типа.
5. типология субъектов российской федерации ПО уровню безработицы
На основе предложенного подхода осуществлена типологизация субъектов Российской Федерации по уровню безработицы.
I этап. Данные собраны в разрезе субъектов Российской Федерации. Уровень безработицы рассчитывался как численность безработного населения в процентах от общей численности населения субъекта. Информационный массив для исследования сформирован на основе статистической информации, представленной на официальном сайте Федеральной службы государственной статистики.
II этап. Проверено согласование реальных данных с нормальным и логнормальным законами распределения при помощи критерия согласия
Пирсона. Все гипотезы проверялись на уровне значимости 0,05. За исследуемый период эмпирическое распределение не соответствует предполагаемому теоретическому распределению.
Это позволило сделать предположение, что показатели описываются смесью двух или более нормальных распределений. Задача декомпозиции смеси для всех показателей осуществлялась SEM-алгоритмом. Затем при помощи критерия Акаике определялось количество компонент смеси. Для всех исследуемых лет распределение показателей описывается двухкомпо-нентной смесью нормальных распределений, причем вторая компонента характеризуется более высокими показателями числовых характеристик -среднего значения и стандартного отклонения.
III этап. Наличие смеси при описании уровня безработицы позволяет разделить все субъекты РФ на два типа: «занятые» регионы - регионы с низким уровнем безработицы, распределение которых с большей вероятностью описывается первой компонентой смеси, и «безработные» регионы - регионы с высоким уровнем безработицы, распределение которых с большей вероятностью описывается второй компонентой смеси. Для типологической группировки для каждого года были рассчитаны пороговые значения и сформулировано решающее правило: в случае, когда уровень безработицы превышает пороговое значение, субъект относится к «безработным» регионам. В табл. 3 за исследуемый период представлены «безработные» субъекты Российской Федерации, а также пороговое значение для каждого года. Курсивом выделены устойчивые субъекты РФ, которые всегда попадали во вторую группу регионов.
Таблица 3
«Безработные» субъекты РФ
Год Пороговое значение (xb) Субъект РФ
2005 13,48 Республика Калмыкия, Республика Дагестан, Республика Ингушетия, Кабардино-Балкарская Республика, Карачаево-Черкесская Республика, Республика Тыва
2010 23,98 Республика Ингушетия, Чеченская Республика
2011 18,16 Республика Ингушетия, Чеченская Республика
2012 10,88 Республика Калмыкия, Республика Дагестан, Республика Ингушетия, Чеченская Республика, Республика Алтай, Республика Тыва
2013 10,76 Республика Калмыкия, Республика Дагестан, Республика Ингушетия, Чеченская Республика, Республика Алтай, Республика Тыва
2014 11,65 Республика Ингушетия, Чеченская Республика
2015 11,43 Республика Ингушетия, Карачаево-Черкесская Республика, Чеченская Республика, Республика Тыва
2016 11,35 Республика Ингушетия, Карачаево-Черкесская Республика, Чеченская Республика, Республика Алтай, Республика Тыва
2017 8,12 Республика Карелия, Республика Адыгея, Республика Калмыкия, Республика Дагестан, Республика Ингушетия, Кабардино-Балкарская Республика, Карачаево-Черкесская Республика, Республика Северная Осетия-Алания, Чеченская Республика, Курганская область, Республика Алтай, Республика Бурятия, Республика Тыва, Забайкальский край, Иркутская область, Еврейская автономная область
Необходимо отметить, что несмотря на снижение уровня безработицы по Российской Федерации в целом, тем не менее количество регионов, попавших в «безработные», растет, следовательно, растет и дифференциация между субъектами РФ по указанному показателю.
6. ЗАКЛЮЧЕНИЕ
В работе предложен подход к определению неоднородных данных, основанный на смесях вероятностных распределений. Разработанная на основе этого подхода методика позволяет выявлять неоднородность данных по заданному показателю, а также позволяет выполнить корректную типологию объектов наблюдения.
Проведение статистических исследований в рамках предложенного методического подхода позволяет проводить типологические группировки территориальных образований любого уровня, которые могут быть использованы при разработке и корректировке органами государственной власти документов стратегического планирования, региональных и федеральных программ экономического развития, и принятия управленческих решений, направленных на уменьшение дифференциации территорий.
Литература
1. Aitkin M., Aitkin I. Efficient computation of maximum likelihood estimates in mixture distributions, with reference to overdispersion and variance components. In Proceedings XVIIth International Biometric Conference, Hamilton, Ontario. Alexandria, Virginia: Biometric Society. 1994. P 123-138.
2. Akaike Н. Information theory and an extension of the maximum likelihood principle. in: B.N. Petrov and F Csake (eds.) Second International Symposium on Information Theory. Akademiai Kiado, Budapest, 1973. IP 267-281.
3. Akaike Н. A Bayesian analysis of the minimum AIC procedure. Ann. Inst. Statist. Math. 1978. Vol. 30A. P 9-14.
4. Blischke WR. Estimating the parameters of mixtures of binomial distributions. J. Amer. Statist. Assoc. 1964 - 59. № 306. P 510-528.
5. Blischke W.R. Moment estimators for the parameters of a mixture of two binomial distributions. Ann. Math. Stat. 1962 - 33. № 2. P. 444-454.
6. Cohen A.C. Estimation in mixtures of discrete distributions. Proc Int Symp. Classical and Contagious Discrete Distrib. Montreal, 1963. P 373-378.
7. Dempster A.P., Laird N.M., Rubin D.B. Maximum likelihood from incomplete data via the EM algorithm (with discussion). Journal of the Royal Statistical Society B. 1977 - 39. P 1-38.
8. Glinskiy V, Serga L., Chemezova E., Zaykov K. Clusterization economy as a way to build sustainable development of the region. Procedia CIRP 13. «13th Global Conference on Sustainable Manufacturing - Decoupling Growth from Resource Use». 2016. P 324-328.
9. Glinskiy V, Serga L., Khvan M. Assessment of environmental parameters impact on the level of sustainable development of territories. Procedia CIRP 13. «13th Global Conference on Sustainable Manufacturing - Decoupling Growth from Resource Use». 2016. P 626-631.
10. Joffe A.D. Mixed exponential estimation by the method of half moments. Appl. Statist. 1964 - 13. № 2. P 91-98.
11. Lange K. A quasi-Newton acceleration of the EM algorithm. Statistica Sinica. 1995. 5. P. 1-18.
12. McLachlan, Geoffrey J., Krishnan Thriyambakam, Ng, See Ket. The EM Algorithm, Papers / Humboldt-Universität Berlin, Center for Applied Statistics and Economics (CASE), 2004, 24.
13. Redner R.A., Walker H.E. Mixture densities, maximum likelihood and the EM algorithm. SIAM Review. 1984. 26. P 195-239.
14. Tallis G.M., Light R. The use of fractional moments for estimating the parameters of a mixed exponential distribution. Teehnometniics. 1968 - 10. № 1. IP 161-175.
Bibliography
1. Aitkin M., Aitkin I. Efficient computation of maximum likelihood estimates in mixture distributions, with reference to overdispersion and variance components. In Proceedings XVIIth International Biometric Conference, Hamilton, Ontario. Alexandria, Virginia: Biometric Society. 1994. II 123-138.
2. Akaike H. Information theory and an extension of the maximum likelihood principle. in: B.N. Petrov and F Csake (eds.) Second International Symposium on Information Theory. Akademiai Kiado, Budapest, 1973. P 267-281.
3. Akaike H. A Bayesian analysis of the minimum AIC procedure. Ann. Inst. Statist. Math. 1978. Vol. 30A. P. 9-14.
4. Blischke W.R. Estimating the parameters of mixtures of binomial distributions. J. Amer. Statist. Assoc. 1964 - 59. № 306. P 510-528.
5. Blischke W.R. Moment estimators for the parameters of a mixture of two binomial distributions. Ann. Math. Stat. 1962 - 33. № 2. P. 444-454.
6. Cohen A.C. Estimation in mixtures of discrete distributions. Proc Int Symp. Classical and Contagious Discrete Distrib. Montreal, 1963. P 373-378.
7. Dempster A.P., Laird N.M., Rubin D.B. Maximum likelihood from incomplete data via the EM algorithm (with discussion). Journal of the Royal Statistical Society B. 1977 - 39. P 1-38.
8. Glinskiy V, Serga L., Chemezova E., Zaykov K. Clusterization economy as a way to build sustainable development of the region. Procedia CIRP 13. «13th Global Conference on Sustainable Manufacturing - Decoupling Growth from Resource Use». 2016. P 324-328.
9. Glinskiy V, Serga L., Khvan M. Assessment of environmental parameters impact on the level of sustainable development of territories. Procedia CIRP 13. «13th Global Conference on Sustainable Manufacturing - Decoupling Growth from Resource Use». 2016. P 626-631.
10. Joffe A.D. Mixed exponential estimation by the method of half moments. Appl. Statist. 1964 - 13. № 2. P 91-98.
11. Lange K. A quasi-Newton acceleration of the EM algorithm. Statistica Sinica. 1995. 5. P. 1-18.
12. McLachlan, Geoffrey J., Krishnan Thriyambakam, Ng, See Ket. The EM Algorithm, Papers / Humboldt-Universität Berlin, Center for Applied Statistics and Economics (CASE), 2004, 24.
13. Redner R.A., Walker H.E. Mixture densities, maximum likelihood and the EM algorithm. SIAM Review. 1984. 26. P 195-239.
14. Tallis G.M., Light R. The use of fractional moments for estimating the parameters of a mixed exponential distribution. Teehnometniics. 1968 - 10. № 1. P 161-175.
