CC BY
16ISSN 1814-1196 Научный вестник НГТУ том 63, № 2, 2016, с. 70-89
http://journals.nstu.ru/vestnik Science Bulletin of the NSTU Vol. 63, No. 2, 2016, pp. 70-89
ОБРАБОТКА ИНФОРМАЦИИ INFORMATION PROCESSING
УДК 519.233.22
Оценивание параметров распределения ограниченной случайной величины, робастное к нарушению границ
Д.В. ЛИСИЦИН1, КВ. ГАВРИЛОВ2
1 630073, РФ, г. Новосибирск, пр. Карла Маркса, 20, Новосибирский государственный технический университет, доктор технических наук, профессор. Е-тай: lisitsin@ami.nstu.ru
2 630005, РФ, г. Новосибирск, ул. Достоевского, 58, офис 508, ООО «Научно-производственное предприятие "Логос-Плюс"», программист-математик, кандидат технических наук. Е-таИ: qot@ngs.ru
В работе рассматриваются два подхода к задаче робастного оценивания параметров распределения одномерной непрерывной случайной величины, область значений которой является ограниченной (с одной или с обеих сторон). Традиционный подход позволяет получать ро-бастные оценки параметров лишь в условиях, когда реальная и модельная случайные величины имеют одну и ту же область значений, и поэтому часто оказывается малопригодным. Введенный нами ранее обобщенный подход может применяться при наличии наблюдений, лежащих вне области значений модельной случайной величины. Ранее нами введено правило модификации оценок параметров для перехода от традиционного подхода к обобщенному (оно заключается в доопределении функции влияния нулем вне области значений модельной случайной величины) и получены условия асимптотической эквивалентности подходов для случая состоятельных оценок; в данной работе эти исследования продолжены. Поскольку в теории робастности состоятельность оценок обеспечивается, как правило, только для модельного распределения, в работе получены условия асимптотической эквивалентности подходов в случае, когда состоятельность отсутствует, а именно при наличии асимптотического смещения. В работе выявлена связь оценок, получаемых в рамках обобщенного подхода, с широко используемыми сниженными оценками параметров распределений неограниченных случайных величин. Это дает возможность, в частности, определять границы области, где оценочные функции не равны нулю, посредством оценивания параметров распределения, а не субъективно. На основе указанной связи в работе дается интерпретация ряда известных сниженных оценок параметра сдвига (оценок Тьюки (бивес), Эндрюса, Смита, Бернулли и Хьюбера типа урезанного среднего).
Ключевые слова: ограниченная случайная величина, финитная модель, оценивание параметров, М-оценка, асимптотически смещенная оценка, робастность, функция влияния, сниженная оценка, косинусное распределение, распределения Пирсона
Б01: 10.17212/1814-1196-2016-2-70-89
* Статья получена 04 февраля 2016 г.
ВВЕДЕНИЕ
Важными этапами построения математической модели по статистическим данным являются выбор распределения случайной величины и оценивание параметров этого распределения. При этом значимым является учет априорной информации. На практике априорная информация может состоять в том, что значения наблюдаемой случайной величины ограничены (с одной или с обеих сторон). Если значения случайной величины ограничены с обеих сторон (например, для большинства измерительных приборов известны абсолютная или относительная погрешность измерений), то могут использоваться финитные модели [1-3], т. е. модели, в которых областью значений случайной величины является ограниченный интервал. Прийти к использованию финитных моделей можно и путем анализа выборки. Например, в работе [4] финитные модели появляются как предельные случаи приближенных финитных моделей [1, 3] в результате оценивания параметров последних.
В случае, когда реальное распределение наблюдений отличается от модельного, могут использоваться методы робастного оценивания параметров [5-8]. В теории робастности обычно предполагается, что реальная и модельная случайные величины имеют одну и ту же область значений. Однако при робастном оценивании параметров распределений случайных величин, значения которых ограничены, такой подход (названный нами традиционным) не всегда приводит к устойчивым оценкам. Тогда необходимо использовать введенный в работе [9] обобщенный подход, при котором обеспечивается устойчивость оценок к наличию наблюдений, лежащих вне области значений модельной случайной величины.
В работе [9] введено правило модификации оценок параметров для перехода от традиционного подхода к обобщенному и получены условия асимптотической эквивалентности подходов для случая состоятельных оценок, в данной работе эти исследования продолжены. Однако в теории робаст-ности состоятельность обеспечивается, как правило, только для модельного распределения. Поэтому представляет интерес исследование оценок в условиях, когда состоятельность отсутствует, а именно при наличии асимптотического смещения. В данной работе подобное исследование проведено. Полученные результаты применяются для выявления ситуаций, в которых традиционный и обобщенный подходы асимптотически эквивалентны при оценивании параметра масштаба частного случая косинусного распределения [10] в условиях, когда реальные наблюдения принадлежат другим распределениям.
Важность финитных моделей в контексте робастной статистики особенно проявляется в их взаимоотношении с широко используемыми сниженными оценками параметров распределений неограниченных случайных величин [7, 8]. Однако связь между ними остается до конца не проясненной: непонятно, на основании чего осуществляются переходы между моделями неограниченных и ограниченных случайных величин. Одним из объяснений здесь может быть использование усечения выборки с целью исключения аномальных наблюдений [7], другим - применение обобщенного подхода. На базе последнего в работе дается интерпретация ряда известных сниженных оценок параметра сдвига.
1. ТРАДИЦИОННЫЙ И ОБОБЩЕННЫЙ ПОДХОДЫ
Пусть х1,...,хт - независимые наблюдения непрерывной случайной величины , имеющей распределение с модельной плотностью /(х, ц), где /(х, ц) > 0 при х е X = (а; Р) с Я, т - объем выборки, ц - вектор параметров модели. Заметим, что реальное распределение наблюдаемой случайной величины может отличаться от модельного.
Границы области значений случайной величины а , Р могут быть параметрами модели, т. е. элементами вектора ц. Также они могут определяться как функции других параметров, например, как линейные комбинации параметров сдвига 0 и масштаба I данной модели. Так, для симметричных распределений часто используется параметризация а = 9- /, Р = 9 + /, для несимметричных а = 9, Р = 9 + / [10].
С другой стороны, ограниченную случайную величину можно получить путем усечения некоторой неограниченной случайной величины. В этом случае параметры сдвига и масштаба исходного распределения и параметры-границы могут одновременно присутствовать в модели и не быть как-либо связанными.
Пример 1. Косинусное распределение. В качестве примера финитного распределения рассмотрим косинусное распределение [10] с плотностью
г / л 1 \ Г((га + 1) / 2) ю-1 п( х -0)
((х; 0,/, га) =----—-соэ —--, | х-0 |< I, га> 0,
21Г (га/2) 21
где 0 - параметр сдвига, I - параметр масштаба, га - параметр формы. Частным случаем данного распределения является равномерное при га = 1.
При га = 3 косинусное распределение является наименее благоприятным (т. е. имеющим наименьшую информацию Фишера о параметре сдвига) в классе финитных распределений (как подклассе класса симметричных, унимодальных, имеющих конечную информацию Фишера о параметре сдвига распределений), поэтому его может быть выгодно использовать в качестве модельного финитного распределения [1]. В частности, ряд устойчивых оценок параметров данного распределения получен в работах [2, 3] и применен в [4].
Предположим, что хотя бы одна из величин а , Р является неизвестной и определяется посредством оценивания параметров модели по наблюдениям. Будем считать также, что если одна из границ а или Р является известной, то она может быть равной соответственно -да или . Это позволяет рассматривать в рамках данной модели случаи, когда область значений случайной величины ограничена только с одной стороны: (-да;Р) или (а; +да). Мы не будем специально выделять такие случаи, но будем явно указывать ситуации, в которых граница должна быть конечной.
Как важный частный случай оценок рассмотрим М-оценки. М-оцен-ка цт векторного параметра ц находится как решение оптимизационной задачи [7]
т
Цт = а^шт X М (х, п), (1)
Л г=1
где М(х,- непрерывная функция потерь, или как решение системы оценочных уравнений
т
Е^СХ', Пт) = 0, (2)
г=1
где у( х, - векторная оценочная функция.
Функциональный аналог уравнения (2)
х, (х) = 0, (3)
где О(х) - функция реального распределения наблюдений, задает оценку "П0 ] как функционал от G . Аналогичное функциональное уравнение
можно сформулировать и для задачи (1) [7].
Понятия устойчивости в работе [6] или 5-робастности в работе [8] характеризуют устойчивость оценки к виду распределения наблюдений, однако при этом области значений реальной и модельной случайных величин должны быть одинаковы. Для ограниченной случайной величины это означает, что все наблюдения должны принадлежать оцененной области X, образующейся заменой значений а и р их оценками. Однако такой подход не всегда дает возможность оценить параметры.
Например, выборка может быть произведена из засоренного финитного распределения с нефинитным засоряющим распределением, т. е. плотность распределения реальных наблюдений имеет вид смеси (1 - w)/(х, + + wh(х, , где 0 < w < 1, И(х,- плотность засоряющего распределения, для которой справедливо ^х, > 0 при х е Я . Допустим, оценивается параметр сдвига 0 = (а+ Р) / 2 при фиксированном значении параметра масштаба I = (Р - а) / 2 . Тогда в ситуации, когда размах выборки больше 21, оценивание невозможно. С другой стороны, оценка параметра масштаба I должна быть больше, чем наибольшее по модулю значение остатка х1 -9. В результате при наличии выбросов, лежащих за пределами X, оценки будут весьма чувствительны к ним, а оценки границ будут определяться, скорее, именно выбросами.
Таким образом, в связи с возможным требованием обеспечить устойчивость как к виду распределения наблюдений, так и к наличию наблюдений, лежащих вне области значений модельной случайной величины, задача оценивания параметров может быть сформулирована двумя способами.
Назовем традиционным подход, при котором не допускаются наблюдения, не принадлежащие X. При использовании традиционного подхода к решению задачи оценивания определяется множество допустимых значений оцениваемого параметра, такое что все наблюдения принадлежат X, и оценка выбирается из данного множества.
Обобщенным будем называть подход, при котором допускается наличие наблюдений, не принадлежащих X (вообще говоря, имеющих произвольные значения из Я) [9].
Одним из способов получения оценок в рамках обобщенного подхода может быть модификация известных оценок, используемых при традиционном подходе. В работе [9] в качестве основы такой модификации предложено использование функции влияния [8], которая имеет вид
Ш (х) = Нш
Ц[(1 - X)Р + XДх ] -Ц[Р]
X
где Р - функция модельного распределения, Дх - функция Хевисайда (единичного скачка) в точке х. В работе [8] аргумент функции влияния удовлетворяет условию х е X. Однако в рассматриваемом нами случае реальные наблюдения принадлежат Я, поэтому область определения функции влияния должна быть расширена до Я.
Пусть при традиционном подходе используется оценка с функцией влияния 1Р(х) при х е X . Наблюдения, лежащие вне X, по отношению к модели являются выбросами, поэтому теоретически указанные наблюдения не должны воздействовать на оценку. Тогда для реализации обобщенного подхода можно использовать оценку с функцией влияния, равной 1Р (х) при х е X и нулевому вектору при х & X .
Функция влияния М-оценок в нашем случае имеет вид
1Р (х) = N-1у( х, ц), (4)
с и
где N = N(ц) = - I —— у(х, ц)/(х, ц) - невырожденная матрица при
X
всех п [9].
Опираясь на формулу (4), от М-оценки с оценочной функцией у(х, ц) при традиционном подходе легко перейти к М-оценке в рамках обобщенного подхода: ее оценочная функция равна у(х, ц) при х е X и нулевому вектору - при х & X .
В теории робастности часто используются оценки, оптимальные в том или ином смысле [6-8]. Предлагаемый способ модификации оценок лежит вне какого-либо оптимизационного подхода. Однако модификации оценок, оптимальных в рамках традиционного подхода, могут оказаться оптимальными и в рамках обобщенного подхода.
Например, в работе [11] рассмотрена задача получения оптимальных оценок посредством минимизации квадрата весовой ¿2 -нормы функции влияния
Us (у) = | ¡Г(x)TWIF(х)5(х, ц)(Х , (5)
Я
где W - положительно определенная матрица (при некоторых условиях она позволяет обеспечить инвариантность показателя (5) к преобразованию параметров модели [11, 12]), 5(х,ц) > 0 - весовая функция (см. также [13]). С традиционным подходом согласовывается выбор весовой функции, поло-
жительной на X, а с обобщенным - положительной на Я. При некоторых условиях [11] оптимальная оценочная функция в обоих случаях имеет вид
где с(г|) - произвольная матрица, невырожденная при всех |, вектор 6(|) определяется из условия асимптотической несмещенности оценки при модельном распределении.
Пример 2. Обобщенные радикальные оценки. В качестве конкретного примера рассмотрим обобщенные радикальные оценки, которым соответствует оценочная функция (6) при весовой функции s(х,|), пропорциональной /1-Х(х,|), где параметр робастности Х> 0 [3, 13]. Такая весовая функция оптимизирует энтропию Шеннона | 51п 5йх при ограничении на саму
X
весовую функцию | $йх = 1 (она интерпретируется как некоторая плотность
X
[6, 11, 13]), и ограничении сверху на дивергенцию Кульбака-Лейблера
С 5
I 51п—йх <Д [14]. В этом случае параметр робастности удовлетворяет усло-
вию 0 <Х< 1. В случае замены энтропии Шеннона мерой неточности Керри-джа | 51п /йх [15, 16] получается то же решение с параметром робастности,
удовлетворяющим условию X > 0 .
Отдельно выделим случай X = 1, приводящий к константной весовой функции 5(х, |). Он соответствует максимизации энтропии без ограничения на дивергенцию или использованию простой ¿2 -нормы (без весовой функции), а следовательно, здесь требуется меньше априорной информации для формулировки задачи оптимального оценивания.
Продолжим обсуждение модификации оценок. Обозначим множество решений задачи оценивания при традиционном подходе через Фт, а при
обобщенном подходе - через Фт.
Отметим, что для М-оценок мы различаем множество решений задачи оптимизации или системы оценочных уравнений и множество решений задачи оценивания. Причиной этого является возможная неоднозначность в выборе решения. Например, каждой минимизируемой функции в выражении (1) или системе уравнений (2), (3) отвечает, вообще говоря, некоторое множество решений. Если оценки предполагаются состоятельными, в асимптотике неоднозначность в выборе решения исчезает. Однако если рассматривать не только состоятельные оценки, то среди решений для (1)—(3) могут оказаться «аномальные». Например, в обобщенном подходе среди решений системы (2) могут быть приводящие к оцененной области X, не содержащей наблюдений; в свою очередь, среди решений системы (3) могут быть приводящие к оцененной области X, не пересекающейся с истинной. По-видимому, и при
с(|) Г 3 л
х,|) =—-- — /(х,|) + 6(|)/(х,|) ,
5 (х, |)
(6)
X
других типах оценивания могут возникать подобные «аномальные» решения. Такие решения целесообразно не считать оценками.
При модификации желательно обеспечить равенство (в некотором смысле) оценок, полученных в рамках традиционного и обобщенного подходов, если нет наблюдений, лежащих вне области Х. Мы рассматриваем свойство
lim Prob {Фm = Фm j = 1, (7)
где Prob - вероятность, в случае выполнения которого называем традиционный и обобщенный подходы асимптотически эквивалентными [9]. При этом считаем выполненным свойство равенства оценок, полученных в рамках обоих подходов при отсутствии наблюдений, не принадлежащих оцененной области X. Очевидна также справедливость обратного утверждения: если оценки равны, то отсутствуют наблюдения, лежащие вне оцененной области X .
Легко увидеть, что при отсутствии наблюдений, лежащих вне оцененной области X, определенное выше правило модификации М-оценок приводит к одинаковым системам оценочных уравнений (2) для обоих подходов, а значит, и к равенству множеств Фm и Фm .
Таким образом, события {cDm =<bm j и {xi е (аm;ßm ), i = 1,mj оказываются эквивалентными, и равенство (7) справедливо, только если выполняется равенство
lim Prob {xi е (аm ;ßm ), i = 1,mj = 1. (8)
Здесь и далее обозначения вида уm, уm используются для оценок параметров, полученных с применением традиционного и обобщенного подходов соответственно. В случае только одного неизвестного параметра-границы под оценкой другого в выражении (8) и далее по тексту подразумевается соответствующее истинное значение.
2. ИССЛЕДОВАНИЕ СЛУЧАЯ СОСТОЯТЕЛЬНЫХ ОЦЕНОК
Условия, при которых подходы являются асимптотически эквивалентными, в случае состоятельных оценок исследованы в работе [9]. Рассмотрим кратко полученные там результаты и докажем новые.
Для оценок ат и |т будем использовать условия состоятельности
Е | ат - а |г а = 0(т~^а) при т ^<х>,
Е11т |гР = 0(т) при т
где Е - оператор математического ожидания, Са> 0, Ср> 0, г а> 1, г р> 1. Случаю у,[т -состоятельных оценок [6] соответствуют значения = 1,
r а = r р = 2 . Если оценивается только один параметр из пары, а второй фиксирован, в том числе равен ±да, то значение Z, соответствующее фиксированному параметру, принимаем равным да .
Вектор параметров модели ц может не включать в явном виде параметры а и р. В этом случае, во-первых, будем предполагать, что возможна ре-
T T
параметризация вида ц = Ац, где ц = [а р ф ] (если одна из границ известна, то ц ее не содержит), ф - вектор дополнительных параметров, не зависящих от а и р, А - невырожденная матрица. Во-вторых, будем использовать состоятельность оценок параметров ц в среднем квадратичном (т. е.
rа= r р= 2). Тогда если матрица Бц = E -ц)(Цт — ц) имеет при
m ^да хотя бы один элемент O(m—С), а прочие есть o(m—С), то матрица
E(цт -ц)(|1т — ц)Т = АБцAT имеет элементы O(m—С). Таким образом, в
этом случае справедливо E(<xm —а)2 = O(m—C), E(рm — р) = O(m—С) при m ^да. В частности, если в модели имеются только параметры сдвига Ö, масштаба l и справедливо E (9 — 9m ) =O(m—Се), E (l — lm ) = O(m—Cl) при
m ^да то Са =Ср = min(Ce, СI}.
Обозначим через xmin и xmax соответственно наименьшее и наибольшее значения в выборке. Также обозначим как s(X , ¿р величины, являющиеся сопряженными показателями к r а иг р соответственно, т. е. 1/ 5а+1/ r а= 1,
1/ 5р+ 1/ Г р = 1.
Теорема 1. Пусть случайная величина £ распределена в области X = (а; р) и выполняются условия
lim mСа (1—¿а) E(xmin —а)—¿а = 0,
m^-да
где а - оцениваемая граница;
lim mСр(1—¿р) E(P — Xmax)—¿р= 0,
m^-да
где ß - оцениваемая граница. Тогда традиционный и обобщенный подходы асимптотически эквивалентны.
При исследовании свойств экстремальных значений выборок удобно использовать аппроксимации функции распределения вблизи границ области значений случайной величины. В связи с таким способом исследования сформулируем следующие условия эквивалентности подходов.
1. Функция G(x) при x ^ а+ эквивалентна функции a(x — а)p, где a > 0, p > 0, а> —да . Плотность g (x) величины непрерывна в некоторой правой окрестности точки x = а .
2. Функция 1 - G(x) при x ^ ß_ эквивалентна функции b(ß-x)q, где b > 0, q > 0, ß<<x>. Плотность g (x) величины непрерывна в некоторой левой окрестности точки x = ß .
3. p > Г а /min{r а _ ^ Са }.
4. q > Гß /min{rß _ ^Cß}.
Обратим внимание на то, что условия 1 и 2 приведены здесь в более простой по сравнению с изложенным в [9], но эквивалентной форме.
Также заметим, что для 4m -состоятельных оценок границ области X условия 3 и 4 принимают вид p > 2 и q > 2 соответственно.
Теорема 2. Пусть случайная величина распределена в области X = (а; ß), выполняются условия 1, 3 в случае оцениваемой границы а и условия 2, 4 - в случае оцениваемой ß. Тогда традиционный и обобщенный подходы асимптотически эквивалентны.
Докажем удобное с практической точки зрения
Следствие из теоремы 2. Пусть случайная величина распределена в области X = (а; ß). Пусть при оцениваемой границе а плотность g(x) непрерывна в некоторой правой окрестности точки x = а, а в самой этой точке равна нулю, дифференцируема p _ 1 раз и ее первые p _ 2 производных равны нулю, а (p _ 1) -я производная не равна нулю и конечна; при оцениваемой границе ß плотность g(x) непрерывна в некоторой левой окрестности точки x = ß, а в самой этой точке равна нулю, дифференцируема q _ 1 раз и ее первые q _ 2 производные равны нулю, а (q _ 1) -я производная не равна нулю и конечна. Пусть выполняется условие 3 в случае оцениваемой границы а и условие 4 - в случае оцениваемой ß. Тогда традиционный и обобщенный подходы асимптотически эквивалентны.
Доказательство. В случае оцениваемой границы а используем для представления функции G(x) при x ^ а + 0 формулу Тейлора с дополнительным членом в форме Пеано. Имеем
G(x) = G^) + g (а)^ _а) + — g '(а)^ _а)2 +... + — g ^^(а)^ _а)p +
2 p!
+ o((x _ а)p) = — g(p_1) (а)(x _ а)p + o((x _ а)p). p!
Поскольку вероятность - величина неотрицательная, а производная
g(^^(а) не равна нулю по условию теоремы, коэффициент a = — g(p-1)(а)
p!
положителен. Таким образом, выполнено условие 1 теоремы 2 для оцениваемой границы а . Доказательство выполнения условия 2 теоремы 2 для оцениваемой границы ß проводится аналогично. В результате выполнены все условия теоремы 2. Следствие доказано.
Теоремы 1 и 2 показывают, что при некоторых условиях может существовать преемственность теоретических (асимптотических) характеристик
оценок параметров распределения ограниченном случайной величины, полученных в рамках традиционного и обобщенного подходов. Однако из-за возможного нарушения условий регулярности этот вопрос требует отдельного исследования в каждом конкретном случае.
При условии, что реальное распределение наблюдений совпадает с модельным косинусным, в работе [9] получен ряд результатов об асимптотической эквивалентности традиционного и обобщенного подходов к оцениванию параметров указанного распределения. Рассмотрим еще один пример.
Пример 3. Распределение Пирсона типа I. В приложениях популярным финитным распределением является распределение Пирсона типа I с плотностью
(х -a)®1_1(B-x)®2 -1 f(x; a, p, юь ®2) =-m ,Q i-, a< x <P, Qi > 0, o>2 > 0,
где qj, Ю2 - параметры формы. В условиях совпадения реального и модельного распределений справедлива теорема 3.
Теорема 3. Пусть по выборке из распределения Пирсона типа I оценивается хотя бы один из параметров a и p, причем если оценивается a, то Qj является целочисленным; если оценивается p, то Q2 является целочисленным. Пусть выполняется условие
Qj >max{2,ra/min{ra-1,Ca}}, (9)
если оценивается a, и условие
q>2 >max{2,rp/min{rp-1,Cp}}, (10)
если оценивается p. Тогда традиционный и обобщенный подходы асимптотически эквивалентны.
Доказательство. Проверим выполнение условий следствия из теоремы 2. Действительно,
легко убедиться, что при целочисленном Qj > 2 плотность распределения и ее производные до (ю i - 2) -й включительно в точке a равны нулю, а (ю j -1) -я производная в этой же точке конечная ненулевая; в результате p = Qi. Аналогично при целочисленном Ю2 > 2 плотность распределения и ее производные до (ю2 - 2) -й включительно в точке p равны нулю, а (ю2 -1) -я производная в этой же точке конечная ненулевая; в результате q = Ю2 . Объединяя условие 3 и неравенство qj > 2, получаем условие (9), а в результате объединения условия 4 и неравенства Q2 > 2 получаем условие
(10). Теорема доказана.
Следствие из теоремы 3. Пусть по выборке из распределения Пирсона типа I оценивается хотя бы один из параметров a и p, причем если оценивается a, то целочисленный qj > 2; если оценивается p, то целочисленный Q2 > 2, и оценки являются -состоятельными. Тогда традиционный и обобщенный подходы асимптотически эквивалентны.
Доказательство. Подставляя в условие (9) равенства Ça = 1 и rа = 2, справедливые для 4т -состоятельных оценок, получаем Qi > 2. Аналогично из условия (10) получаем Ю2 > 2. Следствие доказано.
3. ИССЛЕДОВАНИЕ СЛУЧАЯ АСИМПТОТИЧЕСКИ СМЕЩЕННЫХ ОЦЕНОК
В теории робастности предполагается, что модельное распределение, параметры которого оцениваются, не совпадает с реальным распределением наблюдений. Асимптотическая несмещенность оценок при этом обеспечивается обычно только для модельного распределения.
Для многих широко распространенных оценок можно указать функционал r[], значение которого |о = |[G] оценивается величинами rm = |[Gm] как функционалами от эмпирической функции распределения Gm (либо оценки могут быть заменены функционалами асимптотически) [7, 8]. В этом случае изучается сходимость оценок к |о [7]. Например, при М-оценивании рассматривают сходимость оценок к корням системы уравнений (3) [7, 17].
Если вектор параметров модели | не включает в явном виде параметры а и Р, то будем предполагать, что возможна репараметризация вида
Ц = А(|),
где ц имеет тот же смысл, что в разделе 2, А - некоторая функция. Оценки вектора ц будем определять как
Цт = А(Гт ^ (11)
в том числе определим цо = А(|о) .
Если функция А - взаимно однозначная, то оценка цт, находимая по формуле (11) при М-оценке |т, которая определяется оценочной функцией у(х, |), также является М-оценкой, определяемой оценочной функцией
\j) (х, ц) = у (х, А_1(ц)) [12]. Тогда при Цо = А(|о) справедливо
JV( х, А"1(цо) ) dG( х) = о,
X
следовательно, цо - корень уравнения
J \jz(х, ц)dG(х) = о .
X
Заметим, что при дополнительном условии дифференцируемости функции А оценки параметров цт, связанные соотношением (11) с оценками rm при оптимальной оценочной функции (6), являются оптимальными в том же смысле [11, 12].
Рассмотрим случай, когда все последовательности оценок границ а , ß (или только той границы, которая оценивается) сходятся и при обобщенном подходе их пределы а0, ßo удовлетворяют условиям
а o < а , (12)
ßo >ß (13)
(при традиционном подходе для асимптотически смещенных оценок эти условия удовлетворяются автоматически).
Будем считать, что множества таких предельных значений для оценок, получаемых в рамках традиционного и обобщенного подходов, совпадают.
Легко увидеть, что при рассматриваемом способе модификации M-оце-нок системы уравнений (3) для традиционного и обобщенного подходов одинаковы, следовательно, они будут иметь одно и то же множество корней.
Теорема 4. Пусть случайная величина распределена в области X = (а; ß), имеет место сходимость по вероятности к соответствующим пределам для последовательностей оценок {аmj при оцениваемой границе а
и для последовательностей оценок {ßm j при оцениваемой границе ß. Тогда
традиционный и обобщенный подходы асимптотически эквивалентны. Доказательство. Проверим выполнение условия (8):
lim Prob {xj е(а m; ßm ) j = 1 mj= lim Prob {(<X m < xmin )n ( xmax < ßm )j = = 1 - lim Prob {m > xmin j " lim Prob {ßm < xmax j + + lim Prob {(аm > xmin ) (ßm <
xmax Ii . (14)
m^® v 4 ''
Рассмотрим первый предел в правой части равенства (14), когда а -оцениваемая граница:
lim Prob {аm > xmin j < lim Prob {ex,m > аj = lim Prob {аm - ао > а - ао j <
m^® m^® m^®
< lim Prob {| а m - ао|>а-ао j = 0.
m^®
Последнее равенство выполняется из-за сходимости по вероятности а m к а o и справедливости неравенства (12). Аналогично доказывается
lim Prob {ßm < xmax j = 0,
II)_ir^ ' '
когда Р - оцениваемая граница.
Последний предел в правой части равенства (14), очевидно, тоже равен нулю. Таким образом, равенство (8) выполняется. Теорема доказана.
В случае, когда одна из границ оценивается состоятельно, а оценка другой имеет асимптотическое смещение, необходимо постулировать условия теорем 1 или 2 для состоятельной оценки и теоремы 4 для асимптотически смещенной. В результате получатся комбинации названных теорем.
Пример 4. Исследование асимптотически смещенных оценок. Будем полагать, что реальное распределение наблюдений является симметричным финитным с параметром сдвига 0 = (а + Р) / 2 = 0 и параметром масштаба l = (Р - а) / 2 = 1, но не совпадает с модельным, в качестве которого выберем косинусное распределение с параметром формы ю = 3, являющееся наименее благоприятным в классе финитных распределений.
В случае симметричных распределений при выборе нечетной оценочной функции для параметра сдвига, что естественно в данном случае, и некоторых условиях регулярности указанный параметр будет оцениваться асимптотически несмещенно. Поэтому сосредоточимся на задаче оценивания параметра масштаба l, считая параметр сдвига 0 = 0 известным.
Будем использовать обобщенную радикальную оценочную функцию
вида
. п(х-0) l п(х-0)пг 1
п(х - 0) sin---cos -
х, 0, l) =
21 1+ А, 2l
п( х-0)
cos-
2l
х-0|<l
для традиционного подхода и ее модификацию, полученную описанным выше способом, для обобщенного подхода.
При X > 0,5 в случае распределений, для которых имеется единственное
конечное положительное решение ¡о системы (3), последовательности | и |/т | сходятся к ¡о почти наверное [17], а следовательно, сходятся и по вероятности. Очевидно, что ат = 9-¡т и ат = 9-¡т сходятся по вероятности к
а о = 9 - ¡о , а р т = 9 + ¡т и р т = 9 + ¡т сходятся по вероятности к Ро = 9 + ¡о . Заметим, что для традиционного подхода из-за дополнительного ограничения на оценки границ указанные свойства выполняются только при ¡о > I.
На рис. 1-3 представлены зависимости величины ¡о от параметра формы ю для нескольких распределений, удовлетворяющих указанному условию сходимости оценок при параметре X, равном о,55 (сплошная линия), 1 (штриховая линия) и 1,45 (пунктирная линия). При справедливости неравенства ¡о > 1 выполнены условия (12) и (13), следовательно, в этих случаях имеет место асимптотическая эквивалентность подходов.
Заметим, что в диапазонах изменения параметров формы, приведенных на рисунках, расстояние Колмогорова между реальным распределением и модельным распределением с параметром масштаба ¡о > 1 меньше о,о32, что говорит о близости указанных распределений, т. е. одно из распределений лежит в более или менее малой окрестности другого.
Рисунок 1 соответствует косинусному распределению. Асимптотическая эквивалентность подходов имеет место при ю < 3.
I о 1.5 л
1.4 -
1.3 -
1.2 -
1.1 -
1
1.5
2
2.5
3
Рис. 1. Случай косинусного распределения
I о
15 1
1.4 -1.3 -1.2 -1.1 -1
1.6
2
2.4
2.8
3.2
ю
Рис. 2. Случай распределения Пирсона типа II
со
I о 1.4 -
1.3 -
1.2 -
1.1 -
1 -
ю
0.3 0.8 1.3 1.8 2.3 2.8
Рис. 3. Случай обобщенного распределения Симпсона
Рисунок 2 соответствует распределению Пирсона типа II, в которое переходит распределение Пирсона типа I при ю1 = ю2 = ю . Плотность распределения имеет вид
ю-1
, | х-9 |< I, ю> 0,
где 9 - параметр сдвига, 1 - параметр масштаба, ю - параметр формы. Распределение Пирсона типа II при ю = 1/2 является распределением арксинуса, при ю = 3 / 2 - полукруговым, при ю = 1 - равномерным, при ю = 2 - параболическим. Асимптотическая эквивалентность подходов имеет место приблизительно при ю<3,33 для Х = 0,55, ю< 3,35 для Х = 1, ю<3,37 для X = 1,45 .
/ (х; 9,1, ю) =
22ю-1/В(ю, ю)
1 -
х-9
1
Рисунок 3 соответствует обобщенному распределению Симпсона с плотностью
/ (х; 9,1, ю) =
ю + 1
2/ю
1 — х — 9 ю
1
х -9 |< I, ю > 0,
где 9 - параметр сдвига, I - параметр масштаба, ю - параметр формы. Частными случаями данного распределения являются треугольное (Симпсона) при ю = 1 и параболическое при ю = 2, при ю ^<х> распределение стремится к равномерному. Асимптотическая эквивалентность подходов имеет место приблизительно при ю>0,37 для Х = 0,55, ю> 0,57 для Х = 1, ю>0,7 для X = 1,45 .
Результаты, приведенные на рисунках, показывают, что асимптотическая эквивалентность подходов имеет место в широком диапазоне значений параметров формы исследованных распределений, в том числе и для ряда широко известных распределений.
4. СНИЖЕННЫЕ ОЦЕНКИ И ОБОБЩЕННЫЙ ПОДХОД
Под сниженными оценками будем понимать М-оценки, которые имеют оценочную функцию (и функцию влияния), нулевую вне некоторой центральной области [7, 8]. Этим своим свойством сниженные оценки похожи на оценки в рамках обобщенного подхода. Однако, в работе [9] было подчеркнуто различие этих оценок, а именно что для сниженных оценок областью значений модельной случайной величины является вся числовая ось, а границы области, где оценочная функция принимается не равной нулю, определяются субъективно.
Тем не менее в данной работе мы рассмотрим интерпретацию ряда известных сниженных оценок параметра сдвига как обобщенных радикальных оценок в рамках обобщенного подхода для некоторого финитного модельного распределения. Именно замена модельного нефинитного распределения финитным является источником для такой интерпретации. Интерес к этой интерпретации может обусловливаться также возможностью определять границы области, где оценочная функция принимается не равной нулю, посредством оценивания параметров распределения.
Заметим, что мы рассматриваем лишь соответствие оценок и распределений, и в каждом конкретном случае необходимо исследовать выполнение условий регулярности, чтобы выяснить наличие у обобщенных радикальных оценок их оптимальных свойств в смысле минимизации функционала (5). Кроме того, не для всякого значения параметра робастности X обобщенной радикальной оценки соответствующая ей весовая функция 5(х, может
1 —х
быть интерпретирована как плотность (если функция / (х, неинтегри-руема, то весовую функцию будем определять без использования константы, нормирующей плотность).
Пример 5. Косинусное распределение и оценка Эндрюса. Обобщенная радикальная оценка параметра сдвига косинусного распределения для обобщенного подхода задается оценочной функцией
У( х, 9,1) =
. п(х -9)
81П
I
008-
п( х-9)'
и
(ю-1)Х-2
, | х-91<I
0, |х-9|>1.
При условии
(ю- 1)Х-2 = 0
(15)
она совпадает с оценкой Эндрюса [7, 8] с точностью до определения параметра I: I = пае , где а - оцениваемый параметр масштаба модельного нефинитного распределения, с - субъективно выбираемая константа (0 < е < да). Заменяя модельное нефинитное распределение финитным, мы можем оценить I как параметр масштаба финитного распределения, что исключает необходимость выбирать константу с .
Очевидно, условие (15) не определяет одновременно параметр формы распределения и параметр робастности оценки. Однако, выбрав значение ю = 3, соответствующее распределению с наименьшей информацией Фишера о параметре сдвига в классе финитных распределений, мы получим Х = 1 -случай, требующий наименьшей априорной информации для формулировки функционала (5).
Пример 6. Оценки, связанные с распределением Пирсона типа II. Обобщенная радикальная оценка параметра сдвига распределения Пирсона типа II для обобщенного подхода задается оценочной функцией
У( х, 9,1) =
х-9
I
1 -
х-9
(ю-1)Х-1
х-9|<1
0, |х-9|>1.
Ее частным случаем оказывается ряд известных сниженных оценок [8] при I = ас , где смысл а и с определен выше.
Обозначим к = (ю - 1)Х -1, тогда к = 0 соответствует оценке Хьюбера типа урезанного среднего, к = 1/2 - оценке Бернулли, к = 1 - оценке Смита, к = 2 - бивес-оценке Тьюки. Так же как и в предыдущем примере, здесь нельзя определить одновременно параметр формы распределения и параметр робастности оценки. Мы рассмотрим два случая, соответствующих фиксации X или ю .
В работе [18] дана интерпретация оценки Смита и бивес-оценки Тьюки как обобщенных радикальных оценок с параметром X = 1 для модельной плотности, минимизирующей функционал (5) (так же при X = 1) в некоторых подклассах класса финитных распределений. Оценке Смита там соответствует ю = 3, а бивес-оценке Тьюки ю = 4 . В продолжение изучения случая Х = 1 приведем значения параметра формы и для остальных оценок: оценке Хью-
бера типа урезанного среднего соответствует ю = 2, оценке Бернулли ю = 5/ 2 .
Для изучения случая фиксированного параметра ю обратимся к данной в работе [19] интерпретации результатов двух работ Д. Бернулли, в одной из которых и введена оценка Бернулли, и комментарию Л. Эйлера к другой (в нем введена оценка Смита более чем за столетие до самого Смита). Согласно исследованию [19], Д. Бернулли рассматривал случай полукругового распределения, т. е. ю = 3/2. Тогда имеем для оценки Бернулли Х = 3, для оценки Смита Х = 4. В продолжение изучения случая ю = 3/2 приведем значения параметра робастности и для остальных оценок: оценке Хьюбера типа урезанного среднего соответствует X = 2, бивес-оценке Тьюки X = 6.
ЗАКЛЮЧЕНИЕ
Специфика ограниченных случайных величин приводит к тому, что традиционный подход к робастному оцениванию для рассматриваемой постановки задачи часто оказывается малопригодным: оценки параметров, даже полученные оптимальным путем, могут быть неустойчивыми. Обобщенный подход обеспечивает устойчивость оценок не только к виду распределения, но и к наличию наблюдений, лежащих вне области значений модельной случайной величины, и в результате дает возможность полноценно решать задачи робаст-ного оценивания. Простое правило модификации М-оценок позволяет воспользоваться инструментами (как теоретически строго обоснованными, так и эвристическими), которые накоплены теорией робастности за полвека ее существования. Свойство асимптотической эквивалентности подходов позволяет говорить об отсутствии асимптотических потерь при использовании обобщенного подхода в условиях, когда более уместным является применение традиционного подхода. Ценность исследованного в данной работе случая асимптотически смещенных оценок состоит в том, что состоятельность оценок, как правило, не может быть обеспечена в ситуациях, когда требуется применение робастных методов. Интерпретация ряда известных сниженных оценок параметра сдвига как реализации обобщенного подхода к анализу финитных моделей дает новый взгляд на генезис этих оценок и, кроме того, позволяет определять границы области, где оценочная функция принимается не равной нулю, посредством оценивания параметров распределения, а не субъективно.
СПИСОК ЛИТЕРАТУРЫ
1. Цыпкин Я.З. Основы информационной теории идентификации. - М.: Наука, 1984. -
320 с.
2. Лисицин Д.В., Гаврилов К.В. Робастное оценивание финитной модели // Сборник научных трудов НГТУ. -2004. - Вып. 2 (36). - С. 47-56.
3. Лисицин Д.В., Гаврилов К.В. Устойчивое оценивание параметров модели при асимметричном засорении данных // Известия Международной академии наук высшей школы. -2006. - № 1 (35). - С. 60-73.
4. Лисицин Д.В., Филимоненко В.Н., Гаврилов К.В. Математическое моделирование процессов струйного электрофоретического осаждения // Научный вестник НГТУ. - 2006. -№ 1 (22). - С. 71-83.
5. Смоляк С.А., Титаренко Б.П. Устойчивые методы оценивания: (статистическая обработка неоднородных совокупностей). - М.: Статистика, 1980. - 208 с.
6. Шурыгин А.М. Математические методы прогнозирования: учебное пособие для вузов. - М.: Горячая линия-Телеком, 2009. - 180 с.
7. Хьюбер П. Робастность в статистике. - М.: Мир, 1984. - 303 с.
8. Робастность в статистике: подход на основе функций влияния / Ф. Хампель, Э. Рон-четти, П. Рауссеу, В. Штаэль. - М.: Мир, 1989. - 512 с.
9. Лисицин Д.В., Гаврилов К.В. Оценивание параметров финитной модели, устойчивое к нарушению финитности // Сибирский журнал индустриальной математики. - 2013. - Т. 16, № 2 (54). - С. 109-121.
10. ГубаревВ.В. Вероятностные модели: справочник: в 2 ч. / Новосибирский электротехнический институт. - Новосибирск: Изд-во НЭТИ, 1992.
11. Лисицин Д.В. Устойчивое оценивание параметров модели по многомерным неоднородным неполным данным // Научный вестник НГТУ. - 2013. - № 1 (50). - С. 17-30. -doi: 10.17212/1814-1196-2015-1-76-93.
12. Лисицин Д.В. Свойства инвариантности при оценивании параметров модели в условиях байесовского точечного засорения // Доклады Академии наук высшей школы Российской Федерации. - 2010. - № 1 (14). - С. 18-25.
13. ЛисицинД.В. Об оценивании параметров модели при байесовском точечном засорении // Доклады Академии наук высшей школы Российской Федерации. - 2009. - № 1 (12). -С. 41-55.
14. Charalambous C.D., Farhadi A. Robust coding for a class of sources: applications in control and reliable communication over limited capacity channels // Systems & Control Letters. -2008. - Vol. 57. - P. 1005-1012. - doi: 10.1016/j.sysconle.2008.06.006.
15. Kerridge D.F. Inaccuracy and inference // Journal of Royal Statistical Society. Series B (Methodological). - 1961. - Vol. 23, N 1. - P. 184-194.
16. Nath P. Inaccuracy and coding theory // Metrika. - 1968. - Vol. 13, iss. 1. - P. 123-135.
17. Боровков А.А. Математическая статистика. - Новосибирск: Наука: Изд-во Ин-та математики, 1997. - 772 с.
18. Shevlyakov G., Morgenthaler S., Shurygin A. Redescending M-estimators // Journal of Statistical Planning and Inference. - 2008. - Vol. 138, iss. 10. - P. 2906-2917. -doi: 10.1016/j.jspi.2007.11.008.
19. StiglerS.M. Daniel Bernoulli, Leonhard Euler, and maximum likelihood // Festschrift for Lucien Le Cam: research papers in probability and statistics / D. Pollard, E. Torgersen, G. Yang, eds. - New York: Springer-Verlag, 1997. - P. 345-367.
Лисицин Даниил Валерьевич, доктор технических наук, профессор кафедры теоретической и прикладной информатики Новосибирского государственного технического университета. Основное направление научных исследований - методы построения многофакторных моделей по статистическим данным. Имеет более 100 публикаций, в том числе одну монографию. E-mail: lisitsin@ami.nstu.ru
Гаврилов Константин Викторович, кандидат технических наук, программист-математик НПП «Логос-Плюс». Основное направление исследований - устойчивые методы статистической обработки данных. Имеет 14 публикаций. E-mail: qot@ngs.ru
88
ff.b. mch^h, k.b. rabpmmob
Estimation of distribution parameters of a bounded random variable robust to bound disturbance *
D.V. LISITSIN1 K.V. GAVRILOV2
1 Novosibirsk State Technical University, 20, K. Marx Prospekt, Novosibirsk, 630073, Russian Federation, D. Sc. (Eng.), professor. E-mail: lisitsin@ami.nstu.ru
NPP Logos-Plus, Ltd, 58,Dostoyevskogo St., Novosibirsk, 630005, Russian Federation, programmer-mathematician, PhD (Eng.). E-mail: qot@ngs.ru
The paper considers two approaches to the problem of robust distribution parameter estimation of a univariate random variable whose value area is bounded (from one or both sides). The traditional approach allows receiving robust parameter estimates only in conditions when actual and model random variables have the same range of values, and it often appears to be of little use. A generalized approach proposed by us earlier, can be applied only when there are observations lying outside the value range of the model random variable. Earlier we introduced a rule of parameter estimator modification for the transition from the traditional approach to a generalized approach. The rule implies the extension of the influence function definition by zero outside of the value range of the model random variable. We also identified conditions of asymptotic equivalence of the approaches for the case of consistent estimates. In this paper we proceed with the research further. As in the theory of robustness consistence is provided, as a rule, only for model distribution, we revealed conditions of asymptotic equivalence of the approaches for the case when consistence is missing, namely, in the presence of an asymptotic bias. In the paper the relation between estimators received by the generalized approach, and widely used conservative (low) estimates of distribution parameters of unbounded random variables is revealed. In particular, it allows determining boundaries of the area where estimation functions are not equal to zero by distribution parameter estimation instead of subjective estimation. On the basis of this relation an interpretation of some well-known conservative estimates of shift parameter (estimates of Tukey (biweight), Andrews (sine), Smith, Bernoulli and the Huber-type skipped mean) is given.
Keywords: bounded random variable, finite model, parameter estimation, M-estimate, asymptotically biased estimate, robustness, influence function, conservative (low) estimate, cosine distribution, Pearson distributions
DOI: 10.17212/1814-1196-2016-2-70-89 REFERENCES
1. Tsypkin Ya.Z. Osnovy informatsionnoi teorii identifkatsii [Bases of the information theory of identification]. Moscow, Nauka Publ., 1984. 320 p.
2. Lisitsin D.V., Gavrilov K.V. Robastnoe otsenivanie finitnoi modeli [Robust estimation of finite model]. Sbornik nauchnykh trudov Novosibirskogo gosudarstvennogo tekhnicheskogo universi-teta - Transaction of scientific papers of the Novosibirsk state technical university, 2004, no. 2 (36), pp. 47-56.
3. Lisitsin D.V., Gavrilov K.V. Ustoichivoe otsenivanie parametrov modeli pri asimmetrich-nom zasorenii dannykh [Stable parameter estimation of model at the asymmetric contamination of the data]. Izvestiya Mezhdunarodnoi akademii nauk vysshei shkoly - Proceedings of the International higher education academy of sciences, 2006, no. 1 (35), pp. 60-73.
4. Lisitsin D.V., Filimonenko V.N., Gavrilov K.V. Matematicheskoe modelirovanie protsessov struinogo elek-troforeticheskogo osazhdeniya [Mathematical modeling of processes of jet electro-foreth plotting]. Nauchnyi vestnik Novosibirskogo gosudarstvennogo tekhnicheskogo universiteta -Science bulletin of the Novosibirsk state technical university, 2006, no. 1 (22), pp. 71-83.
* Received 04 February 2016.
5. Smolyak S.A., Titarenko B.P. Ustoichivye metody otsenivaniya: (statisticheskaya obrabotka neodnorodnykh so-vokupnostei) [Stable methods of an estimation (statistical handling of the non-homogeneous populations)]. Moscow, Statistika Publ., 1980. 208 p.
6. Shurygin A.M. Matematicheskie metody prognozirovaniya [Mathematical methods of prediction]. Moscow, Goryachaya liniya-Telekom Publ., 2009. 180 p.
7. Huber P.J. Robust Statistics. New York, John Wiley & Sons, 1981. 308 p. (Russ. ed.: H'yuber P. Robastnost' v statistike. Translated from English. Moscow, Mir Publ., 1984. 303 p.).
8. Hampel F.R., Ronchetti E.M., Rousseeuw P.J., Stahel W.A. Robust Statistics: the approach based on influence functions. New York, John Wiley & Sons, 1986. 502 p. (Russ. ed.: Khampel' F., Ronchetti E., Rausseu P., Shtael' V. Robastnost' v statistike: podkhod na osnove funktsii vliyaniya. Translated from English. Moscow, Mir Publ., 1989. 512 p.).
9. Lisitsin D.V., Gavrilov K.V. Otsenivanie parametrov finitnoi modeli, ustoichivoe k naru-sheniyu finitnosti [Estimation of the parameters of a compactly-supported model stable under the violation of compact supportedness]. Sibirskii zhurnal industrial'noi matematiki - Journal of Applied and Industrial Mathematics, 2013, vol. 16, no. 2 (54), pp. 109-121. (In Russian)
10. Gubarev V.V. Veroyatnostnye modeli: spravochnik. V 2 ch. [Probabilistic models: handbook. In 2 pt.]. Novosibirskii elektrotekhnicheskii institut. Novosibirsk, NETI Publ., 1992.
11. Lisitsin D.V. Ustoichivoe otsenivanie parametrov modeli po mnogomernym neodnorodnym nepolnym dannym [Robust estimation of model parameters in presence of nonhomogeneous mixed incomplete outcomes]. Nauchnyi vestnik Novosibirskogo gosudarstvennogo tekhnicheskogo universi-teta - Science bulletin of the Novosibirsk state technical university, 2013, no. 1 (50), pp. 17-30. doi: 10.17212/1814-1196-2015-1-76-93
12. Lisitsin D.V. Svoistva invariantnosti pri otsenivanii parametrov modeli v usloviyakh baie-sovskogo tochechnogo zasoreniya [Invariance properties under estimating model parameters in presence of Bayesian dot contamination]. Doklady Akademii nauk vysshei shkoly Rossiiskoi Federatsii -Proceedings of the Russian higher school Academy of sciences, 2010, no. 1 (14), pp. 18-25.
13. Lisitsin D.V. Ob otsenivanii parametrov modeli pri baiesovskom tochechnom zasorenii [On estimation of model parameters in presence of Bayesian dot contamination]. Doklady Akademii nauk vysshei shkoly Rossiiskoi Federatsii - Proceedings of the Russian higher school Academy of sciences, 2009, no. 1 (12), pp. 41-55.
14. Charalambous C.D., Farhadi A. Robust coding for a class of sources: applications in control and reliable communication over limited capacity channels. Systems & Control Letters, 2008, vol. 57, pp. 1005-1012. doi: 10.1016/j.sysconle.2008.06.006
15. Kerridge D.F. Inaccuracy and inference. Journal of Royal Statistical Society. SeriesB (Methodological), 1961, vol. 23, no. 1, pp. 184-194.
16. Nath P. Inaccuracy and coding theory. Metrika, 1968, vol. 13, iss. 1, pp. 123-135.
17. Borovkov A.A. Matematicheskaya statistika [Mathematical statistics]. Novosibirsk, Nauka Publ., 1997. 772 p.
18. Shevlyakov G., Morgenthaler S., Shurygin A. Redescending M-estimators. Journal of Statistical Planning and Inference, 2008, vol. 138, iss. 10, pp. 2906-2917. doi: 10.1016/j.jspi.2007.11.008
19. Stigler S.M. Daniel Bernoulli, Leonhard Euler, and maximum likelihood. Festschrift for Lucien Le Cam: research papers in probability and statistics. Ed. by D. Pollard et al. New York, Springer-Verlag, 1997, pp. 345-367.
ISSN 1814-1196, http://journals.nstu.ru/vestnik Science Bulletin of the NSTU Vol. 63, No 2, 2016, pp. 70-89
