Обзор методов восстановления функции плотности вероятности Текст научной статьи по специальности «Математика»

Решетневские чтения. 2017

УДК 519.2

ОБЗОР МЕТОДОВ ВОССТАНОВЛЕНИЯ ФУНКЦИИ ПЛОТНОСТИ ВЕРОЯТНОСТИ

В. В. Браништи

Сибирский государственный университет науки и технологий имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: branishti@sibsau.ru

Рассматриваются распространённые методы восстановления функции плотности вероятности: гистограмма, проекционная оценка и оценка Розенблатта-Парзена. Указываются преимущества и недостатки каждого из подходов, а также рассматриваются различные критерии качества оценивания.

Ключевые слова: непараметрическая статистика, функция плотности вероятности, гистограмма, проекционная оценка, оценка Розенблатта-Парзена.

REVIEWING METHODS TO RECOVER PROBABILITY DENSITY FUNCTION

V. V. Branishti

Reshetnev Siberian State University of Science and Technology 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: branishti@sibsau.ru

The paper describes the well known methods of probability density function recovery: histogram, projection estimate and Rosenblatt-Parzen estimate. We show advantages and disadvantages for every approach and consider different criteria of estimation quality.

Keywords: nonparametric statistics, probability density function, histogram, projective estimates, Rosenblatt-Parzen estimate.

Введение. Оценивание функции плотности вероятности случайной величины является одной из основных задач в математической статистике [1]. Алгоритмы восстановления неизвестной плотности вероятности используются в системах поддержки принятия решений, а также при построении систем автоматического управления и алгоритмов идентификации технических систем, в том числе, в аэрокосмической отрасли.

Перспективным направлением решения данной задачи являются непараметрические методы оценивания, к которым относятся гистограммные оценки, проекционная оценка [2; 3] и оценка Розенблатта-Парзена [4].

В настоящей работе предлагается введение некоторой обобщённой оценки функции плотности вероятности, частными случаями которой являются все три указанных метода восстановления. Далее рассматривается метод сравнения качества оценок в условиях конечных выборок.

Обобщённая оценка плотности вероятности. В работе [5] предложена обобщённая оценка функции плотности вероятности непрерывной случайной величины ^ в виде суммы 5-образных функций:

1 п

д х)=-&(х, х,.), п ы

где х1, ..., хп - независимая выборка исследуемой случайной величины 4, 5п(х, х,) - последовательность

5-образных функций, сходящаяся к 5-функции Дирака 5(х - х) в смысле сходимости обобщённых функций [6, с. 222]. Там же показано, что гистограмма, проекционная оценка и оценка Розенблатта-Парзена являются частными случаями предложенной обобщённой оценки при определённом выборе последовательности 5-образных функций.

Методика сравнения оценок. В ряде работ (например, в [1; 7]) приводятся асимптотические соотношения для оценок плотности вероятности, т.е. при неограниченном увеличении выборки исследуемой случайной величины. Однако с практической точки зрения более важным является сравнение качества оценок в условиях выборки конечного объёма п.

Для сравнения качества оценивания в работе [7] вводится усреднённая глобальная квадратичная ошибка аппроксимации:

(1)

Q {M ¥ - f\

и относительная глобальная ошибка аппроксимации

'2=сгм ^ -71

где 7 - истинная плотность вероятности; / - её оценка, ц.ц - норма в пространстве Ь2.

Так как теоретический расчёт данных функционалов затруднён даже для модельных распределений, то

Математические методы моделирования, управления и анализа данных

предлагается их значения находить методом Монте-Карло. Пусть численный эксперимент проведён N раз

и получена выборка ^^ значений z = ||/ - /|| . Тогда

значение (1) приближённо рассчитывается следующим образом [8]:

е {)■

где

- 1

Z =-Y Nil

1 N 2

—Ziz -Z) .

N-1 ' '

Выводы. Сравнение рассматриваемых методов восстановления плотности вероятности проводилось на тестовых законах распределения, различающихся по ряду критериев: непрерывность, гладкость, симметричность, финитность и др. Как показало сравнение, качество проекционной оценки существенно зависит от наличия разрывов истинной плотности, тогда как для оценки Розенблатта-Парзена это не было существенным. В целом, оценка Розенблатта-Парзена показала лучшую аппроксимацию в широком классе распределений. Оценка в виде гистограммы показала меньшую скорость сходимости по сравнению с остальными рассмотренными непараметрическими оценками.

Библиографические ссылки

1. Деврой Л., Дьёрфи Л. Непараметрическое оценивание плотности. ^-подход. М. : Мир, 1988. 408 с.

2. Браништи В. В. Введение пространства L2,w при построении проекционной оценки плотности вероятности // Вестник СибГАУ. 2016. Том 17, № 1. С. 19-26.

3. Браништи В. В. Построение проекционных оценок для плотностей вероятности с неинтегрируемым квадратом // Решетневские чтения : материалы XX Междунар. науч. конф. (09-12 ноября 2016, г. Красноярск) : в 2 ч. / под общ. ред. Ю. Ю. Логинова ; Сиб. гос. аэрокосмич. ун-т. Красноярск, 2016. Ч. 2. С. 96-98.

4. Parzen E. On estimation of a probability density function and mode // The Annals of Mathematical Statistics, 1962. Vol. 35, 3. P. 1065-1076.

5. Браништи В. В. Построение оценок плотности вероятности в виде суммы дельтаобразных функций //

Национальная ассоциация ученых. 2015. № 4 (9), ч. 7. С. 10-13.

6. Колмогоров А. Н., Фомин С. В. Элементы теории функций и функционального анализа. 7-е изд. М. : Физматлит, 2004. 572 с.

7. Епанечников В. А. Непараметрическая оценка многомерной плотности вероятности // Теория вероятностей и ее применения, 1969. Т. 14, вып. 1. С. 156-161.

8. Браништи В. В. О параметрическом оценивании функции плотности вероятности // Научно-технический вестник Поволжья. 2014. № 1. С. 13-16.

References

1. Devroye L., Gyorfi L. Nonparametric density estimation. The Li view. John Wiley & Sons, 1985. 367 p.

2. Branishti V. V. Introducing the L2,w space for building the projective estimation of probability density function // Vestnik SibSAU. 2016. Vol. 17, No. 1. P. 1926. (In Russ.)

3. Branishti V. V. Construction of projective estimates for non square-integrable probability densities // Materialy XX Mezhdunar. nauch. konf. "Reshetnevskie chteniya" [Materials XX Intern. Scientific. Conf "Reshetnev reading"]. Krasnoyarsk, 2016. Vol. 2. P. 96-98. (In Russ.)

4. Parzen E. On estimation of a probability density function and mode // The Annals of Mathematical Statistics. 1962. Vol. 35, 3. P. 1065-1076.

5. Branishti V. Building a probability density estimations by sum of delta-shaped functions // Natsional'naya assotsiatsiya uchenyh. 2015. № 4 (9), Vol. 7. P. 10-13.

6. Kolmogorov A. N., Fomin S. V. Elementy teorii funktsiy i funktsional'nogo analiza [Elements of theory of functions and functional analysis]. M. : Fizmatlit Publ., 2004. 572 p. (In Russ.)

7. Epanecnikov V. A. Nonparametric estimation of a multidimensional probability density // Teoriya veroyatnostey i ee primeneniya, 1969. Vol. 14, Iss. 1. P. 156-161. (In Russ.)

8. Branishti V. V. [On parametric estimation of probability density function] // Nauchno-tekhnicheskiy vestnik Povolzh'ya. 2014. № 1. P. 13-16. (In Russ.)

© Браништи В. В., 2017

z. , s„ =