CC BY
15<Тешетневс^ие чтения. 2016
УДК 517.98:519.2
ПОСТРОЕНИЕ ПРОЕКЦИОННЫХ ОЦЕНОК ДЛЯ ПЛОТНОСТЕЙ ВЕРОЯТНОСТИ С НЕИНТЕГРИРУЕМЫМ КВАДРАТОМ
В. В. Браништи
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева
Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: [email protected]
Рассматриваются методы построения проекционной оценки функций плотности вероятности с неинтег-рируемым квадратом. Оценивание плотности вероятности имеет значение при решении задач диагностики технических систем в аэрокосмической отрасли.
Ключевые слова: непараметрическая статистика, функция плотности вероятности, проекционные оценки, ортогональные ряды, функциональные пространства.
CONSTRUCTION OF PROJECTIVE ESTIMATES FOR NON SQUARE-INTEGRABLE
PROBABILITY DENSITIES
V. V. Branishti
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: [email protected]
The paper describes the methods of constructing projective estimates for non square-integrable probability density functions. Probability density estimation is important in solving the problems of technical system diagnostics in aerospace sector.
Keywords: nonparametric statistics, probability density function, projective estimates, orthogonal series, functional spaces.
Введение. Оценивание функции плотности вероятности случайной величины является центральной задачей математической статистики [1]. Большинство современных алгоритмов классификации, распознавания образов, восстановления стохастических зависимостей используют те или иные алгоритмы восстановления неизвестной плотности. Кроме того, задача восстановления неизвестной плотности вероятности возникает при диагностике технических систем в аэрокосмической отрасли.
Перспективным направлением решения данной задачи являются непараметрические методы оценивания неизвестной плотности, к которым относятся гис-тограммные оценки, оценки ядерного типа [2; 3] и проекционные оценки плотности [4]. Одним из преимуществ проекционной оценки является то, что она позволяет с приемлемой точностью параметризовать неизвестную функцию плотности вероятности.
В работах, посвящённых исследованию проекционных оценок [5], обычно предполагается, что оцениваемая плотность принадлежит пространству £2(—х>; +<»), т. е. интегрируема с квадратом. Однако даже среди модельных распределений встречаются плотности с неинтегрируемым квадратом. Например, функция плотности вероятности бета-распределения с параметрами а = Р = 1/2:
*-, х е (0;1),
/ (х) Н^ТХл/ГХ (1)
0,
иначе.
В настоящей работе предлагаются два подхода к построению проекционной оценки плотности вероятности с неинтегрируемым квадратом, а также их сравнение по качеству аппроксимации.
Введение пространства Одним из подходов к решению данной задачи состоит в построении проекционной оценки в пространстве 1,2,.(Ц) с некоторой весовой функцией .(х) > 0. В работе [6] доказывается, что для любой функции плотности вероятности /х) непрерывной случайной величины £ существует содержащее её пространство ¿2ДП). Следовательно, если (фу) - базис этого пространства, то проекционная оценка
/ (Х) =Е (/, ф у ) ф у (Х)
}=0
с оптимальными коэффициентами ау = /,фу)» сходится в пространстве Ь2к(0.):
Д - к.=
где (',% и Н12,ж, соответственно, скалярное произведение и норма пространства Ь2к,(0.).
Неизвестные коэффициенты ау оцениваются по независимой выборке хь ..., хп случайной величины £ следующим образом: 1 п
а у = ау = -£фу(Х Мх X } = ° ..., 1. (2)
п,=\
Оценка длины ряда 1 [7] находится путём максимизации значения
Прикладная математика
W = ¿ f^ a2 ( (x) ) )2 ) ■ (3)
j=01 n -1 n(n -^ i=1W ; )
Базис {9j} в пространстве L2w(Q) строится с помощью процесса ортогонализации Грамма-Шмидта из любой полной системы функций, например, {Х} или {sin kx, cos kx}■
Недостатком данного подхода является необходимость выбора весовой функции w(x), вид которой в общем случае зависит от оцениваемой функции fx).
Сходимость проекционной оценки в пространстве Lp. Как показано в [8; 9, с. 128], если для оцениваемой функции плотности вероятности fx) выполняется включение f е Lp, то для неё ряд Фурье по многочленам Лежандра (при 4/3 < p < 4) или по тригонометрической системе (при 1 < p < +да) сходится в пространстве Lp. Из сходимости в Lp следует сходимость в L1. Следовательно, в этом случае можно строить сходящуюся проекционную оценку по формулам (2) и (3), взяв w(x) = 1. Так как любая функция плотности вероятности лежит в L1, то качество аппроксимации оценки f можно определить следующим образом:
Q f HI f - f 11 = í I f (x) - fi (x)| dx ■ (4)
n
Ниже на рис. 1 и 2 представлены результаты сравнения качества проекционных оценок для функции плотности вероятности бета-распределения (1) по разным системам ортонормированных функций. Сплошная линия на графике соответствует значениям
Q{fi} для проекционной оценки при w(x) = 4x^¡ 1 -x ,
точки соответствуют случаю w(x) = 1.
У
Рис. 1. Качество проекционных оценок по системе многочленов
У А
0.5 ■ 0.4 ' *
0 5 10 15 20
Рис. 2. Качество проекционных оценок по тригонометрической системе
Как показывают исследования, проекционная оценка, в которой коэффициенты рассчитываются по формуле (2), где весовая функция w(x) выбрана таким образом, что выполняется f е L2,w, быстрее сходится, в смысле критерия (4), по сравнению с оценкой, в которой w(x) = 1.
Библиографические ссылки
1. Деврой Л., Дьёрфи Л. Непараметрическое оценивание плотности. Lj-подход. М. : Мир, 1988. 408 с.
2. Parzen E. On estimation of a probability density function and mode // The Annals of Mathematical Statistics, 1962. Vol. 35(3). P. 1065-1076.
3. Лапко А. В., Лапко В. А. Непараметрические модели и алгоритмы обработки информации / Сиб. гос. аэрокосмич. ун-т. Красноярск, 2010. 220 с.
4. Ченцов Н. Н. Оценка неизвестной плотности распределения по наблюдениям // Доклады АН СССР. 1962. 147(1). С. 45-48.
5. Вапник В. Н., Маркович Н. М., Стефанюк А. Р. О скорости сходимости в L2 проекционной оценки плотности вероятности // Автоматика и телемеханика. 1992. № 5. С. 64-74.
6. Браништи В. В. Введение пространства L2,w при построении проекционной оценки плотности вероятности // Вестник СибГАУ. 2016. Том 17, № 1. С. 19-26.
7. Браништи В. В. Сравнение двух алгоритмов настройки длины ряда для проекционной оценки плотности вероятности // Актуальные проблемы гуманитарных и естественных наук. 2016. № 9(92).
8. Pollard H. The mean convergence of orthogonal series // Duke Mathematical Journal. 1949. Vol. 16(1). Р. 189-191.
9. Кашин Б. С., Саакян А. А. Ортогональные ряды. 2-е изд., доп. М. : Изд-во АФЦ, 1999. 560 с.
References
1. Devroye L., Gyorfi L. Nonparametric density estimation. The L1 view. John Wiley & Sons, 1985. 367 p.
2. Parzen E. On estimation of a probability density function and mode. The Annals of Mathematical Statistics, 1962. Vol. 35, 3. P. 1065-1076.
3. Lapko A. V., Lapko V. A. Neparametricheskie modeli i algoritmy obrabotki informatsii [Nonparametric models and algorithms of information processing]. Krasnoyarsk, SibGAU Publ., 2010. 220 p.
4. Cencov N. N. Evaluation of an unknown distribution density from observations. Soviet Math, 1962, Vol. 3, до. 1559-1562.
5. Vapnik V. N., Markovich N. M., Stefanyuk A. R. [On convergence speed in L2 of probability density projective estimate]. Avtomatika i telemekhanika. 1992, no. 5, рp. 64-74. (In Russ.).
6. Branishti V. V. [Introducing the L2,w space for building the projective estimation of probability density function]. Vestnik SibGAU, Krasnoyarsk, 2016, vol. 17, No. 1, p. 19-26. (In Russ.).
7. Branishti V. V. [Comparison of two algorithms of series length estimating for probability density projective
Решетневс^ие чтения. 2016
estimate]. Aktual'nye problemy gumanitarnykh i estestvennykh nauk, 2016, no. 9 (92). (In Russ.).
8. Pollard H. The mean convergence of orthogonal series. Duke Mathematical Journal, 1949. Vol. 16, 1. Pp. 189-191.
9. Kashin B. S., Saakyan A. A. Ortogonal'nye ryady [Orthogonal series]. 2nd ed. Moskow, AFC Publ., 1999. 560 p.
© Браништи В. В., 2016
УДК 519.682
СИМВОЛЬНЫЙ АНАЛОГ ТЕОРЕМЫ О НЕЯВНОМ ОТОБРАЖЕНИИ И ЕГО ПРИЛОЖЕНИЯ В ТЕОРЕТИЧЕСКОЙ ИНФОРМАТИКЕ
О. И. Егорушкин, А. М. Попов, Н. А. Попов, К. В. Сафонов
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: [email protected]
Разработаны подходы к решению систем некоммутативных полиномиальных уравнений, основанные на связи c соответствующими коммутативными уравнениями. Результаты имеют приложение в теории формальных языков.
Ключевые слова: некоммутативное кольцо, полиномиальные уравнения, формальный степенной ряд, коммутативный образ.
A SYMBOLIC ANALOG OF THE IMPLICIT MAPPING THEOREM AND ITS APPLICATION IN THEORETICAL INFORMATICS
O. I. Egorushkin, A. M. Popov, N. A. Popov, K. V. Safonov
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: [email protected]
The authors elaborate approaches to solution of noncommutative polynomial equation systems based on the connection with the relative commutative equations. The results have applications in formal language theory.
Keywords: noncommutative ring, polynomial equations, formal power series, commutative image.
Рассматривается система полиномиальных уравнений
Ру (?, Х) = 0, у = 1, ..., п, (1)
где 2 = (г1,..., гп), х = (х1,..., хт) - переменные из кольца с некоммутативной операцией умножения и коммутативной операцией сложения; для них определена также коммутативная операция умножения на комплексные числа. Система (1) решается относительно переменных 21, ..., в виде формальных степенных рядов (ФСР) от переменных х1, ..., хт . Такие системы имеют прикладное значение, в частности, они порождают определенные классы формальных языков: контекстно-свободных, непосредственно составляющих, в нормальной форме Грейбах и др. В теории программирования система (1) рассматривается как грамматика над терминальными символами х1,...,хт - словами языка, и нетерминальными символами г1,..., гп, необходимыми для задания
грамматики [1-3]. Важное приложение таких уравнений лежит в области теории формальных языков и грамматик и теории автоматического управления [4].
Однако подходы к решению таких систем практически не разработаны. Задача исследования состоит в получении условий совместности и несовместности системы (1), что позволило бы в дальнейшем разрабатывать методы решения.
Поставим в соответствие ФСР (2) его коммутативный образ сг(х) - степенной ряд, который получается из 5 в предположении, что символы х1,...,хт обозначают коммутативные переменные, принимающие значения из поля комплексных чисел.
В этом предположении любой моном и можно
записать в виде х^1 •... • хтт , где а у - число вхождений (степень) deg (и) символа в моном. Если обозначить мультииндекс а = (а1,..., ат), то можно записать а = deg х (и ) и далее равенства
