УДК 517.5:519.2
Вестник СибГАУ Том 17, № 1. С. 19-26
ВВЕДЕНИЕ ПРОСТРАНСТВА L2w ПРИ ПОСТРОЕНИИ проекционной оценки плоТности ВЕРОЯТНОСТИ
В. В. Браништи
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнёва Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: [email protected]
Рассматривается задача восстановления неизвестной функции плотности вероятности непрерывной случайной величины по конечной независимой выборке. Исследуется построение проекционной оценки функции плотности вероятности в случае, когда квадрат функции плотности f(x) не суммируется, т. е. функция fx) не принадлежит функциональному гильбертову пространству L2. В этом случае не выполняется условие сходимости оценки к истинной плотности даже при использовании оптимальных коэффициентов. Функции плотности вероятности, не принадлежащие L2, встречаются уже у модельных распределений, например, у распределения хи-квадрат с числом степеней свободы k = 1. Для решения этой задачи вводится функциональное пространство L2w, являющееся расширением пространства L2. Исследуются свойства вводимого пространства. Показано, что для любой положительной измеримой по Лебегу функции w(x) оно также является гильбертовым. Кроме того, при расширении L2 до L2,w сохраняется различимость элементов. Доказано утверждение о том, что плотность вероятности любой непрерывной случайной величины принадлежит некоторому пространству L2,w. При этом оказалось важным установить сепарабельность вводимого пространства, так как лишь в этом случае последовательность проекционных оценок сходится к оцениваемой функции. Доказано, что любое пространство вида L2 w, содержащее L2, является сепарабельным, что даёт возможность строить проекционную оценку функции плотности вероятности в этом пространстве. Установленные теоретические результаты были проверены на серии численных экспериментов. В статью включены результаты оценивания плотности вероятности случайной величины, подчинённой закону распределения хи-квадрат, а также случайной величины, у которой плотность вероятности не принадлежит L2 и содержит две точки, в которых функция стремится к +<х>. Результаты расчётов позволяют сделать вывод о том, что предложенный метод может быть использован при оценивании функции плотности вероятности даже в случаях, когда она не принадлежит L2.
Ключевые слова: функция плотности вероятности, проекционная оценка, гильбертово пространство, сепарабельность, статистическое оценивание.
Vestnik SibGAU Vol. 17, No. 1, P. 19-26
INTRODUCING THE L2w SPACE FOR BUILDING THE PROJECTIVE ESTIMATION OF PROBABILITY DENSITY FUNCTION
V. V. Branishti
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: [email protected]
The task of recovering probability density function of continuous random variable from finite independent sample is considered in the paper. The author investigates the building of projective estimation of probability density function in the case when probability density fx) is not square integrable, i. e. function fx) is outside of the functional Hilbert space L2. In this case a convergence condition of density estimation to true density doesn't hold even with using optimal coefficients. Probability density functions, which is outside the L2 space, occurs even in model distributions, for example, in chi-square distribution with number of freedom k = 1. For solving this task one introduces an L2,w functional space, which is expansion of the L2 space. Properties of the introduced space are investigated in the paper. One shows that for any positive Lebesgue measurable function w(x) it is also Hilbert. Moreover, discernibility of elements remains true in expansion from L2 to L2,w. A statement that probability density function of any continuous random variable belongs to some L2w space is proved. Besides, establishing separability of the introducing space is found important, because only in this case sequence of projective estimations converges to true density. The author proved that any space of L2w kind, which contains L2, is separable, so it is possible to build projective estimation
of probability density function in this space. Obtained theoretical results were tested on series of numerical experiments. Results are included in the paper. This paper contains the results which are about estimating of probability density function of chi-square distributed random variable and also variate which has probability density that is outside L2 and contains two points where it converges to +<x>. The results let us make a conclusion that suggested method can be used in probability density function estimating even in cases when that density is outside L2.
Keywords: probability density function, projective estimation, Hilbert space, separability, statistical estimation.
Введение. Для решения задач классификации, распознавания, диагностики технических систем и др., возникающих в том числе в аэрокосмической отрасли, большое значение имеет качество восстановления неизвестной функции плотности вероятности непрерывных случайных величин. Зачастую закон распределения исследуемых случайных величин имеет сложную структуру: плотность вероятности разрывна, многоэкстремальна и т. д. В таких условиях часто применяются непараметрические методы оценивания функции плотности вероятности, основанные на оценках М. Розенблатта и Э. Парзена [1-3]. Также большое распространение получила проекционная оценка, предложенная Н. Н. Ченцовым [4]. Предполагается, что оцениваемая функция плотности вероятности fx) принадлежит гильбертову пространству L2 функций, интегрируемых по Лебегу с квадратом на всей числовой прямой [5]. В этом случае функция fx) предста-вима в виде
f(x) = «оФо(x) + «Ф1(x) + «2 Ф2(x) +... (1)
где {фк} - полная ортонормальная система функций (базис) пространства L2; коэффициенты ak находятся по формуле:
+да
«k =(f, Фк ) = j f (Х)фк (x)dx .
-да
Проекционная оценка fN(x) функции fx) представляет собой N-ю частичную сумму ряда (1):
fN (x) = «0Ф0 (x) + «1Ф1 (x) + ... + aNФN (x) . (2)
Если восстанавливаемая функция f е L2, то при неограниченном увеличении N оценка (2) сходится к истинной плотности f(x) в среднем квадратичном:
lim
N ^-да"
- f II = 0.
ляющей собой квадрат нормально распределённой случайной величины с параметрами ц = 0 и о = 1) имеет плотность вероятности [9]
f (x) =
1
\/2л 0,
x > 0, ci r^l.
(3)
При этом
jf 2( x)dx=-Lj A
2 л 0 xe"
= +да,
В [6] указано, что если, кроме того, функция fx) является непрерывной и имеет ограниченное изменение, то оценка (2) сходится равномерно. Там же рассматривается оценка (2), в которой в качестве функций ф^) взяты многочлены Эрмита. Работа [6] была выполнена при поддержке агентства NASA.
В работах [7; 8] рассмотрены некоторые обобщения оценки (2), имеющие вид N
In (x) = ZX j a j Ф j(
j=0
где весовые коэффициенты Xj выбираются из дополнительных соображений.
Однако требование f е L2 не выполняется уже для некоторых модельных законов распределения. Например, распределение %2 с числом степеней свободы 1 (т. е. распределение случайной величины, представ-
т. е. f g L2, следовательно, проекционная оценка плотности вероятности не сходится к f(x) в метрике пространства L2.
В работе предлагается построение сепарабельных гильбертовых пространств, являющихся расширениями пространства L2, в которых имеется возможность строить проекционные оценки функций плотности вероятности, не входящих в L2.
Определение и основные свойства пространства L2wW. Пусть w(x) - положительная измеримая функция. Определим пространство L2w как множество действительных функций, для которых
+да
j f 2(x)w(x)dx <+да . (4)
-да
Для любых двух функций f, g е L2,w определено число
+да
(f, g)w =j f (x)g(x)w(x)dx . (5)
-да
Действительно, для действительных функций f(x) и g(x) выполняется неравенство
If (x)g(x) w(x) < (f2 (x)w(x) + g2 (x)w(x)).
Поэтому из (4) следует, что интеграл в (5) принимает конечное значение. Очевидно, двухместный функционал (5) удовлетворяет аксиомам скалярного произведения. Причём условие (4) означает конечность нормы функции f, индуцированной этим скалярным произведением. Следовательно, пространство L2w является гильбертовым. При w(x) = 1 пространство L2w совпадает с пространством L2. Подбирая различные функции w(x), получим различные пространства L2w, причём справедливо следующее утверждение.
Утверждение 1. Если w1(x) < w2(x), то
L2,w2 £ L2,w1 .
В частности, при w(x) < 1 пространство L2,w включает в себя пространство L2.
Доказательство. Утверждение следует из того, что если для функции /(х) выполнено условие
но
| /2 (х)н>2 (х)сХ < +да,
то
Тогда
Н (х) < Мн2 (х), н2 (х) < — (х).
т
-ГШ
| /2(х)м^(х)сх < | /2(х)Ми^2(х)сх =
—да —да
+да
= М | /2(х)н2(х)Сх, (6)
—да
+да +да 1
[ /2(х)Щ(х)Сх < [ /2(х) — Н1(х)Сх =
J J УУ)
— [ /2(х)Н1(х)Сх. т >>
(7)
н2( х)
или, что то же самое,
11м1
> 0,
(8)
= 0.
Тогда
[ /2(х)н2(х)Сх = 0.
[ /2(х)н1(х)Сх < [ /2(х)^2 (х)Сх < +да.
—да —да
Утверждение 2. Если для функций н1(х) и н2(х) существуют такие константы т и М, что
Н1 (х)
Ух е (—да; +да), 0 < т < —-< М < +да,
н2( х)
то пространства равны
Доказательство. Из условия теоремы следует, что
1
Из (6) следует включение с Ь2>щ , из (7) -
включение Ь2щ с . Утверждение доказано.
Из утверждения 2 следует, что для фактического расширения пространства (т. е. для Ь2> с )
необходимо, чтобы
м = 0,
н2( х) sup—2-= +да.
х Н1( х)
Заметим далее, что при таком расширении сохраняется различимость элементов, как показывает следующее утверждение.
Утверждение 3. Пусть н1(х) и н2(х) - две измеримые положительные функции, / - функция, принадлежащая обоим пространствам Ь2щ и Ь2 . Тогда
|/|н»> 0 Н/|1н2 > 0.
Доказательство. Пусть, напротив, при некоторых н1(х) и н2(х) существует такая функция
/ е 12,щ П ¿2,н2 , для которой
Так как подынтегральная функция неотрицательна, то отсюда следует, что она равна 0 почти всюду. Но н2(х) всюду положительна, поэтому почти всюду равна 0 функция / 2(х), из чего следует, что
+да
[ /2(х)н1(х)Сх = 0.
—да
Получаем противоречие с (8), что доказывает утверждение.
Из утверждения 3 следует, в частности, что если две функции /(х) и g(x) принадлежат обоим пространствам Ь2 н и Ь2 , то они в этих пространствах
одновременно различаются или нет:
II/ — <> 0 Н/ — 4н2 > 0.
Оказывается, для любой функции плотности вероятности /х) можно построить такое расширение Ь2,н пространства Ь2, которое будет содержать функцию/х).
Утверждение 4. Пусть /х) - функция плотности вероятности некоторой непрерывной случайной величины. Тогда существует такая положительная измеримая функция н(х), что выполняется включение
/ е Ь2,н .
Доказательство. Как функция плотности вероятности, /(х) интегрируема на всей числовой прямой, причём
[ /(х)Сх = 1.
Тогда существует (конечный или бесконечный) интеграл
I = [ /2(х)Сх.
При этом если I < +<», то / е Ь2,н при н(х) = 1. Если I = +<», то функцию н(х) можно построить следующим образом:
н( х) =
1
/(х) > 1,
(9)
/ (х)'
11, /(х) < 1.
В силу измеримости функции/х) множества Х1 = {х е М | /(х) > 1} и Х2 = {х е М | /(х) < 1}
измеримы, поэтому измерима и построенная функция н(х). Кроме того,
+да
[ /2(х)н(х)Сх = [ /2(х)н(х)Сх +
—да Х\
+ [ /2(х)н(х)Сх = [ /(х)Сх + [ /2(х)Сх;
j f (x)dx < j f (x)dx = 1;
X1 -да
+да
j f 2(x)dx < j f (x)dx < j f (x)dx = 1.
X2 X2 -да
Таким образом, получаем, что
+да
j f 2(x)w(x)dx <+да,
-да
поэтому f е L2,w. Утверждение доказано.
Построение функции плотности вероятности, не принадлежащей данному пространству L2,w. Как
показывает утверждение 4, для любой функции плотности вероятности fx) можно построить содержащее её гильбертово пространство L2,w. Выбирая всё меньшие функции w(x), можно получать всё более широкие пространства L2,w. Однако не существует пространства L2,w, которое содержало бы всё множество функций плотности вероятности любых непрерывных случайных величин. Действительно, справедливо следующее утверждение.
Утверждение 5. Пусть w(x) - положительная измеримая функция. Тогда существует непрерывная случайная величина, у которой функция плотности вероятности f(x) такова, что
+да
j f 2(x)w(x)dx =+да.
-да
Доказательство. Пусть w(x) удовлетворяет условию утверждения. Тогда существует такое е > 0, что множество
A = {x е М | w(x) > е}
имеет положительную меру. Определим на этом множестве функцию ф(x), обладающую свойствами:
j ф(x)dx < +да, j ф2 (x)dx = +да.
A A
Заметим, что множество A может иметь весьма сложную структуру, в том числе быть нигде неплотным [10].
Так как система измеримых множеств пространства действительных чисел М является о-алгеброй,
то любое множество положительной меры из этой системы можно представить в виде объединения счётного множества попарно непересекающихся его подмножеств положительной меры. В частности, для множества A имеем
A = U At,
> 0, A П A: = 0 при t Ф j .
t=1
Ряд, составленный из мер множеств A, очевидно, сходится, причём
Е^ =М.
(10)
У п = Е ЦАп •
к=п+1
Так как ряд (10) положительный, то согласно результату У. Дини [11, с. 319] ряд
» _1 Ек Уп21
п=1
сходится, в то время как ряд
да
Ек У__1
п=1
расходится. Используя это свойство, для каждого множества Ап построим функцию
Фп(х) = |у_21, х е Л, I0, х г Ап
и определим функцию ф(х) следующим образом:
да
Ф( х) = ЕФп (х).
п=1
При этом
да
|ф(х)с1х = Е I ф(х)с1х =
А п=1 Ап
да да __1
= ЕI Фп(х)Сх = Е цАп У п 21 < +да;
п =1 Ап п =1
да
|ф2(х)Сх = Е | ф2(х)сХ =
А п=1 Ап
дада
= ЕI Ф2 (х)Сх = Е цАп У __1 =
п =1 Ап п =1
Функцию Iх) будем искать в виде _ Ф(х)
I (х) =
x е A,
k^w( x)
0, x g A,
где коэффициент k определим из условия нормировки:
1 f Ф(x)
j f (x)dx =1H
-да "iV
rdx = 1.
н>( х)
Заметим, что интеграл в последнем выражении сходится, так как
ф(x) dx < -1 [ф(x)dj
,7w(x) Vе A
!x < +да.
Тогда получаем
k-J
Ф( x) sjw( x)
dx.
Обозначим через j„ остаток ряда (10) после n-го члена:
Таким образом, функция fx) является функцией плотности вероятности некоторой случайной величины. При этом
n=1
г , , 1 Гф (х) I / (х)н(х)Сх = —- I-н(х)Сх
* 1т2 1 ЛА)( Г4*
н( х)
12 —[ф (х)с
х = +да.
Утверждение доказано.
Сепарабельность пространства Ь2^. Как показывает утверждение 5, не существует некоего универсального гильбертова пространства, пригодного для оценивания любой мыслимой функции плотности вероятности. Кроме того, при рассмотрении пространства ¿2,н очень важным является установление его сепарабельности, так как в этом случае у этого пространства гарантировано существование счётного базиса и возможность представления любого элемента пространства в виде (1). Таким образом, если функция плотности вероятности принадлежит сепара-бельному пространству ¿2,н, то её проекционная оценка сходится к ней. Рассмотрим следующую теорему.
Теорема. Пусть Ь2 с Ь2н. Тогда пространство ¿2 плотно в пространстве Ь2 н.
Для доказательства этой теоремы сформулируем следующую лемму.
Лемма. Пусть к(х) - измеримая функция, ортогональная пространству ¿2:
У/ е ¿2 (/, к) = 0.
Тогда к(х) равна 0 почти всюду.
Доказательство. Пусть, напротив, к(х) ортогональна пространству ¿2 и отлична от 0 на некотором множестве А положительной меры:
|А = |{х е М | к(х) Ф 0} > 0.
Разобьём множество А на два подмножества
А1 = {х е М | к(х) > 0}, А2 = {х е М | к(х) < 0}..
Очевидно, что мера хотя бы одного из них положительна. Тогда из А1 или А2 можно выделить ограниченное подмножество положительной меры. Обозначим это подмножество через В. Очевидно, на множестве В функция к(х) сохраняет знак. Определим функцию/(х) следующим образом:
/ (х) =
1, х е В, 0, х <£ В..
Функция /(х) принадлежит пространству ¿2, и, кроме того,
+да
(/, к) = [ /(х)к(х)Сх = | к(х)Сх Ф 0.
—да В
Получаем противоречие с ортогональностью функции к(х) пространству ¿2. Лемма доказана.
Доказательство теоремы. Пусть, напротив, ¿2 не является плотным в ¿2,н. Известно, что для того, чтобы линейное многообразие М было плотным в гильбертовом пространстве Н, необходимо и достаточно, чтобы в Н не существовало ненулевого элемента, ортогонального всем элементам из М [12]. Отсюда следует, что в ¿2,н существует ненулевой элемент g, ортогональный пространству ¿2:
У/ е ¿2 (/, g)к = | /(х)g(х)н(х)Сх = 0.
—да
Из доказанной леммы применительно к к(х) = = g(x)w(x) следует, что функция g(x)w(x) равна 0 почти всюду. Так как н(х) > 0, то почти всюду равна 0 функция ^х), что противоречит тому, что g - ненулевой элемент пространства ¿2,н. Теорема доказана.
Из доказанной теоремы следует, что пространство ¿2 плотно в любом содержащем его пространстве ¿2,н. Тогда из сепарабельности ¿2 следует сепарабельность любого такого ¿2,н. В совокупности с утверждением 4 получаем, что для любой функции плотности вероятности можно построить проекционную оценку, сходящуюся в некотором пространстве ¿2,н.
Результаты численных экспериментов. Построим проекционную оценку плотности вероятности некоторых случайных величин, не принадлежащих пространству ¿2. Для этого с помощью формулы (9) построим весовую функцию н(х) и для соответствующего пространства ¿2,н построим ортонормиро-ванный базис методом ортогонализации Грамма-Шмидта [13]. Коэффициенты ак в выражении (2) оценим по формуле [14]
1
ак =-Ефк (х>) ).
(11)
Длину ряда N получим минимизацией значения
, N, (12)
2 N N
^ = - Е 4—Е <' к=0
где
Фк
2 = ^Фк ='
1 п
=ак —Ефк(х>)н( х х
«¿=1
-—¡-ЕЕ (фк(х) н( х)—тфк)
1 >=1
которое является (с точностью до постоянного слагаемого) несмещённой оценкой функционала качества
б Ш = м 112
оценки плотности вероятности [15].
Пример 1. Для функции (3) плотности вероятности случайной величины, подчинённой закону распределения %2, функция н(х) имеет вид
н(х) =и 2пхвх, х е (0;0,139), [1, с(г-1.
Оценку будем строить на луче [0; +да), для чего в качестве системы линейно независимых функций возьмём последовательность
-х хс—х х2-х хпе~х
С- ^ Лс- ^ Л С- ^ Л С- ^ ...
После применения процесса Грамма-Шмидта был построен базис, несколько первых элементов которого имеют вид
Ф0 (х) « 1,482е~х, ф1(х) « (—1,611 + 2,954х)е—, ф2(х) « (1,73 — 6,138х + 2,945х2)е~х,..
А
Оценка плотности вероятности строилась по независимой выборке случайной величины объёма п = 300. Оценки ак коэффициентов, а также их оптимальные значения занесены в табл. 1.
В табл. 2 приведены значения .
Из табл. 2 видно, что минимальное значение достигается при N = 15. График соответствующей оценки приведён на рис. 1.
Качество оценивания при этом составляет
"2 « 0,045.
Пример 2. Рассмотрим непрерывную случайную величину, заданную следующей плотностью вероятности:
/ (х) =
1
4л/Х' 1
0,
0 < х < 1,
1 < х < 2,
с( г^-1.
(13)
Квадрат этой функции не суммируем в окрестности двух точек х = 0 и х = 1, следовательно, /£ Ь2. Построим содержащее эту функцию пространство Ь2^. Для этого введём весовую функцию
ч>( х) =
4^х,
х е| 0;
х е| 1;
1 16 17 '16
1,
с( г^-1.
Построим проекционную оценку функции плотности вероятности в интервале (0; 2). Для построения базиса возьмём линейно независимую систему
1,
л
СОБ — х, 2
СОБ Лх,
пл
СОБ-х,
2
и по независимой выборке этой случайной величины объёма п = 300 построим проекционную оценку плотности вероятности. Результат численного эксперимента приведён на рис. 2.
Таблица 1
Оценки (11) коэффициентов и их оптимальные значения при восстановлении плотности вероятности (3)
к 0 1 2 3 4 5 6 7 8 9
ак 0,633 -0,135 0,166 -0,117 0,104 -0,097 0,085 -0,066 0,051 -0,038
а-к 0,636 -0,133 0,148 -0,1 0,088 -0,075 0,067 -0,061 0,056 -0,052
к 10 11 12 13 14 15 16 17 18 19
ак 0,033 -0,034 0,034 -0,031 0,028 -0,025 0,023 -0,029 -0,029 -0,03
ак 0,048 -0,045 0,042 -0,04 0,038 -0,036 0,034 -0,043 -0,043 -0,043
Таблица 2
Значения оценки (12) функционала качества при восстановлении плотности вероятности (3)
N 1 2 3 4 5 6 7 8 9
Щ -0,416492 -0,442569 -0,455039 -0,464734 -0,473139 -0,479536 -0,483056 -0,484753 -0,485328
N 10 11 12 13 14 15 16 17 18
-0,485565 -0,485918 -0,486332 -0,486598 -0,486696 -0,486703 -0,48666 -0,48659 -0,486517
подчинённой закону распределения при к = 1
Рис. 2. Результат восстановления функции плотности вероятности случайной величины, подчинённой закону распределения (13)
Качество оценивания при этом составило ||/ - f\ [ « 0,102.
Наличие разрыва второго рода внутри области оценивания значительно ухудшило качество аппроксимации по сравнению с примером 1.
Заключение. Из доказанных свойств пространства L2,w следует, что для функции плотности вероятности любой непрерывной случайной величины можно построить проекционную оценку, сходящуюся в этом пространстве при определённом выборе весовой функции w(x). Численные эксперименты подтвердили, что предложенный способ оценивания плотности вероятности может быть использован в случаях, когда квадрат оцениваемой функции fx) не суммируется, т. е. f £ L2.
Библиографические ссылки
1. Rosenblatt M. Remarks on some nonparametric estimates of a density function // The Annals of Mathematical Statistics. 1956. Vol. 27, 3. P. 832-837.
2. Parzen E. On estimation of a probability density function and mode // The Annals of Mathematical Statistics. 1962. Vol. 35, 3. P. 1065-1076.
3. Лапко А. В., Лапко В. А. Непараметрические модели и алгоритмы обработки информации : учеб. пособие / Сиб. гос. аэрокосмич. ун-т. Красноярск, 2010. 220 с.
4. Ченцов Н. Н. Оценка неизвестной плотности распределения по наблюдениям // ДАН СССР. 1962. Т. 147, 1. С. 45-48.
5. Колмогоров А. Н., Фомин С. В. Элементы теории функций и функционального анализа. 6-е изд. М. : Наука, 1989. 624 с.
6. Schwartz S. Estimation of probability density by an orthogonal series // The Annals of Mathematical Statistics. 1967. Vol. 38, 4. P. 1261-1265.
7. Watson G. Density estimation by orthogonal series // The Annals of Mathematical Statistics. 1967. Vol. 40, 4. P. 1496-1498.
8. Wahba G. Data-based optimal smoothing of orthogonal series density estimates // The Annals of Statistics. 1981. Vol. 9, 1. P. 146-156.
9. Кобзарь А. И. Прикладная математическая статистика: для инженеров и научных работников. М. : Физматлит, 2006. 816 с.
10. Натансон И. П. Теория функций вещественной переменной. 3-е изд. М. : Наука, 1974. 480 с.
11. Фихтенгольц Г. М. Курс дифференциального и интегрального исчисления. 8-е изд. М. : Физматлит, 2003. Т. 2. 864 с.
12. Люстерник Л. А., Соболев В. И. Элементы функционального анализа. 2-е изд. М. : Наука, 1965. 520 с.
13. Ленг С. Алгебра. М. : Мир, 1968. 564 с.
14. Новосёлов А. А. Об оптимальном выборе структуры функции плотности вероятности и регрессии : препринт. Красноярск : ВЦ СО АН СССР, 1979. 31 с.
15. Браништи В. В. О параметрическом оценивании функции плотности вероятности // Научно-технический вестник Поволжья. 2014. № 1. С. 13-16.
References
1. Rosenblatt M. Remarks on some nonparametric estimates of a density function. The Annals of Mathematical Statistics, 1956, Vol. 27, No. 3, P. 832-837.
2. Parzen E. On estimation of a probability density function and mode. The Annals of Mathematical Statistics, 1962, Vol. 35, 3, P. 1065-1076.
3. Lapko A. V., Lapko, V. A. Neparametricheskie modeli i algoritmy obrabotki informatsii [Nonparametric models and algorithms of information processing]. Krasnoyarsk, SibSAU Publ., 2010, 220 p.
4. Cencov N. N. Evaluation of an unknown distribution density from observations. Soviet Math, 1962, Vol. 3, P. 1559-1562.
5. Kolmogorov A. N., Fomin S. V. Elementy teorii funktsiy i funktsional'nogo analiza [Elements of function theory and functional analysis]. 6th ed. Moscow, Nauka Publ., 1989, 624 p.
6. Schwartz S. Estimation of probability density by an orthogonal series. The Annals of Mathematical Statistics, 1967, Vol. 38, No. 4, P. 1261-1265.
7. Watson G. Density estimation by orthogonal series. The Annals of Mathematical Statistics, 1967, Vol. 40, No. 4, P. 1496-1498.
8. Wahba G. Data-based optimal smoothing of orthogonal series density estimates. The Annals of Statistics, 1981, Vol. 9, No. 1, P. 146-156.
9. Kobzar' A. I. Prikladnaya matematicheskaya statistika: Dlya inzhenerov i nauchnykh rabotnikov [Applied mathematical statistics: For engineers and scientists]. Moscow, Fizmatlit Publ., 2006, 816 p.
10. Natanson I. P. Teoriya funktsiy veshchestvennoy peremennoy [Theory of functions of real variable]. 3rd ed. Moscow, Nauka Publ, 1974, 480 p.
11. Fikhtengol'ts G. M. Kurs differentsial'nogo i integral'nogo ischisleniya [Course of differential and integral calculus]. 8th ed. Moscow, Fizmatlit Publ., 2003, 864 p.
12. Lyusternik L. A., Sobolev V. I. Elementy funktsional'nogo analiza [Elements of functional analysis]. 2nd ed. Moscow, Nauka Publ., 1965, 520 p.
13. Lang S. Algebra. New York, Springer, 2005, 917 p.
14. Novoselov A. A. Ob optimal'nom vybore struktury funktsii plotnosti veroyatnosti i regressii [On optimal choice of structure of probability density function and regression]. Krasnoyarsk, Computation Center of Siberian Department of USSR Academy of Sciences Publ., 1979, 31 p.
15. Branishti V. V. [On parametric estimation of probability density function]. Nauchno-tekhnicheskiy vestnikPovolzh'ya, 2014, No. 1, P. 13-16 (In Russ.).
© EpaHHmra B. B., 2016