CC BY
9УДК 519.962.22
MIHIMAKCHI СЕРЕДНЬОКВАДРАТИЧН1 ОЦ1НКИ ТРЕНДУ В
ЗАДАЧАХ РЕГРЕСП
(с) Демиденко С.В., Наконечний О.Г.
Кшвський нацюнальний ушверситет im. Т.Г.Шевченка,
факультет к1бернетики
пр-т академ1ка Глушкова-2, корпус 6, м. Ки1в 03680, Украша e-mail: s.demidenko@gmail.com
Abstract. This paper describes an approach to the linear minimax estimation of the generalized polinom with unknown partially unbounded parameters. Linear minimax estimations are constructed on the basis of measurements with random noise. We introduce notions of the upper and lower linear minimax estimations. The sufficient conditions for the minimax estimation existence are formulated. Numerical simulation that illustrates these results is presented.
ВСТУП
Проблеми апрокеимацп функцп таено зв'язаш 1з задачами оптим1зацп [1, 2] з одного боку, а також п питаниями оцшки функцш за даними епоетережень, що до-елщжувалиея в математичнш етатиетищ [3, 4].
У данш робота розглядаеться випадок, коли епоетер1гаетьея узагальнений по. п-ном 1з шумом. При цьому корелящйна функщя випадкового ироцесу що моделюе шум невщома 1 нал ежить певнш область При обмеженнях на коефщенти розробле-но алгоритм побудови гарантовано! лшшноТ оцшкп такого полшома.
1. Постановка задачг
Нехай на r,i. ipiзку [О, Г] спостер1гаеться реал1защя випадкового процесу y(t), що мае вигляд
т
y(t) = j2^(t)+m (1)
г=1
де <Pi(t) г = l..m - nenepepeni на гД/ipi ¡ку [О, Т] функцп, £(t) - реал1защя неперервного в еередньому квадратичному випадкового процесу з нульовим сере. uii.\i та иевщомою корелящйною функщею R(t, s) Е К
т т
к = {R : J J (R(t, s) - Ro(t, s)fdtds < q2} (2)
о о
Ra(t,s) - гДдо.мн корелящйна функщя неперервна на [О,Г] х [О,Г]. Нехай також Bi-домо, що коеф1щепти п(. / = 1 ../•. г < ш належать множин1 G, де
G = {а : \oii — Si\ < fa, i = l..r} (3)
Позначимо через Я?) лшшну оцшку тренду Р(Т) ='£ai<pi(T) вигаяду
г=1
Р(Т) = J u(t)y(t)dt + с, де u(i) належить простору виьпрних за Лебегом штегро-о
ваних з квадратом функцш, с - довшьна константа, Позначимо через a(R,a,u,c) еередньоквадратичну похибку тако! ощнки, тобто
a2(R, а, и, с) = М(Р(Т) - Р(Т))2 (4)
Означения 1. Оцшка для яко! и та с належать множит (и, с) £ arg min а((и,с), де
о\(и, с) = sup a2(R, а, и, с)
G,K
назнваетьея мтмакеною еередньоквадратнчною оцткою,
2, Умови 1снування та вигляд mihimakchoI ощнки
Твердження 1. Прнпуетнмо, що <Pi(t), г = (г + 1)..///. . liiiiiino незалежш, io. ii ienve едина мтмакена еередньоквадратична оцшка причому
infame) = infaj(u,c) = а 2 (и) (5)
и,с u£U
де о\(и) = 0)); w = argminge;jU множина, що визначаетьея i3
умови
U = {и : zt(0) = 0, г = (1 + r)..m} (6)
ас = ^«й(0), ЩО) = Zi(0)|и=е, де ^(0) = <^(Т) - / u(t)ipi(t)dt.
г=1 {
Доведения. Зауважимо, що мае мюце piBHieTb
т т
ТО Г Г
a2(R,a,u,c) = (^^aiZi(0)^c)2+ / R(t, s)u(t)u(s)dtds (7)
%=l о о
т т
af(u, с) = sup(^^ ctiZi(Q) — с)2 + sup / / R(t, s)u(t)u(s)dtds = Ii(u, с) + h{u) (8)
G -_-j R J J
о 0
Kpi.M ТОГО Ii = oo при и ф U i
\г=1
при и е U ,
С - ^ад(о)
¿=i
(9)
т т т
,2 / „.2/
h(u) = J J R0(t, s)u(t)u(s)dtds + q J и (t)dt (10)
0 0 0
АНтмакст с ере du ь о к в а dpa т и ч ?« i оцгнки тренду в задачах регресп 25
Даш зауважимо, що так як функцп г~(( /) . шппно незалежш, то .множима I е непорожньою опуклою замкненою в £2(0,Т) множиною. Функцюнал
4(и)= +h{u) (11)
е елабконашвнеперервннм, сильно опуклим функцюиалом i значить ienve едина фуикщя и G argmincrf, в силу nepißHOCTi
а((и, с) > аЦи) > minо\(и) = аЦи) (12)
и EU
яка перетворюетьея в р1вшеть при и = и, с = с, одержимо иеобхщне, □
Позначимо да. и через V множину матриць В, що мають вигляд
В = (bij)i,j=i~p
1 1
by = J ■■ J XiXjv(dx) -l -l
(13)
u(-) - npoöirae множину ймов1риоених Mip, що зоеереджеш на rinep-Kv6i [-1..1] X .. x [-1..1].
Твердження 2. Мае мн-це pinniri ь
ттап(и) = maxmin aiiu.B) (14)
иEU Bev uEU
де
аЦи, B) = Y, ßißjbiMO)zj(O) + I2(u) = (Вгг(О), z^O)) + I2(u)
¿¿=i
z1(0) = (ß1z1(0),..,ßrzr(0))
(15)
Доведения. Так як
(16)
(г \ 2 /г
5>h(0)|J = _maxi \ y2ßiXiZi(0)
= ™а}х ji ■■ J Аад(0) j v{dx) = max(Bzi(Ö), ^(0))
то в силу теореми про мтмаке одержимо необхщну р1вшеть, □
Твердження 3. Мае мн-це pinniriь
min аЦи,В) = аЦи,В) (17)
и EU
Доведения. Нехай е розв'язком р1вняння
—¿¿(Т) = Уг(Г), г = 1,,,, т, ^¿(О) = 0, г = (г + 1),,,, т (18) Введемо також функцп ^ (¿), що е розв'язками р1внянь
Рг{Ь)
сЫ
О, г = 1,.., т (19)
рД0) = ^%/^-(0),г = 1,.,г (20)
'Го. 11 похщна Гато вщ функцюнала о"|(м, В) буде мати вигляд
^ то Т
2 И)' = - X) + / До(<, + ^Ц*) (21)
¿=1 ^
Таким чином для одержимо ппогрально р1вняння
то
¿ОЭДйз + = X (22)
о *=1
Запишемо Г/ у ¡шпому вигляд1, для цього зауважимо, що р,(/) не залежить вщ t 1 тому якщо позначити \'х через то одержимо, що
то
= (23)
¿=1
де е розв'язком штегрального р1вняння
5)^(5)^5 + = (24)
о
то Т
Тсуц = - + ^{Т)-, Де %(£) = /
■?=1 *
Так як
г
Ш =Рг( 0) = г = 1'"'Г'
то для 0) одержимо систему р1внянь
то г
а константи />,-. г = (г — 1)../// визначаються п системи р'пшянь
то Т
XIУ = Ч>з{Т)Л = г + 1,гп (26)
¿=1 0
Наслщок 1. Нехай г=0, 'Го. 1*1 мтмакена оцшка мае вигляд
л то Т
£ = / (27)
¿=1 ^
Величини />,• визначаються з еиетеми р'пшянь
то
/ <рЛШ№ = щ{Т),з = (28)
¿=1 0
Наслщок 2. Припуетимо, що = 0, Тсцц = #
Наслщок 3. Мпп.максна ощнка мае вигляд
то
Р = / + с (29)
¿=1 {
числа р, знаходяться з розв'язку задач*! на мппмум наступноТ функцп
(г то \ 2 щ щ
(Т) - Xрггкг(0)| I + X рщ(Д0^, + X РМ' й=1 ¿=1 / ¿>5=1 ¿>5=1
(30)
де
т т т т
(ВЛ^.Фз) = J ■■ J {1,8)Ф1,ФЗСЫА8,(ФЬФЗ) = J ■■ J <•'///'/*. (31)
0 0 0 0
при обмеженнях
то Т
ЫТ)=^РкигШкт, г = г + 1,..,т (32)
к=1 ^
Доведения. 1з твердження 3 одержимо наступний вигляд функцп на якш до-сягаеться мппмум середньоквадратично\' похпбкп оцшки Р(Т), = ^7=1 Рг'Ф^)^ враховуючп вигляд функцюналу а2(и, с) одержимо необхщне, □
Приклад 1. Прошюетруемо застосуваипя наслщку 3 на прпкла.ч*1 наступно! модел1 г-1 (/) = мп(/). ,;•_>(/) = (/"). г":;(/) = сов(^), = 2. /,'„ = 0. ("¡7 = 0. Вппадковпй процес £(£) мае вигляд £(£) = £1 * зт(20 * £), де £1 - випадкова величина, що мае
пормалышй розподы з параметрами (0,0,2), Нехай а = (1 1 I)'1 1 реа,;пзащя випад-кового процееу мае вигляд = ^0,226 * 8ш(20 * ¿), Процедура оцшювашш буде проводитиея в умовах коли вст зазпачеш вище параметри фжеоваш, а параметри Т та д будуть варповатиея в межах Т е [1,3] та д е [0,2,2,2] з кроком 0,05 та 0,4, Вщ-повццшй алгоритм було ревизовано в систем! МаЛета1ж:а 6, результата обчиелепь зображеп! па паступпих граф!ках.
Рис. 1. Реалып значения Р(Т) (еуцыыт лппя), реа.;пзац!я у(^) (судыь-
иа тонка лппя), оцпжи Р(Т) при ршшх значениях параметра д (штрихов! лши)
1<
1:
1.5
2.0
2.5
3.0
Рис. 2. Мппмакепа еередпьоквадратичпа похибка при р!зпих значениях параметра д
Отже, як видно з малюнку 1, при зменшенш параметра ц ягаеть оцшювання по-кращуетьея, при ч = 0,2 оцшки розташоваш найближче до реальних значень тренду. При цьому найменни значения мтмакено1 еередньоквадратично1 похибки теж доея-гаютьея при д = 0,2 (мал, 2),
3, Верхня та нижня м1н1максн1 оцгнки
Означения 2. Оцшка Р+(Т) та Р_(Г) називаютьея верхньою та нижньою мтмак-еною якщо вони мають вигляд
Р+(т) = у и+(г)у(г)<а + с+
0 (33)
Р-{Т) = J и-(£)у(£)сИ + с_
о
де (и+,с+), (и_,с_) знаходятьея 1з мтм1зацп функцюншпв а\{и,с),а^_{и,с) вщповщ-но 1 для яких справедлив! норпшоп *1
а2_(и,с) < а2(и, с) < (т\(и, с) (34)
Твердження 4. Оцшки для яких мае мн-цо рпшнл ь
г=1 т
= ^рТФМ
(35)
г=1
для яких числа />/ . / = 1.... /// знаходятьея п систем рпшянь
т
фг(Т) = + + ЬгрН^)2 (36)
г=1
де
1, г < г 0, г > г
е В1ДПОВ1ДНО НИЖН1МИ та верхшми мшшакеними оцшками. Доведения. Введемо множини С+ та
2
1=1
Г
г=1 Рг
2
(37)
числа ßf та ßi виберемо так, щоб G С G С G . То. i.i очевидно, що
(и, с) = sup a2(R,a,u,c)
at [и, с) = sup a (R, а, и, с)
G-,R
Легко бачити, що
г г
а2+(щ с) = ((^(A+)42(0))^ + |с - J] аЛ(т2 + и) + q2(u, и) (39)
¿=1 г=1
Звщки с+ = V'' f п(:( (0). де е розв'язком р'пшяння
= (40)
де u+(í) е arg min (и) , = E¿=i(A+)2-^2(0) + (Пои, и) + q2(u,u) Звщки як i в твердженш 3 одержимо, що
т
"+(*) = Pi1" ^¿(í) (41)
¿=i
де pf знаходиться Í3 системи р'пшянь
pt(ßt)2 = vÁT) - TZiPÍ^M, з = W
^j(T) = E™ iPfztj(fy, j = l + r,.., m
Зауваження 1. Нехай множина значень uapa.\ie i pin e G+, m. i j .м'пп.максна оцшка ешвпадае Í3 верхиьою мтмакеною оцшкою,
□
Висновки
В робот! показано, що при деяких умовах icnyioi ь е. uní i .м'пп.макпп середньоквад-pai iimhí ощнкп узагальненпх по. пно.м'п;. Лап i оцшки шапдеш у г,пг. 1я. i.i . liniiinoT ком-oiiianiT рози'я ¡к'п; iinerpa. пшпх р'пшянь Фредгольма другого роду. Вводяться поняття Bepxnix i нпжн'кч .м'пп.макпшх оцшок та наводиться Тх вигляд. При пег,них умовах на коефщенти розроблено алгоритми для обчиелення оцшок. В систем! Mathematica 6 створено ni. шогДдну програмну реашзащю,
список л1тератури
1. Лоран Г.Ж. Апроксимация и оптимизация. - М.: Мир, 1975. - 496 с.
2. Тихомиров В.М. Некоторые вопросы теории приближений. - М.: МГУ, 1980. - 304 с.
3. Себер Д. Линейный регрессионный анализ. - М.: Мир, 1980. - 456 с.
4. Норман Дрейпер, Гарри См,um, Прикладной регрессионный анализ. - 3-е изд. - М.: «Диалектика», 2007. - С. 912.
5. Полянин А. Д., Манжиров А. В. Справочник по интегральным уравнениям. - М.: Физматлит, 2003. - 608 с.
Статья поступила в редакцию 13.10.2008
