Научная статья на тему 'Вывод системы нормальных уравнений методом наименьших квадратов для многофакторной регрессии'

Вывод системы нормальных уравнений методом наименьших квадратов для многофакторной регрессии Текст научной статьи по специальности «Математика»

CC BY
583
46
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
МЕТОД НАИМЕНЬШИХ КВАДРАТОВ / МНОГОФАКТОРНАЯ РЕГРЕССИЯ / СИСТЕМА НОРМАЛЬНЫХ УРАВНЕНИЙ

Аннотация научной статьи по математике, автор научной работы — Сергеева Анна Марксовна

Регрессионный анализ это мощный инструмент построения эконометрических моделей. В статье рассмотрен метод наименьших квадратов для случая линейной модели с несколькими факторами. Многофакторная линейная модель интересна еще и тем, что к ней приводятся некоторые нелинейные модели. Умение вывести систему нормальных уравнений для любого числа k факторов позволит исследователю чувствовать себя уверенно в построении математических регрессионных моделей, не занимаясь поиском формул в учебниках. Понимание каждой формулы системы нормальных уравнений является залогом успешного расчета параметров регрессионной модели с помощью различных компьютерных программ.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Вывод системы нормальных уравнений методом наименьших квадратов для многофакторной регрессии»

ФИЗИКО-МАТЕМАТИЧЕСКИЕ НАУКИ

ВЫВОД СИСТЕМЫ НОРМАЛЬНЫХ УРАВНЕНИЙ МЕТОДОМ НАИМЕНЬШИХ КВАДРАТОВ ДЛЯ МНОГОФАКТОРНОЙ РЕГРЕССИИ

Сергеева А.М.

Сергеева Анна Марксовна — кандидат физико-математических наук, доцент, кафедра высшей математики, Национальный исследовательский университет «Московский энергетический институт», г. Москва

Аннотация: регрессионный анализ - это мощный инструмент построения эконометрических моделей. В статье рассмотрен метод наименьших квадратов для случая линейной модели с несколькими факторами. Многофакторная линейная модель интересна еще и тем, что к ней приводятся некоторые нелинейные модели. Умение вывести систему нормальных уравнений для любого числа k факторов позволит исследователю чувствовать себя уверенно в построении математических регрессионных моделей, не занимаясь поиском формул в учебниках. Понимание каждой формулы системы нормальных уравнений является залогом успешного расчета параметров регрессионной модели с помощью различных компьютерных программ.

Ключевые слова: метод наименьших квадратов, многофакторная регрессия, система нормальных уравнений.

УДК 519.24

Постановка задачи:

Регрессионной таблицей 1. данных, полученных из эксперимента (исследования) задана многофакторная модель [1]

Таблица 1. Исходные данные наблюдений

Х: Х 2 Х 3 Хт У

Х11 Х 21 Х 31 Хт1 У1

Х12 Х 22 Х 32 Хт2 У 2

Х13 Х 23 Х 33 Хт3 У3

Хш Х2п Х3п Х тп Уп

гс = Во + ад + В2 х2 +... + ...втхт (1)

У\ = В0 + В1Х11 + В2Х 21 + В3 Х31 +.....В тХ т1

У 2 = В0 + В1Х 12 + В2Х22 + В3Х32 +.....ВтХт2 (2)

Уз = В0 + В1Х13 + В2Х23 + В3 Х33 +.....ВтХт3

и так далее.

То есть для каждого набора

(Х1к > Х2к > Х3к >.....> Хтк ) (3)

Выполняется Ук = Во + В1Х1^ + В2 Х2к + В3 Х3^ +.....ВтХтк (4)

Рассмотрим функцию (т+1) переменной. Переменными величинами являются параметры

В0> В1> В2.....Вт

J

B0, Bl>......> Bm

Z(Y — )2

(5)

i=1

JB0 ,B ,......,Bm = Z - B0 - B1x1i - B2x2i - B3x3i ••• - Bmxmi )

i=1

Вычислим частные производные по каждой переменной и приравняем к нулю.

J = 0,

JBi = о, j; = о

(6)

1 - второй индекс

п

А0 = Е 2(У - Во - - В2*2, - ВзХ„ - Бтхт1 )(-1) = 0,

1=1

п

^ = Е 2(У - В0 - В1Х1г В2Х2г - В3Х3г.....-ВтХт, )(-Х1, ) = 0

1=1

п

•'к = Е 2(У - Во - В1Х11 - В2Х21 - ВзХзг. - ВтХт1)(-Х21 ) = о,

1=1

п

1Вт = Е 2(У. - В0 - В1Х1. В2Х2, - В3Х3,..... ВтХт1)(-Хт, ) = 0

1=1

Сократим на множители 2 и (-1), отрицательные слагаемые перенесем в правую часть.

п _______

Е У. = пВо + В1 Е *1, + В2 Е + В3 Е Хз. + ••• + Вт Е ,

г =1

п _________

Е У'ХИ = В0 Е Хг + В1 Е (Х11 )2 + В2 Е Х2.ХИ + В3 Е Х31Х11 + ••• + Вт Е ХтгХ1г ,

(7)

i=1

n

Z ^ix2i = B0 Z X2i + B1 Z X1iX2i + B2 Z (x2i )2 + B3 Z x3ix2i + ••• + Bm Z XmiX2i > ( 8)

Zv.x = BnZx + B,Z X x . + B,Z x, x . + B,Zx-,,x . + ••• + B Z(x )2

/i mi о / , mi......1 ■ ■/■ ■ ; ■ ■ -1f mi ■ ■ ■ 2—A • ■■ ■ ■ -2f ■ m,......3 ■/■ ■ i ■ ■33i ■ ■ -mi m / iV mi/

(m+1) уравнение в системе, (m+1) - неизвестный параметр. Решить систему можно средствами линейной алгебры, с помощью программ Excel или Mathcad.

Все суммы легко находятся из регрессионной таблицы, например,

Е Х1; - это сумма по 1 столбцу регрессионной таблицы.

г=1

п

Е, Х3гХ2г = (Х3, Х2 ) скалярное произведение векторов.

i=1

о

i=1

i=1

Список литературы

1. Эконометрика. Елисеева И.И. Москва. Финансы и статистика, 2003.

2. Практикум по эконометрике. Елисеева И.И. Москва. Финансы и статистика, 2003.

3. Conclusion procedure of system of normal equations by the method of least squares for simple regression and multiple regression model. Москва. Спутник+, 2017.

ФОРМУЛА ДЛЯ СУММЫ ТРЕХ СТЕПЕНЕЙ И БОЛЬШАЯ ТЕОРЕМА

ФЕРМА Пучков М.В.

Пучков Михаил Васильевич - пенсионер, г. Нарва, Эстония

Аннотация: в статье представлен вывод формулы для суммы трех степеней хР + уР — г Р. На основании данной формулы выполнено общее доказательство Большой теоремы Ферма, которое состоит из двух частей. В первой части рассматривается вариант, когда ни одно из тройки чисел х,у, г, не делится на р . Во второй части рассматривается вариант, когда одно из тройки чисел х,у, г, делится на р.

Ключевые слова: теорема Ферма, формула для суммы степеней.

Вывод формулы для суммы трех степеней

хр _|_уР _2Р;

где х,у,г\ II I действительные числа (иррациональные, рациональные, цельте), как положительные так и отрицательные. Показатель р простое число. Обозначим: х + у = с, г — у = а, г — х = Ь. Отсюда: х — у = а — Ь, г + у = Ь + с, г + х = а + с.

Отсюда: х =

с+(а-Ь)

У =

с-(а-Ь)

2 2 Получим следующее уравнение

z =

ХР уР _ zP =

с+(а-Ь)]р |"с-(а-Ь)]р

с+(а+Ь)

e+(q+b)jP

2 Р(хР + уР — гР) = [с + ( а — Ь) ] Р + [с — (а — Ь) ] Р — [с + (а + Ь) ] Р. Преобразуем правую часть этого уравнения:

• Раскроем квадратные скобки по формуле бинома Ньютона.

• Сократим и суммируем одинаковые члены.

• Сгруппируем члены таким образом, чтобы получить член в виде ( с — а — Ь ) Р .

• После преобразования оставшихся членов правой части уравнения, получим нижеследующую формулу

2р(хр +уР - zp) = (с - а - ЬУ -

_ 8р abc { ^сР" 3 + (Р" 1)(Р "2 ) (Р" 3 }ср-52[а 2 + Ь2] + • • •

Г ^ 1 уО 1 V3 vA L J

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

(p-l)(p-2)(p-3)-(p-2fc+l)cp-2fc-l 1г2/са2,С"2 + 2fc(2fc~1)(2fc~2)a2fc-4^2 + .

1X2X3X4X-X2ÎC " -------

2fc(2fc—l)(2fc —2)(2fc—3) ■

2 1X2X3 [2fc-(2m+l)+l] a2k-2m-2fo2m ____|_ 2kb2k~2]

lX2X3X4X--'X(2m+l)

- + i[(p - l)ap~3 + (p-1)(p-2)(p"3)flP-5b2 + ».

?L4r ' 1 Y9V!

+ -..

(p-l)(p-2)(p-3)(p-4)-(p-l-2h) д !X2X3X4X---X(2h+1)

p -3 - 2 ^ 2 & + • . ,+ (р_1) b p -3] },

где:

x,y,z □ действительные числа, x+y = c, z — y = a, z — x = b,

2k, 2m, 2hZчетные целые положительные числа, 0 < 2k < p — 1

р-з,

pl II простое число >2[l,c. 13]. ■

0<2 /Кр_3 , 0<2 m<

i Надоели баннеры? Вы всегда можете отключить рекламу.