Исследование аппроксимативных возможностей радиально-базисной сети с ортогональными полиномами Текст научной статьи по специальности «Математика»

базис H и алгоритм редуцирования базиса идет на очередную итерацию.

По второй ветви алгоритм редуцирования базиса развивается, если в базисе H не найден полином, который может быть редуцирован. В таком случае набор базисных функций должен быть расширен для продолжения редукции. Из всех возможных пар полиномов базиса fl{x, у) и ¿¡(к, у), для которых не выполняется условие (4), нужно найти пару с минимальным ЬСМ(/и £).

Если такая пара найдена, редуцированный остаток ^-полинома этой пары включается в базис Н, предварительно пройдя корректировку коэффициентов, как это было описано ранее. Если же такой пары многочленов в базисе Н нет, значит, этот базис полностью редуцирован и является базисом Грёбнера.

Таким образом, в результате работы алгоритма получим базис, составленный из пары многочленов (5). Теперь для решения исходной системы нужно вычислить все корни у полиномиального уравнения одной переменной ¿у(х, у)=0, подставить по очереди эти значения в многочлен ¿Х(х, у), превращая его в полином одной переменной, и рассчитать соответствующие корни ; уравнения

/Лх'У.) = °-

Сравнительный анализ на конкретных примерах показал, что новый алгоритм в несколько раз быстрее существующих, что с учетом его адаптации к вычислениям на ЭВМ делает данный алгоритм более предпочтительным при решении задач нахождения базисов Грёбнера и, как следствие, отыскания корней систем полиномиальных уравнений.

Литература

1. Прасолов В.В. Многочлены. М.: МЦНМО, 2001.

2. Buchberger B. Grobner Bases: an Algorithmic Method in Polynomial Ideal Theory / Recent trends in multidimensional system theory, U. Reidel Publishing Company, 1985.

3. Buchberger's algorithm. URL: http://www.geocities.com/ famancin/buchberger.html (дата обращения: 01.06.12).

4. Faugere J.C. A new efficient algorithm for computing Grobner bases (F4) // Journal of Pure and Applied Algebra, 1999, no. 139, pp. 61-88.

References

1. Prasolov V.V., Mnogochleny (Polynomials), Moskovsky Tsentr Nepreryvnogo Matematicheskogo Obrazovaniya, 2001.

2. Buchberger B. Grobner Bases: an Algorithmic Method in Polynomial Ideal Theory. Recent trends in multidimensional system theory, U. Reidel Publishing Company, 1985.

3. Buchberger's algorithm, available at: www.geocities.com/ famancin/buchberger.html (accessed 01.06.12).

4. Faugere J.C., A new efficient algorithm for computing Grobner bases (F4), Journal of Pure and Applied Algebra, 1999, no. 139, pp. 61-88.

УДК 681.3

ИССЛЕДОВАНИЕ АППРОКСИМАТИВНЫХ ВОЗМОЖНОСТЕЙ РАДИАЛЬНО-БАЗИСНОЙ СЕТИ С ОРТОГОНАЛЬНЫМИ ПОЛИНОМАМИ

И.В. Лёзина, к.т.н.

(Самарский государственный аэрокосмический университет им. академика С.П. Королева (национальный исследовательский университет), [email protected])

Описывается постановка задачи аппроксимации, обосновывается возможность использования в качестве аппрок-симатора плотности распределения вероятности радиально-базисной нейронной сети, приводятся аппроксимирующее выражение для данной сети и выражение для целевой функции, с помощью которой происходит подбор параметров базисных функций и значений весов. Рассматривается возможность использования при аппроксимации плотности распределения вероятности радиально-базисной сетью не только традиционных функций Гаусса, но и сигмои-дальных и степенных функций и ортогональных полиномов Лежандра, Чебышева I и II рода, Лагерра и Эрмита. Приводятся соответствующие формулы. Сравниваются погрешности аппроксимации путем вычисления среднего квадратического отклонения. В качестве примеров приводится аппроксимация плотности вероятности Симпсона и Рэлея радиально-базисной сетью c сигмоидальными, степенными функциями, а также полиномами Лежандра, Чебышева I и II рода, Лагерра и Эрмита. Дается рекомендация по использованию радиально-базисной сети с полиномами Лежандра, Чебышева I и II рода в качестве базисных функций при увеличении числа нейронов в скрытом слое, так как такая сеть позволяет достичь более низких значений среднего квадратического отклонения, чем сеть с традиционными функциями Гаусса.

Ключевые слова: аппроксимация, радиально-базисная сеть, ортогональные полиномы, Лежандр, Чебышев, Ла-герр, Эрмит.

STUDY OF APPROXIMATIVE POSSIBILITIES OF RADIAL-BASIC NETWORK WITH ORTHOGONAL POLYNOMS Lyozina I.V., Ph.D. (Samara State Aerospace University, [email protected]) Abstract. The article describes set up of the problem of approximation, provides rationalization for possibility to use the radial-basic neural network as an approximator of probability density function, gives the approximating statement for this

network and statement for objective function, by means of which selection of basic function parameters and weight values is done. Besides, this article considers the possibility to use not only canonical Gaussian functions in the course of approximation of probability density function with a radial-basic network, but also sigmoidal functions, power functions and orthogonal polynoms of Legendre, Chebyshev of I and II kind, Laguerre and Hermite, and gives the relevant formulae. It compares the accuracy of approximation by means of computation of mean-square deviation. Approximation of probability density of Simpson and Rayleigh with a radial-basic network with sigmoidal, power functions as well as polynoms of Legendre, Chebyshev of I and II kind, Laguerre and Hermite are given as examples. At the end there is a recommendation to use the radial-basic network with polynoms of Legendre, Chebyshev of I and II kind as basic functions in case of increase of neurons number in the buried layer, because this network allows lower values of mean-square deviation than the one with canonical Gaussian functions to be achieved.

Keywords: approximation, radial basis network, orthogonal polynoms, Legendre, Tchebyshev, Laguerre, Hermit.

При проведении различного рода исследований зачастую приходится прибегать к обработке больших массивов однородной информации. При этом объем выборки может достигать огромных размеров, и оперировать им становится не очень удобно. Если в условиях конкретной задачи можно исходить из предположения о том, что данная выборка распределена по какому-либо закону, пусть даже нам неизвестному, то в таком случае можно перейти от хранения информации в виде числовых массивов к хранению по закону распределения числового ряда.

Кроме аппроксимации функций многочленами в последнее время все больше внимания уделяется приближению функций многих переменных с помощью линейных операций и суперпозиций функций одного переменного. Такое приближение осуществляется специальными формальными «устройствами» - нейронными сетями.

Возможность использования в качестве универсального аппроксиматора радиально-базисной нейронной сети (КБР) обосновывается с помощью теоремы об универсальной аппроксимации [1]. Аппроксимирующее выражение для RBF-сети может быть записано в виде

/ (*)=I w* •Ф* (*

(1)

где фк(х, аь ..., ая) - семейство базисных функций; аь ..., а„ - набор неизвестных параметров базисной функции, которые настраиваются в процессе обучения; - весовые коэффициенты RBF-сети [2]. Проблему подбора параметров базисных функций и значений весов Vк сети можно свести к минимизации целевой функции [2], которая записывается в форме

М ( т V

, а,

, а

■ )- Уi

(2)

Е=Х X ^ фJ (х,

'=1 V J=0

Чаще всего в качестве радиальной функции применяется функция Гаусса. В одномерном случае при размещении ее центра в точке ск она может быть определена [2] как

Ф * (*) =

- „-(*

* )7*

(3)

В разработанном программном комплексе аппроксимации законов распределения (Свид. о гос. регистр. прогр. для ЭВМ № 2011611521 от 16.02.2011, авторы Прохоров С.А., Лёзин И.А.,

Лёзина И.В.) в качестве узлов сети используются не только классические радиально-базисные функции, но и сигмоидальные функции:

/ (* ) =—1—;

^ ' 1 + е-"

степенные функции:

ф * (х) = ;

ортогональные полиномы Лежандра:

[V 2]

k * ) = I ■

s

a, =(-l)S

л/2 • k +1 ( 2k - 2s)!

2k • s !• (k - s )!• (k - 2s)!

Чебышева I рода:

1 [*/2] To (* ) = (* ) = I a-

k(k-s-1)! • s!^(k-2s)! '

Чебышева II рода:

¡2 [щ Uo (*) = л/ (*) = I as *

V Л s=0

.(-1 )s ,*-2s

as =(-1) -J-- 2* Лагерра:

k

Lo (* ) = 1, Lk (* ) = X

(k - s)(k - s-1)! s!-( k - 2s)! '

a • *

= (-1)s

k!

(s! )2 •( * - s)!

Эрмита:

[V 2]

H ( * )=I

as =(-1)

k!

' 2* s\■(k - 25)!

При использовании имитационного моделирования для генерации входных данных есть возможность оценить среднее квадратическое отклонение аппроксимации относительно теоретической плотности вероятности:

ст =

I

M

(4)

s=0

a

k=0

s=0

a

s

2

k

i = 1

Согласно методике, изложенной в [3], в качестве метрологической характеристики можно выбирать максимальное значение модуля погрешностей оценки:

ст = тах {ст,}, у = 1,, (5)

где - число испытаний, зависящее от доверительной информации Рд. Так, если Рд=0,95, то число испытаний равно 29 независимо от закона распределения погрешностей.

Рассмотрим примеры различных плотностей вероятности и возможности RBF-сетей для их аппроксимации. В качестве базисных функций возьмем сигмоидальные, радиальные, степенные функции, а также полиномы Лежандра, Чебышева I и II рода, Лагерра и Эрмита. Объем каждой выборки N=10 000, число дифференциальных коридоров М=20, количество нейронов в скрытом слое К=5, К=10, К=15. На рисунке представлен результат аппроксимации плотности вероятности RBF-сетью.

В таблице приведены значения максимума для среднего квадратического отклонения для всех указанных выше базисов при числе испытаний, равном 29, и различном количестве нейронов в скрытом слое.

Значения максимума для среднего квадратического отклонения аппроксимации плотности вероятностей Симпсона и Рэлея КБЕ-сетью

Аппроксимация плотности вероятности Симпсона ортогональными полиномами Лежандра RBF-сетью (K=15)

Исследования показали, что использование для аппроксимации плотности распределения вероятности RBF-сетей c сигмоидальными, степенными функциями, а также полиномами Лежандра, Чебышева I и II рода, Лагерра и Эрмита дало результаты не хуже, чем при использовании традиционных радиально-базисных сетей.

Литература

1. Хайкин С. Нейронные сети: полный курс. 2-е изд.; [пер. с англ.]. М.: Издат. дом «Вильямс», 2006. 1104 с.

2. Осовский С. Нейронные сети для обработки информации; [пер. с польск. И.Д. Рудинского]. М.: Финансы и статистика, 2002. 344 с.

3. Методы нормирования метрологических характеристик, оценки и контроля характеристик погрешностей средств статистических измерений. РТМ 25139-74. М.: Минприбор, 1974.

4. Прохоров С.А. Аппроксимативный анализ случайных процессов. Самара: СГАУ, 2001. 329 с.

References

1. Haykin S., Neyronnye seti: polny kurs (Neural networks: a Comprehensive Foundation), 2nd ed., Moscow, 2006, 1104 p.

2. Osovsky S., Neyronnye seti dlya obrabotki informatsii (Neural networks for Information Processing), Moscow, 2002.

3. Metody normirovaniya metrologicheskikh kharakteristik, otsenki i kontrolya kharakteristik pogreshnostey sredstv statisti-cheskikh izmereniy RТМ 25139-74 (Methods of Normalization of Metrological Characteristics, Assessment and Monitoring of Statistical Measuring Equipment Error Characteristics. RТМ 25139-74), Moscow, Minpribor, 1974.

4. Prokhorov S.A., Approksimativny analiz sluchainykh protsessov (Approximative Analysis of Random Processes), Samara, Samara State Aerospace Univ., 2001, 329 p.

К Узлы сети Полиномы

Сигмоидаль-ные Радиальные Степенные Лежандра Чебышева I рода Чебышева II рода Лагерра Эрмита

Закон Симпсона

5 0,0455 0,0169 0,1113 0,0656 0,0655 0,0656 0,0773 0,0657

10 0,0495 0,0151 0,1074 0,0179 0,0178 0,0179 0,0519 0,0197

15 0,0168 0,0171 0,1106 0,0134 0,0147 0,0134 0,0407 0,0183

Закон Рэлея

5 0,0338 0,0121 0,0283 0,0099 0,0098 0,001 0,0162 0,0099

10 0,0304 0,0099 0,0281 0,0097 0,0098 0,0099 0,0099 0,0098

15 0,0103 0,0099 0,0206 0,0097 0,0097 0,0098 0,0099 0,0098

УДК 681.3

МНОГОФУНКЦИОНАЛЬНЫЙ ИМИТАТОР НЕЙРОННЫХ СЕТЕЙ

О.П. Солдатова, к.т.н.

(Самарский государственный аэрокосмический университет им. академика С.П. Королева (национальный исследовательский университет), [email protected])

Описывается нейроимитатор, реализующий модели многослойного персептрона, радиально-базисных сетей и нечетких нейронных сетей. Исследована эффективность использования нейроимитатора для решения задач классификации и прогнозирования. Уделено внимание разбору гибридных моделей нейронных сетей и систем нечеткого