Аппроксимация долей энергии фрагмента звукового сигнала смесью радиально-базисных функций Текст научной статьи по специальности «Электротехника, электронная техника, информационные технологии»

КОМПЬЮТЕРНОЕ МОДЕЛИРОВАНИЕ COMPUTER SIMULATION HISTORY

УДК 621.397

DOI 10.18413/2411-3808-2018-45-4-698-708

АППРОКСИМАЦИЯ ДОЛЕЙ ЭНЕРГИИ ФРАГМЕНТА ЗВУКОВОГО СИГНАЛА СМЕСЬЮ РАДИАЛЬНО-БАЗИСНЫХ ФУНКЦИЙ

APPROXIMATION OF FRACTIONAL OF ENERGY FOR SOUND SIGNAL FRAGMENT BY MIXTURE OF RADIAL-BASIS FUNCTIONS

С.В. Уманец S.V. Umanets

Белгородский филиал ПАО «Ростелеком», Россия, 308000, Белгород, пр. Б. Хмельницкого, 81

Belgorod branch of Public Stock Company «Rostelekom», 81 B. Khmelnitskogo Av., Belgorod, 308000, Russia

E-mail: [email protected]

Аннотация

Рассмотрен алгоритм обработки цифрового речевого сигнала. Отрезок речевого сигнала в частотной области представляется в виде долей энергии. Доли энергии рассматриваются как функция от номера частотного интервала в качестве аргумента. Формулируется задача подобрать для функции долей энергии эквивалент в виде взвешенной суммы радиально-базисных функций. Для оценки меры близости между исходной функцией и подбираемой смесью составлен функционал в виде суммы квадратов разностей. На весовые коэффициенты накладывается дополнительное ограничение, учитывающее физическую реализуемость. Параметры радиально-базисных функций и весовые коэффициенты подбирались методом сопряжённых градиентов. Выявлено, что точность аппроксимации сильно зависит от начальных значений подбираемых параметров. Предложен алгоритм для задания начального приближения, который повысил точность.

Abstract

The algorithm of digital speech signal processing is considered. The segment of the speech signal in the frequency domain is represented as fractions of energy. The fractions of energy are considered as a function from of frequency interval numbers as an argument. The problem of choosing an equivalent for function of the fractions of energy in the form of a weighted sum of radial basis functions is formulated. To estimate the measure of proximity between the initial function and the selected mixture, a functional in the form of a sum of squared differences is composed. The weight coefficients are subject to an additional restriction, taking into account the physical feasibility. Parameters of radial basis functions and weight coefficients were selected by the method of conjugate gradients. It was found that the accuracy of the approximation strongly depends on the initial values of the selected parameters. An algorithm for specifying the initial approximation, which increased the accuracy, is proposed.

Ключевые слова: доли энергии, метод сопряжённых градиентов, смесь радиально-базисных функций, смесь Гауссовых функций.

Keywords: fraction of energy, the method of conjugate gradients, a mixture of radial-basis functions, a mixture of Gaussian functions.

Введение

Одной из востребованных задач по распознаванию является построение систем голосового управления. Для успешного распознавания необходим набор признаков. Выбор признаков для описания объектов является одной из центральных задач распознавания образов. При удачном выборе исходного описания, то есть пространства признаков, задача распознавания может оказаться тривиальной, а если неудачно выбрать признаки, то дальнейшая переработка информации может оказаться очень сложной или вообще может отсутствовать решение. Ориентируясь на модели строения слухового аппарата человека [Вологдин, 2004; Алдошина, 2010], необходимо анализировать энергию звука в зависимости от частотного интервала. Речевой сигнал является нестационарным, поэтому анализ отрезков сигнала даёт большую изменчивость частотных характеристик от отрезка к отрезку. Один из способов идеализировать измерения - это сопоставить результаты наблюдения функции из определённого класса с точностью до некоторого параметра [Шлезингер, Главач, 2003]. Оценка параметров позволит судить о наблюдаемых данных. Для энергетических характеристик звука представляется целесообразным применить в качестве обобщающей функции смесь радиально-базисных функций или Гауссовых функций. В данной работе будет рассмотрена аппроксимация долей энергии фрагмента сигнала [Болдышев, Фирсова, 2011] набором нормированных радиально-базисных функций с дополнительной компонентой в виде равномерного распределения.

Постановка задачи

Фрагмент речевого сигнала х(1) после оцифровки [Солонина, Улахович, 2006] представляет собой вектор х = (х, х2,..., х^ )т (здесь Т - знак транспонирования), состоящий из значений сигнала (функция времени), которые соответствуют значениям аргумента пЛ1, т. е.

хп = х(нМ), п = 1,..., N, (1)

где Д! - интервал дискретизации по времени.

Для этого вектора трансформанта Фурье представляет собой функцию

X(а) = ±хпв] = 7—1. (2)

п=1

Областью определения этой функции является нормированная частота

— п<а<п. (3)

Имеет место и обратное преобразование

1 п

хп = — | X(®У(п—1)айа . (4)

2П —П

Отсюда можно получить равенство Парсеваля [Ильин, Садовничий, Сендов, 1985]

9 N 1 п К

И = Ё х2 = ^ Л X И2 йа = £ Бг (х), (5)

п=1 2П .

—п

где величина

=1

£ (х) = ± ЛX(а)|2йа (6)

представляет собой часть энергии отрезка сигнала, содержащейся в г-ом частотном интервале:

Я =[—а2,г —а Ма1,г ,а2,г ). (7)

Общее количество частотных интервалов равно Я. Разбиение на интервалы должно удовлетворять условию:

г =

л

1,2,..., Л, сэ1Л = 0, ПЛ = У Пг = [-ж,ж).

г=1

(8)

Отношение частей энергии отрезка сигнала к полной энергии отрезка сигнала определяет функцию долей энергии сигнала [Жиляков, 2007]:

^ (х) Л

Р (X) = ■

-, ^ (х) = £ ^ (х) •

(9)

( х) г=1

В рассматриваемой задаче функция долей энергии рассматривается как функция от номера частотного интервала при неизменном отрезке сигнала, поэтому аргумент х будет игнорироваться:

Рг = Р(г) • (10)

Задача состоит в том, чтобы из К радиально-базисных функций вида

(г-Мк )2

Вгм =

)2

■; к = 1,2,..., К;

(11)

Е <

«=1

с параметрами

и свойствами

1 <^<Я, 0<ак <

да

БгЛ > 0,г = 1,2,..., Л;к = 1,2,...,К; £БгЛ = 1,

г=1

и равномерно-распределённой составляющей, представленной константой

с = 1,

Л

составить новую функцию О от аргумента г как взвешенную сумму

К

° =Е^кБгл + аК+1с;

к=1

где К - это заданное количество компонент, ак - весовые коэффициенты.

Функция О должна быть близка к функции Рг. Мера близости определяется функ-

(12)

(13)

(14)

(15)

ционалом

р=ш - Рг )2,

(16)

представляющим собой сумму квадратов разностей между значениями функций Рг и О. На весовые коэффициенты из (14) накладываются ограничения

ак > 0 ак+1 > 0 Еак = !.

к=1

Таким образом, задачей является поиск набора числовых параметров

{а^ }= агеш1п(р).

(17)

(18)

К .^к -ак}

Чтобы учесть ограничения на весовые коэффициенты (17), есть смысл выразить их через отношения между собой через вспомогательные параметры Рк, к е [1, К +1]

еР 1

а, =

к К ■> "-К+1

Р,

1+ Е е

1+ Е

-; Рк+1 = о.

(19)

В этом случае коэффициенты ак будут гарантированно удовлетворять ограничениям (17).

2

е

2

Л

г=1

,=1

,=1

Сформулированная задача (18) относится к классу нелинейной оптимизации. Для её решения широко применяются градиентные методы [Fletcher, 1987]. Чтобы составить градиент по параметрам, надо найти частные производные функционала (16) по этим параметрам.

Частные производные имеют вид: для весовых коэффициентов

8F

8а,

= 2^(Qr -Pr)БГк

(20)

а для соответствующих вспомогательных параметров

(

8F 8F 8а,

8Рк 8ак 8Рк

R

2Z(2r - Pr B

r=1

1+Z

( к Л2 1 +

V s=1 J

(21)

после упрощения

8F

8Рк

R , ч

2£(2r -Pr)Br,kа-ак);

(22)

r=1

для параметров /лк,ak радиально-базисных функций

8F

8Mk

R

2^(Qr - рг ал*

R

(s-Mk )2 ^

r-Mk

a,2

S-Mk e 2al s=1 Ot

Z1

8F

8a,

R

2Z(Qr - Pr)aBrk

r=1

(r zMt 1

Z

s=1

Z e

s=1

(s -Mk )2

(s-Mk f 2ak

(s-Mk )2 ^

(23)

a

a

(s-Mt)

Ze

(24)

V s=1 J

По методу сопряжённых градиентов [Scales, 1985] параметры подбираются итерационно:

К,Mk,ak }+i =а,Mk,ak }■ + cKi, (25)

здесь i - номер итерации, c - постоянная положительная величина, подбираемая эмпирически [Fletcher, 1987], А - величина коррекции.

Значения параметров корректируются на величину А , умноженную на постоянный множитель. Величина коррекции А не постоянна и вычисляется на каждой итерации в зависимости от значения градиента и своего предыдущего значения

!,=-а, + ZA ; а, = ■ 8F

8К, Mk ,ak }

(26)

4 к, Ик ,^кя

где 0;+1 - это значение градиента, Z - это множитель, зависящий от предыдущего значения градиента

(о1+1—о,У(о1+1 т. ^ ,, ^ Чг

Z =

а

■; IPJI =PJ-PJT,

(27)

г+1

здесь Т - это знак транспонирования. Если оказывается, что ||Ог+1| | = 0, то принимается 2=0.

r=1

e

s=1

r=1

2 k

e

2 a¡2

Итерации совершаются, пока не выполнится условие останова i = imx или (F+i -F) < s, где s- значение задающее точность.

Вычислительный эксперимент

Для проведения вычислительного эксперимента был взят отрезок речевого сигнала звука «А», произнесенного мужским голосом. Длина отрезка N=130, частота дискретизации 8000 Гц, At=0.125 мкс. Затем было получено его спектральное представление для R=100, используя аппарат субполосных матриц [Жиляков, Белов, Прохоренко, 2007]. После нормирования была получена функция Pr. Для аппроксимации было взято K=3, с учётом рекомендаций [Хайкин, 2006]. Константа в алгоритме сопряжённых градиентов (25) взята c=2. На рис. 1 результаты вычислений. График Qr(0) - это начальное приближение, итерация i=0. Алгоритм был остановлен через i=1000 итераций и результат - это график Qr(1000). Значения параметров для начального приближения - в табл. 1, значения параметров через i=1000 итераций - в табл. 2, точность до второго знака после запятой.

Таблица 1 Table 1

Значения параметров для начального приближения _Value of parameters for initial approach_

Параметр k=l k=2 k=3 k=K+1

10 20 30

3 3 3

ßk 0.33 0.33 0.33 0

ak 0.26 0.26 0.26 0.19

Таблица 2 Table 2

Значения параметров через i=1000 итераций Value of parameters after i=1000 iterations

Параметр k=1 k=2 k=3 k=K+1

14.86 18.48 29.57

0.61 4.51 2.64

ßk 1.77 0.77 0.5 0

ak 0.54 0.2 0.15 0.09

номер частотного интервала

номер итерации

Рис. 1. Графики наблюдаемых долей энергии и их аппроксимации (слева), а также график

изменения значения функционала (справа) Fig. 1. Plots of the observed fraction of energy and approximates of them (left) and a plot of value

behavior of functional (right)

Результат эксперимента выглядит вполне удовлетворительно, однако, как выяснилось из следующего эксперимента, результат сильно зависит от начального приближения. На рис. 2 неудовлетворительные результаты эксперимента. Значения параметров для начального приближения - в табл. 3, значения параметров через i=1900 итераций -в табл. 4, точность до второго знака после запятой. Доли энергии

0.4 0.35 0.3 0.25 0.2 0.15 0.1 0.05 О

-Р

Г

.....Qr(0)

Q (1900)

JL

r

F(1900)=0.16

номер частотного интервала

номер итерации

Рис. 2. Неудовлетворительные результаты. Графики наблюдаемых долей энергии и их аппроксимации (слева), а также график изменения значения функционала (справа) Fig. 2. Unsuccessful results. Plots of the observed fraction of energy and approximates of them (left)

and a plot of value behavior of functional (right)

Таблица 3 Table 3

Значения параметров для неудачного начального приближения Value of parameters for unsuccessful initial approach

Параметр k=1 k=2 k=3 k=K+1

Мк 50 60 70

3 3 3

Рк 0.33 0.33 0.33 0

ак 0.26 0.26 0.26 0.19

Таблица 4 Table 4

Значения параметров через i=1900 итераций от неудачного начального приближения

Value of parameters after i=1900 iterations from unsuccessful initial approach

Параметр k=1 k=2 k=3 k=K+1

Vk 49.89 60 70.1

3.3 3.15 3.3

fiu -3.65 -3.68 -3.66 0

ak 0.02 0.02 0.02 0.92

Если начальное приближение задано неудачно, то алгоритм застревает в локальном минимуме и результат оказывается неадекватным.

Чтобы задать начальное приближение, был применен следующий алгоритм. Сначала у аппроксимируемой кривой долей энергии значения, меньшие 1/Я, заменяются нулями

P =

Pr, P > -

r r R

0, Pr < -rR

(28)

Ось частотных интервалов г, разделяется на необходимое количество отрезков О^,, к е [1, К\, а затем на каждом отрезке вычисляется начальное приближение параметров

М=0 =

S rP*

reQi

S Py

reQj.

17=0

1

S(r)2 P*

reQi

S Pr^

(29)

reQi

Деление на отрезки производится в соответствии с разделением значений кумулятивной функции долей энергии на К равных уровня. Кумулятивная функция Бг вычисляется по формуле

Dr =SP, r = 1,2,...,R .

s=1

(30)

На рис. 3 показано деление частотной оси на отрезки для К=3 равных уровней. Горизонтальные линии показывают разделение значения кумулятивной функции на равновеликие уровни. В местах пересечения этих линий с графиком кумулятивной функции на частотную ось опускаются вертикальные линии. Границы Ок выбираются как целые числа, ближайшие к опущенным вертикальным линиям, т.к. значения г дискретны.

D

О,

Dr

1 R

- SP*

v S r

K r=1

номер частотного интервала

Рис. 3. Деление частотной оси на отрезки для задания начального приближения Fig. 3. Division frequency axes on parts to set initial approach

Начальные приближения для весовых коэффициентов получены из решения задачи на лучшее соответствие отдельной компоненты смеси и аппроксимируемой функции. Значения ak получаются из метода наименьших квадратов.

dFh

Fk = S (akBrk - PrУ, ak = arg min (Fk)>

r=1 ak

R

S.PB

da

2S(akBr,k - Pr)Br,k = 0 ^ ak = r

r=1

(31)

k r=1

S BrkBr,k

После нормирования, с учётом ccK+1 = 1, так как ßK+1 = 0

r

k

r=1

а

а,,

li=0

K

1 +

s=1

и решения системы линейных уравнений

= а,,

yk -

Jk

-» {

1+Z

Л

s=1

s

У1

l + У1 +.. ■ + Ук

У 2

1 + У1 +.. ■ + Ук

Ук

(33)

= а

= а

2 li=0

(34)

= а

k\i=0

1 + у + ... + Ук

получаются начальные приближения для коэффициентов (Зк .

После задания начального приближения методом сопряжённых градиентов проводился подбор параметров. Результат улучшился. На рис. 4 удовлетворительные результаты предыдущего эксперимента. Значения параметров для начального приближения - в табл. 5, значения параметров через ¡=1000 итераций - в табл. 6, точность до второго знака после запятой.

0.4 0.35 0 3 0.25 0.2 0.15 0.1 0.05 О

Доли энергии

— рг

...Qr(0) ► ■ Q (1 ООО)

Ал

20 40

0.16 0.16 0.14 0.12 0.1 О 08 О 06 0.04 0.02 О

F

F(1000)—0.006

г

номер частотного интервала

номер итерации

Рис. 4. Графики наблюдаемых долей энергии и их аппроксимации (слева), а также график изменения значения функционала (справа). Начальное приближение задано отдельным алгоритмом Fig. 4. Plots of the observed fraction of energy and approximates of them (left) and a plot of value behavior of functional (right). Initial approach is set by special algorithm

Таблица 5 Table 5

Значения параметров для начального приближения, вычисленные отдельным алгоритмом Value of parameters for initial approach, calculated by special algorithm

i=0

e

r

Параметр k=1 k=2 k=3 k=K+1

Vk 14.06 15.18 23.16

1.45 0.39 5.46

Pk -0.31 -0.88 -0.63 0

аk 0.27 0.15 0.2 0.37

Таблица 6 Table 6

Значения параметров через i=1000 итераций от задания начального приближения Value of parameters after i=1000 iterations from setting initial approach

Параметр k=1 k=2 k=3 k=K+1

14.62 14.88 23.31

1.2 0.46 5.59

0.58 0.58 0.09 0

ak 0.31 0.31 0.19 0.17

Работа алгоритма была проверена и для других форм кривой долей энергии. На рис. 5-7 удовлетворительные результаты других экспериментов: фрагмент звука «С», фрагмент перехода звука «Ы» в «Х» и фрагмент шума. Алгоритм поиска начального приближения заметно способствует в получении решения задачи аппроксимации.

Доли энергии

F

F(2100)—0.004

20 40 60 80 100

номер частотного интервала

1000 1500 2000

номер итерации

Рис. 5. Граф ики наблюдаемых долей энергии и их аппроксимации (слева), а также график

изменения значения функционала (справа). Эксперимент № 2 Fig. 5. Plots of the observed fraction of energy and approximates of them (left) and a plot of value

behavior of functional (right). Experiment № 2

Доли энергии

-Pr

Qr(0) Qr{800)

20 40 60 80 100

номер частотного интервала

0.035 0.03 0.025 0.02 0.015 0.01 0.005 0

F

F(SOO)—0.002

200 400 600 800 1000

номер итерации

i

Рис. 6. Графики наблюдаемых долей энергии и их аппроксимации (слева), а также график

изменения значения функционала (справа). Эксперимент № 3 Fig. 6. Plots of the observed fraction of energy and approximates of them (left) and a plot of value behavior of functional (right). Experiment № 3

r

0.06

0.05

0.04

0.03

0.02

0.01

Доли энергии

0.03

0.025

0.02

0.015

0.01

0.005

F

F(600)=0.006

20 40 60 80 100

номер частотного интервала

100 200 300 400 500 600 700 номер итерации

Рис. 7. Графики наблюдаемых долей энергии и их аппроксимации (слева), а также график

изменения значения функционала (справа). Эксперимент № 4 Fig. 7. Plots of the observed fraction of energy and approximates of them (left) and a plot of value

behavior of functional (right). Experiment № 4

Заключение

Параметры, получаемые при аппроксимации, планируется проверить на пригодность для идентификации отрезков речевого сигнала. Ожидается, что для одинаковых звуков речи наборы параметров будут мало отличаться друг от друга, а для разных звуков речи будут давать существенную разницу.

Список литературы References

1. Алдошина И. Основы психоакустики. Подборка статей. Available at: http://www.625-net.ru (11 февраля 2010).

Aldoshina I. Osnovy psihoakustiki. Podborka statej. Available at: http://www.625-net.ru (11 February 2010). (in Russian)

2. Вологдин Э.И. 2004. Слух и восприятие звука: Учеб. пособие. СТ «Факультет ДВО»,

СПб.

Vologdin Je.I. 2004. Sluh i vosprijatie zvuka: Ucheb. posobie. ST«Fakul'tet DVO», SPb. (in Russian)

3. Ильин В.А., Садовничий В.А., Сендов Бл.Х. 1985. Математический анализ. Продолжение курса. М., Изд. МГУ. 358.

Il'in V.A., Sadovnichij V.A., Sendov Bl.Kh. 1985. Matematicheskij analiz. Prodolgenije kursa. M.: Izd. MGU. 358. (in Russian)

4. Жиляков Е.Г. 2007. Вариационные методы анализа и построения функций по эмпирическим данным: моногр. Белгород: Изд. БелГУ. 160.

Zhiljakov E.G. 2007. Variacionnye metody analiza i postroenija funkcij po jempiricheskim dannym: monogr. Belgorod: Izd. BelGU. 160. (in Russian)

5. Жиляков Е.Г., Белов С.П., Прохоренко Е.И. 2007. Методы обработки речевых данных в информационно-телекоммуникационных системах на основе частотных представлений. Белгород: Изд. БелГУ. 136.

Zhiljakov E.G., Belov S.P., Prohorenko E.I. 2007. Metody obrabotki rechevyh dannyh v informacionno-telekommunikacionnyh sistemah na osnove chastotnyh predstavlenij. Belgorod: Izd. BelGU. 136. (in Russian)

6. Жиляков Е.Г., Прохоренко Е.И., Болдышев А.В., Фирсова А.А., Фатова М.В. 2011. Сегментация речевых сигналов на основе анализа распределения энергии по частотным интервалам. Научные Ведомости БелГУ. Сер. Экономика. Информатика. 7(102): 187-196.

r

Zhiljakov E.G., Prokhorenko E.I., Boldyshev A.V., Firsova A.A. Fatova M.V. 2011. Segmentatsija rechevyh signalov na osnove analiza raspredelenija energii po chastotnym intervalam. Nauchnyje Vedomosti BelGU. Ser. Ekonomika. Informatika. 7(102): 187-196. (in Russian)

7. Жиляков Е.Г., Черноморец А.А., 2013. Об оптимальном выделении субполосных компонент изображений. Информационные системы и технологии. 1(75): 5-11.

Zhilyakov E.G., Chernomorets A.A., 2013. Optimal separation of image subband components. Informacionnye sistemy i tehnologii [Information systems and technologies] 1(75): 5-11. (in Russian)

8. Жиляков Е.Г., Черноморец А.А., Болгова Е.В. 2015. Оценивание производных дискретных функций. Научные ведомости БелГУ. Сер. Экономика. Информатика. 21(216): 96-100.

Zhilyakov E.G., Chernomorets A.A., Bolgova E.V. 2015. Ocenivanie proizvodnyh diskretnyh funkcij. Nauchnye vedomosti BelGU. Ser. Jekonomika. Informatika. 21(216): 96-100. (in Russian)

9. Загоруйко Н.Г. 1981. Методы обнаружения закономерностей. М.: Знание. 64. Zagorujko N.G. 1981. Metody obnaruzheniya zakonomernostej. M.: Znanie. 64. (in Russian)

10. Орлов А.И. 1980. Задачи оптимизации и нечёткие переменные. М.: Знание. 64. Orlov A.I. 1980. Zadachi optimizatsii i nechetkie peremennye. M.: Znanie. 64. (in Russian)

11. Протасов В.Ю., 2005. Максимумы и минимумы в геометрии. М.: МЦНМО. 56. Protasov V.Yu., 2005. Maksimumy i minimumy v geometrii. M.: MCNMO. 56. (in Russian)

12. Солонина А.И., Улахович Д.А., Арбузов С.М., Соловьева Е.Б. 2006. Основы ЦОС: Учеб. пособие. Государственный университет телекоммуникаций им. проф. М.А. Бонч-Бруевича, 747.

Solonina A.I., Ulahovich D.A., Arbuzov S.M., Solov'eva E.B. 2006. Osnovy COS: Ucheb. posobie. Gosudarstvennyj universitet telekommunikacij im. prof. M.A. Bonch-Bruevicha, 747. (in Russian)

13. Хайкин Саймон, 2006. Нейронные сети: полный курс, 2е издание. Пер. с англ. М. Издательский дом «Вильямс». 1104.

Hajkin Sajmon, 2006. Nejronnye seti: polnyj kurs, 2e izdanie. Per. s angl. M. Izdatel'skij dom «Vil'jams». 1104. (in Russian)

14. Черноморец А.А., Болгова Е.В., Черноморец Д.А. 2015. Обобщенный субполосный анализ на основе унитарных преобразований. Научные ведомости БелГУ. Сер. Экономика. Информатика. 7(204): 97-104.

Chernomorets A.A., Bolgova E.V., Chernomorets D.A. 2015. Obobshhennyj subpolosnyj analiz na osnove unitarnyh preobrazovanij. Nauchnye vedomosti BelGU. Ser. Jekonomika. Informatika. 7(204): 97-104. (in Russian)

15. Черноморец А.А., Коваленко А.Н., Петина М.А. 2017. О применении нейронных сетей для решения дифференциальных уравнений в частных производных. Научные ведомости БелГУ. Сер. Экономика. Информатика. 9(258): 103-110.

Chernomorets A.A., Kovalenko A.N., Petina M.A. 2017. O primenenii nejronnykh setej dlja htshenija differentsialnykh uravnenij v chastnykh proizvodnykh. Nauchnye vedomosti BelGU. Ser. Jekonomika. Informatika. 9(258): 103-110. (in Russian)

16. Шлезингер М.А., Главач Вацлав, 2003. Десять лекций по статистическому и структурному распознаванию образов. Киев, Национальная Академия наук. 554.

Schlesinger M.A., Glavach Vatslav, 2003. Desjat lektsyj po statisticheskomu i strukturnomu raspoznavaniju obrazov. Kiev, Nacionalnaja Akademija nauk. 554. (in Russian)

17. Fletcher R., 1987. Practical Methods of Optimization. John Wiley and Sons.

18. Nelder J.A., Mead R. 1965. A Simplex Method for Function Minimization. Computer J. 7: 308-313.

19. Scales L.E., 1985. Introduction to NonLinear Optimization, New York, Springer Verlag.

20. Shanno D.F. 1970. Conditioning of Quasi-Newton Methods for Function Minimization. Mathematics of Computing, 24: 647-656.