Базовое пространство нейронных алгоритмов Текст научной статьи по специальности «Математика»

Секция вычислительной техники

УДК 007.52

Ю.В. Чернухин

БАЗОВОЕ ПРОСТРАНСТВО НЕЙРОННЫХ АЛГОРИТМОВ1

Как известно, нейронные алгоритмы лежат в основе синтеза нейрокомпьютеров (НК) [1]. Нейрокомпьютеры, в свою очередь, существенно отличаются от тра-. , программирования и характера решаемых задач.

, -, , -значены для решения неформализованных задач и, прежде всего, задач распозна-.

, -

.

блоки, как процессоры, память, шины, периферийные устройства и т.п., то архитектура НК однородна и базируется на одном или нескольких типах искусственных нейронов - нейроэлементов.

В настоящее время наибольшее распространение получили нейроэлементы динамического и формально-логического типа. Это элементы динамического, разностного, суммирующего, бинарного, формального и других нейронов. Рассмотрим области определения алгоритмов этих нейронов и покажем, что все они являются фрагментами некоторого обобщенного базового пространства, построенного на основе четырехмерной области определения алгоритма разностного нейрона.

, -

щем виде [2]:

N

Уу = - аумУг + - 0Уг;

¡=1

У1 = ум + Ууь (1)

/У = тах {0, у1У1} ,

где Уу1 - приращение функции возбуждения у1 нейрона в момент дискретного времени Ъ, представленное в виде восходящей разности; а - параметр инерционности нейроэлемента; У1 = (^ - 11-1) - приращение (шаг) дискретного времени ^, представленное также в виде восходящей разности; ^ - синаптический вес ¡-го входа ней-

роэлемента; Х|(1-1)У1 - приращение входных воздействий, поступающих на ¡-й вход

1

РФ (грант №Е00-2.0-51)

нейроэлемента в момент времени Ъ_ь 0 - порог нейроэлемента; ZjVt - приращение выходной величины нейрона; max {0, yV} - выходная квазилинейная активационная функция нейроэлемента. 1

Как известно [3], на устойчивость разностного алгоритма (1) влияют значения параметра 0 < а < 1 и шага 0 < Vt < 1. По этой причине можно считать, что вместе с допустимыми значениями входных x и выходных z величин допустимые значе-а Vt ,

(1). , , -тивационной функции области изменений x и z совпадают, так как принадлежат одному и тому же замкнутому интервалу [0,1] (0 < x,z < 1), их можно объединить и обозначить одним ортом. Тогда четырехмерную область определения рассматриваемого алгоритма можно представить в виде трехмерного куба, показанного на .1.

В то же время следует подчеркнуть, что в данном кубе собственно области (1) . , принадлежащие его верхней, нижней, левой и правой граням, необходимо из этой . , должны выполняться строгие неравенства: 0 < а < 1, 0 < У1 < 1.

, (1)

аппроксимацией алгоритма динамического нейрона, который имеет следующий :

N

¿уО) = - ау(1;)Л + ^¡х^Л - 0&;

¡=1

2(1;)& = тах{0, у(1;)&}; (2)

1

0 < а < 1; У1 = & ^ 0; 0 < 2,х < 1.

, (2) нижняя грань куба (рис.2), поскольку при 0 < а < 1 приращения У1 = & ^ 0.

Рассмотрим теперь алгоритм нейрона с пространственно-временной сумма.

N

Vyi = ^YjXj(i-1)Vt - 0Vt; j=1

1 -1 N

ZiVt = max {0, (YjXjr - 0)Vt}; (3)

1 Г=0 j=1

а = 0; 0 < Vt < 1; 0 < z,x < 1.

Ввиду того, что в данном случае значения шага Vt должны принадлежать разомкнутому интервалу 0 < Vt < 1, а параметр инерционности отсутствует, т.е. а = 0, области определения алгоритма (3) будет соответствовать лишь левая грань ( . 3) , Vt =1, Vt =0

.

Для других известных алгоритмов обработки информации в нервных клетках .

Алгоритм суммирующего нейрона:

N

УУ, = - Ум + - 0;

1=1

N

ъ = Л^) - 0;

1=1

а = 1; У = 1; 0 < ъ, х < 1.

Алгоритм суммирующего нейрона: N

уу,=- у,-1 + ^ухкн) - 0;

1=1

N

ъ, = Х'ЯХ.К,-!) - 0; (4)

1=1

а = 1; VI = 1; 0 < ъ, х < 1.

(4)

(4)

Алгоритм формального нейрона:

N

уУі=- У1-1+ - 0;

1=1

N

ъ, = 8і§п[ ^ух— 0]; (5)

1=1

а = 1; VI = 1; ъ, х є {0, 1}.

Алгоритм логического нейрона:

N

ъ, = (V Уі&Х|(і-1) )& VI; (6)

1=1

а = 1; ъ, у, х, VI є {0, 1}.

Алгоритм формального нейрона с временной суммацией:

i -1 N

Zi = sign [ ^ - 0]; (7)

r=0 j=1

a = 0; Vt = 1; z, x є {0, 1}.

V1

x, z

Pnc.7

a

Алгоритм суммирующего нейрона с пространственно-временной суммацией: i-1 N

Zi = max {0, YLYjXjr - 0}; (8)

* r=0 j=1

a = 0; Vt = 1, 0 < z < 1, 0 < x < 1.

Объединяя изображенные на рис.1 - 8 области определения рассмотренных

, ,

на рис.9.

3. Нейрон с пространственно-временной суммацией (боковая левая грань куба)

7. Формальный нейрон с временной суммацией (^айние точки верхнего левого ребра куба)

8. Суммирующий нейрон с пространсвенно-временной суммацией (верхнее левое ребро куба)

1. ( )

2. Динамический нейрон (предел нижней грани куба)

4. Суммирующий нейрон (верхнее правое ребро куба)

5. Формальный нейрон (

правого ребра куба)

6. Логический нейрон (угловые точки правой грани куба)

Рис.9

Из рис.9 следует, что если область определения алгоритма (1) расширить за счет верхней, нижней, левой и правой граней куба, т.е. представить ее в виде нестрогих неравенств

0 = а = 1, 0 = Vt = 1, 0 = x,z = 1,

то этот алгоритм приобретет свойства обобщенного алгоритма, который при соответствующих значениях входящих в него параметров трансформируется в рассмотренные алгоритмы динамических и формально-логических нейронов.

, , а, -

щий смысл величины, обратной постоянной времени дифференциального уравнения в алгоритме (2), стал переменным, а также стал переменным шаг Vt, то он приобретет дополнительные свойства, а именно, свойства нейронного метаалго-,

нервных клетках в процессе онтогенеза. Этот метаалгоритм может быть представлен в следующем виде:

а1 = а1-1 + Vo N

Vyi = - (аум - Х^(1-1) + 0)Vti; j=1

yi = yi-1 + Vyi; (9)

Vt1+i = Vti + 5t;

ziVti+1 = max {0, yiVti+1},

i

где 5t - квант дискретного времени ti.

Ранее идея использования переменных значений параметра инерционности о1 была применена при синтезе алгоритма цифрового нейропроцессора [4], а идея Vti -

ропроцессорных ансамблей динамического типа [5]. В то же время, из структуры полученного в данной работе обобщенного базового пространства нейронных ал-

(9) ,

этих идей в одном алгоритме, например в алгоритме цифрового нейропроцессора, позволит создавать более совершенные нейропроцессорные устройства, обладающие свойствами воспроизведения не только процессов обработки информации в , .

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Уоссермен Ф. Нейрокомпьютерная техника. М.: Мир, 1992.

2. Чернухин Ю.В. Нейропроцессорные сети. Таганрог: Изд-во ТРТУ, 1999.

3. Чернухин ЮМ. Искусственный интеллект и нейрокомпьютеры. Таганрог: Изд-во ТРТУ, 1999.

4. Чернухин ЮМ. Нейропроцессоры. Таганрог: ТРТУ, 1994.

5. Чернухин ЮМ. Нейропроцессорные ансамбли. Таганрог: ТРТУ, 1995.