Решение задач оптимизации надежности аппаратурно-избыточных отказоустойчивых однородных искусственных нейронных сетей Текст научной статьи по специальности «Математика»

АВТОМАТИКА, УПРАВЛЕНИЕ И ТЕХНИЧЕСКАЯ КИБЕРНЕТИКА

УДК 004.052.3

РЕШЕНИЕ ЗАДАЧ ОПТИМИЗАЦИИ НАДЕЖНОСТИ АППАРАТУРНО-ИЗБЫТОЧНЫХ ОТКАЗОУСТОЙЧИВЫХ ОДНОРОДНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ

© 2005 г. И.В. Потапов

Объектом исследования является адаптивная к отказам нейронов аппаратурно-избыточная структурно-однородная искусственная нейронная сеть (ИНС) SA [1], состоящая из основного и резервного блоков искусственных нейронов (ИН), которые соответственно разбиты на q (9>1) групп по п1,п2,...,пч (ni > 1)

элементов в группах основного блока и 52,...,> 0) элементов в группах резервного

блока, причем замена отказавших нейронов в /-й группе основного блока ИНС осуществляется сразу после возникновения отказа только нейронами из соответствующей /-й группы резервного блока ИН сети SA (статическое резервирование). Поток отказов в /-й группе основного блока нейронов ИНС есть неоднородный пуассоновский процесс с интенсивностью 1</<9; элементам (искусственным нейронам) резервного блока ИНС соответствует интенсивность отказов А0(/). Элементы /-й группы восстанавливаются после отказа с интенсивностью ц,(0, 1</<9. Нейронная сеть SA адаптируется к отказам и продолжает функционировать до тех пор, пока не будет израсходован весь запас аппаратурно-логической избыточности.

Обозначим: п = (п/) - вектор основных элементов; 5 = ) - вектор резервирования; ) = (X / (/)) +1 - вектор интенсивностей отказов; ) = (ц / (/)) - вектор интенсивностей восстановления; Р[5; ^ - вероятность безотказной работы нейронной сети в течение времени /; Т [ 5] - среднее время «жизни» ИНС.

Обозначим целочисленное множество

- 9

S(т) = {5 | £ = т; > 0}.

/=1

Отказоустойчивая ИНС рассматриваемого типа

5'а[9, п, 5,1(0,д(0] •

В работе рассматриваются следующие задачи оптимизации надежности ИНС.

Задача 1. Вычислить вектор резервирования s, максимизирующий вероятность безотказной работы P [s ; t f ] нейронной сети SA в течение времени tf при

заданных ограничениях на параметры и условия работы ИНС SA:

|P [s; tf ] ^ max, [ s e S(m).

Задача 2. Вычислить вектор резервирования s, максимизирующий среднее время жизни T[s] нейронной сети SA при заданных ограничениях:

I T [ s] ^ max, [ s e S(m).

Задача 3. Вычислить вектор интенсивностей восстановления ^(t), минимизирующий стоимость восстановления после отказа ИНС SA в течение заданного времени tf при заданной гарантированной надежности:

U[ц] =} с (t) ц (t) dt ^ min;

о

Р[~Ц; tf ] > d, 0 < d < 1,

где с(() = (с/(/)) - заданная вектор функция, моделирующая удельную стоимость восстановления в /-й группе; ё - заданное число.

Будем рассматривать нейронную сеть ''А как управляемую динамическую систему с фазовым вектором Р(Г) = (ро(/),р^О,...,Рт(0), где рк(/) - вероятность того, что к моменту времени t в ИНС 'А произошло к отказов. Поведение ИНС 'А описывается дифференциальными уравнениями Колмогорова-Чепмена

P'(t) = DSa [s, 1 (t)^(t)]P(t)

с начальными условиями P(0) = (1,0,0,...,0).

t

P(t) - вектор-столбец, а матрица D Sa [s, 1 (t),ц(t)] определяется следующим образом:

M1 Ц 0 . . . 0 0 0

A1 M 2 Ц . . . 0 0 0

0 A2 M 3 . . . 0 0 0

DS =

SA

0 0 0 0 0 0

Am-1 Mm Ц

0 Am M m+1

где коэффициенты Ak, Mk вычисляются по следующей схеме:

f n + m A 1 q fn + s. A

k

где

Rk =

_ X П j + S:

En

j=1

Q(k,s) = <|v| Evt = k; 0 <vt < st ; j=i

5 j =

0 j (k) =

0, если si = 0,

1, если si = 1;

0, если k < si,

a j (k) =

1, если k > sj +1; (m - k + 1)Rk при j = 0,

5 ,n,Rk

при 1 < i < q;

ß - (k) =

(m - k + 1)Rk при i = 0, 5 jniRk + пг0 j (k) при 1 < i < q;

{z0,z1,...,zm} - спектр матрицы dsa ; |гогк;zlik zm -lik} - спектр матрицы Dik - главного минора матрицы DSa .

Из (2) следует выражение для среднего времени

жизни рассматриваемой искусственной нейронной сети

_ ____mm 1 m

T[s, ц] = J P[s, ц; t] dt = E E T-rE b jikPi (0).

0 k =0 j=0 Zj i=0

Таким образом, задачи 1 и 2 являются задачами нелинейного целочисленного программирования, так как S (m) есть множество целочисленных точек части q-мерной гиперплоскости s 1 + s 2 + ... + sq = m , лежащей в первом октанте.

Детализированные алгоритмы решения этих двух задач для ИНС SA с однородным пуассоновскими потоками отказов и восстановления элементов нейронной сети дано в работе [2] путем полного перебора вариантов резервирования.

Решение задач 1 и 2, доведенное до численных алгоритмов, для невосстанавливаемых «стареющих» ИНС SA с неоднородными пуассоновскими потоками отказов нейронов, у которых интенсивности отказов нейронов в основных и резервных q группах сети 1 i (tconst, а является возрастающей функцией

времени, дано в [3].

В этом случае система уравнений (1) решается методом дискретизации путем замены функций 1 i (t)

специально подобранными кусочно-постоянными функциями.

Для задачи 3 уравнение (1) перепишем в виде

P ' (t ) = (Q + цН) P (t),

(3)

ß-(m +1) = 5гпг, p = E Ц(t);

j=1

Ak = E a j- (k)X j- (t), 1 < k < m;

j=0

Dk =E ß - (k)*• - (t), 1 < k < m +1;

Mk =

- D1 при k = 1, -(Dk + p) при 2 < k < m + 1.

С учетом (1) и вышеприведенных формул для 1 i (t) = const, ц i (t) = const получим

P[s,p, t] = E Pk (t) = E E

k=0 k=0 У=0

где

E by-kPj (0)

exp(z ,t ),(2)

1 = (-1)

m -1

П (z; - zi-k) j+k j=0_.

m

П(Zy - Zi)

l =0 l * 1

где Q = E Qi (t), а матрицы Qi и H определяются

i =0

следующим образом:

Qj =

-ß j (1) 0 0 0 0

a j ß j (2) 0 0 0

0 a j (2) -ß j (3) • 0 0

0 0 0 • -ß j (m) 0

0 0 0 • aj (m) -ß j (m +1)

0 1 0 0 • • 0 0 0

0 -1 1 0 • • 0 0 0

0 0 -1 1 • • 0 0 0

H =

11 —

0 0 0 0 • • 0 -1 1

0 0 0 0 • • 0 0 -1

Задача 3 - это типичная задача оптимального управления. Для уравнения (3) она рассматривалась в [4, 5] при условии нелинейной правой части по Р () и в работе [6] при условии постоянных матриц Qi и Н и линейной правой части по Р () только для случая

т = 2, причем функционал качества содержал фазовые координаты. В этих работах задача 3 решалась классическим методом Понтрягина.

Используя специальный вид матриц Q, Н и независимость функционала и [д] от фазовых координат в [3], нами предложен метод локальных вариаций, реализуемый алгоритмически [1] и удобный для реализации на ПЭВМ.

Для структурно-однородной искусственной нейронной сети с динамическим резервированием [1], которую обозначим 8В [д, п, 5, ), т], т.е. для такой ИНС, в процессе работы которой вектор резервирования 5 в зависимости от вида и места отказов ИН целенаправленно изменяется и производится перераспределение резервных искусственных нейронов между д группами, сформированными перед началом работы ИНС БВ, рассматриваются следующие две задачи оптимизации функциональной надежности сети £В.

Задача 4. Вычислить последовательность векторов резервирования 5 ° = ( °ш, 5 2ш >•••> ) 0 < ю < ^

максимизирующих вероятность безотказной работы ИНС 8В последовательно в заданные моменты настройки т 1, т2,--, т 1 , ( > 1), т0 = 0, и в заданный момент времени , > т 1.

Задача 5. Определить количество настроек I (> Ь), нейронной сети Бв, последовательность

(т1, т2,-., т 1) моментов настройки и последовательность векторов резервирования 5Ю =((,5°ю,•..,50ю),

отвечающих моментам настройки т ю, 1 < ю < I, таким образом, чтобы вероятность безотказной работы ИНС БВ в момент настройки и в момент времени (^, (^ > т 1 были последовательно максимальными.

Получить точное решение задач 4 и 5 не представляется возможным. Поэтому для их приближённого решения можно воспользоваться методом дискретизации, которым были решены аналогичные задачи 1 и 2 для ИНС со статическим резервированием [7].

В отличие от указанных задач 1 и 2, при решении задач 4 и 5 используется множество

Sш (m)=1 5

É sm = m -i =1

É кРкш (Тш )

к=0

> 01

где Е кркю (тю) - математическое ожидание случай-

к=0

ной величины п (тю) = 0,1,2,...,т, определяющей количество ИН, отказавших к моменту времени т ю в нейронной сети БВ; ркю (тю) - вероятность нахождения ИНС БВ в момент времени тю в состоянии с к отказавшими ИН. При этом

т

Е Ркю (тю ) = 1

к=0

Приближённое решение задач 4 и 5, с учётом базового алгоритма [7], доведённое до детализированных численных алгоритмов, удобных для реализации на современных ПЭВМ, дано в [8].

Литература

1. Потапов В.И., Потапов И.В. Теоретические основы диагностики и оптимизации надёжности искусственных нейронных сетей. Омск, 2004.

2. Потапов И.В. Решение задачи оптимального резервирования однородной адаптивной искусственной нейронной сети с замещением отказавших нейронов резервными при пуассоновском потоке отказов // Омский науч. вестн. 2002. Вып. 20. С. 143-146.

3. Потапов В.И., Потапов И.В. Оптимизация функциональной надёжности избыточной, восстанавливаемой после отказов нейронов, «стареющей» искусственной нейронной сети // Информационные технологии. 2004. № 12. С. 19-26.

4. Брайсон А., Хо Ю-Ши. Прикладная теория оптимального управления. М., 1972.

5. Флеминг У., Ришел Р. Оптимальное управление детерминированными и стохастическими системами. М., 1978.

6. Федоренко Р.П. Приближенное решение задачи оптимального управления. М., 1978.

7. Потапов В.И., Потапов И.В. Новые задачи оптимизации функциональной надежности искусственных нейронных сетей с замещением отказавших нейронов резервными // Докл. АН ВШ России. 2003. № 1. С. 39-43.

8. Потапов В.И., Потапов И.В. Оптимизация функциональной надежности «стареющих» искусственных нейронных сетей нейрокомпьютеров с динамическим резервированием // Докл. АН ВШ России. 2004. №3. С. 76-81.

Омский государственный технический университет

6 июня 2005 г.