Математическая модель адаптивной искусственной нейронной сети с замещением отказавших нейронов резервными Текст научной статьи по специальности «Компьютерные и информационные науки»

ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ, АВТОМАТИЗИРОВАННЫЕ СИСТЕМЫ УПРАВЛЕНИЯ

в и ПОТАПОВ МАТЕМАТИЧЕСКАЯ МОДЕЛЬ

И. В. ПОТАПОВ

Омский государственный технический университет

УДК 681.3+681.5:519.711.3+

АДАПТИВНОИ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ С ЗАМЕЩЕНИЕМ ОТКАЗАВШИХ

РАССМАТРИВАЕТСЯ МАТЕМАТИЧЕСКАЯ МОДЕЛЬ АДАПТИВНОИ К ОТКАЗАМ НЕЙРОНОВ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ С ЗАМЕЩЕНИЕМ ОТКАЗАВШИХ НЕЙРОНОВ РЕЗЕРВНЫМИ. ИССЛЕДУЮТСЯ НЕЙРОННЫЕ СИСТЕМЫ БЕЗ ВОССТАНОВЛЕНИЯ И С ВОССТАНОВЛЕНИЕМ ОТКАЗАВШИХ НЕЙРОНОВ. ПОКАЗАНО, ЧТО ЗАДАЧИ ВЫБОРА НАИЛУЧШЕЙ, С ТОЧКИ ЗРЕНИЯ ВЕРОЯТНОСТИ БЕЗОТКАЗНОЙ РАБОТЫ И СРЕДНЕГО ВРЕМЕНИ ЖИЗНИ НЕЙРОННОЙ СЕТИ, СВОДИТСЯ К ЗАДАЧЕ ЦЕЛОЧИСЛЕННОГО ПРОГРАММИРОВАНИЯ.

Рассматривается многослойная многовыходная структурно однородная искусственная нейронная сеть (ИНС), состоящая из п основных и ш резервных (п+т = а) блоков (столбцов нейронов), разбитых на ц групп по

основных и ^ = — резервных столбцов нейронов в каждой

Я

группе (рис. 1). Замещение основных столбцов с отказавшими нейронами резервными столбцами нейронов возможно только внутри каждой (/-группы.

Поиск отказавшего нейрона производится системой контроля и переключения с помощью достаточно простого диагностического теста, который нетрудно составить, используя методику, изложенную в [1,2]. Тест конструируется так, что в процессе его проведения единичный сигнал появляется на выходе только у отказавшего в столбце нейрона. По этому сигналу с помощью переключателей производится отключение столбца с отказавшим нейро-

ном и включение резервного столбца путем соответствующего переключения межнейронных связей отключаемого столбца с соседними столбцами нейронов, а также входных и выходных цепей у всех нейронов, расположенных со стороны столбцов резерва от отключаемого столбца. При повторных отказах нейронов в основных столбцах данной ^-группы все переключения осуществляются аналогично и вместо столбца с отказавшим нейроном подключается новый столбец из числа, входящих в состав резерва этой группы.

Очевидно, что принятая система включения скользящего резерва не использует всех потенциальных возможностей повышения функциональной надежности адаптивной ИНС за счет избыточных столбцов нейронов. Однако диагностический тест и алгоритм включения резерва являются достаточно простыми, занимают мало времени и объема памяти, а сама адаптивная ИНС требует при этом относительно небольшое количество дополнительного оборудования, в частности, переключающих устройств.

Рис. 1. Адаптивная однородная нейронная сеть £л(л,т,$) О - ИН основных блоков, ^ - ИН основных блоков, ф - отказавший нейрон, (л) - переключатели.

С технической точки зрения каждый переключатель представляет собой многоканальную систему с несколькими входами и одним выходом либо с одним входом и несколькими выходами. То есть роль переключателя выполняет искусственный нейрон (ИН) без пресинапти-ческого взаимодействия с переменными весами входов. В связи с этим под отказом переключателя будем понимать отказ одного из каналов передачи информации, считая в первом случае выход, а во втором случае вход переключателя абсолютно надежными. Очевидно, что отказ канала передачи информации в переключателе может быть выявлен с помощью простой системы контроля и переключения. Устранение действия этого отказа достигается путем переключения на работоспособный канал, то есть путем отключения основного блока, связанного с отказавшим каналом, и включения вместо него резервного блока.

В дальнейшем будем считать, что все элементы исследуемой ИНС имеют конечную надежность, поток отказов элементов является простейшим с параметром Я, отказы работающих функциональных блоков и переключателей обнаруживаются с помощью диагностического теста системой контроля и переключения сразу же после их возникновения, а время подключения резервного блока вместо отказавшего или соответствующего отказавшего канала передачи информации переключателя равно нулю. Отказы в резервных блоках, не включенных еще в состав рабочей структуры, не обнаруживаются системой контроля и перестройки и не приводят к их переключению, однако они уменьшают ресурс надежности адаптивной ИНС. Отказ устройства контроля и переключения не вызывает немедленного отказа системы, но послё его появления последующий отказ любого рабочего блока в любой ^-группе или переключателя приводит к проявлению отказа на выходе нейронной сети.

Для упрощения математической модели рассматриваемой адаптивной ИНС, которую обозначим ^(п, и получения удобных для машинного моделирования выражений будем полагать, что замещение отказавших основных блоков резервными внутри каждой <?-группы происходит мгновенно сразу же после возникновения отказа, а вероятность отказа системы контроля и переключения много меньше, чем вероятность отказа основных элементов ИНС, поэтому данным параметром в дальнейшем можно пренебречь, хотя при необходимости учесть его не сложно.

Обозначим через Е( {к- 0,1,..., неработоспособное состояние рассматриваемой ИНС ^ [п,т,з) с к отказав-

шими блоками; Ег (г = т +1) - поглощающее состояние системы, т.е. состояние "гибели" ИНС; Я - интенсивность отказов нейронов системы; А4Я (1<££т) - интенсивность переходов системы из состояния Е4_, в состояние Е^ ; ВД.Я (1 < к < т +1)- интенсивность переходов системы из состояния Е,_, в состояние "гибели" Ег; />,(<) (Ойк <т +1) - вероятность нахождения системы в момент времени / в состоянии Е, .

С учетом сделанных предположений и обозначений система дифференциальных уравнений, описывающих поведение рассматриваемой адаптивной ИНС, принимает вид

А = 1,2,...,/и (1)

м+1

/>;(/)=£ я,яр,-,(')+/>,(').

*=I

с начальными условиями

р«(о)=1. л(о)=рг(о)= - = р„1+1(о)=о,

где

£>1=А, +Bi: к = 1,2,...,m

I =

Коэффициенты интенсивностей переходов рассматриваемой адаптивной ИНС определяются выражениями

At =ut(a-k + \), к = \,2,...,т, Bt = hkb, * = 1,2,...,ш,

где ик -отношение числа возможных попаданий SA(n,m,s) -нейронной системы в состояние Et к числу возможных попаданий 5Л (п,т,т) - системы в это же состояние, а величина^ -к + 1) Я есть интенсивность переходов SA(/i,m,m)-системы из состояния Е,ч в состояние Ек. Очевидно, что

и*=(с;)" I C^cl- c: / = 1,2,..., ш (2)

ieCl(i)

где х = (х,,л2,...,д:9) - целочисленный вектор, а

П(*)= + л, +■■■ + *,= V/ 0 < s J} .

Отсюда следует, что для 1 < к < .$ ик= 1.

Физический смысл диофантова уравнения х, + .г, + • ■ + *, =к с ограничениями 05л, <5 1 = 1,2,...,$, по всем решениям которого производится суммирование в формуле (2), следующий. В рассматриваемой модели ИНС к отказов нейронов распределены следу-

ющим образом. В первой группе ИН - х1 отказов, во второй группе - л, отказов и т.д., в<?-й группе - * отказов. Если х.=0, то в (' -й группе отказов не было.

Числа Ик определяются следующим образом:

Л(0)=1. а(О)=Л(О)=

'' = Р„,

,(о)=о.

V

0,

1, 2,

1 5 к <, s, s+\Sk<2s, 2s + \Zk<3s,

(q-l)s + ]<k<qs = i

Воспользовавшись известным приемом [3], получаем выражения для вероятности безотказной работы

„, ,+1 ПА,

Р,а(,.....,,(') = ехр(-ОЯ/)+£ £ -ехр(-ДЛ<) (3)

и среднего времени жизни рассматриваемой адаптивнои ИНС

— + У у -£1-

и, *=, м DYKDj-D,)

(4)

Сложность формул (3) и (4) не оставляет каких-либо надежд на аналитические исследования. Для машинного же анализа подобных адаптивных ИНС с целью оптимизации надежностных характеристик Р¿.д(„.,„_,)(/) и <»■»•') при заданных ограничениях и диапазонах изменения параметров нейронной сети n,m,q,X данная задача сводится к задаче целочисленного программирования.

В развитие рассматриваемой модели адаптивной ИНС с замещением отказавших блоков резервными будем полагать, что в узлах структурно однородной нейронной сети (рис.1) расположены одновыходные мини-сети ИН (например, двухранговые), логически стабильные в диапазоне {тн (/■,/)} v= I,2,..., т одновременного изменения порогов у нейронов мини-сети [4,5]. Очевидно, что в такой структуре отказавшие блоки после (мини-сети) замещения их резервными могут восстанавливаться с интенсивностью ц . После восстановления отказавшие блоки включаются в работу. Для простоты будем считать, что fj = const.

Тогда систему уравнений Колмогорова-Ченмена, описывающую поведение адаптивной ИНС с восстановлением, которую обозначим SA(/i,m,s) , можно записать в следующем виде

pa{t) = -d,A/7o(/)+^,(0.

А = 1,2.....т-\

р'Л') = А„Я />„„, (г)- {D„_tA + м)р„, ('),

им

р'Л0=Z Ma-.(<)+/>,(').

с начальными условиями

(5)

Решение системы уравнений (5) зависит от спектра матрицы , которая является якобиева и все ее собственные значения действительные и отрицательные [6].

0 0

о о

0 о

0 0

Агд =

М, 0 0

А, м2 V 0

0 А2 м, и

0 0 А, м

0 0 0 0

0 0 0 0

о

м„ А.,

М„

Обозначим спектр матрицы в порядке убывания через {20,Х,,...,Хи}. Тогда решением системы дифференциальных уравнений (5), как следует из [7,8], будут функции

л (0=1

у=о

0 <к<т

I Ьтр,(0)

*рЫ

п

где — П Ь-2,)

Г-0

а - спектр матрицы - главного

минора матрицы , полученного из матрицы/)5л вычеркиванием -й строки и к-го столбца. Очевидно, что матрицы Ол либо трехдиагональные, либо треугольные.

Из сказанного следует, что вероятность безотказной работы адаптивной ИНС с восстановлением вычисляется по формуле

Д)

;)(')=! Р>(>) , к=0

а среднее время жизни рассматриваемой адаптивной ИНС, как следует из [6], определяется следующим образом

А, мг 0 0 0

0 А2 М, р 0 0

0 0 А, М< 0 0

0 0 0 0 А.-, м.

0 0 0 0 0 А,

м, м 0 0 0 0

А, м, и 0 0 0

0 А2 м, 0 0

0 0 А, М, 0 0

0 0 0 0 A„-i м„ и

0 0 0 0 0 А„,

Очевидно, что задачи выбора наилучшей в смысле максимизации вероятности безотказной работы к заданному моменту времени !г и среднего времени "жизни" восстанавливаемой 5д(я,т,1) - нейронной

системы, как и в случае не восстанавливаемой ^(н./н,.$) -системы, свелись к задаче целочисленного программирования. При этом решение задачи оптимального резервирования однородной искусственной нейронной сети сводится к вычислению целочисленного вектора $ = (г,, ,...,.?,), лежащего в гиперплоскости 5, + • + =т с выделенной областью 5, > 0, > 0, ->0, максимизирующего в одном случае функционал РХл(я.,„.;)('/), а в другом случае функционал Т^Ди./н.-у). Решение последней задачи требует достаточно большого машинного времени, т.к. о функционале ТЛ. (л.т,^) априори ничего нельзя сказать.

Литература

1. Потапов В.И., Пальянов И.А. Построение проверяющих тестов для пороговых элементов. // Изв. АН СССР, Техническая кибернетика. -1973. -№ 4-С. 140-147.

2. Потапов В.И. Пальянов И.А. Диагностика неисправностей пороговых элементов.// Изв. СО АН СССР. Сер. технических наук. - 1976. - Вып.2. - № 8 - С. 126-133.

3. Козлов Б.А., Ушаков И.А. Справочник по расчету надежности аппаратуры радиоэлектроники и автоматики.-М.:Сов.радио, 1975- 472 с.

4. Потапов И. В. Синтез оптимизированных логически стабильных искусственных нейронных сетей, адаптивных к отказам нейронов/Омский гос.техн.ун-т. -Омск, -2001. - 14с. -Деп. В ВИНИТИ. 21.09.2001, № 2014.

5. Потапов В.И., Потапов И.В. Вероятная модель функционирования избыточной адаптивной искусственной нейронной сети// Доклады Сибирского отделения Академии наук высшей школы. - 2001. - № 2 (4). -С. 76-82.

6. Козлов Б.А. Резервирование с восстановлением. -М.: Сов.радио, 1969. - 150 с.

7. Диткин В.А., Прудников А.П. Интегральные преобразования и операционное исчисление. - М.: Наука, 1974.-542 с.

8. Мишина А.П., Проскуряков И В. Высшая алгебра. -М.:Наука, 1965.-300 с.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информационно-вычислительной техники.

ПОТАПОВ Илья Викторович, аспирант кафедры информационно-вычислительной техники.

М. В. ГЕТТИХ

Сибирская государственная автомобильно-дорожная академия

УДК 658.5.011.56+657.24

АВТОМАТИЗАЦИЯ

ДОКУМЕТООБОРОТА

ПРЕДПРИЯТИЯХ

ТЕНДЕНЦИИ РАЗВИТИЯ_

НА ПРИМЕРЕ КРУПНЕЙШИХ ПРЕДПРИЯТИЙ ХАНТЫ-МАНСИЙСКОГО АВТОНОМНОГО ОКРУГА РАССМОТРЕНЫ АВТОМАТИЗИРОВАННЫЕ СИСТЕМЫ ДОКУМЕНТООБОРОТА И ОБОЗНАЧЕНЫ ТЕНДЕНЦИИ ИХ РАЗВИТИЯ.

С появлением персональных компьютеров началась эпоха автоматизации труда работников бухгалтерии, отдела кадров, специалистов-инженеров и т.д.

Причем основной упор делается именно на автоматизацию труда работников бухгалтерии, как наиболее востребованной и легко поддающейся формализации области деятельности. С каждым годом количество разрабатываемых и автоматизированных рабочих мест неуклонно возрастает. История развития вычислительной техники характеризуется необычайно высокими темпами прогресса. Разница между производительностью процессора Intel 80386, применяемого в компьютерах IBM PC в конце 80-х годов, и процессоров Intel Pentium II (III,IV), устанавливаемых в современных компьютерах, составляет десятки и сотни раз. Также резко возросла производительность средств связи:

• модемов с 2.4 Кбит до 33.6 Кбит в сек, ЛВС с 2Мбит до 100 Мбит в сек. На графике, приведенном на рис. 1, отражен рост производительности центральных процессоров компьютеров, рассчитанной с применением различных тестов и количество внедренных в год АРМов на крупном объединении ООО «Сурутгазпром».

Пик интенсивности внедрения различных АРМов (за-j штрихованная зона) в крупных территориально-распре-деленных предприятиях типа ООО «Сурутгазпром» ООО I «Сургутнефтегаз» ООО «Тюменьэнерго» в основном при-Э шелся на период применения процессоров Intel 386-lntel

Pentium. Это обстоятельство, а также недостаточное развитие средств связи определило их локальный и несколько ограниченный, т.е. не ориентированный на использование АРМа как части какой- либо системы. На сегодняшний день ниша по разработке АРМов для локальных рабочих мест практически заполнена, в крупных объединениях существует потребность и наблюдается тенденция к построению единой информационной системы предприятия с использованием уже работающих АРМов.

Первым шагом на пути к достижению этой цели является централизация всей нормативно-справочной информации (НСИ). В ее основе лежит программное обеспечение, позволяющее самим ответственным за отдельные статьи информационных ресурсов производить необходимые изменения в соответствующих справочниках программного комплекса «Заработная плата».

Основным принципом этой технологии (рис.2) является трехуровневое построение базы данных нормативно-справочной информации:

- база данных разработки;

- база данных тестирования;

- база данных продуктивной работы.

База данных разработки предназначена для проведения настроек со стороны ответственных за сопровождение определенных участков НСИ.

Для осуществления этой цели по каждому из направлений требуется специализированное программное обеспечение в виде АРМов: