Научная статья на тему 'Минимизация процесса адаптации логически стабильных искусственных нейронных сетей к отказам нейронов'

Минимизация процесса адаптации логически стабильных искусственных нейронных сетей к отказам нейронов Текст научной статьи по специальности «Математика»

CC BY
67
18
i Надоели баннеры? Вы всегда можете отключить рекламу.
Область наук

Аннотация научной статьи по математике, автор научной работы — Потапов Илья Викторович

Рассматривается задача минимизации процесса адаптации к дестабилизирующим факторам и отказам нейронов для логически стабильных регулярных искусственных нейронных сетей. Адаптация осуществляется путем пошагового одновременного изменения порогов у всех искусственных нейронов сети на одинаковую величину на каждом шаге, и преследует цель за минимальное число перестроек восстановить функциональные возможности сети, заложенных при ее синтезе или при обучении. дается решение рассматриваемой задачи.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по математике , автор научной работы — Потапов Илья Викторович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Минимизация процесса адаптации логически стабильных искусственных нейронных сетей к отказам нейронов»

Л.2(0=12Хв..,П Е

г ехр(-д,')

й (ЗХ-я,)Д.

ехр(- ЗХ/)у! Х + 2Х' Й

(ЗХ-а,)С\

1

Х + 2Х'

(12)

Ь, (зх-я,)с, (ЗХ - я,) д.

ехр1

1-4 Iл-4

*р(~ л,')

л.,(/)=24хч-П а> I Ш—V-ттг

ехр(-ЗХ./) у 1 ~ {Х+2Х1Х (3

1

3 Х + Г

^;Л0 = £ л(0.

Полученные математические модели надежности избыточных нейронных систем с адаптивными ИН позволяют решить следующую важную для практики задачу. При заданном соотношении между интенсивностями отказов и сбоев найти тип ДИН, обеспечивающий нейронной системе на интервале [оД] вероятность безотказной работы не ниже заданной при минимальной избыточности системы, либо при заданном ограничении на избыточность ИНС найти тип АИН, обеспечивающий максимальную вероятность безотказной работы системы.

ЛИТЕРАТУРА

(ЗА.-а,)А (Х + 2Х")(ЗХ + Х")

(ЭХ-а()С,

ехр -2 2Х + Х- ( +

(Х + 2Х'ХХ'-2Х)

у! 1___1 1

Ь (3Х-а,)С, ЗХ + Х'Й? (ЗХ-а,-)Ц + (X + 2Х")(ЗХ + X") ^ 1 ^ 1

где

^ (3Х-а,.)С, и (ЗХ-а,Ха„.,-(7,)Д

¡.о 1*'

Д = 2(2Х + Х')С,.

(14)

(15)

Полученные выражения (5), (6), (11) -(15) для рк (/) (о < к < п -1) позволяют вычислять надежные характеристики, включая вероятность безотказной работы, для нейронных систем с АШ-Ц и АИН2 при алгоритме адаптации вида М.

Из систем уравнений (4) и (10) следует, что для ИНС с обоими типами АИН при любом из рассмотренных видов алгоритма адаптации вероятность безотказной работы определяется как

1. Потапов В.И., Потапов И.В. Классификация сетей искусственных нейронов, используемых для обработки цифровой информации// Природные и интеллектуальные ресурсы Сибири (Сибресурс-7-2001): Доклады Международной научно-практической конференции (Барнаул 1719 сентября 2001 г.)-Томск. 2001.-4.2.-е. 194-197.

2. Потапов И. В. Синтез оптимизированных логических стабильных искусственных нейронных сетей, адаптивных к отказам нейронов/Омский гос.техн.ун-т.-0мск,-2001 .-14с,-Деп.в ВИНИТИ. 21.09.2001, №2014.

3. Потапов В.И., Потапов И.В. Математические модели и функциональные возможности искусственных нейронов/ Омский гос. техн. ун-т.-Омск, 2001.-12.-Деп.в ВИНИТИ 03.05.01., №1140.

4. Потапов В.И., Потапов И.В. Вероятная модель функционирования избыточной адаптивной искусственной нейронной сети//Доклады Сибирского отделения Академии наук высшей школы.-2001.- №2(4). -с.76-82

5. Вентцель Е.С. Исследование операций.-М:Сов.радио, 1972.-550С.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информатики и вычислительной техники Омского государственного технического университета.

ПОТАПОВ Илья Викторович, аспирант Омского государственного технического университета.

Омский государственный технический университет

УДК 519.68

и в ПОТАПОВ МИНИМИЗАЦИЯ ПРОЦЕССА АДАПТАЦИИ ЛОГИЧЕСКИ СТАБИЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ К ОТКАЗАМ НЕЙРОНОВ__

РАССМАТРИВАЕТСЯ ЗАДАЧА МИНИМИЗАЦИИ ПРОЦЕССА АДАПТАЦИИ К ДЕСТАБИЛИЗИРУЮЩИМ ФАКТОРАМ И ОТКАЗАМ НЕЙРОНОВ ДЛЯ ЛОГИЧЕСКИ СТАБИЛЬНЫХ РЕГУЛЯРНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ. АДАПТАЦИЯ ОСУЩЕСТВЛЯЕТСЯ ПУТЕМ ПОШАГОВОГО ОДНОВРЕМЕННОГО ИЗМЕНЕНИЯ ПОРОГОВ У ВСЕХ ИСКУССТВЕННЫХ НЕЙРОНОВ СЕТИ НА ОДИНАКОВУЮ ВЕЛИЧИНУ НА КАЖДОМ ШАГЕ, И ПРЕСЛЕДУЕТ ЦЕЛЬ ЗА МИНИМАЛЬНОЕ ЧИСЛО ПЕРЕСТРОЕК ВОССТАНОВИТЬ ФУНКЦИОНАЛЬНЫЕ ВОЗМОЖНОСТИ СЕТИ, ЗАЛОЖЕННЫХ ПРИ ЕЕ СИНТЕЗЕ ИЛИ ПРИ ОБУЧЕНИИ. ДАЕТСЯ РЕШЕНИЕ РАССМАТРИВАЕМОЙ ЗАДАЧИ.

В работе [1] показано, что различные факторы, вызывающие искажение реализуемой искусственным нейроном (ИН) функции ^(д-„...,л/,...,.т8)х1.б{0,1}, например такие, как изменение величины сигналов независимых пере-

менных х, на функциональных входах ИН, спонтанные флуктуации величины порога срабатывания нейрона X . отказы компонентов ИН вида (1 —>о) и (О—>1) и другие, эквивалентны соответствующему пропорциональному

уменьшению или увеличению величины порога срабатывания X нейрона, приводящему к ошибке на выходе ИН вида (0->1) и (l ->0).

Для повышения функциональной надежности ИН объединяют по соответствующим правилам в логически стабильные нейронные сети. Кратко эти правила сводятся к следующему. Используют по возможности невырожденные или слабо вырожденные ИН и стремятся установить максимальный диапазон логической стабильности {Х(г,')}=п*3* . где V - номер набора порогов ИН сети, г-рангсети, / -номер нейрона в г-ом ранге.

Чаще всего синтезируют регулярные однородные нейронные сети из невыроиеденныхИН при условии v = 1,2,. ..,2s -1, то есть сети, функционально устойчивые на 29 -1 наборах порогов.

В связи с тем, что синтез г- ранговой (г > 2) искусственной нейронной сети (ИНС) сводится к последовательному синтезу группы промежуточных двухранговых сетей, обычно рассматриваются вопросы синтеза двухранговых сетей, то есть по заданной диаграмме Карно F{x) (х = дгрх2,...,л5) находятся такие диаграммы Карно ФЛ1/„лу,2.-ли,в. чтобы равенство f(a,)=4>^M)4/,2,...,v16) выполнялось на 2s -1 наборах порогов (x(U)} •

Решение указанной задачи сводится к нахождению порядка заполнения диаграмм (карт, матриц) Карно Ф.Ч'и.Ч'и.-.Ч'и. обеспечивающего получение максимального диапазона логической стабильности сети из невырожденных или слабо вырожденных ИН.

Выбранная для заданной функции F(X) последовательность заполнения диаграммы Карно <р как оператора накладывает определенные ограничения на последовательность заполнения карт Карно Vm.Vu.—.Vb как операндов. Для облегчения процедуры заполнения диаграмм Карно чу ,, (i = 1,2,...,5) двухранговой ИНС и упрощения процесса оптимизации нейронной сети используют для наглядности карты (таблицы) стабильности, которые легко приводятся к машинной форме записи и обработки.

На рис. 1 приведена для пояснения карта стабильности для двухранговой нейронной сети, состоящей из б +1 ИН Ф.Ч1 п.ЧЛ2.•■•>4'us, имеющих по § входов каждый.

Строки карты соответствуют всем возможным наборам входных переменных л,,*,,...,*,, подаваемым на входы нейронов первого ранга у......; столбцы карты соответствуют наборам двоичных сигналов , поступающим с выходов ИН у......ду16 на входы выходного нейрона

Ф. В нижней части карты стабильности записывается значение функции выходного нейрона сети при v -ом пороге, а с правой стороны карты - значение реализуемой сетью функции F(X). Поскольку обе функции Д и F(X) описывают один и тот же выход, их истинные значения

0 ■ • • 00 0-00 0-01 0-11 1 ■•■11

аи «13 Г

0-01 а:з

0 - -11 «51 <4

111

«-""VФ

Рис.1. Карта стабильности.

должны быть логически эквивалентны. А это означает, что в карте стабильности исключаются из рассмотрения (вычеркиваются) те области а*, которые находятся на пересечении несовпадающих значений истинности функций Д и Р(Х). Составляя все возможные наборы }, включающие по одному элементу каждой строки не исключенных областей V -ой карты стабильности, можно получить все

комбинации заполнения диаграмм Карно ИН ц/,,.....\у16,

которые в сочетании с функцией Д, представленной диаграммой Карно ф , обеспечивают на V -ом наборе порогов получение заданной функции Р(Х).

Для построения максимально логически стабильной в указанном выше смысли нейронной сети второго ранга из невырожденных ИН С5 входами необходимо ставить карты стабильности для всех информационно значимых, вычисляемых выходным нейроном ф функций П и выбрать из этих карт группу из 26 -1 различных наборов ]^ }, V =1,...,26 -1, которая совместно с соответствующими функциями выходного нейрона ф обеспечивает невырожденность всех ИН синтезируемой двухранговой нейронной сети. То есть на каждом из 25 -1 шагов заполнения диаграммных уравнений сети, в соответствии с выбранной группой наборов {а^}, в диаграмме Карно каждого ИН должна добавляться одна точка (единица).

По полученным таким образом функциональным (точечным) диаграммам строят, порядковые диаграммы, в соответствии с которыми синтезируют искусственные нейроны с оптимальными параметрами, например, методом, изложенным в [3,4], и соединяют их в сеть.

Таким образом логически стабильная искусственная нейронная сеть является функционально устойчивой в определенном на стадии синтеза сети диапазоне изменения порогов срабатывания входящих в нее ИН {Х(г>')} у = 1,2,...,т (л-ранг сети,/-номер нейрона в г-ом ранге). Это означает, что выходная функция сети ^(д:,.....х„...,хь) остается неизменной при (/-кратном одновременном изменении порогов срабатывания X (г>>) (например, каждый раз на единицу) у всех искусственных нейронов сети.

Целенаправленное изменение параметров у ИН сети (порогов срабатывания X и/или весов входов пороговых элементов нейронов), преследующее цель восстановить правильное функционирование ИНС при наличии дестабилизирующих факторов или отказов у нейронов, будем называть адаптацией или восстановлением функциональных возможностей искусственной нейронной сети.

В связи с этим адаптивной ИНС будем называть такую нейронную сеть, у которой в процессе работы при появлении отказов у ИН производится целенаправленное изменение указанных выше параметров ИН с целью восстановить заданную при синтезе или в процессе обучения выходную функцию сети Р„(х) (х = х„х1,...,х1) или заданный набор реализуемых нейронной сетью функций №)} А = 1,2,...,т.

Естественно, что одной из важнейших задач при построении адаптивных ИНС является задача минимизации процесса адаптации к отказам ИН, т.е. минимизация числа настроек параметров ИН сети, а следовательно и времени восстановления функциональных свойств нейронной сети, при наличии дестабилизирующих факторов, включая все возможные отказы у ИН. Данная задача многопараметрическая и в общем виде не решается. Поэтому в данной работе ограничимся рассмотрением задачи минимизации процесса адаптации к отказам ИН для логически стабильных регулярных однородных двухранговых сетей с б нейронами в первом ранге и одним (выходным) нейроном во втором ранге. При этом полагаем, что адаптация осуществляется пошагово путем одновременного изменения порогов X {Ы) У всех ИН сети на одинаковую величину на каждом шаге адаптации. В дальнейшем такие адаптивные сети будем называть нейронными сетями с коллективной адаптацией.

Искусственная нейронная сеть указанного выше типа может быть описана квадратной матрицей

НЫ 1>2-'5

и матрицей - столбцом

В=|У У = 1,2,...,6 , между элементами которых имеет место функциональная зависимость

а реализуемая сетью функция определяется выражением = (1)

к,г,е,т,...,р е{о,1,...,22'-1} где Ху -Атая входная переменная, поступающая нау'-тый ИН первого ранга сети; - значение функции ч^, реализуемой у-м ИН первого ранга сети; ф - функция, реализуемая выходным ИН; к,г,е,т,..., р - номера функций 8 переменных из полного множества 2г*, реализуемых ИН сети.

Очевидно, что каждая совокупность, = {ф,,ч<„,ч< }, удовлетворяющая (1), определяет настройку ИНС на реализацию определенной функции Рк(Х).

Если считать, что при отсутствии отказов ИН сети совокупности являются элементами множества М, в котором каждой функции Р„(х) соответствует подмножество N4 совокупностей Ь то появление у нейронов отказов вида (1->о) и (0->1), эквивалентное тождественному равенству 0 или 1 соответствующих элементов Ху матрицы А или элементов KJ матрицы В (сводим все отказы ИН к отказам на их входах), приведет в общем случае к сужению подмножества Ы, и образованию нового подмножества И,, совокупностей функций

и,.....Р, е|о,1,-,225-1}

настраивающих ИНС на реализацию заданной функции /^(Л") при наличии /,у-тых отказов у ИН сети. Если при этом выбранная совокупность функций не войдет в подмножество совокупностей функций , обеспечивающих правильную работу нейронной сети при определенном отказе ИН, то необходимо произвести логическую перестройку сети в соответствии с одной, из совокупностей I,„ , входящей в подмножество . Поскольку процесс адаптации ИНС к отказу заключается в последовательном подборе настроек {т; (г,¿)} у=1,2,...,/и порогов для ИН из диапазона логической стабильности ИНС, преобразующих определенную совокупность функций I, в одну из сово-

Л. 3. ШРАЙБЕР

Омский государственный аграрный университет

УДК 681.3.06:51

На занятиях по высшей математике мною после доказательства сложных теорем и решения трудных задач предлагалось найти ошибки в научных работах и исправить их. Такой подход прививает студенту умение критически мыслить, желание более основательно освоить примене-

купностей , то, следовательно, для минимизации процесса адаптации во времени необходимо свести к минимуму количество сочетаний настроек порогов ИН, необходимых для преобразования в , и проранжировать по корректирующей способности. Подобную минимизацию целесообразно производить следующим образом.

1. Для каждой функции /Г,(Л') из заданного для реализации нейронной сетью набора с помощью карт стабильности, связывающих элементы матриц А и В, найти соответствующие подмножества ы,, совокупность которых образует множество М.

2. Приравнивая поочередно к 0 и 1 все элементы матриц А и В и фиксируя это в картах стабильности, выделить из каждого подмножества подмножества И*,, соответствующие любым /,у-м отказам ИН сети.

3. Для каждого подмножества найти путем сортировки области Р* взаимного пересечения всех подмножеств .

4. Из найденных областей Р, составить ранжированные группы совокупностей функций , восстанавливающих функциональную способность сети реализовать функцию /'ДЛ') при любом /,у-том отказе ИН.

5. Для каждой функции Рк(х) из множества групп як, найденных по п.4, выбрать группу с минимальным числом членов, то есть выбрать минимальный набор настроек порогов ИН для восстановления любых отказов в ИНС. Если окажется, что для функции Рк{х) имеется несколько минимальных групп , то при отсутствии ограничений на класс реализуемых ИН сети функций, выбирается любая из минимальных групп.

ЛИТЕРАТУРА

1. Потапов В.И., Потапов И.В. О логической избыточности функционально устойчивых сетей искусственных нейронов//Омский научный вестник.-2001.-вып.15.-С.90-91.

2. Мкртчян С.О. Нейроны и нейронные сетм.-М.:Энергия. 1971 .-232с.

3. Потапов В.И., Камаева Л.В. Синтез многофункциональных нейронов с оптимальными параметрами // Вычислительная техника и системы управления. - Омск: ОмПИ, 1974.-С.20-30.

4. Потапов В.И., Флоренсов А.Н. Синтез оптимизированных многофункциональных формальных нейронов // Вычислительная техника и системы управления. - Омск: ОмПИ, 1975. -ВЫП.2.-С.9-18.

ПОТАПОВ Илья Викторович, аспирант Омского государственного технического университета.

ние математических методов и понимание того, что при отсутствии математических навыков следует избегать использования неясных понятий и формул. Кроме того, он позволяет разнообразить процесс обучения. Ниже приведены примеры таких ошибок в работах по информационным технологиям.

МАТЕМАТИЧЕСКИЕ ОШИБКИ В РАБОТАХ

ПО ИНФОРМАЦИОННЫМ ТЕХНОЛОГИЯМ

i Надоели баннеры? Вы всегда можете отключить рекламу.