CC BY
28
ИНФОРМАЦИОННЫЕ
ТЕХНОЛОГИИ,
АВТОМАТИЗИРОВАННЫЕ
СИСТЕМЫ
УПРАВЛЕНИЯ
УДК 004 052.3 в. И. ПОТАПОВ
И. В. ПОТАПОВ
Омский государственный технический университет
ОТКАЗОУСТОЙЧИВЫЕ НЕЙРОКОМПЬЮТЕРНЫЕ СИСТЕМЫ НА БАЗЕ ЛОГИЧЕСКИ СТАБИЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ
В статье рассматриваются два принципа построения отказоустойчивых нейроком-льютерных систем, состоящих из логически стабильных искусственных нейронных сетей.
Под отказоустойчивой нейрокомпьютерной сис- двоичных {о,1} входов х),х2,--.хе нейрона и порогов
темой (ОНКС) будем понимать аппаратной логичес- его срабатывания Тг е {о,±1,±2,±3,...}. Для опреде-
ки избыточную информационно-вычислительную ленности будем полагать, что функция активации ИН
систему, состоящую из многофункциональных ис- пороговая.
кусственных нейронов, в которой при появлении от- Очевидно, что основным компонентом ОНКС
казов автоматически производится логическая пере- является логически стабильная сеть искусственных
стройка нейронов путем изменения их параметров с нейронов с соответствующей системой настройки ее
целью восстановления заданных функциональных работы, являющаяся аналогом процессора и опера-
свойств отказоустойчивой системы. В такой системе тивной памяти, причем искусственные нейроны сети
алгоритм решения задачи представлен логически являются многофункциональными, т.е. программи-
стабильной искусственной нейронной сетью (ИНС) руемыми (настраиваемыми) устройствами управле- |
соответствующей конфигурации [1], где каждый ния за счет целенаправленного изменения их пара- 1
искусственный нейрон (ИН) представляет собой метров — весов входов ч, и порога срабатывания автомат с внутренней памятью в виде настраиваемых Логически стабильной или функционально устойчи-
значений весовых коэффициентов V/; (/ = 1,2,..., 5) вой к отказам нейронов в диапазоне {"Г.(г,/)}, у = 1.2,.,.,©
„....X.)
"Уст.0(О
Рис. 1. ОНКС. на базе одной нейронной сети 5Л.
т,М Т2Ы т,М Т4М
т5М т. (г,/)
А \ \ * * ъ
1 1 -►
к к кк к к'<V,
Рис. 2. Диаграмма изменения наборов порогов ИН в ОНКС,.
назовем такую ИНС, выходная (результирующая) функция которой х6) остается неизменной
при V -кратном одновременном изменении порогов Г„ (каждый раз не единицу) у всех ИН сети. В приведенных обозначениях Ту(гЛ) - у-е значение порога /-го
(1 = 1,2.....л) нейрона г-го (г = 1,2,..., ш) рангарассмат-
риваемой нейронной сети [ 1 ].
В настоящее время в области создания отказоустойчивых нейрокомпьютерных систем, основу которых составляют логически стабильные искусственные нейронные сети, делаются лишь первые шаги и сделать какие-либо обобщения о их структуре и принципе работы не представляется возможным. Поэтому рассмотрим два прелагаемых авторами принципа построения ОНКС и способы их адаптации к однократным и многократным отказам в искусственных нейронных сетях, полагая при этом систему адаптации абсолютно надежной, которые могут лечь в основу создания широкого класса отказоустойчивых нейрокомпьютерных систем из многофункциональных искусственных нейронов.
ОНКС1 на базе одной логически стабильной искусственной нейронной сети
Будем полагать, что операционная часть ОНКС, выполнена в виде одной логически стабильной (функционально устойчивой) ИНС $А (рис.1). В такой структуре решение задачи ^ в каждом цикле вычисления выдается по большинству из трех решений при одном и том же наборе входных переменных X = (х,,,.„ х^) , но при различных наборах порогов {г„ (г,/)}, обеспечивающих функциональную устойчивость нейронной сети .
При несовпадении результатов решений выдается сигнал в узел регулировки порогов и начинается процесс адаптации ИНС ЭА к отказу нейронов без I прекращения выдачи решений на выход ОНКС, по
большинству. Для определенности полагаем, что нейронная сеть функционально устойчива при шести следующих друг за другом наборах порогов {"Г, (/-,()} и = 1,2,..., 6 . На выходы Ба в такте (, подаются входные переменные г = 1,2,...,5. Выход ней-
ронной сети подключен к одному из входов схемы совпадения И,, на другой вход которой подаются тактовые импульсы , , ,
Сигналы с выхода схемы &, поступают непосредственно на шину продвижения информации в трехразрядном регистре сдвига Рг, и через линию задержки Б - на вход его первого разряда. Выходы всех разрядов регистра сдвига Рг2 соединены через схему несовпадения ~ со входом схемы &2 узла регулировки порогов, у которой другой вход подключен к шине тактовых импульсов (3, а вход — к продвигающей шине п - разрядного кольцевого регистра Ргг. Количество разрядов в этом регистре сдвига равно числу наборов порогов, при которых ИНС функционально устойчива. В рассматриваемом примере п = б и на продвигающую шину регистра Рг2 подаются тактовые импульсы (,,г2,...,(6. К кольцевому регистру сдвига Рг2 подсоединены по входу синхронизации генераторы ступенчатого напряжения (или тока) (ГСН), выходы которых подключены к шинам регулировки порогов ИН сети . Количество ГСН и место их подключения к регистру сдвига Рг2 определяется количеством групп ИН, имеющих различные наборы порогов в диапазоне функциональной устойчивости нейронной сети я,,. Выходом ОНКС, является схема &3, один вход которой соединен с выходом среднего, в данном случае второго, разряда регистра сдвига Рг,, а второй подключен к шине тактовых импульсов ^.
Рассматриваемая система функционирует без ошибок на выходе, если разрушительное действие отказов в сети таково, что правильные решения получаются не менее чем при (т + 1)/2 следующих друг за другом выбранных для работы наборов порогов
Т,. (г, /), где т(т< п) - количество разрядов в регистре сдвига Рг, (в рассматриваемом примере ш = 3.
Таким образом, полный цикл работы ОНКС, осуществляется за п = 6 тактов, из которых т = 3 тактов составляют активную часть цикла, а (п-ш) тактов -пассивную. В течение активной части цикла происходит вычисление заданной функции Р(х) от одних и тех же значений входных переменных ш = 3 различными способами (каждое изменение набора порогов ИН приводит к изменению логической структуры функционально устойчивой нейронной сети 3А ).В течение пассивной части цикла происходит подготовка ОНКС, к очередному циклу вычисления р(х).
Предположим, что в течение рассматриваемого интервала времени работа описываемого ОНКС, осуществляется согласно диаграмме, изображенной на рис.2, где утолщенными горизонтальными линиями обозначены наборы порогов гДг,;'), соответствующие активной части цикла работы системы, а знаком' обозначен набор порогов Т2 (г, г) на котором вследствие отказа в сети результат вычисления оказался неверным, то есть не совпадающим с результатами вычисления на двух остальных рабочих наборах порогов.
В каждом цикле вычисления по такту (, на выходы нейронной сети подаются наборы входных переменных {*,■}, которые удерживаются на входе в течение трех тактов За это время с выходов ГСНна шины регулировки порогов ИН сети Я,, поступит три комбинации пороговых напряжений (токов), соответствующие трем наборам порогов Т,(/",;), Т,(г,;), Т,(/■,/) из диапазона логической стабильности сети. Если при этом значение выходной функции Р(х) сети остается постоянным и, например, равным 1, то импульсы, поступающие по тактам на схему И,, заполняют все разряды регистра сдвига Рг,. При этом на выходе схемы несовпадения ~ будет низкий потенциал и схема И2 окажется закрытой. Поэтому изменения режима синхронизации ГСН не произойдет и в следующем цикле значения порогов в соответствующих тактах останутся прежними (см. рис.2 первый и второй циклы). Импульс, поступивший по такту на схему И3, пройдет на выход ОНКС,, т.е. Р(х) = 1, а по такту (4 регистр сдвига Рг, установится в исходное состояние «О» (произойдет сброс информации в регистре).
В том случае, если на всех трех наборах порогов активной части цикла на выходе сети 5Л Р(Х) = 0, то к третьему такту регистр сдвига Рг, окажется заполненным во всех разрядах нулями, все схемы & запертыми и значение функции F(x) навыходе ОНКС, также будет равно 0.
Предположим, что в сети произошел отказ, приведший к искажению результата вычисления функции р(х) на наборе порогов 7"2 (г,г) (см. рис.2 второй цикл). В этом случае, в зависимости от истинного значения функции И (х), равного либо 0, либо 1, после такта (3 в регистре сдвига Рг, запишется, соответственно, либо 100, либо 110. Следовательно, на выходе схемы несовпадения ~ будет высокий потенциал и импульс /3 пройдет через схему &2 на шину сдвига информации кольцевого регистра Рг2. В результате этого циркулирующая в регистре Рг2 единица будет сдвинута дополнительно на один разряд вправо и импульсы синхронизации поступят на ГСН на один такт раньше, чем в предыдущем цикле. А это приводит к сдвигу наборов порогов по отношению к тактам t],t7,t3 активной части цикла. Так, в рассматриваемом примере в третьем цикле вычисления рабочими наборами порогов будут
Т4 (г,(). Сдвиг наборов порогов (адаптация) будет продолжаться до тех пор, пока результаты вычисления сетью sA функции f(x) не совпадут на всех трех рабочих наборах порогов, то есть набор порогов, на котором проявляется отказ на выходе сети S^ , будет сдвинут в пассивную (нерабочую) часть цикла. В рассматриваемом примере адаптация продолжается в течение второго и третьего циклов. Начиная с четвертого цикла, рабочими наборами порогов будут T3(r,i), ТА (г,i), Ts(r,i).
Нетрудно заметить, что в процессе адаптации (логической перестройки) ИНС SA навыходе ОНКС, будет формироваться правильное решение, поскольку управление выходной схемой &3 осуществляется от среднего (второго) разряда регистра сдвига Рг,, то есть значение выходного сигнала F(x) определяется по большинству.
Для того чтобы еще более повысить функциональную надежность ОНКС, при отказах (нарушениях) в сети SA большой разрушительной силы, проявляющихся на выходе, например, на двух и более наборах порогов Tw(r,i) из диапазона функциональной устойчивости сети SA , необходимо увеличить количество разрядов регистра Рг,, а следовательно и количество активных тактов в цикле вычисления F(x).
ОНКС2 на базе двух параллельно работающих логически стабильных ИНС
Данный принцип построения ОНКС2 заключается в следующем. Для вычисления функции F (х,,..., xs) используют две одинаковые параллельно работающие функционально устойчивые ИНС SA] и SA2, выходы которых соединены со схемой неравнозначности © и со схемой совпадения & (рис.3). Схема & является выходом ОНКС2, где формируется значение F(X), а выход схемы неравнозначности ® соединен со счетным входом счетчика Сч по модулю q, где q - количество наборов настроечных кодов, для генерации наборов порогов нейронов {тДг,/)}, обеспечивающих функциональную устойчивость сетей S^,, и SAi, Выходы счетчика Сч управляют работой преобразователя Пр, преобразующего число v на счетчике в набор управляющих сигналов, соответствующих v-му настроечному коду. Выходы преобразователя Пр соединены с одноименными управляющими шинами настройки порогов нейронов обоих нейронных сетей
S4I И SA2 ■
Будем полагать, что вероятность появления отказа одновременно в обоих сетях, приводящего к искажению реализуемых ими функций на одном и том же наборе входных переменных, пренебрежимо мала и поэтому исключена из рассмотрения.
Если в процессе работы в одной из нейронных сетей s„, или SA2 произошел отказ, приведший к искажению значения реализуемой сетью функции F (X) хотя бы на одном наборе входных переменных, то на схему неравнозначности Ф на этом наборе придут разноименные сигналы и вызовут ее срабатывание. Сигнал с выхода схемы ® является признаком отказа в одной из сетей и сигналом к перестройке логики (изменению наборов порогов ИН) в обоих сетях в установленном диапазоне логической стабильности, то есть к адаптации ОНКС2 к отказу. Процесс адаптации будет продолжаться до тех пор, пока отказ не будет компенсирован за счет логической избыточности в искусственных нейронных сетях, либо запас отказоустойчивости не будет исчерпан.
Проиллюстрируем работу ОНКС2 на следующем примере, полагая для определенности, что адаптация
Рис.3. ОНКС2 на базе двух нейронных сетей 5Д[ и S
Т'И -
т/Ы -т,М -т,М -т,М "
2 20 ЗП 4D 5D 6G 7Q 8D 9U 10D 110 12D I3D
.AAA. ■ А Д А Д , ,
Рис. 4. Диаграмма изменения наборов порогов ИН в ОНКС2.
производится путем перестройки порогов T„(r,i) одновременно у ИН обоих сетей и что количество наборов порогов, обеспечивающих функциональную устойчивость sAi и SA2, равно q = 6. Будем считать, что функционально устойчивые сети и sA2 работают в однотактном режиме, а каждый цикл (период) работы всей системы равен &. Предположим также, что на некотором интервале времени i = 140 работа ОНКС2 описывается диаграммой, приведенной на рис. 4, где символами Tv (r,i) v = 1,2,..., 6 обозначены наборы порогов ИН из диапазона функциональной устойчивости и SA2, a U - сигнал на выходе схемы неравнозначности ©.
В соответствии с приведенной диаграммой, в течение первых двух периодов значения функции F(x) на выходах и sA2, работающих при шестом наборе порогов T6(r,i) совпадали и результаты вычислений F (х,,..., ) проходили через схему & на выход ОНКС2, а на выходе схемы Ф сигналы отсутствовали. Затем в одной из нейронных сетей произошел отказ, в результате которого выходные сигналы S^, и SA2, соответствующие набору входных переменных, поступивших в такте i, третьего периода, не совпали. При этом на выходе схемы & сигнал отсутствует. ОНКС2 прекращает выдачу решения, а с выхода схемы © сигнал поступает на счетчик Сч. В результате этого на выходе преобразователя Пр формируется новый набор управляющих сигналов, соответствующий набору порогов Г5 (j-,i) . Согласно диаграмме (рис.4), первый отказ компенсируется лишь на наборе порогов 7"5 (r,i), а в третьем и четвертом периодах значения F(x) на выходах Sj, и sA2 не совпадали, на выход ОНКС2 не проходили, а сигналы с выхода схемы © заполняли счетчик Сч.
В течение последующих трех периодов результаты вычисления F(x) сетями SM и SA2 совпадают и
через схему И проходят на выход ОНКС2, а сигналы не выходе схемы © отсутствуют и перестройка порогов ИН сетей не происходит.
Если теперь предположить, что в какой-то из нейронных сетей и 5,42 произошел новый отказ, который проявился на наборе входных переменных, поступивших в восьмом и последующих периодах, то процесс адаптации будет происходить аналогично вышеописанному до тех пор, пока не будет установлен набор порогов, компенсирующий оба указанных отказа.
Из рис. 4 видно, что в одиннадцатом периоде произошло переполнение счетчика Сч, а в последующие периоды началось новое его заполнение. Такая цикличность обеспечивает большую гибкость системы управления ОНКС2, так как при наличии различных сочетаний отказов в нейронных сетях и позволяет осуществить их компенсацию на наборах порогов, обеспечивающих функциональную устойчивость сетей.
Одним из преимуществ рассматриваемой системы является отсутствие необходимости диагностики отказавшей нейронной сети и отказавшего ИН. Это значительно сокращает время адаптации и повышает коэффициент готовности ОНКС2. Время адаптации можно еще более сократить, если в качестве начального настроечного кода выбрать такой, при котором в сетях компенсируется максимальное число одиночных отказов, а систему перестройки логики сетей организовать так, чтобы при наличии двух-и более кратных отказов она сразу же формировала настроечный код, обеспечивающий наибольшую вероятность компенсации отказов соответствующей кратности [2].
Из принципа работы ОНКС2 следует, что в течение процесса адаптации выдача решений прекра-
щается и возобновляется только после восстановления отказавшей СФН. Это ограничивает область применения подобных нейрокомпьютерных систем системами, в которых допускается «потеря» нескольких решений без ущерба в целом. Отмеченный недостаток может быть устранен, если в нейрокомпью-терной системе использовать три и более параллельно работающие функционально устойчивые ИНС и ввести дополнительные ресурсы для диагностики отказавшей сети и раздельной для сетей перестройки логики ИН. В такой системе при условии отсутствия отказа в данный момент времени одновременно в двух сетях «потеря» решений не происходит, так как выдача результата решения осуществляется по большинству (например, два из трех) в каждом цикле вычисления, а адаптация к отказам производится только в той нейронной сети, в которой произошел отказ.
Библиографический список
1. Потапов И.В. Синтез оптимизированных логически стабильных искусственных нейронных сетей, адаптивных к отказам нейронов/Омский государственный технический университет. -Омск, 2001.-14с.-Деп. в ВИНИТИ 21.09.01, № 2014.-В2001.
2. Потапов И.В. Минимизация процесса адаптации логически стабильных искусственных нейронных сетей к отказам нейронов //Омский научный вестник.-2001 .-Вып. 17.-С, 147-149.
ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информационно-вычислительной техники.
ПОТАПОВ Илья Викторович, кандидат технических наук, старший преподаватель кафедры информационно-вычислительной техники.
УДК 004 8 004.052 3 в. И ПОТАПОВ
И. В. ПОТАПОВ
Омский государственный технический университет
МОДЕЛИ ДЛЯ РАСЧЕТА НАДЕЖНОСТИ НЕЙРОКОМПЬЮТЕРНОЙ СИСТЕМЫ АДАПТИВНОЙ К ОТКАЗАМ И СБОЯМ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ, С НЕНАДЕЖНЫМ УСТРОЙСТВОМ КОНТРОЛЯ И АДАПТАЦИИ_
Приводятся в виде графов вероятностные модели состояний нейрокомпьютерной системы, состоящей из адаптивных к отказам и сбоям искусственных нейронных сетей и подверженной отказам системы контроля состояния сетей и системы адаптации.
Введение
Известно, что основным компонентом любой нейрокомпьютерной системы является искусственная нейронная сеть (ИНС) или несколько ИНС соответствующей конфигурации и набор системных блоков для управления нейронной сетью [ 1 ]. При построении математических моделей для расчета надежности систем из искусственных нейронных сетей обычно с целью упрощения пренебрегают конечной надежностью устройства контроля состояния ИНС и устройства адаптации [2], считая их для упрощения абсолютно надежными.
В ряде случаев это вполне оправдано и заметно не нарушает целостность картины поведения нейронной системы, когда интенсивность отказов устройства контроля и адаптации на порядок и более меньше, чем интенсивность отказов на выходе (выходах) адаптивных ИНС. Однако, если интенсивность отказов системы контроля и адаптации сравнима с интенсивностью отказов ИНС, то в данном случае при рас-
чете надежности нейрокомпьютерной системы конечную надежность системы контроля и адаптации нейронной сети следует учитывать при разработке математической модели для расчета надежности.
В данной работе ограничимся рассмотрением граф-моделей адаптивной ИНС нейрокомпьютера с учетом конечной надежности системы контроля и адаптации.
Постановка задачи
Будем считать, что процесс возникновения отказов и сбоев в адаптивной ИНС пуассоновский с параметром Л, при этом, однако, с целью более реального приближения к условиям функционирования искусственной нейронной сети нейрокомпьютерной системы будем полагать, что Л = Л0 + Л1 и Л* = + Я* , где - интенсивности отказов соответственно вида (1 -> 0) и (0 -> 1), а Л^ и Л* - интенсивности сбоев вида (1 0) и (0 -> 1). Будем считать, что система контроля и адаптации нейронной сети к отказам и
