Синтез моделей нейросетевых триггеров Текст научной статьи по специальности «Компьютерные и информационные науки»

УДК 681.3.07:656.25

ЧЕПЦОВ М.Н., д.т.н., профессор (Донецкий институт железнодорожного транспорта), БУШУЕВ С.В., к.т.н., доцент (Уральский государственный университет путей сообщения)

Синтез моделей нейросетевых триггеров

Cheptsov M.N., DSc, Professor (DIRT),

Bushuev, S.V.. PhD in Technical Sciences, Associate Professor (USURT) Synthesis of neural network trigger models

Введение

Нейронные сети (НС), или искусственные нейронные сети, представляют собой технологию, в основу которой положен принцип организации и функционирования биологических

нейронных сетей. В настоящее время они находят применение в различных областях: моделирование, анализ временных рядов, распознавание образов, обработка сигналов и управление [1].

Следует отметить, что наряду с многоплановыми возможностями

классических методов нейросетевого моделирования, существуют некоторые задачи прикладного характера, решение которых требует проведения определенных теоретических исследований. В первую очередь это касается методов моделирования нелинейных динамических систем - нейродинамики.

В работе предложен новый подход к решению некоторых задач на основе применения нейродинамических моделей.

Анализ публикаций

Обоснование возможности создания нейронной сети, способной обеспечивать динамический режим работы в дискретном времени, при использовании процедуры обучения по методу обратного распространения ошибки, предложен в работах [1-3]. При этом применяется разворачивание временных операций в многослойной НС, топология которой

расширяется с каждым шагом дискретного времени, в зависимости от количества обратных связей. Одной из наиболее эффективных реализаций подобного подхода является нелинейная

авторегрессионная модель с внешними обратными связями - NARX [1,4,5].

Следует отметить, что такой подход к моделированию достаточно эффективный, в первую очередь из-за наличия внутренней способности имитировать конечные автоматы, однако его реализация связана с рядом проблем. Наиболее существенные из них: большая длительность процесса обучения и необходимость оценки устойчивости модели [1]. Кроме этого, как показали исследования процесса обучения сети NARX с аналоговыми входными и выходными сигналами [6], зачастую моделирование оказывается

неэффективным в связи с большими получаемыми значениями

среднеквадратичной энергии ошибок.

Особенностью современных методов моделирования нейронных динамических сетей в дискретном времени является использование для хранения

промежуточных результатов вычислений внешних элементов - линий задержки [1]. Однако если предположить, что состояние нейронов сети изменяется только при изменении входов и значения входных сигналов константны в пределах промежутка времени Дt (до наступления следующего такта дискретного времени), то следует оценить возможность использования элементов, обладающих

способностью длительно находиться в одном или нескольких устойчивых состояниях и изменять их под воздействием внешних сигналов. Подобными свойствами обладают триггеры. Для их моделирования на основе нейронных сетей рассмотрим подход, предложенный в монографии [6]. Так, в данной работе предложены нейросетевые модели различных псевдологических элементов, которые по фиксированным значениям: 1,0 и 0,0 выполняют соответствующую логическую функцию, однако область определения данных элементов - множество действительных чисел. Основное

достоинство предлагаемых моделей: при одинаковых топологиях НС они способны выполнять различные функции в зависимости от значений весовых коэффициентов и коэффициентов наклона функции возбуждения нейронов, которые рассчитываются в процессе обучения.

Например, частная реализация модели нейросетевого элемента «2ИЛИ-НЕ», состоящего из 3-х нейронов (2-во входном слое, 1 - в выходном), с рассчитанными в процессе обучения значениями весовых коэффициентов и значений наклонов сигмоидальных функций возбуждения нейронов, следующая:

где

- выходы первого и второго нейронов первого слоя; X, У - значения входов элемента; 2 {X, У) - выход (значение выхода нейрона последнего слоя).

Анализ выражения (1) показывает, что в области определения

значения

функции лежат в диапазоне 2\Х.У) ё _0;'1_. В диапазоне

выходные значения

элемента представляют собой поверхность, изображенную на рис 1.

Другая частная реализация модели элемента «2ИЛИ-НЕ», удовлетворяющая его логической таблице истинности

X У ъ

0 0 1

1 0 0

0 1 0

1 1 0

следующая:

где

Поверхность выходных значений для использовано авторское программное этой реализации изображена на рис. 2. Для обеспечение с использованием среды моделирования и построения рисунков разработки [7].

Рис. 1. Множество значений первой реализации функции 2 (X, 7) в диапазоне значений входов ^ё[0;1],У£[0;1]

Рис. 2. Множество значений второй реализации функции 2{Х, 7) в диапазоне значений входов ЛГ € [0; 1], У € [0; 1]

Синтез модели нейросетевого RS-триггера.

Как известно, классическую реализацию асинхронного RS-триггера можно построить двумя схемами, с применением двух логических элементов «ИЛИ-НЕ» или «И-НЕ». Рассмотрим первый вариант. При использовании нейросетевых элементов структура RS-триггера будет соответствовать показанной на рис 3.

Рекуррентное выражение, которое определяет функционирование

нейросетевого триггера, следующее:

где Z1 (_Х1г У±); (Х2,У2^) - нейросетевые элементы (1) или (2).

Рис. 3. Структура нейросетевого ЯБ-триггера

Отметим, что функционирование модели нейросетевого ЯБ-триггера (3) во временной области, при подаче на его входы дискретных сигналов, не отличается

от построенного на логических элементах (рис. 4).

51

Я -

<2 :

а -

0.0 0.2 0.4 0.6 0.8 I

Рис. 4. Функционирование модели нейросетевого ЯБ-триггера (3) во временной области,

при подаче на его входы дискретных сигналов

1,2), тогда следует предположить, что и свойства RS-триггеров будут отличаться.

Действительно, анализ модели (3), для случаев применения выражений (1) и (2) обладают различной амплитудной чувствительностью, что проявляется при подаче на входы трапецеидальных сигналов (рис. 5). Триггер, построенный на элементах «2ИЛИ-НЕ» согласно выражению (1), переходит в единичное состояние при амплитуде сигнала на входе 5 0.^, а триггер, построенный согласно выражению (2) при 5 0.01. При таких же амплитудах на входе К происходит сброс триггера.

В момент времени С = 0 на входы Я, 5 подается нулевой уровень, при этом 0 = 0 и 0 — 1. Когда на вход 5 начинает поступать единичный уровень (г = 0 триггер изменяет свое состояние, происходит запись информации. В момент времени г = 0- значение входа 5 становиться равным нулю, но триггер продолжает хранить информацию до Г = 0,6, кода Я = 0, происходит сброс.

С другой стороны, область

определения нейросетевых моделей

элементов (1) и (2) - —и их

частные реализации отличаются (см. рис.

Рис. 5. Функционирование моделей нейросетевых ЯБ-триггеров (3) с элементами «2ИЛИ-

НЕ» из выражений (1) и (2)

Таким образом, ЯБ-триггеры, построенные на нейросетевых элементах, способны функционировать в

динамическом режиме и соответствуют функциональности классических, при логических уровнях на входах. Наряду с этим, они обладают дополнительными свойствами при аналоговых сигналах, которые изменяются в зависимости от значений весовых коэффициентов и значений наклонов сигмоидальных функций возбуждения нейронов. Дальнейшее исследование этих свойств

требует дальнейших исследований и выходит за рамки данной работы.

Синтез модели нейросетевого D-триггера.

Как известно, в ЯБ-триггере существует неопределенное (запрещенное) состояние - подача на два входа единиц. Данный недостаток устранен в D-триггере, в котором эти два входа объединяются через инвертор. При использовании нейросетевых элементов «2ИЛИ-НЕ» структура D-триггера будет выглядеть следующим образом (рис. 6).

Рис. 6. Структура нейросетевого Б-триггера

Выражение, в соответствии с которым функционирует нейросетевой D-триггер, следующее:

где г2СХ21У2У, 23(Х3,¥3У,

- нейросетевые элементы (1)

или (2).

Как и в предыдущем случае, при подаче на входы нейросетевой модели Б-триггера дискретных сигналов, его функционирование во временной области не отличается от построенного на логических элементах (рис. 7). При

— > — 1 — Ул.

нулевом значении на входе С сигнал на

выходе <2 повторяет сигнал на воде В

(«прозрачность»). По факту перехода

сигнала на входе С, происходит запись значения на воде В и последующее ее хранение.

Рис. 7. Функционирование модели нейросетевого Б-триггера (4) при подаче на его входы

дискретных сигналов

Таким образом, Б-триггер, построенный на нейросетевых элементах «2ИЛИ-НЕ» и функционирующий в соответствии с выражением (4), при подаче логических уровней на его входы соответствует функциональности

классического триггера.

Синтез модели нейросетевого счетного триггера.

На основе двух нейросетевых Б-триггеров и одного элемента «2ИЛИ-НЕ» возможно построение Т-триггера, предназначенного для счета количества импульсов, поступивших на его вход (рис. 8).

Рис. 8. Структура нейросетевого Т-триггера

Функционирование Т-триггера прямоугольных импульсов происходит их

определяется выражениями (4), (1). При деление на два (рис. 9). подаче на его вход последовательности

Рис. 9. Функционирование модели нейросетевого Т-триггера при подаче на его вход последовательности прямоугольных импульсов

Вывод и практические рекомендации простыми математическими средствами. С

другой стороны, нашли дальнейшее

В работе предложен новый подход к развитие мет°ды динамическ°го моделированию работы дискретных нейросетевого моделиPования, которые устройств - триггеров достаточно позволяют расширить класс решаемых

задач и стать основой дальнейших исследований в данном направлении.

Практическая реализация

предложенных моделей возможна на основе применения как аппаратных, так и

программных средств. Например, программный код нейросетевого элемента «2ИЛИ-НЕ», согласно выражения (2), на языке Python выглядит следующим образом:

import numpy as np def Run_el(self,X,Y):

Q_1=1./(1.+np.exp(4.68571439*(1.-3 6.4275*X-34.854 85*Y))) Q_2=1./(1.+np.exp(2.45609613*(1-105.37 01*X-183.8743*Y))) return 1./(1.+np.exp(1.4317 63 63*(1.+302.1608*Q_1-133.1128*Q_2)))

Реализация RS-триггера состоит из двух вызовов функции Run (self ,X,Y) :

def Run(self,R=0.0,S=0.0):

self.Q = Run_el(R,self.not_Q) self.not_Q = Run_el(self.Q,S), где переменные self.Q и self.not_Q определены в классе RS-триггера.

Список литературы:

1. Хайкин С. Нейронные сети: полный курс, 2-е изд., испр. : Пер. с англ. -М.: ООО «И.Д. Вильямс», 2006. - 1104 с.

2. Minsky ML., Papert S.A. Perceptrons / Cambridge, MA: MIT Press, 1969.

3. Werbos P.J. Backpropagation and neurocontrol: A review and prospectus / International Joint Conference on Neural Networks, - Washington - vol. I, P.109-216

4. Puskorius G.V., Feldkamp L.A. Neurocontrol of nolinear dynamical systems with Kalman filter-trained recurrent networks / G.V. Puskorius, L.A. Feldkamp // IEEE Transactions on Neural Networks, - vol. 5, -1994, - P.279-297

5. Leontaritis I. Input-output parametric models for nolinear systems: Part I: Deterministic nolinear systems. // I. Leontaritis, S. Billings / International Jornal of Control, - 1985, - vol. 41, - P. 303-328

6. Чепцов М.М, Блиндюк В.С., Кузьменко ДМ. Нейромережеве моделювання в системах керування на

залiзничному транспорта Монографiя. -Донецьк: "ДонВТ", - 2013. - 143 С.

7. РуСЬагш, МВгатБ б.г.о., https://www.jetbrains.com/pycharm/

Аннотации:

В работе предложен новый подход к моделированию работы дискретных устройств -триггеров достаточно простыми математическими средствами. С другой стороны, нашли дальнейшее развитие методы динамического нейросетевого моделирования, которые позволяют расширить класс решаемых задач и стать основой дальнейших исследований в данном направлении.

Ключевые слова: нейронные сети, нейросетевое моделирование, дискретные устройства, триггер.

In paper it is offered a new approach to modeling the operation of discrete devices- triggers with use of simple mathematical tools. On the other hand, they were developed the methods of dynamic neural network modeling, which allow to enlarge the class of problems to be solved and become the basis of further research in this direction.

Keywords: neural network, discrete devices, trigger.