Научная статья на тему 'Разработка универсальной структуры нейроэлемента для перестраиваемых вычислений'

Разработка универсальной структуры нейроэлемента для перестраиваемых вычислений Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
160
50
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
КЛЕТОЧНЫЕ НЕЙРОННЫЕ СЕТИ / КОЭВОЛЮЦИОННЫЙ АЛГОРИТМ ОПТИМИЗАЦИИ / БАНК ПАМЯТИ / КОНТРОЛЬ ЦЕЛОСТНОСТИ ИНФОРМАЦИИ / НЕЙРОННАЯ СЕТЬ

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Лавренков Юрий Николаевич

В статье рассматривается проектирование архитектуры ячейки клеточной нейронной сети, рассмотрены основные составные части вычислительного элемента и методы их реализации. Описывается способ организации оптической связи между отдельными нейронными модулями в составе сети, который обеспечивает возможность перестройки топологии в процессе обучения. Оценивается возможность обучения предложенной архитектуры с помощью коэволюционных алгоритмов оптимизации.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Разработка универсальной структуры нейроэлемента для перестраиваемых вычислений»

Список использованной литературы:

1. Кудрявченко И.В. Описание двумерного роя частиц как объекта терминального управления /И.В. Кудрявченко // Инновационная наука. -2016. - №1, ч.2. - С.64 - 67.

2. Бончковский Р.Н. Покрытие плоскости правильными многоугольниками/ Р.Н. Бончковский // Матем. просв.- 1935. - Вып. 3. - С. 15-21.

© И.В. Кудрявченко, 2016

УДК 004.8

Лавренков Юрий Николаевич

канд. техн. наук, доцент КФ МГТУ им. Н.Э. Баумана,

г. Калуга, РФ, e-mail: georglawr@yandex.ru

РАЗРАБОТКА УНИВЕРСАЛЬНОЙ СТРУКТУРЫ НЕЙРОЭЛЕМЕНТА ДЛЯ ПЕРЕСТРАИВАЕМЫХ ВЫЧИСЛЕНИЙ

Аннотация

В статье рассматривается проектирование архитектуры ячейки клеточной нейронной сети, рассмотрены основные составные части вычислительного элемента и методы их реализации. Описывается способ организации оптической связи между отдельными нейронными модулями в составе сети, который обеспечивает возможность перестройки топологии в процессе обучения. Оценивается возможность обучения предложенной архитектуры с помощью коэволюционных алгоритмов оптимизации.

Ключевые слова

Клеточные нейронные сети, коэволюционный алгоритм оптимизации, банк памяти, контроль целостности

информации, нейронная сеть.

Клеточные нейронные сети относятся к информационным системам обработки сигналов, состоящим из большого количества простых вычислительных элементов (клеток). Способ организации локальных связей между элементами в такой структуре определяет развитие параллельного процесса решения вычислительной задачи. Ключевой проблемой при синтезе нейронных сетей подобного типа является не только вопрос организации топологии связей между нейронами, но и способ конструирования минимального процессорного элемента, обеспечивающего работу клеточного нейрона. Каждая клетка представляет собой развивающуюся во времени динамическую систему. Поэтому перед началом процедуры разработки клеточной архитектуры необходимо определить внутренние структуры и переменные параметры клеточного нейрона. В общем случае структура ячейки имеет много общего с искусственными нейронами, применяемыми для построения сетей прямого распространения [1, с. 29]. Динамика изменения внутреннего состояния описывается следующим выражением:

с

X = -X+Y аиуи+ > buuu+z

акУк + Z bh"h

heM heM , (1)

yh = 1(1 * +1 -I* -1)

где х - внутреннее текущее состояние ячейки, yh - выходной сигнал, z - пороговое значение, M -количество нейронов, с которыми клетка непосредственно соединена, Uh - входной сигнал, ah, bh -коэффициенты, настраиваемые с помощью процедуры обучения для получения желаемого процесса функционирования клеточной ячейки. В качестве функции активации применяются нелинейные функции. Как следует из выражения (1) нейрон способен воспринимать входные и выходные данные от ячеек, которые расположены непосредственно рядом с ним, а способ обмена информацией будет зависеть от организации топологии связей.

Устройство системы предполагает наличие в клеточном нейроне запоминающей структуры для хранения весовых коэффициентов и внутреннего состояния нейрона. Для реализации этой возможности предлагается использовать банк памяти из 8 микросхем последовательной памяти EEPROM 24LC512. Совокупный объем банка памяти будет равен 512Kx8, что обеспечивает возможность хранения 128Kx32 весовых коэффициентов и показателей внутреннего состояния нейрона. Такая архитектура памяти ячейки позволяет строить клеточные нейронные сети с развитой топологией связей, позволяющей выполнять конструирование 3-D сетей. Структура памяти обеспечивает возможность сохранения как положительных значений весовых коэффициентов (возбуждающие синапсы), так и отрицательных (тормозящие синапсы), что позволяет реализовывать полноценную возбуждающе-тормозящую динамику. Для обеспечения защищенности внутреннего состояния клетки в состав ячейки был введён зеркальный банк памяти, выполненный на микросхемах памяти EEPROM W27C512. Выбор именно этого типа микросхем обусловлен тем, что при эквивалентной информационной ёмкости у данного класса микросхем алгоритм записи информации существенно отличается от 24LC512. Информация в двух банках полностью дублируется, а её целостность в каждом банке контролируется циклическим избыточным кодом CRC-32. Координация работы банков памяти и контроль целостности осуществляется с помощью микроконтроллера STM32F407VGT, архитектура которого имеет встроенный блок вычисления CRC. В случае преднамеренного или случайного разрушения информации в одном из банков производится процедура её восстановления из другого. Повреждение двух банков приводит к исключению клеточного нейрона из всего процесса функционирования сети. Банк памяти имеет структуру, представленную на рисунке (рис. 1).

Рисунок 1 - Структура банка памяти

_МЕЖДУНАРОДНЫЙ НАУЧНЫЙ ЖУРНАЛ «СИМВОЛ НАУКИ» №1/2016 ISSN 2410-700Х_

Принцип функционирования нейронов подобного типа предполагает выполнение процесса интегрирования после получения выходного сигнала в цифровой форме. Конструкция клеточных нейронных сетей должна обладать возможностью воспринимать большое количество сигналов от нейронов, расположенных в сфере влияния [2, с. 53]. Для упрощения процедуры взаимодействия клеток друг с другом выход нейрона был выполнен в виде оптического излучателя - инфракрасного светодиода. Цифровой выходной сигнал, определяемый внутренним состоянием, входными и выходными сигналами подавался на модуль широтно-импульсной модуляции микроконтроллера, который управлял интенсивностью свечения светодиода. В качестве фотоприёмника применялся фотодиод SFH213FA включенный в качестве переменного сопротивления, задающего управляющий ток в токовом зеркале Уилсона. Напряжение на нагрузочном резисторе будет пропорционально выходу клеточного элемента и при дальнейшей обработке может быть проинтегрировано. Появления оптической связи между элементами нейронной сети позволит ввести в алгоритм обучения дополнительные параметры, управляющие передачей оптического сигнала между клеточными нейронами. Для реализации этой возможности связь между элементами реализуется с помощью оптических волокон, коммутируемых оптомеханическими переключателями. Появляется возможность управлять не только параметрами в банках памяти нейронного элемента с помощью алгоритма обучения, но и изменять топологию сети, подстраивая её архитектуру под решаемую задачу.

Первоначальная инициализация всех структур клетки осуществлялась случайными числами. Амплитуда выходного сигнала этой динамической системы будет похожа на сигнал, показанный на рисунке (рис. 2).

1,5.............................i.......................................................i............................i...........................-I............................i............................

Отсчёты времени (сек.)

Рисунок 2 - Выходной сигнал ячейки до выполнения процесса обучения

Сложность каждой ячейки делает необходимым применение для настройки параметров нейронной сети алгоритмов, способных объединять результаты работы некоторого множества оптимизационных методов. В данной работе предлагается применять генетический коэволюционный алгоритм для настройки переменных параметров клеточной структуры и способа взаимодействия нейронов между собой. В качестве основных субпопуляционных алгоритмов использовались классические генетические алгоритмы, которые имели одинаковую структуру и значения переменных параметров. Несмотря на значительные затраты на настройку коэволюционных алгоритмов их эффективность выше, чем у генетических алгоритмов. После выполнения процедуры обучения ячейка способна воспроизводить заданную зависимость (рис. 3).

Отсчёты времени (сек.)

Рисунок 3 - Воспроизводство функциональной зависимости ячейкой

Представление выходного сигнала ячейки может быть реализовано не только в виде изменения амплитуды сигнала, но и в форме последовательности импульсов [3, с. 27], что делает возможным организовать вывод информации из нейрона в виде частоты следования, амплитуды, а также количества импульсов в группе. Преобразование сигнала, показанного на рис. 3, в последовательность групп импульсов может быть осуществлено по математическим зависимостям, приближающим процесс функционирования ячейки к динамике естественного нейрона. Также становится возможным реализовать период вынужденного молчания ячейки (рефрактерный период). На рис. 4 показан выходной сигнал ячейки после преобразования сигнала (рис. 3) в последовательность групп импульсов.

Рисунок 4 - Выходной сигнал ячейки в виде пачек импульсов

С помощью предложенной ячейки и способа организации вывода информации из нейронного элемента можно осуществить построение нейронных ансамблей с развитым механизмом взаимодействия элементов. Т.к. взаимодействие связано с наличием функциональных контактов между нейронами, то

_МЕЖДУНАРОДНЫЙ НАУЧНЫЙ ЖУРНАЛ «СИМВОЛ НАУКИ» №1/2016 ISSN 2410-700Х_

предложенный оптический способ связи позволяет эффективно перестраивать внутреннюю структуру сети для решения сложных вычислительных задач. Список использованной литературы:

1. Васильев А.Н., Тархов Д.А. Принципы и техника нейросетевого моделирования. - СПб.: Нестор-История, 2014. - 218 с.

2. Кащенко С.А., Майоров В.В. Модели волновой памяти. Изд. стереотип. - М.: Книжный дом «ЛИБРОКОМ», 2014. - 288 с.

3. Н. Джон, М. Роберт, В. Брюс, Ф. Пол. От нейрона к мозгу / Пер. с англ. П.М. Балабана, А.В. Галкина, Р.А. Гиниатуллина, Р.Н. Хазипова, Л.С. Хируга. - М.: Едиториал УРСС, 2003. - 672 с.

© Ю Н. Лавренков, 2016

УДК 623.452

Лебедев Вадим Владимирович

канд. техн. наук, доцент ВУНЦ ВВС «ВВА»,

г. Воронеж, РФ E-mail: wwl68@mail.ru Сухарев Владимир Александрович канд. техн. наук, ст. преподаватель ВУНЦ ВВС «ВВА»,

г. Воронеж, РФ

УЧЕТ АПРИОРНОЙ ИНФОРМАЦИИ О НАДЕЖНОСТИ ЭЛЕМЕНТОВ СЛОЖНОЙ ТЕХНИЧЕСКОЙ СИСТЕМЫ НА СТАДИИ РАЗРАБОТКИ ОПЫТНЫХ ОБРАЗЦОВ

Аннотация

Рассматривается задача обеспечения заданной достоверности принимаемых решений с использованием данных испытаний элементов сложной технической системы

Ключевые слова

Сложная техническая система, структурная схема надежности, автономные испытания элементов

Подтверждение надежности дорогостоящих сложных технических систем (СТС) экспериментальным методом по результатам приемо-сдаточных испытаний на основе классических соотношений математической статистики затруднено из-за малого объема выборки.

Одним из путей решения этой задачи является переход к исследованию составных частей (отдельных узлов) с использованием для подтверждения надежности СТС дополнительной информации и данных автономных испытаний элементов [1, с. 26].

Необходимый объем выборки при проведении испытаний в нормативных условиях без привлечения какой-либо дополнительной информации:

n (1)

In Ртр

При планировании испытаний на надежность практический интерес представляют безотказные испытания. При всех безотказных испытаниях элементов получим:

Р\хк) = nfi^r , (2)

где n* = minn - эквивалентное n (i = \...m) испытаниям элементов число испытаний СТС;

\<i<m

i Надоели баннеры? Вы всегда можете отключить рекламу.