Применение сети Хопфилда в качестве инструмента распознавания образов Текст научной статьи по специальности «Компьютерные и информационные науки»

УДК 004.8

ПРИМЕНЕНИЕ СЕТИ ХОПФИЛДА В КАЧЕСТВЕ ИНСТРУМЕНТА РАСПОЗНАВАНИЯ ОБРАЗОВ Бобрикова Ксения Анатольевна, студентка

(e-mail: [email protected]) Павлова Анна Илларионовна, к.т.н., доцент

(e-mail:[email protected]) Новосибирский государственный университет экономики и управления, г.Новосибирск, Россия

В статье рассмотрены вопросы обучения нейронной сети для распознавания образов. Для этого разработана программа на языке Microsoft Visual Studio 2010 C# для распознавания образов на основе сети Хопфилда.

Ключевые слова: нейронные сети, распознавание образов, сеть Хопфил-да

Многие физиологические свойства головного мозга человека до конца еще не изучены. Одним из таких свойств является образное восприятие мира. Под образом часто понимается класс (группа) объектов, все элементы которой охарактеризованы отдельным признаком. Признаком может служить количественное выражении отдельного параметра исследуемого объекта [1-2].

Благодаря способности распознавания, люди мгновенно узнают друг друга. Образы обладают свойством объективности. Люди, обучающиеся в разных условиях, распознают и классифицируют определенные объекты одинаково. Все элементы одной группы необязательно должны быть максимально подобны. Распознавание образов по существу заключается в сравнении и определении степени сходства образа данного конкретного объекта с образами других объектов, в результате которой формируется ответ о принадлежности определяемого образа к какому-либо классу или рейтинг объектов по убыванию степени сходства с распознаваемым объектом [1-2].

Существует разнообразные методы, используемые для распознавания образов. К числу современных методов относятся искусственные нейронные сети (ИНС). Главным достоинством ИНС в задачах распознавания является их функционирование подобно человеческому мозгу. ИНС присущи следующие качества: обучение на основе опыта, обобщение знаний, извлечение необходимой информации из множества исходных данных [3-6].

Обучение на основе опыта. ИНС способны обучаться и выстраивать архитектуру взаимосвязи межу нейронами при изменении внешних условий. К обучению сетей на основе опыта можно отнести способность ИНС самостоятельно «высвобождается» из локального минимума. Если в ходе дальнейшего обучения после нескольких итераций сетью получено такое же решение, то оно будет с большой вероятностью являться наиболее опти-

мальным.

Обобщение. Человек в процессе распознавания образов обобщает отдельные буквы в слова, слова - в предложения. Обученная определенным алгоритмом ИНС демонстрирует похожее свойство. Это свойство очень важно для задачи распознавания образов, позволяет избежать необходимости строгого соответствия входным данным.

Абстрагирование. Посредством данного свойства, ИНС может извлекать наиболее существенную информацию, идеальные образы для «запоминания». Это свойство является важным при распознавании образов.

Американский ученый Джон Хопфилд в 1982 г. один из первых разработал сеть, способную распознавать образы на основе ассоциативной памяти. Ассоциативная память представляет собой система, которая определяет взаимную зависимость векторов входных данных. Различают ассоциативную память двух типов: автоассоциативная (на взаимозависимость векторов исследуются компоненты одного и того же вектора) и гетероассоциа-тивная (если взаимозавимыми оказываются два разных вектора). Задача ассоциативной памяти заключается в запоминании идеальных образов. При предоставлении нового искаженного образа, сеть должна дать ответ, какому из идеальных образов соответствует искаженный образ.

Особенностью сети Хопфилда является наличие обратных связей (рис. 1), поэтому сеть относится к рекуррентным. Сеть Хопфилда состоит из п входов и п нейронов. Каждый выход подсоединяется ко всем нейронам на входе, кроме самих себя. На каждом следующем шаге функционировании сети /-ый выход становится 1-ым входом.

обратная связь •-----

Вход Выход

Рис. 1. Модель сети Хопфилда

В настоящей статье рассматривается классическая сеть Хопфилда, обучаемая по правилу Хебба. Предположим, что порог срабатывания является компонентой входного вектора х. Основная зависимость, определяющая

сеть Хопфилда, описывается в виде формулы с начальным условием У (0) = ^:

( N Л

Уi ^) = Sgn 2 1 ^ _1)

V1=и*j ). (2)

В классической сети Хопфилда отсутствует связь нейрона с собственным, т.е. = 0, а матрица весов является обязательно должна быть симметричной: W = wT. Каждый нейрон в сети имеет функцию активации типа и принимает значения ±1 и выходной сигнал * - го нейрона задается в виде:

( N Л

У, =

2 1 + Ъ

V1=°

(1)

где N - количество нейронов, N = п

Структура сети Хопфилда представляется в виде системы с непосредственной обратной связью выхода со входом. Выходные сигналы нейронов

связаны с входными сигналами сети: х ) = У ~1). В процессе функционирования сети Хопфилда можно выделяют два режима: обучения и классификации. В режиме обучения при использовании исходных векторов подбираются Синаптические веса сети. В режиме классификации при фиксированных значениях весов и использовании конкретного начального состояния нейронов возникает переходный процесс по формуле (1), завершающийся в точке локального минимума при У ) = У "1).

При обучении по правилу Хебба для одного обучающего вектора Х значения весов могут быть вычислены:

1

=— Х1Х1

1 N * 1, (3)

При использовании большего количества обучающих векторов

х(*),k =1,2,. ., р веса подбираются согласно обобщенному правилу Хеб-ба

wj=- 2 х( *) х 1)

N6 * 1 . (4)

Полученный образ сеть сравнивает с эталонами, и восстанавливает его до более «похожего». Для сходимости алгоритма должны выполняться условия: матрица весов должна быть квадратной; диагональные элементы матрицы должны быть равны нулю ^ц=0); должна соблюдаться симметричность связей Сеть Хопфилда обучается до состояния равновесия. При обучении предполагается если сеть на текущей итерации дает один и тот же ответ, что и на предыдущем шаге, то ответ является верным. Сеть стремится занять состояние равновесия и приблизилась к аттрактору. Множество аттракторов представляет память сети Хопфилда. Однако при обучении сети Хопфилда возникают случаи, когда устойчивое состояние сети достигнуто, но сгенерированное решение не является верным. Такое

явление называется ложным распознаванием или локальным минимумом сети. Для решения данной проблемы используется множество модификаций сети Хопфилда.

При изучении возможностей сети Хопфилда актуален вопрос устойчивости сети. Сеть называется устойчивой, если изменение выхода сети становится меньше с каждой итерацией, пока выход не окажется постоянным. В противном случае, сеть называют неустойчивой [2].

Для доказательства устойчивости сети Хопфилда используется функция, зависящая от состояния сети и называемая функцией энергии:

1 п П П

E ^) = - 2 TTwjУiУJ + 1© ]У]

2 i=1 . (5)

Изменение функции энергии, вызванное изменением состояния 1-го нейрона:

ае = (-¿>*уi +©;)АУ; -©;)Ау,

i* J

(6) 0,

где J - значение выхода j-го нейрона; J - пороговое значение j-го нейрона. Доказано, что для устойчивой сети любое изменение состояния нейрона либо уменьшит энергию сети, либо оставит неизменной.

В работе приведен пример программы для распознавания образов, разработанной на языке Microsoft Visual Studio 2010 C#. Входные образы представляются векторами размерностью 81 пиксел. Программа позволяет одновременно «запомнить» до 7 образов. Это объясняется ограничением емкости сети Хопфилда. Основное меню программы представлено на рис. 2. Для начала работы программы необходимо занести в память эталоны. Для этого необходимо загрузить нужный образ с величиной искажений "ideal" и затем нажать кнопку «Запомнить». После «запоминания» всех необходимых образов, сеть нужно обучить и после этого программа готова для распознавания.

Распознавание обра:

0

Обучить сеть I Искажения Загружаемый офаз

© ideal О 15% © 1 © 2 © 3 © 4 © 5 © б О 7

© 5% © 20% © Е © Ж О И О К © M С H О П © 10% © 30%

Загрузить

Рис. 2. Интерфейс программы

Примеры распознавания букв «Е» и буквы «М» приведены на рис. 3-4.

Процент искажений в исходном образе (эталоне)

Искаженны й образ

Распоз

нанный

образ

Энергия сети

Рис. 3. Примеры распознавания буквы «Е» и значение функции энергии

Процент искажений в исходном образе (эталоне)

Рис. 4. Примеры распознавания буквы «М» и значение функции энергии

Проведенные исследования показали, что ИНС обученная на основе сети Хопфилда хорошо справляется с задачей распознавания образов, содержащих до 30% искажений. Таким образом, сеть является устойчивой, т.к. с каждым шагом работы алгоритма значение функции энергия сети уменьшается.

Список литературы

1. Комарцова Л.Г., Максимов А.В. Нейрокомпьютеры: учеб. пособие для вузов. -М.: Изд-во МГТУ им. Н.Э. Баумана, 2002. - 320 с.

2. Галушкин А.И. Нейронные сети: основы теории / А. И. Галушкин. - М.: Горячая линия-Телеком, 2010. - 496 с.

3. Каличкин А.И., Павлова А.И. Применение нейронной экспертной системы для классификации эрозионных земель // Сибирский вестник сельскохозяйственной науки. - 2014. - № 6. - С. 5-11.

4. Павлова А.И., Каличкин В.К. Картографирование эрозионных земель с помощью ГИС и нейронной экспертной системы // Интерэкспо Гео-Сибирь. 2013. Т. 3. № 4. С. 170-173.

5. Павлова А.И., Каличкин В.К. Автоматизированное картографирование сельскохозяйственных земель с помощью нейронной экспертной системы, интегрированной с ГИС // Достижения науки и техники АПК, 2011. - № 1. - С. 5 - 8.

6. Современные вычислительные сети с использованием туманных технологий / Медведева В.А., Осипенко А.С., Бабешко В.Н.// Современные инструментальные системы, информационные технологии и инновации. - Курск, 2015. С. 76-79.

Bobrikova Ksenya Anatolevna, student

(e-mail: [email protected])

Novosibirsk state university of economic and management, Novosibirsk, Russia

Pavlova Anna Illarionovna, Associate Professor, associate professor of Applied information technologies, Ph.D.

Novosibirsk state university of economy and management, Russia

Novosibirsk, Kamenskaya St. 52, case 5, audience 5-409.

e-mail: [email protected]

APPLICATION OF THE HOPFILDA NETWORK AS THE INSTRUMENT OF RECOGNITION OF IMAGES

Abstract. In article questions of training of a neural network for recognition of images are considered. The program in the Microsoft Visual Studio 2010 C# language is for this purpose developed for recognition of images on the basis of Hopfild's network.

Keywords: neural networks, recognition of images, Hopfild's network

ПРЯМАЯ И ОБРАТНАЯ ПОЗИЦИОННАЯ ЗАДАЧА ПЛАТФОРМЫ ГЬЮ-СТЮАРТА С ШЕСТЬЮ СТЕПЕНЯМИ СВОБОДЫ

Гебель Е.С., Воробьев А.

Омский государственный технический университет, Россия E-mail: [email protected]

Платформа Гью-Стюарта с шестью степенями свободы широко используется при создании различных мехатронных устройств, в частности контрольно-измерительных головок, испытательных стендов и т.д. Достоинствами исследуемого механизма является повышенная жесткость и компактность конструкции, а недостатками - возможная потеря управляемости. В статье предложены методики решения прямой и обратной задач о положениях, которые, в соответствии с конструктивными особенностями используемых приводов, позволят оценить область допустимых положений платформы Гью-Стюарта.. Проверка адекватности предложенных подходов проводилась путем численного эксперимента в программной среде MathCad.