Использование нейронных сетей при определении неисправностей электронных приборов Текст научной статьи по специальности «Компьютерные и информационные науки»

© A.A. Анисимов, 2013

УДК 004.032.26 A.A. Анисимов

ИСПОЛЬЗОВАНИЕ НЕЙРОННЫХ СЕТЕЙ ПРИ ОПРЕДЕЛЕНИИ НЕИСПРАВНОСТЕЙ ЭЛЕКТРОННЫХ ПРИБОРОВ

Рассказано о возможностях нейронных сетей, об их применении в разных сферах человеческой деятельности. Описана задача «сломанного дисплея калькулятора» и ее решение с помощью пакета STATISTICA Neural Networks - мощного инструмента анализа и прогнозирования данных, имеющего широкое применения в бизнесе, промышленности, управлении, финансах.

Ключевые слова: нейронные сети, пакет прикладных программ STATISTICA, электронные приборы.

В последние несколько лет мы наблюдаем взрыв интереса к нейронным сетям, которые успешно применяются в самых различных областях - бизнесе, медицине, технике, геологии, физике. Нейронные сети вошли в практику везде, где нужно решать задачи прогнозирования, классификации или управления. Такой впечатляющий успех определяется несколькими причинами:

• Богатые возможности. Нейронные сети - исключительно мощный метод моделирования, позволяющий воспроизводить чрезвычайно сложные зависимости. В частности, нейронные сети нелинейны по свой природе. На протяжение многих лет линейное моделирование было основным методом моделирования в большинстве областей, поскольку для него хорошо разработаны процедуры оптимизации. В задачах, где линейная аппроксимация неудовлетворительна (а таких достаточно много), линейные модели работают плохо. Кроме того, нейронные сети справляются с «проклятием размерности», которое не позволяет моделировать линейные зависимости в случае большого числа переменных;

• Простота в использовании. Нейронные сети учатся на примерах. Пользователь нейронной сети подбирает представительные данные, а затем запускает алгоритм обучения, который автоматически воспринимает структуру данных. При этом от пользователя, конечно, требуется какой-то набор эв-

ристических знаний о том, как следует отбирать и подготавливать данные, выбирать нужную архитектуру сети и интерпретировать результаты, однако уровень знаний, необходимый для успешного применения нейронных сетей, гораздо скромнее, чем, например, при использовании традиционных методов статистики.

Нейронные сети привлекательны с интуитивной точки зрения, ибо они основаны на примитивной биологической модели нервных систем. В будущем развитие таких нейро-биологи-ческих моделей может привести к созданию действительно мыслящих компьютеров. Между тем уже «простые» нейронные сети, которые строит система ST Neural Networks , являются мощным оружием в арсенале специалиста по прикладной статистике.

Класс задач, которые можно решить с помощью нейронной сети, определяется тем, как сеть работает и тем, как она обучается. При работе нейронная сеть принимает значения входных переменных и выдает значения выходных переменных. Таким образом, сеть можно применять в ситуации, когда у Вас имеется определенная известная информация, и Вы хотите из нее получить некоторую пока не известную информацию (Patterson, 1996; Fausett, 1994). Вот некоторые примеры таких задач:

Прогнозирование на фондовом рынке. Зная цены акций за последнюю неделю и сегодняшнее значение индекса FTSE, спрогнозировать завтрашнюю цену акций.

Предоставление кредита. Требуется определить, высок ли риск предоставления кредита частному лицу, обратившемуся с такой просьбой. В результате разговора с ним известен его доход, предыдущая кредитная история и т.д.

Управление. Нужно определить что должен делать робот (повернуться направо или налево, двигаться вперед и т.д.), чтобы достичь цели; известно изображение, которое передает установленная на роботе видеокамера.

Разумеется, вовсе не любую задачу можно решить с помощью нейронной сети. Если хотим определить результаты лотереи, тираж которой состоится через неделю, зная свой размер обуви, то едва ли это получится, поскольку эти вещи не связаны друг с другом. На самом деле, если тираж проводится честно, то не существует такой информации, на основании кото-

рой можно было бы предсказать результат. Многие финансовые структуры уже используют нейронные сети или экспериментируют с ними с целью прогнозирования ситуации на фондовом рынке, и похоже, что любой тренд, прогнозируемый с помощью нейронных методов, всякий раз уже бывает «дисконтирован» рынком, и поэтому (к сожалению) эту задачу тоже вряд ли удастся решить.

Я бы хотел показать, как нейронные сети можно использовать в распознавании образов используя аналитический пакет ST Neural Networks . Данные имитируют «цифры», высвечивающиеся на экране неисправного калькулятора. Наблюдаемые классы зависимой переменной Digit соответствовали цифрам 0-9, которые вводились с клавиатуры калькулятора.

В задаче имеется 7 категориальных предикторов: Varl -Var7 по числу линий, образующих цифру.

Уровень категориального предиктора (0 - отсутствует; 1 -присутствует) показывает, высвечивалась ли на экране соответствующая ему одна из 7 линий (3 горизонтальных и 4 вертикальных). Описание предикторных переменных: Varl -верхняя горизонтальная, Var2 - верхняя левая вертикальная, Var3 - верхняя правая вертикальная, Var4 - средняя горизонтальная, Var5 - нижняя левая вертикальная, Var6 - нижняя правая вертикальная и Var7 - нижняя горизонтальная (см. рис. 1).

Рис. 1. Названия предикторов и соответствующие им линии

Калькулятор неисправен, поэтому при нажатии какой-либо кнопки на цифровой клавиатуре, на экране не всегда высвечивается правильная комбинация линий. Структура данных

На рис. 2 приведены первые 10 наблюдений файла данных.

Ü Данные: Digit.sta* (8v * íDDc)

Exemple data for pattern recognition . Л.

1 2 3 A 5 6 7 8 —

DIGIT VARI VAR2 VAR3 VAR4 VAR5 VARE VAR7

1 seven lONE ZERO ONE ZERO ZERO ONE ZERO

2 one ZERO ZERO ONE ZERO ZERO ONE ZERO

3 four ZERO ONE ONE OWE ZERO ONE ZERO

4 two ONE ONE ONE OWE ONE ZERO ZERO

5 eight ZERO ONE ONE OWE OWE ONE ONE

6 one ZERO ZERO ONE ZERO ZERO ONE ZERO

7 five ONE ONE ZERO OWE ZERO ONE ONE

3 six OWE ZERO ZERO OWE OWE ONE ONE

Э two ONE ZERO ONE OWE OWE ZERO ONE

10 eight ONE ONE ONE OWE ZERO ONE ONE

Ы J

Рис. 2. Фрагмент исходного файла данных

Результаты распознавания записаны в первой переменной (DIGIT). В переменные VAR1-VAR7 записаны уровни независимых категориальных предикторов.

Построение модели

В данном примере необходимо построить модель распознавания цифр, выдаваемых реальным калькулятором.

Разумно сформулировать следующие требования к нейронной сети: 1) сеть должна обладать возможностью экстраполировать за область обучающих данных (т.е. давать правильный прогноз при комбинациях предикторов, которые сильно отличаются от обучающего множества), 2) требовать небольшого времени для прогноза (это диктуется требованиями практического применения).

Указанным условиям соответствует архитектура многослойного персептрона. Число элементов на скрытом слое выберем равным 5 (классификация проводится в 10 классов). Обычно, в первом приближении при построении модели на скрытом слое выбирается число элементов, равное полусумме числа входных и выходных элементов, но в данной задаче выбор еще обусловлен количеством классов.

Сначала необходимо определится с переменными (рис. 3), какие из них буду выходные (DIGIT - зависимая категориальная переменная), а какие выходные (VAR1-VAR7 - независимые категориальные предикторы)

Задайте иионме, независимые и кодирующую переме»и»ыс

Богъц» |

кит

i-VAftl

JViflJ J-VAflJ

4-VAR3

(WflJ 5-VARJ

EV4H5 3VAB5

7*f№6 ?V*RB

6VAH7 Et'Mfl?

Имю

Kjrsfif] Hiw

Eantiije | Htnfi вюипи

Ш1

iwяг

JVAR3

WAR*

6VAR5

7-VARB

SVART

J

Ьопьшг

Иноо

гош

2VAR1 WHS 4WR3 5VAJM JVAHS ЯЙЛЕ S VfiRT

Болым |

OK

Отмбнь

Им»

(K(rif»<f KMwitJtw».

m-1-

Рис. 3. Диалог выбора переменных

Тип, который отлично подходит под задачу и будет использоваться в обучении этой сети, Многослойный Персептрон (рис. 4) . Число элементов на скрытом слое можно определить как 5 (рис. 5).

После обучения сети и проведения расчетов необходимо проанализировать результаты. Производительность классификатора на контрольном и тестовом множествах равняется приблизительно 71-72 (рис 6) .

По полученной описательной статистике обучения можно определить количество «правильных», «ошибочных» и «нераспознанных» знаков. Здесь также приводится процентная статистика по каждой, отдельно взятой переменной (рис. 7).

Архитектуру построенной сети удобно представить в графическом виде (рис. 8).

Рис. 4. Диалог выбора типа сети

Рис. 5. Диалог задания параметров сети

ш

Результаты: МкМка

N Апитатоа Пда<№й. I Коити их1 1 Тест, щ» Ошибке 0

17 МП 7:7-5-151 0 72ЙВ0 о.71 гаю 1,204549 м

<1 I

а*

Ййпюнйм*

Частая ыьность

1® Все С Веч" Г О^чсшая Клнтро(*ит С I«™« Ипчмнеэть

I У I ^'п1 ЛЫ НС*К

+ С + » I

Обмена

Опит

НЛГЧП* йадчя

И

— к1:|» ъ ■ I* о

Быстры"1 | Дяи*тгыьна| П^^г^-^нй« | ч «п виге1Ъ>щ£-ь Ошит^ллив |

. ГЧВМ Н ЛЬ

"ч ь Луч«ь »IV. ■Т+^ГЧ»1»^ СННМ

I

■ А^Л* »мМмН

лаъм нигчл

II? НаЙпацегШ! I Эпопея« Г:Д

С йгч

СЦЩ1«!

Рис. 6. Результаты вычислений

| |Ц Номныс: к Р4(с^чкации (17 > (НцЮ*

Классификация (17 ) (П «1 я)

ПвГГопя 17 ОЮНГоиг. 17 DIGtT.lv«>. 17 DIGIT.eigM.17 В

Всего адИЯС! 43ДОООО а .ооооо 4300000 50ДШЗ

Правильно 52)00000 34.00000 43100000 35.00000 ¿1.00000

Ошибочно 16,000В эшио 9ШВ зщюо 17ДЮВ

Наиэиепн 0,00000 ошюо 0,00000 0,00000 0.00000

М правильных 66]66667 79ЛВ977 62 £9231 в1.39536 70.68966

% ошибочны! зэдазэ ицээогз 17,30(769 183)465 29.31034

% неизвестно о.оопоо о дате 0,00000 0,00000 п.поппо 11

J л и

Рис. 7. Фрагмент окна таблицы описательных статистик

БТАТ1БТ1СА позволяет отображать с помощью цвета уровни активации нейронов на входных, выходных и скрытых слоях. Уровни активации выделены цветом: темным (черный) - для положительной активации, полупрозрачным (серым) - для отрицательной.

Рис. 8. Архитектура построенной сети

В настоящее время искусственные нейронные сети являются важным расширением понятия вычисления. Они уже позволили справиться с рядом непростых проблем и обещают создание новых программ и устройств, способных решать задачи, которые пока под силу только человеку. Современные нейрокомпьютеры используются в основном в программных продуктах и поэтому редко задействуют свой потенциал «параллелизма». Эпоха настоящих параллельных нейровычислений начнется с появлением на рынке большого числа аппаратных реализаций — специализированных нейрочипов и плат расширений, предназначенных для обработки речи, видео, статических изображений и других типов образной информации.

- СПИСОК ЛИТЕРАТУРЫ

1. Нейронные сети. STATISTICA Neural Networks В.П. Боровикова.

2. http://www.statsoft.ru - официальный сайт компании StatSoft, ir.'j=i

КОРОТКО ОБ АВТОРЕ -

Анисимов Антон Андреевич - магистрант кафедры АСУ Московский государственный горный университет, ud@msmu.ru