Научная статья на тему 'Применение генетических алгоритмов для автоматического формирования нейронных сетей'

Применение генетических алгоритмов для автоматического формирования нейронных сетей Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
103
39
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
НЕЙРОННЫЕ СЕТИ / NEURAL NETWORK / ГЕНЕТИЧЕСКИЕ АЛГОРИТМ / GENETIC ALGORITHM

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Камшилова Ю.А.

Рассмотрен алгоритм автоматического формирования и обучения искусственных нейронных сетей с использованием генетических алгоритмов. Проведено исследование эффективности алгоритма на тестовых задачах аппроксимации.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

AUTOMATIC NEURAL NETWORK APPLICATION TO DEVELOP GENETIC ALGORITHMS

The approach to automatic neural network development and learning artificial genetic algorithm is shown and the efficiency at the approximation tasks is examined.

Текст научной работы на тему «Применение генетических алгоритмов для автоматического формирования нейронных сетей»

Распределение потенциала самосогласованного электрического поля дает соответствующее распределение напряженности самосогласованного поля, его энергии и мощности [2; 4; 5].

Е(х, t) = ^гааф( х, Г), (6)

^ = {еЕ2(х,()ё¥; = • /р , (7)

где и - энергия и мощность соответственно,

созданные зарядами потока электронов; /р =юр / 2п -

рабочая частота анодного поля электронной пушки, модулирующего поток электронов.

Представленные выражения (1)-(7) пригодны для описания потенциала, напряженности, энергии и мощности самосогласованного поля идеальных потоков электронов, состоящих только из электронов. В реальных потоках электронов присутствуют нейтральные частицы, поэтому происходит экранирование и рассеяние электронов нейтральными атомами и молекулами рабочей среды. Влияние такого экранирования учитывается введением поправки в виде радиуса Дебая [1]:

ф(х, Г) = (р V / 4лег)ехр(-г / Б)е^, (8) где г = (е / 4пеЕа )12 - среднее расстояние между электронами в пучке; Ea - напряженность анодного поля электронной пушки; Б ~ 5(Т/пы )12 - радиус Де-бая, учитывающий экранирование заряженных частиц в пучке нейтральными атомами рабочей среды; Т -температура пучка, К.

Уменьшение эффекта экранирования и рассеяния нейтральными частицами в потоке электронов можно достигнуть путем применения в процессе формирования потоков электронов мембран электронов [6], которые пропускают электроны через мембрану и задерживают нейтральные частицы, анионы и катионы ионизированной рабочей среды.

Библиографические ссылки

1. Энциклопедия низкотемпературной плазмы : в 4 т. / под ред. В. Е. Фортова. М. : Наука, 2000. С. 316-320.

2. Власов А. А. Теория вибрационных свойств электронного газа и ее приложения // Уч. зап. МГУ. 1945. В. 75 кн. Кн. 2. Ч. 1.

3. Власов А. А. Статистические функции распределения. М. : Наука, 1966. 356 с.

4. Шимони К. Теоретическая электротехника. М. : Мир, 1964. 773 с.

5. Пат. 2505915 РФ, МПК H02N 3/00. Электронный генератор электроэнергии / Казьмин Б. Н., Трифанов И. В., Оборина Л. И., Дубова Е. Д., Стерехов И. В. Опубл. 27.01.2014, Бюл. № 3.

6. Пат. 2472964 РФ, МПК F03H 1/00. Плазменно-реактивный электродиамический двигатель / Трифа-нов И. В., Казьмин Б. Н., Оборина Л. И., Сутягин А. В. Опубл. 20.01.2013, Бюл. № 2.

References

1. The Encyclopedia of Low Temperature Plasma : 4 t. / Ed. V. E. Fortova. M. : Science, 2000, S. 316-320.

2. Vlasov A. A. Theory of the vibrational properties of the electron gas and its applications // Uch. Rec. MSU. 1945, Century 75 kN. 2 Part 1.

3. Vlasov A. A. Statistical distribution function. Moscow, Nauka, 1966, 356 p.

4. Shimoni K. Theoretical Electrical Engineering. M., "Mir", 1964, 773 p.

5. Pat. Number 2505915 RF, IPC N02N 3/00, Bull. № 3. Electronic power generator / Kaz'min B. N., Trifanov I. V., Oborina L. I., Dubov E. D., Sterekhov I. V. Publ. 27.01.2014.

6. Pat. Number 2472964 RF, IPC F03H 1/00, Bull. № 2. Plasma-jet engine elektrodiamichesky / Trifanov I. V., Kaz'min B. N., Oborina L. I., Sutyagin A. V. Publ. 20.01.2013.

© Казьмин Б. Н., Рыжов Д. Р., Трифанов И. В., 2014

УДК 004.94

ПРИМЕНЕНИЕ ГЕНЕТИЧЕСКИХ АЛГОРИТМОВ ДЛЯ АВТОМАТИЧЕСКОГО ФОРМИРОВАНИЯ НЕЙРОННЫХ СЕТЕЙ

Ю. А. Камшилова

Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660014, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: julia.kamshilova@gmail.com

Рассмотрен алгоритм автоматического формирования и обучения искусственных нейронных сетей с использованием генетических алгоритмов. Проведено исследование эффективности алгоритма на тестовых задачах аппроксимации.

Ключевые слова: нейронные сети, генетические алгоритм.

Решетневскуе чтения. 2014

AUTOMATIC NEURAL NETWORK APPLICATION TO DEVELOP GENETIC ALGORITHMS

Y. A. Kamshilova

Siberian State Aerospace University named after academician M. F. Reshetnev 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660014, Russian Federation E-mail: julia.kamshilova@gmail.com

The approach to automatic neural network development and learning artificial genetic algorithm is shown and the efficiency at the approximation tasks is examined.

Keywords: neural network, genetic algorithm.

Искусственные нейронные сети в настоящее время широко используются при решении самых разных задач в области классификации, распознавания образов, прогнозирования и управления. Однако использование нейронных сетей при решении конкретных практических задач ставит перед исследователем следующие важные проблемы:

1. Проблема выбора эффективной структуры нейронной сети, обусловленная спецификой решаемой задачи.

2. Проблема обучения нейронной сети (настройки весовых коэффициентов).

Выбор оптимальной структуры нейронной сети затруднителен: недостаточная сложность не позволяет получить приемлемый результат из-за своей ограниченности, тогда как избыточная сложность требует больше ресурсов для обучения сети. Поэтому предлагается использовать многокритериальный генетический алгоритм [1; 2] для автоматического формирования структуры нейронной сети, так как он эффективен при решении задач глобальной оптимизации. В качестве критериев используется ошибка моделирования и размер сети - комбинация общего количества нейронов и количество скрытых слоев.

При формировании структуры нейронной сети, с использованием многокритериального генетического алгоритма, необходимо закодировать ее в бинарную строку, для этого необходимо задать максимальное количество скрытых слоев и нейронов на них, также для каждого нейрона необходимо выбрать вид акти-вационной функции [3]. Каждый нейрон сети кодируется в четыре бита, которые соответствуют закодированному в двоичный код номеру одной из 15 актива-ционных функций или сообщают о том, что нейрон отсутствует. Длина бинарной строки постоянна, так как кодируется для максимального количества скрытых слоев и нейронов. Скрытые слои сети находятся в бинарной строке последовательно: сначала кодируются нейроны соответствующие первому скрытому слою, затем - второму и т д. (см. рисунок).

первый скрытый слой п"ыи скрыгыи слои

1° 1 1 0 | о| о| 0|о | 1 0 0 о| I "I "I о|о | о| о| о| I D | 0 | с I

закодированным номер активационной функции

Закодированная в бинарную хромосому структура нейронной сети

Для настройки весовых коэффициентов каждой полученной структуры применяется однокритериаль-ный генетический алгоритм, позволяющий избежать недостатки использования алгоритма обратного распространения ошибки.

Эффективность алгоритма проверялась на тестовых задачах аппроксимации [4]. Тестирование проводилось по следующим правилам:

1. Для настройки структуры: размер популяции - 20, количество поколений - 20, селекция - турнирная с размером 2.

2. Для весовых коэффициентов: размер популяции - 20, количество поколений - 50.

3. Объем выборки - 200: соотношение обучающей и тестовой выборок - 70 и 30 % соответственно.

4. Количество запусков при каждых настройках алгоритма - 30.

По результатам тестирования можно сказать, что сеть с настроенной структурой при помощи многокритериального генетического алгоритма и обученная однокритериальным генетическим алгоритмом решает задачи аппроксимации лучше, чем сеть с фиксированной структурой.

Реализованная в ходе работы схема формирования нейронных сетей позволяет создавать полносвязные нейронные сети с произвольной структурой (количество скрытых слоев и нейронов на них) и различными активационными функциями в нейронах. Применение однокритериального генетического алгоритма позволяет достаточно быстро обучить сеть для получения лучшего решения задачи.

Библиографические ссылки

1. Zitzler E., Thiele L. Multiobjective evolutionary algorithms: A comparative case study and the strength Pareto approach.

2. Zitzler E., Thiele L. An evolutionary algorithm for multiobjective optimization: The Strength Pareto Approach.

3. Electronic textbook StatSoft [Электронный ресурс]. URL: http://www.fmi.uni-sofia.bg/fmi/statist/ education/textbook/eng/glosa.html.

4. Семенкин Е. С. [и др.] Эволюционные методы моделирования и оптимизации сложных систем : конспект лекций / СФУ. Красноярск, 2007.

References

1. Multiobjective evolutionary algorithms: A comparative case study and the strength Pareto approach / Zitzler E., Thiele L.

2. An evolutionary algorithm for multiobjective optimization: The Strength Pareto Approach / Zitzler E., Thiele L.

3. Electronic textbook StatSoft. Available at: http://www.fmi.uni-sofia.bg/fmi/statist/education/textbook/ eng/glosa.html.

4. Semenkin E. S., Zhukova M. N., Zhukov V. G., Panfilov I. A., Tynchenko V. V. Konspekt lekcij, SFU, Krasnoyarsk, 2007.

© Камшилова Ю. А., 2014

УДК 66.012

ВЕКТОР СТРУКТУРНОГО СОСТОЯНИЯ ОБЪЕКТОВ ОРГАНИЗАЦИОННО-ТЕХНОЛОГИЧЕСКОГО КОМПЛЕКСА

Д. И. Ковалев, Е. В. Туева, А. В. Клименко, К. К. Першакова, О. О. Смирнов

Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660014, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: kleniks@yandex.ru

Организационно-технологический комплекс представляет собой совокупность технических и организационных средств автоматизации как на уровне управления производством, так и на технологическом уровне. Эффективное функционирование комплекса на основе корректировки управляющих воздействий на подсистемы осуществляется путем мониторинга его эффективности, который выражается в процессе систематического или непрерывного сбора информации о параметрах объекта комплекса для определения тенденций изменения этих параметров.

Ключевые слова: организационно-технологический комплекс, мониторинг, вектор структурного состояния, эффективность.

STRUCTURAL CONDITION VECTOR OF OBJECTS OF ORGANIZATION AND TECHNOLOGY COMPLEX

D. I. Kovalev, E. V. Tueva, A. V. Klimenko, K. K. Pershakova, O. O. Smirnov

Siberian State Aerospace University named after academician M. F. Reshetnev 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660014, Russian Federation E-mail: kleniks@yandex.ru

Organizational-technological complex is a combination of technical and organizational automation both at the level of production management and technology. For the stable work of the enterprise it is necessary to ensure the effective functioning of the complex. On the basis of the corrections the management impact on subsystems is carried out by monitoring its effectiveness, which is expressed in the process of systematic and continuous collection of information about the parameters of the complex object to determine trends of changing in these parameters. [AMI].

Keywords: organizational-technological complex, monitoring, structural state vector, efficiency.

Подсистема мониторинга эффективности предприятий относится к координирующим системам, предполагающим изменение структуры системы, разрыв (расчленение) взаимодействий, сопряжение и вложение взаимодействующих подсистем [1; 4]. В работе [2; 5] показано на примере перерабатывающего предприятия, представляющего собой производственную систему с включенной координирующей функцией мониторинга, каким образом происходит изменение структуры. Связи между объектами предприятия представляют собой обмен информационными и физическими потоками, такими как, например, движение, дополнение и преобразование продукта от начального состояния в виде сырья до состояния, в котором продукт приобретает экономическую цен-

ность. В этом процессе задействуются основные и вспомогательные подсистемы предприятия, взаимодействующие между собой также посредством связей и правил обмена. Разрыв и образование этих связей регулирует и структурирует процесс производственного взаимодействия, позволяя добиваться оптимальных режимов работы. Сопряжение и вложение подсистем позволяет строить эффективные иерархические структуры, снижая информационную нагрузку на центральный управляющий аппарат. Для отображения системы опишем вектор структурного состояния объектов предприятия, представляющего собой организационно-технологический комплекс (ОТК):

5 = {ВД,...,Г5,...,ЖХ} ,

i Надоели баннеры? Вы всегда можете отключить рекламу.