Научная статья на тему 'Применение различных алгоритмов инициализации весовых коэффициентов нейронной сети для прогнозирования биржевого индекса Hang Seng'

Применение различных алгоритмов инициализации весовых коэффициентов нейронной сети для прогнозирования биржевого индекса Hang Seng Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
282
55
i Надоели баннеры? Вы всегда можете отключить рекламу.

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Хохлова В.С., Лёзина И.В.

Описано исследование 2 стохастических методов численной оптимизации для инициализации весов нейронной сети (алгоритм имитации отжига и эволюционный алгоритм).

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Применение различных алгоритмов инициализации весовых коэффициентов нейронной сети для прогнозирования биржевого индекса Hang Seng»

Актуальные проблемы авиации и космонавтики. Информационные технологии

почты на бумажном носителе и электронной почты в виде файла формата Excel.

Необходимость проведения работы по автоматизации процесса управления выполнением плана государственного задания связана с потребностью Центра в упорядочении и более четкой координации деятельности его подразделений, а также продиктована потребностью в повышении качества и скорости сбора оперативных данных, учета, контроля и координации работ по выполнению плана, обобщая информацию по выполнению в единой базе данных, применяя для этого современную компьютерную технику, средства коммуникации и программное обеспечение, что даст возможность централизованного ведения, хранения, обработки информации и коллективного доступа к ней посредством WEB-интерфейса с использованием каналов связи Интернет.

Создание автоматизированной системы управления выполнением плана государственного задания в рассматриваемом учреждении требует решения ряда задач, к числу которых относятся разработка базы данных и программного обеспечения для работы с ней. В качестве системы управления базы данных выбрана СУБД Microsoft SQL Server от корпорации Microsoft с используемым языком запросов Transact-SQL. Программное обеспечение реализуется с использованием технологии ASP.NET, конкретнее, MVC 3 Framework [3], который используется для создания веб-приложений и веб-сервисов.

Внедрение в Центре гигиены и эпидемиологии разрабатываемой автоматизированной системы управления позволит:

- решить вопросы оперативного учета по работе с государственным заданием и выдачей необходимого потока информации в виде отчетных документов;

-- оперативно работать с актуальной информацией подразделениям учреждения и филиалам и осуществлять текущий контроль;

— избавиться от бумажных носителей внутри организации;

-- сократить процесс обработки и формирования информации по плану.

Однако проводимая автоматизация осложняется наличием в Центре гигиены и эпидемиологии Красноярского края определенных организационных проблем, требующих в настоящее время своего решения для того, чтобы внедрение разрабатываемой системы оказалось в конечном счете успешным. Это, во-первых, необходимость в актуальной онлайн-информации на текущий день, связанной с работой службы в целом, что требует наличия в каждом территориальном подразделении специалиста по актуализации информации или целого отдела в центральном аппарате. Во-вторых, - отсутствие утвержденной формы отчета по выполнению государственного задания и его финансового обеспечения в учреждении.

Библиографические ссылки

1. Официальный сайт Роспотребнадзора по Красноярскому краю. URL: http://24. rospotrebnadzor.ru /center/

2. URL: http://bus.gov.ru/public/agency/agency.html? agency=151423&activeTab=2

3. URL: http://msdn.microsoft.com/ru-ru/library/gg41 6514(v=VS. 98). aspx.

4. Шилдт, Герберт. С# 4.0: полное руководство : пер. с англ. М. : Вильямс, 2011. 1056 с.: ил. Парал. тит. англ.

5. Троелсон Э. Язык программирования С# 2010 и платформа .NET 4.0. 5-е изд. : пер. с англ. М. : Вильямс, 2011. 1392 с.: ил. - Парал. тит. англ.

© Тычков С. А., 2013

УДК 004.942

В. С. Хохлова Научный руководитель - И. В. Лёзина Самарский государственный аэрокосмический университет имени академика С. П. Королёва (национальный исследовательский университет), Самара

ПРИМЕНЕНИЕ РАЗЛИЧНЫХ АЛГОРИТМОВ ИНИЦИАЛИЗАЦИИ ВЕСОВЫХ КОЭФФИЦИЕНТОВ НЕЙРОННОЙ СЕТИ ДЛЯ ПРОГНОЗИРОВАНИЯ БИРЖЕВОГО ИНДЕКСА HANG SENG

Оописано исследование 2 стохастических методов численной оптимизации для инициализации весов нейронной сети (алгоритм имитации отжига и эволюционный алгоритм).

В наши дни возрастает необходимость в системах, которые способны не только выполнять однажды запрограммированную последовательность действий над заранее определенными данными, но и способны сами анализировать вновь поступающую информацию, находить в ней закономерности, производить прогнозирование и т. д. В этой области приложений самым лучшим образом зарекомендовали себя так

называемые нейронные сети. Нейронные сети не программируются в привычном смысле этого слова, они обучаются. Для обучения сети использовался алгоритм наискорейшего спуска с моментами и метод обратного распространения ошибки [1]. Необходимым условием для обучения нейронной сети является начальная инициализация синаптических весов нейронов. В данной работе были исследованы два метода

Секция «Информационные системы и технологии»

инициализации: алгоритм имитации отжига и эволюционный метод.

Рассмотрим конфигурацию нейронной сети для прогнозирования индекса Hang Seng [2]. Прогноз осуществляется на 4 дня при наличии статистики по индексу за предыдущие 6 месяцев работы биржи (для обучения и тестирования сети). Оптимальная конфигурация сети и начальные данные выборки: тестовая выборка - 100 индексов, число итераций обучения 1000, коэффициент обучения - 0,6, момента - 0,2, входной слой - 5 нейронов, выходной - 4.

Алгоритм имитации отжига

Метод имитации отжига представляет собой алгоритмический аналог физического процесса управляемого охлаждения [3]. Исследуем зависимость СКО тестирования от метода имитации отжига, функцией активации нейрона и начальной температурой. Параметр метода: изменение температуры - 0,5. Результаты представлены в табл. 1.

Таблица 1

Зависимость СКО от функции активации нейрона и начальной температурой

Таким образом, оптимальное значение начальной температуры - 50.

Эволюционный метод инициализации Метод многомерной математической оптимизации, относящийся к классу стохастических алгоритмов оптимизации (то есть работает с использованием случайных чисел) и использующий некоторые идеи генетических алгоритмов. Это прямой метод оптимизации, то есть он требует только возможности вычислять значения целевой функций, но не её производных [4]. Исследуем зависимость СКО тестирования от эволюционного метода инициализации весов, функцией активации нейрона и количества поколений. Основные параметры эволюционного метода: число векторов - 5, коэффициент - 1, вероятность мутации - 0,5. Результаты представлены в табл. 2.

Таким образом, оптимальное значение количества поколений для данного метода - 10.

Была разработана автоматизированная система для прогнозирования индексов, с помощью которой был получен прогноз индекса Hang Seng, представленный на рисунке. Для получения прогноза использовались выборка значений индекса за период с 25.09.2012 по 25.02.2013.

Таблица 2

Зависимость СКО от функции активации нейрона и числа поколений

Функция ^^■^^..активации Число поколений Сигмоидальная Тангенс

10 0,0031 0,0023

50 0,0059 0,0074

150 0,0073 0,0084

300 0,0071 0,0079

500 0,0071 0,0089

HSI

tljl4lt7|4.....................................................

Прогноз индекса Hang Seng после дообучения сети на один день

Библиографические ссылки

1. Хайкин С. Нейронные сети: полный курс. М. : Вильямс, 2006. 1104 с.

2. Автоматизированная система прогнозирования изменения индекса Hang Seng с применением многослойного персептрона / Современное общество, образование и наука : сб. науч. тр. Междунар. заоч. науч.-практ. конф. в 3 ч.. Ч. 2; Мин. образования и науки РФ. Тамбов : Бизнес-Наука-Общество, 2012. С. 87-88.

3. Осовский С. Нейронные сети для обработки информации. М. : Финансы и статистика, 2002. 344 с.

4. Дифференциальная эволюция. URL: http://en. wikipedia.org/wiki/Differential_evolution.

© Хохлова В. С., 2013

Функция ^^^■^.активации Начальная t Сигмоидальная Тангенс

10 0,0024 0,0018

25 0,0018 0,0023

50 0,0007 0,0002

100 0,0017 0,0012

250 0,0017 0,0018

i Надоели баннеры? Вы всегда можете отключить рекламу.