Научная статья на тему 'Ансамбли нейросетевых моделей с применением многокритериального самоконфигурируемого эволюционного алгоритма'

Ансамбли нейросетевых моделей с применением многокритериального самоконфигурируемого эволюционного алгоритма Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
267
47
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ПРОГНОЗ РАСХОДА ЭЛЕКТРОЭНЕРГИИ / АНСАМБЛИ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ / FORECASTING ELECTRIC ENERGY CONSUMPTION / ENSEMBLES OF ANN / GENETIC ALGORITHM

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Лосева Е.Д., Липинский Л.В.

Исследуется применение многокритериального самоконфигурируемого эволюционного алгоритма SelfCGP+ENN в задаче прогнозирования расхода электроэнергии на «сутки вперед» с помощью ансамблей нейросетевых моделей. Проведен анализ эффективности предложенного метода с различными начальными установка и различным объемом базы данных.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Лосева Е.Д., Липинский Л.В.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

ENSEMBLES OF NEURAL NETWORKS USING MULTI-OBJECTIVE EVOLUTIONARY SELFCONFIGURING ALGORITHMS

Iinvestigates effectiveness the using multi-criteria self-configurable evolutionary algorithm SelfCGP + ENN in the problem of forecasting power consumption for “day-ahead” using ensembles of neural network models. Introduced the effectiveness analysis of the proposed method with different initial installation and various volume database.

Текст научной работы на тему «Ансамбли нейросетевых моделей с применением многокритериального самоконфигурируемого эволюционного алгоритма»

УДК 517.9

АНСАМБЛИ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ С ПРИМЕНЕНИЕМ МНОГОКРИТЕРИАЛЬНОГО САМОКОНФИГУРИРУЕМОГО ЭВОЛЮЦИОННОГО АЛГОРИТМА2

Е. Д. Лосева Научный руководитель - Л. В. Липинский

Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева

Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: rabota_lena_19@mail.ru

Исследуется применение многокритериального самоконфигурируемого эволюционного алгоритма SelfCGP+ENN в задаче прогнозирования расхода электроэнергии на «сутки вперед» с помощью ансамблей нейросетевых моделей. Проведен анализ эффективности предложенного метода с различными начальными установка и различным объемом базы данных.

Ключевые слова: прогноз расхода электроэнергии, ансамбли нейросетевых моделей.

ENSEMBLES OF NEURAL NETWORKS USING MULTI-OBJECTIVE EVOLUTIONARY

SELFCONFIGURING ALGORITHMS

E. D. Loseva Scientific supervisor - L. V. Lipinsky

Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: rabota_lena_19@mail.ru

Iinvestigates effectiveness the using multi-criteria self-configurable evolutionary algorithm SelfCGP + ENN in the problem of forecasting power consumption for "day-ahead" using ensembles of neural network models. Introduced the effectiveness analysis of the proposed method with different initial installation and various volume database.

Keyword: forecasting electric energy consumption, ensembles of ANN, genetic algorithm.

Экономия потребления ресурсов электроэнергии разными категориями потребителей прогнозирование электроресурсных затрат является важной задачей. Анализ показал, что доля непромышленных потребителей составляет - 24,7 %; сельскохозяйственные - 5,7 %; бытовые - 19,4 % [1]. Оптимизация загрузки электропроизводтвенных мощностей, планирование оптовой закупки электроэнергии требуют прогноза потребления электроэнергии на разные периоды времени и с различной допустимой погрешностью. Исследования и практический опыт показывают, что одни из перспективных направлений в области прогнозирования на сегодняшний день является использование аппарата искусственных нейронных сетей (ИНС) [2]. Цель разработки методики прогнозирования состояла в подборе архитектуры и параметров сетей ИНС для создания ансамбля нейросетевых моделей (АНС). Так как ансамбли - это совокупности нейронных сетей, взаимодействующих в целях формирования прогнозов, то. используя АНС, каждый выход можно предсказать по отдельности. Использование АНС является хорошим способом противодействия переобучению сетей и улучшает их обобщающие способности. Так как все имеющиеся нейронные сети имеют один выход, то ансамбль оценит значения этого выхода, комбинируя отдельные значения из результатов прогнозирования отдельными сетями. В статье рассматривается применение самоконфигурируемого алгоритма SelfCGP+ENN, позволяющего автоматически настраивать структуру каждой ИНС из ансамбля, что снижает требования к конечному пользователю и уменьшает затратность ресурсов на вычисления.

2 Работа выполнена в рамках проекта RFMEFI57414X0037.

Секция «Математические методы моделирования, управления и анализа данных»

В качестве исходных данных для прогнозирования использовались статистические данные по энергопотреблению Сибирского Федерального округа за 2011-2013 гг. Дополнительные характеристики, имеющиеся в базе данных: дата и время суток, потребление электроэнергии округа, потребление электроэнергии края, полное потребление города, цена. Алгоритм формирования ансамбля ИНС с помощью самоконфигурируемого эволюционного алгоритма 8е1ЮОР:

1. Создание популяции ИНС, состоящей из N индивидуумов: каждый индивид в популяции -это ИНС, представленная в качестве дерева. Для формирования деревьев проводится следующая процедура: в элементах (в вершинах, в листьях) дерева указывается структура ИНС: вершины состоят из F{+, <} (двух видов операторов в узлах дерева), а листья состоят из Т{Ш1, N2, /N3, /N4 - блоки входных данных, ..., Е1, Е2, Е3, Е4, ..., - функции активации}. Знаки из множества Е являются указателями на то, что необходимо выполнить при формировании ИНС. «+» - объединение в один слой активационных функций, «<» - соединение слоев (см. рисунок) [3].

Виды структур ИНС

2. Оптимизация весовых коэффициентов для каждого индивида (дерева - структуры) в популяции, найденные с применением генетического алгоритма (ОЛ) + алгоритма обратного распространения ошибки (Backpropagation);

3. Установить равные вероятности для всех вариантов настройки для каждого вида оператора (кроме селекции) [4]; Выбор варианта рекомбинации (одноточечное, стандартное) и мутации (слабая, сильная);

4. Оценка потомка по двум критериям: 1. Первой функцией пригодности является величина,

представляющее собой отклонение от эталонных значений, вычисленная по формуле: Е = -УУ!;

N

2. Вторая функция пригодности индивида - это величина, представляющая собой сложность структуры ИНС, вычисляемая по формуле: Сотр1 = г ■ Ni + ^N^1+1, где г - количество входных блоков

на первом слое; i - количество слоев без учета входного слоя; N - функций активации на i-м слое, N+1 - количество функций активации на i+I слое. Отбор деревьев - решений с выбором минимального значения по двум критериям проводится по следующему правилу:

• Результаты пригодности индивидуумов по первому критерию сортируются от минимального к максимальному.

• Попарно просматривается разница между двумя значениями: если разница между двумя значениями превышает пороговое значение: Ап > 50 %, то принимается решение о выборе того индивида, у которого значение по фитнесу было минимальное. Иначе, если Ап < 50 %, то принимается решение перейти к отбору индивида по второй функции пригодности. Необходимо выбрать того индивида из пары, у которого «сложность» минимальна.

5. Отбор родителей (элитарная селекция); Рекомбинация родителей; мутации новой полученной популяции;

6. Обновить вероятности для операторов, используя среднюю пригодность потомков, полученных при помощи данного оператора;

7. Если алгоритм достиг заданного значения точности или исчерпал вычислительные ресурсы, то переход к п. 8, иначе переход к п. 2.

8. Проводится отбор нескольких «лучших» индивидов для создания ансамбля нейросетевых моделей.

Результаты исследований приведены в таблице. По итогам работы описанного подхода были найдены лучшие структуры ИНС, собранные в ансамбль. После проведения тестирования найденного ансамбля была вычислена погрешность прогнозирования. В таблице указаны усредненные результа-

ты по 50 прогонам для каждого вида начальных установок. В качестве начальных установок было взято: максимальное количество слоев - 7, количество функций активации на каждом слое - 15.

Результаты исследований

Количество индивидов

100 500 1000

Сложность ст] руктуры ИНС

Количество слоев Количество нейронов Количество слоев Количество нейронов Количество слоев Количество нейронов

2 9 2 5 4 12

Погрешность прогнозирования, %

2,57 3,55 2,44

По итогам исследования можно сделать вывод, что разработанный подход для автоматизированного формирования нейросетевых моделей показывает оптимальные результаты в задаче прогнозирования. Показатели точности прогнозирования варьируются в зависимости как от начальных настроек для структуры ИНС, так и от начальных настроек генетического программирования. При различном количестве прогонов и начальных настроек в среднем значения находятся в диапазоне от 2 до 12 %.

Библиографические ссылки

1. Тукенов А. А. Рынок электроэнергии: от монополии к конкуренции. М. : Энергоатомиздат,

2007.

2. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы / пер. с польск. И. Д. Рудинского. М. : Горячая линия - Телеком, 2006.

3. Семенкин Е. С. Липинский Л. В. Применение алгоритма генетического программирования в задачах автоматизации проектирования интеллектуальных информационных технологий // Вестник СибГАУ. Вып. 3 (10), Красноярск, 2006.

4. Семенкина М. Е. Самоадаптивные эволюционные алгоритмы проектирования информационных технологий интеллектуального анализа данных. Искусственный интеллект и принятие решений. К.:2013.

© Лосева Е. Д., 2015

i Надоели баннеры? Вы всегда можете отключить рекламу.