CC BY
50
УДК 517.9
АНСАМБЛИ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ С ПРИМЕНЕНИЕМ МНОГОКРИТЕРИАЛЬНОГО САМОКОНФИГУРИРУЕМОГО ЭВОЛЮЦИОННОГО АЛГОРИТМА2
Е. Д. Лосева Научный руководитель - Л. В. Липинский
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева
Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: [email protected]
Исследуется применение многокритериального самоконфигурируемого эволюционного алгоритма SelfCGP+ENN в задаче прогнозирования расхода электроэнергии на «сутки вперед» с помощью ансамблей нейросетевых моделей. Проведен анализ эффективности предложенного метода с различными начальными установка и различным объемом базы данных.
Ключевые слова: прогноз расхода электроэнергии, ансамбли нейросетевых моделей.
ENSEMBLES OF NEURAL NETWORKS USING MULTI-OBJECTIVE EVOLUTIONARY
SELFCONFIGURING ALGORITHMS
E. D. Loseva Scientific supervisor - L. V. Lipinsky
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: [email protected]
Iinvestigates effectiveness the using multi-criteria self-configurable evolutionary algorithm SelfCGP + ENN in the problem of forecasting power consumption for "day-ahead" using ensembles of neural network models. Introduced the effectiveness analysis of the proposed method with different initial installation and various volume database.
Keyword: forecasting electric energy consumption, ensembles of ANN, genetic algorithm.
Экономия потребления ресурсов электроэнергии разными категориями потребителей прогнозирование электроресурсных затрат является важной задачей. Анализ показал, что доля непромышленных потребителей составляет - 24,7 %; сельскохозяйственные - 5,7 %; бытовые - 19,4 % [1]. Оптимизация загрузки электропроизводтвенных мощностей, планирование оптовой закупки электроэнергии требуют прогноза потребления электроэнергии на разные периоды времени и с различной допустимой погрешностью. Исследования и практический опыт показывают, что одни из перспективных направлений в области прогнозирования на сегодняшний день является использование аппарата искусственных нейронных сетей (ИНС) [2]. Цель разработки методики прогнозирования состояла в подборе архитектуры и параметров сетей ИНС для создания ансамбля нейросетевых моделей (АНС). Так как ансамбли - это совокупности нейронных сетей, взаимодействующих в целях формирования прогнозов, то. используя АНС, каждый выход можно предсказать по отдельности. Использование АНС является хорошим способом противодействия переобучению сетей и улучшает их обобщающие способности. Так как все имеющиеся нейронные сети имеют один выход, то ансамбль оценит значения этого выхода, комбинируя отдельные значения из результатов прогнозирования отдельными сетями. В статье рассматривается применение самоконфигурируемого алгоритма SelfCGP+ENN, позволяющего автоматически настраивать структуру каждой ИНС из ансамбля, что снижает требования к конечному пользователю и уменьшает затратность ресурсов на вычисления.
2 Работа выполнена в рамках проекта RFMEFI57414X0037.
Секция «Математические методы моделирования, управления и анализа данных»
В качестве исходных данных для прогнозирования использовались статистические данные по энергопотреблению Сибирского Федерального округа за 2011-2013 гг. Дополнительные характеристики, имеющиеся в базе данных: дата и время суток, потребление электроэнергии округа, потребление электроэнергии края, полное потребление города, цена. Алгоритм формирования ансамбля ИНС с помощью самоконфигурируемого эволюционного алгоритма 8е1ЮОР:
1. Создание популяции ИНС, состоящей из N индивидуумов: каждый индивид в популяции -это ИНС, представленная в качестве дерева. Для формирования деревьев проводится следующая процедура: в элементах (в вершинах, в листьях) дерева указывается структура ИНС: вершины состоят из F{+, <} (двух видов операторов в узлах дерева), а листья состоят из Т{Ш1, N2, /N3, /N4 - блоки входных данных, ..., Е1, Е2, Е3, Е4, ..., - функции активации}. Знаки из множества Е являются указателями на то, что необходимо выполнить при формировании ИНС. «+» - объединение в один слой активационных функций, «<» - соединение слоев (см. рисунок) [3].
Виды структур ИНС
2. Оптимизация весовых коэффициентов для каждого индивида (дерева - структуры) в популяции, найденные с применением генетического алгоритма (ОЛ) + алгоритма обратного распространения ошибки (Backpropagation);
3. Установить равные вероятности для всех вариантов настройки для каждого вида оператора (кроме селекции) [4]; Выбор варианта рекомбинации (одноточечное, стандартное) и мутации (слабая, сильная);
4. Оценка потомка по двум критериям: 1. Первой функцией пригодности является величина,
представляющее собой отклонение от эталонных значений, вычисленная по формуле: Е = -УУ!;
N
2. Вторая функция пригодности индивида - это величина, представляющая собой сложность структуры ИНС, вычисляемая по формуле: Сотр1 = г ■ Ni + ^N^1+1, где г - количество входных блоков
на первом слое; i - количество слоев без учета входного слоя; N - функций активации на i-м слое, N+1 - количество функций активации на i+I слое. Отбор деревьев - решений с выбором минимального значения по двум критериям проводится по следующему правилу:
• Результаты пригодности индивидуумов по первому критерию сортируются от минимального к максимальному.
• Попарно просматривается разница между двумя значениями: если разница между двумя значениями превышает пороговое значение: Ап > 50 %, то принимается решение о выборе того индивида, у которого значение по фитнесу было минимальное. Иначе, если Ап < 50 %, то принимается решение перейти к отбору индивида по второй функции пригодности. Необходимо выбрать того индивида из пары, у которого «сложность» минимальна.
5. Отбор родителей (элитарная селекция); Рекомбинация родителей; мутации новой полученной популяции;
6. Обновить вероятности для операторов, используя среднюю пригодность потомков, полученных при помощи данного оператора;
7. Если алгоритм достиг заданного значения точности или исчерпал вычислительные ресурсы, то переход к п. 8, иначе переход к п. 2.
8. Проводится отбор нескольких «лучших» индивидов для создания ансамбля нейросетевых моделей.
Результаты исследований приведены в таблице. По итогам работы описанного подхода были найдены лучшие структуры ИНС, собранные в ансамбль. После проведения тестирования найденного ансамбля была вычислена погрешность прогнозирования. В таблице указаны усредненные результа-
ты по 50 прогонам для каждого вида начальных установок. В качестве начальных установок было взято: максимальное количество слоев - 7, количество функций активации на каждом слое - 15.
Результаты исследований
Количество индивидов
100 500 1000
Сложность ст] руктуры ИНС
Количество слоев Количество нейронов Количество слоев Количество нейронов Количество слоев Количество нейронов
2 9 2 5 4 12
Погрешность прогнозирования, %
2,57 3,55 2,44
По итогам исследования можно сделать вывод, что разработанный подход для автоматизированного формирования нейросетевых моделей показывает оптимальные результаты в задаче прогнозирования. Показатели точности прогнозирования варьируются в зависимости как от начальных настроек для структуры ИНС, так и от начальных настроек генетического программирования. При различном количестве прогонов и начальных настроек в среднем значения находятся в диапазоне от 2 до 12 %.
Библиографические ссылки
1. Тукенов А. А. Рынок электроэнергии: от монополии к конкуренции. М. : Энергоатомиздат,
2007.
2. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы / пер. с польск. И. Д. Рудинского. М. : Горячая линия - Телеком, 2006.
3. Семенкин Е. С. Липинский Л. В. Применение алгоритма генетического программирования в задачах автоматизации проектирования интеллектуальных информационных технологий // Вестник СибГАУ. Вып. 3 (10), Красноярск, 2006.
4. Семенкина М. Е. Самоадаптивные эволюционные алгоритмы проектирования информационных технологий интеллектуального анализа данных. Искусственный интеллект и принятие решений. К.:2013.
© Лосева Е. Д., 2015
