Научная статья на тему 'ПРИМЕНЕНИЕ АДАПТИВНОГО АНСАМБЛЕВОГО НЕЙРОСЕТЕВОГО МЕТОДА ДЛЯ КРАТКОСРОЧНОГО ПРОГНОЗИРОВАНИЯ ЭЛЕКТРОПОТРЕБЛЕНИЯ ЭЛЕКТРОТЕХНИЧЕСКОГО КОМПЛЕКСА РАЙОННЫХ ЭЛЕКТРИЧЕСКИХ СЕТЕЙ'

ПРИМЕНЕНИЕ АДАПТИВНОГО АНСАМБЛЕВОГО НЕЙРОСЕТЕВОГО МЕТОДА ДЛЯ КРАТКОСРОЧНОГО ПРОГНОЗИРОВАНИЯ ЭЛЕКТРОПОТРЕБЛЕНИЯ ЭЛЕКТРОТЕХНИЧЕСКОГО КОМПЛЕКСА РАЙОННЫХ ЭЛЕКТРИЧЕСКИХ СЕТЕЙ Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
181
44
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
РАЙОННЫЕ ЭЛЕКТРИЧЕСКИЕ СЕТИ / ПРОГНОЗИРОВАНИЕ ПОТРЕБЛЕНИЯ ЭЛЕКТРОЭНЕРГИИ / ИСКУССТВЕННАЯ НЕЙРОННАЯ СЕТЬ / АЛГОРИТМ ОБУЧЕНИЯ / СЕТИ СВЕРТКИ / РЕКУРРЕНТНЫЕ НЕЙРОСЕТИ / REGIONAL ELECTRIC GRID / FORECASTING ELECTRICITY CONSUMPTION / ARTIFICIAL NEURAL NETWORK / LEARNING ALGORITHM / CONVOLUTION NETWORKS / RECURRENT NEURAL NETWORKS

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Серебряков Николай Александрович

Статья посвящена проблеме повышения точности краткосрочного прогнозирования потребления электроэнергии электротехнического комплекса районных электрических сетей с помощью инструментов глубокого машинного обучения. Исследована эффективность применения адаптивного алгоритма обучения глубоких нейронных сетей при краткосрочном прогнозировании электропотребления данного электротехнического комплекса. Рассмотрены вопросы, связанные с применением сверточных и рекуррентных нейронных сетей для решения задачи прогнозирования электрических нагрузок. Проведен сравнительный анализ точности краткосрочного прогноза потребления электроэнергии разработанного ансамблевого метода с точностью прогноза, полученного с помощью нейронных сетей стандартной архитектуры.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Серебряков Николай Александрович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

APPLICATION OF ADAPTIVE ENSEMBLE NEURAL NETWORK METHOD FOR SHORT-TERM LOAD FORECASTING ELECTRICAL ENGINEERING COMPLEX OF REGIONAL ELECTRIC GRID

The article is devoted to the problem of improving the accuracy of short-term load forecasting of electrical engineering complex of regional electric grid with the use deep machine learning tools. The effectiveness of the application of the adaptive learning algorithm for deep neural networks for short-term load forecasting of this electrical complex has been investigated. The issues of application of convolutional and recurrent neural networks for short-term load forecasting are considered. A comparative analysis of the accuracy of the short-term load forecasting of electrical engineering complex of regional electric grid obtained using the ensemble neural network method and single neural networks are produced.

Текст научной работы на тему «ПРИМЕНЕНИЕ АДАПТИВНОГО АНСАМБЛЕВОГО НЕЙРОСЕТЕВОГО МЕТОДА ДЛЯ КРАТКОСРОЧНОГО ПРОГНОЗИРОВАНИЯ ЭЛЕКТРОПОТРЕБЛЕНИЯ ЭЛЕКТРОТЕХНИЧЕСКОГО КОМПЛЕКСА РАЙОННЫХ ЭЛЕКТРИЧЕСКИХ СЕТЕЙ»

УДК 621.316.72

DOI: 10.25206/1813-8225-2021-175-39-45

н. а. серебряков

Алтайский государственный технический университет им. И. И. Ползунова, г. Барнаул

применение адаптивного ансамблевого нейросетевого метода для краткосрочного прогнозирования электропотребления электротехнического комплекса районных электрических сетей

Статья посвящена проблеме повышения точности краткосрочного прогнозирования потребления электроэнергии электротехнического комплекса районных электрических сетей с помощью инструментов глубокого машинного обучения. Исследована эффективность применения адаптивного алгоритма обучения глубоких нейронных сетей при краткосрочном прогнозировании электропотребления данного электротехнического комплекса. Рассмотрены вопросы, связанные с применением сверточных и рекуррентных нейронных сетей для решения задачи прогнозирования электрических нагрузок. Проведен сравнительный анализ точности краткосрочного прогноза потребления электроэнергии разработанного ансамблевого метода с точностью прогноза, полученного с помощью нейронных сетей стандартной архитектуры.

Ключевые слова: районные электрические сети, прогнозирование потребления электроэнергии, искусственная нейронная сеть, алгоритм обучения, сети свертки, рекуррентные нейросети.

Введение. Районные электрические сети представляют собой сложный электротехнический комплекс, включающий электросетевое оборудование напряжением 35 кВ и ниже, а также различные категории потребителей электроэнергии. Как было выяснено в работе [1], почасовое электропотребление электротехнического комплекса районных электрических сетей (ЭТК РЭС) описывается сложной нелинейной функциональной зависимостью, зависящей от множества факторов. Вследствие этого краткосрочное прогнозирование почасового электропотребления (short —term load forecasting — STLF) ЭТК РЭС относится к слабоформализуе-мым задачам. Данное обстоятельство осложняется тем фактом, что часть факторов имеют недетерминированный характер, величину которых невозможно точно определить заранее. К числу таких факторов можно отнести прогноз метеорологических условий, плановые и аварийные отключения электросетевого оборудования и т.д. В условиях неопределенности традиционные методы математической статистики или имитационного моделирования не позволяют строить адекватные модели объектов [2].

В настоящее время наблюдается стремительное развитие таких областей информационных технологий, как искусственный интеллект, систе-

мы обработки больших объемов данных (Big Data) и глубокое машинное обучение. Рассмотренные информационные технологии являются высокоэффективным инструментом для решения широкого перечня задач, которые относятся к слабоформа-лизуемым или неформализуемым [3]. За последние несколько десятилетий ученые разработали множество математических моделей и методов повышения точности STLF, которые можно разделить на методы, основанные на математической статистике, методы искусственного интеллекта и гибридные методы [4, 5]. И. И. Надтока и Б. М. Аль Зихери разработали модель краткосрочного прогнозирования потребления электроэнергии в регионе, основанную на методе опорных векторов и роя частиц [6]; К. В. Соломахо разработала модель прогнозирования потребления электроэнергии энергосбытовой компании на основе метода анализа главных компонент [7]; Грицай А. С. разработал гибридную модель краткосрочного прогнозирования потребления электроэнергии на основе формирования обучающей выборки с применением функции конкурентного сходства и трехслойного персептрона [8]; Rahmana A, Srikumar V. разработали модель прогнозирования электропотребления жилых и коммерческих зданий на основе глубокой рекуррентной нейронной сети [9]. Несмотря на большое количество математиче-

ских моделей и методов прогнозирования электропотребления ни один из них не может быть назван универсальным. Существующие математические модели разрабатывались для прогнозирования электропотребления электроэнергетических систем или конечных потребителей электроэнергии, таких как здания и промышленные предприятия. В исследовании [10] было выяснено, что математическая модель почасового электропотребления ЭТК РЭС должна учитывать помимо стандартных факторов времени, температуры наружного воздуха и освещенности следующие факторы:

— отключения на электрических сетях напряжением 6 — 220 кВ;

— производственный режим потребителей электроэнергии с присоединенной мощностью свыше 670 кВт;

— наличие центрального отопления и горячего (холодного) водоснабжения в отдельных населенных пунктах;

— инерционности изменения режима электропотребления ЭТК РЭС в связи с перепадами температуры воздуха.

В связи с учетом вышеперечисленных факторов при краткосрочном прогнозировании потребления электроэнергии ЭТК РЭС необходимо рассмотреть вопросы выбора оптимальной конфигурации нейронной сети, которая позволяет достичь максимальной точности прогноза электропотребления. Вследствие увеличения размерности факторного пространства необходимо рассмотреть вопросы улучшения сходимости алгоритма обучения нейро-сетевых алгоритмов.

Также вышеперечисленные методы прогнозирования потребления электроэнергии основаны на устаревших методах машинного обучения, таких как метод опорных векторов, метод главных компонент, персептроны различной конфигурации и т.п. В настоящее время при решении практических задач предпочтение отдают методам, основанным на глубоких сетях свертки, рекуррентных нейросетях, а также ансамблям, состоящим из нескольких параллельно работающих прогнозных алгоритмов, отклики которых комбинируются некоторым способом. Наиболее распространённым способом получения итогового выходного сигнала является блок усреднения по ансамблю. Композиционные методы классификации формируют набор различных моделей классификации для достижения лучшей точности, чем у каждой модели в отдельности [11].

Использование ансамблей нейронных сетей при БТЬБ рассмотрено в [12, 13].

Исследование эффективности применения адаптивных оптимизаторов функции энергии ошибки нейронных сетей при краткосрочном прогнозировании электропотребления ЭТК РЭС.

Обучение современных глубоких искусственных нейронных сетей (ИНС), предназначенных для краткосрочного прогнозирования электропотребления, происходит на основании алгоритма обратного распространения ошибки. В процессе работы данного алгоритма происходит два прохода вычислений: прямой и обратный. Во время прямого прохода вычислений на вход нейросети подается вектор признаков. После прохождения сигнала через все слои нейросети формируется выходной сигнал, являющийся откликом нейронной сети на входные воздействия. При прямом проходе сигнала свободные параметры сети остаются неизменными.

Далее, во время обратного прохода, рассчитывается функция энергии ошибки по всем нейронам выходного слоя:

J(n) = i X е2 (

еВ jeC

(1)

где J(n) — функц и я энергия ошибки на шаге обучения n; С — множество нейронов выходного слоя; не — квадратичная ошибка нейрона j.

В данном слуте шмеется задача оптимизации, целевым параметром которой является функция стоимости. Наиболее успешным на сегодняшний день алгоритмом оптимизации сложных функций является алгоритм градиентшого еп^ка (gradient descent algorithm). Если целмвая функция диффе-ренцируемапо своим параметрам,то градиентный спуск является относителанш эффективным методом оптимизации [14].

В случае использования алгоритма градиентного спуска для оптимизтоии функции стеимости J(o) данная функция представляется в виде функциональной зависимости синоптических весов нейронной сети J( ч) .Для виз^литецши п рицссаа сбучееия строотси п оверхность ошибки функцио n)w) в про -странстве стоСюдных аараметров нечрчнной сети. Основная идея алгоритма обратного распространения сшибки состоит в коррекции синоптического веса мо(л) на веричину Aw..(n), которая пропорционально с]оадиевту фщокнии свормнсти ^0(н) :

5Wj(H)

тонн м

о со(ш) _ ау(ч) не(ш) ду() ду () _

) (ш) де у (п) ¿у и (л) ди и (п) ¿о (л) м ~ej (т)0,] (ии(п))У Ч^

(2)

где ИС(п) — 6дисн6 функциJ потерт на! шаге о бучения л; то..(п) — вес синоптичеткой авези методу нейронами - и /; е.(л) — сиганл ошибки нейрина / на шаге обуеения п; (те- — анте-ин 1^бзат-эс)1Нса ] не обучение л; 3; (е) — сндудиреваннео анеальное поле нейрона ] иа шаге аба—туие л; н) — сббгокция активаци и.

Коррекция, пуомтняемая к синоптическому весу взаимодействие у°/(л) опредеяяется согласно дельта-п.авилу а

= -н

со(щ)

дWшШ)

= УН-^О', (и,- ^УуД^

(3)

где еуе

кенeeктиpoвнa исоа кзаг^модуиствия

между нейронами I и / н.а ша]-е обучения п; п — ко-эффицйент, учипызаиещий скерпстч обучения сети.

Кае мы видеее из оыраоаение (3), целью обучения нейрончзй сети является итеративная коррекция весов синоотических связей ИНС,с целью нахождения глеОалиооео минимума функции стоимости:

w..(n +1) = w..(n) + Д wij(n).

(4)

Саабостичаcбий грсонентеш спуск работает без проблем при оптимизации выпуклых целевых функций- Однакс фонкщзя энереии ошибкимного-слойно0 ней]ооаной сети в большинстве случаев будет являсисо невыпуклой функцией. То есть данная функция имееа мн ожество локальныхминимумов, плато и седловых точек, в окрестности которых градиеет яринимает нулевое или положительные

a)

b)

D

Рис. 1. Графики траектории движения рабочей точки алгоритма градиентного спуска по поверхности ошибки при различных значениях скорости обучения и момента инер ции:

a) малое значение скорости обучения без момента инерции; Ь) недостаточное значение скорости обучения и (ти) момет1 а гнгрции; с) оптимальное значение скорости обучения и момента инерции; d) слишком большоезначение скорости обучения и (или( момента инерции

значения. Данное обстоятельство способствует замедлению сходимости алгоритма градиентного спуска в область глобального минимума поверхности ошибки. Для ускорения сходимости алгоритма обучения р выражениг (3) добавляется член момента инерции:

вающая константа, значение кото рои п о умолчанию равно 0,9; рг(а) = VJ(a) — арадиент фтораиа потерт на шаге обучающего цикла л.

Тогда делача-пррвм=о орсфекциа cyj^ofaiia^HP^x; по-раметров hesjh^o=нойсет= при использовании ^.лго-ритма RMaPr=p ]са^]рн.имает ]вид:

= ^о_,(а)ф'_, (а.,(а))У,(а) д н 1). (5)

где |i — п ара метр м омент а инерции; Aw..(n— 1) — корректировка веса синоптической связи между нейронам и i и j на итерации обучения n—1.

На рис. 1 представлены графики траектории движения рабочей точки алгоритма градиентного спуска по поверхности ошибки при различных значениях скорости обучения и момента инерции.

Накопаедее имаалдса, за счет ираменения параметра момента инерцид, хоть и улучшает сходимость алгоритма обучения, но появляется дополнительный парамеер ннйрдаети, фоторый невозможно определить в процессе обучения. Также применение момеата не гарантирует достижения рабочей точки алгоритен глоб^;иьного минимума на поверхности ошибки.

За еааледнге вр емя утеные разработали множество успешных алгоритмов, минимизирующих количество гарамнердв, грибагощих настройки в процл ссе обучения нейро сети. Современные инструменты машианого обучения позволяют реали-зоваро ичгроир]н г>братного распространения ошибки с адаптивным, в процессе обучения, параметром скорости обрчанир, а,ааие как OD4!^ и RMSftop [14].

Алгоритм RMSProp — это одна из модификаций алгоритм а греди онтыого с пасека (^D ), призванная улучшить сходимость SGD при невыпуклом характере Фмгкцим потер а J. Идея алгоритма RMSProp заключаете- в коррекции параметра скорости обучения за сает сaаеплeогя в знаменателе экспо-ненциалано взрошанного сколсзощсгч среднего из квадратов градиентов функции потерт J (root mean square prop-gation — RMSyrop):

д-ф2(o)] = 1Д\ф\о н 1)]ф (1 н у)ф2(о) ,

(6)

Тл(п Д ы) = он (о) д

о

(Д) 2(п)]"

(о),

(7)

где 8 — конссаято неОольшобо тнетуяия, яиеесонн-мая для исключения десения на ноль на начальных шагах обучающего дикло.

Алгоритм АОаОМ (о<УарТуи тотеп1ннт ееИта-Иоп — оценка адаптивных моментов) представляет собой кочбннацию алгоритмов RMSProp и импульсного метода. Во-первых, рассчитываатся пертый момент, котиртш птедесевяоет лоИой этеноееяци-альное скользящее среднее значений градиенте функции тоседь J и его окерректировасние значес ние:

еп(п) т(п)

: ге(о -1) д

л!(м)

: MY"0

(1 нИг1)ф(П),

(8)

где т(п) — экспаненгщальное скользящее среднее значений гртдиента функции поте;ь J; ]р( — сглаживающая конктаита, знаиенте которлй но умолчанию равно 0,9; ч(я) — скорректированное значение экс-поненциальктгт скользящего среднего значений градиента функции пчторь .).

Далее рассчитывчеися второй момент, который представляет из себя ореднюю неценкртрованч^го дисперсиюфункциипотерь J и ее скоеректирчван-ное значение:

а(о) = Гиа(о н 1) д (1 нГи)Ф2(о), а(о(

(9)

а(о)

1 - Гио '

где К [] 2(и)] — икс поненциально взвешенное скользящее среднее из квадратов градиентов функции потерь J нл шаге гб^ающего цикла п; у — сглажи-

где у(п) — иицентрированная дисперсия фунецри потерь J; в2 — сглаживающая константа, значение которой по умолчанию равно 0;99; т)ч) — скорректированное значенле нецеятрированной дисперсии функции потерь J.

Корректи^(^(^]^ка люментс» т(п) и y(n) производится для искусственного увеличения данных параметров на начальных итерациях обучающего цикла.

Дельта-правилч коррекции свободных параметров нейронной сети при использовании алгоритма ADAM п^1Ы1шмает вид:

еи ^ у Ч) = еи(м) у

У

ш

(lye

=■ т (м).

(10)

Испольосшамие адаптивных оптимизаторов функции энергии ошибки способствует улучшению сходимости алгоритма обучения к окрестности гло бального минимума вне зависимости от «ландшафта» поверхности ошибки. В данном случае рабочая точка алгоритма обучения более эффективно проходит локальные минимумы на поверхности ошибки. Алгоритмы ADAM и RMSProp хорошо зарекомендовали себя на практике, и окончательный выбор происходит на основании экспериментов с обучающей и проверочной выборками.

Исследование влияния архитектуры и конфигурации нейронной сети на точность краткосрочного прогнозирования электропотребления ЭТК РЭС. Алгоритмы обучения глубоких нейронных сетей, предназначенных для краткосрочного прогнозирования электропотребления ЭТК РЭС, включают оптимизацию в различных контекстах. Так, основная задача оптимизации в машинном обучении заключается в подборе параметров нейронной сети, значительно уменьшающих величину функции стоимости J(n). Часть параметров, которые называются свободными параметрами нейронной сети, определяются в процессе обучения на обучающей выборке данных. Однако существует набор параметров, называемых гиперпараметрами, которые невозможно определить и уточнить в процессе обучения. К ним можно отнести:

— значение скорости обучения и момента инерции на каждой эпохе обучающего цикла;

— количество скрытых слоев сети;

— количество нейронов в каждом скрытом слое;

— функция активации нейронов скрытых и выходного слоев.

Адаптивные оптимизаторы функции потерь J, такие как алгоритм ADAM, позволяют поддерживать оптимальное значение параметров скорости обучения и момента инерции в процессе всего обучающего цикла. Однако, несмотря на то, что исследования по машинному обучению ведутся уже более 70-ти лет, до сих пор не разработано формализованных методов определения оптимальных значений гиперпараметров, связанных с архитектурой нейро-сетевой модели. Проектирование нейронной сети сводится к многочисленным экспериментам с обучающей и тестовой выборкой данных, в результате чего подбирается оптимальная конфигурация нейросетевой модели. Однако современные инструменты машинного обучения, такие как библиотека машинного обучения Keras, позволяют автоматизировать данный поиск на основании алгоритмов байесовской оптимизации и Hyperband. Для определения оптимальной конфигурации ИНС с помощью инструментов библиотеки глубокого машинного обучения Keras задается набор гиперпараметров, оптимальные значения которых необходимо найти, границы изменения каждого из гиперпараметров, а также дискретность (шаг) изменения данной величины в процессе поиска. После обучения и тестиро-

б)

Рис. 2. Кривые обучения одномерной сверточной нейронной сети при различном размере скрытого слоя: а) на обучающей выборке; б) на тестовой выборке

вания моделей в течение 50 эпох обучающего цикла анализируются кривые обучения для нескольких моделей, которые показали наилучшие результаты по окончанию обучения. Под кривыми обучения понимаются графики изменения относительной ошибки краткосрочного прогнозирования электропотребления ЭТК РЭС по окончанию обучающего цикла.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Рассмотрим алгоритм подбора оптимального значения гиперпараметров для одномерной свер-точной нейронной сети с помощью инструментов библиотеки глубокого машинного обучения Кега8. Сверточные нейронные сети разрабатывались специально для обработки изображений, однако они применимы и для других данных с сеточной структурой. Сверточные нейронные, как и большинство других нейронных сетей, после слоев свертки и пулинга должны содержать полносвязные слои. Данные слои служат для восстановления векторной регрессии и классификации данных. В случае почасового прогнозирования электропотребления ЭТК РЭС на следующие сутки размер выходного слоя будет составлять 24 элемента, а размер скрытого слоя будет варьироваться. На рис. 2 представлены кривые обучения одномерной сверточной нейронной сети при различном размере скрытого слоя на обучающей и тестовых выборках.

Как мы видим из графиков на рис. 2а, б, модель с 120 нейронами в скрытом слое является наиболее точной.

Далее определим функцию активации в каждом слое данной нейронной сети. На рис. 3 представле-

mean absolute error

0.D1Ü

activati on = rel u/re I Lite igmo id

aaivati on=rel u/r-el u/re lu

activati on-sigmoid.i's igmo idysig moid

25 30 35 Epndis

а)

б)

Рис. 3. Кривые одномерной сверточной нейронной сети при различных функциях активации в каждом слое:

а) на обучающей выборке; б) на тестовой выборке

Hödel; "furicîioiial_l"

Layer (type) Output Shape Panam в Connected to

input_l (InputLayer) [(None 312)] 0

reshape (Reshape) (None, 13, 24) e inputj.[0][0]

convld (ConvlD) (None, 13. 22) 1978 reshape[0][0]

reshape_l (Reshape) (None, 13. 2d) 0 input_l[0)(0]

eonvld_l (ConvlD) (None, 13, 22) 990 convld[e][0]

convld_2 (ConvlD) (None, 13, 22) 2134 reshape_l[0][0]

nax_poolingld (MaxPaolinglD) (None, 6, 22) 0 convld_l[0][0]

convld_3 (ConvlD) (None, 13. 22) 1474 convld_2[0][0]

dense (Dense) (None, 145) 4S3B5 lnput_l[03[0]

flatten (Flatten) (None, 132) 0 «ax_poolingid[0][0]

maxpoolingldl (MaxPoolinglO) (None, 6, 22) 0 convld_3[0][0]

dense_l (Dense) (None, S?) 8322 denst[0][0]

dense_3 (Dense) (None, 121) 16093 flatten[0][0]

lstn (LSTH) (None, 126) 6 S 640 maxj3oolingld_l[0][0]

dense_2 (Dense) (None, 24) 1392 dense_l[03[0]

dense_4 (Dense) (None, 24) 292S dense_3[0][0]

dense_S (Dense) (None, 24) 2904 lstm[0][0]

average (Average) (None, 24) 0 dense_2[0]I©] dense_4[0][0) dense~5[0jt0]

Total params: 151, Trainable parais; 151,340 Non-trairtabLe parens : e

Рис. 4. Структурная схема ансамбля ИнС, используемого для краткосрочного прогнозирования электропотребления ЭТК РЭС

ны кривые обуче ния одномерной сверточной нейронной сети при тазличных функциях активации в каждом слое ни обучающрй и тестовой выборках.

На основании кривых на рис. 3а, б можно сделать вывод о том, что наилучшим вариантом функции активации в каждом слое при краткосрочном прогнозировании электропотребление ЭТК РЭС является кусочно-линейная функция Т1ИШ:

Ф(х) :

x, если x > 0; 0, ес ли x < 0.

(11)

Аналогичным образом определяются другие гиперпараметры нейронной сети.

В ходе данного исследования были разработаны несколько нейросетевых методов краткосрочного прогнозирования электропотребления ЭТК РЭС, в основе которых лежат ИНС следующей архитектуры: многослойный персептрон (Multilayer

perceptron — MLP), одномерная сеть свертки (Convolution neural network — CNN), рекуррентная сеть типа долгой краткосрочной памяти (Long — short term memory — LSTM), а также ансамбль вышеперечисленных ИНС (Ensemble). Конфигурация каждой ИНС была определена с помощью инструментов библиотеки глубокого машинного обучения Keras. На рис. 4 представлена структурная схема ансамбля ИНС, используемого для краткосрочного прогнозирования электропотребления ЭТК РЭС.

Ансамбль ИНС, представленный на рис. 4, состоит из:

— персептрона с тремя полносвязными слоями (Dense) размером 145, 57 и 24 нейрона соотвест-венно;

— одномерной сети свертки, состоящей из двух слоев свертки (ConvlD) по 22 ядра размером два элемента, слоя пулинга (MaxpoolinglD) и двух полносвязных слоев (Dense) размером 141 и 24 нейрона соотвественно;

Рис. 5. Графики изменения относительной ошибки прогнозирования электропотребления ЭТК РЭС при использовании различных оптимизаторов функции потерь: а) на обучающей выборке; б) на тестовой выборке

mean absolute гаг nal maü absolute errar

Рис. 6. Кривые изменения ошибки краткосрочного прогнозирования электропотребления ЭТК РЭС разработанных нейросетевых моделей цикла: а) на обучающей выборке; б) на тестовой выборке

— рекуррентной нейросети, состоящей из двух слоев свертки (Conv1D) по 22 ядра размером три и четыре элемента соотвественно, слоя пулин-га (Maxpooling1D), рекуррентного слоя (LSTM) размером 120 и выходного полносвязного слоя (Dense) размером 24 нейрона.

Обсуждение результатов исследования. На рис. 5 представлены графики изменения относительной ошибки прогнозирования электропотребления ЭТК РЭС при использовании различных оптимизаторов функции потерь на обучающей и тестовой выборках данных.

На основании графиков изменения ошибки прогнозирования (рис. 5а, б) можно сделать вывод о том, что использование оптимизатора функции потерь ADAM позволяет снизить ошибку краткосрочного прогнозирования почасового электропотребления ЭТК РЭС на обучающей выборке более чем на 7 % и на тестовой выборке более чем на 3 % по сравнению с алгоритмом стохастического градиентного спуска SGD. В то же время, оптимизатор RMSProp демонстрирует более высокую точность прогнозирования на обучающей выборке, но значительного улучшения результатов на тестовой выборке не наблюдается.

На рис. 6 представлены кривые изменения относительной ошибки краткосрочного прогнозирова-

ния электропотребления ЭТК РЭС разработанных нейросетевых моделей на обучающей и тестовой выборках.

Как мы видим из графиков на рис. 6а, б, применение Ансамбля ИНС при краткосрочном прогнозировании ЭТК РЭС позволяет достичь наибольшей точности на обучающей и тестовых выборках данных по сравнению с одиночными моделями. Увеличение точности прогнозирования по сравнению с многослойным персептроном составляет около 0,2 % на обучающей выборке данных и около 1 % на тестовой выборке данных.

Выводы.

В ходе данного исследования было выяснено, что:

— использование адаптивного оптимизатора функции энергии ошибки ADAM позволяет улучшить сходимость алгоритма обучения глубоких нейронных сетей, что, в свою очередь, в значительной степени повышает точность краткосрочного прогнозирования электропотребления ЭТК РЭС;

— современные глубокие нейронные сети, такие как сети свертки и рекуррентные нейросети, демонстрируют более высокую точность краткосрочного прогнозирования электропотребления ЭТК РЭС, по сравнению с устаревшими персеп-тронными нейросетями;

— применение метода краткосрочного прогнозирования потребления электроэнергии ЭТК РЭС, основанного на ансамбле искусственных нейронных сетей, позволило снизить ошибку прогнозирования на 0,3—1 % по сравнению с одиночными нейросетями.

Библиографический список

1. Серебряков Н. А. Анализ факторов, влияющих на совокупное электропотребление гарантирующего поставщика // Вестник Иркутского государственного технического университета. 2020. Т. 24, № 2 (151). С. 366-381. DOI: 10.21285/18143520-2020-2-366-381.

2. Katasev A. S. Neuro-fuzzy model of fuzzy rules formation for objects state evaluation in conditions of uncertainty // Computer Research and Modeling. 2019. Vol. 11 (3). P. 477-492. DOI: 10.20537/2076-7633-2019-11-3-477-492.

3. Станкевич Т. С. Разработка метода оперативного прогнозирования динамики развития лесного пожара посредством искусственного интеллекта и глубокого машинного обучения // Вестник Иркутского государственного технического университета. 2018. Т. 22, № 9 (140). С. 111-120. DOI: 10.21285/1814-3520-2018-9-111-120.

4. Lopez M., Sans C., Valero S., Senabre C. Empirical comparison of neural network and auto-regressive models in short-term load forecasting // Energies. 2018. Vol. 11 (8). P. 1-19. DOI: 10.3390/en11082080.

5. Zheng Н., Yuan J., Chen L. Short-term Load Forecasting Using EMD-LSTM Neural Networks with a Xgboost Algorithm for Feature Importance Evaluation // Energies. 2017. Vol. 10 (8). P. 1-20. DOI: 10.3390/en10081168.

6. Надтока И. И., Хусейн А.-З. Б. М. Краткосрочное прогнозирование электропотребления региона с учетом метеофакторов на основе метода опорных векторов и алгоритма роя частиц // Известия высших учебных заведений. Электромеханика. 2014. № 3. С. 44-47.

7. Кирпичникова И. М., Саплин Л. А., Соломахо К. Л. Прогнозирование объемов потребления электроэнергии // Вестник ЮУрГУ. Серия «Энергетика». 2014. Т. 14, № 2. С. 16-22.

8. Потапов В. И., Грицай А. С., Тюньков Д. А. Спектральный анализ ретроспективных данных ООО «Омская энергосбытовая компания» об электропотреблении // Омский научный вестник. 2016. № 5 (149). С. 74-76.

9. Rahman A., Srikumar V., Smith A. D. Predicting electricity consumption for commercial and residential buildings using deep

recurrent neural networks // Applied Energy. 2018. Vol. 212. P. 372-385. DOI: 10.1016/j.apenergy.2017.12.051.

10. Хомутов С. О., Серебряков Н. А. Создание нейросете-вой математической модели краткосрочного прогнозирования электропотребления электротехнического комплекса участка районных электрических сетей 6-35 кВ // Транспортные системы и технологии. 2020. Т. 6, № 1. С. 80-91. DOI: 10.17816/ transsyst20206180-91.

11. Жуков А. В., Сидоров Д. Н. Модификация алгоритма случайного леса для классификации нестационарных потоковых данных // Вестник ЮУрГУ. Серия «Математическое моделирование и программирование». 2016. T. 9, № 4. C. 86-95. DOI: 10.14529/mmp160408.

12. Wang Z., Srinivasan R. S. A review of artificial intelligence based building energy use prediction: contrasting the capabilities of single and ensemble prediction models // Renewable and Sustainable Energy Reviews. 2017. Vol. 75. P. 796-808. DOI: 10.1016/j.rser.2016.10.079.

13. Li S., Wang P., Goel L. A novel wavelet-based ensemble method for short-term load forecasting with hybrid neural networks and feature selection // IEEE Transactions on Power Systems. 2016. Vol. 31, Issue 3. P. 1788-1798. DOI: 10.1109/ TPWRS.2015.2438322.

14. Kingma D. P., Lei Ba J. ADAM: a method for stochastic optimization. URL: https://arxiv.org/pdf/1412.6980.pdf (дата обращения: 30.01.2017).

СЕРЕБРЯКОВ Николай Александрович, старший преподаватель кафедры «Электроснабжение промышленных предприятий». БРНЧ-код: 8639-6888 ЛиШогГО (РИНЦ): 1042019 ОЯСГО: 0000-0001-7428-7364

Адрес для переписки: [email protected]

Для цитирования

Серебряков Н. А. Применение адаптивного ансамблевого нейросетевого метода для краткосрочного прогнозирования электропотребления электротехнического комплекса районных электрических сетей // Омский научный вестник. 2021. № 1 (175). С. 39-45. БОН 10.25206/1813-8225-2021-175-39-45.

Статья поступила в редакцию 09.11.2020 г. © Н. А. Серебряков

i Надоели баннеры? Вы всегда можете отключить рекламу.