Научная статья на тему 'Нейросетевой подход к прогнозированию потребления энергоресурсов в городской среде'

Нейросетевой подход к прогнозированию потребления энергоресурсов в городской среде Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
143
22
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ENERGY RESOURCES / METERING DEVICE / HOUSING AND COMMUNAL SERVICES / ENERGY CONSUMPTION FORECASTING / DATA ANALYSIS / REGRESSION / TIME SERIES / RECURRENT NEURAL NETWORK / MACHINE LEARNING / "SMART CITY" / ЭНЕРГОРЕСУРСЫ / ПРИБОР УЧЕТА / ЖИЛИЩНО-КОММУНАЛЬНОЕ ХОЗЯЙСТВО / ПРОГНОЗИРОВАНИЕ ЭНЕРГОПОТРЕБЛЕНИЯ / АНАЛИЗ ДАННЫХ / РЕГРЕССИЯ / ВРЕМЕННОЙ РЯД / РЕКУРРЕНТНАЯ НЕЙРОННАЯ СЕТЬ / МАШИННОЕ ОБУЧЕНИЕ / "УМНЫЙ ГОРОД"

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Горбунова Е.Б., Синютин Е.С., Синютин С.А.

В настоящее время можно наблюдать общемировую тенденцию к внедрению так называемой цифровой энергетики в целях оптимизации распределения и использования энергоресурсов с помощью современных технологий сбора и обработки информации. При этом особую актуальность приобретает задача прогнозирования потребления электричества для обеспечения его бесперебойной подачи в условиях постоянного роста числа потребителей. Целью данной работы было сравнение методов классического регрессионного анализа с нейросетевыми алгоритмами при решении задачи прогнозирования энергопотребления домохозяйствами. Для исследования использовались данные, полученные с приборов учета 47 домохозяйств, расположенных в Ростовской области, за период 730 дней. Были рассмотрены прогнозирующие модели на основе регрессии, порядок модели варьировался от 1 до 3, а также модель на основе рекуррентной нейронной сети. Горизонт прогнозирования выбирался как 20% от имеющейся выборки данных (80% оставалось на обучение модели), что в среднем соответствовало трем месяцам. Из рассмотренных моделей наилучший результат продемонстрировала нейронная сеть, для которой относительная погрешность прогноза не превышала 5%.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Горбунова Е.Б., Синютин Е.С., Синютин С.А.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Neural network approach to forecasting energy consumption in an urban environment

Environmentally friendly approach to energy consumption implies planning the resources' amount which could be delivered and utilized by the end user. For the resource provider this means being able to get remote data from a huge number of users, with further data analysis being performed to predict future consumption. The main objective of this work was a comparison of classical regression analysis methods with neural network analysis for solving a household energy consumption prediction problem. Research was based on an array of energy consumption data collected from 47 households situated in the Rostov region (Russia) over a period of 730 days. We investigated the forecasting models based on statistical regressing of 1-st, 2-d and 3-d order and a recurrent neural network (the best result we achieved had been given by a neural network with one hidden layer of 10 neurons). Forecasting time-frame was 20% of the data-set (nearly three months) and 80% we used for training. For our data the best result was achieved by a neural network where the ratio error of the forecast practically didn't exceed 5% (mean ratio error was 0.22 and standard deviation of 3.7). For the regression models these terms were 0.37 and 6.24 for the 1-st order, 3.31 and 6.45 for the 2-d order, 0.29 and 6.7 for the 3-d order model respectively. As a result of this work we determined, that rather simple recurrent neural network provides a better result in terms of energy consumption prediction in comparison with classical regression analysis methods, though more complex networks, such as LSTM, need a wider data array to learn.

Текст научной работы на тему «Нейросетевой подход к прогнозированию потребления энергоресурсов в городской среде»

Нейросетевой подход к прогнозированию потребления энергоресурсов в

городской среде

Е.Б. Горбунова, Е.С. Синютин, С.А. Синютин НТЦ «Техноцентр», Южный федеральный университет, г. Таганрог

Аннотация: В настоящее время можно наблюдать общемировую тенденцию к внедрению так называемой цифровой энергетики в целях оптимизации распределения и использования энергоресурсов с помощью современных технологий сбора и обработки информации. При этом особую актуальность приобретает задача прогнозирования потребления электричества для обеспечения его бесперебойной подачи в условиях постоянного роста числа потребителей. Целью данной работы было сравнение методов классического регрессионного анализа с нейросетевыми алгоритмами при решении задачи прогнозирования энергопотребления домохозяйствами. Для исследования использовались данные, полученные с приборов учета 47 домохозяйств, расположенных в Ростовской области, за период 730 дней. Были рассмотрены прогнозирующие модели на основе регрессии, порядок модели варьировался от 1 до 3, а также модель на основе рекуррентной нейронной сети. Горизонт прогнозирования выбирался как 20% от имеющейся выборки данных (80% оставалось на обучение модели), что в среднем соответствовало трем месяцам. Из рассмотренных моделей наилучший результат продемонстрировала нейронная сеть, для которой относительная погрешность прогноза не превышала 5%.

Ключевые слова: энергоресурсы, прибор учета, жилищно-коммунальное хозяйство, прогнозирование энергопотребления, анализ данных, регрессия, временной ряд, рекуррентная нейронная сеть, машинное обучение, «умный город».

Рациональное распределение энергоресурсов является одним из ключевых факторов создания экосистемы умных городов. В этой среде электричество является одним из важнейших ресурсов, при этом данная индустрия характеризуется рядом особенностей, связанных, прежде всего, с тем, что хранение электрической энергии затруднительно и сопряжено с потерями, его производство и потребление происходит практически в реальном времени. Чтобы обеспечить бесперебойную подачу энергоресурсов с учетом постоянного роста потребления, а также сформировать рекомендации по его оптимизации, существует острая необходимость в создании прогнозирующих моделей.

Наиболее часто используемыми методами прогнозирования энергопотребления считаются интегрированная модель авторегрессии

(модель Бокса-Дженкинса [1]) и регрессионный подход [2]. Модель Бокса-Дженкинса предполагает предварительную оценку стационарности временного ряда, что успешно применяется при прогнозировании на больших временных интервалах, где временной ряд значений потребления становится близким к линейной зависимости. Регрессионный подход также ориентирован на использование одного-двух методов аппроксимации, с учетом линейной (или квадратичной) формы временного ряда на длительных интервалах. Однако данные методы крайне плохо справляются с нелинейностью во временном ряде, которая вполне возможна для энергопотребления (особенно в современных условиях). Так, например, при подключении функций «умного дома» в домохозяйстве резко изменяется вид графика энергопотребления, особенно в краткосрочном периоде. Влияние температуры окружающей среды так же необходимо учитывать при разработке метода прогнозирования.

Одним из новых подходов является применение искусственных нейронных сетей [3-6]. Применяются long short-term memory networks (LSTM-network), отличающиеся способностью к обучению долговременным зависимостям. Это свойство очень важно при прогнозировании энергопотребления, основанном на разности потребления в зависимости от дня недели или месяца [4]. Однако, существуют ограничения на применение LSTM-сетей, например, как показано в [7] обучающая выборка для LSTM-сети в 20 раз превышает выборку для обычной рекуррентной сети, что ужесточает требования к набору данных. Несомненным преимуществом при этом, как показано в [7], является отсутствие роста ошибки прогнозирования при увеличении горизонта прогноза, классическая рекуррентная сеть имеет ограничение на длительность прогноза и нуждается в постоянном обновлении обучающих данных.

При обучении классических рекуррентных нейронных сетей обращают внимание на проблему локальных минимумов, которые приводят к уменьшению приращений в алгоритме обратного распространения ошибки. Одно из решений данной проблемы предложено в [3], используется так называемый алгоритм оконного момента, т.е. вводится функция, аргументами которой являются предыдущие обновления, а число этих аргументов зависит от размера окна.

Таким образом, когда данные об энергопотреблении домохозяйств фиксируются 1-2 раза в сутки, применение ЬБТМ-сетей оправдано только в случае наличия крупной обучающей выборки (не менее 5-6 лет), однако при этом возможен эффект «ложного обучения», так как за 3-4 года домохозяйства могут перейти на энергосберегающую технику и предыдущие данные окажутся невалидными. В нашем исследовании для снижения вычислительной сложности результирующего алгоритма воспользуемся классической рекуррентной сетью, для сравнения используем классические регрессионные методы.

Данная работа проводилась в рамках разработки инновационной системы комплекса учета, регистрации и анализа энергоресурсов [8] и имела целью сравнение методов классического регрессионного анализа с нейросетевыми алгоритмами при решении задачи прогнозирования энергопотребления домохозяйствами. Для исследования использовались данные, полученные с приборов учета 47 домохозяйств, расположенных в Ростовской области (Россия).

Обновление показаний в используемом массиве данных производилось не менее 1-го раза в сутки, валидность данных была подтверждена начиная с 66-го дня (для всех счетчиков). В ходе разведывательного анализа были проведены попытки поиска закономерностей энергопотребления в зависимости от дней недели и месяцев.

и

В качестве алгоритма программы прогноза использовались классические методы регрессионного анализа с полиномиальными законами регрессии 1-го, 2-го и 3-го порядка [9]. Данные методы сравнивались с нейросетевыми алгоритмами с предварительным обучением [10]. Обучение проводилось на 80% данных, 20% данных использовались для оценки качества прогноза. В качестве оценки качества прогнозирования использовался показатель относительной погрешности прогноза к реальным данным.

Разведывательный анализ не показал наличия выраженных зависимостей энергопотребления от дня недели и месяца (рис. 1 - 4).

Рис.1 - Пример распределения энергопотребления в зависимости от дня недели для одного из рассмотренных домохозяйств Для ряда потребителей имеют место циклические закономерности в изменении энергопотребления (рис.2), но в масштабе всех рассмотренных домохозяйств этот эффект сглажен и практически не наблюдается (рис.3-4).

Рис.2 - Пример распределения энергопотребления в зависимости от месяца года для одного из рассмотренных домохозяйств

Среднее потребление

60

40

20

0

Пн

к * 1 * , £ * 3 £ щ 1 1 К «

1 1 1 1 ! : |

30

Вт. Ср. Чт. Пт. Сб.

Среднеквадратичное отклонение

Вс.

20 10*

0* Пн.

Вт.

Ср.

Чт.

Пт.

Сб.

Вс.

Рис.3 - Усредненное распределение потребления энергоресурсов в зависимости от дня недели для всех рассмотренных домохозяйств

ООО СО СО ^г 1 1 * 1 1 1 * * (г ) $ ~ )

* * £ * 1 ч $

20 0 - ^ 1. * * 1 ши и \ « * ш Ш 1 1 1 1 1 1 и

Янв. Февр. Март Апр. Май Июнь Июль Авг. Сент. Окт. Нояб. Дек.

Рис.4 - Усредненное распределение потребления энергоресурсов в зависимости от месяца года для всех рассмотренных домохозяйств Каждый потребитель вносит свою индивидуальную компоненту в характер потребления, так для некоторых хозяйств характерно повышение энергопотребления в выходные дни, а для других характерно стабильное потребление без резких перепадов. Поскольку не было выявлено статистически значимых результатов, позволяющих основывать прогноз энергопотребления на недельной и годовой цикличности, в дальнейшем исследовании энергопотребление каждого домохозяйства рассматривалось как отдельный временной ряд.

Как уже упоминалось выше, для обучения моделей в каждом случае данные были разбиты на обучающую (80%) и тестовую (20%) выборки. Пример работы регрессионной модели приведен на рис. 5. Варьировался порядок модели - от 1 до 3. На нижних графиках (рис. 5) приведены соответствующие относительные погрешности для одного из анализируемых домохозяйств.

На рисунке 6 приведен аналогичный пример работы нейросетевой модели. Наилучший результат из опробованных продемонстрировала рекуррентная нейронная сеть с 1 скрытым слоем из 10 нейронов.

Регрессионная модель

• Данные -модель 1-го порядка I I I ¡1 ^^

-модель 2-го порядка -модель 3-го порядка

Обучение "1....... Прогноз I .

-

400 Дни

Рис.5 - Регрессионная прогнозирующая модель

Нейросетевая модель

100 200 300 400 500 600 700 800

Рис.6 - Нейросетевая прогнозирующая модель

На рис. 7 приведены гистограммы относительных погрешностей прогноза для рассмотренных моделей по всем участвовавшим в анализе домохозяйствам.

Нейронная сеть

Рис.7 - Распределение относительной погрешности прогноза для всех

рассмотренных домохозяйств Регрессионные модели показали сопоставимые результаты. Наименьшую среднюю ошибку прогноза имеет модель третьего порядка, однако она же имеет наибольшую дисперсию. Интересно, что линейная модель показала хороший результат для большинства домохозяйств, однако наличие у распределения ошибок «тяжелых хвостов» говорит о том, что в

ряде случаев энергопотребление домохозяйства подчиняется более сложному закону.

Наиболее точный прогноз обеспечивает модель на основе рекуррентной нейронной сети. Это вполне ожидаемый результат, поскольку известно, что такие модели хорошо подходят для обнаружения скрытых зависимостей в данных.

Заключение

Линейная регрессия представляется наиболее простым подходом к прогнозированию энергопотребления домохозяйств, при этом результат исследования показывает, что нельзя применять одну и ту же модель к разным домохозяйствам в связи с существенными различиями в паттернах потребления. Это приводит к тому, что прогнозирующая система должны иметь возможность одновременно обучать несколько моделей и выбирать лучшую или осуществлять предварительную классификацию домохозяйств.

Отметим, что исследованные модели основывались исключительно на самих данных об энергопотреблении. В перспективе точность прогноза возможно повысить путем внесения в модель дополнительных предикторов: размер и структура домохозяйства, прогноз температуры окружающей среды и пр.

В результате данной работы можно сделать однозначный вывод о том, что из рассмотренных моделей наилучший результат показала рекуррентная нейронная сеть. Более сложные нейросетевые модели (в частности, ЬБТМ) потенциально могут еще лучше обнаруживать скрытые закономерности в данных и, соответственно, давать более точный прогноз, но при этом они требуют значительно большего объема данных для обучения модели, когда измерения фиксироваться раз в сутки, а для детального прогноза - каждый час.

Результаты исследований, изложенные в данной статье, получены при финансовой поддержке Минобрнауки РФ в рамках реализации проекта «Разработка и создание высокотехнологичного производства инновационной системы комплексного учета, регистрации и анализа потребления энергоресурсов и воды промышленными предприятиями и объектами ЖКХ» по постановлению правительства №218 от 09.04.2010г. Исследования проводились в ФГАОУ ВО ЮФУ.

Литература

1. Box, G.E.P., Jenkins, G.M., and Reinsel, G.C. Time series analysis: forecasting and control. 1976, 575 p.

2. S.Saab, E. Badr, and G. Nasr (2001). Univariate modeling and forecasting of energy consumption: The case of electricity in Lebanon," Energy, vol.26, pp. 1-14.

3. Sukumar Mishra, Vivek Kumar Singh (2015). Monthly Energy Consumption Forecasting Based On Windowed Momentum Neural Network, IFAC-PapersOnline, 48-30, pp.433-438.

4. Yao Cheng, Chang Xu, Daisuke Mashima, Vrizlynn L.L. Thing, and Yongdong Wu (2017). PowerLSTM: Power Demand Forecasting Using Long Short-Term Memory Neural Network, Advanced Data Mining and Applications: 13th International Conference, ADMA 2017, Singapore, November 5-6, pp. 727 -740.

5. Rodrigo F. Berriel, Andre Teixeira Lopes, Alexandre Rodrigues, Flavio Miguel Varejao, Thiago Oliveira-Santos (2017), Monthly energy consumption forecast: A deep learning approach, International Joint Conference on Neural Networks (IJCNN), pp. 4283-4290.

6. Соснина Е.Н., Шалухо А.В., Бедретдинов Р.Ш., Липужин И.А. Нормирование энергопотребления образовательных учреждений на основе нейросетевого подхода // Инженерный вестник Дона, 2013, №3 URL: ivdon.ru/ru/magazine/archive/n3y2013/1841.

7. Ricardo Bonetto, Michele Rossi (2017). Machine Learning Approaches to Energy Consumption Forecasting in Households. Cornell University Library, Neural and Evolutionary Computing, arXiv:1706.09648.

8. Горбунова Е.Б., Синютин Е.С. Разработка имитационной модели радиоканала для передачи данных от приборов учета к GSM-концентраторам в инновационной системе комплексного учета, регистрации и анализа потребления энергоресурсов и воды промышленными предприятиями и объектами ЖКХ // Инженерный вестник Дона, 2016, №4 URL: ivdon.ru/ru/magazine/archive/n4y2016/3836.

9. Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работников. - М.: ФИЗМАТЛИТ, 2006. - 816 с.

10. Хайкин С. Нейронные сети: полный курс, 2-е изд., испр.: Пер. с англ. - М.: ООО «И.Д. Вильямс», 2006.- 1104 с. : ил.

References

1. Box, G.E.P., Jenkins, G.M., and Reinsel, G.C. Time series analysis: forecasting and control. 1976, 575 p.

2. S.Saab, E. Badr, and G. Nasr (2001). Univariate modeling and forecasting of energy consumption: The case of electricity in Lebanon," Energy, vol.26, pp. 1-14.

3. Sukumar Mishra, Vivek Kumar Singh (2015). Monthly Energy Consumption Forecasting Based on Windowed Momentum Neural Network, IFAC-PapersOnline, 48-30, pp.433-438.

4. Yao Cheng, Chang Xu, Daisuke Mashima, Vrizlynn L.L. Thing, and Yongdong Wu (2017). PowerLSTM: Power Demand Forecasting Using Long Short-Term Memory Neural Network, Advanced Data Mining and Applications: 13th International Conference, ADMA 2017, Singapore, November 5-6, pp. 727 -740.

5. Rodrigo F. Berriel, Andre Teixeira Lopes, Alexandre Rodrigues, Flavio Miguel Varejao, Thiago Oliveira-Santos (2017), Monthly energy consumption

forecast: A deep learning approach, International Joint Conference on Neural Networks (IJCNN), pp. 4283-4290.

6. Sosnina E.N., Shaluho A.V., Bedretdinov R.Sh., Lipuzhin I.A. Inzhenernyj vestnik Dona (Rus), 2013, №3. URL: ivdon.ru/ru/magazine/archive/n3y2013/1841.

7. Ricardo Bonetto, Michele Rossi (2017). Machine Learning Approaches to Energy Consumption Forecasting in Households. Cornell University Library, Neural and Evolutionary Computing, arXiv: 1706.09648.

8. Gorbunova E.B., Sinjutin E.S. Inzhenernyj vestnik Dona (Rus), 2016, №4 URL: ivdon.ru/ru/magazine/archive/n4y2016/3836

9. Kobzar' A.I. Prikladnaja matematicheskaja statistika. Dlja inzhenerov i nauchnyh rabotnikov [Applied mathematical statistics. For engineers and scientists]. M.: FIZMATLIT, 2006. 816 p.

10. Hajkin S. Nejronnye seti: polnyj kurs [Neural networks. A comprehensive foundation], 2 izd., ispr.: Per. s angl. M.: OOO «I.D. Vil'jams», 2006. 1104 p.

i Надоели баннеры? Вы всегда можете отключить рекламу.