CC BY-NC-ND
38
DOI: 10.17323/2587-814X.2023.3.7.23
Краткосрочное прогнозирование цен на электроэнергию с использованием генеративных нейронных сетей
A.С. Каукин ©
E-mail: kaukin@iep.ru
П.Н. Павлов ©
E-mail: pavlov@ranepa.ru
B.С. Косарев
E-mail: kosarev-vs@ranepa.ru
Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации Адрес: Россия, 119571, г. Москва, пр. Вернадского, д. 82.
Аннотация
В статье изучаются прогностические способности генеративно-состязательного нейросетевого подхода в отношении временных рядов на примере прогнозирования цен для узлов свободного рынка электроэнергии России на сутки вперед. В результате серии экспериментов мы приходим к выводу, что генеративно-состязательная сеть, состоящая из двух моделей (генератора и дискриминатора), позволяет достичь минимума функции ошибки с большей обобщающей способностью, чем, при прочих равных, достигается в результате оптимизации статичного аналога генеративной модели — рекуррентной нейронной сети. Собственные эмпирические результаты показывают, что при околонулевой среднеквадратической ошибке на тренировочном множестве, демонстрируемой одновременно рекуррентной и генеративной моделями, ошибка последней на тестовом множестве ниже. Состязательный подход также превзошел в точности вневыборочного прогноза альтернативные эталонные модели: сверточную нейронную сеть, адаптированную для прогнозирования временных рядов, и авторегрессионную линейную модель. Практика применения предложенного подхода показала, что генеративно-состязательная модель с заданной универсальной архитектурой и ограниченным числом объясняющих факторов при условии дообучения на данных, специфичных для целевого узла энергосистемы может использоваться для прогнозирования цен в узлах рынка на сутки вперед без существенных отклонений.
Ключевые слова: рынок электроэнергии, рынок на сутки вперед, временные ряды, генеративная нейронная сеть, рекуррентная нейронная сеть
Цитирование: Каукин А.С., Павлов П.Н., Косарев В.С. Краткосрочное прогнозирование цен на электроэнергию с использованием генеративных нейронных сетей // Бизнес-информатика. 2023. Т. 17. № 3. С. 7—23. Б01: 10.17323/2587-814Х.2023.3.7.23
Введение
На территории России действует двухуровневый рынок электроэнергии и мощности. Рынок на сутки вперед является основной площадкой, где приобретают электроэнергию и мощность промышленные производители. Рынок на сутки вперед (далее — РСВ) представляет собой систему, где осуществляется конкурентный отбор ценовых заявок поставщиков и покупателей электроэнергии за сутки до ее реальной поставки (потребителям) с определением цен и объемов поставки на каждый час суток1. На РСВ осуществляется маржинальное ценообразование, иными словами цена определяется на основании баланса спроса и предложения и распространяется на всех участников данного рынка.
Уровень цен на электроэнергию напрямую влияет на издержки компаний. Наличие точного прогноза цен на электроэнергию необходимо для планирования операционной деятельности предприятий-представителей энергоемких отраслей, а также для построения финансовых моделей. В свою очередь нелинейная природа динамики цен на электроэнергию делает их прогнозирование сложной эмпирической задачей2.
Существует множество эмпирических работ, как отечественных, так и зарубежных исследователей, где нейросетевые методы использовались для прогнозирования цен свободного рынка электроэнер-
гии и продемонстрировали свое превосходство над линейными моделями. Однако в последнее время появляются свидетельства того, что использование генеративно-состязательного подхода (generative adversarial networks, GAN)3 позволяет дополнительно повысить точность нейронной сети, построенной и оптимизированной специально для решения определенной задачи.
GAN является одновременно представителем статистических методов прогнозирования и методов имитационного моделирования4. Используя набор доступных предикторов, неопытный эксперт (генеративная нейронная сеть в начале обучения) делает прогнозы о цене электроэнергии в определенном узле, а другая нейронная сеть (дискриминатор) учится их отличать от реальных данных. В процессе обучения сети стимулируют друг друга ко все более точному решению поставленной перед ними индивидуальной задачи. Обучение продолжается, пока прогнозы эксперта (генератора) не достигают необходимой точности в соответствии с выбранной метрикой.
Цель представленной работы заключается в апробации методологии построения генеративно-состязательных сетей (GAN) для прогнозирования поуз-ловых цен на электроэнергию в России на рынке на сутки вперед, а также в проведении сравнительного анализа качества прогнозов на основе методологии GAN и прогнозов, полученных альтернативными (эталонными) методами.
1 Конкурентный отбор заявок проводится коммерческим оператором (АО «АТС»). Цена РСВ определяется для каждого узла двух ценовых зон: первая ценовая зона включает территории Европейской части России и Урала (Центрального, Северо-Западного (за исключением территорий, относящихся к неценовым зонам), Южного, Северо-Кавказского, Приволжского и Уральского федеральных округов), вторая — территорию Сибири (Сибирского федерального округа).
2 Характерной особенностью цен свободного рынка является значительная волатильность, сложная структура сезонности (годовая, внутринедельная, внутридневная сезонность), а также наличие частых выбросов. Последнее может быть обусловлено, как нештатными ситуациями в энергосистеме, так и конъюнктурой отраслей-потребителей, что делает невозможным построение полной структурной модели рынка.
3 Симбиоз двух нейронных сетей: генератора и дискриминатора. Генератор предназначен непосредственно
для построения прогнозов. Дискриминатор предназначен для того, чтоб отличать реальные данные от прогноза генератора и стимулировать генератор обучаться эффективнее.
4 Методы имитационного моделирования, как правило, используются для репрезентации структуры, связей элементов сложных экономических систем, где в явном виде необходимо учитывать феномен взаимодействия множества агентов [1—3].
Для достижения цели в представленной работе решаются следующие задачи. Во-первых, обобщаются подходы к прогнозированию цен на электроэнергию, в том числе с использованием генеративно-состязательных нейронных сетей. Во-вторых, приводится описание данных, характеризующих оптовый рынок электроэнергии (РСВ) в России. В-третьих, характеризуются методологические подходы к разработке генеративно-состязательной нейросетевой модели для прогнозирования цены на электроэнергию на уровне отдельных узлов энергосистемы в России. В-четвертых, приводится обзор эмпирических результатов исследования, сравниваются результаты прогнозирования цен на электроэнергию с использованием методологии генеративно-состязательных нейронных сетей (GAN) и основных бенчмарков, включая базовую рекуррентную сеть, сверточную нейронную сеть и авторегрессионную модель (ARIMA), широко используемую в моделировании временных последовательностей в сфере экономики и финансов [4—6]. В заключении приводится краткое обобщение результатов проведенного исследования.
1. Анализ литературы
1.1. Классические подходы
к прогнозированию цен на электроэнергию на РСВ
Для решения задачи прогнозирования цен на электроэнергию использовались различные экономико-математические и имитационные модели. Отечественными учеными в работе [1], к примеру, использовалась имитационная модель на основе CGE (модель общего экономического равновесия) для поиска оптимальных темпов роста тарифов в электроэнергетике по регионам РФ в регулируемом сегменте рынка. Разработанная авторами система уравнений учитывала взаимодействие множества экономических агентов: потребитель, производитель, импортеры и экспортеры электроэнергии, государство.
Для прогнозирования цен свободного рынка, система одновременных уравнений использовалась в работе [7]. Авторы моделировали спотовые цены на электроэнергию в Скандинавии, используя модель на основе 29 уравнений, которая учитывала функциональные связи между климатическими факторами, развитием снежного покрова, водностью рек (гидроэлектростанции основной
источник электроэнергии в Скандинавии), параметрами энергосистемы. В работе [8] была разработана структурная модель спотовых цен на электроэнергию для Новой Англии в США, учитывающая функциональные связи между ценами на топливо, а также спросом на электроэнергию и доступностью генерирующих мощностей.
Имитационный подход является действенным инструментом моделирования экономики на основе аналитического представления взаимодействия различных агентов и позволяет учитывать физические процессы, влияющие на экономику. К примеру, в работе [2] была представлена имитационная модель для прогнозирования динамики добычи нефти по скважинам, учитывающая реализованные и плановые геолого-технические мероприятия на каждой скважине. В другом случае, имитационный подход был использован для разработки цифрового двойника завода по выпуску телевизионной техники [3]. Однако использование имитационного подхода в прогностических целях, в случае с по-узловыми ценами на РСВ представляется затруднительным, поскольку требует наличия подробной информации о топологии энергетической сети, ее параметрах и условиях работы.
Экономико-математические подходы в части моделей временных рядов являются более распространенным для прогнозирования цен свободного рынка. Их можно обобщить в две группы: статистические и методы машинного обучения. К статистическим методам обычно относят аддитивные эко-нометрические модели [9]. К примеру, в работах [5, 6, 10] для прогнозирования цен свободного рынка использовались различные вариации авторегрессионных моделей (ARIMA, ARMAX, AGARCH). Однако по мере развития и популяризации методов машинного обучения (machine learning, ML) стало появляться все больше работ, где линейные эконо-метрические модели в сравнении с такими представителями методов машинного обучения, как модели опорных векторов, градиентный бустинг и нейронные сети [9, 11, 12], оказывались менее точными в краткосрочном прогнозировании цен.
Множество исследователей обращались к нейронным сетям для прогнозирования цен свободного рынка электроэнергии [12—14]. При этом большинство исследователей, по состоянию на 2020 г. [15], отдавало предпочтение многослойному персептро-ну (multilayer perceptron, MLP5). Отечественные ис-
5 Multilayer perceptron — это искусственная нейронная сеть, которая характеризуется несколькими слоями входных узлов, соединенных в виде ориентированного графа между входным и выходным слоями.
следователи также неоднократно применяли данную архитектуру для прогнозирования цен РСВ. К примеру, Марьясин и Лукашова использовали MLP с двумя скрытыми слоями для прогноза свободных цен на электроэнергию в Ярославской области. К MLP-архитектуре обращались отечественные ученые Золотова и Дворкин [16]. В своем исследовании авторы предложили использовать персептрон с 8 нейронами в скрытом слое для прогнозирования почасового индекса равновесных цен первой ценовой зоны.
В зарубежной литературе существует множество работ с использованием иных архитектур, хорошо зарекомендовавших себя в задачах прогнозирования временных рядов в других сферах. К примеру, комбинация сверточной и рекуррентной нейронных сетей использовалась для прогнозирования цен и спроса на электроэнергию в работах [14, 17]. Как отмечается в работе [14], подобная архитектура оправдала себя во многих областях, где для прогнозирования требовалось извлечение одновременно как временных, так и пространственных характеристик временных рядов. Авторы исследования [12] предложили использовать сверточную нейронную сеть с расширенными свертками6 для прогноза цен на оптовом рынке электроэнергии в канадском городе Онтарио. Однако в последнее время появляются свидетельства того, что генеративно-состязательный подход способен улучшить результаты сети любой архитектуры при условии использования ее в качестве генератора в GAN [18].
1.2. Генеративно-состязательные нейросети 1.2.1. Общая характеристика
Базовая теория генеративно-состязательных сетей с примерами практического использования изложена в монографии Николенко [19]. В самом простом варианте генеративно-состязательная модель состоит из двух искусственных нейронных сетей, которые поочередно взаимодействуют друг с другом. Одна из них, генератор — порождает объекты в пространстве данных, а вторая, дискриминатор — учится отличать порожденные генератором объекты от настоящих примеров из обучающей выборки.
Состязательная компонента во взаимодействии двух сетей состоит в том, что генератор должен научиться обманывать дискриминатор, а дискримина-
тор, несмотря на это, должен корректно отличать сгенерированные примеры от настоящих. Формализация подобного описания в терминах теории игр приводит к минимаксной задаче оптимизации, которую можно записать в виде уравнения 1:
min таxV(D,G), где таxV(D,G) =
в D
+' (1)
где D(x) — функциональная форма дискриминатора;
G(z) — функциональная форма генератора;
p(z) — порождаемое генератором распределение
данных;
PdatJX) — распределение фактических данных.
На практике функциональные формы дискриминатора и генератора могут представлять собой любые архитектуры нейронных сетей. Решение минимаксной задачи обеспечивает поочередное обучение: генератора с фиксированными весами дискриминатора и наоборот — дискриминатора с фиксированными весами генератора.
Генеративно-состязательные сети впервые описали и применили на практике в 2014 году Гудфел-лоу и Йошуа Бенжи [20]. Впоследствии их идея получила широкое практическое применение: состязательные сети позволили добиться значительных результатов в таких областях, как генерация изображения по текстовому описанию [21], создание лекарственных препаратов [22], генерация псевдо-реалистичных временных последовательностей с сохранением основных моментов распределения [23] и т.п.
Например, в случае генерации изображения по описанию, текст преобразуется в числовое признаковое пространство с помощью рекуррентного кодировщика, а затем эти признаки используются как условие в порождающей изображения сети GAN. В результате, к примеру, лицо человека на фотографии можно сначала отобразить в пространство признаков, а потом изменить признак возраста и сгенерировать новое изображение. Таким образом, можно искусственно «состарить» или «омолодить» человека.
Для создания нового лекарственного препарата исследователи из работы [22] использовали состязательный автокодировщик для порождения
6 Адаптация сверточной сети для прогнозирования временных рядов, которая позволяет учитывать широкий диапазон истории при прогнозировании.
молекул, которые могут быть перспективными кандидатами для создания на их основе новых лекарственных средств.
Временные ряды представляют собой уникальный объект для генеративного моделирования. В работе [23] отмечается, что модели прогнозирования временных рядов, такие как классические или нейросетевые авторегрессии, по своей сути детерминированы. Генеративные модели в свою очередь позволяют добавить в нейросетевой вывод элемент случайности.
1.2.2. Применение GAN для прогнозирования рынка электроэнергии
В зарубежной исследовательской практике существует ряд примеров использования генеративно-состязательных сетей для прогнозирования рынка электроэнергии. К примеру, в работе [24] авторы проводили апробацию модели генеративно-состязательной сети на двух наборах данных: потребление электроэнергии на уровне отдельного домохозяйства и динамика обменного курса. В результате генеративно-состязательная модель в обоих экспериментах превзошла по точности ее детерминированный эквивалент — генеративную нейронную сеть, обученную независимо.
В работе [25] исследователи предлагают модель на основе генеративно-состязательных сетей для прогнозирования поузловых цен части энергетической системы США. Нейросетевая модель использует пространственно-временные корреляции между историческими ценами в узлах и принимает в качестве входных данных исторические цены, упорядоченные в трехмерный тензор7. Этот тензор состоит из ряда упорядоченных по времени матриц. В свою очередь, каждая матрица — это фактически карта по-узловых цен с сохранением пространственного расположения узлов. Задача генеративной модели в данном случае заключалась в генерации новой матрицы с прогнозными поузловыми ценами на элек-троэнегрию. Базовая модель обучалась строить прогноз на час вперед.
В работе [26] генеративная состязательная сеть используется для прогноза оптовых цен на электроэнергию с интервалом в 30 минут для энергетического рынка Австралии. В отличие от предыдущих
работ, авторы строят не точечную оценку цены, а интервальную. Генеративная сеть позволила авторам получить прогнозные интервалы, накрывающие редкие и экстремальные наблюдения более точно, чем альтернативные вероятностные модели.
Следуя подходу, описанному в работе [24], для разработки собственной генеративно-состязательной модели мы используем двухшаговую процедуру. На первом шаге мы разрабатываем и оптимизируем рекуррентную нейронную сеть для решения задачи прогнозирования цены на электроэнергию в случайном узле энергосистемы. На втором шаге мы инкорпорируем полученную нейросеть в GAN в качестве генератора и проверяем устойчивость модели на некотором подмножестве узлов. Такой подход позволяет сузить пространство поиска архитектуры GAN до дискриминатора и дает возможность проверить гипотезу — возможно ли за счет включения в архитектуру GAN улучшить работу базовой нейронной сети.
2. Данные
Анализ проводится на основе почасовых отчетов администратора торговой системы (АТС) о равновесных ценах в наиболее крупных узлах энергосистемы [27]. База данных охватывает период с 13.04.2019 по 31.12.2022 и содержит информацию о 7215 узлах в 66 регионах РФ. Динамика усредненных цен по всем узлам энергосистемы РФ представлена на рис. 1.
Несмотря на стохастическое поведение каждого из рядов поузловых цен можно отметить тенденцию к пространственной корреляции внутри одного региона. Иллюстрацией чего служит кластеризация статистических характеристик цен: среднего и стандартного отклонения за рассматриваемый период на примере некоторых субъектов РФ (рис. 2).
Существует ряд особенностей, которые необходимо учесть при формировании перечня объясняющих переменных:
1. Существенная автокорреляция цен. Данный феномен подробно описан в работе Золотовой и Дврокина [16] на уровне ценовых зон. Собственный анализ показал, что в частных случаях — на уровне узлов картина в целом схожа.
2. Наличие годовой сезонности. Сезонная компонента изменяется синхронно в большинстве ре-
7 Под тензором в данном случае подразумевается объект машинного обучения — массив матриц или многомерный массив данных.
Средняя цена
1-1-1-1-1-1-1-1-1-1-1-1-г
январь февраль март апрель май июнь июль август сентябрь октябрь ноябрь декабрь январь Рис. 1. Усредненные цены на РСВ по всем узлам энергетической системы РФ.
Стандартное отклонение 170
165
160
155
150
145
140
1050 1100 1150 1200 1250 1300 1350 1400
Рис. 2. Кластеризация статитических характеристик узлов внутри одного региона.
• Алтайский край
Я Ивановская область ■ Самарская область + Челябинская область
♦ Ярославская область
Среднее
гионов России, рост цен наблюдается в третьем квартале, что связанно с динамикой общероссийского производственного цикла и началом отопительного периода (более детально причины годовой сезонности проанализированы в работе Прохоровой и др. [28]). К исключениям относятся Красноярский край и Иркутская область (см. рис. 3), в которых, напротив, наблюдается снижение цен в 3 квартале, что может быть связано с доступностью в регионах относительно дешевой электроэнергии от ГЭС.
3. Поведение цен внутри недели на уровне регионов имеет некоторую относительно постоянную периодичность: в большинстве регионов в понедельник и пятницу цены находятся на максимальном уровне, в субботу — на минимальном. Исключения составляют Иркутская область и Республика Бурятия, в которых цены в субботу в среднем наи-
более высокие. Однако, в течение рабочей недели динамика может отличаться от региона к региону. В дни государственных праздников наблюдается значительное понижение цен во всех регионах, за исключением ряда регионов СКФО (рис. 4).
4. Нелинейная зависимость от температуры. В упомянутом выше исследовании Прохоровой и др. [28] отмечалась необходимость учитывать, как устойчивые изменения динамики температуры в течение года, влияющие на годовую сезонность в потреблении электричества, так и погодные факторы, которые учитывают отклонения от нормы.
3. Методология исследования
Анализ ценовой динамики в узлах энергосистемы РФ позволил выявить наличие пространственной автокорреляции. Статистические характеристики
Средние цены
1800
1600
1400
1200
1000
800
I
II
1 ................................................................
......1
и *
Квартал
IV
Иркутская область Краснодарский край Красноярский край Республика Бурятия Республика Дагестан Республика Крым Республика Хакасия Тульская область Чеченская Республика
Рис. 3. Диаграмма размаха средних цен РСВ в зависимости от квартала (расчет проведен для всех регионов в выборке, выбросы показаны для отдельных регионов РФ).
Средние цены
1600
1400
1200
1000
800
ср
• Забайкальский край X Иркутская область ■ Красноярский край + Республика Бурятия
• Республика Дагестан 4- Республика Ингушетия ▲ Республика Крым
• Чеченская Республика
сб
праздничный день
Рис. 4. Диаграмма размаха усредненных цен РСВ по дням недели и праздникам (расчет проведен для всех регионов в выборке, выбросы показаны для отдельных регионов РФ).
вт
пн
вс
цен по мере удаления узлов все более отличаются, что связано с изменяющимися условиями спроса и предложения. По этой причине прогнозная модель может быть специфичной для:
а) узла и учитывать пространственный лаг (пространственную автокорреляцию),
б) региона и иметь множественный вывод — прогноз одновременно во всех узлах региональной энергосистемы, где формат входных данных предполагает учет географической связности.
Во втором случае (вариант б) для получения модели с высокой обобщающей способностью необходимо значительное количество наблюдений во времени. К сожалению, ограничения доступной ретроспективы данных на сайте администратора торговой системы (АТС) не позволяют обучить подобную модель, поэтому в своем исследовании мы остановимся на первом варианте (вариант а), предполагающем построение универсальной архитектуры нейросети, которая при условии обучения на специфичных для узла данных позволит прогнозиро-
вать цены для любого отдельно взятого узла энергетической системы без существенной дисперсии ошибки.
С учетом приведенных выше особенностей в данных в числе объясняющих переменных будут использоваться следующие факторы:
♦ лаговые значения цены на электроэнергию в целевом узле;
♦ лаговые значения цены на электроэнергию трех ближайших узлов в рамках региональной сети;
♦ фиктивные переменные (дамми) на выходные и праздничные дни;
♦ среднесуточная температура в регионе;
♦ отклонение температуры от скользящего среднего. Важно отметить, что модель для узла может
включать и специфичные для местности факторы, к примеру, водность рек, что актуально для регионов Урала и Сибири [16], мощности промышленных потребителей и другие. Однако отсутствие статистики в необходимом разрезе не предоставляет этой возможности.
Как было отмечено выше, на первом шаге моделирования формируется статичная рекуррентная нейронная сеть, которая оптимизируется, а ее устойчивость проверяется на случайных узлах энергосистемы. На втором шаге моделирования формируется GAN на основе имеющейся архитектуры статичной рекуррентной нейронной сети, которая используется в качестве генератора. После оптимизации архитектуры дискриминатора и гиперпараметров GAN сравнивается точность результатов прогнозирования построенной модели с альтернативными бенчмарками.
Первоначально все модели параллельно обучаются на 5 случайных узлах в каждом регионе8. Таким образом, каждая модель последовательно обучается на 330 узлах9, а средняя ошибка и ее дисперсия, полученные на тестовых данных, используются для сравнения качества моделей. Соответственно, предобработка данных для всех узлов унифицирована: производится разделение выборки на обучающую, валидационную и тестовую в соотношении 80%, 10% и 10%; стандартизация данных и тензорное преобразование в формате скользящих окон из исходных временных рядов (размерность временного окна является гиперпараметром).
3.1. Построение статичной
модели генератора (первый шаг моделирования)
Статичная модель представляет собой двухслойную рекуррентную нейронную сеть GRU10 с 55 ячейками в первом слое и 20 во втором11. Первый слой на выходе сохраняет размерность данных во времени для следующего рекуррентного слоя. Второй слой в качестве выходных данных передает вектор размерности 3. Таким образом, исходную матрицу входных данных размерности (7 x 8), где 7 — это размер временного окна, 8 — число объясняющих переменных, модель отображает в пространство размерности (1 x 3). Сумма элементов данного
вектора представляет собой прогноз цены на электроэнергию на одни сутки вперед (элементы вектора суммируются с учетом весов, значения которых подбираются в ходе обучения модели). Такие гиперпараметры модели, как размер временного окна, определяющего число лагов во времени для всех переменных, и количество элементов обучающей выборки, используемых для расчета одной итерации градиентного спуска, были определены эмпирически в результате перебора, критерием выступала среднеквадратическая ошибка не тестовой выборке12.
3.2. Построение GAN (второй шаг моделирования)
Генеративно-состязательная модель представляет собой последовательно соединенные генератор и дискриминатор (рис. 5). В качестве генератора используется ранее определенная модель рекуррентной нейронной сети, но в матрицу входных данных, как отдельный фактор, добавляется вектор шума, который препятствует переобучению генератора и позволяет добавить в вывод модели элемент случайности.
Архитектура дискриминатора представляет собой сверточную нейронною сеть с одним скрытом слоем, который принимает на вход размерность 7. Первые 6 элементов вектора — это фактические значения цен в ретроспективе, а последний элемент — прогноз генератора или фактическая цена, в зависимости от подающегося на вход шаблона. Дискриминатор учится классифицировать входящие данные: (X, Y) — «Истина» или 1 и (X, G(X)) — «Ложь» или 0. Дискриминатор обучается с использование функции ошибки (уравнение 2), в основе которой находится кросс-энтропия (bce — binary cross entropy), уравнение 3:
LD = l (D(X,Y), 1) + l(D(X,G(X)), 0), (2)
8 Учитывая, что каждый регион имеет различное количество узлов с полным покрытием данными (до 546 узлов) в целях экономии вычислительных ресурсов для тестирования модели используется ограниченное количество узлов.
9 5 узлов • 66 регионов.
10 Gated Recurrent Units — вид рекуррентной нейронной сети, разработанной для моделирования временных последовательностей.
11 Количество нейронов в каждом слое, вид функции активации и шаг градиентного спуска были определены в результате перебора на заданном множестве с использованием пакета для оптимизации нейронных сетей «KerasTuner».
12 Эксперименты по определению базовой архитектуры проводились на данных случайно выбранного узла. В дальнейшем модель была дообучена для каждого узла индивидуально.
Рис. 5. Устройство генеративно-состязательной модели, используемой для построения прогноза поузловых цен на электроэнергию на РСВ.
L = —(У • log(p) + (1 - y) ■ log(1 - p). (3)
Для обучения генератора применяется двухком-понентая функция ошибки, состоящая из кросс-энтропии и среднеквадратической ошибки (MSE — mean squared error), уравнение 4.
L^X^DiX^X)), 1) G(X))2. (4)
Метрика кросс-энтропии рассчитывается с присвоением вектору с прогнозным значением цены метки «Истина». Это необходимо для введения в «заблуждение» дискриминатора и позволяет генератору подбирать веса в процессе обучения, осложняющие задачу обучения дискриминатора на последующей итерации, что и вводит в процесс обучения элемент «состязательности». Важно заметить, что теоретически добавление MSE компоненты в функцию ошибки не является строго необходимым [29]. Мы добавляем MSE для более быстрой сходимости генератора и сокращения время на обучение.
Как указывалось выше, обучение дискриминатора и генератора происходит поочередно до достижения заданной точности прогноза цены, что и обеспечивает решение исходной минимаксной задачи. Укрупненное описание всего процесса обучения можно представить в виде псевдокода (таблица 1).
Более подробную информацию об алгоритме состязательного обучения нейронной сети можно найти в работах [30,31].
Таким образом, дискриминатор в процессе обучения учится отличать сгенерированные образцы, все более похожие на реальные данные, от последних. Генератор, в свою очередь, на очередной итерации обучения стремится улучшить свой прогноз так, чтоб вероятностный выход модели был ближе к «Истине» при фиксированных весах дискриминатора. Такой подход позволяет изменять траекторию градиента в процессе обучения и приходить к иному оптимуму в сравнении со статической моделью, где используется только среднеквадрати-ческая ошибка [32].
Результаты работы модели GAN сравниваются с «эталонными» альтернативными моделями: авторегрессия ARIMA, базовая рекуррентная нейронная сеть, двухслойная сверточная нейронная сеть (convolutional neural network, CNN). Архитектура последней основана на модели, предложенной в работе [33].
4. Эмпирические результаты
Мы обучали дискриминатор в пять раз больше, чем генератор, во время каждой итерации обучения. Это позволяет дискриминатору несколько опережать генератор в точности и отличать сгенерированные данные от реальных. На рисунке 6 приведен процесс обучения генеративно-состязательной модели для некоторого случайного узла.
На левой оси приведена общая ошибка модели, которая представляет собой взвешенную сумму
Таблица 1.
Укрупненный алгоритм обучения генеративно-состязательной нейронной сети
Задание условий: задается шаг градиентного спуска pD, pG; задаются параметры весов функций ошибок для генеративной модели А А2; инициализируются веса случайным образом в моделях дискриминатора и генератора.
While (выполняется пока алгоритм не сойдется до заданной точности): Обучение дискриминатора (D):
Получение M наборов данных из тренировочной выборки х'тт: (X, Y) = (X1, Y1 ), ..., (Xm, Ym) с Xtrain
Выполнение шага стохастического градиентного спуска и обновление весов D при фиксированных весах G:
м 8Ln (XV), Y(,))
w =W -о V ——-!--
D о ewD
Обучение генератора (G):
Получение M новых наборов данных из х'тт: (X, Y) = (X1, Y1 ), ..., (Xm, Ym ) с Xtrain
Выполнение шага стохастического градиентного спуска и обновление весов G при фиксированных весах D:
м 9L„ (х(,), У10) Wr=wr-p у —^---'
О в dWg
End While
ошибки дискриминатора и генератора (ш8е+1о§1о88). На правой оси приведено значение ошибки дискриминатора на каждой итерации обучения (1о§1о88).
Для того, чтоб проверить устойчивость предложенной модели был проведен следующий эксперимент: в каждом регионе случайным образом отбиралось по 5 узлов энергосистемы. Единственный критерий отбора — это отсутствие пропусков в данных на анализируемом временном горизонте. Далее для всех узлов в соответствии с унифицированной процедурой формировался набор объясняющих переменных, проводилась предобработка данных, а затем сохраненная ранее генеративная модель дооб-учалась на данных каждого из 5 узлов. По итогам эксперимента рассчитывалась ошибка прогноза цены на электроэнергию на тестовой выборке (параллельно обучение и расчет ошибки проводился для статичной модели генератора и других бенчмарков).
Результаты эксперимента показали, что генеративно-состязательная модель демонстрирует наименьшую среднюю ошибку на тестовой выборке и минимальный разброс значений ошибки на уровне отдельных узлов энергосистемы. В таблице 2 приведены усредненные ошибки на тестовой выборке рассматриваемых моделей и их стандартные отклонения.
В работе [25] авторы связывают превосходство GAN с возможностью обеспечивать требуемый градиент для оптимизации генератора во время обучения: градиент, направляемый дискриминатором, позволяет достичь более широкого13 минимума, чем, при прочих равных, достигается в результате оптимизации статичного аналога генеративной модели. Собственные эмпирические результаты также свидетельствуют в пользу данного тезиса, поскольку при околонулевой
13 Дмитрий Ветров [36] выдвинул гипотезу о наличии в ландшафте функции потерь нейронной сети минимумов различной кривизны: узких и широких. В узких минимумах, при нулевой ошибке на тренировочной выборке, ошибка на тестовой заметно выше; в широких — ошибки мало отличимы.
Эпоха
Рис. 6. Значение ошибок генеративно-состязательной модели в процессе обучения на тренировочной выборке.
Таблица 2.
Сравнительная таблица усредненных ошибок и их разброса при применении модели к пяти случайным узлам в анализируемых регионах
Показатель Ошибка на тестовой выборке
GAN GRU CNN ARIMA
MAE mean 0,0497 0,062 0,0681 0,0724
std 0,0002 0,0009 0,0063 0,0092
MAPE mean 0,092 0,0973 0,1055 0,1114
std 0,0005 0,0018 0,0113 0,0242
MSE mean 0,0046 0,0059 0,0073 0,0082
std 0 0,0002 0,0013 0,0034
ошибке на тренировочном множестве, достигаемой одновременно статичной моделью генератора и GAN, ошибка последней на тестовой множестве несколько ниже.
Усредненные ошибки модели GAN и их стандартные отклонения визуализированы14 на рис. 7: градации цвета на условной карте регионов соответствует значению средней ошибки, посчитанной для пяти случайно выбранных узлов в соответствующем регионе РФ (см. левую часть рисунка 7) и дисперсии средних ошибок (см. правую часть рисунка 7).
Наилучшие результаты модель демонстрирует в большей части регионов ЦФО, СЗФО и ПФО. В свою очередь, наибольшую среднюю ошибку модель демонстрирует в таких регионах, как Республика Татарстан, Башкирия, ряде регионов Сибири и Кавказа. Нестабильность модели, проявляющаяся
в высокой дисперсии средней ошибки, также проявляется преимущественно в перечисленных регионах. Неудовлетворительная работа модели в данных регионах, как представляется, обусловлена недостаточностью набора объясняющих факторов, который во всех случаях являлся стандартным. Возможно, для приграничных регионов некоторую роль в ценообразовании на рынке на сутки вперед играют энергетически мосты с другими странами, связанными с отечественной энергетической системой; для центральных регионов Сибири важным фактором является водность рек, поскольку значитальная доля генерации приходится на ГЭС.
Также важно отметить тот факт, что на тестовую часть выборки (с 19.08.2022 по 31.12.2022) приходится период с явным структурным сдвигом — резким ростом цены на электроэнергию в конце
14 Для визуализации использовалось приложение QGIS — Географическая информационная система (ГИС) с открыты исходным кодом.
Рис. 7. Средняя ошибка генеративно-состязательной модели на тестовой выборке (левый график) и ее дисперсия (правый график) для пяти случайных узлов в регионе.
2022 в таких регионах, как Иркутская, Тюменская и Томская область, Красноярский край, Ставропольский край, Краснодарский край15. Резкий рост тренда цены в данном случае был обусловлен конъюнктурными факторами, влияние которых не могло присутствовать в обучающей выборке.
В завершение эмпирической части исследования проверялась гипотеза о групповом равенстве дисперсий Левена для полученных среднеквадра-тических ошибок на случайно выбранных узлах энергосистемы внутри отдельного взятого региона, где нулевая гипотеза состоит в том, что «все подвы-борки имеют равные дисперсии». При исключении выбросов (12 регионов с наибольшим стандартным отклонением ошибки), для оставшихся 54 регионов нулевая гипотеза теста не отвергается16. Таким образом, для большинства регионов предложенная архитектура генеративной модели является универсальной и способна обеспечить относительно низкую ошибку на тестовой выборке для различных узлов энергосистемы страны.
Заключение
Результаты проведенного исследования демонстрируют, что генеративно-состязательная
модель с заданной универсальной архитектурой (не изменяющейся при переходе от региона к региону РФ) и ограниченным числом объясняющих факторов при условии дообучения на данных, специфичных для целевого узла может использоваться для прогнозирования цен в узлах рынка на сутки вперед без существенных отклонений в точности для 54 из 66 рассматриваемых регионов России. В состав нейросетевой модели целесообразно включать следующий набор переменных: исторические значений цен в целевом и географически близких к нему узлах энергосистемы (поузловые цены на оптовом рынке электроэнергии коррелированы как пространственно, так и во времени), температура окружающей среды и сезонные факторы.
Предложенная генеративно-состязательная модель позволила на 22% уменьшить среднеквадра-тическую ошибку на тестовой выборке статичной модели генератора, имеющего в своей основе рекуррентную нейронную сеть, а также превзошла по качеству альтернативные (эталонные) модели-бенчмарки: сверточную нейронную сеть и авторегрессионную линейную модель (АММА). ■
15 Например, в Иркутской области, среднесуточные значения тренда цены в декабре 2022 г. были в среднем на 68% выше, чем годом ранее.
16 Значение статистики теста составляет 1,29.
Литература
1. Акопов А.С., Бекларян Г.Л. Анализ эффективности регулирующей политики государства с помощью региональной модели CGE поведения естественных монополий (на примере электроэнергетики) // Экономическая наука современной России. 2005. № 4 (31). С. 130-139.
2. Акопов А.С., Бекларян А.Л., Хачатрян Н.К., Фомин А.В. Система прогнозирования динамики добычи нефти с использованием имитационного моделирования // Информационные технологии. 2017. Т. 23. № 6. С. 431-436.
3. Макаров В.Л., Бахтизин А.Р., Бекларян Г.Л., Акопов А.С. Цифровой завод: методы дискретно-событийного моделирования и оптимизации производственных характеристик // Бизнес-информатика. 2021. Т. 15. № 2. С. 7-20. https://doi.Org/10.17323/2587-814X.2021.2.7.20
4. Хачатрян Н.К., Кравченко Т.К., Акопов А.С., Уварова О.М. Прогнозирование основных показателей фондового рынка России авторегрессионными моделями с распределенными лагами // Аудит и финансовый анализ. 2016. № 3. С. 128-133.
5. Gonzalez J.P., San Roque A.M., Perez EA. Forecasting functional time series with a new Hilbertian ARMAX model: Application to electricity price forecasting // IEEE Transactions on Power Systems. 2017. Vol. 33. No. 1. P. 545-556. https://doi.org/10.1109/TPWRS.2017
6. Zhao Z., Wang C., Nokleby M., Miller C.J. Improving short-term electricity price forecasting using day-ahead LMP with ARIMA models // 2017 IEEE Power & Energy Society General Meeting. 2017. P. 1-5. https://doi.org/10.1109/PESGM.2017.8274124
7. Vehvilainen I., Pyykkonen T. Stochastic factor model for electricity spot price - the case of the Nordic market // Energy Economics. 2005. No. 2. P. 351-367.
8. Howison S., Coulon M. Stochastic behaviour of the electricity bid stack: from fundamental drivers to power prices // The Journal of Energy Markets. 2009. P. 29-69.
9. Weron R. Electricity price forecasting: A review of the state-of-the-art with a look into the future // International Journal of Forecasting. 2014. Vol. 30. No. 4. P. 1030-1081. https://doi.org/10.1016/j.ijforecast.2014.08.008
10. Garcia R.C., Contreras J., Akkeren M., Garcia J.B. A GARCH forecasting model to predict day-ahead electricity prices // IEEE Transactions on Power Systems. 2005. Vol. 20. No. 2. P. 867-874. https://doi.org/10.1109/TPWRS.2005.846044
11. Lynch C., O'Leary C., Sandareshan P.G., Akin Y. Experimental analysis of GBM to expand the time horizon of Irish electricity price forecasts // Energies. 2021. Vol. 14. No. 22. 7587. https://doi.org/10.3390/en14227587
12. Deng Z., Liu C., Zhu Z. Inter-hours rolling scheduling of behind-the-meter storage operating systems using electricity price forecasting based on deep convolutional neural network // International Journal of Electrical Power & Energy Systems. 2021. Vol. 125. 106499. https://doi.org/10.1016/j.ijepes.2020.106499
13. Zhang J., Tan Z., Yang S. Day-ahead electricity price forecasting by a new hybrid method // Computers and Industrial Engineering. 2012. Vol. 63. P. 695-701. https://doi.org/10.1016/j.cie.2012.03.016
14. Kim T.Y., Cho S.B. Predicting residential energy consumption using CNN-LSTM neural networks // Energy. 2019. Vol. 182. P. 72-81. https://doi.org/10.1016/j.energy.2019.05.230
15. Марьясин О.Ю., Лукашов А.И. Прогнозирование свободных цен на электроэнергию с использованием нейронных сетей // Сборник научных трудов XXII международной научно-технической конференции «Нейроинформатика-2020». 2020. C. 294-303.
16. Золотова И.Ю., Дворкин В.В. Краткосрочное прогнозирование цен на российском оптовом рынке электроэнергии на основе нейронных сетей // Проблемы прогнозирования. 2017. № 6. С. 47-57.
17. Guo X., Zhao Q., Zheng D., Ning Y., Gao, Y. A short-term load forecasting model of multi-scale CNN-LSTM hybrid neural network considering the real-time electricity price // Energy Reports. 2020. Vol. 6. P. 1046-1053. https://doi.org/10.1016/j.egyr.2020.11.078
18. Wu W., Huang F., Kao Y., Chen Z., Wu Q. Prediction method of multiple related time series based on generative adversarial networks // Information. 2021. Vol. 12. No. 2. 55. https://doi.org/10.3390/info12020055
19. Николенко С., Кадурин А., Архангельская Е. Глубокое обучение. Санкт-Петербург: Питер, 2019.
20. Goodfellow I., Pouget-Abadie I., Mirza M., Xu B., Warde-Farley D., Ozair S., Courville A., Bengio Y. Generative adversarial networks // arXiv:1406.2661. 2014. https://doi.org/10.48550/arXiv.1406.2661
21. Zhang H., Zhang H., Yu Koh J., Baldridge J., Lee H., Yang Y. Cross-modal contrastive learning for text-to-image generation // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). 2021. P. 833-842.
22. Kadurin A., Nikolenko S., Khrabrov K., Aliper A., Zhavoronkov A. DruGAN: An advanced generative adversarial autoencoder model for de novo generation of new molecules with desired molecular properties in silico // Molecular Pharmaceutics. 2017. Vol. 14. No. 9. P. 3098-3104. https://doi.org/10.1021/acs.molpharmaceut.7b00346
23. Yoon J., Jarrett D., van der Schaar M. Time-series generative adversarial networks // Neural Information Processing Systems. 2019.
24. Koochali A., Dengel A., Ahmed S. If you like it, GAN it - Probabilistic multivariate times series forecast with GAN // Engineering Proceedings. 2021. Vol. 5. No. 1. 40. https://doi.org/10.3390/engproc2021005040
25. Zhang Z., Wu M. Real-time locational marginal price forecasting using generative adversarial network // 2020 IEEE International Conference on Communications, Control, and Computing Technologies for Smart Grids. 2020. P. 1-6. https://doi.org/10.1109/SmartGridComm47815.2020.9302938
26. Kabir H.M., Khosravi A., Nahavadini S., Kavousi-Fard A. Partial adversarial training for neural network-based uncertainty quantification // IEEE Transactions on Emerging Topics in Computational Intelligence. 2019. Vol. 5. No. 4. P. 595-606. https://doi.org/10.1109/TETCI.2019.2936546
27. Отчёт о равновесных ценах в наиболее крупных узлах расчётной модели. Администратор Торговой Системы. [Электронный ресурс] https://www.atsenergo.ru/nreport?rname=big_nodes_prices_pub®ion=eur (дата обращения 02.03.2023).
28. Порохова Н.В., Рудаков Е.Н., Саакян Ю.З. Альтернативные методы мониторинга динамики промышленного производства // Проблемы прогнозирования. 2012. № 4. С. 36-53.
29. Zhang K., Zhong G., Dong J., Wang S., Wang Y. Stock market prediction based on generative adversarial network // Procedia Computer Science. 2019. Vol. 147. P. 400-406. https://doi.org/10.1016/j.procs.2019.01.256
30. Mathieu M., Couprie C., LeCun Y. Deep multi-scale video prediction beyond mean square error // arXiv:1511.05440. 2015. https://doi.org/10.48550/arXiv.1511.05440
31. Radford A., Metz L., Chintala S. Unsupervised representation learning with deep convolutional generative adversarial networks // arXiv:1511.06434. 2015. https://doi.org/10.48550/arXiv.1511.06434
32. Staffini A. Stock price forecasting by a deep convolutional generative adversarial network // Frontiers in Artificial Intelligence. 2022. Vol. 5. 837596. https://doi.org/10.3389/frai.2022.837596
33. Liu S., Ji H., Wang M.C. Nonpooling convolutional neural network forecasting for seasonal time series with trends. IEEE Transactions on Neural Networks and Learning Systems. 2020. Vol. 31. No. 8. P. 2879-2888. https://doi.org/10.1109/tnnls.2019.2934110
34. Izmailov P., Maddox J., Kirichenko P., Garipov T., Vetrov D., Gordon A. Subspace inference for Bayesian deep learning. Proceedings of the 35th Uncertainty in Artificial Intelligence Conference. Proceedings of Machine Learning Research. 2020. Vol. 115. P. 1169-1179.
Об авторах
Каукин Андрей Сергеевич
кандидат экономических наук;
заведующий лабораторией отраслевых рынков и инфраструктуры, Институт экономической политики имени Е.Т. Гайдара, Россия, 125993, Москва, Газетный пер., д. 3-5, стр. 1;
заведующий лабораторией системного анализа отраслевых рынков, Институт прикладных экономических исследований Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации, Россия, 119571, г. Москва, пр. Вернадского, д. 82; E-mail: kaukin@iep.ru ORCID: 0000-0003-2892-5278
Павлов Павел Николаевич
кандидат экономических наук;
старший научный сотрудник, лаборатория системного анализа отраслевых рынков, Институт прикладных экономических исследований Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации, Россия, 119571, г. Москва, пр. Вернадского, д. 82; E-mail: pavlov@ranepa.ru ORCID: 0000-0001-6200-6481
Косарев Владимир Сергеевич
научный сотрудник, лаборатория системного анализа отраслевых рынков, Институт прикладных экономических исследований Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации, Россия, 119571, г. Москва, пр. Вернадского, д. 82;
E-mail: kosarev-vs@ranepa.ru
ORCID: 0000-0001-5435-9076
Short-term forecasting of electricity prices using generative neural networks
Andrej S. Kaukin
E-mail: kaukin@iep.ru
Pavel N. Pavlov
E-mail: pavlov@ranepa.ru
Vladimir S. Kosarev
E-mail: kosarev-vs@ranepa.ru
Russian Presidential Academy of National Economy and Public Administration Address: 82, Vernadskogo Prospect, Moscow 119571, Russia
Abstract
This article studies the predictive abilities of the generative-adversarial neural network approach in relation to time series using the example of price forecasting for the nodes of the Russian free electricity market for the day ahead. As a result of a series of experiments, we came to the conclusion that a generative adversarial network, consisting of two models (generator and discriminator), allows one to achieve a minimum of the error function with a greater generalizing ability than, all other things being equal, is achieved as a result of optimizing the static analogue of the generative model - recurrent neural network. Our own empirical results show that with a near-zero mean square error on the training set, which is demonstrated simultaneously by the recurrent and generative models, the error of the latter on the test set is lower. The adversarial approach also outperformed alternative reference models in out-of-sample forecasting accuracy: a convolutional neural network adapted for time series forecasting and an autoregressive linear model. Application of the proposed approach has shown that a generative-adversarial model with a given universal architecture and a limited number of explanatory factors, subject to additional training on data specific to the target node of the power system, can be used to predict prices in market nodes for the day ahead without significant deviations.
Keywords: electricity market, day-ahead market, time series, generative neural network, recurrent neural network
Citation: Kaukin A.S., Pavlov P.N., Kosarev V.S. (2023) Short-term forecasting of electricity prices using generative neural
networks. Business Informatics, vol. 17, no. 3, pp. 7-23. DOI: 10.17323/2587-814X.2023.3.7.23
References
1. Akopov A.S., Beklarjan G.L. (2005) Analysis of the effectiveness of the regulatory policy of the state using the regional CGE model of the behavior of natural monopolies (on the example of the electric power industry). Jekonomicheskaja nauka sovremennoj Rossii, no. 4(31), pp. 130-139 (in Russian).
2. Akopov A.S., Beklarjan A.L., Hachatrjan N.K., Fomin A.V. (2017) Oil production dynamics forecasting system using simulation modeling. Informacionnye tehnologii, vol. 23, no. 6, pp. 431-436 (in Russian).
3. Makarov V.L., Bahtizin A.R., Beklarjan G.L., Akopov A.S. (2021) Digital plant: methods of discrete-event modeling and optimization of production characteristics. Business Informatics, vol. 15, no. 2, pp. 7-20. https://doi.org/10.17323/2587-814X.2021.2.7.20
4. Hachatrjan N.K., Kravchenko T.K., Akopov A.S., Uvarova O.M. (2016) Forecasting of the main indicators of the Russian stock market by autoregressive models with distributed lags. Audit and financial analysis, vol. 3, pp. 128-133 (in Russian).
5. Gonzalez J.P., San Roque A.M., Perez E.A. (2017) Forecasting functional time series with a new Hilbertian ARMAX model: Application to electricity price forecasting. IEEE Transactions on Power Systems, vol. 33, no. 1, pp. 545-556. https://doi.org/10.1109/TPWRS.2017
6. Zhao Z., Wang C., Nokleby M., Miller C.J. (2017) Improving short-term electricity price forecasting using day-ahead LMP with ARIMA models. 2017 IEEE Power & Energy Society General Meeting, pp. 1-5. https://doi.org/10.1109/PESGM.2017.8274124
7. Vehvilainen I., Pyykkonen T. (2005) Stochastic factor model for electricity spot price - the case of the Nordic market. Energy Economics, no. 2, pp. 351-367.
8. Howison S., Coulon M. (2009) Stochastic behaviour of the electricity bid stack: from fundamental drivers to power prices. The Journal of Energy Markets, pp. 29-69.
9. Weron R. (2014) Electricity price forecasting: A review of the state-of-the-art with a look into the future. International Journal of Forecasting, vol. 30, no. 4, pp. 1030-1081. https://doi.org/10.1016/j.ijforecast.2014.08.008
10. Garcia R.C., Contreras J., Akkeren M., Garcia J.B. (2005) A GARCH forecasting model to predict day-ahead electricity prices. IEEE Transactions on Power Systems, vol. 20, no. 2, pp. 867-874. https://doi.org/10.1109/TPWRS.2005.846044
11. Lynch C., O'Leary C., Sandareshan P.G., Akin Y. (2021) Experimental analysis of GBM to expand the time horizon of Irish electricity price forecasts. Energies, vol. 14, no. 22, 7587. https://doi.org/10.3390/en14227587
12. Deng Z., Liu C., Zhu Z. (2021) Inter-hours rolling scheduling of behind-the-meter storage operating systems using electricity price forecasting based on deep convolutional neural network. International Journal of Electrical Power & Energy Systems, vol. 125, 106499. https://doi.org/10.1016/j.ijepes.2020.106499
13. Zhang J., Tan Z., Yang S. (2012) Day-ahead electricity price forecasting by a new hybrid method. Computers and Industrial Engineering, vol. 63, pp. 695-701. https://doi.org/10.1016/j.cie.2012.03.016
14. Kim T.Y., Cho S.B. (2019) Predicting residential energy consumption using CNN-LSTM neural networks. Energy, vol. 182, pp. 72-81. https://doi.org/10.1016/j.energy.2019.05.230
15. Mar'yasin O.Yu., Lukashov A.I. (2020) Prediction of free electricity prices using neural networks. Neiroinformatika-2020. Sbornik nauchnykh trudov. XXIImezhdunarodnaya nauchno-tekhnicheskaya konferentsiya, pp. 294-303 (in Russian).
16. Zolotova I.Yu., Dvorkin V.V. (2017) Short-term forecasting of prices in the Russian wholesale electricity market based on neural networks. Problemyprognozirovaniya, no. 6, pp. 47-57 (in Russian).
17. Guo X., Zhao Q., Zheng D., Ning Y., Gao, Y. (2020) A short-term load forecasting model of multi-scale CNN-LSTM hybrid neural network considering the real-time electricity price. Energy Reports, vol. 6, pp. 1046-1053. https://doi.org/10.1016/j.egyr.2020.11.078
18. Wu W., Huang F., Kao Y., Chen Z., Wu Q. (2021) Prediction method of multiple related time series based on generative adversarial networks. Information, vol. 12, no. 2, 55. https://doi.org/10.3390/info12020055
19. Nikolenko S., Kadurin A., Arkhangel'skaya E. (2019) Glubokoe obuchenie. Sankt-Peterburg, Piter (in Russian).
20. Goodfellow I., Pouget-Abadie I., Mirza M., Xu B., Warde-Farley D., Ozair S., Courville A., Bengio Y. (2014) Generative adversarial networks. arXiv: 1406.2661. https://doi.org/10.48550/arXiv.1406.2661
21. Zhang H., Zhang H., Yu Koh J., Baldridge J., Lee H., Yang Y. (2021) Cross-modal contrastive learning for text-to-image generation. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), pp. 833-842.
22. Kadurin A., Nikolenko S., Khrabrov K., Aliper A., Zhavoronkov A. (2017) DruGAN: An advanced generative adversarial autoencoder model for de novo generation of new molecules with desired molecular properties in silico. Molecular Pharmaceutics, vol. 14, no. 9, pp. 3098-3104. https://doi.org/10.1021/acs.molpharmaceut.7b00346
23. Yoon J., Jarrett D., van der Schaar M. (2019) Time-series generative adversarial networks. Neural Information Processing Systems.
24. Koochali A., Dengel A., Ahmed S. (2021) If you like it, GAN it - Probabilistic multivariate times series forecast with GAN. Engineering Proceedings, vol. 5, no. 1, 40. https://doi.org/10.3390/engproc2021005040
25. Zhang Z., Wu M. (2020) Real-time locational marginal price forecasting using generative adversarial network.
2020 IEEE International Conference on Communications, Control, and Computing Technologies for Smart Grids, pp. 1-6. https://doi.org/10.1109/SmartGridComm47815.2020.9302938
26. Kabir H.M., Khosravi A., Nahavadini S., Kavousi-Fard A. (2019) Partial adversarial training for neural network-based uncertainty quantification. IEEE Transactions on Emerging Topics in Computational Intelligence, vol. 5, no. 4, pp. 595-606. https://doi.org/10.1109/TETCI.2019.2936546
27. Otchet o ravnovesnykh tsenakh v naibolee krupnykh uzlakh raschetnoi modeli. Administrator Torgovoi Sistemy. Available at: https://www.atsenergo.ru/nreport?rname=big_nodes_prices_pub®ion=eur (accessed 02.03.2023) (in Russian).
28. Porokhova N.V., Rudakov E.N., Saakyan Yu.Z. (2009) Alternative methods for monitoring the dynamics of industrial production. Problemy Prognozirovaniya, no. 4, pp. 36-53 (in Russian).
29. Zhang K., Zhong G., Dong J., Wang S., Wang Y. (2019) Stock market prediction based on generative adversarial network. Procedia Computer Science, vol. 147, pp. 400-406. https://doi.org/10.10167j.procs.2019.01.256
30. Mathieu M., Couprie C., LeCun Y. (2015) Deep multi-scale video prediction beyond mean square error. arXiv:1511.05440. https://doi.org/10.48550/arXiv.1511.05440
31. Radford A., Metz L., Chintala S. (2015) Unsupervised representation learning with deep convolutional generative adversarial networks. arXiv:1511.06434. https://doi.org/10.48550/arXiv.1511.06434
32. Staffini A. (2022) Stock price forecasting by a deep convolutional generative adversarial network. Frontiers in Artificial Intelligence, vol. 5, 837596. https://doi.org/10.3389/frai.2022.837596
33. Liu S., Ji H., Wang M.C. (2020) Nonpooling convolutional neural network forecasting for seasonal time series with trends. IEEE Transactions on Neural Networks and Learning Systems, vol. 31, no. 8, pp. 2879-2888. https://doi.org/10.1109/tnnls.2019.2934110
34. Izmailov P., Maddox J., Kirichenko P., Garipov T., Vetrov D., Gordon A. (2020) Subspace inference for Bayesian deep learning. Proceedings of the 35th Uncertainty in Artificial Intelligence Conference. Proceedings of Machine Learning Research, vol. 115, pp. 1169-1179.
About the authors
Andrej S. Kaukin
Cand. Sci. (Econ.);
Head of the Laboratory of Industry Markets and Infrastructure, Gaidar Institute for Economic Policy, 3-5, Gazetnyy Lane, Moscow 125993, Russia;
Head of the laboratory of System Analysis of Industrial Markets, Institute of Applied Economic Research, Russian Presidential Academy of National Economy and Public Administration, 82, Vernadskogo Prospect, Moscow 119571, Russia; E-mail: kaukin@iep.ru ORCID: 0000-0003-2892-5278
Pavel N. Pavlov
Cand. Sci. (Econ.);
Senior researcher, Laboratory of System Analysis of Industrial Markets, Institute of Applied Economic Research, Russian Presidential Academy of National Economy and Public Administration, 82, Vernadskogo Prospect, Moscow 119571, Russia; E-mail: pavlov@ranepa.ru ORCID: 0000-0001-6200-6481
Vladimir S. Kosarev
Research Fellow, Laboratory of System Analysis of Industrial Markets, Institute of Applied Economic Research, Russian Presidential Academy of National Economy and Public Administration, 82, Vernadskogo Prospect, Moscow 119571, Russia;
E-mail: kosarev-vs@ranepa.ru
ORCID: 0000-0001-5435-9076
