Применение агентного подхода для моделирования экономического поведения энерготрейдеров на оптовом рынке электрической энергии
The Aplication of Agent-based Approach for Modelling Economic Interactions Energy Traders at Wholesale Power Market
УДК 330.46
Лисин Евгений Михайлович
доцент Московского энергетического института, кандидат экономических наук 111250, Москва, Красноказарменная ул., Д. 14
Lisin Evgeniy Mikhaylovich
Krasnokazarmennaya Str. 14, Moscow, 111250, Russian Federation
Григорьева Анна Николаевна
аспирант Московского энергетического института
111250, Москва, Красноказарменная ул., д. 14
Grigor'eva Anna Nikolaevna
Krasnokazarmennaya Str. 14, Moscow, 111250, Russian Federation
Целью данной статьи является представление достижений подхода агентного моделирования для разработки имитационных моделей и проведения исследования взаимодействий между экономическими агентами на оптовом рынке электроэнергии.
Агентные модели обычно представляют собой вычислительно построенный виртуальный мир, состоящий из нескольких агентов (инкапсулированных программ), различные взаимодействия которых влияют на все события в мире в течение некоторого времени. Агенты в моделях могут описывать структурные элементы (например, узлы сетей передачи), организационные структуры (например, рынки) и когнитивные структуры (например, поведение трейдеров и операторов рынка).
Агентные модели могут служить для улучшения качественного понимания динамики развития реорганизованных оптовых рынков электроэнергии, исследования механизмов регулирования и системных ограничений, а также разработки и тестирования бизнес-стратегий участников энергорынка.
This paper aims at presenting the advances of agent-based approach for modelling interactions among economic agents at wholesale power market.
Agent-based models typically represent computationally constructed virtual world consisting of multiple agents (encapsulated software programs) whose various interactions drive all world events over time. The agents in question are described as structural entities (e. g., transmission grids), institutional entities (e.g., markets) and cognitive entities (e. g., behavior of traders and market operators).
Agent-based modelling might be used to improve the qualitative understanding of the dynamics of active operations in the restructured wholesale electricity
Стриелковски Вадим
доктор наук, Институт экономических исследований, Факультет общественных наук, Институт Чарльза в Праге Оплеталова 26, 11000, Прага 1, Чешская Республика
Strielkowski Wadim
Opletalova 26, Praha 1, 11000, Czech Republic
markets, help to familiarize the agents in question with the rules of the market, as well as to foster the development and testing of business strategies on the wholesale power market.
Ключевые слова: оптовый рынок электроэнергии, агентное моделирование, рыночная сила, энерготрейдинг, стратегии поведения участников рынка, программно-вычислительная среда
Keywords: wholesale power market, agent-based modeling, market power, energy trading, strategies of market participants, software and computing environment
1. Введение
Агентное моделирование является инструментом для разработки моделей сложных адаптивных систем, в том числе различных типов конкурентных рыночных структур. В основе моделей лежит представление моделируемой системы в виде набора основных элементов, взаимодействие которых определяет обобщенное поведение системы. Важно понимать, что в данном случае задача моделирования состоит не в нахождении оптимального экономического равновесия, а в исследовании природы сложных социально-экономических явлений. Соответственно, в рамках данного подхода к моделированию особое внимание уделяется корректному отображению механизма поведения и взаимодействия элементов системы — так называемых «агентов» [1].
Для экономических моделей основным элементом исследования является множество взаимодействующих между собой «агентов». Ю. Г. Карпов отмечает, что агент представляет собой «некую сущность, которая обладает активностью, автономным поведением, может принимать решения в соответствии с некоторым набором правил, может взаимодействовать с окружением и другими агентами, а также может изменяться» [2]. Отличительным преимуществом такого подхода является способность агентов к самообучению на основе полученного опыта.
Одно из наиболее полных определений агентов приводят Чарльз Макал и Михаэль Норт в работе [3],
СО S
с; с
с >s
Iq ^
ш I-О S
0
ш S
1
с со О о. S
с; ш Ч
О ^
ш
О ^
О ш т
ш
I-<
согласно которой агент должен обладать следующими характеристиками:
• агент является «идентифицируемым», т. е. представляет собой конечного индивидуума с набором определенных характеристик и правил, определяющих его поведение и правила принятия решений. Агент автономен и может независимо действовать и принимать решения по взаимодействию с другими агентами;
• агент находится в определенной среде, позволяющей ему взаимодействовать с другими агентами. Агент может коммуницировать с другими (контактировать при определенных условиях и отвечать на контакт);
• агент имеет определенную цель (но не обязательно целью является максимизация блага, как принято считать в классической экономической теории), влияющую на его поведение.
В ряде современных агентных моделей также можно выделить способность агента к самообучению: агент гибок и обладает способностью самообучения с течением времени на основе собственного опыта. В ряде случаев агент может даже изменять правила поведения на основе полученного опыта.
В целом специалисты выделяют три стадии построения агентной модели:
• определение границ модели: какое явление/событие моделируется, каковы его рамки;
• определение поведения/взаимодействия агентов: разработка модели поведения/принятия решений агентом и его взаимодействия с остальными агентами;
• разработка и апробация модели, проведение анализа чувствительности.
Практически неограниченные возможности по программированию агентов дают возможность исследователю создавать при необходимости очень сложные модели и в деталях отражать процесс принятия решений экономическими агентами.
2.Агентное моделирование рынка электроэнергии
В настоящее время агентное моделирование эффективно используется в различных областях экономики, например, с целью выработки оптимальной стратегии поведения компании или апробации новых форм социального взаимодействия, разработки логистической системы на предприятии, организации производства и т. д. Агентный подход позволяет спрогнозировать развитие событий при заданных начальных условиях и принять наилучшее решение. В энергетической отрасли одним из наиболее перспективных направлений применения агентного подхода является использование его при разработке модели оптового рынка электроэнергии.
Кризис реорганизованного калифорнийского оптового рынка электроэнергии летом 2000 г. показал, что может случиться, когда плохо разработанный рыночный механизм реализован без надлежащего тестирования. Полагают, что отчасти кризис в Калифорнии произошел из-за неучтенного в модельных расчетах стратегического поведения участников рынка, приведшего к нарушению конструктивных особенностей рынка [4]. После калифорнийского кризиса многие исследователи в энергетике доказывали необходимость в совмещении структурного понимания с экономическим анализом стимулов участников рынка при разработке модели развития оптового рынка электроэнергии.
В апреле 2003 г. Федеральная энергетическая комиссия предложила платформу оптового рынка электроэнергии WPMP (Wholesale Power Market Platform) как шаблон для всех американских оптовых энергетических рынков [5]. Данная модель предполагает интегрированную, а не разрозненную форму рынка. Она рекомендует выделение Независимых системных операторов ISOs (Independent System Operators) и Региональных передающих компаний RTOs (Regional Transmission Organizations), которые будут использовать предельные локальные стоимости для определения цены электроэнергии в месте ее производства или подключения к сети. Варианты этой модели были реализованы в Новой Англии (ISO-NE), Нью-Йорке (NYISO), Средне-Атлантических штатах (PJM), на Среднем Западе (MISO), в Калифорнии (CAISO). В настоящее время ISO/RTO управляют более чем 50% генерирующих мощностей в США.
Из-за сложности модели WPMP чрезвычайно трудно проводить экономические и физические исследования надежности системы стандартными статистическими и аналитическими методами (рис. 1). Востребованность новых подходов к моделированию и анализу рынков электроэнергии привела к адаптации и развитию агентно-ориентированных моделей, их широкому применению в экономике энергетики.
В настоящее время существует множество коммерческих агентно-ориентированных моделей, позволяющих исследовать экономические процессы энергетических рынков (например, модель EMCAS, разработанная исследователями из Аргоннской национальной лаборатории) [6]. Кроме того, некоторые исследователи использовали агентно-ориентированные модели для изучения важных аспектов реструктуризации энергетических рынков [7].
З. Агентно-ориентированная среда моделирования AMES и ее характеристики
Специально для исследования динамической эффективности (как экономическая система использует имеющиеся ресурсы через определенный промежуток времени) и надежности модели WPMP американскими учеными «Junjie Sun» и «Leigh Tesfatsion» из экономического подразделения «Iowa State University» была разработана вычислительная модель организации оптового энергетического рынка в соответствии с основными особенностями WPMP и с воспроизведением реально существующих передающих сетей. Данная система получила название AMES (Agent-based Modeling of Electricity Systems). AMES является первой некоммерческой системой с открытым кодом для разработки и проведения вычислительных исследований модели рынка WPMP [8]. Основные элементы рынка WPMP, включенные в модель AMES, представлены в табл. 1.
Ключевое внимание исследователей было сосредоточено на сложной взаимосвязи структурных условий, правил рынка и обучении поведению участников рынка в краткосрочном и долгосрочном периоде. Для обеспечения эмпирической достоверности размещения заявок участниками рынка в модели торговой системы AMES была разработана поддержка совместного итерационного моделирования. Текущий совместный процесс изучения рынка электроэнергии включает следующие повторяющиеся стадии анализа:
• полевые исследования и сбор данных;
• обсуждение сценария и ролевые игры;
• разработка агентно-ориентированной модели;
Большое число локально распределенных участников рынка, взаимодействующих между собой Стратегическое поведение участников рынка
Двухсторонняя обратная связь между структурой рынка и закономерностями взаимодействия участников рынка
Оптовый рынок электроэнергии
Поведенческая неопределенность системы, вызванная человеческим фактором и изменениями рыночной среды
Институциональный механизм регулирования рынка электроэнергии Возможность существования множества равновесий рыночной системы
<
i
<
о х о
<
со О
О
О о
Рис. 1. Сложность экономических процессов на оптовом рынке электроэнергии
Таблица 1
Основные элементы рынка WPMP, включенные в модель AMES
Время В основе оптового рынка электрической энергии AMES лежит гибкая система передачи переменного тока. Функционирование рынка осуществляется в течение заданной последовательности дней Dmax, где каждый день D состоит из 24-часовой последовательности H = 00, 01, . . . , 23
Участники Оптовый рынок электрической энергии AMES включает в себя независимого системного оператора (ISO), продавцов и покупателей электроэнергии: гарантирующих поставщиков Load-Serving Entities (LSEs) и генерирующих компаний (генераторов), распределяющих электроэнергию по узлам передающей сети (ЛЭП)
Структура рынка Независимый системный оператор AMES ежедневно осуществляет функцию передающей сети в рамках двухуровневой системы, состоящей из рынка реального времени и рынка на сутки вперед и разделенной на узлы передачи для определения локальной предельной цены
Прием заявок, определение цены В течение обеденного времени каждого дня D независимый системный оператор AMES определяет обязательства и предельные локальные цены для рынка на сутки вперед для дня D + 1 на основе заявок предложения Генераторов и заявок спроса Гарантирующих поставщиков (форвардные финансовые контракты), поданных в период от 00 до 11 часов дня D
График нагрузки (обязательств) В конце каждого дня D независимый системный оператор AMES формирует и публикует график обязательств Генераторов и Гарантирующих поставщиков и формирует финансовые контракты на основе D + 1 дня для Гарантирующего поставщика
Регулирование отклонений от плана Все отклонения, которые возникают в течение дня D + 1 между реальными условиями и финансовыми контрактами на день вперед, заключенными в конце дня D, должны быть урегулированы на балансирующем рынке для дня D + 1 в режиме реального времени
Регулирование перегрузок передающей сети Перегрузка передающей сети на рынке на сутки вперед регулируется через подключение перегруженных компонентов к Гарантирующему поставщику
• интенсивные вычислительные эксперименты (модельный расчет).
Для максимального приближения модели к действительности в ее основу были положены реальные бизнес-данные двух систем, принявших модель WPMP (Новой Англии и Среднего Запада США): структура рынка, ценовые решения, процесс подачи заявок. На рис. 2 обозначены основные функциональные особенности модели АМES.
Впоследствии в AMES планируется включить 5 дополнительных элементов, чтобы более полно отразить
динамические операционные особенности модели
рынка WPMP:
• меры по уменьшению рыночной власти;
• механизм двусторонней торговли;
• рынок договоров на право финансовой передачи;
• ограничения безопасности, объединенные в задачу оптимизации перетоков электрической энергии;
• период перепредложения в течение дня D как часть предпринимаемой ISOs AMES оценки достаточности ресурса для гарантии того, что прогнозируемый спрос будет покрыт предложением.
о х о
<
со О
Трейдеры:
• продавцы и покупатели;
• следование правилам рынка;
• способность к обучению
ЛЭП:
• продавцы и покупатели расположены в разных узлах сети;
• перегрузки регулируются с помощью локальной предельной цены (ЛПЦ)
Процесс двойного регулирования:
• рынок на сутки вперед (двойной аукцион, финансовые контракты);
• рынок в режиме реального времени = балансирующий рынок (регулирование отклонений)
Независимый системный оператор:
• оценка надежности системы;
• заявки рынка на сутки вперед, основанные на затратах на единицу;
• подача заявок в режиме реального времени
о
о о
Рис. 2. Основные функциональные особенности AMES
Оптовый рынок электроэнергии
Трейдеры
Покупатели электроэнергии (сбытовые компании)
Загрузка на обслуживание юридических лиц (конечных потребителей)
ЛЭП
Продавцы электроэнергии (генерации)
Рынки электроэнергии
Установленная генерирующая мощность энергооборудования
Рынок на сутки вперед
Балансирующий рынок
.1.
Рынок свободных двухсторонних договоров
Рынок фиксированных
прав на передачу (FTR)
Независимый системный оператор (ISO)
Параметры обеспечения надежности, обязательств, передачи, регулирования
Рынок с периодом перепредложения
Рис. 3. Структурная модель AMES
Таблица 2
Алгоритм работы независимого системного оператора AMES в течение суток
Время (день D) Операции
00:00-11:00 Сбор ценовых заявок от потребителей и производителей электроэнергии для дня D + 1
11:00-17:00 Оценка ценовых заявок, определение ценообразующей заявки и равновесной рыночной цены
17:00-18:00 Период подачи заявок в торговую систему для следующего дня
18:00-23:00 Обработка заявок и публикация графика нагрузок и цен
23:00-00:00 Регулирование на сутки вперед
Структурную модель AMES можно представить в виде иерархии, приведенной на рис. 3.
Алгоритм работы независимого системного оператора AMES в течение операционных суток представлен в виде табл.2.
Одним из преимуществ модели AMES является воспроизведение системы самообучения трейдеров энергорынка, которая основывается на результатах экспериментов многоагентных игр Рота и Ерева [9]. Применяемые обучающие алгоритмы позволяют генерациям выбрать наилучшую методику формирования заявок на поставку электроэнергии, которые они ежедневно подают системному оператору AMES для участия на WPMP-рынке на сутки вперед. Результаты тестовых экспериментов показывают, что генерации со временем учатся создавать неявный сговор и предоставляют завышенные предельные издержки, тем самым значительно влияя на стоимость электроэнергии в узлах модели.
В настоящее время модель AMES используется для изучения среднесрочной эффективности оптовых энер-
гетических рынков, принявших модель WPMP. В частности, авторами проводится исследование, в какой степени данная модель способна поддерживать эффективное, прибыльное и устойчивое функционирование существующих объектов генерации и передачи в течение длительного времени, несмотря на попытки некоторых участников рынка получить преимущество за счет реализации стратегий рыночной силы (физического и финансового изъятия ценовых заявок).
Для исследования оптового энергорынка была усовершенствована тестовая модель пятиузловой сети электропередачи, широко используемой в исследовательских целях независимыми системными операторами ISO-NE и PJM (рис. 4).
Как и любые вычислительные модели, модель AMES имеет ряд допущений. В табл. 3 представлена их характеристика в cравнении с типичными допущениями, принимаемыми при разработке моделей рынков электроэнергии, представленных в экономической литературе [10].
о х о
о
о о
Рис. 4. Модель пятиузловой передающей сети
Таблица 3
Cравнение принципов AMES с типичными допущениями моделирования рынка электроэнергии
Характеристика Типичные допущения Принципы AMES
Поведение поставщика Заданные условия Изучение стратегического поведения поставщика
Ограничение на передачу и мощность Нет Есть
Контроль и смягчение рыночной силы Нет Есть
Спрос Неэластичный по цене Заявки потребителей состоят из фиксированной и эластичной по цене частей
Наличие пользовательского интерфейса Нет Есть
В то же время моделям AMES свойственны все преимущества и недостатки агентного моделирования. Они представлены в табл. 4.
Резюмируя вышесказанное, перечислим основные возможности вычислительной среды AMES на современном этапе развития:
• имеется возможность разработки и испытания моделей от 2 до 500 узлов ценообразования;
• доступно проведение тестирования структуры и правил поведения рыночных агентов;
• есть возможность проведения модельных расчетов во времени с условием самообучения энерготрейдеров;
• имеются инструменты для проведения экспериментов на исследование чувствительности модели к изменению рыночных факторов, что дает возможность эмпирического и качественного понимания происходящих процессов на оптовом рынке электроэнергии;
• позволяет выявлять причины наблюдаемых закономерностей, отслеживать взаимосвязь нормативной базы, структуры энергорынка и инвестиционной политики, формировать и проверять рыночные теории (например, о самоорганизации децентрализованных рынков).
4. Заключение
Последние работы в области исследования поведения участников оптового рынка электроэнергии показали,
что в действительности участники рынка не стремятся максимизировать полезность при принятии решений, скорее задача принятия решения направлена на поиск наиболее удовлетворительного решения, которое даст средний результат. Понимание данного факта привело к созданию новых динамических моделей рынка электроэнергии (проекты Iowa State University, Carnegie Mellon University, Argonne National Lab, Los Alamos National Lab), в основе которых лежит новая методология, базирующаяся на агентном моделировании. Модель рынка электроэнергии формируется из взаимодействия множества рыночных агентов, каждый из которых обладает определенными особенностями поведения.
Особого внимания заслуживают программно-вычислительные модели с открытым исходным кодом. К таким моделям относится проект AMES экономического подразделения «Iowa State University», специально созданный для исследования динамической эффективности и надежности модели энергорынка WPMP. AMES является первой подобной некоммерческой системой с открытым кодом. Долгосрочной целью создания системы AMES является разработка адекватных моделей оптового рынка электроэнергии для представителей энергетической отрасли и государства, которые можно использовать как инструмент для исследования, обучения и формирования навыков и умений в области функционирования и регулирования рынка.
Преподаватели и ученые-исследователи могут использовать AMES для улучшения качественного пони-
Таблица 4
Преимущества и недостатки агентного моделирования
Преимущества Недостатки
Обеспечивает эмпирическую проверку модели, после чего допущения аналитического подхода (упрощения, не заслуживающие доверия) больше не являются проблемой Необходимо проводить интенсивные вычислительные эксперименты с соответствующими параметрическими диапазонами для достижения устойчивых выводов
Позволяет проводить систематическое экспериментальное исследование сложных экономических процессов Результатом экспериментов часто является распределение, а не конкретное значение
Поощряются творческие эксперименты Творческое моделирование (вместо использования уже существующих структур) может потребовать значительных затрат времени и сил, в том числе для приобретения навыков программирования
Исследователи могут оценить интересные гипотезы собственного изобретения с немедленной обратной связью. При этом не требуется разработка оригинальных программных решений Могут возникнуть затруднения с тем, чтобы результаты отражали интересующие аспекты исследуемой проблемы. Также достаточно сложны особенности реализации программной среды
m
х <
<
S
ш —
О х о
ш
X <
CÛ
О
CL
X ^
ш ^
О S ш
О
V О ш
зг мания изменения конъюнктуры оптового рынка элек-^ троэнергии. Представители энергетической отрасли 2 получают возможность использовать модель для ознакомления с правилами рынка, а также разработки и тестирования бизнес-стратегий. Для государства агентная модель энергорынка полезна, прежде всего, с позиции регулирования, развития и реформирования энергорынка. В частности, для изучения вопроса, способствует ли существующая модель рынка эффективной и надежной деятельности производственных и передающих мощностей и обеспечивает ли она надлежащие стимулы для инвестиций в новые генерирующие и передающие мощности.
В заключение мы можем констатировать, что поскольку оптовый рынок электроэнергии в России организован на тех же принципах, что в США и ЕС, весьма целесообразно применять модель AMES для исследования российского рынка электроэнергии.
Литература
1. Каталевский Д. Ю. Системная динамика и агентное моделирование: необходимость комбинированного подхода // Устойчивое экономическое развитие: интеграция государства и бизнеса в современном обществе: Мат-лы 14-й Междунар. науч.-практич. конф. М.: ГОУВПО «ГУУ», 2009.
2. Карпов Ю. Имитационное моделирование систем. Введение в моделирование с AnyLogic. СПб.: БХВ-Петербург, 2005. 400 p.
3. Macal C., North M. Tutorial on agent-based modeling and simulation // Journal of Simulation. 2010. Vol. 4. P. 151 — 162.
4. Borenstein S. The trouble with electricity markets: Understanding California's restructuring disaster // Journal of Economic Perspectives. 2002. Vol. 16 (1). P. 191-211.
5. Federal Energy Regulatory Commission. White Paper Wholesale Power Market Platform. 2003. April 28.
6. North M., Conzelmann G., Koritarov V., Macal C., Thim-mapuram P., Veselka T. E-laboratories: agent-based modeling of electricity markets // American Power Conference. Chicago, IL, USA. April 15-17, 2002.
7. Tesfatsion L. ACE Research Area: Restructured Electricity Markets. 2007: [Электронный ресурс]. Режим доступа: http://www.econ.iastate.edu/tesfatsi/aelect.htm.
8. Tesfatsion L. The AMES Market Package (Java): A Free Open-Source Test Bed for the Agent-based Modeling of Electricity Systems. 2007: [Электронный ресурс]. Режим доступа:
http://www.econ.iastate.edu/tesfatsi/AMESMarketHome. htm.
9. Roth A., Erev I. Learning in Extensive-Form Games: Experimental Data and Simple Dynamic Models in the Intermediate Term // Games and Economic Behavior. 1995. Vol. 8. P. 164-212.
10. Sun Junjie U.S. financial transmission rights: Theory and practice: Economics Working Paper No. 05008. Iowa State University, Economics Department. 2006.
References
1. Katalevskiy D.Yu. Sistemnaya dinamika i agentnoe mode-lirovanie: neobkhodimost' kombinirovannogo podkhoda [System dynamics and agent-based modeling: the need for a combined approach]. "Ustoychivoe ekonomicheskoe razvitie: integratsiya gosudarstva i biznesa v sovremennom obsh-chestve". Mat. 14 Mezhdunar. nauch.-prakt. konf. ["Sustainable economic development: Integration of state and business in today's society". Proc. 14th int. sci.-pract. conf.]. Moscow, State Univ. of Management Publ., 2009.
2. Karpov Yu. Imitatsionnoe modelirovanie sistem. Vvedenie v modelirovanie s AnyLogic [Simulation modeling of systems. Introduction to modeling with AnyLogic]. St. Petersburg, BKhV-Peterburg Publ., 2005. 400 p.
3. Macal C., North M. Tutorial on agent-based modeling and simulation. Journal of Simulation, 2010, vol. 4, no. 3, pp. 151 — 162. D0I:10.1057/jos.2010.3.
4. Borenstein S. The trouble with electricity markets: Understanding California's restructuring disaster. Journal of Economic Perspectives, 2002, vol. 16, no. 1, pp. 191-211.
5. White Paper Wholesale Power Market Platform. Federal Energy Regulatory Commission. April 28, 2003.
6. North M., Conzelmann G., Koritarov, V., Macal C., Thim-mapuram P., Veselka T. E-laboratories: Agent-based modeling of electricity markets. American Power Conference. Chicago, IL, USA, April 15-17, 2002.
7. Tesfatsion L. ACE Research Area: Restructured Electricity Markets. 2007. Available at: http://www.econ.iastate.edu/ tesfatsi/aelect.htm.
8. Tesfatsion L. The AMES Market Package (Java): A Free Open-Source Test Bed for the Agent-based Modeling of Electricity Systems. 2007. Available at: http://www.econ. iastate.edu/tesfatsi/AMESMarketHome.htm.
9. Roth A. E., Erev I. Learning in extensive-form games: Experimental data and simple dynamic models in the intermediate term. Games and Economic Behavior, 1995, vol. 8, no. 1, pp. 164-212.
10. Sun J. U.S. financial transmission rights: Theory and practice. Economics Department, Iowa State University, Economics Working Paper, 2006, no. 05008.