CC BY
24
ОПРЕДЕЛЕНИЕ АРХИТЕКТУРЫ НЕЙРОННОЙ СЕТИ В ЗАДАЧЕ ПРОГНОЗИРОВАНИЯ СОСТОЯНИЯ ЗАРЯДА АККУМУЛЯТОРА
Яковлев И. А.1, Елизарова А. В.2, Саитова Г. А.3
(ФГБОУВО Уфимский государственный авиационный технический университет, Уфа)
Рассматривается задача прогнозирования состояния заряда аккумулятора, на основе нейронных сетей. Были исследованы два типа рекуррентных нелинейных авторегрессионных нейронных сетей в задаче прогнозирования состояния заряда аккумулятора в процессе его использования. Основным критерием качества прогнозирования выступала среднеквадратичная ошибка. По результатам исследования была выбрана оптимальная структура нейронной сети.
Ключевые слова: химический источник тока, нейросетевое моделирование, литий-ионный аккумулятор, прогнозирование, уровень разряда аккумулятора.
1. Введение
Перспективы развития техники гражданского и военного применения, в том числе создание систем накопления и хранения электрической энергии, в частности для автономных необитаемых подводных аппаратов (АНПА), а также обитаемых подводных аппаратов (ОПА), во многом определяются наличием высокоэнергоемких источников электроэнергии.
Для обеспечения электрической энергией двигателей, электронной аппаратуры и автоматизированных систем управления широко применяются системы электроснабжения на основе химических источников тока (ХИТ), которые наиболее полно отвечают требованиям к комплексам вооружения в части простоты в управлении, постоянной готовности к работе на нагрузку и минимально необходимого обслуживания в процессе эксплуа-
1 Илья Андреевич Яковлев, студент каф. АСУ (ilya-yakovlev-1999@bk.ru).
2 Анастасия Валерьевна Елизарова, аспирант каф. ТК (elizarovaanastasia@gmail.com).
3Гузель Асхатовна Саитова, к.т.н., доцент (saitova@bk.ru).
тации. При работе большинства ХИТ отсутствуют акустические и тепловые шумы, что обеспечивает повышенную скрытность функционирования комплексов различного назначения [3]. К таким источникам энергии относятся литий-ионные аккумуляторы, для которых необходимо обеспечить безопасную работу.
Самым опасным последствием отказов аккумуляторов является тепловой разгон, во время которого происходит постоянный рост температуры аккумулятора, приводящий к возгораниям и взрывам [6]. Одним из наиболее эффективных технологических способов достижения высокой степени надёжности и безопасности эксплуатации аккумуляторных батарей является тщательный подбор аккумуляторов по электрическим характеристикам. При подборе максимально близких по своим характеристикам аккумуляторов возрастает ресурс и время работы всей батареи за счёт экономии энергии на балансировке отдельных аккумуляторных блоков, составляющих батарею. По достижению минимального значения напряжения аккумулятора дальнейший его разряд приведёт к глубокому разряду, что резко сократит ресурс аккумулятора. Для того чтобы момент наступления минимального напряжения не был неожиданным, необходимо прогнозировать состояние заряда аккумулятора.
Из-за сложной природы процесса разряда аккумулятора классические методы, основанные на физических законах, зачастую дают недостаточную точность прогнозирования состояния заряда аккумулятора [27]. Поэтому одной из актуальных задач является отслеживание состояния заряда аккумулятора в реальном времени для учёта оставшегося времени работы системы в заданном режиме [10-26]. В работе предлагается использование нейронной сети для определения уровня заряда аккумулятора.
2. Проблема прогнозирования состояния заряда аккумуляторной батареи
2.1. ОЦЕНКА ЗАПАСА ЁМКОСТИ АККУМУЛЯТОРНОЙ БАТАРЕИ
Пусть состояние заряда аккумулятора SOC в момент времени t определяется отношением оставшейся ёмкости Qr(t) к номинальной Q0 по уравнению (1). Тогда оставшаяся ёмкость
в момент времени £ определится как разность между номинальной ёмкостью, когда аккумулятор полностью заряжен, и суммой затраченных ёмкостей на каждом из предыдущих шагов (2). Для упрощения примем номинальную ёмкость равной номинальной ёмкости аккумулятора на предыдущем цикле разряда Q0(T) = Q0(J - 1), полагая эффект старения аккумулятора равным нулю:
(1) БОС(1)=^^100%,
Qo
(2) Qr(t) = Q(0)-Z¿:lQ(^).
Общая затраченная ёмкость Q аккумулятора на протяжении процесса во временном диапазоне от Ь1 до Ь2 определяется произведением напряжения на ток нагрузки:
(3) Q = í¡2W(t)dt = í¡2U(t)•I(t)dt.
Представление ёмкости через мощность выбрано не случайно и рассматривается с точки зрения предположения о компенсации падающего напряжения возрастающим током в процессе разряда. Тогда в установившемся режиме кривая мощности будет меняться с меньшей скоростью и будет более предсказуемой, как если бы оценка ёмкости происходила только по току. Это облегчит получение точной оценки оставшейся энергии.
Для того чтобы определить оставшееся время работы аккумулятора на заданной мощности, необходимо разделить оставшуюся ёмкость Qr(t) на текущую мгновенную мощность
(4)
Т^ ЯМ
В условиях меняющегося значения мощности Ф 0 расчёт оставшегося времени, основанный на полученном значении мощности , не несёт практической информации, так как сразу после измерения мощность примет другое значение и величина оставшегося времени Т1- поменяется. Таким образом, целесообразно оценивать оставшееся время, опираясь на следующее оценочное значение мощности (см. рис. 1).
По первому и второму законам коммутации ток и напряжение в цепи не могут измениться мгновенно. Исходя из этих правил переход ДЖ(0 от одного значения мощности к другому представляет собой нелинейную зависимость.
Рис. 1. Определение оставшегося времени работы аккумулятора на основе значения мощности У/{+1 в момент времени ^ + 1
Оптимальным будет аппроксимировать этот переход полиномом второго порядка. Тогда количество энергии, затраченной в момент переходного процесса, определяется зависимостью
Зная величину энергии AQr, затраченную на переход от одного значения мощности к другому, можно определить значение оставшейся ёмкости Qr(t + 1) на следующем шаге. На основе рассчитанной ёмкости определяется оценочное значение оставшегося времени работы Тг на заданной мощности по соотношению
( ) 1 '
Таким образом, для корректной оценки состояния заряда аккумулятора требуется определять величину мощности на следующем шаге дискретного процесса так, чтобы ошибка между реальной величиной №г+1 и оценочной У/г+1 стремилась к нулю: (6) £=№+1-У/1+11^0'
2.2. ПРОГНОЗИРОВАНИЕ НАПРЯЖЕНИЯ НА КЛЕММАХ АККУМУЛЯТОРНОЙ БАТАРЕИ
В случае разряда батареи в режиме постоянного тока (СС) или сопротивления (СЯ) функции мощности №СС(Ь) и в обоих сценариях будут повторять форму функции напряжения разряда и (Ь) аккумуляторной батареи в соответствии с законом Ома для участка цепи (8). А функция мощности примет вид (9) или (10) для постоянного тока или постоянного сопротивления соответственно, где а - коэффициент пропорциональности:
(7) и = ¡Я,
(8) Щ+^каи^),
(9) Щ+1(1)к±Щ+1(€).
Зависимость напряжения разряда аккумуляторной батареи от времени представляет собой нелинейный процесс. Такой процесс является сложным и может быть описан эмпирическими соотношениями с большим количеством входных параметров, среди которых имеются экспериментальные константы. Из-за большого количества неуточнённых параметров и в силу естественных эффектов аккумулятора применение эмпирических зависимостей на практике становится невозможным. Помимо этого, такие параметры как температура аккумулятора, токи разряда/заряда, количество циклов перезаряда влияют на скорость деградации ёмкости аккумулятора, функция которой также имеет нелинейный характер [7, 9].
Таким образом, так или иначе приходится идентифицировать объект исследования. Увеличение входных параметров пропорционально вызывает сложности в их уточнении и оценки адекватности получаемого результата, уменьшение входных параметров заставляет чаще обращаться к идентификации реальных параметров аккумулятора, занимая тем самым полезное время и прерывая его работу. Непрерывность в работе аккумуляторной батареи может стать принципиальным условием в зависимости от приложения [1].
Отчасти вопрос компромисса между количеством входных параметров и идентификацией реальных параметров аккумулятора решается применением интеллектуальных методов, в частности нейронных сетей. Нейронная сеть, в основе которой со-
держатся весовые коэффициенты, позволяет найти зависимость между входными и выходными значениями путём настройки этих весовых коэффициентов. Процесс настройки весовых коэффициентов называется обучением. Тогда задача прогнозирования состояния заряда аккумулятора сводится к определению входных параметров, данных, используемых для обучения и выбору архитектуры нейронной сети.
В случае оценки состояния заряда аккумулятора необходимо найти зависимость между входными параметрами времени относительно начала разряда, температуры ячейки и тока нагрузки, чтобы спрогнозировать выходное значение напряжения аккумулятора. Данная задача является задачей прогнозирования временных рядов, для которой необходимо правильно определить архитектуру и модель нейронной сети.
3. Обучение рекуррентных нейронных сетей временных рядов
3.1. ВЫБОР АРХИТЕКТУРЫ НЕЙРОННЫХ СЕТЕЙ ВРЕМЕННЫХ РЯДОВ
На сегодняшний день в задачах оценки состояния заряда аккумулятора активно применяются такие рекуррентные нейронные сети как LSTM и GRU [8]. Такие нейронные сети лишены недостатка экспоненциального затухания градиента и демонстрируют высокую точность прогнозирования. Однако, несмотря на все их преимущества по сравнению с NARX- и NAR-рекуррентными нейронными сетями, их архитектура сложна наличием большого количества параметров, процесс синтеза и обучения становится более ресурсоемким. Из-за большого количества параметров LSTM-сети легко переобучить, они чувствительны к инициализируемым значениям весовых коэффициентов.
В условиях автономности необитаемого объекта потребность в быстрой перестройке параметров нейронной сети для достижения желаемой точности путём переобучения играет более важную роль, чем сохранение точности прогнозирования в долгосрочном периоде на первоначальных неизменяемых обучаемых данных. Таким образом, основным преимуществом
в задаче прогнозирования состояния заряда аккумуляторной батареи в условиях автономности необитаемого объекта является возможность легко переобучить нейронную сеть на новые данные, сохраняя при этом достаточную точность прогнозирования.
3.2. ПОДГОТОВКА ЭКСПЕРИМЕНТАЛЬНЫХ ДАННЫХ
В процессе проектирования нейронной сети встаёт вопрос о выборе верной архитектуры. Архитектура определяет фундаментальные правила организации слоёв, нейронов и связей между ними в нейронной сети. Так же как и для задач прогнозирования временных рядов разработаны такие архитектуры как нейронные сети прямого распространения и рекуррентные нейронные сети [5]. Данная работа не ставит перед собой цели глобальной оптимизации гиперпараметров выбранной нейронной сети. Определяется малая исследуемая область параметров по количеству нейронов в скрытом слое, числу скрытых слоёв и величинам задержек по обратной связи и по входу, которая включает в себя окрестность допустимых параметров нейронной сети с незначительным изменением в точности прогнозирования. Изменение числа задержек не приводит к желаемому увеличению точности. Увеличение скрытых слоёв, так же как и количества нейронов в них, приводит к усложнению процесса обучения, из-за чего нивелируется основное преимущество использования NARX- и NAR- нейронных сетей перед LSTM и GRU. Исходя из этого, нейронные сети с количеством скрытых слоёв больше чем один и с большим числом задержек в рамках данной работы рассматриваться не будут.
Перед началом формирования обучающей выборки необходимо обеспечить её репрезентативность и непротиворечивость данных. Данные, собранные с датчиков, зачастую имеют шумы и выбросы, от которых необходимо избавиться. Частота дискретизации данных составляет 10 секунд.
Конфигурация обучения у всех нейронных сетей следующая:
- максимальное число эпох в процессе обучения составляет 10000;
- количество задержек по обратной связи у всех нейронных сетей составляет 20 единиц;
- разделение обучающих данных - блочное;
- часть обучающей выборки составляет 70% от общего числа данных;
- часть тестовой выборки составляет 15% от общего числа данных;
- часть контрольной выборки составляет 15% от общего числа данных.
В качестве обучающей выборки выступают данные NASA по разряду литий-ионного аккумулятора ёмкостью 2 Ач. В наборе имеются данные по напряжению на клеммах аккумулятора (и, В), времени разряда по каждому циклу (т, сек), току нагрузки (I, А) и температуре аккумулятора (Т, °С). Обучающая выборка состоит из данных по трём ¿/-1оп-аккумуляторным ячейкам с количеством данных по каждой равным примерно 34000. Ток разряда во всех случаях постоянный и равен 1 А.
Создание нейронной сети осуществляется с использованием МА^АБ и пакета ntstool. Функции создания NAR- и NARX-сети - narnet и narxnet соответственно.
3.3. НЕЛИНЕЙНАЯ АВТОРЕГРЕССИОННАЯ НЕЙРОННАЯ СЕТЬ
Нелинейная авторегрессионная нейронная сеть использует на входе только вектор значений напряжения, описывающий процесс разряда аккумулятора, и по предыдущим значениям прогнозирует последующее на шаг вперёд.
Классическая архитектура последовательно-параллельной нелинейной авторегрессионной нейронной сети с 32 нейронами в одном скрытом слое и 20 единицами задержек по обратной связи изображена на рис. 2 [4].
Рис. 2. Классическая архитектура последовательно-параллельной нелинейной авторегрессионной нейронной сети
Для определения зависимости качества прогнозирования нелинейной авторегрессионной нейронной сети от количества нейронов в скрытом слое и алгоритмов обучения были созданы и обучены нелинейные авторегрессионные нейронные сети с использованием трёх разных алгоритмов обучения (см. таблицы 1-3).
Таблица 1. Анализ производительности нелинейной авторегрессионной нейронной сети с использованием метода Левенберга -Маркварда___
№ Количество скрытых слоёв Количество нейронов в скрытом слое Общая ошибка прогнозирования алгоритмов обучения
Левенберга -Маркварда Минимальная ошибка достигнута на эпохе
1 1 4 3,76^-05 2894
2 1 16 6,1006e-05 1318
3 1 32 1,0929e-04 684
п 1=1 6,9305e-05 1632
1тахх — ттх| 7,167^-05 2210
1тахх — ттх| 1—=-1 • 100% — У" х- пи=1Х1 103,4% 135,4%
Можно видеть, как сильно меняется ошибка прогнозирования от количества нейронов в нейронной сети. Сильнее всего количество нейронов на ошибку прогнозирования влияет в случае применения алгоритма обучения байесовской регуляризации и меньше всего - в случае применения алгоритма обучения масштабируемого сопряжённого градиента. Данные зависимости показаны на рис. 3.
Таблица 2. Анализ производительности нелинейной авторегрессионной нейронной сети с использованием метода байесовской регуляризации_
№ Количество скрытых слоёв Количество нейронов в скрытом слое Общая ошибка прогнозирования алгоритмов обучения
Байесовская регуляризация Минимальная ошибка достигнута на эпохе
1 1 4 8,6028е-05 210
2 1 16 6,7404е-05 527
3 1 32 2,9241е-04 328
1 " ПА.1 1=1 1,4861е-04 355
1тахх — ттх| 2,2501е-04 317
1тахх — ттх| -=--100% -У" х- 151,4% 89,3%
Таблица 3. Анализ производительности нелинейной авторегрессионной нейронной сети с использованием метода масштабируемого сопряжённого градиента_
№ Количество скрытых слоёв Количество нейронов в скрытом слое Общая ошибка прогнозирования алгоритмов обучения
Масштабируемый сопряжённый градиент Минимальная ошибка достигнута на эпохе
1 3,0370е-04 4 3,0370е-04 5021
2 3,0402е-04 16 3,0402е-04 6230
3 3,1509е-04 32 3,1509е-04 9921
1 " пА-1 1=1 3,0760е-04 7057
1тахх — ттх| 1,1390е-05 4900
1тахх — minх| -=--100% пУ=1Х1 3,7% 69,4%
Рис. 3. Зависимость среднеквадратичной ошибки от количества нейронов нелинейной авторегрессионной нейронной сети на разных алгоритмах обучения
Также следует обратить внимание на количество эпох, необходимых для достижения минимальной ошибки прогнозирования. В случае использования алгоритма Левенберга -Маркварда можно наблюдать обратно-пропорциональную зависимость между количеством нейронов в скрытом слое и количестве эпох по достижению минимальной ошибки. Обратную картину можно видеть при использовании алгоритма масштабируемых сопряжённых градиентов, где количество эпох пропорционально возрастает с увеличением количества нейронов в скрытом слое. В алгоритме байесовской регуляризации количество эпох сначала пропорционально возрастает до какого-то определённого количества нейронов, а потом обратно-пропорционально с увеличением количества нейронов в скрытом слое уменьшается количество требуемых эпох по достижению минимальной ошибки. Более подробно это можно наблюдать графически на рис. 4.
Учитывая данные, изображённые на рис. 3 и рис. 4, можно видеть, что в алгоритме масштабируемого сопряжённого градиента при увеличении количества нейронов увеличивается количество эпох, необходимых для достижения минимальной ошибки, однако ошибка при этом остаётся практически неизменной. В алгоритме байесовской регуляризации наблюдается соответ-
ствие увеличение количества эпох уменьшению ошибки. В общем случае количество требуемых эпох в зависимости от количества нейронов можно считать постоянным. Однако вопрос минимальной ошибки от количества нейронов в промежутке [4; 32] [4; 32] [4; 32] остаётся открытым. В алгоритме Левенбер-га - Маркварда наблюдается соответствие увеличения ошибки уменьшению количества требуемых эпох. С увеличением количества нейронов ошибка увеличивается.
1о спЬсгр •МагцидГ!» |Ш| Влусыап ксуи1ап/люл 1ЫК) Чи1Ы 1ип|и(а1с (¡гайсп! (ЗСЫ
\umbcr оГ псыгоп*
Рис. 4. Зависимость требуемых количеств эпох от количества нейронов нелинейной авторегрессионной нейронной сети на разных алгоритмах обучения
Результаты процесса обучения нелинейных авторегрессионных нейронных сетей представлены на рис. 5. По оси абсцисс указывается количество эпох, по оси ординат - среднеквадратичная ошибка. Синим цветом обозначен график ошибки обучающей выборки, красным - ошибка тестовой выборки, зелёным - ошибка контрольной выборки.
Результаты прогнозирования нейронных сетей с разным количеством нейронов и тремя разными алгоритмами обучения в зависимости от периода поступления данных на вход представлены на рис. 6. Период поступления данных увеличивается в 4 раза, а потом - в 16 раз от начального, который составляет 10 секунд.
Рис. 5. Достижение минимальной ошибки в процессе обучения нелинейных авторегрессионных нейронных сетей
Рис. 6. Прогнозирование состояния заряда аккумулятора нелинейной авторегрессионной нейронной сети с 4 нейронами в скрытом слое
Основным критерием качества нелинейной авторегрессионной нейронной сети в задаче прогнозирования состояния заряда аккумулятора является точность прогнозирования. Дополнительным критерием будет служить способность качественно
прогнозировать состояние заряда аккумулятора на разных периодах входных данных. Сложность алгоритмов обучения Левен-берга - Маркварда и байесовской регуляризации несопоставимы со сложностью алгоритма масштабируемого сопряжённого градиента. Время, за которое происходит обучение нейронное сети на разных алгоритмах обучения, вне зависимости от количества эпох примерно равно между собой, поэтому количество эпох не будет выступать критерием оптимальности. Допустимыми архитектурами будут считаться те, ошибка которых ниже средней между максимальной и минимальной по всем алгоритмам обучения и по всем количествам нейронов. Таким образом, средняя ошибка будет составлять 1,7635е-04.
С учётом данных на рис. 3 и в таблице 1 можно выделить допустимые архитектуры нелинейной авторегрессионной нейронной сети (см. таблицу 4).
Таблица 4. Допустимые архитектуры нелинейной авторегрес-
сионной нейронной сети
Ошибка прогнозирования (ниже средней 1,7635е-04) Архитектура нелинейной авторегрессионной нейронной сети
Количество нейронов Алгоритм обучения
3,7619е-05 4 Левенберга - Маркварда
6,1006е-05 16 Левенберга - Маркварда
6,7404е-05 16 Байесовская регуляризация
8,6028е-05 4 Байесовская регуляризация
1,0929е-04 32 Левенберга - Маркварда
В таком случае оптимальной архитектурой нелинейной авторегрессионной нейронной сети будет являться наличие 4 нейронов в скрытом слое с использованием алгоритма обучения Левенберга - Маркварда.
Также видно, что у всех архитектур наблюдается сложность в прогнозирование третьей экспоненциальной зоны разряда аккумулятора.
По среднеквадратичной ошибке прогнозирования меньше всего от количества нейронов в скрытом слое зависят нейрон-
ные сети, обученные алгоритмом масштабируемых сопряжённых градиентов, и больше всего - нейронные сети, обученные алгоритмом байесовской регуляризации.
По количеству эпох меньше всего от количества нейронов в скрытом слое зависят нейронные сети, обученные алгоритмом масштабируемого сопряжённого градиента, и больше всего -нейронные сети, обученные алгоритмом Левенберга - Маркварда.
3.4. НЕЛИНЕЙНАЯ АВТОРЕГРЕССИОННАЯ НЕЙРОННАЯ СЕТЬ С ВНЕШНЕЙ ОБРАТНОЙ СВЯЗЬЮ
Модель нелинейной авторегрессии с внешними входами (ЫАЯХ) относится к классу рекуррентных нейронных сетей. Наличие обратных связей позволяет ЫАЕХ-сети принимать решения, основываясь не только на входных данных, но и с учётом предыстории состояний динамического объекта [7].
Здесь на вход нейронной сети подаются 3 параметра: данные по времени разряда в секундах, ток нагрузки в амперах и температура ячейки в градусах Цельсия.
Классическая архитектура последовательно-параллельной нелинейной авторегрессионной нейронной сети с 32 нейронами в одном скрытом слое и 19 единицами задержек по входу и 1 задержкой по обратной связи изображена на рис. 7.
32
Рис. 7. Классическая архитектура последовательно-параллельной нелинейной авторегрессионной нейронной сети с внешней обратной связью
Количество задержек по внешней обратной связи позволяет делать прогноз на желаемое количество шагов. В нашем случае количество прогнозируемых шагов равно единице.
Для определения зависимости качества прогнозирования нелинейной авторегрессионной нейронной сети с внешней обратной связью от количества нейронов в скрытом слое и алгоритмов обучения были созданы и обучены нейронные сети с использованием разных алгоритмов обучения (см. таблицы 5-7).
Таблица 5. Допустимые архитектуры нелинейной авторегрессионной нейронной сети с внешней обратной связью с использованием метода Левенберга - Маркварда_
№ Количество скрытых слоёв Количество нейронов в скрытом слое Общая ошибка прогнозирования алгоритмов обучения
Левенберга -Маркварда Минимальная ошибка на эпохе
1 1 4 3,4256е-04 148
2 1 16 3,8114е-04 136
3 1 32 3,5747е-04 103
1 П ПА.1 1=1 3,6039е-04 129
|тахх — ттх| 3,8580е-05 45
|тахх — ттх| -=---00% пи=1х1 10,7% 34,8%
В отличие от нелинейной авторегрессионной нейронной сети в случае обучения нелинейной авторегрессионной нейронной сети с внешней обратной связью можно наблюдать общую тенденцию по всем трём алгоритмам обучения. Единственное отличие заключается в среднем значении ошибки каждого из алгоритмов. Более подробно это можно видеть на рис. 8.
Таблица 6. Допустимые архитектуры нелинейной авторегрессионной нейронной сети с внешней обратной связью с использованием метода байесовской регуляризации_
№ Количество скрытых слоёв Количество нейронов в скрытом слое Общая ошибка прогнозирования алгоритмов обучения
Байесовская регуляризация Минимальная ошибка на эпохе
1 3,4527е-04 4 3,4527е-04 135
2 4,5104е-04 16 4,5104е-04 281
3 3,7790е-04 32 3,7790е-04 83
1 П ПА.1 1=1 3,9140е-04 166.33
|тахх — ттх| 1,0577е-04 198
|тахх — ттх| -=---00% пи=1х1 27% 11,9%
Таблица 7. Допустимые архитектуры нелинейной авторегрессионной нейронной сети с внешней обратной связью с использованием метода масштабируемого сопряжённого градиента
№ Количество скрытых слоёв Количество нейронов в скрытом слое Общая ошибка прогнозирования алгоритмов обучения
Масштабируемый сопряжённый градиент Минимальная ошибка на эпохе
1 3,0370е-04 4 3,4550е-04 5372
2 3,0402е-04 16 4,0292е-04 9196
3 3,1509е-04 32 3,8053е-04 9588
1 П -/хь п 1=1 3,7632е-04 8052
|тахх — ттх| 5,7420е-05 4216
|тахх — ттх| -=---00% -У" х- 15,3% 52,4%
Рис. 8. Зависимость среднеквадратичной ошибки от количества нейронов нелинейной авторегрессионной нейронной сети с внешней обратной связью на разных алгоритмах обучения
Количество эпох в зависимости от алгоритма обучения меняется в значительной степени. На рис. 9 можно видеть, что алгоритмы Левенберга - Маркварда и байесовской регуляризации имеют примерно одинаковые количества эпох, в то время как масштабируемый сопряжённый градиент сильно отличается от предыдущих двух. Причиной этому служит всё та же разница в сложности методов.
Рис. 9. Зависимость требуемых количеств эпох от количества нейронов нелинейной авторегрессионной нейронной сети с внешней обратной связью на разных алгоритмах обучения
Результаты процесса обучения нелинейных авторегрессионных нейронных сетей с внешней обратной связью представлены на рис. 10. По оси абсцисс указывается количество эпох, по оси ординат - среднеквадратичная ошибка. Синим цветом обозначен график ошибки обучающей выборки, красным -ошибка тестовой выборки, зелёным - ошибка контрольной выборки.
Рис. 10. Достижение минимальной ошибки в процессе обучения нелинейных авторегрессионных нейронных сетей с внешней обратной связью
Результаты прогнозирования нейронных сетей с разным количеством нейронов и тремя разными алгоритмами обучения в зависимости от периода поступления данных на вход представлены на рис. 11. Период поступления данных увеличивается в 4 раза, а потом - в 16 от начального, который составляет 10 секунд.
Основным критерием качества, так же как и с нелинейной авторегрессионной нейронной сетью, остаётся точность прогнозирования. Дополнительным критерием будет служить способность прогнозирования состояния заряда аккумулятора при разных периодах поступления входных данных. Допустимыми архитектурами будут считаться те, ошибка которых ниже средней между максимальной и минимальной по всем алгоритмам обу-
чения и по всем количествам нейронов. Таким образом, средняя ошибка будет составлять 3,9680е-04.
Ыг|Ьгг|-Мап|игА ЦТ) I г>пЬгг{Л||П|»п1| НТ|
Рис. 11. Прогнозирование состояния заряда аккумулятора нелинейной авторегрессионной нейронной сети с внешней обратной связью с 4 нейронами в скрытом слое
С учётом данных на рис. 8 и в таблицах 5-7 можно выделить допустимые архитектуры нелинейной авторегрессионной нейронной сети (см. таблицу 8).
Таблица 8. Допустимые архитектуры нелинейной авторегрессионной нейронной сети с внешней обратной связью
Ошибка прогнозирования (ниже средней 3,9680е-04) Архитектура нелинейной авторегрессионной нейронной сети
Количество нейронов Алгоритм обучения
3,4256е-04 4 Левенберга - Маркварда
3,4527е-04 4 Байесовская регуляризация
3,4550е-04 4 Масштабируемый сопряжённый градиент
3,5747е-04 32 Левенберга - Маркварда
3,7790е-04 32 Байесовская регуляризация
3,8053е-04 32 Масштабируемый сопряжённый градиент
3,8114е-04 16 Левенберга - Маркварда
В таком случае оптимальной архитектурой нелинейной авторегрессионной нейронной сети будет являться наличие 4 нейронов в скрытом слое с использованием алгоритма обучения Левенберга - Маркварда.
Как и в нелинейной авторегрессионной нейронной сети, везде наблюдается сложность в прогнозировании третьей экспоненциальной зоны разряда аккумулятора.
По среднеквадратичной ошибке прогнозирования меньше всего от количества нейронов в скрытом слое зависят нейронные сети, обученные алгоритмом Левенберга - Маркварда, и больше всего - нейронные сети, обученные алгоритмом байесовской регуляризации.
По количеству эпох меньше всего от количества нейронов в скрытом слое зависят нейронные сети, обученные алгоритмом байесовской регуляризации, и больше всего - нейронные сети, обученные алгоритмом масштабируемого сопряжённого градиента.
4. Сравнение результатов работы нейронных сетей
Основным отличием между нелинейной авторегрессионной нейронной сетью с внешней обратной связью и без неё заключается в наборе входных данных. Приведены ошибки двух моделей нейронных сетей (см. таблицу 9), имеющих лучшие результаты по прогнозированию состояния заряда аккумулятора с периодом поступления входных данных равным 10 секундам.
Таблица 9. Оптимальные архитектуры среди NA-R и ЫАКХ-
нейронных сетей.
Среднеквадратичная ошибка прогнозирования Модель нейронной сети Количество нейронов в скрытом слое Алгоритм обучения
3,7619е-05 ЫЛК 4 Левенберга -Маркварда
3,4256е-04 ЫЛЕХ 4 Левенберга -Маркварда
В условиях малого количества обучающей выборки применение нелинейной авторегрессионной нейронной сети без внешней обратной связи даёт меньшую ошибку в задаче прогнозирования состояния заряда аккумулятора, чем применение той же нейронной сети с внешней обратной связью.
Так как входными параметрами для нейронной сети с внешней обратной связью являются время, ток нагрузки и температура ячейки, то все они вносят неопределённость в выходной результат. С учётом естественной индивидуальности внутренних характеристик каждой аккумуляторной ячейки, значение изменения температуры при нагреве в процессе разряда зависит от внутреннего сопротивления аккумулятора. При увеличении количества данных в обучающей выборке происходит эффект усреднения, из-за чего прогнозирование состояния заряда таких же ячеек тестовой выборки будет точнее. В нашем случае данных трёх ячеек явно недостаточно, чтобы достичь точности прогнозирования выше, чем у МЛЛ-сети. С увеличением количества входных параметров нейронной сети для обучения необходима соразмерная обучающая выборка и архитектура нейронной сети, способная идентифицировать все существующие признаки и способная найти между ними зависимость.
Таким образом, в задаче прогнозирования состояния заряда аккумулятора с применением малой обучающей выборки эффективность использования последовательно-параллельной нелинейной авторегрессионной нейронной сети становится выше, чем использование последовательно-параллельной нелинейной авторегрессионной нейронной сети с внешней обратной связью и множеством входных параметров [2].
5. Заключение
В рамках данной работы были исследованы два типа рекуррентных нелинейных авторегрессионных нейронных сетей в задаче прогнозирования состояния заряда аккумулятора в процессе его использования на малой обучающей выборке. Основным критерием качества прогнозирования выступала среднеквадратичная ошибка. Нейронная сеть тестировалась на трёх
испытаниях разряда аккумулятора, данные которого не участвовали в обучающей выборки.
В случае NAR-сети обучение проводилось с использованием входного параметра напряжения с аккумулятора в процессе разряда. Для прогнозирования последующего значения напряжения нейронная сеть использовала на входе значения предыдущих состояний напряжения аккумулятора.
В случае NARX-сети обучение проводилось с использованием таких входных параметров как относительное время разряда, ток нагрузки, температура ячейки и напряжение ячейки. Для прогнозирования последующего состояния значения напряжения нейронная сеть использовала на входе значения относительного времени, тока нагрузки, температуры ячейки и значения уточнённого напряжения на предыдущих шагах.
По результатам исследования оптимальным типом нейронной сети в условиях ограниченной обучающей выборки оказалась NAR- нейронная сеть с 4 нейронами в скрытом слое при 20 единицах задержки на входе в интервале [1, 16] нейронов.
Литература
1. ГАЛУШКИН Н Е., ГАЛУШКИНА Н.Н. Анализ эмпирических зависимостей, описывающих разряд щелочных аккумуляторов // Электрохимическая энергетика. - 2005. - Т. 5, №1. - С. 43-50.
2. ГЕЙДАРОВ П.Ш. Сравнительный анализ результатов обучений нейронной сети с вычисленными весовыми значениями и с генерацией весовых значений случайным образом // Автоматика и телемеханика. - 2020. - №7. - С. 56-78. Англ.: GEIDAROV P. Comparative analysis of the results of training a neural network with calculated weights and with random generation of the weights // Automation and Remote Control. - 2020. - Vol. 81:7. - P. 1211-1229.
3. ЕРИН С. Литиевые аккумуляторы: от сырья до готовых химических источников тока // Технологии в электронной промышленности. - 2014. - №3. - С. 70-73.
4. САИТОВА Г.А., ЕЛИЗАРОВА А.В. Нейросетевая модель для оценки состояния заряженности литий-ионного акку-
мулятора // Перспективные информационные технологии (ПИТ-2021) [Электронный ресурс]: труды Международной научно-технической конференции / Под ред. С.А. Прохорова. - Электрон. текстовые и граф. дан.- Самара: Изд-во Самарского научного центра РАН, 2021. - С. 288-293.
5. ХАЙКИН С. Нейронные сети. Полный курс. Второе издание: перевод с англ. - М: Издательский дом «Вильямс», 2006. - 1104 с.
6. ЧУДИНОВ Е.А., ТКАЧУК С.А., ШИШКО ВС. Технологические основы производства литий-ионного аккумулятора // Электрохимическая энергетика. - 2015. - Т. 15, №2. -С.84-92.
7. CHANG W.Y. The state of charge estimating methods for battery: A review // International Scholarly Research Notices. -2013. - Vol. 2013. - 8 p.
8. LI S. et al. State-of-charge estimation of lithium-ion batteries in the battery degradation process based on recurrent neural network // Energies. - 2021. - Vol. 14, No. 2. - P. 306.
9. TANG X. et al. Li-ion battery parameter estimation for state of charge // IEEE American Control Conference (ACC-2011). -IEEE, 2011. - P. 941-946.
10. TIAN J. et al. Flexible battery state of health and state of charge estimation using partial charging data and deep learning // Energy Storage Materials. - 2022. - Vol. 51. - P. 372-381.
11. VIDAL C. et al. Machine learning applied to electrified vehicle battery state of charge and state of health estimation: State-of-the-art // IEEE Access. - 2020. - Vol. 8. - P. 52796-52814.
12. WANG K. et al. State of charge estimation of composite energy storage systems with supercapacitors and lithium batteries // Complexity. - 2021. - Vol. 2021.
13. WANG L. et al. State of charge estimation for LiFePO4 battery via dual extended kalman filter and charging voltage curve // Electrochimica Acta. - 2019. - Vol. 296. - P. 1009-1017.
14. WANG Q. et al. Power battery state of charge estimation based on extended Kalman filter // Journal of Renewable and Sustainable Energy. - 2019. - Vol. 11, No. 1. - P. 014302.
15. WANG Y., CHEN Z. A framework for state-of-charge and remaining discharge time prediction using unscented particle filter // Applied Energy. - 2020. - Vol. 260. - P. 114324.
16. WEI Z. et al. Load current and state-of-charge coestimation for current sensor-free lithium-ion battery // IEEE Trans. on Power Electronics. - 2021. - Vol. 36, No. 10. - P. 10970-10975.
17. XI Z. et al. Learning of battery model bias for effective state of charge estimation of lithium-ion batteries // IEEE Trans. on Vehicular Technology. - 2019. - Vol. 68, No. 9. - P. 8613-8628.
18. XIA Z., QAHOUQ J.A. A. State-of-charge balancing of lithiumion batteries with state-of-health awareness capability // IEEE Trans. on Industry Applications. - 2020. - Vol. 57, No. 1. -P. 673-684.
19. XIONG R. et al. A set membership theory based parameter and state of charge co-estimation method for all-climate batteries // Journal of Cleaner Production. - 2020. - Vol. 249. - P. 119380.
20. XIONG X. et al. A novel practical state of charge estimation method: an adaptive improved ampere-hour method based on composite correction factor // Int. Journal of Energy Research. -2020. - Vol. 44, No. 14. - P. 11385-11404.
21. XU Y. et al. Online identification of battery model parameters and joint state of charge and state of health estimation using dual particle filter algorithms // Int. Journal of Energy Research. -2022. - Vol. 46, No. 14. - P. 19615-19652.
22. XUAN D.J. et al. Real-time estimation of state-of-charge in lithium-ion batteries using improved central difference transform method // Journal of Cleaner Production. - 2020. - Vol. 252. -P. 119787.
23. YANG B., WANG Y., ZHAN Y. Lithium Battery State-of-Charge Estimation Based on a Bayesian Optimization Bidirectional Long Short-Term Memory Neural Network // Energies. -2022. - Vol. 15, No. 13. - P. 4670.
24. YANG F. et al. State-of-charge estimation of lithium-ion batteries via long short-term memory network // IEEE Access. -2019. - Vol. 7. - P. 53792-53799.
25. YANG F. et al. State-of-charge estimation of lithium-ion batteries using LSTM and UKF // Energy. - 2020. - Vol. 201. -P. 117664.
26. ZHANG K. et al. State of charge estimation for lithium battery based on adaptively weighting cubature particle filter // IEEE Access. - 2019. - Vol. 7. - P. 166657-166666.
27. ZHANG R. et al. State of the art of lithium-ion battery SOC estimation for electrical vehicles // Energies. - 2018. - Vol. 11, No. 7. - P. 1820.
DETERMINING THE ARCHITECTURE OF A NEURAL NETWORK IN THE PROBLEM OF ESTIMATING THE STATE OF THE BATTERY CHARGE
Ilya Yakovlev, Ufa State Aviation Technical University, Ufa, Student of the department of ACS (ilya-yakovlev-1999@bk.ru). Anastasia Elizarova, Ufa State Aviation Technical University, Ufa, Graduate student of the department of TC (elizarovaansta-sia@gmail.com).
Guzel Saitova, Ufa State Aviation Technical University, Ufa, Candidate of Sciences in Technology (saitova@bk.ru).
Abstract: The problem of estimating the state of charge of the battery, based on neural networks, is considered. Two types of recurrent nonlinear autoregressive neural networks were investigated in the problem of estimating the state of charge of a battery during its use. The main criterion for the quality of forecasting was the mean square error. According to the results of the study, the optimal structure of the neural network was chosen.
Keywords: chemical current source, neural network modeling, lithium-ion battery, battery discharge level prediction.
УДК 681.5 ББК 30.2-5-05
DOI: 10.25728/ubs.2023.101.6
Статья представлена к публикации членом редакционной коллегии Э.Ю. Калимулиной.
Поступила в редакцию 11.08.2022.
Опубликована 31.01.2023.
