CC BY
5Научная статья УДК 004.896
DOI 10.35266/1999-7604-2023-3-76-81
ИНТЕЛЛЕКТУАЛЬНАЯ СИСТЕМА ПРОГНОЗИРОВАНИЯ ТЕМПЕРАТУРЫ НА ОСНОВЕ МОДИФИЦИРОВАННОЙ НЕЧЕТКОЙ НЕЙРОСЕТИ
Екатерина Александровна ЭнгельНикита Евгеньевич Энгель 2
1 2Хакасский государственный университет имени Н. Ф. Катанова, Абакан, Россия 1 ekaterina.en@gmail.com s, https://orcid.org/0000-0002-3023-0195 2nikita.en@gmail.com, https://orcid.org/0000-0002-7216-6398
Аннотация. В условиях противоречивости прогнозов погоды в сравнении с классическими методами нейросети идентифицируют нелинейную с неопределенностями динамику температуры, однако для повышения их точности требуется интеллектуальная адаптация для конкретного местоположения, которая реализуется интеллектуальной системой прогнозирования с использованием модифицированной нечеткой нейросети с механизмом внимания, адаптированным для условий противоречивости прогнозов погоды разных метеорологических сайтов. Представлены разработка и экспериментальное моделирование с использованием модифицированного авторского программного обеспечения интеллектуальной системы прогнозирования температуры на основе модифицированной нечеткой нейросети с адаптированным механизмом внимания, выделяющим на основе архивных данных существенные аспекты прогнозирования, включая нелинейную динамику температуры. Результаты разработанной системы демонстрируют ее робастность и снижение среднеквадратичной ошибки ее прогноза в среднем в три раза в сравнении с рекуррентными нейросетями в условиях неопределенности и противоречивости прогноза погоды.
Ключевые слова: прогнозирование температуры, нечеткая нейросеть, механизм внимания Благодарности: исследование выполнено в рамках мероприятия «Разработка интеллектуальных систем прогнозирования и максимизации выработки электроэнергии солнечной электростанции на основе оригинальной модифицированной нечеткой нейросети, их реализация как программ для ЭВМ и внедрение на электростанции возобновляемых источников энергии» программы деятельности НОЦ мирового уровня «Енисейская Сибирь».
Финансирование: исследование выполнено за счет средств гранта Министерства образования и науки Республики Хакасия (Соглашение от 13.12.22 № 91) научно-исследовательский проект «Разработка интеллектуальной системы непрямого прогнозирования выработки электроэнергии солнечной электростанции на основе модифицированной нечеткой нейросети».
Для цитирования: Энгель Е. А., Энгель Н. Е. Интеллектуальная система прогнозирования температуры на основе модифицированной нечеткой нейросети // Вестник кибернетики. 2023. Т. 22, № 3. С. 76-81. DOI 10.35266/1999-7604-2023-3-76-81.
Original article
AN INTELLIGENT SYSTEM FOR TEMPERATURE FORECASTING BASED ON A MODIFIED FUZZY NEURAL NETWORK
Ekaterina A. EngelNikita E. Engel2
1 2Katanov Khakas State University, Abakan, Russian 1 ekaterina.en@gmail.com s, https://orcid.org/0000-0002-3023-0195 2nikita.en@gmail.com, https://orcid.org/0000-0002-7216-6398
Abstract. In the setting of ambiguous weather forecasting, neural networks outperform traditional approaches in identifying nonlinear temperature dynamics with uncertainty. However, in order to improve neural network accuracy, an intelligent adaptation for a specific location that is implemented through an intelligent forecasting system with a modified fuzzy neural network with an attention mechanism adapted for conditions
of weather forecasting ambiguity registered on various meteorological websites is required. The study describes the design and test simulation of an intelligent system for a temperature forecast based on a modified fuzzy neural network with an adaptive attention mechanism, highlighting significant forecasting aspects such as nonlinear temperature dynamics based on repository data, using modified authors' software. The findings of the system developed demonstrate its robustness and a decrease in the root mean square error of its forecast by three on average compared to the recurrent neural networks in the setting of undefined and ambiguous weather forecast.
Keywords: temperature forecast, fuzzy neural network, attention mechanism
Acknowledgments: the study is carried out in the framework of the event "Development of Intelligent Systems for Forecasting and Maximizing a Solar Power Generation Based on an Original Modified Fuzzy Neural Network, Their Implementation as Computer Software and Introduction at the Reusable Electric Power Plant" included in the program of the word-class Yenisey Siberia Scientific and Educational Center.
Funding: the study is supported by the Ministry of Education and Science of Khakassia's grant (agreement of December 13, 2022 No. 91) - research project "Development of an Intelligent System for Indirect Forecasting of Solar Power Generation Based on a Modified Fuzzy Neural Network".
For citation: Engel E. A., Engel N. E. An intelligent system for temperature forecasting based on a modified fuzzy neural network. Proceedings in Cybernetics. 2023;22(3):76-81. DOI 10.35266/1999-76042023-3-76-81.
ВВЕДЕНИЕ
В соответствии с разделом «Информационные технологии, искусственный интеллект и новые материалы», утвержденным Указом Президента РФ «Стратегии научно-технологического развития России до 2035», разработка интеллектуальных систем актуальна и для настоящего исследования [ 1].
В работе [2] выявлены линейная зависимость вырабатываемой мощности солнечных панелей с инсоляцией и нелинейная - с температурой. Анализ интеллектуальных систем прогнозирования вырабатываемой мощности солнечных панелей [3-6] показал, что точность прогноза непрямой системы прогнозирования выработки солнечных панелей намного выше прямой системы прогнозирования [3]. Таким образом, целесообразна и актуальна разработка интеллектуальной системы непрямого прогнозирования выработки солнечных панелей, включающей интеллектуальные подсистемы прогнозирования инсоляции и температуры на основе модифицированной нечеткой нейросети. Нелинейную с неопределенностями динамику температуры идентифицировать классическими методами с требуемой точностью нельзя, в то время как рекуррентные нейросети, настроенные на архивных данных, включая прогноз погоды, требуемую точность обеспечивают [7]. В условиях противоречивости прогнозов погоды разных метеорологических сайтов в работе [7] для существующих нейросетевых моделей прогнозирования
температуры выявлена проблема интеллектуальной адаптации для конкретного местоположения. Указанная проблема решается в данном исследовании разработкой интеллектуальной системы прогнозирования температуры с использованием модифицированной нечеткой нейросети с механизмом внимания (МННВ), адаптированным для условий противоречивости прогнозов погоды разных метеорологических сайтов, настроенной модифицированным оптимизатором квантовых многомерных частиц роя (МОКМЧР), который подробно описан в работе [8].
Результаты экспериментального моделирования созданной и верифицированной с использованием модифицированного авторского программного обеспечения (ПО) [9] интеллектуальной системы прогнозирования температуры на основе МННВ демонстрируют ее ро-бастность и снижение среднеквадратичной ошибки ее прогноза в среднем в три раза в сравнении с рекуррентными нейросетями в условиях неопределенности и противоречивости прогноза погоды.
МАТЕРИАЛЫ И МЕТОДЫ
В условиях противоречивости прогноза погоды метеорологических сайтов были выбраны лидеры по точности прогноза погоды [10]: Gismeteo [11] и Яндекс.Погода [12].
Создана и верифицирована интеллектуальная система прогнозирования температуры
с использованием МННВ, настроенной на основе данных:
X, = (P, W,, d,, Tyh, Tg,, г;-2), (1)
где РЦ - атмосферное давление;
Wl и dth - скорость и направление ветра соответственно;
Tl - температура воздуха;
Tyl и Tgl - значения прогнозируемой температуры воздуха, предоставленные Яндекс. Погодой и Gismeteo соответственно;
Tl - фактическая температура воздуха;
h = 1...4, tе{1,...,365х3}. Интеллектуальная система прогнозирования температуры в форме МННВ создается за 4 этапа:
1-й этап. Сначала все примеры вида (1) были классифицированы на две группы согласно состоянию правильности прогноза температуры: A1 - солнечный час, (oh —1),
A2 - облачный час (о[ — -1) . Векторы Xfh (3)
t
и оА являются входным и целевым соответственно для рекуррентной нейросети с механизмом внимания Y0 , генерирующей выходной сигнал n — Y(dhj, d^, Xth), где d^ и d^ -
количество рекуррентных нейронов в скрытом слое (первый слой МННВ) и в слое механизма внимания (второй слой МННВ).
2-й этап. Неинтерпретированный выходной сигнал рекуррентной нейросети с механизмом
внимания n — Y(dAi, d^, X\ ) формирует нечеткие множества A ■ ( Aj - облачный час, A2 - солнечный час, j —1...2 ) и соответствующие функции принадлежности цj следующим образом:
Ifn > 0 then ц (Xh ) — n, ц2 (Xh ) — — 1 - Ц(Xh ) else Ц2 (Xh ) — abs(nX ц(Xh ) — — 1 - Ц 2 ( Xh ).
3-й этап. Третий нейросетевой слой МННВ включает рекуррентные нейросети Y/ , имеющие целевой сигнал Tl и генерирующие
выходные сигналы yi - Y(dj, X*h ), j -1...2.
Параметры архитектуры МННВ (количество скрытых нейронов - d^ е[1, 7], их веса, количество временных задержек - dqi е [1, 3])
кодируются частицей X. Оптимальная архитектура МННВ - gbest, включающая рекуррентные нейросети Y0 и Y]], создается методом МОКМЧР [7] на наборе данных вида (1). Фитнесс-функция МОКМЧР вычисляется как среднеквадратичная ошибка (RMSE -Root Mean Square Error) согласно выражению:
RMSE = J± Zill,,,—o« - < )2> (2)
где N - число оцениваемых примеров;
ulh - прогнозируемое значение температуры воздуха;
T, - фактическое значение температуры воздуха.
4-й этап. Составляются нейро-нечеткие продукционные правила МННВ :
П : ЕСЛИ Xhh есть А ТО Uh есть Fes(yj). (3)
Слой механизма внимания является состоящей из d нейронов однослойной нейросе-
тью, матрица весов внимания которой - вектор L - вычисляется следующим образом: вектор
скрытых состояний H°(e — 1...dAj ), пополненный последним элементом Y(dj, X¿-1) (где
Y(dj, Xhi-1) - предыдущее значение выходного нейрона рекуррентной нейросети третьего нейросетевого слоя МННВ), умножается на матрицу синаптических коэффициентов однослойной нейросети, реализующей функцию внимания. К полученному вектору L применяется активационная функция Softmax, получается V - вектор весов внимания. Вектор-контекст c вычисляется как произведение векторов H и V. Далее рекуррентные нейросети Y/ функционируют как обычно,
с учетом выходного значения МННВ, попол-
h-1 / h-1
ненного последним элементом u (где u -предыдущее значение выхода МННВ), и вектора-контекста c.
Интеллектуальная система прогнозирования температуры в форме МННВ функционирует следующим образом: агрегация антецедента правил (5) на основе вектора Х'к (1) по функции тё (ц у ) - {у | У к Ф уц у > цк } активирует 2-ю субкультуру рекуррентных нейро-сетей; на основе нечетко-возможностной
свертки выходных сигналов Ук формируется
выходной сигнал МННВ - прогнозируемое на основе МННВ значение температуры воздуха.
Интеллектуальная система прогнозирования температуры в форме МННВ кратко описывается схемой на рисунке, отражающем структуру и функционирование МННВ.
Рисунок. Интеллектуальная модель максимизации генерируемой мощности реконфигурируемой солнечной электростанции
Примечание: составлено авторами на основании данных, полученных в исследовании.
РЕЗУЛЬТАТЫ И ИХ ОБСУЖДЕНИЕ
Интеллектуальная система прогнозирования температуры в форме МННВ реализована и экспериментально апробирована моделированием. На основе модифицированного авторского ПО [9] создана МННВ и обучена рекуррентная нейросеть (количество скрытых нейронов и задержек равно 5 и 2 соответственно) на основе данных (1). МОКМЧР на обучающей выборке (1) ^ е [1,365 х 2]) автоматически синтезировал gbest - оптимальную архитектуру МННВ, включающую:
- рекуррентную нейросеть с механизмом внимания У0 с двумя рекуррентными нейронами в скрытом слое (к0 - 2, временная задержка равна 2) и с тремя нейронами в слое механизма внимания (к0 - 3);
- две рекуррентные нейросети У1 первой субкультуры, соответствующей нечеткому состоянию А2, с четырьмя и пятью рекуррентными нейронами в скрытом слое соответственно ( к/ - 4, к^ - 5, временная задержка равна 2);
- две рекуррентные нейросети У первой субкультуры, соответствующей нечеткому состоянию А, с двумя и тремя рекуррентными нейронами в скрытом слое соответственно (к]2 - 2, к2 - 3, временная задержка равна 1).
Для последнего года трехлетнего архива (не используемого для синтеза МННВ и рекуррентной нейросети) эффективность системы прогнозирования температуры на основе МННВ в сравнении с рекуррентной нейросетью оценивалась среднеквадратич-
ной ошибкой (2), средней абсолютной ошибкой (MAE - Mean Absolute Error) и ошибкой смещения (BIAS).
MAE вычисляли следующим образом:
- Ыи
MAE = 365 ЯГ i .Г-К
BIAS вычисляли как:
BIAS - 315 Я073I, i .r:::4(Tl'" < )■
(4)
(5)
Сравнительный анализ эффективности (таблица) выявил, что МННВ в сравнении с рекуррентной нейросетью обеспечивает более точный прогноз температуры. Таблица демонстрирует робастность и снижение среднеквадратичной ошибки системы прогнозирования температуры на основе МННВ в среднем в три раза в сравнении с рекуррентными нейросетями в условиях неопределенности и противоречивости прогноза погоды.
Таблица
Результаты МННВ и рекуррентной нейросети при прогнозировании температуры
Ошибка (°C) МННВ Рекуррентная нейросеть
MAE 0,03 0,12
RMSE 0,04 0,14
BIAS 0,01 0,16
Примечание: МННВ - моди( эицированная нечеткая нейросеть с механизмом внимания; MAE - средняя
абсолютная ошибка; RMSE - среднеквадратичная ошибка; BIAS - смещение. Составлено авторами на основании данных, полученных в исследовании.
Таким образом, эффективность МННВ (как нечеткой системы, формируемой рекуррентными нейросетями с механизмом внимания) при прогнозировании температуры выше, чем эффективность отдельной рекуррентной нейросети. МННВ эффективно транслирует функциональные аспекты прогнозирования температуры средствами рекуррентных нейронов и механизма внимания, обеспечивая эффективное формирование на основе данных (1) и трансляцию скрытого представления информации (1), включая нелинейную динамику температуры. Механизм внимания обеспечивает выделение существенных аспектов динамики температуры и передачу этой информации как сигнала на слой скрытых рекуррентных нейронов ]-й субкультуры нейросетей ТУ .
ЗАКЛЮЧЕНИЕ
В данном исследовании разработана, верифицирована и экспериментально апробирована моделированием при помощи модифицированного авторского ПО система прогнозирования температуры на основе МННВ. МННВ обеспечивает эффективное выделение существенных аспектов прогнозирования температуры средствами рекуррентных нейронов и механизма внимания, обеспечивая на основе архивных данных эффективное формирование и трансляцию скрытого представления информации, включая нелинейную динамику температуры. Результаты экспериментального моделирования системы прогнозирования температуры на основе МННВ демонстрируют ее робастность и снижение среднеквадратичной ошибки ее прогноза в среднем в три раза в сравнении с рекуррентными нейросетями в условиях неопределенности и противоречивости прогноза погоды.
Список источников
1. Большие вызовы и приоритеты научно-технологического развития. URL: https://xn--m1agf.xn--p1ai/ challenges-priorities/ (дата обращения: 20.07.2023).
2. Liu L. Forecasting power output of photovoltaic system using A BP network. Energy Procedia. 2017;142:780-786.
3. Durrani S. P., Balluff S., Wurzer R. et al. Photovoltaic yield prediction using an irradiance forecast model based on multiple neural networks. J Mod Power Syst Clean Energy. 2018;6:255-267.
References
1. Bolshie vyzovy i prioritety nauchno-tekhnologicheskogo razvitiia. URL: https://xn--m1agf.xn--p1ai/challenges-priorities/ (accessed: 20.07.2023). (In Russian).
2. Liu L. Forecasting power output of photovoltaic system using A BP network. Energy Procedia. 2017;142:780-786.
3. Durrani S. P., Balluff S., Wurzer R. et al. Photovoltaic yield prediction using an irradiance forecast model based on multiple neural networks. J Mod Power Syst Clean Energy. 2018;6:255-267.
4. Engel E., Engel N. A Review on machine learning applications for solar plants. Sensors. 2022;22(23):9060.
5. Wu Y.-K., Huang C.-L., Phan Q.-T. et al. Completed review of various solar power forecasting techniques considering different viewpoints. Energies. 2022; 15(9):3320.
6. Gaviria J. F., Narvaez G., Guillen C. et al. Machine learning in photovoltaic systems: A review. Renewable Energy. 2022;196:298-318.
7. Jaseena K. U., Kovoor B. C. Deterministic weather forecasting models based on intelligent predictors: A survey. Journal of King Saud University - Computer and Information Sciences. 2022;34(6 pt B):3393-3412.
8. Энгель Е. А., Энгель Н. Е. Модуль модифицированной нечеткой нейронной сети : свидетельство о государственной регистрации программы для ЭВМ 202168035 Рос. Федерация. № 22021681065 ; заявл. 09.12.2021 ; опубл. 17.12.2021 ; заявитель ФГБОУ ВО «Хакасский государственный университет им. Н. Ф. Катанова». URL: https://elibrary.ru/ download/elibrary_47480682_23010232.PDF (дата обращения: 20.07.2023).
9. Энгель Е. А., Энгель Н. Е. Интеллектуальная модель максимизации генерируемой мощности ре-конфигурируемой солнечной электростанции // Вестник кибернетики. 2023. Т. 22, № 1. С. 52-58.
10. Топ 14 сайтов прогноза погоды. URL: https://stroiso-vet.com/kakoj-sajt-prognoza-pogody-samyj-tochnyj-po-gorodam-rossii-i-mira/ (дата обращения: 20.07.2023).
11. Gismeteo. URL: https://www.gismeteo.ru/ (дата обращения: 20.07.2023).
12. Яндекс.Погода. URL: https://yandex.ru/pogoda (дата обращения: 20.07.2023).
Информация об авторах
Е. А. Энгель - кандидат технических наук, доцент. Н. Е. Энгель - бакалавр.
4. Engel E., Engel N. A Review on machine learning applications for solar plants. Sensors. 2022;22(23):9060.
5. Wu Y.-K., Huang C.-L., Phan Q.-T. et al. Completed review of various solar power forecasting techniques considering different viewpoints. Energies. 2022; 15(9):3320.
6. Gaviria J. F., Narvaez G., Guillen C. et al. Machine learning in photovoltaic systems: A review. Renewable Energy. 2022;196:298-318.
7. Jaseena K. U., Kovoor B. C. Deterministic weather forecasting models based on intelligent predictors: A survey. Journal of King Saud University - Computer and Information Sciences. 2022;34(6 pt B):3393-3412.
8. Engel E. A., Engel N. E. Modified fuzzy neural network module. RU Certificate of registration for a computer program 202168035. No. 22021681065, filed December 9, 2021, issued December 17, 2021, applicant Katanov Khakass State University. URL: https://elibrary.ru/download/elibrary_47480682_230 10232.PDF (accessed: 20.07.2023). (In Russian).
9. Engel E. A., Engel N. E. Intelligent model for maximizing the generated power of a reconfigurable solar power plant. Proceedings in Cybernetics. 2023;22(1):52-58. (In Russian).
10. Top 14 saitov prognoza pogody. URL: https://stroiso-vet.com/kakoj -sajt-prognoza-pogody-samyj -tochnyj -po-gorodam-rossii-i-mira/ (accessed: 20.07.2023). (In Russian).
11. Gismeteo. URL: https://www.gismeteo.ru/ (accessed: 20.07.2023). (In Russian).
12. Iandeks.Pogoda. URL: https://yandex.ru/pogoda (accessed: 20.07.2023). (In Russian).
Information about the authors
E. A. Engel - Candidate of Sciences (Engineering), Docent.
N. E. Engel - Bachelor's Degree Student.
