Научная статья на тему 'Прогнозирование изменений параметров временных рядов в цифровых информационно-управляющих системах'

Прогнозирование изменений параметров временных рядов в цифровых информационно-управляющих системах Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
442
88
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ПРОГНОЗИРОВАНИЕ / ПАРАМЕТРИЧЕСКОЕ ПРЕДСКАЗАНИЕ / АВТОРЕГРЕССИЯ / ФУНКЦИОНАЛЬНЫЙ РЯД / НЕЙРОННАЯ СЕТЬ / ВРЕМЕННОЙ РЯД / ТРЕХСЛОЙНЫЙ ПЕРСЕПТРОН ПРЯМОГО РАСПРОСТРАНЕНИЯ / FORECASTING / PARAMETRIC PREDICTION / AUTOREGRESSION / FUNCTIONAL SERIES / NEURAL NETWORK / TIME SERIES / THREE-LAYER PERCEPTRON OF DIRECT PROPAGATION

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Кропотов Юрий Анатольевич, Белов Алексей Анатольевич, Проскуряков Александр Юрьевич

Постановка задачи: задача прогнозирования изменения параметров временных рядов является актуальной, например, при мониторинге исследуемых процессов в цифровых информационных системах управления. Также такая задача возникает при исследованиях вопросов увеличения горизонта предсказания и минимизации погрешности прогноза. Объектом исследованияявляются методы параметрического прогнозирования, основанные на представлении временного ряда обобщенным многочленом по системам линейно независимых функций. Объектом исследований также являются алгоритмы прогноза, основанные на моделях авторегрессии, на моделях воспроизводящих динамику временного ряда в форме искусственных нейронных сетей (ИНС). Целью работы является разработка алгоритмов управления, функционирования и обучения искусственной нейронной сети в матричной форме и получения алгоритма обратной подстановки, с помощью которого можно получить увеличение глубины прогноза. Используемые методы: в работе использовались методы декомпозиции эмпирических процессов, методы параметрического прогнозирования, методы нахождения оценок прогноза посредством минимизации функции потерь квадрата нормы отклонения оценок от наблюдаемых значений временного ряда, метод обобщения алгоритма прогноза с помощью линейной модели, представленной функциональными рядами или ИНС. Научная новизна работы заключается в решении задачи прогноза, состоящей в нахождении коэффициентов модели посредством минимизации целевой функции итерационным методом путем применения рекуррентных сетей с обратными связями. Результат: результат применения разработанных алгоритмов заключается в повышении эффективности прогнозирования изменения параметров временных рядов по критериям длительности и минимизированной погрешности получения прогноза. Практическая значимость: предложенная структурная схема реализации нейросетевого прогнозирования изменений параметров временных рядов с предварительной вейвлет-обработкой обеспечивает возможность более эффективного мониторинга исследуемых процессов, например, в цифровых информационных системах управления.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Кропотов Юрий Анатольевич, Белов Алексей Анатольевич, Проскуряков Александр Юрьевич

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Forecasting changes in time series parameters in digital information management systems

Statement of the problem. A task of predicting change in parameters of time series is relevant for monitoring processes under investigation in digital information management systems. The task arises in questions research of increasing the forecasting horizon and minimizing forecast error. Object of research are parametric prediction methods based on the representation of the time series by a generalized polynomial in systems of linearly independent functions, the forecasting algorithms based on autoregression models on models of time series reproducing dynamics in the form of artificial neural networks (ANN) are also the object of research. The purpose of the work is development of algorithms for control, functioning and training of an artificial neural network in a matrix form and obtaining an algorithm for return substitution, with help of which it is possible to obtain an increase in the depth of the forecast. Used methods. In the work used methods of empirical processes decomposition, methods of parametric forecasting. Also in the work used method for finding forecast estimates by minimizing loss function-the square for the norm of the deviation estimates from the observed values of the time series. In the research used generalization method of the prediction algorithm using a linear model represented by functional series or ANN. The scientific novelty of the work consists in solving the prediction task, consisting in finding the model coefficients by iterative method applying recurrent networks with feedbacks for minimizing the objective function. Results. The result of application of the developed algorithm is increase efficiency of predicting change in the parameters of time series by criteria of minimized duration and error in obtaining forecast. Practical value: the proposed structural scheme for implementing neural network forecasting of changes in time series parameters with preliminary wavelet processing provides the opportunity for more effective monitoring of the studied processes, for example, in digital information management systems.

Текст научной работы на тему «Прогнозирование изменений параметров временных рядов в цифровых информационно-управляющих системах»

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

УДК 004.042

Прогнозирование изменений параметров временных рядов в цифровых информационно-управляющих системах

Кропотов Ю. А., Белов А. А., Проскуряков А. Ю.

Постановка задачи: задача прогнозирования изменения параметров временных рядов является актуальной, например, при мониторинге исследуемых процессов в цифровых информационных системах управления. Также такая задача возникает при исследованиях вопросов увеличения горизонта предсказания и минимизации погрешности прогноза. Объектом исследования являются методы параметрического прогнозирования, основанные на представлении временного ряда обобщенным многочленом по системам линейно независимых функций. Объектом исследований также являются алгоритмы прогноза, основанные на моделях авторегрессии, на моделях, воспроизводящих динамику временного ряда в форме искусственных нейронных сетей (ИНС). Целью работы является разработка алгоритмов управления, функционирования и обучения искусственной нейронной сети в матричной форме и получения алгоритма обратной подстановки, с помощью которого можно получить увеличение глубины прогноза. Используемые методы: в работе использовались методы декомпозиции эмпирических процессов, методы параметрического прогнозирования, методы нахождения оценок прогноза посредством минимизации функции потерь -квадрата нормы отклонения оценок от наблюдаемых значений временного ряда, метод обобщения алгоритма прогноза с помощью линейной модели, представленной функциональными рядами или ИНС. Научная новизна работы заключается в решении задачи прогноза, состоящей в нахождении коэффициентов модели посредством минимизации целевой функции итерационным методом путем применения рекуррентных сетей с обратными связями. Результат: результат применения разработанных алгоритмов заключается в повышении эффективности прогнозирования изменения параметров временных рядов по критериям длительности и минимизированной погрешности получения прогноза. Практическая значимость: предложенная структурная схема реализации нейросетевого прогнозирования изменений параметров временных рядов с предварительной вейвлет-обработкой обеспечивает возможность более эффективного мониторинга исследуемых процессов, например, в цифровых информационных системах управления.

Ключевые слова: прогнозирование; параметрическое предсказание; авторегрессия; функциональный ряд; нейронная сеть; временной ряд; трехслойный персептрон прямого распространения.

Введение

Задача прогнозирования заключается в нахождении будущих значений параметров временного ряда на интервале, называемом горизонтом прогнозирования [1, 2], в пределах которого обеспечивается необходимая точность решения задачи. Для непрерывных процессов - это интервал t+т], который для временного ряда, записывается как (п, п + А]. Здесь t и пТ -текущие моменты времени, при этом Т - период дискретизации.

Библиографическая ссылка на статью:

Кропотов Ю. А., Белов А. А., Проскуряков А. Ю. Прогнозирование изменений параметров временных рядов в цифровых информационно-управляющих системах // Системы управления, связи и безопасности. 2017. № 2. С. 1-17. URL: http://sccs.intelgr.com/archive/2017-02/01-Kropotov.pdf Reference for citation:

Kropotov Y. A., Belov A. A., Proskuryakov A. Y. Forecasting changes in time series parameters in digital information management systems. Systems of Control, Communication and Security, 2017, no. 2, pp. 1-17. Available at: http://sccs.intelgr.com/archive/2017-02/01-Kropotov.pdf

Systems of Control, Communication and Security

sccs.intelgr.com

Прогнозирование обычно осуществляется по значениям временного ряда или процесса на конечном, предшествующем, интервале [-Т, времени.

Горизонт предсказания является не только одной из важнейших мер качества прогноза, но и используется в качестве критерия степени детерминированности и случайности наблюдаемых явлений, служит характеристикой динамического хаоса (характеристикой хаотических колебаний в динамических системах). В основе этого утверждения лежит зависимость горизонта предсказания не только от используемых алгоритмов, но и от свойств анализируемых временных рядов и процессов. В задачах прогнозирования выбор алгоритма осуществляется исходя из соображений максимизации горизонта прогнозирования и достоверности прогноза. Один из принципов прогнозирования временных рядов или процессов основывается на их представлении непрерывными или дискретными моделями. В работах [1, 2] модель прогнозируемого процесса схематически описывается дифференциальным уравнением, зависящим от неизвестных параметров системы а и факторов /к, отражающих неопределённость модели, где к - номер анализируемого фактора, находится в пределах 1 < к < М и идентифицируется методом наименьших квадратов. При этом в рассмотрение вводятся три процесса: наблюдаемый процесс у, исследуемый (истинный) процесс х и модельный (прогностический) процесс г. Истинный процесс в силу неопределенности факторов /к является (из множества возможных) неизвестным решением дифференциального уравнения Р(д / д1,х,а,/к) = 0.

Пренебрежение указанными факторами позволяет получить дифференциальное уравнение, описывающее модельный процесс г, при соответствующих условиях близкий к истинному процессу х. Это уравнение можно записать в виде

0(д / &,2,а) = 0.

Здесь критерием качества прогнозирования может являться среднеквадратическое значение нормы отклонения модельного процесса по факторам / от истинного на интервале предсказания, то есть величина [1]

„, \ 1 М 1+1

х - * = — ЕЛ х(у,!к) - 2{у)\ д» . (1)

I М к=1 t

Аналогично определяется качество прогнозирования дискретных процессов или временных рядов, представленных дискретными моделями, которые, в частности, могут быть получены из непрерывных моделей путём замены производных конечными разностями. При этом операция интегрирования заменяется операцией суммирования по конечному множеству данных на интервале прогнозирования. Переход к дискретной модели эквивалентен численному решению дифференциального уравнения со свойственными этому решению проблемами чувствительности к возмущающим воздействиям.

На практике построение моделей основывается на данных о

Systems of Control, Communication and Security

sccs.intelgr.com

соответствующих наблюдаемых процессах: модели могут относиться к классам линейных дискретных [3] и регрессионных [4] систем, стационарных и нестационарных процессов. При решении задач прогнозирования нестационарных процессов может быть применен метод, основанный на декомпозиции процессов по эмпирическим модам (метод ЕМО) [5].

Распространенными методами прогнозирования являются параметрические методы регрессионной аппроксимации [4], динамические модели авторегрессии - скользящего среднего [3], методы импульсных функций [7] и искусственных нейронных сетей [9, 10].

Нейросетевые методы прогнозирования

Горизонт прогнозирования любой модели зависит от того, насколько достоверно эта модель воспроизводит динамику временного ряда или системы, порождающей наблюдаемый процесс. Поэтому в этой части работы исследуется вопрос о горизонте прогнозирования на основе модели в форме искусственной нейронной сети прямого распространения [7, 8, 9]. Проблема здесь заключается в том, насколько точно динамика процесса может быть представлена весовыми коэффициентами сети. Поэтому отсутствие обратных связей компенсируется алгоритмами обучения типа обратного распространения ошибки. Алгоритм функционирования многослойной нейронной сети прямого распространения при прохождении сигналов по направлению от входа к выходу зададим уравнениями в матричной форме. Схема нейронной сети прямого распространения представлена на рис. 1.

Рис. 1. Структура трехслойной нейронной сети прямого распространения

Systems of Control, Communication and Security

sccs.intelgr.com

В соответствии с рис. 1 вектор выходов /-го слоя сети, состоящего из р ] нейронов

Уу={Ул'УуЛ'-.у^)Г, (2)

и вектор весовых коэффициентов 1-го нейрона/-го слоя сети

, У . (3)

Тогда синаптическая сумма 1-го нейрона/-го слоя сети

= К У ]-1 + ], (4)

где Wj I о - смещение нейрона.

При этом выходы j-го слоя сети можно представить вектором

т гУ ]-\ +

т

У j =

Г Ф ( w Tj i jy j_l + j 0) Л

Ф(wTj,P, Уj-1 + wj,P„o)

(5)

т

рГ ■> 1 ■>'pJ'

где ф(-) - функции активации нейронов сети.

Формула (5) является рекуррентным уравнением, позволяющим найти последовательно выходы всех слоёв сети, начиная с первого слоя (/=1), и заканчивая последним слоем (в рассматриваемом случае /=3), совпадающим с выходом сети. Вектор У - это входная последовательность временного ряда х(п).

При решении задач прогноза выходами сети в пределах одного цикла её функционирования являются результаты предсказания временного ряда или процесса на заданное число шагов вперёд, начиная с 1 и кончая рвых.ел.(число нейронов в выходном слое сети).

Алгоритм обучения нейронной сети методом обратного распространения ошибки также можно представить уравнениями в матричной форме. Введём матрицу весов/-го слоя сети

(6)

вектор смещения нейронов /-го слоя

п=(м>.1П,"и> „,•••,„) , (7)

./.О у ./.1.0' ./.2.0' ' 0у ' V /

вектор синаптических сумм

8 ] 1' 2, р] У, (8)

и векторную функцию активации/-го слоя

= • (9)

Весовые коэффициенты /-го слоя сети находятся при этом в ходе минимизации функционала

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

^ ) = (ф(8>) - У ; У (ф(8>) - У ; ) , (10)

где у =\У2,---,у ) - вектор требуемых выходов 7-го слоя сети и

У у У' У' J'Pj у

е = ф(8 ) - у - вектор ошибок по выходам]-го слоя.

Таблица 1 - Алгоритм обучения многослойного персептрона прямого

распространения

Этап обучения Шаги алгоритма

1.Определение выходов (прямой проход) У ,= ф(W T2У,-1 + W02 ) ®(wT y . , + W ) jpjj J-1 0Pj ^ , j = U^0 = Cm.

2.Определение ошибок (обратный проход) е у-1 = ,е Ге1 = Ф(81 ) - У1 ' = 1-1 + ^ 0 = (1 ^ 2,)г, где WJ = (^ ^^^ ... ^ ) - матрица весовых синаптических коэффициентов.

З.Коррекция синаптических коэффициентов (Я +1) = (Я) - а Ь (*л )ецУ]-1. ^0(Я + 1) = о(^) -аФ 1е 1 ' ф_^Гдф(*д) ^2) дф()] дф) J д*., д*. ^ д*. д*. а - шаг настройки, выбирается в диапазоне 0 < а < 1.

Если ввести матрицы

dsT W =—}-,

j дУ,-1

и диагональную матрицу Ф =

¿ф(?, ) as.

в виде

дф (s ) Ф = v jJ = diag

J ds. g

d(p(sj d(p{sh )Л

ds.,

V j1

ds.

ds.

(11)

12 " 1-Р] у

то алгоритм обучения методом обратного распространения ошибки принимает вид разностного уравнения

Systems of Control, Communication and Security

sccs.intelgr.com

е., = Фе, (12)

]-1 ] ]

с начальными условиями е = ф(в ) - у , при J ^вых.сл. (номер выходного слоя

сети), у - вектор требуемых выходов^го слоя сети.

Коррекция весовых коэффициентов сети по ошибкам, полученным с помощью уравнения (12), осуществляется, если воспользоваться градиентным методом, по итерационным формулам

' ^ (Я +1) = ' ], 7 ^ - ак] 11 С] )е]1 у.-1,

+1) = ) - аФ .е., (13)

дф( б 1)

hs , I ( sj. I ) =

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

ds.

где 1 = 1,2.....Рге]1 является 1-м компонентом вектора е; ошибки; д - номер

итерации, шаг настройки весовых коэффициентов а выбирается в диапазоне 0<а<1.

Таким образом, выражения (2)-(13) формируют алгоритм обучения нейронной сети при прогнозировании изменения значений функции, реализуемый нейронной сетью прямого распространения, построенной по правилу многослойного персептрона, который сведен в таблицу 1 [9].

Структура прогнозирования на трехслойном персептроне

Структурная схема, реализующая нейросетевое прогнозирование изменений значений параметров функции с её предварительной вейвлет-обработкой, представлена на рис. 2 [10, 11, 12].

Как видно из рис. 2, система прогнозирования, реализованная на трехслойном персептроне прямого распространения, используется применительно к задаче мониторинга информации в информационно-управляющих системах, которая формирует временной ряд х(п) отсчетов значений процесса. Аналогично могут быть исследованы непрерывные функции, либо временные ряды данных, отображающие информацию изменения параметров различных процессов для решения задач прогнозирования в информационно-управляющих системах.

Рис. 2. Структурная схема нейросетевого прогнозирования изменений значений функции

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

Входные сигналы в виде непрерывной функции х(?) или дискретной функции в виде временного ряда х(п) подаются на W-фильтр предварительной обработки вейвлет-преобразованием. В W-фильтре формируются аппроксимирующие коэффициенты С, вычисленные по формуле

С = - С-1Фг (2г t - п), Р

где ф (2'г - п) - скейлинг-функция, р = 2'/2 - коэффициент ортонормирования, обеспечивающий единичную норму скейлинг-функции, & - детализирующие коэффициенты 1-го уровня вейвлет-разложения, вычисленные по формулам:

1 1 т .

d1 = — х(п)уг (2г - п), dl, = — X С-1(2 г - п),

р р '=2

где (2'г - п) - вейвлет-функция [8, 13, 14, 15].

Выделенные аппроксимирующие коэффициенты С до уровня =т, где 1 < т < 6 [7, 13], подаются на вход ^-разрядного регистра сдвига, построенного на элементах задержки с передаточной функцией 2Л„ в котором формируется выборка входных сигналов нейронной сети в виде движущегося окна из N отсчетов, обработанных в W-фильтре [14, 15]. В нейронной сети, построенной по правилу многослойного персептрона прямого распространения вычисляются

выходные сигналы в виде аппроксимирующих коэффициентов прогноза Ст ,

где т - уровень вычисленных аппроксимирующих коэффициентов, г - число периодов прогноза (например, г=1, 2..., 10).

Многослойный персептрон состоит из входного слоя, внутреннего слоя (где значение } внутреннего слоя принимает значение 0 или 1) и выходного слоя. При 7=1, структурная схема персептрона представляет собой трехслойный персептрон. Увеличение числа слоев, т.е. }> 1, в персептроне приводит к увеличению вычислительных затрат при незначительном уменьшении погрешности [10, 13].

Число нейронов во входном слое персептрона влияет на число анализируемых входных аппроксимирующих коэффициентов временного ряда Ст(п), соответственно на время анализа предыдущих значений отсчетов исследуемой функции, на длительность движущегося окна, на число разрядов во входном регистре сдвига, на общую погрешность прогнозирования. В

соответствии с [10] погрешность прогноза при г = 10 достигает д < 5%, в

случае числа нейронов во входном слое рвх=64, внутреннем слое рвнутр=10, выходном слое рвых=10. При уменьшении числа нейронов во входном слое до

рвх=32, погрешность повышается до |5|<(7...10)% [13, 14, 15, 16].

Число нейронов внутреннего слоя рвнутр. и число нейронов выходного слоя рвых. определяется требуемым временем прогноза в виде:

ирогн=гТ; (14)

и, соответственно, подчиняется условию рвнутр = рвых = Гmax.

Полученные аппроксимирующие коэффициенты прогноза С*г, с учетом

Systems of Control, Communication and Security

sccs.intelgr.com

необходимых для разных выходов нейронной сети задержек, сравниваются с входными значениями Ст, что обеспечивает формирование ошибок

предсказаний е* на всехр выходах нейронов выходного слоя нейронной сети.

При этом формализуем процедуру вычисления нейронной сетью аппроксимирующих коэффициентов прогноза, вычисление ошибок на выходах нейронов каждого из слоев, а также процедуру адаптивной настройки синаптических весовых коэффициентов, для каждого 1-го нейрона в рамках всех слоев нейронной сети.

Аппроксимирующий коэффициент прогноза на один период вычисляется на выходе 1-го нейрона выходного слоя в соответствии с выражением [8, 18]:

С1 = Уз! = Фэ(^ю) =;-1—7 •

1 + е-хр(-0

На выходе 1-го нейрона выходного (3-го) слоя вычисляется ошибка предсказания на один период - е, по которой вычисляется ошибка на выходе 1-го нейрона предыдущего 2-го слоя нейронной сети - е . Ошибки на выходе

1-ых нейронов 2-го и 1-го слоев вычисляются в соответствии с выражениями:

10

е21 =1 • ез1

l=1

64

е11 =Х ^21 • е21 •

1=1

Вычисленные таким образом ошибки обратного прохода, в свою очередь адаптивно перестраивают синаптические коэффициенты связей между нейронами различных слоев. Таким образом, веса 1-ых нейронов каждого слоя адаптивно настраиваются в соответствии с выражениями:

< = ^ +а С *,

31 31 31т т '

dsw

йф (£п )

^21 = ^21 +а е21 2 У21 ,

^10

^11 = ^11 +а У11 •

^64

Минимизация ошибки обеспечивается выше рассмотренной итерационной процедурой обучения нейронной сети, в ходе которой осуществляется настройка весовых или синаптических коэффициентов сети. Таким образом, задача прогнозирования заключается в оценивании будущих значений процесса по имеющимся данным С в текущий момент, в настройке значений коэффициентов нейронной сети по критерию минимальной величины ошибки предсказания, в оценивании управляемого объекта, основанных на сравнении выходных сигналов управляемого объекта С*г и его модели, в

качестве которой используется нейронная сеть.

Детализирующие коэффициенты вычисленные до уровня т

й.2, ■■■, йт), после обработки алгоритмом сглаживания, поступают на блоки

Systems of Control, Communication and Security

sccs.intelgr.com

d* =

восстановления выходного временного ряда прогноза.

Алгоритм сглаживания детализирующих коэффициентов по критерию адаптивного штрафного порога имеет вид [10, 11]:

dl, dl > Р0;

0, dI <Р0,

где Р0 = Ьл/а2, а2 - дисперсия шумовых составляющих во входном сигнале х(п), Ь - коэффициент пропорциональности, Ь = ^121п ( N) , N - число периодов анализа.

Выходные сигналы с выходов нейронной сети в виде выходных аппроксимирующих коэффициентов С*г (где г - номер выхода нейронной сети, в соответствии с числом периодов прогноза г е [1,10]) также поступает на г-й блок восстановления выходного временного ряда прогноза. На выходе г-х блоков восстановления формируется выходные сигналы прогноза в виде временного ряда s(n+г) [10, 14, 15, 19]:

s(n + r ) = — p

Xx(n)Wl(2t -n) + • (2t -n) + XCm

(15)

где r - число периодов времени прогноза, в соответствии с (14) время прогноза определяется выражением ирогн. =rT.

Также в структурной схеме на рис. 2 представлен блок вейвлет-обработки временного ряда x(n) и блок восстановления выходного сигнала s(n) с пониженной погрешностью, в соответствии с выражением восстановления [10, 19, 20, 22]:

| __^^ _m_ _

s(n) = - £ФМ2Г-n) + XXC.VV,(2 t-n) + 1 Cm . (16)

p L n n i=2 n _

В полученных выражениях (15) и (16), благодаря предварительной вейвлет-обработке в W-фильтре, существенно ослабляются флуктуации входного сигнала x(n) за счет формирования аппроксимирующих коэффициентов m-го уровня Cm и подавляются компоненты шума, имеющие место во входном сигнале, путем обработки детализирующих коэффициентов алгоритмом сглаживания, что заметно снижает погрешность представления информации.

Таким образом, полученный очищенный от помех обработанный выходной временной ряд в реальном времени и обработанный выходной временной ряд прогноза представляют информацию в устройствах отображения и в системах принятий решений с более низкой погрешностью.

Разработанный алгоритм нейросетевого прогнозирования изменения параметров временного ряда может быть реализован в различных программных средах, таких как: MatLab Neural Network Toolbox, PyBrain и NeurophStudio.

Ошибки прогноза зависят от того, насколько размеры входного слоя ИНС соответствуют характерной величине интервала временного ряда, по которому можно восстановить его динамику, что подтверждается графиками на рис. 3 [2].

При моделировании, результаты которого приведены рис. 3, в качестве функции активации выбран гиперболический тангенс.

Systems of Control, Communication and Security

sccs.intelgr.com

0 20 40 60 80

Значения дискретного времени в виде пТ

б)

Рис. 3. Результаты и ошибки прогноза при различных размерах сенсорного слоя

Из рис. 3 видно, что увеличение числа нейронов в первом (сенсорном) слое способствует увеличению горизонта и точности прогноза. Если для сети с 64-мя сенсорными нейронами (110 нейронов внутренний слой и 10 нейронов выходной слой) горизонт предсказания может быть принят равным в пределах 10Т - 20Т (рис. 3 а, б), то в случае 200 сенсорных нейронов (110 нейронов внутренний слой и 10 нейронов выходной слой) (рис. 3 в, г), горизонт увеличивается до 100 Т. Можно также отметить, что погрешность прогнозирования зависит не только от числа сенсорных нейронов, но и от длительности движущегося временного окна или периода исследования сигнала и числа выборок сигнала на этом периоде.

Выводы

Существующие методы прогнозирования временных рядов и непрерывных процессов характеризуются большим разнообразием, что, в свою очередь, обусловлено большим разнообразием задач. Так, велико число работ по методам прогноза, основанным на идеях декомпозиции процессов по

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

эмпирическим модам (метод EMD) [5, 21]. Однако данный подход применим, как правило, только при условии, что наблюдаемый процесс представлен небольшим числом составляющих.

Метод параметрической регрессии, используемый в ряде задач аппроксимации, обладает недостатком, заключающимся в возможности возникновения неконтролируемой ошибки на интервале прогнозирования, особенно при высоком порядке прогнозирующей функции.

Особый интерес в плане прогнозирования связан с представлением временных рядов моделями авторегрессии и нейронными сетями. В работе показано, что в рамках модели авторегрессии прогноз на несколько шагов вперед зависит от коэффициентов модели нелинейным образом. При этом задачу прогноза, состоящую в нахождении коэффициентов модели посредством минимизации целевой функции, можно решить итерационным методом. Поэтому интерес представляют рекуррентные и другие сети с обратными связями. В данной работе рассмотрены искусственные нейронные сети, в частности рассмотрены нейронные сети на персептроне прямого распространения. В работе получены уравнения функционирования и обучения искусственной нейронной сети в матричной форме [10, 18], получен алгоритм обратной подстановки, с помощью которого можно увеличить глубину прогноза. Результат моделирования и применения разработанного алгоритма заключается в повышении эффективности прогнозирования изменений значений функций по показателям длительности и погрешности получения прогноза, а также быстродействия, адаптивности системы при изменяющихся условиях. Дополнительным эффектом является также возможность гибкого изменения архитектуры нейронной сети в случае изменения требований на длительность прогноза.

Предложенная структурная схема реализации нейросетевого прогнозирования изменений параметров временных рядов с предварительной вейвлет-обработкой обеспечивает возможность более эффективного мониторинга исследуемых процессов в информационно-управляющих системах.

Литература

1. Кравцов Ю. Н. Случайность, детерминированность, предсказуемость // Успехи физических наук. 1989. Т. 158. № 1. С. 93-122.

2. Ермолаев В. А. О методах прогнозирования временных рядов и непрерывных процессов // Радиотехнические и телекоммуникационные системы. 2016. № 2. С. 52-63.

3. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. - М.: Мир, 1974. - 408 с.

4. Маевский В. В., Харин Ю. С. Робастность регрессионного прогнозирования при наличии функциональных искажений модели // Автоматика и телемеханика. 2012. № 11. С. 118-137.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

5. Huang N. E., Shen Z., Long S. R., Wu M. C., Shin H. H., Zheng Q., Yen N. C., Tung C. C., Liu H. H. The empirical mode decomposition and the Hilbert

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

spectrum for nonlinear and non-stationary time series analysis // Proc.R.Soc.Lond.A. 1998. Vol. 454. P. 903-995.

6. Кропотов Ю. А., Ермолаев В. А. Об адаптивном алгоритме наименьших квадратов в задачах компенсации акустического эха // Радиотехнические и телекоммуникационные системы. 2012. № 2 (6). С. 40-44.

7. Дремин И. М., Иванов О. В., Нечитайло В. А. Вейвлеты и их использование // Успехи физических наук. 2001. Т. 17. № 5. C. 465-501.

8. Проскуряков А. Ю. Модель прогнозирования временных рядов на трехслойном персептроне в информационной системе мониторинга загрязняющих выбросов // Радиотехнические и телекоммуникационные системы. 2014. № 2. C. 57-63.

9. Белов А. А., Ермолаев В. А., Кропотов Ю. А., Проскуряков А. Ю. Способ нейросетевого прогнозирования изменения значений функции c ее предварительной вейвлет-обработкой и устройство его осуществления // Патент России №2600099. 2016. Бюл. № 29.

10. Белов А. А., Кропотов Ю. А., Проскуряков А. Ю. Вопросы обработки экспериментальных временных рядов в электронной системе автоматизированного контроля // Вопрос радиоэлектроники. 2010. Т. 1. № 1. С. 95-101.

11. Кропотов Ю. А., Быков А. А Алгоритм подавления акустических шумов и сосредоточенных помех с формантным распределением полос режекции // Вопросы радиоэлектроники. 2010. Т. 1. № 1. С. 60-65.

12. Быков А. А., Кропотов Ю. А. Модель закона распределения вероятности амплитуд сигналов в базисе экспоненциальных функций системы // Проектирование и технология электронных средств. 2007. № 2. С. 30-34.

13. Кропотов Ю. А. Алгоритм определения параметров экспоненциальной аппроксимации закона распределения вероятности амплитуд речевого сигнала // Радиотехника. 2007. № 6. С. 44-47.

14. Белов А. А., Кропотов Ю. А., Проскуряков А. Ю. Автоматизированный анализ и обработка временных рядов данных о загрязняющих выбросах в системе экологического контроля // Информационные системы и технологии. 2010. № 6 (62). С. 28-35.

15. Белов А. А., Кропотов Ю. А. Исследование вопросов сжатия и поиска картографической информации методом вейвлет-преобразований в экологической геоинформационной системе // Вестник компьютерных и информационных технологий. 2008. № 12. С. 9-14.

16. Кропотов Ю. А. Алгоритм вычисления сигнала управления каналом режекции многоканальной системы передачи акустических сигналов // Вопросы радиоэлектроники. 2010. Т. 1. № 1. С. 57-60.

17. Колпаков А. А., Кропотов Ю. А. Аспекты оценки увеличения производительности вычислений при распараллеливании процессоров вычислительных систем // Методы и устройства передачи и обработки информации. 2011. № 13. С. 124-127.

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

18. Ермолаев В. А., Кропотов Ю. А. Оценивание параметризованной аппроксимации плотности вероятностей методом барьерных функций // Радиотехнические и телекоммуникационные системы. 2013. № 3 (11). С. 37-43.

19. Кропотов Ю. А., Белов А. А., Проскуряков А. Ю., Колпаков А. А. Методы проектирования телекоммуникационных информационно-управляющих систем аудиообмена в сложной помеховой обстановке//Системы управления, связи и безопасности. 2015. № 2. С. 165-183.

20. Ермолаев В. А., Кропотов Ю. А. Метод барьерных функций в задаче оценивания параметризованной аппроксимации плотности вероятностей с ограничениями // Известия высших учебных заведений. Физика. 2013. Т. 56. № 9-2. С. 209-211.

21. Ermolaev V. A., Eremenko V. T., Karasev O. E., Kropotov Y. A. Identification of models for discrete linear systems with variable, slowly varying parameters // Journal of Communications Technology and Electronics. 2010. Vol. 55, № 1. P. 57-62.

22. Kropotov Y. A., Ermolaev V. A. Algorithms for processing acoustic signals in telecommunication systems by local parametric methods of analysis // Proceedings International Siberian Conference on Control and Communications (SIBC0N-2015). - Omsk, 2015. - P. 345-348.

References

1. Kravcov Y. N. Sluchajnost', determinirovannost', predskazuemost' [Randomness, determinism, predictability]. Uspehi fizicheskih nauk, 1989, vol. 158, no. 1, pp. 93-122 (in Russian).

2. Ermolaev V. A. O metodah prognozirovanija vremennyh rjadov i nepreryvnyh processov [About methods of forecasting time series and continuous processes]. Radio and telecommunication systems, 2016, no. 2, pp. 52-63 (in Russian).

3. Box D., Jenkins G. Analiz vremennyh rjadov. Prognoz i upravlenie. [Analysis of time series. Forecast and management]. Moscow, Mir Publ., 1974. 408 p (in Russian).

4. Maevskii V. V., Kharin Y. S. Robastnost' regressionnogo prognozirovanija pri nalichii funkcional'nyh iskazhenij modeli [Robustness of regression prediction in the presence of functional distortions of the model]. A&T. 2012, no. 11, pp. 118-137 (in Russian).

5. Huang N. E., Shen Z., Long S. R., Wu M. C., Shin H. H., Zheng Q., Yen N. C., Tung C. C., Liu H. H. The empirical mode decomposition and the Hilbert spectrum for nonlinear and non-stationary time series analysis. Proc. R. Soc. Lond. A. London, 1998, vol. 454, pp. 903-995.

6. Kropotov Y. A., Ermolaev V. A. Ob adaptivnom algoritme naimen'shih kvadratov v zadachah kompensacii akusticheskogo jeha [About adaptive least squares algorithm in problems of acoustic echo compensation]. Radio and telecommunication systems, 2012, no. 2, pp. 40-44 (in Russian).

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

7. Dremin I. M., Ivanov O. V., Nechitailo V. A. Vejvlety i ih ispol'zovanie [Wavelets and their use]. Uspehi fizicheskih nauk, 2001, vol. 17, no. 5, pp. 465-501 (in Russian).

8. Proskuryakov A. Y. Model' prognozirovanija vremennyh rjadov na trehslojnom perseptrone v informacionnoj sisteme monitoringa zagrjaznjajushhih vybrosov [The model of forecasting time series on a three-layer perceptron in the information system for monitoring polluting emissions]. Radio and telecommunication systems, 2014, no. 2, pp. 57-63 (in Russian).

9. Belov A. A., Ermolaev V. A., Kropotov Y. A., Proskuryakov A. Y. Sposob nejrosetevogo prognozirovanija izmenenija znachenij funkcii c predvaritel'noj vejvlet-obrabotkoj i ustrojstvo ego osushhestvlenija [Neural network prediction method for changing the values of a function with its preliminary wavelet processing and the device for its implementation]. Patent Russia, no. 2600099, 2015. (in Russian).

10. Belov A. A., Kropotov Y. A., Proskuryakov A. Y. Voprosy obrabotki jeksperimental'nyh vremennyh rjadov v jelektronnoj sisteme avtomatizirovannogo kontrolja [Processing of experimental time series in the electronic system of automated control]. Questions of radio-electronics, 2010, vol. 1, no. 1, pp. 95-101 (in Russian).

11. Kropotov Y. A., Bykov A. A Algoritm podavlenija akusticheskih shumov i sosredotochennyh pomeh s formantnym raspredeleniem polos rezhekcii [Algorithm for suppressing acoustic noise and concentrated noise with a formant distribution of the rejection bands]. Questions of radio-electronics, 2010, vol. 1, no. 1, pp. 60-65 (in Russian).

12. Bykov A. A., Kropotov Y. A. Model' zakona raspredelenija verojatnosti amplitud signalov v bazise jeksponencial'nyh funkcij sistemy [Algorithm for determining the parameters of the exponential approximation of the probability distribution law for the amplitudes of a speech signal]. Design and technology of electronic means, 2007, no. 2, pp. 30-34 (in Russian).

13. Kropotov Y. A. Algoritm opredelenija parametrov jeksponencial'noj approksimacii zakona raspredelenija verojatnosti amplitud rechevogo signala [Algorithm for determining the parameters of the exponential approximation of the probability distribution law for the amplitudes of a speech signal]. Radiotehnika, 2007, no. 6, pp. 44-47 (in Russian).

14. Belov A. A., Kropotov Y. A., Proskuryakov A. Y. Avtomatizirovannyj analiz i obrabotka vremennyh rjadov dannyh o zagrjaznjajushhih vybrosah v sisteme jekologicheskogo kontrolja [Automated analysis and processing of time series of data on polluting emissions in the environmental control system]. Information systems and technologies, 2010, no. 6, pp. 28-35 (in Russian).

15. Belov A. A., Kropotov Y. A. Issledovanie voprosov szhatija i poiska kartograficheskoj informacii metodom vejvlet-preobrazovanij v jekologicheskoj geoinformacionnoj sisteme [Research of the problems of compression and searching for cartographic information by the method of wavelet transformations in the ecological geoinformation system]. Herald of computer and information technologies, 2008, no. 12, pp. 9-14 (in Russian).

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

16. Kropotov Y. A. Algoritm vychislenija signala upravlenija kanalom rezhekcii mnogokanal'noj sistemy peredachi akusticheskih signalov [Algorithm for calculating the channel control signal for rejection of a multichannel acoustic transmission system]. Questions of radio-electronics, 2010, vol. 1, no. 1, pp. 57-60 (in Russian).

17. Kolpakov A. A., Kropotov Y. A. Aspekty ocenki uvelichenija proizvoditel'nosti vychislenij pri rasparallelivanii processorov vychislitel'nyh system [Aspects of estimating the increase in computing performance when parallelizing processors of computing systems]. Methods and devices of information transmission and processing, 2011, no. 13, pp. 124-127 (in Russian).

18. Ermolaev V. A., Kropotov Y. A. Ocenivanie parametrizovannoj approksimacii plotnosti verojatnostej metodom bar'ernyh funkcij [Estimation of the parametrized approximation of the probability density by the method of barrier functions]. Radio and telecommunication systems, 2013, no. 3, pp. 37-43 (in Russian).

19. Kropotov Y. A., Belov A. A., Proskuryakov A. Y., Kolpakov A. A. Methods of designing telecommunication information and control audio exchange systems in difficult noise conditions. Systems of Control, Communication and Security, 2015, no. 2, pp. 165-183 (in Russian).

20. Ermolaev V. A., Kropotov Y. A. Metod bar'ernyh funkcij v zadache ocenivanija parametrizovannoj approksimacii plotnosti verojatnostej s ogranichenijami [The method of barrier function in the problem of estimating the probability density approximation parameterized with restrictions]. Izvestija vysshih uchebnyh zavedenij. FIZIKA, 2013, Part 56, no. 9/2, pp. 209-211 (in Russian).

21. Ermolaev V. A., Eremenko V. T., Karasev O. E., Kropotov Y. A. Identifikacija modelej diskretnyh linejnyh sistem s peremennymi, medlenno izmenjajushhimisja parametrami [Identification of models for discrete linear systems with variable, slowly varying parameters]. Journal of Communications Technology and Electronics, 2010, vol. 55, no. 1, pp. 57-62.

22. Kropotov Y. A., Ermolaev V. A. Algoritmy obrabotki akusticheskih signalov v telekommunikacionnyh sistemah metodami lokal'nogo parametricheskogo analiza [Algorithms for processing acoustic signals in telecommunication systems by local parametric methods of analysis]. Trudy mezhdunarodnoj sibirskoj konferencii po upravleniju i svjazi SIBCON-2015 [Proceedings International Siberian Conference on Control and Communications (SIBC0N-2015)]. Omsk, Omsk State Technical University, 2015, pp. 345-348.

Статья поступила 10 июля 2017 г.

Информация об авторах

Кропотов Юрий Анатольевич - доктор технических наук, профессор, заведующий кафедрой «Электроники и вычислительной техники». Муромский институт (филиал) «Владимирского государственного университета имени Александра Григорьевича и Николая Григорьевич Столетовых». Область

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

научных интересов: телекоммуникационные и информационно-управляющие системы. Тел.: +7(49234)772-72. E-mail: kaf-eivt@yandex.ru

Белов Алексей Анатольевич - кандидат технических наук, доцент, доцент кафедры «Электроники и вычислительной техники». Муромский институт (филиал) «Владимирского государственного университета имени Александра Григорьевича и Николая Григорьевич Столетовых». Область научных интересов: телекоммуникационные системы мониторинга, обработка данных, методы вейвлет-преобразования. Тел.: +7(49234)772-72. E-mail: aleks.murom@mail.ru

Проскуряков Александр Юрьевич - кандидат технических наук, доцент кафедры «Электроники и вычислительной техники». Муромский институт (филиал) «Владимирского государственного университета имени Александра Григорьевича и Николая Григорьевич Столетовых». Область научных интересов: прогнозирование данных, нейронные сети, обработка и предсказание данных в экономических системах. Тел.: +7(49234)772-72. E-mail: kaf-eivt@yandex.ru

Адрес: Россия, 602264, г. Муром, ул. Орловская, д. 23.

Forecasting changes in time series parameters in digital information management systems

Y. A. Kropotov, A. A. Belov, A. Y. Proskuryakov

Statement of the problem. A task of predicting change in parameters of time series is relevant for monitoring processes under investigation in digital information management systems. The task arises in questions research of increasing the forecasting horizon and minimizing forecast error. Object of research are parametric prediction methods based on the representation of the time series by a generalized polynomial in systems of linearly independent functions, the forecasting algorithms based on autoregression models on models of time series reproducing dynamics in the form of artificial neural networks (ANN) are also the object of research. The purpose of the work is development of algorithms for control, functioning and training of an artificial neural network in a matrix form and obtaining an algorithm for return substitution, with help of which it is possible to obtain an increase in the depth of the forecast. Used methods. In the work used methods of empirical processes decomposition, methods of parametric forecasting. Also in the work used method for finding forecast estimates by minimizing loss function-the square for the norm of the deviation estimates from the observed values of the time series. In the research used generalization method of the prediction algorithm using a linear model represented by functional series or ANN. The scientific novelty of the work consists in solving the prediction task, consisting in finding the model coefficients by iterative method applying recurrent networks with feedbacks for minimizing the objective function. Results. The result of application of the developed algorithm is increase efficiency of predicting change in the parameters of time series by criteria of minimized duration and error in obtaining forecast. Practical value: the proposed structural scheme for implementing neural network forecasting of changes in time series parameters with preliminary wavelet processing provides the opportunity for more effective monitoring of the studied processes, for example, in digital information management systems.

Key words: forecasting; parametric prediction; autoregression; functional series; neural network; time series; three-layer perceptron of direct propagation.

Системы управления,связи и безопасности №2. 2017

Systems of Control, Communication and Security sccs.intelgr.com

Information about Authors

Yurij Anatolievich Kropotov - Dr. of Engineering Sciences, Full Professor. Head of the Department «Electronics and Computer Science». Murom institute (branch) of the «Vladimir State University named after Alexander and Nickolay Stoletovs». Field of research: telecommunication information and control systems. Ph.: +7(49234)77272. E-mail: kaf-eivt@yandex.ru

Aleksey Anatolievich Belov - Ph.D. of Engineering Sciences, associate professor of chair «Electronics and Computer Science». Murom institute (branch) of the «Vladimir State University named after Alexander and Nickolay Stoletovs». Field of research: telecommunication system monitoring, data processing, wavelet transform techniques. Ph.: +7(49234)77272. E-mail: aleks.murom@mail.ru

Aleksandr Yurievich Proskuryakov - Ph.D. of Engineering Sciences, associate professor of chair «Electronics and Computer Science». Murom institute (branch) of the «Vladimir State University named after Alexander and Nickolay Stoletovs». Field of research: data prediction, neural networks, data processing and prediction in economic systems. Ph.: +7(49234)77272. E-mail: kaf-eivt@yandex.ru Address: Russia, 602264, Murom, st. Orlovskaya, h. 23.

i Надоели баннеры? Вы всегда можете отключить рекламу.