CC BY
49
УДК 681.511.4
О МНОГОЭКСТРЕМАЛЬНОСТИ В ЗАДАЧАХ ОЦЕНИВАНИЯ СОСТОЯНИЯ СИСТЕМ ДЕТЕРМИНИРОВАННОГО ХАОСА
С.М. Елсаков, В.И. Ширяев
ON МULTIEXTREMALITY IN THE ESTIMATION PROBLEMS OF DETERMINISTIC CHAOS SYSTEMS
S.M. Elsakov, V.l. Shiryaev
Рассматриваются нелинейные динамические системы, привлекаемые либо для описания протекания некоторых процессов, либо для описания остатков при использовании линейных моделей. Для этих систем формулируется задача оценивания состояния (а также параметрической идентификации) на основе метода максимального правдоподобия. Для решения поставленной задачи предлагается использовать однородные алгоритмы глобальной оптимизации. Приводятся основные теоремы о линейном виде критерия для однородных алгоритмов глобальной оптимизации, о достаточном условии сходимости однородного алгоритма глобальной оптимизации. Приводятся результаты оценивания состояния для одномерной динамической нелинейной системы.
Ключевые слова: детерминированный хаос, нелинейная система, глобальная оптимизация.
The nonlinear dynamic systems used for the modeling of some processes or remainders when using linear models are considered. The problem of state estimation (as well as parametric identification) on the basis of maximum likelihood method is formulated. To solve the problem it is proposed to use homogeneous algorithms of global optimization. The main theorems about the linear type of criterion for homogeneous algorithms of global optimization and about the sufficient condition of convergence of homogeneous algorithm of global optimization are given. The results of state estimation for one-dimensional dynamic nonlinear system are given.
Keywords: deterministic chaos, nonlinear system, global optimization.
Задачи прогнозирования различных процессов, как в технике, так и в экономике, и в социальной сфере могут решаться с применением методов теории автоматического управления. Однако существенное увеличение скорости протекания всех процессов, а также высокие требования к точности прогнозов вынуждают отказываться от использования линейных моделей и переходить к нелинейным моделям, поскольку многие процессы (рис. 1,2) имеют хаотический характер [1,2, 13,16-18, 19].
1. Системы детерминированного хаоса
Сейчас все более широкое применение для описания процессов в сложных системах находит теория детерминированного хаоса. Эта теория применяется и для описания процессов на финансовом рынке [1,2] и на рынке акций [16] и в теории связи [17, 18] и т.д. Системы детерминированного хаоса задаются в виде нелинейной динамической системы:
Елсаков Сергей Михайлович - аспирант кафедры прикладной математики ЮУрГУ; [email protected].
Ширяев Владимир Иванович - д.т.н., профессор, заведующий кафедрой прикладной математики ЮУрГУ; [email protected].
xk+i =F(xk) + £>k’> (1) Ум = G(xk+i) +Ч*+1. где хк 6 Rn - вектор состояния системы, ук 6 RM
- вектор наблюдения, Ь,к е RN - шумы при движении системы, цк е RM - помехи в канале наблюдения. Эти системы могут являться описаниями процессов протекающих в самой системе, т.е. описывать хаотичные системы. А также могут применяться для описания систем, на которые действуют хаотичные возмущения, хотя сам объект описывается линейными уравнениями:
хк+1 = А*к + ^>к > £2)
Ук+1 = Схк+1 + Ак+\ > где х'к е Rn - вектор состояния системы, у'к е RM - вектор наблюдения, £,к е RN - шумы
Elsakov Sergey Mikhailovich - post-graduate student of applied mathematics department of SUSU; [email protected].
Shiryaev Vladimir Ivanovich - PhD, professor, head of applied mathematics department of SUSU; [email protected].
при движении системы, г(к е Ям - помехи в канале наблюдения.
Рис. 2. Изменение курса евро к доллару
В этом случае вектор состояния можно расширить, включив в него хаотические переменные, тем самым, снизив уровни ошибок. Использование уравнений (1), (2) для описания процессов протекающих в некоторой системе возможно, только если ошибки , г\к - являются белым шумом. Имея экспериментальные данные ук, есть возможность воспользоваться арсеналом [5] методов идентификации, оценивания состояния линейных систем. Однако нередко на практике оказывается, что ошибки ^к , т\к представляют собой не белый шум. В этом случае применение вышеназванных методов является некорректным, а результаты недостоверными [9, 11, 12-14, 15].
При линеаризации нелинейной модели (1) в остатки кроме ошибок вносится ошибка модели й,к, которая имеет детерминированную составляющую. В результате шумы также перестают быть белыми. Кроме того, для линейных систем характерен принцип суперпозиции, в результате чего, двукратное применение линейной модели к остаткам линейной модели лишено смысла, для нелинейных моделей принцип суперпозиции не выполняется, что позволяет применять нелиней-
ную модель несколько раз. Примеры удачного применения такого подхода можно найти в [4].
Применение подхода, основанного на позиции крайнего пессимизма [11, 12, 14] - минимаксного подхода, когда шумы представляются ограниченными, приводит к очень затрубленным результатам.
2. Постановка задачи оценивания состояния
Рассматривается задача идентификации (оценивания состояния) нелинейной динамической системы описываемой уравнениями:
ч+\ = *■(**)+5*;
Укч =°(хш) + Пк+и где хк е ^ - вектор состояния системы, ук € Ям
- вектор наблюдения, е /?^ - нормально распределенные с матрицей ковариаций Q шумы при движении системы, г|* е Ям - нормально распределенные с матрицей ковариаций Я помехи в канале наблюдения.
В общем случае, неизвестные параметры этой системы могут быть включены в вектор состояния.
2.1. Рекуррентный алгоритм оценивания состояния с поиском глобального минимума
Рассмотрим применение метода максимального правдоподобия к системе (3). Пусть известны оценка хрк вектора состояния хк на к шаге, и выполнено измерения ук. Пусть ук реализовавшиеся значение вектора состояния хк , а \ук - реализовавшиеся значение вектора ошибки ^к . Можно записать логарифмическую функцию правдоподобия
Иук^к) = {ук -хк)тЦ~к\ук-хк) +
+(С(Р(х’к) + м’к)-ук+1)т]1-1х
х(С(Г(Х1 ) + х2)-ук+1) + 4 0Г^к, (4)
где Ок - матрица ковариаций вектора хрк . Оценкой вектора хк+1 будет вектор хрк+х =/г(у£) + И'£,
1(ук’™к) = аЬэ ттХ(^,^), (5)
с матрицей ковариации £>*+1 =-^д2Ь(х)!дх1дх^ .
В случае, если функции /'’(•) и <?(•) линейные, то задача (5) приводит к соотношениям фильтра Калмана для линейной системы. В случае нелинейности функции ^(-) или (?(■) задача (5) переходит в класс многоэкстремальных задач оптимизации. В этом случае распределение оценки хрк+1 будет отличным от нормального распределения, и матрица ковариации будет носить оценочный характер. Применение этого алгоритма будет на каждой итерации связано с потерей части
информации о распределении оценки хрк+1 из-за аппроксимации ее нормальным распределением.
2.2.Рекуррентный алгоритм оценивания состояния с поиском всех локальных минимумов
Здесь при минимизации (4) с целью увеличения хранимой о функции распределения хрк+1 информации предлагается сохранять не только значение глобального минимума, но и значения всех локальных минимумов, т.е. фактически решается нелинейное уравнение
&аАЦук,м>к) = Ъ. (6)
Каждому найденному локальному минимуму ставится в соответствие своя оценка
хРк+1 = Р(ук+\)+ ™к+1 > которая соответствует точке, в которой достигается локальный минимум функции (4). Матрица ковариаций в каждой точке выбирается, как и в предыдущем алгоритме. Кроме того каждой оценке ставится в соответствие вероятность, показывающая, что истинное значение оценивается именно этой оценкой. Вероятности выбираются на основе значения локальных минимумов, таким образом, чтобы в сумме они давали единицу. А минимальное значение локального минимума соответствовало максимальной вероятности.
2Д Алгоритм оценивания состояния на основе нескольких последовательных измерений
В двух рассмотренных рекуррентных алгоритмах при переходе от шага к шагу происходит потеря информации о плотности распределения оценки. Эта потеря связана с тем, что плотность распределения не получается хранить в параметризованном виде, а требуется сохранять в виде функции. Чтобы избежать передачи плотности распределения с шага на шаг можно одновременно обрабатывать данные нескольких измерений. Для этого рассмотрим систему (3) на к шаге и будем совместно обрабатывать р измерений. Запишем логарифмическую функцию правдоподобия
^(хрш,хрк>...,хрк_р+2) = к+1
= £ №)-л)7,л"1№)-л)+
1=к-р+2
+ I №+1)-^)гб_1№(+1)-^). (7)
1=к-р+2
Запишем необходимое условие максимума в виде (8).
Предполагая, что дР(х,)/дх*0, из первого уравнения можно выразить переменную хк_р+3, из
следующих уравнений аналогично можно выразить остальные переменные, кроме переменной хк_р+2 • Затем можно подставить выраженные значения в функцию (7) - получится функция с количеством переменных равным количеству перемен-
ных состояния. Решая задачу глобальной оптимизации для этой функции можно определить наилучшую оценку по нескольким последним измерениям. Альтернативным путем решения указанной задачи может быть решения последнего уравнения из системы (8) с учетом выполненных подстановок. Матрица ковариации для полученной оценки может быть получена описанным ранее способом.
Я-\0(хк_р+2)-ук.р+2У-^[-к^±21 +
дх
+Є \Г(хк-Р+2)-хк-Р+ъ)
дР( хк_р+2)
дх
= 0;
(8)
, дв{х.)
. дР(х)
+Є_1№,)-*,+1)-^+
+£Г‘ (*, ~ ^(*,-1)) = °> ] = к - Р+з ...к;
Г\0(хк+1)-уш)—1^+ +£Г1(%+1-Л>*)) = о.
3. Алгоритмы решения задач глобальной оптимизации
Рассматривая различные постановки задачи оценивания состояния системы детерминированного хаоса, в плане численных методов постоянно возникает задача многоэкстремальной (глобальной) оптимизации. Кроме того, среди трех постановок задач все задачи и рекуррентные и не рекуррентные свелись к задаче глобальной оптимизации одинаковой размерности. Важным этапом является выбор адекватного алгоритма для решения задачи многоэкстремальной оптимизации. Задачи глобальной оптимизации широко встречаются на практике [3, 6-8]. Среди алгоритмов глобальной оптимизации традиционно выделяют [8] детерминированные и стохастические алгоритмы. И те и другие алгоритмы организуют процесс порождения точек допустимого множества, в которых необходимого провести вычисления целевой функции в зависимости от проведенных вычислений. Одно такое вычисление обычно называют испытанием. Детерминированные алгоритмы организуют процесс порождения этих точек детерминированным образом, а стохастические используют датчик псевдослучайных чисел.
Однородным называют такой алгоритм глобальной оптимизации, который для двух функций различающихся только на константу порождает одинаковые последовательности точек испытаний [7].
Для того, чтобы алгоритм учитывал особенности целевой функции, можно использовать модели целевой функций, которые могут быть представлены в функциональном виде, а именно при проведении к испытаний определены две функции: тк(х) и sk(х) к которым будем предъявлять следующие требования:
• mk(x,) = f(x,),i = \,к\
• sk{Xj) = 0, / = I, к;
• sk(x)>0,x*x,,i = l,k;
• mk{x) и sk(x) - липшицевы с константой Липшица Lm, к = 1,... и Ls, к = 1,... соответственно.
Сам алгоритм глобальной оптимизации задается в виде
**+i = absmaxP(st(jc), тк(х)).
хеХ
Для однородных алгоритмов доказаны теоремы:
Теорема 1. Если критерий P(sk(x),mk(x)) дважды непрерывно дифференцируемый и для функций тк(х) и sk(x) выполняются дополнительные условия:
• тк (дс) = тк (х) + С (/0) = g(x)+C);
• *[(х) = 4(х) (f(x) = g(x) + C),
то для однородного алгоритма критерий P(sk(x), тк (х)) может быть представлен в виде
P(sk(x), тк(х)) = Cmk(x) + p(sk(x)), где С = const и p(sk (х)) - некоторая функция.
Теорема 2. Для того чтобы множество предельных точек порождаемых однородным алгоритмом с критерием P(sk(x),mk(х)) совпадало с множеством глобальных минимумов липшицевой функции f(x) с константой Липшица L на компакте X достаточно, чтобы
- max (P(sk (х), тк (х))) < min max (/(jc, ) -К ||х - х, ||),
х&Х хлХ i—\tk
где К>L.
Теорема 3. Если для функции sk(x) выполняется условие
sk(x) > mm||x-x,||,
1=1,к
то множество предельных точек порождаемых линейным алгоритмом с критерием Ksk(х)-тк(х), где К >L + Lm, будет совпадать с множеством глобальных минимумов липшицевой функции /(х) с константой Липшица L.
В рамках однородных алгоритмов могут быть представлены некоторые существующие алгоритмы, а также были построены новые алгоритмы на основе триангуляции Делоне, реберно-симплекс-ных разверток и т.д. [7].
Для решения поставленных задач можно привлекать однородные алгоритмы в зависимости от размерности решаемой задачи.
4. Пример
Рассмотрим систему [13], задаваемую одномерным отображением
1хк+1=\-ох2к+^к; (9)
ІЛ+1 = хк+\ +11*> где - случайная величина с дисперсией Л, а Г)^ — с дисперсией 0 .
Для сравнения работы рассматривалось два алгоритма оценивания состояния: фильтр Калмана примененный к линеаризованной модели и не рекуррентный алгоритм с обработкой трех последних измерений. Параметр а был выбран а -1,85 . Интенсивности шумов изменялись. Для каждой интенсивности шумов выбиралось случайное начальное значение х0. Начальное приближение для фильтра Калмана также выбиралось случайно. На рис. 3 изображен пример ряда получаемого с помощью уравнения (9), Л = б = 0,1. На рис. 4, представлена зависимость ошибки оценивания состояния при различных интенсивностях шумов.
Рис. 3. Пример хаотического ряда
Error SKO
Рис. 4. Зависимость точности оценивания от уровня помех
Совместная обработка показала лучший результат при использовании малых шумов, когда ошибки при линеаризации модели для применения фильтра Калмана велики. В этом случае с одной стороны шумы подаваемые на фильтр Калмана
являются не белыми, а с другой присутствует неточность модели.
При больших шумах эффективность алгоритмов практически одинакова. Однако с увеличением размерности и, как следствие, усложнением нелинейной модели, увеличивается порог шумов до которых алгоритм совместного распределения является лучшим.
Выводы
Использование моделей детерминированного хаоса является необходимостью при моделировании сложных объектов, а также при моделировании остатков линейных объектов. Задача оценивания состояния системы детерминированного хаоса приводит к многоэкстремальной задаче оптимизации, которая может быть решена с использованием однородных алгоритмов глобальной оптимизации. При численном решении задачи оценивания состояния системы (9), рассмотренный алгоритм показывает лучшие результаты до некоторого (небольшого) уровня шума, а затем демонстрирует результаты схожие с результатами применения фильтра Калмана.
Литература
1. Mandelbrot, В. A Multifractal Walk Dawn Wall Street/В. Mandelbrot//Scientific American. —1999.
2. Peters, E. Fractal Market Analysis. Applying Chaos Theory to Investment & Economics / E. Peters. -New York: John Wiley & Sons, 1994.
3. Антонов, М. О. Нахождение оптимального расположения радиомаяков в разностно-дально-мерной системе посадки летательного аппарата / М. О. Антонов, С. М. Елсаков, В. И. Ширяев // Авиакосмическое приборостроение. — 2005. — №11.-С. 41-45.
4. Афанасьева, К. Е. Идентификация состояния и прогнозирование регионального рынка / К. Е. Афанасьева, В. И. Ширяев // Проблемы управления. -2007. -№3.
5. Бек, В. В. Интегрированные системы терминального управления / В. В. Бек, Ю. С. Вишняков,
A. Р. Махлин. -М.: Наука, 1989. -224с.
6.Гергель, В. П. Современные методы принятия оптимальных решений / В. П. Гергель и др.
II. Новгород: Изд-во ННГУ, 2002. - 189 с.
7. Елсаков, С. М. Об однородных алгоритмах глобальной оптимизации / С. М. Елсаков,
B. И. Ширяев // Информационный бюллетень ассоциации математического программирования: материалы 13-й Всероссийской конференции
«Математическое программирование и приложения», Екатеринбург, 26 февраля - 2 марта 2007 г. -2007.-№ 11.-С. 37-38.
8.Жиглявский, А. А. Методы поиска глобального экстремума / А. А. Жигляевский, А. Г. Жилин-скас. - М.: Наука, 1991. - 248 с.
9.Калман Р.Е. Идентификация систем с шумами //Успехи математических наук, 1985.
Т.40, вып. 4(244).-С. 27-41.
10. Красовский, H. Н. Управление и стабилизация при недостатке информации / H. Н. Красовский // Изв. РАН. Техническая кибернетика. — 1993.-Nsi.-С. 148-151.
П.Кунцевич, В. М. Гарантированное оценивание фазового состояния и параметров линейных динамических систем / В. М. Кунцевич // Проблемы управления и информатики. - 2005. - Ne 5. -
С. 18-25.
12. Куржанский, А. Б. Идентификация нелинейных процессов - гарантированные оценки /
A. Б. Куржанский, В. Д. Фурасов // Автоматика и телемеханика. -1999. -Ns 6.- С. 70-87.
13. Смирнов, Д. А. Метод оценки параметров одномерных отображений по хаотическим рядам / Д. А. Смирнов, В. С. Власкин, В. И. Пономаренко //Письма в ЖТФ. - 2005. -Т. 31, № 3.
14. Черноусько, Ф. JI. Об оптимальном эллипсе и дальнем оценивании для динамических систем, подверженных неопределённым возмущениям / Ф. Л. Черноусько //Кибернетика и системный анализ. - 2002. - Ns 2.- С. 85-94.
15. Ширяев, В. И. Синтез управления линейными системами при неполной информации /
B. И. Ширяев // Изв. РАН. Техническая кибернетика. -1994. -Ns 3. - С. 229-237.
16. Никуличев, Е. В. Модели хаоса для процессов изменения курса акций / Е. В. Никуличьев // Exponenta Pro. Математика в приложениях. 2003. -Ns 1(1). - С. 49-52.
17.Leland, W. Е. On the self-similar nature of ethernet traffic (extended version) / W. E. Leland et al. // IEEE/ACM Transactions of Networking. - 1993.
Nb 2(1). - P. 1-15.
18. Осин, А. В. Влияние самоподобности речевого трафика на качество обслуживания в телекоммуникационных сетях / А. В. Осин // Автореф. дис. канд. техн. наук. - 2005.
19. Красовский, А. А. Аттракторы и синтез управления в критических режимах / А. А. Красовский // Изв. РАН. Теория и системы управления. -1996.-Ns3.-C. 5-14.
Поступила в редакцию 6 октября 2007г.
