CC BY
61
Математическое моделирование. Оптимальное управление Вестник Нижего родского университета им. Н.И. Лобачевского, 2012,№ 5 (2), с.159-171
УДК 004.93+519.6
ОГРУБЛЕННОЕ СТАТИСТИЧЕСКОЕ ИССЛЕДОВАНИЕ ПРИКЛАДНЫХ ДИНАМИЧЕСКИХ СИСТЕМ МЕТОДАМИ РАСПОЗНАВАНИЯ ОБРАЗОВ (ЧАСТЬ I)
© 2012 г.
Ю.И. Неймарк, И.В. Котельников, Л.Г. Теклина
НИИ прикладной математики и кибернетики Нижегородского госуниверситета им. Н.И. Лобачевского
neymark@pmk.unn.ru
Поступела вреОакцею 10.09.2012
Обсуждаются возможности исследования математических моделей с большим числом параметров методами распознавания образов. Представлена новая методика огрубленного статистического исследования динамических систем путем построения фазового и параметрического портретов, основанная на постановке задачи исследования как проблемы распознавания образов.
Ключевые слова: динамические системы, численные методы, распознавание образов.
Введение
Математические модели - одно из основных средств познания окружающего нас мира, описания сложных объектов, развития и совершенствования техники. А динамические системы -наиболее развитая ветвь среди математических моделей. До последнего времени методы исследования динамических систем, с одной стороны, и распознавание образов - с другой, развивались обособленно. Основные трудности изучения конкретных прикладных динамических моделей методами классической теории Пуанкаре, Биркгофа, Ляпунова, Андронова, Смейла и др. связаны, прежде всего, с «проклятием размерности» (по меткому выражению Беллма-на). Возрастание числа переменных, а тем более параметров, приводит к непреодолимым трудностям даже при использовании современных вычислительных средств. Но это именно те трудности, которые могут быть преодолены с помощью методов распознавания образов, работающих в пространствах большой размерности.
Настоящая работа имеет целью показать, что проблема исследования конкретных динамических систем может естественно и плодотворно рассматриваться как задача распознавания и что на этом пути возможно существенное продвижение в ее решении. Такая постановка задачи не противостоит существующей обширной и мощной теории динамических систем, а основывается на ней и использует ее в сочетании с новыми возможностями современной вычислительной техники. При этом речь идет не только
об использовании новых возможностей компьютеров и методов распознавания образов, но и о необходимых изменениях цели и задачи исследования конкретных динамических систем.
1. Оценка возможностей численного исследования динамических систем специалистом по прикладной математике
Теория динамических систем - одна из красивейших, обширных и богатых приложениями математических теорий. Она изучает идеальную математическую модель, в первую очередь выявляя ее возможные движения, фазовые портреты, бифуркации. Своим появлением теория динамических систем обязана А. Пуанкаре, придавшему ей геометрический характер. В ее разработке и развитии участвовало много выдающихся ученых разных стран. Однако успехи этой теории в исследовании конкретных динамических систем достаточно скромны. О трудностях исследования прикладных динамических систем академик А. А. Андронов говорил еще в 1931 году на Всесоюзном съезде по теории колебаний в пленарном докладе «Математические проблемы теории колебаний»: «Результаты Пуанкаре и Биркгофа для размерности п > 2 сугубо не эффективны. Они дают известное представление о роде и характере движений, но не содержат в себе почти никаких данных для того, чтобы исследовать какие-нибудь частные дифференциальные уравнения, с которыми нам приходится иметь дело». Конечно, с того времени математическая теория динамических систем существенно расширилась, но ее возможно-
сти в исследовании конкретных динамических систем остались скромными, а несомненные успехи связаны, прежде всего, с появлением быстродействующих персональных компьютеров и разработкой профессиональных программных средств интегрирования и анализа дифференциальных уравнений. Визуальный вывод расчетных фазовых траекторий на дисплей в виде двумерных проекций позволил неформально осмыслить и получить некоторые представления о виде фазового портрета, достаточно полные только для п = 2 и отчасти для п = 3. Так что и сегодня остаются актуальными слова А.А. Андронова на том же съезде: «...необходимо отыскать аппарат, который бы адекватно отображал процессы и который был бы, кроме того, достаточно эффективен, т.е. давал бы ответы на вопросы, выдвигаемые физикой и техникой». Разработка метода точечных отображений значительно расширила возможности численного исследования динамических систем. Но все же до настоящего времени основные успехи в изучении многомерных динамических систем обязаны новым визуальным и вычислительным возможностям современных ЭВМ. Эти возможности носят не формальный и не достоверный характер. Достоверное вычислительное изучение идеальной модели динамической системы с помощью компьютера невозможно. Невозможно в силу, по меньшей мере, двух причин:
1. Динамическая система может иметь особенности, которые обнаруживаются только при вычислении слишком большого числа фазовых траекторий, причем с очень большой точностью.
2. Вычисление экспоненциально неустойчивой фазовой траектории ограничено по времени. Это время порядка отношения логарифмов требуемой точности и точности вычислений.
Особенности, относящиеся к первой причине, разделяются на два типа: один порождается близостью системы к бифуркации, которая исчезает с изменением параметров, другой - тонкостями структуры фазового портрета, которые могут сохраняться и при значительных изменениях параметров.
Сформулированные причины делают принципиально недоступным чисто вычислительное исследование идеальной динамической системы. Иногда могут выручить теоретические знания, но лишь иногда. Это можно трактовать как возможность вычислительного изучения только огрубленной модели динамической системы, но не идеальной, т.е. изучения, которое пренебрегает особенностями, относящимися к первой
причине, и не требует слишком длительных расчетов экспоненциально неустойчивых фазовых траекторий. Это, несомненно, упрощает задачу исследования конкретных динамических систем, делает динамическую систему вычислительно изучаемой.
Для приложений такое огрубленное изучение естественно, поскольку сама модель носит приближенный характер и реальный динамический объект подвержен неконтролируемым возмущениям. Требования физики, химии, техники относятся не к идеальной математической модели, а к реальной и вычислимой. Под реальной понимается наличие одновременно как неточностей в принимаемой модели, так и все время действующих, но не учитываемых возмущений, носящих случайный характер. Измененную постановку задачи изучения конкретной динамической системы назовем огрубленным, или компьютерным, исследованием системы. Такое изменение в постановке задачи, с одной стороны, - необходимость, а с другой, подкрепляется тем, что то, что не вычислимо, не может иметь физического или технического значения. Компьютерное исследование приводит к огрубленному фазовому портрету, по отношению к которому фазовый портрет идеальной модели ничего нового, физически или технически значимого, не обнаруживает. Напомним, что в силу первой причины не обнаруживаются тонкие особенности фазового портрета, которые могут исчезнуть при произвольных малых возмущениях исследуемой динамической системы. Вторая причина и отвечающая ей в реальных системах неповторяемость вынуждают к статистической трактовке экспоненциально неустойчивых движений.
Итак, огрубление с прикладной точки зрения приемлемо. Но достоверное вычисление даже огрубленного фазового портрета для больших размерностей не реализуемо в силу известного «проклятия размерности», сформулированного Р. Беллманом. Нужно отказаться от достоверности. Это представляется недопустимым, но это так. Оказывается, что достоверность достаточно заменить статистической реализуемостью с вероятностью, близкой к единице. Такая ситуация для вычислительной математики не нова. Многомерный интеграл реально не может быть вычислен с заданной точностью, но статистическое моделирование позволяет его вычислить с требуемой точностью с вероятностью, весьма близкой к единице. Нечто аналогичное возможно и для огрубленного фазового портрета динамической системы. Согласно сказанному, построение огрубленного фазового портрета -
одна из целей компьютерного исследования.
Пусть 0к (к = 1,2,..., К) - асимптотически устойчивые состояния равновесия, Г (I = 1,2,..., Ь)
- асимптотически устойчивые периодические движения, Н5(5 = 1,2,...,5) - хаотические аттракторы. Огрубленное, или компьютерное, исследование определяется тем, что:
1. Исследование ограничено конечной областью О фазового пространства.
2. В области О выделены подобласти 0(0к),
0(Г) и 0(Н5), составляющие область О с О.
3. Для любой случайно выбираемой точки,
принадлежащей области -0(0к) (0(Г1) или
0(Н6,)), с вероятностью р(0к) < 1, но близкой к единице, выходящие из нее фазовые траектории экспоненциально приближаются к 0к (Г или Н5).
4. С увеличением объема вычислений происходит приближение О к О, а р к единице. При этом возможно появление новых областей, составляющих область О .
Осуществление построения огрубленного фазового портрета базируется на вычисляемом множестве О конечных отрезков фазовых траекторий. Для достоверного построения огрубленного фазового портрета требуется, чтобы
число таких отрезков было порядка йп, где п -размерность задачи, а й много больше единицы, оно растет экспоненциально с ростом размерности п , что приводит к осуществлению «проклятия размерности». При трактовке вычислений конечных отрезков, образующих множество О, как статистических экспериментов необходимое их число не зависит от размерности, и общий объем вычислений растет с размерностью линейно.
Для практической реализации огрубленного численного исследования, прежде всего, необходимо определить, что такое малые и большие пространственные и временные величины. Они должны быть согласованы с требуемой точностью, возможностью компьютера, особенностями изучаемой динамической системы. Далее должны быть уточнены понятия устойчивости, неустойчивости, асимптотического поведения и, что, пожалуй, самое важное, сформированы соответствующие признаки, которые по отрезкам фазовых траекторий или последовательностям таких отрезков позволят найти устойчивые состояния равновесия 0к , устойчивые периодические движения Гг и отличные от них аттракторы Н5, дать оценки быстроты прибли-
жения к ним, а также определить их области притяжения £>{Ок), -0(Гг) и Б(И,.). Некоторая оценка вероятностей р для всех аттракторов может быть сделана на основе выборки О. Однако предпочтительней дополнительный компьютерный эксперимент, который позволит дать статистические оценки величин вероятностей р. При этом такие оценки никак не зависят от размерности фазового пространства. При желании еще больше приблизить вероятность р к единице или уменьшить отличие О от О следует надлежащим образом расширить множество О.
С изменением значений параметров возможно изменение и фазового портрета. В качестве характеристики изменения огрубленного фазового портрета в зависимости от значений параметров можно ввести понятие огрубленного параметрического портрета динамической системы для ограниченной области Я в пространстве параметров. Построение огрубленного параметрического портрета сводится к определению, хотя бы частичному, множества значений параметров, отвечающих различным видам огрубленных фазовых портретов.
2. Взгляд на проблему
огрубленного численного исследования
динамических систем
специалиста по распознаванию образов
Распознавание образов - это не только методы решения трудно формализуемых задач, это новый взгляд на решаемую проблему, когда из большого объема информации об исследуемом объекте вычленяется главное - то, что называется в распознавании «образами», а дополнительные детали, усложняющие и затуманивающие картину, отбрасываются. Такой взгляд на сложную проблему позволяет упростить задачу и найти для нее нетривиальное решение.
Огрубленное исследование большинства многомерных прикладных систем со значительным числом параметров базируется на наблюдениях за поведением траекторий в фазовом пространстве динамической системы на экране дисплея компьютера. Изменяя начальные условия для построения траекторий при заданных значениях параметров, исследователь изучает движения системы и выясняет ее фазовый портрет, узнавая на экране образы состояний равновесия, периодических и хаотических движений. Меняя значения параметров, исследователь наблюдает за изменением движений системы и тем самым изучает возможные ее бифуркации,
строит параметрический портрет системы.
Таким образом, в основе исследования лежит эксперимент, состоящий в выборе некоторых значений параметров, в задании начальных условий для интегрирования системы дифференциальных уравнений и в построении для них фазовой траектории. Результат серии таких экспериментов - множество траекторий, отвечающих различным начальным условиям и разным наборам параметров. Эффективным математическим аппаратом для обработки, анализа и отыскания скрытых закономерностей в полученной статистической выборке являются методы распознавания образов, обладающие широкими адаптивными и оптимизационными возможностями и работающие в пространстве большой размерности. Если посмотреть на процесс исследования глазами специалиста по распознаванию образов, то становится очевидно, что построение фазового портрета - это распознавание различного вида движений в фазовом пространстве системы на основе обучающей выборки данных, представляющих собой массив отрезков фазовых траекторий (конечные многомерные временные ряды), когда распознаваемыми образами являются установившиеся движения (аттракторы), а построение параметрического портрета динамической системы связано с решением задачи распознавания фазовых портретов в пространстве параметров системы на основе данных о числе и характере аттракторов (типе аттрактора и его локализации в фазовом пространстве) в зависимости от значений параметров. Применение методов распознавания позволяет формализовать и автоматизировать процесс исследования в пространствах размерности п > 3 , когда возможности человека ограничены.
Главная отличительная особенность задач распознавания при исследовании динамических систем состоит в том, что это задачи распознавания с активным экспериментом, т.е. обучающая выборка формируется исследователем в процессе решения поставленных задач. При этом возможности проведения эксперимента практически не ограничены, а временные затраты определяются сложностью интегрирования исследуемой системы. Как всякая задача с активным экспериментом, она требует планирования эксперимента. Под планированием эксперимента подразумевается выбор значений параметров и начальных условий для интегрирования системы, а также задание длительности, шага дискретизации и точности счета при построении фазовой траектории. Цель планирования определяется конечной целью исследования
и состоит в обеспечении высокой точности результатов: определение и описание установившихся движений и областей их притяжения в фазовом пространстве и существования в пространстве параметров системы.
Из решения задачи методами распознавания
- статистическими методами - следует существенная особенность такого исследования: результаты решения имеют статистический характер с оценкой степени их статистической достоверности.
3. Изложение технологии огрубленного статистического исследования динамических
систем методами распознавания образов
Огрубленное статистическое исследование конкретной динамической системы, заданной системой п обыкновенных дифференциальных уравнений с т параметрами, состоит в построении огрубленных портретов в фазовом пространстве и в пространстве параметров исследуемой системы и сводится к последовательному решению ряда задач анализа, распознавания и кластеризации данных. В свою очередь всякая задача распознавания образов складывается из решения следующих проблем: формирование признаков, создание обучающей выборки, построение решающих правил на основе обучающей выборки, оценка надежности построенных решающих правил на контрольной выборке данных. Для их решения используются оригинальные методы, разработанные авторами. Применяются два хорошо дополняющих друг друга подхода к анализу и распознаванию данных:
- статистический, на основе универсальной рекуррентной формы метода наименьших квадратов [1], обладающей очень широкими возможностями адаптации к изменяющейся выборке данных;
- логический, на основе оптимальных тупиковых нечетких тестов и синдромов [2, 3].
3.1. Решение задачи распознавания типа фазовой траектории как база для численного исследования динамических систем методами распознавания. Исследование динамических систем в фазовом пространстве базируется на решающих правилах распознавания трех типов фазовых траекторий, а именно: траекторий, стремящихся к состояниям равновесия 0к , траекторий, стремящихся к предельным циклам Г, и траекторий, принадлежащих хаотическим аттракторам Н5. Эти решающие правила построены на основе анализа обширной статисти-
ческой выборки, состоявшей из траекторий различных типов для разных и по своей природе, и по размерности фазового пространства динамических систем.
Обучающая выборка X состоит из отрезков фазовых траекторий - кривых, представляющих собой решение нескольких многомерных систем дифференциальных уравнений разного порядка при различных начальных условиях и заданных значениями своих координат в фазовом пространстве в последовательные моменты времени с постоянным для данной кривой шагом дискретизации Д?. Таким образом, обучающая выборка представляет собой множество конечных многомерных временных рядов разной размерности и длительности:
X = {х1, х2,..., хм },
между соседними точками исходного временного ряда:
Л _2 ^ V иЛ „2
где х' = К' ■X■2,..., ' )\ ' = Ь2^^ Мг }
где
V / V V V \
у = (У , У 2 ,.^ Ум, ,-1)
размерность г-й траектории, Мг - длина соответствующего ей временного ряда. Для каждой траектории известен ее тип, роль учителя при решении данной задачи исполняет математическая теория динамических систем.
Итак, определение типа фазовой траектории по заданной обучающей выборке - это задача распознавания с учителем динамически изменяющихся объектов. Для ее решения выбран путь, основанный на формировании нового, единого для всех объектов пространства признаков, характеризующих динамику изменения объектов распознавания, описанный в работе [4]. Далее представлены два решающих правила, полученные с использованием статистического и логического анализа данных.
3.1.1. Анализ и распознавание фазовых траекторий с помощью одномерных временных рядов. Проведенный анализ включает в себя:
- определение длительности переходного периода до попадания траектории в зону аттрактора;
- описание особенностей поведения фазовой траектории как многомерного временного ряда при приближении к аттрактору;
- исследование фазовых траекторий на локальную устойчивость;
- описание области локализации траектории в фазовом пространстве при приближении ее к аттрактору.
В результате исследований устанавливается возможность решения задачи распознавания различных типов фазовых траекторий на множестве признаков, описывающих поведение одномерных временных рядов, представляющих собой изменение со временем расстояний
у1 =дХ (Х1] Х1+1,] )2 .
Выбор именно такого ряда объясняется тем, что этот ряд наиболее полно отвечает особенностям динамических систем, заданных системами дифференциальных уравнений. Переход от многомерных временных рядов к одномерным позволяет:
- во-первых, автоматизировать процесс анализа фазовых траекторий путем формирования признаков, информативных для описания типов движений в фазовом пространстве, и построения на их основе решающего правила распознавания трех основных типов асимптотически устойчивых движений (0к - состояния равновесия, Гг - периодические движения, Н5 - хаотические аттракторы);
- во-вторых, проводить при необходимости привычный для исследователя визуальный анализ найденных движений в фазовом пространстве.
После перехода от многомерного временного ряда х к одномерному временному ряду у решается первая из всего множества задач, а именно, проблема предварительного (грубого) определения длительности переходного перио-* * ^ да ? , когда при ? < ? временной ряд изменяет*
ся произвольно, а при ? > ? характеристики ряда (среднее, дисперсия, коэффициенты авторегрессии и др.) приобретают четкие специфические свойства, что, предположительно, свидетельствует о том, что траектория попадает в зону аттрактора. В дальнейшем при расширении знаний об исследуемой системе эта величина при необходимости корректируется.
**
После определения ? для х(?) при ? > ? строятся два одномерных временных ряда у1(?) (для описания поведения траекторий при приближении их к аттрактору) и у2(?) (для исследования на локальную устойчивость), где у1(?)
- это ряд у(?) при ? > ?*, а у2(?) = |х(?) - ~(?)|, где ~(?) - траектория с начальными условиями из малой окрестности траектории х(?) при ? = = ?*, у2 = (у2„ у22, ..., у2м), а
и
У2г = ,£ (Хг,' - )2 .
V'=
Результатом анализа методами распознавания расширенной обучающей выборки, в которой каждая траектория хг (?) описывается двумя соответствующими ей одномерными временными рядами у1г(?) и у2г (?), является выделение ряда признаков, информативных для решения задачи дискриминации различных типов траекторий, а именно:
- поведение ряда у1(?) при ? ^ ж . Возможный характер поведения рядов иллюстрируется рис. 1: а - для траекторий, стремящихся к устойчивому состоянию равновесия, б - для периодических и в - для хаотических движений;
А = 0, Ь и с - предел существует, но А ф 0) и рис. 4 (предела не существует).
На базе этих признаков построено решающее правило распознавания типа фазовых траекторий:
1) траектория стремится к состоянию равновесия, если Нш у1(?) = 0 и Нш у2(?) = 0 .
При этом по характеру изменения у1(?) можно определить тип состояния равновесия: в узле, начиная с некоторого ?, у1(?) монотонно убывает, а в фокусе у1(?) совершает колебательные движения с уменьшающейся амплитудой.
2) если Нш у1(?) = 0, а Нш у2(?) = А ф 0 , причем величина А зависит от расстояния
у1
10
8
6
4
2
ЬУМуууууцу'..,
100 200 300 500
а)
у 1
0.4
0.3
0.2
0.1
0
200 400 600 800
б)
200 400 600 800
Рис. 1. Временные ряды для различных типов фазовых траекторий
- периодичность ряда у 1(?). Исследование на периодичность и отыскание периода Т проводится путем скольжения отрезка ряда у0 длительности т по ряду у1(?) с определением степени близости 8(?) =^'=0 (у1(? + 'Д?) - у0( 'Д? ))2
при различных значениях ?. Результаты такого исследования иллюстрируются рис. 2 (а - случай периодического движения, б - отсутствие периодичности);
| х(? ) - х(? )| (начальные условия для х(?)), то имеет место многообразие состояний равновесия.
3) о наличии предельного цикла свидетельствуют периодичность временного ряда у1(?) и
выполнение условия Нш у2(?) = 0 .
4) если и Нш у1(?), и Нш у2(?) не существуют, то траектория представляет собой хаотиче-
5
3.5
3.0
2.5
2.0
1.5 1,0
100 2 00 3 00 500
а)
0 2 00 40 0 60 0 800
б)
Рис. 2. Исследование рядов на периодичность
- поведение ряда у2(?) при ? ^ ж. Особенно- ское движение. сти поведения этих рядов иллюстрируются Приведенное правило не исчерпывает всех
рис. 3 (а - предел Нш у2(?) = А существует и возможностей исследования фазовых траекто-
0
1
0
г
г
0
рий с помощью одномерных временных рядов. Оно дополняется и корректируется по мере пополнения базы знаний о движениях в фазовом пространстве исследуемых конкретных ди-
лизации траектории в фазовом пространстве рассматриваются параллелепипед и эллипсоид, заключающие в себе все точки траектории при ? > ? . Этот признак в описании траектории тесно связан с параметром ? . Характеристики области П не должны существенно изменяться
*
при увеличении как величины ? , так и длительности анализируемого отрезка траектории. Это свойство является дополнительным критерием
_ *
правильности выбора ? и П.
3.1.2. Решение задачи распознавания фазовых траекторий с помощью оптимальных тупиковых нечетких тестов. Определение типа траекторий производится на основе их характерных признаков.
Для траектории, стремящейся к устойчивому состоянию равновесия, характерным признаком является множество точек в конце файла траектории, находящихся в малой е-окрестности, соответствующей устойчивому состоянию равновесия, и, следовательно, неразличимых с точностью до величины этой малой е-окрестности.
Для траекторий, стремящихся к предельному циклу, характерно движение, близкое к движе-
нию по замкнутой кривой в пределах некоторой е-окрестности, примыкающей к траектории на протяжении периода. Разделим установившуюся часть траектории на 2 части и для первой
первая точка траектории и принимается за центр п-мерного параллелепипеда. Вторая точка траектории принимается за его вершину. Строится п-мерный параллелепипед по этим двум точкам. Затем вторая точка траектории принимается за центр, а третья точка - за вершину, и строится второй параллелепипед, пересекающийся с первым. Продолжая подобным образом для последующих точек траектории, можно построить е-окрестность нужной длины по времени.
Подсчитаем оценку вероятности того, что точки второй части траектории окажутся внутри этой построенной е-окрестности. Оценка вероятности определяется как р = ке/к, где к -число точек второй части траектории, а ке -число точек второй части траектории, попавших в е-окрестность её первой части. Экспериментальная проверка на множестве траекторий показывает, что для траекторий предельного цикла оценка вероятности р равна 1 или очень близка к единице. Для траекторий хаотического движения оценка вероятности имеет значительно меньшие значения. Это и позволяет опреде-
намических систем.
части построим такую е-окрестность. Окрест-
0.025
0.020
0.015
0.010
0.005
20 0 4 00 6 00 800 г
а)
0
у2
0.04
0.03
0.02
0.01
200 400
б)
Рис. 3. Поведение рядов в случае устойчивых движений У2 5 4 3 2 1
0 200 400 600 800 г
а)
0 200 400 600 800 г
б)
0 200 400 600 800
Рис. 4. Поведение рядов в случае неустойчивых движений В качестве характеристики области П лока- ность строится следующим приёмом. Берётся
0
г
лять тип траекторий в обоих случаях. Решающее правило определения типа траекторий по рассмотренным признакам успешно апробировано на ряде динамических систем.
Из содержания предыдущего абзаца видно, что оценка р является оценкой орбитальной устойчивости движения динамических систем.
3.2. Основные этапы огрубленного исследования динамических систем. Численное исследование конкретной динамической системы распадается на три основных этапа.
Первый этап - предварительный анализ исследуемой модели с целью определения границ областей для исследования в фазовом и параметрическом пространствах системы, а также для выбора начальных данных при планировании эксперимента. Этот этап к настоящему времени наименее формализован и в наибольшей степени опирается на конкретное содержание модели. Выбор области в пространстве параметров определяется практической значимостью параметров модели и возможными диапазонами их изменения, обеспечивающими интересующие исследователя режимы функционирования динамического объекта. Выбор области задания начальных условий в фазовом пространстве должен удовлетворять требованию диссипативности системы или может быть задан исследователем исходя из практических соображений. Так как планирование эксперимента включает в себя не только выбор значений параметров и начальных условий для интегрирования системы (построение траектории в фазовом пространстве), но также и задание таких характеристик траектории, как длительность, шаг дискретизации и точность счета, то именно эти характеристики и определяются в ходе предварительного анализа исходя из особенностей исследуемой системы дифференциальных уравнений. Этот этап обычен при исследовании систем любыми методами, он представляет собой первое знакомство с динамической системой, но, подчеркнем, все эти данные необходимы лишь в качестве начальных условий проведения исследования и в процессе решения могут изменяться в зависимости от получаемых текущих результатов.
Второй этап исследования связан с построением огрубленных фазовых портретов, характеризующих поведение траекторий в фазовом пространстве системы при некоторых заданных значениях параметров. На этом этапе решаются три основные задачи:
- определение вида и числа устойчивых предельных подмножеств фазового пространства
(аттракторов) в исследуемой динамической системе;
- описание и разделение аттракторов в фазовом пространстве;
- выделение областей притяжения для каждого из аттракторов.
Планирование эксперимента на этом этапе включает в себя выбор начальных точек в фазовом пространстве для построения траектории и ее перечисленных выше характеристик.
Весь процесс построения фазового портрета при исследовании конкретных динамических систем можно представить в виде последовательного решения следующих задач анализа и распознавания данных:
1. Анализ отдельных фазовых траекторий с целью формирования признаков, информативных для решения задач распознавания.
2. Распознавание типа фазовой траектории по признакам, сформированным при решении задачи 1.
3. Определение вида и числа аттракторов для исследуемой динамической системы как задачи кластеризации на основе данных, полученных при решении задач 1 и 2.
4. Распознавание аттракторов с целью их описания и разделения в фазовом пространстве как задачи дискриминации образов, построенных в задаче 3.
5. Построение правила для принятия решения о принадлежности произвольной траектории к определенному аттрактору.
6. Выделение областей притяжения для каждого из аттракторов на основе выборки, сформированной с помощью результатов решения задач 3, 4 и 5.
Часть этих задач (3, 4, 6) направлена на непосредственное решение проблем, связанных с исследованием структуры фазового пространства динамической системы, а другие (1, 2, 5) имеют прикладное значение и необходимы для формирования обучающей выборки и автоматизации процесса исследования.
Все задачи решаются на основе множества данных, представляющих собой массив конечных отрезков фазовых траекторий (многомерных временных рядов). Первичная выборка создается случайным равномерным выбором начальных точек в заданной ограниченной области фазового пространства. В процессе исследования, ведущегося в адаптивном режиме, обучающая выборка расширяется и корректируется в зависимости от результатов решения текущих задач.
Результатом огрубленного численного исследования динамической системы в фазовом пространстве является определение структуры
фазового портрета в виде некоторого множества аттракторов Js (устойчивые состояния равновесия, многообразия устойчивых состояний равновесия, устойчивые периодические движения, хаотические или стохастические аттракторы) и их областей притяжения Б( Js). Все это в пределах определяемых точностей и времени, которые при необходимости могут быть уточнены и расширены. При этом в отношении областей притяжения указывается статистическая достоверность полученных результатов. С ростом используемого времени численных расчетов (с увеличением обучающей выборки) достоверность результатов приближается к единице.
Третий этап - исследование зависимости огрубленного фазового портрета от параметров и представление результатов такого исследования в виде огрубленного параметрического портрета.
Построение параметрического портрета требует предварительного определения (с заданной статистической достоверностью) и описания всех возможных видов огрубленных фазовых портретов, а тем самым и установившихся движений (аттракторов) в исследуемой динамической системе. Планирование эксперимента в параметрическом пространстве заключается в выборе значений параметров для построения огрубленного фазового портрета.
В классической теории исследования динамических систем задача изучения зависимости структуры фазового пространства динамической системы от параметров, в отличие от исследования структуры фазового пространства, вообще не имеет разработанных подходов для динамических систем с большим числом параметров. Численное исследование конкретных динамических систем методами распознавания в пространстве параметров состоит в построении огрубленного параметрического портрета и сводится к решению следующих основных задач:
1. Предварительный анализ с целью определения и описания возможных видов огрубленных фазовых портретов и, тем самым, установившихся движений (аттракторов) в исследуемой динамической системе.
2. Формирование обучающей выборки для распознавания огрубленных фазовых портретов в пространстве параметров системы.
3. Определение и описание множеств значений параметров, отвечающих различным типам огрубленных фазовых портретов.
4. Построение бифуркационных портретов для сечений пространства параметров по заданным направлениям.
Остановимся коротко на каждой из решаемых задач.
База для решения первой задачи - огрубленные фазовые портреты, построенные для множества значений параметров, полученных случайным выбором в заданной ограниченной области параметрического пространства. Фазовый портрет характеризуется, прежде всего, видом и числом аттракторов (это признаки, информативные для всех математических моделей вне зависимости от их конкретного содержания), а также их локализацией в фазовом пространстве системы (информативность этих признаков определяется конкретным содержанием модели).
Различные огрубленные фазовые портреты Ф 5 - это распознаваемые образы в пространстве параметров. Для каждого из них формируется обучающая выборка, используемая для построения и описания методами распознавания элементов огрубленного параметрического портрета Q(Ф5), представляющих собой множества значений параметров, отвечающих выделенным фазовым портретам Ф 5 исследуемой динамической системы. Целью вычислений является не отыскание всего множества параметров, отвечающих определенному огрубленному фазовому портрету, а выделение лишь некоторого его подмножества относительно простой конфигурации, которое можно описать с помощью конечного числа параллелепипедов, сфер или эллипсоидов. При этом результаты должны быть статистически достоверны, т. е. вероятность получения фазового портрета Ф5 на выделенном множестве параметров Q(Ф5) не должна быть меньше заданного значения р0 , достаточно близкого к единице.
При большом разнообразии фазовых портретов, а иногда и для целей прикладного исследования целесообразнее использовать в качестве распознаваемых образов не фазовые портреты, а различные виды установившихся движений (с учетом их локализации в фазовом пространстве) Js в исследуемой системе. Для каждого из них определяются соответствующие им множества значений параметров Q( Js). В этом случае фазовому портрету Ф5 как совокупности различного вида установившихся движений
Ф5 = Ц=1 Jsl^ будет отвечать множество значений параметров
л (
к=1
П «Л.) \ и о(->.к)
где М - число всех выделенных в системе аттракторов.
При необходимости возможно провести уточнение параметрического портрета вплоть до построения бифуркационного портрета для выбранных сечений относительно небольшой размерности. Определение бифуркационных значений (кривых, поверхностей) требует довольно большого объема вычислений, который экспоненциально растет с увеличением размерности исследуемого сечения пространства параметров.
Как и построение огрубленного фазового портрета, построение огрубленного параметрического портрета динамической системы ведется в адаптивном режиме с расширением обучающей выборки в процессе решения на базе текущих результатов.
Какова связь между перечисленными этапами исследования? Первый этап независим, его цель - грубая оценка особенностей интегрирования системы и получение данных, необходимых для запуска процесса исследования. Третий этап может быть осуществлен только при подключении второго, хотя и в сокращенном его варианте (например, без построения областей притяжения аттракторов). Второй этап исследования - это и необходимая часть третьего, и совершенно независимая часть исследования при описании всех возможных режимов функционирования динамического объекта при определенных значениях параметров.
Весь процесс построения и фазовых, и параметрического портретов можно представить в виде последовательного решения ряда задач планирования и проведения эксперимента, формирования обучающих выборок, анализа, распознавания и кластеризации данных.
3.3. Алгоритмизация процесса численного исследования динамических систем. Для облегчения изложения приведем упрощенное описание двух основных этапов процесса исследования, но с представлением всех главных решаемых проблем. Отдельно опишем краткую схему решения задач распознавания как базовой для новой методики исследования динамических систем. Отметим, что все результаты исследования должны отвечать заданной степени достоверности р0 < 1, сколь угодно близкой к единице.
Описание алгоритма решения задачи распознавания на основе представленной обучающей выборки (схема I).
1. Анализ обучающей выборки с целью оценки ее представительности и достаточности для решения задачи распознавания. При положительном результате переход к п. 2, в противном случае - возврат в основную программу (п. 5, 7, 10 схемы II, п. 5 схемы III) с данными
об областях дополнительного исследования (новая область может быть как частью предыдущей, так и выходить за ее пределы).
2. Построение решающего правила распознавания.
3. Формирование контрольной выборки путем планирования и проведения эксперимента в области действия решающего правила.
4. Проверка решающего правила на контрольной выборке.
5. Анализ результатов проверки на соответствие заданной степени статистической достоверности. Если соответствие есть, переход к следующей задаче в основной программе, в противном случае выполняется п. 6.
6. Пополнение обучающей выборки по результатам проведенного анализа. Коррекция решающего правила и переход к п. 3.
Описание алгоритма построения огрубленного фазового портрета при заданных значениях параметров (схема II).
1. Планирование и проведение эксперимента в заданной области фазового пространства. Построение фазовой траектории.
2. Анализ траектории с целью формирования информативных признаков, отражающих устойчивость траектории и особенности ее поведения при приближении к аттрактору.
3. Определение типа фазовой траектории согласно известным решающим правилам распознавания (раздел 3.1). Определение типа аттрактора, к которому стремится данная траектория, и его локализации в фазовом пространстве. Формирование выборки данных об аттракторах в виде: тип аттрактора; часть траектории из малой окрестности аттрактора ТЯ1; часть траектории, находящаяся вне области аттрактора ТЯ2. Сбор данных о количестве аттракторов и частоте появления новых аттракторов.
4. Анализ выборки на полноту представленных в ней аттракторов в соответствии с заданной степенью статистической достоверности. Если соответствие есть, выполняется п. 5, в противном случае - переход к п. 1, при этом по результатам анализа возможно изменение (уточ-
т
у к=т3 +1
нение) области планирования и проведения эксперимента.
5. Формирование обучающих выборок по каждому из типов аттракторов в виде множеств ТЯ1 принадлежащих им траекторий. По результатам анализа в п. 1 схемы I возможно расширение выборки за счет повторения действий 1-3 в указанной области для дополнительного исследования.
6. Определение числа аттракторов одного типа (по каждому из типов) путем решения задачи кластеризации согласно схеме I.
7. Формирование обучающей выборки для каждого из аттракторов в виде множеств ТЯ1 принадлежащих им траекторий с целью описания аттракторов и разделения их в фазовом пространстве. По результатам анализа в п. 1 схемы I возможно расширение выборки за счет повторения действий 1-3 в указанной области для дополнительного исследования.
8. Описание каждого из аттракторов путем решения задачи распознавания всех выделенных аттракторов в фазовом пространстве системы согласно схеме I.
9. Построение правила для принятия решения о принадлежности произвольной траектории к одному из аттракторов.
10. Формирование обучающей выборки для каждого из аттракторов в виде множеств ТЯ2 принадлежащих им траекторий с целью выделения их областей притяжения. По результатам анализа в п. 1 схемы I возможно расширение выборки за счет повторения действий 1-3 в указанной области для дополнительного исследования.
11. Выделение областей притяжения для каждого из аттракторов путем решения задачи разделения множеств траекторий, относящихся к различным аттракторам, в фазовом пространстве системы согласно схеме I.
12. Формирование фазового портрета как совокупности построенных аттракторов и их областей притяжения.
Описание алгоритма построения огрубленного параметрического портрета (схема III).
1. Планирование эксперимента в заданной области пространства параметров.
2. Построение огрубленного фазового портрета согласно схеме II в ее сокращенном варианте (п. 1-8).
3. Анализ фазового портрета по данным о типе и количестве аттракторов и их расположении в фазовом пространстве. Кодирование фазового портрета с целью автоматизации сравнительного анализа. Формирование выборки дан-
ных о фазовых портретах: вид портрета (код) и отвечающие ему значения параметров. Сбор данных о количестве портретов и частоте появления новых фазовых портретов.
4. Анализ выборки на полноту представленных в ней фазовых портретов для исследуемой области в соответствии с заданной степенью статистической достоверности. Если соответствие есть, выполняется п. 5, в противном случае
- переход к п. 1, при этом по результатам анализа возможно изменение (уточнение) области планирования и проведения эксперимента.
5. Формирование обучающей выборки по каждому из фазовых портретов в виде множеств отвечающих им наборов параметров. По результатам анализа в п. 1 схемы I возможно расширение выборки за счет повторения действий 1-3 в указанной области для дополнительного исследования.
6. Описание областей в пространстве параметров, отвечающих каждому из выделенных огрубленных фазовых портретов, путем решения задачи распознавания фазовых портретов в пространстве параметров согласно схеме I.
7. Формирование параметрического портрета как совокупности областей параметрического пространства, соответствующих всем построенным огрубленным фазовым портретам.
3.4. Особенности планирования эксперимента в процессе решения задачи распознавания. Огрубленному исследованию динамической системы методами распознавания в адаптивном режиме отвечает и соответствующий метод планирования эксперимента, а именно, последовательное планирование, когда каждый новый эксперимент проводится с учетом полученных результатов и текущих оценок. В таком режиме организация решения каждой из задач распознавания осуществляется с использованием адаптивных методов анализа и распознавания согласно схеме I (раздел 3.3), которую можно представить рис. 5.
Предварительные результаты решения задачи распознавания получаются на базе первичной обучающей выборки, которая формируется случайным выбором начальных условий в исследуемой ограниченной области пространства. Но даже в этом случае предусмотрена возможность учета состава выборки путем покрытия исследуемой области пространства подобластями, занятыми построенными траекториями, с тем чтобы вероятность попадания начальных условий в уже занятую область была меньше заданной величины е. Кроме того, планирование эксперимента предусматривает не только
выбор начальных условий для построения траектории, но и выбор таких ее характеристик, как шаг дискретизации, длительность и точность счета. При формировании первичной выборки создается случайная выборка большого объема, но с ограниченными требованиями к длительности и точности счета, что облегчает и получение, и обработку больших массивов данных.
Отличительная особенность решения задач с целью уточнения первичных результатов - целенаправленное формирование обучающей выборки данных. Планирование и проведение эксперимента проводится в зависимости от результатов анализа данных и распознавания областей, определяющих структуру фазового и параметрического портретов. Под анализом результатов подразумеваются либо анализ кластеров на их взаимное расположение и мощность представляющих их множеств траекторий в задаче кластеризации (обучение без учителя), либо анализ результатов распознавания как на обучающей, так и на контрольной выборках в задачах обучения с учителем. Цель планирования -достижение высокой точности решения поставленных задач распознавания, а основной принцип планирования - «добавляй информацию там, где ее не хватает».
При продолжении решения изменение обучающей выборки проводится двумя путями: либо путем коррекции ограниченного числа данных из выборки, либо путем пополнения ее новыми данными. Коррекция данных осуществляется путем усиления требований к проведению эксперимента как по точности счета, так и по шагу дискретизации и длительности фазовой траектории. Цель коррекции - уточнение длительности переходного периода, типа траекто-
рии и ее области локализации, а в конечном счете, и уточнение описания аттракторов. Пополнение выборки новыми данными предполагает либо получение траекторий с заданными свойствами (например, для аттракторов с малой мощностью представляющих их множеств), либо построение траекторий с начальными условиями из заданных областей (например, при построении решающего правила распознавания
обучающая выборка пополняется траекториями из областей, где точность распознавания недостаточно высока). В частности, все данные из контрольной выборки, на которых получены ошибочные ответы, пополняют обучающую выборку.
Таким образом, предварительные оценки и решающие правила, полученные на основе случайной выборки большого объема из траекторий относительно небольшой длительности, с достаточно большим шагом дискретизации и невысокой точностью счета, в дальнейшем уточняются и корректируются путем пополнения обучающей последовательности новыми данными с целенаправленным выбором и уточнением характеристик лишь для небольшого числа траекторий, представляющих каждый из выделенных аттракторов, с целью получения более точного описания структуры фазового и параметрического портретов.
3.5. О методах решения задач распознавания. Все задачи распознавания, применяемые для исследования динамических систем, - это задачи распознавания с активным экспериментом, когда обучающая выборка постоянно изменяется, поэтому для их решения предпочтительнее использовать методы, обладающие адаптивными возможностями по отношению к
Переход к следующей задаче
Предварительные результаты решения задачи распознавания
1 і
Анализ результатов решения Планирование и проведение эксперимента
' і
Уточнение решающих правил
Рис. 5. Схема решения задач распознавания в адаптивном режиме
изменяющейся выборке. Как уже было сказано ранее, новая методика огрубленного численного исследования конкретных динамических систем реализована нами с применением двух подходов к решению задач анализа и распознавания данных: статистического (на основе универсальной рекуррентной формы метода наименьших квадратов [1]) и логического (на основе оптимальных тупиковых нечетких тестов и синдромов [2, 3]). Здесь указаны ссылки на общие методы распознавания. Многие из них адаптированы к решению рассматриваемой задачи. Разработаны и многочисленные специальные алгоритмы анализа и распознавания данных для исследования конкретных динамических систем. Для описания выделенных областей в фазовом и параметрическом пространствах используются алгоритмы, основанные на покрытии точек из обучающей выборки параллелепипедами (синдромальные решающие правила [2]), сферами или эллипсоидами (метод ортогональных компонент на базе универсальной рекуррентной формы метода наименьших квадратов [1]). Самыми удобными и легкими в интерпретации для исследователя являются синдро-мальные решающие правила, когда область притяжения описывается системой неравенств вида аі < хі < Ьі для всех переменных исследуемой системы. Именно поэтому этим правилам и отдавалось предпочтение при описании областей притяжения и построении параметрического портрета конкретных динамических систем.
Заключение
Все представленные в работе возможности огрубленного статистического исследования динамических систем методами распознавания
образов могут быть доведены до такой степени формализации, что позволит реализовать их в виде автоматизированной системы численного исследования конкретных динамических систем. В настоящее время создан комплекс программ по построению огрубленных фазового и параметрического портретов. С их помощью проведено статистическое исследование моделей с числом параметров 4 < m < 15. Результаты этих исследований мы планируем представить во второй части нашей статьи. Кроме того, возможности применения методов распознавания в исследовании математических моделей не ограничиваются лишь огрубленным исследованием. Фазовые и параметрический портреты - это лишь база для решения многих задач, вытекающих из анализа конкретного содержания исследуемой математической модели.
Работа выполнена при финансовой поддержке РФФИ (проекты №08-01-00248, №11-01-00379).
Сnupaк лumepamуpы
1. Неймарк Ю.И., Теклина Л.Г. Новые технологии применения метода наименьших квадратов: Учеб. пособие. Н. Новгород: Изд-во Нижегородского госуниверситета, 2003.
2. Kotel’nikov I.V. A Syndrome Recognition Method Based on Optimal Irreducible Fuzzy Tests // Pattern Recognition and Image Analysis. 2001. V. 11. № 3. P. 553-559.
3. Kotel’nikov I.V. Cluster Analysis of Multidimensional Objects Based on Optimal Irreducible Fuzzy Tests and Syndromes // Pattern Recognition and Image Analysis. 2004. V. 14. № 3. P. 361-369.
4. Ю. И. Неймарк, Л. Г. Теклина Решение задачи распознавания многомерных временных рядов на основе редукции размерности // Математические методы распознавания образов: Докл. X Всерос-сийск. конф. М., 2001. С. 96-99.
COARSENED STATISTICAL STUDY OF APPLIED DYNAMICAL SYSTEMS USING PATTERN RECOGNITION METHODS (PART I)
Yu.I. Neimark
, I. V. Kotel’nikov, L. G. Teklina
The possibilities of using pattern recognition methods to study mathematical models with a large number of parameters are discussed. A new technique is presented of coarsened statistical study of dynamical systems by constructing phase and parametric portraits based on the statement of the investigation problem as a problem of pattern recognition.
Keywords: dynamical systems, numerical methods, pattern recognition method (PRM).
