Непараметрическая оценка условной плотности распределения вероятности в задаче управления статическим объектом Текст научной статьи по специальности «Математика»

УДК 62.503.51

Е. Д. Агафонов, Ю. В. Смешко

НЕПАРАМЕТРИЧЕСКАЯ ОЦЕНКА УСЛОВНОЙ ПЛОТНОСТИ РАСПРЕДЕЛЕНИЯ ВЕРОЯТНОСТИ В ЗАДАЧЕ УПРАВЛЕНИЯ СТАТИЧЕСКИМ ОБЪЕКТОМ

Рассматривается задача управления нелинейным статическим объектом с использованием вероятностных моделей, основанных на непараметрическом оценивании условной плотности распределения вероятности. Значения входной величины объекта, обеспечивающей желаемое состояние на выходе, определяются в результате оптимизации оценки условной плотности. Предложены подходы к решению задач оптимизации и настройки алгоритма управления.

Ключевые слова: вероятностная модель, непараметрическая оценка условной плотности распределения вероятности, управление статическим объектом, оптимизация.

Описывается один подход к решению задачи управления стохастическим статическим объектом с одним входом и одним выходом. Предполагается, что параметрическая структура модели объекта и законы распределения помех неизвестны. Информация об объекте управления содержится в выборках измерений «вход-выход».

Под управлением понимается процесс выведения объекта в требуемое состояние посредством выбора соответствующего входного воздействия. В классической теории управления, как правило, рассматриваются задачи управления динамическими процессами. Однако на практике достаточно часто встречаются объекты, описание которых в виде системы дифференциальных, интегро-дифференциальных или конечно-разностных уравнений невозможно по тем или иным причинам. Например, такая ситуация может возникнуть из-за несовершенства средств контроля входных и выходных величин, недостатка измерений для анализа «динамики» процесса или сложности описания переходных процессов, происходящих в объекте. В этих случаях исследователь вынужден рассматривать объект как статический с запаздыванием.

Постановка задачи управления предполагает наличие, во-первых, некоторой модели объекта и, во-вторых, цели управления. Анализ задач управления статическим объектом показывает, что основными типами целей управления являются: а) стабилизация выхода объекта, т. е. приближение выхода объекта к желаемому значению с заданной точностью; б) оптимизация выхода объекта, т. е. приближение некоторой скалярной функции выхода к своему минимальному (максимальному) значению с заданной точностью [1]. Формально задачи оптимизации можно свести к задачам стабилизации, и наоборот.

Один из подходов к решению задачи управления статическим объектом предполагает построение так называемой инверсной модели объекта [2]. Например, для объекта с одним входом и одним выходом основной инверсной характеристикой является регрессия. На основе использования непараметрических оценок инверсных регрессий в дальнейшем строятся алгоритмы адаптивного управления при априорной неопределенности.

Однако построенная таким образом инверсная модель не способна учитывать многозначность получаемых характеристик «выход-вход» объекта. На практике зачастую мы имеем дело с неоднозначностью в выборе управляющего входного воздействия, приводящего объект управления к желаемому состоянию. Кроме того, различные альтернативы могут существенно различаться по стоимости или степени целесообразности их реализации. Целью настоящего исследования является повышение эффективности управления статическим объектом, учитывая проблему многозначности характеристик в процессе выбора управляющего воздействия.

Пусть объект управления относится к классу нелинейных статических с одним входом и одним выходом (рис. 1):

Рис. 1. Структурная схема объекта управления

На рисунке приняты следующие обозначения: ОУ - объект управления, и - входная переменная объекта, х - выходная переменная объекта, £ - случайное воздействие на объект, Их - аддитивная помеха в канале измерения выходной переменной (М{Их } = 0, Б{Их} <»).

Имеется выборка статически независимых наблюдений входной и выходной величин {и1,х1},I = 1,2,..., 5. Требуется решить задачу стабилизации, т. е. найти такое управляющее воздействие, которое приводит к желаемому значению выходную переменную. Таким образом, необходимо по имеющимся априорным сведениям и выборке измерений {и1, х1} отыскать множество {и^.}, для которого справедливо х(и^) « х ,(] = 1,2,...).

Для решения поставленной задачи предлагается подход, основанный на построении вероятностной модели объекта, которая может быть получена путем непараметрического оценивания условной плотности распределения вероятности [3]. Затем задача сводится к нахождению мод условного распределения, т. е. наиболее вероятных значений входной переменной при условии фиксированной выходной переменной. В частности, в непрерывном случае необходимо отыскать максимумы условной плотности распределения вероятности. Так как рассматриваются многозначные характеристики, следовательно, желательно оценить все локальные моды оценки условной плотности. Таким образом, искомое множество значений входной величины {и)} определяется в результате решения задачи оптимизации:

/(и | х = х*) ^ тах. (1)

и

Схематически процесс управления объектом представлен на рис. 2.

Ї(и | X) = /(и, X)/ /(х).

(2)

/ (и | X = X* ) = -

1 І - К

К

( \ и - и

с,

V 5и

1 І - К

( * >\ X - X.

“ І К

,=1

( * ^ X - X,

К

( \ и - и

(3)

ІК

*

X - X,

где К(г) - ядерная функция, удовлетворяющая следующим условиям:

1) К (г) <<», У г е К (г),

2) [ К(г)& = 1,

П( г )

(4)

3) | К2 (2)ё2 < ж.

Рис. 2. Структурная схема процесса управления

На рисунке к введенным ранее обозначениям добавляются следующие: ВМ - вероятностная модель объекта управления, БО - блок оптимизации построенной оценки, X * - желаемое значение выходной величины, /(и | X = X*) - оценка условного распределения, и * - управляющее воздействие, К - переключатель, переводящий систему из режима накопления информации в режим управления.

Условная плотность распределения вероятности / (и | X) является наиболее полной характеристикой,

устанавливающей связь между случайными величинами X и и. Зная её, можно вычислить любые другие условные характеристики объекта [2; 4; 5]. Условная плотность выражается через безусловные плотности из формулы умножения плотностей:

В [2; 4] предлагалось заменить безусловные плотности в (2) непараметрическими оценками плотности Розенблатта-Парзена [5; 6]. В результате получаем непараметрическую оценку условной плотности распределения вероятности:

П( г)

Оценка (3) включает параметры си и с,х. Параметр си определяет ширину диапазона, в котором

наиболее вероятно наблюдаются искомые значения входной переменной, при этом варьирование значения с5и в широких границах не оказывает существенного влияния на точность получаемых результатов. Параметр отвечает по большей части за «степень размытия» мод непараметрической оценки условной плотности распределения.

Значение с,, определяет степень «гладкости»

оценки в целом. «Гладкая» оценка облегчает оптимизацию критерия (1), однако при этом может снижаться точность отыскания искомого управления. Чрезмерное сглаживание приводит к исчезновению некоторых существенных локальных максимумов критериальной функции. Вместе с тем с5 определяет точ-

*

ность выполнения условия х = х , поэтому увеличение с,х приводит к снижению точности достижения

цели управления.

Для обеспечения надежности нахождения решений предлагается осуществить переход от исходной выборки наблюдений входных и выходных величин к новой выборке, заданной в узлах «равномерной сетки» в пространстве входных переменных. Такой переход достижим различными способами, в частности, с применением непараметрической оценки регрессии.

Исходная выборка наблюдений входной и выходной величин обозначается {и1,х1},/ = 1,2,..., 5. Задаём «равномерную сетку» в пространстве входных переменных с количеством узлов 5 . Шаг дискретизации для сетки вычисляется следующим образом:

AuJ =-

тах{и,} - тіп{и,.}

-; і = 1,2,..., 5; ] = 1,2,..., 5. (5)

і=1

Вычисляем новые «выборочные» значения

{и.,х.}, . = 1,2,..., , по формулам

и = ш1п{и,} + .Ди;

I .

±х*

х(и.) = х. =■

V $ /

(6)

где с, - оптимальный параметр размытости для непараметрической оценки регрессии, который определяется в процессе оптимизации среднеквадратичного критерия:

& (с,) = -I

$ ,■=1

V А и- и.

I х.к 1"“^

/=1 V с, 1??

j ^

(7)

М(Х |и) = {х(и ),П(и)},

(8)

0.(и) =

1, если

1 ,

11 к

$ ,=1

> 0

(9)

0, иначе.

плотности, указав границы интервалов, в которых они находятся, а затем применить на каждом интервале один из методов локальной оптимизации.

Локализовать основные моды оценки условной плотности распределения можно с помощью эвристической итерационной поисковой процедуры. Обозначим через [ag, Ъ ] границы интервала входной

переменной, в котором содержится хотя бы одна мода условной плотности (3). Введем поисковую добавку Д, удовлетворяющую следующим условиям:

0 < Д < а&, Д = 0,005 • с,и. Поиск осуществляется с

левой границы а& до тех пор, пока а& < Ъ . На первой

итерации (к = 0) присвоим ик = а!^. Левая граница а

интервала, в котором содержится один из искомых локальных максимумов, определяется следующим образом.

Если ((/(ик | х) = 0 и /(ик +Д | х) > 0))

'лк а = и

(10)

иначе ик+1 = ик + Д.

Переход к «равномерной сетке» позволяет дополнительно сгладить непараметрическую оценку условной плотности распределения. Однако при реализации такого подхода возникают трудности, связанные с пропуском данных. Особенно эта проблема будет актуальна в условиях малых выборок, когда разрывы между измерениями могут быть значительными. В местах пропуска данных непараметрическая оценка (6) обратится в неопределенность. В некоторых случаях это может повлечь за собой появление новых «ложных» решений, которые помешают достичь заданной цели в процессе управления.

Для преодоления возникших трудностей предлагается представить непараметрическую модель (6) в виде агрегата из двух величин:

Поиск правой границы Ъ локального интервала осуществляется с помощью аналогичной итерационной процедуры, начиная с найденной границы а :

(11)

где х(и) - оценка регрессии; 0.(и) - логическая переменная, которая принимает значение, равное единице, если в окрестности и имеются наблюдения, и, соответственно, ноль, если выборочных данных в окрестности нет. Впервые этот подход рассмотрен в [7; 8].

Непараметрическая оценка регрессии строится на основе исходной выборки в узлах «равномерной сетки». Следовательно, в этих узлах необходимо проверить наличие пропусков выборочных данных. Для этого введем в рассмотрение следующую индикаторную функцию:

Если ((/(ик | х) > 0 и /(ик + Д | х) = 0) или ((/(ик - Д|х) >/(ик |х)) и (/(ик + Д|х) >/(ик |х))) ^ Ъ = ик; иначе ик+1 = ик + Д.

После локализации всех максимумов оценки условной плотности распределения на каждом соответствующем интервале применяется один из методов одномерной оптимизации. В результате получаем искомое множество {и.} значений входной переменной,

доставляющее решение задачи стабилизации.

Было предложено использовать оценку производной условной плотности распределения. Непараметрическая оценка производной от условной плотности распределения вероятности будет иметь следующий вид [4]:

/ (и | х = х*)=-

1I - к

(

1

К'

(

и - и

V С„ ,

V /

1I - к

( * - Л

х - х,

—I к

( * - А х - х

к ’

( ~ \ и - II

V /

(12)

Важнейший этап решения поставленной задачи -оптимизация многоэкстремального критерия (1). Предполагается, что в одномерном случае возможно локализовать основные максимумы оценки условной

I к

*

х - х,

Если гарантировать унимодальность оценки условной плотности для каждого локального интервала,

тогда для и , принадлежащего этому интервалу, необходимо решить уравнение с единственным корнем:

/ (и | х = х*) = 0 . (13)

Оценка (12) содержит параметр с!!и . Параметр с определяет ширину диапазона, в котором наиболее вероятно содержится решение уравнения (13), при этом значение с в широком диапазоне не оказывает

существенного влияния на точность получаемого решения.

Для численного решения уравнения (13) выбран метод Эйлера, в котором стандартная процедура метода была модифицирована добавлением дополнительного уточняющего условия. Вычислительная процедура алгоритма решения уравнения с единственным корнем на локальном интервале [а, Ъ] состоит из двух шагов.

На первом шаге вычисляется значение

ик+1 = ик + 8/'(ик | х = (14) где ик - текущее решение; я - коэффициент, отвечающий за скорость сходимости.

На следующем шаге происходит анализ знака оценки производной:

Если ((/ (ик+х | х) > 0 и /' (ик | х) < 0)

(15)

или (/’(ик+1 | х) <0 и /\ик | х) > 0)) ^ я = 0,5• я.

Затем происходит возврат к первому шагу. Условием остановки итерационной процедуры служит достижение заданной точности решения е. В результате выполнения алгоритма для всех найденных ин-

тервалов получаем искомое множество (му} значений

входной переменной.

При реализации такого подхода удается достигнуть большей скорости сходимости алгоритма к решению, чем в случае максимизации критериальной функции (1), что становится возможным за счет внедрения дополнительного коэффициента g.

Описанный выше подход к решению задачи стабилизации нелинейного статического объекта был реализован в виде программной системы на языке C++ Builder 6. В представленной реализации алгоритма рассмотрен объект, у которого связь между входной и выходной переменной задана кубической параболой х = 0,005м3 -0,015м2 - 1,35м +10. Для одномерной оптимизации на локальном интервале был использован метод деления отрезка пополам.

В рабочем окне программы (рис. 3) пользователь может задавать основные параметры алгоритма, закон распределения и дисперсию помехи в канале измерения выходной переменной, а также необходимую точность получаемых результатов.

Алгоритм управления был многократно протестирован при различных параметрах. В качестве показателя надежности Т алгоритма было принято соответствие количества найденных решений истинному их количеству. По результатам серии экспериментов подтверждение получил тот факт, что ключевым настраиваемым параметром алгоритма является значение коэффициента сх. Критерия для выбора оптимального параметра cs не существует, так как постановка задачи предполагает отсутствие вида истинной характеристики объекта управления.

Рис. 3. Рабочее окно программной системы с результатом работы алгоритма

Основное внимание при анализе работоспособности предложенного алгоритма уделялось экспериментам с выборками малых размеров, что является особенно актуальным для использования алгоритма на практике. Вначале алгоритм был протестирован при отсутствии помехи в канале измерения выходной величины. Входное воздействие выбиралось случайным образом на интервале [-25, 25]. Исходная выборка наблюдений за объектом управления была выбрана объемом $ = 100. После стократного запуска при различных выборках было установлено, что для с,, < 0,25 надежность работы алгоритма управления

Т составила и 60%, а для 0,25 < сх < 5 - 100 %.

Однако стоит отметить, что при достаточно высоком значении параметра с$х ухудшается точность найденного решения уравнения (13).

Далее алгоритм управления был протестирован при добавлении значительной помехи в канале измерения выходной переменной: Нх = 20 %. По-

прежнему рассматривается случай малой выборки исходных наблюдений за объектом. По результатам многочисленных запусков на различных выборках было установлено, что для с,, < 0,25 надежность Т

алгоритма < 50 %, для 0,25 < сх < 1 - и 70 %, а если 1 < с, < 2 - и80%. При увеличении объема исходной выборки до , = 200...300 надежность нахождения решений в случае 20%-й помехи составила 100 %.

Проведенные исследования показывают, что преимущество описанного выше алгоритма для решения задачи управления стохастическим статическим объектом заключается в высокой надежности нахождения решений для неоднозначных характеристик при малых

объемах выборки и значительной помехи в канале измерения выходной величины. К недостаткам предложенного подхода относится отсутствие критерия для выбора параметра с, который в большей степени, чем все остальные параметры, отвечает за точность результатов, а также за количество найденных альтернатив при неоднозначности в выборе входного воздействия.

Библиографические ссылки

1. Люблинский Б. С. Адаптивная стабилизация и оптимизация нелинейных статических объектов : дис. ... канд. техн. наук. Л., 1983.

2. Рубан А. И. Методы анализа данных : учеб. пособие. 2-е изд., испр. и доп. / Краснояр. гос. техн. ун-т. Красноярск, 2004.

3. Слонова Л. А. Разработка и исследование непараметрических вероятностных моделей стохастических систем : дис. . канд. физ.-мат. наук. Красноярск, 2004.

4. Добровидов А. В., Кошкин Г. М. Непараметрическое оценивание сигналов. М. : Наука. Физматлит, 1997.

5. Епанечников В. А. Непараметрическая оценка многомерной плотности вероятности // Теория вероятностей и ее применения. 1969. Т. 14. Вып. 1. С. 156-161.

6. Parzen E. On estimation of a probability density function and mode // Ann. Math. Stat. 1962. Vol. 33. P. 1065-1076.

7. Медведев А. В. Анализ данных в задачах идентификации // Компьютер. анализ и моделирование. Т. 2. Минск : Изд-во Белорус. гос. ун-та, 1995. С. 201-206.

8. Медведев А. В. Теория непараметрических систем. Моделирование // Вестник СибГАУ. 2010. Вып. 4. С. 4-9.

E. D. Agafonov, Yu. V. Smeshko

NONPARAMETRIC ESTIMATION OF CONVENTIONAL DENSITY IN PROBLEM OF STATICAL OBJECT CONTROL

The problem of nonlinear static object control using stochastic models based on nonparametric estimation of conventional density distribution is considered. InpM variables of an object providing a desirable o^p^ are fomd by optimizing of the conventional density estimation. Some approaches to the optimization problem sohtion and algorithm adjrntment are disdssed.

Keywords: stochastic model, nonparametric estimation of conditional density of distribMon, static object control, optimization problem.

© Агафонов Е. Д., Смешко Ю. В., 2011