Условие оптимальности и метод поиска экстремальных точек в задаче на максимум эллипсоидальной нормы Текст научной статьи по специальности «Математика»

Серия «Математика»

2010. Т. 3, № 3. С. 93-104

Онлайн-доступ к журналу: http://isu.ru/izvestia

УДК 519.626

Условие оптимальности и метод поиска экстремальных точек в задаче на максимум эллипсоидальной нормы *

В. А. Срочко

Иркутский государственный университет

Н. С. Розинова

Иркутский государственный университет

Аннотация. Задача максимизации эллипсоидальной нормы на выпуклом компактном множестве рассматривается с позиций поиска и улучшения допустимых точек, удовлетворяющих необходимому условию локальной оптимальности. Достаточное условие оптимальности представляется с помощью специальной функции максимума, которая является значением вспомогательной задачи проекционного типа. На этой основе построен итерационный метод, ориентированный на улучшение экстремальных точек.

Ключевые слова: выпуклое компактное множество; задача на максимум нормы; улучшение экстремальных точек.

В данной работе продолжается исследование задачи максимизации эллипсоидальной нормы на выпуклом компактном множестве, проведенное в статьях [1]—[3]. В свою очередь опорные результаты в рамках указанной задачи вогнутого программирования (необходимые и достаточные условия оптимальности) можно найти в [4], [6], [7]. Полученные ниже результаты состоят в следующем.

Критерий оптимальности в рассматриваемой задаче впервые определяется на основе управляющей функции, которая вводится как значение вспомогательной задачи проекционного типа (минимизация эллипсоидальной нормы на допустимом множестве). Эта функция является дифференцируемой без условия строгой выпуклости допустимо-

* Работа выполнена при финансовой поддержке РФФИ, грант 08-01-00709.

1. Введение

го множества. Формулируются основные свойства управляющей функции, выделяется направление её возрастания в области отрицательных значений. Построен метод скорейшего подъема на поверхности уровня целевой функции, соответствующей найденной экстремальной точке. Наилучшее значение параметра длины шага получено в явном виде из условия максимума оценки снизу для управляющей функции. Проведена модификация основного метода, которая иллюстрируется для задачи максимизации евклидовой нормы на параллелепипеде и позволяет получить глобальное решение без итераций.

2. Основная и вспомогательные задачи

Введем квадратичную функцию

ф^) = 1 {x — a, C(x — a)), x Є Rn

с вектором a Є Rn и симметричной положительно-определенной матрицей C Є Rnxn. Отметим, что ф^) - сильно выпуклая функция с единственной точкой x = a глобального минимума. Будем использовать обобщенное скалярное произведение {x, y)c = {x, Cy) и соответствующую эллипсоидальную норму ||x||2 = {x,x)c, связанные с матрицей C. В случае C = E(E - единичная матрица) индекс «с» опускается. Отметим, что ф^) = I||x — aW^, Vф(x) = C(x — a).

Пусть D С Rn - выпуклое компактное множество с границей

I? = D\intD. Рассмотрим задачу на максимум эллипсоидальной нормы

ф^) — max, x Є D. (P)

Понятно, что задача (P) имеет глобальное решение x* (возможно, не единственное), причем x* Є D (x* - крайняя точка множества D). Кроме того, задача (P) является невыпуклой, т. е. необходимое условие локального максимума не является, вообще говоря, достаточным условием глобального максимума (обратное имеет место в выпуклых задачах). Задача (P) является многоэкстремальной, т. е. может иметь точки локального максимума, которые не являются глобальным решением. Свяжем с проблемой (P) вспомогательную задачу с вектором y Є Rn

^ф(у)^ — y) —— max, x Є D. (P^

Обозначим через D(y) множество ее решений. Связь между задачами

(P) и (Pi), очевидно, состоит в следующем.

Утверждение 1. Если у Є D - точка локального максимума в задаче (P), то y Є D(y).

Иными словами, включение у € Б (у) есть необходимое условие ло-

кального максимума для точки у в задаче (Р).

Введем в рассмотрение вторую вспомогательную задачу с вектором у € Еп

(Уф(у),ж - у)- ^ (ж - У, ж - у)с ^ тах, ж € Б. (Р2)

Это задача выпуклого программирования (максимизация сильно вогнутой функции на выпуклом компакте), которая имеет единственное решение ж(у) € Б. Проведем характеризацию этой точки в терминах операции проецирования на множество Б.

Предварительно отметим, что единственное решение ж задачи

1 2

21|ж - у|1с ^ тт, ж € Б

по определению есть С-проекция точки у на множество Б: ж = РС(у; Б).

Необходимое и достаточное условие минимума в задаче проецирования приводит к следующему критерию.

Утверждение 2. Пусть ж € Б. Тогда ж = РС (у; Б) ^

^ (у - ж, ж - ж)с < 0, Уж € Б.

Лемма 1. ж(у) = агдтаж(Р2) ^ ж(у) = РС(2у - а; Б).

Доказательство. Необходимое и достаточное условие максимума для точки ж(у) в задаче (Р2) имеет вид:

(С(у - а) - С(ж(у) - у), ж - ж(у)) < 0,Уж € Б.

Отсюда

((2у - а) - ж(у), ж - ж(у))с < 0, Уж € Б.

Это значит, что

ж(у) = РС(2у - а; Б).

□

Установим связь между задачами (Р1) и (Р2).

Лемма 2. у = ж(у) ^ у € Б(у).

Доказательство. Пусть у = ж(у). Тогда с учетом леммы 1 получаем неравенство:

(у - а, ж - у)с < 0, Уж € Б, которое означает, что у € Б(у). Обратный ход проводится аналогично: у € Б(у) ^ (у - а,ж - у)с < 0, Уж € Б ^ (2у - а - у,ж - у)с < 0, Уж € Б ^ ^ у = РС(2у - а; Б) ^ у = ж(у).

□

Следствие 1. Равенство у = ж(у) есть необходимое условие локального максимума для точки у в задаче (Р).

Отметим, что в случае а € Б точка ж = а глобального минимума функции ф(ж) удовлетворяет условию локального максимума а = ж(а).

3. Экстремальные точки и условие оптимальности

Введем множество экстремальных точек

Еж£(Р) = {у € Б \ а : у = ж(у)},

которые подозрительны на оптимальность в задаче (Р).

Лемма 3. Если у € Еж£(Р), то значения задач (Р1) и (Р2) равны нулю.

Доказательство. Значение задачи (Р2) имеет вид

д(у) = (^ф(у),ж(у) - у) - 1 (ж(у) - у,ж(у) - у)с. (3.1)

Если у € Еж^Р), то д(у) = 0. Согласно лемме 2 у € Б(у), т. е. максимальное значение целевой функции в задаче (Р1) также равно нулю. □

Сформулируем достаточное условие оптимальности экстремальной точки. Пусть г € Еж£(Р). Введем множество Лебега функции ф(-) в точке г

Р(г) = {ж € Еп : ф(ж) < ф(г)}

(строго выпуклый компакт) и соответствующую поверхность уровня

Р(г) = {ж € Лп : ф(ж) = ф(г)}

(эллипсоид с центром в точке а).

Введем в рассмотрение функцию максимума

д(у) = тах((Уф(у),ж - у) 1 (ж - у,ж - у)с) у € Яп (3.2)

2

Это значение задачи (Р2). Для точки г € Еж£(Р) имеем

г € Б П -£(г), д(г) = 0.

Теорема 1. Пусть г € Еж£(Р). Если

д(у) = 0 Уу € Б П £(г), (3.3)

то г € Агдтаж(Р).

Доказательство. В условиях теоремы значение задачи (Р1) равно нулю Уу € Б П -£(г). Тогда утверждение теоремы справедливо в силу соответствующего результата из [3]. □

4. Функция максимума и ее свойства

В свете утверждения теоремы рассмотрим более подробно функцию д(у), которая определена выражениями (3.1) и (3.2). Сформулируем некоторые свойства этой функции.

1. Функция д(у) дифференцируема в каждой точке у € Лп, причем

^(у) = 2С(ж(у) - у) - Уф(у).

Это утверждение следует из общих свойств функции максимума с учетом единственности решения задачи (Р2) [5].

2. Если у € Б, то д(у) > 0. Если у € Б \ {ж(у)}, то д(у) > 0. Если у € Б и д(у) = 0, то у € Еж£(Р).

Соотношения следуют из определения функции д(у).

3. Если д(у) < 0, то вектор (ж(у)-у) есть направление подъема функции д(-) в точке у.

Действительно, с учетом формулы для градиента представим производную по направлению

(^д(у),ж(у) - у) = 2(ж(у) - y, ж(у) - у)с - (^(у^ ж(у) - у). Согласно выражению (3.1) для функции д(у) имеем

12

^^у^Ы - у) = д(у) + 211ж(у) - у||с.

Следовательно,

3 2

- у) = 2|ж(у) - у11с - д(у) > 0,

что и доказывает свойство.

4. Если д(у) > 0, то ф(ж(у)) > ф(у).

Действительно, выясним знак приращения

ф(ж(у))-ф(у) = ^^у^Ы-у)+2|ж(у) - у|2 = д(у)+|ж(у) -у|2 >0,

что и доказывает утверждение.

Проведем преобразование формулы (3.2) для функции д(у). Используем очевидные представления

(^(у),ж - у) = (у - а, ж - у)с = (у - а, ж - а)с - (у - а, у - а)с =

= (у - а, ж - а)с - 2ф(у),

2(ж - у, ж - у)с = 2(ж - а - (у - а), ж - а - (у - а))с =

= 2 (ж - а, ж - а)с - (ж - а, у - а)с + 2 (у - а, у - а)с =

= -(ж - а, у - а)с + ф(ж) + ф(у).

В результате получаем следующую формулу

#(у) = тах(2(у - а,ж - у)с - ф(ж)) - 3ф(у). (4.1)

х£и

Обозначим

р(у) = тах(2(у - а,ж - у)с - ф(ж)).

х£и

Это выпуклая дифференцируемая на Кп функция с градиентом

^(у) = 2С(ж(у) - а).

Получим оценку для приращения функции $(•) на эллипсоиде Р(г).

5. Пусть г0, г1 € -£(г). Тогда

^(г1) - £(г0) > 2(ж(г0) - а,г1 - г0)с.

Действительно, согласно представлению (4.1) и известному свойству выпуклой функции, получаем

^(г1) - д(г0) = ^(г1) - 3ф(г1) - р(г0) + 3ф(г0) = ^(г1) - р(г0) >

> (^(г0)^1 - г0) = 2(ж(г0) - а,г1 - г0)с.

5. Метод скорейшего подъема для функции максимума на

эллипсоиде

Пусть в результате известной процедуры [1]

у0 € Б, ук+1 = ж(ук), к = 0,1,... (5.1)

получена экстремальная точка г задачи (Р). Это значит, что д(г) = 0, причем

^(г) = -^(г).

Введем градиентный луч

г (а) = г - а^(г), а > 0

и найдем точку г0 его пересечения с ^(г) :

го = г(оо), ао = 2 “Уф(г)“

2

11^(г)||С

Если ж(г0) € ^(г), то произошло улучшение экстремальной точки г и надо уйти на метод (5.1) с у0 = ж(г0).

Основной интерес представляет ситуация, когда ф(ж(г0)) < ф(г0), т. е. ж(г0) € т^(г). В этом случае

ф(ж(г0)) - ф(г0) = д(г0) + ||ж(г0) - г0||2 < 0 ^ д(г0) < 0, т. е. г0 € Б.

В соответствии с условием оптимальности (3.3) построим итерационный метод подъема для функции $(•) на эллипсоиде Р(г).

Опишем общий шаг метода: гк ^ гк+1, к = 0,1,....

Пусть гк € -£(г), ж(гк) € т^( г). Согласно свойству 3, вектор (ж(гк) - гк) определяет направление подъема функции $(•) в точке гк. Образуем луч

гк(а) = гк + а(ж( гк) - гк), а> 0 и выделим точку его пересечения с Р( г)

|(^(гк),ж( гк) - гк)|

а = 2-

||ж( гк) — гк У2

Поскольку (1) = ж() Є іп^(г), то а > 1.

Предположим, что луч гк(а) не проходит через центр эллипсоида

гк(а) = а, а Є (0, а).

Проведем проецирование точек гк(а) на поверхность уровня ї(г) в С-норме. Соответствующая задача

||у — гк(а) У2 ^ тіп, у Є ї(г)

имеет единственное решение, которое выражается по формуле

„к

,гк(а) = а + 1 ^ . а с (гк(а) — а). (5.2)

1 7 '|,гк (а) — а|| 1 1 7 7 у 7

Изучим поведение функции $(•) вдоль кривой ,гк(а), а € (0, а). Используя свойство 5 для г0 = гк, г1 = ,гк(а), получаем следующую оценку

гк/л,\\ ~к\ \ ъ1пп( „к\ л ~к/^,\ ^к\

^(а)) — #(,гк) > 2(ж(гк) — а, г*(а) — )с =

= 2(ж(гк) — а, ,гк(а) — а)с — 2(ж(гк) — а, гк — а)с

С

Обозначим

△k (а) = (x(zfc) — а, (а) — а)с.

Отметим, что

pk (а) — а||с = ||z — а||с.

Рассмотрим задачу на максимизацию оценки

△k(а) ^ max, а € (0,(5]. (5.3)

На основании неравенства Коши-Шварца получаем

△k(а) < ||x(zk) — a||c||Sfc(а) — а||с = ||x(zk) — a||c||f — a||c,

причем равенство реализуется тогда и только тогда, когда составляющие векторы положительно коллинеарны

x(zk) — а = в (fk (а) — а), в = 1|Ж,(^) — .а|е.

Ilf — allc

С учетом формулы (5.2) представим это соотношение в виде

x(zk) — a zk (а) — а

||x(zk) — a||c ||zk (а) — a||c

Поскольку zk(1) = x(zk), то единственным корнем этого уравнения является точка а^ = 1. При этом а^ € (0,а), т. е. получено решение задачи (5.3) на максимум оценки, причем

△k (1) = ||x(zk) — a||c||fk — a||c.

В результате выделяется следующая процедура скорейшего подъема для функции $(•) на экстремальном эллипсоиде L(f) :

11 k II

zk+1 = a + f ,. a c (x(zk) — a), k = 1,2,....

||x(zk) — a||c y h

Отметим, что fk+1 = PC(x(fk); L(f)).

Монотонность метода обеспечивается оценкой

g(zk+1) — g(zk) > 2Дк,

△k = ||x(zk) — a||c||fk — a||c — (x(zk) — a, zk — a)c > 0 со сходимостью по невязке коллинеарности △k ^ 0, k ^ то.

6. Задача максимизации нормы на параллелепипеде

Пусть

ф^) = І{x, x), D = {x Є Rn : x, Є [Xj , x+], i = І, n}. Предположим, что

0 Є intD ^ x - < 0, x+ > 0 Vi = І, n. (б.І)

Рассмотрим задачу максимизации сферической нормы на параллелепипеде

ф(x) — max, x Є D, (S)

которая может служить в качестве тестовой. Ее решение X* определяется элементарно:

X-, если X- + X+ < 0,

X* = ^ x+, если X- + x+ > 0, (б.2)

X- V x+, если X- + x+ = 0.

Действительно, задача (S), очевидно, сводится к покомпонентной

максимизации (декомпозиция)

2x2 — max, x, Є [x-,x+],i = І,п.

В силу предположения (б.І) получаем:

1) если x- + x+ < 0, то (x+) < (x j ^ x* = x-;

2) если x- + x+ > 0, то (x+)2 > (x-)2 ^ x* = x+;

3) если x- + x+ = 0, то (x+)2 = (x-)2 ^ x* = x+ V x-.

Возьмем за основу первую вспомогательную задачу с вектором y Є

Rn

{y, x) —— max, x Є D. (S1)

Декомпозиция приводит к серии одномерных задач

x.y, — max, x, Є [x-^^^i = І,п.

Решение x,(y,) в невырожденном случае имеет вид

x,(yi) f X-, еслиУ < °, (б3)

Xi(y,) = j X+, еслиУ, > 0. (б.3)

Конкретизируем особую ситуацию: если y, = 0, то полагаем x,(y,) = x+ V X-.

Обозначим

Х(У) = (Ж1(У1),...,Жп(Уп))

и введем множество экстремальных точек задачи (5)

Еж£(5) = {у € Кп : у = ж(у)}.

Выделим множество вершин (крайних точек) параллелепипеда О

О = {ж € Б : ж, = ж- V ж+ V* = 1, п}.

Лемма 4. Еж£(5) = О.

Доказательство. Пусть у € Еж£(£), т. е. у» = ж»(у») V* = 1,п. Согласно формуле (6.3) у, = ж- V ж+ ^ у € Б. Обратно, пусть у € Б, т. е. у, = ж- V ж+ V* = 1, п. С учетом предположения (6.1) у, = ж, (у,) ^ ^

у € Еж*(5). □

Следствие 2. Задача (5) имеет 2П экстремальных точек.

Следствие 3. ж(у) € Еж£(5) Vy € Лга.

Проведем модификацию основного алгоритма решения задачи (5) (см. п. 5). Пусть имеется точка г € Еж£(5), т. е. ", = ж- V ж+, * =

1,п (нулевые координаты отсутствуют). Согласно правилу выхода из экстремальной точки получаем точку г0 = —г. Найдем решение задачи (51) с у = г0 :

ж,(г“) = < есл" 1, < °’ =| ж+' * > °’ V* = 1-П

I ж^, если "0 > 0 | ж,- , если " < 0

Сформируем вектор

р0 = ж("0) — "0 = ж(—") + ".

Согласно предыдущему координаты вектора р0 определяются формулой

р0 = ж- + ж+, * = 1,п.

Тогда вектор ж(р0) имеет следующие координаты:

{ж-, если р0 < 0,

ж+, если р0 > 0,

ж- V ж+, если р0 = 0.

В соответствии с формулой (6.2) получили решение задачи (5):

ж(р0) = ж*.

Таким образом, схема решения «сферической» задачи (S) имеет вид: y € Rn ^ ж(у) = z € Ext(S) ^ z0 = —z ^

^ x(z0) € Ext(S) ^ p0 = x(z0) — z0 ^ x(p0) = ж*.

Эта процедура в качестве дополнительного фрагмента основного алгоритма может быть использована для численного решения «эллипсоидальной» задачи на параллелепипеде.

Список литературы

1. Антоник В. Г. Метод нелокального улучшения экстремальных управлений в задаче на максимум нормы конечного состояния / В. Г. Антоник, В. А. Срочко // Журн. вычисл. математики и мат. физики. - 2009. - Т. 49, № 5. - С. 791-804.

2. Срочко В. А. Метод скорейшего подъема в задаче максимизации нормы на строго выпуклом множестве / В. А. Срочко, С. Н. Ушакова // Изв. ИГУ. Сер.: Математика. - 2009. - Т. 2, № 1. - С. 233-244.

3. Срочко В. А. Улучшение экстремальных управлений и метод скорейшего подъема в задаче максимизации нормы на множестве достижимости / В. А. Срочко, С. Н. Ушакова // Журн. вычисл. математики и мат. физики. - 2010. - Т. 50, № 5. - С. 848-859.

4. Стрекаловский А. С. Элементы невыпуклой оптимизации / А. С. Стрекалов-ский. - Новосибирск : Наука, 2003. - 356 с.

5. Сухарев А. Г. Курс методов оптимизации / А. Г. Сухарев, А. В. Тимохов, В. В. Федоров. - М. : Наука, 1986. - 248 с.

6. Clarke F. H. On Global Optimality Conditions for Nonlinear Optimal Control Problems / F. H. Clarke, J. B. Hiriart-Urruty, Yu. S. Ledyaev // Journal of Global Optimization. - 1998. - N 13. - P. 109-122.

7. Enkhbat R. On Some Theory, Methods and Algorithms for Concave Programming / R. Enkhbat // Optimization and Optimal Control. World Scientific Publishing Co. -2003. - P. 79-102.

V. A. Srochko, N. S. Rozinova

Optimality condition and method of searching extreme points in ellipsoidal norm maximization problem

Abstract. The ellipsoidal norm maximization problem on a convex set is considered in searching and improving the admissible points that satisfy the necessary condition of optimality. The sufficient optimality condition is presented with a special maximum function that is a value of projection type auxiliary problem. An iteration method oriented on improving the extreme points is constructed.

Keywords: compact convex set; norm maximization problem; improving the extreme points.

Срочко Владимир Андреевич, доктор физико-математических наук, профессор, Институт математики, экономики и информатики, Иркутский государственный университет, 664003, Иркутск, ул. К. Маркса, 1 тел.: (3952)242210 ([email protected])

Розинова Надежда Сергеевна, младший научный сотрудник, НИЧ, Иркутский государственный университет, 664003, Иркутск, ул. К. Маркса, 1 тел.: (3952)242210 ([email protected])

Srochko Vladimir, Irkutsk State University, 1, K. Marks St.,

Irkutsk, 664003 professor, Phone: (3952)242210 ([email protected]) Rozinova Nadezda, Irkutsk State University, 1, K. Marks St.,

Irkutsk, 664003 junior researcher, Phone: (3952)242210 ([email protected])