Операторы минимизации линейных и негладких функционалов на компактных множествах Текст научной статьи по специальности «Математика»

МАТЕМАТИКА

УДК 519.87:62

В.Н. Козлов

ОПЕРАТОРЫ МИНИМИЗАЦИИ ЛИНЕЙНЫХ И НЕГЛАДКИХ ФУНКЦИОНАЛОВ НА КОМПАКТНЫХ МНОЖЕСТВАХ

V.N. Kozlov

St. Petersburg State Polytechnical University, 29 Politekhnicheskaya St., St. Petersburg, 195251, Russia

OPERATORS FOR MINIMIZATION OF LINEAR AND NONSMOOTH FUNCTIONALS ON COMPACT SETS

Рассмотрены операторы решения задач минимизации линейного функционала на компактных множествах конечномерного пространства, задающие решения задач в аналитической форме. На примере компактного множества двумерного пространства вещественных векторов, заданного пересечением линейного многообразия и шара, приведена геометрическая интерпретация полученных результатов. Сформулированы задачи кусочно-линейной оптимизации и доказано, что они могут иметь решения, представленные операторами минимизации. Задачи негладкой оптимизации преобразованы к задачам выпуклого программирования.

ОПЕРАТОРЫ МИНИМИЗАЦИИ. КОМПАКТНЫЕ МНОЖЕСТВА. ЛИНЕЙНЫЙ ФУНКЦИОНАЛ. КУСОЧНО-ЛИНЕЙНАЯ ОПТИМИЗАЦИЯ.

The paper discusses the operators for the analytical solutions of problems of linear functional minimization over compact sets in a finite-dimensional space. The geometric interpretation of the results is provided through the example of a compact set in a two-dimensional real vector space defined as an intersection of a linear variety and a sphere. The piecewise-linear optimization problems are formulated and proved to possess solutions taking a form of minimization operators. Non-smooth optimization problems have been transformed into convex programming problems.

MINIMIZATION OPERATORS. COMPACT SETS. LINEAR FUNCTIONAL. PIECEWICE-LINEAR OPTI-MIMIZATION.

Операторы минимизации преобразуют параметры задачи в минимизирующие элементы конечномерных пространств. Операторы данного класса используются для качественного анализа асимптотической устойчивости замкнутых управляемых систем для аналитической аппроксимации решений сложных задач ко-

нечномерной оптимизации, возникающих при управлении крупномасштабными объектами.

В данной статье рассматриваются операторы решения задач минимизации линейного функционала на компактных множествах конечномерного пространства, задающие решения задач в аналитической форме.

Постановка задачи и операторы условной минимизации линейных функционалов

Пусть задача вычисления вектора, минимизирующего линейный функционал при ограничениях, имеет вид

^ = аг£шт{ф^) = с0 Z | Ад Z = Ь0, А е Rmxn, т < п, гаиЕАо = т;

(Z-d)TQ(Z-d)< r2, Q = QT,

(1)

rang Q = n} e RZ •

Интервальные ограничения на переменные х- < х < х + аппроксимируются эллипсоидом. Замена переменных вида

Z = Q"1/2X + d, X = Q1/2(Z - d) преобразует эллипсоид в шар так, что (Z - d )TQ(Z - d) = = (Q "1/2 X + d - d )T (Q "1/2 X + d - d) = = XTQ"1/2QQ"1/2X = XTX < r2,

и преобразует исходную задачу (1) к следующей задаче: сформулировать оператор оптимизации для вычисления векторов

X* = argmin{9 = с0Q"1/2X + c0d | AQ"1/2X = b0 - Aqd, XTX < r2}; X* = argmax{9 = c^Q_1/2X + c^d |

A0Q"1/2X = b0 - A0d, XTX < r2}.

В новых переменных ограничения задачи принимают вид

{ax = b, A = A0Q-1/2, b = b0 — A0d,

rang F = m, XTX < r2 }e RX •

В компактном виде последняя задача сводится к вычислению минимума (максимума) линейного функционала

/= ¿гХ+/ при ограничениях

АХ= Ь, ХгХ<г2.

При этом для решения можно использовать необходимые условия вспомогательных задач,

в которых ограничения типа квадратичного неравенства заменено ограничениями типа равенства.

Операторы условной минимизации

и максимизации линейных функционалов

Вспомогательные задачи решены на основе обобщенного проекционного подхода в два этапа. На первом этапе применяется «классическое проецирование», следующее из факторизации конечномерного пространства на линейное многообразие и его ортогональное дополнение. На втором этапе компактное множество представлено пересечением линейного многообразия и параллелепипеда, который аппроксимирован эллипсоидом или шаром. Для этого пересечения множеств формируется обобщенный проектор. Используется условие принадлежности оптимальных решений границе допустимой области для линейных функционалов, а также обобщения решений, заданных в предикатной форме.

Описанная декомпозиция представлений операторов следует из классического метода Лагранжа для задач условной минимизации и специальных форм соотношений теории двойственности математического программирования. В результате формируется оператор, представляющий решение задачи оптимизации на основе ее параметров: функционала и ограничений. Свойства операторов проектирования на линейное многообразие (подпространство) конечномерного пространства определяются далее.

Лемма 1. Пусть задача оптимизации сводится к вычислению вектора

Z* = argmin{9 =|| Z -Z0 ||2 | AZ = b, A e Rmxn, rang A = m} e Rn.

Тогда решение задачи минимизации, представленное оператором проецирования на линейное многообразие конечномерного пространства, имеет следующий вид [2, 3]:

Z* = P 0(Zо) = P0 Zо + PAb,

Р0 = Enxn - PaA, Pa = AT (AAT )-1.

Лемма 2. Операторы проецирования на линейное многообразие и линейное подпространство,

определенные в лемме 1, обладают следующими свойствами:

1. P0(P0(Z0)Z0) = p0(Z0),

P0P0Z0 = P0Z0, P0 = (P0)T 6 Rnxn;

2. P°P0 = P0 > 0, Pi P0 = 0

T о 0

3. PJP0 - 0mx„ 6 ■

A

mxn.

4. P°Pa - 0nxm 6 Rnxm;

5. pTpA - (AAT)-1 6 Rmxm.

Д о к а з а т е л ь с т в о свойств 1 — 5 приведено в указанных выше литературных источниках, а также следует из соотношений:

Р0Р0 = (Епхп - РАЛ)(Епхп - РАЛ) = о.

- Enxn PAA - P ;

(P0)T(P0) - P0P0 - P0 > 0;

PTA 6 Rmxn, P0 6 Rnxn ^ PTAP0 -

- PA [Enxn - A PA ] - PA - ^A^ PA -- 0mxn 6 Rmxn.

P0 6 Rnxn, PA 6:

^ PP -

[Enxn - PaA] • Pa - Pa - PAAPA - 0nxm 6 Rn

PjPA - (AAT )-1 AAT(AAT) - (AAT )-1. При умножении матриц PA 6 Rn

г2 - ЬТ (ААТ )-1Ь > 0;

векторы X», X* е Rn, определяющие минимум и максимум линейного функционала на компактном множестве, представленном пересечением линейного многообразия и шара, имеют вид

Х»= X (X») = РАЬ - Р 0с /(2Х,);

где

X* - X(X*) - PAb - P0с /(2Х*), (2а)

- E - PAA, PA - AT (AAT )-1,

скалярные вещественные параметры X*, X* 6 R1 — решения квадратного уравнения

аХ2 +у-0, а-4[bT (AAT )-1 b - г2],

Y- cTP0 с,

(2б)

и

P0 6 R"x" необходимо учитывать их размеры и порядок умножения. Лемма 2 доказана.

Решения задач конечномерной оптимизации можно представить следующим образом.

Утверждение 1. Пусть заданы две задачи условной оптимизации: вычислить

X*- argmin{9- сХ | AX - b, A 6 Rmxn,

rang A - m, XTX < г2} 6 Rn; X* - argmax{9 - cX | AX - b, A 6 Rmxn, rang A - m, XTX < г2} 6 Rn.

Тогда справедливы следующие утверждения: условие совместности ограничений задач оптимизации определяется неравенством

а операторы X» = X(X») и X» = X(X»), доставляющие минимум и максимум функционалу, определяются параметром X так, что

X» = +1 у /а |1/2, Х»=-1 у /а |1/2 . (2в)

Д о к а з а т е л ь с т в о. На первом этапе решения определяется структура оператора конечномерной оптимизации, а на втором — значения его параметров, соответствующие минимуму и максимуму линейного функционала.

На первом этапе формируется структура оператора, следующая из необходимых условий. Эти условия вспомогательной задачи формулируются на основе функции Лагранжа

Ь = cTX + X0 (АЖ - Ь) + X(XTX - г2)

и представляются системой линейных и нелинейных уравнений

дЬ / дX = с + АТ X 0 + 2XЖ = 0п;

дЬ / дX 0 = AЖ - Ь = 0т; (3)

дЬ / дX = XTX - г2 = 0.

Решение системы (3) выполняется методом исключения, что позволяет вычислить множитель Лагранжа

X0 = (ААТ ^[^Ь - Ас] е Rm.

Подстановка А,0 е Кт в первое уравнение системы (3) определяет равенство

с - 2XЛT (АЛТ )-1 Ь - ЛТ (ААТ )-1 Ас + 2XX = 0п,

из которого вычисляется оператор, задающий однопараметрическое семейство векторов [5, 6] так, что

X (X) = [-Р 0с + 2XPЛЬ] / (2Х) = = РлЬ - Р0с /(2Х)е Кп.

(4)

Равенство (4) определяет параметризованный оператор, который при определенном вычислении параметров задает обобщенный оператор проектирования на пересечение линейного многообразия и шара.

На втором этапе определяются значения параметра оператора (4). Множители X е К1 вычисляются из уравнения, получаемого подстановкой X (X) в третье уравнение необходимых условий (3). Подстановка параметризованного решения

X (X) = РаЬ - Р 0с /(2Х)

в третье уравнение системы (3) приводит к соотношениям, преобразование которых с учетом свойств операторов, рассмотренных в лемме 1, позволяет получить условие системы (3) в виде

Хт (Х)Х(X) =

РаЬ - Р 0с /^Т ГрлЬ - Р 0с /^

~ЬТРТ - сТР0 /^ТРлЬ - Р0с

= ЬТРТРлЬ - [сТР0 /(2^] РлЬ - ЬТРлТР0с /(2^ +

+ сТР 0Р 0с /(4X2) = г2.

Дальнейшие преобразования позволяют получить квадратное уравнение

4X2 [г2 - ЬТ (ЛЛТ )-1 Ь] = сТР0с,

из которого следует [3], что

аА2 =у, у = сТР0с, а = 4[г2 -ЬТ(ЛЛТ)-1 Ь] > 0.

Это уравнение имеет два решения:

X! 2 = ± | X |, X! = X* = + | X |,

X2 = X* = -1X |, | X |=| у / а |1/2 .

(5)

Первое соответствует минимуму, а второе — максимуму функционала, что доказывается сравнением значения линейного функционала на векторах типа (4) с параметрами (5):

Xl,2 =± IУ / а |1/2.

В результате такого сравнения для значений линейного функционала имеет место неравенство

ф(Х*) = <р [Х*^)] = ф [Х*(+1X |1/2)] = = сТ РаЬ - сТР 0с / (2IX |1/2 )<

<р [X*= Ф [X*(-^|1/2)] = = сТ РаЬ + сТР 0с / (2| X |1/2), определяющее условие-результат:

ф [X*|1/2)]<ф [X'(-IX |1/2)], (6)

где значение X- = +1 у / а |1/2 соответствует минимуму, а X+ = -1 у / а |1/2 - максимуму линейного функционала.

Оператор проецирования на линейное подпространство является симметричным и положительно-определенным, т. е. Р0 = Р0 > 0, поэтому имеет место неравенство

сТР 0с > 0.

Следовательно, из последнего неравенства получаем, что значение

X2 =-|у / а |1/2 < 0 определяет условный максимум, а

^ = | у / а |1/2 > 0 -

условный минимум линейных функционалов.

Вещественность корней имеет место в силу условия

а = 4[г2 - ЬТ (ЛЛТ)-1Ь] > 0

(см. неравенство утверждения 1), что обеспечивается совместностью ограничений задачи с учетом свойства положительной определенности квадратичного функционала у = сТ Р0с > 0.

Из теории линейного программирования известно, что минимум и максимум линейного функционала достигаются на границе компактного множества, поэтому полученные результаты доказывают утверждение 1. В результате с

учетом условия (6) формулируются операторы условной минимизации и условной максимизации линейных функционалов, определенные равенствами (2а) — (2в) утверждения 1.

Утверждение 1 доказано.

Следствие утверждения 1 (об эквивалентных формах оператора оптимизации). Полученные результаты определяют операторы оптимизации как функцию параметра X в двух эквивалентных формах:

Ж1 = Ж1 (X) = РАЬ - Р 0с

X2 = Ж2(X) = Р0 (с) - Р 0с[1 -1/^)],

где

х2 1

/ X О \ . С

1 0 X* \ 2 х1

Р 0(с) = Р 0с + РАЬ, Р0 = Е - РАА, РА = АТ (ААТ )-1.

Полученные результата: имеют геометрическую интерпретацию. Вектор Ж1 (К) содержит первое слагаемое, соответствующее проекции начала координат на линейное многообразие, а второе слагаемое пропорционально проекции вектора с е Rn на линейное подпространство:

X1 = X1(X) = РАЬ - Р0с /(2X).

При этом параметр -1/^) формируется из условия проецирования вектора Р0с е Rn на шар, принадлежащий линейному подпространству. Аналогичные интерпретации можно дать вектору X 2 (К).

Утверждение 2. Приближенное решение задачи (1) имеет следующий вид:

г» = й/г х» + й. (7)

Б е з д о к а з а т е л ь с т в а.

Таким образом, полученные операторы оптимизации задают векторы, определяющие минимум и максимум линейного функционала на компактном множестве.

Пример. Рассмотрим решение задачи минимизации (максимизации) линейного функционала

ф(х) = сТX = х1 + 2х2 , сТ = (1, 2), XT = (х1,х2)

на компактном множестве, заданном пересечением линейного многообразия:

Графическое представление допустимой области компактного множества, включающего линейное многообразие и шар

AЖ = х1 + х2 = 1 = Ь, А = (1 | 1), Ь = 1,

и шара

\\х\\2 < г2 = 1, с = 0,

двумерного пространства вещественных векторов.

Геометрическая иллюстрация линейного многообразия, шара и допустимой области как их пересечения приведены на рисунке.

Алгоритм решения задачи. Как было показано выше, оператор для вычисления векторов, которые обеспечивают минимум или максимум линейного функционала, имеют вид

X(X) = РАЬ - Р0с /^), аX2 + у = 0,

а = 4[г2 -ЬТ (ААТ)-1Ь], у = сТР0с.

Решение задачи формируется с помощью следующего алгоритма.

Шаг 1. Вычисление матриц проектора на линейное многообразие и вспомогательных симметричных квадратичных форм:

= Е - АТ (ААТ )-1 А =

"1 0" т

0 1 1

0,5-(1 | 1) =

" 0,5 -0,5" "1"

-0,5 0,5 2

' 0,5 -0,5" -0,5 0,5

= 0,5;

сТР0с = [1 | 2]

ЬТ (ААТ) 1Ь = 1-0,5-1 = 0,5.

Шаг 2. Вычисление параметров квадратного уравнения

аX2 + у = 0,

которые равны

а = 4[г2 -ЬТ (ЛАТ )-1 Ь] = 4-4-1 • 0,5-1 = 2;

у = сТР 0с = 0,5.

Шаг 3. Вычисление корней квадратного уравнения

2X2 = 0,5 ^ XlJ2 =±0,5.

Шаг 4. Вычисление по конечным формулам

2 * 2

векторов X* е К2 и X е К , обеспечивающих минимум и максимум линейного функционала:

X* (X*) = X (0,5) = РаЬ --

Р 0c

2 • 0,5

"-0,5" "1" "1"

+ •0,5 •l =

0,5 1 0

= раь -

X * (X*) = X (-0,5) =

Р 0c

2 • (-0,5)

"-0,5" "1" " 0"

+ • 0,5-1 =

0,5 1 1

поскольку

Ра =

"1"

• 0,5 =

1

0,5" 0,5

" 0,5 -0,5" "1" "-0,5"

-0,5 0,5_ 2_ +0,5_

ления. Далее рассматриваются проекционные операторы оптимизации для задачи кусочно-линейного программирования на основе преобразования исходной задачи к уже преобразованной задаче с линейными функционалами. Операторы для минимизации негладких функционалов формируются на базе линеаризации методом разности переменных. Минимизация негладких функционалов на компактных множествах ниже представлена на примере кусочно-линейных функционалов.

Пусть рассматривается задача негладкой оптимизации: вычислить

Z* = argmin{9 = CT | Z | | AZ = b, A e Rmxn, rang (A ) = m, Z -< Z < Z +, Z + > 0n, Z- < 0n} e Rn.

Эту задачу можно преобразовать к задаче минимизации линейного функционала. В соответствии с методом разности переменных вводятся новые переменные: Z1 > 0n, Z2 > 0n, представляющие вектор Z в виде разности векторов: Z = Z1 - Z2. При этом должны выполняться интервальные ограничения Z- < Z < Z + задачи оптимизации. Для этого новые переменные должны удовлетворять условиям

0„ < Z < Z4

0И < Z2 < -Z-

Р 0c =

Вектор X* = X (X*) определяет минимум, а вектор X * = X (X*) — максимум функционала, что подтверждают значения линейных форм на каждом из этих векторов, которые определяются равенствами

р(Х*) = х1 + 2х2 = 1, р(X*) = х1 + 2х2 = 2.

Рисунок иллюстрирует решение данной задачи.

Операторы минимизации кусочно-линейных и негладких функционалов

Данные классы задач для синтеза управлений могут быть решены различными методами, включая методы субдифференциального исчис-

Тогда ограничения задачи оптимизации преобразуются к виду

A(Zi -Z2) = Ь, 0п < Zi < Z +, 0„ < Z2 < -Z-.

Далее на основе метода разности переменных в варианте, изложенном в работе [2], функционал необходимо преобразовать к виду

ф(Х) = cfx, X = (Z1,Z2)T, C1 = (C,C)T.

В результате преобразованная задача оптимизации формулируется как вычисление вектора

X* = arg min{9 = C(x, X = (Х1, Х2 )T,

C1 = (C ,C )T | AX = b, A = [A | - A ] 6 Rmx2n, (9) rang (A ) = m; X- < X < X +,

X-=(0n ,0n )T,

X +=(Z+,-Z-)T > 0n} 6 R2n.

Таким образом, оптимальное решение задачи кусочно-линейного программирования можно представить оператором оптимизации типа (2) с параметрами, определяемыми решениями квадратного уравнения.

Полученные результаты можно обобщить для задач негладкой оптимизации, представленных суперпозицией выпуклых функционалов, аргументами которых являются модули вещественных скалярных или векторных аргументов. Пусть задача минимизации имеет формулировку: вычислить

Z.= argmin {ф(| Z |) | AZ = b, A e Rmxn, rang (A ) = m, Z -< Z < Z +, Z +> 0n, Z-< 0„} e Rn,

где 9(Z) — выпуклый функционал.

Тогда преобразованная задача минимизации функционала с гладкими аргументами примет вид

X* = argmin{9(X), X = (X1, X2)T I AX = b, A = [ A | - A] e Rmx2n, rang (A ) = m, X" < X < X+, X"=(0n ,0n )T, X +=(X + ,-X-)T, X +> 0n, X-< 0n} e R2n.

Таким образом, сформулированные задачи кусочно-линейной оптимизации могут иметь решения, представленные операторами минимизации, а задачи негладкой оптимизации преобразованы к задачам выпуклого программирования.

СПИСОК ЛИТЕРАТУРЫ

1. Козлов, В.Н. К аналитическому решению систем линейных алгебраических неравенств [Текст] / В.Н. Козлов // Автоматика и телемеханика. — 1989. — № 4. - С. 101- 104.

2. Козлов, В.Н. Метод нелинейных операторов в автоматизированном проектировании динами-

ческих систем [Текст] / В.Н. Козлов. — Л.: Изд-во ЛГУ им. А.А. Жданова, 1986. - 166 с.

3. Козлов, В.Н. Негладкие системы, операторы оптимизации и устойчивость [Текст] / В.Н. Козлов. — СПб.: Изд-во Политехн. ун-та, 2012. — 147 с.

КОЗЛОВ Владимир Николаевич — доктор технических наук, профессор, заведующий кафедрой системного анализа и управления Санкт-Петербургского государственного политехнического университета. 195251, г. Санкт-Петербург, Политехническая ул., 29 umo@citadel.stu.neva.ru

© Санкт-Петербургский государственный политехнический университет, 2013