НЕКОТОРЫЕ ОСОБЕННОСТИ ЗАДАЧИ НЕЛИНЕЙНОЙ ОПТИМИЗАЦИИ Текст научной статьи по специальности «Математика»

НЕКОТОРЫЕ ОСОБЕННОСТИ ЗАДАЧИ НЕЛИНЕЙНОЙ ОПТИМИЗАЦИИ

И.Л. Макарова, канд. техн. наук, доцент А.М. Игнатенко, старший преподаватель Сочинский государственный университет (Россия, г. Сочи)

DOI:10.24412/2500-1000-2024-8-2-219-227

Аннотация. Предмет рассмотрения данной статьи - некоторые особенности задачи нелинейной оптимизации. Представлены алгоритм и примеры решения нелинейных задач оптимизации с использованием обобщенной функции Лагранжа, необходимых и достаточных условий экстремума 1-го и 2-го порядков. Рассмотрены многочисленные формы записи и функции Лагранжа, и ограничений, сформулированы наиболее простые, понятные составляющие нелинейной задачи оптимизации. Сделаны выводы о возможностях применения классической и обобщенной функциях Лагранжа.

Ключевые слова: обобщенная функция Лагранжа, условия регулярности, необходимые и достаточные условия 1-го и 2-го порядка.

С различными задачами оптимизации человек встречается во многих ситуациях повседневной жизни и профессиональной деятельности. Каждое разумное действие можно считать в определенном смысле и оптимальным, так как оно выбирается после сравнения с другими вариантами.

Определение экстремума, т.е. максимума или минимума функции одной переменной без дополнительных условий и при достаточно простой функции давно решенная задача. Использование дифференциального исчисления сделало эту задачу классической задачей школьной программы. Под достаточно простой функцией имеется в виду непрерывная гладкая функция, корни которой и корни производной которой легко определяются, не требуя применения численных методов.

Задача оптимизации функции нескольких переменных при наличии ограничений, т.е. функций, связывающих эти переменные, до сих пор не всегда легко решается из-за множества особенностей.

Например, задача линейного программирования или задача оптимизации линейной функции при наличии линейных ограничений на область изменения этих переменных решена однозначно для всех возможных случаев. Симплекс-метод даёт исчерпывающий ответ в задачах любой разумной размерности.

Описание особенностей

Задача оптимизации функции /(х), где х = (х1, ...,хп)Т, с дополнительными условиями связи переменных ^/(х) =

{>, <}0,у = 1,ш, когда хотя бы одна из функций /(х) или д^(х) является нелинейной называется задачей нелинейного программирования или нелинейной оптимизации. Функцию /(х), экстремум которой необходимо найти, часто называют целевой функцией, а условия связи ^у(х) -ограничениями задачи. Множество значений переменных, удовлетворяющих всем ограничениям, называют допустимой областью. При этом, ограничение является активным в точке, если выполняется по знаку «=», в противном случае - пассивным. От допустимой области часто требуется выполнение условий регулярности. Эти условия могут быть сформулированы по-разному [1, 3, 4, 6, 7, 8, 9, 10, 12, 13, 14, 16]. Простейшими из этих условий являются условия регулярности Слейтера [1, 6, 7, 8, 13, 16, 18], которые требуют существования хотя бы одной внутренней точки допустимой области. Этим свойством обладает допустимая область, задаваемая системой линейных неравенств [6, 8, 18]. Линейная независимость градиентов ограничений в стационарной точке эквивалентна выполнению условий регулярности [3, 4, 7, 8, 9, 10, 12].

Решение задачи нелинейной оптимизации для различных функций х) и д^(х) и различных условий связи с разной степенью подробности можно найти в различных источниках [1-12, 15-18]. Среди различий в описании задачи и её решений

можно выделить следующие особенности: формулировка функции Лагранжа; запись ограничений; требования к множителям Лагранжа.

Вообще частный случай нелинейной задачи

f(x) ^ min(max) f(x); X = (x|^j(x) = 0, i = 1, m\, (1)

когда /(х) - нелинейная функция, а д{(х) - линейные функции может быть легко сведен к задаче безусловной оптимизации при т < п. В случае нелинейности д^(х) такой исход также возможен.

Однако, полученные соотношения не всегда приводят к эффективным решениям.

Решение задачи (1) для произвольных функций был предложен Ж.Л. Лагранжем ещё в конце 18 века [1, 3, 11, 16, 17, 18]. Введение классической функции Лагранжа

Ь(х,Х) =

где Х = (Х1,^,Хт)Т - множители Ла-гранжа, также сводило задачу на условный экстремум к задаче безусловной оптимизации. Очень долго метод множителей Ла-гранжа формулировался с классической функцией Лагранжа, что верно только если ограничения задачи обладают свойством регулярности [1]. Во многих источниках рассматривается только классиче-

т

Г(х)+^Л131(х), (2)

1=1

ская функция Лагранжа [2, 6, 17, 18], а об условиях регулярности упоминается вскользь. Поскольку не всякая допустимая область обладает свойством регулярности, и не всегда это можно проверить без дополнительных сложностей, то правильнее было бы использовать обобщенную функцию Лагранжа [1, 3, 4, 7, 8, 9, 10,11, 16]:

Ь(х, Х0, X)

При этом следует рассматривать два случая: Хо = 0 и Хо Ф 0 (Хо = 1). Условия регулярности гарантируют Х0 Ф 0 и справедливость классической функции Ла-гранжа.

Постановка задачи нелинейного программирования может приводить к раз-

т

= + ^ (3)

]=1

личным формам записи исходных ограничений и используемой функции Лагранжа. В классической задаче на условный экстремум, когда все ограничения равенства, можно встретить следующие записи ограничений:

gj(x)=bj-yj(x) = 0 ~ [2, 5, 17, 18] gj(x) = yj(x)-bj = 0 ~ [1, 3, 4, 7, 8, 9, 10, 14, 15, 16]

Соответственно в функцию Лагранжа (обобщенную или классическую) они входят с противоположными знаками.

Поскольку при решении классической задачи множители Лагранжа не ограничены знаком, т.е. могут быть разных знаков,

лишь бы все одновременно не обращались в ноль, то выполнение необходимых и достаточных условий экстремума приводит к одинаковым результатам. Это чуть позже будет показано в примере 1.

В задачах с ограничениями неравенствами или ограничениями смешанного

типа, аналогично, часто используются записи:

gj(x) = bj-vj(x)< 0 ~ [2, 17, 18], dj(x) = <р ¡(х) — bj < 0 ~ [1, 4, 7, 8, 9, 10, 11, 13, 14, 15, 16].

Так как знаки множителей Лагранжа теперь играют определяющую роль: будет это точка локального максимума или минимума, или не будет экстремальной точкой, то необходимо очень внимательно записывать необходимые и достаточные условия экстремума, а также саму функцию Лагранжа. Например, в [2] используется функция Лагранжа в виде Ь(х,Х) =

[(х) — — ф](х)), стационарные

точки, которой не отличаются от стацио-

нарных точек классической функции Ла-гранжа (2).

Рассмотрев многочисленные формы записи и функции Лагранжа, и ограничений, сформулируем наиболее простые, понятные составляющие нелинейной задачи оптимизации. Все необходимые соотношения, используемые при решении, представлены в таблице 1.

Во-первых, все ограничения будем записывать в виде:

д j(x) = (р j(x) — bj = 0 или gj(x) = (р j(x)

bj < 0.

(4)

Во-вторых, всегда будем использовать обобщенную функцию Лагранжа (3) и необходимые условия экстремума 1 -го порядка. Полученная система решается для двух случаев Х0 = 0 и Х0 Ф 0, если не удается установить условия регулярности.

Далее, для всех найденных стационарных регулярных и нерегулярных точек

проверяются достаточные условия 1 -го и 2-го порядка. Если достаточные условия экстремума не выполняются, следует проверить необходимые условия 2-го порядка, и либо продолжить исследования, либо установить отсутствие экстремальной точки. В заключении остаётся вычислить значение функции в экстремальной точке.

Таблица 1. Решение задачи нелинейной оптимизации

Задача нелинейной оптимизации

Постановка задачи f(x) ^ min(max) f(x); хЕХ x = Ls>(x}=!\ 1 i = T.m J f(x) ^ min(max) f(x); Х = \х^(Х)±0.} 1 ] = 1,m) f(x) ^ min(max) f(x); хЕХ i д](х) = 0.j = VI ( gj(x)< 0.j = k + T.m)

Обобщенная функция Лагранжа m L(x.Ag.X) = Ägf(x) + ^Ajgj(x). j=i (x*.A*0.A*) — стационарная точка функции Лагранжа

Необходимые условия экстремума 1-го порядка dL(x*.A'0.A*) п dXi . i = 1.П gj(x*) = 0.j = Tm dL(x*.A*0. A*) n дх^ . i = 1.П gj(x*) < 0,j = T^ - 0 = 0. дх^ i = 1.П gj(x*) = 0.j = Tk 9j(x*) < 0,j = k + T.m

A* > 0.j = 1. m; min (X* < 0.j = Tm-\ V max ' A*gj(x) = 0.j = T.m A* > 0.j = k + T.m; min (A* < 0.j = k + T.m; max ) A*gj(x) = 0,j = k + T.m

Достаточные условия экстремума 1-го порядка - l - число ограничений равенств и активных ограничений неравенств: если 1 = п, А* > 0,j Е ]а - локальный min ;

X* < 0,] Е ]а- локальный max; если 1 < п или X* не удовлетворяют достаточным условиям, проверить достаточные условия 2-го порядка; }а — активные ограничения

Необходимые условия экстремума 2-го порядка d2l(x*,X*) > 0min; (d2l(x*,X*) < 0max)

dgj(x*) = 0,j = 1,m dgj(x*) = 0, jEja,X*> 0 (X* < 0) dgj(x*) < 0, jeja,Xi = 0 gj(x*) = 0,j = 1,k, jEja,X*> 0 (X* < 0); dgj(x*) < 0,j Eja,Xj = 0

Достаточные условия экстремума 2-го порядка d2l(x*,X*) > 0 min; (d2l(x*,X*) < 0 max)

dgj(x*) = 0,j = 1,m dgj(x*) = 0, jEja,X*> 0 (X* < 0) dgj(x*) < 0, j£Ja,** = 0 dgj(x*) = 0,j = 1,k, jeJa,X*> 0 (X* < 0); d3j(x*) < 0,j Eja,Xj = 0

Вычисление значения функции в точке х* локального экстремума

Выполнение всех шагов алгоритма покажем на примерах.

Пример 1. Найти экстремум функции х) = 2х1 + 2x2, учитывая, что

X = [х\х2 + х2 = 5).

Решение. Так как точка (0; 0) не является решением задачи, то градиент ограничения Уд(х) = (^у^1) ^ 0 во всех точках

допустимой области, выполняются условия регулярности и Хо ^ 0, т.е. можно ис-

пользовать классическую функцию Ла-гранжа. Рассмотрим два варианта учета ограничения в функции Лагранжа в таблице 2.

Таблица 2. Решение примера 1

1 вариант 2 вариант

L(x,X) = 2xj + 2x2 + X(x2 + x2 - 8) L(x,X) = 2x1 + 2x2 + X(8 - x2 - xf)

Необходимые условия экстремума

LX]= 2 + 2x1X = 0 L'x2 = 2 + 2x2x = 0 X2 + x2 = 8 LX] = 2 - 2xjX = 0 LX2 = 2 - 2x2x = 0 X2 + x2 = 8

Решение системы

(2; 2),X = -1/2 и (-2;-2),X = 1/2 (2; 2),X = 1/2 и (-2;-2),X = -1/2

Достаточные условия экстремума d2L = 2 X(dx2 + dx2)

d2L(2; 2) < 0 ^ max; d2L(-2; -2) > 0 ^ min d2L(2; 2) < 0 ^ max; d2L(-2; -2)> 0 ^ min

fmax = f(2; 2) = 8; fmln = f(-2; -2) = -8

Как видно из примера, варианты отличаются лишь знаком множителей Лагранжа. Пример 2. Найти экстремум функции [(х) = 3х1 + 4х2, если

X = [х\х2 + х2 < 25; х1х2 > 4; х1 > 0; х2 > 0).

Решение. Во-первых, для наглядности решим эту задачу графически: д1(х) = х2 + х2 — 25 < 0 - внутренность круга с центром в (0;0) и радиусом 5; д2(х) = —х1х2 + 4 < 0,д3(х) = —х1 < 0, д2(х) = —х2 < 0 - вместе задают область справа от гиперболы. На рисунке допустимая область заштрихована, показан градиент функции дгай[(х) = {3; 4} и линия уровня 3х1 + 4х2 = 0.

Рисунок.

Точка максимума определяется из уравнения касательной к окружности с угловым коэффициентом к = —3/4: Х1 = 3; Х2 = 4; /тах = 25. Точка минимума определяется из уравнения касательной к гиперболе с тем же угловым коэффициентом к = —3/4: х1 = 443/3; х2 = 43;

/тт = 843•

Решим теперь задачу аналитически. Составим обобщенную функцию Лагранжа

Ь(х,А0,А) = А0(3х1 + 4х2)

+ А1(х21 +х2 — 25) + Х2(4 — Х1Х2) +Х3(—Х1) + Л4(—Х2).

Рассмотрим два случая: Хо = 0 и Хо Ф 0. Так как задача уже была решена графически, то рисунок показывает в любой экстремальной точке только одно активное ограничение, градиент которого Чд](х*) Ф 0,] = 1,2. Это говорит об

отсутствии нерегулярной стационарной точки, т.е. остается рассмотреть случай

Х0 Ф 0. Запишем необходимые условия экстремума 1 -го порядка.

и

х] + х22

LX] = 3 + 2xjXJ — Х2Л2 — A3 = 0;

X]

LX2 = 4 + 2х2А1 — х1А2 — Х4 = 0; + xj < 25; х1х2 > 4; х1 > 0;х2 > 0;

Aj > 0,j = 1,4 min и Aj < 0,j = 1,4 max

25) = 0; A2(4 — x1x2) = 0; A3(—x1) = 0; A4(—x2) = 0.

Последние 4 уравнения позволяют рассмотреть 2 варианта решений, из которых только два приводят к положительному результату, остальные 14 вариантов дают

противоречивые значения множителей Ла-гранжа или несовместность всей системы. Рассмотрим их подробно:

а) А1 Ф 0,А2 = Я3 =А4 = 0 ^ 3 + 2х1А1 = 0; 4 + 2х2А1 = 0; х] + х] = 25 ^

х1 = 3; х2 = 4; А1 = —1/2.

В этой точке выполняются достаточные условия 1-го порядка, а точка соответствует локальному максимуму;

б) Л2 Ф 0,Л1 = Л3 = Л4 = 0 ^ 3 — х2Л2 = 0; 4 — х1 Л2 = 0; х1х2 = 4 ^

х1 = 4^-; х2 = 43; Л2 = 43.

В этой точке выполняются достаточные ся только одно ограничение, поэтому до-условия 1 -го порядка, а точка соответству- статочные условия 1 -го порядка не выполет локальному минимуму. няются. Проверим достаточные условия 2-

Проверим достаточные условия 1 -го го порядка. порядка. В обеих точках активным являет-

d2L = 2Л1(йх21 + dxj) — 2Л2йх1йх2. d2L(3; 4) = —dxj — dxj < 0 ^ тах

d2h(443/3;4-) = —243dx1dx2 = dx2 > 0 ^ min

Остаётся вычислить значения функции: fmax = f(3; 4) = 25;

fmm=f(443 ;43) = -43.

Пример 3. Найти экстремум функции f(x) = Х1Х2 при условии

д1(х) = 4х] + х2 — 4 = 0 и д2(х) = х] + 2х] — - < 0.

Решение. Составим обобщенную функцию Лагранжа

Ь(х,Л0,Л) = Л0х^2 + Л}(4х 2 + х2 — 4) + Л2(х2 + 2х2 — -)

Выпишем необходимые условия экстремума 1-го порядка

L'Xl = Л0х2 + -х1Л1 + 2х^2 = 0; L'x = Л0х1 + 2х2Л1 + 4х2 Л2 = 0;

4x2 + х2 — 4 = 0; х2 + 2x2 — - < 0; Л2 > 0,min и Л2 < 0,тах Л2(х 2 + 2x2 — -) = 0. Пусть Л0 = 0 ^ -х1Л1 + 2х^2 = 0; 2х2Л1 + 4х2Л2 = 0;

4x2 + х2 — 4 = 0; Л2(Х2 + 2x2 — -) = 0.

а) Л2 = 0 ^ х1Л1 = 0; х2Л1 = 0; 4x2 + х2: — 4 = 0. Возможны два варианта: Л1 = 0, что противоречит условию не равенства нулю всех множителей одновременно; Л1 Ф 0 ^ Х1 = Х2 = 0, а система ограничений несовместна;

б) Л2 Ф 0 ^ х1(4Л1 + Л2) = 0; х2 (Л1 + 2Л2) = 0;

4x2 + х2 — 4 = 0; х2 + 2x2 — - = 0.

Здесь также возможны два варианта:

1) х1 = 0; х22 = 4; Л1 = —2Л2; и две нерегулярные точки (0; 2) и (0; -2), а Л2 не ограничено знаком;

2) 4Л1 + Л2 = 0; х2(Л1 + 2Л2) = 0; 4х2 + х2 — 4 = 0; х2 + 2х2 — 8 = 0; система несовместна.

Пусть Л0 Ф 0 ^ х2 + 8х1Л1 + 2х1Л2 = 0; х1 + 2х2Л1 + 4х2Л2 = 0;

4x2 + х2 — 4 = 0; л2(х2 + 2х\ — 8) = 0.

а) Л2 = 0 ^ х2 + 8х1Л1 = 0; х1 + 2х2Л1 = 0; 4х2 + х2 — 4 = 0. Откуда имеем четыре регулярные точки:

(±2; л): &; —*)■; (—12; (—1; и я, = — £

б) Л2 Ф 0 ^ х2 + 8х1Л1 + 2х1Л2 = 0; х1 + 2х2Л1 + 4х2Л2 = 0;

4x2 + х2 — 4 = 0; х2 + 2x2 — 8 = 0.

Данная система несовместна.

Проверим достаточные условия 1-го порядка. Эти условия для нерегулярных точек проверять не надо. Для регулярных точек ограничение неравенство является пассивным, поэтому следует проверить необходимые условия 2-го порядка.

д2Ь д2Ь д2Ь

1 их2 ил1ил2

'2 + 1Ы,Л2'

d2L = (8Л1 + 2Ä2)dxj + (2Л1 + 4Л2)dx2 + 2dx1dx2.

Из 4x2 + х2 — 4 = 0 получим dx2 = — — dx1. С учетом Л1 = — — второй дифференци-

%2 2Х2

ал примет вид d2L = (—^-)(16dx2 + 2dx2). Для исследуемых точек: d2; =

d2L (— 1; —V2) < 0 ^ локальный max; d2L (— 1; = d2L (1; >

0 ^ локальный min.

Достаточные условия 2-го порядка также выполняются. Остается вычислить значение функции во всех найденных точках:

f(1' 4i)=f(—1' = 1 =fmax f(1; ) = f(T1; ^) = —1 =fmin

f(0; 2) = f(0; —2) = 0 не является точкой экстремума.

Заключение

В заключении можно сделать следующие выводы о решении задачи нелинейной оптимизации:

- если удается доказать регулярность допустимой области, достаточно рассмотреть классическую функцию Лагранжа;

- если условия регулярности не выполняются или доказать их проблематично,

необходимо обязательно рассмотреть обобщенную функцию Лагранжа;

- помимо необходимых и достаточных условий экстремума 1 -го порядка при их невыполнении следует проверить необходимые и достаточные условия 2-го порядка;

- если не удаётся найти решение задачи аналитически, необходимо воспользоваться подходящими численными методами.

Библиографический список

1. Майорова Н.Л., Глазков Д.В. Методы оптимизации: учебное пособие / Н.Л. Майорова, Д.В. Глазков; Ярославский гос. ун-т им. П.Г. Демидова. - Ярославль: Яр-ГУ, 2015. - 112 с.

2. Дубова Т.П., Семенова О.Л. Условный экстремум. Отыскание экстремальных значений: методические указания. - СПб.: Санкт-Петербургский гос. ун-т, 2021. - 29 с.

3. Далингер В.А., Симонженков С.Д. Метод множителей Лагранжа и его применения: учеб. пособие. - Омск: Изд-во ООО «Амфора», 2012. - 115 с. - 19 ил.

4. Бахтин В.И., Иванишко И.А., Лебедев А.В., Пиндрик О.И. Метод множителей Лагранжа: метод. пособие для студентов спец. 1-31 03 01-03 «Математика (экономическая деятельность)». - Минск: БГУ, 2012. - 40 с.

5. Кузнецов А.В., Сакович В.А., Холод Н.И., Дежурко Л.Ф., Рутковский Р.А., Слу-кин Н.М. Сборник задач и упражнений по высшей математике. Математическое программирование. - Минск: Вышейшая школа, 1995. - 382 с.

6 Карманов В.Г. Математическое программирование. 2-е изд., перераб. - М.: Наука, Гл. редакция физ.-мат. лит-ры, 1980. - 256 с.

7. Пантелеев А.В., Летова Т.А. Методы оптимизации в примерах и задачах: Учебное пособие. - М.: Высшая школа, 2005. - 544 с.: ил.

8. Бирюков Р.С., Городецкий С.Ю., Григорьева С.А., Павлючонок З.Г., Савельев В.П. Методы оптимизации в примерах и задачах: Учебно-методическое пособие. - Нижний Новгород: Нижегородский госуниверситет, 2010. - 101 с.

9. Манита Л.А. Условия оптимальности в конечномерных нелинейных задачах оптимизации. Учебное пособие. - М.: Московский государственный институт электроники и математики, 2010. - 84 с.

10. Яркова О.Н., Раменская А.В., Реннер А.Г., Чудинова О.С. Математические методы и модели исследования операций: учебное пособие / под. ред. А.Г. Реннера; Оренбургский гос. ун-т. - Оренбург: ОГУ, 2021. - 296 с.

11. Воронцова Е.А., Хильдебранд Р.Ф., Гасников А.В., Стонякин Ф.С. Выпуклая оптимизация: учебное пособие. - Москва: МФТИ, 2021. - 364 с.

12. Минченко Л.И., Лещев А.Е. Условия регулярности в задачах нелинейного программирования // Доклады БГУИР. - 2014. - №5 (83).

13. Бережнов Д.Е., Минченко Л.И. К условию R-регулярности в математическом программировании // Известия Национальной академии наук Беларуси. Серия физико-математических наук, Том 55, № 3 (2019), С. 309-318. - [Электронный ресурс]. - Режим доступа: https://doi.org/10.29235/1561-2430-2019-55-3-309-318 (дата обращения: 15.07.2024).

14. Богданова Е.Л. Оптимизация в проектном менеджменте: нелинейное программирование: учебное пособие / Е.Л. Богданова, К.А. Соловейчик, К.Г. Аркина. - СПб.: Университет ИТМО, 2017. - 190 с.

15. Решение задач оптимизации в Microsoft Excel 2010: учеб. пособие / Н.И. Шадрина, Н.Д. Берман; [науч. ред. Э.М. Вихтенко]. - Хабаровск: Изд-во Тихоокеан. гос. ун-та, 2016. - 101 с.

16. Городецкий С.Ю. Лекции по нелинейному математическому программированию: Учебно-методическое пособие. - Нижний Новгород: Нижегородский госуниверситет, 2020. - 173 с.

17. Максимей И.В., Серёгина В.С. Задачи и модели исследования операций. Ч. 2. Методы нелинейного и стохастического программирования: Учебное пособие. - Гомель: Бел-ГУТ, 1999. - 103 с.

18. Акулич И.Л. Математическое программирование в примерах и задачах: Учебное пособие для студентов экономических специальностей вузов. - М.: Высшая школа, 1986. -319 с.

SOME FEATURES OF THE NONLINEAR OPTIMIZATION PROBLEM

I.L. Makarova, Candidate of Technical Sciences, Associate Professor A.M. Ignatenko, Senior Lecturer Sochi State University (Russia, Sochi)

Abstract. The subject of this article is some features of the nonlinear optimization problem. An algorithm and examples of solving nonlinear optimization problems using the generalized Lagrange function, necessary and sufficient conditions of the 1st and 2nd order extremum are presented. Numerous forms of writing and Lagrange functions and constraints are considered, and the simplest, most understandable components of a nonlinear optimization problem are formulated. Conclusions are drawn about the cases of application of classical and generalized Lagrange functions.

Keywords: generalized Lagrange function, regularity conditions, necessary and sufficient conditions of the 1st and 2nd order.