Научная статья на тему 'О ПРИМЕНЕНИИ ЧИСЛЕННЫХ МЕТОДОВ ВТОРОГО ПОРЯДКА К ЗАДАЧАМ СТОХАСТИЧЕСКОГО ПРОГРАММИРОВАНИЯ С ФУНКЦИЕЙ ВЕРОЯТНОСТИ'

О ПРИМЕНЕНИИ ЧИСЛЕННЫХ МЕТОДОВ ВТОРОГО ПОРЯДКА К ЗАДАЧАМ СТОХАСТИЧЕСКОГО ПРОГРАММИРОВАНИЯ С ФУНКЦИЕЙ ВЕРОЯТНОСТИ Текст научной статьи по специальности «Математика»

CC BY
23
6
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Труды МАИ
ВАК
Область наук
Ключевые слова
СТОХАСТИЧЕСКОЕ ПРОГРАММИРОВАНИЕ / ФУНКЦИЯ ВЕРОЯТНОСТИ / ГЛАДКАЯ АППРОКСИМАЦИЯ / СИГМОИДАЛЬНАЯ ФУНКЦИЯ / ПРОИЗВОДНЫЕ ВТОРОГО ПОРЯДКА

Аннотация научной статьи по математике, автор научной работы — Торишный Роман Олегович

В работе исследуется возможность применения численных методов оптимизации второго порядка для решения задач стохастического программирования с функцией вероятности в качестве критерия и/или ограничения. Приводятся формулы вычисления вторых производных гладкой аппроксимации функции вероятности по элементам вектора управления. На ряде примеров проводится сравнение гладких аппроксимаций производных первого и второго порядка с соответствующими конечными разностями точной функции вероятности, подтверждающее хорошую точность аппроксимации. Также в работе решается задача формирования инвестиционного портфеля с логарифмической функцией потерь и вероятностным критерием.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

APPLICATION OF THE SECOND-ORDER OPTIMIZATION METHODS TO THE STOCHASTIC PROGRAMMING PROBLEMS WITH PROBABILITY FUNCTION

The author considers the application of the second-order optimization algorithms for stochastic optimization problems with the probability function as the objective or/and constraint function. The approximation of the probability function is based on the replacement of the Heaviside function with its smooth analog - the sigmoid function. It has been shown previously that such approximation and its first order derivatives with respect to the elements of the control vector converge to the exact ones. Moreover, the replacement of the probability function with its smooth approximation within the stochastic optimization problem leads to a good approximation of the optimal control vector and the optimal value of the target function. The smooth approximation of the derivatives allows us to use the first-order optimization algorithms. Now the direct formulas for the second order derivatives of the approximated probability function with respect to the elements of the control vector are provided. The proof of convergence of the second-order derivatives is not considered in this research. Possible applications of such approximations include the development of the new numerical algorithms for solving stochastic optimization problems, and new algorithms to determine the surface level of the probability function. Some numerical examples are considered in this article. For the cases of linear, quadratic, and logarithmic loss functions it was shown that the values of the smooth approximation of the probability function and their derivatives tend to exact values as the parameter in the sigmoid function tends to infinity. Also, an example of the constrained stochastic optimization problem with the logarithmic loss function and the probability function as the target was considered. The modification of Newton’s method is used to solve this problem to determine an optimal investment portfolio with three possible assets.

Текст научной работы на тему «О ПРИМЕНЕНИИ ЧИСЛЕННЫХ МЕТОДОВ ВТОРОГО ПОРЯДКА К ЗАДАЧАМ СТОХАСТИЧЕСКОГО ПРОГРАММИРОВАНИЯ С ФУНКЦИЕЙ ВЕРОЯТНОСТИ»

Труды МАИ. 2021. № 121 Trudy MAI, 2021, no. 121

Научная статья УДК 519.856

DOI: 10.34759/Ы-2021-121-17

О ПРИМЕНЕНИИ ЧИСЛЕННЫХ МЕТОДОВ ВТОРОГО

ПОРЯДКА К ЗАДАЧАМ СТОХАСТИЧЕСКОГО ПРОГРАММИРОВАНИЯ С ФУНКЦИЕЙ ВЕРОЯТНОСТИ

Роман Олегович Торишный

Московский авиационный институт (национальный исследовательский университет), МАИ, Москва, Россия arenas-26@yandex.ru

Аннотация. В работе исследуется возможность применения численных методов оптимизации второго порядка для решения задач стохастического программирования с функцией вероятности в качестве критерия и/или ограничения. Приводятся формулы вычисления вторых производных гладкой аппроксимации функции вероятности по элементам вектора управления. На ряде примеров проводится сравнение гладких аппроксимаций производных первого и второго порядка с соответствующими конечными разностями точной функции вероятности, подтверждающее хорошую точность аппроксимации. Также в работе

решается задача формирования инвестиционного портфеля с логарифмической функцией потерь и вероятностным критерием.

Ключевые слова: стохастическое программирование, функция вероятности, гладкая аппроксимация, сигмоидальная функция, производные второго порядка Финансирование: данное исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-31-90035

Для цитирования: Торишный Р.О. О применении численных методов второго порядка к задачам стохастического программирования с функцией вероятности // Труды МАИ. 2021. № 121. DOI: 10.34759/trd-2021-121-17

APPLICATION OF THE SECOND-ORDER OPTIMIZATION METHODS TO THE STOCHASTIC PROGRAMMING PROBLEMS

WITH PROBABILITY FUNCTION

Roman O. Torishniy

Moscow Aviation Institute (National Research University),

Moscow, Russia

arenas-26@yandex.ru

Abstract. The author considers the application of the second-order optimization algorithms for stochastic optimization problems with the probability function as the objective or/and constraint function. The approximation of the probability function is based on the replacement of the Heaviside function with its smooth analog - the sigmoid function. It has been shown previously that such approximation and its first order

derivatives with respect to the elements of the control vector converge to the exact ones. Moreover, the replacement of the probability function with its smooth approximation within the stochastic optimization problem leads to a good approximation of the optimal control vector and the optimal value of the target function. The smooth approximation of the derivatives allows us to use the first-order optimization algorithms. Now the direct formulas for the second order derivatives of the approximated probability function with respect to the elements of the control vector are provided. The proof of convergence of the second-order derivatives is not considered in this research. Possible applications of such approximations include the development of the new numerical algorithms for solving stochastic optimization problems, and new algorithms to determine the surface level of the probability function.

Some numerical examples are considered in this article. For the cases of linear, quadratic, and logarithmic loss functions it was shown that the values of the smooth approximation of the probability function and their derivatives tend to exact values as the parameter in the sigmoid function tends to infinity. Also, an example of the constrained stochastic optimization problem with the logarithmic loss function and the probability function as the target was considered. The modification of Newton's method is used to solve this problem to determine an optimal investment portfolio with three possible assets. Keywords: stochastic programming, probability function, smooth approximation, sigmoid, second order derivatives

Funding: the reported study was funded by RFBR, project number 20-31-90035

For citation: Torishniy R.O. Application of the second-order optimization methods to the stochastic programming problems with probability function. Trudy MAI, 2021, no. 121. DOI: 10.34759/trd-2021-121-17

Введение

Настоящая статья посвящена вопросу применения численных методов оптимизации второго порядка в задачах стохастического программирования, включающих в себя функцию вероятности. Последняя может выступать в рассматриваемых задачах в качестве критерия оптимизации и/или в качестве функции ограничения. Известно, что функция вероятности не является выпуклой или вогнутой на всей области определения [1]. Как правило, функция вероятности исследуется на квазивыпуклость и используются свойства, следующие из её квазивыпуклости; данные свойства освещены в [2-5]. Утверждения о свойствах квазивыпуклости функции вероятности опираются на понятия квазивогнутых и логарифмически вогнутых вероятностных мер, рассматриваемых в [6-9]. Также, в других работах рассматриваются свойства множеств уровня функции вероятности, например, условия выпуклости множеств уровня для достаточно больших значений вероятности [10], условия связности данных множеств уровня [11] и т.д..

В приведенных выше работах прямо не рассматриваются вопрос, смежный с анализом выпуклости функций или их оценкой - а именно вычисление или оценка значения производных функции вероятности. Основная сложность в вычислении производных функции вероятности заключается в функции Хевисайда, входящей

в интегральное представление функции вероятности. Таким образом, при прямом дифференцировании функции вероятности появляется дельта-функция Дирака, а производная в общем случае принимает вид поверхностного интеграла. Ранее были получены формулы для прямого вычисления производной функции вероятности в форме поверхностного интеграла Римана [12], в форме интеграла Лебега по поверхности [13], а также в виде выражений, использующих метод трансформации интеграла Лебега [14]. Также было показано, что при некоторых ограничениях производная представима в виде суммы поверхностного и объемного интегралов [15]. Данные методы вычисления точной производной функции вероятности достаточно сложны ввиду интегрирования по поверхности, которая может быть задана неявно.

Сложности при прямом вычислении точных значений функции вероятности и ее производной обуславливают развитие альтернативных методов решения задач стохастического программирования, например, методов частичной линеаризации модели [16] или методов перехода к эквивалентным детерминированным задачам [17]. Автором предложена гладкая аппроксимация функции вероятности [18], позволяющая применять иные методы решения задач стохастического программирования с вероятностным критерием или вероятностными ограничениями. Функция Хевисайда в выражении функции вероятности заменяется её гладкой аппроксимацией - сигмоидой. Показано, что аппроксимированное значение функции вероятности сходится к точному при стремлении параметра сигмоиды к бесконечности. Более того, частные

производные гладкой аппроксимации по уровню потерь и по компонентам вектора управления сходятся к соответствующим производным исходной функции вероятности и имеют вид объемного интеграла, который вычисляется относительно легко. В [19-20] было получено обобщение такого подхода на случай произвольной размерности вектора случайных параметров, а также предложен способ применения гладкой аппроксимации функции вероятности в задаче построения альфа-ядра вероятностной меры, а также в задаче оптимизации с полиэдральной функцией потерь и вероятностным критерием.

В [21] показана возможность применения гладкой аппроксимации функции вероятности к прикладным задачам стохастического программирования, ранее описанным в [1]: задаче проектирования системы водоснабжения в пустынной местности, задаче определения площади взлетно-посадочной полосы, а также в задаче определения множества допустимых скоростей ветра для обеспечения безопасной посадки с заданной вероятностью. Во всех случаях были получены решения, близкие к оптимальным, и превосходящие по значению функции вероятности решения, полученные с помощью доверительного метода. Таким образом, замена функции вероятности на ее гладкую аппроксимацию позволяет получить хорошую аппроксимацию исходной задачи как по значению критерия, так и по оптимальному управлению. Для решения задач в [21] использовался метод проекции градиента - численный метод оптимизации первого порядка. Знание вторых производных гладкой аппроксимации функции вероятности позволит

использовать численные методы второго порядка, что может повысить эффективность и точность решения.

В представленной работе получены выражения для вторых производных гладкой аппроксимации функции вероятности. Численные эксперименты показывают, что получаемые вторые производные гладкой аппроксимации сходятся ко вторым производным исходной функции вероятности при стремлении параметра в показателе экспоненты в сигмоиде к бесконечности. Вторые производные точной функции вероятности оценивались с помощью конечных разностей. Для сравнения близости аппроксимированного и точного значений производной рассмотрено три примера: с билинейной функцией потерь, квадратичной функцией потерь, а также с логарифмической функцией потерь. Доказательство сходимости аппроксимации вторых производных к точным значениям выходят за рамки представленной работы. В качестве примера применения алгоритма решения задачи с рассматриваемыми аппроксимациями приведено решение задачи портфельной оптимизации с логарифмической функцией потерь и вероятностным критерием.

Постановка задачи

Рассмотрим случайный вектор X е Я" с абсолютно непрерывным

распределением и плотностью распределения /: Я" ^ Я1. Также рассмотрим

строго кусочно-монотонную функцию Ф(и, х): Ят х Я" ^ Я1, зависящую от

реализации х случайного вектора X и вектора управления и еи с Ят. Функция

Ф(и, x) называется функцией потерь и отражает потери при выбранном векторе

управления и и реализации x вектора случайных параметров.

Поскольку реализация вектора случайных параметров неизвестна на этапе выбора вектора управления u, а Ф(и, x) де-факто является случайной функцией, выбор оптимального управления невозможен исходя из прямого сравнения значений функции потерь при разных векторах управления. Поэтому в качестве критерия оптимизации используется вероятностный критерий, численно равный вероятности того, что потери не превысят заранее заданный уровень р. Таким образом, функция вероятности задается как:

Рр(и) = P{X: Ф(и, X) <р}. (1)

Из физического смысла функции потерь следует, что оптимальное управление должно доставлять максимум функции вероятности, из чего следует оптимизационная задача:

Рр(и) ^ max . (2)

^ UBÜ

В некоторых случаях не существует однозначного правила определения допустимого уровня потерь ( . В данной ситуации может применяться подход с фиксацией допустимой вероятности и минимизацией величины, которую потери не превзойдут с этой фиксированной вероятностью. Это приводит к рассмотрению задачи квантильной оптимизации, то есть задаче стохастического программирования с функцией квантили в качестве критерия.

Функция квантили определяется как:

<a(u) = min{<: Pv{u) >a}, (3)

а задача квантильной оптимизации формулируется как:

р» ^ min (4)

ueU

В рамках данной статьи рассматривается только функция вероятности. Вопрос аппроксимации функции квантили и ее производных рассмотрен в [18], а выражения для вторых производных могут быть получены аналогичным образом.

Основные соотношения

В данном разделе описывается гладкая аппроксимация функции вероятности. Для начала приведем основные соотношения и определения из [18-19]. Функция вероятности может быть представлена следующим образом:

р(и) = М[/{Ф(и,X) < р}] = 1/{Ф(и,х) < р}/(х))сСх = |©(р - Ф(и,х))/(х)Сх, (5)

с с

где О = supp(X) с Я" - носитель распределения вектора X, /{Ф(и, X) <р} и 0(р-Ф(и, X)) - индикаторная функция и функция Хевисайда соответственно:

Г1, Ф(и, X) <р Г1, р-Ф(и, X) > 0

/{Ф(и, X) <р} = \ ' ф((, у) Р, 0(р-Ф(и, X)) = \Р ) 0. (6)

[ 0, Ф(и, X) > р [0, р - Ф(г/, X) < 0

Основная идея аппроксимации сводится к замене функции Хевисайда в представлении функции вероятности на её гладкую аппроксимацию - сигмоиду:

^ у) = ^, (7)

где параметр 0 определяет крутизну кривой в окрестности нуля и обычно является большим положительным числом. Таким образом, аппроксимация функции вероятности принимает вид:

Р0(-) = | ^о(Р - Ф(- х))/(х)^. (8)

о

Для компактной записи производных такой аппроксимации введем обозначение для функции - производной сигмоиды:

Я0 (х) = 0^о( х) (1 - Бо(х)). (9)

Тогда частные производные по компонентам вектора управления — при / = 1, т и частная производная по уровню потерь р имеют вид:

-Р0(и )

-р-^ = -ГБ0 (р - Ф(и, х)) • Ф- (и, х) • /(х)дх (10)

-- О -

-Р0 (и )

р ( ) = [Б'в (р-Ф(и, х))/(х)йх. (11)

-Р О

Соотношение (11) фактически определяет плотность распределения потерь

при заданном управлении и. В [18-19] показано, что для любого I = 1, т при 0 ^ да верны следующие утверждения:

п-в- п dP°(u) dP (u) dP°(u) dPJu)

Se( y) - 0( y), P» - P„(u), -Ç^ , -Ç^ --Ç^. (12)

out щ oç oç

Для компактной записи вторых производных функции вероятности введем обозначение для второй производной сигмоиды:

SI(x) = 62S(x) (1 - S(x))(1 - 2S(x)). (13)

Тогда вторая смешанная частная производная функции вероятности по

компонентам управления щ и u}, i = 1, m, j = 1, m примет вид:

52 K(u)

du, 5u, „

i j G

= JS£(p - Ф(и, x)) ■ Ф^ (u, x) ■ Ф^ (u, x) ■ /(x)dx -J Sj(p - Ф(u, x)) ■ ФЩЩ (u, x) ■ / (x)dx.

(14)

G

Важным частным случаем является случай линейной или билинейной функции потерь. При этом вторые частные производные функции потерь будут равны нулю, и вторая смешанная частная производная примет более простой вид: д2 Р° (и)

-ри^ = Г^(р - Ф(и,х)) • ф; (и,х) • ф; (и,х) • /(х)Сх . (15)

ди ди ^ ' '

' ) о

Сравнение конечно-разностной оценки и гладкой аппроксимации вторых производных функции вероятности

В данном разделе приведены результаты расчетов функции вероятности, ее

гладкой аппроксимации, а также их первых и вторых производных. Производные

точной функции вероятности оценивались с помощью конечных разностей, а ее

исходные значения - с помощью численного интегрирования средствами

библиотеки SciPy языка Python. Значения аппроксимаций функции вероятности и

ее производных, представляющие собой интегралы в соответствии с формулами

(10), (14), (15), вычислялись с помощью метода Монте-Карло на 8000 реализаций.

Пример 1. Рассмотрим пример с одной случайной величиной, одномерным

управлением и билинейной функцией потерь:

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Ф(-,Х) = 1 + и + X + иХ (16)

Пусть значение целевого уровня потерь р равно 2, а случайная величина X имеет нормальное распределение: X ~ ^(1,1). В примере проводится сравнение точных и аппроксимированных значений функции вероятности, её первой и второй производных, вычисленных соответствующими способами, при разных значениях параметра сигмоиды 0. Результаты сравнения представлены на рисунках 1 -3.

1РМ

1.00.80.60.40.2-

—I-1-1— —I-1-1— —I-1-1—

-1 0 1-1 0 1-1 0 1

а) б) в)

Рисунок 1. Сравнение точных и аппроксимированных значений функций при параметре сигмоиды 2 и билинейной функции потерь: а)функции вероятности; б)первой производной; в)второй производной

-1 0 1-1 О 1-1 О 1

а) б) в)

Рисунок 2. Сравнение точных и аппроксимированных значений функций при параметре сигмоиды 5 и билинейной функции потерь: а)функции вероятности; б)первой производной; в)второй производной

—I-1-1— —I-1-1— —I-1-

-1 0 1-1 0 1-1 О 1

а) б) в)

Рисунок 3. Сравнение точных и аппроксимированных значений функций при параметре сигмоиды 10 и билинейной функции потерь: а)функции вероятности; б)первой производной; в)второй производной

Как видно из рисунков 1-3, аппроксимация функции вероятности и ее производные достаточно быстро сходятся к точным значениям. При этом, при фиксированном значении параметра 0 относительные погрешности производных растут по мере увеличения порядка дифференцирования. Также при увеличении порядка дифференцирования форма кривой аппроксимированной функции начинает сильнее зависеть от выборки, по которой происходит расчет интегралов методом Монте-Карло, т.е. по мере увеличения размера выборки ожидается затухание колебаний значений аппроксимированной функции второй производной. Доказательство этой сходимости не является предметом исследования данной статьи.

Пример 2. Рассмотрим пример с квадратичной функцией потерь. Пусть

Ф(и, X) = 1 + и + X + (X - и)2 (17)

Значение целевого уровня потерь и распределение случайной величины X берем аналогично предыдущему примеру: р = 2, X ~ ^(1,1). Как и в первом случае, сравним точные и аппроксимированные значения функции вероятности, её первой и второй производных при значении параметра сигмоиды 0 = 10. Результаты сравнения представлены на рисунке 4.

10 1-1 0 -1 о

а) б) в)

Рисунок 4. Сравнение точных и аппроксимированных значений функций при параметре сигмоиды 10 и квадратичной функции

потерь:

а)функции вероятности; б)первой производной; в)второй

производной

Пример 3. В [22] рассматривалась задача формирования портфеля ценных бумаг с логарифмической функцией потерь, критерием в форме математического ожидания и равномерным распределением доходностей активов. Предполагается, что инвестор может вложить средства в безрисковый актив с доходностью Ъ0 и два рисковых актива с доходностями X1 и X2. В качестве функции потерь рассмотрим логарифм будущей стоимости портфеля, отражающий прирост капитала инвестора:

Ф(и, X) = 1п (0,(1 + (1 - и1 - и2)Ъ, + и^,)). (18)

Вероятностный критерий примет вид:

Рр(и) = р^: Ф(и, X) <р}. (19)

Доходности рисковых активов распределены равномерно:

X ~u(-i,i+2щ), x ~u(-i,i+2m), (20)

Параметр C0 для простоты примем равным 1. Значения остальных параметров зададим следующим образом:

(р = 0.5, Ь0 = 0.05, m = 0.1, m = 0.2 • (21)

Результаты построения поверхностей точной и аппроксимированной вероятностных функций при 0 = 50 представлены на рисунке 5. При расчетах предполагалось, что у инвестора нет возможности приобретать активы на заемные средства (т.е. запрет на операции short sale); по этой причине расчеты ограничены областью, где щ + и2 < 1. Также были построены поверхности второй смешанной частной производной по управлению для точной и аппроксимированной функций вероятности (фрагменты поверхностей представлены на рисунке 6).

pju) Рвли)

0.50 ^О* 0.25 0.50 U.

075 loo °-00 075 1.00 000

Рисунок 5. Сравнение поверхностей точной (слева) и аппроксимированной

(справа) вероятностных функций

Рф(и)

д'

Р»

ди]_аи2 Ч>

ди1ди2 <Р

0.0 -0.5 -1.0 -1.5 -2.0

0.3

0.0

0.3

0.0

Рисунок 6. Сравнение фрагментов поверхностей вторых смешанных частных производных точной (слева) и аппроксимированной (справа) вероятностных

функций

Для ускорения расчетов исходная поверхность для точной функции вероятностей строилась по грубой сетке с разделением отрезка [0,1] по каждой переменной на 15 частей. Это приводит к неустойчивости оценок смешанной частной производной с помощью конечных разностей. Тем не менее, вторая смешанная частная производная гладкой аппроксимации адекватно отражает форму поверхности, а глубина «оврага» растет по мере увеличения параметра сигмоиды. Сравнение поверхностей для значений параметра сигмоиды 25 и 50 представлено на рисунке 7.

Р15(и)

Р5и°(и)

- 0.0 ' -0.5 -1.0 -1.5

-2.0

0.3

0.0

0.3

0.0

Рисунок 7. Сравнение фрагментов поверхностей вторых смешанных частных производных гладкой аппроксимации для параметров сигмоиды 25 (слева) и 50

(справа)

Решение задачи формирования портфеля ценных бумаг с вероятностным критерием, логарифмической функцией дохода и равномерным распределением доходностей

Рассмотрим задачу, аналогичную рассмотренной в примере 3 предыдущего раздела:

Ф(и,X) = 1п(С0(1 + (1 -щ -и2)Ь0 +щХ2 + и2Х2)),

(22)

x ~ и(-1,1+2щ), х2 ~ и(-1,1+2т),

(23)

С = 1, (р = 0.1, ь = 0.05, т = 0.1, т = 0.25.

(24)

Задача максимизации функции вероятности формулируется как:

р (и) = Р{Х: Ф(и, X) > (} ^ тах

(25)

Предлагается решить приближенную к (25) задачу, в которой точная функция вероятности заменена на гладкую аппроксимацию. Отметим, что поверхность этой функции вероятности будет зеркальным отражением поверхности, изображенной на рисунке 5, поскольку в функции вероятности знак неравенства изменен на противоположный. Зададим значение параметра сигмоиды 0 = 50 и количество реализаций для метода Монте-Карло равным 15000.

Для решения задачи используется модификация метода Ньютона. В качестве начального приближения возьмем точку м[0] = (0.25,0.25). Согласно классическому методу Ньютона, очередное приближение точки оптимума определяется через приближенное нахождение нуля градиента целевой функции, т.е. направление возрастания или убывания целевой функции не учитывается. В модификации новое приближение оптимума на каждом шаге выбирается как наилучшее по значению критерия из трех приближений: полученного по методу Ньютона, полученного при движении с шагом, противоположным методу Ньютона, а также полученного по методу градиентного спуска. Новое приближение оптимума по методу Ньютона вычисляется как:

ии+1] = ы[г] - Н-1 (ы1,]) • (ы1,]), (26)

где Н _1(м[г ]) - матрица, обратная Гессиану функции р0 (•), вычисленная в текущей

точке Щ ]. При решении учитываем ограничения на неотрицательность переменных

и ограничение на сумму компонент вектора управления щ + п2 < 1. При

приближении текущего решения к границе области допустимых решений

ограничивается шаг алгоритма до достижения соответствующей границы. При

19

достижении границы области допустимых решений шаг алгоритма заменяется на проекцию полученного шага алгоритма на границу достигнутого ограничения. Результаты работы алгоритма решения представлены на рисунке 8.

1.00.8 -

0.6-

0.40.2 -0.0 .

0.0 0.2 0.4 0.6 0.8 1.0

и\

Рисунок 8. Иллюстрация пошаговой работы алгоритма по достижению

оптимального управления На рисунке 8 черными и синими линиями показаны уровни функции вероятности,

а стрелками - переходы от управления на текущем шаге к управлению на следующем шаге. Из рисунка видно, что алгоритм сходится в данном случае за восемь шагов, а оптимальным управлением является точка [0,1]. Таким образом, оптимальной стратегией является вложение всех средств в актив с более высокой ожидаемой доходностью.

Заключение

В работе получены выражения для вторых производных гладкой аппроксимации функции вероятности по компонентам вектора управления. Приведенные примеры демонстрируют, что эти производные хорошо аппроксимируют соответствующие производные точной функции вероятности, аналитическое вычисление которых сильно затруднено. Знание вторых производных позволяет применять численные методы второго порядка к решению задач стохастического программирования с вероятностным критерием или ограничением в форме функции вероятности. В этом случае исходная функция вероятности заменяется на свою гладкую аппроксимацию. Правомерность такой замены и близость получаемых решений в точной и аппроксимированной постановке задачи показана автором ранее. В качестве примера решена задача формирования портфеля ценных бумаг с вероятностным критерием, логарифмической функцией полезности и равномерным распределением доходностей случайных параметров.

Список источников

1. Кибзун A.H, Кан Ю.С. Задачи стохастического программирования с вероятностными критериями. - М.: Физматлит, 2009. - 372 с.

2. Prekopa A. Stochastic Programming, Springer Netherlands, 1995, 600 p.

3. Shapiro A., Dentcheva D., Ruszczynski A. Lectures on Stochastic Programming. Modeling and Theory. Philadelphia: Society for Industrial and Applied Mathematics (SIAM), 2009, 450 p. DOI:10.1137/1.9780898718751

4. Тамм Э. О квазивыпуклости функций вероятности и квантили // Известия Академии наук Эстонской ССР. 1976. Т. 25. № 2. С. 141-144.

5. Кан Ю.С., Кибзун А.И. Свойства выпуклости функций вероятности и квантили в задачах оптимизации // Автоматика и телемеханика. 1996. № 3. С. 82102.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

6. Prekopa A. Logarithmic Concave Measures with Application to Stochastic Programming // Acta Sci. Math. (Szeged), 1971, vol. 32, pp. 301-316.

7. Prekopa A. On Logarithmic Concave Measures and Functions // Acta Sci. Math. (Szeged), 1973, vol. 34, pp. 335-343.

8. Borell C. Convex Set Functions in d-Space // Periodica Mathematica Hungatica, 1975, vol. 6, no. 2, pp. 111-136.

9. Норкин В.И., Роенко Н.В. а-Вогнутые функции и меры и их приложения // Кибернетика и системный анализ. 1991. № 6. С. 77-88.

10. Van Ackooij W. Eventual Convexity of Chance Constrained Feasible Sets // Optimization (J. Math. Programm. Oper. Res.), 2015, vol. 64, no. 5, pp. 1263-1284.

11. Henrion R. On the Connectedness of Probabilistic Constraint Sets // Journal of Optimization Theory and Applications, 2002, vol. 112, no. 3, pp. 657-663. DOI:10.1023/A:1017976418636

12. Райк Э. Дифференцируемость по параметру функции вероятности и стохастический псевдоградиентный метод для ее оптимизации // Известия Академии наук Эстонской ССР. Физика. Математика. 1975. Т. 24. № 1. С. 3-9.

13. Кибзун А.И., Третьяков Г.Л. О гладкости критериальной функции в задаче квантильной оптимизации // Автоматика и телемеханика. 1997. № 9. С. 69-80.

14. Marti K. Differentiation formulas for probability functions: The transformation method // Mathticacal Programming, 1996, vol. 75, pp. 201-220. DOI: 10.1007/BF02592152

15. Uryas'ev S. Derivatives of probability functions and some applications // Annals of Operations Research, 1995, vol. 56, pp. 287-311. DOI: 10.1007/BF02031712

16. Васильева С.Н., Кан Ю.С. О линеаризации модели возмущенного движения в задаче вероятностного анализа рассеивания баллистических траекторий // Труды МАИ. 2018. № 99. URL: http ://trudymai.ru/published.php?ID=92015

17. Иванов С.В., Наумов А.В. Двухуровневая задача стохастического программирования с несколькими последователями и её приложение к оптимизации энергосберегающих проектов // Труды МАИ. 2014. № 77. URL: http://trudymai.ru/published.php?ID=52932

18. Соболь В.Р., Торишный Р.О. О гладкой аппроксимации вероятностных критериев в задачах стохастического программирования // Труды СПИИРАН. 2020. № 1 (19). C. 180-217. DOI: 10.15622/sp.2020.19.1.7

19. Torishnyi R., Sobol V. Smooth approximation of probability and quantile functions: vector generalization and its applications // Journal of Physics: Conference Series, 2021, vol. 1925, pp. 012034. DOI:10.1088/1742-6596/1925/1/012034

20. Torishnyi R., Sobol V. Application of Smooth Approximation in Stochastic Optimization Problems with a Polyhedral Loss Function and Probability Criterion // In book: Mathematical Optimization Theory and Operations Research: Recent Trends. MOTOR 2021. Communications in Computer and Information Science, 2021, vol. 1476, pp. 102-116. DOI:10.1007/978-3-030-86433-0 7

21. Sogol V.R., Torishnyy R.O., Pokhvalenskaya A.M. Application of the Smooth Approximation of the Probability Function in Some Applied Stochastic Programming Problems // Вестник ЮУрГУ, 2021. Т. 14. № 3. C. 33-45. DQL10.14529/mmp210303

22. Игнатов А.Н., Кибзун А.И. О формировании портфеля ценных бумаг с равномерным распределением по логарифмическому критерию с приоритетной рисковой составляющей // Автоматика и телемеханика. 2014. № 3. C. 87-105.

References

1. Kibzun A.I., Kan Yu.S. Zadachi stokhasticheskogo programmirovaniya s veroyatnostnymi kriteriyami (Stochastic programming problems with probabilistic criteria), Moscow, Fizmatlit, 2009, 372 p.

2. Prekopa A. Stochastic Programming, Springer Netherlands, 1995, 600 p.

3. Shapiro A., Dentcheva D., Ruszczynski A. Lectures on Stochastic Programming. Modeling and Theory. Philadelphia: Society for Industrial and Applied Mathematics (SIAM), 2009, 450 p. D01:10.1137/1.9780898718751

4. Tamm E. Izvestiya Akademii nauk Estonskoi SSR, 1976, vol. 25, no. 2, pp. 141-144.

5. Kan Yu.S., Kibzun A.I. Avtomatika i telemekhanika, 1996, no. 3, pp. 82-102.

6. Prekopa A. Logarithmic Concave Measures with Application to Stochastic Programming, Acta Sci. Math. (Szeged), 1971, vol. 32, pp. 301-316.

7. Prekopa A. On Logarithmic Concave Measures and Functions, Acta Sci. Math. (Szeged), 1973, vol. 34, pp. 335-343.

8. Borell C. Convex Set Functions in d-Space, Periodica Mathematica Hungatica, 1975, vol. 6, no. 2, pp. 111-136.

9. Norkin V.I., Roenko N.V. Kibernetika i sistemnyi analiz, 1991, no. 6, pp 77-88.

10. Van Ackooij W. Eventual Convexity of Chance Constrained Feasible Sets, Optimization (J. Math. Programm. Oper. Res.), 2015, vol. 64, no. 5, pp. 1263-1284.

11. Henrion R. On the Connectedness of Probabilistic Constraint Sets, Journal of Optimization Theory and Applications, 2002, vol. 112, no. 3, pp. 657-663. D0I:10.1023/A:1017976418636

12. Raik E. Izvestiya Akademii nauk Estonskoi SSR. Fizika. Matematika, 1975, vol. 24, no. 1, pp. 3-9.

13. Kibzun A.I., Tret'yakov G.L. Avtomatika i telemekhanika, 1997, no. 9, pp. 69-80.

14. Marti K. Differentiation formulas for probability functions: The transformation method, Mathticacal Programming, 1996, vol. 75, pp. 201-220. DOI: 10.1007/BF02592152

15. Uryas'ev S. Derivatives of probability functions and some applications, Annals of Operations Research, 1995, vol. 56, pp. 287-311. DOI: 10.1007/BF02031712

16. Vasil'eva S.N., Kan Yu.S. Trudy MAI, 2018, no. 99. URL: http://trudymai.ru/eng/published.php?ID=92015

17. Ivanov S.V., Naumov A.V. Trudy MAI. 2014, no. 77. URL: http://trudymai.ru/eng/published.php?ID=52932

18. Sobol' V.R., Torishnyi R.O. Trudy SPIIRAN, 2020, no. 1 (19), pp. 180-217. DOI: 10.15622/sp.2020.19.1.7

19. Torishnyi R., Sobol V. Smooth approximation of probability and quantile functions: vector generalization and its applications, Journal of Physics: Conference Series, 2021, vol. 1925, pp. 012034. DOI:10.1088/1742-6596/1925/1/012034

20. Torishnyi R., Sobol V. Application of Smooth Approximation in Stochastic Optimization Problems with a Polyhedral Loss Function and Probability Criterion, In

book: Mathematical Optimization Theory and Operations Research: Recent Trends. MOTOR 2021. Communications in Computer and Information Science, 2021, vol. 1476, pp. 102-116. DOI:10.1007/978-3-030-86433-0 7

21. Sogol V.R., Torishnyy R.O., Pokhvalenskaya A.M. Application of the Smooth Approximation of the Probability Function in Some Applied Stochastic Programming Problems, Vestnik YuUrGU, 2021, vol. 14, no. 3, pp. 33-45. DQL10.14529/mmp210303

22. Ignatov A.N., Kibzun A.I. Avtomatika i telemekhanika, 2014, no. 3, pp. 87-105.

Статья поступила в редакцию 04.10.2021; одобрена после рецензирования 12.10.2021; принята к публикации 21.12.2021.

The article was submitted on 04.10.2021; approved after reviewing on 12.10.2021; accepted for publication on 21.12.2021.

i Надоели баннеры? Вы всегда можете отключить рекламу.