Об одном методе поиска глобального экстремума непрерывной функции на симплексе Текст научной статьи по специальности «Математика»

Вестн. Сам. гос. техн. ун-та. Сер. Физ.-мат. науки. 2016. Т. 20, № 4. С. 755-768

188№ 2310-7081 (оп11пе), 1991-8615 (рг1п1) ао1: http://dx.doi.org/10.14498/vsgtu1500

УДК 519.853.4

ОБ ОДНОМ МЕТОДЕ ПОИСКА ГЛОБАЛЬНОГО ЭКСТРЕМУМА НЕПРЕРЫВНОЙ ФУНКЦИИ НА СИМПЛЕКСЕ

М. Ю. Лившиц, А. П. Сизиков

Самарский государственный технический университет, Россия, 443100, Самара, ул. Молодогвардейская, 244.

Аннотация

Рассматривается невыпуклая задача математического программирования, допустимой областью которой является симплекс. Для приближенного решения задачи предложен двухэтапный алгоритм. На первом этапе определяется область глобального оптимума, на втором осуществляется локальная «доводка» решения. Первый этап реализуется методом Ф-преобразования, который менее чувствителен к размерности задачи, чем прямой случайный поиск. Метод состоит в построении и использовании Ф-функции. Построение Ф-функции осуществляется эмпирически, по результатам статистических испытаний. Для проведения испытаний используется генератор случайных точек, равномерно распределенных в допустимой области. Получение равномерного распределения в симплексе осуществляется путем аффинных и линейных преобразований точек, равномерно распределенных в единичном гиперкубе. Для уточнения приближенного решения, полученного на первом этапе, применяется метод отражения правильных симплексов. Алгоритм представляет собой череду серий. Каждая очередная серия начинается с уменьшения длины ребра «рабочего» симплекса и переноса последнего в область лучшей точки предыдущей серии. Рассматриваемая задача имеет важное прикладное значение. К ней сводятся задачи смешения, возникающие в нефтепереработке, нефтехимии, строительстве. В статье представлен пример использования разработанного алгоритма для оптимизации компонентного состава углеводородной смеси.

Ключевые слова: оптимизация, невыпуклые задачи, метод Ф-преобра-зования, равномерное распределение в симплексе, многокомпонентные смеси.

© 2016 Самарский государственный технический университет. Образец для цитирования

Лившиц М. Ю., СизиковА. П. Об одном методе поиска глобального экстремума непрерывной функции на симплексе // Вестн. Сам. гос. техн. ун-та. Сер. Физ.-мат. науки, 2016. Т. 20, № 4. С. 755-768. аок 10.14498/vsgtu1500. Сведения об авторах

Михаил Юрьевич Лившиц (д.т.н., проф.; mikhaillivshits@gmail.com), заведующий кафедрой, каф. управления и системного анализа теплоэнергетических и социотехнических комплексов.

Александр Павлович Сизиков (к.э.н., доц.; apsizikov@mail.ru; автор, ведущий переписку), докторант, каф. управления и системного анализа теплоэнергетических и социотехниче-ских комплексов.

В широкой области технических приложений возникает необходимость решения нелинейной и, в общем случае, невыпуклой задачи:

/ (ж) ^ тах, (1)

т

ЦХ = 1; (2)

ж^ ^ 0, ] = 1, 2,..., т,

где /(ж) — некоторая т-мерная непрерывная функция ж = (ж1,ж2,..., жт).

Для решения невыпуклых оптимизационных задач наиболее часто используют стохастический подход. Он включает широкий спектр методов — от простого случайного поиска до различных рандомизированных эвристик [1—3]. Все эти методы так или иначе используют глобальный и локальный поиск в различных реализациях и сочетаниях.

В методе имитации отжига переход от глобального к локальному поиску осуществляется постепенно [4,5]. На начальном этапе осуществляется случайный поиск по всей допустимой области. Но затем, оставаясь случайным, он все более и более локализуется, становится избирательным. В методе кросс-энтропии [6-8] идея постепенной локализации поиска реализуется через механизм изменения распределения поисковой выборки с тем, чтобы перспективные варианты выпадали с большей вероятностью. Существуют методы, использующие так называемый «мультистарт» локальных поисков (детерминированных или рандомизированных) сразу из множества точек области определения [9,10]. Для решения некоторых трудно формализуемых задач эффективны генетические алгоритмы [11-13]. В целом же эти алгоритмы обладают всеми достоинствами и недостатками рандомизированных эвристик [14].

Авторы предлагают для решения задачи (1), (2) модификацию известного метода Ф-преобразования [15-17], сочетающего детерминированный и стохастический подходы. По сравнению с методами [1-13] предложенный метод менее чувствителен к размерности задачи, поскольку не предполагает прямого поиска.

Для задачи

тах{/(ж) | ж е Е},

где Е — некоторое подмножество евклидова пространства, в рассмотрение вводится функция Ф(£), которая определяется как мера объема множества

Я(С) = {ж | ж е Е, /(ж) ^ С}.

Поскольку Ф(£) является монотонно убывающей, ноль этой функции соответствует решению задачи. Определение функции Ф(£) в аналитическом виде затруднительно, поэтому некоторое ее приближение строится по результатам статистических испытаний. О значении Ф(£) можно судить по относительному количеству случайных точек, попадающих в ), при условии, что точки равномерно распределены во множестве Е. Поэтому в поставленной задаче (1), (2), прежде чем использовать алгоритм Ф-преобразования, необходимо при статистических испытаниях решить вопрос генерирования случайных точек, равномерно распределенных в области (2).

Правильный (т- 1)-мерный симплекс (2) можно поместить в соответствующий (т — 1)-мерный единичный гиперкуб в Мт-1, получение равномерного

распределения случайных чисел в котором — задача тривиальная. Поскольку симплекс является подмножеством гиперкуба, точки, попадающие в симплекс, также равномерно распределены. Однако для поставленной задачи (1), (2) этот путь непродуктивен. Как известно, объем правильного (т — 1)-мерного симплекса со стороной единичной длины равен

1 I т (т — 1)! V 2т-1'

и при росте т быстро стремится к нулю. Соответственно, стремится к нулю и вероятность того, что случайная точка, сгенерированная в гиперкубе, окажется в симплексе. Поэтому для получения случайных допустимых вариантов используем алгоритм [18,19], который обеспечивает перенос равномерно распределенных случайных точек в симплекс (2) путем аффинных и линейных преобразований, не влияющих на закон распределения.

Алгоритм 1.

1. Генерируются (т — 1) случайных чисел, равномерно распределенных на единичном отрезке. Эти числа нумеруются в порядке возрастания:

6 < 6 < ... < £т-1.

2. Формируется вектор

С = ((1' (2' • • • ' (т-1)'

где £1 = Съ (2 = 6 — Съ . . . , С-1 = £т-1 — (т-2. Этот Е^Т^ как показано в работе [18], равномерно распределен на множестве

( т-1 1 М = X е Мт-1 | Х1 ^ 0'Х2 ^ 0' • • • ' Жт-1 ^ 0' Хг < 1 У

^ г=1 ^

3. Все угловые точки многогранника М, кроме нулевой, лежат на расстоянии \/2 друг от друга. Многогранник М растягивается до правильного М. Для этого перенесем вершину, лежащую в начале координат, так, чтобы расстояние от нее до всех остальных вершин составляло также \/2. Это будет точка с координатами (х0' х2' • • •' хт_ 1), где х0 = = г = (1 — л/т)/(т — 1), г = 1' 2'...' т — 1. Получился многогранник, конгруэнтный (т — 1)-мерному симплексу в т-мерном пространстве. Обозначим через £ точку множества М, отображающую точку £' множества М. Точку £ определяем в результате отражения £' относительно гиперплоскости

Г т-1 1 \ X е Мт-1 Хг = 1 >■

^ г=1 >

Для этого сначала находим проекцию £' на эту гиперплоскость:

(г = С + А' г = 1' 2'...' т — 1' где А определяем из условия

т- 1

£ Сг = 1

г=1

по формуле

А

1

т1

т1

1 — £ £

г=1

Отражение находим с учетом того, что коэффициент растяжения равен л/ш:

£ = е + — о.

Это аффинное преобразование не оказывает влияния на закон распределения, поэтому точка £ имеет равномерное распределение в М. 4. Точка £ переносится в (т — 1)-мерный симплекс т-мерного пространства переменных задачи (1), (2). Для этого представляем ее как выпуклую линейную комбинацию угловых точек М т-мерного пространства. Коэффициенты этой комбинации а1, ..., ат есть не что иное, как новые координаты точки а. Они определяются следующим образом:

/ а1 \

а2 ат-1

\ ат /

1 0

0 1

0 1

0 1

0 г \

1

г

г 1

( £1 \

б

£т-1 1

Теперь вернемся к методу Ф-преобразования.

Алгоритм 2.

1. Выполняется серия случайных проб, число которых N должно быть достаточным для получения надежных статистических оценок. На каждой пробе к = 1, 2,..., N с помощью алгоритма 1 генерируется допустимое значение аргумента ж(к) и находится /(ж(к)). По результатам всех проб определяются среднее арифметическое /с и максимальное /т наблюдаемых значений целевой функции:

/с = N £ /(ж(к)), /т = тах{/(ж(1)), /(ж(2)),..., /(ж(^)}.

N

N

к=1

Отрезок [/с, /т] разбивается на Ь (порядка десяти) уровней

с = (СъС2,...,а),

где

Сг = /с + (I — 1)(/т — /с )Ь

1

2. Выполняется вторая серия случайных проб. Для каждого уровня I = = 1, 2,...,Ь подсчитывается пг — число проб, в которых выполнилось условие

/(ж(к)) ^ Сг,

и средняя координата: N

ж*г

1

пг

N Г

£^ж(к), г = 1,2,..., т, ¿г = <^

к=1

= / 1, /(ж(к)) ^ (г, 0, /(ж(к)) < Сг.

0

По результатам формируются последовательности: Ф = {Фг}г=1> где фг = n^N-1,

Xi = {xa}|=1, i = 1 2,.

3. Определяются квадратичные тренды. Пусть

, m.

(3)

(4)

1 1 1

Л = 1 2 4

1 L L2/

тогда параметры а = (ао, а1; а2)т тренда ф(1) = а0 + а11 + а212 рассчитываются по формуле

а = (ЛтЛ)-1Лтфт

Аналогично рассчитываются параметры bj = (bi0, bi1; bi2)т тренда Xj(i) = = bio + + bj2l2:

bi = (ЛтЛ)-1Лтхт.

4. Определяется наименьший положительный корень 1* уравнения

ф(1) = 0.

Его существование обусловлено тем, что ф(1) на отрезке [1,L] представляет собой тренд последовательности (3), монотонно убывающей до значения, близкого к нулю. Подстановкой 1* в тренды X(l) находится приближенное решение задачи:

x* = Xi(1*), i = 1,2,...,m.

Назначение описанного алгоритма 2 — войти в область глобального экстремума. Предположим, что это удалось. Перейдем к локальному поиску самого экстремума. Методы, предполагающие использование производных первого или второго порядков (метод сопряженных градиентов, метод Ньютона), здесь неприменимы по причине возможной негладкости целевой функции f (x). В этом случае необходимо использовать метод, для реализации которого достаточно значений самой целевой функции f (x). Например, последовательное отражение симплексов [20].

Классический метод последовательного отражения симплексов — метод поиска экстремума в m-мерном евклидовом пространстве с помощью m-мер-ных симплексов [20]. В задаче (1), (2) речь идет о поиске экстремума в (m — 1)-мерном симплексе с помощью (m — 1)-мерных же симплексов.

Построим в m-мерном евклидовом пространстве правильный m-мерный симплекс, одна из вершин которого (назовем ее нулевой) лежит в начале координат. Пусть длина ребра равна Ax, тогда координаты вершин соответствуют столбцам матрицы:

^x(0) x(1) x(2) 111

(0) J1) ™(2)

x.

xM\ 1

M 2

x.

\x(0)

x(1)

x(

x(2) x(

(( ) x(

0 0

q

\0 q

2

2

2

q

где д д

4 =-р (л/ т + 1 + т — 1), д =-= (V т + 1 — 1) .

ту2 ту 2

Перенесем этот симплекс из начала координат так, чтобы все его вершины, кроме ж(0), расположились на гиперплоскости

Ж1 + Х2 +-----+ Жт = 1

и чтобы (т — 1)-мерный симплекс с вершинами ж(1),ж(2),...,ж(т) оказался в области начала поиска.

При параллельном переносе нулевой вершины в точку ж(0) координаты остальных вершин становятся следующими:

ж(к) = ж(0) + ж(к), к = 1, 2,..., т. Найдем ж(0) из условия

7(к) + 7(к) . . + 7(*0 = 1 Х1 + х2 + + 7т — 1.

Достаточно взять какую-нибудь одну вершину, например, первую:

тт. т .

Е х(1) = Е х(0) + ^ (/—Л+т — 1) + е -Дь (/т+1—1) =

т 2 т 2

г=1 г=1 г=2

т Дж / т-1 N

= Е ж(0) + —7= ( /т + 1 + т — 1 + Е (/т + 1 — 1) | =

г=1 т\ \ ^=1 /

= У^ 7((0) + Да^т/т + 1 = 1.

г=1

т

Отсюда получаем

~ »(0) = л_ Дж

у/=

Е7(0) = 1 — ^ ^+1.

г=1

Определим начальное расположение т-мерного симплекса, привязав его к точке ж*, полученной методом Ф-преобразования. В этом случае координаты нулевой вершины симплекса определятся следующим образом:

7(0) = ж*^ 1 — Д7 /т + , г = 1,2,..., т.

Координаты остальных вершин, которые и образуют начальный «рабочий» симплекс, представлены столбцами матрицы:

(т/1) 1 7(1) 72 ж(2) 1 ^2) 72 . ™(т)\ 1 ( т) /у>4 ' . 72

\7т ж(2) . 7т . ( т) . 7т /

где

-(к) *Л Дх ^г и! "ДТ! (^т + 1 + т - !)' * = к

^ = жЛ 1--=л/т + 1 +< "ДЛ /-гт -II

1 \ л/2 / I "дт!т + 1 - 1), « = к

Процесс поиска состоит в реализации последовательности шагов, на каждом из которых происходит построение нового «рабочего» симплекса путем отражения вершины с минимальным значением целевой функции /(ж) от противоположной грани исходного симплекса. Пусть V € [1, т] —номер такой вершины, тогда отраженная вершина определяется по формуле

= —(У ж(к) - ж(^ - ж(щ).

Покажем, что Ж(^) лежит на гиперплоскости Ж1 + ж2 + ■ ■ ■ + жт = 1. Действительно,

т 0 т / т \ т

£ж!*) = ^ £ (£ ж(к) - ж<*Л - £ ж£> =

г=1 г=1 4=1 ' г=1

т т т т

2 '£ £ ж(к) - £ ж") - £ ж" = -1-(т - 1) - 1 = 1.

т - г ^ 1 ^ 1 т - 1

чй=1г=1 г=1 ' г=1

Поскольку поиск проводится в ограниченном пространстве, может оказаться, что ж(^) выходит за допустимую область. Предположим для простоты, что на текущем шаге алгоритма выполняется

/(ж(1)) </(ж(2)) < ... </(ж(т)).

Тогда нужно последовательно перебирать вершины до тех пор, пока не получим допустимого отражения. Отражение лучшей точки будет признаком окончания текущей серии. Следующая серия начинается с уменьшения длины ребра Дж и переноса нового «рабочего» симплекса в область лучшей точки предыдущей серии.

Описанная методика может быть использована для поиска оптимального компонентного состава различных смесей, в частности, для расчета рецептур смешения товарных нефтепродуктов. Некоторые показатели качества смесей рассчитываются по специальным, иногда довольно сложным, эмпирическим формулам [21,22].

Пусть Q — множество индексов контролируемых показателей некоторой смеси, и пусть фд(ж) — зависимость (линейная или нелинейная) д-того показателя смеси от компонентов смешения, взятых в пропорциях ж = (ж1, ж2,..., жт). Тогда задачу смешения можно сформулировать так:

т

С = у ^ с,-ж^- ^ шт,

фд (ж) е [р-,р+], я е ф,

т

Е ж. = 1> 7=1

ж. ^ 0, j = 1, 2,..., т,

где с. — цена j-того компонента; р-, р+ — граничные значения для я-того показателя.

Требования по качеству смеси удобно учесть в виде штрафной составляющей целевой функции:

т

/(ж) = Е с7ж7 + ^ £ ^2(ж) ^ ш1П (5)

7=1 дед

т

Е ж. = 1>

.7 = 1

ж. ^ 0, j = 1,2,..., т,

где ^ — весовой коэффициент штрафной составляющей; (ж) —процентное отклонение расчетного значения я-того показателя от границы заданного интервала, определяемое по формуле

( 102(р- - фд(ж))/р-, Р- - фд(ж) > 0,

(ж) = < 102(фд(ж) - Р+)/Р+, р+ - фд(ж) < °

[ 0, ф9(ж) е [Р-,Р+].

Для примера решена задача составления трехкомпонентной смеси со следующими условиями. Стоимость С = 1.5ж1 + 1.3ж2 + 1.0жз. Требования к показателям (октановому числу, плотности, содержанию серы):

ф1(ж) =90.2ж1+88.5ж2 + 73.6ж3 — 14.3ж1ж2 — 9.8ж1ж3+28.4ж1ж2ж3 ^ 85, ф2(ж) =0.82ж1 + 0.59ж2 + 0.67жз < 0.68, (6)

фз(ж) =0.001ж1 + 0.003ж2 + 0.002жз < 0.002.

При составлении функции /(ж) в (5) используется весовой коэффициент ^ = 10. По результатам предварительного статистического исследования области изменения /(ж) сформировано 10 уровней с шагом = —70, начиная с (1 = 700.

Для каждого из них выполнено 1000 статистических испытаний. Получены последовательности (3), (4) и построены тренды (см. рисунок):

a) 0(1) = 0.6916 — 0.029061 — 0.0037412,

b) ж1(1) = 0.33041 — 0.001451 + 0.00009812,

c) ж2(1) = 0.327667 + 0.0138371 — 0.0007212, ё) жз(1) = 0.341923 — 0.0123921 + 0.00062612.

Из уравнения

■0(1) = ао + а11 + а212 = 0

получено 1* = 10.2554. Подстановкой 1* в тренды ж1(1), ж2(1), ж3(1) найдено приближенное решение:

ж1 = 0.3259, ж* = 0.3934, ж* = 0.2807.

Тренды результатов статистических испытаний [Trends of results of statistical tests]

Значение целевой функции (5):

/ (ж*) = 115.3.

Уточнение решения осуществляется по описанному выше модифицированному методу отражения правильных симплексов. Проведено 20 серий с уменьшением длины ребра симплекса по формуле

Дж„ = 0.1п-1,

где п — номер серии. Результаты первого приближения ж* и уточненного ж решения представлены в таблице ниже.

xi Х2 Хз Ф1 Ф2 Фз f (x)

* x 0.3259 0.3934 0.2807 83.16 0.687 0.00209 115.3

X 0.3702 0.3990 0.2308 83.71 0.693 0.00206 87.6

Как видно из таблицы, уже на первом этапе получено достаточно хорошее приближение. В результате реализации алгоритма выявлена несовместность системы ограничений (6) и получено решение по критерию (5), основная составляющая которого — взвешенная сумма квадратов процентных отклонений показателей от требуемых значений.

Заключение. В статье предложен метод Ф-преобразования, модифицированный для решения задачи поиска глобального экстремума непрерывной функции на симплексе, имеющей важное прикладное значение. Метод является альтернативой прямому случайному поиску, эффективность которого существенно падает с увеличением числа переменных. Объем вычислений, реализуемых в рамках метода Ф-преобразования, напротив, мало зависит от размерности задачи. Он определяется в основном числом статистических испытаний, которое, по данным [16], не превышает в общей сложности нескольких тысяч и не требует больших затрат машинного времени.

Декларация о финансовых и других взаимоотношениях. Исследование не имело спонсорской поддержки. Все авторы принимали участие в разработке концепции статьи и в написании рукописи. Авторы несут полную ответственность за предоставление окончательной рукописи в печать. Окончательная версия рукописи была одобрена всеми авторами. Авторы не получали гонорар за статью.

ORCIDs

Михаил Юрьевич Лившиц: http://orcid.org/0000-0001-8027-2273 Александр Павлович Сизиков: http://orcid.org/0000-0001-5067-0676

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Zhigljavsky A., Zilinskas A. Stochastic Global Optimization/ Springer Optimization and Its Applications. vol. 9. Berlin: Springer, 2008. xiii+262 pp. doi: 10.1007/978-0-387-74740-8.

2. Marti K. Stochastic Optimization Methods / Applications in Engineering and Operations Research. Berlin: Springer, 2015. xxiv+368 pp. doi: 10.1007/978-3-662-46214-0.

3. Пантелеев А. В. Метаэвристические алгоритмы поиска глобального экстремума. М.: МАИ Принт, 2009. 159 с.

4. M. Tim Jones AI Application Programming/ Programming Series. Boston: Charles River Media, 2003. 496 pp.

5. Савин А. Н., Тимофеева Н. Е. Применение алгоритма оптимизации методом имитации отжига на системах параллельных и распределённых вычислений // Изв. Сарат. унта. Нов. сер. Сер. Математика. Механика. Информатика, 2012. Т. 12, №1. С. 110-116.

6. Botev Z. I., Kroese D. P. Global likelihood optimization via the cross-entropy method, with an application to mixture models / Proceedings of the 2004 Winter Simulation Conference. Washington: IEEE, 2004. pp. 529-535. doi: 10.1109/wsc.2004.1371358.

7. Ernst D., Glavic M., Stan G.-B., Mannor S., Wehenkel L. The cross-entropy method for power system combinatorial optimization problems / 2007 IEEE Lausanne Power Tech. Washington: IEEE, 2007. pp. 1290-1295. doi: 10.1109/pct.2007.4538502.

8. Evans G. E., Keith J. M., Kroese D. P. Parallel cross-entropy optimization/ 2007 WinterSimulation Conference. Washington: IEEE, 2007. pp. 2196-2202. doi: 10.1109/wsc.2007. 4419854.

9. Zhigljavsky A. Theory of Global Random Search/ Mathematics and Its Applications (Soviet Series). vol.65. Berlin: Springer, 1991. xviii+341 pp. doi: 10.1007/978-94-011-3436-1.

10. Феоктистов А. Г., Горский С. А. Реализация метода мультистарта в пакете Градиент // Вестник НГУ Серия: Информационные технологии, 2007. Т. 5, №2. С. 78-82.

11. Cohoon J., Karro J., Lienig J. Evolutionary Algorithms for the Physical Design of VLSI Circuits / Advances in Evolutionary Computing / Natural Computing Series; eds. A. Ghosh, S. Tsutsui. Berlin: Springer, 2003. pp. 683-712. doi: 10.1007/978-3-642-18965-4_27.

12. Гладков Л. А., Курейчик В. В., Курейчик В. М. Генетические алгоритмы. М.: Физ-матлит, 2006. 320 с.

13. Гладков Л. А., Гладкова Н. В. Особенности использования нечетких генетических алгоритмов для решения задач оптимизации и управления // Известия ЮФУ. Технические науки, 2009. №4(93). С. 130-136.

14. Skiena S. S. The Algorithm Design Manual. London: Springer, 2008. xvi+730 pp. doi: 10. 1007/978-1-84800-070-4.

15. Chichinadze V. K. Solution of nonlinear nonconvex optimization problems by Ф-trans-formation method// Computers & Mathematics with Applications, 1991. vol.21, no. 6-7. pp. 7-15.

16. Чичинадзе В. К. Решение невыпуклых нелинейных .задач оптимизации. Метод Ф-преобразования. М.: Наука, 1983. 256 с.

17. Ахмадиев Ф. Г., Гильфанов Р. М. Математическое моделирование и оптимизация "состав-свойство" многокомпонентных смесей// Известия КГАСУ, 2012. №2(20). С. 289-297.

18. Новоселов А. А. Равномерное распределение на стандартном симплексе в Rn, http: //risktheory.novosyolov.com/lectures/unifs.pdf (дата обращения: 23.10.2016).

19. Русин Ю. В. Алгоритмы статистического моделирования вероятностных распределений. Ярославль: ЯрГУ, 2006. 58 с.

20. Зедгинидзе И. Г. Планирование эксперимента для исследования многокомпонентных систем. М.: Наука, 1976. 390 с.

21. Чинакал В. О. Оптимизация рецептуры светлых нефтепродуктов / Оптимизация, исследование операций, бионика. М.: Наука, 1973. С. 198-205.

22. Никитин В. А., Мусаев А. А. Оптимизация компаундирования углеводородных смесей // Тр. СПИИРАН, 2007. Т. 4. С. 327-336.

Поступила в редакцию 12/VII/2016; в окончательном варианте — 23/X/2016; принята в печать — 09/XII/2016.

Vestn. Samar. Gos. Techn. Un-ta. Ser. Fiz.-mat. nauki

[J. Samara State Tech. Univ., Ser. Phys. & Math. Sci.], 2016, vol. 20, no. 4, pp. 755-768

ISSN: 2310-7081 (online), 1991-8615 (print) doi: http://dx.doi.org/10.14498/vsgtu1500

MSC: 90C26, 90-08

METHOD OF SEARCHING FOR GLOBAL EXTREMUM OF A CONTINUOUS FUNCTION ON A SIMPLEX

M. Yu. Livshits, A. P. Sizikov

Samara State Technical University,

244, Molodogvardeyskaya st., Samara, 443100, Russian Federation.

Abstract

A non-convex problem of mathematical programming is considered, which permissible region is a simplex. A two-stage algorithm is proposed for approximate solution of the problem. The region of global optimum is determined using the ^-transform method at the first stage; local "fine-tuning" of the solution is performed at the second stage. The ^-transform was modified taking into account the special features of the problem under consideration. ^-function is determined according to the results of statistical tests implemented using the generator of random points uniformly distributed over the simplex. The proposed method of reflection of regular simplexes is used for fine-tuning of the solution. An example of application of the developed algorithm for solving the problem of optimization of component composition of the hydrocarbon mixture is presented.

Keywords: optimization, non-convex problems, transform method, uniform distribution over the simplex, multi-component mixtures.

Declaration of Financial and Other Relationships. The research has not had any sponsorship. Each author has participated in the article concept development and in the manuscript writing. The authors are absolutely responsible for submitting the final manuscript in print. Each author has approved the final version of manuscript. The authors have not received any fee for the article.

ORCIDs

Mikhail Yu. Livshits: http://orcid.org/0000-0001-8027-2273

Aleksandr P. Sizikov: http://orcid.org/0000-0001-5067-0676

© 2016 Samara State Technical University. Please cite this article in press as:

Livshits M. Yu., Sizikov A. P. Method of searching for global extremum of a continuous function on a simplex, Vestn. Samar. Gos. Tekhn. Univ., Ser. Fiz.-Mat. Nauki [J. Samara State Tech. Univ., Ser. Phys. & Math. Sci.], 2016, vol. 20, no. 4, pp. 755-768. doi: 10.14498/vsgtu1500. (In Russian) Authors Details:

Mikhail Yu. Livshits (Dr. Techn. Sci.; mikhaillivshits@gmail.com), Head of Dept., Dept. of Management and System Analysis of Thermal Power and Socio-Technical Systems. Aleksandr P. Sizikov (Cand. Econ. Sci.; apsizikov@mail.ru; Corresponding Author), Doctoral Student, Dept. of Management and System Analysis of Thermal Power and Socio-Technical Systems.

REFERENCES

1. Zhigljavsky A., Zilinskas A. Stochastic Global Optimization, Springer Optimization and Its Applications, vol. 9. Berlin, Springer, 2008. xiii+262 pp. doi: 10.1007/978-0-387-74740-8.

2. Marti K. Stochastic Optimization Methods, Applications in Engineering and Operations Research. Berlin, Springer, 2015. xxiv+368 pp. doi: 10.1007/978-3-662-46214-0.

3. Panteleev A. V. Metaevristicheskie algoritmy poiska global'nogo ekstremuma [Metaheuristic algorithms for global extremum search]. Moscow, MAI Print, 2009, 159 pp. (In Russian)

4. M. Tim Jones AI Application Programming, Programming Series. Boston, Charles River Media, 2003, 496 pp.

5. Savin A. N., Timofeeva N. E. The application of optimization algorithm using simulated annealing method for parallel computing systems, Izv. Saratov Univ. (N.S.), Ser. Math. Mech. Inform., 2012, vol. 12, no. 1, pp. 110-116 (In Russian).

6. Botev Z. I., Kroese D. P. Global likelihood optimization via the cross-entropy method, with an application to mixture models, In: Proceedings of the 2004 Winter Simulation Conference. Washington, IEEE, 2004, pp. 529-535. doi: 10.1109/wsc.2004.1371358.

7. Ernst D., Glavic M., Stan G.-B., Mannor S., Wehenkel L. The cross-entropy method for power system combinatorial optimization problems, In: 2007 IEEE Lausanne Power Tech. Washington, IEEE, 2007, pp. 1290-1295. doi: 10.1109/pct.2007.4538502.

8. Evans G. E., Keith J. M., Kroese D. P. Parallel cross-entropy optimization, In: 2007 WinterSimulation Conference. Washington, IEEE, 2007, pp. 2196-2202. doi: 10.1109/wsc.2007. 4419854.

9. Zhigljavsky A. Theory of Global Random Search, Mathematics and Its Applications (Soviet Series), vol.65. Berlin, Springer, 1991. xviii+341 pp. doi: 10.1007/978-94-011-3436-1.

10. Feoktistov A. G., Gorskii S. A. The Implementation of the Multi-Start method in the Gradient package, Vestnik NGU Seriia: Informatsionnye tekhnologii, 2007, vol. 5, no. 2, pp. 78-82 (In Russian).

11. Cohoon J., Karro J., Lienig J. Evolutionary Algorithms for the Physical Design of VLSI Circuits, In: Advances in Evolutionary Computing, Natural Computing Series; eds. A. Ghosh, S. Tsutsui. Berlin, Springer, 2003, pp. 683-712. doi: 10.1007/978-3-642-18965-4_27.

12. Gladkov L. A., Kureichik V. V., Kureichik V. M. Geneticheskie algoritmy [Genetic Algorithms]. Moscow, Fizmatlit, 2006, 320 pp. (In Russian)

13. Gladkov L. A., Gladkova N. V. Features of use of fuzzy genetic algorithms for the decision of problems of optimisation and control, Izvestiia YuFU. Tekhnicheskie nauki, 2009, no. 4(93), pp. 130-136.

14. Skiena S. S. The Algorithm Design Manual. London, Springer, 2008. xvi+730 pp. doi: 10. 1007/978-1-84800-070-4.

15. Chichinadze V. K. Solution of nonlinear nonconvex optimization problems by ^-transformation method, Computers & Mathematics with Applications, 1991, vol.21, no. 6-7, pp. 7-15.

16. Chichinadze V. K. Reshenie nevypuklykh nelineinykh zadach optimizatsii. Metod preobrazovaniia [Solution of Nonconvex Nonlinear Optimization Problems. The ^-transformation method]. Moscow, Nauka, 1983, 256 pp. (In Russian)

17. Akhmadiev F. G., Gil'fanov R. M. Mathematical modeling and optimization of the "compozition-property" of multicomponent mixtures, Izvestiia KGASU, 2012, no. 2(20), pp. 289-297 (In Russian).

18. Novoselov A. A. Uniform distribution on the standard simplex in Rn (In Russian), Retrieved http://risktheory.novosyolov.com/lectures/unifs.pdf (October 23, 2016).

19. Rusin Yu. V. Algoritmy statisticheskogo modelirovaniia veroiatnostnykh raspredelenii [Algorithms of statistical modeling of probability distributions]. Yaroslavl, Yaroslavl State Univ., 2006, 58 pp. (In Russian)

20. Zedginidze I. G. Planirovanie eksperimenta dlia issledovaniia mnogokomponentnykh sistem [Experiment Planning for Multicomponent System Study]. Moscow, Nauka, 1976, 390 pp. (In Russian)

21. Chinakal V. O. Optimization of light oil formulation, In: Optimizatsiia, issledovanie operat-sii, bionika [Optimization, Operations Research, Bionics]. Moscow, Nauka, 1973, pp. 198205 (In Russian).

22. Nikitin V. A., Musayev A. A. Optimizing the compounding process of hydrocarbon mixtures, Tr. SPIIRAN, 2007, vol.4, pp. 327-336 (In Russian).

Received 12/VII/2016;

received in revised form 23/X/2016;

accepted 09/XII/2016.