CC BY
384
электронное научно-техническое издание
НАУКА и ОБРАЗОВАНИЕ
Эл № ФС 77 - 30569. Государственная регистрация №0421100025. ISSN 1994-040S
Популяционные методы аппроксимации множества Парето в задаче многокритериальной оптимизации. Обзор.
77-30569/363023 # 04, апрель 2012
Карпенко А. П., Семенихин А. С., Митина Е. В.
УДК.519.6
МГТУ им. Н.Э. Баумана [email protected] [email protected] тШпака!егта@ атаП. сот
Введение
Известно большое число методов решения задачи многокритериальной оптимизации (МКО-задачи), из числа которых перспективными являются методы, основанные на предварительном построении аппроксимации множества Парето (а тем самым, и фронта Парето) этой задачи [1, 2]. Простейшим из таких методов является сеточный метод [3]. В ситуации, когда требуется высокая точность аппроксимации множеств Парето и/или когда имеет место высокая вычислительная сложность целевых функций, сеточный метод может требовать неприемлемо высоких вычислительных ресурсов. Поэтому в настоящее время интенсивно развиваются альтернативные методы [4].
Обычно указанные методы строят на основе эволюционных алгоритмов и чаще всего -на основе генетических алгоритмов [5]. При этом соответствующие методы Парето-аппроксимации называют эволюционными. Обзор таких методов представлен, например, в работах [6, 7].
Принципиальным в этих методах является не использование именно эволюционных алгоритмов, а правила формирования фитнесс-функции, обеспечивающие перемещение индивидов популяции, в конечном счете, в направлении множества Парето. Эволюция же этих индивидов может протекать по законам, отличным от законов, используемых в эволюционных алгоритмах, например, по законам миграции частиц в алгоритме роя частиц [8, 9]. Поэтому в качестве общего названия рассматриваемых методов используем термин «популяционные методы Парето-аппроксимации».
Для полноты картины, наряду с популяционными методами в работе рассматриваем наиболее известные не популяционные методы. Особенностью обзора является то, что в той его части, которая посвящена популяционным методам, мы концентрируем наше внимание, преимущественно, на правилах формирования фитнесс-функции, используемых в этих методах.
Можно выделить следующие основные требования к методам Парето-аппроксимации
- точки найденной аппроксимации расположены достаточно близко к точному множеству Парето;
- аппроксимация покрывает все множество Парето;
- распределение точек аппроксимации равномерно.
В современных методах Парето-аппроксимации для выполнения последнего требования используют специальные механизмы, обеспечивающие приемлемый разброс (spread) точек аппроксимации. Наиболее известным механизмом такого сорта является механизм нишевания (niching) [10]. Самостоятельную проблему представляет разработка критериев оценки качества Парето-аппроксимации, которые отражали бы указанные требования. Примеры таких критериев рассмотрены, например, в работах [11, 12].
Известно несколько классификаций методов Парето-аппроксимации. Используем классификацию, предложенную Гуменниковой А. В. [13], дополнив ее классом «наивных» методов [14] и классом прочих методов. Итого рассматриваем следующие пять классов методов Парето-аппроксимации:
- «наивные» методы;
- методы переключающихся целевых функций;
- методы агрегации целевых функций;
- методы на основе ранжирования агентов популяции;
- прочие методы.
В разделе 1 приведена математическая постановка задачи, разделы 2 - 6 посвящены рассмотрению указанных классов методов Парето-аппроксимации. В заключении сформулированы основные выводы.
1. Постановка задачи и общая схема популяционных алгоритмов ее решения
Совокупность частных критериев оптимальности (частных целевых функций) fk(X), k е [1 F |] образует векторный критерий оптимальности (векторную целевую функцию) F(X) е {F}, где X е {X} - вектор варьируемых параметров; {X} , {F} -пространства параметров и критериев соответственно. Здесь и далее запись вида |A|, где A —
некоторый вектор или счетное множество, означает размерность этих объектов. Положим, что ставится задача минимизации каждого из частных критериев в одной и той же области
допустимых значений Dx с Rn. Тогда во введенных обозначениях МКО-задачу условно можно записать в виде
min
X eDX
F (X) = F (X ) = F , (1)
где X , ^ - решения задачи.
Полагаем, что частные критерии оптимальности нормализованы, например, по формуле
_Л (X) - л
Л (X)- Л.. - k , k е [1:|F|],
Jk Jk
где fk = min fk (X), fk* = max fk (XX X е dx .
Векторный критерий оптимальности F(X) выполняет отображение области Dx в некоторое множество Df , называемое множеством достижимости МКО-задачи (1). Введем на множестве Dx отношение предпочтения У. Будем говорить, что вектор X1 е Dx предпочтительнее вектора X2 е Dx и писать X1 У X2, если среди равенств и неравенств fk(X1) < fk(X2), k е [1 :| F |] имеется, хотя бы одно строгое неравенство. Аналогично, на множестве Df введем отношение доминирования: будем говорить, что вектор F(X1) е D доминирует вектор F (X2) е Df , и писать F(X1) > F (X2), если X1 У X2 .
'F
Выделим из множества подмножество точек, среди которых нет
*
доминируемых. Это множество называют фронтом Парето. Множество Ох е Ох,
*
соответствующее множеству , называют множеством Парето (переговорным множеством, областью компромисса). Определения множества и фронта Парето иллюстрирует рисунок 1. Поскольку множество на этом рисунке является выпуклым,
фронт Парето в данном случае представляет собой дугу АВ, на которой точка А
соответствует / , а точка В — /2 . Среди точек F (Х1), F (Х^), лежащих на фронте Парето, нет доминируемых, поскольку если / (Хх) < / (Х2), то обязательно
/2 (х 1) > /2 (х 2).
Рисунок 1 - К определению множества Парето: X = 2 ; F = 2
Ставим задачу приближенного построения множества Парето (а, тем самым, и фронта Парето) в МКО-задаче (1). Называем эту задачу задачей Парето-аппроксимации.
Пусть тем или иным образом уже сформировано архивное множество Ар,
содержащее не доминируемые точки р^, а также архивное множество Ах
соответствующих ему точек ХА; ] е [1: |А|]. Здесь |А| - мощность множеств Ар, Ах .
Суть большинства популяционных методов Парето-аппроксимации состоит в итерационном уточнении множеств точек в архивах Ар, Ах. Если при этом на итерации ?
появляется новая точка р, доминирующая некоторые точки из архива Ар, то все
доминируемые точки, а также соответствующие точки из архива Ах, удаляем. При
удовлетворении некоторого критерия останова текущее содержимое архивов Ар, Ах
_ * _ *
полагаем искомой аппроксимацией фронта Парето Ор и множества Парето Ох соответственно.
В популяционных методах Парето-аппроксимации новые точки для архивов Ар, Ах
«поставляет» популяция агентов si, текущие координаты которых в пространстве поиска
{X} равны Х{, а в пространстве {р} - р = р(Х1); I е [1: ].
В популяционных оптимизационных алгоритмах миграция агентов в пространстве поиска подчинена задаче минимизации (для определенности) значений фитнесс-функции. Основной проблемой построения популяционных методов Парето-аппроксимации является построение фитнесс-функции (р(X), обеспечивающей перемещение агентов популяции ,
/ е [1: |] в направлении множества Парето Ох, а соответствующих точек ¥1 - в
*
направлении фронта Парето Ор .
В силу, как правило, меньшей размерности критериального пространства { р} по
сравнению с размерностью пространства поиска {х }, ответ на вопрос о направлении и шаге
перемещения агентов обычно отыскивают в терминах критериального пространства, а не пространства параметров. Важно также, что относительно множества Парето, по сути, нет никой априорной информации, кроме того, что это множество точек, не связанных между собой отношением предпочтения ^. В то же время по отношению к фронту Парето априорной информации значительно больше. Например, с учетом того, что частные критерии
оптимальности нормированы и поэтому (X) е [0; 1], к е [1: |р|], имеет место
Утверждение 1. Любой луч, проведенный из начала системы координат 0/1 /2 • • • /\р| в неотрицательном направлении осей 0 /1, 0 /2 ,• • •, 0 /р \ пересекает фронт Парето не более чем в одной точке.
Доказательство проведем от противного. Допустим, что утверждение неверно, и
**
указанный луч пересекает фронт Парето в точках р1 , р2 . В этом случае, по крайней мере,
для одного к е [1: /|] должно быть справедливо неравенство ^ < /2 к или неравенство
/1 к > /2 к, что противоречит условию принадлежности точек // , / фронту Парето^
Выделяют четыре класса задач Парето-оптимизации, соответствующих следующим четырем типам фронта Парето: выпуклые задачи; вогнутые задачи; выпукло-вогнутые задачи; разрывные задачи (рисунок 2).
Рисунок 2 - Типы фронтов Парето ( / = 2): а) выпуклый; б) вогнутый; в) выпукло-вогнутый
фронт; г) разрывный
Одной из проблем популяционных методов Парето-аппроксимации является формирование начальных состояний архивов А/, Ах. С этой целью может быть
использован сеточный метод, суть которого состоит в следующем. Покрываем область Ох
некоторой сеткой с узлами Х1, / е [1: п]. В каждом из этих узлов вычисляем значение
вектор-функции , среди векторов выбираем недоминируемые векторы {/А} и находим соответствующее им множество точек {ХА}, где /¿А = /(ХА), I- е [1: |А|].
3 3 3 ^
Множества {ХА}, {/А} представляют собой искомую начальную дискретную
аппроксимацию множества Парето и фронта Парето МКО-задачи (1) соответственно.
Известным вариантом сеточного метода является метод исследования пространства параметров [15], особенностью которого является использование специальных сеток, построенных на основе так называемых ЛПТ последовательностей, обеспечивающих большую репрезентативность Парето-аппроксимации.
2. «Наивные» методы
Данный класс методов выделяет Люк (S. Luke) в своей известной книге [14]. Простейшим методом данного класса является метод на основе лексикографической турнирной селекции (lexicographic tournament selection).
Метод исходит из того, что частные критерии fk (X), k е [1: |F|] упорядочены по важности, так что самым важным является критерий f (X), следующим по важности -критерий f2(X) и так далее. Рассмотрим правило сравнения приспособленностей агентов, используемое данным методом. Пусть si, Sj, i, j е [1: |S|], i Ф j - два сравниваемых агента в текущих состояниях Xi, Xj. Лучшего из этих агентов определяем путем последовательного сравнения пар величин (fk (Xi), fk (Xj)), k = 1,2,...., |F| до тех пор, пока не будет установлено, что, например, f^ (Xi) < f^ (Xj ). В таком случае полагаем, что агент Si имеет лучшую приспособленность по сравнению с агентом Sj .
Лучшего агента Sbest е S популяции в ее текущем состоянии X,, i е [1: |S|] определяем в результате следующей последовательности шагов.
1) Выбираем случайного агента популяции st и полагаем его лучшим агентом, т.е.
полагаем Xbest = Xt . Выполняем присваивание j = 2 .
2) Выбираем другого случайного агента si .
3) По указанному выше правилу определяем лучшего из агентов Sbest, Si и объявляем
rbest
его новым агентом s .
4) Если j < m (размер турнира m не исчерпан), то полагаем j = j +1 и
возвращаемся к шагу 2.
Известен ряд модификаций рассмотренного метода. Так для выбора лучшего агента
можно использовать случайный критерий из числа критериев fk, k е [1: |F |]. Можно
использовать процедуру голосования, когда лучшим считается агент, которому соответствуют наименьшие значения наибольшего числа критериев. Наконец, можно
использовать многоуровневую турнирную селекцию (в случае |F| > 2), когда основной
турнир проводим на основании одного критерия, однако агентов для этого турнира отбираем с использованием турнира по другому критерию, агентов для этого турнира отбираем с использованием турнира по третьему критерию и т.д.
3. Методы переключающихся целевых функций
В данных методах выбор лучших агентов популяции производится на основе сравнения соответствующих значений различных частных критериев оптимальности. Наиболее известным алгоритмом Парето-аппроксимации, основанном на методе
переключающихся целевых функций, является алгоритм VEGA (Vector Evaluated Genetic Algorithm), предложенный Шафером (D. Shaffer) в 1985 г. [16].
Пусть Xi, i e [1: |S|] текущие положения агентов популяции, где |S| > |F| и эти
величины кратны. Пригодность агентов в алгоритме VEGA определяют по следующей схеме. 1) В соответствии с принятым правилом селекции, основываясь на фитнесс-функции
SI
<( X) = f1 (X), выбираем -.—г лучших агентов, не исключая их из популяции.
F
2) Аналогично, основываясь на фитнесс-функции < (X) = f (X) , выбирае
|S|
следующие -т-^г лучших агентов.
м
S
\F\) Основываясь на фитнесс-функции <F\ (X) = fF\ (X), выбираем -.—последних
ii i i i i f
лучших агентов.
В качестве правила селекции алгоритм VEGA использует правило рулетки, когда вероятность выбора агента si пропорциональна его относительной приспособленности (если речь идет о максимизации целевых функций):
-v(X') , , , iе[1:|S|].
Xj), j е [1: |S|] 1 '
Рассмотренную схему отбора иллюстрирует рисунок 3, на котором представлены проекции точек Fi, i е [1: |S|] на плоскость 0f пространства критериев {F} . Показаны
множества агентов Si, , отобранных на основе критериев оптимальности f (X) , f2(X) соответственно (имеются в виду задача многокритериальной максимизации).
Рисунок 3 - К схеме алгоритма VEGA
4. Методы агрегации целевых функций
В данном случае целевые функции агрегируют (сворачивают) в один параметризованный скалярный критерий, который выступает в роли фитнесс-функции. Рассматриваем следующие методы данного класса: метод взвешенных критериев; метод идеальной точки; адаптивный метод взвешенных сумм.
4.1. Метод взвешенных критериев
Теоретической основой метода взвешенных критериев (Sum of Weighted Objectives, SWO) является следующая известная теорема [1, 2].
Теорема 1. Если для некоторых весовых множителей Як > 0 , k е [1: |F|] имеет место равенство
if \f\
т-п Х4Л(X(X•). (2)
х ^х к=1 к=1
* *
где X е Ох, то вектор X оптимален по Парето.
*
Доказательство. Пусть вектор X не оптимален по Парето. Тогда существует такой вектор X е Dх, что
fkX) < ^(X*), к е [1: ].
причем хотя бы одно из неравенств является строгим. Умножая каждое из последних неравенств на Як > 0 и складывая, получим
И И ( \
ЪЛ /к(X)< ЪК Л(X*),
к=1 к=1
что противоречит условию теоремы^
Теорема 1 показывает, что выбор определенной точки из множества Парето
эквивалентен указанию весов для каждого из частных критериев оптимальности. Важно, что
*
теорема задает лишь необходимое условие оптимальности по Парето вектора X е Ох . Т.е.
*
из того факта, что точка X принадлежит множеству Парето, не следует, что эта точка
*
обязательно удовлетворяет условию (2) - случай невыпуклого множества Ор (рисунок 4).
Рисунок 4 - Невыпуклый фронт Парето: И = 2; дуга АВ - фронт Парето О
'р
В качестве фитнесс-функции в методе взвешенных критериев используем функцию
к X) = р(Л, И) = £ Лк/к (X), к=1
где (| р х 1)-вектор Л = (Л, Л'-^Л-И ). Основным недостатком метода является
невозможность с его помощью локализовать точки фронта Парето, принадлежащие его невыпуклой части (дуга СО на рисунке 4).
Метод широко используется для построения не популяционных алгоритмов Парето-аппроксимации, схема которых состоит из двух следующих основных шагов.
1) Множество Da = (Л | 0 < Xi < 1, i e [1: |F|]) допустимых значений вектора весовых множителей Л = (X, X,..., ) покрываем некоторой сеткой с узлами
Л j = (\j ,Х2, j ,...,Xf j X j = 1,2,...
2) При каждом Л j решаем задачу глобальной условной оптимизации (2) - получают
* *
точку X j e Dx.
4.2. Метод идеальной точки
** /У* У* У*\
Идеальной называют точку в пространстве критериев F = (f , J 2 ,..., ) , где
fl = fk(X*) = min fk(X), k e [1: |F|].
x eDX
В качестве фитнесс-функции в этом случае используют функцию
ср(X) = р(F", F), (3)
где р(-, •) - некоторая метрика пространства {F}, например, чебышевская метрика [17]
Р( F F) = max (xk abs( f * - fk)), \ > 0.
ke[1: |F|]
Здесь abs (•) - символ абсолютного значения числа.
Метод идеальной точки иллюстрирует рисунок 5, показывающий, что, в отличие от метода взвешенных критериев, данный метод позволяет отыскивать точки, лежащие на невыпуклой части фронта Парето. Заметим, что свертка на основе идеальной точки (3) близка к свертке Гермейера [17].
Метод может быть использован для построения не популяционных алгоритмов Парето-аппроксимации. Задачу Парето-аппроксимации в этом случае сводят к многократному решению задачи глобальной оптимизации
min p(F**, F) = p(F**, F*)
X eDX
при различных допустимых значениях компонентов вектора весов Л = (Л, Л,..., ) по
схеме, близкой к схеме, приведенной в предыдущем пункте.
4.3. Адаптивный метод взвешенных сумм
Адаптивный метод взвешенных сумм (Adaptive Weighted Sum Method, AWSM) предложили Рю, Ким и Ван (J-H. Ryu, S. Kim, H. Wan) в 2009 г. [18]. Целью разработки метода было преодоление указанного выше ограничения метода взвешенных критериев, заключающегося в невозможности отыскания точек, принадлежащих невыпуклым частям фронта Парето. Метод не является популяционным. Мы включаем его в обзор вследствие новизны и высокого потенциала развития.
Метод разработан для двухкритериальной задачи (|F| = 2) и включает в себя три
следующие основные процедуры:
• определение центральной точки;
• формирование метамоделей частных критериев;
• решение полученных оптимизационных задач. Рассмотрим суть указанных процедур.
Определение центральной точки. На этапе инициализации центральная точка XC выбирается случайным образом в области Dx . На этом же этапе должны быть определены
следующие свободные параметры метода: =0 - начальный радиус области доверия (trust region radius); р е (0; 1) - коэффициент сужения области доверия; Smin - минимальная величина радиуса области доверия.
На итерации t +1 центральная точка X'G отыскивается среди точек текущей Парето-
аппроксимации Ax = AX , построенной на предыдущей итерации t.
Отсортируем элементы архивных множеств Ax , Af по возрастанию первого частного критерия оптимальности f (X) и представим в виде линейных списков с
прежними наименованиями. Определим расстояние d j архивной точки Ff до ближайших к ней в списке AF точек формулой
dj =|| Ff-1 - Ff || + || Ff - Ffi |, 1 < j < |A|, (4)
где || • || - символ евклидовой нормы.
Метод использует следующее правило определения центральной точки XC .
1) Если A > 2, то полагаем XC = XA*, где
il c j
f Л
j * = arg I max dj | XA £ XT .
7 % je [2: ( A|-1)] Jl J T )
Здесь Xt - множество точек, использованных в качестве центральных на всех предыдущих итерациях [0 : t]. Иными словами, за центральную точку принимаем точку, во-первых, наиболее удаленную от других точек множества Ax в смысле расстояния (4), и, во-вторых, не использованную на предшествующих итерациях.
2) Если jA| = 2, то с равной вероятностью полагаем X'c = Xf или X'c = X2 .
3) Если |A| = 1, то принимаем X'c = Xf .
Формирование метамоделей. Метамодели представляют собой квадратичные аппроксимации m'(X), m'2(X) функций f (X), f2(X) в окрестности точки X'c :
m' (X) = f1(XC ) + GTT(XC )(X - XC ) + 2(X - XC )T H (X'c )(X - XC ); m2 (X) = f2(XC ) + G2T(XC )(X - XC ) + 2(X - Xc )t H2 (xC )(X - XC ).
Здесь T - символ транспонирования; G^XC ), G2(XC ) - градиенты функций f1(X),
АСX) в точке Х'с соответственно; Нх (Х'с ), Х'с ) - матрицы Гессе этих функций. Если |А| > 2, то дополнительно строим метамодели
ш'р (X) = Л?т[ (X) + т2 (X), т* (X) = Л*т1 (X) + Л2 т2 (X),
а если |А| = 2 или |А| = 1 - метамодель
т'р (X) = Л? т[ (X) + ЛЛр т2 (X).
В первом случае (|А| > 2 ) весовые множители (Л? , Л2? ) = Лр, (Лр, Лр ) = Л* определяем по правилу
Лр = ср((-/^А)+/2^_?)), (/^А)- fl(xi_?))),
л* = с*((-f2(xA.+1) + /МА)), (fl(Xi■+1)-/.(X,
во втором случае (| А| = 2 ) - по правилу
Лр = ср((-/2(X*) + /2(X?)), (/?(X21)-/?(X1А)));
в третьем случае (когда |А| = 1) - по правилу Лр = (0,5, 0,5) . Константы ср, с* выбирае
таким образом, чтобы обеспечить выполнение условий нормировки Лр + Лр = Л* +Л2=1.
Отметим, что при построении метамоделей т' (X), т2 (X) речь может идти не о градиентах и матрице Гессе функций /1 (X) , /2 (X), а об их оценках, полученных,
например, численными методами (путем соответствующих конечно-разностных аппроксимаций указанных функций).
Решение оптимизационных задач. Данная процедура предполагает решение задач оптимизации
м
min m[ (X) = m' (X ), min m'2 (X) = m'2 (X2 ), (5)
X eD'c X eD'c
где текущая область доверия D'c определяет формула
D'c = {X | X eDX, X-XC <S}.
Если A > 2, то решения X| , X2 задач (5) позволяют отыскать приближенно
оптимальные по Парето точки XX' , XX' , принадлежащие области доверия DC , путем
р ч ^
решения оптимизационных задач
min m'p (X) = m'p (XX'p ), min m'q (X) = m'q (Xq ). (6)
X eD'C rr x eD'C
Данный этап метода AWSM иллюстрирует рисунок 6, на котором принято что FC = F(X'C ), Fi_ = F(XA*_j), Fi+1 = F(XA, +1). Отметим, что задачи (5), (6)
представляют собой задачи оптимизации квадратичных функций, для решения которых известны высокоэффективные методы, алгоритмы и соответствующее программное обеспечение.
А
Шг)
Л \ \ \ V \
^ЧЛ - / ч \
\ / . \ ^ \ / . \ - ' 1 .• Ii \
v X V \ \
s * \ \ V
ч \ \ ч
1 \ \D; \ ^ \ j +i \ -*
0 Л№) /2
Рисунок 6 - К схеме адаптивного метода взвешенных сумм: результаты решения задач (6)
В процессе итераций текущий радиус области доверия уменьшают по правилу 8 = р 8 до достижения минимально допустимой его величины 8т^. Новое состояние
архивного множества Л'х получаем путем добавления в текущее множество Лх точек ХХ[ ,
X2 , Х'р , Х'у и исключения из полученного набора доминируемых решений. Множество
О'р образуют точки, соответствующие построенному множеству Л'х .
5. Методы на основе ранжирования агентов популяции
Основным понятием методов данного класса является понятие ранга агента популяции. Известно несколько правил вычисления рангов. Ниже рассмотрены основные из
этих правил, используемые в методе недоминируемой сортировки, методе Парето-силы, а также в некоторых других методах.
5.1. Недоминируемая сортировка Метод недоминируемой сортировки (Non-Dominated Sorting, NDS) впервые был опубликован в работе Шриниваса (N. Srinivas) и Деба (K. Deb) в 1994 г. [19]. Метод лежит в основе широко известного генетического алгоритма Парето-аппроксимации NGSA (Non-Dominated Sorting Genetic Algorithm) [21].
Положим, что все частные критерии оптимальности являются одинаково важными.
Ранг агента si, i е [1: |S |] в его текущем положении Xi обозначаем ri. В методе NDS
используется простейшее из правил вычисления рангов, имеющее следующий вид (рисунок
7).
1) Выбираем среди всех агентов популяции недоминируемых, присваиваем им ранг, равный единице, и исключаем из дальнейшего рассмотрения.
2) Среди оставшихся агентов выбираем недоминируемых, присваиваем им ранг, равный двум, и исключаем из дальнейшего рассмотрения. И так далее до исчерпания популяции.
Ранг индивида легко использовать для вычисления его приспособленности, например, по формуле вида
(р(Хг) = -L, i е [1: |S|]. 1 + ri
Рисунок 7 - К определению понятия ранга агента: F = 2
Предтечей метода недоминируемой сортировки можно, вероятно, считать метод MOGA ЦMulti-Objective Genetic Algorithm), предложенный Фонсека (С. M. Fonseca) и
Флемингом (P. J. Fleming) в 1993 г. [10]. В методе предполагается, что ранг агента равен числу агентов в популяции, которые его доминирует. Заслуживает также упоминания Парето генетический алгоритм с нишеванием (Niched-Pareto Genetic Algorithm, NPGA), предложенный Хорном (J. Horn) c соавторами в 1994 г. [20].
Как отмечалось выше, важнейшим требованием к методам и алгоритмам Парето-аппроксимации является требование обеспечения равномерности покрытия множества и фронта Парето. Для оценки равномерности покрытия может быть использована величина, называемая разреженностью (scarcity), имеющая смысл минимального расстояния между решениями, принадлежащими Парето-аппроксимации. Указанное расстояние может быть измерено с помощью различных метрик, например, с помощью известного манхеттеновского расстояния (Manhattan distance). Развитием метода недоминируемой сортировки является метод, в котором при формировании архивов Ax , Af отвергают агентов, расстояние которых до других агентов в архиве не превышает заданной величины. Такой модифицированный метод положен в основу генетического алгоритма Парето-аппроксимации NGSA-H (Non-DominatedSorting Genetic Algorithm II) [21].
Иное правило ранжирования агентов популяции используется в методе Парето силы (Pareto strength). Метод исходит из того, что сила агента Sj, i е [1: |S|] равна числу особей,
которых доминирует по Парето данный агент. Определенную указанным способом силу агентов можно использовать для вычисления их приспособленности. Однако такое определение пригодности обладает рядом недостатков [14]. Поэтому в вычислительной практике используют альтернативное понятие слабости (weakness) агента, равной числу особей, его доминирующих. Точнее говоря, используют вариант слабости агента, называемый в работе [14] его хилостью (wimpiness) "W и равный суммарной силе всех особей, доминирующих данного агента. Фитнесс-функция при этом имеет вид
Метод Парето силы использует известный популяционный алгоритм Парето-аппроксимации SPEA (Strength Pareto Evolutionary Algorithm) [21]. Развитием алгоритма SPEA является алгоритм SPEA-2, который подобно алгоритму NGSA-H использует оценки равномерности Парето-аппроксимации [23].
Упрощенным вариантом алгоритма SPEA-2 можно считать алгоритм PAES (Pareto Achieved Evolution Strategy), предложенный Ноулзом (J. Knowles) и Корн (D. Corne) в 1999 г. [24]. Рангом ri агента si в алгоритме PAES называется число архивных решений,
доминируемых решением Xi; i е [1: |S|]. Схема алгоритма PAES для агента si имеет следующий вид.
1) По законам используемого популяционного алгоритма (в оригинале - генетического алгоритма) перемещаем агента Si из его текущего положения Xi в новое положение X'.
5.2. Метод Парето-силы
2) Если одно из решений Xi и X' доминирует другое решение, то лучшее из них объявляем кандидатом. В противном случае кандидатом объявляем то из решений Xi, X', ранг которого выше.
3) Если решение-кандидат доминируется некоторым из архивных решений, то кандидата отвергаем. В противном случае кандидата записываем в архив, но только в том случае, если он находится в той части области поиска, в которой на текущий момент обнаружено мало решений. При записи кандидата в архив все доминируемые им решения из архива удаляем.
4) Если условие окончания итераций не выполнено, возвращаемся к шагу 1.
5.3. Другие методы на основе ранжирования
Метод средневзвешенного ранжирования (Weighted Average Ranking, WAR) предложили Бентли (P. J. Bentley) и Вэйкфилд (J. P. Wakefield) в 1996 г. [25]. Пусть
Vk = v( fk ) - относительная важность частного критерия fk, k е [1: |F|] . Метод WAR предполагает вычисление текущего ранга агента Si, i е [1: |S|] по следующей схеме.
1) Для каждого из критериев fk формируем список Lk, содержащий величины fk (Xi ) , упорядоченные по их возрастанию. k е [1: |F|]
2) Ранг агента Si полагаем равным величине
Г =lEi(vknkX)), i e [1: |S|], (7)
где n^ (Xi) - порядковый номер агента s, в списке Lk .
Метод суммы взвешенных оценок (Sum of Weighted Ratios, SWR) можно считать развитием метода WAR [25]. При вычислении ранга агентов метод использует свертку вида (7), в которой вместо относительной важности частных критериев vk используются их особым образом нормализованные значения. Нормализация основана на использовании наихудших и наилучших текущих значений критериев
fwors (Xi) = max, ] fu (Xi), fbest (Xl) = mm ] fk (X,)
&e[1:|F| ] ke[1:\F\]
и определяется формулой
f ( X ) — f worst ( X )
fk (X,)= Jk\ i) J-k е [1 :| F |], i е [1: IsI].
J K v l/ fbest (X ) f worst (X ) ' '
Метод суммы взвешенных глобальных оценок (Sum of Weighted Global Ratios, SWGR) [25] близок к предыдущему методу с тем отличием, что наихудшие и наилучшие значения критериев определяют на основе всей предыстории поиска, т.е. на основе всех итераций те [1: t ]:
Г™* (Xi) = max max f (XJ); fbest (Xi) = nun min fl (Xj); i е [1: |S|].
те[1: t] /е[1: F ] те[1:Г] /е[1: F ] 1 1
Метод максимального взвешенного ранжирования (Weighted Maximum Ranking, WMR) [25] основан на идее рассмотренного выше метода VEGA. Положим, что все критерии нормализованы и заданы их относительные важности , k е [1: F ]. Схему метода
определяет следующая последовательно шагов.
1) Аналогично методу WAR формируем списки Lк, k е [1: |F|] и определяем
величины Пк (Xj ), i е [1: |S|].
2) Вычисляем ранги каждого из |S| агентов по всем |F| критериям оптимальности
v, II II
Гк(Xi) = , i е [1: S], к е [1: F].
nk( Xi)
3) В качестве итогового ранга агента si в его текущем положении Xt принимаем величину
ri = max Гк(Xi), i е [1: |S|].
ke[1: |F|]
6. Прочие методы
В данном разделе рассматриваем сигма-метод, методы композитных точек, гиперкубов, динамических соседей, а также метод хищник-жертва.
6.1. Сигма-метод
Сигма-метод (sigma method) предложили Мостагхим (S. Mostaghim) и Тич (J. Teich) в 2003 г. [26].
Для двухкритериальной задачи (| F |=2) сигма-параметром точки Xi или
соответствующей ей точки Fi = (ft 1, fi2), называется величина
f2 - f-2
^ = Fi ) = frfr, i е [1: S ].
fi ,1 + fi ,2
Легко видеть, что точки Fi, имеющие одно и то же значение сигма-параметра, лежат на одной прямой, проходящей через начало системы координат 0f f. Определение сигма-параметра иллюстрирует рисунок 8, на котором одинаковые значения сигма-параметра имеют пары точек (F1, F2 ), (F3, F4),(F5, F6 ) .
Рисунок 8 - К определению сигма-параметра: Г = 2
В случае, когда размерность критериального пространства больше двух (| Г |>2) сигма-метод использует | Г |-мерный вектор сигма-параметров с = (о^, • • •, |) . Для агента si этот вектор определяет выражение
С- = с( Г1 ) =
г2 _ г 2\
Л,1 Л,2
Г2
,2
2
Л' ,3
2 , _ 2 Л; Г ./¡,1
(21+;2 +
+ О, -е [1: М].
В сигма-методе для точки X-, - е [1: |] лучшая архивная точка ХЛ, ) е [1: \Л\]
определяется по следующей схеме.
1) Вычисляем значение сигма-параметра точки Г(Х{) - величину = С (Г-) .
2) Находим в архиве Лг точку ГЛ, у которой значение сигма-параметра наиболее
близко к величине с :
Ш1П || С1 _ с1
/е[1:| Л|]
С _ о
(8)
Здесь
символ евклидовой нормы.
3) В качестве лучшей для точки X- принимаем точку ХЛ такую, что Г(ХЛ) = . В данном случае в качестве метрики близости точек Г-, используется евклидова
норма в сигма-пространстве {с} .
Утверждение 2. Предположим, что для всех архивных частиц ХА, ] е [1:| А |] вектор сигма-параметров с = <С,С2,.. .,С|р | уже вычислен. Тогда отыскание для точки Х1
лучшей архивной точки ХА сигма-методом требует 0(| Р 11 А |) арифметических операций.
Справедливость утверждения вытекает из того факта, что для отыскания точки, которая является лучшей для точки Х1, требуется | А | раз вычислить значение нормы вида (8) и для каждого такого вычисления необходимо 0(| Р |) арифметических операций•
Для двухкритериальной задачи изложенную схему сигма-метода иллюстрирует рисунок 9. Стрелками на рисунке для каждой из точек р показаны «притягивающие» точки
Рисунок 9 - Схема сигма-метода для двухкритериальной задачи: • - архивные точки FA; о - точки Fi
6.2. Метод композитных точек
Метод композитных точек предложили Филдсенд (J.E. Fieldsend) и Синх (S. Singh) в 2002 г. [27]. Метод использует архив Af недоминируемых точек в виде, так называемого дерева доминирования (dominated tree), представляющего собой список композитных точек (composite points) Cj = (Cj l5 C j 2,..., C j |F |), j = 1, 2,.... Для двухкритериальной задачи пример дерева доминирования приведен на рисунке 10.
Координаты первой композитной точки Ci определяем по следующей схеме.
1) В качестве первой координаты Ci i этой композитной точки принимаем первую
координату той архивной точки Ff, j\ е [1:| A |], у которой значение этой координаты наибольшее, т.е. полагаем
Ci,i = max ffi = fAi.
je[1:| A|] Л
Исключаем точку из дальнейшего рассмотрения.
2) Вторую координату с 2 точки Ci полагаем равной второй координате той из
оставшихся архивных точек FA, у которой эта координата имеет наибольшее значение, т.е. принимаем, что
Ci,2 = max fj2 = ff2,2 J ф J i.
je[1:| A|] 2
Точку FJA исключаем из дальнейшего рассмотрения.
3) Если | F |> 2, то поступаем аналогичным образом для всех остальных координат, так что
Ci,|F| = max fAF\ = fjA. |F|, J ф Ju J ф j 2,---,]ф J \F\-i. Je[i:|A|] FJ 1
Рис. 10. Дерево доминирования для двухкритериальной задачи: - архивные точки ГЛ _ Г7Л; ® - композитные точки С1, С2, С3
4) По аналогичной схеме вычисляем координаты второй композитной точки и так далее до исчерпания всех точек архива Лр.
Рассмотрим схему алгоритма быстрого построения дерева доминирования. Положим, что сформированы списки Ьр| из | Л | элементов каждый такие, что в списке Ьк
содержатся точки архива Лр, отсортированные в порядке убывания по критерию оптимальности /к (X) ; к Е [1:| р |]. При использовании известного алгоритма быстрой сортировки построение таких списков требует, в худшем случае, 0(| Л |2) операций сравнения. Элементы списка Ь обозначим Ьк ^, к Е [1:| р |], ] Е [1 :| Л |].
1) В качестве координаты С1 к точки С принимаем к -ю координату элемента Ьк1 и
исключаем этот элемент из всех списков.
2) В качестве координаты С2 к точки С2 принимаем к -ю координату элемента Ьк2 и
исключаем этот элемент из всех списков.
3) И так далее до исчерпания всех списков Ьк ; к Е [1:| р |].
Легко видеть, что архиву Лр соответствует общее число композитных точек, равное
|Л| '
С =
р
где - символ ближайшего целого меньшего.
Архивные точки рЛ, , ..., рЛ , соответствующие композитной точке С^, назовем
вершинами точки С^; ] е [1: |С |].
После того как дерево доминирования построено, лучшую точку для точки Х1 определяем по следующему правилу.
1) В списке композитных точек находим точку С^ такую, что имеет место хотя бы
одно из неравенств
С,,к * Лк < См, У Е [1: (|С| -1)], к Е [1:| р |].
2) Из числа вершин рЛ, ,..., рЛ композитной точки С]- находим точку р^ , р Е [1 :| р |], которая строго доминирует точку р[, т.е. такую, что рЛ > р.
3) В качестве лучшей для точки X{ принимаем точку XЛ , соответствующую
1 У р
Т7Л
вершине г; .
■> Р
4) Если среди вершин р, р^,..., р^ имеется более одной, которая строго доминирует точку Р, то из них случайным образом выбираем вершину рЛ и в качестве
1 Ур
лучшей для точки XI принимаем соответствующую точку X^ .
J р
Рассмотренное правило определения лучшей точки иллюстрирует рисунок 11 , на котором стрелками на рисунке показаны соответствующие лучшие точки.
Рисунок 11 - К определению лучшей точки в методе композитных точек: • - точки архива Лр; ® - композитные точки; 0 - точки ¥1
Утверждение 3. Предположим, что дерево доминирования предварительно тем или иным образом построено. Тогда поиск в архиве Лх точки, которая является лучшей для
точки XI, требует 0(|С1 Г |2) сравнений.
Справедливость утверждения вытекает из того факта, что в изложенной схеме определения лучшей точки поиск композитной точки Стребует 0(|С1 Г |), а выбор точки
Г Л - не более 0(| Г |) сравнений •
J р
6.3. Метод гиперкубов
В основе метода гиперкубов, предложенного Коэлло (С.Л. Сое11о) и Лечунга (ММ. Ьеекища) в 2002 г. [28], лежит процедура покрытия области достижимости некоторой
совокупностью гиперкубов и процедура назначения каждому из этих гиперкубов коэффициента пригодности. Рассмотрим данные процедуры.
Положим частные критерии оптимальности /1 (X), /2 (X), •.., | (X)
нормированными, так что /к (X) е [0; 1], к е [1: |Г|], VX е Dх .
Искомые гиперкубы строим путем разделения | Г | -мерного единичного гиперкуба
Н0 = [0;1]х[0;1]х....х[0;1] на гиперкубов с длиной ребра, равной — (рисунок 12),
п
где натуральное число п - свободный параметр метода.
Пусть некоторый гиперкуб Н1, ] е [1: ПР|] включает в себя архивных точек.
10
Пригодность этого гиперкуба принимаем равной величине р■--. Если выбранный
т}
гиперкуб вообще не содержит точек архива, то происходит расширение области поиска, т.е.
вводится в рассмотрение гиперкуб, который включает в себя гиперкуб Н 1 . Таким образом,
пригодность каждого из построенных гиперкубов полагаем обратно пропорциональной числу архивных точек, которые находятся в нем, и гиперкуб, содержащий меньшее число этих точек, оказывается более пригодным (рисунок 12). Такое определение пригодности направлено на обеспечение более равномерной Парето-аппроксимации.
Рисунок 12 - Покрытие области DF гиперкубами для двухкритериальной задачи: п = 4 ; • -
Л
архивные точки Г
Если по рассмотренному правилу множество достижимости DF покрыто гиперкубами и для каждого из гиперкубов определены их пригодности, то отыскание в архиве Лх точки, которая является лучшей для точки XI, производится по следующей схеме.
1) Если в гиперкубе Н1, в котором находится точка X-, имеются архивные точки, то
случайным образом с равной вероятностью выбираем одну из этих точек Г Л .
2) В противном случае выполняем следующие действия:
2
- расширяем зону поиска - рассматриваем все возможные гиперкубы Н^ с длиной
2 тт1 ребра равной —, которые включают в себя гиперкуб Н ■; п
2
- определяем пригодность гиперкубов Н ■ , как сумму пригодностей входящих в
них гиперкубов H1;
}
2
из числа всех найденных гиперкубов Н^ по правилу рулетки выбираем один из
2
гиперкубов H j ;
J*
случайным образом с равной вероятностью выбираем одну из точек ¥А этого
гиперкуба.
3) В качестве искомой лучшей точки принимаем соответствующую точку FA. Приведенную схему выбора лучшей точки иллюстрирует рисунок 12. Точка Fi на
рисунке находится в гиперкубе ABCD. В этом гиперкубе нет ни одной архивной точки. Поэтому в рассмотрение вводим гиперкубы BEFG, CHKL, DMNP. Пригодности этих гиперкубов равны 2; 2,3; 0,4 соответственно. По правилу рулетки выбираем, например, гиперкуб BEFG. В этом гиперкубе с равной вероятностью выбираем одну из архивных точек, например, точку, на которую на рисунке указывает стрелка.
6.4. Метод динамических соседей Метод динамических соседей предложили Хью (X. Hu) и Эберхарт (R. Eberhart) в 2002 г. [29]. Схему метода можно представить в следующем виде.
1) Фиксируем все критерии оптимальности, кроме критерия f1(X) - полагаем этот критерий динамическим.
2) Вычисляем в пространстве критериев f2, Уз,-., f\F\ расстояния (например,
евклидовы) от точки Fi, i е [1: |] до всех архивных точек FA, j е [1: |A|].
3) Выбираем на этой основе m ближайших архивных соседей точки Fi, где m -свободный параметр метода.
4) Из числа выделенных точек выбираем лучшую по критерию f (X) .
5) На следующей итерации полагаем динамическим критерий f (X) , а все остальные
критерии фиксируем. И так далее.
Авторы метода отмечают, что остается открытым вопрос об оптимальной величине числа m .
6.5. Метод хищник-жертва
Метод хищник-жертва (predator-prey) предложил Лауманс (M. Laumanns) с соавторами в 1998 г. [30]. Рассматриваем оригинальный метод Лауманса и его основные модификации последних лет. Полагаем, что областью допустимых значений вектора
варьируемых параметров является гиперпараллелепипед
вх = (X | х- < X; < х+, I е [1: |Х|]).
Каждая из жертв представляет собой один вектор решений, а каждый хищник - один критерий оптимальности. Популяция эволюционирует на тороидальной сетке (рисунок 13), в узлах которой случайным образом инициализируем жертв и хищников. Каждый хищник рассматривает все жертвы в своей окрестности и удаляет жертву с худшим значением соответствующего критерия оптимальности. Затем в той же окрестности выбираем и модифицируем случайную жертву. Измененное решение помещаем на место удаленной жертвы. Хищника случайным образом перемещаем в один из соседних с ним узлов сетки. Процесс итерационно повторяем до выполнения условий окончания.
Рисунок 13 - Пример размещения хищников (квадратики) и жертв (кружки) на тороидальной
сетке
Приведем схему метода в более формализованном виде.
1) В гиперпараллелепипеде Ох случайным образом инициализируем популяцию жертв - решения Х;, I е [1: ].
2) Ставим в соответствие жертвам вершины ненаправленного связного графа в виде тороидальной решетки.
3) Случайным образом помещаем хищников в вершины указанного графа.
4) Ставим в соответствие каждому из хищников один из критериев оптимальности
/к (X), к е [1: |] таким образом, чтобы каждый из критериев был представлен, по меньшей мере, одним хищником.
5) Вычисляем значения соответствующего критерия для всех жертв в окрестности каждого из хищников и выбираем худшие жертвы.
6) Полагаем, что выбранные жертвы поглощены хищниками, и удаляем их из популяции.
7) Взамен каждого из удаленных агентов создаем новую жертву путем изменения случайно выбранной жертвы в окрестности удаленного агента.
8) Случайным образом перемещаем хищников из их текущих положений в соседние вершины графа.
9) Если условие окончания итераций не выполнено, возвращаемся к шагу 5.
Экспериментально показано, что с ростом числа поколений популяция жертв
стремится к фронту Парето, т.е. представляет собой искомую Парето-аппроксимацию.
Недостатком рассмотренного канонического метода хищник-жертва является возможная потеря лучших (ближайших к множеству Парето решений).
Деб (K. Deb) в 2001 г. предложил улучшения метода [31], суть которых заключается в следующем:
- хищникам ставят в соответствие не частные критерии оптимальности, а векторы их
весов;
- вместо удаленной жертвы новую жертву создают путем модификации не случайного, но лучшего агента в окрестности удаленной жертвы;
- хищника перемещают не случайным образом, а в направлении позиции лучшей жертвы в его окрестности.
Исследования авторов метода показывают, что он обеспечивает по сравнению с каноническим методом более высокую скорость сходимости, однако, как и канонический метод, может терять найденные лучшие решения.
В работе [32] рассмотрена модификация канонического метода, предложенная Ли (X Li), в которой жертв и хищников помещают не во все узлы графа, представленного на рисунке 13. Жертвы и хищники выполняют случайные перемещения в направлении соседних пустых узлов графа, причем хищники движутся быстрее жертв. При каждом перемещении жертвы создается ее потомок. Вычислительные эксперименты показали недостаточно высокую скорость сходимости соответствующего алгоритма.
В той же работе [32] Дебом (K. Deb) и Рао (U. Rao) предложена глубокая модификация канонического метода, основу которой составляют следующие три механизма:
- механизм сохранения лучших решений;
- механизм рекомбинации решений;
- механизм получения равномерной Парето-аппроксимации.
Механизм сохранения лучших решений (элитизм) предполагает сравнения приспособленности худших жертв с приспособленностью созданных агентов (потомков). Меру приспособленности агентов строим на основе Парето доминирования. Если данный потомок слабо доминирует всех жертв популяции (лучше их, по крайней мере, по одному из частных критериев оптимальности), то заменяем этим потомком соответствующую худшую жертву. В противном случае потомка объявляем неподходящим, худшую жертву оставляем в популяции, а хищник для обеспечения разнообразия популяции случайным образом
перемещаем в направлении худшей жертвы.
Механизм рекомбинации решений строим на основе операторов скрещивания и мутации агентов (так что, в целом, метод оказывается вариантом генетического алгоритма). В окрестности худшей жертвы создаем двух потомков путем скрещивания лучшего и второго лучшего решений. Затем случайным образом выбираем одного из этих потомков и выполняем его мутацию. Если полученный таким образом потомок оказывается хуже худшей жертвы, то по рассмотренной схеме создаем нового потомка и опять сравниваем его приспособленность с приспособленностью худшей жертвы. Процесс повторяем не более некоторого фиксированного числа раз.
Механизм обеспечения равномерности покрытия. Полагаем, что каждая жертва имеет область влияния (influencing region) в виде гиперкуба в критериальном пространстве, в центре которого находится данная жертва. Потомка полагаем не подходящим, если он создан в области влияния любой из существующих жертв. Заметим, что аналогичный механизм используется в методе £-доминирования [33]. Размеры области влияния назначаем, исходя из требуемой равномерности покрытия.
Для того чтобы предотвратить ситуацию, когда хищники полностью уничтожают
популяцию, используем следующий прием. Число перемещений tP, которые выполняют хищники перед тем, как жертвы могут сделать свои перемещения, объявляем динамической переменной, определяемой формулой
-P
Sp — Si
SP
где W - символ ближайшего меньшего,
Sp
S *
текущее и желаемое числа жертв,
S
P
текущее число хищников. В результате при уменьшении числа жертв уменьшается величина
+р
I , т.е. хищники начинают двигаться медленнее, шансы жертв на выживание повышаются, и популяция жертв расширяется. При этом хищники становятся более быстрыми, и их популяция начинает сокращаться. И так далее.
Авторы рассматриваемой модификации метода выполнили широкое экспериментальное исследование его эффективности на ряде трудных задач известного тестового набора двух- и трехцелевых задач многокритериальной оптимизации [31]. Показано, что алгоритм обеспечивает высокие скорость сходимости и равномерность покрытия фронта-Парето.
Заключение
Многообразие методов построения Парето-аппроксимации указывает на актуальность данной задачи. Представляются перспективными следующие направления развития этих методов.
Вычислительная сложность частных критериев оптимальности, вообще говоря, различна в различных частях области варьируемых параметров Ох. Рассмотренные и иные
известные методы Парето-аппроксимации не учитывают этого обстоятельства. Поэтому актуальной, на наш взгляд, является разработка адаптивных и самоадаптивных методов Парето-аппроксимации, учитывающих данный факт.
Практически значимые задачи многокритериальной оптимизации имеют высокую вычислительную сложность и требуют для своего решения использования параллельных вычислительных систем. Поэтому необходима разработка параллельных методов Парето-аппроксимации, ориентированных на различные классы таких систем (кластерные системы, графические процессорные устройства и т.д.) [34].
Важным с практической точки зрения является класс задач Парето-аппроксимации, в которых требуется построить аппроксимацию не всего фронта Парето, но лишь той части его, которая ближе всего к заданной пользователем «предпочтительной» точке пространства критериев. Поэтому представляется актуальной задача разработки методов решения задач данного класса. Известна модификация метода хищник-жертва, предназначенная для решения таких задач [32]. Можно также считать, что метод идеальной точки является частным случаем этих методов.
Задачу Парето-аппроксимации можно считать одной из широкого класса задач приближенного построения границ множеств различной природы. Поэтому значительный интерес представляет адаптация рассмотренных методов и разработка новых методов, предназначенных для решения задач указанного класса. Пример такого подхода демонстрирует работа [35], в которой один из методов Парето-аппроксимации использован для приближенного построения границы области достижимости многосекционного манипулятора параллельной кинематики типа хобот.
Отметим, наконец, перспективность гибридизации рассмотренных и иных методов Парето-аппроксимации.
Авторы благодарят Бушневского А.В. и Савелова А.С. за помощь в подготовке некоторых материалов для данной работы.
Литература
1. Подиновский В.В., Ногин В.Д. Парето-оптимальные решения многокритериальных задач.- М.: Физматлит, 2007.- 256 с.
2. Ногин В.Д. Принятие решений в многокритериальной среде: количественный подход.- М.: Физматлит, 2005.- 176 с.
3. Ларичев О.И. Теория и методы принятия решений: Учебник для ВУЗов.- М.: Университетская книга, Логос, 2006.- 392 с.
4. Курейчик В.М. Генетические алгоритмы и их применение.- Таганрог: Изд-во Таганрогского РТУ, 2002. -244 с.
5. Ashlock D. Evolutionary Computation for Modeling and Optimization.- Springer, 2006.- 571 pp.
6. Guliashki V., Toshev H., Korsemov Ch. Survey of Evolutionary Algorithms Used in Multiobjective Optimization // Problems of Engineering Cybernetics and Robotics, 2009, Vol. 60, pp. 42 - 54.
7. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation, 2000, Vol. 8(2), pp. 173-195.
8. Карпенко А. П., Селиверстов Е. Ю. Глобальная оптимизация методом роя частиц. Обзор // Информационные технологии, 2010, №2, с. 25-34.
9. Карпенко А. П., Селиверстов Е. Ю. Обзор методов роя частиц для задачи глобальной оптимизации // Наука и образование: электронное научно-техническое издание, 2009, №3. (http://technomag.edu.ru/doc/116072.html).
10. Fonseca C. M., Fleming P. J. Genetic Algorithms for Multiobjective Optimization: Formulation, Discussion and Generalization / Proc. of the 5th International Conference on Genetic Algorithms, San Mateo, California, 1993, pp. 416-423.
11. Zitzler E., Thiele L., Marco Laumanns M., Fonseca C. M., da Fonseca V. G. Performance Assessment of Multiobjective Optimizers: An Analysis and Review // IEEE Transactions of Evolutionary Computation, 2003, Vol. 7(2), pp. 117-132.
12. Knowles J.D., Corne D.W. On Metrics for Comparing Non-Dominated Sets // Proc. of the 2002 IEEE Congress on Evolutionary Computation (CEC '02), New Jersey, Piscataway, May 2002, IEEE Service Center, 2002, Vol. 1, pp. 711-716.
13. Гуменникова А. В. Адаптивные поисковые алгоритмы для решения сложных задач многокритериальной оптимизации. Диссертация на соискание ученой степени к. т. н.Красноярск, 2006, 129 с.
14. Luke S. Essentials of Metaheuristics. A Set of Undergraduate Lecture Notes. Department of Computer Science George Mason University, Online Version 1.3 February, 2012. (http://cs.gmu.edu/~sean/book/metaheuristics/Essentials.pdf).
15. Соболь И.М., Статников Р.Б. Выбор оптимальных параметров в задачах со многими критериями: Учебное пособие для ВУЗов.- М.: Дрофа, 2006.- 175 с.
16. Schaffer J.D. Multiple Objective Optimization with Vector Evaluated Genetic Algorithms / In: Genetic Algorithms and Their Applications. Proceedings of the First International Conference on Genetic Algorithms, 1985, Lawrence Erlbaum, pp. 93-100.
17. Моор Д.А., Мухлисуллина Д. Т. Анализ эффективности различных сверток критериев оптимальности в задаче многокритериальной оптимизации // Наука и образование: электронное научно-техническое издание, 2010, №4. (http://technomag.edu.ru/doc/141623.html).
18. Ryu J.-H., Kim S., Wan H. Pareto front approximation with adaptive weighted sum method in multiobjective simulation optimization / Proceedings of the 2009 Winter Simulation Conference (WSC), 2009, Austin, pp. 623-633. (http://www.informs-sim.org/wsc09papers/060.pdf).
19. Srinivas N., Deb K. Multiobjective optimization using nondominated sorting in genetic algorithms // Evolutionary Computation, 1994, vol. 2, p. 221-248.
20. Horn J., Nafpliotis N., Goldberg D.E. A Niched Pareto Genetic Algorithm for Multiobjective Optimization / Proc. of the First IEEE Conference on Evolutionary Computation, IEEE World Congress on Computational Intelligence, New Jersey, 1994, Vol. 1, pp. 82-87.
21. Deb K., Pratap A., Agarwal S., Meyarivan T. A fast and elitist multiobjective genetic algorithm: NSGA-II // IEEE Transactions on Evolutionary Computation, 2002, Vol. 6, Issue 2, pp. 182 - 197.
22. Zitzler E., Thiele L. Multi objective evolutionary algorithms: A comparative case study and the strength Pareto approach, IEEE Transactions on Evolutionary Computation, 1999, Vol. 3(4), pp. 257-271.
23. Zitzler E., Laumanns M., Thiele L. SPEA2: Improving the Strength Pareto Evolutionary Algorithm for Multiobjective Optimization / In K.C. Giannakoglou and al., editors. Evolutionary Methods for Design, Optimization and Control with Application to Industrial Problems (EUROGEN 2001), International Center for Numerical Methods in Engineering (CIMNE), 2002, pp. 95-100.
24. Knowles J., Corne D. The Pareto achieved evolution strategy: A new baseline algorithm for Pareto multiobjective optimization / Proceedings of the Congress on Evolutionary Computation (CEC99), 1999, Washington, Vol. 1, pp. 98-105.
25. Bentley P. J., Wakefield J. P. An Analysis of Multiobjective Optimization within Genetic Algorithms / Technical Report ENGPJB96, University of Huddersfield, UK, 1996. P. 19.
26. Mostaghim S., Teich J. Strategies for Finding Good Local Guides in Multi-objective Particle Swarm Optimization (MOPSO) / In: Swarm Intelligence Symposium, 2003. SIS '03. Proceedings of the 2003 IEEE, pp. 26 - 33.
27. Fieldsend J.E., Singh S. A multi-objective algorithm based upon particle swarm optimization, an efficient data structure and turbulence (2002). (http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.19.6959).
28. Coello C.A., Lechuga M.S. MOPSO: A proposal for multiple objective particle swarm optimization / In IEEE Proceedings, World Congress on Evolutionary Computation (CEC2002), 2002, pp. 1051-1056.
29. Hu X., Eberhart R. Multiobjective Optimization Using Dynamic Neighborhood Particle Swarm Optimization / In: Evolutionary Computation, 2002. CEC '02. Proceedings of the 2002 Congress on, Honolulu, HI, USA, 12 - 17 May 2002, pp. 1677 - 1681.
30. Laumanns M., Rudolph G., Schwefel H.P. A spatial predator-prey approach to multi-objective optimization: A preliminary study / In Proceedings of the Parallel Problem Solving from Nature, 1998, Vol. V, pp. 241-249.
31. Deb K. Multi-objective optimization using evolutionary algorithms.- Chichester, UK: Wiley, 2001, P. 518.
32. Deb K., Rao U. B. Investigating Predator-Prey Algorithms for Multi-Objective Optimization / Kanpur Genetic Algorithms Laboratory (KanGAL), Department of Mechanical Engineering Indian Institute of Technology Kanpur, India, KanGAL Report Number 2005010 (http://www.iitk.ac.in/kangal/).
33. Deb K., Mohan M., Mishra S. Evaluating the £-domination based multi-objective evolutionary algorithm for a quick computation of Pareto-optimal solutions // Evolutionary Computation Journal, 2005, Vol. 13(4), pp. 501-525.
34. Антух А.Э., Карпенко А.П., Семенихин А.С., Хасанова Р.В. Построение множества Парето методом роя частиц на графических процессорах архитектуры CUDA // Научный сервис в сети Интернет: суперкомпьютерные центры и задачи: Труды Международной суперкомпьютерной конференции (20-25 сентября 2010 г., г. Новороссийск). М.: Изд-во МГУ, 2010. C. 274-280.
35. Карпенко А.П., Семенихин А.С., Червяцова М.Н. Метод приближенного построения границы области достижимости многосекционного манипулятора типа «хобот» // Наука и образование: электронное научно-техническое издание, 2011, № 1. (http://technomag.edu.ru/doc/165078.html).
electronic scientific and technical periodical
SCIENCE and EDUCATION
_EL № KS 77 -3()56'J..VaU421100025. ISSN 1994-jMOg_
Review: population methods of Pareto set approximation in multi-objective optimization problem
77-30569/363023 # 04, April 2012
Karpenko A.,P., Semenikhin A., S., Mitina E.V.
Bauman Moscow State Technical University
[email protected] [email protected] mitinakaterina@ gmail. com
This authors present a review of numerical methods of approximate Pareto set generation in the multi-objective optimization problem. The following methods are discussed: "naive" methods, switching objective functions methods, methods of objective functions aggregation, methods based on ranking of population agents, and other methods. All cases referred to methods involving the use of genetic or swarm algorithms, such as particle swarm optimization algorithm.
Publications with keywords: multiobjective optimization, Pareto set, Pareto front, population methods
Publications with words: multiobjective optimization, Pareto set, Pareto front, population methods
References
1. Podinovskii V.V., Nogin V.D. Pareto-optimal'nye resheniia mnogokriterial'nykh zadach [Pareto-optimal solutions of multicriterion problems]. Moscow, Fizmatlit, 2007. 256 p.
2. Nogin V.D. Priniatie reshenii v mnogokriterial'noi srede: kolichestvennyipodkhod [Decision-making in multicriterion environment: a quantitative approach]. Moscow, Fizmatlit, 2005. 176 p.
3. Larichev O.I. Teoriia i metody priniatiia reshenii [Theory and methods of decision making]. Moscow, Universitetskaia kniga, Logos, 2006. 392 p.
4. Kureichik V.M. Geneticheskie algoritmy i ikhprimenenie [Genetic algorithms and their applications]. Taganrog, TRSU Publ., 2002. 244 p.
5. Ashlock D. Evolutionary Computation for Modeling and Optimization. Springer, 2006. 571 p.
6. Guliashki V., Toshev H., Korsemov Ch. Survey of Evolutionary Algorithms Used in Multiobjective Optimization. Problems of Engineering Cybernetics and Robotics, 2009, vol. 60, pp. 42 - 54.
7. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results. Evolutionary Computation (journal), 2000, vol. 8, no. 2, pp. 173-195.
8. Karpenko A. P., Seliverstov E. Iu. Global'naia optimizatsiia metodom roia chastits. Obzor [Global optimization of method of particle swarm. Overview]. Informatsionnye tekhnologii, 2010, no. 2, pp. 25-34.
9. Karpenko A. P., Seliverstov E. Iu. Obzor metodov roia chastits dlia zadachi global'noi optimizatsii [Review of the particle swarm optimization method (PSO) for a global optimization problem]. Nauka i obrazovanie: nauchnoe izdanieMGTUim. N.E. Baumana [Science and Education: scientific periodical of the Bauman MSTU], 2009, no. 3. Available at: http://technomag.edu.ru/doc/116072.html, accessed 4.05.2012.
10. Fonseca C. M., Fleming P. J. Genetic Algorithms for Multiobjective Optimization: Formulation, Discussion and Generalization. Proc. of the 5th International Conference on Genetic Algorithms, San Mateo, California, 1993, pp. 416-423.
11. Zitzler E., Thiele L., Marco Laumanns M., Fonseca C. M., da Fonseca V. G. Performance Assessment of Multiobjective Optimizers: An Analysis and Review. IEEE Transactions of Evolutionary Computation, 2003, Vol. 7 (2), pp. 117-132.
12. Knowles J.D., Corne D.W. On Metrics for Comparing Non-Dominated Sets. Proc. of the IEEE Congress on Evolutionary Computation (CEC '02), Vol. 1, New Jersey, Piscataway, May 2002, IEEE Service Center, 2002, pp. 711 - 716.
13. Gumennikova A. V. Adaptivnye poiskovye algoritmy dlia resheniia slozhnykh zadach mnogokriterial'noi optimizatsii. Kand. diss. [Adaptive search algorithms for solving complex problems of multicriteria optimization. Cand. diss.]. Krasnoiarsk, 2006. 129 p.
14. Luke S. Essentials of Metaheuristics. A Set of Undergraduate Lecture Notes. Department of Computer Science George Mason University, Online Version 1.3 February, 2012. Available at: http://cs.gmu.edu/~sean/book/metaheuristics/Essentials.pdf.
15. Sobol' I.M., Statnikov R.B. Vybor optimal'nykhparametrov v zadachakh so mnogimi kriteriiami [The choice of optimal parameters in problems with many criteria]. Moscow, Drofa, 2006. 175 p.
16. Schaffer J.D. Multiple Objective Optimization with Vector Evaluated Genetic Algorithms. Proc. of the First International Conference on Genetic Algorithms and Their Applications, 1985, Lawrence Erlbaum, pp. 93-100.
17. Moor D.A., Mukhlisullina D. T. Analiz effektivnosti razlichnykh svertok kriteriev optimal'nosti v zadache mnogokriterial'noi optimizatsii [Analysis of the effectiveness of different scalar convolutions in multiobjective optimization problem]. Nauka i obrazovanie: nauchnoe izdanie MGTU im. N.E. Baumana [Science and Education: scientific periodical of the Bauman
MSTU], 2010, no. 4. Available at: http://technomag.edu.ru/doc/141623.html, accessed 4.05.2012.
18. Ryu J.-H., Kim S., Wan H. Pareto front approximation with adaptive weighted sum method in multiobjective simulation optimization. Proc. of the 2009 Winter Simulation Conference (WSC), 2009, Austin, pp. 623-633. Available at: http://www.informs-sim.org/wsc09papers/060.pdf.
19. Srinivas N., Deb K. Multiobjective optimization using nondominated sorting in genetic algorithms. Evolutionary Computation (journal), 1994, vol. 2, p. 221-248.
20. Horn J., Nafpliotis N., Goldberg D.E. A Niched Pareto Genetic Algorithm for Multiobjective Optimization. Proc. of the First IEEE Conference on Evolutionary Computation, IEEE World Congress on Computational Intelligence, New Jersey, Piscataway, June 1994, IEEE Service Center, Vol. 1, pp. 82-87.
21. Deb K., Pratap A., Agarwal S., Meyarivan T. A fast and elitist multiobjective genetic algorithm: NSGA-II. IEEE Transactions on Evolutionary Computation, 2002, vol. 6, no. 2, pp. 182 - 197.
22. Zitzler E., Thiele L. Multiobjective evolutionary algorithms: A comparative case study and the strength Pareto approach. IEEE Transactions on Evolutionary Computation, 1999, vol. 3, no. 4, pp. 257-271.
23. Zitzler E., Laumanns M., Thiele L. SPEA2: Improving the Strength Pareto Evolutionary Algorithm for Multiobjective Optimization. Evolutionary Methods for Design, Optimization and Control with Application to Industrial Problems (EUROGEN 2001), International Center for Numerical Methods in Engineering (CIMNE), 2002, pp. 95- 100.
24. Knowles J., Corne D. The Pareto achieved evolution strategy: A new baseline algorithm for Pareto multiobjective optimization. Proc. of the Congress on Evolutionary Computation (CEC99), Washington, 1999, Vol. 1, pp. 98-105.
25. Bentley P. J., Wakefield J. P. An Analysis of Multiobjective Optimization within Genetic Algorithms. Technical Report ENGPJB96, University of Huddersfield, UK, 1996. 19 p.
26. Mostaghim S., Teich J. Strategies for Finding Good Local Guides in Multi-objective Particle Swarm Optimization (MOPSO). Proc. of the Swarm Intelligence Symposium (SIS '03), IEEE, 2003, pp. 26 - 33.
27. Fieldsend J.E., Singh S. A multi-objective algorithm based upon particle swarm optimization, an efficient data structure and turbulence. 2002. Available at:
http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.19.6959.
28. Coello C.A., Lechuga M.S. MOPSO: A proposal for multiple objective particle swarm optimization. Proc. of the World Congress on Evolutionary Computation (CEC2002), IEEE Service Center, 2002, pp. 1051-1056.
29. Hu X., Eberhart R. Multiobjective Optimization Using Dynamic Neighborhood Particle Swarm Optimization. Proc. of the Congress on Evolutionary Computation (CEC '02), May 2002, IEEE Service Center, pp. 1677 - 1681.
30. Laumanns M., Rudolph G., Schwefel H.P. A spatial predator-prey approach to multi-objective optimization: A preliminary study. Fifth International Conference on Parallel Problem Solving from Nature (PPSN-V), Berlin, Germany, pp. 241-249.
31. Deb K. Multi-objective optimization using evolutionary algorithms. Chichester, UK, Wiley, 2001. 518 p.
32. Deb K., Rao U. B. Investigating Predator-Prey Algorithms for Multi-Objective Optimization. KanGAL Report Number 2005010. Kanpur Genetic Algorithms Laboratory (KanGAL), Department of Mechanical Engineering Indian Institute of Technology Kanpur, India. Available at: http://www.iitk.ac.in/kangal/.
33. Deb K., Mohan M., Mishra S. Evaluating the -domination based multi-objective evolutionary algorithm for a quick computation of Pareto-optimal solutions. Evolutionary Computation Journal, 2005, vol. 13, no. 4, pp. 501-525.
34. Antukh A.E., Karpenko A.P., Semenikhin A.S., Khasanova R.V. Postroenie mnozhestva Pareto metodom roia chastits na graficheskikh protsessorakh arkhitektury CUDA [The construction of the Pareto set using method of a swarm of particles on the GPUs CUDA architecture]. Nauchnyi servis v seti Internet: superkomp'iuternye tsentry i zadachi: Trudy Mezhdunarodnoi superkomp'iuternoi konferentsii (20-25 sentiabria 2010 g., g. Novorossiisk) [Scientific services on the Internet: supercomputing centers and Objectives: Proc. of the International Supercomputer Conference (20-25 September 2010, Novorossiysk)]. Moscow, Bauman MSTU Publ., 2010, pp. 274-280.
35. Karpenko A.P., Semenikhin A.S., Cherviatsova M.N. Metod priblizhennogo postroeniia granitsy oblasti dostizhimosti mnogosektsionnogo manipuliatora tipa «khobot» [Approximation of a set of attainability for trunk multisectional robot-manipulator ]. Nauka i obrazovanie: nauchnoe izdanie MGTU im. N.E. Baumana [Science and Education: scientific periodical of the Bauman MSTU], 2011, no. 1. Available at: http://technomag.edu.ru/doc/165078.html, accessed 4.05.2012.
