CC BY
126
Интернет-журнал «Науковедение» ISSN 2223-5167 http ://naukovedenie.ru/
Том 8, №4 (2016) http ://naukovedenie. ru/index.php?p=vol8-4
URL статьи: http://naukovedenie.ru/PDF/67EVN416.pdf
DOI: 10.15862/67EVN416 (http://dx.doi.org/10.15862/67EVN416)
Статья опубликована 26.08.2016.
Ссылка для цитирования этой статьи:
Грошев С.В., Карпенко А.П., Мартынюк В.А. Эффективность популяционных алгоритмов Парето-аппроксимации. Экспериментальное сравнение // Интернет-журнал «НАУКОВЕДЕНИЕ» Том 8, №4 (2016) http://naukovedenie.ru/PDF/67EVN416.pdf (доступ свободный). Загл. с экрана. Яз. рус., англ. DOI: 10.15862/67EVN416
Работа поддержана РФФИ (проекты № 16-07-00287, 15-07-01764) УДК 519.6
Грошев Сергей Владимирович
ФГБОУ «Московский Государственный технический университет им. Н.Э. Баумана», Россия, Москва1 Старший преподаватель кафедры «Системы автоматизированного проектирования»
E-mail: [email protected]
Карпенко Анатолий Павлович
ФГБОУ «Московский Государственный технический университет им. Н.Э. Баумана», Россия, Москва
Зав. кафедрой «Системы автоматизированного проектирования» Доктор физико-математических наук, профессор E-mail: [email protected]
Мартынюк Владимир Алексеевич
ФГБОУ «Московский Государственный технический университет им. Н.Э. Баумана», Россия, Москва
Доцент кафедры «Системы автоматизированного проектирования»
Кандидат технических наук E-mail: [email protected]
Эффективность популяционных алгоритмов Парето-аппроксимации. Экспериментальное сравнение
Аннотация. Задача многокритериальной оптимизации возникает в различных областях науки и техники, и предложено несколько различных способов ее решения. Классические алгоритмы решения задачи многокритериальной оптимизации (МКО-задачи) основаны на сведении ее к совокупности задач глобальной однокритериальной оптимизации. Относительно новый и быстро развивающийся класс алгоритмов многокритериальной оптимизации образуют алгоритмы на основе Парето-аппроксимации, предполагающие предварительное построение некоторой конечномерной аппроксимации множества, а тем самым, и фронта Парето рассматриваемой МКО-задачи. Обычно алгоритмы Парето-аппроксимации строят на основе эволюционных и, чаще всего, генетических алгоритмов. Принципиальными в эволюционных алгоритмах Парето-аппроксимации являются правила формирования фитнесс-функции, обеспечивающей перемещение индивидов популяции, в конечном счете, в направлении множества Парето. Работа носит обзорный характер и включает в себя результаты экспериментальных исследований эффективности ряда
1 105005, г. Москва, ул. 2-я Бауманская, д. 5
популяционных алгоритмов Парето-аппроксимации, полученные с участием авторов в период с примерно 2010 года по настоящее время.
Работа имеет целью показать на ряде известных тестовых и практически значимых МКО-задач сравнительную эффективность Парето-аппроксимации с помощью генетического алгоритма, алгоритмов роя частиц, колонии муравьев и колонии пчел в комбинации с различными методами формирования фитнесс-функции. Для оценки эффективности указанных алгоритмов Парето-аппроксимации в работе использован, индикатор, называемый разреженностью покрытия (scarcity), имеющий смысл минимального расстояния между решениями, принадлежащими Парето-аппроксимации. Кроме этого в качестве индикатора используется число недоминируемых решений, найденных алгоритмом Парето-аппроксимации за заданное число итераций.
Результаты исследования показывают, что для обеспечения высокого качества аппроксимации множества Парето по каждому из рассматриваемых индикаторов качества необходимо использовать специальные алгоритмические решения, например, нишевание, для обеспечения равномерности покрытия. Важно, что эти решения, вообще говоря, различны для различных индикаторов качества. Потому актуальной является задача разработки алгоритмов, «заточенных» под каждый из индикаторов качества Парето-аппроксимации. С другой стороны, наличие значительного числа индикаторов качества Парето-аппроксимации означает многокритериальность задачи оценки этого качества. Таким образом, актуальной является проблема разработки алгоритмов Парето-аппроксимации как многокритериальных алгоритмов.
Ключевые слова: многокритериальная оптимизация; множество Парето; парето-аппроксимация; популяционные алгоритмы; генетические алгоритмы; фронт Парето; качество решения
Введение
В настоящее время интенсивно развивается класс алгоритмов многокритериальной оптимизации (МКО), которые основаны на предварительной конечномерной аппроксимации множества (фронта) Парето МКО-задачи. Называем эту аппроксимацию Парето-аппроксимацией. Алгоритмы Парето-аппроксимации строят, преимущественно, с использованием популяционных алгоритмов [1, 2]. Принципиальными для популяционных алгоритмов Парето-аппроксимации (ПП-алгоритмов) является способ конструирования фитнесс-функции, которая обеспечивала бы перемещение агентов популяции в направлении множества Парето. При этом в качестве популяционных могут использоваться эволюционные и мета-эвристические алгоритмы, например, алгоритм роя частиц [3, 4], муравьиный алгоритм [5, 6], пчелиный и другие алгоритмы [7, 8].
Работа носит обзорный характер и включает в себя результаты исследования эффективности некоторых ПП-алгоритмов, полученные с участием авторов в период с примерно 2010 года по настоящее время. Работа имеет целью показать на ряде известных тестовых и практически значимых МКО-задач эффективность Парето-аппроксимации с помощью генетического алгоритма, алгоритмов роя частиц, колонии муравьев и колонии пчел в комбинации с различными методами формирования фитнесс-функции.
Для оценки качества Парето-аппроксимации могут быть использованы различные индикаторы [9, 10]. В работе в качестве таких индикаторов используется величина, называемая разреженностью покрытия (scarcity), а также число недоминируемых решений, найденных ПП-алгоритмом за заданное число итераций.
В первом параграфе приведена постановка МКО-задачи. Обзор 1111-алгоритмов представлен во втором параграфе. При этом основное внимание сконцентрировано на правилах конструирования фитнесс-функций. Третий параграф представляет примеры решения тестовых и практически значимых задач Парето-аппроксимации с помощью генетического алгоритма, а также с помощью алгоритмов роя частиц, колонии муравьев и колонии пчел.
Если A - некоторый вектор, то принято, что 1 А 1 есть размерность этого вектора.
1. Постановка задачи многокритериальной оптимизации (МКО-задачи)
Полагаем, что множеством допустимых значений вектора варьируемых параметров X
и с {X} = я ^'
является ограниченное и замкнутое множество х { } . Вектор-функция
^ (X ) =(/Д X ), /2( X ),..., / (X )) критериев 2 1 е 1 имеет значения в пространстве критериев
{F } = Я^1
{ } . Лицо, принимающее решения (ЛПР), имеет целью минимизировать во
И ^ (X ) ^ (X ) ^ (X )
множестве х каждую из функций 1( 2
F (X ) ^ min
X е D „
(1)
Множество достижимости задачи (1) обозначаем , фронт Парето - ир е ир ,
*
соответствующее множество Парето - е . Полагаем, что решением задачи (1)
*
является множество Парето .
2. Обзор популяционных алгоритмов Парето-аппроксимации
1111-алгоритмы отличаются от не популяционных алгоритмов тем, что реализуем одновременный поиск большого числа недоминируемых точек, близких к паретовским.
к, X F© е П X © е D г
Архивными называем множества 0 , 0 , содержащие точки 1 F , 1 ;
j е [1 : I© I] _ _ 5 = {5., i е [1 : \s I]} _
1 1 . Популяцию агентов обозначаем i 1 1 . Текущие координаты
s. {X }, {F} X. F = F (X )
агента i в пространствах полагаем равными i и i i соответственно.
Фитнесс-функция ПП-алгоритмов должна обеспечивать перемещение агентов популяции S в
*
направлении множества Парето D X (при этом соответствующие точки {Fi} перемещаются,
*
очевидно, в направлении фронта Парето F ).
Выделяем классы ПП-алгоритмов, основанные на: 1) лексикографической селекции, 2) чередующихся критериальных функциях, 3) непосредственно использующие доминирование по Парето.
Алгоритм лексикографической турнирной селекции (lexicographic tournament selection) требует, чтобы список функций fk (X ^ k е [1 : F 1] был упорядочен по важности.
Для простоты записи примем, что этот список имеет вид ^ (Х ) , /2 (Х ), ... [10]. Лучшего из
5 ., 5 ., ', 3 е [1 : 5 ], ' Ф 3 агентов 13 11 определяем последовательным сравнением величин
(/. (X ), /. (X .))
' к 3 до тех пор, пока не будет установлено, например, неравенство
fk, () < fk, (Xj ) ; k, ki е [1: \f |]
. При этом полагаем, что агент s■ имеет лучшую
s
приспособленность, чем агент J .
Известно большое число модификаций алгоритма лексикографической турнирной селекции, которые предполагают при определении лучшего агента использование случайно
с - л- Л (X ), k е [1 : F I]
выбранной функции k 1 1 , использование правила голосования,
многоуровневой турнирной селекции и т.д.
Алгоритмы чередующихся критериальных функций. К этому классу алгоритмов относят алгоритм переключающихся функций, алгоритм динамического соседства, а также алгоритм «хищник-жертва».
В алгоритме переключающихся функций (altering objective functions) выбор лучшего агента производится по схеме, аналогичной схеме алгоритма лексикографической турнирной селекции. Широко известным алгоритмом данного класса является генетический алгоритм VEGA (Vector Evaluated Genetic Algorithm) [11].
Пусть величины S I' F I кратны и SI > F I. Приспособленность агентов в алгоритме VEGA вычисляют по представленной ниже схеме.
о F ' ' '"' S\р I
1) Разбиваем популяцию S на I I субпопуляций 1 1 случайным
образом.
В качест fj (X у J е [1: F |]
S
2) В качестве фитнесс-функции агентов популяции J принимаем функцию
S
Алгоритм VEGA использует в популяции J пропорциональную селекцию на основе
, /,. (х) J е [1 : If I] „
фитнесс-функции J ; 1 1 . Затем по правилам применяемого генетического
алгоритма к отобранными агентами применяются операторы скрещивания и мутации.
Алгоритм динамического соседства (dynamic neighborhood) [11]. Схема выбора
s i е [1 : S I] „
лучшего для агента i, 11 решения имеет в данном случае следующим вид.
f (X)
1) Полагаем функцию 1( динамической.
2) Вычисляем расстояния (в смысле используемой метрики) от точки ' до всех
точек
F j® , J е [1 : |© |]
3) На основе вычисленных расстояний выбираем т ближайших соседей точки Здесь т - свободный параметр алгоритма.
F.
F 0
4) Из числа выбранных точек находим точку Jb , которая является лучшей с точки зрения данной динамической функции.
5) Переходим к следующей итерации, принимая в качестве динамической функцию f2 (X ) . И так далее.
Алгоритм хищник-жертва (predator-prey) [13] исходит из предположения, что
множество D X представляет собой параллелепипед П. Каждому из векторов решений ставим
, „ f. (X ), f (X ),...
в соответствие одну из жертв, а каждому хищнику - одну из функций 1 2
Популяция хищников и жертв эволюционирует на тороидальной сетке.
Идея алгоритма заключается в следующем. Каждый хищник рассматривает все жертвы в своей окрестности и «съедает» жертву с худшим значением соответствующей функции
fi (X X f2( X )>••• Далее в рассматриваемой окрестности выбираем и некоторым образом модифицируем случайную жертву. Результат модификации помещаем на место «съеденной» жертвы. Затем хищник случайным образом перемещается в один из соседних с ним узлов сетки. Указанная последовательность действий итерационно повторяется до выполнения условий окончания.
Недостаток представленного алгоритма хищник-жертва заключается в возможности потери лучших решений. Известен ряд модификаций алгоритма, которые обеспечивают его более высокую эффективность [14].
Алгоритмы на основе ранжирования агентов. Алгоритмы этого класса используют понятие ранга агента популяции. Основные из известных правил вычисления рангов представлены ниже.
Алгоритм недоминируемой сортировки (Non-Dominated Sorting, NDS). Данный алгоритм использован в широко известном генетическом алгоритме NGSA (Non-Dominated Sorting Genetic Algorithm) [11]. Алгоритм использует следующее правило вычисления рангов.
1) Недоминируемым агентам популяции присваиваем ранг r, равный единице, и исключаем из рассмотрения.
2) Оставшимся недоминируемым агентам присваиваем ранг r, равный двум, и исключаем из рассмотрения. Процесс повторяем до исчерпания популяции.
Приспособленность индивида 5 i , например, вычисляем по формуле вида
1
Ф (Xt) =
1 + r. i е [1 : s
О Г S .
Здесь i - ранг индивида i
Известным алгоритмом рассматриваемого класса является алгоритм MOGA (Multi-Objective Genetic Algorithm), который в некоторых публикациях называют алгоритмом FFGA
(Fonseca and Fleming's Multiobjective Genetic Algorithm) [11]. Ранг Г агента Si в этом алгоритме равен числу агентов в популяции, которые его доминирует, плюс единица:
r = 1 +
{5 . | X . > X 5 . е S }
i е [1 : s
Высоко эффективным алгоритмом на основе ранжирования агентов является генетический алгоритм Парето-аппроксимации с нишеванием (Niched-Pareto Genetic Algorithm, NPGA) [15]. Для поддержания разнообразия популяции алгоритм использует механизм нишевания [15].
Для обеспечения высокого Парето-аппроксимации качества при формировании © х , © f
архивов можно исключать из рассмотрения агентов, расстояние которых до
архивных элементов меньше заданной величины. Такой прием использован в генетическом алгоритме Парето-аппроксимации NGSA-II (Non-Dominated Sorting Genetic Algorithm II) [16].
Алгоритм Парето-силы (Pareto strength) [17] использует понятия силы агента и его хилости (wimpiness). Первая величина равна числу агентов, которых доминирует по Парето
данный агент. Хилость агента Wi равна суммарной силе всех агентов, доминирующих данный. Приспособленность агентов при этом вычисляем по формуле вида
Vi = Xl + w-) i е [1: S |]
Алгоритм Парето силы реализует известный ПП-алгоритм SPEA (Strength Pareto Evolutionary Algorithm) [17], развитием которого является алгоритм SPEA-2 [18]. Упрощенным вариантом последнего алгоритма можно считать алгоритм PAES (Pareto Achieved Evolution Strategy) [19].
Известно значительное число других алгоритмов, основанных на идее ранжирования: алгоритм средневзвешенного ранжирования (Weighted Average Ranking, WAR) [20]; алгоритм суммы взвешенных оценок (Sum of Weighted Ratios, SWR) [26]; алгоритм суммы взвешенных глобальных оценок (Sum of Weighted Global Ratios, SWGR) [26]; алгоритм максимального взвешенного ранжирования (WeightedMaximum Ranking, WMR) [26].
Достаточно большой класс ПП-алгоритмов образуют алгоритмы, не использующие ранжирование агентов. Наиболее известными представителями этого класса алгоритмов являются сигма-алгоритм, алгоритм композитных точек, алгоритм гиперкубов [1].
3. Экспериментальная оценка эффективности некоторых методов
Парето-аппроксимации
3.1. Генетический алгоритма ^ОА II. Тестовые задачи ZDT1 - ZDT4
Эффективность Парето-аппроксимации на основе генетического алгоритма иллюстрируем на примере алгоритма NSGA II [16]. Рассматриваем задачи двухкритериальной оптимизации ZDT1 - ZDT4 [21]. Полученные Парето-аппроксимации, представлены на рисунках 1 - 4 соответственно. Всюду на рисунках сплошная линия показывает точный фронт Парето, а крестики - полученное приближения к нему. Если не оговорено иное, полагается,
что число итераций алгоритма равно { = 500 .
Задача ZDT1. Множество ^ х представляет собой параллелепипед
П = {х | X1 е [0; 1], х, е [- 1; 1], ' е [2 : |х |]} (3)
где 1Х I 30 . Рисунок 1 показывает, что алгоритм NSGA II обеспечивает для этой задачи высокое качество Парето-аппроксимации.
Рисунок 1. Парето-аппроксимация: задача ZDT1; алгоритм NSGA II [2]
Задача ZDT2. Множество В х в данном случае также имеет вид параллелепипеда (4); |х| = зо „
1 1 . Задача является достаточно трудной с точки зрения получения Парето-аппроксимации ее фронта Парето в силу невыпуклости этого фронта. Рисунок 2 показывает высокую эффективность алгоритма NSGA II и в данном случае.
Рисунок 2. Парето-аппроксимация: задача ZDT2; алгоритм NSGA II [2]
Задача ZDT3 (множество Вх есть параллелепипед (4); ХI 30 ). Результаты решения задачи представлены на рисунке 3. Задача имеет разрывный, хотя и выпуклый, фронт Парето и поэтому является сложной для многих алгоритмов Парето-аппроксимации. Из рисунка 3 вытекает, что алгоритм NSGA II и в данном случае показывает достаточно высокое качество аппроксимации.
Рисунок 3. Парето-аппроксимация: задача ZDT3; алгоритм NSGA II [2]
Задача ZDT4. Множество
В
в этой задаче есть параллелепипед
П = {х | Х1 е [0; 1], х. е [-5; 5], I е [2 : |х |]}
при I I . Особенностью задачи является наличие локальных субоптимальных фронтов, которые могут остановить Парето-аппроксимацию вдали от истинного фронта (рисунок 4).
г = 500
5) г = 800
Рисунок 4. Парето-аппроксимация: задача ZDT4; алгоритм NSGA II; [2]
Рисунок 4,а показывает, что 500 итераций алгоритма КБОЛ II позволяют получить аппроксимацию, в которой нет решений, находящихся вблизи истинного фронта Парето. При увеличении числа итераций до 800, получается аппроксимация, близкая к истинному фронту
Парето (рисунок 4,б), хотя, как и при г = 500 , не найдено решений, точно лежащих на фронте.
В целом, представленные результаты показывают, что алгоритм МБОА - II позволяет даже для сложных МКО-задач обеспечить приемлемую точность, а также относительно невысокие вычислительные затраты.
3.2. Генетический алгоритма ^ОА II. Задача об управляемом спуске космического аппарата
В соглашениях работы [22], математическая модель управляемого космического аппарата (КА) имеет вид следующей системы обыкновенных дифференциальных уравнений
(ОДУ)
dx 1 d т
dx ^
- = - — x 1 - (1 - u ) qx ,
d т r
dх 3
- = х 4,
d т
dх 4 ^
- = — Г" х з - (1 - и ) а х 4
dт г (4)
х (0) = 6471 х, (0) = 0 х, (0) = 0,1 , х. (0) = 7
при начальных условиях 1У ' км, 3 у ' , 2 4 7 км/с, 4
км/с. Здесь х^ х 3 - координаты центра масс КА, х 2' х 4 - компоненты скорости КА;
_ 2 2
и - скалярное управление; * 1 3 - радиус-вектор КА; ^ - гравитационная
л
о а = с е V
постоянная Земли; - компонента аэродинамической силы;
/ 2 2
V 2 4 - скорость КА; c - аэродинамическая характеристика КА; h - высота атмосферы; л - известный коэффициент.
В качестве функционалов качества управления рассматриваем функционалы
2 2/2 2 (x 1 (т ) + x3 (т ) yjx2 (т ) + x4 (т )
fi(u) = max I ^ min
те [0;f] g о r3 u е Du ^
f 2(u) = xз(т) - l ^ min
u е Du , (6)
первый из которых имеет смысл максимальной перегрузки КА, второй - его отклонения от заданной точки посадки. В формулах (5), (6) приняты обозначения: Гз = 6371
км - радиус Земли; g 0 = 9'81 м/с2 - ускорение свободного падения; т - длительность
, „ D = {u (т )| |u (т )| < u + }
полета; l - координата заданной точки посадки; u - совокупность
допустимых управлений; u > 0 - заданная константа.
Используем метод сведения двухкритериальной задачи оптимального управления
(4) - (6) к задаче нелинейного программирования. С этой целью покрываем интервал [0'т]
I I *
„ тi е [0 : U ] u (т)
сеткой с узлами ^ 1 1 . Оптимальное управление отыскиваем в классе
и = (и 1, и 2,..., UU |) (U |х 1) u. = u (т. )
- -вектор, где i i
кусочно-постоянных функций. Пусть 11-11 -вектор, где
В этих соглашениях и обозначениях задача (4) - (6) представляет собой двухкритериальную
h - x1
задачу оптимизации с критериями
и е Ви , Ви = {и. | \ы.\< и + , I е [1 : \и |]}
/ (и) / (и)
где вектор варьируемых параметров
Для решения полученной МКО-задачи применяем вещественный генетический
алгоритм, в котором хромосома есть совокупность
и
генов, где ген
н
кодирует
и . тт . е [1 : и ] А „ „
компоненту ' вектора и; 1 1 . Алгоритм использует оператор случайной мутации,
£ = 0,95
вероятность которой равна т ; оператор скрещивания реализует расширенный
линейный кроссинговер; в операторе селекции применяется метод отбора на основе элитизма.
Избранные результаты вычислений представлены на рисунке 5. Рисунок показывает, что рассматриваемый алгоритм не обеспечивает высокую плотность покрытия фронта Парето
и высокую скорость сходимости. При г = 100 данный алгоритм смог найти 12
недоминируемых решений (рисунок 5,а), а при г = 1000 - всего 14 таких решений (рисунок 5,б). Подчеркнем, что найденные решения достаточно равномерно распределены по фронту Парето.
г = 100
б) г = 1000
Рисунок 5. Аппроксимация фронта Парето задачи об управляемом спуске КА [2]
3.3. Генетический алгоритма NPGA. Тестовые задачи многокритериальной оптимизации
Рассматриваем модификацию алгоритма КРОА, которая предложена в работе [23]. Модифицированный алгоритм использует ранжирование индивидов на основе Парето-доминирования, аутбридинг вместо турнирной селекции [11], операцию клонирования индивидов.
Эффективность алгоритма исследована на тестовых задачах ZDT3, ZDT6, DTLZ4 (п.3.1). При решении всех этих задач использованы следующие значения свободных
параметров алгоритма [24]: параметр разделения
T = 0,3 .
а
share
= 0,01 .
; доля отбираемых для
скрещивания индивидов параметр MutationRate=1,0;
параметр рекомбинации CrossoverRate=0,7; мутационный
= 1000 . ; = 1000
Результаты исследования иллюстрируют рисунки 6 - 8, на которых представлены точные фронты Парето (сплошные линии) и их полученные аппроксимации.
Рисунок 6. Аппроксимация фронта Парето алгоритмом ЫРОЛ: тестовая задача ZDT3 [24]
Рисунок 7. Аппроксимация фронта Парето алгоритмом ЫРОЛ: тестовая задача ZDT6 [24] 11
Рисунок 8. Аппроксимация фронта Парето алгоритмом ЫРОЛ: тестовая задача DTLZ4 [24]
Представленные результаты вычислительного эксперимента показывают, что модифицированный алгоритм NPGA позволяет получить хорошие решения для тестовых
задач ZDT3, ZDT6 и удовлетворительные результаты - для задачи 4 .
3.4. Генетический алгоритма NPGA. Задача многокритериальной оптимизации автомобильной коробки переключения передач
Рассматриваем указанную в предыдущем пункте модификацию алгоритма NPGA. Используемая математическая модель коробки переключения передач автомобиля в виде схемы редактора Qucs системы PRADIS [24] приведена на рисунке 9, где DVTBLUI -двигатель, MUFTA1 - муфта сцепления, MGEAR11 - коробка переключения передач, DIFMC1 - дифференциал, М1 и М2 - колеса.
Рисунок 9. Схема математической модели коробки переключения передач (редактор Qucs) [24]
В представленной модели варьируемыми являются следующие параметры: N1, N2, N3, N4, N5 - передаточные отношения соответствующих передач; Т1 - время сброса сцепления; Т2, Т3, Т4, Т5 - времена включения соответствующих передач.
Множество D X представляет собой параллелепипед, определяемый ограничениями
1 < N t < 20 Nt е Z i е [1:5]
0 < T < 1 T е R 1 1 < Т < 20 T е R 1 i е [2 : 5]
T. < Т < Т < Т5
и стесненный неравенствами 2 3 4 5.
Выходными являются следующие переменные: Time60 - время разгона до 60 км/ч; Time100 - время разгона до 100 км/ч; Velocity - скорость автомобиля; MaxTorque -максимальный момент в трансмиссии; Torque - момент в трансмиссии; Torque_Engine -момент на валу двигателя; V_Engine - частота вращения вала; Out_Gear - частота вращения выходного вала коробки переключения передач; Efficiency - КПД трансмиссии.
Рассматриваем следующие критерии оптимальности:
• максимальный момент в трансмиссии MaxTorque ^ max ;
• максимальная скорость автомобиля VelocityMax ^ max ;
• время разгона до 100 км/ч Time100 ^ min ;
• время разгона с 60 до 100 км/ч Time60_Time100 ^ ™1П .
С использованием этих критериев сформированы три следующие МКО-задачи: 1) f 1 =-MaxTorque, f =VelocityMax; 2) f =-MaxTorque, f =VelocityMax, f3 = -Time100 ; 3) = - MaxTorque , f2 = "VdodiyMa x , f3 =-Time100, f4 = -Time60_Time100.
Парето-аппроксимации этих задач получены с использованием программной системы PRADIS//FRONT [24]. Результаты решения первой задачи представлены на рисунке 10, а второй задачи - на рисунке 11. Из рисунков следует, что для этих (достаточно сложных задач) алгоритм NPGA позволяет получить удовлетворительное качество аппроксимации фронта Парето, особенно, в его средней части.
Рисунок 10. Парето-аппроксимация двухкритериальной задачи: алгоритм NPGA
/з,с
Рисунок 11. Парето-аппроксимация трехкритериальной задачи: алгоритм NPGA [24]
3.5. Когенетический алгоритм. Тестовые задачи многокритериальной оптимизации
Рассматриваем генетический коэволюционный алгоритм (Generic Co Evolutionary algorithm, GCEA) [25], использующий недоминируемую сортировку. Оригинальность алгоритма состоит в том, что его субалгоритмы имеют различные наборы эволюционных
операторов. Основные параметры алгоритма: I - число субпопуляций; f - максимально допустимое число вычислений значений рассматриваемых критериев оптимальности;
t n ~
a - интервал адаптации; p - величина штрафа, который назначается проигравшим
S . = min \S. , i e [1 : S
/- I Imin I i I II o.
субпопуляциям; i - минимально допустимым размер
субпопуляции.
Субалгоритмы могут использовать следующие наборы эволюционных операторов: оператор рекомбинации - инбридинг и аутбридинг; оператор скрещивания - расширенный линейный оператор, BLX-оператор SBX-оператор, эвристический оператор; оператор мутации - оператор случайной мутации; оператор селекции - операторы турнирной и элитарной селекции [26].
Число субпопуляций в исследовании принято равным S 4 , величина интервала
t = 5 , n = 0,1
адаптации - a , величина штрафа - p , минимально допустимый размер
« SI = 0,12 |s| % = 0,05 „
субпопуляции - 1 lmin 1 1, вероятность мутации - m . Для оценки качества
аппроксимации используем следующие индикаторы [27]: равномерность распределения
решений ^s; число найденных паретовских решений N Pareto ; общее число испытаний fit . Исследование выполнено для двухкритериальных задач ZDT1 - ZDT4 (п.3.1). Для задач
7П7Ч 7П7Ч « - Р = 20,50,100
¿011 - ¿013 использованы размеры субпопуляций, равные 11 , и числа
поколений, равные г = 10 , 25 , 50 . Поскольку задача 2ВТ4 является мультимодальной, при ее
„ Ы = 200 , 400
исследовании использованы также размеры субпопуляций 1 1 и
г = 50 , 100 , 1000
Задача ZDT1. Исследование выполнено для алгоритма СОЛ, включающего в себя четыре субалгоритма (рисунок 12). Результаты исследования показывают, что СОЛ-алгоритм
по индикатору 1 * до ~13%, а по индикатору ^ Раге'° до ~100% эффективнее генетического
N
алгоритма. С другой стороны, с точки зрения индикатора , алгоритм СОЛ почти в четыре раза проигрывает генетическому алгоритму (данный вывод относится и ко всем тестовым задача, рассмотренным ниже в данном пункте).
Рисунок 12. Парето-аппроксимация задачи 2БТ1; Р I 100 ; г = 50 [25]
Задача ZDT2 (рисунок 13). Исследование показывает некоторое преимущество
алгоритма СОЛ над генетическим алгоритмом по индикатору ^ * . По индикатору ^ Раге° алгоритм СОЛ до примерно 95% эффективнее генетического алгоритма.
Рисунок 13. Парето-аппроксимация: задача 2БТ2; Р I 100 ; г = 50 [25]
Задача ZDT3 (рисунок 14). Для данной задачи алгоритм СОЛ во всех случаях
показывает по индикаторам ^ , ^ Рагег° более высокую эффективность, чем генетический алгоритм.
Рисунок 14. Парето-аппроксимация: задача ZDT3; г I 100 ; г - 50 [25]
Задача ZDT4. Рисунок 15 показывает, что с увеличением численности популяции, Парето-аппроксимации, полученные алгоритмом CGA, становятся более равномерным и оказываются способными преодолевать локальные фронты Парето. Генетический алгоритм, напротив, не смог преодолеть эти фронты и приблизиться к точному фронту Парето. Как и для задач ZDT1 - ZDT3, алгоритм CGA показал превосходство над генетическим алгоритмом
по индикаторам
Л
N Р , К ги
Рагею , но уступил этому алгоритму по индикатору }
}~2 20 17.5 15 12,5 10 7,5 5 2.5 О
Л А л д
ШХПв&ШХ
0.2
0.4
0.6
0.8
а) г I - 200 ; г - 100
б) И - 200 ; г - 200
в) Г I - 200 ; г - 500
Рисунок 15. Парето-аппроксимация: задача ZDT4; ◊ - коалгоритм; А - генетический алгоритм [25]
$
3.6. Когенетический алгоритм. Двухкритериальная задача управления спуском космического аппарата в атмосфере Земли
Постановка данной задачи, а также схеме сведения ее к двухкритериальной задачи оптимизации представлены в п. 3.2.
U
ва
IS
Размерность вектора варьируемых параметров принята рьируем в диапазоне от 100 до 200, величину г - от 5 до 100;
= 0,12 • М % = 0,05 , , 0
1 1 1, т (см. п. 3.5).
\S\
равной 100, величину
S = 4 t = 5 nn = 0,1
Результаты решения задачи иллюстрирует рисунок 16, показывающий значительное улучшение качества Парето-аппроксимации с ростом числа поколений, хотя число найденных паретовских точек остается небольшим.
V;
А
10,5
11
11,5
12
Рисунок 16. Парето-аппроксимация алгоритмом CGA: задача о спуске КА [25]
3.7. Парето-аппроксимация с помощью алгоритма роя частиц. Простейшая тестовая
задача двухкритериальной оптимизации
Рассматриваем эффективность алгоритмов Парето-аппроксимации MOPSO и MS
MOPSO [28] при решении простейшей двухмерной ( задачи оптимизации
| x |= 2
) двухкритериальной
2 2 2 2 / (X ) = Xj + х2 ^ min /2 (X ) = (Xj - 1) + (х2 - 1) ^ min
X е D ^ X е D ,
(I F | = 2)
(7)
Dx = {X| х,, х2 е [- 1; 1]}
(8)
Алгоритм М0Р80 использует канонический алгоритм роя частиц [3] и алгоритм динамического соседства [11].
В многороевом алгоритме МОРЮ (М£ М0Р80) параллельно (может быть, только на логическом уровне) функционирует Г I роев частиц 1. Каждый из этих роев имеет свои
0 X , 0 F А _ 0 X , 0 F 3 3 . Алгоритм использует также глобальные архивы
. Суть
локальные архивы
алгоритма заключается в использовании декомпозиции множества ^ х на Г I подобластей
D
[1 : S |]
S
1 е • г м . Чтобы агенты популяции 1 не покидали свою подобласть, применяем метод штрафных функций.
Алгоритм М0Р80. Для решения указанной задачи использован рой из 10 частиц;
. После заверш решений (рисунок 17).
© х , © *
г - 100 . После завершения указанного числа итераций, в архивах ' оказалось по 315
а) Множество Парето
б) Фронт Парето
Рисунок 17. Результаты вычислительного эксперимента: задача (7), (8); алгоритм MOPSO [2]
Рисунок 17 показывает следующее: даже для простейшей МКО-задачи (7), (8) алгоритм MOPSO позволяет получить необходимые плотности покрытия множества Парето и фронта Парето только в их средних частях.
Алгоритм М8 М0Р80 (рисунок 18). Использовано 100 роев из 10 частиц в каждом;
г - 100
период миграции
- 1
После завершения итераций в архивах
© х , © *
оказалось по 456 решений, то есть алгоритм MS MOPSO обеспечил высокую плотность и равномерность покрытия всех частей множества и фронта Парето. Ценой этого явились высокие вычислительные затраты.
а) Множество Парето б) Фронт Парето
Рисунок 18. Результаты вычислительного эксперимента: задача (7), (8); алгоритм MS MOPSO [2]
г
Алгоритмы М0Р80, МЗ М0Р80 с нишеванием. Использована простейшая схема
0 х , 0 '
нишевания: недоминируемое решение помещается в архивы (алгоритм М0Р80) или
0 х , 0 '
в архивы 1 1 (алгоритм М8 М0Р£0), только если в окрестности данного решения заданного радиуса х в архиве не имеется других решений.
Рисунки 19, 20 иллюстрируют эффективность модифицированных алгоритмов М0Р80 и М8 М0Р$>0 соответственно для случая Гх = 0,001 . Значения остальных параметров
приведены выше. После г = 100 итераций мощность архивного множества для алгоритма М0Р$>0 оказалось равной 62, а для алгоритма М$> М0Р$>0 - 172. Представленные результаты вычислительного эксперимента показывают, что нишевание для обоих алгоритмов позволяет получить высокую равномерность покрытия множества и фронта Парето. Важно, что при этом суммарное число вычислений значений критериальных функций уменьшается в несколько раз. С другой стороны, значительно понижается точность аппроксимации, особенно множества Парето.
!
8
%
и 05 1 - "о 0.5 1 1.5 2 А
а) Множество Парето б) Фронт Парето
Рисунок 19. Результаты вычислительного эксперимента: задача (7), (8); алгоритм М0РЮ с нишеванием [2]
а) Множество Парето б) Фронт Партео
Рисунок 20. Результаты вычислительного эксперимента: задача (7), (8); алгоритм М8 М0РЮ с нишеванием [2]
3.8. Парето-аппроксимация с помощью алгоритма роя частиц. Двухкритериальная
задача оптимального управления
Рассматриваем двумерную динамическую систему, эволюцию которой во времени определяет система ОДУ
Xj (г ) = x2 (г ), Xj (0) = 0,
1 к 1
X2 (г ) = - — x2 (г ) + — u (г ), x2 (0) = 0. m m
(9)
Здесь к , m - заданные константы; и (т ) - скалярное управление. Множество допустимых управлений имеет вид
Би - {и (т )| аЬ$ (и (т) )< а} (10)
Заданы два следующих критерия оптимальности функционирования системы:
f1( u ) =f( X 1(г ) -ф (г ) ) d г > min
u (г ) е Du
(11)
f2 (u ) = Y f u (г ) d г —> min
u (г )е Du
(12)
Подобно п. 3.2, используем метод сведения двухкритериальной задачи оптимального
U1
управления (9) - (13) к двухкритериальной I I -мерной задаче оптимизации
*
min F (U ) = F (U )
где
F (U ) = ( f 1(U ), f2 (U ))
и
d ^ = {u. | abs ( u . ) < a, i е [1 : \u |]}
(13)
(14)
Парето-аппроксимация задачи (13), (14) получена с помощью алгоритма MOPSO (без нишевания). Использованы значения параметров задачи
m = 1; к = 1; y = 1; a = 20; г = 10 ф(г ) = г 2 |u| = 10 „
' ; ; il и рой из 40 частиц.
Результаты вычислительного эксперимента иллюстрирует рисунок 21, который показывает удовлетворительную равномерность покрытия.
Рисунок 21. Парето-аппроксимации задачи (13), (14):
■ t = 800
[2]
U е D
и
3.9. Аппроксимация на основе алгоритма колонии мураьев
В данном пункте представляем Парето-аппроксимацию двухмерной двухкритериальной задачи (п. 3.7) комбинированным алгоритмом CIAC [5] и динамического соседства [11]. На рисунке 22 представлены результаты вычислений для случая использования алгоритмом CIAC прямого канала обмена данными и канала стигмертии. Рисунок 23 иллюстрирует случай использования только канала стигмертии.
а) Множество Парето б) Фронт Парето
Рисунок 22. Результаты вычислительного эксперимента: задача (7), (8); комбинация алгоритмов С1ЛС (оба канала) и динамического соседства [6]
Исследование выполнено при следующих значениях параметров алгоритма С1ЛС: число агентов в популяции 186; максимальное число сообщений в памяти муравья т шах = 5 ; знаменатель размерного параметра Ьг = 50 ; число итераций г = 200 [29].
Из рисунков 22, 23 следует, что без нишевания комбинация алгоритмов С1ЛС и динамического соседства позволяет обеспечить удовлетворительную равномерность покрытия лишь при использовании популяции большого размера и значительного числа итераций.
а) Множество Парето б) Фронт Парето
Рисунок 23. Результаты вычислительного эксперимента: задача (7), (8); комбинация алгоритмов С1ЛС (прямой канал) и динамического соседства [6]
3.10. Аппроксимация на основе пчелиного алгоритма
Простейшая двухкритериальная задача (п. 3.7). Рассматриваем комбинацию алгоритмов пчелиного роя [5] и недоминируемой сортировки, предназначенную для решения задачи Парето-аппроксимации [30]. Вычислительный эксперимент выполнен при следующих значениях параметров комбинированного алгоритма: числа пчел-разведчиков, элитных
ь
S п - 200 A - 40 ь _
п - 60
участков и рекрутированных пчел равны , , п - 60 соответственно
[30]. Из рисунка 24 следует, что алгоритм обладает достаточно высокой скоростью
сходимости итерации: за
t - 10
итераций получено 73 недоминируемых решений, причем
эти решения достаточно точно приближают аналитический фронт Парето задачи.
* \
\ ..........
Ч........!
% %
+ * + +
0.2 01 ¡1,6 0,8 1 1.2 1.4 1.6
Л
а) Множество Парето б) Фронт Парето
Рисунок 24. Результаты вычислительного эксперимента: задача (7), (8); модификация
пчелиного алгоритма; 1 - 10 [8]
Задача с невыпуклым фронтом Парето [21]. Рассматриваем задачу минимизации критериев
2\/4
/Д X ) - (х 2 + X2 К8 , /2(X ) - ((X! - 0,5)2 + (X 2 -0,5)2 )■ Их - {X | X. е [-5; 10 ], I - 1, 2}
Решение задачи выполнено при значениях свободных параметров, равных
(15)
(16)
S
- 100
A
- 20 ь
, п - 30 , t - 200 . Получено 48 недоминируемых решений, которые с приемлемой
точностью аппроксимируют фронт Парето (рисунок 25).
Л а.э с.е
0.7 ■
0.6 ■
0.5 ■
0 4 ■ 0.3 ■
0.2 ■
0.1
......„ *** *
+ V
Ч'П ф
: \ +
:.....\ +
: i *
А
0.45 0.5 0 55 0.6 0.65 0.7 075 О.а 0 85 0.9 0.95
Рисунок 25. Парето-аппроксимация: задача (15), (16); модификация пчелиного алгоритма; t - 200 [8]
ь
Следует отметить, что алгоритм М0Р$>0 в аналогичной ситуации смог отыскать для этой задачи 94 недоминируемых решения.
Задача с разрывным фронтом Парето [21]:
Л( х ) = \
- X , X < 1,
- 2 + х, х е (1; 3], 4 - х, х е (3; 4],
- 4 + х, х > 4, / (X ) = (х - 5)2
D х = {х | х е [-100 ; 100 ]}
(17)
(18)
/д x ) /2( X )
полагаем, подлежит минимизации. Задача является
Критерии одномерной двухкритериальной.
В вычислительном эксперименте использованы указанные выше значения свободных параметров алгоритма. Эксперимент позволил получить 155 недоминируемых решений (рисунок 26). Отметим, что алгоритм MOPSO для рассматриваемой задачи отыскал всего 96 решений, то есть пчелиный алгоритм обеспечил, по сравнению с алгоритмом MOPSO, значительно более высокую эффективность.
Рисунок 26. Парето-аппроксимация: задача (17), (18); модификация пчелиного алгоритма: t = 200 [8] Задача с множественными разрывами фронта Парето [20]:
/1( X ) = х 1, /2( X ) = а ( х 2) b ( X ),
D x = {X | х . е [0; 1], i = 1, 2} , а ( х ) = 1 + 9 х
(19)
(20)
b ( X ) = 1 -
/1( х 1)
Л/2 f
а ( х 2)
2' /
/1( х 1) а (х2)j
sin (10 я- /х( х 1) )
Оба критерия подлежат минимизации.
V
Задачу решаем и использованием значений свободных параметров алгоритма, равных
: 200 АЬ - 40 ь _ , _
; ; п - 60 ; t - I00 . в вычислительном эксперименте получено 55
недоминируемых решений (рисунок 27).
Рисунок 27. Партео-аппроксимация: задача (19), (20); модификация пчелиного алгоритма: t - 100 [8]
В тех же условиях алгоритм Ы0Р80 за 100 итераций смог найти лишь 48 недоминируемых решений, то есть, для данной (сложной) задачи модифицированный пчелиный алгоритм в сравнении с алгоритмом Ы0Р80, обеспечивает значительно более высокую эффективность.
Заключение
В работе представлен обзор следующих способов оценки приспособленности агентов популяции: лексикографическая турнирная селекция; алгоритмы чередующихся критериальных функций; алгоритмы на основе ранжирования агентов; алгоритмы, не использующие ранжирование агентов.
Рассмотрены следующие популяционные алгоритмы Парето-аппроксимации, использующие эти способы оценки приспособленности: генетический алгоритм NSGA II; генетический алгоритм NPGA; когенетический эволюционный алгоритм CGEA; алгоритмы MOPSO, MS MOPSO на основе алгоритма роя частиц; алгоритм колонии муравьев CIAC; модифицированный алгоритм пчелиного роя.
Оценка эффективности указанных алгоритмов Парето-аппроксимации выполнена с использованием следующих индикаторов качества аппроксимации: разреженностью покрытия (scarcity); число недоминируемых решений, найденных ПП-алгоритмом за заданное число итераций.
Основная часть исследования выполнена с привлечением известных тестовых МКО-задач ZDT1 - ZDT4, ZDT6, DLTZ4, а также практически значимых многокритериальных задач оптимального управления спуском космического аппарата и оптимизации автомобильной коробки переключения передач.
Результаты исследования показывают, что для обеспечения высокого качества аппроксимации множества Парето по каждому из рассматриваемых индикаторов качества необходимо использовать специальные алгоритмические решения, например, нишевание - для обеспечения равномерности покрытия. Важно, что эти алгоритмические решения, вообще
говоря, различны для различных индикаторов качества. Потому актуальной является задача разработки алгоритмов, «заточенных» под каждый из индикаторов качества Парето-аппроксимации.
С другой стороны, наличие значительного числа индикаторов качества Парето-аппроксимации означает многокритериальность задачи оценки этого качества. Таким образом, актуальной является проблема разработки алгоритмов аппроксимации, как многокритериальных алгоритмов.
В случае высокой вычислительной сложности критериальных функций, что имеет место, например, при многокритериальной оптимизации динамических систем (пп. 3.2, 3.4, 3.6, 3.8), решение МКО-задачи может требовать высоких вычислительных затрат. Поэтому актуальным является исследование параллельных алгоритмов решения этой задачи, ориентированных на различные классы параллельных ЭВМ. Опыт авторов данной работы в этой области, предполагается, станет предметом самостоятельной публикации
ЛИТЕРАТУРА
1. Карпенко А.П., Митина Е.В., Семенихин А.С. Популяционные методы аппроксимации множества Парето в задаче многокритериальной оптимизации / Обзор // Наука и образование: электронное научно-техническое издание. -2012. - №4 (http://www.technomag.edu.ru/doc/363023.html).
2. А.П. Карпенко Современные алгоритмы поисковой оптимизации. Алгоритмы вдохновленные природой / А.П. Карпенко. - Москва: Издательство МГТУ им. Н.Э. Баумана, 2014. - 446 с.
3. Kennedy J., Eberhart R. Particle swarm optimization / Proc. of the IEEE Int. Conf. On Neural Networks. -1995. - pp. 1942-1948.
4. Карпенко А.П., Селиверстов Е.Ю. Глобальная оптимизация методом роя частиц. Обзор // Информационные технологии. - 2010. - №2. - С. 25-34.
5. Dorigo M., Maniezzo М., Colorni A. Ant System: Optimization by Colony of Cooperating Agent's // IEEE Transaction Systems, Man and Cybernetics. - Part B. -1996. - Vol. 26. - P. 29-41.
6. Карпенко А.П., Чернобривченко К.А. Эффективность оптимизации методом непрерывно взаимодействующей колонии муравьев (CIAC) // Наука и образование: электронное научно-техническое издание. - 2011. - №2 (http://technomag. edu.ru/doc/165551. html).
7. Karaboga D. An idea based on honey bee swarm for numerical optimization / Technical report - TR06, Erciyes University, Engineering Faculty, Computer Engineering Department. Kayseri/Turkiye. - 2005. - 10 pp.
8. Гришин А.А., Карпенко А.П. Исследование эффективности метода пчелиного роя в задаче глобальной оптимизации // Наука и образование: электронное научно-техническое издание. - 2010. - №8 (http://technomag.edu.ru/doc/154050.html).
9. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation. - 2000. - Vol. 8(2). - pp. 173-195.
10. Белоус В.В., Грошев С.В., Карпенко А.П., Шибитов И.А. Оценка качества Парето-аппроксимации в задаче многокритериальной оптимизации. Обзор программных систем // Наука и образование: электронное научно- техническое издание. - 2014. - №4 (http://technomag.bmstu.ru/doc/709198.html).
11. Deb K. Multi-Objective Optimization Using Evolutionary Algorithms. - Chichester, U.K.: Wiley. - 2001. - 497 pp.
12. Goldberg D.E. Genetic Algorithms in Search, Optimization, and Machine Learning. - Addison-Wesley. - 1989. - 432 pp.
13. Laumanns M., Rudolph G., Schwefel H.P. A spatial predator-prey approach to multi-objective optimization: a preliminary study / Proceedings of the Parallel Problem Solving from Nature. - 1998. - Vol. 5. - P. 241-249.
14. Chowdhury S., Dulikravich G.S., Moral R.J. (2009) 'Modified predator-prey algorithm for constrained and unconstrained multi-objective optimization // Int. J. Mathematical Modeling and Numerical Optimization. -2009. - Vol. 1. - Nos. 1/2. - pp. 1-38.
15. Horn J, Nafpliotis N., Goldberg D.E. A niched Pareto genetic algorithm for multiobjective optimization / Proceedings of the First IEEE Conference on Evolutionary Computation. - NJ: IEEE Press. - 1994. - pp. 82-87.
16. Deb K., Pratap A., Agarwal S., Meyarivan T. A Fast and Elitist Multiobjective Genetic Algorithm: NSGA-II // IEEE Transactions on Evolutionary Computation. - 2002. -№6 (2). - pp. 182-197.
17. Zitzler E., Thiele L. Multiobjective evolutionary algorithms: a comparative case study and the strength Pareto approach / Evolutionary Computation, IEEE Transactions on. -1999. - vol. 3. - pp. 257-271.
18. Zitzler E., Laumanns M., Thiele L. SPEA2: Improving the strength Pareto evolutionary algorithm / Proc. EUROGEN 2001. Evolutionary Methods for Design, Optimization and Control with Applications to Industrial Problems. - 2001.
19. Knowles J., Corne D. The Pareto achieved evolution strategy: A new baseline algorithm for Pareto multiobjective optimization / Proceedings of the Congress on Evolutionary Computation (CEC99). - 1999. - Vol. 1. - pp. 98-105.
20. Bentley P.J., Wakefield J.P. An Analysis of Multiobjective Optimization within Genetic Algorithms / Technical Report ENGPJB96, University of Huddersfield, UK.
- 1996. - 19 pp.
21. Deb K., Thiele L., Laumanns M., Zitzler E. Scalable Test Problems for Evolutionary Multi-Objective Optimization. Evolutionary Multiobjective Optimization / Theoretical Advances and Applications. - Springer. - 2005. - P. 105-145.
22. Дивеев А.И., Северцев Н.А. Метод сетевого оператора для синтеза сисетмы управления спуском космического аппарата при неопределенных начальных условиях // Проблемы машиностроения и надежности машин. Машиноведение.
- 2009. - №3. - С. 85 - 91.
23. Лобарева И.Ф., Черный С.Г., Чирков Д.В., Скороспелов В.А., Турук П.А. Многоцелевая оптимизация формы лопасти гидротурбины // Вычислительные технологии. - 2006. - Том 11. - С. 63 - 76.
24. Карпенко А.П., Овчинников В.А., Семенихин А.С. Программная система PRADIS // FRONT для построения множества Парето в задаче многокритериальной оптимизации динамических систем с использованием параллельного генетического алгоритма // Информационные технологии. -2009. - №8. - С. 27 - 33.
25. Карпенко А.П., Митина Е.В., Семенихин А.С. Когенетический алгоритм Парето-аппроксимации в задаче многокритериальной оптимизации // Информационные технологии. - 2013. - №1. - С. 22-32.
26. Семенкин Е.С. Эволюционные методы моделирования и оптимизации сложных систем / Е.С. Семенкин и др. // Электронные публикации НГУ (http://library.krasu.ru/ft/ft/_umkd/22/u_lectures.pdf).
27. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation. - 2000. - Vol. 8(2). - P. 173-195.
28. Hu X., Eberhart R. Multiobjective optimization using dynamic neighborhood particle swarm optimization / World Congress on Computational Inelligence. Proceeding. - 2002. P. - 1677-1681.
29. Карпенко А.П., Чернобривченко К.А. Эффективность оптимизации методом непрерывно взаимодействующей колонии муравьев (CIAC) // Наука и образование: электронное научно- техническое издание. - 2011. - №2 (http://technomag.edu.ru/doc/165551.html).
30. Pham D.T., Ghanbarzadeh A., Koc E., Otri S., Rahim S., Zaidi M. The Bees Algorithm - A Novel Tool for Complex Optimisation Problems / Proc 2nd Int Virtual Conf. on Intelligent Production Machines and Systems (IPROMS 2006). - Oxford: Elsevier. - 2006. - PP. 454-459.
Groshev Sergey Vladimirovich
Bauman Moscow state technical university, Russia, Moscow
E-mail: [email protected]
Karpenko Anatoly Pavlovich
Bauman Moscow state technical university, Russia, Moscow
E-mail: [email protected]
Martynyuk Vladimir Alekseevich
Bauman Moscow state technical university, Russia, Moscow
E-mail: [email protected]
The effectiveness of population-based Pareto-approximation algorithms. Experimental comparison
Abstract. Multicriteria optimization problems arise in various fields of science and technology, and a number of different ways to solve it is suggested. Classic algorithms for solving the problem of multi-criteria optimization (MCO-task) are based on the reduction of its tasks to the aggregate of the global one-criterion optimization. A relatively new and rapidly growing class of multi-criteria optimization algorithms, are algorithms, based on Pareto-approximation, involving preliminary construction of a finite-dimensional approximation of the set, and thus, the Pareto front and considered MCO-task. Typically Pareto-approximation algorithms are based on the evolution and, more often, genetic algorithms. The principal on the evolutionary algorithms Pareto-approximation are rules for the fitness function that ensures the movement of a population of individuals, ultimately, in the direction of the Pareto set. This work is a review, and includes the results of experimental studies on the effectiveness of a number of population-based Pareto-approximation algorithms, obtained with the participation of the authors in the period from about 2010 to the present time.
The work aims to show in a number of known test and practically important MCO-task comparative efficiency of Pareto-approximation using a genetic algorithm, swarm algorithms particles, ant colonies and colonies of bees in combination with a variety of methods of formation of the fitness function. . To evaluate the effectiveness of these Pareto-approximation algorithms we are using the indicator, called sparse coverage (scarcity), which has the meaning of the minimum distance between the solutions belonging to the Pareto-approximation. Besides used as an indicator of the number of non-dominated solutions found Pareto approximation algorithm for a predetermined number of iterations.
The research results show that to ensure the quality of approximation of Pareto set for each of the considered indicators of quality specific algorithmic solutions must be used, for example, nicheness to ensure uniform coverage. It is important that these decisions are, generally speaking, different for different quality indicators. Because the actual problem is the development of algorithms, "sharpened" under each of the Pareto approximation of quality indicators. On the other hand, the presence of a significant number of Pareto-approximation of quality indicators is multicriteriality task of evaluating this quality. Thus, the actual problem is the development of a Pareto-approximation algorithms as a multicriteria algorithms.
Keywords: multicriteria optimization; Pareto set; Pareto approximation; population-based algorithms; genetic algorithms; Pareto Front; quality of solution
REFERENCES
1. Karpenko A.P., Mitina E.V., Semenikhin A.S. Populyatsionnye metody approksimatsii mnozhestva Pareto v zadache mnogokriterial'noy optimizatsii / Obzor // Nauka i obrazovanie: elektronnoe nauchno-tekhnicheskoe izdanie. - 2012. №4 (http://www.technomag.edu.ru/doc/363023.html).
2. A.P. Karpenko Sovremennye algoritmy poiskovoy optimizatsii. Algoritmy vdokhnovlennye prirodoy / A.P. Karpenko. - Moskva: Izdatel'stvo MGTU im. N.E. Baumana, 2014. - 446 s.
3. Kennedy J., Eberhart R. Particle swarm optimization / Proc. of the IEEE Int. Conf. On Neural Networks. 1995. pp. 1942-1948.
4. Karpenko A.P., Seliverstov E.Yu. Global'naya optimizatsiya metodom roya chastits. Obzor // Informatsionnye tekhnologii. 2010. №2. S. 25-34.
5. Dorigo M., Maniezzo M., Colorni A. Ant System: Optimization by Colony of Cooperating Agent's // IEEE Transaction Systems, Man and Cybernetics. - Part B. -1996. - Vol. 26. - P. 29-41.
6. Karpenko A.P., Chernobrivchenko K.A. Effektivnost' optimizatsii metodom nepreryvno vzaimodeystvuyushchey kolonii murav'ev (CIAC) // Nauka i obrazovanie: elektronnoe nauchno-tekhnicheskoe izdanie. - 2011. №2 (http ://technomag.edu.ru/doc/165551 .html).
7. Karaboga D. An idea based on honey bee swarm for numerical optimization / Technical report - TR06, Erciyes University, Engineering Faculty, Computer Engineering Department. Kayseri/Türkiye. 2005. - 10 pp.
8. Grishin A.A., Karpenko A.P. Issledovanie effektivnosti metoda pchelinogo roya v zadache global'noy optimizatsii // Nauka i obrazovanie: elektronnoe nauchno-tekhnicheskoe izdanie. - 2010. №8 (http://technomag.edu.ru/doc/154050.html).
9. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation. - 2000. Vol. 8(2). pp. 173-195.
10. Belous V.V., Groshev S.V., Karpenko A.P., Shibitov I.A. Otsenka kachestva Pareto-approksimatsii v zadache mnogokriterial'noy optimizatsii. Obzor programmnykh sistem // Nauka i obrazovanie: elektronnoe nauchno- tekhnicheskoe izdanie. - 2014. - №4 (http://technomag.bmstu.ru/doc/709198.html).
11. Deb K. Multi-Objective Optimization Using Evolutionary Algorithms. Chichester, U.K.: Wiley. - 2001. 497 pp.
12. Goldberg D.E. Genetic Algorithms in Search, Optimization, and Machine Learning. Addison-Wesley. 1989. 432 pp.
13. Laumanns M., Rudolph G., Schwefel H.P. A spatial predator-prey approach to multi-objective optimization: a preliminary study / Proceedings of the Parallel Problem Solving from Nature. - 1998. Vol. 5. P. 241-249.
14. Chowdhury S., Dulikravich G.S., Moral R.J. (2009) 'Modified predator-prey algorithm for constrained and unconstrained multi-objective optimization // Int. J. Mathematical Modeling and Numerical Optimization. 2009. Vol. 1. Nos. 1/2. pp. 1-38.
15. Horn J, Nafpliotis N., Goldberg D.E. A niched Pareto genetic algorithm for multiobjective optimization / Proceedings of the First IEEE Conference on Evolutionary Computation. NJ: IEEE Press. - 1994. pp. 82-87.
16. Deb K., Pratap A., Agarwal S., Meyarivan T. A Fast and Elitist Multiobjective Genetic Algorithm: NSGA-II // IEEE Transactions on Evolutionary Computation. 2002. №6 (2). pp. 182-197.
17. Zitzler E., Thiele L. Multiobjective evolutionary algorithms: a comparative case study and the strength Pareto approach / Evolutionary Computation, IEEE Transactions on. 1999. vol. 3. pp. 257-271.
18. Zitzler E., Laumanns M., Thiele L. SPEA2: Improving the strength Pareto evolutionary algorithm / Proc. EUROGEN 2001. Evolutionary Methods for Design, Optimization and Control with Applications to Industrial Problems. - 2001.
19. Knowles J., Corne D. The Pareto achieved evolution strategy: A new baseline algorithm for Pareto multiobjective optimization / Proceedings of the Congress on Evolutionary Computation (CEC99). - 1999. Vol. 1. pp. 98-105.
20. Bentley P.J., Wakefield J.P. An Analysis of Multiobjective Optimization within Genetic Algorithms / Technical Report ENGPJB96, University of Huddersfield, UK. - 1996. -19 pp.
21. Deb K., Thiele L., Laumanns M., Zitzler E. Scalable Test Problems for Evolutionary Multi-Objective Optimization. Evolutionary Multiobjective Optimization / Theoretical Advances and Applications. Springer. 2005. P. 105-145.
22. Diveev A.I., Severtsev N.A. Metod setevogo operatora dlya sinteza sisetmy upravleniya spuskom kosmicheskogo apparata pri neopredelennykh nachal'nykh usloviyakh // Problemy mashinostroeniya i nadezhnosti mashin. Mashinovedenie. - 2009. №3. S. 85
- 91.
23. Lobareva I.F., Chernyy S.G., Chirkov D.V., Skorospelov V.A., Turuk P.A. Mnogotselevaya optimizatsiya formy lopasti gidroturbiny // Vychislitel'nye tekhnologii.
- 2006. Tom 11. S. 63 - 76.
24. Karpenko A.P., Ovchinnikov V.A., Semenikhin A.S. Programmnaya sistema PRADIS // FRONT dlya postroeniya mnozhestva Pareto v zadache mnogokriterial'noy optimizatsii dinamicheskikh sistem s ispol'zovaniem parallel'nogo geneticheskogo algoritma // Informatsionnye tekhnologii. - 2009. №8. - S. 27 - 33.
25. Karpenko A.P., Mitina E.V., Semenikhin A.S. Kogeneticheskiy algoritm Pareto-approksimatsii v zadache mnogokriterial'noy optimizatsii // Informatsionnye tekhnologii. - 2013. №1. S. 22-32.
26. Semenkin E.S. Evolyutsionnye metody modelirovaniya i optimizatsii slozhnykh sistem / E.S. Semenkin i dr. // Elektronnye publikatsii NGU (http://library.krasu.ru/ft/ft/_umkd/22/u_lectures.pdf).
27. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation. - 2000. Vol. 8(2). P. 173-195.
28. Hu X., Eberhart R. Multiobjective optimization using dynamic neighborhood particle swarm optimization / World Congress on Computational Inelligence. Proceeding. 2002. P. 1677-1681.
29. Karpenko A.P., Chernobrivchenko K.A. Effektivnost' optimizatsii metodom nepreryvno vzaimodeystvuyushchey kolonii murav'ev (CIAC) // Nauka i obrazovanie: elektronnoe nauchno- tekhnicheskoe izdanie. - 2011. - №2 (http ://technomag.edu.ru/doc/165551 .html).
30. Pham D.T., Ghanbarzadeh A., Koc E., Otri S., Rahim S., Zaidi M. The Bees Algorithm
- A Novel Tool for Complex Optimisation Problems / Proc 2nd Int Virtual Conf. on Intelligent Production Machines and Systems (IPROMS 2006). Oxford: Elsevier. -2006. PP. 454-459.
