УДК 681.3.06
ИССЛЕДОВАНИЕ ЭФФЕКТИВНОСТИ ГЕНЕТИЧЕСКИХ АЛГОРИТМОВ МНОГОКРИТЕРИАЛЬНОЙ ОПТИМИЗАЦИИ
С.Ю. Белецкая, Ю.А. Асанов, А.Д. Поваляев, А.В. Гаганов
В статье рассматриваются генетические алгоритмы многокритериальной оптимизации, основанные на Парето-доминировании, и исследуется их эффективность на тестовых задачах
Ключевые слова: многокритериальная оптимизация, критерии оптимальности, генетические алгоритмы, множество Парето, вычислительный эксперимент
В настоящее время при решении задач многокритериальной оптимизации в различных предметных областях широкое применение находят эволю-ционно-генетические алгоритмы. Методы данного класса используют только значения критериев оптимальности, поэтому могут эффективно применяться при решении оптимизационных задач со сложными алгоритмическими моделями [1,2].
Можно выделить два основных подхода к решению задач многокритериальной оптимизации на основе эволюционно-генетических алгоритмов. Первый подход основан на преобразовании решаемой многокритериальной задачи в задачу скалярной оптимизации. При этом могут быть использованы как свертка локальных критериев в обобщенный интегральный показатель, так и сведение решаемых многокритериальных задач к последовательности специальным образом сформулированных задач однокритериальной оптимизации (методы главного критерия, последовательных уступок, гарантированного результата, адаптивные человеко-машинные процедуры и т.д.). При этом эволюцион-но-генетические алгоритмы применяются в качестве инвариантной части алгоритмического обеспечения для решения скалярных оптимизационных задач. Для учета многокритериальности (выбора весовых коэффициентов, смены критериев в процессе оптимизации, назначения уступок и т.д.) используются классические неэволюционные процедуры. Данный подход направлен, как правило, на получение единственного решения. Однако во многих практических задачах многокритериальной оптимизации более предпочтительным является получение набора решений.
Второй подход к алгоритмизации задач многокритериальной оптимизации основан на использовании концепции Парето-доминирования [3]. При этом определяется не единичное решение, а множество всех эффективных точек (множество Парето) и
Белецкая Светлана Юрьевна - ВГТУ, д-р техн. наук, профессор, тел. (473) 243-77-04
Асанов Юрий Анатольевич - ВГТУ, магистрант, тел. (473) 243-77-04
Поваляев Анатолий Дмитриевич - ВГТУ, канд. физ.-мат. наук, профессор, тел. (473) 246-12-07 Гаганов Александр Владимирович - ВГТУ, директор НОЦ, e-mail: gaganov@hotmail.ru
их образ в критериальном пространстве - фронт Парето. Полученное множество в дальнейшем исследуется для выявления компромиссов. Множества решений Парето могут быть различных размеров, но обычно размер увеличивается с увеличением числа критериев.
К наиболее распространённым генетическим алгоритмам многокритериальной оптимизации, реализующим принципы Парето-доминирования, относятся следующие:
- метод SPEA (Strength Pareto Evolutionary Algorithm) и его модификация SPEA2;
- VEGA - Vector Evaluated Genetic Algorithm;
- FFGA - Fonseca and Fleming's Multiobjective Genetic Algorithm;
- NPGA - Niched Pareto Genetic Algorithm.
Эти методы реализуют различные схемы
назначения пригодности и селекции.
В методе SPEA создаётся внешнее множество (архив), предназначенное для хранения недоминируемых решений. Количество индивидов, включаемых в архив, регулируется с использованием процедуры кластеризации. Определение значений пригодности индивидов в методе SPEA осуществляется только относительно индивидов внешнего множества, которые участвуют в селекции наравне с другими членами популяции [4].
Алгоритм SPEA включает следующие основные шаги:
1. Сформировать первоначальную популяцию Po и пустое внешнее множество (архив) A = 0.
Положить t = 0.
2. Модернизация внешнего множества.
2.1. Положить промежуточное внешнее множество A = At.
2.2. Скопировать решения, недоминируемые относительно At, в множество A , определяемое следующим образом:
A: A = A u {x\x e At n x e p(At)}
2.3. Удалить из множества A особи, которые слабо доминируемы относительно A'. При этом если существует пара особей x, y e A и x > y, то A = A-{y}.
2.4. С помощью процедуры кластеризации уменьшить число особей, которые хранятся во
внешнем множестве, и поместить результирующее уменьшенное множество в P1+l.
3. Вычислить значения пригодности индивидов в Р1 и А'.
4. Селекция. Положить А' = 0 и выполнить для 5 = 1, N следующие действия:
4.1. Случайным образом выбрать двух индивидов X, у е А' ^ Р1 .
4.2. Если ¥(х) < ¥(у) (при решении задачи минимизации), то А' = А' ^ {х} , в противном случае А' = А' ^ {у} .
5. Рекомбинация.
6. Мутация.
7. Окончание. Положить Р1+1 = А' и 1 = 1 +1.
Если 1 > Т , где Т - максимальное число поколений, то из последней популяции отбираются недоминируемые индивиды. Если 1 < Т, перейти к шагу 2.
Этапы 5 и 6 (рекомбинация и мутация) осуществляются согласно общей схеме генетического алгоритма [1,2]. Этап назначения пригодности отличается от подобного в общем эволюционном алгоритме и реализуется по следующей схеме:
1. Каждому индивиду х е А1 присваивается значение S(x) е [0,1], называемое «силой» (или весом) особи. Значение «силы» пропорционально количеству членов популяции у е Р(, для которых
х ^ у.
{У: У е р ^ х ^ у}
S(x) = -
N +1
Таким образом, пригодность особи X, принадлежащей архиву, равна ее «силе»: ¥(х) = Ъ'(х).
2. Пригодность особи у е Р{ определяется следующим образом:
¥(у) = 1 + Е$(х).
хеА' ,х> у
При этом чем меньше пригодность, тем больше шансов у особи перейти в следующее поколение.
В методе 8РБЛ2 используются следующие модификации базового метода:
1. Вводится понятие ранга г. При этом ранг -это число особей из популяции Р и архива А, которые доминирует текущее решение.
2. Меняется формула вычисления веса S(x), которая теперь едина для всех особей. Вес равен сумме значений рангов всех особей из популяции Р и архива А , которые делают текущее решение доминирующим.
3. Претерпевает изменения архив А, который теперь имеет фиксированный размер т. На каждой итерации архив А в случае недостаточного количества особей дополняется наилучшими доминируемыми решениями из популяции, в случае же избыт-
ка особей происходит удаление наименее удаленных друг от друга решений.
4. Благодаря изменению расчета веса S(x) архив A приобретает большее значение, так как теперь особи, находящиеся в архиве A, имеют абсолютное право на селекционирование и перенос в следующее поколение.
Изменения, описанные выше, привели к следующим результатам:
1. Веса особей значительно реже совпадают, а следовательно, уменьшается случайная составляющая при отборе решений. Это достигается за счет изменения формулы расчета веса и введения понятия ранга.
2. Устраняются проблемы, возникавшие при слишком малом размере архива, это, прежде всего, усиление случайной составляющей при отборе особей. Также произошло устранение проблем, проявляющихся при слишком большом размере архива, -замедление развития популяции. Это было достигнуто благодаря фиксации размера архива.
Метод VEGA относится к методам, использующим селекцию по переключающимся целевым функциям. Это означает, что вычисление пригодности особей для каждой подпопуляции проводится по одному из критериев. Таким образом, вся популяция делится на K подпопуляций, где K - количество критериев. Затем вычисляются значения пригодности особей в каждой подпопуляции по соответствующему критерию. В ходе проведения процедуры отбора все подпопуляции объединяются в промежуточную популяцию и подвергаются крос-синговеру и мутации [4].
FFGA - это метод, который использует ранжирование особей, основанное на Парето-доминировании. Рангом в данном методе, называется число особей, доминирующих над данной. В рамках описания метода имеет смысл упомянуть только процедуру присвоения пригодности и, следовательно, рангов, так как на остальные процедуры, присущие эволюционно-генетическим алгоритмам, не накладывается никаких ограничений.
Назначение пригодности можно описать следующим алгоритмом.
1. Для каждой особи Sj,j е[1,N] из популяции Pq , где N - размер популяции, вычисляется ранг rj = 1 + {i: i е P0 л i > j}.
2. Популяция сортируется по значению ранга r, затем каждой особи Sj ,j е [1,N] назначается так
называемую "сырая" пригодность Fj посредством интерполяции. При этом "опорными" точками для интерполяции служат точки худшей (Fj = 1 для особи Sj, ранг которой максимален) и лучшей
(Fj = N для особи Sj, ранг которой минимален) пригодности.
3. Вычисляется итоговая пригодность, посредством усреднения "сырой" пригодности особей Sr с одинаковыми рангами:
F _ пБЧЫ
FSr _ Ь-,
Г П
где п - количество особей с одинаковым рангом.
В методе МРвА этап назначения пригодности заменяется модифицированной схемой деления пригодности с использованием понятия ниши, которая определяется для индивидов в пространстве альтернатив или целевых функций и обеспечивает возможность поддержания разнообразия, позволяя получить представительное множество Парето [4].
Для сравнительного анализа эффективности методов были использованы задачи многокритериальной оптимизации различной сложности (2БТ1, гБТ2, гБТз и гБТ4).
1. 2БТ1 представляет собой базовую многокритериальную задачу с выпуклой границей и не имеет локальных оптимумов. Критерии формулируются следующим образом:
fl(xl ....^п) _ Xl, (1)
f2(Xl ,...,хп) _ g(x1 ,-,хп)х Ъ(Х\ ,-'хп) > (2)
где g(x1 ,...,хп) определяется формулой (3), а й(х1 ,...,хп) формулой (4):
9 n
g(xx ,...,Xn) = 1 +--• Е x¡
n -1 i=2
h( x1 ,...,xn) = 1 -
X1
g(x1 ,...,xn)
(3)
(4)
Здесь п - число параметров равное 30.
2. 2БТ2 является базовой многокритериальной задачей с вогнутой границей, не имеет локальных оптимумов. В задаче используются критерии (1) и (2). При этом g(x1 ,...,хп) определяется формулой (5), а й(х1 ,...,хп) формулой
g(x1 ,...,xn) = 1 +
9 n
—7 -Е x
n -1 i=2
(5)
9n
g(x1 ,...,xn) =1+—Е xi n -1 i=2
Ь(х1,...,хп) _ 1 - —$—- —-яп(1(кх) (8)
х-, хпП 8(х1,-., хп) ,(8)
где п - число параметров равное 30.
4. ZDT4 имеет выпуклую границу Парето, но со многими локальными субоптимальными границами, в которых могут «застревать» особи, что значительно повышает сложность задачи. В задаче используются критерии (1) и (2). При этом
g(xx ,...,xn) = 1 +10( n -1) +E(x2 - 10cos(4nx¡)) ,(9)
i=2
h(x1 ,...,xn) = 1 -
x1
g(x1 ,...,xn)
(10)
где n =10.
В процессе вычислительного эксперимента методы SPEA2, FFGA и VEGA сравнивались с методом случайного перебора и NPGA. При этом использовались следующие параметры рассматриваемых алгоритмов:
- размер популяции 100 особей;
- количество итераций 200;
- частота мутаций 15 %;
- частота скрещивания 80 %;
- размер архива - 20 особей (для SPEA2).
В качестве критерия эффективности рассматривается процент успешных испытаний. При этом под успешным испытанием подразумевается такое испытание, при котором по крайней мере одно решение попадает во фронт Парето. Усреднение результатов проводилось по 30 прогонам. Результаты представлены в таблице.
ZDT1 ZDT2 ZDT3 ZDT4
Случайный перебор 81% 84% 80% 83%
NPGA 73% 77% 79% 71%
SPEA2 91% 93% 96% 85%
VEGA 81% 85% 84% 79%
FFGA 87% 90% 91% 80%
к(Х1,...,Хп) _ 1 -(—-1--)2 , (6)
g(x1 ,...,Хп)
где п = 30.
3. ZDT3 имеет границу Парето с разрывами, не имеет локальных оптимумов. Критерии также определяются по формулам (1) и (2). При этом
Таким образом, при решении всех тестовых задач наиболее эффективным оказался метод 8РЕА2. Однако результаты его работы во многом зависят от размера используемого внешнего архива. С одной стороны, так как все индивиды внешнего множества участвуют в селекции, слишком большое количество хранящихся в архиве особей может уменьшить селективное давление и замедлить поиск. Однако слишком сильное уменьшение размера архива снижает эффективность поиска.
В ходе проведенных вычислительных экспериментов было исследовано влияние размера архива на эффективность метода 8РБЛ2. Для тестирования были выбраны следующие размеры архива: 50, 30 и 10 особей.
Результаты вычислительных экспериментов показали, что наименьший размер архива (10 особей) приводит к удовлетворительным результатам только в задачах без субоптимальных решений. В задаче ZDT4, имеющей множество локальных минимумов, результаты оказались наихудшими среди всех выбранных значений размера архивов. Это относится также и к задаче 3, имеющей разрывы. Такие результаты могут быть объяснены тем, что для восстановления популяции приходилось подвергать селекции доминируемые решения, а значит, не было гарантий того, что в ходе селекции будет получено улучшение текущего решения. Тем не менее архив малого размера может быть использован в случаях, когда нет необходимости в точном решении, так как он позволяет сократить время выполнения задачи.
Использование архива наибольшего размера (50 особей) оказалось избыточным. Было выявлено, что слишком большой размер архива замедляет развитие популяции, следовательно, шанс получить непаретовские решения велик. Кроме того, использование столь большого архива увеличивает время выполнения каждой итерации. Тем не менее тест с наибольшим архивом показал лучшие результаты при решении задач ZDT3 и ZDT4, а значит, его использование оправдано для решения задач с множеством субоптимумов и разрывов.
Архив среднего размера показал промежуточные результаты. Поэтому можно утверждать, что использование подобного архива наиболее эффективно в задачах, характеризующихся полным отсутствием априорной информации о фронте Парето. Затем, в случае необходимости, архив может быть расширен.
Дальнейшие исследования связаны с разработкой многометодной среды поиска оптимальных решений на основе эволюционно-генетических алгоритмов [5]. Разрабатываемая алгоритмическая среда
должна включать в себя библиотеку генетических алгоритмов, построенных в рамках рассмотренных выше подходов, а также средства управления оптимизационным процессом, позволяющие осуществлять настройку структуры и параметров алгоритмов в процессе поиска.
Литература
1. Курейчик, В.В. Основы теории эволюционных вычислений [Текст] / В.В. Курейчик, В.М. Курейчик, С.И. Родзин. - Ростов-н/Д.: Изд-во ЮФУ, 2010. - 320 с.
2. Решение дискретных задач с помощью эволюци-онно-генетических алгоритмов [Текст]: учеб пособие/ Д.И. Батищев [и др.]. - Н.Новгород: Изд-во ННГУ им. Н.И. Лобачевского, 2011. - 199 с.
3. Подиновский, В.В. Парето-оптимальные решения многокритериальных задач [Текст] / В.В. Подиновский, В.Д. Ногин. - М.: Физматлит, 2007. - 256 с.
4. Гуменникова, А.В. Адаптивные поисковые алгоритмы для решения сложных задач многокритериальной оптимизации [Текст]: автореф. дис. ... канд. техн. наук /
A.В. Гуменникова. - Красноярск, 2006.
5. Белецкая, С.Ю. Организация многометодной среды поиска оптимальных проектных решений при разработке ЖРД [Текст] / С.Ю. Белецкая, О.Г. Яскевич, Е.М. Ильин // Вестник Воронежского государственного технического университета. - 2013. - Т.9, № 1. - С. 26-27.
6. Podval'ny, S.L. Intelligent modeling systems: design principles [Text] / S.L. Podval'ny, T.M. Ledeneva // Automation and Remote Control. - 2013. - Vol. 74, № 7. - Р. 1201-1210.
7. Проблемы разработки интеллектуальных систем многоальтернативного моделирования [Текст] / С.Л. Подвальный, Т.М. Леденева, А.Д. Поваляев, Е.С. Подвальный // Вестник Воронежского государственного технического университета. - 2013. - Т. 9. - № 3-1. - С. 19-23.
8. Основы автоматизации проектирования, тестирования и управления жизненным циклом изделия [Текст] /
B.Ф. Барабанов, А.Д. Поваляев, С.Л. Подвальный, С.В. Тюрин. - Воронеж. 2011.
9. Подвальный С.Л. Сопряженные системы и градиент при оптимизации динамических систем [Текст] / С.Л. Подвальный // Вестник Воронежского государственного технического университета. - 2012. - Т. 8. -№ 12-1. - С. 57-62.
Воронежский государственный технический университет
RESEARCH OF THE EFFICIENCY OF MULTIOBJECTIVE OPTIMIZATION GENETIC ALGORITHMS
S.Yu. Beletskaja, Yu.A. Asanov, A.D. Povalyaev, A.V. Gaganov
The article deals with genetic algorithms multiobjective optimization based on Pareto dominance, and study their performance on the test problems
Key words: multiobjective optimization, optimality criteria, genetic algorithms, Pareto set, computer experiment