CC BY
32
Секция «Математические методы моделирования, управления и анализа данных»
УДК 519.85
АНАЛИЗ ЭФФЕКТИВНОСТИ ЭВОЛЮЦИОННОЙ СТРАТЕГИИ С АДАПТАЦИЕЙ МАТРИЦЫ КОВАРИАЦИИ В ЗАДАЧАХ БОЛЬШОЙ РАЗМЕРНОСТИ
А. В. Вахнин
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: [email protected]
В проведенных численных экспериментах эволюционная стратегия с адаптацией матрицы ковариации, в задачах большой размерности, превзошла вещественный генетический алгоритм по критерию среднего найденного значения функции пригодности.
Ключевые слова: многокритериальная оптимизация, эволюционная стратегия, вещественный генетический алгоритм.
PERFORMANCE ANALYSIS OF COVARIANCE MATRIX ADAPTATION EVOLUTION STRATEGY FOR LARGE-SCALE GLOBAL OPTIMIZATION PROBLEMS
A. V. Vakhnin
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: [email protected]
The results of numerical experiments show that covariance matrix adaptation evolution strategy outperforms real-coded genetic algorithm at high dimension problems. The main criterion is mean fitness function value.
Keywords: large-scale global optimization, evolution strategy, real-code genetic algorithms.
Введение. В современном мире задачам оптимизации уделяют все больше и больше внимания. Прогресс не стоит на месте. Количество параметров, значения которых необходимо оптимизировать, постоянно растет. Если раньше количество параметров в задачах оптимизации исчислялось десятками, то сейчас сотнями и тысячами [1]. Стоит отметить, что большинство современных задач оптимизации относятся к типу «черного ящика». Особенность данного типа задач состоит в том, что измерению доступны только входные и выходные величины, другую информации мы получить не можем. Хорошо себя зарекомендовали генетически алгоритмы и эволюционные стратегии при решении задач типа «черный ящик».
Описание используемых подходов.
Самонастраивающийся вещественный генетический алгоритм. В данной работе использовался вещественный генетический алгоритм (ВГА), описанный в [2]. Реализованы следующие типы скрещивания для ВГА: арифметическое скрещивание, BLX скрещивание, плоское скрещивание и линейное скрещивание. Тип мутации — случайная мутация. Эффективность работы ВГА напрямую зависит от выбранных операторов селекции, скрещивания, мутации. В реальных задачах количество вычислений функции пригодности ограничено, следовательно, перебор всевозможных комбинаций параметров алгоритма невозможен. Для ВГА использовался метод самонастройки Population-Level Dynamic Probabilities (PDP), подробное описание метода в [3].
Эволюционная стратегия с адаптацией матрицы ковариации (CMA-ES). Алгоритм CMA-ES [4] был разработан Николасом Хансеном для решения сложных, нелинейных, невыпуклых задач типа «черный ящик» в непрерывном пространстве поиска. Особенность CMA-ES заключается в том, что на каждом поколении происходит перерасчет матрицы ковариации, которая
Актуальные проблемы авиации и космонавтики - 2017. Том 2
непосредственно влияет на размер и форму области, где будут генерироваться будущие потенциальные решения.
Параметры алгоритмов и критерии оценки эффективности. Для адекватного сравнения ВГА (PDP) и CMA-ES необходимо поставить в одинаковые условия. Используются следующие значения: размер популяции - 3000 индивидов, количество поколений - 100. Сравнение алгоритмов будем осуществлять по усредненному, в 25 независимых запусках, лучшему (минимальному) значению функции пригодности.
Практические результаты. Тестовые задачи были взяты из [5]. Размерность поискового пространства в данной работе составила D = 100. Интервал поиска для всех функций был взят
следующий: [-100;100]D.
В таблице представлены усредненные результаты при данных настройках алгоритмов для каждой тестовой задачи. Результаты округлены до 0.001. В последнем столбце продемонстрированы значения функции пригодности, если найден глобальный оптимум.
Сравнительная таблица работы ВГА (PDP) и CMA-ES
Номер Функция CMA-ES ВГА (PDP) f* = f ( x)
Унимодальные функции 1 Sphere Function -1400 63357.801 -1400
2 Rotated High Conditioned Elliptic Function 5.88E+07 9.25E+08 -1300
3 Rotated Bent Cigar Function 8.3E+09 1.78E+18 -1200
4 Rotated Discus Function 186061.57 230190.073 -1100
5 Different Powers Function -630.169 8025.973 -1000
Основные мультимодальные функции 6 Rotated Rosenbrock's Function -551.644 10426.05 -900
7 Rotated Schaffers F7 Function -743.63 135244.354 -800
8 Rotated Ackley's Function -678.659 -678.655 -700
9 Rotated Weierstrass Function -534.861 -439.089 -600
10 Rotated Griewank's Function -343.664 5473.604 -500
11 Rastrigin's Function -352.759 1065.124 -400
12 Rotated Rastrigin's Function -242.102 1468.26 -300
13 Non-Continuous Rotated Rastrigin's Function -32.516 1366.123 -200
14 Schwefel's Function 11322.653 27606.863 -100
15 Rotated Schwefel's Function 10584.994 28838.884 100
16 Rotated Katsuura Function 200.069 204.27 200
17 Lunacek Bi_Rastrigin Function 500.5 2162.63 300
18 Rotated Lunacek Bi_Rastrigin Function 702.143 2349.646 400
19 Expanded Griewank's plus Rosenbrock's Function 521.557 96086.993 500
20 Expanded Scaffer's F6 Function 650 650 600
Составные функции 21 Composition Function 1 (n = 5, Rotated) 1364.602 8601.442 700
22 Composition Function 2 (n = 3, Unrotated) 22787.379 35507.845 800
23 Composition Function 3 (n = 3, Rotated) 19577.561 33578.771 900
Секция «Математические методы моделирования, управления и анализа данных»
Окончание таблицы
Номер Функция CMA-ES ВГА (PDP) ft = f ( x)
s s Í « 24 Composition Function 4 (n = 3, Rotated) 1279.017 1613.544 1000
25 Composition Function 5 (n = 3, Rotated) 1575.078 1708.666 1100
-e <D и 26 Composition Function 6 (n = 5, Rotated) 1548.826 1906.5 1200
« л H о о 27 Composition Function 7 (n = 5, Rotated) 2557.429 5680.254 1300
О 28 Composition Function 8 (n = 5, Rotated) 6164.746 23998.837 1400
Выводы. Результаты численных экспериментов показали, что на данных тестовых функциях классический алгоритм CMA-ES находит решение эффективнее, чем ВГА (PDP). В дальнейших работах будет ставиться вопрос об улучшении алгоритма CMA-ES для задач большой размерности.
References
1. Sopov E. Large-scale global optimization using a binary genetic algorithm with EDA-based decomposition // Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2016. Vol. 9712, pp. 619-626.
2. Herrera F., Lozano M., Verdegay J. L. Tackling real-coded Genetic algorithms: operators and tools for the behaviour analysis // Artificial Intelligence Review, 1998. Vol. 12, No. 4, рр. 265-319.
3. Niehaus J., W. Banzhaf. Adaption of Operator Probabilities in Genetic Programming // Miller J. et al. (Eds.): EuroGP 2001, LNCS 2038. 2001. P. 329.
4. Hansen N., Muller S. D., and Koumoutsakos P. Reducing the Time Complexity of the Derandomized Evolution Strategy with Covariance Matrix Adaptation (CMA-ES) // Evolutionary Computation. 2003. Vol. 11, No. 1, pp. 1-18.
5. Liang J. J., Qu B. Y., Suganthan P. N., Hernández-Díaz Alfredo G. Problem Definitions and Evaluation Criteria for the CEC 2013 Special Session and Competition on Real-Parameter Optimization // Technical Report 201212, Computational Intelligence Laboratory, Zhengzhou University, Zhengzhou China and Technical Report, Nanyang Technological University, Singapore, January 2013.
© Вахнин А. В., 2017
