CC BY
33Математические методы моделирования, управления и анализа данных
УДК 519.85
АНАЛИЗ ЭФФЕКТИВНОСТИ ЭВОЛЮЦИОННЫХ АЛГОРИТМОВ В ЗАДАЧАХ БОЛЬШОЙ РАЗМЕРНОСТИ*
А. В. Вахнин**, Е. А. Сопов
Сибирский государственный университет науки и технологий имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
**E-mail: [email protected]
Проводится экспериментальное сравнение алгоритмов CMA-ES, RCGA (PDP) и PSO на задачах оптимизации большой размерности. Наилучшие результаты по значению медианы функции пригодности достигнуты алгоритмом CMA-ES.
Ключевые слова: оптимизация большой размерности, эволюционные алгоритмы.
PERFORMANCE ANALYSIS OF EVOLUTIONARY ALGORITHMS
FOR LARGE-SCALE GLOBAL OPTIMIZATION TASKS
A. V. Vakhnin*, E. A. Sopov
Reshetnev Siberian State University of Science and Technology 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation
**E-mail: [email protected]
This work performs experimental comparison of CMA-ES, RCGA (PDP) and PSO algorithms applied to large-scale optimization problems. The best results basing on the median value of fitness function are achieved by CMA-ES algorithm.
Keywords: large-scale global optimization, evolutionary algorithms.
Введение. Множество актуальных задач глобальной многоэкстремальной параметрической оптимизации имеют большое количество параметров. Изначально количество параметров в задачах оптимизации исчислялось десятками, в наши дни сотнями и тысячами [1]. Также данные задачи характеризуются тем, что они относятся к типу «черный ящик» - измерению доступны только входные и выходные величины. Для решения задач данного типа хорошо зарекомендовали себя эволюционные алгоритмы.
Описание используемых подходов. В работе исследуется эффективность следующих алгоритмов, популярных среди специалистов в области решения сложных задач оптимизации:
Эволюционная стратегия с адаптацией матрицы ковариации (CMA-ES). Алгоритм CMA-ES [2] был разработан для решения сложных, нелинейных, невыпуклых задач типа «черный ящик» в непрерывном пространстве поиска. В CMA-ES на каждом поколении происходит перерасчет матрицы ковариации, которая непосредственно влияет на размер и форму области, где будут генерироваться будущие потенциальные решения.
Самонастраивающийся вещественный генетический алгоритм (RCGA (PDP)). В данной работе ис-
пользовался вещественный генетический алгоритм, описанный в [3]. Реализованы следующие операторы скрещивания - Arithmetical, BLX, Flat, Linear. Эффективность работы RCGA зависит от выбранных параметров, в реальных задачах количество вычислений функции пригодности лимитировано, следовательно, перебор всех комбинаций параметров алгоритма невозможен. Для RCGA использовался метод самонастройки Population-Level Dynamic Probabilities (PDP), подробное описание метода в [4].
Метод роя частиц (PSO). Для оптимизации непрерывных нелинейных функций в 1995 году был предложен метод [5] Джеймсом Кеннеди и Расселом Эберхардом. Он получил название «метод роя частиц». Смысл PSO в том, что он моделирует систему, состоящую из агентов (частиц), которые перемещаются к оптимальному решению, так же агенты обмениваются информацией между собой.
Параметры алгоритмов и критерии оценки эффективности. Для адекватного сравнения необходимо поставить алгоритмы в равные условия. Размер популяции - 3000 индивидов. Количество поколений - 100. Сравнение алгоритмов будем осуществлять по лучшему (минимальному) значению медианы функций пригодности в 25 независимых запусках.
* Работа выполнена при поддержке Министерства Образования и Науки РФ в рамках государственного задания № 2.1676.2017/ПЧ (This research is supported by the Ministry of Education and Science of Russian Federation within State Assignment № 2.1676.2017/ПЧ).
Решетневскуе чтения. 2017
Результаты работы CMA-ES, RCGA (PDF), PSO
Функции No. Функция CMA-ES RCGA (PDP) PSO /*=f(x)
Унимодальные 1 Sphere Function -1400 63357,801 9695,337 -1400
3 Rotated Bent Cigar Function 8,30E+09 1,78E+18 7,96E+11 -1200
4 Rotated Discus Function 1,86E+05 2,30E+05 9,79E+04 -1100
5 Different Powers Function -630,169 8025,973 2301 -1000
Основные 6 Rotated Rosenbrock's Function -551,644 10426,05 789,735 -900
мультимо- 7 Rotated Schaffers F7 Function -743,63 135244,354 1342,7 -800
дальные 8 Rotated Ackley's Function -678,659 -678,655 -678,711 -700
11 Rastrigin's Function -352,759 1065,124 1149,079 -400
14 Schwefel's Function 1,13E+04 2,76E+04 2,13E+04 -100
16 Rotated Katsuura Function 200,069 204,27 203,304 200
17 Lunacek Bi_Rastrigin Function 500,5 2162,63 2419,569 300
18 Rotated Lunacek Bi Rastrigin Function 702,143 2349,646 2461,778 400
Составные 21 Composition Function 1 (n = 5, Rotated) 1364,602 8601,442 3153,116 700
23 Composition Function 3 (n = 3, Rotated) 1,96E+04 3,36E+04 2,56E+04 900
24 Composition Function 4 (n = 3, Rotated) 1279,017 1613,544 1612,063 1000
25 Composition Function 5 (n = 3, Rotated) 1575,078 1708,666 1737,878 1100
28 Composition Function 8 (n = 5, Rotated) 6,16E+03 2,4E+04 1,54E+04 1400
Практические результаты. В качестве тестовых задач использованы задачи с конкурса по LSGO конференции IEEE CEC [6]. Размерность поискового пространства в данной работе составила D = 100. Интервал поиска для всех функций был взят следующий: [-100;100]в . В таблице представлены некоторые результаты работы алгоритмов при данных настройках для соответствующей тестовой задачи. Результаты округлены до 0.001. В последнем столбце продемонстрированы значения функции пригодности, если найден глобальный оптимум.
Выводы. Результаты показали, что на данных тестовых функциях CMA-ES находит решение эффективнее, чем RCGA (PDP) и PSO. В дальнейших работах будет ставиться вопрос об усовершенствовании CMA-ES с целью повышения эффективности работы данного алгоритма.
References
1. Vanderplaats G. N. Very large scale optimization. National Aeronautics and Space Administration (NASA), Langley Research Center, 2002.
2. Hansen N., Kern S. "Evaluating the CMA Evolution Strategy on Multimodal Test Functions," Proc. 8th Int. Conf. Parallel Probl. Solving from Nat. PPSN VIII. 2004. Vol. 3242/2004, no. 0, P. 282-291.
3. Herrera F., Lozano M., Verdegay J. L. Tackling real-coded Genetic algorithms: operators and tools for the behaviour analysis. Artificial Intelligence Review. 1998. Vol. 12, No. 4. P. 265-319.
4. Niehaus J., W. Banzhaf. Adaption of Operator Probabilities in Genetic Programming. In: Miller J. et al. (Eds.): EuroGP 2001, LNCS 2038. 2001. P. 329.
5. Kennedy J., Eberhart R. C. "Particle swarm optimization" // In Proceedings of IEEE International Conference on Neural Networks, P. 1942-1948, 1995.
6. Problem Definitions and Evaluation Criteria for the CEC 2013 Special Session and Competition on RealParameter Optimization / J. J. Liang, B. Y. Qu, P. N. Suganthan, Alfredo G. Hernández-Díaz // Technical Report 201212, Computational Intelligence Laboratory, Zhengzhou University, Zhengzhou China and Technical Report, Nanyang Technological University, Singapore, January 2013.
© BaxHHH А. B., Com® Е. A., 2017
