Научная статья на тему 'Анализ эффективности эволюционной стратегии с адаптацией матрицы ковариации в задачах большой размерности'

Анализ эффективности эволюционной стратегии с адаптацией матрицы ковариации в задачах большой размерности Текст научной статьи по специальности «Математика»

CC BY
253
30
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
МНОГОКРИТЕРИАЛЬНАЯ ОПТИМИЗАЦИЯ / ЭВОЛЮЦИОННАЯ СТРАТЕГИЯ / ВЕЩЕСТВЕННЫЙ ГЕНЕТИЧЕСКИЙ АЛГОРИТМ / LARGE-SCALE GLOBAL OPTIMIZATION / EVOLUTION STRATEGY / REAL-CODE GENETIC ALGORITHMS

Аннотация научной статьи по математике, автор научной работы — Вахнин А.В.

В проведенных численных экспериментах эволюционная стратегия с адаптацией матрицы ковариации, в задачах большой размерности, превзошла вещественный генетический алгоритм по критерию среднего найденного значения функции пригодности.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

PERFORMANCE ANALYSIS OF COVARIANCE MATRIX ADAPTATION EVOLUTION STRATEGY FOR LARGE-SCALE GLOBAL OPTIMIZATION PROBLEMS

The results of numerical experiments show that covariance matrix adaptation evolution strategy outperforms real-coded genetic algorithm at high dimension problems. The main criterion is mean fitness function value.

Текст научной работы на тему «Анализ эффективности эволюционной стратегии с адаптацией матрицы ковариации в задачах большой размерности»

Секция «Математические методы моделирования, управления и анализа данных»

УДК 519.85

АНАЛИЗ ЭФФЕКТИВНОСТИ ЭВОЛЮЦИОННОЙ СТРАТЕГИИ С АДАПТАЦИЕЙ МАТРИЦЫ КОВАРИАЦИИ В ЗАДАЧАХ БОЛЬШОЙ РАЗМЕРНОСТИ

А. В. Вахнин

Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: alexeyvah@gmail.com

В проведенных численных экспериментах эволюционная стратегия с адаптацией матрицы ковариации, в задачах большой размерности, превзошла вещественный генетический алгоритм по критерию среднего найденного значения функции пригодности.

Ключевые слова: многокритериальная оптимизация, эволюционная стратегия, вещественный генетический алгоритм.

PERFORMANCE ANALYSIS OF COVARIANCE MATRIX ADAPTATION EVOLUTION STRATEGY FOR LARGE-SCALE GLOBAL OPTIMIZATION PROBLEMS

A. V. Vakhnin

Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: alexeyvah@gmail.com

The results of numerical experiments show that covariance matrix adaptation evolution strategy outperforms real-coded genetic algorithm at high dimension problems. The main criterion is mean fitness function value.

Keywords: large-scale global optimization, evolution strategy, real-code genetic algorithms.

Введение. В современном мире задачам оптимизации уделяют все больше и больше внимания. Прогресс не стоит на месте. Количество параметров, значения которых необходимо оптимизировать, постоянно растет. Если раньше количество параметров в задачах оптимизации исчислялось десятками, то сейчас сотнями и тысячами [1]. Стоит отметить, что большинство современных задач оптимизации относятся к типу «черного ящика». Особенность данного типа задач состоит в том, что измерению доступны только входные и выходные величины, другую информации мы получить не можем. Хорошо себя зарекомендовали генетически алгоритмы и эволюционные стратегии при решении задач типа «черный ящик».

Описание используемых подходов.

Самонастраивающийся вещественный генетический алгоритм. В данной работе использовался вещественный генетический алгоритм (ВГА), описанный в [2]. Реализованы следующие типы скрещивания для ВГА: арифметическое скрещивание, BLX скрещивание, плоское скрещивание и линейное скрещивание. Тип мутации — случайная мутация. Эффективность работы ВГА напрямую зависит от выбранных операторов селекции, скрещивания, мутации. В реальных задачах количество вычислений функции пригодности ограничено, следовательно, перебор всевозможных комбинаций параметров алгоритма невозможен. Для ВГА использовался метод самонастройки Population-Level Dynamic Probabilities (PDP), подробное описание метода в [3].

Эволюционная стратегия с адаптацией матрицы ковариации (CMA-ES). Алгоритм CMA-ES [4] был разработан Николасом Хансеном для решения сложных, нелинейных, невыпуклых задач типа «черный ящик» в непрерывном пространстве поиска. Особенность CMA-ES заключается в том, что на каждом поколении происходит перерасчет матрицы ковариации, которая

Актуальные проблемы авиации и космонавтики - 2017. Том 2

непосредственно влияет на размер и форму области, где будут генерироваться будущие потенциальные решения.

Параметры алгоритмов и критерии оценки эффективности. Для адекватного сравнения ВГА (PDP) и CMA-ES необходимо поставить в одинаковые условия. Используются следующие значения: размер популяции - 3000 индивидов, количество поколений - 100. Сравнение алгоритмов будем осуществлять по усредненному, в 25 независимых запусках, лучшему (минимальному) значению функции пригодности.

Практические результаты. Тестовые задачи были взяты из [5]. Размерность поискового пространства в данной работе составила D = 100. Интервал поиска для всех функций был взят

следующий: [-100;100]D.

В таблице представлены усредненные результаты при данных настройках алгоритмов для каждой тестовой задачи. Результаты округлены до 0.001. В последнем столбце продемонстрированы значения функции пригодности, если найден глобальный оптимум.

Сравнительная таблица работы ВГА (PDP) и CMA-ES

Номер Функция CMA-ES ВГА (PDP) f* = f ( x)

Унимодальные функции 1 Sphere Function -1400 63357.801 -1400

2 Rotated High Conditioned Elliptic Function 5.88E+07 9.25E+08 -1300

3 Rotated Bent Cigar Function 8.3E+09 1.78E+18 -1200

4 Rotated Discus Function 186061.57 230190.073 -1100

5 Different Powers Function -630.169 8025.973 -1000

Основные мультимодальные функции 6 Rotated Rosenbrock's Function -551.644 10426.05 -900

7 Rotated Schaffers F7 Function -743.63 135244.354 -800

8 Rotated Ackley's Function -678.659 -678.655 -700

9 Rotated Weierstrass Function -534.861 -439.089 -600

10 Rotated Griewank's Function -343.664 5473.604 -500

11 Rastrigin's Function -352.759 1065.124 -400

12 Rotated Rastrigin's Function -242.102 1468.26 -300

13 Non-Continuous Rotated Rastrigin's Function -32.516 1366.123 -200

14 Schwefel's Function 11322.653 27606.863 -100

15 Rotated Schwefel's Function 10584.994 28838.884 100

16 Rotated Katsuura Function 200.069 204.27 200

17 Lunacek Bi_Rastrigin Function 500.5 2162.63 300

18 Rotated Lunacek Bi_Rastrigin Function 702.143 2349.646 400

19 Expanded Griewank's plus Rosenbrock's Function 521.557 96086.993 500

20 Expanded Scaffer's F6 Function 650 650 600

Составные функции 21 Composition Function 1 (n = 5, Rotated) 1364.602 8601.442 700

22 Composition Function 2 (n = 3, Unrotated) 22787.379 35507.845 800

23 Composition Function 3 (n = 3, Rotated) 19577.561 33578.771 900

Секция «Математические методы моделирования, управления и анализа данных»

Окончание таблицы

Номер Функция CMA-ES ВГА (PDP) ft = f ( x)

s s Í « 24 Composition Function 4 (n = 3, Rotated) 1279.017 1613.544 1000

25 Composition Function 5 (n = 3, Rotated) 1575.078 1708.666 1100

-e <D и 26 Composition Function 6 (n = 5, Rotated) 1548.826 1906.5 1200

« л H о о 27 Composition Function 7 (n = 5, Rotated) 2557.429 5680.254 1300

О 28 Composition Function 8 (n = 5, Rotated) 6164.746 23998.837 1400

Выводы. Результаты численных экспериментов показали, что на данных тестовых функциях классический алгоритм CMA-ES находит решение эффективнее, чем ВГА (PDP). В дальнейших работах будет ставиться вопрос об улучшении алгоритма CMA-ES для задач большой размерности.

References

1. Sopov E. Large-scale global optimization using a binary genetic algorithm with EDA-based decomposition // Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2016. Vol. 9712, pp. 619-626.

2. Herrera F., Lozano M., Verdegay J. L. Tackling real-coded Genetic algorithms: operators and tools for the behaviour analysis // Artificial Intelligence Review, 1998. Vol. 12, No. 4, рр. 265-319.

3. Niehaus J., W. Banzhaf. Adaption of Operator Probabilities in Genetic Programming // Miller J. et al. (Eds.): EuroGP 2001, LNCS 2038. 2001. P. 329.

4. Hansen N., Muller S. D., and Koumoutsakos P. Reducing the Time Complexity of the Derandomized Evolution Strategy with Covariance Matrix Adaptation (CMA-ES) // Evolutionary Computation. 2003. Vol. 11, No. 1, pp. 1-18.

5. Liang J. J., Qu B. Y., Suganthan P. N., Hernández-Díaz Alfredo G. Problem Definitions and Evaluation Criteria for the CEC 2013 Special Session and Competition on Real-Parameter Optimization // Technical Report 201212, Computational Intelligence Laboratory, Zhengzhou University, Zhengzhou China and Technical Report, Nanyang Technological University, Singapore, January 2013.

© Вахнин А. В., 2017

i Надоели баннеры? Вы всегда можете отключить рекламу.