Исследование параметров эволюционного алгоритма для задач параметрической оптимизации функций большой размерности Текст научной статьи по специальности «Математика»

Решетневские чтения. 2018

УДК 519.85

ИССЛЕДОВАНИЕ ПАРАМЕТРОВ ЭВОЛЮЦИОННОГО АЛГОРИТМА ДЛЯ ЗАДАЧ ПАРАМЕТРИЧЕСКОЙ ОПТИМИЗАЦИИ ФУНКЦИЙ БОЛЬШОЙ РАЗМЕРНОСТИ*

А. В. Вахнин, Е. А. Сопов

Сибирский государственный университет науки и технологий имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

Е-mail: alexeyvah@gmail.com

Представлены результаты ранее предложенного алгоритма группировки переменных для задач оптимизации функций большой размерности. Эффективность алгоритма тестировалась на эталонном наборе функций LSGO CEC'13.

Ключевые слова: параметрическая оптимизация, эволюционный алгоритм, кооперативная коэволюция, большая размерность.

AN INVESTIGATION OF PARAMETER TUNING IN THE EVOLUTIONARY ALGORITHM FOR LSGO PROBLEMS

A. V. Vakhnin, E. A. Sopov

Reshetnev Siberian State University of Science and Technology 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation Е-mail: alexeyvah@gmail.com

In this paper, we present the results of the previously proposed algorithm for grouping variables for large-scale global optimization problems. We have tested our algorithm on LSGO CEC '13 benchmark set.

Keywords: parametric optimization, evolutionary algorithm, cooperative co-evolution, large dimension.

Введение. Большая часть актуальных задач параметрической оптимизации имеют большую размерность [1-2]. Потребность в оптимизации можно встретить во множестве областей человеческой деятельности [3-4]: data mining, инженерия, нейроин-форматика, химия и др.

Одной из главных особенностей данного типа задач является то, что они относятся к задачам типа «черный ящик (black-box(BB))». В задачах оптимизации типа BB, мы можем получить только значение целевой функции f x ) для точки x из пространства поиска.

Задача оптимизации может быть сформулирована следующим образом:

f (x ) = f (xl, X2,..., Xn min/max, (1)

xL < xi < xU,i =1, n , (2)

где f - целевая функция; X - допустимое множество решений; n - размерность задачи оптимизации; xL и xU - нижняя и верхняя граница интервала поиска, соответственно. При решении задач оптимизации типа BB свою эффективность продемонстрировали эволюционные алгоритмы (ЭА) [5].

Описание используемых подходов. Differential Evolution (DE) [6]. DE - алгоритм оптимизации функций вещественных переменных. Self-adaptive differential evolution with neighborhood search (SaNSDE) [7]. SaNSDE - дифференциальная эволюция с самонастройкой параметров в ходе работы.

Cooperative coevolution (CC) [8]. CC является эволюционной структурой, в основе которой лежит идея декомпозиции вектора решения на части и их независимая оптимизация с целью повышения эффективности ЭА.

*Работа выполнена при поддержке Министерства Образования и Науки РФ в рамках государственного задания №2.1676.2017/ПЧ (This research is supported by the Ministry of Education and Science of Russian Federation within State Assignment No 2.1676.2017/ПЧ).

Программные средства и информационные технологии

Результаты работы DECC-RAG(m) на LSGO CEC'13

№ DECC-RAG (4) DECC-RAG (8) DECC-RAG (10) DECC-RAG (20) DECC-RAG (40) DECC-RAG (50) )ECC-RAG (100)

1 1.50E-08 9.96E-16 1.56E-16 5.42E-10 3.17E+02 2.82E+04 2.60E+07

2 7.07E+03 2.35E+03 1.44E+03 1.58E+03 4.74E+03 5.40E+03 6.09E+03

3 2.03E+01 2.03E+01 2.03E+01 2.04E+01 2.06E+01 2.07E+01 2.06E+01

4 4.68E+09 8.89E+09 1.12E+10 2.40E+10 4.73E+10 5.13E+10 1.03E+11

5 2.71E+06 3.76E+06 3.64E+06 4.81E+06 6.21E+06 7.71E+06 9.69E+06

6 1.06E+06 1.06E+06 1.06E+06 1.06E+06 1.06E+06 1.06E+06 1.06E+06

7 2.20E+07 1.71E+08 3.01E+08 6.41E+08 1.37E+09 1.15E+09 1.72E+09

8 2.34E+14 4.46E+14 5.52E+14 1.71E+15 2.90E+15 4.05E+15 8.04E+15

9 2.59E+08 2.34E+08 2.46E+08 3.26E+08 4.43E+08 4.83E+08 6.97E+08

10 9.45E+07 9.44E+07 9.43E+07 9.39E+07 9.40E+07 9.44E+07 9.42E+07

11 4.54E+08 2.51E+09 4.89E+09 1.22E+11 3.57E+11 3.05E+11 2.01E+11

12 2.22E+03 1.88E+03 1.75E+03 1.13E+03 1.20E+03 1.06E+03 3.83E+03

13 6.32E+08 3.36E+09 8.73E+09 3.48E+10 6.51E+10 4.60E+10 3.13E+10

14 1.79E+08 1.07E+10 4.21E+10 2.39E+11 5.12E+11 3.59E+11 2.83E+11

15 7.29E+06 1.27E+07 1.37E+07 6.77E+07 2.68E+08 5.45E+08 1.47E+09

Ранг 2.73 2.63 2.73 3.53 5.03 5.43 5.90

DECC-RAG алгоритм. Был предложен метод группировки переменных RAG (random adaptive grouping). На основе SaNSDE, CC и RAG предложен алгоритм DECC-RAG. Ниже представлен псевдокод алгоритма DECC-RAG.

_Псевдокод алгоритма ЭБС'С'-ЯАО_

1: Задать ЕЕУ_^1оЬа1, Т, ЕЕУ_1оса1 = 0; 2: п-мерный целевой вектор случайно разделить на т 5-мерных субкомпонентов;

3: Случайно перемешать индексы всех переменных 4: I = 1;

5: Эволюционировать 1-ую субкомпоненту используя БаЖВЕ;

6: Если 1<т, то 1 + + и перейти к шагу 5, иначе к шагу 7;

7: НайтиЬа'^оШгоп, для каждой субкомпоненты; 8: Если (ЕЕУ_1оса1<Т), то перейти к шагу 4, иначе к шагу 9;

9: Найти т/2 субкомпонентов с худшими значениями целевой функции и случайно перемешать индексы переменных в данных субкомпонентах, обновить значения параметров БаЫББЕ в данных т/2, ЕЕУ_1оса1 = 0;

10: Если (ЕЕУ> 0), то перейти к шагу 4, иначе к шагу 11;

11: Произвести возврат лучшего найденного значения (Ье81_8о1ийоп)._

Практические результаты. Настройки алгоритма БЕСС-КАв были взяты следующие: ЫР = 50 (размер популяции в каждой субкомпоненте), Т = 3*105 - параметр, который представляет собой количество ББУб (оценок функций) перед случайным перемешиванием худших т/2 субкомпонентов. Количество субкомпонент т = {4, 8, 10, 20, 40, 50, 100}. Мы используем следующую нотацию - ББСС-КАО(ш). Эталонные тестовые задачи были взяты из [9].

Вычислительные эксперименты проводились в рамках правил СБС'13 Ь8вО: размерность эталонных задач Б = 1000, 25 независимых запусков для каждой эталонной задачи, 3*106 - максимально разрешенное

количество вычислений функций пригодности в каждом независимом запуске.

В таблице представлены результаты работы алгоритма DECC-RAG с различным количество групп на LSGO CEC'13. Первый столбец обозначает номер эталонной тестовой функции, последующие столбцы - результаты работы DECC-RAG(m) с различным количеством субкомпонентов. В каждой ячейке таблицы содержится медианное значение, полученное по результатам 25 независимых запусков. Последняя строка таблицы содержит средний ранг алгоритма по всем эталонным тестовым функциям. Ранг вычислялся в зависимости от места, которое занял алгоритм на той или иной эталонной тестовой функции: чем меньше медианное значение, тем меньше значение ранга.

Выводы. Анализируя результаты работы алгоритма DECC-RAG с различным числом субкомпонент, можно заключить, что DECC-RAG(8) продемонстрировал лучшую эффективность на LSGO CEC'13.

References

1. Mei Y., Li X., Yao X. Variable neighborhood decomposition for Large Scale Capacitated Arc Routing Problem. in Proceedings of the 2014 IEEE Congress on Evolutionary Computation, CEC 2014, P. 1313-1320.

2. Jiang B., Wang N. Cooperative bare-bone particle swarm optimization for data clustering. Soft Computing. 2014. Vol. 18(6), P. 1079-1091.

3. Lin Lin, Mitsuo Gen, Yan Liang. A hybrid EA for high-dimensional subspace clustering problem. in: 2014 IEEE Congress on Evolutionary Computation (CEC). 2014. P. 2855-2860.

4. Lee W. P., Hsiao Y. T. Inferring gene regulatory networks using a hybrid GA-PSO approach with numerical constraints and network decomposition. Inf. Sci. (Ny)., Vol. 188. 2012. P. 80-99.

5. T. Jansen. Analyzing Evolutionary Algorithms. The Computer Science Perspective. Natural Computing Series. Springer. 2013.

6. Storn R., Price K. Differential evolution-a simple and efficient adaptive scheme for global optimization

PewemHeeoKue umeHun. 2018

over continuous spaces. International Computer Science Institute-Publications-Tr. 1995. P. 1-12.

7. Zhenyu Yang, Ke Tang, Xin Yao. Self-adaptive differential evolution with neighborhood search. in: IEEE Congress on Evolutionary Computation, 2008. CEC 2008 (IEEE World Congress on Computational Intelligence), IEEE, 2008. P. 1110-1116.

8. Mitchell A. Potter, Kenneth A. De Jong. A cooperative coevolutionary approach to function optimization. in:

Parallel Problem Solving from NaturePPSN III. Springer. 1994. P. 249-257.

9. Li X., Tang K., Omidvar M., Yang Z., Qin K., Tang K. Benchmark functions for the CEC'2013 special session and competition on large scale global optimization. Tech. rep., Evolutionary Computation and Machine Learning Group, RMIT University, Australia. 2013.

© BaxHHH А. B., Com® Е. A., 2018