Научная статья на тему 'Вероятностный генетический алгоритм для задач многокритериальной оптимизации'

Вероятностный генетический алгоритм для задач многокритериальной оптимизации Текст научной статьи по специальности «Математика»

CC BY
298
60
i Надоели баннеры? Вы всегда можете отключить рекламу.

Аннотация научной статьи по математике, автор научной работы — Ворожейкин Антон Юрьевич, Семенкин Евгений Станиславович

Для решения задач условной многокритериальной оптимизации предложен вероятностный генетический алгоритм. Проведен сравнительный анализ его эффективности на тестовых задачах. Показано, что вероятностный генетический алгоритм не уступает по эффективности стандартному генетическому алгоритму.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по математике , автор научной работы — Ворожейкин Антон Юрьевич, Семенкин Евгений Станиславович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Probabilistic genetic algorithm for multi-objective optimization

The probabilistic genetic algorithm for solving constrained multi-objective optimization problems is suggested. Effectiveness analysis on test problems is fulfilled. It is demonstrated that probabilistic genetic algorithm outperforms conventional genetic algorithm.

Текст научной работы на тему «Вероятностный генетический алгоритм для задач многокритериальной оптимизации»

шетнева / под ред. проф. Г. П. Белякова ; Сиб. гос. аэро-космич. ун-т. Красноярск, 2006. Вып. № 4(11). С. 32-37.

3. Подиновский, В. В. Парето-оптимальныш решения многокритериальных задач / В. В. Подиновский, В. Д. Ногин. М. : Наука, 1982. 256 с.

4. Штойер, Р. Многокритериальная оптимизация: теория, вычисления, приложения / P. Штойер. М. : Наука, 1982. 600 с.

5. Линейная динамика: программа для ЭВМ. Свидетельство о регистрации N° 2004611491 от 17.06.2004. Правообладатели А. В. Медведев, П. Н. Победаш.

А. V. Medvedev

TO THE Z-TRANSFORMATION APPLY FOR THE ANALYSIS OF THE MULTYCRITERIAL LINE OPTIMAL CONTROL PROBLEM OF ECONOMIC DYNAMICS

The generalization of the z-transformation approach for the analysis of the multycriterial line optimal control problem is suggested. The z-transformation is applied for the proof of decision existing and receiving of the sufficient conditions of noneffectivity of the regional investment projects on the example of two-criterial model of a regional economics.

Библиографический список

1. Медведев, А. В. Теоретическое и численное исследование двухкритериальной модели оптимизации реальных инвестиций / А. В. Медведев // Вестник Томс. гос. унта. Томск, 2006. С. 315-321.

2. Медведев, А. В. Применение z-преобразования и дискретного принципа максимума к анализу модели реальных инвестиций / А. В. Медведев, П. Н. Победаш // Вестник Сиб. гос. аэрокосмич. ун-та им. акад. М. Ф. Ре-

УЦК 519.68

А. Ю. Ворожейкин, Е. С. Семенкин

ВЕРОЯТНОСТНЫЙ ГЕНЕТИЧЕСКИЙ АЛГОРИТМ ДЛЯ ЗАДАЧ МНОГОКРИТЕРИАЛЬНОЙ ОПТИМИЗАЦИИ1

Для решения задач условной многокритериальной оптимизации предложен вероятностный генетический алгоритм. Проведен сравнительный анализ его эффективности на тестовых задачах. Показано, что вероятностный генетический алгоритм не уступает по эффективности стандартному генетическому алгоритму

Постановка задачи и описание подхода. В общем виде многокритериальная задача оптимизации включает набор N параметров (переменных), множество K целевых функций и множество M ограничений. Целевые функции и ограничения являются функциями переменных.

Таким образом, при решении многокритериальной задачи необходимо найти оптимум по K критериям, а сама задача формально записывается следующим образом:

У = f (x) = (fi(x), f2(x),..., fK(x)) ^ opt,

g(x) =(gi(x)g2(x),...,Sr(x)) ^ 0,

h(x) = (hr+i(x),K ,hM (x)) = 0 ,

где x = (xi,x2,...,xN) e X - вектор решений, удовлетворяющий Mограничениям, У = (yi,У2,...,УК ) e Y - вектор целевых функций. При этом X означает пространство решений, а Y- пространство целей или критериальное пространство.

Последние десятилетия получили развитие и продемонстрировали свою универсальность и применимость в сложных практических задачах так называемые эволюционные алгоритмы, в частности - генетический алгоритм (ГА) [1], которые представляют собой стохастичес-

кую оптимизационную процедуру, основанную на имитации процессов естественной эволюции. Е. С. Семенки-ным и Е. А. Соповым был предложен вероятностный генетический алгоритм (ВГА) безусловной оптимизации [2].

Работу ВГА в общем виде можно представить следующим образом.

1. Инициализировать случайным образом популяцию решений.

2. С помощью оператора селекции выбрать г наиболее пригодных индивидов текущей популяции (родителей). Вычислить распределение

р = {ръК ,Рп},

1 г ___

рз = Р р3 = 1} = Г £ х'},] 1 п,

1=1

где п - длина хромосомы; ху -у-й бит г-го индивида.

1. В соответствии с полученным распределением Р = {р!,К , рп} сформировать популяцию потомков с помощью датчика псевдослучайных чисел.

2. Новые решения (потомки) подвергнуть мутации.

3. Из популяции родителей и потомков сформировать новую рабочую популяцию.

4. Повторять шаги 2-5 пока не выполнится условие остановки.

1 Работа выполнялась при поддержке ФЦНТП по теме 2006-РИ-19.0/001/377 (государственный контракт № 02.442.11.7337) и Фонда содействия развитию малых форм предприятий в научно-технической сфере.

Для решения задач условной многокритериальной оптимизации генетические алгоритмы должны быть оснащены методами учета ограничений и наличия многих целевых функций.

В данной работе для учета ограничений использовался метод динамического штрафа [3], выйранныш после проведения сравнительного анализа эффективности различных методов учета ограничений в генетических алгоритмах.

Рассмотрим следующую задачу условной оптимизации для i-го критерия:

f (x) ^ opt, i = i,к ,

gj(x) < 0, j =1, r, hj (x) = 0, j = r +1,M .

В методе динамического штрафа пригодность индивида x вычисляется по формуле

M R

fitnessi (x) = fi (x) + Sk(t) i fe (x)

j=i

где t - номер текущего поколения; 8 = 1, если решается задача минимизации; 8 = -1, если решается задача максимизации; fj(x) - штраф за нарушение j-го ограничения; в - вещественное число; л(/) = (C ■ t)a .

Штрафы fj(x) вычисляются динамически, в зависимости от степени нарушения ограничений, по формуле [3]

Imax {0, gj (x)}, j = i, r

fj(x) = 1 , _________ ■

I |hj(x), j = r +1,M

Параметры C, а, в подбираются на практике для каждой задачи индивидуально. Рекомендованные значения C = 0,5 , а = в = 2 [3].

Процедура штрафования, переводит элемент у из критериального пространства Y, в оштрафованное критериальное пространство, которое обозначим Y.

Для анализа эффективности многокритериальной оптимизации вероятностными генетическим алгоритмом были выбраны четыре наиболее распространенные известные схемы: VEGA (Vector Evaluated Genetic Algorithm) [4], FFGA (Fonseca and Fleming’s Multiobjective Genetic Algorithm) [5], NPGA (Niched Pareto Genetic Algorithm) [6], SPEA (Strength Pareto Evolutionary Algorithm) [7].

Для задач условной оптимизации принцип Парето-доминирования следует применять в оштрафованном критериальном пространстве Y.

Сравнение эффективности стандартного ГА и ВГА. Сравнение эффективности алгоритмов проводилось на следующих тестовых задачах условной оптимизации

Задача 1.

fi(x,У) = (x - 6)2 + (y - 4)2 ^ min f2(x, У) = (x + 2)2 + (y - 5)2 ^ min

gi(x,у) = (x -1)2 + (у - 4)2 < 4 g2(x,y) = (x- 3)2 + (y-4)2 < 6,25.

Задача 2.

fi(x,y) = (x - 6) + (y - 4) ^ min f2(x, У) = (x + 2)2 + (y - 5)2 ^ min f3(xУ) =(x - 4)2 +(У + 4)2 ^ min

й(х,у) = (х - 2)2 + (у - 2)2 < 10,24 - g2(x,у) = (х - 5)2 + (у -1)2 < 16 .

§3(х,у) = (х - 3)2 + (у - 4)2 < 9

Задача 3.

/1(х, у) = (х -1)2 + (у +1)2 ^ шт /2(x,у) = (х + 2)2 +(у - 2)2 ^ тп /з(х,у) = (х - 3)2 + (у - 4)2 ^ шт /4(х,у) = (х - 4)2 + (у - 2)2 ^ шт gl(х,у) = (х +1.8)2 + (у - 2)2 > 4 g2(х,у) = (х -1)2 + (у - 4.5)2 > 4 .gз(x,у) = (х- 5.2)2 + (у-2)2 > 9 . g4(х,у) = (х-1)2 + (у + 2)2 > 9 g5(х,у) = (х -1)2 + (у - 2)2 < 6,25

Задача 4.

/1(х, у) = (х -1)2 + (у +1)2 ^ шт /2 (х,у) = (х + 2)2 + (у - 2)2 ^ шт

/3(^у) =(х- 3)2 +(у- 4)2 ^ ™п /4(х,у) = (х - 4)2 + (у - 2)2 ^ шт gl(х,у) = х2 + (у - 6)2 < 4 g2(х,у) = (х + 2)2 + (у - 5)2 < 4 .

Особенность последней задачи состоит в том, что допустимая область лежит вне множества Парето.

В качестве исследуемых характеристик были выбраны: разброс точек в пространствах Xи У, процент Паре-товских точек (%), процент допустимых точек (% доп.). В задачах 1 и 4 множество Парето представляет собой отрезок и части окружностей соответственно, поэтому для этих задач дополнительно исследовалось среднее расстояние (Ср.р) до отрезка и окружностей. Поскольку алгоритмы являются стохастическими, то для каждой настройки алгоритмов эксперименты проводились по 50 раз и исследуемые характеристики усреднялись. Для проверки того, являются ли различия между алгоритмами случайными, применялся тест Колмогорова-Смирнова (Kstest) с 5% уровнем значимости. Kstest = 0, если различия случайны, иначе Kstest = 1.

Тестирование проводилось при наилучших и наихудших настройках генетических операторов алгоритмов, для того чтобы установить диапазон влияния вносимых изменений на качество работы (например, эти изменения, возможно, и не улучшают работу алгоритма при наилучших настройках, но улучшают при наихудших, что дает положительный эффект в условиях произвольного выбора настроек неподготовленным в области эволюционной оптимизации пользователем).

Метод SPEA представлен в табл. 1-4.

Различия между наихудшими настройками ГА и ВГА во всех случаях носят случайный характер. Различия между наилучшими настройками в большинстве случаев носят случайный характер. В тех случаях, когда различие не случайно, абсолютные значения отличаются не существенно.

МетодNPGA представлен в табл. 5-8.

Различия между наилучшими настройками в полови- ший разброс точек, а ВГА лучший процент допустимых не случаев носят случайных характер. В тех случаях, когда точек. Различия между наихудшими настройками также различие не случайно, стандартный ГА обеспечил луч- в половине случаев носят случайный характер. В тех слу-

Таблица 1

Численные характеристики наилучших настроек

№ Стандартный ГА Вероятностный ГА

X У % % доп. СР.Р X У % % доп. СР.Р

1 0,025 3 0,020 5 0 95,933 3 0,107 8 0,025 4 0,020 5 0 96,328 7 0,107 4

2 0,055 3 0,034 8 94,933 3 98,533 3 0,055 4 0,035 0 93,400 0 98,600 0

3 0,036 8 0,022 0 86,560 9 86,496 6 0,036 4 0,021 7 83,240 9 84,664 4

4 0,008 2 0,006 5 0 73,835 2 0,003 1 0,007 7 0,006 1 0 74,591 6 0,004 2

Таблица 2

Статистические характеристики наилучших настроек

№ Kstest

X У % Парето % доп. СР.Р

1 0 0 0 0

2 0 0 0 0

3 0 0 1 0

4 0 0 0 1

Таблица 3

Численные характеристики наихудших настроек

№ Стандартный ГА Ве роятностный ГА

X У % % доп. СР.Р X У % % доп. СР.Р

1 0,024 2 0,020 2 0 94,933 3 0,136 2 0,024 0 0,020 2 0 94,666 7 0,130 6

2 0,054 2 0,034 7 93,800 0 97,533 3 0,054 4 0,035 0 93,866 7 97,933 3

3 0,035 2 0,021 0 84,726 4 83,031 2 0,034 9 0,020 8 82,213 8 82,793 1

4 0,005 5 0,004 5 0 60,943 4 0,005 0 0,006 3 0,005 1 0 65,531 1 0,004 9

Таблица 4

Статистические характеристики наихудших настроек

№ Kstest

X У % Парето % доп. Ср.р

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1 0 0 0 0

2 0 0 0 0

3 0 0 0 0

4 0 0 0 0

Таблица 5

Численные характеристики наилучших настроек

№ Стандартный ГА Вероятностный ГА

X У % % доп. Ср.р X У % % доп. Ср.р

1 0,032 5 0,017 0 0 93,790 9 0,183 8 0,030 7 0,016 6 0 95,732 1 0,286 4

2 0,048 9 0,030 8 47,862 1 92,894 0 0,047 6 0,030 1 61,698 0 92,847 7

3 0,031 6 0,018 1 92,713 8 92,713 8 0,023 1 0,013 2 23,072 0 93,590 5

4 0,003 3 0,003 3 0 61,908 2 0,026 7 0,001 5 0,001 5 0 63,961 8 0,051 1

Таблица 6

Статистические характеристики наилучших настроек

№ Kstest

X У % Парето % доп. Ср.р

1 1 1 1 1

2 0 0 1 1

3 1 1 1 1

4 0 0 0 0

Таблица 7

Численные характеристики наихудших настроек

№ Стандартный ГА Ве роятностный ГА

X У % % доп. Ср.р X У % % доп. Ср.р

1 0,019 3 0,015 8 0 38,418 6 0,523 0 0,015 1 0,013 1 0 48,683 7 0,453 7

2 0,042 3 0,026 8 91,391 9 48,436 9 0,041 6 0,026 5 92,685 5 62,506 5

3 0,022 4 0,012 3 80,422 6 17,824 8 0,020 6 0,011 3 85,478 0 23,072 0

4 0,000 0 0,000 0 0 0,343 1 0,224 0 0,000 0 0,000 0 0 0,445 3 0,121 2

чаях, когда различие не случайно, стандартный ГА обеспечил лучший разброс точек, а ВГА лучший процент допустимых и Паретовских точек.

Метод FFGA представлен в табл. 9-12.

Различия между показателями разброса по X и Y среди наилучших настроек в большинстве случаев не случайно. Стандартный ГА обеспечил наилучший разброс точек, в то время как ВГА обеспечил наилучший процент Паретовских точек, и эти различия также не случайны. Различия между показателями разброса среди наихудших настроек в большинстве случаев случайны. В тех случаях, когда различия не случайны, стандартный ГА обеспечивает наилучший разброс. ВГА обеспечил наилучший процент допустимых и Паретовских точек, и это различие не случайно.

Метод VEGA представлен в табл. 13-16.

Для наилучших настроек стандартный ГА обеспечил наилучший разброс точек, и наилучшее расстояние до множества Парето в задачах 1и 4, эти различия не слу-

Статистические характер]

чайны. По проценту допустимых и Паретовских точек в половине случаев различия случайны. В тех же случаях, когда различия не случайны, ВГА обеспечивает наилучшее значение этих показателей. Для наихудших настроек стандартный ГА также обеспечил наилучший разброс точек. По проценту допустимых точек различия случайны, а по проценту Паретовских точек различия не случайны в половине случаев в пользу ВГА.

Суммируя выводы по каждой схеме, можно сделать общее заключение: в большинстве случаев стандартный ГА обеспечивает наилучший разброс точек в критериальном пространстве и пространстве решений. Однако в абсолютном выражении различие между этими показателями несущественно. ВГА в большинстве случаев обеспечивает наилучший процент Паретовских и допустимых точек.

Таким образом, показано, что ВГА справляется с решением тестовых задач не хуже стандартного ГА, а в некоторых случаях превосходит его. Кроме того, ВГА содержит меньше настраиваемых параметров (отсутствует

Таблица 8

тики наихудших настроек

№ Kstest

X Y % Парето % доп. ф.р

1 0 0 1 1

2 0 0 1 0

З 1 1 1 1

4 1 1 0 1

Таблица 9

Численные характеристики наилучших настроек

№ Cтaндaртный ГА Вероятностный ГА

X Y % % доп. ф.р X Y % % доп. ^.р

1 0,028 7 0,016 1 0 96,649 8 0,075 0 0,025 З 0,015 9 0 97,279 4 0,150 5

2 0,051 2 0,0З2 7 50,188 8 95,267 4 0,049 7 0,0З1 4 56,878 9 95,781 2

З 0,029 9 0,017 З 28,852 З 94,275 2 0,022 7 0,012 6 44,З98 4 9З,82З 7

4 0,00З 2 0,002 7 0 74,899 6 0,018 9 0,001 4 0,001 4 0 72,016 0 0,045 8

Таблица l0

Статистические характеристики наилучших настроек

№ Kstest

X Y % Парето % доп. ^.р

1 1 0 0 1

2 1 1 1 0

З 1 1 1 0

4 1 1 0 0

Таблица ll

Численные характеристики наихудших настроек

№ Огандартный ГА Вероятностный ГА

X Y % % доп. °р.р X Y % % доп. °р.р

1 0,014 4 0,012 4 0 52,8З4 1 0,З85 9 0,012 1 0,010 7 0 65,999 З О,ЗОЗ 2

2 0,0З8 2 0,02З 9 94,255 7 48,656 6 О,ОЗЗ 7 0,021 0 95,679 6 57,555 4

З 0,018 0 0,009 7 92,991 7 2З,082 7 0,015 4 0,008 З 92,135 5 З7,728 5

4 0 0 0 1,044 2 0,212 2 0,000 5 0,000 З 0 2,949 1 0,160 2

Таблица 12

Статистические характеристики наихудших настроек

№ Kstest

X Y % Парето % доп. °р.р

1 1 0 1 1

2 1 1 1 1

З 0 0 0 1

4 0 0 0 0

оператор скрещивания), за счет чего уменьшается время работы алгоритма.

Все это делает ВГА перспективным для решения реальных практических задач [8].

Библиографический список

1. Goldberg, D. Genetic algorithms in search, optimization and machine learning / D. Goldberg. Reading, MA, Addison-Wesly, 1989.

2. Семенкин, E. С. Вероятностные эволюционные алгоритмы оптимизации сложных систем / E. С. Семенкин, E. А. Сопов // Труды Международный научно-практических конференций AIS’05/CAD-2005. М. : Физмаглит, 2005. С. 77-78.

3. Michalewicz, Z. Genetic algorithms, numerical optimization and constraints / Z. Michalewicz // Proc. of the Sixth Int. Conf. on Genetic Algorithms and their Applications. Pittsburgh : PA, 1995.

4. Schaffer, J. D. Multiple objective optimization with vector evaluated genetic algorithms / J. D. Schaffer ; ed. by

J. J. Grefenstette // Proceedings of an International Conference on Genetic Algorithms and Their Applications. Pittsburgh : PA, 1985. P. 93-100.

5. Fonseca, C. M. Multiobjective optimization and multiple constraint handling with evolutionary algorithms. P I. A unified formulation. Technical report 564 / C. M. Fonseca, P. J. Fleming ; University of Sheffield. Sheffield, 1995.

6. Horn, J. A niched Pareto genetic algorithm for multiobjective optimization / J. Horn, N. Nafpliotis,

D. E. Goldberg // Proceedings of the First IEEE Conference on Evolutionary Computation. Vol. 1. Piscataway, 1994. P. 82-87.

7. Zitzler, E. Multiobjective evolutionary algorithms: A comparative case study and the strength Pareto approach /

E. Zitzler, L. Thiele // IEEE Transactions on Evolutionary Computation. Vol. 3. 1999. No. 4. P. 257-271.

8. Семенкин, E. С. Модели и алгоритмы поддержки принятия решений инвестиционного аналитика / E. С. Семенкин, А. В. Медведев, А. Ю. Ворожейкин // Вестник Томск. гос. ун-та. Вып. 293. 2006. С. 63-70.

Таблица 13

Численные характеристики наилучших настроек

№ Cтaндaртный ГА Вероятностный ГА

X Y % % доп. °р.р X Y % % доп. °р.р

1 0,035 8 0,016 9 0 95,800 5 0,181 0 0,029 6 0,015 8 0 94,718 0 0,281 1

2 0,052 9 0,033 7 26,620 0 95,446 6 0,049 5 0,030 9 26,217 5 96,308 3

3 0,031 0 0,018 1 32,166 2 94,515 7 0,023 4 0,013 1 41,749 2 90,589 3

4 0,003 0 0,002 6 0,000 0 30,162 8 0,010 3 0,001 4 0,001 2 0,000 0 33,045 9 0,025 5

Таблица l4

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Статистические характеристики наилучших настроек

№ Kstest

X Y % Парето % доп. °р.р

1 1 1 0 1

2 0 0 0 0

3 1 1 1 1

4 1 1 1 1

Таблица l5

Численные характеристики наихудших настроек

№ Cтaнцaртный ГА Ве] эоятностный ГА

X Y % % доп. °р.р X Y % % доп. °р.р

1 0,017 4 0,012 5 0 24,324 1 0,674 2 0,022 7 0,011 0 0 24,526 2 0,635 0

2 0,028 6 0,017 8 94,383 1 16,462 3 0,023 4 0,014 8 96,308 3 18,520 8

3 0,013 5 0,007 5 93,382 0 9,331 5 0,010 5 0,005 9 92,353 9 11,043 6

4 0 0 0 0,000 0 0,356 1 0 0 0 0,581 6 0,250 9

Таблица l6

Статистические характеристики наихудших настроек

№ Kstest

X Y % Парето % доп. °р.р

1 1 1 0 0

2 1 1 1 0

3 1 1 0 0

4 0 0

A. Y. Vorozheykin, E. S. Semenkin

PROBABILISTIC GENETIC ALGORITHM FOR MULTI-OBJECTIVE OPTIMIZATION

The probabilistic genetic algorithm for solving constrained multi-objective optimization problems is suggested. Effectiveness analysis on test problems is fulfilled. It is demonstrated that probabilistic genetic algorithm outperforms conventional genetic algorithm.

i Надоели баннеры? Вы всегда можете отключить рекламу.