CC BY
46
Электронное научно-техническое издание
НАУКА и ОБРАЗОВАНИЕ
Эя Н?ФС 77 - 30569. Государственная регистрация №?04Z11000Z5. ISSN 1994-0408_
Гибридные алгоритмы векторной оптимизации в системах вычислительной диагностики
77-30569/325628
# 03, март 2012
Сулимов В. Д., Шкапов П. М.
УДК 519.6
МГТУ им. Н.Э. Баумана spm@bmstu.ru
Введение
Решение многих современных практических задач, связанных с идентификацией и диагностированием сложных систем, обеспечением безопасности, оптимальным проектированием, управлением и т.п., предполагает применение методов многокритериальной оптимизации [1-3]. При наличии нескольких критериев целью оптимизации является поиск множества недоминируемых решений [4], образующих Парето-оптимальный фронт. Ввиду большой размерности и сложной структуры пространства поиска для большинства задач векторной оптимизации точное решение получить не удается. Одним из эффективных методов численного решения многокритериальных задач является векторный вариант метода линеаризации [5]. Используя построение сглаживающих аппроксимаций, можно расширить этот подход на негладкий случай [6]. Существенно, что отдельные критерии могут представлять собой многоэкстремальные не всюду дифференцируемые функции. В общем случае поиск глобального решения для такой критериальной функции представляет собой самостоятельную сложную задачу. Этим обусловлена актуальность разработки гибридных алгоритмов решения задач векторной оптимизации с многоэкстремальными негладкими критериями.
Эффективность детерминированных алгоритмов решения задач глобальной оптимизации существенно ограничена размерностью пространства поиска. В свою очередь, реализация мощных современных стохастических алгоритмов требует значительных вычислительных затрат. В работе [7] представлен гибридный алгоритм NMPCA, объединяющий стохастический алгоритм PCA и симплекс-метод Нелдера-Мида. При этом общий поиск решения в пространстве переменных проводится стохастическим
алгоритмом, а затем перспективная область сканируется с использованием симплекс-метода. Однако метод Нелдера-Мида не всегда обеспечивает сходимость к стационарной точке, что снижает в целом надежность алгоритма MNPCA. В связи с этим в работе [8] представлен новый гибридный алгоритм, построенный на основе алгоритма PCA в сочетании с детерминированным методом линеаризации при локальном поиске. Градиентная информация, используемая в гибридном алгоритме, позволяет получить локально оптимальное, а следовательно, и глобальное решение задачи (если оно существует) при меньших вычислительных затратах по сравнению с алгоритмом PCA. При локальном поиске для многомерных не всюду дифференцируемых критериальных функций вводятся сглаживающие аппроксимации. Вместе с тем, существует класс оптимизационных задач, в которых использование градиентной информации или затруднено, или требует значительных вычислительных затрат. Этим объясняется интерес к разработке алгоритмов, не использующих производные критериальных функций по переменным задачи оптимизации. Второй гибридный алгоритм построен на основе алгоритма Мет-рополиса в сочетании с детерминированным методом редукции исходной многомерной задачи к эквивалентной одномерной. Редукция размерности пространства проводится при локальном поиске с использованием метода построения кривой, заполняющей пространство [9], по схеме Пеано-Гильберта. Решение задач глобальной оптимизации для отдельных критериев позволяет определить множество недоминируемых решений многокритериальной задачи, аппроксимирующих искомый фронт Парето.
В первом разделе вводятся некоторые определения и формулируется задача многокритериальной оптимизации. Краткое описание гибридных алгоритмов приведено во втором разделе. Предложенный подход позволяет находить глобальные решения для отдельных критериев, не являющихся всюду дифференцируемыми. В третьем разделе приводятся сведения о реализации алгоритма в виде прикладной программы. Численный пример применения гибридного алгоритма рассматривается в четвертом разделе, где представлены результаты решения стандартной эталонной тестовой задачи векторной оптимизации, а также приведены оценки эффективности алгоритма.
1. Постановка задачи
Пусть заданы функции ^(х), I = 1,2, ... ,т, X е R", образующие векторный критерий /(х) = ((х), ... , /т (х)) некоторой многокритериальной задачи оптимиза-
ции при ограничениях х е X = { х е К" : g] (х) < 0, ] е J }, где х — вектор переменных управления; gJ. (х) — функции ограничений; множество индексов
J = { ] : ] = 1, ..., к }. Будем рассматривать задачу векторной оптимизации в предположении, что частные критерии и функции ограничений являются непрерывными многоэкстремальными не всюду дифференцируемыми функциями. В соответствии с [4] введем определения.
Определение 1. Решение х0 называется слабо эффективным (эффективным или Парето-оптимальным), если не существует такого х1 Ф х0 , что /(х1 )< (<)/(х0 ).
Определение 2. Решение х0 называется собственно эффективным (оптимальным по Джоффриону), если оно эффективное и существует такое положительное число 0, что для любого I = 1, 2, ... , т и х е X, для которых выполнено неравенство
/ (х0 ) > / (х), и некоторого V е {1, 2, ... , т}, такого, что / (х0 )< / (х), выполняется
неравенство (/ (х0)— / (х))/(/ (х) — / (х0)) < 0 .
Определение 3 [3]. Парето-оптимальное множество 8Р данной многокритери-
0 1**1 альной задачи х определяется в виде: 8Р = {х е X : —Зх е X, х ^ х }.
Определение 4 [3]. Для данной многокритериальной задачи и Парето-оптимального множества 8Р фронт Парето определяется в виде
Рр ={ /(х): х е £р }.
2. Алгоритмы решения задачи со сглаживающей аппроксимацией
Построим алгоритм решения рассматриваемой задачи, реализующий вариант метода линеаризации для задач многокритериальной оптимизации [5]. Для каждой функции, представляющей частный критерий или функцию ограничений, введем двух-параметрическую сглаживающую аппроксимацию, предложенную в работе [6].
Следуя работе [5], свяжем с каждой точкой х е Кп вспомогательную задачу
тп 1 ™ г: (у/ (р, ^х I i е 1, ^ [ 2
(р,д,х),м)+ (р,д,х)< 0, ] е J \, (1)
где w — вектор направления поиска; ^ — параметр; Vg (p, q, X) — градиент сглаживающей аппроксимации критериальной функции f, вычисленный в допустимой точке X ; I = {l, 2, ... ,m}; множество J определено выше. Введем следующие предположения: пусть X — слабо эффективное решение и существует такое N > 0, что
а) множество Q N = {х : f (p, q, x) + NG(p, q, x) < f (p, q, x*) + NG (p , q, X для Vi e I ограничено; G(p,q,х)= max {0, g1 (p,q,х), ... , gk(p,q,х)};
б) градиенты функций f (p, q, х), i e I, gj (p, q, х), j e J, в QN удовлетворяют условию Липшица с константой L;
в) существуют такие множители Лагранжа задачи (1) v j , j e J, что Z v j < N, при-
jeJ
чем задача (1) разрешима относительно w e R n для любого X e QN.
Решением двойственной к (1) задачи являются некоторые функции ui (х) и v j (х); вектор w(x) может быть представлен так:
w(x)=—Z u(х )vf (p, q, х)—Z vy(х )v~y ^ q, х).
ieI jeJ
Далее при построении алгоритма используется ряд оценок изменений сглаживающих аппроксимаций функций f (p, q, х), i e I, и gj (p, q, х), j e J, при сдвигах
вдоль направлений, определяемых решением задачи (1).
Алгоритм решения задачи векторной оптимизации включает в себя следующие
основные шаги [5, 6]. Пусть X0 — начальное приближение и выбраны 8, 0 < 8 < 1, и параметры аппроксимации p < 0, q > 0 . Пусть уже получена точка хк, тогда: Шаг 1. Решить вспомогательную задачу (1) при х = хк .
Шаг 2. Найти первое значение s = 0, 1, ... , при котором будет выполнено нера-
венство (4) для а = (l/ 2)s; если такое s = s0 найдено, то положить ак = 2 s°
хк+1 = хк + а kwk.
Если сглаживающие аппроксимации критериальных функций и функций ограничений построены, то, по теореме Да Канха-Полака-Джоффриона, необходимое условие слабой эффективности с учетом условия дополняющей нежесткости имеет вид:
Е и у/ (р, д, х *)+ Е V] ] (р, д, х * )=о. (2)
iеI ]еJ
При некоторых предположениях о выпуклости рассматриваемых функций вы*
ражение (2) соответствует и достаточным условиям оптимальности точки х . Если дополнительно предположить строгую выпуклость вектор-функции / , то условия регулярности Коттла и равенства w(х ) = 0 будет необходимо и достаточно, чтобы точка
*
х была эффективной (Парето-оптимальной). Следует отметить, что в любой предель-
*
ной точке х , генерируемой данным алгоритмом, выполняются необходимые (а в выпуклом случае и достаточные) условия слабой эффективности (при дополнительном требовании на выполнение условия регулярности Коттла), собственной эффективности (при дополнительном требовании на выполнение условия обобщенной регулярности) и
2
^ 0 при к ^ да.
имеет место
3. Описание прикладных программ
Оптимизация частных критериальных функций проводится с использованием гибридного алгоритма глобальной оптимизации, объединяющего стохастический алгоритм PCA [7] и метод линеаризации при локальном поиске. Для не всюду дифференцируемых критериальных функций вводятся сглаживающие аппроксимации. Работа стохастического алгоритма PCA основана на использовании аналогии с физическими процессами абсорбции и рассеяния частиц при ядерных реакциях. В алгоритме PCA для исследования области поиска используется одна частица. На начальном шаге выбирается пробное решение (Old_Config), которое затем модифицируется посредством стохастического возмущения (Perturbation()), что позволяет найти новое решение (New_Config). С помощью функции Fitness() дается сравнительная оценка нового и предыдущего решений, на основании которой новое решение может быть принято или отвергнуто. Если новое решение отвергнуто, то происходит переход к функции Scatter-ing(), реализующей схему Метрополиса. Новое решение принимается, если оно лучше предыдущего (абсорбция); если найденное решение хуже предыдущего, то происходит переход в отдаленную область пространства поиска (рассеяние), что позволяет преодолевать локальные минимумы. Второй алгоритм глобальной оптимизации построен на основе алгоритма Метрополиса в сочетании с детерминированным методом кривой, заполняющей пространство; последний применяется только при локальном поиске. Для
решения задачи липшицевой минимизации исходная многомерная задача редуцируется к эквивалентной одномерной с использованием кривой Пеано, построение которой проводится по схеме Гильберта [10].
Версии гибридных алгоритмов многокритериальной оптимизации реализованы в виде прикладных программ. Программная реализация каждого алгоритма включает в себя: модули ввода исходной информации; модуль, реализующий основной цикл алгоритма, в том числе фазу случайных возмущений для перехода в новую область поглощения частицы, фазу исследования области поглощения, фазу возмущений в области рассеяния, фазу исследования решения в области рассеяния; модуль локального поиска методом редукции размерности; модуль вычисления текущего значения частного минимизируемого критерия; модуль формирования фронта Парето; модуль вывода результатов решения. Для определения параметров возмущения на соответствующих шагах гибридных алгоритмов используются стандартные встроенные генераторы случайных чисел. С целью получения оценки вычислительных затрат в программном обеспечении во всех случаях предусмотрены счетчики числа обращений к подпрограммам вычисления текущих значений критериальной функции. Проведено тестирование разработанного программного обеспечения и получены оценки вычислительной эффективности гибридных алгоритмов многокритериальной оптимизации.
4. Численный пример
Рассматривается стандартная эталонная тестовая задача ZDT4 [2]. Требуется решить бикритериальную задачу
найти min f (x), где f (x) = (f1 (x), f2 (x)), при условиях: f1 (x) = x1;
f2(x) = g (x2)h(f1( xiX g(x2) ); g (x2) = 11 + (x22 - l0cOs(4nx2) );
h(fi(xx),g(x2)) = 1 -VfJg ; x e R2; x1 e [0, 1]; x2 e [- 5, 5].
Существенно, что функция g(x2 ), определяющая свойства критериальной функции f2 (x) задачи, является многоэкстремальной. График функции f2 (x) в заданной области определения x2 e [— 5, 5] для x1 = 0.4 представлен на рис. 1.
-зо-
5 -4 -3 -2 -1 0 1 2 3 4 5
х2
0
Рис. 1.
Приближенное решение подзадачи глобальной минимизации частного критерия f2(х) с использованием гибридного алгоритма РСАББС [10] иллюстрирует рис 2.
Представлено изменение значений критериальной функции и переменной х2 при возрастании плотности развертки т . Для определения множества недоминируемых решений задачи многокритериальной оптимизации требуется многократное решение подзадач глобальной минимизации при различных значениях переменной х1 и, соответственно, критериальной функции /1 (х) . На рис. 3 показан фронт Парето, представляющий решение задачи: сплошная линия соответствует точному решению; штриховая -приближенному решению, полученному с использованием программного обеспечения, реализующего гибридный алгоритм многокритериальной оптимизации (с редукцией размерности при глобальной минимизации частных критериев). Погрешность численного решения, аппроксимирующего фронт Парето, здесь не превышает 3.8 %.
1,60Е+01
1,40Е+01
1,20Е+01
1,00Е+01
8,00Е+00
а 6,00Е+00
<ч
4,00Е+00
2,00Е+00
0,00Е+00
-2,00Е+00
-4,00Е+00
Рис. 2.
т
■в— х2 ■А— f2(x)
П
Рис. 3.
£2 £28
Следует отметить, что для решения одной подзадачи глобальной минимизации частного критерия /2(х) потребовалось порядка 105 вычислений значений минимизируемой функции. Общее число обращений к подпрограммам вычисления значений критериальных функций определяется требованиями, предъявляемыми к точности построения аппроксимации фронта Парето.
Заключение
Представлены новые гибридные алгоритмы решения задач векторной оптимизации с многоэкстремальными негладкими критериями. При определении глобальных оптимумов частных критериев используются гибридные методы, объединяющие алгоритм Метрополиса и детерминированные методы локального поиска. На основании анализа результатов, полученных с применением разработанного программного обеспечения для стандартного эталонного теста ZDT4 [2], можно сделать вывод о возможности получения решений задач рассматриваемого класса с достаточной точностью при приемлемом уровне вычислительных затрат.
Работа выполнена при финансовой поддержке Министерства образования и науки РФ (грант Президента РФ по поддержке научных исследований ведущих научных школ РФ, код НШ-4748.2012.8).
Литература
1. Gao J., Wang J. A hybrid quantum-inspired immune algorithm for multiobjective optimization // Applied Mathematics and Computat. - 2011. - V. 211, № 14. - P. 4754-4770.
2. Gil C., Márques A., Baños R., Montoya M.G., Gómez J. A hybrid method for solving multi-objective global optimization problems // Journal of Global Optimization. - 2007. -V. 38, № 2. - P. 265-281.
3. Zio E., Bazzo R. Multiobjective optimization of the inspection intervals of a nuclear safety system: a clustering-based framework for reducing the Pareto front // Annals of Nuclear Energy. - 2010. - Vol. 37, No. 5. - P. 798-812.
4. Подиновский В.В., Ногин В.Д. Парето-оптимальные решения многокритериальных задач. - 2-е изд., испр. и доп. - М.: ФИЗМАТЛИТ, 2007. - 256 с.
5. Пшеничный Б.Н., Сосновский Р.Б. Метод линеаризации для решения многокритериальной задачи оптимизации // Кибернетика. - 1987. - № 6. - С. 107-109.
6. Сулимов В.Д., Шкапов П.М. Сглаживающая аппроксимация в задачах векторной недифференцируемой оптимизации механических и гидромеханических систем // Вестник МГТУ им. Н.Э. Баумана. Сер. «Естественные науки». - 2006, № 2. - С. 17-30.
7. Sacco W.F., Filho H.A., Henderson N., de Oliveira C.R.E. A Metropolis algorithm combined with Nelder-Mead Simplex applied to nuclear reactor core design // Annals of Nuclear Energy. - 2008. - Vol. 35, No. 5. - P. 861-867.
8. Сулимов В.Д. Локальная сглаживающая аппроксимация в гибридном алгоритме оптимизации гидромеханических систем // Вестник МГТУ им. Н.Э. Баумана. Сер. «Естественные науки». - 2010, № 3. - С. 3-14.
9. Strongin R.G., Sergeev Y.D. Global optimization: Fractal approach and nonredundant parallelism // Journal of Global Optimization. - 2003. - V. 27, № 1. - P. 25-50.
10. Сулимов В.Д., Шкапов П.М. Глобальная минимизация липшицевой многомерной недифференцируемой функции с использованием гибридного алгоритма PCASFC. Свидетельство о государственной регистрации программы для ЭВМ № 2010613753. Зарегистрировано в Реестре программ для ЭВМ 9 июня 2010 г. - Федеральная служба по интеллектуальной собственности, патентам и товарным знакам, 2010.
electronic scientific and technical periodical
SCIENCE and EDUCATION
_EL № KS 77 -3()56'J..VaU421100025. ISSN 1994-jMOg_
Hybrid algorithms for vector optimization in computational diagnostics systems
77-30569/325628
# 03, March 2012 Sulimov V.D., Shkapov P.M.
Bauman Moscow State Technical University
spm@bmstu.ru
Novel hybrid multiobjective optimization algorithms are presented for solving problems of computational diagnostics. A vectorial variant of the linearization method is implemented. Global solutions for individual criteria are determined by use of hybrid algorithms that combine the Metropolis algorithm scanning the space of variables and deterministic methods for local search. The vector optimization algorithms generate a set of non-dominated solutions to approximate a Pareto-optimal front. Simulation results for one of the benchmarks and corresponding valuations of the algorithm computational efficiency are received. The proposed hybrid algorithms can be applicable for computational diagnostics systems, problems of intellectual models teaching, complex dynamic systems control, and other intellectual technologies.
Publications with keywords: dynamic systems, multicriterion optimization, Pareto front, hybrid algorithms
Publications with words: dynamic systems, multicriterion optimization, Pareto front, hybrid algorithms
References
1. Gao J., Wang J. A hybrid quantum-inspired immune algorithm for multiobjective optimization. Applied Mathematics and Computation, 2011, vol. 217, no. 9, pp. 4754-4770. DOI: 10.1016/j.amc.2010.11.030.
2. Gil C., Marques A., Banos R., Montoya M.G., Gomez J. A hybrid method for solving multi-objective global optimization problems. Journal of Global Optimization, 2007, vol. 38, no.
2, pp. 265-281. DOI: 10.1007/s10898-006-9105-1.
3. Zio E., Bazzo R. Multiobjective optimization of the inspection intervals of a nuclear safety system: A clustering-based framework for reducing the Pareto Front. Annals of Nuclear Energy, 2010, vol. 37, no. 6, pp. 798-812. DOI: 10.1016/j.anucene.2010.02.020.
4. Podinovskii V.V., Nogin V.D. Pareto-optimal'nye resheniia mnogokriterial'nykh zadach [Pareto-optimal solutions of multicriteria problems]. Moscow, Fizmatlit Publ., 2007. 256 p.
5. Pshenichnyi B.N., Sosnovskii R.B. Metod linearizatsii dlia resheniia mnogokriterial'noi zadachi optimizatsii [The linearization method for solving multiobjective optimization problems]. Kibernetika, 1987, no. 6, pp. 107-109.
6. Sulimov V.D., Shkapov P.M. Sglazhivaiushchaia approksimatsiia v zadachakh vektornoi nedifferentsiruemoi optimizatsii mekhanicheskikh i gidromekhanicheskikh sistem [Smoothing approximation in problems of vector nondifferentiable optimization of mechanical and hy-dromechanical systems]. VestnikMGTUim. N.E. Baumana. Ser. Estestvennye nauki [Herald of the Bauman MSTU. Ser. Natural Sciences], 2006, no. 2, pp. 17-30.
7. Sacco W.F., Filho H.A., Henderson N., de Oliveira C.R.E. A Metropolis algorithm combined with Nelder-Mead Simplex applied to nuclear reactor core design. Annals of Nuclear Energy, 2008, vol. 35, no. 5, pp. 861-867. DOI: 10.1016/j.anucene.2007.09.006.
8. Sulimov V.D. Lokal'naia sglazhivaiushchaia approksimatsiia v gibridnom algoritme optimizatsii gidromekhanicheskikh sistem [Local smoothing approximation in the hybrid algorithm of hydromechanical systems optimization]. Vestnik MGTU im. N.E. Baumana. Ser. Estestvennye nauki [Herald of the Bauman MSTU. Ser. Natural Sciences], 2010, no. 3, pp. 314.
9. Strongin R.G., Sergeev Y.D. Global optimization: Fractal approach and non-redundant parallelism. Journal of Global Optimization, 2003, vol. 27, no. 1, pp. 25-50. DOI: 10.1023/A:1024652720089.
10. Sulimov V.D., Shkapov P.M. Global'naia minimizatsiia lipshitsevoi mnogomernoi nedif-ferentsiruemoi funktsii s ispol'zovaniem gibridnogo algoritma PCASFC [Global minimization of a multi-dimensional nondifferentiable Lipschitz functions using a hybrid algorithm PCASFC]. Computer program no. 2010613753, 2010.
