Сравнительная эффективность двух схем локального поиска при оптимизации псевдобулевых функций
Антамошкин А.Н. (nii suvpt@wave.krs.ru )(1), Масич И.С.(2)
(1) Научно-исследовательский институт систем управления, волновых процессов и технологий, (2) Сибирский государственный аэрокосмический университет
В [1] нами были рассмотрены две возможные схемы локального поиска - наискорейший спуск и локальный спуск с переходом по первому улучшению.
Относительно эффективности алгоритма наискорейшего спуска ранее в [2] были получены следующие результаты (теоремы 1, 2).
Теорема 1. Определение точки максимума X* унимодальной разнозначной слабо немонотонной (монотонной) на BП функции f алгоритмом «наискорейший спуск» из начальной точки X0 е Ок (X*), к = 0, n, требует вычисления значения f в T1 точках B2n:
Т |2n + (к - 1)(n - 2) при к > 0, 1 [n +1 при к = 0.
Следствие 1.
max T = 2n + (n - 1)(n - 2) = n2 - n + 2 .
0<к <n
Теорема 2. Определение точки максимума X* унимодальной разнозначной слабо немонотонной (монотонной) на Bn функции f алгоритмом «наискорейший спуск» в среднем
требует вычисления значения f в T1 точках B2n :
n2 + 4 1
Т = 1 2 2"
Получим аналогичные оценки для алгоритма локального поиска с переходом по первому улучшению.
Теорема 3. Определение точки максимума X* унимодальной разнозначной слабо немонотонной (монотонной) на ВП функции / алгоритмом «локальный поиск с переходом по первому улучшению» из начальной точки X0 е Ок(X*), к = 0,п, в среднем требует вычисления значения/ в Т2 точках ВП:
Т = 1 2
((к - p)(n - к + p)! n-tP+1. (n - i)! ^ , n
х v-r_>\-r_>_ , x i--v-1- + n при к > 0,
n! (n - к + p - i +1)! J
р=0 V
п +1 при к = 0.
Доказательство. При к = 0 оценка трудоемкости непосредственно следует из
определения унимодальной функции [1]. Пусть к > 0. Вероятность того, что первая
выбранная точка X е О1(X0) принадлежит Ок_1(X*), равна к, а вероятность того, что
п
* п_к
X е О1(X0) принадлежит Ок+1(X ) , равна-. Таким образом, алгоритм после просмотра
п
одной точки переходит в эту точку с вероятностью к. Соответственно, алгоритм совершит
п
переход в следующую точку после просмотра г точек с вероятностью
п - к п - к -1 п - к - г + 2
к
п
п -1
___ к • (п - к)!-(п - г)!
п - г + 2 п - г +1 п!(п - к - г +1)!
Алгоритм найдет решение с
к • (п - к)!
лучшим значением функции в среднем после -;-> г •
(п - г)!
п!
г =1
(п - к - г +1)!
вычислений. На
дальнейших этапах оценки трудоемкости вычисляются подобным образом. В точке X* алгоритм сделает еще п вычислений. Поэтапно суммируя оценки трудоемкости, получаем Т2.
■
Следствие 2.
((п - р) • р! . (п - г)! ^ , max Т2 = > -- • > г —---— + п.
' 2 ^ п! £ (р - г +1)! J
0<к <п
р=0 V
Доказательство. Очевидно. ■
Теорема 4. Определение точки максимума X* унимодальной разнозначной слабо немонотонной (монотонной) на В2, функции / алгоритмом «локальный поиск с переходом по
первому улучшению» в среднем требует вычисления значения/ в Т1 точках В2:
' п+1 п ск
т = он + > Ь-2 2п ^=1 2п
к-1 С >
р=0
(к - р)(п - к + р)! п-к+р+1 — > г •
(п - г)!
V
п!
(п - к + р - г +1)!
+ п
Доказательство. Точка X выбирается произвольно, следовательно, УХ е Вп: Р( X0 = X) = -1. Откуда имеем
Р(X0 е Ок (X •)) = .
Таким образом, для математического ожидания требуемых для определения X*
вычислений/получаем Т2 . ■
Из теорем 1-4 и следствий 1-2 следует, что локальный поиск с переходом по первому улучшению является менее трудоемким алгоритмом, чем наискорейший спуск. Причем, как видно из графика на рисунке 1, с ростом размерности его преимущество увеличивается.
г=1
Рисунок 1 - График зависимости величины оценок трудоемкости алгоритмов в среднем от размерности задачи (величины п), сплошная линия - наискорейший спуск, пунктирная -локальный поиск с переходом по первому улучшению.
Литература.
1. Антамошкин А.Н., Масич И.С. Гриди алгоритмы и локальный поиск для условной псевдобулевой оптимизации. - Исследовано в России, http://zhurnal.ape.relarn.ru/articles/2003/177.pdf
2. Антамошкин А.Н. Регулярная оптимизация псевдобулевых функций. - Красноярск: Изд-во Красноярского ун-та, 1989, 284 с.