CC BY
33
УДК 519.688
Сальников Е.Д., Дударов С.П.
ИССЛЕДОВАНИЕ И МОДИФИКАЦИЯ АЛГОРИТМА ЭВОЛЮЦИИ РАЗУМА ДЛЯ ЗАДАЧ МНОГОМЕРНОЙ ОПТИМИЗАЦИИ
Сальников Егор Дмитриевич, студент 2 курса магистратуры факультета информационных технологий и управления;
Дударов Сергей Павлович, к. т. н., доцент, декан факультета информационных технологий и управления, e-mail: [email protected],
Российский химико-технологический университет имени Д. И. Менделеева, Москва, Россия
125047, Москва, Миусская пл., д. 9
Рассмотрен алгоритм модифицированного метода эволюции разума для решения задачи многомерной оптимизации в химической технологии. На примере тестовой функции Розенброка проведено исследование влияния настроек алгоритма (количества групп, числа особей в группе, радиуса группы) на объем вычислений и продолжительность поиска глобального оптимального решения.
Ключевые слова: эволюционный алгоритм, метод эволюции разума, локальные состязания, диссимиляция.
RESEARCH AND MODIFICATION OF MIND EVOLUTIONRY COMPUTATION FOR MULTIDIMENSIONAL OPTIMIZATION PROBLEM
Salnikov E. D., Dudarov S. P.
D. Mendeleev University of Chemical Technology of Russia, Moscow, Russia
Modified algorithm of mind evolutionary computation for multidimensional optimization problem in chemical technology was considered. By example of Rosenbrock function was carried out research of impact of algorithm's settings (amount of groups, amount of individuals in a group, radius of a group and etc.) on computation volume and search duration of the global optimal solution finding.
Key words: evolutionary algorithm, mind evolutionary computation, similar-taxis, dissimilation.
В 1998-1999 годах учёными Тайюаньского технологического университета был предложен метод многомерной оптимизации функций со сложным рельефом поверхности отклика, названный ими эволюцией разума (англ. - Mind Evolutionary) [1]. Он относится к широкому классу эволюционных методов оптимизации наряду с получившими широкое признание и распространение генетическими алгоритмами, искусственными иммунными системами и другими методами решения задач [2] в различных областях знаний, включая химическую технологию.
Оперируя теми же, что и в других эволюционных алгоритмах, или близкими им понятиями: «эволюция», «эпоха», «популяция», «особь», «приспособленность», метод эволюции разума использует совершенно другие принципы и аналогии, которые описывают эволюцию интеллекта индивида (особи), отдельных социальных групп (групп особей) и всего общества в целом (популяция). Уровень интеллекта каждой особи оценивается по функции приспособленности, являющейся целевой функцией решаемой задачи оптимизации. Уровень интеллекта каждой социальной группы, в зависимости от настроек алгоритма, определяется приспособленностью ее лучшей особи или средней приспособленностью. В ходе функционирующего по определенным принципам и правилам эволюционного процесса отдельные особи группы стремятся повысить
уровень своего интеллекта, приближаясь к лучшей особи группы, а сами группы в целом - приближаясь к лучшей группе всей популяции.
Классический алгоритм метода эволюции разума предполагает использование двух основных операторов: локальных состязаний (similar-taxis) -поиск оптимального решения внутри некоторой локальной области (социальной группы); диссимиляция - обобщение локальных данных во всём пространстве поиска (рис. 1).
Пусть xqi = (xq j, xq2, ..., xqn) - некоторая особь q-
й группы популяции, представляющая собой один из возможных вариантов решения задачи оптимизации в n-мерном пространстве независимых переменных; xq - лучшая особь в q-й группе; Q - количество
групп; P - количество лучших (элитных) групп; M -количество особей в одной группе; i - индекс особи в группе; q - индекс группы; j - индекс независимой переменной; т- номер итерации.
Предлагаемый алгоритм метода эволюции разума [1] с элементами его расширенной версии [3] и новыми модификациями включает следующие этапы:
1. Инициализация центральных особей Q социальных групп: xqо = (xq о j, xq о 2, ..., xq о „).
Значения независимых переменных генерируются случайно по равномерному закону для всего установленного пространства их изменения.
о..
Условные обозначения:
• - центральные особи начальных групп; >
О - случайно сгенерированные особи групп; О - лучшие особи групп;
О - особи, полученные после локальных состязаний
Рис. 1. Поиск оптимума в пространстве переменных по методу эволюции разума
2. Определяются координаты оставшихся M-1 особей каждой группы:
x .. = x „. + ar
q'j q0j ,
где r - радиус локализации группы (задаётся пользователем); а - случайное число из пределов [1; 1].
3. Рассчитываются приспособленности (значения критерия оптимизации) особей всех групп. Определяются лучшие особи в каждой группе (xq).
4. Выполняется оператор локальных состязаний. Для всех особей группы, кроме лучшей:
Xqij (Т + 1) = Xqij + Л(К j (т)- Xqij (т)) Vj 6 ^
где X - случайное число из пределов (0; 2], определяющее степень приближения к лучшей особи. При X<1 независимая переменная i-й особи приближается, но не достигает значения соответствующей переменной лучшей особи; при Л>1 - перескакивает через него.
5. Проверяется зрелость группы - сходимость всех особей группы к лучшей особи - по условию:
Zlmaxlxj)- min (x, ))< s,
. , \=1..M j' i=1..M j» j=1
где s - допустимый уровень зрелости группы.
6. Рассчитываются новые приспособленности особей. Обновляются данные о лучших особях группы.
7. Все группы ранжируются по значениям приспособленностей своих лучших особей. Среди лучших особей групп определяется глобально лучшая особь всей популяции (X*).
8. Выполняется оператор диссимиляции. P лучших групп остаются в популяции без изменения.
Оставшиеся Q - Р групп исключаются из популяции как бесперспективные. Их места занимают новые группы, созданные в соответствии с пп. 1-3 данного алгоритма.
9. Для всех групп, кроме лучшей, проверяется возможность смещения их лучших особей в сторону лучшей группы. Для этого рассчитываются координаты нового возможного центра каждой группы:
■*о / (т)' = х*о/ (т) + ¡¡Х * (т) - х*0/ (т)) V/
где случайное число из пределов (0; 0,5]. Если в новой точке значение приспособленности лучше, чем было перед этим, она становится центром соответствующей группы, а координаты и приспособленности остальных особей группы рассчитываются случайно в соответствии с пп. 2, 3.
10. Алгоритм возвращается к п. 4, если не выполнено ни одно из условий окончания:
- исчерпано заданное предельное количество итераций;
- исчерпано заданное предельное физическое время выполнения процедуры;
- в пределах заданной точности достигнут требуемый уровень критерия оптимизации;
- по команде пользователя.
Предлагаются модификации алгоритма, которые включают замену убывающего когнитивного параметра и шага обучения на этапе 4 на случайный коэффициент X, позволяющий не только компенсировать утраченные в результате замены функции, но и повысить поисковую способность оператора локальных состязаний в окрестности лучшей особи. Также модифицирование коснулось
выбора случайного шага при оценке возможности смещения центра произвольной группы в сторону лучшей группы.
Приведённый алгоритм реализован в виде программы в интегрированной среде разработки IDEA IntelliJ версии 2016.3.5 на языке программирования Java версии 1.8.
С целью выявления вычислительных возможностей алгоритма эволюции разума было проведено исследование влияния его настроек на скорость достижения известного глобального оптимума многомерной тестовой функции Розенброка:
R(x)=z(ioo(x+i - xt 2 f+(xi -1)2)
i=1
Данная функция характеризуется крайне медленным изменением своего значения вблизи глобального оптимума, что чрезвычайно затрудняет процесс уточнения решения методами случайного поиска, к которым относятся все эволюционные методы, а значит и метод эволюции разума. Область изменения значений независимых переменных ограничивалась пределами [-5, 5].
По схеме, ранее использованной для исследования различных видов генетических алгоритмов [4, 5], были проведены серии вычислительных экспериментов, в каждой из которой исследовалось влияние одного из параметров настройки алгоритма на количество эпох до достижения глобального оптимума с требуемой точностью и на время решения данной задачи. Ввиду случайности поискового процесса при каждой комбинации настроек алгоритм поиска повторялся 100 раз, а показатели количества эпох и времени поиска усреднялись.
В первой серии исследовалось влияние количества особей в группе на вышеупомянутые показатели. Решалась задача оптимизации функции Розенброка в восьмимерном пространстве независимых переменных. Радиус группы принимался равным 2, количество групп 25, точность 0,1. В результате проведенной серии установлено (рис. 2), что при возрастании
численности группы от 50 до 400 особей количество эпох, требуемых для достижения оптимума уменьшалось примерно с 400 до 100, однако при использовании более 400 особей в группе (до 1000) дальнейшее уменьшение числа эпох не наблюдалось. Одновременно с этим при группах от 50 до 400 особей решение задачи находилось во всех случаях примерно за 1000 мс, тогда как при дальнейшем росте численности группы это время стало линейно возрастать, главным образом, вследствие увеличения времени, затрачиваемого на вычисления. Таким образом, было
экспериментально установлено, что оптимальное количество особей в группе для решения восьмимерной задачи равно 400.
Во второй экспериментальной серии исследовалось влияние количества групп особей в восьмимерном пространстве поиска оптимума. Данный параметр варьировался в пределах от 10 до 40. Установлено, что при числе групп менее 25 наблюдается устойчивое снижение количества эпох эволюционного процесса при небольшом колебательном изменении времени поиска, вызванном преимущетсвенно его случайным характером. При превышении 25 групп количество эпох стабилизируется на уровне 100, а время поиска начинает устойчиво возрастать из-за увеличения объемов вычислений.
В третьей серии не обнаружено сколько-нибудь значимое влияние радиуса группы на скорость поиска.
Четвертая серия вычислительных экспериментов была посвящена исследованию влияния размерности решаемой задачи на скорость поиска точки оптимума. Для ранее найденных наилучших настроек алгоритма (25 групп, 400 особей в группе, радиус группы 1,5, точность 0,1) получено подтверждение предположения об увеличении времени поиска и количества эпох эволюции с повышением размерности (рис. 3). В обоих случая прослеживается степенной характер возрастания исследуемых характеристик.
2500 2000
и га
g 1500 х
0 с
1 1000
ai а. ш
500
200 400 600 800
Количество особей в группе
1000
250
200
150
100
о
50
О 1200
■ Время поиска, мс — • — Количество эпох
Рис. 2. Исследование влияния размера группы на продолжительность поиска оптимума
3000 2500 U 2000 m X U о 1500 с к <11 1000 m 500 О
< Л \ - 200 о ■ IM о m tu ai ■ 100 ï ^ о x ■ 50
/ } / / / /
> / / V
✓ /
< ►---< ** Г А
X 5 б 7 8 9 10 11 Количество переменных —•— Время поиска, мс — • — Количество эпох
Рис. 3. Исследование влияния размерности задачи на продолжительность поиска оптимума
Пятая серия экспериментов была посвящена исследованию влияния точности на продолжительность поиска оптимума. В результате установлено, что для наилучших настроек алгоритма при оптимизации восьмимерной функции Розенброка с увеличением точности на 3 порядка (с 0,1 до 0,0001) количество эпох эволюционного процесса возрастает от 100 до 2828, а время поиска точки оптимума от 929 до 25783 мс.
Полученные результаты позволяют сделать следующие выводы:
- продолжительность поиска оптимума и объем промежуточных вычислений в значительной мере определяются размерностью решаемой задачи, требуемой точностью решения и настройками алгоритма эволюции разума;
- основные настройки алгоритма, такие, как количество групп, количество особей в группе, радиус группы, должны подбираться индивидуально под критерий оптимизации и размерность задачи;
- соотношение элитных и удаляемых особей при выполнении диссимиляции незрелых групп ставит под сомнение само наличие этого оператора в алгоритме ввиду того, что скорость его сходимости тем выше, чем больше процент элитных особей в группе.
Перспективы дальнейшей работы связаны с созданием специализированного информационно-моделирующего программного обеспечения для решения любых задач многомерной оптимизации методом эволюции разума, разработкой общих рекомендаций по выбору и настройке алгоритма, сравнением представленного модифицированного
алгоритма с другими эволюционными методами.
Список литературы
1. Sun Chengyi, Xie Keming, Cheng Mingqi. Mind Evolution Based Machine Learning Framework and New Development. - Journal of Taiyuan University of Technology. - Vol. 30 (5), 1999. - PP. 453-457.
2. Дударов С. П. Математические основы генетических алгоритмов: учеб. пособие/ С. П. Дударов. - М.: РХТУ им. Д. И. Менделеева, 2012. - 56 с.
3. Карпенко А. П. Современные алгоритмы поисковой оптимизации. Алгоритмы, вдохновленные природой: учебное пособие / А. П. Карпенко. - М.: Изд-во МГТУ им. Н. Э. Баумана, 2014. - 446 с.
4. Гусев Д. М. Исследование и настройка генетического алгоритма вещественного кодирования с использованием тестовой функции Швефеля/ Д. М. Гусев, С. П. Дударов. - Успехи в химии и химической технологии: сб. науч. тр. Том XXVII, № 1. - М.: РХТУ им. Д. И. Менделеева, 2013. - с. 37-42.
5. Варданян А. Э. Разработка, исследование и сравнительный анализ диплоидных генетических алгоритмов вещественного кодирования/ А. Э. Варданян, Д. М. Гусев, С. П. Дударов. -Успехи в химии и химической технологии: сб. науч. тр. Том XXX, № 4. - М.: РХТУ им. Д. И. Менделеева, 2016. - с. 13-14.
