CC BY
57
КОМПЬЮТЕРНЫЕ
НАУКИ Л
УДК004.93:519.7
МНОГОМЕРНЫЙ ПОИСК НА ОСНОВЕ МУЛЬТИАГЕНТНОГО ПОДХОДА
ОЛЕИНИК А. А.________________________________
Рассматривается решение задачи многомерной оптимизации нелинейных функций на основе мультиагентного подхода. Предлагается мультиагентный метод с прямой связью между агентами, который позволяет выполнять оптимизацию многомерных нелинейных функций, не накладывая ограничений на их вид.
Введение
При решении задач оптимизации многомерных нелинейных целевых функций весьма перспективным является использование мультиагентных методов, основанных на моделировании интеллектуального поведения колоний агентов (Swarm Intelligence) [1, 2], поскольку это методы глобального поиска, не требуют вычисления производных целевой функции и не склонны к зацикливанию в локальных оптимумах.
Мультиагентный метод с прямой связью между агентами основан на принципе непосредственного обмена информацией между агентами. Он, как и большинство других мультиагентных методов, разрабатывался для решения конкретных задач оптимизации, в частности, в настоящее время он успешно применяется при решении задач календарного планирования [3], коммивояжёра [4], транспортной задачи [5] и др. [6]. Тем не менее, границы применимости метода шире, чем те задачи, к которым он уже применялся, поэтому актуальным является исследование его возможностей в аспекте решения других задач оптимизации, а также разработка модификации мультиагентного метода с прямой связью между агентами для решения задач оптимизации многомерных нелинейных функций.
1. Постановка задачи
Пусть задана целевая функция F, зависящая от управляемых параметров w: F(w) = f(w^w2,...,wN), где w = {wi},wi - i-я управляемая переменная.
Тогда задача многомерной нелинейной оптимизации заключается в поиске таких значений w, при которых целевая функция стремится к оптимальному значению: F(w) ^ opt.
Целью исследования является разработка мультиагентного метода, способного выполнять поиск оптимальных решений в многомерном пространстве управляемых переменных в условиях, когда дополнительная
информация о целевой функции не известна, т.е. целевая функция может быть любого вида и не обязательно обладать свойствами унимодальности, непрерывности, гладкости, дифференцируемости и т.п.
Для достижения поставленной цели в работе решались задачи:
- анализ мультиагентного метода с прямой связью между агентами;
- создание модификации мультиагентного метода с прямой связью между агентами для решения задачи многомерной нелинейной оптимизации;
- программная реализация предложенной модификации;
- проведение экспериментов по решению практических задач оптимизации для исследования эффективности предложенной модификации и программного обеспечения.
2. Мультиагентный метод с прямой связью между агентами
Мультиагентный метод с прямой связью между агентами является одним из новейших методов мультиагентного поиска и представляет собой эвристический итеративный метод случайного поиска.
Данный метод основан на моделировании поведения общественных насекомых - пчел. Для описания поведения пчёл в природе используются три основных понятия [1, 7]:
- источник нектара - характеризуется значимостью, определяемой различными факторами, такими как: удалённость от улья, концентрация нектара, удобство добычи нектара;
- занятые фуражиры - закреплены за отдельным источником, на котором они добывают нектар, т. е. они “заняты” им. Занятые фуражиры владеют такой информацией о данном источнике нектара, как: расстояние и направление от улья, полезность источника;
- незанятые фуражиры - продолжают искать источники нектара для их использования. Существует два типа незанятых фуражиров: разведчики, выполняющие поиск новых источников нектара, и наблюдатели, которые ждут в улье и могут выполнять другие действия.
Динамика популяции общественных насекомых является результатом различных взаимодействий отдельных особей как друг с другом, так и с окружающей средой, осуществляемых посредством множества различных химических и (или) физических сигналов.
Поэтому в мультиагентном методе с прямой связью между агентами или методе пчелиной колонии (Bee Colony Optimization Algorithm, BCO) выполняется разделение функций между различными агентами. В частности, такое разделение выполняется между занятыми фуражирами и разведчиками на улучшенное изучение найденных областей с нектаром и на нахождение новых областей с нектаром, соответственно.Б-
лагодаря такому разделению труда достигается эффективная работа всего роя пчёл.
Самоорганизация агентов в данном методе основывается на четырёх основных свойствах [1, 8—11].
1. Положительная обратная связь - заключается в том, что агенты, основываясь на полученной информации от другого агента, начинают перемещаться к указанному источнику нектара.
2. Отрицательная обратная связь - заключается в том, что агент, основываясь на информации, полученной от других агентов, может решить, что найденный им источник значительно хуже по сравнению с другими найденными источниками.
3. Неустойчивость - агенты-разведчики выполняют случайный поиск новых источников ресурсов.
4. Множественность взаимодействия - информация об источнике ресурсов, найденном одним агентом, доступна для всех других в улье посредством выполнения так называемого виляющего танца, представляющего собой метод передачи информации между агентами.
В [5, 8-11] описано применение метода пчелиной колонии для решения одного из классов задач дискретной оптимизации, связанных с распределением ресурсов (например, транспортная задача). Однако модель метода, предложенная в [5, 8-11], не может быть применена для решения задач непрерывной оптимизации, где входные переменные целевой функции могут принимать различные действительные значения из области ее определения.
На основе этой модели, приведенной в [5, 8-11], разработана модификация мультиагентного метода с прямой связью между агентами для решения задач поиска оптимальных решений в многомерном пространстве управляемых переменных. Предложенный модифицированный метод состоит в выполнении следующих этапов:
- инициализация;
в которых необходимо производить поиск. Также может задаваться пороговое значение функции f *.
Этап 2. Запуск агентов-разведчиков. Разведчики случайным образом размещаются в пространстве поиска. При этом выбранные координаты являются целочисленными, а точки в пространстве поиска создаются таким образом, чтобы их координаты не совпадали:
xi = rand(xmin ;xmax), j = 1, Exstart, Vj * k,i = 1,N:xi * xk
где xi - значение i-й координаты j-го агента; rand(xmin;x™ax) - случайное целочисленное значение i-й координаты, выбранное из интервала
[xmin;xmax ].
Этап 3. Отправка занятых агентов-фуражиров. Занятые фуражиры прикреплены к определённым источникам ресурса. Начальное значение количества занятых фуражиров Be = 0 , поскольку в начале работы метода ещё нет источников ресурсов, за которыми могут быть закреплены занятые фуражиры.
Занятые фуражиры занимаются разработкой существующих источников ресурсов, т. е. при решении задачи оптимизации агенты, являющиеся занятыми фуражирами, выполняют локальное исследование областей поиска, найденных агентами-разведчиками.
Занятые фуражиры перемещаются относительно своего текущего положения с заданным шагом Ax :
xi = xi + k • Ax,i =1,N, j =1,Be ,
где k - коэффициент, определяющий направление изменения значения координаты, k = ±1; Ax - заданный действительный шаг изменения координаты.
Этап 4. Расчёт полезности пребывания в источнике. Полезность пребывания агента в источнике s на итерации t, при условии, что в этом источнике находится cs агентов (разведчиков и фуражиров), рассчитывается по формуле:
- запуск агентов-разведчиков;
- отправка занятых агентов-фуражиров;
- расчёт полезности;
- проверка критериев окончания поиска;
- обмен информацией между агентами;
- выделение новых агентов-разведчиков.
На этапе 1 (инициализация) задаются основные параметры метода: количество агентов B , максимальное количество итераций Tmax, начальное количество агентов-разведчиков Exstart t, ограничение максимального количества агентов-разведчиков Exmax, шаг поиска Ax, коэффициенты F, а. Также задаётся функция f(w1,W2,...,WN), которую надо оптимизировать, количество переменных и интервалы значений
переменных [x^x^], [x^x^], ..., [xfN^xfN*], 52
us(t) = -^7-^ = 1,Ex ,
cs(t)
где Ex - текущее количество агентов-разведчиков (оно соответствует количеству источников); a s -количество полезного вещества, вырабатываемое источником за единицу времени.
Количество полезного вещества as в аспекте задачи многомерной оптимизации предлагается рассчитывать как обратное значение оптимизируемой функции:
as =
f(s)
F
где F - коэффициент, понижающий степень влияния рассчитанного значения функции; f(s) - значение функции в источнике s : f(s) = f(xs,x2,...,xN).
Если количество агентов в данном источнике cs достигло своего порогового значения (cs > cmax), то агент помещается в близлежащую точку от точки s . Новое положение определяется путём изменения одной из координат текущего положения агента:
xr = xr + k • Д ,
где xr - координата, которая меняется; r - случайным образом выбранный номер координаты для изменения; Д - заданный целочисленный шаг изменения координаты.
После этого выполняется расчёт полезности полученного ресурса. Суммарная полезность фуражировки занятого фуражира или разведчика i рассчитывается по формуле:
1, если Jf (ui (t)) + wf (t) > 1;
Fi(t) = \
Jf (ui (t)) + wf (t), если en < Jf (ui (t)) + wf (t) < 1;
0, если 0 < Jf (ui (t)) + wf (t) < en,
где Fi (t) - полезность фуражировки i -го агента; wf (t) - шум в суммарной полезности. Шум равномерно распределён в пределах (-wf ;wf). Значение wf выбирается экспериментально (предлагается: wf = 0,1), en - минимальный порог полезности. Минимальный порог выбирается экспериментально (предлагается: en = 0,1); Jf (u1 (t)) - полезность источника ui , в котором побывал i -й агент на итерации t . Полезность источника u предлагается рассчитывать по формуле: Jf(u) = 1 - u*, где u* - нормированное значение полезности пребывания в источнике. Нормированное значение рассчитывается исходя из минимальной и максимальной полезностей пребывания в источнике, полученных на протяжении всего времени моделирования.
Полезность незанятых фуражиров устанавливается в ноль: F1(t) = 0.
На этапе 5 проверки критериев окончания поиска происходит выбор наилучшего результата и проверка, достигается ли пороговое значение f целевой функции. Если такое значение достигается или выполнено максимально допустимое количество итераций, тогда выполняется останов работы метода, в противном случае - переход к следующему этапу.
Этап 6. Обмен информацией между агентами. На данном этапе происходит моделирование выполнения так называемого виляющего танца, каждый агент принимает решение выполнять или не выполнять танец. При этом вероятность выполнения виляющего танца i -м агентом на итерации t рассчитывается по формуле:
P(i,t) = 1Lf(t),
где Р> 0 - коэффициент, понижающий влияние преимущества пути на вероятность выполнения танца; Lf (t) - приоритетность танца i -го агента на итерации t . Lif (t) рассчитывается по формуле:
Lf (t) = max{(Fi (t) - aF(t)),0} ,
здесь F(t) - среднее значение полезности всех источников; a - коэффициент, управляющий влиянием величины F(t) на Lf (t).
Этап 7. Выделение новых агентов-разведчиков и вербовка. Каждый незанятый фуражир может стать разведчиком или последовать за другим агентом.
Вероятность того, что незанятый фуражир станет разведчиком, рассчитывается по формуле:
(t) ( 1 L't(t))
Pe(t) = exP(-“—
2 с2
где с - коэффициент, который необходим для моделирования поведения фуражировки; Lt (t) - сумма преимущества танцев разных агентов:
Lt(t) = Zlif(t) .
i=1
Кроме того, незанятый фуражир может быть подвергнут вербовке, т. е. последовать за i -м агентом. Вероятность того, что незанятый фуражир последует за i -м агентом, предлагается рассчитывать по формуле:
Pi(t)
Lf (t)
в i
2 Lf(t)
j=1,j*i
После этого увеличивается счётчик итераций t = t +1 и выполняется переход к этапу запуска разведчиков.
Предложенный мультиагентный метод с прямой связью между агентами позволяет выполнять оптимизацию многомерных нелинейных функций, не выдвигает требований к их виду и не требует вычисления значений производных целевых функций.
3. Эксперименты и результаты
Предложенная модификация мультиагентного метода с прямой связью между агентами для решения задачи многомерной оптимизации была программно реализована в среде разработки пакета Matlab 7.0.
Для проверки эффективности разработанной модификации решалась практическая задача моделирования параметров работы авиадвигателей [12], где предложенный мультиагентный метод с прямой связью между агентами применялся для построения нейросетевых моделей взаимосвязи основных параметров авиационных двигателей.
В целях сокращения сроков и снижения стоимости испытаний авиационных двигателей проводятся исследования взаимосвязи основных параметров двигателей (оборотов турбины компрессора, температу-
ры газа перед турбиной, расхода газа через турбину, температуры на входе в двигатель, количества ступеней, угла установки лопаток входного направляющего аппарата, приведенной мощности, расхода воздуха, степени сжатия воздуха), наблюдаемых в процессе испытаний, от проходных сечений сопловых аппаратов СА1, СА2, СА3, СА4, контролируемых в производстве, и адиабатического давления Б0 . Сбор экспериментальных данных был выполнен для 125 испытанных двигателей. Результаты получены для номинального режима.
Формализовав задачу, имеем 9 выходных параметров (yi - У9), которые зависят от 5 входных признаков (xi - Х5): xi - адиабатическое давление (Б0 ), мм; Х2 - Х5 - проходное сечение соплового аппарата первой, второй, третьей и четвертой ступеней (СА1, СА2, СА3, СА4), соответственно; yi - обороты турбины компрессора, об/мин; У2 - температура газа перед турбиной, °С; уз - расход газа через турбину; У4 - температура на входе в двигатель, °С; У5 -количество ступеней; y6 - угол установки лопаток входного направляющего аппарата; У7 - приведенная мощность; У8 - расход воздуха; У9 - степень сжатия.
Для сокращения затрат времени и материальных ресурсов на испытания авиационных двигателей актуальным является построение моделей зависимостей выходных параметров (У1 - У9) от входных признаков (xi - Х5 ).
В [12] показано, что точность регрессионных моделей является недостаточно высокой, что может привести к принятию некорректных решений при испытаниях авиадвигателей. Поэтому целесообразно синтезировать модели, позволяющие с более высокой точностью аппроксимировать исследуемые зависимости. Как базис для построения моделей целесообразно выбрать искусственные нейронные сети прямого распространения, являющиеся универсальными аппроксиматорами и обладающие высокими способностями к обучению и обобщению.
С помощью предложенной модификации мультиагентного метода с прямой связью между агентами выполнено построение трехслойных нейронных сетей, содержащих пять нейронов на первом слое, три нейрона - на втором и один - на третьем. Все нейроны имели логистическую сигмоидную функцию активации. При проведении экспериментов были выбраны следующие значения предложенной исследуемой модификации мультиагентного метода: Bs = 20 , а = 0,", T;njt = 30 , Tfinal =10, itermax =100 .
Матрица весовых коэффициентов ю(^’1) для нейросетевой модели зависимости оборотов турбины компрессора от параметров Во, СА1-СА4 для режима «номинальный» приведена в таблице.
Но- мер слоя Номер нейрона в слое j - номер входа нейрона
0 1 2 3 4 5
1 1 -4,2429 6,5856 0,8885 -0,7203 1,8600 1,8805
2 -3,3802 0,9900 -2,5890 1,0000 -1,9727 1,6751
3 3,2016 -2,9383 -5,5487 -2,5363 -3,9203 -4,1043
4 -5,6114 1,3153 -5,5782 -2,1376 -0,3480 6,6649
5 -5,6264 0,9022 -3,0341 -0,9698 -2,0399 3,7798
2 1 5,4926 -0,1766 -2,5805 5,3551 -1,2756 -2,3817
2 -5,9942 -3,6051 1,0643 5,8725 6,7008 4,8198
3 -8,1848 -0,9855 0,2922 2,3393 0,3879 6,2738
3 1 -5,1839 0,3254 7,6449 2,9653
Средняя относительная ошибка построенной нейросетевой модели составляет Ehc = 0,0014, что значительно ниже ошибки аналогичной регрессионной модели (ЕреГр = 0,19505). Это подтверждает эффективность применения предложенной модификации мультиагентного метода с прямой связью между агентами для решения оптимизационных задач, возникающих при синтезе нейросетевых моделей для диагностирования двигателей энергетических установок. Кроме того, важно отметить, что предложенный мультиагентный метод, в отличие от традиционно используемых для построения нейромоделей градиентных методов, не требует вычисления производных целевой функции, что позволяет синтезировать нейронные сети с недифференцируемыми функциями активации, повышая таким образом их интерпретабельность.
Средняя относительная ошибка для данных тестовой выборки составила 0,0021, что незначительно хуже ошибки, рассчитанной для данных обучающей выборки. Исходя из рассчитанных значений ошибок нейросетевой модели для обучающей и тестовой выборок, можно судить о ее высоких обобщающих способностях и адекватности решаемой задачи.
Для остальных исследуемых зависимостей построены аналогичные нейромодели.
Важно отметить, что нейросетевые модели, построенные для других параметров, также проявляли значительно лучшие аппроксимационные и обобщающие свойства по сравнению с аналогичными моделями регрессионного типа.
На основе полученных результатов разработана методика «селективного» испытания авиационных двигателей, существенно сокращающая количество испытуемых изделий и уменьшающая время нахождения двигателя в испытательном боксе, что позволит сократить материальные и временные затраты на выполнение диагностики авиадвигателей.
Выводы
Решена задача многомерной оптимизации нелинейных функций на основе мультиагентного подхода.
Научная новизна работы заключается в том, что усовершенствован мультиагентный метод с прямой связью между агентами. Предложенная модификация
представляет собой многомерный, безградиентный, безусловный, стохастический, мультиагентный метод оптимизации, который позволяет выполнять поиск экстремумов многомерных нелинейных функций, не выдвигает требований к их виду и не требует вычисления значений производных целевых функций.
Практическая ценност ъ результатов работы состоит в том, что:
- разработано программное обеспечение, позволяющее выполнять поиск оптимальных решений с использованием предложенной модификации мульти-агентного метода с прямой связью между агентами;
- решена задача моделирования параметров работы авиадвигателей, где предложенный мультиагентный метод с прямой связью между агентами применялся для построения нейросетевых моделей взаимосвязи основных параметров авиационных двигателей.
Работа выполнена в рамках госбюджетной НИР “Информационные технологии автоматизации распознавания образов и принятия решений для диагностики в условиях неопределенности на основе гибридных нечеткологических, нейросетевых и мультиагентных методов вычислительного интеллекта” кафедры программных средств Запорожского национального технического университета (номер государственной регистрации 0109U007673).
Литература: 1. Субботт С. О. Неггеративш, еволющйш та мультиагентш методи синтезу нечггколопчних i нейро-мережнихмоделей: монограф1я/С. О. Субботш, А. О. Ол-шник, О. О. Олшник ; шд заг. ред. С.О. Субботша. Запор-1жжя: ЗНТУ,2009. 375 с. 2. Bonabeau Е. Swarm Intelligence: From Natural to Artificial Systems / E. Bonabeau, M. Dorigo, G. Theraulaz. New York: Oxford University Press, 1999. 320 p. 3. Chong S. C. A Bee Colony Optimization Algorithm to Job Shop Scheduling / S. C. Chong, M. Y. Low // Winter Simulation Conference: Proceedings of the 38th Conference on Winter simulation. Monterey: Monterey Press, 2006. P. 1954-1961. 4. Lucic P. Bee System: Modeling Combinatorial Optimization Transportation Engineering Problems by Swarm Intelligence / P. Lucic, D. Teodorovic // Transportation
Analysis: Proceedings of the Triennial Symposium TRISTAN IV. Sao Miguel: Azores Press,2001.P.441-445.5. Teodorovic D. Bee Colony Optimization - a Cooperative Learning Approach to Complex Transportation Problems / D. Teodorovic,M. Dell’Oreo//Advanced OR and AI Methods in Transportation: Proceedings of 16th Mini-EURO Conference and 10th Meeting of EWGT (13-16 September 2005). Poznan: Publishing House of the Polish Operational and System Research, 2005. P. 51-60. 6. QuijanoN. Honey Bee Social Foraging Algorithms for Resource Allocation: Theory and Application / N. Quijano, К. M. Passino. Columbus: Publishing House of the Ohio State University, 2007. 39 p. 7. Sumpter D. J. Formalising the Link between Worker and Society in Honey Bee Colonies / D. J. Sumpter, D. S. Broomhead // Lecture Notes in Computer Science: Proceedings of the First International Workshop on Multi-Agent Systems and Agent-Based Simulation. - MABS ’98 LNAI, 1998. P.95-110. 8. Passino K.M. Modeling and Analysis of Nest-site Selection by Honey Bee Swarms: The Speed and Accuracy Trade-off / К. M. Passino, T. D. Seeley // Behavioral Ecology and Sociobiology. 2006. №59. P. 427-442. 9. Kennedy J. Particle Swarm Optimization / J. Kennedy, R. C. Eberhart//IntemationalConferenceonNeuralNetworks: Proceedings ofthe IEEE. NJ: IEEE Press, 1995. P. 1942-1948. 10. Engelbrecht A. Computational Intelligence: an Introduction / A. Engelbrecht. - Sidney: John Wiley and Sons Ltd., 2007. 597 p. 11. Abraham A. Swarm Intelligence in Data Mining / A. Abraham, G. Grosan. Berlin: Springer, 2006. 267 p. 12. Прогрессивные технологии моделирования, оптимизации и интеллектуальной автоматизации этапов жизненного цикла авиадвигателей : Монография / А. В. Богуслаев, Ал. А. Олейник, Ан. А. Олейник и др. ;подред. Д. В. Павленко, С. А. Субботина. Запорожье : ОАО «Мотор Сич», 2009. 468 с.
Поступила в редколлегию 23.05.2010
Рецензент: д-р техн. наук, проф. Еоменюк С.И.
Олейник Андрей Александрович, канд. техн. наук, старший преподаватель кафедры программных средств Запорожского национального технического университета. Научные интересы: интеллектуальные системы поддержки принятия решений. Адрес: Украина, 69063, Запорожье, ул. Жуковского, 64, тел. (061) 769-82-67, e-mail: olejnikaa@gmail.com.
