CC BY
11
Штанчаев Хайрутин Баширович - Дагестанский государственный технический университет; e-mail: shtanchaev.h@gmail.com; г. Махачкала, Россия; тел.: +79883081572; кафедра ПОВТиАС; к.т.н.
Shtanchaev Khairutin Bashirovich - Dagestan State Technical University; e-mail: shtanchaev.h@gmail.com; Makhachkala, Russia; phone: +79883081572; the department of POVTiAS; cand. of eng. sc.
УДК 004.832.23 DOI 10.18522/2311-3103-2023-2-280-298
С.И. Родзин
СОВРЕМЕННОЕ СОСТОЯНИЕ БИОЭВРИСТИК: КЛАССИФИКАЦИЯ, БЕНЧМАРКИНГ, ОБЛАСТИ ПРИМЕНЕНИЯ*
Целями данной статьи является анализ современного состояния исследований в области разработки алгоритмов, инспирированных природой, включая категоризацию, классификацию, тестирование, цитируемость и области применения. Представлена новая многоуровневая система классификации на основе следующих признаков: критерий соответствие природной метафоре, структурный, поведенческий, поисковый, компонентный и оценочный критерии. Классификация биоэвристик предполагает систематическое отнесение каждой биоэвристики к одному и только одному классу в рамках системы взаимоисключающих и неперекрывающихся классов. Категоризация позволяет объективно подходить к выбору биоэвристик. Для каждой биоэвристики имеются конкретные задачи, с которыми она хорошо справляется. Знать эти взаимосвязи важно для целенаправленного применения биоэвристики. Рассмотрен пример классификации. Отмечено, что наиболее информативным критерием классификации является поведенческий критерий, наиболее цитируемым классом биоэвристик являются алгоритмы роевого интеллекта, а наиболее цитируемой биоэвристикой - алгоритм роя частиц PSO. Представлены современные подходы к бенчмаркингу биоэвристик: задачи дискретной и непрерывной оптимизации, а также оптимизационные инженерные задачи. Отмечена тенденция проводить сравнение производительности биоэвристик, используя статистическую проверку гипотез на бенчмарках. Систематизированы задачи, успешно решаемые биоэвристиками в таких областях, как инженерное проектирование, обработка изображений и компьютерное зрение, компьютерные сети и коммуникации, энергетика и энергоменеджмент, анализ данных и машинное обучение, робототехника, медицинская диагностика. Наметилась тенденция к гибридизации биоэвристик в одном оптимизаторе. Однако требуются убедительные доказательства, что результаты компенсируют увеличение сложности по сравнению с отдельными алгоритмами. Отмечены задачи оптимизации, требующие дальнейших исследований: задачи динамической и стохастической оптимизации; задачи многокритериальной оптимизации; задачи мультимодальной оптимизации; задачи многомерной оптимизации; задачи меметической оптимизации, в которых комбинируется множество поисковых алгоритмов; задачи оптимизации и адаптации настроек параметров биоэвристик для достижения баланса между скоростью сходимости и диверсификацией пространства поиска решений.
Биоэвристика; классификация; категоризация; бенчмаркинг; фреймворк; агент; оператор; популяция; стигмергия.
*
Исследование выполнено за счет гранта Российского научного фонда № 23-21-00089, https://rscf.ru/project/23-21-00089/ в Южном федеральном университете.
S.I. Rodzin
CURRENT STATE OF BIO HEURISTICS: CLASSIFICATION, BENCHMARKING, APPLICATION AREAS
The purpose of this article is to analyze the current state of research in the field of development of algorithms inspired by nature, including categorization, classification, testing, citation, and application areas. A new multi-level classification system based on the following features is presented: the criterion of conformity to a natural metaphor, structural, behavioral, search, component, and evaluation criteria. The classification of bio heuristics involves the systematic assignment of each bio heuristics to one and only one class within a system of mutually exclusive and non-overlapping classes. Categorization allows an objective approach to the choice of bio heuristics. For each bio heuristics there are specific tasks with which it copes well. Knowing these relationships is important for the purposeful application of bio heuristics. An example of classification is considered. It is noted that the most informative classification criterion is the behavioral criterion, the most cited class of bio heuristics are swarm intelligence algorithms, and the most cited bio heuristics is the PSO particle swarm algorithm. Modern approaches to benchmarking of bio heuristics are presented: discrete and continuous optimization problems, as well as optimization engineering problems. There is a tendency to compare the performance of bio heuristics using statistical hypothesis testing on benchmarks. The tasks successfully solved by bio heuristics in such areas as engineering design, image processing and computer vision, computer networks and communications, energy and energy management, data analysis and machine learning, robotics, medical diagnostics are systematized. There is a tendency to hybridize bio heuristics in one optimizer. However, convincing evidence is required that the results compensate for the increase in complexity compared to individual algorithms. Optimization problems requiring further research are noted: dynamic and stochastic optimization problems; multicriteria optimization problems; multimodal optimization problems; multidimensional optimization problems; memetic optimization problems in which a variety of search algorithms are combined; optimization problems and adaptation of bio heuristics parameter settings to achieve a balance between the convergence rate and the diversification of the solution search space.
Bio heuristics; classification; categorization; benchmarking; framework; agent; operator; population; stigmergy.
Введение. Эволюция позволила животным адаптироваться к суровым условиям окружающей среды, добыванию пищи, сложным задачам ориентации и противостояния климатическим изменениям. Животные, организованные в группы, рои или колонии сумели колонизировать Землю и достичь глобального равновесия, которое позволило им существовать тысячи лет.
Этот успех биоты привел к появлению многочисленных моделей, инспирированных природой, которые с успехом применяются в виде алгоритмов и фрейм-ворков для решения трудных оптимизационных задач. Биоэвристика - это высокоуровневая, алгоритмическая процедура, построенная на основе модели, инспирированной природой, независимая от задачи, предназначенная для поиска близких к оптимальным решений задачи. Биоэвристики обычно разрабатываются на основе наблюдений за природными процессами или паттернами поведения биологических организмов, которые затем преобразуются в алгоритм оптимизации. Можно предположить, что любой природный процесс поддается адаптации и эмуляции для создания новой биоэвристики с различными возможностями достижения глобальных оптимальных решений задач оптимизации.
Однако следует иметь в виду NFL-теорему [1], согласно которой любая биоэвристика в среднем будет работать одинаково хорошо, как алгоритм случайного поиска, по всем возможным целевым функциям. Одна биоэвристика может оказаться предпочтительнее другой на конкретной задаче в зависимости от оценки баланса между ее скорости сходимости и возможностями диверсификации про-
странства поиска решений. Эта и другие причины привели за последние годы к стремительному росту числа биоэвристик и исследовательского интереса к ним. В частности, согласно библиометрическим данным Scopus, среднегодовая норма цитирования статей в области искусственного интеллекта составляет около 5, в то время как 85 % статей, в которых предлагаются биоэвристики, цитируются в среднем около 20 раз.
Некоторые исследователи критикуют этот возросший поток публикаций новых и модифицированных биоэвристик [2]. Сущность используемых природных метафор становится все более надуманной, их тестирование является недостаточным, подмножество задач - ограниченным, а оценки производительности - затруднительными. Предполагается, что каждая новая биоэвристика превосходит предыдущие, однако причины этого не анализируются. Между тем фундаментальных исследованиях в области оценки, анализа и классификации биоэвристик немного [3].
Целями данной статьи является анализ современного состояния исследований в области разработки биоэвристик, включая их категоризацию, тестирование и области применения, а также разработка новой многоуровневой системы классификации, позволяющей исследователям однозначно идентифицировать как новые, так и существующие биоэвристики, обосновывать их эффективность для решения проблемно-ориентированных задач. Иными словами, существует необходимость в формальном анализе, представлении и систематизации биоэвристик, а также в создании определенного набора критериев их классификации. Достижение указанной цели может послужить основой для поиска наиболее подходящих биоэвристик для решения конкретных оптимизационных задач.
Существующие подходы к категоризации и классификации биоэвристик. Классификация обозначает разновидность деления объема понятия по определенному основанию (признаку, критерию), при котором объем родового понятия (класс, множество) делится на виды (подклассы, подмножества), а виды, в свою очередь делятся на подвиды и т. д. Классификация биоэвристик как процесс предполагает упорядоченное и систематическое отнесение каждой биоэвристики к одному и только одному классу в рамках системы взаимоисключающих и неперекрывающихся классов. Классификация сортирует биоэвристики в соответствии с их сходством, используя определенный набор признаков или критериев.
Термин «таксономия» изначально применялся только в биологии. Позже он стал использоваться для обозначения общей теории классификации и систематизации сложных систем как в биологии, так и в других областях знаний.
Категоризация обозначает деятельность по распознаванию общих черт или сходств между объектами и их отнесения к абстрактной группе (категории, классу или типу) на основе признаков сходства. Иными словами, категоризация подразумевает процесс разделения объектов на некоторые группы, объекты которых в некотором роде похожи друг на друга. В отличие от классификации, при категоризации объект может быть частью более чем одной категории, в зависимости от контекста.
Основываясь на этих определениях, будем использовать термин «категоризация» для организации систем упорядочения с критериями, позволяющими сортировать биоэвристики в нескольких группах одновременно или несколько биоэвристик в одной группе. Наоборот, будем использовать термин «классификация», если каждая биоэвристика может быть четко упорядочена в отдельном классе по определенным критериям. Если при классификации остается группа биоэвристик, то внутри этой группы биоэвристики идентичны по критериям классификации.
Классификация позволяет объективно подходить к выбору биоэвристик, поскольку для каждой из них имеются конкретные задачи, с которыми она справляется особенно хорошо. Знать и понимать эти взаимосвязи важно для целенаправленного применения биоэвристики.
Одной из объективных проблем при классификации биоэвристик является бессистемность их обозначений. Большинство биоэвристик используют обозначения, основанные на их природной метафоре. Вместо использования общих терминов оптимизации. Это вызывает трудности при формулировании общих критериев классификации и извлечении необходимой информации из биоэвристики для применения этих критериев. Проблемой также является отсутствие руководящих принципов в отношении критериев классификации. Это приводит к множеству слабо детализированных схем классификации. Зачастую критерии классификации выбираются не по принципу их информативности и значимости, а с точки зрения простоты применения.
В [4] представлена таксономия биоэвристик, основанная на природных метафорах: принципах эволюции, роевого поведения и экосистеме. Это подход к категоризации, поскольку не применяются критерии, позволяющие однозначно различать биоэвристики.
В [5] также представлена таксономическая структура, которая разделяет биоэвристики локального поиска, конструктивные и популяционные биоэвристики. Подход направлен на категоризацию и предполагает, что биоэвристика может быть частью более чем одной группы.
В [6] предложен таксономический подход, аналогичный [4], дополненный сравнительным анализом условий применения биоэвристик. Данная таксономия также представляет собой категоризацию, поскольку четкое различие биоэвристик отсутствует.
В [7] биоэвристики разделяются на группы биологические, физические, социальные, музыкальные, химические, спортивные, математические и роевые системы. Этот подход к категоризации применим как к биоэвристическим алгоритмам, так и к фреймворкам.
В [8] используются критерии категоризации, разделяющие биоэвристики тра-екторного типа (в области поиска эволюционирует только одно решение задачи) и биоэвристики популяционного типа (одновременно эволюционируют несколько вариантов решения задачи). Кроме того, при категоризации различается локальный поиск, а также поиск с памятью. Однако эти критерии не позволяют провести однозначную классификацию биоэвристик.
В [9] представляется обширный набор критериев категоризации биоэвристик в зависимости от ограничений на вид и число целевых функций оптимизации, значения переменных в задаче, детерминированный или стохастический характер переменных. Однако эти критерии затруднительно применять при классификации биоэвристик, потому что они сильно зависят от соответствующей реализации биоэвристического алгоритма. Однако они достаточно подробны, чтобы их можно было использовать в классификации, а не только в категоризации.
В [10] представлена система признаков биоэвристик, которые могут быть использованы в качестве критериев классификации. Эти признаки включают наличие операторов эволюции, адаптивную настройку параметров алгоритма, возможности распараллеливания, гибридизации, обучение на основе теории хаоса.
В [11] была предложена категоризация, которая включает эволюционные и роевые биоэвристики, а также биоэвристики, основанные на физических процессах и на когнитивных процессах, связанных с деятельностью человека. Предлагаемое множество критериев классификации включает такие характеристики, как
скорость сходимости алгоритма, диверсификация пространства поиска решений, механизм селекции решений, вычислительная трудоемкость, требуемый объем памяти, настройка параметров алгоритма, трудности программной реализации.
В [12] представлены две схемы категоризации биоэвристик для задач комбинаторной оптимизации. Одна схема подходит для категоризации фреймворков, другая - для категоризации алгоритмов. Подход к категоризации разделяет алгоритмы комбинаторной оптимизации на последовательные, детерминированного локального поиска, стохастического локального поиска, эволюционные, роевые алгоритмы и специальные методы. Основными характеристиками алгоритмов комбинаторной оптимизации в [12] являются принцип принятия решений (детерминированный или стохастический), сложность структуры (простой, метаэвристический, гиперэвристический или гибридный алгоритм), тип траектории поиска (непрерывный или дискретный), влияние на ландшафт поиска, использование памяти, возможности адаптации параметров или обучения алгоритма, проблемная ориентированность. Некоторые из них подразделяются на дополнительные критерии.
Согласно [13] одной из важных особенностей биоэвристик является баланс между скоростью сходимости и диверсификацией пространства поиска оптимальных решений. Другими особенностями являются количество гиперпараметров, возможность гибридизации и механизмы локального поиска. Эти особенности могут быть использованы в качестве критериев классификации для биоэвристик и фреймворков, хотя количество гиперпараметров зависит от реализации и, следовательно, применимо только при классификации алгоритмов.
В [14] предлагается подход к классификации биоэвристик, основанный на использовании таких специфических характеристик как локальный поиск в окрестности, восхождение на холм, многократный запуск алгоритма, адаптивное программирование памяти. В частности, эволюционные алгоритмы используют попу-ляционный поиск, роевые алгоритмы - направленный поиск в окрестности. Это подход был применен для классификации 32 биоэвристик и фреймворков.
Согласно [3] предлагается подход, классифицирующий биоэвристики в соответствии с их природной метафорой, например, класс, основанный на роевом интеллекте. В свою очередь биоэвристики роевого интеллекта разделяются на инспирированные водной фауной, наземными животными, птицами, насекомыми и микроорганизмами.
В [15] проводится сравнительный анализ биоэвристик, основанный на визуализации их характеристик. Оценка производительности биоэвристик для различных задач используется для их классификации. Однако подобного рода подход довольно сложно применять для каждой комбинации биоэвристических алгоритмов и задач.
Интересной представляется классификация гипербиоэвристик в [16, 17]. Ги-пербиоэвристика - это относительно новый тип алгоритмов, в которых для получения результата используется комбинация простых однопроходных биоэвристик, управляемых общей схемой. Однако классификация гиперэвристик выходит за рамки данной работы, хотя удачная комбинация биоэвристик представляет определенный исследовательский интерес.
Отметим, что многие биоэвристики, такие как генетические алгоритмы, роя частиц, муравьиных колоний, дифференциальной эволюции, бактериальные, летучих мышей были модифицированы [18]. Большинство из этих публикаций посвящены описанию биоэвристик, нежели их классификации и анализу.
В [19, 20] были представлены классификация биоэвристик, однако они не является иерархическими, не позволяют однозначно относить многие биоэвристики к одному классу. Кроме того, в этих исследованиях не представлен анализ структурных особенностей известных и вновь разрабатываемых биоэвристик.
Многоуровневая классификация биоэвристик. Необходимо, чтобы каждая биоэвристика была отнесена только к одному классу. Критерии классификации биоэвристик, с одной стороны, не должны быть слишком универсальными, с другой стороны, они не должны быть слишком конкретными. Предлагается многоуровневая классификация биоэвристик. Уровни и критерии классификации представлены в табл. 1.
Таблица1
Многоуровневая классификация биоэвристик
№ Уровень Критерий
1 Природная метафора Роевые алгоритмы; алгоритмы, основанные на физических и химических процессах; алгоритмы, основанные на когнитивных процессах и деятельности человека; эволюционные алгоритмы; алгоритмы, основанные на особенностях организмов, способных к фотосинтезу; прочие алгоритмы, которые настолько различны, что их невозможно сгруппировать в представительные классы.
2 Структурный Дискретные/траекторные; популяционные/одиночные; с памятью/без памяти.
3 Поведенческий Получение новых решений: создаются из уже имеющихся решений/путем дифференциально-векторного движения.
4 Поисковый Оценка баланса: скорость сходимости биоэвристики/диверсификация пространства поиска.
5 Компонентный Локальный поиск; эволюционный механизм; механизм оптимизации роя частиц; механизм оптимизации колонии муравьев.
6 Специфические особенности Адаптивные механизмы настройки параметров; вычислительная сложность биоэвристики.
7 Оценочный Тип/размерность задачи.
Классификационная схема представляет собой иерархию. Биоэвристики, лежащие на одном уровне иерархии, не должны относиться к разным классам. Рассмотрим подробнее каждый уровень и соответствующие критерии классификации.
Критерий соответствия природной метафоре. Разнообразие природных метафор может привести к мелкозернистой классификации. Необходим компромисс, чтобы сохранить классификацию простой, но информативной. Ограничим снизу число биоэвристик, входящих в отдельный класс, четырьмя.
В результате более чем 400 из существующих биоэвристик разделяются по критерию соответствия природной метафоре на шесть классов:
♦ роевые алгоритмы (около 48 %);
♦ алгоритмы, основанные на физических и химических процессах (около 18%);
♦ алгоритмы, основанные на когнитивных процессах и деятельности человека (около 12%);
♦ эволюционные алгоритмы (7%);
♦ алгоритмы, основанные на особенностях многоклеточных организмов, способных к фотосинтезу (5%);
♦ прочие алгоритмы, которые настолько различны, что их невозможно сгруппировать в представительные классы (четыре или более биоэвристики, около 10%).
Для прояснения критериев классификации на этом уровне приведем краткое описание основных характеристик каждого из шести классов.
Алгоритмы, основанные на роевом интеллекте. Они характеризуются коллективным поведением децентрализованных, самоорганизующихся агентов. Первоначально этот термин был предложен в контексте роботизированных систем, однако с годами получил широкое распространение для обозначения коллективного разума в группе агентов, управляемых простыми правилами поведения. Речь идет о моделях коллективного поведения таких сообществ как колонии насекомых или птичьи стаи, где коллективный интеллект роя позволяет эффективно решать задачи оптимизации.
Роевые биоэвристики разделяются по следующим критериям классификации:
♦ алгоритмы, инспирированные полетом птиц и насекомых (17 %, наиболее известными являются PSO и ABC);
♦ алгоритмы, инспирированные механизмами добывания пищи и охоты наземных животных (14%, наиболее известными являются ACO, GWO, LOA, GOA);
♦ алгоритмы, инспирированные водными животными (7%, наиболее известными являются KH, WOA, DPO);
♦ алгоритмы, инспирированные микроорганизмами (4%, наиболее известным является BFOA);
♦ другие роевые биоэвристики настолько различные, что их невозможно сгруппировать в представительные классы (6 %).
Внутри каждой подкатегории также имеются определенные различия, например метафора связана с поисками роем пищи или же речь идет о модели движения роя.
Алгоритмы, основанные на физических и химических процессах. Алгоритмы, основанные на физических процессах (14%, наиболее известные EMO, HS, IWD, WFO) и химических процессах (4%, наиболее известные ACP, IRO, SA), характеризуются тем, что они имитируют, например, гравитационные силы, электромагнетизм, электрические заряды и движение воды, а также химические реакции и движение частиц газов.
Алгоритмы, основанные на когнитивных процессах и деятельности человека. Эти алгоритмы характеризуются тем, что они инспирированы социальными и политическими концепциями, процессами принятия решений, конкуренцией идеологий внутри общества, спортивными соревнованиями, мозговым штурмом. Наиболее известными являются IA, ICA, SLC, GBSO.
Следующим классом биоэвристик по критерию соответствия природной метафоре являются эволюционные алгоритмы.
Эволюционные алгоритмы основаны на принципах природной эволюции. Каждый агент в популяции представляет собой решение задачи и имеет соответствующее значение функции пригодности. В этих алгоритмах процесс воспроизводства и отбора повторяется в течение многих поколений, совокупность решений эволюционирует в направлении областей с более высокой пригодностью. Особенность селекции делает алгоритмы этого класса уникальными по сравнению с алгоритмами других категорий. Наиболее известными эволюционными алгоритмами являются GA, DE, ES.
Алгоритмы, основанные на особенностях многоклеточных организмов, способных к фотосинтезу. В этом классе сгруппированы алгоритмы оптимизации, процесс поиска в которых инспирирован растительным миром. В отличие от других биоэвристик, в них отсутствует связь между агентами. Одним из наиболее известных является алгоритм оптимизации лесов FOA.1, инспирированный процессом размножения растений.
Прочие алгоритмы. В эту категорию входят биоэвристики, которые не относятся ни к одной из перечисленных выше категорий. Они настолько различны, что их невозможно сгруппировать в представительные классы. Например, алгоритм Инь-Ян (YYOP) [21]. Эта категория биоэвристик неоднородна, ее включение в классификацию, возможно, в будущем послужит основой для создания новых подкатегорий, развитию классификации и облегчит анализ будущих достижений в этой области.
Следующим уровнем классификации является структурный уровень.
Структурный уровень. Он включает критерии, относящиеся к общей структуре биоэвристик. Вначале биоэвристики классифицируются на дискретные и тра-екторные. Далее, большинство дискретных биоэвристик являются популяционны-ми, а траекторные обычно основаны на одном решении. На следующем шаге классификации проводится различие между биоэвристиками, основанными на локальном поиске и так называемыми биоэвристиками конструктивного поиска. На заключительном шаге структурной классификации используется критерий наличия/отсутствия памяти в процессе поиска. Структурный уровень классификации дает важную информацию о биоэвристике, однако недостаточную для однозначной классификации.
Следующим уровнем классификации является поведенческий уровень.
Поведенческий уровень. Согласно этому уровню классификации биоэвристики группируются по их поведенческим особенностям безотносительно от их природной метафоры. С этой целью необходим четкий критерий классификации. В качестве такого критерия будем использовать механизмы для создания новых решений или для изменения существующих решений задачи оптимизации. Согласно этому критерию, вначале проводится различие между процессом получения новых решений: они создаются из уже имеющихся решений или путем так называемого дифференциально-векторного движения [3].
При дифференциально-векторном движении новые решения создаются путем сдвига или мутации предыдущего решения. Репрезентативными примерами этой категории биоэвристик являются PSO и DE.
При создании новых решений используются механизмы, которые рекомби-нируют несколько решений или основаны на стигмергии путем спонтанного непрямого взаимодействия между индивидами. Репрезентативными примерами этой категории биоэвристик являются GA и ACO.
В результате более чем 400 биоэвристик вначале разделяются на два класса:
♦ алгоритмы на основе дифференциально-векторного движения (около 66%);
♦ алгоритмы, основанные на создании новых решений (около 34%).
В определении направления дифференциально-векторного движения может участвовать вся популяция решений (около 4 %), только определенные решения (около 55%), только решения из некоторой окрестности или субпопуляции (около 7%).
Среди алгоритмов, основанных на создании новых решений, около 32% используют рекомбинацию нескольких решений, а 2% - стигмергию.
Представим основные поведенческие характеристики биоэвристик из различных категорий.
Особенность категории биоэвристик дифференциально-векторного движения заключается в том, что вычисляется направление дифференциального вектора.
Одним из возможных критериев является использование для этих целей всех агентов в популяции. В этих алгоритмах все агенты имеют определенную степень влияния на движение других решений. Такая степень обычно взвешивается в соответствии с разницей в функции пригодности или расстоянием между решениями. Примером здесь является FA, в котором решения, близкие к лучшему решению, оказывают более сильное влияние, нежели более удаленные.
Другим критерием класса биоэвристик с дифференциально-векторным движением является использование определенных репрезентативных решений. Чаще всего в этом качестве выбираются наилучшие решения, найденные алгоритмом. Примером алгоритма этой категории является PSO. В этом оптимизаторе каждое решение или частица руководствуется глобальным текущим лучшим решением и лучшим решением, полученным этой частицей во время поиска. Другим примером в этой категории является семейство алгоритмов DE. В них наилучшее решение комбинируется с дифференциальным вектором для расширения пространства поиска решений.
Еще одним критерием класса биоэвристик с дифференциально-векторным движением является использование решений из некоторой окрестности или субпопуляции. Примерами алгоритмов в этой категории являются LA, MBO и BFOA.
Особенность категории биоэвристик основанных на создании новых решений заключается в том, что они используют операторы рекомбинации или стигмергию. Наиболее распространенным вариантом является рекомбинация новых решений путем объединение некоторых из уже существующих решений с помощью оператора кроссинговера или путем комбинирования хороших решений. Самым популярным алгоритмом в этой категории являются эволюционный алгоритм GA, алгоритм CA, роевой алгоритм LA, алгоритм столкновения частиц PCA и алгоритм оптимизация светового луча LRO, основанные на физических и химических процессах.
Наиболее распространенным вариантом создания новых решений путем стигмергии является алгоритм ACO, моделирующий механизмом добывания пищи колонией муравьев [16].
Сравним результаты классификации биоэвристик по критерию соответствия природной метафоре и поведенческому критерию. Например, алгоритм гравитационных сил GFA и алгоритм эволюция животных ABO имеют значительное сходство с роевым алгоритмом PSO. Однако согласно классификации биоэвристик по критерию соответствия природной метафоре указанные алгоритмы принадлежат различным классам, инспирированы различными природными явлениями. В то же время справедливо и обратное: биоэвристики, имеющие схожую природную метафору, могут значительно отличаться друг от друга по поведенческому критерию. Примером являются алгоритмы эхолокации дельфина DE и Dolphin. Оба инспирированы одним и тем же животным (дельфином) и его механизмом эхолокация для обнаружения рыбы, однако поведенческие механизмы у них разные: DE создает новые решения путем комбинирования, в то время как Dolphin аналогичен PSO. Другим примером является класс биоэвристик с дифференциально-векторным движением, который содержит более половины рассмотренных алгоритмов (55%) и включает алгоритмы из всех различных классов по критерию соответствия природной метафоре: социальное поведение человека (алгоритм ASO), бактериальная колония, алгоритм фейерверка, алгоритм опыления цветов.
На наш взгляд, поведенческий уровень классификации является наиболее информативным. Однако здесь возникают некоторые проблемы. Например, для алгоритма оптимизации роя частиц (PSO) существует более 50 аналогичных биоэвристик. Для выяснения различий между ними требуется определенное времени и усилия. Необходим переход на следующий уровень классификации.
Этот уровень классификации назовем поисковым.
Поисковый уровень. Он связан со скоростью сходимости биоэвристики при поиске оптимального решения и диверсификацией пространства поиска решений. Примеры этих критериев приведены в [11, 13, 22]. Диверсификация пространства
поиска решений относится к способности поисковых агентов исследовать новые области пространства поиска, в то время как сходимости алгоритма делает акцент на возможностях этих агентов улучшать уже найденные "хорошие" решения. Важность поиска баланса между скоростью сходимости алгоритма и диверсификацией пространства поиска решений является фундаментальной задачей, однако пока отсутствуют инструменты измерения баланса. На баланс между скоростью сходимости алгоритма и диверсификацией пространства поиска решений оказывают влияние механизм селекции, аттрактивность операторов поиска и число итераций алгоритма. Например, жадный механизм селекции приводит к преждевременной сходимости в точке локального оптимума. Аттрактивность операторов, используемых в биоэвристиках, означает дрейф имеющихся решений в направлении лучших решений, которые рассматриваются в качестве аттракторов. Этот механизм эффективен для поддержания разнообразия популяции решений. Необходимо найти метрику для оценки баланса между скоростью сходимости биоэвристики и диверсификацией пространства поиска решений.
Следующим является компонентный уровень классификации.
Компонентный уровень. Он связан с особенностями компонент, включаемых в алгоритм, в качестве критериев классификации. Основа для этих критериев была предложена в [14]. В этой работе анализировались биоэвристики с точки зрения заложенных в них базовых алгоритмических структур. Анализировались следующие алгоритмические структуры: механизм локального поиска, эволюционный механизм, механизм оптимизации роя частиц и механизм оптимизации колонии муравьев. Биоэвристики, использующие механизм локального поиска, классифицировались по следующим критериям: поиск в окрестности, поиск восхождением к вершине, предотвращение преждевременной сходимости в локальных оптиму-мах. мультистарт и адаптивное программирование памяти. Биоэвристики, использующие эволюционный механизм, классифицировались по следующим критериям: использующие популяционный поиск и использующие промежуточный поиск, при котором исследуется пространство между двумя или более наилучшими решениями. Биоэвристики, использующие механизм оптимизации роя частиц, классифицировались по следующим критериям: направленный поиск по определенным перспективным направлениям (например, градиентным) и поиск в переменной окрестности. Биоэвристики, использующие механизм оптимизации колонии муравьев, классифицировались по критерию создания карты в пространстве поиска для планирования процесса поиска. В настоящее время многие биоэвристики используют комбинацию сразу несколько указанных выше алгоритмических компонентов. Таким образом, компонентный классификационный уровень предоставляет информацию об их сходствах и различиях. Возможно, этот список биоэвристических компонентов не является полным.
Специфический уровень. Он связан с особенностями и возможным расширением структуры биоэвристики. Поиск критериев, подходящих для данного уровня классификации, представляется несколько более сложным, нежели для предыдущих уровней, поскольку они должны быть связаны с возможностями фреймворка, т. е. программной платформы, определяющей структуру программного обеспечения, облегчающего разработку и объединение разных компонентов большого программного проекта. Одним из примеров критерия данного уровня является использование в биоэвристике адаптивных параметров, а также критериев, определяющих вычислительную сложность биоэвристики. Пока не существует четкой классификации на этом уровне, однако этот уровень важен для обеспечения детального различия биоэвристик.
Оценочный уровень. Он связан с эффективностью биоэвристик для решения конкретных задач оптимизации. Возможно, что подходящими классификационными критериями на этом уровне могут быть, например, структура задачи и ее размерность. Однако для этого необходимо знать эффективность биоэвристик для решения конкретных классов задач. Оценочный уровень классификации требует дальнейших исследований, чтобы стать применимым в общей системе классификации биоэвристик. Понятно, что знание о производительности биоэвристики для различных классов задач облегчает ее выбор для решения конкретной задачи, а также помогает определить, какие биоэвристики демонстрируют идентичные результаты на одних и тех же классах задач.
Пример применения многоуровневой иерархической классификации. Проиллюстрируем применение предлагаемой системы классификации на примере трех биоэвристик в их базовых версиях: генетический алгоритм, эволюция (1 + X) и табуированный поиск [23], используя структурный, поведенческий, поисковый и компонентный уровни классификации.
Генетический алгоритм GA подходит для задач комбинаторной оптимизации, использует начальную популяцию в пространстве поиска решений, предполагает повторение следующих шагов до тех пор, пока не будет выполнен критерий остановки:
♦ родители выбираются с использованием турнирного отбора;
♦ потомство генерируется путем равномерного кроссинговера;
♦ потомство мутирует, случайно инвертируя один бит в решении;
♦ потомство оценивается и происходит замена поколений с учетом элитарного отбора.
GA использует дискретную структуру, память, а также три различные стратегии поиска рекомбинацию, мутацию и отбор. На компонентном уровне оператор мутации использует поиск в окрестности, оператор рекомбинации использует промежуточный поиск на основе популяции, популяционный отбор, программируемую память и мультизапуск. Смена поколений в популяции происходит по схеме восхождения на вершину фитнес-ландшафта.
Эволюционная стратегия (1 + X)-ES также, как и GA, относится к группе эволюционных алгоритмов, использует память и дискретную структуру, подходящую для комбинаторной оптимизации. В (1 + X)-ES случайным образом инициализируется только один родительский элемент. Следующие шаги повторяются до тех пор, пока не будет выполнен критерий остановки:
♦ потомков генерируются мутацией родителя;
♦ потомство оценивается, и лучшая особь родителя и потомства выбирается в качестве родителя следующего поколения.
В (1 + X)-ES новые решения создаются путем адаптации ранее найденных решений, не используется оператор кроссинговера. На компонентном уровне популяция и оператор мутации используются для поиска в окрестности на основе популяции. Смена поколений в популяции происходит по схеме восхождения на вершину фитнес-ландшафта.
Табуированный поиск (TS) подходит для решения задач комбинаторной оптимизации, использует кратковременную память при формировании списка запретов. Поиск начинается со случайно инициализированного решения, для которого создается список соседних решений. В табу список добавляется каждое просмотренное решение. TS предполагает повторение следующих шагов до тех пор, пока не будет выполнен критерий остановки:
♦ на каждой итерации выбирается лучшее решение в окрестности текущего решения в качестве нового текущего решения, даже если это приводит к увеличению стоимости решения;
♦ в кратковременной памяти, называемой списком табу, сохраняется недавно найденные решения, чтобы избежать зацикливания. Поиск прекращается после определенного числа итераций или если после ряда последовательных итераций не было достигнуто каких-либо улучшений в наилучшем известном решении.
TS - это эвристика, основанная на траектории одного решения, которая использует локальный поиск и память. Его поведение основано на дифференциальном векторном движении в управляемой окрестности. На компонентном уровне список табу использует адаптивное программирование памяти, поиск восхождением на вершину в ландшафте фитнес-функции.
Если необходимо оценить скорость сходимости и возможности диверсификации пространства поиска указанных биоэвристик, например, при оптимизации мультимодальных целевых функций, то система классификации показывает, что GA предоставляет больше возможностей для балансировки поиска, нежели TS и (1 + X)-ES. При использовании соответствующего классификационного уровня эта оценка может быть улучшена.
Бенчмаркинг биоэвристик. Невозможно протестировать каждую биоэвристику на множестве конкретных задач для оценки эффективности. Используя рандомизацию и факторный анализ, можно планировать эксперименты, выбирать комбинации параметров биоэвристик. При сравнении производительности биоэвристик следует использовать статистическую проверку гипотез на бенчмарках. В частности, нулевая гипотеза для похожих биоэвристик заключается в том, что они попадают в один и тот же класс. Если эта гипотеза не подтверждается, то биоэвристики разделяются на отдельные классы. В [24] обобщены этапы оценки биоэвристик с акцентом на их экспериментальную проверку. Это обобщение дает полезную информацию для оценки эффективности биоэвристик.
Для корректного тестирования биоэвристик необходимо единообразная нотация [25]. Требуется стандартизированный язык, обеспечивающий их четкое и машиночитаемое описание. Между тем для большинства биоэвристик нет общедоступного исходного кода. Оценка и сравнение биоэвристик должны основываться на стандартизированной процедуре, включающей как теоретические принципы, так и эмпирические подходы. Теоретическое принципы помогают выделить отличительные особенности биоэвристики и определить ее новизну. Эмпирические подходы помогают стандартизировать соответствующие протоколы тестирования биоэвристик, их статистический анализ и выбор контрольных показателей. Предлагаемые биоэвристики должны демонстрировать сокращение времени, затрат или сложности при решении оптимизационных задач, способность обрабатывать различные типы оптимизационных функций, демонстрировать свойства сходимости, возможность распараллеливания. Кроме того, важно понимать особенности решаемых задач при разработке биоэвристики. Полная классификация биоэвристик, вероятно, могла бы помочь решение некоторых из этих проблем.
Современные подходы к бенчмаркингу биоэвристик, чаще всего, основаны на эмпирических наблюдениях, собранных в результате моделирования, проведенного на тестовых задачах. Тенденция последних лет - использование бенчмарок.
Для задач дискретной оптимизации используются бенчмарки задачи коммивояжера, о рюкзаке, об упаковке, транспортная задача, обучение параметров искусственной нейронной сети, задачи планирования и составления расписаний, разработка игровых стратегий, задачи конструкторского проектирования микросхем [26].
Для задач непрерывной оптимизации чаще всего в качестве бенчмарок используются многомерные мультиэкстремальные математические функции, например
♦ Гриванка г г (X) = ?= х (х, - 1 0 0 ) 2 - П ?= i с о s + 1 ,
♦ Растригина Frtfl (X) = ¿f= i [х,2 - 1 0 cos (2 пх,) + 1 0] ,
♦ Розенброка Fros (X) = I] ^ [ 1 0 0 (х, + i - х,2 ) 2 + (х, - 1 ) 2 ] ,
♦ Швефеля Fs ch (X) = 418,982 9n - ] ?= i х, s i n (/х!) ,
♦ Захарова /zach (X) = ]= i (х,) 2 + 0^0, 5 ¿х,) 2 + (] f= i0, 5 ¿х,) 4,
♦ Саломона /s aг (X) = - со s ( 2 п/ ] ^=1х2) + 0 , 1 / I ?=1х,2 + 1 ,
♦ Цина /z,„ (X) = ]f= i (х,2 - ¿) 2 .
Поиск глобального минимума каждой из этих тестовых функций является трудной задачей. В частности, «банановая» функция Розенброка имеет большое медленно убывающее плато, ее глобальный минимум функции находится внутри параболической сильно вытянутой поверхности. Функция Швефеля является мультиэкстремальной с «непредсказуемым» глобальным минимумом.
В качестве оптимизационных инженерных задач в современных исследованиях используются следующие три задачи оптимизации:
♦ растяжение/сжатие пружины с параметрами диаметр пружины, толщина пружины и длина пружины (рис. 1),
♦ проектирование сосуда высокого давления с параметрами толщина стенок, внутренний радиус и длина цилиндрического сечения (рис. 2),
♦ сварка балки с параметрами толщина сварного шва, длина, высота и толщина присоединяемой части стержня (рис. 3).
Рис. 1. Растяжение/сжатие пружины с параметрами диаметр пружины (D), толщина пружины и длина пружины (Ъ)
Рис. 2. Проектирование сосуда высокого давления с параметрами толщина стенок сосуда (Т) внутренний радиус (К) и длина цилиндрического сечения (Ъ)
Рис. 3. Сварка балки с параметрами толщина сварного шва, длина, высота и толщина присоединяемой части стержня
Области применения биоэвристик. На практике наиболее распространенный вопрос заключается в том, какая биоэвристика лучше всего подходит и как ее можно успешно применить для решения конкретной задачи? Ответ на этот вопрос - непростая задача. В зависимости от требований по точности может существовать несколько биоэвристик, дающих приемлемые решения. Проблема выбора подходящей биоэвристики включает в себя пространство задач P, пространство алгоритмов A и отображение PxA на модель эффективности R.
В частности, в [24] представлены рекомендации по выбору биоэвристик. Они включают выбор критериев и проверку результатов путем статистического анализа и визуализации, а также настройку параметров алгоритмов. С этой целью были выбраны три указанных выше инженерных оптимизационных задачи: растяжение/сжатие пружины, проектирование сосуда высокого давления, сварка балки.
Их использовали для определения наиболее эффективных биоэвристик. В частности, для задачи растяжения/сжатия пружины сравнивались биоэвристики AO, BOA, EPO, STOA, BA, PFA, MPA, ChSA, HHO, GWO, MFO, SHO, WOA, SSA. Для задачи проектирования сосуда высокого давления сравнивались биоэвристики AO, EPO, STOA, FA, MPA, ChSA, MHDA, HHO, GWO, MFO, SHO, WOA, DA. Для задачи сварки балки сравнивались биоэвристики AO, BOA, MHDA, SMA, DA, TSA, SOA, EPO, ABC, ChSA, MFO, MPA, SHO, GWO, WOA, HHO, SFO.
Чтобы определить, какой алгоритм лучше всего подходит для этих инженерных задач, был применен подход, основанный на принципе Кондорсе [30] для определения победителя при голосовании за кандидатов. В этом контексте сравниваемые алгоритмы представляют кандидатов, а их решения для каждой из задач указывают на избирателей. Согласно принципу Кондорсе победителем на выборах объявляется кандидат, который превосходит остальных при парном сравнении. По результатам работы сравниваемых алгоритмов на трех бенчмарках были определены четыре лучших биоэвристики: алгоритм императорских пингвинов (EPO, 45 голосов), алгоритм охоты птицы-хищника (AO, 42 голоса), алгоритм хамелеона (ChSA, 34 голоса) и алгоритм африканских стервятников (AVOA, 32 голоса).
В последние годы биоэвристики стали активно применяться для решения широкого спектра задач в таких областях как инженерное проектирование, цифровая обработка изображений и компьютерное зрение, сети и коммуникации, энергетика и энергоменеджмент, анализ данных и машинное обучение, робототехника, медицинская диагностика, информатика и многие другие. В табл. 2 представлены современные области применения различных классов биоэвристик для решения конкретных оптимизационных задач.
Таблица 2
Области применения биоэвристик
Область применения Биоэвристики Задачи
Инженерное проектирование GSA, SA, GP, WOA Проектирование антенн; Оптимизация авиационных конструкций; Выбор параметров обработки деталей.
Обработка изображений и компьютерное зрение ACO, PSO, BA, ABC, BMO, CSA, ЕРО, PBA Сегментация изображений, обнаружения областей интереса на цифровых изображениях, цветовая экстракция.
Компьютерные сети и коммуникации GA, АВС, PSO, CS, ЕРО, ESA, MHSA, MBO, MMA Оптимальное распределение сети сенсорных датчиков, обнаружение сообществ в сети, обнаружение вредоносных СЖ-адресов и спама, криптоанализ, задача коммивояжера.
Энергетика и энергоменеджмент PSO, SSO, GWO, KHA, BBO, WOA, FA, CSA, ННО, COR, MFO, MSA Системы хранения энергии, управления домашней энергоустановкой, регулирование нагрузки в энергосистеме, управление мощностью, диспетчеризация, реконфигурация, оптимальное размещение конденсаторов, ветрогенераторов.
Анализ данных и машинное обучение WOA, GWO, SA, FA, PSO, GA, GSA, ABC, BNMR, HuS, GOA, ALO, RIO Выбор информативных признаков для классификации объектов и ранжирования многомерных данных, кластеризация данных, обучение сверточных нейросетей, настройка параметров в SVM-методе машинного обучения.
Робототехника GSA, SA, GP, WOA Планирование оптимизация траектории роботов, автономная навигация полета БПЛА, разработка контроллеров для роботизированных платформ.
Медицинская диагностика ACO, PSO, BA, ABC, BMO, CSA, ЕРО, PBA Обработка медицинских изображений, прогнозирование заболеваний путем анализа больших наборов данных, диагноз онкологии, болезни Паркинсон с использованием данных микрочипов.
Информатика и другие области ВА, DEO, SWA, SMO, ChOA, SHO, LA, BNMR, ESA, MPA, BBO, BNSS, FOA, DFO, DA Оценка подверженности наводнениям, планирование работы магазина, оптимизации стальных каркасных конструкций, оптимизация добычи природного газа, токсичность лекарственного средства, регулирование орошения, подводная акустическая классификация, укрепление почвы, оптимизация протонообменных процессов в топливных элементах.
Кроме того, существует большое количество программных фреймворков для эволюционных и роевых алгоритмов на разных языках, таких как C++, Java, Matlab или Python. Например, фреймворк Evolutional Computation Framework и ParadisEO на C++ [27]; jMetal на Java, jMetalPy на Python [28]; PlatEMO в Matlab [29] и другие. Каждый из них реализует наиболее популярные алгоритмы GA, DE, PSO, ABC.
Заключение. Проведен анализ современного состояния исследований в области разработки биоэвристик, включая их категоризацию, тестирование и области применения. Разработана многоуровневая иерархическая система классификации биоэвристик, позволяющая однозначно идентифицировать как новые, так и существующие биоэвристики, обосновывать их эффективность для решения проблемно-ориентированных задач.
Наиболее информативным критерием классификации биоэвристик является поведенческий критерий, наиболее цитируемым классом биоэвристик - алгоритмы роевого интеллекта. Наиболее цитируемым является роевой алгоритм PSO, на его основе построены многие другие биоэвристики. Далее, по уровню цитируемости следует генетический алгоритмы и алгоритм дифференциальной эволюции.
Многие новые биоэвристики имеют очень ограниченное влияние, редко цитируются после первоначальной публикации, не появляется новых статей с их улучшенными версиями или применением для решения других задач.
Общедоступная эталонная программная реализация предоставляет возможность сравнения производительности биоэвристик. Существует большое количество программных фреймворков для эволюционных и роевых алгоритмов на разных языках, таких как C++, Java, Matlab или Python.
Наметилась тенденция к гибридизации биоэвристик в одном оптимизаторе. Однако требуются убедительные доказательства, что результаты компенсируют увеличение сложности по сравнению с отдельными алгоритмами. Заметна также тенденция проводить сравнение производительности биоэвристик, используя статистическую проверку гипотез на бенчмарках.
Заслуживает внимания применение биоэвристик для решения следующих типов задач:
♦ динамической и стохастической оптимизации;
♦ многокритериальной оптимизации;
♦ мультимодальной оптимизации;
♦ многомерной оптимизации;
♦ меметической оптимизации, в которых комбинируется множество поисковых алгоритмов [31];
♦ оптимизации и адаптации настроек параметров биоэвристик для достижения баланса между скоростью сходимости и диверсификацией пространства поиска решений [32].
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Wolpert D., Macready W. The no free lunch theorems for optimization // IEEE Trans. Evol. Comp. - 1997. - No. 1. - P. 67-82.
2. Sorensen K., Sevaux M., Glover F. A history of metaheuristics. - Handbook of heuristics.
- 2017. arxiv:1704.00853v1.
3. Molina D., Poyatos J., Del Ser J., Garcia S., Hussain A., Herrera F. Comprehensive taxonomies of nature- and bio-inspired optimization: inspiration versus algorithmic behavior, critical analysis and recommendations. - https://arxiv.org/abs/2002.08136v3.
4. Almufti S.M., Marqas R.B., Saeed V.A. Taxonomy of bio-inspired optimization algorithms // Jour. Adv. Comput. Sci. Technol. - 2019. - Vol. 8 (2). - P. 23.
5. Sorensen K., Glover F.W. Metaheuristics. Encyclopedia of operations research and management science. - Springer, NY., 2013. - P. 960-970.
6. Binitha S., Sathya S.S. A survey of bio inspired optimization algorithms // Int. Jour. Soft. Comput. Eng. (IJSCE). - 2012. - Vol. 2 (2). - P. 137-151.
7. Rajpurohit J., Sharma T.K., Abraham A. Glossary of metaheuristic algorithms // Int. Jour. Comput. Inf. Syst. Ind. Manag. Appl. - 2017. - Vol. 9. - P. 181-205.
8. Nesmachnow S. An overview of metaheuristics: accurate and efficient methods for optimization // Int. Jour. Metaheuristics. - 2014. - Vol. 3 (4). - P. 320.
9. Pazhaniraja N., et. al. A study on recent bio-inspired optimization algorithms // 4th int. conf. on signal processing, communication, and network (ICSCN). - IEEE, 2017.
10. Nabaei A., et. al. Topologies and performance of intelligent algorithms: a comprehensive review // Artif. Intell. Rev. - 2016. - Vol. 49 (1). - P. 79-103.
11. Fausto F., et. al. From ants to whales: metaheuristics for all tastes // Artif. Intell. Rev. - 2019.
- Vol. 53 (1). - P. 753-810.
12. Sergienko I. V., Hulianytskyi L.F., Sirenko S.I. Classification of applied methods of combinatorial optimization // Cybern. Syst. Anal. - 2009. - Vol. 45 (5). - P. 732-741.
13. Курейчик В.В., Родзин С.И. Вычислительные модели биоэвристик, основанных на физических и когнитивных процессах (обзор) // Информационные технологии. - 2021. - Т. 27, № 11.
- С. 563-574.
14. Lones M.A. Metaheuristics in nature-inspired algorithms // Proc. conf. companion on Genetic and evolutionary computation companion (GECCO). - ACM Press, 2014.
15. Sergeyev Y.D., Kvasov D.E., Mukhametzhanov M.S. On the efficiency of nature-inspired metaheuristics in expensive global optimization with limited budget // Sci. Rep. - 2018. - Vol. 8 (1).
16. Родзин С.И., Скобцов Ю.А., Эль-Хатиб С.А. Биоэвристики: теория, алгоритмы и приложения. - Чебоксары: ИД «Среда», 2019. - 224 с.
17. Hong L., Drake J.H., Woodward J.R., Ozcan E. A hyper-heuristic approach to automated generation of mutation operators for evolutionary programming // Appl. Soft. Comput. - 2018.
- Vol. 62. - P. 162-175.
18. YangX.S. Nature-Inspired Optimization Algorithms. - Elsevier, 2014.
19. Fister I., et.al. A Brief Review of Nature-Inspired Algorithms for Optimization // Elektrotehniski Vestnik. - 2013. - Vol. 80 (3). - P. 1-7.
20. Kumar A. Bio inspired computing - A review of algorithms and scope of applications // Expert Systems with Applications. - 2016. - Vol. 59. - P. 20-32.
21. Punnathanam V., Kotecha P. Yin-Yang-pair Optimization: A novel lightweight optimization algorithm // Eng. Applications of Artificial Intelligence. - 2016. - Vol. 54. - P. 62-79.
22. Dokeroglu T., Sevinc E., Kucukyilmaz T., Cosar A. A survey on new generation metaheuristic algorithms // Comput. Ind. Eng. - 2019. - Vol. 137. - P. 106040.
23. Родзин С.И., Родзина Л.С. Биоинспирированный поиск решений: теория и приложения для обработки проблемно-ориентированных знаний в геоинформатике // Известия ЮФУ. Технические науки. - 2015. - № 4. - С. 203-216.
24. LaTorre A., et. al. Fairness in bio-inspired optimization research: a prescription of methodological guidelines for comparing meta-heuristics. - 2020. Published arxiv:2004.09969v1.
25. Del Ser J., et. al. Bio-inspired computation: where we stand and what's next // Swarm Evol. Comput. - 2019. - Vol. 48. - P. 220-250.
26. Курейчик В.В., Курейчик В.М., Родзин С.И. Теория эволюционных вычислений. - М.: Физматлит, 2012. - 260 с.
27. Liefooghe A., Jourdan L., Talbi E.G. A software framework based on a conceptual unified model for evolutionary multiobjective optimization: ParadisEO-MOEO // Europ. Jour. of Operational Research. - 2011. - Vol. 209 (2). - P. 104-112.
28. Benítez-Hidalgo A., Nebro A.J., García-Nieto J., Oregi I., Ser J.D. jMetalPy: A Python framework for multi-objective optimization with metaheuristics // Swarm and Evol. Computation. - 2019. - Vol. 51. - P. 100598.
29. Tian Y., et. al. A MATLAB platform for evolutionary multi-objective optimization // IEEE Computational Intelligence Magazine. - 2017. - Vol. 12 (4). - P. 73-87.
30. Петровский А.Б. Теория принятия решений. - М.: Изд. Центр «Академия», 2009. - 400 с.
31. Rodzin S., Rodzina O. Metaheuristics memes and biogeography for trans computational combinatorial optimization problems // Proc. of the 6th Int. Conf. - Cloud System and Big Data Engineering. - 2016. - P. 1-5.
32. El-Khatib S., Rodzin S., Skobtsov Yu. Investigation of optimal heuristical parameters for mixed ACO-k-means segmentation algorithm for MRI images // Proc. 3rd Int. Scientific Conf. on Information Technologies in Science, Management, Social Sphere and Medicine (ITSMSSM).
- 2016. - Vol. 51. - P. 216-221.
REFERENCES
1. Wolpert D., Macready W. The no free lunch theorems for optimization, IEEE Trans. Evol. Comp, 1997, No. 1, pp. 67-82.
2. Sorensen K., SevauxM., Glover F. A history of metaheuristics. Handbook of heuristics. 2017. arxiv:1704.00853v1.
3. Molina D., Poyatos J., Del Ser J., Garcia S., Hussain A., Herrera F. Comprehensive taxonomies of nature- and bio-inspired optimization: inspiration versus algorithmic behavior, critical analysis and recommendations. Available at: https://arxiv.org/abs/2002.08136v3.
4. Almufti S.M., Marqas R.B., Saeed V.A. Taxonomy of bio-inspired optimization algorithms, Jour. Adv. Comput. Sci. Technol., 2019, Vol. 8 (2), pp. 23.
5. Sorensen K., Glover F.W. Metaheuristics. Encyclopedia of operations research and management science. Springer, NY., 2013, pp. 960-970.
6. Binitha S., Sathya S.S. A survey of bio inspired optimization algorithms, Int. Jour. Soft. Comput. Eng. (IJSCE), 2012, Vol. 2 (2), pp. 137-151.
7. Rajpurohit J., Sharma T.K., Abraham A. Glossary of metaheuristic algorithms, Int. Jour. Comput. Inf. Syst. Ind. Manag. Appl., 2017, Vol. 9, pp. 181-205.
8. Nesmachnow S. An overview of metaheuristics: accurate and efficient methods for optimization, Int. Jour. Metaheuristics, 2014, Vol. 3 (4), pp. 320.
9. Pazhaniraja N., et. al. A study on recent bio-inspired optimization algorithms, 4th int. conf. on signal processing, communication, and network (ICSCN). IEEE, 2017.
10. Nabaei A., et. al. Topologies and performance of intelligent algorithms: a comprehensive review, Artif. Intell. Rev., 2016, Vol. 49 (1), pp. 79-103.
11. Fausto F., et. al. From ants to whales: metaheuristics for all tastes, Artif. Intell. Rev., 2019, Vol. 53 (1), pp. 753-810.
12. Sergienko I. V., Hulianytskyi L.F., Sirenko S.I. Classification of applied methods of combinatorial optimization, Cybern. Syst. Anal., 2009, Vol. 45 (5), pp. 732-741.
13. Kureychik V.V., Rodzin S.I. Vychislitel'nye modeli bioevristik, osnovannykh na fizicheskikh i kognitivnykh protsessakh (obzor) [Computational models of bio heuristics based on physical and cognitive processes (review)], Informatsionnye tekhnologii [Information Technology], 2021, Vol. 27, No. 11, pp. 563-574.
14. Lones M.A. Metaheuristics in nature-inspired algorithms, Proc. conf. companion on Genetic and evolutionary computation companion (GECCO). ACM Press, 2014.
15. Sergeyev Y.D., Kvasov D.E., Mukhametzhanov M.S. On the efficiency of nature-inspired metaheuristics in expensive global optimization with limited budget, Sci. Rep., 2018, Vol. 8 (1).
16. Rodzin S.I., Skobtsov Yu.A., El'-Khatib S.A. Bioevristiki: teoriya, algoritmy i prilozheniya [Bioheuristics: theory, algorithms, and applications]. Cheboksary: ID «Sreda», 2019, 224 p.
17. Hong L., Drake J.H., Woodward J.R., Ozcan E. A hyper-heuristic approach to automated generation of mutation operators for evolutionary programming, Appl. Soft. Comput., 2018, Vol. 62, pp. 162-175.
18. YangX.S. Nature-Inspired Optimization Algorithms. Elsevier, 2014.
19. Fister I., et.al. A Brief Review of Nature-Inspired Algorithms for Optimization, Elektrotehniski Vestnik, 2013, Vol. 80 (3), pp. 1-7.
20. Kumar A. Bio inspired computing - A review of algorithms and scope of applications, Expert Systems with Applications, 2016, Vol. 59, pp. 20-32.
21. Punnathanam V., Kotecha P. Yin-Yang-pair Optimization: A novel lightweight optimization algorithm, Eng. Applications of Artificial Intelligence, 2016, Vol. 54, pp. 62-79.
22. Dokeroglu T., Sevinc E., Kucukyilmaz T., Cosar A. A survey on new generation metaheuristic algorithms, Comput. Ind. Eng., 2019, Vol. 137, pp. 106040.
23. Rodzin S.I., Rodzina L.S. Bioinspirirovannyy poisk resheniy: teoriya i prilozheniya dlya obrabotki problemno-orientirovannykh znaniy v geoinformatike [Bioinspired search for solutions: theory and applications for processing problem-oriented knowledge in geoinformatics], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2015, No. 4, pp. 203-216.
24. LaTorre A., et. al. Fairness in bio-inspired optimization research: a prescription of methodological guidelines for comparing meta-heuristics. - 2020. Published arxiv:2004.09969v1.
25. Del Ser J., et. al. Bio-inspired computation: where we stand and what's next, Swarm Evol. Comput., 2019, Vol. 48, pp. 220-250.
26. Kureychik V.V., Kureychik V.M., Rodzin S.I. Teoriya evolyutsionnykh vychisleniy [Theory of evolutionary computing]. Moscow: Fizmatlit, 2012, 260 p.
27. Liefooghe A., Jourdan L., Talbi E.G. A software framework based on a conceptual unified model for evolutionary multiobjective optimization: ParadisEO-MOEO, Europ. Jour. of Operational Research, 2011, Vol. 209 (2), pp. 104-112.
28. Benítez-Hidalgo A., Nebro A.J., García-Nieto J., Oregi I., Ser J.D. jMetalPy: A Python framework for multi-objective optimization with metaheuristics, Swarm and Evol. Computation, 2019, Vol. 51, pp. 100598.
29. Tian Y., et. al. A MATLAB platform for evolutionary multi-objective optimization, IEEE Computational Intelligence Magazine, 2017, Vol. 12 (4), pp. 73-87.
30. Petrovskiy A.B. Teoriya prinyatiya resheniy [Theory of decision-making]. Moscow: Izd. Tsentr «Akademiya», 2009, 400 p.
31. Rodzin S., Rodzina O. Metaheuristics memes and biogeography for trans computational combinatorial optimization problems, Vroc. of the 6th Int. Conf. - Cloud System and Big Data Engineering, 2016, pp. 1-5.
32. El-Khatib S., Rodzin S., Skobtsov Yu. Investigation of optimal heuristical parameters for mixed ACO-k-means segmentation algorithm for MRI images, Proc. 3rd Int. Scientific Conf. on Information Technologies in Science, Management, Social Sphere and Medicine (ITSMSSM), 2016, Vol. 51, pp. 216-221.
Статью рекомендовала к опубликованию д.т.н., профессор Л.С. Лисицына.
Родзин Сергей Иванович - Южный федеральный университет; e-mail: srodzin@sfedu.ru;
г. Таганрог, Россия; тел.: +78634371673; кафедра математического обеспечения и применения ЭВМ; профессор.
Rodzin Sergey Ivanovich - Southern Federal University; e-mail: srodzin@sfedu.ru; Taganrog,
Russia; phone: +78634371673; the department of software engineering; professor.
