CC BY
441
6. Грешилов А.А. Математические методы принятия решений. - М.: Изд-во МГТУ им. Баумана, 2006.
7. Курейчик В.В., Сороколетов П.В. Архитектуры и стратегии принятия решений. Сборник трудов международной научно-практической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте». Т. 2. - М.: Физматлит, 2007. - С. 397-406.
8. Гладков Л.А., Курейчик В.В., Курейчик В.М. Дискретная математика: Теория множеств, алгоритмов, алгебры логики. - Таганрог: Изд-во ТТИ ЮФУ, 2009
9. Малышев В.В., Пиявский Б.С., Пиявский С.А. Методы принятия решений в условиях многообразия способов учета неопределенности // Известия РАН. Теория и системы управления. - 2010. - № 1. - С. 46-61.
10. Вагин В.Н. и др. Достоверный и правдоподобный вывод в интеллектуальных системах. - М.: Физматлит, 2008. - 712 с.
11. Курейчик В.В. Ковалев С.М. Курейчик В.М. Соколов С.В. Оптические системы с нечеткой логикой в задачах адаптивного моделирования слабоформализованных процессов // Известия РАН. Теория и системы управления. - М.: Физматлит, 2011. - № 3. - С. 111-121.
12. Курейчик В.М. Биоинспирированный поиск с использованием сценарного подхода // Известия ЮФУ. Технические науки. - 2010. - № 7 (108). - С. 7-13.
13. Курейчик В.В., Родзин С.И. О правилах представления решений в эволюционных алгоритмах // Известия ЮФУ. Технические науки. - 2010. - № 7 (108). - С. 13-21.
14. Курейчик В.М., Кажаров А.А. Использование роевого интеллекта в решении NP-трудных задач // Известия ЮФУ. Технические науки. - 2011. - № 7 (120). - С. 30-36.
15. Щеглов С.Н. Современные технологии построения систем поддержки принятия решений // Известия ЮФУ. Технические науки. - 2008. - № 4 (81). - С. 106-111.
Статью рекомендовал к опубликованию д.т.н., профессор Н.И. Витиска.
Щеглов Сергей Николаевич - Технологический институт федерального государственного автономного образовательного учреждения высшего профессионального образования «Южный федеральный университет» в г. Таганроге; e-mail: 1ео@18иге.гак; 347928, г. Таганрог, пер. Некрасовский, 44, ГСП 17А; тел.: 88634371625; кафедра систем автоматизированного проектирования; к.т.н.; доцент.
Shcheglov Sergej Nikolaevich - Taganrog Institute of Technology - Federal State-Owned Autonomy Educational Establishment of Higher Vocational Education “Southern Federal University”; e-mail: [email protected]к; GSP 17A, 44, Nekrasovskiy, Taganrog, 347928, Russia; phone:
+78634371625; the department of computer aided design; head of department; cand. of eng. sc.; associate professor.
УДК 002.53:004.89
В.В. Бова, А.Н. Дуккардт
ПРИМЕНЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ДЛЯ
КОЛЛЕКТИВНОГО РЕШЕНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ ЗАДАЧ*
Изложены возможности интеллектуальных информационных технологий основанных на искусственных нейронных сетях. Выявлены особенности применения нейросетевых систем поддержки принятия решений для различных предметных областей. Рассмотрена возможность применения искусственных нейронных сетей для коллективного решения интеллектуальных задач. Предложен подход, в основе которого лежит одновременное использование нескольких нейронных сетей для получения коллективного решения задачи. Определены тенденции и направления развития нейросетевых технологий.
Интеллектуальные технологии; искусственные нейронные сети; нейросетевые модели; задачи поддержки принятия решений; коллективное решение.
* Работа выполнена при частичной поддержке РФФИ (проекты № 10-07-00538, № 11-07-00064).
V.V. Bova, A.N. Duckardt
APPLICATION OF ARTIFICIAL NEURAL NETWORKS FOR COLLECTIVE DECISION OF COMPLEX INTELLIGENT PROBLEMS
The paper shows intelligent information technology capabilities which are based on artificial neural networks. Also it has been released of aspects of artificial neural networks applying for decision-making system of variety subject areas. In this paper the artificial neural networks applying for making collective decision for complex problem is shown. The approach which is based on the using of multiple neural networks for solving the problem has been released for getting the effective decision of complex intelligent problem.
Intelligent technology; artificial neural networks; neural networks models; decision-making problem; collective decision.
Введение. Информационные технологии на основе искусственного интеллекта и нейронных сетей активным образом проникают во все сферы жизни общества и становятся тем инструментом, с помощью которого успешно решаются вопросы эффективного применения интеллектуальных информационных технологий (ИИТ) и возможностей компьютерных систем при решении сложных прикладных задач.
В работах [1-3] отмечаются характерные особенности задач, решаемых на основе ИИТ: неполнота и неточность исходных данных о решаемой задаче; наличие недетерминизма в процессе поиска решения; высокая вычислительная сложность получения результатов. Перечисленные особенности не позволяют использовать для решения таких задач строгие алгоритмические методы и модели.
В настоящее время активно ведутся исследования в области создания методов, моделей, технологий, систем и средств интеллектуальной поддержки принятия решений (ИППР), основными тенденциями развития которых, являются следующие:
♦ усиливается их ориентация на решение слабо структурируемых и неструк-турируемых проблем, характеризующихся невозможностью использования типовых подходов, основанных на точном описании проблемных ситуаций;
♦ в парадигму систем и средств ИППР включаются методы и модели, основанные на представлении и обработке разнокачественных (в т.ч. и экспертных) данных, знаний;
♦ смещается акцент в сторону «активной» поддержки принятия решений;
♦ все более широкое использование находят принципы модульности, гиб-ридности, адаптивности, «реального времени»;
♦ широко используются методы и технологии интеллектуального анализа данных и знаний.
Помимо методов, моделей и технологий, которые традиционно используются для решения сложных, трудно формализуемых, интеллектуальных задач (например, имитационного моделирования, исследования операций, кластеризации, «классического» искусственного интеллекта), так же ведутся интенсивные исследования в области разработки интеллектуальных технологий, к которым, в первую очередь, относятся нейросетевые технологии.
Особенно важным в этих исследованиях представляется изучение и использование на практике новых подходов и методов для решения сложных задач управления, информационного мониторинга, диагностики, автоматизированного проектирования, распознавания образов, классификации на основе технологий искусственных нейронных сетей (ИНС), эволюционного моделирования и генетических алгоритмов, нечеткой логики, а также различных гибридных технологий (нейро-нечетких, нейро-генетических).
Повышение эффективности реализации в ИППР механизмов обучения, самообучения и адаптации к особенностям проблемной среды определяют актуальность построения гибридных моделей, формирующихся на основе интеграции нейросетевых, мультиагентных и когнитивных технологий.
1. Особенности применения нейронных сетей. Ввиду высокой сложности, а иногда и невозможности, получения формализованного математического описания интеллектуальных задач, наиболее перспективными ИИТ являются быстро развивающиеся технологии ИНС. Однако, проведенный анализ работ [2-5] показал, что ряд задач, связанных с эффективным использованием технологии ИНС, остается нерешенным. К ним относятся: небольшой выбор алгоритмов обучения многослойного персептрона, альтернативных методу обратного распространения ошибки; отсутствие методов автоматической подстройки параметров алгоритма обучения во время процедуры обучения; недостаточно гибкие настройки автоматического останова процедуры обучения; отсутствие методов автоматического формирования топологии нейронной сети; методов интерпретации результатов работы сети.
ИНС обладают следующими неоспоримыми и важными для практического использования преимуществами:
♦ нейросети являются адаптивными самообучающимися системами, извлекающими на примерах информацию из реальных процессов, которые динамически промоделировать достаточно трудно, а зачастую, просто невозможно, т. к. они часто содержат значительный массив скрытых, неконтролируемых, неполных и зашумленных параметров и взаимных связей между ними;
♦ их применение позволяет решать задачи, которые трудно или невозможно решить традиционными методами в силу отсутствия формализованных математических описаний процессов функционирования;
♦ обладают ассоциативной памятью и в процессе работы накапливают и обобщают информацию, от чего эффективность их со временем возрастает;
♦ их использование базируется на обучении нейросети для извлечения информации из опытных данных, что обеспечивает объективность результатов и повышает их надежность и достоверность;
♦ предоставляют возможность распараллеливания вычислений и могут использоваться в реальном масштабе времени.
Главной отличительной чертой ИНС от других методов интеллектуального анализа является глобальность связей. Базовые элементы ИНС - формальные нейроны, изначально нацелены на работу с векторной информацией. Каждый нейрон, как правило, связан со всеми нейронами предыдущего слоя обработки данных. Специализация же связей между нейронами происходит лишь на этапе обучения на конкретных данных.
Архитектура ИНС представляет собой иерархическую последовательность нескольких слоёв (непересекающихся подмножеств). В различных слоях ИНС могут использоваться разные нейроны, но каждый слой ИНС состоит из нейронов одного типа. При этом обработка информации в каждом слое ИНС осуществляется параллельно. Каналы связи между предыдущим и последующим слоями ИНС, чаще всего, являются однонаправленными и имеют регулируемые веса (синаптические параметры). Эти веса связей настраиваются в процессе обучения и самоорганизации архитектуры ИНС по имеющимся экспериментальным данным или прецедентам.
Архитектура ИНС в процессе обучения может меняться за счет изменения связей между нейронами. Каждый формальный нейрон производит простейшую операцию - взвешивает значения своих входов со своими же локально хранимыми
синаптическими весами и производит над их суммой нелинейное преобразование. Нелинейность выходной функции активации нейронов сети принципиальна. Если бы нейроны были линейными элементами, то любая последовательность нейронов также производила бы линейное преобразование, и вся ИНС была бы эквивалентна одному слою нейронов. Нелинейность разрушает линейную суперпозицию и приводит к тому, что возможности ИНС существенно выше возможностей отдельных нейронов.
Традиционно ИНС используются для автономного принятия решений в задачах распознавания образов, диагностики состояний, классификации данных и т. п. По существу эти ИНС являются обучаемыми интеллектуальными агентами, которые настраиваются на индивидуальное решение конкретных задач. Главной задачей ИНС является распознавание сенсорной информации и выработка адекватной реакции на внешние воздействия. При этом они не выполняют внешних алгоритмов, а вырабатывают собственные в процессе обучения, которое представляет собой процесс самоорганизации распределенной вычислительной среды - нейронных ансамблей. В распределенных нейронных сетях происходит параллельная обработка информации, сопровождающаяся постоянным обучением, направляемым результатами этой обработки. ИНС в процессе своего обучения не решают формализованных задач, они отбраковывают неверные решения. Таким образом, элиминация ошибок является основой любого обучения.
2. Двухуровневая процедура коллективного решения интеллектуальных задач. При построении моделей ИППР существует большой класс интеллектуальных задач, требующих не только индивидуальных, но и коллективных решений. При решении таких интеллектуальных задач ИНС можно рассматривать, как на коллектив индивидуумов. Каждый нейрон ИНС является членом данного коллектива. То есть ИНС выступает как механизм оптимизации работы отдельных нейронов при коллективных решениях и является способом согласования индивидуальных мнений, при котором коллективное решение является правильной реакцией на вход. Идея такого подхода состоит в том, что в процессе обучения все нейроны приобретают веса, в соответствии с которыми они участвуют в коллективном решении. Особенность каждого элемента состоит в том, что он действует в некотором подпространстве исходного пространства, характер которого определяется связями между нейронами. Решение, получаемое на выходе сети, можно интерпретировать как средневзвешенное решение коллектива.
Рассмотрим функционирование ИНС с точки зрения теории коллективных решений [6]. Пусть для некоторого входного воздействия Х принимается решение
S. Тогда Б=Я(Х), где Я - некоторый алгоритм принятия решения для входа X. Предположим, что существует Ь различных алгоритмов решения задачи, т.е. Б;=Я;(Х), 1=1, 2,.., Ь, где Б; - решение, полученное алгоритмом Я;. Будем называть множество алгоритмов {Я}={Я1, Я2, ..., Щ.} коллективом алгоритмов решения задачи (коллективом решающих правил), если на множестве решений Б; в любой ситуации Х определено решающее правило Г, т. е. Б=Г(Б1, 82, ..., Бь, X). Алгоритмы Я; принято называть членами коллектива, Б; - решением 1-го члена коллектива, а Б - коллективным решением. Функция Г определяет способ обобщения индивидуальных решений в решения коллектива 8.
Поэтому синтез функции Г, или способ обобщения, является центральным моментом в организации коллектива. Наиболее интересными коллективами алгоритмов являются такие, в которых существует зависимость веса каждого решающего правила Я;. Например, вес решающего правила Я; может определяться соотношением:
1, если X Є Ві, 0, если X £ В1,
(1)
где Ві - область компетентности решающего правила Яі. Веса решающих правил выбираются так, что
для всех возможных значений X. Соотношение (1) означает, что решение коллектива определяется решением того решающего правила Я;, области компетентности которого принадлежит частное решение X. Такой подход представляет собой двухуровневую процедуру решения. На первом уровне определяется принадлежность решения той или иной области компетентности, а уже на втором - вступает в силу решающее правило, компетентность которого максимальна в найденной области. Решение этого правила отождествляется с решением всего коллектива.
3. Комплексный подход к решению задачи с помощью коллектива ИНС. Другим примером сложных задач, требующих принятия коллективных решений, являются глобальные задачи, допускающие естественную (например, иерархическую или мультифрактальную) декомпозицию на множество локальных задач. Для решения таких задач прибегают к коллективу нейронных сетей - это подход, в основе которого лежит одновременное использование конечного числа предварительно обученных нейронных сетей. Этот подход впервые был предложен в работе [6], в которой было показано, что способность к обобщению системы на основе нейронных сетей может быть значительно повышена за счет их объединения в коллектив. Суть такого подхода состоит в том, что решение сложной (глобальной) задачи может быть распределено между интеллектуальными ИНС-агентами, специализирующимися на решении М частных (локальных) задач. Параллельная работа М таких ИНС-агентов может значительно ускорить обработку информации и повысить надежность решения исходной задачи. При решении такого рода задач вводятся специальные агенты-координаторы, которые могут принимать коллективные решения на основе локальных решений остальных N ИНС-агентов с помощью принципов теории принятия решения или различных процедур голосования [6-8]. При этом все локальные решения принимаются параллельно, что ускоряет принятие коллективного решения в N раз.
В ряде случаев глобальная самоорганизация ИНС-агентов обеспечивается иерархической, фрактальной или мультифрактальной декомпозицией общей задачи на N подзадач. При этом степень внешнего параллелизма в мультиагентной нейросетевой системе определяется параметром N характеризующим одновременную работу N локальных ИНС-агентов.
К настоящему времени такой метод решения интеллектуальных задач был значительно развит и успешно применен в различных сферах, таких как распознавание лиц, распознавание символов, предсказание землетрясений и т.п. В общем случае решение задачи с помощью коллектива нейронных сетей предполагает формирование и обучение конечного множества нейронных сетей, претендующих на то, чтобы их решение было учтено в общем решении, а затем определение такого способа согласования индивидуальных решений, чтобы общее итоговое решение было наилучшим. Например, наиболее распространенными вариантами комбинирования решений отдельных нейронных сетей являются равноправное или неравноправное голосование для задач классификации и простое или взвешенное усреднение для задач регрессии [8]. Наиболее разработаны варианты с взвешенным усреднением или неравноправным голосованием. Например, в работе [7] для оценки весовых коэффициентов вклада отдельных нейронных сетей в общее решение используется оценка качества их индивидуальных решений, а так же для определения весовых коэффициентов принятых решений может использоваться генетический алгоритм [9, 10].
%=1к(Х) = 1
(2)
В общем случае комплексный подход к решению задачи с помощью коллектива нейронных сетей включает в себя два этапа. Для использования в системах анализа данных желательно, чтобы оба эти этапа были автоматизированы. Первый этап предполагает формирование структуры и обучение нейронных сетей, которые будут включены в коллектив или предварительный пул.
Второй важнейший этап включает в себя отбор тех сетей, с помощью решений которых будет сформировано итоговое решение, а так же определение способа и параметров формирования общего решения. Для повышения эффективности выполнения этого этапа предлагается подход, позволяющий автоматически выбирать из сформированного предварительно пула нейронные сети, участвующие в принятии коллективного решения, сформированного в виде различных преобразований и комбинаций (линейных и нелинейных) отдельных участников коллектива нейронных сетей. Предполагается, что, используя коллектив ИНС, возможно найти более эффективное решение задачи с помощью формирования более сложных комбинаций решений отдельных нейронных сетей, чем простое или взвешенное усреднение и равноправное или неравноправное голосование.
Общее коллективное решение, сформированное с помощью коллектива ИНС, представляет собой некоторую функцию, входными параметрами которой являются частные решения нейронных сетей, включенных в коллектив:
Q=f(Ql,Q2,.,Qn), (3)
где Q - общее решение, Qi - индивидуальное решение I -й сети, п - число сетей в коллективе. Такой подход позволяет расширить гибкость системы, за счет отсутствия твердо закрепленной структуры взаимодействия между индивидуальными сетями, формирующими коллектив. При этом формируется не только структура взаимодействия между членами коллектива, но и косвенно (т. е. за счет включения или не включения соответствующих аргументов в формулу общего решения) отбирает те нейронные сети, решения которых будут наиболее полезны в плане эффективности решения интеллектуальной задачи.
Как было отмечено выше, для интеграции решений частных ИНС, как правило, применяется принцип взвешенного голосования [8].
При синтезе коллективного классификатора основной задачей является построение областей компетенции частных классификаторов. Под областью компетенции понимается подмножество объектов признакового пространства, в пределах которого определена сфера действия частного классификатора с заданным подмножеством распознаваемых образов. В данной работе предлагается определять области компетенции частных нейросетевых классификаторов из условия статистической однородности взаимного поведении признаков.
Для формализации схемы взвешенного голосования введем коэффициент надежности классификации р.ц <1 образа ИНС частным классификатором. Определим этот коэффициент как долю объектов с заданным значением образа, попадающих в область компетенции ;-го классификатора
Ы = т§, (4)
где Г(]) - накопленная частота решения ] в исходной базе данных, Г(]) - накопленная частота решения для частной ИНС в его собственной области компетенции. Голосующая функция ]-го класса определяется выражением:
Ч] =1,1^1], (5)
здесь суммирование производится по всем ИНС. В данной сумме значение берется равным нулю, если решение X не принадлежит области компетенции частной ИНС. Решение о принадлежности решения X некоторой области компетентности А принимается по следующему правилу:
X е Aj* если qj* = maxqj. (6)
Заключение. Коллективное использование ИНС в качестве нейросетевых агентов позволяет дополнительно распараллелить и распределить между локальными ИНС-агентами процессы решения сложных, трудноформализуемых интеллектуальных задач, таких как задачи распознавания образов, анализа изображений и сцен, векторной диагностики состояний и адаптивной маршрутизации и классификации информационных потоков [11].
Однако применение одной ИНС при решении сложных задач, не всегда приводит к получению качественных решений, поэтому наиболее перспективным является направление объединения различных моделей ИНС, предназначенных для решения конкретных задач и выработки некоторого коллективного решения, являющегося наиболее оптимальным.
В результате проведенного исследования авторы выделяют основные направления развития нейросетевых технологий при решении сложных интеллектуальных задач:
♦ разработка новых разновидностей нейроподобных элементов ИНС;
♦ комплексирование нейросетевых моделей различных типов;
♦ создание новых и совершенствование существующих алгоритмов обучения ИНС;
♦ разработка способов и методик построения и использования ИНС для решения задач в различных предметных областях.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Бова В.В., Курейчик В.В., Нужное Е.В. Проблемы представления знаний в интегрированных системах поддержки управленческих решений // Известия ЮФУ. Технические науки. - 2010. - № 7 (108). - С. 107-113.
2. Бова В.В. Модели предметных знаний на основе системно-когнитивного анализа // Известия ЮФУ. Технические науки. - 2010. - № 7 (108). - С. 146-153.
3. Тимофеев А.В. Мульти-агентные робототехнические системы и нейросетевые технологии // Известия ЮФУ. Технические науки. - 2010. - № 3 (104). - С. 20-23.
4. Нагоее З.В., Бозиее А.О. Классификация изображений на основе модели онтонейроморфогенеза // Известия Кабардино-Балкарского НЦ РАН. - 2011. - № 1. - С. 196-200.
5. Осоеский С. Нейронные сети для обработки информации / пер. с польск. - М.: Финансы и статистика, 2002. - 344 с.
6. Zhou Z.H., Wu J., Tang W. Ensembling neural networks // Many could be better than all, Artif. Intell. - 2002. - Vol. 137, № 1-2. - Р. 239-263.
7. Ляхов А.Л., Алешин С.П. Искусственная нейронная сеть как измерительный инструмент адекватности модели с адаптивным классом точности // 4-я МНПК «Математическое и имитационное моделирование систем»: Тезисы докладов. - Киев: ИПММС НАН Украины, 2009. - С. 116-119.
8. Воеводин Ю.Ю., Комарцова Л.Г. Применение генетического алгоритма для оптимизации параметров нейронной сети в задачах классификации // Информатика: проблемы, методология, технологии. - М.: Изд-во МГТУ им Баумана, 2005. - С 42-46.
9. Курейчик В.М. Проблем, обзор и параллельные генетические алгоритмы: состояние // Известия РАН. Теория и системы управления. - М., 2010. - № 4. - С. 72-82.
10. Дуккардт А.Н., Лебедев Б.К. Комплексный гибридный генетический алгоритм // Известия ЮФУ. Технические науки. - 2008. - № 4 (81). - С. 26-32.
11. Кравченко Ю.А. Метод создания математических моделей принятия решений в многоагентных подсистемах // Известия ЮФУ. Технические науки. - 2011. - № 7 (1120). - С. 141-145.
Статью рекомендовал к опубликованию д.т.н., профессор Ю.А. Гатчин.
Бова Виктория Викторовна - Технологический институт федерального государственного автономного образовательного учреждения высшего профессионального образования «Южный федеральный университет» в г. Таганроге; e-mail: [email protected]; 347928, г. Таганрог, пер. Некрасовский, 44, ГСП 17А; тел.: 88634371651; кафедра систем автоматизированного проектирования; старший преподаватель.
Дуккардт Александр Николаевич - e-mail: [email protected]; кафедра систем автоматизированного проектирования; ассистент; к.т.н.
Bova Victoria Victorovna - Taganrog Institute of Technology - Federal State-Owned Autonomy Educational Establishment of Higher Vocational Education “Southern Federal University”; e-mail: [email protected]; GSP 17A, 44, Nekrasovskiy, Taganrog, 347928, Russia; phone: +78634371651; the department of computer aided design; senior teacher.
Duckardt Alexander Nikolaevich - e-mail: [email protected]; the department of computer aided design; cand. of eng. sc.; assistant.
УДК 510.22
Л.А. Целых
МЕТОДЫ НЕЧЕТКОЙ ЛОГИКИ И ЛИНГВИСТИЧЕСКОГО ПОДХОДА ПРИ РЕШЕНИИ ЗАДАЧ SWOT-АНАЛИЗА
Данное исследование применяет метод нечеткой логики для улучшения удобства и простоты использования SWOT-анализа. Отправной точкой является разделимость стратегических альтернатив по совместимости SWOT-факторов. Этот подход иллюстрируется моделью, в которой в качестве факторов, влияющих на принятие потребителем (абитуриентом) решения о выборе вуза рассматриваются социально-психологические и экономические переменные. Цель применения метода нечеткой логики состоит в улучшении количественного информационного обоснования стратегических процессов планирования, приводит к аналитически определенным приоритетам для факторов, включенных в анализ, и делает их соизмеримыми.
SWOT-анализ; нечеткие условия; порог разделения; совместимость SWOT-факторов; граф нечеткого отображения.
L.A. Tselykh
METHODS OF FUZZY LOGIC AND LINGUISTIC APPROACH TO SWOT ANALYSIS
This research develops and applies a method of fuzzy logic that contributes to the convenience and ease of use of SWOT analysis. The departing point is a separability of strategic alternatives on the compatibility of SWOT factors. This approach is illustrated by the model in which a number of social-psychological and economic variables are the factors affecting the adoption by the customer (the applicant) of the decision on the choice of University. The purpose of the method is to improve the quantitative information grounds of strategic planning processes. Methodology of fuzzy sets for SWOT analysis results in analytically defined priorities for the factors included in the analysis and makes them comparable.
SWOT analysis; fuzzy conditions; threshold of the division; compatibility of SWOT factors; graph of fuzzy mapping.
