УДК 681.142.342
И.В. Котенко, Н.А. Лихванцев МНОГОАГЕНТНАЯ ТЕХНОЛОГИЯ ЭКСПЕРТНОЙ КРИТИКИ ДЛЯ ИНТЕЛЛЕКТУАЛЬНОЙ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ
1. Введение. Ввиду сложности и слабой формализуемости процессов проектирования, особенно на ранних стадиях, как неопытные проектировщики, так и -,
.
возможных ошибок состоит в применении специально интегрируемых в традиционные системы автоматизированного проектирования или используемых автономно в виде многоагентной системы экспертной критики - агентов экспертной критики (АЭК), основанных на формализованных знаниях проектировщиков и много.
"Традиционные" интеллектуальные компоненты автоматизированного проек-, , реализации комплекса разнообразных механизмов вывода и оперирования большими объемами распределенных знаний, вследствие чего, как правило, обладают ограниченной производительностью, надежностью, гибкостью и модульностью. Интеллектуальные системы автоматизированного проектирования нового поколения должны строиться в виде комплекса независимых распределенных программ,
проектировщиков в соответствии с механизмами координации, кооперации и сотрудничества [3,4].
АЭК как согласованная система агентов принадлежит к данному классу многоагентных систем. Они получают на входе описание задачи и (или) предложенный проектировщиком вариант решения или действия, а в качестве результата генерируют критику решений и действий. Подобная критика воздействует на проектировщиков с целью интенсификации их творческих возможностей, что позволяет направлять их последующие действия, ограждать от совершения ошибок в рассуждениях или действиях и реализовать корректировку неверных (нерациональных) решений [5]. АЭК в большей степени ориентированы на поддержку работы проек-
- .
, ( ) экспертной критики составляют две дополняющие друг друга, но отличающиеся парадигмы реализации интеллектуальных систем. В отличие от компонентов экс,
задачи и генерируют на выходе варианты решений. Экспертные компоненты (в “чистом” виде) не предназначены для оценивания предложенных проектировщиками вариантов решений и обеспечивают обратную связь с ними только через объяснения. Данные компоненты ориентированы, главным образом, на поддержку работы неопытных проектировщиков.
В работе предлагается подход к построению АЭК для интеллектуальной поддержки процессов принятия решений при проектировании: дается краткий обзор основных подходов в области создания систем экспертной критики, описываются функции базовых АЭК, раскрывается модель функционирования агентов (апостериорного и априорного) определения вероятных мест совершения ошибок проек-,
,
.
2. Анализ работ в области экспертной критики. В большинстве работ по экспертной критике, опубликованных до начала 90-х годов (например, [5-7]), разработчики полагались на подход, базирующийся на необходимости избегать прерывания работы пользователей (возможно даже совершающего действие, приво-
), -ний и не допускать отвлечения квалифицированных экспертов от принятия решений. Анализ использования традиционных систем экспертной критики показал, что парадигма экспертной критики является плодотворной, но имеются недостатки в способах ее реализации, обусловленные стратегией пассивного послезадачного анализа вариантов решений. Проведенные исследования выявили, что традиционный подход к экспертной критике предлагает слабый (а иногда и неадекватный) фундамент для построения интеллектуальных систем. В качестве шага по исправлению выявленных недостатков в целях разработки адекватной теории критики было создано несколько систем экспертной критики и предложены принципы построения систем критики нового поколения, в основном изложенные еще в работах [8-11] . “ -вязчивой интерактивной инкрементной критики, выполняемой перед, во время и после выполнения задач проектирования и использующей сети решений, задающие
” [1].
подход к построению АЭК основан на развитии этих принципов и использовании
.
3. Общие требования к агентам экспертной критики. В соответствии с
предлагаемым в работе подходом АЭК должны обеспечивать выполнение следующих требований [9,1]: АЭК должны представлять собой скоординированную систему взаимодействующих распределенных агентов, обеспечивающих поддержку принятия решений коллективов проектировщиков; АЭК должны помочь проектировщикам использовать больше намерений (просмотреть большее число вариан-
тов решений) и, следовательно, получить более обоснованные результаты; критика должна помогать проектировщикам до того, как они совершат ошибочные действия, поэтому кроме механизмов пакетной послезадачной критики должны использоваться также "побудители" и компоненты обучения, активизируемые перед вы. -
шений, которые не удовлетворяют ограничениям, а также "намекать на" приемле-, -
терию; процесс реализации критики должен являться процессом взаимной коммуникации и сотрудничества, в котором и проектировщики, и АЭК вовлечены в поиск рациональных вариантов решений; критика должна быть гибкой и адаптивной, для чего АЭК должны иметь возможность отказа от продолжения критики, посто-
янно пытаться реализовать альтернативные подходы и в соответствующее время допускать, что проектировщики действуют правильно; критика должна быть ориентирована на конкретных проектировщиков, основываться на их моделях, обеспечивая возможность переключения используемого типа критики в зависимости от категорий разработчиков и уровня их навыков; АЭК должны поддерживать обучение пользователей - важно выдавать четкое объяснение, почему критикуемое решение является недопустимым, какие есть способы разрешения данной ситуации; АЭК должны иметь возможность отображать аналогичные с решаемой задачей
- . Необходимо учитывать роль, которую могут играть механизмы вывода по аналогии для реализации экспертной критики (за счет динамической фиксации успешных вариантов решений и трасс их получения, показа аналогов и вариантов реше-);
манипулирования и визуальную критику, допускать комбинирование различных форм представления критики.
Для построения АЭК необходима разработка, по крайней мере, двух типов , : ошибок, позволяющих определить (предвидеть) место и причину ошибок проекти; , -верные варианты решений. Релевантные исследования в области интеллектуальных систем посвящены, в основном, описанию типов ошибок, совершаемых неопытными пользователями (новичками) [12,13], но не затрагивают вопросов построения моделей ошибок, совершаемых пользователями - экспертами.
4. Функции агентов экспертной критики. В качестве основных функций : -ния и ограничений предметной области, определение типа ошибок и причин их ,
разработчиков; определение вероятных (прогнозируемых) ошибочных вариантов решений и нерациональных или неверных действий разработчиков, которые могут быть сделаны на тех или иных шагах проектирования и возможного ограждения от них; обеспечение двухсторонней "обратной связи" между АЭК и разработчиками с целью обмена " идеями" и взаимообучения; адаптацию основанных на знаниях компонентов системы автоматизированного проектирования [1,2].
АЭК предлагается строить с использованием трех базовых классов агентов.
“ ”, -ное влияние на проектировщиков. Второй класс агентов служит для манипулирования онтологией предметной области проектирования и поддержания знаний в актуальном состоянии [14]. К третьему классу агентов относятся мета-агенты, обеспечивающие управление действиями других агентов экспертной критики. Такое разделение агентов удобно, в первую очередь, тем, что упрощается задача переносимости из одной предметной области проектирования в другую введением в систему других агентов, а также задача модификации знаний и обучения агентов.
В состав указанных классов базовых агентов АЭК входят следующие агенты.
Агенты “действия” классифицируются на агентов оказания влияния, обнару-, , .
Агенты оказания влияния ("побудители") предназначены для реализации ""
возможностей в целях обхода возможных ошибок. Они функционируют до или в течение реализации определенной задачи проектирования (перед тем, как проектировщик совершит ошибку) и используют инкрементный способ взаимодействия и эвристический вывод. Используемые этими агентами механизмы включают: наме-, , -клонений от правильных решений; показ решений по проектированию, принимаемых по умолчанию, шаблонов и аналогов вариантов проектируемых объектов, примеров и ссылок; объяснение принципов построения объектов проектирования и реализации процессов проектирования; повторение некоторых действий (часто в ) , , ;
, .
Агенты обнаружения отклонений служат для выявления совершенных проектировщиками ошибок и обеспечения "отрицательной" обратной связи АЭК с проектировщиками (посредством их информирования о совершенных ошибках и ).
( ) . :
идентификацию отказа от использования нормативных способов, планов и алгоритмов проектирования за счет применения доступных эвристик, количественных или качественных средств моделирования и др.; объяснение результата и причин привлечения внимания проектировщиков; коррекцию действий путем специализации, обобщения, вывода по аналогии, замены, приспособления и перефокусировки внимания для нахождения более продуктивного пути решения задачи; использование визуальной обратной связи путем применения различных цветов и т.п. для выделения неверных решений.
Агенты обнаружения отклонений подразделяются на агентов определения вероятных мест совершения ошибок и агентов анализа и типизации ошибок. Агенты (апостериорного и априорного) определения вероятных мест совершения ошибок осуществляют определение мест совершения ошибок на основе сведений о действиях и вариантах решений проектировщиков, знаниях о методике и частных моде, -ектировщиках. Эти агенты используют специальную "карту решения задачи", предназначенную для определения узких мест в пространстве альтернативных путей решения задачи, что позволяет проектировщикам не придерживаться жесткого , . Агенты анализа и типизации ошибок идентифицируют ошибку и на основе сведений о конкретной ошибке и знаний о проектировщиках делают вывод о типе сделанной ошибки и причинах ее возникновения. Для априорной оценки эти агенты реализуют прогноз типа и причин возможных ошибок.
Агенты направления помогают проектировщикам устранять ошибки и отклонения в процессе проектирования, указывая возможные направления действий. Они определяются специальными процедурами направления, зависящими от решаемых задач проектирования, намерений проектировщиков и задействованного фрагмента предметной области проектирования.
Агенты пояснения предназначены для улучшения восприятия и понимания проектировщиками реализуемой критики. Например, когда стратегия критики требует представления некоторой информации, агенты пояснения могут отобразить ее в виде гипертекста, чтобы скрыть ту информацию, в которой вначале нет необхо-, -тики. Другой пример использования этих агентов - реализация визуальной помощи за счет различных способов представления информации на экране, применения интерфейса непосредственного манипулирования, задействования различных цветов и т.п.
Агенты усиления применяются, когда агенты направления и пояснения не в состоянии обеспечить устранение смещения или ошибки. Агенты усиления реализуют механизмы повторения, убеждения и аргументации. Механизмы повторения позволяют несколько раз (р^личными способами) выполнить ту же самую страте.
( , , ). -низмы аргументации служат для объяснения важности критики, показа альтернативных точек зрения.
Агенты онтологии служат для обслуживания общего хранилища информации
о проектировании. Выделены агенты оперирования следующими знаниями: о методике и моделях проектирования, о предметной области и разрабатываемом проекте, о механизмах экспертной критики, о проектировщиках.
Агенты оперирования знаниями о методике и моделях проектирования используют общие модели процессов проектирования, модели процессов выработки и принятия решений, модели процессов формирования и обработки документов, включающие в том числе знания об этапах, задачах, условиях и ресурсах проекти,
.
Агенты оперирования знаниями о предметной области и разрабатываемом проекте дают возможность АЭК манипулировать знаниями об организационнотехническом построении проектируемых объектов и фундаментальных физических законах их функционирования, требуемыми для реализации проектирования.
Агенты оперирования знаниями о механизмах экспертной критики предоставляют знания об оказании на проектировщиков необходимых воздействий. Согласуясь с методологией психологической стимуляции творческой деятельности, они позволяют дифференцированно подходить к критике проектировщиков с разным уровнем знаний и умений, отличающихся параметрами психотемпераментной .
Агенты оперирования знаниями о проектировщиках, в т.ч. о психотемпераментной модели проектировщиков, базируются на использовании динамических
,
зависимости между основными параметрами проектировщиков и склонностями к совершению определенных видов ошибок и проявлению смещений в мыслитель.
Мета-агенты ответственны за координацию, кооперацию и сотрудничество других агентов экспертной критики. На основании сведений о совершенных ошибках и параметров моделей проектировщиков мета-агенты определяют адекватные
механизмы воздействия. Другими словами, эти агенты позволяют определить, ка, , -ствляться воздействие на проектировщиков. С использованием мета-агентов совокупность релевантных механизмов критики связывается в сети решений, образующих кластеры механизмов критики. Применение сети решений позволяет сопоставить конкретным типам ошибок различные механизмы критики, выбор которых осуществляется на каждом шаге генерации диалога "проектировщик - АЭК".
5. Модель функционирования агентов определения вероятных мест со.
системы экспертной критики является реализация агентов (апостериорного и априорного) определения вероятных мест совершения ошибок проектировщиками. Для решения данной задачи необходимо определить, на каком этапе выполнения работы находится проектировщик, и, соотнеся эти данные с его психотемпера-, , ,
. -ной области проектирования на основе нечётких семантических сетей.
Для построения агентов оценки вероятных мест совершения ошибки предла-
“ ”. “ -ты решения задачи” необходимо адекватное описание рассматриваемого этапа процесса проектирования, отражающее ход решения задачи. “Карты решения зада” ,
, , -ми частями проектируемой системы. Каждая сущность “снабжается” свойствами,
( ).
Дуги между узлами сети определяют различные отношения (например, отношение “ - ”). , данной степени детализации считаются неделимыми.
Атрибуты всех сущностей взаимосвязаны. Например, по вертикали значения атрибутам АЛГ уровня N присваиваются, исходя из значений атрибутов Ам-1 нижележащего смежного уровня N-1. Зависимости между А¿г и А^_1 можно представить в виде А^г = И [[ (А^_1)], где И и /- семантические функции преобразования (/- функция преобразования значения одиночного атрибута, а И - функция преобразования значений комбинаций атрибутов). С каждым атрибутом каждой сущности сопоставлены процедуры присвоения им конкретных значений.
Проектировщик в процессе проектирования выполняет ряд действий по присвоению значений атрибутам сущностей проектирования, пользуясь при этом связанными с этими атрибутами процедурами. Действия проектировщика в процессе решения задачи можно представить в виде ориентированного нечеткого вероятно, -
,
другой, обеспечивающие непротиворечивость и целостность всего проекта. Нечеткость графа заключается в том, что число процедур и конкретные вероятности переходов априорно не известны и определяются в ходе выполнения проекта с помощью семантической метрики графа.
Семантическая метрика графа определяется посредством использования эв,
и выполняемых действиях проектировщика ранжирует все выполненные и текущие процедуры в соответствии с принадлежностью к подпроцессам проектирования. Между этими подпроцессами априорно уже известны вероятностные переходы на основании знаний об ограничениях предметной области и процесса проектирова-.
Г раф проецируется на семантическую сеть, позволяет находить ошибки, связанные с переходами между процедурами, нарушающими целостность и непроти-.
В рамках ранжированных и соотнесенных к конкретному подпроцессу процедур выполняются однотипные апостериорные проверки целостности и корректности значений атрибутов, а по значениям вероятностей переходов и результатам проверки полноты значений атрибутов сущностей, присвоенных в рамках текущего , .
При реализации текущей процедуры проектировщик выполняет ряд элемен-, 1, -ством множества X всех возможных действий. При этом для данной процедуры назначается множество К, состоящее из к нечетких кортежей длины п (п-ок) необходимых действий проектировщика, и множество Я, состоящее из г нечетких п-ок
. п- -
ленности состава элементов множеств Я и К, входящих в состав п-ок.
При фиксировании действий проектировщика все элементы множества Х1 выстраиваются в п-ку, которая затем сравнивается с множеством И=ЯпК, и при выполнении неравенства ИгХ^0 принимается решение о выполнении той или .
6. Сценарии взаимодействия агентов экспертной критики. При решении задач проектирования ошибки или смещения сначала предотвращаются путем использования агентов оказания влияния. Если этот шаг терпит неудачу, то сразу после решения задачи ошибки или отклонения критикуются с использованием агентов обнаружения отклонений. Агенты направления активизируются при реализации последовательностей действий по устранению ошибок. Агенты пояснения и усиления используются на всем цикле решения задачи. Все эти агенты обмениваются необходимой для функционирования информацией. Мета-агенты определяют механизмы воздействия на проектировщиков. Используя сведения от агентов оперирования знаниями о проектировщиках, мета-агенты могут использовать несколько схем диалога и сеть переключателей, которые изменяют режимы взаимодействия АЭК с проектировщиками. Причем предусматривается частично избыточная реализация этих механизмов для перекрытия множества вероятных причин ошибок и отклонений.
“Агенты действия” обращаются к соответствующим агентам онтологии за необходимыми знаниями и передают им знания, полученные от проектировщиков (в
). -кацию хранилища информации посредством фиксации новых и изменения старых знаний, в т.ч. запоминания генерируемых проектировщиками вариантов решений и трасс их получения, так чтобы не повторять прошлые ошибки. База знаний наращивается по мере добавления новых вариантов решений. Это приводит к тому, что
чем больше проектировщики приспосабливают АЭК к своим потребностям, тем более полезными они становятся и тем интенсивнее используются. В процессе проектирования могут участвовать различные разработчики и может происходить смена их состава. Агенты критики предоставляют проектировщикам те знания и опыт, которыми проектировщики пока не обладают, но должны иметь для эффективной реализации проектирования. С помощью комбинированного использования указанных механизмов реализуется критика, адекватная текущей задаче, условиям проектирования и модели проектировщика.
7. Прототипы агентов экспертной критики и оценка эффективности их .
поддержки принятия решений при проектировании и планировании использования телекоммуникационных систем на базе средств Бе1рЫ созданы прототипы основ. -
,
.
"доски объявлений", служащей для представления вариантов решений, ведения переговоров и координации.
Решения по построению АЭК опробовались на аналитических и имитационных моделях процессов проектирования и планирования использования телеком,
агентов. Для оценки эффективности процессов проектирования в качестве существенных свойств были выбраны: своевременность, обоснованность (полнота, , ), . свойств проводилась для случаев реализации традиционной технологии и различных вариантов предлагаемой технологии проектирования. Проведенная оценка эффективности позволила сделать вывод о достижении требуемых значений и значительном выигрыше по основным показателям существенных свойств проектирования при реализации предлагаемой технологии по сравнению с существующей как для проектировщиков, являющихся новичками, так и для экспертов в данной .
Проведенные исследования показали, что интерактивная инкрементная кри-, ,
, , представления и отсутствие некоторых знаний. Агенты критики вводят интеллектуальный уровень в среду автоматизированного проектирования, поддерживая проектировщиков средствами обнаружения и обработки ошибок. Проектирование тем более удобно, чем больше проектировщики используют АЭК. Однако следует , , информации добавляются решения, содержащие ошибки. Разумное разграничение доступа и контроль вводимых знаний агентами онтологии должно привести к минимизации этих негативных аспектов.
ЛИТЕРАТУРА
1. Котенко И.В. Теория и практика построения автоматизированных систем информационной и вычислительной поддержки процессов планирования связи на основе новых информационных технологий. СПб: ВАС. 1998.
2. Kotenko I.V. Application of Hybrid Agent-Based Technology for Design of Telecommunication Systems // Proceedings of the First International Workshop of Central and Eastern Europe on Multi-agent Systems. CEEMAS'99. St. Petersburg. 1999.
3. Wooldridge M., Jennings N. Agent Theories. Architectures, and Languages: A Survey // Proceedings of the Workshop on Agents Theories. LNAI, V.890, 1995.
4. Brenner W., Zarnekow R., Wittig H. Intelligent Software Agents. Foundations and Applications. Springer-Verlag, 1998.
5. Silverman B.G. Critiquing Expert Judgment via Knowledge-Acquisition Systems // AI Magazine, 1990, V.11, N 3.
6. Langlotz C., Shortliffe E. Adapting a Consultation System to Critique User Plans // International Journal of Man-Machine Studies, 1983, V.19.
7. Miller P. Attending: Critiquing a Physician's Management Plan // IEEE Transactions on Pattern Analysis and Machine Intelligence, 1983. PAMI-5.
8. Silverman B.G. Expert Critics: Operationalizing the Judgment / Decision-Making Literature as a Theory of Bugs and Repair Strategies // Knowledge Acquisition, 1991, V.3.
9. Silverman B.G., Mezher T.M. Expert Critics in Engineering Design: Lessons Learned and Research Needs // AI Magazine, 1992, V.13, N 1.
10. Gertner A.S. Real-Time Critiquing of Integrated Diagnosis/Therapy Plans. Proc. Of Workshop on Expert Critiquing Systems. AAAI. 1993.
11. Mengshoel O.J. Plan Recognition and Critiquing for Crisis Management Training. Work-in-progress report. KBSG, CS Dpt. University of Illinois at Urbana-Champaign. 1995.
12. . . -ных обучающих системах // Изв.РАН. Техн. кибернетика, 1992. N 5.
13. . . : -
ции (обзор) // Изв. РАН. Техническая кибернетика, 1993. N 2.
14. Guarino. Formal ontology, conceptual analysis and knowledge representation. Int. J. HumanComputer Studies, 1995, No.43.
УДК 007:681.518.2
В.И. Городецкий, О.В. Карсаев1.
МНОГОАГЕНТНАЯ СИСТЕМА ПЛАНИРОВАНИЯ И СОСТАВЛЕНИЯ РАСПИСАНИЙ: РАЗРАБОТКА РАСПРЕДЕЛЕННОЙ БАЗЫ ЗНАНИЙ
Абстракт. Подход к разработке систем планирования и составления расписаний с использованием многоагентной технологии рассматривается специалистами в настоящее время как один из наиболее перспективных. В данной статье предлагается технология разработки такой системы с акцентом на разработку распределенной базы знаний, компонентами которой являются базы знаний интеллектуальных агентов. Знания агентов разделяются на формальные и эвристические. Формальные знания отвечают тем знаниям, которые задают ограничения задачи и другие компоненты задачи нормативного характера. Эвристические знания частично отражают субъективный опыт экспертов, а частично являются результатом анализа и обобщения их положительного и отрицательного опыта, получаемого на основе обучения системы по прецедентам. Формализация эвристических знаний наклады-
1 Работа выполнена при поддержке РФФИ, грант №99-01-00733