CC BY
104
ПРОЦЕССЫ УПРАВЛЕНИЯ ИНТЕЛЛЕКТУАЛЬНЫМИ СИСТЕМАМИ
1 2 В.В. Грибова , A.C. Клещев
Институт автоматики и процессов управления Дальневосточного отделения РАН 1 gribova@iacp.dvo.ru, 2kleschev@iacp.dvo.ru
Аннотация
В данной работе рассматриваются новые идеи, связанные с управлением интеллектуальными системами. Обсуждаются предпосылки этого направления исследований. Определена структура системы управления интеллектуальными системами, дана классификация задач управления. Вводятся общие проблемно-независимые механизмы ручного (интерактивного), автоматического и автоматизированного управления информационными ресурсами различных уровней общности (онтоло-гиями, базами знаний и базами данных), решателями задач и пользовательскими интерфейсами интеллектуальных систем. Для каждого класса задач выделены проблемы, а также возможные методы их решения. Приведены результаты, полученные к настоящему времени по управлению интеллектуальными системами.
Ключевые слова: интеллектуальные системы, онтология, база знаний, решатель задач, пользовательский интерфейс.
Введение
Проблема повсеместного использования интеллектуальных систем в различных областях человеческой деятельности остается к настоящему времени острой и нерешенной, несмотря на успехи, как в области искусственного интеллекта, так и в области технологии программирования. В работе [1] обсуждались причины, по которым интеллектуальные системы не получили широкого практического использования, основной из которых является несоответствие пользовательских свойств таких систем требованиям, предъявляемым к ним.
Для того чтобы разработка любой программной системы, в том числе и интеллектуальной, была экономически оправдана, необходимо, чтобы она, с одной стороны, имела как можно более длинный жизненный цикл, а с другой, чтобы эта программная система была ориентирована на как можно большую аудиторию пользователей. Статистика утверждает, что за время жизненного цикла примерно треть всех усилий затрачивается на разработку программной системы, а две трети - на сопровождение. Указанные факторы привели к смещению фокуса внимания исследователей с методов и техники разработки программных систем к задачам их сопровождения в процессе жизненного цикла.
Чтобы избежать ситуации, когда затраты на сопровождение программной системы могут превысить выгоды от ее использования, она должна быть управляемой или жизнеспособной (адаптируемой и адаптирующейся). Для этого было предложено процесс сопровождения программной системы, под которым понимается изменение ее кода, заменить процессом управления, под которым понимается решение задач сопровождения программной системы с помощью специальных высокоуровневых механизмов управления, сводящих к минимуму изменение ее кода [2]. В основе технологии разработки таких систем лежит принцип: все проектные решения, влияющие на пользовательские свойства системы, должны совершенствоваться в процессе накопления опыта ее использования. Эти идеи вызвали оживленную дискуссию среди программистов, однако не нашли никакого отклика в литературе по интеллектуальным системам, хотя именно там их применение может быть особенно эффективным.
Целью работы является обсуждение проблем, связанных с управлением интеллектуальными системами, возможных методов их решения, а также обсуждение результатов, полученных коллективом, в котором работают авторы, по управлению интеллектуальными системами.
1 Классификация задач управления интеллектуальными системами
Архитектуру интеллектуальной системы в первом приближении можно представлять себе как взаимосвязанную тройку, состоящую из базы знаний (и других информационных ресурсов - баз данных, онтологии, метаонтологий и т.п.), решателя задач, реализующего функциональность системы, и пользовательского интерфейса. Частные цели управления этими тремя компонентами интеллектуальной системы в общем случае различны и в определенной степени независимы. В соответствии с этим в архитектуре системы, управляющей интеллектуальной системой, будем выделять три подсистемы: подсистему управления информационными ресурсами, подсистему управления решателем задач и подсистему управления пользовательским интерфейсом.
Исходя из того, что в архитектуре интеллектуальной системы, как объекта управления, можно выделить три самостоятельных компоненты (информационные ресурсы, в том числе база знаний, решатель задач и пользовательский интерфейс), а в системе, управляющей программной системой, три типа подсистем: ручного управления (интерактивное изменение свойств программной системы человеком), автоматического управления (изменение свойств программной системы без участия человека) и автоматизированного управления (смешанный тип управления), - задачи управления интеллектуальными системами можно разделить на 9 классов (рисунок 1). План дальнейшего изложения будет соответствовать строкам этой таблицы.
Информационные Решатель задач Пользовательский
ресурсы интерфейс
Ручное управление
(интерактивное изменение свойств программы человеком)
Автоматическое управление
(автоматическое, безучастия человека изменение свойств программы)
Автоматизированное управление
(смешанныйтип управления)
Рисунок 1 - Классификация задач управления интеллектуальными системами
2 Ручное (интерактивное) управление интеллектуальными системами
Ручное управление компонентами интеллектуальной системы направлено на приведение их содержания в соответствие с представлениями об этом содержании у лиц, управляющих этими компонентами.
На рисунке 2 представлены проблемы, связанные с ручным управлением интеллектуальными системами.
Во-первых, разнородными компонентами объекта управления являются информационные структуры (базы знаний и другие информационные ресурсы) и программы (решатель задач и пользовательский интерфейс). Задача интерактивного управления базами знаний была решена отечественными и зарубежными учеными еще в конце 80-х-начале 90-х годов прошлого века. Однако эти механизмы не были обобщены на случай интерактивного управления другими классами информационных ресурсов (например, онтологиями, метаонтоло-гиями), а механизмы интерактивного управления программными компонентами (решателями задач и пользовательским интерфейсом) в литературе вообще не рассматривались.
Во-вторых, различными компонентами интеллектуальных систем должны управлять специалисты, относящиеся к различным предметным областям: базами знаний и данных -эксперты и специалисты соответствующих предметных областей, онтологиями - инженеры знаний, программными компонентами - программисты, интерфейсными компонентами - дизайнеры, эргономисты и т.п. Механизмы интерактивного управления, понятные всем этим различным группам управляющих, в литературе также не обсуждались.
Наконец, еще одна проблема интерактивного управления состоит в том, что компоненты интеллектуальной системы определенным образом связаны между собой, и независимое управление этими компонентами может нарушить эти связи.
Проблема
Решение
1 Разнородные классы объектов управления: информационные
ресурсы, решатели задач, пользовательские интерфейсы
Сведени е гробгтемы ручн огсуправлени я интеллектуальными системами к проблеме ручн ого управления декларативными информационными ресурсами
2. Разнородный состав группы управляющих для каждого класса объектов управления
Представление информационных ресурсов каждому управляющему в терминах его концептуальной системы
3. Достижение согласованности управления интеллектуальными систем зм и
Декларативное представление связей между разными объектами управления
Рисунок 2 - Проблемы, связанные с ручным управлением и методы их решения
Для решения всех этих проблем предлагаются следующие решения:
■ представлять все компоненты интеллектуальной системы в виде декларативных информационных ресурсов;
■ разработать общий подход к интерактивному управлению информационными ресурсами, при котором с каждым информационным ресурсом связывается своя формально представленная концептуальная система;
■ представлять связи между компонентами интеллектуальных систем также в виде декларативных информационных ресурсов.
В информационном ресурсе важна информация и ее удобное представление для управляющего, а не способ компьютерного представления, т.е. рассматриваются только концептуальные информационные ресурсы, которые могут обрабатываться интеллектуальными системами, а структура и содержание которых понятны управляющим ими. Из вышесказанного
следует, что концептуальные информационные ресурсы, в том числе и базы знаний, имеют декларативное и структурное представление (такой информационный ресурс можно представлять в виде семантической сети, структура которой определяется некоторой метаинфор-мацией, а каждый термин, вводимый в этой сети, относится к некоторому классу, определяемому этой метаинформацией).
Метаинформацию концептуального информационного ресурса можно рассматривать как его онтологию, как грамматику, порождающую этот ресурс, как сценарий диалога с пользователем при редактировании этого ресурса и как основу языка запросов к этому ресурсу со стороны интеллектуальной системы. Концептуальный информационный ресурс является неразрывной парой, состоящей из метаинформации и собственно содержания (контента) этого ресурса, которые находятся между собой в определенном соответствии. Представление баз знаний и других информационных ресурсов в виде семантических сетей в настоящее время является почти общепринятым. На рисунке 3 приведен фрагмент медицинской базы знаний в форме семантической сети.
Рисунок 3 - Представление базы знаний в виде декларативного информационного ресурса (семантической сети)
В настоящее время все большую популярность приобретает технология, при которой решатель задач интеллектуальных систем строится из агентов. В работе [3] введено представление агентов в виде декларативно-процедурных информационных ресурсов (см. рисунок 4): решатель состоит из множества блоков, а каждый блок состоит из онтологии сообщений и множества продукций. При этом каждый решатель состоит из трех информационных ресурсов - сети агентов, определяющей, какие агенты входят в решатель, управляющего графа, позволяющего агентам находить адресатов посылаемых ими сообщений, и схемы распределения, устанавливающей ограничения на распараллеливание агентов при исполнении решателя в многопроцессорной среде (может отсутствовать) [4].
В работах [5, 6] показано, что модель пользовательского интерфейса также может быть представлена в виде декларативного информационного ресурса, состоящего из следующих основных компонентов: модели задач, модели предметной области, модели пользователя, модели представления и модели сценария диалога. По декларативно представленной модели
универсальный процесс интерпретации полностью определяет поведение интерфейса [7]. Таким образом, все компоненты интеллектуальной системы и связи между ними могут быть представлены в виде семантических сетей - декларативных информационных ресурсов.
Рисунок 4 - Структура агентов
Концептуальная система информационного ресурса входит в его метаинформацию и позволяет представить информационный ресурс в форме, понятной для управляющего им, через процесс визуализации (в форме семантической сети или текста). На рисунке 5 приведено формальное представление (на структурно-логическом языке) концептуальной системы медицинской базы знаний. Таким образом, для включения в процесс управления специалистов различных предметных областей, с каждым информационным ресурсом связывается своя формально представленная концептуальная система.
Рисунок 5 - Пример концептуальной системы декларативного информационного ресурса
Средством управления (созданием и редактированием) декларативными информационными ресурсами (онтологиями, базами знаний и данных) является разработанный универсальный редактор классов семантических сетей, который интерпретирует метаинформацию информационного ресурса (метаинформацию создает инженер знаний) и генерирует интерфейс для управляющего этим информационным ресурсом [8].
3 Автоматическое управление
Проблемы, связанные с автоматическим управлением интеллектуальными системами, представлены на рисунке 6. Первая из них уже рассматривалась выше. Вторая состоит в том, что наряду с задачами ручного и автоматического управления интеллектуальной системой в периоды, когда она не функционирует, возникают задачи автоматического управления ею во время ее функционирования. Кроме того, механизмы автоматического управления должны быть согласованы с механизмами ручного управления, чтобы управляющие могли контролировать процессы автоматического управления. Наконец, степень неопределенности в различных задачах автоматического управления может быть весьма различной. Разнородность классов объектов управления пока не позволила найти общих, проблемно-независимых решений для задач автоматического управления, поэтому используются и проблемно-зависимые решения.
Проблема
Решение
1 Разнородные классы объектов управления: базы знаний, решатели, пользовательские интерфейсы
Использование проблемно-зависимых механизмов управления наряду с проблемно-независимыми
2. Разнородность состояний объекта управления (автоматическое управление в периоды функционирования объекта и между этими периодами)
Использование внутренних механизмов (встроенных в интеллектуальную систему) наряду с внешними механизмами
3 Достижение согласованности механизмов автоматического управления с механизмами ручного управления
Использование метаинформации в механизмах внешнего автоматического управления
4. Различная степень неопределенности в задачах автоматического управления
Использование систем правил и механизмов с обратной связью
Рисунок 6 - Проблемы, связанные с автоматическим управлением и методы их решения
Так, для автоматического управления базами знаний к настоящему времени разработаны лишь проблемно-зависимые механизмы (для онтологии медицинской диагностики). Примером такого механизма автоматического управления с обратной связью является итеративный алгоритм индуктивного формирования медицинской базы знаний. Он состоит из двух асинхронных процессов (см. рисунок 7). Первый из них обрабатывает поступающие один за другим примеры из обучающей выборки и после обработки некоторой порции новых примеров передает результат своей работы (множество альтернативных баз знаний) второму процессу для выбора из этого множества наилучшей базы знаний и обновления рабочей базы знаний [9].
Рисунок 7 - Итеративный метод индуктивного формирования баз медицинских знаний
Для автоматического управления пользовательским интерфейсом разработаны проблемно-независимые механизмы - механизм автоматической адаптации к данным и особенностям пользователей [10]. Этот механизм на основе динамических характеристик пользователя, а также формируемых решателями задач наборов данных формирует визуальное представление диалога, соответствующее как требованиям юзабилити, так и индивидуальным особенностям пользователей системы.
Для автоматического управления решателями задач предложены как проблемно-зависимые, так и проблемно-независимые механизмы.
Примером проблемно-независимого механизма в решателе задач является автоматическое распараллеливание функционирования агентов на многоагентной платформе. Управление осуществляется на четырех уровнях: интеллектуальные системы функционируют параллельно друг с другом, запускаемые через информационно-административную систему на основе информации о полномочиях пользователей; агенты внутри каждой интеллектуальной системы взаимодействуют друг с другом асинхронно с помощью коммуникационной системы на основе управляющего графа; распараллеливание агентов внутри интеллектуальной системы управляется схемой распределения агентов в интеллектуальной системе; равномерная нагрузка на узлы вычислительной фермы (сервер, клиентские компьютеры, многопроцессорные системы) достигается алгоритмом балансировки [4].
Примером проблемно-зависимого механизма является автоматическое управление решателем задач экспертной системы медицинской диагностики. На рисунке 8 схематично представлен механизм управления таким решателем, когда результаты мониторинга базы знаний, выполняемого каждый раз после ее изменения, позволяют сократить множество проверяемых гипотез при обработке решателем каждой истории болезни на основе жесткой системы правил.
Решением второй проблемы (два состояния объекта управления), является использование наряду с внешними механизмами также и внутренних механизмов автоматического управления. Внешние механизмы обеспечивают автоматическое управление базами знаний между периодами функционирования интеллектуальных систем (примером является рассмотренный выше итеративный метод индуктивного формирования баз медицинских знаний), а внутренние механизмы - автоматическое управление решателями задач (механизм автоматического распараллеливания функционированием агентов на многоагентной платформе) и пользовательскими интерфейсами (механизм автоматической адаптации к данным и особенностям пользователей) в периоды их функционирования.
Рисунок 8 - Автоматическое управление решателем задач экспертной системы медицинской диагностики
Проблема достижения согласованности механизмов автоматического управления с механизмами ручного управления осуществляется через использование метаинформации в механизмах внешнего управления. Ранее отмечалось, что использование метаинформации позволяет представлять информационные ресурсы в виде, понятном для управляющих. Использование той же метаинформации позволяет управляющим следить и за процессом автоматического управления информационными ресурсами, например, базами знаний.
Решением проблемы различной степени неопределенности в механизмах автоматического управления является использование систем правил и механизмов с обратной связью. Так, если степень неопределенности в задаче автоматического управления невысока, то механизм автоматического управления может строиться на основе системы правил, но в случае высокой степени неопределенности в некоторых задачах приходится разрабатывать механизмы автоматического управления с обратной связью. Среди рассмотренных выше примеров итеративные методы индуктивного формирования знаний и автоматической адаптации к особенностям пользователей построены на основе механизмов с обратной связью. С использованием систем правил реализованы механизмы автоматического распараллеливания функционированием агентов и автоматической адаптации к данным.
4 Автоматизированное управление
Проблемы, связанные с автоматизированным управлением интеллектуальными системами представлены на рисунке 9. Две первые из них уже рассматривались выше. Третья проблема состоит в том, как организовать взаимодействие между управляющим и механизмами автоматического управления. Решение первых двух проблем возможно через совместное использование механизмов, разработанных для ручного и автоматического управления. Объединение же механизмов ручного и автоматического управления либо дает возможность управляющему корректировать результаты автоматического управления, либо через интерактивные механизмы показывать решение частных задач, которые затем обобщаются механизмами автоматического управления и используются решателем.
Примером задачи автоматизированного управления может служить задача отладки баз медицинских знаний, где мониторинг базы знаний относительно выборки историй болезни выявляет ошибки и неточности в этой базе знаний, механизмы индуктивного формирования баз знаний определяют возможные варианты устранения этих ошибок и неточностей, а управляющий базой знаний эксперт выбирает из этих вариантов те, которые он считает наилучшими.
Проблема
Решение
1. Разнородные классы объектов управления: базы знаний, решатели, п од ь эо о атсл в си и с интерфейсы
Использование проблемно-зависимых механизмов управления
наряду с проблемцо-независимыми. Сведение проблемы ручного управления интеллектуальными системами к проблеме ручного управления декларативными информационными ресурсами
2. Разнородный состав группы управляющих дли каждого класса объектов управления
¡.Объединение механизмов ручного и автоматического управления
Представление информационных ресурсов каждому управляющему е терминах его концептуальной системы
Ручная корректировка результатов автоматического управления. Обучение решению задач
Рисунок 9 - Проблемы, связанные с автоматизированным управлением и методы их решения
Заключение
Управляемый интеллект является адекватной метафорой для исследований в области искусственного интеллекта. Такая метафора предполагает, что интеллектуальная система содержит не только модели человеческих знаний, методов решения задач и способов взаимодействия с пользователями, но и модели механизмов управления ими, а коллектив управляющих интеллектуальной системой является для нее командой, которая целенаправленно улучшает ее свойства и адаптирует ее к изменениям, происходящим в области ее применения. При этом сам процесс управления интеллектуальными системами, формирование команды управляющих и правила ее работы являются новыми и требуют экспериментального изучения. Там, где это возможно, обобщение опыта управления интеллектуальными системами для разных предметных областей и задач должно приводить к проблемно-независимым моделям, механизмам и средствами управления, преимущественно автоматическим и автоматизированным. Вместе с тем, перспектива должна состоять в переходе от управления одной версией к управлению многими версиями одной и той же интеллектуальной системы, адаптации их к конкретным условиям эксплуатации и потребностям конкретных пользователей и однородных групп. Самостоятельной проблемой является управление сообществами интеллектуальных систем и использование для этого общих для разных систем и их компонентов механизмов управления. Такая смена метафоры направлена на дальнейшее продвижение в решении основной проблемы искусственного интеллекта - разработке практически полезных, реально и широко используемых интеллектуальных систем.
Благодарности
Работа выполнена при финансовой поддержке РФФИ, проект 10-07-00089-a.
Список источников
[1] ГрибоваВ.В., Клещев A.C., ШалфееваЕ.А. Управление интеллектуальными системами // Известия РАН. Теории и системы управления. 2010. № 6. - С. 122-137.
[2] Norvig P., Cohn D. Adaptive software. URL: http://norvig.com/adapaper-pcai.html
[3] Клещев A.C. Концепция многоагентной системы в многоцелевом компьютерном банке знаний // Четвертая международная конференция по проблемам управления: Сб. тр. - М.: ИПУ РАН, 2009. - С. 1585-1595. [Эл.].
[4] Крылов Д.А. Облачная платформа для создания и управления интеллектуальными Интернет-сервисами // Инфокоммуникационные и вычислительные технологии и системы: материалы III Междунар. конф. - Улан-Удэ: Изд-во Бурятского госуниверситета. 2010. - С. 180-183.
[5] Грибова В.В., Клещев A.C. Использование методов искусственного интеллекта для проектирования пользовательского интерфейса // Информационные технологии. 2005. №8. - С.58-62.
[6] Грибова В.В., Клещев A.C. Управление проектированием и реализацией пользовательского интерфейса на основе онтологий // Проблемы управления. 2006. №2. - С.58-62.
[7] Грибова В.В. Модель генерации кода пользовательского интерфейса для различных типов диалога // Научно-технические ведомости СПбГПУ. - Санкт-Петербург: Изд-во Политехнического университета, 2008. №3. - С. 145-151.
[8] Клещев A.C., Орлов В.А. Компьютерные банки знаний. Универсальный подход к решению проблемы редактирования информации // Информационные технологии. 2006. № 5. - C. 25-31.
[9] Клещев A.C. Задачи индуктивного формирования знаний в терминах непримитивных онтологий предметных областей // Научно-техническая информация. Серия 2. 2003. № 8. - С. 8-18.
[10] Грибова В.В., Черкезишвили H.H. Развитие онтологического подхода для автоматизации разработки пользовательских интерфейсов с динамическими данными // Информационные технологии. 2010. №10. -C. 54-58.
Сведения об авторах
Грибова Валерия Викторовна. Окончила физико-механический факультет в Ленинградском Политехническом Институте, д.т.н., заведующий лабораторией интеллектуальных систем Института автоматики и процессов управления ДВО РАН. Член Российской ассоциации искусственного интеллекта. Опубликовала более 100 работ в области искусственного интеллекта, информатики и пользовательского интерфейса.
Gribova Valeria Viktorovna graduated from the Leningrad Polytechnic Institute, Doctor of Science in Engineering. She is a head of the Intelligent Software Laboratory in the Institute for Automation and Control Processes, Far Eastern Branch of Russian Academy of Sciences. She is a member of Russian Association of Artificial Intelligence and co-author of more than 100 scientific articles and reports in the field of artificial intelligence, informatics, and user interfaces.
Клещев Александр Сергеевич. Окончил математико-механический факультет Ленинградского государственного университета, д.ф.-м.н., главный научный сотрудник Института автоматики и процессов управления ДВО РАН. Член Российской ассоциации искусственного интеллекта. Опубликовал более 260 работ в области искусственного интеллекта, информатики, медицинской и биологической кибернетики. Область научных интересов включает системы, основанные на знаниях, представление знаний, онтологии, веб-системы искусственного интеллекта, доказательство теорем, системы медицинской диагностики, анализ информации, языки и системы программирования, моделирование биологических систем.
Kleschev Alexander Sergeevich graduated from the Leningrad State University, Doctor of Science in Physics and Mathematics. He is a chief researcher of the Intelligent Software Laboratory in the Institute for Automation and Control Processes, Far Eastern Branch of Russian Academy of Sciences. Hi is a member of Russian Association of Artificial Intelligence and co-author of more than 260 publications in the field of artificial intelligence, informatics, medical and biological cybernetics. Field of his research includes knowledge-based systems, ontologies, intelligent websystems, theorem proving, expert systems, information analysis, and programming languages.
