CC BY
74
УДК 004.85
ПАРАДИГМА АВТОМАТИЗАЦИИ ИНТЕЛЛЕКТУАЛЬНОЙ ПРОФЕССИОНАЛЬНОЙ ДЕЯТЕЛЬНОСТИ. ЧАСТЬ 1. ОСОБЕННОСТИ ИНТЕЛЛЕКТУАЛЬНОЙ ПРОФЕССИОНАЛЬНОЙ ДЕЯТЕЛЬНОСТИ
1 2 3
A.C. Клещев , М.Ю. Черняховская , Е.А. Шалфеева
Институт автоматики и процессов управления РАН 1 kleschev@iacp.dvo.ru, 2chernyah@ iacp.dvo.ru, 3shalf@ iacp.dvo.ru
Аннотация
Статья посвящена анализу организации повседневной интеллектуальной деятельности и процесса управления ее качеством, направленного на контроль принимаемых решений, на уточнение и расширение используемых знаний, на обучение новых специалистов с учетом обновляемых знаний. Представлены схемы автоматизации для поддержки принятия решений, управления качеством баз знаний, обучения принятию решений. Статья является первой из цикла статей, направленных на поиск путей преодоления проблем практического применения интеллектуальных программных систем. Для иллюстрации особенностей интеллектуальной деятельности и ее автоматизации в качестве типичной предметной области рассматривается медицина.
Ключевые слова: интеллектуальная деятельность, поддержка принятия решений, качество знаний, правильность знаний, точность знаний, оценка базы знаний, управление базами знаний.
Введение
Появление в 1970-х годах интеллектуальных систем, или систем, основанных на знаниях, породило большие надежды, связанные с их практическим применением. Однако за прошедшие 40 лет, несмотря на значительные успехи в области теории и технологии проектирования таких систем, они не получили заметного практического использования.
Цель настоящей работы - анализ причин сложившейся ситуации и поиск путей ее преодоления за счет изменения парадигмы автоматизации интеллектуальной деятельности.
Результаты этой работы излагаются в двух статьях. Настоящая статья является первой из них и посвящена анализу организации повседневной интеллектуальной деятельности и управления ее качеством, а также обсуждению возможностей автоматизации такой деятельности с использованием онтологии предметных областей.
1 Особенности интеллектуальной деятельности
1.1 Основные понятия
Под интеллектуальной деятельностью далее будет пониматься деятельность, состоящая в принятии взаимосвязанных решений на основе знаний по отношению к некоторым объектам действительности. Специфика принятия решений на основе знаний состоит в том, что алгоритмы такого принятия решений неизвестны; известны лишь алгоритмы «применения знаний» для принятия решений, при этом «качество» (правильность и точность) решений зависит от «качества» знаний.
От исполнителей интеллектуальных видов деятельности требуется обладание необходимыми знаниями (зачастую постоянно обновляемыми) и умение их применять. При этом, чем более правильными и обширными являются знания и чем более правильно они применяются, тем более качественным может быть результат, но тем более сложным является его получение.
На рисунке 1 показаны примеры принятия разных типов решений в процессе интеллектуальной деятельности: сбор информации, диагностика, ремонт, прогноз, и т.п.
Сплошными прямоугольниками на рисунке 1 показаны задачи принятия решений; пунктирным прямоугольником - необходимые знания; овалом - объект интеллектуальной деятельности; сплошными стрелками - передача информации; пунктиром - взаимодействие с объектом.
Для иллюстрации особенностей интеллектуальной деятельности далее будет рассматриваться медицина как типичный пример предметной области с весьма сложными и ответственными задачами принятия разных типов решений. Объектом деятельности в этой предметной области является пациент (рисунок 2). После решения о первичном сборе информации о нем врач принимает решения о его диагнозе, его лечении и прогнозе изменения состояния пациента в результате лечебных мероприятий. На основе этого прогноза планируется дальнейшее наблюдение за ним. Если результаты такого наблюдения не соответствуют прогнозу, принимаются решения о коррекции диагноза и/или плана лечения, что ведет к корректировке прогноза и т.д.
1.2 Качество интеллектуальной деятельности и управление им
Поскольку полезность интеллектуальной деятельности определяется ее качеством, то параллельно с повседневным выполнением интеллектуальной деятельности, должно осуществляться управление ее качеством.
Качество интеллектуальной деятельности определяется величиной риска ошибочных решений и характером ущерба от последствий таких ошибочных решений. Правильность решений определяется степенью надежности процесса применения знаний. Эта степень надежности зависит от нескольких факторов: правильности знаний (как часто знания приводят к правильным решениям при правильном их применении); точности знаний (как часто зна-
ния приводят к однозначным решениям при правильном их применении), полноты индивидуальных знаний (насколько часто лица, принимающие решения, владеют знаниями, необходимыми для принятия конкретных решений); правильности применения знаний (насколько часто правильные знания приводят к правильным решениям); точности применения знаний (насколько часто точные знания приводят к однозначным решениям). Стоит отметить, что хотя индивидуальная степень надежности применения знаний определяется систематическими и случайными ошибками, однако вне зависимости от индивидуумов качество интеллектуальной деятельности в значительной степени зависит от качества используемых знаний. Поэтому процесс управления качеством интеллектуальной деятельности состоит, прежде всего, в повышении качества (правильности и точности) знаний, используемых специалистами.
планирование обследования (дообследование) -Тх-
диагностика
(уточнение диагноза)
______;
система I медицинских знаний I
прогнозирование (уточнение прогноза)
планирование лечения
(коррекция плана)
Рисунок 2 - Схема интеллектуальной деятельности в медицине
Для оценки текущего уровня качества интеллектуальной деятельности и управления этим качеством обычно используются различного рода отчеты о результатах деятельности, включающие информацию о решениях, принимаемых специалистами в процессе своей деятельности, и верифицированные заключения. На рисунке 3 показано использование результатов работы специалистов для управления качеством. Результаты их деятельности в виде отчетов (или других документов) могут быть использованы ответственными лицами (группой экспертов высокой квалификации) для выявления неверных или несовершенных знаний.
Если в процесс производства некоторой продукции или услуг входит интеллектуальная деятельность, и потребитель этой продукции или услуг платит за них, то такая интеллектуальная деятельность связана с получением прибыли. В этом случае прибыль является интегральной мерой эффективности процесса производства, в том числе и интеллектуальной деятельности, как его составной части. Такой процесс производства происходит в конкурентной среде, т.е. входит в сферу бизнеса, а задачи повышения прибыли решаются теми бизнес-организациями, которые организуют этот процесс производства. Примером является платная медицина.
Если же потребитель не платит за результаты процесса производства, в который входит интеллектуальная деятельность, то такая интеллектуальная деятельность не связана с получением прибыли. В этом случае, как правило, этот процесс производства организуется в отрасль, финансируемую государством. Примером является государственная (бесплатная) ме-
дицина. Государство организует текущую деятельность такой отрасли и управление ее качеством. Государство также несет ответственность перед населением за качество производимых такой отраслью продукции и услуг. Далее будет рассматриваться только интеллектуальная деятельность, которая не связана с получением прибыли, и отрасль, финансируемая государством.
объект еиствительности>
Рисунок 3 - Схема управления качеством интеллектуальной деятельности
Дальнейший материал статьи структурирован следующим образом. Поскольку автоматизация любой деятельности должна встраиваться в ее существующую структуру, в разделе 2 анализируется типичная организация повседневной интеллектуальной деятельности и управления ею, а в третьем разделе обсуждаются возможности существующих инструментов для автоматизации интеллектуальной профессиональной деятельности: поддержки повседневной деятельности и поддержки процесса управления ее качеством.
2 Организация интеллектуальной деятельности и управления ею
2.1 Организационная структура интеллектуальной деятельности
Интеллектуальная деятельность сосредоточена в первичном звене, где каждый специалист решает всю совокупность задач принятия решений, (соответствующую профилю1 этого звена) относительно объектов, порученных этому специалисту. В медицине примером первичного звена может служить отделение больницы.
Основное звено объединяет несколько первичных звеньев разного профиля и решает все задачи принятия решений, соответствующие профилю этого основного звена, относительно объектов, находящихся в зоне ответственности этого основного звена. Основное звено включает специализированное первичное звено, которое распределяет все объекты, по отношению к которым должна выполняться интеллектуальная деятельность, по его первичным звеньям. В медицине примером основного звена может служить больница, а специализированного первичного звена в нем - приемное отделение.
Основное звено широкого профиля решает все задачи отрасли относительно объектов, находящихся в зоне ответственности этого основного звена. Для этого оно включает набор
1 Профилем здесь считаем раздел в предметной области, например, в медицине - офтальмология, урология и т.д.
первичных звеньев всех профилей. В медицине примером основного звена может служить больница широкого профиля. В звеньях широкого профиля решаются задачи любой степени сложности (от простых, типичных, до сложных).
Узкоспециализированное высокотехнологичное основное звено имеет более узкий профиль, чем основное звено широкого профиля, но более широкую зону ответственности. Как правило, узкоспециализированное высокотехнологичное звено имеет более квалифицированных специалистов, чем основное звено широкого профиля, имеет более высокотехнологичное оборудование и предназначено для решения наиболее трудных задач интеллектуальной деятельности. В медицине примером узкоспециализированного высокотехнологичного звена может служить специализированное НИИ с клиникой и специализированный медицинский центр.
Интеллектуальная деятельность в отрасли выполняется на основе общих знаний - все первичные звенья одного и того же профиля (как основных звеньев «широкого профиля», так и узкоспециализированных высокотехнологичных основных звеньев) должны использовать при принятии решений одни и те же современные знания. Интеллектуальная деятельность и решаемые в ней задачи имеют типовой для отрасли характер - характер деятельности всех первичных звеньев в отрасли и решаемые ими задачи различаются лишь профилем первичного звена и зоной ответственности основного звена.
Таким образом, организация отрасли обычно включает два уровня: первичные звенья и основные звенья, возможно, распределенные по территории.
2.2 Управление интеллектуальной деятельностью
Естественным критерием качества интеллектуальной деятельности в отрасли является доля правильных решений во всей отрасли за определенный отрезок времени. Этот же критерий может относиться и к основным, и к первичным звеньям отрасли, и к отдельным специалистам. Целью управления интеллектуальной деятельностью в отрасли является повышение этого показателя, т.е. снижение процента ошибок. Для этого государство предписывает выполнение ряда мероприятий во всех звеньях отрасли, в том числе и таких, которые обеспечивают использование знаний возможно более высокого качества (на основе которых возможно принимать наиболее точные решения) при решении задач интеллектуальной деятельности в отрасли. Эти мероприятия можно разделить на управление текущей деятельностью, контроль качества текущей деятельности, управление знаниями и доведение современных знаний до исполнителей.
Управление текущей деятельностью осуществляется территориальными органами управления, а также руководством основных и первичных ее звеньев. Среди прочего, важными мероприятиями управления текущей деятельностью, направленными на повышение ее качества, являются организация консультаций ведущих специалистов, либо мозговых штурмов (консилиумов) с участием всех имеющихся специалистов по решению задач интеллектуальной деятельности, вызвавших определенные трудности, а также передача наиболее трудных задач из звеньев широкого профиля в высокотехнологичные специализированные звенья.
Контроль качества текущей деятельности осуществляется центральными органами управления отраслью, а также территориальными органами управления и руководством основных и первичных звеньев. Основными мероприятиями контроля являются ведение первичной документации (описаний решения каждой задачи интеллектуальной деятельности для каждого объекта), а также отчеты в вышестоящие органы управления. Контроль принимаемых решений направлен на выявление случаев неверных решений. Подразумевается, что неправильные решения редки, а трудозатраты на поиск и анализ причин таких решений оправданы.
Деятельность, связанная с управлением знаниями (расширением, уточнением, совершенствованием знаний) относится к области отраслевой науки и выполняется научными организациями отрасли, которые могут быть одновременно и специализированными высокотехнологичными основными звеньями, отраслевыми высшими учебными заведениями, а также отдельными специалистами основных звеньев.
Доведение современных знаний до исполнителей интеллектуальной деятельности осуществляется различными организациями. Отраслевые высшие учебные заведения осуществляют базовую подготовку специалистов отрасли. Кроме того, специалисты отраслевых научных учреждений и высокотехнологичных специализированных основных звеньев осуществляют повышение квалификации специалистов отрасли. Определенную работу в этом направлении ведут и отраслевые территориальные профессиональные сообщества. Центральные органы управления отраслью организуют формирование отраслевых стандартов по решению задач интеллектуальной деятельности в отрасли. Кроме того, ведущие ученые и специалисты отрасли подготавливают монографии и руководства по решению задач интеллектуальной деятельности.
Таким образом, управленческие меры направлены на уточнение знаний (по мере выявления в них неточностей), на контроль принимаемых решений (выявление случаев неверных решений, чтобы разобраться в их причинах), на расширение знаний (обязательное внедрение новых апробированных научных достижений) и на обучение специалистов с учетом обновляемых знаний.
Вместе с тем современные системы управления качеством интеллектуальной деятельности в отраслях, основанные преимущественно на «бумажных» технологиях обработки информации, сталкиваются с целым рядом проблем. Исполнители интеллектуальной деятельности обладают различными «человеческими» особенностями, некоторые из которых могут негативно влиять на качество их решений. Консультации ведущих специалистов проводятся выборочно, и даже для тех задач, где они необходимы, оказываются не всегда возможными. Кроме того, их полезность зависит от уровня компетентности консультанта. Мозговые штурмы (консилиумы) не всегда анализируют все возможные решения задач интеллектуальной деятельности. Поиск необходимой информации в первичных «бумажных» документах, как правило, затруднен. Статистические отчеты позволяют оценить лишь уровень качества интеллектуальной деятельности, но не позволяют его улучшить. Знания, которые студенты получают в отраслевых высших учебных заведениях, часто далеки от современных знаний, используемых в специализированных высокотехнологичных основных звеньях. Традиции и средства обучения на современном этапе позволяют осуществлять лишь выборочный контроль знаний выпускаемых специалистов, что не гарантирует усвоение всего требуемого объема знаний выпускниками вузов. Новейшие достижения, необходимые для решения задач интеллектуальной деятельности, часто слишком долго доходят до исполнителей этой деятельности. Еще более трудный вопрос - в какой мере специалисты пользуются этими достижениями в своей повседневной работе? Наконец, проблема, которая не может быть решена при использовании «ручных» и «бумажных» технологий - это проблема правильности применения знаний при решении задач интеллектуальной деятельности: алгоритм применения знаний слишком сложен, поэтому обычно знания применяются неточно, приблизительно.
3 Инструменты и технологии автоматизации
интеллектуальной профессиональной деятельности
Одним из средств повышения качества профессиональной деятельности, в том числе и интеллектуальной, является ее автоматизация с помощью компьютеров. К настоящему вре-
мени создан целый ряд инструментов и технологий, которые могут использоваться (и, во многих случаях используются) для разработки систем автоматизации различных видов деятельности: СУБД, локальные сети, технология облачных вычислений, системы программирования (CASE, IDE), средства создания корпоративных систем.
Целью автоматизации интеллектуальной деятельности является повышение качества принятия ответственных решений за счет информационной поддержки этого процесса. Достижение этой цели связано, во-первых, с поддержкой повседневной деятельности сотрудников, встраиваемой в организационную структуру учреждения/предприятия или даже отрасли, во-вторых, с поддержкой процесса управления качеством этой деятельности. Эта поддержка может состоять в автоматической выработке рекомендаций (в том числе возможных альтернативных решений) интеллектуальными системами на основе баз знаний для исполнителя и в построении понятных специалистам объяснений таких рекомендаций. Диалог со специалистами должен происходить в терминах их предметной области. Обеспечить проектирование такого пользовательского интерфейса можно только на основе онтологии предметной области. Автоматизация деятельности имеет следующее ограничение - организационная структура не может перестраиваться под автоматизацию, поэтому автоматизация должна встраиваться в организационную структуру и поддерживать ее.
3.1 Поддержка повседневной деятельности
Для автоматизации интеллектуальной деятельности разрабатываются экспертные системы (ЭС), которые предназначены для решения задач интеллектуальной деятельности некоторых классов на основе баз знаний, как правило, сформированных экспертами [1-2]. Недавно в интернет-источниках появилась информация о начале опытно-конструкторских работ по разработке второй очереди медицинской информационной системы и внедрении экспертных систем (в рамках концепции создания единой государственной информационной системы в сфере здравоохранения - ЕГИСЗ) [3].
Результатом работы экспертной системы является объяснение, которое содержит информацию о соответствии гипотез о вариантах решения задачи - информации об объекте (входным данным) и базе знаний. Например, в медицине важно объяснение того, какие гипотезы-диагнозы [4] могут быть отвергнуты, а какие гипотезы могут быть приняты для конкретной истории болезни с учетом базы знаний о медицинской диагностике. С помощью экспертных систем осуществляется поддержка принятия решений, что означает принятие специалистом решения с учетом объяснения ЭС.
На рисунке 4 показано, что специалист (например, врач), принимая решение (например, ставя диагноз) на основании данных об объекте (например, истории болезни пациента), руководствуется своими знаниями, но получает возможность учесть формируемое ЭС объяснение (анализ возможных гипотез о диагнозе для этого пациента).
Объяснение ЭС до определенной степени может рассматриваться как аналог консультации. И в том, и в другом случае проводится независимый анализ входных данных на соответствие их тем или иным гипотезам о решении задачи в свете знаний (консультанта или экспертной системы). При этом ЭС всегда применяет базу знаний правильно (правильно использует правильный алгоритм решения задачи) и может провести полный анализ любого множества гипотез, чего нельзя требовать от консультации. Однако результаты анализа и консультанта, и ЭС в значительной степени зависят от качества применяемых в этом анализе знаний. Если база знаний имеет высокое качество, ЭС позволяет снизить долю ошибок специалистов из-за неправильного применения знаний.
Обозначения здесь и далее:
- работа экспертной системы;
- деятельность специалиста;
<
- сгенерированная системой информация;
- формируемая специалистом информация (отчетная).
Рисунок 4 - Схема принятия решений при поддержке экспертной системой
Созданная экспертом база знаний может содержать дефекты - быть неполной (некоторые варианты могут быть упущены экспертом или быть ему неизвестны), неточной (может приводить к неоднозначным решениям) или даже неправильной (из-за заблуждений, предубеждений). Качество и полезность базы знаний определяются полнотой, точностью и правильностью содержащихся в ней знаний. Однако очевидна необходимость более объективного оценивания качества баз знаний, поскольку из литературных источников изестно, что до сих пор основными средствами оценивания баз знаний являются средства контроля формальных свойств правильно построенной БЗ и привлечение экспертов для оценки «решений, предлагаемых системой» [5-7].
Каждое решение, принимаемое в ходе интеллектуальной деятельности специалистом, обычно в дальнейшем проходит процедуру верификации, которая может потребовать определенного времени. В результате этой процедуры решение специалиста (или системы) признается правильным или ошибочным. В медицине верификация осуществляется по результату выздоровления пациента в результате лечения, либо по результатам оперативного вмешательства, либо решением судебно-медицинских экспертов.
Оценка правильности БЗ может определяться множеством задач, которые ЭС правильно решает на основе этой БЗ. Оценка точности БЗ может определяться подмножеством этого множества, для которого решения ЭС однозначны.
Если оценкой знаний специалиста считать множество задач, для которых он знает правильное решение, то ЭС можно считать полезной для некоторого специалиста, если оценка точности ее БЗ лучше оценки знаний специалиста, т.е. если множество задач, решение которых известно этому специалисту, является подмножеством множества точно решаемых экспертной системой задач. То же справедливо и для группы специалистов: ЭС можно считать
полезной для группы специалистов, если множество задач, решение которых известно хотя бы одному специалисту из этой группы, является подмножеством множества точно решаемых экспертной системой задач. Определяемая таким способом оценка правильности и точности базы знаний зависит от множества задач с известным решением (базы прецедентов).
3.2 Поддержка управленческих мер
Необходимость автоматизации контроля принимаемых специалистами решений, (например, для управления качеством медицинской помощи) стала очевидной еще в конце 1990-х годов [8]. Поддержка таких управленческих мер, как правило, осуществляется через автоматизацию документооборота [3, 9]. В доступной литературе появилась информация, что в сфере медицины и здравоохранения начинается единая информатизация - обеспечение эффективной информационной поддержки организаций системы здравоохранения, формирование и использование историй болезни и других документов в соответствии с существующими стандартами. В доступных источниках сказано, что завершен первый этап разработки компонентов федерального уровня ЕГИСЗ — «электронной регистратуры» и «интегрированной электронной медицинской карты» [9].
Кроме поддержки мер контроля решений, автоматизируют и контроль качества используемых знаний, изменение которых необходимо как на основе новых научных исследований, так и на основе опыта практической работы. Проблемам модификации знаний ЭС уделяется значительное внимание уже не менее 10 лет. В частности, в литературе описан такой вид работ, как сбор со всех рабочих мест специалистов информации о принятых с помощью ЭС решений («протоколов» с клиническими данными терапии) и передача их «анализатору», чтобы осуществлять по необходимости коррекцию знаний [10].
Со временем (в процессе практики специалистов) множество задач, решение которых известно специалисту (группе специалистов), будет расширяться. Каждое увеличивающееся со временем множество задач с известным решением используется для автоматизированной проверки того, насколько база знаний или вариант ее модификации удовлетворяет накопленным прецедентам. В доступных источниках приводятся примеры программного инструментария для обслуживания такой базы прецедентов (пополнения и модифицирования) и ее использования [6, 11].
Зафиксированная БЗ со временем будет устаревать в том смысле, что оценка ее правильности и точности не будет изменяться, в то время как база прецедентов будет расширяться в процессе дальнейшей практики, т.е. из-за того, что оценка специалиста (группы специалистов) улучшается, а оценки правильности и точности такой БЗ не изменяются. ЭС с такой БЗ может потерять свою полезность. Естественно ожидать, что база знаний должна со временем совершенствоваться.
Чтобы ЭС оставалась полезной для специалиста (группы специалистов), оценка правильности и точности ее БЗ в течение всего времени эксплуатации ЭС должна оставаться лучше, чем оценка знаний специалиста (группы специалистов).
Поэтому ЭС должна включать систему управления ее БЗ [12], цель которой - обеспечивать полезность ЭС для специалиста (группы специалистов) в течение всего времени ее эксплуатации.
Для достижения этой цели система управления БЗ должна выполнять следующие функции:
• постоянно накапливать базу прецедентов;
• классифицировать все прецеденты в базе;
• находить все возможные способы модификации БЗ для включения новых прецедентов в оценку правильности и точности БЗ;
• модифицировать БЗ одним из возможных способов.
Для того чтобы ЭС оставалась полезной для специалиста (группы специалистов), необходимо, чтобы информация обо всех задачах, решенных этим специалистом (каждым специалистом из группы), была доступна ЭС. Каждая такая задача должна пройти затем процедуру верификации решения, в результате которой правильное решение этой задачи считается установленным, и результат верификации решения задачи также должен быть доступен ЭС. Получение этой информации и является функцией накопления базы прецедентов. Ее естественной реализацией является включение ЭС в электронный документооборот интеллектуальной деятельности: документация, связанная с задачами повседневной деятельности должна вестись через компьютеры в такой форме, чтобы на основе этой информации ЭС могла решать задачи, для которых она предназначена; информация о принятых специалистами решениях, а также о результатах верификации этих решений также должна включаться в эти документы в форме, допускающей ее обработку системой управления БЗ. В этом случае накопление базы прецедентов не потребует от специалистов дополнительных усилий в их повседневной деятельности. Кроме того, такой электронный документооборот позволяет получать объективные оценки качества решения задач, как отдельными специалистами, так и их группами.
Каждый прецедент должен быть отнесен системой управления БЗ к одному из следующих классов (рисунок 5).
1) ЭС предложила правильное и точное решение.
2) ЭС предложила правильное, но неточное решение (несколько возможных альтернатив, среди которых было и правильное решение), но входные данные задачи допускают ее точное решение.
3) ЭС предложила правильное, но неточное решение (несколько возможных альтернатив, среди которых было и правильное решение), но входные данные задачи допускают некоторое его уточнение (уменьшение числа альтернатив).
4) ЭС предложила правильное, но неточное решение (несколько возможных альтернатив, среди которых было и правильное решение), но входные данные задачи не допускают его уточнения.
5) ЭС предложила неправильное решение (множество альтернатив, возможно пустое, среди которых не было правильного решения).
Функция классификации прецедентов состоит в отнесении каждого прецедента к одному из указанных классов. Очевидно, что решение об отнесении прецедента к классам 2-4 не может быть принято автоматически, поэтому оно должно приниматься экспертами, входящими в группу управления БЗ (рисунок 6).
На рисунке 5 показано, что документируется не только результат решения задачи и все известные данные об объекте (для медицины, например, и те, и другие входят в историю болезни пациента), но и объяснение, полученное от ЭС. Через некоторое время становится известно и верифицированное заключение. При наличии решения задачи, сделанного специалистом, объяснения, сформированного системой, и верифицированного заключения, ответственные за качество знаний лица (эксперты) могут сравнить их. В случае несовпадения этих решений следует провести анализ сгенерированного объяснения, чтобы оценить, было ли объяснение неправильным, и следует ли пару <известные данные об объекте / верифицированное заключение> использовать как прецедент для исправления базы знаний системы.
Решение задачи, ожидающее верификации^
Результат решения
;пециалистом
Объяснение ЭС
Данные об объекте
верифицированное заключение
:
документирование решений задач и верификация решений системы
:
Архив отчетов (решений
<данные об объекте; решение специалиста; объяснение системы; заключительное решение:
база всех прецедентов
прецеденты класса 1
прецеденты класса 5
Ш
анализ неточных бъяснений системы
А
прецеденты класса 4
прецеденты классов 2 и 3
Рисунок 5 - Схема связи документооборота с поддержкой системы управления замена БЗ новым вариантом
база знаний
ЭС (текущая)
отобранные прецеденты
прецеденты из классов 2 и 3
прецеденты из класса 5
база всех прецедентов
Индуктивное формирование вариантов модификации БЗ (с оцениванием)
Выбор варианта для замены БЗ
[ант
ации БЗ
вариант модификации БЗ
модификации БЗ
Рисунок 6 - Поддержка автоматического управления качеством баз знаний
база знаний
ЭС (текущая)
Результаты
научных исследований
замена БЗ новым вариантом, если оценка не ухудшилась
если оценка ухудшилась
Формирование варианта модификации БЗ (исправление варианта БЗ)
вариант моди ации
Оценивание
варианта базы знаний
А
база всех прецедентов
Рисунок 7 - Включение в базу знаний результатов научных исследований
Прецеденты, отнесенные к классам 1 и 4, образуют оценку правильности и точности БЗ. Новые прецеденты, отнесенные к этим классам, могут быть включены в эту оценку без модификации БЗ, в отличие от новых прецедентов, отнесенных к классам 2, 3 и 5. Допустимой является такая модификация БЗ, которая не ухудшает ее оценку, т.е. классы, к которым отнесены входящие в нее прецеденты после допустимой модификации БЗ, не изменяются, или некоторые прецеденты из класса 4 переходят в класс 1. Новые прецеденты из классов 2 и 3 требуют уточнения БЗ, т.е. такой ее допустимой модификации, при которой прецеденты из класса 2 переходят в класс 1, а прецеденты из класса 3 переходят в классы 1 или 4; уточнение БЗ имеет целью включить эти прецеденты в оценку правильности и точности уточненной БЗ. Новые прецеденты из класса 5 требуют исправления или расширения БЗ, т.е. такой ее допустимой модификации, при которой прецеденты из класса 5 переходят в классы 1 или 4; исправление или расширение БЗ также имеет целью включить эти прецеденты в оценку правильности и точности исправленной или расширенной БЗ. В поиске всех возможных вариантов таких допустимых модификаций БЗ для всех новых прецедентов и состоит функция поиска возможностей включения новых прецедентов в оценку БЗ. Эти варианты допустимых модификаций БЗ должны вычисляться системой управления БЗ автоматически.
В результате выполнения предыдущей функции может быть получено несколько вариантов допустимых модификаций БЗ для новой группы прецедентов, либо такие варианты могут вообще отсутствовать. Поэтому функция модификации БЗ состоит в выборе одного такого варианта допустимой модификации (если они есть) и его выполнения, либо в пересмотре некоторых ранее принятых решений при модификации БЗ (если таких вариантов нет). Реализация этой функции должна осуществляться экспертами, входящими в группу управления БЗ при поддержке системы управления. От проектируемых систем автоматизации требуется поддержка получения формализованных новых знаний (рисунок 6): удобные для эксперта средства формирования обучающей выборки из прецедентов классов 2 и 3, средства автоматического формирования на основе онтологии очередного варианта модификации БЗ и его оценивания. Удовлетворительный результат означает, что получен вариант БЗ с оценкой не хуже оценки специалиста (а при обобщении подхода к автоматизации на группу специалистов оценка единой БЗ должна становиться не хуже совокупной оценки специалистов2), поэтому он становится новой БЗ ЭС (вместо «текущей БЗ», используемой на этот момент).
Дополнительным источником совершенствования знаний, используемых при решении задач интеллектуальной деятельности, являются новые научные результаты, относящиеся к этой интеллектуальной деятельности. Естественно, что система управления БЗ должна допускать включение новых научных результатов в БЗ (без ухудшения ее оценки). Такая модификация БЗ может выполняться только экспертами, входящими в группу управления БЗ (рисунок 7). Требуется автоматизированная поддержка оценивания варианта изменяемой (по результатам научных исследований) БЗ, чтобы убедиться, что оценка базы знаний улучшилась. Если оценка модифицированной БЗ становится не хуже при включении в нее новых научных знаний, то такой вариант модификации становится новой БЗ ЭС.
Трудно надеяться, что поддержка принятия решений с помощью ЭС для задач лишь одного класса (например, поддержка диагностики без поддержки планирования лечения) может существенно улучшить качество всей интеллектуальной деятельности. Поэтому естественным развитием технологии автоматизации (проектирования средств поддержки) интеллектуальной деятельности являются семейства ЭС: для каждой задачи интеллектуальной деятельности разрабатывается своя ЭС; разные ЭС семейства связываются по входной/выходной информации, могут иметь некоторые общие базы знаний или их части, а также
' При этом для группы специалистов оценка будет «расти» быстрее
другие информационные ресурсы. Электронный документооборот, о котором выше шла речь, также имеет смысл интегрировать с семейством ЭС.
Управленческие меры, направленные на контроль принимаемых специалистами решений и контроль используемых знаний, естественно связаны с мерами, направленными на приведение в соответствие знаний специалистов с обновляемыми (наиболее современными и актуальными) знаниями (особенно когда происходят коренные изменения в системе знаний). Для поддержки обучения или повышения квалификации специалистов необходимы программные средства или системы, знания в которых полностью соответствуют самым современным знаниям специалистов, функциональность которых связана с обучением умению применять эти знания и с контролем результатов обучения. Таковыми являются компьютерные тренажеры.
3.3 Семейства компьютерных тренажеров
При обучении решению задач интеллектуальной деятельности, контролю знаний студентов и умений их применять могут использоваться семейства интеллектуальных программных систем, обычно называемых интеллектуальными тренажерами [13]. Задачей такого тренажера является генерация виртуального объекта интеллектуальной деятельности в соответствии с заданием преподавателя, предоставление студенту электронного документооборота, позволяющего ему решать все задачи интеллектуальной деятельности над этим виртуальным объектом, получение оценки правильности принятых студентом решений и, в случае, если среди них имеются неверные, объяснение ему причин его ошибок, либо выдача ему полного объяснения (результатов логического анализа решения всех задач интеллектуальной деятельности над этим виртуальным объектом). Например, медицинский тренажер для очередного сеанса обучения в соответствии с заданием преподавателя генерирует виртуальный объект «пациент» (рисунки 8 и 9), в частности, все значения признаков, изменяющиеся в виртуальном времени, которые необходимы для диагностики и последующих наблюдений.
В тренажерах для обучения принятию решений без воздействия на объект (в медицинском тренажере «без воздействия на объект» означает без лечения виртуального пациента, т.е. решается лишь задача диагностики) студент должен обследовать виртуальный объект (выявить значения его важных признаков в различные моменты виртуального времени) и принять необходимые решения (рисунок 8). В медицинском тренажере виртуальный пациент формируется в соответствии с заданием преподавателя и «функционирует» в соответствии с базами знаний о клинических проявлениях, поэтому соответствующий диагноз и необходимые для диагностики признаки тренажер сразу сохраняет (как правильное решение) для последующего контроля решений обучаемого. Важные признаки (выбранные студентом), полученные значения в «виртуальном» времени (сгенерированные тренажером) и поставленный студентом диагноз оформляются в виде отчета (истории болезни). Система сравнивает решения студента с правильными решениями. При обнаружении неверных решений, тренажер указывает на них и объясняет студенту причины его ошибок (например, визуализирует анализ неверной гипотезы).
В тренажерах для обучения принятию решений с возможностью воздействий на объект дополнительно к вышеописанному случаю студент должен после обследования и диагностики виртуального объекта решить задачи по его ремонту (лечению, исправлению). В таком медицинском тренажере виртуальный пациент «функционирует» в соответствии с базами знаний не только о клинических проявлениях, но и о лечебных мероприятиях. Студент должен после обследования и диагностики виртуального пациента назначить его лечение (рисунок 9) и сделать прогноз изменения его состояния, т.е. должен решить все задачи интеллектуальной деятельности над этим виртуальным объектом. В историю болезни будет включено и назначенное им лечение виртуального пациента. В таком тренажере назначенное лечение
будет использоваться тренажером для моделирования изменений во времени состояния и признаков этого пациента, на которые такое лечение окажет влияние. Студент сможет наблюдать эту динамику, если будет проводить мониторинг выбранных признаков пациента. Протокол наблюдения студентом динамики состояния виртуального пациента будет сохранен. Система оценит решения студента еще и с учетом выбранного лечения и влияния его на виртуального пациента (отраженного в протоколе). Тренажер визуализирует не только полное и правильное объяснение решения задач над виртуальным «пациентом», но и процессы изменения состояний пациента, происходящие из-за воздействия предлагаемых лечебных мероприятий.
Рисунок 8 - Схема процесса обучения принятию решений (без воздействия на объект) с помощью интеллектуального тренажера
Таким образом, тренажеры моделируют объект, воздействие на него и выполняют анализ ошибок, сделанных при принятии решений, связанных с этим объектом. Для этого база знаний должна быть такой, какую рекомендовано использовать в реальной практике, т.е. высокого качества. Применение семейств интеллектуальных тренажеров позволяет уменьшить использование реальных объектов в процессе обучения, заменив их виртуальными, полнее проверить знания студентов и умение их применять.
3.4 Преимущества автоматизации
Проектирование программных средств поддержки повседневной интеллектуальной деятельности и управления базами знаний имеет преимущества, как для выполняющих ее специалистов, так и для управляющих ей.
диагностика
документ (отчет) < данные оо ооъекте;
студент поставил заключительный диагноз
диагноз; план лечения; прогноз изменений; результаты мониторинга; заключительное решен^^>
мониторинг
х- — виртуальный объект (с динамикой состояний)
планирование лечения и прогнозирование изменения состояния
О
ь
выбор задачи ¡реподавателем
оценивание правильности решений студента и визуализация изменения состояния объекта
моделирование изменения
состояния
генерация объекта
У
оценка
решений
студента
бъяснение изменения
шстоянив"
база знаний ЭС (текущая)
Рисунок 9 - Схема анализа правильности воздействий на виртуальный объект в процессе обучения принятию решений с помощью интеллектуального тренажера
Преимущество в повседневной деятельности:
• специалистам доступен результат полного анализа всех входных данных каждой задачи на соответствие их возможным гипотезам или возможность рассмотреть полный анализ тех гипотез, которые интересуют этих специалистов;
• специалисты получают возможность использовать базы знаний в качестве компьютерных справочников.
Преимущества в управлении качеством знаний:
• получение БЗ ЭС с оценкой качества не хуже, чем оценка качества знаний специалистов, которые пользуются этой ЭС, и достижение монотонного роста оценки качества БЗ ЭС;
• явная фиксация системы знаний с наилучшей оценкой, ее доступность для изучения (в качестве справочника), для использования на практике (в качестве стандарта) и в обучении (в качестве учебного пособия). Наличие такой системы знаний, сформированной в терминах онтологии предметной области, может значительно расширить возможность своевременного доведения новейших знаний до специалистов.
Дополнительным преимуществом может стать объективность оценивания качества работы специалистов, если средства документооборота интегрируются с ЭС (можно оценивать качество работы отдельных специалистов или коллектива учреждения или всего профиля, или всей отрасли - по задокументированным принятым решениям, верифицированным решениям, возможным результатам задач прогноза и т.д.). Интеллектуальные тренажеры могут повысить качество подготовки специалистов отрасли.
Заключение
Анализ организации повседневной интеллектуальной деятельности и управления ее качеством показывает необходимость проектирования программных систем для их автоматизации. Параллельно с выполнением интеллектуальной деятельности должно осуществляться управление ее качеством: контроль принимаемых решений, уточнение знаний и расширение знаний, а также обучение новых специалистов с учетом обновляемых знаний. Возможности автоматизации такой деятельности «определяются» существующим состоянием дел в областях поддержки принятия решений, управления качеством деятельности, управления знаниями на основе онтологии предметной области, разработки обучающих систем.
Благодарности
Работа выполнена при финансовой поддержке грантов РФФИ №11-07-00460 и ДВО РАН № 12-1-П15-03.
Список источников
[1] Джарратано, Д. Экспертные системы: принципы разработки и программирование / Д. Джарратано, Г. Райли.- Киев: Вильяме, 2007. - 1147 с.
[2] Кобринский, Б.А. Ретроспективный анализ медицинских экспертных систем / Б.А. Кобринский // Новости искусственного интеллекта. - 2005. - №2 - C. 6-17.
[3] НПО РусБИТех. Единое информационное пространство в здравоохранении РФ. 2011. http://www.myshared.ru/slide/96415/ (Актуально на 30.06.2013).
[4] Клещев, А.С. Модель онтологии предметной области «Медицинская диагностика». Часть 1. Неформальное описание и определение базовых терминов / А.С. Клещев, М.Ю. Черняховская, Ф.М. Москаленко // Журнал НТИ. Серия 2. - 2005. - №12.
[5] Гаврилова, Т.А. Базы знаний интеллектуальных систем / Т.А. Гаврилова, В.Ф. Хорошевский. - СПб.: Питер, 2001. - 384 с.
[6] Соловьев, С.Ю. Методы отладки баз знаний в системе ФИАКР / С.Ю. Соловьев, Г.М. Соловьева // Автоматизация и роботизация производства с применением микропроцессорных средств. - Кишинев: 1986. -С. 36-37.
[7] Тельное, Ю.Ф. Интеллектуальные информационные системы / Ю.Ф. Тельнов // Московский государственный университет экономики, статистики и информатики. - М.: МЭСИ, 2004. - 246 с.
[8] Дьяченко, В.Г. Экспертиза качества медицинской помощи (Вопросы теории и практики) / В.Г. Дьяченко // Abt. Associates Inc. Bethesda, Maryland. USA. Agency for international Development ENI/HR/HP. Washington. 1996.- 203 c.
[9] Шеян, И. «Ростелеком» завершил создание электронной регистратуры и интегрированной электронной медкарты / И. Шеян // Computerworld Россия/MedIT. - 2012. http://www.osp.ru/medit/2012/06/13015950.html (Актуально на 30.06.2013).
[10] Зильбер, А.П. Интернет-проект «Компьютерная диагностика преэклампсии» / А.П. Зильбер, Е.М. Шифман, А.Г. Павлов, С.Е. Белоусов
http://critical.onego.ru/critical/medlogic/, http://www.osp.ru/medit/2012/06/13015950.html (Аюуальюна 14.032013).
[11] Попов, Э.В. Статические и динамические экспертные системы / Э.В. Попов, И.Б. Фоминых, Е.Б. Кисель, М.Д. Шапот. - М.: Финансы и статистика, 1996.
[12] Клещев, A.C. Управление интеллектуальными системами / A.C. Клещев, В.В. Грибова // Известия РАН. Теории и системы управления. - 2010. - № 6. - С. 122-137.
[13] Грибова, В.В. Обучающие виртуальные системы и средства их создания / В.В. Грибова, Л.А. Федорищев // Вестник информационных и компьютерных технологий. - 2012. - №3. - С. 48-51.
Сведения об авторах
Клещев Александр Сергеевич, 1940 г. рождения. Окончил математи-ко-механический факультет Ленинградского государственного университета в 1964 г., д.ф.-м.н. (1990). Главный научный сотрудник лаборатории интеллектуальных систем Института автоматики и процессов управления Дальневосточного отделения РАН, профессор, заслуженный деятель науки РФ, заместитель руководителя Отделения информатики и вычислительной техники Академии инженерных наук Российской Федерации, председатель Научно-методического совета по образованию в области информатики и информационных систем Дальневосточного регионального учебно-методического центра. В списке научных трудов более 260 работ в области искусственного интеллекта, информатики, медицинской и биологической кибернетики.
Alexander Sergeevich Kleschev (b. 1940) graduated from the Leningrad State University in 1964, Professor's degree (1990). He is Chief Researcher at lab. of intellectual systems in the Institute for Automation & Control Processes of the FEB RAS. He is co-author of more than 260 publications in the fields of biological and medical cybernetics, informatics and AI.
Черняховская Мери Юзефовна. Окончила 1-ый Ленинградский медицинский институт им. акад. Павлова, доктор медицинских наук (1991). Главный научный сотрудник лаборатории интеллектуальных систем Института автоматики и процессов управления Дальневосточного отделения РАН. Имеет более 150 научных работ, в том числе две монографии.
Mary Yuzefovna Chernyakhovskaya graduated from the First Leningrad ^ Medical Institute in 1957, Professor's degree (1991). She is Chief Researcher at i lab. of intellectual systems in the Institute for Automation & Control Processes ^^ of the FEB RAS. She is co-author of more than 150 publications in the fields of medicine, physiology and application of AI methods in medicine.
Шалфеева Елена Арефьевна, 1967 г. рождения. Окончила математический факультет ДВГУ по специальности "Прикладная математика" в 1989 г., к.т.н. (2000). Старший научный сотрудник лаборатории Интеллектуальных систем Института автоматики и процессов управления Дальневосточного отделения РАН, доцент по специальности. В списке научных трудов более 70 работ.
Elena Arefjevna Shalfeeva (b.1967 graduated from the Far Eastern State University (Vladivostok) in 1989, PhD (2000). She is Senior Researcher at lab. of intellectual systems in the Institute for Automation & Control Processes of the FEB RAS, lecture. She is co-author of more than 70 publications in the fields of Program models and systems and AI.
