CC BY
129УДК 378.048.2:004.8:004.5 DOI 10.24075/MTCPE.2020.022
СИСТЕМЫ ПОДДЕРЖКИ ПРИНЯТИЯ ВРАЧЕБНЫХ РЕШЕНИЙ В ПОВЫШЕНИИ КВАЛИФИКАЦИИ: ИСТОРИЯ И СОВРЕМЕННЫЕ
ТЕНДЕНЦИИ
Кобринский Б.А.12
1 Федеральный исследовательский центр «Информатика и управление» РАН, Институт проблем искусственного интеллекта, Москва, Россия
2 Российский национальный исследовательский медицинский университет им. Н.И. Пирогова Минздрава
России, Москва, Россия
Для корреспонденции: kba_05@mail.ru, Кобринский Борис Аркадьевич
Аннотация
Проблема непрерывного повышения квалификации врачей может решаться разными путями. Целью настоящей статьи является демонстрация использования для этого компьютерных
систем поддержки принятия клинических решений. Показано, что возможностью получения новых знаний, в отличие от вычислительных систем, основанных на обработке данных, обладают интеллектуальные системы. Это достигается объяснением последовательности выдвижения и анализа гипотез, а также объяснением предлагаемого решения. Кроме того, существуют интеллектуальные системы, которые ориентированы на диалог с врачом непосредственно для повышения его квалификации в конкретной предметной области. Таким образом, в непрерывном
дополнительном повышении квалификации могут найти применение как специальные обучающие интеллектуальные программы, так и системы поддержки принятия решений, включающие модули
объяснений. В перспективе автономные диагностические и другие системы будут использоваться
только в исключительных случаях. Современный тренд ориентирован на их встраивание в
системы электронных историй болезни. В этом случае обращение к ним будет осуществляться непосредственно во время профилактических осмотров или лечебно-диагностического процесса.
Ключевые слова: повышение квалификации в процессе использования диагностической системы, система поддержки принятия клинических решений, объяснение принятия решений, объяснение гипотез, обучающие интеллектуальные системы, мультимедийные системы, вычислительные системы, системы на основе знаний.
Введение
В терминологическом плане необходимо обратить внимание на отличие систем информационной поддержки от систем поддержки принятия решений (СППР). Информационная поддержка предполагает сообщение врачу какой-либо информации, в том числе в процессе ввода данных, например, о несовместимости лекарств, о методах обследования, применяемых при предполагаемом диагнозе и т.п. Такие информационные подсистемы, обладающие большими или меньшими возможностями, встраиваются в медицинские информационные системы. В отличие от них, СППР предлагают врачу решения в трудных случаях.
Одновременно интеллектуальные СППР, включающие модули объяснения предлагаемых решений, способствуют повышению квалификации врачей-пользователей.
Области применения СППР включают основные направления работы врача с пациентом: (а) дифференциальная диагностика, (б) прогноз течения заболеваний, (в) подбор методов исследований,
(г) выбор схемы лечения и конкретных медикаментов с учетом персональных противопоказаний,
(д) выбор хирургической тактики, (е) оценка наследственного предрасположения, (ж) определение группы риска, (з) персональные рекомендации по здоровьесбережению.
В настоящее время большинство систем поддержки принятия решений реализуется как интеллектуальные СППР, т.е. основанные на знаниях экспертов или знаниях, извлеченных из литературных источников и из хранилищ историй болезни. Они позволяют учитывать специфику представления клинической информации и характеризуются более или менее выраженным объяснительным компонентом:
• нечеткие сведения или вербальные характеристики состояния больного, обусловленные субъективностью оценки данных физикального обследования больного и трудностями однозначной интерпретации клинических проявлений (окраска кожи, выраженность сердечного шума и т.п.), реализация которых возможна с использованием методов нечеткой логики;
• альтернативные режимы принятия диагностических решений, которые могут быть реализованы путем построения механизма логического вывода на основе смешанной стратегии - прямой (предполагает вначале ввод в систему параметров состояния пациента) и обратной (процесс рассуждений идет от гипотетического диагноза к фактам, т.е. симптомам, которые могут послужить основой для такого решения);
• выдача объяснений о предлагаемом решении.
В динамических интеллектуальных СППР, получающих данные о физиологических параметрах организма с мониторов и анализирующих их в реальном времени, основные функции включают:
• оперативное информирование о возникновении угрожающих отклонений в состоянии пациента;
• прогнозирование осложнений патологического процесса;
• коррекцию лечебно-диагностической тактики на основе изменяющихся параметров пациента. Знания о болезнях (или синдромах), состоящих в определенных отношениях с основной диагностической гипотезой, позволяют интеллектуальной системе выявлять: а) причинно-следственные связи, указывающие на возможную причину заболевания; б) временные связи, позволяющие как прогнозировать динамику течения болезни, так и восстанавливать возможный анамнез; в) ассоциативные связи, дающие возможность учитывать на фоне каких состояний могло развиться данное заболевание или фоном для каких синдромов оно может служить в дальнейшем. Анализ применения СППР показал более высокую эффективность принятия решений практикующими врачами при использовании систем, которые автоматически запрашивают информацию у пользователей, по сравнению с необходимостью активации системы врачом (73% против 47%) [41].
Вычислительные диагностические системы
Поиски новых путей к повышению эффективности диагностического процесса в конце 60-х годов ХХ века привели к использованию в медицинской практике математических методов [5]. Этот подход был основан на сопоставлении верифицированных случаев клинической картины дифференцируемых заболеваний (так называемый метод обучения «с учителем», в качестве которого выступали формализованные данные пациентов). На основе признаков, представленных в цифровой форме, электронные вычислительные машины осуществляли различными способами обработку данных, вначале сравнивая диагностируемые классы больных групп обучения в поисках различающих их признаков, после чего можно было осуществлять диагностику новых пациентов.
Вычислительные диагностические системы относительно хорошо дифференцировали неясные случаи, так как машинные алгоритмы позволяли учитывать незначительные отклонения от нормы, которые даже хорошему врачу бывает оценить трудно. Это давало возможность, с одной стороны, значительно успешнее решать задачу ранней диагностики и, с другой стороны, обойтись в ряде случаев, - как это было показано в работах Института хирургии им. А.В. Вишневского-без сложнейших методов исследования [4]. Однако при использовании вероятностных методов оставалась нерешенной, как отмечал Н.М. Амосов и соавт. [1], задача оптимального учета индивидуальных особенностей развития заболевания у конкретного больного, что уменьшало вероятность правильного диагностирования. Несмотря на это, вычислительные методы диагностики получили в 70-80-е годы ХХ века довольно широкое распространение и создаются до настоящего времени.
В Российской Федерации с 1979 г. до середины 80-х годов осуществлялась Республиканская (Всероссийская) целевая программа «Разработка и внедрение автоматизированной системы дистанционной диагностики некоторых неотложных состояний». Среди них были ишемическая болезнь сердца, нарушения мозгового кровообращения, травмы черепа, острые заболевания органов брюшной полости, отдельные болезни детского возраста.
Информационные технологии в службе оказания экстренной и неотложной помощи детям, ориентированные на диагностику степени тяжести и прогнозирования течения угрожающих состояний у детей, получили развитие в 80-х годах в системе здравоохранения России. В их основу был положен угрозометрический подход, предполагающий превентивное оказание неотложной (реанимационной) помощи при определенной тяжести клинических проявлений, определяемых на основе специально разработанных патометрических шкал, учитывающих возможные осложнения и исходы. Об эффективности их применения говорит то, что по данным педиатрических учреждений Ленинграда (ныне Санкт-Петербурга) использование системы, ориентированной на «реанимационно-манифестные» признаки угрожающих состояний у новорожденных, привело в то время к значительному (в 1,6 раза) снижению младенческой смертности [7, 9]. Среди вычислительных систем распознавания заболеваний можно отметить построение плана лечения на основе иерархического комбинаторного подхода с использованием многокритериального ранжирования. Подход состоит из следующих этапов: (а) иерархическое описание общего плана лечения в целом; (б) генерация отдельных действий; (в) многокритериальный отбор локальных действий; (г) объединение наиболее целесообразных действий в глобальный комплексный медицинский план [45]. В качестве примера авторами рассмотрен пример подбора терапии у детей, страдающих астмой. Этот же подход представлен в виде процедуры иерархического пятиступенчатого подхода к технологии гибридомного иммуноанализа для поиска лучшей версии каждого этапа с учетом совместимости между выбранными на разных этапах альтернативами. Данный подход состоит из многокритериального ранжирования альтернативных версий на каждом этапе и объединения выбранных версий в единую систему [46].
Вычислительные СППР позволяли нередко получать хорошие результаты в диагностике и выборе лечения, но они не предполагали объяснения предлагаемых решений, будучи ориентированы только на распознавание заболеваний на основе сравнения по сочетаниям признаков. Этот этап внедрения машинной диагностики в практическое здравоохранение вызвал у многих врачей прилив надежд на появление автоматизированной поддержки в трудных случаях. Однако затем этап эйфории сменился у врачей периодом равнодушия, а зачастую и отрицания компьютерного «помощника». Основанием для этого во многом послужило то, что получаемые результаты оставались «черным ящиком», так как формальный характер объяснений полученного диагноза (прогноза) был недоступен содержательному анализу, а распознавание патологических состояний автоматизированными системами осуществлялось при классифицировании только между парами заболеваний (при большем, но ограниченном числе классифицируемых нозологических форм, использовался иерархический подход, требовавший предварительного объединения сходных заболеваний в один класс). Имело место также ограничение на число используемых для дифференциальной диагностики признаков, что даже получило наименование «проклятия многомерности», так как врачам представлялось необходимым подвергнуть анализу весь комплекс наблюдаемых признаков и данных специальных исследований, что было практически невозможно. Это послужило толчком к развитию интеллектуальных систем, в которых отсутствовали названные выше ограничения. Они основаны на работе не с данными о больных, а со знаниями высоко профессиональных специалистов-экспертов и моделируют логику врачебного мышления (отсюда возникло название экспертные системы - ЭС).
В начале 80-х годов В.С. Переверзев-Орлов начал работу по созданию «Советчика врача» [24]. Этот подход предполагал, во-первых, множество вопросов и наборы возможных ответов, включаемых в опрос пациента; во-вторых, оценки и гипотезы относительно решения задач, на которых основывается врачебное заключение; в-третьих, возможность экспериментировать с системой, несколько смещая оценки используемых ею характеристик признаков. Такие системы были названы автором партнерскими. Вторая и третья из названных возможностей позволяли не только решать диагностическую задачу в отношении конкретного пациента, но и приобретать дополнительные знания, а также проверять собственные предположения о роли тех или иных гипотез. То есть эти системы включали элементы искусственного интеллекта, хотя и использовали вычислительные процедуры.
Интеллектуальные СППР
Переход к системам искусственного интеллекта в 70-х годах ХХ века позволил решить проблему дифференциальной диагностики в широком круге патологии, включая нетипичные, редко встречающиеся заболевания. Такие системы могут, на основе анализа клинических проявлений, выдавать, наряду с диагнозом и прогнозом, рекомендации по обследованию больного и методам лечения. Кроме того, предоставление врачам персонализированной обратной связи с СППР в режиме диалога является эффективным средством улучшения соблюдения выдаваемых клинических рекомендаций [47].
Интеллектуальные СППР, т.е. основанные на знаниях в конкретной проблемной области, называют также консультативными системами. Возможно называть их ассистирующими при принятии клинических решений, что подчеркивает их значение как помощников врача в лечебно-диагностическом процессе.
Интеллектуальные системы или системы на знаниях, на основе принципов их создания, подразделяются на ряд классов [17].
Экспертные системы опираются на знания специалистов в определенной медицинской проблемной области и на основе баз правил принятия решений, имитируя их мышление, предоставляют этот опыт менее квалифицированному в данной области врачу в форме консультаций. Интеллектуальные системы построены на основе извлечения знаний из медицинской литературы или массивов историй болезни. Они могут различными способами моделировать решение определенных задач, в частности опираясь на аргументы и контраргументы для порождения гипотез на основе правдоподобных рассуждений.
Системы на прецедентах, в которых решение осуществляется на основе поиска по аналогии (по сходству) в библиотеке случаев-прецедентов нетипичных заболеваний. Мера близости позволяет оценить степень подобия прецедента и нового случая с неизвестным диагнозом или прогнозом. Гибридные интеллектуальные системы представляют собой сочетание систем на основе знаний с поиском по базе прецедентов (классический вариант) или сочетание различных подходов, основанных на технологиях искусственного интеллекта, математико-статистических методах, моделях физиологических систем организма и методах распознавания изображений. Принципы функционирования интеллектуальных систем поддержки принятия врачебных решений включают:
а) применение методов аргументации аналогично анализу и рассуждениям врача в процессе принятии решения;
б) выдвижение гипотезы на основании по возможности ограниченного набора признаков с возможность последующего направленного распроса врача о симптомах у больного для подтверждения или отклонения выдвинутой гипотезы;
в) «автопроверка» выдвигаемых гипотез, осуществляемая путем уточнения и расширения сведений о данных пациента, дополнительно запрашиваемых у врача;
г) предложение и обоснование необходимых для дифференциальной диагностики дополнительных исследований с указанием критериев их диагностической эффективности и возможности выполнения при учете степени угрозы для жизни больного (безопасность пациента);
д) выдача объяснений о предложенной окончательной гипотезе и о выдвигавшихся в процессе работы промежуточных гипотезах обеспечивает «прозрачность» системы для врача и позволяет получить ответы на вопросы: «Почему система сочла необходимым задать пользователю определенный вопрос?» и «Как система пришла к определенному заключению?».
Системы с так называемой «доской объявлений» [38] позволяют осуществлять нечто подобное консилиуму. Каждый «эксперт» (источник знаний) имеет возможность разместить на доске свою гипотезу, сформулированную на основе одного из набора правил, и одновременно «знакомиться с мнениями других экспертов». Процесс включает коррекцию гипотез или выдвижение новых. По мере сближения точек зрения осуществляется сходимость решения, которая и является результатом работы системы. Эта процедура управляется так называемым планировщиком. Врач-пользователь системы получает возможность ознакомиться со знаниями смежных областей, касающихся принятия решения в конкретном случае.
Изложенные принципы демонстрируют не только поддержку решений, но и возможность повышения знаний врача в определенных ситуациях. Последнее связано с обоснованиями и объяснениями предлагаемых гипотез. Понятие, получившее название «маски» болезней, позволяет: (1) зафиксировать признаки, характерные для заболевания, однако отсутствующие у пациента, или (2) обнаружить патологические проявления, отмеченные у больного, но не зафиксированные в «маске», что может указывать на сопутствующие заболевания. Методы нечеткой логики позволяют повысить эффективность выдвигаемых гипотез, так как учитывают неопределенность и неполноту медицинской информации, полученной на определенном этапе врачом при обследовании пациента и поступившей на вход интеллектуальной системы для последующего принятия решения. Также в условиях трудности оценки фенотипических проявлений, в частности при наследственной патологии, интеллектуальная система может способствовать уточнению характера внешних проявлений, например, необычная форма носа, характерная для конкретного заболевания, может быть уточнена по совокупности других признаков. Впоследствии этот симптомокомплекс будет известен врачу.
Возможности повышения квалификации при использовании интеллектуальных систем
Интеллектуальные системы, при наличии в их архитектуре модулей объяснения, характеризуются обучающим эффектом на конкретных примерах в процессе использования. Этот эффект получил даже название «обучение на лету». Интеллектуальные СППР обладают этим свойством в различной степени.Ретроспективныйподходнередкопозволяетобнаружитьвранеесозданныхсистемахмодули, представляющие большой интерес для создаваемых новых систем. В этой связи целесообразно рассмотреть отдельные медицинские интеллектуальные системы, созданные в разные годы для поддержки врачебных решений, которые представляют особый интерес в отношении повышения квалификации врача при работе с ними.
Уже первая медицинская экспертная система MYCIN была ориентирована на помощь в постановке диагноза, в плане идентификации микроорганизма, вызвавшего бактериемию, и выборе надлежащей терапии [39]. Модуль формирования пояснений в ЭС автоматически вызывался по завершении консультации, что позволяло задавать системе вопросы общего и частного характера, которые помогают понять логику предлагаемого решения. Также в системе был реализован в запросном режиме учет взглядов разных научных школ, что обычно отсутствует в аналогичных системах, но важно при повышении квалификации врачей, обучавшихся в разных университетах. Процесс генерации диагностических гипотез и их проверки, сопровождающийся сообщениями, позволяющими следить за ходом «рассуждений» системы в зависимости от вводимой информации, был реализован для диагностики форм артериальной гипертонии в ЭС МОДИС. Система выдавала информацию о предполагаемой гипотезе, а также о ее неподтверждении и переходе к выдвижению другой гипотезы. Это позволяло следить за ходом «рассуждений» системы в зависимости от вводимой информации. Система была способна ответить на вопрос, какие гипотезы рассматривались в процессе вывода решения, почему рассматривалась та или иная гипотеза и как был поставлен именно такой диагноз [8]. Другая интеллектуальная система для диагностики артериальной гипертензии, основанная на модели консилиума специалистов, позволяет представить объект диагностики с позиций различных экспертов, что обеспечивает более целостный анализ состояния пациента [14].
В ЭС INTERNIST-I/CADUCEUS, которая содержит информацию о более, чем 500 нозологических формах, отображается взаимосвязь данных и представляется характеристика их клинической значимости [48]. ЭС MEDICS, включающая 530 болезней, наряду с перечнем наиболее вероятных заболеваний (дифференциальный ряд), выдает сравнение признаков пациента с «эталонными» для каждого из предполагаемых заболеваний [37]. В то же время в системе CADIAG-2/PANCREAS указываются наблюдаемые у больного симптомы, которые не объясняются выдвинутой диагностической гипотезой, и предлагается план дальнейших исследований [32].
Это может заставить врача подумать о возможных сопутствующих заболеваниях или об ошибке диагностики. Для интерпретации неточных сведений о больном с нарушениями функций печени на этапе неполного обследования в системе SPHINX для врача была предусмотрена возможность влиять на процессы управления системой путем модификации данных промежуточных результатов [44]. Выбор оптимального плана обследования больного с учетом критерия альтернативы, включающего риск предполагаемого исследования, обусловленный тяжестью состояния, квалификацией врача, характеристиками медицинской аппаратуры и другими параметрами был реализован в системе MEDAS [34].
В системе "ДИАГЕН" для дифференциальной диагностики наследственных болезней на долабораторном этапе лечащий врач может изменить установленный экспертами «вес» любого из симптомов в соответствии с предположением о его диагностической ценности в конкретном случае. Это позволяет использовать личный опыт и интуицию врача. Объяснение в системе может включать признаки, уточняющие или дополняющие введенные врачом, которые характерны для клинической картины предполагаемого диагноза. По результатам работы можно просмотреть описания, включающие генетическую информацию, специфические исследования, фото больных и протокол, поясняющий полученную последовательность диагнозов - дифференциально-диагностический ряд [15]. Современный прототип системы для диагностики наследственных лизосомных болезней накопления имеет возможность работы в двух режимах - в случае отсутствия у врача предположения о возможном диагнозе и в условиях проверки предполагаемого врачом диагноза. В качестве обоснования предлагаемых решений система выводит для каждой гипотезы о заболевании перечень признаков пациента, которые сгруппированы следующим образом: (а) характерные для данного заболевания, (б) нехарактерные для данного заболевания. Отдельно системой указываются признаки, которые врач не выявил у пациента, но они являются характерными для предполагаемого диагноза. Таким образом система как бы рекомендует врачу провести дообследование больного. Все признаки выдаются с указанием на их диагностическую значимость [19].
Система ДИН [6] для синдромной диагностики неотложных состояний у детей, находящихся в реанимации, создавалась с учетом необходимости принятия решений по неполному списку диагностических критериев, т.е. при стертой клинической картине, на начальном этапе развития патологического процесса и при ограничениях на проведение специальных исследований, обусловленных тяжестью состояния или недостатком аппаратуры. В ней предусмотрены два режима опроса врача о симптомах заболевания - от признаков к диагнозу или от предполагаемого диагноза с получением необходимой информации об уточняющих признаках, что в последнем случае значительно ускоряет принятие решения. Кроме того, врач может проверять таким образом свои диагностические гипотезы. Аспект самообучения в этой системе связан с понятием "маски", включающим теоретически возможные клинические проявления синдрома, как часто, так и редко встречающихся. По "маске" работа ведется в двух противоположных направлениях: во-первых, по проявлениям, зафиксированным в "маске", но отсутствующим у конкретного пациента; во-вторых, по проявлениям, отмеченным у ребенка, но не зафиксированным в "маске". В первом случае врач может попытаться уточнить отсутствующие данные и получить на основании их рассмотрения системой более надежный вывод. Во втором случае, по "лишним" для данного синдрома симптомам, есть вероятность выйти на другие синдромы, в описании которых полученные данные играют известную роль. Это расширяет представление врача о круге сходных по клиническим проявлениям состояний, часто обусловленных патогенетическими связями.
Использование портретного метода [21] позволяет описывать различные варианты полиморфной клинической картины болезни по ведущим признакам и оценивать их вероятность, что повышает эффективность решения задач различной сложности, одновременно демонстрируя врачу возможность предварительного диагноза по разнообразным сочетаниям клинических признаков. В определенной степени сходный в клиническом плане подход реализован в инструментальном средстве для построения интеллектуальных систем STEPCLASS [30], на основе которого была реализована экспертная система для диагностики бронхиальной астмы у детей [25]. В ней предусмотрена диагностика любой гипотетически возможной комбинации значений признаков, характеризующих состояние больного. Эти комбинации именуются авторами "диагностическими ситуациями".
На основе инструментального средства РЕПРОКОД [13] были разработаны ЭС для неонатологии, эндокринологии и другие. Знания в РЕПРОКОД представлены в виде семантических иерархических пороговых сетей. Это демонстрирует связи между медицинскими понятиями, описывающими заболевание, что делает систему простой для понимания заключений системы.
В системе "ЭЭГ-ЭКСПЕРТ" для формирования экспертного заключения о функциональном состоянии мозга и его отдельных структур предусмотрено сопоставление с данными неврологического обследования и нейропсихологического тестирования [20]. Интеллектуальная система MAED (Medical assistance for epilepsy diagnosis - Медицинская помощь при диагностике эпилепсии) можно использовать в качестве обучающего инструмента для повышения уровня знаний студентов-медиков и врачей. Она была разработана и реализована с использованием нечеткой логики и байесовского метода для помощи в диагностике эпилепсии у детей [53]. Эта система, основанная на стандартных клинических рекомендациях, помогает подтвердить диагноз врача посредством систематического анализа информации о пациенте. В неврологии общепринятой для идентификации локализации очага поражения является топическая диагностика. Классическим вариантом реализации этого подхода можно считать систему NEUROLOGIST [35], в которой было предусмотрено формирование схематического изображения среза мозга с указанием местоположения очага поражения. Такое графическое представление знаний о нейроанатомической структуре и сосудистой системе в сочетании с неврологическими симптомами делает систему не только консультативной, но и обучающей, способствуя повышению квалификации врачей.
Система «доктор Ватсон» может ассистировать при диалоге между специалистами разной квалификации. Она ориентирована на то, чтобы задавать уточняющие вопросы в процессе консилиума врачей, что помогает в дифференциальной диагностике и, в то же время, в повышении квалификации при анализе сложных случаев. Таким образом система способствует более полному и глубокому анализу во время обсуждения и принятия решения [22].
На основе обнаружения эмпирических закономерностей, посредством так называемых ДСМ-рассуждений, порождающих гипотезы о предсказаниях, разработан метод автоматизированной поддержки исследований с пополняемыми базами фактов [28, 29]. Такой подход предполагает интеллектуальный анализ данных [27], что важно для оценки и уточнения диагностической роли признаков. Выявление значения признаков в процессе пополнения базы фактов интеллектуальной системы обладает обучающим эффектом для врачей. Этот подход продемонстрирован в диагностике меланомы [23], рака поджелудочной железы [31]. На основе анализа прецедентов, используя рассуждение, обеспечивается правдоподобный вывод о гипотезе патологии, что показано для дифференциальной диагностики системной красной волчанки и системных васкулитов с экстраренальными и почечными проявлениями [12].
Сравнительно мало СППР создано в области лечения. Представляет интерес экспертная система для диагностики лекарственных отравлений ЭСТЕР [2], которая дифференцирует 19 групп распространенных препаратов, имитируя рассуждения врача-токсиколога. Она позволяет определить отравление различными препаратами со сходной клинической картиной или действии одновременно более, чем одного препарата. В подобных ситуациях ЭСТЕР дает ответ следующего вида: «отравление препаратом А более вероятно, чем отравление препаратом В» или «Возможно отравление препаратами А и В».
Несомненный интерес представляет интеграция в интеллектуальные системы информации, поступающей с различной медицинской аппаратуры. Среди таких СППР, использующих знания специалистов, можно назвать систему "АЙБОЛИТ", предназначенную для диагностики и коррекции острых расстройств кровообращения [3].В режиме on-line выделяется ведущийфактор, определяющий патологию ("слабое звено") и осуществляется динамическое наблюдение с использованием методов имитационного моделирования. Реализованная технология включает математическую модель кровообращения, "реагирующую" на поступающую с датчиков текущую информацию, и эвристики, т.е. экспертные знания. Методика принятия решений осуществляется путем построения дифференциального ряда и метода аналогий, в том числе при неполном наборе показателей пациента. Применяется в процессе оперативных вмешательств и при послеоперационном ведении пациентов. Другим примером автоматизированной системы постоянного интенсивного наблюдения для анализа состояния физиологических систем организма, интерпретации динамики количественных параметров и прогнозирования состояния является решение для больных с острой абдоминальной патологией, находящихся в отделении интенсивной терапии [11]. По выбранному врачом временному срезу осуществляется построение заключения и выведение графического «портрета» состояния соответствующей системы организма, что наглядно демонстрирует текущую ситуацию или ее сравнение с предшествующими состояниями. Реализация алгоритма синдромальной диагностики нарушений центральной гемодинамики обеспечивает поддержку принятия врачебных решений в процессе периоперационного лечения (стресс реакции).
Обучающие интеллектуальные системы
Наряду с СППР, которые способствуют непрерывному повышению квалификации врачей в процессе применения, существуют специальные системы интеллектуальной поддержки дополнительного профессионального образования, которые реализуются в различных вариантах. Решению задач клинического обучения соответствуют так называемые активные информационные среды, обеспечивающие диалог с врачом и ориентированные на поиск и предоставление информации и знаний, связанных с решаемой задачей, но не навязывающие пользователю моделей поведения [40, 54, 43].
Специальные обучающие интеллектуальные системы (ОИС), получившие название «критикующих», направлены на поиск ошибок в предлагаемом студентом или врачом решении и предложение альтернативного варианта. Однако более правильным представляется называть эти системы оппонирующими. В качестве заслуживающего внимания примера можно назвать разработку Йельского университета США [49, 50]. ОИС ATTENDING критикует план предоперационной подготовки и выбор способа анестезии, обращая внимание на недостатки, требующие исправления, и на опасности, которых можно избежать. Знания представлены в системе в виде списка комментариев к определенным действиям врача. Дальнейшее развитие этого направления (ОИС PHEO-ATTENDING, оценивающая действия врача при назначении дополнительного обследования больному), включает использование знаний, отражающих позиции двух конкурирующих медицинских школ. Это направление может позволить использовать в практической медицине все лучшее из различных научных подходов.
В системе ТАИС для диагностики терапевтических болезней, применявшейся в обучении студентов РНИМУ им. Н.И. Пирогова, осуществлялся анализ каждого признака с точки зрения его диагностического значения [26]. Это позволяет оценить вклад отдельных признаков в диагностическую гипотезу.
С целью обучения студентов старших курсов и врачей, повышающих свою квалификацию в области педиатрии и детской нефрологии, на основе компьютерной экспертной системы разработан ОИС НЕФРОТРЕНАЖЕР [21]. База знаний системы содержит информацию о 100 заболеваниях с синдромом гематурии: заболевания мочевой системы, болезни соединительной ткани, коагулопатии, инфекционные заболевания, ряд врожденных и наследственных синдромов. НЕФРОТРЕНАЖЕР содержит около тысячи диагностических задач, различной степени сложности, позволяющих определить уровень знаний обучаемого. Эта ОИС предоставляет возможность отбора задач, определение круга заболеваний, оценивает оптимальность проведенного диагностического поиска и дает рекомендации по дальнейшему обучению.
Образовательная программа EClinic по болезни Хантер (мукополисахаридоз II типа), доступная в Lysosomal Storage Research Group (http://www.lysosomalstorageresearch.ca), была разработана с использованием мультимедийной платформы в варианте интерактивной виртуальной клиники и быстрого доступа к литературе, что обеспечивает поддержку принятия решений. В среде, напоминающей настоящую клинику, предлагается составить историю болезни, осмотреть пациента и назначить соответствующее исследование. Программа предоставляет реальные клинические данные пациентов. Пользователю предлагаются вопросы, предназначенные для немедленной оценки эффективности и результативности процесса обучения или повышения квалификации [33]. Мультимедийная система «Врожденные пороки развития» [10] была создана для поддержки решений врачей и применения в образовательном процессе. Иллюстрации и звуковые комментарии дают возможность акцентировать внимание пользователя на существенных моментах, что является одним из важных аспектов в повышении квалификации при редких заболеваниях. Система может быть использована для самостоятельной (внеаудиторной) работы слушателями ФДПО и студентам, а также преподавателем в качестве вспомогательного средства при изложении лекционного материала и проведения практических занятий. Использование тестовых заданий позволяет контролировать усвоение учебного материала. Динамичное графическое представление результатов тестирования обеспечивало наглядность дополнительного средства для самостоятельной работы врачей и студентов. Оценка эффективности обучения с помощью Веб-приложения, содержащего описание редких заболеваний с сотнями изображений, анимации, видео и тестов, проводилась на основе сравнительного анализа показателей уровня знаний после повторных попыток сдачи тестов [52].
Современные аспекты и перспективы реализации СППР
В последнее время для диагностики и прогнозирования довольно широко распространено применение искусственных нейронных сетей (ИНС). Однако следует иметь в виду, что в основе принятия решения в них лежит вычислительная процедура, основанная на преобразовании входных коэффициентов признаков. Соответственно, они представляют собой «черный или серый ящик», что не позволяет получить объяснение выдаваемого решения. Вариантом выхода из этой ситуации могут быть гибридные системы, что предполагает объединение разных подходов, одним из которых могут быть технологии ИНС, а другим традиционные интеллектуальные методы на основе знаний с блоком объяснения. Интересным примером является адаптивная нейросистема нечеткого вывода, использованная для предсказания раковых заболеваний на ранних стадиях. В этой гибридной системе интегрированы нейронные сети и продукционные правила, а машина вывода строится на основе теории нечеткой логики [36, 51]. Продукционные правила выдают понятное врачу объяснение, включающее перечень признаков, на основе которых формируется диагностическая гипотеза. В целом, учитывая нечеткость многих характеристик в состоянии здоровья людей, начиная с цвета лица, перспективным направлением является создание гибридных нечетких интеллектуальных систем. Шире будут применяться системы, обладающие решателями задач, осуществляющими синтез познавательных процедур [29], включающих «рассуждающие» модули объяснения предлагаемых решений.
Комфортный интерактивный диалог должен повысить знания врача в процессе дифференциальной диагностики, способствовать формированию и осмыслению гипотез. В связи с тем, что принятие решений в медицине опирается на логические построения в форме рассуждений, интеллектуальные СППР будут включать развернутые аргументации предлагаемых решений в процессе диагностики и по ее завершению. Наряду с аргументами и контраргументами, применение должны найти ассоциативные и неассоциативные логические связки, аргументируемые и аргументирующие высказывания, ветвление правил вывода, аргументационные деревья, многоуровневые средства аргументации [16].
Базы знаний интеллектуальных систем могут и должны содержать не только лингвистические правила, но и изображения [18], которые будут предъявляться врачам-пользователям. Это могут быть фенотипические проявления клинической картины заболеваний, что особенно важно при редких заболеваниях, а также изображения, получаемые при инструментальных исследованиях (Эхо-КГГ КТ, МРТ и др.). Предъявления их врачам в процессе принятия решений интеллектуальными системами будет способствовать повышению как эффективности формирования диагностических гипотез, так и знаний врачей.
В то же время, четвертое поколение медицинских информационных систем (МИС) или гибридные МИС предусматривает включение компьютерно-ассистирующего программного обеспечения (computer-assisted software design - CASD) или встроенные системы поддержки принятия решений. Эффективность встраивания СППР в медицинские информационные системы можно продемонстрировать на основе неонатологического отделения [42]. До внедрения электронной системы частота ошибок в дозировании антибиотиков и антиконвульсантов у новорожденных составляла 53%. Внедрение электронной системы назначений без системы поддержки решений не снизило частоту ошибок. Внедрение же автоматизированной системы, контролирующей правильность назначений медикаментов, позволило достоверно снизить частоту ошибок в дозировании (до 34%, p<0.001).
Цифровое здравоохранение обеспечит интеграцию различных систем. СППР в перспективе будут «погружены» в электронные медицинские карты. В зависимости от конкретной реализации и специфики они будут располагаться в региональных или федеральном центрах обработки данных (исключая локальные вычислительные центры крупных многопрофильных медицинских организаций). Соответственно, при работе в системе электронных медицинских карт врачи смогут обращаться к СППР в режиме диалога. Консультативные СППР для орфанных болезней будут сопровождаться архивами прецедентов атипичных случаев и неизвестных ранее заболеваний. Доступность этих архивов будет способствовать оперативному ознакомлению врачей с новой патологией в процессе непрерывного повышения квалификации.
Заключение
Развитие компьютерных систем поддержки принятия врачебных решений и, в частности, переход к системам, основанным на знаниях, продемонстрировало возможность не только консультативной помощи на разных этапах лечебно-диагностического процесса (диагностика, прогноз, выбор лечения), но и возможность повышения квалификации врачей при использовании интеллектуальных систем.
Системы на основе методов искусственного интеллекта обеспечивают врачу, в процессе диалога, получение ответов на вопросы, касающиеся процесса принятия решения СППР и объяснение предлагаемой гипотезы. Одновременно может осуществляться выяснение у врача признаков, необходимых для уточнения выдвинутой гипотезы, а также предлагаться проведение дополнительных диагностических исследований и выдаваться информация о возможных осложнениях.ЭтиособенностиинтеллектуальныхСППР,которыепринятоназывать«прозрачностью» системы, способствуют приобретению врачом дополнительных знаний при неполном проявлении клинической картины и в сложных случаях, в частности при редко встречающихся заболеваниях.
Список литерауры
1. Амосов Н.М., Зайцев Н.Г., Мельников В.Г., Попов В.А., Старчик В.Н., Шульга В.А., Яненко В.М. Медицинская информационная система. - Киев: Наукова думка, 1975. - 508 с.
2. Асанов А.А., Ларичев О.И., Нарыжный Е.В., Страхов С.И. Экспертная система для диагностики лекарственных отравлений // Седьмая национальная конференция по искусственному интеллекту с международным участием (КИИ'2000): Труды конференции. Т.2. - М.: Издательство физико-математической литературы, 2000. - С.708-716.
3. Бураковский В.И., Лищук В.А., Газизова Д.Ш. «Айболит» - новая технология для классификации, диагностики и интенсивного индивидуального лечения. - М.: Институт сердечно-сосудистой хирургии, 1991. - 62 с.
4. Быховский М.Л. Решение задач диагностики при помощи электронных вычислительных машин // Вестник АМН СССР. - 1968. - №5. - С.41-52.
5. Быховский М.Л., Вишневский А.А. Кибернетические системы в медицине. - М.: Наука, 1971. - 234 с.
6. Вельтищев Ю.Е., Белозеров Ю.М., Кобринский Б.А. и др. Неотложные состояния у детей (справочник) / Под ред. Ю.Е. Вельтищева, Б.А. Кобринского. - М.: Медицина, 1994. -272 с.
7. Воронцов И.М., Гублер Е.В., Цыбулькин Э.К. Применение методов вычислительной диагностики для выбора тактического решения при угрожающих состояниях у детей // Вопросы охраны материнства и детства. - 1981. - №7. - С.3-8.
8. Геловани В.А., Ковригин О.В., Смольянинов Н.Д. Методологические вопросы построения экспертных интеллектуальных систем // Системные исследования. Методологические проблемы, Ежегодник. 1983. - М.: Наука, 1983. - С.254-278.
9. Гублер Е.В. Информатика в патологии, клинической медицине и педиатрии. - Л: Медицина, Ленингр. отд., 1990. - 176 с.
10. Демикова Н.С., Лапина А.С., Путинцев А.Н., Шмелева Н.Н. Информационно-справочная система по врожденным порокам развития в медицинской практике и образовании // Врач и информационные технологии. - 2007. - №6. - С.33-36.
11. Зарубина Т.В., Гаспарян С.А. Управление состоянием больных перитонитом с использованием новых информационных технологий. - М., 1999.
12. Захарова Е.В. Прогнозирование исходов системной красной волчанки и системных васкулитов с экстраренальными и почечными проявлениями: Автореф. дис. ... канд. мед. наук. - М.: Российская медицинская академия последипломного образования, 2005.
13. Киликовский В.В., Олимпиева С.П., Киликовский Вл.В. Компьютерные медицинские консультативные системы, основанные на представлении знаний эксперта в виде семантической сети // Медицинский научный и учебно-методический журнал. - 2001. - № 2. - С. 17-27.
14. Кириков И.А., Колесников А.В., Румовская С.Б. Функциональная гибридная интеллектуальная система для поддержки принятия решений при диагностике артериальной гипертензии // Системы и средства информатики. - 2014. - Т. 24. - №1. - С. 153-179.
15. Кобринский Б.А., Казанцева Л.З., Фельдман А.Е.Автоматизированные системы дифференциальной диагностики наследственных заболеваний // Наследственная патология человека / Под общ. ред. Ю.Е. Вельтищева и Н.П. Бочкова. Т.И. - М., 1992. - С.229-239.
16. Кобринский Б.А. Аргументационные системы: медицинские приложения // Научно-техническая информация. Серия 2: Информационные процессы и системы. - 2014. - №4. - С.9-11.
17. Кобринский Б.А. Системы искусственного интеллекта в медицинской практике: состояние и перспективы // Вестник Росздравнадзора. - 2020. - № 3. - С. 37-43.
18. Кобринский Б.А., Долотова Д.Д., Донитова В.В., Гаврилов А.В. Радиологические изображения в построении гибридной интеллектуальной системы // Врач и информационные технологии. -2020. - №4. - С.43-50.
19. Кобринский Б.А., Благосклонов Н.А., Демикова Н.С. Система для компьютерной диагностики наследственных заболеваний // Медицинская генетика. - 2020. - Т.19. - №8(217). - С.9-11.
20. Лукашевич И.П., Мачинская Р.И., Фишман М.Н. Структурная организация медицинской информации "ЭЭГ-ЭКСПЕРТ" // Математические методы в технике и технологиях ММТТ-2000: Сборник трудов 13 Международной научной конференции. Т.4. - СПб, 2000. - С.154-157.
21. Марьянчик Б.В. Метод виртуальных статистик и его применение в партнерских системах для компьютерной диагностики // Компьютерная хроника. - 1996. - №5. - С.65-74.
22. Мешалкин Л.Д., Гольдберг С.И. Новый класс систем искусственного интеллекта ф^-системы) // Известия РАН. Техническая кибернетика. - 1992. - № 5. - С.217-223.
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
32
Панкратова Е.С., Добрынин Д.А., Михайлова И.Н. Интеллектуальная компьютерная система для анализа клинических данных больных меланомой // Тринадцатая национальная конференция по искусственному интеллекту с международным участием: Труды конференции. Т.1. - Белгород, 2012. - С.128-134.
Переверзев-Орлов В.С. Советчик специалиста. Опыт разработки партнерской системы. - М.: Наука, 1990. - 133 с.
Соколова Л.В., Фуремс Е.М. Экспертная система дифференциальной диагностики бронхиальной астмы у детей // Информационные технологии в здравоохранении. - 2002. - №8-10. - С. 14-15. Устинов А.Г., Ситарчук Е.А. ТАИС - автоматизированная медико-технологическая система для терапевтического стационара // Компьютерная хроника. - 1994. - №3-4. - С.23-38. Финн В.К. Об интеллектуальном анализе данных // Новости искусственного интеллекта. - 2004.
- №3. - С. 3-18.
Финн В.К., Шестерникова О.П. Эвристика обнаружения эмпирических закономерностей посредством ДСМ-рассуждений // Научно-техническая информация. Сер. 2. Информационные процессы и системы. - 2018. - № 9. - С.7-42.
Финн В.К. Точная эпистемология и искусственный интеллект // Научно-техническая информация. Сер. 2. Информационные процессы и системы. - 2020. - № 6. - С.1-36.
Фуремс Е.М., Гнеденко Л.С. STEPCLASS - система извлечения экспертных знаний и проведения экспертизы для решения диагностических задач // Научно-техническая информация. Сер. 2. Информационные процессы и системы. - 1996. - №9. - С.16-20.
Шестерникова О.П., Финн В.К., Винокурова Л.В., Лесько К.А., Варварина Г.Г., Тюляева Е.Ю. Интеллектуальная система для диагностики заболеваний поджелудочной железы // Научно-техническая информация. Сер. 2. Информационные процессы и системы. - 2019. - № 10. - С.41-48.
Adlassnig K.P., Scheithauer W., Grabner G. CADIAG-2/PANCREAS: an artificial intelligence system based on fuzzy set theory to diagnose pancreatic diseases // Third International Conference on System Science in Health Care (Munich, July, 1984). - Berlin, 1984. - P.396-399.
Al-Jasmi F., Moldovan L., Clarke J.T. Hunter disease eClinic: interactive, computer-assisted, problem-based approach to independent learning about a rare genetic disease // BMC Medical Education. -2010. - Vol.10. No.72. 11 p. Open Access. [Электронный ресурс] - URL: https:// link.springer.com/ article/10.1186/1472-6920-10-72 (Date of the application: 15.01.2021).
Ben-Rassat M., Carlson R.W., Puri U.K. et al. Pattern-based interactive diagnosis of multiple disorders: The MEDAS system // IEEE Transact on Pattern analysis and machine Intelligence. - 1980. - Vol.2. - No.2.
- P.148-160.
Catanzarite V.A., Greenburg A.G., Bremermann H.J. Computer consultation in neurology: Subjective and objective evaluations of the "NEUROLOGIST" system // Computers in Biology and Medicine. - 1982. -Vol.12. - Iss.4. - P.343-355.
Chandana S., Mayorga V.R., Chan Ch.W. Automated Knowledge Engineering // International Journal of Computer and Information Engineering. - 2008, - Vol.2. - No.3. - Р.751-760.
Chang L.Ch., Tou J.T. Medics - a medical knowledge system // IEEE Transactions on Systems Man and Cybernetics. - 1984. - Vol.14. - No.5. - P.746-750.
Corkill D.D. Blackboard Systems // AI Expert. - 1991. - Vol.6, No.9. (9). - P.40-47.
Davis R., Buchanan B.G., Shortliffe E.H. Production rules as representation for a knowledge-based
consultation program // Artificial Intelligence. - 1977. - Vol.8. - No.1. - P.15-45.
Eddy D.M. Clinical decision making: from theory to practice. JAMA. - 1990. - Vol.263. No. 2. - Р.287-290.
Garg A.X., Adhikari N.K.J., McDonald H., Rosas-Arellano M. P., Beyene J., Sam J., Haynes R.B. Effects of
Computerized Clinical Decision Support Systems on Practitioner Performance and Patient Outcomes. A
Systematic Review // JAMA. - 2005. - Vol. 293. - No.10. - Р.1223-1238.
Kazemi A., Ellenius J., Pourasghar F., Tofighi S., Salehi A., Amanati A., Fors U.G. The effect of Computerized Physician Order Entry and decision support system on medication errors in the neonatal ward: experiences from an Iranian teaching hospital // Journal of Medical Systems. - 2011. - Vol.35, Iss.1. - P.25-37. Kreines M., Purtov V., Udalzov Y. Diagnostic trainer-approach, model and software // East-West Conference on Emerging Computer Technologies in Education, 6-9 April 1992, Moscow, Russia, Conference Proceedings. - Moscow, 1992, - Р.181-183.
Lesmo L., Marzuoli M., Molino G., Torasso P. An expert system for the evaluation of liver functional
assessment // Journal of Medical Systems. - 1984. - Vol.8. - No.1-2. - P.87-101.
Levin M.Sh., Sokolova L.V. Hierarchical combinatorial planning of medical treatment // Computer methods
and Programs in Biomedicine. - 2004. - Vol.73, No.1. - P.3-11.
46. Levin M.Sh., Firer M.A. Hierarchical morphological design of immunoassay technology // Computers in Biology and Medicine. - 2005. - Vol.35, No.3. - P.229-245.
47. Lobach D.F. Electronically distributed, computer generated, individualized feedback enhances the use of a computerized practice guideline // Proceedings of the AMIA Annual Fall Symposium. - 1996. - P.493-497.
48. Masarie F.E., Miller R.A., Myers J.D. INTERNIST-I properties: Representing common sense and good medical practice in a computerized medical knowledge base // Computers and Biomedical Research. -1985. - Vol.18, No.5. - P.458-479.
49. Miller P.L. Medical plan-analysis by computer // Computer Methods and Programs in Biomedicine. -1984a. - Vol.18, No.1/2. - P.15-20.
50. Miller P.L., Blumenfruchi S.J., Black H.R. An expert system which critiques patient workup: modeling conflicting expertise // Computers and Biomedical Research. - 1984b. - Vol.17, No.6. - P.554-569.
51. Min H., Manion F.J., Goralczyk E., Wong Y.N., Ross E., Beck J.R. Integration of prostate cancer clinical data using an ontology // Journal of Biomedical Informatics. - 2009. - Vol.42, No.6. - P.1035-45.
52. Putintsev A., Voinova V. Congenital Abnormalities: Web Application and Self-Learning Effectiveness Evaluation // Journal of Medical Systems. 2018. Manuscript Number: J0MS-D-18-00761. - 13p.
53. Singh-Mugica S., Tovar-Corona B., Silva-Ramirez M.A., Jimenez L.-I.G. An intelligent system to assist the diagnosis of epilepsy disorder in children: A case of study // 2016 IEEE Healthcare Innovation Point-of-Care Technologies Conference, HI-POCT 2016. 2016. Article number 7797717. - P.142-145.
54. Seelos H.-J. A new paradigm of medical informatics // Methods of Information in Medicine. - 1992. -Vol.31, No.2. - P.79-81.
References
1. Amosov N.M., Zaitsev N.G., Melnikov V.G., Popov V.A., Starchik V.N., Shulga V.A., Yanenko V.M. (1975). Medical information system. Kiev: Naukova Dumka. 508 p. (In Rus).
2. Asanov A.A., Larichev OI, Naryzhny E.V., Strakhov S.I. (2000). 'Expert system for the diagnosis of drug poisoning'. Seventh National Conference on Artificial Intelligence with International Participation (CAI'2000): Proceedings of the conference. Vol.2. Moscow. Publishing house of physical and mathematical literature. pp.708-716. (In Rus).
3. Burakovsky V.I., Lishchuk V.A., Gazizova D.Sh. (1991). Aibolit is a new technology for classification, diagnosis and intensive individual treatment.Moscow. Institute of Cardiovascular Surgery. 62 p. (In Rus).
4. Bykhovsky M.L. (1968). Solving diagnostic problems using electronic computers. Bulletin of the USSR Academy of Medical Sciences. No. 5. pp.41-52. (In Rus).
5. Bykhovsky M. L., Vishnevsky A. A. (1971). Cybernetic systems in medicine. - Moscow: Nauka. 234 p. (In Rus).
6. Vel'tishchev Yu.E., Belozerov Yu.M., Kobrinskii B.A. et al. (1994). Emergencies in children. Reference book. - Moscow: Medicine. 272 p. (In Rus).
7. Vorontsov I.M., Gubler E.V., Tsybul'kin E.K. (1981). 'Application of methods of computational diagnostics for choosing a tactical solution for threatening conditions in children'. Issues of protection of motherhood and childhood. No. 7. pp. 3-8. (In Rus).
8. Gelovani V.A., Kovrigin O.V., Smolyaninov N.D. (1983). 'Methodological issues of constructing expert intelligent systems'. System Research. Methodological problems, Yearbook. Moscow: Nauka. pp. 254278. (In Rus).
9. Gubler E.V. (1990). Informatics in pathology, clinical medicine and pediatrics. Leningrad: Medicine, Leningrad branch. 176 p. (In Rus).
10. Demikova N.S., Lapina A.S., Putintsev A.N., Shmeleva N.N. (2007). 'Information and reference system on congenital malformations in medical practice and education'. Doctor and information technologies. No. 6. pp. 33-36. (In Rus).
11. Zarubina T.V., Gasparyan S.A. (1999). Control of the state of patients with peritonitis using new information technologies. Moscow. 265 p. (In Rus).
12. Zakharova E.V. (2005). Predicting the outcomes of systemic lupus erythematosus and systemic vasculitis with extrarenal and renal manifestations. Abstract of the dissertation for candidate of medical sciences. Moscow: Russian Medical Academy of Postgraduate Education (In Rus).
13. Kilikovsky V.V., Olympieva S.P., Kilikovsky Vl.V. (2001). 'Computer medical advisory systems based on the representation of expert knowledge in the form of a semantic network'. Medical scientific and educational journal. No. 2. pp. 17-27. (In Rus).
14. Kirikov I.A., Kolesnikov A.V., Rumovskaya S.B. (2014). 'Functional hybrid intelligent system for decision support in the diagnosis of arterial hypertension'. Systems and means of informatics. Vol. 24. No. 1. pp.153-179. (In Rus).
15. Kobrinskii B.A., Kazantseva L.Z., Fel'dman A.E. (1992). 'Automated systems for differential diagnosis of hereditary diseases'. Hereditary human pathology. Vol. II. - Moscow. pp. 229-239. (In Rus).
16. Kobrinskii B.A. (2014). 'Argumentation systems: medical applications'. Scientific and technical information. Series 2: Information Processes and Systems. No. 4. pp. 9-11. (In Rus).
17. Kobrinskii B.A. (2020). Artificial intelligence systems in medical practice: state and prospects'. Bulletin of Roszdravnadzor. No. 3. pp. 37-43. (In Rus).
18. Kobrinskii B.A., Dolotova D.D., Donitova V.V., Gavrilov A.V. (2020). 'Radiological images in the construction of a hybrid intelligent system'. Doctor and information technologies. No. 4. - P.43-50. (In Rus).
19. Kobrinsky B.A., Blagosklonov N.A., Demikova N.S. (2020). 'System for computer diagnostics of hereditary diseases'. Medical genetics. Vol.19. No. 8 (217). pp. 9-11. (In Rus).
20. Lukashevich I.P., Machinskaya R.I., Fishman M.N. (2000). 'Structural organization of medical information «EEG-EXPERT»'. Mathematical methods in engineering and technology MMET-2000: Proceedings of the 13th International Scientific Conference. Vol.4. SPb. pp. 154-157. (In Rus).
21. Maryanchik B.V. (1996). 'The method of virtual statistics and its application in partner systems for computer diagnostics'. Computer chronicle. No. 5. pp. 65-74. (In Rus).
22. Meshalkin L. D., Goldberg S. I. (1992). 'A new class of artificial intelligence systems (DrWt-systems)'. Izvestiya RAN. Technical cybernetics. No. 5. pp. 217-223. (In Rus).
23. Pankratova E.S., Dobrynin D.A., Mikhailova I.N. (2012). 'Intelligent computer system for the analysis of clinical data of patients with melanoma'. Thirteenth national conference on artificial intelligence with international participation: Proceedings of the conference. Vol.1. Belgorod. pp. 128-134. (In Rus).
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
№4
Pereverzev-Orlov V.S. (1990). Expert advisor. Experience in developing an affiliate system. Moscow: Nauka. 133 p. (In Rus).
Sokolova L.V., Furems E.M. (2002). 'Expert system for differential diagnosis of bronchial asthma in children'. Information technologies in health care. No.8-10. pp.14-15. (In Rus).
Ustinov A.G., Sitarchuk E.A. (1994). 'TAIS - automated medical and technological system for a therapeutic hospital'. Computer chronicle. No. 3-4. pp. 23-38. (In Rus).
Finn V.K. (2004). 'About intelligent data analysis'. News of artificial intelligence. No. 3. - pp. 3-18. (In Rus). Finn V.K., Shesternikova O.P. (2018). 'Heuristics for detecting empirical patterns by means of JSM reasoning'. Scientific and technical information. Series 2. Information processes and systems. No.9. pp. 7-42. (In Rus).
Finn V.K. (2020). 'Precise epistemology and artificial intelligence'. Scientific and technical information. Series 2. Information processes and systems. No.6. pp. 1-36. (In Rus).
Furems E.M., Gnedenko L.S. (1996). 'STEPCLASS - a system for extracting expert knowledge and carrying out expertise for solving diagnostic problems'. Scientific and technical information. Series 2. Information processes and systems. No.9. pp. 16-20. (In Rus).
Shesternikova O.P., Finn VK, Vinokurova L.V., Lesko KA, Varvarina G.G., Tyulyaeva E.Yu. (2019). 'Intelligent system for diagnosing diseases of the pancreas'. Scientific and technical information. Series 2. Information processes and systems. No. 10. pp. 41-48. (In Rus).
Adlassnig K.P., Scheithauer W., Grabner G. (1984). 'CADIAG-2/PANCREAS: an artificial intelligence system based on fuzzy set theory to diagnose pancreatic diseases'. Third International Conference on System Science in Health Care (Munich, July, 1984). Berlin. pp. 396-399.
Al-Jasmi F., Moldovan L., Clarke J.T. (2010). 'Hunter disease eClinic: interactive, computer-assisted, problem-based approach to independent learning about a rare genetic disease'. BMC Medical Education. Vol.10. No.72. pp.11. available at: URL: https:// link.springer.com/article/10.1186/1472-6920-10-72 (Date of the application: 15.01.2021).
Ben-Rassat M., Carlson R.W., Puri U.K. et al. (1980). 'Pattern-based interactive diagnosis of multiple disorders: The MEDAS system'. IEEE Transact on Pattern analysis and machine Intelligence. Vol.2. No.2. pp.148-160.
Catanzarite V.A., Greenburg A.G., Bremermann H.J. (1982). 'Computer consultation in neurology: Subjective and objective evaluations of the «NEUROLOGIST» system'. Computers in Biology and Medicine. Vol.12. Iss.4. pp. 343-355.
Chandana S., Mayorga V.R., Chan Ch.W. (2008). 'Automated Knowledge Engineering' // International Journal of Computer and Information Engineering. Vol.2. No.3. pp.751-760.
Chang L.Ch., Tou J.T. (1984). 'Medics - a medical knowledge system'. IEEE Transactions on Systems Man and Cybernetics. Vol.14. No.5. pp. 746-750.
Corkill D.D. (1991). 'Blackboard Systems'. AI Expert. Vol.6. No.9. (9). pp.40-47.
Davis R., Buchanan B.G., Shortliffe E.H. (1977). 'Production rules as representation for a knowledge-based consultation program'. Artificial Intelligence. Vol.8. No.1. pp.15-45.
Eddy D.M. (1990). 'Clinical decision making: from theory to practice'. JAMA. Vol.263. No. 2. pp. 287-290. Garg A.X., Adhikari N.K.J., McDonald H., Rosas-Arellano M. P., Beyene J., Sam J., Haynes R.B. (2005). 'Effects of Computerized Clinical Decision Support Systems on Practitioner Performance and Patient Outcomes. A Systematic Review'. JAMA. Vol. 293. No.10. pp. 1223-1238.
Kazemi A., Ellenius J., Pourasghar F., Tofighi S., Salehi A., Amanati A., Fors U.G. (2011). 'The effect of Computerized Physician Order Entry and decision support system on medication errors in the neonatal ward: experiences from an Iranian teaching hospital'. Journal of Medical Systems. - 2011. Vol.35. Iss.1. pp. 25-37.
Kreines M., Purtov V., Udalzov Y. (1992). 'Diagnostic trainer-approach, model and software'. East-West Conference on Emerging Computer Technologies in Education, 6-9 April 1992, Moscow, Russia, Conference Proceedings. Moscow. pp. 181-183.
Lesmo L., Marzuoli M., Molino G., Torasso P. (1984). 'An expert system for the evaluation of liver functional assessment'. Journal of Medical Systems. Vol.8. No.1-2. pp. 87-101.
Levin M.Sh., Sokolova L.V. (2004). 'Hierarchical combinatorial planning of medical treatment'. Computer methods and Programs in Biomedicine. Vol.73. No.1. pp. 3-11.
Levin M.Sh., Firer M.A. (2005). 'Hierarchical morphological design of immunoassay technology'. Computers in Biology and Medicine. Vol.35. No.3. pp. 229-245.
Lobach D.F. (1996). 'Electronically distributed, computer generated, individualized feedback enhances the use of a computerized practice guideline'. Proceedings of the AMIA Annual Fall Symposium. pp. 493-497. Masarie F.E., Miller R.A., Myers J.D. (1985). 'INTERNIST-I properties: Representing common sense and
good medical practice in a computerized medical knowledge base'. Computers and Biomedical Research. Vol.18. No.5. pp. 458-479.
49. Miller P.L. (1984). 'Medical plan-analysis by computer'. Computer Methods and Programs in Biomedicine. Vol.18. No.1/2. pp. 15-20.
50. Miller P.L., Blumenfruchi S.J., Black H.R. (1984). 'An expert system which critiques patient workup: modeling conflicting expertise'. Computers and Biomedical Research. Vol.17. No.6. pp. 554-569.
51. Min H., Manion F.J., Goralczyk E., Wong Y.N., Ross E., Beck J.R. (2009). 'Integration of prostate cancer clinical data using an ontology'. Journal of Biomedical Informatics. Vol.42. No.6. pp. 1035-45.
52. Putintsev A., Voinova V. (2018). 'Congenital Abnormalities: Web Application and Self-Learning Effectiveness Evaluation'. Journal of Medical Systems. Manuscript Number: J0MS-D-18-00761. 13 p.
53. Singh-Mugica S., Tovar-Corona B., Silva-Ramirez M.A., Jimenez L.-I.G. (2016). 'An intelligent system to assist the diagnosis of epilepsy disorder in children: A case of study'. 2016 IEEE Healthcare Innovation Point-of-Care Technologies Conference. HI-POCT 2016. Article number 7797717. pp. 142-145.
54. Seelos H.-J. (1992). 'A new paradigm of medical informatics'. Methods of Information in Medicine. Vol.31. No.2. pp. 79-81.
CLINICAL DECISION SUPPORT SYSTEMS IN ADVANCED QUALIFICATION: HISTORY AND MODERN TRENDS
Kobrinskii B.A.12
1 The Federal Research Center "Computer Science and Control" of Russian Academy of Sciences, The Problem Artificial Intelligence Institute, Moscow, Russia
2 The Pirogov Russian National Research Medical University Moscow, Russia
Correspondence should be addressed: kba_05@mail.ru, Kobrinskii B.A.
Abstract
The problem of physicians' continuous professional development may be solved in different ways. The purpose of this article is to demonstrate the use of computerized clinical decision support systems for resolving the considered problem. It is shown that intelligent systems possess the ability to obtain new knowledge, in contrast to computing systems based on data processing. We have come to this conclusion by explaining the sequence of hypothesis generation and analysis, as well as by explaining the proposed
solution. In addition, there are intelligent systems that are focused on dialogue with a physician directly to improve his qualifications in a specific subject area. Thus, in the field of continuous additional professional
development, we can use both special educational intellectual programs and decision support systems, including explanation modules. In the future, stand-alone diagnostic and other systems will be used only in exceptional cases. The modern trend is focused on their integration into electronic medical records
systems. In this case, such systems will be used in the framework of preventive examinations or treatment-and-diagnostic process.
Keywords: advanced training in the process of using the diagnostic system, clinical decision support system, explanation of decision making, explanation of hypotheses, educational intelligent systems, multimedia systems, computing systems, knowledge-based systems.
Источник финансирования: Автор заявляет об отсутствии финансирования.
Конфликт интересов: Автор декларирует отсутствие явных и потенциальных конфликтов интересов,
связанных с публикацией настоящей статьи.
