CC BY
93
тзз
• Л>1> я
>
А.П. СТОЛБОВ,
д.т.н., профессор Высшей школы управления здравоохранением Первого московского государственного медицинского университета им. И. М. Сеченова, г. Москва, [email protected]
об определении классов потенциального риска применения «медицинского» программного обеспечения
УДК 61:656.251+615:47
Столбов А. П. Об определении классов потенциального риска применения «медицинского» программного обеспечения (Первый московский государственный медицинский университет им. И.М. Сеченова) Аннотация. Описана Номенклатурная классификация медицинских изделий (МИ). Перечислены проблемы, связанные с включением программного обеспечения (ПО) в номенклатуру видов МИ. Предложены критерии отнесения ПО к программным медицинским изделиям (Software as a Medical Device, SaMD, ПМИ). Предложена классификация ПМИ в зависимости потенциального риска применения для здоровья пациента. Описаны правила идентификации указанных рисков и определения класса риска для ПМИ.
Ключевые слова: медицинские информационные системы, медицинские изделия, программное обеспечение, программное медицинское изделие, риски применения программного обеспечения в медицине.
UDC 61:656.251+615:47
Stolbov A.P. About the definition of the classes of potential risk of medical software (First Sechenov Moscow State Medical University)
Abstract. Describes the Nomenclature classification of medical devices (MD). Lists the problems related to the inclusion of software in the nomenclature of the types of MD. Proposed criteria for Software as a Medical Device (SaMD). The proposed classification of SaMD based on potential risk to the health of the patient. Describes the rules for identifying these risks and determining the risk class for SaMD.
Keywords: medical information systems, medical device, software, software as a medical device, risks of the use of software in medicine.
-Ф-
□ дной из наиболее заметных тенденций в развитии технологий здравоохранения является сегодня все более активное применение компьютеров и программного обеспечения (ПО) для информационной и интеллектуальной поддержки работы врача [2,3,8,9]. В 2013 г. Международным форумом регуляторов медицинских изделий (IMDRF, www.imdrf.org) было _ введено понятие «Software as a Medical Device» (SaMD) - «про-
граммное медицинское изделие» (далее - ПМИ, программное изделие) [23]. Тем самым, наряду с цифровой медицинской техникой, подчеркнута новая роль ПО как функционального элемента современных медицинских технологий - информационного помощника и консультанта лечащего врача при принятии им клинических решений. При этом весьма важными являются безопасность применения ПМИ и уверенность врача и пациента в адекватности
© А.П. Столбов, 2016 г.
и достоверности информации, формируемой программным изделием, которые обеспечиваются, в том числе путем выполнения соответствующих регистрационных и контрольных процедур на всех этапах его жизненного цикла [24, 25, 27, 28, 31, 32].
Целью настоящей работы является анализ и обсуждение возможных путей решения существующих сегодня проблем, связанных с введением в действие с 06.01.2015 г. новой Номенклатурной классификации медицинских изделий, утвержденной Приказом Минздрава России от 06.06.2012 г. № 4н (в редакции Приказа № 557н от 25.09.2014 г., далее - Приказ № 4н) в части отнесения программного обеспечения к медицинским изделиям (МИ), - необходимостью государственной регистрации ПО как медицинского изделия с обязательным подтверждением его качества, эффективности и безопасности.
Заметим, что решениями Коллегии Евразийского экономического союза (ЕАЭС) от 22.12.2015 г. № 173 и от 29.12.2015 г. № 177 были утверждены единые правила классификации МИ в зависимости от потенциального риска применения и правила ведения номенклатуры медицинских изделий соответственно1.
В соответствии с Номенклатурной классификацией медицинских изделий они подразде-ляются2: а) на виды (далее - Номенклатура видов)3 и б) на классы - в зависимости от потенциального риска применения МИ (далее -классы риска).
1 Федеральным законом № 4-ФЗ от 31.01.2016 г. ратифицировано Соглашение о единых принципах и правилах обращения медицинских изделий в рамках Евразийского экономического союза от 23.12.2014 г.
2 См. ст. 38 Закона «Основы охраны здоровья граждан в Российской Федерации» № 323-ФЗ от 21.11.2011 г.
3 Ведется Росздравнадзором в электронном виде [13] и публикуется на его официальном сайте -http://roszdravnadzor.ru/services/mi_reesetr.
2016, № 3
При этом класс риска применения МИ определяется априорно по формальным правилам, которые разработаны «экспертным способом» и имеют институциальный характер - приняты на основе соглашения и утверждены официально.
Ключевыми вопросами, требующими решения, по нашему мнению, являются:
- определение четких критериев отнесения программного обеспечения, применяемого для автоматизации лечебно-диагностического процесса, к медицинским изделиям; письмо Рос-здравнадзора от 30.12.2015 г. № 01И-2538/15, к сожалению, не в полной мере проясняет эти вопросы;
- внесение изменений в Номенклатуру видов в части уточнения формулировок в наименовании и описании вида ПО для некоторых номенклатурных единиц (унификация терминологии, использование терминов, принятых в нормативных документах и т.д.), а также исключение из нее видов ПО, не относящихся к медицинским изделиям согласно нашему за-конодательству2;
- разработка и утверждение правил классификации «медицинского» программного обеспечения в зависимости от потенциального риска применения; в Приказе № 4н такие правила описаны только для ПО, предназначенного для применения совместно с медицинскими изделиями, непосредственно взаимодействующими с пациентом, а также для ПО, используемого для диагностики in vitro (ИВД).
Применение правил классификации медицинских изделий, утвержденных решением Коллегии ЕАЭС от 22.12.2015 г. № 173 (далее - Правила № 173), для «медицинского» самостоятельного программного обеспечения, не относящегося к указанным выше категориям, также требует соответствующих официальных разъяснений.
В «Методических рекомендациях по обеспечению функциональных возможностей медицинских информационных систем медицин-
>
тзз
•Л' ш<А
ских организаций (МИС МО) », утвержденных 01.02.2016 г. (письмо Минздрава России от 05.02.2016 г. № 18-0/10/2-603), о классификации и регистрации ПО МИС и/или ее подсистем в качестве медицинских изделий, ничего не сказано.
Критерии отнесения программного обеспечения к медицинским изделиям. Определение критериев отнесения ПО к медицинским изделиям предлагается осуществлять на основе положений, изложенных в ГОСТ Р ИСО/ ТО 27809, ГОСТ Р ИСО/ТС 25238, а также в документе IMDRF/SаMD WG/N10 [23].
Предлагается определить три категории «медицинского» программного обеспечения, которое относится к МИ и подлежит государственной регистрации:
1) предназначенное производителем для применения в составе и/или совместно с изделием медицинской техники (МТ): приборами, аппаратами, оборудованием или комплексами (по ГОСТ 20790), непосредственно взаимодействующих с пациентом либо обеспечивающих необходимые условия для пациентов и персонала при осуществлении диагностических, лечебных и профилактических мероприятий или уходе за больными; определение класса риска для данной категории ПО осуществляется по правилам, утвержденным Приказом № 4н / Правилами № 173;
2) предназначенное производителем для применения в системах для ИВД: для управления роботизированной лабораторной техникой, а также работы с биочипами; визуализации и/или обработки диагностических изображений и/или измерительной информации, анализа и/или интерпретации результатов (см. ГОСТ Р 53798); в Номенклатурной классификации медицинских изделий по видам эта категория ПО выделена в отдельную подгруппу (код 5.3); класс риска для данной категории ПО определяется в соответствии с правилами, утвержденными Приказом № 4н / Правилами № 173;
3) программное медицинское изделие (ПМИ) - если оно не относится к указанным выше категориям ПО и предназначено производителем для выполнения одной или нескольких следующих функций при оказании медицинской помощи пациенту (далее - клинически важные функции, КВФ), в том числе, возможно, совместно с другим ПО и/или базами данных, указанными в технической и эксплуатационной документации (здесь и далее указаны условные буквенные обозначения функций):
ВД - визуализации (отображения) файлов медицинских изображений и диаграмм (например, ЭКГ), сформированных рентгеновскими, магнитно-резонансными, ультразвуковыми и другими диагностическими приборами, записанными на машинных носителях информации в «аппаратно-независимых» (VNA) стандартных форматах р1СОМ, SCP-ECG и др.);
ОИ - формирования, обработки и анализа медицинских изображений, в том числе построения (реконструкции), визуализации и анализа индивидуальных анатомических 3D-и/или 4D-моделей пациента, наложения изображений, полученных различными методами или от разных источников, морфометрическо-го и структурного анализа изображений, выполнения геометрических измерений и т.д.;
ОФ - обработки, визуализации и анализа записей (фонограмм) анатомических шумов или речи пациента;
ВМ - вычислительного моделирования физиологических и/или патологических процессов для оценки и прогнозирования состояния пациента (исследования т selico);
ПН - проверки взаимодействия / совместимости при назначении лекарственных препаратов, диагностических исследований и/или лечебных процедур;
РД - расчета (пересчета) доз лекарственных препаратов, контрастного вещества, доз облучения, концентраций растворов и т.д.;
РС - расчета показателей для оценки состояния пациента по стандартным (утвержден-
ным) формулам, шкалам, таблицам, скоринг-картам и т.д4.;
МФ - автоматического распознавания (обнаружения) определенных ситуаций и/или состояний при осуществлении измерения и/или мониторинга физиологических параметров организма пациента (в том числе удаленного);
ИД - интерпретации клинических данных, в том числе, например, данных инструментальных и/или лабораторных исследований, и формирования заключений и/или рекомендаций для принятия клинического (врачебного) решения;
АВ - формирования аудио- и/или видеопотока, воспроизводимого с помощью настольного компьютера, ноутбука, планшета или смартфона, и воспринимаемого пациентом при выполнении лечебно-диагностических процедур, в том числе, возможно, с обработкой сигналов биологической обратной связи, вводимых пациентом с помощью клавиатуры, мыши, джойстика, сенсорного экрана и т.д.;
РП - обработки и/или формирования данных (вычисления величин), используемых затем при применении других медицинских изделий, в том числе неактивных; в данном случае ПМИ используется не как принадлежность и/ или ПО для непосредственного контроля или управления этим МИ, а для проверки параметров работы МИ, вводимых пользователем, и/или формирования рекомендаций или указаний пользователю по применению данного терапевтического МИ, выбору режима работы, параметров функционирования и т.д.
Иными словами, основными функциональными критериями отнесения ПО к программным медицинским изделиям (ПМИ) являются:
а) применение ПО для обработки и/или визуализации данных, полученных от медицинских приборов;
4 Программы, предназначенные для выполнения РД- и/или РС-функций иногда называют «медицинскими калькуляторами».
2016, № 3
б) формирование (вычисление) и отображение с помощью ПО содержательно новой, клинически значимой информации, которая используется для принятия врачебных решений.
Далее ПМИ, в которых реализованы функции ВМ, ПН, РД, МФ, РП и ИД, будем относить к системам поддержки принятия врачебных решений - СППВР.
Программное обеспечение, предназначенное только для ведения учетной медицинской документации в электронном виде, в том числе ведения электронной медицинской карты пациента (ЭМК), выполнения учетных и административных функций, включая учет объемов оказанной медицинской помощи, регистрацию (учет) диагнозов, управление ресурсами медицинской организации, ведение расписаний, запись на прием к врачу, формирование статистических отчетов и реестров, ведение госпитальных и нозологических регистров и т.д., и которое не предназначено для выполнения ни одной из функций, перечисленных выше в пп. 1), 2) или 3), не относится к медицинским изделиям.
Ведение первичной медицинской документации (ЭМК) не относится к клинически важным функциям, даже в том случае, если в ПО реализованы специфические «медицинские» возможности (функции), например, формальный контроль значений вводимых клинических данных, ведение «чек-листов» при выполнении лечебно-диагностических процедур, проверка полноты записей в унифицированные формы медицинских документов, формирование эпикризов, направлений на исследования, рецептов и т.д., поскольку ПО не формирует (не вычисляет, не генерирует, не порождает) содержательно новую, клинически значимую информацию, а только выбирает и/или компилирует данные, содержащиеся в записях в ЭМК, сделанных медицинскими работниками.
Таким образом, включению в Номенклатуру видов МИ подлежат только те виды ПО, которые относятся к одной из описанных выше
>
и информационные
технологии
категорий: предназначенные для работы с медицинской техникой, применяемые в составе систем для ИВД, а также программные медицинские изделия - ПМИ, предназначенные для выполнения клинически важных функций.
Оценка соответствия - подтверждение качества и эффективности ПО, не являющегося медицинским изделием, в том числе на соответствие требованиям информационной безопасности и защиты персональных данных, интероперабельности с государственными информационными системами, обеспечения юридической значимости электронных медицинских документов и т.д., осуществляются в соответствии с требованиями, процедурами и нормативными документами, предусмотренными федеральными законами «Об информации, информационных технологиях и защите информации», «О персональных данных», «Об электронной подписи», «О техническом регулировании», «О стандартизации в Российской Федерации». Заметим, что в США программное обеспечение, применяемое для автоматизации медицинской деятельности, проходит обязательную сертификацию и регистрацию в ONC5 - на интероперабельность и соответствие требованиям HIPAA-HITECH, в том числе по требованиям информационной безопасности, а также при необходимости - как медицинское изделие в FDA6 - для оценка безопасности для здоровья пациента и персонала.
Правила определения класса риска программного медицинского изделия.
Класс риска применения МИ, в том числе ПМИ, определяет требования к процессам и процедурам разработки, испытаний (оценке качества, эффективности и безопасности), регистрации, производства, применения (эксплуатации), сопровождения и мониторинга без-
5 Office of the National Coordinator for Health Information Technology, www.healthit.gov.
6 Food and Drug Administration, www.fda.gov.
опасности медицинского изделия - к составу, содержанию и периодичности выполняемых мероприятий. Чем выше потенциальный риск (класс риска МИ), тем больше «точек контроля» и тем более жесткие требования к процессам и процедурам [29-31, 40]. Очевидно, что при разработке правил определения класса риска ПМИ необходимо исходить из принципа разумной достаточности на основе сочетания:
а) требований обеспечения безопасности пациента;
б) сокращения общественных издержек, связанных с осуществлением контрольных и надзорных процедур, обеспечивающих выполнение указанных требований на всех этапах жизненного цикла программного изделия.
К сожалению, ни в Приказе № 4н, ни в Правилах № 173 не приведены содержательные (вербальные) определения классов риска и не указаны ссылки на нормативные документы и ГОСТы, в которых даны эти определения [26, 27, 41].
Классификацию программных медицинских изделий (ПМИ) в зависимости от потенциального риска применения предлагается осуществлять исходя из следующих определений (ГОСТ ISO 14971, Правила № 173):
• вред - травмирование или нанесение ущерба здоровью человека (пациента), оборудованию или окружающей среде;
• опасность (угроза) - потенциальный источник вреда;
• опасная ситуация - обстоятельства, при которых люди, имущество или окружающая среда подвержены одной или нескольким опасностям;
• вероятность причинения вреда - произведение (суперпозиция) вероятностей воздействия опасностей и возникновения опасной ситуации;
• потенциальный риск применения ПМИ (далее - риск) - комбинация вероятности причинения вреда при применении ПМИ в соответствии с назначением, определенным производителем, и тяжести этого вреда.
В данном случае «вред», «вероятность», «риск» оцениваются в условиях существенной неопределенности и поэтому измеряются не количественной мерой - числом, а экспертно, с использованием некоторой лингвистической шкалы. При этом количество градаций (классов) на шкале и различие между ними, как правило, основывается на выборе доступных формализованных процедур многокритериального экспертного оценивания. Переход к количественным, в частности, сравнительным относительным оценкам вреда, вероятностей и рисков может осуществляться, например, с использованием логистической функции Харрингтона, Fuzzy-методов и метрик [5, 11].
Потенциальный риск применения ПМИ идентифицируется, оценивается и классифицируется в зависимости от последствий для здоровья пациента, к которым может привести неправильные применение, отказ или неправильная работа ПМИ, независимо от возможных причин - алгоритмических и/или программных ошибок в ПМИ, в применяемом совместно с ним прикладном и/или в системном ПО, неполных или неверных исходных данных, ошибок и/или неверных действий пользователя при работе с ПМИ, в том числе неправильной, неадекватной интерпретации сообщений, формируемых ПМИ, сбоев в работе средств вычислительной техники. При этом считается, что во всех случаях пользователь: а) всегда следует предписаниям и рекомендациям, формируемым ПМИ; б) не способен / не может распознать неправильную работу программного изделия, при том, что неправильная работа ПМИ может привести даже к более тяжелым последствиям, чем явный «полный» отказ (неработоспособность, «отказ в обслуживании»).
Заметим, что в перечне опасностей в приведенном выше определении не указаны угрозы несанкционированного внешнего ки-бервоздействия на ПМИ и/или ПО среды функционирования. Обеспечение кибербе-
2016, № 3
зопасности7 цифровой медицинской техники и МИС, включая классификацию медицинских изделий в зависимости от уровня исходной защищенности от внешнего кибервоз-действия, - это особая, отдельная тема (см. ГОСТ Р 56837, 56839, 56841, 56849, ГОСТ Р ИСО 27779, [6, 9, 10]). В США с 2013 г. FDA осуществляется мониторинг инцидентов, связанных с кибервоздействием на цифровую медицинскую технику. В октябре 2014 г. FDA опубликовано руководство по обеспечению кибербезопасности медицинских изделий в процессе их разработки и производства, в январе 2016 г. - проект руководства по кибербезопасности медизделий на этапе экс-плуатации8.
Программные медицинские изделия в зависимости от степени потенциального риска применения, так же как и иные категории медицинских изделий, подразделяются на четыре класса - с учетом классификации, определенной Приказом № 4н / Правилами № 173: с низким (код 1), средним (2а), повышенным (2б) и высоким (3) риском.
Считается, что указанные классы риска ПМИ сопоставимы (соотносимы) с соответствующими классами для «материальных» медицинских изделий и изделий, применяемых для диагностики in vitro.
Предлагается следующая содержательная интерпретация (описание) классов риска ПМИ, разработанная на основе ГОСТ ISO 14971, с учетом того, что количественная оценка вероятностей возникновения опасных ситуаций при использовании ПМИ в общем случае не
7 Кибербезопасность - обеспечение защиты (защищенность) от несанкционированного внешнего воздействия на компьютерную систему, информационные ресурсы и программное обеспечение через телекоммуникационные сети или машинные носители данных, результатами которого могут быть нарушение работоспособности системы, утечка, искажение и(или) потеря данных (информации).
8 www.fda.gov/MedicalDevices/DigitalHealth/
>
тзз
•Л' ж<А
представляется возможной (см. ГОСТ Р ИСО/ ТС 25238).
Классификация рисков применения ПМИ осуществляется с помощью метода анализа и оценки риска по качественным признакам с использованием матрицы рисков «3 х 3», оси которой - это лингвистические шкалы уровней:
а) вероятности причинения вреда, имеющей три градации: «высокая», «средняя», «низкая» (таблица № 1);
б) тяжести вреда здоровью пациента: «значительный», «умеренный», «незначительный» (таблица № 2).
Каждой клетке матрицы (таблица № 3) соответствует определенный уровень риска применения программного медицинского изделия. Всего для девяти комбинаций определены четыре уровня - четыре класса риска применения ПМИ.
Определение класса риска программного медицинского изделия осуществляется исходя из следующих положений:
1. Класс риска программного изделия определяется в зависимости от его назначения и наличия или отсутствия соответствующих признаков - классификационных
Таблица № 1
Шкала уровней вероятности события (причинения вреда)
Уровень вероятности Описание
1 2
Высокая Очень вероятно, что событие произойдет. Часто встречающийся риск
Средняя Есть вероятность, что событие произойдет. Возможный, но не частый риск
Низкая Событие может произойти, но в большинстве случаев не происходит. Обычно невозможный, редкий риск
Таблица № 2 шкала уровней тяжести вреда
Уровень тяжести вреда Описание
1 2
Значительный Смерь или утрата функций организма, или изменение анатомического строения тела
Умеренный Обратимая или незначительная травма (поражение)
Незначительный Отсутствие травмы (поражения) или очень незначительная травма (поражение)
Таблица № 3
Классы риска: комбинации «Вероятность - Тяжесть вреда»
Вероятность Последствия для здоровья пациента (тяжесть вреда)
Значительный Умеренный Незначительный
1 2 3 4
Высокая
2б
2а
Средняя 2б 2а 1
Низкая 2а 1 1
3
2016, № 3
характеристик, которые должны быть указаны в технической и/или эксплуатационной документации ПМИ. При этом при определении класса риска используются не все характеристики, указанные в документации.
2. Каждому классу риска соответствует определенный набор характеристик. При этом одному и тому же классу могут соответствовать несколько различных наборов (сочетаний) характеристик.
3. Программное изделие может обладать набором характеристик, одновременно соответствующим: а) нескольким разным классам риска; и/или б) нескольким разным сочетаниям (наборам) характеристик, соответствующих одному и тому же классу риска.
4. В тех случаях, когда ПМИ обладает набором характеристик, соответствующих разным классам, программному изделию присваивается класс, соответствующий наибольшей степени потенциального риска применения ПМИ.
5. Анализ, оценка и классификация рисков осуществляются на основе «принципа наихудшей ситуации» - при прочих равных условиях наиболее вероятным считается событие, которое приводит к наиболее тяжелым последствиям.
Ниже описаны два варианта правил определения класса риска программного медицинского изделия:
вариант а - расширенная формализованная интерпретация Правил № 173, в которых при определении класса риска самостоятельное программное обеспечение рассматривается как активное медицинское изделие. При этом полагаем, что понятия «самостоятельное программное обеспечение» и «программное медицинское изделие» (ПМИ, SаMD) - это синонимы. В данном случае имеет место экстраполяция правил определения класса риска для активных медицинских изделий - аппаратов и приборов - на самостоятельное программное обеспечение (программное медицинское изделие), с учетом
того, что термин «активное медицинское изделие» не относится к изделиям для ИВД;
вариант Б, разработанный на основе рекомендаций IMDRF/SaMD WG/N12 с учетом положений, изложенных в Правилах № 173, ГОСТ Р ИСО/ТО 27809, ГОСТ Р ИСО/ТС 25238, ГОСТ ISO 14971, ГОСТ Р 55544, ГОСТ Р МЭК 62366, ГОСТ Р ИСО/МЭК 27034, а также определений и классификаций, приведенных в Федеральном законе № 323-ФЗ.
вариант а. В качестве критериев при определении класса риска ПМИ используются следующие классификационные характеристики, с учетом того, что конкретное программное изделие может быть многофункциональным, например, применяться как с диагностической, так и с терапевтической целью (перечислены только те характеристики, которые непосредственно учитываются при определении класса риска - указаны условные буквенные обозначения выполняемых КВФ):
РП - для контроля параметров функционирования и/или расчета (определения) параметров применения другого МИ, используемого с терапевтической целью;
МФ - в процессе диагностики или контроля (мониторинга) жизненно важных функций организма пациента;
ЖВ - для контроля параметров жизненно важных органов и систем организма пациента - сердца, центральной системы кровообращения (ЦСК), дыхания, центральной нервной системы (ЦНС);
ВД - для визуализации медицинских изображений (см. п. 22 Правил № 173);
ОИ - для формирования, обработки и анализа медицинских изображений.
Указанное выше «расширение» интерпретации Правил № 173 связано именно с включением функций ВД и ОИ в состав классификационных характеристик, учитываемых при определении класса риска ПМИ, о чем в этих правилах ничего не сказано.
>
и информационные
технологии
Алгоритм определения класса риска КР программного медицинского изделия можно представить в виде дерева решений, которое описывается следующими логическими выражениями (правилами):
П0: Если РП л КРМИ = 3, то КР = 3 и «Стоп», иначе перейти к П1;
П1: Если (РП л КРМИ = 2б) V (МФ л ЖВ), то КР = 2б и «Стоп», иначе перейти к П2;
П2: Если (РП л КРМИ = 2а) МФ V ВД V ОИ, то КР = 2а и «Стоп», иначе КР = 1 и «Стоп»; где символы л и V - это знаки логических операций «И» (конъюнкция) и «ИЛИ» (дизъюнкция) соответственно;
КРМИ - класс риска активного терапевтического медицинского изделия, для которого с помощью ПМИ осуществляется проверка и/ или расчет параметров его функционирования (режима применения), где КРМИ определяется по Правилам № 173.
Правило ПО означает, что если ПМИ применяется для контроля и/или расчета параметров применения активного терапевтического изделия (РП) и оно имеет высокий класс риска (КРМИ = 3), то ПМИ также присваивается класс риска КР = 3; «Стоп» означает, что дальнейшие проверки для определения класса риска можно не выполнять.
Правило П1 - если это активное терапевтическое изделие имеет повышенный класс риска (КРМИ = 2б) и/или ПМИ применяется в процессе диагностики и/или мониторинга (МФ) жизненно важных органов или систем организма (ЖВ), то ПМИ присваивается повышенный класс риска КР = 2б (см. пп. 36, 41 и 42 в таблице приложения № 1 в Правилах № 173).
Правило П2 означает, что если ПМИ применяется для контроля и/или расчета параметров применения активного терапевтического изделия (РП), имеющего средний класс риска (КРМИ = 2а), либо ПМИ используется для
диагностики или мониторинга (МФ) жизненно важных функций организма (кроме сердца, ЦСК, ЦНС, системы дыхания) либо для визуализации медицинских изображений, полученных от диагностических приборов (ВД) и/или формирования и анализа медицинских изображений (ОИ), то ему присваивается средний класс риска КР = 2а, а во всех остальных случаях - низкий класс риска КР = 1. Класс риска КР = 2а для функции формирования, обработки и анализа медицинских изображений (ОИ) устанавливается по аналогии с риском при выполнении ПМИ функции визуализации изображений (ВД).
Как видим, описанные выше правила достаточно просты и понятны. Однако при этом:
- практически все ПМИ, которые относятся к системам поддержки принятия врачебных решений - ВМ, ИД, ПН, а также «медицинские калькуляторы» типа РД всегда имеют низкий класс риска КР = 1, что, как это отмечено в [24, 27, 28] и целом ряде других публикаций, в общем случае не совсем правильно;
- не учитываются обстоятельства применения ПМИ, относящегося к СППВР, когда, как показали многочисленные исследования [24, 28], «стрессовая» ситуация при оказании экстренной медицинской помощи является источником повышенного риска врачебных ошибок и/или принятия не вполне адекватных клинических решений - фактором повышения потенциального риска применения программного изделия.
вариант Б. В качестве критериев, используемых для определения класса риска применения ПМИ, предлагается использовать следующие характеристики программного изделия:
1) тип клинической ситуации, для применения в которой предназначено ПМИ, и соответствующая ей форма оказания медицинской помощи:
ЭФ - экстренная форма, когда требуется неотложное медицинское вмешательство при
заболеваниях и/или состояниях, представляющих угрозу жизни пациента;
НФ - неотложная форма, когда медицинская помощь оказывается при внезапных острых заболеваниях, состояниях, обострении хронических заболеваний без явных признаков угрозы жизни пациента;
ПФ - плановая форма, когда помощь оказывается при заболеваниях и состояниях, не сопровождающихся угрозой жизни пациента, не требующих экстренной и неотложной медицинской помощи, и отсрочка оказания которой на определенное время не повлечет за собой ухудшение состояния пациента, угрозу его жизни и здоровью, а также при оказании медицинской помощи с профилактической целью - при проведении профилактических осмотров и т.д..
2) функциональное назначение ПМИ -применение программного изделия для выполнения следующих клинически важных функций: ВД, ОИ, МФ, РП, ВМ, ПН, РД, ИД; при этом полагается, что применение ПМИ для удаленного мониторинга состояния организма пациента (МФ), осуществляется при оказании медицинской помощи в плановой форме (ПФ); в отличие от варианта А, для функции РП здесь не накладывается никаких ограничений на назначение и иные характеристики «другого медицинского изделия».
3) значимость информации, формируемой ПМИ и представляемой (отображаемой) пользователю в виде: а) текстовых сообщений и/ или б) визуальных и/или звуковых сигналов, смысл которых заранее определен:
РИ - решающая (определяющая) информация для принятия клинического (врачебного) диагностического и/или терапевтического решения (постановки диагноза, назначения лечения и т.д.);
ВИ - важная информация, которая учитывается при принятии клинического решения, однако, не имеет решающего значения (предварительный результат, не имеет критического медицинского статуса, требуются до-
2016, № 3
полнительные исследования, сопоставление, сравнение с другими данными и т.д.);
УИ - уведомительная информация, имеющая информирующий и/или справочный характер об определенном клиническом событии (уведомление, напоминание, информация «для сведения» и т.д.), которая может быть использована (может быть учтена, может быть полезной) в процессе принятия клинического (врачебного) решения.
В данном случае речь идет о любой сформированной ПМИ информации (данных) для врача, которая может быть использована им при принятии клинически важного решения. При этом считается, что «выходная» информация (данные) интерпретируется пользователем в зависимости от контекста и решаемой клинической задачи. В тех случаях, когда непосредственным пользователем ПМИ является пациент либо лицо, осуществляющее уход за пациентом, полагается, что «выходная» информация (сигнал) воспринимается и понимается им однозначно, что должно быть предусмотрено и обеспечено при разработке ПМИ (см. ГОСТ Р МЭК 62366).
4) функции, органы и системы организма пациента - область исследования (наблюдения) и/или медицинского вмешательства, осуществляемого с учетом и/или на основе информации, отображаемой и/или сформированной с помощью ПМИ:
ЖВ - жизненно важные органы и системы организма пациента (см. выше);
5) квалификация и статус пользователя, непосредственно применяющего ПМИ:
СП - самостоятельное применение ПМИ пациентом для «самотестирования»; при этом полагается, что во всех случаях применение ПМИ пациентом осуществляется только «по назначению врача» и пациент обучен работе с ПМИ (прошел инструктаж, изучил инструкцию и т.д.).
Класс риска КР программного медицинского изделия предлагается определять исходя из его функционального назначения:
>
и информационные
технологии
А) при применении ПМИ для: контроля или расчета параметров функционирования другого медицинского изделия (РП), визуализации медицинских изображений (ВД), мониторинга жизненно важных функций организма пациента (МФ), в том числе жизненно важных органов и систем (ЖВ), - по Правилам № 173 (см. вариант А);
Б) при применении ПМИ для: проверки совместимости назначений (ПН), расчета доз препаратов, облучения и т.д. (РД), самостоятельного применения ПМИ пациентом для «самотестирования» (СП) - по аналогии с соответствующим пунктом Правил № 173:
ЕО: Если ПН V РД, то КР = 2б;
- см. п. 38(з) Правил № 173;
Е1: Если МФ л СП л ЖВ, то КР = 2б;
- см. п. 39;
Е2: Если МФ л СП л -ЖВ, то КР = 2а;
- см. п. 39;
где символ - - это знак логической операции «НЕ» («отрицание»).
Правило ЕО означает, что если ПМИ предназначено для проверки совместимости назначений (ПН) или расчета доз препаратов, облучения и т.д. (РД), то программное изделие имеет повышенный класс риска КР = 2б - по аналогии с п. 38(ж) Правил № 173.
Правило Е1 здесь означает, что если ПМИ предназначено для контроля важных функций организма (МФ) самим пациентом (СП) и при этом формируется информация, относящаяся к жизненно важным системам организма
(ЖВ), то ПМИ имеет повышенный класс риска КР = 2б. Правило Е2 - если контролируются физиологические параметры, непосредственно не относящиеся к жизненно важным органам и системам организма пациента (-ЖВ).
Правила Е1 и Е2 с точки зрения определения класса риска ПМИ, предназначенного для выполнения клинически важной функции МФ, логически тождественны правилам П1 и П2 соответственно (см. вариант А);
В) при применении ПМИ для: проверки взаимодействия / совместимости врачебных назначений (ПН), интерпретации клинических данных (ИД) и/или оценки и прогнозирования состояния пациента с использованием математических моделей (ВМ) - на основе рекомендованной документом IMDRF/SаMD WG/N12:2014 классификационной матрицы «3 х 3» (таблица № 4), в которой класс риска определяется по сочетанию двух характеристик:
«Клиническая ситуация (ЭФ, НФ, ПФ) -Важность информации (РИ, ВИ, УИ)».
Каждой клетке матрицы соответствует определенный класс риска ПМИ. При этом во всех случаях, если ПМИ формирует только информацию уведомительного характера (УИ), то ему присваивается низкий класс риска КР = 1.
Низким уровень риска может считаться только в случаях, когда в соответствии с установленными процедурами (порядками, клиническими протоколами и т.п.) результат работы ПМИ должен и может быть каким-либо образом верифицирован - имеется возможность
Таблица № 4
Матрица рисков «Клиническая ситуация - Важность информации»
Клиническая ситуация (форма оказания медицинской помощи) Важность формируемой информации
Решающая (РИ) Важная (ВИ) Увед°мительная
1 2 3 4
Экстренная (ЭФ)
2б
Неотложная (НФ) 2б 2а 1
Плановая (ПФ) 2а 1 1
3
перепроверки результата, в том числе по времени; при этом полагается, что при оказании экстренной помощи такая верификация не представляется возможной, что повышает потенциальный риск применения ПМИ.
При анализе и оценке рисков применения ПМИ необходимо исходить из того, что окончательное принятие клинического решения осуществляется врачом. Однако при этом необходимо учитывать, что неверная / искаженная / ошибочная информация, сформированная неправильно работающим ПМИ, может повлиять на решение врача, в том числе стать причиной врачебной ошибки. Поэтому следует считать, что неправильная работа ПМИ во всех случаях повышает вероятность врачебной ошибки по сравнению с «базовым» уровнем - без использования ПМИ.
Правила определения класса риска ПМИ в указанных случаях могут быть описаны в виде следующих логических выражений:
Е3: Если (ИД V ВМ) л (ЭФ л (РИ V ВИ л ЖВ)), то КР = 3;
Е4: Если (ИД V ВМ) л (ЭФ л ВИ), то КР = 2б;
Е5: Если (ИД V ВМ) л (НФ л ( РИ V ВИ л ЖВ)), то КР = 2б;
Е6: Если (ИД V ВМ) л (НФ л ВИ), то КР = 2а;
Е7: Если (ИД V ВМ) л (ПФ л ( РИ V ВИ л ЖВ)), то КР = 2а.
Правило Е3 означает, что если ПМИ применяется при оказании экстренной медицинской помощи пациенту (ЭФ) и при этом формируемая информация имеет решающее значение для принятия клинического решения (РИ) либо имеет важное значение (ВИ), но относится к жизненно важным органам и системам организма (ЖВ), то программное изделие имеет высокий класс риска КР = 3. Правило Е4 означает, что если ПМИ применяется при оказании экстренной медицинской помощи (ЭФ) и при этом формируемая ПМИ информация является клинически важной (ВИ), то
2016, № 3
ПМИ присваивается повышенный класс риска КР = 2б. Правило Е5 аналогично правилу Е3 для клинической ситуации, соответствующей оказанию неотложной медицинской помощи (НФ), однако при этом ПМИ присваивается класс риска КР = 2б. Правило Е6 означает, что если ПМИ используется при оказании неотложной помощи (НФ) и при этом формируется информация, имеющая важное значение для принятия клинического решения (ВИ), то программному изделию присваивается средний класс риска КР = 2а. По правилу Е7 такой же класс риска КР = 2а присваивается ПМИ, применяемому при оказании медицинской помощи в плановой форме (ПФ), в том числе, например, с профилактической целью, если формируемая при этом информация имеет решающее значение (РИ) для принятия клинического решения либо она является важной информацией (ВИ), относящейся к жизненно важным системам организма (ЖВ).
Таким образом, «полный» алгоритм определения класса риска КР программного медицинского изделия может быть представлен в виде дерева решений, которое описывается следующими логическими выражениями (правилами):
А0: Если (РП л КРМИ = 3) V ((ИД V ВМ) л (ЭФ л (РИ V ВИ л ЖВ))), то КР = 3 и «Стоп», иначе перейти к А1;
А1: Если (РП л КРМИ = 2б) V (МФ л ЖВ)
V ПН V РД V ((ИД V ВМ) л ((ЭФ л Ви) V
V (НФ л (РИ V ВИ л ЖВ)))), то КР = 2б и «Стоп», иначе перейти к А2;
А2: Если (РП л КРМИ = 2а) V МФ V ВД V ОИ V ((ИД V ВМ) л ((НФ л ВИ л ЖВ) V
V (ПФ л (РИ V ВИ л ЖВ)))),
то КР = 2а и «Стоп», иначе КР = 1 и «Стоп».
Выражение АО образовано путем объединения правил ПО и Е3; выражение А1 - объединения правил П1, ЕО, Е4 и Е5 с учетом логической тождественности правил П1 и Е1;
>
■ал :
тзз
•Л' АА
выражение А2 - правил П2, Е6 и Е7 с учетом тождественности правил П2 и Е2.
Согласно описанным правилам, ПМИ, которые предназначены только для выполнения клинически важных функций: обработки записей анатомических шумов или речи пациента (ОФ); расчета показателей для оценки состояния пациента по стандартным формулам, таблицам и т.д. (РС); формирования аудио- и/ или видеопотока при выполнении лечебных и/ или диагностических процедур (АВ) присваивается низкий класс риска КР = 1 - как для «обычных» медицинских изделий аналогичного назначения - в соответствии с правилами классификации, утвержденными Приказом № 4н / Правилами № 173.
Возможны также иные алгоритмы определения класса риска ПМИ для описанных выше правил и наборов характеристик. Например, «линейный» алгоритм, когда последовательно проверяются все правила «вычисления» класса риска, после чего ПМИ присваивается класс, соответствующей наибольшей степени риска из числа «вычисленных».
Как видим, вариант Б логически гораздо сложнее варианта А; при реализации ПМИ функций РП, МФ, ВД и ОИ он практически полностью идентичен варианту А, за исключением того, что для функции РП на медицинские изделия не накладывается никаких ограничений; класс риска для ПМИ, относящегося к СППВР, зависит от типа клинической ситуации (ЭФ, НФ, ПФ) и значимости формируемой информации (РИ, ВИ, УИ) для принятия врачебных решений.
Таким образом, вариант Б, по нашему мнению, в гораздо большей степени, нежели вариант А, отражает основные тенденции развития МИС и новую роль ПМИ как одного из функциональных элементов современных медицинских технологий, когда компьютер становится эффективным инструментом, предназначенным не только для информационной, но и для интеллектуальной поддержки работы
врача, снижения количества врачебных ошибок и повышения безопасности пациентов.
Описанные выше правила априорной оценки рисков применения ПМИ различного функционального назначения, в которых учитываются угрозы, связанные с возможными алгоритмическими и программными ошибками, недостоверными или неправильно введенными исходными данными, ошибками применения и иными ошибками пользователей программного изделия, которые могут привести к неадекватным врачебным решениям в различных клинических ситуациях, по нашему мнению, позволят более диффереренцированно и рационально организовать проектирование и испытания ПО, с тем чтобы: а) обеспечить безопасность использования ПМИ; б) повысить уровень доверия медицинского персонала и пациентов к информации, формируемой программным изделием; в) сократить издержки в процессе его разработки, государственной регистрации, производства и эксплуатации.
В качестве методической основы при разработке процедур, обеспечивающих приемлемый риск, безопасность ПМИ на различных этапах его жизненного цикла, следует использовать нормативно-технические документы, регламентирующие требования к «традиционным» медицинским изделиям и ПО, входящему в их состав, которых за последнее время было принято достаточно много (см. перечень литературы). В ГОСТ Р 56849 приведен обзор основных стандартов ИСО и МЭК по безопасности медицинского ПО, в том числе кибербе-зопасности. Большинство этих документов имеет «рамочный» характер - в них описываются общие требования, подходы и принципы. Целесообразно разработать специальные руководства по практическому применению этих стандартов для различных функциональных классов ПМИ с учетом особенностей их использования в клинической практике, а также разработать типовые программы и методики испытаний для различных видов и классов ПМИ.
В составе «медицинского» ПО целесообразно по возможности выделять «приборно-зави-симые» и «клинически важные» («потенциально особо опасные») модули и именно их регистрировать как медицинские изделия (ПМИ), подобно тому, как это делается для «метрологического» ПО (см. ГОСТ Р 8.654). Выделение в архитектуре МИС функциональных подсистем и модулей, реализующих клинически важные функции, позволит сократить издержки на контрольно-регистрационные процедуры и совокупные затраты на разработку и внедрение ПМИ в целом. Некоторые особенности оценки риска применения медицинского ПО при выделении «потенциально опасных» модулей описаны в ГОСТ Р 55544 и ГОСТ Р МЭК 62304.
Очевидно, что описанные выше новые требования к медицинскому ПО направлены, прежде всего, на повышение безопасности пациентов, сокращение врачебных ошибок и повышение качества медицинской помощи. Однако из-за отсутствия в настоящее время нормативно-методических документов, необходимых для выполнения указанных требований на практике, а также достаточно больших затрат и сроков регистрации МИ (сейчас это около 18 месяцев), по всей видимости, следует ожидать некоторого снижения общих темпов реализации и внедрения в МИС функций, обеспечивающих информационную и интеллектуальную поддержку деятельности врача. Поэтому разработка перечисленных выше нормативных и методических документов - это сегодня одна из приоритетных задач информатизации здравоохранения [7].
2016, № 3
выводы
1. Необходимо формализовать и утвердить единые критерии отнесения ПО, используемого в медицинских организациях, к медицинским изделиям. Виды ПО, предназначенного для реализации только административных и учетных функций, ведения регистров пациентов, управления ресурсами медицинской организации, формирования статистических отчетов, а также ведения медицинской документации, необходимо исключить из номенклатурной классификации медицинских изделий по видам.
2. Необходимо разработать и утвердить классификацию рисков применения программных медицинских изделий и правила определения указанных классов на основе методических документов IMDRF и международных стандартов.
3. Важнейшей задачей является разработка типовых требований и методических рекомендаций по оценке качества, эффективности и безопасности для различных функциональных классов программных медицинских изделий.
В заключение хотелось бы еще раз отметить, что без решения описанных выше нормативно-методических проблем ближайшие перспективы дальнейшей информатизации практического здравоохранения и развития рынка медицинских ИТ представляются весьма неопределенными.
Автор будет признателен всем, кто пришлет свои замечания и предложения по описанным выше вопросам по адресу электронной почты: [email protected].
ЛИТЕРАТУРА
1. Антонов В.С. Какой быть российской номенклатуре видов медицинских изделий // Вестник Росздравнадзора, 2012, № 5, сс. 12-15.
2. Кобринский Б.А. Системы поддержки принятия решений в здравоохранении и обучении // Врач и информационные технологии, 2010, № 2, сс.39-45.
3. Назаренко Г.И., Клейменова Е.Б., Жуйков М.Ю., Пающик С.А., Новакова А.И., Кашев-ская О.П., Яшина Л.П. Система автоматизации клинических руководств и аудита лечения // Врач и информационные технологии, 2014, № 2, сс. 23-32.
>
тзз
ti'i' я
Новиков C.B. Особенности национальной номенклатуры медицинских изделий // Менеджер здравоохранения, 2014, № б, сс. 24-30.
Пичкалев A.B. Обобщенная функция желательности Харрингтона для сравнительного анализа технических средств // Исследования наукограда. - 2012. - № 1. - С. 25-28.
6. Столбов A.n. О классах кибербезопасности медицинской техники // Математическая кардиология. Теория, клинические результаты, рекомендации, перспективы. Сб. научн. трудов под ред. В.А. Лищу-ка и Д.Ш. Газизовой. - М.: ООО «ПРИНТ ПРО». - 2015. сс. 131-142.
7. Столбов A.n. Об отнесении программного обеспечения к медицинским изделиям // Информационно-измерительные и управляющие системы, 2015, № 10, сс. 3-7.
8. Тараник M.A., Копаница Г.Д. Анализ задач и методов построения интеллектуальных медицинских систем // Врач и информационные технологии, 2014, № 3, сс. б-12.
9. Advanced Cyber-Physical Systems for National Priorities, 13.03.2014, www.nist.gov/public_affairs/ factsheet/cyberphysicalsystems2015.cfm, доступ 20.07.2015 г.
10. The prognosis for healthcare payers and providers: Rising cybersecurity risks and costs, 17.12.2014, http://usblogs.pwc.com/cybersecurity/the-prognosis-for-healthcare-payers-and-providers-rising-cybersecurity-risks-and-costs, доступ 20.07.2015.
11. Zadeh L.A. Fuzzy sets // Information and control. - 19б5. - Vol. 8, Iss. 3. - P. 338-353.
12. Правила ведения государственного реестра медицинских изделий и организаций (индивидуальных предпринимателей), осуществляющих производство и изготовление медицинских изделий. Постановление Правительства РФ от 19.0б.2012 г. № б15.
13. Правила государственной регистрации медицинских изделий. Постановление Правительства РФ от 27.12.2012 г. № 141б.
14. Положение о государственном контроле за обращением медицинских изделий. Постановление Правительства РФ от 25.09.2012 г. № 9б7.
15. Положение о лицензировании деятельности по производству и техническому обслуживанию (за исключением случая, если техническое обслуживание осуществляется для обеспечения собственных нужд юридического лица или индивидуального предпринимателя) медицинской техники. Постановление Правительства РФ от 03.0б.2013 г. № 4б9.
16. Решение Коллегии Евразийской экономической комиссии от 22.12.2015 г. № 173 «Об утверждении Правил классификации медицинских изделий в зависимости от потенциального риска применения».
17. Решение Коллегии Евразийской экономической комиссии от 29.12.2015 г. № 177 «О Правилах ведения номенклатуры медицинских изделий».
18. Номенклатурная классификация медицинских изделий. Приказ Минздрава России от 0б.0б.2012 г. № 4н (в ред. приказа от 25.09.2014 г. № 557н).
19. Порядок организации и проведения экспертизы качества, эффективности и безопасности медицинских изделий. Приказ Минздрава России от 21.12.2012 г. № 1353н (в ред. приказа от 03.0б.2015 г. № 303н).
20. Порядок проведения оценки соответствия медицинских изделий в форме технических испытаний, токсикологических исследований, клинических испытаний в целях государственной регистрации медицинских изделий. Приказ Минздрава России от 09.01.2014 г. № 2н.
21. Порядок проведения испытаний в целях утверждения типа средств измерений, а также перечня медицинских изделий, относящихся к средствам измерений в сфере государственного регулирования обеспечения единства измерений, в отношении которых проводятся испытания в целях утверждения типа средств измерений. Приказ Минздрава России от 15.08.2012 г. № 89н.
22. Порядок осуществления мониторинга безопасности медицинских изделий. Приказ Минздрава России от 14.09.2012 г. № 175н.
23. IMDRF/SaMD WG/N10:2013 Software as a Medical Device: Key Definitions, 9 December 2013.
Медицинские информационные системы www.idmz.ru _
2016, № 3 ^
24. IMDRF/SaMD WG/N12:2014 Software as a Medical Device: Possible Framework for Risk Categorization and Corresponding Considerations, 1B September 2014.
25. IMDRF/SaMD WG/N23:2015 Software as a Medical Device: Application of Quality Management System, 2 October 2015.
26. ГОСТ 3150B-2012 Изделия медицинские. Классификация в зависимости от потенциального риска применения. Общие требования.
27. ГОСТ P ИСО/ТС 2523B-2009 Классификация угроз безопасности от медицинского программного обеспечения.
28. ГОСТ P ИСО/ТО 27B09-2009 Меры по обеспечению безопасности пациента при использовании медицинского программного обеспечения.
29. ГОСТ P МЭК 62304-2013 Изделия медицинские. Программное обеспечение. Процессы жизненного цикла.
30. ГОСТ ISO 14971-2011 Изделия медицинские. Применение менеджмента риска к медицинским изделиям.
31. ГОСТ P 55544-2013 Программное обеспечение медицинских изделий. Часть 1 Pуководство по применению ИСО 14971 к программному обеспечению изделий.
32. ГОСТ P 56B49-2015 / ISO/TR17791:2013 Информатизация здоровья. Pуководство по стандартам безопасности медицинского программного обеспечения.
33. ГОСТ 30324.0.4-2002 Изделия медицинские электрические. Требования безопасности к программируемым медицинским электронным системам.
34. ГОСТ P МЭК 62366-2013 Изделия медицинские. Проектирование медицинских изделий с учетом эксплуатационной пригодности.
35. ГОСТ P ИСО/ТО 22790-2009 Функциональные характеристики систем поддержки назначений лекарств.
36. ГОСТ P ИСО 15225-2014 (ISO:2010) Изделия медицинские. Менеджмент качества. Структура данных номенклатуры медицинских изделий.
37. ГОСТ P 56B39-2015 / IEC/TRB0001-2-1:2012 Информатизация здоровья. Менеджмент рисков в информационно-вычислительных сетях с медицинскими приборами. Часть 2-1. Пошаговый менеджмент рисков медицинских информационно-вычислительных сетей. Практическое применение и примеры.
38. ГОСТ P 56B50-2015 / IEC/TRB0001-2-2:2012 Информатизация здоровья. Менеджмент рисков в информационно-вычислительных сетях с медицинскими приборами. Часть 2-2. Pуководство по выявлению и обмену информацией о защите медицинских приборов, рисках и управлении рисками.
39. ГОСТ P 5379B-2010 Стандартное руководство по лабораторным информационным менеджмент-системам (ASTM E157B LIMS).
40. ГОСТ P 54360-2011 Лабораторные информационные менеджмент-системы (ЛИМС). Стандартное руководство по валидации ЛИМС (ASTM E2066 LIMS).
41. ГОСТ P 510BB-2013 Медицинские изделия для диагностики ин витро. Pеагенты, наборы реагентов, тест-системы, контрольные материалы, питательные среды. Требования к изделиям и поддерживающей документации.
42. ГОСТ P 56033-2014 / Pуководство ИСО/МЭК 63:2012 по разработке и включению аспектов безопасности в международные стандарты на медицинские изделия.
43. ГОСТ P 56429-2015 Изделия медицинские. Клиническая оценка.
44. ГОСТ P 56044-2014 Оценка медицинских технологий.
45. ГОСТ P 51904-2002 Программное обеспечение встроенных систем. Общие требования к разработке и документированию.
46. ГОСТ P B.654-2009 Государственная система обеспечения единства измерений. Требования к программному обеспечению средств измерений. Основные положения.
47. ГОСТ 34.003-90 Информационная технология. Комплекс стандартов на автоматизированные системы. Термины и определения.
