CC BY
63
Медицинские технологии. Оценка и выбор 2021, №1 (43), сс. 36-45 https://doi.org/10.17116/medtech20214301136
Меdical Technologies. Assessment and Choice 2021, no. 1 (43), pp. 36-45 https://doi.org/10.17116/medtech20214301136
Нормативно-правовое регулирование программного обеспечения для здравоохранения, созданного с применением технологий искусственного интеллекта, в Российской Федерации
© А.В. ГУСЕВ1, С.П. МОРОЗОВ2, В.А. КУТИЧЕВ3, Р.Э. НОВИЦКИЙ1
1ООО «К-Скай», Петрозаводск, Россия;
2ГБУЗ Москвы «Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения Москвы», Москва, Россия;
3ФГБУ «Всероссийский научно-исследовательский и испытательный институт медицинской техники» Росздравнадзора, Москва, Россия
Технологии искусственного интеллекта (ИИ) активно развиваются в современном здравоохранении. Несмотря на многочисленные сведения о перспективах применения ИИ, можно наблюдать завышенные обещания разработчиков таких продуктов и вследствие этого часто завышенные ожидания практического здравоохранения от ИИ. Имеется множество препятствий на пути широкого внедрения технологий ИИ в практическом здравоохранении. В этой связи поиск баланса между созданием условий для ускоренного внедрения технологий ИИ и обеспечением разумного и обоснованного контроля потенциальных рисков причинения вреда здоровью пациентов является актуальной задачей современного нормативно-правового регулирования программных медицинских изделий (ПМИ) в России. В последнее время в Российской Федерации проведено последовательное совершенствование действующего законодательства по обеспечению государственного контроля безопасности и эффективности ПМИ. Указом Президента России от 10.10.19 №490 утверждена российская национальная стратегия развития ИИ на период до 2030 г., которой здравоохранение определено как одно из ключевых направлений для развития и внедрения ИИ. Утверждена концепция регулирования ИИ и робототехники до 2024 г. Введены критерии отнесения программного обеспечения к ПМИ. В соответствии с методическими рекомендациями IMDRF определены классы потенциального риска применения ПМИ, в том числе созданных с использованием технологий ИИ. Уточнены требования к технической и эксплуатационной документации на ПМИ, а также требования к техническим и клиническим испытаниям ПМИ. Введена упрощенная одноэтапная процедура государственной регистрации ПМИ. Определены правила пострегистрационного мониторинга. В работе представлен анализ действующих нормативно-правовых требований по отношению к ПМИ.
Ключевые слова: программное обеспечение, медицинские изделия, программные медицинские изделия, искусственный интеллект, SaMD, нормативное регулирование.
ИНФОРМАЦИЯ ОБ АВТОРАХ:
Гусев А.В. — https://orcid.org/0000-0002-7380-8460; e-mail: [email protected]
Морозов С.П. — https://orcid.org/0000-0001-6545-6170
Кутичев В.А. — https://orcid.org/0000-0002-1259-7110
Новицкий Р.Э. — https://orcid.org/0000-0002-2350-977X
Автор, ответственный за переписку: Гусев А.В. — e-mail: [email protected]
КАК ЦИТИРОВАТЬ:
Гусев А.В., Морозов С.П., Кутичев В.А., Новицкий Р.Э. Нормативно-правовое регулирование программного обеспечения для здравоохранения, созданного с применением технологий искусственного интеллекта, в Российской Федерации. Медицинские технологии. Оценка и выбор. 2021;43(1):36-45. https://doi.org/10.17116/medtech20214301136
Legal regulation of artificial intelligence software in healthcare in the Russian Federation
© A.V. GUSEV1, S.P. MOROZOV2, V.A. KUTICHEV3, R.E. NOVITSKY1 '«K-SkAI» LLC, Petrozavodsk, Russia;
2Research Practical Clinical Center for Diagnosis and Telemedicine, Moscow, Russia; 3All-Russian Research and Probatory Institute of Medical Equipment, Moscow, Russia
Artificial intelligence (AI) technologies are being actively developed in modern healthcare. Despite the extensive data on the prospects for AI, promises of the developers of such products are inflated sometimes. As a result, overestimated expectations of AI can occur in practical healthcare. There are many obstacles for the widespread adoption of AI in practical healthcare. In this regard, a balance between creating the conditions for accelerated introduction of AI and ensuring the reasonable control of potential risks of harm to patients' health is an urgent task of modern regulation of software as medical devices (SaMD) in Russia. The Russian Federation has recently conducted a consistent improvement of the current legislation to ensure state control over safety and effectiveness of SaMD. Decree of the President of Russia dated by October 10, 2019 No. 490 approved the Russian national strategy for the development of AI up to 2030 and identified healthcare as one of the key areas for the development
РЕЗЮМЕ
ABSTRACT
and implementation of AI. The concept of regulation of AI and robotics up to 2024 was approved. The criteria for classifying software as a medical device were introduced. In accordance with the IMDRF methodological guidelines, the classes of potential risk for the use of SaMD, including ones created using AI technologies, were defined. The requirements for technical and operational documentation for SaMD, as well as the requirements for technical and clinical trials of SaMD were clarified. A simplified one-stage procedure for state registration of SaMD was introduced. The rules of post-registration monitoring were determined. In this manuscript, the authors analyze the current regulatory requirements for SaMD.
Keywords: software, medical device, software as a medical device, artificial intelligence, SaMD, statutory regulation. INFORMATION ABOUT THE AUTHORS:
Gusev A.V. — https://orcid.org/0000-0002-7380-8460; e-mail: [email protected]
Morozov S.P. — https://orcid.org/0000-0001-6545-6170
Kutichev V.A. — https://orcid.org/0000-0002-1259-7110
Novitsky R.E. — https://orcid.org/0000-0002-2350-977X
Corresponding author: Gusev A.V. — e-mail: [email protected]
TO CITE THIS ARTICLE:
Gusev AV, Morozov SP, Kutichev VA, Novitsky RE. Legal regulation of artificial intelligence software in healthcare in the Russian Federation. Medical Technologies. Assessment and Choice. 2021;43(1):36—45. (In Russ.). https://doi.org/10.17116/medtech20214301136
Технологии искусственного интеллекта (ИИ) активно развиваются в современном здравоохранении благодаря повсеместному появлению больших размеченных данных, увеличению вычислительных мощностей, развитию облачных сервисов, а также многочисленным примерам эффективности и перспективности прикладных решений и их способности отвечать на современные вызовы и проблемы в здравоохранении.
Ключевые направления развития технологий
искусственного интеллекта
1. Применение технологий ИИ в программном обеспечении (ПО) для врачей-клиницистов, преимущественно в виде быстрой и точной интерпретации изображений, а также развития систем поддержки принятия врачебных решений (СППВР).
2. Применение ИИ в управлении здравоохранением, в том числе в прогнозировании развития заболеваний, эпидемий, повышении эффективности использования ресурсов, выявлении и сокращении врачебных ошибок, управлении цепочками поставок лекарств и т.д.
3. Применение ИИ в приложениях для пациентов, позволяющее создавать программные продукты для самостоятельного управления пациентами собственным здоровьем [1].
Число научных публикаций в медико-биологической сфере, описывающих ИИ, выросло с 596 в 2010 г. до 12 422 в 2019 г., при этом в целом исследователи подтверждают, что мы все еще находимся в начале эры широкого внедрения технологий ИИ в медицину. Несмотря на многочисленные сведения о перспективах применения технологий ИИ, таких как сокращение времени ожидания в принятии решений, улучшение приверженности лечению, повышение точности интерпретации медицинских данных, можно наблюдать завышенные обещания разработчиков таких продуктов и вследствие этого часто завышенные ожидания
практического здравоохранения к предлагаемым ИИ-продукгам [2, 3]. Имеется множество препятствий на пути широкого внедрения ИИ в практическое здравоохранение. К ним относятся проблемы прозрачности и интерпретируемости ИИ-алгоритмов, определенная предвзятость их решений вследствие ограничений наборов данных, на которых производится машинное обучение, недостаточная для реальной клинической практики точность работы моделей, проблемы конфиденциальности и этичности ИИ. В этой связи остро возникают вопросы обеспечения безопасности и предоставления достоверных данных о клинической эффективности в проектах внедрения ИИ в повседневной клинической практике [2, 3].
Поиск баланса между созданием условий для ускоренного внедрения программных продуктов на основе ИИ и обеспечением разумного и обоснованного контроля потенциальных рисков причинения вреда здоровью пациентов практически во всех странах рассматривается через нормативно-правовое и техническое регулирование.
Основу правовых подходов к регулированию программного обеспечения для здравоохранения, которую поддерживают практически все государственные регуляторы ведущих стран мира, определяет International Medical Device Regulators Forum (IMDRF) — ведущее мировое сообщество регуляторов медицинских изделий, созданное в 2011 г. Основной задачей IMDRF является сближение регуляторной деятельности стран-участниц в целях обеспечения безопасности, эффективности и качества медицинских изделий, а также разумное содействие внедрению инноваций.
IMDRF воспринимает ПО, предназначенное для применения в лечебно-диагностических целях, как Software as a Medical Device (SaMD), что дословно переводится как «Программное обеспечение, являющееся медицинским изделием» [4]. Далее в этой статье мы для упрощения будем использовать термин
«Программное медицинское изделие» (ПМИ). Начиная с 2013 г., IMDRF выпустило ряд руководящих документов, которыми определило единые подходы к созданию национальных регуляторных инструментов в отношении ПМИ [4—7]. В частности, IMDRF предложило единую систему классификации ПМИ в зависимости от потенциального риска применения, общие требования к системе менеджмента качества у производителей, а также сконцентрированный подход к организации клинической оценки ПМИ [8].
Практически во всех ведущих странах мира, включая США, Евросоюз, Японию, Россию, приняты национальные законы и подзаконные акты, которые на основании рекомендаций IMDRF рассматривают программные продукты, разработанные для использования в медицинских целях как медицинское изделие (МИ) и предусматривают его обязательную государственную регистрацию до вывода ПО на рынок. Вместе с этим национальное нормативное регулирование ряда стран, включая США, Евросоюз и Российскую Федерацию, частично отличается друг от друга и от рекомендаций IMDRF, например, в части классификации ПМИ в зависимости от риска [9]. В январе 2016 г. в России принят Федеральный закон от 31.01.2016 №4-ФЗ1 «О ратификации Соглашения о единых принципах и правилах обращения медицинских изделий (изделий медицинского назначения и медицинской техники) в рамках Евразийского экономического союза», которым предусмотрена выработка общей скоординированной политики обращения МИ на основе правил и рекомендаций IMDRF2. Все страны-члены ЕАЭС должны перейти на регулирование рынка МИ на основе этих правил к 01.01.2022.
В целом нормативное регулирование ПМИ в большинстве стран мира выстроено уже многие годы, однако в 2017 г. началась активная работа над его совершенствованием на фоне разработки и выпуска некоторыми странами, включая США, Китай, Великобританию, Францию, Германию, национальных стратегий развития ИИ, большинство из которых признало особую специфику ПО на основе ИИ [10].
Многие национальные стратегии развития ИИ предусматривают пересмотр нормативного регулирования и развитие особого технического регулирования в целях создания предпосылок ускоренного внедрения ИИ в различных сферах, в том числе в здравоохранении.
Указом Президента России от 10.10.2019 №490 в России утверждена собственная национальная стратегия развития ИИ на период до 2030 г., направленная на вхождение нашей страны в число мировых лидеров в области развития ИИ3. С целью созда-
1http://www.kremlin.ru/acts/bank/40478 2http://docs.cntd.ru/document/420246566
3http://publication.pravo.gov.ru/Document/View/0001201910110003
ния единого общенационального подхода к развитию российского нормативного и технического регулирования ИИ распоряжением Правительства России от 19.08.2020 №2129-р утверждена «Концепция регулирования искусственного интеллекта и робототехники до 2024 г.»4. Документом определены основные подходы к изменениям в российском нормативно-правовом регулировании для создания необходимых условий разработки и применения продуктов и технологий ИИ в различных сферах, включая здравоохранение. Это необходимо для ускорения экономического роста и повышения конкурентоспособности национальной экономики и вывода России на лидирующие позиции в быстро растущем глобальном рынке ИИ.
Основными задачами нормативного и технического регулирования названы упрощение внедрения продуктов с использованием технологий ИИ, определение юридической ответственности при применении таких решений, развитие страховых инструментов, улучшение в регулировании оборота данных, стимулирование развития и применения технологий ИИ.
Минздрав России совместно с Росздравнадзором, Центром компетенций по нормативному регулированию цифровой среды (Фонд «Сколково») и отраслевыми экспертами активно работают над совершенствованием нормативно-правового регулирования ПО в сфере здравоохранения на основе ИИ. Вопросами технического регулирования занимается подкомитет ПК01/ТК164 «Искусственный интеллект в здравоохранении», входящий в состав Технического комитета ТК 164 «Искусственный интеллект».
В данной статье рассмотрено российское нормативно-правовое регулирование ПО, созданного с применением технологий ИИ.
Краткий обзор нормативно-правовых актов
Федеральный закон от 21 ноября 2011 г. №323 «Об основах охраны здоровья граждан в Российской Федерации»5 содержит статью 38, в которой специальное ПО, созданное для применения в медицинских целях, включено в состав термина «медицинское изделие». Обращение (производство, реклама, реализация, применение, техническое обслуживание и т.д.) МИ, включая ПМИ, разрешено только при условии предварительной государственной регистрации в установленном Правительством порядке. Единственным исключением является использование ПМИ на территории международного медицинского кластера (ММК) или других территориях инновационных научно-технологических центров, в которых, согласно постановлению Правительства РФ от 01.09.2020 №13356, МИ освобождены от государственной регистрации.
4http://publication.pravo.gov.ru/Document/View/0001202008260005
5 http://base.garant.ru/57499516
6 http://publication.pravo.gov.ru/Document/View/0001202009030024
Для нарушителей, допустивших обращение незарегистрированных МИ, статьей 6.28 Кодекса административных правонарушений7 и статьей 238.1 Уголовного кодекса8 предусмотрены административная и уголовная ответственность. Согласно этим статьям, если производитель ПО осуществил продажу ПМИ на сумму свыше 100 тыс. руб., то за данный факт может наступить уголовная ответственность. Если меньше — то административная.
Уголовное наказание предусмотрено в нескольких вариантах:
1. Принудительные работы на срок 3—5 лет или лишение свободы на срок 3—5 лет со штрафом 0,5— 2 млн руб. в случае обращения незарегистрированного ПМИ без причинения вреда здоровью.
2. Лишение свободы на срок 5—8 лет со штрафом
1—3 млн руб. в случае, если обращение ПМИ привело к причинению тяжкого вреда здоровью, включая смерть человека, или имеются действия группы лиц по предварительному сговору или организованной группы лиц.
3. Лишение свободы на срок 8—12 лет со штрафом
2—5 млн руб. в случае, если применение незарегистрированного ПМИ привело к смерти двух или более лиц.
Государственная регистрация МИ и контроль за их обращением на территории Российской Федерации осуществляются Федеральной службой по надзору в сфере здравоохранения (далее — Росздравнадзор). Общие правила государственной регистрации медицинских изделий описаны в постановлении Правительства РФ от 27.12.2012 №14169 с учетом изменений и дополнений, предусмотренных для ПМИ, созданных в том числе с применением технологий ИИ, внесенных постановлением Правительства РФ от 24.11.2020 №190610. Регламент государственного контроля установлен приказом Росздравнадзора от 09.12.2019 №9260".
Действующее российское законодательство устанавливает, что государственная регистрация ПМИ осуществляется на основании технических и клинических испытаний с учетом потенциального риска применения и в соответствии с номенклатурной классификацией МИ, которые определены приказом Минздрава России от 06.06.2012 №4н12.
Документальным подтверждением государственной регистрации ПМИ является регистрационное удостоверение (РУ) на МИ, бланк которого установлен приказом Росздравнадзора от 16.01.2013 №40-Пр/1313.
7http://finansovyesovety.ru/statya6.28-koap-rf/
8http: // finansovyesovety.ru/statya2 38.1 -uk-rf/
'http://base.garant.ru/70291692/
10http: //publication.pravo.gov.ru/Document/View/0001202011270010
11http://publication.pravo.gov.ru/Document/View/0001202002200032
12http://www.roszdravnadzor.ru/documents/121
13 http://base.garant.ru/70329006/
На момент публикации данной статьи в России зарегистрировано 3 ПМИ, созданных с применением технологий ИИ:
1. Платформа прогнозной аналитики и управления рисками в здравоохранении на основе ИИ We-biomed, РУ №РЗН 2020/9958, выдано 03.04.2020.
2. Платформа для анализа и обработки медицинских изображений с технологиями ИИ Botkin.Ai, РУ №РЗН 2020/12028, выдано 03.11.2020.
3. Сервисная платформа лучевой диагностики на основе ИИ Care Mentor Ai, РУ РЗН 2020/11137, выдано 11.12.2020.
Порядок государственной регистрации
программных медицинских изделий
Процесс подготовки и государственной регистрации ПМИ его производителем условно можно разделить на 3 основных этапа (рисунок).
Этап №1. Подготовка к испытаниям
и регистрации программных медицинских изделий
Вначале производителю ПО, которое планируется для применения в медицинских организациях, необходимо определить — является ли его продукт ПМИ. Для этого разработаны соответствующие критерии, представленные в информационном письме Росздравнадзора от 13.02.20 №02И-297/2014.
Предусмотрено 4 базовых критерия: ПО должно быть программой для электронно-вычислительной машины, при этом не являясь частью другого медицинского изделия, должно быть предназначено производителем для оказания медицинской помощи и должно осуществлять интерпретацию полученной информации, в том числе с использованием технологий ИИ. Результат работы ПО должен влиять на принятие клинических решений. Для того, чтобы ПО было признано ПМИ, оно должно соответствовать всем предусмотренным критериям. Если ПО не соответствует хотя бы одному из них — оно не является ПМИ, а значит не подлежит государственной регистрации и может быть выпущено на рынок без нее.
При использовании критериев отнесения ПО к ПМИ целесообразно учитывать несколько важных нюансов. Во-первых, ПМИ может быть любое программное обеспечение вне зависимости от того, на каком аппаратном обеспечении оно работает и как пользователь получает к нему доступ и использует. Например, ПО, работающее по модели SaaS («облачные системы»), web-сервисы, встраиваемые программные компоненты (модули), может быть ПМИ точно также, как и обычное настольное ПО. Если какое-то ПО разработано для другого (чаще всего аппаратного) медицинского изделия, то такое ПО
i4https://roszdravnadzor.ru/medproducts/registration/documents/65752
ПОДГОТОВКА
1 ЭТАП
2 ЭТАП
ИСПЫТАНИЯ
РЕГИСТРАЦИЯ
3 ЭТАП
Обшая этапность подготовки, испытаний и регистрации программных медицинских изделий для получения возможности вывода их на рынок.
Stages of preparation, testing and registration medical software before market authorization.
является составной частью этого изделия и поэтому освобождается от отдельной регистрации: такое ПО не является самостоятельным ПМИ.
Очень важно учитывать цели применения: только если ПО специально предназначено производителем для применения именно при оказании медицинской помощи, оно признается ПМИ. Если производитель выпускает ПО для применения в медицинских организациях, но не при оказании медицинской помощи, это ПО не является ПМИ.
Наконец, самым главным критерием является степень обработки медицинской информации. Логика этого критерия состоит в следующем: если ПО осуществляет изменение информации или создает новую информацию путем интерпретации медицинских данных, и затем результаты такого ПО используются медицинскими работникам при оказании медицинской помощи и влияют на принятие ими решений, то ошибки или некачественная работа такого ПО может потенциально причинить вред больному, поэтому такое ПО следует воспринимать как ПМИ. Если же такой обработки медицинской информации нет, например, если ПО просто передает или хранит «как есть» медицинские данные, то и риска причинить вред у такого ПО нет, а значит оно не относится к ПМИ. Системы ведения электронных медицинских карт (ЭМК), медицинские информационные системы (МИС) и программные средства для просмотра медицинских изображений, представленных в формате DICOM (DICOM-viewer) не являются ПМИ, если они не интерпретируют внесенную в них информацию и не формируют на основе этой интерпретации подсказки для врачей.
Если ПО создает новую медицинскую информацию или выполняет машинную интерпретацию полученных данных, тем более если такая информация выводится для принятия клинических решений (не-
важно — врача, медсестры), то такое ПО однозначно относится к ПМИ. Примерами ПМИ являются практически все системы поддержки принятия врачебных решений (СППВР), в том числе созданные с применением ИИ, системы анализа и интерпретации медицинских данных, включая медицинские изображения (большинство современных РДС8/РИС-систем), развитые лабораторные информационные системы (ЛИС), системы назначения и контроля лекарственной терапии.
Если программный продукт использует технологии ИИ, но предназначен для самостоятельного использования гражданами (различные мобильные приложения для поддержания здорового образа жизни, питания, занятий физкультурой) или для применения в сфере управления здравоохранением, например, для поддержки принятия управленческих решений, прогнозной аналитики, то такое ПО скорее всего не будет являться ПМИ.
Основная сложность применения критериев отнесения ПО к МИ состоит в ответе на вопрос: какую обработку данных можно считать интерпретацией, имеющей реальный риск причинения вреда здоровью пациента? В статье А.П. Столбова такой интерпретацией предложено считать обработку клинических данных о пациенте, в результате которой «продуцируется (формируется) отсутствующая в исходных данных, содержательно новая, клинически значимая информация, необходимая и используемая при принятии клинического решения и/или выполнении медицинского вмешательства» [11].
Таким образом, если производитель на основании установленных критериев определил, что его продукт является МИ, то до вывода такого продукта на рынок необходимо пройти его государственную регистрацию. Началом подготовительной работы является определение класса потенциального риска применения ПМИ. Это необходимо уточнить в самом начале работы, так как от класса риска зависят особенности выполнения следующих этапов, включая разработку документов и проведение клинических испытаний.
Приказом Минздрава России от 06.06.2012 №4н предусмотрено 4 класса риска: 1 (минимальный), 2а, 2б и 3 (максимальный). В настоящее время все ПО, созданное с применением технологий ИИ, относится к классу 3 потенциального риска.
Этап №2. Технические и клинические испытания
программных медицинских изделий
Вначале производителю ПМИ необходимо подготовить определенный набор документов, предусмотренный пунктом 5 постановления Правительства РФ от 27.12.2012 №1416, включая техническую и эксплуатационную документацию. Состав информации, которая должна быть отражена в документации, определен приказом Минздрава России
Таблица 1. Рекомендованный список стандартов для оформления технической и эксплуатационной документации на программное медицинское изделие
Table 1. List of standards for registration of technical and operational documentation for software as a medical device
Стандарт
ГОСТ 2.114-95 Единая система конструкторской документации (ЕСКД). Технические условия (с Изменениями №1, 2, с Поправкой). http://docs.cntd.ru/document/871001255
ГОСТ Р МЭК 62304-2013 Изделия медицинские. Программное обеспечение. Процессы жизненного цикла. http://docs.cntd.ru/document/1200107111
ГОСТ Р ИСО 15223-1-2014 Изделия медицинские. Символы, применяемые при маркировании на медицинских изделиях, этикетках и в сопроводительной документации. Часть 1. Основные требования. http://docs.cntd.ru/document/1200110953
ГОСТ ISO 14971-2011 Изделия медицинские. Применение менеджмента риска к медицинским изделиям. http://docs.cntd.ru/document/1200102201
ГОСТ 28195-89 Оценка качества программных средств. Общие положения. http://docs.cntd.ru/document/1200009135 ГОСТ Р ИСО/МЭК 12119-2000 Информационная технология. Пакеты программ. Требования к качеству и тестирование. http://docs.cntd.ru/document/1200025075
ГОСТ 21552-84. Средства вычислительной техники. Общие технические требования, приемка, методы испытаний, маркировка,
упаковка, транспортирование и хранение.
http://docs.cntd.ru/document/gost-21552-84
ГОСТ Р ИСО/МЭК 9126-93 Информационная технология. Оценка программной продукции. Характеристики качества и руководства по их применению. http://docs.cntd.ru/document/1200009076
ГОСТ Р ИСО 9127-94. Системы обработки информации. Документация пользователя и информация на упаковке для потребительских программных пакетов. http://docs.cntd.ru/document/gost-r-iso-9127-94
ГОСТ Р 51188-98 Защита информации. Испытания программных средств на наличие компьютерных вирусов. Типовое руководство. http://docs.cntd.ru/document/1200027444
от 19.01.2017 №11н15, в который приказом Минздрава России от 20.11.2020 №1236н16 добавлен отдельный IV раздел с соответствующими требованиями.
Самым сложным и вместе с этим самым важным документом являются «Технические условия» (ТУ). В нем производитель указывает технические требования, которым должно соответствовать его изделие, а также описание процедур того, как можно проверить их соблюдение. Рекомендуется, чтобы документация производителя соответствовала ГОСТам, список которых представлен в табл. 1.
После подготовки необходимого пакета документов производителю ПО необходимо пройти:
1. Технические испытания, цель которых состоит в оценке соответствия характеристик ПМИ требованиям предоставленной нормативной, методической, технической и эксплуатационной документации.
2. Клинические испытания, цель которых состоит в оценке безопасности и эффективности ПМИ в форме заранее разработанного и запланированного систематического исследования. Провести клинические испытания можно только после успешного проведения технических испытаний.
Для ПМИ не требуется проведение токсикологических исследований, а также испытаний для утверж-
15http://base.garant.ru/71626748/
16Приказ Минздрава России от 20.11.2020 №1236н «О внесении
изменений в требования к содержанию технической и эксплуата-
ционной документации производителя (изготовителя) медицин-
ского изделия, утвержденные приказом Министерства здравоохранения Российской Федерации от 19 января 2017 г. №11н».
дения типа средств измерений, хотя такие мероприятия предусмотрены законодательством для аппаратных медицинских изделий.
Порядок проведения технических и клинических испытаний МИ определен приказом Минздрава России от 09.01.2014 №2н17. Согласно постановлению Правительства РФ от 24.11.2020 №1906, для проведения клинических испытаний ПМИ не требуется получать предварительное разрешение от Росздравнад-зора и одобрение этического комитета. Планируется издание обновленной версии приказа Минздрава России от 09.01.2014 №2н, в которой будут дополнительно учтены особенности ПМИ, в том числе созданных с применением ИИ.
Клинические испытания ПМИ проводятся в форме сбора, анализа и оценки клинических данных, полученных при проверке испытуемого образца ПМИ в условиях клинической практики и/или на основании обработки ПМИ готовых размеченных наборов данных. Порядок и другие детали клинических испытаний описываются в документе «Программа клинических испытаний». Он разрабатывается производителем ПМИ совместно с той медицинской организацией, в которой планируется проведение клинических испытаний, с учетом заявленных производителем положений технических условий и эксплуатационной документации. Сложность, продолжительность и другие параметры клинических испытаний зависят от сложности самого ПМИ.
17http://base .garant.ru/70631448/
Основная задача специалистов, которые проводят клинические испытания, состоит в том, чтобы убедиться и собрать достаточные, информативные и заслуживающие доверие доказательства безопасности и эффективности ПМИ. Нередко для доказательства эффективности испытуемый продукт сравнивают с его аналогами. Если в ходе клинических испытаний необходимых доказательств собрать не удается, или если будут выявлены несоответствия ПМИ заявленным показаниям к применению и другим разделам документации производителя, либо установлены факты, что ПМИ может приводить к реальной угрозе жизни и здоровью пациентов, то по такому ПО выносится решение об отрицательном результате испытаний. В остальных случаях выносится положительное решение.
Итогом успешного проведения клинических испытаний является «Протокол оценки результатов клинических испытаний медицинского изделия», оформленный в виде специальных актов по образцам, предусмотренным приказом Минздрава России от 09.01.2014 №2 н. В нем описываются полученные клинические доказательства эффективности и безопасности ПМИ. Данный документ впоследствии станет главным основанием, на базе которого эксперты на этапе государственной регистрации будут принимать решение о допуске продукта на рынок.
Производитель ПМИ вправе сам выбрать испытательную лабораторию, которая проведет технические испытания, а также медицинскую организацию, которая выполнит клинические испытания. Приказом Минздрава России от 16.05.2013 №300н определены требования к медицинским организациям, имеющим право на проведение клинических испы-таний18. Список аккредитованных Росздравнадзором медицинских организаций, имеющих право на проведение клинических испытаний, доступен по адресу http://www.roszdravnadzor.ru/services/test_clinical Для проведения испытаний производитель ПМИ, как правило, заключает соответствующий договор на оказание услуг с выбранной организацией. Методика определения стоимости экспертизы и испытаний медицинских изделий определена приказом Минздрава России от 22.11.2011 №1386н19.
Итоговый сводный перечень мероприятий по разработке документации и прохождению технических и клинических испытаний приведен в табл. 2. Основные сложности испытаний ПМИ: — Разработка качественной технической и эксплуатационной документации. Недостаточная глубина проработки, ошибки и неточности в документации являются основанием для приостановки испыта-
18http://www.roszdravnadzor.ru/documents/106 19http://docs.cntd.ru/document/902314476.
ний или государственной регистрации и возвращения документов производителю на доработку.
— Правильная разработка методики клинических испытаний с учетом особенностей продукта, распространенности нозологии и многих других факторов, которые эксперты могут учитывать при проведении этого мероприятия.
— Качественное проведение клинических испытаний и оформление протокола с оценками их результатов. От этого зависит успешность прохождения экспертизы на следующем этапе —на этапе государственной регистрации.
Этап №3. Государственная регистрация программных медицинских изделий Основная задача процедуры государственной регистрации состоит в проведении независимой экспертизы качества, эффективности и безопасности ПМИ на основании предоставленного производителем комплекта документов. Она осуществляется опытными экспертами подведомственных Росздравнадзору институтов: ФГБУ «ВНИИИМТ» и ФГБУ «Национальный институт качества».
Порядок проведения экспертизы определен приказом Минздрава России от 21.12.2012 №1353н20 и решением Совета Евразийской экономической комиссии от 12.02.2016 №4621. В своей работе эксперты опираются на общие методические рекомендации по проведению экспертизы [12], а также специальные методические рекомендации, которые периодически обновляются экспертными организациями Росздравнадзора [13]. Последнее такое обновление выпущено в октябре 2020 г.
В случае успешного прохождения экспертизы Росздравнадзор принимает решение о государственной регистрации ПМИ. Сведения об этом размещаются в специальном государственном реестре, ведение которого регулируется постановлением Правительства РФ от 19.06.2012 №615222. Электронная версия реестра доступна по адресу: http://www.rosz-dravnadzor.ru/services/misearch
Для ПМИ, созданных в том числе с использованием технологий ИИ, в РФ применяется ускоренная процедура регистрации, предусмотренная постановлением Правительства РФ от 31.05.2018 №633, длительность которой составляет 20 рабочих дней. Она представляет собой одноэтапное проведение экспертизы без необходимости предварительного получения одобрения на проведение клинических испытаний23. Список мероприятий государственной регистрации ПМИ приведен в табл. 3.
20http://www.roszdravnadzor.ru/documents/115
21https://docs.eaeunion.org/docs/ru-ru/01510767/cncd_12072016_46
22http://docs.cntd.ru/document/9023 536 5 5
23http://government.ru/docs/32763/
2. Заключение договора между производите- Длительность не регламентирована, зависит от переговорного процесса и поиска лем ПМИ и организацией, осуществляющей необходимой организации
проведение испытаний
3. Проведение технических испытаний испы- Длительность этого мероприятия не должна превышать более 30 рабочих дней со
тательной лабораторией дня предоставления в испытательную лабораторию образца ПМИ и документации
(п. 10, раздел II приказа Минздрава России от 09.01.2014 г. №2н). По соглашению с производителем этот этап можно дополнительно продлить на 12 рабочих дней
4. Проведение клинических испытаний в ме- Законодательно длительность этого мероприятия не установлена. По опыту суще-
дицинской организации ствующих в России регистраций, ПМИ может составлять несколько месяцев
Таблица 2. Список мероприятий технических и клинических испытаний программных медицинских изделий Table 2. List of measures for technical and clinical trials of medical software.
Мероприятие Краткое описание
1. Разработка производителем технической Длительность не регламентирована, зависит от зрелости производителя. Как прави-и эксплуатационной документации ло, чем более сложный продукт готовится для регистрации, тем длительнее и сложнее это мероприятие
5. Оформление пакета документов для госу- Срок не регламентирован, но производитель может заранее подготовить необходи-дарственной регистрации, оплата государ- мые документы, поэтому длительность этого этапа может быть минимальной
ственной пошлины за регистрацию
Примечание. ПМИ — программное медицинское изделие.
Пострегистрационный мониторинг программных
медицинских изделий
В соответствии с решением коллегии Евразийской экономической комиссии от 22.12.2015 №17424, после регистрации и вывода МИ на рынок должен осуществляться мониторинг его безопасности. Порядок его проведения на территории РФ утвержден приказом Минздрава России от 15.09.2020 №980н25. Целью мониторинга является выявление и предотвращение побочных действий и неблагоприятных событий, связанных с применением МИ и создающих угрозу жизни и здоровью граждан и медицинских работников. Мониторинг представляет собой сбор сведений о таких событиях и их централизованную регистрацию в информационной системе «Неблагоприятные события медицинских изделий» для последующего анализа, проведения экспертизы и при необходимости контрольных мероприятий, направленных на предотвращение таких ситуаций в будущем. Источником информации могут быть различные каналы, включая получение сведений из государственных информационных систем в сфере здравоохранения, информации от пользователей, данных, предоставленных самим заявителем и т.д. В соответствии с приказом Минздрава России от 19.10.2020 №1113н субъекты обращения МИ обязаны сообщать в Росздравнадзор о фактах и обстоятельствах, создающих угрозу жизни и здоровью граждан и медицинских работников при применении и эксплуатации МИ, в течение 20 рабочих дней. Производитель МИ обязан предоставить отчет о неблагоприятном событии и корректирующих действиях26. В случае выявления и подтверждения небла-
24https://docs.eaeunion.org/docs/ru-ru/0149291/clcd_30122015_174
25http://publication.pravo.gov.ru/Document/View/0001202011020039
26http://publication.pravo.gov.ru/Document/View/0001202012070057
гоприятных событий или причинения вреда жизни и здоровью производитель ПМИ обязан выполнить ряд превентивных мероприятий, предусмотренных приказом Минздрава России от 15.09.2020 №980н, включая информирование потребителей. Если производитель не будет принимать необходимых мер по предотвращению угрозы здоровью, Росздравнад-зор имеет право изъять данное ПМИ из обращения.
Заключение
Процесс испытаний и государственной регистрации программных медицинских изделий, в том числе созданных с применением технологий искусственного интеллекта, достаточно детально урегулирован в России с нормативной точки зрения.
Вместе с тем на основании национальной стратегии развития технологий искусственного интеллекта и «Концепции регулирования искусственного интеллекта и робототехники до 2024 г.» в нашей стране ведется постоянная точечная работа над совершенствованием этого регулирования. Росздравнадзор совместно с Минздравом России и отраслевыми экспертами активно ведут поиск баланса между созданием условий для ускоренного вывода продуктов на рынок и совершенствованием государственного контроля безопасности и эффективности продуктов технологий искусственного интеллекта с учетом потенциальных рисков и проблем, вызванных особенностями технологий искусственного интеллекта.
В качестве первоочередных мер по совершенствованию законодательного регулирования мы видим следующие направления: — Сокращение сроков клинических испытаний и экспертизы продуктов технологий искусственного интеллекта перед их государственной регистрацией за счет дальнейшего совершенствования
Управление здравоохранением Management in health care
Таблица 3. Список мероприятий государственной регистрации программных медицинских изделий Table 3. List of measures for state registration of medical software
Мероприятие Краткое описание
1. Официальное направление производителем пакета документов на государственную регистрацию ПМИ в Росздравнадзор Необходимые документы, включая протоколы технических и клинических испытаний, готовятся производителем на предыдущем этапе. Необходимо официально предоставить бумажные экземпляры документов в Росздравнадзор и получить отметку о принятии документов
2. Регистрация Росздравнадзором документов, поступивших от производителя Осуществляется в течение 1 рабочего дня с даты поступления документов
3. Проверка полноты и достоверности представленных сведений Отводится не более 5 рабочих дней с момента регистрации заявления производителя
4. Устранение замечаний производителем ПМИ В случае выявления замечаний производитель должен устранить их. На это ему отводится не более 30 рабочих дней
5. Принятие решения о начале государственной регистрации Осуществляется Росздравнадзором в течение 3 рабочих дней с даты получения надлежащим образом оформленных и проверенных на полноту и достоверность документов
6. Оформление Росздравнадзором «Задания на проведение экспертизы качества, эффективности и безопасности медицинского изделия», которое передается в подведомственную экспертную организацию Осуществляется в течение 3 рабочих дней после принятия положительного решения о начале государственной регистрации
7. Проведение экспертизы подведомственной экспертной организацией Отводится 20 рабочих дней с даты получения задания от Росздравнадзора
8. Предоставление заявителем дополнительной информации в случае недостаточности данных для вынесения экспертом заключения Отводится 2 рабочих дня на передачу запроса производителю с момента направления запроса экспертом и не более 50 рабочих дней на формирование производителем ответа, а также 2 рабочих дня на передачу ответа от производителя эксперту
9. Принятие решения о государственной регистрации ПМИ или отказе на основании заключения, полученного от подведомственной экспертной организации Должно быть выполнено в течение 10 рабочих дней с даты получения экспертного заключения
10. Размещение сведений в Государственном реестре В течение 1 рабочего дня после принятия решения о регистрации
процедур клинической оценки безопасности и эффективности программных медицинских изделий.
— Создание условий для возможности проведения клинических испытаний на основе качественных размеченных наборов данных.
— Развитие требований к системе менеджмента качества и возможностей государственного контроля ее наличия и уровня с целью повышения доверия к разработчикам, а также предоставление таким разработчикам упрощенных или ускоренных процедур вывода программных медицинских изделий на рынок.
— Разрешение на выпуск новых версий продуктов через извещение регулятора и без необходимости проведения повторных клинических испытаний.
— Развитие пострегистрационного мониторинга в части программных медицинских изделий и технологий искусственного интеллекта, в том числе через создание независимых сервисов автоматизированного контроля работы продуктов технологий искусственного интеллекта и автоматической регистрации фактов неблагоприятных событий в соответствующей информационной системе Росздравнадзора, например, в случае ухудшения указанных в технических условиях программных медицинских изделий метрик точности работы моделей искусственного интеллекта.
Авторы заявляют об отсутствии конфликта интересов. The authors declare no conflicts of interest.
AMTEPATYPA/REFERENCES
1. Topol EJ. High-performance medicine: the convergence ofhuman and artificial intelligence. Nature Medicine. 2019;25(1):44-56. https://doi.org/10.1038/s41591-018-0300-7
2. Topol EJ. Deep Medicine. How Artificial Intelligence Can Make Healthcare Human Again. New York: Basic Books; 2019.
3. Benjamens S, Dhunnoo P, Mesk6 B. The state of artificial intelligence-based FDA-approved medical devices and algorithms: an online database. NPJDigital Medicine. 2020;3:118. https://doi.org/10.1038/s41746-020-00324-0
4. IMDRF/SaMD WG/N10:2013. Software as a Medical Device (SaMD): Key Definitions. Accessed December 12, 2020. https://www.imdrf.org/docs/imdrf/final/technical/imdrf-tech-131209-samd-key-definitions-140901.pdf
5. IMDRF/SaMD WG/N12:2014. Software as a Medical Device: Possible Framework for Risk Categorization and Corresponding Considerations. Accessed December 12, 2020.
https://www.imdrf.org/docs/imdrf/final/technical/imdrf-tech-140918-samd-framework-risk-categorization-141013.pdf
6. IMDRF/SaMD WG/N23:2015. Software as a Medical Device (SaMD): Application of Quality Management System. Accessed December 12, 2020.
https://www.imdrf.org/docs/imdrf/final/technical/imdrf-tech-151002-samd-qms.pdf
7. IMDRF/SaMD WG(PD1)/N41R3:2016 Software as a Medical Device (SaMD): Clinical Evaluation. Accessed December 12, 2020. http://www.imdrf.org/docs/imdrf/final/technical/imdrf-tech-170921-samd-n41-clinical-evaluation_1.pdf
8. Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare. Artificial Intelligence in Healthcare. 2020;20-35:295-336.
https://doi.org/10.1016/B978-0-12-818438-7.00012-5
9. Столбов А.П. О классификации рисков применения медицинского программного обеспечения в Евразийском экономическом союзе. Врач и информационные технологии. 2019;3:22-31. Stolbov AP. About the classification of risks of application of the medical software in the Eurasian economic union. Vrach i informa-cionnye tehnologii. 2019;3:22-31. (In Russ.).
10. Альманах Искусственный интеллект. №1: Обзоррынка ИИ России и мира. Аналитический сборник. 2019. Ссылка активна на 12.12.20. Al'manah Iskusstvennyj intellect. №1: Obzor rinka II Rossii i mira. Analiticheskijsbornik. 2019. (In Russ.).
Accessed December 12, 2020. https://www.aireport.ru
11. Столбов А.П. О классификации рисков применения программного обеспечения медицинского назначения. Вестник Росздравнадзора. 2019;3:36-42.
Stolbov AP. On the classification of risks of medical software application. VestnikRoszdravnadzora. 2019;3:36-42. (In Russ.).
12. Методические рекомендации по порядку проведения экспертизы качества, эффективности и безопасности медицинских изделий для государственной регистрации. М. 2016. Ссылка активна на 12.12.20.
Metodicheskie rekomendaciipo poryadku provedeniya ekspertizy kachest-va, effektivnosti i bezopasnosti medicinskih izdelij dlya gosudarstvennoj registracii. M. 2016. (In Russ.). Accessed December 12, 2020. https://www.roszdravnadzor.ru/documents/34129
13. Методические рекомендации по порядку проведения экспертизы качества, эффективности и безопасности медицинских изделий (в части программного обеспечения) для государственной регистрации в рамках национальной системы. М. 2020. Ссылка активна на 12.12.20.
Metodicheskie rekomendacii po poryadku provedeniya ekspertizy kachest-va, effektivnosti i bezopasnosti medicinskih izdelij (v chasti programmno-go obespecheniya) dlya gosudarstvennoj registracii v ramkah nacional'noj sistemy. M. 2020. (In Russ.). Accessed December 12, 2020. https://roszdr avnadzor.gov.ru/i/upload/imag-es/2020/10/29/1603972004.29977-1-176577.pdf
Поступила 24.11.2020 Received 24.11.2020 Принята к печати 23.12.2020 Accepted 23.12.2020
