CC BY
43https://doi.org/10.29188/2712-9217-2021-7-2-18-22
эавовои режим технологии искусственного интеллекта, рименяемых в телемедицине
Литературный обзор
М.С. Варюшин
Частная адвокатская практика; Москва, Россия
Контакт: Варюшин Михаил Сергеевич, [email protected]
Аннотация:
Юридические аспекты применения технологий искусственного интеллекта (ТИИ) в здравоохранении интенсивно развиваются. В настоящее время медицинские организации сталкиваются с применением ТИИ в условиях недостаточного правового регулирования. Представлен анализ юридических аспектов применения технологий искусственного интеллекта в рамках дистанционного взаимодействия медицинских работников между собой и с пациентами (законными представителями). Приведены рекомендации для руководителей медицинских организаций при внедрении и применении технологий ИИ в разных режимах. Детально разобран вопрос гражданско-правовой ответственности за вред, причиненный при оказании медицинской помощи с использованием технологий ИИ.
Ключевые слова: искусственный интеллект; правовой статус; законодательство; ответственность; врач.
Для цитирования: Варюшин М.С. Правовой режим технологий искусственного интеллекта, применяемых в телемедицине. Российский журнал телемедицины и электронного здравоохранения 2021 ;7(2);18-22; https://doi.org/10.29188/2712-9217-2021-7-2-18-22
Legal framework for artificial intelligence technologies in telemedicine
Literature review
https://doi.org/10.29188/2712-9217-2021-7-2-18-22 М.S. Varjushin
Private law practice; Moscow, Russia
Contact: Mihail S. Varjushin, [email protected]
Summary:
Regulation of artificial intelligence (AI) technologies in healthcare are rapidly developing. Currently, medical organizations faced with the use of AI in conditions of insufficient legislation. There is an analysis of the AI's legal aspects in the frame of distant interaction of doctors each other and with patients via telemedicine. Special recommendations for introducing and applying AI technologies in different modes given for medical organizations managers. The issue of civil liability for harm caused during the provision of medical care using AI technologies analyzed in detail.
Key words: artificial intelligence; legislation law; responsibility; doctor.
For citation: Varjushin М.S. Legal framework for artificial intelligence technologies in telemedicine. Russian Journal of Telemedicine and E-Health 2021;7(2):18-22; https://doi.org/10.29188/2712-9217-2021-7-2-18-22
ВВЕДЕНИЕ
В последнее время искусственный интеллект (далее - «ИИ») все чаще используется в медицине, например, при распознавания медицинских изображений, разработке лекарственных препаратов, в протезировании и т.п. Технологии ИИ также востребованы и в телемедицине. Онлайн сервисы постановки «предварительного» диагноза с помощью нейросетей запустили некоторые крупные игроки рынка цифровой медицины. В работу медицинских организаций активно внедряются системы поддержки принятия врачебных решений на основе распознания медицинских изображений при диагностике онкологических, лор-заболеваний и т.п. [1-4]. Причем неотъемлемой часть таких сервисов является также телемедицинское консультирование по модели «врач-врач», когда требуется привлечение специалиста, например, лечащим врачом-терапевтом, использующим технологии ИИ в своей работе с пациентами [5]. ИИ позволяет маршрутизировать пациентов телемедицинских сервисов, существенно облегчая работу врачам-терапевтам, которые раньше выполняли такую функцию.
При этом, несмотря на то что ИИ становится существенной частью рынка телемедицины, его правовой режим до конца не определен [6, 7]. Термин ИИ в российском законодательстве определяется как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека (См. пункт 5 Указа Президента РФ «О развитии искусственного интеллекта в Российской Федерации» от 10.10.2019 г. № 490). ИИ включает информационные системы, информационно-телекоммуникационные сети, технические средства обработки информации, программное обеспечение, процессы и сервисы по обработке данных и поиску решений.
В качестве объекта права ИИ в телемедицине в первую очередь представлен программами для ЭВМ, которые могут быть как медицинскими изделиями, так и программным обеспечением, используемым в сфере цифрового здравоохранения и медицинскими базами данных, в том числе обезличенных данных.
РЕГИСТРАЦИЯ МЕДИЦИНСКИХ ИЗДЕЛИЙ
Пункт 2 Правил государственной регистрации медицинских изделий (утв. Постановление Правительства РФ от 27 декабря 2012 г. № 1416) устанавливает, что государственной регистрации как медицинское изделие в Росздравнадзоре подлежит специальное программное обеспечение, предназначенное для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека. Это означает, что программное обеспечение должно быть предназначено производителем (разработчиком) для медицинских целей.
Согласно Критериям отнесения продукции к медицинским изделиям в части программного обеспечения (утв. Протоколом Комиссии по выдаче заключений на запросы, связанные с обращением медицинских изделий ФГБУ «ВНИИИМТ» Росздравнадзора № 03 от 28 января 2020 года), программное обеспечение относится к медицинским изделиям при условии, если оно:
а) не является составной частью другого медицинского изделия;
б) предназначено производителем для оказания медицинской помощи;
в) результат его действия заключается в интерпретации в автоматическом режиме, в том числе с использованием технологий искусственного интеллекта, или по заданным медицинским работником параметрам, влияющим на принятие клинических решений, набора данных, полученных от медицинских изделий, допущенных к обращению в установленном порядке или введенных медицинскими работниками в целях оказания медицинской помощи.
Программное обеспечение с использованием ИИ относится к 3 классу медицинских изделий, то есть с высокой степенью риска. Это обуславливает также то, что сведения о наличии (отсутствии) в программном обеспечении, являющемся медицинским изделием, технологий ИИ и их 8
описание подлежат обязательному указанию в технической документации в составе регистрационного досье (См. пункт 5.1 Приказа Минздрава России «Об утверждении требований к содержанию технической и эксплуатационной документации производителя (изготовителя) медицинского изделия» от 19.01.2017 г. N 11 н).
Помимо того, что ИИ прямо предусмотрен в перечне видов медицинских изделий, для его регистрации с 05 декабря 2020 года требуется представлять сведения, подтверждающие клиническую эффективность и безопасность медицинских изделий, при этом вводится ускоренная одноэтап-ная процедура государственной регистрации (см. Постановление Правительства РФ от 24.11.2020 г. № 1906), что говорит о повышенном внимании государства к подобным разработкам.
В целях легализации использования обезличенных медицинских данных при обучении ИИ были внесены изменения в положения о федеральной интегрированной электронной медицинской карте (далее - «ЭМК»). Так, ЭМК должна обеспечивать хранение наборов обезличенных медицинских данных для их использования в целях создания алгоритмов и методов машинного обучения для формирования систем поддержки принятия врачебных решений, создания и применения технологических решений на основе искусственного интеллекта; поддержку разработки технологических решений на основе искусственного интеллекта; хранение, функционирование и верификацию технологических решений на основе искусственного интеллекта; доступ медицинских организаций к технологическим решениям на основе искусственного интеллекта (см. Постановление Правительства РФ «О внесении изменений в Положение о единой государственной информационной системе в сфере здравоохранения» от 19.12.2020 г. № 2174).
Собственно, при деперсонализации медицинская документация, например, в виде снимков, и раньше могла использоваться для обучения ИИ при наличии согласия пациента на обработку его персональных данных. Деперсонализованные данные утрачивают характеристики, предусмотренные Федеральным законом «О персональных данных» от 27.07.2006 г. № 152-ФЗ, то есть не позволяют идентифицировать человека ни по отдельности, ни в совокупности, и могут быть переданы другим операторам как обычные данные, утратив-
шие признаки не только данных специальной категории, но и персональных данных в принципе.
Такие базы данных являются самостоятельными объектами интеллектуальной собственности и принадлежат как правило медицинским организациям, которые их составляют. Но если медицинская организация просто передает обезличенные депер-сонализованные данные разработчикам ИИ, то база данных формируется уже разработчиком ИИ, а не медицинской организацией. И именно он получает исключительные права на такую базу данных.
ИИ в составе информационных систем могут использоваться и без регистрации в качестве медицинских изделий в соответствии с Федеральным законом от 24.04.2020 г. № 123-Ф3 и Федеральным законом от 31.07.2020 г. № 258-ФЗ (см. Приказ Минздрава России от «О временном порядке организации работы медицинских организаций в целях реализации мер по профилактике и снижению рисков распространения новой коронавирусной инфекции ООУЮ-19» 19.03.2020 г. № 198н).
При этом, что касается ИИ поддержки принятия врачебных решений, то до их регистрации в качестве медицинских изделий они могут быть внедрены в работу медицинских организаций в рамках системы внутреннего контроля качества и безопасности медицинской деятельности.
Контроль качества и безопасности медицинской деятельности согласно статье 87 Федерального закона «Об основах охраны здоровья граждан в Российской Федерации» от 21.11.2011 г. № 323-ФЗ осуществляется в том числе в форме внутреннего контроля, например, путем создания системы оценки деятельности медицинских работников, участвующих в оказании медицинских услуг.
Медицинская организация должна разработать положение о порядке организации и проведения внутреннего контроля качества и безопасности медицинской деятельности согласно Требованиям к организации и проведению внутреннего контроля качества и безопасности медицинской деятельности (утв. Приказом Минздрава России от 07.06.2019 г. № 381н) и включить в положение ИИ как один из элементов контроля.
Внутренний контроль может включать следующие мероприятия: оценку качества и безопасности медицинской деятельности медицинской организации, ее структурных подразделений путем проведения плановых и целевых (внеплановых) проверок, а также сбор статистических дан-
ных, характеризующих качество и безопасность медицинской деятельности медицинской организации, и их анализ. ИИ может использоваться при оценке качества и безопасности медицинской деятельности медицинской организации. Результаты ИИ, полученные в ходе анализа фото и видео материалов медицинских обследований, на основании которых ИИ выявлены отклонения в установленных медицинскими работниками диагнозах от вероятностного диагноза, установленного ИИ, могут быть предметом рассмотрения врачебной комиссией.
ВРАЧЕБНАЯ КОМИССИЯ
Врачебная комиссия состоит из врачей и возглавляется руководителем медицинской организации или одним из его заместителей. Она осуществляет оценку качества, обоснованности и эффективности лечебно-диагностических мероприятий, а также разработку мероприятий по устранению и предупреждению нарушений в процессе диагностики и лечения пациентов (см. пункт 4 Порядка создания и деятельности врачебной комиссии медицинской организации (утв. Приказом Минздрав-соцразвития России от 5 мая 2012 г. № 502н).
При внедрении ИИ в работу медицинской организации руководителем медицинской организации должен быть выпущен приказ о внедрении ИИ в работу, с которым медицинские работники, вовлеченные в работу с ИИ, должны быть ознакомлены под роспись. Также рекомендуется внести соответствующие изменения в должностные инструкции таких медицинских работников.
Вопрос гражданско-правовой ответственности за вред, причиненный при оказании медицинской помощи с использованием технологий ИИ, также остается открытым [8].
В том случае, когда ИИ не зарегистрирован как медицинское изделие и используется медицинской организацией исключительно в рамках системы внутреннего контроля качества и безопасности оказываемой медицинской помощи, медицинский работник, оказывающий медицинскую помощь, может использовать ИИ исключительно в целях проверки своей деятельности, например, правильности и точности поставленного им диагноза. Но постановка окончательного диагноза медицинским работником осуществляется самостоятельно. Поскольку ИИ в данном случае не яв-
ляется медицинским изделием, используемым медицинским работником непосредственно при оказании медицинской помощи пациенту, то вред здоровью, причиненный пациенту вследствие недостатков ИИ, возмещается непосредственно медицинской организацией с возможностью последующего обращения с иском к разработчику ИИ. Условия ответственности разработчика ИИ следует предусматривать в соответствующем лицензионном соглашении или договоре об отчуждении исключительных прав на ИИ.
Если ИИ зарегистрирован как медицинское изделие, то причиненный здоровью пациента вред будет также возмещаться медицинской организацией. Но следует учесть факт того, что ни клинические рекомендации, ни порядки оказания медицинской помощи не содержат правил, позволяющих медицинскому работнику при диагностике или выборе лечения пациента использовать ИИ. Это означает, что полностью снять ответственность с медицинского работника, осуществившего манипуляции, основываясь на выводах о состоянии здоровья пациента, полученных исключительно с использованием ИИ, нельзя. Медицинская организация, а также медицинский работник (в рамках регрессного иска медицинской организации, работодателя, к виновному в причинении вреда жизни и здоровью пациента медицинскому работнику) не могут быть освобождены от ответственности до тех пор, пока в клинических рекомендациях либо порядках оказания медицинской помощи не будут закреплены соответствующие положения о возможности использования ИИ. При причинении вреда здоровью пациента при оказании ему медицинской помощи с использованием ИИ все-таки причините-лем вреда (без учета вины) будет медицинская организация, которая в свою очередь вправе предъявить соответствующий регрессный иск к разработчику (правообладателю) ИИ, если вред последовал в результате ошибок в работе ИИ, а не в следствие действий медицинского работника.
ВЫВОДЫ
Технологии искусственного интеллекта развиваются достаточно стремительно. С ними связывают надежды на цифровую трансформацию системы здравоохранения. Нормативно-правовое регулирование соответствующих аспектов продолжает интенсивно развиваться. /
ЛИТЕРАТУРА^^^^^^^^^
1. Yu KH, Beam AL, Kohane IS. Artificial intelligence in healthcare. Nat Biomed Eng 2018 Oct;2(10):719-731. https://orcid.org/10.1038/ s41551-018-0305-z.
2. O'Sullivan S, Nevejans N, Allen C, Blyth A, Leonard S, Pagallo U, Holzinger K, Holzinger A, Sajid MI, Ashrafian H. Legal, regulatory, and ethical frameworks for development of standards in artificial intelligence (AI) and autonomous robotic surgery. Int J Med Robot 2019 Feb;15(1):e1968. https://orcid.org/10.1002/rcs.1968.
3. Свиридова Е.А. Проблема ответственности искусственного интеллекта через призму концепции гражданско-правовой ответственности Франции. Образование и право 2020(4):516-523. [Sviridova E.A. Problema otvetstvennosti iskusstvennogo intellekta cherez prizmu koncepcii grazhdansko-pravovoj otvetstvennosti Francii. Obrazovanie i pravo = Education and Law 2020(4)516-523. (In Russian)].
4. Морозов С.П., Владзимирский А.В., Ледихова Н.В., Андрейченко А.Е., Арзамасов К.М., Баланюк Э.А., Гомболевский В.А., Ермолаев С.О., Живоденко В.С., Идрисов И.М., Кирпичев Ю.С., Логунова Т.А., Нуждина В.А., Омелянская О.В., Раковчен В.Г., Слепушкина А.В. Московский эксперимент по применению компьютерного зрения в лучевой диагностике: вовлеченность врачей-рентгенологов. Врач и информационные технологии 2020(4):14-23. [Morozov S.P., Vladzimirskij A.V., Ledihova N.V., Andrejchenko A.E., Arzamasov K.M., Balanjuk Je.A., Gombolevskij V.A., Ermolaev S.O., Zhivodenko V.S., Idrisov I.M., Kirpichev Ju.S., Logunova T.A., Nuzhdina V.A., Omeljan-skaja O.V., Rakovchen V.G., Slepushkina A.V. Moskovskij jeksperiment po primeneniju komp'juternogo zrenija v luchevoj diagnostike: vovlechennost' vrachej-rentgenologov. Vrach i informacionnye tehnologii = Information Technologies for the Physician 2020(4):14-23.
(In Russian)].
5. Морозов С.П., Владзимирский А.В., Варюшин М.С., Аронов А.В. Распределение ответственности за некачественное оказание медицинской помощи при использовании телемедицинских технологий. Журнал телемедицины и электронного здравоохранения 2018;1-2(6-7):9-15. [Morozov S.P., Vladzymyrsyyj A.V., Varyushin M.S., Aronov A.V. Raspredelenie otvetstvennosti za nekachestvennoe okazanie medicinskoj pomoshhi pri ispol'zovanii telemedicinskih tehnologij. Zhurnal telemediciny i jelektronnogo zdravoohranenija = The Journal of Telemedicine and e-Health 2018;1-2(6-7):9-15. (In Russian)].
6. Исмаилов И.Ш. Искусственный интеллект: правовой статус, проблемы дефиниции и перспективы использования в юриспруденции. Проблемы экономики и юридической практики 2019;5(15):135-139. [Ismailov I.Sh. Iskusstvennyj intellekt: pravovoj status, problemy definicii i perspektivy ispol'zovanija v jurisprudencii. Problemy jekonomiki i juridicheskoj praktiki = Economic problems and legal practice 2019;5(15):135-139. (In Russian)].
7. Берггольц В.В. Правовой статус и разграничение ответственности при разработке и использовании инструментов искусственного интеллекта. Международный журнал гуманитарных и естественных наук 2020;6-3(45):23-27. [Berggol'c V.V. Pravovoj status i razgranichenie otvetstvennosti pri razrabotke i ispol'zovanii in-strumentov iskusstvennogo intellekta. Mezhdunarodnyj zhurnal guаmanitarnyh i estestvennyh nauk = International Journal of Humanities and NaturalSciences 2020;6-3(45):23-27. (In Russian)].
8. Neri E, Coppola F, Miele V, Bibbolino C, Grassi R. Artificial intelligence: Who is responsible for the diagnosis? Radiol Med 2020 Jun;125(6):517-521. https://orcid.org/10.1007/s11547-020-01135-9.
Сведения об авторе:
Варюшин М.С. - юрист, к.ю.н., частная адвокатская практика; Москва, Россия; [email protected]
Вклад автора:
Варюшин М.С. - определение научного интереса, дизайн исследования, сбор данных, написание текста, 100%
Конфликт интересов: Автор заявляют об отсутствии конфликта интересов.
Финансирование: Исследование выполнено без спонсорской поддержки.
Статья поступила: 29.04.21 Принята к публикации: 25.05.21
Information about author:
Varjushin M.S. - Private law practice; Moscow, Russia; [email protected]
Author contributions:
Varjushin M.S. - definition of scientific interest, research design, data collection, text writing, 100%
Conflict of interest: The author declare no conflict of interest.
Financing: The study was performed without external funding.
Received: 29.04.21
Accepted for publication: 25.05.21
