CC BY
0
DOI 10.24412/2227-7315-2024-3-108-113 УДК 342.723
А.В. Басова
ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В МЕДИЦИНЕ: ПРАВОВЫЕ РИСКИ И ПЕРСПЕКТИВЫ
Введение: широкое внедрение медицинских изделий на основе искусственного интеллекта в практическое здравоохранение требует изучения соотношения эффективности и правовых рисков их использования в отношении пациентов. Цель — изучить зарубежный и отечественный опыт применения медицинских изделий на основе искусственного интеллекта в медицине, определить перспективы и правовые риски. Методологическая основа: общенаучные (анализ, синтез, сравнение, обобщение) и частные методы исследования (правовое прогнозирование, логико-юридический). Результаты: установлен высокий потенциал развития медицинской помощи, основанной на применении технологий искусственного интеллекта, а также риск причинения вреда жизни и здоровью пациентов несовершенством таких технологий. Выводы: внедрение медицинских изделий на основе искусственного интеллекта в медицину во много раз превышает риски, которыми нельзя пренебрегать. Это требует совершенствования правого регулирования мониторинга качества и безопасности их использования и технического сопровождения программного обеспечения на весь период их эксплуатации.
Ключевые слова: искусственный интеллект, медицина, риски, пациент, роботы.
A.V. Basova
APPLICATION OF ARTIFICIAL INTELLIGENCE IN MEDICINE: LEGAL RISKS AND PROSPECTS
Background: the widespread introduction of medical devices based on artificial intelligence into practical healthcare requires studying the correlation between the effectiveness and legal risks oftheir use in relation to patients. Objective — to study foreign and domestic experience in the use of medical devices based on artificial intelligence in medicine, to identify prospects and legal risks. Methodology: general scientific (analysis, synthesis, comparison, generalization) and private research methods (legal forecasting, logical and legal). Results: a high potential for the development of medical care based on the application of artificial intelligence technologies was established, as well as the risk of harm to patients' life and health caused by imperfections in such technologies. Conclusions: the introduction of medical devices based on artificial intelligence into medicine many times exceeds the risks that cannot be ignored. It requires improving the legal regulation of monitoring the quality and safety oftheir use and technical support of software for the entire period oftheir operation.
Keywords: artificial intelligence, medicine, risks, patient, robots.
u © Басова Алла Викторовна, 2024
| Кандидат юридических наук, доцент кафедры общественного здоровья и здравоохранения
£ (с курсами правоведения и истории медицины) (Саратовский государственный медицинский университет
им. В.И. Разумовского Минздрава России), доцент кафедры конституционного и муниципального права (Саратовский национальный исследовательский государственный университет имени Н.Г. Чернышевского); e-mail: allsar@rambler.ru
© Basova Alla Viktorovna, 2024
Candidate of Law, Associate Professor at the Department of Public Health and Healthcare (with training in Law and History of Medicine) (Razumovsky Saratov State Medical University of the Ministry of Health of Russia), Associate Professor at the Department of Constitutional and Municipal Law (N.G. Chernyshevsky Saratov National 108 Research State University)
В российское практическое здравоохранение в 2023 г началось массовое внедрение медицинских изделий (МИ), созданных и работающих на основе технологий искусственного интеллекта (ИИ). Субъекты РФ (за исключением новых территорий) в 2023 г. должны были внедрить не менее одного российского медицинского изделия с использованием ИИ, зарегистрированного Росздравнадзором, а в 2024 г. — не менее трех. Данные требования и Перечень отечественных медицинских изделий на основе технологий ИИ, зарегистрированный в Росздравнад-зоре, представлены на сайте оперативного взаимодействия участников Единой государственной информационной системы здравоохранения (ЕГИСЗ)1.
Согласно Перечню медицинские изделия на основе ИИ представляют собой цифровые программы. На начало марта 2024 г. в Перечень включены 20 изделий, которые в зависимости от цели использования можно разделить на две группы: программы ИИ для анализа медицинских изображений и цифровой диагностики (анализа рентгена грудной клетки, коленных суставов, анализа томографии органов и фотографий кожных покровов и др.);
системы поддержки принятия врачебных решений на основе данных медицинской документации пациента (жалоб, результатов исследования, возраста, пола, клинических рекомендаций).
Следует заметить, что ведутся разработки отечественных роботов-хирургов на основе ИИ, так как робот да Винчи, разработанный в США, эффективно применяется в России в различных направлениях хирургии (общей, торакальной, эндоваскулярной, в гинекологии, колопроктологии, эндокринологии, урологии), что существенно позволяет снизить инвазивность операций и период реабилитации пациентов [1, с. 100].
В методических рекомендациях по приобретению и внедрению МИ с технологией ИИ в сферу здравоохранения субъектов РФ от 2024 г., утвержденных Минздравом России, указано на необходимость первоочередного внедрения продуктов с наибольшим количеством модальностей, помогающих в диагностике большего количества заболеваний и направленных на анализ маммографии, рентгенографии, флюорографии, компьютерной томографии органов грудной клетки и головного мозга2. Следовательно, в медицинские организации внедряются сверхсложные МИ на основе технологий ИИ, что сочетает в себе положительные перспективы и риски.
Преимуществами внедрения выступают ранняя и более точная диагностика заболеваний и факторов риска их развития, профилактика врачебных ошибок, более совершенный подбор лекарственных препаратов в соответствии с клиническими протоколами с учетом индивидуальных особенностей пациента (возраста, пола, жалоб), оптимизация рабочего времени врача, сокращение времени на обработку диагностических данных пациента и постановку диагноза, снижение ко-
1 См: Портал оперативного взаимодействия участников ЕГИСЗ Минздрава России. URL: https:// 2 portal.egisz.rosminzdrav.ru/news/855 (дата обращения: 28.02.2024). *
2 См: Методические рекомендации по приобретению и внедрению медицинских изделий с технологией искусственного интеллекта в подсистемы государственной информационной системы в сфере здравоохранения субъекта Российской Федерации: утв. Межведомственной рабочей группой при Минздраве России по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта (протокол от 14 февраля 2024 г. № 90/18-6/59) // Портал оперативного взаимодействия участников ЕГИСЗ. URL: https://portal.egisz.rosminzdrav.ru/materials (дата обращения: 28.02.2024). 109
личества дней нетрудоспособности пациентов и смертности населения [2, с. 67]. Кроме того, раннее выявление социально значимых заболеваний (онкологии, туберкулеза), характеризующихся длительным периодом нетрудоспособности, способствует снижению экономического ущерба для граждан и общества.
Вместе с тем использование МИ на основе ИИ в медицинской деятельности — рискованный процесс, требующий специального правого регулирования, так как программное обеспечение МИ с применением технологий ИИ относится к третьему классу потенциального риска с очень высокой степенью (ст. 15.1.1 Приказа Минздрава России от 6 июня 2012 г. № 4н)х.
Внедрение таких МИ в практическое здравоохранение развитых странах началось раньше и их опыт свидетельствует о возможных ошибках ИИ в постановке диагноза, в рекомендуемом алгоритме лечения в соответствии с клиническими рекомендациями, в порядке проведения хирургического вмешательства. Сбои в работе МИ с ИИ были вызваны неточным вводом данных анамнеза, орфанным (редким) заболеванием пациента, которое ИИ не смог распознать, факторами окружающей среды, высокой погрешностью системы ИИ и изменением программы в результате ее самообучения [3].
Исследование безопасности и эффективности хирургических вмешательств с помощью роботизированных хирургических систем за 14-летний период (2000-2013), проведенное в США, указывает на то, что из 1,7 млн операций 10 624 закончились причинением вреда пациентам, что составляет 0,6 % от числа всех прооперированных. Формы вреда — травмы и причинение смерти в 144 случаях в результате неисправности устройств, работающих на основе ИИ [4].
Оценить эффективность робот-ассистированной хирургии позволило то, что общее количество операций и осложнений вносились в единую открытую базу данных мониторинга качества и безопасности использования хирургов-роботов, что следует оценить положительно. Введение данной базы позволяет оперативно реагировать разработчикам и производителям МИ на выявленные проблемы, предотвращать нарушения прав граждан на охрану здоровья.
Одной из проблем применения ИИ в медицине является наличие у него автономии и способности к самообучению, что приводит к изменению первоначальных программных настроек, возникновению ошибок [5, с. 30]. В США при использовании программы на основе ИИ, позволяющей диагностировать перелом запястья по рентгеновским снимкам было выяснено, что при обнаружении застарелых сросшихся переломов ИИ их интерпретировал как перелом, нуждающийся в накладывании гипса и мобилизации конечности [6, с. 11592]. Сбои в программном обеспечении не единичны в зарубежной практике, что актуализирует необходимость проведения мониторинга за МИ на основе ИИ на территории России.
Руководствуясь указанными методическими рекомендациями Минздрава России, субъекты РФ ежегодно должны формировать статистический отчет применения МИ с ИИ, включающий количество обработанных исследований или электронных медицинских карт, число зафиксированных технических ошибок и неблагоприятных событий и размещать его на общественно доступных ресурсах. Сопровождение и техническая поддержка пользователей МИ на основе ИИ долж-
1 См: Приказ Минздрава России от 6 июня 2012 г. № 4н «Об утверждении номенклатурной классификации медицинских изделий» (в ред. от 7 июля 2020 г.) // Российская газета. 2012. 110 24 октября; URL: http://www.pravo.gov.ru, 10.08.2020.
но осуществляться разработчиком на срок не мене 12 месяцев для обеспечения бесперебойного функционирования программы, периодического ее обновления, исправления ошибок, решения инцидентов и справочных вопросов пользователей.
Данный порядок мониторинга качества и безопасности использования таких МИ не совершенен. Во-первых, мониторинг не должны осуществлять субъекты РФ, так как к исключительному ведению Российской Федерации в соответствии с п. «в» ст. 71 Конституции РФ относится регулирование и защита прав и свобод человека и гражданина, п. «м» — обеспечение безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных, а согласно п. «р» — учет официальной статистики1, что позволяет утверждать о необходимости наделения обязанностью федеральный орган исполнительной власти в системе здравоохранения формировать единую базу данных о неблагоприятных событиях и технических ошибках, вызванных МИ, работающих на основе ИИ. Централизованный сбор таких данных позволит более эффективно выявлять несовершенства применяемых МИ на основе ИИ на территории государства, то есть более масштабно и своевременно предпринимать решения по выявленным проблемам.
Федеральная служба по надзору в сфере здравоохранения на основании Приказа Росздравнадзора от 20 мая 2021 г. № 45132 осуществляет мониторинг безопасности МИ при их применении путем выявления побочных действий, не указанных в руководстве по эксплуатации МИ, нежелательных реакций и особенностей, фактов и обстоятельств, создающих угрозу здоровью или жизни пациентов, а также медицинских работников при эксплуатации изделий. Медработники обязаны сообщать о подобных случаях, расследование которых может явиться основанием принятия решения об изъятии из обращения МИ на территории России. Однако информация о неблагоприятных событиях не формируется в единую открытую базу данных, поэтому медработники не могут оценить масштабность возникшей проблемы, ее случайность или закономерность.
Представляется, что открытый Федеральный специализированный реестр мониторинга безопасности применения МИ на основе ИИ более совершенно отражал бы конституционное право на охрану здоровья граждан в период активного введения новаций в российское здравоохранение, способствовал бы повышению уровня доверия врачей и пациентов к таким изделиям. Росздравнадзор должен быть ответственен за его ведение.
Во-вторых, срок сопровождения медицинских организаций и технической поддержки программ ИИ ее разработчиком на 12 месяцев недостаточный, так как МИ с высоким риском потенциальной опасности, со сложным программным обеспечением не подконтрольны медикам. Техническое сопровождение и контроль системных ошибок должны обеспечивать профессионалы-разработчики на весь период использования МИ, так как цена ошибки может быть велика — жизнь человека.
1 См.: Конституция РФ: принята всенародным голосованием 12 декабря 1993 г. (с изм. от 1 июля 2020 г., в ред. от 6 октября 2022 г.) // Российская газета. 1993. 1 декабря; Официальный интернет-портал правовой информации. URL: www.pravo.gov.ru (дата обращения: 28.02.2024).
2 См: Приказ Федеральной службы по надзору в сфере здравоохранения от 20 мая 2021 г. № 4513 «Об утверждении классификации неблагоприятных событий, связанных с обращением медицинских изделий». URL: www.pravo.gov.ru (дата обращения: 28.02.2024). 111
Программы ИИ могут качественно функционировать, только если они содержат исчерпывающие алгоритмы информации, отражающие полный набор данных, которые постоянно обновляются ввиду развития медицинских знаний о заболеваниях, формах их течения, лечения [7, с. 47], что особенно важно в программном обеспечении систем поддержки принятия врачебных решений.
Согласно ч. 10 ст. 37 Федерального закона «Об основах охраны здоровья граждан в Российской Федерации» (в ред. от 25 декабря 2023 г.)1 клинические рекомендации пересматриваются не реже одного раза в три года, следовательно, после пересмотра необходимо обновить программу системы поддержки принятия врачебных решений для формирования актуальных протоколов лечения пациентов ИИ. Сопровождение и техническая поддержка МИ на основе ИИ разработчиками должна осуществляться на весь период эксплуатации изделия.
Таким образом, применение МИ на основе ИИ имеет весьма широкие перспективы для решения проблем укрепления и сохранения здоровья граждан, кадрового дефицита медработников, повышения доступности и качества медицинской помощи для населения. Ожидаемый положительный эффект превышает риски причинения вреда здоровью и жизни граждан, однако ими нельзя пренебрегать, так как здоровье и жизнь человека — абсолютные правовые ценности. В условиях массового внедрения МИ на основе технологий ИИ в российское здравоохранение необходимо развитие правового регулирования данного процесса в соответствии с существующими рисками. Открытый Федеральный специализированный реестр мониторинга безопасности применения МИ на основе ИИ на территории РФ позволил бы более достоверно и эффективно оценить безопасность и результативность их использования в медицине. Необходимо узаконить сопровождение медицинских организаций и техническую поддержку программного обеспечения МИ на основе ИИ разработчиками на весь период эксплуатации изделия медучреждениями.
Библиографический список
1. Мосоян М.С., Федоров Д. А. Современная робототехника в медицине // Трансляционная медицина. 2020. Т. 7, № 5. С. 91-108.
2. Курдюмов Д.А., Кашин А.В., Рябов Н.Ю., Новицкий Р.Э., Гусев А.В. Опыт применения технологий искусственного интеллекта для развития профилактического здравоохранения на примере Кировской области // Менеджер здравоохранения. 2023. № 6. С. 62-69.
3. Srivastava R. Applications of Artificial Intelligence in Medicine // Exploratory Research and Hypothesis in Medicine. Published online: Sep.: 19, 2023.
4. Alemzadeh H., Raman J., Leveson N., Kalbarczyk Z., Iyer R.K. Adverse Events in Robotic Surgery: A Retrospective Study of 14 Years of FDA // Data. PLoS ONE. 2016. Vol. 11, no. 4.
5. Липчанская М.А. Проблемы определения ответственности при использовании технологий искусственного интеллекта // Вестник Российской правовой академии. 2021. № 3. С. 26-31.
6. Lindsey R., Daluiski A., Chopra S., Lachapelle A., Mozer M., Sicular S., Hanel D., Gardner M., Gupta A., Hotchkiss R., Potter H. Deep neural network improves fracture detection by clinicians // Proc Natl Acad Sci U S A. 2018. Vol. 115, no. 45. P. 11591-11596.
7. Гусев А.В., Шарова Д.Е. Этические проблемы развития технологий искусственного интеллекта в здравоохранении // Общественное здоровье. 2023. Т. 3, № 1. С. 42-50.
112
1 См.: СЗ РФ. 2011. № 48, ст. 6724; 2024. № 1, ч. 1, ст. 6.
А. В. Басова
References
1. Mosoyan M.S., FedorovD.A. Modern Robotics in Medicine // Translational Medicine. 2020. Vol. 7, no. 5. P. 91-108.
2. KurdyumovD.A., Kashin A.V., RyabovN.Yu., Novitsky R.E., GusevA.V. The Experience of Using Artificial Intelligence Technologies for the Development of Preventive Healthcare on the Example of the Kirov Region // Health Care Manager. 2023. No. 6. P. 62-69.
3. Srivastava R. Applications of Artificial Intelligence in Medicine // Exploratory Research and Hypothesis in Medicine. Published online: Sep.: 19, 2023.
4. Alemzadeh H., Raman J., Leveson N., Kalbarczyk Z., Iyer R.K. Adverse Events in Robotic Surgery: A Retrospective Study of 14 Years of FDA // Data. PLoS ONE. 2016. Vol. 11, no. 4.
5. Lipchanskaya M.A. Problems of Determining Responsibility When Using Artificial Intelligence Technologies // Bulletin of the Russian Academy of Law. 2021. No. 3. P. 26-31.
6. Lindsey R., Daluiski A., Chopra S., Lachapelle A., Mozer M., Sicular S., Hanel D., Gardner M., Gupta A., Hotchkiss R., Potter H. Deep Neural Network Improves Fracture Detection by Clinicians // Proc Natl Acad Sci U S A. 2018. Vol. 115, no. 45. P. 11591-11596.
7. Gusev A.V., Sharova D.E. Ethical Problems of the Development of Artificial Intelligence Technologies in Healthcare // Public Health. 2023. Vol. 3, no. 1. P. 42-50.
CD
о
го
о
X
о
Sc о
о
S
QJ
тз
0 —I
го ф
1 I
О Sc
5
"О S
д
Sc а
ж
ш д
ф §
S
№
ю UJ
5 )
2 О N) 4
