CC BY
140
УДК 349
DOI 10.23672/f5377-7798-8678-w
Ковелина Татьяна Афанасьевна
доктор философских наук, профессор кафедры философии, психологии и педагогики, Кубанский государственный медицинский университет Kovelina.56@mail.ru
Собянин Андрей Викторович
студент,
педиатрический факультет, Кубанский государственный медицинский университет andress.007@yandex.ru
Марухно Василиса Михайловна
кандидат юридических наук, доцент кафедры философии, психологии и педагогики, Кубанский государственный медицинский университет vasilisa_amg@mail.ru
Tatiana A. Kovelina
Doctor of Philosophy,
Professor of the Department of Philosophy, Psychology and Pedagogy, Kuban State Medical University Kovelina.56@mail.ru
Andrei V. Sobianin
Student,
Pediatric Faculty,
Kuban State Medical University
andress.007@yandex.ru
Vasilisa M. Marukhno
Candidate of Legal Sciences, Associate Professor of the Department of Philosophy, Psychology and Pedagogy, Kuban State Medical University vasilisa_amg@mail.ru
К вопросу о правовом регулировании применения искусственного интеллекта в медицине
To the question of legal
regulation of the use of artificial intelligence in medicine
Аннотация. В статье рассмотрены проблемы правового регулирования использования искусственного интеллекта в медицине. В ходе исследования проанализированы основные подходы к решению вопросов правовой регламентации участия искусственного интеллекта при осуществлении медицинской деятельности. Были определены аспекты добровольного информированного согласия пациента на медицинское вмешательство с использованием искусственного интеллекта и применения мер юридической ответственности. Авторами сформулированы предложения по вопросам совершенствования правового регулирования применения искусственного интеллекта в медицине.
Ключевые слова: искусственный интеллект, робот, киберфизическая система, правовое регулирование, добровольное информированное согласие, медицинское вмешательство, правосубъектность, юридическая ответственность.
Annotation. The article deals with the problems of legal regulation of the use of artificial intelligence in medicine. In the course of the study have been analyzed the main approaches concerning solving the issues of legal regulation of the use of artificial intelligence in the implementation of medical activities. Aspects of the patient's voluntary informed consent to medical intervention using artificial intelligence and the application of legal liability measures were identified. The authors formulated proposals on improving the legal regulation of the use of artificial intelligence in medicine.
Keywords: artificial intelligence, legal regulation, voluntary informed consent, medical intervention, legal personality, legal responsibility.
В
ведение.
Одной из перспективных сфер для внедрения и развития искусственного интеллекта (ИИ, AI) является медицина и здравоохранение. Использование ИИ может повысить точность и скорость диагностики, улучшить качество
жизни пациентов с различными заболеваниями, ускорить разработку, исследование и выпуск новых лекарственных средств, повысить эффективность лечения [1; 2].
Применение искусственного интеллекта в медицине создает необходимость изменения подхо-
дов к правовому регулированию отношений в области медицины и здравоохранения. Вопросы правовой регламентации деятельности искусственного интеллекта и применения юридической ответственности к обязанному лицу освещаются в современной литературе. В перспективе предполагается приобретение некоторыми формами искусственного интеллекта (разновидности роботов) правосубъектности, а значит, и способности нести юридическую ответственность [3]. Однако некоторые аспекты изменения регулирования деятельности искусственного интеллекта в контексте отношений, возникающих в сфере медицины и здравоохранения, остаются неясны. Так, остается без объяснения вопрос о включении сведений о выполнении медицинского вмешательства искусственным интеллектом в информированное добровольное согласие пациента. Кроме того, нет данных о возможности реализации таких функций юридической ответственности, как воспитательная и превентивная (профилактическая, предупредительная), по отношению к искусственному интеллекту в контексте правового регулирования медицинской деятельности.
Поэтому в ходе анализа мировой практики использования ИИ в медицине попытаемся определить пробелы правового регулирования данных правоотношений.
Результаты исследования.
В перспективе развития правового регулирования оказания медицинской помощи искусственным интеллектом или при его использовании предполагается приобретение формами искусственного интеллекта правосубъектности и способности нести юридическую ответственность [3]. Поэтому рассмотрим формы искусственного интеллекта, выделяемые в профильной литературе:
- киборгдоктор - биологический человек с вживленным в головной мозг интеллектуальным А1-чипом (кибернетический организм);
- А1-робот - автономно работающая киберфи-зическая машина (система), способная самостоятельно перемещаться по больнице и/или выезжать к пациенту;
- А1-больница - искусственный интеллект, действующий в рамках конкретной медицинской организации;
- «Облачный» А1-доктор - программное обеспечение, информационно-коммуникационная инфраструктура и сервисы по обработке данных и поиску решений которого размещены в облачном хранилище [4].
Как видно из описания форм ИИ, не каждая из них имеет потенциальные признаки правосубъектности . Так, А1-больница, как правило, имеет дислокационную привязку к медицинской организации. Тем не менее, А1-робот может иметь регистрацию и учетный номер, обладать хозяйственной компетенцией, соответствующей целям
его деятельности (например, для оказания медицинской помощи), обладать имущественной базой (т.к. робот априори представляет собой материальную ценность), быть привлеченным к юридической ответственности (в виде принудительного отключения или доработки программы, утилизации как крайней мере ответственности) [4]. «Облачный» А1-робот не имеет привязки к конкретной организации, а представляет собой информационную инфраструктуру с возможностью подключения к серверам (реестрам? облачным хранилищам) вне учреждения (за пределами страны и даже по всему миру) при наличии доступа. С другой стороны, будучи предметами материального мира и обладающие ценностью (как технология), роботы одновременно выступают и объектами права [3]. Современное правоведение разделяет объект и субъект права, что рождает противоречие. Для его разрешения предлагается гибкий подход, при котором А1 в одних случаях признается субъектом права, а в других - объектом права с определением соответствующих критериев. Одним из таких критериев является участие ИИ в новой форме правоотношений - в «А1-отношениях» или «ки-берфизических отношениях». Субъектами этих отношений могут признаваться не только физические и юридические лица, но и искусственный интеллект [3]. Также, ученые предсказывают в дальнейшем полное признание искусственного интеллекта как субъекта права [3].
Стоит отметить, что медицинская деятельность с применением технологии ИИ находится не только в плоскости правового регулирования, но и в действии неправовых инструментов (биоэтики, норм морали и этики) [4]. В связи с этим, интересным представляется вопрос об информированном добровольном согласии пациента на медицинское вмешательство.
Согласно части 1 статьи 20 Федерального закона № 323 «Об основах охраны здоровья граждан в Российской Федерации» и приказу Министерства здравоохранения РФ № 1177н, необходимым предварительным условием медицинского вмешательства является дача информированного добровольного согласия гражданина или его законного представителя на медицинское вмешательство [5; 6]. Согласие дается пациентом на основании предоставленной медицинским работником в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства, о его последствиях, а также о предполагаемых результатах оказания медицинской помощи [5; 6]. При толковании данного положения в повседневной медицинской практике лицом, оказывающими медицинское вмешательство, априори является человек. Однако в контексте оказания медицинской помощи с использованием искусственного интеллекта толкование данного положения может быть затруднено. Так как в настоящее время технология искусственного интеллекта рассматривается как объект права, целесообразным видится отнести сведения о том, что медицинская помощь оказывается с применением ИИ, к
информации о методах и возможных вариантах медицинского вмешательства. Такой подход позволяет учесть право граждан на полную информацию о медицинском вмешательстве, предоставляемую в доступной форме. В долгосрочной перспективе, при наделении ИИ правосубъектностью необходим иной подход, позволяющий учесть, что наряду с человеком лицом, выполняющим медицинское вмешательство, может быть А1. Исходя из этого, можно предложить включение в информацию о медицинском вмешательстве сведений о его исполнителе -человеке или ИИ. Подобный взгляд на информированное добровольное согласие пациента, по нашему мнению, не только позволяет обеспечить соблюдение права пациента на информацию о вмешательстве, но и подводит, с другой стороны, к вопросу о юридической ответственности искусственного интеллекта.
На современном этапе развития правового регулирования отношений, связанных с применением искусственного интеллекта, в том числе, и в сфере медицины и здравоохранения, вопрос о юридической ответственности оценивается учеными неоднозначно. При рассмотрении ИИ исключительно как объекта права юридическую ответственность за его работу несет оператор или иное лицо, задающее параметры работы А1 и управляющее его поведением [3]. Ответственным лицом также признается создатель (изготовитель) искусственного интеллекта [3]. Такой взгляд, с одной стороны, продиктован нормами современного законодательства, но, с другой стороны, не уточняет вид юридической ответственности. Так, создателем (изготовителем) изготовителем ИИ может быть как физическое, так и юридическое лицо. Последнее согласно действующему законодательству не может нести уголовную ответственность.
При признании правосубъектности искусственного интеллекта становится возможным привлечение его к юридической ответственности [3]. В связи с этим, были предложены различные принципиальные подходы:
- концепция «А1-отношений» и «киберфизиче-ской ответственности» [3];
- конструкция субсидиарной ответственности
[3; 7];
- идея применения уголовной ответственности в случаях невозможности изменения программы ИИ в силу конструктивных особенностей ИИ [3];
- уничтожение/удаление программы ИИ как крайняя мера пресечения [3, 4] и др.
Кроме того, как было отмечено выше, в регулировании отношений в области медицины и здравоохранения наряду с нормами права значительную роль играют морально-этические аспекты. Однако, по мнению ученых, ИИ вряд ли будет волновать моральная сторона правонарушения и ответственности [3]. Исходя из комплекс-
ного характера регулирования медицинской деятельности и утверждения о безразличии ИИ к морально-этической стороне правонарушения, мы предполагаем также наличие препятствий для реализации воспитательной и профилактической функций юридической ответственности. Одной из причин видится отсутствие у искусственного интеллекта таких присущих человеку чувств, как стыд и сострадание, то есть естественных предпосылок для реализации воспитательной и предупредительной функции [3, 4]. На настоящий момент неизвестно, может ли самообучение ИИ (например, технологии машинного обучения) способствовать «пониманию» им неблагоприятных последствий некоторых действий, «осознанию» их как противоправных. Кроме того, неясно, возможно ли предупреждение правонарушений у других А1-единиц (других роботов или даже у других форм ИИ) через пример (назидательно).
Из предложенных подходов к решению данного вопроса интересным представляется принятие Киберфизического/Цифрового кодекса для правового регулированя отношений участников цифрового пространства (реализуется при принятии концепции «киберфизических отношений») и дальнейшее самообучение А1-систем путем подключения их к цифровой версии кодекса, сопоставления предполагаемых действий с нормами и создании алгоритмов для дальнейших действий [8]. Однако такой подход все еще не учитывает морально-этическую сторону вопроса. Поэтому мы предлагаем в перспективе дополнить принятие Киберфизического/Цифрового кодекса и самообучение киберфизических систем внедрением в программы ИИ специальных алгоритмов, позволяющих имитировать стыд/ сострадание (аналоги естественных чувств человека) - прерогатива специалистов в области информационных технологий и машинного обучения. Также, стоит отметить, что необходимо внедрение алгоритмов, позволяющих другим А1-роботам и формам ИИ на примере робота, понесшего юридическую ответственность за правонарушение, оценивать его действия как негативные, неправомерные, опасные для человека и самого ИИ. Эти принципиальные уточнения, на наш взгляд, дополняют комплексный характер регулирования медицинской деятельности с участием искусственного интеллекта и открывают перспективу развития А1-технологий в медицине и здравоохранении.
Заключение.
В заключение хотелось бы отметить, что остается неурегулированным вопрос о необходимости включения в информированное добровольное согласие пациента пункта об использовании искусственного интеллекта при осуществлении медицинского вмешательства. Поэтому мы предлагаем урегулировать эти аспекты применения ИИ в медицине на законодательном уровне путем внесения соответствующих поправок в ФЗ № 323 «Об основах охраны здоровья
граждан РФ». Напротив, в настоящее время вопрос о юридической ответственности не стоит, поскольку ответственность несет изготовитель
Литература:
1. Гусев А.В. Д.С.Л. Искусственный интеллект в медицине и здравоохранении / А.В. Гусев // Информационное Общество. 2017. Vol. 4-5.
2. Колесниченко О.Ю. Искусственный интеллект в здравоохранении: современные проблемы / О.Ю. Колесниченко, Ю.Ю. Колесниченко, Н.Д. Лит-вак // Ремедиум. Журнал о российском рынке лекарств и медицинской технике. 2018. № 4.
3. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу / В.А. Лаптев // Право. Журнал Высшей школы экономики. 2019. № 2.
4. Лаптев В.А. Правовые формы применения искусственного интеллекта в медицине / В.А. Лаптев // Юрист. Медицинское право. 2021. № 2.
5. Федеральный закон от 21 ноября 2011 г., № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» // Собрание законодательства Российской Федерации. 2011. № 48. Ст. 6724. 2012. № 26. Ст. 3442, 3446.
6. Приказ Министерства здравоохранения Российской Федерации от 20 декабря 2012 г. № 1177н «Об утверждении порядка дачи информированного добровольного согласия на медицинское вмешательство и отказа от медицинского вмешательства в отношении определенных видов медицинских вмешательств, форм информированного добровольного согласия на медицинское вмешательство и форм отказа от медицинского вмешательства» // Российская газета. № 145. 05.07.2013.
7. Гражданский кодекс Российской Федерации (ред. от 26.10.2021) // Российская газета. № 238239. 08.12.1994.
8. Илющенко Р. России будущего нужен Цифровой кодекс / Р. Илющенко, И. Башелханов. URL : https://ruskline.ru/analitika/2018/02/7/rossii_ buduwego_nuzhen_cifrovoj_kodeks
и/или пользователь, но в перспективе этот вопрос может быть актуален.
Literature:
1. Gusev A.V. D.S.L. Artificial Intelligence in Medicine and Healthcare / A.V. Gusev // In-Formation Society. 2017. Vol. 4-5.
2. Kolesnichenko O.Yu. Artificial intelligence in healthcare: modern problems / O.Yu. Kolesnichenko, Yu.Yu. Kolesnichenko, N.D. Litvak // Remedium. Journal on the Russian drug market and medical equipment. 2018. № 4.
3. Laptev V.A. The concept of artificial intelligence and legal responsibility for its work / V.A. Laptev // Law. Journal of the Higher School of Economics. 2019. № 2.
4. Laptev V.A. Legal forms of application of artificial intelligence in medicine / V.A. Laptev // Lawyer. Medical law. 2021. № 2.
5. Federal Law of November 21, 2011, № 323-FZ «On the Basics of Protecting the Health of Citizens in the Russian Federation» // Assembly of Legislation of the Russian Federation. 2011. № 48. Art. 6724. 2012. № 26. Art. 3442, 3446.
6. Order of the Ministry of Health of the Russian Federation № 1177n dated December 20, 2012 «On approving the procedure for giving in-formation voluntary consent to medical intervention and refusing medical intervention in relation to certain types of medical interventions, forms of informed voluntary consent to medical intervention and forms of refusal to medical intervention» // Rossiyskaya Gazeta. № 145. 05.07.2013.
7. Civil Code of the Russian Federation (ed. From 26.10.2021) // Russian newspaper. № 238-239. 08.12.1994.
8. Ilyushchenko R. Russia of the future needs the Digital Code / R. Ilyushchenko, I. Bashelkhanov. URL : https://ruskline.ru/analitika/2018/02/7/rossii_ buduwego_nuzhen_cifrovoj_kodeks
