CC BY
151
УДК 343:61
doi: 10.35750/2071-8284-2020-4-127-131
Евгения Евгеньевна черных
кандидат юридических наук, доцент ORCID: 0000-0002-7637-1866, [email protected]
Нижегородская академия МВД России Российская Федерация, 603950, Нижний Новгород, Анкудиновское шоссе, 3
Искусственный интеллект в здравоохранении России: современное состояние и уголовно-правовые риски
Аннотация: В статье рассматривается перспектива развития систем искусственного интеллекта в здравоохранении России в условиях внедрения цифровой экономики. Проводится краткий исторический анализ применения искусственного интеллекта в социальной сфере, исследуются основные направления современной российской государственной концепции развития искусственного интеллекта. Раскрыты основные направления использования интеллектуальных систем. Автором подчёркивается необходимость правового регулирования цифровой медицины, в связи с этим проанализированы основные уголовно-правовые риски причинения вреда правоохраняемым интересам одним из направлений цифровой медицины. Отмечается, что уголовно-правовая проблема применения искусственного интеллекта остаётся на сегодняшний день не разработанной в российском уголовном праве, в связи с этим автором подчёркивается острая необходимость более оперативной разработки норм уголовно-правового характера, регулирующих правовые отношения в данной сфере деятельности. При этом обусловленность существования нормы об уголовной ответственности напрямую зависит от характера и степени общественной опасности деяния. Автор использует краткий анализ зарубежного опыта правового регулирования внедрения искусственного интеллекта в медицинской сфере. В заключительной части статьи автором предложены варианты квалификации при определении субъектного состава, причиняющего вред.
Ключевые слова: искусственный интеллект, цифровая медицина, математические методы обработки медицинских данных, уголовно-правовые риски.
Для цитирования: Черных Е.Е. Искусственный интеллект в здравоохранении России: современное состояние и уголовно-правовые риски // Вестник Санкт-Петербургского университета МВД России. - 2020. - № 4 (88). - С. 127-131; doi: 10.35750/2071-8284-2020-4-127-131.
Evgeniya E. Chernykh
Cand. Sci. (Jurid.), Docent ORCID: 0000-0002-7637-1866, [email protected]
Nizhny Novgorod academy of the MIA of Russia 3, Ankudinovskoye shosse, Nizhny Novgorod, 603950, Russian Federation
Artificial intelligence in the Russian healthcare sector: current situation and criminal and legal risks
Abstract: The article discusses the prospects for the development of artificial intelligence systems in healthcare in Russia in the context of the introduction of the digital economy. A brief historical analysis of the use of artificial intelligence in the social sphere is carried out, the main directions of the modern Russian
© Черных Е.Е., 2020
state concept of the development of artificial intelligence are investigated. The main directions of using intelligent systems are revealed. The author emphasizes the need for legal regulation of digital medicine and, in this regard, analyzes the main criminal legal risks of causing harm to law-protected interests by one of the areas of digital medicine. It is noted that the criminal law problem of the use of artificial intelligence remains to date not developed in Russian criminal law, in this regard, the author emphasizes the urgent need for a more rapid development of criminal law rules governing legal relations in this area of activity. At the same time, the conditionality of the existence of a norm on criminal liability directly depends on the nature and degree of social danger of the act. The author of a brief analysis of foreign experience in the legal regulation of the use of artificial intelligence in the medical field. In the final part of the article, the author proposes qualification options in determining the subject composition causing harm.
Keywords: artificial intelligence, digital medicine, mathematical methods of medical data processing, legal risks, criminal risks.
For citation: Chernykh E. E. Artificial intelligence in the Russian healthcare sector: current situation and criminal and legal risks // Vestnik of St. Petersburg University of the Ministry of Internal Affairs of Russia. - 2020. - № 4 (88). - P. 127-131; doi: 10.35750/2071-8284-2020-4-127-131.
В любом прогрессе есть обратная сторона, причиной чего является недостаточное правовое регулирование изменённых правоотношений, что в свою очередь создаёт условия угрозы причинения вреда правоохраняемым интересам. Область здравоохранения в настоящее время значительнее всего подвержена реформированию. Прежде всего это связано с факторами старения населения, увеличения распространённости онкологических, сердечно-сосудистых и инфекционных заболеваний, болезней обмена веществ, патологий мозга и значительными показателями смертности.
Инновационные технологии внедряются в основные направления медицины, что предопределяет необходимость правового регулирования данных сфер. Наиболее перспективным курсом выступает цифровизация медицины. В настоящий момент медиками активно используются телемедицина, искусственный интеллект (ИИ) и математические способы обработки данных.
В 1954 году в МГУ под руководством профессора А. А. Ляпунова прошёл семинар «Автоматы и мышление». Именно это событие считают началом появления искусственного интеллекта в России. С 1956 года идёт работа по поиску моделей и алгоритма человеческого мышления и разработка первых программ кибернетиками.
За последние 65 лет в этом направлении произошли существенные изменения. Руководство каждого государства понимает важность и перспективность указанного курса. Искусственный интеллект - «одно из ключевых направлений технологического развития, которые определяют и будут определять будущее всего мира, если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, - последствия нам всем понятны - тот станет властели-
ном мира»1. Именно поэтому каждое государство начало активно разрабатывать концепции развития искусственного интеллекта.
10 октября 2019 года Президентом Российской Федерации В. В. Путиным подписан Указ № 490 «О развитии искусственного интеллекта в Российской Федерации», в соответствии с которым была представлена Национальная стратегия развития искусственного интеллекта на период до 2030 года. В рамках статьи 22 «Использование технологий искусственного интеллекта в социальной сфере» предусмотрен пункт, касающийся сферы здравоохранения. При этом указанная сфера является наиболее перспективной. Размер глобального рынка ИИ в здравоохранении к 2028 году возрастёт в 28 раз2. При этом в целях повышения качества услуг в сфере здравоохранения предусмотрены конкретные сферы применения ИИ. Это профилактические обследования, диагностика, основанная на анализе изображений, прогнозирование возникновения и развития заболеваний, подбор оптимальных дозировок лекарственных препаратов, сокращение угроз пандемий, автоматизация и точность хирургических вмешательств.
Развитие основных направлений цифровой медицины порождает дискуссии по определению места искусственного интеллекта в данном кластере. Чёткое определение структурной ячейки ИИ в цифровой медицине позволит определить перспективу использования указанной системы.
1 Совещание по вопросам развития технологий в области искусственного интеллекта с Президентом Российской Федерации В. В. Путиным 30.05.2019 г. [Электронный ресурс] // Официальный сайт Президента Российской Федерации. - URL: http://kremlin.ru/-events/president/news/60630 (дата обращения: 15.10.2020).
2 Искусственный интеллект (рынок России) [Электрон-
ный ресурс]. // Сайт «Tadviser». - URL:http://www.tadviser.ru/
index.php/Искусственный_интеллект_(рынок_Росси) (дата обращения: 15.10.2020).
Сфера цифрового здравоохранения подразделяется на электронное здравоохранение и математические методы обработки медицинских данных. Электронное здравоохранение, в свою очередь, подразделяется на направления телемедицины и использования электронного документооборота.
Математические методы обработки медицинских данных - это совокупность математических подходов, используемых для получения количественных зависимостей, построения моделей закономерностей каких-либо процессов или явлений, происходящих в живых организмах, а также относящихся к организации службы здравоохранения и охраны здоровья3. Указанные методы включают в себя, помимо медицинской кибернетики, графических описаний и математического моделирования, и методы искусственного интеллекта. Исходя из данной системы, искусственный интеллект предназначен для выявления закономерностей течения того или иного заболевания, постановки диагноза на основе анализа обработки данных. Кроме указанных направлений, медики в качестве перспективы использования ИИ предусматривают контроль качества медицинской помощи, управление здоровьем и навигацию пациентов, управление отраслью и медицинское образование4.
В связи с активным развитием искусственного интеллекта в сфере здравоохранения возникает целый ряд вопросов, касающихся правовой оценки действия систем и тех, кто будет нести ответственность в случае причинения вреда. Позиций в отношении этого очень много. Часть авторов предлагает рассматривать ИИ как объект авторского права таким образом, чтобы разработчик программы искусственного интеллекта нёс ответственность за причиняемый вред. Достаточно интересной представляется позиция [2], в соответствии с которой правовой статус программ искусственного интеллекта схож со статусом животного или источника повышенной опасности.
Уголовное право достаточно медленно реагирует на прогресс в науке, в том числе практически не охвачена сфера ИИ и робототехники. Если мы обратимся к уголовному закону, то не увидим ни одной нормы об ответственности за совершение деяния посредством нейронных сетей или ИИ. При этом указанные системы функционируют в прямой зависимости от деятельности конкретного физического лица.
3 Лебедев Г. Применение систем искусственного интеллекта в медицине / Системы искусственного интеллекта 2019 : материалы конференции // Сеченовский университет, Институт цифровой медицины [Электронный ресурс]. // Сайт «Tadviser». - 2019. - 17 октября. - URL: https://www. tadviser.ru/images/a/ac/9.%D0%9B%D0%B5%D-0%B1%D0%B 5%D0%B4%D0%B5%D0%B2-17-10-19.pdf (дата обращения: 15.10.2020).
4 Там же.
О данной проблеме говорят и лица, непосредственно работающие с ИИ. Так, исполнительный директор отраслевого союза «Ней-ронет» Александр Семёнов в интервью РИА «Новости» указал, что «в этом случае может быть всё, что угодно: кто угодно может уйти от ответственности и кто угодно может быть наказан. Поэтому законодательство необходимо менять, так как оно не позволяет сегодня достаточным образом применить искусственный интеллект, например, в медицине»5.
Обусловленность существования нормы об уголовной ответственности напрямую зависит от характера и степени общественной опасности деяния. К сожалению, в сфере применения искусственного интеллекта отсутствует объективная статистика. Прежде всего это связано с тем, что преступлений, совершённых посредством информационных сетей, немного, так как ИИ только начал активно внедряться во все сферы деятельности человека. Именно поэтому уголовное право в идеале должно работать на опережение. Это позволит более тщательно подойти к разработке данных норм.
Зарубежный опыт в указанном вопросе гораздо шире. Так, в отдельных источниках приводится пример о том, что в медицинское учреждение поступил ребёнок с высокой температурой и слабостью. Диагноз «грипп» был поставлен на основе вывода деятельности системы искусственного интеллекта, в соответствии с чем было назначено лечение. Через несколько часов ребёнок скончался. Вскрытие показало ошибочность поставленного диагноза, что и выступило причиной летального исхода [1]. Кроме того, внедрение ИИ в процесс лечения и диагностики онкологических заболеваний также повлекло неоднозначные последствия. Летом 2019 года произошла утечка внутренних документов одного из крупнейших в мире производителей и поставщиков аппаратного и программного обеспечения - компании IBM. Программа Watson Health, предназначенная для диагностики и лечения 13 видов рака и используемая в 230 больницах всего мира, оказалась неидеальной и совершала врачебные ошибки, предлагая некорректные методы лечения, приводящие к смерти пациентов6.
Исходя из приведённых примеров, уголовно-правового регулирования требуют ситуации, когда при создании системы ИИ была допущена ошибка, которая и привела к совершению
5 Роботы и искусственный интеллект будут отвечать за причинённый вред [Электронный ресурс] // Официальный сайт РИА «Новости». - 2020. - 21 февраля. - URL: https://ria. ru/20200221/1565035910.html (дата обращения: 17.10.2020).
6 Коленов С. ИИ-онколога IBM Watson уличили во врачебных ошибках // Сайт «Hightech.plus». - 2018. -27 июля [Электронный ресурс]. - URL: https://hightech. plus/2018/07/27/ii-onkologa-ibm-watson-ulichili-vo-vrachebnih-oshibkah- (дата обращения: 17.10.2020).
преступления; когда в систему был осуществлён неправомерный доступ, изменивший функции ИИ; когда ИИ был создан умышленно для совершения преступления. Не стоит забывать и о том, что системы ИИ способны к самообучению. В этом случае система может сама принять решение о совершении действий, впоследствии квалифицирующихся как преступление.
Таким образом, основой определения норм об ответственности за преступление с использованием систем ИИ выступает цель деятельности системы, так как она не может быть связана с причинением вреда. Если же система специально программируется, чтобы причинить ущерб, то нормы должны быть иные.
При определении необходимой нормы важны объективные признаки и перечень субъектов преступной деятельности.
Деяние является преступлением при наличии причинения или угрозы причинения вреда правоохраняемым интересам. Если рассматривать использование ИИ в здравоохранении, то, несомненно, цифровые системы могут причинять вред жизни и здоровью человека. Наиболее сложными являются вопросы в отношении субъектного состава. Кто должен нести ответственность в случае причинения вреда ИИ? Безусловно, в основе существования и функционирования ИИ находится разработчик указанной программы и производитель продукции, наделённый искусственным
разумом. В случае причинения вреда правоприменитель может использовать нормы об ответственности за выполнение работ или оказание услуг, не отвечающих требованиям безопасности жизни или здоровья потребителей. Непосредственный пользователь программы также может нести ответственность, но правильно будет учитывать и оценивать автономность системы и необходимость контроля со стороны пользователя.
Не стоит забывать и об иных лицах, имеющих возможность вмешаться со стороны в деятельность системы, а именно перепрограммирование системы, заражение её вирусом, изменение компьютерного алгоритма. В этом случае будет иметь место совокупность преступлений в сфере компьютерной безопасности и преступлений против личности.
Таким образом, современное здравоохранение стоит на пороге цифровой революции, что, помимо достижения общественно полезной цели, создаст угрозу причинения вреда правоохраняемым интересам. Всё это обусловит необходимость существенного пересмотра различных отраслей законодательства, в том числе и уголовного. Существующие нормы не могут в полной мере охватить все случаи причинения вреда системами ИИ, что, в свою очередь, позволит лицам, использующим информационные системы в здравоохранении для совершения преступления, избежать ответственности.
Список литературы
1. Hallevy Gabriel. When Robots Kill: Artificial Intelligence Under Criminal Law. - Boston: Northeastern University Press, 2013.
2. Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. - 2017. - № 5. -С. 157-170.
3. Колесниченко О. Ю., Колесниченко Ю. Ю., Литвак Н. Д. Искусственный интеллект в здравоохранении: системные проблемы // Ремедиум. Журнал о российском рынке лекарств и медицинской техники. - 2018. - № 4. - С. 24-30.
4. Титков В. С. Правовое регулирование и перспективы развития искусственного интеллекта в сфере медицины // Право и бизнес: правовое пространство для развития бизнеса в России: монография. - В 4-х томах / отв. ред. С. Д. Могилевский и др. - Москва: Проспект, 2020. - С. 355-361.
5. Борисов Д. Н., Кушнирчук И. И., Севрюков В. В., Коваленко Е. И. Использование искусственного интеллекта в клинической практике // Клиническая патофизтология. - 2019. - Т. 25. - № 2. -С.26-31.
6. Бегишев И. Р., Хисамова З. И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. - 2018. - Т. 12. - № 6. - С. 767-775.
7. Афанасьев А. Ю. Искусственный интеллект или интеллект субъектов выявления, раскрытия и расследования преступлений: что победит? // Библиотека криминалиста. Научный журнал. - 2018. - № 3 (38). - С. 28-34.
8. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия «Юридические науки» - 2018. - Т. 22. - № 1. - С. 91-109.
9. Морхат П. М. Искусственный интеллект: правовой взгляд : монография. - Москва: Буки Веди, 2017. - 257 с.
10. Жуков О. Б., Щеплев П. А. Искусственный интеллект в медицине: от гибридных исследований и клинической валидизации до разработки моделей применения // Андрология и генитальная хирургия. - 2019. - № 20 (3). - С. 13-17.
References
1. Hallevy Gabriel. When Robots Kill: Artificial Intelligence Under Criminal Law. - Boston: Northeastern University Press, 2013.
2. Arkhipov V. V., Naumov V. B. O nekotorykh voprosakh teoreticheskikh osnovaniy razvitiya zakonodatel'stva o robototekhnike: aspekty voli i pravosub»yektnosti // Zakon. - 2017. - № 5. - S. 157-170.
3. Kolesnichenko O. Yu., Kolesnichenko Yu. Yu., LitvakN. D. Iskusstvennyy intellekt v zdravookhranenii: sistemnyye problemy // Remedium. Zhurnal o rossiyskom rynke lekarstv i meditsinskoy tekhniki. - 2018. -№ 4. - S. 24-30.
4. Titkov V. S. Pravovoye regulirovaniye i perspektivy razvitiya iskusstvennogo intellekta v sfere meditsiny // Pravo i biznes: pravovoye prostranstvo dlya razvitiya biznesa v Rossii: monografiya. - V 4-kh tomakh / otv. red. S. D. Mogilevskiy i dr. - Moskva: Prospekt, 2020. - S. 355-361.
5. Borisov D. N., Kushnirchuk I. I., Sevryukov V. V., Kovalenko Ye. I. Ispol'zovaniye iskusstvennogo intellekta v klinicheskoy praktike // Klinicheskaya patofiztologiya. - 2019. - T. 25. - № 2. - S. 26-31.
6. Begishev I. R., Khisamova Z. I. Kriminologicheskiye riski primeneniya iskusstvennogo intellekta // Vserossiyskiy kriminologicheskiy zhurnal. - 2018. - T. 12. - № 6. - S. 767-775.
7. Afanas'yev A. Yu. Iskusstvennyy intellekt ili intellekt sub»yektov vyyavleniya, raskrytiya i rassledovaniya prestupleniy: chto pobedit? // Biblioteka kriminalista. Nauchnyy zhurnal. - 2018. - № 3 (38).
- S. 28-34.
8. Ponkin I. V., Red'kina A. I. Iskusstvennyy intellekt s tochki zreniya prava // Vestnik RUDN. Seriya «Yuridicheskiye nauki» - 2018. - T. 22. - № 1. - S. 91-109.
9. Morkhat P. M. Iskusstvennyy intellekt: pravovoy vzglyad : monografiya. - Moskva: Buki Vedi, 2017.
- 257 s.
10. Zhukov O. B., Shcheplev P. A. Iskusstvennyy intellekt v meditsine: ot gibridnykh issledovaniy i klinicheskoy validizatsii do razrabotki modeley primeneniya // Andrologiya i genital'naya khirurgiya. -2019. - № 20 (3). - S. 13-17.
Статья поступила в редакцию 30.09.2020 г.
