CC BY
0
DOI 10.24412/2227-7315-2024-3-118-121 УДК 004.8
О. В. Брянцева
ОСНОВНЫЕ НАПРАВЛЕНИЯ И ПРОБЛЕМЫ ВНЕДРЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В МЕДИЦИНЕ
Введение: искусственный интеллект (ИИ) — одна из новых «сквозных» информационных технологий, которая началауспешно применяться в различных сферах жизни человека и областях экономики, в том числе и в медицине. Однако внедрение искусственного интеллекта, как и любой другой новой технологии, вызывает много вопросов не только технологического характера, но и правового, этического. Цель — показать необходимость внедрения ИИ в медицине и обозначить возникающие при этом проблемы и трудности. Методологическая основа: сравнительно-правовой анализ использования технологий ИИ. Результаты: представлен сравнительный анализ понятий ИИ, закрепленных в Национальной стратегии развития искусственного интеллекта на период до 2030 года и ее новой редакции. Обозначены основные направления использования ИИ в медицине. Показаны трудности и проблемы внедрения ИИ в медицине как технологического, так и правового, и этического характера. Выводы: использование технологий искусственного интеллекта в медицине имеет большие перспективы, что очень важно, как для развития всего общества, так и жизни отдельного человека, но только при комплексном решении вопросов правового и этического характера.
Ключевые слова: Стратегия, медицина, информационные технологии, искусственный интеллект, проблемы внедрения, перспективы использования.
O.V. Bryantseva
MAIN DIRECTIONS AND PROBLEMS OF IMPLEMENTATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN MEDICINE
Background: artificial intelligence (AI) is one of the new "end-to-end" information technologies, which has begun to be successfully applied in various spheres ofhuman life and economic areas, including medicine. However, the introduction ofartificial intelligence, like any other new technology, raises many questions not only of technological nature, but also of legal and ethical nature. Objective — to show the necessity of AI implementation in medicine and to outline the problems and difficulties arising in this process. Methodology: comparative legal analysis of the use of AI technologies. Results: a comparative analysis of AI concepts enshrined in the National Strategy for the Development ofArtificial Intelligence for the period until 2030 and its new edition is presented. The main directions of AI use in medicine are outlined. Difficulties and problems of AI implementation in medicine of both technological, legal and ethical nature are shown. Conclusions: the use ofartificial intelligence technologies in medicine has great prospects, which is very important both for the development of the whole society and for the life of an individual, but only if the legal and ethical issues are comprehensively settled.
Keywords: strategy, medicine, information technology, artificial intelligence, problems of implementation, prospects of use.
© Брянцева Ольга Владимировна, 2024
Кандидат физико-математических наук, доцент, доцент кафедры информационного права и цифровых технологий, почетный работник высшего профессионального образования Российской Федерации (Саратовская государственная юридическая академия); e-mail: obryanceva@yandex.ru © Bryantseva Olga Vladimirovna, 2024
Candidate of Physical and Mathematical Sciences, Associate Professor, Associate Professor at the Department of Information Law and Digital Technologies, Honorary Worker of Higher Professional Education of the Russian 118 Federation (Saratov State Law Academy)
Искусственный интеллект (ИИ) — одна из самых популярных и обсуждаемых сегодня технологий [1]. В рамках национальной программы «Цифровая экономика Российской Федерации» эта «сквозная технология» выделена в отдельный проект, в отдельное направление1. Популярность связана с технологическим прорывом в этом направлении, с самим понятием «искусственный интеллект», которое все еще связано с образами из фантастических фильмов и книг, а также с внедрением этой технологии в нашу жизнь и в различные отрасли экономики, в частности в медицину, со всеми возникающими проблемами, как этического, так и правового характера [2].
В октябре 2019 г. Указом Президента РФ была утверждена Национальная стратегии развития искусственного интеллекта на период до 2030 года (далее — Стратегия), а 15 февраля 2024 г. в этот Указ и в Стратегию были внесены изменения2. Немного изменилось и само понятие ИИ: «искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений»3. Из определения было исключено слово «самообучение», а выражение «как минимум сопоставимы с результатами деятельности человека» подверглось переосмыслению и изложению в новой редакции, основная мысль которой заключается в том, что результаты деятельности ИИ должны быть сопоставимы с результатами деятельности человека или превосходить их. Это связано, очевидно, с тем, что при самообучении, в созданных и сгенерированных ИИ данных накапливаются ошибки, искажающие реальность4. В новой Стратегии ИИ обозначен как важнейшая технология во всех областях жизни общества, в частности в медицине, поскольку может повысить доступность и качество медицинской помощи. Одним из значимых результатов использования ИИ к концу 2023 г., указанных в Стратегии, является использование ИИ для заполнения голосом медицинских документов, что существенно экономит время врача, которое он может потратить на пациента.
О важности внедрения ИИ в медицину говорит и тот факт, что в число шести исследовательских центров, которые получат господдержку на развитие технологий ИИ, вошел НМИЦ онкологии им. Н.Н. Блохина5. Искусственный интеллект
1 См.: Цифровая экономика РФ. URL: https://digital.gov.ru/ru/activity/directions/858/ (дата i обращения: 28.02.2024). №
2 См.: Указ Президента РФ от 15 февраля 2024 г. № 124 «О внесении изменений в Указ Пре- ( зидента Российской Федерации от 10 октября 2019 г. № 490 "О развитии искусственного интел- 8 лекта в Российской Федерации" и в Национальную стратегию, утвержденную этим Указом» // ) Официальный интернет-портале правовой информации. URL: http://publication.pravo.gov.ru/ 2 document/0001202402150063 (дата обращения: 28.02.2024). 4
3 См.: Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (в ред. от 15 февраля 2024 г.). URL: http://www.kremlin.ru/acts/ bank/44731 (дата обращения: 28.02.2024).
4 См.: Коллапс ИИ: чем грозит самообучение на искусственных данных. URL: https://trends.rbc. ru/trends/industry/648b13b39a794753f2305d5b (дата обращения: 28.02.2024).
5 См.: Национальный портал в сфере искусственного интеллекта. URL: https://ai.gov.ru/ (дата обращения: 28.02.2024). 119
МЕДИЦИНСКОЕ ПРАВО
в медицине может использоваться в разных направлениях и для решения самых разнообразных задач [3]. Обозначим некоторые из них:
количество медицинских данных увеличивается экспоненциально. Без помощи новых технологий уже не обойтись;
в такой огромной стране, как Россия, очень важно развивать телемедицину, создавать так называемые облачные клиники. Иногда жизненно необходимо взаимодействие врача и пациента в режиме онлайн;
неоценимую помощь системы ИИ могут оказать в поддержке принятия решений по диагностике заболевания, выработке алгоритма лечения, в прогнозе развития медицинской ситуации;
расшифровка большого объема различных биометрических данных и изображений — это тоже задача для ИИ;
в процессе разработки новых лекарственных препаратов и их тестирования создается огромная база статистических данных, которую необходимо обработать, классифицировать по различным параметрам;
сканирование, анализ и обработка различных материалов из публикаций, новостей, научной литературы и прочее для прогнозирования эпидемий, разработки вакцин, управления экологической безопасностью, для офисного администрирования.
Тем не менее, как и у любой новой технологии, есть не мало проблем внедрения ИИ в медицину [4]. Поскольку технологии ИИ оказывают влияние на результат лечения, то должны проводиться жесткие клинические испытания роботизированных изделий на основе ИИ и их сертификация, а также определены гра-° ницы их применения. Медицинские данные, на которых обучается ИИ, — это « медицинские карты пациентов, которые не всегда полные, могут содержать ™ специфические термины, как правило, не содержат информации о привычках ? и поведении пациента, поэтому и результаты, выдаваемые ИИ, не всегда могут | быть корректными. Более того, персональные данные для обучения обезличены, Ц теряется связь с другими лечебными учреждениями. В связи с этим непонятно,
0 как ИИ принимает решение. При применении искусственного интеллекта всегда | остается опасность постановки неправильного диагноза и выбора неэффектив-
1 ного лечения, ведь технологии ИИ, по сути, работают по принципу «черного >1 ящика», и при ошибке в алгоритме понять, почему это произошло, невозможно. | При использовании изделий с ИИ ответственность врачей за последствия ре-I шения, принятого системой, никак не регламентирована и полностью лежит | на медицинских работниках.
>1 Еще одна проблема — обучение и получение необходимых компетенций для
| работы с искусственным интеллектом. Для внедрения ИИ необходима слаженная Л работа высококлассных специалистов различных областей знаний. Как правило, ц массивы данных обрабатываются вне медучреждения, так как нужны большие § вычислительные мощности, а это угроза безопасности вывозимых данных. Ис-
со
пользуемые данные, как отмечалось ранее, обезличены, но даже это в некоторых случаях не спасает от их раскрытия.
Таким образом, для регулирования искусственного интеллекта актуально создание экспериментальных правовых режимов. Как для развития технологий искусственного интеллекта, так и для обеспечения защиты интересов граждан 120 и их персональных данных нужна комплексная оптимальная система регули-
рования общественных отношений и разработка соответствующих этических норм. При недостаточном правовом регулировании возможны нарушения прав и интересов граждан, при избыточном — замедление темпов развития и внедрения технологий искусственного интеллекта.
Какие можно увидеть перспективы использования современных цифровых технологий в медицине? В самых обычных больницах будут использоваться 3D-принтеры для печати человеческих органов. Для доставки питательных и лекарственных веществ в клетки человека будут использоваться наноробо-ты. Они же могут использоваться для сканирования различных органов. Это не фантастика, ведь технологии развиваются настолько стремительно и все, что раньше казалось невероятным, сейчас стало нормой.
Резюмируя сказанное, отметим, что использование ИИ в медицине обладает большими перспективами, но требуется комплексное решение различных вопросов не только в сфере медицины и цифровых технологий, но и вопросов правового, этического и организационного характера.
Библиографический список
1. Брянцев И.И., Брянцева О.В. Правовые и технологические аспекты «национальных» черт искусственного интеллекта // Право и бизнес: правовое пространство для развития бизнеса в России: в 4 т. / отв. ред. С.Д. Могилевский, Ю.Г. Лескова, С.А. Карелина, В.Д. Рузанова, О.В. Шмалий, О.А. Золотова, О.В. Сушкова. М.: Проспект, 2020. Т. 3. C. 88-95.
2. Брянцева О.В. Этические и правовые аспекты искусственного интеллекта // Информационные технологии в гуманитарных и общественных исследованиях: сб. ст. по матер. Всерос. круглого стола с междунар. участием в рамках Сарат. междунар. юрид. форума, посвящ. 90-летию Сарат. гос. юрид. акад. (Саратов, 7 июня 2021 г.). Саратов: Изд-во Сарат. H гос. юрид. акад., 2021. С. 15-17. СС
3. Васюта Е.А., Подольская Т.В. Проблемы и перспективы внедрения искусственного а интеллекта в медицине // Государственное и муниципальное управление. Ученые за- С писки. 2022. № 1. С. 25-32. |
4. Брянцева О.В. Проблемы использования искусственного интеллекта в медицине // J Эффективный менеджмент здравоохранения: стратегии инноваций: сб. тр. II Междунар. р науч.-практ. конф. (г. Саратов, 23-24 сентября 2021 г.). Саратов: Изд-во Сарат. гос. мед. ¡ ун-та им. В.И. Разумовского, 2021. С. 50-53. О
s <
5
Т5
References J
s
1. Bryantsev I.I., Bryantseva O. V. Legal and Technological Aspects of the «National» Features к of Artificial Intelligence// Law and Business: the Legal Space for Business Development in S <
а
Russia: in 4 vol. / ed. S.D. Mogilevsky, Yu.G. Leskova, S.A. Karelina, V.D. Ruzanova, O.V. Shmali, J O.A. Zolotova, O. V. Sushkova. M.: Prospekt, 2020. Vol. 3. C. 88-95. ¡
2. Bryantseva O. V. Ethical and Legal Aspects of Artificial Intelligence // Information Tech- • nologies in Humanities and Social Studies : a collection of articles based on the materials of the S All-Russian round table with international participation within the framework of the Saratov 8 International Legal Forum dedicated to the 90th anniversary of the Saratov State Law Academy, 22 Saratov, June 7, 2021. Saratov: Saratov State Law Academy, 2021. Р. 15-17. 4
3. VasyutaE.A., Podolskaya T.V. Problems and Prospects of the Introduction of Artificial Intelligence in Medicine // State and Municipal Administration. Scientific notes. 2022. No. 1. Р. 25-32.
4. Bryantseva O. V. Problems of Using Artificial Intelligence in Medicine // Effective Healthcare Management: Innovation Strategies: Proceedings of the II International Scientific and Practical Conference, Saratov, September 23-24, 2021. Saratov: Publishing House Saratov State Medical University named after V.I. Razumovsky, 2021. Р. 50-53. 121
