Научная статья на тему 'ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗДРАВООХРАНЕНИИ: НОВАЯ ВЕХА В РАЗВИТИИ БИОПРАВА'

ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗДРАВООХРАНЕНИИ: НОВАЯ ВЕХА В РАЗВИТИИ БИОПРАВА Текст научной статьи по специальности «Прочие медицинские науки»

CC BY
44
9
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
информационное право / искусственный интеллект / защита персональных данных / биоправо / information technology law / artificial intelligence / personal data protection / medical law

Аннотация научной статьи по прочим медицинским наукам, автор научной работы — Иванова Ангелина Петровна

В связи со стремительным развитием технологий применение искусственного интеллекта в самых важных сферах человеческой жизни, включая медицину, стало реальностью. Вместе с тем искусственный интеллект, являющийся одной из ключевых прорывных технологий XXI в., несёт в себе не только существенные преимущества для человечества, но и серьёзные риски. В статье исследуются основные способы использования искусственного интеллекта в области здравоохранения, анализируются проблемы, связанные с его применением, а также выделяются основные пути развития правового регулирования этой технологии в контексте биоправа.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

The use of artificial intelligence in healthcare: a new milestone in the development of medical law

Due to the rapid technological development, the use of artificial intelligence in the most important areas of human life, including medicine, has become a reality. At the same time, artificial intelligence, which is one of the key disruptive technologies of the 21st century, carries not only significant advantages for humanity, but also serious risks. The article examines the main ways of using artificial intelligence in healthcare, analyzes the problems associated with its application, and highlights the main ways of developing legal regulation of this technology in the context of medical law.

Текст научной работы на тему «ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗДРАВООХРАНЕНИИ: НОВАЯ ВЕХА В РАЗВИТИИ БИОПРАВА»

УДК 349, 34.04 DOI: 10.31249 /iajpravo/2024.02.10

ИВАНОВА А.П.1 ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗДРАВООХРАНЕНИИ: НОВАЯ ВЕХА В РАЗВИТИИ БИОПРАВА

Аннотация. В связи со стремительным развитием технологий применение искусственного интеллекта в самых важных сферах человеческой жизни, включая медицину, стало реальностью. Вместе с тем искусственный интеллект, являющийся одной из ключевых прорывных технологий XXI в., несёт в себе не только существенные преимущества для человечества, но и серьёзные риски. В статье исследуются основные способы использования искусственного интеллекта в области здравоохранения, анализируются проблемы, связанные с его применением, а также выделяются основные пути развития правового регулирования этой технологии в контексте биоправа.

Ключевые слова: информационное право; искусственный интеллект; защита персональных данных; биоправо.

IVANOVA A.P. The use of artificial intelligence in healthcare: a new milestone in the development of medical law

Abstract. Due to the rapid technological development, the use of artificial intelligence in the most important areas of human life, including medicine, has become a reality. At the same time, artificial intelligence, which is one of the key disruptive technologies of the 21st century, carries not only significant advantages for humanity, but also serious risks. The article examines the main ways of using artificial intelligence in healthcare, analyzes the problems associated with its ap-

1 Иванова Ангелина Петровна, младший научный сотрудник отдела правоведения ИНИОН РАН.

126

plication, and highlights the main ways of developing legal regulation of this technology in the context of medical law.

Keywords: information technology law; artificial intelligence; personal data protection; medical law.

Для цитирования: Иванова А.П. Применение искусственного интеллекта в здравоохранении: новая веха в развитии биоправа // Социальные и гуманитарные науки. Отечественная и зарубежная литература : ИАЖ. Сер. 4: Государство и право. - 2024. - № 2. - C. 126-139. -DOI: 10.31249 /iajpravo/2024.02.10

Введение

Искусственный интеллект (ИИ) в области здравоохранения стремительно развивается. Регулярно появляются исследовательские работы, в которых представлены инновационные алгоритмы, компании выпускают совершенно новые продукты и обновляют существующие технологии.

Вместе с тем расширение применения ИИ в здравоохранении ставит новые вопросы для их правового регулирования и порождает необходимость развития биоправа - новой, интенсивно формирующейся отрасли права1.

Применение искусственного интеллекта в здравоохранении - больше возможностей и меньше издержек. Алгоритмы ИИ могут обрабатывать данные и принимать решения за значительно меньший промежуток времени по сравнению с человеком. Это сделало их более экономически эффективными и поспособствовало более широкому внедрению за последние годы2. Дж. Верма, эксперт по медицинским технологиям, прогнозирует, что ИИ существенно упростит рабочие процессы и снизит эксплуатационные расходы, поскольку большинство затрат в области здравоохранения

1 См.: Умнова-Конюхова И.А., Алешкова И.А. Биоправо как отрасль права нового поколения // Вестник Томского гос. ун-та. Право. - 2021. - № 41. - C. 113.

2 См.: Shen N. AI Regulation in Health Care: How Washington State Can Conquer the New Territory of AI Regulation // Seattle Journal of Technology, Environmental & Innovation Law. -2023. - Vol. 13, N 1. - P. 9.

127

связано с ручным трудом, который будет автоматизирован с помощью алгоритмов ИИ1.

Многие надеются, что новая технология преобразит системы здравоохранения, улучшив клинические результаты, эффективность, безопасность и качество медицинских услуг, а также упростив доступ к ним (например, сократив время ожидания, повысив скорость постановки диагнозов и позволив оказывать узкоспециализированную помощь, такую как роботизированная хирургия, в отдаленных местностях и сельских районах)2.

Искусственный интеллект в здравоохранении - это инновационный подход, который поможет неблагополучным слоям населения получить доступ к медицинской помощи. В подобных социальных группах часто не хватает работников с надлежащей подготовкой и квалификацией, а также технологий для оказания качественной медицинской помощи. Указанное означает, что такие люди подвергаются более высокому риску остаться без лечения и умереть.

Искусственный интеллект может смягчить последствия отсутствия доступа к медицинскому обслуживанию с помощью телемедицинских технологий. Так, подчёркивает доцент кафедры гражданского права и международного частного права Волгоградского государственного университета И.В. Балтутите, новое поколение возможностей ИИ сделает реальным интегрирование больших объемов данных в системы. Например, они могут помочь ежедневно отслеживать уровень артериального давления и содержания сахара в крови. Все эти возможности особенно полезны для пациентов, проживающих в сельской местности, где дорога до больницы для личного приема занимает большое количество вре-

3

мени .

1 Цит. по: Shen N. AI Regulation in Health Care: How Washington State Can Conquer the New Territory of AI Regulation // Seattle Journal of Technology, Environmental & Innovation Law. -2023. - Vol. 13, N 1. - P. 9.

2 См.: Henderson В., Flood C.M., Scassa T. Artificial Intelligence in Canadian Healthcare: Will the Law Protect us from Algorithmic Bias Resulting in Discrimination? // Canadian Journal of Law and Technology. - 2021. - Vol. 19, N 2. - P. 475.

3 См.: Балтутите И.В. Правовые проблемы использования искусственного интеллекта в сфере здравоохранения // Правовая парадигма. - 2022. - Т. 21, № 2. -С. 144.

128

Исследования показывают, что инструменты ИИ могут значительно улучшить качество медицинской помощи, используя большие данные для повышения безопасности операций. Например, комплексная система сбора данных «черный ящик операционной» предназначена для выявления отвлекающих факторов и ошибок при хирургическом вмешательстве с помощью сбора данных и анализа ИИ; в конечном итоге она должна предоставлять хирургам рекомендации в режиме реального времени, которые сведут к минимуму вероятность ошибок во время операции. Также есть надежда, что повышение эффективности благодаря новой технологии может освободить медицинских работников от рутинных задач и предоставить им «дар времени» для работы со сложными пациентами1.

Таким образом, существует множество применений ИИ в

здравоохранении, но отдельно стоит отметить диагностику заболе-

" 2 ваний и административные задачи .

Диагностика заболеваний. Диагностика заболеваний была в центре внимания ИИ с 1970-х годов; однако эта технология так и не была внедрена в клиническую практику. Сегодня же крупные технологические компании, такие как Google, сотрудничают с медицинскими организациями в проектах по созданию алгоритмов прогнозирования на основе больших данных, которые могут помочь врачам заранее определить состояния высокого риска.

Кроме того, медицинские организации используют модели «здоровья населения» для прогнозирования групп риска определенных заболеваний, которые полагаются на соответствующие данные об определенной популяции для составления эффективных прогнозов3. В то же время, неизменной проблемой подобных моделей «здоровья населения» остается недостаток всеобъемлющих релевантных данных, таких как социально-экономический статус населения, для составления сверхточных прогнозов.

1 См.: Da Silva M., Flood C.M., Herder M. Regulation of health-related artificial intelligence in medical devices: the Canadian story // UBC law review. - 2022. -Vol. 55, N 3. - P. 636.

2 См.: Shen N. Op. cit. - P. 1.

3 См.: Ibid. - P. 2.

129

На сегодняшний день продукты с ИИ обещают распознавать и диагностировать рак кожи, выявлять заболевания глаз, находить камни в почках, локализовать кровоизлияния в мозг и быстро обнаруживать С0УГО-19, помимо многих других возможностей. Эти технологии, вероятно, изменят практику в области здравоохранения, расширив возможности медицинских организаций во многих направлениях. Однако это не единственные продукты ИИ, способные преобразовать медицину.

Административные задачи. Инновации, упрощающие решение административных задач, на первый взгляд кажутся никак не связанными с областью медицины, однако они также обладают потенциалом по-разному трансформировать здравоохранение.

Ярким примером применения таких инноваций является программное обеспечение для планирования на базе ИИ, которое прогнозирует поток пациентов в системе здравоохранения и распределяет персонал таким образом, чтобы наиболее эффективно удовлетворять потребности этих пациентов. Такие продукты непосредственно не диагностируют заболевания и не лечат людей, но они могли бы увеличить пропускную способность системы здравоохранения и тем самым спасти жизни.

Другие примеры использования ИИ также улучшают качество медицинской помощи, предсказывая вероятность того, что человек будет повторно госпитализирован в течение месяца (чтобы медицинские работники могли работать с такими пациентами для предотвращения этого нежелательного исхода) или выявляя риск развития у человека сепсиса (чтобы медицинские работники могли оказать помощь на ранней стадии). Эти функции чрезвычайно ценны для системы здравоохранения, и все они станут эффективнее с помощью ИИ1.

«Оборотная» сторона медали - риски, которые влечёт за собой искусственный интеллект. Несмотря на то что применение ИИ существенно повышает возможности человека в области здравоохранения и позволяет упростить процессы диагностики заболеваний и решения административных задач, использование этой технологии не обходится без рисков. Так, И. Маск утверждает, что

1 Cm.: Price II W.N., Sachs R., Eisenberg R.S. New Innovation Models in Medical AI // Washington Univ. Law Review. - 2022. - Vol. 99, N 4. - P. 1124.

130

«ИИ гораздо опаснее ядерного оружия»1, поскольку эта технология продолжает развиваться, растут и опасения по поводу возможного злоупотребления ею. Несмотря на преобразующий характер ИИ, человечество также должно признать и решить многие проблемы, связанные с ним.

Например, много вопросов вызывает отсутствие прозрачности в работе ИИ. Указанная технология опирается на мощь прогностических алгоритмов, которыми руководствуются медицинские работники при постановке диагнозов, назначении лечения и принятии иных решений. Вместе с тем конкретные механизмы, которые приводят к рекомендациям, сделанным прогностическими алгоритмами, в настоящее время не поддаются определению, ввиду чего их часто называют «черным ящиком» ИИ2. Отсутствие транспарентности в работе ИИ зачастую объясняется их «высокой размерностью и сложностью», эмерджентной природой и модификацией поведения из-за того, как они обучаются3.

Кроме того, действующие правовые нормы о деликтной ответственности могут быть недостаточными для применения в отношении медицинских ошибок, возникающих в результате решений, принятых ИИ. Стандарты оказания медицинской помощи для подобных случаев еще не сформированы, в то время как существующие стандарты не подходят для определения ответственности врача в случаях ошибок, которые произошли из-за технологии, а

4

не из-за врача .

Однако в данной статье хотелось бы обратить внимание на проблемы, связанные с опасениями по поводу нарушения ИИ прав

1 Цит. по: Shen N. Op. cit. - P. 6.

2 См.: Kamensky S. Artificial Intelligence and Technology in Health CARE: Overview and Possible Legal Implications // DePaul Journal of Health Care Law. -2020 - Vol. 21, N 3. - P. 2.

3

Цит. по: Иванова А.П. Правовые и этические проблемы использования искусственного интеллекта в сфере здравоохранения // Право, цифровые технологии и искусственный интеллект : сб. ст. / РАН ИНИОН ; отв. ред. Е.В. Алферова. -Москва, 2021. - С. 108.

4 См.: Иванова А.П. Правовые и этические проблемы использования искусственного интеллекта в сфере здравоохранения // Право, цифровые технологии и искусственный интеллект : сб. ст. / РАН ИНИОН ; отв. ред. Е.В. Алферова. - Москва, 2021. - С. 110.

131

на неприкосновенность частной жизни или возможности того, что ИИ может закрепить или создать новые необоснованные предубеждения, из-за чего исторически маргинализированные группы продолжат получать меньший или ненадлежащий медицинский уход. Реализует ли ИИ, связанный со здоровьем, свой потенциал, частично будет зависеть от того, возможно ли разработать и внедрить функциональную систему управления и нормативно-правовую базу в область его применения. Любая схема управления должна стремиться реализовать преимущества новой технологии при минимизации возможного вреда.

Дискриминация и социально-экономическое неравенство. К основным проблемам, связанным с ИИ, также можно отнести потенциальную дискриминацию и социально-экономическое неравенство. Люди создают алгоритмы, которые управляют ИИ, и у людей есть предубеждения, записываемые в эти алгоритмы.

Б. Хендерсон, сотрудник Министерства здравоохранения Канады, К.М. Флад и Т. Скасса, профессора Университета Оттавы, считают, что необходимо различать два часто взаимосвязанных вида предвзятости при использовании ИИ с двумя их подмноже-ствами1. Первый - алгоритмическая предвзятость, включающая в себя предвзятость в кодировании, вводимую, пусть и неосознанно, автором во время разработки ИИ, который впоследствии самостоятельно «учится» быть предвзятым. Второй - необъективные данные с двумя ключевыми источниками необъективности: (а) обучение на нерепрезентативных данных (т.е. данных, которые не являются должным образом репрезентативными для диапазона возможных пациентов) и (б) предвзятость, возникающая в результате того факта, что доступные данные получены из систем, которые являются необъективными с точки зрения доступа, диагностики и лечения маргинализированных групп.

Существуют опасения не только по поводу предвзятости ИИ, но и по поводу расширения социально-экономического неравенства с помощью этой технологии. ИИ перестраивает рабочую силу, разрушая определенные рабочие места, традиционно занимаемые работниками из числа социально неблагополучных слоев населения. И даже больше, как отмечает доктор юридических наук

1 См.: Henderson В., Flood C.M., Scassa T. Op. cit. - P. 480.

132

Балтийской Международной академии В.А. Жилкин, «бум технологий на основе ИИ, способность "умных" машин решать сложные задачи и анализировать документы привели к сокращению рабочих мест и дипломированных специалистов»1.

В то же время следует заметить, что ИИ способствует появлению новых рабочих мест. Однако проблема заключается в том, что профессии, которые ИИ может исключать, по сравнению с теми, которые ИИ добавляет, могут принадлежать разным демографическим группам людей. Большинство рабочих мест, которые ИИ создает, связаны с аналитикой данных и технологиями, и они статистически не принадлежат меньшинствам. Это означает, что ИИ сам по себе способствует и без того катастрофическому социально-экономическому неравенству в мире.

Защита персональных данных. Как уже отмечалось ранее, серьезной проблемой, связанной с ИИ, является конфиденциальность или, точнее, ее отсутствие. По мере развития ИИ увеличивается возможность использования личной информации способом, нарушающим неприкосновенность частной жизни2. Увеличение объема данных, собираемых ИИ, оставляет открытой дверь для злоупотребления ими. ИИ может нарушить конфиденциальность многими способами, такими как: несанкционированные использование, идентификация и отслеживание, прогнозирование и профилирование.

Старший научный сотрудник отдела ИИ и здравоохранения Университета Оттавы М. Да Силва, профессор Университета Оттавы К М. Флад, профессор Университета Далхаузи М. Гердер обращают внимание на то, что законодательство большинства современных государств, как правило, освобождают обезличенные персональные данные от строгой защиты, в то время как мощные инструменты ИИ увеличивают риски повторной идентификации отдельных лиц. В ответ на указанные вызовы правоведами были предложены различные варианты защиты персональных данных

1 См.: Жилкин В.А. Искусственный интеллект и цифровые технологии в юридической деятельности в цифровой реальности (на примере Финляндии) // Журнал зарубежного законодательства и сравнительного правоведения. - 2018. -№ 6. - С. 40.

2 Цит. по: Shen N. Op. cit. - P. 7.

133

при использовании ИИ, включая дифференциальную конфиденциальность и синтетические данные, но каждое из них не раз подвергалось резкой критике и не в полной мере решало все вопросы, связанные с безопасностью1.

Нерешенные проблемы защиты персональных данных связаны с предвзятостью алгоритмов и проблемами безопасности следующим образом: некоторые группы, маргинализированные в обществе, могут неохотно разрешать использование своих данных для поддержки разработки технологии, но ИИ, разработанный без такой информации, может быть предвзятым и допускать ошибки в диагнозах и рекомендациях по лечению. В то же время, некоторые инструменты, используемые разработчиками ИИ в попытках защитить конфиденциальность, требуют компромиссов в отношении точности, которые сами по себе могут вызвать опасения по поводу безопасности. Регулирующим органам, вероятно, также придется соблюдать необходимый баланс между этими ценностями2.

Если согласованные правовые рамки не устранят вышеупомянутые опасения по поводу алгоритмической предвзятости и конфиденциальности, это может подорвать доверие общественности к использованию ИИ в здравоохранении и создать значительную пропасть между разработкой и внедрением инноваций. Некоторые авторы называют этот разрыв «неудобной правдой» об ИИ3. Это может привести ко многим упущенным возможностям для ценных разработок в области ИИ, которые, вероятно, улучшат государственную систему здравоохранения.

Развитие правового регулирования - необходимый элемент процесса минимизации рисков применения искусственного интеллекта. Несмотря на многообещающие перспективы во внедрении более строгих правил в области ИИ, существуют также серьезные проблемы, которые необходимо преодолеть. Регулирование ИИ в здравоохранении требует от законодательных органов сбалансировать защиту пациентов и стимулирование инноваций. Увеличивая нормативные ограничения, которые должны преодолеть разработчики ИИ, законодательная власть может задушить

1 См.: Da Silva M., Flood C. M., Herder M. Op. cit. - P. 647.

2 См.: Ibid. - P. 648.

3 Цит. по: Ibid. - P. 648.

134

инновации из-за того, что разработчикам необходимо заморозить свой производственный процесс, чтобы получить лицензии и разрешения от уполномоченных органов. Эти увеличивающиеся ограничения могут стоить создателям инновационных технологий больших денег и времени, которых у них часто нет.

И.В. Балтутите отмечает, что первым шагом в создании правовой базы, обеспечивающей такое направление цифровизации здравоохранения, как ИИ, должна стать разработка основополагающих этических принципов его использования при оказании медицинской помощи. Данный документ должен будет распространяться на лиц, ответственных за разработку и внедрение инструментов и услуг, основанных на ИИ, а также на лиц, ответственных за нормативную базу, контроль и использование таких инструментов и услуг1.

М. Да Силва, К.М. Флад и М. Гердер выделяют следующие принципы «высокого уровня», которые должны направлять реформы нормативного надзора за ИИ в сфере здравоохранения2: обеспечение независимого регулирования и контроля; строгий контроль на протяжении всего жизненного цикла продукта; широкое понимание безопасности и прозрачное установление стандартов.

Обеспечение независимого регулирования и контроля. Одна из проблем теории регулирования заключается в том, что отрасль может с высокой вероятностью «захватить» свой регулирующий орган; т.е., со временем регулятор начнёт действовать больше в интересах участников рынка, а не в интересах общества3.

М. Да Силва, К.М. Флад, М. Гердер отмечают, что текущий надзор за медицинскими устройствами, например в Канаде, слишком слаб, и «опасения усугубляются в случае медицинских устройств с ИИ, связанных со здоровьем»4. Например, если оставить на усмотрение бизнеса классификацию рисков, исходящих от использования ИИ в медицинских устройствах, и слишком сильно полагаться на их отчётность о проблемах, связанных с безопасно-

1 См.: Балтутите И.В. Указ. соч. - С. 145.

2 См.: Da Silva M., Flood C.M., Herder M. Op. cit. - P. 669.

3 См.: Da Silva M., Flood C.M., Herder M. Op. cit. - P. 670.

4 Ibid. - P. 671.

135

стью, это может позволить промышленности играть ключевую роль в установлении условий своего собственного регулирования.

Конечно, создание излишней бюрократической волокиты не помогает ни разработчикам, ни пациентам, поскольку последние заинтересованы в доступе к полезным технологиям. Однако любой режим регулирования должен разрабатываться с учетом основной цели удовлетворения потребностей пациентов, а не разработчиков.

Строгий контроль на протяжении всего жизненного цикла продукта. Для медицинских устройств, использующих ИИ, важен как предварительный (перед выходом товара на рынок), так и последующий (после выхода товара на рынок) контроль. Эти виды контроля являются необходимыми компонентами хорошо разработанной системы регулирования жизненного цикла продуктов, обращающихся на рынке медицинских товаров и услуг. Учитывая ограниченность данных, в частности об адаптивном машинном обучении, связанном со здравоохранением, обязательны оба вида контроля, чтобы обеспечить безопасность устройств, в которые эта технология встроена.

Любой баланс между регулированием и инновациями ни в коем случае не должен предполагать, что отсутствие надлежащего регулирования благоприятствует инновациям или иным образом отвечает общественным интересам. Например, программа в США, позволяющая быстрее выпускать на рынок лекарства с ограниченными доказательствами безопасности, привела к ряду проблем с безопасностью1.

Поскольку ИИ в здравоохранении находится на стадии зарождения, с точки зрения фактического внедрения в отрасль, следует придерживаться более консервативного подхода к регулированию, чтобы способствовать укреплению общественного доверия. Внедрение небезопасного ИИ в систему здравоохранения может подорвать доверие общественности к технологии, что приведет к призывам к гораздо более жесткому подходу в регулировании или остановит внедрение и использование полезных технологий.

Более широкое понимание безопасности. Основной проблемой, поднимаемой в юридической и этической литературе по ИИ в области здравоохранения, является риск предвзятости, которая

1 См.: Ба БПуа М., Иооа С.М., НеМег М. Ор. ей. - Р. 674.

136

приводит к необоснованной дискриминации. Как отмечалось ранее, если обучающие данные, на основе которых разрабатывается ИИ, недостаточно отражают все слои населения, такие необъективные данные могут формировать или усиливать процесс принятия врачебных решений (например, постановки диагноза, назначения лекарств), не учитывающих потребности всех граждан в области здравоохранения.

Учитывая важность репрезентативных данных, законодательным органам следует принять более широкую общегосударственную политику, направленную на создание инклюзивных наборов данных, возможно с выделением финансирования маргинализиро-ванным группам в партнерстве с разработчиками ИИ, чтобы гарантировать наличие таких данных.

Необходимость прозрачного установления стандартов. Расширение и переосмысление безопасности для решения основных проблем, связанных с ИИ, включая вопросы, обусловленные алгоритмической предвзятостью и защитой персональных данных, добавит неопределенности в систему. Поскольку разработчики ИИ, ученые, а также регулирующие органы работают над формированием стандартов, которым должны соответствовать медицинские изделия с ИИ при выходе на рынок, крайне важно, чтобы эти усилия отличались прозрачностью, по крайней мере по двум причинам.

Первая причина обеспечения значимой прозрачности в режиме реального времени - это укрепление доверия. Алгоритмы ИИ представляют собой «черный ящик». Процесс, используемый для разработки требований и стандартов, применимых к передовым терапевтическим продуктам, в том числе к адаптивному машинному обучению, должен быть полностью открыт для общественного контроля. И такая прозрачность не должна проявляться только постфактум, например путем публикации итогового решения по конкретному передовому терапевтическому продукту.

Вторая причина, по которой важна прозрачность, связана с наукой или инновациями. Стандарты, которые должны определять структуру клинических исследований с использованием ИИ, включая способы обеспечения того, чтобы ИИ приводил к практически значимым результатам, далеки от научно обоснованных, особенно в свете неоднородности вмешательств с использованием ИИ.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

137

Например, в настоящее время продукты ИИ включаются в рамки, регулирующие использование программного обеспечения в качестве медицинского изделия, в США, Канаде, Великобритании и Австралии. Роль регулирующих органов в соответствующих рамках заключается в обеспечении базового уровня безопасности и эффективности, необходимого для регистрации изделия и его последующей реализации. Однако достижение этих стандартов не гарантирует, что ИИ действительно принесет пользу пациентам, медицинским работникам или системе здравоохранения. Помимо этого, стоит признать, что регулирующие органы в настоящее время не предоставляют нормативных указаний относительно того, какие доказательства являются достаточной демонстрацией безопасности и эффективности ИИ, что приводит к опасениям за здоровье пациентов при масштабном внедрении алгоритмов1.

Эксперт по ИИ Центрального научно-исследовательского института организации и информатизации здравоохранения Минздрава России А.В. Гусев, руководитель отдела инновационных технологий Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения города Москвы Д.Е. Шарова акцентируют также внимание на разработке руководящих принципов эффективности и безопасности ИИ-технологий для этических комитетов, а также экспертов, занятых в оценке продуктов на основе ИИ в целях государственной регистрации в качестве медицинских изделий .

Заключение

За последние несколько десятилетий внедрение ИИ в общественную жизнь резко возросло, в том числе и сфере здравоохранения. ИИ используется практически во всех направлениях рабо-

1 См.: A Research Ethics Framework for the Clinical Translation of Healthcare Machine Learning / M.D. McCradden, J.A. Anderson, E.A. Stephenson, E. Drysdale, L. Erdman, A. Goldenberg, R.Z. Shaul // The American Journal of Bioethics. - 2022. -Vol. 22, N 5. - P. 9.

2 См.: Гусев А.В., Шарова Д.Е. Этические проблемы развития технологий искусственного интеллекта в здравоохранении // Общественное здоровье. - 2023. -Т. 3, № 1. - С. 49.

138

ты медицинских организаций и органов управления и надзора в сфере здравоохранения1.

Искусственный интеллект стремительно меняет систему здравоохранения. На основе методов машинного обучения и больших данных начались разработки эффективных инструментов для улучшения процесса оказания медицинской помощи и продвижения медицинских исследований2. Специалисты здравоохранения используют ИИ многими способами, в том числе в диагностике заболеваний и решении административных задач.

Однако эти преимущества сопряжены с такими рисками, как потенциальные дискриминация и усиление социально-экономического неравенства, нарушение конфиденциальности персональных данных. Искусственный интеллект в здравоохранении добился большого успеха и влияния, и для продолжения этой тенденции необходимо дальнейшее развитие биоправа и совершенствование правового регулирования, учитывающего и нивелирующего возможные риски использования данной технологии.

1 Гусев А.В., Шарова Д.Е. Этические проблемы развития технологий искусственного интеллекта в здравоохранении // Общественное здоровье. - 2023. - Т. 3, № 1. - С. 43.

2 См.: Афанасьева Е.Н. Искусственный интеллект и «большие данные» в здравоохранении, область применения и гражданско-правовое регулирование // Юридическая наука и практика. - 2020. - Т 16, № 3. - С. 41.

139

i Надоели баннеры? Вы всегда можете отключить рекламу.