CC BY
15
НЕКОТОРЫЕ ЭТИЧЕСКИЕ АСПЕКТЫ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО
ИНТЕЛЛЕКТА В МЕДИЦИНЕ
О.А. Филимонов, канд. мед. наук, преподаватель Ю.С. Ладыкин, студент
ГБПОУ Краснодарский краевой базовый медицинский колледж министерства здравоохранения Краснодарского края (Россия, г. Краснодар)
DOI:10.24412/2500-1000-2024-6-4-116-122
Аннотация. В статье рассматриваются этические аспекты применения искусственного интеллекта в медицине. Представлены определение искусственного интеллекта, идейные и технологические предпосылки его создания, анализируется концепция «сильного» и «слабого» искусственного интеллекта. Характеризуются основные направления применения компьютерных технологий, представляющих искусственный разум в кардиологии, хирургии, онкологии, фармакологии, дерматологии, психиатрии, телемедицине и других отраслях медицины. Исследованы наиболее важные этические вопросы, возникающие в связи с применением компьютерного интеллекта: проблемы недоверия, ответственности, конфиденциальности медицинской информации, сохранения эмпатии в отношениях «врач - пациент». Авторы предлагают наиболее действенные способы разрешения этических трудностей.
Ключевые слова: искусственный интеллект, медицина, здравоохранение, компьютерные технологии, этика врача, биоэтика, общество.
Научно-технический прогресс в XXI веке развивается стремительно, интенсифицируется по сравнению с предыдущими эпохами в истории. Через относительно небольшие промежутки времени кратно увеличивается объем информации, производимой человечеством, в том числе массив научных знаний, создаются новые и постоянно совершенствуются прежние технологии, охватывая буквально все стороны жизни общества. В этом выражается системность или комплексный характер научно-технического прогресса. Одним из многочисленных проявлений развития современных технологий стал искусственный интеллект или искусственная когнитивная система [1].
Само понятие интеллекта (лат. т1е11ес-1;ш - восприятие, разум) давно и широко используется в философии и различных науках о человеке. Будучи частью структуры сознания человека интеллект представляет собой способность людей к мышлению, к рациональному познанию мира на основе понятий, суждений, умозаключений. Обладателем интеллекта является человек, а обладателем искусственного
интеллекта - ЭВМ, различного рода компьютерные системы, нейронные сети.
Существует много подходов к определению искусственного интеллекта, интерпретаций его сущности. Число научных публикаций, посвященных природе искусственного интеллекта и его возможностям за последние несколько лет значительно увеличилось. Это одна из самых не просто актуальных, а горячих тем для обсуждения внутри российского и международного научного сообщества. То, о чем писали фантасты А. Азимов, Р. Бредбери и С. Лем и многие другие вдруг начинает сбываться, становится частью социальной реальности. Разумеется, такой ход событий вызывает интерес, даже ажиотаж. В настоящее время чаще всего в научно-исследовательской литературе под искусственным или компьютерным интеллектом понимается система, включающая в себя различные технические средства и схожая по своему функционированию с человеческим мозгом, моделирующая рассуждения человека. Другими словами, это такой комплекс компьютерных программ, который способен решать творческие, интел-
лектуальные задачи, ранее считавшиеся исключительной прерогативой человека. Одновременно искусственный интеллект -это и раздел знания на стыке множества наук, в рамках которого решаются задачи аппаратного моделирования интеллектуальной деятельности. Идейные предпосылки для создания систем искусственного интеллекта разнообразны, их можно усмотреть еще в Античности, например, в «Логике» Аристотеля. В Новое время философы-рационалисты Лейбниц, Декарт, Спиноза исследовали основные принципы мышления [2], а современные ученые А. Ньюэлл и Г. Саймон сформулировали гипотезу о физической символьной системе, способной производить основные интеллектуальные операции. Технологической предпосылкой стало создание сначала механических, а затем и электронных вычислительных машин, компьютеров. Одним из родоначальников науки об искусственном интеллекте считается А. Тьюринг. Его работа «Вычислительные машины и разум», опубликованная еще в середине ХХ века считается основополагающей, а предложенный в ней тест (тест Тьюринга) по мнению ученого позволит определить тот момент, когда компьютер станет таким же разумным, как человек. При этом имеются две концепции так называемого «сильного» и «слабого» искусственного интеллекта. Автором концепции «сильного» искусственного интеллекта является американский философ Дж.Р. Серль, это такой искусственный или компьютерный интеллект, который, как и человек сможет учиться, самосовершенствоваться, начнет мыслить самостоятельно и творчески, будет обладать началами самосознания. Пока это утопия, на практике, то есть на данном этапе развития технологий - это невозможно реализовать, скорее это задача будущего, вероятно человечеству еще далеко до изобретения такого «сильного» искусственного интеллекта, несмотря на быстрые темпы научно-технического прогресса. Под «слабым» искусственным интеллектом понимаются различные компьютерные программы, которые, как правило, решают какую-либо конкретную задачу. Такие программы уже
существуют и успешно функционируют, например, чат-бот Chat-GPT, шахматная программа Deep Blue или нейросеть Midjourney, генерирующая изображения на основе текстовых запросов или отечественные чат-боты Яндекса или Сбера.
Параллельно начинает осмысливаться проблема искусственного интеллекта в правовом пространстве различных стран. В российском праве определение искусственного интеллекта содержится в указе Президента РФ от 10.10.2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». В данном нормативно-правовом акте искусственный или компьютерный интеллект определяется как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум, с результатами интеллектуальной деятельности человека» [3]. Указ Президента РФ утверждает Национальную стратегию развития искусственного интеллекта на период до 2030 года.
Область использования искусственного интеллекта весьма широкая. Активно применяется искусственный интеллект в медицинской практике, в системе здравоохранения. Новые технологии ориентированы на решение прикладных узкоспециальных задач, стоящих перед современной медициной, они позволяют серьёзно улучшить диагностику, лечение и профилактику многих заболеваний. Например, компьютерные программы, способные анализировать медицинские данные (результаты лабораторных исследований, истории болезней пациентов, КТ и МРТ снимки, рентгенограммы и пр.) могут распознавать опухоли или определять степень поражения легких при COVID-19, по снимкам мозга можно правильно диагностировать инсульт и т.п. Приложение DermaCompare эффективно определяет рак кожи, нейронные сети по фотографиям распознают и классифицируют кожные новообразования [4]. Искусственный интеллект востребован в кардиологии, хирургии, анестезиологии, онкологии и ра-
диологии, дерматологии, психиатрии и многих других отраслях медицины. Он может прогнозировать развитие патологии у конкретного пациента и предлагать оптимальные схемы лечения, основываясь на изучении большого массива информации: генетических данных, истории болезни, результатах клинических исследований и т.п.
Одним из наиболее перспективных направлений применения искусственного интеллекта в медицине является разработка новых лекарств. Анализируя фармакологические свойства множества химических соединений компьютерный интеллект способен многократно ускорить и удешевить процесс разработки эффективных терапевтических средств. Искусственный интеллект задействован роботизированной хирургии, позволяя безопасно проводить точные и сложные операции [5]. Малоин-вазивная хирургия с применением технологий искусственного интеллекта обеспечивает быстрое восстановление пациента, сокращает степень травмирования тканей и минимизирует риски, связанные с оперативным вмешательством. В психиатрии постепенно начинают использоваться специальные психотерапевтические чат-боты Nema, Quartet Health, Элли, их задача помочь пациенту справиться с тяжелыми психологическими состояниями, диагностировать заболевание и дать рекомендации по его лечению [6]. Врач-психотерапевт в данной ситуации выступает только в роли супервизора. Искусственный интеллект показывает хорошие результаты в классификации психиатрических расстройств. Нейросети могут помочь в лечении неврологических недугов, например, эпилепсии. Разработанная американскими учеными система Empatica позволяет осуществлять мониторинг физиологических припадков. Пациенты носят на запястье специальное устройство, которое обнаруживает возможные судороги через изменение электрического импульса кожи и передает данные медицинскому персоналу.
Телемедицина - еще одна область, где искусственный интеллект в перспективе может успешно применяться. В частности,
специализированные компьютерные программы могут помочь подобрать специалиста, дистанционно диагностировать ряд заболеваний (диабетическую ретинопатию, генетические заболевания), искусственный интеллект будет напоминать о приеме лекарств, отслеживать различные физические показатели, свидетельствующие о состоянии здоровья пациента и передавать информацию о динамике пациента лечащему врачу. Также новые технологии способны взять на себя большую часть рутинной работы, которую выполняет средний медицинский персонал, например, заполнение медицинских карт, хранение медицинской информации и пр.
В целом, использование искусственного интеллекта имеет огромный потенциал для медицины будущего [7]. Преимущества использования искусственного или компьютерного интеллекта в области медицины очевидны: высокая точность в диагностике заболеваний, предотвращающая некоторые врачебные ошибки и, как следствие, снижающая показатели смертности, экономия материальных средств и рабочего времени врача и среднего медицинского персонала. Более того, несложно предположить, что со временем, в недалеком будущем области применения искусственного интеллекта в медицине будут только расширяться, делая более доступной высококвалифицированную помощь для отдаленных от центров развития медицины территорий или регионов.
Однако использование искусственного интеллекта в медицине связано с некоторыми проблемами и ограничениями, в том числе этического характера. Новые технологические разработки становятся частью современной жизни настолько быстро, что общество подчас не успевает в полной мере осмыслить, понять и дать оценку элементам новой социальной реальности. Наиболее острыми этическими вопросами или проблемами, возникающими в связи с применением искусственного интеллекта в медицине, на наш взгляд, являются следующие: проблема недоверия со стороны медицинского персонала и пациентов по отношению к компьютерным программам, представляющим искусственный интел-
лект, проблема ответственности за поставленный искусственным интеллектом диагноз и предложенное им лечение, проблема сохранения конфиденциальности медицинской информации и, наконец, проблема сохранения «человечности», эмпатии в отношениях двух субъектов: лечащий и подлежащий, лечению. В связи с последней проблемой возникает вопрос: сможет ли искусственный интеллект уделить достаточно внимания пациенту, проявить уважение, доброе отношение, эмоциональную теплоту как это принято в традиционной модели отношений врач-пациент?
Проблема недоверия части медицинского персонала и пациентов к системам с искусственным интеллектом вызвана рядом причин. Главной из них, пожалуй, является очень непродолжительная история применения искусственного интеллекта, счет идет на всего лишь на годы. Подобные технологии начали активно применяться только в последние десять или пятнадцать лет, а в России - последние несколько лет. Научных работ, убедительно доказывающих позитивное влияние технологий искусственного интеллекта на клиническую практику пока немного. Более того, проведены научные исследования, выявившие следующую особенность: на стадии разработки и апробации компьютерные программы демонстрируют высокие показатели точности, а при эксплуатации в реальных условиях точность снижается, возрастает вероятность ошибок. Это связано с тем, что были использованы неполные или некачественные данные при разработке алгоритмов работы искусственного интеллекта, изменилась окружающая действительность: появились новые лекарственные средства или оборудование, произошли изменения в развитии заболеваний и прочее. Частично недоверие может быть вызвано осознанием проблемы так называемого «черного ящика»: компьютерная программа может дать верный и точный ответ, например, при диагностике того или иного заболевания, но при этом врач не понимает, как система пришла к определённому выводу, не очевиден ход рассуждений, процесс генерирования результата медицинского обследования закрыт для
пользователя [8]. Непонимание порождает недоверие, а иногда и отказ от использования систем искусственного интеллекта. Консервативное сознание части представителей медицинского сообщества продуцирует различного рода страхи перед искусственным интеллектом или негативные стереотипы его восприятия. В частности, врачи могут высказывать опасения по поводу того, что системы искусственного интеллекта внедряются, чтобы следить за работой врача и передавать полученные сведения в вышестоящие надзорные инстанции или некоторые могут думать, что широкое применение таких систем позволит со временем заменить «настоящего» врача [9]. Решение проблемы связано с созданием надежных, управляемых, прозрачных систем с искусственным интеллектом. Все компьютерные программы, представляющие искусственный интеллект должны на каждом этапе их функционирования контролироваться специалистами, а результаты их работы должны пониматься и отслеживаться людьми. Они должны быть максимально защищены от взлома и атак со стороны. Постоянный технический прогресс в данной области, появление безопасных систем искусственного интеллекта нового поколения с одной стороны, и постепенное расширение сфер применения таких систем, углубление успешного опыта взаимодействия с такими системами в клинической практике, просветительская и образовательная деятельность в медицинской среде с другой, способны изменить полярность отношения от отрицательного к положительному, побороть недоверие и опасения.
Серьезной проблемой, имеющей этическое измерение, является проблема ответственности в тех ситуациях, где искусственный интеллект используется для сбора анамнеза, диагностирования заболевания, выбора курса лечения, определения списка рекомендованных для назначения лекарственных средств. Современные компьютерные программы не могут во всех случаях генерировать гарантированно правильную информацию. Следовательно, всегда существует вероятность, что неверные сведения, предложенные врачу систе-
мой искусственного интеллекта и использованные им в работе, могут привести в врачебной ошибке, тем самым состоянию здоровья пациента может быть нанесен вред. Кто будет нести ответственность, если диагноз поставлен ошибочно или методика лечения выбрана неправильно? Врач или искусственный интеллект? Ответственность полностью должна ложится на плечи медицинского работника, поскольку на данном этапе развития технического прогресса искусственный интеллект всего лишь высокотехнологичный инструмент в его руках. Окончательное решение принимает специалист. Необходимо понимать, что между нравственными категориями ответственности и свободы прямая зависимость: чем больше свободы - тем больше ответственности. Медицинский работник, реализуя сознательный выбор, должен заранее представлять социальную ценность своих поступков и предвидеть их последствия. Ответ на поставленные выше вопросы очевиден и этическая проблема ответственности, на первый взгляд, не представляется сложной. Однако, прогнозы футурологов сходятся в том, что человечество ожидает дальнейшее развитие компьютерных программ, некоторая автономизация искусственного интеллекта или даже в некоторых отдельных случаях замещение фигуры врача искусственным разумом. Логично предположить, что такой исход событий возможно приведет к тому, что ответственность будет перелагаться на программистов-разработчиков или субъекта, решившего воспользоваться такой программой самостоятельно. Эффективными мерами будут: во-первых, создание специальных комиссий или комитетов, состоящих из разных специалистов, в том числе в области этики для оценки и контроля качества программных продуктов, представляющих искусственный интеллект, во-вторых, введение государственных стандартов для использования искусственного интеллекта в здравоохранении.
Для эффективной диагностики и лечения заболеваний компьютерные программы должны собирать и анализировать большое количество эмпирических дан-
ных, статистики. Персональные данные пациентов преобразуются в этом случае обезличенную информацию. Но если система недостаточно совершенная, то существует риск утери конфиденциальной информации, что, соответственно, приведет к нарушению одного из столпов медицинской этики - врачебной тайны. Отношения врача и обследуемого традиционно носят доверительный характер, то есть пациент обычно раскрывает врачу личную информацию, необходимую для определения диагноза и последующего лечения, и рассчитывает на уважение к его частной жизни и на то, что эта информация не будет передана кому-либо еще. Но как изменится ситуация с появлением третьего лица - искусственного интеллекта? Сохранят ли такие отношения свою прежнюю доверительность? Нарушение конфиденциальности, с одной стороны, может привести к тому, что недобросовестные компании, заполучившие личные данные, смогут воспользоваться ими в коммерческих целях, а, с другой стороны, может привести утрате доверия пациентов и судебным искам к медицинским учреждениям. На сегодняшний день существуют некоторые опасения по поводу безопасности применения систем искусственного интеллекта [10]. Решение проблемы заключается прежде всего в выполнении ряда технических задач, во-первых, в ограничении круга лиц, имеющих доступ к медицинским данным и, во-вторых, в надежной анони-мизации и шифровании данных.
Еще один важный вопрос, связанный с появлением искусственного интеллекта в медицине и требующий всестороннего анализа с позиций общественной нравственности, заключается в том, что деятельность врача, медицинской сестры традиционно соотносится в сознании большинства людей с гуманностью, человеколюбием, чуткостью. Медик стремится помочь другому человеку в самые сложные моменты его жизни, когда он испытывает боль физическую и душевную. В период болезни психологическое состояние человека меняется, усиливаются тревожность, страх, переживания относительно будущего. Немощность, зависимость от помощи
других людей могут вызывать различного рода депрессивные состояния. В этой ситуации медицинскому работнику нужно быть не только высококомпетентным специалистом, знающим свое дело, но и нравственным человеком, уметь проявлять эм-патию, милосердие. Безразличие, отсутствие сопереживания, эмоциональная холодность ассоциирующиеся в сознании людей с компьютерными программами могут оттолкнуть пациента, поколебать его веру в выздоровление, нанести вред его состоянию. Поэтому важно сохранять баланс между цифровизацией и компьютеризацией медицины и врачом как носителем нравственных качеств, чтобы сохранить гуманизм медицинской помощи. В связи с этим возникает тема границ применения искусственного интеллекта, порождающая следующие вопросы. Куда будет допущен компьютерный интеллект? Сможет ли он со временем полностью заменить врача? Эти вопросы обращены далеко в будущее, потому что на данном этапе уровень развития технологий искусственного интеллекта весьма скромный, они только начинают применятся в здравоохранении. Даже если предположить, что со временем будет создан «сильный» искусственный интеллект, технологии революционным образом усовершенствуются, то все равно исключить врача из процесса оказания медицинской помощи будет невозможно. Медицинский работник сохранит свои позиции как своего рода надзорная инстанция, эксперт с правом решающего голоса, супервизор, субъект, способный к эмпатии и хранитель нравственных основ медицины.
В заключении отметим, что несмотря на широкое применение в медицине искусственный интеллект на данном этапе свое-
го развития функционально ограничен, выполняет частные задачи. Он выступает в роли помощника или консультанта врача. Искусственный интеллект действует не самостоятельно, а под полным контролем сообщества медиков, являясь, по сути, пока только как высокотехнологичным средством, которое может применяться врачами для решения узкоспециальных задач. Однако появление более мощных компьютерных технологий и их дальнейшее использование в медицинской практике потребует от профессионального сообщества глубокого осмысления с позиций этических норм и принципов роли искусственного интеллекта как особой третьей стороны во взаимоотношениях между врачом и пациентом. Возможно, потребуется создание специального этического кодекса, четко регулирующего применение искусственного разума в медицине, подобного законам робототехники А. Азимова или внесение существенных дополнений в уже сложившиеся правила традиционной врачебной этики. Другими словами, если сейчас применение искусственного интеллекта при решении прикладных, в том числе медицинских задач ограничено в основном уровнем развития технологии, то в дальнейшем, когда научно-технический прогресс выйдет на новый виток таким ограничителем для искусственного интеллекта, могут стать трудные вопросы этического или аксиологического характера. Их своевременное и полное разрешение - актуальная задача ближайшего будущего для сообщества ученых, философов, профессионалов, представляющих различные сферы деятельности. Очевидно, одно - искусственный интеллект не должен нести угрозу или вред человечеству, а должен быть использован только во благо людям.
Библиографический список
1. Писаренко М.С. К вопросу об искусственном интеллекте и его сущности / М.С. Писаренко // Вопросы российской юстиции. - 2020. - № 10. - С. 44-54.
2. Миндигулова А.А. Феномен искусственного интеллекта: история возникновения и развития / А.А. Миндигулова // Социология. - 2023. - №5. - С. 239-244.
3. О развитии искусственного интеллекта в Российской Федерации: указ Президента РФ от 10 октября 2019 г. №490 // Собрание законодательства Российской Федерации. -2019. - №41, ст. 5700
4. Фершт В.М. Современные подходы к использованию искусственного интеллекта в медицине / В.М. Фершт, А.П. Латкин, В.Н. Иванова // Территория новых возможностей. Вестник ВГУЭС. - 2020. - № 1. - С. 121-130.
5. Хусанов У.А. Искусственный интеллект в медицине / У.А. Хусанов, М.Б. Кудратиллаев, Б.Н. Сиддиков, С.В. Довлетова // Science and Education. - 2023. - Т. 4. - № 5. - С. 772-782.
6. Алексеева М.Г. Искусственный интеллект в медицине / М.Г. Алексеева, А.И. Зубов, М.Ю. Новиков // Международный научно-исследовательский журнал. - 2022. - №7 (121).
7. Броян О.Г. Биоэтические проблемы, вызванные внедрением искусственного интеллекта в сферу медицины / О.Г. Броян, К.А. Дружинин, А.Р. Курашенко [и др.] // Молодой ученый. - 2024. - № 25 (524).
8. Гусев А.В. Этические проблемы развития технологий искусственного интеллекта в медицине / А.В. Гусев, Д.Е. Шарова // Общественное здоровье. - 2023. - Т. 3. - № 1. -С. 42-50.
9. Куцин И.Ю. Искусственный интеллект в медицине: Ожидание и вызовы (Философский и социокультурные аспекты) / И.Ю. Куцин, К.С. Беленок, Д.Д. Глущук // Научный вестник Омского государственного медицинского университета. - 2023. - Т. 3. - № 3 (3). -С. 158-168.
10. Потекаев Н.Н. Искусственный интеллект в медицине общие положения. Философские аспекты / Н.Н. Потекаев, О.В. Доля, Н.В. Фриго, А.Я. Атабиева, Е.М. Майорова // Клиническая дерматология и венерология. - 2022. - Т. 21. - №6.
SOME ETHICAL ASPECTS OF THE USE OF ARTIFICIAL INTELLIGENCE
IN MEDICINE
O.A. Filimonov, Candidate of Medical Sciences, Lecturer Y.S. Ladykin, Student
Krasnodar Regional Basic Medical College of the Ministry of Health of the Krasnodar Territory
(Russia, Krasnodar)
Abstract. The article discusses the ethical aspects of the use of artificial intelligence in medicine. The definition of artificial intelligence, the ideological and technological prerequisites for its creation are presented, the concept of "strong" and "weak" artificial intelligence is analyzed. The main directions of application of computer technologies representing artificial intelligence in cardiology, surgery, oncology, pharmacology, dermatology, psychiatry, telemedicine and other branches of medicine are characterized. The most important ethical issues arising in connection with the use of computer intelligence are investigated: the problems of distrust, responsibility, confidentiality of medical information, preservation of empathy in the doctor-patient relationship. The authors propose the most effective ways to resolve ethical difficulties.
Keywords: artificial intelligence, medicine, healthcare, computer technology, physician ethics, bioethics, society.
