CC BY
58
DOI: 10.32364/2311 -7729-2022-22-1-36-43
Перспективы использования искусственного интеллекта в диагностике и лечении заболеваний сетчатки
Е.А. Каталевская1, Д.Ю. Каталевский12, М.И. Тюриков13, И.А. Велиева4, А.В. Большунов4
1ООО «Диджитал Вижн Солюшнс», Москва, Россия 2РАНХиГС, Москва, Россия
3ФГБОУ ВО «Нижегородский государственный технический университет им. Р.Е. Алексеева», Нижний Новгород, Россия 4ФГБНУ «НИИГБ», Москва, Россия
Искусственный интеллект (ИИ) — это направление в информатике, занимающееся разработкой программ, способных имитировать отдельные функции человеческого мышления. Технологии ИИ находят применение в различных сферах медицины, в том числе в офтальмологии. Получение и анализ изображений — важнейший этап в диагностике и лечении офтальмологической патологии, в особенности патологии сетчатки. В предлагаемом обзоре литературы рассмотрены возможности использования алгоритмов ИИ в диагностике и лечении патологии сетчатки. Современные алгоритмы ИИ обучены анализировать изображения, полученные при помощи цифровых ретинальных фундус-камер, оптических когерентных томографов, ОКТ-ангиографии. Наиболее перспективным направлением, по мнению авторов, является использование алгоритмов ИИ на этапе офтальмологического скрининга пациентов с хроническими заболеваниями, в первую очередь диабетической ретинопатией, диабетическим макулярным отеком и возрастной макулярной дегенерацией, а также в процессе лечения с целью организации персонализированного подхода к ведению пациента. В настоящее время особую важность в организации здравоохранения приобретает необходимость разработки стандартов, регламентирующих применение технологий ИИ, а также стандартов, позволяющих достоверно оценивать безопасность, точность и надежность функционирования систем на основе ИИ.
Ключевые слова: искусственный интеллект, компьютерное зрение, офтальмологический скрининг, диабетическая ретинопатия, диабетический макулярный отек, возрастная макулярная дегенерация.
Для цитирования: Каталевская ЕА., Каталевский Д.Ю., Тюриков М.И. и др. Перспективы использования искусственного интеллекта в диагностике и лечении заболеваний сетчатки. Клиническая офтальмология. 2022;22(1):36—43. DOI: 10.32364/2311-
E.A. Katalevskaya1, D.Yu. Katalevskiy12, M.I. Tyurikov13, I.A. Velieva4, A.V. Bol'shunov4
1LLC "Digital Vision Solutions", Moscow, Russian Federation
2Russian Presidential Academy of National Economy and Public Administration (RANEPA), Moscow, Russian Federation
3Nizhny Novgorod State Technical University named after R.E. Alekseev, Nizhny Novgorod, Russian Federation
Scientific Research Institute of Eye Diseases, Moscow, Russian Federation
Artificial intelligence (AI) is a branch of informatics concerned with developing programs capable of imitating certain functions of the human mind. AI technologies are applied in different areas of medicine, including ophthalmology. Acquisition and analysis of images are critical for diagnosing and treating ophthalmic disorders, particularly retinal diseases. This paper reviews the use of AI algorithms for diagnosing and treating retinal disorders. Modern AI algorithms are trained to analyze images obtained by digital retinal photography, optical coherence tomography, and optical coherence tomography angiography. The most promising AI algorithms are those used for screening and treating chronic diseases (e.g., diabetic retinopathy, diabetic macular edema, age-related macular degeneration) to provide a personalized management strategy. Therefore, developing standards regulating AI technology application and standards providing a reliable evaluation of safety, accuracy, and reliability of AI-based system functioning is particularly important for healthcare.
Keywords: artificial intelligence, computer vision, ophthalmic screening, diabetic retinopathy, diabetic macular edema, age-related macular degeneration.
For citation: Katalevskaya EA., Katalevskiy D.Yu., Tyurikov M.I. et al. Future of artificial intelligence for the diagnosis and treatment of retinal diseases. Russian Journal of Clinical Ophthalmology. 2022;22(1):36-43 (in Russ.). DOI: 10.32364/2311-7729-2022-22-1-36-43.
РЕЗЮМЕ
7729-2022-22-1-36-43.
Future of artificial intelligence for the diagnosis and treatment of retinal diseases
ABSTRACT
Введение
Искусственный интеллект (ИИ) — направление в информатике, занимающееся разработкой программ, способных имитировать человеческое мышление. Понятие ИИ включает алгоритмы или технические устройства, ориентированные на имитацию отдельных функций человеческого интеллекта: восприятие визуальной информации (компьютерное зрение), обучаемость (искусственные нейронные сети), планирование и принятие решений и т. д. Один из разделов ИИ — машинное обучение (machine learning), его целью является создание обучаемых алгоритмов. Обучение может осуществляться при помощи набора заранее подготовленных примеров (обучение с учителем, supervised learning) либо на больших массивах данных без контроля со стороны человека (обучение без учителя, unsupervised learning).
Искусственные нейронные сети — наиболее широко применяемый метод машинного обучения. Искусственные нейронные сети являются очень простым математическим приближением биологических нейронных сетей и тоже состоят из нейронов. Искусственный нейрон, как и биологический его прототип, включает в себя синапсы, соединяющие его с другими нейронами, сумматор сигналов с синапсов (аналог тела нейрона) и один выход, аналогом которого является аксон биологического нейрона. Синапсы в искусственных нейронах представляют собой коэффициенты, на которые умножаются входы нейрона, а обучение искусственного нейрона производится путем подбора этих коэффициентов с помощью такого алгоритма математической оптимизации, как градиентный спуск, т. е. подбирается сила синаптической связи с другими нейронами в сети. Сверточные нейронные сети решают три вида задач: классификация изображений (требуется отнести входное изображение к одному из классов), семантическая сегментация (требуется обозначить все пиксели входного изображения, относящиеся к искомому классу объектов), детекция объектов на изображениях (требуется получить прямоугольник, описывающий искомый объект на изображении). Таким образом, научная дисциплина «Исследование ИИ» является разделом науки о работе с большими данными (Data Science), машинное обучение — разделом ИИ, а искусственные нейронные сети — методом машинного обучения.
Искусственный интеллект в медицине
Технологии ИИ используются в различных областях медицины: пульмонологии [1], онкологии [2], дерматологии [3], кардиологии [4].
Получение и анализ изображений — важнейший этап диагностики и лечения офтальмологической патологии, в особенности патологии сетчатки. Современные алгоритмы ИИ обучены анализировать изображения, полученные при помощи цифровых ретинальных фундус-камер, оптических когерентных томографов (ОКТ), ОКТ-ангиографии (ОКТ-А). Для идентификации патологических структур на цифровых изображениях программа ИИ должна быть обучена на примере большого массива данных, на которых эти структуры присутствуют. По завершении процесса обучения программа способна самостоятельно проанализировать фотографию, ОКТ, ОКТ-А глазного дна пациента и с высокой долей вероятности ответить на вопрос, присутствуют ли на данном снимке патологические изменения, которые ее научили распознавать.
Для оценки точности работы алгоритмов ИИ вычисляют несколько параметров:
♦ количество правильных положительных срабатываний (True positives, TP);
♦ количество неправильных положительных срабатываний (False positives, FP);
♦ количество неправильных отрицательных срабатываний (False negatives, FN);
♦ количество правильных отрицательных срабатываний (True negatives TN).
На основе этих параметров вычисляются следующие показатели:
♦ Precision (точность срабатывания) — процент правильных положительных случаев из предсказанных положительных случаев; Precision = TP / (TP + FP);
♦ Recall/Sensitivity (чувствительность) — процент правильно предсказанных положительных случаев из всех положительных случаев; Recall = TP / (TP + FN);
♦ Specificity (специфичность) — процент правильно предсказанных отрицательных случаев из всех отрицательных случаев; Specificity = TN / (TN + FP).
Исходя из полученных показателей строится ROC-кри-вая (Receiver Operator Characteristic — операционная характеристика приемника), которая показывает зависимость количества верно классифицированных положительных примеров от количества неверно классифицированных отрицательных примеров. Количественную интерпретацию ROC дает показатель AUC (area under curve) — площадь под кривой, по которой можно оценивать качество предсказаний алгоритма ИИ. Если AUC равна 0,5, то алгоритм считается непригодным для решения данной задачи; если AUC менее 0,5, то алгоритм предсказывает результаты обратным образом от требуемого, т. е. негативные предсказывает как позитивные, а позитивные предсказывает как негативные; если AUC более 0,5, то можно считать, что алгоритм не просто угадывает, а действительно может отличать позитивные и негативные случаи. У идеального алгоритма AUC будет равна 1, соответственно, чем AUC ближе к 1, тем качественнее предсказания алгоритма ИИ.
тЕхнологии ии в диагностике заболеваний сетчатки и перспективы их использования на различных этапах лечебно-диагностического процесса
диабетическая ретинопатия
Важнейшими маркерами и критериями тяжести диабетической ретинопатии (ДР) являются микроаневризмы, интраретинальные геморрагии, интраретинальные микрососудистые аномалии, твердые экссудаты, ватообразные очаги, венозные аномалии, неоваскуляризация сетчатки и диска зрительного нерва, преретинальные геморрагии [5, 6]. Современные программы ИИ способны осуществлять анализ цифровых фотографий глазного дна, выявлять указанные патологические структуры, определять наличие и стадию ДР и выдавать заключение по результатам анализа [7-10]. На рисунке 1 приведен пример анализа алгоритмом ИИ фотографии глазного дна пациента с ДР. Программа автоматически выявляет твердые экссудаты и интраретинальные геморрагии, детектирует радиус маку-лы и наличие твердых экссудатов внутри радиуса макулы (что является критерием наличия диабетического маку-
Review Articles
Russian Journal of Clinical Ophthalmology. Vol. 22, №1, 2022
I
г ~è - " «rît N
t fr
А — оригинальная фотография глазного дна; B — фотография глазного дна после предобработки; С — сегментированные интраретинальные геморрагии (красные маски) и твердые экссудаты (желтые маски), автоматизированная детекция радиуса макулы и зонирование на квадранты; D — подсчет количества интраретинальных геморрагий внутри каждого квадранта.
A — original fundus photo. B — fundus photo after preprocessing. C — segmented intraretinal hemorrhages (red masks) and hard exudates (yellow masks), automated macular radius, and quadrant division detection. D — calculation of the number of intraretinal hemorrhages in each quadrant.
Рис. 1. Пример анализа программой ИИ фотографии глазного дна пациента с ДР [10] Fig. 1. An example of artificial intelligence-based analysis of fundus photo in diabetic retinopathy [10]
B
C
D
лярного отека (ДМО)), зонирует фотографию на квадранты и подсчитывает количество интраретинальных геморрагий внутри каждого квадранта (критерий тяжелой непролифе-ративной ДР [6]).
С практической точки зрения наиболее перспективным представляется использование программ ИИ для диагностики ДР на этапе офтальмологического скрининга пациентов с сахарным диабетом (СД). По данным Всемирной организации здравоохранения (ВОЗ), 422 млн человек в мире страдают СД [11]. Прогнозируемое число больных к 2040 г. составит 645 млн, причем подавляющее большинство из них будет проживать в развивающихся странах [12]. Каждый пациент с СД, в зависимости от наличия и тяжести ДР и ДМО, нуждается в офтальмологическом обследовании от 1 раза в 2 года до 12 раз в год [6]. Это создает большую нагрузку на систему здравоохранения. Разработка программ скрининга остается серьезной проблемой даже для стран со значительными ресурсами. Согласно исследованиям около
половины пациентов с СД остаются недостаточно обследованными [13]. Только в странах Европейского союза (ЕС) порядка 950 тыс. человек имеют слепоту или слабовидение вследствие ДР и ДМО [14]. ВОЗ рассматривает программы скрининга как наиболее эффективный инструмент борьбы со слепотой и слабовидением вследствие ДР. В руководстве ВОЗ от 2020 г. приводится пример организации скринин-говых программ, когда все пациенты с СД регулярно приглашаются на фотографирование глазного дна, при этом за съемку отвечает средний медицинский персонал, затем все фотографии отправляются в референс-центр, где проводится анализ стадии и рисков заболевания и определяется дальнейшая маршрутизация пациентов [14]. В ситуации, когда необходимо за ограниченный период времени обследовать большое количество пациентов, оценить стадию заболевания, динамику и выявить пациентов, нуждающихся в неотложной офтальмологической помощи, программы ИИ могут оказать большую поддержку. Их использование
на этапе первичного скрининга позволит снизить нагрузку на систему здравоохранения, увеличить охват населения скрининговым обследованием. Положительными результатами при этом потенциально могут стать уменьшение случаев слепоты и слабовидения вследствие несвоевременной диагностики ДР и ДМО, сокращение количества пациентов с далеко зашедшими формами ДР, нуждающихся в дорогостоящем хирургическом лечении, а также унификация диагностики.
На сегодняшний день в мировую офтальмологическую практику внедряются первые программы ИИ для скрининга ДР, одобренные для клинического использования Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов Министерства здравоохранения США (Food and Drug Administration, FDA). Первая из них — iDx-DR компании Digital Diagnostics — была одобрена в 2018 г. В 2019 г. Американская ассоциация диабе-тологов включила программу в стандарты скрининга ДР. В 2020 г. iDx-DR вошла в национальную программу медицинского страхования США Medicare [15]. Программа EyeArt компании Eyenuk была одобрена FDA в 2020 г., она подходит для анализа изображений с различных типов фундус-камер и используется в системах здравоохранения 13 стран мира [16].
диабетический МАкулярный отек
Основным методом диагностики ДМО является ОКТ. Она позволяет определить наличие интраретинальной и суб-ретинальной жидкости, состояние витреомакулярного интерфейса, сохранность важнейших слоев сетчатки как критерий зрительного прогноза, оценить динамику процесса в ходе лечения. Современные алгоритмы ИИ обучены проводить анализ сканов структурной ОКТ и сегментировать морфологические признаки ДМО: интраретинальные кисты, отслойку нейроэпителия, твердые экссудаты, аномалии витреомакулярного интерфейса [17-19]. На рисунке 2 приведен пример сегментации субретинальной, интраретинальной жидкости и эпиретинальной мембраны программой ИИ.
Возрастная макулярная дегенерация
Возможности структурной ОКТ в диагностике возрастной макулярной дегенерации (ВМД) включают визуализацию и оценку размера и типа макулярных друз, выявление зон атрофии, гиперплазии и миграции клеток ретиналь-ного пигментного эпителия (РПЭ), отслойки РПЭ и ней-роэпителия, интра- и субретинальной жидкости, субре-тинального гиперрефлективного материала, оценку типа хориоидальной неоваскуляризации и признаков ее активности [20]. В последние годы были опубликованы результаты исследований, посвященных разработке программ ИИ для автоматического распознавания макулярных друз [21], географической атрофии [22], морфологических признаков хориоидальной неоваскуляризации (ХНВ) [23].
С практической точки зрения наибольший интерес представляет разработка программ автоматического мониторинга активности патологического процесса в ходе терапии ингибиторами ангиогенеза ДМО и ХНВ. Данная терапия включает регулярные повторные интравитреальные инъекции ингибиторов ангиогенеза в течение длительного времени (до 1 года и более). Целью лечения является подавление активности патологического процесса, ликвидация отека и поддержание достигнутой остроты зрения так
А
B
А — оригинальный скан ОКТ; B — сегментированные интраретинальные кисты с интраретинальной жидкостью (голубые маски), отслойка нейроэпителия с субретинальной жидкостью (зеленая маска), эпиретинальная мембрана (красная маска).
A — original OCT; B — segmented intraretinal cysts with intraretinal fluid (blue masks), neurosensory retinal detachment with subretinal fluid (green mask), epiretinal membrane (red mask); OCT, optical coherence tomography.
Рис. 2. Пример анализа программой ИИ скана структурной ОКТ пациента с ДМО
Fig. 2. An example of artificial intelligence-based analysis of OCT scan in diabetic macular edema
долго, насколько это возможно. В ходе исследований были предложены различные протоколы введения препаратов. Фиксированные режимы включают ежемесячные, 1 раз в 2 мес. и ежеквартальные инъекции. Недостатками фиксированных режимов являются риск избыточного лечения, высокая стоимость препаратов и большая нагрузка на пациентов и систему здравоохранения. В связи с этим большую актуальность приобрела разработка протоколов лечения, ориентированных на пациента.
Важнейшими показателями, отражающими эффективность антиангиогенной терапии и определяющими дальнейшую тактику и прогноз, являются морфологические изменения сетчатки, определяемые при помощи структурной ОКТ. К ним относятся центральная толщина сетчатки, наличие и количество интраретинальной жидкости, суб-ретинальной жидкости и витреомакулярный интерфейс. Р. Prahs et а1. [24] опубликовали результаты исследования, проведенного в Университетской клинике Регенсбурга, в ходе которого на базе 1 млн сканов ОКТ была разработана программа ИИ для автоматического выявления по-
CSC PCV Wet AMD I VKH
0
0,2 0,4 0,6 0,8 1 Вероятность / Probability
CSC PCV ■ Wet AMD VKH
0 0,2 0,4 0,6 0,8 1 Вероятность / Probability
VKH С
Ö
CSC
PCV 1
Wet AMD ■
VKH
0 0,2 0,4 0,6 0,8 1
Вероятность / Probability
CSC — центральная серозная хориоретинопатия
CSC, central serous chorioretinopathy
Wet AMD — «влажная» форма ВМД
wet AMD, wet age-related macular degeneration
PCV — полипоидная хориоидальная васкулопатия
PCV, polypoid choroidal vasculopathy
VKH — синдром Фогта — Коянаги — Харада
VKH, Vogt-Koyanagi-Harada syndrome
A — серозная отслойка нейроэпителия без злевации РПЭ — вероятность ЦСХ максимальна; B — отслойка нейроэпителия и иррегулярная элевация РПЭ увеличивает вероятность «влажной» формы ВМД; С — утолщение хориоидеи гомогенной плотности может быть признаком синдрома Фогта — Коянаги — Харада. Иллюстрация публикуется согласно условиям лицензии CC-BY (Creative Commons Attribution).
A — serous detachment of the neurosensory retina without RPE elevation (maximum probability of CSC); B — neurosensory retinal detachment and irregular RPE elevation (increased probability of wet AMD); C — diffuse choroidal thickening (a sign of VKH). This image is published according to the CC-BY (Creative Commons Attribution) license.
Рис. 3. Дифференциальная диагностика программой ИИ ЦСХ, ПХВ, «влажной» формы ВМД и синдрома Фогта — Коянаги — Харада [28]
Fig. 3. AI-based differential diagnosis of CSC, PCV, wet AMD, and VKH [28]
казаний для повторной инъекции ингибиторов ангиоге-неза. На основе анализа одного ОКТ-скана классификатор подразделял пациентов на 2 группы: нуждающиеся в повторной инъекции анти-VEGF в ближайшие 21 день и не нуждающиеся в ней. Точность классификатора составила 90%, т. е. в 19 случаях из 20 программа верно определяла потребность в повторной инъекции без участия человека. H. Bogunovic et al. [25] представили алгоритм персонализированного расчета интервалов введения ингибиторов ан-гиогенеза на основе ИИ. Алгоритм базировался на прогнозировании объема интраретинальной жидкости в макуле в течение 2 мес. после начала анти-VEGF терапии. В руководстве по ведению ДМО от Европейского общества специ-алистов-ретинологов алгоритмы сегментации и объемного вычисления интраретинальной жидкости рассматриваются как инструмент, способный повлиять на индивидуальные схемы антиангиогенной терапии [26].
Дифференциальная диагностика макулярной патологии
В 2018 г. компания Google Deep Mind провела на базе британской офтальмологической клиники Moorfields Eye Hospital исследование программы ИИ для дифференциальной диагностики следующих маку-лярных патологий по данным ОКТ: ХНВ, макулярного отека без ХНВ, макулярных друз, географической атрофии, эпиретинального тракционного синдрома, сквозных и ла-меллярных макулярных разрывов, центральной серозной
хориоретинопатии (ЦСХ). Программа распределяла патологии на 4 категории: неотложные, срочные, требующие лечения в плановом порядке, требующие наблюдения. Точность программы составила 96,6%, АиС — 0,999. Результаты исследования были опубликованы ]. De Fauw et а1. [27].
S. Kuwayama et а1. [28] на базе 59 400 изображений ОКТ разработали алгоритм ИИ для дифференциальной диагностики ретинальных друз, «влажной» формы ВМД, ЦСХ, кистозного макулярного отека различной этиологии, эпиретинального тракционного синдрома, сквозных и ла-меллярных макулярных разрывов, географической атрофии, полипоидной хориоидальной васкулопатии (ПХВ), макулярных телеангиэктазий 1 типа, синдрома Фогта — Коянаги — Харада. Программа анализировала сканы ОКТ и рассчитывала вероятность развития перечисленных патологий. На рисунке 3 представлены примеры заключений программы при различных патологиях.
перспективы использования алгоритмов ИИ при лазерных вмешательствах на сетчатке
Согласно стандартам Международного совета по офтальмологии панретинальная лазеркоагуляция (ПЛК) является предпочтительным методом лечения пролифератив-ной ДР [6]. Н. Takahashi et а1. [29] разработали алгоритм прогнозирования потребности в ПЛК у пациентов с ДР. В задачи программы ИИ входила градация ДР, оценка дина-
мики и прогнозирование потребности и сроков ПЛК. Точность алгоритма составила 96%.
Согласно исследованиям субпороговое лазерное воздействие на сетчатку может иметь терапевтический эффект, не вызывая ее видимого повреждения [30]. Субпороговая микроимпульсная лазеркоагуляция (СМИЛК) используется для лечения хронической ЦСХ [31], ХНВ, резистентной к анти-VEGF терапии [32], ДМО [33]. Однако применение данного метода ограничено сложностью контроля степени термического повреждения сетчатки в процессе лазерного воздействия. Перегрев фоторецепторов и ретиналь-ного пигментного эпителия ведет к повреждению и гибели клеток, недостаточный нагрев нивелирует терапевтический эффект. Различными исследователями предлагались методы температурного контроля в процессе лазерного воздействия, основанные на принципах МРТ-сканирования [34], люминесцентной спектроскопии [35], оптоакустическо-го мониторинга [36]. M. Pitkanen et al. [37] опубликовали результаты эксперимента по измерению температуры фоторецепторов и ретинального пигментного эпителия на основе регистрации параметров электроретинограммы, зависимых от температуры клеток. Эксперимент проводился ex vivo на изолированных сетчатках лабораторных мышей. При помощи алгоритма ИИ была разработана модель оценки температуры сетчатки и расчета минимальной энергии и таргетной температуры, необходимой для фотоактивации нейроэпителия, потенциально пригодная для использования in vivo.
Вопросы организации медицинских исследований с использованием алгоритмов ИИ
В 2020 г. группа европейских ученых во главе с L. Faes [38] опубликовала руководство, посвященное вопросу, как правильно и критически оценивать медицинские исследования, в которых использовались алгоритмы ИИ. В руководстве были озвучены следующие ключевые моменты планирования, проведения и интерпретации результатов исследований в области ИИ.
В ходе разработки алгоритмов ИИ используются большие массивы данных. Все данные подразделяются на обучающую и тестовую базы. Обучающая база служит непосредственно для разработки алгоритма, тестовая — для проверки точности его работы. При этом очень важно, чтобы данные из обучающей базы не попали в тестовую. В идеале разработанный алгоритм должен проходить проверку дважды — на внутренней тестовой базе данных, а затем валидироваться на внешних данных независимыми экспертами. Очень важно, чтобы обучающая база была сбалансирована по характеру данных и была максимально приближена к реальным клиническим условиям.
Важнейшим этапом разработки алгоритмов ИИ является разметка данных. Она может проводиться вручную или автоматически путем извлечения информации из электронных ресурсов системы здравоохранения. Разметка данных должна проводиться офтальмологами на основании существующих классификаций, рекомендованных и удобных для использования в клинической практике. В некоторых ситуациях желательно делать разметку ретроспективно, с использованием дополнительных данных, подтверждающих диагноз.
Развитие технологий ИИ и их быстрая интеграция в сферу здравоохранения диктуют необходимость разработки единых стандартов проведения медицинских исследований с использованием ИИ. В настоящее время ведется разработка международных протоколов TRlPOD-ML, SPIRIT-AI и CONSORT-AI, призванных улучшить дизайн и отчетность исследований [39].
правовой статус использования алгоритмов ии в здравоохранении
Важнейшим вопросом при применении алгоритмов ИИ являются доверие результатам, полученным от применения данных алгоритмов, а также ответственность за эти результаты. В мировой практике на данные вопросы пока еще нет однозначного ответа. С одной стороны, современные технологии ИИ де-факто уже начинают использоваться в клинической практике. Так, по экспертным оценкам консалтинговой компании Tata Consulting Services, в 2018 г. порядка 86% организаций, оказывающих различные услуги в области здравоохранения, в той или иной форме использовали алгоритмы ИИ [40].
При этом во многом алгоритмы ИИ работают по принципу «черного ящика» — механизм их работы до конца неизвестен, исследователь подает данные на входе и получает определенный результат на выходе, называя это «обучением модели». При добавлении дополнительных данных программа может изменить свой процесс принятия решений, выдавая более точный ответ, без какого-либо понимания для исследователя, как это получается. С ростом объемов данных, получаемых программой в процессе обучения, модели становятся все более точными и, улучшаясь, в конце концов будут способны добиться более высокой диагностической точности, чем человек.
Первые алгоритмы ИИ получают одобрение регулирующих органов в США и ЕС и, таким образом, легальный статус для повседневного применения. Между тем юридический статус применения ИИ в медицине в значительной степени все еще не определен. Например, неясно, применима ли, в случае ошибочных решений (например, ошибки диагноза) вследствие использования алгоритма ИИ, продуктовая ответственность (product liability), т. е. ответственность производителя или продавца продукции в случае причинения потребителю продукции имущественного ущерба или вреда здоровью из-за дефекта или фактического отказа изделия; или же ошибки ИИ следует относить к врачебным ошибкам и руководствоваться соответствующими стандартами и рекомендациями поведения. В США применение ИИ в здравоохранении, как уже упоминалось, попадает под регулирование FDA, а именно в сферу регулирования медицинских изделий (medical device) для диагностики, лечения, предотвращения заболевания. Однако законодательство в данной области не является устоявшимся, ему еще предстоит сформироваться [41]. Специалисты отмечают, что регулирование отдельных областей применения ИИ требует новых, ранее не существовавших подходов — например как в случае с машинным обучением алгоритмов ИИ, которые по определению быстро изменяются со временем вследствие появления новых математических алгоритмов, новых нейронных сетей (архитектуры), новых данных, на основе которых обучаются алгоритмы и результат их работы становится более точным, и т. п. [42].
Алгоритмы ИИ — это еще один инструмент, появляющийся в арсенале врача, позволяющий получить «второе мнение» и снизить вероятность врачебной ошибки. Однако итоговое решение и ответственность за это решение несет врач. Именно такой подход, как считается, в наибольшей степени соответствует интересам и пациента, и врача, и компаний, разрабатывающих данный инструментарий.
Принимая во внимание сложную природу технологий ИИ и риски, которые несет их бесконтрольное применение, общепринятый международный подход на сегодня состоит в том, что решения на основе ИИ не являются самодостаточными и требуют обязательной верификации со стороны врача. Врач не должен и не может полагаться в своем решении исключительно на результат, рекомендованный алгоритмом ИИ.
В этой связи особую важность в организации здравоохранения приобретает разработка стандартов, регламентирующих применение технологий ИИ, а также стандартов, позволяющих достоверно оценивать безопасность, точность и надежность функционирования систем на основе ИИ. В Российской Федерации в составе Технического комитета 164 «Искусственный интеллект», созданного на базе Российской венчурной компании (утвержден приказом Рос-стандарта от 25.07.2019 №1732), функционирует Центр диагностики и телемедицины, поддержанный Министерством здравоохранения, в задачи которого входит координация экспертной деятельности по разработке стандартов ИИ в клинической медицине. Данный комитет является отражением международного подкомитета SC 42 Artificial Intelligence, что позволяет эффективно гармонизировать подходы к стандартизации и нормативные документы.
Можно предположить, что по мере появления стандартов разработки и использования алгоритмов ИИ в здравоохранении область их применения будет стремительно расширяться. ИИ — перспективный инструмент, способный стать помощником в лечебно-диагностическом процессе, однако нельзя забывать об ограничениях данного инструмента и о том, что последнее слово остается за врачом.
Литература/References
1. Gudigar A., Raghavendra U., Nayak S. et al. Role of Artificial Intelligence in COVID-19 Detection. Sensors (Basel). 2021;21(23):8045. DOI: 10.3390/s21238045.
2. Toprak A. Extreme Learning Machine (ELM)-Based Classification of Benign and Malignant Cells in Breast Cancer. Med Sci Monit. 2018;24:6537-6543. DOI: 10.12659/ MSM.910520.
3. Esteva A., Kuprel B., Novoa R.A. et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature. 2017;542(7639):115-118. DOI: 10.1038/nature21056.
4. Voelker R. Cardiac Ultrasound Uses Artificial Intelligence to Produce Images. JAMA. 2020;323(11):1034. DOI: 10.1001/jama.2020.2547.
5. Балашевич Л.И., Измайлов А.С. Диабетическая офтальмопатия. СПб.: Человек; 2012.
[Balashevich L.I., Izmailov A.S. Diabetic ophthalmopathy. SPb.: Chelovek; 2012 (in Russ.)].
6. Руководство Международного совета по офтальмологии по ведению пациентов с диабетической ретинопатией. (Электронный ресурс.) URL: https://www. urmc.rochester.edu/MediaLibraries/URMCMedia/eye-institute/images/ICOpH.pdf — 28.01.2022 (дата обращения: 25.01.2022).
[International Council of Ophthalmology guidelines for the management of patients with diabetic retinopathy. (Electronic resource.) URL: https://www.urmc.rochester.edu/ MediaLibraries/URMCMedia/eye-institute/images/ICOPH.pdf — 28.01.2022 (access date: 25.01.2022) (in Russ.)].
7. Shah A., Clarida W., Amelon R. et al. Validation of Automated Screening for Referable Diabetic Retinopathy With an Autonomous Diagnostic Artificial Intelligence System in a Spanish Population. J Diabetes Sci Technol. 2021;15(3):655-663. DOI: 10.1177/1932296820906212.
8. Grzybowski A., Brona P., Lim G. et al. Artificial intelligence for diabetic retinopathy screening: a review. Eye (Lond). 2020;34(3):451-460. DOI: 10.1038/ s41433-019-0566-0.
9. Wang Y., Shi D., Tan Z. et al. Screening Referable Diabetic Retinopathy Using a Semi-automated Deep Learning Algorithm Assisted Approach. Front Med (Lausanne). 2021;8:7409 8 7. DOI: 10.3389/fmed.2021.740987.
10. Каталевская Е.А., Каталевский Д.Ю., Тюриков М.И. и др. Алгоритм сегментации визуальных признаков диабетической ретинопатии и диабетического макулярного отека на цифровых фотографиях глазного дна. Российский журнал телемедицины и электронного здравоохранения. 2021;7(4):17—26. DOI: 10.29188/2712-9217-2021-7-4-17-26.
[Katalevskaya E.A., Katalevsky D.Yu., Tyurikov M.I. et al. Algorithm for Segmentation of visual signs of diabetic retinopathy and diabetic macular edema in digital fundus images. Russian Journal of Telemedicine and E-Health. 2021;7(4)17-26 (in Russ.)]. DOI: 10.29188/2712-9217-2021-7-4-17-26.
11. World Health Organization. Global Diabetes Report. (Electronic resource.) URL: https://www.who.int/health-topics/diabetes#tab=tab_1 (access date: 28.01.2022).
12. Ogurtsova K., da Rocha Fernandes J.D., Huang Y. et al. IDF Diabetes Atlas: Global estimates for the prevalence of diabetes for 2015 and 2040. Diabetes Res Clin Pract. 2017;128:40-50. DOI: 10.1016/j.diabres.2017.03.024.
13. Beagley J., Guariguata L., Weil C., Motala A.A. Global estimates of undiagnosed diabetes in adults. Diabetes Res Clin Pract. 2014;103(2):150-160. DOI: 10.1016/j. diabres.2013.11.001.
14. Diabetic retinopathy screening: a short guide. Increase effectiveness, maximize benefits and minimize harm. Copenhagen: WHO Regional Office for Europe; 2020. (Electronic resource.) URL: https://apps.who.int/iris/bitstream/hand le/10665/336660/9789289055321-eng.pdf?sequence=1&isAllowed=y (access date: 25.01.2022).
15. Digital diagnostics. IDx-DR. (Electronic resource.) URL: https://www. digitaldiagnostics.com/products/eye-disease/idx-dr/ (access date: 24.01.2022).
16. EYENUK. Immediate, Fully-automated, On-site Diabetic Retinopathy Screening. (Electronic resource.) URL: https://www.eyenuk.com/en/products/eyeart/ (access date: 24.01.2022).
17. Chakroborty S., Gupta M., Devishamani C.S. et al. Narrative review of artificial intelligence in diabetic macular edema: Diagnosis and predicting treatment response using optical coherence tomography. Indian J Ophthalmol. 2021;69(11):2999-3008. DOI: 10.4103/ijo.IJO_1482_21.
18. Hwang D.K., Chou Y.B., Lin T.C. et al. Optical coherence tomography-based diabetic macula edema screening with artificial intelligence. J Chin Med Assoc. 2020;83(11):1034-1038. DOI: 10.1097/JCMA.0000000000000351.
19. Wang Z., Zhang W., Sun Y. et al. Detection of Diabetic Macular Edema in Optical Coherence Tomography Image Using an Improved Level Set Algorithm. Biomed Res Int. 2020;2020:6974215. DOI: 10.1155/2020/6974215.
20. Семенова Н.С. Оптическая когерентная томография: от спектральной к swept source. Атлас избранных клинических случаев. Под ред. Акопяна В.С. М.; 2019.
[Semenova N.S. Optical coherence tomography: from spectral to swept source. Atlas of selected clinical cases. Ed. Akopyan V.S. M.; 2019 (in Russ.)].
21. Saha S., Nassisi M., Wang M. et al. Automated detection and classification of early AMD biomarkers using deep learning. Sci Rep. 2019;9(1):10990. DOI: 10.1038/s41598-019-47390-3.
22. Schmidt-Erfurth U., Bogunovic H., Grechenig C. et al. Role of Deep Learning-Quantified Hyperreflective Foci for the Prediction of Geographic Atrophy Progression. Am J Ophthalmol. 2020;216:257-270. DOI: 10.1016/j.ajo.2020.03.042.
23. Wilson M., Chopra R., Wilson M.Z. et al. Validation and Clinical Applicability of Whole-Volume Automated Segmentation of Optical Coherence Tomography in Retinal Disease Using Deep Learning. JAMA Ophthalmol. 2021;139(9):964-973. DOI: 10.1001/ jamaophthalmol.2021.2273.
24. Prahs P., Märker D., Mayer C., Helbig H. Deep Learning zur Unterstützung der Therapieentscheidung bei intravitrealen Injektionen. Ophthalmologe. 2018;115(9):722-727 (in German.). DOI: 10.1007/s00347-018-0708-y.
25. Bogunovic H., Waldstein S.M., Schlegl T. et al. Prediction of Anti-VEGF Treatment Requirements in Neovascular AMD Using a Machine Learning Approach. Invest Ophthalmol Vis Sci. 2017;58(7):3240-3248. DOI: 10.1167/iovs.16-21053.
26. Schmidt-Erfurth U., Garcia-Arumi J., Bandello F. et al. Guidelines for the Management of Diabetic Macular Edema by the European Society of Retina Specialists (EURETINA). Ophthalmologica. 2017;237(4):185-222. DOI: 10.1159/000458539.
27. De Fauw J., Ledsam J.R., Romera-Paredes B. et al. Clinically applicable deep learning for diagnosis and referral in retinal disease. Nat Med. 2018;24(9):1342-1350. DOI: 10.1038/s41591-018-0107-6.
28. Kuwayama S., Ayatsuka Y., Yanagisono D. et al. Automated Detection of Macular Diseases by Optical Coherence Tomography and Artificial Intelligence Machine Learning of Optical Coherence Tomography Images. J Ophthalmol. 2019;2019:6319581. DOI: 10.1155/2019/6319581.
29. Takahashi H., Tampo H., Arai Y. et al. Applying artificial intelligence to disease staging: Deep learning for improved staging of diabetic retinopathy. PLoS One. 2017;12(6):e0179790. DOI: 10.1371/journal.pone.0179790.
30. Sramek C., Mackanos M., Spitler R. et al. Non-damaging retinal phototherapy: dynamic range of heat shock protein expression. Invest Ophthalmol Vis Sci. 2011;52(3):1780-1787. DOI: 10.1167/iovs.10-5917.
31. Van Rijssen T.J., van Dijk E.H.C., Yzer S. et al. Central serous chorioretinopathy: Towards an evidence-based treatment guideline. Prog Retin Eye Res. 2019;73:100770. DOI: 10.1016/j.preteyeres.2019.07.003.
32. Luttrull J.K., Chang D.B., Margolis B.W. et al. Laser resensitization of medically unresponsive neovascular age-related macular degeneration: Efficacy and Implications. Retina. 2015;35(6): 1184-94. DOI: 10.1097/IAE.0000000000000458.
33. Moisseiev E., Abbassi S., Thinda S. et al. Subthreshold micropulse laser reduces anti-VEGF injection burden in patients with diabetic macular edema. Eur J Ophthalmol. 2018;28(1):68-73. DOI: 10.5301/ejo.5001000.
34. Maswadi S.M., Dodd S.J., Gao J.H., Glickman R.D. Temperature mapping of laser-induced hyperthermia in an ocular phantom using magnetic resonance thermography. J Biomed Opt. 2004;9(4):711-718. DOI: 10.1117/1.1751399.
35. Miura S., Nishiwaki H., Ieki Y. et al. Chorioretinal temperature monitoring during transpupillary thermotherapy for choroidal neovascularisation. Br J Ophthalmol. 2005;89(4):475-479. DOI: 10.1136/bjo.2004.049189.
36. Большунов А.В., Ардамакова А.В., Ларичев А.В. и др. Оптико-акустический мониторинг хориоретинального комплекса при лазерной коагуляции тканей глазного дна. Вестник офтальмологии. 2016;132(6):36-42.
[Bol'shunov A.V., Ardamakova A.V., Larichev A.V. et al. Photoacoustic monitoring of chorioretinal complex during laser coagulation of ocular fundus. Bulletin of ophthalmology. 2016,132(6):36-42 (in Russ.)].
37. Pitkanen M., Kaikkonen O., Koskelainen A. A Novel Method for Mouse Retinal Temperature Determination Based on ERG Photoresponses. Ann Biomed Eng. 2017;45(10):2360-2372. DOI: 10.1007/s10439-017-1872-y.
38. Faes L., Liu X., Wagner S.K. et al. A Clinician's Guide to Artificial Intelligence: How to Critically Appraise Machine Learning Studies. Transl Vis Sci Technol. 2020;9(2):7. DOI: 10.1167/tvst.9.2.7.
39. Liu X., Faes L., Calvert M.J. et al. Extension of the CONSORT and SPIRIT statements. Lancet. 2019;394(10205):1225. DOI: 10.1016/S0140-6736(19)31819-7.
40. Tata Consultancy Services. Getting smarter by the sector: how 13 global industries use artificial intelligence. 2018. (Electronic resource.) URL: https://sites.tcs.com/ artificial-intelligence (access date: 20.01.2022).
41. Sullivan H.R., Schweikart S.J. Are Current Tort Liability Doctrines Adequate for Addressing Injury Caused by AI? AMA J Ethics. 2019;21(2):E160-166. DOI: 10.1001/ amajethics.2019.160.
42. Shifting Liability: AI in Medical Devices. (Electronic resource.) URL: https://www. crowell.com/NewsEvents/AlertsNewsletters/all/Shifting-Liability-AI-in-Medical-Devices/pdf (access date 20.01.2022).
Сведения об авторах:
1Каталевская Евгения Алексеевна — к.м.н., врач-офтальмолог, научный руководитель проекта RETINA AI; ORCID iD 0000-0002-5710-9205.
12Каталевский Дмитрий Юрьевич — к.э.н., генеральный директор; доцент Института бизнеса и делового администрирования РАНХиГС; ORCID iD 0000-0002-3920-5041. 13Тюриков Максим Игоревич — главный инженер-программист; ассистент кафедры автоматизации машиностроения; ORCID iD 0000-0003-1839-4506. 4Велиева Инджи Арифовна — к.м.н., врач-офтальмолог, научный сотрудник; ORCID iD 0000-0002-9230-3150. 4Большунов Андрей Валентинович — д.м.н., профессор; ORCID iD 0000-0002-2316-9920.
ООО «Диджитал Вижн Солюшнс». 119027, Россия, г. Москва, п. Внуково, ул. Центральная, д. 86. 2РАНХиГС. 119571, Россия, г. Москва, пр-т Вернадского, д. 82.
3ФГБОУ ВО «Нижегородский государственный технический университет им. Р.Е. Алексеева». 603950, Россия, г. Нижний Новгород, ул. Минина, д. 24. 4ФГБНУ «НИИГБ». 119021, Россия, г. Москва, ул. Россоли-мо, д. 11А.
Контактная информация: Каталевская Евгения Алексеевна, e-mail: [email protected].
Прозрачность финансовой деятельности: никто из авторов не имеет финансовой заинтересованности в представленных материалах или методах. Конфликт интересов отсутствует. Статья поступила 21.12.2020.
About the authors:
1Evgeniya A. Katalevskaya — C. Sc. (Med.), opthahlmologist, Principal Investigator of the RETINA AI; ORCID iD 00000002-5710-9205.
12Dmitriy Yu. Katalevskiy — C. Sc. (Econ.), CEO; associate professor of the Institute of Business and Business Administration of the RANEPA; ORCID iD 0000-0002-3920-5041. 13Maksim I. Tyurikov — chief engineer programmer; assistant of the Department of Machinery Automation; ORCID iD 00000003-1839-4506.
4Indzhi A. Velieva — C. Sc. (Med.), ophthalmologist, researcher; ORCID iD 0000-0002-9230-3150.
4Andrey V Bolshunov — Dr. Sc. (Med.), Professor; ORCID iD 0000-0002-2316-9920.
1LLC "Digital Vision Solutions", 86, Tsentralnaya str., Vnukovo, Moscow, 119027, Russian Federation.
2Russian Presidential Academy of National Economy and Public Administration (RANEPA), 82, Vernadskiy av., Moscow, 119571, Russian Federation.
3Nizhny Novgorod State Technical University named after R.E. Alekseev, 24, Minin str., Nizhny Novgorod, 603950, Russian Federation.
4Scientific Research Institute of Eye Diseases, 11A, Rossolimo str., Moscow, 119021, Russian Federation. Contact information: Evgeniya A. Katalevskaya, e-mail: [email protected].
Financial Disclosure: no authors have a financial or property interest in any material or method mentioned. There is no conflict of interests. Received 21.12.2020.
