CC BY
27
© 2023. Golovko O. V., Kharlampenkov E. I. BULLETIN
kemerovo state university
E-
hJ
CD U
questionnaire processing, medicine and healthcare
D. С
3 D.
Areas for Artificial Intelligence politology, sociology and economics
оригинальная статья
Социологические аспекты направлений внедрения искусственного интеллекта в здравоохранении Кузбасса
г+
Головко Ольга Владимировна Харлампенков Евгений Иванович £
е
Кемеровский государственный медицинский университет, Кемеровский государственный медицинский университет, т
Россия, Кемерово Россия, Кемерово °
https://orcid.org/0000-0002-5380-1931 https://orcid.org/0000-0002-7306-9434 ?
пз
kotk123@yandex.ru С
га
Поступила 27.12.2022. Принята после рецензирования 31.01.2023. Принята в печать 09.03.2023. 4
Ь
Аннотация: Проанализирована структура заболеваемости в Кемеровской области - Кузбассе
на основе статистических данных, выявлены основные направления внедрения искусственного интеллекта в России. Проведен социологический опрос врачей-клиницистов с использованием метода фокус-групп с целью выявить их осведомленность о продуктах § искусственного интеллекта, готовность использовать их в своих лечебных учреждениях и участвовать в их разработке. ^ Развитие и использование искусственного интеллекта предполагает создание центров компетенций, способных внедрять § данные продукты в региональном здравоохранении. Основными направлениями являются разработка стратегической е программы развития и внедрения программных продуктов искусственного интеллекта; создание творческих коллективов, включающих медицинское сообщество и 1Т-специалистов в рамках научно-образовательных центров. Представлен анализ структуры заболеваний в Кузбассе, разработаны основные направления развития искусственного интеллекта для решения задач по здоровьесбережению. Реализация предложений может повысить точность диагностики, упростить лечение пациентов с различными заболеваниями, вывести здравоохранение Кузбасса на новый уровень. Ключевые слова: искусственный интеллект, структура заболеваемости, цифровизация, система поддержки принятия врачебных решений, анкетирование, обработка анкет, медицина и здравоохранение
Цитирование: Головко О. В., Харлампенков Е. И. Социологические аспекты направлений внедрения искусственного интеллекта в здравоохранении Кузбасса. Вестник Кемеровского государственного университета. Серия: Политические, социологические и экономические науки. 2023. Т. 8. № 1. С. 40-49. https://doi.org/10.21603/2500-3372-2023-8-1-40-49
full article
Areas for Artificial Intelligence Implementation in Kuzbass Healthcare: Sociological Aspects
Olga V. Golovko Evgeny I. Kharlampenkov c
Kemerovo State Medical University, Russia, Kemerovo Kemerovo State Medical University, Russia, Kemerovo t
^ https://orcid.org/0000-0002-5380-1931 https://orcid.org/0000-0002-7306-9434
[jj kotk123@yandex.ru n
jjj Received 27 Dec 2022. Accepted after peer review 31 Jan 2023. Accepted for publication 9 Mar 2023.
o
Abstract: The article analyzes the structure ofmorbidity in the region and identifies the main directions for artificial intelligence ^ implementation in Russia. In order to identify the attitude of clinical physicians towards the artificial intelligence products, ^ the authors performed a sociological survey. To develop the artificial intelligence in the Kemerovo Region it is necessary to use artificial intelligence products and build competence centers for implementing these products in regional healthcare. q The main ways of development are strategic programs; creative teams within scientific and educational centers; introduction k^ of automated workplaces for doctors. The authors' proposals can improve the accuracy of diagnosis, simplify the treatment Q of patients with various diseases, and rise the healthcare of the Kemerovo region - Kuzbass to a new level. Y
O Keywords: artificial intelligence, morbidity structure, digitalization, medical decision support system, questionnaires,
n
Citation: Golovko O. V., Kharlampenkov E. I. Areas for Artificial Intelligence Implementation in Kuzbass Healthcare: q Sociological Aspects. Vestnik Kemerovskogo gosudarstvennogo universiteta. Seriia: Politicheskie, sotsiologicheskie CO i ekonomicheskie nauki, 2023, 8(1): 40-49. (In Russ.) https://doi.org/10.21603/2500-3372-2023-8-41-40-49
Социологические аспекты направлений внедрения
Введение
Указом Президента РФ № 490 от 10 октября 2019 г. была утверждена «Национальная стратегия развития искусственного интеллекта до 2030 года»1, важный документ, предполагающий кардинальное преобразование практически всех сфер экономики, включая здравоохранение, посредством внедрения цифровых технологий и платформенных решений. В состав национального проекта «Цифровая экономика» входит федеральный проект «Искусственный интеллект», направленный на разработку программных продуктов и аппар атных решений, призванных выполнять определенные функции и задачи на близком к человеческому мышлению уровне, что должно способствовать освобождению человека от выполнения рутинных операций, более полному раскрытию творческого потенциала личности и снижению уровня человеческого фактора, приводящего к определенным ошибкам2. Для реализации поставленной цели регионы уже в 2023 г. должны внедрить в практику медицинских учреждений не менее 1 решения на основе ИИ в рамках федерального проекта «Единая государственная информационная система здравоохранения»3, в 2024 г. их должно быть внедрено как минимум 34.
Медицина и здравоохранение представляют собой обширное поле деятельности для внедрения искусственного интеллекта (ИИ) как в области диагностирования и профилактики заболеваний, так и в области оказания медицинской помощи [1]. По мнению экспертов, основными направлениями развития ИИ в здравоохранении являются разработка методов диагностики на основе обезличенных баз данных исследований и апробации лекарств; создание цифровых двойников человека, способствующих ускоренному лечению пациентов за счет моделирования предложенных методов лечения [2]. Использование продуктов ИИ в Кузбассе даст возможность решить целый комплекс задач: повысить эффективность диагностики заболеваний и точность дозировки лекарственных препаратов, обеспечить возможность проведения сложнейших операций с использованием роботизированных хирургических комплексов и телемедицинских технологий.
Строительство Медицинского института им. Березина Сергея (МИБС) в Кемерово предполагает создание современного медицинского учреждения, использующего продукты ИИ в диагностике. Ряд систем ИИ позволяет медицинским учреждениям детально анализировать клинические данные и получать более глубокое представление о здоровье пациентов. Это дает возможность снизить стоимость медицинской помощи за счет более эффективного использования ресурсов и значительно упростить заботу о здоровье населения с учетом развития технологий бережливого производства в здравоохранении области5. Одновременно ИИ должен найти применение в области генетики, создания бионических протезов с использованием 3D принтеров, а также в качестве роботов-хирургов, медсестер и виртуальных врачей-ассистентов6. Но внедрение ИИ требует от врачебного сообщества региона переосмысления взаимоотношений с его продуктами, способности осваивать новое в медицинской практике, современного понимания роли врача, работающего с данными продуктами. Следовательно, в настоящий момент социологические исследования в данной области актуальны.
Рынок программных продуктов и аппаратного обеспечения ИИ в области здравоохранения весьма быстро растет и развивается. Стоит отметить, что в 2020 г. инвестиции в данное направление составляли $6,627 млрд, в 2021 г. они составили уже порядка $11 млрд, при этом темп роста рынка составляет 44,9 %. В 2026 г. инвестиции в программы ИИ в здравоохранении достигнут $45,6 млрд [3]. Для реализации российского проекта «Искусственный интеллект» будет выделено 86,5 млрд руб. на принципах частно-государственного партнерства.
Лидерами рынка являются США, Китай и Япония, хотя в 2021 г. в России имелось порядка 35 отечественных продуктов ИИ, реализуемых по 3 направлениям: цифровая диагностика и профилактика, лечение заболеваний, системы управления здравоохранением и организации работы медицинских учреждений7. Реализация разработок в области искусственного интеллекта базируется на основе информационных систем, получивших
1 О развитии искусственного интеллекта в Российской Федерации (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 г.»). Указ Президента РФ № 490 от 10.10.2019. СПС КонсультантПлюс.
2 Цифровая экономика Российской Федерации. Паспорт национальной программы. URL: http://static.government.ru/media/files/urKHm0gTPPnzJlaK w3M5cNLo6gczMkPF.pdf (дата обращения: 14.02.2022).
3 Единая государственная информационная система в сфере здравоохранения. Медицинский информационно-аналитический центр. URL: https:// miacugra.ru/poleznaya-informatsiya/egisz.php (дата обращения: 23.02.2022).
4 Минздрав поручил регионам срочно внедрить в медорганизациях минимум одно решение на основе ИИ. Медвестник. URL: https://medvestnik. ru/content/news/Minzdrav-poruchil-regionam-srochno-vnedrit-v-medorganizaciyah-minimum-odno-reshenie-na-osnove-II.html (дата обращения: 23.02.2022).
5 Искусственный интеллект в медицине: сферы, технологии и перспективы. Habr. URL: https://habr.com/ru/company/first/blog/682516/ (дата обращения:18.02.2022).
6 Скурат К. Цифровые двойники осваиваются в медицине. ComNews. URL: https://www.comnews.ru/content/216900/2021-10-14/2021-w41/cifrovye-dvoyniki-osvaivayutsya-medicine (дата обращения: 15.02.2022).
7 Каспарьянц Д. Анализ рынка искусственного интеллекта в 2021 году. ФГУП «ГРЧЦ». URL: https://rdc.grfc.ru/2021/11/artificial-intelligence-market-analysis/ (дата обращения:15.02.2022).
п О J=! S
0
Л О
1
S
Я
У
а
"О А со Л м
1 S Я
Golovko O. V., Kharlampenkov E. I. BULLETIN
__KEMEROVO STATE UNiVERSiTY
Areas for Artificial Intelligence politology, sociology and economics
z
Ы
S
Ы
О
<
<
о ^
о о
hJ
CD
U О m
обозначение IT+DT+AI+IOT, или цифровых платформ, построенных на данной парадигме, включающей всеобщую цифровизацию процессов и компьютеризацию рабочих мест (1Т), накопление данных и использование технологий мощной обработки информации (ОТ), роботизированные алгоритмы искусственного интеллекта, работающие как в партнерстве с человеком, так и самостоятельно (А1), и мощную вычислительную сеть (ЮТ) [4].
Продукты ИИ, реализуемые в России и мире, охватывают не все области медицины ввиду сложности решаемых задач. Наибольшее число программных продуктов нацелено на диагностирование онкологических заболеваний и заболеваний дыхательной системы, наименьшее связано с диагностикой сердечно-сосудистых заболеваний и кровеносной системы [5]. В Кузбассе на основе грантовой поддержки реализуется проект «Разработка интеллектуального программно-аппаратного комплекса с использованием алгоритмов компьютерного зрения для автоматизации дифференциальной диагностики нео-натальной желтухи у новорожденных»8. Определение перспективных направлений развития ИИ, на наш взгляд, должно быть связано со статистикой заболеваний как в целом по России, так и по регионам. Достаточно важно провести социологические исследования и оценить отношение медицинского сообщества к проблемам развития и внедрения продуктов искусственного интеллекта в регионе с учетом структуры заболеваемости населения области [6].
Кузбасс представляет собой уникальный регион, в котором структура заболеваний связана с природными и экологическими условиями, техногенными факторами и общей социально-экономической ситуацией. Как показывают статистические данные, за период 2015-2021 гг. в области отмечен значимый прирост заболеваемости у взрослого населения по 17 классам и группам болезней; у детей и подростков по 6 и 4 соответственно. Достаточно высокий прирост отмечен по новообразованиям (10 %), болезням эндокринной системы (16,4 %), болезням органов дыхания, таких как астма и астматический статус (28,1 %), болезням органов пищеварения (11,3 %). Наибольшую долю в заболеваемости жителей Кузбасса составляют болезни системы кровообращения - это 22,1 % от общей заболеваемости в регионе, причем наиболее
часто у жителей области выявляют заболевания, которые характеризуются повышенным артериальным давлением (51,5 %). На втором месте по распространенности - ише-мическая болезнь сердца (19 %), а третью строчку занимают цереброваскулярные болезни (18,3 %)9.
Социологические исследования в области внедрения ИИ в медицину Кузбасса представляют определенный интерес. При этом необходимо использовать медико-социологические исследования, направленные на точки соприкосновения медицинского знания и истории конкретного социума (врачей), имея при этом целью изучение закономерностей адаптации социума к изменениям его медико-социальной ролевой структуры функционирования (врач, менеджер здравоохранения) в условиях внедрения продуктов ИИ в практику здравоохранения10.
Неблагополучная экологическая обстановка и сложная социально-экономическая ситуация привели к тому, что область входит в число лидеров по заболеваемости туберкулезом в России заняв 3 место в 2019 г. (93,7 заболевших на 100 тыс. населения11). Причем болеют туберкулезом, становятся инвалидами и умирают чаще всего трудоспособные люди 34-44 лет. Стоит рассмотреть динамику заболеваемости туберкулезом по возрастным категориям населения в области. Если у детей в возрасте 0-14 лет число заболевших составляет 9,5 на 100 тыс. человек, то в возрасте 15-17 лет эта доля увеличивается до 33,8 на 100 тыс. Необходимо отметить тесную связь заболеваемости туберкулезом и ВИЧ - данные статистики на апрель 2021 г. свидетельствуют, что количество инфицированных в Кузбассе составляет 35370 человек, больше, чем в соседних областях12. При этом число умерших от туберкулеза, ВИЧ и паразитарных болезней составляет 76,1 человек на 100 тыс. населения. Исходя из этого, создание программных продуктов в области ИИ для диагностирования и лечения этих заболеваний представляется важнейшей задачей на современном этапе13.
Развитие пандемии СОУШ-19 в регионе должно стимулировать внедрение программных продуктов ИИ для диагностики и лечения данного заболевания. Начало 2022 г. было ознаменовано резким ростом заболеваемости в регионе, причем с 23 января по 20 февраля рост заболеваемости носил экспоненциальный характер. Только с конца февраля рост заболевших начал снижаться и вышел на плато в марте [7].
8 Краюшкин П. В. Возможности искусственного интеллекта в диагностике онкологических заболеваний. Премиум Эстетикс. URL: https://www. premium-a.ru/stati_v_smi/vozmozhnosti-iskusstvennogo-intellekta-v-diagnostike-onkologicheskih-zabolevanij/ (дата обращения:17.02.2022).
9 Ильина А. Минздрав Кузбасса рассказал, у кого чаще всего выявляют болезни сердца и сосудов. NGS42.RU. URL: https://ngs42.ru/text/ health/2020/12/18/69632731/ (дата обращения:19.02.2022).
10 Деларю В. В. Конкретные социологические исследования в медицине. Волгоград, 2005. 97 с. URL: http://www.medpsy.ru/library/library040.php (дата обращения: 20.02.2023).
11 Статистика по Кемеровской области. URL: https://russia.duck.consulting/regions/42 (дата обращения: 20.02.2023).
12 Кузбасс стал самым пораженным ВИЧ-инфекцией регионом России. NGS42.RU. URL: https://ngs42.ru/text/health/2021/10/17/70198670/ (дата обращения: 20.02.2023).
13 Ильина А. «Тут без розовых мечт»: Наталья Зубаревич высказалась об улучшении ситуации по ВИЧ и туберкулезу в Кузбассе. NGS42.RU. URL: https://ngs42.ru/text/health/2021/08/16/70080470/ (дата обращения: 22.03.2022).
Социологические аспекты направлений внедрения
Методы и материалы
Медико-социологическое исследование для оценки восприимчивости и возможности использования программных продуктов ИИ в практической деятельности было проведено на основе выборочного опроса. Это системный способ сбора данных путем опроса репрезентативной совокупности выборки опрашиваемых, означающей, что по выделенным параметрам / критериям состав обследуемых должен приближаться к соответствующим пропорциям в генеральной совокупности [8]. При проведении исследования использовался метод кластерной выборки, предусматривающий классификацию опрашиваемых групп медицинских работников на практикующих врачей; врачей, совмещающих практику с преподавательской деятельностью; врачей, преподающих на клинических кафедрах и нечасто участвующих в лечебной деятельности. Для более детальных исследований использовался метод фокус-групп - фокусированное интервью в форме групповой дискуссии, направленное на получение субъективной информации о том, как участники воспринимают продукты ИИ и возможность их использования в практической деятельности.
Формирование выборки опрашиваемых представляло сложную задачу. С одной стороны, увеличение количества опрашиваемых уменьшает ошибку выборки, представляющую собой разность между характеристиками выборочной и генеральной совокупности. С точки зрения уменьшения ошибки выборки число опрашиваемых должно было составлять 400 человек14. С учетом анализа внедрения продуктов ИИ в медицинских учреждениях страны и области, было принято решение сфокусироваться на тех медицинских организациях, которые уже внедрили продукты ИИ или стоят на пороге их внедрения во врачебную практику и исследовать мнения врачей данных лечебных учреждений. За счет этого выборочная совокупность уменьшилась до 133 респондентов.
Формированию фокус-групп предшествовала многостадийная подготовка. Был составлен список медицинских учреждений для проведения опроса и сформирована анкета, которая была выслана интервьюируемым заранее. Фокус-группы созавались на основе индикаторов, определяющих положение участников, и показателей, характеризующих их квалификацию, опыт работы, возраст и другие виды поведения15. При проведении опросов обеспечивалась гомогенность фокус-групп.
Мировая практика свидетельствует об интенсивной разработке продуктов ИИ в области здравоохранения.
Во-первых, это разработка системы аудио скрининга для оценки состояния здоровья пациентов, при этом ИИ ведет диалог на основе предустановленных вопросов, понимает смысловую нагрузку в диалоге, собирает и обрабатывает результаты для последующей оценки рисков и передает сформированные данные команде по контролю и предупреждению эпидемий, которая принимает решение о дальнейшем способе лечения пациентов. Важным инструментом в борьбе с коронавирусом является про-граммый продукт ИИ по сканированию лиц людей для определения пациентов с высокой температурой. Перспективным направлением в борьбе с СОУШ-19 является разработка прогнозов развития пандемии в различных регионах на основе машинного обучения, что необходимо для определения требуемого количества врачей и медицинского персонала, организации материально-технического снабжения больниц всем необходимым и проработке сценариев по развитию пандемии [9]16.
Борьба с пандемией невозможна без создания эффективных лекарственных препаратов, особенно в условиях ограниченного времени на их разработку. В процессе создания вакцин и лекарств пришлось решать такую проблему, как изменения вируса при помощи алгоритмов прогнозирования структуры рибонуклеиновой кислоты (РНК) вируса под воздействием тех или иных препаратов, разрабатываемых вакцин. На первом этапе борьбы необходимо было выявить возможность использования уже существующих антивирусных препаратов для лечения, и эта задача была решена с использованием машинного обучения в рамках выведения контекстных связей между вирусами и лекарствами. Быстрая диагностика является ключом к ограничению заражения, при этом инструменты ИИ могут помочь в выявлении цепей передачи вирусов и мониторинге распространения инфекции [10].
Можно привести примеры использования ИИ в российской практике борьбы с пандемией. Наряду с методами прогнозирования и разработки вакцин, во врачебной практике были использованы такие методы, как электронный стетоскоп, позволяющий дистанционно узнавать о состоянии легких пациента и в 73 % случаев распознавать определенные шумы - хрипы и свисты, а также несколько моделей нейронной сети для классификации наборов данных КТ и вычисления вероятности заражения коронавирусом. Таким образом, искусственный интеллект является важным инструментом в борьбе
- 17
с пандемией17.
14 Крупина Е. Простыми словами о выборке. URL: https://medium.com/designkontur/простыми-словами-о-выборке-e6709423dfaa (дата обращения: 19.02.2022).
15 Колесников Ю. С. Методика проведения фокус-групп. Psyfactor.org. URL: https://psyfactor.org/lib/focus_group.htm (дата обращения: 19.02.2022).
16 Стенограмма совещания о санитарно-эпидемиологической обстановке в России (13.04.2020). Президент России. URL: http://prezident.org/tekst/ stenogramma-soveschanija-o-sanitarno-epidemiologicheskoi-obstanovke-v-rossii-13-04-2020.html (дата обращения: 24.02.2022).
17 Каким медицинским инновациям помогла пандемия COVID-19. РБК. URL: https://trends.rbc.ru/trends/industry/6152cc769a794789079a2d40 (дата обращения: 04.03.2022).
0 О
J=!
S О
Л О
1
S я
У
а
-о А
со Л
м
1 S Я
Golovko O. V., Kharlampenkov E. I. BULLETIN
__KEMEROVO STATE UNiVERSiTY
Areas for Artificial Intelligence politology, sociology and economics
z
Ы
S
Ы
О
<
<
о ^
о о
hJ
CD
U О m
Необходимо отметить, что врачебное сообщество подвергало продукты ИИ критике на основании определенной недостоверности предоставляемых диагностических данных. Действительно, ряд пользователей программ ИИ отмечает, что в 20 % случаев диагноз, в том числе требующий госпитализации пациента, не определяется ИИ, что связано с рядом особенностей развития искусственного интеллекта. Во-первых, существуют проблемы разработки алгоритмов принятия решений и создания нейросетей, которые по количеству нейронов пока не превысили количество нейронов мозга мухи дрозофилы (100 тыс.). Во-вторых, необходима доработка алгоритмов, базирующихся на неточной экспертной логике для анализа больших объемов данных, позволяющей выявлять в них закономерности, что необходимо для постановки диагнозов. Третья проблема - это создание систем по обучению и самообучению искусственного интеллекта [11; 12]. Проводя аналогии искусственных нейронных сетей с биологическими организмами, необходимо отметить, что по числу нейронов ИИ находится на уровне мозга осьминога, а достижение числа нейронов, сравнимого с числом нейронов в мозге человека, и возможности решения задач на уровне человеческого интеллекта ожидается не ранее 2050 г.18
Результаты
Работы по анализу и оценке внедрения ИИ в систему здравоохранения Кузбасса отсутствуют, в связи с чем изучение мнения медицинского сообщества по данной проблеме представляет интерес. Социологический опрос, проведенный авторами, представляет собой метод социологического исследования, заключающийся в сборе и получении первичных эмпирических сведений об определенных мнениях, знаниях и социальных фактах, составляющих предмет исследования, путем устного или письменного взаимодействия исследователя и заданной совокупности респондентов [13].
В исследовании приняло участие 133 респондента, из них 69,7 % совмещают клиническую работу с преподавательской деятельностью, 18,2 % занимаются только преподавательской деятельностью на клинических кафедрах и непосредственно связаны с практикой лечения пациентов, а остальные 12,1 % респондентов работают в клиниках.
Интервьюируемые отметили, что термин и основные направления развития ИИ им вполне знакомы, при этом 39,4 % определили, что ИИ способен решать и выполнять задачи, решаемые человеческим разумом, а 36,4 % связывают ИИ с бионическим направлением,
разрабатывающим модели решения задач, аналогичные процессам, происходящим в мозге человека. И если по вопросам, связанным с теоретическими понятиями ИИ, мнения не отличались разнообразием, то по практическим вопросам реализации программ ИИ, респонденты указывали различные направления, с которыми они сталкивались в своей практике или которые им известны. Так, на вопрос «С какими направлениями использования искусственного интеллекта вы знакомы или сталкивались в клинической практике?», 42,4 % ответили, что сталкивались с использованием хирургических роботов-ассистентов, 30,3 % знают об использовании баз данных для постановки диагнозов, 24,2 % используют компьютерное зрение в процессе постановки диагнозов, а 33,3 % не взаимодействовали с ИИ в своей практике. Отрицательные ответы хорошо коррелируют с российской статистикой использования искусственного интеллекта, отмечающей, что в большинстве регионов внедрены и активно используются 1, максимум 2 программных продукта ИИ19.
Стоит отметить, что большинство продуктов ИИ в российских клиниках связаны с системой поддержки принятия врачебных решений (СППВР) [14]. В настоящее время в России существует 28 СППВР, позволяющих проводить лечение и мониторинг здоровья пациентов20. При этом ответы респондентов о знаниях и умениях использовать данные системы разделились приблизительно поровну - 42,4 % указали, что в своей практике они используют информационно-справочные, гибридные и интеллектуальные СППВР, 57,6 % указали, что они не знакомы с данными продуктами. Респонденты, ответившие утвердительно, в основном работают в крупных лечебных учреждениях области, которые в последнее время достаточно интенсивно компьютеризируются. Использование медицинских калькуляторов, обеспечивающих доступ к специализированной медицинской информационной системе и являющихся определенным типом программного обеспечения, более распространено. 70 % респондентов используют калькуляторы для диагностики, оценки шкал и дозировки лекарств. Только 30 % не пользуются в своей практике калькуляторами. В настоящее время широко используется программное обеспечение для гаджетов, которое позволяет контролировать состояние организма. Так, к данным программам положительно относятся 66,7 % респондентов, нейтрально - 30,3 %, негативно - 3 %.
Большой интерес представляет оценка перспективности основных направлений развития ИИ в медицинской практике. С учетом областей своей деятельности респонденты выделили следующие направления:
18 Различия между искусственными и биологическими нейронными сетями. MachineLearningMastery.ru. URL: https://www.machinelearningmastery.ru/ the-differences-between-artificial-and-biological-neural-networks-a8b46db828b7/ (дата обращения: 05.03.2022).
19 Искусственный интеллект в медицине России. Zdrav.Expert. URL: https://zdrav.expert/a/570565 (дата обращения: 09.03.2022).
20 Гусев А. В. Обзор Российских систем поддержки принятия врачебных решений (СППВР). Webiomed. URL: https://webiomed.ru/blog/obzor-rossiiskikh-sistem-podderzhki-priniatiia-vrachebnykh-reshenii/ (дата обращения: 10.03.2022).
Социологические аспекты направлений внедрения
57,6 % высказались в пользу мониторинга состояния тяжелобольных с целью выявления критических ситуаций и назначения реанимационных мероприятий; 36,4 % перспективными направлениями считают нейропроте-зирование и биопротезирование [15]; 30,3 % - врачей-ассистентов с ИИ, а 24,2 % и 15,2 % - компьютерное зрение и речевую диагностику пациентов соответственно. При этом 30,3 % отметили, что на данном этапе ни один продукт ИИ не сможет сравниться со знаниями и опытом практикующего врача. Ситуация свидетельствует, что ИИ и врач должны дополнять друг друга в процессе диагностики, мониторинга и лечения пациента [16].
Необходимо отметить, что о реализации продуктов ИИ в Кемеровской области как практикующие врачи, так и специалисты, совмещающие лечебную деятельность с преподавательской, информированы недостаточно. На вопрос о внедрении российских продуктов ИИ в практическом здравоохранении на территории Кузбасса 72,7 % ответили, что это перспектива ближайшего будущего, хотя программный продукт хОепСк^ для прогнозирования онкологических заболеваний
используется в Кузбасском областном онкологическом
21
диспансере21.
Также врачи демонстрируют инертность в вопросе разработки и внедрения продуктов ИИ. На вопрос «Желаете ли Вы принять участие в разработке программ искусственного интеллекта с учетом специфики Вашей работы?» 24,2 % респондентов ответили, что хотели бы принять участие; 27,3 % категорически отказались; большая часть (48,5 %) сообщили, что не задумывались над данным вопросом, считая, что в их практике это нецелесообразно [17]. Наиболее актуальными направлениями развития ИИ, в которых хотели бы принять участие респонденты, являются разработка программ для диагностики заболеваний (72,4 %), разработка программ для врачей-ассистентов (17,2 %), внедрение роботов-хирургов и роботов-медсестер (3,4 %) [18].
Анализируя структуру заболеваемости в Кузбассе, стоит отметить, что диспансеризация 2022 г. позволила выявить порядка 36 тыс. заболеваний на ранних стадиях, что свидетельствует о повышении роли диагностических продуктов для выявления заболеваемости22. Лидирующее
место занимают болезни системы кровообращения, хотя данные свидетельствуют о сокращении смертности по данной группе заболеваний на 15 % в 2022 г. по сравнению с 2021 г. Велико число болеющих онкологическими заболеваниями в области - их число в 2022 г. составило 62 тыс. человек, при этом в 2021 г. на ранних стадиях выявлено около 9,3 тыс. заболевших, среди которых превалировал рак молочной железы (14 %), органов дыхания (11 %) и предстательной железы (9 %)23.
Наиболее перспективное направление внедрения ИИ в медицине - это область диагностики. Создание диагностических продуктов ИИ, способных выявить цепи передачи вирусов для обнаружения и прогнозирования распространения СОУШ-19, должны дать толчок к созданию аналогичных продуктов, помогающих в борьбе с другими инфекционными заболеваниями в регионе, например, с корью, вспышка которой была зафиксирована в Кузбассе в начале 2023 г.24 В настоящее время в России реализуется 47 ИИ-систем в области медицины и здравоохранения, включая программные продукты в области анализа медицинских изображений и диагностики (SberMedAi, Секш, 8аЬеиа и др.), профилактики и лечения заболеваний (Webiomed, MeDiCase, Lexema-Medicine и др.). И если в 2019 г. в области был внедрен только один продукт ИИ семейства xGen, то в 2022 г. все медучреждения области получили возможность проведения телемедицинских конференций, реализуется программа «Цифровой ФАП», предоставляющая возможность телеконсультации фельдшера с узкими специалистами на месте. «Расшифровка ЭКГ с помощью ИИ сократит время прохождения диспансеризации в несколько раз. Благодаря использованию комплекса можно оперативно выявить отклонения от нормы, заподозрить ряд заболеваний и вовремя отправить пациента в поликлинику на дообследование»25.
С 2020 г. в области запущена интеллектуальная система «робот-консультант», в том числе для звонков по номеру 122, что упростило запись к врачу26. В Кузбассе реализуется программа «Создание единого цифрового контура в здравоохранении на основе единой государственной информационной системы в сфере здравоохранения (ЕГИСЗ)». Проект посвящен
21 Ноэль Я. Как машинное обучение помогает в борьбе с онкологией. РБК. URL: https://trends.rbc.ru/trends/industry/610032979a7947c814cd616c (дата обращения: 12.03.2022).
22 Логинов А. У жителей Кузбасса в 2022 году выявлено почти 36 тысяч заболеваний. Царьград. URL: https://kemerovo.tsargrad.tv/news/u-zhitelej-kuzbassa-v-2022-godu-vyjavleno-pochti-36-tysjach-zabolevanij_702515 (дата обращения: 17.02.2023).
23 Власти рассказали, какой вид рака выявляют у кузбассовцев чаще всего. NGS42.RU. URL: https://ngs42.ru/text/health/2023/01/22/71995325/ (дата обращения: 20.02.2022).
24 Сергеева А. В Кузбассе выявили 16 случаев заражения корью. Комсомольская Правда. URL: https://www.kem.kp.ru/daily/27470.5Z4724718/ (дата обращения: 24.02.2022).
25 Искусственный интеллект помогает улучшить медпомощь в регионах. Аргументы и Факты. URL: https://perm.aif.ru/health/iskusstvennyy_intellekt_ pomogaet_uluchshit_medpomoshch_v_regionah (дата обращения: 20.02.2022).
26 Сергей Цивилев: К^басс будет активнее внедрять технологии на основе искусственного интеллекта. Администрация Правительства Кузбасса. URL: https://ako.ru/news/detail/sergey-tsivilev-kuzbass-budet-aktivnee-vnedryat-tekhnologii-na-osnove-iskusstvennogo-intellekta (дата обращения: 21.02.2022).
О О J=! S
0
Л О
1
S
Я
У
а
"О А со Л м
1 S Я
Golovko O. V., Kharlampenkov E. I. BULLETIN
__KEMEROVO STATE UNIVERSITY
Areas for Artificial Intelligence politology, sociology and economics
z
Ы
S
Ы
О
<
<
цифровизации и повышению эффективности функционирования системы здравоохранения с использованием продуктов ИИ27. Стоит отметить, что по темпам внедрения продуктов ИИ в медицинскую практику Кузбасс находится на одном уровне с большинством субъектов Российской Федерации, в области приняты программы по развитию ИИ, что должно дать возможность интенсификации данного направления.
Использование ИИ в любой сфере, в том числе и медицине, связано с опасениями конкуренции, потери работы в ряде областей медицины, неверием в возможности ИИ [19]. Так, 30,3 % интервьюируемых отметили, что на данном этапе развития ни один программный продукт ИИ не сравнится с опытом практического врача [20]. Современная статистика подтверждает это, свидетельствуя, что ИИ ставит правильный диагноз только в 80 % случаев. Считается, что в среднем врачи допускают ошибки при лечении в 10 % случаев [21]. А расхождение между посмертным и жизненным диагнозами составляет 20-25 %28. Данную проблему внедрения ИИ в практическое здравоохранение подтверждают ответы 81,8 % анкетируемых, указывающих на возможные ошибки в диагнозах, а 48,5 % отмечают, что зачастую точность распознавания изображений не позволяет поставить точный диагноз. Недостаточная компьютерная грамотность медперсонала, сбои в алгоритмах работы ИИ, неточности методов обучения могут привести к ошибкам, вызванным не качеством программных продуктов, а человеческим фактором, что отметили 45,5 % [22]. Однако динамичное развитие ИИ и совершенствование методов машинного обучения с каждым годом делает ИИ умнее.
Важным элементом взаимодействия ИИ и человека является и этика. 27,3 % респондентов отмечают, что не понимают, как ИИ получает тот или иной результат, 18,2 % опасаются сокращения количества рабочих мест, а 6,1 % - роста конкуренции между врачами по уровню владения информационными технологиями [23]. По данным исследователей Oxford Martin School, вероятность автоматизации труда терапевтов и хирургов составляет 0,4 %, что дает надежду на сохранение ценности труда врача в ближайшее время29. Искусственный интеллект упрощает рабочие процессы и повышает их эффективность, решая рутинные задачи, а также помогает врачам быстро получать ответы, связанные с вопросами диагностирования30.
Обсуждение
Развитие ИИ в Кемеровской области предполагает использование разработанных зарубежных и отечественных продуктов и центров компетенций, способных внедрять данные продукты в региональном здравоохранении. В 2020 г. была сформирована и утверждена «Стратегия цифровой трансформации государственного управления Кузбасса», следующей стадией которой должна стать цифровизация здравоохранения области31. В настоящий момент программы ИИ внедряются в call-центрах Министерства здравоохранения Кузбасса, жители области имеют возможность использовать симптом-чекеры ведущих российских разработчиков. Из продуктов ИИ, внедренных в практической деятельности лечебных учреждений области, можно отметить лишь СППВР семейства xGen, которые позволяют проводить диагностику по рентгеновским снимкам. Программа Voice2Med, внедряемая в настоящее время специалистами Кузбасского областного информационно-аналитического центра, должна экономить время врача благодаря голосовому заполнению медицинской документации.
Проблемам внедрения ИИ в практическую деятельность посвящено множество работ, рассматривающих вопросы машинного обучения; внедрения технологии Big Data для создания диагностических программ; разработки и обучения программных продуктов, позволяющих диагностировать заболевания сердечно-сосудистой системы; оценки диагностической точности системы скрининга туберкулеза легких и ряда других заболеваний. Тем не менее внедрение продуктов ИИ носит дуалистичный характер, что подтверждается работами ряда авторов по оценке философских аспектов внедрения ИИ, взаимодействия врача и ИИ, оценки рисков сохранения рабочих мест, юридических аспектов [9; 14; 17; 18]. Авторы отмечают, что разработка все более технологичных решений во всех областях деятельности человека, в том числе и в медицине, быстро приводит общество к цифровизации, а человека -к кибернетизации, что, опять же, создает новые вызовы. На данный момент в медицине системы с ИИ используют слабый искусственный интеллект, разработанный и ориентированный на решение прикладных, узкоспециализированных задач: анализа электрокардиограмм и электроэнцефалограмм, расшифровки результатов компьютерной томографии и снимков, полученных методом
О ^
О
о
hJ
О
и о
m
27 Реализация регионального проекта «Создание Единого цифрового контура в здравоохранении на основе ЕГИСЗ». Кузбасский областной медицинский информационно-аналитический центр имени Р. М. Зельковича. URL: https://komiac.ru/news/2690/ (дата обращения: 22.02.2023).
28 Кандалинцева К. Существует 20-25 % расхождений прижизненных и посмертных диагнозов. Коммерсантъ. URL: https://www.kommersant.ru/ doc/2981897 (дата обращения: 13.03.2022).
29 Конюховская А., Цыпленкова В. Роботы, искусственный интеллект и проблема сокращения рабочих мест. Control Engineering Russia. URL: https:// controlengrussia.com/innovatsii/robototehnika/roboty-i-rabochie-mesta/ (дата обращения: 15.03.2022).
30 Гусев А. В., Добриднюк С. Л. Искусственный интеллект в медицине. Webiomed. URL: https://webiomed.ru/blog/iskusstvennyi-intellekt-v-meditsine/ (дата обращения: 15.03.2022).
31 Стратегия в области цифровой трансформации отраслей экономики, социальной сферы и государственного управления Кемеровской области - Кузбасс. URL: https://www.tadviser.ru/images/8/80/D_45491021.pdf (дата обращения: 17.03.2022).
Социологические аспекты направлений внедрения
магнитно-резонансной томографии, описания рентгенограмм, а также разработки и назначения лекарственных средств, что дает возможность использовать ИИ как
32
помощника или консультанта врача32.
Внедрение ИИ в здравоохранение региона должно, на наш взгляд, базироваться на комплексной цифровиза-ции региона, соответствующей следующим критериям33:
• наличие инфраструктуры, в том числе автоматизированных рабочих мест (АРМ);
• внедрение медицинских информационных систем и информационное взаимодействие с ЕГИСЗ;
• использование электронных услуг и сервисов для записи к врачу на портале Госуслуг;
• внедрение централизованных информационных систем в региональном здравоохранении, а также межведомственного электронного взаимодействия.
Стоит отметить, что в 2021 г. Кемеровская область входила в состав регионов со среднем уровнем цифровой зрелости, который находился в пределах 25-50 %34. В 2022 г. ситуация по показателю цифровой зрелости Кемеровской области кардинально изменилась. По итогам трех кварталов область занимает 4 позицию с общим рейтингом 21. В группу показателей, определяющих цифровую зрелость, входит и пункт о мерах поддержки 1Т-отрасли35.
Результаты проведенных социологических исследований показали, что медицинское сообщество хоть и относится к ИИ настороженно, но понимает, что его развитие и внедрение способно улучшить скорость и качество лечения определенных групп заболеваний, распространенных на территории области [24].
Заключение
С учетом того, как ИИ используется в медицине Кузбасса, основными направлениями развития данной области являются:
• просветительская работа по повышению цифровой грамотности использования ИИ в практической деятельности медперсонала с привлечением 1Т-компаний;
• разработка финансируемой стратегической программы по внедрению ИИ в деятельность медучреждений с учетом аппаратурной поддержки;
• создание в рамках научно-образовательных центров коллективов, включающих представителей медицинского сообщества и IT-специалистов, для создания или адаптации программных продуктов ИИ;
• замена устаревших операционных систем в ряде организаций здравоохранения области на более современные, позволяющие внедрять программы ИИ;
• активное внедрение процессов цифровизации здравоохранения с широким внедрением АРМ врача;
• разработка и реализация обучающих программ дополнительного профессионального образования под общим названием «Архитектор программ искусственного интеллекта», направленных на подготовку специалистов по внедрению и адаптации программ ИИ в медицинских учреждениях области.
Направление медицины и здравоохранения уже сегодня считается одним из наиболее перспективных с точки зрения эффективного внедрения ИИ. Реализация представленных предложений может массово повысить точность диагностики, ускорить лечение пациентов с различными заболеваниями и вывести кузбасское здравоохранение на новый уровень развития.
Конфликт интересов: Авторы заявили об отсутствии потенциальных конфликтов интересов в отношении исследования, авторства и / или публикации данной статьи. Conflict of interests: The authors declared no potential conflicts of interests regarding the research, authorship, and / or publication of this article.
Критерии авторства: О. В. Головко - формулировка идеи и цели исследования; проверка результатов исследования; сбор информации; критический обзор начальной версии исследования. Е. И. Харлампенков - разработка методологии исследования; разработка анкеты; проверка результатов исследования; написание оригинального черновика; осуществление контроля за проведением исследовательской деятельности; корреспонденция. Contribution: O. V. Golovko - formulation of the idea and purpose; verification; data collection; review (original draft). E. I. Kharlampenkov - development of methodology and the questionnaire; results verification; writing (original draft); supervision; correspondence.
32 Этические проблемы применения искусственного интеллекта в медицине. Vc.ru. URL: https://vc.ru/ml/220966-eticheskie-problemy-primeneniya-isk usstvennogo-intellekta-v-medicine (дата обращения: 22.02.2022).
33 Цифровая медицина: практика применения инновационных решений. ComNews. URL: https://www.comnews.ru/content/215954/2021-08-16/2021-w33/cifrovaya-medicina-praktika-primeneniya-innovacionnykh-resheniy (дата обращения: 19.03.2022).
34 Цифровизация регионов России. TAdviser. URL: https://www.tadviser.ru/index.php/Статья:Цифровизация_регионов_России (дата обращения: 22.03.2022).
35 Составлен новый рейтинг цифровой зрелости регионов. D-russia.ru. URL: https://d-russia.ru/sostavlen-novyj-rejting-cifrovoj-zrelosti-regionov.html (дата обращения: 25.12.2022).
О О J=! S
0
Л О
1
s я
У
а
-о А со Л
M
1
S Я
Areas for Artificial Intelligence
BULLETIN
KEMEROVO STATE UNiVERSiTY politology, sociology and economics
z
Ы
S
Ы
О
<
<
о ^
о о
hJ
CD
U О m
Литература / References
1. Рязанова С. В., Комков А. А., Мазаев В. П. Российский и мировой опыт применения новых технологий искусственного интеллекта в реальной медицинской практике. Научное обозрение. Медицинские науки. 2021. № 6. С. 32-40. [Ryazanova S. V., Komkov A. A., Mazaev V. P. Russian and world experience in the application of new artificial intelligence technologies in real medical practice. Nauchnoe obozrenie. Meditsinskie nauki, 2021, (6): 32-40. (In Russ.)] https://doi. org/10.17513/srms.1215
2. Гусев А. В., Кузнецова Т. Ю., Корсаков И. Н. Искусственный интеллект в оценке рисков развития сердечно-сосудистых заболеваний. Журнал телемедицины и электронного здравоохранения. 2018. № 3. С. 85-90. [Gusev A. V., Kuzne-tsova T. Yu., Korsakov I. N. Artificial intelligence for cardiovascular risks assessment. Zhurnal telemeditsiny i elektronnogo zdravookhraneniia, 2018, (3): 85-90. (In Russ.)] EDN: YWZVKX
3. Kaul V., Enslin S., Gross S. A. History of artificial intelligence in medicine. Gastrointestinal Endoscopy, 2020, 92(4): 807812. https://doi.org/10.1016/j.gie.2020.06.040
4. Гусев А. В., Добридюк С. Л. Искусственный интеллект в медицине и здравоохранении. Информационное общество. 2017. № 4-5. C. 78-92. [Gusev A. V., Dobridyuk S. L. Artificial intelligence in medicine and healthcare. Information Society, 2017, (4-5): 78-92. (In Russ.)]
5. Тарасова К. А. Возможности использования искусственного интеллекта в кардиологии. Российский кардиологический журнал. 2022. Т. 27. № S7. С. 47. [Tarasova K. A. Possible applications of artificial intelligence in cardiology. Russian Journal of Cardiology, 2022, 27(S7): 47. (In Russ.)] EDN: GXVDSV
6. Старцев Д. С. Диагностика болезней сердца на основе метода нейронных сетей. Интеллектуальные системы в науке и технике. Искусственный интеллект в решении актуальных социальных и экономических проблем ХХI века: Междунар. конф. и Шестой Всерос. науч.-практ. конф. (Пермь, 12-18 октября 2020 г.) Пермь: ПГНИУ 2020. С. 465470. [Startsev D. S. Diagnosis of heart diseases based on the neural network method. Intelligent systems in science and technology. Artificial intelligence in solving actual social and economic problems of the XXI century: Proc. Intern. Conf. and the Sixth All-Russian Sci.-Prac. Conf., Perm, 12-18 Oct 2020. Perm: PSU, 2020, 465-470. (In Russ.)] EDN: UDBBYD
7. Журавлева М. В., Каменева Т. Р., Черных Т. М., Чурсина Т. А. Сравнительная характеристика ряда препаратов для лечения острой респираторной вирусной инфекции и гриппа. Доктор.Ру. 2015. № 13. С. 12-19. [Zhuravleva M. V., Kameneva T. R., Chernykh T. M., Chursina T. A. Comparison of some drugs used to treat acute respiratory viral infection and influenza. Doctor.Ru, 2015, (13): 12-19. (In Russ.)] EDN: VBCNYX
8. Сушко В. А., Спасенников Б. А. Социология медицины: вопросы методологии. Бюллетень Национального научно-исследовательского института общественного здоровья имени Н. А. Семашко. 2021. № 2. С. 90-99. [Sushko V. A., Spasennikov B. A. Sociology of medicine: questions of methodology. Bulletin of Semashko National Research Institute of Public Health, 2021, (2): 90-99. (In Russ.)] https://doi.org/10.25742/NRIPH.2021.02.011
9. Морозов С. П., Владзимирский А. В., Ледихова Н. В., Соколина И. А., Кульберг Н. С., Гомболевский В. А. Оценка диагностической точности системы скрининга туберкулеза легких на основе искусственного интеллекта. Туберкулез и болезни легких. 2018. Т. 96. № 8. С. 42-49. [Morozov S. P., Vladzymyrskyy A. V., Ledikhova N. V., Sokolina I. A., Kulberg N. S., Gombolevskiy V. A. Evaluation of diagnostic accuracy of the system for pulmonary tuberculosis screening based on artificial neural networks. Tuberculosis and Lung Diseases, 2018, 96(8): 42-49. (In Russ.)] https://doi. org/10.21292/2075-1230-2018-96-8-42-49
10. Невзорова В. А., Плехова Н. Г., Присеко Л. Г., Черненко И. Н., Богданов Д. Ю., Мокшина М. В., Кулакова Н. В. Методы машинного обучения в прогнозировании исходов и рисков сердечно-сосудистых заболеваний у пациентов с артериальной гипертензией (по материалам ЭССЕ-РФ в Приморском крае). Российский кардиологический журнал. 2020. Т. 25. № 3. С. 10-16. [Nevzorova V. A., Plekhova N. G., Priseko L. G., Chernenko I. N., Bogdanov D. Yu., Mokshina M. V., Kulakova N. V. Machine learning for predicting the outcomes and risks of cardiovascular diseases in patients with hypertension: results of ESSE-RF in the Primorsky Krai. Russian Journal of Cardiology, 2020, 25(3): 10-16. (In Russ.)] https://doi.org/10.15829/1560-4071-2020-3-3751
11. Бринк Х., Ричардс Д., Феверолф М. Машинное обучение. СПб.: Питер, 2023. 336 с. [Brink H., Richards J. W., Fetherolf M. Real-World Machine Learning. St. Petersburg: Piter, 2023, 336. (In Russ.)]
12. Остроух А. В. Введение в искусственный интеллект. Красноярск: Научно-инновационный центр, 2020. 250 с. [Ostroukh A. V. Introduction to artificial intelligence. Krasnoyarsk: Nauchno-innovatsionnyi tsentr, 2020, 250. (In Russ.)] https://doi.org/10.12731/978-5-907208-26-1
13. Левинсон А., Стучевская О. Фокус-группы: эволюция метода (Обзор дискуссии на конференции ESOMAR). Мониторинг общественного мнения: экономические и социальные перемены. 2003. № 1. С. 46-55. [Levinson A., Stuchevskaia O. Focus groups: evolution of the method. Monitoring obshchestvennogo mneniia: ekonomicheskie i sotsialnye peremeny, 2003, (1): 46-55. (In Russ.)] EDN: HTNEGP
ВЕСТНИК Головко О. В., Харлампенков Е. И.
кемеровского государственного университета _
политология, социология и экономика Социологические аспекты направлений внедрения
14. Иванов К. К., Кожевников Д. В., Лужин В. М. Искусственный интеллект. Основные направления исследований. Молодой ученый. 2016. № 28. С. 16-18. [Ivanov K. K., Kozhevnikov D. V., Luzhin V. M. Artificial intelligence. The primary lines of research. Molodoi uchenyi, 2016, (28): 16-18. (In Russ.)]
15. Brandt V., Emrich T., Schoepf U. J., Dargis D. M., Bayer R. R., De Cecco C. N., Tesche C. Ischemia and outcome prediction by cardiac CT based machine learning. The International Journal of Cardiovascular Imaging, 2020, 36: 2429-2439. https:// doi.org/10.1007/s10554-020-01929-y
16. Ившин А. А., Гусев А. В., Новицкий Р. Э. Искусственный интеллект: предиктивная аналитика перинатального риска. Вопросы гинекологии, акушерства и перинатологии. 2020. Т. 19. № 6. С. 133-144. [Ivshin A. A., Gusev A. V., Novitsky R. E. Artificial intelligence: predictive analytics of perinatal risk. Gynecology, Obstetrics and Perinatology, 2020, 19(6): 133-144. (In Russ.)] https://doi.org/10.20953/1726-1678-2020-6-133-144
17. Яковлева Е. В., Исакова Н. В. Искусственный интеллект как современная философская проблема: аналитический обзор. Гуманитарные и социальные науки. 2021. Т. 86. № 6. C. 30-35. [Yakovleva E. V., Isakova N. V. Artificial intelligence as a modern philosophical problem: analytical review. The Humanities and Social Sciences, 2021, 86(6): 30-35. (In Russ.)] https://doi.org/10.18522/2070-1403-2021-89-6-30-35
18. Шапкарин А. М. Философские аспекты проблемы искусственного интеллекта (возможность существования, безопасность, полезность). NovaInfo.Ru. 2018. Т. 1. № 87. С. 33-38. [Shapkarin A. M. Philosophical aspects of the artificial intelligence problem (existence possibility, safety, benefits). NovaInfo.Ru, 2018, 1(87): 33-38. (In Russ.)] EDN: XTOXCH
19. Квашнина Д. А. Философские аспекты влияния искусственного интеллекта на социум. Вестник Томского государственного университета. Философия. Социология. Политология. 2017. № 37. C. 57-61. [Kvashnina D. A. Philosophical aspects of the artificial intelligence impact on society. Tomsk State University Journal of Philosophy, Sociology and Political Science, 2017, (37): 57-61. (In Russ.)] https://doi.org/10.17223/1998863X/37Z6
20. Тимофеев А. В. Сущность и проблемы искусственного интеллекта в контексте современных научных и философских представлений. Вестник Московского государственного областного университета. Серия: Философские науки. 2020. № 2. C. 127-133. [Timofeev A. V. The essence and problems of artificial intelligence in the context of modern scientific and philosophical conceptions. Bulletin of Moscow Region State University. Series: Philosophy, 2020, (2): 127-133. (In Russ.)] https://doi.org/10.18384/2310-7227-2020-2-127-133
21. Гасумова С. Е. Риски цифровизации и роботизации для сферы социальной защиты и социального обслуживания в России. Интеллектуальные системы в науке и технике. Искусственный интеллект в решении актуальных социальных и экономических проблем ХХI века: сб. ст. по мат-лам Междунар. конф. и Шестой всерос. науч.-практ. конф. (Пермь, 12-18 октября 2020 г.) Пермь: ПГНИУУ 2020. С. 633-642. [Gasumova S. E. Risks of digitalization and robotization for social welfare and social service in Russia. Intelligent systems in science and technology. Artificial intelligence in solving actual social and economic problems of the XXI century: Proc. Intern. Conf. and the Sixth All-Russian Sci.-Prac. Conf., Perm, 12-18 Oct 2020. Perm: PSU, 2020, 633-642. (In Russ.)] EDN: LZZCLF
22. Дороганов В. С., Баумгартэн М. И. Возможные проблемы, возникающие при создании искусственного интеллекта. Вестник Кузбасского государственного технического университета. 2013. № 4. С. 132-135. [Doroganov V. S., Baumgarten M. I. Possible problems associated with the creation of artificial intelligence. Bulletin of the Kuzbass State Technical University, 2013, (4): 132-135. (In Russ.)] EDN: QLJMQP
23. Стоцкая Т. Г. Проблема искусственного интеллекта. Традиции и инновации в строительстве и архитектуре. Социально-гуманитарные и экономические науки. Самара: СамГТУУ 2017. C. 39-41. [Stotskaya T. G. The artificial intelligence problem. Traditions and innovations in construction and architecture. Socio-humanitarian and economic sciences. Samara: SamSTU, 2017, 39-41. (In Russ.)] EDN: ZESJLH Ц
24. Мошелла Д. Путеводитель по цифровому будущему: Отрасли, организации и профессии. М.: Альпина Паблишер, 2020. 310 с. [Moschella D. Seeing digital: a visual guide to the industries, organizations, and careers of the 2020s. Moscow: Alpina Pablisher, 2020, 310. (In Russ.)] О
Г
У
А Л
Я
о
