CC BY
34
ПОЛИТИЧЕСКИЕ ТЕХНОЛОГИИ
Амчиславский И.В.
аспирант
ФГАОУВО «Московский государственный институт международных отношений
(университет) Министерства иностранных дел»
AmchNP@mail. т
ИСПОЛЬЗОВАНИЕ ТЕХНОЛОГИЙ НА ОСНОВЕ АЛГОРИТМОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ГОСУДАРСТВЕННОМ УПРАВЛЕНИИ: ВОЗМОЖНОСТИ И РИСКИ ДЛЯ ЛЕГИТИМНОСТИ ГОСУДАРСТВЕННОЙ ВЛАСТИ
Аннотация: в статье анализируется проблема использования правительствами современных технологий, основанных на алгоритмах искусственного интеллекта, и их влияние на легитимность государственной власти. Путем проведения риск-анализа с элементами кейс-стади и метода Дельфи была сформирована база рисков и возможностей технологий на основе искусственного интеллекта с точки зрения их воздействия на легитимность государственной власти. На основе сформированной базы рисков и возможностей автор обосновывает выдвижение гипотезы о влиянии технологий на основе искусственного интеллекта на легитимность государственной власти, а также необходимость проведения количественного исследования для ее проверки.
Ключевые слова: искусственный интеллект, алгоритмы искусственного интеллекта, государственное управление, легитимность государственной власти, кризис, пандемия COVID-19, трекинговые приложения
Актуальность исследования. Пандемия COVID-19, ставшая катализатором целого ряда сложившихся кризисных явлений современного миропорядка, в серьезной степени усугубила комплекс проблем политического и социального характера, создающих угрозы для легитимности государственной власти в целом ряде стран мира. На кризис легитимности государственной власти еще до пандемии COVID-19 указывал целый ряд крупных философов, политологов и социологов1. В частности, Юрген Хабермас отмечал, что процессы глобализации обусловливают неустойчивость и неопределенность траектории общественного развития, а также деформируют ценностное наполнение как частной, так и социальной жизни, что в своем итоге создает дисбаланс и глобальную переоценку ценностей. Таким образом ученый был убежден в том, что глобализация подрывает и трансформирует основные составляющие процесса легитимации социальных институтов, что ведет к распаду феномена легитимности распадается, вовлекая государства в фазу кризиса легитимности2. В свою очередь новый глобальный вызов в лице пандемии COVID-19 еще сильнее обострили вопросы действительного содержания, объема и доступа к реализации гражданами своих прав, а также актуализировал запрос на социальную справедливость, что стало катализатором уже сложившегося кризиса легитимности государственной власти3.
Целью данного исследования является обоснование гипотезы о наличии взаимосвязи между технологиями, основанными на алгоритмах ИИ, и легитимностью государственной
1 Reus-Smit, Christian. International Crises of Legitimacy// International Politics. 44 (2-3): 2007. P.157-174. (дата обращения: 29.01.2022).
2 Habermas, J. The Structural Transformation of the Public Sphere: An Inquiry into a category of Bourgeois Society.-Cambridge, Mass.: MIT Press, 1991. - 326 p.
3 Холоденко, Ю.А. Социально - политические риски постковидного восстановления экономики// Современное общество в условиях социально-экономической неопределенности. XV Международная научная конференция "Сорокинские чтения": Сборник материалов. Москва: МАКС Пресс, 2021. С. 1056.
59
власти, а также определение основных возможностей и рисков, которые заложены в подобных технологиях с точки зрения их влияния на легитимность государственной власти.
Задачи:
1) Оценить современную ситуацию, сложившуюся в мире в связи с применением алгоритмов ИИ в государственном управлении в контексте противостояния пандемии COVГО-19 и снижения уровня доверия граждан к государственной власти.
2) Путем проведения риск-анализа с использованием кейс-стади и метода Дельфи обосновать гипотезу о наличии причинно-следственной связи между использованием правительствами государств алгоритмов ИИ и легитимностью государственной власти.
3) На основании результатов применения риск-анализа, кейс-стали и метода Дельфи составить базу потенциальных рисков и возможностей, которые создают алгоритмы ИИ.
В рамках данного исследования понятие легитимность государственной власти на методологическом уровне концептуализируется согласно подходу, предложенному философом и социологом Юргеном Хабермсом, определявшим легитимность как "феномен представлений социальных субъектов, формирующийся в процессе их коммуникации друг с другом и предполагающий доверие, одобрение и признание социальных институтов, в том числе институтов власти"1. Крайне важно, что согласно концепции Хабермаса, "критериями легитимности того или иного института социального порядка выступают не правовые смыслы или не столько правовые, сколько ценностно-целевые установки, которые группируются в общественный консенсус по поводу обоснованности социальных институтов со стороны ценностно-целевых установок"2.
Сталкиваясь с глобальными вызовами, такими как пандемия COVID-19, правительства неизбежно попадают в своеобразную ловушку. Отвечая на потребность в повышении эффективности государственного управления делается ставка на технократов и технократические решения, одним из которых являются технологии на основе алгоритмов ИИ, однако технократия ведет к недостатку подотчетности и демократизма, так как зачастую реализуются непопулярные меры, что неизбежно наносит ущерб легитимности государственной власти3. В свою очередь легитимность государственной власти является одной из важнейших составляющих эффективности государственной политики, направленной на преодоление таких вызовов как пандемия COVID-19.
Подтверждением того, что пандемия и технократическая госполитика обострила и ранее нараставший кризис легитимности, является резкий рост количества протестов за последние годы. Согласно работе «Мировые протесты: исследование ключевых проблем протеста в 21 веке»4, которая была подготовлена группой исследователей из немецкого аналитического центра Friedrich-Ebert-Stiftung и базирующейся в Колумбийском университете НКО "Инициатива за политический диалог", за последние 15 лет количество протестов в мире утроилось. При этом рост количества протестов наблюдался в каждом регионе планеты. Внимательно изучив более 900 протестных акций в 101 стране, авторы пришли к выводу, что ныне человечество переживает период истории, подобный 1848, 1917 или 1968 годам, когда рекордные массы людей стали требовать изменений. При этом исследователи обнаружили, что 54% протестов связано с дисфункциональностью политической системы, которая не обеспечивала надлежащего уровня представительства
1 Habermas, Jürgen. Legitimation Crisis. Translated by Thomas McCarthy. - Boston: Beacon Press, 1975. - 191 p. P.71-72. URL: https://www.ias.edu/sites/default/files/sss/pdfs/Crisis-and-Critique-2018-19/habermas_legitimation_crisis.pdf (дата обращения: 27.01.2022).
2 Там же, P. 75.
3 Завершинский К.Ф. Легитимность: генезис, становление и развитие концепта// Полис. Политические исследования, 2001. № 2. С. 113.
4 Ortiz, I., Sara Burke, S., Berrada, M., and Saenz Cortés, H. World Protests. A Study of Key Protest Issues in the 21st Century. 2022. URL: https://link.springer.com/book/10.1007/978-3-030-88513-7#toc (дата обращения: 21.01.2022).
60
интересов граждан. В 28% случаях протестующие требовали "реальной демократии", что является самым частым требованием среди всех остальных.
Рисунок 1. Динамика протестных акций в странах мира в 2006-2020 гг. в разрезе ключевых
проблем, ед.
Статистика также подтверждает, что технократическая государственная политика, реализуемая мировыми правительства в качестве ответа на пандемию COVID-19, также лишь усилила протестную активность. По данным Глобального индекса мира, с января 2020 года по апрель 2021 года 158 стран столкнулись с насильственными протестами, связанными с реакцией правительств на пандемию COVID-19. Эти насильственные действия варьировались от индивидуального случая насилия до массовых демонстраций и беспорядков. В целом за указанный период было зафиксировано 5000 подобных инцидентов1.
С учетом вышесказанного можно утверждать, что исследование политических рисков, заложенных в такие технократические инструменты, как технологии на основе алгоритмов ИИ, представляет огромную практическую ценность, позволяя создать инструментарий для снижения политических рисков и соблюдения баланса между эффективностью и легитимностью, а также делая политику внедрения технологий на основе алгоритмов ИИ более предсказуемой и управляемой с точки зрения ее эффектов.
ИИ и методы машинного обучения базируются на ряде алгоритмов, которые строят математическую модель на основе выборочных данных (признаков) и способны автоматически делать прогнозы или принимать решения2. В своей самой базовой форме алгоритмы представляют собой не что иное, как правила «если-то», применяемые к
1 Global Peace Index 2021: Measuring peace in a complex world. URL: https://www.visionofhumanity.org/wp-content/uploads/2021/06/GPI-2021 -web-1 .pdf (дата обращения: 24.01.2022).
2 Pishgar, M., Issa, S.F., Sietsema, M., Pratap, P., Darabi, H. REDECA: A Novel Framework to Review Artificial Intelligence and Its Applications in Occupational Safety and Health.// Int. J. Environ. Res. Public Health 2021, 18, 6705. DOI: https:// doi.org/10.3390/ijerph18136705 (дата обращения: 24.01.2022).
61
некоторым данным путем их классификации, структурирования и связывания1. Алгоритмы ИИ позволяют выбирать наилучшее действие для достижения конкретной цели, учитывая критерии, которые необходимо оптимизировать, и имеющиеся ресурсы2. Именно они являются одним из главных инструментов цифровизации в государственном управлении.
Сегодня алгоритмы ИИ все чаще используются правительствами большинства стран для реализации разнообразных государственных функций: - полицейскими управлениями для прогнозирования преступлений и обоснования решений полиции; - школьными округами для оценки учителей и информирования школьных реформ; - пожарными службами, чтобы предсказать, где возникнет пожар, и определить приоритетность проверок; - в уголовном правосудии; - в здравоохранении и т.д.3 Актуальность алгоритмов подтверждается тем, что они дают широкие возможности для обработки больших массивов данных и автоматического нахождения оптимальных решений множества сложных вопросов.
В рамках пандемии COVID-19 в условиях отсутствия гарантированного способа защититься от инфицирования, а также надежного медикаментозного лечения, технологии на основе алгоритмов ИИ стали играть ключевую в государственных политиках, направленных на управление пандемийными рисками. ИИ используется для отслеживания контактов, социального дистанцирования, мониторинга карантина, анализа эпидемиологических тенденций и прогнозирования случаев COVID-19 и смертности от COVID-19, анализа симптомов, картографирования зон очагов распространения COVID-19.
Ниже представлены данные по 10 странам с наибольшими объемами использования технологий на основе алгоритмов ИИ для борьбы с пандемией4.
Рисунок 2. Страны-лидеры по использованию технологий ИИ в рамках борьбы с пандемией
1 Cormen, T.H., Leiserson, C.E., Rivest, R., Stein, C., Molitor, P. Algorithmen - Eine Einführung (2., korr. A.).-Oldenbourg Wissenschaftsverlag. 2007.XXII. - 1188 s.
2 Sobrino-García, I. Artificial Intelligence Risks and Challenges in the Spanish Public Administration: An Exploratory Analysis through Expert Judgements// Administrative Sciences 11: 102. 2021.
3 Busuioc, М. Accountable Artificial Intelligence in the Administrative State // Public Administration Review, Vol. 81, Iss. 5. 2020. P. 825-836.
4 Majeed, A.; Hwang, S.O. Data-Driven Analytics Leveraging Artificial Intelligence in the Era of COVID-19 // An Insightful Review of Recent Developments. Symmetry 2022.
62
В рамках данного исследования был сделан фокус на наиболее важной с точки зрения эффективности государственной политики сдерживания темпов распространения вируса и наиболее проблемной с точки зрения политических рисков и общественного восприятия технологий ИИ - приложения для трекинга контактов.
Внедрение трекинговых приложений основано на научных данных о том, что отслеживание контактов инфицированных людей имеет решающее значение для контроля за распространением патогена за счет возможности разрыва цепочек передачи инфекции путем выявления и изоляции лиц, находящихся в тесном контакте с инфицированным человеком. Успешное отслеживание контактов - это мощный инструмент для поддержания распространения вируса на управляемом уровне. При этом данные также говорят о том, что трекинг контактов имеет смысл только при максимально оперативном выявлении инфицированных лиц: при задержке с выявлением инфицированных в 3 дня контроль за распространением COVГО-19 становится невозможен. В таких случаях ручное отслеживание контактов не может существенно помочь в сдерживании вируса, особенно когда эпидемия ускоряется в геометрической прогрессии, поэтому единственной возможностью реализацией программы по отслеживанию инфицированных стало повсеместное внедрение трекинговых приложений. Трекинговые приложения используют такие технологии как определение местоположения, определение близости, алгоритмы машинного обучения и автоматизированное принятие решений для тщательного изучения цифрового следа человека и отслеживания тех, кто потенциально заражен, обнаружения их близких контактов и обеспечения соблюдения социального дистанцирования1.
В то же время несмотря на эффективность этих приложений исследования общественного мнения2 показывают, что граждане ряда стран относят в целом негативно к централизованному внедрению данных приложений, в первую очередь опасаясь за безопасность своих персональных данных. В частности, исследователи из Свободного университета Берлина опросили 6 464 респондентов из Китая, США и Германии об их восприятии данных приложений3. Исследование показало, что позитивное общественное восприятие приложений наблюдается лишь в КНР, где почти 60 процентов полностью согласны с использованием этих приложений для сдерживания COVID-19. Это контрастирует с Германией и Соединенными Штатами, где менее 20 процентов полностью одобряют его использование.
Другое исследование, в рамках которого были проведены интервью с гражданами Германии, Швейцарии и Австрии, а также проанализированы публикации СМИ на тему приложений в самом начале процесса их внедрения, также показало, что в общественных настроениях присутствует крайняя настороженность по отношению к данным приложениям. В первую очередь респонденты указывали на то, что их волнует уважение частной жизни, добровольность и временное использование приложений для отслеживания контактов в качестве предпосылок для совместимости с демократическими принципами4. Исследования британского общественного мнения также показали существенную обеспокоенность
1 Calvo, R.A., Deterding, S., Ryan, R.M. Health surveillance during covid-19 pandemic. BMJ.:369. 2020. URL: https://10.1136/bmj.m1373 (дата обращения: 24.01.2022).
2 Samuel, G., Roberts, S.L., Fiske, A., Lucivero, F., McLennan, S., Phillips. A., Hayes, S., and Johnsond, S.B. COVID-19 contact tracing apps: UK public perceptions // CRITICAL PUBLIC HEALTH. 2021, AHEAD-OF-PRINT, 1-13. 2021.
3 Kostka, G., Habich-Sobiegalla, S. In times of crisis: Public perceptions towards COVID-19 Contact Tracing Apps in China, Germany and the US. 2020. URL: https://www.researchgate.net/publication/344283931 (дата обращения: 24.01.2022).
4 Zimmermann, B.M., Fiske, A., Prainsack, B., Hangel, N., McLennan, S., Buyx, A. Early Perceptions of COVID-19 Contact Tracing Apps in German-Speaking Countries: Comparative Mixed Methods Study// JOURNAL OF MEDICAL INTERNET RESEARCH. Vol 23, No 2. 2021: February. URL: https://www.jmir.org/2021/2/e25525/ (дата обращения: 28.01.2022).
защитой персональных данных, а также тем фактом, что государство внедряет технологии тотальной слежки за гражданами1. Аналогичная озабоченность присутствует и в академических исследованиях2.
В целях обоснования гипотезы о наличии взаимосвязи между технологиями на основе алгоритмов ИИ и легитимностью государственной власти в рамках данного исследования был проведен риск-анализ для выявления возможностей и рисков, которые заложены в подобных технологиях с точки зрения их влияния на легитимность государственной власти. Для этого были использованы ряд методов: анализ научной литературы, кейс-стади и метод Дельфи. По итогу применения данных методов была составлена база потенциальных рисков и возможностей, которые создают алгоритмы ИИ.
Таблица 1. Возможности, обуславливаемые внедрением алгоритмов ИИ в государственное управление в контексте легитимности государственной власти
Возможность Код
Внедрение риск-ориентированного подхода на основе алгоритмов ИИ в контрольно-надзорную деятельность обеспечивает более эффективное использование государственных ресурсов 1A
Моделирование сложных системы для осуществления экспериментов с различными политическими решениями и обнаружения непредвиденных последствий 2А
Алгоритмы ИИ могут быть фундаментом для реализации управления, основанного на фактах (evidence based policy) ЗА
Увеличение объемов и скорости принятия решений госорганами 4А
Повышение непредвзятости решений путем исключения человеческого фактора 5А
Снижение затрат на госаппарат 6А
Возможность осуществления постоянного мониторинга алгоритмов ИИ 7А
Технологии на основе алгоритмов ИИ обладают потенциалом для их постоянного улучшения за счет обучения и расширения баз данных 8А
1 Samuel, G., Roberts, S.L., Fiske, A., Lucivero, F., McLennan, S., Phillips. A., Hayes, S., and Johnsond, S.B. COVID-19 contact tracing apps: UK public perceptions // CRITICAL PUBLIC HEALTH. 2021, AHEAD-OF-PRINT, 1-13. 2021.
2 Akinbi. A., Forshaw, M., Blinkhorn, V. Contact tracing apps for the COVID-19 pandemic: a systematic literature review of challenges and future directions for neo-liberal societies// Health Information Science and Systems. № 18. 2021. URL: https://link.springer.com/article/10.1007/s13755-021-00147-7 (дата обращения: 27.01.2022).
64
На основе алгоритмов ИИ возможно принимать менее политизированные решения в условиях давления СМИ 9А
Повышения качества и скорости предоставления государственных услуг 10А
Цифровизация соответствует целям устойчивого развития 11А
Таблица 2. Риски, обуславливаемые внедрением алгоритмов ИИ в государственное управление в контексте легитимности государственной власти
Риски Код
Использование алгоритмов ИИ несет угрозу появления у государства избыточных инструментов, использование которых может привести к нарушению прав и свобод граждан, а также к подавлению автономии личности 1В
В случае причинения вреда или наступления иных негативных последствий проблема крайне трудно определить виновных и привлечь их к ответственности, что ведет к нарушению прав пострадавших лиц. 2В
Риски необъективности сбора и обработки данных 3В
Невозможность малых систем реализовать потенциал, заложенный в технологиях больших данных 4В
Отсутствие прозрачности, которое характерно для систем управления, основанных на алгоритмах 5В
Создание нормативной правовой базы, обеспечивающей секретный режим работы алгоритмов 6В
Алгоритмы ИИ внедряются часто не государством, а технологическими гигантами, которые могут благодаря им получать политическую власть не демократическим путем. 7В
Управление на основе алгоритмов ИИ репрезентирует появление новых форм и структур власти, которые невозможно понять в рамках существующего концептуального аппарата. 8В
Алгоритмы ИИ лежат в основе появлении нового вида власти, в рамках которого капиталистическая система, основанная на всеобъемлющей слежке, ставит своей целью не только автоматизацию информационных потоков, но автоматизацию людей 9В
Этические риски, связанные с процессом принятия решений: (1) Отсутствие субъекта, который мог бы взять ответственность за принимаемое алгоритмом решение; (2) Лица, в отношении которых принимаются решения алгоритмами, не имеют полноценной возможности оспорить данные решения; (3) Нарушение права на достоинство личности; (4) потенциальный риск несправедливой или незаконной дискриминации в результате решений, принимаемых с использованием алгоритмов; (5) Дегуманизация процесса принятия решений 10В
Этические риски, связанные с результатами использования алгоритмов: (1) Риск ошибочности и неточности принимаемых решений; (2) Необъективность, содержащаяся в модели алгоритма или данных, на которых он обучался, ведут к необъективным решениям, которые в свою очередь ведут к несправедливости; (3) Манипуляция действиями людей 11В
Отсутствие полноценной обратной связи также негативно сказывается на качестве принимаемых решений 12В
Риски, связанные с возможность. алгоритмов прогнозировать: (1) Владельцы алгоритмов ИИ могут навязывать гражданам решения; (2) Прогностические возможности алгоритмов создают хроническую асимметрию между крупными публичными и частными организациями и индивидами; (3) Систематическое масштабное применение алгоритмов создает систематические «риски», которые могут разрушить социальные основы автономии индивидов, социальной солидарности и демократии 13В
Отсутствие инструментария для оценки алгоритмов ведет к использованию алгоритмов ИИ, угрожающих правам граждан 14В
Негативные социальные эффекты сокращения человеческого участия в принятии решений 15В
Деградация навыков работников 16В
Обесценивание некоторых видов труда 17В
Дискриминация бедных и необразованных людей 18В
Отсутствие инкорпорации в алгоритмы ИИ нормативных и этических принципов 19В
Цифровая дискриминация: прямые и косвенные акты дискриминации, основанные на автоматических решениях, принимаемых алгоритмами ИИ 20В
Появление экосистем, которые стимулируют, контролируют, направляют и манипулируют действиями и поведением людей 21В
Нарушение права о персональных данных 22В
Решения алгоритмов ИИ могут вести к несправедливому доступу к социальных благам и ресурсам 23В
Негативное влияние на автономию людей: из-за своей скорости, масштаба и возможностей алгоритмы легко преодолевают естественные механизмы защиты от внешнего вмешательства в автономность индивидов 24В
Ошибочные решения и прогнозы, так часто алгоритмы выявляют корреляцию показателей вместо причинно-следственных связей 25В
Противоречие между целью внедрения алгоритмов, которая заключается в достижении результат-ориентированного функционирования госуправления, и фундаментальной ориентацией бюрократии на процессы, а не на результаты 26В
После формирования базы рисков была проведена их иерархизация путем нанесения их на матрицу рисков, которая основана на показателях вероятности наступления риска и тяжести последствий наступления данного риска: в зависимости от значения двух показателей рассчитывается уровень риска (низкий, средний, высокий, критически). При распределении рисков по матрице рисков учитывалось мнение экспертов, а также результаты научных исследований.
Таблица 3. Методология матрицы рисков
Вероятность (Р) Ранг риска = вероятность х влияние ^ x I) Значимость
0,9 0,09 0,27 0,45 0,63 0,81 Критический
0,7 0,07 0,21 0,35 0,49 0,63
0,5 0,05 0,15 0,25 0,35 0,45 Существенны й
0,3 0,03 0,09 0,15 0,21 0,27
0,1 0,01 0,03 0,05 0,07 0,09 Умеренный
Влияние (I) 0,1 0,3 0,5 0,7 0,9
Таблица 4. Матрица рисков
Вероятность (Р) Карта рисков Значимость
0,9 8В 17В;21В 10В 5В; 7В; 1В; Критическая
0,7 24В 22В 13В 11В;
0,5 16В 12В 14В 23В 3В; Существенная
0,3 4В 2В; 20В 6В 9В
0,1 25В 26В 19В 18В 15В Умеренные
Влияние (I) 0,1 0,3 0,5 0,7 0,9
Аналогичная методология была также использована для иерархизации возможностей, которые создают алгоритмы.
Таблица 5. Матрица возможностей
Вероятность (Р) Карта возможностей Значимость
0,9 7А 8А 4А 2А 1А Крайне благоприятные последствия
0,7 5А 6А 10А
0,5 11А ЗА Благоприятные последствия
0,3 9А
0,1 Умеренные последствия
Влияние (I) 0,1 0,3 5,5 0,7 0,9
Выводы. Как показывают результаты риск-анализа, использование технологий на основе алгоритмы ИИ несет в себя целый ряд крайне вероятных и критических с точки зрения своих последствий рисков. В первую очередь речь идет о таких рисках, как: -появление у государства избыточного инструментария для контроля граждан; - появление политической власти у технологических гигантов; - отсутствии прозрачности; - риски разрушения социальной основы автономии индивидов, социальной солидарности и демократии; риски необъективности сбора и обработки данных; - риски появления нового вида власти, основанного на всеобъемлющей слежке.
В то же время анализ возможностей, которыми обладают технологии на основе алгоритмов ИИ, свидетельствует о том, что в данных технологиях содержится существенный потенциал для укрепления легитимности государственной власти. Прежде всего это касается: - внедрения ориентированного подхода и повышенияя эффективности использования государственных ресурсов; - повышении качества и скорости предоставления государственных услуг; - реализации государственного управления, основанного на фактах; снижении затрат на государственный аппарат.
В целом проведенный анализ позволяет говорить об обоснованности выдвижения гипотезы о наличии взаимосвязи между легитимностью государственной власти и использованием государством технологий на основе алгоритмов ИИ. При этом, учитывая наличие как рисков, так и возможностей, которые создает использование технологий искусственного интеллекта, только масштабное количественное исследование сможет
ответить на вопрос о том, как именно данные технологии влияют на легитимность государственной власти.
Примечания:
Исследование выполнено при финансовой поддержке РФФИ и ЭИСИ в рамках научного проекта № 21-011-32287
Литература:
1. Завершинский К. Ф. Легитимность: генезис, становление и развитие концепта // Полис. Политические исследования, 2001. № 2. С. 113.
2. Холоденко Ю.А. Социально - политические риски постковидного восстановления экономики// Современное общество в условиях социально-экономической неопределенности. XV Международная научная конференция "Сорокинские чтения": Сборник материалов. Москва: МАКС Пресс, 2021. С. 1056.
3. Akinbi A., Forshaw M., Blinkhorn V. Contact tracing apps for the COVID-19 pandemic: a systematic literature review of challenges and future directions for neo-liberal societies//Health Information Science and Systems. № 18. 2021. URL: https://link.springer.com/article/10.1007/s13755-021-00147-7_(дата обращения: 27.01.2022).
4. Busuioc М. Accountable Artificial Intelligence in the Administrative State // Public Administration Review, Vol. 81, Iss. 5. 2020. P. 825-836.
5. Calvo R.A., Deterding S., Ryan R.M.. Health surveillance during covid-19 pandemic. BMJ.:369. 2020. URL: https://10.1136/bmj.m1373. (дата обращения: 24.01.2022).
6. Cormen T.H., Leiserson C.E., Rivest R., Stein C., Molitor P. Algorithmen - Eine Einführung (2., korr. A.). - Oldenbourg Wissenschaftsverlag. 2007. XXII. - 1188 s.
7. Global Peace Index 2021: Measuring peace in a complex world. URL: https://www.visionofhumanity.org/wp-content/uploads/2021/06/GPI-2021-web-1.pdf (дата обращения: 24.01.2022).
8. Habermas, J. The Structural Transformation of the Public Sphere: An Inquiry into a category of Bourgeois Society. - Cambridge, Mass.: MIT Press, 1991. - 326 p.
9. Habermas, J. Legitimation Crisis. Translated by Thomas McCarthy. - Boston: Beacon Press, 1975. - 191 p. URL: https://www.ias.edu/sites/default/files/sss/pdfs/Crisis-and-Critique-2018-19/habermas_legitimation_crisis.pdf (дата обращения: 27.01.2022).
10. Kostka G., Habich-Sobiegalla S. In times of crisis: Public perceptions towards COVID-19 Contact Tracing Apps in China, Germany and the US. 2020. URL: https://www.researchgate.net/publication/344283931 (дата обращения: 24.01.2022).
11. MajeedA.; Hwang S.O. Data-Driven Analytics Leveraging Artificial Intelligence in the Era of COVID-19 // An Insightful Review of Recent Developments. Symmetry 2022, 14, 16. DOI: https://doi.org/10.3390/sym14010016 (дата обращения: 1.02.2022).
12. Ortiz, I., Sara Burke, S., Berrada, M., and Saenz Cortés, H. World Protests. A Study of Key Protest Issues in the 21st Century. 2022. URL: https://link.springer.com/book/10.1007/978-3-030-88513-7#toc (дата обращения: 21.01.2022).
13. Pishgar M., Issa S.F., SietsemaM., Pratap P., Darabi H. REDECA: A Novel Framework to Review Artificial Intelligence and Its Applications in Occupational Safety and Health.// Int. J. Environ. Res. Public Health 2021, 18, 6705. DOI: https:// doi.org/10.3390/ijerph18136705 (дата обращения: 24.01.2022).
14. Reus-Smit Christian. International Crises of Legitimacy// International Politics. 44 (2-3): 2007. P.157-174. DOI: https://doi:10.1057/palgrave.ip.8800182 (дата обращения: 29.01.2022).
15. Samuel G., Roberts S. L., Fiske A., Lucivero F., McLennan S., Phillips A., Hayes S., and Johnsond S.B. COVID-19 contact tracing apps: UK public perceptions// CRITICAL PUBLIC
HEALTH. 2021, AHEAD-OF-PRINT, 1-13. 2021. DOI:
https://doi.org/10.1080/09581596.2021.1909707 (дата обращения: 27.01.2022).
16. Sobrino-García I. Artificial Intelligence Risks and Challenges in the Spanish Public Administration: An Exploratory Analysis through Expert Judgements.// Administrative Sciences 11: 102. 2021. DOI: https://doi.org/10.3390/admsci11030102 (дата обращения: 24.01.2022).
17. Zimmermann B.M., Fiske A., Prainsack B., Hangel N., McLennan S., Buyx A. Early Perceptions of COVID-19 Contact Tracing Apps in German-Speaking Countries: Comparative Mixed Methods Study// JOURNAL OF MEDICAL INTERNET RESEARCH. Vol 23, No 2. 2021: February. URL: https://www.jmir.org/2021/2/e25525/ (дата обращения: 28.01.2022).
Acknowledgments:
The reported study was funded by RFBR and EISR according to the research project № 21-01132287
References:
1. Zavershynski, K. Ph., Legitimnost': genesis, stanovlenie i razvitie koncepta // Polis. Politicheskie issledovaniya. 2001. № 2. S. 113.
2. Holodenko, U.A. Socialno-politicheskie riski postcovidnogo vosstanovleniy economiki // Sovremennoe obshestvo d usloviyah socialno-economicheskoi neopredelennosti. XV Mezhdunarodnaya nauchnaya konferenciya "Sorokinskie chteniya": Sbornik materialov. Moskwa: MAKS Press, 2021. S.1056.
3. Akinbi. A., Forshaw, M., Blinkhorn, V. Contact tracing apps for the COVID-19 pandemic: a systematic literature review of challenges and future directions for neo-liberal societies//Health Information Science and Systems. No. 18. 2021. URL: https://link.springer.com/article/10.1007/s13755-021-00147-7 (data obrashcheniya: 27.01.2022).
4. Busuioc, М. Accountable Artificial Intelligence in the Administrative State// Public Administration Review, Vol. 81, Iss. 5. 2020. pp. 825-836.
5. Calvo, R.A., Deterding, S., Ryan, R.M.. Health surveillance during covid-19 pandemic. BMJ.:369. 2020. URL: https://10.1136/bmj.m1373 (data obrashcheniya: 24.01.2022).
6. Cormen, T.H., Leiserson, C.E., Rivest, R., Stein, C., Molitor, P. Algorithmen - Eine Einführung (2., korr. A.). - Oldenbourg Wissenschaftsverlag. 2007. XXII. - 1188 s.
7. Global Peace Index 2021: Measuring peace in a complex world. URL: https://www.visionofhumanity.org/wp-content/uploads/2021/06/GPI-2021-web-1.pdf (data obrashcheniya: 24.01.2022).
8. Habermas, J. The Structural Transformation of the Public Sphere: An Inquiry into a category of Bourgeois Society. Cambridge, Mass.: MIT Press, 1991. 326 p
9. Habermas, J. Legitimation Crisis. Translated by Thomas McCarthy. - Boston: Beacon Press, 1975. - 191 p. URL: https://www.ias.edu/sites/default/files/sss/pdfs/Crisis-and-Critique-2018-19/habermas_legitimation_crisis.pdf (data obrashcheniya: 27.01.2022).
10. Kostka, G., Habich-Sobiegalla, S. In times of crisis: Public perceptions towards COVID-19 Contact Tracing Apps in China, Germany and the US. 2020. URL: https://www.researchgate.net/publication/344283931 (дата обращения: 24.01.2022).
11. Majeed, A.; Hwang, S.O. Data-Driven Analytics Leveraging Artificial Intelligence in the Era of COVID-19 // An Insightful Review of Recent Developments. Symmetry 2022, 14, 16. DOI: https://doi.org/10.3390/sym14010016 (дата обращения: 1.02.2022).
12. Ortiz, I., Sara Burke, S., Berrada, M., and Saenz Cortés, H. World Protests. A Study of Key Protest Issues in the 21st Century. 2022. URL: https://link.springer.com/book/10.1007/978-3-030-88513-7#toc. (data obrashcheniya: 21.01.2022).
13. Pishgar, M., Issa, S.F., Sietsema, M., Pratap, P., Darabi, H. REDECA: A Novel Framework to Review Artificial Intelligence and Its Applications in Occupational Safety and Health.// Int. J. Environ. Res. Public Health 2021, 18, 6705. DOI: https://doi.org/10.3390/ijerph18136705 (data obrashcheniya: 24.01.2022).
14. Reus-Smit, Christian. International Crises of Legitimacy// International Politics. 44 (2-3): 2007. рр.157-174. DOI: https://doi:10.1057/palgrave.ip.8800182 (data obrashcheniya: 29.01.2022).
15. Samuel, G., Roberts, S. L., Fiske, A., Lucivero, F., McLennan, S., Phillips. A., Hayes, S., and Johnsond, S. B. COVID-19 contact tracing apps: UK public perceptions // CRITICAL PUBLIC HEALTH. 2021, AHEAD-OF-PRINT, 1-13. 2021. DOI: https://doi.org/10.1080/09581596.2021.1909707(data obrashcheniya: 27.01.2022).
16. Sobrino-García, I. Artificial Intelligence Risks and Challenges in the Spanish Public Administration: An Exploratory Analysis through Expert Judgements.// Administrative Sciences 11: 102. 2021. DOI: https://doi.org/10.3390/ admsci11030102 (data obrashcheniya: 24.01.2022).
17. Zimmermann, B. M., Fiske, A., Prainsack, B., Hangel, N., McLennan, S., Buyx, A. Early Perceptions of COVID-19 Contact Tracing Apps in German-Speaking Countries: Comparative Mixed Methods Study// JOURNAL OF MEDICAL INTERNET RESEARCH. Vol 23, № 2. 2021: February. URL: https://www.jmir.org/2021/2/e25525/( data obrashcheniya: 28.01.2022).
USE IN PUBLIC ADMINISTRATION OF TECHNOLOGIES BASED ON ARTIFICIAL INTELLIGENCE ALGORITHMS: OPPORTUNITIES AND RISKS FROM THE POINT OF VIEW OF THE LEGITIMACY OF AUTHORITIES
Amchislavskiy I.V. Full-time postgraduate student
Moscow State Institute of International Relations (MGIMO) AmchNP@mail.ru
Abstract: Although prior scholarship has made considerable progress in studying the phenomenon of artificial intelligence technologies and their use in governance, it has only rarely considered the problem of artificial intelligence technologies and political legitimacy. Here the author presents a reasoning for a hypothesis that there is a relationship between the use of artificial intelligence technologies by the governments and their political legitimacy. By performing the risk-analysis based on the Delphi method and case studies the author identified the main risks and opportunities embedded in the use of artificial intelligence technologies by the governments from the viewpoint of their political legitimacy. This database of risks and opportunities is considered as a sufficient foundation to justify the hypothesis and further need to perform quantitative research to test it. Key words: artificial intelligence, artificial intelligence algorithms, public administration, legitimacy of state power, crisis, COVID-19 pandemic, tracking applications
Для цитирования: Амчиславский И.В. Использование технологий на основе алгоритмов искусственного интеллекта в государственном управлении: возможности и риски для легитимности государственной власти// Архонт, 2022. № 1 (28). С. 59-71.
