CC BY
20
— СОЦИОЛОГИЧЕСКИЕ НАУКИ —
Научная статья
https://doi.org/10.23672/SAE.2024.88.31.023 УДК 316
ВОЗМОЖНОСТИ И РИСКИ, ЭТИЧЕСКИЕ ПРОБЛЕМЫ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПУБЛИЧНОМ УПРАВЛЕНИИ
Селиверстова А.Д.
Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации
Аннотация. В статье рассматриваются актуальные и важные проблемы, связанные с использованием технологий искусственного интеллекта в публичном управлении.
Цель: изучить возможности и риски, этические проблемы использования искусственного интеллекта в публичном управлении.
Методы: анализ, синтез, обобщение и систематизации научных источников по проблеме исследования.
Результаты. В процессе исследования отдельное внимание уделено возможностям и перспективам применения искусственного интеллекта в разных органах власти, детально описан опыт России и некоторых стран мира. Отдельный акцент сделан на рисках и этических проблемах систем искусственного интеллекта для работы с персональными данными, обеспечения прозрачности, конфиденциальности, справедливости, соблюдения прав человека и т.д.
Выводы. Сделан вывод о том, что критически важно разработать этические стандарты и правила использования ИИ для того, чтобы обеспечить прозрачность решений, урегулировать доступ к данным и гарантировать конфиденциальность и приватность граждан.
Ключевые слова: арестованное имущество, открытый аукцион, реализация арестованного имущества, торги, электронные торги.
OPPORTUNITIES AND RISKS, ETHICAL PROBLEMS OF USING ARTIFICIAL INTELLIGENCE IN PUBLIC ADMINISTRATION
Anastasia D. Seliverstova
Russian Academy of National Economy and Public Administration under the President of the Russian Federation
Abstract. The article discusses current and important issues related to the use of artificial intelligence technologies in public administration.
Object: to study the opportunities and risks, ethical issues of using artificial intelligence in public administration.
Methods: analysis, synthesis, generalization and systematization of scientific sources on the research problem.
Findings. During the research, special attention was paid to the possibilities and prospects for the use of artificial intelligence in various government bodies, the experience of Russia and some countries of the world was described in detail. Special emphasis is placed on the risks and ethical issues of artificial intelligence systems for working with personal data, ensuring transparency, confidentiality, fairness, respect for human rights, etc.
Conclusions. It is concluded that it is critical to develop ethical standards and rules for the use of AI in order to ensure transparency of decisions, regulate access to data and guarantee the confidentiality and privacy of citizens.
Keywords: seized property, open auction, sale of seized property, auction, electronic auction.
Введение.
Многие тенденции и факторы общественного развития влияют на публичное управление. Например, глобализация и ее проблемы, которые характеризуют переход современного общества на информационную стадию развития, геополитическая напряженность, вынуждающая
менять тактику и стратегию принятия решений [1].
Особого внимания заслуживает тот факт, что стремительное развитие технологий последних лет трансформирует саму философию управления в публичном секторе, создавая новые возможности для повышения эффективности про-
_— СОЦИОЛОГИЧ ЕСКИЕ НАУКИ —_
цессов и процедур. Если говорить о необходимости их (управленческих процессов) усовершенствования, а также задачах принятия быстрых и эффективных решений, то на современном этапе открываются широкие возможности осуществить это с помощью автоматизации некоторых интеллектуальных функций, что может быть достигнуто благодаря технологиям искусственного интеллекта (ИИ).
Результаты и обсуждение.
ИИ - это область исследований и применения цифровых инноваций, которые способны оказать значительное влияние на государственную политику и услуги во многих отношениях. Органы публичной власти имеют широкие возможности использования ИИ для разработки более эффективной политики и принятия оптимальных решений, улучшения коммуникации и взаимодействия с гражданами и жителями, а также повышения скорости и качества предоставления государственных услуг. Кроме того, ИИ может сыграть значительную роль в модернизации и общем улучшении функционирования государственной администрации в целом. В июне 2022 года агентство В1оотЬегд сообщило, что расходы на внедрение и использование ИИ правительствами США, Великобритании, Китая и Канады, стабильно увеличиваются. Например, Сенат США в 2022 году обязался выделить более 2,3 миллиарда долларов на финансирование ИИ. Аналогичным образом, в марте того же года руководство Канады запланировано проект на более чем полмиллиарда долларов с целью продвижения своих инициатив в области искусственного интеллекта [2].
В тоже время, хотя потенциальные преимущества ИИ весьма значительны, достичь их не так-то просто. Использование ИИ в публичной сфере отстает от частного сектора; эта область сложна и требует длительного обучения; цели и условия работы правительства уникальны, что инициирует ряд специфических проблем. С другой стороны, гарантии прозрачности, корректности и безопасности обрабатываемых данных являются основополагающими. Поэтому возможность внедрения ИИ в работу органов государственной власти ограничена принципом законности и необходимостью обеспечения высокой степени надежности используемых технологий, а также требованием соблюдения прав граждан.
В результате, наряду с большими возможностями и перспективами, государственное управление сталкивается с особыми проблемами при внедрении ИИ и, в более широком смысле, алгоритмических систем принятия решений, даже если они не используют конкретные технологии ИИ, такие как машинное обучение. Применение этих методов создает определённые трудности, связанные с принципом надлежащего управления. Кроме того, использование ИИ в публичном секторе пронизано этическими противоречиями в отношении справедливости, открытости, кон-
фиденциальности и прав человека [3]. Например, применение ИИ для повышения результативности, оптимизации и максимизации эффекта работы государственных органов может привести к усилению неравенства и асимметрии власти, потере человеческой автономии, утрате доверия к системам технологий.
Таким образом, всестороннее понимание контекстуальных переменных, влияющих на внедрение и распространение ИИ в публичном управлении, имеет важное значение для уточнения общественной ценности от использования данной технологии, а также разрешения вековых дилемм власти, доверия и легитимности, что представляет собой важную научно-практическую задачу, необходимость решения которой и предопределила выбор темы данной статьи.
Возможности и перспективы преобразования технологических инноваций в конкретные общественные ценности для учреждений сферы публичного управления рассматривают в своих трудах О.В. Кириловский, А.А. Ильина, М.А. Липчан-ская, А.В. Шиндина, Д.В. Пожарский, Т.Н. Радько, Xueling Li, Yujie Long, Meixi Fan, Yong Chen, Stany Nzobonimpa, Jean Savard.
Над решением проблемных вопросов обеспечения баланса между интересами цивилизации, прорывными технологиями и сохранением ценностей человечества, в частности политических, экономических, культурных, религиозных и правовых трудятся Е.А. Шорник, Д.Д. Зыков, А.В. Мартынов, Бундин М.В., Пибаев И.А., Jillian Cavanagh, Patricia Pariona-Cabrera.
Вопросы, связанные с формализацией рисков нанесения вреда обществу в результате использования ИИ в публичном управлении, а также с оценкой общего воздействия ИИ с точки зрения общечеловеческих ценностей изучают такие ученые как Л.С. Макаренко, Н.В. Мамитова, С.Н. Федорченко, Э.В. Горян, Е.А. Пуртова, Imran Ahmed, Gwanggil Jeon, Wenmin Lin, Mohammad R. Khosravi.
Высоко оценивая имеющиеся на сегодняшний день публикации и наработки, следует отметить, что в силу новизны и динамичного развития технологий ИИ, расширения сфер его применения, постоянно возникают новые спорные моменты и проблемы, которые требуют более детального анализа. Так, хотя регулирование и технические стандарты являются одними из инструментов управления ИИ в публичной сфере, сами по себе они недостаточны для того, чтобы направить ИИ в социально значимое и полезное русло. Кроме того, в качестве основы для управления ИИ этические принципы сталкиваются с проблемами слабой операционализации и реализации через государственную политику и организационную практику. Ряд других проблем заключается не в отсутствии предлагаемых инструментов и принципов внедрения и использования ИИ как такового, а в их формулировании в виде применимо© Селиверстова А.Д.
_— СОЦИОЛОГИЧ ЕСКИЕ НАУКИ —_
го подхода в различных контекстах и на всех уровнях общества.
Таким образом, цель статьи заключается в рассмотрении возможностей и рисков, а также этических проблем использования искусственного интеллекта в публичном управлении.
С учетом современных и практических исследований ИИ в публичном управлении рассматривается как комплексный термин, обозначающий «особую форму ИТ-систем, приложений или программного обеспечения, способных выполнять задачи, для которых обычно требуется человеческий интеллект» [4]. Часто эти системы основаны на методах машинного обучения - но не только.
В целом, приложения ИИ могут потенциально повысить эффективность и результативность предоставления услуг и поддержать процесс принятия государственных решений путем моделирования различных вариантов политики. Исследователи отмечают, что технологии ИИ способны улучшить процесс разработки тех или иных нормативно-правовых актов, помочь государственным служащим получить дополнительные данные, автоматизировать рутинные задачи и процессы, улучшить качество информации, предоставляемой гражданам, сделать услуги более персонализированными и лучше понять настроения и потребности граждан, например, благодаря анализу социальных сетей [5].
Однако большинство потенциальных эффектов ИИ (как положительных, так и отрицательных) еще предстоит подтвердить и оценить на эмпирической основе. Это связано с различными барьерами, с которыми сталкиваются органы публичной власти при внедрении ИИ, и которые включают в себя несколько факторов, связанных с окружающей средой, организационным контекстом, уровнем внедрения инноваций, а также индивидуальными факторами, в некоторой степени уникальными для государственного сектора, по сравнению с частным.
Основываясь на опыте РФ, уже действующих практик использования ИИ в некоторых государственных структурах и учреждениях, по мнению автора, можно выделить следующие перспективные сферы и возможности его использования:
1. Планирование ресурсов. ИИ может применяться для оптимизации использования ресурсов, таких как бюджет, персонал и инфраструктура. Ключевые возможности и перспективы заключаются в распределении ограниченных государственных средств в соответствии с потребностями и приоритетами.
2. Анализ и прогнозирование данных. ИИ и технологии, разработанные на его основы, способны эффективно анализировать объем больших данных из различных источников, как структурированных, так и неструктурированных, и выби-
рать наиболее полезную и релевантную информацию. На основании этих данных управленцы могут прогнозировать будущие тенденции и риски.
3. Улучшение обслуживания граждан. ИИ способен обеспечить быстрое и эффективное обслуживание граждан, например, путем внедрения виртуальных помощников для ответов на вопросы, автоматизации процесса подачи заявок или улучшения электронной системы обслуживания.
4. Управление эффективностью и мониторингом. ИИ может использоваться для измерения и мониторинга эффективности публичных программ и проектов. Он способен выявить проблемные сферы, обеспечить быстрое реагирование на них и усовершенствовать эффективность управленческих решений.
5. Выявление мошенничества и коррупции. ИИ можно использовать для анализа данных и обнаружения незаконных действий, таких как мошенничество и коррупция. Он может анализировать финансовые операции, контракты и другие сведения для выявления неправомерных действий и предотвращения их.
В контексте изучения возможностей и лучших практик использования ИИ в публичном управлении, также особого внимания заслуживает зарубежный опыт. Приведем некоторые примеры.
1. Управление бизнеса в Дании использует различные модели на основе ИИ, объединенные в интеллектуальную платформу управления, которая обеспечивает автоматизированную оценку того, почему выбранная компания с большей вероятностью совершит мошенничество по сравнению с другими.
2. Эстонское агентство по безработице - правительственное учреждение внедрило систему ИИ -Ott, которая помогает консультантам по вопросам безработицы, прогнозируя шансы их клиентов - безработных - получить новую работу.
3. Муниципалитет Амстердама, Нидерланды -государственная администрация занимается разработкой множества систем ИИ и считается одним из городов-лидеров в области ИИ. Один из примеров - ИИ-решение для обнаружения мусора. Данная технология позволяет автоматически определять мусор на улице и сообщает об этом городским службам, чтобы те приняли меры и решили проблему.
4. Налоговое управление Испании использует систему искусственного интеллекта для оценки доходов малых и средних предприятий и самозанятых лиц, которые платят налоги по модульной схеме налогообложения.
5. Федеральная государственная служба политики и поддержки, Бельгия. Эта федеральная
_— СОЦИОЛОГИЧ ЕСКИЕ НАУКИ —_
администрация оказывает помощь другим администрациям в их усилиях по цифровизации и изучает возможности использования ИИ для поддержки собственной деятельности. Одна из систем ИИ в этой организации - чатбот, помогающий гражданам в создании заявок для службы поддержки.
Рассматривая риски при внедрении ИИ в контур публичного управления, необходимо отметить, что в целом, правовая система, хотя и укрепляет выбор государственной политики, она не может игнорировать социальные и экономические преобразования, которые готов принести ИИ. По мере развития этих изменений задачей органов власти является обеспечить чтобы ИИ активно функционировал как уравниватель и защитник различных аспектов человеческого достоинства [6].
Продвижение инноваций не должно осуществляться в ущерб правам граждан. Принципы верховенства закона, доступа к судам и уважения основных прав, а также такие ключевые основы, как прозрачность, беспристрастность и справедливость, подчеркивают этот момент. По сути, общественная деятельность, осуществляемая системами ИИ, не должна выходить за рамки закона.
На сегодняшний день, можно выделить следующие риски и этические проблемы, которые предстоять решить публичным властям, в процессе внедрения и использования технологий ИИ.
1. Риск предвзятости: ИИ может привнести или увековечить предубеждения, которые общество считает неприемлемыми.
2. Проблема конфиденциальности: ИИ может идентифицировать людей и использовать личную информацию о них не по назначению.
3. Риск искажения: ИИ может позволить создавать материалы, намеренно искажающие чье-либо поведение, мнения или характер.
4. Проблема доступа к данным: самый мощный ИИ нуждается в очень больших массивах данных, которыми располагают лишь немногие организации и эти базы данных имеют ограниченный доступ.
5. Проблема выполнения вычислений: разработка мощного ИИ требует значительных вычислительных мощностей, доступ к которым имеют лишь несколько организаций.
6. Риск «черного ящика»: некоторые модели и инструменты ИИ не могут объяснить, почему они дают тот или иной результат, что является проблемой для требований прозрачности.
7. Проблема открытого исходного кода: требование открытого доступа к коду будет способствовать прозрачности и инновациям, с другой стороны, разрешение на закрытый доступ может
сконцентрировать рыночную власть, но позволит более надежно контролировать незаконные действия.
8. Риски нарушения интеллектуальной собственности и авторского права: некоторые модели и инструменты ИИ используют чужой контент: политика должна определять права создателей этого контента, и эти права должны соблюдаться.
9. Проблема ответственности: если модели и инструменты ИИ используются третьими лицами для причинения вреда, политика должна установить, несут ли разработчики или поставщики технологии какую-либо ответственность за причиненный вред.
10. Проблема занятости: ИИ может нарушить работу, которую люди делают сейчас и которую они могут выполнять. Разработчики политики должны предвидеть эти изменения и управлять ими.
11. Проблема международной координации: ИИ -глобальная технология, и разработка системы управления, регулирующей ее использование, должна быть международным делом.
12. Экзистенциальный риск: некоторые люди считают, что ИИ представляет собой серьезную угрозу для жизни человека. Если такая возможность существует, то управление должно обеспечивать защиту национальной безопасности.
Отдельно следует выделить этическую проблему, связанную с тем, каким образом этические принципы и человеческие ценности могут быть использованы для содействия нормативному моральному управлению ИИ [7].
Основным вызовом для этических принципов и требований соблюдения прав человека является их слабая реализация в процессе разработки политики и организационной практики ИИ. В данном контексте, не подлежит сомнению тот факт, что управление, основанное на международно-признанных стандартах ООН в области прав человека, должно быть нормативной отправной точкой для проектирования, разработки и использования систем ИИ в публичной сфере. Этот подход основывается на идее о том, что в качестве основы для управления ИИ необходим общепринятый набор ценностей [8].
Заключение.
Таким образом, подводя итоги, отметим, что использование ИИ в публичном управлении имеет широкий спектр возможностей и перспектив, которые могут повысить эффективность и качество предоставления государственных услуг гражданам. Однако, наряду с возможностями, внедрение ИИ в деятельность органов власти связано с определенными проблемами и рисками.
Этические требованиям, наличие прозрачности, неравномерный доступ и вопросы конфиденциальности данных требуют взвешенных мер и процедур безопасности.
— СОЦИОЛОГИЧЕСКИЕ НАУКИ —
По мнению автора, критически важно разрабо- ность решений, урегулировать доступ к данным
тать этические стандарты и правила использо- и гарантировать конфиденциальность и приват-
вания ИИ для того, чтобы обеспечить прозрач- ность граждан.
Конфликт интересов
Не указан Рецензия
Все статьи проходят рецензирование в формате double-blind peer review (рецензенту неизвестны имя и должность автора, автору неизвестны имя и должность рецензента). Рецензия может быть предоставлена заинтересованным лицам по запросу.
Conflict of Interest None declared
Review
All articles are reviewed in the double-blind peer review format (the reviewer does not know the name and position of the author, the author does not know the name and position of the reviewer). The review can be provided to interested persons upon request.
Литература:
1. Зубарева Л.В. Возможности использования искусственного интеллекта в публичном управлении / Л.В. Зубарева // Экономика и предпринимательство. 2023. № 3(152). С. 1318-1321.
2. Justin Longo. When artificial intelligence meets real public administration / Justin Longo // Canadian Public Administration. 2022. Vol. 65. Iss. 2. Р. 12-19.
3. Харитонова О.В. Искусственный интеллект в системе государственного управления: возможности и риски / О.В. Харитонова // Экономика и предпринимательство. 2021. № 5(130). С. 156-160.
4. Черешнева И.А. Искусственный интеллект в государственном управлении и транспарентность: европейский опыт / И.А. Черешнева // Государственная служба. 2022. Т. 24. № 2(136). С. 80-87.
5. Bruce D. Hall The future of public administration research: An editor's perspective / D. Bruce // Public Administration. 2022. Vol. 100. Iss. 1. Р. 34-39.
6. Thomas M. Vogl, Cathrine Seidelin Smart Technology and the Emergence of Algorithmic Bureaucracy: Artificial Intelligence in UK Local Authorities / M. Thomas // Public Administration Review. 2020. Vol. 80. Iss. 6. Р. 112-119.
7. Занко Т.А. Реорганизация исполнительной власти в эпоху цифровой трансформации: технологии, подходы и перспективы / Т.А. Занко // Государственная служба. 2023. Т. 25. № 3(143). С. 14-21.
8. Daniel S. Schiff Assessing public value failure in government adoption of artificial intelligence / S. Daniel // Public Administration. 2021. Vol. 100. Р. 45-49.
References:
1. Zubareva L.V. Possibilities of using artificial intelligence in public administration / L.V. Zubareva // Economics and Entrepreneurship. 2023. № 3(152). P. 1318-1321.
2. Justin Longo. When artificial intelligence meets real public administration / Justin Longo // Canadian Public Administration. 2022. Vol. 65. Iss. 2. Р. 12-19.
3. Kharitonova O.V. Artificial intelligence in the public administration system: opportunities and risks / O.V. Khari-tonova // Economics and Entrepreneurship. 2021. № 5(130). P. 156-160.
4. Chereshneva I.A. Artificial intelligence in public administration and transparency: European experience / I.A. Chereshneva // Public Service. 2022. Vol. 24. № 2(136). P. 80-87.
5. Bruce D. Hall The future of public administration research: An editor's perspective / D. Bruce // Public Administration. 2022. Vol. 100. Iss. 1. Р. 34-39.
6. Thomas M. Vogl, Cathrine Seidelin Smart Technology and the Emergence of Algorithmic Bureaucracy: Artificial Intelligence in UK Local Authorities / M. Thomas // Public Administration Review. 2020. Vol. 80. Iss. 6. Р. 112-119.
7. Zanko T.A. Reorganization of executive power in the era of digital transformation: technologies, approaches and prospects / T.A. Zanko // Public Service. 2023. Vol. 25. № 3(143). P. 14-21.
8. Daniel S. Schiff Assessing public value failure in government adoption of artificial intelligence / S. Daniel // Public Administration. 2021. Vol. 100. Р. 45-49.
Информация об авторе
Селиверстова Анастасия Дмитриевна
аспирантка,
Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации aseliverstova2010@yandex.ru
Anastasia D. Seliverstova
Graduate Student,
Russian Academy of National Economy and Public Administration under the President of the Russian Federation aseliverstova2010@yandex.ru
