ПЕРСПЕКТИВЫ И РИСКИ ВНЕДРЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ГОСУДАРСТВЕННОМ УПРАВЛЕНИИ Текст научной статьи по специальности «Право»

УДК 340

DOI: 10.31249/rgpravo/2021.01.14

КОДАНЕВА СИ.1 ПЕРСПЕКТИВЫ И РИСКИ ВНЕДРЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ГОСУДАРСТВЕННОМ УПРАВЛЕНИИ. (Обзор).

Аннотация. В обзоре рассматриваются публикации, посвященные проблемам внедрения искусственного интеллекта в сферу политики и государственного управления. Авторы статей приводят как аргументы в пользу расширения применения данной технологии, так и анализируют препятствия и риски, с этим связанные.

Ключевые слова: искусственный интеллект; политика; государственное управление.

KODANEVA S.I. Prospects and risks of implementing artificial intelligence in public administration. (Review).

Abstract. The review examines publications on the problems of implementing artificial intelligence in the field of politics and public administration. The authors of the articles provide arguments in favor of expanding the use of this technology, as well as analyze the obstacles and risks associated with it.

Keywords: artificial intelligence; politics; public administration.

Начиная с 1970-1980-х годов государственные учреждения развитых стран внедряли различные информационные технологии в свои административные процессы. Концепция электронного правительства появилась в 1990-е годы и включала внедрение информационных технологий и цифровых систем во внутренние и внешние процессы и системы управления. С 2010 г. электронное

1 С.И. Коданева, старший научный сотрудник Отдела правоведения ИНИОН РАН, канд. юрид. наук.

правительство начало проникать в сферу взаимодействия бизнеса, общества и государства. Инициативы электронного правительства и государственные цифровые системы имеют большой потенциал для развития предпринимательства и повышения качества предоставления государственных услуг населению, а также для более открытого взаимодействия государства и общества. Такие страны, как Китай, Соединенные Штаты Америки и большинство стран ЕС, уже активно разрабатывают и внедряют национальные стратегии развития ИИ, а также используют эту технологию для улучшения внутренних процессов управления, предоставления услуг и взаимодействия с гражданами.

В последнее время также наблюдается сдвиг в сторону систематической оценки влияния электронного правительства на устойчивое развитие в рамках резолюции ООН 2015 г. «Преобразование нашего мира: Повестка дня в области устойчивого развития на период до 2030 года». Однако нынешний кризис, связанный с пандемией COVID-19, с новой остротой ставит вопросы защиты основных прав граждан в чрезвычайных условиях, поскольку многие правительства разрабатывают и внедряют специальные приложения, в том числе с использованием ИИ, для отслеживания поведения граждан в попытке снизить риск распространения заболевания. Опасность этого заключается не в экстренном реагировании на ЧС, а в посткризисном управлении данными и цифровыми инфраструктурами - не возникнет ли желание у органов власти продолжать нарушать личные права граждан, такие как неприкосновенность частной жизни и контроль за свободным передвижением, посредством цифрового отслеживания, приложений с поддержкой ИИ и систем прогностического моделирования?

В настоящем обзоре представлены четыре публикации, посвященные анализу преимуществ, барьеров и рисков внедрения ИИ в государственном управлении и политике.

Так, Х. Скауг Сэтра анализирует основные аргументы противников внедрения ИИ в систему политического принятия решений и государственное управление. Первый аргумент - это политическая природа человека, который хочет быть вовлеченным в процесс принятия политических решений. Автор приводит два контраргумента. Во-первых, технократия ИИ подразумевает делегирование алгоритмам функций современной бюрократии. При

этом определение основных ценностей, идеологии и целей развития общества должны оставаться сферой принятия политических решений людьми. Во-вторых, современные алгоритмы позволяют людям даже в большей степени быть вовлеченными в политику, поскольку их мнения, высказанные, например, в социальных сетях, скорее будут выявлены и учтены алгоритмом, чем людьми-политиками [3, р. 5].

Второй аргумент заключается в том, что отсутствие вовлеченности людей в процесс принятия политических решений лишает эти решения легитимности. Согласно такой точке зрения, надлежащий процесс является источником легитимности, и обсуждение является одним из аспектов такого процесса. На это автор возражает, что при технократии ИИ барьер для понимания политики и участия в ней будет снижен. Когда политика вращается только вокруг фундаментальных моральных ценностей, легче понять и принять участие в этом процессе. Кроме того, он не соглашается с тем, что легитимность достигается через участие. По его мнению, если демократия способствует лучшим политическим результатам, то она способствует и легитимности - это инструментальный взгляд на демократию. Даже в сегодняшних обществах участие в политике ограничено немногими избранными. Размеры и сложность наших обществ привели к росту бюрократии, экспертного правления и косвенной демократии. Переход от этого к технократии ИИ, возможно, не так радикален, как может показаться на первый взгляд. Одним из очевидных потенциальных преимуществ цифровизации и расширения возможностей общения с использованием цифровых инструментов является вовлечение гораздо большего числа людей в политические процессы [3, р. 6].

Третий аргумент противников ИИ заключается в том, что политика всегда включает в себя вопросы ценностей и морали, в то время как алгоритмы лишены этих качеств. В ответ на это автор приводит ссылки на последние технические исследования, касающиеся создания машин, обладающих системами ценностей, и машин с моральными компетенциями. Кроме того, он подчеркивает, что ИИ уже широко используется в ряде областей, требующих моральных качеств от субъекта, принимающего решения: например, самоуправляемые автомобили, роботы, торгующие на рынках, использование ИИ для принятия решений о залоге для подозревае-

мых и т.д. Наконец, еще один очевидный, по мнению автора, контраргумент состоит в том, что если машины не могут быть моральными, то они не могут быть и аморальными, что является огромным преимуществом по сравнению с качествами современных политиков. Он пишет, что «у нас нет теста на нравственность наших человеческих политиков, так почему же мы должны применять его, чтобы держать роботов подальше от власти?» [3, р. 7].

Четвертый аргумент широко обсуждается в литературе и касается того, что ИИ - это «черный ящик», т.е. принимаемые им решения непрозрачны. В связи с этим автор задает вопрос: если ИИ принимает решения, которые приближают нас к нашим целям, действительно ли нам нужно понимать, как ему это удается? Точно так же, если бюрократы принимают решения, выходящие за рамки понимания, жалуемся ли мы? Следует признать, что сама причина, по которой политики полагаются на экспертов или ИИ, заключается в том, что последние принимают решения, основанные на недоступных нам знаниях. Отсутствие понимания - это цена за лучшие решения. Поэтому он уверен, что сама постановка вопроса о непрозрачности решений ИИ некорректна - наша неспособность понять его логику вовсе не означает, что он в принципе не поддается пониманию и объяснению [3, р. 8].

Наконец, пятый аргумент - это вопрос о том, кто будет отвечать за ошибку ИИ? Автор полагает, что ответственность должна быть возложена либо на разработчиков алгоритма, либо, что более соответствует демократическим принципам, на специальный совет, состоящий из людей, которые будут оценивать, насколько решения ИИ соответствуют целям политики государства [3, р. 9].

Проблему внедрения ИИ в процедуры формирования политики развивает Д. Валье-Крус с соавторами. Они разбивают весь политический цикл на четыре этапа: формирование политической повестки дня; принятие политических решений; реализация принятых решений; оценка результатов реализации политических решений, и предлагают области включения ИИ в эти этапы.

На первом этапе одним из ключевых аспектов является выбор наиболее актуальных для нее вопросов при формировании повестки дня. Здесь ИИ может играть ключевую роль посредством анализа социальных медиа. Цифровые медиа и онлайн-политика становятся основными источниками информации для молодого

поколения, формирующего повестку дня. Используя алгоритмы ИИ, правительства могут мгновенно отслеживать появление новых тем, преобразуя их в пункты политической повестки дня. Таким образом, формирование повестки дня может быть улучшено с точки зрения точности, эффективности и скорости, а также легитимности, предоставив правительствам возможность развивать более инклюзивный диалог с гражданами [1, р. 5].

Второй этап политического цикла связан с проблемой выбора наиболее оптимального решения. Здесь ИИ также может оказать существенное влияние. Например, анализ динамики выявления различных заболеваний с использованием ИИ может помочь формировать программы строительства больниц или подготовки врачей-специалистов в конкретной области здравоохранения. Необходимые для принятия сложных политических решений неструктурированные данные могут быть доступны из социальных сетей (блоги, социальные платформы, микроблоги и т.д.). В конечном счете, этот процесс должен быть автоматизирован, и ИИ станет важным инструментом для интеллектуального анализа данных, текстовой аналитики или поиска социальных данных. Это повысит подотчетность правительства, а граждане смогут наблюдать в режиме реального времени за потоком данных и информации, чтобы оценить принятые политические решения [Ibid., р. 7].

Третий этап - использование ИИ и больших данных в реализации принятых политических решений. Это направление может быть связано с различными аспектами. Например, ИИ позволит улучшить предоставление государственных услуг, сделав их персонифицированными. ИИ также позволит практически мгновенно получать и анализировать большие объемы данных для выявления отклонения от запланированных показателей, а также выявлять причины таких отклонений. Кроме того, обработка данных с помощью ИИ может генерировать модели, которые полезны для составления прогнозов [Ibid., р. 8].

Наконец, четвертый этап - это оценка результатов реализации государственной политики. Авторы подчеркивают, что оценка с использованием больших данных и ИИ полностью трансформирует этот этап политического цикла. Это связано с тем, что ИИ позволит проводить такую оценку в беспрерывном режиме на всех

этапах политического цикла, а не в его конце, что породит концепцию непрерывной оценки в государственных органах [1, р. 10].

М. Куземский и Г. Мисураца отмечают, что в странах Запада в последние годы довольно много внимания уделяется проблеме использования ИИ, однако большинство правовых документов и научных исследований уделяют внимание роли государства как «регулятора» формирующихся в этой сфере правоотношений и очень мало - роли правительства как «пользователя» технологий ИИ. Они отмечают, что успешное внедрение ИИ в процесс принятия решений в государственном секторе сопряжено с многочисленными препятствиями, некоторые из них носят общий характер, а некоторые - контекстуальный [2, р. 3].

Управление с помощью ИИ - это многоуровневая проблема, характеризующаяся системным сопротивлением из-за огромного количества вовлеченных лиц, скорости изменений и понимания неизбежности технологической трансформации. Национальные стратегии развития ИИ сталкиваются с опытом бюрократов, имеющих дело с гражданами, которые боятся, что жизненно важные для них решения будут принимать бездушные машины. Авторы приводят трехуровневую классификацию барьеров для внедрения ИИ в государственном управлении [Ibid., р. 4]:

1) макроуровень требует нормативной трансформации определения прав и обязанностей как граждан, так и чиновников; необходимо повышение квалификации последних, поскольку они должны быть в состоянии полностью оценить воздействие ИИ на охраняемые общественные ценности, такие как прозрачность и справедливость принимаемых решений;

2) мезоуровень требует разработки новых способов измерения, мониторинга и оценки входных данных, обрабатываемой информации, полученных результатов и результатов воздействия на социум, что подразумевает разработку показателей эффективности деятельности государственных органов, качества услуг и оценки рисков;

3) микроуровень требует устранения противоречий между легитимностью решений, предложенных ИИ, свободой усмотрения чиновников при оценке, использовании или отмене этих решений и правами граждан и бизнеса, которые могут быть затронуты предложенными решениями.

Далее авторы обращают внимание на так называемые «ловушки» ИИ, которые могут стать препятствием для внедрения ИИ в госуправление [2, р. 7]:

- ловушка фрейминга - неспособность смоделировать социальную систему целиком, включая общие социальные критерии, такие как справедливость;

- ловушка переносимости - неспособность понять, как перепрофилирование алгоритмических решений, разработанных для одного социального контекста, может вводить в заблуждение, быть неточным или иным образом наносить вред при применении к другому контексту;

- ловушка формализма - неспособность объяснить полный смысл социальных понятий, таких как справедливость, которые не могут быть включены в математические модели;

- ловушка волнового эффекта - неспособность понять, как внедрение технологии в существующую социальную систему изменяет поведение людей и уже сложившиеся ценности;

- ловушка солюционизма - неспособность признать возможность того, что лучшее решение проблемы может быть достигнуто без использования технологии.

В целом следует признать, что все перечисленные препятствия и риски во многом связаны с проблемой доверия. Так, О. Тихомирова поднимает крайне важную проблему, во многом препятствующую эффективному внедрению цифровых технологий, включая ИИ в государственное управление, - это проблема отражения в соответствующих проектах электронного правительства интересов непосредственных клиентов - граждан и бизнеса. Как отмечает автор, большинство реализуемых сегодня проектов электронного правительства идут от государства. Соответственно, потенциальные пользователи рассматриваются как пассивные получатели неких новых цифровых сервисов, при этом они никак не включены в процесс их создания. В результате большинство предлагаемых сервисов не востребованы. Однако чувство вовлеченности создает ощущение совместных действий и совместного развития проекта, поэтому включение потенциальных пользователей в процесс разработки будет способствовать их заинтересованности в успешной реализации проекта. Автор утверждает, что получатели государственных услуг (пользователи цифровых сервисов) долж-

ны участвовать в создании проекта электронного правительства, так как это позволит разработчикам учитывать их реальные потребности и особенности, создавая тем самым продукт, востребованный пользователями и отвечающий их требованиям [4, р. 18].

Соответственно, автор предлагает собственные показатели эффективности реализации проектов электронного правительства. При этом О. Тихомирова исходит из того, что успешность проектов создания цифровых сервисов должна оцениваться в динамике на каждом этапе цепочки создания ценности, а также во взаимодействии общества, бизнеса и государства на каждом этапе развития проекта. Причем взаимодействие происходит не только через количество обращений к порталу госуслуг, поскольку это отражает только пассивное использование ресурсов. Результатом взаимодействия государства и получателей услуг на электронной платформе является двустороннее вовлечение в процесс создания ее ценности, роста благосостояния, социально-экономического ко-эволюционного развития на микро- и макроуровнях. Успех проекта электронного правительства достигается за счет интегрированных процессов создания ценности. Для этого можно использовать комбинированный интегральный индекс, включающий в себя ряд показателей качества экосистемы виртуального цифрового электронного правительства. Индекс состоит из трех наборов показателей: объективных, субъективных и итоговых [4, р. 21].

1. Объективные показатели: технические характеристики проекта электронного правительства - частота доступа; доступность ресурсов; уровень интерфейса, юзабилити, комфортность использования; уровень прозрачности.

2. Субъективные показатели: уровень доверия; чувство стабильности и безопасности; востребованность; удовлетворенность цифровой экосистемой; интенсивность взаимодействия сторон.

3. Итоговые показатели: социальная значимость - социальные факторы, в том числе прозрачность государственных институтов, снижение коррупции; экономическая значимость (рост эффективности предприятий, благосостояния, рентабельности); экологическая значимость (ресурсосбережение, энергоэффективность, экологически чистые технологии).

Список литературы

1. Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation / Valle-Cruz D., Criado J.I., Sandoval-Almazan R., Ruvalcaba-Gomez E.A. // Government information quarterly. - 2020. -Vol. 37. - P. 1-11. - Mode of access : https://doi.org/10.1016/j.giq.2020.101509 (дата обращения: 07.10.2020).

2. Kuziemski M., Misuraca G. AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings // Telecommunications policy. - 2020. - Vol. 44. - P. 1-13. - Mode of access : https://joinup.ec.europa.eu/sites/default/files/document/2020-05/AI-governance-in-the-public-sector--Three-tales-from-the-f_2020_Telecommunic.pdf (дата обращения: 07.10.2020).

3. Skaug Sœtra H. A shallow defence of a technocracy of artificial intelligence: Examining the political harms of algorithmic governance in the domain of government // Technology in Society. - 2020. - Vol. 62. - P. 1-10. - Mode of access : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3494309 (дата обращения: 07.10.2020).

4. Tikhomirova O. E-Governance and social inclusion of entrepreneurship and businesses: Toward the social inclusive digital society // International Journal of E-Entrepreneurship and Innovation. - 2020. - Vol. 10, N 2. - P. 1-25. - Mode of access : https://www.igi-global.com/article/e-governance-and-social-inclusion-of-entrepreneurship-and-businesses/253872 (дата обращения: 07.10.2020).