CC BY
118
Научная статья УДК 327:004.8
https://doi.org/10.24158/pep.2023.8.9
Формирование международных режимов управления искусственным интеллектом: ключевые тенденции и основные акторы
Дмитрий Павлович Васильев
Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации, Москва, Россия, [email protected], https://orcid.org/0009-0003-8471-7489
Аннотация. Сегодня происходит формирование международных режимов управления искусственным интеллектом (ИИ). В данной статье автор выявляет ключевые тенденции и характеризует деятельность основных акторов этого процесса на глобальном, региональном и двустороннем уровнях. Доказывается наличие двух подходов к управлению ИИ. На глобальном уровне происходит создание норм «мягкого права». Однако в Европе сформировался подход, который предусматривает разработку юридически обязательных правил. Отмечается, что страны Запада преимущественно ведут деятельность по вопросам ИИ не под эгидой ООН, а в рамках менее инклюзивных организаций, что делает глобальное управление данной технологией неэффективным. Также установлено, что в сфере регулирования искусственного интеллекта государства предпочитают работать в многостороннем формате. При этом, несмотря на то, что большинство инициатив разрабатывается уже существующими организациями, наблюдается тенденция к созданию новых международных структур. Кроме того, выявлено, что различные региональные организации начали работу по вопросам регулирования ИИ, а это может привести к формированию нескольких международных режимов и фрагментации глобального управления ИИ.
Ключевые слова: искусственный интеллект, ИИ, управление ИИ, регулирование ИИ, международный режим, принципы ИИ, международное сотрудничество в сфере ИИ, международные соглашения в области ИИ Финансирование: инициативная работа.
Для цитирования: Васильев Д.П. Формирование международных режимов управления искусственным интеллектом: ключевые тенденции и основные акторы // Общество: политика, экономика, право. 2023. № 8. С. 74-88. https://doi.org/10.24158/pep.2023.8.9.
Original article
Formation of International Artificial Intelligence Governance Regimes: Key Trends and Main Actors
Dmitry P. Vasilyev
Russian Presidential Academy of National Economy and Public Administration, Moscow, Russia, [email protected], https://orcid.org/0009-0003-8471-7489
Abstract. Currently, international artificial intelligence (AI) governance regimes are taking shape. In this article, the author identifies key trends and characterizes the activities of the main actors of this process at the global, regional and bilateral levels. The existence of two approaches to AI governance is proved. At the global level, "soft law" norms are being created. However, an approach has emerged in Europe that involves the development of legally binding rules. It is emphasized that Western countries predominantly conduct activities on AI not under the auspices of the UN, but within less inclusive organizations, making global governance of the technology ineffective. It is also revealed that in the field of artificial intelligence regulation, states prefer to work in a multilateral format and there are no bilateral agreements. At the same time, despite the fact that most of the initiatives are being developed by existing organizations, there is a tendency to create new international bodies. In addition, it is revealed that various regional organizations have started to work on AI regulation, and this may lead to the formation of several international regimes and the fragmentation of AI global governance.
Keywords: artificial intelligence, AI, AI governance, AI regulation, international regime, AI principles, international cooperation on AI, international agreements on AI Funding: Independent work.
For citation: Vasilyev, D.P (2023) Formation of International Artificial Intelligence Governance Regimes: Key Trends and Main Actors. Society: Politics, Economics, Law. (8), 74-88. Available from: doi:10.24158/pep.2023.8.9 (In Russian).
© Васильев Д.П., 2023
Введение. Сегодня мы наблюдаем стремительное развитие искусственного интеллекта (ИИ) и внедрение данной технологии в различные сферы жизни общества. С одной стороны, ИИ способен принести человечеству большую пользу. Например, согласно недавнему исследованию, данная технология может способствовать достижению целей в области устойчивого развития (Vinuesa et al., 2020). Однако злонамеренное использование и безответственное развитие ИИ несет в себе угрозы национальной и международной безопасности (Bazarkina, Pashentsev, 2002; Turchin, Denkenberger, 2020). Именно поэтому большинство экспертов согласно с тем, что мировому сообществу необходимо эффективное управление ИИ (Ala-Pietila, Smuha, 2021; Erdelyi, Goldsmith, 2022).
Согласно официальным данным Совета Европы, в 2020 г. количество инициатив в области управления ИИ, предложенное международными организациями, впервые более в чем в два раза превысило число аналогичных инициатив на национальном уровне. Всего в период с 2016 по 2022 гг. национальными правительствами было опубликовано 169 документов, а международными организациями - 209 (рис. 1).
60 -
2016 2017 2018 2019 2020 2021 2022
- Инициативы на национальном уровне - Инициативы международных организаций
Рисунок 1 - Диаграмма «Инициативы в области управления ИИ»1 Figure 1 - Diagram of "AI Governance Initiatives"
Данная статистика демонстрирует, что сегодня на международном уровне предпринимаются попытки сформулировать правила развития и внедрения ИИ. Таким образом происходит зарождение международных режимов управления ИИ. Цель данной статьи - выявить ключевые тенденции и основных акторов этого процесса.
Формирование международного режима может происходить на трех уровнях - глобальном, региональном и двустороннем. Для получения общей картины управления ИИ представляется целесообразным последовательно проанализировать инициативы на каждом уровне.
Гпобальный уровень:
Организация экономического сотрудничества и развития (ОЭСР). ОЭСР является первой международной организацией на глобальном уровне, которая начала вести активную деятельность в сфере управления искусственным интеллектом. В 2016 г. главной темой форума «Форсайт технологического прогнозирования» впервые стал ИИ, а именно социальные и экономические последствия от внедрения данной технологии2. В октябре 2017 г. в Париже состоялась второе крупное мероприятие ОЭСР, посвященное ИИ. На конференции под названием «ИИ: умные машины, умная политика» собрались политики, представители гражданского общества и эксперты в области искусственного интеллекта с целью обсудить возможности и угрозы, сопряженные с внедрением
1 Составлено автором на основе данных Совета Европы: AI Initiatives [Электронный ресурс] // Council of Europe. URL: https://clck.ru/35MtGm (дата обращения: 15.07.2023) ; The Global Governance of Artificial Intelligence: Next Steps for Empirical and Normative Research [Электронный ресурс] // ResearchGate. URL: https://clck.ru/35MtHT (дата обращения: 15.07.2023).
2 Summary of the CDEP Technology Foresight Forum. Economic and Social Implications of Artificial Intelligence [Электронный ресурс] // OECD. URL: https://clck.ru/35MtLH (дата обращения: 15.07.2023).
этой технологии, а также определить роль политического регулирования и международного сотрудничества в данной области1. Эти события стали отправной точкой плодотворной работы ОЭСР по вопросам управления ИИ. Министерство внутренних дел и коммуникаций Японии было главным инициатором и организатором вышеуказанных мероприятий, что показывает существенную роль этой страны в процессе включения тематики ИИ в международную повестку дня.
В мае 2018 г. Комитет ОЭСР по политике в области цифровой экономики принял решение о необходимости создания межправительственного стандарта, который бы включал в себя принципы ответственного развития ИИ. Для этой цели в мае 2018 г. была сформирована Группа экспертов (АЮО), которой было поручено разработать проект данных принципов. На основании заключений экспертов Комитет по политике в области цифровой экономики подготовил «Рекомендации Совета по искусственному интеллекту» (Принципы ИИ ОЭСР), которые были подписаны в мае 2019 г. на заседании Совета ОЭСР на уровне министров. Данный документ носит исключительно рекомендательный характер и разделен на два смысловых блока. Первый из них содержит пять принципов ответственного развития ИИ. Второй - пять рекомендаций в области национальной политики и международного сотрудничества в сфере ИИ. Кроме того, в нем представлена терминологическая база - дано определение системам искусственного интеллекта и жизненному циклу систем ИИ, определены субъекты и заинтересованные стороны2.
Подписание странами «Принципов ИИ ОЭСР» имеет важное историческое значение. Государствам впервые на международном уровне удалось согласовать правила развития искусственного интеллекта. По своей сути данный документ является первым межправительственным стандартом в области управления ИИ. Также важным шагом является появление согласованной терминологии в сфере искусственного интеллекта. Сегодня многие страны и международные организации ссылаются в своих документах на определение ИИ, предложенное ОЭСР, что способствует гармонизации норм в данной области. Кроме того, стандарт подписало довольно большое количество стран (46), среди которых не только члены ОЭСР. К данному документу присоединились 8 стран, которые не входят в структуру организации3.
Еще одним направлением деятельности ОЭСР является создание площадок для обмена опытом и координации политики в области управления ИИ. Так, например, в 2020 г. начала свою работу «Специализированная парламентская группа по искусственному интеллекту», которая способствует взаимодействию представителей законодательной власти стран - членов ОЭСР по вопросам регулирования ИИ4.
Также важной вехой в деятельности ОЭСР стало создание в 2020 г. «Обсерватории политики ИИ ОЭСР», которая позволяет анализировать и сравнивать сотни документов в сфере управления ИИ, которые были приняты в более чем 60 странах5.
В марте 2022 г. в структуре ОЭСР появилась «Рабочая группа по управлению искусственным интеллектом», отвечающая за политику организации в сфере ИИ. Члены ее назначаются правительствами государств - членов ОЭСР и являются должностными лицами, которые в своих странах работают над регулированием данной технологии. Этот орган позволяет координировать управление ИИ между государствами. Кроме того, в ОЭСР осуществляет деятельность сеть экспертов из правительств, бизнеса, научных кругов и гражданского общества, которые предоставляют рекомендации для работы ОЭСР над политикой в области ИИ. Так, например, сегодня работает несколько экспертных групп: по рискам и ответственности в сфере ИИ, по будущему ИИ, по инцидентам в сфере ИИ, по вычислительным мощностям6.
Таким образом, на сегодняшний день ОЭСР играет важную роль в процессе формирования правил развития и внедрения искусственного интеллекта на глобальном уровне. Во-первых, именно в рамках этой организации удалось согласовать первый в истории межправительственный стандарт в области управления ИИ, который подписало большое количество стран (четверть государств - членов ООН). Во-вторых, ОЭСР является одной из основных площадок для обмена опытом и координации политики в сфере ИИ. В-третьих, ОЭСР активно участвует в инициативах,
1 AI: Intelligent Machines, Smart Policies. Conference Summary [Электронный ресурс] // OECD. URL: https://clck.ru/35MtNv (дата обращения: 15.07.2023).
2 Recommendation of the Council on Artificial Intelligence [Электронный ресурс] // OECD. URL: https://le-galinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (дата обращения: 15.07.2023).
3 Ibid.
4 Parliamentary Group on Artificial Intelligence (AI) Intelligence [Электронный ресурс] // OECD. URL: https://clck.ru/35MtR3 (дата обращения: 15.07.2023).
5 About OECD.AI [Электронный ресурс] // OECD. URL: https://oecd.ai/en/about (дата обращения: 15.07.2023).
6 OECD Working Party and Network of Experts on AI [Электронный ресурс] // OECD. URL: https://clck.ru/35MtSf (дата обращения: 15.07.2023).
которые создаются в рамках других международных организаций, что будет продемонстрировано в следующих разделах исследования.
37 и Глобальное партнерство по ИИ. Учитывая то влияние, которое ИИ оказывает на общество и мировую экономику, данная технология также является важной темой для обсуждения на полях саммитов G7 и G20. По результатам встречи министров ИКТ и промышленности стран G7 в 2017 г. была принята декларация, в которой впервые обозначена важность «ИИ, ориентированного на человека»1. Уже в 2018 г. лидеры государств «Большой семерки» согласовали документ под названием «Общее видение будущего искусственного интеллекта», который включает 12 обязательств по продвижению ориентированного на человека ИИ2. Таким образом, тематика искусственного интеллекта, которая ранее обсуждалась только министрами, вышла на новый уровень и стала повесткой дня лидеров стран G7.
На саммите G7, который состоялся весной 2023 года, искусственный интеллект был выделен в качестве одной ключевых областей, где требуется прочное сотрудничество стран-членов. Лидеры «Большой семерки» признали необходимость оценки потенциальных угроз, исходящих от стремительного развития генеративного ИИ. Для этой цели министрам поручено создать форум под названием «Хиросимский процесс искусственного интеллекта», в рамках которого будут проводить дискуссии о генеративном ИИ в сотрудничестве с ОЭСР и Глобальным партнерством по ИИ3.
Важнейшим событием в сфере глобального управления ИИ стало решение стран «Большой семерки» организовать новую международную организацию под названием «Глобальное партнерство по ИИ» (далее - Партнерство).
Идея создания этой структуры была предложена премьер-министром Канады Джастином Трюдо и президентом Франции Эммануэлем Макроном. В августе 2019 г. на саммите G7 в Биаррице главы стран G7 согласились с данным предложением4. А уже 15 июня 2020 г. было подписано «Совместное заявление членов-основателей Глобального партнерства по искусственному интеллекту», и данная организация начала свою работу5. Партнерство стало первой в мире структурой, которая была создана исключительно для международного сотрудничества в сфере ИИ. Главной целью объявлено «преодоление разрыва между теорией и практикой путем поддержки передовых исследований и прикладной деятельности по приоритетным направлениям в области ИИ»6.
За несколько лет работы количество участников Партнерства увеличилось почти в два раза и сегодня уже насчитывает 29 членов. При этом организация имеет хорошо оформленную структуру. Стратегическое руководство осуществляет Совет, который состоит из представителей правительств стран-членов на уровне министров. За реализацию указаний Совета отвечает Руководящий комитет. Данный орган является выборным, и в него входят 5 представителей правительств из Совета и 6 представителей НПО. Два центра экспертизы, расположенные в Париже и Монреале, поддерживают деятельность четырёх рабочих групп, которые занимаются исследовательскими и практическими проектами7.
Партнерство связывают особые взаимоотношения с ОЭСР. Во-первых, вся деятельность данной организации основывается на «Принципах ИИ ОЭСР». Во-вторых, ОЭСР является наблюдателем в Совете и Руководящем комитете Партнерства с возможностью активного участия в работе данных органов (второй международной организацией, которая обладает таким статусом наблюдателя является ЮНЕСКО). В-третьих, секретариат Партнерства располагается в штаб-квартире ОЭСР в Париже. Такое тесное сотрудничество между двумя международными организациями объясняется желанием совместить теорию и практику в области управления ИИ.
1 G7 ICT and Industry Ministers' Declaration: Making the Next Production Revolution Inclusive, Open and Secure [Электронный ресурс] // G7 Information Centre. URL: https://clck.ru/35MtUC (дата обращения: 15.07.2023).
2 Charlevoix Common Vision for the Future of Artificial Intelligence [Электронный ресурс] // Ministry of Foreign Affairs of Japan. URL: https://www.mofa.go.jp/files/000373837.pdf (дата обращения: 15.07.2023).
3 G7 Hiroshima Leaders' Communiqué [Электронный ресурс] // G7 Hiroshima Summit. URL: https://clck.ru/35MtVg (дата обращения: 15.07.2023).
4 Biarritz Strategy for an Open, Free and Secure Digital Transformation [Электронный ресурс] // The Official Website of the President of France. URL: https://clck.ru/35Mtab (дата обращения: 15.07.2023).
5 Joint Statement from founding members of the Global Partnership on Artificial Intelligence [Электронный ресурс] // Permanent mission of France to the Organisation for Economic Co-operation and Development URl: https://clck.ru/35Mtey (дата обращения: 15.07.2023).
6 GPAI (Home) [Электронный ресурс] // The Official Site of the GPAI. URL: https://gpai.ai/ (дата обращения: 15.07.2023).
7 GPAI (Community) [Электронный ресурс] // The Official Site of the GPAI. URL: https://gpai.ai/community/ (дата обращения: 15.07.2023).
Партнерство обеспечивает экспертизу и осуществляет научно-техническую работу, а ОЭСР реализует международную политику в области управления ИИ на практике1.
При этом важно отметить, что в ОЭСР, 07 и Глобальном партнёрстве по ИИ ведущую роль играют страны западного мира. Соответственно, инициативы, которые разрабатываются в рамках данных объединений, не являются отражением позиции всего мирового сообщества. На данный факт обратил внимание министр иностранных дел России С.В. Лавров на заседании Совета Безопасности ООН, отметив, что такие организации, как Глобальное партнерство по ИИ создаются для того, «чтобы подорвать переговоры по соответствующим темам под эгидой ООН, навязать выгодные Западу неконсенсусные концепции и решения»2. Таким образом, Партнерство подвергается критике за продвижение преимущественно западного подхода к управлению ИИ.
Итак, создание Партнерства демонстрирует значимую тенденцию. Изначально инициативы в области управления ИИ появляются в рамках уже существующих международных организаций, но учитывая то важное значение, которое имеет искусственный интеллект для мирового развития, государства приходят к выводу о необходимости создания совершенно новых международных учреждений. И организация Партнерства является важным первым шагом на этом пути.
Однако вышеуказанный анализ позволяет выявить еще одну важную тенденцию. Сегодня мы наблюдаем попытки стран Запада разрабатывать нормы и правила в сфере управления ИИ в рамках не универсальной международной организации (ООН), а менее инклюзивных международных объединений, таких как ОЭСР, 07 и Партнерство. Но построить эффективную глобальную архитектуру управления ИИ без учета позиции Россия и Китая невозможно. КНР сегодня является одним из мировых лидеров развития ИИ. Россия также обладает большим потенциалом в этой сфере и выступает важным актором на международной арене. Именно поэтому подключение данных стран к процессу формирования правил в области ИИ крайне важно. Следовательно, глобальное управление Ии должно осуществляться под эгидой ООН, либо требуется создание другой специализированной международной организации, членами которой будут являться все ведущие мировые державы.
320. «Большая двадцатка» является как раз одной из площадок, в рамках которой к дискуссии о глобальном управлении ИИ подключаются Китай и Россия. Важным событием стала встреча министров G20 по вопросам торговли и цифровой экономики в 2019 г. На данном мероприятии были одобрены «Принципы G20 в области искусственного интеллекта»3, которые полностью основаны на «Принципах ИИ ОЭСР» и также носят рекомендательный характер. Таким образом, к правилам ответственного развития ИИ, предложенным раннее странами ОЭСР, косвенно присоединились Россия, Китай, Индия, Индонезия, Саудовская Аравия и ЮАР. В отношении КНР это особенно важно. Как отмечалось ранее, Китай является одним из лидеров в области развития искусственного интеллекта. При этом, по мнению доцента СПБГУ Р.С. Выходца, в настоящий момент происходит формирование двух конкурирующих ИИ-пространств. Первое из них объединяет государства ОЭСР во главе с США и ЕС, а второе - формируется вокруг Китая (Выходец, 2022). Именно поэтому тот факт, что КНР подписала документ, который полностью базируются на «Принципах ИИ ОЭСР», демонстрирует, что Пекин принимает нормы в области ИИ, предложенные странами ОЭСР. Это должно способствовать тому, что конкуренция двух больших ИИ-пространств будет осуществляться в рамках согласованных и предсказуемых правил.
Таким образом, сегодня «Принципы ИИ ОЭСР» так или иначе признают 54 страны и Европейский союз (рис. 2). Среди них - крупнейшие экономики мира и безусловные лидеры в области развития ИИ. Это говорит о том, что сегодня формируется международный режим управления ИИ, базирующийся на «Принципах ИИ ОЭСР», то есть на правилах и нормах рекомендательного характера («Мягкое право»).
Также на рис. 2 продемонстрировано, что некоторые страны являются наиболее активными участниками данного процесса. Так, несколько государств поддерживают сразу три важные инициативы в области управления ИИ («Принципы ИИ ОЭСР», «Принципы ИИ 020» и Глобальное партнерство по ИИ): Австралия, Аргентина, Бразилия, Великобритания, Германия, Италия, Канада, Мексика, США, Турция, Франция, Южная Корея, Япония. При этом на фоне вышеуказанных стран особенно выделяется деятельность Японии, Франции и Канады. Япония является инициатором того, что ИИ стал одним из важных вопросов в повестке ОЭСР, а Франция и Канада продвигали идею создания Глобального партнерства по ИИ.
1 About GPAI [Электронный ресурс] // The Official Site of the GPAI. URL: https://gpai.ai/about/ (дата обращения: 15.07.2023).
2 Лавров заявил, что никто не давал Западу право говорить от лица всего человечества [Электронный ресурс] // ТАСС. URL: https://tass.ru/politika/17596431 (дата обращения: 15.07.2023).
3 G20 Ministerial Statement on Trade and Digital Economy [Электронный ресурс] // G20. URL: https://clck.ru/35Py3E (дата обращения: 17.08.2023).
Рисунок 2 - Формирующийся международный режим управления ИИ, базирующийся на «Принципах ИИ ОЭСР»1
Figure 2 - Emerging International AI Governance Regime Based on the OECD AI Principles
БРИКС. Как уже отмечалось выше, сегодня страны западного мира ведут работу в сфере управления ИИ в рамках таких площадок, как ОЭСР, G7 и Партнерство. Для получения объективной картины в области глобального управления ИИ представляется целесообразным также проанализировать деятельность объединения, которое создано альтернативными Западу центрами силы. Такой структурой является БРИКС.
В данный момент государства этого объединения на национальном уровне активно ведут работу по развитию и регулированию искусственного интеллекта. В отечественной научной литературе имеются исследования, посвященные различным аспектам правового регулирования ИИ в странах «пятерки» (напр.: Аристов, Беликова, 2022; Нечкин, 2020). Однако анализ формирования единого подхода БРИКС к управлению ИИ остается малоизученным. Представим краткий обзор взаимодействия государств - членов БРИКС по данному вопросу.
Одним из направлений сотрудничества стран - членов БРИКС является сфера информационно-коммуникационных технологий. Так, например, с 2015 г. проходят встречи министров связи стран БРИКС, на которых обсуждаются вопросы ИКТ. Однако искусственный интеллект в качестве отдельного вопроса обсуждений закрепился относительно недавно. Только в 2020 г. в декларации шестой встречи министров связи стран БРИКС впервые появляется специальный раздел, посвященный данной технологии. В нем отмечается огромный потенциал ИИ, а также необходимость сотрудничества в этой области2. А в декларации седьмой встречи министров связи, которая состоялась через год, стороны выражают свою озабоченность по поводу рисков и этических дилемм, связанных с искусственным интеллектом, и призывают государства объединения совместно работать над решением данных проблем3.
Главным форматом взаимодействия БРИКС являются ежегодные саммиты глав государств, по результатам которых также публикуются декларации. Анализ данных документов позволяет выявить то, когда именно ИИ закрепился в повестке лидеров стран данного объединения.
1 Составлено автором с использованием дополнительных материалов (Cihon et al., 2020).
2 Declaration of the 6th BRICS Communication Ministers Meeting, 17 September 2020, Russian Federation [Электронный ресурс] // BRICS. Russia. 2020. URL: https://clck.ru/35PyMJ (дата обращения: 21.08.2023).
3 Declaration of the 7th BRICS Communications Ministers' Meeting [Электронный ресурс] // BRICS India 2021. URL: https://goo.su/Jvwrl (дата обращения: 15.07.2023).
Впервые словосочетание «искусственный интеллект» появляется в декларации саммита, который прошел в 2017 году в Сямыне. Стороны говорят о готовности расширять совместные исследования, разработки и инновации в области ИКТ, включая ИИ1. В декларации 2021 г. лидеры признают значительную роль искусственного интеллекта (наряду с другими технологиями) в борьбе с пандемией, вызванной COVID-192. Но только в 2022 г. в декларации пекинского саммита БРИКС впервые появляется отдельный пункт, который посвящен ИИ. В данном документе главы государств соглашаются с тезисами, которые ранее были предложены в рамках встреч министров связи. Но особенно важно, что лидеры выражают озабоченность по поводу рисков, связанных с искусственным интеллектом, и призывают совместно работать над созданием общего подхода к управлению данной технологией3. Из этого следует, что в настоящий момент единый подход стран - членов БРИКС к глобальному управлению ИИ еще не сформирован, и работа по данному вопросу только начинается.
На сегодняшний день в рамках БРИКС еще не разработано ни одного отдельного соглашения в области ИИ. На данный факт обратил внимание замглавы Совбеза РФ и предложил подготовить специальный документ по сотрудничеству стран - членов объединения в сфере искусственного интеллекта, посредством которого можно было бы выйти на модельные законы о регулировании данной технологии4. Также в России была озвучена идея создания специального органа по ИИ в рамках БРИКС. Так, генеральный директор Российского фонда прямых инвестиций внес предложение о формировании альянса по развитию искусственного интеллекта, который «позволит обеспечить синергию в развитии ИИ за счет внедрения единых стандартов его участниками»5. Можно предположить, что если такого рода структура будет создана, то она может стать альтернативой Глобальному партнерству по ИИ. Таким образом в мире начнут функционировать несколько новых организаций в сфере ИИ, которые будут конкурировать за включение в свой состав новых участников. Такой сценарий приведет к фрагментации международного управления искусственным интеллектом и усилению конкуренции в данной сфере.
Итак, можно сделать несколько выводов о ситуации в области управления ИИ в рамках БРИКС на современном этапе. Во-первых, искусственный интеллект появился в повестке объединения в качестве отдельного объекта сотрудничества сравнительно недавно, а именно в 2020-2022 гг. В связи с этим страны БРИКС еще не успели сформировать общий подход к управлению данной технологией, но наметилась тенденция к совместной работе в этом направлении. Кроме того, на данный момент не принято ни одного отдельного документа и не создано специальных органов в сфере ИИ. Однако инициативы, которые были выдвинуты в России, позволяют предположить, что в ближайшее время в рамках БРИКС могут быть разработаны соглашения по вопросам искусственного интеллекта и даже создан альянс по ИИ.
Организация Объединённых Наций (ООН) и специализированные учреждения. Осознавая необходимость глобальной кооперации в области цифровых технологий, Генеральный секретарь ООН в июле 2018 г. сформировал «Группу высокого уровня по цифровому сотрудничеству», главной целью которой стала выработка рекомендаций по укреплению международного взаимодействия в данной области. Представленные группой формулировки составили основу дорожной карты Генерального секретаря ООН по цифровому сотрудничеству, которая была принята в мае 2020 г. В данном документе есть отдельные разделы, посвященные искусственному интеллекту. Кроме того, Генеральный секретарь впервые обозначает свое намерение создать многосторонний консультативный орган по вопросам глобального сотрудничества в области ИИ, который должен состоять из стран - членов оОн, бизнес-структур, академического сообщества и представителей гражданского общества6. В настоящий момент орган еще не создан, но ведутся обсуждения данного вопроса. Предложение создать многостороннюю структуру в области управления ИИ, отраженное в официальном документе ООН, имеет крайне важное значение. Это является
1 BRICS Leaders Xiamen Declaration [Электронный ресурс] // BRICS South Africa 2023. URL: https://clck.ru/35MuBY (дата обращения: 15.07.2023).
2 XIII BRICS Summit - New Delhi Declaration [Электронный ресурс] // Ibid. URL: https://clck.ru/35MuFP (дата обращения: 15.07.2023).
3 XIV BRICS Summit Beijing Declaration [Электронный ресурс] // Ibid. URL: https://clck.ru/35MuFt (дата обращения: 15.07.2023).
4 Медведев: России не нужно отгораживаться от дискуссий в мире по искусственному интеллекту [Электронный ресурс] // ТАСС. URL: https://tass.ru/ekonomika/11597729 (дата обращения: 15.07.2023).
5 Глава РФПИ сообщил, что в БРИКС могут создать единую платежную систему [Электронный ресурс] // Там же. URL: https://tass.ru/ekonomika/7116925 (дата обращения: 15.07.2023).
6 Дорожная карта по цифровому сотрудничеству: осуществление рекомендаций Группы высокого уровня по цифровому сотрудничеству [Электронный ресурс] // ООН. URL: https://clck.ru/35MuKL (дата обращения: 15.07.2023).
первым шагом на пути к централизованному международному режиму управления ИИ, ядром которого может стать новый консультативный орган в структуре ООН.
ООН и ее специализированные учреждение активно ведут работу по использованию потенциала ИИ для достижения целей в области устойчивого развития (ЦУР). В 2020 г. была создана «Межведомственная рабочая группа по искусственному интеллекту» (IAWG-AI) под совместным руководством ЮНЕСКО и Международного союза электросвязи (МСЭ). Она отвечает за координацию политики всех структур ООН в области ИИ, что в том числе должно способствовать достижению ЦУР1. А начиная с 2018 г. МСЭ совместно с другими органами ООН ежегодно публикует доклад под названием «Деятельность Организации Объединенных Наций в области искусственного интеллекта (ИИ)», в котором освещаются проекты ООН в сфере ИИ для достижения ЦУР. Так, например, в последнем докладе за 2022 г. представлен 281 проект2. На достижение целей в области устойчивого развития ориентирована и платформа «ИИ во благо». Она создана для многостороннего диалога по вопросам ИИ.
Отдельным направлением деятельности ООН являются попытки регулирования смертоносных автономных систем вооружений (САС). В 2016 г. на пятой обзорной конференции Конвенции о «негуманном» оружии (КНО) страны договорились создать Группу правительственных экспертов (ГПЭ) по САС для оценки вопросов, связанных с этими системами вооружения. Одним из результатов работы ГПЭ стало принятие странами в 2019 г. 11 руководящих принципов в отношении САС3. В свою очередь Генеральный секретарь ООН Антониу Гутерриш призвал полностью запретить использование этого вида вооружения4. И данное предложение поддерживают многие государства мира. Согласно отчету исследовательской службы Конгресса США, в настоящий момент 29 стран считают запрет сАс необходимым (в том числе три члена G20 - Аргентина, Бразилия и Мексика). Однако такие страны, как США, Россия, Франция, Германия, Великобритания, Израиль выступают против этой идеи5. Данная тенденция является закономерной. Обладая высокоразвитым военно-промышленным комплексом (ВПК), эти государства рассматривают САС в качестве еще одного средства обеспечения национальной безопасности, от которого отказываться не намерены. А это говорит о том, что государствам вряд ли удастся достичь соглашения о запрете сАс в ближайшие годы.
Специализированные учреждения ООН ведут работу по вопросам управления ИИ в рамках сферы своих компетенций, но особенно выделяются достижения ЮНЕСКО. В рамках своего мандата эта организация отвечает за то, чтобы наука и техника развивались с соблюдением строгих этических норм. Искусственный интеллект, являясь одной из главных технологий современности, естественно, также находится в фокусе внимания данной организации. В 2021 г. на 41-ой Генеральной конференции ЮНЕСКО 193 государства-члена единогласно приняли «Рекомендацию об этических аспектах искусственного интеллекта» (Принципы ИИ ЮНЕСКО). Подготовка проекта велась на протяжении двух лет и в данном процессе приняли участие представители 55 стран, в том числе Россия и Китай6.
Подписание «Принципов ИИ ЮНЕСКО», безусловно, можно назвать важнейшей вехой в процессе формирования международного режима управления ИИ. Впервые на глобальном уровне удалось согласовать соглашение по этике искусственного интеллекта, которое подписало такое количество стран. Документ включает 10 принципов деятельности в сфере ИИ, а также предлагает 11 рекомендаций государствам-членам. Как и принципы, принятые ранее странами ОЭСР, документ ЮНЕСКО носит исключительно рекомендательный характер и создает общую рамку в виде правил, которыми предложено руководствоваться государствам при разработке национальных законов и стратегий в сфере ИИ7.
1 Inter-Agency Working Group on Artificial Intelligence: Terms of reference (draft) [Электронный ресурс] // UN System Chief Executives Board for Coordination. URL: https://clck.ru/35MuLL (дата обращения: 15.07.2023).
2 United Nations Activities on Artificial Intelligence (AI) 2022 [Электронный ресурс] // International Telecommunication Union. URL: https://clck.ru/35MuNT (дата обращения: 15.07.2023).
3 Совещание Высоких Договаривающихся Сторон Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие [Электронный ресурс] // Система официальной документации ООН. URL: https://documents-dds-ny.un.org/doc/UNDOC/GEN/G19/343/66/PDF/G1934366.pdf?OpenElement (дата обращения: 15.07.2023).
4 Secretary-General's Address to the Paris Peace Forum [Электронный ресурс] // United Nations. URL: https://clck.ru/35MuPn (дата обращения: 15.07.2023).
5 International Discussions Concerning Lethal Autonomous Weapon Systems [Электронный ресурс] // U.S. Congressional Research Service. URL: https://clck.ru/35MuQq (дата обращения: 15.07.2023).
6 ЮНЕСКО приняла рекомендацию об этических аспектах искусственного интеллекта [Электронный ресурс] // D-russia.ru. URL: https://clck.ru/35MuS2 (дата обращения: 15.07.2023).
7 Рекомендация об этических аспектах искусственного интеллекта [Электронный ресурс] // ЮНЕСКО. URL: https://unesdoc.unesco.org/ark:/48223/pf0000380455_rus (дата обращения: 15.07.2023).
Итак, работа ООН в области управления ИИ сегодня ведется по двум направлениям. Во-первых, организация стремится добиться того, чтобы искусственный интеллект служил на благо человечеству и пытается использовать потенциал данной технологии для достижений целей в области устойчивого развития. Во-вторых, ООН является единственной организацией на глобальном уровне, в рамках которой сегодня ведутся дискуссии о таком важном вопросе международной безопасности, как запрет САС.
Кроме того, работа по вопросу регулирования ИИ осуществляется и в рамках специализированных учреждений ООН, при этом достижения ЮНЕСКО особенно выделяются на фоне остальных. Именно этой организации удалось подготовить комплексное межправительственное соглашение по этике ИИ, которое подписали 193 государства. На сегодняшний день «Принципы ИИ ЮНЕСКО» остаются самым крупным межгосударственным документом в данной сфере. При этом рекомендательный характер соглашения подтверждает следующую тенденцию. На глобальном уровне сегодня сложился подход к международному управлению ИИ, который опирается на «мягкое право». Рекомендация ЮНЕСКО совместно с «Принципами ИИ ОЭСР» и «Принципами ИИ 020» в настоящий момент составляет общую рамку правил и норм, которым государства согласились следовать при развитии и внедрении искусственного интеллекта.
Региональный уровень:
Европейский союз (ЕС). Сегодня международное сотрудничество в области управления ИИ происходит также и на региональном уровне. Особенно в данном смысле выделяется европейский регион, где работа по регулированию ИИ наиболее активно ведется Европейским союзом и Советом Европы.
В октябре 2017 г. Европейский Совет предложил Комиссии ЕС сформулировать европейский подход к искусственному интеллекту1. В апреле 2018 г. 24 страны ЕС и Норвегия подписали Декларацию о сотрудничестве в области ИИ, в которой объявили о своем намерении работать вместе над широким спектром вопросов, возникающих в связи бурным развитием данной технологии2. А еще спустя две недели была опубликована стратегия развития ИИ ЕС. В данном документе отмечается, что объединению нужен скоординированный подход, чтобы максимально использовать возможности ИИ и решать новые проблемы, которые могут возникнуть в связи с внедрением искусственного интеллекта3.
Стратегией предусмотрено создание «Европейского альянса в сфере ИИ», который является форумом для диалога по вопросам ИИ, а также стимулирует разработку этой технологии. Кроме того, летом 2018 г. была создана Группа экспертов высокого уровня по искусственному интеллекту. Этот консультативный орган, состоящий из представителей академических кругов, гражданского общества и бизнеса, предоставлял рекомендации Европейской Комиссии по политике в области ИИ. Важнейшим результатом работы группы стало «Руководство по этике для надежного искусственного интеллекта», содержащее набор из 7 ключевых требований, которым системы ИИ должны соответствовать, чтобы считаться заслуживающими доверия4.
Европейский союз стремится стать мировым лидером в области искусственного интеллекта, а для достижения этой цели требуется объединение потенциала всех стран ЕС. Именно для этого в 2018 г. был согласован и опубликован «Скоординированный план ЕС по искусственному интел-лекту»5, а в 2021 г. выпущена его обновленная версия. Скоординированный план ЕС направлен на согласование политики стран в сфере ИИ, чтобы избежать фрагментации в Европе. В данном документе предлагается конкретный набор совместных действий государств-членов для достижения глобального лидерства ЕС в области надежного ИИ.
Стоит отметить тот факт, что стратегия развития ИИ ЕС появилась раньше, чем большинство стран-членов опубликовали свои национальные стратегии. Более того, Европейская Комиссия в «Скоординированном плане ЕС по искусственному интеллекту 2018 г.» рекомендует странам-членам разработать и внедрить национальные стратегии в области ИИ в ближайшее время6. А в обновленном варианте скоординированного плана, опубликованного в 2021 г., государствам-
1 EUCO 14/17 [Электронный ресурс] // European Council. URL: https://clck.ru/35Mubw (дата обращения: 15.07.2023).
2 EU Member States sign up to cooperate on Artificial Intelligence [Электронный ресурс] // European Commission. URL: https://clck.ru/33h7zH (дата обращения: 15.07.2023).
3 Artificial Intelligence for Europe [Электронный ресурс] // Eur-Lex. URL: https://clck.ru/35Muey (дата обращения: 15.07.2023).
4 Ethics Guidelines for Trustworthy AI [Электронный ресурс] // European Commission. URL: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (дата обращения: 15.07.2023).
5 Coordinated Plan on Artificial Intelligence, 2018 [Электронный ресурс] // Eur-Lex. URL: https://eur-lex.eu-ropa.eu/legal-content/EN/TXT/?uri=CELEX%3A52018DC0795 (дата обращения: 15.07.2023).
6 Ibid.
членам предлагается пересмотреть и обновить национальные стратегии ИИ по мере необходимости1. Кроме того, Европейская Комиссия производит регулярный мониторинг состояния национальной политики стран-членов в области ИИ. Таким образом, Европейский союз в данном случае является инициатором и двигателем процесса формирования стратегий ИИ в отдельных странах-членах.
Как отмечалось ранее, управление ИИ на глобальном уровне опирается на «мягкое право» в виде необязательных к исполнению принципов поведения в сфере ИИ. Однако Европейский союз сегодня идет по другому пути и осуществляет разработку юридически обязательных правил, то есть «жесткого права». В феврале 2020 г. Европейская Комиссия опубликовала документ под названием «Белая книга по искусственному интеллекту - европейский подход к совершенству и доверию», в котором утверждается, что в связи с огромным потенциалом искусственного интеллекта и угрозами, связанными с внедрением данной технологии, необходимо не только корректировать существующее законодательство, но и принимать совершенно новые законы в области ИИ2. Вместе с публикацией Белой книги Европейская Комиссия запустила общественные консультации, в рамках которых граждане ЕС могли предоставить свое мнение о предстоящих мерах политики ЕС в сфере ИИ3.
Следующим шагом на пути к комплексной правовой базе в сфере ИИ стала публикация Европейской комиссией проекта «Закона об искусственном интеллекте» в апреле 2021 г. Это первый в истории документ, который регулирует ИИ в рамках риск-ориентированного подхода и направлен на устранение угроз, связанных с ним. Согласно документу, технологии на основе ИИ делятся на четыре категории по уровню риска - неприемлемому, высокому, ограниченному и минимальному. К каждой категории применяются отдельные требования. За нарушение требований закона предполагаются санкции в виде штрафов. В каждой стране предусмотрено создание национальных надзорных органов, которые будут следить за исполнением закона об ИИ. Более того, должен быть создан Европейский совет по ИИ, который будет состоять из представителей национальных органов в сфере искусственного интеллекта4. Таким образом, в Европе появятся органы, специально созданные для регулирования ИИ в рамках «жесткого права».
В настоящий момент проект документа находится на этапе согласования. В случае если данный закон будет принят, это станет историческим событием. Во-первых, на сегодняшний день ни одна страна в мире не имеет столь комплексного и обязательного к исполнению закона об ИИ. Во-вторых, удачный опыт ЕС впоследствии можно будет распространить на другие страны мира и даже на соглашения между государствами.
Совет Европы. В связи с тем, что стремительное развитие ИИ оказывает влияние на демократию, права и свободы человека, данная технология также находится в фокусе внимания Совета Европы. В 2019 г. Комитет министров создал «Специальный комитет по ИИ», главной задачей которого стало изучение возможности формирования правовой базы Совета Европы по ИИ и ее потенциальных элементов. Результатом работы комитета стал отчет под названием «Возможные элементы правовой базы искусственного интеллекта, основанные на стандартах Совета Европы в области прав человека, демократии и верховенства закона», в котором предлагается создать юридически обязательный документ, устанавливающий общие принципы и конкретные правовые нормы в области ИИ5.
В 2021 г. «Специальный комитет по ИИ» (CAHAI) завершил свою работу и вместо него был сформирован «Комитет по ИИ» (CAI). Новая структура создана для практической реализации наработок своего предшественника и должна к ноябрю 2023 г. подготовить проект рамочной конвенции об искусственном интеллекте, которая станет юридически обязательным международным соглашением. Членами комитета с правом голоса являются представители стран - членов Совета Европы. Также в комитет без права голоса входят представители США, Канады, Японии, Мексики, Ватикана и международных организаций (например, ЕС, ОЭСР, ЮНЕСКО). Кроме того,
1 Coordinated Plan on Artificial Intelligence 2021 Review [Электронный ресурс] // European Commission. URL: https://clck.ru/35MuwJ (дата обращения: 15.07.2023).
2 White Paper on Artificial Intelligence - A European Approach to Excellence and Trust [Электронный ресурс] // Ibid. URL: https://clck.ru/35MuxZ (дата обращения: 15.07.2023).
3 White Paper on Artificial Intelligence: Public Consultation Towards a European Approach for Excellence and Trust [Электронный ресурс] // Ibid. URL: https://clck.ru/35Muy4 (дата обращения: 15.07.2023).
4 Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts // Eur-Lex. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206 (дата обращения: 15.07.2023).
5 Possible Elements of a Legal Framework on Artificial Intelligence, Based on the Council of Europe's Standards on Human Rights, Democracy and the Rule of Law [Электронный ресурс] // Council of Europe. URL: https://clck.ru/35Mv2Y (дата обращения: 15.07.2023).
наблюдателями в комитете являются: Глобальное партнерство по искусственному интеллекту и представители многих организаций гражданского общества1. Таким образом, над разработкой проекта конвенции работает большое количество акторов мировой политики.
В июле 2023 г. был опубликован «Сводный рабочий проект рамочной конвенции об искусственном интеллекте, правах человека, демократии и верховенстве закона». Анализ данного документа позволяет выделить ключевые особенности будущего международного соглашения. Во-первых, конвенция устанавливает определенные основополагающие принципы, которыми должны руководствоваться страны при проектировании, разработке, применении и вывода из эксплуатации систем ИИ. Во-вторых, документ является юридически обязательным. В-третьих, предусматривается применение риск-ориентированного подхода к ИИ. В-четвертых, для обеспечения эффективного выполнения положений конвенции планируется создание механизма контроля2.
Итак, деятельность ЕС и Совета Европы демонстрирует следующую тенденцию. Сегодня в Европе сформировался свой уникальный подход к международному управлению искусственным интеллектом, который отличается стремлением создать юридически обязательные документы, то есть «жесткое право». При этом применяется риск-ориентированный подход и планируется создание механизмов контроля за соблюдением правил в сфере ИИ.
Шанхайская организация сотрудничества (ШОС). Помимо Европы международное сотрудничество в сфере ИИ происходит и в других регионах мира. Представляется целесообразным проанализировать деятельность Шанхайской организации сотрудничества, которая является одним из крупнейших региональных объединений стран, не являющихся частью западного мира.
В первую очередь необходимо отметить, что согласно Хартии ШОС, одним из направлений сотрудничества ее членов является взаимодействие в области науки и техники3. Следовательно, вопросы, связанные с ИКТ, в том числе и с искусственным интеллектом, должны находиться в повестке данной организации.
В 2019 г. на саммите в Бишкеке была утверждена «Концепция сотрудничества государств -членов ШОС в сфере цифровизации и информационно-коммуникационных технологий». Данный документ направлен на расширение взаимодействия членов организации в области ИКТ и одним из приоритетных направлений сотрудничества обозначает искусственный интеллект4. А в «Заявлении Совета глав государств-членов ШОС о сотрудничестве в области цифровой экономики» 2020 г. страны вновь обозначили важность изучения вопросов дальнейшего взаимодействия в области различных технологий, среди которых упоминается ИИ5.
При этом в рамках ШОС на данный момент существует только два документа, которые посвящены исключительно вопросам ИИ. Так, в 2022 г. в Узбекистане прошло шестое совещание руководителей министерств и ведомств науки и техники государств - членов ШОС. На данном мероприятии участники рассмотрели и одобрили «Программу сотрудничества по развитию искусственного интеллекта»6. А еще через год с целью реализации данной программы российской стороной был представлен «Проект дорожной карты по развитию искусственного интеллекта государств - членов ШОС»7.
Вышеуказанные документы демонстрируют готовность стран развивать сотрудничество в области развития ИИ, но не нацелены на создание правил и норм поведения в данной сфере. Следовательно, можно сделать вывод о том, что на сегодняшний день в рамках ШОС еще не выработано ни одного межгосударственного документа, который бы регулировал сферу ИИ. Тем не менее
1 Terms of Reference of the Committee on Artificial Intelligence (CAI) [Электронный ресурс] // Council of Europe. URL: https://clck.ru/35MvNV (дата обращения: 15.07.2023).
2 Consolidated Working Draft of the Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law [Электронный ресурс] // Ibid. URL: https://rm.coe.int/cai-2023-18-consolidated-working-draft-framework-convention/1680abde66 (дата обращения: 15.07.2023).
3 Хартия Шанхайской организации сотрудничества [Электронный ресурс] // Президент России. URL: http://www.kremlin.ru/supplement/3450 (дата обращения: 15.07.2023).
4 В Бишкеке обсудили вопросы расширения взаимодействий в сфере информационных технологий стран ШОС [Электронный ресурс] // ШОС. URL: https://clck.ru/35MvRV (дата обращения: 15.07.2023).
5 Заявление Совета глав государств-членов Шанхайской организации сотрудничества о сотрудничестве в области цифровой экономики [Электронный ресурс] // Там же. URL: http://rus.sectsco.org/documents/ (дата обращения: 15.07.2023).
6 Страны Шанхайской организации сотрудничества утвердили план мероприятий в сфере науки на 2022-2025 гг. [Электронный ресурс] // Министерство науки и высшего образования Российской Федерации. URL: https://clck.ru/35MvTt (дата обращения: 15.07.2023).
7 Представители профильных ведомств государств - членов ШОС договорились развивать научное взаимодействие [Электронный ресурс] // Министерство науки и высшего образования Российской Федерации. URL: https://clck.ru/35MvVM (дата обращения: 15.07.2023).
следует отметить, что в России уже выдвигаются некоторые предложения по созданию системы управления ИИ в рамках ШОС, которые были бы альтернативны инициативам стран Запада1.
Таким образом, проведенный анализ позволяет сделать следующий вывод о текущей ситуации в области управления ИИ в рамках ШОС. До недавнего времени искусственный интеллект в основном обсуждался в одном ряду с другими информационно-коммуникационными технологиями. Однако в 2022-2023 гг. появились первые документы, специально посвященные сотрудничеству в области развития ИИ. Данный факт говорит о том, что сегодня искусственный интеллект стал отдельным объектом сотрудничества стран - членов ШОС. При этом данные документы нацелены на формирование рамки взаимодействия по вопросам развития ИИ, но не создают правила и нормы поведения в данной области. Следовательно, говорить о формировании международного режима управления искусственным интеллектом в рамках ШОС пока еще рано. Но в России уже озвучиваются предложения касательно системы регулирования ИИ в рамках ШОС и БРИКС, а значит, в ближайшее время, возможно, будут сделаны первые шаги в данном направлении.
Содружество независимых государств (СНГ), Ассоциация государств Юго-Восточной Азии (АСЕАН), Лига арабских государств (ЛАГ). Сегодня вопросами регулирования ИИ занимаются и другие региональные международные организации. В качестве подтверждения данного тезиса можно привести пример деятельности таких объединений, как СНГ, АСЕАН и ЛАГ.
Искусственный интеллект появился в повестке СНГ в 2021 г., когда был представлен проект «Рекомендации по нормативному регулированию использования искусственного интеллекта, включая этические стандарты для исследований и разработок». Документ был принят на 55 пленарном заседании Межпарламентской ассамблеи государств - участников СНГ, которое состоялось в апреле 2023 г. В нем изложены правовые и этические принципы, а также основные направления нормативного регулирования ИИ2. Рекомендация является первым межгосударственным документом в сфере регулирования ИИ, принятым странами-членами СНГ, и она должна стать дорожной картой для создания национального законодательства. Кроме того, учеными из Беларуси был разработан «Модельный закон о регулировании искусственного интеллекта» и в 2023 г. передан в Межпарламентскую Ассамблею СНГ. Он должен стать моделью, на которую страны-члены СНГ будут опираться при создании своих национальных законодательных актов3. Также, согласно информации, размещенной на сайте Межпарламентской Ассамблеи СНГ, в настоящий момент ведется разработка «Глоссария в сфере искусственного интеллекта для государств - участников СНГ»4. Общий глоссарий позволит решить вопрос отсутствия единой терминологии и будет способствовать дальнейшему сотрудничеству в области управления ИИ на территории СНГ.
В свою очередь, 10 участников Ассоциации государств Юго-Восточной Азии в начале 2023 г. согласились с необходимостью разработки «Руководства АСЕАН по ИИ», которое будет включать принципы управления искусственным интеллектом и в том числе вопросы этики в этой сфере5. Если данный документ будет принят, то он станет одним из самых крупных региональных соглашений в области управления ИИ в мире.
Страны арабского мира сегодня также сотрудничают по вопросам ИИ. Так, в 2019 г. на 23-ей сессии Совета министров по телекоммуникациям и информации Лиги арабских государств (ЛАГ) было принято решение о создании «Рабочей группы по ИИ», которая начала свою работу в 2021 г. Основной задачей данного органа является согласование общей позиции стран по вопросу искусственного интеллекта, а также формирование единого плана действий в этой области6.
Приведенные выше примеры, конечно, не являются исчерпывающими. Однако деятельность СНГ, АСЕАН и ЛАГ позволяет выявить следующую тенденцию. В настоящий момент в разных регионах мира параллельно происходят попытки регулирования ИИ. Различными региональными организациями формулируются нормы, которыми должны руководствоваться страны в сфере ИИ.
1 Глобальное регулирование в сферах искусственного интеллекта: Cбер внесет предложения в «дорожную карту» на пространстве ШОC и БРИ^ [Электронный ресурс] // Московский комсомолец. URL: https://clck.ru/35MvXV (дата обращения: 15.07.2023).
2 Рекомендации по нормативному регулированию использования искусственного интеллекта, включая этические стандарты для исследований и разработок [Электронный ресурс] // Межпарламентская Ассамблея государств - участников ^дружества Независимых Государств. URL: https://clck.ru/35Mvb7 (дата обращения: 15.07.2023).
3 Минск предложил CI-IT закон о регулировании искусственного интеллекта [Электронный ресурс] // Российская газета. URL: https://cIck.ru/34WgqM (дата обращения: 15.07.2023).
4 Материалы официального сайта Межпарламентской Ассамблеи ^дружества Независимых Государств [Электронный ресурс] // Межпарламентская Ассамблея государств - участников ^дружества Независимых Государств. URL: https://cIck.ru/35Mvdc (дата обращения: 15.07.2023).
5 Exclusive: Southeast Asia to set 'guardrails' on AI with new governance code [Электронный ресурс] // Reuters. URL: https://cIck.ru/35MveJ (дата обращения: 15.07.2023).
6 Egypt Chairs Second Meeting of Arab AI Working Group [Электронный ресурс] // Ministry of Communications and Information Technology of Egypt. URL: https://cIck.ru/35Mvgq (дата обращения: 15.07.2023).
Поэтому в ближайшее время мы можем увидеть фрагментацию, при которой в разных регионах мира параллельно сформируются отдельные международные режимы управления ИИ.
Двусторонний уровень. На сегодняшний день количество двусторонних инициатив значительно уступает количеству инициатив, разрабатываемых на многосторонней основе. При этом существующие двусторонние инициативы в основном представляют собой декларации о сотрудничестве в области исследования, развития и регулирования ИИ. Например, в 2020 г. США и Великобритания подписали «Декларацию Соединенных Штатов Америки и Соединенного Королевства Великобритании и Северной Ирландии о сотрудничестве в области исследований и разработок в сфере искусственного интеллекта». В данном документе страны объявляют о намерении работать над созданием общей экосистемы исследований и разработок в области ИИ1. Другим примером является «Совместное заявление Российской Федерации и Китайской Народной Республики об углублении отношений всеобъемлющего партнёрства и стратегического взаимодействия, вступающих в новую эпоху», которое было опубликовано по результатам государственного визита Си Цзиньпина в Москву в 2023 г. В документе отмечается, что «стороны придают большое значение вопросу регулирования искусственного интеллекта и готовы наращивать обмены и сотрудничество по данной тематике»2.
Итак, ситуация в сфере управления ИИ на двустороннем уровне демонстрирует следующую тенденцию. На сегодняшний день страны предпочитают работать по данному вопросу в рамках международных организаций в многостороннем формате. Имеющиеся двусторонние договорённости в основном являются декларациями о сотрудничестве и не создают рамку принципов и норм, которыми должны руководствоваться государства. Следовательно, можно утверждать, что в настоящий момент еще не сформировался ни один международный режим управления ИИ на двустороннем уровне.
Заключение. Комплексный анализ международного управления ИИ позволяет сделать несколько выводов.
Во-первых, формирование международных режимов управления ИИ на разных уровнях мировой политики началось в 2016-2017 гг., когда вопрос регулирования данной технологии появился в повестке различных международных объединений. Наиболее активными участниками в этом процессе являются: ОЭСР, ЮНЕСКО, 07, 020, Европейский Союз и Совет Европы. Необходимо отметить, что несколько стран демонстрируют наибольшую заинтересованность в создании единых правил развития и внедрения ИИ. Так, следующие государства являются участниками практически всех значимых инициатив на глобальном уровне: Австралия, Аргентина, Бразилия, Великобритания, Германия, Италия, Канада, Мексика, США, Турция, Франция, Южная Корея, Япония. Кроме того, на фоне вышеуказанных стран особенно выделяется активность Японии, Франции и Канады. Япония была главным инициатором того, что ИИ стал одним из важных вопросов в повестке ОЭСР, а Франция и Канада продвигали идею создания Глобального партнерства по ИИ. При этом государства предпочитают работать в многостороннем формате в рамках международных организаций, и двусторонние соглашения отсутствуют.
Во-вторых, существенную роль в формирующейся архитектуре управления ИИ на глобальном уровне играет ОЭСР. Именно данная организация первой начала заниматься тематикой искусственного интеллекта. В рамках ОЭСР были разработаны принципы и терминология, которые впоследствии стали использоваться другими международными организациями. Сегодня формируется международный режим управления ИИ, базирующийся на «Принципах ИИ ОЭСР», которые прямо или косвенно признают 54 страны. Кроме того, ОЭСР является участником инициатив, разрабатываемых в рамках других международных учреждений. Например, ОЭСР является наблюдателем в руководящих органах Глобального партнёрства по ИИ, а также в Комитете по ИИ Совета Европы.
В-третьих, страны Запада активно ведут работу по вопросам управления искусственным интеллектом не под эгидой ООН, а в рамках ОЭСР, 07 и Глобального партнерства по ИИ. Однако в связи с тем, что Россия и Китай не являются членами данных объединений, формирующаяся архитектура глобального управления ИИ становится менее эффективной. Представляется более целесообразным разработка инициатив в рамках Организации Объединённых Наций, либо требуется создание другой специализированной международной организации, куда будут входить все ведущие мировые державы.
1 Declaration of the United States of America and the United Kingdom of Great Britain and Northern Ireland on Cooperation in Artificial Intelligence Research and Development: A Shared Vision for Driving Technological Breakthroughs in Artificial Intelligence [Электронный ресурс] // U.S. Department of State. URL: https://clck.ru/35Mvj2 (дата обращения: 15.07.2023).
2 Совместное заявление Российской Федерации и Китайской Народной Республики об углублении отношений всеобъемлющего партнёрства и стратегического взаимодействия, вступающих в новую эпоху [Электронный ресурс] // Президент России. URL: http://www.kremlin.ru/supplement/5920 (дата обращения: 15.07.2023).
В-четвертых, сотрудничество по вопросам ИИ сегодня ведется и в рамках БРИ^ и ШО^ то есть международных объединений, которые созданы альтернативными Западу центрами силы. Однако искусственный интеллект в качестве отдельного объекта сотрудничества закрепился в повестке данных структур относительно недавно, а именно в 2020-2023 гг. В связи с этим страны БРИ^ еще не успели выработать общий подход к управлению ИИ, но работа по данному вопросу уже началась. В свою очередь в рамках ШОC в 2022-2023 гг. были согласованы первые документы по вопросу развития ИИ, но они не создают общую рамку принципов и норм поведения в области искусственного интеллекта, поэтому говорить о формировании международного режима управления ИИ пока еще рано. Однако имеющиеся в России инициативы по данному вопросу позволяют предположить, что в ближайшее время могут быть сделаны первые шаги в этом направлении.
В-пятых, сегодня разными региональными организациями параллельно ведется работа по вопросам регулирования искусственного интеллекта. Данная тенденция подтверждается примерами деятельности таких объединений, как ^Г, АCЕАН и ЛАГ. Это, в свою очередь, может привести к формированию нескольких международных режимов в различных регионах мира и фрагментации глобального управления ИИ.
В-шестых, большинство стран с высокоразвитым ВПК воспринимают ИИ в качестве очередного средства усиления национальной безопасности, от которого отказываться не намерены. Именно поэтому процесс формирования правил использования ИИ в военной сфере идет медленно и вероятность принятия соглашений по данному вопросу в обозримой перспективе крайне мала. Подтверждением этому являются неудачные попытки регулирования смертоносных автономных систем вооружений в рамках ООН.
В-седьмых, в настоящий момент управление ИИ на глобальном уровне опирается исключительно на «мягкое право». «Принципы ИИ ОЭCР», «Принципы ИИ G20» и «Принципы ИИ ЮНЕ^О» сформировали общую рамку норм рекомендательного характера и государства согласились следовать им при развитии и внедрении искусственного интеллекта. Необязательные к исполнению правила позволяют значительно ускорить процесс их принятия. Однако способность такого рода правил минимизировать те риски и угрозы, которые несет в себе ИИ, остается под большим вопросом.
В-восьмых, в Европе сегодня сформировался альтернативный подход к международному управлению ИИ. Европейский ^юз и ^вет Европы опираются в своей работе на «жесткое право» и разрабатывают комплексные документы, которые станут обязательными к исполнению. В случае, если эти инициативы окажутся успешными, европейский опыт можно будет применить на глобальном уровне.
В-девятых, сегодня работа по разработке правил и норм в сфере ИИ ведется уже существующими международными организациями. Однако наблюдается тенденция к созданию совершенно новых международных учреждений для сотрудничества в области ИИ. Глобальное партнерство по ИИ стало первой такой организацией, но вряд ли оно будет центральным органом управления ИИ на общемировом уровне в связи с тем, что подвергается критике за продвижение преимущественно западного подхода. Более перспективным представляется создание такого учреждения под эгидой ООН. И предложение Генерального секретаря ООН о формировании многостороннего консультативного органа по вопросам глобального сотрудничества в области ИИ является первым шагом в данном направлении.
Список источников:
Аристов Е.В., Беликова К.М. Конституционно-правовое измерение искусственного интеллекта в странах БРИ^ (на примере Индии) H NOMOTHETIKA: Философия. ^циология. Право. 2022. № 2. C. 238-250. https://doi.org/10.52575/2712-746X-2022-47-2-238-250.
Выходец Р^. Большие ИИ-пространства и стратегия России в условиях санкционной войны / Вестник Российского университета дружбы народов. Cерия: Международные отношения. 2022. Т. 22, № 2. C. 256-270. https://doi.org/10.22363/2313-0660-2022-22-2-256-270.
Нечкин А.В. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее !! Lex Russica (Русский Закон). 2020. Т. 73, № 8 (165). C. 78-85. https://doi.org/10.17803/1729-5920.2020.165.8.078-085.
Ala-Pietilä P., Smuha N.A. A Framework for Global Cooperation on Artificial Intelligence and Its Governance // Reflections on Artificial Intelligence for Humanity. L., 2021. Р. 237-265. https://doi.org/10.1007/978-3-030-69128-8_15.
Bazarkina D.Y., Pashentsev E.N. Artificial Intelligence and New Threats to International Psychological Security // Russia in Global Affairs. 2002. Vol. 17, iss. 1. P. 147-170. https://doi.org/10.31278/1810-6374-2019-17-1-147-170.
Cihon P., Maas M.M., Kemp L. Fragmentation and the Future: Investigating Architectures for International AI Governance // Global Policy. 2020. Vol. 11, iss. 5. P. 545-556. https://doi.org/10.1111/1758-5899.12890.
Erdelyi O., Goldsmith J. Regulating Artificial Intelligence: Proposal for a Global Solution // Government Information Quarterly. 2022. Vol. 39, iss. 4. Р. 101748. https://doi.org/10.1016/j.giq.2022.101748.
Turchin A., Denkenberger D. Classification of Global Catastrophic Risks Connected with Artificial Intelligence // AI & Society. 2020. Vol. 35, iss. 1. Р. 147-163. https://doi.org/10.1007/s00146-018-0845-5.
Vinuesa R., Azizpour H., Leite I., Balaam M., Dignum V., Domisch S., Felländer A., Langhans S.D., Tegmark M., Fuso Nerini F. The Role of Artificial Intelligence in Achieving the Sustainable Development Goals // Nature Communications. 2020. Vol. 11, iss. 1. Р. 1-10. https://doi.org/10.1038/s41467-019-14108-y.
References:
Ala-Pietila, P. & Smuha, N. A. (2021) A Framework for Global Cooperation on Artificial Intelligence and Its Governance. In: Reflections on Artificial Intelligence for Humanity. London, рр. 237-265. Available from: doi:10.1007/978-3-030-69128-8_15.
Aristov, E. V. & Belikova, K. M. (2022) Konstitutsionno-pravovoe izmerenie iskusstvennogo intellekta v stranakh BRIKS (na primere Indii) [Constitutional and legal dimension of artificial intelligence in the BRICS countries ( on the example of India)]. NOMO-THETIKA: Filosofiya. Sotsiologiya. Pravo. (2), 238-250. Available from: doi:10.52575/2712-746X-2022-47-2-238-250. (In Russian).
Bazarkina, D. Y. & Pashentsev, E. N. (2002) Artificial Intelligence and New Threats to International Psychological Security. Russia in Global Affairs. 17 (1), 147-170. Available from: doi:10.31278/1810-6374-2019-17-1-147-170.
Cihon, P., Maas, M. M. & Kemp, L. (2020) Fragmentation and the Future: Investigating Architectures for International AI Governance. Global Policy. 11 (5), 545-556. Available from: doi:10.1111/1758-5899.12890.
Erdelyi, O. & Goldsmith, J. (2022) Regulating Artificial Intelligence: Proposal for a Global Solution. Government Information Quarterly. 39 (4), 101748. Available from: doi:10.1016/j.giq.2022.101748.
Nechkin, A. V. (2020) Constitutional and Legal Status of Artificial Intelligence in Russia: Present and Future. Lex Russica. 73 (8 (165)), 78-85. Available from: doi:10.17803/1729-5920.2020.165.8.078-085. (In Russian).
Turchin, A. & Denkenberger, D. (2020) Classification of Global Catastrophic Risks Connected with Artificial Intelligence. AI & Society. 35 (1), 147-163. Available from: doi:10.1007/s00146-018-0845-5.
Vinuesa, R., Azizpour, H., Leite, I., Balaam, M., Dignum, V., Domisch, S., Fellander, A., Langhans, S. D., Tegmark, M. & Fuso Nerini, F. (2020) The Role of Artificial Intelligence in Achieving the Sustainable Development Goals. Nature Communications. 11 (1), 1-10. Available from: doi:10.1038/s41467-019-14108-y.
Vykhodets, R. S. (2022) Large AI Spaces and Russia's Strategy in the Context of the "Sanctions War". Vestnik RUDN. International Relations. 22 (2), 256-270. Available from: doi:10.22363/2313-0660-2022-22-2-256-270. (In Russian).
Информация об авторе Д.П. Васильев - аспирант Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации, Москва, Россия.
Конфликт интересов:
автор заявляет об отсутствии конфликта интересов.
Information about the author D.P. Vasilyev - PhD student, Russian Presidential Academy of National Economy and Public Administration, Moscow, Russia.
Conflicts of interests:
The author declares no conflicts of interests.
Статья поступила в редакцию / The article was submitted 17.07.2023; Одобрена после рецензирования / Approved after reviewing 14.08.2023; Принята к публикации / Accepted for publication 22.08.2023.
Автором окончательный вариант рукописи одобрен.
