Правовое регулирование искусственного интеллекта в нормотворческой деятельности международных организаций и Европейского Союза Текст научной статьи по специальности «Право»

OF LEGAL RESEARCH

УДК 341.1

DOI 10.34076/2658_512X_2023_1_3

Айтекова Динара Гумарбековна

din ara. aitekova@yan dex. ru

Студент Всероссийской академии внешней торговли

Научный руководитель:

Латыпова Юлиана Ринатовна Аналитик Лаборатории исследований интеграции Института международной экономики и финансов Преподаватель кафедры международного права Всероссийской академии внешней торговли

Правовое регулирование искусственного интеллекта в нормотворческой деятельности

международных организаций и Европейского Союза

Айтекова Д. Г. / Правовое регулирование искусственного интеллекта в нормотворческой деятельности международных организаций и Европейского Союза // Уральский журнал правовых исследований. 2023. № 1. С. 3-12. DOI 10.34076/2658 512X 2023 1 3

Аннотация:

Быстро возникающие инновационные системы искусственного интеллекта, несомненно, влияют на все сферы общественных отношений. Со стремительным развитием данных технологий возникает необходимость регламентации их работы. Сегодня существует множественность правового понимания и толкования искусственного интеллекта, его правового положения, возникают новые риски для прав, свобод и законных интересов человека. Настоящая статья направлена на изучение правовых основ создания и использования искусственного интеллекта, которые будут исследованы в международно-правовом контексте, в том числе, с обращением к праву Европейского Союза. Нормативные правовые и нормативные технические нормы отстают от современных тенденций разработки искусственного интеллекта, не соответствуют реалиям, из-за чего создается пробельность в его регулировании. Международно-правовое регулирование искусственного интеллекта также не успевает подстраиваться под новые реалии искусственного интеллекта, оно только начинает формироваться, предпринимаются попытки преодолеть обостряющийся конфликт между стремлением стимулировать развитие искусственного интеллекта и обоснованными опасениями перед возможными рисками и угрозами, связанными с его разработкой и использованием. Уже сейчас определен вектор дальнейшего развития нормативно-правовой базы. По причине новизны общественных отношений, связанных с использованием искусственного интеллекта, комплексные правовые аспекты феномена искусственного интеллекта и правовые аспекты онтологии и задействования юнитов искусственного интеллекта на фундаментальном уровне в науке почти не исследовались. Для развития технологий искусственного интеллекта необходимо создание нормативной среды, комфортной для развития технологий, основанной на балансе интересов человека, общества, государства, а также компаний-разработчиков и потребителей

УДК 341.1

DOI 10.34076/2658_512X_2023_1_3

Dinara G. Aitekova

dinara.aitekova@yandex.ru

Russian Foreign Trade Academy, Student

Academic Supervisor: Yuliana R. Latypov

Analyst Lecturer, Integration Research Laboratory International Law Department Russian Foreign Trade Academy

Legal regulation of artificial intelligence by international organizations and the European Union

Dinara G. Aitekova/ Legal regulation of artificial intelligence by international organizations and the European Union// Ural Journal of Legal Studies. 2023. No. 1. P. 3-12. DOI 10.34076/2658 512X 2023 1 3

Abstract:

The rapid emergence of innovative artificial intelligence systems is undoubtedly affecting all areas of society. With the rapid development of these technologies comes the need to regulate their operation. Today there is a plurality of legal understanding and interpretation of artificial intelligence, its legal position, there are new risks for the rights, freedoms and legitimate interests of a person. The present article aims at research of legal bases of creation and use of artificial intelligence, which will be investigated in the context of international law, law of the European Union. Normative legal and normative technical norms lag behind the current trends of artificial intelligence development and do not correspond to the realities, thus creating an increasing gap in its regulation. The international legal regulation of artificial intelligence does not have time to adjust to the new realities of artificial intelligence, it is just beginning to form, attempts are being made to overcome the growing conflict between the desire to stimulate the development of artificial intelligence and justified fears of the possible risks and threats associated with its development and use. The vector of further development of the regulatory and legal framework has already been defined. Because of the novelty of the social relations connected with use of artificial intelligence, legal aspects of the phenomenon of artificial intelligence and legal aspects of ontology and involvement of artificial intelligence units on the fundamental level were almost not investigated in science. For the development of artificial intelligence technologies it is necessary to create a regulatory environment comfortable for the development of technologies, based on the balance of interests of man, society, state, as well as companies-developers and consumers.

п

MC

/ffiv

(Щ7

m

OF LEGAL RESEARCH

Ключевые слова:

Keywords:

искусственный интеллект, права и свободы человека, Международная организация по стандартизации, Европейский союз, этические, технические и правовые стандарты.

artificial intelligence, human rights and freedoms, the International Organization for Standardization, the European Union, ethical, technical and legal standards.

Единого мнения относительно определения искусственного интеллекта (далее - ИИ) в науке не сложилось. Существует множество подходов к пониманию ИИ. Первый подход предлагает рассматривать ИИ как разновидность юридического лица и применять по аналогии нормы гражданского права, регулирующие отношения, связанные с участием юридических лиц [1, с. 167], [2, с. 50], [3, с. 66]. Сторонники данного подхода отождествляют «искусственность» юридических лиц и «искусственность» природы ИИ. Однако, по-моему мнению, это абсолютно разные понятия и ставить между ними знак равенства нельзя.

Приверженцы второго подхода утверждают, что искусственный интеллект представляет собой агента, то есть электронное лицо, обладающее субъективными правами и корреспондирующими им обязанностями [4, с. 67], [5, с. 348], [6, с. 63], [7, с. 10]. Однако для реализации этой идеи необходимо разработать соответствующую правовую регламентацию. Это потребует внедрения массива новых норм, касающихся регулирования нового субъекта права, что, вероятно, будет нецелесообразно.

Понятие искусственного интеллекта дает и российское законодательство. Так, впервые нормативно-правовое определение было закреплено Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»1. Согласно документу «искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Впоследствии данное определение было также отражено в законодательном акте.2

По-моему мнению, в законодательных нормах дано достаточно широкое определение ИИ, однако вполне понятен мотив, которым руководствовался законодатель: он намеренно расширил понятие с целью охватить возможные новые выражения технологий ИИ. Также характеристики ИИ, перечисленные в определении, носят больше техническую, естественнонаучную природу, но совсем не юридическую.

Как мы видим, определения ИИ, выработанные в юридической литературе, не учитывают специфику ИИ, они всего лишь представляют собой перечисление его технических характеристик.

Необходимо выработать более конкретное определение ИИ, основываясь не только на концептуальном подходе, но и на нормативном, то есть присвоить ИИ соответствующий правовой статус.

1 Указ Президента РФ от 10.10.2019 N 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»)/ Официальный интернет-портал правовой информации//URL:http://publication.pravo.gov.ru/Document/ View/0001201910110003 (дата обращения: 13.01.2023)

2 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»: федер. закон от 24 апреля 2020 г. № 123-ФЗ // СПС «КонсультантПлюс» (дата обращения: 29.11.2022)

OF LEGAL RESEARCH

На сегодняшний день еще не выработаны многосторонние международные договоры, закрепляющие общие положения правового регулирования ИИ. Однако существует «мягкое право», специальные документы рекомендательного характера, которые касаются отдельных отношений, связанных с ИИ.

Следует выделить Окинавскую хартию, принятую главами государств и правительств «Группы восьми» 22 июля 2000 года3, которая содержит положения, касающиеся применения информационных коммуникационных технологий, а также положения по вопросам противодействия компьютерной преступности. Она стимулировала дальнейшее формирование нормативной базы в данных сферах. Также представляет интерес Хартия робототехники, действующая на территории стран Европейского союза, которая закрепляет основные этические принципы робототехники.4

Относительно этической стороны регулирования ИИ на научно-практической конференции в Калифорнии были сформулированы «Азиломарские принципы искусственного интеллекта». Всего было разработано 23 принципа, которые направлены на создание таких условий, в рамках которых возможно полезное, целесообразное, выгодное и безопасное для человечества применение ИИ во всевозможных сферах жизни общества.

В 2017 году Монреальским университетам была создана Монреальская декларация об ответственности развития искусственного интеллекта. В ней был закреплен получивший широкую известность принцип ответственности развития ИИ, согласно которому лица, работающие в данной сфере, ответственны за возможные риски, потенциально способные возникнуть при разработке, использовании ИИ.5

Первый межправительственный стандарт в области ИИ был разработан Организацией экономического сотрудничества и развития в 2019 году. Рекомендации Совета ОЭСР по искусственному интеллекту провозглашают основные принципы развития искусственного интеллекта, которыми должны руководствоваться физические и юридические лица при его разработке, внедрении и эксплуатаци-и.6 Они развивают идеи «Азиломарских принципов искусственного интеллекта», но больше ориентируются на правовое регламентирование применения ИИ. Так, в Рекомендациях Совета ОЭСР прописаны положения, закрепляющие верховенство закона, права человека и демократические ценности.

Помимо основных принципов Рекомендации Совета ОЭСР указывают общие предписания для национальных правительств по вопросам развития ИИ. Государство должно обеспечивать благоприятную среду для разработки технологий ИИ, предоставлять гражданам обучаться в этой сфере, не препятствовать международному сотрудничеству. Документ носит декларативный характер, однако должен учитываться при разработке иных международных актов.

Указанные выше принципы были приняты «Большой двадцаткой» и отражены в Заявлении министров экономики данных стран в 2019 году.

3 Окинавская хартия глобального информационного общества от 21 июля 2000 года/СПС «Гарант»// URL: http://base.garant.ru/2560931/ (дата обращения: 10.09.2022)

4 Резолюция Европарламента от 16 февраля 2017 года 2015/2013(INL), включает текст Хартии робототех-ники/robotrends.ru//URL:https://robotrends.ru/pub/1725/normy-grazhdanskogo-prava-o-robototehnike-i-hartiya-robototehniki (дата обращения: 10.01.2023)

5 Montreal Declaration Responsible AI/ www.montrealdeclaration-responsibleai.com// URL.: https://www. montrealdeclaration-responsibleai.com/the-declaration (дата обращения: 26.10.2022)

6 Recommendation on Artificial Intelligence N OECD/LEGAL/0449: adopted by OECD Council 22.05.2019 // LEGALINSTRUMENTS.OECD.ORG - the official website of OECD.

OF LEGAL RESEARCH

Для регулирования исследований и разработки в области ИИ необходимы и международные технические стандарты, разработкой которых занимается Комитет по искусственному интеллекту Международной организации по стандартизации (ISO). Среди них важно выделить основополагающий терминологический стандарт «Искусственный интеллект. Концепции и терминология» («Artificial intelligence. Concepts and terminology»), которому должны соответствовать все иные стандарты. В нем указаны, помимо дефиниций и терминов, основные принципы и подходы к нормативно-техническому регулированию ИИ.7

Многие стандарты находятся на стадии разработки. Так, например, «Цели и подходы для объяснения моделей ML и систем искусственного интеллекта» («Objectives and approaches for explainability of ML models and AI systems») описывает методы и подходы, используемые для «объяснимости» моделей машинного обучения (ML Model) и систем ИИ.8 Документ также содержит рекомендации относительно применимости описанных подходов и методов к поставленным перед системой ИИ целям.

Большинство стандартов разрабатывается Комитетом по искусственному интеллекту, однако некоторые стандарты разрабатываются иными комитетами. Например, стандарты Комитета по робототехнике также касаются вопросов технического регулирования ИИ: стандарт ISO «Требования безопасности для роботов по уходу за больными» («Safety requirements for personal care robots»), устанавливающий требования к безопасности роботов - личных помощников9; «Безопасность проектирования промышленных робототехнических систем -часть 1: Концевой захват» («Safety design for industrial robot systems - Part 1: End-effectors») (документ содержит руководство по мерам безопасности при проектировании и интеграции промышленных роботов).10

Помимо Международной организации по стандартизации (ISO), разработкой стандартов также занимаются Международная электротехническая комиссия (IEC)11 и Международный союз электросвязи (ITU)12.

ИИ, представляя собой сложный технический комплекс, нуждается не только в техническом регулировании, но и в этическом, и в правовом. Международно-правовое регулирование ИИ находится только на начальной стадии.

Быстрое развитие и увеличение объемов использования ИИ в различных сферах жизни общества оказывает сильное влияние на необходимость формирования международно-правовой основы регулирования ИИ. В настоящее время субъекты международного права занимаются разработкой многих проектов международных договоров и иных актов по ИИ.

7 ИСО 22989:2021 «Информационные технологии. Искусственный интеллект. Понятия и терминология искусственного интеллекта" (ISO 22989:2021 "Information technology - Artificial intelligence - Artificial intelligence concepts and terminology", NEO)/ www.iso.org //URL: https://www.iso.org/standard/74296.html (дата обращения: 12.01.2023)

8 ISO/IEC AWI TS 6254 Information technology — Artificial intelligence — «Objectives and approaches for explainability of ML models and AI systems»/ genorma.com//URL: https://genorma.com/en/project/show/ iso:proj:82148 (дата обращения: 12.01.2023)

9 ISO 13482:2014 Robots and robotic devices - Safety requirements for personal care robots/ www.iso.org //URL: https://www.iso.org/standard/53820.html (дата обращения: 12.01.2023)

10 ISO/TR 20218-1:2018 Robotics - Safety design for industrial robot systems - Part 1: End-effectors/ www.iso.org // URL: https://www.iso.org/standard/69488.html (дата обращения: 12.01.2023)

11 Международная электротехническая комиссия (IEC)/ iec.ch// URL: https://www.iec.ch/homepage (дата обращения: 12.01.2023)

12 Международный союз электросвязи (ITU)/ itu.int //URL: https://www.itu.int/ru/Pages/default.aspx (дата обращения: 13.01.2023)

OF LEGAL RESEARCH

Так, на 40-й сессии Генеральной конференции Специализированного учреждения Организации Объединенных Наций по вопросам образования, науки и культуры (далее - ЮНЕСКО) было принято решение о создании первого в истории документа, устанавливающего общие этические принципы, гарантирующие устойчивый и безопасный прогресс ИИ.

С 2019 года велась активная работа над созданием Рекомендаций по этическим аспектам искусственного интеллекта. Процесс формирования занял 2 года. К работе в марте 2020 года присоединились 24 специалиста, обладающих междисциплинарными и плюралистическими экспертными знаниями в области этики искусственного интеллекта. 7 сентября 2020 года первый вариант проекта данного документа был подготовлен специальной группой экспертов.13 Однако проект одобрен не был.

Началась работа над вторым проектом Рекомендаций, который претерпел существенные изменения. Данный документ был принят в ходе 41-й сессии Генеральной конференции ЮНЕСКО, проходившей в Париже с 9 по 24 ноября 2021 года.14 Рекомендации по этическим аспектам ИИ закрепили ценностные установки об уважении, защите и поощрении прав человека и основных свобод и человеческого достоинства; благополучии окружающей среды и экосистем; обеспечении разнообразия и инклюзивности; о жизни в мирных, справедливых и взаимосвязанных обществах. Также были установлены принципы деятельности ИИ и его использования: соразмерность и не причинение вреда; безопасность и защищенность; справедливость и отказ от дискриминации; устойчивость; право на неприкосновенность частной жизни и защита данных; прозрачность и объ-яснимость; ответственность и подотчетность; осведомленность и грамотность; многостороннее и адаптивное управление и взаимодействие.

ООН представила Дорожную карту Генерального секретаря по цифровому сотрудничеству в июне 2020 года для решения ряда вопросов, связанных с ИИ и другими цифровыми технологиями, а также с обозначением направлений совместной работы международного сообщества.15 Дорожная карта основана на рекомендациях, вынесенных Группой высокого уровня по цифровому сотрудничеству в июне 2019 года.

В документе говорится о необходимости более активного глобального сотрудничества в области ИИ, чтобы помочь создать глобальный потенциал для разработки и использования ИИ с целью его надежности, безопасности и устойчивости. В Дорожной карте содержится предложение Генерального секретаря о создании консультативного органа с участием многих заинтересованных сторон по глобальному сотрудничеству в области ИИ для решения вопросов, связанных с включением, координацией и наращиванием потенциала. Обсуждение и консультации по этому предложению при поддержке Канцелярии Посланника Генерального секретаря по технологиям продолжаются.

15 сентября 2021 года Верховный комиссар ООН по правам человека Мишель Башле выступила с докладом, в котором высказалась, что использование ИИ

13 Первый проект рекомендации об этических аспектах искусственного интеллекта N SHS/BIO/ AHEG-AI/2020/4 REV.2: подготовлен 07.09.2020 // UNESDOC.UNESCO.ORG - UNESCO Digital Library website/ unesdoc. unesco.org// URL: https://unesdoc.unesco.org/ark:/48223/pf 0000373434_rus (дата обращения: 28.10.2022).

14 Рекомендации об этических аспектах искусственного интеллекта/ ifap.ru // URL: https://ifap.ru/ofdocs/ unesco/airec.pdf (дата обращения: 26.10.2022)

15 Дорожная карта по цифровому сотрудничеству: осуществление рекомендаций Группы высокого уровня по цифровому сотрудничеству A/74/821 - 29 мая 2020 года/ documents-dds-ny.un.org //URL: https:// documents-dds-ny.un.org/doc/UNDOC/GEN/N20/102/53/PDF/N2010253.pdf?OpenElement (дата обращения: 29.10.2022)

OF LEGAL RESEARCH

ведет к серьезным нарушениям прав человека16. Она призвала членов ООН ввести мораторий на использование систем ИИ, которые не соответствуют нормам международного права.

В пункте 10 Доклада указывается, что согласно Международному пакту о гражданских и политических правах, на государствах лежит не только обязанность не нарушать фундаментальное право человека на неприкосновенность частной жизни («негативная обязанность»), но и «позитивная обязанность» защитить человека от подобных посягательств, а также дискриминации, в пределах своей юрисдикции, в частности, установить надлежащие правовые гарантии и инструменты для их эффективной реализации17.

Верховный комиссар не предлагает полностью отказаться от использования систем ИИ. Она призывает создать нормативно-правовые акты, обеспечивающую защиту неприкосновенности человека от негативного воздействия ИИ и эффективные средства правовой защиты; создать независимый надзорный орган, контролирующий соблюдение законодательства.

Группа Всемирного банка активно применяет новейшие технологии для решения бизнес-задач. Трастовый фонд «Инновационные технологии для разработки» (DT4D) (The Disruptive Technology for Development (DT4D) Trust Fund) используется для реального тестирования подходов ИИ в решении задач оперативного развития в проектах Всемирного Банка. На данный момент ИИ применяется для управления рисками стихийных бедствий, обслуживания инфраструктуры, прогнозирования кризисов.

В мае 2021 года Группа Всемирного банка опубликовала документ «Использование искусственного интеллекта для развития в эпоху после COVID-19: обзор национальных стратегий и политики в области искусственного интеллекта» (Harnessing Artificial Intelligence for Development on the Post-COVID-19 Era: A Review of National AI Strategies and Policies).18 В документе исследуются подходы к ИИ в 11 странах, находящихся на разных стадиях цифровой зрелости и экономического развития, сопоставляются инициативы с различными областями политики и определяются инструменты для реализации стратегий ИИ.

По итогам анализа деятельности международных организаций в области регулирования ИИ, можно сделать вывод, что на сегодняшний день международных норм универсального характера пока нет, однако ведутся активные работы над их созданием на базе межправительственных организаций. Однозначного мнения по поводу регулирования ИИ также не сложилось, наблюдаются различные тенденции его развития. Представляя собой сложный технический комплекс технологий, ИИ нуждается в детальном регулировании, охватывающим технические, этические и правовые аспекты.

Наиболее тщательно и основательно разработанное регулирование ИИ предусмотрено законодательством Европейского союза (далее - ЕС) и его стран. При создании нормативных-правовых актов ЕС руководствуется двумя принципами. В первую очередь регулирование должно быть направлено на обеспечение прав

16 Мишель Бачелет призвала ввести мораторий на использование систем искусственного интеллекта/news. un.org//URL: https://news.un.org/ru/story/2021/09/1409912 (дата обращения: 12.01.2023)

17 «Международный пакт о гражданских и политических правах» (Принят 16.12.1966 Резолюцией 2200 (XXI) на 1496-ом пленарном заседании Генеральной Ассамблеи ООН)/ un.org// URL: https://www.un.org/ru/ documents/decl_conv/conventions/pactpol.shtml (дата обращения: 12.01.2023)

18 World Bank. 2021. Harnessing Artificial Intelligence for Development on the Post-COVID-19 Era: A Review of National AI Strategies and Policies. Analytical Insights. World Bank, Washington, DC. World Bank/ openknowledge. worldbank.org //URL: https://openknowledge.worldbank.org/handle/10986/35619 (дата обращения: 12.01.2023).

OF LEGAL RESEARCH

и свобод человека, его безопасности. Другая цель — содействие социально-экономическому и экологическому благополучию граждан посредством развития науки, бизнеса и инноваций. За несколько лет в ЕС был разработан целый ряд программных документов по развитию ИИ.

Важным документом, повлиявшим на дальнейшее развитие регулирования ИИ в ЕС, является Декларация о сотрудничестве в области искусственного интеллекта, подписанная членами ЕС 10 апреля 2018 года.19 Для поддержания конкурентоспособности ЕС в документе прописаны намерения членов работать над интегрированным европейским подходом, проводить согласованную национальную политику. Декларация указывает на необходимость решения вопросов обработки «чувствительных» данных, обеспечения неприкосновенности частной жизни и иных социальных проблем.

В программном Коммюнике Европейской комиссии также описана стратегия развития ИИ в ЕС, сформулировано европейское понимание определения искусственного интеллекта.20 Также заявлено о важности создания единого цифрового рынка для устойчивого развития экономики и общества.

Также стоит обратить внимание и на «Руководство по этике для надежного искусственного интеллекта Специальной группы экспертов высокого уровня Совета Европы», изданное 8 апреля 2019 года.21 Согласно документу, «заслуживающий доверия искусственный интеллект» должен быть:

• законным - что предполагает соблюдение всех применимых законов и нормативных актов;

• этическим - что предполагает соблюдение этических принципов и ценностей;

• надежным - как с технической точки зрения, так и с учетом его социальной среды.

Также были опубликованы «Политические и инвестиционные рекомендации для надежного искусственного интеллекта», содержащие 33 рекомендации для «заслуживающего доверия искусственного интеллекта».22 Документ рассматривает четыре сферы применения ИИ: люди и общество в целом (раздел А), частный сектор (раздел В), государственный сектор (раздел С) и европейская наука, техника и образование (раздел D).

В 2020 году Европейская комиссия издала «Белую книгу искусственного интеллекта», представляющую собой план по созданию регуляторных норм и требований с целью обеспечения надежного и безопасного развития ИИ. В документе излагаются варианты проведения политики достижения сразу двух целей: содействия внедрению ИИ и устранения рисков, связанных с использованием таких технологий.

20 октября 2020 года был принята Резолюция Европейского парламента о ре-

19 Declaration: Cooperation on AI, Apr. 10, 2018/ perma.cc // URL: http://perma.cc/F6U4-NV4C (дата обращения: 29.01.2023)

20 Communication from the European Commission COM (2018)237 «Artificial Intelligence for Europe»/ eur-lex. europa.eu /URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=C0M%3A2018%3A237%3AFIN (дата обращения: 13.01.2023)

21 Ethics Guidelines For Trust Worthy AI//URL: file:///C:/Users/1234/Downloads/AIHLEG_Ethics Guidelines for Trustworthy AI-ENpdf.pdf (дата обращения: 29.11.2022).

22 Policy and investment recommendations for trustworthy Artificial Intelligence//URL: file:///C:/ Users/di_19/Downloads/ai_hleg_policy_and_investment_recommendations_54BA36FA-AB4B-FDE5-23A63FBDC792CB19_60343.pdf (дата обращения: 29.11.2022).

OF LEGAL RESEARCH

жиме гражданско-правовой ответственности для искусственного интеллекта.23 Резолюция не наделяет правосубъектностью ИИ. Документ устанавливает положения о привлечении к ответственности различных лиц во всей цепочке функционирования ИИ, которые создают, поддерживают ИИ или контролируют риск, связанный с системой ИИ.

21 апреля 2021 года Европейская Комиссия выступила с предложением, имеющим своей целью ограничить использование некоторых систем ИИ, представляющих угрозу правам и свободам человека. Сейчас данный проект регламента находится на рассмотрении.24

Проект регламента предлагает новые требования к стандартизации искусственного интеллекта на основе анализа возможных рисков системы. Согласно данному проекту регламента, системы ИИ следует классифицировать на:

• Системы с недопустимо высоким риском являются «явной угрозой безопасности, средствам к существованию и правам людей», к ним относят систему социального скоринга, применяемую в Китае. Данные системы законопроект предлагает запретить;

• Высокорисковые системы ИИ - системы, применяемые в сферах медицины, образования, профессиональной деятельности (например, биометрическая идентификация, роботизация хирургии, проведение экзаменов и оценка их результатов, скоринг при найме сотрудников), а также системы, применяемые в государственных органах, различных службах и институтах. Данные системы должны находиться под тщательным наблюдением и контролем с возможностью ограничения их использования;

• Системы с умеренным риском - системы, непосредственно взаимодействующие с человеком (чат-боты, роботы). Их использования должно быть разрешено только при соблюдении принципа прозрачности, то есть пользователи должны быть проинформированы о том, что взаимодействуют с системами ИИ;

• Системы с минимальным риском - системы, не представляющие никакого риска правам и безопасности человека (игровые сервисы и спам-фильтры). Данные системы не будут подпадать под регулирование.

Разделение полномочий в вопросах регулирования ИИ между государствами-членами ЕС и надгосударственными органами управления ЕС еще законодательно не предусмотрено. По этой причине проводится комплексное правовое регулирование использования ИИ. Так, с одной стороны Европейской комиссией принимаются стратегические документы и программы, а также «белые книги» по данному вопросу, вместе с тем государствами-членами ЕС принимаются собственные стратегии развития ИИ.

Так, например, французская национальная стратегия, направленная на реализацию плана развития систем ИИ во Франции до 2022 года, содержит основные направления деятельности в этой области:

усиление экосистемы ИИ;

23 European Parliament resolution of 20 October 2020 with recommendations to the Commission on a civil liability regime for artificial intelligence (2020/2014(INL)) URL: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_(дата обращения: 12.01.2023).

24 Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts Com/2021/206 final // URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206 (дата обращения: 12.01.2023)

OF LEGAL RESEARCH

формирование нормативных правовых актов, регулирующих вопросы, связанные с ИИ;

формирование этических норм; обеспечение политики открытости ИИ.

Помимо этого 27 марта 2020 года был принят Декрет об автоматизированной обработке персональных данных, предназначенный для более эффективного разрешения судебными органами споров, связанных с устранением уполномоченными лицами и органами последствий пандемии COVID-19 и привлечения их к ответственности за нарушения, посредством анализа данных системой ИИ.25 Таким образом, в ЕС наблюдается тенденция к более жесткому контролю за разработкой, использованием систем ИИ. Некоторые страны ЕС (Бельгия, Нидерланды, Испания, Финляндия) высказывают опасения по поводу выбранной стратегии регулирования ИИ, выступают с предложением о создании «мягкого права». Как мы видим, правовое регулирование ИИ еще нуждается в согласовании позиций государств-членов ЕС.

Резюмируя, следует признать, что стремительное развитие ИИ стимулирует формирование правовой основы его регулирования. Наблюдается качественное создание технических стандартов, нормативных правовых актов и этических принципов. Однако законодатель находится только в начале пути. Необходимы новые более тщательно проработанные подходы и способы регулирования систем ИИ для преодоления существующего разрыва между скачком в инновационно-технологическом развитии робототехнических, компьютерно-программно-аппаратных технологий и отстающим от него нормативным правовым и нормативным техническим регулированием в этой сфере. Необходимо эффективное правовое обеспечение защиты прав и свобод человека, его безопасности от воздействия искусственного интеллекта. Законодатель, снижая риски применения ИИ, не должен препятствовать его дальнейшему развитию.

К сожалению, с точки зрения юридической науки проблематика регулирования систем ИИ на международном уровне практически не исследована. Это обусловлено относительной новизной общественных отношений, связанных с использованием роботов и ИИ. Большинство правовых публикаций либо являются публицистическими, либо посвящены отдельным правовым проблемам, возникающим в разных отраслях права в связи с развитием ИИ. Хочется верить, что принятие новых договоров, рекомендаций существенно изменит эту ситуацию и привлечет максимально широкий круг ученых-правоведов к исследованию нормативных проблем применения технологий ИИ.

Библиографический список:

1. Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170.

2. Ястребов О. А. Правосубъектность электронного лица:теоретико-методологические подходы // Труды Института государства и права

References:

1. Arkhipov V. V., Naumov V. B. (2017). On Some Issues of Theoretical Foundations for the Development of Legislation on Robotics: Aspects of Will and Legal Personality. Law. 5. P. 157-170.

2. Yastrebov O. A. (2018). Legal Personality of an Electronic Person: Theoretical and Methodological Approaches. Proceedings of the Institute of State and Law of the Russian Academy of Sciences. 2. P. 36-55.

25 Decree No.2020-356 of March 27, 2020 for the creation of an automated processing of personal data called "DataJust" // URL: https://www.legifrance.gouv.fr/jorf/id/J0RFTEXT000041763205 (дата обращения: 12.01.2023)

OF LEGAL RESEARCH

РАН. 2018. Т. 13. № 2. С. 36-55.

3. Морхат П. М. Юнит искусственного интеллекта как электронное лицо // Вестник Московского государственного областного университета. Серия «Юриспруденция». 2018. № 2. С. 61-73.

4. Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. № 10. С. 63-72.

5. Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дисс...д-ра юрид. наук. М., 2018. 420 с.

6. 6. Сесицкий Е. П. Проблемы правовой охраны результатов, создаваемых системами ИИ: дисс. канд. юрид. наук. М., 2018. 218 с.

7. 7. Гурко А. В. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12. С. 7-18.

3. Morhat P. M. (2018). Artificial Intelligence Unit as an Electronic Person. Bulletin of Moscow State Regional University. Jurisprudence Series. 2018. 2. P. 61-73.

4. Iriskina E. N., BelyakovK. O. (2016). Legal Aspects of Civil Liability for Damage Caused by Actions of a Robot as a Quasi-Subject of Civil-Law Relations. Humanitarian Informatics. 10. P. 63-72.

5. Morhat P. M. (2018). The Legal Personality of Artificial Intelligence in the Field of Intellectual Property Law: Civil Legal Problems: autoabstr. of doct. jur. sc. thesis. 420 p.

6. Sesitsky E. P. (2018). Problems of Legal Protection of Results Created by AI Systems: autoabstr. of cand. jur. sc. thesis. 218 p.

7. Gurko A. V. (2017). Artificial Intelligence and Copyright: a Look into the Future. Intellectual Property. Copyright and related rights. 12. P. 7-18.