CC BY
28
Управление наукой и наукометрия. 2023. Т. 18, № 3 Science Governance and Scientometrics. 2023;18(3) ISSN 2686-6706 (print), ISSN 2686-6714 (online)
РЕГУЛИРОВАНИЕ НАУЧНОЙ, ОБРАЗОВАТЕЛЬНОЙ И ИННОВАЦИОННОЙ ДЕЯТЕЛЬНОСТИ
REGULATION OF SCIENTIFIC, EDUCATIONAL AND INNOVATIVE ACTIVITIES
Научная статья / Original research УДК 340.1
https://doi.org/10.33873/2686-6706.2023.18-3.361-378
Искусственный интеллект: генезис и проблемы эволюции правового регулирования в Российской Федерации
Казанский филиал ФГБОУ ВО «Российский государственный университет правосудия», г. Казань, Россия, gumerov_l@mail.ru
Введение. В статье рассмотрена история возникновения и развития правового регулирования технологий искусственного интеллекта в Российской Федерации, выявлена специфика и обозначены проблемы правового регулирования. Методы исследования. Применены общенаучные и специальные правовые методы исследования. Посредством формально-юридического метода исследовано содержание правовых актов; историко-правовой метод применен при анализе периодизации регулирования; сравнительно-правовой метод позволил провести сопоставление правового регулирования во времени и пространстве. Результаты и дискуссия. В результате исследования сформированы научно обоснованные представления о формировании правового регулирования искусственного интеллекта, осуществлена периодизация правового регулирования разработки и использования соответствующих технологий в Российской Федерации. На основе понимания сущности искусственного интеллекта и объективно развивающихся правоотношений выявлены проблемы развития правового регулирования соответствующих цифровых технологий и предложены подходы к их решению. Заключение. В Российской Федерации поэтапно формируется модель правового регулирования технологий искусственного интеллекта, основанная на сочетании стратегических документов и постоянно возрастающем массиве принципов и норм права, направленных не-
Ленар Асхатович Гумеров
Резюме
© Гумеров Л. А., 2023
This is an open access article distributed under the terms of the Creative Commons Attribution 4.0 International License
посредственно на упорядочение отношений, связанных с указанными технологиями. В ближайшей перспективе эволюция предмета регулирования рассматриваемых правоотношений будет предопределена необходимостью упорядочения взаимодействия и взаимного влияния технологий искусственного интеллекта, человека и общества. В целях повышения регуляторного эффекта необходима дифференциация юридического режима, обусловленная видами объективизации и периодами жизненного цикла технологий искусственного интеллекта.
Ключевые слова: искусственный интеллект, научно-технологическое развитие, цифровое общество, технологии, цифровизация, право и научно-технический прогресс, правовое регулирование, принципы и нормы права, этические нормы
Для цитирования: Гумеров Л. А. Искусственный интеллект: генезис и проблемы эволюции правового регулирования в Российской Федерации // Управление наукой и наукометрия. 2023. Т. 18, № 3. С. 361— 378. DOI: https://doi.org/10.33873/2686-6706.2023.18-3.361-378
Artificial Intelligence: the Genesis and Challenges of Legal Regulation Evolution in the Russian Federation
Lenar A. Gumerov
Kazan Branch of the Russian State University of Justice, Kazan, Russia, gumerov_L@mail.ru
Abstract
Introduction. The article explores the history and development of legal regulation for artificial intelligence technologies in the Russian Federation, highlighting the unique aspects and identifying the challenges of such regulation. Methods. Both general scientific and specific legal research methods were applied. The formal-legal method was used to study the content of legal acts; the historical-legal method was employed in analysing the regulation's periodisation; the comparative-legal method facilitated a comparison of legal regulation across time and space. Results and Discussion. The research resulted in scientifically substantiated insights into the formation of artificial intelligence's legal regulation, and a periodisation of legal regulation for the development and application of relevant technologies in the Russian Federation was conducted. Understanding the nature of artificial intelligence and the objectively evolving legal relationships, we identified issues in the development of legal regulation for relevant digital technologies and proposed solutions. Conclusion. In the Russian Federation, a model for the legal regulation of artificial intelligence technologies is progressively being established, based on a blend of strategic documents and a continually growing set of law principles and norms, aimed directly at organising relations associated with these technologies. In the foreseeable future, the evolution of the
subject matter of these legal relations' regulation will be dictated by the need to organise the interaction and mutual influence of artificial intelligence technologies, humans and society. To enhance regulatory impact, a differentiation of the legal regime is required, determined by types of objectification and life cycle stages of artificial intelligence technologies.
Keywords: artificial intelligence, scientific and technological advancement, digital society, technology, digitisation, law and scientific-technological progress, legal regulation, principles and norms of law, ethical standards
For citation: Gumerov LA. Artificial Intelligence: the Genesis and Challenges of Legal Regulation Evolution in the Russian Federation. Science Governance and Scientometrics. 2023;18(2):361-378. DOI: https://doi.org/10.33873/2686-6706.2023.18-3.361-378
Введение / Introduction
Взаимодействие человека и машины, технического устройства на протяжении столетий является предметом пристального внимания и острых дискуссий представителей различных профессий, начиная от их создателей — ученых, конструкторов до футурологов, прогнозирующих дальнейший прогресс такого взаимодействия. Не вызывает сомнений, что последующее историческое развитие постиндустриального (информационного) общества будет связано с активной разработкой и широким применением прежде всего информационных технологий. Подтверждает это, в частности, период пандемии COVID-19, который убедительно доказал необходимость и неизбежность применения информационных технологий. Уже сейчас в наш обиход вошли относительно новые термины: «технологии беспроводной связи», «блокчейн», «большие данные», «нейро-сеть» и прочие, обозначающие современные цифровые технологии. Анализируя данные по распространению информационных технологий и расширению их применения под воздействием беспрецедентного кризиса, со всей определенностью можно утверждать, что цифровизация уже не останется на «доковидном» уровне [1].
В настоящее время из всего многообразия технологий в фокус отраслевой науки, в т. ч. юридических исследований, попадает особый их вид — «технологии искусственного интеллекта». Это обусловлено объективными причинами. Ключевая, основополагающая цель создания технологии и техники — предоставить человеку преимущества в его деятельности и тем самым упростить ему жизнь. Несмотря на то, что созданные технические устройства на протяжении десятилетий оказывали воздействие на человека, все же именно за ним была решающая роль в их использовании. Специфика технологии искусственного интеллекта (далее — ИИ), как известно, связана с воспроизводством когнитивных функций человека, его мыслительной деятельности. Более того, такая технология, ее наиболее слож-
ные виды, подстраиваясь под внешние условия, предусматривают саморазвитие, в т. ч. независимо от своего создателя. Если ранее мы оперировали категориями «естественное», т. е. созданное природой, «искусственное» — неприродное, как правило, созданное человеком, то сейчас мы имеем нечто другое, то, что изначально было создано человеком, однако затем получило возможность совершенствоваться и, главное, автономно от человека заниматься творчеством, создавать новое, принимать независимые от первоначального создателя, самостоятельные решения. Безусловно, такое творение ИИ — не природное, однако уже и не (прямой) результат человеческого труда. При таких обстоятельствах вопрос о правовом регулировании новой технологии, ее генезисе и эволюции не только приобретает определенную специфику, но и обозначает главный тезис: к кому будут адресованы вновь создаваемые принципы и нормы. Очевидно, что не к машине. Возможно, к создателю, собственнику, пользователю, иному бенефициару. Сложность представляет распределение бремени ответственности между ними. Возникает множество вопросов, связанных с сущностью этого регулирования и применяемых регуляторов. Однако нельзя забывать, что излишняя зарегулированность ведет к стагнации развития. В связи с этим появляется потребность в поиске оптимального баланса правового и индивидуального регулирования рассматриваемых правоотношений.
Методы исследования / Methods
Общей методологической основой работы является общефилософский диалектико-материалистический метод научного познания, в сочетании с которым применены общенаучные и специальные методы исследования. Общенаучные методы (анализ и синтез, системный подход и др.) позволили сформировать основополагающее представление о предмете исследования и выявить системные связи в упорядочении соответствующих отношений. В работе применены специальные правовые методы исследования: формально-юридический метод — в исследовании правовых предписаний; историко-правовой метод — при анализе периодизации регулирования; сравнительно-правовой метод — для сопоставления правового регулирования во времени и пространстве.
В работе на уровне правовой методологии применена научно обоснованная концепция интегративного понимания права, определяющая, что право в объективном смысле представляет собой принципы и нормы права, находящиеся в единой, многоуровневой системе форм международного и внутригосударственного права, реализуемых в государстве.
Обзор литературы / Literature Review
На протяжении десятилетий в научном знании, в т. ч. в юридической науке, не существовало и до настоящего времени отсутствует
единообразное определение понятия «искусственный интеллект». Более того, в английском языке данный термин не содержит слово «интеллект» (intellect), используется менее содержательное определение «умственные способности» (intelligence)1. В таких условиях принципиально важно определиться, какие отношения будут регулироваться правом, что является их объектом, каков вектор развития правового регулирования.
Значимость ИИ для развития правовой реальности, необходимость регулирования правоотношений, связанных с передовыми цифровыми технологиями, определили пристальное внимание к этой проблеме в общественных науках, в т. ч. в правоведении. Ученые неоднократно обращались к общетеоретическим проблемам правового регулирования технологий ИИ: В. К. Андреев [2], В. В. Блажеев, М. А. Егорова и др. [3], А. А. Васильев, Д. Шпопер [4], М. Х. Матаева [5], С. Ю. Кашкин и А. В. Алтухов [6], А. В. Минбалеев2 [7], А. В. Незнамов [8], Ю. С. Харитонова, В. С. Савина [9], S. Greenstein [10], П. М. Морхат [11] и др.
Предпринимались исследования зарубежного опыта регулирования технологий ИИ, в т. ч. сравнительно-правовые исследования, среди которых стоит выделить работы А. Дюфло, М. А. Егоровой и др. [12], В. А. Жилкина [13], А. Ж. Степаняна и Т. С. Заплатиной [14] и др.
Особое внимание в юридической науке уделяется отдельным аспектам отраслевых правовых проблем развития регулирования правоотношений, связанных с ИИ. Стоит отметить работы Ю. В. Грачевой и А. А. Арямова [15], Д. А. Пашенцева и К. С. Новиковой [16]. Вопросам государственного регулирования и управления в сфере ИИ посвящены исследования Д. В. Пожарского [17], Б. Вирца, Ж. Вейерера и И. Кель [18], О. Эрдели и Дж. Голдсмита [19]. Не менее значимой является тема, связанная с соотношением правовых и этических аспектов создания и использования технологий ИИ (работы Р. Кларка [20], У. Пагалло3).
Несмотря на значительное количество научных трудов, следует признать, что исследование регулирования правоотношений, связанных с ИИ, не теряет своей актуальности. Не вызывает сомнений насущная потребность в исследовании вопросов становления и развития правового регулирования рассматриваемых технологий, выработке адекватной методологии формирования их правового регулирования.
Результаты и дискуссия / Results and Discussion
В настоящее время можно говорить о нескольких подходах к правовому регулированию отношений, связанных с технологиями
1 СатЬ^дв Dictionary. URL: https://dictionary.cambridge.org/ru/словарь/англо-русский/intelligence (accessed: 05.11.2022).
2 Минбалеев А. В. Правовое регулирование искусственного интеллекта. Цифровое право : учебник / под общ. ред. В. В. Блажеева, М. А. Егоровой. М.: «Проспект», 2020. C. 183-205.
3 Pagallo U. AI and Bad Robots: The Criminology of Automation // The Routledge Handbook of Technology, Crime and Justice / eds. by M. R. McGuire, T. Holt. Rout-ledge: London, 2017. 722 p. DOI: https://doi.org/10.4324/9781315743981
ИИ. По мнению А. В. Незнамова, применительно к технологиям ИИ следует выделить три модели правового регулирования [8]. Первая модель основана на документах стратегического планирования, определяющих основные направления развития, при этом количество актов, устанавливающих нормы права, в рассматриваемой сфере минимально. Такая модель характерна для Китая, а также для некоторых европейских стран, например Франции. Во второй модели преобладают правовые акты, содержащие принципы и нормы права, непосредственно упорядочивающие рассматриваемые правоотношения. Ярким примером является Южная Корея. Третья модель характеризуется наличием и относительно широким применением как стратегических документов, так и правовых актов, непосредственно упорядочивающих правоотношения, связанные с технологиями ИИ (пример — США).
Переходя к вопросу становления правового регулирования ИИ в Российской Федерации, следует отметить, что в ретроспективе первые его упоминания в правовых актах относятся к началу 90-х гг. XX в., и это несмотря на то, что об искусственном интеллекте заговорили еще в 60-х гг. XX в., а первые идеи по его созданию научно описаны в первой половине XIX в.4 На протяжении длительного периода данное словосочетание в правовых актах использовалось только на подзаконном уровне без конкретизации его содержания. Например, в Президентской программе «Правовая информатизация органов государственной власти Российской Федерации» 1995 г. упоминается, что технологическое обеспечение автоматизированных систем правовой информации будет осуществляться с использованием элементов искусственного интеллекта5. В приказе Минздрава России об утверждении целевой программы «Информатизация здравоохранения России на 1993—1995 гг.» содержание рассматриваемого понятия не раскрывается, однако перечисляется, на что направлены связанные с ним системы: экспертная система диагностики состояния пациентов, поддержка решений врача по выбору тактики лечения, оценка результатов и методов лечения и др.6 В государственных образовательных стандартах того периода тоже есть упоминание о необходимости обучающихся иметь представление о проблеме ИИ, опять же без конкретизации сущности вопроса7. Отсутствие на протяжении длительного времени четкого понимания содержания понятия «искусственный интеллект» можно назвать первой проблемой эволюции правового регулирования соответствующих технологий. Дополнительным подтверждением зачастую декларативного характера норм права, связанных с ИИ, в историческом экскурсе является Указ Президента
4 Корсаков С. Н. Начертание нового способа исследования при помощи машин, сравнивающих идеи / пер. с франц. под ред. А. С. Михайлова. М.: МИФИ, 2009. 44 c.
5 Указ Президента РФ от 4 августа 1995 г. № 808 «О президентских программах по правовой информатизации» // Собрание законодательства РФ. 1995. № 32. Ст. 3289.
6 Приказ утратил силу. Текст приказа официально опубликован не был. Цит. по СПС «Гарант».
7 Например: ГОС ВПО «Государственные требования к минимуму содержания и уровню подготовки бакалавра по направлению 521000 - Психология (второй уровень высшего профессионального образования)» (утв. Госкомвузом РФ 30 декабря 1993 г.) // Бюллетень Государственного комитета РФ по высшему образованию. 1995. № 3.
Российской Федерации от 26 августа 1996 г. № 1268 «О контроле за экспортом из Российской Федерации товаров и технологий двойного назначения»: в нем с помощью казуистичного способа изложения норм права определено более 30 технологий, связанных с ИИ, формулировки которых зачастую имеют оценочный характер8.
Полагаем, что в настоящее время следует исходить из того определения, которое приводится в Национальной стратегии развития искусственного интеллекта на период до 2030 г., а именно, что ИИ — это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека9. Однако и в данном случае можно обнаружить проблему, связанную с некоторым несоответствием указанной формулировке действующих государственных стандартов, которые по-разному определяют понятие ИИ. Например, ГОСТ 15971-90 определяет ИИ как способность вычислительной машины моделировать процесс мышления за счет выполнения функций, которые обычно связывают с человеческим интеллектом10. ГОСТ Р 43.0.7-2011 устанавливает, что ИИ — моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека (п. 3.20)11. ГОСТ 33707-2016 относит к ИИ способность функционального блока выполнять функции, обычно ассоциирующиеся с интеллектом человека, такие как, например, рассуждения и обучение (п. 4.464)12. ГОСТ Р 59276-2020, в целом повторяя определение, данное в упомянутой выше Национальной стратегии развития искусственного интеллекта на период до 2030 г., все же обозначает ИИ не как «комплекс технологических решений», а как «способность технической системы»13. Не вызывает сомнений необходимость унификации приведенных определений.
По нашему мнению, на сегодняшний день можно выделить три основных этапа в эволюции регулирования ИИ в правовой системе Российской Федерации. Первый этап — с начала 1990-х гг. до 2002 г. — связан с появлением первых российских правовых ак-
8 Указ утратил силу. Собрание законодательства РФ. 1996. № 36. Ст. 4197.
9 Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
10 ГОСТ 15971-90 «Системы обработки информации. Термины и определения» // СПС «Гарант»
11 ГОСТ Р 43.0.7-2011 «Информационное обеспечение техники и операторской деятельности. Гибридно-интеллектуализированное человекоинформационное взаимодействие», утв. приказом Федерального агентства по техническому регулированию и метрологии № 1242-ст от 13.12.2011 «Об утверждении национального стандарта»// СПС «Гарант».
12 ГОСТ 33707-2016 (ISO/IEC 2382:2015) «Информационные технологии. Словарь», утв. приказом Федерального агентства по техническому регулированию и метрологии № 1189-ст от 22.09.2016 «О введении в действие межгосударственного стандарта» // СПС «Гарант».
13 ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения», утв. приказом Федерального агентства по техническому регулированию и метрологии № 1371-ст от 23.12.2020 «Об утверждении национального стандарта Российской Федерации»// СПС «Гарант».
тов, в которых присутствовало упоминание ИИ. Второй — 2002— 2016 гг., когда, во-первых, была предпринята попытка систематизировать и централизовать процесс регулирования цифровых технологий посредством принятия Основ политики Российской Федерации в области развития науки и технологий на период до 2010 г. и дальнейшую перспективу (утв. Президентом Российской Федерации 30 марта 2002 г. № Пр-576)14. Во-вторых, ИИ был отдельной строкой закреплен в Перечне критических технологий Российской Федерации (утв. Президентом Российской Федерации 30 марта 2002 г. № Пр-578)15. Третий этап — с 2016 г. по настоящее время, который начинается с принятия концептуального документа — Стратегии научно-технологического развития Российской Федерации16. Данный этап характеризуется появлением стратегических и программных документов, затрагивающих вопросы цифровых технологий, а также формированием норм права, которые непосредственно направлены на регулирование правоотношений, связанных с технологиями ИИ. Согласно справочной правовой системе «Гарант», в настоящее время в России действует более 1 500 нормативных правовых актов, в т. ч. региональных, в той или иной степени касающихся вопросов ИИ, и есть все основания полагать, что их число будет неуклонно возрастать.
Следует обозначить один из наиболее важных аспектов рассматриваемой проблематики, касающийся предмета правового регулирования. В юридической науке все чаще стали появляться труды, в которых предпринимаются попытки рассмотреть ИИ в качестве субъекта права, специфичного, но все же субъекта [21—23]. Полагаем, что на сегодняшний день такое регулирование нереализуемо. Искусственный интеллект — это только технологическое решение, упрощенно — последовательность символов, алгоритм, компьютерная программа, которая не требует сама по себе правового регулирования. Да, в ней есть определенные последовательности, закономерности, взаимосвязи, но они не обусловлены социально и подчиняются правилам информатики, логики, программирования. Как и любой научно-технологический результат, технология ИИ индифферентна по отношению к социальным нормам.
В связи с этим возникают два ключевых вопроса: во-первых, нуждаются ли рассматриваемые технологии в правовом регулировании? Во-вторых, если да, то какие именно отношения нуждаются в правовом регулировании? Ответ на указанные вопросы, по нашему мнению, связан с необходимостью прежде всего выявить и установить соотношение, взаимодействие и взаимное влияние технологий ИИ, человека и общества. Однако даже на первый взгляд не вызывает сомнений потребность общества задействовать охранительную функцию права, обезопасив свои устои и ключевые ценности от потенциального негативного воздействия цифровизации. Значит,
14 Текст документа официально опубликован не был. Цит. по СПС «Гарант».
15 Текст документа официально опубликован не был. Цит. по СПС «Гарант».
16 Указ Президента РФ от 01 декабря 2016 г. № 642 «О Стратегии научно-технологического развития Российской Федерации» (ред. от 15 марта 2021 г.) // Собрание законодательства РФ. 2016. № 49. Ст. 6887; Собрание законодательства РФ. 2021. № 12. Ст. 1982.
можно вести речь о правоотношениях, в рамках которых осуществляется создание, владение, а также использование технологий ИИ, которые в первую очередь будут связаны с защитой охраняемых правом интересов. Вместе с этим нельзя допустить зарегулирован-ности данной сферы, что, безусловно, негативным образом скажется на инициативности разработчиков и пользователей технологий ИИ. Наоборот, учитывая преимущества, предоставляемые новыми технологиями, политика государства должна быть направлена на поощрение деятельности, связанной с развитием и внедрением социально значимых разработок. Она может стимулироваться дополнительным финансированием, льготными налоговыми режимами и др.
В такой ситуации полагаем перспективным и методологически верным использование методов юридического моделирования и эксперимента, которые позволяют опытным путем подбирать необходимые варианты регулирования и в последующем после апробации формировать регуляторную политику. Представляется возможным постепенное внедрение технологий ИИ сопровождать правовым регулированием, предусматривающим создание особых принципов и норм права, действие которых ограничено пространством, кругом лиц или видами деятельности. Некоторые действия со стороны государственных органов России в данном направлении уже предприняты17.
На сегодняшний день можно утверждать, что правовое регулирование технологий ИИ в Российской Федерации идет по пути рассмотренной выше первой модели регулирования. Однако уже сейчас, исходя из количества правовых актов, регулирующих отдельные направления ИИ, а также учитывая принятие специальных законодательных актов, можно спрогнозировать тенденцию перехода к третьей модели регулирования.
Отметим также и то, что достичь эффективного упорядочения рассматриваемых отношений только правовыми регуляторами не удастся. Дело в творческой составляющей научной деятельности, связанной с созданием технологий ИИ, отличающейся определенной латентностью, а поэтому трудноконтролируемой извне. В связи с этим следует положительно оценить принятие Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, которая охватывает как потенциальные правовые, так и этические аспекты рассматриваемого вопроса18. При этом формулировки указанной Концепции достаточно гибкие. К примеру, как известно, принципы как регуляторы имеют императивный характер, поэтому регулирование должно осуществляться в строгом соответствии с ними. Однако
17 Федеральный закон от 31 июля 2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» // Собрание законодательства РФ. 2020. № 31. Ч. 1. Ст. 5017; Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"»// Собрание законодательства РФ. 2020. № 17. Ст. 2701.
18 Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-р// Собрание законодательства РФ. 2020. № 35. Ст. 5593.
в тексте данной Концепции применительно к рассматриваемым отношениям указано, что их регулирование «должно осуществляться с учетом следующих принципов» (прим. — курсив автора). Указываются такие принципы, как стимулирование развития технологий ИИ, регуляторное воздействие, основанное на ри-скориентированном и междисциплинарном подходе, применение инструментов сорегулирования и саморегулирования, человеко-ориентированный подход, оценка воздействия технологий и систем ИИ, обеспечение баланса интересов субъектов ИИ, технологический суверенитет, поддержка конкуренции, оценка рисков при разработке регуляторов, обязательность обоснованной оценки рисков причинения вреда при применении ИИ. Вместе с этим определяются и базовые этические нормы, например, приоритет благополучия и безопасности человека, запрет на причинение вреда человеку, подконтрольность человеку.
Подтверждает вышеизложенный нами тезис о сложности правового контроля деятельности, связанной с технологиями ИИ, подготовленный и открытый для подписания Кодекс этики в сфере искусственного интеллекта, который не содержит принципов и норм права и имеет, как указывают его разработчики, рекомендательный характер19. Тем не менее уже сейчас указанный Кодекс этики подписали более 100 российских организаций, среди которых ведущие технологические вузы, передовые цифровые компании и т. п. Не вызывает сомнений, что с течением времени, после надлежащей практической апробации, отдельные положения указанного документа получат оформление в виде общеобязательных принципов и норм права.
Что же касается ценностной составляющей новых технологий, которая, безусловно, связана с правовой, то эту проблему еще в начале прошлого века точно обозначил Н. А. Бердяев в трактате «Человек и машина». «Трагедия в том, — писал он, — что творение восстает против своего творца, более не повинуется ему... Труд человека заменяется машиной, это есть положительное завоевание. Но машина совсем не повинуется тому, что требует от нее человек, она диктует свои законы. Человек сказал машине: ты мне нужна для облегчения моей жизни, для увеличения моей силы, машина же ответила человеку: а ты мне не нужен, я без тебя все буду делать, ты же можешь пропадать»20. Во избежание подобного трагического финала нельзя пренебрегать мотивационной составляющей деятельности — ее направленностью на созидание, а не на разрушение.
Подчеркнем, что Россия не единственная страна, которая применяет нормы этики для упорядочения отношений, связанных с технологиями ИИ, в т. ч. в связи с объективной недостаточностью действующих на сегодняшний день норм права. В связи с этим интерес представляет практика регулирования ИИ в зарубежных странах, рассмотрим ее подробнее.
19 Альянс в сфере искусственного интеллекта. Комиссия по реализации Кодекса этики в сфере ИИ. URL: https://a-ai.ru/ethics/index.html (дата обращения: 29.11.2022).
20 Бердяев Н. А. Человек и машина (проблема социологии и метафизики техники) // Путь. 1933. № 38. C. 3—37.
В 2021 г. Национальный специальный комитет Китая по управлению искусственным интеллектом нового поколения принял Этический кодекс для искусственного интеллекта нового поколения, который направлен на интеграцию этических норм во весь жизненный цикл ИИ, содействие справедливости, гармонии и безопасности, а также предотвращение таких проблем, как «предрассудки, дискриминация, неприкосновенность частной жизни и утечка информации» (ст. 1)21. Данный документ устанавливает 6 основополагающих этических норм, которым должны соответствовать различные виды деятельности, связанные с ИИ, а именно: содействие благополучию людей, повышение справедливости и беспристрастности, защита конфиденциальности и безопасности, обеспечение управляемости и доверия, усиление ответственности, повышение этической грамотности применительно к ИИ. Более того, рассматриваемый кодекс определяет 18 этических предписаний, которые должны соблюдаться для конкретных видов деятельности ИИ. Они включают нормы управления, нормы исследований и разработок, нормы поставок и нормы использования.
В 2022 г. Управление научно-технической политики США обнародовало Проект Билля о правах ИИ. Документ носит рекомендательный характер, однако разработчики прямо указывают на то, что в перспективе его положения могут быть закреплены в законе. Проект Билля направлен на повышение эффективности проектирования, разработки и внедрения ИИ, а также других автоматизированных систем в целях защиты прав общества и индивидов. В нем определено 5 основных принципов, сформулированных в виде прав человека: право на безопасные и эффективные автоматизированные системы; право на защиту от дискриминации со стороны алгоритмов; право на конфиденциальность данных; право на информацию об особенностях работы автоматизированной системы; право на отказ от ИИ и обращение к человеку, когда это уместно.
Особый интерес представляют попытки формирования правового регулирования технологий ИИ в Федеративной Республике Бразилия. В настоящее время Национальный конгресс — парламент Бразилии рассматривает законопроект, непосредственно регулирующий использование ИИ (PL 21/2020)22. Акт уже получил одобрение Палаты депутатов и находится на рассмотрении Федерального сената. В утвержденном тексте указаны две группы принципов. Первая группа принципов направлена на деятельность органов публичной власти. К ним, в частности, относятся: обязанность осуществлять разработку правил использования систем ИИ только в случае необходимости; осуществление управления на основе рисков и вероятности их возникновения; привлечение общественности к формированию регуляторов. Вторая группа касается требований, предъявляемых непосредственно к технологиям ИИ,
21 Этический кодекс для искусственного интеллекта нового поколения. URL: https:// www.most.gov.cn/kjbgz/202109/t20210926_177063.html (дата обращения: 29.11.2022).
22 PL 21/2020. Available at: https://legis.senado.leg.br/sdleg-getter/documento7dm = 9063365&ts=1679601923682&disposition = inline&_gl=1*l4zoi4*_ga*MTg30DE4MzEuMT Y4NjE00DQ0Mg..*_ga_CW3ZH25XMK*MTY4NjE00DQ0MS4xLjAuMTY4NjE00DQ0MS 4wLjAuMA.. (accessed: 29.11.2022).
а именно их направленность на достижение полезной цели для общества, уважение человеческого достоинства, в т. ч. неприкосновенность частной жизни, защита личных данных, недопустимость дискриминации, безопасность.
Попытки регулирования технологий ИИ предпринимаются и на межгосударственном уровне, например в рамках международных межправительственных организаций. В 2019 г. Организацией экономического сотрудничества и развития были разработаны Принципы искусственного интеллекта, гарантирующие надежность и безопасность систем ИИ, повышающие доверие к ним23. Они указывают на то, что системы ИИ должны служить людям и планете, повышая недискриминационный рост, а также благосостояние и благополучие людей, разрабатываться с учетом законодательства, прав человека, демократических ценностей, обеспечивать открытость использования, быть надежными и безопасными; а субъекты разрабатывающие, внедряющие или управляющие ИИ, обязаны нести ответственность за их работу.
Нельзя не отметить активность Европейского Союза в упорядочении применения ИИ. В 2021 г. Комиссия ЕС обнародовала проект Согласованных правил об искусственном интеллекте (Закон об ИИ)24. Особенность данного акта заключается в том, что в его основу положен рискориентированный подход, т. е. чем больше риск, который ИИ создает для прав и свобод индивидов, тем больше обязательств у регулятора, и наоборот — отсутствие рисков не влечет за собой возложение каких-либо дополнительных обязательств либо существенно минимизирует их.
Проведенный анализ указанных выше актов позволяет сделать ряд выводов.
1. Попытки урегулировать технологии ИИ предпринимаются как внутри государств, так и на уровне международных межправительственных организаций.
2. Выработанные в рассмотренных актах регуляторы, как правило, являются либо нормами этики, либо представляют собой рекомендации.
3. Акты содержат как основополагающие правила, которые можно отнести к особым регуляторам — принципам, так и нормы, распространяющиеся на отдельные отношения.
4. Во всех актах установлены положения, направленные на содействие благополучию людей, сохранение прав человека, недискриминацию, защиту конфиденциальности, обеспечение безопасности.
5. Наблюдается тенденция к установлению повышенной ответственности субъектов ИИ (собственников, владельцев и лиц, предоставляющих услуги посредством ИИ), а также применению риско-риентированного подхода к регулированию технологий ИИ.
23 OECD AI Principles overview. Available at: https://oecd.ai/en/ai-principles (accessed: 29.11.2022).
24 Regulation OF THE European Parliament AND OF THE Council Laying Down Harmonised Rules ON Artificial Intelligence (Artificial Intelligence act) AND Amending Certain Union Legislative Acts: Available at: https://eur-lex.europa.eu/legal-content/EN/ TXT/HTML/?uri=CELEX:52021PC0206&from = EN (accessed: 29.11.2022).
Полагаем, для дальнейшей эволюции правового регулирования ИИ не менее важным является вопрос о юридическом режиме, прежде всего о методах и способах правового регулирования. Данный подход позволит решить указанную выше проблему декларативности норм права, соответственно, повысит регулятивный эффект. Представляется, что технологии ИИ, связанные с ними правоотношения, с точки зрения правового регулирования, а точнее, применяемых методов и способов, можно рассматривать в идеальном (как совокупность идей), процессном (как процесс осуществления технологических разработок), функциональном (как вид деятельности), материальном (как результат деятельности) выражении. В определенной степени здесь можно проследить аналогию с жизненным циклом технологии ИИ. По мере движения от идеального к материальному выражению технологий ИИ должен меняться и арсенал используемых методов и способов регулирования. Так, применительно к технологии, объективированной в виде идеи, в рамках правового регулирования возможно исключительно предоставление прав и свобод через конкретные дозволения, например, провозглашение свободы научного и технического творчества. Речь об ограничениях и тем более о запретах в данной ситуации идти не может из-за нереализуемости таких способов правового регулирования в связи с трудностями внешнего контроля. При объективизации в виде результата, а также в качестве процесса осуществления деятельности набор способов правового регулирования будет шире. В этих случаях правотворческий субъект, конструируя нормы права, потенциально может и должен прибегать не только к дозволению, но и к обязыванию и запрету. Таким образом, при изложенном методологическом подходе технологии ИИ и процесс их получения из потенциальных объектов правового регулирования перейдут в реальные, с дифференциацией возможности регуляторного воздействия во избежание декларативного характера норм права.
Заключение / Conclusion
Подводя итог, отметим, что активное развитие технологий ИИ, их широкое и необходимое внедрение в различные сферы жизнедеятельности объективно предопределяют формирование реакции общества на указанные процессы. Безусловно, право как один из самых эффективных социальных регуляторов должно не устраняться от происходящих процессов, а наоборот, создавать условия для сохранения баланса между плодотворным развитием и применением новых технологий, с одной стороны, и обеспечением гарантий реализации и защиты прав и свобод человека — с другой. При этом подчеркнем, что достичь цели социального регулирования только принципами и нормами права не удастся. Необходимо сорегу-лирование с иными социальными нормами, позволяющее достичь синергетического эффекта в упорядочении социальных отношений в целом. Не вызывает сомнений, что в ближайшей перспективе эволюция принципов и норм права, предмета регулирования пра-
воотношений, связанных с рассматриваемыми технологиями, будет направлена на выстраивание стабильного и предсказуемого взаимодействия технологий ИИ, человека, общества и государства.
Проведенное исследование позволяет сделать вывод, что вновь принимаемые принципы и нормы права, регулирующие правоотношения, касающиеся систем ИИ, будут адресованы собственникам таких технологий, их владельцам, а также лицам, оказывающим услуги посредством их применения. Очевидно, что во избежание зарегули-рованности рассматриваемой сферы необходимо применять риско-риентированный подход с использованием методов эксперимента и юридического моделирования. Дифференциация юридического режима, в т. ч. выбор и определение конкретных методов и способов регулирования в целях повышения регуляторного эффекта, должны быть обусловлены видами объективизации предмета регулирования, связанного с цифровыми технологиями, в т. ч. с жизненным циклом технологии ИИ. Результаты исследования также подтверждают тенденцию поэтапного перехода правового регулирования технологий ИИ в Российской Федерации к третьей модели, в которой сочетаются как стратегические и программные документы, определяющие вектор развития регулирования, так и правовые акты, устанавливающие принципы и нормы права, непосредственно упорядочивающие рассматриваемые правоотношения.
Список использованных источников
1. Исмагилова О. Д., Хаджи К. Р. Информационно-коммуникационные технологии в международной торговле в условиях пандемии // Мониторинг экономической ситуации в России. Тенденции и вызовы социально-экономического развития / под ред. В. С. Гуревича [и др.]. 2020. № 11. С. 59-72. URL: https://www.ranepa. ru/documents/28-04-2020-knobel.pdf?utm_source=yandex.ru&utm_ medium=organic&utm_campaign=yandex.ru&utm_referrer=yandex.ru (дата обращения: 29.11.2022).
2. Андреев В. К. Динамика правового регулирования применения искусственного интеллекта // Журнал российского права. 2020. № 3. С. 58-68. DOI: https://doi.org/10.12737/jrl.2020.030
3. Правовое регулирование искусственного интеллекта в условиях пандемии и инфодемии : монография / под общ. ред. В. В. Блажеева, М. А. Егоровой. М.: Проспект, 2020. 240 с.
4. Васильев А. А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского государственного университета. 2018. № 6. С. 23-26. DOI: https://doi.org/10.14258/izvasu(2018)6-03
5. Васильев А. А., Шпопер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7-8. С. 35-44. DOI: https://doi. org/10.14258/leglin(2018)7-804
6. Кашкин С. Ю., Алтухов А. В. В поисках концепции правового регулирования искусственного интеллекта: платформенные правовые модели // Вестник Университета имени О. Е. Кутафина
(МГЮА). 2020. №. 4. С. 26-40. DOI: https://doi.org/10.17803/2311-5998.2020.68.4.026-040
7. Минбалеев А. В. Проблемы регулирования искусственного интеллекта // Вестник Южно-Уральского государственного университета. Серия: «Право». 2018. Т. 18. № 4. С. 82-87. DOI: https://doi. org/10.14529/law180414
8. Незнамов А. В. Правовые аспекты реализации Национальной стратегии развития искусственного интеллекта до 2030 года // Вестник Университета имени О. Е. Кутафина (МГЮА). 2019. 12. С. 82-88. URL: https://vestnik.msal.ru/jour/article/view/962/962 (дата обращения: 29.11.2022).
9. Харитонова Ю. С., Савина В. С. Технология искусственного интеллекта и право: вызовы современности // Вестник Пермского университета. Юридические науки. 2020. Вып. 49. C. 524—549. DOI: https://doi.org/10.17072/1995-4190-2020-49-524-549
10. Greenstein S. Preserving the Rule of Law in the Era of Artificial Intelligence // Artificial Intelligence and Law. 2022. № 30. Р. 291—323. DOI: https://doi.org/10.1007/s10506-021-09294-4
11. Морхат П. М. Право и искусственный интеллект : монография / под ред. д-ра юрид. наук, проф. И. В. Понкина. М.: ЮНИТИ-ДАНА, 2018. 544 с.
12. Тенденции правового регулирования искусственного интеллекта в Российской Федерации и во Французской Республике // Вестник Университета имени О. Е. Кутафина (МГЮА) / А. Дюфло [и др.]. 2020. № 9. С. 223—229. DOI: https://doi.org/https://doi. org/10.17803/2311-5998.2020.73.9.223-229
13. Жилкин В. А. Цифровые технологии и применение искусственного интеллекта в Финляндии и России: сравнительно-правовое исследование // Журнал зарубежного законодательства и сравнительного правоведения. 2018. № 6. С. 74—78. DOI: https:// doi.org/10.12737/art.2018.6.5
14. Степанян А. Ж., Заплатина Т. С. Правовое регулирование роботов и искусственного интеллекта в странах Латинской Америки, проблема прав человека и ИИ // Lex russica (Русский закон). 2020. Т. 73, № 7. С. 127—136. DOI: https://doi.org/10.17803/1729-5920.2020.164.7.127-136
15. Грачева Ю. В., Арямов А. А. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности // Актуальные проблемы российского права. 2020. Т. 15, № 6. С. 169—178.
16. Пашенцев Д. А., Новикова К. С. Искусственный интеллект как субъект судебного толкования права // Образование и право. 2020. № 7. С. 198—202. URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-subekt-sudebnogo-tolkovaniya-prava (дата обращения: 29.11.2022).
17. Пожарский Д. В. Искусственный интеллект и человеческий разум в государственно-правовой реальности // Труды Академии управления МВД России. 2020. № 1. С. 8—15. URL: https://cyberleninka. ru/article/n/iskusstvennyy-intellekt-i-chelovecheskiy-razum-v-gosudarstvenno-pravovoy-realnosti (дата обращения: 29.11.2022).
18. Wirtz B. W., Weyerer J. C., Kehl I. Governance of Artificial Intelligence: a Risk and Guideline-Based Integrative Framework // Government Information Quarterly. 2022. Vol. 39, issue 4. Article number: 101685. DOI: https://doi.org/10.10167j.giq.2022.101685
19. Erdelyi O. J., Goldsmith J. Regulating Artificial Intelligence: Proposal for a Global Solution // Government Information Quarterly. 2022. Vol. 39, issue 4. Article number: 101748. DOI: https://doi. org/10.1016/j.giq.2022.101748
20. Clarke R. Regulatory Alternatives for AI // Computer Law & Security Review. 2019. Vol. 35, issue 4. P. 398—409. DOI: https://doi. org/10.1016/j.clsr.2019.04.008
21. Гаджиев Г. А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1. С. 15—30. DOI: https://doi.org/10.12737/ art_2018_1_2
22. Соменков С. А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета имени О. Е. Кутафина (МГЮА). 2019. № 2. С. 75—85. URL: https://vestnik.msal.ru/jour/article/view/706 (дата обращения: 29.11.2022).
23. Морхат П. М. Юнит искусственного интеллекта как электронное лицо // Вестник Московского государственного областного университета. Серия: Юриспруденция. 2018. № 2. С. 61—73. DOI: https://doi.org/10.18384/2310-6794-2018-2-61-73
Информация об авторе
Гумеров Ленар Асхатович, доктор юридических наук, доцент, заведующий кафедрой теории и истории права и государства, Казанский филиал Российского государственного университета правосудия (420088, Россия, г. Казань, ул. 2-я Азинская, д. 7А), gumerov_l@mail.ru
References
1. Ismagilova OD, Khadzhi KR. Information and Communication Technologies in International Trade in a Pandemic Environment. Monitoring of the Economical Situation in Russia. Trends and Challenges of the Socio-Economical Development / ed. by V. S. Gurevich [et al.]. 2020;11:59-72. Available at: https://www.ranepa.ru/docu-ments/28-04-2020-knobel.pdf?utm_source=yandex.ru&utm_medi-um=organic&utm_campaign=yandex.ru&utm_referrer=yandex.ru (accessed: 29.11.2022). (In Russ.)
2. Andreev VK. Dynamics of Regulating Artificial Intelligence. Journal of Russian Law. 2020;3:58-68. DOI: https://doi.org/10.12737/ jrl.2020.030 (In Russ.)
3. Blazheeva VV, Egorova MA., eds. Legal Regulation of Artificial Intelligence in a Pandemic and Infodemic Environment: a Monograph. Moscow: Prospekt Publ., 2020. 240 p.
4. Vasilev AA, Szpoper D. Artificial Intelligence: Legal Aspects. Izvestiya of Altai State University. 2018;6:23-26. DOI: https://doi. org/10.14258/izvasu(2018)6-03 (In Russ.)
5. Vasilev AA, Szpoper D, Mataeva MKh. The Term 'Artificial Intelligence' in the Russian Law: Doctrinal Analysis. Legal Linguistics. 2018;7-8:35-44. DOI: https://doi.org/10.14258/leglin(2018)7-804 (In Russ.)
6. Kashkin SYu, Altoukhov AV. The Concept of Legal Regulation of Artificial Intelligence: Platform Legal Models. Courier of Kutafin Moscow State Law University (MSAL). 2020;4:26-40. DOI: https://doi. org/10.17803/2311-5998.2020.68.4.026-040 (In Russ.)
7. Minbaleev AV. Problems of Regulating Artificial Intelligence. Bulletin of the South Ural State University. Ser. Law. 2018;18(4):82-87. DOI: https://doi.org/10.14529/law180414 (In Russ.)
8. Neznamov AV. Legal Aspects of the Implementation of the National Strategy for the Development of Artificial Intelligence Until 2030. Courier of Kutafin Moscow State Law University (MSAL). 2019;12:82-88. Available at: https://vestnik.msal.ru/jour/article/view/962/962 (accessed: 29.11.2022). (In Russ.)
9. Kharitonova YuS, Savina VS. Artificial Intelligence Technology and Law: Challenges of Our Time. Perm University Herald. Juridical Sciences. 2020;49:524-549. DOI: 10.17072/1995-4190-2020-49524-549 (In Russ.).
10. Greenstein S. Preserving the Rule of Law in the Era of Artificial Intelligence. Artificial Intelligence and Law. 2022;30:291-323. DOI: https://doi.org/10.1007/s10506-021-09294-4
11. Morkhat PM. Law and Artificial Intelligence : a Monograph / ed. by I. Ponkin. Moscow: Yuniti-Dana Publ., 2018. 544 p.
12. Duflot A, Yegorova MA, Minbaleev AV, Ponomareva DV. Trends in the Legal Regulation of Artificial Intelligence in the Russian Federation and the French Republic. Courier of Kutafin Moscow State Law University (MSAL). 2020;9:223-229. DOI: (In Russ.)
13. Jilkine VA. Digital Technologies and the Application of Artificial Intelligence in Finland and in Russia: Comparative Legal Research. Journal of Foreighn Legislation and Comparative Law. 2018;6:74-78. DOI: https://doi.org/10.12737/art.2018.6.5
14. Stepanyan AZ, Zaplatina TS. Legal Regulation of Robots and Artificial Intelligence in Latin America, the Problem of Human Rights and AI. Lex Russica. 2020;73(7):127-136. (In Russ.) DOI: https://doi. org/10.17803/1729-5920.2020.164.7.127-136 (In Russ.)
15. Gracheva YuV, Aryamov AA. Robotization and Artificial Intelligence: Criminal Law Risks in the Field of Public Security. Actual Problems of Russian Law. 2020;15(6):169-178. (In Russ.)
16. Pashentsev DA, Novikova KS. Artificial Intelligence as a Subject of Judicial Interpretation of law. Education and Law. 2020;7:198-202. Available at: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-sub-ekt-sudebnogo-tolkovaniya-prava (accessed: 29.11.2022). (In Russ.)
17. Pozharsky DV. Artificial Intelligence and the Human Mind in the State-Legal Reality. Proceedings of Management Academy of the Ministry of the Interior of Russia. 2020;1:8-15. Available at: https://cyberleninka.ru/ article/n/iskusstvennyy-intellekt-i-chelovecheskiy-razum-v-gosudarst-venno-pravovoy-realnosti (accessed: 29.11.2022). (In Russ.)
18. Wirtz BW, Weyerer JC, Kehl I. Governance of Artificial Intelligence: a Risk and Guideline-Based Integrative Framework. Government
Information Quarterly. 2022;39(4): Paper No. 101685. DOI: https://doi. org/10.1016/j.giq.2022.101685
19. Erdelyi OJ, Goldsmith J. Regulating Artificial Intelligence: Proposal for a Global Solution. Government Information Quarterly. 2022;39(4). Paper № 101748. DOI: https://doi.org/10.1016/j.giq.2022.101748
20. Clarke R. Regulatory Alternatives for AI. Computer Law & Security Review. 2019;35(4):398-409. DOI: https://doi.org/10.1016/j. clsr.2019.04.008
21. Gadzhiev GA. Whether the Robot-Agent is a Person? (Search of Legal Forms for the Regulation of Digital Economy). Journal of Russian Law. 2018;1:15-30. DOI: https://doi.org/10.12737/art_2018_1_2 (In Russ.)
22. Somenkov SA. Artificial Intelligence: from Object to Subject? Courier of Kutafin Moscow State Law University (MSAL). 2019;(2):75-85. Available at: https://vestnik.msal.ru/jour/article/ view/706 (accessed: 29.11.2022). (In Russ.)
23. Morkhat PM. Artificial Intelligence Unit as Electronic Personality. Bulletin of Moscow Region State University. Series: Jurisprudence. 2018;2:61-73. DOI: https://doi.org/10.18384/2310-6794-2018-2-61-73
Information about the author Lenar A. Gumerov, Dr.Sci. (Law), Associate Professor, Head of the Department of Theory and History of Law and State, Kazan Branch of the Russian State University of Justice (7A 2nd Azinskaya St., Kazan 420088, Russia), gumerov_l@mail.ru
Автор заявляет об отсутствии конфликта интересов. The author declares no conflict of interests.
Поступила 30.11.2022 Одобрена 15.02.2023 Принята 04.07.2023
Submitted 30.11.2022 Approved 15.02.2023 Accepted 04.07.2023
