CC BY
33
3.10. ПРАВОВОЕ РЕГУЛИРОВАНИЕ И ОФОРМЛЕНИЕ ПРАВОСУБЪЕКТНОСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В РОССИЙСКОМ И МЕЖДУНАРОДНОМ ПРАВЕ
Никифоров Святослав Вадимович, аспирант. Место учебы: Московский государственный гуманитарно-экономический университет. Подразделение: кафедра общеправовых дисциплин и международного права. Email: [email protected]
Аннотация
Цель и задачи написания статьи. Цель статьи -определить тенденции в развитии правового регулирования и оформление правосубъектности искусственного интеллекта в российском и международном праве, в пересмотре правового статуса человека, личности, индивида и гражданина, проанализировать позиции правоведов, а также общественные документы и проекты по вопросам регулирования и субъ-ектности искусственного интеллекта.
Методологический подход. В работе используются метод правового прогнозирования, общенаучные методы, а также элементы сравнительно-правового, историко-правового методов и метода юридического толкования.
Результаты и выводы. В статье выявляются особенности современной формальной и теоретической правовой базы по вопросам регулирования искусственного интеллекта в российском и международном праве, существующие пробелы в законодательстве.
Оригинальность и ценность работы. Исследование представляет ценность ввиду своей актуальности и оригинальности работы, делающей акцент на возможностях правового регулирования и оформления правосбъектности искусственного интеллекта в области российского и международного права.
Ключевые слова: правосубъектность искусственного интеллекта, правовое регулирование, правовой статус человека, международная правосубъектность.
LEGAL REGULATION AND FORMALIZATION OF THE
ARTIFICIAL INTELLIGENCE'S LEGAL PERSONALITY IN RUSSIAN AND INTERNATIONAL LAW
Nikiforov Sviatoslav Vadimovich, postgraduate student. Place of study: Moscow State University of Humanities and Economics. Department: General Legal Disciplines and International Law chair. E-mail: [email protected]
Annotation
The purpose and objectives. The main goal is to determine trends in the legal regulation and formalization of the artificial intelligence's legal personality in Russian and international law, to review the legal status of a human, person, individual and citizen, to analyze the positions of jurists, as well as public documents and projects on the issues of artificial intelligence regulation and subjectivity.
Methodological approach. Legal forecasting, general academic methods, as well as elements of legal comparative, legal historical and legal interpretation methods serve as instrumentation of the research.
Results and conclusions. The article reveals the features of the modern formal and theoretical legal framework on the regulation of artificial intelligence in Russian and international law, existing gaps in the legislation.
Originality and value. The study is valuable in view of its relevance and originality. It focuses on the possibilities of artificial intelligence's legal regulation and formalization of the legal personality in Russian and international law. Keywords: legal personality of artificial intelligence, legal regulation, legal status of a person, international legal personality
«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира» В.В. Путин
Введение
Ключевой особенностью международной правосубъектности в XX-XXI веке уже сейчас стала ее изменчивость, динамичность. За прошедший период времени успели сформироваться и распасться несколько систем международных отношений, появились и добились международно-правового статуса новые субъекты международного права, среди которых ведущую роль начали играть международные организации, а также приобрели значительное влияние те акторы международных отношений, чья международная правосубъектность не воспринималась всерьез юридическим сообществом.
Однако современный исторический этап, характеризующийся все ускоряющимися темпами научно-технического развития и растущей взаимозависимости и взаимосвязанности государств, организаций и людей, содержит также и проблемы, которые, обострившись, в ближайшей перспективе потребуют оперативного правового оформления. Но эти вызовы будут лишь отчасти «перекликаться», например, с задачами, которые должны быть решены международным сообществом, согласно Декларации тысячелетия ООН [Декларация, 2000]. Ключевая проблема данных вызовов заключается в отсутствии международно-правовой базы, способной в текущей форме регулировать те правоотношения, которые возникнут в будущем.
Пересмотр правового статуса человека, личности, индивида и гражданина. Фактор перемен
На первый взгляд, последняя проблема может не иметь четкого международно-правового отражения и будет решаться национальным законодательством по-разному в отдельных странах мира. Такой сценарий возможен, однако разработка общих механизмов решения этой проблемы, определение универсальных принципов и составление общих маршрутов правового регулирования на международно-правовом уровне -вот то, что позволит облегчить этот процесс для национальных правовых систем, с одной стороны, и уменьшить потенциальную напряженность в будущих межгосударственных отношениях, с другой. Однако какое событие может стать отправной точкой для внесения столь значительных изменений в правовую теорию и практике? Только одно - это появление нового для человека самосознающего себя существа. Им может стать разумный искусственный интеллект, разра-
ботка которого активно ведется в ведущих технологических державах.
Правовое регулирование и оформление правосубъектности искусственного интеллекта. Определение понятий
На сегодняшний день не существует общепринятого научного определения искусственного интеллекта, однако можно говорить об одной характеристике данного феномена, являющейся фундаментальной для любого толкования данного термина. Искусственный интеллект (ИИ) - это мыслящая машина, причем мыслящая подобно человеку. В широком смысле, это определение может подойти и современным компьютерам и нейросетям. Поэтому важно отметить критерий разумности, иначе говоря, самоосознанности ИИ.
В национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 дается следующее определение: «искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений» [Указ, 2019].
Современные вычислительные машины пока что еще не смогли осознать сами себя, так же, как и развить умение мыслить в отрыве от изначальной программы поведения/мышления, заданной оператором. То есть, они не способны к творчеству, готовы лишь к исполнению механически заданных команд, подчас могущих его имитировать, но не являющихся им в его «человеческом» понимании. В связи с этим, активное развитие искусственного интеллекта, ставящееся как важная задача на высшем государственном уровне, представляется вызовом, к ответу на который следует подготовиться юридическому сообществу. Появление полноценного разумного искусственного интеллекта означает фактически появление искусственной личности, сопоставимой с человеческой, а значит, в правовом смысле, нового субъекта правоотношений, потенциально претендующего на правовой статус человека, личности и гражданина.
Позиция правоведов по вопросам регулирования и субъектности ИИ
Многие отечественные и зарубежные правоведы занимаются вопросами правового статуса Ии. При этом критерий разумности становится ключевым для его определения. О. А. Ястребов, опираясь на подход Г. Кельзена (теория «чистого права»), предлагает формализовать правосубъектность искусственного интеллекта через правовой статус электронного лица, понимающийся им как «персонифицированное единство норм права, которые обязывают и уполномочивают искусственный интеллект, обладающий критериями «разумности» [Ястребов, 2018: 36-55]. Второй ключевой критерий - это управляемость электронного лица, подразумевающая, что по аналогии с лицом юридическим ответственность за деяния лица элек-
тронного может нести физическое лицо, например, программировавшее лицо электронное или лицо, физическое лицо, имеющее по отношению к искусственному интеллекту права владения, пользования и распоряжения. Правовед считает важным наделение искусственного интеллекта правами и обязанностями (в основном, разделяемыми с обычными людьми -физическими лицами, несущими фактическую ответственность за действия электронных лиц) в преддверие самосознания им себя личностью и опосредованно от философских и технических дискуссий о разумности ИИ. Данный тезис обуславливается рисками самосознания электронного лица своей разумности, появления логики и мотивов, могущих значительно отличаться от привычной простому человеку. Вместе с тем, ученый не поднимает вопрос о предоставлении разумному ИИ статуса «человека», оставаясь в рамках концепции правового статуса «электронного лица».
И.В. Понкин и А.И. Редькина, развивая идеи О.А. Ястребова, подчеркивают важность гетерогенности потенциального правового статуса электронной личности. Авторы выдвигают критерии классификации электронных лиц («кибер-субъектов») по степени их автономности, необходимой для определения их правового статуса: «субъектность (в том числе — автономность как интеллектуального агента, самостоятельность и самореферентность в самообучении и в выработке и принятии решений); когнитивная и адаптационная автономность; пространственно-кинетическая автономность; автономность программно-энергетического управления (в том числе — самостоятельность в само-включении-отключении-перезапуске и возможность воспрепятствия внешнему отключению); энергетическая автономность» [Понкин, Редькина, 2018: 91-109]. Однако правоведами не предпринимается попытка составить саму классификацию правовых статусов кибер-субъектов (электронных лиц).
В международном праве не существует нормативно-правовой базы, достаточной для регулирования современных правоотношений в области ИИ. В то же время, развивается законотворчество, посвященное проблемам правосубъектности роботов и ИИ в отдельных политико-правовых системах мира. Как отмечает С. Ю. Кашкин, большинство документов, направленных на регулирование технологий искусственного интеллекта носят не обязательный, а рекомендательный характер, причем достаточная доля этих проектов исходит не от государственных институтов, а общественных деятелей (часто ученых и предпринимателей) и корпораций [Кашкин, 2019: 151-159]. В основном они содержат этические принципы, ограничивающие разработку технологий ИИ и производство роботов (обычно на уровне внесения в программу интеллекта определенных сдерживающих факторов, стремящихся минимизировать потенциальный вред, который Ии может нанести человеку).
Общественные документы и проекты
Среди этих проектов и действующих соглашений можно выделить этические стандарты для роботов международной общественной некоммерческой ассоциации специалистов в области техники Института инженеров электротехники и электроники (IEEE). Они подразумевают среди прочего внесение в программу ИИ норм общепринятой человеческой морали, технических средств безопасного для человека функционирования ИИ, а также изучение экспертами социального
влияния ИИ на современное общество [IEEE, 2017]. Также отметим этические принципы разработчиков ИИ Японского общества по искусственному интеллекту (JSAI). Как следует из названия, они направлены не столько на сами машины, сколько на их создателей. Согласно этому документу, разработчики, подписавшие договор, например, обязываются осознавать ответственность, которую они несут перед обществом и действовать исключительно во благо человечества, осуществлять свою деятельность, защищая права человека, и уничтожать любую потенциальную угрозу безопасности людей, которая может возникнуть в процессе разработки ИИ. При этом, примечательно, что ИИ, в том случае, если он будет стремиться стать субъектом общества, обязан следовать тем же этическим принципам, что и его создатели [The Japanese Society, 2017].
Асиломарские (Азиломарские) принципы искусственного интеллекта, сформулированные по итогам конференции ведущих разработчиков искусственного интеллекта (как ученых-теоретиков, так и представителей высокотехнологичных корпораций), организованной Институтом будущего жизни (Future of Life Institute) в 2017 г. в США, пожалуй, в большей степени претендуют на универсальность и возможность получения формального международно-правового статуса. Данные принципы достаточно комплексные, направлены прежде всего на ужесточение контроля над исследованиями в области ИИ и их ограничения в целях безопасности человечества. Также принципы нацелены на активизацию взаимодействия между государственной властью и негосударственными разработчиками ИИ для минимизации рисков развития искусственного интеллекта. Одним из ключевых сформулированных принципов является постулат о необходимости избежать гонки вооружений в области ИИ посредством разработки автономных систем вооружения (летального автономного оружия), то есть создания систем вооружений, управляемых ИИ [Принципы, 2017].
Также стоит упомянуть экспертные проекты российского отдела международной юридической фирмы Dentons (ведущие авторы - А.В. Незнамов и В.Б.Наумов), разработавшей ряд концептуальных документов для правового регулирования робототехники в России. Например, в предлагаемом председателем света директоров, сооснователем Mail.ru Group и основателем инвестиционного фонда Grishin Robotics Д.С. Гришином проекте Федерального закона о робототехнике (2017 г.) предлагается частичная формализация правосубъектности ИИ. Законопроект разграничивает понятия робота и робота-агента. Последний, в свою очередь, приобретает субъектность, аналогичную юридическим лицам, и может участвовать в «гражданском обороте», представляя интересы человека. Также «робот-агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. В случаях, установленных законом, робот-агент может выступать в качестве участника гражданского процесса» [Проект Гришина, 2017].
Одним из самых проработанных проектов, является выдвинутая А.В. Незнамовым и В.Б. Наумовым «Модельная конвенции о робототехнике и искусственном интеллекте». Среди юридических «новелл» проекта следует отметить идею закрепления обязательного наличия ряда технических инструментов, минимизирующих риски причинения роботом вреда человеку
(защита от несанкционированного доступа к системам робота; «черный ящик» роботов; «красная кнопка» отключения роботов, принцип идентификации роботов (грубо говоря, робот должен выглядеть и восприниматься электронными системами как робот, а не человек)), выделение категории «роботов с повышенной степенью опасности» с соответствующим правовым статусом; закрепление правового тождества между роботами и «киберфизическими системами с искусственным интеллектом»; презумпция опасности ИИ для человека; применение гуманитарных принципов и норм ведения войны для боевых действия с участием роботов (ограничение гуманитарным правом способов ведения войны роботами, непричинение вреда мирного населению, использование роботов в военных преступлениях - отягощающее обстоятельство для человека, их совершившего посредством робота); введение обязательства разработчиков, производителей и владельцев роботов действовать сообразно правовым, этическим и религиозным нормам тех государств, в которых они ведут свою деятельность и/или в которые поставляют свою продукцию [Робоправо. Модельная конвенция, 2017].
Заключение и выводы
На сегодняшний день существует острая потребность в международно-правовой базе, регулирующей, с одной стороны, разработку, производство и использование технологий искусственного интеллекта, а с другой - формализацию статуса ИИ на международно-правом уровне. Общественные организации, юридические фирмы, ученые, корпорации и прочие негосударственные акторы разрабатывают проекты, во многом опережающие формальное правовое регулирование. Политико-правовые системы стран мира не имеют нормативно-правовой базы, актуальной для текущих темпов развития технологий, не учитывают риски обретения ИИ самосознания и практически не затрагивают угрозы применения автономных смертоносных систем вооружений. Также имеющаяся национальная правовая база весьма гетерогенна и нуждается в наднациональном унифицированном источнике права для предотвращения роста мировой напряженности в будущем.
Список литературы:
1. IEEE представил три новых закона робототехники. - Хайтек, 2017: [Электронный ресурс]. - Режим доступа: https://hightech.fm/2017/11/21/ieeeannounces-3-ai-standards
2. Декларация тысячелетия Организации Объединенных Наций, 2000: [Электронный ресурс]. - Режим доступа: https://www.un.org/nj/docuirients/ded_conv/dec-larations/summitdecl.shtml
3. Кашкин С.Ю. Искусственный интеллект и робототехника: возможность вторжения в права человека... и правовое регулирование этих процессов в ЕС и мире// Lex russica (Русский закон). - 2019. - (7). - С. 151 -159.
4. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. - Серия: Юридические науки. - 2018. - Т. 22. - № 1. - С. 91-109.
5. Принципы работы с ИИ, разработанные на Асило-марской конференции. Институт будущего жизни, 2017: [Электронный ресурс]. - Режим доступа: https://futureoflife.org/ai-principles-russian/
6. Проект Гришина Дмитрия Сергеевича Grishin Robotics. Федеральный закон «О внесении изменений
в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники», 2017: [Электронный ресурс]. - Режим доступа: https://vk.com/page-135261864_52392566
7. Путин: лидер в сфере искусственного интеллекта станет властелином мира. РИА Новости. От 01.09.2017: [Электронный ресурс]. - Режим доступа: https://ria.ru/20170901/1501566046.html
8. Робоправо. Исследовательский центр проблем регулирования робототехники и искусственного интеллекта. Модельная конвенция о робототехнике и искусственном интеллекте, 2017: [Электронный ресурс]. -Режим доступа: http://robopravo.ru/uploads/s/z/6/g/z6gj0 wkwhv1o/file/6dbrNqgu.pdf
9. Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»: [Электронный ресурс]. Режим доступа: https://www.garant.ru/products/ipo/prime/doc/72738946/#1 000
10. Этические принципы разработчиков искусственного интеллекта Японского общества по искусственному интеллекту, 2017: [Электронный ресурс]. - Режим доступа: http://ai-elsi.org/wp-content/uploads/2017/05/JS AI-Ethical-Guidelines-1 .pdf
11. Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН / Proceedings of the Institute of State and Law of the RAS. - 2018. - Том. 13. - № 2. - С. 36—55.
Reference list:
1. Asilomar Ai Principles. The Future of Life Institute (FLI). 2017. (in Russian). [Online]. Available at: https://futureoflife.org/ai-principles-russian/
2. IEEE Introduces Three New Robotics Laws. Hightech. (2017). (in Russian). [Online]. Available at: https://hightech.fm/2017/11/21/ieee-announces-3-ai-standards
3. Kashkin S. Yu. (2019) Artificial Intelligence and Robotics: The Possibility of Invasion of Human Rights and Legal Regulation of these Processes in the EU and the World. (in Russian). Lex russica (Russian law) (7), 151-159.
4. Ponkin, I. V. & Redkina, A. I. (2018) Artificial Intelligence from the Point of View of Law. (in Russian). RUDN Journal of Law. 22 (1), 91-109.
5. Presidential Decree of October 10, 2019 № 490 "On the development of artificial intelligence in the Russian Federation". (in Russian). [Online]. Available at: https:// www.garant.ru/products/ipo/prime/doc/72738946/#1000
6. Putin: the leader in the field of artificial intelligence will become the ruler of the world. RIA News. 09/01/2017. (in Russian). [Online]. Available at: https://ria.ru/20170901/ 1501566046.html
7. Robopravo. Research Center for the Regulation of Robotics and Artificial Intelligence. Model Convention on Robotics and Artificial Intelligence. (in Russian). 2017. [Online]. Available at: http://robopravo.ru/uploads/s/z/ 6/g/z6gj0wkwhv1o/file/6dbrNqgu.pdf
8. The Japanese Society for Artificial Intelligence Ethical Guidelines // The Japanese Society for Artificial Intelligence (JSAI). 2017. [Online]. Available at: http://ai-
Ethical-Guidelines-1 .pdf
9. The project by Grishin, D.S. Grishin Robotics. Federal Law "On Amendments to the Civil Code of the Russian Federation regarding the improvement of the legal regulation of relations in the field of robotics". 2017 (in Russian). [Online]. Available at: https://vk.com/page-135261864_52392566
10. The United Nations Millennium Declaration. 2000 (in Russian). [Online]. Available at: https://www.un.org/ru/ documents/decl_conv/declarations/summitdecl.shtml
11. Yastrebov, O.A. (2018). The Legal Capacity of Electronic Person: Theoretical and Methodological Approaches. (in Russian). Proceedings of the Institute of State and Law of the RAS, 13(2), pp. 36—55.
Рецензия
на статью Никифорова Святослава Вадимовича, аспиранта кафедры общеправовых дисциплин и международного права Московского государственного гуманитарно-экономического университета «Правовое регулирование и оформление правосубъектности искусственного интеллекта в российском и международном праве»
Статья С. В. Никифорова посвящена актуальной проблеме, освещающей пробелы в российском и международном праве, касающиеся правового регулирования и оформление правосубъектности искусственного интеллекта.
Аспирант успешно решает поставленную цель - определить тенденции в развитии правового регулирования и оформление правосубъектности искусственного интеллекта в российском и международном праве, в пересмотре правового статуса человека, личности, индивида и гражданина, проанализировать позиции правоведов, а также общественные документы и проекты по вопросам регулирования и субъектности искусственного интеллекта.
Выбранные аспирантом методы исследования: метод правового прогнозирования, общенаучные методы, а также элементы сравнительно-правового, исто-рико-правового методов и метода юридического толкования, адекватны поставленным целям и задачам исследования.
В статье выявляются особенности современной формальной и теоретической правовой базы по вопросам регулирования искусственного интеллекта.
На наш взгляд, исследование представляет ценность в виду своей актуальности и оригинальности работы, делающей акцент на возможностях правового регулирования и оформления правосбъектности искусственного интеллекта в области российского и международного права.
Сказанное позволяет сделать вывод о соответствии содержания и структуры работы С. В. Никифорова требованиям, предъявляемым к научным статьям, и рекомендации его статьи «Правовое регулирование и оформление правосубъектности искусственного интеллекта в российском и международном праве» к публикации.
Рецензент: кандидат юридических наук, профессор, заведующий кафедрой юриспруденции Московского международного университета Борисевич М.М.
elsi.org/wp-content/uploads/2017/05/JSAI-
Статья прошла проверку системой «Антиплагиат»; Оригинальность текста - 76,54 %
