CC BY
150DOI 10.24411 /2076-1503-2020-10846 МИХАЙЛОВ Дмитрий Юрьевич
магистрант Юридического факультета ФГОБУ ВО «Финансовый университет при Правительстве Российской Федерации» e-mail:mih123654@mail.ru
Научный руководитель: ПОПОВА Анна Владиславовна
д. ю. н., к.филос.н., доцент, профессор департамента международного и публичного права Юридического факультета ФГОБУ ВО «(Финансовый университет при Правительстве Российской Федерации»,
е-mail: AVPopova@fa.ru
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА -
ДЕГУМАНИЗАЦИЯ ПРАВА?
Аннотация. Статья посвящена вопросам правового статуса искусственного интеллекта, развитие которого определяет современный этап государственно-правового развития. Необходимость регулирования правосубъектности искусственного интеллекта представляет собой одну из важнейших проблем, стоящих перед Россией, вступившей в этап цифровой экономики. В статье рассмотрены особенности процесса правовой субъек-тивизации неодушевлённых объектов и наделения их правовым статусом. Проанализированным свойства искусственного интеллекта, необходимые для признания за ним правового статуса. На основе сравнительно-правового анализа практики функционирования искусственного интеллекта, автор приходит к выводу о необходимости признания за отдельными видами искусственного интеллекта статуса электронного лица.
Ключевые слова: искусственный интеллект, электронное лицо, правосубъектность, дегуманизация права, трансгуманизм, право, философия права.
MIKHAILOV Dmitrii Yurievich.
Master of Law Financial University under the Government of the Russian Federation
Research supervisor: POPOVA Anna Vladislavovna
Doctor of law, PhD in philosophy, associate Professor, Professor of the Department of international and public law Faculty of law of the Financial University under the Government of the Russian Federation,
LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE -DEHUMANIZATION OF LAW?
Annotation. The article is devoted to the legal status of artificial intelligence, the development of which determines the current stage of state and legal development. The need to regulate the legal personality of artificial intelligence is one of the most important problems facing Russia, which has entered the stage of the digital economy. The article deals with the peculiarities of the process of legal subjectivization of inanimate objects and granting them a legal status. Analyzed the properties of artificial intelligence that are necessary for the recognition of its legal status. Based on a comparative legal analysis of the practice of functioning of artificial intelligence, the author comes to the conclusion that it is necessary to recognize the status of an electronic entity for certain types of artificial intelligence.
Key words: artificial intelligence, electronic entity, legal personality, dehumanization of law, transhumanism, law, philosophy of law.
ОБРАЗОВАНИЕ И ПРАВО № 8 • 2020
Современное общество не стоит на месте, а постоянно развивается, модернизируется и дополняется новыми структурными элементами. Несмотря на то, что кажется, будто в мире уже все давно придумано и исследовано, будто не осталось уже мест, куда бы не ступала нога человека, ежедневно, если не ежечасно, появляются новые, никому не известные до этого технологии. Согласно исследованию, приведенному Н. Бостромом в работе «Superintelligence: Paths, Dangers, Strategies.», искусственный интеллект уровня человека появится с 90% вероятностью к 2075 г. [1]. Учитывая скорость развития технологий, можно предположить, что вслед за ним появится и ИИ, превосходящий уровень человека, который можно будет назвать действительно «сильным искусственным интеллектом» (SAI). На наш взгляд, для адекватного правового регулирования в сфере искусственного интеллекта, необходимо использовать исчерпывающее определение искусственного интеллекта, которое соответствовало бы ряду принципов, а именно:
- предполагаемое определение не должно содержать избыточного регулирования, то есть не затрагивать те общественные отношения, которые уже урегулированы, либо не относятся к вопросам искусственного интеллекта;
- определение должно давать четкое условие того, какой объект является искусственным интеллектом, а какой нет, то есть быть дискретным;
- оно должно быть практико-ориентирован-ным, то есть правоприменители должны иметь возможность определить относимость термина искусственный интеллект к конкретной правовой ситуации.
Также, примечательным является такое свойство определения искусственного интеллекта, как «постоянство». Его выделяет Jonas Schuett в своей работе «A Legal Definition of AI» [2]. В данной работе, под постоянством подразумевается обязанность законодателей, не использовать в определении элементы, которые могут измениться в ближайшем будущем и потребуют внести поправки в законодательство.
Проанализируем, какие определения искусственного интеллекта используют мировые регуляторы в этой области. Резолюция Европейского Парламента от 16 февраля 2017 г. (далее - Резолюция), на данный момент является одним из передовых актов по регулированию искусственного интеллекта, так как содержит в себе комплексное правовое регулирование в различных сферах [3]. Например, Резолюция закладывает принципы ответственности за действия ИИ, исходя из свойства его автономности. Поскольку, существующее законодательство не устанавливает ответственность робота за его действия, ответственность за их последствия ложится на
контролирующего субъекта (его создателя, хозяина, оператора) [3, п. AD]. Но, в случаях, когда робот автономен, существующих законодательных механизмов недостаточно, чтобы определить сторону, виновную за причинение вреда [3, п. AF].
Определение ИИ, можно вывести из признаков «умного робота», описанных в п. 1 Раздела Общие принципы развития робототехники и искусственного интеллекта для гражданского использования. К числу которых отнесены: а) получение автономности путём использования датчиков и/ или обмена данными со средой, а также возможность обмена данными и анализ этих данных; б) незначительная физическая поддержка; в) приспосабливаемое^ своего поведения и действий к окружающей среде; г) отсутствие биологических признаков жизни. Следует отметить, что самообучаемость ИИ рассматривается как факультативный признак, поскольку для возникновения правовых последствий, ключевым является именно способность действовать.
Указ Президента РФ от 10 октября 2019 г. N 490 «О развитии искусственного интеллекта в Российской Федерации» (далее - Указ) стал первым нормативным правовым актом, закладывающий основы правового регулирования искусственного интеллекта в России [4]. П. «А» Ч. 5 данного Указа содержит в себе определение искусственного интеллекта, согласно которому: «искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. Как мы видим, способность к самообучению является необходимым свойством, что существенно ограничивает круг технологий, которые в России можно признать ИИ.
Необходимым качеством ИИ является его способность решать широкий круг задач, подобно человеку. Именно способность решать человеческие задачи, лежит в основе классификации искусственного интеллекта согласно концепции «Исследование, развитие и регулирование искусственного интеллекта», разработанной институтом инженеров электротехники и электроники (IEEE) США: «Искусственный интеллект (AI) - это теория и разработка компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта, такого как визуальное восприятие, распознавание речи, обуче-
ОБРАЗОВАНИЕ И ПРАВО № 8 • 2020
ние, принятие решений и обработка естественного языка»[5].
Проанализировав существующее многообразие подходов и требований к определению искусственного интеллекта, можно прийти к выводу, что единое понимание этого явления еще не сформировано [6]. Однако, это не отменяет необходимости регулирования тех последствий, с которыми сопряжена деятельность агентов искусственного интеллекта. А именно вопросы ответственности (кто, в каких объемах и на каких основаниях несет ответственность за ущерб, причинённый ИИ), вопросы принадлежности результатов интеллектуальной деятельности, созданных ИИ.
В связи с этим, возникает вопрос, о необходимости модернизации существующих правовых категорий под реалии повсеместного развития искусственного интеллекта. Учитывая темпы развития технологий искусственного интеллекта, перед государствами мира через некоторое время возникнет проблема законодательного регулирования его статуса. Возникает закономерный вопрос, можно ли провести аналогию между ИИ и иными «неживыми» объектами в вопросе их легализации?
В некоторых системах права имеются примеры наделения правами объектов неживой природы [7]. Так, в 2017 г. в Новой Зеландии статусом юридического лица наделили священную для народа маори реку «Уонгануи», поскольку, согласно их верованиям, она является предком этого народа [8]. В Индии имеются судебные прецеденты, связанные с наделением идолов богов свойствами лица, правом собственности, а также обязанностью по уплате налогов [9]. Наделение правовым статусом неодушевленных объектов, как правило, связанно с религиозными или культурными практиками отдельных групп, которые формируют правовую реальность конкретного социума.
Из этого следует ряд характерных черт такой «традиционной субъективизации»:
Во-первых, это локальность, поскольку каждая конкретная практика не выходит за пределы государства либо отдельного региона в государстве.
Во-вторых, индивидуальность каждого случая, так как объем прав и обязанностей, само лицо, которое наделяется ими и правовые последствия для остальных лиц
В-третьих, ретроспективность таких действий, поскольку причина наделения неодушевленного объекта статусом лица, исходит из прошлого опыта того общества, где такое решение было принято.
Вопрос же со статусом ИИ имеет существенное отличие, так как искусственный интеллект не наследие прошлого, а предполагаемое творение
ОБРАЗОВАНИЕ И ПРАВО № 8 • 2020
будущего, чей правовой статус пытаются определить уже сейчас, еще до его создания. Также предполагается что создание ИИ приведет к его глобальному распространению, учитывая современные виды связи и сеть «Интернет», необходимость регулирования статуса ИИ, затронет все государства мира.
Понятие «электронное лицо» впервые было употреблено в статье 1967 г. в американском журнале «LIFE» [10] по отношению к первому роботу - Шейки, который имел способность рассуждения о своих действиях. Хоть Шейки внешне мало чем отличался от всех остальных роботов, он имел возможность не просто слепо следовать инструкциям и настройкам, а анализировать подаваемые ему команды. Позже данное понятие стало употребляться и в официальных документах, например, в упомянутой Резолюции Европарламента от 16 февраля 2017 г.
Рассматривая вопрос о наделении электронного лица определенным правовым статусом, необходимо понять, какое место оно должно занимать в иерархии между дееспособным физическим лицом и вещью. По нашему мнению, разрешение этой проблемы имеет огромное значение, ведь даже если говорить о правовом статусе человека на различных этапах истории, а в некоторых государствах и в настоящий момент, то нельзя не отметить, что объем прав и обязанностей для людей различных групп отличается. Например, согласно правовым нормам Саудовской Аравии, женщина обязательно должна иметь опекуна-мужчину (отец, брат, муж или дядя). Женщинам запрещается путешествовать в одиночку, проходить медицинские осмотры без разрешения опекуна, работать в некоторых отраслях и т.д. [11].
Таким образом, отметим, что если некоторые люди и сегодня не обладают полной дееспособностью в силу полой, расовой или иной дискриминации, то актуальным является вопрос о том, должно ли электронное лицо обладать дееспособностью, самостоятельно принимать решения и нести за них ответственность. По нашему мнению, в настоящий момент невозможно наделить все устройства, имеющие ИИ, одинаковым объемом правомочий, то есть для классификации в качестве «электронного лица», робот должен обладать определенными свойствами. По мнению многих исследователей ключевым признаком является его автономность. Так, М. А. Filipe выделяет «автономию действий и формирование у машины субъективного опыта (переживаний)», как ключевой признак будущего электронного лица [12].
Под автономией воли электронного лица стоит понимать способность самостоятельно принимать решения и реализовывать их без стороннего контроля. Если же говорить о субъективном опыте, то применительно к электронным лицам
стоит понимать получение ими определенных навыков, умений, знаний посредством выполнения действий.
Данный категории являются важной частью жизни человека, а также любого другого живого существа на нашей планете (животные, птицы и т.д.). Используя их применительно к электронному лицу, можно предположить, что роботы с ИИ смогут формировать определенное представление об окружающей действительности и о себе. По нашему мнению, именно за такими электронными лицами возможно закрепление особого правового статуса. Так какими же правами могут или должны обладать машины с ИИ? Возможно ли приравнять их к обычному человеку - гражданину той или иной страны?
На сегодняшний день в мире уже существует робот, который официально имеет подданство Саудовской Аравии. Это созданная компанией Hanson Robotics гиноид (андроид, человекоподобный робот, имеющий женскую внешность) по имени София [13]. София оснащена ИИ, может общаться с людьми на заранее определенные темы, имитировать человеческие жесты, эмоции, а также, по словам создателей, она может анализировать проведенные разговоры, улучшая свои ответы в будущем. Конечно, София еще не может сравниться с настоящим человеком, но ее программное обеспечение постоянно дорабатывается, и в конечном счете компания Hanson Robotics надеется, что София сможет полноценно взаимодействовать с людьми, приобрести необходимые социальные навыки.
Получение подданства Софией активно освещалось в СМИ, а также привело к широкому обсуждению данного события в социальных сетях. Неудивительно, что такое событие породило больше вопросов, чем ответов. Если София является подданной Саудовской Аравии, то имеет ли она право голосовать, вступать в брак, нести установленную законом ответственность? Если Софию необходимо будет навсегда отключить, то можно ли считать такое действие убийством и понесет ли кто-либо за это ответственность?
По нашему мнению, на современном этапе, нецелесообразно наделять электронных лиц всеми правами человека и гражданина, поскольку машины с ИИ еще недостаточно совершенны и не могут технически обслуживать себя без вмешательства человека. А если роботы будут обладать, к примеру, правом на жизнь, личную неприкосновенность, на свободу передвижения, то через некоторые время они выйдут из строя. Однако, стоит отметить, что некоторый объем прав роботам все же необходим. Так, например, важно признать за ИИ авторские права, поскольку в настоящее время, для нас уже не является удивительным то, что роботы создают картины, сочиняют музыку и пишут стихи. Например, в 2016 г. компа-
ния Google провела аукцион, на котором были проданы 29 картин, созданных нейросетями [14].
Необходимо заметить, что согласно нашей концепции, авторскими правами могут обладать лишь те машины с ИИ, которые способны осознавать себя как собственника того или иного произведения, на основании полученного субъективного опыта. На сегодняшний день роботы, оснащенные ИИ, создающие произведения искусства, в понимании человека являются средством создания объекта авторских прав, однако бурное развитие инновационных технологий дает нам надежду на то, что в недалеком будущем машины с ИИ будут являться субъектом авторского права.
Также нельзя не отметить вопросы ответственности электронного лица. За любое ли неправомерное поведение должен нести ответственность робот, обладающий ИИ? По нашему мнению, привлечение его любому виду ответственности возможно, но только в том случае, если неправомерное деяние не было связано с недостатками программирования ИИ, а робот допустил его вследствие самостоятельного осознанного решения.
Можно сделать вывод, что существующее нормативное регулирование закладывает основы будущего статуса электронного лица, принципы его правосубъектности и ответственности. На данный момент эти вопросы не стоят так остро, поскольку нельзя сказать, что существует ИИ, полностью отвечающий требованиям автономности, однако через некоторое время, когда он появится, возникнет и потребность в пересмотре всех существующих «антропоцентричных» правовых систем.
Список литературы
[1] Bostrom N.: Superintelligence: Paths, Dangers, Strategies. [Электронный ресурс]. -URL:https://www.academia.edu/35531486/ Superintelligence_Paths_Dangers_Strategies (дата обращения 20.09.2020).
[2] Schuett, J.: A Legal Definition of AI. URL: https://www.researchgate.net/ publication/335600149_A_Legal_Definition_of_AI (дата обращения 20.10.2020)
[3] European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics [Электронный ресурс] // europarl.europa.eu URL: https:// www.europarl.europa.eu/doceo/ document/A-8-2017-0005_EN.html (дата обращения 20.10.2020)
[4] Указ Президента Российской Федерации от 10.10.2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») //
ОБРАЗОВАНИЕ И ПРАВО № 8 • 2020
Официальный интернет-портал, pravo.gov.ru, 11.10.2019
[5] Artifical intelligence research, development & regulation [Электронный ресурс] // IEEE-USA URL: https://ieeeusa.org/wp-content/ uploads/2017/07/FINALformattedIEEEUSAAIPS.pdf (дата обращения 20.10.2020)
[6] Попова А.В. Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании // Журнал российского права. 2018. № 11. С.14-25. DOI:10.12737/art_2018_11_2
[7] Попова А.В., Абрамова М.Г. Природа природы и онтология человека: к вопросу о новых субъектах права // Российский журнал правовых исследований. 2017. № 1. С. 54-63.
[8] 160 лет суда: В Новой Зеландии реку признали юрлицом [Электронный ресурс] URL: https:// pravo.ru/interpravo/news/view/139034/ (дата обращения 20.10.2020)
[9] Legal Personality of Non Human Beings [Электронный ресурс] URL: https://www.toppr.com/ guides/legal-aptitude/jurisprudence/legal-personality-of-non-human-beings/ (дата обращения 20.10.2020)
[10] Charles Rosen, Nils Nilsson and Bertram Raphael and others, 'Shakey' [1967] [Электронный ресурс] URL: http://cyberneticzoo.com/ cyberneticanimals/1967-shakey-charles-rosen-nils-nilsson-bertram-raphael-et-al-american/ (дата обращения 20.10.2020)
[11] Human Rights Watch, 'World Report 2013: Saudi Arabia' (2013) URL: https://www.hrw.org/world-report/2013/country-chapters/saudi-arabia (дата обращения 20.10.2020)
[12] Filipe M. A. The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control. // SSRN Electronic Journal. - 2017. - 68 p. 10.2139/ ssrn.2985466.
[13] Робот-андроид София стала подданной Саудовской Аравии [Электронный ресурс] // ТАСС. URL: https://tass.ru/ekonomika/4680400 (дата обращения 20.10.2020)
[14] Google распродал 29 нарисованных ней-росетями картин за тысячи долларов [Электронный ресурс] URL: https://tjournal.ru/flood/24038-google-rasprodal-29-narisovannyh-neyrosetyami-kartin-za-tysyachi-dollarov (дата обращения 20.10.2020)
Spisok literatury
[1] Bostrom N.: Superintelligence: Paths, Dangers, Strategies. [Elektronnyi resurs]. URL:https:// www.academia.edu/35531486/Superintelligence_ Paths_Dangers_Strategies (data obrashcheniia 20.09.2020).
[2] Schuett J.: A Legal Definition of AI. URL: https://www.researchgate.net/publica-
ОБРАЗОВАНИЕ И ПРАВО № 8 • 2020
tion/335600149_A_Legal_Definition_of_AI (data obrashcheniia 20.10.2020)
[3] European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics [Elektronnyi resurs] URL: https://www.europarl.europa.eu/doceo/docu-ment/A-8-2017-0005_EN.html (data obrashcheniia 20.10.2020)
[4] Ukaz Prezidenta Rossiiskoi Federatsii ot 10.10.2019 g. № 490 O razvitii iskusstvennogo intell-ekta v Rossiiskoi Federatsii [Elektronnyi resurs] // Ofi-cial'nyj internet-portal, pravo.gov.ru, 11.10.2019
[5] Artifical intelligence research, development & regulation [Elektronnyi resurs] URL: https://ieee-usa.org/wp-content/uploads/2017/07/FINALformatte-dIEEEUSAAIPS.pdf (data obrashcheniia 20.10.2020)
[6] Popova A.V. Novye sub#ekty informacion-nogo obshhestva i obshhestva znanija: k voprosu o normativnom pravovom regulirovanii // Zhurnal rossi-jskogo prava. 2018. № 11. S. 14-25. D0I:10.12737/ art_2018_11_2
[7] Popova A.V., Abramova M.G. Priroda prirody i ontologija cheloveka: k voprosu o novyh sub#ektah prava // Rossijskij zhurnal pravovyh issledovanij. 2017. № 1. S. 54-63.
[8] 160 let suda: V Novoi Zelandii reku priznali iurlitsom [Elektronnyi resurs] URL: https://pravo.ru/ interpravo/news/view/139034/ (data obrashcheniia 20.10.2020)
[9] Legal Personality of Non Human Beings [Elektronnyi resurs] // toppr.com URL: https://www. toppr.com/guides/legal-aptitude/jurisprudence/ legal-personality-of-non-human-beings/ (data obrashcheniia 20.10.2020)
[10] Charles Rosen, Nils Nilsson and Bertram Raphael and others, 'Shakey' [1967] URL: [Elektron-nyi resurs] URL: http://cyberneticzoo.com/cybernetic-animals/1967-shakey-charles-rosen-nils-nilsson-ber-tram-raphael-et-al-american/ (data obrashcheniia 20.10.2020)
[11] Human Rights Watch, 'World Report 2013: Saudi Arabia' (2013) URL: https://www.hrw.org/ world-report/2013/country-chapters/saudi-arabia (data obrashcheniia 20.10.2020)
[12] Filipe M. A. The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control // SSRN Electronic Journal. 2017. 68 p. 10.2139/ ssrn.2985466.
[13] Robot-android Sofiia stala poddannoi Sau-dovskoi Aravii [Elektronnyi resurs] // TASS. URL:https://tass.ru/ekonomika/4680400 (data obrashcheniia 20.10.2020)
[14] Google rasprodal 29 narisovannykh neiros-etiami kartin za tysiachi dollarov vii [Elektronnyi resurs] URL: https://tjournal.ru/flood/24038-google-rasprodal-29-narisovannyh-neyrosetyami-kar-tin-za-tysyachi-dollarov (data obrashcheniia 20.10.2020)
