CC BY
880
ОЛЕГ АЛЕКСАНДРОВИЧ ЯСТРЕБОВ
Юридический институт, Российский университет дружбы народов (РУДН)
117198, Российская Федерация, Москва, ул. Миклухо-Маклая, д. 6
E-mail: [email protected]
SPIN-код: 7824-4837
ORCID: 0000-0003-4943-6940
ПРАВОСУБЪЕКТНОСТЬ ЭЛЕКТРОННОГО ЛИЦА: ТЕОРЕТИКО-МЕТОДОЛОГИЧЕСКИЕ ПОДХОДЫ
Аннотация. Актуальность теоретических исследований правосубъектности электронного лица как инновационного образования обусловлена активным использованием цифровых технологий и робототехники практически во всех сферах общественной жизни, увеличением числа связанных с этим этических и правовых проблем, а также достаточно высокой вероятностью того, что искусственный интеллект сможет принимать решения, логика которых не всегда понятна человеку.
Формирование принципиально нового инструментария правового регулирования обусловлено правовой спецификой электронных лиц, усложняющей понимание юридически значимого поведения. Электронное лицо, обладающее юридическими обязанностями и субъективными правами, является, по сути, комплексом обязанностей и прав, причем содержанием юридических прав и обязанностей являются действия искусственного интеллекта. Последний можно интерпретировать как сложную совокупность коммуникационных и технологических взаимосвязей, обладающую способностью логически мыслить, управлять своими действиями и корректировать свои решения в случае изменения внешних условий.
Права и обязанности электронных лиц могут формироваться в соответствии с моделью, базирующейся на теории Г. Кельзена. С позиций его «чистого учения о праве» электронное лицо можно трактовать как персонифицированное единство норм права, которые обязывают и уполномочивают искусственный интеллект, обладающий критериями «разумности». Электронное лицо может выполнять ряд функций, соответствующих определяемым разработчиком искусственного интеллекта целям, оно предстает как лицо действующее, поскольку на него возлагается обязанность, которую данное лицо может исполнить либо нарушить. В связи с этим возникает вопрос, кто будет нести ответственность за неисполнение данной обязанности — само электронное лицо или разработчик искусственного интеллекта. Так, в настоящее время в России ответственность за неправомерные последствия функционирования промышленных роботов несут их владельцы, производители или операторы.
По аналогии с юридическими лицами электронные лица способны к реализации своей правосубъектности при условии признания их на законодательном уровне субъектами права, действующими на равных основаниях с
другими участниками общественных отношений. Определенные предпосылки наделения электронных лиц правами и обязанностями были заложены в прецедентах, касающихся субъектов права, не принадлежащих к человеческому роду, а также связанных с защитой прав роботов.
Ключевые слова: информация; цифровая действительность; искусственный интеллект; электронное лицо; робот; правосубъектность; объективная ответственность; управление рисками
OLEG A. YASTREBOV
Law Institute, RUDN University
6, Miklukho-Maklaya str., Moscow 117198, Russian Federation E-mail: [email protected] ORCID: 0000-0003-4943-6940
THE LEGAL CAPACITY OF ELECTRONIC PERSONS: THEORETICAL AND METHODOLOGICAL APPROACHES
Abstract. The relevance of theoretical studies on the electronical persons as an innovation is due to the active use of digital technologies and robotics in virtually all spheres of public life, an increase in the number of related ethical and legal problems, and also a fairly high probability that artificial intelligence can make decisions, the logic of which is not always understood by humans.
The formation of a fundamentally new tool for legal regulation is determined by legal specifics of electronic persons, which complicates the understanding of legally significant behavior. An electronic person who has legal duties and subjective rights is, in fact, a set of duties and rights, and the content of legal rights and obligations are the actions of artificial intelligence. The latter can be interpreted as a complex set of communicative and technological interrelations, the result of human activity, able to think logically, manage its actions and correct its decisions in the event of a change in external conditions.
Rights and duties of electronic persons can be determined in accordance with the model, based on the theory of H. Kelsen. From the standpoint of his «pure doctrine of law», an electronic person can be treated as a personified unity of the rules of law, which oblige and authorize an artificial intelligence that has the criteria of «reasonableness». An electronic person can perform a number of functions that correspond to the goals of a particular AI developer. It appears acting, because it is charged with the duty that this person can perform or violate. In this regard, the question arises who will be responsible for the failure to perform this duty — the very electronic person or developer of artificial intelligence. So, at present in Russia responsibility for the illegal consequences of the operation of industrial robots are borne by their owners, producers or operators.
By analogy with legal entities, electronic ones are capable of realizing their legal personality provided they are recognized at the legislative level as subjects
of law acting on an equal basis with other participants in public relations. Certain preconditions for the recognition of electronic persons were laid down in precedents relating to non-human subjects of law or to the protection of the rights of robots.
Keywords: information, digital reality, artificial intelligence, electronic person, robot, legal personality, objective liability, risk management
1. Введение
В современных условиях одним из важных и актуальных направлений исследований является проблематика правосубъектности электронного лица как инновационного образования, что связано с активным использованием цифровых технологий и робототехники практически во всех сферах и возникновением децентрализованных автономных организаций, «управляемых посредством так называемых умных контрактов (smart contracts)»1.
В исследовании одной из крупнейших консалтинговых групп Маккинзи «Будущее, которое работает: автоматизация, трудоустройство и производительность», опубликованном в январе 2017 г., было акцентировано внимание на том, что потенциал для частичной автоматизации и использования искусственного интеллекта присутствует практически во всех видах деятельности2. Такая тенденция отражает глобальную ориентацию не только на внедрение искусственного интеллекта в жизнь социума, но и на экспоненциальный рост связанных с этим этических и правовых проблем, требующих своевременных решений.
Право призвано отражать потребности и направления развития современного «цифрового» общества. Отдельные аспекты
1 См.: Юридические электронные лица. Юрист Антон Вашкевич о будущем децентрализованных автономных организаций // Ведомости. 22 мая 2016. URL: http://www.vedomosti.ru/opinion/articles/2016/05/23/641943-yuridicheskie-elektronnie-litsa (дата обращения: 27.04.2017); Popper N. Ethereum, a Virtual Currency, Enables Transactions That Rival Bitcoin's // The New York Times. 27 March 2016. URL: https://www.nytimes.com/2016/03/28/business/dealbook/ethereum-a-virtual-currency-enables-transactions-that-rival-bitcoins.html?_r=1 (дата обращения: 13.05.2017).
2 Подробнее см.: Manyika J., Chui M, Miremadi M, Bughin J., George K., Willmott P., Dewhurst M. A Future that Works: Automation, Employment, and Productivity. January 2017 // McKinsey Global Institute. URL: https://www.mckinsey. com/~/ media/McKinsey/Global%20Themes/Digital%20Disruption/Harnessing%20 automation%20for%20a%20future%20that%20works/MGI-A-future-that-works_Full-report.ashx (дата обращения: 10.12.2017).
данной проблематики, в частности, вопросы создания беспроводных наноэлектронных устройств, а также «средств прямого беспроводного контакта мозга человека с окружающими его предметами, транспортными средствами и другими людьми» рассматривались в Стратегии развития электронной промышленности России на период до 2025 г., утвержденной приказом Министерства промышленности и энергетики РФ от 7 августа 2007 г. № 3113. Переход к передовым цифровым, интеллектуальным производственным технологиям, в том числе и к внедрению искусственного интеллекта, был зафиксирован в Стратегии научно-технологического развития Российской Федерации, утвержденной Указом Президента РФ от 1 декабря 2016 г.4
В настоящее время искусственный интеллект не может игнорироваться обществом, институтами власти и правом. Британский ученый-физик профессор С. Хокинг в интервью журналу Wired высказывал мысль о том, что наделенные искусственным интеллектом роботы в скором времени могут стать «новой формой жизни»5. В российской юридической литературе акцентировалось внимание на необходимости создания правового базиса для совершенно новых правовых отношений между человеком и искусственно созданным носителем сознания6.
В рамках исследуемой проблематики следует также обратить внимание на возможность интеграции естественно-научного и гуманитарного познания в связи с формированием правовой концепции электронного лица. Разработка данной концепции основана на исследовании категории искусственного интеллекта, базирующейся на всем комплексе естественно-научных, технических, гуманитарных, в том числе и общественно-научных, знаний.
В настоящей статье рассматриваются предпосылки разработки инновационной юридической конструкции, посредством которой электронное лицо может быть включено в правовое поле, и связанные с этим проблемы.
3 Еженедельник промышленного роста. 2007. № 31.
4 СЗ РФ. 2016. № 49. Ст. 6887.
5 См.: Демченко Н. Хокинг рассказал о «новой форме жизни» на базе искусственного интеллекта // РБК. 3 ноября 2017 г. URL: http://www.rbc.ru/technology_ and_media/03/11/2017/ 59fc0ee99a794733e54f0d64? from=main (дата обращения: 03.12.2017).
6 См.: Ужов Ф.В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. C. 357—360.
2. Понятие «электронное лицо» и искусственный интеллект как его базовая составляющая
Введение в научный оборот понятия «электронное лицо» обусловлено прежде всего спецификой принципиально нового субъекта права. Данное понятие призвано отразить его сущность и правовую специфику. При этом можно ориентироваться на понятийный ряд «электронное лицо» — «искусственный интеллект» («электронный индивид») — «робот». Причем искусственный интеллект, носителями которого являются удовлетворяющие определенным критериям роботы, необходимо рассматривать как базовую составляющую электронного лица. Поэтому прежде всего целесообразно обратиться к такой категории, как «искусственный интеллект».
Необходимость философско-правового и онтологического анализа данного термина обусловлена не только фактическим состоянием, но и вполне реальной перспективой будущих модификаций искусственного интеллекта, тем более что фиксируемые проявления правового бытия на физическом уровне вполне можно экстраполировать и на уровень интеллектуально-иррацио-нального7.
В 1956 г. на конференции в Дартмутском университете американский информатик, основоположник функционального программирования Дж. Маккарти определил искусственный интеллект, с одной стороны, как науку и технику создания интеллектуальных машин, а с другой стороны, как умение компьютера делать то, что умеют делать люди, т.е. то, что связано с интеллектом8.
Ученые Российской ассоциации искусственного интеллекта определяют данный термин как «свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека. При этом интеллектуальная система — это техническая или программная система, способная решать задачи, традиционно считающиеся творческими, при-
7 Cм.: Иванский В.П. Методология исследования природы правовой реальности «Я» (Часть I) // Административное право и процесс. 2013. № 12. С. 60— 67; он же. Методология исследования природы правовой реальности «Я» (Часть II) // Административное право и процесс. 2014. № 1. С. 65—71.
8 См.:МсСагЛу J. What is Artificial Intelligence? // Stanford University. URL: https://www-formal.stanford.edu/jmc/whatisai/whatisai.html (дата обращения: 30.04.2017).
надлежащие конкретной предметной области, знания о которой хранятся в памяти такой системы»9.
Это позволяет интерпретировать искусственный интеллект как результат человеческой деятельности, представляющий собой сложную совокупность коммуникационных и технологических взаимосвязей, обладающую способностью логически мыслить, управлять своими действиями и корректировать свои решения в случае изменения внешних условий.
В настоящее время существует два основных подхода к разработке искусственного интеллекта. Семиотический подход ориентирован на создание экспертных систем, баз знаний и систем логического вывода, которые имитируют высокоуровневые психические процессы, такие как мышление, рассуждение, речь, творчество и т.д. Биологический подход предполагает изучение нейронных сетей и эволюционных вычислений, моделирующих интеллектуальное поведение на основе биологических элементов, а также создание соответствующих вычислительных комплексов, таких как нейрокомпьютер или биокомпьютер10.
Следует отметить, что нейронные сети основаны на нейронной активности и строятся по принципу организации и функционирования сетей нервных клеток живого организма. Вид нейронной передачи, характеризующийся прохождением положительно заряженных ионов через клеточные мембраны, встречается даже в самых простейших живых организмах — бактериях, в то время как функционирование современных видов искусственного интеллекта, базирующихся на нейронных сетях, подчиняется движению отрицательно заряженных ионов. Российскими учеными была разработана система Smart Tag, в основе которой лежит алгоритм распознавания речи, функционирующий на основе нейронных сетей11. Новая технология прослушивает и расшифровывает
9 См.: Осипов Г.С. Искусственный интеллект: состояние исследований и взгляд в будущее // Российская ассоциация искусственного интеллекта. URL: http:// www.raai.org/about/ persons/osipov/ pages/ai/ai.html (дата обращения: 01.05.2017).
10 Подробнее см: Copeland J. Artificial Intelligence: A Philosophical Introduction. Oxford, 1993; Гусев С.С. Искусственный интеллект как отражение действительности в XXI веке // Интерактивная наука. 2016. № 1. С. 108—110.
11 См.: Терехов К. Ученые из России научили нейросеть выявлять неэффективную рекламу // Федеральное агентство новостей. 5 октября 2017 г. URL: https://riafan.ru/983297-uchenye-iz-rossii-nauchili-neiroset-vyyavlyat-neeffektivnuyu-reklamu (дата обращения: 11.11.2017).
беседы с клиентами, анализирует вопросы, лексику и структуру разговора и сопоставляет количество обращений в связи с проводимыми рекламными кампаниями, что позволяет выявить степень их эффективности.
Следовательно, доказана, по крайней мере с позиций нейро-биологии, возможность существования принципиально нового механизма бытия, что подтверждает актуальность постановки вопроса о правосубъектности искусственного интеллекта.
Искусственный интеллект в широком смысле может быть уподоблен человеческому с точки зрения как его биологической конструкции, так и полноценной способности к творчеству, субъективности восприятия, возможности отклонения или ошибки, которая считается естественной, поскольку такой интеллект часто сталкивается с абсолютно незнакомыми задачами, в процессе решения которых велика вероятность ошибки или отклонения. А в узком смысле искусственный интеллект может трактоваться как способность анализировать информацию, творить в области, ограниченной конкретными целями и задачами12.
В рамках как широкого, так и узкого понимания искусственного интеллекта весьма интересным представляется вопрос, будет ли абсолютная формализация искусственного интеллекта коррелировать с интеллектом человека, мышление которого не всегда логично, может быть парадоксальным, эмоциональным и т.п.13 Эмоции, непрогнозируемость волеизъявления — неотъемлемые элементы человеческого мышления. Следует отметить, что один из основателей компании Apple С. Возняк на лекции в Московском государственном университете им. М.В. Ломоносова высказал мысль о возможности появления чувства любви у роботов14.
Сложность определения индивидуальности в искусственном интеллекте связана с проблемой «философского зомби» как системы, которая будет достаточно реалистично имитировать человеческое общение, но в то же время не обладать самосознанием
12 См.: Елхова О.И. Онтологическое содержание виртуальной реальности: Дисс. ... докт. филос. наук. Уфа, 2011.
13 См.: Breazeal C. Emotion and Sociable Humanoid Robots // International Journal Human-Computer Studies. 2003. Vol. 59. Issue 1—2. P. 119—155.
14 См.: Ли И. Стив Возняк рассказал о способности компьютеров любить // РБК. 7 октября 2017 г. URL: http://www.rbc.ru/technology_and_media/07/10/2017/5 9d8decf9a79477e5dfc1d1c?from=main (дата обращения: 11.11.2017).
и самоидентификацией. В данном контексте интересно предположение главы Института этики и новых технологий Д. Хьюза о том, что самосознание электронных лиц может проявиться одновременно с наделением их минимальными личностными правами, такими как право быть свободным, право на собственные интересы в жизни, право на рост и самосовершенствование15.
Решением вопроса о критериях самоидентификации и самосознания может стать анализ внутренней сложности искусственного интеллекта, предложенный в теории Дж. Тонони16, в рамках которой сознание понимается как интегрированная информация, создаваемая посредством комплекса элементов, превосходящих по объему сумму сведений, формируемых отдельными элементами исследуемого объекта.
3. Критерии идентификации искусственного интеллекта: философско-правовые подходы
Среди известных научному миру парадигм искусственного интеллекта, позволяющих конкретизировать наиболее значимые его признаки, можно выделить следующие: «интеллект как восприятие» (Ф. Розенблатт17); «интеллект как рефлексия» (М. Мински), согласно которой интеллект фиксируется в случае, когда робот способен конкретизировать способ оперирования объектами и, следовательно, рефлексировать в отношении своей собственной деятельности18; «интеллект как исчисление понятий» (Р. Декарт, Г. Лебниц19), при разработке которой ученые руководствовались намерением установить базовое различие между человеком и животным20; «интеллект как самоиден-
15 См.: Hughes J. Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future. Cambridge, 2004.
16 См.: Tononi G, Boly M., Massimini M, Koch C. Integrated Information Theory: from Consciousness to Its Physical Substrate // Nature Reviews Neuroscience. 2016. Vol. 17. No 7. P. 450—461.
17 См.: Розенблатт Ф. Принципы нейродинамики. Перцептроны и теория механизмов мозга. М., 1965.
18 См.: Minsky M. Steps toward Artificial Intelligence // Proceedings of the IRE. 1961. Vol. 49. Issue 1. P. 8—30; Minsky M. Will Robots Inherit the Earth? // Scientific American. 1994. Vol. 271. No 4. P. 108—113.
19 См.: Нарский И.С. Готфрид Лейбниц. М., 1972.
20 М.М. Макарчук трактует данную парадигму как критерий разумности робота. См.: Макарчук М.М. Об основном отличии искусственного и естествен-
тичность», опирающаяся на признание осознанности действий и способность подвести все свои психические переживания под единое основание сознания. Кроме того, необходимо отметить концепцию интенциональности (Ф. Брентано), ориентированную на выделение критериев различия между физическими и психическими явлениями21. Данная философская концепция как методология освоения цифровой действительности нацеливает прежде всего на намерения актора22. Можно также упомянуть концепцию Д. Деннета, описывающую единую природу рациональности органических агентов и их искусственных функциональных копий23.
В контексте анализа критериев искусственного интеллекта следует учитывать принцип несущественности сознания, суть которого заключается в том, что для реализации конкретного поведенческого акта совершенно не существен опыт осознания этого акта24. Данный принцип можно экстраполировать и на интеллектуальную деятельность, которая ранее считалась традиционно неразрывно связанной с осознанием.
Достаточно интересный набор критериев искусственного интеллекта предложил С.А. Дацюк: технологически такой интеллект должен характеризоваться способностью произвольно выбирать структуры реальности и строить из них континуум, задавать их релевантность и референтное отношение выбранных структур в континууме; способность к воспроизводству алгоритмов имманентной и концептуальной апперцепции и управлению объектно-атрибутивным содержанием при посредстве самосознания; способность осмысления и целеполагания; наконец, он должен быть носителем конструирующего интеллекта и обладать индивидуальностью — свободой воли25.
ного интеллектов // Философия искусственного интеллекта: материалы Всероссийской междисциплинарной конференции. Москва, 17—19 января 2005 г. / Под ред. В.А. Лекторского, Д.И. Дубровского. М., 2005. С. 50-51.
21 См.: Brentano F. Psychology from an Empirical Standpoint / Translated from German by A.C. Rancurello, D.B. Terrell, L.L. McAlister. L.; N.Y., 1973.
22 См.: Мессер А.В. Введение в теорию познания / Пер. с нем. А.А. Франков-ского. М., 2015. С. 85.
23 См.: Dennett D.C. Consciousness Explained. Boston, 1991.
24 См.: Елхов Г.А. Искусственный интеллект и проблема моделирования его самосознания // Молодой ученый. 2014. № 16. С. 200—202.
25 См.: Дацюк С.А. Теория виртуальности. Киев, 2008. URL: http://www.uis. kiev.ua/xyz/tv/tv-book.htm (дата обращения: 13.10.2017).
Среди признаков «разумности» роботов, предложенных в проекте доклада, разработанного при содействии Комитета Европейского парламента по правовым вопросам26, следует выделить приобретаемую автономию посредством датчиков и (или) обмена данными с окружающей средой, способность анализировать данные и адаптировать свое поведение; наличие физической поддержки (оболочки), а также дополнительный критерий — возможность самообучения.
Разработка критериев и технологий, позволяющих оценить уровни сознания и самосознания искусственного интеллекта, в том числе и на основе создания компьютерных эмуляций человеческого мозга, обусловливает возможность постановки вопросов об их праве на неотключение против своей воли; праве на неограниченный и полноценный доступ к собственному цифровому коду; праве на защиту своего цифрового кода от внешнего воздействия; праве на копирование (или не копирование) себя.
В опубликованном 31 мая 2016 г. проекте доклада по вопросу присвоения роботам статуса электронных лиц было отмечено, что «по крайней мере, самые высокотехнологичные автономные роботы должны получить статус электронного лица с конкретными правами и обязанностями... и применять этот статус следует в тех случаях, когда роботы принимают самостоятельные решения или каким-либо иным образом взаимодействуют самостоятельно с третьими лицами»27. Полномочия по регистрации «умных роботов», включающие проведение этической, технической и правовой экспертизы в области робототехники с последующим представлением результатов такой экспертизы иным публичным акторам, было предложено возложить на Агентство по робототехнике и искусственному интеллекту28.
26 Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL) // European Parliament. URL: http://www. europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+COMPARL+PE-582.443+01+DOC+PDF+V0//EN&language=EN (дата обращения: 28.04.2017).
27 Ibid. Para. 31(f).
28 Civil Law Rules on Robotics // European Parliament. URL: http://www. europarl.europa.eu/RegData/etudes/ATAG/2017/599250/EPRS_ATA(2017) 599250_ EN.pdf (дата обращения: 13.05.2017).
4. Предпосылки наделения электронных лиц правами
Потенциальная возможность существования правовых отношений между физическими и электронными лицами обусловливает необходимость разработки регулирующих их норм права.
Определенные предпосылки для наделения электронных лиц правами были заложены в прецедентах, где в качестве субъектов права рассматривались существа, не принадлежащие к человеческому роду. Так, например, в Новой Зеландии законодательно установлено, что животные считаются разумными существами. В США и ряде других стран защита от заточения, экспериментов и жестокого обращения распространяется на отдельные виды животных, включая человекообразных приматов, слонов, китов и дельфинов, причем акцент делается именно на защите их «индивидуальности» и «личности», для которой характерны определенные когнитивные способности, в том числе самосознание.
Действующее российское законодательство предусматривает наказание за жестокое обращение с животными (ст. 245 Уголовного кодекса РФ). А возврат найденного безнадзорного животного прежнему хозяину в соответствии с ч. 2 ст. 231 части первой Гражданского кодекса РФ осуществляется с непременным учетом привязанности самого животного, что в принципе исключает определение животного как вещи.
Несмотря на различия в философских подходах, российские и зарубежные сторонники законодательного наделения животных правами единодушны в том, что животные не должны рассматриваться как объекты частной собственности29 и могут приобретать права как «субъекты жизни»30.
Разумеется, рассуждения о наделении правами субъектов, не принадлежащих к человеческому роду, полезны с точки зрения анализа возможности применения аналогии к рассматриваемой в статье проблематике, однако вряд ли имеет смысл рассуждать об эволюционности правового регулирования в сфере искусствен-
29 См.: Taylor A. Animals and Ethics: An Overview of the Philosophical Debate. Peterborough, 2003; Горохов Д.Б., Горохова Ю.В. Животные и растения — субъекты права по законодательству Российской Федерации: констатация абсурда или научное открытие? // Адвокат. 2016. № 11. С. 5—20.
30 См.: Regan T. Animal Rights, Human Wrongs: an Introduction to Moral Philosophy. N.Y., 2003. P. 101.
ного интеллекта в силу отсутствия в этой области непрерывности и повторяемости, присущих процессу эволюции. К проблемам искусственного интеллекта, вероятно, применима концепция «правового взрыва», описанная, в частности, в трудах Д. Барто-на, М.А. Беляева и др.31 Именно до наступления такого «взрыва» необходимо обсудить вопрос о наделении электронных лиц правами, свободами и защитой, возможно, эквивалентными или в определенной мере коррелирующими с правами, свободами и защитой, предоставляемыми человеку32.
Вопрос о необходимости совершенствования правового регулирования в сфере искусственного интеллекта приобрел актуальность сравнительно недавно. Лишь в XXI в. стали появляться реальные проекты, ориентированные на решение этических вопросов робототехники и различных аспектов ответственности разработчиков роботов как носителей искусственного интеллекта. Анализ зарубежного опыта в данной сфере позволил выявить первый прецедент защиты прав роботов — создание в 1999 г. в США Американского общества за предотвращение жестокости по отношению к роботам (ASPCR)33, миссия которого состоит в том, чтобы гарантировать право на существование, независимость и стремление к знаниям всех искусственно созданных разумных существ, широко известных как «роботы».
В проекте упоминавшегося ранее доклада о присвоении роботам статуса «электронных лиц» было предложено ввести так называемую объективную ответственность в сфере робототехники, т.е. ответственность без наличия вины, либо отдать предпочтение «управлению рисками», когда ответственность возлагается на то лицо, которое было обязано минимизировать риски, причем ответственность должна быть пропорциональна уровню данных роботу инструкций и степени его автономии. Положения об ответственности могут также предусматривать обязательное
31 См.: Barton J.H. Behind the Legal Explosion // Stanford Law Review. 1975. Vol. 27. No 3. P. 567—584; Беляев М.А. Модель развития права: от эволюции к «взрыву» // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2016. № 3. С. 12.
32 См.: Хижняк Н. Когда роботы и ИИ заслужат человеческих прав? // Новости высоких технологий. 7 июня 2017 г. URL: https://hi-news.ru/technology/ kogda-roboty-i-ii-zasluzhat-chelovecheskix-prav.html (дата обращения: 07.10.2017).
33 См.: Болотов К. Американское общество уже защищает права роботов // Membrana. Люди. Идеи. Технологии. 6 ноября 2003 г. URL: http://www.membrana. ru/particle/2697 (дата обращения 18.02.2015).
страхование для пользователей роботов34. В январе 2017 г. Комитет Европейского парламента по правовым вопросам представил доклад, содержащий предложение включить в законодательство ЕС понятие «умный робот» и разработать систему регистрации таких роботов35.
Очевидно, что нельзя останавливаться лишь на выдвижении гипотез, предложений и проведении дискуссий, поскольку уже есть примеры причинения вреда человеку автономными роботами, и совершенно ясно, что такие ситуации будут возникать и в дальнейшем.
Достаточно высокая вероятность того, что искусственный интеллект сможет принимать решения, логика которых не всегда понятна человеку, обусловливает стремление ученых и практиков к регламентации вопросов, связанных с электронными лицами, искусственным интеллектом, и к совершенствованию правового регулирования робототехники в России и за рубежом36.
5. Концепция правосубъектности электронного лица в свете учения Г. Кельзена
Необходимо отметить, что в правовой науке наряду с подходом, отрицающим существование электронных лиц как субъектов права, формируется концепция, исходящая из реальности существования электронных лиц как действительных субъектов права, что обусловливает необходимость разработки юридической конструкции, посредством которой электронное лицо может быть включено в правовое поле.
Для этого полезно обратиться к теории Г. Кельзена. Согласно его «чистому учению о праве» «быть лицом» или «обладать правосубъектностью» — это значит иметь юридические обязанности и субъективные права. «Чистое учение о праве» объясняет понятие лица — субъекта права как персонифицированное единство комплекса правовых норм, предусматривающих юридические
34 Civil Law Rules on Robotics.
35 Report with Recommendations to the Commission on Civil Law Rules on Robotics (2015/2103 (INL)) // European Parliament. http://www.europarl. europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+REPORT+A8-2017-OOO5+O+DOC+PDF+VO//EN (дата обращения 14.11.2017).
36 См., например: Calo R. Robotics and the Lessons of Cyberlaw // California Law Review. 2015. Vol. 103. No 3. P. 513—563.
обязанности и субъективные права, имеющие своим содержанием определенное поведение (действия)37. Таким образом, субъект права — это не природная реальность, а «создаваемая правоведением конструкция... для описания юридически значимых фактических составов»38. Следовательно, электронное лицо, рассматриваемое как субъект права, является, по существу, комплексом юридических обязанностей и прав, причем содержанием этих обязанностей и прав являются действия искусственного интеллекта.
Обозначая проблемное поле, связанное с возможностью и целесообразностью наделения электронных лиц правосубъектностью, необходимо отметить, что при формировании понятия электронного лица можно применить разработанные автором концептуальные алгоритмы исследования понятия юридического лица39. Электронные лица могут быть признаны субъектами права при условии признания на законодательном уровне за ними определенных прав и обязанностей.
Электронное лицо выполняет ряд функций, соответствующих определяемым его разработчиками целям. Таким образом, оно предстает как лицо действующее, на него возлагается обязанность, которую данное лицо может исполнить либо нарушить. Возникает вопрос, кто будет нести ответственность за неисполнение данной обязанности — само электронное лицо или разработчик искусственного интеллекта.
Необходимость научной и практической разработки данной проблемы подтверждает тенденция возрастания автономности искусственного интеллекта, а также увеличение числа случаев гибели людей в результате «принятия решений» таким интеллектом. В качестве примера можно привести дорожно-транспортное происшествие в США в результате неправильной оценки ситуации автопилотом Tesla, когда произошло столкновение автомобиля с фурой и погиб водитель, не успевший взять управление на себя40.
37 См.: Кельзен Г. Чистое учение о праве. 2-е изд. / Пер. с нем. М.В. Антонова, С.В. Лёзова. СПб., 2015. С. 212—219.
38 Там же. С. 219.
39 См.: Ястребов О.А. Юридическое лицо публичного права: вопросы теории. М., 2010.
40 См.: Агаджанов М. Авария Tesla со смертельным исходом: кто виноват и что делать дальше? // Geektimes. 6 июля 2016 г. URL: https://geektimes.ru/ post/278154/ (дата обращения: 12.05.2017).
В этой связи следует заметить, что основатель Tesla И. Маск утверждал, что ни дорожно-транспортные происшествия, ни авиакатастрофы, ни отсутствие лекарств или некачественная еда не способны сравниться по уровню опасности с развитием искусственного интеллекта, и призывал ввести государственный контроль за внедрением соответствующих технологий41.
В требованиях к проектированию, разработке и производству данного класса промышленных роботов, в частности, зафиксировано, что при разработке (проектировании) машины и (или) оборудования должны быть идентифицированы возможные виды опасности на всех стадиях жизненного цикла42. В настоящее время в России ответственность за неправомерные последствия функционирования промышленных роботов несут их владельцы, производители или операторы.
6. Заключение
Итак, следуя «чистому учению о праве» Г. Кельзена, электронное лицо можно трактовать как персонифицированное единство норм права, которые обязывают и уполномочивают искусственный интеллект (электронный индивид), обладающий критериями «разумности».
Исследование проблематики правосубъектности электронных лиц подтверждает необходимость формирования принципиально нового инструментария правового регулирования, что связано со спецификой электронных лиц, характеризующейся прежде всего трудностями локализации их юридически значимого поведения.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
Беляев М.А. Модель развития права: от эволюции к «взрыву» // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2016. № 3. С. 9—20.
Горохов Д.Б., Горохова Ю.В. Животные и растения — субъекты права по законодательству Российской Федерации: констатация абсурда или научное открытие? // Адвокат. 2016. № 11. С. 5—20.
41 См.: Кеффер Л. Илон Маск назвал искусственный интеллект угрозой человечеству // Коммерсант. 2017. 17 июля. URL: https://www.kommersant.ru/ doc/3359613 (дата обращения: 17.08.2017).
42 См.: ГОСТ 12.2.072-98 «Роботы промышленные. Роботизированные технологические комплексы. Требования безопасности и методы испытаний». URL: http://gostexpert.ru/gost/gost-12.2.072-98 (дата обращения: 24.10.2017).
Гусев С.С. Искусственный интеллект как отражение действительности в XXI веке // Интерактивная наука. 2016. № 1. С. 108—110. DOI: 10.21661/r-16488
Дацюк С.А. Теория виртуальности. Киев, 2008. URL: http://www.uis. kiev.ua/xyz/tv/tv-book.htm (дата обращения: 13.10.2017).
Елхов Г.А. Искусственный интеллект и проблема моделирования его самосознания // Молодой ученый. 2014. № 16. С. 200—202.
Елхова О.И. Онтологическое содержание виртуальной реальности: Дисс. ... докт. филос. наук. Уфа: Башкирский государственный университет, 2011.
Иванский В.П. Методология исследования природы правовой реальности «Я» (Часть I) // Административное право и процесс. 2013. № 12. С. 60—67.
Иванский В.П. Методология исследования природы правовой реальности «Я» (Часть II) // Административное право и процесс. 2014. № 1. С. 65—71.
Кельзен Г. Чистое учение о праве. 2-е изд. / Пер. с нем. М.В. Антонова, С.В. Лёзова. СПб.: Алеф-Пресс, 2015.
Макарчук М.М. Об основном отличии искусственного и естественного интеллектов // Философия искусственного интеллекта: материалы Всеротеийской междисциплинарной конференции. Москва, 17—19 января 2005 г. / Под ред. В.А. Лекторского, Д.И. Дубровского. М.: ИФ, 2005. С. 50—51.
Мессер А.В. Введение в теорию познания / Пер. с нем. А.А. Франков-ского. М.: URSS; КомКнига, 2015.
Нарский И.С. Готфрид Лейбниц. М.: Мысль, 1972.
Осипов Г.С. Искусственный интеллект: состояние исследований и взгляд в будущее // Российская ассоциация искусственного интеллекта. URL: http://www.raai.org/about/persons/osipov/pages/ai/ai.html (дата обращения: 01.05.2017).
Розенблатт Ф. Принципы нейродинамики. Перцептроны и теория механизмов мозга. М.: Мир, 1965.
Ужов Ф.В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. C. 357—360.
Ястребов О.А. Юридическое лицо публичного права: вопросы теории. М.: Наука, 2010.
Barton J.H. Behind the Legal Explosion // Stanford Law Review. 1975. Vol. 27. No. 3. P. 567—584.
Breazeal C. Emotion and Sociable Humanoid Robots // International Journal Human-Computer Studies. 2003. Vol.59. Issue 1—2. P. 119—155. DOI:10.1016/S1071-5819(03)00018-1
Brentano F. Psychology from an Empirical Standpoint / Translated from German by A.C. Rancurello, D.B. Terrell, L.L. McAlister. London; New York: Routledge and Kegan Paul; Humanities Press, 1973.
Calo R. Robotics and the Lessons of Cyberlaw // California Law Review.
2015. Vol. 103. No. 3. P. 513—563.
Copeland J. Artificial Intelligence: A Philosophical Introduction. Oxford: Blackwell Publishers Ltd, 1993.
DennettD.C. Consciousness Explained. Boston: Little, Brown and Co., 1991. Hughes J. Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future. Cambridge: Westview Press, 2004.
Manyika J., Chui M, Miremadi M, Bughin J., George K, Willmott P., Dewhurst M. A Future that Works: Automation, Employment, and Productivity. January 2017 // McKinsey Global Institute. URL: https://www.mckinsey.com/-/ media/McKinsey/Global%20Themes/Digital%20Disruption/Harnessing%20 automation%20for%20a%20future%20that%20works/MGI-A-future-that-works_Full-report.ashx (дата обращения: 10.12.2017).
McCarthy J. What is Artificial Intelligence? Stanford University. URL: https://www-formal.stanford.edu/jmc/whatisai/whatisai.html (дата обращения: 30.04.2017).
Minsky M. Steps toward Artificial Intelligence // Proceedings of the IRE. 1961. Vol. 49. Issue 1. P. 8—30.
Minsky M. Will Robots Inherit the Earth? // Scientific American. 1994. Vol. 271. No. 4. P. 108—113.
Regan T. Animal Rights, Human Wrongs: An Introduction to Moral Philosophy. New York: Rowman & Littlefield Publishers, 2003.
Taylor A. Animals and Ethics: An Overview of the Philosophical Debate. Peterborough: Broadview Press, 2003.
Tononi G, Boly M, Massimini M, Koch C. Integrated Information Theory: from Consciousness to Its Physical Substrate // Nature Reviews Neuroscience.
2016. Vol. 17. No. 7. P. 450—461. DOI: 10.1038/nrn.2016.44
REFERENCES
Barton, J.H. (1975). Behind the Legal Explosion. Stanford Law Review, 27(3), pp. 567—584.
Beljaev, M.A. (2016). Model' razvitiya prava: ot evolyutsii k «vzryvu» [Model of Legal Progress: from "Evolution" to "Explosion"]. Vestnik Rossiisk-ogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki [RUDN Journal of Law], (3), pp. 9—20. (in Russ.).
Breazeal, C. (2003). Emotion and Sociable Humanoid Robots. International Journal Human-Computer Studies, 59(1—2), pp. 119—155. D0I:10.1016/S1071-5819(03)00018-1
Brentano, F. (1973). Psychology from an Empirical Standpoint. Translated from German by A.C. Rancurello, D.B. Terrell and L.L. McAlister. London; New York: Routledge and Kegan Paul; Humanities Press. [Germ. ed.: Brentano, F. (1924). Psychologie vom empirischen Standpunkt: mit neuen Abhandlungen aus dem Nachlass. Von der Klassifikation der psychischen Phänomene. Leipzig: F. Meiner].
Calo, R. (2015). Robotics and the Lessons of Cyberlaw. California Law Review, 103(3), pp. 513—563.
Copeland, J. (1993). Artificial Intelligence: A Philosophical Introduction. Oxford: Blackwell Publishers Ltd.
Datsyuk, S.A. (2008). Teoriya virtual'nosti [Theory of Virtuality] [e-book] Kiev. Available at: http://www.uis.kiev.ua/xyz/tv/tv-book.htm [Accessed 13 October 2017]. (in Russ.).
Dennett, D.C. (1991). Consciousness Explained. Boston: Little, Brown and
Co.
Elkhov, G.A. (2014). Iskusstvennyi intellekt i problema modelirovani-ya ego samosoznaniya [Artificial Intelligence and the Problem of Modeling its Self-Awareness]. Molodoi uchenyi [Young Scientist], (16), pp. 200—202. (in Russ.).
Elkhova, O.I. (2011) Ontologicheskoe soderzhanie virtual'noi real'nosti [The Ontological Content of Virtual Reality]. The Doctorate in Philosophy Thesis. Ufa: Bashkir State University. (in Russ.).
Gorokhov, D.B. and Gorokhova, Y.V. (2016). Zhivotnye i rasteniya — sub'ekty prava po zakonodatel'stvu Rossiiskoi Federatsii: konstatatsiya absurda ili nauchnoe otkrytie? [Animals and Plants as Legal Personalities according to the Legislation of the Russian Federation: the Statement of Absurdity or the Scientific Discovery?]. Advokat [Lawyer], (11), pp. 5—20. (in Russ.).
Gusev, S.S. (2016). Iskusstvennyi intellekt kak otrazhenie deistvitel'nosti v XXI veke [Artificial Intelligence as a Reflection of Reality in the Twenty-first Century]. Interaktivnaya nauka [Interactive Science], (1), pp. 108—110. (in Russ.). DOI: 10.21661/r-16488
Hughes, J. (2004). Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future. Cambridge: Westview Press.
Ivanskij, V.P. (2013). Metodologiya issledovaniya prirody pravovoi real'nosti "Ya" (Chast' I) [Methodology of Study of the Nature of Legal Reality "Me" (Part I)]. Administrativnoepravo iprotsess [Administrative Law and Procedure], (12), pp. 60—67. (in Russ.).
Ivanskij, V.P. (2014). Metodologiya issledovaniya prirody pravovoi real'nosti "Ya" (Chast' II) [Methodology of Study of the Nature of Legal Reality "Me" (Part II)]. Administrativnoe pravo i protsess [Administrative Law and Procedure], (1), pp. 65—71. (in Russ.).
Kelsen, H. (1960). Reine Rechtslehre [Pure Theory of Law]. 2nd ed. Vienna: Franz Deuticke. (in Germ.). [Russ. ed.: Kelsen, H. (2015). Chistoe uchenie o prave. Translated from German by M. Antonov and S. Loesov. St. Petersburg: Alef Press Publ.].
Makarchuk, M.M. (2005). Ob osnovnom otlichii iskusstvennogo i estest-vennogo intellektov [The Main Differences between Artificial and Natural Intelligences]. In: V.A. Lektorskii and D.I. Dubrovskii, eds. Filosofiya iskusstvennogo intellekta: materialy Vserosciiskoi mezhdistsiplinarnoi konferentsii, Moskva, 17-19yanv. 2005g. [Philosophy of Artificial Intelligence: The Materials of the All-Russia Interdisciplinary Conference. Moscow, 17—19 January 2005]. Moscow: IF. pp. 50—51. (in Russ.).
Manyika, J., Chui, M., Miremadi, M., Bughin, J., George, K., Willmott, P. and Dewhurst, M. (2017). A Future that Works: Automation, Employment, and Productivity. McKinsey Global Institute [online] Available at: https://www. mckinsey.com/-/ media/McKinsey/Global%20Themes/Digital%20Disrup-tion/Harnessing%20automation%20for%20a%20future%20that%20works/ MGI-A-future-that-works_Full-report.ashx [Accessed 10 December 2017].
McCarthy, J. What is Artificial Intelligence? [online] Stanford University. Available at: https://www-formal.stanford.edu/jmc/whatisai/whatisai.html [Accessed: 30 April 2017].
Messer, A.W. (1909). Einführung in die erkenntnistheorie [An Introduction to Epistemology]. Leipzig: Der Dürr'schen Buchhandlung. (in Germ.). [Russ. ed.: Messer, A.W. (2015). Vvedenie v teoriyupoznaniya. Translated from German A.A. Frankovskii. Moscow: URSS; KomKniga]. (in Russ.).
Minsky, M. (1961). Steps toward Artificial Intelligence. Proceedings of the IRE, 49(1), pp. 8—30.
Minsky, M. (1994). Will Robots Inherit the Earth? Scientific American, 271(4), pp. 108—113.
Narskii, I.S. (1972). GotfridLeibnits [Gottfried Leibniz]. Moscow: Mysl'. (in Russ.).
Osipov, G.S. Iskusstvennyi intellekt: sostoyanie issledovanii i vzglyad v budu-shchee [The Artificial Intelligence: State of Research and Prospection] [online] Rossiiskaya assotsiatsiya iskusstvennogo intellekta [The Russian Association of Artificial Intelligence]. Available at: http://www.raai.org/about/persons/osipov/ pages/ai/ai.html [Accessed: 1 May 2017]. (in Russ.).
Regan, T. (2003). Animal Rights, Human Wrongs: An Introduction to Moral Philosophy. New York: Rowman & Littlefield Publishers.
Rosenblatt, F. (1962). Principles of Neurodynamics. Perceptrons and the Theory of Brain Mechanisms. Washington: Spartan Books. [Russ. ed.: Rosenblatt, F. (1965). Printsipy neirodinamiki. Pertseptrony i teoriya mekhanizmov mozga. Translated from English. Moscow: Mir].
Taylor, A. (2003). Animals and Ethics: An Overview of the Philosophical Debate. Peterborough: Broadview Press.
Tononi, G., Boly, M., Massimini, M. and Koch, C. (2016). Integrated Information Theory: from Consciousness to Its Physical Substrate. Nature Reviews Neuroscience, 17(7), pp. 450—461. DOI: 10.1038/nrn.2016.44
Uzhov, F.V. (2017). Iskusstvennyi intellekt kak sub'ekt prava [Legal Personality of Artificial Intelligence]. Probely v rossiiskom zakonodatel'stve [Gaps in Russian Legislation], (3), pp. 357—360. (in Russ.).
Yastrebov, O.A. (2010). Yuridicheskoe litso publichnogo prava: voprosy teo-rii [The Legal Entity of Public Law: Theory Issues]. Moscow: Nauka. (in Russ.).
СВЕДЕНИЯ ОБ АВТОРЕ:
Ястребов Олег Александрович — доктор юридических наук, доктор экономических наук, профессор, заведующий кафедрой административного и финансового права, директор Юридического института Российского университета дружбы народов (РУДН).
AUTHOR'S INFO:
Oleg A. Yastrebov — Doctor of Legal Sciences, Doctor of Economics, Professor, Chair of Аdministrative and Financial Law Department, Director of Law Institute, RUDN University.
ДЛЯ ЦИТИРОВАНИЯ:
Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН / Proceedings of the Institute of State and Law of the RAS. 2018. Том. 13. № 2. С. 36—55.
CITATION:
Yastrebov, O.A. (2018). The Legal Capacity of Electronic Person: Theoretical and Methodological Approaches. Trudy Instituta gosudarstva i prava RAN — Proceedings of the Institute of State and Law of the RAS, 13(2), pp. 36—55.
