CC BY
417• ПРЕДСТАВЛЯЕМ ЮРИДИЧЕСКИЕ ВУЗЫ РОССИИ -ЮРИДИЧЕСКАЯ ШКОЛА ДАЛЬНЕВОСТОЧНОГО ФЕДЕРАЛЬНОГО УНИВЕРСИТЕТА •
Р.И. Дремлюга, R.I. Dremliuga,
кандидат юридических наук, доцент Candidat of Law, Associate Professor of Юридической школы Дальневосточного School of Law of Far Eastern Federal федерального университета University
О.А. Дремлюга, O.A. Dremliuga
младший научный сотрудник Researcher Far Eastern Federal University Дальневосточного федерального университета
Искусственный интеллект — субъект права: аргументы за и против*
X Л—,««: стать, „на анализу проблемы признания систем искусственного интеллекта
§ субъектами права. Отмечается, что существуют аргументы как в поддержку установления право-
^ субъектности интеллектуальных систем, так и аргументы против. Подтверждается, что спор о право-
Sg субъектности искусственного интеллекта давно перестал быть предметом только научной дискуссии
® и включен в политическую повестку стран Северной Америки и Западной Европы. Обосновывается
щ утверждение о том, что в настоящий момент не существует объективных критериев для признания или
5 отказа в признании чего-либо субъектом права. Авторы приходят к выводу, что формально искусственный интеллект может быть признан субъектом права по аналогии с правосубъектностью юридического
^ лица. Благодаря существующим различиям между свойствами человека и интеллектуальной системы у
^ человечества не возникает обязательства по поводу признания таких систем субъектом права.
jS Ключевые слова: правосубъектность искусственного интеллекта, право высоких технологий,
5 субъект права. §
- Artificial intelligence — a legal person: the
¡j arguments for and against
о
® Abstract: the article is devoted to the analysis of the problem of recognition of artificial intelligence
systems as a legal person. It is noted that there are arguments both in support of establishing the legal personhood of intellectual systems, and arguments against. It is confirmed that the dispute about the legal personhood of artificial intelligence is not only subject of scientific discussion because it is included in the 120 political agenda of the countries of North America and Western Europe. The work sustains the fact that
- nowadays there are no objective criteria for recognition or refusing to recognize anything as a legal person.
The author comes to the conclusion that artificial intelligence can be formally recognized as a legal person ^ by analogy with the legal personhood of a corporation. Due to the existing differences between the properties of human being and AI, humanity does not have an obligation to recognize such systems as a legal person. Keywords: the legal personhood of artificial intelligence, the high technology law, a legal person.
Правосубъектность человека общепризнанно считается чем-то естественным. Поскольку право — создание человеческого разума, оно сформировано с учетом человеческих способностей и качеств. Антропоцентрическая
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16129.
система нормативных правил разрабатывалась на протяжении веков и основывалась на человеческих потребностях и характеристиках, таких как способность чувствовать, умение намереваться и возможность осознавать происходящее. Основные аргументы против признания систем искусственного интеллекта (далее — ИИ) субъектами права сосредоточены вокруг отсутствия у них некоторых критических элементов правосубъектности, присущих человеку. Некоторые авторы определяют такие основания, как: «аргументы отсутствия чего-либо» (англ. the missing something arguments) [1, c. 1262].
Логика исследователей, выступающих против предоставления системам искусственного интеллекта правосубъектности, проста. ИИ не обладает су- s щественными для субъектности качествами (душа, сознание, чувства, умение 45 намереваться, желания, интересы и т.п.). Если ИИ демонстрирует поведение, R которое может быть свидетельством перечисленных качеств, это означает, S что система имитирует поведение человека, «но симуляция вещи — это не -с сама вещь» [1, с. 1262]. Подобные аргументы доминируют в исследователь- S ских работах как доказательства против признания интеллектуальных систем I субъектами моральных или юридических правил [2—4]. | Сторонники наделения интеллектуальных систем правосубъектностью g чаще всего проводят аналогию с юридическими лицами, животными, детьми или недееспособными людьми [5—7]. Юридические лица, дети и недееспо- „ собные люди являются общепризнанными юридическими лицами. Они ¡^ могут иметь права и обязанности, но в большинстве современных правовых | систем круг их прав и обязанностей существенно ограничен. Несмотря на а борьбу за признание прав животных1 [8; 9], признание их правосубъектно- "S сти пока в процессе. Хотя за рубежом известны прецеденты2, когда вопрос S о правосубъектности животных решался положительно, но в целом они не -о признаются носителями прав и обязанностей [6, с. 489]. f Спор о правосубъектности искусственного интеллекта существует не | только на страницах научных журналов. Данный вопрос рассматривается, S например, в рекомендациях комиссии по гражданскому праву Европейского S парламента, где сказано: «В конечном счете, автономия роботов ставит вопрос об их природе в свете существующих правовых категорий — о том, следует ли их рассматривать как физических лиц, юридических лиц, животных или | других существующих субъектов права, или же следует создавать новую категорию с ее собственными особенностями и принимаемыми последствиями 121
в контексте распределения прав и обязанностей, включая ответственность за -
ущерб» [10]. Несмотря на то, что данный документ не является юридически
обязывающим, он наглядное свидетельство того, что вопрос о правосубъ- ^ ^
ектности искусственного интеллекта включен в политическую повестку ¿j ¿3
Евросоюза. f f
Другой документ, который рассматривает вопрос правосубъектности ин- | g
теллектуальных систем, — «Руководство по международному гуманитарному 2 3
3
о
1 См., напр.: NONHUMAN RTS. PROJECT. URL: http://www.nonhumanrightsproject.org
2 Аргентинский судья признал шимпанзе Сесилу субъектом права см.: Fraundorfer M. The Rediscovery of Indigenous Thought in the Modern Legal System: The Case of the Great Apes // Global Policy. 2018. № 9.1). P. 17-25.
праву» Министерства обороны США. Его статья «Обязательства о различии и пропорциональности, применимые к лицам, а не к оружию» гласит, что «закон войны не требует, чтобы оружие определяло правомерность своих действий, даже если оно может быть охарактеризовано как способное принимать юридически значимые решения, например, начинать ли стрелять или выбирать и поражать цель» [11]. Некоторые исследователи считают это признаком того, «что роботизированное оружие никогда не станет субъектом права» [7, с. 285], но данное руководство является лишь официальным толкованием норм международного гуманитарного права. Как и любое другое толкование норм международного права, оно может развиваться со временем [12—13]. В целом, существующее официальное толкование не исключает возможности признания правосубъектности «умной машины» в будущем.
В уголовном праве споры о правосубъектности ведутся еще ожесточеннее. С точки зрения государства, уголовное право является крайне значимой частью права, т.к. касается наиболее серьезных случаев нарушения социальных норм. Если преступление совершено, государство имеет право и обязано вмешиваться, несмотря на желание правонарушителя и жертвы. .о Что касается системы ИИ, может ли она нести ответственность и наказы-$5 ваться? Главный сторонник уголовной ответственности ИИ считает, что может.
В книге «Ответственность за преступления с использованием систем искусствен-о; ного интеллекта» автор проводит аналогию с понятием уголовной ответственности оа юридических лиц. Поскольку такая юридическая фикция, как правосубъект-оа ность юридического лица, может существовать в уголовном праве1, аналогичная [Ъ схема должна быть применена и к интеллектуальным системам. В соответствии
5 с мнением исследователя ИИ может отвечать всем основным требованиям для д того, чтобы привлекаться к уголовной ответственности [14]. ¡5 Кроме того, автор предлагает систему наказаний, которая будет приме-§ нима в случае ИИ, и даже предполагает, что было бы возможно применить § меру лишения свободы к интеллектуальному программному и аппаратному о; обеспечению. Исследователь приходит к выводу о том, что, «учитывая при-ВД роду наказания посредством тюремного заключения, практическое действие, и которое может привести к тем же последствиям, что и тюремное заключение, [Ъ когда оно применяется к системе ИИ, заключается в выводе системы ИИ из строя на определенный период. В течение этого периода никакие действия, 122 связанные со свободой ИИ, не допускаются, и, следовательно, его (искус- ственного интеллекта) свобода ограничена» [14, с. 197].
Несмотря на резкую критику перечисленных идей, почти в каждой 2 статье, касающейся правосубъектности ИИ, читатель может найти, по ® крайней мере, одно бесспорное утверждение в работах упомянутого автора. ^ Фактически, если какая-то правовая система решает признать что-то или кого-либо в качестве субъекта права, то никаких оснований не позволять этого делать нет. История знает множество примеров, когда идолы или географические объекты [7, с. 280] признавались субъектами права. Формально
1 Уголовная ответственность юридических лиц существует в уголовном праве Австралии, Бельгии, Великобритании, Дании, Израиля, Канады, КНР, США, Франции и др. В России юридические лица не являются субъектами уголовного права.
по крайней мере одна интеллектуальная система получила статус субъекта права в Саудовской Аравии1. Как справедливо отмечает один зарубежный исследователь, «когда правовая система предоставляет юридические права и обязанности юридическому лицу, она решает обращаться с этим юридическим лицом так, как если бы оно было физическим лицом. Это своего рода правило притворства, согласно которому правовые системы могут принять решение о правосубъектности какого-либо объекта, независимо от того, является ли он действительно субъектом» [7, ^ 278]. Это не значит, что одной декларации достаточно, но это значит, что не существует списка критериев признания или не признания чего-либо субъектом права. -
Основанием для признания чего-либо субъектом права могли бы стать
о
правила морали. Поскольку закон и мораль являются средствами социального §
СП
контроля, они тесно связаны между собой. Это не означает, что оба социальных регулятора должны коррелировать друг с другом, но, по крайней мере, ? законодатель должен принимать во внимание нормы моральности. Аморальная норма права, вероятно, будет часто нарушаться. Например, с середины 1960-х | гг. некоторая литература была запрещена в советских странах, но люди ча- § сто копировали ее, переписывая и передавая от человека к человеку. Таким § образом, они нарушали уголовно-правовую норму, потому что считали, что | закон не соответствовал нормам морали (речь идет о самиздате). Более того, приведенный выше анализ взглядов противников и сторонников правосубъ- ?
X
ектности ИИ показывает, что доводы часто находятся в сфере морали. §
Похоже, что два главных вопроса в сфере морали заключаются в том, имеет ли человек моральное обязательство предоставлять ИИ правосубъектность и П может ли ИИ быть субъектом норм морали. Некоторые авторы предпочитают полагаться на очень широкую концепцию круга субъектов моральных норм, который может включать и роботов. Так, один из исследователей считает, 2 что когда мы исключаем роботов, способных к социальному общению, из §
01 ■О
общепринятой концепции субъектов морали, это аналогично тому, как мы ~
ущемляли бы права какой-либо группы людей «из-за их расы, их религиоз- ®
ности, их функциональности или даже их пола» [15, c. 385]. Возможно, этот а
комментарий слишком эмоциональный, но он демонстрирует, что люди склон- о
ны декларировать свои моральные обязательства перед роботами. §
Проблема состоит в том, что мораль, как и закон, вытекает из человеческих возможностей, ограничений и особенностей. Этика и мораль — это 123
набор социальных правил, основанных на человеческой системе ценностей. -
Моральные правила часто проистекают из наших потребностей, страхов и
т.д. Аморально «выключать» человека, потому что вы не можете «включить» ä^ s
его после этого. Некоторые авторы наблюдают, что все современные теории ab
"О о
этики (деонтологическая этика, консеквенциализм или утилитаризм, эти- g g
ка добродетели) антропоцентричны. «Даже недавние нововведения в сфере | |
экологической этики и прав животных несмотря на то, что они кажутся 3 „3 менее антропоцентричными, по-прежнему прочно основываются на наших собственных человеческих интересах» [16, c. 51].
1 Everything You Need To Know About Sophia, The World's First Robot Citizen, Forbes Official site, https://www. forbes.com/sites/zarastone/2017/11/07/everything-you-need-to-know-about-sophia-the-worlds-first-robot-citizen/
Необходимо отметить, что преимущественно компании по признанию субъектом права некоторых групп людей или животных основываются на сходстве этих групп с субъектами, уже имеющих правосубъектность. Например, борцы за правосубъектность шимпанзе часто апеллируют к тому факту, что эти животные обладают некоторыми качествами людей, такими как интеллект или автономия. Некоторые авторы полагают, что сходство подразумевает, что шимпанзе могут быть признаны как субъектами моральных норм, так и субъектами права [8, с. 494].
Обсуждение проблем морали и ИИ приводит к нескольким выводам. Во-первых, в силу того, что современные системы ИИ не имеют достаточно общих с людьми характеристик, у нас нет морального обязательства признавать их субъектами права. Во-вторых, нет оснований предполагать, что это невозможно в будущем. Еще в 1992 г. некоторые исследователи заявляли: «Если бы ИИ вели себя внешне правильно и если бы когнитивная наука подтвердила, что основные процессы, порождающие такое поведение, были бы относительно похожи на процессы в человеческом разуме, у нас была бы очень веская причина относиться к ИИ как к субъектам моральных и юри-jj дических норм. Более того, в будущем, когда мы будем взаимодействовать j¡5 с подобными ИИ, мы будем вынуждены уточнить нашу концепцию правосубъектности» [1, с. 1286]. о; Подводя итог, можно сделать вывод, что потенциально ИИ может быть § субъектом права. Люди не имеют морального обязательства предоставлять § юридическую личность интеллектуальным системам, потому что они имеют I мало общего с человеком, но некоторые государства формально могут это J. сделать. Опыт, связанный с наделением правосубъектностью юридических g лиц, показывает нам, что соответствующие юридические конструкции для g признания ИИ субъектом права уже существуют. х
g Список литературы:
С 1. Solum, B.L. Legal Personhood for Artificial Intelligences // North Carolina Law
* Review. Volume 70. - № 4. - 1992.
g 2. Etzioni, A. Incorprating Ethics into Artificial Intelligence / А. Etzioni, О. Etzioni
§ // Journal of Ethics. - 2017. - № 21(4). - P. 403-418.
3. Asaro, P. Robots and responsibility from a legal perspective // The IEEE conference on robotics and automation, 2007. - URL: http://www.peterasaro.org/writing/ASAR0%20 Legal%20Perspective.pdf 124 4. Danaher, J. The rise of the robots and the crisis of moral patiency // AI & Society, - 2017. - P. 1-8.
^ 5. Koops, B.J. Bridging the accountability gap: rights for new entities in the information
^ society / B.J. Koops, M. Hildebrandt, D.O. Jaquet-Chiffelle // Minnesota Journal of Law, ® Science & Technology. - Vol. 11. - № 2. - 2010. - P. 497-561.
6. Solaiman, S.M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. - № 25(2). - 2017. - P. 155-179.
7. Bryson, J.J. Of, for, and by the people: the legal lacuna of synthetic persons / J.J. Bryson, M.E. Diamantis, T.D. Grant // Artificial Intelligence and Law. - 2017.
- № 25(3). - P. 273-291.
8. Staker, A. Should Chimpanzees Have Standing? the Case for Pursuing Legal Personhood for Non-Human Animals // Transnational Environmental Law. - 2017.
- № 6(3). - P. 485-507.
9. Schmidt, A.T. Persons or Property — Freedom and the Legal Status of Animals // Journal of Moral Philosophy. — 2018. — № 15(1). — P. 20-45.
10. Draft Report of Committee on Legal Affairs (Rapporteur: Mady Delvaux) with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(lNL)). — URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-%2F%2FEP%2F%2FN0NSGML%20C0MPARL%20PE-582.443%2001%20D0C%20 PDF%20V0%2F%2FEN
11. U.S. Department of Defense, Law of War Manual, 6.5.9.3 (2015). — URL: http:// www.defense.gov/PortalsZ1/Documents/pubs/Law-of-War-Manual-June-2015.pdf.
12. Arato, J. Subsequent Practice and Evolutive Interpretation: Techniques of Treaty Interpretation over Time and Their Diverse Consequences // The Law and Practice of International Courts and Tribunals. — 2010. — № 9. — P. 443-494.
13. Eirik Bjorge I. International Court of Justice, Case concerning the dispute regarding navigational and related rights (Costa Rica v Nicaragua) judgment of 13 July 2009 // International and Comparative Law Quarterly. — 2011. — № 60.- P. 271-279.
14. Hallevy, G. The Criminal Liability of Artificial Intelligence Entities // SSRN Electronic Journal (February 15, 2010). — URL: https://ssrn.com/abstract=1564096 or http://dx.doi.org/10.2139/ssrn.1564096
15. Foerst, A. Artificial sociability: from embodied AI toward new understandings of personhood // Technology in Society. — 1999. — № 21.
16. Davenport, D. Moral mechanisms // Philosophy and Technology. — 2014. — № 27(1). — P. 47-60.
А.Ю. Мамычев,
доктор политических наук, кандидат юридических наук, профессор кафедры теории и истории государства и права Юридической школы Дальневосточного федерального университета О.И. Мирошниченко, кандидат юридических наук, доцент кафедры теории и истории государства и права Юридической школы Дальневосточного федерального университета
A.U. Mamychev,
Doctor in Political Science,
Candidate of Law, Professor of the Theory
and History of State and Law of Law
School of Far Eastern Federal University
O.I. Miroshnichenko,
Candidate of Law, Associate Professor, Far Eastern Federal University olga-star. 05@mail. ru
Моделируя будущее права:
проблемы и противоречия правовой политики в сфере нормативного регулирования систем искусственного интеллекта и роботизированных технологий*
Аннотация: в статье анализируется существующее и потенциальное правовое регулирование проблем, возникающих в эпоху цифровизации. Авторы рассуждают об утопичности применения существовавших ранее моделей нормативного регулирования с участием акторов, наделенных
125
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16129.
