CC BY
115
ПРАВОВОЕ РЕГУЛИРОВАНИЕ В ИНФОРМАЦИОННОЙ СФЕРЕ
001: 10.17803/1994-1471.2022.145.12.094-109
С. Е. Чаннов*
Робот (система искусственного интеллекта) как субъект (квазисубъект) права1
Аннотация. В статье анализируется возможность и целесообразность признания роботов и систем искусственного интеллекта субъектами либо квазисубъектами права. Автор констатирует наличие трех подходов к пониманию субъекта права: 1) формально-юридического (позитивистского); 2) антропоцентрического; 3) юснатуралистического. Только в рамках последнего делается попытка выделить объективно существующие признаки субъекта права. При этом, в отличие от квазисубъекта, субъект права всегда обладает таким признаком, как свобода воли. Решение вопроса о наличии собственной воли у робота (системы искусственного интеллекта) зависит от понимания самого понятия «воля», которое также является далеко не однозначным. Автор выделяет два основных подхода к понятию воли: 1) воля как проявление самосознания; 2) воля как способность к достижению поставленной цели. Современные роботы (системы искусственного интеллекта) не обладают самосознанием, поэтому в рамках данного подхода придание им статуса субъекта права возможно только в неопределенной перспективе. Второй подход к пониманию воли может быть применен ко многим уже существующим системам. Таким образом, автор констатирует, что потенциальная возможность наделения субъектностью роботов (систем искусственного интеллекта) существует. Однако неочевидны преимущества такого решения по сравнению с их рассмотрением в качестве квазисубъектов права. В связи с этим обосновывается, что введение в правовую сферу такого принципиально нового субъекта права, как робот (система искусственного интеллекта), является преждевременным. Впрочем, существует объективная необходимость признания ряда из них квазисубъектами права, представляющими собой определенную правовую ценность.
Ключевые слова: робот; система искусственного интеллекта; субъект права; правосубъектность; антропоцентризм; электронное лицо; свобода воли; самосознание; квазисубъект права; права личности. Для цитирования: Чаннов С. Е. Робот (система искусственного интеллекта) как субъект (квазисубъект) права // Актуальные проблемы российского права. — 2022. — Т. 17. — № 12. — С. 94-109. — DOI: 10.17803/19941471.2022.145.12.094-109.
1 Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-011-00355.
© Чаннов С. Е., 2022
* Чаннов Сергей Евгеньевич, доктор юридических наук, профессор, заведующий кафедрой служебного и трудового права Поволжского института управления имени П.А. Столыпина — филиала РАНХиГС, профессор кафедры административного и муниципального права Саратовской государственной юридической академии
Соборная ул., д. 23/25, каб. 406, г. Саратов, Россия, 410031 [email protected]
Robot (Artificial Intelligence System) as a Subject (Quasi-Subject) of Law2
Sergey E. Channov, Dr. Sci. (Law), Professor, Head of the Department of Service and Labor Law,
Stolypin Volga Institute of Management (RANEPA branch); Professor, Department of Administrative
and Municipal Law, Saratov State Law Academy
ul. Sobornaya, d. 23/25, kab. 406, Saratov, Russia, 410031
Abstract. The paper analyzes the possibility and expediency of recognizing robots and artificial intelligence systems as subjects or quasi-subjects of law. The author states that there are three approaches to understanding the subject matter: 1) the formal legal (positivist) approach; 2) the anthropocentric approach; and 3) the naturalistic approach Only within the framework of the latter, attempts are made to identify objectively existing features of the subject of law. At the same time, unlike a quasi-subject, the subject of law always has such a feature as freedom of will. The solution to the question of whether a robot (an artificial intelligence system) has its own will depends on understanding the concept of «will» itself, which is also far from unambiguous. The author identifies two main approaches to the concept of will: 1) the will as a manifestation of self-consciousness; 2) the will as the ability to achieve a goal. Modern robots (artificial intelligence systems) do not have self-awareness, therefore, within the framework of this approach, giving them the status of a legal entity is possible only in an indefinite perspective. The second approach to understanding the will can be applied to many already existing systems. Thus, the author states that the potential for subjectivity of robots (artificial intelligence systems) exists. However, the advantages of such a solution are not obvious in comparison with their consideration as quasi-subjects of law. In this regard, it is justified that the introduction into the legal sphere of such a fundamentally new subject of law as a robot (an artificial intelligence system) is premature. However, there is an objective need to recognize a number of them as quasi-legal entities that represent a certain legal value. Keywords: robot; artificial intelligence system; subject of law; legal personality; anthropocentrism; electronic person; free will; self-awareness; quasi-subject of law; individual rights.
Cite as: Channov SE. Robot (sistema iskusstvennogo intellekta) kak subekt (kvazisubekt) prava [Robot (Artificial Intelligence System) as a Subject (Quasi-Subject) of Law]. Aktual'nye problemy rossijskogo prava. 2022;17(12):94-109. DOI: 10.17803/1994-1471.2022.145.12.094-109. (In Russ., abstract in Eng.).
Одним из показателей развития (эволюции) права является появление новых субъектов права. Развитие и внедрение цифровых технологий в этом плане привлекает внимание многих специалистов. Речь в первую очередь идет о системах искусственного интеллекта. Как отмечает М. Б. Добробаба, в последнее время актуализируется вопрос о том, каким правовым статусом — объекта или субъекта права — будет наделен искусствен-
ный интеллект3. При этом, наряду с указанными системами, идеи о возможности наделения правосубъектностью высказываются и на счет роботизированных систем (роботов), поскольку «в будущем планируется переложение на робота всё большего количества функций, которые выполняет человек»4. В литературе имеется позиция, согласно которой правосубъектностью могут наделяться не все роботы, а роботы-агенты (электронные агенты)5.
The reported study was funded by RFBR according to the research project № 20-011-00355. Добробаба М. Б. Искусственный интеллект: объект или субъект права? // Новеллы Конституции Российской Федерации и задачи юридической науки : материалы конференций в рамках X Московской юридической недели : в 5 ч. М., 2021. С. 303.
Юридическая концепция роботизации : монография / отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М. : Проспект, 2019. С. 29.
Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Т. 6. № 55. С. 46-62.
2
3
4
5
В связи с этим сразу оговоримся, что, принимая во внимание нетождественность понятий «роботизированная система (робот)» и «система искусственного интеллекта (искусственный интеллект)», мы в дальнейшем в данной статье, используя первый термин, применительно к вопросу о правосубъектности будем вести речь только о тех роботах, которые обладают элементами искусственного интеллекта (интеллектуальные роботы). Под системами же искусственного интеллекта (далее в статье — СИИ) будут пониматься в узком смысле те системы, которые не обладают признаками, характерными для роботов, в первую очередь не наделены возможностью непосредственно воздействовать на объекты материального мира.
Чем же обусловлена постановка вопроса о возможности наделения СИИ и роботов статусом субъекта (либо квазисубъекта) права? Ключевой особенностью здесь выступает автономность указанных систем, понимаемая как возможность осуществления функций, ради которых они созданы, в течение более или менее длительного времени без участия человека. Неслучайно в резолюции Европейского парламента 2017 г. упоминается о правосубъектности роботов только как о долгосрочной перспективе, относящейся исключительно к наиболее продвинутым и автономным роботам6. При этом увеличение автономности, достигаемое для СИИ путем использования самообучения, как правило, сопровождается уменьшением возможности контроля над их «поведением».
Другая специфическая черта СИИ — это то, что обрабатываемый ими объем данных не может быть осознан человеческим мозгом, а
внутреннее состояние системы не может быть редуцировано к понятным человеку причинно-следственным связям, по этой причине заранее предсказать точные действия системы искусственного интеллекта в новой ситуации невозможно. Таким образом, объективно отсутствует субъект, который мог или должен был предвидеть последствия действий системы в конкретных обстоятельствах. Данное обстоятельство затрудняет применение к СИИ многих традиционных правовых механизмов, например механизма ответственности, поскольку и разработчик, и владелец самообучающейся СИИ становятся объективно неспособны абсолютно точно предсказать ее действия в конкретной ситуации и «отвечать» за него7.
Соответственно, перед юристами встают вопросы: можно ли признать роботов (СИИ) субъектами либо квазисубъектами права? Нужно ли это делать? Каким требованиям (критериям) они должны отвечать для этого?
Для того чтобы попытаться ответить на них, представляется необходимым прежде всего обратиться к самому понятию субъектов и квазисубъектов права.
Понятие субъекта права. Категория «субъект права» играет ключевую роль в юридической науке, поскольку является «главным компонентом (подсистемой) и одновременно центром, ядром правовой системы»8. При этом в современных юридических исследованиях можно встретить разные взгляды на понимание сущности субъекта права. Как представляется, принципиально здесь могут быть выделены три подхода, которые мы обозначим как: 1) формально-юридический (позитивистский); 2) антропоцентрический; 3) юснатуралистический.
6 Civil law rules on robotics European Parliament. Legislative Observatory // URL: https://oeil.secure.europarl. europa.eu/oeil/popups/ficheprocedure.do?lang=en&reference=2015/2103(INL) (дата обращения: 12.06.2022).
7 Незнамов А. В., Смит Б. У. Робот не виноват! Взгляд из России и США на проблему ответственности за вред, причиненный роботами // Закон. 2019. № 5. С. 135-156 ; Горохова С. С. Технологии на основе искусственного интеллекта: перспективы и ответственность в правовом поле // Юрист. 2021. № 6. С. 60-67.
8 Алексеев С. С. Теория государства и права : учебник. М. : Норма, 2005. С. 446.
9 Астахов Д. В., Назарова Ю. Ю. Субъект права как теоретико-правовая и отраслевая категория: генезис сущности и особенности правового статуса // Теория и практика сервиса: экономика, социальная сфера, технологии. 2013. № 4. С. 52 ; Марченко Н. М. Теория государства и права : учебник. 2-е изд., перераб. и доп. М., 2008. С. 592.
Формально-юридический (позитивистский) подход. Первый подход является наиболее простым и в целом основывается на тезисе: субъектом права признается лицо, обладающее в соответствии с законом правосубъектностью9. «Таким образом, субъектами права являются лица или организации, за которыми признано законом особое юридическое свойство (качество) правосубъектности, дающее возможность участвовать в различных правоотношениях с другими лицами и организациями»10. Соответственно, сторонники позитивистского подхода к сущности субъекта права выделяют лишь два его признака — правоспособность и дееспособность11.
Здесь необходимо подчеркнуть, что рассмотрение вопроса о статусе субъекта права в юридико-прикладном аспекте (субъект тот, кто наделен правосубъектностью в установленном порядке) в принципе видится нам вполне необходимым для практических целей. Однако следует понимать, что наделение какого-либо образования статусом субъекта права не может, во всяком случае, не должно осуществляться произвольно. В. А. Белов и К. А. Блинковский применительно к субъектам гражданского права верно отмечают, что «хоть законодатель и исходит из предположения о том, что субъектом гражданского права может стать лишь то правовое явление, которое он прямо таковым назовет, на самом деле это не так: субъектом является не тот, кто таковым прямо назван в законе, а тот, кто обладает чертами субъекта»12. Иными словами, государство может придать статус субъекта права вообще любому образованию, в том числе роботу (СИИ) — просто своей волей. Однако для того, чтобы такое реше-
ние было обоснованным, необходимо прежде всего ответить на вопросы: есть ли объективные критерии для такого наделения? В какой момент оно становится необходимо и/или целесообразно? Верно отмечает И. Л. Честнов, что подход, сводящий субъекта права просто к некоему юридическому статусу, приданному законодателем, «не дает возможности показать обусловленность законодательного решения, а следовательно — решить вопрос о формировании субъекта права. С другой стороны, при этом не учитываются личностные характеристики субъекта, без которых в принципе социальное (юридически значимое в том числе) действие невозможно»13.
В этом плане позитивистский подход, хотя и является формально точным, носит всё же лишь инструментальный характер, позволяя определить наличие статуса субъекта права в конкретных ситуациях, но не дает ничего в теоретическом плане применительно к сущности исследуемого нами вопроса.
Антропоцентрический подход. Не менее распространенным в отечественной юриспруденции является антропоцентрический подход к определению сущности субъекта права, основывающийся на признании первичным субъектом права человека (физического лица), в дополнение к которому качество правосубъектности может признаваться и за какими-либо общностями людей. В качестве примера здесь можно привести позицию С. И. Архипова. Указанный специалист, отмечая многоаспектность вариантов рассмотрения субъекта права, полагает возможным дать общее его определение как «совокупности заключенных в специальную юридическую форму (в форму юридического
10 Теория государства и права : учебник для юридических вузов / А. И. Абрамова, С. А. Боголюбов, А. В. Мицкевич [и др.] ; под ред. А. С. Пиголкина. М. : Городец, 2003. 544 с.
11 Иванский В. П. К определению человека как субъекта права XXI века сквозь призму информационно-квантовой концепции права // Административное право и процесс. 2016. № 1. С. 50.
12 Белов В. А., Блинковский К. А. Гражданско-правовое регулирование корпоративных отношений с участием гражданско-неправоспособных (не обладающих юридической личностью) организаций // Корпоративное право: актуальные проблемы теории и практики / под общ. ред. В. А. Белова. М. : Юрайт, 2009. С. 263.
13 Честнов И. Л. Проблема субъекта права в современной юридической науке // Юридическая мысль. 2007. Т. 41. № 3. С. 92.
лица или индивида) правовых качеств человека»14. В рамках данного подхода им выделяются индивидуальные и коллективные (юридические лица, нации и народы), внутриорганизационные и сложные (составные) субъекты права.
В современной отечественной правовой науке, как правило, в глобальном плане выделяются всего два вида субъектов права: физические лица и их объединения (социальные лица). Различается только перечень последних, к ним могут относить: государство; муниципальные образования; иные публичные образования; государственные органы и органы местного самоуправления; зависимые территории; народы, борющиеся за свою независимость; юридические лица; международные межправительственные и неправительственные организации и др.15
Таким образом, в рамках данного подхода все без исключения субъекты права «привязаны» к человеку, поскольку социальные лица признаются таковыми лишь как общности определенных групп людей. Как отмечает С. И. Архипов, общим основанием, из которого возникают все существующие субъекты права, является человек как правовой феномен. Юридические лица, в том числе государства, иные публичные корпорации, индивиды как субъекты права получают от него в результате эманации свои правовые качества (правовую волю, правовое сознание и т.д.), являющиеся их «субстратом»»16. Указанное обстоятельство делает, на наш взгляд, невозможным признание роботов и СИИ субъектами права. Можно согласиться с высказываемым в научной литературе мнением о том, что определение правового статуса робота (СИИ) и юридического лица имеют
много общего, «поскольку правовой статус того и другого, по существу, является юридической фикцией и реального, собственного содержания не имеет»17. Однако, в отличие от юридического лица, представляющего собой в конечном счете объединение людей, у робота (СИИ) такое изначальное качество отсутствует.
Более правильно, на наш взгляд, ставить вопрос о правосубъектности робота (СИИ) в качестве принципиально нового образования — «электронного лица»18, дополняющего физических лиц и «социальных лиц» в качестве субъекта права. Подобное решение вопроса, на наш взгляд, существенно отличается от придания роботам (СИИ) статуса субъекта права «по аналогии» с теми же юридическими лицами, поскольку заключается в признании появления принципиально нового субъекта права по отношению к существовавшим ранее. При этом именно появление новых субъектов права выступает одним из индикаторов развития (эволюции) права, проистекающего в последние десятилетия особенно активно под влиянием современных цифровых технологий.
Однако для его реализации необходимо вернуться к вопросу, о котором мы уже говорили выше: определить, какие критерии делают необходимым и целесообразным придание конкретному образованию статуса субъекта права (не сводя при этом их к человеку как правовому феномену), а затем попытаться определить, насколько они применимы к роботам и СИИ. Иными словами, речь идет о выделении сущностных признаков субъекта права. Указанная задача ставится в рамках подхода, который мы обозначаем как юснатуралистический, базирующийся на наработках школы естественного права.
14 Архипов С. И. Субъекты права: теоретическое исследование. СПб., 2004. С. 8-9.
15 Правоведение : учебное пособие / под ред. С. Н. Попова, Н. А. Ульяновой. Барнаул : Изд-во АГАУ, 2006 ; Большой юридический словарь / под ред. А. В. Малько. М., 2010. С. 532.
16 Архипов С. И. Указ. соч. С. 9-10.
17 Серова О. А. Роботы как участники цифровой экономики: проблемы определения правовой природы // Гражданское право. 2018. № 3. С. 22-24 ; Морхат П. М. К вопросу о правосубъектности «электронного лица» // Юридические исследования. 2018. № 4. С. 1-8.
18 Ястребов О. А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. 2017. № 1. С. 189-203 ; Чубукова С. Г. Информационная правосубъектность: цифровая трансформация // Информационное право. 2019. № 3. С. 24-28.
Юснатуралистический подход. Анализ юридической литературы свидетельствует о том, что специалисты выделяют достаточно большое количество различных признаков (критериев выделения) субъекта права, среди которых чаще всего называются: организационное единство; возможность обладания правами и обязанностями, а также самостоятельной их реализации; способность принимать юридически значимые решения; возможность нести юридическую ответственность за свои противоправные поступки; обособленность (имущественная и организационная); возможность правовой индивидуализации; наличие собственной воли, целей и интересов и др.19 На наш взгляд, вполне очевидно, что указанные признаки неодинаковы по своей сущности. Большая часть из них носит такой же формально-юридический (инструментальный) характер, как правоспособность и дееспособность, выделяемые в рамках позитивистского подхода (возможность обладания правами и обязанностями, а также самостоятельной их реализации;способность принимать юридически значимые решения; возможность нести юридическую ответственность и др.). Они точно так же появляются у лица не благодаря каким-то его особым свойствам, а исключительно по воле законодателя. Соответственно, оценка возможности применения их к роботам (СИИ) ничего не дает нам в плане анализа обоснованности наделения их статусом субъекта права.
Иное значение имеет такой признак, как наличие собственной воли (свободы воли), целей и интересов (некоторые авторы считают его единым признаком, другие разделяют на несколько). Вполне очевидно, что собственная воля не
может появиться у какого-либо образования просто потому, что так захотел законодатель.
Воля как признак субъекта права. Наличие свободной воли в качестве важнейшего признака субъекта права приводится, например, В. Е. Чиркиным. «Субъект права — это самостоятельное (автономное в пределах закона) образование, имеющее свои интересы, цели, волю, права и обязанности, выполняющее свою роль в обществе, участвующее в создании норм права и (или) правоотношениях»20. По нашему мнению, именно наличие воли концептуально отличает субъектов права от квазисубъектов. В юридической литературе отмечается, что квазисубъект права, в отличие от субъекта, обладает лишь некоторыми его признаками, при «отсутствии других необходимых признаков, что не допускает признание правосубъектности в целом»21. Как представляется, у квазисубъекта действительно могут отсутствовать различные признаки субъекта, однако те из них, которые мы классифицировали как формально-юридические (инструментальные), могут закрепляться за ним в различных сочетаниях законодателем. Только воля, а также увязанные с ее наличием цели и интересы не могут возникать у квазисубъекта права в любом случае. Как отмечают Н. И. Уздимаева и А. С. Козуров: «Воля концентрирует в себе все особенности любого субъекта права»22. Соглашаясь с данным тезисом, отметим, что воля, будучи необходимым признаком субъекта права, не делает таковым любую сущность, обладающую ею, автоматически. Так, в римском праве рабы, бесспорно обладавшие собственной волей de facto, тем не менее рассматривались не как субъекты, а как объекты права (res non persona)23.
19 Чиркин В. Е. Юридическое лицо публичного права. М., 2007. 352 с. ; Пономарева Е. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения : дис. ... канд. юрид. наук. Екатеринбург, 2019. С. 60-83 ; Долинская В. В. Правовой статус и правосубъектность // Законы России: опыт, анализ, практика. 2012. № 2. С. 6-17.
20 Чиркин В. Е. Юридическое лицо публичного права. С. 35.
21 Пономарева Е. В. Указ. соч. С. 9.
22 Уздимаева Н. И., Козуров А. С. Субъект права: основные подходы к пониманию // Контентус. 2020. № 4. С. 138.
23 Покровский И. А. История римского права. СПб., 1998.
С учетом изложенного вопрос о реальной возможности (необходимости) признания робота (СИИ) субъектом права упирается в наличие у него собственной воли, которая, в свою очередь, связана с возможностью возникновения у него своих целей и интересов. При этом, как верно отмечает Е. В. Пономарева, к роботам (СИИ) неприменим тезис о наличии у них воли по аналогии с волей юридического лица, «поскольку механизмы формирования воли юридического лица и "воли" робота совершенно отличны. Воля юридического лица является неким юридическим абстрагированием от воль лиц»24. В силу указанного сложно согласиться с позицией исследователей, предлагающих рассматривать вопросы правосубъектности роботов как новых видов юридических лиц25.
Обращаясь же к непосредственно понятию воли как признаку субъекта, мы сталкиваемся с тем, что оно само — как в праве, так и в философии и психологии — является далеко не однозначным.
Воля как проявление самосознания. Как правило, большинство исследователей так или иначе увязывают волю с самосознанием. «Воля — сознательная регуляция субъектом своей деятельности и поведения...»26; «воля — активная сторона сознания (наличие не только желания, но и стремления применить знания, совершить целенаправленное действие)»27; «воля, как и многие другие психологические термины (восприятие, мышление, память), — это обобщенное понятие, обозначающее определенный класс психических явлений, процессов и действий,
объединенных единой функциональной задачей — сознательным и преднамеренным управлением поведением и деятельностью человека»28 и др. Точно так же и в юриспруденции воля, понимаемая как способность лица руководить своими действиями, рассматривается как часть правосознания29. Соответственно, лишь обладатель самосознания может иметь действительно собственные цели, интересы, желания, побуждающие его к действию, и т.п.
С учетом изложенного вопрос о правосубъектности робота (СИИ) — в рамках данного подхода — напрямую вытекает из вопроса о наличии у указанных систем самосознания.
Можно ли говорить о наличии у роботов (СИИ) самосознания в настоящее время или в ближайшей перспективе? Прежде всего, здесь необходимо отметить, что само понятие роботов и систем искусственного интеллекта весьма неоднородно, поскольку их существует огромное количество разновидностей, значительно отличающихся друг от друга.
Понятие робота и искусственного интеллекта. Для начала констатируем, что не только в юриспруденции, но и вообще в науке нет единого, общепризнанного понятия «робот». В целом его можно определить как телесный искусственный объект или систему, обладающую способностью физически проявлять себя, в том числе чувствовать, обрабатывать и воздействовать на окружающий мир в некоторой степени30. Существуют различные классификации роботов по различным основаниям31, однако общим для всех роботов является наличие хотя
24 Пономарева Е. В. Указ. соч. С. 100.
25 Гаджиев Г. А., Войниканис Е. А. Может ли робот быть субъектом права (поиск правовых норм для регулирования цифровой экономики)? // Право. Журнал Высшей школы экономики. 2018. № 4. С. 45 ; Бегишев И. Р. Искусственный интеллект и робот как правовые категории // Безопасность бизнеса. 2020. № 6. С. 36.
26 Краткий психологический словарь / сост. Л. А. Карпенко ; под общ. ред. А. В. Петровского, М. Г. Ярошев-ского. М. : Политиздат, 1985. С. 48.
27 Ойгензихт В. А. Воля и волеизъявление (Очерки теории, философии и психологии права). Душанбе : Дониш, 1983. С. 12.
28 Ильин Е. П. Психология воли. 2-е изд. СПб. : Питер, 2009. С. 55.
29 Иоффе О. С. Советское гражданское право. М., 1967. С. 217.
30 Calo R. Robotics and the New Cyberlaw // Californian Law Review. 2015. Vol. 103. No. 3. P. 513.
31 Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А. В. Незнамова. М. : Инфотропик Медиа, 2018. 232 с.
бы минимальной степени автономности. При этом, хотя не все роботы обладают элементами искусственного интеллекта32, как уже отмечалось нами выше, говорить о признании субъектами (квазисубъектами) права можно только в отношении тех, которые им хотя бы в какой-то степени наделены. Соответственно, вопрос о наличии или об отсутствии самосознания целесообразно ставить и рассматривать именно применительно к СИИ.
Как справедливо отмечает В. А. Лаптев, «понятие "искусственный интеллект" (А1) является одновременно изученной и дискуссионной научной категорией, по-разному определяемой учеными различных специальностей»33. С технической точки зрения искусственный интеллект представляет собой автоматическое программное управление, при котором алгоритмы не задаются оператором заранее, а создаются внутри системы самостоятельно на основе кодированных описаний различного вида целей, представлений о действиях и информации о внешнем окружении34. С позиций юриспруденции искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе — виртуальная, электронно-механическая, био-электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия, обладающая рядом свойств и способностей (свойствами субстантивности и автономности; способностями принимать и реализовы-
вать решения; адаптировать свое поведение, в том числе самообучаться и т.д.)35. Ключевой в дефиниции искусственного интеллекта является способность на определенном уровне воспроизводить мышление человека (именно потому он и именуется интеллектом).
Однако способность моделировать (воспроизводить) интеллектуальную деятельность еще не означает наличия самосознания. Подобное воспроизводство — это именно имитация: СИИ способны в той или иной степени решать задачи, решаемые с помощью человеческого мышления, однако это не значит, что их функционирование аналогично последнему. Искусственный интеллект, даже очень успешно симулирующий человеческий интеллект, всё же может не обладать самосознанием36.
Сильный и слабый искусственный интеллект. Здесь необходимо отметить, что сами СИИ очень разнообразны и существенно различаются применительно к возможностям решения указанных задач. В связи с этим специалисты предлагают различать несколько видов искусственного интеллекта, среди которых чаще всего называют «сильный» и «слабый». Под слабым искусственным интеллектом предлагается понимать исключительно программу, работающую по заданным алгоритмам37, при этом в конкретной сфере его способность к решению задач значительно превосходит человеческое мышление38.
Наиболее неоднозначен вопрос о сущности сильного искусственного интеллекта. Одни исследователи понимают под таковым исключительно такую технологию ИИ, которая по своим
32 Александров О. П., Казахбаева Г. У. Роботы и искусственный интеллект // Наука, техника и образование. 2016. № 12. С. 31-32.
33 Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 82.
34 Шестак В. А., Волеводз А. Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. № 2. С. 198.
35 Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия «Юридические науки». 2018. Т. 22. № 1. С. 94-95.
36 Понкин И. В., Редькина А. И. Указ. соч. С. 97.
37 СёрлДж. Открывая сознание заново / пер. с англ. А. Ф. Грязнова. М. : Идея-Пресс, 2002. 256 с.
38 Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта.
ментальным свойствам и характеру функционирования была бы идентична человеческому сознанию39, то есть не модель человеческого разума, а «сам разум в том же смысле, что и в отношении человека»40. Другие понимают интеллект, не имеющий с человеческим ничего общего, но способный решать в совокупности аналогичные по сложности либо более сложные задачи. Третьи — любой интеллект, осознающий себя в качестве самостоятельной личности, независимо от того, будет ли он сопоставим с интеллектом человека или даже будет существенно уступать ему по возможностям интеллектуальной деятельности41.
Не затрагивая саму суть данной дискуссии, применительно к предмету настоящей статьи отметим, что субъектом права в рамках рассматриваемого подхода к пониманию воли может быть только робот (СИИ), способный мыслить и осознавать себя. Стало быть, таковым может быть лишь сильный искусственный интеллект, обладающий самосознанием.
Однако практически все специалисты сходятся в том, что о существовании сильного искусственного интеллекта говорить преждевременно42. Соответственно, в рамках подхода, связывающего волю лица с наличием у него самосознания, существующие роботы (СИИ) никак не могут рассматриваться в качестве субъектов права.
Понятие квазисубъектов права. В то же
время вполне обоснованно говорить о признании их квазисубъектами права. Под квазисубъектом права понимается образование, признаваемое законодателем, либо судебной системой, либо правовым сообществом в качестве правообладателя (носителя субъективных
прав) при отсутствии необходимых для участия в правовой коммуникации признаков субъекта права43.
Таким образом, квазисубъект — это определенное правовое явление, за которым на официальном либо доктринальном уровне считается обоснованным признавать отдельные элементы правосубъектности при невозможности придания ему статуса полноценного субъекта права. Квазисубъект в этом плане выступает несомненной искусственной конструкцией, создаваемой для удобства правоприменения.
А. И. Пономарева указывает, что принципиальное отличие субъектов права как участников правовой коммуникации от квазисубъектов заключается в том, что первые обладают не только субъективными правами, но и юридическими обязанностями. «Что касается квазисубъектов права, то по общему правилу они признаются лишь управомоченными, но не обязанными лицами, т.е. в коммуникативном смысле не являются настоящими, действительными субъектами юридических отношений»44. Нам, однако, представляется, что приведенный вывод сделан на основе анализа таких традиционно выделяемых квазисубъектов, как нации, трудовые коллективы, семьи и т.п., для которых закрепление именно их прав является действительно важным. Роботы (СИИ), которых, кстати, Е. В. Пономарева также относит к квазисубъектам, являются принципиально иными образованиями, наделение правами которых отнюдь не видится обязательным (хотя и возможным), в то время как закрепление их обязанностей (в неразрывном единстве с вопросами ответственности), вполне очевидно, необходимо. Поэтому, с нашей точки зрения, квазисубъект отли-
39 Searle J. R. Is the Brain's Mind a Computer Program? // Scientific American. 1990. Vol. 262. No. 1. January.
40 Витко В. Анализ научных представлений об авторе и правах на результаты деятельности искусственного интеллекта // Интеллектуальная собственность. Авторское право и смежные права. 2019. № 2. С. 8.
41 Bokovnya A. Y. et al. Legal Approaches to Artificial Intelligence Concept and Essence Definition // Revista San Gregorio. 2020. Vol. 41. P. 115-121.
42 Canivet G. Les facteurs de transformation du droit // Enjeux numeriques. 2018. Vol. 3. P. 38-43 ; Записная Т. В. О формировании цифрового медицинского права // Медицинское право. 2022. № 1. С. 34-38 ; Добро-баба М. Б. Указ. соч.
43 Пономарева Е. В. Указ. соч. С. 8-9.
44 Пономарева Е. В. Указ. соч. 10.
чается от субъекта права отсутствием любого из обязательных признаков последнего — какого конкретно, зависит от его специфики.
Обусловлено это тем фактом, что сама по себе правовая конструкция квазисубъекта призвана заменять субъекта права в тех случаях, когда это удобно для правоприменения, однако придание квазисубъекту всех элементов правосубъектности либо нецелесообразно, либо объективно невозможно.
Если говорить о наборе качеств, присущих некоторым роботам (СИИ), несложно увидеть, что при желании на законодательном уровне они могут быть наделены большинством из них (как мы отмечали выше, значительная часть признаков субъекта права носит формально-юридический характер). Собственно, на практике это уже нередко имеет место. Так, В. А. Лаптев констатирует, что, например, промышленный А1-робот может иметь регистрацию (предположим, в Ростехнадзоре) и учетный номер; обладать хозяйственной компетенцией, соответствующей целям его деятельности; обладать имущественной базой, поскольку он априори представляет собой материальную ценность; его можно привлечь к юридической ответственности45 и т.д. Нет сомнений, что такой подход будет иметь развитие в законодательстве и далее, что детерминировано необходимостью обеспечения автономности работы наиболее продвинутых роботов (СИИ), разграничением ответственности за их действия и т.д. Однако принципиально невозможным остается наделение робота (ИИ) таким признаком субъекта права, как наличие свободы воли, а также собственных целей и интересов, поскольку данный признак не может быть закреплен за ним чьим-либо решением; применительно к нему законодатель может лишь констатировать его наличие или отсутствие.
Воля как способность к достижению поставленной цели. Вместе с тем рассмотрен-
ный выше подход является абсолютно верным лишь в рамках подходов, согласно которым свобода воли (и вообще наличие воли) увязывается с самосознанием. Однако, как было отмечено выше, в науке существуют и иные подходы к пониманию воли лица. В частности, некоторые специалисты рассматривают данное явление как способность к постановке цели и достижению ее посредством преодоления препятствий46; относительно самостоятельный механизм регуляции поведения дееспособного субъекта, которое последовательно осуществляется в правовых пределах и ориентировано на достижение конкретного результата47.
В этом ключе, на наш взгляд, вполне можно говорить о наличии воли у робота (СИИ) в силу наличия у него определенных алгоритмов (заданных изначально либо сформированных в рамках его функционирования, в том числе путем самообучения), которые позволяют ему ставить цели и определять необходимые действия для их достижения.
Если же робот (СИИ) в указанном смысле обладает волей к достижению определенных целей, допустимым видится и признание его уже не квазисубъектом, а полноценным субъектом права. Такая возможность тем более актуализируется с учетом процессов эволюции права под воздействием цифровых технологий, в рамках которых могут изменяться в том числе и подходы к самой сущности субъекта права.
Правовые и иные последствия признания роботов (СИИ) субъектами (квазисубъектами) права. В связи с этим, на наш взгляд, уместно поставить вопрос: а в чем, собственно, заключается отличие в последствиях признания робота (СИИ) субъектом либо квазисубъектом права (если ли оно вообще имеется)? Как было показано выше, робота (СИИ) при желании можно формально-юридически наделить всеми признаками субъекта, позволяющими ему при необходимости осуществлять хозяй-
45 Лаптев В. А. Указ. соч. С. 88.
46 Венедиктов А. В. Государственная социалистическая собственность / отв. ред. В. К. Райхер. М., Л. : Изд-во АН СССР, 1948. С. 36.
47 Лазарева О. В. Понятие и структура воли: правовой аспект // Вестник Саратовской государственной юридической академии. 2019. № 4 (129). С. 42.
ственную деятельность, владеть имуществом, обладать деликтоспособностью и т.п. Так есть ли разница, будет ли он числиться субъектом (если при этом будет презюмироваться наличие у него собственной воли в том или ином понимании) либо квазисубъектом права?
Здесь необходимо отметить, что некоторые специалисты высказывают опасения относительно признания роботов (СИИ) субъектами права, мотивируя это тем, что указанное обстоятельство выведет их из-под контроля человека. К примеру, Ю. Н. Харари в своем получившем широкую известность труде «Ното Deus. Краткая история будущего» пишет: «Законы человеческого общества уже признают "субъектами права" интерсубъективные сущности, такие как корпорации и нации. Хотя Toyota или Аргентина не имеют ни тела, ни разума, они являются субъектами международного права, которые могут владеть землей и деньгами, а также привлекать и привлекаться к суду. Не исключено, что в недалеком будущем такой же статус получат и алгоритмы. И тогда ничто не помешает алгоритму сделаться хозяином транспортной империи или венчурного фонда и перестать подчиняться желаниям человеческих особей»48. Ссылаясь на эту позицию, А. П. Семитко подчеркивает недопустимость признания искусственного интеллекта субъектом права ни в настоящее время, ни в каком-либо будущем, указывая на угрожающие последствия такого решения для всего человечества49.
Нам, однако, подобные опасения видятся сильно преувеличенными. Теоретическая возможность полного выхода роботов (СИИ) из-под контроля человека и ее последствия («бунт машин») достаточно активно дискутируется на страницах философской литературы, а также
в жанре научной фантастики. Не затрагивая вопрос о реалистичности подобного сценария в принципе, отметим, что, на наш взгляд, он никак не может быть обусловлен таким формальным моментом, как признание роботов (СИИ) субъектами права. Вопрос контроля над их «поведением» лежит всё же в технологической сфере, и нам достаточно сложно представить, что конкретная система перестанет подчиняться командам человека только потому, что в нее будет введена информация о том, что с какого-то момента она стала «субъектом права».
По нашему мнению, с точки зрения правовых последствий большего внимания заслуживает вопрос о возможной необходимости закрепления за роботами (СИИ) каких-то определенных прав в случае признания их полноценными субъектами права. Логика здесь может основываться на том, что, к примеру, человек как субъект права в рамках современной правовой доктрины является обладателем некоторого объема базовых неотъемлемых прав, таких как право на жизнь, право на правоспособность, право на физическую целостность и т.п.50 Возникает вопрос: а не потребуется ли в случае признания робота (СИИ) субъектом права защищать и гарантировать подобные права со стороны государства? Во всяком случае, ряд специалистов называют в связи с этим такие права искусственного интеллекта, как право на функционирование (на «жизнь»); право на энергообеспечение; право на самообучение; право не подвергаться «издевательствам» и др.51 Разумеется, приведенные «естественные» права признаются в настоящее время отнюдь не за любым субъектом права, а лишь за человеком в качестве такового. Применительно, например, к юридическим лицам
48 Харари Ю. Н. Ноmo Deus. Краткая история будущего. М. : Синдбад, 2019. С. 378.
49 Семитко А. П. Рецензия на диссертацию Е. В. Пономаревой «Субъекты и квазисубъекты права: теоретико-правовые основы разграничения» // Вестник Гуманитарного университета. 2020. № 1. С. 70.
50 Osiatynski W. Human Rights and their Limits. N. Y., 2009. P. 176.
51 Например: Морхат П. М. Правосубъектность искусственного интеллекта в сфере интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук. М., 2018. С. 276 ; Ужов Ф. В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. С. 358 ; Баловсяк Н. Право на убийство: есть ли у людей право уничтожать роботов // URL: https://uip. me/2017/05/people-vs-robots/ (дата обращения: 02.08.2022).
как субъектам правовая доктрина не выделяет какой-то перечень неотъемлемых прав.
Однако, с нашей точки зрения, робот (СИИ) как потенциальный субъект права ближе к физическим лицам, чем к социальным. Юридическое лицо обладает волей лишь как проекцией воль других лиц, в то время как рассуждения о воле и самосознании робота (СИИ) приводят нас к выводу о наличии (либо об отсутствии) указанных элементов у них самих. С этих позиций робот (СИИ) ближе, например, к животным, чем к юридическим лицам.
Между тем дискуссия о наделении животных неотъемлемыми правами как следствие их признания субъектами права ведется достаточно давно и активно52, более того, в некоторых странах они уже признаются и защищаются на конституционном уровне. Соответственно, если животные будут отнесены к субъектам права и наделены в этом качестве некоторыми неотъемлемыми правами, государства уже будут обязаны эти права обеспечить (в то время как сейчас они лишь по собственному усмотрению ограничивают жестокое обращение с животными). Проводя параллели, подчеркнем, что роботы (СИИ) как субъекты права смогут «претендовать» на защиту от жестокого обращения и, соответственно, обращаться в государственные органы в случае нарушения данного права.
Впрочем, как мы видим, данный вопрос на концептуальном уровне уходит в сферу био- и, возможно, техноэтики и в этом качестве не может быть решен исключительно в рамках юридической науки. Вместе с тем отметим всё же,
что увязка закрепления неотъемлемых прав с приданием статуса субъекта права нам не кажется бесспорной. Субъект права может наделяться различными правами в различных сферах, однако отнюдь не обязательно признание за ним неких неотъемлемых прав. Наверное, можно признать объективную необходимость (в рамках существующей морали) закрепления указанных прав за системами, относимыми к сильному искусственному интеллекту, в плане обладания ими самосознания и в этом максимально близкими к человеку. Однако, как отмечалось выше, создание таких систем пока вопрос неясной перспективы.
Таким образом, с нашей точки зрения, придание роботам (СИИ) статуса субъекта права не повлечет за собой в обозримом будущем каких-то явных негативных последствий. В то же время не видны и преимущества такого решения по сравнению с рассмотрением роботов (СИИ) в качестве квазисубъектов права. Исходя из философского принципа Оккама не умножать сущности без крайней на то необходимости, мы полагаем, что введение в правовую сферу такого принципиально нового субъекта права, как робот (СИИ), является преждевременным (хотя не исключено, что такая необходимость появится). В то же время существует объективная необходимость признания ряда из них квазисубъектами права, представляющими собой определенную правовую ценность. Всё это также свидетельствует об эволюционных процессах права под воздействием современных цифровых технологий.
БИБЛИОГРАФИЯ
1. Александров О. П., Казахбаева Г. У. Роботы и искусственный интеллект // Наука, техника и образование. — 2016. — № 12. — С. 31-33.
2. Алексеев С. С. Теория государства и права : учебник. — М. : Норма, 2005. — С. 496.
3. Анисимов А. П. Права животных в российском и зарубежном праве // Аграрное и земельное право. — 2016. — № 1 (133). — С. 103-108.
52 Фрэнсион Г., Чарльтон А. Права животных: аболюционистский подход // URL: https://veganim.ru/ wp-content/uploads/2019/10/Prava_Zhivotnykh_Abolitsionistskiy.pdf (дата обращения: 02.08.2022) ; Анисимов А. П. Права животных в российском и зарубежном праве // Аграрное и земельное право. 2016. № 1 (133). С. 103-108.
4. Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. — 2017. — Т. 6. — № 55. — С. 46-62.
5. Архипов С. И. Субъекты права: теоретическое исследование. — СПб., 2004. — 466 с.
6. Астахов Д. В., Назарова Ю. Ю. Субъект права как теоретико-правовая и отраслевая категория: генезис сущности и особенности правового статуса // Теория и практика сервиса: экономика, социальная сфера, технологии. — 2013. — № 4. — С. 51-55.
7. Баловсяк Н. Право на убийство: есть ли у людей право уничтожать роботов // URL: ИИрБ://шр. me/2017/05/people-vs-robots/ (дата обращения: 02.08.2022).
8. Бегишев И. Р. Искусственный интеллект и робот как правовые категории // Безопасность бизнеса. — 2020. — № 6. — С. 32-36.
9. Большой юридический словарь / под ред. А. В. Малько. — М., 2010. — 704 с.
10. Венедиктов А. В. Государственная социалистическая собственность / отв. ред. В. К. Райхер. — М., Л. : Изд-во АН СССР, 1948. — 839 с.
11. Витко В. Анализ научных представлений об авторе и правах на результаты деятельности искусственного интеллекта // Интеллектуальная собственность. Авторское право и смежные права. — 2019. — № 2. — С. 5-22.
12. Гаджиев Г. А., Войниканис Е. А. Может ли робот быть субъектом права (поиск правовых норм для регулирования цифровой экономики)? // Право. Журнал Высшей школы экономики. — 2018. — № 4. — С. 24-48.
13. Горохова С. С. Технологии на основе искусственного интеллекта: перспективы и ответственность в правовом поле // Юрист. — 2021. — № 6. — С. 60-67.
14. Добробаба М. Б. Искусственный интеллект: объект или субъект права? // Новеллы Конституции Российской Федерации и задачи юридической науки : материалы конференций в рамках X Московской юридической недели : в 5 ч. — М., 2021. — С. 303-308.
15. Долинская В. В. Правовой статус и правосубъектность // Законы России: опыт, анализ, практика. — 2012. — № 2. — С. 6-17.
16. Записная Т. В. О формировании цифрового медицинского права // Медицинское право. — 2022. — № 1. — С. 34-38.
17. Иванский В. П. К определению человека как субъекта права XXI века сквозь призму информационно-квантовой концепции права // Административное право и процесс. — 2016. — № 1. — С. 48-53.
18. Ильин Е. П. Психология воли. — 2-е изд. — СПб. : Питер, 2009. — 368 с.
19. Иоффе О. С. Советское гражданское право. — М., 1967. — 494 с.
20. Корпоративное право: актуальные проблемы теории и практики / под общ. ред. В. А. Белова. — М. : Юрайт, 2009. — 678 с.
21. Краткий психологический словарь / сост. Л. А. Карпенко ; под общ. ред. А. В. Петровского, М. Г. Яро-шевского. — М. : Политиздат, 1985. — 432 с.
22. Лазарева О. В. Понятие и структура воли: правовой аспект // Вестник Саратовской государственной юридической академии. — 2019. — № 4 (129). — С. 38-49.
23. Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. — 2019. — № 2. — С. 79-102.
24. Марченко Н. М. Теория государства и права : учебник. — 2-е изд., перераб. и доп. — М., 2008. — 636 с.
25. Морхат П. М. К вопросу о правосубъектности «электронного лица» // Юридические исследования. — 2018. — № 4. — С. 1-8.
26. Морхат П. М. Правосубъектность искусственного интеллекта в сфере интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук. — М., 2018. — 420 с.
27. Незнамов А. В., Смит Б. У. Робот не виноват! Взгляд из России и США на проблему ответственности за вред, причиненный роботами // Закон. — 2019. — № 5. — С. 135-156.
28. Ойгензихт В. А. Воля и волеизъявление (Очерки теории, философии и психологии права). — Душанбе : Дониш, 1983. — 256 с.
29. Покровский И. А. История римского права. — СПб., 1998. — 555 с.
30. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права || Вестник РУДН. Серия «Юридические науки». — 2018. — Т. 22. — № 1. — С. 91-109.
31. Пономарева Е. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения : дис. ... канд. юрид. наук. — Екатеринбург, 2019. — 208 с.
32. Правоведение : учебное пособие | под ред. С. Н. Попова, Н. А. Ульяновой. — Барнаул : Изд-во АГАУ,
2006. — 323 с.
33. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта | под ред. А. В. Незнамова. — M. : Инфотропик Mедиа, 2018. — 232 с.
34. Семитко А. П. Рецензия на диссертацию Е. В. Пономаревой «Субъекты и квазисубъекты права: теоретико-правовые основы разграничения» || Вестник Гуманитарного университета. — 2020. — № 1. — С. 69-75.
35. СёрлДж. Открывая сознание заново | пер. с англ. А. Ф. Грязнова. — M. : Идея-Пресс, 2002. — 256 с.
36. Серова О. А. Роботы как участники цифровой экономики: проблемы определения правовой природы || Гражданское право. — 2018. — № 3. — С. 22-24.
37. Теория государства и права : учебник для юридических вузов | А. И. Абрамова, С. А. Боголюбов, А. В. Mицкевич [и др.] ; под ред. А. С. Пиголкина. — M. : Городец, 2003. — 544 с.
38. Ужов Ф. В. Искусственный интеллект как субъект права || Пробелы в российском законодательстве. — 2017. — № 3. — С. 357-360.
39. Уздимаева Н. И., Козуров А. С. Субъект права: основные подходы к пониманию || Контентус. — 2020. — № 4. — С. 135-143.
40. Фрэнсион Г., Чарльтон А. Права животных: аболюционистский подход || URL: https:||veganim.ru| wp-content|uploads|2019|10|Prava_Zhivotnykh_Abolitsionistskiy.pdf (дата обращения: 02.08.2022).
41. Харари Ю. Н. Hоmo Deus. Краткая история будущего. — M. : Синдбад, 2019. — 492 с.
42. Честнов И. Л. Проблема субъекта права в современной юридической науке || Юридическая мысль. —
2007. — Т. 41. — № 3. — С. 90-94.
43. Чиркин В. Е. Юридическое лицо публичного права. — M., 2007. — 351 с.
44. Чубукова С. Г. Информационная правосубъектность: цифровая трансформация || Информационное право. — 2019. — № 3. — С. 24-28.
45. Шестак В. А., Волеводз А. Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России II Всероссийский криминологический журнал. — 2019. — № 2. — С. 197-206.
46. Юридическая концепция роботизации : монография | отв. ред. Ю. А. Тихомиров, С. Б. Нанба. — M. : Проспект, 2019. — 240 с.
47. Ястребов О. А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» II Вопросы правоведения. — 2017. — № 1. — С. 189-203.
48. Bokovnya A. Y. et al. Legal Approaches to Artificial Intelligence Concept and Essence Definition || Revista San Gregorio. — 2020. — Vol. 41. — P. 115-121.
49. Calo R. Robotics and the New Cyberlaw || Californian Law Review. — 2015. — Vol. 103. — No. 3. — P. 513-563.
50. Canivet G. Les facteurs de transformation du droit || Enjeux numeriques. — 2018. — Vol. 3. — P. 38-43.
51. Civil law rules on robotics European Parliament. Legislative Observatory || URL: https:||oeil.secure. europarl.europa.eu|oeil|popups|ficheprocedure.do?lang=en&reference=2015|2103(INL) (дата обращения: 12.06.2022).
52. Searle J. R. Is the Brain's Mind a Computer Program? || Scientific American. — 1990. — Vol. 262. — No. 1. January. — P. 25-31.
53. Osiatynski W. Human Rights and their Limits. — N. Y., 2009. — 233 p.
Материал поступил в редакцию 5 августа 2022 г.
REFERENCES (TRANSLITERATION)
1. Aleksandrov O. P., Kazakhbaeva G. U. Roboty i iskusstvennyy intellekt // Nauka, tekhnika i obrazovanie. — 2016. — № 12. — S. 31-33.
2. Alekseev S. S. Teoriya gosudarstva i prava: uchebnik. — M.: Norma, 2005. — S. 496.
3. Anisimov A. P. Prava zhivotnykh v rossiyskom i zarubezhnom prave // Agrarnoe i zemelnoe pravo. — 2016. — № 1 (133). — S. 103-108.
4. Arkhipov V. V., Naumov V. B. Iskusstvennyy intellekt i avtonomnye ustroystva v kontekste prava: o razrabotke pervogo v Rossii zakona o robototekhnike // Trudy SPIIRAN. — 2017. — T. 6. — № 55. — S. 46-62.
5. Arkhipov S. I. Subekty prava: teoreticheskoe issledovanie. — SPb., 2004. — 466 s.
6. Astakhov D. V., Nazarova Yu. Yu. Subekt prava kak teoretiko-pravovaya i otraslevaya kategoriya: genezis sushchnosti i osobennosti pravovogo statusa // Teoriya i praktika servisa: ekonomika, sotsialnaya sfera, tekhnologii. — 2013. — № 4. — S. 51-55.
7. Balovsyak N. Pravo na ubiystvo: est li u lyudey pravo unichtozhat robotov // URL: https://uip.me/2017/05/ people-vs-robots/ (data obrashcheniya: 02.08.2022).
8. Begishev I. R. Iskusstvennyy intellekt i robot kak pravovye kategorii // Bezopasnost biznesa. — 2020. — № 6. — S. 32-36.
9. Bolshoy yuridicheskiy slovar / pod red. A. V. Malko. — M., 2010. — 704 s.
10. Venediktov A. V. Gosudarstvennaya sotsialisticheskaya sobstvennost / otv. red. V. K. Raykher. — M., L.: Izd-vo AN SSSR, 1948. — 839 s.
11. Vitko V. Analiz nauchnykh predstavleniy ob avtore i pravakh na rezultaty deyatelnosti iskusstvennogo intellekta // Intellektualnaya sobstvennost. Avtorskoe pravo i smezhnye prava. — 2019. — № 2. — S. 5-22.
12. Gadzhiev G. A., Voynikanis E. A. Mozhet li robot byt subektom prava (poisk pravovykh norm dlya regulirovaniya tsifrovoy ekonomiki)? // Pravo. Zhurnal Vysshey shkoly ekonomiki. — 2018. — № 4. — S. 24-48.
13. Gorokhova S. S. Tekhnologii na osnove iskusstvennogo intellekta: perspektivy i otvetstvennost v pravovom pole // Yurist. — 2021. — № 6. — S. 60-67.
14. Dobrobaba M. B. Iskusstvennyy intellekt: obekt ili subekt prava? // Novelly Konstitutsii Rossiyskoy Federatsii i zadachi yuridicheskoy nauki: materialy konferentsiy v ramkakh X Moskovskoy yuridicheskoy nedeli: v 5 ch. — M., 2021. — S. 303-308.
15. Dolinskaya V. V. Pravovoy status i pravosubektnost // Zakony Rossii: opyt, analiz, praktika. — 2012. — № 2. — S. 6-17.
16. Zapisnaya T. V. O formirovanii tsifrovogo meditsinskogo prava // Meditsinskoe pravo. — 2022. — № 1. — S. 34-38.
17. Ivanskiy V. P. K opredeleniyu cheloveka kak subekta prava XXI veka skvoz prizmu informatsionno-kvantovoy kontseptsii prava // Administrativnoe pravo i protsess. — 2016. — № 1. — S. 48-53.
18. Ilin E. P. Psikhologiya voli. — 2-e izd. — SPb.: Piter, 2009. — 368 s.
19. Ioffe O. S. Sovetskoe grazhdanskoe pravo. — M., 1967. — 494 s.
20. Korporativnoe pravo: aktualnye problemy teorii i praktiki / pod obshch. red. V. A. Belova. — M.: Yurayt, 2009. — 678 s.
21. Kratkiy psikhologicheskiy slovar / sost. L. A. Karpenko; pod obshch. red. A. V. Petrovskogo, M. G. Yaroshevskogo. — M.: Politizdat, 1985. — 432 s.
22. Lazareva O. V. Ponyatie i struktura voli: pravovoy aspekt // Vestnik Saratovskoy gosudarstvennoy yuridicheskoy akademii. — 2019. — № 4 (129). — S. 38-49.
23. Laptev V. A. Ponyatie iskusstvennogo intellekta i yuridicheskaya otvetstvennost za ego rabotu // Pravo. Zhurnal Vysshey shkoly ekonomiki. — 2019. — № 2. — S. 79-102.
24. Marchenko N. M. Teoriya gosudarstva i prava: uchebnik. — 2-e izd., pererab. i dop. — M., 2008. — 636 s.
25. Morkhat P. M. K voprosu o pravosubektnosti «elektronnogo litsa» // Yuridicheskie issledovaniya. — 2018. — № 4. — S. 1-8.
26. Morkhat P. M. Pravosubektnost iskusstvennogo intellekta v sfere intellektualnoy sobstvennosti: grazhdansko-pravovye problemy: dis. ... d-ra yurid. nauk. — M., 2018. — 420 s.
27. Neznamov A. V., Smit B. U. Robot ne vinovat! Vzglyad iz Rossii i SShA na problemu otvetstvennosti za vred, prichinennyy robotami // Zakon. — 2019. — № 5. — S. 135-156.
28. Oygenzikht V. A. Volya i voleizyavlenie (Ocherki teorii, filosofii i psikhologii prava). — Dushanbe: Donish, 1983. — 256 s.
29. Pokrovskiy I. A. Istoriya rimskogo prava. — SPb., 1998. — 555 s.
30. Ponkin I. V., Redkina A. I. Iskusstvennyy intellekt s tochki zreniya prava // Vestnik RUDN. Seriya «Yuridicheskie nauki». — 2018. — T. 22. — № 1. — S. 91-109.
31. Ponomareva E. V. Subekty i kvazisubekty prava: teoretiko-pravovye problemy razgranicheniya: dis. ... kand. yurid. nauk. — Ekaterinburg, 2019. — 208 s.
32. Pravovedenie: uchebnoe posobie / pod red. S. N. Popova, N. A. Ulyanovoy. — Barnaul: Izd-vo AGAU, 2006. — 323 s.
33. Regulirovanie robototekhniki: vvedenie v «robopravo». Pravovye aspekty razvitiya robototekhniki i tekhnologiy iskusstvennogo intellekta / pod red. A. V. Neznamova. — M.: Infotropik Media, 2018. — 232 s.
34. Semitko A. P. Retsenziya na dissertatsiyu E. V. Ponomarevoy «Subekty i kvazisubekty prava: teoretiko-pravovye osnovy razgranicheniya» // Vestnik Gumanitarnogo universiteta. — 2020. — № 1. — S. 69-75.
35. Serl Dzh. Otkryvaya soznanie zanovo / per. s angl. A. F. Gryaznova. — M.: Ideya-Press, 2002. — 256 s.
36. Serova O. A. Roboty kak uchastniki tsifrovoy ekonomiki: problemy opredeleniya pravovoy prirody // Grazhdanskoe pravo. — 2018. — № 3. — S. 22-24.
37. Teoriya gosudarstva i prava: uchebnik dlya yuridicheskikh vuzov / A. I. Abramova, S. A. Bogolyubov, A. V. Mitskevich [i dr.]; pod red. A. S. Pigolkina. — M.: Gorodets, 2003. — 544 s.
38. Uzhov F. V. Iskusstvennyy intellekt kak subekt prava // Probely v rossiyskom zakonodatelstve. — 2017. — № 3. — S. 357-360.
39. Uzdimaeva N. I., Kozurov A. S. Subekt prava: osnovnye podkhody k ponimaniyu // Kontentus. — 2020. — № 4. — S. 135-143.
40. Frension G., Charlton A. Prava zhivotnykh: abolyutsionistskiy podkhod // URL: https://veganim.ru/wp-content/ uploads/2019/10/Prava_Zhivotnykh_Abolitsionistskiy.pdf (data obrashcheniya: 02.08.2022).
41. Kharari Yu. N. Nomo Deus. Kratkaya istoriya budushchego. — M.: Sindbad, 2019. — 492 s.
42. Chestnov I. L. Problema subekta prava v sovremennoy yuridicheskoy nauke // Yuridicheskaya mysl. — 2007. — T. 41. — № 3. — S. 90-94.
43. Chirkin V. E. Yuridicheskoe litso publichnogo prava. — M., 2007. — 351 s.
44. Chubukova S. G. Informatsionnaya pravosubektnost: tsifrovaya transformatsiya // Informatsionnoe pravo. — 2019. — № 3. — S. 24-28.
45. Shestak V. A., Volevodz A. G. Sovremennye potrebnosti pravovogo obespecheniya iskusstvennogo intellekta: vzglyad iz Rossii // Vserossiyskiy kriminologicheskiy zhurnal. — 2019. — № 2. — S. 197-206.
46. Yuridicheskaya kontseptsiya robotizatsii: monografiya / otv. red. Yu. A. Tikhomirov, S. B. Nanba. — M.: Prospekt, 2019. — 240 s.
47. Yastrebov O. A. Diskussiya o predposylkakh dlya prisvoeniya robotam pravovogo statusa «elektronnykh lits» // Voprosy pravovedeniya. — 2017. — № 1. — S. 189-203.
48. Bokovnya A. Y. et al. Legal Approaches to Artificial Intelligence Concept and Essence Definition // Revista San Gregorio. — 2020. — Vol. 41. — P. 115-121.
49. Calo R. Robotics and the New Cyberlaw // Californian Law Review. — 2015. — Vol. 103. — No. 3. — P. 513-563.
50. Canivet G. Les facteurs de transformation du droit // Enjeux numeriques. — 2018. — Vol. 3. — P. 38-43.
51. Civil law rules on robotics European Parliament. Legislative Observatory // URL: https://oeil.secure.europarl. europa.eu/oeil/popups/ficheprocedure.do?lang=en&reference=2015/2103(INL) (data obrashcheniya: 12.06.2022).
52. Searle J. R. Is the Brain's Mind a Computer Program? // Scientific American. — 1990. — Vol. 262. — No. 1. January. — P. 25-31.
53. Osiatynski W. Human Rights and their Limits. — N. Y., 2009. — 233 p.
