CC BY
14КОНЦЕПТ ИНДИВИДУАЛЬНОГО СУБЪЕКТА ПРАВА ПРИМЕНИТЕЛЬНО К ЭЛЕКТРОННОМУ ЛИЦУ (ПРАВОСУБЪЕКТНОСТЬ ЮНИТА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, КОРРЕЛИРУЕМАЯ (СООТНОСИМАЯ, СОПОСТАВИМАЯ) С ПРАВОСУБЪЕКТНОСТЬЮ ЧЕЛОВЕКА)
МОРХАТ Петр Мечиславович,
кандидат юридических наук, преподаватель Института повышения квалификации Московского государственного юридического университета им. О.Е. Кутафина (МГЮА), судья Арбитражного суда Московской области. E-mail: pmorhat@mail.ru
Краткая аннотация. Когда мы говорим «машины, которые мыслят», то обычно подразумеваем «машины, которые мыслят как люди». Некоторые научные светила приходят в ужас от идеи о том, что миром могут управлять мыслящие машины. Можно научить машину следовать алгоритму и выполнять в нужном порядке определенные операции, которые логически связаны друг с другом. Она будет делать это быстрее и точнее любого человека. Человеческое общество быстрыми темпами идет к правилам, инструкциям, законам, инвестиционным механизмам, политическим догмам и моделям поведения, которые слепо следуют строгой логике. Всё более затруднительным становится различение деятельности человека и компьютера, если судить по конечному её продукту, и компьютеры уже доказали свою способность к выполнению функций, изначально относимым к исключительно человеческим. А возрастающее сходство между людьми и машинами в конечном счёте может потребовать необходимость юридического признания юнита искусственного интеллекта в качестве «лица»[1]. При этом возникает серьёзная проблема определения критериев, по которым агент может наделяться соответствующими правами и обязанностями.
Abstract. When we say "cars that think", we usually mean "cars that think like people." Some scientific luminaries are horrified by the idea that thinking machines can control the world. You can teach the machine to follow the algorithm and perform certain operations in the right order, which are logically related to each other. She will do it faster and more accurately than any person. Human society is rapidly going to the rules, regulations, laws, investment mechanisms, political dogmas and behavior patterns that blindly follow strict logic. It becomes increasingly difficult to distinguish between human activity and a computer, judging by its final product, and computers have already proven their ability to perform functions that are initially attributable to purely human. And the growing similarity between people and machines ultimately may require the need for legal recognition of an artificial intelligence unit as a "face" In this case, a serious problem arises in determining the criteria by which an agent can be endowed with corresponding rights and duties.
Ключевые слова: искусственный интеллект, машинный разум, юнит, киберфизическая система, правосубъектность, генетический поиск, киберфизика, машинный интеллект, интернет-пространство, правовой акт.
Keywords: artificial intellect, machine mind, unit, cyberphysical system, legal personality, genetic search, cyber physics, computer intelligence, Internet space, legal act.
Так, Стивен Руза выделяет три категории технологий искусственного интеллекта следующего поколения:
- архитектура компьютера, которая воплощает в себе умственные процессы, основанные на обратной инженерии[2] человеческого мозга;
- программное обеспечение, которое имитирует определённые паттерны человеческого мышления из биологических процессов, происходящих в мозге и в природе в целом;
- нейронное протезирование, модели-
руемое на существующих участках мозга, которые функционируют в мозге человека или в сочетании с ним[3].
В случае применения всех этих видов технологий проблема правосубъектности искусственного интеллекта, аналогичной человеческой, будет всё более актуализироваться.
Рассмотрим возможность применения концепции индивидуальной правосубъектности к электронному лицу, как если бы оно было сопоставимо с человеком.
Патрик Хаббард указывает, что юнит искусственного интеллекта может в рамках данной концепции претендовать на следующее:
- на то, чтобы иметь определённые способности: хотя он не является человеком, может утверждаться, что он обладает теми же способностями, что и человек, чтобы считаться правосубъектным; что он является, по сути, эмулированным эквивалентом человека, так как не только способен взаимодействовать с миром, но и обладает необходимым интеллектом и уровнем психологического развития, чтобы условно быть (признаваться) сущностью, обладающей самосознанием;
- на то, чтобы иметь определённые права: если человек и юнит сопоставимы по своим возможностям, они оба имеют равные права, необходимые для того, чтобы реализовывать свои возможности в качестве автономного «существа», и при этом юнит не должен рассматриваться в таком случае как собственность, потому что это тогда сделает его, по сути дела, рабом[4].
Современный рационалистический подход к человеческой уникальности с точки зрения права на правосубъектность основан, главным образом, на способности человека к сложному мышлению и коммуникации[5].
Кроме того, существует подход, в рамках которого существенную роль играет наличие сознания и самосознания. Однако этот подход является дискуссионным в некоторых своих аспектах.
Если рассматривать человеческое тело, которое осуществляет дыхательные функции, но линия электроэнцефалограммы является полностью ровной, а прогнозы на восстановление сознания отсутствуют, живым и обладающим определённой (пусть и ограниченной) правосубъектностью, то юнит искусственного интеллекта явно способен делать большее по сравнению с ним. И если на законодательном уровне будет принят определённый стандарт наличия (фиксации) определённой степени сознания и интеллекта у субъекта, для того чтобы он мог бы быть признан способным реализовывать права и осуществлять некоторые обязанности, то это расширит возможности для признания правосубъектности юнитов искусственного интеллекта[6].
Если рассматривать возможность наде-
ления правосубъектностью с точки зрения автономности^], то, как указывает Мафальда Миранда Барбоза, на основании этой характеристики нельзя проводить какие-либо точные аналогии с людьми, в том числе - по причине того что автономность юнита искусственного интеллекта является технологической и основана на определённых алгоритмах, а не является проявлением нравственного выбора, как это происходит у человека[8].
Кроме того, исследователи отмечают также, что притязания на наделение каких-либо субъектов соответствующими правами и обязанностями возникают только в рамках сообщества автономных лиц, поскольку у человека, находящегося в изоляции, нет необходимости беспокоиться по поводу отношения к нему или о взаимодействии с другими людьми. И требование лица о его праве на личность предполагает взаимные отношения с другими людьми, которые признают это право, а также заявляют о своих собственных правах на личность. И в свете этого значимы вопросы относительно значения общества и взаимодействия с ним искусственного агента для того, чтобы такой агент также мог считаться членом этого общества[9].
По мнению Джоанны Брайсон, Михаили-са Диамантиса и Томаса Гранта, использование термина «электронное лицо» указывает на чёткое намерение присвоить некоторым интеллектуальным предметам статус личности, наделённой правосубъектностью, которой наделены и люди[10]. В таком контексте определение понятия личности с юридической точки зрения является более чем актуальной темой[11].
Как правило, в дискуссиях по вопросу наделения правосубъектностью агентов - юнитов искусственного интеллекта речь заходит о необходимых и достаточных условиях, которым должен такой агент соответствовать, чтобы классифицироваться как подлинный познающий и мыслящий субъект наравне с человеком[12].
Основной вопрос, обсуждаемый в рамках таких дискуссий, касается того, могут ли искусственные агенты иметь самосознание[13], чего на данный момент развития технологий искусственного интеллекта пока не достигнуто, и нет доказательств того, что может быть действительно достигнуто в будущем[14], во всяком случае - в
обозримом будущем.
Согласно имеющей место в научной литературе точке зрения, субъект, который чувствует или каким-либо образом осознает, имеет моральное право на то, чтобы иметь соответствующий правовой статус[15]. Соответственно, юнит искусственного интеллекта не может быть сравним в полной мере с человеком, поскольку не имеет (либо не имеет в достаточной мере или в надлежащем понимании) души, интенцио-нальности своих действий, сознания, чувств, интересов и свободной воли[16].
Однако, как указывают Самир Чопра и Лоуренс Уайт, в праве сознание не является необходимым или достаточным условием для правосубъектности, поскольку, с одной стороны, полностью сознательные физические лица, такие, как дети, рабы, были лишены полной правосубъектности, а с другой стороны, люди, временно не обладающие сознанием, например -находящиеся в коме или спящие, на этом основании её не лишаются, хотя и в некоторых случаях не могут осуществлять реализацию многих своих прав. Также и юридические лица не обладают сознанием. Истории известны различные ситуации наделения разных людей правосубъектностью разной степени: например, в разное время и в различных юрисдикциях различались по своему правовому статусу мужчина - глава семьи, замужняя женщина, дети и рабы, а некоторые категории населения вообще практически не рассматривались как субъекты права либо имели ограниченную правосубъектность[17].
Соответственно, с одной стороны, отсутствие сознания для человека не является основанием для исключения или лишения его общей правосубъектности, а с другой - исторический опыт показывает, что не всегда человек, находящийся в сознании, обладал полной правоспособностью и дееспособностью, что ещё более не позволяет в полной мере даже в теории приравнять правовой статус человека и правовой статус юнита искусственного интеллекта.
Есть точка зрения, что пока суды всего мира придерживаются подхода не наделять некоторые «наиболее разумные» виды животных правосубъектностью, преждевременно говорить о её предоставлении искусственным агентам.
Сюзен Хасслер указывает, что пока ещё
не завершены окончательно дискуссии относительно юридического понятия личности применительно к женщинам, детям, а также высокоразвитым животным, таким как шимпанзе[18].
Согласно нашей концепции, наделение искусственного интеллекта индивидуальной правосубъектностью, сопоставимой с правосубъектностью человека, необоснованно и нецелесообразно по следующим причинам (соответственно, под вопросом способность такого юнита реали-зовывать свои права, выполнять обязанности и нести за это ответственность):
- юнит искусственного интеллекта лишён интенциональности (неотъемлемо связываемой с интеллектом естественным);
- юнит искусственного интеллекта не способен ощущать на себе последствия своих действий (бездействия), не способен страдать (существенно важно - страдать от наказания и/или от саморефлексий по поводу причинённого третьему лицу вреда);
- юнит искусственного интеллекта не способен в своём принятии решений и в своей деятельности быть связанным нравственно-этическими императивами, выбором и саморефлексиями;
- юнит искусственного интеллекта, в силу своей природы, не может быть привлечён к ответственности - в силу совершенной бессмысленности в данном случае (устоявшихся именно в отношении человека) мер уголовной или административной ответственности, которые просто неприменимы к юнитам искусственного интеллекта, лишены смысла по отношению к ним;
- при наделении юнита искусственного интеллекта правами человека (такими, как право на достоинство, на гражданство), такие права юнита ранее или поздно войдут в противопоставление и противоречие с правами человека (физического лица).
По мнению Джоанны Брайсон, Михаили-са Диамантиса и Томаса Гранта, в конечном счёте наделение юнитов искусственного интеллекта статусом электронных лиц может привести к ослаблению правовой защиты людей по сравнению с ними[19]. Так, если рассматривать правосубъектность электронного лица как индивидуального субъекта, аналогичного человеку, то предоставление ему такого правового статуса
является важным шагом на пути к получению полного набора конституционных («человеческих») прав, что может порождать в дальнейшем иные проблемы и вопросы: например, относительно того, могут ли к юнитам искусственного интеллекта применены такие конституционные гарантии, как, например, право не содержаться в рабстве[20].
На наш взгляд, явно недостаточно обоснованным и, соответственно, неперспективным является подход к наделению юнита искусствен-
ного интеллекта статусом электронного лица только лишь в силу его подразумеваемых свойств и качеств, позволяющих провести аналогию с человеческим существом, имеющим моральное право на правосубъектность в силу таких качеств, - в отличие от института электронного лица - юридической фикции, позволяющей релевантно решить практические проблемы, возникающие на данном этапе развития технологий искусственного интеллекта и их применения и состояния действующего законодательства.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
Библиография:
Willick M.S. Artificial intelligence: Some Legal Approaches and Implications [Искусственный интеллект: некоторые правовые подходы и последствия] // AI Magazine. - 1983. - Vol. 4. - № 2. - P. 5-16. - P. 5. <https://www.aaai.org/ojs/index.php/aimagazine/article/view/392/328>.
Реверс-инжиниринг - исследование некоторого уже существующего объекта (например, готового устройства или программы), а также документации на него с целью понять принцип его работы. - Прим авт.
Roosa S.B. The Next Generation of Artificial Intelligence in Light of In re Bilski [Следующее поколение искусственного интеллекта в свете In re Bilski] // Intellectual Property & Technology Law Journal. - 2009. March. - Vol. 21. - № 3. - P. 6-10. - P. 7. <https://www.reedsmith.com/-/media/files/perspectives/2009/03/the-next-generation-of-artificial-intelligence-in/files/the-next-generation-of-artificial-intelligence-in/fileattachment/iptlj_3109_roosaai_after_bilski_bw_200903252320.pdf>.
Hubbard F.P. «Do androids dream?»: personhood and intelligent artifacts [«Есть ли мечты у андроидов?»: Правосубъектность и интеллектуальные артефакты] // Temple Law Review. - 2011. - Vol. 83. - P. 405-474. - P. 407. <https://www.templelawreview.org/lawreview/assets/uploads/2011/07/04.Hubbard.pdf>.
Hubbard F.P. «Do androids dream?»: personhood and intelligent artifacts [«Есть ли мечты у андроидов?»: Правосубъектность и интеллектуальные артефакты] // Temple Law Review. - 2011. - Vol. 83. - P. 405-474. - P. 418. <https://www.templelawreview.org/lawreview/assets/uploads/2011/07/04.Hubbard.pdf>.
Willick M.S. Artificial intelligence: Some Legal Approaches and Implications [Искусственный интеллект: некоторые правовые подходы и последствия] // AI Magazine. - 1983. - Vol. 4. - № 2. - P. 5-16. - P. 9. <https://www.aaai.org/ojs/index.php/aimagazine/article/view/392/328>.
Редькина А.И. Концепция автономности в праве: особенности, функции и проблемы применения // Право и образование. - 2016. - № 12. - С. 110-117. Редькина А.И. Концепция автономности в праве: теоретический аспект // Право и образование. - 2016. -№ 11. - С. 13-21.
Barbosa M.M. Inteligência artificial, e-persons e direito: desafios e perspetivas [Искусственный интеллект, электронные лица и право: проблемы и перспективы] // Revista Jurídica Luso-Brasileira. - 2017. - № 6. - P. 1475-1503. - P. 1482. <https://www.cidp.pt/publicacoes/revistas/rjlb/2017/6/2017_06_1475_1503.pdf>.
Hubbard F.P. «Do androids dream?»: personhood and intelligent artifacts [«Есть ли мечты у андроидов?»: Правосубъектность и интеллектуальные артефакты] // Temple Law Review. - 2011. - Vol. 83. - P. 405-474. - P. 423-424. <https://www.templelawreview.org/lawreview/assets/uploads/2011/07/04.Hubbard.pdf>.
Bryson J.J., Diamantis M.E., Grant T.D. Of, For, and By the People: The Legal Lacuna of Synthetic Persons [От, для и посредством людей: лакуна в правовом регулировании синтетических людей] // <http://www.cs.bath.ac.uk/~jjb/ftp/BrysonDiamantisGrant17-preprint.pdf>. - 17 p. - P. 2.
Hassler S. Do We Have to Build Robots That Need Rights? [Нужно ли создавать роботов, которым нужны права?] // IEEE Spectrum. -03.2017. <http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=7864739>.
Chopra S., White L. Artificial Agents - Personhood in Law and Philosophy [Искусственные агенты: Правосубъектность с точки зрения права и философии] // <http://www.sci.brooklyn.cuny.edu/~schopra/agentlawsub.pdf>. - 5 p. - P. 1.
Chopra S., White L. Artificial Agents - Personhood in Law and Philosophy [Искусственные агенты: Правосубъектность с точки зрения права и философии] // <http://www.sci.brooklyn.cuny.edu/~schopra/agentlawsub.pdf>. - 5 p. - P. 5.
Weitzenboeck E.M. Electronic Agents and the Formation of Contracts [Электронные агенты и формирование контрактов] // International Journal of Law and Information Technology. - 2001. - Vol. 9. - № 3. - P. 204-234. - P. 213. <https://pdfs.semanticscholar.org/f5ff/faff3f9c719e22e61f78d452eea95678890a.pdf>.
Weitzenboeck E.M. Electronic Agents and the Formation of Contracts [Электронные агенты и формирование контрактов] // International Journal of Law and Information Technology. - 2001. - Vol. 9. - № 3. - P. 204-234. - P. 213. <https://pdfs.semanticscholar.org/f5ff/faff3f9c719e22e61f78d452eea95678890a.pdf>.
The Future is here: Artificial Intelligence and Robotics [Будущее уже здесь: искусственный интеллект и робототехника] / Nishith Desai Associates // <http://www.nishithdesai.com/fileadmin/user_upload/pdfs/Research_Papers/Artificial_Intelligence_ and_Robotics.pdf>. -2017. - 26 p. - P. 13.
Chopra S., White L. Artificial Agents - Personhood in Law and Philosophy [Искусственные агенты: Правосубъектность с точки зрения права и философии] // <http://www.sci.brooklyn.cuny.edu/~schopra/agentlawsub.pdf>. - 5 p. - P. 5, 1.
Hassler S. Do We Have to Build Robots That Need Rights? [Нужно ли создавать роботов, которым нужны права?] // IEEE Spectrum. -03.2017. <http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=7864739>.
Bryson J.J., Diamantis M.E., Grant T.D. Of, For, and By the People: The Legal Lacuna of Synthetic Persons [От, для и посредством людей: лакуна в правовом регулировании синтетических людей] // <http://www.cs.bath.ac.uk/~jjb/ftp/BrysonDiamantisGrant17-preprint.pdf>. - 17 p. - P. 2.
Chopra S., White L. Artificial Agents - Personhood in Law and Philosophy [Искусственные агенты: Правосубъектность с точки зрения права и философии] // <http://www.sci.brooklyn.cuny.edu/~schopra/agentlawsub.pdf>. - 5 p. - P. 4.
3.
4.
5.
9.
