К вопросу о правовой политике в сфере придания правосубъектности искусственному интеллекту Текст научной статьи по специальности «Право»

С. Ф. Афанасьев,

доктор юридических наук, профессор, заведующий кафедрой арбитражного процесса Саратовской государственной юридической академии, заведующий сектором теории и отраслевых проблем правовой политики Саратовского филиала Института государства и права РАН

S. F. Afanasiev,

Doctor of Law, Professor, Head of the Department of Arbitration on process of the Saratov State Law Academy, Head of the Sector of Theory and Sectoral Problems of Legal Policy of the Saratov branch of the Institute of State and Law of the Russian Academy of Sciences [email protected]

DOI:

I

I 8 OQ

I

§ С

I 8 OQ

i

226

к вопросу о правовой политике в сфере придания правосубъектности искусственному интеллекту

Аннотация: в статье рассматривается вопрос о современной правовой политике в области возможного придания правосубъектности такому цифровому явлению, как искусственный интеллект. В связи с этим дается анализ официальной юридической дефиниции «искусственный интеллект», которая зафиксирована в соответствующем тематическом Указе Президента РФ в сравнительно-сопоставительном контексте с деятельностью человеческой нервной системы. Отмечается, что сегодня перед искусственным интеллектом поставлена задача по практически полной имитации когнитивных функций homo sapiens, что не может не влиять на модернизацию правового регулирования в сфере материальных и процессуальных правоотношений. Раскрывая более подробно проблематику, сопряженную с гипотетикой придания искусственному интеллекту правосубъектности, в работе отмечается, что если с биологической точки зрения он сможет в ближайшем будущем воспроизводить почти все основные познавательные человеческие компоненты и компетенции, то это не означает, что он будет автоматически наделен правосубъектностью, включающей в себя правоспособность и дееспособность. Последнее объясняется верховенством принципа пользовательского контроля над самостоятельностью небиологических интеллектуальных систем, в особенности это касается отправления правосудия по гражданским, административным и уголовным делам.

Ключевые слова: правовая политика, правосубъектность, правовое регулирование, искусственный интеллект, субъекты правоотношений, когнитивные способности, человеческий мозг, суд, отправление правосудия.

£

«V о «V

CV

on the issue of legal policy in the field of giving legal personality of artificial intelligence

Abstract: the article deals with the issue of modern legal policy in the field of possible giving legal personality to such a digital phenomenon as artificial intelligence. In this regard, an analysis is given of the official legal definition of«artificial intelligence», which is fixed in the relevant thematic Decree of the President of the Russian Federation, in a comparative context with the activity of the human nervous system. It is noted that today

artificial intelligence is tasked with almost complete imitation of the cognitive functions of homo sapiens, which cannot but affect the modernization of legal regulation in the field of material and procedural legal relations. Expanding in more detail the problems associated with the hypothesis of giving artificial intelligence legal personality, the paper notes that if, from a biological point of view, it will be able to reproduce almost all the main

cognitive human components and competencies in the near future, this does not mean that J

it will automatically be endowed with legal personality. including legal capacity and legal J

capacity. The latter is explained by the supremacy of the principle of user control over the О

independence ofnon-biological intelligent systems, especially in the administration of justice о in civil, administrative and criminal cases.

to

Keywords: legal policy, legal personality, legal regulation, artificial intelligence, g

subjects of legal relations, cognitive abilities, human brain, court, administration of justice. s.

a

8

Рассуждая об искусственном интеллекте (далее - ИИ) S

g

с позиции современной отечественной правовой политики, важно о отметить, что попытка его легального определения в рамках нацио- ■§ нального юридического поля была предпринята посредством принятия Указа Президента РФ от 10 октября 2019 г. № 490 «О развитии ^ искусственного интеллекта в Российской Федерации». В докумен- S те зафиксировано, что ИИ есть комплекс технологических решений, f позволяющий имитировать когнитивные функции человека (вклю- о

чая самообучение и поиск решений без заранее заданного алгоритма) *

£

и получать при выполнении конкретных задач результаты, сопоста- |

вимые, как минимум, с результатами интеллектуальной деятельно- о8

сти человека [1]. О

Относительно данной дефиниции, на наш взгляд, прежде всего О

следует акцентировать внимание на следующем: ИИ это не просто не- g

кие технологии, специальные методы и алгоритмы (таких современная |

наука и практика знает множество), а те из них, которые, во-первых, S

воспроизводят когницию, т.е. особый психологический механизм, 8

направленный на обработку человеческим сознанием определенной |

информации, и, во-вторых, приводят к появлению интеллектуаль- у ного продукта. Проще говоря, с формально-правовой точки зрения

небиологический ИИ двусоставен - это имитационная когнитивная 227

компонента как процесс, растянутый во времени, и, как следствие, о

получаемое интеллектуальное достижение. в

Зададимся простым вопросом: по какой причине из всевозможных

определений ИИ для проведения в жизнь правовой политики в этой О

сфере общественных отношений было выбрано приведенное ранее? g Ответ на него вполне очевиден. Указ Президента РФ декларирует тот факт, что ИИ тесно связан с изучением работы encephalon, или мозга человека. По своей сути ИИ, использующий искусственную

нейронную сеть (ИНС), есть технологическая и математическая модель, построенная по образу и подобию нервной системы homo sapiens, которая вбирает в себя центральную (головной и спинной мозг) и периферическую подсистемы (соматика, вегетатика и др.). При этом нейробиологи полагают, что им, наконец, «удалось установить соответствие между отдельными отделами головного мозга и соединяющими их тканями и существующей теорией интеллектуальности, так называемой теменно-фронтальной теорией интеграции. Согласно этой теории, интеллект зависит от способности мозга интегрировать - собирать воедино - несколько разных типов потоков данных» [2].

Словом, человеческий мозг, получая зрительную, слуховую, обонятельную, вкусовую и осязательную информацию, сводит все в единое целое. Но элементарного сбора и механического соединения совокупности полученных сведений явно недостаточно для того, „о чтобы утверждать о появлении у человека интеллекта (одноклеточен ные зеленые водоросли, не имея интеллектуальных признаков, тоже прекрасно реагируют на внешние факторы, приводят в работу свои № жгутики, движутся в сторону света в поисках еды, образуют колонии, § окрашивая воду в специфический цвет) [3, с. 167]. oq Интеллект появляется в процессе комбинированного сбора и об-2 работки множества информационных потоков, обнаружения системных закономерностей и получения логически верных умозаключе-— ний. Это чрезвычайно сложное объединение всех познавательных § способностей индивида, к которым относится восприятие, память, jj воображение, мышление, воля, управление эмоциями и интуицией, § ведущее к появлению знания, соответствующего, по общему пра-^ вилу, действительности [4, с. 43-44]. При нарушении умственного функционала, например в силу возрастных изменений, у человека о наблюдается определенный симптоматический набор в виде трудно-g стей с восприятием текста, ориентацией в пространстве, снижается С планирование и организация дел, теряется критичность собственного восприятия и прочее. Мозг как бы «откатывается» назад в своем раз-228 витии, и перед нами объективно уже иной человек, отличный от того, ^ которого ранее знали родные, близкие и знакомые. CV Быть может, поэтому существует всем известная русская посло-® вица «старый, что малый, а малый, что глупый», коннотация которой ^ вполне ясна: человек по мере старения теряет свой интеллектуальный потенциал. Именитый нейробиолог Дик Франс Свааб более профессионально и детально описал этот неизбежный физиологический факт: «Жизнь можно представить аллегорически как лестницу, по которой мы сначала ступенька за ступенькой взбираемся в годы развития,

а затем и успешной карьеры, после чего, начиная с 50 лет, спускаемся вниз в процессе старения. Однако при старении мозга мы спускаемся не по новым ступеням, как при старении тела, а возвращаемся по тому же пути» [5, с. 450].

В связи со сказанным вернемся к анализу ИИ. Безусловно, его до- J

стоинство в том, что он после «50 лет не спускается вниз в процессе J

старения». Напротив, он развивается далее, самообучается за счет i

имманентной трансформации и налаживания внутренней структуры ^

нейронных сетей [6, с. 379-380]. Более того, в 2008 г. впервые была п

апробирована новая технология действия мемристора (устройство, |

изменяющее свое сопротивление в зависимости от памяти о про- §

шлом электрическом токе). После этого стало понятно, что указанное у

устройство по образу своей работы схоже с коммуникационным пред- ¡5

ю

назначением нейронного синапса, отвечающего за передачу нервного о импульса между клетками живого организма с участием комплекса ■§ нейромедиаторов. В последующем это позволило сделать шаг к по- J строению нейроморфной архитектуры ИИ, которая эффективно подражает деятельности encephalon. В начале 2022 г. было объявлено i о значительном продвижении вперед в этом вопросе, в частности f о создании экспериментального фотонного квантового мемристора, о что дало возможность осторожно заключить: «квантовая технология ¡¡5 способна обеспечить вычислительную мощность ИИ, недоступную | даже самому большому в мире суперкомпьютеру» [7]. о Отмеченное создает предпосылки перехода от слабого ИИ или О ИИ с ограниченной памятью, которые в целом фрагментарно запо- О минают различные сведения, а затем по заранее заданным параметрам g анализируют рамочную фактическую ситуацию, к сильному ИИ, | действительно имитирующему базовые когнитивные способности i homo sapiens в целях достижения результатов, аналогичных итогам О интеллектуальной деятельности человека (sic закреплено в Указе | Президента РФ). Ad notam, такой переход может быть сопряжен с ре- у ализацией познавательных элементов, например восприятие, память, мышление. Отсюда многочисленные споры о целесообразности при- 229 дания ИИ общей или специальной правосубъектности приобретают о не столько философское, сколько прикладное свойство [8, с. 39]. Ю

Так, одни авторы полагают, что пока нет надобности срочно

реагировать на проблематику, ведь «искусственный интеллект не об- О

ладает должной познавательной и мыслительной функцией. Это лишь | глобальный аналитический механизм, который компилирует мысли и программные коды», - замечает Е.Г. Авакян [9]. Иначе говоря, подобный интеллект внеантропоцентричен, а значит сама постановка

вопроса по поводу его субъектности и правосубъектности весьма сомнительна [10, с. 111].

Другие ученые придерживаются обратного мнения. Они активно обсуждают разные варианты специфического правового статуса ИИ [11, с. 76], в большинстве случаев приходя к выводу о том, что под субъектом права целесообразно понимать всех носителей юридических прав и обязанностей, а не только человека (например, юридические лица) [12, с. 165], или использовать концепцию квази-субъектности ИИ, которая предполагает, что недосубъекты в отличие от традиционных (подлинных) являются лишь уполномоченными, но не обязанными лицами в правоотношениях, поскольку не обладают собственной волей [13, с. 10; 14, с. 218-230].

Это весьма напоминает постмодернизм в той его части, которая обосновывает феномен деконструкции понятий через их расслоение .а и погружение в новый контекст [15, с. 169; 16, с. 174-187]. В ракурсе го исследуемой тематики имеет место деконструкция субъекта права и, как следствие, правосубъектности путем их помещения в обновленок ный discursus совокупности прав и обязанностей, материализуемых § субъектом вне полноты познавательных способностей, к которым сре-§ ди прочего относится воля [17, с. 14-30]. Последняя, что несомненно, 2 суть компонента картины возникновения, изменения или прекращения ^ любого правоотношения (в особенности цивилистического) с участи— ем субъекта права. Недаром Ф. К. Савиньи писал, чтобы гражданское § правовое отношение было явным, нужно выяснить наличие воли, ее ^ изъявление, а также корреляцию волеизъявления [18, с. 99]. Стало § быть, деконструкция правосубъектности вне деконструкции понятия ^ «субъект права» не имеет особого смысла, поскольку в данном случае

причина существеннее следствия. о Впрочем, квинтэссенция субъекта права или квазисубъекта не яв-^ ляется сущностно инновационной. Римские юристы давно ее выявили С и аргументировали общую тезу о мультисубъектности, а также о том, что поскольку для квазилица характерно уполномочивание без воз-230 ложения обязанности, то подобающую обязанность несет реальный ^ субъект правоотношения. Так, римская казуистика элегантно нивели-СЧ ровала утилитарные сложности в области догматики применяемого ® закона [19, с. 424], а заодно и потребность в деконструкции ключевого ^ понятия «субъект права»1. Достаточно вспомнить Дигесты Юстиниана в части внедоговорных обязательств, «если раб нанесет оскорбление

1 Правда, особой нужды в этом не было, поскольку римляне, не знавшие понятия «юридическое лицо», не приравнивали «субъект права» полностью к человеку, таковым могли выступать другие участники социальной реальности, такие как различные общественные, религиозные, торговые и прочие коллективные организации.

по приказу господина, то, конечно, к господину можно будет направить иск»; или actio quod iussu, т.е. требование, предъявлявшееся к господину, если подвластный сын или раб заключали договор с третьим лицом по повелению своего владыки [20].

В этом смысле правовое положение ИИ становится тождествен- J

ным или близким тому, которое было у римских коллективных орга- J

низаций либо раба, домочадцев, детей, в том числе filius in potestate tua 4

est. Следовательно, за действия ИИ ответственность несет собствен- ^ ник или пользователь небиологического

post factum одобрить подобные действия, например конвалидировать |

сделки ex tunc, если это санкционируется законом [21, с. 11]. Но как g

бы то ни было, о суверенной правосубъектности ИИ в данном случае у

речь не идет (если только за основу суждений не принять абсолюти- ¡5

зированную тезу о внеантропологичной мультисубъектности). Это ^

касается как материальной, так и процессуальной правосубъектности, 5

подразумевающей, что лицо есть не только полноценный носитель J

определенных прав и обязанностей, но и их автономный распоряди- f

тель, и как следствие, такое лицо способно нести ответственность за 4

свой осознанный выбор и реализованные во вне решения. Как пра- f

вильно отмечает В. В. Груздев, «правоспособность и дееспособность §

- это конкретные юридические формы, в которые облечена волевая ¡

способность лица в данный момент времени» [22, с. 116]. |

Причем касательно процессуальной правосубъектности все |

обстоит еще более категорично, коль скоро судопроизводственные §

общественные отношения (в отличие от материальных) в силу своей §

публично-правовой юридической природы, как правило, не при- л

емлют quasi construction. Например, нельзя быть квазиистцом или ^

квазиответчиком, и тем более «как бы судьей». Максимум допустимо 4

являться презюмируемым истцом либо ответчиком с последующей I

гипотетической заменой лица в охранительном правоотноше- |

нии [23, с. 197]. Но это не распространяется на представителей у Фемиды, так как они в особом порядке наделяются государством

не ординарной, а специальной или профессионально-ролевой право- 231

субъектностью, позволяющей им претворять в жизнь полномочия pro о

imperio применительно ко всем прочим субъектам процессуальных в правоотношений [24, с. 42]. Промежуточных правовых категорий

с приставкой квази здесь априори быть не может, как это иногда §

наблюдается в частноправовых взаимосвязях, свободных от власти | и подчинения.

Это означает, что если ИИ в перспективе будет располагать такими важными познавательными компонентами как восприятие,

память, мышление и воля, то до тех пор, пока отечественный законодатель не примет принципиального решения о делегировании ИИ специальной процессуальной правосубъектности, небиологическому интеллекту ex officio не дозволяется отправлять правосудие по гражданским, административным или уголовным делам, как это предлагают отдельные правоведы [25, с. 90-95]. Пока его роль может ограничиваться сугубо технологическими и техническими задачами, включающими в себя автоматизированное распределение дел в судах, прогнозирование поведения участников судебного производства (в том числе predictive justice), обработку документации, вычисление и пр. [26, с. 91-93].

Наряду с этим нельзя забывать и о том, что в идеале сильный ИИ должен будет полностью моделировать и имитировать когнитивные функции homo sapiens и в той неотъемлемой части, которая имену-„о ется «эмоциональный интеллект», ведь именно он дает возможность го человеку гибко считывать эмоции и латентную поведенческую мотивацию, переживать и сопереживать, выражать свое субъективное № отношение к чему-либо и многое иное. Это особенно важно при § отправлении правосудия, в частности, когда судья оперирует оценоч-oq ными качественными, количественными, морально-ценностными или 2 нравственными [27, с. 12] паттернами [28, с. 4; 29, с. 37-50], такими как добросовестность и разумность действий, злоупотребление правом — (ст. 10 ГК РФ), компенсация морального вреда (ст. 151 ГК РФ), основы § нравственности (ст. 169 ГК РФ), степень заботливости и осмотритель-5 ности (ст. 401 ГК РФ), особо ценные объекты культурного наследия § (ст. 243 УК РФ), справедливость при рассмотрении административных ^ дел (ст. 9 КАС РФ), разумный срок судопроизводства и исполнения судебного постановления (ст. 6.1. ГПК РФ) и др.

CQ

О Вместе с тем в Российской Федерации уже начался эксперимент g прикладного характера по применению ИИ в судебной системе. С Пилотный проект, запущенный в 2021 г. в Белгородской области, предусматривает использование ИИ при вынесении мировыми су-232 дьями судебных приказов по бесспорным требованиям, при том что ^ полноценная законодательная база для этого пока еще отсутствует, CV что лишний раз подтверждает актуальность проблемы правосубъект-® ности ИИ, а также его оперативного и перспективного легального регламентирования [30].

В связи со сказанным В.В. Момотов верно подчеркивает: «Специфика судейской работы, связанная с умением не только применять и понимать закон, изучать и определять роль различных факторов при принятии решения, но и учитывать в некоторых случаях

психологические и даже этические аспекты, делает такую работу непосильной для искусственного интеллекта» [31, с. 190]. Думается, что со временем ИИ приобретет и эти антроподобные интеллектуальные навыки, стало быть, в этом случае особую актуальность в рамках реализации правовой политики приобретет новое процессуальное J начало - принцип пользовательского контроля 1, о котором говорит J Европейская этическая хартия об использовании искусственного интеллекта в судебных системах [32], суть которого юридической науке а и практике еще только предстоит всесторонне осмыслить и уяснить. В

о Sc

Список литературы: §

1. О развитии искусственного интеллекта в Российской Федерации I (вместе с Национальной стратегией развития искусственного интеллекта | на период до 2030 года) : указ Президента РФ от 10 октября 2019 г. № 490 // « Собр. законодательства Рос. Федерации. - 2019. - № 41, ст. 5700. |

2. Ученые нашли области мозга, отвечающие за уровень интеллекта. - I URL: https://rg.ru/2010/02/24/mozg-anons.html (дата обращения: 26.03.2022). g

3. Савельев, С.В. Происхождение мозга / С.В. Савельев. - М. : ВЕДИ, щ 2005. - 368 с. I

4. Гамова, Л.Г. Физиология спинного и головного мозга : учеб.-метод. пособие / Л.Г. Гамова. - Елец : ЕГУ им. И.А. Бунина, 2010. - 61 с. "

5. Свааб, Д. Ф. Мы - это наш мозг: от матки до Альцгеймера / Д.Ф. Свааб. ^

- СПб. : Изд-во Ивана Лимбаха, 2013. - 544 с. |

6. Джоши, П. Искусственный интеллект с примерами на Python / § П. Джоши. - СПб. : Вильямс, 2019. - 448 с. g

7. Исследователи из Венского университета демонстрируют квантовый s процессор с фотонными цепями. - URL: https://www.hpcwire.com/off-the-wire/ S university-of-vienna-researchers-demonstrate-quantum-processor-with-photonic- J circuits/ (дата обращения: 26.03.2022). Щ

8. Залоило, М.В. Искусственный интеллект в праве / М.В. Залоило. §

- М. : Инфотропик Медиа, 2021. - 132 с. g

9. В погоне за сверхразумом: можно ли считать искусственный интеллект 1 автором. - URL: https://rg.ru/2020/02/06/v-pogone-za-sverhrazumom-mozhno- | li-schitat-iskusstvennyj-intellekt-avtorom.html (дата обращения: 27.03.2022).

10. Тарасов, И.Н. Теоретические проблемы использования технологии искусственного интеллекта в цивилистическом судебном процессе

233

/ И.Н. Тарасов, И.Н. Синицын // Актуальные проблемы гражданского

и административного судопроизводства / под ред. В.В. Яркова. - М., 2021. ^

- С. 111-113. ®

11. Морхат, П. М. Правосубъектность юнитов искусственного интеллекта. ^ Гражданско-правовое исследование / П.М. Морхат. - М. : ЮНИТИ-ДАНА, s 2018. - 113 с. В

__ГО

1 Согласно данному принципу, судья должен обладать возможностью не согласиться с решением, предложенным ИИ, и принять собственное решение по делу; любому участнику дела должно быть предоставлено право прямого обращения к суду без применения ИИ, а равно право оспорить решение, принятое посредством ИИ.

12. Никитенко, С.В. Трансформация субъекта права в связи с развитием искусственного интеллекта / С.В. Никитенко // Научно-практические исследования. - 2020. - № 5 (28). - С. 164-169.

13. Пономарева, Е.В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения : дис. ... канд. юрид. наук / Е.В. Пономарева.

- М., 2019. - 208 с.

14. Крысанова, Н.В. Правосубъектность искусственного интеллекта: дискуссии в отечественных и зарубежных исследованиях / Н.В. Крысанова // Право, цифровые технологии и искусственный интеллект : сб. ст. / отв. Е.В. Алферова. - М., 2021. - С. 218-230.

15. Деррида, Ж. О грамматологии / Жак Деррида. - М. : Ad Marginem, 2000. - 511 с.

16. Тарасов, А.Н. Теория деконструкции как философско-теоретическая основа эстетики постмодернизма / А.Н. Тарасов // Философия и общество.

- 2009. - № 1. - С. 174-187.

17. Степанов, С.К. Деконструкция правосубъектности или место искусственного интеллекта в праве / С. К. Степанов // Цифровое право. - 2021.

£ - Т. 2, № 2. - С. 14-30.

jj 18. Savigny, F. C. System des heutigen römischen Rechts / F.C. Savigny. -

* Bd. 3. - Berlin, 1840. - 489 S.

CJ 19. Зайков, А.В. Римское частное право в систематическом изложении :

0Q учебник / А.В. Зайков. - М. : Русский фонд содействия образованию и на-00 уке, 2012. - 480 с.

сЕ 20. Дигесты Юстиниана. - URL: https://www.gumer.info/bibliotek_Buks/ ^ Pravo/digest/47.php (дата обращения: 26.03.2022).

^ 21. Правовые аспекты использования искусственного интеллекта:

§ актуальные проблемы и возможные решения (доклад) / В. Б. Наумов, ¡S С.А. Чеховская, Ю.А. Брагинец и др. - М. : ИД ВШЭ, 2021. - 42 с.

22. Груздев, В.В. О сущности гражданской правосубъектности / О В.В. Груздев // Актуальные проблемы российского права. - 2018. - № 2 с (87). -С. 113-121.

^ 23. Бюлов, О. Учение о процессуальных возражениях и процессуальные

§ предпосылки / О. Бюлов. - М. : Статут, 2019. - 240 с.

® 24. Ермошин, Г. Т. Статус судьи в Российской Федерации : дис. ... д-ра

юрид. наук / Г.Т. Ермошин. - М., 2016. - 525 с.

25. Чувахин, П. И. Правовые вопросы функционирования системы электронного правосудия / П.И. Чувахин // Экономика. Право. Общество. -2021. - Т. 1, № 2 (26). - С. 90-95. . 26. Цветков, Ю.А. Искусственный интеллект в правосудии /

С^ Ю.А. Цветков // Закон. - 2021. - № 4. - С. 91-93.

234

27. Еллинек, Г. Борьба старого права с новым / Георг Еллинек. - М. : К-во Заратустра, 1908. - 52 с. «V 28. Абушенко, Д.Б. Судебное усмотрение в гражданском процессе : авто-

реф. дис. ... канд. юрид. наук / Д.Б. Абушенко. - Екатеринбург, 1998. - 23 с.

29. Голубцов, В.Г. Оценочные понятия в российских кодификациях гражданского права / В.Г. Голубцов // Lex russica. - 2019. - № 8 (153). - С. 37-50.

30. В России начали применять ИИ при вынесении судебных решений. - URL: https:// https://www.kommersant.ru/doc/4827207 (дата обращения: 27.03.2022).

31. Момотов, В.В. Искусственный интеллект в судопроизводстве: состояние, перспективы использования / В.В. Момотов // Вестник университета им. О.Е. Кутафина (МГЮА). - 2021. - № 5. - С. 189-191.

32. Европейская этическая хартия об использовании искусственного интеллекта в судебных системах. - URL: https://rm.coe.mt/presentation-note-en-for-publication-4-december-2018/16808f699d (дата обращения: 27.03.2022).

3

Ü а

I

I

ту

235