CC BY
76
КИБЕРПРОСТРАНСТВО
CYBERSPACE
DOI: 10.17803/1729-5920.2021.179.10.137-146
И.Н.Спицин*
Юридизация понятия «искусственный интеллект» и пределы использования технологии искусственного интеллекта в судебном процессе
Аннотация. Активное развитие технологии искусственного интеллекта (ИИ) ставит перед юристами вопросы о способах интеграции этого явления в правовую действительность, о пределах использования этой технологии в регулируемых правом социальных практиках и в конечном счете о выработке оптимальной модели правового регулирования ИИ. В статье уделено внимание проблеме формулирования юридического понятия ИИ, включая некоторые методологические и онтологические основания. Автор выносит на научное обсуждение отдельные, значимые для правового регулирования инвариативные характеристики ИИ, которые в случае их принятия юридическим научным сообществом могли бы использоваться как научно обоснованный базис для конструирования конкретных вариантов правового регулирования, соответствующих потребностям той или иной сферы социальной практики. Автор полагает, что научно обоснованное юридическое понятие ИИ во многом способно определить направление и рамки прикладных юридических исследований многоаспектной проблематики использования технологии ИИ в практиках социальных взаимодействий, в том числе при отправлении правосудия, отграничить связанные с этим собственно юридические вопросы и проблемы от вопросов этического, философского, технологического и иного характера.
По мнению автора, задача формирования юридического понятия ИИ не сводится к формулированию конкретных легальных определений и не может быть решена на этом уровне. Результатом юридизации понятия ИИ должен стать набор неизменных (инвариативных) правовых характеристик, в то время как конкретные варианты определений этого термина в нормативных актах могут различаться в зависимости от потребностей практики правового регулирования. В работе по формированию юридически значимого понятия ИИ предлагается отказаться от дескриптивного эссенциалистского подхода, направленного на выявление сущности ИИ, в пользу аскриптивного конструктивистского подхода, предполагающего приписывание содержанию понятия ИИ тех правовых свойств, которые, с одной стороны, значимы для целей правового регулирования, а с другой — ограничивают пределы правового регулирования. Ключевые слова: искусственный интеллект; правовое регулирование; правосудие; судебный процесс; технологии; юридизация; методология.
Для цитирования: Спицин И. Н. Юридизация понятия «искусственный интеллект» и пределы использования технологии искусственного интеллекта в судебном процессе // Lex russica. — 2021. — Т. 74. — № 10. — С. 137-146. — DOI: 10.17803/1729-5920.2021.179.10.137-146.
© Спицин И. Н., 2021
* Спицин Игорь Николаевич, кандидат юридических наук, доцент кафедры гражданского права Уральского государственного юридического университета Комсомольская ул., д. 21, г. Екатеринбург, Россия, 620137 spicigor@mail.ru
LEX IPS»
Juridification of the Concept of "Artificial intelligence" and the Limits of the Use of Artificial Intelligence Technology in the Judicial Process
Igor N. Spitsin, Cand. Sci. (Law), Associate Professor, Department of Civil Law, Ural State Law University
ul. Komsomolskaya, d. 21, Ekaterinburg, Russia, 620137
spicigor@mail.ru
Abstract. The active development of artificial intelligence (AI) technology poses the question of how to integrate this phenomenon into legal reality, about the limits of using this technology in social practices regulated by law, and ultimately about developing an optimal model of legal regulation of AI. The paper focuses on the problem of developing the legal content of the concept of AI, including some methodological and ontological foundations of such work. The author brings to the scientific discussion certain constant characteristics of AI that are significant for legal regulation, which, if adopted by the legal scientific community, could be used as a scientifically sound basis for constructing specific variants of legal regulation that meet the needs of a particular sphere of social practice. The author believes that the scientifically based legal concept of AI is largely able to determine the direction and scope of applied legal research on the multidimensional problems of using AI technology in social interaction practices, including in the administration of justice, to distinguish the legal issues and problems related to this from ethical, philosophical, technological and other issues.
According to the author, the task of forming the legal concept of AI is not limited to the formulation of specific legal definitions and cannot be solved at this level. The result of the juridification of the concept of AI should be a set of unchangeable (constant) legal characteristics, while specific definitions of this term in regulations may differ depending on the needs of legal regulation practice. In the work on the formation of a legally significant concept of AI, it is proposed to abandon the descriptive essentialist approach aimed at identifying the essence of AI in favor of an ascriptive constructivist approach, which involves attributing to the content of the concept of AI those legal properties that, on the one hand, are significant for the purposes of legal regulation, and on the other hand, limit the limits of legal regulation.
Keywords: artificial intelligence; legal regulation; justice; judicial process; technologies; juridification methodology. Cite as: Spitsin IN. Yuridizatsiya ponyatiya «iskusstvennyy intellekt» i predely ispolzovaniya tekhnologii iskusstvennogo intellekta v sudebnom protsesse [Juridification of the Concept of "Artificial intelligence" and the Limits of the Use of Artificial Intelligence Technology in the Judicial Process]. Lex russica. 2021;74(10):137-146. DOI: 10.17803/1729-5920.2021.179.10.137-146. (In Russ., abstract in Eng.).
Введение
В философии искусственного интеллекта принято различение слабого и сильного ИИ1. В статье речь пойдет о слабом ИИ. Обсуждение правовых аспектов функционирования сильного ИИ представляется преждевременным, поскольку его создание является научно-технической проблемой, принципиальная возможность удачного решения которой на сегодняшний день остается дискуссионной.
В октябре 2019 г. утверждена Национальная стратегия развития ИИ в Российской Федерации на период до 2030 года2. Вслед за ней в августе 2020 г. утверждена Концепция развития регулирования отношений в сфере технологий ИИ и робототехники до 2024 года3 (далее — Концепция).
В качестве целей Концепции обозначены определение подходов к правовому регулированию использования ИИ в различных сферах социальных отношений и создание предпо-
Searle J. R. Is the Brain's Mind a Computer Program? // Scientific American. 1990. Vol. 262. № 1. January. P. 20-25 ; Stuart J. Russel S. J., Norvig P. Artificial Intelligence: А Modern Approach. 3rd ed. Prentice Hall, 2010. P. 1020-1034.
Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации».
Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года».
1
2
Спицин И. Н.
Юридизация понятия «искусственный интеллект» и пределы использования технологии искусственного интеллекта.
сылок для формирования основ такого правового регулирования. При этом Концепцией обозначен целый ряд проблем регулирования отношений в сфере ИИ, в числе которых, как представляется, есть и проблемы, которые могут быть вписаны в процессуальный контекст отправления правосудия, а именно:
1) вопрос о возможности правового делегирования принятия решений системам ИИ (концептуальная проблема правового характера);
2) использование для принятия решений системами ИИ вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения;
3) соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем ИИ;
4) задачи разработки и уточнения терминов и определений в сфере технологий ИИ. Представляется, что обозначенные проблемы могут быть сведены к вопросам более общего теоретического характера:
1) к проблеме выработки юридического понятия ИИ (юридизация понятия ИИ);
2) к проблеме определения пределов использования технологии ИИ в судебном правоприменении.
1. Юридизация понятия ИИ
В Концепции обращается внимание на отсутствие однозначного понимания термина ИИ и на то, что это приводит к терминологическим проблемам при формировании основ правового регулирования. В то же время при решении этой проблемы предлагается:
1) ориентироваться на вариативность конкретных дефиниций в зависимости от отрасли применения технологии ИИ;
2) по возможности избегать внедрения в российское законодательство единого для всех отраслей нормативного определения термина.
Представляется, что проблема лежит несколько глубже формулирования легальных дефиниций в нормативных актах (кстати, такие дефиниции уже есть4). Прежде чем предлагать конкретные формулировки определения термина, необходимо определиться с самой концепцией ИИ, которая может быть использована в праве, понять, что представляет собой ИИ не столько и не только с технической точки зрения, но и с правовой, осознать, каким образом вписать это новое для права явление в систему общепринятых юридических концептов, как относиться к ИИ с точки зрения права и какое место отвести рассматриваемому явлению в юридической таксономии. Юридизировать понятие ИИ означает коцептуализировать данное явление в системе специфических понятий и категорий, которыми оперирует профессиональное сознание юриста. Конкретные дефиниции действительно могут быть разными в зависимости от целей их конструирования, однако, как представляется, прежде чем говорить о вариантах дефиниций термина ИИ, нужно определить инвариативные характеристики, поскольку инвариант задает рамки правового регулирования и допустимые пределы вариативности определений. Такой инвариант должен быть научно обоснованным, так как именно научный подход позволяет принимать во внимание методологические и онтологические основания анализа.
И. Н. Тарасовым высказано и аргументировано мнение, что использование определений ИИ, базирующихся на описании технико-технологических характеристик, в юриспруденции бесполезно, поскольку не оказывает на правовое регулирование никакого влияния, и что инкорпорация ИИ в правовую действительность требует либо самостоятельного термина для его обозначения в плоскости права, либо наполнения понятия специфическим юридическим содержанием, при этом разработка понятийно-категориального аппарата по правилам и с учетом науки права есть необходимое условие для эффективного и корректного правового регулирования5. Не вполне соглашаясь с утвержде-
Например: Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» ; приложение III (глоссарий) к Европейской этической хартии по вопросам использования искусственного интеллекта в судебных и смежных системах.
Spitsin I. N., Tarasov I. N. The Use of Artificial Intelligence Technologies in Judicature: Challenges of Legal Regulation // Advances in Social Science, Education and Humanities Research. Vol. 420 : XVII International Research-to-Practice Conference dedicated to the memory of M. I. Kovalyov (ICK, 2020). P. 174-178.
4
5
да трэж
нием относительно использования самостоятельного термина (все-таки выбор означающего здесь может быть произвольным), в полной мере разделяю мнение И. Н. Тарасова о необходимости теоретических разработок, направленных на собственно юридическое осмысление ИИ, способов его интеграции в правовую действительность. Возможно, утверждение о полной бесполезности определений ИИ, базирующихся на описании его технико-технологических характеристик, слишком категорично, но во всяком случае такие определения не следует переносить в сферу права без предварительного теоретического анализа возможности, способов и пределов их использования для целей правового регулирования.
1.1. Методологические основания
юридизации понятия ИИ
В литературе, посвященной методологии юридической науки, отмечается, что юридические понятия формируются по-разному6. Во-первых, это могут быть органические понятия, которые формируются в результате профессиональной рефлексии над юридической практикой или ее доктринального оформления либо возникают как результат теоретической организации правовой действительности, ее концептуализации в рамках определенной юридической теории. Как в первом, так и во втором случае такие понятия изначально представляют собой продукт юридического мышления. Во-вторых, это могут быть ассоциированные правом понятия, возникающие в неюридических сферах мышления и практики и вовлекающиеся в юридический оборот без изменения их объема и содержания. Такие понятия не имеют собственно юридического содержания. В-третьих, это могут быть консолидированные правом понятия, возникающие в неюридических сферах знания, однако впоследствии адаптируемые к потребностям юридической практики, в связи с чем их содержание изменяется и приобретает специфический юридический характер. Понятие, таким образом, юридизируется.
Очевидно, что понятие «искусственный интеллект» не является органически правовым, однако оно вовлекается в юридический оборот. Следовательно, нам нужно либо относиться к
нему как к ассоциированному, либо консолидировать его.
Концепция правового регулирования отношений в сфере ИИ исходит из ассоциации этого понятия (разд. 6): предлагается построить и гармонизировать онтологию предметной области силами экспертного сообщества и профильных технических комитетов при Федеральном агентстве по техническому регулированию и метрологии Российской Федерации; там, где это необходимо, использовать для правового регулирования определения, содержащиеся в документах по стандартизации, либо давать определения, актуальные конкретно для этой сферы регулирования.
На мой взгляд, сами по себе технические характеристики мало что дают для целей органичного вписывания ИИ как явления в правовую действительность. Хотя как паллиативное решение это вполне допустимо. Возможно, стоит попытаться консолидировать неюридическое понятие ИИ в право, вдохнуть в него юридическое содержание. Кстати, стремление юристов консолидировать понятие ИИ прослеживается в научной литературе, хотя такое стремление не исключает случаев обильного заимствования, включения в содержание разрабатываемого юридического понятия технических аспектов7.
Каким образом консолидировать понятие ИИ в право? Здесь может быть два подхода: эссенциалистский и конструктивистский.
Эссенциалистский подход предполагает стремление выявить и зафиксировать в понятии сущность исследуемого явления, определить, «схватить» в юридическом понятии «чтойность» искусственного интеллекта. Такой подход неявно предполагает, что есть некоторая неизменная сущность ИИ, которая может и должна быть выявлена юристами и зафиксирована в соответствующем юридическом понятии. Эссенциалистский подход описывает свойства искусственного интеллекта, он дескриптивен.
Конструктивистский подход подразумевает отказ от стремления к анализу, выявлению и репрезентации в юридическом понятии сущности искусственного интеллекта. Этот подход не описывает сущность, но приписывает свойства, он аскриптивен. Юридическое понятие искусственного интеллекта здесь может совершенно
6 О различных способах формировании понятий в праве см.: Тарасов Н. Н. Методологические проблемы юридической науки. Екатеринбург, 2001. С. 158-169.
7 Например: Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук. М., 2018. С. 92-93.
спицин И. н.
Юридизация понятия «искусственный интеллект» и пределы использования технологии искусственного интеллекта.
не совпадать с его технологическим содержанием. Этот подход представляется мне более перспективным с практической точки зрения.
Эссенциалистский подход приводит к активному включению в содержание предлагаемых представителями юридической науки дефиниций понятия «искусственный интеллект» различных признаков технологического характера8, что свойственно скорее ассоциации, а не консолидации этого понятия. В рамках этого же подхода возникает дискуссия о наделении искусственного интеллекта признаком субъ-ектности (о ней пойдет речь ниже), когда такая возможность обсуждается с позиций оценки когнитивных свойств искусственного интеллекта9. В то же время представляется, что мы, юристы, не можем сказать ничего о сущности искусственного интеллекта, поскольку это изначально не юридическое, а технологическое явление, однако мы можем приписать искусственному интеллекту те юридически значимые свойства, которые соответствуют задачам правового регулирования.
Конструктивистский подход утилитарен. Если необходимо включить технологию искусственного интеллекта в юридический оборот, для этого не требуется выявления технологической сущности данного явления, но достаточно приписывания искусственному интеллекту тех значимых с точки зрения права свойств, кото-
рые обслуживали бы реализацию определенных практически значимых задач.
Таким образом, представляется, что консолидация понятия ИИ правом может и должна проходить в рамках утилитарно-конструктивистского, а не эссенциалистского подхода.
1.2. Онтологические основания
консолидации понятия ИИ в право
Ключевой вопрос, который явно или неявно поднимается в юридической литературе применительно к онтологическому юридическому статусу ИИ, — это вопрос субъектности. Нередко исследователи в области юриспруденции обращают внимание на субъектность ИИ, прямо или косвенно включая этот признак в содержание разрабатываемого понятия ИИ. Обосновываются такие предложения либо через аргументы утилитарного характера (необходимость включения ИИ в юридический оборот), либо через попытки выявить сущность ИИ, конституирующую субъектность10; иногда такие предложения не обосновываются вовсе, но предлагаются de lege ferenda (проект закона Гришина)11.
Для того чтобы включить явление в правовой оборот, необязательно приписывать свойства субъектности; не следует отождествлять субъекта права и субъекта деятельности. По справедливому замечанию профессора С. И. Архипова, субъект права не обязательно
Например: Морхат П. М. Указ. соч. С. 92-93 ; Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия : Юридические науки. 2018. Т. 22. № 1. С. 94-95.
Дурнева П. Н. Искусственный интеллект с точки зрения классической теории правосубъектности // Гражданское право. 2019. № 5. С. 30-33.
О вариантах постановки вопроса субъектности ИИ см., например: Афанасьев С. Ф. К вопросу о законодательном регулировании искусственного интеллекта // Российская юстиция. 2020. № 7. С. 46-49 ; Бахтеев Д. В. Искусственный интеллект: этико-правовые основы : монография. М., 2020. С. 118-125 ; Васильев А. А., Шпопер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7-8. С. 35-44 ; Васильев А. А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского государственного университета. 2018. № 6 (104). С. 23-26 ; Морхат П. М. Искусственный интеллект: правовой взгляд : научная монография. М., 2017. С. 127-168 ; Незнамов А. В. Ключевые дискуссионные направления развития правового регулирования технологий искусственного интеллекта и робототехники // Право и технологии: в поисках баланса : сборник статей / под ред. К. Л. Брановицкого. Екатеринбург, 2019. С. 161-171 ; Ястребов О. А. Искусственный интеллект в правовом пространстве // Вестник Российского университета дружбы народов. Серия : Юридические науки. 2018. Т. 22. № 3. С. 315-328 ; Он же. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. Т. 13. № 2. С. 36-55.
Предложенный Д. С. Гришиным проект закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» (п. 3 ст. 127.1, п. 1 ст. 127.5, ст. 127.1) // URL: http://robopravo.rU/matierialy_dlia_skachivaniia#ul-id-4-35.
8
9
10
11
LEX RUSSICA
должен отождествляться с участником правоотношений, с осуществляемой им правовой ролью12. В этом смысле технология искусственного интеллекта в случае необходимости может выполнять отведенную ей человеком правовую роль и без статуса субъекта права. Если же связывать субъектность с когнитивными свойствами, то мы попадаем в предметное поле общей теории права и философии ИИ.
С позиций общей теории права возникает вопрос о признаках, конституирующих юридическую субъектность. Применительно к человеку субъектность, как правило, обосновывается либо через атрибутивные свойства сознания (воля, способность к мышлению, способность к автономному принятию решений, самосознание), либо посредством аксиологического подхода. В первом варианте мы не можем утверждать, что слабый ИИ мыслит, по этому поводу представители философии ИИ ведут давнюю дискуссию13. Более того, некоторые авторитетные исследователи отрицают возможность положительного ответа на вопрос о сознании даже с учетом перспективы создания сильного ИИ14. Наконец, сама научная концепция сознания все еще остается в известной степени неопределенной: по меткому замечанию профессора Е. А. Мамчур, на вопрос о том, что такое сознание, на сегодняшний день однозначно не способен ответить никто15. Применительно к праву такой подход, кроме всего прочего, не может считаться универсальным. Например, человек, не обладающий всей полнотой ментальных свойств, не перестает быть субъектом права (недееспособные), в то же время некоторые животные, такие как высшие приматы,
не наделяются юридической субъектностью, несмотря на то что они демонстрируют отдельные ментальные свойства, характерные и для человека (наличие психологических реакций, способность к самоидентификации, к эмпатии и др.)16. Что касается аксиологического подхода, где на первый план выходят аргументы этического характера и где отношение к человеку как к признаваемой правом социальной ценности является достаточным и предельным основанием для наделения его статусом субъекта17, то, очевидно, данный подход неприменим к искусственному интеллекту по причине отношения к нему как к средству, по причине его служебного характера18. Кроме того, серьезному обсуждению вопроса субъектности ИИ в рамках этого направления препятствует антропоцентризм права. Размышлять о субъектности ИИ означает стремиться преодолеть антропоцентризм права, что само по себе сомнительно (более развернутая аргументация изложена в другой публикации автора19). Отношение к слабому ИИ — это отношение к средству, а не к ценности, в то время как статус субъекта права предполагает отношение к нему как к самодостаточной ценности, а не как к средству.
В отличие от эссенциалистского, утилитарно-конструктивистский подход к определению юридического содержания понятия «искусственный интеллект» позволяет преодолеть все обозначенные дискуссионные аспекты. Так, с позиций утилитарного конструктивизма деактуализируется вопрос о наличии у искусственного интеллекта ментальных свойств, воспроизводящих или имитирующих отдельные когнитивные способности сознания чело-
12 Архипов С. И. Субъект права: теоретическое исследование. СПб., 2004. С. 31-38.
13 Например: Searle J. R. Op. cit. P. 20-25 ; Stuart J., Russel S. J., Norvig P. Op. cit. P. 1020-1034 ; Turing A. M. Computing Machinery and Intelligence // Mind, New Series. 1950. Vol. 59. № 236. October. P. 433-460 ; Churchland P. M., Churchland P. S. Could a Machine Think? // Scientific American. 1990. Vol. 262. № 1. January. P. 26-31.
14 Searle J. R. Op. cit. P. 20-25.
15 Мамчур Е. А. Образы науки в современной культуре : научная монография. М., 2008. С. 144-146.
16 Brozek B. The Troublesome «Person» // Legal Personhood: Animals, Artificial Intelligence and the Unborn / V. A. J. Kurki, T. Pietrykowski (ed.). Springer International Publishing AG, 2017. P. 7-8. .
17 Архипов С. И. Субъект права: теоретическое исследование. СПб., 2004. С. 99-105 ; Он же. Современные проблемы юридической науки : учебное пособие. Екатеринбург, 2019. С. 128-132.
18 The CEPEJ European Ethical Charter on the use of artificial intelligence in judicial systems and their environment // URL: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c (дата обращения: 15.07.2021).
19 Spitsin I. N., Tarasov I. N. Op. cit. P. 174-178 ; Спицин И. Н., Тарасов И. Н. Использование искусственного интеллекта при отправлении правосудия: теоретические аспекты правовой регламентации (постановка проблемы) // Актуальные проблемы российского права. 2020. Т. 15. № 8 (117). С. 96-107.
спицин И. н.
Юридизация понятия «искусственный интеллект» и пределы использования технологии искусственного интеллекта.
века. Право регламентирует не мышление, а поведение. В этой связи неважно, мыслит ли искусственный интеллект или только имитирует мышление, насколько полна эта имитация, достаточна ли она для постановки вопроса о субъектности и т. д. Важно, что искусственный интеллект способен к автономному рациональному действию — принятию решений без вмешательства оператора. По причине антропоцентризма права снимается вопрос о субъектности искусственного интеллекта. Технология искусственного интеллекта в случае необходимости может выполнять отведенную ей человеком правовую роль и без статуса субъекта права. Здесь же утрачивают значимость и многочисленные технологические аспекты понятия «искусственный интеллект», поскольку они не имеют значения для правового регулирования использования данной технологии в юридической практике. Технологический характер может быть просто констатирован юристами, без раскрытия в содержании понятия его сущности, только чтобы подчеркнуть антропогенный характер искусственного интеллекта, но и это кажется избыточным, поскольку само по себе понятие технологии предполагает, включает в себя этот признак. Таким образом, все эти вопросы не только перестают быть дискуссионными, они просто снимаются с актуальной повестки.
При конструировании научно обоснованного инварианта юридического понятия «искусственный интеллект» важным представляется не столько формулирование конкретного определения, сколько фиксация ключевых, имеющих значение для правового регулирования характеристик, поскольку именно эти характеристики будут оставаться неизменными при формулировании вариантов конкретных нормативных дефиниций. С учетом приведенной выше аргументации полагаем, что такими характеристиками могли бы быть:
1) способность технологии ИИ к автономному рациональному действию (самостоятельное принятие решений без вмешательства оператора);
2) объектность технологии ИИ (понятая как принципиальная ориентация на отсутствие у искусственного интеллекта правоспособности);
3) служебный характер искусственного интеллекта (понятый как ограниченность целей и задач функционирования ИИ потребностями человека).
2. Пределы использования технологии ИИ в судебном правоприменении
Возможно ли доверить судебное правоприменение не субъекту права? Может ли ИИ выполнять функции правоприменения в судебном процессе? Такая постановка вопроса позволяет избежать хорошо известной в процессуальной доктрине дискуссии о пределах значения понятия «правосудие»: охватывается ли понятием «правосудие» судебное правоприменение, не связанное с разрешением споров о праве (приказное производство, особое производство).
Полагаю, что на первый вопрос можно ответить положительно, а на второй — отрицательно. Аргументы моей позиции следующие.
Судебное правоприменение требует не только формальных действий, но и содержательного юридического мышления, в том числе работы с оценочными категориями. Даже в бесспорных производствах судья оценивает письменные доказательства по своему внутреннему убеждению, реализуя судебное усмотрение, квалифицирует правоотношение, оценивает его на предмет бесспорности и т. д. В судебном процессе реализован принцип свободной, а не формальной оценки доказательств. Все это требует оперирования специфическими юридическими смыслами.
В отличие от человека, ИИ не способен оперировать смыслами. Еще в начале 80-х гг. прошлого века известный специалист в области философии ИИ Дж. Сёрл в мысленном эксперименте «китайская комната»20 убедительно продемонстрировал, что ИИ оперирует исключительно синтаксисом, а не семантикой. Пространство активности ИИ — это сфера голой формы без какого бы то ни было содержания. В связи с этим вряд ли возможно доверить ИИ функцию оценочных суждений в рамках судебного правоприменения. Кроме того, использование ИИ при оценке доказательств противоречило бы принципу свободной оценки доказательств по внутреннему убеждению суда
20 Searle J. R. Op. cit. P. 20-25. Оппонентами Дж. Серла в этом вопросе выступили Пол и Патрисия Черч-ленды: Churchland P. M., Churchland P. S. Op. cit. P. 26-31.
LEX RUSSICA
(у ИИ не может быть внутреннего убеждения, поскольку ИИ не оперирует смыслами). Пределы использования технологии ИИ в судебном процессе ограничиваются концепцией «предсказывающего правосудия»21. В рамках этой концепции ИИ может использоваться только в инструментальном плане — как средство анализа большого объема данных.
В то же время этот вопрос может быть решен иначе применительно к альтернативным формам разрешения споров, в частности в арбитраже, компетенция которого имеет договорную, а не публично-правовую природу. Обращаясь к арбитражу, стороны должны понимать возможности и ограничения этой формы правоприменения, их воля и волеизъявление на обращение к арбитру должны совпадать и не содержать пороков. Поэтому если стороны добровольно и осознанно передают спор на разрешение ИИ, понимая и принимая невозможность в таком случае осмысленного правоприменения и соглашаясь с этим, нет никаких оснований лишать их такой возможности.
Заключение
1. Эффективность правового регулирования использования технологии ИИ в различных сферах социальных практик, в том числе в правоприменительной деятельности, в немалой степени зависит от научно обоснованной юридической концепции ИИ, то есть от правовых характеристик этого неправового явления, от способа восприятия и понимания его юристами, от места, которое отводится ИИ в юридической таксономии.
2. Задача формирования юридического понятия ИИ не сводится к формулированию конкретных легальных определений и не может быть решена на этом уровне; юридизация понятия ИИ требует теоретической правовой рефлексии, продумывания содержания этого понятия в контексте права средствами и методами юридической науки; юридизировать понятие ИИ означает расширить его содержание, определив юридически значимые характеристики и свойства.
3. Результатом юридизации понятия ИИ должен стать набор неизменных (инвариативных)
правовых характеристик, в то время как конкретные варианты определений этого термина в нормативных актах могут различаться в зависимости от потребностей практики правового регулирования.
4. Юридический концепт ИИ будет определять собственно правовые рамки исследования этого многоаспектного явления, перспективные направления прикладных разработок по формированию и оптимизации модели правового регулирования.
5. В работе по формированию юридически значимого понятия ИИ предлагается отказаться от дескриптивного эссенциалистского подхода, направленного на выявление сущности ИИ, в пользу аскриптивного конструктивистского подхода, предполагающего приписывание содержанию понятия ИИ тех правовых свойств, которые, с одной стороны, значимы для целей правового регулирования, а с другой стороны, ограничивают пределы правового регулирования.
6. В качестве инвариативных юридически значимых элементов содержания понятия ИИ предлагается: а) объектность ИИ (понятая как отказ от попыток приписывания ИИ каких-либо свойств юридической субъектности); б) автономность (понятая как способность ИИ к действию, в том числе принятию решений без вмешательства оператора); с) служебный характер (понятый как ограниченность целей и задач функционирования ИИ потребностями человека).
7. Пределы использования ИИ в правоприменительной деятельности зависят от формы правоприменения: при отправлении правосудия ИИ может использоваться только в целях анализа больших объемов данных, поскольку ИИ не оперирует смыслами, а действует на формальном, синтаксическом уровне, что исключает возможность осмысленной работы с оценочными юридическими понятиями, а также противоречит принципу свободной оценки доказательств; в тех сферах правоприменения, где компетенция носит договорный характер (например, арбитраж), ИИ может использоваться и для вынесения правоприменительного акта, если сами стороны осознанно изъявят волю на разрешение их дела технологией ИИ.
21 The CEPEJ European Ethical Charter on the use of artificial intelligence in judicial systems and their environment.
Спицин И. Н.
Юридизация понятия «искусственный интеллект» и пределы использования технологии искусственного интеллекта...
БИБЛИОГРАФИЯ
1. Архипов С. И. Современные проблемы юридической науки : учебное пособие. — Екатеринбург, 2019.
2. Архипов С. И. Субъект права: теоретическое исследование. — СПб., 2004.
3. Афанасьев С. Ф. К вопросу о законодательном регулировании искусственного интеллекта // Российская юстиция. — 2020. — № 7.
4. БахтеевД. В. Искусственный интеллект: этико-правовые основы : монография. — М., 2020.
5. Васильев А. А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского государственного университета. — 2018. — № 6 (104).
6. Васильев А. А., Шпопер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. — 2018. — № 7-8.
7. Дурнева П. Н. Искусственный интеллект с точки зрения классической теории правосубъектности // Гражданское право. — 2019. — № 5.
8. Мамчур Е. А. Образы науки в современной культуре : научная монография. — М., 2008.
9. Морхат П. М. Искусственный интеллект: правовой взгляд : научная монография. — М., 2017.
10. Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук. — М., 2018.
11. Незнамов А. В. Ключевые дискуссионные направления развития правового регулирования технологий искусственного интеллекта и робототехники // Право и технологии: в поисках баланса : сборник статей / под ред. К. Л. Брановицкого. — Екатеринбург, 2019.
12. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия : Юридические науки. — 2018. — Т. 22. — № 1.
13. Тарасов Н. Н. Методологические проблемы юридической науки. — Екатеринбург, 2001.
14. Ястребов О. А. Искусственный интеллект в правовом пространстве // Вестник Российского университета дружбы народов. Серия : Юридические науки. — 2018. — Т. 22. — № 3.
15. Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. — 2018. — Т. 13. — № 2.
16. Brozek B. The Troublesome «Person» // Legal Personhood: Animals, Artificial Intelligence and the Unborn / V. Kurki, T. Pietrykowski (ed.). — Springer International Publishing AG, 2017.
17. Churchland P. M., Churchland P. S. Could a Machine Think? // Scientific American. — 1990. — Vol. 262. — № 1. January.
18. Searle J. R. Is the Brain's Mind a Computer Program? // Scientific American. — 1990. — Vol. 262. — № 1. January.
19. Spitsin I. N., Tarasov I. N. The Use of Artificial Intelligence Technologies in Judicature: Challenges of Legal Regulation // Advances in Social Science, Education and Humanities Research. Vol. 420 : XVII International Research-to-Practice Conference dedicated to the memory of M. I. Kovalyov (ICK, 2020).
20. Stuart J., Russel S. J., Norvig P. Artificial Intelligence: А Modern Approach. — 3rd ed. — Prentice Hall, 2010.
21. Turing A. M. Computing Machinery and Intelligence // Mind, New Series. — 1950. — Vol. 59. — № 236.
1. Arkhipov SI. Sovremennye problemy yuridicheskoy nauki: uchebnoe posobie [Modern problems of legal science: A textbook]. Ekaterinburg; 2019. (In Russ.)
2. Arkhipov SI. Subekt prava: teoreticheskoe issledovanie [The subject of law: A theoretical study]. St. Petersburg; 2004. (In Russ.)
3. Afanasev SF. K voprosu o zakonodatelnom regulirovanii iskusstvennogo intellekta [On the issue of legislative regulation of artificial intelligence]. Rossiyskaya yustitsiya [Russian justice]. 2020;7. (In Russ.)
4. Bakhteev DV. Iskusstvennyy intellekt: etiko-pravovye osnovy: monografiya [Artificial Intelligence: Ethical and legal foundations: A monograph]. Moscow; 2020. (In Russ.)
5. Vasilev AA, Shpoper D. Iskusstvennyy intellekt: pravovye aspekty [Artificial intelligence: Legal aspects]. [Izvestiya ltayskogo gosudarstvennogo universiteta [Izvestiya of Altai State University]. 2018;6(104). (In Russ.)
Материал поступил в редакцию 29 августа 2021 г.
REFERENCES
LEX IPS«
6. Vasilev AA, Shpoper D, Mataeva MKh. Termin «Iskusstvennyy intellekt» v rossiyskom prave: doktrinalnyy analiz [The term "Artificial intelligence" in the Russian law: Doctrinal analysis]. Yurislingvistika [Legal Linguistics]. 2018;7-8. (In Russ.)
7. Durneva PN. Iskusstvennyy intellekt s tochki zreniya klassicheskoy teorii pravosubektnosti [Artificial intelligence from the point of view of the classical theory of legal personality]. Grazhdanskoe pravo [Civil law]. 2019;5. (In Russ.)
8. Mamchur EA. Obrazy nauki v sovremennoy kulture: nauchnaya monografiya [Images of science in modern culture: A scientific monograph]. Moscow; 2008. (In Russ.)
9. Morhat PM. Iskusstvennyy intellekt: pravovoy vzglyad: nauchnaya monografiya [Artificial Intelligence: A legal view. A scientific monograph]. Moscow; 2017. (In Russ.)
10. Morhat PM. Pravosubektnost iskusstvennogo intellekta v sfere prava intellektualnoy sobstvennosti: grazhdansko-pravovye problemy: dis. ... d-ra yurid. nauk [The legal personality of artificial intelligence in the field of intellectual property law: Civil law problems. Dr. Sci. (Law) Dissertation]. Moscow; 2018. (In Russ.)
11. Neznamov AV. Klyuchevye diskussionnye napravleniya razvitiya pravovogo regulirovaniya tekhnologiy iskusstvennogo intellekta i robototekhniki [Key discussion areas of development of legal regulation of artificial intelligence and robotics technologies]. In: Branovitskiy KL, editor. Pravo i tekhnologii: v poiskakh balansa: sbornik statey [Law and Technology: In search of a balance. Collection of papers]. Ekaterinburg; 2019. (In Russ.)
12. Ponkin IV, Redkina AI. Iskusstvennyy intellekt s tochki zreniya prava [Artificial intelligence from the point of view of law]. Vestnik Rossiyskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki [RUDN Journal of Law. Series: Legal Sciences]. 2018;22(1). (In Russ.)
13. Tarasov NN. Metodologicheskie problemy yuridicheskoy nauki [Methodological problems of legal science]. Ekaterinburg; 2001. (In Russ.)
14. Yastrebov OA. Iskusstvennyy intellekt v pravovom prostranstve [Artificial intelligence in the legal framework]. Vestnik Rossiyskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki [RUDN Journal of Law. Series: Legal Sciences]. 2018;22(3). (In Russ.)
15. Yastrebov OA. Pravosubektnost elektronnogo litsa: teoretiko-metodologicheskie podkhody [Legal personality of an electronic person: theoretical and methodological approaches]. Trudy Instituta gosudarstva i prava RAN. 2018;13(2):36-55. (In Russ.)
16. Brozek B. The Troublesome «Person». In: Kurki V, Pietrykowski T, editors. Legal Personhood: Animals, Artificial Intelligence and the Unborn. Springer International Publishing AG; 2017.
17. Churchland PM, Churchland PS. Could a Machine Think? Scientific American. 1990;262(1).
18. Searle JR. Is the Brain's Mind a Computer Program? Scientific American. 1990;262(1).
19. Spitsin IN, Tarasov IN. The Use of Artificial Intelligence Technologies in Judicature: Challenges of Legal Regulation. Advances in Social Science, Education and Humanities Research. Vol. 420. 17th International Research-to-Practice Conference dedicated to the memory of M. I. Kovalyov (ICK 2020).
20. Stuart J., Russell SJ, Norvig P. Artificial Intelligence: A Modern Approach. 3rd edition. Prentice Hall; 2010.
21. Turing AM. Computing Machinery and Intelligence. Mind, New Series. 1950;59(236).
