CC BY
172
ПРАВОВОЕ РЕГУЛИРОВАНИЕ В ИНФОРМАЦИОННОЙ СФЕРЕ
001: 10.17803/1994-1471.2022.141.8.047-058
А. В. Макутчев*
Современные возможности и пределы внедрения искусственного интеллекта в систему правосудия
Аннотация. Технологии искусственного интеллекта (ИИ) все больше становятся частью нашей повседневности. Из разряда элементов научной фантастики они перешли в разряд составляющих государственного управления, правоприменения, техники, культуры. Исследование посвящено проблемам использования ИИ в системе правосудия. Автор выявляет современные возможности внедрения ИИ в судопроизводство, исследует мировой опыт и содержание дискуссий о пределах такого внедрения. В результате обобщения имеющихся представлений об использовании ИИ в правосудии выделены три концепции: консервативная, экстенсивная и интенсивная, каждая из которых по-своему представляет будущее судебной системы с учетом развития информационных технологий. Консервативная концепция ориентирована на углубление цифровизации судебной системы, развитие электронного правосудия; экстенсивная подразумевает ограниченное использование ИИ в системе правосудия, без его прямого участия в принятии решений, а лишь с целью облегчения работы судей; интенсивная концепция предполагает углубленное внедрение ИИ в систему правосудия, когда ИИ либо работает наравне с судьей, либо в той или иной степени заменяет собой судью. Ключевые слова: искусственный интеллект; правосудие; судебная система; предсказанное правосудие; цифровизация; смарт-решения; машинное обучение; судопроизводство; правоохранительные органы; право. Для цитирования: Макутчев А. В. Современные возможности и пределы внедрения искусственного интеллекта в систему правосудия // Актуальные проблемы российского права. — 2022. — Т. 17. — № 8. — С. 47-58. — DOI: 10.17803/1994-1471.2022.141.8.047-058.
Modern Possibilities and Limits of Artificial Intelligence Introduction into the Justice System
Aleksandr V. Makutchev, Cand. Sci. (History), Associate Professor, Department of Legal Disciplines, Tolstoy Tula State Pedagogical University prosp. Lenina, d. 125, Tula, Russia, 300026 [email protected]
Abstract. Artificial intelligence (AI) technologies are gradually becoming a part of our everyday life. From the category of elements of science fiction, they have moved into the category of elements of public administration, law enforcement, technology, and culture. The study is devoted to the problems of using AI in the system of justice. The author identifies
© Макутчев А. В., 2022
* Макутчев Александр Валерьевич, кандидат исторических наук, доцент кафедры правовых дисциплин Тульского государственного педагогического университета имени Л.Н. Толстого просп. Ленина, д. 125, г. Тула, Россия, 300026 [email protected]
current opportunities for implementing AI in court proceedings, explores the world experience and the content of discussions about the limits of such implementation. As a result of generalization of the existing ideas about the use of AI in justice, three concepts are identified — conservative, extensive and intensive, each of which represents the future of the judicial system in its own way regarding the development of information technologies. The conservative concept is focused on deepening digitalization of the judicial system and development of electronic justice. The extensive concept implies limited use of AI in the justice system without its direct participation in decision-making, but only with the aim of facilitating the work of judges. The intensive concept involves in-depth implementation of AI in the justice system, when AI either works on a par with a judge, or, more or less, replaces the judge. Keywords: artificial intelligence; justice; judicial system; predicted justice; digitalization; smart solutions; machine learning; judicial proceedings; law enforcement agencies; law.
Cite as: Makutchev AV. Sovremennye vozmozhnosti i predely vnedreniya iskusstvennogo intellekta v sistemu pravosudiya [Modern Possibilities and Limits of Artificial Intelligence Introduction into the Justice System]. Aktual'nye problemy rossijskogo prava. 2022;17(8):47-58. DOI: 10.17803/1994-1471.2022.141.8.047-058 (In Russ., abstract in Eng.).
Тема роботизации и искусственного интеллекта (ИИ) в последнее десятилетие приобретает все большую актуальность в научной среде. Причиной является тот факт, что современная наука приблизилась к созданию полноценных «умных машин», вследствие чего появилась необходимость оценить перспективы внедрения технологий ИИ в различные сферы общественной жизни и спрогнозировать последствия такого внедрения.
Одной из таких сфер является правосудие, которое традиционно считается когнитивным процессом, свойственным исключительно человеческому интеллекту. Между тем современные западные и отечественные исследователи (П. Н. Бирюков1, Н. А. Колоколов2, А. В. Незна-мов3, В. Чжи4, Г. Сёрден5 и др.) указывают: судебная система не может не учитывать достижения научно-технического прогресса, и ИИ становится одним из полноценных участников осуществле-
ния правосудия, более того, его внедрение в судебную систему уже неизбежно.
В этой связи приобретает актуальность следующая задача: обобщить современные представления исследователей по вопросу целесообразности внедрения ИИ в систему правосудия, выявить перспективы и пределы такого внедрения.
Для начала определим понятие ИИ и основы самой технологии ИИ, чтобы понимать принцип его действия, а также отличать ИИ от некоторых родственных ему технологий.
Понятие и сущность ИИ не являются устоявшимися на сегодняшний день. Так, автор термина «искусственный интеллект» (artificial intelligence), американский математик Дж. Мак-карти определил его как «свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека»6. В российской Национальной стра-
Бирюков П. Н. Искусственный интеллект и «предсказанное правосудие»: зарубежный опыт // Lex russica.
2019. № 11 (156). С. 79-87.
Колоколов Н. А. Искусственный интеллект в правосудии — будущее неотвратимо // Вестник Московского университета МВД России. 2021. № 3. С. 201-212.
Незнамов А. В. Принципы использования технологий искусственного интеллекта в правосудии: европейский подход // Образование и право. 2019. № 5. С. 222-227.
Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence // Asian Journal of Law and Society.
2020. No. 7. P. 515-530.
Surden H. Artificial Intelligence and Law: An Overview // Georgia State University Law Review. 2019. Vol. 35. No. 4. P. 1304-1337.
McCarthy J. Artificial Intelligence, Logic and Formalizing Common Sense, 1990 // URL: http://jmc.stanford. edu/articles/ailogic.html (дата обращения: 14.11.2021).
2
3
4
5
6
тегии развития искусственного интеллекта на период до 2030 года7 ИИ — это комплекс технологических решений (информационно-коммуникационная инфраструктура, программное обеспечение, процессы и сервисы по обработке данных и поиску решений), позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Общим и ключевым признаком ИИ, как можем заметить, является его применение для автоматизации задач, которые обычно требуют реализации когнитивных процессов человеческого интеллекта8.
Сразу отметим, что современный ИИ, как указывают некоторые авторы, на самом деле не является интеллектуальным: в полной мере разумная машина остается уделом научной фантастики, а ИИ нашего времени лишь имитирует процессы человеческого интеллекта путем эвристики — обнаружения закономерностей в данных и использования правил, которые были специально закодированы людьми в формы, обрабатываемые компьютерами9. Это замечание призвано снизить градус опасений тех, кто видит в ИИ конкурента или угрозу человеческому интеллекту.
На сегодняшний день существует два способа программирования компьютерных систем для выполнения задач ИИ: 1) машинное обучение, при котором на основе анализа введенных данных ИИ обнаруживает закономерности и превращает их в шаблоны для принятия «разумных» реше-
ний. Затем эти шаблоны применяются для решения различных задач, таких как вождение автомобиля или обнаружение фактов мошенничества. ИИ в таких ситуациях не понимает основного смысла или значения принятых решений, как это мог бы сделать человек, а лишь обрабатывает данные для последующего их осмысления человеком10; 2) логические правила и представление знаний, в которых факты и правила какой-либо деятельности выражены в программном обеспечении. В целях автоматизации работы ИИ программисты предоставляют компьютеру ряд правил, составляющих логику конкретной деятельности, которую они пытаются смоделировать и автоматизировать11. ИИ в правосудии предполагает применение компьютерных и математических методов с целью сделать правосудие более эффективным, управляемым, оперативным и предсказуемым12, а также избавить судью от рутинных обязанностей.
На Западе разработка механизмов внедрения ИИ в систему правосудия велась параллельно с общим развитием компьютерных технологий с 1960-х гг. в форме компьютерного моделирования законодательства и правовых норм13. В конце 1960-х гг. Министерство юстиции ФРГ создало проектную группу, которая специализировалась на роли машинных алгоритмов в юридической практике. В 1970-е гг. американские исследователи Б. Бьюкенен и Т. Хедрик опубликовали статью о способах использования компьютерных технологий в юридической деятельности, а в скором времени после этого в США была введена в действие система принятия юридических решений LDS для помощи
7 Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // СЗ РФ. 2019. № 41. Ст. 5700.
8 Surden H. Artificial Intelligence and Law... P. 1307.
9 Surden H. Machine Learning and Law // Washington Law Review. 2014. Vol. 89. No. 1. P. 88.
10 Surden H. Artificial Intelligence and Law. P. 1312.
11 Surden H. The Variable Determinacy Thesis // Columbia Science and Technology Law Review. 2011. Vol. 12. No. 1. P. 74.
12 Surden H. Artificial Intelligence and Law. P. 1309.
13 Bench-Capon T. A History of AI and Law in 50 Papers: 25 Years of the International Conference on AI and Law // Artificial Intelligence & Law. 2012. Vol. 20. No. 3. P. 277.
юристам в подготовке аргументов для судебных разбирательств. В то же время в Японии были выданы первые патенты на программное обеспечение в сфере правосудия, ставшие прообразом современных технологий ИИ в данной сфере14. К концу XX в. научно-технический прогресс позволил перейти от разработки методик и моделей к практической реализации технологий внедрения ИИ в систему правосудия посредством машинного обучения.
Представленные на сегодняшний день формы внедрения ИИ в правосудие в зависимости от категорий пользователей ИИ можно разделить на три группы:
1. ИИ для правоприменителей (судей, должностных лиц, полиции). Наиболее перспективным в данном аспекте считается использование технологий ИИ судьями при вынесении решений, в том числе по уголовным делам. Так, судьи все чаще применяют программные системы, в которых используется ИИ для оценки вероятности повторного совершения лицом правонарушения или побега подсудимого при его освобождении под залог. Эти системы (например, американская программа PredPol), основанные на машинном обучении, анализируют данные о преступности и дают прогноз о наиболее вероятных действиях подсудимого. Исследователи отмечают, что, хотя судьи не ограничены в своих решениях мнением машины, прогноз ИИ часто влияет на их решения15.
В деятельности должностных лиц перспективным считается использование технологий ИИ в системе социальных гарантий и льгот. В этом контексте задача машин проще: они не прогнозируют, а ускоряют работу государственных служащих, обрабатывая заявки от кандидатов
на получение льгот и рекомендуя чиновнику по формальным признакам удовлетворить эти заявки или отклонить их16.
Наконец, в области полицейской деятельности технологии ИИ включают машинное обучение для выявления закономерностей в сфере преступности, а также систему распознавания лиц, которая уже активно внедряется в ряде стран мира. ИИ в автоматизированном режиме сканирует скопления людей для выявления подозреваемых, сопоставляя полученные фото-или видеоданные с государственными базами данных17.
2. ИИ для юристов частной практики. За счет технологий ИИ стал возможным анализ материалов, собранных в ходе подготовки к судебному разбирательству, с целью их автоматизированной сортировки по признаку отно-симости к делу. Например, машинное обучение позволяет научить ИИ обнаруживать и вычленять из общей массы электронных сообщений письма конкретного содержания, облегчая работу адвоката. Посредством ИИ также осуществляют анализ контрактов и других юридических документов в прогнозировании результатов рассмотрения споров18.
3. ИИ для пользователей (физических и юридических лиц). Все большее распространение приобретают технологии ИИ в виде частных экспертных систем для оценки юридических рисков в бизнесе, а также юридических систем самопомощи — чат-ботов, дающих пользователям ответы на базовые юридические вопросы19.
Все указанные возможности внедрения ИИ в правосудие имеют свои пределы — ограничения, которые необходимо учитывать, чтобы добиться максимальной эффективности, но при
14 Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence. P. 516.
15 Kehl D., Guo P., Kessler S. Algorithms in the Criminal law system: assessing the use of risk assessments in sentencing, 2017 // URL: https://cyber.harvard.edu/node/99985 (дата обращения: 11.11.2021).
16 Eggers W. D. AI-Augmented Government: Using Cognitive Technologies to Redesign Public Sector Work, 2017 // URL: https://www2.deloitte.com/insights/us/en/focus/cognitive-technologies/artificial-intelligencegovernment. html (дата обращения: 10.10.2021).
17 Surden H. Artificial Intelligence and Law... P. 1334.
18 Yablon C., Landsman-Roos N. Predictive Coding: Emerging Questions and Concerns // South Carolina Law Review. 2013. Vol. 64. No. 3. P. 641.
19 Surden H. Artificial Intelligence and Law. P. 1311.
этом не выходить за рамки принципиального положения о том, что ИИ в правосудии не должен заменять человека в принятии решений, а должен ему содействовать.
Так, упомянутое прогнозирование вероятности совершения лицом повторного преступления посредством компьютерных технологий нельзя считать панацеей, поскольку ИИ не лишен предвзятости при принятии алгоритмических решений20. Да, в отличие от человека ИИ не имеет собственных личностных суждений и принципов, сформированных социальным опытом, но его алгоритмы созданы человеком, поэтому он столь же зависим от количественных показателей, как и человек. Например, изучив статистику преступности, ИИ может выявить закономерности преступности по этническому признаку и сформулировать предвзятые выводы, копируя тем самым человеческие предубеждения вместо внесения объективности в правосудие. В качестве примера подобной предвзятости нередко приводят алгоритм американской программы COMPAS, которая вдвое чаще, чем у других групп, указывала на возможный риск повторного преступления, когда речь заходила об афроамери-канцах. С одной стороны, такой вывод не был безосновательным и опирался на статистику, с другой — выделенные ИИ рекомендации по применению наказания противоречат базовым принципам правосудия, распространяя признаки отдельных лиц на целые социальные и этнические группы21.
Избежать влияния данных ИИ на мнение судьи, как было отмечено, невозможно (во многом ради этого влияния и происходит внедрение ИИ в систему правосудия). Как результат, судья, к примеру, получает отчет ИИ, в котором указывается, что у обвиняемого есть 80 % вероятности рецидива, и он не сможет не учесть этот факт при принятии решения. Впрочем, с тем же успе-
хом на это решение могут повлиять и личные убеждения судьи, мнение коллег и т.п.
Свои пределы имеет и внедрение технологий ИИ в жизнь практикующих юристов и простых пользователей. Так, слово компьютера не должно быть последним при определении значимости юридических документов. Итоговое решение об отнесении конкретного материала к делу принимает юрист, поскольку современный ИИ не способен на работу с абстракциями: он справляется с автоматизацией юридических задач только при наличии базового шаблона, ему недоступны абстрактное мышление и эмоциональный интеллект человека22. В этом смысле ИИ является узким интеллектом, адаптированным для конкретных типов задач с особыми характеристиками23. Например, он хорошо работает с задачами, имеющими правильные или неправильные ответы и четкие, недвусмысленные правила, однако многие задачи юридической деятельности не имеют ответов «да» или «нет».
Теперь рассмотрим перспективы полноценного внедрения технологий ИИ в правосудие.
Анализируя мировой опыт внедрения ИИ в систему правосудия, выделим три условные модели.
Модели 1 свойственны опасения дегуманизации правосудия, поэтому она ориентирована не столько на полноценное внедрение ИИ, сколько на общее углубление цифровизации судебной системы. Так, современные процессы цифровизации российской судебной системы (развитие «электронного правосудия») можно считать проявлением указанной модели.
Основные направления развития цифровых технологий в системе правосудия в России определены в Федеральном законе от 23.06.2016 № 220-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации в части применения электронных документов в
20 Tene O., Polonetsky J. Taming the Golem: Challenges of Ethical Algorithmic Decision-Making // North Carolina Journal of Law and Technology. 2017. Vol. 19. No. 1. P. 130.
21 Surden H. Artificial Intelligence and Law. P. 1335.
22 Surden H. Artificial Intelligence and Law. P. 1335.
23 Oswald E. What Is Artificial Intelligence? Here's Everything You Need to Know, 2019 // URL: https://www. digitaltrends.com/cool-tech/what-is-artificialintelligence-ai/ (дата обращения: 07.11.2021).
деятельности органов судебной власти»24, приказе Судебного департамента при Верховном Суде РФ от 27.12.2016 № 251 (ред. от 17.11.2021) «Об утверждении порядка подачи в федеральные суды общей юрисдикции документов в электронном виде, в том числе в форме электронного документа»25 и ряде других актов. Автоматизация рутинных (повторяющихся) производственных операций упомянута также в качестве одного из приоритетных направлений развития ИИ в Национальной стратегии развития искусственного интеллекта на период до 2030 года.
Под электронным правосудием понимаются способ и форма осуществления предусмотренных законом процессуальных действий, основанных на использовании информационных технологий в деятельности судов, включая взаимодействие судов, физических и юридических лиц в электронном (цифровом) виде26. На современном этапе развития электронного правосудия в России уже широко применяются видео-конференц-связь, позволяющая дистанционно участвовать в судебном заседании, электронная подача документов в судебные органы и отслеживание движения дела (с помощью систем ГАС «Правосудие» и «Мой арбитр»), возможность выполнения судебного решения в форме электронного документа, извещение сторон с помощью СМС-уведомлений, вынесение постановлений о назначении наказания в автоматизированном режиме (например, в области дорожного движения на основе показаний устройств видеофиксации). Однако вопрос о внедрении ИИ в процесс отправления право-
судия остается дискуссионным. Так, ряд авторов (Н. В. Антонова, С. Б. Бальхаева, Ж. А. Гаунова) убеждены, что роботизация судейского корпуса и всего процесса правосудия неизбежна27. Другие исследователи (например, В. В. Котлярова) считают, что «ИИ не сможет по своему внутреннему убеждению объективно, беспристрастно и полно оценивать доказательства, чтобы вынести справедливое решение, как это сделает живой судья»28. Позиция судей чаще соответствует вышеуказанным опасениям. Так, по мнению члена Президиума Верховного Суда РФ В. В. Момото-ва, «процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы. Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего невозможно»29. Внедрение ИИ в таком случае целесообразно лишь в приказном производстве, где не требуется анализ правоотношений сторон30.
Тем не менее, на наш взгляд, цифровизацию правосудия можно считать шагом к внедрению ИИ в судебную систему. Для стран, которые по тем или иным причинам на сегодняшний день придерживаются первой модели (в том числе России), неизбежен переход к одной из двух других моделей, чтобы технологически не отстать от передовых в этой сфере стран.
Модель 2 подразумевает ограниченное использование ИИ в системе правосудия, без его прямого участия в принятии решений, а лишь с целью облегчения работы судей. Эта
24 СЗ РФ. 2016. № 26 (ч. I). Ст. 3889.
25 URL: https://docs.cntd.ru/document/456034911 (дата обращения: 10.11.2021).
26 Новикова К. С. Искусственный интеллект как элемент электронного правосудия: смарт-решение и электронные весы правосудия // Образование и право. 2020. № 3. С. 241.
27 Колоколов Н. А. Указ. соч. С. 206.
28 Котлярова В. В. К вопросу о цифровизации процесса отправления правосудия // Арбитражный и гражданский процесс. 2019. № 12. С. 48.
29 Нагорная М. Искусственный интеллект в судопроизводстве, 2019 // URL: https://www.intellectpro.ru/ press/commenters/iskusstvennyy_intellekt_v_sudoproizvodstve/ (дата обращения: 22.11.2021).
30 Амиянц К. А., Чемеринский К. В. Использование искусственного интеллекта в современной судебной системе и права человека // Международный журнал гуманитарных и естественных наук. 2019. № 11-3. С. 50.
модель ориентирована в большей степени на расширение использования технологий ИИ в правосудии, а не на углубление его внедрения как самостоятельного участника правосудия, что свойственно третьей модели.
Так, в последние годы в судебной системе Бразилии был введен в оборот ряд программных продуктов на основе ИИ. В частности, созданная по инициативе Верховного Суда система Victor посредством технологий машинного обучения автоматизировала процесс рассмотрения жалоб и обращений в суд. Victor не претендует на роль судьи, а лишь повышает эффективность и скорость судебной оценки поступающих материалов. ИИ на основе введенных в систему шаблонов отсеивает жалобы, не соответствующие установленной форме, существенно облегчая жизнь судьям31. По похожим алгоритмам в Бразилии функционирует система Socrates, которая путем анализа формы и текста поступающих обращений граждан группирует их в блоки. Это позволяет избежать принятия к рассмотрению повторных апелляций (определение апелляции как повторной приводит к тому, что она возвращается в суд, через который была подана, без рассмотрения).
В 2020 г. в Бразилии приступили к реализации программы ИИ Sigma для оказания помощи в подготовке отчетов, решений и постановлений в системе электронного правосудия. Sigma представляет собой интеллектуальную систему, анализирующую тексты процессуальных документов и на основе такого анализа составляющую итоговые тексты судебных решений под контролем судьи32.
В странах Европы в обиход вошло понятие Predictive Justice — «предсказанное правосудие». Оно подразумевает систему взаимодействия судьи с ИИ, анализирующим в короткие сроки огромное количество правовых ситуаций
с целью дать судье информацию, позволяющую предвидеть исход спора или оценить шансы сторон на успех. Речь идет не столько о правосудии, сколько об аналитических инструментах, которые позволили бы прогнозировать будущие решения в спорах, аналогичных тем, которые были проанализированы33.
С 2015 г. в Нидерландах действует Recht-wijzer — построенная на принципах «предсказанного правосудия» платформа примирения и посредничества в сфере жилищных, семейных и других споров. Во Франции в 2016 г. был принят Закон о цифровой республике, который установил процедуры обмена публичной информацией, предоставив ИИ доступ к базам данных о гражданах страны, анализ которых дает ИИ материал для «предсказаний». «Предсказанное правосудие» упрощает обработку 2 млн судебных решений в год, эти технологии также вошли в обиход адвокатских бюро, существенно упростив работу адвокатов34.
Оптимизация времени, сокращение числа государственных служащих, необходимых для выполнения основных задач, — это преимущества второй модели, которые проявляются уже сейчас.
Модель 3 предполагает углубленное внедрение ИИ в систему правосудия, когда ИИ либо работает наравне, «в связке» с судьей, либо в той или иной степени заменяет собой судью. ИИ выступает не как техническое устройство, направленное на оптимизацию судопроизводства, а как частичный перенос человеческих возможностей мыслительной деятельности в плоскость компьютерных и информационных технологий35. Решения, предложенные ИИ в рамках такой концепции, принято называть смарт-решениями.
В ФРГ существует автономная электронная система Elterngeld («деньги родителей»), рас-
31 Sanctis F. M. Artificial Intelligence and Innovation in Brazilian Justice // International Annals of Criminology. 2021. Vol. 59. P. 2.
32 Sanctis F. M. Op. cit. P. 3.
33 Бирюков П. Н. Указ. соч. С. 83.
34 Бирюков П. Н. Указ. соч. С. 84.
35 Афанасьев А. Ю. Искусственный интеллект или интеллект субъектов выявления, раскрытия и расследования преступлений: что победит? // Библиотека криминалиста. 2018. № 3 (38). С. 30.
сматривающая и принимающая решения по искам о детских пособиях: о назначении пособия и его размере либо об отказе в его назначении36. В США несколько лет успешно применяются система DARE по распознаванию ложных показаний свидетелей37 и система PredPol, обрабатывающая криминологическую статистику для оценки вероятности повторного совершения лицом преступления38.
На постсоветском пространстве следует отметить разработанную и запатентованную в 2019 г. азербайджанскими учеными И. М. Ра-гимовым и Х. Д. Аликперовым компьютерную программу «Электронные весы правосудия»39. Смысл программы состоит в определении вида и размера наказания из числа предусмотренных действующим законодательством вариантов, заранее введенных в систему. По данным разработчиков, система может быть особенно эффективна в уголовном и административном судопроизводствах (первые тесты, основанные более чем на ста различных приговорах, показали успешную генерацию справедливого наказания с вероятностью 97 %)40.
Наконец, одной из наиболее успешных и смелых считается китайская практика внедрения ИИ в правосудие.
Активное введение ИИ в государственное управление и правосудие в Китае началось еще в 1990-е гг. В 1993 г. профессор Уханьского университета Чжао Иньгуан возглавил разработку уголовно-правовой экспертной системы вынесения приговоров и других судебных решений, которая в итоге была принята на вооружение более чем 100 судами, а также прокурорами и юридическими фирмами41.
С тех пор относительно отсталые китайские судебные институты совершили скачок в цифровом развитии. Виртуализация отправления правосудия была утверждена в качестве средства решения проблем недостаточного числа квалифицированных судей, нехватки финансирования и распространения коррупции в судебной системе при низком единообразии в применении закона.
В 1999 г. был обнародован Пятилетний план реформы народного суда, который обозначил этапы внедрения ИИ в судебную систему42. Первый этап подразумевал цифровизацию — создание национальной системы компьютерного мониторинга деятельности судов, систем электронной загрузки документов в судебные базы данных, автоматизированной подготовки и проверки документов, онлайн-наблюдения за процессом рассмотрения дел. На втором этапе была осуществлена информатизация правосудия путем создания автоматизированных информационных систем. С 2007 г. китайские суды всех уровней были подключены к национальной электронной системе правосудия.
В ходе третьего этапа в 2016 г. Верховный народный суд КНР предложил концепцию «умного суда», использующего не только цифровые технологии, но и технологии ИИ. В рамках этого направления с 2006 г. в провинции Шань-дун начали использовать экспертную систему уголовного судопроизводства для вынесения приговоров силами ИИ. Эта инициатива стала первым и самым смелым на тот момент экспериментом по внедрению ИИ в правосудие. В 2016 г. в развитие этого начинания суд Пекина запустил систему «судья-робот», которая гене-
36 Незнамов А. В. Указ. соч. С. 225.
37 Левченко Г. Искусственный интеллект обучили распознавать ложь в суде. Он правильно делает это в 92 % случаев // URL: https://republic.ru/posts/88575 (дата обращения: 20.07.2021).
38 Афанасьев А. Ю. Указ. соч. С. 30.
39 Рагимов И. М., Аликперов Х. Д. «Электронные весы правосудия» (цели, возможности, преимущества) // Уголовное судопроизводство. 2019. № 3. С. 8.
40 Рагимов И. М., Аликперов Х. Д. Указ. соч. С. 8.
41 Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence. P. 517.
42 Ji W. The Digital Age and Re-Construction of the Legal Network: The Role of Information Technology in China's Judicial Reform // Sociology of Law (Professional Journal of the Japanese Association of Sociological of Law). 2001. Vol. 54. P. 230.
рирует судебные решения на основе машинного обучения и исправляет судебные ошибки43. В процессе разбирательства в фабулу дела вводятся все известные на момент рассмотрения дела данные, на основе которых программа, анализируя законодательство, квалифицирует деяние и определяет состав правонарушения. При этом система не автономна, у судьи сохраняется право на изменение предложенного программой смарт-решения.
Китайские исследователи, с одной стороны, отмечают пользу от данного эксперимента (например, ИИ позволил снизить нагрузку на судей, снять с них рутинные обязанности, унифицировать юридический язык, используемый многочисленными китайскими судьями), с другой — признают необходимость относиться с осторожностью к передаче ИИ полномочий по вынесению судебных решений, чтобы не исключать из правосудия разум и усмотрение судьи. «ИИ — это всего лишь вспомогательное средство для достижения юридической справедливости. Невозможно поставить телегу впереди лошадей, это основной принцип, который мы всегда должны иметь в виду»44.
Таким образом, в нынешнем виде технологии ИИ не являются интеллектом в когнитивном смысле этого слова, скорее они способны давать интеллектуальные результаты без интеллекта, используя шаблоны и эвристические правила, позволяющие принимать полезные решения в узких, специализированных областях.
Очевидно, что возможности современного ИИ меньше опасений исследователей и некоторой части общественности. Эти опасения по большей части основаны на предположении, что внедрение ИИ в правосудие, как и в другие
сферы, приведет не к повышению эффективности работы людей, а к вытеснению человека и человеческого интеллекта из конкретной области45. Например, во многих юридических фирмах и других коммерческих организациях приступили к работе роботы-юристы, составляющие иски, письма, заявления, что привело к сокращению численности работников-людей46.
На наш взгляд, такие опасения потеряют актуальность при условии соблюдения баланса во взаимоотношениях ИИ и человека, который должен быть основан на вспомогательном, а не определяющем характере ИИ, т.е. путем реализации принципа пользовательского контроля, установленного Европейской этической хартией о применении искусственного интеллекта в судебных системах47. Согласно этому принципу, специалисты системы правосудия должны в любой момент иметь возможность пересмотра судебных решений и данных, использованных ИИ для получения результата, и обладать достаточной информацией, чтобы самостоятельно принимать решения48.
Кроме того, современные технологии ИИ имеют свои пределы. Например, ИИ плохо справляется с абстракциями, пониманием смысла, из-за чего он не способен заменить в полной мере человеческий интеллект. ИИ может применять право на основе определенных фактов, но его внедрение в правосудие стоит рассматривать не как потенциальную полную замену судьи, а как инструмент обеспечения максимальной эффективности суда. В этом контексте следует в максимальном объеме использовать возможности, которые предоставляет ИИ.
Человечеству предстоит пройти еще довольно длинный путь, чтобы выработать единые
43 Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence. P. 520.
44 Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence. P. 529.
45 Закиров Р. Ф. Использование современных IT-технологий как средство достижения основных задач судопроизводства // Вестник гражданского процесса. 2018. № 1. С. 211.
46 Залоило М. В., Пашенцев Д. А. Национальный правопорядок в России в условиях цифровизации // Вестник Санкт-Петербургского университета. Право. 2019. Т. 10. № 2. С. 200.
47 Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях (Страсбург, 3-4 декабря 2018 г.) // URL: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4 (дата обращения: 13.11.2021).
48 Незнамов А. В. Указ. соч. С. 224.
подходы к использованию систем ИИ в процессе отправления правосудия, систематизировать направления и формы внедрения ИИ в правосудие. Для России это вопрос ближайшего будущего. Так, смарт-решения ИИ уже сейчас могут найти применение в разбирательствах по делам, в которых участие человека может обходиться лишь контролем (например, о долговых обязательствах). Передача ИИ однотипных дел, отмечают исследователи, позволит судье сосредоточиться на сложных уникальных делах, что значительно повысит уровень правосудия и судебных актов в условиях большой загруженности российских судов49.
Представляется целесообразным принятие на законодательном уровне нормативного правового акта по аналогии с Европейской этической хартией о применении искусственного интеллекта в судебных системах, который определил бы характер взаимодействия человека и ИИ в правосудии.
С какой интенсивностью будут реализовы-ваться данные меры и как скоро ИИ станет неотъемлемой частью систем правосудия во всем мире, будет зависеть от технологических прорывов последующего времени и от успешности смелых экспериментов, подобных китайскому.
БИБЛИОГРАФИЯ
1. Амиянц К. А., Чемеринский К. В. Использование искусственного интеллекта в современной судебной системе и права человека // Международный журнал гуманитарных и естественных наук. — 2019. — № 11-3. — С. 49-52.
2. Афанасьев А. Ю. Искусственный интеллект или интеллект субъектов выявления, раскрытия и расследования преступлений: что победит? // Библиотека криминалиста. — 2018. — № 3 (38). — С. 28-34.
3. Бирюков П. Н. Искусственный интеллект и «предсказанное правосудие»: зарубежный опыт // Lex russica. — 2019. — № 11 (156). — С. 79-87.
4. Закиров Р. Ф. Использование современных IT-технологий как средство достижения основных задач судопроизводства // Вестник гражданского процесса. — 2018. — № 1. — С. 211-219.
5. Залоило М. В., Пашенцев Д. А. Национальный правопорядок в России в условиях цифровизации // Вестник Санкт-Петербургского университета. Право. — 2019. — Т. 10. — № 2. — С. 196-209.
6. Колоколов Н. А. Искусственный интеллект в правосудии — будущее неотвратимо // Вестник Московского университета МВД России. — 2021. — № 3. — С. 201-212.
7. Котлярова В. В. К вопросу о цифровизации процесса отправления правосудия // Арбитражный и гражданский процесс. — 2019. — № 12. — С. 46-49.
8. Левченко Г. Искусственный интеллект обучили распознавать ложь в суде. Он правильно делает это в 92 % случаев // URL: https://republic.ru/posts/88575 (дата обращения: 20.07.2021).
9. Нагорная М. Искусственный интеллект в судопроизводстве, 2019 // URL: https://www.intellectpro.ru/ press/commenters/iskusstvennyy_ intellekt_v_sudoproizvodstve/ (дата обращения: 22.11.2021).
10. Незнамов А. В. Принципы использования технологий искусственного интеллекта в правосудии: европейский подход // Образование и право. — 2019. — № 5. — С. 222-227.
11. Новикова К. С. Искусственный интеллект как элемент электронного правосудия: смарт-решение и электронные весы правосудия // Образование и право. — 2020. — № 3. — С. 240-244.
12. Приходько С. О., Калашникова Е. Б. Цифровизация судебной системы // Междисциплинарные исследования: опыт прошлого, возможности настоящего, стратегии будущего. — 2020. — № 1. — С. 99-103.
13. Рагимов И. М., Аликперов Х. Д. «Электронные весы правосудия» (цели, возможности, преимущества) // Уголовное судопроизводство. — 2019. — № 3. — С. 8-14.
49 Закиров Р. Ф. Указ. соч. С. 211.
14. Bench-Capon T. A History of AI and Law in 50 Papers: 25 Years of the International Conference on AI and Law // Artificial Intelligence & Law. — 2012. — Vol. 20. — No. 3. — P. 215-319.
15. Eggers W. D. AI-Augmented Government: Using Cognitive Technologies to Redesign Public Sector Work, 2017 // URL: https://www2.deloitte.com/insights/us/en/focus/cognitive-technologies/artificial-intelligencegovernment.html (дата обращения: 10.10.2021).
16. Ji W. The Digital Age and Re-Construction of the Legal Network: The Role of Information Technology in China's Judicial Reform // Sociology of Law (Professional Journal of the Japanese Association of Sociological of Law). — 2001. — Vol. 54 — P. 222-235.
17. Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence // Asian Journal of Law and Society. — 2020. — No. 7. — P. 515-530.
18. Kehl D., Guo P., Kessler S. Algorithms in the Criminal law system: assessing the use of risk assessments in sentencing, 2017 // URL: https://cyber.harvard.edu/node/99985 (дата обращения: 11.11.2021).
19. McCarthy J. Artificial Intelligence, Logic and Formalizing Common Sense, 1990 // URL: http://jmc.stanford. edu/articles/ailogic.html (дата обращения: 14.11.2021).
20. Oswald E. What Is Artificial Intelligence? Here's Everything You Need to Know, 2019 // URL: https://www. digitaltrends.com/cool-tech/what-is-artificialintelligence-ai/ (дата обращения: 07.11.2021).
21. Sanctis F. M. Artificial Intelligence and Innovation in Brazilian Justice // International Annals of Criminology. — Vol. 59. — 2021. — P. 1-10.
22. Surden H. Artificial Intelligence and Law: An Overview // Georgia State University Law Review. — 2019. — Vol. 35. — No. 4. — P. 1304-1337.
23. Surden H. Machine Learning and Law // Washington Law Review. — 2014. — Vol. 89. — № 1. — P. 80-90.
24. Surden H. The Variable Determinacy Thesis // Columbia Science and Technology Law Review. — 2011. — Vol. 12. — No. 1. — P. 1-91.
25. Tene O., Polonetsky J. Taming the Golem: Challenges of Ethical Algorithmic Decision-Making // North Carolina Journal of Law and Technology. — 2017. — Vol. 19. — No. 1. — P. 125-143.
26. Yablon C., Landsman-Roos N. Predictive Coding: Emerging Questions and Concerns // South Carolina Law Review. — 2013. — Vol. 64. — No. 3. — P. 637-668.
Материал поступил в редакцию 1 января 2022 г.
REFERENCES (TRANSLITERATION)
1. Amiyants K. A., Chemerinskiy K. V. Ispolzovanie iskusstvennogo intellekta v sovremennoy sudebnoy sisteme i prava cheloveka // Mezhdunarodnyy zhurnal gumanitarnykh i estestvennykh nauk. — 2019. — № 11-3. — S. 49-52.
2. Afanasev A. Yu. Iskusstvennyy intellekt ili intellekt subektov vyyavleniya, raskrytiya i rassledovaniya prestupleniy: chto pobedit? // Biblioteka kriminalista. — 2018. — № 3 (38). — S. 28-34.
3. Biryukov P. N. Iskusstvennyy intellekt i «predskazannoe pravosudie»: zarubezhnyy opyt // Lex russica. — 2019. — № 11 (156). — S. 79-87.
4. Zakirov R. F. Ispolzovanie sovremennykh IT-tekhnologiy kak sredstvo dostizheniya osnovnykh zadach sudoproizvodstva // Vestnik grazhdanskogo protsessa. — 2018. — № 1. — S. 211-219.
5. Zaloilo M. V., Pashentsev D. A. Natsionalnyy pravoporyadok v Rossii v usloviyakh tsifrovizatsii // Vestnik Sankt-Peterburgskogo universiteta. Pravo. — 2019. — T. 10. — № 2. — S. 196-209.
6. Kolokolov N. A. Iskusstvennyy intellekt v pravosudii — budushchee neotvratimo // Vestnik Moskovskogo universiteta MVD Rossii. — 2021. — № 3. — S. 201-212.
7. Kotlyarova V. V. K voprosu o tsifrovizatsii protsessa otpravleniya pravosudiya // Arbitrazhnyy i grazhdanskiy protsess. — 2019. — № 12. — S. 46-49.
8. Levchenko G. Iskusstvennyy intellekt obuchili raspoznavat lozh v sude. On pravilno delaet eto v 92 % sluchaev // URL: https://republic.ru/posts/88575 (data obrashcheniya: 20.07.2021).
9. Nagornaya M. Iskusstvennyy intellekt v sudoproizvodstve, 2019 // URL: https://www.intellectpro.ru/press/ commenters/iskusstvennyy_ intellekt_v_sudoproizvodstve/ (data obrashcheniya: 22.11.2021).
10. Neznamov A. V. Printsipy ispolzovaniya tekhnologiy iskusstvennogo intellekta v pravosudii: evropeyskiy podkhod // Obrazovanie i pravo. — 2019. — № 5. — S. 222-227.
11. Novikova K. S. Iskusstvennyy intellekt kak element elektronnogo pravosudiya: smart-reshenie i elektronnye vesy pravosudiya // Obrazovanie i pravo. — 2020. — № 3. — S. 240-244.
12. Prikhodko S. O., Kalashnikova E. B. Tsifrovizatsiya sudebnoy sistemy // Mezhdistsiplinarnye issledovaniya: opyt proshlogo, vozmozhnosti nastoyashchego, strategii budushchego. — 2020. — № 1. — S. 99-103.
13. Ragimov I. M., Alikperov Kh. D. «Elektronnye vesy pravosudiya» (tseli, vozmozhnosti, preimushchestva) // Ugolovnoe sudoproizvodstvo. — 2019. — № 3. — S. 8-14.
14. Bench-Capon T. A History of AI and Law in 50 Papers: 25 Years of the International Conference on AI and Law // Artificial Intelligence & Law. — 2012. — Vol. 20. — No. 3. — P. 215-319.
15. Eggers W. D. AI-Augmented Government: Using Cognitive Technologies to Redesign Public Sector Work, 2017 // URL: https://www2.deloitte.com/insights/us/en/focus/cognitive-technologies/artificial-intelligencegovernment.html (data obrashcheniya: 10.10.2021).
16. Ji W. The Digital Age and Re-Construction of the Legal Network: The Role of Information Technology in China's Judicial Reform // Sociology of Law (Professional Journal of the Japanese Association of Sociological of Law). — 2001. — Vol. 54 — P. 222-235.
17. Ji W. The Change of Judicial Power in China in the Era of Artificial Intelligence // Asian Journal of Law and Society. — 2020. — No. 7. — P. 515-530.
18. Kehl D., Guo P., Kessler S. Algorithms in the Criminal law system: assessing the use of risk assessments in sentencing, 2017 // URL: https://cyber.harvard.edu/node/99985 (data obrashcheniya: 11.11.2021).
19. McCarthy J. Artificial Intelligence, Logic and Formalizing Common Sense, 1990 // URL: http://jmc.stanford. edu/articles/ailogic.html (data obrashcheniya: 14.11.2021).
20. Oswald E. What Is Artificial Intelligence? Here's Everything You Need to Know, 2019 // URL: https://www. digitaltrends.com/cool-tech/what-is-artificialintelligence-ai/ (data obrashcheniya: 07.11.2021).
21. Sanctis F. M. Artificial Intelligence and Innovation in Brazilian Justice // International Annals of Criminology. — Vol. 59. — 2021. — P. 1-10.
22. Surden H. Artificial Intelligence and Law: An Overview // Georgia State University Law Review. — 2019. — Vol. 35. — No. 4. — P. 1304-1337.
23. Surden H. Machine Learning and Law // Washington Law Review. — 2014. — Vol. 89. — № 1. — P. 80-90.
24. Surden H. The Variable Determinacy Thesis // Columbia Science and Technology Law Review. — 2011. — Vol. 12. — No. 1. — P. 1-91.
25. Tene O., Polonetsky J. Taming the Golem: Challenges of Ethical Algorithmic Decision-Making // North Carolina Journal of Law and Technology. — 2017. — Vol. 19. — No. 1. — P. 125-143.
26. Yablon C., Landsman-Roos N. Predictive Coding: Emerging Questions and Concerns // South Carolina Law Review. — 2013. — Vol. 64. — No. 3. — P. 637-668.
