CC BY
35
Территория новых возможностей. Вестник Владивостокского государственного университета. 2022. Т. 14, № 4. С. 51-59 The Territory of New Opportunities. The Herald of Vladivostok State University. 2022. Vol. 14, № 4. Р. 51-59
Научная статья УДК 347.9
DOI: https://doi.org/10.24866/VVSU/2949-1258/2022-4/051-059
Разрешение гражданских споров искусственным интеллектом: путь к цифровому судопроизводству или утрате справедливого правосудия?
Берман Алиса Михайловна
Ершов Никита Алексеевич
Российский университет дружбы народов Москва. Россия
Аннотация. Предметом настоящего исследования является опыт российского, зарубежного и международного использования искусственного интеллекта в процессе рассмотрения и разрешения споров физических и юридических лиц. Актуальность исследуемой тематики с каждым годом возрастает, что подтверждается обозначенной председателем Верховного Суда Российской Федерации необходимостью прорабатывать вопросы совершенствования приказного производства, в том числе перспективы использования искусственного интеллекта в целях автоматизированной подготовки проектов судебных приказов, в частности, для взыскания с физических лиц задолженностей по кредитам. Целью работы является исследование практики применения искусственного интеллекта в качестве арбитра по различным категориям споров как в России, так и за рубежом. С этой целью авторами был изучен и обобщен опыт России и зарубежных стран, передовых в сфере использования цифровых технологий в гражданском судопроизводстве. В результате исследования авторами выявлены примеры положительного и отрицательного опыта и последствий внедрения цифровых технологий в процессы гражданского судопроизводства. Из-за того, что цифровизация судопроизводства как явление носит междисциплинарный характер (так как стоит на стыке права и технологий), авторами в ходе настоящего исследования был использован весь комплекс всеобщих, общенаучных и частноправовых приемов и методик познания, в том числе системный, функциональный, логический, сравнительный и другие научные методы исследования. Результатом исследования является оценка эффективности практик применения цифровых технологий в процессе вынесения судебных решений в России и за рубежом. На основании данного научно-аналитического обзора авторами сделаны выводы о возможном положительном влиянии рассматриваемых процессов на процедуры отправления правосудия, но только при условии тщательного соблюдения определенных принципов и правил. Кроме того, авторами выдвинуто предложение о том, какое реформирование профильного правового регулирования потребуется для надлежащего процесса интеграции искусственного интеллекта в судебный процесс.
Ключевые слова: искусственный интеллект, компьютер, правосудие, судопроизводство, цифровизация.
Для цитирования: Берман А.М., Ершов Н.А. Разрешение гражданских споров искусственным интеллектом: путь к цифровому судопроизводству или утрате справедливого правосудия? // Территория новых возможностей. Вестник Владивостокского государственного университета. 2022. Т. 14, № 4. С. 51-59. DOI: https://doi.org/10.24866/VVSU/2949-1258/2022-4/051-059.
Работа выполнена при финансовой поддержке Гранта Президента РФ № НШ-3270.2022.2 «Эволюция или революция гражданского судопроизводства: цифровизация через призму искусственного интеллекта». © Берман А. М., 2022 © Ершов Н. А., 2022
51
Original article
Artificial Intelligence resolving civil disputes:
*
the road to digital proceedings or the loss of fair justness? Alisa M. Berman Nikita A. Ershov
Peoples' Friendship University of Russia Moscow. Russia
Abstract. The subject of this research is the experience of Russian, foreign and international use of artificial intelligence while considering and resolving disputes among individuals and legal entities. The relevance of the research is increasing from year to year. The Chairman of the Supreme Court of the Russian Federation has indicated the prospects of using artificial intelligence for automated adjudication of court orders in line with the improvement of court proceedings, including, in particular, the recovery of credit debts from natural persons. The goal of the research is to investigate the practice of applying artificial intelligence as an arbitrator in various categories of disputes in Russia and abroad. For this purpose, the authors studied and summarized the experience of Russia and foreign countries that are advanced in using digital technologies in civil litigation. The authors identified examples of positive and negative experiences as well as consequences of implementing digital technologies in civil proceedings. Since the phenomenon of court proceeding digitalization is interdisciplinary (it stands at the junction of law and technology), the authors used the full range of methods, including general scientific (systemic, functional, logical, comparative and other scientific research methods) and specific legal ways and methods. The result of the research is identifying the effectiveness of applying digital technologies in the process of adjudication in Russia and abroad. Based on this scientific and analytical review, the authors conclude that the process under consideration may have a positive impact on the administration of justice, but only being subject to the careful observance of certain principles and rules. In addition, the authors put forward suggestions about reforms in the relevant legal regulation required for the proper integration of artificial intelligence into the judicial process.
Keywords: artificial intelligence, computer, justice, litigation, digitalization.
For citation: Berman A.M., Ershov N.A. Artificial Intelligence resolving civil disputes: the road to digital proceedings or the loss of fair justness? // The Territory of New Opportunities. The Herald of Vladivostok State University. 2022. Vol. 14, № 4. P. 51-59. DOI: https://doi.org/10.24866/VVSU/2073-3984/2949-1258/051-059.
Введение
В последнее время по всему миру наблюдается бурный всплеск развития информационных технологий, который выражается в презентации передовых технических решений, позволяющих избавить человека от наиболее сложной и однообразной работы. Сельское хозяйство, металлургию, сборку готовой продукции уже невозможно представить без использования автоматизированных станков, роботов и передовых программных решений. Однако возможности технологического прогресса намного более обширны, чем лишь одна замена физического труда на труд машин. Крупнейшие международные компании уже вкладывают миллионы долларов в разработку решений по замене умственного труда человека, прокладывая путь для дальнейшего развития искусственного интеллекта [4, с. 65]. Глобализация мировой торговли и транснациональный характер всех связанных с ней процессов показали необходимость сокращения трат
This work was financially supported by the Grant of the President of the Russian Federation no. H^-3270.2022.2 «Evolution or revolution of civil proceedings: digitalization through the prism of artificial intelligence». 52
огромного количества ресурсов на содержание большого штата сотрудников в каждом регионе присутствия компании. Но в вопросах судебной и претензионной работы такие изменения практически невозможны: устройство процедуры разрешения споров требует определенных уникальных знаний национального законодательства, а скорость выполнения судебных процедур делает командировки работников из других регионов еще дороже оплаты услуг местных юристов или выплаты заработной платы местным штатным юрисконсультам.
Для решения данной проблемы исследователями, финансируемыми бизнесом, были разработаны разнообразные вариации программных решений, позволяющих автоматизировать и оптимизировать предшествующие судебному разбирательству процессы, как частично использующие, так и вовсе не использующие искусственный интеллект. Но этого оказалось недостаточно: загрузка судей, вызванная неадекватным количеством переданных им на рассмотрение дел, продолжает тормозить даже самые активные попытки процессуальных юристов ускорить выполнение процедуры.
Целью оптимизации становится сам процесс отправления правосудия -компании предлагают внедрить функционал по автоматическому вынесению вердиктов в рамках несложных и распространенных споров в сами судебные органы. В различных странах законодатель по-разному отреагировал на эту идею: в одних она была сразу же внедрена в судебный процесс, в других - начала активно тестироваться, а в третьих - и вовсе была отклонена и отложена до лучших времен. Разница в подходах вызвала множество дискуссий о том, стоит ли все-таки применять инновации в таком сложном юридическом процессе, как отправление правосудия, или же от их внедрения судопроизводству станет только хуже [7, с. 132].
Целью данной работы является исследование практики применения искусственного интеллекта в качестве арбитра по различным категориям споров как в России, так и за рубежом. Для достижения указанной цели авторами были выполнены следующие задачи: проанализированы существующие технологические решения, предназначенные для автоматического вынесения судебных актов, выявлены преимущества и недостатки применения данного способа отправления правосудия.
Предметом исследования стал опыт российского, зарубежного и международного использования искусственного интеллекта в процессе рассмотрения и разрешения споров физических и юридических лиц.
В качестве источниковой базы исследования авторы использовали нормативные правовые акты различного уровня юридической силы, отдельные научные труды в области внедрения искусственного интеллекта в судопроизводство, судебную практику, сформированную искусственным интеллектом в роли судьи при разрешении различных категорий споров.
Методологическую основу исследования составили общенаучные (анализ, синтез, индукция, дедукция) и частноправовые методы (сравнительно-правовой и формально-юридический).
53
Основная часть
Двадцать лет назад мир не мог себе и представить, что в судебном процессе может участвовать не только человек, но и компьютер, да еще в качестве самостоятельного участника и уж тем более - в качестве судьи. Даже в художественной литературе творческая мысль давала авторам изображение мира, в котором искусственный интеллект либо выполнял «грязную» человеческую работу, либо применялся в военных целях, но никак не выступал на позиции стража справедливости.
Однако с появлением в руках ученых технологий, позволяющих модернизировать искусственный интеллект для использования в самых различных целях, информационное поле изменилось. Так, при помощи анализа публично доступной базы данных решений Европейского суда по правам человека в 2016 г. исследователи из Университетского колледжа Лондона смогли разработать программное решение, позволяющее спрогнозировать вердикт по делу с семидесятидевятипроцентной вероятностью [2]. Ученые утверждали, что позиционируют искусственный интеллект не как замену судьям или адвокатам, а как полезный инструмент для упрощения их работы, но, тем не менее, результаты исследования показали, что дальнейшее развитие этого направления вполне возможно.
В 2017 г. группа американских ученых во главе с Джоном Кляйнбергом разработали алгоритм, который, проанализировав исторические данные, смог превзойти практические результаты судейской работы в вопросе избрания такой меры пресечения в рамках рассмотрения уголовных дел, как помещение подозреваемого под стражу. Более того, по словам ученых, применение разработанного ими алгоритма на практике позволило бы (по сравнению с самостоятельным принятием такого решения судьей) сократить количество совершаемых преступлений на 24,8 %, а также снизить численный состав лиц, находящихся в местах лишения свободы в ожидании приговора, на 42 %, при этом уровень преступности не увеличился бы [8].
Такие показатели продемонстрировали всему миру то, что разработка технических решений, позволяющих выполнять работу судей в рамках определенных процессов отправления правосудия, не только является закономерным этапом развития судопроизводства, но и, в случае интеграции их в судопроизводство, будет иметь реальный эффект и значительно снизит вероятность совершения ошибки в рамках разрешения конкретного судебного дела [10, с. 703].
Реакции государств-первопроходцев в области внедрения цифровых технологий не пришлось долго ждать: Китай уже в 2017 г. начал полномасштабное тестирование применения искусственного интеллекта для разрешения различных гражданских споров онлайн при помощи популярного в Китае мессенджера WeChat [11, с. 124]. Затем амбициозный проект начал активно применяться для разрешения реальных споров, а к 2019 г. с его помощью уже рассмотрели три миллиона судебных дел, связанных с онлайн-торговлей, защитой авторских прав и привлечением к ответственности за правонарушения в области электронной коммерции [6].
В феврале 2019 г. в Великобритании спор, разрешаемый Высоким судом Англии и Уэльса, был успешно урегулирован путем заключения между сторо-
54
нами мирового соглашения во внесудебном порядке. Этот спор не был бы примечателен, если бы не один нюанс: условия мирового соглашения были разработаны с использованием специальной программы-медиатора - канадского сервиса Smartsettle One, который использует особые алгоритмы для изучения приоритетов сторон [5].
Однако такие развитые страны, как Россия, США и Франция, ограничились лишь словесной поддержкой применения инноваций и началом собственного осторожного тестирования влияния искусственного интеллекта на процесс отправления правосудия. В чем же причина неспешности во внедрении в судопроизводство успешной, на первый взгляд, технологии?
Проблемы, затрудняющие введение искусственного интеллекта в судебный процесс, в любой стране современного мира связаны не только с новизной этой технологии. Необходимо отметить, что вердикты, выносимые искусственным интеллектом, в настоящее время не имеют мотивировочной части и сводятся только к демонстрации полученного результата. Принцип работы алгоритмов основан на обработке загруженных в систему массивов данных, вычленении из них ключевых элементов, а затем на сверке информации, содержащейся в поставленной задаче, с набором изученных ключевых элементов (так называемое «обучение искусственного интеллекта»). Таким образом, мотивировать выбранное решение программа может только двумя способами: либо выдав перечень успешных и неуспешных сравнений переменных, либо повторив мотивировки из имеющихся в ее базе дел. Введение любого ранее не изученного алгоритмом элемента делает непредсказуемым результат работы программы. Это показывает как отсутствие правотворческой составляющей, так и «вторичность» принимаемых решений искусственным интеллектом, а значит, самостоятельно работать над разрешением судебных дел, при отсутствии контроля со стороны судьи, возможно только в далеком будущем. Но применение искусственного интеллекта в судопроизводстве началось уже сейчас, причем в интернациональном аспекте - несистемно, что может крайне негативно сказаться на цели правовых государств по достижению доступности правосудия для всех лиц. Это стало одной из причин разработки и принятия Европейской комиссией по эффективности правосудия - судебным органом Совета Европы - Европейской этической хартии об использовании искусственного интеллекта в судебных системах и окружающих их реалиях (далее - Хартия) [1]. Данный документ объединил в себе ключевые (по мнению стран - участниц Совета Европы) элементы безопасного и обдуманного внедрения искусственного интеллекта в судопроизводство и ввел пять основных принципов осуществления этого процесса, что сделало для авторов необходимым исследовать его и оценить приведенные в нем положения.
Первым принципом стала обязательность соблюдения основных прав, гарантированных как Европейской Конвенцией по правам человека, так и Конвенцией о защите персональных данных [3]. Наработанный веками существования человечества опыт по гуманизации и защите прав человека не может быть проигнорирован в целях модернизации современных правовых процессов. Искусственный интеллект, даже не имея представления о существующей нормативной
55
базе, должен быть изначально ограничен такими рамками, которые позволят максимально отстранить компьютер, чуждый к потребностям человека, от оценки имеющихся в обществе постулатов взаимного сосуществования.
Вторым принципом Хартии стал вывод, полученный в рамках изучения и анализа позиций, выраженных искусственным интеллектом, - предупреждение развития или усиления любой дискриминации. Средства массовой информации неоднократно придавали огласке исследования программных решений, в которых, несмотря на явное отсутствие у разработчиков намерения заложить в структуру искусственного интеллекта такой функционал, последний с предпочтением выбирал одну группу людей по отношению к другой. Ярким примером является назначение программой-советником американского судьи высокой категории риска темнокожей восемнадцатилетней девушке, не имевшей криминального прошлого, а сорокалетнему белому преступнику-рецидивисту - низкой категории [9].
Третьим принципом стала обязательность использования сертифицированных источников обработки судебных решений и данных. Квалифицированность искусственного интеллекта напрямую зависит от источников его обучения, и компьютер, если отдельный регламент проверки загружаемых данных не заложен в его программный код, всегда принимает передаваемую ему информацию как абсолютную истину, даже в случае противоречия ее функционалу и возможностям программы (в таком случае она просто перестает работать). Проконтролировать наличие и работоспособность модуля проверки входных данных даже с привлечением квалифицированных специалистов не всегда представляется возможным, а проверить всю базу загруженных в искусственный интеллект дел - практически невыполнимая задача.
Четвертым принципом Хартия устанавливает обеспечение прозрачности, беспристрастности и достоверности использования искусственного интеллекта в судах. Вариативность разрабатываемых с использованием искусственного интеллекта технологических решений не позволяет сформировать стандарты разработки и функционирования таких систем. Каждая применяемая в судопроизводстве программа, по мнению авторов, не может соответствовать целям отправления правосудия, если ее алгоритм не может быть подвергнут конструктивной критике, а механизмы ее работы не могут быть поставлены под сомнение. Более того, легитимация принятого искусственным интеллектом решения в угоду планам законодателя по популяризации цифровых технологий не только нарушает принципы судопроизводства, но и превращает программную ошибку в преступление.
Наконец, последний, пятый принцип - необходимость обеспечения оспари-ваемости решений искусственного интеллекта и максимально подробного информирования участников судебного процесса о порядке использования искусственного интеллекта при отправлении правосудия и его месте в системе процессуальных решений. По мнению авторов, без такой цели действительно была бы потеряна всякая значимость решений, вынесенных искусственным интеллектом: участники процесса сразу обращались бы к альтернативным способам раз-
56
решения споров. Несоблюдение указанного принципа вело бы к утрате смысла судебного разбирательства с использованием искусственного интеллекта вообще.
Заключение
Рассмотрев практику внедрения искусственного интеллекта в процессы разрешения судебных споров в различных странах, авторы пришли к выводу о том, что применение таких инноваций имеет крайне неоднозначную динамику и при поспешном и необдуманном использовании результатов технического прогресса в этой области может нарушить тонкий баланс соблюдения интересов человека и государства, лишив первого одного из важнейших и неотъемлемых элементов правовой защищенности личности - права на доступ к правосудию.
Однако данные последствия возможно предотвратить. Значимым шагом на пути регулирования внедрения искусственного интеллекта в судопроизводство стало принятие в Европейском союзе Хартии, определяющей необходимые условия ограничения технических решений для предотвращения нанесения ими непоправимого ущерба правовым основам судоустройства. При условии соблюдения закрепленных в Хартии принципов рассматриваемый этап модернизации процессов отправления правосудия повлечет, скорее, положительные последствия и будет направлен на достижение целей цифровизации судопроизводства, а не нанесение ему неоценимого вреда. Однако Хартия имеет территориальное ограничение своего влияния, а значит, в тех странах, на которые действие Хартии не распространяется, применение искусственного интеллекта для разрешения гражданских споров влечет риски, которые необходимо минимизировать на государственном уровне.
Таким образом, по мнению авторов, тем странам, которые нацелены на цифровизацию судопроизводства путем внедрения искусственного интеллекта в процессы разрешения споров и не являются членами Европейского союза (как, например, Россия), представляется необходимым разработать основные принципы использования искусственного интеллекта в разрешении гражданских споров, аналогичные по сферам действия и защищаемым правам человека принципам, закрепленным в положениях Хартии, но с учетом государственной специфики правового регулирования и национальных интересов, и интегрировать их в процессуальные кодексы. Поскольку данный процесс является комплексным и не может быть совершен в короткие сроки, в качестве мер промежуточного регулирования на международном уровне следует закрепить обязанность разработать такие принципы в национальных стратегиях развития судопроизводства, а также инициировать процесс совместного создания транснациональной организации, контролирующей разработку, имплементацию и применение принципов использования искусственного интеллекта в судебных системах по всему миру.
Список источников
1. Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях. URL: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4 (дата обращения: 20.10.2022).
57
2. Искусственный интеллект научился предсказывать решения ЕСПЧ. URL: https://nauka.tass.ru/nauka/6820998?utm_source=yandex.ru&utm_medium=organic&utm _campaign=yandex.ru&utm_referrer=yandex.ru (дата обращения: 20.10.2022).
3. Конвенция о защите физических лиц при автоматизированной обработке персональных данных (заключена в г. Страсбурге 28.01.1981) (вместе с Поправками к Конвенции о защите физических лиц при автоматизированной обработке персональных данных (СДСЕ N 108), позволяющими присоединение европейских сообществ, принятыми Комитетом Министров в Страсбурге 15.06.1999) // СПС «Консультант Плюс».
4. Купчина Е.В. Применение технологии искусственного интеллекта в системе гражданского судопроизводства США // Legal Concept. 2021. Т. 20, № 4. С. 63-71.
5. Робот-медиатор заткнул за пояс судебных примирителей. URL: https://legal.report/robot-mediator-zatknul-za-pojas-sudebnyh-primiritelej/ (дата обращения: 20.10.2022).
6. AI shock: China unveils 'cyber court' complete with AI judges and verdicts via chat app. URL: https://www.express.co.uk/news/science/1214019/ai-china-cyber-court-artificial-intelligence-judges-verdicts-chat-app (access date: 20.10.2022).
7. Ermakova E.P., Frolova E.E. Using artificial intelligence in dispute resolution // Smart Innovation, Systems and Technologies. 2022. Vol. 254. P. 131-142.
8. Human decisions and machine predictions. URL: https://www.nber.org/system/-files/working_papers/w23180/w23180.pdf (access date: 20.10.2022).
9. Machine Bias. URL: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (access date: 20.10.2022).
10. Rusakova E.P., Frolova E.E. Digital Disputes in the New Legal Reality // RUDN Journal of law. 2022. Vol. 26, № 3. P. 695-704.
11. Rusakova E.P., Frolova E.E. Introduction of Digital Methods of Protection of Rights as a Legal Guarantee of Business Activity in the Modern World (On the Example of China) // Smart Innovation, Systems and Technologies. 2022. Vol. 254. С. 121-130.
References
1. European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment. URL: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4 (access date: 20.10.2022).
2. Artificial intelligence has learned to predict ECtHR judgments. URL: https://nauka.tass.ru/nauka/6820998?utm_source=yandex.ru&utm_medium=organic&utm _campaign=yandex.ru&utm_referrer=yandex.ru (дата обращения: 20.10.2022).
3. Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (concluded in Strasbourg 28.01.1981) (together with the Amendments to the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (CFPP No.108), allowing accession of the European Communities, adopted by the Committee of Ministers in Strasbourg 15.06.1999). SPS "ConsultantPlus".
4. Kupchina, E.V. Application of Artificial Intelligence Technology in the US Civil Justice System. Legal Concept. 2021; 20 (4): 63-71.
5. A robot mediator has put judicial conciliators behind the scenes. URL: https://legal.report/robot-mediator-zatknul-za-pojas-sudebnyh-primiritelej/ (access date: 20.10.2022).
6. AI shock: China unveils 'cyber court' complete with AI judges and verdicts via chat app. URL: https://www.express.co.uk/news/science/1214019/ai-china-cyber-court-artificial-intelligence-judges-verdicts-chat-app (access date: 20.10.2022).
58
7. Ermakova E.P., Frolova E.E. Using artificial intelligence in dispute resolution. Smart Innovation, Systems and Technologies. 2022; (254): 131-142.
8. Human decisions and machine predictions. URL: https://www.nber.org/system/-files/working_papers/w23180/w23180.pdf (access date: 20.10.2022).
9. Machine Bias. URL: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (access date: 20.10.2022).
10. Rusakova E.P., Frolova E.E. Digital Disputes in the New Legal Reality. RUDN Journal of law. 2022; 26 (3): 695-704.
11. Rusakova E.P., Frolova E.E. Introduction of Digital Methods of Protection of Rights as a Legal Guarantee of Business Activity in the Modern World (On the Example of China). Smart Innovation, Systems and Technologies. 2022; (254): 121-130.
Информация об авторах:
Берман Алиса Михайловна, ассистент кафедры гражданского права и процесса и
международного частного права Российского университета дружбы народов, г. Москва.
E-mail: [email protected]. ORCID: https://orcid.org/0000-0003-0257-9127
Ершов Никита Алексеевич, аспирант кафедры гражданского права и процесса и международного частного права Российского университета дружбы народов, г. Москва.
E-mail: [email protected]. ORCID: https://orcid.org/0000-0002-5209-7217
DOI: https://doi.org/10.24866/VVSU/2949-1258/2022-4/051-059
Дата поступления: 14.06.2022
Одобрена после рецензирования: 22.06.2022
Принята к публикации: 27.08.2022
