CC BY
29DOI: 10.22394/2070-8378-2021-23-4-20-28
Алгоритмические модели анализа судебных решений (MAAD)
ЛЕМИ ГОДФРУА, преподаватель Исследовательской группы в области права, экономики и управления (GREDEG) университет лазурного берега (Avenue Doyen Louis Trotabas, 06000 Nice, Франция). E-mail: [email protected]
Аннотация: Статья посвящена внедрению цифровизации в процессы правосудия и затрагивает вопросы обработки данных для судебных решений по административным и гражданским спорам, касающимся компенсации за телесные повреждения. Целью внедрения алгоритмов была попытка разработать ориентировочные критерии и способы определения размеров компенсации за телесные повреждения. Отмечается, что новые правила были встречены профессиональным сообществом неоднозначно. Так, делегации юристов из стран G7 выразили озабоченность по поводу будущего правосудия, причиной их беспокойства стала возможность исключения состязательной дискуссии из судопроизводства в случае использования искусственного интеллекта. В этом контексте регулирование алгоритмов, используемых в сфере правосудия, обозначенных термином «алгоритмические режимы анализа судебных решений» (MAAD), кажется приоритетом для сохранения демократии и верховенства закона. Автор делает вывод, что MAAD будут способствовать большей открытости судьи как в отношении истцов, так и самого судебного учреждения, а также - «согласованности» прецедентного права, делая его доступным для чтения судьями. Подчеркивается, что алгоритмизация - это форма цифровой судебной коллегиальности, а не стандартизации судебного мышления.
Благодарность: Данная статья выполнена в рамках исследовательского доклада, проведенного в рамках Миссии по изучению права и справедливости. См.: L. Godefroy, F. Lebaron, J. Levy-Vehel. Comment le numérique transforme le droit et la justice par de nouveaux usages et un bouleversement de la prise de décision. Anticiper les évolutions pour les accompagner et les maîtriser. http://www.gip-recherche-justice.fr/publication/comment-le-numerique-transforme-le-droit-et-la-justice-par-de-nouveaux-usages-et-un-bouleversement-de-la-prise-de-decision-anticiper-les-evolutions-pour-les-accompagner-et-les-maitriser/ 5 juillet 2019.
Ключевые слова: легтех, право и искусственный интеллект, алгоритмические режимы анализа судебных решений (MAAD)
Статья поступила в редакцию 28 декабря 2020 года.
Годфруа Л. Алгоритмические модели анализа судебных решений. Государственная служба. 2021. № 4. С. 20-28.
ALGORITHMIC MODELS FOR ANALYZING JUDICIAL DECISIONS (MAAD)
LÉMY GODEFROY, Lecturer at the Research Group in Law, Economics and Management (GREDEG) University of Cote d'Azur (Avenue Doyen Louis Trotabas, 06000 Nice, France). E-mail: [email protected]
Abstract: The article examines the introduction of digitalization into justice processes and the processing of judicial decisions in administrative and civil personal injury compensation disputes. The purpose of the implementation of the algorithms was an attempt to develop indicative criteria and ways to determine the amount of compensation for bodily injury. It is noted that the new rules were met ambiguously by the professional community. For example, delegations of lawyers from G7 countries expressed concerns about the future of justice. The reason for their discontent was the possibility of excluding adversarial discussion from judicial proceedings if artificial intelligence was used. In this context, the regulation of algorithms used in the justice sector, designated by the term "algorithmic models of judicial decision analysis" (MAAD) seems to be a priority for the preservation of democracy and the rule of law. The author believes that MAAD will promote greater openness of the judge, both to the plaintiffs and to the judicial institution, as well as - "coherence" of the case law, making it available for judges to examine. It is emphasized that the introduction of such algorithms is a form of digital judicial collegiality, not the standardization of judicial thinking. Acknowledgments: This article is part of a research report conducted by the Mission to Study Law and Justice. See L. Godefroy, F. Lebaron, J. Levy-Vehel. How digital is transforming law and justice through new approach and revolution in decision-making. Anticipate changes to support and control them. http://www.gip-recherche-justice.fr/publication/comment-le-numerique-transforme-le-droit-et-la-justice-par-de-nouveaux-usages-et-un-bouleversement-de-la-prise-de-decision-anticiper-les-evolutions-pour-les-accompagner-et-les-maitriser/ July 5, 2019.
Keywords: legtech, law and artificial intelligence, algorithmic models for analyzing judicial decisions (MAAD)
The article was received on December 28, 2020.
Godefroy L. Algorithmic models for analyzing judicial decisions (MAAD). Gosudarstvennaya sluzhba. 2021. No. 4. P. 20-28.
Введение
27 марта 2020 года был принят декрет правительства Франции об организации обработки данных по судебным актам, вынесенным в апелляционном порядке в период с 1 января 2017 года по 31 декабря 2019 года административными судами и гражданскими коллегиями судебных инстанций по спорам, связанным с возмещением вреда здоровью. Среди целей декрета - разработка ориентировочной справочной основы для выплаты компенсации за причинение телесных повреждений, информирование сторон и оказание помощи в оценке размера компенсации, на которую имеют право потерпевшие, чтобы содействовать мирному урегулированию споров и обеспечить новый источник документации для судей, призванных выносить решения по искам о компенсации за причиненные телесные повреждения1. Менее чем за год до этого, в апреле 2019 года, правительство Эстонии объявило, что споры на сумму менее 7 000 евро теперь будут решаться с помощью алгоритма.
12 июля 20192 года делегации адвокатов из государств «большой семерки», главы которых собрались в Биаррице 24-27 августа 2019 года, выразили свою озабоченность по поводу будущего правосудия. По мнению председателя Национального совета коллегий адвокатов (CNB) г-жи Фераль-Шуль, «искусственный интеллект не учитывает контекст судебного процесса. Более того, в нем отсутствуют состязательные дебаты. Это вызывает тревогу. Добавьте к этому, что алгоритмы принадлежат частным операторам, цель которых состоит не только в обслуживании граждан»3.
Алгоритмы, положенные в основу MAAD
В этом контексте регулирование алгоритмов, используемых в области правосудия, которые мы будем называть алгоритмическими моделями для анализа судебных решений (de Modes algorithmiques d'analyse des décisions de justice - MAAD), является приоритетным с точки зрения сохранения демократии и верховенства права. В целях противодействия опасности приватизации системы правосудия частными юридическими технологиями
1 Décret n° 2020-356 du 27 mars 2020 portant création d'un traitement automatisé de données à caractère personnel dénommé "DataJUSt", JORF n°0077 du 29 mars 2020, texte n°2. (Декрет № 2020-356 от 27 марта 2020 года о создании автоматизированной обработки персональных данных под названием DataJust, JORF № 0077 от 29 марта 2020 года, текст № 2).
2 В течение шести месяцев адвокатские организации из Франции, Германии, Японии, США, Великобритании, Италии и Канады встречались для выработки совместных предложений по вопросам правосудия.
3 См.: Des Courieres. Les avocats sous la menace des algorithmes.
http://www.lavie.fr/actualite/societe/les-avocats-sous-la-menace-
des-algorithmes-18-07-2019-99401_7.php 18 juillet 2019.
Закон о программировании на 2018 - 2022 годы и реформировании системы правосудия от 18 февраля 2019 года запрещает, чтобы судебные решения основывались исключительно на алгоритмах, не указывая при этом долю их участия. Эта мерапредставляет собой первый «кирпичик» в построении правовой базы для использования алгоритмов в области правосудия. Кроме того, особо важную роль приобретает государственное управление алгоритмами поддержки принятия решений. Необходимо создать независимый механизм контроля алгоритмов, а также оценки и мониторинга воздействия этих инструментов на судебную систему.
На сегодняшний день в MAAD используются два типа алгоритмов:
- необучаемые алгоритмы, реализующие набор спецификаций, предопределенных разработчиком. Это касается статистических алгоритмов. Они опираются на массивы данных, извлекают из совокупности решений те, которые включают в себя определенные Ключевые слова, и призваны оценить среднюю сумму выплаченной компенсации, упомянуть юрисдикцию, которая устанавливает наибольший ущерб, а также помочь юридическому исследованию с использованием ключевых слов. В эту категорию также попадают экспертные системы. Как правило, они состоят из многокритериальных методов, основанных на правилах кодирования, предопределенных разработчиком. Примером таких алгоритмов является PilotePC [Piwnica, 2013, 12; Bardout, 2015, 479; Méthodes... 2015, 286]4, который конвертирует юридические критерии оценки суммы компенсационного пособия в серию математических расчетов [Bardout, Loryhios, 2013, 693];
- обучающиеся алгоритмы, которые умеют «запоминать, адаптировать, обобщать» [Reigeluth, 2016. Р. 112-123]. Данные модели не просто выполняют процедуру, написанную проектировщиком в коде. Используя методы обучения, они строят модели5, применимые к будущим конфликтным ситуациям для определения возможных решений.
Таким образом, MAAD не «предсказывают» решения. Предсказание означает заранее «рассказать, что произойдет», оно связано с понятием уверенности. В решении суда нет уверенности, его невозможно предсказать: человеческая деятельность по отправлению правосудия по своей природе непредсказуема.
В то же время благодаря более глубокому знанию тенденций в судебной практике MAAD могут предложить варианты решений и способствовать
4 Авторы идеи - два сотрудника суда Тулузы (Жан-Клод Бардоу, вице-президент суда первой инстанции Тулузы, и советник Сильви Труш) и два адвоката (Изабель Лортхиос и Натали Дюпон).
5 Rapport de synthèse. France intelligence artificielle. https:// www.vie-publique.fr/sites/default/files/rapport/ pdf/174000247.pdf
урегулированию споров. Для судьи, ответственного за решение спора, MAAD являются подспорьем в принятии решений. В перспективе мирного урегулирования (примирение, медиация, процедуры посредничества) они являются предварительным этапом обсуждения, основой переговоров и определением стратегии. Они оказывают методологическую помощь специалистам по правовым и судебным вопросам. Их результаты могут быть сопоставлены с выводами экспертного заключения или с одним из элементов юридической консультации.
Сущность и функции MAAD
Однако если, как видим, польза от MAAD значительна, то необходимо вести просветительскую работу и развивать доверие к ним со стороны пользователей. Поэтому важно рассматривать MAAD с точки зрения их сущности (I) и функций (II).
I. Сущность MAAD
MAAD - это инструменты [Loevinger, 1971. P. 3; Kort, 1957. P. 1; Nagel, 1960. P. 8], некогнитивные технические [Simondon, 1989] (A) и чисто математические (B) объекты.
А. Некогнитивные технические объекты
MAAD были созданы человеком для анализа содержания и моделирования ситуаций с учетом наиболее существенных параметров, которые возникают при принятии судебных решений. Используются различные пути программирования. Например, обстоятельства имеют различное значение при принятии решения, сумма этих значений соответствует весу решающих факторов в споре. Как только этот вес превысит контрольное пороговое значение, скорее всего, будет принято одно решение, когда вес ниже - иное. Другой метод заключается в поляризации основных фактов и связывании их с самым распространенным результатом, чтобы в будущем при наличии таких же фактов MAAD выдавал определенный результат [Lawlor, 1963. Р. 337].
MAAD не рассуждают сами. Они дают результат, который зависит исключительно от выбора человеком правовых и внеправовых параметров в соответствии с их влиянием на решение. Другими словами, алгоритмические результаты отражают наименьший общий знаменатель группы схожих решений.
Таким образом, MAAD демонстрируют тенденции, которые не зависят от конкретных обстоятельств каждого случая. Они предоставляют информацию о судебной практике, а не решение «под ключ». Только человек способен принять решение [Jouen, Puigeli-er, Tijus, 2017. P. 97]. Это требует анализа возможных последствий решения правовой проблемы в конкретном контексте и оценки соответствия этих последствий заранее установленным правовым и внеправовым требованиям. Такие последовательные и телеологические подходы структурируют процесс
принятия решений6. В этом процессе MAAD являются вспомогательным инструментом. Они не предназначены ни для того, чтобы заменить свободу воли судьи, ни для того, чтобы обойтись без судьи, не говоря уже о том, чтобы лишить судью власти принимать решения. Они не автоматизируют процесс принятия решений. Они обеспечивают принятие обоснованного решения. Они не имеют прогностической7 или даже нормативной функции, могут выполнять только индикативную функцию.
Более того, представление алгоритмических результатов придаст им индикативный и информативный характер (например, если они представлены в виде распределений вероятностей, а не в виде среднего значения). Отображение среднего значения побудило бы судью просто отложить данный показатель, в то время как распределение вероятностей требует оценки и толкования.
MAAD являются некогнитивными техническими, чисто математическими объектами.
Б. Математические технические объекты MAAD шифруют, сравнивают, считают, измеряют количество повторов для подсчета корреляций. Они основываются на методах машинного обучения. В области права и правосудия в основном применяется метод «обучения с учителем». Разработчик отбирает примеры входящих и исходящих наборов данных. Затем на основе изучения исходных данных и соответствующих им результатов алгоритм строит обобщающие модели. В результате надежность MAAD зависит от достаточно большого числа аналогичных решений, тогда результаты могут наиболее точно отражать судебную практику. Использование MAAD нецелесообразно, когда данные слишком неоднородны и изменчивы. Следовательно, MAAD не охватывает случаи, которые в силу своей правовой уникальности требуют индивидуального подхода [Garapon, Perdrio-lle, Bernabe, Kadri, 2013].
В праве каждое дело уникально потому, что оно является сложным или специфическим с юридической точки зрения. Юридическая сложность характеризуется неточностью, неясностью, неполнотой правовых норм или одновременным применением нескольких норм. «Судья должен сказать больше, чем предполагают одни только правила. <...> Он может использовать свои нормативные полномочия,
6 В сложных случаях процесс принятия решения предусматривает последовательное выполнение пяти операций: юридическая квалификация фактов и определение подходящего правила, первое восприятие возможных решений и представление причин, на которых они основаны, проверка условий их выполнения (имеющихся правовых инструментов), оценка их возможных последствий с учетом контекста и обстоятельств, вынесение решения.
7 См. классификацию алгоритмов, предложенную Florence G'Sell. Predictive justice? Law and big data. How information analytics will change the law. Colloque international Paris. 17 et 18 mars 2017.
чтобы решить стоящее перед ним трудное дело»8. Правовая специфика направлена на споры, которые заслуживают тщательного рассмотрения ввиду их новизны, актуальности правовой проблемы или фактов неопределенного правового характера. Судья разъясняет порядок применения правил, которые до сих пор применялись лишь в редких случаях или не применялись вообще (или в рамках нетипичных для того или иного дела фактов).
Такой качественный судебный процесс не подпадает под юрисдикцию MAAD. В этом отличие от количественных судебных разбирательств, которые характеризуются повторяющимися проблемами и стабильными решениями, соответствующими математической природе MAAD.
Таким образом, область применения MAAD - это сфера судебных разбирательств, где моделирование может осуществляться на основе известных, идентифицируемых, воспроизводимых и поддающихся количественной оценке фактических критериев. «Методы поддержки принятия решений <...> возможны в типичных, возобновляемых ситуациях, когда общие процедуры оптимизации подходят для многих случаев...» [Saint Sernin, Paris, 1989. P. 37]. Например, оценить экономический ущерб, связанный с внезапным прекращением коммерческих отношений, когда размер ущерба зависит от продолжительности отношений, оборота или маржи, подсчитать размер алиментов и компенсационных выплат в семейных судебных разбирательствах, рассчитать компенсацию за расторжение трудовых договоров и др. Судебный процесс о возмещении ущерба также осуществляется с помощью MAAD.
Будучи математическим объектом, MAAD должны давать некоторые гарантии. Прежде всего, алгоритмический результат должен быть точным или по крайней мере соответствовать заявленному разработчиком уровню точности. Это требование к коэффициенту ошибки дает представление о качестве MAAD. В этом отношении алгоритму «обучения с учителем» нужно меньшее количество примеров, чем чисто статистическим методам или алгоритму «обучения без учителя». Ограниченный объем данных не является препятствием для надежных прогнозов.
MAAD должны быть прозрачными. Этой цели препятствуют технические (черный ящик кода) и экономические (защита коммерческой тайны) факторы. Самые надежные системы машинного обучения часто непрозрачны. Они имеют цель «снабдить алгоритм примерами, на которых он будет основывать [свои] вычисления без четкого понимания соответствующих правил»9. Разработчик знает, что такое «входные
8 http://www.laviedesidees.fr/Ronald-Dworkin-ou-le-roman-du-droit.html
9 Interview de С. Mathieu, titulaire de la chaire annuelle d'Informa-
tique et sciences numériques du Collège de France. Le Figaro. 29
novembre 2017.
и выходные данные», однако не может объяснить, что происходит между ними. В результате путь, который привел к тому или иному конкретному решению, остается неизвестным. Учитывая этические трудности, присущие этим технологиям, открытие «черных ящиков» искусственного интеллекта имеет демократический смысл.
Закон признает право отдельных лиц на получение разъяснений, однако объем этого права пока неясен. Например, в Общем регламенте по защите данных предусмотрено право на получение информации об использовании MAAD и его операционной логике. Закон от 20 июня 2018 года, который дополняет Закон о защите данных от 6 января 1978 года, устанавливает обязательное индивидуальное разъяснение. Любое заинтересованное лицо должно иметь возможность получить подробные и понятные объяснения о том, как алгоритм действовал в его случае.
Более того, само понятие объяснимости неопределенно. Принято считать, что система искусственного интеллекта поддается объяснению, когда человек может понять ее функционирование и ее математическую модель. Эта концепция объяснимости ограничила бы действия, практически осуществляемые MAAD. Под это определение могут подпасть только те технические операции, которые могут быть легко объяснены. При использовании самых сложных алгоритмов обучения часто «невозможно связать значения или характеристики с результатом решения, особенно в случае нелинейных или взаимодействующих моделей... Высокое значение переменной может привести к тому или иному решению, в зависимости от значения, принятого другой неопознаваемой переменной или сложной комбинацией других переменных» [Besse, Castets-Renard, Garivier, 2017]. Тем не менее эта сложность необходима для моделирования решений, принимаемых судьями, которые сами по себе опираются на нелинейные рассуждения.
Однако отсутствие объяснимости привело бы к отсутствию ответственности со стороны проектировщика, который бы просто ссылался на непрозрачность MAAD10. Кроме того, алгоритмические результаты должны быть обоснованы, чтобы в случае необходимости можно было их оспорить. Поэтому необходимо «воссоздать уместность траекторий <...>, если человек хочет иметь возможность придать результату юридическую силу» [Poinas, 2019. P. 118].
10 CERNA collectif. Éthique de la recherche en apprentissage machine. Rapport de recherche. Allistène, 2017. https://hal.inria.fr/hal-01643281/document: «Исследователь должен подвергнуть сомнению неинтерпретируемость или необъяснимость действий обучающейся компьютерной системы. Компромисс между производительностью и объяснимостью должен оцениваться при использовании алгоритма и должен быть объяснен в инструкции для разработчика и пользователя».
Поэтому для обеспечения эффективности объяс-нимость должна касаться не только алгоритмической формулы, но и способа обучения, то есть методов выбора данных или методик проверки достоверности результатов [Besse, Castets-Renard, Garivier, 2017]. В первую очередь объяснимость должна выражаться в требовании обоснованности [Heffner, 2017]. Должен быть понятен именно алгоритмический результат, а не сам алгоритм. Изучение входящих и исходящих данных позволит связать переменные друг с другом и определить их влияние на результат. С помощью определения количественной оценки влияния каждого критерия и комбинации критериев на результаты, а также через выявление наиболее важных корреляций можно обосновать ответы MAAD. «Играя» на весах поступающих данных и изучая влияние этих вариаций на полученные результаты, можно выявить объяснительный принцип, доступный для понимания человеком [Claude, 2017]. Алгоритмические результаты будут учитывать правовые и внеправо-вые факторы, определяющие результат. Такой подход апостериорного построения обоснования будет способствовать лучшей приемлемости алгоритмических результатов и введет долю рациональности в эмпирическую обработку.
Наконец, MAAD должны гарантировать равномерность обработки. В этой связи разработчик должен соблюдать политику предотвращения систематической ошибки и управления ее рисками, особенно на этапе обучения алгоритмов. Для того чтобы избежать погрешностей («Объем данных - это еще не все: меньшие наборы данных (small data) могут обеспечить значительную производительность, если они связаны с соответствующими моделями» [Villani, 2018. P. 27]), выборка данных должна быть репрезентативной и должна отражать разнообразие дел11, не содержать заниженного или завышенного количества определенных случаев. «Правильность решения зависит от качества прогноза и, следовательно, от качества модели. Последнее зависит от репрезентативности исходных данных, пригодности модели для рассматриваемой задачи и количества (дисперсии) остаточного шума» [Besse, Castets-Renard, Garivier, 2017].
Управление систематическими погрешностями требует принятия определенных мер по их выявлению и исправлению. Один из методов их обнаружения - непропорциональное воздействие. Идея заключается в том, чтобы сравнить результаты MAAD в случае, когда заданы критерии, соответствующие защищенным группам населения согласно юридическим критериям дискриминации (например, цвет кожи, социальное происхождение, пол), с результата-
11 CERNA collectif. Éthique de la recherche en apprentissage machine. Rapport de recherche. Allistène, 2017. https://hal.inria.fr/hal-01643281/document: «Разработчики систем машинного обучения должны выбирать данные, обеспечивая уважение разнообразия культур или групп пользователей этих систем».
ми того же MAAD, когда предоставляемые критерии соответствуют незащищенным группам населения. Если нет разницы в результатах, то в MAAD нет системной ошибки. При наличии расхождений в результатах необходимо определить степень диспропорции.
В этом случае речь пойдет об исправлении MAAD. Другими словами, об их переобучении. Существует ряд методов, которые позволяют исправить это нарушение. В целом методы подразумевают гибридизацию систем обучения с предписаниями, которым машина будет вынуждена следовать [Ganascia, 2017], чтобы избежать сохранения систематической погрешности [Bureau exécutif..., 2016. P. 14] с помощью изменения правил принятия решения (что предполагает знание этого правила) либо с помощью изменения выборки обучения. Изменение правила принятия решения означает, что алгоритм не должен изучать дискриминантную корреляцию - мы заблокируем корреляционную связь между дискриминантной переменной и решением. Изменение учебной выборки означает удаление восприимчивых переменных из учебной базы или добавление других переменных для компенсации восприимчивых переменных. Такая «расчистка» приводит к «выравниванию» выборки обучения, как это происходит в ходе опроса. Речь идет о преобразовании данных таким образом, чтобы выборка не отражала известные смещения в обществе или - в более широком смысле - в изучаемой области [Besse, Castets-Renard, Garivier, 2017. P. 23].
Некогнитивная и нематематическая природа MAAD позволит лучше определить их функцию.
II. Функция MAAD
Новые технологии должны привести к появлению «инструментов или средств для улучшения отправления правосудия, облегчения доступа истцов к судам»12 в соответствии с гарантиями, предлагаемыми статьей 6 Европейской конвенции по правам человека (в частности, доступ к правосудию, беспристрастность, независимость судьи, справедливость и своевременное судопроизводство). В этом смысле MAAD могут быть полезны как для сторон в процессе, так и для судебной системы в целом. Еще до судебного разбирательства стороны имеют представление о том, как система правосудия обычно рассматривает подобные дела. В ходе судебного разбирательства MAAD помогут ускорить судебный процесс и сделать его более последовательным (A). Для системы правосудия MAAD показывают ретроспективные решения, вынесенные по тому или иному вопросу, отвечающему тем же критериям, и перспективные решения, которые могут быть вынесены в споре, имеющем сходство с предыдущими делами. Кроме того, они являются новым ресурсом для изучения и совершенствования системы правосудия (В).
12 Avis № 14 (2011) du CCJE «Justice et technologies de l'information
(TI)». Р. 35.
Помощь в разрешении споров
Результаты MAAD должны быть частью процесса мирного или судебного «дематериализованного»13 разрешения юридически схожих споров14.
Методы мирного урегулирования15 могут сочетать MAAD с механизмом медиации или примирения при наличии явно выраженного согласия сторон. Стандарты судебных решений, освещенные в MAAD, дадут сторонам «более прочную основу для достижения соглашения» [Garapon, Perdriolle, Bernabe, Kadri, 2013]. В атмосфере «рассчитанного доверия» [Roberge, 2016. P. 141] их сближению будет способствовать то, что каждая сторона будет видеть возможные судебные решения и вероятность их успеха. Предоставляя сторонам средства для оценки их заинтересованности в достижении соглашения, MAAD изменят конфигурацию потока дел и сократят объ-
13 Дематериализация процедур соответствует сильной законодательной воле. См.: E. Macron. Une justice pour notre temps. Gaz. Pal., 14 mars 2017. Р. 16; F. Agostini, N. Molfessis. Chantiers de la justice. Amélioration et la simplification de la procédure civile. http://www.justice.gouv.fr/publication/chantiers_justice/ Chantiers_justice_Livret_03.pdf, 2018; J.-F. Beynel, D. Casas. Chantiers de la justice. Transformation numérique. http://www.justice. gouv.fr/publication/chantiers_justice/Chantiers_justice_Livret_01. pdf, 2018; Ст. 26 Закона № 2019-222 от 23 марта 2019 года о программировании и реформе системы правосудия на 2018 - 2022 годы вводит дематериализованную процедуру подачи исков по платежным поручениям. JORF № 0071 от 24 марта 2019 года. В ст. 4 Закона № 2019-222 от 23 марта 2010 года о программировании и реформе системы правосудия на 2018 - 2022 годы определены условия деятельности онлайн-услуг по посредничеству или примирению.
14 См.: La proposition de modes de règlement des litiges juridiquement analogues intégrant les MAAD, annexe 1 du rapport L. Gode-froy, F. Lebaron, J. Levy-Vehel. Comment le numérique transforme le droit et la justice par de nouveaux usages et un bouleversement de la prise de décision. Anticiper les évolutions pour les accompagner et les maîtriser. 2019. Р. 145. http://www.gip-recherche-justice.fr/ publication/comment-le-numerique-transforme-le-droit-et-la-jus-tice-par-de-nouveaux-usages-et-un-bouleversement-de-la-prise-de-decision-anticiper-les-evolutions-pour-les-accompa-gner-et-les-maitriser/
15 В ст. 3 Закона № 2019-222 от 23 марта 2019 года о программировании и реформировании судебной системы на 2018 - 2022 годы продлевается требование о попытке примирения, посредничества или соглашения о совместной процедуре до обращения в суд. Если сумма иска не превышает сумму, определенную постановлением Государственного совета, или если речь идет о споре по месту жительства, стороны обязаны, таким образом, использовать один из этих
альтернативных методов разрешения споров, прежде чем передавать дело в суд. Данное требование предъявляется под страхом недопустимости применения. Статья 750-1 Гражданского процессуального кодекса устанавливает порог,
ниже которого применяется предварительная попытка полюбовного урегулирования, в размере 5 000 евро.
ем дел, рассматриваемых судьей первой инстанции. Они будут способствовать не принятию решений как таковых, а обсуждениям и переговорам в контексте альтернативных способов разрешения споров (MARD) [Pitcho, Bustamante, 2017], то есть «нового подхода к правосудию»16.
При отсутствии соглашения между сторонами суд первой инстанции будет оценивать степень правовой уникальности представленного ему спора, обращаясь к системе принятия решений MAAD. Затем результаты работы MAAD анализируются представителем судебной власти, который направляет свой доклад судье, принимающему решение по данному спору. Этот отчет становится одним из компонентов материалов дела, на основе которого стороны могут обсуждать дело, а судья принимает решение. Судебный процесс будет ориентирован на судебное урегулирование в сочетании с MAAD или на обычную процедуру в суде первой инстанции.
MAAD будут сопровождать судью в рассмотрении «судебных разбирательств <...>, которые потребляют время и энергию правосудия, [и которые] могли бы найти более быстрое и гуманное решение, если бы фактически применяемые нормы были бы более понятными. Нормы [здесь] представляют собой набор судебных решений, устанавливающих вину, объявляющих о статусе или устанавливающих ущерб. В случае развода конфликт чаще всего возникает из-за нормы (в частности, алиментов), а не из-за принципа раздельного проживания» [Garapon, Perdriolle, Bernabe, Kadri, 2013].
Таким образом, MAAD помогают судье в его функции толкования норм права (наличие злоупотреблений при прекращении установленных коммерческих отношений, отсутствие реальных и серьезных оснований для увольнения, признание права на получение компенсационного пособия после развода и т.д.) и в его миссии по конкретизации права, выраженного путем количественной оценки суммы ущерба или компенсации, которая должна быть присуждена.
В любом случае стороны могут оспорить решение, принятое с использованием MAAD, в Апелляционном суде в соответствии с его компетенцией. Действительно, «обжалование судебного решения, вынесенного с использованием [алгоритмов], не может быть обусловлено демонстрацией исключительности судебного разбирательства, если только суды не введут «алгоритмическое решение» конфликтов, что было бы само по себе отрицанием роли судьи»17. Суд второй инстанции будет рассматривать вопрос о том,
16 P. Pomonti. https://justice2018.sciencesconf.org/
17 CA Paris, Rapport de recherche réalisé dans le cadre de la Mission de recherche Droit et Justice. L. Godefroy, F. Lebaron, J. Levy-Vehel. Comment le numérique transforme le droit et la justice par de nouveaux usages et un bouleversement de la prise de décision. Anticiper les évolutions pour les accompagner et les maîtriser. 5 juillet 2019.
приводит ли подавший апелляцию достаточно конкретные фактические или юридические аргументы в поддержку своего ходатайства18. Ведь алгоритмы не включают в себя «конкретное видение дела, которое адвокат донесет до судьи»19. Адвокат апеллянта должен будет представить в заявлении аргументы, демонстрирующие специфику спора. В этом отношении алгоритмические результаты не лишают «адвокатов свободы в поиске стратегий и, в частности, в попытках опровергнуть судебную практику» [Leb-reton-Derrien, 2018. P. 14]. Если уникальность спора признается, то суд второй инстанции, считая, что дело вызывает реальные юридические сложности, перенаправляет его на обычную процедуру в Апелляционный суд [Stoessle, 2018. P. 124]. Если аргументы апеллянта не убеждают Апелляционный суд, то ответ на критику в адрес руководителей судебных органов будет сформулирован также с помощью MAAD20. Если в свете аргументов, представленных апеллянтом, суд второй инстанции сочтет, что данное дело связано с реальными юридическими трудностями, то ходатайство будет перенаправлено в обычное производство в Апелляционном суде [Stoessle, 2018. P. 124]21.
Следовательно, MAAD окажут влияние на структу-
18 Это соответствует духу апелляционной реформы. Так, в ст. 542 Гражданского процессуального кодекса предусмотрено, что апелляционная жалоба, оспаривая решение суда первой инстанции, предусматривает его отмену или аннулирование Апелляционным судом. Однако в новой статье 562 Гражданского процессуального кодекса уточняется, что в кассационной жалобе к суду должны быть указаны ответственные за судебное решение, которые могут быть подвергнуты критике и зависеть от этого решения. См. также: Conférence des premiers présidents. Avis de la conférence des premiers présidents sur l'architecture générale de la chaîne des recours judiciairesKi. Mai 2015, в которой предлагается отказаться от процедуры апелляции «путь к завершению» и вернуться к французской традиции апелляции «путь к исправлению», однако с поправками, чтобы учесть, например, появление новых фактов между первой и второй судебной инстанцией.
19 L. Neuer. Le juge et l'algorithme : une impossible équation. Le Point. 31 mai 2017. http://www.lepoint.fr/chroniqueurs-du-point/lau-rence-neuer/le-juge-et-l-algorithme-une-impossible-equa-tion-31-05-2017-2131656_56.php
20 VS. Amrani Mekki. Sanction du défaut de mention des chefs du jugement expressément critiqués : une clarification insuffisante. Gaz. Pal., 6 février 2017, p. 34 et s. La déclaration d'appel doit énoncer les chefs du jugement critiqués sous peine de nullité de l'appel en cas de défaut total de mention. V. sur ce point les avis du 20 décembre 2017 de la Cour de cassation. Quoi qu'il en soit, le double degré de juridiction n'est pas un droit fondamental. См.: Cons. Const. 12 février 2004, n°2004-491, Rec. Cons. Const. 60, §4, D. 2005, somm. 1125, obs. Ogier-Bernaud et C. Serverino.
21 Рассмотрение процессуальных инцидентов, связанных с обязанностью заявителя указать основания для критикуемого
решения, увеличило среднее время, затрачиваемое на рассмотрение дела.
рирование заявлений, представляемых судье. В заявлениях должна быть показана уникальность рассматриваемой ситуации на фоне основных тенденций, которые отражают MAAD. Таким образом, алгоритмические результаты интегрируются в судебную дискуссию. Согласно принципу состязательности, который является одним из условий справедливой процедуры в соответствии со статьей 6-1 Европейской конвенции по правам человека, «каждая сторона имеет возможность ознакомиться и обсудить любые документы или замечания, представленные судье с целью повлиять на его решение».
Алгоритмы также повлияют на аргументацию судьи при принятии решения. Решение судьи не может быть сведено к немедленной, элементарной и автоматической реакции. Каждый правовой вопрос является частью первоначального конфликтного контекста. Количественные судебные процессы содержат типичные судебные дела, но каждое из них все же уникально, поскольку не все факты дела воспроизводимы. Алгоритмическая обработка аналогичных правовых вопросов представляет простой репозиторий. Это говорит о том, что судебный процесс все же будет выстроен на основе уникальности дела. Адвокат обязан провести тщательное изучение досье, чтобы подчеркнуть его оригинальность, а судья должен увидеть в этих результатах «уточненную отправную точку, [а не] самоцель» [Méthodes..., 2015. P. 286].
Поэтому судья должен определить фактические и юридические факторы, которые заставляют его согласиться или не согласиться с решением MAAD. Лицо, подготавливающее проект решения (которое обязано указывать, подпадает ли рассматриваемое дело под нормы базовой судебной практики), может обосновать свое решение, настаивая на его специфичности или, напротив, на отсутствии таковой. Другими словами, «даже если судья хочет следовать решению, которое предлагает количественный инструмент, он может сделать это, только предоставив аргументацию». Решение суда не может быть мотивировано исключительно применением алгоритма, не подвергаясь цензуре, которая, согласно ст. 455 Гражданского процессуального кодекса, говорит об отсутствии мотивации22.
Из этого следует, что MAAD могли бы способствовать более эффективному функционированию системы правосудия.
Б. Помогать системе правосудия работать лучше MAAD будут участвовать как в объединении судей и участников судебного процесса, так и в усилении самого судебного органа.
22 Cour de cassation, V. rapport de recherche réalisé dans le cadre de la Mission de recherche Droit et Justice. L. Godefroy, F. Lebaron, J. Levy-Vehel. Comment le numérique transforme le droit et la justice par de nouveaux usages et un bouleversement de la prise de décision. Anticiper les évolutions pour les accompagner et les maîtriser. Ibid. 5 juillet 2019.
Алгоритм не является признаком неуважения к личности или недоверия к правосудию. Напротив, судья должен будет еще более тщательно следить за соблюдением принципа состязательности сторон, с тем чтобы обеспечить спокойное обсуждение, уважение прав, полное выражение точек зрения, а стороны должны быть уверены, что будут полностью выслушаны и что дело не будет рассмотрено в предварительном порядке.
Кроме того, MAAD «собирают решения, выявляют взаимосвязи, сравнивают и выводят из них общие тенденции» рагароп, Ре^поПе, ВегпаЬе, Kadri, 2013]. Массы решений, обработанных, смоделированных и воспроизводимых MAAD, раскрывают «конкретную» юриспруденцию [Виа^Мепа^, Giambiasi, 2017. Р. 1483]23. В отличие от «справочной юриспруденции» Кассационного суда конкретная юриспруденция является нормой, вытекающей из решений по результатам MAAD. MAAD облегчили бы «последовательность» этой юриспруденции, сделав ее читабельной для судей и предложив им лучшее знание права в действии.
Формируется цифровая судебная коллегия, ограниченная территориальной юрисдикцией или распространяющаяся на всю территорию страны. Каждый судья может знать, «как на практике различные
23 Помимо традиционной концепции юриспруденции («Каково общепринятое толкование верховенства закона?») вопрос заключается в том, чтобы понимать в каждой конкретной ситуации, какого именно решения следует ожидать, если дело будет передано в суд (какое пособие на содержание будет назначено с учетом особенностей ситуации раздельно проживающих супругов, каков будет размер выплат за причиненный ущерб, какой метод привлечения к ответственности за данное правонарушение, на какой срок будет приостановлено действие водительских прав, каким образом следует скорректировать приговор и т.д.).
судьи во Франции будут решать поставленные перед ними конкретные вопросы» ^агароп, Ре^поПе, ВегпаЬе, Kadгi, 2013]. Таким образом, итерации и корреляции в судебных решениях, введенные в математические формулы MAAD, могут быть поставлены под сомнение при наличии определенных элементов дела или в связи с различными общественными или правовыми событиями, которые оправдывали бы необходимость отказа от предыдущих решений.
Заключение
В результате применения алгоритмов справедливость будет ближе к участникам судебного процесса. Например, в области выплаты компенсаций за причиненный ущерб алгоритмические тенденции позволяют провести полезную дискуссию, посвященную не подсчету суммы подлежащих выплате евро, а анализу особых элементов, влияющих на причиненный ущерб. Решение суда может быть более тонким в обосновании, если этот ущерб включает особенности, не учтенные стандартами компенсации. Эта дискуссия, сосредоточенная на отклонениях от стандартов в конкретных случаях, может обогатить юридические дебаты и представить данные социального развития, которые могут изменить юриспруденцию.
Таким образом, алгоритм, как неотъемлемая часть судебной дискуссии, служит основой для диалога между сторонами и судьей, между самими сторонами, между судьей и сообществом судей. MAAD предоставляют судье дополнительную информацию о правовых положениях, практике апелляционных и Кассационного суда, а также о различных расчетах, используемых в ходе судебных разбирательств. Они являются частью «строительного материала» в решениях судьи. MAAD сами по себе не содержат угрозы «склероза» судебной системы. Судья должен использовать их как источник обогащения практики, а не как средство стандартизации судебного мышления.
Литература
Bardout J.-C. Prestation compensatoire / retraite / pilotePC. AJ Famille. 2015.
Bardout J.-C., Loryhios I. Nouvelle méthode de calcul de la prestation compensatoire! AJ famille. 2013.
Besse P., Castets-Renard C., Garivier A. Loyauté des décisions algorithmiques: contribution au débat public initié par la CNIL. Éthique et numérique. 2017. https://hal.archives-ouvertes.fr/ hal-01544701
Big data: a report on algorithmic systems, opportunity and civil rights. Executive Office of the President, Washington, 2016.
Buat-Menard E., Giambiasi P. La mémoire numérique des décisions judiciaires. Dalloz, 2017.
Claude A.L. Commentaire sur l'Esprit des lois de Montesquieu: suivi d'observations inédites de Condorcet sur le 29e livre du même ouvrage. Édition originale 1819, réédité par Hachette Livre BNF, 2017.
Ganascia J-G. Le Mythe de la singularité. Faut-il craindre l'intelli-
gence artificielle? Le Seuil, 2017.
Garapon A., Perdriolle S., Bernabe B., Kadri C. La prudence et l'autorité: l'office du juge au XXIe siècle. Paris, 2013.
Heffner J. La police prédictive: les expériences américaines avec la plateforme Hunchlab. Colloque Sécurité et justice. Le défi des algorithmes. L'INHESJ, 2017.
Jouen F., Puigelier C., Tijus C. Décision et prise de décision. Mare et Martin, 2017.
Kort F. Predicting Supreme Court decisions mathematically: a quantitative analysis of the right to Counsel cases. The American Political Science Review. 1957. № 51. P. 1-12.
Lawlor R. C. What computers can do: Analysis and prediction of judicial decisions. American Bar Association Journal. 1963. № 49. P. 337-344.
Lebreton-Derrien S. La justice prédictive. Introduction à une justice "simplement" virtuelle. In La justice prédictive. Archives de philosophie du droit, tome 60. Dalloz, 2018.
Loevinger L. Jurimetrics the next step forward. Jurimetrics Journal. 1971. № 12. P. 3-41.
Méthodes de calcul de la prestation compensatoire. AJ famille. 2015.
Nagel S. Using simple calculations to predict judicial decisions. American Behavioral Scientist. 1960. № 4. P. 24-28.
Pitcho B., Bustamante N, cité par Pourtau S. La justice prédictive: progrès ou menace? 30 janvier 2017. https://www.actualites-dudroit.fr/browse/vie-des-professions-juridiques-et-judici-aires/legaltech/5198/la-justice-predictive-progres-ou-menace
Piwnica D. Évaluation de la prestation compensatoire: un exercice divinatoire? AJ Famille. 2013.
Poinas E. Le tribunal des algorithmes. Juger à l'ère des nouvelles technologies. Berger-Levrault, 2019.
Reigeluth T. L'algorithmique a ses comportements que le comporte-
References
Bardout J.-C. Compensatory benefit/retirement/pilotPC. AJ Famille. 2015. In French
Bardout J.-C., Loryhios I. New method for calculating the compensatory allowance! AJ famille. 2013. In French Besse P., Castets-Renard C., Garivier A. Loyalty of algorithmic decisions: contribution to the public debate initiated by the CNIL. Éthique et numérique. 2017. https://hal.archives-ouvertes.fr/ hal-01544701 In French Buat-Menard E., Giambiasi P. The digital memory of judicial decisions. Dalloz, 2017. In French Claude A.L. Commentary on the Spirit of Laws by Montesquieu: with unpublished observations by Condorcet on the 29th book of the referred work. First published in 1819, reissued by Hachette Livre BNF, 2017. In French Ganascia J-G. The myth of the singularity. What's to fear about artificial intelligence? Le Seuil, 2017. In French Garapon A., Perdriolle S., Bernabe B., Kadri C. Prudence and authority: the office of the judge in the XXI century. Paris, 2013. In French
Heffner J. Predictive policing: American experiences with the Hunchlab platform. Security and justice conference. The challenge of algorithms. INHESJ, 2017. In French Jouen F., Puigelier C., Tijus C. Decision and decision making. Mare et
Martin, 2017. In French Lebreton-Derrien S. Predictive justice. Introduction to a "simple" virtual justice. In: Predictive justice. Archives of Philosophy of
ment ne connaît pas. Multitudes. 2016. № 62. P. 112-123.
Roberge J.-F. Médiation et psychologie de la coopération. Revue Psycho-Droit. 2016. № 1. P. 131-144.
Saint Sernin B. Genèse et unité de l'action. Librairie philosophie J. Vrin, Paris, 1989.
Simondon G. Du mode d'existence des objets techniques. Éditions Aubier, 1989.
Stoessle J-L. La procédure d'appel. Quelques aspects pratiques. In Vers une procédure civile 2.0, dir. C. Blety et L. Raschel. Dalloz, 2018.
Villani C. Donner un sens à l'intelligence artificielle. Pour une stratégie nationale et européenne. La Documentation française. Mars 2018.
Law, Vol. 60. Dalloz, 2018. In French Methods for calculating the compensatory allowance. AJ famille.
2015. In French
Pitcho B., Bustamante N., quoted by Pourtau S. Predictive justice: progress or threat? January 30, 2017. https://www.actualitesdu-droit.fr/browse/vie-des-professions-juridiques-et-judiciaires/ legaltech/5198/la-justice-predictive-progres-ou-menace In French
Piwnica D. Evaluation of the compensatory allowance: a divinatory
exercise? AJ famille. 2013. In French Poinas E. The court of algorithms. Judging in the era of new technologies. Berger-Levrault, 2019. In French Reigeluth T. Algorithms have reasons behavior ignores. Multitudes.
2016. No. 62. P. 112-123. In French
Roberge J.-F. Mediation and the psychology of cooperation. Revue
Psycho-Droit. 2016. No. 1. P. 131-144. In French Saint Sernin B. Genesis and unity of action. Librairie philosophie J.
Vrin, Paris, 1989. In French Simondon G. On the mode of existence of technical objects. Éditions
Aubier, 1989. In French Stoessle J-L. The appeal process. A few practical aspects. In: Towards a civil procedure 2.0. Ed. by C. Blety and L. Raschel. Dalloz, 2018. In French
Villani C. For a meaningful artificial intelligence. National and European strategy. La Documentation française. March 2018. In French
ЧТО ЧИТАТЬ
Д.В. Бахтеев. Искусственный интеллект. Этико-правовые основы:
монография. Москва: Проспект, 2021.
В книге рассмотрены этические и правовые подходы к регулированию технологии искусственного интеллекта, алгоритм и перспективы ее изучения инструментарием юридических наук, возможности использования искусственного интеллекта как метода и инструмента в юридической деятельности и научных исследованиях. Подробно исследованы риски и модели позиционирования технологии в обществе с точки зрения этики и права, в том числе вопросы правосубъектности и юридической ответственности в контексте функционирования систем искусственного интеллекта.
Предназначена для научных работников, преподавателей, аспирантов, студентов юридических и других гуманитарных вузов, практикующих юристов, а также всех, кто интересуется высокими технологиями и их связью с этикой и правом.
