CC BY
255
Применение систем искусственного интеллекта в судебной практике
Шананин Василий Андреевич,
старший преподаватель, ИСТАС, Московский государственный строительный университет (МГСУ) E-mail: shananinva.infonom@gmail.com
Статья посвящена рассмотрению проблемных аспектов внедрения интеллектуальных систем в судебную практику. Автор статьи представляет анализ существующих дефиниций искусственного интеллекта, выработанных в юридической литературе, представляет этапы внедрения искусственного интеллекта в работу судебного органа. Приведен краткий обзор мирового и отечественного опыта в исследуемой области. Детально рассмотрены перспективные направления имплементации сильного искусственного интеллекта в судебную практику. Представлены аргументы в пользу подобной модернизации российских судов и даны тезисы, поддерживающие ее. Автор статьи приходит к выводу о том, что в современных российских реалиях наиболее взвешенной является промежуточная позиция, в рамках которой допускается внедрение умеренного искусственного интеллекта в работу судов и передача аналитических полномочий по анализу законов и прецедентов, а также подготовку решения по делу автоматизированным системам при сохранении права на вынесение финального решения за судьей-человеком.
Ключевые слова: искусственный интеллект, судебная практика, роботизация, цифровое государство, электронное правосудие, интеллектуализация.
Все чаще интеллектуальные машины обслуживают общественные отношения. Цифровое общество, цифровое государство, цифровая экономика - все эти явления уже достаточно давно стали повседневной реальностью. Более того, в течение последнего десятилетия интеллектуальные технологии начали активно проникать в одну из наиболее консервативных отраслей деятельности человека - юриспруденцию. Как показывает юридическая практика последний лет, имплементация искусственного интеллекта не является исключительно погоней за инновацией - «умные» системы успешно функционируют в качестве эффективного инструмента автоматизации и совершенствования механизмов правовой системы [4, с. 142]. С. А. Ку-рочкин в данной связи указывает, что искусственный интеллект позволяет оперативно и корректно фиксировать юридические факты, а действия юристов и работников правоохранительных органов, поддерживаемые интеллектуальными системами, становятся более динамичными и точными [7, с. 155]. Интеллектуализация юридической, судебной и законодательной практики, при этом, подразумевает не только тиражирование и введение в массовый оборот инновационных технических средств, но и меняет подход к компетенции и обязанностям юристов, прокуроров, судей. Сочетание новых навыков представителей юридической сферы и совершенствование технологий позволяет человечеству перейти к новому этапу «Индустрии 4.0» и «Общества 2.0» [3, с. 5].
Инновации, присущие новой цифровой эпохе, зачастую вызывают вполне обоснованные опасения. Множество интеллектуальных инструментов уже сегодня демонстрируют свойства «черного ящика» («мы знаем, что входит и что выходит из алгоритма, но у нас нет полного понимания его внутренней работы» [5, с. 164]). Данное обстоятельство актуализирует проблему контроля и безопасности процессов, происходящих в среде, опосредованной искусственным интеллектом.
Обратимся к существующим дефинициям искусственного интеллекта. В рамках широкого подхода к интерпретации «умных» технологий, представленного, помимо прочих, в работах З.С. Лебедева, интеллектуальный интеллект можно понимать в качестве совокупности «теорий и научных методов, используемых для воспроизведения с помощью машины познавательных способностей человека» [8, с. 46]. В контексте технологического подхода искусственный интеллект понимается как «комплексная информационно-электронная система, имитирующая процесс мышления человека, направленная на достижение определенного результата» [12, с. 230]. Ключевым различием
5 -о
сз
<
между цифровым инструментарием и искусственным интеллектом является то, что искусственный интеллект обладает способностью к самообучению. Видный российский исследователь и судья П.М. Морхат дефинирует искусственный интеллект следующим образом: полностью или частично автономная самоорганизующая компьютерно-программная виртуальная, киберфизическая или биокибернетическая система (юнит) [9, с. 47].
В современной научной литературе и периодике принято дифференцировать искусственный интеллект на сильный, умеренный и слабый. Сильный искусственный интеллект подразумевает полное исключение человека из познавательного и операционного процесса; средства умеренного искусственного интеллекта направлены на минимизацию участия человека в решении задач, тогда как слабый искусственный интеллект подразумевает совершенствование параметров производительности существующих информационных систем, в которых доминирующим звеном является человек [8, с. 46]. По мнению большинства юристов-теоретиков, наиболее приемлемым в судебной практике является именно слабый искусственный интеллект; схожий подход представлен и в отечественном нормативно-правовом массиве. На данный момент российский законодатель исключает возможность внедрения сильного искусственного интеллекта в обеспечение организации судопроизводства. Тем не менее, нельзя с полной уверенностью говорить о том, что в будущем возможности умеренного и сильного искусственного интеллекта будут проигнорированы.
Вопрос о типологии интеллектуальных систем приводит нас к выводу о пофазном характере процессов информатизации судебной практики. Некоторые попытки представления этапов внедрения искусственного интеллекта в судебную практику уже были предприняты в российской юридической литературе [4, с. 145-146; 5, с. 167; 11, с. 355 и др.]. Обобщив данные исследования, можно представить следующую структуру процесса, в котором искусственный интеллект постепенно усиливает свою значимость и автономность в рамках деятельности суда:
1) внедрение искусственного интеллекта в организацию работы судебного органа: регистрация, распределение дел с учетом нагрузки сотрудников, контроль за ходом и сроками рассмотрения дел (слабый искусственный интеллект);
2) замена секретарей и помощников судей: выполнение (а) технических функций - распознавание речи и реализация протоколов судебных заседаний и т.д.), (б) аналитических функций -анализ нормативного массива и судебной практики, подбор аналогичных дел, компиляция проектов судебных актов (слабый искусственный интеллект);
3) внедрение искусственного интеллекта в рассмотрение дел совместно с судьей: вынесение решения по делу при его последующей провер-
ке судьей (умеренный искусственный интеллект);
4) самостоятельное вынесение решений «судебным роботом» по типовым административным делам (сильный искусственный интеллект);
5) повсеместное внедрение искусственного интеллекта в деятельность судов на стадии апелляционного, кассационного, конституционного производства, самостоятельное вынесение решений по любым типам дел (сильный искусственный интеллект).
Несмотря на существующие препятствия на пути к массовому внедрению искусственного интеллекта в судебную практику, мировой опыт показывает, что большинство существующих на сегодня проблем могут быть решены или, по крайней мере, минимизированы, а средства слабого интеллекта в суде могут быть заменены на умеренный или даже сильный искусственный интеллект.
Наиболее распространенной формой искусственного интеллекта в развитых и развивающихся странах является система электронного документооборота: к примеру, в Великобритании искусственный интеллект обслуживает юридические архивы, что, безусловно, облегчает работу в колоссальном по объему текстовом массиве прецедентного права. В странах Прибалтики искусственный интеллект используется в целях автоматизированного сбора судебной статистики и формирования соответствующей отчетности. В США примером слабого искусственного интеллекта являются так называемые «роботы-адвокаты», которые собирают и представляют первичную документацию для предоставления в государственные органы. В американских судах, кроме того, все большее распространение получает умеренный искусственный интеллект. В первую очередь, речь идет о системе Compas, применяемой судьями при вынесении решения по делу и определении срока заключения; алгоритм вынесения автоматизированного решения базируется на сопоставлении аналогичных правонарушений и обнаружении уникальных параметров конкретного дела. Тем не менее, итоговое решение принимается в каждом конкретном случае судьей [13, с. 36].
Применение сильного искусственного интеллекта на текущий момент остается прерогативой технологически развитых стран, однако, нельзя констатировать полный переход к таким системам - вмешательство человека имеет место в любом случае, что объясняется важностью и социальной значимостью сферы судебной практики, которую пока нельзя полностью доверить машине. В США, Великобритании, Китае, Франции, Южной Корее и др. широко используется «предсказательное производство» - инструментарий, которые на основании существующего массива судебных прецедентов выдает наиболее вероятное решение по делу (которое, тем не менее, проверяется перед оглашением человеком). Сильный интеллект в «чистом» виде выражен в форме «электронных судов» Великобритании, Канады, Нидерландов
и Латвии, имеющих место в случаях типовых малозначительных судебных дел. Государство, которое на сегодняшний день, пожалуй, является лидером в области внедрения инструментов сильного интеллекта, - Китай. Роботизированные китайские системы рассматривают более 200 тыс. дел ежемесячно; судебные роботы интегрированы с облачными платформами, содержащими базы данных о недвижимости, доходах, банковских счетах, транспорте и проч., что ускоряет судебный процесс, снижает долю рутинной бумажной работы и исключает фальсификацию документов [12, с. 233].
А. Атажанов и Б. Исмаилов приводят в качестве показательного примера приложение Рго-те!еа, функционирующее в Аргентине с 2018 г. Данная программа самостоятельно анализирует обстоятельства дела и выносит решение, а судьи лишь утверждают их (по результатам мониторинга, местные судьи утвердили 100% решений, принятых посредством приложения). Робот обслуживает все разбирательства по типовым, однородным искам, что позволило снизить загруженность судей и прокуроров («работники оказались освобождены от больших массивов рутинной деятельности», тогда как ранее они были «буквально «похоронены» в бумажной работе» [1, с. 279]). Страны ближнего зарубежья также активно внедряют самообучающиеся компьютерные системы в судебную практику, но в данном случае речь идет, прежде всего, о слабом искусственном интеллекте. В Казахстане, к примеру, внедрены система «Терелк», сервисы «Судебная повестка», «Ознакомление с судебными документами», сервис «Судебный кабинет», «Е-уголовное дело». В Беларуси функционирует программное средство E-COURT, предлагающее образцы документации и возможность направить электронное обращение [11, с. 351].
В России, в контексте Концепции развития информатизации судов до 2020 г. [6], действует автоматизированная система «Правосудие» [8, с. 47], являющая собой систематизированный электронный архив судебных дел. В целом на отечественном пространстве абсолютное большинство инноваций в области внедрения искусственного интеллекта в функционирование судебной системы относятся к слабому искусственному интеллекту. Можно найти лишь точечные эксперименты по им-плементации умеренных и сильных инструментов в судебную практику (к примеру, в 2018 г. была представлена программа «Лазер», генерирующая мотивированное решение на базисе глубинного анализа обстоятельств дела и аналогичных решений, что, по сущности, повторяет алгоритмы вышеописанных судебных роботов [12, с. 232]). Безусловно, потенциал искусственного интеллекта в России еще не раскрыт, но активные дискуссии и непрекращающиеся попытки разработок соответствующего ПО позволяют говорить, что отечественная судебная система находится в самом начале эволюционного пути, ведущего к роботизации института суда.
По мнению большинства специалистов, системы искусственного интеллекта, внедренные в судебную практику и смежные сферы, обладают рядом преимуществ. Внедрение искусственного интеллекта в деятельность судов, по мнению Е.В. Ширеевой, повышает качество и эффективность судебной деятельности; способствует эф-фективизации судебной защиты прав и законных интересов граждан, бизнес-структур и органов власти; снижает конфликтность, присущую большинству ситуаций судебных разбирательств [13, с. 31-32]. П.М. Морхат дополняет данный перечень тем, что искусственный интеллект обеспечивает безбарьерный доступ населения к правосудию [9].
Для более полной характеристики рассматриваемого вопроса были изучены и недостатки систем искусственного интеллекта в применении к исследуемой нами сфере. Обратимся к основным аргументам «за» и «против» в вопросах о «сильной» интеллектуализации судебной практики (по сути, замене судей-людей машинами). Набирает распространение позиция, постулирующая перспективность внедрения сильного искусственного интеллекта в судебную практику. Фундаментальными аргументами данной точки зрения выступают тезисы о том, что компьютер способен разрешить проблемы судейского усмотрения и снизить проявления коррупции представителей судебной власти. Внутреннее убеждение судьи зачастую воспринимается в качестве прямой возможности произвола [9, с. 9]. П.М. Морхат говорит о том, что юнит искусственного интеллекта, представленный в виде автономной системы, принимающей решения по делу, априори «не подвержен коррупции и эмоциям» [9, с. 11]. Кроме того, искусственный интеллект существенным образом снижает негативное воздействие субъективных аспектов судебной практики - усталость, эмоциональная нестабильность, возможность допущения ошибок, коррупционные риски.
При этом многие другие исследователи также указывают на данную беспристрастность робота-судьи, но относят ее к перечню его недостатков; приведем в данной связи вывод О.А. Степанова и Д.А. Басангова: «судье требуется не только блестящее знание законов, но и безупречное логическое мышление и человеческая мудрость, чего нет у компьютера» [12, с. 232]. С.А. Курочкин выражает схожий тезис: многие дела требуют не столько досконального знания буквы закона, сколько человеческого опыта. Можно привести в пример множество неоднозначных с нравственной точки зрения дел, в которых юридически корректное решение оказывалось крайне несправедливым с точки зрения социальной морали [7, с. 159]. И.Л. Бедняков и Н.А. Развейкина, в свою очередь, говорят о том, р что полная замена человека компьютерной систе- Д мой, пусть даже самообучающейся, невозможна, Ч
т
так как искусственный интеллект «не рассчитан К на решение нестандартных ситуаций или слож- ё ных коммуникаций с учетом сугубо человеческих у свойств (совесть, справедливость, милосердие)» А
[2, с. 14]. В качестве «слабых» мест искусственного интеллекта, внедренного в судебную практику, О.А. Степанов и Д.А. Басангов называют оценочный и моральный компоненты деятельности судебных органов. Речь идет о том, что, во-первых, такой инструментарий на данный момент не способен провести всесторонний анализ и оценить выводы технической экспертизы для последующей идентификации объема причиненного вреда и компенсации. Во-вторых, компьютеризированные системы не могут в полной мере произвести оценку морального аспекта деликта (к примеру, представить суждение о степени причиненных нравственных страданиях) [12, с. 231]. До сих пор непонятно, каким образом очертить для системы границы категорий справедливости и гуманизма как наиболее важных при назначении наказания - так, чтобы компьютер понял их субъективно-объективную сущность и успешно применил их в анализе рассматриваемой ситуации.
В имплементации систем искусственного интеллекта наблюдается, помимо прочих, и лингвистическая проблема. Безусловно, юриспруденция -как наука и практика - опирается на вербальные суждения и формулировки; право априори реализуется благодаря и посредством языковой системы. Искусственный интеллект, в свою очередь, пока не может «чувствовать» языковые нюансы и контекст, подразумеваемый высказыванием.
Руководствуясь вышеописанными недостатками систем сильного искусственного интеллекта, многие исследователи, практикующие адвокаты, прокуроры и судьи говорят о том, что искусственный интеллект в его «сильном» проявлении не может быть применен в принципе; речь может идти только об умеренном искусственном интеллекте и исключительно в судах низшей инстанции, тогда как «судьи-люди должны сохранять свое место в качестве конечных арбитров на вершине любой правовой системы» [5, с. 165]. Таким образом, постулируется точка зрения о том, что искусственный интеллект помогает судьям изучать закон во всей его широте и глубине, но в конечном счете они должны выбирать «то, что они считают морально превосходящей интерпретацией» [5, с. 165].
Искусственный интеллект, к сожалению, до сих пор несостоятелен в работе со сложными делами, не имеющими прецедентов и аналогов; кроме того, юриспруденция, несмотря на ее стремление к точности, недвусмысленности и максимальной определенности, до сих пор имеет дело с массой юридически сложных дел высокой степени концептуальной, смысловой и ситуативной неопределенностей [7, с. 159]. До сих пор не выработано систем, которые способны работать в трансграничном контексте, при учете правовых коллизий и различных юрисдикций. Принимая во внимание Ц вышеизложенные ограничения, зарубежные и оте-~ чественные специалисты приходят к выводу о том, сэ что искусственный интеллект должен быть импле-£ ментирован исключительно в рамках принципов z ограниченности, выборочности и приоритета че-
ловека; машина не должна «принимать решения, которые непосредственно касаются судеб многих людей» [10, с. 3].
Таким образом, в современной науке и практике сформировались различные позиции в отношении перспектив применения искусственного интеллекта в судебной практике. В рамках пессимистичных прогнозов специалисты говорят о том, что единственным эффективным способом роботизации судов является перевод делопроизводства и организации работы суда в электронную форму. С другой стороны, ряд исследователей говорят, что замена судей и прокурорских работников искусственным интеллектом - лишь вопрос времени. В современных российских реалиях наиболее взвешенной нам представляется промежуточная позиция, в рамках которой допускается внедрение умеренного искусственного интеллекта в работу судов и передача аналитических полномочий по анализу законов и прецедентов, а также подготовку решения по делу автоматизированным системам при сохранении права на вынесение финального решения за судьей-человеком.
Литература
1. Атажанов, А. Зарубежный опыт внедрения современных технологий в систему правосудия / А. Атажанов, Б. Исмаилов // ОИИ. - 2020. -№ 2/S. - С. 269-284.
2. Бедняков, И.Л. Возможности применения искусственного интеллекта в судопроизводстве / И.Л. Бедняков, Н.А. Развейкина // Вестник Самарского юридического института. - 2019. -№ 2 (33). - С. 11-14.
3. Гусаков, В. Вызовы «Индустрии 4.0» и «Общества 2.0», или рассуждения по поводу новой цифровой реальности / В. Гусаков // Наука и инновации. - 2019. - № 12 (202). - С. 4-9.
4. Еремеев, Д.В. Перспективы использования искусственного интеллекта в уголовном судопроизводстве / Д.В. Еремеев // Ученые записки Крымского федерального университета имени В.И. Вернадского. Юридические науки. -2022. - № 1. - С. 141-148.
5. Заплатина, Т.С. Искусственный интеллект в вопросе вынесения судебных решений, или ИИ-судья / Т.С. Заплатина // Вестник Университета имени О.Е. Кутафина. - 2019. - № 4 (56). - С. 160-168.
6. Концепция развития информатизации судов до 2020 года // Гарант. - 2020 [Электронный ресурс]. - Режим доступа: https://base.garant. ru/71062432/. - Дата доступа: 14.11.2022.
7. Курочкин, С.А. Цифровые технологии и эффективность правосудия / С.А. Курочкин // Lex Russica. - 2022. - № 10 (191). - С. 152-163.
8. Лебедев, З.С. Некоторые вопросы применения искусственного интеллекта в уголовном процессе России / З.С. Лебедев // Основы ЭУП. -2021. - № 4 (29). - С. 45-48.
9. Морхат, П.М. Использование искусственного интеллекта при осуществлении правосудия как способ преодоления судейского усмотрения // Право и государство: теория и практика. - 2018. - № 5 (161). - С. 6-11.
10. Поскряков, Р.С. Использование искусственного интеллекта в судебной деятельности / Р.С. Поскряков // Огарёв-Online. - 2019. - № 16 (137). - 6 с.
11. Соколова, А.А. Искусственный интеллект в юриспруденции: риски внедрения / А.А. Соколова // Юридическая техника. - 2019. - № 13. -С. 350-356.
12. Степанов, О. А. О перспективах влияния искусственного интеллекта на судопроизводство / О.А. Степанов, Д.А. Басангов // Вестн. Том. гос. ун-та. - 2022. - № 475. - С. 229-237.
13. Ширеева, Е.В. Правовые основы применения и практики внедрения искусственного интеллекта при осуществлении судебного контроля / Е.В. Ширеева // Вестник вГу. Серия: Право. -2020. - № 3 (42). - С. 30-39.
APPLICATION OF ARTIFICIAL INTELLIGENCE SYSTEMS IN JUDICIAL PRACTICE
Shananin V.A.
Moscow State University of Civil Engineering
The article is devoted to the problematic aspects of the introduction of intelligent systems in judicial practice. The author of the article presents an analysis of the existing definitions of artificial intelligence developed in the legal literature, presents the stages of introducing artificial intelligence into the work of the judiciary. A brief review of world and domestic experience in the field under study is given. Perspective directions for the implementation of strong artificial intelligence in judicial practice are considered in detail. Arguments in favor of such modernization of Russian courts are presented and theses supporting it are given. The author of the article comes to the conclusion that in modern Russian realities, the most balanced position is an intermediate position, within which it is allowed to introduce moderate artificial intelligence into the work of courts and transfer analytical powers to analyze laws and precedents, as well
as prepare a decision on the case to automated systems while
maintaining the right to make the final decision for a human judge.
Keywords: artificial intelligence, judicial practice, robotization, digital state, electronic justice, smart digitalization.
References
1. Atazhanov, A. Foreign experience of introducing modern technologies in the justice system / A. Atazhanov, B. Ismailov // OII. - 2020. - No. 2 / S. - S. 269-284.
2. Bednyakov, I.L. Possibilities of using artificial intelligence in legal proceedings / I.L. Bednyakov, N.A. Razveykina // Bulletin of the Samara Law Institute. - 2019. - No. 2 (33). - P. 11-14.
3. Gusakov, V. Challenges of "Industry 4.0" and "Society 2.0", or reasoning about the new digital reality / V. Gusakov // Science and innovations. - 2019. - No. 12 (202). - P. 4-9.
4. Eremeev, D.V. Prospects for the use of artificial intelligence in criminal proceedings / D.V. Eremeev // Scientific notes of the Crimean Federal University named after V.I. Vernadsky. Legal Sciences. - 2022. - No. 1. - S. 141-148.
5. Zaplatina, T.S. Artificial intelligence in the issue of adjudication, or AI judge / T.S. Zaplatina // Bulletin of the O.E. Kutafin University. - 2019. - No. 4 (56). - S. 160-168.
6. The concept of the development of informatization of courts until 2020 // Garant. - 2020 [Electronic resource]. - Access mode: https://base.garant.ru/71062432/. - Access date: 11/14/2022.
7. Kurochkin, S.A. Digital technologies and the effectiveness of justice / S.A. Kurochkin // Lex Russica. - 2022. - No. 10 (191). -S. 152-163.
8. Lebedev, Z.S. Some issues of the use of artificial intelligence in the criminal process of Russia / Z.S. Lebedev // Fundamentals of the EUP. - 2021. - No. 4 (29). - P. 45-48.
9. Morhat, P.M. The use of artificial intelligence in the administration of justice as a way to overcome judicial discretion // Law and State: Theory and Practice. - 2018. - No. 5 (161). - S. 6-11.
10. Poskryakov, R.S. The use of artificial intelligence in judicial activities / R.S. Poskryakov // Ogaryov-Online. - 2019. - No. 16 (137). - 6 s.
11. Sokolova, A.A. Artificial intelligence in jurisprudence: risks of implementation / A.A. Sokolova // Legal technique. - 2019. - No. 13. - S. 350-356.
12. Stepanov, O. A., Basangov D.A. On the prospects for the impact of artificial intelligence on legal proceedings / O.A. Stepanov, D.A. Basangov // Vestn. Volume. state university - 2022. - No. 475. - S. 229-237.
13. Shireeva, E.V. Legal basis for the application and practice of introducing artificial intelligence in the implementation of judicial control / E.V. Shireeva // Bulletin of VSU. Series: Law. - 2020. -No. 3 (42). - S. 30-39.
