CC BY
7КРИМИНАЛИСТЪ. 2024. № 2 (47). С. 173-180 • CRIMINALIST. 2024;2(47):173-180
ЧАСТНО-ПРАВОВЫЕ (ЦИВИЛИСТИЧЕСКИЕ) НАУКИ
Научная статья УДК 347.9
ИСКУССТВЕННЫМ ИНТЕЛЛЕКТ В СУДЕБНОЙ ДЕЯТЕЛЬНОСТИ: БАЛАНС ИННОВАЦИИ И ЭТИКИ
Михаил Юрьевич ПОРОХОВ
Санкт-Петербургский юридический институт (филиал) Университета прокуратуры Российской Федерации, Санкт-Петербург, Россия, more03@inbox.ru
Аннотация. В статье раскрыты отдельные подходы к определению искусственного интеллекта (ИИ), его вицы и различия в реализуемых функциях.
Автор рассматривает влияние ИИ на ключевые аспекты правосудия и проводит анализ текущих тенденций, связанных с использованием ИИ в судебной системе, с фокусом на технических, этических и правовых вопросах.
Освещаются различные аспекты внедрения ИИ, поднимаются вопросы допустимых пределов использования возможностей ИИ при рассмотрении гражданских дел в судах, рассматриваются возможные негативные последствия, возникающие, в связи с этим. Указывается на необходимость внимательного отношения к этическим вопросам, таким как прозрачность используемых алгоритмов, объективность данных и соблюдение гарантий справедливости.
Особое внимание уделяется человеческому фактору в контексте судопроизводства, включая роль судей и общества в условиях использования современных технологий. Автор подчеркивает важность создания нового законодательного регулирования ИИ с целью обеспечения соблюдения процессуальных принципов и гарантированности надлежащей судебной защиты участников судопроизводства.
Автор поднимает важные вопросы применения ИИ в судах, стимулируя обсуждение проблематики условий, направлений и границ использования ИИ в судопроизводстве.
Ключевые слова: искусственный интеллект, судопроизводство, реформирование судебной системы, дефицит человеческого фактора, этические вопросы судопроизводства
Для цитирования: Порохов М. Ю. Искусственный интеллект в судебной деятельности: баланс инноваций и этики // Криминалистъ. 2024. № 2 (47). С. 173 — 180.
© Порохов М. Ю., 2024
Original article
ARTIFICIAL INTELLIGENCE IN THE JUDICIAL PROCESS: BALANCING INNOVATION AND ETHICS
Mikhail Y. POROKHOV
St. Peterburg Law Institute (branch) of the University of prosecutor's office of the Russian Federation, St. Petersburg, Russia, more03@inbox.ru
Abstract. The article reveals separate approaches to the definition of artificial intelligence (AI), its types and differences in its realizable functions.
The author examines the impact of AI on key aspects of justice and analyses current trends related to the use of AI in the judiciary, focusing on technical, ethical and legal issues.
Various aspects of AI implementation are highlighted, raising questions about the permissible limits of using AI capabilities in civil cases in courts, and examining the possible negative consequences arising in this regard. Careful attention to ethical issues such as transparency of the algorithms used, objectivity of the data and observance of fairness safeguards are highlighted.
Special attention is paid to the human factor in the context of legal proceedings, including the role of judges and society in the use of modern technologies. The author emphasizes the importance of creating a new legislative regulation of AI in order to ensure compliance with procedural principles and guarantee adequate judicial protection to the participants of legal proceedings.
The author raises important issues on the application of AI in courts, stimulating discussion on the conditions, directions and boundaries of the use of AI in legal proceedings.
Keywords: artificial intelligence, judicial proceedings, judicial reform, human factor deficit, ethical issues in judicial proceedings
For citation: Porokhov M. Y. Artificial intelligence the in judicial process: balancing innovation and ethics. Criminalist. 2024;2(47):173-180. (In Russ.).
Искусственный интеллект (ИИ) уже стал непременным элементом современной технологической революции, затрагивающей различные сферы общественной жизни.
Одной из областей, где ИИ проявляет свой потенциал, является юриспруденция. В последние годы ИИ во всем мире активно внедряется в судопроизводство, и эта тенденция обещает привести к революционным изменениям в системе правосудия.
По мнению исполнительного секретаря Координационного совета генеральных прокуроров СНГ, «потенциал ... научных исследований по проблемам, которые представляют интерес для прокуратур, используется не полностью. в числе первых для таких исследований могла бы явиться проблема деятельно-
сти прокуратуры и искусственного интеллекта. Рано или поздно мы выйдем на необходимость, столкнемся с проблемами искусственного интеллекта в нашей деятельности»1.
Современное понятие ИИ сформулировано в Национальной стратегии развития искусственного интеллекта до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» (далее — Стратегия).
1 Прокуратура и искусственный интеллект: в СНГ предложили тему для научного исследования. 2022. 24 июня // Проект БЕЛТА : сайт. URL: https://www.belta.by/ society/view/prokuratura-i-iskusstvennyj-intellekt-v-sng-predlozhili-temu-dlja-nauchnogo-issledovanija-509919-2022/ (дата обращения: 08.12.2023).
Искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека.
Комплекс этих технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе то, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.
На сегодняшний день принято разделять ИИ на сильный (общий, AGI) и слабый (узкий, AI) в зависимости от поставленных целей.
В определении ИИ, изложенном в Стратегии, содержатся признаки сильного ИИ, а именно имитировать когнитивные, т. е. познавательные, интеллектуальные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма), и получать результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Однако наличие подобных свойств у ИИ как раз и является источником угроз для системы правосудия и «ящиком Пандоры» для специалистов в этой области.
Использование возможностей ИИ не выводит судью за рамки судебного процесса. «Даже самые сложные системы не смогут в полной мере взять на себя функции, осуществляемые судьями. Принятие судебного решения —это та часть деятельности судьи, которая отличается высокой сложностью и характеризуется проведением правовой экспертизы, сочетающейся с эмоциональной компетентностью» [1, с. 260]. Иначе говоря, нельзя забывать о судей-
ском усмотрении. Несмотря на неоднозначность мнений на этот счет, такую функцию невозможно возложить на ИИ, поскольку «усмотрение... предполагает свободу выбора из нескольких законных альтернатив» [2, с.26] и эта свобода совсем не означает случайность выбора того или иного варианта судебного решения по делу, а представляет собой «урегулированный правовыми нормами, осуществляемый в процессуальной форме специфический вид правоприменительной деятельности, сущность которого заключается в предоставлении суду в соответствующих случаях правомочия разрешать спорный правовой вопрос, исходя из целей, преследуемых законодателем, принципов права и других общих положений закона, конкретных обстоятельств дела, а также начал разумности, добросовестности, справедливости и основ морали» [3, с. 22]. При этом из эмоционального, вербального, пространственного, логического, художественного, социального и других элементов формируется интеллект человека (судьи). Последний при осуществлении правосудия дополнительно к перечисленному использует еще личный опыт, и «сочетание этих факторов и толкование основ права, правовых принципов создает условия разрешения даже сложных правовых ситуаций. В качестве средства их решения могут быть использованы и нравственные категории» [4, с. 51]. Личный опыт, нравственные и этические категории — это то, с чем пока не может работать машина. Эффективность ее работы можно оценить лишь с научной и практической точек зрения.
Поэтому внедрение ИИ в судебную практику порождает ряд сложных вопросов. Как гарантировать прозрачность и ответственность в принятии решений, основанных на алгоритмах? Как избежать систематических искажений, связанных с неравномерными данными, на
которых обучаются алгоритмы? Эти вопросы требуют тщательного обсуждения и разработки стандартов, чтобы внедрение ИИ в судебную систему решало задачу сокращения нагрузки на судей и в то же время не приводило к понижению качества рассмотрения дел.
Распространенное мнение о том, что на ИИ можно возложить решение отдельных процессуальных вопросов, таких как проверка соблюдения стороной срока исковой давности, формирование условий мирового соглашения по спору, проверка финансовых расчетов по иску, основано на буквальном применении положений правовой нормы, без учета интересов участников, уважительности причин действий или бездействия сторон и других обстоятельств, которые являются оценочными категориями и их игнорирование приведет к неправосудным решениям.
В законодательстве немало моральных и этических ценностей и категорий, которые создадут трудности в использовании потенциала ИИ [5, с. 33], а также невозможность осмысления и применения такой основополагающей для правосудия правовой, нравственной и социальной категории, как справедливость, и в целом правовых норм и текстов [6]. Усложняет этот вопрос и тот факт, что в обществе отсутствует единое общепринятое понимание природы указанных выше категорий, соответственно, научить ИИ применять их объективно и правильно во всех ситуациях не представляется возможным.
Следует помнить о неизбежности ошибок, допускаемых в процессе самостоятельного обучения системы ИИ, или ошибочности внесенных в нее данных, в результате чего принимаемые ИИ решения не будут соответствовать ни нормам права, ни здравому смыслу, ни судебной практике. Примером может служить случай в судебной практике Колумбии. ИИ предложил судье неверный вариант
решения вопроса (не основанный на существующем правовом регулировании), и судья, не проверив его, вынес судебное решение1. Нужно сказать, что в Колумбии с 2022 года государственные юристы должны использовать технологии, где это возможно, чтобы сделать свою работу более эффективной.
Подобные ситуации меняют подходы и значение суда как первой, так и второй инстанции. К примеру, существуют ситуации, при которых позиции по рассматриваемому спору разнятся у суда первой и второй инстанций, но при этом итоговые судебные акты обеих инстанций мотивированы и строятся на действующих правовых нормах и практике. Использование ИИ может придать данной коллизии негативные последствия. Так, в первой инстанции ИИ разгружает судью и дает ему возможность принять решение, основываясь на рекомендации ИИ, без учета его обоснованности, т. е. судья первой инстанции, не вникая в обстоятельства дела по существу, сможет перекладывать свои обязанности на судья второй инстанции, который будет вынужден выявлять явные ляпы, недостоверные факты и обстоятельства и оторванную от обстоятельств дела мотивировку судебного акта, фактически выполняя роль не профессионального судьи, а учителя, проверяющего выполнение задания нерадивым учеником. Кроме того, судьи первой инстанции, перекладывая рассмотрение части дел на ИИ, не приобретают того уровня квалификации, который они могли бы иметь, вникая в рассмотрение каждого дела, а суды второй инстанции вынуждены работать за них. При этом следует помнить, что не все решения обжалуются, а значит, часть судебных актов с
1 Colombian judge says he used ChatGPT in ruling // The Guardian. 23.02.2023. URL: https://www-theguardian-com.translate.goog/ technology/2023/feb/03/colombia-judge-chatgpt-ruling?_x_tr_sl=auto&_x_tr_tl=ru&_x_ tr_hl=ru (дата обращения: 08.12.2023).
пороками содержания вступят в силу и будут подлежать исполнению.
Допустимо ли суду второй инстанции использовать ИИ в своей деятельности, если это фактически означает, что проверку законности и обоснованности актов судов первой инстанции (принятых с участием ИИ) в том числе осуществляет снова ИИ.
В этом контексте интересно мнение специалистов: «В частности, рассматривая распределения вероятностей для генеративных моделей искусственного интеллекта „текст-текст". исследователи пришли к выводу, что „обучение на данных, полученных с помощью других моделей, приводит к коллапсу модели — дегенеративному процессу, в результате которого со временем модели забывают истинную суть"... этот процесс неизбежен даже для случаев с почти идеальными условиями для долгосрочного обучения» [7].
Если допустить, что возможности ИИ будут использоваться на всех уровнях судебной системы для рассмотрения правовых и процессуальных вопросов, то ситуация с качеством правосудия может значительно ухудшиться.
Фактически модель нового инновационного судебного процесса представляет собой единство основных составляющих — ИИ и человека-судьи. Формальное отношение последнего к своим обязанностям приведет к тому, что какая-то часть судебных актов будет попросту необоснованна и незаконна из-за ошибок ИИ.
Такую ситуацию можно назвать «дефицитом человеческого фактора» в судопроизводстве, и эта категория может включать в себя несколько моментов:
1. Недостаток эмпатии и понимания контекста. Человеческий фактор привносит в судебные процессы эмпатию и понимание контекста, человек способен учитывать индивидуальные обстоятельства, эмоциональный окрас и многие
другие аспекты, которые сложно формализовать в коде.
2. Моральные дилеммы и принятие этических решений. Принятие этических решений в сложных ситуациях, особенно связанных с моральными нормами, требует человеческого суждения и понимания нюансов. Алгоритмам ИИ это не под силу.
3. Проблемы с оценкой доказательств. Оценка доказательств в суде часто требует учета контекста и нестандартных ситуаций. Алгоритмы машинного обучения могут испытывать трудности в понимании и учете контекстуальных нюансов. При этом человек, оценивающий доказательства, полагается в том числе и на свой личный опыт и интуицию. Это касается и работы с документами. Дело в том, что алгоритмы обработки естественного языка могут сталкиваться с трудностями в правильной интерпретации сложных юридических документов, особенно в случае использования устаревших или нестандартных формулировок и при оценке подлинности документов как в электронном, так и бумажном виде.
Общеизвестно, что некоторые вопросы при рассмотрении дел в судах требуют экспертной оценки. ИИ может испытывать трудности в правильной интерпретации сложных экспертных заключений (например, технических экспертиз).
4. Сложность понимания языка. Человеческий язык часто содержит нюансы, двусмысленности и нестандартные конструкции, что может вызывать трудности для алгоритмов обработки естественного языка. Это особенно важно в контексте интерпретации и формулирования юридических документов.
5. Восприятие справедливости. Люди обычно ожидают, что судебная система будет справедливой не только в формальном смысле, но и в контексте их собственных переживаний и оценок.
Алгоритмы ИИ не всегда соответствуют этим ожиданиям, особенно если не учтены социокультурные особенности.
6. Сложности в работе с комплексными юридическими вопросами. Некоторые правовые вопросы могут быть чрезвычайно сложными и требовать глубокого анализа, который нелегко автоматизировать.
Решение этих проблем требует сбалансированного подхода, построения алгоритмов на широком спектре данных, включая контекстную и специфическую информацию, а также постоянного обновления алгоритмов и их адаптации к изменяющимся этапам судебного процесса.
Использование ИИ почти наверняка сделает судопроизводство формальным, лишенным возможности учета при вынесении судебных решений или определений индивидуальных специфических условий и обстоятельств дела, которые могли бы повлиять на принимаемые судебные решения, что в свою очередь может повлечь социальную напряженность, повышение недоверия к судебной деятельности и негативное отношение к использованию ИИ как такового. «Тотальное доверие машинному интеллекту скептически воспринимается современным обществом во многих странах, в частности в Китае, Англии, Канаде, России и Казахстане» [8, с. 21; 9, с. 11].
Кроме того, при использовании ИИ возникают вопросы с мотивировкой принимаемых решений и, как следствие, с преюдицией. Не секрет, что ИИ допускает использование несуществующих фактов, оснований и мотивов и испытывает затруднения с правильной мотивировкой, заменяя истинные факты вымышленными, причем это является существенной проблемой во многих юрисдикциях. Так, запрещены автоматизированные решения по вопросам защиты персональных данных, если их алгоритмы не могут быть впослед-
ствии объяснены их пользователям1, и этот подход стоит применять к любым судебным актам, построенным с использованием ИИ.
Вопрос мотивированности судебного акта как такового всегда приковывал внимание участников спора и их представителей и вызывал дискуссии в научной среде. В арбитражном и гражданском судопроизводстве необоснованность судебного решения рассматривается как основание для обжалования и отмены. При использовании ИИ для вынесения решения или определения по делу мотивировка приобретает особое, ключевое значение.
Указанные обстоятельства приведут к увеличению числа обжалований таких решений, особенно в случае использования ИИ в упрощенном производстве, поскольку судебное решение изначально не имеет мотивировочной части.
Нет ответа на вопросы, какие системы и программы ИИ могут использоваться в судопроизводстве, кому они могут принадлежать и, соответственно, кто контролирует их работу, обучение (наполнение), на каком аппаратном комплексе должна строиться работа ИИ, имеются ли отечественные производители, обладающие технологическим ресурсом, для реализации подобного рода задач.
Автономия систем и программ ИИ должна быть не только строго ограничена, кем и где они произведены, но и подчинена формализованным правилам, которые еще предстоит разработать. Именно поэтому все активнее формируется нормативное регулирование практики использования ИИ в судопроизводстве различных регионов мира. В частности, в странах Латинской
1 Общий регламент защиты персональных данных (GDPR) Европейского союза // GDPR-TEXT.COM : интерактивный справочник по GDPR. URL: https://gdpr-text.com/ru/ (дата обращения: 08.12.2023).
Америки, Евросоюза и в Китае1. В России разработан Кодекс этики в сфере искусственного интеллекта, который стал частью федерального проекта «Искусственный интеллект» и Стратегии развития информационного общества в Российской Федерации на 2017—2030 годы, утвержденной Указом Президента Российской Федерации от 9 мая 2017 года № 203.
Вывод на сегодняшний день очевиден — использование ИИ в судопроизводстве возможно только лишь в виде совокупности алгоритмических функций по поиску и подбору нужной для разрешения дела информации, правовых норм и судебной практики; все вопросы, связанные с разрешением конкретных судебных споров и дел, остаются в ведении суда.
Искусственный интеллект отличается от простых компьютерных алгоритмов тем, что имеет способность к самообучению, что, в свою очередь, влечет за собой вариативность принимаемых ИИ решений в одних и тех же условиях, ситуациях, вопросах в зависимости от выполненных им ранее задач. Эта особенность ставит под сомнение прогнозируемость и результативность действий ИИ. Все это делает контроль суда за решениями ИИ обязательным и сплошным, что требует значительных временных, технологических, кадровых и финансовых ресурсов. Нехватка времени, перегруженность судов, недостаток подготовленных для работы с новыми технологиями кадров, недостаточность аппаратного комплекса судов, невозможность формирования
1 MEPs ready to negotiate first-ever rules for safe and transparent AI. News European Parliament. 14.06.2023. URL: https://www.europarl.europa.eu/ news/en/ pressroom/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai (дата обращения: 08.12.2023). Проект административных мер службы генеративного искусственного интеллекта ЩЙ^ПШЖШШ). 11.04.2023. URL: http://www. cac.gov.cn/2023-04/11/c_1682854275475410.htm (дата обращения: 08.12.2023).
нового нормативно-правового регулирования использования ИИ в судебной деятельности по причине непрерывного совершенствования применяемых технологий, компьютерных программ и их возможностей создают сложнейший комплекс обстоятельств, не позволяющих рассчитывать на активное, стабильно эффективное использование ИИ при разрешении споров в судах.
Говоря о потребностях судебной системы и участников судопроизводства по гражданским делам, можно определить направления по использованию ИИ, которые могли бы быть автоматизированы. В первую очередь это:
создание ИИ-ассистента судьи для получения аналитики по вопросам принятия решений и определений, в частности по мониторингу и анализу судебной практики и актуальных правовых норм, а также для составления проектов судебных актов по бесспорным и часто повторяющимся делам и анализа большого объема документов на разных языках, в том числе изготовленных от руки, на наличие ошибок и противоречий;
применение ИИ для упрощения делопроизводства и ускорения документооборота не только в рамках суда, но и между участниками судопроизводства, а также государственными органами, органами местного самоуправления и другими лицами. Кроме того, сюда же можно отнести оформление и выдачу исполнительных листов с последующим контролем их исполнения и протоколирование.
Способность принимать решения, делать выводы, т. е. возможность оказания интеллектуальной помощи специалисту-человеку искусственным интеллектом, можно считать одним из основных преимуществ последнего при реализации целей современного правосудия.
Искусственный интеллект в суде — это не просто инновация, но и переосмысление того, как мы реализуем пра-
восудие. Совместная работа человека и машины может привести к более справедливым и эффективным решениям. Однако необходимо тщательное внимание к этическим аспектам и обеспечение транспарентности в использовании ИИ в судебных процессах, чтобы сохранить доверие общества к правосудию.
Использование искусственного интеллекта в судебной системе — это не столько переворот в судопроизводстве, сколько гармоничное сочетание традиционных ценностей с передовыми технологиями. Оптимизация судебных
процессов с использованием ИИ несет в себе посыл создания более эффективной, справедливой и доступной юстиции. Тем не менее для успешной реализации этого потенциала необходимо внимательное обсуждение этических, правовых и технических вопросов, чтобы обеспечить баланс между инновациями и справедливостью в суде будущего. И первоначальной задачей является определение условий, направлений и границ использования ИИ в судопроизводстве.
Список источников
1. Пшава В. В., Темзоков А. Р. К вопросу о возможности использования искусственного интеллекта в судебной деятельности // Современная научная мысль. 2019. № 3. С. 258 — 262.
2. Барак А. Судейское усмотрение : пер. с англ. Москва : Норма, 1999. 364 с.
3. Папкова О. А. Судейское усмотрение в гражданском процессе : специальность 12.00.03 «Гражданское право; предпринимательское право; семейное право; международное частное право»: дис. ...канд. юрид. наук / Папкова Ольга Александровна. Москва, 1997. 176 с.
4. Этика судьи : пособие для судей / Ги де Вель, Н. В. Радутная, П. Трюш. Москва : Рос. акад. правосудия, 2002. 211 с. (Библиотека российского судьи).
5. Борисова Л. В. Об основных направлениях становления и развития электронного правосудия в современной России // Право и цифровая экономика. 2020. № 2. С. 32 — 35.
6. Aletras N., Tsarapatsanis D., Preotiuc-Pietro D., Lampos V. (2016). Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective. PeerJ Computer Sci-ence 2:e93. URL: https://doi.org/10.7717/peerj-cs.93 (дата обращения: 08.12.2023).
7. Frenzen K. The AI feedback loop: Researchers warn of 'model collapse' as AI trains on AI-generated content. Venture Beat. 2023. 12 june. URL: https://venturebeat-com.translate.goog/ai/ the-ai-feedback-loop-researchers-warn-of-model-collapse-as-ai-trains-on-ai-generated-ontent/?_x_ tr_sl=auto&_x_tr_tl=ru&_x_tr_hl=ru (дата обращения: 08.12.2023).
8. Андреев В. К., Лаптев В. А., Чуча С. Ю. Искусственный интеллект в системе электронного правосудия при рассмотрении корпоративных споров // Вестник Санкт-Петербургского университета. Право. 2020. Т. 11, вып. 1. С. 19 — 34.
9. Воронцов С. А., Мамычев А. Ю. «Искусственный интеллект» в современной политической и правовой жизнедеятельности общества: проблемы и противоречия цифровой трансформации // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. 2019. Т. 11, № 4. С. 9 — 22.
Информация об авторе
М. Ю. Порохов - доцент кафедры гражданско-правовых дисциплин Санкт-Петербургского юридического института (филиала) Университета прокуратуры Российской Федерации, кандидат юридических наук, доцент.
Information about the author
M. Y. Porokhov - Associate Professor at the Department of civil law disciplines of the St. Petersburg Law Institute (branch) of the University of prosecutor's office of the Russian Federation, Candidate of Science (Law), Associate Professor.
