CC BY
8
Уголовно-правовые науки
Научная статья
УДК 347.994
DOI: 10.14529/^240102
ПЕРСПЕКТИВЫ ПРИМЕНЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СФЕРЕ СУДОПРОИЗВОДСТВА
Е. А. Буглаева, buglaevaea@susu.ru
Южно-Уральский государственный университет, г. Челябинск, Россия
Аннотация. В статье рассматриваются перспективы применения технологий искусственного интеллекта в области судопроизводства. Автор выделяет два ключевых направления использования интеллектуальных систем: применение в качестве вспомогательного средства обеспечения хода судопроизводства и использование интеллектуальных систем поддержки принятия судебных решений в качестве вспомогательного инструмента, не имеющего непосредственного отношения к функции разрешения дела. В работе исследуются потенциальные проблемы и риски, сопряженные с применением технологий искусственного интеллекта в судопроизводстве.
Ключевые слова: экспертные системы, искусственный интеллект, судопроизводство, системы поддержки принятия судебных решений.
Для цитирования: Буглаева Е. А. Перспективы применения технологий искусственного интеллекта в сфере судопроизводства // Вестник ЮУрГУ. Серия «Право». 2024. Т. 24, № 1. С. 10-15. DOI: 10.14529/^240102.
Original article
DOI: 10.14529/law240102
PROSPECTS OF APPLICATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN THE SPHERE OF LEGAL PROCEEDINGS
E. A. Buglaeva, buglaevaea@susu.ru South Ural State University, Chelyabinsk, Russia
Abstract. The article considers the prospects of application of artificial intelligence technologies in the field of legal proceedings. The author identifies two key directions of the use of intelligent systems: the use as an auxiliary means of ensuring the course of legal proceedings and the use of intelligent systems of support for judicial decision-making as an auxiliary tool that is not directly related to the function of case resolution. The paper explores the potential problems and risks associated with the use of artificial intelligence technologies in legal proceedings.
Keywords: expert systems, artificial intelligence, legal proceedings, judicial decision support systems.
For citation: Buglaeva E. A. Prospects of application of artificial intelligence technologies in the sphere of legal proceedings. Bulletin of the South Ural State University. Series "Law". 2024. vol. 24. no. 1. pp. 10-15. (in Russ.) DOI: 10.14529/law240102.
Динамичное внедрение цифровых технологий во все сферы жизнедеятельности является современной мировой тенденцией, а потому оказалась неизбежной трансформация традиционно консервативного судопроизводства.
Приверженность судейского сообщества принципам информационной открытости и свободы информации, поддержка концепции создания единого информационного пространства системы правосудия открыли возможности для введения цифровых техноло-
гий, в том числе технологий искусственного интеллекта (далее - ИИ), в сферу судопроизводства.
По мере развития искусственного интеллекта становится очевидной перспективность дальнейшего внедрения в правоприменительную практику технологий, которые пытаются решать поставленные перед ними задачи путем эмуляции когнитивной, интеллектуальной деятельности человека.
В юридической науке высказываются разнообразные мнения о том, в каких направлениях возможно использование интеллектуальных систем в области судопроизводства. Обобщая, выделим ключевые направления использования технологий искусственного интеллекта в судопроизводстве.
Использование ИИ как вспомогательного средства обеспечения хода судопроизводства.
Применение в системе делопроизводства для оптимизации и выполнения таких функций, как сортировка бумаг, формирование дел и повесток, распечатка копий, оформление и отправка корреспонденции, формирование документов по шаблону, переписка с другими государственными органами без участия человека [3, с. 253]; протоколирование хода судебных заседаний [8, с. 223; 7]; осуществление профессионального юридического перевода в судебном процессе [12, с. 8], ведение статистической отчетности [14, с. 3]; расшифровка аудиопротоколов судебных заседаний, идентификация личности в судебном заседании с использованием технологий биометрии [10, с. 268].
Автоматическое определение специализации судей по категориям дел и распределение дел между судьями с учетом их загруженности, графика работы, специфики дела и прочих критериев [7; 14, с. 3].
Использование интеллектуальных систем поддержки принятия судебных решений в качестве вспомогательного инструмента, не имеющего непосредственного отношения к функции разрешения дела.
Создание автоматизированных систем анализа и толкования норм права; применение ИИ для проведения экспертиз правовых актов; информационно-аналитическая поддержка посредством создания электронного зала судебного заседания с ИИ-судьей, ИИ-советника судьи [11, с. 11; 3, с. 251].
Преимуществом использования технологий ИИ в качестве помощника (партнера) су-
дьи является возможность очень быстро анализировать, сопоставлять, обрабатывать значительные массивы нормативного правового материала и существующей судебной практики, которые человек зачастую может пропустить, готовить необходимые проекты судебных документов [15, с. 232]. Администрирование выдачи цифровых исполнительных листов и последующее отслеживание их юридической судьбы, анализ и систематизация судебной практики [10, с. 268].
Выполнение функций по оценке представленных в дело доказательств: определение категории и юридических свойств сделки (форма, дата, подлинность электронной подписи); проверка расчета исковых требований (размера неустойки, реального ущерба или упущенной выгоды); определение пропуска срока исковой давности и срока на обращение в суд; вычисление «глубинных подделок» с использованием ИИ (deepfake) и иных фальсификаций [7].
Принимая во внимание высокий преобразовательный потенциал систем ИИ в отношении обработки и анализа большого массива данных, мы считаем обоснованными предложения по внедрению в отдаленной перспективе в судопроизводство технологий ИИ в качестве экспертных систем, не заменяющих собой судью.
Экспертные системы предполагают, что ИИ может не только обобщить данные, проанализировать ситуацию и определить возможные варианты применения законодательства, но и разработать проект решения для его рассмотрения судьей [3, с. 253; 15, с. 232].
Подобные системы способны производить автоматизированное исследование судебных актов для выработки решений различных правовых проблем посредством задействования и изучения соответствующих баз данных, а также их оценку, например, в тех случаях, когда факты неоспоримы, применимое законодательство очевидно, а также известны схожие прецеденты [11, с. 11].
Актуально применение экспертных систем для составления проектов судебных актов на основе анализа текста процессуального обращения и материалов судебного дела по бесспорным требованиям, где принятие решения не связано с анализом правоотношений сторон и в большей степени имеет технический характер.
Не посягая на фундаментальную основу отправления правосудия - судейское усмотрение, предполагающее возможность выбора судьей наиболее подходящего варианта решения по делу на основе своего внутреннего убеждения, ИИ будет способен сориентировать судью на выбор лучшей альтернативы из всех возможных решений с учетом анализа практики.
Экспертные системы обладают рядом неоспоримых преимуществ перед человеком. Обладая эвристическим алгоритмом поиска, способностью накопления информации и опыта, системы ИИ формируют большую базу знаний, которые будучи введены в машину один раз, сохраняются навсегда. Человек же имеет ограниченную базу знаний, и если данные долгое время не используются, то они забываются и навсегда теряются.
Экспертные системы устойчивы к внешнему влиянию, у них нет предубеждений, они не делают поспешных выводов, так как их деятельность основана на знаниях, в то время как человек легко поддается влиянию внешних факторов, которые непосредственно не связаны с решаемой задачей.
Одна из главных проблем использования ИИ в судебной практике - это то, что он базируется не на ситуационной логике, а на вычислительных процедурах и не умеет работать с контекстами [2].
Принимая во внимание, что система ИИ не «мыслит», а следует набору заранее запрограммированных в ней вычислений для математического анализа данных и вывода вероятности, представляется труднодостижимой задача обучения ИИ контекстуальным интеллектуальным процедурам, позволяющим применять нормы права с учетом обусловленности ситуации речевого общения. Подчиняясь алгоритмам, ИИ производит оценку обстоятельств дела с точки зрения законов формальной логики, при этом специфика правоотношений (например, отчасти иррациональный характер семейных, уголовных дел) предполагает необходимость учета особенностей человеческой психики, принципов морали и нравственности.
Кроме того, суд при вынесении решения руководствуется целым рядом оценочных и ценностных критериев, например, принципами справедливости и гуманизма при назначении наказания, требованиями разумности и
добросовестности в гражданском праве. Понимание таких категорий формируется у человека в процессе социализации, воспитания - все это невозможно воспроизвести в программном алгоритме [5].
Справедливо отмечается, что вряд ли возможен учет ИИ принципов международного права, конституционного права, в единстве с которыми должна осуществляться правоприменительная и правоинтерпретационная деятельность [4].
Нередки ситуации, когда разрешение споров исходит из общих начал и смысла законодательства при отсутствии специального нормативного регулирования, в таком случае судьей с учетом объективной оценки всех фактических обстоятельств дела принимается решение о применении аналогии права или закона, что является проявлением эвристического начала, творческой интуиции и не предполагает возможности нахождения строго логического решения задачи ИИ.
Предложения по внедрению в судопроизводство систем поддержки принятия решения в реализацию полномочий суда по оценке доказательств вызывают закономерные опасения в научной среде. Многими исследователями указывается на то, что системы ИИ не могут учитывать принцип свободы оценки доказательств, руководствоваться категориями внутреннего убеждения и совести, которые лежат в основе отправления правосудия и являются гораздо более сложными категориями, чем программные алгоритмы [11, с. 10; 6].
Учитывая, что объективно не представляется возможным выявить всю систему факторов, определяющих оценку доказательств судом, а потому и типизировать такие факторы, ввиду индивидуальных особенностей каждого рассматриваемого в суде дела, говорить о создании универсальных алгоритмов, которые в полной мере заменили бы судью ИИ, на сегодняшний день преждевременно.
При этом полагаем целесообразным передачу ИИ технических функций по оценке доказательств, когда на основе анализа сведений ИИ сможет обнаруживать противоречия в фактических данных, представленных участниками процесса, в качестве доказательств и лишь передавать указанные данные человеку для их последующего осмысления, не принимая участия в конечном выводе.
В качестве риска внедрения технологий
ИИ в судопроизводство отмечается их потенциальная независимость, автономия от человека.
Система ИИ спонтанно совершенствуется, влияя на человека и подчиняя его себе; она может вырасти в опасный для человека мир, что становится неотвратимой угрозой [5]. Результатом применения нейронных сетей, их развития и усложнения может стать фактическое отстранение человека от принятия решений, невозможность отследить причинно-следственные связи в машинной обработке информации, поскольку процесс обучения нейронных сетей имеет тенденцию к отчуждению самого человека [13].
Принимая во внимание, что системы ИИ являются автономными самоорганизующимися программами, обладающими способностью к самоадаптации, саморегулированию и самообучению, тем не менее полагаем, что технологии ИИ с учетом современного уровня их развития не являются по-настоящему интеллектуальными системами, поскольку имеют свои пределы и не обладают способностью разумного понимания того, что они делают и почему. Но очевидно, что с их развитием и совершенствованием обозначенная проблема будет приобретать все большую актуальность.
При рассмотрении перспектив применения систем поддержи, принятия решений ИИ в области судопроизводства нельзя не упомянуть, что в научном сообществе звучат сомнения относительно возможности обеспечения объективности решения принимаемого, искусственным интеллектом, необходимости обеспечения технологической независимости ИИ от третьих лиц. Указывается на то, что объективность будет во многом зависеть от профессионального уровня самого разработчика, создавшего алгоритм, который, кроме того, обеспечивая технологическое администрирование и имея доступ к программе, в определенной степени сможет на нее влиять.
Обоснованной является озабоченность исследователей относительно порядка интерпретации принятых алгоритмических решений, поскольку техническая сложность автоматизированных систем и логика принятия решений часто непрозрачны и недоступны общественности, заинтересованным лицам обычно не предоставляются объяснения обоснования принятия решения [1, с. 51].
В этой связи становится актуальным принцип «пользовательского контроля», закрепленный Европейской этической Хартией по использованию искусственного интеллекта в судебных системах и их окружении, предусматривающий возможность отказа судьи от решения, предложенного искусственным интеллектом, и принятия собственного решения по существу. Для участников спора данный принцип обеспечивает возможность прямого обращения к суду без применения ИИ, а также право оспорить принятое с помощью ИИ решение.
Указанные опасения потеряют актуальность при условии соблюдения баланса во взаимоотношениях ИИ и человека, который должен быть основан на вспомогательном, а не на определяющем характере ИИ, то есть путем реализации принципа пользовательского контроля [9, с. 55].
Внедрение ИИ в правосудие мы предлагаем рассматривать не как потенциальную замену судьи, а как технологический инструмент обеспечения наибольшей эффективности и производительности труда судей.
Развитие информационных технологий доказало перспективность внедрения технологий ИИ в сферу судопроизводства. При этом ключевым фактором является возможность применения систем ИИ в деятельности судов исключительно в связке с человеком-судьей и возможность их функционирования под контролем человека.
Список источников
1. Алферова Е. В. Алгоритмизированное принятие решения и право на его интерпретацию // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Сер. 4. Государство и право: Реферативный журнал. 2021. № 1. С. 49-61.
2. Атажанов, А., Исмаилов, Б. Зарубежный опыт внедрения современных технологий в систему правосудия. URL: https://cyberleninka. ru/article/n/zarubezhnyy-opyt-vnedreniya-sovremennyh-tehnologiy-v-sistemu-pravosudiya/viewer.
3. Бахтеев Д. В., Тарасова Л. В. Применение искусственного интеллекта в деятельности арбитражных судов РФ: перспективные направления и проблемы // Вестник Костромского государственного университета. 2020. Т. 26. № 4. С. 249-254.
4. Васильев А. А. Трансформация права в цифровую эпоху: монография. Барнаул, 2020. 43 2 с.
5. В Верховном суде считают, что роботы никогда не смогут заменить судью. URL: https://tass.ru/obschestvo/6296926.
6. Журавлева М. Д. К вопросу о внедрении и использовании систем искусственного инте ллекта в гражданском судопроизводстве // Гуманитарные и политико-правовые исследования. 2021. № 1. С. 20-28.
7. Искусственный интеллект в суде: как он будет работать. URL: https://pravo.ru /opinion/232129/.
8. Качалов В. И., Качалова О. В., Марковичева Е. В. Возможности применения информационных технологий при принятии судом процессуальных решений по уголовному делу // Вестник Томского государственного университета. 2022. № 477. С. 222-229.
9. Макутчев А. В. Современные возможности и пределы внедрения искусственного инте ллекта в систему правосудия // Актуальные про блемы российского права. 2022. № 8. С.47-58.
10. Момотов В. В. Судопроизводство в России в условиях новых цифровых технологий // Искусственный интеллект и большие данные (big data) в судебной и правоохранительной системе: реалии и требование времени: материалы междунар. науч.-практ. конф. Астана, 2023. С. 267-272.
11. Морхат П. М. Возможности, особенности и у словия применения искусственного инте ллекта в юридической практике // Администратор суда. 2018. № 2. С. 8-12.
12. Морхат П. М. Использование искусственного интеллекта при осуществлении правосудия как способ преодоления судейского усмотрения // Право и государство: теория и практика. 2018. № 5. С. 6-11.
13. Об итогах работы IX Пермского конгресса ученых-юристов «Правовое регулирование цифровизации общества: приоритетные задачи». URL: https:// lexrussica.msal.ru/ jour/article/view/651/652.
14. Поскряков Р. С. Использование искусственного интеллекта в судебной деятельности // Огарев-Online. 2019. № 16. С. 1-6.
15. Степанов О. А., Басангов Д. А. О перспективах влияния искусственного интеллекта на судопроизводство // Вестник Томского государственного университета. 2022. № 475. С. 229-237.
References
1. Alferova E. V. [Algorithmized decision-making and the right to its interpretation].
Sotsial'nye i gumanitarnye nauki. Otechestvennaya i zarubezhnaya literatura. Ser. 4. Gosudarstvo i pravo: Referativnyy zhurnal [Social and Humanitarian Sciences. Domestic and foreign literature. Se ries 4. State and Law: An abstract journal], 2021, no. 1, pp. 49-61. (in Russ.)
2. Atazhanov, A., Ismailov, B. Zarubezhnyy opyt vnedreniya sovremennykh tekhnologiy v sistemu pravosudiya [Foreign experience in introducing modern technologies into the justice system]. Available at: cyberleninka. ru/article/n/zarubezhnyy-opyt-vnedreniya-sovremennyh-tehnologiy-v-sistemu-pravosudiya/viewer.
3. Bakhteev D. V., Tarasova L. V. [The use of artificial intelligence in the activities of arbitration courts of the Russian Federation: promising areas and problems]. Vestnik Kostromskogo gosudarstvennogo universiteta [Bulletin of Kostroma State University], 2020, Vol. 26, no. 4, pp. 249-254. (in Russ.)
4. Vasil'ev A. A. Transformatsiya prava v tsifrovuyu epokhu [The transformation of law in the digital age]. Barnaul, 2020, 432 p.
5. V Verkhovnom sude schitayut, chto roboty nikogda ne smogut zamenit' sud'yu [The Supreme Court believes that robots will never be able to replace a judge]. Available at: tass .ru/obschestvo/6296926.
6. Zhuravleva M. D. [On the issue of the introduction and use of artificial intelligence systems in civil proceedings]. Gumanitarnye i politiko-pravovye issledovaniya [Humanitarian and political-legal studies], 2021, no. 1, pp. 20-28. (in Russ.)
7. Iskusstvennyy intellekt v sude: kak on budet rabotat' [Artificial Intelligence in court: how it will work]. Available at: pravo.ru/opinion/232129/.
8. Kachalov V. I., Kachalova O. V., Markovicheva E . V. [The possibilities of using information technology in making procedural decisions by the court in a criminal case]. Vestnik Tomskogo gosudarstvennogo universiteta [Bulletin of Tomsk State University], 2022, no. 477. pp. 222-229. (in Rus s.)
9. Makutchev A. V. [Modern possibilities and limits of the introduction of artificial intelligence into the justice system]. Aktual'nye problemy rossiyskogo prava [Current problems of Russian law], 2022, no. 8, pp. 47-58. (in Russ.)
10. Momotov V. V. [Judicial proceedings in Russia in the context of new digital technologie]. Iskusstvennyy intellekt i bol'shie dannye (big data) v sudebnoy i pravookhranitel'noy sisteme: realii i trebovanie vremeni: materialy mezhdunar. nauch.-prakt. Konf [Artificial intelligence and big data (big data) in the judicial and law enforcement system: realities and the requirement of time: materials of the international scientific and practical conference]. Astana, 2023, pp. 267-272. (in Russ.)
11. Morkhat P. M. [Possibilities, features and conditions of artificial intelligence application in legal practice]. Administrator suda [Court Administrator], 2018, no. 2, pp. 8-12. (in Russ.)
12. Morkhat P. M. [The use of artificial intelligence in the administration of justice as a way to overcome judicial discretion]. Pravo i gosudarstvo: teoriya ipraktika [Law and the State: theory and practice], 2018, no. 5, pp. 6-11. (in Russ.)
13. Ob itogakh raboty IX Permskogo kongressa uchenykh-yuristov «Pravovoe regulirovanie tsifrovizatsii obshchestva: prioritetnye zadachi» [On the results of the IX Perm Congress of Legal Scientists "Legal regulation of digitalization of society: priority tasks"]. Available at: lexrussica.msal.ru/jour/article/view/651/652.
14. Poskryakov R. S. [The use of artificial intelligence in judicial activity]. Ogarev-Online [Ogarev-Online], 2019, no. 16, pp. 1-6. (in Russ.)
15. Stepanov O. A., Basangov D. A. [On the prospects of the influence of artificial intelligence on legal proceedings]. Vestnik Tomskogo gosudarstvennogo universiteta [Bulletin of Tomsk State University], 2022, no. 475, pp. 229-237. (in Russ.)
Информация об авторе
Буглаева Елена Анатольевна, кандидат юридических наук, доцент кафедры уголовного процесса, криминалистики и судебной экспертизы, Южно-Уральский государственный университет, г. Челябинск, Россия.
Information about the author
Elena A. Buglaeva, Candidate of Sciences (Law), Associate Professor of the Department of Criminal Process, Criminalistics and Judicial Examination, South Ural State University, Chelyabinsk, Russia.
Поступила в редакцию 20 декабря 2023 г. Received December 20, 2023.
