CC BY
27
Научная статья УДК 130.2:34(410)
Б01: 10.18101/1994-0866-2023-3-70-76
ФИЛОСОФСКО-ПРАВОВЫЕ И ЭТИЧЕСКИЕ АСПЕКТЫ ОРГАНИЗАЦИИ «УМНОГО СУДА»: КИТАЙСКИЙ ОПЫТ
© Бальчиндоржиева Оюна Баировна
доктор философских наук, доцент baoyu2008@yandex.ru
© Мяханова Александра Николаевна
доцент кафедры уголовного права, процесса и криминалистики а1ех27-ш@шаИ
© Сапкеев Дандар Викторович
аспирант
sapkeevdandar96@gmai1.com
Бурятский государственный университет имени Доржи Банзарова Россия, 670000, г. Улан-Удэ, ул. Смолина, 24а
Аннотация. С 2016 г. в Китае происходит интеграция технологии искусственного интеллекта в судебную систему, разрабатываются соответствующее законодательство и стратегические документы для ускорения этого процесса. Статья раскрывает важные аспекты опыта организации «умного суда» в Китае для повышения эффективности работы в сфере правосудия. Применение технологии искусственного интеллекта в сфере правосудия имеет своей целью повышение эффективности работы судебной системы. Системы интеллектуального поиска используются для помощи в принятии законных и справедливых судебных решений. Однако практическое применение данной технологии также несет определенные риски. Авторы обратили внимание на пять основных принципов применения систем искусственного интеллекта в судопроизводстве как определенные руководящие идеи, которые в том числе призваны обеспечить безопасность применения данной технологии в суде, противостоять рискам, уменьшить возможность возникновения морально-этических проблем. Ключевые слова: китайское общество, право, мораль, судопроизводство, «умный суд», искусственный интеллект, блокчейн.
Для цитирования
Бальчиндоржиева О. Б., Мяханова А. Н., Сапкеев Д. В. Философско-правовые и этические аспекты организации «умного суда»: китайский опыт // Вестник Бурятского государственного университета. Философия. 2023. Вып. 3. С. 70-76.
В связи с усиливающим воздействием процессов цифровизации на социальную реальность отечественные и зарубежные исследователи в последние годы много внимания уделяют исследованию таких феноменов, как популяризация и повсеместное внедрение в различные сферы жизни общества (финансовая сфера, сельское хозяйство, медицина, транспорт, судопроизводство и т. д.) цифровых платформ, систем распознавания речи, блокчейн-технологий, искусственного интеллекта и т. д. Актуальной проблемой становятся развитие и исследования в
области искусственного интеллекта (ИИ) в Китае, в частности в контексте его применения в сфере правосудия, правовых механизмов, регулирующих информационно-технологическое сопровождение судебных процессов по различным категориям рассматриваемых судом дел, а также различных концепций в сфере осуществления электронного правосудия в деятельности судов, организации так называемых «умных судов».
В данном отношении интересен опыт Китайской Народной Республики, в которой на государственном уровне было принято решение об ускорении внедрения искусственного интеллекта в судебную деятельность и создании «умного суда». Тем самым политическое руководство КНР полагает разрешить многочисленные проблемы, связанные с деятельностью судов: сократить нагрузку на судей и аппарат судов, минимизировать сроки рассмотрения дел, и, возможно, сократить число вынесения неправосудных и недоброкачественных решений судами. В 2016 г. была опубликована «Стратегия развития национальной информатизации», в которой четко указано, что необходимо создавать «умные суды» и повышать уровень информатизации в судопроизводстве [1].
С целью более подробного рассмотрения китайского опыта в сфере учреждения так называемых «умных судов» обратимся к анализу некоторых данных и официальных документов. Согласно докладу Председателя Верховного народного суда КНР Чжоу Цяна о работе Верховного народного суда 2022 г., в Китае было «подано 29,96 миллиона онлайн-исков, проведено 5,04 миллиона судебных заседаний с использованием онлайн-технологий в целях расширения возможностей и повышения эффективности судебного разбирательства. Была создана крупнейшая в мире база данных информационных ресурсов о судебных процессах. Введены новые модели и правила онлайн-правосудия: три основных правила онлайн правосудия, пять основных принципов использования искусственного интеллекта в судебных процессах. С 2018 г. до конца 2022 г. общее количество рассмотренных дел в судах по всей стране росло в среднем на 5,2% ежегодно, среднее количество дел на одного судью выросло с 187 дел в 2017 г. до 242 дел в 2022 г. Период судебного разбирательства в онлайн-судопроизводстве сократился на 22 дня по сравнению с традиционной моделью. Обращения граждан и случаи обращения в суды по гражданским делам, связанные с выездом в Пекин, уменьшились в среднем соответственно на 8,4% и 44,5% ежегодно, что привело к укреплению доверия к судебной системе, и уровень удовлетворенности граждан судебной справедливостью продолжает расти»1 (здесь и далее приводится перевод с китайского языка на русский с учетом российской терминологии, который в дальнейшем может корректироваться).
Пять принципов использования искусственного интеллекта в судопроизводстве отражены более подробно в документе «Пояснения Верховного народного суда КНР по регулированию и усилению судебного применения искусственного интеллекта» от 9 декабря 2022 г.
1 Доклад о работе Верховного народного суда КНР. URL: http://gongbao. court.gov.cn/Details/0cf2ab48a3d2a9cd604af4991aa7d7.html?sw=%e6%8a%a5%e5%91%8a (дата обращения: 25.08.2023). Текст: электронный.
71
1. Безопасность и законность. Придерживаться общей концепции национальной безопасности и использовать искусственного интеллекта только в соответствии с законом. Разработка, внедрение и эксплуатация искусственного интеллекта должны осуществляться в соответствии с законом и не должны наносить ущерб национальной безопасности или ущемлять законные права и интересы граждан. Не должны нарушаться требования безопасности персональных данных и неприкосновенности частной жизни.
2. Честность и справедливость. Соблюдать законы, служить правосудию, обеспечивать непредвзятость искусственного интеллекта, исключить влияние технологических особенностей искусственного интеллекта (отклонений в модели или данных) на законность и справедливость судебного процесса и его результатов. Реализовывать всеобщую толерантность и равные возможности для всех пользователей (участников судебного процесса) в процессе применения искусственного интеллекта, а в особенности для социально незащищенных граждан.
3. Принцип вспомогательной роли искусственного интеллекта в судопроизводстве. Независимо от уровня развития технологии искусственного интеллекта он не может полностью заменить судью при вынесении окончательного решения. Все участники судебного процесса имеют право выбора: использовать помощь, предоставляемую технологией искусственного интеллекта, или в любое время отказаться от взаимодействия с продуктами и услугами искусственного интеллекта.
4. Принцип прозрачности и достоверности. Обеспечение прозрачности разработки технологий ИИ, применения его продуктов и оказания услуг. Обеспечение того, чтобы все звенья систем искусственного интеллекта, включая способы сбора и управления исследуемыми в суде данными, подход когнитивной семантики и логику помощи в оценке доказательств, подвергались проверке, оценке и регистрации соответствующими уполномоченными органами. Соответствующие особенности, возможности и ограничения при использовании любых продуктов и услуг искусственного интеллекта должны быть доступны для понимания и интерпретации, чтобы обеспечить предсказуемость и достоверность процедуры и результатов его применения.
5. Принцип общественного порядка и общественной морали. Придерживаться основных социалистических ценностей в процессе разработки и использования технологии искусственного интеллекта в судопроизводстве, применения продуктов и эксплуатации искусственного интеллекта; гарантировать, что применение искусственного интеллекта не должно нарушать общественный порядок и общественную мораль. Совершенствовать контроль и механизм управления рисками в целях устранения возможных морально-нравственных проблем, которые могут возникнуть в процессе применения искусственного интеллекта в судопроизвод-стве1.
Значение вышеуказанных пяти принципов заключается в том, чтобы интеграция ИИ и суда способствовала повышению эффективности правосудия, в то же
1 Пояснения Верховного народного суда КНР по регулированию и усилению судебного применения искусственного интеллекта. URL: http://courtapp.chinacourt.org/ fabu/xiangqing/382461.html (дата обращения: 25.08.2023). Текст: электронный.
72
время эти принципы выделяют определенные критические точки, на которые необходимо обратить самое пристальное внимание. Например, второй принцип требует обеспечивать высокую точность данных, загружаемых в судебные базы данных, чтобы поддерживать авторитетность судебной системы.
Важной инициативой в сфере судебной реформы в Китае является также принятие «Пояснения Верховного суда КНР об усилении применения технологии блокчейн в судопроизводстве». Данный документ разработан для определения и регулирования применения технологии блокчейн в судебных процессах. Блокчейн — это децентрализованная и безопасная технология, используемая для создания неизменяемых записей и сделок. В судебном контексте она может быть применена для обеспечения целостности и достоверности судебных документов, хранения доказательств и соблюдения сроков.
Данный документ (Пояснения Верховного суда КНР об усилении применения технологии блокчейн в судопроизводстве) устанавливает основные принципы использования искусственного интеллекта в судебных процессах:
• Вспомогательная роль искусственного интеллекта: принцип утверждает, что искусственный интеллект должен использоваться в судебных процессах как инструмент для помощи судьям, а не для их замены.
• Прозрачность и честность: искусственный интеллект должен быть использован честно и прозрачно, чтобы обеспечить соблюдение закона и принципов справедливости.
• Защита данных: данные, используемые искусственным интеллектом в судебных процессах, должны обеспечивать конфиденциальность и безопасность.
• Ответственность: суды и органы, применяющие искусственный интеллект, должны нести ответственность за его использование и решения, принимаемые на его основе.
• Соблюдение законов: принцип подчеркивает, что использование искусственного интеллекта должно соответствовать правовым нормам1.
Эти положения являются частью усилий по совершенствованию судебной системы Китая и усовершенствованию ее технологической инфраструктуры для обеспечения большей эффективности и справедливости. Они также отражают стремление к использованию передовых технологий, таких как блокчейн и искусственный интеллект, для улучшения эффективности судопроизводства и обеспечения соблюдения законов.
Вместе с тем китайские ученые отмечают недостаточность научного исследования и теоретического обоснования внедрения искусственного интеллекта в судопроизводство. В академическом сообществе Китая выделилось два основных взгляда на использование ИИ в юридической области: утверждающий, что ИИ может широко применяться в будущем, и «отрицательный», рассматривающий, что текущие ИИ-технологии как еще не соответствующие необходимым стандартам.
1 Пояснения Верховного суда КНР об усилении применения технологии блокчейн в судопроизводстве. URL: http://courtapp.chinacourt.org/zixun/xiangqing/360281.html (дата обращения: 25.08.2023). Текст: электронный.
73
Яо Ц. и Пэн Х. утверждают, что использование «больших данных» и систем ИИ способствует судейской практике в поиске аналогичных дел. «Стандартами, позволяющими оценить сходство, в основном являются обстоятельства дела, применимая норма права и предмет спора. Подобные приложения были встроены в интеллектуальные системы обработки дел в судах провинции Цзянсу, Пекина и Шанхая». Также разрабатываются интеллектуальные вспомогательные системы, предоставляющие судьям рекомендации по принятию решений при рассмотрении дел (например, Высший суд Хайнаня специально разработал «Интеллектуальную вспомогательную систему по стандартизации приговоров» [1]). Они же выделяют определенные трудности и проблемы, связанные с применением систем ИИ в судопроизводстве. Одна из них состоит в том, что судей, работающих с этой системой, беспокоит то, что они считают алгоритм ИИ «черным ящиком». Они не знают, что это за алгоритм и как рассчитывается прогноз приговора. На самом деле это вызвано парадоксом искусственного интеллекта, то есть конфликтом между непрозрачностью алгоритмов искусственного интеллекта и требованием к прозрачности процесса рассмотрения дела [2].
На самом деле применение систем ИИ в судопроизводстве Китая не ограничивается подобными алгоритмами. Приведем примеры более широкого применения систем ИИ. Так, в 2021 г. Народный суд Шанхая применил ИИ для анализа дела о нарушении авторских прав на музыкальное произведение. ИИ сравнил два музыкальных трека и вычислил степень их сходства по таким параметрам, как мелодия, ритм, гармония и тембр. ИИ также учел факторы, такие как жанр, стиль и общественное мнение. На основании анализа ИИ суд признал, что ответчик нарушил авторские права истца, и обязал его выплатить компенсацию1.
Ван Юнци отмечает, что использование ИИ в правовой сфере продолжит развиваться, несмотря на дебаты, и настаивает на необходимости доработки технологий и улучшения прозрачности и надежности данных. Несмотря на преимущества в быстром поиске правовых норм, ИИ не всегда способен точно применять их к конкретным случаям из-за сложности выбора в случае конфликта норм [3]. В своей статье он выделил трудности и вызовы, которые могут возникнуть в процессе его интеграции в судопроизводство и системами искусственного интеллекта, включая правовые, этические и технические аспекты. Он обращает внимание на то, что ответственность за безопасность ИИ лежит на людях, управляющих вводом данных и управлением системой. В своей статье Ван Ю. обосновывает важность установления принципа
(судья в центре, искусственный интеллект в качестве помощника) в сфере судопроизводства [3]. Китайский опыт показывает, что судьи не всегда согласны с предлагаемым ИИ решением. Так, В 2021 г. Народный суд Пекина отклонил решение ИИ, которое предложило приговорить подсудимого к пожизненному заключению за мошенничество с криптовалютами. Судьи посчитали, что решение ИИ было основано на устаревших данных и не учитывало сложность и новизну дела. Судьи также выразили опасения по поводу пропорциональности и справедливости наказания. В итоге его приговорили к 15 годам лишения свобо-
1 URL: https://rapsinews.ru/digital_law_publication/20221220/308561748.html (дата обращения: 25.08.2023). Текст: электронный.
ды и штрафу в размере 100 тысяч юаней1. Приведем еще один пример, в 2020 г. Народный суд Гуанчжоу отказался принять решение ИИ, рекомендовавшее признать виновным подсудимого за нарушение правил дорожного движения, в котором пострадали два человека. Судьи считали, что решение ИИ было недостоверным и не соответствовало свидетельским показаниям, представленным в суде. Судьи также отметили, что решение ИИ не учитывало обстоятельства дела и показания свидетелей. Суд освободил подсудимого от уголовной ответственности и отказал в иске о возмещении ущерба2.
М. Х. Бадмаева, посвятившая свое исследование философским проблемам и принципам применения систем ИИ, сосредоточила внимание «на требованиях, обеспечивающих исключение возможной предвзятости и дискриминации человека со стороны ИИ, а также гарантирующих самостоятельность, независимость человека в принятии решений, что составляет суть принципов справедливости и автономии, выступающих важнейшими проявлениями принципа непричинения вреда человеку как центрального, ведущего во всей совокупности правил и норм взаимодействия человека и ИИ» [4].
Согласимся, что основными принципами развития ИИ должны стать безопасность, ответственность, контроль. Искусственный интеллект не может полностью заменить решения судей, опирающихся в том числе и на социальные и моральные ценности. Судья должен оставаться центральной фигурой в судебном процессе, а искусственный интеллект использовать как вспомогательное средство, которое может существенно улучшить судебные процессы, однако нужно помнить, что внедрение ИИ должно происходить осторожно и взвешенно.
Литература
1. Yao J., Peng H. Research on the Application of Artificial Intelligence in Judicial Trial: Experience from China // Journal of Physics: Conference Series. 2020. № 1487. 012013 DOI:10.1088/1742-6596/1487/1/012013.
2. Pasquale F. The black box society: The secret algorithms that control money and information. London: Harvard University Press, 2015. P. 39-43.
3. Ван Юнци. Комплексное применение искусственного интеллекта в судебных решениях — текущая ситуация, трудности и меры противодействия // Юридический вестник. 2020. № 1. URL: https://mp.weixin.qq.com/s?__biz=MzU4NjYxMTM2Mw ==&mid=2247498975&idx=1&sn=31ecbdd91fb87d89a5415a4ecd3a558e&chksm=fdfa1313ca 8d9a05303aa1cf9569879ce465112d2e2b7dba28d1e94a0a31706aa22e02bc23c7&scene=27 (дата обращения: 08.09.2023). Текст: электронный.
4. Бадмаева М. Х. Социально-философские проблемы и принципы применения систем искусственного интеллекта: диссертация на соискание ученой степени кандидата философских наук. Улан-Удэ, 2023. С. 189-190. Текст: непосредственный.
Статья поступила в редакцию 08.09.2023; одобрена после рецензирования 12.09.2023; принята к публикации 12.09.2023.
1 URL: http://bjgy.chinacourt.gov.cn/article/detail/2021/03/id/5790266.shtml (дата обращения: 25.08.2023). Текст: электронный.
2 URL: http://gzgy.chinacourt.gov.cn/article/detail/2020/11/id/5783374.shtml (дата обращения: 25.08.2023). Текст: электронный.
PHILOSOPHICAL, LEGAL AND ETHICAL ASPECTS
OF "SMART COURT" ORGANIZATION: THE CHINESE EXPERIENCE
Oyuna B. Balchindorzhieva Dr. Sci. (Philos.), A/Prof. baoyu2008@yandex.ru
Aleksandra N. Myakhanova
A/Prof. of Criminal Law, Procedure and Criminology Department alex27-m@mail
Dandar V. Sapkeyev Research Assistant sapkeevdandar96@gmail.com
Dorzhi Banzarov Buryat State University 24a Smolina St., Ulan-Ude 670000, Russia
Abstract. Since 2016, China has been integrating artificial intelligence technology into the judicial system, developing relevant legislation, as well as strategic documents to speed up this process. The article reveals important aspects of the experience of organizing a "smart court" in China to improve the efficiency of work in the field of justice. The use of artificial intelligence (AI) technology in the justice sector is aimed at increasing the efficiency of the judicial system. Intelligent search systems are used to assist in making legal and fair judicial decisions. However, the practical implementation of this technology also carries certain risks. We draw attention to five basic principles for the use of artificial intelligence systems in legal proceedings, which form certain guiding ideas designed to ensure the safety of using this technology in court, counter risks, and reduce the possibility of moral and ethical problems arising.
Keywords: Chinese society, law, morality, legal proceedings, "smart court", artificial intelligence, blockchain.
For citation
Balchindorzhieva O. B., Myakhanova A. N., Sapkeyev D. V. Philosophical, Legal and Ethical Aspects of "Smart Court" Organization: The Chinese Experience. Bulletin of Buryat State University. Philosophy. 2023; 3:70-76 (In Russ.).
The article was submitted 08.09.2023; approved after reviewing 12.09.2023; accepted for publication 12.09.2023.
