CC BY
30УДК 347.9
ЭЛЕКТРОННОЕ ПРАВОСУДИЕ: ПЕРСПЕКТИВЫ РАЗВИТИЯ
E-JUSTICE: PROSPECTS FOR DEVELOPMENT
АННОТАЦИЯ
В статье рассматривается актуальная проблема применения технологий Искусственного Интеллекта при отправлении правосудия. В статье: 1. Приведены концепции электронного и цифрового правосудия; 2. Раскрыты ключевые особенности обеих концепций; 3. Выявлены преимущества и недостатки каждой концепции; 4. Обоснован выбор наиболее подходящей концепции и возможные перспективы интеграции Strong AI в ее формат.
Приведены пути решения, которые авторами видятся в развитии машиночитаемых права и информации.
Ключевые слова: электронное правосудие, цифровое правосудие, искусственный интеллект, определение ИИ, риски и угрозы развития ИИ, слабый ИИ, сильный ИИ, сверхсильный ИИ, Chat GPT, машиночитаемое право, машиночитаемая информация.
ABSTRACT
The article deals with the actual problem of the use of Artificial Intelligence technologies in the administration of justice.
In the article: 1. The concepts of electronic and digital justice are presented; 2. The key features of both concepts are disclosed; 3. The advantages and disadvantages of each concept are identified; 4. The choice of the most appropriate concept and possible prospects for integrating Strong AI into its format are substantiated.
The ways of solution that the authors see in the development of machine-readable law and information are given.
Keywords: e-justice, digital justice, artificial intelligence, definition of AI, risks and threats of AI development, weak AI, strong AI, super strong AI, Chat GPT, machine-readable law, machine-readable information.
София Игоревна ИВАНОВА,
студент юридического факультета Финансового университета при Правительстве Российской Федерации, Москва, Россия sonia-ivanova-2003@mail.ru
Евгений Алиджанович ХАМРОКУЛОВ,
студент юридического факультета Финансового университета при Правительстве Российской Федерации, Москва, Россия hamrokulovevgeny@yandex.ru
Научный руководитель: Илья Владимирович Афанасьев,
к.ю.н, старший преподаватель Департамента правового регулирования
экономической деятельности, Финансовый университет при Правительстве Российской Федерации», Москва, Россия ivafanasev@fa.ru
Sofia I. IVANOVA,
Student Faculty of Law of Financial University under the Government of the Russian Federation», Moscow, Russia sonia-ivanova-2003@mail.ru
Evgeny A. HAMROKULOV,
Student Faculty of Law of Financial University under the Government of the Russian Federation», Moscow, Russia hamrokulovevgeny@yandex.ru
Scientific director: Ilya V. Afanasiev,
Candidate of Law, Senior Lecturer Department of Legal Regulation economic activity, Financial University under the Government of the Russian Federation»,Moscow, Russia ivafanasev@fa.ru
Введение
Актуальность работы обусловлена стремительным, отчасти неконтролируемым развитием Искусственного Интеллекта и внедрением его акторов повсеместно, в том числе, как планируется, в отправление правосудия. Однако законодательное регулирование использования ИИ-технологий как в России, так и за рубежом сильно отстает от действительного уровня развития А1, из-за чего может возникнуть большое число правовых и этических коллизий при реализации систем-ИИ, в особенности при правосудии.
Авторы настоящей статьи проанализировали настоящую законодательную базу России и нескольких иностранных государств в целях выявления проблемы ригидности законодательства, эмпирические материалы по теме А1, показывающие действительный уровень его развития, научные работы, поднимающие основополагающие вопросы внедрения, правового регулирования, рисков и угроз, которые несет использование сильного А1 в отправлении правосудия и возможные пути решения проблем. Так, к примеру, была рассмотрена работа О.В. Журковой, в которой цифровое правосудие представлено как часть электронного. Также была изучена статья Е.В. Холодной, посвященная перспективам правового регулирования технологии ИИ, которая оказала значительную роль на формирование авторской позиции в настоящей работе. Кроме того, авторы настоящей статьи обратились к иностранному опыту посредством анализа работ зарубежных ученых в изучаемой области.
Основная часть
В основе концепций как электронного, так и цифрового правосудия лежит Искусственный
Интеллект. В п. 2 ст. 2 Федерального закона от 24 апреля 2020 г. № 123-ФЗ1 искусственный интеллект определён как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».
Важно понимать, что ИИ подразумевает под собой целую систему, которую в научной литературе2 делят на слабый (Weak AI), успешно реализуемый в виде компьютерного зрения, речевой аналитики, обработки естественного языка и др.; сильный (Medium AI), способный моделировать процессы, напоминающие работу головного мозга человека, «думать» самостоятельно, исходя из запрограммированной автономности действий в виде самообучаемых нейронных сетей, гиноида София и т.д. Chat GPT-4 стал первой в истории разработкой, которая прошла тест на аутизм, продемонстрировав тем самым мультимодальность, то есть способность учиться на одних данных и переносить полученную интеллектуальную мощность на другие, следовательно, это развитый сильный ИИ, который, не обладая чувственным компонентом, способен все же алгоритмично воспроизводить эмоциональные модели человеческого поведения (речь не только о воспроизводимости мимики и жестов) и исходя из этого решать поставленные перед ним «социальные» задачи, разбираться в социальной реальности, как бы реконструируя внутренний мир других людей, чего лишен человек с аутизмом.
Следующим рубежом является конструирование сверхсильного ИИ (Strong AI), для чего предпринимаются попытки соединения интел-
1 Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»« // Официальный интернет-портал правовой информации http://www.pravo.gov.ru, 24.04.2020.
2 Searle J.R. (1980). Minds, brains and programs. Behav. Brain Sci. 3, 417-424. doi: 10.1017/S0140525X00005756; Hardy Q. Interesting Thoughts brought to Mind. In What to Think about Machines that Think; Harper Perennial: New York, NY, USA, 2015. Pp. 190-193; Холодная Е.В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12(64). С. 89-96. DOI: 10.17803/ 23115998.2019.64.12.089-096; Сушкова О.В. Особенности реализации искусственного интеллекта как объекта информационной среды в сфере предпринимательской деятельности в зарубежных странах // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12(64). С. 121-128. DOI: 10.17803/2311-5998.2019.64.12.121-128; Филипова И.А. Трансформация правового регулирования труда в цифровом обществе. Искусственный интеллект и трудовое право: монография. Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского, 2019. 89 с.
лектуальной мощности сильного ИИ с физической реальностью1.
Затем стоит разграничить дефиниции электронного (LegalTech) и цифрового правосудия: «в первом случае речь идет о свойствах носителя информации, во втором - о форме существования данных»2. Его концепция подразумевает осуществление правосудия с использованием слабого ИИ, современных информационно-коммуникационных технологий (далее -ИКТ), имеет целью обеспечение гласности, открытости и доступности судопроизводства, способствует переносу части процессуальных действий в электронный формат. Предполагает осуществление правосудия посредством ИКТ, в частности, электронного документооборота и системы видеоконференцсвязи, представленный единой информационной системой. Идея реализации виртуального правосудия с использованием видеоконференцсвязи была сформулирована давно, в 1998 году, профессором П. Каррингтоном, однако стремительное развитие по всему миру получила только в пандемию Covid-19. Именно этот непростой период показал необходимость развития электронного правосудия, в том числе его части - ви-деоконференцсвязи, поскольку это «является важным средством обеспечения доступности и открытости при рассмотрении дел... позволяет не учитывать территориальные преграды участия лица в судебном процессе, тем самым существенно уменьшить расходы лиц, минимизировать срок рассмотрения и разрешения судебного дела» [1].
Актуальное состояние электронного правосудия в России представлено Государственной автоматизированной системой «Правосудие», «Мой арбитр» и «Банк решений арбитражных судов» и иными. Названные системы создают единое информационное пространство,
обеспечивая электронный документооборот в уголовном, гражданском, арбитражном процессах и административном судопроизводстве.
Цифровое правосудие, базирующееся на сочетании слабого и сильного ИИ, предполагает переход коммуникаций полностью в цифровую среду. Подобного рода формат был реализован в Китае: с 2017 г. действует три Интернет-суда, весь судебный процесс в которых проводится в онлайн формате, начиная с момента подачи заявления, и заканчивая вынесением судебного решения3. Основу работы Интернет- судов Китая составляют цифровые технологии и Искусственный Интеллект, регулирующиеся Положением «О порядке судебного разбирательства в электронной форме в Интернет-суде Пекина». Интернет-суд Пекина разработал уникальную систему формирования судебных решений, основанную на использовании информационных технологий4. В начале 2020 г. на базе десяти судов Шанхая был реализован пилотный проект автоматизации работы сотрудников суда, связанный с использованием ИИ. Была представлена программа «Умный суд», которая значительно оптимизировала работу суда: протокол судебного заседания был составлен максимально полно и быстро, стороны были ознакомлены с доказательствами в формате видео, представленного на специальном экране. Кроме того, «Умный суд» позволил использовать электронные доказательства, достоверность которых была основана на использовании блокчейн-технологии5.
Следует определить преимущества и недостатки использования цифрового и электронного правосудия.
Преимущества цифрового правосудия:
- при проведении с участием судьи - возможность координации, корректировки и контроля решения А1 судьей;
1 Ameca conversation using GPT 3 - Will robots take over the world? [Электронный ресурс] / Режим доступа: https:// www.youtube.com/watch?v=EWACmFLvpHE (дата обращения: 15.04.2023).
2 Выступление председателя Совета судей Российской Федерации В.В. Момотова на заседании Клуба имени Д.Н. За-мятнина по теме: «Электронное правосудие в Российской Федерации: миф или реальность» / Выступления, интервью, публикации / Совет судей Российской Федерации [Электронный ресурс]. - Режим доступа: http://ssrf.ru/news/vystuplieniia-intierv-iu-publikatsii/ 42272?ysclid=lp5xk1hh4g929922590 (дата обращения 20.11.2023).
3 Официальный сайт Пекинского интернет суда [Электронный ресурс]. - Режим доступа: https://www.bjinternetcourt.gov.cn/ (дата обращения: 20.11.2023).
4 Белая книга Пекинского интернет - суда [Электронный ресурс]. - Режим доступа: https://www.chinadaily.com.cn/ specials/20190S20-B-0003-0904-F-trialswhitepaper.pdf (дата обращения: 20.11.2023).
5 Журкина О.В. Цифровое правосудие как элемент реализации концепции электронного государства: на примере интернет-судов Китая // БГЖ. 2021. № 3(36). - URL: https://cyberleninka.ru/article/n/tsifrovoe-pravosudie-kak-element-realizatsii-kontseptsii-elektronnogo-gosudarstva-na-primere-internet-sudov-kitaya (дата обращения: 20.11.2023).
- автоматизация и скорость работы;
- вынесение решений на основе учета всей релевантной базы данных с сопоставлением и анализом всей судебной практики, чего человек физически сделать не может, но что значительно упростит и сократит нагрузку на суды, преимущественно нижней инстанции, по делам, предмет которых малозначителен;
- погрешности человеческого фактора абсолютно сокращены (ИИ, в отличие от реального судьи, не находится под влиянием эмоционального фона, не испытывает недомоганий и не имеет отвлеченных от судопроизводства мыслей1);
- способность сильного ИИ выносить решения даже по делам, требующим умения жить в социуме, картировать социальную реальность;
- увеличение доступности правосудия для граждан.
Недостатки цифрового правосудия:
- не разрешен основополагающий вопрос: ИИ - субъект или объект права? Без ясного ответа на этот вопрос невозможно внедрить акторы сильного ИИ в качестве элемента правосудия, ибо нести ответственность за принятое решение ИИ не может ввиду природы своего происхождения;
- невозможность контролировать риски и угрозы (обратимся к письму Илона Маска от 22 марта 2023 г.2, в котором призывают приостановить развитие ИИ). В рамках рассматриваемого вопроса можно выделить дискриминацию и предубеждения - ИИ может принимать решения на основе расы, пола, возраста или других факторов, которые не должны играть роли при принятии решений. Ярким примером этого является программа COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), которую американская судебная система использовала для оценки вероятности рецидива, показывала серьезную погрешность, оценивая риск повторного тюремного заключения темнокожего населения в 2 раза чаще, чем светлокожего; нарушение конфиденциальности данных.
Преимущества электронного правосудия:
- отсутствуют риски и угрозы, которые несет сильный ИИ;
- учет человеческого фактора (в ситуациях, когда важна эмпатия человека, т.е. чувственный компонент, которым ИИ не обладает);
- автоматизация действий;
- скорость работы судебного аппарата;
- повышение доступности правосудия для граждан;
- сокращение затрат на судопроизводство, в том числе транспортные расходы.
Недостатки электронного правосудия:
- не упрощает работу судебного аппарата так, как это может сделать сильный ИИ;
- сравнительно с сильным ИИ низкая скорость работы;
- сохранение погрешностей, связанных с человеческим фактором.
Возникает проблема: с одной стороны - судья с его «человеческим фактором», с другой -ИИ, несущий неконтролируемые риски и угрозы. Как быть, где граница реализации и развития электронного и цифрового правосудия?
Авторам настоящей статьи видится решение в развитии машиночитаемой информации и машиночитаемого права, в создании унифицированной технической нормы, понятной и юристу, и техническому специалисту, программисту, способной наладить диалог между ними. Так как непонимание юристом ключевых категорий цифровизации влечет ошибки в формировании релевантной правовой базы, отвечающей требованиям современного этапа развития технологий, что в свою очередь тормозит процесс цифровизации, из-за чего Россия отстает в технологическом развитии, с другой стороны, циф-ровизация так или иначе не стоит на месте, что заставляет ригидное законодательство меняться, но этот временной и качественный разрыв вызывает возникновение большого числа правовых и этических коллизий.
Контакт технического специалиста и юриста также необходим в целях установления границ использования ИИ в правосудии, поиска оптимального баланса и объема реализации электронного и цифрового правосудия, при котором внедрение ИИ принесет желанные ре-
1 Danziger S., Levav J., Avnaim-Pesso L. Extraneous factors in judicial decisions. Proc Natl Acad Sci U S A. 2011 Apr 26; 108(17):6889-92. doi: 10.1073/pnas.1018033108. Epub 2011 Apr 11. PMID: 21482790; PMCID: PMC3084045.
2 Открытое письмо на сайте IFL: Pause Giant AI Experiments: An Open Letter. We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. 22 марта 2023. - URL: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 20.11.2023).
зультаты, но при этом не причинит того вреда, который был упомянут выше.
Заключение
Таким образом, перспектива развития электронного правосудия видится на дальней дистанции - в реализации цифрового правосудия с использованием сильного ИИ, а на ближней - в развитии машиночитаемого права. Наиболее эффективным форматом внедрения машиночитаемого права, на наш взгляд, является создание машиночитаемых норм, понятных и юристу и техническому специалисту.
Именно он поможет наладить успешную коммуникацию между юристом и техническим специалистом посредством установления взаимного понимания сторон, которым не придется заимствовать навыки оппонента для достижения общих целей. Внедрение машиночитаемого права - ключ к успеху в вопросе формирования релевантной нормативной базы, отвечающей требованиям технического прогресса, в результате развития которого складывается принципиально новый формат общественных отношений, нуждающихся в качественном правовом регулировании.
Список цитируемой литературы
1. Жуков Е.В. Участие в судебном заседании путем использования видеоконференцсвязи, как реализация конституционного права на судебную защиту в арбитражном процессе / Е.В. Жуков, А.Е. Жукова // Legal Bulletin. 2021. Т. 6. № 4. С. 96-109. EDN DONZBU.
2. Журкина О.В. Цифровое правосудие как элемент реализации концепции электронного государства: на примере Интернет-судов Китая / О.В. Журкина // Балтийский гуманитарный журнал. 2021. Т. 10. № 3(36). С. 390-393. DOI 10.26140/bgz3-2021-1003-0096. EDN OEHDKC.
3. Сушкова О.В. Особенности реализации искусственного интеллекта как объекта информационной среды в сфере предпринимательской деятельности в зарубежных странах / О.В. Сушкова // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12(64). С. 121-128. DOI 10.17803/2311 -5998.2019.64.12.121 -128. EDN WMZEJO.
4. Филипова И.А. Трансформация правового регулирования труда в цифровом обществе. Искусственный интеллект и трудовое право / И.А. Филипова. Нижний Новгород: Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского, 2019. 89 с. ISBN 978-5-91326-546-3. EDN FMKUHC.
5. Холодная Е.В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта / Е.В. Холодная // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12(64). С. 89-96. DOI 10.17803/2311-5998.2019.64.12.089-096. EDN ULWRFV.
6. Danziger S., Levav J., Avnaim-Pesso L. Extraneous factors in judicial decisions. Proc Natl Acad Sci U S A. 2011 Apr 26;108(17):6889-92. doi: 10.1073/pnas.1018033108. Epub 2011 Apr 11. PMID: 21482790; PMCID: PMC3084045.
7. Hardy Q. Interesting Thoughts brought to Mind. In What to Think about Machines that Think; Harper Perennial: New York, NY, USA, 2015. Pp. 190-193.
8. Searle J.R. (1980). Minds, brains and programs. Behav. Brain Sci. 3, 417-424. doi: 10.1017/ S0140525X00005756.
References
1. ZhukovE.V. Uchastie v sudebnom zasedanii putem ispolzovaniya videokonferencsvyazi_ kak realizaciya konstitucionnogo prava na sudebnuyu zaschitu v arbitrajnom processe [Participation in the court session through the use of videoconferencing, as the implementation of the constitutional right to judicial protection in the arbitration process]. Legal Bulletin, 2021, vol. 6, no. 4, pp. 96-109. (In Russian).
2. Jurkina O.V. Cifrovoe pravosudie kak element realizacii koncepcii elektronnogo gosudarstva: na primere Internet-sudov Kitaya [Digital justice as an element of the implementation of the concept of electronic State on the example of China's Internet Gardens]. Baltiiskiigumanitarnii jurnal- The Baltic Humanitarian Journal, 2021, vol. 10, no. 3(36), pp. 390-393. (In Russian).
3. Sushkova O.V. Osobennosti realizacii iskusstvennogo intellekta kak obekta informacionnoi sredi v sfere predprinimatelskoi deyatelnosti v zarubejnih stranah [Features of the implementation of artificial
intelligence as an object of the information environment in the field of entrepreneurial activity in foreign countries]. Vestnik Universiteta imeni O.E. Kutafina (MGUA) - Bulletin of the O.E. Kutafin University (MGUA), 2019, no. 12(64), pp. 121-128. (In Russian).
4. Filippova I.A. Transformaciya pravovogo regulirovaniya truda v cifrovom obschestve. Iskusstvennii intellekt i trudovoe pravo [The transformation of legal regulation of labor in a digital society. Artificial intelligence and labor law]. Nijnii Novgorod, Nacionalnii issledovatelskii Nijegorodskii gosudarstvennii universitet im. N.I. Lobachevskogo, 2019. P. 89. (In russian).
5. Holodnaya E. V. O perspektivnih napravleniyah pravovogo regulirovaniya v sfere tehnologii iskusstvennogo intellekta [On promising areas of legal regulation in the field of artificial intelligence technologies]. Vestnik Universiteta imeni O.E. Kutafina (MGUA) - Bulletin of the O.E. Kutafin University (MGUA), 2019, no. 12(64), pp. 89-96. (In Russian).
6. Danziger S., Levav J., Avnaim-Pesso L. Extraneous factors in judicial decisions. Proc Natl Acad Sci U S A. 2011 Apr 26;108(17):6889-92. doi: 10.1073/pnas.1018033108. Epub 2011 Apr 11. PMID: 21482790; PMCID: PMC3084045.
7. Hardy Q. Interesting Thoughts brought to Mind. In What to Think about Machines that Think; Harper Perennial: New York, NY, USA, 2015. Pp. 190-193;
8. Searle J.R. (1980). Minds, brains and programs. Behav. Brain Sci. 3, 417-424. doi: 10.1017/S0140525X00005756.
Статья поступила в редакцию 05.11.2023; принята к публикации 30.11.2023.
The article was submitted 05.11.2023;
accepted for publication 30.11.2023.
Авторы прочитал и одобрил окончательный вариант рукописи.
The authors read
and approved the final version
of the manuscript.
