CC BY
70
Северо-Кавказский юридический вестник. 2022. № 1. С. 130-135 North Caucasus Legal Vestnik. 2022;(1):130-135
Проблемы уголовного права и процесса
Научная статья УДК 343.11
doi: 10.22394/2074-7306-2022-1-1-130-135
ЦИФРОВОЕ ПРАВОСУДИЕ Наталья Николаевна Апостолова
Южно-Российский институт управления - филиал Российской академии народного хозяйства и государственной службы при Президенте РФ, Ростов-на-Дону, Россия, [email protected]
Аннотация. ФЗ № 44 от 30.12.21 года «О внесении изменений в отдельные законодательные акты РФ» была законодательно закреплена возможность перехода арбитражного, гражданского и административного судопроизводства на цифровое правосудие. В ближайшей перспективе возможно применение данных технологий в ходе осуществления судебного контроля в досудебном производстве, а также в производстве у мирового судьи и по уголовным делам. Следующим шагом развития цифрового правосудия будет создание и внедрение системы искусственного интеллекта. Необходимо скорейшее закрепление гражданской, административной и уголовной ответственности акторов СИИ за их создание и использование с нарушением установленных правил. Основополагающими принципами использования искусственного интеллекта (ИИ] в правосудии должны быть принципы законности, безопасного и контролируемого использования СИИ, конфиденциальности личной информации. Развитие искусственного интеллекта должно осуществляться в целях обеспечения условий для перехода человеческой цивилизации на более высокий уровень духовно-нравственного, интеллектуального и физического развития.
Ключевые слова: цифровое правосудие, система искусственного интеллекта (СИИ], ответственность акторов СИИ, законность, безопасность и подконтрольность, конфиденциальность личной информации
Для цитирования: Апостолова Н.Н. Цифровое правосудие // Северо-Кавказский юридический вестник. 2022. № 1. С. 130-135. https://doi.org/10.22394/2074-7306-2022-1-1-130-135.
Problems of Criminal Law and Procedure
Original article
DIGITAL JUSTICE
Natalia N. Apostolova
South-Russia Institute of Management - branch of Russian Presidential Academy of National Economy and Public Administration, Rostov-on-Don, Russia, [email protected]
Abstract. Federal Law No. 44 of December 30, 21 "On Amendments to Certain Legislative Acts of the Russian Federation" legislatively fixed the possibility of transition of arbitration, civil and administrative proceedings to digital justice. In the near future, it is possible to use these technologies in the course of judicial control in pre-trial proceedings, as well as in proceedings before a justice of the peace and in criminal cases. The next step in the development of digital justice will be the creation and implementation of an artificial intelligence system in court proceedings. It is necessary to consolidate as soon as possible the civil, administrative and criminal responsibility of the actors of these organizations for their creation and use in violation of the established rules. The fundamental principles of using AI in justice should be the principles of legality, safe and controlled use of AI, confidentiality of personal information. The development of artificial intelligence should be carried out in order to ensure the conditions for the transition of human civilization to a higher level of spiritual, moral, intellectual and physical development.
Keywords: digital justice, artificial intelligence system, responsibility of actors, legality, security and accountability, confidentiality of personal information
For citation: Apostolova N.N. Digital Justice. North Caucasus Legal Vestnik. 2022;(1):130-135. (In Russ.). https://doi.org/10.22394/2074-7306-2022-1-1-130-135.
ФЗ № 440 от 30.12.2021 года «О внесении изменений в отдельные законодательные акты РФ» были изменены сразу три процессуальных закона - АПК РФ, ГПК РФ, КАС РФ в части, касающейся осуществления дистанционного правосудия путем использования сети «Интернет», систем видеоконференцсвязи и веб-конференции.
© Апостолова Н. Н., 2022
Таким образом, в сфере арбитражного, гражданского и административного судопроизводства переход на цифровое правосудие законодательно закреплен. Остается обеспечить соответствующее техническое оснащение российских судов и безопасное (исключающее несанкционированное вмешательство извне), устойчивое функционирование суперсервиса «Правосудие онлайн».
По данным Верховного суда РФ в прошлом 2021 году более 3 миллионов электронных процессуальных документов было подано в суды, количество обращений пользователей к ГАС «Правосудие» превысило 2,5 миллиарда запросов, свыше 300 тысяч судебных заседаний проведено посредством видеоконференцсвязи, более 23 миллионов смс-сообщений направлено судами участникам процесса [1]. В ближайшей перспективе данные технологии дистанционного судопроизводства вполне могли бы применяться и по уголовным делам. В частности, при осуществлении судебного контроля в ходе досудебного производства, а также в производстве по уголовным делам у мирового судьи.
Судебный контроль в уголовном процессе осуществляется в весьма сжатые сроки, с ограниченным кругом участников и по определенным конкретным обстоятельствам уголовного дела, что делает дистанционный формат наиболее оптимальным формой судебных заседаний. Еще более востребованными веб-конференции станут в апелляционных и кассационных судах при проверке промежуточных решений, принятых нижестоящими судами.
Внедрение онлайн-правосудия целесообразно по уголовным делам и у мирового судьи. Особенно с учетом того, что: к рассмотрению мировых судей отнесены дела небольшой тяжести (заканчивающиеся, нередко, малозначительными наказаниями); УПК РФ устанавливает сокращенные сроки производства по ним; часто возникают проблемы с явкой участников (включая самих подсудимых).
Закрепленные в Конституции РФ и в УПК РФ права обвиняемых (подсудимых), потерпевших и иных участников процесса предполагают, что судебное заседание в форме видеоконференцсвязи или веб-конференции должно гарантировать добровольность, доступность, полноценность дистанционного участия. Обвиняемый, потерпевший или иное лицо, чье право подлежит ограничению, должны иметь возможность выбора: лично участвовать офлайн, либо по ходатайству (или добровольном согласии) дистанционно посредством системы веб-конференции (при наличии технической возможности). В ходе дистанционного участия участникам судебного заседания предоставляется возможность: излагать суду свою позицию; задавать вопросы; иным образом участвовать в представлении и исследовании доказательств; заявлять ходатайства; получать решения; обжаловать их и т.д. Участвуя в судебном процессе, проводимом в форме веб-конференции, стороны должны иметь возможность реализации предоставленных им законом процессуальных прав и обязанностей.
Следующим шагом развития цифрового правосудия, очевидно, будет применение современных систем искусственного интеллекта непосредственно в судопроизводстве (как это уже сегодня и происходит, например, в Китае). В судах КНР (по всей стране и на разном уровне) роботы помогают сторонам составлять процессуальные документы, а судьям - принимать решения и вести онлайн-трансляции без помощи человека. Искусственный интеллект (ИИ) проводит анализ обстоятельств дела, закона и судебной практики, представляет варианты наиболее подходящих решений, тем самым, существенно снижая нагрузку на судей и повышая качество правосудия. Взаимодействуя с обратившимися в суд лицами, ИИ не просто их консультируют по различным вопросам, но и помогает правильно составить и подать соответствующие процессуальные документы, делая работу судебной системы удобной, прозрачной и понятной для людей [2].
В американских судах действует программа, автоматического формирования жалоб на судебные штрафы, позволяющая гражданам успешно защитить свои права. Системы искусственного интеллекта используются и для распознавания участников процесса. Созданы и действуют различные аналогичные системы электронного правосудия (на основе ИИ) и в странах Европы [3, с. 36-47].
И поскольку системы ИИ все больше и больше задействуются в процессе оправления правосудия (которое осуществляется в отношении людей), то неизбежно встает вопрос о необходимости выработки и законодательного закрепления соответствующих правил его применения в судопроизводстве.
В октябре 2021 г. в Будапеште прошла специальная конференция министров юстиции Совета Европы, посвященная данному вопросу. В ходе данной конференции было подчеркнуто,
что использование в судебных процессах электронных технологий и искусственного интеллекта должно осуществляться в соответствии с Европейской конвенцией о защите прав человека и основных свобод 1950 г. и протоколами к ней. При применении данных технологий необходимо гарантировать: доступ к правосудию; не дискриминацию; равенство перед законом и судом; равную судебную защиту; защиту персональных данных; обезличивание судебных решений [4]. Была также подтверждена приверженность закрепленным в Европейской этической хартии по применению ИИ в судебных системах и в связи с ними 2018 г. принципам1.
В число европейских принципов применения ИИ включаются: социальное и экологическое благополучие, разнообразие, не дискриминация и справедливость, управляемость и поднадзорность, конфиденциальность управления данными, техническая надежность и безопасность, прозрачность и подотчетность.
К этическим принципам, принятым Китайским национальным профессиональным комитетом по управлению искусственным интеллектом нового поколения, относятся: гармония и дружба, справедливость и правосудие, терпимость и совместное использование, уважение частной жизни, безопасность и управляемость, разделение обязанностей, открытое сотрудничество, гибкое управление [5].
В октябре 2021 года на 1 международном форуме «Этика искусственного интеллекта (ИИ): начало доверия» был подписан «Кодекс этики искусственного интеллекта» России2, разработанный на основе «Национальной стратегии развития ИИ на период до 2030 года».
В качестве основных подходов (принципов) закреплены: 1) человеко-ориентированность и гуманизм (уважение автономии и свободы воли человека; законность создания и использования ИИ, недискриминация; оценка рисков и гуманитарного воздействия); 2) ответственное создание и использование ИИ (предосторожность, непричинение вреда, информированность и свобода взаимодействия человека с ИИ, безопасность использования данных, безопасность от вмешательства извне, соответствие стандартам качества и этики, контроль государства за развитием ИИ); 3) ответственность человека за последствия применения ИИ (вкупе с поднадзорно-стью ИИ человеку); 4) стимулирование создания и применения полезных и необходимых технологий ИИ; 5) приоритет развития технологий ИИ над интересами конкуренции (корректность сравнения систем ИИ, развитие компетенций в сфере ИИ, сотрудничество разработчиков); 6) прозрачность и правдивость информирования о развитии, возможностях и рисках ИИ.
Надо отдать должное авторам Кодекса этики ИИ России они учли самые жизненно важные аспекты создания и использования систем искусственного интеллекта и достаточно точно определили необходимые для этого рамки. Чего нельзя сказать о механизме реализации данного кодекса. Во втором разделе закреплен принцип добровольности присоединения и следования положениям Кодекса этики ИИ.
Факт несоблюдения этих положений будет учитываться при решении вопроса о предоставлении или не предоставлении мер поддержки акторам искусственного интеллекта. Такой подход представляется нелогичным и ошибочным. Получается, что те акторы СИИ, которые не сочтут нужным соблюдать данные требования, могут делать все что захотят, а это недопустимо. Создание и применение цифровых технологий без принятия мер предосторожности и учета возможных рисков может привести к весьма плачевным последствиям.
В механизме реализации Кодекса этики ИИ должно быть четко и однозначно закреплено, что акторы, осуществляющие какую-либо деятельность в сфере технологий ИИ, обязаны придерживаться и соблюдать закрепленные в нем требования. В случае нарушения или несоблюдения этих правил, они могут быть лишены права (лицензии) на осуществление деятельности в сфере систем искусственного интеллекта (СИИ), а при причинении вреда будут нести предусмотренную российским законодательством ответственность.
Установление гражданско-правовой, административно-правовой и уголовной ответственности акторов СИИ также требует незамедлительного законодательного решения [6, с. 112-119; 7, с 66-68; 8, с 471-473; 9, с 14-25; 10, с 42-48] хотя бы на минимально необходимом уровне, поскольку процесс развития технологий ИИ идет достаточно быстро и непредсказуемо. Особенно, если учесть, что цифровизация сопровождается взрывным ростом количества киберпреступлений.
1 См.: /URL:https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4
2 URL:https://berza.ru/wp-content/uploads/2021/10/kodeks-etiki-v-sfere-iskusstvennogo-inteИekta.pdf
Так, согласно данным Главного управления правовой статистики и информационных технологий Генеральной прокуратуры РФ за январь-октябрь 2021 года удельный вес преступлений, совершенных с использованием различных 1Т-технологий, составил 26,6 % от общего числа зарегистрированных преступлений - 1 миллиона 700 тысяч преступных деяний1. Так это же только те преступления, которые официально зарегистрированы, а реальное их число в разы большее. Что же будет твориться, если еще и искусственный интеллект будет создаваться и использоваться без учета установленных правил?!
Многофункциональная специализированная СИИ, способная выполнять различные виды деятельности в сфере судопроизводства, должна обеспечивать осуществление законного, обоснованного и справедливого правосудия. В основе ее работы лежать принципы: законности; безопасного и контролируемого использования СИИ; обеспечения доступа к правосудию; равенства граждан перед законом и судом; свободы распоряжения человеком предоставленными законом правами; соблюдения и уважения прав и свобод человека; обжалования в суде действий (бездействий) и решений должностных лиц; конфиденциальности личной информации; осуществление правосудия только судом; независимости судей и подчинения их только конституции РФ и федеральному закону; гласности, устности и непосредственности судебного разбирательства; состязательности и равноправия сторон.
Воплощение принципа законности в СИИ в сфере правосудия предполагает, что их функционирование будет осуществляться на основе закрепленных в Конституции РФ, АПК РФ, ГПК РФ, КАС РФ, УПК РФ и в других законах правил. Учет решений Конституционного Суда РФ, Верховного Суда РФ, обобщение и анализ практики судов должны использоваться системой ИИ в качестве механизма разумного устранения возникающих правовых коллизий и обеспечения осуществления справедливого судопроизводства.
Принцип безопасного и подконтрольного человеку использования СИИ, наряду с принципом законности, следует признать основополагающим для цифрового правосудия. Данный принцип предполагает создание такого функционала искусственного интеллекта, применяемого в правосудии, который бы исключал возможность причинения вреда любым лицам, вступившим во взаимодействие с ним. Кроме этого, система ИИ должна предусматривать возможность контроля (мониторинга) человеком ее работы и, при необходимости, отключения (приостановки) не отвечающей установленным в законе правилам судебной деятельности. Соответствие этим требованиям - обязательное условие применения СИИ в судопроизводстве.
В плане обеспечения доступа к правосудию применение искусственного интеллекта должно создавать максимально возможные условия для беспрепятственного обращения в суд или иные компетентные органы за реализацией (а не только защитой) предусмотренного законом права или свободы. В его функции должны быть заложены понятные и несложные способы содействия человеку в этом (за исключением закрепленных в законе случаев злоупотребления правами). Очевидно, что такие системы ИИ следует применять, прежде всего, в рамках цифровизации адвокатской и иной юридической деятельности.
Использование СИИ в правосудии с соблюдением принципа равенства перед законом и судом должно исключать какие-либо способы сегрегации и дискриминации людей, кроме общепринятых в разумном человеческом сообществе особых правил для несовершеннолетних, инвалидов и других категорий социально уязвимых лиц, нуждающихся в дополнительной защите. Умаление достоинства человека, ущемление или ограничение его конституционных прав и свобод по каким-либо критериям, не связанным с наказанием за совершенное правонарушение, - недопустимо.
Цифровые технологии, включая ИИ, не должны являться инструментом сегрегации людей. Наоборот, благодаря их использованию люди должны получить возможность выйти на более высокий духовно-нравственный и интеллектуальный уровень своего развития.
Свобода распоряжения предоставленными законом правами в деятельности искусственного интеллекта означает, что человеку должна предоставляться возможность свободно, по его усмотрению пользоваться предоставленными законом правами и свободами (за исключением случаев злоупотребления ими и нарушения прав и свобод других людей).
Соблюдение и уважение прав и свобод человека системой ИИ должно выражаться в ее способности оказывать максимальное содействие и помощь человеку в реализации закрепленных в Конституции РФ и в других федеральных (и региональных) законах прав и свобод.
1 См.: URL:http://crimstat.ru/analitics
Для реализации права на обжалование в суд действий (бездействий) и решений должностных лиц посредством СИИ необходимо создать такие предусмотренные соответствующими законами алгоритмы их работы, которые бы позволяли гражданам автоматически (путем внесения необходимых сведений) формировать и подавать жалобы. Автоматизация процесса подачи жалоб в ходе судопроизводства могла бы существенно повысить как гарантии реализации данного конституционного права, так и эффективность работы всей судебной системы.
Конфиденциальность использования личной информации при использовании СИИ в судопроизводстве предполагает, прежде всего, создание цифрового суверенитета (российского программного обеспечения, работающего на отечественных процессорах). Затем, на этой базе следует обеспечить безопасное (исключающее доступ посторонних лиц) функционирование единой биометрической системы (ЕБС) распознавания лиц и их идентификации. Утечка этих сведений неминуемо приведет к коллапсу цифрового правосудия, не говоря уже о других криминальных последствиях всего этого. И, конечно же, обеспечение конфиденциальности личной информации СИИ предполагает предоставление предусмотренного соответствующим законом режима доступа участникам процесса к сведениям об обстоятельствах рассматриваемого дела.
Осуществление правосудия только судом применительно к возможности вынесения решений СИИ означает, что каждое вынесенное ИИ решение должно предварительно контролироваться (проверяться) судьей и подписываться его электронной подписью, и только после этого становиться полноценным судебным решением.
В соответствии с принципом независимости судей и подчинения их только Конституции РФ и федеральному закону у судей должна быть возможность внесения необходимых изменений в предложенный СИИ проект решения. Искусственный интеллект может дать правильную квалификацию (с учетом всех требований закона), учесть все известные ему обстоятельства дела, но рассудить по совести и справедливости ему не дано. Правосознание, совесть и справедливость - необходимые элементы процесса правосудия, не поддающиеся оцифровке. При этом важно, чтобы все эти манипуляции были зафиксированы и отражены в «электронном протоколе принятия решения», являющегося частью протокола судебного заседания. При проверке законности, обоснованности и справедливости такого судебного решения вышестоящим судом это имеет большое значение.
С помощью СИИ автоматически и оперативно могли бы обновляться на сайтах судов соответствующие сведения об их работе, вестись онлайн-трансляций судебных процессов, обеспечивая гласность правосудия. Благодаря внедрению СИИ в судопроизводство процесс подачи, ознакомления и исследования электронных документов сторонами и судом мог бы стать более удобным и быстрым, как того и требует непосредственность судебного разбирательства. Повысится эффективность правосудия и благодаря обеспечению искусственным интеллектом полноценного дистанционного участия в судебном заседании с осуществлением видеопротоколирования процесса. Объективная видеофиксация судебных заседаний (всех, без исключении) системой ИИ (без возможности внесения человеком каких-либо изменений в видеопротокол) существенно повысила бы процессуальную дисциплину как судей, так и иных участников процесса.
В плане реализации состязательности и равноправия сторон СИИ мог бы оказывать помощь и содействие участникам судопроизводства в том, какие доказательства (документы) необходимо им представить в суд, как их правильно оформить, где и как получить. Все это способствовало бы всестороннему исследованию обстоятельств и доказательств по делу, и могло бы существенно повысить уровень объективности и обоснованности судебных решений.
Словом, при хорошо продуманном подходе к созданию и применению цифрового правосудия на основе применения СИИ - есть возможность существенно повысить его эффективность и качество на благо граждан, общества и государства. И наоборот, поспешность, бездумная погоня за первенством в сфере использования цифровых технологий может обернуться прямо противоположным результатом. Хотелось бы, чтобы и акторы систем ИИ, и ответственные за принятие решений об их применении в сфере правосудия лица - хорошо это осознавали и понимали. Развитие ^-технологий должно быть подчинено потребностям развития человека.
Список источников
1. Куликов В. Вячеслав Лебедев рассказал о создании суперсервиса «Правосудие онлайн». / URL://www.vsrf.ru/press_center/mass_media/30377/ (дата обращения 10.01.22 г.)
2. Мяло Д. Крадущийся тигр. Искусственный интеллект в Китае принимает решения по делам, а судьи отправляют правосудие в соцсетях / URL:https://www.law.ru/article/22959-kradushchiysya-tigr-kak-iskusstvennyy-intellekt-stanovitsya-chastyu-sudebnoy-sistemy-kitaya (дата обращения 12.12.21 г.]
3. Мельников Р. Будет ли искусственный интеллект выносить судебные вердикты / URL:http://belsmi.narod.ru/rf-gazeta_RG.htm (дата обращения 15.07.21 г.]
4. Садовников Д. Европейский подход к использованию ИИ в правосудии - итоги конференции в Будапеште. / URL:https://zakon.ru/blog/2021/11/1/evropejskij_podhod_k_ispolsovaniyu_ii_v_ pravosudii_itogi_konferencii_v_budapeshte (дата обращения 15.12.21 г.]
5. Паскль Фунг, Юбер Этьен Могут ли Китай и Европа найти точки соприкосновения в вопросах этики ИИ? / URL:https://www.weforum.org/agenda/2021/11/can-china-end-europe-find-common-ground-on-ai-ethics/ (дата обращения 12.01.22 г.]
6. Апостолова Н.Н. Ответственность за вред, причиненный искусственным интеллектом // Северо-Кавказский юридический вестник. 2021. № 1. С. 112-119.
7. Мельничук М.А., Ченцова Д.В. Гражданско-правовая ответственность искусственного интеллекта // Закон и право. 2020. № 6. С. 66-68.
8. Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник СПбГУ. Право. 2019. Т. 10. Вып. 3. С. 471-473.
9. Незнамов А.В., Наумов В.Б. Вопросы развития законодательства о робототехнике в России и в мире.// Юридические исследования. 2017. № 8. С. 14-25.
10. Цуканова Е.Ю., Скопенко О.Р. Правовые аспекты ответственности за причинение вреда роботом с искусственным интеллектом // Matters of Russian and International Law. 2018. № 8. С. 42-48.
References
1. Kulikov V. Vyacheslav Lebedev spoke about the creation of the Justice Online superservice. / URL://www.vsrf.ru/press_center/mass_media/30377/ (accessed 10.01.22] (In Russ.]
2. Myalo D. The Crouching Tiger. Artificial intelligence in China makes decisions on cases, and judges administer justice on social networks. /URL:https://www.law.ru/article/22959-kradushchiysya-tigr-kak-iskusstvennyy-intellekt-stanovitsya-chastyu-sudebnoy-sistemy-kitaya (accessed 12.12.21] (In Russ.]
3. Melnikov R. Will artificial intelligence make court verdicts. /URL:http://belsmi.narod.ru/rf-gazeta_RG.htm (accessed 15.07.21] (In Russ.]
4. Sadovnikov D. The European approach to the use of AI in justice - the results of the conference in Budapest. / URL:https://zakon.ru/blog/2021/11/1/evropejskij_podhod_k_ispolsovaniyu_ii_v_ pra-vosudii_itogi_konferencii_v_budapeshte (accessed 15.12.21] (In Russ.]
5. Pascle Fung, Hubert Etienne. Can China and Europe find common ground on AI ethics?/ URL: https://www.weforum.org/agenda/2021/11/can-china-end-europe-find-common-ground-on-ai-ethics / (accessed 12.01.22]
6. Apostolova N.N. Responsibility for the harm caused by artificial intelligence. North Caucasus Legal Vestnik North Caucasus Legal Vestnik. 2021;(1]:112-119 (In Russ.]
7. Melnichuk M.A., Chentsova D.V. Civil liability of artificial intelligence. Law and Law. 2020;(6]:66-68 (In Russ.]
8. Mosechkin I.N. Artificial intelligence and criminal responsibility: problems of the formation of a new type of crime subject. Bulletin of St. Petersburg State University. Right. 2019;10(3]:471-473 (In Russ.]
9. Neznamov A.V., Naumov V.B. Issues of the development of legislation on robotics in Russia and in the world. Legal research. 2017;(8]:14-25 (In Russ.]
10. Tsukanova E.Yu., Skopenko O.R. Legal aspects of liability for causing harm by a robot with artificial intelligence. Matters of Russian and International Law. 2018;(8]:42-48 (In Russ.]
Информация об авторе
Н. Н. Апостолова - докт. юрид. наук, профессор кафедры процессуального права.
Information about the author N. N. Apostolova - Doctor of Juridical Science, Professor of the Department of Procedural Law.
Автор заявляет об отсутствии конфликта интересов. The author declares that there is no conflict of interest
Статья поступила в редакцию 30.01.2022; одобрена после рецензирования 14.02.2022; принята к публикации 15.02.2022.
The article was submitted 30.01.2022; approved after reviewing 14.02.2022; accepted for publication 15.02.2022.
