ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ДЕЯТЕЛЬНОСТИ АРБИТРАЖНЫХ СУДОВ РФ: ПЕРСПЕКТИВНЫЕ НАПРАВЛЕНИЯ И ПРОБЛЕМЫ Текст научной статьи по специальности «Право»

DOI https://doi.org/10.34216/1998-0817-2020-26-4-249-254 УДК 347.97

Бахтеев дмитрий валерьевич

Уральский государственный юридический университет

Тарасова Людмила валерьевна

Уральский государственный юридический университет

применение искусственного ИНТЕЛЛЕКТА в деятельности арбитражных судов Рф: перспективные направления и проблемы

Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16001 «Комплексное исследование правовых, криминалистических и этических аспектов, связанных с разработкой и функционированием систем искусственного интеллекта»

Статья посвящена возможностям и проблемам применения систем искусственного интеллекта (ИИ) в арбитражных судах Российской Федерации: в аналитико-организационной работе, в работе по вынесению судебных решений, анализе и толковании норм права, контроле за принятием и исполнением судебных решений, в судебной экспертизе. В ходе исследования проанализирован зарубежный опыт применения систем искусственного интеллекта в судебных системах Великобритании, США, Нидерландов, выделены три основных направления применения ИИ в судопроизводстве. На основании практики применения систем ИИ, законодательства, принципов Европейской этической хартии использования ИИ в судебной и правоохранительной системах, прогнозов исследователей обозначены как ожидаемые положительные, так и возможные негативные последствия применения искусственного интеллекта в данной сфере. Вместе с тем, что применение ИИ в судопроизводстве способно оптимизировать работу судебной системы, способствовать пресечению предвзятого, субъективного отношения, коррупции и возможности судебной ошибки, выявлен ряд проблем и рисков. К ним относятся: соблюдение ИИ этических принципов, невозможность обеспечения прозрачности и проверяемости судебных решений, принимаемых системой искусственного интеллекта, отсутствия их законодательного закрепления и правомерности, защиты персональной информации. В заключении даны рекомендации по предотвращению негативного влияния внедрения систем ИИ в арбитражное судопроизводство.

Ключевые слова: искусственный интеллект (ИИ), арбитражное судопроизводство, преимущества, угрозы, пути решения

Информация об авторах: Бахтеев Дмитрий Валерьевич, ORCID https://orcid.org/0000-0002-0869-601X, кандидат юридических наук, доцент, доцент кафедры криминалистики Уральского государственного юридического университета, г. Екатеринбург, Россия

E-mail: [email protected]

Тарасова Людмила Валерьевна, ORCID https://orcid.org/0000-0002-2565-3206, член научного коллектива, студент Уральского государственного юридического университета, г. Екатеринбург, Россия

E-mail: [email protected]

Дата поступления статьи: 17.08.2020

Для цитирования: Бахтеев Д.В., Тарасова Л.В. Применение искусственного интеллекта в деятельности арбитражных судов РФ: перспективные направления и проблемы // Вестник Костромского государственного университета. 2020. Т. 26, № 4. С. 249-254. DOI https://doi.org/10.34216/1998-0817-2020-26-4-249-254

Dmitriy V. Bakhteyev

The Urals State Law University Lyudmila V. Tarasova

The Urals State Law University

the application of artificial intelligence in commercial courts of the Russian federation: perspectives and issues

The study was funded by RFBR according to the research project № 18-29-16001

The article is devoted to the description of the main directions of artificial intelligence application in the Commercial courts of the Russian Federation - in analytical and organisational work, in the work on adjudication, analysis and interpretation of the rule of law, in control over the adoption and execution of court decisions, in forensic examination. The experience of using artificial intelligence systems in the judicial systems of the Great Britain, the USA, the Netherlands was analysed, and three main directions of using the AI in legal proceedings were distinguished. Based on the practice of using the AI systems, legislation, the principles of the European Ethical Charter for the use of the AI in judicial and law enforcement systems, researchers' forecasts, both the expected positive and possible negative consequences of the use of artificial intelligence in this area are indicated. Use of the AI in legal proceedings can optimise the work of the judicial system, contribute to the suppression of biased, subjective attitudes, corruption and the possibility of judicial error, and at the same time it causes some

© Бахтеев Д.В., Тарасова Л.В., 2020

Вестник КГУ .J № 4, 2020

249

problems and risks. These include the abidance of ethical principles by the AI, the impossibility of ensuring transparency and verifiability of court decisions made by the artificial intelligence system, the lack of legislative consolidation and legality, and the protection ofpersonal information. In the conclusion, recommendations for prevention of the negative impact of the introduction of the AI systems into arbitration proceedings are given.

Keywords: artificial intelligence (AI), Commercial judicial proceeding, advantages, threats, solutions

Information about the authors: Dmitriy V Bakhteyev, ORCID https://orcid.org/0000-0002-0869-601X, Candidate of Jural Sciences, Associate Professor of the Department of Criminalistics of the Urals State Law University, Yekaterinburg, Russia

E-mail: [email protected]

Lyudmila V. Tarasova, ORCID https://orcid.org/0000-0002-2565-3206, member of the research team, student of the Urals State Law University, Yekaterinburg, Russia

E-mail: [email protected]

Article received: August 17, 2020

For citation: Bakhteyev D.V., Tarasova L.V. The application of artificial intelligence in commercial courts of the Russian Federation: perspectives and issues. Vestnik of Kostroma State University, 2020, vol. 26, № 4, pp. 249-254 (In Russ.). DOI https://doi.org/10.34216/1998-0817-2020-26-4-249-254

На сегодняшний день наиболее активно современные технологии внедряются в систему арбитражных судов России: применяются системы автоматизации процессов судопроизводства и делопроизводства, электронное распределение дел, АИС публикации судебных актов «Банк решений арбитражных судов» (БРАС), информационные сервисы «Картотека арбитражных дел», «Мобильная картотека», «Электронный страж», «Мой арбитр», используются возможности видеоконференц-связи [Лазарева: 88].

Следующим этапом, судя по мировым тенденциям, будет применение в деятельности арбитражных судов систем искусственного интеллекта (ИИ).

Интервью председателя Совета судей России В.В. Момотова на VI Московском юридическом форуме в Московском государственном юридическом университете имени О.Е. Кутафина также свидетельствуют в пользу этого утверждения. В.В. Момотов отметил, что суды планируют использовать блокчейн-технологии для формирования электронных дел, а системы искусственного интеллекта могут подключиться к рассмотрению бесспорных требований в порядке приказного производства: «Не исключается применение искусственного интеллекта при рассмотрении уже упоминавшихся бесспорных требований, прежде всего в приказном производстве, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер».

Первые попытки применения ИИ в сфере права были предприняты в 1970-х гг. Сегодня в Великобритании ИИ даёт прогноз, на основании которого выносится решение о возможности выпуска подозреваемых под залог, а в США ИИ используется при рассмотрении вопросов УДО и вероятности рецидива; системы, анализирующие материалы дела и дающие на этом основании прогноз судебного решения, находят всё более широкое применение в США, Великобритании, частично внедряются в Китае, Южной Корее и Японии. В 2010 г. в Нидерландах был учреждён первый частный онлайн-суд. В Федеральном суде Австралии нако-

плен большой опыт по внедрению и управлению электронными судебными документами, применяется еСшйгоот - онлайн-зал судебного заседания.

В качестве базовых принципов использования ИИ в судебной системе можно принять 5 основополагающих принципов, закреплённых в Европейской этической хартии использования ИИ в судебной и правоохранительной системах (принята Европейской комиссией в декабре 2019 г.):

- принцип уважения фундаментальных прав (права на доступ к суду, на равенство сторон и состязательность, сохранение принципа верховенства закона и независимости судьи, «право на получение обоснования принятого с использованием ИИ решения вплоть до раскрытия используемых больших данных и применяемых алгоритмов их разработки» [Апостолова: 138]);

- принцип недискриминации («запрет осуществлять с применением ИИ обработку, классификацию, использование данных, приводящие к дискриминационным действиям» [Апостолова: 139]);

- принцип качества и безопасности («обработка судебных решений и иных судебных данных с применением сертифицированных технологий ИИ должна обеспечивать безопасное и эффективное осуществление правосудия в установленных законодательством рамках» [Апостолова: 138]);

- принцип относительной прозрачности (использование открытого исходного кода, доступных для внешнего изучения баз данных (датасетов) для обучения системы, доступность документации и понятные человеку алгоритмы нейронных сетей и результаты);

- принцип пользовательского контроля (право на получение данных, использование услуги по их обработке сертифицированной системой ИИ для определения обоснованности использования рекомендаций, предложенных ИИ, при принятии судебного решения).

М. Симажкевич отмечает, что потенциальная возможность применения ИИ в судопроизводстве в большей степени зависит «от особенностей системы права конкретной страны, так, например, в странах континентальной системы права при-

менение ИИ для анализа судебных актов не будет играть значимой роли» [Морхат 2019: 64].

Можно выделить четыре ключевых направления деятельности по внедрению ИИ в систему арбитражного судопроизводства:

1) создание ИИ-советника судьи (информационно-аналитическая поддержка), либо непосредственно электронного зала судебного заседания с ИИ-судьёй, либо ИИ-эксперта (позволяющего принимать более обоснованные решения, контроль за их исполнением и поиск в их структуре корруп-циогенных и иных опасных факторов);

2) создание систем анализа и толкования норм права (автоматизированное исследование судебных решений для разрешения правовых проблем);

3) применение ИИ для проведения экспертиз правовых актов;

4) применение ИИ в делопроизводстве.

Внедрение ИИ в судопроизводство по первому направлению, в первую очередь, имеет целью снижение нагрузки на аппарат суда путём передачи ИИ отдельных направлений рутинной работы. Так, К. Фрей и М. Осборн, изучающие возможности автоматизации различных профессий вплоть до полной замены специалиста системой ИИ, для представителей профессий, связанных с судопроизводством, указывают следующие вероятности такой замены:

- судьи по делам гражданско-правового характера - 40 %;

- судьи по делам административно-правового характера - 64 %;

- секретари судебных заседаний - 50 %;

- иные служащие судов - 46 %.

Х. Накад-Вестстрат, Э. Джонглоуд, Х. ван ден Херик и А.Б. Салем указывают на следующие факторы, влияющие на успешность применения ИИ на практике: взвешенность рисков применения ИИ, «финансовые ресурсы, особенности законодательства и консервативность правовой культуры, которая обусловливает недоверие к применению новых технологий» [Морхат 2019: 64].

Ожидаемыми положительными изменениями по данному направлению, по мнению П.М. Морха-та, являются:

- «автоматизация некоторых этапов арбитражного процесса;

- обеспечение доступа граждан к правосудию (ИИ как система информирования и поддержки заявителей);

- автоматизация процесса принятия решений (в будущем)» [Морхат 2019: 66].

Система ИИ при применении её для выполнения функций и полномочий судьи, по мнению ряда исследователей, обладает следующими преимуществами:

- неподверженность коррупции;

- отсутствие эмоций;

- способность строго соблюдать требования закона;

- способность учитывать больше факторов, быстрее обрабатывать информацию при вынесении решения, чем судья-человек;

- обеспечение широкого доступа населения к правосудию;

- большая эффективность (сокращение сроков на принятие решений или для получения информации);

- отсутствие возможности оказания административного давления.

Х. Накад-Вестстрат, Х. ван ден Херик, Э. Джонглоуд и А.Б. Салем выделяют следующие преимущества систем ИИ при выполнении ими функций судьи:

- высокая скорость работы;

- объективность, полная беспристрастность;

- отсутствие математических ошибок при расчётах присуждаемых сумм.

П.М. Морхат выделяет следующие функции по выявлению предвзятости/непредвзятости судьи, правосудности/неправосудности и ошибочности/ безошибочности выносимых судьёй решений:

- «помощь в осуществлении процессуальных действий;

- содействие принятию выносимых судьёй решений;

- интеллектуальный мониторинг судебных ошибок и условий, содействующих судебным ошибкам» [Морхат 2019: 84];

- «оценка ИИ юридической и фактической обоснованности аргументов стороны, выдвигающей требование об отводе судьи» [Морхат 2017: 99-100].

В области информационно-документарного обеспечения арбитражного судопроизводства ИИ может применяться при:

- «автоматизированной классификации юридических документов, формировании и документарном ведении дел» [Миролюбова: 31];

- разработке проектов решений различных правовых проблем (обучение на основе баз данных) [Миролюбова: 31; Морхат 2017: 101];

- прогнозировании результата рассмотрения дела (один из действующих примеров - применение ИИ для прогнозирования результатов раздела имущества супругов при разводе в судах Великобритании) [Миролюбова: 30] и прогнозирование судебных решений (применяется Верховным судом США) [Миролюбова: 32];

- медиации [Морхат 2017: 99].

Применение ИИ при экспертной оценке правовых актов и судебных решений может осуществляться по следующим направлениям:

- предоставление экспертных оценок в рамках судебной экспертизы (применение ИИ в экспертных юридических системах, автоматизированных

Вестник КГУ № 4, 2020

251

системах поддержки правовых решений на основе ИИ, иных экспертных системах, в том числе используемых в самой судебной системе, так и назначаемых в сторонних организациях);

- выявление фактов, указывающих на возможное злоупотребление правом, намеренное затягивание судебного разбирательства, фальсификацию предоставленных материалов, то есть такого рода направление способствует оперативности и точности судебного разбирательства;

- содействие принятию решений по делам большого объёма, на основе неточной или недостаточной информации, требующих больших объёмов специфичных знаний как в области юриспруденции, так и в иных дисциплинах.

Вместе с тем процесс интеграции систем искусственного интеллекта в арбитражное судопроизводство осложнён комплексом как реальных, так и потенциальных рисков, к которым относятся:

- снижение уровня профессионализма сотрудников судебных органов, применяющих автоматизированные информационные системы, в том числе и на основе ИИ в качестве советника;

- опасность некорректного обучения, программирования системы ИИ, вносимых в неё данных, в результате которого ошибки и искажения человека-разработчика могут быть ретранслированы и на решения, принимаемые системой;

- применение ИИ в судопроизводстве (особенно вместо судей) может привести к дегуманизации правосудия [Морхат 2018: 329]: общество может негативно воспринимать такие решения и в отдельных случаях требовать участия судьи-человека;

- полное вытеснение системами ИИ судей;

- «усмотрение» ИИ (в отличие от усмотрения судьи-человека) приведёт к формализованным решениям, из-за чего ИИ не будет применяться потенциальными пользователями;

- наличие большого числа оснований для обжалования судебных решений, выносимых при участии ИИ, при вероятной невозможности проверки детального механизма принятия решения (современные системы ИИ на основе искусственных нейронных сетей по сути представляют непознаваемую по структуре систему);

- зависимость судей и лиц, участвующих в деле, от заранее сделанных прогнозов относительно итогов процесса, основанных исключительно на объективных статистических расчетах, что, с одной стороны, приводит к единству правосудия, но такие решения больше основаны на аналогии, а не на скрупулёзном изучении материалов дела;

- невозможность обеспечения понимания ИИ юридических норм и принципов (таких как применение аналогии, умение толкования текста в соответствии с определёнными принципами).

Последняя проблема относится в большей степени к возможности применения ИИ в рабо-

те с материальными нормами права. Что касается применения ИИ в ситуациях, требующих соблюдении процессуально-правовых норм, то, согласно сформированной к настоящему времени позиции, в этом направлении он может превзойти человека.

Отдельно можно отметить проблему, связанную с опытом внедрения первого «цифрового судьи» в «электронном суде» Нидерландов. Она связана с отсутствием законодательного закрепления правового статуса такого судьи. Практика складывается следующим образом: «цифровой судья» принимает решение от лица судьи-человека, а задачей судьи-человека является проверка при наличии возражения сторон о законности либо правомерности вынесенных «цифровым судьёй» решений.

Д. Гарсиа выделил следующие правовые проблемы, связанные с применением систем ИИ в юридической практике:

- обеспечение конфиденциальности личной информации;

- отсутствие законодательного закрепления и регулирования возможности их применения;

- отсутствие механизмов, обеспечивающих соблюдение системой ИИ этических принципов.

Следует также добавить, что наиболее сходные с человеческим мышлением системы искусственного интеллекта, функционирующие на основе машинного обучения, характеризуются отсутствием такой важной для судопроизводства характеристики, как прозрачность. Если принятие большого количества решений может быть оценено статистически, то отдельное решение, по сути, не может быть исследовано на предмет корректности его логики. Однако в этом случае всегда остаётся возможность изучения материалов дела судьёй.

Таким образом, при применении ИИ в качестве советника/эксперта/судьи необходимо предусмотреть возможность:

- обжалования решения ИИ у судьи-человека;

- предотвращения неправильной настройки как обучения, так и функционирования системы;

- соблюдения принципов справедливости и разумности, возможности применения ИИ аналогии права и закона;

- «выработки и законодательного закрепления обязательных технологических требований к созданию и сертификации систем ИИ» [Апостолова: 137];

- «закрепления обязанности постановки систем ИИ на учёт в специальном реестре» [Апостолова: 137];

- создания надёжной системы защиты, не позволяющей воздействовать на принимаемые ИИ решения извне;

- решения проблем уязвимости ИИ (технические неполадки и зависимость от внешних ресурсов).

В судебной экспертизе для арбитражных судов наиболее перспективным направлением приме-

нения ИИ является почерковедческая экспертиза и экспертиза документов на предмет подлога. Анализ судебной практики российских арбитражных судов свидетельствует о том, что при рассмотрении дел, в которых оспаривается подлинность подписи, применяется программа ОКО-1 для определения, достаточно ли информативна представленная подпись, чтобы сделать вывод о её принадлежности или непринадлежности определённому лицу. Право решения о применении данной программы предоставлено эксперту и никак нормативно не урегулировано. Наиболее перспективным направлением, по нашему мнению, является экспертиза формальных процедур процессуального характера: соблюдение процессуальных сроков, регламента, недопущение ошибок и опечаток в текстах судебных решений. При использовании ИИ в экспертизе необходимо решить вопросы о законодательном закреплении правового положения ИИ в судебной экспертизе, основаниях его применения и определения «допустимой погрешности», за пределами которой необходимо привлечение эксперта-человека.

Системы ИИ в делопроизводстве помогут оптимизировать работу аппарата суда на любом этапе судопроизводства. На сегодняшний день рутинная, монотонная, но важная работа - сортировка бумаг, формирование дел и повесток, распечатка копий, оформление и отправка корреспонденции, поиск дел для приобщения новых документов - ложится непомерным грузом на плечи работников суда. Р. С. Поскряков предлагает идею об использовании промышленных технологий, а именно роботов Baxter и Sawyer, для решения не только вышеперечисленных рутинных задач, но и в формировании документов по определённому шаблону, переписке с другими государственными органами без участия человека, а также при сортировке дел по заданным основаниям и их доставке.

На сегодняшний день в научном и практическом сообществах идея продолжения автоматизации судопроизводства находит всё увеличивающееся подкрепление. Однако для полноценной реализации систем искусственного интеллекта, в том числе в правовых областях человеческой деятельности, следует свести к необходимому минимуму возможные негативные последствия такой интеграции, что, в свою очередь, ставит перед современной юридической наукой задачу изучения не только правовых, но и технологических основ систем искусственного интеллекта.

Список литературы

Апостолова Н.Н. Искусственный интеллект в судопроизводстве // Северо-Кавказский юридический вестник. 2019. № 3. С. 135-141.

Закиров Р.Ф. Использование современных IT-технологий как средство достижения основных

задач судопроизводства // Вестник гражданского процесса. 2018. № 1. С. 211-219.

Интервью с председателем Совета судей России Виктором Момотовым на VI Московском юридическом форуме в Московском государственном юридическом университете имени О.Е. Кутафи-на // Российская газета. Столичный выпуск. 2019. 5 апреля.

Лазарева И.В. Актуальные вопросы развития электронного судопроизводства в России // Социальные и гуманитарные науки на Дальнем Востоке. 2012. № 4. С. 86-95.

Ларина Е.С., Овчинский В.С. Искусственный интеллект. Большие данные. Преступность. М.: Книжный мир, 2018. 416 с.

Миролюбова С.Ю. Перспективы использования искусственного интеллекта в правосудии и вопросы правового регулирования в Российской Федерации // Журнал конституционного правосудия. 2019. № 5. С. 30-38.

Морхат П.М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. 257 с.

Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис. ... д-ра юрид. наук. М., 2018. 420 с.

Морхат П.М. Применение искусственного интеллекта в судебном процессе // Вестник гражданского процесса. 2019. № 3. С. 61-85.

СерiкYлы А. Как искусственный интеллект меняет юридическую профессию и чем это грозит юристам // Forbes. Kazakhstan, 2019. 14 августа. URL: https://forbes.kz/process/technologies/kak_ iskusstvennyiy_intellekt_menyaet_yuridicheskuyu_ professiyu_i_chem_eto_grozit_yuristam (дата обращения: 14.02.2020).

Frey C.B. The future of employment: how susceptible are jobs to computerization, C.B. Frey, M.A. Osborne. Oxford, UK, University of Oxford, 2013. P. 28. URL: https://www.oxfordmartin.ox.ac.uk/ downloads/academic/The_Future_of_Employment. pdf (дата обращения: 16.04.2020).

Garcia D. Preparing for Artificial Intelligence in the Legal Profession. Lexis Practice Advisor Journal. 2017. URL: https://www.lexisnexis.com/lexis-practice-advisor/the-journal/b/lpa/archive/2017/06/07/ preparing-for-artificial-intelligence-in-the-legal-profession.aspx (дата обращения: 07.02.2020).

References

Apostolova N.N. Iskusstvennyj intellekt v sudoproizvodstve [Artificial intelligence in legal proceeding]. Severo-Kavkazskij juridicheskij vestnik [North-Caucasian legal bulletin.], 2019, № 3, pp. 135141. (In Russ.)

Zakirov R.F. Ispol'zovanie sovremennyh IT-tehnologij kak sredstvo dostizhenija osnovnyh zadach sudoproizvodstva [The use of modern IT-technologies

Вестник КГУ .J № 4, 2020

253

as a means of achieving the main objectives of legal proceedings]. Vestnik grazhdanskogo processa [Civil Procedure Bulletin], 2018, № 1, p. 211-219. (In Russ.)

Intervju s predsedatelem Soveta sudej Rossii Viktorom Momotovym na VI Moskovskom juridicheskomforume v Moskovskom gosudarstvennom juridicheskom universitete imeni O.E. Kutafina [Interview with Viktor Momotov the Chairman of the Council of Judges of Russia at the VI Moscow Legal Forum at the Moscow State Law University]. Rossijskaja gazeta. Stolichnyj vypusk [Russian newspaper. Capital release], 2019, April 5. (In Russ.)

Lazareva I.V. Aktual'nye voprosy razvitija jelektronnogo sudoproizvodstva v Rossii [The main issues of the development of electronic legal proceedings in Russia]. Social'nye i gumanitarnye nauki na Dal'nem Vostoke [Social and Human Sciences in Dalniy Vostok], 2012, № 4, pp. 86-95. (In Russ.)

Larina E.S., Ovchinskij VS. Iskusstvennyj intellekt. Bol'shie dannye. Prestupnost' [Artificial Intelligence. Big data. Crime]. Moscow, Knizhnyj mir Publ., 2018, 416 p. (In Russ.)

Miroljubova S.Ju. Perspektivy ispol'zovanija iskusstvennogo intellekta v pravosudii i voprosy pravovogo regulirovanija v Rossijskoj Federacii [Prospects for the use of artificial intelligence in justice

and issues of legal regulation in Russian Federation]. Zhurnal konstitucionnogo pravosudija [Constitutional Justice Magazine], 2019, № 5, pp. 30-38. (In Russ.)

Morhat P.M. Iskusstvennyj intellekt: pravovoj vzgljad [Artificial intelligence: a legal view]. Moscow, Buki Vedi Publ., 2017, 257 p. (In Russ.)

Morhat P.M. Pravosubektnost' iskusstvennogo intellekta v sfere prava intellektual'noj sobstvennosti: grazhdansko-pravovye problemy: dis. ... d-ra jurid. nauk [Legal personality of artificial intelligence in the field of intellectual property law: civil law problems: DSc thesis, summary]. Moscow, 2018, 420 p. (In Russ.)

Morhat P.M. Primenenie iskusstvennogo intellekta v sudebnom processe [The use of artificial intelligence in the judicial proceedings]. Vestnik grazhdanskogo processa [Bulletin of civil procedure], 2019, № 3, pp. 61-85. (In Russ.)

Serik^ly A. Kak iskusstvennyj intellekt menjaet juridicheskuju professiju i chem jeto grozit juristam [How artificial intelligence is changing the legal profession and how it threatens lawyers]. Forbes. Kazakhstan, 2019, August 14. URL: https://forbes.kz/ process/technologies/kak_iskusstvennyiy_intellekt_ menyaet_yuridicheskuyu_professiyu_i_chem_eto_ grozit_yuristam (access date: 14.02.2020). (In Russ.)