CC BY
98
СУДЕБНАЯ СИСТЕМА И СУДОУСТРОЙСТВО
DOI: 10.17803/1994-1471.2021.132.11.180-186
В. А. Лаптев*
Deepfake и иные продукты искусственного интеллекта на пути развития онлайн-правосудия1
Аннотация. Развитие онлайн-правосудия повлекло за собой возникновение потребности в разумной оценке вызовов, которые бросают информационные технологии на современном этапе. Передовые технологии позволяют не только обеспечить цифровое судопроизводство в России, но и придать ему качественно новый смысл и порядок его осуществления. В статье раскрываются технологии искусственного интеллекта и продукты его работы, препятствующие развитию онлайн-правосудия в отсутствие их должной регламентации, в том числе технологической. Стремительное и в то же время неизбежное внедрение в систему современного правосудия «новых» видов доказательств — цифровых доказательств — может негативно повлиять на объективность выводов суда и распределение бремени доказывания (состязательность) между участниками процесса. В исследовании предлагается дать правовую оценку дипфейкам (deepfake) и иным созданным искусственным интеллектом реалистичным подделкам, которые могут стать серьезным препятствием для развития онлайн-правосудия. Законы физики, технический прогресс и информационные технологии свидетельствуют, с одной стороны, об уникальных возможностях прорывных технологий, с другой — о возможном существенном изменении традиционных институтов судебного процесса и, как следствие, правосудия («права» и «суда»). Предлагаются решения по рассматриваемой проблематике, позволяющие установить аутентичность участников процесса и достоверность электронных доказательств с помощью соответствующего технологического оснащения суда.
Ключевые слова: цифровое правосудие; онлайн-правосудие; дистанционное правосудие; видео-конфе-ренц-связь; электронные документы; искусственный интеллект; электронные доказательства; deepfake; web-архивов; Big Data; цифровой суверенитет.
Для цитирования:Лаптев В. А. Deepfake и иные продукты искусственного интеллекта на пути развития онлайн-правосудия // Актуальные проблемы российского права. — 2021. — Т. 16. — № 11. — С. 180-186. — DOI: 10.17803/1994-1471.2021.132.11.180-186.
1 Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16079.
© Лаптев В. А., 2021
* Лаптев Василий Андреевич, доктор юридических наук, профессор кафедры предпринимательского и корпоративного права Московского государственного юридического университета имени О.Е. Кутафина (МГЮА), судья Арбитражного суда г. Москвы Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993 laptev.va@gmail.com
Deepfake and other Artificial Inntelligence Products on the Way to the Development of Online Justice2
Vasiliy A. Laptev, Dr. Sci. (Law), Professor, Department of Business and Corporate Law, Kutafin Moscow State Law University (MSAL), Judge of the Moscow Arbitrazh (State Commercial) Court ul. Sadovaya-Kudrinskaya, d. 9, Moscow, Russia, 125993 laptev.va@gmail.com
Abstract. The development of online justice has led to the emergence of the need for a reasonable assessment of the challenges posed by information technology at the present stage. Advanced technologies make it possible not only to ensure digital litigation in Russia, but also to give it a qualitatively new meaning and procedure for its implementation. The paper reveals artificial intelligence technologies and products of its work that impede the development of online justice in the absence of their proper regulation, including technological one. The rapid and at the same time inevitable introduction into the modern justice system of "new" types of evidence — digital evidence — can negatively affect the objectivity of the court's conclusions and the distribution of the burden of proof (adversarial nature) between the participants in the process. The study proposes to give a legal assessment to deepfakes and other realistic fakes created by artificial intelligence, which can become a serious obstacle to the development of online justice. The laws of physics, technological progress and information technologies testify, on the one hand, to the unique capabilities of breakthrough technologies, and on the other, to a possible significant change in the traditional institutions of the judicial process and, as a consequence, justice ("law" and "court"). The author proposes solutions to the issues under consideration, making it possible to authenticate the participants in the process and the reliability of electronic evidence using the appropriate technological equipment of the court. Keywords: digital justice; online justice; remote justice; video conferencing; electronic documents; artificial intelligence; electronic evidence; deepfake; web archives; Big Data; digital sovereignty.
Cite as: Laptev VA. Deepfake i inye produkty iskusstvennogo intellekta na puti razvitiya onlayn-pravosudiya [Deepfake and other Artificial Inntelligence Products on the Way to the Development of Online Justice]. Aktual'nye problemy rossijskogo prava. 2021;16(11):180-186. DOI: 10.17803/1994-1471.2021.132.11.180-186. (In Russ., abstract in Eng.).
Цифровизация современного правосудия свидетельствует о внедрении информационных технологий в области делопроизводства, документооборота и непосредственного рассмотрения дела в суде. Традиционные формы документооборота в суде, в том числе на бумажном носителе, активно вытесняются электронными документами и электронными копиями (скан копиями) документов, выступающих доказательствами по делу (ст. 64 АПК РФ, ст. 55 ГПК РФ, ст. 59 КАС РФ и ст. 74 УПК РФ).
Перечень возможных доказательств как сведений о фактах процессуальным законодательством
строго не закреплен и является открытым3. Такой подход также продиктован развитием цифровых технологий, в том числе это касается переосмысления консервативных и устоявшихся подходов к доказательствам в уголовном процессе.
В последние годы принята масса нормативных правовых актов и актов органов судебной власти, регламентирующих технологию онлайн-правосудия. Так, Концепцией информатизации Верховного Суда РФ 2021 г.4 раскрывается состав дистанционного (онлайн) правосудия, включающего в себя: дистанционные обращения в суд, получение информации о судебном про-
The reported study was funded by RFBR according to the research project № 18-29-16079. Следует разделять виды доказательств и требования к ним. В частности, несмотря на открытый перечень возможных доказательств, указанные сведения о фактах должны быть собраны и предоставлены в суд в установленном законом порядке.
Утв. приказом Председателя Верховного Суда РФ от 15.02.2021 № 9-П (URL: http://www.supcourt.ru/about/ info/systems/information_concept/ (дата обращения: 21.05.2021)).
2
3
4
цессе, участие в судебных заседаниях, доступ к материалам судебных дел, получение судебных актов и их копий в электронном виде, а также дистанционное участие в мероприятиях, в том числе международных.
В скором времени большая часть судебных споров будет рассматриваться через информационно-телекоммуникационную сеть Интернет. Такой вывод обусловлен соответствующими преимуществами онлайн-процесса (дистанционное участие стороны при рассмотрении дела, экстерриториальная технологическая возможность предоставления доказательств, сокращение времени обработки и регистрации поступающей в суд информации и т.д.). Содержание современного «цифрового судебного процесса» необходимо оценить правоведами с точки зрения порядка доказывания и оценки доказательств судом. Потребуется также правовая оценка технологического регулирования киберфизического пространства.
Искусственный интеллект5 (ИИ) стал нашим «настоящим». Технологии и продукты ИИ используются во многих сферах жизнедеятельности общества, и мы уже не замечаем отличия материального мира от дополненной виртуаль-
ной (искусственной) реальности, смешивая или отождествляя их. В этой связи правоведами справедливо обращается внимание на переоценку подходов к пониманию электронных доказательств и искусственного интеллекта в суде6.
Известно, в основу принимаемых судом решений (постановлений, определений) положены доказательства, оценка которых дается по правилам норм процессуальных законов (например, гл. 7 АПК РФ, гл. 6 ГПК РФ, гл. 6 КАС РФ). При этом понимание категории «доказательства» как сведения о фактах, в любом виде судопроизводства (арбитражном, конституционном, гражданском, административном или уголовном) тождественно. Особенностью отдельных видов судопроизводства и категорий дел (споров) выступает, в частности, соответствующее распределение бремени доказывания7.
Сведения о фактах могут содержаться, в том числе:
— в объяснениях лиц, участвующих в деле, и показаниях свидетелей, полученных путем использования системы видео-конференц-связи и онлайн-заседаний8;
— аудио- и видеозаписях, представленные участниками процесса9;
Концепция разработана с учетом положений Указов Президента РФ от 21.07.2020 № 474 «О национальных целях развития Российской Федерации на период до 2030 года», от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года», от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» и иных актов.
Искусственный интеллект (artificial intelligence) — это моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека (п. 3.17 ГОСТ Р 43.0.5-2009). См., например: Журкина О. В. Электронные доказательства: понятие и признаки // Российская юстиция. 2020. № 9. С. 44-46 ; Обидин К. В. Электронное доказательство: необходимый этап развития уголовного судопроизводства // Актуальные проблемы российского права. 2020. № 11. С. 198-206. Например, при оспаривании сделок корпорации доказывание пределов обычной хозяйственной деятельности лежит на истце (абз. 5 п. 9 постановления Пленума ВС РФ от 26.06.2018 № 27), при защите прав потребителей доказывание обстоятельств, исключающих ответственность, лежит на продавце (абз. 1 п. 28 постановления Пленума ВС РФ от 28.06.2012 № 17) и т.д.
Например: абз. 1 п. 23 постановления Пленума ВАС РФ от 17.02.2011 № 12 «О некоторых вопросах применения Арбитражного процессуального кодекса Российской Федерации в редакции Федерального закона от 27.07.2010 № 228-ФЗ "О внесении изменений в Арбитражный процессуальный кодекс Российской Федерации"» // Вестник ВАС РФ. 2011. № 4.
Например: абз. 1 п. 19 постановления Пленума Верховного Суда РФ от 16.05.2017 № 16 «О применении судами законодательства при рассмотрении дел, связанных с установлением происхождения детей» // Бюллетень ВС РФ. 2017. № 7.
5
6
7
8
9
— электронных документах (дата и сведения о лице, подписавшего документ электронной подписью)10 и т.д.
В уголовном процессе онлайн-процедуры получают широкое распространение. Планируются закрепление в УПК РФ проведение допроса и очных ставок по видео-конференц-связи11.
Процессуальное законодательство содержит лишь фрагментарные (общие) технологические требования (аутентичность, целостность) к подобного рода доказательствам, что неоднократно отмечалось правоведами12. Существует лишь универсальная норма о запрете фальсификации доказательства в суде (ст. 303 УК РФ), направленная на предотвращение процессуальных злоупотреблений.
Полагаем необходимым определить правовой режим следующих цифровых доказательств, созданных, модифицированных либо видоизмененных с применением искусственного интеллекта (информационных технологий) в системе онлайн-правосудия:
— deepfake (фото, аудио- и видеозаписей);
— гиперссылки на информационные порталы;
— обработка сведений цифровых отпечатков интернет-страниц (web-архивов);
— аналитика Big data и иные результаты работы искусственного интеллекта.
Впервые deepfake стали использоваться в кинематографии, в частности при замене актеров
роботами-дублерами при выполнении опасных трюков, имитации соответствующей обстановки в кадре местоположения (природы, персонажей и т.д.), завершении сьемок фильмов образами актеров, ушедших из жизни и в иных случаях13. Рассматриваемые высококачественные подделки также стали использоваться в политической борьбе (для дискредитации действующей власти страны либо отдельных политиков)14.
Преломляя данные технологии на сферу корпоративного управления следует учитывать следующие тенденции в российском законодательстве. Так, в 2014 г. в ст. 67.1 Гражданского кодекса РФ было закреплено правило о фиксации (удостоверении) решений очных общих собраний обществ с ограниченной ответственностью (например, путем закрепления в уставе правила об удостоверении с использованием технических средств, позволяющих достоверно установить факт принятия решения)15. В связи с распространением новой коронавирусной инфекции (2019-2021 гг.) до 31 декабря 2021 г. вопреки положениям п. 2 ст. 50 Закона об АО (в части запрета заочного голосования общего собрания акционеров по вопросу избрания совета директоров) временно разрешено проводить данные собрания в заочной форме (ст. 11 Федерального закона от 07.04.2020 № 115-ФЗ и ст. 2 Федерального закона от 24.02.2021 № 17-ФЗ)16.
10 См.: постановление Пленума ВС РФ от 26.12.2017 № 57 «О некоторых вопросах применения законодательства, регулирующего использование документов в электронном виде в деятельности судов общей юрисдикции и арбитражных судов» // Бюллетень ВС РФ. 2018. № 4.
11 См., например: Вступим в связь со следствием // URL: https://rg.ru/2021/05/27/pravitelstvo-podderzhalo-provedenie-doprosov-po-video.html (дата обращения: 09.06.2021).
12 Храмцовская Н. А. Вопросы обеспечения аутентичности электронных документов: трактовки понятия // Делопроизводство. 2020. № 2. С. 37-43 ; № 3. С. 50-59 ; Чуча С. Ю. Правовой режим электронных доказательств в суде при рассмотрении трудовых споров // Предпринимательское право. 2019. № 3. С. 29-35.
13 Например, см.: DeepFake дня: Юэн Макгрегор в четвертом эпизоде «Звездных войн» // URL: https://www. kinopoisk.ru/media/news/4000792/ (дата обращения: 10.06.2021).
14 Например см.: Дипфейки и другие поддельные видео — как защитить себя? // URL: https://www.kaspersky. ru/resource-center/threats/protect-yourself-from-deep-fake (дата обращения: 16.06.2021) ; Дипфейки — медиаинструмент в политической борьбе // URL: https://www.tvr.by/news/politika/dipfeyki_sravnitelno_ novyy_mediainstrument_v_politicheskoy_borbe/ (дата обращения: 16.06.2021).
15 Федеральный закон от 05.05.2014 № 99-ФЗ // СЗ РФ. 2014. № 19. Ст. 2304.
16 См. также: письмо Банка России от 13.05.2020 № 28-4-1/2659 «О некоторых вопросах порядка применения законодательства Российской Федерации» // СПС «КонсультантПлюс».
В данном вопросе благодаря цифровым технологиям возможны злоупотребления недобросовестными участниками корпоративных отношений, выраженные в создании дипфейков о якобы легитимно проведенном общем собрании с участием «всех» членов корпорации либо фиксации соответствующей «воли» участников заочного собрания общества.
Активно используются в сфере авторского права гиперссылки на соответствующий контент сети Интернет. Так, в правоведении обсуждаются вопросы правовой оценки размещения лицом гиперссылки17 и юридической ответственности ее совершения с нарушением прав правообладателей18.
Гиперссылка как способ адресации в силу ст. 15.2 Федерального закона от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации»19 в ряде случаев признается нарушением авторских прав20.
Искусственный интеллект способен в режиме смарт-исполнения модифицировать гиперссылки и видоизменять их зависимости от заданного разработчиком либо администратором (пользователем) программы режима ее работы. В данном случае затруднительным будет достоверно отследить факты выполнения гиперссылок в соответствующий период времени (ретроспективно) либо переадресацию, включая определение части гипертекстового документа, на который идет ссылка (например, текст и фотоизображение).
Возможность архивирования цифровых отпечатков интернет-страниц (http://web.archive. org/; https://webarchiveorg.ru/; https://web-arhive.ru/ и др.) стала эффективным инструментом в деятельности судов, в том числе по вопросу доказывания фактических обстоятельств дела. Так, существующий цифровой отпечаток позволяет достоверно установить либо опровергнуть юридически значимые события, влияющие на исход дела21.
Технологии искусственного интеллекта позволяют создавать клоны веб-архивов и умышленно путать лиц, желающих проверить ретроспективную информацию, в достоверности такой информации. Так, путем совершения некорректного цифрового отпечатка интернет-страниц (фальшивой страницы-клона) либо даты отпечатка их контента, веб-архив покажет недостоверную информацию. Следовательно, данная информация может привести к неверному решению суда. С одной стороны, государство может создать собственный достоверный веб-архив. Однако его администрирование является сложной технологией и является деятельностью крупных IT-компаний. С другой стороны, достаточно разработать программу, позволяющую распознавать алгоритмические сбои в работе действующих веб-архивов.
Обработка искусственным интеллектом Big data стала приоритетным направлением IT-инду-стрии (Data Science) и элементом цифровизации экономики. Структурируя массив информации,
17 Право в сфере Интернета : сборник статей / М. З. Али, Д. В. Афанасьев, В. А. Белов [и др.] ; рук. авт. кол. и отв. ред. М. А. Рожкова. М. : Статут, 2018 ; Цивилистическая концепция интеллектуальной собственности в системе российского права : монография / А. А. Богустов, В. Н. Глонина, М. А. Рожкова [и др.] ; под общ. ред. М. А. Рожковой. М. : Статут, 2018.
18 Например, см.: протокол № 16 Заседание Научно-консультативного совета при Суде по интеллектуальным правам (28 апреля 2017 г.) // Журнал Суда по интеллектуальным правам. 2017. № 16. С. 13-29.
19 СЗ РФ. 2006. № 31 (1 ч.). Ст. 3448.
20 Например, постановление Девятого арбитражного апелляционного суда от 23.11.2015 № 09АП-44727/2015 // URL: https://kad.arbitr.ru/.
21 Подробнее см.: Бодров Н. Ф., Бимбинов А. А., Воронин В. Н. Материалы экстремистского характера, распространяемые в сети Интернет: проблемы судебно-экспертного исследования и вопросы квалификации преступлений : монография. М. : Норма, Инфра-М, 2020 ; Кольздорф М. А., Осадчая О. А., Ульянова Е. В., Оганесян А. Н. Обзоры судебной практики за период с 1 января 2018 г. по 31 декабря 2020 г., представленные в «Классификаторе постановлений президиума Суда по интеллектуальным правам» // СПС «КонсультантПлюс», 2020.
искусственный интеллект выстраивает прогнозную модель, позволяющую ее пользователям определить соответствующие закономерности, динамику изменения потребностей, связи между событиями и потребностями и т.д.
Data Science постепенно поглощает все сферы возможного применения цифровых технологий в современном обществе (банковская деятельность, управление бизнесом, транспорт, страхование, медицина, образование, метеорология и т.д.). Созданная искусственным интеллектом прогнозная модель содержит соответствующие сведения, которые могут быть использованы и в судебном производстве (например, при оценке нарушения участниками рынка конкурентной среды).
Материально-технологическое обеспечение российских судов регламентируется законодательством и актами Судебных департаментов при Верховном Суде РФ и судов субъектов Федерации. Федеральной целевой программой «Развитие судебной системы России на 20132024 годы»22 предусмотрено соответствующее оснащение зданий судов компьютерной и оргтехникой (серверами; компьютерами; принтерами; сканерами; копировально-множительными аппаратами; программно-аппаратными комплексами аудиозаписи хода судебных заседаний; диктофонами; факсимильными аппаратами; франкировальными машинами и др.) и средствами связи (телефонными аппаратами, системами видео-конференц-связи)23.
Полагаем, современные российские суды должны быть оснащены программами с искусственным интеллектом: Google Cloud Machine Learning Engine (cloud.google.com/ml-engine/); Azure Machine Learning Studio (azure.microsoft. com/en-us/services/machine-learning-studio); Cortana (microsoft.com/en-us/cortana); IBM
Watson (ibm.com/watson) и др. Ввиду высокой стоимости данных уникальных технологий, полагаем работа искусственного интеллекта может быть организована по принципу «единого судебного облака», доступ к которому обеспечивается судам всех уровней.
Суды должны быть оборудованы телекоммуникационными средствами связи нового поколения (5G/IMT-2020), обеспечивающими высокую пропускную способность и бесперебойную работу онлайн-суда (доступность суда).
В стратегических целях цифрового суверенитета России предлагается также разработать отечественные программы искусственного интеллекта, применение которых возможно наряду с зарубежными аналогами. Положительно следует оценить научно-исследовательский проект МВД России «Зеркало (Верблюд»), направленный на выявление признаков внутрикадрового монтажа видеоизображений, выполненных с помощью нейронных сетей24.
Скорейшее оснащение соответствующими информационными технологиями судов позволит всесторонне и объективно оценивать представленные сторонами доказательства.
Сегодня правоведы выступают «наблюдателями» процесса развития информационных технологий, которые вносят существенные изменения в складывающиеся общественные отношения. В целях правильной правовой регламентации отношений, нормы права должны создаваться с учетом стремительного развития и внедрения цифровых технологий. Цифровая трансформация должна активно внедряться в суде, чтобы содействовать отправлению объективного правосудия.
Полагаем необходимым учитывать общие тенденции трансформации правосознания современного цифрового общества в целом25, в том числе изменения профессиональных ком-
22 Постановление Правительства РФ от 27.12.2012 № 1406 // СЗ РФ. 2013. № 1. Ст. 13.
23 См.: приказ Судебного департамента при ВС РФ от 01.10.2012 № 185 // URL: http://www.cdep.ru/index. php?id=290 (дата обращения: 11.06.2021).
24 Например, см.: МВД получит IT-разработку по распознаванию дипфейков // URL: https://pravo.ru/news/ 231437/?desc_autoload= (дата обращения: 05.05.2021) ; МВД к концу 2022 года получит IT-разработку по распознаванию видео с заменой лиц // URL: https://tass.ru/obschestvo/11307705 (дата обращения: 05.05.2021).
25 Laptev V., Fedin V. Legal Awareness in a Digital Society // Russian Law Journal. 2020 ;8(1):138-157. URL: https:// doi.org/10.17589/2309-8678-2020-8-1-138-157.
петенций юриста на современном этапе. Юридическая работа судьи в отрыве от познаний и навыков применения цифровых технологий
может свидетельствовать об утрате объективности по ряду вопросов, возникающих в ходе осуществления правосудия.
БИБЛИОГРАФИЯ
1. Журкина О. В. Электронные доказательства: понятие и признаки // Российская юстиция. — 2020. — № 9. — С. 44-46.
2. Обидин К. В. Электронное доказательство: необходимый этап развития уголовного судопроизводства // Актуальные проблемы российского права. — 2020. — № 11. — С. 198-206.
3. Право в сфере Интернета : сборник статей / М. З. Али, Д. В. Афанасьев, В. А. Белов [и др.] ; рук. авт. кол. и отв. ред. М. А. Рожкова. — М. : Статут, 2018. — 528 с.
4. Храмцовская Н. А. Вопросы обеспечения аутентичности электронных документов: трактовки понятия // Делопроизводство. — 2020. — № 2. — С. 37-43 ; № 3. — С. 50-59.
5. Цивилистическая концепция интеллектуальной собственности в системе российского права : монография / А. А. Богустов, В. Н. Глонина, М. А. Рожкова [и др.] ; под общ. ред. М. А. Рожковой. — М. : Статут, 2018. — 271 с.
6. Цифровая экономика: концептуальные основы правового регулирования бизнеса в России : монография / отв. ред. В. А. Лаптев, О. А. Тарасенко. — М. : Проспект, 2020. — 488 с.
7. Чуча С. Ю. Правовой режим электронных доказательств в суде при рассмотрении трудовых споров // Предпринимательское право. — 2019. — № 3. — С. 29-35.
8. Laptev V., Fedin V. Legal Awareness in a Digital Society // Russian Law Journal. 2020 ;8(1):138-157. — URL: https://doi.org/10.17589/2309-8678-2020-8-1-138-157.
Материал поступил в редакцию 16 июня 2021 г.
REFERENCES (TRANSLITERATION)
1. Zhurkina O. V. Elektronnye dokazatel'stva: ponyatie i priznaki // Rossijskaya yusticiya. — 2020. — № 9. — S. 44-46.
2. Obidin K. V. Elektronnoe dokazatel'stvo: neobhodimyj etap razvitiya ugolovnogo sudoproizvodstva // Aktual'nye problemy rossijskogo prava. — 2020. — № 11. — S. 198-206.
3. Pravo v sfere Interneta : sbornik statej / M. Z. Ali, D. V. Afanas'ev, V. A. Belov [i dr.] ; ruk. avt. kol. i otv. red. M. A. Rozhkova. — M. : Statut, 2018. — 528 s.
4. Hramcovskaya N. A. Voprosy obespecheniya autentichnosti elektronnyh dokumentov: traktovki ponyatiya // Deloproizvodstvo. — 2020. — № 2. — S. 37-43 ; № 3. — S. 50-59.
5. Civilisticheskaya koncepciya intellektual'noj sobstvennosti v sisteme rossijskogo prava : monografiya / A. A. Bogustov, V. N. Glonina, M. A. Rozhkova [i dr.] ; pod obshch. red. M. A. Rozhkovoj. — M. : Statut, 2018. — 271 s.
6. Cifrovaya ekonomika: konceptual'nye osnovy pravovogo regulirovaniya biznesa v Rossii : monografiya / otv. red. V. A. Laptev, O. A. Tarasenko. — M. : Prospekt, 2020. — 488 s.
7. Chucha S. Yu. Pravovoj rezhim elektronnyh dokazatel'stv v sude pri rassmotrenii trudovyh sporov // Predprinimatel'skoe pravo. — 2019. — № 3. — S. 29-35.
8. Laptev V., Fedin V. Legal Awareness in a Digital Society // Russian Law Journal. 2020 ;8(1):138-157. — URL: https://doi.org/10.17589/2309-8678-2020-8-1-138-157.
