Научная статья на тему 'Приоритеты Российской правовой политики и изменения права в условиях цифровизации'

Приоритеты Российской правовой политики и изменения права в условиях цифровизации Текст научной статьи по специальности «Право»

CC BY
636
120
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Журнал российского права
ВАК
RSCI
Область наук
Ключевые слова
ЦИФРОВИЗАЦИЯ ПРАВА / ЦИФРОВОЕ ПРАВО / ПРАВОВАЯ ПОЛИТИКА / ПРАВОВОЕ РЕГУЛИРОВАНИЕ БОЛЬШИХ ДАННЫХ / БЛОКЧЕЙН / ЦИФРОВЫЕ ПРАВА / ЦИФРОВАЯ ТРАНСФОРМАЦИЯ / DIGITALIZATION OF LAW / DIGITAL LAW / LEGAL POLICY / LEGAL REGULATION OF BIG DATA / BLOCKCHAIN / DIGITAL RIGHTS / DIGITAL TRANSFORMATION

Аннотация научной статьи по праву, автор научной работы — Малько Александр Васильевич, Солдаткина Оксана Леонидовна

Построение цифровой экономики часто озвучивается в качестве приоритетной задачи российской государственной власти, но в то же время это вносит сумбур в теоретические разработки по данной тематике. Технологии развиваются быстро, а значит, право должно стать гибче. Однако при этом принятие решений должно быть научно обоснованным, системным, иначе усилия государства по внедрению цифрового инструментария будут неэффективными. Основная цель исследования - обоснование отнесения цифровизации права к приоритетам правовой политики. При этом решаются следующие задачи: установление структурных элементов понятия «цифровизация права» и его природы; разработка проекта содержания концепции цифрового направления правовой политики в выбранной области. Выделяются и рассматриваются основные подцели намеченного приоритета: переосмысление элементов права в условиях цифровой эпохи (на примере прав человека); изучение некоторых направлений автоматизации правовой отрасли (на примере технологий больших данных и блокчейна); анализ практики работы судебных органов с информационными системами и обоснование необходимости правовой трансформации в этой области. Методы: общенаучные (диалектический, анализ, синтез) и частнонаучные (формальноюридический, функциональный). Обосновывается тезис о том, что включение цифровизации права в число приоритетов правовой политики соответствует общественным интересам и позволяет упорядочить теоретические разработки рассматриваемого явления, совместить их с практикой. Отмечается двойственность понятия «цифровизация права». Составляется проект содержания научной концепции правовой политики в выбранной области. Исследуются цифровые права. Рассматриваются проблемы цифровой трансформации судебной системы, а также даются некоторые практические рекомендации.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Priorities of Russian Legal Policy and Changes in Law in the Context of Digitalization

Construction of the digital economy, what is happening on the basis of the program "Digital Economy" is often voiced priority of the Russian government, but this program also introduces confusion in the theoretical developments on the subject. Of course, technology is developing rapidly, it means that law should become more flexible, but this should not mean isolation from science - decision making must be scientifically grounded, systemic, otherwise the government's efforts to introduce digital tools will be ineffective. The main purpose of the research under the article is to justify the inclusion of digitalization of law among the priorities of legal policy. In accordance with the goal the authors solve the following tasks: the establishment of the structural elements of the concept of "digitalization of law" and its nature; development of the draft content of the concept of the digital direction of legal policy in the chosen field. Also highlighted and considered are the main sub-goals of the planned priority: rethinking the elements of law from the point of view of the digital age (for example, human rights); the study of some areas of the automation of the legal industry (for example, technologies big data and blockchain); analysis of the practice of the judiciary with information systems and the rationale for the need for legal transformation in this area. The study is based on the general scientific (dialectical analysis, synthesis) and private research (formal-legal approach, the functional approach) methods in solving the problems. All tasks in the course of the study are resolved. The authors substantiate the thesis that the inclusion of digitalization of law among the priorities of legal policy not only corresponds to public interests, but also makes it possible to streamline the theoretical developments of the phenomenon under consideration, to combine them with practice; the duality of the concept of “digitalization of law” (as the development of the “accompanying” law and the automation of the legal industry) is noted; a draft of the content of the scientific concept of legal policy in the chosen field is being prepared digital rights are explored; conclusions are drawn that the introduction of new technologies in the legal field should be accompanied by a deep study of their essence and capabilities; addresses the problems of digital transformation of the judicial system. The article also provides some practical recommendations on the restructuring of the special legal education of the Russian state; making amendments to federal legislation related to ensuring the digital rights of citizens and protecting large user data, creating data storage standards, official electronic data circulation, information exchange protocols in interagency transactions; fundamental digital “restructuring” not only of the executive authorities, but also of the judicial system, including the complete rejection of paperwork in favor of the initial existence of information in the form of data, rather than a document.

Текст научной работы на тему «Приоритеты Российской правовой политики и изменения права в условиях цифровизации»

ГОСУДАРСТВО и ПРАВО В СОВРЕМЕННОМ МИРЕ: ПРОБЛЕМЫ ТЕОРИИ И ИСТОРИИ

DOI: 10.12737/jrl.2019.9.1

Приоритеты российской правовой политики и изменения права в условиях цифровизации*

МАЛЬКО Александр Васильевич, директор Саратовского филиала Института государства и права Российской академии наук, доктор юридических наук, профессор, заслуженный деятель науки Российской Федерации

Россия, 410028, г. Саратов, ул. Чернышевского, 135

E-mail: [email protected]

СОЛДАТКИНА Оксана Леонидовна, доцент кафедры информатики Саратовской государственной юридической академии, старший научный сотрудник Саратовского филиала Института государства и права Российской академии наук, кандидат юридических наук

Россия, 410056, г. Саратов, ул. Вольская, 1

E-mail: [email protected]

Построение цифровой экономики часто озвучивается в качестве приоритетной задачи российской государственной власти, но в то же время это вносит сумбур в теоретические разработки по данной тематике. Технологии развиваются быстро, а значит, право должно стать гибче. Однако при этом принятие решений должно быть научно обоснованным, системным, иначе усилия государства по внедрению цифрового инструментария будут неэффективными.

Основная цель исследования — обоснование отнесения цифровизации права к приоритетам правовой политики. При этом решаются следующие задачи: установление структурных элементов понятия «цифровизация права» и его природы; разработка проекта содержания концепции цифрового направления правовой политики в выбранной области. Выделяются и рассматриваются основные подцели намеченного приоритета: переосмысление элементов права в условиях цифровой эпохи (на примере прав человека); изучение некоторых направлений автоматизации правовой отрасли (на примере технологий больших данных и блокчейна); анализ практики работы судебных органов с информационными системами и обоснование необходимости правовой трансформации в этой области.

Методы: общенаучные (диалектический, анализ, синтез) и частнонаучные (формально-юридический, функциональный).

Обосновывается тезис о том, что включение цифровизации права в число приоритетов правовой политики соответствует общественным интересам и позволяет упорядочить теоретические разработки рассматриваемого явления, совместить их с практикой. Отмечается двойственность понятия «цифровизация права». Составляется проект содержания научной концепции правовой политики в выбранной области. Исследуются цифровые права. Рассматриваются проблемы цифровой трансформации судебной системы, а также даются некоторые практические рекомендации.

Ключевые слова: цифровизация права, цифровое право, правовая политика, правовое регулирование больших данных, блокчейн, цифровые права, цифровая трансформация.

Для цитирования: Малько А. В., Солдаткина О. Л. Приоритеты российской правовой политики и изменения права в условиях цифровизации // Журнал российского права. 2019. № 9. С. 5—19. DOI: 10.12737/jrl.2019.9.1

* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16111.

Priorities of Russian Legal Policy and Changes in Law in the Context of Digitalization

A. V. MALKO, Saratov branch, Institute of State and Law, Russian Academy of Sciences, Saratov 410028, Russian Federation

E-mail: [email protected]

O. L. SOLDATKINA, Saratov State Law Academy, Saratov 410056, Russian Federation

E-mail: [email protected]

Construction of the digital economy, what is happening on the basis of the program "Digital Economy" is often voiced priority of the Russian government, but this program also introduces confusion in the theoretical developments on the subject. Of course, technology is developing rapidly, it means that law should become more flexible, but this should not mean isolation from science — decision making must be scientifically grounded, systemic, otherwise the government's efforts to introduce digital tools will be ineffective.

The main purpose of the research under the article is to justify the inclusion of digitalization of law among the priorities of legal policy. In accordance with the goal the authors solve the following tasks: the establishment of the structural elements of the concept of "digitalization of law" and its nature; development of the draft content of the concept of the digital direction of legal policy in the chosen field. Also highlighted and considered are the main sub-goals of the planned priority: rethinking the elements of law from the point of view of the digital age (for example, human rights); the study of some areas of the automation of the legal industry (for example, technologies big data and blockchain); analysis of the practice of the judiciary with information systems and the rationale for the need for legal transformation in this area.

The study is based on the general scientific (dialectical analysis, synthesis) and private research (formal-legal approach, the functional approach) methods in solving the problems.

All tasks in the course of the study are resolved. The authors substantiate the thesis that the inclusion of digitalization of law among the priorities of legal policy not only corresponds to public interests, but also makes it possible to streamline the theoretical developments of the phenomenon under consideration, to combine them with practice; the duality of the concept of "digitalization of law" (as the development of the "accompanying" law and the automation of the legal industry) is noted; a draft of the content of the scientific concept of legal policy in the chosen field is being prepared digital rights are explored; conclusions are drawn that the introduction of new technologies in the legal field should be accompanied by a deep study of their essence and capabilities; addresses the problems of digital transformation of the judicial system. The article also provides some practical recommendations on the restructuring of the special legal education of the Russian state; making amendments to federal legislation related to ensuring the digital rights of citizens and protecting large user data, creating data storage standards, official electronic data circulation, information exchange protocols in interagency transactions; fundamental digital "restructuring" not only of the executive authorities, but also of the judicial system, including the complete rejection of paperwork in favor of the initial existence of information in the form of data, rather than a document.

Keywords: digitalization of law, digital law, legal policy, legal regulation of big data, blockchain, digital rights, digital transformation.

For citation: Malko A.V., Soldatkina O.L. Priorities of Russian Legal Policy and Changes in Law in the Context of Digitalization. Zhurnal rossijskogo prava = Journal of Russian Law, 2019, no. 9, pp. 5—19. (In Russ.) DOI: 10.12737/jrl.2019.9.1

Необходимость перехода от стихийности принимаемых в сфере правового регулирования управленческих решений к их плановости в Российской Федерации давно обсуждается на всех уровнях, в том числе в юридическом научном сооб-

ществе. Именно поэтому в последние два десятилетия бурное развитие и распространение среди правоведов получила теория правовой политики.

Под правовой политикой понимается научно обоснованная, ком-

плексная и последовательная деятельность государства, индивидов, их объединений, включая все общество, по созданию и реализации стратегических правовых идей в целях формирования правовой государственности, т. е. правовая политика позволяет упорядочить сложную иерархию целей комплексных разделов права и наметить средства их реализации. Согласно данной дефиниции в основе правовой политики лежит понятие деятельности, а любая деятельность по природе своей целенаправленна. Имеет целевую составляющую и правовая политика — ее цели выстраиваются в некоторую сложную иерархию, похожую на дерево. Постановка целей правовой политики является сложным процессом, так как требуется обеспечить их соответствие реальным общественным потребностям и интересам, в противном случае результатом будет снижение продуктивности работы механизма правового регулирования.

Намеченные в целях ориентиры определяют соответствующие задачи правовой политики, а наиболее значимые и первоочередные из них традиционно называют приоритетами. Наличие в правовой политике приоритетов не только позволяет расставить акценты и избрать верные средства и методы достижения поставленных целей, но и дает возможность интегрировать усилия всех субъектов в процессе выработки и реализации стратегических правовых идей1.

Приоритеты, как и цели, должны отвечать потребностям общества и государства. Одной из таковых несомненно является ориентация экономики на инновационное развитие. Современные условия вынуждают предприятия постоянно искать новые решения для сохранения и по-

1 См.: Коробова А. П. Приоритеты правовой политики // Российская правовая политика. Курс лекций / под ред. Н. И. Матузова, А. В. Малько. М., 2003.

вышения своей конкурентоспособности. Однако этот процесс не может быть односторонним — государству также необходимо обеспечить хозяйствующим субъектам благоприятные условия для функционирования.

Говоря об инновационном развитии в целом и в экономике в частности, невозможно оставить без внимания ту роль, которую сегодня играют информационные технологии, проникающие все глубже в общественную жизнь, меняющие структуру отношений и взаимодействий, а порой и в принципе противоречащие модели государственного управления. Широкий масштаб влияния информационных технологий на экономику признается на самом высоком уровне — речь идет о программе «Цифровая экономика Российской Федерации»2, получившей в 2018 г. статус национальной программы. В ней намечены основные стратегические направления по построению экономики инновационного типа. Эта программа в том числе закрепила в качестве стратегических целей российской государственной политики цифровизацию основных государственных регуляторов, включая права, что дало серьезный толчок к формированию так называемого цифрового права. Поскольку правовая политика не может и не должна существовать в отрыве от государственной политики, их основные цели должны коррелировать, следовательно, в число приоритетов правовой политики должна войти задача по изучению процессов цифро-визации права.

Включение цифровизации права в число приоритетов правовой политики не только соответствует общественным интересам,но и позволяет упорядочить теоретические разработки рассматриваемого явления.

2 См. решение президиума Совета при Президенте РФ по стратегическому развитию и национальным проектам от 24 декабря 2018 г.

Несмотря на несомненную значимость и актуальность, понятие ци-фровизации права еще не устоялось. Развитие теоретических основ данного явления, наполнение его содержанием — дело будущего, но работа над этим уже началась. Особенность указанных разработок состоит в том, что давшая им старт программа «Цифровая экономика»3 внесла некоторую непоследовательность в теоретические исследования. В научных статьях, посвященных цифровизации права, традиционно упор делается на правовом обеспечении внедрения информационно-коммуникационных технологий во все сферы общественной жизни4. Безусловно, такой процесс меняет основные структурные элементы права (субъект и его идентификацию, взаимодействия субъектов, объект, права человека), однако рассматривать цифровизацию права только с позиций сопровождения информационной модернизации отдельных областей жизнедеятельности, пусть и таких важных, как экономика, представляется несколько однобоким, хотя и вполне понятным подходом. Несмотря на то что изначально цифровизация рассматривалась как переход с аналоговой формы передачи информации на цифровую5, сейчас «цифровизация — это в меньшей степени про технологии, а в большей — про культуру, про изменения и про модель взаи-

3 Утв. распоряжением Правительства РФ от 28 июля 2017 г. № 1632-р.

4 См., например: Ломакин А. Цифровизация права // Трудовое право. 2017. № 9. С. 103—111; Талапина Э. В. Право и цифровизация: новые вызовы и перспективы // Журнал российского права. 2018. № 2. С. 5—17.

5 См., например, распоряжение Пра-

вительства Москвы от 11 октября 2010 г. № 2215-РП «О Концепции обеспечения жителей города Москвы телекоммуникационными услугами для получения социально

значимой информации путем создания условий равного доступа к кабельному телевидению и Интернет-ресурсам».

модействия»6. Представляется, что процесс цифровизации права имеет два аспекта: с одной стороны, это как раз разработка «сопровождающего» права, новое познание и осмысление его элементов (объектов, субъектов, прав) с точки зрения цифровой эпохи, с другой — автоматизация правовой отрасли, так называемые LegalTech (программы искусственного интеллекта, боты), призванные алгоритмизировать юридические процессы и нормотворчество. Таким образом, информационно-коммуникационные технологии неизбежно поменяют природу права, а также работу юриста и всей юридической системы, включая такие ее элементы, как законотворчество, правоприменение и т. д. Это означает необходимость учитывать при выстраивании выбранного сегмента правовой политики двойственность основного понятия, рассматривая составляющие элементы как отдельно, так и во взаимосвязи, итогом же ее реализации должно стать формирование нового вида права — цифрового.

Между тем деятельность по построению новой парадигмы права необходимо начинать уже сейчас, исследования должны носить упреждающий характер. Так, на примере криптовалют мировое сообщество в целом и Россия в частности убедились: отсутствие правового регулирования данной сферы (а во многих случаях и попытки проигнорировать ее существование) привело к тому, что названные платежные средства были облюбованы представителями криминалитета. Технологии развиваются быстро, а значит, государственное управление и правовое

6 Цифровизация как изменение парадигмы. Интервью с А. Мареем, членом совета директоров, главным управляющим директором, членом правления, заместителем председателя правления Альфа-Банка. URL: https://www.bcg.com/ru-ru/about/bcg-review/digitalization.aspx (дата обращения: 08.01.2019).

регулирование должны стать более гибкими. Вместе с тем стоит помнить о том, что эта «гибкость» не должна означать оторванность от науки — принятие решений должно быть научно обоснованным, системным, иначе мы получим «сырые», некачественные законы, способные свести на нет все усилия государства по внедрению цифрового инструментария. Следовательно, перед учеными-правоведами также встают задачи по научному сопровождению идущих процессов цифровизации.

Обзор научных работ указывает на несомненный интерес к теме цифровизации, причем новые юридические конструкции ищут не только отечественные правоведы, но и зарубежные юристы — в основном с ориентацией на практические аспекты. Однако, по справедливому замечанию Т. Я. Хабриевой, «как в доктрине, так и в юридической практике пока нет достаточно четкого понимания ни вектора, ни закономерностей, ни механизма этих [цифровых] трансформаций [права]»7. В Российской Федерации давно стоит вопрос о необходимости опоры юридической практики на юридическую доктрину, что тем более важно для области информационного законодательства и практики регулирования информационной сферы, так как существующие юридические модели часто не подходят для описания идущих в этой области процессов. Поэтому как приоритетное направление правовой политики ци-фровизация права должна решать задачу по объединению научных разработок с юридической практикой.

С позиций заявленного выше тезиса о том, что в основу правовой политики должны лечь учитывающие практику теоретические разработки, представляется, что основным результатом работ по дан-

7 Хабриева Т. Я. Право перед вызовами цифровой реальности // Журнал российского права. 2018. № 9. С. 6.

ному направлению должен стать комплексный универсальный унифицированный научно обоснованный документ — концепция развития сегмента законодательства, связанного с цифровизацией права, а также правоприменительной практики. Опираясь на проводимые ранее разработки и анализ публикаций по вопросам цифровизации права8, мы видим следующее содержание указанной концепции:

1. Описание текущих процессов в Российской Федерации, связанных с цифровизацией различных областей, экономической и политической ситуации в стране, анализ имеющихся предпосылок для цифровизации права и намечающихся тенденций развития в данном направлении, обоснование актуальности предлагаемых изменений, а также готовность населения к восприятию новой формы существования и реализации права.

2. Анализ теоретических моделей, правовых институтов и сфер их применения в выбранном направлении, в том числе решение терминологических вопросов, разграничение смежных понятий в действующем законодательстве и теории права; цели и принципы регулирования процесса трансформации права к цифровому виду; исследование основных компонентов права (субъекты и их права, объект, правоотношение) в условиях цифровизации.

3. Обзор возможностей LegalTech и технологий, в них применяемых, а также соответствующих им законодательных новелл в Российской Федерации и иностранных государствах, оценка возможности по

8 См., например: Хабриева Т. Я. Указ. соч. С. 5—16; Ломакин А. Указ. соч. С. 103—111; Талапина Э. В. Право и цифровизация: новые вызовы и перспективы // Журнал российского права. 2018. № 2. С. 5—17; Гурко А. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12. С. 7—18.

имплементации подходящих моделей в отечественное законодательство, в том числе:

рассмотрение технических особенностей и ограничений по сфере применения современных информационных технологий и технологий обработки данных, оценка возможности их использования при решении вопросов цифровизации права;

обобщение инновационных российских и зарубежных практик по внедрению указанных технологий и методов, которые возможно использовать в сфере цифровизации права;

рекомендации относительно изменений в российском законодательстве, необходимых для эффективного применения современных информационных технологий и технологий обработки данных;

анализ экономического эффекта и рисков, связанных с применением указанных технологий и методов.

Формат журнальной публикации не позволяет рассмотреть все концептуальные аспекты заявленной проблемы, поэтому ограничимся отдельными положениями, наметив важнейшие подцели. Структурный элемент, с которого хотелось бы начать исследования, — это изменения в области прав человека, связанных с цифровой трансформацией права.

Реализация основных цифровых прав граждан обычно основывается на принципах свободы информации и запретительном принципе права, что закреплено в основных международных правовых документах и в конституциях государств. Основу международного блока в указанной сфере составляет Всеобщая декларации прав человека 1948 г., согласно которой каждый человек имеет право на свободу мысли (ст. 18), право на свободу убеждений и на свободное выражение их (ст. 19). Исходя из международных документов, строится конструкт «информационные права и свободы» в подавляющем большинстве государств (Франции, Германии, России и т. д.). Нормы конституций очень похожи и обычно закреп-

ляют свободное выражение мыслей и мнений, свободу печати и информации, запрет цензуры. Запреты очерчивают границы прав.

Однако цифровые права имеют свою специфику, связанную со средой их реализации.

Согласно определению «Словаря тактической реальности» К. Бек-кера «цифровые права человека — это расширение и применение универсальных прав человека к потребностям общества, основанного на информации»9. При этом выделяются базисные цифровые права человека (право доступа к каналам коммуникации, право свободно общаться и выражать мнение, право на неприкосновенность частной сферы). Отдельные исследователи выделяют также право на публикацию цифровых произведений, право цифровых споров, право доступа к цифровым данным и защиты при доступе и т. д.10

В Евросоюзе термин «цифровые права» рассматривается именно в таком смысле, что подтверждается вступившим в 2018 г. в силу регламентом ЕС «О защите физических лиц в отношении обработки персональных данных», усиливающим защиту прав граждан на информацию, доступ и на забвение. Этот единый комплекс четких правил административным воздействием повышает сохранность баз данных, устанавливает для компаний необходимость принятия упреждающих мер против террористического контента, дает сотрудникам компаний затребовать любые персональные данные о себе, вплоть до личной переписки, обеспечивает полный контроль за персональными данными лиц, не достигших 16 лет, их родителями или опекунами11. Меры, обес-

9 URL: https://dic.academic.ru/dic.nsf/ ruwiki/1188772 (дата обращения: 08.01.2019).

10 См.: Ломакин А. Указ. соч. С. 65—74.

11 См.: Цифровые права граждан. Защитить, нельзя проигнорировать. URL: http:// www.aif.ru/techno/technology/cifrovye_

печивающие цифровые права граждан, в названном документе предусмотрены достаточно жесткие, но результативные.

В отечественном законодательстве термин «цифровые права» закреплен в другой, более узкой трактовке — речь идет о Федеральном законе от 18 марта 2019 г. № 34-Ф3 «О внесении изменений в части первую, вторую и статью 1124 части третьей Гражданского кодекса Российской Федерации»12. Согласно данному документу под цифровыми правами признаются названные в таком качестве в законе обязательственные и иные права, содержание и условия осуществления которых определяются в соответствии с правилами информационной системы, отвечающей установленным законом признакам. Такое сужение значения обозначенного термина до некоторой разновидности имущественного права, на наш взгляд, не совсем правильно и в дальнейшем может привести к терминологической путанице. Законодателю стоило рассматривать цифровые права в классическом варианте — как права граждан и организаций в информационной сфере.

После устранения проблем с терминологией в рамках цифрового направления правовой политики необходимо решить вопрос об обеспечении каждого из базовых цифровых прав граждан. Работа по данному пункту весьма объемна, и мы рассмотрим часть вопросов, связанных с правом на неприкосновенность частной жизни при применении отдельных информационных технологий, таких как большие данные.

Эта технология выбрана для примера не случайно. Помимо ее рассмотрения с точки зрения обеспечения цифровых прав граждан, большие данные имеют и другую сторону для

prava_grazhdan_zashchitit_nelzya_ proignorirovat (дата обращения: 08.01.2019).

12 Начало действия документа — 1 октя-

бря 2019 г.

теоретического анализа — возможность их применения в работе юристов и для формирования цифрового права (п. 3 предлагаемого ранее проекта содержания концепции). Несмотря на существующие мнения о сомнительной пользе использования больших данных в праве13, представляется, что эту технологию в совокупности с облачными технологиями ждет большое будущее в юриспруденции.

Действительно, в то время как российское юридическое сообщество делает первые настороженные шаги в применении больших данных, в США, например, применение этой технологии в различных сферах стало реальностью. Это и прогнозирование перспектив рассмотрения судебного дела (электронный ассистент ROSS, Lex-Machin и др.) или вероятности прохождения законов (успешно работает в Конгрессе США), и анализ информации о клиентах, и рекрутинг для отбора лучших юридических кадров. Конечно, некоторые из данных программ — еDiscovery, Legal Research — могут использоваться только в странах с прецедентной правовой системой (США, Великобритания), однако другие направления востребованы и в странах, где используется кодифицированное право (например, французская система Predictice, позволяющая анализировать миллионы судебных решений за короткое время и предсказывать шансы на успех дела, что важно при разработке финансовой стратегии).

Проблема обработки больших данных стоит и перед российской государственной властью: имеющихся ресурсов часто не хватает, чтобы обеспечить безопасность хранения информации, а потому автоматизация работы с неструктурированной

13 См.: Devins C., Felin T, Kauffman S., Koppl R. The law and big data. URL: https:// www.lawschoolxornelLedu/research/JLPP/ upload/Devins-et-al-final.pdf (дата обращения: 10.01.2019).

информацией необходима для эффективной работы органов государственной власти. Все чаще для автоматизации выбираются облачные технологии (что неизменно связано с большими данными). Так, 26 сентября 2017 г. Председатель Правительства РФ Д. А. Медведев утвердил «дорожную карту» по разработке системы сбора и обработки информации в контрольных и надзорных органах с помощью облачных технологий14. А значит, решение вопроса о правовом регулировании больших данных становится как никогда актуальным, следовательно, должно занять свою нишу в концепции правовой политики цифровиза-ции права.

Несмотря на то что большие данные в их классическом понимании есть совокупность технологий, которые призваны обрабатывать большие по сравнению со «стандартными» сценариями объемы данных и работать со структурированными и плохо структурированными данными параллельно в разных аспектах15, когда разговор заходит о законодательном регулировании,боль-шие данные рассматриваются в первую очередь в контексте проблематики персональных данных. Связано это с тем фактом, что обработка и сбор больших данных в глобальной сети ставят перед обществом серьезные проблемы с защитой личной информации граждан, а ведь последняя предусмотрена Конституцией РФ.

Данные о гражданах разбросаны по сети Интернет в виде переписки по электронной почте, постах в социальных медиа, на сайтах учебных заведений или организаций. В основном это открытая информа-

14 См.: Облачные технологии применят в надзорной деятельности // Право.га. URL: https://pravo.ru/news/view/144714/ (дата обращения: 14.01.2019).

15 См.: Протасов С. Что такое Big Data?

URL: https://postnauka.ru/faq/46974 (дата

обращения: 10.01.2019).

ция, которую пользователь сообщает о себе сам, более того, нередко эта информация обезличена. Вместе с тем в результате автоматизированной обработки большие данные позволяют определять пользовательские характеристики, т. е. на основе анализа открытой информации можно получить доступ к информации личной. При этом пока такие данные не являются персональными, а предупреждение, кем и в каких целях может быть использована персональная информация, не решает проблемы. Получается, что отсутствие правового статуса собранных в сети данных на пользователя нарушает его конституционное право на неприкосновенность частной жизни, личной и семейной тайны. Значит, законодательство должно четко определить границы изучения личности и сферы использования собираемых в сети больших данных.

В Российской Федерации работа над этой проблемой уже начата. 23 октября 2018 г. внесен законопроект о регулировании больших пользовательских данных, предполагающий установление порядка их сбора, передачи и обработки. Помимо определения понятия «большие пользовательские данные», а также понятий «оператор больших пользовательских данных» и «обработка больших пользовательских данных», законопроект обязывает операторов перед обработкой больших пользовательских данных получать информированное согласие в электронной форме пользователя абонентского терминала (пользовательского оборудования) об идентификации сетевого адреса, а также обязывает их размещать на своих сайтах уведомления об обработке данных16. В целом в отношении обработки

16 См.: В Госдуму внесен законопроект о регулировании больших данных // Вести. Экономика. 2018. 23 окт. URL: https://www. vestifinance.ru/articles/109022 (дата обращения: 10.01.2019).

больших пользовательских данных предлагается ввести регулирование, во многом копирующее существующие положения Федерального закона от 27 июля 2006 г. № 152-ФЗ «О персональных данных».

По нашему мнению, законопроект пока весьма «сырой». Более того, эксперты приходят к выводам, что в проекте присутствуют технические ошибки и подобный законопроект приведет к отставанию России в информационной сфере17, а ассоциация участников рынка больших данных (компании «МегаФон», Mail.Ru Group, oneFactor, «Тинькофф банк» и «Яндекс») считает, что излишнее регулирование будет мешать развитию рынка больших данных в России. На наш взгляд, несмотря на возможные риски, правовое регулирование использования больших пользовательских данных с позиции обеспечения цифровых прав граждан представляется необходимым. Однако законодательное регулирование больших пользовательских данных сегодня должно преследовать основную цель — четкое разделение частной информации, которая подлежит защите, и обезличенных данных, которые могут находиться в свободном доступе. Дублировать законодательные новеллы Федерального закона «О персональных данных» нет необходимости, достаточно просто определить критерии разделения и установить отсылку к имеющемуся законодательству.

В обозначенной сфере интерес представляет европейское законодательство, где с 25 мая 2018 г. вступила в действие резолюция General Data Protection Regulation (далее — GDPR). Нам близка позиция, закрепленная в этом документе, в части того, что не имеет смысла вво-

17 См.: Эксперты: Закон о больших данных усилит технологическое отставание России. URL: https://bitnovosti.com/2018/11/09/ eksperty-zakon-o-bolshih-dannyh-usilit-tehnologicheskoe-otstavanie-rossii/ (дата обращения: 10.01.2019).

дить новый термин, практически идентичный уже существующему понятию «персональные данные». Логичнее расширить ключевое понятие: по GDPR персональные данные включают любую информацию, касающуюся конкретного человека — личную, публичную или профессиональную. «Это не только имена, адреса и финансовая информация, но и все то, что может идентифицировать личность (например, Ш-адреса, идентификация пользователей при регистрации для входа в систему, данные биометрической идентификации, данные о географическом местоположении, видеоматериалы, статистика лояльности клиента, посты и фото в социальных сетях)»18. Безусловно, такое расширение накладывает на операторов персональных данных и регулятора новые обязанности, но в целом их будет намного меньше, чем в предложенном в законопроекте варианте: не нужно будет разрабатывать новый реестр, проводить повторную регистрацию в качестве оператора и т. д. Помимо этого, конституционные права граждан законодательно будут надежнее защищены.

Другой технологией, которая может оказать на право большое влияние в ближайшем будущем, является блокчейном. И если эффект от использования больших данных признается мировым юридическим сообществом, хотя и с осторожностью, то с блокчейном все сложнее — эта технология, представляющая систему распределенных реестров, никак не коррелирует с централизованным государственным управлением. Тем не менее некоторые особенности блокчейна (прозрачность транзакций, невозможность изменения отдельных блоков, высокая степень защиты, отсутствие посредников) делают ее применение в юридической практике и государственном управлении крайне привлекатель-

18 URL: https://www.osp.ru/cio/2017/07/ 13052957/ (дата обращения: 10.01.2019).

ным. Например, открытость транзакций, позволяющая контролировать все операции неограниченному кругу лиц, используется управленцами по всему миру для борьбы с коррупцией и укрепления доверия граждан к власти путем вовлечения их в процесс управления (электронная демократия).

Однако при всех очевидных плюсах блокчейна мы не разделяем мнение о том, что использование этой технологии скоро сделает государственное управление и юристов ненужными вообще. Тем не менее изменить структуру права эта технология вполне способна. Проиллюстрируем нашу мысль на примере подготовки юридических кадров.

Одной из самых перспективных областей применения технологии блокчейна являются самоисполняемые смарт-контракты, работа с которыми требует от юристов понимания тонких нюансов функционирования системы, включая техническую сторону. Составление же смарт-контрактов сегодня требует навыков в программировании, что нередко ставит юристов, получивших гуманитарное образование, в тупик.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

На наш взгляд, Российскому государству стоит задуматься об изменении направления подготовки юридических кадров, добавив некоторую техническую составляющую. Более того, перестройка отечественного юридического образования, где сейчас по стандартам количество информационных дисциплин сведено к минимуму, включая возможность повышения квалификации по использованию новых информационных технологий для практикующих юристов, должна стать одним из основных направлений в концепции правовой политики цифровиза-ции права.

Поясним нашу позицию. Т. Я. Хаб-риева замечает, что ответ на многие вопросы, возникающие при «обеспечении правового регулирования необходимым высокотехнологическим

инструментарием», юристы дать самостоятельно не смогут, а значит, нужно ориентироваться на сотрудничество со специалистами в области информационных технологий (далее — IT-специалистами)19. Принципиально соглашаясь с этой мыслью, позволим себе уточнить и расширить ее.

Во-первых, сотрудничество с IT-специалистами необходимо не только в области технического оснащения юристов — без их квалифицированного мнения законы, призванные регулировать информационную сферу, в итоге не только не приносят практической пользы, но и, наоборот, могут вызвать серьезное ухудшение ситуации в отрасли. Не понимая сути технологии, законодатель закрепляет странные и технически нереализуемые нормы (так было с мессенджером "Telegram", блокировками, пакетами поправок Яровой и т. д.); правоприменители выносят не учитывающие специфику информационной сферы решения; практикующие юристы не могут объяснить клиенту потенциальные риски применения технологии.

Во-вторых, в юридической науке возникают серьезные проблемы, для решения которых одного только сотрудничества уже недостаточно. Сегодня в России юрист — чисто гуманитарная специальность, в то время как информационное право перенасыщено техническими терминами и понятиями, не разбираясь в которых невозможно создать грамотную концепцию развития отрасли. Между тем юристы и IT-специалисты говорят на разных языках, иногда абсолютно не понимая друг друга. Для примера: беглый опрос преподавателей и студентов юридического вуза показывает, что они в лучшем случае слышали о технологии блокчейн, но принцип работы знают единицы (из шести групп разных курсов, суммарная численность которых около 150 человек, представление о блок-

19 См.: Хабриева Т. Я. Указ. соч. С. 11.

чейне имели десять человек — и только один работал с биткоинами); с большими данными знакомо еще меньшее количество студентов, многие даже не слышали об этой технологии. Кроме того, мало кто из юристов способен составить грамотное техническое задание на требуемую информационную систему, а программисты склонны думать, что возможно полностью формализовать правовые процессы, сделав ненужной юридическую специальность вообще.

Таким образом, без перестройки специального юридического образования Российское государство неизбежно столкнется с серьезным кадровым дефицитом, способным создать неблагоприятные условия для реализации национальной программы «Цифровая экономика Российской Федерации» и всех последующих. Конечно, эта цель — стратегическая, сиюминутно проблема не решается, но начинать действовать надо уже сейчас. Значит, работу в этом направлении необходимо обозначить в числе подцелей цифрового направления правовой политики, что позволит добиться системности, опоры на теоретические разработки в области и правоведения, и информатики, и педагогики.

Представляется, что образование необходимо перестраивать в несколько этапов, которые должны найти отражение в образовательных стандартах.

1. Ранние этапы развития личности (школьный возраст). Здесь должна происходить подготовка к «жизни» в сетевом пространстве, что игнорируется государственными стандартами обучения. Курс информатики для школьников давно нуждается в пересмотре. Обучение грамотной работе с информацией необходимо начинать не в средней школе, а как можно раньше, хотя бы теоретически, чтобы к подростковому возрасту необходимая модель поведения в сетевом пространстве была уже сформирована. Эту часть

курса назовем условно «Информационная грамотность». Содержание курса информатики также нуждается в пересмотре в сторону преподавания правил социального взаимодействия в сетевом пространстве и критического отношения к отбору информации в сети, а не морально устаревших методов программирования, делающих этот предмет неинтересным даже для тех обучающихся, кто увлекается информатикой. В дисциплину «Безопасность жизнедеятельности» должен войти блок информационной безопасности. Также нуждается в увеличении объем курса правоведения в школе (возможно с заменой на курс «Правовая грамотность»). Причем такой курс должен акцентировать внимание на повышении авторитета права, а также умении работать с правовой информацией в конкретных жизненных ситуациях.

2. Вторым этапом подготовки юридических кадров нового поколения должны стать соответствующие курсы в средних специальных и высших учебных заведениях. Мы уже столкнулись с тем, что информатика и информационная безопасность были убраны из стандарта по юриспруденции, а информационное право находится в вариационном блоке предметов, т. е. его наличие и объем организация определяет самостоятельно20. Такой подход к информационному блоку дисциплин вызывает несерьезное отношение к информатике и информационным технологиям как у студентов, так и у самих преподавателей, и никак не соответствует тезисам федеральных программ, связанным с цифро-визацией. Значит, здесь также необходимо пересматривать стандарты, причем минимум в два этапа: на бо-

20 См. приказ Минобрнауки России от

1 декабря 2016 г. № 1511 «Об утверждении федерального государственного образовательного стандарта высшего образования по направлению подготовки 40.03.01 Юриспруденция (уровень бакалавриата)».

лее ранней стадии модернизации необходимо увеличить объем и количество дисциплин «информационного блока»; далее стоит прекратить рассматривать юриспруденцию как чисто гуманитарную специальность, включив в компетенции умение работать с современными информационными технологиями и добавив предметы, развивающие алгоритмическое мышление обучающихся и формирующие у будущих специалистов способность работать в сотрудничестве с представителями технических специальностей. Мы далеки от мысли, что юрист должен стать и программистом, но общее понимание технологий и основ их работы должно быть. Стоит также ввести специализацию для юристов, работающих именно в сфере информационных технологий (например, с защитой интеллектуальных прав в этой сфере).

3. Тестирование выпускников вузов на знание LegalTech. В корпоративных юридических департаментах уже сегодня задумываются о том, как оценить уровень технологической подготовки сотрудника. Некоторыми 1Т-компаниями предлагается специальный софт для оценки сформированности компетенций, измеряющий скорость выполнения данного сотруднику задания21. На первом этапе можно сделать прохождение такого теста необязательным, с выдачей отдельного сертификата, дающего обучающемуся преимущества при поступлении на работу (при последующем трудоустройстве по отдельным специальностям можно сделать наличие сертификата обязательным).

4. Для практикующих юристов, уже получивших образование, необходимо проводить курсы повышения квалификации, причем именно по работе с LegalTech.

21 См.: Код юриста: где заканчивается юриспруденция и начинается ИТ // Право.Ии. URL: https://pravo.ru/story/ view/134144/ (дата обращения: 01.02.2019).

Таким образом, отечественное законодательство ждут большие перемены, связанные с цифровизацией, но указанные нами ранее особенности исследований по теории правовой политики (комплексность, системность) требуют обратить внимание не только на правотворчество, но и на правоприменение. В частности, цифровизацию права невозможно представить без грамотной информатизации органов судебной системы, что несомненно является насущной потребностью российского общества. Учитывая, что «от эффективности судебной системы прямо зависит надежная защита прав и законных интересов граждан, а значит, развитие России как правового демократического государства»22, на модернизацию судебной системы ежегодно выделяются сотни миллиардов рублей, часть из которых тратится на информатизацию отрасли. При таких огромных вложениях справедливо ожидать отдачи, повышения результативности работы судебной системы и доверия к ней граждан, но пока результаты федеральных программ скромные.

Справедливости ради отметим, что российское правосудие в информационную эпоху все же меняется: действует и развивается государственная автоматизированная система (ГАС) «Правосудие», в базе данных которой уже находятся более 80 млн дел; существует возможность подавать документы в суд в электронном виде; при рассмотрении дел все чаще прибегают к системе видеоконференций, чтобы заявитель мог участвовать в рассмотрении обжалования приговора, даже если он, например, отбывает наказание в другом регионе. Од-

22 Выступление премьер-министра РФ Д. А. Медведева на совещании-семинаре судей России. Цит. по: Кузьмин В. Суд под защитой // Российская газета. 2019. 12 февр. URL: https://rg.ru/2019/02/12/pravitelstvo-vydelit-bolee-200-mlrd-rublej -na-razvitie-sudebnoj-sistemy.html (дата обращения: 14.02.2019).

нако данный процесс нередко сводится к банальной компьютеризации; не используется и половина тех возможностей, что предоставляют современные информационные технологии.

Так, ГАС «Правосудие» имеет некоторые преимущества по сравнению с бумажным документооборотом (с 2017 г. существует возможность подачи документов в электронном виде, есть и возможность следить за ходом дела), но отсутствие грамотной стыковки узлов системы, зачаточное состояние модуля межведомственного взаимодействия, заведомо устаревшие программные средства нередко приводят к противоположному эффекту: информационная система, чьей задачей является снижение нагрузки на судей, путем дублирования действий, иногда доходящего до абсурда (например, данные из одной ведомственной системы в другую приходится переносить вручную), только увеличивает количество необходимых от судьи действий. ГАС «Правосудие» практически не предусматривает создания документов (в основном используется загрузка скан-копий бумаг); невозможно получить через систему и решение суда — надо ехать в суд за его традиционным вариантом. То есть ГАС «Правосудие» лишь дублирует бумажный документооборот, в то время как для эффективной цифровизации мало ставить в судах компьютеры и программы документооборота — необходима перестройка всей судебной системы в принципе. При этом если о цифровой трансформации правительства в исследованиях российских специалистов в области информационного права хотя бы упоминается, даже предлагаются разработанные модели23, аналогичные

23 «Центр стратегических разработок» в мае 2018 г. представил концепцию «Государство как платформа», которая предусматривает полный переход всех государственных сервисов в цифровую форму. См.: Зо-лотова Т. Бумажная беда цифровой транс-

процессы для судебной системы пока в основном замалчиваются.

Между тем основные проблемы, которые возникнут при цифрови-зации судебной системы, будут общими для всех ветвей власти. Современному обществу уже мало простых сервисов по подаче обращений; чтобы удовлетворить его потребности, требуется существование востребованных сервисов в электронном виде, что, в свою очередь, означает полный отказ от бумажного документооборота в пользу изначального существования информации в форме данных, а не документа. При этом, как справедливо замечает Т. Золотова, ни в одной из государственных программ требования и нормы по переводу документов в электронный вид не прописаны, не обозначены форматы хранения информации, нет стандартов электронного документооборота, отсутствуют регламенты24. Неудивительно, что получаемые после разработки государственные информационные системы не могут контактировать между собой, ведь установленного интерфейса их взаимодействия не существует.

В силу сказанного выше в качестве важнейшей подцели цифрового направления правовой политики необходимо заявить о создании стандартов хранения данных, официального электронного оборота данных, протоколов обмена информацией при межведомственных транзакциях.

И еще раз подчеркнем значимость того, чтобы юридическая наука вовремя и адекватно реагировала на вызовы цифрового мира, закладывая теоретический фундамент правовой политики в процесс цифрови-зации права посредством включения его в число приоритетных направлений развития юридической системы Российского государства.

формации // Ведомости. 2018. 30 окт. URL: https://www.vedomosti.ru/opinion/articles/ 2018/10/29/785065-tsifrovoi-transformatsii (дата обращения: 15.02.2019).

24 См: Золотова Т. Указ. соч.

Библиографический список

Devins C., Felin T., Kauffman S., Koppl R. The law and big data. URL: https://www.lawschool. cornell.edu/research/JLPP/upload/Devins-et-al-final.pdf (дата обращения: 10.01.2019).

В Госдуму внесен законопроект о регулировании больших данных // Вести. Экономика. 2018. 23 окт. URL: https://www.vestifinance.ru/articles/109022 (дата обращения: 10.01.2019).

Гурко А.. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12.

Золотова Т. Бумажная беда цифровой трансформации // Ведомости. 2018. 30 окт. URL: https://www.vedomosti.ru/opinion/articles/2018/10/29/785065-tsifrovoi-transformatsii (дата обращения: 15.02.2019).

Код юриста: где заканчивается юриспруденция и начинается ИТ // Право.Ии. URL: https://pravo.ru/story/view/134144/ (дата обращения: 01.02.2019).

Коробова А. П. Приоритеты правовой политики // Российская правовая политика. Курс лекций / под ред. Н. И. Матузова, А. В. Малько. М., 2003.

Кузьмин В. Суд под защитой // Российская газета. 2019. 12 февр. URL: https:// rg.ru/2019/02/12/pravitelstvo-vydelit-bolee-200-mlrd-rublej-na-razvitie-sudebnoj-sistemy. html (дата обращения: 14.02.2019).

Ломакин А.. Цифровизация права // Трудовое право. 2017. № 9.

Облачные технологии применят в надзорной деятельности // Право.га. URL: https:// pravo.ru/news/view/144714/ (дата обращения: 14.01.2019).

Протасов С. Что такое Big Data? URL: https://postnauka.ru/faq/46974 (дата обращения: 10.01.2019).

Талапина Э.. В. Право и цифровизация: новые вызовы и перспективы // Журнал российского права. 2018. № 2.

Хабриева Т. Я. Право перед вызовами цифровой реальности // Журнал российского права. 2018. № 9.

Цифровизация как изменение парадигмы. Интервью с А. Мареем, членом совета директоров, главным управляющим директором, членом правления, заместителем председателя правления Альфа-Банка. URL: https://www.bcg.com/ru-ru/about/bcg-review/digitalization. aspx (дата обращения: 08.01.2019).

Цифровые права граждан. Защитить, нельзя проигнорировать. URL: http://www.aif.ru/ techno/technology/cifrovye_prava_grazhdan_zashchitit_nelzya_proignorirovat (дата обращения: 08.01.2019).

Эксперты: Закон о больших данных усилит технологическое отставание России. URL: https://bitnovosti.com/2018/11/09/eksperty-zakon-o-bolshih-dannyh-usilit-tehnologicheskoe-otstavanie-rossii/ (дата обращения: 10.01.2019).

References

Cloud technology will be used in supervisory activities. Pravo.ru. Available at: https://pravo. ru/news/view/144714/ (accessed 14.01.2019). (In Russ.)

Devins C., Felin T., Kauffman S., Koppl R. The law and big data. Available at: https://www. lawschool.cornell.edu/research/JLPP/upload/Devins-et-al-final.pdf (accessed 10.01.2019).

Digital rights of citizens. Protect, cannot be ignored. Available at: http://www.aif.ru/techno/ technology/cifrovye_prava_grazhdan_zashchitit_nelzya_proignorirovat (accessed 08.01.2019). (In Russ.)

Digitalization as a paradigm shift. Interview with A. Marey, member of the Board of Directors, Chief Executive Officer, member of the board, Deputy Chairman of the Board of Alfa Bank. Available at: https://www.bcg.com/ru-ru/about/bcg-review/digitalization.aspx (accessed 08.01.2019). (In Russ.)

Draft law on big data regulation introduced to State Duma. Vesti. Ekonomika, 2018, October 23. Available at: https://www.vestifinance.ru/articles/109022 (accessed 10.01.2019). (In Russ.)

Experts: Big Data Law will enhance Russia's technological lag. Available at: https://bitnovosti. com/2018/11/09/eksperty-zakon-o-bolshih-dannyh-usilit-tehnologicheskoe-otstavanie-rossii/ (accessed 10.01.2019). (In Russ.)

Gurko A. Artificial intelligence. Intellektualnaya sobstvennost. Avtorskoe pravo i smezhnye prava, 2017, no. 12. pp. 7—18. (In Russ.)

Khabrieva T. Y. Law Facing the Challenges of Digital Reality. Zhurnal rossijskogo prava = Journal of Russian Law, 2018, no. 9, pp. 5—16. (In Russ.)

Korobova A. P. Priorities of legal policy. Russian Legal Policy. Course of lectures. Ed. by N. I. Matuzov, A. V. Malko. Moscow, 2003. Pp. 97—112. (In Russ.)

Kuzmin V. Court protected. Rossiyskaya gazeta, 2019, February 12. Available at: https:// rg.ru/2019/02/12/pravitelstvo-vydelit-bolee-200-mlrd-rublej-na-razvitie-sudebnoj-sistemy. html (accessed 14.02.2019). (In Russ.)

Lawyer Code: where does jurisprudence end and begin IT. Pravo.RU. Available at: https:// pravo.ru/story/view/134144/ (accessed 01.02.2019). (In Russ.)

Lomakin A. Digitalization of law. Trudovoe pravo, 2017, no. 9, pp. 65—75. (In Russ.)

Protasov S. What is Big Data? Available at: https://postnauka.ru/faq/46974 (accessed 10.01.2019). (In Russ.)

Talapina E. V. Law and Digitalization: New Challenges and Prospects. Zhurnal rossijskogo prava = Journal of Russian Law, 2018, no. 2, pp. 5—17. (In Russ.)

Zolotova T. Paper trouble digital transformation. Vedomosti, 2018, October 30. Available at: https://www.vedomosti.ru/opinion/articles/2018/10/29/785065-tsifrovoi-transformatsii (accessed 15.02.2019). (In Russ.)

i Надоели баннеры? Вы всегда можете отключить рекламу.