CC BY
123
2020
ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА ПРАВО
Т. 11. Вып. 3
ПУБЛИЧНОЕ И ЧАСТНОЕ ПРАВО: ПРИКЛАДНЫЕ ИССЛЕДОВАНИЯ
УДК 34.04
Роботизация: динамика правового регулирования
Ю. А. Тихомиров, С. Б. Нанба
Институт законодательства и сравнительного правоведения при Правительстве РФ, Российская Федерация, 117218, Москва, ул. Большая Черемушкинская, 34
Для цитирования: Тихомиров, Юрий А., Сариа Б. Нанба. 2020. «Роботизация: динамика правового регулирования». Вестник Санкт-Петербургского университета. Право 3: 532-549. https://doi.org/10.21638/spbu14.2020.301
В статье анализируются правовые основания роботизации. Сформулированы особенности регулирования в данной сфере, обусловленные комплексным характером отношений. Рассмотрены правовые проблемы роботизации в различных областях общественной жизни: экономике, труде, промышленности, транспорте. Авторы исследуют правовую природу управления делами государства в связи с процессом роботизации. Достижение высоких целей требует планомерной последовательной деятельности во всех секторах экономики и социальной сферы. Предлагается сформировать системное правовое обеспечение роботизации. Речь идет об общих нормативных регуляторах, а также о развитии роботизации в отдельных отраслях и сферах, на предприятиях и в компаниях, в территориальном масштабе. Обосновывается неравномерность роботизации и ее правового обеспечения. Роль методических рекомендаций целесообразно сочетать с обновлением и упорядочением ведомственной нормативно-технической документации в цифровом формате. Актуализируется проблема рисков регулирования. Выделяются три вида возможных рисков в сфере роботизации: традиционные юридические риски (нарушение правовой системности, критерии выбора правосубъектности, отсутствие прогнозов последствий и наличие коллизий и др.); риски как следствие изъянов во взаимодействии человека и робота (нечеткость режимов принятия решений, плохая встроенность диалоговых режимов в механизм управления, недооценка функциональных режимов и др.); риски программно-технического характера, когда ошибки в программах, в использовании роботов требуют их предупреждения за счет четкой регуляции предметов деятельности. Авторы приходят к следующим выводам: необходимы планомерность и этапность процессов роботизации в контексте управления общественным процессом; разные отрасли права призваны обеспечить функцио-
© Санкт-Петербургский государственный университет, 2020
нирование роботов; предстоит исследовать последствия роботизации для «правового человека», а также новые сферы воздействия права.
Ключевые слова: роботизация, технизация, правовое регулирование, динамика, промышленность, труд, экономика, стандарт, риск, прогноз.
1. Введение
Масштабные и динамичные преобразования в обществе и окружающем мире обостряют потребности качественного управления сложными процессами. Целенаправленное воздействие на общественное развитие позволяет преодолевать риски и хаотичность событий и явлений, увеличивать удельный вес прогнозируемых результатов. Достижения науки и техники, экономический рост и высокий уровень развития социальной сферы создают необходимые условия для этого. Прогресс культуры, развитие информационных технологий и новые технические устройства ведут к новому соотношению «человеческого» и «технического» в регулировании жизнедеятельности в обществе. Создание роботов лежит в русле этих тенденций, поэтому процесс роботизации в России и других государствах приобрел значение актуальной социально-правовой повестки. Научно-техническая революция 19501960-х годов, четвертая промышленная революция и цифровизация потребовали прироста научных знаний в этой сфере (Шваб 2016; Талапина 2019Ь; Пилипенко 2019).
Успешные исследования математиков, физиков, конструкторов и стремительный рост научных достижений культуры (Чумаков 2017), образования дополнились исследованиями отечественной юридической науки (Незнамов 2018; Тихомиров, Нанба 2019). Интенсивно развивается информационное право, что позволяет выявлять правовые регуляторы в сложных информационных отношениях (Терещенко 2016; Бачило 2009). Шагом вперед становится формирование концепции правового пространства, в котором переплетаются разные уровни и виды регулирования.
Отечественная юридическая наука стремится дать некоторые ответы на вопросы правового обеспечения роботизации в России. Правда, в большей степени ученые анализируют отдельные аспекты этой темы, причем нередко в отрыве друг от друга, и поэтому пока не создается единой картины и стратегии развития в данной области1. Так, рассматриваются вопросы информационного права, имеющие отношение к «правовой роботизации» (Терещенко, Стародубова 2017), комплекс вопросов взаимовлияния информации государственного управления (Талапина 2015, 2019а), характерная динамика прав человека в Интернете (Жилкин 2018).
Процесс цифровизации в стране побудил ученых анализировать правовые аспекты этого явления, чему были посвящены научно-практические конференции (Тихомиров, Крысенкова, Нанба, Маргушева 2018). Компаративистский анализ здесь также весьма полезен. В последнее время немало публикаций отражают правовые аспекты искусственного интеллекта (Гаджиев, Войниканис 2018; Морхат 2018). Это оправданно, поскольку возникает комплекс вопросов о границах само-
1 См., напр.: Проект Концепции регулирования технологий искусственного интеллекта и робототехники. М.: Сколково, 2019.
стоятельных действий робота, о природе технических решений и их последствиях, о контрольной роли человека в сфере действия роботов высшего класса.
Обращает на себя внимание стремление представителей разных наук сделать робота принадлежностью той или иной отрасли права (Буркова 2018), но это скорее лишь попытка охарактеризовать правовые стороны явления, а не желание абсолютизировать правовой приоритет отраслей.
Какие же функции передаются роботам? Ведь многообразие деятельности людей, организаций и механизмов предполагает разные варианты. Считаем возможным выделить здесь: однообразные механические повторяющие действия; повторяющиеся варианты действий; выбор вариантов решений и действий по заданной программе; расчетные варианты действий; самообучение роботов.
Естественно, с таким разнообразием передаваемых функций связано использование разных правовых регуляторов. Одни из них способствуют процессу роботизации в разных сферах в качестве собственной части программ и проектов социально-экономического развития, другие вводят технические эквиваленты традиционных действий в правовых актах, третьи обеспечивают совмещение новых и традиционных режимов деятельности, наконец, четвертые обеспечивают соблюдение установленных режимов с помощью менталитета.
Сказанное позволяет утверждать, что почти все отрасли права участвуют в механизме правового обеспечения роботизации, у всех находится свой предмет регулирования и, соответственно, свои методы регулирования. Так, конституционное право создает основы управления знаниями и научно-технического прогресса в виде норм о правах граждан и компетенционных норм. Административное право определяет измененную либо новую компетенцию публичных органов, вводит перечни нормативно-технических документов о функционировании роботов, обосновывает режимы контроля и надзора, ответственности за соблюдение административных правил.
Широкое применение в сфере роботизации находят нормы гражданского права. Это касается доводов относительно научно-технических разработок, порядка взаимоотношений заказчиков и поставщиков, юридического удостоверения новых фактов. Новые субъективные и вещные права получают надлежащую правовую характеристику, что иллюстрирует ст. 141.1 «Цифровые права» Гражданского кодекса РФ (введена Федеральным законом от 18.03.2019 № 34-Ф3; здесь и далее все ссылки на нормативно-правовые акты, судебную практику и стандарты приводятся по СПС «КонсультантПлюс». Дата обращения 10 февраля, 2019. http://www.consultant.ru).
Трудовое право в условиях роботизации по-новому регулирует порядок действий и решений в случае поступления на работу и увольнения, заменяя набором символов виды соответствующих документов. Кроме того, меняются и перечни профессий, и набор квалификационных требований (Варламова, Судаков 2020).
Добавим к сказанному использование норм уголовного права, международного права, содержащих принципы правовой роботизации (Мосечкин 2019). Правовое регулирование в данной области требует использования системы научных понятий. Для адекватного отражения процессов роботизации применяются: 1) общенаучные понятия («процесс развития», «функционирование технических систем»), и в этом смысле роботизацию можно охарактеризовать как самороботизацию по заданной программе технического механизма; 2) общеправовые понятия (право-
вые нормы, компетенция, риск и т. д.); 3) специальные правовые понятия (заданная программа, совмещаемые решения, солидарная ответственность, саморегулирование по правилам, форс-мажорные риски, непредсказуемые действия и т. д.).
2. Основное исследование
Правовое регулирование в области роботизации в настоящее время фрагментарно. Постепенно формируется нормативная база, в основе которой лежат модельные правовые решения, научно-технические стандарты и т. д.
Решение правовых проблем существенным образом облегчается путем применения национально-правового стандарта в сфере роботизации (ГОСТ Р 60.6.3.12019. Национальный стандарт Российской Федерации. Роботы и робототехниче-ские устройства. Методы испытаний сервисных мобильных роботов для работы в экстремальных условиях. Термины и определения). Наряду с общими терминами и определениями этот стандарт предусматривает положение о взаимодействии человека и робота, заключающееся в обмене информацией и действиями между человеком и роботом в целях выполнения задания с помощью пользовательского интерфейса. Своего рода правовой глоссарий необходимо разрабатывать с учетом данного документа, а также терминов, содержащихся в соответствующих международно-правовых актах общего и специального назначения (ISO 8373:2012 Robots and robotic devices).
До недавнего времени развитие робототехники происходило в нормативном вакууме. Нормативно-правовое регулирование роботизации в Российской Федерации в большей степени строится на упоминании роботов в отдельных указах президента РФ, актах Правительства РФ и актах министерств.
Во-первых, речь идет о двух важных документах: Стратегии инновационного развития РФ на период до 2020 г. (Распоряжение Правительства РФ от 08.12.2011 № 2227-р) и Указе Президента РФ от 07.08.2018 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 г.», который поставил перед Правительством РФ приоритетную цель («ускорение технологического развития Российской Федерации, увеличение количества организаций, осуществляющих технологические инновации, до 50 % от их общего числа»), а также придал приоритетное значение развитию цифровой экономики. Кроме того, следует обратить внимание на Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», в котором к смежным областям использования искусственного интеллекта отнесены робототехника и управление беспилотным транспортом.
Среди нормативных правовых актов Правительства РФ часть документов носит стратегический характер: Прогноз научно-технического развития РФ на период до 2030 г. (Письмо Минобрнауки России от 27.03.2017 № ИК-826/02), План мероприятий по направлению «Нормативное регулирование» программы «Цифровая экономика РФ» (утв. Правительственной комиссией по использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 18.12.2017 № 2) и др.
Если говорить о ведомственном регулировании, то наиболее проработана нормативно-правовая база Министерства просвещения РФ и Министерства высшего
образования и науки РФ. В настоящее время действует ряд нормативных правовых актов, направленных на установление стандартов как школьного, так и вузовского образования по направлению «Робототехника» (Приказ Минобрнауки России от 21.11.2014 № 1491 «Об утверждении федерального государственного образовательного стандарта высшего образования по направлению подготовки 15.04.06 Меха-троника и робототехника (уровень магистратуры)»).
Основная нагрузка по разработке подзаконных актов в сфере производства роботов лежит на Министерстве промышленности и торговли РФ, которое в своих нормативных правовых документах затрагивает вопросы как разработки и производства роботов, так и импортозамещения в различных отраслях промышленности, в том числе в тех, где задействована робототехника (например, в сельском хозяйстве, станкостроении и др.) (Приказ Минпромторга России от 26.09.2014 № 1919 «О формировании Перечня технологических направлений по соответствующим государственной программе Российской Федерации "Развитие промышленности и повышение ее конкурентоспособности" (подпрограммам в рамках государственной программы "Развитие промышленности и повышение ее конкурентоспособности") приоритетным направлениям гражданской промышленности»).
Процесс роботизации динамично развивается в зарубежных государствах в мировом масштабе. Новые информационные технологии и цифровизация неизбежно связывают партнеров разных стран, что отражает устойчивую тенденцию плотного взаимодействия национального и международного права и сочетания их регуляторов. Это удается в силу социально-экономических различий и неодинаковой готовности государств к использованию новых технологий, технических средств, в том числе роботов. В связи со сказанным важно выделить три вектора влияния внешней среды (Хабриева, Тихомиров, Сырых и др. 2018).
Во-первых, осуществляется системное нормативное регулирование проблем информации в межгосударственных объединениях типа Евразийского экономического союза (далее — ЕАЭС), Организации экономического сотрудничества и развития (далее — ОЭСР), группы БРИКС, Европейского союза и др. Так, в ЕАЭС действуют стратегические и программные документы, касающиеся отдельных аспектов роботизации (Решение Высшего Евразийского экономического совета от 11.10.2017 № 12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 г.»); в ОЭСР приняты рекомендации о стратегиях информационного правотворчества по информационным коммуникационным технологиям и др. (Южаков, Добролюбова, Талапина, Тихомиров 2018). Особо отметим резолюцию Европарламента 2017 г. «Нормы гражданского права о робототехнике» (Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL). Дата обращения 10 февраля, 2020. https://www.europarl. europa.eu/doceo/document/TA-8-2017-0051_EN.html), в которой четко определены принципы и меры применения роботов в разных сферах, а также границы принятия решений и ответственности.
Во-вторых, в ряде государств действуют специальные законы о роботах, в которых отражены свойственные роботам признаки, порядок их создания и использования. Таков, например, Закон Южной Кореи о развитии и распространении умных роботов (Intelligent robots development and distribution promotion act.
2016. Дата обращения 10 февраля, 2020. http://elaw.klri.re.kr/eng_service/lawView. do?hseq=39153&lang=ENG).
В-третьих, в зарубежных странах публикуется много весьма полезных и для нашей страны книг и пособий по использованию роботов (Balkin 2015; Calo, Froom-kin, Kerr 2016; Corrales, Fenwick, Forgó 2018).
Все это свидетельствует о больших возможностях согласования решений, позиций и параметров конструкций между разными странами в интересах людей и мирового сообщества (Declaration «Cooperation on Artificial Intelligence». 2018. Дата обращения 10 февраля, 2020. https://ec.europa.eu/jrc/communities/en/node/1286/ document/eu-declaration-cooperation-artificial-intelligence).
Исследование правовых аспектов роботизации представляется уместным с учетом специфики отдельных областей общественной жизни: трудовых отношений, транспорта, промышленности, медицины, массового и индивидуального обслуживания (Тихомиров, Нанба 2019).
Особую актуальность приобретает возможность предвидения последствий роботизации в трудовой сфере и в отношениях между разными социальными слоями. Широкое распространение роботизации в различных областях экономической и социальной жизни может привести к возникновению риска исчезновения отдельных профессий. В связи с этим важно определить порядок и этапы внедрения профессий будущего (их перечень содержится в: Варламова, Судаков 2020), а также установить сдерживающие механизмы сохранения профессий, в которых используется человеческий ресурс.
Технологические решения с использованием искусственного интеллекта получили развитие в сфере транспорта. Данная тенденция ярко выражена в распространении новых видов транспортных средств (беспилотного транспорта, дронов и др.). Разрешению отдельных проблем, связанных с неопределенностью порядка использования указанных технологий, способствует правовой эксперимент — внедрение механизма регулятивных песочниц (англ. regulatory sandbox).
Так, на территориях Москвы и Республики Татарстан проводится эксперимент по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств (Постановление Правительства РФ от 26.11.2018 № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств»). Целями и задачами эксперимента являются апробация движения, определение фактических значений качественных и количественных характеристик, подтверждение возможности эксплуатации, а также выработка технических требований к автоматизированной системе вождения. Согласно индексу готовности стран к появлению и внедрению технологий автономного движения Россия занимает 22-ю позицию в рейтинге (Индекс готовности стран к использованию автономного транспорта. 2019. KPMG. Дата обращения 10 февраля, 2020. https:// assets.kpmg/content/dam/kpmg/ru/pdf/2019/02/ru-ru-autonomous-vehicles-readiness-index-2019.pdf).
Экспериментальный правовой режим предполагается и в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта. Основными его задачами выступают: создание благоприятных правовых условий развития технологий искусственного интеллекта; апробация технологий
искусственного интеллекта и результатов его применения в субъекте РФ — городе федерального значения Москве; оценка эффективности и результативности установления специального регулирования по результатам реализации экспериментального правового режима (Проект федерального закона № 896438-7 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменения в ст. 6 Федерального закона "О персональных данных"»).
Процесс роботизации входит также в области промышленности и сельского хозяйства. Развитие отраслей промышленности (электроэнергетики, топливной промышленности, черной металлургии, машиностроения и металлообработки, пищевой промышленности, медицинской промышленности, промышленности строительных материалов и др.) невозможно без автоматизированных и роботизированных устройств. Согласно международным стандартам в области робототехники, подразделение роботов на промышленные или сервисные осуществляется в соответствии с их назначением. Так, промышленный робот (industrial robot) — это автоматически управляемый, перепрограммируемый, многоцелевой манипулятор, программируемый по трем и более осям. Он либо фиксируется в заданном месте, либо имеет возможность передвижения для выполнения промышленных задач по автоматизации (ISO 8373:2012(en) Robots and robotic devices). В соответствии с рассматриваемым стандартом промышленные роботы подразделяются на следующие виды: линейные роботы, роботы SCARA (Selective Compliance Articulated Robot Arm), сочлененные роботы, параллельные роботы, цилиндрические роботы.
Согласно данным, содержащимся во Всемирном отчете о состоянии промышленной робототехники, в 2017 г. в мире было поставлено рекордное количество продаж промышленных роботов — 381 тыс. единиц, что на 30 % больше, чем в предыдущем году. Это означает, что годовой объем продаж промышленных роботов увеличился на 114 % за последние пять лет (2013-2017 гг.). В 2017 г. на пять основных рынков (Китай, Японию, Южную Корею, США и Германию) приходилось 73 % от общего объема продаж промышленных роботов (World Robotics — Industrial Robot Report 2018. Дата обращения 10 февраля, 2020. https://ifr.org/downloads/ press2018/Executive_Summary_WR_2018_Industrial_Robots.pdf).
Использование промышленных роботов в мире осуществляется преимущественно в автомобильной, электронной и электротехнической, металлургической промышленности. В последние годы процесс изготовления легковых автомобилей становится все более сложным: значительная часть производственных процессов в настоящее время требует решений с использованием роботов. Производители как гибридных автомобилей и электромобилей, так и традиционных автомобилей испытывают повышенный спрос на видовое разнообразие. Кроме того, достижение климатических целей, поставленных в Климатической повестке 2030 (Парижское соглашение по климату. 2015. Дата обращения 10 февраля, 2020. http://unfccc. int/files/meetings/paris_nov_2015/application/pdf/paris_agreement_russian_.pdf), требует увеличения доли новых автомобилей с низким и нулевым уровнем выбросов.
Анализ российского законодательного регулирования в рассматриваемой области свидетельствует о высокой роли документов стратегического характера.
В Стратегии развития автомобильной промышленности РФ на период до 2025 г. к приоритетным направлениям инновационного развития автомобилестроения в Российской Федерации отнесены: улучшение энергоэффективности и повышение экологических показателей транспортных средств, гармонизация требований технических регламентов, стандартов и правил с международной практикой; технологии электрификации транспортных средств (электромобили, гибриды); технологии автономизации и роботизации транспортных средств (Распоряжение Правительства РФ от 28.04.2018 № 831-р «Об утверждении Стратегии развития автомобильной промышленности РФ на период до 2025 г.»).
В Постановлении Правительства РФ от 15.04.2014 № 303 «Об утверждении государственной программы Российской Федерации "Развитие авиационной промышленности"» предусмотрено, что основными мерами по обеспечению увеличения производительности труда, созданию и модернизации высокопроизводительных рабочих мест в Российской Федерации являются цифровизация проектирования, производства и испытаний авиационной техники, внедрение передовых производственных технологий. Эти меры должны стимулировать приток в авиационную промышленность персонала с требуемыми компетенциями в области робототехники.
Государственная программа РФ «Развитие промышленности и повышение ее конкурентоспособности» (Постановление Правительства РФ от 15.04.2014 № 328) предусматривает необходимость создания полноценной инфраструктуры, включая пилотные, опытно-промышленные, промышленные предприятия, инжиниринговые компании и центры отработки технологий применения инновационных продуктов и технологий, обеспечения локализации в Российской Федерации инновационных производств и исследовательских центров ведущих международных технологических корпораций для отраслей, ориентированных на создание новых видов инновационной продукции, в том числе робототехники, технологий цифрового производства, аддитивных технологий, инженерного программного обеспечения.
Следующий уровень регуляции — подзаконное нормотворчество. Основная нагрузка по разработке подзаконных актов в сфере производства роботов лежит на Министерстве промышленности и торговли, которое в своих нормативных правовых документах затрагивает вопросы разработки и производства роботов, импортозамещения в различных отраслях промышленности, в том числе в тех, где задействована робототехника (в сельском хозяйстве, станкостроении и др.) (Приказ Минпромторга России от 26.09.2014 № 1919).
Составной частью стратегического планирования в России выступает система национальных проектов. Правовое регулирование отдельных вопросов развития промышленности отражено в национальных проектах «Безопасные и качественные автомобильные дороги» (внедрение автоматизированных и роботизированных технологий организации дорожного движения и контроля за соблюдением правил дорожного движения) (Паспорт национального проекта «Безопасные и качественные автомобильные дороги», утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 24.12.2018 № 15). Национальная программа «Цифровая экономика Российской Федерации» предусматривает: развитие инфраструктуры мобильной и спутниковой
связи нового поколения; создание инструментов планирования развития сетей связи и стимулирование развития отрасли связи; оценку возможности отечественной промышленности по производству оборудования для обеспечения мероприятий по созданию и построению сетей связи и информационной инфраструктуры; создание глобальной конкурентоспособной инфраструктуры обработки и хранения данных на территории РФ; введение в промышленную эксплуатацию государственной единой облачной платформы (Паспорт национальной программы «Цифровая экономика Российской Федерации», утв. протоколом заседания президиума Совета при Президенте РФ стратегическому развитию и национальным проектам от 04.06.2019 № 7).
Законодательное регулирование в области промышленной робототехники осуществляется также и на уровне субъектов РФ. Региональная политика в сфере промышленности предусматривает комплекс мер, нацеленных на сглаживание диспропорций отраслевого, технологического и пространственного характера, затрудняющих взаимодействие между секторами экономики и не устраняемых традиционными рыночными механизмами, систему целенаправленных действий по развитию механизмов финансирования инвестиций в основной капитал.
Основные направления развития промышленного производства содержатся в стратегиях социально-экономического развития того или иного субъекта РФ. Так, в стратегию Кемеровской области включены следующие векторы развития:
— развитие, поддержка, регулирование и административное обеспечение сложившихся кластеров в базовых отраслях промышленности: угольного, химического, металлургического, машиностроительного;
— модернизация действующих производств — локомотивов отраслей, поддержка современной инженерной инфраструктуры для развития промышленности и формирование новой экономики;
— обеспечение перехода базовых и поддерживающих отраслей промышленности на принципы «Индустрии 4.0» (включая проекты «Интеллектуальный (цифровой) карьер», «Цифровая фабрика», «Система цифрового земледелия»);
— обеспечение технических и институциональных условий массового транзита к безлюдным и роботизированным технологиям в горнорудной и обрабатывающей промышленности;
— повышение производительности труда в основных видах экономической деятельности до среднероссийского уровня и выше и др. (Закон Кемеровской области от 26.12.2018 № 122-ОЗ «Об утверждении Стратегии социально-экономического развития Кемеровской области до 2035 г.»).
Заслуживает внимания опыт ряда субъектов РФ, направленный на сохранение и рост промышленного потенциала регионов. В субъектах РФ действуют различные государственные программы инновационного развития промышленности, обрабатывающих отраслей промышленности и предпринимательства. Так, в Республике Татарстан принята Стратегия развития отраслей промышленности Республики Татарстан на период 2016-2021 гг. с перспективой до 2030 г., также приоритетным является развитие инновационного направления «Умное оборудование». Данная стратегия включает разработку, внедрение, производство и сбыт нового нефте-
сервисного, газового, энерго-, электро-, пищевого оборудования, станкостроение, робототехнику (манипуляционные, летающие, передвижные, нано- и человекоподобные роботы, smart-сервисы) (Приказ Минпромторга Республики Татарстан от 26.07.2017 № 185-ОД «О стратегии развития отраслей промышленности Республики Татарстан на период 2016-2021 гг. с перспективой до 2030 г.»).
Стратегия социально-экономического развития Челябинской области на период до 2035 г. включает учет и использование глобальных трендов: освоение Арктики; автоматизация и роботизация промышленных производств; рост использования возобновляемых источников энергии; использование технологий Big Data, промышленного интернета вещей в промышленном производстве и секторе B2C; переход на новые материалы с улучшенными физическими свойствами; дефицит сельскохозяйственной продукции, удовлетворяющей экологическим требованиям (Постановление Законодательного собрания Челябинской области от 31.01.2019 № 1748 «Об утверждении Стратегии социально-экономического развития Челябинской области на период до 2035 г.»).
Особая роль субъектов РФ в процессе развития роботизации заключается в создании специализированных организаций для стимулирования кооперации промышленной сферы, таких как робототехнические кластеры, индустриальные парки, центры развития робототехники. Например, в Рязанской области созданы кластеры по ряду направлений, в числе которых: машиностроение, радиоэлектроника и робототехника, медицина, промышленность строительных материалов, агропромышленный кластер и др. С целью осуществления кооперации и реализации совместных проектов планируется создание некоммерческой организации, которая как коммуникационная площадка станет существенным фактором координации деятельности крупных, малых и средних организаций Рязанской области (Постановление Правительства Рязанской области от 29.10.2014 № 306 (ред. от 04.02.2019) «Об утверждении государственной программы Рязанской области "Экономическое развитие"»).
Отметим также производственную стратегию развития кластера «Южное созвездие» Ростовской области. Участники кластера «Южное созвездие» расположены в Ростове-на-Дону, Таганроге, Азове, Новочеркасске — самых крупных населенных пунктах Ростовской области, обладающих мощным научно-инновационным и промышленным потенциалом, развитой социальной и инженерной инфраструктурой (Постановление Правительства Ростовской области от 18.02.2016 № 104 (ред. от 13.10.2016) «Об утверждении стратегий развития приоритетных территориальных кластеров Ростовской области на 2016-2020 гг.»).
Развитие робототехники и искусственного интеллекта определяется не только деятельностью публичных органов власти, но и непосредственно деятельностью предприятий и организаций. В связи с этим возрастает роль локальных актов в данной сфере. Основная цель локальных актов состоит в содействии решению задач предприятий — в повышении эффективности производства и качества продукции. Данная цель достигается при помощи разработки правовых актов, содержащих локальные правовые нормы. Отдельные виды подобных актов можно рассмотреть на примере публичного акционерного общества «КАМАЗ»:
— правовые акты, регулирующие отношения внутренней структуры предприятия; должностные инструкции, положения структурной организации
о Совете директоров, о Ревизионной комиссии (Внутренние документы ОАО «КАМАЗ». Дата обращения 10 февраля, 2020. https://kamaz.ru/inves-tors-and-shareholders/information-disclosure/new-edition);
— правовые акты, регулирующие движение информации; к ним относятся: Положение об инсайдерской информации, Информационная политика предприятия, определяющая цели и принципы раскрытия информации;
— положение о вознаграждениях и компенсациях, выплачиваемых работникам.
Важную роль в обеспечении интересов субъектов промышленности играют российские общественные организации, такие как Российский союз промышленников и предпринимателей, Союз машиностроителей России. В нашей стране также действует Фонд развития промышленности, созданный в 2014 г. по инициативе Министерства промышленности и торговли РФ путем преобразования Российского фонда технологического развития. Деятельность фонда осуществляется по следующим направлениям: льготные условия софинансирования проектов, направленных на разработку новой высокотехнологичной продукции; импорто-замещение; экспорт; лизинг производственного оборудования; реализация станкостроительных проектов; цифровизация действующих производств; производство предприятиями оборонно-промышленного комплекса высокотехнологичной продукции гражданского и/или двойного назначения; производство комплектующих; маркировка лекарств и повышение производительности труда.
Исследование правовых аспектов роботизации не может осуществляться без использования социолого-правового метода. В качестве живой картины представляется интересным привести итоги опроса, проведенного в рамках XIV Международной школы-практикума молодых ученых-юристов «Право перед вызовами технологической революции», состоявшейся 31 мая — 1 июня 2019 г. В опросе приняли участие ученые-юристы, преподаватели, аспиранты и студенты юридических учебных заведений, представители бизнес-сообщества2. Анкета содержала следующие вопросы:
Сохраняется ли роль права в условиях цифровизации или на смену приходит
техническое регулирование:
— сохраняется традиционная сфера правового регулирования (15,6 %);
— цифровизация влияет на новые сферы правового регулирования (34,3 %);
— возникает новый тип социально-технических регуляторов (28,1 %);
— изменяется статус гражданина в цифровой реальности (18,75 %);
— техническое регулирование — часть правового регулирования (3,25 %).
Как изменится законодательство в условиях цифровизации:
— потеряет значение деление на отрасли законодательства и правовые институты (7,4 %);
— форма и содержание законодательства существенно не изменятся (51,8 %);
2 Опрос проведен 31 мая 2019 г. в рамках Ярмарки идей «Динамика права в обществе: "человеческое" или "техническое"» (XIV Международная школа-практикум молодых ученых-юристов «Право перед вызовами технологической революции», Москва, Институт законодательства и сравнительного пра-воведения при Правительстве РФ, 31 мая — 1 июня 2019 г.).
— границы международного права и национального законодательства сотрутся, будут замещены соглашениями и техническими регламентами (протоколами) транснациональных цифровых корпораций (21,8 %);
— законодательные нормы будут переведены в формат компьютерного кода (алгоритм), который будет разрабатываться с помощью искусственного интеллекта (11,1 %);
— изменится форма, но не содержание (7,9 %).
Как цифровизация повлияет на компетенцию и процедуры деятельности субъектов публичного и частного права:
— взаимодействие между органами публичной власти и гражданами при оказании государственных и муниципальных услуг будет осуществляться преимущественно в цифровом формате (37,5 %);
— заключение, изменение, расторжение сделок перейдет в цифровой формат и будет базироваться на единой программной платформе (18,7 %);
— часть публичных функций органов власти перейдет к транснациональным и государственным цифровым корпорациям, которые начнут конкурировать с государством за сферы влияния и финансовые активы (6,25 %);
— государство постепенно трансформируется в «суперцифровую корпорацию», основанную на принципах функционирования бизнес-структур (8,3 %);
— голосование на выборах, референдумах будет осуществляться в цифровом формате посредством использования единой программной платформы (20,8 %);
— для управления цифровым миром и информационными потоками будет создано глобальное электронное правительство (8,45 %).
Как могут изменяться процедуры разработки, обсуждения и принятия законов и иных правовых актов:
— процесс нормотворчества перейдет в цифровой формат взаимодействия между органами представительной и исполнительной власти, основанный на единой программной платформе (40 %);
— граждане получат возможность инициирования и продвижения проектов нормативных правовых актов с помощью цифровых технологий и искусственного интеллекта (23,3 %);
— произойдет сращивание нормативных правовых актов органов публичной власти и регламентов цифровых корпораций, а также гибридизация нормативного правового регулирования (23,4 %);
— цифровые технологии позволят реализовать модель прямой демократии, когда управленческие решения и нормативные правовые акты смогут приниматься непосредственно гражданами, которые станут полноценными участниками процесса нормотворчества (13,3 %).
Какие проблемы возникают в диалоговых режимах «человек — машина»:
— защита персональных данных пользователей от неправомерного использования, включая угрозы идентичности «цифровой личности» граждан (35,4 %);
— ограниченность и неэффективность средств правовой защиты прав и интересов граждан в глобальном цифровом мире (22,9 %);
— манипулирование общественным мнением и управление поведением (25 %);
— контроль за деятельностью государства и транснациональных корпораций со стороны граждан (2,1 %);
— контроль за деятельностью автономных транспортных систем, роботами, решениями, принимаемыми с помощью искусственного интеллекта, проблема определения лиц, ответственных за такие решения, и степени их юридической ответственности (14,6 %).
Приведенные сведения показывают, что особое значение приобретает динамика правового обеспечения человеческого фактора в условиях роботизации, поэтому столь важны такие возможные решения, как активизация роли ассоциаций (по профессиям и интересам) в саморегулировании в соответствующих сферах. Кроме того, предстоит расширить анализ соотношения этических и правовых норм, которые позволят сформировать своего рода единообразный правовой язык в диалоге между человеком и роботом и между роботами (Малышкин 2019).
Предложим некоторые примитивные правила создания и использования роботов:
— цель роботизации — облегчение условий деятельности человека и создание комфортной среды жизни;
— роботы проектируются и создаются на основе новейших научно-технических достижений;
— обеспечиваются условия и требования безопасного действия роботов;
— роботы создаются для выполнения трудовых операций людей и функциональных обязанностей публичных и частных структур;
— сфера действий робота определяется нормативно-техническими нормами;
— предотвращение и устранение рисков действий роботов относятся к компетенции программистов, разработчиков и операторов в соответствии с их правовым статусом;
— обеспечивается надлежащее информирование о действиях робота заинтересованных граждан и юридических лиц;
— человек или органы, функционирующие с помощью роботов, обязаны повышать качество своей деятельности;
— создаются структуры, ответственные за методологическое и программно-техническое обслуживание роботов;
— периодически проводится мониторинг реального уровня действий роботов, ответственные граждане и юридические лица подготавливают предложения перспективного использования роботов.
Всякая масштабная деятельность сопровождается рисками. Естественно, в процессе роботизации могут возникать риски как на этапе разработки робототехники, так и на стадии ее широкого применения. В рисках поразительным образом сочетаются вызовы и угрозы существующему правопорядку и его возможным изменениям в условиях роботизации.
Ввиду новизны исследуемых явлений можно предварительно выделить следующие риски:
— неумелый выбор объектов роботизации, когда происходит замена традиционных (ручных) видов деятельности робототехническими средствами;
— ошибки при подготовке программ функционирования робототехники, допускаемые ввиду как сложности явления, так и невысокой квалификации работников;
— медленная адаптация компетенции процедур деятельности управленческих, экономических организаций и их работников;
— отставание модификации правового регулирования, т. е. задержка с отменой устаревших юридических правил и введением новых правовых регуляторов;
— слабая информационная защищенность робототехники от возможных попыток взлома и нарушения нормальной работы, допущение легкой доступности ключей и кодов робототехники;
— возникновение новых коррупционных правонарушений в связи с использованием новых робототехнических средств.
Таким образом, разработка и освоение антирисковых механизмов в условиях роботизации требуют специальной подготовки работников, их участие необходимо на всех этапах создания и оценки эффективности применения робототехниче-ских средств. Столь же опасны управленческие риски, когда ошибка робота при принятии решений не позволяет правильно использовать его. Поэтому в механизме социально-экономического и юридического прогнозирования (Кузык, Кушлин, Яковец 2008) нужно предусматривать правовые решения и действия в зависимости от реальных типов и масштабов роботизации.
Предотвращение правовых рисков сопряжено с поиском новых векторов развития, среди которых можно выделить:
— медленные изменения в правовом сознании; роботизация требует других компетенций, оценок и действий, в повестке дня — отказ от привычного консервативного правосознания и формирование эвристического сознания, когда происходит поиск новых правовых решений и действий; адаптация к научно-технологическому развитию требует как сохранения устойчивых правовых принципов, так и гибкости юридического мышления;
— определение места робота в системе регуляторов производственной и иной деятельности, характеристика его статуса как возможного субъекта права и реального объекта права;
— постепенная и поэтапная трансформация правовой регламентации в сфере роботизации; неизбежен переход от административно-правового к системному регулированию с участием многих отраслей законодательства; здесь нужны программы правовой модернизации в соответствии с реальными социально-экономическими и научно-техническими изменениями;
— преобразование характера и содержания правового общения, когда партнерами человека станут автоматизированные устройства; новые диалоги потребуют изменения привычных процедур деятельности и принятия решения;
— неизбежные изменения в организации труда, производственных процессов и в сфере обслуживания, когда произойдут перемены в статусе работников, партнеров и клиентов;
— решение проблем роботизации и цифровизации в контексте реализации национальных проектов; неминуемы рокировки в статусах и во взаимоотношениях государственных органов и бизнес-структур.
3. Выводы
Проведенное исследование позволяет сделать следующие выводы:
— процесс роботизации приводит к появлению новых предметов правового регулирования, что предполагает поиск новых решений в разных сферах экономического и социального развития, гибкого совмещения традиционных нормативных и технических регуляторов;
— очевидно востребованными стали вопросы, связанные с природой и типологией человеко-машинных решений, с выбором оснований и мер ответственности за технические и социальные нарушения правопорядка;
— актуальное значение приобретает системная адаптация государственного управления, механизмов хозяйственной и социальной деятельности к появлению робототехнических устройств; необходимы обоснованная постепенность и гибкость в выборе форм локального, подзаконного и законодательного регулирования;
— для теории права новой проблемой стала разработка механизмов воздействия на социально-экономические процессы с помощью новых электронных технологий и робототехнических устройств (означает ли это сохранение известной формулы Ф. Энгельса о том, что в будущем на место управления людьми придет управление вещами?);
— анализ процессов роботизации в фокусе права позволяет предвидеть постепенное изменение целого ряда трудовых и иных функций человека и увеличение его свободного времени, поэтому необходима разработка новых аспектов развития законодательства в сфере науки, образования, культуры и спорта; комфортный досуг должен быть содержательным для человека и общества.
Библиография
Бачило, Иллария Л. 2009. Информационное право. М.: Юрист.
Буркова, Анастасия Ю. 2018. «Использование искусственного интеллекта: нужно ли регулирование?». Право и экономика 9: 5-8.
Варламова, Дарья, Дмитрий Судаков, ред. 2020. Атлас новых профессий 3.0. М.: Интеллектуальная литература.
Гаджиев, Гадис А., Елена А. Войниканис. 2018. «Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики)». Право. Журнал Высшей школы экономики 4: 24-48.
Жилкин, Владимир А. 2018. «Цифровые технологии и применение искусственного интеллекта в Финляндии и России: сравнительно-правовые исследования». Журнал зарубежного правоведения и зарубежного законодательства 6: 74-78.
Кузык, Борис Н., Валерий Н. Кушлин, Юрий В. Яковец. 2008. Прогнозирование, стратегическое планирование. М.: Национальное программирование. Экономика.
Малышкин, Александр В. 2019. «Интегрирование искусственного интеллекта в общественную жизнь: некоторые этические и правовые проблемы». Вестник Санкт-Петербургского университета. Право 3: 444-460.
Морхат, Петр М. 2018. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы. Дис. ... д-ра юрид. наук, Российская государственная академия интеллектуальной собственности.
Мосечкин, Илья Н. 2019. «Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления». Вестник Санкт-Петербургского университета. Право 10 (3): 461-476.
Незнамов, Андрей В., ред. 2018. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта. М.: Инфотро-пик Медиа.
Пилипенко, Анатолий Н. 2019. «Франция: к цифровой демократии». Право. Журнал Высшей школы экономики 4: 185-207.
Талапина, Эльвира В. 2015. Государственное управление в условиях информационного общества. М.: Юриспруденция.
Талапина, Эльвира В. 2019a. «Цифровая трансформация во Франции: правовые новеллы». Право. Журнал Высшей школы экономики 4: 164-184.
Талапина, Эльвира В. 2019b. «Права человека в Интернете». Журнал российского права 2: 5-17.
Терещенко, Людмила К. 2016. «Понятийный аппарат информационного и телекоммуникационного права: проблемы правоприменения». Журнал российского права 10: 101-108.
Терещенко, Людмила К., Олеся Е. Стародубова. 2017. «Загадки информационного права». Журнал российского права 7: 156-161.
Тихомиров, Юрий А., Наталия Б. Крысенкова, Сариа Б. Нанба, Жанна А. Маргушева. 2018. «Робот и человек: новое партнерство?» Журнал зарубежного законодательства и сравнительного правоведения 5 (72): 5-10.
Тихомиров, Юрий А., Сариа Б. Нанба, ред. 2019. Юридическая концепция роботизации. М.: Проспект.
Хабриева, Талия Я., Юрий А. Тихомиров, Владимир М. Сырых и др., ред. 2018. Национальное и универсальное в праве: от традиций к постмодернизму: сборник материалов VII Международного конгресса сравнительного правоведения (Москва, 1-2 декабря 2017 г.). М.: Институт законодательства и сравнительного правоведения при Правительстве РФ.
Чумаков, Александр Н., ред. 2017. Культура в условиях глобализации. Взгляд из России. М.: Кнорус.
Шваб, Клаус. 2016. Четвертая промышленная революция. М.: Эксмо.
Южаков, Владимир Н., Елена И. Добролюбова, Эльвира В. Талапина, Юрий А. Тихомиров. 2018. Анализ возможности учета требований ОЭСР к качеству государственного управления в целях развития правового регулирования российского государственного управления. М.: Дело.
Balkin, Jack M. 2015. "The Path ofRobotics Law". California Law Review, Forthcoming; Yale Law School, Public Law Research Paper No. 536. Дата обращения 10 февраля, 2020. https://ssrn.com/abstract=2586570.
Calo, Ryan, Michael A. Froomkin, Ian Kerr. 2016. Robot Law. Cheltenham: Edward Elgar Publishing.
Corrales, Marcelo, Mark Fenwick, Nikolaus Forgo, eds. 2018. Robotics, AI and the Future of Law. Singapore: Springer Verlag.
Статья поступила в редакцию 13 февраля 2020 г.;
рекомендована в печать 19 июня 2020 г.
Контактная информация:
Тихомиров Юрий Александрович — д-р юрид. наук, проф.; [email protected] Нанба Сариа Беслановна — канд. юрид. наук; [email protected]
Robotization: Dynamics of legal regulation
Yu. A. Tikhomirov, S. B. Nanba
Institute of Legislation and Comparative law under the Government of the Russian Federation,
34, Bol'shaya Cheremushkinskaya ul., Moscow, 117218, Russian Federation
For citation: Tikhomirov, Yuriy A., Saria B. Nanba. 2020. "Robotization: Dynamics of legal regulation". Vestnik of Saint Petersburg University. Law 3: 532-549. https://doi.org/10.21638/spbu14.2020.301
(In Russian)
The article analyzes the legal basis of robotization. The regulation features in this area are formulated due to the complex nature of the relationship. The legal problems of robotization in various areas of public life are given consideration: economics, labor relations, industry, and transport. The authors investigate the legal nature of managing state affairs in connection with the robotization process. Achieving high goals requires systematic consistent activity in all sectors of the economy and social sphere. This involves, firstly, general regulators, and secondly, the development of robotization in individual industries and fields, at enterprises and companies on a territorial scale. In particular, such is the experience of larger enterprises and here local regulators are necessary. It is proposed to formulate a system of legal support for robotization. The variation of robotization and its legal support is substantiated. In this regard, the role of methodological recommendations of the federal authorities should be combined with the updating and streamlining of departmental regulatory and technical documentation in electronic form. The problem of regulatory risks is becoming more relevant and the authors distinguish three types of possible risks in the field of robotization: traditional legal risks (violation of the legal system, criteria for choosing a legal personality, the absence of forecasting consequences and the presence of conflicts, etc.); risks as a result of flaws in the interaction of man and robot (unclear decision-making modes, poor "embeddedness" regarding dialogue modes in the control mechanism, underestimation of functional modes, etc.); risks of a program-technical nature, when errors in programs and the use of robots require their warning due to the clear regulation of objects of activity. The conclusions reached by the authors are that the robotic processes are planned and phased in the context of managing the public process; different branches of law are designed to ensure the functioning of robots; it is necessary to investigate the consequences of robotization for a "legal person", its self-development, as well as new areas of the influence of law in place of the former.
Keywords: robotization, legal regulation, dynamics, risks, regulation, digitalization, forecasting.
References
Bachilo, Illariia L. 2009. Information law. Moscow, Iurist Publ. (In Russian)
Balkin, Jack M. 2015. "The Path of Robotics Law". California Law Review, Forthcoming; Yale Law School, Public Law Research Paper No. 536. Accessed February 10, 2020. https://ssrn.com/abstract=2586570.
Burkova, Anastasiia Yu. 2018. "The use of artificial intelligence: is regulation necessary". Pravo i ekonomika 9: 42-45. (In Russian)
Calo, Ryan, Michael. A. Froomkin, Ian Kerr. 2016. Robot Law. Cheltenham, Edward Elgar Publishing.
Chumakov, Alexandr N., ed. 2017. Culture in the context of globalization. View from Russia. Moscow, Knorus Publ. (In Russian)
Corrales, Marcelo, Mark Fenwick, Nikolaus Forgo, eds. 2018. Robotics, AI and the Future of Law. Singapore, Springer Verlag.
Gadzhiev, Gadis A., Elena A. Voinikanis. 2018. "Could a robot be a subject of law? (Search for legal forms to regulate the digital economy)". Pravo. Zhurnal Vysshei shkoly ekonomiki 4: 24-48. (In Russian)
Iuzhakov, Vladimir N., Elena I. Dobroliubova, El'vira V. Talapina, Iurii A. Tikhomirov. 2018. Analysis of the possibility of taking into account the OECD requirements for the quality of public administration in order to develop legal regulation of Russian public administration. Moscow, Delo Publ. (In Russian)
Khabrieva, Taliia Ia., Iurii A. Tikhomirov, Vladimir M. Syrykh et al., eds. 2018. The National and the Universal in Law: From Traditions to Postmodernism: materials of the VII International Congress of Comparative Law (Moscow, December 1-2, 2017). Moscow, The Institute of Legislation and Comparative Law under the Government of the RF. (In Russian)
Kuzyk, Boris N., Valerii N. Kushlin, Iurii V. Iakovets. 2008. Forecasting, strategic planning. Moscow, Natsional'noe programmirovanie. Ekonomika Publ. (In Russian)
Malyshkin, Aleksandr V. 2019. "Integration of artificial intelligence into public life: some ethical and legal problems". Vestnik Sankt-Peterburgskogo universiteta. Pravo 3: 444-460. (In Russian)
Morkhat, Petr M. 2018. Legal personality of artificial intelligence in the field of intellectual property law: civil law problems. Dr. Sci. in Law Diss., Rossiiskaia gosudarstvennaia akademiia intellektual'noi sob-stvennosti. (In Russian)
Mosechkin, Il'ia N. 2019. "Artificial intelligence and criminal liability: problems of becoming a new type of
crime subject". Vestnik Sankt-Peterburgskogo universiteta. Pravo 10 (3): 461-476. (In Russian) Neznamov, Andrew V., ed. 2018. Robotics Regulation: An Introduction to Robot Law. Legal Aspects of the Development of Robotics and Artificial Intelligence Technology. Moscow, Infotropik Media Publ. (In Russian)
Pilipenko, Anatolii N. 2019. "France: Toward Digital Democracy". Pravo. Zhurnal Vysshei shkoly ekonomiki
4: 185-207. (In Russian) Shvab, Klaus. 2016. Fourth Industrial Revolution. Moscow, Eksmo Publ. (In Russian)
Talapina, El'vira V. 2015. Public administration in the information society. Moscow, Iurisprudentsiia Publ. (In Russian)
Talapina, El'vira V. 2019a. "Digital Transformation in France: Legal Innovations". Pravo. Zhurnal Vysshei
shkoly ekonomiki 4: 164-184. (In Russian) Talapina, El'vira V. 2019b. "Human Rights on the Internet". Zhurnal rossiiskogo prava 2: 5-17. (In Russian) Tereshchenko, Liudmila K. 2016. "The Conceptual Framework of the Information and Telecommunication
Law: Enforcement Issues". Zhurnal rossiiskogo prava 10: 101-108. (In Russian) Tereshchenko, Liudmila K., Olesia E. Starodubova. 2017. "The mysteries of information law". Zhurnal rossiiskogo prava 7: 156-161. (In Russian) Tikhomirov, Iurii A., Nataliia B. Krysenkova, Saria B. Nanba, Zhanna A. Margusheva. 2018. "Robot and Human: A New Partnership?" Zhurnal zarubezhnogo zakonodatel'stva i sravnitel'nogo pravovedeniia 5 (72): 5-10. (In Russian)
Tikhomirov, Iurii A., Saria B. Nanba, eds. 2019. Legal concept of robotization. Moscow, Prospekt Publ. (In Russian)
Varlamova, Dar'ia, Dmitrii Sudakov, eds. 2020. Atlas of new professions 3.0. Moscow, Intellektual'naia literatura Publ.
Zhilkin, Vladimir A. 2018. "Digital technologies and the use of artificial intelligence in Finland and Russia: comparative legal studies". Zhurnal zarubezhnogo pravovedeniia i zarubezhnogo zakonodatel'stva 6: 74-78. (In Russian)
Received: February 13, 2020 Accepted: June 19, 2020
Authors' information:
Yuriy A. Tikhomirov — Dr. Sci. in Law, Professor; [email protected] Saria B. Nanba — PhD in Law; [email protected]
