CC BY
95
УДК 340.11 DOI: 10.24420/KUI.2019.80.51.004
М.Г. Щербаков
ПРАВОВЫЕ ЗАПРЕТЫ И ОГРАНИЧЕНИЯ В ОБЛАСТИ ИССЛЕДОВАНИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
LEGAL PROHIBITIONS AND LIMITATIONS IN ARTIFICIAL INTELLIGENCE RESEARCH
Введение: в статье рассматриваются проблемы использования запретов и ограничений в области исследований искусственного интеллекта в конкретных исторических условиях. Обращено внимание на необходимость создания оптимального правового режима исследований искусственного интеллекта посредством использования правовой модели.
Материалы и методы: в ходе работы над статьей применялись следующие методы: формально-юридический, логический, сравнительно-правовой, историко-правовой, аналитический. Содержательная часть статьи базируется на исследованиях в области искусственного интеллекта.
Результаты исследования: в статье проведен анализ положений, регулирующих использование методов генной инженерии и экспортного контроля в создании искусственного интеллекта.
Обсуждение и заключения: обосновывается взаимосвязь права, науки и морали в правовой модели в условиях цифровизации общества. Автор дает определение правовой модели в области исследований искусственного интеллекта и обращает внимание на достоинства использования данной модели в области регулирования исследований искусственного интеллекта благодаря методу абстрагирования. Автор демонстрирует использование правовой модели для описания существенных свойств регулируемых отношений в области искусственного интеллекта, а также для устранения необоснованных и архаичных запретов и ограничений в механизме правового регулирования.
Ключевые слова: искусственный интеллект, правовой режим, правовая модель, генная инженерия, экспортный контроль, запреты и ограничения, конвергенция наук, конвергентные технологии
Для цитирования: Щербаков М.Г. Правовые запреты и ограничения в области исследований искусственного интеллекта // Вестник Казанского юридического института МВД России. 2019. Т. 10, No 4. С. 436-441. DOI: 10.24420/KUI.2019.80.51.004
Introduction: the article discusses the issues of prohibitions and restrictions in artificial intelligence research in specific historical conditions. Attention is drawn to the need to make an optimal legal regime for artificial intelligence research through the usage of a legal model.
Materials and Methods: formal-legal, logical, comparative-legal, historical-legal, analytical methods are used. The content of the article is based on research in artificial intelligence.
Results: the author analyzes provisions regulating the usage of methods of genetic engineering and export control in artificial intelligence development.
Discussion and Conclusions: the interrelation of law, science and morality in the legal model in digi-talization of society is substantiated. The author defines the legal model in artificial intelligence research, draws attention to the advantages of usage the legal model in regulation of artificial intelligence research due to the method of abstraction. The author demonstrates the usage of the legal model to describe the essential properties of regulated relations in artificial intelligence, as well as to eliminate unreasonable and archaic prohibitions and restrictions in legal regulation.
Key words: artificial intelligence, legal regime, legal model, genetic engineering, export control, prohibitions and restrictions, convergence of sciences, convergent technologies
For citation: Scherbakov M.G. Legal Prohibitions and Limitations in Artificial Intelligence Research // Bulletin of the Kazan Law Institute of MIA of Russia. 2019. V. 10, N 4. P. 436-441. DOI: 10.24420/ KUI.2019.80.51.004
Введение
Указом Президента Российской Федерации «О развитии искусственного интеллекта» от 10.10.2019 № 490 утверждена национальная стратегия развития искусственного интеллекта на период до 2030 года1. В данном указе приведено определение искусственного интеллекта как комплекса технологических решений, позволяющих имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Исследования в области искусственного интеллекта являются междисциплинарными исследованиями, проводимыми коллаборациями ученых, работающих в разных сферах. В связи с изложенным имеется необходимость в разработке и внедрении правового режима междисциплинарных исследований в области искусственного интеллекта, а также снятия необоснованных и архаичных запретов и ограничений в научно-исследовательской деятельности в области искусственного интеллекта.
Обзор литературы
В современной юридической науке крайне мало исследований, посвященных проблемам регулирования научно-исследовательской деятельности в области искусственного интеллекта, а также использования методов генной инженерии в области создания человекоподобных структур. Также можно отметить возрастающий интерес к проблеме искусственного интеллекта [1, 2, 3, 4, 5], его правового статуса [4, 6], правовой модели [7]. В связи с этим неуклонно возрастает количество исследовательских работ, так или иначе отражающих основные идеи регулирования отношений в сфере искусственного интеллекта.
Материалы и методы
Основу исследования составили такие методы, как формально-юридический, логический, сравнительно-правовой, историко-правовой. Кроме того, в исследовании был использован междисциплинарный подход. В совокупности данные методы позволили провести анализ ряда отдельных нормативных правовых актов, регулирующих научно-исследовательскую деятельность в области искусственного интеллекта. Материалами исследования послужили публикации ученых, занимающихся вопросами искусственного интеллекта. При этом следует отметить отсутствие работ, исследующих проблемы правового регулирования научно-исследовательской деятельности в области искусственного интеллекта.
Результаты исследования
Современный этап развития науки можно обозначить как постнеклассический, обусловленный процессом коллаборации ученых и интеграцией наук. М.В. Ковальчук указывал, что постнекласси-ческое естествознание вступает в новый этап своего развития, когда появляется возможность на основе целенаправленного создания искусственных природоподобных конструкций принципиально изменить отношения между техносферой и биосферой [8, с. 16]. В результате четвертой промышленной революции появились новые технологии (интернет-вещи, большие данные, искусственный интеллект, дополненная и виртуальная реальность, облачные вычисления, цифровые двойники), которые обусловили трансформацию общественных отношений (человек - машина - человек). А.А. Карцхия ввел новое понятие - «цифровой императив» - как основу предстоящей трансформации, понимая под этим образование новых общественных связей и структуры государственного управления на базе цифровых технологий [9, с. 18]. Цифровая экосистема предопределила использование алгоритма в правовом регулировании общественных отношений, обусловленных использованием машин. О.А. Серова отмечала, что масштабы предполагаемых и происходящих изменений настолько велики, что не позволяют осуществлять научные исследования исключительно в рамках отраслевого регулирования и требуют привлечения философско-правовых концептов и теорий, более тесного взаимодействия с представителями IT-направлений в науке [6, с. 126]. В настоящее время существует достаточно большое количество исследований в области искусственного интеллекта. Между тем исследования, посвященные правовому регулированию научно-исследовательской деятельности в области создания искусственного интеллекта, практически отсутствуют.
Что же такое искусственный интеллект? Каковы преимущества и угрозы его применения человеком? Стивен Хокинг отмечал, что развитие искусственного интеллекта может стать как наиболее позитивным, так и самым страшным фактором для человечества [2, с. 22]. О. Шпенглер, рассуждая о технологическом прогрессе и роли машин, указывал, что «творение восстает против своего творца... Властелин мира становится рабом машины. Она вовлекает его, нас и всех без исключения, знаем ли мы это, и хотим или нет, в свой бег. В этой бешеной упряжке свергнутый победитель будет загнан насмерть» [10, с. 126]. Л.С. Болотова определяла искусственный интеллект как некую искусственную
1 О развитии искусственного интеллекта в Российской Федерации: указ Президента Российской Федерации от 10.10.2019 № 490. Доступ из СПС «КонсультантПлюс» (дата обращения: 12.10.2019).
систему, способную имитировать интеллект человека, то есть способность получать, обрабатывать, хранить информацию и знания и выполнять над таковыми разные действия, совокупно называемые мышлением [3, с. 181]. П.М. Морхат отмечал, что искусственный интеллект является инструментом расширения и усиления возможностей человеческого интеллектуального потенциала, а также призван под контролем и по воле человека заменить его при выполнении определенных функций и в решении определенных задач [4, с. 3]. Таким образом, исследования в области искусственного интеллекта представляют собой междисциплинарные исследования, требующие коллаборацию ученых в разных сферах деятельности.
В соответствии с п. 30 указа Президента Российской Федерации от 10.10.2019 № 490 фундаментальные научные исследования в области искусственного интеллекта должны быть направлены на создание принципиально новых научных результатов, в том числе на создание универсального (сильного) искусственного интеллекта в результате алгоритмической имитации биологических систем принятия решений, а также автономного самообучения и развития адаптивности алгоритмов к новым задачам. Другими словами, необходимо научить искусственную нейронную сеть творчески думать и обучаться. А. Тьюринг отмечал способность машины мыслить как игру в имитацию [1, с. 34]. Между тем в настоящее время ученые столкнулись с технологическим и методологическим кризисами, обусловленными отсутствием технологий и методов. Например, для создания искусственного интеллекта, аналогичного человеческому мозгу, работа которого основана на логическом подходе, ученым необходимо создать компьютер с производительностью 1020 флопс1, размерами 300 х 300 м и высотой 50 м, а также мощностью 15 ГВт. В связи с этим решение технологических проблем может быть найдено в квантовом компьютере. Предполагается, что квантовый компьютер не просчитывает все варианты решения, а сразу принимает правильное решение благодаря принципу запутанности электронов. Первый прототип квантового компьютера был создан в 2001 году и имел память 7 q-бит2, а в 2018 году память квантового компьютера составляла 72 q-бит. Однако для создания эффективного квантового компьютера, а значит искусственного интеллекта, необходимо сгенерировать память около 2000 q-бит. Решение технологической проблемы «сильного» искусственного интеллекта
может быть найдено в нейробионике, а также в создании нейрокомпьютера. Многие ученые полагают, что «ключом» к познанию структуры «сильного» искусственного интеллекта может стать гибридная антропоморфная техническая система, схожая с человеческим мозгом. Использование когнитивных технологий в исследовании искусственного интеллекта может способствовать созданию принципиально новой конфигурации искусственных нейронных сетей, а также принципиально нового алгоритма их функционирования. К. Анохин отмечал, что мозг - это самое совершенное вычислительное устройство. Понимание того, как мозг это делает, и воплощение этого результата в технологию позволит совершить гигантский скачок вперед [11, с. 18]. Структура человеческого мозга уникальна. Человеческий мозг имеет 85 млрд нейронов, а занимает всего 0,0015 м3. Нейроны мозга и их связи образуют единое целое, которое не имеет невзаимосвязанных структур, образуя сложную распределенную в пространстве и изменчивую во времени систему, состоящую из звеньев различной степени жесткости. Кроме того, человеческий мозг потребляет всего 20 Вт энергии. Н.В. Кирой утверждает, что какая-либо строгая связь отдельных структур мозга с теми или иными психическими процессами полностью отвергается. Согласно этим представлениям, мозг функционирует как целое, отрицается какая-либо оригинальность вклада различных структур мозга в реализацию его системных функций [5, с. 48]. Например, на уровне клеток работа мозга связана с химическими превращениями различных веществ. Химические вещества на уровне атомов, электронов имеют свои моменты импульса (спины), которые взаимодействуют друг с другом, образуя систему, работающую по квантовым законам. М. Фишер, ученый-физик из Калифорнийского университета в Санта-Барбаре, высказал предположение, что ядерные спины атомов фосфора могут служить рудиментарными q-битами мозга, из-за чего он способен работать по принципу квантового компьютера [12, с. 48]. Следовательно, можно предположить, что человеческий мозг на разных уровнях работает по разным законам, которые составляют единую систему. Например, на уровне нейронов - по биологическим законам, а на уровне электронов - по законам квантовой механики, на уровне мышления - по законам психологии. В связи с этим методологические проблемы в области исследований искусственного интеллекта, обусловленные необходимостью использования
1 Флопс (FLOPS) - внесистемная единица, используемая для измерения производительности компьютеров, показывающая, сколько операций с плавающей запятой в секунду выполняет данная вычислительная система. Мусорина В. Суперкомпьютеры в России: путь «Ломоносова». Прямые инвестиции. 2011. № 4. С. 40-42.
2 Кубит (q-бит) - квантовый разряд или наименьший элемент для хранения информации в квантовом компьютере. Сорокин А.А.
Квантовые вычисления и квантовая информация. URL: http://sibac.info/archive/techmc/8-9(23).pdf (дата обращения: 19.11.2019).
методологии разных наук, необходимо и достаточно решать путем междисциплинарного подхода в исследованиях по созданию искусственного интеллекта. Например, для создания искусственных природоподобных конструкций, представляющих собой гибридные антропоморфные технические системы, необходимо исследовать когнитивные функции человека, в том числе методами генной инженерии. В российском государстве существует правовая политика консервативно-охранительной модели в области генной инженерии, которая предусматривает запреты и ограничения в области использования генной инженерии в научных целях. В соответствии с ч. 2 ст. 21 Конституции Российской Федерации никто не может быть подвергнут медицинским, научным или иным опытам без добровольного согласия1. Кроме того, в соответствии со ст. 34 Федерального закона от 21 ноября 2011 г. № 323-ф3 «Об основах охраны здоровья граждан в Российской Федерации», высокотехнологичная медицинская помощь, являющаяся частью специализированной медицинской помощи, включает в себя применение новых сложных и (или) уникальных методов лечения, а также ресурсоемких методов лечения с научно доказанной эффективностью, в том числе клеточных технологий, роботизированной техники, информационных технологий и методов генной инженерии, разработанных на основе достижений медицинской науки и смежных отраслей науки и техники2. В связи с этим можно сделать вывод, что использование методов генной инженерии на человеке разрешено исключительно в целях генодиагностики и генной терапии (генотерапии). В соответствии со ст. 10 Федерального закона от 23.08.1996 № 127-ФЗ «О науке и государственной научно-технической политике»3 правительство вправе устанавливать порядок проведения научных исследований и использования научных и (или) научно-технических результатов, которые могут создать угрозу безопасности Российской Федерации, здоровью граждан, окружающей среде. Между тем, например, Великобритания стала первой страной, которая формально разрешила генную модификацию человеческих эмбрионов - исключительно в научных целях. Кроме того, в Китае впервые родились дети, геном которых был отредактирован с помощью технологии CRISPR/Cas9, созданной для исправления ДНК. В связи с этим предлагается разрешить использование методов генной инженерии
исключительно с согласия лица в медицинских и научных целях.
При этом необходимо отметить, что исследования в области искусственного интеллекта имеют ряд ограничений, обусловленных в том числе и интересами национальной безопасности. Например, нейронные ЭВМ и программное обеспечение для систем искусственного интеллекта включены в список контролируемых товаров, который утвержден указом Президента РФ от 17.12.2011 № 1661 «Об утверждении Списка товаров и технологий двойного назначения»4. Таким образом, указанные товары, будучи товарами двойного назначения, подпадают под экспортный контроль. В связи с этим к данным объекта могут применяться меры экспортного контроля, которые ограничивают их оборот. Например, меры экспортного контроля могут применяться в отношении неосязаемой передачи технологии двойного назначения, что окажет негативное влияние на исследования в области искусственного интеллекта. Между тем создание конвергентных технологий, например искусственного интеллекта, невозможно без коллаборации ученых, а также постоянного обмена знаниями между учеными разных стран. В связи с этим предлагается разрешить обмен технологиями, знаниями и конструктивными решениями в области искусственного интеллекта в научных целях. Таким образом, можно сделать вывод, что решение технологических и методологических проблем в области создания искусственного интеллекта невозможно без решения правовых проблем в области регулирования отношений, связанных с запретами и ограничениями в данной сфере. В связи с этим предлагается создать оптимальный правовой режим, регулирующий такую комплексную сферу, как исследования в области создания искусственного интеллекта. Между тем невозможно создать эффективный правовой режим без учета прогнозируемого варианта поведения на основе правовой модели. Н.В. Кичи-гин указывал, что невозможно создать правовой режим без учета прогнозируемого варианта оптимального правового регулирования, содержащего систему используемых взаимосвязанных правовых регуляторов и расчеты целевых результатов и последствий, который можно обозначить как правовую модель [13, с. 48]. Ю.А. Тихомиров отмечал, что использование правовых моделей позволяет прогнозировать, учитывать риски и проектировать
1 Конституция Российской Федерации (принята на всенародном голосовании 12 декабря 1993 г.) // Российская газета. 1993. 25 декабря.
2 Об основах охраны здоровья граждан в Российской Федерации: Федеральный закон от 21.11.2011 № 323-ФЗ: в ред. Федерального закона от 29.05.2019 № 119-ФЗ. Доступ из СПС «КонсультантПлюс» (дата обращения: 01.09.2019).
3 О науке и государственной научно-технической политике: Федеральный закон от 23.08.1996 № 127-ФЗ: в ред. Федерального закона от 26.07.2019 № 232-ФЗ. Доступ из СПС «КонсультантПлюс» (дата обращения: 01.09.2019).
4 Об утверждении Списка товаров и технологий двойного назначения: указ Президента РФ от 17.12.2011 № 1661: в ред. указа Президента РФ от 30.12.2018. Доступ из СПС «КонсультантПлюс» (дата обращения: 01.09.2019).
варианты оптимального правового регулирования [14, с. 4]. Что же такое правовая модель? А.С. Безруков отмечал, что правовая модель - это созданная в результате абстракции, идеализации (для теоретических и метатеоретических моделей) или наблюдения (для материальных моделей) форма отражения правовой (или окружающей) действительности, находящаяся в отношении соответствия с исследуемым объектом, служащая средством отвлечения и выражения внутренней структуры сложного правового явления (или наглядности в описании объектов материального мира), несущая информацию об объекте или выполняющая специальную описательную (демонстрационную) задачу [7, с. 151]. Таким образом, правовую модель научно-исследовательской деятельности в области искусственного интеллекта можно обозначить как созданную в результате абстракции, идеализации или наблюдения, прогнозируемую форму познания действительности, необходимую и достаточную для конструирования оптимального правового режима научно-исследовательской деятельности в области искусственного интеллекта. При этом необходимо отметить, что абстрагирование не может затрагивать морально-этическую составляющую правового режима, регулирующего отношения в области создания искусственного интеллекта, а
также оказывать негативное воздействие на динамику научного прогресса. В.С. Степин отмечал, что выход состоит не в отказе от научно-технического прогресса, а в придании ему гуманистического измерения [15, с. 13]. В связи с этим необходимо различать, но не противопоставлять гносеологические и аксиологические цели научно-исследовательской деятельности в области искусственного интеллекта. Так, в Национальной стратегии развития искусственного интеллекта на период до 2030 года обозначен принцип безопасности, который связан с предупреждением и минимизацией рисков возникновения негативных последствий использования технологий искусственного интеллекта.
Обсуждение и заключения В заключение необходимо отметить, что создание эффективного режима, регулирующего отношения, связанные с созданием искусственного интеллекта, невозможно без исключения необоснованных и архаичных запретов и ограничений, в том числе в области генной инженерии и экспортного контроля. Правовой режим научно-исследовательской деятельности в области искусственного интеллекта должен отражать справедливый баланс частных и публичных интересов, а также исключать необоснованные риски использования искусственного интеллекта.
СПИСОК ЛИТЕРАТУРЫ
1. Тьюринг А. Может ли машина мыслить? / пер. с англ. Ю.А. Данилова. М.: Гос. изд-во физико-математической литературы, 1960. С. 67.
2. Хокинг С. Искусственный интеллект может стать величайшей ошибкой в истории. URL: https://naked-science.ru/article/sci/stephen-hawking-about-artificial-intelligence (дата обращения: 01.09.2019).
3. Болотова Л.С. Системы искусственного интеллекта: модели и технологии, основанные на знаниях: учебник. М., 2012. 664 с.
4. Морхат П.М. К вопросу о правосубъектности «электронного лица» // Юридические исследования. 2018. № 4. С. 1-8.
5. Кирой Н.В. Интерфейс мозг-компьютер (история, современное состояние, перспективы). Ростов-на-Дону: Издательство Южного федерального университета, 2011. 240 с.
6. Серова О.А. Проблемы развития методологии гражданско-правовых исследований в цифровую эпоху. URL: http://permcongress.com/content/2018-serova.pdf (дата обращения: 01.09.2019).
7. Безруков А.С. Правовая модель как инструмент юридической науки и практики: дис. ... канд. юрид. наук. Владимир, 2008. 151 с.
8. Ковальчук М.В. Конвергенция наук и технологий - новый этап научно-технического развития // Вопросы философии. 2013. № 3. С. 13-23.
9. Карцхия А.А. Цифровой императив: новые технологии создают новую реальность // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 8. С.17-26.
10. Шпенглер О. Закат Европы. Очерки морфологии мировой истории. Том 2. М.: Мысль, 1998. 596 с.
11. Мысль. Разум. Интеллект: практическое пособие по развитию умственных способностей. М.: Ридерз Дайджест, 2003. 320 с.
12. Matthew Fisher Quantum Cognition: the Possibility of Processing with Nuclear Spins in the Brain. URL: https://www.sciencedirect.com/science/article/pii/S0003491615003243 (дата обращения: 01.09.2019).
13. Кирчигин Н.В. Реализация правовых моделей: проблемы и поиск решений. URL: https://cyberleninka. ru/article/n/realizatsiya-pravovyh-modeley-problemy-i-poisk-resheniy (дата обращения: 01.09.2019).
14. Тихомиров Ю. Государственное управление: модели и реальность // Право и экономика. 2006. № 10. С. 3-8.
15. Степин В.С. Научное познание и ценности техногенной цивилизации. URL: http://rozova.org/images/ documents/VSStepin_Nauchnoe_poznanie_i_cennosti_technogennoy_civilizacii.pdf (дата обращения: 01.09.2019).
REFERENCES
1. T'yuring A. Mozhet li mashina myslit'? / per. s angl. YU.A. Danilova. M.: Gos. izd-vo fiziko-matematicheskoj literatury, 1960. S. 67.
2. Hoking S. Iskusstvennyj intellekt mozhet stat' velichajshej oshibkoj v istorii. URL: https://naked-science.ru/ article/sci/stephen-hawking-about-artificial-intelligence (data obrashcheniya: 01.09.2019).
3. Bolotova L.S. Sistemy iskusstvennogo intellekta: modeli i tekhnologii osnovannye na znaniyah: uchebnik. M., 2012. 664 s.
4. Morhat P.M. K voprosu o pravosub"ektnosti «elektronnogo lica» // YUridicheskie issledovaniya. 2018. № 4. S. 1-8.
5. Kiroj N.V. Interfejs mozg-komp'yuter (istoriya, sovremennoe sostoyanie, perspektivy). Rostov-na-Donu: Iz-datel'stvo YUzhnogo federal'nogo universiteta, 2011. 240 s.
6. Serova O.A. Problemy razvitiya metodologii grazhdansko-pravovyh issledovanij v cifrovuyu epohu. URL: http://permcongress.com/content/2018-serova.pdf (data obrashcheniya: 01.09.2019).
7. Bezrukov A.S. Pravovaya model' kak instrument yuridicheskoj nauki i praktiki: dis. ... kand. yurid. nauk. Vladimir, 2008. 151 s.
8. Koval'chuk M.V. Konvergenciya nauk i tekhnologij - novyj etap nauchno-tekhnicheskogo razvitiya // Voprosy filosofii. 2013. № 3. S. 13-23.
9. Karckhiya A.A. Cifrovoj imperativ: novye tekhnologii sozdayut novuyu real'nost' // Intellektual'naya sobst-vennost'. Avtorskoe pravo i smezhnye prava. 2017. № 8. S.17-26.
10. SHpengler O. Zakat Evropy. Ocherki morfologii mirovoj istorii. Tom 2. M.: Mysl', 1998. 596 s.
11. Mysl'. Razum. Intellekt: prakticheskoe posobie po razvitiyu umstvennyh sposobnostej. M.: Riderz Dajdzhest, 2003. 320 s.
12. Matthew Fisher Quantum Cognition: the Possibility of Processing with Nuclear Spins in the Brain. URL: https://www.sciencedirect.com/science/article/pii/S0003491615003243 (data obrashcheniya: 01.09.2019).
13. Kirchigin N.V. Realizaciya pravovyh modelej: problemy i poisk reshenij. URL https://cyberleninka.ru/arti-cle/n/realizatsiya-pravovyh-modeley-problemy-i-poisk-resheniy (data obrashcheniya: 01.09.2019).
14. Tihomirov YU. Gosudarstvennoe upravlenie: modeli i real'nost' // Pravo i ekonomika. 2006. № 10. S. 3-8.
15. Stepin V.S. Nauchnoe poznanie i cennosti tekhnogennoj civilizacii URL: http://rozova.org/images/documents/ VSStepin_Nauchnoe_poznanie_i_cennosti_technogennoy_civilizacii.pdf (data obrashcheniya: 01.09.2019).
Об авторе: Щербаков Михаил Геннадьевич, аспирант кафедры предпринимательского права Казанского (Приволжского) федерального университета e-mail: [email protected] © Щербаков М.Г., 2019
Статья получена: 02.09.2019. Статья принята к публикации: 25.12.2019. Статья опубликована онлайн: 26.12.2019.
About the author: Shcherbakov Mihail G., Graduate Student of Business Law, Kazan (Volga Region) Federal University e-mail: [email protected]
Автор прочитал и одобрил окончательный вариант рукописи. The author has read and approved the final manuscript.
