CC BY
28УДК 340
Александр Васильевич Малько, директор Саратовского филиала Института государства и права РАН, главный научный сотрудник Научно-исследовательского института государственно-правовых исследований Тамбовского государственного университета имени Г.Р. Державина, доктор юридических наук, профессор, заслуженный деятель науки Российской Федерации
E-mail: i_gp@ssla.ru
Alexandr Vasilievich Malko, Director of Saratov affiliated Branch of State and Law Institute, Russian Academy of Science,
chief research scientist at the Scientific Research Institute for State - Legal Research of Tambov State University
named after G.R. Derzhavin, Doctor of Law, Professor, Honored Worker of Science of the Russian Federation
ПРАВОВАЯ ЖИЗНЬ ОБЩЕСТВА: МЕЖДИСЦИПЛИНАРНЫЙ ПОДХОД К ЕЕ ИССЛЕДОВАНИЮ
В статье рассматривается категория «правовая жизнь» в качестве формы социальной жизни. Устанавливается закономерная связь развития общественных отношений и права, изменений и новаций в социальной жизни и правовой жизни. Оценивается влияние на правовую жизнь общества таких новых феноменов, как «искусственный интеллект», «роботизация», «цифровые технологии». Констатируется важная роль междисциплинарного подхода для изучения осуществляемых новаций в современной социально-правовой жизни.
Ключевые слова: право, правовая жизнь общества, искусственный интеллект, роботизация, цифровые технологии, междисциплинарный подход.
LEGAL LIFE OF THE SOCIETY: INTERDISCIPLINARY APPROACH TO ITS RESEARCH
The article considers the category of «legal life» as a form of social life. A regular relationship is established between the development of social relations and law, changes and innovations in social life and legal life. The impact of such new phenomena as «artificial intelligence», «robotization», «digital technology» on the legal life of society is evaluated. The important role of an interdisciplinary approach to the study of ongoing innovations in modern social and legal life is stated.
Keywords: law, legal life of society, artificial intelligence, robotics, digital technologies, interdisciplinary approach.
На рубеже XX-XXI веков в юриспруденцию стала активно вводиться категория «правовая жизнь», под которой понимают форму социальной жизни, выражающуюся преимущественно в правовых актах и иных проявлениях права (в том числе и негативных), характеризующую специфику и уровень правового развития данного общества, отношение субъектов к праву и степень удовлетворения их интересов1.
Категория «правовая жизнь» приобретает все большую научную и практическую значимость. Именно она призвана отражать сложноразвивающуюся и противоречивую юридическую действительность, неразрывную связь многообразных правовых явлений со всеми другими сферами жизнедеятельности общества - экономической, политической, нравственной, религиозной и т. п.
Как однопорядковое понятиям общественной, экономической, культурной, духовной, религиозной жизни, понятие правовой жизни используется для обобщенной оценки правовой обстановки в конкретно-исторических условиях, правового поведения социальных групп,
1 См. подробнее: Малько А.В. Политическая и правовая жизнь России: актуальные проблемы. М., 2000. С. 35; Он же. Категория «правовая жизнь»: проблемы становления // Государство и право. 2001. № 5; Он же. Теория правовой политики. М., 2012. Гл. 3; Малько А.В., Трофимов В.В. Правовая жизнь общества как объект правовой политики в условиях глобализации и регионализации. М., 2018. С. 56.
слоев и отдельной личности. Правовая жизнь позволяет оценивать условия, в которых она существует и детерминирующие ее факторы: тип правовой системы, состояние законодательства, уровень правовой культуры и правовой активности, правовой менталитет общества и его отдельных общностей, режим законности и правопорядка, в целом правовую атмосферу общества, правовые ожидания и реальное поведение людей в правовой сфере, характер действия права, отношение власти к праву и т. д.1
Без глубокого исследования категории «правовая жизнь» невозможно в полной мере понять само право, его истоки, причины становления, логику развития.
Однако исследовать правовую жизнь - дело непростое. Это междисциплинарная категория, требующая к себе и соответствующих подходов. Междисциплинарный подход нужно здесь применять и по той простой причине, что категория «правовая жизнь» основывается на категории «социальная жизнь», а последняя - на общеродовой категории «жизнь». Иными словами, междисциплинарность правовой жизни вполне очевидна, ибо она базируется на общем междисциплинарном понятии «жизнь», которая изучается самыми разными науками: физикой, биологией, химией, философией, социологией, психологией и многими другими.
Правовая жизнь общества (как, впрочем, и всякая иная) усложняется: она включает в себя все новые и новые элементы, которые не входили в нее прежде.
Если говорить о сегодняшней правовой жизни общества, то нельзя не отметить все возрастающую роль в ней систем искусственного интеллекта, роботизации, других технологий. Верно подмечено в литературе, что проникновение в современную правовую жизнь «совершенно новых явлений (таких как права роботов, блокчейн, криптовалюта, цифровая торговля, беспилотные автомобили) ставит перед юристами задачи адекватного правового регулирования, разработки новейшего законодательства, а значит, переосмысления традиционных правовых концепций, создания новых исследовательских и образовательных программ»2.
Возьмем для примера только одну из разновидностей юридической деятельности -правоинтерпретационную, и покажем, как меняется ситуация в связи с введением в нее новых технологий (и, прежде всего, систем искусственного интеллекта). В частности, крупнейшие финансовые корпорации, кредитные организации, органы государственной власти все чаще доверяют работу, связанную с правовыми рисками, искусственному интеллекту. Такие международные события, как увеличение международной цифровой трансформации бизнеса, расширение экономики совместного потребления, рост капитализации - довольно давно стали частью глобальной человеческой жизни3. Этому способствует принятие огромного количества нормативных правовых актов, регулирующих отношения множества стран друг с другом. Компании, выходя на международный рынок, вынуждены изучать международные конвенции и законодательство стран-партнеров. Образуется большой массив правовой информации, который требует анализа и толкования. Выполнение данной задачи, зачастую, возлагается на искусственный разум.
Ученые из Стэнфордского университета провели исследование результатов интерпретационной деятельности практикующих юристов и искусственного интеллекта. Сущность данного соревнования заключалась в том, что участникам требовалось изучить текст соглашения о неразглашении информации и дать толкование отдельным его пунктам. Искусственный интеллект истолковал необходимые пункты соглашения с итоговой точностью в 95%, в то время как практикующие юристы добились точности толкования не более 85%.
1 См.: Гойман-Калинский И.В., Иванец Г.И., Червонюк В.И. Элементарные начала общей теории права. М., 2003. С. 396.
2 Соколова А.А. Искусственный интеллект в юриспруденции: риски внедрения // Юридическая техника. Риски в законотворчестве, правореализации, юридической науке: техника формирования и функционирования системы управления. 2019. № 13. С. 356.
3 См.: Шушкин Д. Робот и закон. Как искусственный интеллект помогает бизнесу соответствовать требованиям регуляторов. URL: https:// www/forbes/ru (дата обращения 22.04.2018).
Кроме того, искусственный разум справился с работой за 26 секунд, а практикующие юристы потратили более полутора часов1.
При таком бурном развитии событий возникает вопрос - может ли искусственный интеллект полностью заменить человека в официальном толковании норм права? На наш взгляд, это вряд ли получится. Все дело в том, что машина может работать лишь по стандартным схемам, в то время как толкование права - процесс, не всегда вписывающийся в очерченные стандарты. Искусственный разум может допускать интерпретационные ошибки, конечное слово в исправлении которых все равно будет за человеком. Однако, несмотря на это, все же следует признать, что уровень развития искусственного интеллекта в толковании норм права уверенно повышается. Это свидетельствует о том, что ему можно доверить выполнение несложных (однотипных) задач в толковании норм права и уже сейчас назревает возможность постепенного переключения внимания субъектов правоинтерпретационной деятельности от рутинной работы к решению более сложных задач в интерпретационной сфере юридической деятельности2.
Несомненно, время требует автоматизации и некоторых технических функций, присущих тем или иным юридическим профессиям (например, помощника судьи, юриста, нотариуса, секретаря судебного заседания и других).
С появлением искусственного интеллекта правовая жизнь общества становится, с одной стороны, более технологичной и автоматизированной, а с другой, менее в формально-юридическом смысле определенной и организованной (многие отношения пока просто не урегулированы, либо упорядочены частично, либо противоречивым образом). С включением в правовую жизнь общества, в частности, искусственного интеллекта, возникает проблема детального анализа данного процесса и многих других вопросов, которые возникают вместе с этим.
Отсюда роль междисциплинарного подхода резко возрастает в исследовании подобных новаторских явлений. Более того, междисциплинарный подход в изучении правовой жизни общества выходит на новый уровень, ибо здесь уже без соответствующих технических знаний просто не обойтись.
Перед юридической наукой все актуальнее становится задача глубокого и всестороннего междисциплинарного анализа результатов «вхождения» в правовую жизнь общества систем искусственного интеллекта. Принципиально важным является тот факт, что современные гуманитарные исследования должны осуществляться на когнитивной основе, что предполагает проведение научного поиска на междисциплинарном уровне - в области когнитивной юриспруденции, включающей в себя проведение исследований в различных областях научного знания: философии сознания, психологии, лингвистики и других.
Все это позволит выявить новые грани правового бытия, раскрыть весьма ценные детали участия искусственного интеллекта в разнообразных сферах юридической реальности, исследовать процессы, сопряженные с тенденциями развития правовой жизни общества, что выступает одним из приоритетных направлений эволюции современной науки.
В литературе справедливо помечено, что «требование времени - формирование междисциплинарных научных направлений, находящихся в непривычной для нас среде: юридические науки и ^-технологии. Использование передовых технологий искусственного интеллекта не только расширяет возможности решения вопросов глобального юридического характера, но и позволит переводить на «язык цифр» многие площадки правовой повседнев-ности»3.
1 См.: Симонов А. Сломанные шаблоном. Скоро машины займут 50 процентов рабочих мест // Российская газета. 2018. 6 марта.
2 См. подробнее: Малько А.В., Терехов Е.М. Интерпретационная правовая политика в современной России в условиях глобализации и регионализации. М., 2018. С. 101-102.
3 Соколова А.А. Указ. соч. С. 356.
Включение систем искусственного интеллекта в правовую жизнь общества приводит как к усложнению имеющихся юридических связей, так и к более сложной методологии их исследования. Учитывая тот факт, что многочисленные сферы нашего бытия все более тесно взаимодействуют между собой, взаимодополняют порой друг друга и соединяются в некие новые образования (в частности, на стыке техники и права, биологии и права и т. п.), следует отметить и все более нарастающую тенденцию, связанную с дальнейшей интеграцией разных наук, которые данные процессы призваны исследовать. Другими словами, под влиянием процессов, происходящих в нашей действительности, происходит и соответствующий синтез технических, естественных и гуманитарных наук.
Вместе с тем, «следует различать виды правовой деятельности в силу своей технической вспомогательной природы, поддающиеся автоматизации и компьютеризации, и интеллектуально насыщенные, когнитивные, требующие интерпретации, аналитики, принятия решений и многие иные мыслительные навыки и компетенции в сфере правовой жизни, не подвластные искусственному интеллекту в ближайшем будущем, не допускающие его активное «соучастие» с интеллектом естественным»1.
Однако все то, что «подвластно» искусственному интеллекту необходимо своевременно упорядочивать, создавать условия для системной, последовательной и научно обоснованной деятельности в этой области. Речь идет о правовой политике современной России в сфере искусственного интеллекта.
Считаю, что здесь необходим свой проект Концепции российской правовой политики, который будет выступать своеобразным доктринальным документом в вышеназванной сфере.
Подобная Концепция станет научной основой для модернизации законодательства и правореализационной практики в области искусственного интеллекта, позволит более комплексно применять юридический инструментарий, задействовать недостаточно используемые юридические средства.
Разрабатывая доктрину правового регулирования искусственного интеллекта в современной России, важно, используя метод сравнительного анализа, детально изучить имеющийся иностранный опыт в этой сфере. А он уже имеет место быть.
В различных странах «вырисовывается» тенденция законодательного упорядочения отношений в области искусственного интеллекта, создаются даже государственные и неправительственные структуры. Так, 16 февраля 2017 года принята Резолюция Европарламента «Нормы гражданского права о робототехнике», констатирующая, что возможности искусственного интеллекта могут превзойти интеллектуальные способности человека. Ставится проблема о статусе «электронных лиц» с конкретными правами и обязанностями. В британском парламенте создана парламентская группа по искусственному интеллекту, принявшая решение о необходимости создания должности министра искусственного интеллекта. В Германии принят закон «О внесении поправок в Венскую конвенцию о дорожном движении» от 13 декабря 2016 года, допускающий использование автоматизированных технологий вождения. В Эстонии действует закон, регламентирующий правила передвижения роботов-курьеров. Законодательные нормы о пределах использования роботов и контроля над их применением приняты в Норвегии, в половине штатов США .
Определенные инициативы юридического характера появляются и в России. Например, в статье 29 Модельной конвенции о робототехнике и искусственном интеллекте, разработанные А. Незнамовым и В. Наумовым, предпринята попытка предложить международному сообществу подходы к унификации понятий столь сложной и динамичной сферы. Также мероприятия в области искусственного интеллекта обозначены в Программе «Цифровая эконо-
1 Соколова А. А. Указ. соч. С. 355.
2 См. подробнее об этом: Тычинин С.В. Гражданское право и новые технологии // Юриспруденция как интегративный феномен современного российского общества и государства: Материалы Международной научно-практической конференции (Белгород, 18-19 мая 1018 г.). Белгород, 2018. С. 78.
мика Российской Федерации» от 28 июля 2017 года, «Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» от 9 мая 2017 года1. Совсем недавно, в июне 2019 года, Минкомсвязь России совместно со Сбербанком и экспертным сообществом подготовили проект Национальной стратегии развития искусственного интеллекта, который будет уже отдельным самостоятельным федеральным проектом2.
Кроме того, российские эксперты предлагали принять основы законодательства о ки-берфизических системах, закон о разумных роботах и другие.
Учитывая зарубежный и отечественный опыт правового упорядочения отношений, связанных с искусственным интеллектом, важно в данной Концепции предложить требуемые временем «правила игры», способные эффективно организовать обозначенную сферу нашей жизнедеятельности. И здесь не уйти от ответов на поставленные новой реальностью вопросы. Так, разработка умных машин, способных самостоятельно принимать решение и обучаться, ставит проблему косвенного влияния искусственного интеллекта как на общество в целом, так и на конкретных лиц (граждан и организаций). Наиболее же революционной и вызывающей многочисленные дискуссии является идея / обсуждение вопроса о правосубъектности робота (можно ли робота признать субъектом права?3).
Вместе с тем, как верно подчеркивается в литературе, еще явно недостаточно специальных правовых норм, прямо регулирующих применение робототехники и искусственного
4
интеллекта .
В частности, если говорить о правотворчестве, то необходимо принимать регламенты использования новых технологий, соответствующие международным стандартам, в нормативных правовых актах нужно выстраивать новую систему действенных правовых стимулов и правовых ограничений в сфере искусственного интеллекта.
Меры правового стимулирования могут создавать и обеспечивать благоприятные правовые режимы, поощрять, льготно поддерживать полезные для общества инициативы, инновационные идеи, связанные с использованием искусственного интеллекта в правовой системе. Например, в гражданском праве уже созданы различные институты, направленные на поддержку и развитие новых технологий: право интеллектуальной собственности; договоры, направленные на создание, использование и охрану объектов интеллектуальной собственности; субъекты, осуществляющие технологические процессы и т. п. Естественно, на этом останавливаться нельзя и важно предлагать другие стимулирующие меры.
Безусловно, наряду со стимулирующими юридическими средствами нельзя забывать и об ограничивающих юридических инструментах (обязанностях, запретах, приостановлениях, ответственности и т. п.). Причем они должны быть задействованы в комплексе с нравственными требованиями. Постепенно приходит осознание необходимости принятия ограничительных норм права, устанавливающих юридические рамки защиты персональных данных, уважения человеческого достоинства, самостоятельности и самоопределения индивида, ответственности за причинение вреда (имущественного и неимущественного) при внедрении новых технологий. Меры правового ограничения будут весьма полезными в области охраны и защиты прав граждан и юридических лиц от вредоносного воздействия умных машин.
1 См.: Тычинин С.В. Указ. соч. С. 78-79.
2 См.: Кривошапко Ю. Все коды записаны. Подготовлена стратегия развития искусственного интеллекта // Российская газета. 2019. 21 июня; она же. Экономике добавят разума. Компьютерный интеллект встроят в госуправление // Российская газета. 2019. 4 июля.
3 См.: Тычинин С.В. Указ. соч. С. 79; Гаджиев Г. А., Войниканис Е.А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. 2018. № 4. С. 24-48; Кибальник А.Г. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Юридическая наука и практика: Вестник Нижегородской академии МВД России. 2018. № 4. С. 173-178.
4 См.: Летута Т.В., Сотникова Ю.В. Гражданско-правовые аспекты применения систем искусственного интеллекта и робототехники // Академический юридический журнал. 2019. № 1. С. 13.
В доктринальном документе нужно предложить и решение проблем, связанных с образованием, которое необходимо перестраивать в несколько этапов, что должно найти свое отражение в образовательных стандартах.
1. Обучение грамотной работе с информацией важно начинать не в средней школе, а как можно раньше, хотя бы теоретически, чтобы к подростковому возрасту необходимая модель поведения в сетевом пространстве была уже сформирована. Эту часть курса назовем условно «Информационная грамотность». Содержание курса информатики также нуждается в пересмотре в сторону преподавания правил социального взаимодействия в сетевом пространстве и критического отношения к отбору информации в сети, а не морально устаревших методов программирования, делающих этот предмет неинтересным даже для тех обучающихся, кто увлекается информатикой.
2. Вторым этапом подготовки юридических кадров нового поколения должны стать соответствующие курсы в средне-специальных и высших учебных заведениях. Мы уже столкнулись с тем, что информатика и информационная безопасность были убраны из стандарта по юриспруденции, а информационное право находится в вариационном блоке предметов, то есть его наличие и объем организация определяет самостоятельно1. Такой подход к информационному блоку дисциплин вызывает несерьезное отношение к информатике и информационным технологиям как у студентов, так и у самих преподавателей, и никак не соответствует тезисам федеральных программ, связанным с цифровизацией.
Здесь, безусловно, необходимо пересматривать стандарты, причем минимум в 2 захода:
во-первых, на более ранней стадии модернизации важно увеличить объем и количество дисциплин «информационного блока»;
во-вторых, стоит прекратить рассматривать юриспруденцию как чисто гуманитарную специальность, включив в компетенции умение работать с современными информационными технологиями и добавив предметы, развивающие алгоритмическое мышление обучающихся и формирующие у будущих специалистов способность работать в сотрудничестве с представителями технических специальностей. Мы далеки от мысли, что юрист должен стать программистом, но общее понимание технологий и основ их работы должно быть. Стоит также ввести специализацию для юристов, работающих именно в сфере информационных технологий (например, с защитой интеллектуальных прав в этой сфере).
3. Тестирование выпускников вузов на знание Ье§а1ТееЬ. В корпоративных юридических департаментах уже сегодня задумываются о том, как оценить уровень технологической подготовки сотрудника. Отдельными 1Т-компаниями предлагается специальный софт для оценки компетенций, измеряющий скорость выполнения данного сотруднику задания2. Первоначально можно сделать прохождение такого теста необязательным, с выдачей отдельного сертификата, дающего обучающемуся преимущества при поступлении на работу (при последующем трудоустройстве по отдельным специальностям можно сделать наличие сертификата обязательным).
4. Для практикующих юристов, уже получивших образование, необходимо проводить курсы повышения квалификации, причем именно по работе с Ье§а1ТееЬ3.
Подобные предложения в определенной мере «перекликаются» с высказанным в литературе следующим мнением: «В стратегии юридической образовательной политики акценты следует, во-первых, поставить на изучение современных информационно-коммуникацион-
1 Об утверждении федерального государственного образовательного стандарта высшего образования по направлению подготовки 40.03.01 Юриспруденция (уровень бакалавриата): приказ Минобрнауки России от 01.12.2016 № 1511 (ред. от 11.01.2018) // Доступ из СПС «КонсультатПлюс».
2 См.: Код юриста: где заканчивается юриспруденция и начинается ИТ // Право. RU. URL: https//pravo.ru/ story/view/134144 (дата обращения: о1.02.2019).
3 См. об этом подробнее: Малько А.В., Солдаткина О. Л. Приоритеты российской правовой политики и изменения права в условиях цифровизации // Журнал российского права. 2019. № 9. С. 5-19.
ных технологий; во-вторых, на подготовку элитарной группы специалистов, обладающих знаниями и компетенциями юриста и IT-специалиста, способных совместными усилиями разрабатывать цифровые программы, алгоритмы, другие продукты, наиболее эффективно влияющие на результаты юридической деятельности. Развитие технико-гуманитарной подготовки юристов-интеллектуалов усилит их вклад в филигранную сферу юриспруденции и будет минимизировать риски, связанные с внедрением в экосистему искусственного интеллекта»1.
В проекте Концепции нужно предложить и новые подходы в правовом просвещении в области искусственного интеллекта в отношении широкого круга граждан.
Таким образом, проект Концепции российской правовой политики в области искусственного интеллекта сможет выступить доктринальным документом, способным оказать «научное содействие» правотворческим, правоприменительным и образовательным структурам.
В целом же можно отметить, что уже только на примере новаций правовой жизни с искусственным интеллектом видно, насколько важно сегодня применять междисциплинарный подход для ее исследования, поскольку только на этой основе допустимо своевременно предложить необходимый юридический инструментарий с целью упорядочения все более усложняющихся отношений правовой жизни общества.
Список литературы
1. Гаджиев Г.А., Войниканис Е.А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. - 2018. - № 4. - С. 24-48.
2. Гойман-Калинский И.В., Иванец Г.И., Червонюк В.И. Элементарные начала общей теории права. -М.: КолосС, 2003. - 544 с.
3. Кибальник А.Г. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Юридическая наука и практика: Вестник Нижегородской академии МВД России. - 2018. - № 4. - С. 173-178.
4. Кривошапко Ю. Все коды записаны. Подготовлена стратегия развития искусственного интеллекта // Российская газета. - 2019. - 21 июня.
5. Кривошапко Ю. Экономике добавят разума. Компьютерный интеллект встроят в госуправление // Российская газета. - 2019. - 4 июля.
6. Летута Т.В., Сотникова Ю.В. Гражданско-правовые аспекты применения систем искусственного интеллекта и робототехники // Академический юридический журнал. - 2019. - № 1. - С. 12-18.
7. Малько А.В. Категория «правовая жизнь»: проблемы становления // Государство и право. - 2001. -№ 5. - С. 5-13.
8. Малько А.В. Политическая и правовая жизнь России: актуальные проблемы. - М.: Издательская группа «Юрист», 2000. - 315 с.
9. Малько А.В. Теория правовой политики. - М.: Юрлитинформ, 2012. - Гл. 3. - 328 с.
10. Малько А.В., Солдаткина О.Л. Приоритеты российской правовой политики и изменения права в условиях цифровизации // Журнал российского права. - 2019. - № 9. - С. 5-19.
11. Малько А.В., Терехов Е.М. Интерпретационная правовая политика в современной России в условиях глобализации и регионализации. - М.: Юстиция, 2018. - 146 с.
12. Малько А.В., Трофимов В.В. Правовая жизнь общества как объект правовой политики в условиях глобализации и регионализации. - М.: Кнорус, 2018. - 236 с.
13. Симонов А. Сломанные шаблоном. Скоро машины займут 50 процентов рабочих мест // Российская газета. - 2018. - 6 марта.
14. Соколова А.А. Искусственный интеллект в юриспруденции: риски внедрения // Юридическая техника. Риски в законотворчестве, правореализации, юридической науке: техника формирования и функционирования системы управления. - 2019. - № 13. - С. 350-356.
15. Тычинин С.В. Гражданское право и новые технологии // Юриспруденция как интегративный феномен современного российского общества и государства: Материалы Международной научно-практической конференции (Белгород, 18-19 мая 1018 г.). - Белгород: ГиК, 2018. - 424 с.
16. Шушкин Д. Робот и закон. Как искусственный интеллект помогает бизнесу соответствовать требованиям регуляторов. URL: https:// www/forbes/ru (дата обращения 22.04.2018).
1 Соколова А.А. Указ. соч. С. 356.
List of references
1. Gadzhiev G.A., Voinikanis E.A. Mozhet li robot byt' sub"yektom prava? (poiskpravovykh form dlya reguliro-vaniya tsifrovoy ekonomiki) //Pravo. Zhurnal Vysshey shkoly ekonomiki [Can a robot be a subject of law? (The search for legal forms for regulating the digital economy) // Law. Journal of the Higher School of Economics]. - 2018. - № 4. -Pp. 24-48.
2. Goyman - Kalinsky IV, Ivanets G.I., Chervonyuk V.I. Elementarnyye nachala obshchey teorii prava. [Elementary principles of the general theory of law]. - M.: KolosS Publ., 2003. - 544 p.
3. Kibalnik A.G. Iskusstvennyy intellekt: voprosy ugolovno-pravovoy doktriny, ozhidayushchiye otvetov // Yuri-dicheskaya nauka i praktika: Vestnik Nizhegorodskoy akademii MVD Rossii. [Artificial intelligence: questions of criminal law doctrine awaiting answers // Jurisprudence and practice: Bulletin of the Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia]. - 2018. - № 4. - Pp. 173-178.
4. Krivoshapko Yu. Vse kody zapisany. Podgotovlena strategiya razvitiya iskusstvennogo intellekta // Ros-siyskaya gazeta [All codes are recorded. Prepared a strategy for the development of artificial intelligence // Russian newspaper]. - 2019. - June 21.
5. Krivoshapko Yu. Ekonomike dobavyat razuma. Komp'yuternyy intellekt vstroyat v gosupravleniye // Ros-siyskaya gazeta [The economy will add reason. Computer intelligence will be built into government // Russian newspaper]. - 2019. - July 4.
6. Letuta T.V., Sotnikova Yu.V. Grazhdansko-pravovyye aspekty primeneniya sistem iskusstvennogo intellekta i robototekhniki // Akademicheskiy yuridicheskiy zhurnal [Civil law aspects of the use of artificial intelligence systems and robotics // Academic Law Journal]. - 2019. - № 1. - Pp. 12-18.
7. Malko A.V. Kategoriya «pravovaya zhizn'»: problemy stanovleniya // Gosudarstvo i pravo [Category «legal life»: problems of formation // State and Law]. - 2001. - № 5. - Pp. 5-13.
8. Malko A.V. Politicheskaya i pravovaya zhizn'Rossii: aktual'nyye problemy. [Political and legal life of Russia: actual problems]. - M .: Publishing group «Yurist», 2000. - 315 p.
9. Malko A.V. Teoriyapravovoypolitiki. [Theory of legal policy]. - M .: Yurlitinform Publ., 2012. - P. 3. - 328 p.
10. Malko A.V., Soldatkina O.L. Prioritety rossiyskoy pravovoy politiki i izmeneniya prava v usloviyakh tsifrovi-zatsii // Zhurnal rossiyskogo prava. [Priorities of Russian legal policy and changes in law in the context of digitalization // Journal of Russian Law]. - 2019. - № 9. - Pp. 5-19.
11. Malko A.V., Terekhov E.M. Interpretatsionnaya pravovaya politika v sovremennoy Rossii v usloviyakh glo-balizatsii i regionalizatsii. [Interpretative legal policy in modern Russia in the context of globalization and regionaliza-tion]. - M.: Justice, 2018. - 146 p.
12. Malko A.V., Trofimov V.V. Pravovaya zhizn' obshchestva kak ob"yekt pravovoy politiki v usloviyakh globa-lizatsii i regionalizatsii. [The legal life of society as an object of legal policy in the context of globalization and regiona-lization]. - M.: Knorus, 2018. - 236 p.
13. Simonov A. Slomannyye shablonom. Skoro mashiny zaymut 50 protsentov rabochikh mest //Rossiyskaya gazeta. [Broken pattern. Soon cars will occupy 50 percent of jobs // Rossiyskaya Gazeta]. - 2018. - March 6th.
14. Sokolova A.A. Iskusstvennyy intellekt v yurisprudentsii: riski vnedreniya // Yuridicheskaya tekhnika. Riski v zakonotvorchestve, pravorealizatsii, yuridicheskoy nauke: tekhnika formirovaniya i funktsionirovaniya sistemy upravle-niya. [Artificial intelligence in jurisprudence: risks of implementation // Legal technique. Risks in lawmaking, law enforcement, legal science: a technique for the formation and functioning of a management system]. - 2019. - № 13. -Pp. 350-356.
15. Tychinin S.V. Grazhdanskoye pravo i novyye tekhnologii // Yurisprudentsiya kak integrativnyy fenomen so-vremennogo rossiyskogo obshchestva i gosudarstva: Materialy Mezhdunarodnoy nauchno-prakticheskoy konferentsii [Civil law and new technologies // Jurisprudence as an integrative phenomenon of modern Russian society and the state: Materials of the International scientific-practical conference (Belgorod, May 18-19, 1018)]. - Belgorod: GiK, 2018. -424 p.
16. Shushkin D. Kak iskusstvennyy intellektpomogayet biznesu sootvetstvovat' trebovaniyam regulyatorov. [Robot and law. How artificial intelligence helps businesses meet regulatory requirements]. URL: https://www.forbes.ru/ (accessed April 22, 2018).
