CC BY
67УДК 347; 004.8
DOI: 10.33184/pravgos-2020.3.3
К ВОПРОСУ О НЕОБХОДИМОСТИ ИНСТИТУТА ПРАВОСУБЪЕКТНОСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НА СОВРЕМЕННОМ ЭТАПЕ РАЗВИТИЯ ПРАВОВОГО
ГОСУДАРСТВА
ГОРОХОВА Светлана Сергеевна
кандидат юридических наук, доцент, доцент Департамента международного и публичного права, Финансовый университет при Правительстве Российской Федерации, Россия, г. Москва, Россия. E-mail: sgorohova@fa.ru
Актуальной проблемой трансформирования правовой системы Российской Федерации на современном этапе ее развития является нахождение оптимального баланса в определении принципиальных подходов к правовому регулированию общественных отношений, осложненных участием киберфизических систем, искусственного интеллекта, различных видов роботов и объектов робототехники, а также рассмотрение возможности придания правосубъектности слабому и сильному искусственному интеллекту в различных отраслях права и законодательства. Цель: анализ вопросов, связанных с определением правового статуса искусственных интеллектуальных систем с учетом современных требований, продиктованных достижениями научно-технического прогресса, развитием общественных отношений и принципами правового государства, направленными на обеспечение соблюдения прав и законных интересов личности, общества и государства. Методы: на основе диалектического и метафизического методов применялись общенаучные (анализ, синтез, сравнительно-правовой и др.) и частнонаучные (юридико-догматический, кибернетический, толкования) методы научного познания. Результаты: на современном этапе технологического развития следует говорить о существовании слабого ИИ узкого назначения (Narrow AI) и сильного ИИ общего назначения (General AI). Сверхсильный интеллект (Super AI) пока не существует, хотя его развитие в будущем прогнозируется. Слабый ИИ, безусловно, не может приблизиться к естественному интеллекту, поэтому, исходя из его внутренних свойств, не может считаться субъектом в отношениях ни при каких обстоятельствах. В отличие от слабого ИИ (Narrow AI), General AI (GAI) обладает развитым интеллектом, сравнимым с человеческим по определенным характеристикам. Теоретическое обсуждение придания искусственному интеллекту статуса субъекта или «квази» субъекта права имеет смысл только для технологических решений в ранге
23
General AI и Super AI. В случае с ИИС речь может идти только о частичной правоспособности. Частичная правоспособность - это статус, применимый к субъектам, имеющим правоспособность только в соответствии с конкретными правовыми нормами, но в противном случае не несущими обязанностей и не имеющими прав. Поэтому при выборе концепта о законодательном присвоении ИИС частичной правоспособности необходимо определить, какие конкретно права или «правообязанности» будут предоставлены General AI и Super AI.
Ключевые слова: искусственный интеллект, робот; робототехника, правовое регулирование, правовое государство, дееспособность; правоспособность.
Статья подготовлена по результатам исследований, выполненных за счет бюджетных средств по государственному заданию ФГОБУВО «Финансовый университет при Правительстве Российской Федерации»
Для определения места роботов, объектов роботехники или искусственного интеллекта в современном правовом пространстве необходимо ответить на вопрос, могут ли данные системы самостоятельно принимать решения в зависимости от полученной в ходе самообучения информации или их действия представляют только определенный алгоритм, заложенный человеком? Известно, что по аналогии с трактовкой человека как биосоциального существа, в котором сознание (идеальное) и тело (материальное) представляют собой неразрывную дихотомию, в науке и практике предпринимаются попытки создания единого виртуального «человека» (интеллектуальной системы), в котором искусственный интеллект будет помещен в тело робота или отдельный объект робототехники. Главным его качеством становится процесс самообучения, поэтому задача скорейшего правового регулирования ИИ ставится во главу угла практически во всех экономически развитых странах мира начиная уже с 2010-х гг. и особенно в период 2015-2017 гг., когда практически во всех технологически развитых странах мира можно было наблюдать развитие технологий ИИ, свидетельствующее о наступлении шестого технологического уклада в развитии человеческой цивилизации.
Период 2017-2019 гг. стал периодом принятия целого ряда юридических документов, определяющих не только сферы применения различных видов роботов, роботизированных и киберфизических систем, основанных на искусственном интеллекте, самого ИИ, но и необходимости их правового регулирования. В Российской Федерации определение ИИ дано в «Стратегии развития искусственного интеллекта до 2030 года», утвержденной Указом Президента Российской Федерации от 10.10.2019
24
№ 490 который определяется как «комплекс технологических решений», способных имитировать определенный ряд свойств человека и, прежде всего, такого свойства естественного разума, как способность к самообучению. Такая способность является основополагающей и актуализирует вопросы определения места искусственного интеллекта в системе как уже сложившихся общественных отношений, так и складывающихся в недалеком будущем в целях обеспечения благосостояния всех людей, национальной безопасности и экономического развития в современных условиях государственно-правового развития.
Исходя из такой трактовки ИИ, можно сделать вывод, что на современном этапе технологического развития следует однозначно говорить о реальном существовании слабого узкого назначения ИИ (Narrow AI) и сильного общего назначения ИИ (General AI), в то время как сверхсильный интеллект (Super АГ) пока даже не обозначен, хотя его развитие в будущем не просто предполагается, а научно прогнозируется [13]. Это важно для определения его правосубъектности, ведь Narrow AI(NAI) работает в полной зависимости от созданного человеком алгоритма, в результате которого такой ИИ способен получать информацию только из того набора данных, который прямо указан в алгоритме, т. е. «помогать» людям в решении конкретной задачи. Такой вид ИИ напрямую соотносится с определением его как системы специальных средств и приемов, используя которые, компьютер на основе уже накопленной информации может отвечать на заданные ему вопросы, делая на базе этого экспертные выводы [11, с. 130]. Не обладая подобием естественного разума, работая в заранее заданном диапазоне, такой слабый ИИ, безусловно, не может даже, в самых смелых мечтах, приблизиться к естественному интеллекту, поэтому, исходя из его внутренних свойств, не может считаться субъектом отношений.
В отличие от слабого ИИ (Narrow AI) General AI (GAI) обладает развитым интеллектом сравнимым с человеческим по определенным характеристикам. Сам термин ввел в научный обиход Джон Серл, по мнению которого основной задачей сильного интеллекта должна стать его способность «обходить» текст Тьюринга на основе алгоритма «китайской комнаты». Обрабатывая данные со скоростью, превышающей человеческую мысль в десятки, если не в сотни раз, сильный интеллект на основе созданной программы «с правильными входами и выходами» станет аналогом естественного разума (в том смысле, в котором мы сегодня определяем человеческое сознание), а следовательно, уже не будет исключи-
1 Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года") // Официальный интернет-портал правовой информации http://www.pravo.gov.ru, 11.10.2019.
25
тельно объектом в сложившихся отношениях при взаимодействии ИИ между собой и человеком [12]. Если до 2015 г. создание сильного интеллекта представлялось уделом далекого будущего, то с появлением «взрывного роста» технологий это уже реальность.
В последние 6-7 лет стали создаваться специальные программы по изучению человеческого мозга для создания аппаратного и программного обеспечения, например: Human Brain Project (HBP) (Швейцария) или Американский проект Brain Activity Map Project («Карта активности мозга», 2013 г.), которые должны быть завершены к 2023 г., программа BlueBrain по изучению ассамблей нейронов, проект «Банк кодов Земли» Amazon Third Way и т. д. [1]. Super AI (SAI), по определению Ника Бострома, превзойдет естественный интеллект по когнитивным способностям в несколько раз во всех возможных сферах социальной жизни [2]. Именно такая перспектива больше всего вызывает озабоченность у большинства, ведь такой ИИ неподконтролен человеку, моральных или правовых ограничений пока по отношению к нему нет, а следовательно, сверхсильный интеллект будет действовать не только помимо человека, быстрее его принимать решения, но и сможет доминировать над ним 2.
Определение ИИ, роботов, объектов робототехники в качестве объекта или субъекта правовых отношений связано с тем, что современные технологии могут совершать юридически значимые действия, при этом зачастую оставаясь механизмом, лишенным признаков социализации. Нахождение человечества на стадии шестого технологического уклада свидетельствует о внедрении в нашу жизнь по меньшей мере пяти факторов, способных полностью изменить не только материальную, но и духовно-нравственную составляющую цивилизационного развития. К их числу должны быть, безусловно, отнесены: базы данных, различного рода алгоритмы, нейронные сети, многообразные облачные технологии [6, с. 86], социальные сети (Facebook, YouTube, Twitter, Linkedln, Instagram) [7, с. 17] и системы «экспоненциального улучшения аппаратного обеспечения»3. Все перечисленные технологии свидетельствуют о новом этапе взаимодействия человека и окружающего его мира технических вещей, основанном на массовом использовании различного рода киберфизиче-ских систем, в том числе и слабом ИИ (NAI) и сильном ИИ (GAI).
В юридической научной литературе принято различать киберфизи-ческие системы и искусственные когнитивные системы (ИИ), причем если
2 Eight Act amending the road Traffic Act // BMVI [Электронный ресурс]. URL: https://www.bmvi.de/SharedDocs/ EN/Documents/DG/ eight-act-amending-the-road-traffic-act.pdf?_blob=publicationFile (дата обращения: 21.03.2020).
3 Intelligent Robots Development And Distribution Promotion Act [Электронный ресурс |. URL:http://elaw. klri.re.kr/engmobile/viewer.do?hseq=17399&type=part&key=18 (дата обращения: 31.03.2020).
26
первые - это совокупность взаимодействующих друг с другом различного рода физических объектов специального программного обеспечения и коммуникационных сетей, то вторые - «компьютерный алгоритм, способный воспринимать окружающую среду, анализировать полученную из нее информацию и на этой основе принимать рациональные решения с разной степенью автономности» [6, с. 87]. Таким образом, главным различием между ними выступает способность автономно действовать вне зависимости от воли человека. При определении возможности быть субъектом права, во-первых, необходимо определить степень такой автономности, а во-вторых, что выступает «оболочкой» таких систем - определенный тип технического средства или внеаппаратная среда по аналогии с естественным сознанием. В первом случае вопрос о соотнесении с объектом правоотношений для роботов, объектов робототехники и киберфизических систем будет в определенной степени очевиден. Ведь движимые и недвижимые материальные объекты, используемые «как оборудование, необходимое для улучшения производственных процессов», и решения практических задач обладают свойствами объекта права [3, с. 219].
В случае использования в таких технических средствах ИИ вопрос об отнесении их исключительно к объектам права уже не так однозначен. Степень автономности киберфизических и когнитивных систем от воли человека (заложенных в них точек входа и выхода, того или иного алгоритма, дающего техническому средству права на самообучение и т. д.) напрямую влияет на использование по отношению к ним определений «объект права», «субъект права», «участник правоотношений» и др. Итак, если автономность в принятии решения зависит исключительно от заложенного человеком алгоритма, то она не будет иметь значения для характеристики в правовом плане такой системы, т. к. действия элемента «умного дома» не являются юридическими фактами, а следовательно, не порождают, изменяют или прекращают правоотношения. Если же система на основе ИИ становится участником общественных отношений, то, по мнению Т Я. Хабриева и H.H. Черногор, необходимо уже определять его как «новую цифровую личность», что, в свою очередь, свидетельствует о необходимости изменения юридических подходов к определению группы участников правоотношений [14].
На наш взгляд, необходимо разделять всех действующих в правовом пространстве акторов на типичных субъектов права (поименованных в законодательстве как физические и юридические лица, государство, народ и т. д.) и участников общественных отношений (цифровых личностей) - беспилотный автомобиль; робот на высокотехнологичном производстве, осуществляющий сборку продукта без участия человека; антропоморфный робот, применяемый в сфере услуг; боевой беспилотный летательный аппарат, а также провайдеры, блогеры и т. д. [14, с. 87]. Данная
27
точка зрения получила подтверждение в европейском законодательстве, определяющем правовой статус автопилотников по отношению к иным участникам дорожного движения 4, заключающееся в праве автопилотников самостоятельно осуществлять важные для человеческой жизни действия, несмотря на то, что они по своей сути являются лишь сложными техническими средствами, управляемыми искусственной когнитивной системой, способной в непредсказуемых условиях самостоятельно выбирать одно из нескольких альтернативных решений» [6, с. 89], а также «умных роботов», используемых в социальной сфере 5.
Именно такие новые роботы и иные киберфизические системы в силу их свойств и способности влиять на общественные отношения позволяют говорить о появлении в теории права не только субъектов, но и квазисубъектов права [8; 9; 10], которые довольно часто в научной литературе называют социальными роботами [5], имея в виду возможность их социализации в первую очередь, а не использование в социально-экономической сфере. К числу таких роботов с 2004 г. принято относить не только робота-аватара, но и робота - продолжение тела и социального партнера (sociable partner) [15]. Они обладают определенными признаками, позволяющими не относить их к объектам правоотношений, а определять как особых участников - socially interactive robot, обладающих «способностью выражать и/или воспринимать эмоции; вести (поддерживать) диалог высокого уровня сложности; запоминать/узнавать модели поведения других агентов; устанавливать/поддерживать социальные взаимоотношения; использовать естественные коммуникативные сигналы (взгляд, жесты и др.); демонстрировать заметно выраженные черты характера; обладать способностью тренировать (развивать) социальные компетенции [5, с. 305]. При этом наделение киберфизических систем внешностью человека или животного будет способствовать все большей их социализации в человеческом восприятии, а следовательно, и признанию за ними качеств социального субъекта [18].
Горизонты возможного воздействия технологий сверхразума (искусственного интеллекта) на природу человека в XXI в. действительно становятся все более и более необозримыми. Сегодня в отдельных странах искусственный интеллект, созданный на основе антропоморфных ки-берсистем, предлагается использовать для взаимодействия людей в целях достижения социально значимых целей. Поэтому в правовом простран-
4 Eight Act amending the road Traffic Act // BMVI [Электронный ресурс]. URL: https://www.bmvi.de/SharedDocs/ EN/Documents/DG/ eight-act-amending-the-road-traffic-act.pdf?_blob=publicationFile (дата обращения: 21.03.2020).
5 Intelligent Robots Development And Distribution Promotion Act [Электронный ресурс]. IJRL:http://elaw.klri.re.kr/eng_mobile/viewer.do?hseq=17399&type=part&key=18 (дата обращения: 31.03.2020).
28
стве 6 как основном объекте правовой онтологии особое место занимает пространство виртуальной реальности, которое, по мнению Г.А. Гаджи-ева, также как и развитие все новых и новых технических и технологических возможностей создает предпосылки для изменения всей системы права в целом и института правосубъектности в частности [4, с. 14]. Причиной этого могут служить пока неразрешенные законодательным путем вопросы: легальное определение каждой из интеллектуальных систем, отнесение искусственного интеллекта, интеллектуальных систем и иных объектов информационных технологий к субъектам или объектам правовых отношений; содержание вида и особенностей юридической ответственности за неверные решения или действия искусственного интеллекта, определение прав искусственного интеллекта, особенностей трудовых и налоговых правоотношений при условии использования его работодателями и т. д. Поэтому при определении за киберфизическими и когнитивными системами качеств субъекта права станет необходимым признание за ними и в полной мере юридической ответственности, что, на наш взгляд, на современном этапе развития технологического уклада является преждевременным.
Библиографические ссылки
1. Баррат Дж. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens. М. : Альпинанон фикшн, 2015.
2. Востром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. [Электронный ресурс]. URL: file:///C:/Users/Twilight/Downloads/ [Nik_ Bostrom]_Iskusstvennuei_ntellekt._YE tapue,_u(z-lib.org).pdf (дата обращения: 10.03.2020).
3. Габов A.B., Хаванова И.А. Эволюция роботов и право XXI века // Вестник Томского государственного университета. 2018. № 435. С. 215233. DOI: 10.17223/15617793/435/28
4. Гаджиев Г А. Онтология права: (критическое исследование юридического концепта действительности) : монография. М. : НОРМА: НИЦ ИНФРА-М, 2013.
5. Зильберман H.H., Стефанцова М.А. Социальный робот: подходы к определению понятия // Современные исследования социальных проблем. 2016. № 11 (67). С. 297-312. DOI: 10.12731/2218-7405-2016-11-297-312.
6 См. подробнее: Попова A.B. Философия права : учебное пособие. Ч. 1. М. : Инфра-М, 2019. С. 28-44; Терентьев И.А. Правовое пространство как форма социальной реальности: к постановке проблемы // Общество: философия, история, культура. 2015. № 6 [Электронный ресурс]. URL: http://dom-hors.ru/rus/fi les/arhiv_zhurnala/fi k/2015—6/ phi-losophy/terentyev.pdf (дата обращения: 29.06.2019).
29
6. Регулирование взаимодействия человека с автономными техническими средствами: дискуссия о правовых режимах / Д.Л. Кутейников, О.А. Ижа-ев, В.А. Лебедев, С.С. Зенин // Lex Russica. 2019. № 9 (154). С.86-95. DOI: 10.17803/1729-5920.2019.154.9.085-095.
7. Паныпин Б.Н. Цифровая экономика: особенности и тенденции развития // Наука и инновации. 2016. № 3. С. 17-20.
8. Попова А.В. Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании // Журнал российского права. 2018. Т. 6. № 11. С. 14-24.
9. Попова А.В. Электронная личность: к вопросу о правовом регулировании / Публично-правовые средства эффективности развития экономики и финансов (ч. I. Публично-правовые средства цифровизации управления, экономического и социального. (Аспирантура). (Магистратура) : монография / под ред. Г.Ф. Ручкина, М.А. Лапина. М. : Русайнс, 2020. С. 30-46.
10. Попова А.В., Абрамова М.Г. Природа природы и онтология человека: к вопросу о новых субъектах права // Российский журнал правовых исследований. 2017. № 1. С. 54-63.
11. Пройдаков Э.М. Современное состояние искусственного интеллекта // Науковедческие исследования. М. : Институт научной информации по общественным наукам РАН, 2018. С. 129-153. DOI: 10.31249/scis/ 2018.00.09.
12. Серл Д. Разум мозга - компьютерная программа? //В мире науки. 1990. № 3. С. 7-13. URL: https://psychosearch.m/teoriya/psikhika/338-searle-john-razum-mozga-kompyuternaya-programma (дата обращения: 18.03.2020).
13. Скоробогатов А.В., Краснов А.В. Правовое пространство: постклассическая интерпретация // Российский журнал правовых исследований. 2016. №3 (8). С. 81-88.
14. Хабриева Т.Я., Черногор Н.Н. Право в эпоху цифровой реальности // Журнал российского права. 2018. № 1. С. 85-102.
15. Breazeal С. Social interactions in HRI: the robot view // ШЕЕ Transactions on Systems, Man, and Cybernetics, Part C: Applications and Reviews 34. 2004. №2. Pp. 181-186.
16. Brynjolfsson E. and Avinash C. How Should We Measure the Digital Economy? // Harvard Business Review. 2019. № 97 (6). Pp. 140-148. DOI: 10.1257/aer.20170491.
17. Brynjolfsson E., McAfee A. Machine, Platform, Crowd: Harnessing Our Digital Future. 2017. NewYork: WW. Norton, 2017.
18. Yang S. et al. Experiences developing socially acceptable interactions for a robotic trash barrel // Robot and Human Interactive Communication (ROMAN). 2015 24th IEEE International Symposium on. IEEE, 2015. Pp. 277-284.
Дата поступления: 12.06.2020
30
DOI: 10.33184/pravgos-2020.3.3
ON THE ISSUE OF THE NEED FOR THE INSTITUTION OF LEGAL
PERSONALITY OF ARTIFICIAL INTELLIGENCE AT THE PRESENT DEVELOPMENT STAGE OF THE RULE-OF-LAW STATE
GOROKHOVA Svetlana Sergeevna
Candidate of Sciences (Law), Associate Professor, Assistant Professor of the Department of International and Public Law, Financial University under the Government of the Russian Federation, Moscow, Russia. E-mail: sgorohova(a)fa.ru
An urgent problem of transforming Russian legal system at the present stage of its development is to find an optimal balance in determining fundamental approaches to the legal regulation of public relations complicated by cyberphysi-cal systems, artificial intelligence, various types of robots and robotics objects, as well as to consider the possibility of giving legal personality to weak and strong artificial intelligence in various branches of law and legislation. Purpose: analysis of the issues related to determining the legal status of artificial intellectual systems, taking into account modern requirements dictated by scientific and technological progress, the development of social relations, and the rule-of-law principles, aimed at ensuring respect for the individual rights and legitimate interests, society and the state Methods: on the basis of dialectical and metaphysical methods, general scientific (analysis, synthesis, comparative law, etc.), and specific scientific (legal-dogmatic, cybernetic, interpretation) methods of scientific knowledge are used. Results: at the present stage of technological development, we should talk about the existence of a weak narrow-purpose AI (Narrow AI) and a strong General-purpose AI (General AI). Super-strong intelligence (Super AI) does not yet exist, although its development is predicted in the future. Narrow AI, of course, can not reach natural intelligence, so, based on its internal properties, it can not be considered a subject in relations under any circumstances. In contrast to narrow AI (Narrow AI), General AI (GAI) has a developed intelligence comparable to that of a human in certain characteristics. The theoretical discussion of giving an artificial intelligence the status of a subject or a "quasi" subject of law makes sense only for technological solutions in the rank of General AI and Super AI. In the case of an AIS, it can only be a question of partial legal capacity. Partial legal capacity is a status that applies to subjects that have legal capacity only in accordance with specific legal norms, but are otherwise not obligated or entitled. Therefore, when choosing the concept of legislative assignment of partial legal capacity to the AIS, it is necessary to determine which specific rights or "right obligations" will be granted to General AI and Super AI.
31
Key words: artificial intelligence; robot; robotics; legal regulation; rule-of-law state, legal capability; legal capacity.
References
1. Barrat Dzh. Poslednee izobretenie chelovechestva: Iskusstvennyj intellect I konec jery Homosapiens. (The Last Invention of Humanity: Artificial Intelligence and the End of the Homo sapiens Era). Moscow, Al'pinanonfikshn, 2015.
2. Bostrom N. Iskusstvennyj intellekt. Jetapy. Ugrozy. Strategii. (Artificial Intelligence. Stages. Threats. Strategy). Available at: file:///C:/Users/Twilight/ Downloads/[Nik Bostrom] Iskusstvennuei intellekt _YEtapue,_u(z-lib.org), pdf (accessed date: 10.03.2020).
3. Gabov A.V., Havanova I.A. Jevoljucija robotov I pravo XXI veka (Evolution of Robots and Law of the XXI Century), Vestnik Tomskogo gosudarstvennogo tmi-versiteta, 2018, No. 435, pp. 215-233. DOI: 10.17223/15617793/435/28.
4. Gadzhiev G.A. Ontologija prava: (kriticheskoe issledovanie juridicheskogo koncepta dejstvitel'nosti) (Ontology of Law: (critical study of the legal concept of reality)), monografija. Moscow, NORMA: NIC INFRA-M, 2013.
5. Zil'berman N.N. Social'nyj robot: podhody k opredeleniju ponjatija (Social Robot: Approaches to the Definition of the Concept), Sovrememiye issledovan-iia social'nyh problem, 2016, No. 11(67), pp. 297-312. DOI: 10.12731/22187405-2016-11-297-312.
6. Kutejnikov D.L. Regulirovanie vzaimodejstvija cheloveka s avtonomnym I tehnicheskimi sredstvami: diskussija o pravovyhrezhimah (Regulation of human interaction with autonomous technical means: discussion on legal regimes), Lex Russica, 2019, No. 9 (154), pp. 86-95. DOI: 10.17803/17295920.2019.154.9.085-095.
7. Pan'shin B.N. Cifrovajaj ekonomika: osobennosti i tendencii razvitija (Digital Economy: Features and Trends of Development), Nauka i innovacii, 2016, No. 3, pp. 17-20.
8. Popova A.V. Novye sub'ekty informacionnogo obshhestva I obshhestva znanija: k voprosu o normativnom pravovom regulirovanii (New Subjects of Information Society and Knowledge Society: to the Issue of Normative Legal Regulation), Zhurnal rossijskogoprava, 2018, V. 6, No. 11, pp. 14-24.
9. Popova A.V. Jelektronnaja lichnost': k voprosu o pravovom regulirovanii (Electronic Personality: to the issue of legal regulation), Publichno-pravovye sredstva jeffektivnosti razvitij jekonomik I ifinansov (ch. I. Publichno-pravovye sredstva cifrovizacii upravlenija, jekonomicheskogo I social'nogo. (Aspirantura). (Magistratura). Monografija, pod red. G.F. Ruchkina, M.A. Lapina, Moscow, Rusajns, 2020, pp. 30^6.
10. Popova A.V., Abramova M.G. Priroda prirody I ontologija cheloveka: k voprosu o novyh sub'ektah prava (Nature of Nature and Human Ontology: to
32
the question of new subjects of law), Rossijskij zhurnalpravovyh issledovanij, 2017, No. 1, pp. 54-63.
11. Projdakov Ye.M. Sovremennoe sostojanie iskusstvennogo intellekta (Modern State of Artificial Intelligence), Naukovedcheskie issledovanija. Moscow, Institut nauchnoj informacii po obshhestvennym naukam RAN, 2018, pp. 129— 153. DOI: 10.31249/scis/2018.00.09
12. Sjorl D. Razummozga - kompjuternaja programma? (Mind Is a Computer Program?), Vmire nauki, 1990, No. 3, pp. 7-13. Available at: https://psychosearch.ru/teoriya/psikhika/338-searle-john-razum-mozga-kompyuternaya-programma (accessed date: 18.03.2020).
13. Skorobogatov A.V. Pravovoe prostranstvo: postklassicheskaja interpretaci-ja (Legal space: post-classical interpretation), Rossijskij zhurnal pravovyh issledovanij, 2016, No. 3 (8), pp. 81-88.
14. Habrieva T.Ya. Pravo v jepohu cifrovoj real'nosti (Law in the Age of Digital Reality), Zhurna Irossijskogoprava, 2018, No. 1, pp. 85-102.
15. Breazeal C. (2004) Social interactions in HRI: the robot view, IEEE Transactions on Systems, Man, and Cybernetics, Part C, Applications and Reviews 34, No 2, pp. 181-186.
16. Bryniolfsson E. and Avinash C. (2019) How Should We Measure the Digital Economy? / E. Bryniolfsson, E & C. Avinash, Harvard Business Review, No. 97(6), pp. 140-148. DOI: 10.1257/aer.20170491.
17. Brynjolfsson E., McAfee A. (2017) Machine, Platform, Crowd: Harnessing Our Digital Future, New York, W.W. Norton.
18. Yang S. et al. (2015) Experiences developing socially acceptable interactions for a robotic trash barrel, Robot and Human Interactive Communication (ROMAN), 24th IEEE International Symposium on. IEEE, pp. 277-284.
Received: 12.06.2020
33
