CC BY
283
государство и право в современном мире:
проблемы теории и истории
РОБОТ И ЧЕЛОВЕК: НОВОЕ ПАРТНЕРСТВО?
ТИХОМИРОВ Юрий Александрович, заместитель заведующего Центром публично-правовых исследований Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, доктор юридических наук, профессор, заслуженный деятель науки Российской Федерации, член-корреспондент Международной академии сравнительного права
117218, Россия, г. Москва, ул. Большая Черемушкинская, 34 E-mail: office2@izak.ru
КРЫСЕНКОВА Наталья Борисовна, старший научный сотрудник отдела зарубежного конституционного, административного, уголовного законодательства и международного права Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, кандидат юридических наук 117218, Россия, г. Москва, ул. Большая Черемушкинская, 34 E-mail: foreign2@izak.ru
НАНБА Сариа Беслановна, старший научный сотрудник отдела конституционного права Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, кандидат юридических наук 117218, Россия, г. Москва, ул. Большая Черемушкинская, 34 E-mail: snanba83@gmail.com
МАРГУШЕВА Жанна Азретовна, младший научный сотрудник Центра публично-правовых исследований Института законодательства и сравнительного правоведения при Правительстве Российской Федерации 117218, Россия, г. Москва, ул. Большая Черемушкинская, 34 E-mail: cppi@izak.ru
Согласно прогнозам к 2025 г. роботы оставят без работы 7% американцев, к 2026 г. — 40% канадцев, а к 2035 г. они займут половину рабочих мест в Японии. Возникает закономерный вопрос: каким образом человеку сохранять свою значимость и быть конкурентоспособным в мире цифровой реальности? Информатизация и роботизация общества и государства приобретают все большие масштабы, что не только имеет потенциал для развития, но и несет скрытые риски и угрозы. Перед государством и обществом стоит задача комплексных преобразований во всех сферах жизнедеятельности. Для ее решения необходимо найти оптимальное сочетание и эффективное применение научно-технического, интеллектуального и промышленного потенциалов. Не вызывает сомнения необходимость правового регулирования различных вопросов роботизации, в том числе определение правовой природы робота, пределов ответственности за причиненный вред, мер социальной защиты граждан от безработицы, возникшей вследствие распространения робототехники. Первоочередной задачей является разработка терминологического аппарата: определение соотношения понятий цифровиза-ции, информатизации, роботизации, их юридического наполнения. Авторы статьи предлагают выделить совмещенную ответственность за действия робота и ущерб, причиненный им. Широкое распространение роботов в промышленной и социальной сферах, а также развитие технологий, связанных с искусственным интеллектом, оказывают значимое влияние на поведенческие аспекты права. Также в статье анализируются сложившиеся подходы к правовому регулированию робототехники в зарубежных государствах и возможность использования передового опыта в данной сфере в России.
Ключевые слова: робот, роботизация, цифровизация, человек, техника, промышленная сфера, социальный, поведение, искусственный интеллект, правовой статус, стандарт, стратегия.
ROBOT AND HUMAN: A NEW PARTNERSHIP?
Yu. A. TIKHOMIROV, deputy head of the public law research centre of the Institute of Legislation and Comparative Law under the Government of the Russian Federation, doctor of legal science, professor, honored scientist of the Russian Federation, corresponding member of the International Academy of Comparative Law 34, Bolshaya Cheremushkinskaya st., Moscow, Russia, 117218 E-mail: office2@izak.ru
N. B. KRYSENKOVA, senior research fellow of the Institute of Legislation and Comparative Law under the Government of the Russian Federation, candidate of legal sciences
34, Bolshaya Cheremushkinskaya st., Moscow, Russia, 117218 E-mail: foreign2@izak.ru
S. B. NANBA, senior research fellow of the Institute of Legislation and Comparative Law under the Government of the Russian Federation, candidate of legal science
34, Bolshaya Cheremushkinskaya st., Moscow, Russia, 117218 E-mail: snanba83@gmail.com
Zh. A. MARGUSHEVA, junior research fellow of the Institute of Legislation and Comparative Law under the Government of the Russian Federation
34, Bolshaya Cheremushkinskaya st., Moscow, Russia, 117218 E-mail: cppi@izak.ru
According to forecasts by 2025 robots will leave 7% of Americans unemployed, by 2026 - 40% of Canadians, and by 2035 they will take half of jobs in Japan. A natural question arises: how can a person retain his/her importance and be competitive in the world of digital reality? Informatization and robotics of society and the state are becoming increasingly widespread, which carries not only the potential for development, but also hidden risks and threats. The state and society face the task of complex transformations in all spheres of life. To solve it it is necessary to find the optimal combination and effective use of scientific, technical, intellectual and industrial potential. There is no doubt that there is a need for legal regulation of various issues of robotics, including the definition of the legal nature of the robot, the limits of liability for damage, the development of measures of social protection of citizens from unemployment resulting from the spread of robotics. The primary task is to develop a terminological apparatus: the definition of the relationship of the concepts of digitalization, informatization, robotics, their legal content. The authors propose the allocation of combined responsibility for the robot's actions and the damage caused by it. The widespread use of robots in the industrial and social spheres, as well as the development of technologies related to artificial intelligence, have a significant impact on the behavioral aspects of law. In addition, the article analyzes the existing approaches to the legal regulation of robotics in foreign countries and the possibility of using best practices in this area in our country.
Keywords: robot, robotics, informatization, individual, engineering, sector of industry, social, behavior, artificial intellect, legal status, standard, strategy.
DOI: 10.12737/аг!2018.5.1
Постановка вопроса «Человек и робот: партнеры или враги?» — это фрагмент всей информатизации общества. Термин «цифровизация» переведен на русский язык по-разному с английского, немецкого, французского. Тема «Человек и техника» — вечная, она существует столетия и тысячелетия. Ее разработка осуществлялась параллельно и учеными, и писателями-фантастами. В работах Г. Уэллса, К. Чапека, М. Булгакова, Э. Ионеско человек все время подвергается воздействию каких-то странных явлений или существ. Что это за существа? Живые, овеществленные, какие-то бездуховные или «получеловеки»? И наука не стоит на месте, в том числе с точки зрения права. Так, юристы всегда относились с некоторым высокомерием к так называемому юридико-техническому регулированию. Большие фрагменты о технико-юридических нормах были в работах юристов конца XIX — начала XX в., скажем, Н. М. Коркунова1, Б. Н. Чичерина2, позднее И. А. Ильина3. В советские годы во всех работах по теории права мы практически ничего не находим на эту тему, поскольку правовое регулирование касалось в основном партийно-государственных документов, редко законов, а технико-юридические нор-
1 См.: Коркунов Н. М. Лекции по общей теории права. СПб., 1894.
2 См.: Чичерин Б. Н. Философия права. М., 1900.
3 См.: Ильин И. А. Общее учение о праве и государстве. О сущности правосознания. Собр. соч. Конец 1930 г. — начало 1951 г. Цюрих. Т. 4. М., 1994.
мы оставались где-то в стороне. В новейших работах по теории права и теории государства о таких нормах практически никто не говорил до тех пор, пока не по -явился закон о техническом регулировании. Однако сейчас картина резко меняется, и необходимо найти нужные пропорции в соотношении того, что касается человека и цифровизации в широком смысле слова, процесса, который захватил всех.
Ключевым вопросом правового регулирования роботизации является определение правовой природы и статуса робота. Так, Г. А. Гаджиев отмечает, что в случае возникновения реальных предпосылок наличия интеллекта у роботов, т. е. сознания и воли в их юридической, а не психологической интерпретации, роботов можно признать квазисубъектами права4.
Во времена Декарта животные считались просто машинами. Сейчас же Аргентинский суд наделил правами орангутанов, назвав их нечеловеческими лич-ностями5. Принятый в Новой Зеландии в 2017 г. Закон признал статус юридического лица за рекой Уон-гануи6, т. е. река из собственности трансформировалась в юридическое лицо. В Индии Верховный суд в
4 См.: Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1. С. 24.
5 См.: Саффо П. Каким будет место человека? Что мы думаем о машинах, которые думают о нас. М., 2017. С. 225.
6 См.: Te Awa Tupua (Whanganui River Claims Settlement) Act 2017. URL: http://www.legislation.govt.nz/act/public/2017/0007/ latest/whole.html (дата обращения: 28.06.2018).
2000 г. признал юридическим лицом основной священный текст сикхов — Гуру Грантх Сахиб7. Очевидно, что подобные прецеденты расширяют понимание юридического лица, учитывая искусственно сконструированный характер данного субъекта права. Аналогичный подход может быть применен и в отношении определения статуса робота в качестве юридического лица.
Анализ правового регулирования роботизации невозможен без учета поведенческих аспектов8, поскольку право непосредственно воздействует на сознание и поведение9. Следует отметить, что собственно терминология данного направления еще не устоялась — отсутствует соотношение понятий «цифро-визация», «информатизация», «роботизация», их юридическое наполнение.
Тема роботизации особенно выделяется в связи с широким распространением роботов в бытовой жизни, а также в различных сферах жизнедеятель -ности (социальной, промышленной и т. д.). И имен -но здесь важны поведенческие аспекты права, исследование проблемы поведения человека и общества — как оно трансформируется в связи с развитием робототехники. Есть различные социальные классы, у которых разное представление о модели управления государством, ведении хозяйства, саморегулировании.
В рамках деятельности Международной организации по стандартизации (ISO) осуществлена разработка понятийного аппарата роботизации. В соответствии с международным стандартом ISO 8373:2012 робот обладает следующими характеристиками: восприятие окружающего мира с помощью сенсоров, понимание окружающего мира, построение модели поведения, воздействие на физический мир тем или иным способом10. Также разработана классификация, согласно которой выделяются промышленные и сер -висные роботы.
В исследованиях, проводимых Институтом законодательства и сравнительного правоведения при Правительстве РФ в области правового обеспечения промышленности, обосновывается необходимость развития комплексной отрасли законодательства, в которой базовый закон сочетается с нормами гражданского права, административного, трудового законодательства, законодательства о науке, об управлении, а также с нормами международного пра-ва11. Российское законодательство, касающееся регу-
7 March 29, 2000, the Supreme Court of India. URL: https:// www.thehindu.com/2000/04/03/stories/01030005.htm (дата обращения: 28.06.2018).
8 См.: Талер Р. Новая поведенческая экономика. М., 2017.
9 См.: Кудрявцев В. Н. Право и поведение. М., 1978.
10 URL: https://www.iso.org/obp/ui/#iso:std:iso:8373:ed-2:v1:en.
11 См.: Закон-ресурс промышленности: монография / отв.
ред. Ю. А. Тихомиров. М., 2016; см. также: Правовое обес-
лирования робототехники в области промышленности, фрагментарно. На федеральном уровне приняты и действуют документы стратегического характера: Стратегия развития информационного общества в России12, Стратегия научно-технологического развития13, Программа развития промышленности и повышения ее конкурентоспособности14, направленные в том числе на развитие аддитивных технологий и робототехники, инженерного программного обеспечения и др. В субъектах РФ действуют различные государственные программы инновационного развития промышленности, обрабатывающих отраслей промышленности и предпринимательства (Республика Татарстан, Калининградская область и др.). Примером ведомственного регулирования является национальный стандарт «Роботы и робототехнические устройства»15, положения которого распространяются на все роботы и робототехнические устройства наземного применения.
Следует учитывать, что правовое обеспечение промышленной сферы не ограничивается рамками национального законодательства, поскольку международное сотрудничество осуществляется в условиях глобализации технико-экономических связей. Так, в Евразийском экономическом союзе (ЕАЭС) действует Концепция Евразийского инжинирингового центра по станкостроению; программы и договоренности руководителей России и других государств в рам -ках БРИКС, АТЭС.
Развитие промышленности зависит не только от деятельности органов публичной власти, но и действий предприятий, организаций. Важна роль локального регулирования, локальных актов.
Что касается использования роботов в социальной сфере жизни человека, то оно успело стать обыденным явлением. Сервисные роботы нашли применение всюду: от розничной торговли до медицины. Согласно упомянутому Международному стандарту ISO 8373:2012 сервисные роботы подразделяются на два типа: предназначенные для персонального использования, т. е. те, что приобретаются для использования в повседневной жизни, и предназначенные для профессионального использования — те,
печение промышленности: науч.-практ. пособие / отв. ред. Ю. А. Тихомиров. М., 2010.
12 См. Указ Президента РФ от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017—2030 годы».
13 См. Указ Президента РФ от 1 декабря 2016 г. № 642 «О Стратегии научно-технологического развития Российской Федерации».
14 Утв. постановлением Правительства РФ от 15 апреля 2014 г. № 328.
15 ГОСТ Р 60.0.0.2-2016. Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация. М., 2016.
которые приобретаются для того, чтобы использовать их с целью извлечения выгоды при оказании различных услуг.
Согласно статистическим данным сервисная робототехника показывает более значительный рост уже сейчас (на уровне 25% в год) при относительно меньших в абсолютном значении цифрах по сравнению с промышленной (15% в год)16.
Отметим, что различные аспекты нормативно-правового регулирования использования сервисной робототехники в России, как и во всем мире, сейчас находятся в зачаточном состоянии. В то же время искусственный интеллект назван одной из сквозных технологий, которые необходимо развивать в рамках государственной Программы «Цифровая экономика»17.
Бесспорным фактом является то, что роботизация как процесс меняет сложившиеся общественные отношения и существующей правовой базы не всегда достаточно или она становится малоэффективной в новых условиях. Очевидно, что чаще всего право не успевает за изменениями в общественной жизни и отстает от научно-технического прогресса, что в некой точке бифуркации может оказаться критичным для всего человечества в свете стремительной интеграции роботов в жизнь общества. Это касается таких важных сфер, как беспилотный транспорт, медицина, социальная защита граждан от безработицы и такого аспекта регулирования, как ответственность за причиненный вред. В этой ситуации очевидно, что необходимо комплексное правовое регулирование роботизации и связанных с этим процессом вопросов.
Одной из самых быстроразвивающихся сфер применения искусственного интеллекта является транспорт. Особое внимание во всем мире сейчас обращено на перспективы использования беспилотного транспорта. И важный вопрос в связи с этим — допуск беспилотных машин на дороги общего пользования. Сейчас в России законодатель установил запрет на такое использование, что может привести к отставанию страны в технологическом плане. Так, российские производители вынуждены проводить испытания такого транспорта на дорогах других государств, где подобный запрет отсутствует.
29 марта 2018 г. было подписано распоряжение Правительства РФ № 535-р, утвердившее план мероприя -тий — дорожную карту, направленную на совершенствование законодательства и устранение административных барьеров в целях реализации Националь -ной технологической инициативы по направлению
16 См.: Данные Международной федерации робототехники: URL: https://ifr.org/downloads/press/Executive_Summary_ WR_2017_Industrial_Robots.pdf.
17 Утв. распоряжением Правительства РФ от 28 июля 2017 г.
№ 1632-р.
«Автонет». Документ содержит перечень мероприятий по внедрению новых технологий, товаров и услуг на рынках электрических, беспилотных и подключенных автомобилей, транспортной логистики, а также телематических, транспортных и иных информационных систем. Также предлагается установить налоговые льготы для продажи электромобилей и гибридных автомобилей. Еще одним примером зачатков регулирования роботизации в сфере транспорта являются поправки в Воздушный кодекс РФ, направленные на регулирование использования беспилотных воздушных судов18.
В социальной сфере действуют не только отраслевые законы, но и большое количество локальных актов. Важно в таких условиях не спешить и не создать критическую ситуацию, внося поправки в законы. Первый ключевой вопрос — это необходимость социально-правового эксперимента, и второй вопрос — кто будет его проводить, ведь есть опасение возникновения нагромождения предложений позитивных или негативных, а эти два вопроса на данный момент остаются вне поля зрения.
Относительно зарубежного опыта законодательного регулирования подобных вопросов следует отметить, что в настоящее время практически ни в одном государстве мира нет правового регулирования отношений по использованию роботов и робототехники. Однако некоторые тенденции формирования и развития такого правового регулирования представляется возможным выделить.
Среди лидеров по установлению правового регулирования робототехники в мире можно назвать Южную Корею, где действует Закон о развитии и распространении умных роботов (Intelligent robots development and distribution promotion) 2008 г. Закон устанавливает как базовые принципы правового регулирования робототехники, так и конкретные нормы в части эксплуатации умных роботов, среди которых создание специального учреждения по развитию робототехники, полномочия различных государственных органов в сфере робототехники, органов местного самоуправления. Кроме того, в Южной Корее создан специальный государственный орган, ответственный за разработку и совершенствование законодательства в сфере робототехники.
При этом в большинстве стран мира действуют стратегические и программные документы, направленные на установление тенденций и общих направлений развития робототехники. К таким документам можно отнести:
Дорожную карту развития робототехники в Европе "Robotics 2020" (Multi-Annual Roadmap), разра-
18 См. Федеральный закон от 30 декабря 2015 г. № 462-ФЗ «О внесении изменений в Воздушный кодекс Российской Федерации в части использования беспилотных воздушных судов».
ботанную специалистами частно-государственного партнерства "SPARC";
резолюцию 2015/2103(INL) «Нормы гражданского права о робототехнике» (Civil Law Rules on Robotics), принятую 16 февраля 2017 г. Парламентом ЕС на основе рекомендаций, разработанных Комитетом по правовым вопросам. Именно эта резолюция содержит ряд значимых для робототехники положений, ссылаясь в частности на законы А. Азимова, рассматривает перспективы в сфере регулирования ответственности за вред, который может быть причинен роботами, предлагает определение понятия «робот», а также предлагает сформировать систему органов по вопросам робототехники и искусственного интеллекта, аспекты создания системы регистрации роботов, базовые основы для разработки этических кодексов производителей и определения правового статуса роботов;
программный документ «Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий» 2015 г., который в частности содержит указания на необходимость установления правового регулирования в части выделения и использования радиочастотного спектра, сферы медицины и страхования, транспорта и дорожного движения, использования дронов, формирования общественной инфраструктуры и обеспечения безопасности товаров;
Глобальную государственную программу развития Китая "Made in China 2025" (май 2015 г.);
План развития робототехнической отрасли (Robotics Industry Development Plan (2016—2020), апрель 2016 г.) Китая (однако специальный закон, регулирующий правоотношения в сфере использования роботов и искусственного интеллекта, в настоящее время в этом государстве отсутствует и не рассматривается в качестве ключевого для возможности проведения правовой реформы в этой сфере);
Национальную робототехническую инициативу (National Robotics Initiative) 2011 г. (Версия 2.0) США;
Дорожную карту развития робототехники в США (Roadmap for US Robotics) 2011 г.;
Федеральную политику в сфере автоматизированных транспортных средств (Federal Automated Vehicles Policy) — один из первых комплексных документов в США, опубликованный в 2016 г., в части регулирования использования высокоавтоматизированных машин.
Таким образом, несмотря на отсутствие в большинстве стран мира законодательного регулирования робототехники и использования роботов и искусственного интеллекта, прослеживаются основные направления для установления правового регулирования в будущем. В настоящее время основное место среди вопросов, в какой-то мере урегулированных в правовом поле, занимают вопросы обеспечения безопасно -сти (в частности, разработаны стандарты безопасно-
сти для роботов, применяемых в сфере товаров для дома и личной гигиены), этики при все большем внедрении роботов в профессиональную и повседневную сферу жизни человека, соблюдения баланса между достижением целей технологического развития государств мира и защиты конечных пользователей, оценки потенциального воздействия робототехники на экономическую и социальную жизнь в обществе.
Зарубежное законодательное регулирование соответствует международным стандартам, и несмотря на отсутствие во многих государствах мира общих зако -нов о робототехнике, отдельные нормы, упоминающие роботов, в законодательных актах зарубежных стран все же существуют. Здесь мы говорим, в частности, об Эстонии (где в 2017 г. был разработан зако -нопроект о внесении изменений в Закон о дорожном движении) и Германии (где 16 июня 2017 г. был принят Восьмой закон о внесении изменений в Закон о дорожном движении).
Проект эстонского закона направлен на регулирование вопросов передвижения роботов-курьеров. Пункт 68.1 Закона о дорожном движении в новой редакции будет определять самодвижущегося робота-курьера как «устройство с полностью автоматической или дистанционной формой управления, работа которого обеспечивается за счет колес или иного вида шасси, соприкасающегося с землей, и системы датчиков, камер или другого оборудования, которые, предоставляя информацию об окружающей обстановке, позволяют устройству частично или полностью перемещаться в автономном режиме». Изменения в Закон о дорожном движении коснутся не только введения понятия самодвижущегося робота-курьера, но и прав и обязанностей владельцев таких роботов, а также лиц, которые ими управляют. Кроме того, законопроект устанавливает требования к ограничению скорости движения роботов-курьеров.
В отличие от эстонского законопроекта, который фактически вводит в правовое поле робота в качестве самостоятельного объекта регулирования, Восьмой закон о внесении изменений в Закон о дорожном движении Германии регулирует только отдельные вопросы, связанные с использованием автоматизированных систем управления автомобильным транспортом, права и обязанностей водителей и владельцев таких транспортных средств.
Представляется, что для решения вопроса правового регулирования роботизации (как процесса) и робототехники необходимо последовательно дать ответ на несколько вопросов:
1) нужно ли менять статус работника, рядом с которым работает робот? Представляется, что в должностных инструкциях целесообразно предусматривать спаренные совместные действия робота и челове -ка, что провоцирует постановку следующего вопроса;
2) какие решения можно доверить роботу? Сейчас существует огромная информационная база, ко-
торая существенно расширяет выбор вариантов решений, обилие информационных потоков позволяет вариативно оценивать разные способы решения проблем. При этом, с одной стороны, возникает опасение, что человек с помощью робота может быть задавлен стандартными решениями, которые робот забирает у него, человек остается в статусе контролера. С другой стороны, у человека возникает большая сфера креативных, творческих решений, и здесь нужно акцентировать внимание на том, как меняется статус должностных лиц и работников. Ведь существует множество технологических инструкций, нормативно-технических документов, которые регламентируют определенные процессы. Такие документы должны быть внимательно изучены, виды решений тщательно продуманы. Здесь мы говорим о теории решений, которая была очень популярна в СССР в конце 1950-х гг.19, теории систем, теории сложностей. Поручить своему роботу-партнеру принятие стандартных решений — это наиболее доступный вариант. А что остается за человеком? Он готов к этому или нет?
Объем креативных решений в настоящее время не -велик, поскольку существует огромный регламента-ционный поток, состоящий из международных регу-
19 См.: Саймон Г. А. Теория принятия решений в экономической теории и науке о поведении // Вехи экономической мысли. Теория потребительского поведения и спроса. Т. 1 / под ред. В. М. Гальперина. СПб., 1999.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
ляторов, стандартов, равно как и национальных. Однако одновременно с этим необходимо развивать эвристическое мышление. Такая типология решений очень существенна;
3) проблема ответственности. Появляются проекты изменений гражданского законодательства, в том числе в части наделения ответственностью за действия робота и ущерб, им причиненный, собственника или владельца. Представляется, что здесь возникает совмещенная ответственность, поскольку программное обеспечение для роботов создается разработчиками, технологические чертежи и собственно аппаратура — эксплуатационниками, а также существует третий участник — тот, кто ведет с ними параллельную работу (чиновник или бизнесмен), который наблюдает. Если робот допустил ошибку, чья это ответственность? Возможно, была неправильно создана программа, либо эксплуатационник сделал некачественную технологическую цепочку, либо ошибка была допущена чиновником или бизнесменом. Вопрос, кто в этой цепочке несет ответственность, остается открытым. Апеллировать ко всем инстанциям неправильно. Таким образом, совмещенная ответственность приобретает непростой характер. И если в однолинейных отношениях (в договорных отношениях, когда должник виноват, а контрагент прав) возможно решение спора в исковом производстве, то в рассматриваемой комбинации предлагается применять совмещенную ответственность.
Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1.
Закон-ресурс промышленности: монография / отв. ред. Ю. А. Тихомиров. М., 2016.
Ильин И. А. Общее учение о праве и государстве. О сущности правосознания. Собр. соч. Конец 1930 г. — начало 1951 г. Цюрих. Т. 4. М., 1994.
Коркунов Н. М. Лекции по общей теории права. СПб., 1894.
Кудрявцев В. Н. Право и поведение. М., 1978.
Правовое обеспечение промышленности: науч.-практ. пособие / отв. ред. Ю. А. Тихомиров. М., 2010.
Саймон Г. А. Теория принятия решений в экономической теории и науке о поведении // Вехи экономической мысли. Теория потребительского поведения и спроса. Т. 1 / под ред. В. М. Гальперина. СПб., 1999.
Саффо П. Каким будет место человека? Что мы думаем о машинах, которые думают о нас. М., 2017.
Талер Р. Новая поведенческая экономика. М., 2017.
Чичерин Б. Н. Философия права. М., 1900.
О
