CC BY
48DOI 10.24411/2076-1503-2020-10257 МАЛЬГИНОВ Е.А.,
кандидат юридических наук, доцент кафедры гражданского и арбитражного процесса
МГИМО МИД России е-mail: [email protected]
КОНТУРЫ ПРАВА РОБОТОТЕХНИКИ И ДАЛЬНЕЙШИЕ ПЕРСПЕКТИВЫ РАЗВИТИЯ ПРАВА РОБОТОТЕХНИКИ В РОССИИ И ЗА РЕБУЖОМ
Аннотация. В данной статье анализируется современное состояние проблем, связанных с развитием правового регулирования отношений, возникающих при разработке и использовании (эксплуатации) робототехники, предпринимается попытка их решения. Автор приходит к выводу, что в ближайшем будущем состоится обособление права робототехники в системе частно-публичного права, а контуры возникающего права робототехники уже в достаточной мере сформированы.
Ключевые слова: искусственный интеллект, робототехника, право робототехники.
MALGINOV E.A.,
PhD in Law,
associate Professor of the Department of civil and arbitration procedure of MGIMO-MFA of Russia
ROBOTICS LAW CONTOURS AND BEYOND PROSPECTS FOR THE DEVELOPMENT OF ROBOTICS LAW IN RUSSIA AND BEHIND THE REBEL
Annotation. This article analyzes the current state of problems in the development of legal regulation of relations arising during the development and use (operation) of robotics, and an attempt is made to solve them. The author comes to the conclusion that in the near future it is advisable to isolate the right of robotics in the system of private-public law. The article also states the fact that the general provisions (contours) of the right of robotics are already sufficiently formed.
Key words: artificial intelligence, robotics, robotics law.
На прошедшей в конце марта 2019 г. стенфордской конференции Института антропоцентрического искусственного интеллекта Б. Гейтц выразил сомнение о будущем искусственного интеллекта. Так, в его виденье «искусственный интеллект по потенциальным негативным последствиям его применения в военной сфере сравним разве, что с ядерным оружием», к сожалению, многие эксперты с ним согласны [1]. Отклоняясь от позиций сегодняшних футурологов и переводя современные вопросы, связанные с искусственным интеллектом, в правовую плоскость, невольно хочется задать вопрос: насколько далеко мы находимся от того, чтобы говорить о формировании новой отрасли права - права робототехники?
В международном обороте давно используются различные категории и термины, связанные с 6-й технологической революцией. Если первая
группа этих терминов связана, прежде всего, с Интернет-пространством и включает такие специфические категории и новые правовые институты, как Интернет-право, телекоммуникационное право1 [2], цифровое право2, и в достаточной мере
1 Под Интернет-правом, как правило, понимается совокупность правовых проблем, связанных с использованием сети Интернет. В Германии, например, Интернет-право не рассматривается в качестве отрасли права, в отличие от медийного (Medienrecht), информационного (Informationsrecht (IT-Recht), телекоммуникационного права (Telekommunikationsrecht), с которыми Интернет-право имеет большое количество общих правовых проблем (как, например, правовые вопросы размещаемого в Интернете медиаконтента и технологических аспектов организации и функционирования Сети).
2 Цифровое право - это совокупность электронных данных, которая удостоверяет права на такие объекты гражданских прав, как вещи, иное имущество, результаты работ, оказание услуг и исключительные права. Оборот «цифровых прав» происходит только
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2020
уже разработана в доктрине, что подтверждается как уже давно действующими национальными законодательными актами, так и вновь принимаемыми, то вторая группа терминов, формирующая новую отрасль права этого века, связана с наличием специфического объекта - робототехники. Данная категория - робототехника в полной мере вошла в жизнь не так давно и ассоциируется у широкой публики, прежде всего, с наличием искусственного интеллекта или высокого уровня автономности у такой робототехники.
Исходя из ГОСТа Р ИСО 8373-2014 «Роботы и робототехнические устройства. Термины и определения», «робот» определяется как «приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»1.
Таким образом, само понятие не является новым для отечественного права, однако единство терминологии с западными правовыми школами расходится.
Законодательство ЕС оперирует категориями «киберфизические системы» и «умные автономные роботы», при этом такие роботы должны обладать следующими характеристиками: способностями становиться автономными, самообучаться, адаптировать свои действия и поведение в соответствии с условиями среды, а кроме того, наличием минимальной физической поддержки и отсутствием жизни с биологической точки зрения2.
При этом, стоит заметить, что термин «умные автономные роботы» является некоторой переработкой предложенного ранее Республикой Корея термина «интеллектуальный робот», под которым понимается «механическое устройство, которое воспринимает внешнюю среду для себя, различает обстоятельства и движется по своей воле»3.
С точки зрения правопорядка Французской Республики робототехника, в наиболее общем
посредством внесения записей в информационную систему.
1 Приказ Росстандарта от 26.11.2014 г № 1863-ст «Об утверждении национального стандарта» // СПС «КонсультантПлюс».
2 См.: Resolution № 2015/2103(INL) Civil Law Rules on Robotics // Официальный сайт парламента ЕС. Режим доступа: URL: http://www.europarl.europa.eu/ sides/getDoc.do?pubRef=-
%2F%2FEP%2F%2FNONSGML%200DMPARL%20 PE-582.443%2001%20DOC%20PDF%20V0%2F%2FEN (дата обращения: 05.04.2019).
3 Art. 2 Intelligent robots development and
distribution promotion Act No. 9014, Mar. 28, 2008 // Библи-
отека законодательных актов Республики Корея. Режим доступа: URL: http://elaw.klri.re.kr/eng_mobile/viewer.
do?hseq=17399&type=part&key=18 (дата обращения: 05.04.2019).
понимании, «представляет собой распространяющуюся технологическую среду»4.
В проекте модальной конвенции о робототехнике и искусственном интеллекте, разработанным А.В. Незнамовым и В.Б. Наумовым5, в качестве применимого общего понятия, в отсутствии понятия «робот», «робототехника» в национальных законодательных актах, предлагается использовать все тот же ISO 8373-2012 «Роботы и робототехнические устройства. Термины и определения».
В действительности же сама концептуальная основа для разработки права робототехники появилась изначально из попыток индустриальных гигантов вместе с правительствами технологически развитых государств создать ряд программ развития и дорожных карт, таких как европейская Дорожная карта развития робототехники (Robotics 2020) и рамочная программа по развитию научных исследований и технологий «Горизонт» (2020) в Европе; Новая стратегия роботов
(2015) в Японии; Глобальная государственная программа развития "Made in China 2025" (2015) и План развития робототехнической отрасли ("Robotics Industry Development Plan (2016-2020)"
(2016) в Китае; Дорожная карта развития робототехники в США (Roadmap for US Robotics, 2011).
В России имеется также ряд стратегических программ и дорожных карт, которые содержат положения о робототехнике. Так, например, в Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы указывается, среди прочих направлений развития, также и робототехника.
Данные нормативные правовые акты в своем содержании, по сути, формируют планы развития индустрии, но не каким образом в достаточной мере не описывают, что из себя должны представлять субъекты робототехники, а само правое регулирование общественных отношений, возникающих во время создания и эксплуатации (использования) роботов, если изложено, то исключительно сжато6.
4 France robots initiative. Mars 2013 // Официальный сайт Direction Générale des Entreprises. Режим доступа: URL: https://www.entreprises.gouv.fr/files/files/ directions_services/secteurs-professionnels/industrie/ robotique/france-robots-initiatives.pdf (дата обращения: 05.04.2019).
5 См.: Проект Модельной конвенции о робототехнике и искусственном интеллекте 2017 г // Интернет-портал «Робоправо» Исследовательского центра проблем регулирования робототехники и искусственного интеллекта. Режим доступа: URL: http://robopravo. ru/matierialy_dlia_skachivaniia#ul-id-4-35 (дата обращения: 05.04.2019).
6 Многие нормативные правовые акты в данной сфере имеют характер soft law.
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2020
Специализированные законы, которые уже были приняты в различных развитых правопоряд-ках, в сфере создания и эксплуатации (использования) отдельных видов роботов1 хотя и имеют важное значение для формирования новой отрасли (подотрасли) - права робототехники, но в целом не имеют системного, комплексного подхода к правовому регулированию всех возможных отношений, которые могут возникнуть во время создания и эксплуатации (использования) робототехники.
При этом, в отсутствие достаточного количества источников национального или международного характера, направленных на регулирования этих специфических отношений, пока не представляется возможным полностью дать достоверную оценку, как в России и других государствах будет охарактеризовано право робототехники -как комплексная отрасль права или как новая подотрасль гражданского права.
Рассматривая предмет будущей отрасли как общественные отношения, возникающие во время создания и эксплуатации (использования) робототехники (включая функционирование робототехники без прямого или косвенного участия человека), представляется важным дать не только понятие робототехники, но и классификацию.
Так, роботы (робототехника), по нашему мнению, должны быть разграничены не только на (1) обычные роботы, не участвующие в гражданском обороте от своего имени, и (2) роботы-агенты, которые по решению собственника и в силу конструктивных особенностей предназначены для участия в гражданском обороте2, но и на (3) роботы, которые имеют возможность выполнять роль социального регулятора или государственные функции.
К сожалению, последнему классу роботов (робототехники) способных собирать через инструменты big data (прямо или косвенно получающие данные от сенсоров, детекторов, аудио-видео аппаратуры) информацию и принимать самостоятельные решения, влияющие на возмож-
1 См., напр.: Закон Республики Корея «О содействии развитию и распространению умных роботов» от 28.03.2008 г.; Закон Эстонской Республики «О роботах-курьерах» от 14.06.2017 г.; Закон Федеративной Республики Германия «О беспилотных автомобилях» от 20.06.2017 г.; Закон штата Калифорния «Об идентификации ботов» 28.09.2018 г. и др.
2 См. более подр.: «Закон Гришина», проект федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» // Интернет-портал «Робо-право» Исследовательского центра проблем регулирования робототехники и искусственного интеллекта. Режим доступа: URL: http://robopravo.ru/proiekty_aktov (дата обращения: 05.04.2019).
ность получения государственных и муниципальных услуг, наложения различного рода наказаний на лица, которые данный робот (робототехника) считает нарушителями, уделено мало внимания в разработанных законах. В этой связи, стоит согласиться с А.И. Савельевым, который полагает, что тот опыт, который состоялся при введении системы социальных рейтингов (Social Credit System) в Китае в 40 крупных городах, в долгосрочной перспективе имеет существенные риски: дискриминацию пользователей по различным признакам, отраженным в алгоритмах операторами системы и их руководством; массовые утечки данных; неверные изменения в корреляциях данных, алгоритмах применяемым искусственным интеллектом во время его «обучения» [3].
Сами роботы (робототехника), как уже не раз замечалось в научной литературе, состоят из двух частей - физической части (имущественной), важной особенностью которой является наличие вычислительной машины, построенной на разных физических принципах и программной, связанной с обработкой данных, поступающих от физической части самого робота (робототехники) или от информационной системы, к которой подключен этот робот (робототехника) [4].
Представляется, что роботы (робототехнику) можно классифицировать исходя из ряда функций, которые они могут оказывать:
- бытовые роботы (автономные пылесосы, умные холодильники, умные газонокосилки и ряд иных);
- промышленные роботы;
- роботы, выполняющие функцию транспортировки грузов, пассажиров и багажа;
- роботы, выполняющие функцию разгрузки, погрузки и хранения;
- военные роботы;
- роботы, выполняющие функцию сбора информации о населении, роль социального регулятора или государственные функции.
В этой связи, базовыми принципами права робототехники должны быть охвачены все роботы, включая и различные смешанные типы. В большей мере конторы принципов этой возникающей отрасли права уже были даны в тех немногочисленных источниках правового регулирования, которые уже приняты в различных государствах.
Среди проблем, которые потребуют решения при развитии отрасли права, которая находится только в стадии становления, следует выделить:
1) отсутствие унифицированного понятийного аппарата в сфере правового регулирования отношений, возникающих при создании и эксплуатации (использования) робототехники (включая
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2020
функционирование робототехники без прямого или косвенного участия человека);
2) несовершенство законодательства о роботах (робототехники), призванных выполнять роль социального регулятора или выполнения государственных функций, а также наличие законодательства о пределах возможностей самообучения таких роботов, о средствах и мерах контроля за производителями таких роботов (робототехники);
3) не разработанности в доктрине и в законодательстве положений об ответственности производителей роботов (робототехники) и их пользователей и (или) эксплуатирующих лиц;
4) отсутствие законодательства, обеспечивающего информационную безопасность при использовании big data (больших данных) различными видами роботов [5].
Кроме того, отдельно стоят особые проблемы, которые носят в науке и в обществе наиболее дискуссионный и полемический характер:
1) проблема экзистенциальных рисков искусственного интеллекта и их урегулирования;
2) проблема правосубъектности роботов-агентов [6].
В заключение следует заметить, что само право робототехники, как нам видится, получит свое развитие все же не как подотрасль гражданского права, а как комплексная отрасль права, схожая по своей структуре и системе с транспортным правом.
В этой связи, представляется логичным внести предложение о системе формирующейся отрасли права - права робототехники, не только исходя из классификации различного рода видов роботов (робототехники), но и конкретных сред, в которых они могут действовать. Так, видится, что уже формируются институты:
• правового регулирования перевозки грузов, пассажиров и багажа беспилотными наземными транспортными средствами;
• правового регулирования перевозки грузов, пассажиров и багажа беспилотными летательными транспортными средствами;
• правового регулирования перевозки грузов, пассажиров и багажа беспилотными морскими и речными транспортными средствами;
• правового регулирования отношений, возникающих при изготовлении и программировании роботов;
• правового регулирования отношений, возникающих при использовании (эксплуатации) бытовых роботов;
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2020
• правового регулирования отношений, возникающих при использовании (эксплуатации) промышленных роботов;
• правового регулирования отношений, возникающих при использовании (эксплуатации) роботов, выполняющих функции погрузки, разгрузки и хранения;
• правового регулирования отношений, возникающих при использовании роботов-ботов;
• правового регулирования отношений, возникающих при автоматизированном сборе информации о населении, выполнении роботом социального регулятора или государственных функций;
• правового регулирования отношений, возникающих при участи роботов-агентов в гражданском обороте;
• и др.
Таким образом, представляется, что конторы права робототехники в достаточной мере еще изменятся в ближайшем будущем, а сама робототехника, в любом случае, сопряжена с решением проблем, связанных, прежде всего, с неприкосновенностью частной жизни, защитой традиционных институтов государственного управления и контроля, кибербезопасностью, и станет новым вектором в антиглобалистском международном движении.
Список литературы:
[1] Kelsey Piper. Bill Gates: AI is like "nuclear weapons and nuclear energy" in danger and promise 20.03.2019 / Vox. Режим доступа: URL:
https://www.vox.com/future-perfect/2019/3/20/18274350/bill-gates-stanford-ai-like-nuclear-weapons (дата обращения: 04.04.2019).
[2] Козлов С.В. Правовое регулирование отношений в сети Интернет, или Что такое интернет-право // Право и экономика. - 2016. - № 11. - С. 47 - 49.
[3] Савельев А.И. Направления регулирования Больших данных и защита неприкосновенности частной жизни в новых экономических реалиях // Закон. - 2018. - № 5. - С. 142, 143.
[4] Архипов В.В., Наумов В.Б. Информационно-правовые аспекты формирования законодательства о робототехнике // Информационное право. - 2017. - № 1. - С. 23 - 25.
[5] Мальгинов Е.А. Правовое регулирование отношений в сфере создания и эксплуатации (использования) робототехники: контуры новой отрасли права: сб. науч. ст. по итогам II Севастопольского юридического форума, прошедшего 27-28 сентября 2019 года на базе Юридического института Севастопольского гос. ун-та / отв. ред. С.А. Васильев. - М.: Центркаталог, 2020. - С. 71.
[6] Незнамов А.В., Наумов В.Б. Стратегия регулирования робототехники и киберфизических систем // Закон. - 2018. - № 2. - С. 69 - 89.
Spisok literatury:
[1] Kelsey Piper. Bill Gates: AI is like "nuclear weapons and nuclear energy" in danger and promise 20.03.2019 / Vox. Rezhim dostupa: URL:
https://www.vox.com/future-perfect/2019/3/20/18274350/bill-gates-stanford-ai-like-nuclear-weapons (data obrashcheniya: 04.04.2019).
[2] Kozlov S.V. Pravovoe regulirovanie otnoshenij v seti Internet, ili Chto takoe internet-pravo // Pravo i ekonomika. - 2016. - № 11. - S. 47 - 49.
[3] Savel'ev A.I. Napravleniya regulirovaniya Bol'shih dannyh i zashchita neprikosnovennosti
chastnoj zhizni v novyh ekonomicheskih realiyah // Zakon. - 2018. - № 5. - S. 142, 143.
[4] Arhipov V.V., Naumov V.B. Informacionno-pravovye aspekty formirovaniya zakonodatel'stva o robototekhnike // Informacionnoe pravo. - 2017. - № 1. - S. 23 - 25.
[5] Mal'ginov E.A. Pravovoe regulirovanie otnoshenij v sfere sozdaniya i ekspluatacii (ispol'zovaniya) robototekhniki: kontury novoj otrasli prava: sb. nauch. st. po itogam II Sevastopol'skogo yuridicheskogo foruma, proshedshego 27-28 sentyabrya 2019 goda na baze Yuridicheskogo instituta Sevastopol'skogo gos. un-ta / otv. red. S.A. Vasil'ev. - M.: Centrkatalog, 2020. - S. 71.
[6] Neznamov A.V., Naumov V.B. Strategiya regulirovaniya robototekhniki i kiberfizicheskih sistem // Zakon. - 2018. - № 2. - S. 69 - 89.
ЮРКОМ ПАНИ
www. law-books, ru
-^
Юридическое издательство
«ЮРКОМПАНИ»
Издание учебников, учебных и методических пособий, монографий, научных статей.
Профессионально.
В максимально короткие сроки.
Размещаем в РИНЦ, Е-ЫЬгагу.
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2020
