CC BY
101DOI 10.24411/2076-1503-2020-10949 ПРИЖЕННИКОВА А.Н.,
кандидат юридических наук, доцент, доцент Департамента правового регулирования экономической деятельности, Финансовый университет при Правительстве Российской Федерации
(Финуниверситет) e-mail: [email protected]
ПРАВОВОЕ ПОЛЕ РОБОТИЗАЦИИ: ПУТИ РЕШЕНИЯ
Аннотация. В век технологий роботы все чаще совершенствуются для удовлетворения человеческих потребностей. В этой связи, юридическая наука не остается в стороне и в перспективе, в эпоху роботизации, перед правовой наукой возникают соответствующие вопросы для разрешения и реализации которых возникла необходимость список объектов гражданских прав пополнить еще одним наименованием, а также, учесть специфику данного объекта. При этом в гражданских правоотношениях действия робота повлекут за собой возникновение прав и обязанностей соответствующих субъектов.
Анализируя российское законодательство, автор приходит к выводу о том, что в настоящее время в России еще не сформирована полностью правовая база их применения и есть ряд вопросов, которые нуждаются в регулировании. Основной задачей регулирования робототехнических систем и искусственного интеллекта являются выработка унифицированного определения участников общественных отношений, разработка единой концепции юридической ответственности субъектов, связанных с вовлечением роботов в правоотношения, а также проработка правовой политики, отражающей позицию законодателя. На основе изучения НПА автор формулирует предложения по внесению изменений и дополнений в действующее законодательство.
Ключевые слова: правовое регулирование, искусственный интеллект, роботы, объекты робототехники, гражданские правоотношения, цифровая экономика, ответственность, правовая база.
PRIZHENNIKOVA A.N.,
PhD in Law, Associate Professor, Associate Professor of the Department of legal regulation
of economic activity, Financial University under the government of the Russian Federation (Finuniversitet)
LEGAL FIELD OF ROBOTICS: SOLUTIONS
Annotation. In the age of technology, robots are increasingly being improved to meet human needs. In this regard, legal science does not stand aside and in the future, in the era of robotics, legal science faces relevant issues for the resolution and implementation of which it became necessary to add another name to the list of objects of civil rights, as well as to take into account the specifics of this object. At the same time, in civil legal relations, the robot's actions will entail the emergence of the rights and obligations of the relevant subjects.
Analyzing the Russian legislation, the author comes to the conclusion that at present, Russia has not yet formed a full legal framework for their application and there are a number of issues that need to be regulated. The main task of regulating robotic systems and artificial intelligence is to develop a unified definition of participants in public relations, develop a unified concept of legal responsibility of subjects associated with the involvement of robots in legal relations, and develop a legal policy that reflects the position of the legislator. Based on the study of the NPA, the author formulates proposals for making changes and additions to the current legislation.
Key words: legal regulation, artificial intelligence, robots, robotics objects, civil legal relations, digital economy, responsibility, legal framework.
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
Ученые изучают понятие «робот», «робототехника». Хотя, самостоятельную категорию «робот» сложно считать определенной. Данное понятие представляет неопределенность, отсутствие классификации данного объекта для целей введения в правовое поле. Существует множество подходов к определению понятия [2]. Считается, что не всякая программа или устройство определимы как роботы, но лишь те из них, которые напоминают человека как внешне, так и выполняемыми ими функциями [12, с. 63 - 71].
Наделяют данное понятие характерными чертами, определенными признаками. К основным признакам можно отнести: а) сложную искусственную компьютерно-программно-аппаратную систему; б) в целом автономен и направлен на самосовершенствование; в) способен воспринимать разного рода информацию, обрабатывать, принимать собственные решения и сообразно менять что-то вовне, в т.ч. осваивать собственный опыт и меняться с его учетом; г) способен саморе-ферентно, автономно и глубинно самообучаться; д) способен коммуницировать внутри себя и с другими искусственными интеллектами; е) выполняет относимые к прерогативе человека когнитивные (в т.ч. познавательно-аналитические и творческие, а также связанные с самоосознанием) функции [17, с. 91 - 109].
Зарубежный опыт демонстрирует, что данный вопрос исследуется давно и ученые пытаются определить правовой статус роботов и систем с искусственным интеллектом [19]. Отмечено, что «становится все сложнее отличить обработку информации компьютером от обработки информации человеком, если оценивать по конечному результату» [22] и что «увеличивающееся сходство между людьми и машинами может рано или поздно потребовать рассмотрения компьютеров как лиц» [22], «возможность устройства исполнять функции, которые обычно ассоциируются с человеческим интеллектом, такие как мышление, обучение и саморазвитие» [22].
В государственном стандарте под роботом принято понимать «механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению» [23, s. 36 - 55].
Представляется необходимым выделить несколько поколений роботов [1]:
I поколение — программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
II поколение — роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;
III поколение — самообучающиеся, высоко автономные, «умные» роботы — наиболее интересные для анализа с точки зрения современной правовой науки.
В Европейском Союзе были выработаны критерии, отличающие «умного» робота от иных киберфизических систем [1]. Отношения с участием данного вида роботов требуют наиболее детального правового регулирования ввиду противоречивых мнений относительно возможности наделения подобной киберфизической системы статусом субъекта отношений (т.е. отхода от классического понимания робота исключительно как объекта права). Для квалификации машины в качестве высокотехнологичного «умного» устройства она должна [5]:
- быть способной совершать автономные действия посредством использования сенсоров и/ или посредством обмена информацией с внешним миром и анализа такой информации;
- быть самообучаемой (данный критерий носит опциональный характер);
- быть оснащенной физически;
- адаптировать поведение в соответствии с внешней средой.
Таким образом, представляется важным обратить внимание на понятие «чат - бот». Бот (или робот) - специальная программа, которая выполняет какие-либо действия автоматически или же по заданному алгоритму. Эти действия бот выполняет через различные интерфейсы для людей. Чат-бот - программа, работающая внутри какого-либо мессенджера. Данная программа может имитировать речь человека, при этом задавая и отвечая на вопросы. Подобные чат-боты помогают людям в различных сферах для решения возникающих задач и используются для поиска информации. Так, существует множество функций, которые роботы могут выполнять быстрее и эффективнее продавца в магазине, к примеру:
- розничные роботы могут обнаружить ошибки на этикетках полок. Так, магазин Walmart развернул мобильные роботы от Bossa Nova Robotics в 50 своих магазинах. Эти розничные роботы перемещаются по проходам, используют камеры для выявления проблем с этикетками на полках и сообщают об этом людям;
- роботы способны продавать товары. Человекоподобный робот по имени Пеппер имеет человеческое лицо и планшет на груди. Компания Nestle использует его во многих японских универмагах, чтобы продавать кофеварки. Робот был разработан французским филиалом и SoftBank.
Пеппер понимает около 80% разговоров и может использовать информацию, которую он подбирает, чтобы помочь клиентам. Этот робот умеет поддерживать беседу, распознавать эмоции и даже демонстрировать собственные (например, робот может придавать разное выражение своим глазам, использует разные интонации голоса и умеет жестикулировать), самостоятельно жить и функционировать. Сейчас Pepper представлен в 70 странах мира, он работает в гостиницах, магазинах, на автозаправках и т.д. и т.п.;
- роботы умеют контролировать запасы. Отслеживая запасы, они могут сигнализировать членам команды склада, что предметы пользуются таким высоким спросом, что они заканчиваются быстрее, чем ожидалось, и люди, работающие с продажами, должны пополнить запас этого товара;
- розничные роботы могут помочь покупателям найти предметы и выполнять еще многие другие функции.
На сегодняшний день уже есть успешные примеры создания и функционирования полностью автономных магазинов. В январе 2018 г. в Сиэтле открылся магазин компании Amazon без касс и продавцов. На данный момент «умные» кассы или «магазины без касс» распространяются все больше и больше. Кроме Amazon к реализации этой идеи приступили и другие ведущие ретейлеры, такие как Walmart, Target, Nordstrom, Carrefour и даже «Ашан». Аналитики прогнозируют, что к 2023 г. технологии «умного» check-out принесут ретейлерам платежи на 45 млрд долл. Еще в 2011 г. один из крупнейших российских ретейлеров, Х5 Retail Group, совместно с Роснано открыли магазин будущего. В планах было создать магазин без касс, продавцов и очередей. На разработку этого ушло два года и было потрачено 350 млн руб., но была проблема, которую так и не удалось решить. Для корректной работы технологии все товары должны были быть снабжены радиометками, и делать это пришлось бы продавцам. Каждый день надо было наклеить несколько тысяч радиометок. В итоге, проект был закрыт и ничего не было внедрено. Очевидно, что российские темпы внедрения робототехники в розничную торговлю весьма отстают от некоторых зарубежных практик.
В розничной торговле находят применение множество разновидностей роботов. Одними из первых явились чат-боты, которые настолько распространены, что уже не кажутся чем-то необычным. Как правило, они отвечают за коммуникацию магазина с клиентами. Самый известный пример в России - сеть магазинов здорового питания «ВкусВилл». Их чат-бот помогает решить такие вопросы, как поиск ближайшего магазина, замена
«любимого» продукта, просмотр каталога товаров и их рейтинга. Передача этих функций боту позволяет разгрузить персонал магазина и «горячую линию». Преимущества чат-ботов очевидны: они стоят дешевле и при этом очень работоспособны, обрабатывают большой объем запросов и могут работать круглосуточно.
Еще одна разновидность - робот-консультант и робот-мерчандайзер. Эта технология помогает сократить затраты на персонал (как известно, это вторая по объемам расходная статья в бюджете любого сетевого ретейлера). Вместо человека покупателя будет обслуживать робот. Есть и другие разработки. Walmart запатентовал тележку, которая сопровождает покупателя в магазине и дает ему советы по выбору товара. Американская сеть дисконтных товаров Target использует роботов для отслеживания количества товаров на полках и корректности ценообразования. В настоящее время используется еще несколько видов складских роботов, а также комплексные решения для автоматизации складов с использованием разных типов робототехники. Роботы-тележки перемещают паллеты по территории склада. Роботы-паллетайзеры автоматически захватывают и складывают продукцию на паллеты. Роботы-сортировщики помогают при упаковке: они могут разбирать и идентифицировать товары. Также они находят товары с дефектами. Интересным и перспективным новшеством является использование робототехники дополненной или виртуальной реальности для погружения потребителей в виртуальную среду для более привлекательного и заманчивого опыта. Например, приложение IKEA позволяет клиентам путешествовать по своим каталогам в дополненной реальности, практически устанавливая мебель в SD-моделируемых комнатах.
В научном труде «Юридическая концепция роботизации» [21] указан действующий перечень федеральных министерств [14] и выражено предположение о том, что наиболее востребованными будут проекты нормативных актов, представленные следующими министерствами.
Министерство внутренних дел РФ в части обработки информации в целях получения аналитических сведений о состоянии преступности и методах борьбы с ней, об эффективной пропаганде правомерного поведения, а также о предупреждении совершения отдельных видов преступлений. Важным является урегулирование вопросов применения робототехники в оперативно-розыскной деятельности, в т.ч. по сбору оперативной информации, и информации, используемой в качестве допустимых доказательств на стадии судебного следствия.
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
Министерство РФ по делам гражданской обороны, чрезвычайным ситуациям и ликвидации последствий стихийных бедствий - в области поисково-спасательных операций с использованием автоматизированных аппаратов (дронов, беспилотных летательных аппаратов), прогнозирования чрезвычайных ситуаций природного и техногенного характера.
Министерство здравоохранения РФ - в части внедрения роботов-помощников, роботов, ответственных за прием и обработку входящих сообщений о вызове скорой медицинской помощи, роботов-аналитиков, формирующих перечни возможных диагнозов исходя из выявленных симптомов, а также варианты лечения, исходя из утвержденных данным министерством правил. Так же в ведении данного министерства находятся области обязательного медицинского страхования, обращения лекарственных средств, фармацевтической деятельности. Перспективными являются разработки внедрения роботов-ассистентов в указанные сферы. Например, прогнозируется, что робот-фармацевт позволит исключить даже тот низкий процент ошибок в подборе лекарственных средств, который имеется на сегодня и составляет около 2% в год от общего числа проданных лекарств.
Министерство культуры РФ - в части определения порядка использования результатов интеллектуальной деятельности, полученных с использованием роботов, в т.ч. с использованием современных концепций распределения прибыли между собственником робота, собственником домена, провайдером и т.д. Отдельного внимания названного Министерства заслуживают разработки в области блокирования несанкционированного доступа к охраняемым законом персональным данным и результатам интеллектуальной деятельности.
Министерство науки и высшего образования РФ - в части разработок в области научно-технической и инновационной деятельности, нанотех-нологий, развития федеральных центров науки и высоких технологий, государственных научных центров и наукоградов, интеллектуальной собственности.
Министерство обороны РФ - в части использования роботов в военных целях, а также в области эффективного применения имущества Вооруженных Сил РФ.
Министерство природных ресурсов и экологии РФ - в части использования робототехники для целей государственного мониторинга радиационной обстановки, а также охраны окружающей среды.
Министерство РФ по развитию Дальнего Востока и Арктики - в части использования робо-
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
тов для обеспечения бесперебойных поставок грузов на данные территории, а также мониторинговых и иных действий, осуществляемых на территориях Арктики и Дальнего Востока.
Министерство юстиции РФ - в части внедрения роботов-ассистентов, применяемых для целей административного правоприменения.
Министерство промышленности и торговли РФ - в части внедрения робототехники в сферы промышленного и оборонно-промышленного комплексов, промышленности строительных материалов (изделий) и строительных конструкций, энергосбережения и повышения энергетической эффективности при обороте товаров, а также в области развития авиационной техники и экспериментальной авиации, технического регулирования, стандартизации и обеспечения единства измерений, науки и техники в интересах обороны и безопасности государства, внешней и внутренней торговли, а также в сфере машиностроения, металлургической, химической, фармацевтической, биотехнологической, медицинской, легкой, лесной, целлюлозно-бумажной и деревообрабатывающей, электронной, авиационной и судостроительной промышленности, промышленности средств связи, радиопромышленности, промышленности боеприпасов и специальной химии, химического разоружения, промышленности обычных вооружений и т.д. Одной из наиболее важных функций Министерства промышленности РФ является функция федерального органа по техническому регулированию.
В юридической науке возникают следующие вопросы. Наделены ли роботы правосубъектностью? Рассматриваются ли в качестве объектов гражданских правоотношений в зависимости от применимых существующих правил каждой отдельной юрисдикции? Представляется, что правовое положение роботов необходимо развивать в области гражданского законодательства, а именно рассматривать как объекты гражданских правоотношений, т.к. для реализации механизмов робототехники необходимо обеспечение специального законодательства и действующий Гражданский кодекс РФ может использовать имеющие правовые режимы к такому объекту как чат - бот.
Гражданское законодательство официально использует понятие «объект», прежде всего в названии подразд. 3 «Объекты гражданских прав» разд. I «Общие положения» части первой ГК РФ [20; 16], а также одноименной ст. 128 «Объекты гражданских прав» и ряда последующих статей. Вместе с тем, такое легальное оформление приходится признать, оно не только не вносит ясности в смысл выражения «объекты гражданских прав», но производит скорее обратный эффект. Связано это, прежде всего с тем, что не только
официальной дефиниции данного понятия, но и вообще каких-либо пояснений на сей счет закон не содержит, оперируя им так, как если бы его содержание являлось совершенно очевидным. Более того, остается без определения и, например, такое фундаментальное и системообразующее цивилистическое понятие, как «вещь».
Статья 128 ГК РФ дает чрезвычайно пестрый перечень объектов гражданских прав и намечает лишь в самых общих чертах его внутреннее деление на виды и подвиды. Так, формулировка нормы ст. 128 «к объектам гражданских прав относятся вещи, включая наличные деньги и документарные ценные бумаги, иное имущество» позволяет сделать вывод, что в первую очередь к объектам гражданских прав относится имущество. Имущество, включающее в свой состав вещи, наличные деньги и документарные ценные бумаги, является телесным и может быть объектом вещных прав, иное имущество - бестелесное - в обороте участвует в качестве объектов обязательственных прав. Но и вещные, и обязательственные права по сути своей права имущественные.
Робот - это объект права (имущество), который может отличаться существенными особенностями, подлежащими учету при его эксплуатации и правовом регулировании соответствующих отношений. В частности, робот может представлять собой источник повышенной опасности для окружающих. Соответственно, субъект права -участник цифровых правоотношений несет риск последствий эксплуатации робота (автоматизированной машины) как источника повышенной опасности. Это означает, что участником таких правоотношений является не робот, а субъект права (физическое или юридическое лицо), владеющий роботом и контролирующий его использование. Этот субъект обязывается по закону возместить вред, причиненный деятельностью, создающей повышенную опасность для окружающих (ст. 1079 ГК РФ).
Собственно, в этих условиях задача теоретического и философского исследования объектов гражданских прав состоит в том, чтобы провести обобщение всех разрозненных единиц и предложить общее понятие, подходящее ко всей этой категории. Разумеется, в качестве обобщающего критерия могут выступать различные признаки. В этой связи, можно вновь воспользоваться вполне операциональной идеей В.А. Белова: «Понятие объекта в праве и правоотношении (правового объекта) - не онтологическое и даже не гносеологическое, но чисто функциональное» [3, с. 6 - 77].
В настоящее время, в российском законодательстве отсутствует специальная норма, обеспечивающая правовое регулирование роботов, объектов робототехники и искусственного интеллекта
в области гражданских правоотношений. В ряде других федеральных законов также не упоминаются специальные термины. Они встречаются только в документах стратегического планирования (Стратегия развития информационного общества в Российской Федерации на 2017 - 2030 годы [13], Стратегия национальной безопасности Российской Федерации [15], Национальная программа «Цифровая экономика Российской Федерации» [7] и др.).
В соответствии со ст. 129 ГК РФ «объекты гражданских прав могут свободно отчуждаться или переходить от одного лица к другому в порядке универсального правопреемства (наследование, реорганизация юридического лица) либо иным способом, если они не ограничены в обороте».
Виды объектов гражданских прав можно классифицировать по различным основаниям. Таким образом, роботы как объекты гражданских прав также могут быть классифицированы.
Объекты гражданских прав в соответствии с Гражданским кодексом РФ включают в себя:
- отчуждение и переход от одного лица к другому (п. 1, 3 ст. 129);
- государственная регистрация (п. 1 ст. 130, ст. 131);
- использование для осуществления предпринимательской деятельности (п. 1 ст. 132);
- деление на части (п. 1 ст. 133) и др.
Таким образом, можно утверждать, что в
отношении объектов гражданских прав могут совершаться практически все виды юридически значимых действий, влекущих правовые последствия.
При этом в настоящее время в рамках дискуссии о статусе робота как объекта или субъекта права можно сделать следующие выводы [11]:
1) необходимо рассматривать как объект, а не субъект права;
2) приобретение в будущем роботом статуса субъекта права (или «квазисубъекта» права);
3) в том случае, если робот будет признан субъектом права, на повестку дня потребуется вынести вопрос о введении категории прав и обязанностей роботов, а также защиты прав роботов;
4) актуализация вопроса об обязанностях человека по отношению к роботам, ответственности человека за их нарушение (например, жестокое обращение с роботом);
5) дальнейшее развитие роботизации вызовет широкое распространение прав человека четвертого поколения, включающих право на изменение своего организма или право на отказ от таких изменений, а также существенную трансформацию не только правосознания, но и всего общества в таком случае, с кардинальной перестройкой всей его социальной структуры.
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
Таким образом, робот - это объект права (имущество), который может отличаться существенными особенностями, подлежащими учету при его эксплуатации и правовом регулировании соответствующих отношений [9]. Так, на роботов распространяются нормы гражданского законодательства. Лица, приобретающие роботов для личного использования, должны защищаться государством с обеспечением необходимых гарантий прав потребителей [4] (например, право потребителя на качество товара (работы)).
Учитывая, что робот не признается субъектом права и не может самостоятельно нести ответственность за причиненный им вред, ответственность должна возлагаться на физическое либо юридическое лицо. Ученые обсуждают различные варианты возложения обязанности возмещения вреда, причиненного роботом, в т.ч. на: а) производителя робота, производителя программного обеспечения для робота; б) организацию или частное лицо - владельца робота (например, компанию, владеющую роботом в сфере услуг); в) непосредственное лицо, осуществляющее пользование роботом, в процессе которого был причинен вред иным лицам [21].
Высказаны предложения, определяющие решение вопроса о привлечении робота к ответственности [18, с. 63 - 72]:
- наложение на собственника робота обязательства по страхованию рисков причинения роботом вреда и осуществление пострадавшей стороне выплат страховой компанией;
- проецирование на робота условий об ответственности раба из римского права. При этом обязательно должен быть решен вопрос о наделении робота имуществом, по аналогии с имуществом раба, а в дальнейшем распространение солидарной ответственности за действия робота на его собственника в случае недостаточности имущества робота;
- установление категорий лиц, несущих ответственность за вред, причиненный роботом: изобретатель (создатель), программист (осуществляющий информационное заполнение либо разрабатывающий отдельный блок, ошибка в котором могла привести к причинению вреда), завод-изготовитель, собственник либо третье лицо, завладевшее роботом неправомерно или в рамках договорных отношений.
Обсуждая вопрос юридической ответственности роботов, здесь возможно говорить о следующих моментах:
- потенциальная возможность или необходимость применения к роботам норм об источниках повышенной опасности;
- сопоставление типичных ситуаций возможной юридической ответственности в связи с дей-
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
ствиями роботов и формами вины производителя и пользователя;
- принципиально новая ситуация по результатам совмещения указанных ранее концепций: юридическое лицо как вещь (имущество), являющаяся источником повышенной опасности;
- еще одна потенциальная проблема - ответственность одного робота как квазиюридического лица за действия другого робота, находящегося в его владении, пользовании и (или) распоряжении.
Проблемы, связанные с применением нормы об ответственности владельца источника повышенной опасности в случае причинения вреда роботом, на первый взгляд представляются вполне решаемыми классическими догматическими методами.
Так, согласно общему положению п. 1 ст. 1079 ГК РФ юридические лица и граждане, деятельность которых связана с повышенной опасностью для окружающих (использование транспортных средств, механизмов и т.п.), обязаны возместить вред, причиненный источником повышенной опасности, если не докажут, что вред возник вследствие непреодолимой силы или умысла потерпевшего.
Применение правил об источниках повышенной опасности конкретизируется в постановлении Пленума Верховного Суда РФ от 26.01.2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина». По смыслу ст. 1079 ГК РФ источником повышенной опасности следует признать любую деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами. Учитывая, что названная норма не содержит исчерпывающего перечня источников повышенной опасности, суд, принимая во внимание особые свойства предметов, веществ или иных объектов, используемых в процессе деятельности, вправе признать источником повышенной опасности также иную деятельность, не указанную в перечне.
Тем не менее, остается открытым вопрос о том, какие роботы и по каким критериям могут быть отнесены к источникам повышенной опасности. К ним могут относиться роботы, которые в силу своей конструкции и назначения могут причинять человеку вред, в т.ч. смертельный (например, высокоавтоматизированные автомобили, некоторые виды беспилотных летательных аппа-
ратов (дронов), медицинские роботы, промышленные роботы и т.д.).
При этом рекомендуется выработать уточняющие критерии, в каких случаях такие объекты не несут повышенную опасность для окружающих и, соответственно, не относятся к источникам повышенной опасности.
К роботам, не являющимся источником повышенной опасности, могут относиться роботы, которые в силу своих размеров или конструктивного назначения не могут считаться опасными или несущими повышенную опасность объектами. Например, роботы-игрушки и роботы для развлечений, образовательные роботы, бытовые роботы и т.д.
Ученые предлагают предусмотреть систему обязательного страхования ответственности за действия/бездействия определенных категорий роботов, в частности роботов повышенной опасности - например, медицинских роботов, высокоавтоматизированных автомобилей и т.д. В долгосрочной перспективе возможным решением проблемы ответственности может стать создание резервного фонда денежных средств, которые можно будет использовать для компенсации ущерба, не покрываемого страховкой. Администрирование данного фонда рекомендуется осуществлять через инструменты отраслевого саморегулирования [11].
Европарламент предложил разработать правовой инструментарий, базирующийся на следующих принципах:
a) установить компенсационный страховой механизм, аналогичный механизму страхования ответственности за причинение вреда транспортным средством, при котором ответственность несут производители и собственники роботов;
b) создать фонд компенсации вреда, который должен служить цели гарантирования компенсации за вред, причиненный роботом, не покрытый страховкой;
c) допустить возможность ограниченной ответственности производителя, программиста, собственника или пользователя, если они вносят вклад в фонд компенсации вреда;
d) определить, следует ли создавать общий фонд или индивидуальные фонды для каждой категории роботов, а также следует ли вносить разовый платеж либо регулярные платежи в течение срока эксплуатации робота;
e) обеспечить, чтобы связь робота и его фонда была видима из его индивидуального регистрационного номера, чтобы обеспечить осведомленность любого лица, взаимодействующего с роботом, о таком обеспечительном механизме и пределах компенсации в случае повреждения собственности;
1) создать специальный правовой статус робота, исходя из долгосрочной перспективы того, что наиболее продвинутые автономные роботы могут иметь статус электронных лиц, ответственных за производство благ и причинение вреда, а также возможности применения концепции электронной личности в делах, когда автономные роботы при взаимодействии с третьими лицами действуют независимо.
В области гражданско-правовой ответственности наиболее разумной видится реализация следующих возможностей [21]:
- использование концепции объективного вменения группы лиц, ответственных за производство и эксплуатацию робота (производитель, оператор, собственник);
- обращение взыскания на денежные средства, внесенные в фонды страхования ответственности или на фонды саморегулируемых организаций в области робототехники;
- ограничение ответственности реальным ущербом. Недопустимость компенсации убытков или потерь, если это специально не предусмотрено законом или договором.
Видами применяемых санкций могут быть: неустойка (штраф, пени), возмещение реального ущерба, выкуп робота в случае его ненадлежащей эксплуатации (по аналогии со ст. 241 ГК).
Административная ответственность должна наступать за установление следующих фактов:
- нарушение технологии производства роботов и ввода их в эксплуатацию;
- эксплуатация роботов в отсутствие разрешительных документов, выдаваемых уполномоченным органом власти;
- нарушение правил лицензирования производства и эксплуатации роботов;
- использование роботов специального назначения не по назначению;
Видами наказания могут быть административный штраф, дисквалификация, изъятие и уничтожение робота, административный арест.
Уголовная ответственность может быть предусмотрена в следующих случаях:
- использование робота с целью совершения преступления (робот как орудие);
- при совершении роботом действий, которые могут быть квалифицированы в качестве преступных;
- при грубом нарушении правил эксплуатации роботов, повлекшем причинение вреда здоровью и жизни человека.
В заключении необходимо обратить внимание на следующие актуальные вопросы. Возникла насущная необходимость указания в Гражданском кодексе РФ базовых понятий в области роботиза-
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
ции, четкого определения статуса машин с искусственным интеллектом. При этом необходимо:
в части первой ГК РФ расширить перечень объектов гражданских прав;
в ГК РФ ввести новую главу «Роботизированные агенты». В рассматриваемом случае обязательное участие людей предполагается на стадии создания соответствующего робота-агента, который впоследствии сам, без посредничества людей, может вступать в гражданские правоотношения [8];
необходимо определить основные подходы к правовому регулированию робототехнике;
определить основные принципы регулирования робота - агента;
следует указать источники регулирования, методы и функции регулирования;
создать реестр роботов, объектов робототехники с искусственным интеллектом, установить порядок учета и регистрации моделей машин с искусственным интеллектом.
Разработать и принять специальный закон в Российской Федерации, который должен содержать [6]:
- определения основополагающих терминов, которые будут коррелироваться с понятиями, установленными в гражданском законодательстве;
- классификацию роботов и сфер их применения;
- порядок ввода роботов, объектов робототехники в эксплуатацию и гражданский оборот;
- основополагающие принципы их использования;
- ответственность за нарушения при использовании таких систем;
- права и обязанности владельцев роботов, объектов робототехники;
- другие вопросы.
Например, в Эстонии был принят Закон о роботах-курьерах, в Германии - Закон об использовании высокоавтоматизированных автомобилей, в Китае - План развития технологий искусственного интеллекта нового поколения. В США, например, рассмотрение споров по этой проблеме основывается на общих законах, что зачастую вызывает трудности при разрешении соответствующих дел в суде. В 2008 г. в Южной Корее был принят специальный закон о содействии развитию и распространению умных роботов.
Законы робототехники могут получить актуальное практическое значение в юриспруденции. Указанные законы могут внедряться посредством принципов, аналогичных privacy by design из области персональных данных.
1 марта 2018 г. в своем Послании Федеральному Собранию Президент РФ В.В. Путин указал
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
на необходимость в кратчайшие сроки «создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных» [10]. Причем такая нормативная база должна постоянно обновляться, быть гибкой. Конкретные мероприятия по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы предусматриваются планами мероприятий («дорожными картами») по направлениям.
Ученые достаточно оперативно откликнулась на призыв главы государства к устранению административных барьеров в разработке и продвижении на глобальные рынки инновационных продуктов и технологий. Юридическая наука не стоит на месте, рассматривается вопрос о возможных подходах к правовому регулированию робототехники. Правовое регулирование робототехники, т.е. науки и практики разработки, производства и применения роботов, можно назвать как начинающейся, как зарождающейся на пути становления.
Таким образом, законодательство должно комплексно подходить к разработке новой отрасли и учитывать аспекты безопасности объекта, обеспечения прав и свобод человека, защиты чести, достоинства, деловой репутации, а также тщательно регулировать вопросы защиты персональных данных и иных сведений. Разработать принципы регулирования и различные подходы к определению данного индивида.
Список литературы:
[1] Asaro P. Robots and Responsibility from a Legal Perspective. 2007 // URL: http://peterasaro. org/writing/ ASAR0%20Legal%20Perspective.pdf (data obrashcheniya: 16.03.2019).
[2] Архипов В.В., Наумов В.Б. Подходы к формированию законодательства о робототехнике: информационно-правовой аспект // Информационное право. - 2017. - № 1.
[3] Белов В.А. Объект субъективного гражданского права, объект гражданского правоотношения и объект гражданского оборота: содержание и соотношение понятий // Объекты гражданского оборота: сб. ст. / отв. ред. М.А. Рожкова. - М.: Статут, 2007. - С. 6-77.
[4] Закон РФ от 07.02.1992 г. № 2300-1 (ред. от 24.04.2020) «О защите прав потребителей» // СПС «КонсультантПлюс».
[5] Михалева Е.С., Шубина Е.А. Проблемы и перспективы правового регулирования робототех-
ники. URL: //http: cyberleninka.ru (дата обращения: 15.10.2020).
[6] Попова Н.Ф. Основные направления развития правового регулирования использования искусственного интеллекта, роботов и объектов робототехники в сфере гражданских правоотношений // Современное право. - 2019. - № 10.
[7] Паспорт национального проекта «Национальная программа «Цифровая экономика Российской Федерации» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 04.06.2019 г. № 7) // СПС «КонсультантПлюс».
[8] Попова Н.Ф. Основные направления развития правового регулирования использования искусственного интеллекта, роботов и объектов робототехники в сфере гражданских правоотношений // Современное право. - 2019. - № 10.
[9] Попондопуло В.Ф. Правовые формы цифровых отношений // Юрист. - 2019. - № 6 // СПС «КонсультантПлюс».
[10] Послание Президента Федеральному Собранию. 1 марта 2018 г. URL: http://www.kremlin. ru/events/president/news/56957 (дата обращения: 30.09.2020).
[11] Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А.В. Незнамова. - М.: Инфотропик Медиа, 2018) // СПС «КонсультантПлюс».
[12] Ролинсон П., Ариевич Е.А., Ермолина Д.Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. — 2018. — № 5. — С. 63—71.
[13] Указ Президента РФ от 09.05.2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы» // СПС «КонсультантПлюс».
[14] Указ Президента РФ от 15.05.2018 г. № 215 (ред. от 21.01.2020) «О структуре федеральных органов исполнительной власти» // СПС «Кон-сультантПлюс».
[15] Указ Президента РФ от 31.12.2015 г. № 683 «О Стратегии национальной безопасности Российской Федерации» // СПС «Консультант-Плюс».
[16] Федеральный закон от 30 декабря 2012 г. № 302-ФЗ «О внесении изменений в главы 1, 2, 3 и 4 части первой Гражданского кодекса Российской Федерации» // СЗ РФ. - 2012. - № 53 (ч. I). - Ст. 7627.
[17] Цит. по: Дурнева П.Н. Искусственный интеллект: анализ с точки зрения классической теории правосубъектности // Гражданское право. - 2019. - № 5 // Понкин И.В., Редькина А.И. Искус-
ственный интеллект с точки зрения права // Вестник РУДН. Сер.: Юридические науки. - 2018. - Т. 22. - № 1. - С. 91-109.
[18] Цит. по: Кирсанова Е.Е. Правовой режим нейросетей в условиях цифровой экономики. М.: Статут, 2019 // Ирискина Е.Н., Беляков К.О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. - 2016. - Вып. 10. - С. 63-72.
[19] Цит. по: Серова О.А. Статья: Роботы как участники цифровой экономики: проблемы определения правовой природы // Гражданское право.
- 2018. - № 3 // Rosen C., Nilsson N., Raphael B. and others. Shakey // [1967] LIFE [Электронный ресурс]. URL: http://cyberneticzoo.com/ cyberneticanimals/1967-shakey-charles-rosen-nils-nilsson-bertram-raphael-et-al-american/ (дата обращения: 28.06.2018).
[20] Часть первая Гражданского кодекса Российской Федерации от 30 ноября 1994 г. № 51-ФЗ // СЗ РФ. - 1994. - № 32. - Ст. 3301.
[21] Юридическая концепция роботизации: монография / отв. ред. Ю.А. Тихомиров, С.Б. Нанба. - М.: Изд-во «Проспект», 2019 // СПС «КонсультантПлюс».
[22] Willick M.S. Artificial Intelligence: Some Legal Approaches and Implications // The AI Magazine. Summer 1983. - P. 5 [Электронный ресурс]. URL: https://www.aaai.org/ojs/index.php/ aimagazine/article/view/392/328 (дата обращения: 28.06.2018).
[23] Yastrebov O.A. Pravosub"ektnost' elektronnogo lica: teoretiko-metodologicheskie podhody // Trudy Instituta gosudarstva i prava RAN.
— 2018. — № 2. — S. 36—55
Spisok literatury:
[1] Asaro P. Robots and Responsibility from a Legal Perspective. 2007 // URL: http://peterasaro. org/writing/ ASAR0%20Legal%20Perspective.pdf (data obrashcheniya: 16.03.2019).
[2] Arhipov V.V., Naumov V.B. Podhody k formirovaniyu zakonodatel'stva o robototekhnike: informacionno-pravovoj aspekt // Informacionnoe pravo. - 2017. - № 1.
[3] Belov V.A. Ob"ekt sub"ektivnogo grazhdan-skogo prava, ob"ekt grazhdanskogo pravootnosh-eniya i ob"ekt grazhdanskogo oborota: soderzhanie i sootnoshenie ponyatij // Ob"ekty grazhdanskogo oborota: sb. st. / otv. red. M.A. Rozhkova. - M.: Statut, 2007. - S. 6-77.
[4] Zakon RF ot 07.02.1992 g. № 2300-1 (red. ot 24.04.2020) «O zashchite prav potrebitelej» // SPS «Konsul'tantPlyus».
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
[5] Mihaleva E.S., Shubina E.A. Problemy i per-spektivy pravovogo regulirovaniya robototekhniki. URL: //http: cyberleninka.ru (data obrashcheniya: 15.10.2020).
[6] Popova N.F. Osnovnye napravleniya razvi-tiya pravovogo regulirovaniya ispol'zovaniya iskusst-vennogo intellekta, robotov i ob"ektov robototekhniki v sfere grazhdanskih pravootnoshenij // Sovremen-noe pravo. - 2019. - № 10.
[7] Pasport nacional'nogo proekta «Nacion-al'naya programma «Cifrovaya ekonomika Rossijskoj Federacii» (utv. prezidiumom Soveta pri Prezidente RF po strategicheskomu razvitiyu i nacional'nym proektam, protokol ot 04.06.2019 g. № 7) // SPS «Konsul'tantPlyus».
[8] Popova N.F. Osnovnye napravleniya razvi-tiya pravovogo regulirovaniya ispol'zovaniya iskusst-vennogo intellekta, robotov i ob"ektov robototekhniki v sfere grazhdanskih pravootnoshenij // Sovremen-noe pravo. - 2019. - № 10.
[9] Popondopulo V.F. Pravovye formy cifrovyh otnoshenij // Yurist. - 2019. - № 6 // SPS «Konsul'tant-Plyus».
[10] Poslanie Prezidenta Federal'nomu Sobraniyu. 1 marta 2018 g. URL: http://www.kremlin. ru/events/president/news/56957 (data obrashcheniya: 30.09.2020).
[11] Regulirovanie robototekhniki: vvedenie v «robopravo». Pravovye aspekty razvitiya robototekhniki i tekhnologij iskusstvennogo intellekta / pod red. A.V. Neznamova. - M.: Infotropik Media, 2018) // SPS «Konsul'tantPlyus».
[12] Rolinson P., Arievich E.A., Ermolina D.E. Ob"ekty intellektual'noj sobstvennosti, sozdavaemye s pomoshch'yu iskusstvennogo intellekta: osoben-nosti pravovogo rezhima v Rossii i za rubezhom // Zakon. — 2018. — № 5. — S. 63—71.
[13] Ukaz Prezidenta RF ot 09.05.2017 g. № 203 «O Strategii razvitiya informacionnogo obsh-chestva v Rossijskoj Federacii na 2017 - 2030 gody» // SPS «Konsul'tantPlyus».
[14] Ukaz Prezidenta RF ot 15.05.2018 g. № 215 (red. ot 21.01.2020) «O strukture federal'nyh organov ispolnitel'noj vlasti» // SPS «Konsul'tant-Plyus».
[15] Ukaz Prezidenta RF ot 31.12.2015 g. № 683 «O Strategii nacional'noj bezopasnosti Rossijskoj Federacii» // SPS «Konsul'tantPlyus».
[16] Federal'nyj zakon ot 30 dekabrya 2012 g. № 302-FZ «O vnesenii izmenenij v glavy 1, 2, 3 i 4 chasti pervoj Grazhdanskogo kodeksa Rossijskoj Federacii» // SZ RF. - 2012. - № 53 (ch. I). - St. 7627.
[17] Cit. po: Durneva P.N. Iskusstvennyj intellekt: analiz s tochki zreniya klassicheskoj teorii pravo-sub"ektnosti // Grazhdanskoe pravo. - 2019. - № 5 // Ponkin I.V., Red'kina A.I. Iskusstvennyj intellekt s tochki zreniya prava // Vestnik RUDN. Ser.: Yuridich-eskie nauki. - 2018. - T. 22. - № 1. - S. 91-109.
[18] Cit. po: Kirsanova E.E. Pravovoj rezhim nejrosetej v usloviyah cifrovoj ekonomiki. M.: Statut, 2019 // Iriskina E.N., Belyakov K.O. Pravovye aspekty grazhdansko-pravovoj otvetstvennosti za prichinenie vreda dejstviyami robota kak kvazisub"ekta grazh-dansko-pravovyh otnoshenij // Gumanitarnaya infor-matika. - 2016. - Vyp. 10. - S. 63-72.
[19] Cit. po: Serova O.A. Stat'ya: Roboty kak uchastniki cifrovoj ekonomiki: problemy opredeleniya pravovoj prirody // Grazhdanskoe pravo. - 2018. - № 3 // Rosen C., Nilsson N., Raphael B. and others. Shakey // [1967] LIFE [Elektronnyj resurs]. URL: http://cyberneticzoo.com/cyberneticanimals/1967-sh akey-charles-rosen-nils-nilsson-bertram-raphael-et-al-american/ (data obrashcheniya: 28.06.2018).
[20] Chast' pervaya Grazhdanskogo kodeksa Rossijskoj Federacii ot 30 noyabrya 1994 g. № 51-FZ // SZ RF. - 1994. - № 32. - St. 3301.
[21] Yuridicheskaya koncepciya robotizacii: monografiya / otv. red. Yu.A. Tihomirov, S.B. Nanba. - M.: Izd-vo «Prospekt», 2019 // SPS «Konsul'tantPlyus».
[22] Willick M.S. Artificial Intelligence: Some Legal Approaches and Implications // The AI Magazine. Summer 1983. - P. 5 [Elektronnyj resurs]. URL: https://www.aaai.org/ojs/index.php/aimagazine/arti-cle/view/392/328 (data obrashcheniya: 28.06.2018).
[23] Yastrebov O.A. PravosubY'ektnostY elek-tronnogo lica: teoretiko-metodologicheskie podhody // Trudy Instituta gosudarstva i prava RAN. — 2018.
ОБРАЗОВАНИЕ И ПРАВО № 9 • 2020
