CC BY
298
ПРАВОВОЕ РЕГУЛИРОВАНИЕ В ИНФОРМАЦИОННОЙ СФЕРЕ
Е. С. Михалева*, Е. А. Шубина**
Проблемы и перспективы правового регулирования робототехники
Аннотация. Современный мир практически беспрерывно подчеркивает значимость для человечества новых задач и решений во всех областях и сферах жизнедеятельности. Появление новых технологий и усовершенствование привычных механизмов для удовлетворения требований цифровых реалий ставит новые задачи перед любой общественной наукой и практикой; особенно важной становится роль права как инструмента регулятивного воздействия на общественные отношения. В последнее время для российской и мировой юридической науки остро встал вопрос регулирования повсеместно внедряемого искусственного интеллекта, ки-берфизических систем, продвинутых «умных» роботов и иных достижений инженерной науки. Авторы статьи рассматривают вопрос о возможных подходах к правовому регулированию робототехники. В связи с последними тенденциями разработки правовых норм о робототехнике в зарубежных странах, в частности в Европейском Союзе, особую актуальность приобретают вопросы законодательного признания и определения статуса робота, то есть перспектива наделения робота правоспособностью, или же упрочение и конкретизация правового режима робота исключительно как объекта правового регулирования.
Данное исследование направлено на изучение актуальных вопросов возможных направлений правового регулирования робототехники, а также рассмотрению основных подходов к определению правового статуса роботов и ответственности за вред, причиненный ими при автономном выполнении действий.
Ключевые слова: робототехника, правовое регулирование робототехники, роботы, киберфи-зические системы, роботы как объект права, актуальные проблемы, правосубъектность, роботы как субъект права, юридическая ответственность, этические аспекты робототехники.
001: 10.17803/1994-1471.2019.109.12.026-035
© Михалева Е. С., Шубина Е. А., 2019
* Михалева Екатерина Сергеевна, эксперт Центра международной информационной безопасности и научно-технологической политики МГИМО МИД России [email protected]
119454, Россия, г. Москва, пр. Вернадского, д. 76
** Шубина Екатерина Александровна, юрист компании ООО «Бюджетные и финансовые технологии» [email protected]
127018, Россия, г. Москва, ул. Складочная, д. 3, стр. 1
Введение
Для российской и мировой юридической науки с недавних пор остро встал вопрос регулирования повсеместно внедряемого искусственного интеллекта, киберфизических систем и продвинутых «умных» роботов.
Отношения, определяющие необходимость взаимодействия человека и машины, вышли далеко за рамки фантастики и футуризма и сейчас представляют собой действительность, плохо урегулированную нормами права, но активно заявляющую о себе реальными казусами, порой влекущими человеческие жертвы. В то же время появление виртуального пространства в Интернете вместе с развитием цифровой экономики обусловило актуализацию традиционной для юридической науки проблемы правоспособности: определения юридической личности, участвующей в правоотношениях.
Помимо общей неопределенности правового статуса робота и возможности причисления роботов к субъектам правоотношений, возникают новые как практические, так и теоретические вопросы, например о творческом потенциале искусственного интеллекта1 и способности создания им оригинальных произведений2.
Необходимость регулирования робототехники
Правовое регулирование робототехники, то есть науки и практики разработки, производства и применения роботов3, можно характеризовать как зарождающееся. Это обусловлено
некоторой ригидностью законодателя в попытках провести либеральное регулирование столь динамично развивающейся сферы, поскольку ее нахождение в «теневой зоне» фактически снимает бремя ответственности за поспешные и неструктурированные юридические акты, которые могут быть приняты для упорядочивания отношений с участием роботов.
Сложность представляет и неопределенность понятия «робот», отсутствие классификации данного объекта для целей введения в правовое поле. В зарубежных исследованиях наиболее общее определение понятия «робот» выводится через перечень функций, осуществляемых ими: роботы — это искусственно созданные объекты или системы, которые могут получать и обрабатывать информацию, а также действовать соответственно окружающему их внешнему миру4.
Для юридической науки важным аспектом выступает не столько конкретная инженерно-техническая архитектура робота, сколько возможности и функции, которые могут быть воплощены с помощью данной архитектуры.
В российской и общемировой практике имеются сходные тенденции при формировании подходов к определению понятия «робот». Считается, что не всякая программа или устройство определимы как роботы, но лишь те из них, которые напоминают человека как внешне, так и выполняемыми ими функциями5. Как справедливо утверждают корифеи российской юридической мысли в области регулирования робототехники, едва ли можно назвать укоренившимся термин «робот», ибо
Рыжов В. В., Сайфулин В. Г. К вопросу о способности искусственного интеллекта к научному творчеству // Вестник Волгоградского государственного университета. Серия 7 : Философия. Социология и социальные технологии. 2011. № 1 (13). С. 140.
Ролинсон П., Ариевич Е. А., Ермолина Д. Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. 2018. № 5. С. 66.
ГОСТ ИСО 8373-2014. Роботы и робототехнические устройства. Термины и определения // URL: http://
gostpdf.ru/cont/files/8373-2014/gost-8373-2014.14971.pdf (дата обращения: 23.03.2019).
Calo R. Robots in American Law // University of Washington School of Law Research Paper. California Law
Review. P. 531. URL: https://ssrn.com/abstract=2737598 (дата обращения: 17.03.2019).
Соболева М. Ю. Роботы для права или право для роботов? // URL: repo.iubipdigital.ru/pluginfile.php/654/
mod_data/content/4098/Соболева.pdf (дата обращения: 11.03.2019).
2
3
4
5
подходы к определению варьируются от «автоматизированного механизма» или «компьютерной программы» до «технически продвинутого устройства, функционирующего на основе собственной обособленной информационной системы»6.
Стоит отметить, что в отечественных реалиях правовое регулирование было вытеснено техническим, тем самым демонстрируя фактическое доминирование организационно-прикладного регулирования общественных отношений над теоретической, но не менее важной основой. Так, в государственном стандарте под роботом принято понимать «механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»7.
Возможно выделить несколько поколений роботов8:
I поколение — программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;
II поколение — роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;
III поколение — самообучающиеся, высоко автономные, «умные» роботы — наиболее интересные для анализа с точки зрения современной правовой науки.
В Европейском Союзе были выработаны критерии, отличающие «умного» робота от иных ки-берфизических систем9. Отношения с участием данного вида роботов требуют наиболее детального правового регулирования ввиду противоречивых мнений относительно возможности на-
деления подобной киберфизической системы статусом субъекта отношений (то есть отхода от классического понимания робота исключительно как объекта права). Для квалификации машины в качестве высокотехнологичного «умного» устройства она должна:
— быть способной совершать автономные действия посредством использования сенсоров и/или посредством обмена информацией с внешним миром и анализа такой информации;
— быть самообучаемой (данный критерий носит опциональный характер);
— быть оснащенной физически;
— адаптировать поведение в соответствии с внешней средой.
Морально-этические аспекты использования роботов
В Европейском Союзе в последнее время активно развивается концепция «взвешенного» регулирования робототехники. В рамках резолюции Европарламента было закреплено несколько фундаментальных аспектов, определяющих морально-этическую основу взаимоотношения робота и человека10, которые удовлетворяют критериям, сформированным в 1942 г. Айзеком Азимовым.
Опора морально-этической политики в отношении использования такой продвинутой киберфизической системы должна отвечать требованиям:
— невредимости человека при эксплуатации робота;
— подчинения робота указаниям и командам человека, за исключением случаев, когда та-
6 Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 168. URL: https://elibrary.ru/ item.asp?id=29144841 (дата обращения: 25.03.2019).
7 ГОСТ ИСО 8373-2014. Роботы и робототехнические устройства. Термины и определения.
8 Канушкин С. В. Реализация функциональных возможностей интеллектуальных роботов в работе правоохранительных органов // Правовая информатика. 2018. № 2. С. 23.
9 Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL) // European Parliament. URL: http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html (дата обращения: 27.03.2019).
10 Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL).
кое поведение машины может нанести вред индивиду;
— обеспечения возможности робота поддерживать свое существование при условии, что это не противоречит вышеупомянутым требованиям;
— наконец, роботы ни в коем случае не должны причинять вред человечеству в целом. При решении морально-этических коллизий
следует помнить о так называемом антропоморфном заблуждении (Android Fallacy), под которым понимается «одухотворение» робота и наделение его свойствами, которыми он не обладает11. Данное заблуждение имеет место ввиду технологического совершенства робота, что дает основания воспринимать его действия в некоторых ситуациях как полностью автономные, не зависящие от воли владельца, как если бы у робота была собственная «воля». В действительности же способность робота совершать определенные действия зависит от того, какой механизм восприятия окружающей действительности заложен при его создании.
Если при разработке нормативного регулирования данное замечание о конструктивных особенностях «умного» робота не будет приниматься в расчет, это может привести к регулированию на законодательном уровне не функционального содержания, а просто роботизированной формы. Чрезмерное «очеловечивание» роботов, которое в определенной степени является трендом современных реалий12, может привести к непредсказуемым последствиям, например при определении лица, виновного в причинении вреда.
Для иллюстрации вопросов регулирования достижений робототехники с точки зрения этики
будет разумно апеллировать к использованию роботов в условиях военно-полевой хирургической деятельности13. Спасение раненых — чрезвычайно сложная и ресурсозатратная задача. В военных условиях гораздо эффективнее разместить роботов-хирургов для оказания неотложной медицинской помощи. Хирург-человек в данной ситуации больше подвержен вероятности ошибки, нежели машина, так как окружающая среда и физические условия могут оказать негативное воздействие на человека, в результате чего может произойти непоправимая ошибка. В то же время роботы невосприимчивы к такого рода влиянию внешних факторов.
Несмотря на кажущуюся выгоду от применения подобного рода роботов, существуют явные риски. Во-первых, чем более высоко автономен робот, тем сложнее определить ответственность, так как контроль оператора-человека сводится к минимуму. Во-вторых, робот — это информационная система, которая подвержена рискам взлома и хакерской атаки. В этой связи представляется целесообразным впоследствии рассмотреть возможность отнесения подобных роботов к объектам критической информационной инфраструктуры и разработать в отношении некоторых видов роботов соответствующий правовой режим.
Немаловажен вопрос морального выбора, который робот совершить не в состоянии, поскольку технологии машинного обучения еще не достигли такого уровня: как оценивать ценность жизни того или иного лица? Кому следует оказать помощь в первую очередь: лицу, которое с большей вероятностью выживет, либо тому, кто является стратегически более ценным, что может иметь решающее значение в условиях ведения военных действий?14
11 Richards N. M, Smart W. D. How Should the Law Think About Robots? (May 10, 2013) // URL: https://ssrn. com/abstract=2263363 (дата обращения: 27.03.2019).
12 Khan P. H. et al. Do people hold a humanoid robot morally accountable for the harm is causes? // Proceedings of the 7th ACM/IEEE International Conference on Human-Robot Interaction, 2012.
13 O'Sullivan S., Nevejans N., Allen C., Blyth A., Leonard S., Pagallo U., Holzinger K., Holzinger A., Sajid M. I., Ashrafian H. Legal, Regulatory, and Ethical Frameworks for Development of Standards in Artificial Intelligence (AI) and Autonomous Robotic Surgery // The International Journal of Medical Robotics and Computer Assisted Surgery. 2018. URL: https://onlinelibrary.wiley.com/doi/10.1002/rcs.1968 (дата обращения: 25.03.2019).
14 O'Sullivan S., Nevejans N., Allen C, Blyth A, Leonard S., Pagallo U., Holzinger K., Holzinger A, Sajid M. I., Ashrafian H. Op. cit.
Бесспорно, разработка, развитие и внедрение технологий искусственного интеллекта должны подвергаться тщательному анализу и выполняться в рамках риск-ориентированного подхода. Все автоматизированные процессы подлежат разработке с учетом возможности изучения и оценки их исправности экспертом, а для создания среды доверия и защиты прав человека необходимо обеспечить прозрачность алгоритмов и технической части функционирования робота.
Определение правоспособности и ответственности роботов
Наделение определенных типов киберфизиче-ских систем, так называемых «умных» роботов, правоспособностью — одно из важнейших направлений современной юридической мысли в условиях цифровой экономики.
Наиболее ярко этот аспект выражается в контексте определения правового статуса роботов именно в рамках гражданского права.
Для рассмотрения этого вопроса представляется необходимым провести разграничение между техническими системами, являющимися, по нашему мнению, объектами права, и техническими системами, предположительно представляющими субъекты права, с целью определения наиболее подходящего правового регулирования для каждой из этих групп.
В данном случае представляется обоснованной точка зрения Г. А. Гаджиева, который предлагает разграничивать непосредственно робототехническую систему, созданную без использования технологии, предполагающей автономность объекта (промышленные роботы, дроны, аппараты для глубоководного погружения), и роботов-агентов, т.е. киберфизические
системы, способные самостоятельно совершать определенные виды задач15. Здесь дополнение в виде слова «агент» означает, что такие системы реализуют интересы определенного физического или юридического лица.
Важно понимать, что для определения правоспособности любого субъекта гражданского права необходимо решить вопрос о наличии у него воли на совершение определенных значимых для правового регулирования действий. В контексте применения этих понятий к роботам, наделенным развитым искусственным интеллектом и автономностью, некоторые исследователи утверждают, что такие системы имеют волю в гражданско-правовом смысле16.
Однако вышеизложенный вывод ученых достаточно сложно использовать для построения концепции робота как физического лица, потому что тогда наделение роботов всеми аспектами правоспособности определяет также возможность существования у него деликтоспособно-сти, т.е. возможности нести ответственность за вред, причиненный его деяниями.
Наиболее распространенной в научных исследованиях является концепция робота как юридического лица. Она допускает избирательное применение норм гражданского права, регламентирующих правоотношения с участием юридических лиц, к правовому регулированию роботов по аналогии17. Основанием для проведения такой аналогии является «искусственная» природа юридических лиц и роботов.
Для более полного исследования вопроса правосубъектности роботов следует обратиться к еще одной теории, которая получила название «концепция электронного лица». По мнению О. А. Ястребова, электронное лицо, обладающее субъективными правами и юридическими обязанностями, является комплексом таких прав и обязанностей, содержанием которых
15 Гаджиев Г. А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1 (253). С. 21. URL: https://cyberleninka.ru/article/n/ yavlyaetsya-li-robot-agent-litsom-poisk-pravovyh-form-dlya-regulirovaniya-tsifrovoy-ekonomiki (дата обращения: 19.03.2019).
16 Архипов В. В., Наумов В. Б. Указ. соч. С. 160.
17 Архипов В. В. Наумов В. Б. Указ. соч. С. 165.
являются действия искусственного интеллекта18. Очень важно подчеркнуть, что в данной концепции «электронное лицо» представляет собой существенно новый субъект права, и название данного субъекта отражает его сущность и правовую специфику. О. А. Ястребов предлагает рассматривать искусственный интеллект как базовую составляющую электронного лица, что предопределяет возможность применения данной идеи для определения правового статуса роботов19.
Исследование проблематики правосубъектности электронных лиц подтверждает, что специфика электронных лиц (трудность локализации их юридически значимого поведения) определяет необходимость формирования принципиально нового инструментария правового регулирования.
На наш взгляд, в данном случае концепт робота как юридического лица применим к определению правового статуса роботов-агентов, так как юридическое лицо и робот действительно имеют общую «искусственно созданную» природу. Кроме того, для реализации этого подхода на практике не придется прорабатывать новый пласт законодательного регулирования,так как отношения с участием юридических лиц уже имеют правовую регламентацию в действующем законодательстве.
Ввиду того что робот-агент может выполнять различные функции, необходимые для реализации целей разработчиков искусственного интеллекта, он в целом предстает как действующее лицо, на которое возлагается обязанность, которую он может как исполнить, так и не исполнить20. В связи с этим актуален вопрос о том, кто будет нести ответственность за неисполнение такой обязанности — сам робот-агент (как юри-
дическое или электронное лицо) или разработчик технологии, на основании которой робот совершает свои действия?
В настоящее время наблюдается тенденция возрастания уровня автономности искусственного интеллекта, а также увеличения количества случаев причинения вреда людям в результате решений, принятых с использованием таких технологий.
В качестве одного из таких примеров можно привести ситуацию, произошедшую в связи с участием в дорожно-транспортном происшествии автомобиля марки Tesla. Автопилот данного автомобиля неправильно оценил дорожную ситуацию, что привело к столкновению с другим автотранспортным средством, в результате чего погиб водитель, не успевший взять управление на себя21.
Ввиду серьезности угроз дальнейшего развития искусственного интеллекта надлежащая регламентация вопросов ответственности за причинение вреда роботами, обладающими способностями к автономному принятию решений, просто необходима.
Интересным для исследования представляется вопрос о возможности рассмотрения робота как источника повышенной опасности.
Некоторые исследователи предполагают, что автономный робот не может быть отнесен к источнику повышенной опасности в связи с тем, что в привычном понимании таким источником обычно выступает объект материального мира22. Если же мы будем применять данную концепцию к автономному роботу, которого отдельные исследователи предлагают рассматривать в качестве субъекта права, возникнет существенное смешение абсолютно разных правовых категорий.
18 Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. № 2. С. 36. URL: https://cyberleninka.ru/article/n7pravosubektnost-elektronnogo-litsa-teoretiko-metodologicheskie-podhody (дата обращения: 17.03.2019).
19 Ястребов О. А. Указ. соч. С. 40.
20 Ястребов О. А. Указ. соч. С. 36.
21 См.: URL: https://www.tesla.com/en_EU/blog/tragic-loss (дата обращения: 17.03.2019).
22 Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. № 10. С. 68. URL: https://elibrary.ru/item.asp?id=26709676 (дата обращения: 21.03.2019).
Применение правил об источниках повышенной опасности было конкретизировано в постановлении Пленума Верховного Суда РФ от 26.01.2010 № 123. В соответствии с данным документом источником повышенной опасности следует признавать любую деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека. В целом многие роботы по данному критерию могут быть отнесены к источникам повышенной опасности, однако вопрос о том, можно ли применять данный подход ко всем роботам, остается открытым.
В научной литературе высказываются различные точки зрения по вопросам ответственности робота (его производителя или пользователя) за причинение вреда. К примеру, в зарубежной литературе высказывается точка зрения о том, что юридическая ответственность за действия робота ложится на человека, который дает роботу разрешение действовать от его имени24.
Сходная идея была также высказана в докладе «Нормы гражданского права в робототехнике»: предлагалось отдать предпочтение концепции управления рисками, когда ответственность возлагается на то лицо, которое должно было выполнить обязанность по минимизации рисков и ненаступлению вредных последствий25.
Представляется очевидным, что для дальнейшей более детальной регламентации вопроса ответственности за причинение вреда роботами необходимо прежде всего решить вопрос определения правового статуса робота-агента, а также выяснить, является ли он источником повышенной опасности. По нашему мнению, роботы могут быть отнесены к субъектам права исключительно при возможности создания института «электронного лица», предлагаемого О. А. Ястребовым. Кроме того, к регулированию роботов-агентов должны применяться поло-
жения об источниках повышенной опасности ввиду их явного подпадания под данную категорию.
На данный момент авторам работы наиболее перспективной представляется идея управления рисками, т.е. привлечения к ответственности того лица, на котором лежала обязанность по минимизации рисков причинения вреда. Данная концепция представляется эффективной для нового правового регулирования ввиду обоснованности применения мер ответственности за причиненный роботом вред именно к тому лицу, которое допустило невыполнение возложенных на него обязанностей по устранению таких негативных последствий.
Разумеется, при имплементации данных положений в действующее правовое регулирование могут возникнуть определенные проблемы, связанные со сложностью определения лица, на которого была возложена обязанность по устранению рисков, однако в целом этот подход может оказать позитивное влияние на детальную регламентацию вопроса ответственности киберфизических систем.
Заключение
В настоящее время основной задачей регулирования робототехнических систем и искусственного интеллекта является выработка унифицированного определения участников общественных отношений, разработка единой концепции юридической ответственности субъектов, связанных с вовлечением роботов в правоотношения, а также проработка правовой политики, отражающей позицию законодателя к отношениям с участием киберфизических систем.
Безусловно, роботы способны существенно улучшить привычное функционирование
23 Постановление Пленума Верховного Суда РФ от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» // Российская газета. № 24. 05.02.2010.
24 Asaro P. Robots and Responsibility from a Legal Perspective. 2007. P. 3. URL: http://peterasaro.org/writing/ ASAR0%20Legal%20Perspective.pdf (дата обращения: 16.03.2019).
25 Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL).
многих сфер человеческой жизни. В частности, использование роботов в авиационной, военной, медицинской, исследовательской областях приводит к уменьшению технических потерь при выполнении операций в сложных районах и на отдаленных территориях, к снижению издержек на создание и эксплуатацию автоматизированных киберфизических систем; расширение сфер применения роботов в ситуациях невозможности человеческого вмешательства может существенно облегчить многие процессы жизнедеятельности.
Вместе с тем в связи с архитектурными особенностями киберфизических систем остро стоит вопрос не только определения юридической ответственности робота, но и правового регулирования создания и программирования «умных» роботов. Некоторые виды подобных систем, используемые в военной или медицинской деятельности, представляют наибольшую значимость, поскольку от действий, совершаемых с помощью роботов, зависят жизнь и здоровье человека напрямую. Это свидетельствует о том, что к контролю над созданием этих систем и к их вводу в эксплуатацию должны предъявляться повышенные требования. Потенциально полезным видится рассмотреть возможность отнесения вышеуказанных роботов к объектам, требования по контролю за которыми сравнимы с выдвигаемыми к критической информационной инфраструктуре.
Повсеместное внедрение роботов порождает много дискуссий в юридической науке. В частности, «пищей» для искусственного интеллекта и машинного обучения роботов могут стать не только общедоступные сведения, но и персональные данные, которые сейчас предоставляются как возмездно, так и безвозмездно, что может образовать новую гражданско-правовую неопределенность26.
Авторы данной работы считают, что для роботов-агентов возможно применение концепции «электронного лица», так как эта принципиально новая идея сможет помочь в формировании узкоспециализированного подхода в регулировании отношений, возникающих в связи с использованием возможностей искусственного интеллекта. Разработка такого подхода необходима для того, чтобы каждый «субъект» правовых отношений подчинялся тем нормам, которые были выработаны, исходя из особенностей его правовой природы.
Таким образом, при эксплуатации и регулировании сложных киберфизических систем законодатель должен комплексно подходить к разработке новой отрасли законодательства и учитывать аспекты безопасности индивида, обеспечения прав и свобод человека, защиты частной жизни, чести и достоинства индивида, а также тщательно регулировать вопросы защиты персональных данных и чувствительных сведений.
БИБЛИОГРАФИЯ
1. Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. — 2017. — № 5. — С. 157—170.
2. Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. — 2018. — № 1 (253). — С. 15—30.
3. Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. — 2016. — № 10. — С. 63—72.
4. Канушкин С. В. Реализация функциональных возможностей интеллектуальных роботов в работе правоохранительных органов // Правовая информатика. — 2018. — № 2. — С. 23—38.
26 Pazos R. Personal Data as an Economic Good — Misleading Commercial Practices and Social Networks (July 1, 2017) // How Deep Is Your Law? Brexit. Technologies. Modern Conflicts. Conference Papers, Vilnius University Faculty of Law. Vilnius, 2017. Pp. 288—297. URL: https://ssrn.com/abstract=3011199 (дата обращения: 28.03.2019).
5. Ролинсон П., Ариевич Е. А., Ермолина Д. Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. — 2018. — № 5. — С. 63—71.
6. Рыжов В. В., Сайфулин В. Г. К вопросу о способности искусственного интеллекта к научному творчеству // Вестник Волгоградского государственного университета. Серия 7 : Философия. Социология и социальные технологии. — 2011. — № 1 (13). — С. 138—141.
7. Соболева М. Ю. Роботы для права или право для роботов? // URL: repo.iubipdigital.ru/pluginfile.php/654/ mod_data/content/4098/Соболева.pdf (дата обращения: 11.03.2019).
8. Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. — 2018. — № 2. — С. 36—55.
9. Asaro P. Robots and Responsibility from a Legal Perspective. 2007 // URL: http://peterasaro.org/writing/ ASAR0%20Legal%20Perspective.pdf (дата обращения: 16.03.2019).
10. Calo R. Robots in American Law // University of Washington School of Law Research Paper. California Law Abstract. — Pp. 513—563. — URL: https://ssrn.com/abstract=2737598 (дата обращения: 17.03.2019).
11. Khan P. H. et al. Do people hold a humanoid robot morally accountable for the harm is causes? // Proceedings of the 7th ACM/IEEE International Conference on Human-Robot Interaction, 2012.
12. O'Sullivan S., Nevejans N., Allen C, Blyth A, Leonard S., Pagallo U., Holzinger K, Holzinger A, Sajid M. I., Ashrafian H. Legal, Regulatory, and Ethical Frameworks for Development of Standards in Artificial Intelligence (AI) and Autonomous Robotic Surgery // The International Journal of Medical Robotics and Computer Assisted Surgery. — 2018. — URL: https://onlinelibrary.wiley.com/doi/10.1002/rcs.1968 (дата обращения: 25.03.2019).
13. Pazos R. Personal Data as an Economic Good — Misleading Commercial Practices and Social Networks (July 1, 2017) // How Deep Is Your Law? Brexit. Technologies. Modern Conflicts. Conference Papers, Vilnius University Faculty of Law. — Vilnius, 2017. — Pp. 288—297. — URL: https://ssrn.com/abstract=3011199 (дата обращения: 28.03.2019).
14. Richards N. M., Smart W. D. How Should the Law Think About Robots? (May 10, 2013) // URL: https://ssrn. com/abstract=2263363 (дата обращения: 27.03.2019).
Материал поступил в редакцию 10 мая 2019 г.
CHALLENGES AND PROSPECTS OF THE LEGAL REGULATION OF ROBOTICS
Ekaterina S. Mikhaleva, Expert of the Center for International Information Security and Scientific and Technological Policy, MGIMO University of the Ministry of Foreign Affairs of Russia [email protected]
prosp. Vernadskogo, d. 76, Moscow, Russia, 119454
Ekaterina A. Shubina, Legal Counsel at OOO "Budget and Financial Technologies" [email protected]
ul. Skladochnaya, d. 3, str. 1, Moscow, Russia, 127018
Abstract. The modern world almost continuously emphasizes the importance of new challenges and solutions in all areas and fields of life for humanity. The emergence of new technologies and the improvement of conventional mechanisms to meet the demands of digital reality pose new challenges for any social science and practice; the role of law as a tool of regulatory influence on public relations becomes of particular importance. Recently, the issue of regulation of ubiquitous artificial intelligence, cyberphysical systems, advanced "smart" robots and other achievements of engineering science has become of primary importance for the Russian and world legal science. The authors of the article have analyzed the issues of possible approaches to the robotics legal regulation. Due to the latest trends in the development of legal norms on robotics in foreign countries, in particular in the European Union,
the issues of legislative recognition and determination of the robot's status, i.e. the prospect of robots becoming legally capable, or strengthening and clarifying the legal regime of the robot exclusively as an object of legal regulation become topical.
The paper is devoted to studying topical issues of possible directions of legal regulation of robotics and analyzing the main approaches to determining the legal status of robots and liability for harm caused by them in the autonomous performance of actions.
Keywords: robotics, legal regulation of robotics, robots, cyberphysical systems, robots as an object of law, topical issues, legal personality, robots as a subject of law, legal responsibility, ethical aspects of robotics.
REFERENCES (TRANSLITERATION)
1. Arhipov V. V., Naumov V. B. O nekotoryh voprosah teoreticheskih osnovanij razvitiya zakonodatel'stva o robototekhnike: aspekty voli i pravosub"ektnosti // Zakon. — 2017. — № 5. — S. 157—170.
2. Gadzhiev G. A. Yavlyaetsya li robot-agent licom? (Poisk pravovyh form dlya regulirovaniya cifrovoj ekonomiki) // Zhurnal rossijskogo prava. — 2018. — № 1 (253). — S. 15—30.
3. Iriskina E. N., Belyakov K. O. Pravovye aspekty grazhdansko-pravovoj otvetstvennosti za prichinenie vreda dejstviyami robota kak kvazisub"ekta grazhdansko-pravovyh otnoshenij // Gumanitarnaya informatika. — 2016. — № 10. — S. 63—72.
4. Kanushkin S. V. Realizaciya funkcional'nyh vozmozhnostej intellektual'nyh robotov v rabote pravoohranitel'nyh organov // Pravovaya informatika. — 2018. — № 2. — S. 23—38.
5. Rolinson P., Arievich E. A., Ermolina D. E. Ob"ekty intellektual'noj sobstvennosti, sozdavaemye s pomoshch'yu iskusstvennogo intellekta: osobennosti pravovogo rezhima v Rossii i za rubezhom // Zakon. — 2018. — № 5. — S. 63—71.
6. Ryzhov V. V., Sajfulin V. G. K voprosu o sposobnosti iskusstvennogo intellekta k nauchnomu tvorchestvu // Vestnik Volgogradskogo gosudarstvennogo universiteta. Seriya 7 : Filosofiya. Sociologiya i social'nye tekhnologii. — 2011. — № 1 (13). — S. 138—141.
7. Soboleva M. Yu. Roboty dlya prava ili pravo dlya robotov? // URL: repo.iubipdigital.ru/pluginfile.php/654/ mod_data/content/4098/Soboleva.pdf (data obrashcheniya: 11.03.2019).
8. Yastrebov O. A. Pravosub"ektnost' elektronnogo lica: teoretiko-metodologicheskie podhody // Trudy Instituta gosudarstva i prava RAN. — 2018. — № 2. — S. 36—55.
9. Asaro P. Robots and Responsibility from a Legal Perspective. 2007 // URL: http://peterasaro.org/writing/ ASARO%20Legal%20Perspective.pdf (data obrashcheniya: 16.03.2019).
10. Calo R. Robots in American Law // University of Washington School of Law Research Paper. California Law Abstract. — Pp. 513—563. — URL: https://ssrn.com/abstract=2737598 (data obrashcheniya: 17.03.2019).
11. Khan P. H. et al. Do people hold a humanoid robot morally accountable for the harm is causes? // Proceedings of the 7th ACM/IEEE International Conference on Human-Robot Interaction, 2012.
12. O'Sullivan S., Nevejans N., Allen C., Blyth A., Leonard S., Pagallo U., Holzinger K., Holzinger A., Sajid M. I., Ashrafian H. Legal, Regulatory, and Ethical Frameworks for Development of Standards in Artificial Intelligence (AI) and Autonomous Robotic Surgery // The International Journal of Medical Robotics and Computer Assisted Surgery. — 2018. — URL: https://onlinelibrary.wiley.com/doi/10.1002/rcs.1968 (data obrashcheniya: 25.03.2019).
13. Pazos R. Personal Data as an Economic Good — Misleading Commercial Practices and Social Networks (July 1, 2017) // How Deep Is Your Law? Brexit. Technologies. Modern Conflicts. Conference Papers, Vilnius University Faculty of Law. — Vilnius, 2017. — Pp. 288—297. — URL: https://ssrn.com/abstract=3011199 (data obrashcheniya: 28.03.2019).
14. Richards N. M., Smart W. D. How Should the Law Think About Robots? (May 10, 2013) // URL: https://ssrn. com/abstract=2263363 (data obrashcheniya: 27.03.2019).
