CC BY-ND
148Юридические исследования
Правильная ссылка на статью:
Данилов И.Б. — Основные подходы к правовому регулированию отношений с участием роботов // Юридические исследования. - 2019. - № 6. DOI: 10.25136/2409-7136.2019.6.29150 URL: https;//nbpublish.com'library_read_article.php?id=29150
Основные подходы к правовому регулированию отношений с участием роботов
Данилов И"орь Борисович
кандидат юридических наук
заведующий кафедрой Теории и истории государства и права, Сибирский институт управления - филиал
630102, Россия, Новосибирская область, г. Новосибирск, ул. Нижегородская, 6
Статья из рубрики "Актуальный вопрос"
Аннотация.
Статья посвящена основным проблемам формирования законодательства о робототехнике в рамках российской правовой доктрины. Проанализированы основные подходы к правовому регулированию общественных отношений с участием роботов, сложившиеся в отечественной и зарубежной науке. Теоретические представления российских и иностранных ученых о перспективных концепциях правового регулирования робототехники систематизированы и представлены в виде теоретических моделей с обоснованием их рациональности, достоинств и недостатков. Раскрыто содержание концепции ограниченной правосубъектности роботов. Определены пределы правоспособности, дееспособности и деликтоспособности. Методологическую основу исследования составили диалектический и сравнительно-правовой методы. В частности, применение диалектического метода способствовало исследованию понятия "робот" в его становлении и развитии. Использование сравнительно-правового метода обеспечило корректное сопоставление подходов к правовому регулированию отношений с участием роботов, разработанных в российской и зарубежной науке. В результате проведенного исследования автор формулирует вывод о том, что существующие подходы к определению правовой природы роботов-носителей искусственного интеллекта принципиально можно разделить на три группы. В основе первой лежит идея о том, что они представляют собой особый объект права, обладающий характеристиками, требующими разработки специальных правовых норм для регулирования отношений с их использованием. Второй подход базируется на необходимости признания частичной правосубъектности роботов, ограниченной их деликтоспособностью. Третья концепция исходит из необходимости расширения правосубъектности носителей искусственного интеллекта путем включения в ее состав правоспособности.
Ключевые слова: роботы, робототехника, искусственный интеллект, электронное лицо, правосубъектность, правоспособность, дееспособность, деликтоспособность, субъект права, объект права
DOI:
10.25136/2409-7136.2019.6.29150
Дата направления в редакцию:
05-03-2019
Дата рецензирования:
06-03-2019
Развитие современных технологий, основанное на автоматизации процессов в различных сферах общественной жизни, появление инновационных технических средств и решений приводят к возникновению актуальной потребности по разработке новых концепций правового регулирования общественных отношений, связанных с использованием передовых достижений науки и техники. Одной из наиболее динамично развивающихся отраслей производства в настоящее время является робототехника. Использование роботов в промышленности и в быту возрастает год от года, а сам потенциал разрабатываемых технологических решений увеличивается стремительными темпами. Появление таких феноменов общественной жизни, как беспилотные автомобили и летательные аппараты (дроны), самообучающиеся компьютерные программы и алгоритмы, нейросети, сложные автоматизированные системы управления предопределяет необходимость формирования нормативно-правовой базы, регламентирующей их участие в складывающихся правоотношениях, а также последствия совершения ими юридически значимых действий. Необходимость скорейшей разработки государственной стратегии в области искусственного интеллекта являлась одной из ключевых идей экспертной дискуссии «Искусственный интеллект и государство», прошедшей в рамках Гайдаровского форума 2019.
П.П. Баранов справедливо отмечает, что США, Китай, Япония, ЕС, Южная Корея очень серьезно подходят к робототехнике и официально признают за ней будущее. При этом на фоне соперничества на этом поприще на первый план выходят вопросы правового регулирования робототехники, которые могут привести к осязаемым технологическим и экономическим результатам. Так, например, принятый в Южной Корее в 2008 г. закон «О развитии и распространении умных роботов» позволил повысить их производство в 2016
г. на 80 % и принести государству более 4 млрд. долларов дохода -Ш.
Помимо Южной Кореи активно занимаются формирование соответствующей нормативно-пра в ов ой ба з ы и стра ны Е в ро с оюз а . 16 фе в ра ля 2017 г. Е в ро па рла ме нто м б ыл а приня та Резолюция «Нормы гражданского права о робототехнике», в которой закрепляются основы правового регулирования отношений с использованием роботов и иных подобных
автономных систем
В российском законодательстве специальных норм, регламентирующих правовой статус роботов и порядок регулирования отношений с их участием в настоящий момент не разработано. Немногочисленные упоминания о данных объектах можно найти в ГОСТ 34.003-90, где вводятся понятия «автоматизированная система» и «информационная
технология» Приказе Минтруда России от 29.10.2015 №799н «Об утверждении профессионального стандарта «Оператор демонтажных роботов для работ в высоких
радиационных полях» [4], где используется термин «робот», ГОСТ Р ИСО 8373-2014
«Роботы и робототехнические устройства. Термины и определения» I-5!, содержащем основные дефиниции, а также в ст.ст. 8, 32, 36, 37 и др. Воздушного кодекса РФ, где содержатся нормы о сертификации, регистрации, государственном учете и особенностях эксплуатации таких объектов как «беспилотное воздушное судно» и «беспилотная
воздушная система» Отдельные упоминания об искусственном интеллекте
встречаются также в правовых документах программного значения. Так, в программе «Цифровая экономика Российской Федерации», утвержденной распоряжением П равительства РФ от 28.07.2017 г., технология искусственного интеллекта обозначена как одна из приоритетных сквозных технологий для решения вопросов обработки больших данных, распознавания объектов и интеллектуального поиска
Вместе с тем, многочисленные авторы подчеркивают необходимость скорейшей разработки и введения в действие соответствующих норм, которые могли бы обеспечить специальное регулирование отношений с участием роботов. Так, справедливо подчеркивается, что промедление в данном вопросе может привести к ситуации, когда требуемые юридические решения и стандарты уже будут разработаны другими государствами, апробированы на международном опыте и в дальнейшем будут «навязываться» отечественному законодателю в качестве эталонных.
В декабре 2016 г. юридическая фирма Dentons по заказу Grishin Robotics разработала концепцию первого в России законопроекта о робототехнике (авторы законопроекта В.
В. Архипов, В. Б. Наумов)18!. Представленный законопроект представлял собой пакет поправок в Гражданский кодекс РФ, дополняющий Подраздел 2 «Лица» новой Главой 5.1 «Роботы-агенты». Концепция предусматривала появление в российском гражданском праве нового субъекта - робота-агента, который, по замыслу авторов, представлял собой робота, по решению собственника и в силу конструктивных особенностей предназначенного для участия в гражданском обороте. В соответствии со ст. 127.1 Законопроекта, «робот-агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. В случаях, установленных законом, робот-агент может
выступать в качестве участника гражданского процесса» Законопроект был неоднозначно воспринят научно-экспертным сообществом России, не получил движения в Государственной думе РФ, однако явился однозначным индикатором того, что работа в области формирования концепций правового регулирования отношений с участием роботов в настоящее время обретает исключительную актуальность.
Подтверждением данного факта является и то, что Председатель Государственной Думы Федерального Собрания РФ Вячеслав Володин в феврале 2017 г. в ходе рабочей поездки в Татарстан заявил, что депутатам необходимо подготовить законопроект о регулировании взаимоотношений робота и человека. При этом Председатель Госдумы считает, что Россия может стать пионером в правовом регулировании развития робототехники и искусственного интеллекта и разработать такой закон к 2022 году -Ш.
Анализ сформулированных в науке подходов к определению правового статуса роботов позволяет сделать вывод о том, что они принципиально отличаются восприятием их в качестве объекта, или же субъекта права.
Американские исследователи Neil M. Richards и William D. Smart в статье, посвященной изучению роботов в контексте нормативно-правового регулирования, указывают, что
идея возможного равенства робота и человека с точки зрения его статуса должна быть
однозначно отвергнута Не смотря на очевидное сближение уровня развития алгоритмов роботизированных систем с уровнем человеческого мышления при принятии отдельных решений, робот всегда остается инструментом, устройством, что предопределяет его статус как объекта права.
Данная позиция перекликается с принципами разработки и применения искусственных агентов (роботов), сформулированными Международной общественной организацией «Институт инженеров электротехники и электроники». Разработанные правила предполагают необходимость ужесточения контроля за организациями, использующими роботов в своей деятельности. Механизмы идентификации искусственных агентов должны обеспечить возможность однозначного решения вопроса о лице, несущем ответственность за вред, причиненный роботом. Поскольку сам робот является
исключительно объектом в правовой сфере ПШ.
В отечественной науке схожим образом правовую природу робота воспринимает П.П. Баранов, который предлагает авторское определение: «Робот - это программируемое автономное автоматическое устройство, способное выполнять различные манипуляции и
взаимодействовать с окружающей средой без помощи человека и заменять его труд» -Ш. Вместе с тем, автор допускает, что в ближайшем будущем роботы могут достичь абсолютной степени своей автономности и тогда появится возможность говорить о них как о специальных субъектах права, участниках гражданско-правового оборота, которые имеют правовые обязанности и несут ответственность за свое поведение.
Представленный подход является наиболее консервативным в науке, отражает классический взгляд на категорию правосубъектности и исходит из того, что на роботов, вне зависимости от уровня их технологической сложности и развитости алгоритмов должен распространяться правовой режим вещи. Вместе с тем, представляется, что характерные особенности этой вещи должны предопределять существование специальных норм, регулирующих отношения с ее использованием.
Альтернативная концепция правового регулирования отношений с участием роботов состоит в необходимости юридического признания их частичной или полной правосубъектности. Представляется, что сама юридическая конструкция правосубъектности в последние годы претерпела значительные изменения. Ее эволюция связана с переосмыслением понятия «субъект права» с точки зрения признаков, достаточных для признания того или иного лица субъектом. Традиционно круг субъектов права ограничивался физическими и юридическими лицами (к специальным видам которых иногда относят государство, субъекты Федерации, муниципальные образования). Однако, с течением времени и развитием правовых доктрин, этот устоявшийся круг всё чаще подвергается сомнению. Расширительно толкуя теорию фикции юридического лица,
определяя юридическое лицо как «явление, созданное правопорядком» современные исследователи проблем теории права формулируют обоснованное предположение о том, что генезис правопорядка неизбежно влечет и эволюцию категории правосубъектности.
В международной юридической практике последнего времени так же намечаются тенденции смещения понимания правосубъектности в сторону расширения круга потенциальных субъектов. Так, в марте 2017 г. Суд индийского штата Уттаркханд признал реки Ямуна и Ганг живыми существами, наделив их юридическими правами [12]. Ранее, 15 марта 2017 г., Река Уонгануи в Новой Зеландии, третья по величине в стране, стала
первым водоемом в мире, получившим те же юридические права, что и человек -Ш1. П одобные прецеденты свидетельствуют о том, что современная юридическая наука исходит из очевидной возможности расширения круга субъектов права за счет включения в него новых участников правоотношений.
Развивая эту концепцию, ряд исследователей полагает, что роботы и роботизированные системы должны рассматриваться именно в качестве субъектов права. В.В. Архипов и В.Б. Наумов предлагают выделять две предметные категории — «просто робот» (как «устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека»), то есть элемент объекта регулирования, и «робот-агент», который, по замыслу авторов, наделяется специальной правосубъектностью. Между этими понятиями предлагается установить взаимосвязь — «роботом-агентом признается робот, который по решению собственника и в силу конструктивных
особенностей предназначен для участия в гражданском обороте»
О юридической природе роботов как квазиагентов или посредников рассуждают и зарубежные исследователи, констарируя, что роботы постепенно наделяются все
большим объемом функций, которые ранее исполнялись людьми П^. Юридический смысл представленных концепций специальной правосубъектности сводится к модернизации отношений агентирования. В дополнение к существующим положениям Главы 52 ГК РФ вводится еще и способ исполнения агентских функций роботами. Особенностью при этом является ограничение имущественной ответственности собственников и владельцев подобных роботов, участвующих в гражданском обороте. Предполагается, что владелец или собственник наделяет робота-агента определенной имущественной массой, которая и представляет собой предел ответственности по обязательствам перед третьими лицами. Указанное положение явилось предметом критики, поскольку подобной степени ограниченности имущественной ответственности в настоящий момент нет даже у юридических лиц.
Вопрос о допустимости распространения на робота правового статуса агента напрямую зависит от возможности признания его субъектом права, пусть и в ограниченном смысле. Как отмечает ряд исследователей, для приобретения искусственным интеллектом статуса субъекта права необходимо наличие у него такого качества, как воля. Искусственный интеллект волевой способностью не обладает. Поэтому наделение правосубъектностью робота как носителя искусственного интеллекта в любом случае будет являться фикцией
Другой аспект проблемы правосубъектности роботов рассматривает П.П. Баранов. Отмечая реальные возможности причинения роботами вреда и анализируя особенности применения мер юридической ответственности к таким фактам, он указывает, что следует обсудить вопрос о возможности внесения в гражданское право нового правового статуса для роботов «электронное лицо», что в принципе могло бы позволить включить их в существующую систему гражданско-правовой ответственности. При этом в гражданском праве должно быть закреплено положение о праве на установление причинно-следственных связей между действиями (бездействиями) робота и ущербом, который он нанес, чтобы иметь возможность взыскать компенсацию с производителя
этого робота
Позиция о необходимости признания правосубъектности роботов для совершенствования механизмов реализации юридической ответственности поддерживается и профессором
Йельской школы права Дж. Балкиным. Он отмечает, что если не констатировать правосубъектность роботов, возникает значительная проблема, связанная с определением надлежащего субъекта ответственности, поскольку круг лиц, участвующих в деятельности робота, чрезвычайно широк. К нему относится и производитель робота, и собственник, и его владелец. Зачастую определить долю и размер ответственности
каждого из них не представляется возможным I15!. Кроме того, к упомянутому кругу лиц может быть отнесен еще и злоумышленник, неправомерно и несанкционированно получающий доступ к программному обеспечению робота и осуществляющий вмешательство в его деятельность. Сложный и полиморфный характер роботизированных систем зачастую вообще не позволяет дать однозначного ответа о лице, ответственном за те или иные сбои в их работе. Признание деликтоспособности роботов позволяет поставить вопрос об обязательном страховании их ответственности в целях однозначного обеспечения деликтных обязательств, возникающих по вине роботов.
Наконец, комплексное исследование вопросов правового статуса и правосубъектности систем и устройств искусственного интеллекта П.М. Морхата основывается на необходимости наиболее расширительного толкования правосубъектности роботов. Вводя понятие «юнит искуственного интеллекта», под которым подразумеваются любые компьютерные или киберфизические системы с антропоформным (человекоподобным) «интеллектом», автор делает вывод о возможности наделения их особой правосубъектностью, которая включала бы в себя не только деликтоспособность, но и ограниченную правоспособность. Так, в случае достижения в будущем юнитами искусственного интеллекта значительной степени автономности, под которой понимается способность выполнять поставленные задачи в зависимости от текущего состояния и восприятия окружающей среды без вмешательства человека, а также при возможности констатации в отношении них такого важного признака субъекта права как автономии воли, допустимо будет говорить о таких правах роботов, как право на целостность и неприкосновенность, свобода слова, интеллектуальные права, авторские права
Относительно последней группы прав предлагаются несколько концепций правового регулирования: машиноцентрический (юнит искуственного интеллекта рассматривается как единственный и полноправный автор создаваемых им результатов интеллектуальной деятельности), антропоцентрический (носителем авторского права является человек, юнит искусственного интеллекта рассматривается лишь как инструмент создания результатов интеллектуальной деятельности), концепт служебного произведения (отношения юнита искусственного интеллекта и человека при создании результатов интеллектуальной деятельности должны регулироваться правовыми нормами о служебном произведении), концепт гибридного авторства (юнит искусственного интеллекта и человек выступают в качестве соавторов), а также концепт «исчезающего» (нулевого) авторства (отсутствие авторов у произведений, созданных юнитом искусственного интеллекта)
К числу прочих вопросов, возникающих в связи с разработкой подходов к регулированию отношений с использованием роботов, относятся вопросы квалификации роботов как участников процессуальных отношений. В настоящее время используются и продолжают совершенствоваться системы автоматической фиксации административных правонарушений. Автоматизированная система управления, при этом, осуществляет целый комплекс действий, связанных с фиксацией, квалификацией деяния, установлением правонарушителя, выбором размера наказания. Как справедливо отметил директор Института права и развития ВШЭ - Сколково А. Иванов в рамках экспертной дискуссии «Искусственный интеллект и государство» на базе Гайдаровского форума
2019, человек при этом, по сути, выступает лишь как средство легитимации совершаемого процессуального действия, или же акцептором действий робота. Перспективы развития подобных систем позволяют поставить вопрос о наделении робота процессуальным статусом лица, рассматривающего дело об административном правонарушении.
Справедливо отмечается, что уже в настоящее время искусственный интеллект способен выполнять типичные юридические действия по заданному алгоритму, в том числе, составление договоров, исковых заявлений, и иных документов. Крупные компании в России, в том числе Сбербанк, ВТБ, планируют широко использовать нейронные сети для выполнения такого рода работы. Как заявил управляющий директор ПАО «Сбербанк» В. Авербах, выступая спикером в упомянутой дискуссии «Искусственный интеллект и государство» в рамках Гайдаровского форума 2019, компания Сбербанк в настоящее время ведет активную работу по созданию системы генерации автоматических ответов на типичные заявления клиентов банка на базе искусственного интеллекта. В этой работе видится большая перспектива, поскольку внедрение подобных систем будет способствовать высвобождению значительного количества человеческих ресурсов, а также оптимизации затрат компании.
Естественно, в принципе заменить человека искусственный интеллект не может, поскольку не рассчитан на решение нестандартных ситуаций с учетом сугубо человеческих свойств - совесть, справедливость, милосердие и пр. Хотя ведущие разработчики в сфере искусственного интеллекта серьезно заявляют о том, что загруженные базы данных (законодательство, судебная практика, доктринальные источники) для нейронных сетей позволят искусственному интеллекту сформулировать и применить принципы права. Основываясь на результатах эксперимента по анализу решений ЕСПЧ искусственным интеллектом, американские исследователи полагают, что он способен предсказывать решения судов. В 79% случаев искусственный интеллект смог предсказать решение ЕСПЧ на основе изучения материалов дела. В России ряд крупных корпораций тестирует нейронные сети на предмет выполнения искусственным интеллектом тех же видов работы, что и профессиональные юристы. В рамках Петербургского юридического форума 2018 года состоялось состязание нейронной сети
и юриста-практика
П одводя итог вышесказанному, следует отметить, что в настоящее время большинство научных публикаций, посвященных правовому статусу и правосубъектности роботов, представляют собой, преимущественно, описания абстрактных теоретических моделей и позиционируются как, своего рода, приглашение к дискуссии. Предвосхищая развитие техники и технологии, исследователи стараются разработать юридические решения, которые должны быть востребованы в ближайшем будущем. Особым обстоятельством, обуславливающим многообразие подходов к правовому регулированию отношений с участием роботов, является тот факт, что нигде в мире еще не существует закона, комплексно регулирующего подобные отношения. В мировой юридической практике также не сложилось универсальных эталонных подходов к правоприменению.
Н е отрицая того факта, что в настоящий момент идея о наделении объектов робототехники свойствами субъекта права выглядит весьма поспешной и совершенно непроработанной, следует констатировать, что сама концепция правосубъектности прошла значительный путь развития. Представляется, что ее дальнейшая эволюция будет неминуемо идти в направлении расширения круга субъектов правоотношений, к числу которых могут быть отнесены и роботы. Перед законодателем РФ в настоящее
время стоит актуальная и очень непростая регулирования отношений с участием роботов, законодательства о робототехнике в РФ.
Библиография
задача выбора подхода к правовому который определит путь развития всего
1. Баранов П.П. Правовое регулирование робототехники и искуственного интеллекта в России: некоторые подходы к решению проблемы // Северо-кавказский юридический вестник. - 2018. - №1. - С. 39-45.
2. Резолюция Европарламента от 16 февраля 2017 г. «Нормы гражданского права о робототехнике» № P8_TA-PROV(2017)0051 [Электронный ресурс]. URL: http://robotrends.ru/images/1725/66137/201706722_Resolution_and_Charter_EU_Robo Trendsru.pdf (дата обращения - 01.03.2019).
3. ГОСТ 34.003-90. Межгосударственный стандарт. Информационная технология. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Термины и определения / М.: Стандартинформ, 2009. - 15 с.
4. Приказ Минтруда России от 29.10.2015 N 799н «Об утверждении профессионального стандарта "Оператор демонтажных роботов для работ в высоких радиационных полях"» // Официальный интернет-портал правовой информации http://www.pravo.gov.ru, 18.11.2015.
5. ГОСТ Р ИСО 8373-2014 «Роботы и робототехнические устройства. Термины и определения». // М.: Стандартинформ, 2015. - 16 с.
6. Воздушный кодекс Российской Федерации от 19.03.1997 N 60-ФЗ // СЗ РФ. - 1997. -№ 12. - Ст. 1383.
7. Васильев А.А., Шпоппер Д., Матаева М.Х. Термин "искусственный интеллект" в российском праве: доктринальный анализ // Юрислингвистика. - 2018. - №7-8. - С. 35-44.
8. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. - 2017. - №6. - С. 46-62.
9. Richards N.M., Smart W.D. How Should The Law Think About Robots? [Электронный ресурс]. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id = 2263363 (дата обращения: 01.03.2019).
10. Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems [Электронный ресурс]. URL:
https ://standards.ieee.org/develop/indconn/ec/ead_law.pdf (дата обращения: 01.03.2019)
11. Гущин В.В. Понятие и классификация юридических лиц // Современный юрист. № 3. 2015. С. 20-28.
12. Индийский суд признал реки Ганг и Ямуна живыми существами [Электронный ресурс]. URL: https://lenta.ru/news/2017/03/21/hindu_rivers (дата обращения: 01.03.2019).
13. New Zealand river granted same legal rights as human being // The Guardian [Электронный ресурс]. URL: https://www.theguardian.com/world/2017/mar/16/new-zealandriver-granted-same-legal-rights-as-human-being (дата обращения: 01.03.2019).
14. Asaro P.M. Robots and Responsibility from a Legal Perspective. [Электронный ресурс]. URL:
http://www.roboethics.org/icra2007/contributions/ASAR0%20Legal%20Perspective. pdf (дата обращения 01.03.2019).
15. Balkin J.B. The Path of Robotics Law [Путь развития правового регулирования роботов] // California Law Review. - 2015, June. - Vol. 6. - P. 45-60.
16. Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография / РОО «Институт государственно-конфессиональных отношений и права». - М.: Буки Веди, 2017. - 257 с.
17. Морхат П.М. Право интеллектуальной собственности и искусственный интеллект: Науч. монография. М.: Юнити-Дана, 2018. - 121 с
