CC BY
515Гуманитарная информатика. 2016. Вып. 10. С. 63-72
УДК 004.896+347.515; 347.512 DOI: 10.17223/23046082/10/7
ПРАВОВЫЕ АСПЕКТЫ ГРАЖДАНСКО-ПРАВОВОЙ ОТВЕТСТВЕННОСТИ ЗА ПРИЧИНЕНИЕ ВРЕДА ДЕЙСТВИЯМИ РОБОТА КАК КВАЗИСУБЪЕКТА ГРАЖДАНСКО-ПРАВОВЫХ ОТНОШЕНИЙ
Е.Н. Ирискина1, К. О. Беляков2
1 Закрытое акционерное общество «Элекард Девайсез»
Национальный исследовательский Томский государственный университет, Томск, Россия
Статья посвящена гражданско-правовой ответственности за причинение вреда действиями автономных роботов. Развитие искусственного интеллекта, широкое применение автономных аппаратов приводят к появлению проблем технического и этического характера, в том числе актуальной становится проблема правового регулирования отношений робот - человек и робот - робот. В работе предложены общетеоретические положения, относящиеся к классификации обязательств из причинения вреда действиями роботов, рассмотрены специальные случаи ответственности за причинение вреда отдельными видами роботов.
Ключевые слова: гражданско-правовая ответственность, ответственность за третьих лиц, искусственный интеллект, интеллектуальные роботы, автономные роботы.
LEGAL ASPECT OF CIVIL LIABILITY FOR DAMAGES IN TORT AS A RESULT OF QUASI PARTY ROBOT PERFORMANCE
E.N. Iriskina1, K. O. Belyakov2
1Elecard Devices, CJSC 2Tomsk State University, Tomsk, Russia
The article is devoted to civil liability for damages in tort as a result of autonomous robot. There are many technical and ethical problems due to great variety of robots, rapid evolution of artificial intelligence, wide use autonomous vehicles. The problem of legal regulation of relations man-robot and robot-robot becomes increasingly actual.
The article provides an overview of the current state of robotics in terms of autonomous systems with artificial intelligence. It describes the basic cases of real autonomous robots.
The authors propose a classification that divides all the robots into two types depending on the presence or absence of artificial intelligence. On this basis, it is proposed to introduce the definition of «Robot» as a term characterizing the autonomous robot with artificial intelligence.
Among the person responsible for causing damage it is proposed to allocate the following persons: the inventor, the software engineer, the manufacturer, the owner/the user, a third party.
The authors propose to enter the qualifier of damages in tort. As part of the classifier it is proposed to enter the appropriate category. To enter in the definitions category of tort liability: Category A, Category B, Category C. To enter in the definitions categories according to the level of damage: the first category, the second category, the third category. To enter in the definitions categories of persons responsible for damages: Category I, Category II, Category III, Category IV. Depending on the industry in which the damage incurred, it is proposed to allocate a category by industry. If the action is made by Robots in conditions not covered by the code (including category by industry), then it is assigned a «0». For these categories will take the existing Russian Classification of Economic Activities.
Examples include situations that have taken place in reality and as possible typical situations. The authors performed analysis of situations on the proposed classifier concludes the person responsible for damages in tort.
General theoretical provisions referred to the classification of damages in tort as a result of robot performance are given. The introduction of this classifier can reduce procedural costs in the courts of cases involving damage to a robot, until the introduction to the civil law the Robot as the quasi party of civil matters. Events of special liability have been considered.
Key words: Civil liability, liability for third party, artificial intelligence, artificial intelligent robot, autonomous robot.
Благодаря развитию робототехники, Роботы становятся все более сложными, автономными и способными принимать решения самостоятельно. Это в первую очередь связано с понятием глубоких нейронных сетей, быстро обучающихся алгоритмов на них. Нейронные сети были известны ученым давно, но только в последнее время исследователи находят возможности усовершенствовать «сетевые алгоритмы», обучать и тренировать их.
Широкое развитие получило компьютерное зрение, возможности таких искусственно-интеллектуальных систем искусственного зрения приближаются к человеческим, но со значительными техническими оговорками и в ограниченных сферах применения.
Власти штата Калифорния (США) легализовали использование автомобилей с функцией автопилота. Первые самоуправляемые автомобили от Google ездят по дорогам Калифорнии и уже попадают в ДТП, в том числе зарегистрировано ДТП с пострадавшими [1]. В США к принятию готовится федеральный закон, признающий систему искусственного интеллекта, встроенную в беспилотные автомобили Google водителем [2].
Общественный транспорт будущем будет роботизирован и для управления им не потребуется водитель. Один из самоуправляемых автобусов передвигается по дорогам Швейцарии [3]. Его маршрут составляет 2,5 км. В Голландии прошло испытание самоуправляемого автобуса, который планируется запустить для движения по маршруту 6 км [4]. В Греции самоуправляемый автобус передвигается 3 часа в день [5]. В Китае проходят испытания самоуправляемого междугороднего автобуса. Планируется, что маршрут автобуса будет составлять более 30 км [6]. Китайская Baidu и BMW заявили о намерении создать прототип самоуправляемого автомобиля через 3 года [7].
В России на 2016-2018 гг. запланировано испытание самоуправляемых КАМАЗов на трассе М11. В случае успешного испытания, самоуправляемые КАМАЗы отправят по маршруту Хельсинки - Пекин. Подводные автономные роботы широко используются в России, например, чтобы доставать предметы с затонувших кораблей, а также для проведения подводных спасательных операций и добычи полезных ископаемых.
Не все роботы представляют особый интерес и смогут в будущем получить права и защиту наравне с человеком, так как являются просто программируемыми механизмами. В связи с этим, роботов можно разделить на две группы в зависимости от обладания искусственным интеллектом:
• автономные роботы (обладают искусственным интеллектом, далее по тексту введем понятие «Робот»);
• машины-механизмы (не обладают искусственным интеллектом, далее по тексту - «машины-механизмы» или «робот»).
Как известно, право реагирует на процессы, происходящие в обществе, со значительным опозданием, в то время когда уже накапливается значительное число прецедентов. На данном этапе прецедентов немного, но они уже известны.
Приведем некоторые примеры, о которых было упомянуто в СМИ. 29 июня 2015 г. робот убил человека на заводе «Фольксваген» в г. Бау-наталь (Германия). В мае 2014 г. в г. Ганновер на 44-летнее лицо рухнула стальная балка, которую отпустил робот. В 1997 г. почтовый робот совершил наезд на ногу женщины и затем закрыл дверь шкафа, оставив ее запертой внутри, информация о сумме компенсации осталась закрытой. Приведенные выше примеры показывают опасность, которую несет в себе развитие робототехники и искусственного интеллекта.
В сложившейся ситуации актуально предлагать законодателю варианты решения будущих ситуаций. Очень сложным вопросом является вопрос ответственности. Кто должен нести ответственность за действия Роботов. Что будут делать люди в случае причинения ущерба Роботом человеку или Роботом другому Роботу. Кто будет нести ответственность, когда избежать причинения вреда было невозможно.
Если мы будем говорить о США, то очевидно, что граждане США пойдут к юристам. Если мы будем говорить о Российской Федерации, то очевидно, что, руководствуясь действующим гражданским законодательством, граждане РФ пойдут в суд с исками к продавцам или производителям.
В работах исследователей, занимающихся ответами на подобные вопросы, можно выделить два основных направления. Часть исследователей предлагает возложить всю ответственность за любое причинение действиями Роботов на страховые компании. Другая часть исследователей предлагает обратиться к Римскому частному праву и провести всевозможные аналогии между правовым положением рабов и Роботов: Робот, как и раб, не имеет прав и обязанностей; Робот, как и раб, может принимать решения, имеющие правовые последствия, в том числе для собственника; рабы были наделены имуществом (пекулий), следовательно, необходимо наделять Роботов имуществом; рабы и Роботы способны причинять вред [8. С. 102].
В рамках данной статьи предлагается ответить на поставленные вопросы путем разбора возможных вариантов и построения системы классификации деликтных обязательств в зависимости от степени опасности, исходя из особенностей взаимоотношений Роботов и людей. На данный момент в законодательстве и литературе не существует классификации системы деликтных обязательств, отражающей существенные черты обязательств из причинения вреда Роботами.
Деликтные обязательства являются одним из старейших видов обязательств в гражданском праве и относятся к числу наиболее сложных. При росте ситуаций, связанных с участием Роботов, появится необходимость введения нового квазисубъекта гражданского правоотношения - Робота. Необходимость введения в Гражданский кодекс изменений связана с тем, что нужно урегулировать вопросы ответственности для избежания таких ситуаций, когда потерпевшая сторона может оказаться в крайне невыгодном положении. И вне зависимости от наличия или отсутствия договорных отношений вред, причиненный действиями Роботов, должен подлежать возмещению по соответствующим правилам и нормам.
Для урегулирования вопроса ответственности, связанного с действиями Роботов, необходимо дополнить существующую систему специальных деликтов, устанавливающих особые составы правонарушения, которые применяются в случаях, прямо предусмотренных законом.
В действующем ГК РФ предусмотрены специальные деликты, но специальной ответственности за вред, причиненный действиями Роботов, не выделено. Деликт может быть отнесен к группе обязательств по возмещению вреда, характеризующихся особенностями средств причинения вреда (робот - как источник повышенной опасности). Однако целостного решения проблема все еще не получила. По общему правилу причинитель вреда сам отвечает за причиненный вред. Но уже в действующем законодательстве выделяются отдельные случаи, в которых за вред, причиненный действиями одного лица, отвечают другое лицо, непосредственный причинитель вреда и лицо, ответственное за его действия [9. С. 85].
В нашем случае непосредственный причинитель вреда - Робот. В случае роботов, которые относятся к машинам-механизмам, можно применять действующее законодательство. В ГК РФ есть ст. 1095, которая регулирует вред, причиненный недостатками товаров, в случае приобретения товара не для использования в предпринимательской деятельности, а только для потребителей. При этом право выбора, к кому предъявлять требования о возмещении вреда - к продавцу или к изготовителю - принадлежит потерпевшему в течение срока службы. Причинение вреда по истечении срока службы или 10-летнего срока со дня производства товара означает, что обязательство по возмещению вреда не возникает и вред не подлежит возмещению
при условии, что срок службы установлен и потребитель предупрежден о последствиях использования товара после срока службы.
Автономный Робот не может быть отнесен к источнику повышенной опасности или товару с недостатками. Для ответа на вопрос об ответственности необходим детальный анализ и возможны различные варианты. Необходимым условием наступления деликтной ответственности является наличие деликтоспособности, однако за Роботов на данном этапе развития гражданского законодательства должны отвечать определенные категории лиц. Установление категории лиц в каждом конкретном случае является важным, так как от этого зависит возможность возмещения вреда.
Среди вариантов лиц, ответственных за причинение вреда, можно выделить следующих, не являющихся непосредственными причини-телями вреда.
1. Изобретатель (создатель как физическое лицо).
2. Программист (инженер, работник юридического лица), либо компания разработчик программного обеспечения (как юридическое лицо).
Если лицо, ответственное за действия Робота, - программист, то юридическое лицо в порядке регресса могут возложить ответственность на программиста. В качестве программиста может выступать рабочая группа, лаборатория, которая занималась программированием какой-то важной части, сбой в которой привел к причинению ущерба, либо оператор, который запрограммировал Робота на определенное действие, допустив ошибку.
3. Завод-изготовитель (как юридическое лицо). Если признать заводы-изготовители безоговорочно ответственными за причинение любого вреда, то они будут платить по всем искам и возмещать ущерб всем, кому он был причинен. В этом случае у изготовителей не останется денег на развитие технологии и исправлении уже существующих ошибок.
4. Пользователь / собственник (как юридическое либо физическое лицо). Это, например, человек, сидящий внутри самоуправляемого автомобиля, если Робота запрограммировал сам пользователь либо внес изменения, не соответствующие документации. В качестве аналогии закона можем привести пример. В США согласно Sec 230 of the Communications decency Act (Акт о пристойности в телекоммуникациях) разработчик сайта не отвечает за то, что размещено на сайте другим лицом. Таким образом, завод-изготовитель не должен отве-
чать за действия Пользователя по перепрограммированию / самостоятельному программированию Робота.
5. Третье лицо. Это лицо, которое завладело Роботом неправомерно и перепрограммировало его на причинение вреда либо на действия в его интересах. Например, дрон вышел из-под контроля одного человека и был «перехвачен» злоумышленником. Лицо заставило Робота каким-то способом действовать в чужом интересе без поручения собственника либо лица, ответственного за действия Робота. Обязанность возместить вред возможна, если собственник заключил договор с лицом, присматривающим за Роботом.
В настоящее время вопрос ответственности решается на примере самоуправляемого автомобиля. Так, в Калифорнии качестве вариантов решения споров, связанных с самоуправляемыми автомобилями, пришли к решению признать водителя лицом, несущим ответственность.
При оценке ситуации и выявлении субъекта, ответственного за причинение вреда, суду нужно будет в первую очередь выяснить и исключить следующие варианты:
1. Когда Пользователь (Владелец) виноват в том, что Робот обучился и совершил правонарушение либо причинил вред. Это может быть умышленное обучение либо проявление небрежности в отношениях с Роботом.
2. Имел место умысел потерпевшего.
3. Имело место согласие потерпевшего.
4. Когда третье лицо неправомерно завладело Роботом, либо внесло изменения в его программу, в результате чего было совершено правонарушение или причинен вред.
5. Имело место повреждение Робота третьим лицом.
6. Действие непреодолимой силы.
После исключения вышеупомянутых случаев суд вправе классифицировать ситуацию по объекту деликтного обязательства, размеру причиненного ущерба, отрасли, в которой имело место действие для дальнейшего разбирательства по делу. С целью уменьшения издержек суда на разбирательство по делу и обобщению типичных ситуаций, которые будут иметь место в ближайшем будущем.
Введем в понятийную базу категории по объекту деликтного обязательства.
Категория A. К категории А относятся обязательства по возмещению вреда, причиненного жизни и здоровью человека и гражданина.
Категория B. К категории B относятся обязательства по возмещению вреда, причиненного Роботом.
Категория C. К категории С относят обязательства по возмещению вреда, причиненного имуществу и иным материальным ценностям.
Введем в понятийную базу категории по степени уровня ущерба:
Первая категория. К первой категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере не более 100 тыс. руб., либо действия, повлекшие причинение материального ущерба в размере не более 100 тыс. руб.
Вторая категория. Ко второй категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере более 100 тыс. руб., но не превышающем 1 млн руб. Либо действия, в результате которых был причинен ущерб в размере, превышающем 100 тыс. руб., но не превышающем 1 млн руб.
Третья категория. К третьей категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере более 1 млн руб., либо действия, в результате которых был причинен ущерб в размере, превышающем 1 млн руб.
Введем в понятийную базу категории по лицам, ответственным за причинение вреда.
Категория I. К категории I относится изобретатель.
Категория II. К категории II относится программист.
Категория III. К категории III относится завод-изготовитель.
Категория IV. К категории IV относится пользователь/собственник.
В зависимости от отрасли, в которой совершено действие и причинен вред, предлагается выделить категории по отраслям. В случае если действие совершено Роботом в условиях, не подпадающих под коды, то ему присваиваем «0». За такие категории примем существующий общероссийский классификатор видов экономической деятельности. В предложенном классификаторе общее число различных вариантов будет равно 144*(M+1), где M - суммарное число кодов ОКВЭД. Любое действие Робота, повлекшее причинение вреда, можно классифицировать и выделить лицо, ответственное за причинение вреда.
Рассмотрим применение классификатора на примере. Робот-пылесос самообучился и смог перелезть через препятствия на кухне,
включить электроплиту и сжечь имущество собственников Робота [10]. По объекту деликтного обязательства дело относится к категории С. По степени ущерба дело относится ко второй категории. Происшествие имело место в жилом доме собственника, следовательно, по отрасли относится к категории 0.
Следовательно, классификация описанного прецедента - С 2 0. Исходя из этих параметров, лицом, ответственным за причинение вреда, признается завод-изготовитель. Для процессуальной экономии предлагается привлекать работников заводов-изготовителей к ответственности напрямую, не применяя механизм предъявления регрессных требований. Итоговая классификация прецедента - С 2 III 0.
Рассмотрим следующий кейс. Самоуправляемый автомобиль стал участником ДТП в Калифорнии. Автомобиль двигался по крайнему правому ряду и подъезжал к перекрестку, но, увидев помеху, стал перестраиваться в левый ряд перед автобусом. Система машины рассчитала, что автобус должен пропустить ее, однако он этого не сделал. В результате ДТП у автомобиля повреждены левое крыло, левое колесо и один из боковых датчиков водителя. На момент аварии в автомобиле находился человек, который ничего не сделал, так как считал, что автобус пропустит машину. В результате аварии пострадавших нет. В компании Google заявили, что во время аварии автобус двигался со скоростью 24 км/ч, а автомобиль - 3,5 км/ч. Если эти данные верны, тогда самоходный автомобиль допустил ошибку, которую часто совершают люди: недооценил реакцию другого водителя [1]. Итоговая классификация прецедента - C 2 60.хх.хх III.
Рассмотрим еще один пример, который потенциально возможен. Подводный Робот и человек-аквалангист работают на нефтедобывающей платформе в одном из заливов. Робот нанес человеку увечье. По объекту деликтного обязательства дело относится к категории А. По степени ущерба дело относится к первой категории. Происшествие имело место в нефтяной отрасли, поэтому, классификация по ОКВЭД - 11. Следовательно, классификация описанного прецедента - А 1 11. Исходя из этих параметров, лицом, ответственным за причинение вреда, признается собственник. Итоговая классификация прецедента - А 1 IV 11.
Таким образом, в работе предложены общетеоретические положения, относящиеся к классификации обязательств из причинения, возникающих из взаимоотношений Робот-человек. Введение данного
классификатора способно уменьшить процессуальные издержки при разбирательстве дел, связанных с причинением вреда Роботами, до момента введения в гражданское право Робота как субъекта гражданских правоотношений.
Благодарности
Авторы выражают глубокую благодарность директору ЗАО «Эле-кард Девайсез» В.А. Ширшину за неоценимую помощь при работе над статьей.
ЛИТЕРАТУРА
1. Самоуправляемый автомобиль Google попал в первое ДТП с пострадавшими [Электронный ресурс]. URL: https://vc.ru/n/google-accident.
2. Искусственный интеллект в беспилотных автомобилях Google признали водителем пострадавшими [Электронный ресурс]. URL: http://www.interfax.ru/ business/494074.
3. EasyMile's driverless bus rolls-out in Singapore and California [Электронный ресурс]. URL: http://www.gizmag.com/easymile-ez10-driverless-bus/39891/.
4. В Нидерландах впервые испытан самоуправляемый автобус [Электронный ресурс]. URL: http://mir24.tv/news/Science/13830695.
5. Driverless Buses in Trikala - European Initiative CityMobil2 [Электронный ресурс]. URL: https://greecealive.wordpress.com/2015/07/30/driverless-buses-in-trikala-european-initiative-citymobil2/.
6. China Rolls Out the 'World's First Driverless Bus' [Электронный ресурс]. URL: http://www.citylab.com/tech/2015/10/china-rolls-out-the-worlds-first-driverless-bus/408826/.
7. Китайская Baidu и BMW решили создать самоуправляемый автобус за три года [Электронный ресурс]. URL: https://vc.ru/n/auto-autobus.
8. Pagallo U. The Law of Robots: Crimes, Contracts, and Torts. Springer, 2013. 228 p.
9. Шевченко А.С., Шевченко Г.Н. Деликтные обязательства в российском гражданском праве : учеб. пособие. М. : Статут, 2013. 133 с.
10. Paranoid android: Cleaning gadget 'switches itself on' and moves onto kitchen hotplate in 'suicide bid' [Электронный ресурс]. URL: http://www.dailymail.co.uk/ news/article-2503733/Paranoid-android-Cleaning-gadget-switches-moves-kitchen-hotplate-suicide-bid.html.
