CC BY
48
УДК 343
Вестник СПбГУ Право. 2021. Т. 12. Вып. 3
Пределы уголовно-правового регулирования робототехники
И. Р. Бегишев
Казанский инновационный университет имени В. Г. Тимирясова,
Российская Федерация, 420111, Республика Татарстан, Казань, ул. Московская, 42
Для цитирования: Бегишев, Ильдар Р. 2021. «Пределы уголовно-правового регулирования робототехники». Вестник Санкт-Петербургского университета. Право 3: 522-543. https://doi.org/10.21638/spbu14.2021.303
В статье анализируется современное состояние межотраслевых связей в правовом регулировании робототехники. В числе ключевых особенностей, характеризующих данное взаимодействие, автор указывает взаимодополнение и последовательную интеграцию правовых процессов, протекающих в гражданском, административном и уголовном праве, в единую систему. Взаимосвязь институтов гражданского права, в частности института возмещения вреда и страхования ответственности, с положениями уголовного права является определяющей для формирования эффективной системы уголовно-правового регулирования отношений с использованием робототехники и конструирования соответствующих норм. Проведенное исследование позволяет сделать вывод о том, что основными критериями, отграничивающими гражданско-правовые деликты с применением робототехники от уголовно-правовых деяний, выступают степень общественной опасности указанных деяний и степень причиненного ущерба от наступивших последствий. Привлечение к гражданско-правовой ответственности за вред, причиненный робототехникой, не исключает наступления административной или уголовной ответственности. По мнению автора, в гражданском законодательстве отсутствуют механизмы привлечения к ответственности разработчиков программного обеспечения для роботов, что в условиях растущей автономности робототехники представляется серьезным упущением. В указанном аспекте интересна проблема возмещения вреда вследствие эксплуатации служебных роботов военного назначения в условиях боевых действий, которая на сегодняшний день законодательно не урегулирована. Детальное исследование понятия и природы источников повышенной опасности, а также закономерностей привлечения к ответственности за вред, причиненный их эксплуатацией, позволяет сделать вывод о целесообразности признания управляемых и полууправляемых роботов источниками повышенной опасности и привлечения собственников к ответственности за причиняемый вред. Автор считает важными необходимость учета степени автономности роботов и их взаимосвязь с действиями операторов. Источником повышенной опасности являются как сами роботы (обладающие полной автономностью), так и деятельность с участием роботов (управляемых и полуавтономных).
Ключевые слова: автономность, вред, искусственный интеллект, источник повышенной опасности, общественная опасность, ответственность, робот, робототехника, уголовное право, цифровые технологии.
© Санкт-Петербургский государственный университет, 2021
1. Введение
Вопросы юридической ответственности при применении киберфизических систем и робототехники обозначены в числе приоритетных для разрешения задач в рамках Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г. В Концепции отмечается, что первостепенного разрешения требуют вопросы гражданско-правовой ответственности за вред, причиненный системами искусственного интеллекта и робототехники, «проработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, доработки при необходимости механизмов безвиновной гражданско-правовой ответственности» (Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.»)1. Все это вызывает необходимость поиска пределов уголовно-правового регулирования робототехники.
2. Основное исследование
Е. С. Михалева и Е. А. Шубина отмечают: «В зарубежной литературе высказывается точка зрения о том, что юридическая ответственность за действия робота ложится на человека, который дает роботу разрешение действовать от его имени... [либо на] лицо, которое должно было выполнить обязанность по минимизации рисков и ненаступлению вредных последствий» (Михалева, Шубина 2019, 32).
В условиях относительной незрелости системы позитивного регулирования правоотношений в сфере искусственного интеллекта и робототехники указанные проблемы приобретают особую значимость.
В науке выделяется несколько поколений роботов:
I поколение — программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;
II поколение — роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;
III поколение — самообучающиеся, высоко автономные, «умные» роботы — наиболее интересные для анализа с точки зрения современной правовой науки (Михалева, Шубина 2019, 28)2.
Применительно к нашему исследованию удобно разделить роботов на управляемых, полуавтомных и автономных. Кроме того, мы согласны с мыслью Г. А. Гад-жиева о разграничении непосредственно робототехнических систем, созданных
1 Здесь и далее все ссылки на нормативные правовые акты Российской Федерации приводятся по СПС «КонсультантПлюс». Дата обращения 5 августа, 2020. http://www.consuItant.ru.
2 См. также: (Канушкин 2018).
без использования технологии, предполагающей автономность объекта (промышленные роботы, дроны, аппараты для глубоководного погружения), и роботов-агентов, т. е. киберфизических систем, способных самостоятельно совершать определенные виды задач (Гаджиев 2018).
В контексте уголовно-правового исследования изучение вопросов гражданско-правовой ответственности и механизмов привлечения к уголовной ответственности весьма ценно и с точки зрения междисциплинарного подхода. «Развитая правовая система представляет собой сложный, спаянный закономерными связями организм» (Алексеев 1999, 157).
По мнению С. Г. Безверхова, сегодня можно выделить две модели правовой действительности. Первая формируется посредством разделения и расслоения права на отрасли, подотрасли и прочие структурные элементы, вторая — посредством последовательного интегрирования правовых процессов в различных отраслях в единую систему родственных институтов и формирование межотраслевого взаимодействия (Безверхов 2015, 77).
Существующие тенденции свидетельствуют о том, что вторая модель проявляется наиболее активно. Подтверждением тому служат всепроникающие корреляционные связи между различными отраслевыми ветвями. «Системный подход означает изучение не только отдельных элементов уголовного права, но и взаимосвязей между элементами указанной системы, а также взаимосвязей между уголовно-правовой и иными отраслевыми правовыми системами» (Кабанова 2016, 10).
Быстрые темпы внедрения сквозных технологий обусловили качественную трансформацию правовых институтов. «Наступление новых технологий способно вовсе переформатировать право, само это понятие, феномен, его содержание, механизм действия и пр. И систему права соответственно» (Талапина 2018, 11). Сегодня можно говорить о постепенном размытии отраслевых границ в правовой практике.
Согласимся с мнением Э. В. Талапиной, что катализатором глубинных изменений выступил первоначально интернет и связанное с ним цифровое право, стирающие четкие границы публичного и непубличного (Талапина 2018, 12). Комплексная составляющая информационного права позволила ей стать посредником и связывать публичное и частное право (Бачило 2012, 88). Информационно-телекоммуникационные технологии действительно представляют собой «комплексные объекты, нуждающиеся не просто в системном, но подчас и неделимом на составные части регулировании» (Талапина 2018, 11).
Между тем, будучи результатом успешного симбиоза информации и технологии, искусственный интеллект и робототехника представляют собой прорывную технологию, к которой должен быть применен комплексный подход.
Межотраслевой подход обеспечивает необходимые взаимные связи между уголовным правом и положениями других отраслей. Природа деликтов с применением искусственного интеллекта и робототехники в силу неполной урегулирован-ности создает поле для широких маневров. Между тем наука и практика уже задаются вопросами: кто должен нести ответственность, как гражданско-правовую, так и уголовную, за деяния с участием искусственного интеллекта и робототехники? Кто и как будет возмещать причиненный ущерб?
Для ответа на эти вопросы обратимся к уже складывающейся отечественной и зарубежной практике возмещения вреда за действия роботов, что позволит нам
не только установить механизмы возмещения вреда, важные с точки зрения уголовного судопроизводства, но и определить границу между гражданским и уголовным правом.
Это водораздел, пусть даже и весьма условный, крайне необходим для определения места уголовно-правового регулирования во всей системе правового регулирования искусственного интеллекта и робототехники. Как подчеркивается в литературе, и нам эта точка зрения также близка, «межотраслевое взаимодействие правовых норм в сфере уголовно-правовой охраны общественных отношений представляет собой взаимную связь нормативных положений уголовного и других отраслей законодательства о правах и обязанностях участников общественных отношений, которую необходимо учитывать при законодательном конструировании и применении соответствующих положений УК РФ3» (Безверхов 2015, 78).
В условиях становления как отраслевого, так и межотраслевого регулирования важно обеспечить непротиворечивость отраслевых норм. Нормативные предписания одной отрасли не должны допускать противоречий со смежными нормами другой отрасли, поэтому важно создать эффективную взаимодополняющую, совместимую и непротиворечивую систему. «Указанное предполагает такое соответствие уголовно-правовых норм определенным запретам других отраслей, которое обеспечивает единство подходов законодателя к регламентации конкретного комплекса отношений и позволяет взглянуть на внешне разнородные нормообразова-ния с единой точки зрения. Действующие в комплексе запреты должны обладать таким свойством, которое обеспечивает возможность неодинаковых по характеру и различающихся по содержанию нормативных предписаний совместно взаимодействовать при регулировании одного и того же отношения. При этом совместимость не должна быть полной, в смысле равнозначной: уголовно-правовой запрет не должен дублировать или подменять соответствующие положения иной отраслевой принадлежности» (Безверхов 2015, 81).
Приоритетным признаком, отличающим преступление от иного правонарушения, выступает критерий общественной опасности, проявляющийся в причинении вреда или угрозе его причинения охраняемым уголовным законом общественным отношениям. Уровень такой опасности должен свидетельствовать о необходимости применения средств, имеющихся именно в уголовном законе. Этот фактор неоднократно отражался в прецедентах толкования (правовых позициях), закрепленных в решениях Конституционного суда РФ (Степанов, Петрянин 2020, 205).
А. Г. Безверхов отмечает: «С учетом действия межотраслевых системных связей, к примеру, между уголовным и гражданским законодательством можно сформулировать следующие требования к определению уголовной противоправности: недопустимо наличие противоречия между соответствующими уголовно-правовыми запретами и юридическими дозволениями гражданско-правовой природы. Это означает, что УК РФ должен учитывать правомерность поведения, определяемую ГК РФ4, и в этом смысле не расходиться с нормативными положениями гражданско-правового характера» (Безверхов 2015, 78-79).
Ответственность за причинение вреда предусмотрена гл. 59 ГК РФ. В соответствии со ст. 1079 ГК РФ возмещение вреда за деятельность, связанную с источни-
3 Уголовный кодекс РФ от 13.06.1996 № 63-ФЗ (далее — УК РФ).
4 Гражданский кодекс РФ часть вторая от 26.01.1996 № 14-ФЗ (далее — ГК РФ).
ками повышенной опасности, возложена на юридических лиц и граждан. Нельзя не согласиться с мнением А. Б. Незнамова и Б. У Смита: «Взаимосвязь между компенсацией и ответственностью сложна. В соответствии со своим компенсаторным назначением гражданская ответственность номинально направлена на полное восстановление нарушенного права. Однако в отдельных случаях возмещение может быть ограничено договором между сторонами или правовой нормой более общего применения» (Незнамов, Смит 2019, 140).
В Справке Судебной коллегии по гражданским делам Пермского краевого суда по результатам обобщения судебной практики по делам о возмещении вреда, причиненного деятельностью, создающей повышенную опасность для окружающих, отмечается:
Особенность правил ответственности за вред, причиненный деятельностью, создающей повышенную опасность для окружающих, заключается в том, что для ее возложения достаточно трех условий: 1) наступление вреда в результате воздействия источника повышенной опасности; 2) противоправность поведения причинителя вреда; 3) наличие причинной связи между противоправным поведением и наступлением вреда. Все эти обстоятельства как юридически значимые для правильного разрешения дела должны быть достоверно установлены судом, выводы по ним изложены в решении. Вины причинителя не требуется. Лицо, осуществляющее деятельность, связанную с повышенной опасностью для окружающих, отвечает и при отсутствии вины, в том числе и за случайное причинение вреда5.
В гражданском законодательстве (п. 1 ст. 1079 ГК РФ) ответственность предусмотрена для юридического (физического) лица, которое владеет источником повышенной опасности либо распоряжается им на праве оперативного управления либо на ином законном основании. Полагаем, что в данном случае уместно говорить о том, что ответственность предусмотрена для владельца и эксплуататора объекта повышенной опасности, обладающего им на праве аренды, по доверенности либо в силу распоряжения органа о передаче под управление органа повышенной опасности.
Между тем если владельцу удастся доказать, что источник выбыл из его право-обладания в результате деятельности третьих лиц, то бремя возмещения вреда возлагается на указанных (третьих) лиц.
Основаниями, исключающими возмещение вреда собственником источника повышенной опасности, выступают также наличие умысла потерпевшего на причинение ему вреда либо действие непреодолимой силы, повлекшее причинение указанного вреда. Если в результате инцидента вред был причинен двумя или более источниками повышенной опасности третьим лицам, то предполагается солидарная ответственность собственников всех объектов.
Вопросы возмещения вреда не находятся в прямой зависимости от привлечения/непривлечения лица к административной, уголовной и дисциплинарной от-
5 Судебная коллегия по гражданским делам Пермского краевого суда. Справка по результатам обобщения судебной практики по делам о возмещении вреда, причиненного деятельностью, создающей повышенную опасность для окружающих, от 20.04.2007. Дата обращения 10 января, 2021. https://www.garant.ru/products/ipo/prime/doc/16058715.
ветственности. Обязанность устранить допущенное нарушение и возместить причиненный вред предусмотрена для причинителя вреда законом (см. Постановление Пленума Верховного суда РФ (далее — ВС РФ) от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина»).
Для уяснения применимости указанных положений к робототехнике необходимо определиться, относятся ли роботы к источникам повышенной опасности. Есть ли взаимосвязь между институтом возмещения вреда и автономностью роботов? Каким образом должен быть решен вопрос причинения вреда в подобных ситуациях?
В юридической практике и науке сегодня нет однозначного понимания того, какие объекты материального мира можно признать источниками повышенной опасности. И. И. Бикеев справедливо отмечает:
...одни связывают [источник повышенной опасности], как и суды общей юрисдикции в правоприменительной практике, с любой деятельностью, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля над ней со стороны человека. Другие высказывают точку зрения о том, что под источниками повышенной опасности необходимо понимать предметы материального мира, обладающие опасными для окружающих свойствами и не поддающиеся полному контролю со стороны человека (Бикеев 2007, 20)6.
В науке длительное время существуют две научные школы, отличающиеся пониманием источника повышенной опасности. Одни авторы (Антимонов 1952; Те-плова 1987; Иоффе 1975; Ярошенко 1977; Субботин 1983; Шишкин 2002) придерживаются мнения, что источник повышенной опасности — это всегда «деятельность граждан и юридических лиц, создающая повышенную вероятность даже невиновного причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и иных объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами» (Власова 2004, 38). В то же время другие ученые (Тебряев 2002; Сагрунян 2009) полагают, что источник повышенной опасности — это всегда объект, обладающий такими признаками, как неподконтрольность его человеку, высокая вероятность причинения вреда окружающим, возможность случайного причинения вреда (Болдинов 2002, 189).
Кроме того, сформировалась еще одна группа ученых, полагающих, что источником опасности могут выступать и деятельность, и объект (Бикеев 2007; Майда-ник 1968; Белякова 1986; Власова 2004).
В п. 18 Постановления Пленума ВС РФ от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» отмечается:
...по смыслу ст. 1079 ГК РФ, источником повышенной опасности следует признать любую деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны
6 См. также: (Шишкин 2001).
человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами.
Полагаем, что к робототехнике применимо понимание источника повышенной опасности как объектов (например, автономные роботы), и как деятельности (в случае с полуавтономными и управляемыми роботами).
В п. 18 Постановления Пленума ВС РФ от 26.01.2010 № 1 также читаем: «Учитывая, что названная норма не содержит исчерпывающего перечня источников повышенной опасности, принимая во внимание особые свойства предметов, веществ или иных объектов, используемых в процессе деятельности, суд вправе признать источником повышенной опасности также иную деятельность, не указанную в перечне». Таким образом, роботы, которые потенциально способны причинить вред, на чем мы акцентировали внимание при оценке рисков робототехники, могут по решению суда быть признаны источниками повышенной опасности.
На наш взгляд, наиболее удачно в контексте робототехники признаки источника повышенной опасности описал В. П. Тихий. По его мнению, «общеопасные предметы обладают тремя общими признаками: 1) повышенной общей опасностью; 2) специальным назначением и 3) особым правовым режимом» (Тихий 1989, 80).
Полагаем, указанное мнение как нельзя больше применимо к роботам, поскольку: 1) роботы, несомненно, обладают повышенной общей опасностью; являясь техническими и информационными устройствами, они применяются в деятельности, где высока вероятность причинения тяжких последствий независимо от деятельности и контроля со стороны человека; 2) роботы обладают конкретным предназначением исходя из их функционала, поэтому возможно их деление на роботов гражданского и служебного назначения; 3) необходимость создания особого правового режима робототехники и искусственного интеллекта прямо предусмотрена Концепцией развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г.
На страницах научной периодики уже появлялись публикации, посвященные отдельным аспектам механизма возмещения вреда при причинении вреда роботами и искусственным интеллектом (Михалева, Шубина, 2019; Морхат, 2017; Чучаев, Маликов, 2019). Однако анализ изученной литературы позволяет говорить скорее о постановке исследователями вопросов, чем о поисках ответов на них.
В рамках системного подхода полагаем уместным рассматривать механизм возмещения вреда, причиненного в процессе эксплуатации роботов, в совокупности с вопросами привлечения к уголовной ответственности, находящимися в прямой корреляции со степенью тяжести причиненных последствий.
На наш взгляд, признавать источниками повышенной опасности следует только управляемых и полууправляемых роботов, когда на их деятельность прямо или косвенно способен воздействовать человек: либо собственник, либо оператор/водитель, либо разработчик. В то же время вопросы привлечения к ответственности за вред, причиненный действиями полностью автономного робота, находятся в иной плоскости и требуют отдельного осмысления с точки зрения проблемы ответственности киберфизических систем. В число таких вопросов среди прочего входят вопросы ответственности «за непринятие искусственным интеллектом мер
по предотвращению убийства, если они потенциально могли быть реализованы; за злоупотребление искусственным интеллектом правом в судебном процессе, когда два юнита искусственного интеллекта, выступающие представителями сторон в суде, парализуют своими действиями деятельность судебной инстанции; за самостоятельное отключение искусственным интеллектом своих программных и аппаратных функций, блокирующих возможность причинения вреда человеку; за создание юнитом искусственного интеллекта по своему усмотрению робота или иного устройства, способного причинить вред человеку и предназначенного для этой цели» (Морхат 2017, 33).
2.1. Возмещение вреда, причиненного гражданскими роботами, и пределы уголовной ответственности
Промышленные роботы, лишенные автономности, или иначе управляемые роботы могут прямо причинять вред жизни и здоровью человека, что подтверждается многими примерами (табл.). В последнее десятилетие с возросшей роботизацией не только промышленных, но и социальных процессов число подобных инцидентов заметно возросло.
Таблица. Инциденты с участием роботов
Год Инцидент Последствия
2001 Робот компании Jr. Wheel Inc. схватил за шею и задушил сотрудника, покидающего рабочее место1 Смерть человека
2006 Робот прижал человека к раме и раздавил его. Проверка внутренних систем не показала никаких неисправностей, а во внутренней памяти робота не содержалось никакой информации об инциденте11 Смерть человека
2007 На одном из заводов в Швеции рабочий при осуществлении ремонтных работ получил телесные повреждения от не отключенного от электропитания робота, использовавшегося для перемещения камней111 Причинение тяжкого вреда здоровью человека
2007 Сотрудник Lenco, Inc. погиб при ремонте роботизированной руки. Робот напал на сотрудника, причинив ему травмы, несовместимые с жизнью1У Причинение тяжкого вреда здоровью человека, повлекшее смерть человека
2007 Во время военных учений в ЮАР у компьютеризированного двуствольного зенитного орудия Oerlikon MKS возникла неожиданная программная неисправность, в результате чего оружие стреляло в полностью автоматическом режиме с темпом 550 выстрелов в минуту, вращаясь по кругу на 360 градусов. От действий робота погибли 9 человек, 14 получили тяжелые ранения* Смерть нескольких человек и причинение тяжкого вреда здоровью
2009 Сотрудница завода погибла от действий робота-палетайзера на заводе Golden State Foods в Лос-Анджелесе. Пренебрегая техникой безопасности, сотрудница не остановила робота, в результате чего робот раздавил ее, приняв за коробку*1 Смерть человека
2015 Робот-манипулятор раздавил голову работнице завода Ventra Ionia Mains, находившейся на огороженной от действий робота территории*11 Смерть человека
Окончание табл. 1
Год Инцидент Последствия
2015 Сотрудник компании SKH Metals, работавший загрузчиком металла, был заколот роботом-манипулятором, предназначенным для перемещения листов™1 Смерть человека
2015 На заводе Volkswagen робот, предназначенный для захвата и настройки автозапчастей, схватил рабочего и раздавил металлической пластиной. По данным автоконцерна, робот находился внутри защитной клетки, в ней же находился и инженер. Предположительно, робот мог был приведен в действие другим рабочим, находившимся с внешней стороны ограждения1* Причинение тяжкого вреда здоровью человека, повлекшее смерть человека
2016 Робот-разминирователь был использован для подрыва террориста, отказавшегося сдаться и убившего пять полицейских* Смерть человека
2017 На заводе Ajin USA, производящем детали для авто Hyundai и Kia, робот нанес травмы, несовместимые с жизнью, работнице завода при его ремонте. По данным расследования, на заводе не соблюдались правила безопасности*1 Смерть человека
2019 В городе Грязи Липецкой области в результате нарушений правил охраны труда робот-упаковщик прижал мужчину к оборудованию для формовки железобетонных изделий, травма оказалась смертельной*11 Смерть человека
1 "In 2001, an employee at Jr. Wheel Inc., a motor vehicle parts manufacturing company based in Norton, Ohio, was killed by one of the robots on the assembly line". 2001. Дата обращения 10 января, 2021. https://www.osha.gov/pls/1mis/establ1shment.1nspect1on_detail?1d=304487655.
ii «10 случаев убийства людей роботами». 2018. Дата обращения 10 января, 2021. https://www. facts-worldwide.info/10-sluchaev-ubijstva-ljudej-robotami.
111 "15 most savage deaths caused by robots". 2017. Дата обращения 10 января, 2021. https://www. therichest.com/technologies/15-shock1ng-deaths-caused-by-robots.
1v "One of the robot manipulators used in this production process killed an employee at the factory". 2007. Дата обращения 10 января, 2021. https://www.osha.gov/pls/1mis/acc1dentsearch.acc1dent_ detail?id=200052975.
v "Robot cannon kills 9, wounds 14". 2007. Дата обращения 10 января, 2021. https://www.wired. com/2007/10/robot-cannon-ki.
v1 "La Puente woman crushed by robot at McDonald's supplier in industry". 2009. Дата обращения 10 января, 2021. https://www.dailybreeze.com/2009/07/21/la-puente-woman-crushed-by-robot-at-mcdonalds-supplier-in-industry.
vi1 "Robot 'goes rogue and kills woman on Michigan car parts production line'". 2015. Дата обращения 10 января, 2021. https://www.1ndependent.co.uk/news/world/amer1cas/robot-k1lled-woman-wanda-holbrook-car-parts-factory-mich1gan-ventra-1on1a-ma1ns-federal-lawsu1t-100-cell-a7630591.html.
™ "Worker killed by robot in welding accident at car parts factory in India". 2015. Дата обращения 10 января, 2021. https://www.1ndependent.co.uk/news/world/asia/worker-killed-robot-weld1ng-acc1dent-car-parts-factory-india-10453887.html.
и "Robot kills worker at Volkswagen plant in Germany". 2015. Дата обращения 10 января, 2021. https://www.theguard1an.com/world/2015/jul/02/robot-kills-worker-at-volkswagen-plant-1n-germany.
x "Use of police robot to kill Dallas shooting suspect believed to be first in US history". 2016. Дата обращения 10 января, 2021. https://www.theguard1an.com/technology/2016/jul/08/pol1ce-bomb-robot-explosive-killed-suspect-dallas.
x1 "Bride-to-be crushed to death by car-factory robot". 2017. Дата обращения 10 января, 2021. https:// www.thedailybeast.com/bride-to-be-crushed-to-death-by-car-factory-robot?ref=scroll.
xi1 «Робот убил человека на заводе под Липецком». 2020. Дата обращения 10 января, 2021. https:// rg.ru/2019/11/02/reg-cfo/robot-ubil-cheloveka-na-zavode-pod-lipeckom.html.
Приведенные в таблице инциденты касаются как управляемых, так и полууправляемых роботов. Их анализ свидетельствует о том, что причинение вреда здоровью человека или смерть стали следствием:
— несоблюдения работниками правил эксплуатации робототехнических устройств и несоблюдения правил безопасности и охраны труда;
— сбоев в работе робототехнических устройств;
— программных ошибок, заложенных в программное обеспечение робототех-нического устройства.
Полагаем, что, исходя из концепции признания полууправляемых и управляемых роботов источниками повышенной опасности, вопросы возмещения вреда следует разрешать с учетом положений ст. 1064, 1079 ГК РФ.
Риск сбоя в системе даже для самых надежных робототехнических устройств присутствует всегда, поэтому владелец роботизированного устройства несет гражданско-правовую ответственность и обязан возместить вред, причиненный роботом.
В то же время если вред был причинен вследствие нарушения правил эксплуатации, то ответственность должна быть возложена дополнительно на лицо, допустившее такое нарушение. Так, в Постановлении Пленума ВС РФ от 29.11.2018 № 41 «О судебной практике по уголовным делам о нарушениях требований охраны труда, правил безопасности при ведении строительных или иных работ либо требований промышленной безопасности опасных производственных объектов» отмечается, что в ст. 143, 216, 217 УК РФ предусмотрена ответственность за названное нарушение (далее — нарушение специальных правил), которое выражается в неисполнении или ненадлежащем исполнении лицом обязанностей, установленных в нормативных правовых актах, и повлекло наступление соответствующих последствий.
Следственным управлением Следственного комитета РФ по Липецкой области в отношении мастера цеха было возбуждено уголовное дело по ч. 2 ст. 143 УК РФ. Следствием и судом установлено, что подсудимый, занимая должность мастера цеха железобетонных изделий ООО «ЯрСтрой», на которого были возложены обязанности по соблюдению требований охраны труда, не обеспечил ограждение металлической сеткой зоны работы бетоноформовочной машины, являвшееся обязательным мероприятием обеспечения безопасности при эксплуатации данного оборудования. По его указанию в рабочее время оператор пульта управления оборудованием бетоноформовочной машины с целью контроля прошел в зону работы машины к конвейеру и оказался зажат между формовочной площадкой и системой захвата. В результате рабочий получил тупую сочетанную травму, несовместимую с жизнью, и скончался на месте7.
Пленум предписывает:
При исследовании причинной связи между нарушением специальных правил,
допущенным лицом, на которое возложены обязанности по обеспечению соблюде-
7 «В Грязинском районе вынесен приговор мастеру цеха частной организации за нарушение требований охраны труда, повлекшее смерть рабочего». 2020. Дата обращения 10 января, 2021. https://sledcomrf.ru/news/451621-v-gryazinskom-rayone-vyinesen-prigovor-masteru-tseha-chastnoy-organizatsii-za.html.
ния и/или соблюдению таких правил, и наступившими последствиями суду следует выяснять в том числе роль лица, пострадавшего в происшествии. Если будет установлено, что несчастный случай на производстве произошел только вследствие небрежного поведения самого пострадавшего, суд должен, при наличии к тому оснований, решить вопрос о вынесении оправдательного приговора (п. 6 Постановления Пленума ВС РФ от 29.11.2018 № 41).
Неоднозначным представляется разрешение вопроса о причинении вреда и пределах уголовной ответственности за сбои в работе беспилотных транспортных средств, беспилотных летательных аппаратов или беспилотных воздушных судов, повлекших причинение вреда здоровью.
В средствах массовой информации активно обсуждается инцидент в Республике Корея с участием автомобиля Tesla, вышедшего из-под контроля и врезавшегося в стену, убив пассажира и ранив еще двух человек. Этот случай тесно связан с сообщениями Национального управления безопасности дорожного движения на трассах США о рассмотрении обращения об отзыве 500 тыс. автомобилей Tesla из-за сообщений о внезапном непреднамеренном ускорении8.
Указанный инцидент не единственный с участием электромобилей. В 2016 г. Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля:
7 мая 2016 г. Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится — чистое небо или поворачивающий направо 18-колесный грузовой автомобиль. В ходе внутреннего расследования ошибок в программном обеспечении беспилотника обнаружено не было. Однако, по мнению разработчиков, для корректной работы системы автопилота водитель должен был постоянно концентрироваться на дороге и держать руки на рулевом колесе. Расследование Национального совета по безопасности на транспорте показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля. Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и не проехал через кусты, расположенные на частном участке9.
В странах, где существует институт ответственности для юридических лиц, квалификация подобных инцидентов не вызывает трудностей. В то же время весьма интересно, каким образом указанный инцидент мог бы быть разрешен в России. Отметим, что оба посягательства были сопряжены с выходом техники из строя и лишением водителя (оператора) возможности воздействовать на складывающуюся критическую ситуацию в силу технического сбоя.
В соответствии со ст. 1079 ГК РФ в российской гражданско-правовой доктрине существует институт объективного вменения: «Законодатели возлагают на владельца источника повышенной опасности безвиновную ответственность потому, что такой источник создает повышенную опасность для окружающих, которая
8 "South Korea investigates fatal crash of Tesla Model X". 2020. Дата обращения 10 января, 2021. https://www.reuters.com/article/idUSL4N2IQ125.
9 «Роботы-убийцы. 10 реальных случаев». 2020. Дата обращения 10 января, 2021. https:// vseonauke.com/1856429379365636698/roboty-ubijtsy-10-realnyh-sluchaev
и обусловливает повышенную ответственность его владельца. При этом важно, что вред должен возникнуть из-за деятельности, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека» (Ли, Мёнг 2020, 52).
Согласно классификации Американской ассоциации автомобильных инженеров, все транспортные средства подразделяются на шесть уровней автономности:
уровень 0 — полностью ручное управление с возможностью предупреждения об опасных ситуациях на дороге;
уровень 1 — водитель должен быть готов в любой момент взять управление на себя;
уровень 2 — водитель должен реагировать, если система не смогла справиться самостоятельно;
уровень 3 — водитель может не контролировать машину на дорогах с предсказуемым движением, но должен быть готов взять управление на себя;
уровень 4 — аналогичен уровню 3, но уже не требует внимания водителя; уровень 5 — со стороны человека не требуется никаких действий, кроме старта системы и указания пункта назначения (Чучаев, Маликов 2019, 121).
По мнению Ч. Ли и С. Мёнга, «при ДТП с участием обычных транспортных средств водитель теряет контроль над автомобилем и мало чего может сделать, чтобы избежать возникновения вреда. В этом плане владелец обычного транспортного средства управляет им на свой риск, зная, что в любой момент он может потерять контроль и потенциально причинить вред» (Ли, Мёнг 2020, 53). Автомобили классов с 0 по 3 не имеют отличий от обычных транспортных средств, а вопросы возмещения вреда разрешаются в общем порядке. Водитель, в свою очередь, несет ответственность за нарушения правил дорожного движения или эксплуатации транспортных средств, повлекшие по неосторожности причинение тяжкого вреда здоровью человека или смерть, в соответствии со ст. 264 УК РФ.
В случае с электромобилем Tesla, в результате которого погиб Джошуа Браун, на наш взгляд, с уголовно-правовой точки зрения имеет место преступная халатность разработчиков системы автопилота, а с гражданско-правовой — оказание услуг ненадлежащего качества.
Разработчики программного обеспечения для системы автопилота в силу своих обязанностей должны были предусмотреть все возможные риски и предупредить лиц, эксплуатирующих транспортные средства в режиме автопилота, о вероятности наступления подобных последствий, однако вследствие недобросовестного или небрежного отношения к службе либо обязанностей по должности этого не сделали, что повлекло причинение крупного ущерба.
Согласимся с мнением Ч. Ли и С. Мёнга: «С совершенствованием беспилотных технологий, в частности с развитием и достижением беспилотных транспортных средств уровней 4 и 5, именно производители беспилотных транспортных средств станут главными субъектами гражданско-правовой ответственности» (Ли, Мёнг 2020, 54).
В приведенном примере с электромобилем Tesla, несмотря на отсутствие программного сбоя, имелась техническая неисправность полуавтономного транспортного средства, которое повлекло причинение вреда. Здесь логичным представляет-
ся разрешение вопроса о гражданско-правовой ответственности в соответствии со ст. 1095 ГК РФ и ст. 14 Закона РФ от 07.02.1992 № 2300-I «О защите прав потребителей».
Кроме того, в этом случае уместно говорить о причинении вреда вследствие конструктивных, рецептурных или иных недостатков товара, а также вследствие недостоверной или недостаточной информации о товаре, а следовательно, о возмещении вреда компанией-автопроизводителем в силу положений ст. 1095 ГК РФ.
В правоприменительной практике США показательно решение, вынесенное против компании Toyota по делу о внезапном неконтролируемом ускорении автомобилей. Производитель столь небрежно разработал программное обеспечение, что, по мнению судьи или присяжных, эти недоработки могли способствовать аварии10.
В то же время если водитель Tesla знал о необходимости постоянного контроля за транспортным средством и отсутствии полной автономности у системы автопилота, но сознательно допустил неконтролируемую обстановку, то здесь уже уместно говорить об ответственности водителя.
Аналогичная позиция отражена и в Постановлении Правительства РФ от 26.11.2018 № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств».
А. И. Чучаев и С. В. Маликов справедливо отмечают:
Заложенный в указанном постановлении Правительства РФ подход свидетельствует о большей ответственности водителя, нежели собственника, поскольку на первого возложена обязанность контроля за соблюдением правил дорожного движения и предотвращения дорожно-транспортных происшествий. Собственник высокоавтоматизированного транспортного средства в рамках эксперимента несет ответственность скорее за сбои в программно-аппаратных средствах, которые не могут быть устранены водителем. В пользу данного утверждения свидетельствует также то, что привлечение к ответственности за дорожно-транспортные преступления автопроизводителей, организаций, отвечающих за надлежащие состояние улично-дорожной сети, в рамках действующего российского уголовного законодательства невозможно ввиду отсутствия в нем уголовной ответственности юридических лиц (Чучаев, Маликов 2019, 120).
Сегодня указанный аспект весьма ощутим, ведь с уменьшением роли водителя в управлении транспортным средством автоматически будет расти роль производителей. Параллельно будет снижаться и ответственность владельцев (собственников) автономных транспортных средств: «Если сейчас, как правило, роль производителей ограничивается производством и частично продажей транспортных средств, то в будущем, с появлением и распространением беспилотных транспортных средств, одной из их центральных задач окажется управление транспортными средствами с помощью беспилотной технологии» (Ли, Мёнг 2020, 55).
10 Bookout et al. v. Toyota Motor Sales USA Inc. et al. No. CJ-2008-7969, verdict returned (Okla. Dist. Ct., Okla. County oct. 25, 2013). Дата обращения 10 января, 2021. https://cybergibbons.com/wp-content/ uploads/2013/10/Bookout_v_Toyota_Barr_REDACTED.pdf.
Упомянутое Постановление Правительства РФ от 26.11.2018 № 1415 содержит понятие «собственник высокоавтоматизированного транспортного средства»; под ним следует понимать юридическое лицо, которому на праве собственности принадлежит высокоавтоматизированное транспортное средство и которое участвует в проведении эксперимента на добровольной основе (указанное определение вполне согласуется с понятием «владелец источника повышенной опасности», данным в п. 19 Постановления Пленума ВС РФ от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина»), а также определение водителя высокоавтоматизированного транспортного средства: «...физическое лицо, находящееся во время проведения эксперимента на месте водителя высокоавтоматизированного транспортного средства, активирующее автоматизированную систему вождения высокоавтоматизированного транспортного средства и контролирующее движение этого транспортного средства в автоматизированном режиме управления, а также осуществляющее управление высокоавтоматизированным транспортным средством в режиме ручного управления». Водитель высокоавтоматизированного транспортного средства является водителем в соответствии с положениями Правил дорожного движения РФ, утв. Постановлением Совета Министров — Правительства РФ от 23.10.1993 № 1090 (п. 3 Постановления Правительства РФ от 26.11.2018 № 1415).
В соответствии с п. 18 Положения о проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств, утв. Постановлением Правительства РФ от 26.11.2018 № 1415, «собственник высокоавтоматизированного транспортного средства несет ответственность за дорожно-транспортные и иные происшествия на автомобильных дорогах России, произошедшие с участием высокоавтоматизированного транспортного средства при проведении эксперимента, при отсутствии виновных действий других участников дорожного движения, приведших к данному дорожно-транспортному или иному происшествию на автомобильной дороге».
Таким образом, вопросы ответственности разработчика автономного транспортного средства оставлены за рамками правового регулирования, что является существенным пробелом, нуждающимся в скорейшем восполнении.
Отдельно регулирования требуют вопросы возмещения вреда с участием полностью автономных гражданских роботов. Полагаем, что количество ситуаций, когда оператор/водитель не имеют возможности реального контроля за действиями робота при возникновении критических инцидентов, с ростом и развитием технологий также будет экспонентно увеличиваться.
В указанных обстоятельствах, в силу неразрешенности в отечественном уголовном праве вопроса об ответственности юридических лиц, особое внимание следует уделить институту страхования ответственности.
«Расширение практики страхования первого лица и третьих лиц и развитие системы социальной защиты могли бы помочь в достижении целей повышения безопасности и компенсации вреда. За счет установления тарифов на основе риска страхование гражданской ответственности могло бы стимулировать разумное поведение со стороны производителей, собственников и пользователей, а также обеспечить возмещение вреда, если он будет причинен» (Незнамов, Смит 2019, 140).
Подобные прецеденты имеются. Так, на собственника высокоавтоматизированного транспортного средства возложена обязанность «застраховать и поддерживать застрахованным в период проведения опытной эксплуатации риск ответственности по обязательствам, возникающим вследствие причинения вреда жизни, здоровью или имуществу других лиц в пользу третьих лиц на сумму 10 млн руб. в отношении каждого высокоавтоматизированного транспортного средства» (п. 7 Постановления Правительства РФ от 26.11.2018 № 1415). Полагаем уместным не только сделать указанное требование обязательным в рамках экспериментального режима, но и распространить его на все полууправляемые и автономные робототехниче-ские устройства гражданского назначения.
Практика страхования активно применяется также в США и Великобритании11.
В штате Юта действует неоднозначное положение, наделяющее курьерских роботов правами и обязанностями пешеходов, а также обязанностью уступать пешеходам дорогу (абз. 101-102 проекта)12. Подобные положения были приняты в аналогичном законе штата Аризона13. За любой ущерб, нанесенный роботом, ответственность несет его владелец, обязанный на этот случай иметь страховку не менее 100 тыс. долларов. Владелец также обязан снабдить робота своей маркировкой и уникальным номером, тормозами и фарами с обоих концов. Так, законодательное собрание штата Юта приняло закон от 20.03.2020, устанавливающий правила дорожного движения для автономных роботов-доставщиков. Закон позволяет роботам-курьерам передвигаться со скоростью до 16 км/ч по пешеходным дорожкам и 32 км/ч — по краю проезжей части.
Как мы отмечали выше, роботы потенциально опасны не только для жизни и здоровья людей, но и для объектов живой природы и нематериальных объектов. Так, роботы могут быть непосредственными участниками различных экологических катастроф техногенного характера, повлекших намеренное или неконтролируемое уничтожение флоры и фауны. Широкое повсеместное использование роботов способно повлечь причинение вреда объектам собственности: зданиям, строениям, сооружениям и пр. Вред, нанесенный в рамках рассматриваемого критерия, может иметь существенные финансовые последствия, так как потенциально влечет за собой значительные убытки, в том числе вред объектам культурного значения, а также объектам, имеющим историческую ценность, вплоть до их утраты.
Вред, причиненный неживым материальным объектам, должен компенсироваться в соответствии с положениями ст. 1064, 1079 ГК РФ. Гораздо сложнее дело обстоит с причинением вреда объектам живой природы.
В соответствии со ст. 3 Федерального закона от 10.01.2002 № 7-ФЗ «Об охране окружающей среды» хозяйственная деятельность должна основываться на следующих принципах:
11 "UK automated and electric vehicles Act 2018". Дата обращения 10 января, 2021. https://services. parliament.uk/bills/2017-19/automatedandelectricvehicles.html
12 "Delivery bots got backed, but big tech proposals mostly hit a wall in 2020 session". Дата обращения 10 января, 2021. https://www.deseret.com/utah/2020/3/14/21178369/facial-recognition-dna-database-search-delivery-bots-online-voting-utah-legislature-2020.
13 "Arizona law gives delivery robots same rights as pedestrians — but they must abide by same rules". 2018. Дата обращения 10 января, 2021. https://www.foxnews.com/tech/arizona-law-gives-delivery-robots-same-rights-as-pedestrians-but-they-must-abide-by-same-rules.
.платность природопользования и возмещение вреда окружающей среде, презумпция экологической опасности планируемой хозяйственной и иной деятельности, обязательность оценки воздействия на окружающую среду при принятии решений об осуществлении хозяйственной и иной деятельности, допустимость воздействия хозяйственной и иной деятельности на природную среду исходя из требований в области охраны окружающей среды, обязательность финансирования юридическими лицами и индивидуальными предпринимателями, осуществляющими хозяйственную и/или иную деятельность, которая приводит или может привести к загрязнению окружающей среды, мер по предотвращению и/или уменьшению негативного воздействия на окружающую среду, устранению последствий этого воздействия.
В п. 4 Постановления Пленума ВС РФ от 30.11.2017 № 49 «О некоторых вопросах применения законодательства о возмещении вреда, причиненного окружающей среде» отмечается:
По смыслу ст. 79 Закона об охране окружающей среды вред, причиненный окружающей среде, подлежит возмещению независимо от возмещения вреда здоровью граждан или имуществу физических и юридических лиц, вызванного негативным воздействием окружающей среды в результате хозяйственной и/или иной деятельности. Равным образом возмещение вреда окружающей среде не является основанием для освобождения лица от ответственности за причинение вреда здоровью граждан или имуществу физических и юридических лиц в результате негативного воздействия на окружающую среду в связи с осуществлением им хозяйственной и/или иной деятельности и нарушением законодательства в области охраны окружающей среды.
Ответственность за причинение вреда «источником повышенной опасности, независимо от наличия вины, за исключением действия непреодолимой силы и выбытия источника повышенной опасности из обладания собственников в результате противоправных действий других лиц и при отсутствии вины владельца источника повышенной опасности в противоправном изъятии этого источника из его обладания» (п. 8 Постановления Пленума ВС РФ от 30.11.2017 № 49) возлагается на юридических лиц и граждан, деятельность которых связана с повышенной опасностью для окружающих, в силу положений п. 2 ст. 1079 ГК РФ.
Концепция признания управляемых и полууправляемых роботов источниками повышенной опасности предполагает возможность привлечения собственников к ответственности. Так, если робот, способный причинить существенный вред окружающей среде, был оставлен без надлежащей охраны, то ответственности подлежит собственник робота, независимо от того, что вред был причинен противоправными действиями третьих лиц.
Пределы уголовной ответственности за нарушения в области охраны окружающей среды и природопользования определены в п. 4 Постановления Пленума ВС РФ от 18.10.2012 № 21 «О применении судами законодательства об ответственности за нарушения в области охраны окружающей среды и природопользования»:
Исходя из положений ч. 2 ст. 24 УК РФ, если в диспозиции статьи гл. 26 УК РФ форма вины не конкретизирована, то соответствующее экологическое преступление может быть совершено умышленно или по неосторожности при условии, если об
этом свидетельствуют содержание деяния, способы его совершения и иные признаки объективной стороны состава экологического преступления. Например, преступления, предусмотренные ст. 246, ч. 2 ст. 247, ч. 1 ст. 248, ч. 1 и 2 ст. 250 УК РФ, могут быть совершены как умышленно, так и по неосторожности, тогда как преступления, предусмотренные ч. 3 ст. 247 УК РФ, ч. 2 ст. 248 УК РФ, ч. 3 ст. 250 УК РФ, совершаются только по неосторожности.
Статья 246 УК РФ предусматривает ответственность за нарушение правил охраны окружающей среды при проектировании, размещении, строительстве, вводе в эксплуатацию и эксплуатации промышленных, сельскохозяйственных, научных и иных объектов лицами, ответственными за соблюдение этих правил, если это повлекло существенное изменение радиоактивного фона, причинение вреда здоровью человека, массовую гибель животных либо иные тяжкие последствия. Использование при совершении указанных действий робототехники также может являться элементом объективной стороны преступления.
Применение робототехники способно привести и к выполнению объективной стороны ст. 258 УК РФ. В 2020 г. было анонсировано создание специального робота-охотника, который погружается на большую глубину и самостоятельно отыскивает крылаток, убивает их и возвращает на поверхность для сбора14. Несмотря на то что указанное изобретение служит цели улучшения экологической обстановки, не за горами день, когда подобные изобретения встанут на вооружение браконьеров. Поэтому, говоря о пределах уголовной ответственности, стоит отметить, что ключевыми критериями здесь выступают причинение крупного ущерба и применение робототехники для реализации способа, позволяющего массово уничтожить птиц и зверей.
2.2. Возмещение вреда, причиненного военными роботами, и пределы уголовной ответственности
Вопрос привлечения к ответственности за использование служебных роботов, т. е. роботов, применяемых для правоохранительных, военных целей, находится на стыке гражданско-правовой ответственности, ответственности военнослужащих и международного права, регламентирующего порядок назначения репараций.
Вопросы ответственности военнослужащих регламентированы Федеральным законом от 12.07.1999 № 161-ФЗ «О материальной ответственности военнослужащих», регулирующим вопросы ответственности только при исполнении военнослужащими служебных обязанностей. В иных обстоятельствах военнослужащие несут гражданско-правовую ответственность в соответствии с гражданским законодательством РФ:
Военнослужащие несут материальную ответственность только за причиненный по их вине ущерб (ч. 1 ст. 3).
Не допускается привлечение военнослужащего к материальной ответственности за ущерб, причиненный этим военнослужащим вследствие исполнения обяза-
14 «Создан подводный робот для охоты на крылаток». 2020. Дата обращения 10 января, 2021. https://mmgp.com/threads/sozdan-podvodnyj-robot-dlja-oxoty-na-krylatok.649421.
тельного для него приказа (распоряжения) командира (начальника), иных правомерных действий (правомерного бездействия), в том числе совершенных в состоянии необходимой обороны, при задержании лица, совершившего преступление или административное правонарушение, для доставления органам власти и/или пресечения возможности совершения им новых преступлений или административного правонарушения, в состоянии крайней необходимости, вследствие действий (бездействия), связанных с обоснованным служебным риском, вследствие действий, осуществленных в отношении имущества воинской части в соответствии со специальными предписаниями нормативных правовых актов, а также за ущерб, причиненный вследствие действия непреодолимой силы, в том числе в результате физического принуждения военнослужащего, если вследствие такого принуждения он не мог руководить своими действиями (бездействием) (ч. 3 ст. 3).
Вопросы привлечения к ответственности за вред, причиненный военными действиями, — одни из наименее изученных в отечественной правовой доктрине.
Существование понятий «военная необходимость» и «сопутствующий ущерб» приводит к тому, что критерии допустимой степени причиненного вреда и возмещения вреда за наступившие последствия крайне размыты. Так, некоторые исследователи полагают, что «допускается причинение вреда любым, независимо от их предназначения, объектам в результате ведения боевых действий, если это подпадает под юридически допустимые критерии военной необходимости» (Адельханян 2003, 48).
Согласимся с мнением О. А. Рахимова, указывающего, что «военные организации не несут ответственности за причиненный ими вред в результате ведения боевых действий, если только нанесенный вред равен предотвращенному или менее его (аналогично и при пресечении террористических актов)» (Рахимов 2019, 65). Вместе с тем «возмещение ущерба, причиненного в результате правомерных действий военных организаций при ведении боевых действий, в отличие от случаев при проведении контртеррористических операций, происходит лишь на основании отдельных постановлений Правительства РФ» (Адельханян 2003, 50).
В условиях мирного времени на военные организации, эксплуатирующие объекты повышенной опасности, в том числе беспилотные летательные аппараты и бесплотные транспортные средства, киберфизические системы военного назначения, возлагается ответственность как на владельцев источников повышенной опасности. При этом учитываются обстоятельства, исключающие ответственность владельца объекта повышенной опасности, такие как действие непреодолимой силы, выбытие источника из правообладания собственника (кроме случаев, когда есть и вина владельца в том, что источник повышенной опасности оказался в распоряжении третьих лиц), а также причинение вреда потерпевшему по его вине (Ка-юрин 2018, 74).
3. Выводы
Анализ правоприменительной практики и научной литературы позволяет сделать вывод о допустимости отнесения роботов к источникам повышенной опасности ввиду соответствия критериям источников повышенной опасности. Источником повышенной опасности являются как сами роботы (обладающие полной
автономностью), так и деятельность с участием роботов (управляемых и полуавтономных).
Существующий механизм возмещения вреда с участием робототехники нельзя признать удовлетворяющим современным реалиям из-за следующих обстоятельств:
— не учитываются степень автономности роботов и их взаимосвязь с действиями операторов;
— в гражданском законодательстве отсутствуют механизмы привлечения к ответственности разработчиков программного обеспечения для роботов, что в условиях растущей автономности робототехники представляется серьезным упущением;
— в условиях неразрешенности вопроса об уголовной ответственности юридических лиц особую значимость приобретает активное применение института страхования ответственности разработчиков и собственников роботов;
— вопросы возмещения вреда за эксплуатацию служебных роботов военного назначения в условиях боевых действий законом никак не регламентированы, что создает безграничное пространство не только для нарушения норм гражданского законодательства, но и для лишения потерпевших возможности требовать возмещения причиненного вреда.
Библиография
Адельханян, Роберт А. 2003. «Военные преступления как преступления против мира и безопасности человечества». Дис. ... д-ра юрид. наук, Институт государства и права РАН. Алексеев, Сергей С. 1999. Право: азбука — теория — философия. Опыт комплексного исследования. М.: Статут.
Антимонов, Борис С. 1952. Гражданская ответственность за вред, причиненный источником повышенной опасности. М.: Госюриздат. Бачило, Иллария Л. 2012. Государство и право XXI в. Реальное и виртуальное. М.: Юркомпани. Безверхов, Артур Г. 2015. «О действии уголовного закона в условиях межотраслевых связей». Lex
Russica 107 (10): 76-92. https://doi.org/10.17803/1729-5920.2015.107.10.076-092. Белякова, Анна М. 1986. Гражданско-правовая ответственность за причинение вреда. М.: Издательство МГУ.
Бикеев, Игорь И. 2007. Материальные объекты повышенной опасности в российском уголовном праве: общие и специальные вопросы. Казань: Познание. Болдинов, Владимир М. 2002. Ответственность за причинение вреда источником повышенной
опасности. СПб.: Юридический центр «Пресс». Власова, Анна Д. 2004. «Гражданско-правовое регулирование обязательств вследствие причинения имущественного вреда жизни или здоровью гражданина источником повышенной опасности». Дис. . канд. юрид. наук, Кубанский государственный аграрный университет. Гаджиев, Гадис А. 2018. «Является ли робот-агент лицом? (Поиск правовых форм для регулирования
цифровой экономики)». Журнал российского права 1 (253): 15-30. Иоффе, Олимпиад. С. 1975. Обязательственное право. М.: Юридическая литература. Кабанова, Ирина Е. 2016. Гражданско-правовая ответственность публичных субъектов: опыт межотраслевого исследования. М.: Юстицинформ. Канушкин, Сергей. В. 2018. «Реализация функциональных возможностей интеллектуальных роботов в работе правоохранительных органов». Правовая информатика 2: 23-38. https://doi. org/10.21681/1994-1404-2018-2-23-38.
Каюрин, Никита В. 2018. «Гражданско-правовая ответственность военных организаций Министерства обороны Российской Федерации за причинение вреда гражданам и юридическим лицам». Вестник военного права 3: 72-79.
Ли, Чжеву, Мёнг, Сунгу. 2020. «Внедоговорная ответственность за вред, причиненный беспилотными транспортными средствами». Закон 3: 49-56.
Майданик, Лев А. 1968. Материальная ответственность за повреждение здоровья. М.: Юридическая литература.
Михалева, Екатерина С., Екатерина А. Шубина. 2019. «Проблемы и перспективы правового регулирования робототехники». Актуальные проблемы российского права 12 (109): 26-35. https://doi. org/10.17803/1994-1471.2019.109.12.026-035.
Морхат, Петр М. 2017. «Правосубъектность юнитов искусственного интеллекта и ответственность за их действия». Право и государство: теория и практика 11 (155): 30-36.
Незнамов, Андрей В., Брайант У Смит. 2019. «Робот не виноват! Взгляд из России и США на проблему ответственности за вред, причиненный роботами». Закон 5: 135-156.
Рахимов, Олег А. 2019. «Возмещение ущерба, причиненного правомерными действиями военных организаций и воинских должностных лиц: сегодня и завтра». Право в Вооруженных силах — Военно-правовое обозрение 2 (259): 63-68.
Сагрунян, Вартан М. 2009. «Источник повышенной опасности: новый подход в его понимании». Право и образование 8: 154-159.
Степанов, Максим В., Алексей В. Петрянин. 2020. «Социально-правовая обусловленность криминализации противоправной деятельности, сопряженной с использованием цифровых финансовых активов». Вестник Казанского юридического института МВД России 11 (2): 203-212. https://doi.org/10.37973/KUI. 2020.54.49.010.
Субботин, Александр А. 1983. «Ответственность за вред, причиненный народнохозяйственным объектам природы источниками повышенной опасности». Советское государство и право 8: 136-139.
Талапина, Эльвира В. 2018. «Право и цифровизация: новые вызовы и перспективы». Журнал российского права 2 (254): 5-17. https://doi.org/10.12737/art_2018_2_1.
Тебряев, Александр А. 2002. «Общее основание и условия возникновения мер ответственности и мер защиты вследствие причинения вреда источником повышенной опасности». Юрист 6: 24-32.
Теплова, Нонна А. 1987. Советское право. Учебник. 3-е изд., перераб. и доп. М.: Высшая школа.
Тихий, Владимир П. 1989. Уголовная ответственность за нарушение правил безопасности обращения с общеопасными предметами. Киев: Издательство УМК ВО при Минвузе УССР
Чучаев, Александр И., Сергей В. Маликов. 2019. «Ответственность за причинение ущерба высокоавтоматизированным транспортным средством: состояние и перспективы». Актуальные проблемы российского права 6 (103): 117-124. https://doi.org/10.17803/1994-1471.2019.103.6.117-124.
Шишкин, Сергей К. 2001. «Деликтные обязательства владельцев источников повышенной опасности перед третьими лицами». Российская юстиция 11: 30-38.
Шишкин, Сергей К. 2002. «Источник повышенной опасности и его виды». Российская юстиция 12: 20-21.
Ярошенко, Клавдия Б. 1977. Специальные случаи ответственности за причинение вреда. М.: Юридическая литература.
Статья поступила в редакцию 26 декабря 2020 г.;
рекомендована в печать 9 июня 2021 г.
Контактная информация:
Бегишев Ильдар Рустамович — канд. юрид. наук; [email protected]
Limits of criminal law regulation of robotics
I. R. Begishev
Kazan Innovative University named after V. G. Timiryasov,
42, Moskovskaya ul., Kazan, Republic of Tatarstan, 420111, Russian Federation
For citation: Begishev, Ildar R. 2021. "Limits of criminal law regulation of robotics". Vestnik of Saint Petersburg University. Law 3: 522-543. https://doi.org/10.21638/spbu14.2021.303 (In Russian)
The article analyzes the current state of intersectoral relations in the legal regulation of robotics. The author points out the complementarity and consistent integration of legal processes occurring in civil, administrative and criminal law into a single system. The connection between civil law institutions, in particular the institution of reparation and liability insurance with the provisions of criminal law is essential for the establishment of an effective criminal justice system of regulation using robotics and the construction of relevant norms. The study concluded that the main criterion distinguishing civil law torts with the use of robotics from criminal offences is the degree of public danger of these acts and the extent of damage caused from the consequences that have occurred. Civil liability for damage caused by robotics does not preclude administrative or criminal liability. The author presumes that there are no mechanisms in civil law to hold software developers for robots accountable, which is a serious omission in the context of the growing autonomy of robotics. Russian criminal legislation also does not address the problem of compensation for the use of military-type service robots in combat operations. This is a significant legal gap and prevents victims from seeking redress. The author considers it essential to recognize controlled and semi-controlled robots as sources of increased danger. The author also argues that the responsibility for the damage caused by controlled and semi-controlled robots should be assigned to the owners. Conceptually, it is considered important to take into account the degree of autonomy of robots and their relationship to the actions of operators. Both robots themselves (fully autonomous) and robotic (controlled and semi-autonomous) activities are a source of increased danger.
Keywords: autonomy, harm, artificial intelligence, source of increased danger, public danger, responsibility, robot, robotics, criminal law, digital technologies.
References
Adel'khanian, Robert A. 2003. "War crimes as crimes against the peace and security of mankind". Dr. Sci.
diss., Institut gosudarstva i prava RAN. (In Russian) Alekseev, Sergei S. 1999. Law: ABC-theory-philosophy. Experience of complex research. Moscow, Statut Publ. (In Russian)
Antimonov, Boris S. 1952. Civil liability for damage caused by a source of increased danger. Moscow, Gos-iurizdat Publ. (In Russian)
Bachilo, Illaria L. 2012. State and law of the 21st century. Real and virtual. Moscow, Iurkompani Publ. (In Russian)
Beliakova, Anna M. 1986. Civil liability for causing harm. Moscow, MGU Publ. (In Russian) Bezverkhov, Artur G. 2015. "On the operation of the criminal law in the context of intersectoral relations".
Lex Russica 107 (10): 76-92. https://doi.org/10.17803/1729-5920.2015.107.10.076-092. (In Russian) Bikeev, Igor' I. 2007. Material objects of increased danger in Russian criminal law: General and special issues.
Kazan', Poznanie Publ. (In Russian) Boldinov, Vladimir M. 2002. Responsibility for causing harm by a source of increased danger. St. Petersburg,
Iurid. tsentr "Press" Publ. (In Russian) Chuchaev, Aleksandr I., Sergei V. Malikov. 2019. "Liability for damage caused by a highly automated vehicle: State and prospects". Aktual'nye problemy rossiiskogo prava 6 (103): 117-124. https://doi. org/10.17803/1994-1471.2019.103.6.117-124. (In Russian)
Gadzhiev, Gadis A. 2018. "Is a robot agent a person? (Search for legal forms to regulate the digital economy)". Zhurnal rossiiskogo prava 1 (253): 15-30. (In Russian) Iaroshenko, Klavdiia B. 1977. Special cases of liability for causing harm. Moscow, Iuridicheskaia literatura Publ. (In Russian)
Ioffe, Olimpiad. S. 1975. Legal literature. Moscow, Iuridicheskaia literatura Publ. (In Russian) Kabanova, Irina E. 2016. Civil-legal responsibility of public entities: Experience of intersectoral research.
Moscow, Iustitsinform Publ. (In Russian) Kaiurin, Nikita V. 2018. "Civil liability of military organizations of the Ministry of defense of the Russian Federation for causing harm to citizens and legal entities". Vestnik voennogo prava 3: 72-79. (In Russian)
Kanushkin, Sergei. V. 2018. "Implementation of the functional capabilities of intelligent robots in the work of law enforcement agencies". Pravovaia informatika 2: 23-38. https://doi.org/10.21681/1994-1404-2018-2-23-38. (In Russian) Li, Jewoo, Myoung, Soon-Koo. 2020. "Delictual liability for harm arising from autonomous vehicles". Zakon 3: 49-56. (In Russian)
Maidanik, Lev A. 1968. Material liability for damage to health. Moscow, Iuridicheskaia literatura Publ. (In Russian)
Mikhaleva, Ekaterina S., Ekaterina A. Shubina. 2019. "Problems and prospects of legal regulation of robotics". Aktual'nye problemy rossiiskogo prava 12 (109): 26-35. https://doi.org/10.17803/1994-1471.2019.109.12.026-035. (In Russian) Morkhat, Petr M. 2017. "Legal Personality of artificial intelligence units and responsibility for their actions".
Pravo i gosudarstvo: Teoriia i praktika 11 (155): 30-36. (In Russian) Neznamov, Andrei V., Bryant W. Smith. 2019. "The robot is not to blame! A view from Russia and the United
States on the problem of liability for harm caused by robots". Zakon 5: 135-156. (In Russian) Rakhimov, Oleg A. 2019. "Compensation for damage caused by lawful actions of military organizations and military officials: Today and tomorrow". Pravo v Vooruzhennykh silakh — Voenno-pravovoe obozrenie 2 (259): 63-68. (In Russian) Sagrunyan, Vartan M. 2009. "The source of increased danger: A new approach in its understanding". Pravo
1 obrazovanie 8: 154-159. (In Russian)
Shishkin, Sergei K. 2001. "Tort obligations of owners of sources of increased danger to third parties". Ros-
siiskaia iustitsiia 11: 30-38. (In Russian) Shishkin, Sergei K. 2002. "The source of increased danger and its types". Rossiiskaia iustitsiia 12: 20-21. (In Russian)
Stepanov, Maksim V., Aleksei V. Petrianin. 2020. "Social and legal conditionality of criminalization of illegal activities involving the use of digital financial assets". Vestnik Kazanskogo iuridicheskogo instituta MVD Rossii 11 (2): 203-212. https://doi.org/10.37973/KUI. 2020.54.49.010. (In Russian) Subbotin, Aleksandr A. 1983. "Liability for damage caused to national economic objects of nature by sources
of increased danger". Sovetskoe gosudarstvo i pravo 8: 136-139. (In Russian) Talapina, El'vira V. 2018. "Law and digitalization: New challenges and prospects". Zhurnal rossiiskogo prava
2 (254): 5-17. https://doi.org/10.12737/art_2018_2_1. (In Russian)
Tebryaev, Aleksandr A. 2002. "The general basis and conditions for the occurrence of liability measures and protective measures due to harm caused by a source of increased danger". Iurist 6: 24-32. (In Russian) Teplova, Nonna A. 1987. The Soviet right. Textbook. 3rd ed., reprint. and add. Moscow, Vysshaia shkola Publ. (In Russian)
Tikhii, Vladimir P. 1989. Criminal liability for violation of the safety rules for handling generally dangerous
items. Kiev, UMK VO pri Minvuze USSR Publ. (In Russian) Vlasova, Anna D. 2004. "Civil law regulation of obligations as a result of causing property damage to the life or health of a citizen by a source of increased danger". PhD diss., Kubanskii gosudarstvennyi agrarnyi universitet. (In Russian)
Received: December 26, 2020 Accepted: June 9, 2021
Author's information:
Ildar R. Begishev — PhD in Law; [email protected]
