CC BY
47
УДК 343
И.Р. Бегишев
Казанский инновационный университет им. ВГ. Тимирясова,
г. Казань, Российская Федерация
УГОЛОВНАЯ ОТВЕТСТВЕННОСТЬ ЗА НАРУШЕНИЕ ПРАВИЛ СОЗДАНИЯ, ЭКСПЛУАТАЦИИ, РЕМОНТА ЛИБО ИНОГО ВЗАИМОДЕЙСТВИЯ С РОБОТАМИ И АВТОНОМНЫМИ РОБОТАМИ
АННОТАЦИЯ. В настоящее время робототехника наряду с другими сквозными технологиями относится к ключевым драйверам цифровой экономики. Роботы уже сейчас успешно применяются в промышленности, сельском хозяйстве, строительстве, авиации и многих других отраслях экономической деятельности. Роботы, в силу присущих им свойств, могут не только хранить, обрабатывать и передавать информацию, но и совершать определенные механические действия во исполнение алгоритмов их компьютерных программ. Модели уголовно-правового регулирования, которые сложились и применяются в отношении эксплуатантов средств компьютерной техники, не в полной мере могут быть адаптированы к регулированию роботов и являются не полностью релевантными для целей охраны общественных отношений, складывающихся в связи с их функционированием. Роботы, в зависимости от своих тактико-технических характеристик, могут быть источником различных по характеру угроз, некоторые из которых создают опасность причинения вреда охраняемым уголовным законом интересам и при неблагоприятном стечении обстоятельств могут реализовать эту опасность. Поэтому деятельность, связанная с разработкой, эксплуатацией и ремонтом роботов, должна быть корреспондирована уголовно-правовыми нормами запретительного характера. Преследуя цель обеспечения безопасного и бесперебойного создания, эксплуатации, ремонта либо иного взаимодействия с роботами и автономными роботами, а также предотвращения причинения вреда в процессе функционирования таких роботов, представляется возможным предложить законодателю дополнить УК РФ отдельной нормой об ответственности за нарушение правил создания, эксплуатации, ремонта либо иного взаимодействия с такими роботами. КЛЮЧЕВЫЕ СЛОВА. Робот, робототехника, искусственный интеллект, автономный робот, информация, цифровые технологии, цифровая экономика, уголовное право, преступление, наказание, ответственность, общественная опасность, общественные отношения, вред, нарушение правил, создание, эксплуатация, ремонт, взаимодействие.
ИНФОРМАЦИЯ О СТАТЬЕ. Дата поступления 11 апреля 2021 г.; дата принятия к печати 21 июня 2021 г.; дата онлайн-размещения 13 июля 2021 г.
I.R. Begishev
Kazan Innovative University named after V.G. Timiryasov,
Kazan, Russian Federation
CRIMINAL LIABILITY FOR VIOLATION OF THE RULES OF CREATION, OPERATION, REPAIR OR OTHER INTERACTION WITH ROBOTS AND AUTONOMOUS ROBOTS
ABSTRACT. Currently, robotics, along with other end-to-end technologies, is one of the key drivers of the digital economy. Robots are already successfully used in industry, agriculture, construction, aviation, and many other sectors of economic activity. Robots, due to their inherent properties, can not only store, process, and transmit information, but also perform certain mechanical actions, in accordance with the algorithms of their computer programs. The models of criminal law regulation that have been developed and are applied to the operators of computer equipment can not
© Бегишев И.Р., 2021
be fully adapted to the regulation of robots and are not fully relevant for the purposes of protecting public relations that develop in connection with their functioning. Robots, depending on their tactical and technical characteristics, can be a source of various threats, some of which create a danger of harming interests protected by criminal law and, under unfavorable circumstances, can realize this danger. Therefore, activities related to the development, operation and repair of robots must be consistent with the criminal law norms of a prohibitive nature. To ensure the safe and uninterrupted creation, operation, repair or other interaction with robots and autonomous robots, as well as to prevent harm in the course of the functioning of such robots, it is possible to propose to the legislator to supplement the Criminal Code of the Russian Federation with a separate norm on liability for violation of the rules of creation, operation, repair or other interaction with such robots. KEYWORDS. Robot, robotics, artificial intelligence, autonomous robot, information, digital technologies, digital economy, criminal law, crime, punishment, responsibility, public danger, public relations, harm, violation of rules, creation, operation, repair, interaction.
ARTICLE INFO. Received April 11, 2021; accepted June 21, 2021; available online July 13, 2021.
Безопасность цифровых технологий в контексте современных информационно-телекоммуникационных отношений, возрастающей роли цифровой информации приобретает особое значение [1]. Распространенность цифровых устройств обуславливает их экспоненциальное внедрение в большинство общественных отношений. В этой связи состояние защищенности самого информационно-телекоммуникационного устройства и циркулирующей в нем информации фактически предопределяет охрану соответствующей области правоотношений: достаточность средств защиты цифрового устройства, снабженного программным продуктом «мобильный банк», прямо связана с предупреждением компьютерного мошенничества; наличие антивирусного программного обеспечения пресекает нахождение в средствах вычислительной техники вредоносных программ и, соответственно, защищает неприкосновенность частной жизни, тайну переговоров и т.д.
Следует заметить, вышеприведенный пример строится на системах защиты цифровой информации и/или цифрового устройства, их работа наиболее очевидна, однако они не являются единственными элементами средств вычислительной техники, информационно-телекоммуникационной инфраструктуры, на которые распространяются соответствующие технические требования. К примеру, имеются требования безопасности при работе с локальными компьютерными сетями, серверами, информационными системами, направленные на предупреждение несанкционированного доступа к ним, нарушающего установленный процесс хранения, обработки и передачи информации.
Современные условия эксплуатации средств вычислительной техники и информационно-телекоммуникационных сетей образуют появление разветвленного комплекса норм и правил, предъявляемых к пользователям таких устройств и сетей. При этом указанные правила распространяются как на пользование достижениями цифровых технологий, так и на порядок доступа к цифровой информации, обрабатываемой с их помощью. В частности, любой провайдер, заключая договор оказания услуг связи с физическим лицом или организацией, устанавливает определенные правила доступа и пользования коммутаторами, оконечным оборудованием, работодатель, организуя для своих сотрудников локальную компьютерную сеть, может предусмотреть специальный порядок доступа к узлам такой сети, отдельный порядок доступа к некоторым сайтам либо вовсе ограничить возможность обращения к ним. Названные требования в совокупности и образуют правила пользования информационно-телекоммуникационными устройствами,
их системами и сетями, а также порядок доступа к информации, циркулирующей в них.
Осознавая повышенную значимость цифровых устройств и информации для современных общественных отношений, законодатель предусмотрел ответственность за нарушение правил эксплуатации средств компьютерной и иной микропроцессорной техники, информационно-телекоммуникационных сетей, а также порядка доступа к обращающейся в них информации, описав указанные деяния в качестве объективных признаков состава преступления, предусмотренного ст. 274 УК РФ.
Следует отметить, что в последние годы проблеме совершенствования нормы об ответственности за нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей уделялось большое внимание со стороны ученых-юристов [2—10].
Как справедливо отмечается в методической литературе, в условиях повсеместной цифровизации общественных отношений имеет место расширение круга признаков, характеризующих1 субъекта данного состава преступления: наличие широкого комплекса требований по работе с цифровыми устройствами и сетями, нормативное установление порядка доступа к обрабатываемой в них информации фактически позволяют утверждать, что субъект указанного состава общий.
В вышеуказанном составе преступления при описании объективной стороны был использован бланкетный признак, отсылающий к нормативным правовым актам различной отраслевой и ведомственной принадлежности. Следует отметить, что в настоящее время не существует систематизированного свода норм и правил, адресованных всем без исключения эксплуатантам технических средств хранения, обработки и передачи цифровой информации и информационно-телекоммуникационных сетей. Из этого следует, что в каждом случае применения нормы следует устанавливать:
— во-первых, наличествовала ли у лица соответствующая обязанность;
— во-вторых, была ли она виновно не исполнена при наличии реальной к тому возможности;
— в-третьих, повлекло ли виновное неисполнение общественно опасные последствия, предусмотренные составом преступления.
Выразим мнение, что внедрение законодателем в структуру УК РФ вышеуказанного состава преступления являлось необходимой и конструктивной мерой: большинство сфер деятельности тесно взаимосвязаны с цифровой информацией, имеющей различное смысловое содержание, ввиду чего охрана доступа к ней и порядка работы со средствами ее хранения, обработки и передачи выступает важной государственной задачей, фактически охраняющей широкий круг социальных ценностей. Иными словами, в зависимости от характера цифровой информации данной уголовно-правовой нормой могут охраняться и иные общественные отношения (обеспечивающие установленный порядок работы с коммерческой тайной и т.п.).
Важно отметить, что, распространяя свои требования на широкий круг экс-плуатантов, нормативно-технические требования не регламентируют деятельность разработчиков, создателей и производителей. При этом вряд ли возможно утверждать, что процессы создания средств хранения, обработки и передачи цифровой информации лишены рисков и угроз.
1 Методические рекомендации по осуществлению прокурорского надзора за исполнением законов при расследовании преступлений в сфере компьютерной информации // Генеральная прокуратура Российской Федерации. URL: https://genproc.gov.ru/documents/nauka/execution/document-104550.
В затронутом контексте следует принять во внимание то обстоятельство, что средства вычислительной техники, обладая способностью обрабатывать, передавать и хранить массивы цифровой информации, не могут совершать конкретных механических манипуляций в пространстве, что влияет на характер и степень исходящих от них угроз. Помимо изложенного, в рамках производства цифровой техники в компьютерные программы умышленно могут быть внедрены недекла-рируемые возможности или уязвимости, что выступает самостоятельным обстоятельством, способствующим совершению преступлений.
Описанные рассуждения концентрировались на средствах компьютерной и иной микропроцессорной техники, а также информационно-телекоммуникационных системах и сетях, однако ими не исчерпывается все многообразие устройств, построенных, в частности, на современных сквозных цифровых технологиях.
При этом различные «цифровые роботы» или боты, самоорганизующиеся системы социального контроля, осуществляющие видеонаблюдение, регулирование транспортных потоков, к роботам в нашем понимании не относятся, поскольку они представляют собой сущность исключительно цифровую (без механической компоненты), построенную на работе компьютерной программы либо на работе нейросетевого программного обеспечения.
Все большую актуальность в сфере цифровой экономики приобретают робото-технические устройства, комплексы и системы. Последние, в силу присущих им свойств, могут не только хранить, обрабатывать и передавать информацию, но и совершать определенные механические действия во исполнение алгоритмов их компьютерных программ, а в отдельных случаях и создавать на основе самообучения собственные поведенческие алгоритмы.
Думается, в данном случае робот выступает в качестве принципиально иного объекта материального мира: если иные цифровые устройства выполняют в большинстве своем только программные функции (либо такие функции составляют подавляющую часть их возможностей), то роботы в дополнение к хранению, обработке и передаче цифровой информации обладают потенциалом к совершению механических манипуляций. Сообразно изложенному, приходим к убеждению, что те модели уголовно-правового регулирования, которые сложились и применяются в отношении эксплуатантов средств вычислительной техники, не в полной мере могут быть адаптированы к регулированию роботов и являются не полностью релевантными для целей охраны общественных отношений, складывающихся в связи с их функционированием.
Приведем более детальные пояснения относительно последних. Являясь по своей природе многокомпонентным продуктом достижения цифровых технологий, они представляют собой единство программной и аппаратной частей.
Программная составляющая робота есть цифровой код его компьютерной программы, содержащий алгоритмы действий в определенных ситуациях. Данные алгоритмы инициируются поступающими из внешней среды сигналами, которые робот обрабатывает при помощи приемо-передающих датчиков. Получив сигнал, программа сопоставляет его с имеющимися в цифровом коде алгоритмами и принимает решение о реализации одного из них. В указанном коде компьютерной программы робота может содержаться различное количество алгоритмов, они могут отличаться по длине, структуре, сложности, предполагать совершение одной механической манипуляции либо множества взаимосвязанных и объединенных общим назначением действий. В реакции на входящий сигнал программа робота может активизировать один или множество алгоритмов, при этом во втором случае к дискреции самого робота отнесен выбор конкретного алгоритма. Принципиально следующее в случае, если исчерпывающий перечень алгоритмов
изначально вносится разработчиком и в процессе функционирования робота не подлежит изменению; возможно говорить об абсолютной прогнозируемости действий такого робота. Иными словами, перечень манипуляций, которые он может совершить, изначально прямо детерминирован алгоритмами, закладываемыми в него разработчиком.
Аппаратный компонент робота представляет собой его механическую часть, образующуюся взаимосвязанной совокупностью элементов питания, рычагов управления, манипуляторов, устройств фиксации переносимых грузов, датчиков, материалов покрытия и т.д. Аппаратная составляющая не содержит в себе цифрового кода, она включается в ходе реализации программных алгоритмов. Иными словами, алгоритм действий представляет собой последовательность сигналов и команд. Получая указанные сигналы, конкретный элемент робота приходит в движение и совершает требуемые манипуляции. Помимо изложенного, аппаратной частью предопределяются тактико-технические показатели робота: длительность автономной работы, дальность получения сигналов управления и т.д.
В предыдущем изложении мы исходили из того, что перечень алгоритмов изначально является исчерпывающим и предопределяется сознанием и волей человека — разработчика.
Данное утверждение справедливо не для всех роботов: исключение составляют те, цифровой код которых содержит элементы, обуславливающие способность к самостоятельному собиранию информации из внешней среды, ее накоплению, анализу и формулированию для себя новых поведенческих алгоритмов, изначально не закладываемых производителем. Иными словами, описанную способность возможно именовать самообучением. В данном случае поведение робота не может быть в полной мере прогнозируемо, так как варианты его реагирования на конкретные команды управления или ситуации определяются алгоритмами, формулируемыми им самостоятельно, без участия человека. Описанную разновидность робота можно именовать автономным, поскольку он действует на основании самостоятельно сформулированного поведенческого алгоритма и проявляет способность к самостоятельному принятию решений.
На основании изложенного представляется возможным утверждать, что не только этапы эксплуатации, но и процессы создания роботов, и особенно автономных роботов, должны подлежать нормативно-техническому и уголовно-запретительному регулированию. В затронутом контексте действиями разработчика не только предопределяются эксплуатационные характеристики устройства, но и закладывается основа их безопасного использования.
Принимая во внимание различный характер угроз, возникающих на всех этапах жизненного цикла управляемых и автономных роботов, представляется возможным расширить предыдущий тезис и утверждать, что определенные правила безопасного создания и использования должны распространяться на все этапы взаимодействия человека и таких роботов.
В затронутом контексте принципиально следующее: роботы, в зависимости от своих тактико-технических характеристик, как ранее уже отмечалось, могут быть источником различных по характеру угроз, некоторые из которых создают опасность причинения вреда охраняемым уголовным законом общественным отношениям и при неблагоприятном стечении обстоятельств могут реализовать эту опасность.
Однако существуют иные, имеющие исключительно хозяйственно-бытовое либо сервисное назначение роботы, условия и пределы эксплуатации которых не образуют существенных угроз охраняемым уголовным законом интересам, ввиду
чего в отношении них, как представляется, нет необходимости выработки нормативно-технических правил эксплуатации и создания.
В данном контексте ключевым фактором является степень опасности и вероятность ее реализации в процессе функционирования такого робота. Уточним: данные рассуждения не распространяются на автономных роботов ввиду того, что последние, обладая способностью к самостоятельному анализу зависимостей внешней среды и формированию собственных поведенческих моделей, априори несут достаточную угрозу.
В то же время, рассуждая о необходимости выработки нормативно установленных правил создания и эксплуатации роботов, важно оценивать их фактическую регуляторную эффективность, то есть реальное воздействие на поведение соответствующих субъектов ограничения данного поведения установленными пределами правомерности.
Полагаем, что, будучи в достаточной степени способной порождать угрозу причинения существенного вреда охраняемым уголовным законом общественным отношениям и реализовывать эту угрозу, деятельность, связанная с разработкой и эксплуатацией роботов, должна быть корреспондирована уголовно-правовыми нормами запретительного характера.
Видится возможным заимствование практики законодателя по конструированию состава преступления, предусмотренного ст. 274 УК РФ в части, касающейся закрепления ответственности за неисполнение обязанности по разработке и эксплуатации роботов и автономных роботов.
Иными словами, будучи выраженными в нормативных правовых актах ре-гуляторного характера, правила создания и эксплуатации для их надлежащего применения и с учетом возможной высокой общественной опасности негативных девиаций при функционировании роботов должны быть взаимосвязаны с соответствующими уголовно-правовыми нормами, носящими запретительный характер.
В затронутом контексте дополнительно поясним, что в отсутствие самого факта причинения вреда охраняемым уголовным законом общественным отношениям неисполнение обязанности, связанной с использованием и разработкой роботов, как представляется, не подлежит уголовно-правовому воздействию, поскольку не образует достаточной общественной опасности.
Таким образом, неисполнение обязанности, связанной с пользованием, ремонтом, разработкой, эксплуатацией робота, может образовывать состав преступления только в случае, если состоит в прямой причинно-следственной связи с наступлением общественно опасных последствий.
Остановим внимание на следующем значимом обстоятельстве: причинно-следственная связь как таковая представляет собой соотношение между явлениями, в котором одно из них порождает другое. При этом одна группа явлений может с неоднозначной определенностью влечь появление (возникновение) другой группы. Иными словами, между группами явлений почти всегда существует некоторая связь, однако не во всех случаях она достаточна для вывода о том, что одно из явлений обусловливает появление другого.
В случае с управляемым (неавтономным) роботом для привлечения к ответственности необходимо, чтобы неисполнение обязанности (как группа действий и одно из явлений в детерминационной взаимосвязи) с неизбежностью в конкретных условиях исходя из общих закономерностей протекания событий влекло за собой наступление общественно опасного последствия (как иного явления в причинной связи).
Из изложенного следует, что релевантное в уголовно-правовом отношении неисполнение обязанности может признаваться причиной общественно опасного по-
следствия только в том случае, если оно в конкретных условиях места и времени неизбежно, с необходимостью влечет наступление преступного результата.
Приведенные рассуждения в полном объеме удовлетворяют требованиям уголовно-правового регулирования управляемых роботов, однако вопросы привлечения к ответственности за неисполнение обязанности, связанной с причинением вреда автономным роботом, требуют дополнительного пояснения.
Поведение автономного робота, в силу присущей ему отличительной способности к самообучению и порожденной ею возможности самостоятельного формулирования поведенческих алгоритмов, не может быть с достаточной определенностью спрогнозировано, ввиду чего неисполнение обязанности не во всех ситуациях может с необходимостью влечь причинение вреда в процессе функционирования такого робота. К примеру, неисполнение обязанности по своевременной смене смазочных жидкостей в подвижных элементах аппаратной части автономного робота, хотя и не влечет причинения вреда в процессе его функционирования, может создавать одну из предпосылок причинения такого вреда. То есть между ними имеется не прямая причинно-следственная связь, а эквивалентная причинно-следственная связь, в равной степени между неисполнением обязанности и фактом причинения вреда в процессе функционирования автономного робота может быть как прямая, так и эквивалентная причинно-следственная связь. В случае если связь прямая, вред детерминирован человеком и человек подлежит ответственности, в ситуации с эквивалентной причинной связью неисполнение вреда предшествовало, но не обусловило причинение такого вреда, в результате чего неисполнение человеком обязанности и факт причинения вреда в процессе функционирования автономного робота должны квалифицироваться отдельно.
Особо акцентируя внимание, повторимся: между фактом причинения вреда в процессе функционирования автономного робота и неисполнением человеком вмененной ему обязанности может наличествовать не прямая, а эквивалентная причинно-следственная связь.
В данном случае с точки зрения уголовного права неисполнение обязанности не является необходимым условием наступления вреда (поскольку эквивалентная причинная связь признает причиной последствия любое условие его наступления). Данные обстоятельства (факт причинения вреда в процессе функционирования автономного робота и неисполнение человеком присущей ему обязанности) в описанной ситуации подлежат самостоятельной правовой оценке. Неисполнение обязанности при данных условиях, хотя и не влечет причинения вреда, однако свидетельствует о ненадлежащем, небрежном отношении субъекта к исполнению обязанностей, порожденных его правовой связью с автономным роботом, ввиду чего является достаточно общественно опасным и выступает самостоятельным основанием для привлечения субъекта к уголовной ответственности.
Факт причинения вреда в процессе функционирования автономного робота, даже не будучи детерминированным виновным неисполнением обязанности со стороны человека, является достаточно общественно опасным, требует отдельной, адекватной правовой защитительной реакции государства, способной выражаться в применении к такому роботу запретительных, устраняющих его общественную опасность мер, имеющих уголовно-правовую природу.
Таким образом, при привлечении субъекта к уголовной ответственности за неисполнение правил создания, эксплуатации, ремонта и иного взаимодействия с автономным или управляемым роботом могут сложиться три правовые ситуации:
1) неисполнение субъектом обязанности по эксплуатации или созданию управляемого робота повлекло причинение вреда в процессе его функционирования и состоит в прямой причинно-следственной связи;
2) неисполнение субъектом обязанности по эксплуатации или созданию автономного робота повлекло причинение вреда в процессе его функционирования и состоит в прямой причинно-следственной связи;
3) неисполнение субъектом обязанности по эксплуатации или созданию автономного робота повлекло причинение вреда в процессе его функционирования, однако такой вред не состоит в прямой причинно-следственной связи с фактом виновного неисполнения обязанности.
В каждой из описанных правовых ситуаций лицо привлекается к уголовной ответственности за неисполнение обязанности, однако в первых двух событиях необходимой предпосылкой является наступление общественно опасных последствий.
Применительно к третьей ситуации такие последствия не подлежат описанию в качестве признаков состава преступления и, соответственно, не являются ни условием, ни предпосылкой для привлечения субъекта к уголовной ответственности. Такие последствия могут как иметь место, так и отсутствовать. Исходя из изложенного третья ситуация подлежит описанию в признаках состава преступления, сформулированного по типу формального, оконченного с момента совершения деяния (в данном случае бездействия) и не предполагающего наступление последствий в качестве обязательного признака объективной стороны.
Рассуждая о нарушении правил пользования и создания роботов, мы придерживались абстрактного изложения, не описывая конкретные формы виновного, общественно опасного неисполнения обязанностей, однако для целей конструирования состава преступления данные формы нуждаются в пояснении.
Нормативные правила, предъявляемые к процессам создания, использования и применения роботов, целесообразно разграничить в зависимости от стадии жизненного цикла робота. При этом использование, то есть эксплуатация робота после его разработки, сборки, активации и включения в гражданский оборот, не является однородным процессом — данный этап может включать как извлечение полезных свойств робота самим собственником, так и проведение различного рода технических манипуляций: ремонта, обслуживания, реконструкции.
Первой из вышеназванных стадий является создание робота. Данная форма взаимодействия предполагает разработку компьютерных программ, предназначенных для функционирования робота, приискание материалов, необходимых для конструирования его аппаратной части, создание необходимых производственных условий (подготовка инструментов, приобретение комплектующих, наем соответствующих специалистов и т.д.). Конечным этапом данной стадии является получение готового к использованию робота.
Необходимо учитывать, что в процессе создания робота субъект может выполнить как активные действия, нарушающие установленные технические правила (в частности, использовать при изготовлении аппаратной части материалы ненадлежащей прочности, в случае если это прямо запрещено), так и воздержаться от их совершения (к примеру, не установить отечественное программное обеспечение).
Следующая стадия, начинающаяся с момента, когда создателем робота были совершены юридически значимые действия по отчуждению в пользу иных лиц готового к использованию робота, — эксплуатация. При этом данное понятие не тождественно владению и использованию как извлечению полезных свойств и распоряжению как определению юридической судьбы робота.
Приведенные категории являются по своей сути правовыми, их объяснительная способность недостаточна для описания всех возможных действий, совершаемых с роботом после его отчуждения создателем (производителем). Наиболее
релевантным в данном случае является термин «эксплуатация», предполагающий не только извлечение полезных свойств, совершение юридически значимых действий, но и, к примеру, оставление без использования (консервация), использование в качестве выставочного экспоната и т.д.
В периоде, следующем после отчуждения изготовителем готового робота, возможно выделить дополнительную форму действий с роботом, которая может оказать существенное влияние на его тактико-технические характеристики и которая обычно совершается не собственником, — ремонт. В данном случае термин «ремонт» предполагает восстановление исходных эксплуатационных свойств робота, приведение его в техническое состояние, образующее пригодность для эксплуатации.
Целесообразность выделения данной формы действий с роботом, на наш взгляд, обуславливается тем, что в ее рамках подвергаются непосредственному воздействию основные узлы, агрегаты и программное обеспечение робота (то есть ремонт может производиться как в отношении аппаратной, так и программной составляющей). При этом такое воздействие может выражаться и как восстановление изначальных свойств и качеств робота, и как их изменение в положительную или отрицательную сторону. Более этого, ремонт может осуществляться как самим собственником робота, так и иными лицами, специализирующимися на данном виде деятельности.
Думается, вышеописанным не исчерпывается многообразие имеющих место в настоящее время и могущих появиться в будущем форм и видов взаимодействия с роботами, ввиду чего представляется возможным для эффективного правового регулирования предложить дополнительную стадию взаимодействия с роботом (иного взаимодействия), под которой возможно понимать процессы технического обслуживания, технического усовершенствования (придания новых, отсутствующих в исходном варианте робота свойств и качеств) и т.д.
В предыдущем изложении было определено, что нормативно-технические требования, распространяющиеся на процессы создания, эксплуатации, ремонта и иного взаимодействия с роботами, имеют своей направленностью обеспечение безопасного и безаварийного их использования, нормального внедрения в гражданский оборот, предупреждение инцидентов с участием роботов. Таким образом, представляется возможным сформулировать следующие исходные тезисы понимания вышеуказанных требований, предложив их общие начала:
1. Вменить создателям роботов обязанность при написании цифрового кода компьютерной программы робота предусматривать механизм принудительного отключения, обеспечивая бесперебойное и устойчивое функционирование указанного механизма. Важно отметить, что соблюдение этого требования имеет принципиальное значение при создании автономных роботов. Более того, ввиду повышенных когнитивных способностей автономных роботов и их возможного вторжения в исходный код собственной компьютерной программы при их разработке и создании необходимо дополнительно предусматривать защиту механизма принудительного отключения средствами криптографической защиты цифровой информации.
2. Вменить создателям роботов обязанность при написании цифрового кода компьютерной программы робота предусматривать механизм согласования значимых решений.
3. Вменить создателям роботов:
3.1. Обязанность предусматривать наличие в роботах средств, обеспечивающих их антивирусную защиту.
3.2. Обязанность предусматривать наличие в роботах средств, обеспечивающих надлежащий уровень информационной безопасности каналов связи и управления роботами.
3.3. Обязанность предусматривать наличие в роботах средств, обеспечивающих информационную безопасность их компьютерных программ.
4. Вменить создателям роботов обязанность при написании цифрового кода компьютерной программы робота использовать отечественное программное обеспечение и среды разработки компьютерных программ.
5. Вменить создателям роботов обязанность после написания цифрового кода компьютерной программы робота с целью минимизации рисков компьютерных атак, выявления недекларируемых возможностей и уязвимостей их компьютерных программ проверять цифровой код компьютерной программы робота на соответствие требованиям информационной безопасности.
6. Вменить создателям роботов обязанность разработки алгоритма поведения машин в критических ситуациях, когда уголовно-наказуемый вред неизбежен и вопрос заключается только в объеме его причинения («робот на перекрестке», «проблема вагонетки» и прочие моральные дилеммы).
7. Вменить эксплуатантам роботов обязанность производить техническое обслуживание роботов в установленные сроки и в необходимых объемах.
8. Запретить эксплуатантам роботов вносить существенные изменения в конструкцию роботов и их компьютерные программы, значительно влияющие на основные технические характеристики роботов.
В целях обеспечения единства правовой практики, формальной определенности, точности, ясности, недвусмысленности правовых предписаний, предотвращения произвольных толкований представляется необходимым изложить нормативно-технические требования создания, эксплуатации, ремонта и иного взаимодействия с роботами в форме постановления Правительства Российской Федерации.
Ввиду особых когнитивных способностей автономных роботов и повышенной общественной опасности отклонений при их функционировании видится целесообразным утвердить правила создания, эксплуатации, ремонта и иного взаимодействия с автономными роботами отдельным постановлением Правительства Российской Федерации.
Следует отметить различный характер и степень общественной опасности в случае несоблюдения нормативно-технических требований в отношении управляемого робота и автономного. Представляется очевидным, что допущение недостатков при создании и эксплуатации автономного робота может привести к более общественно опасным последствиям, чем совершение аналогичных деяний применительно к роботу управляемому.
Таким образом, видится необходимым описать общественно опасные последствия, которые могут выступать обязательными признаками состава преступления, предусматривающего ответственность за нарушение правил создания, эксплуатации, ремонта и иного взаимодействия с (управляемым) роботом и последствия, выступающие квалифицирующим признаком состава преступления, устанавливающего ответственность за нарушение таких правил применительно к автономному роботу.
В отношении обычного (управляемого) робота видится возможным утверждать, что основу общественной опасности, а соответственно, и публично-правовой запретительной реакции составляет не сам факт нарушения технических правил, а те последствия, которые такое нарушение влечет. В то же время данные последствия должны быть достаточно опасными и формально определенными. При обратной ситуации возможно создание избыточности уголовно-правовой репрессии, замедление процессов разработки российских технологий робототехники и внедрения роботов в гражданский оборот, что в конечном итоге существенно повлияет на обеспечение технологического суверенитета Российской Федерации.
Думается, такими последствиями будет причинение вреда общественным отношениям, охраняющим жизнь и здоровье человека. Иными словами, для образования состава преступления необходимо, чтобы в процессе функционирования робота был причинен вред жизни и здоровью человека, то есть имела место его смерть или причинение тяжкого вреда здоровью. Помимо изложенного, возможно причинение существенного вреда собственности и иным социальным ценностям, однако более тяжкую ответственность должен влечь именно вред жизни и здоровью.
В отношении автономных роботов придерживаемся позиции, что сам факт нарушения нормативно-технических требований достаточен для образования состава преступления, однако наступление последствий видится необходимым предусмотреть в качестве самостоятельного квалифицирующего признака, при этом сформулировав его с достаточной абстрактностью, что позволит применять норму в условиях динамично развивающейся автономной робототехники, когда невозможно однозначно предвидеть и казуистично описать объем и пределы вреда, который может быть причинен автономным роботом.
Модель поведения автономного робота может быть исследована только после наступления технологической сингулярности и появления автономных роботов.
На основании изложенного, преследуя цель обеспечения безопасного и бесперебойного создания, эксплуатации, ремонта либо иного взаимодействия с роботами и автономными роботами, а также предотвращения причинения вреда в процессе функционирования таких роботов, представляется возможным дополнить гл. 28 УК РФ ст. 274.2 и 274.3, изложив их в следующей редакции:
«Статья 274.2 Нарушение правил создания, эксплуатации, ремонта либо иного взаимодействия с роботом
1. Нарушение правил создания, эксплуатации, ремонта либо иного взаимодействия с роботом, повлекшее причинение крупного ущерба,
наказывается...
2. Деяние, предусмотренное частью первой настоящей статьи, если оно повлекло тяжкие последствия или создало угрозу их наступления,
наказывается.
Примечание. Правила создания, эксплуатации, ремонта либо иного взаимодействия с роботом для целей настоящей статьи утверждаются Правительством Российской Федерации.
Статья 274.3 Нарушение правил создания, эксплуатации, ремонта либо иного взаимодействия с автономным роботом
1. Нарушение правил создания, эксплуатации, ремонта либо иного взаимодействия с автономным роботом,
наказывается.
2. То же деяние, повлекшее причинение крупного ущерба,
наказывается.
3. Деяние, предусмотренное частью первой настоящей статьи, если оно повлекло тяжкие последствия или создало угрозу их наступления, наказывается.
Примечание. Правила создания, эксплуатации, ремонта либо иного взаимодействия с автономным роботом для целей настоящей статьи утверждаются Правительством Российской Федерации».
Список использованной литературы
1. Бегишев И.Р. Искусственный интеллект и уголовный закон / И.Р. Бегишев, З.И. Хи-самова. — Москва : Проспект, 2021. — 192 с.
2. Гончарова Д.И. Проблематика уголовной ответственности за нарушения правил эксплуатации средств хранения, обработки и передачи компьютерной информации и информационно-телекоммуникационных сетей / Д.И. Гончарова // Международный журнал экспериментального образования. — 2014. — № 6. — С. 32-34.
3. Гребеньков А.А. Нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей как информационное преступление / А.А. Гребеньков // Актуальные научные исследования в современном мире. — 2016. — № 9-5. — С. 129-133.
4. Евдокимов К.Н. Особенности субъективной стороны состава преступления при нарушении правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей (ст. 274 УК РФ) / К.Н. Евдокимов // Мировой судья. — 2019. — № 6. — С. 28-32.
5. Ефремова М.А. Уголовная ответственность за преступления, совершаемые с использованием информационно-телекоммуникационных технологий / М.А. Ефремова. — Москва : Юрлитинформ, 2015. — 200 с.
6. Лопатина Т.М. Трансформация уголовного права и уголовного процесса в условиях развития цифровых технологий: на примере использования специальных технических средств, предназначенных для негласного получения информации / Т.М. Лопатина // Библиотека криминалиста. — 2018. — № 3. — С. 64-68.
7. Муцалов Ш.Ш. Ответственность за нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации либо информационного-телеком-муникационных сетей / Ш.Ш. Муцалов, У.А. Фаргиев // Известия Чеченского государственного университета. — 2018. — № 2 (10). — С. 154-156.
8. Русскевич Е.А. Нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей (ст. 274 УК РФ): вопросы квалификации / Е.А. Русскевич // Уголовное право. — 2020. — № 5. — С. 94-104.
9. Скляров С.В. Современные подходы к определению понятия, структуры и сущности компьютерной преступности в Российской Федерации / С.В. Скляров, К.Н. Евдокимов — DOI 10.17150/1996-7756.2016.10(2).322-330 // Всероссийский криминологический журнал. — 2016. — Т. 10, № 2. — С. 322-330.
10. Тарбагаев А.Н. Ответственность за нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей: уголовно-правовой и административный аспект / А.Н. Тарбагаев, А.В. Суслопаров // Правовая политика и правовая жизнь. — 2012. — № 2. — С. 53-58.
Информация об авторе
Бегишев Ильдар Рустамович — кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник, Казанский инновационный университет им. В.Г. Тимирясова (ИЭУП), г. Казань, Российская Федерация, e-mail: [email protected].
Author
Ildar R. Begishev — PhD in Law, Honored Lawyer of the Republic of Tatarstan, Senior Researcher, Kazan Innovative University named after V.G. Timiryasov (IEML), Kazan, Russian Federation, e-mail: [email protected].
Для цитирования
Бегишев И Р. Уголовная ответственность за нарушение правил создания, эксплуатации, ремонта либо иного взаимодействия с роботами и автономными роботами / И.Р. Бегишев. — DOI 10.17150/2411-6262.2021.12(2).30 // Baikal Research Journal. — 2021. — Т. 12, № 2.
For Citation
Begishev I.R. Criminal Liability for Violation of the Rules of Creation, Operation, Repair or Other Interaction with Robots and Autonomous Robots. Baikal Research Journal, 2021, vol. 12, no. 2. DOI: 10.17150/2411-6262.2021.12(2).30. (In Russian).
