CC BY
15
НАУЧНЫЕ МЕРОПРИЯТИЯ. ОТЗЫВЫ. РЕЦЕНЗИИ
С. 121-133
Презентация монографии
«УГОЛОВНО-ПРАВОВАЯ ОХРАНА ОБЩЕСТВЕННЫХ ОТНОШЕНИЙ, СВЯЗАННЫХ С РОБОТОТЕХНИКОЙ» (Москва : Проспект, 2022. 384 с.)
Бегишев Ильдар Рустамович
Казанский инновационный университет им. В.Г. Тимирясова, Казань, Россия [email protected], https://orcid.org/0000-0001-5619-4025
Аннотация. Презентуемая книга представляет собой монографию, в которой впервые на основе проведенного системного комплексного исследования общественных отношений, связанных с робототехникой, разработана авторская концепция их уголовно-правовой охраны, включающая в себя, в числе прочего, вопросы установления уголовной ответственности за преступления, совершаемые в процессе разработки, производства и применения роботов, выступающих в качестве предмета преступного посягательства либо средства совершения преступления.
Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся проблемами уголовно-правовой охраны общественных отношений, связанных технологиями искусственного интеллекта и робототехники.
Ключевые слова: автономный вооруженный робот, автономный робот, боевой робот, военный робот, вооруженный робот, закон, захват управления, искусственный интеллект, компьютерная программа, компьютерное преступление, криминальная рискология, криминология, наказание, мир и безопасность человечества, нарушение правил, недекларируемая возможность, общественные отношения, общественная опасность, ответственность, охрана, понятие, правосубъектность, преступление, причинение вреда, противодействие, риск, риск-ориентированный подход, робот, робототехника, совершение преступления, социальная обусловленность, уголовное право, уязвимость, цифровая безопасность, цифровая информация, цифровая экономика, цифровой код, цифровые технологии, этика
Для цитирования: Бегишев И. Р. Презентация монографии «Уголовно-правовая охрана общественных отношений, связанных с робототехникой» (Москва : Проспект, 2022. 384 с.) // Правопорядок: история, теория, практика. 2022. № 2 (33). С. 121-133.
Presentation of the monograph «CRIMINAL LAW PROTECTION OF PUBLIC RELATIONS
RELATED TO ROBOTICS» (Moscow: Prospect, 2022. 384 p.)
Ildar R. Begishev
Kazan Innovative University named after V. G. Timiryasov, Kazan, Russia [email protected], https://orcid.org/0000-0001-5619-4025
Abstract. The presented book is a monograph in which, for the first time, on the basis of a systematic comprehensive study of public relations related to robotics, the author's concept of their criminal legal protection has been developed, including, among other things, the issues of establishing criminal liability for crimes committed during the development, production and use of robots acting as the subject of criminal encroachments or means of committing a crime.
© И. Р. Бегишев
For students, postgraduates and teachers of law schools and faculties, as well as a wide range of readers interested in the problems of criminal law protection of public relations related to artificial intelligence and robotics technologies.
Keywords: autonomous armed robot, autonomous robot, combat robot, military robot, armed robot, law, control takeover, artificial intelligence, computer program, computer crime, criminal riskology, criminology, punishment, peace and security of mankind, violation of rules, undeclared opportunity, public relations, public danger, responsibility, protection, concept, legal personality, crime, harm, counteraction, risk, risk-oriented approach, robot, robotics, commission of a crime, social conditionality, criminal law, vulnerability, digital security, digital information, digital economy, digital code, digital technologies, ethics
For citation: Begishev IR. Presentation of the monograph «Criminal Law Protection of Public Relations related to Robotics» (Moscow: Prospect, 2022. 384 p.). Pravoporyadok: istoriya, teoriya, praktika [Legal Order: History, Theory, Practice]. 2022;(2):121-133. (In Russ.)
Введение
Монография [1] представляет собой логический итог цикла авторских публикаций, посвященных различным проблемам уголовно-правовой охраны общественных отношений, связанных с робототехникой, содержит выводы и предложения, сформулированные по результатам проведенных исследований.
Рецензентами монографии выступили известные ученые-правоведы: Лопатина Татьяна Михайловна доктор юридических наук, доцент, заведующий кафедрой уголовно-правовых дисциплин Смоленского государственного университета, Ефремова Марина Александровна доктор юридических наук, доцент,
профессор кафедры уголовно-правовых дисциплин Казанского филиала Российского государственного университета правосудия и Русскевич Евгений Александрович доктор юридических наук, профессор кафедры уголовного права Московского университета Министерства внутренних дел Российской Федерации имени В.Я. Кикотя.
Монографическое исследование состоит из введения, трех разделов, состоящих из шести глав, включающих семнадцать параграфов, заключения, списка сокращений и условных обозначений, библиографического списка и тринадцати приложений.
Во введении монографии обосновывается актуальность избранной темы монографического исследования. Отмечается, что немало рисков для охраняемых уголовным законом общественных отношений несет использование роботов в преступных целях. Правоприменению были известны случаи, когда роботы стали задействоваться для организации контрабанды наркотиков либо иных запрещенных предметов и веществ.
В связи с этим необходимо спрогнозировать риски причинения вреда охраняемым законом общественным отношениям в процессе функционирования роботов при совершении преступлений. Обозначенное необходимо для своевременного конструирования уголовно-правовых механизмов установления ответственности за причинение вреда, связанного с использованием роботов.
Необходимость полной, своевременной и достаточной защиты охраняемых уголовным законом объектов делает обязательным построение системы уголовно-правовой охраны отношений, связанных с робототехникой. Составляющие ее меры и инструменты закладывают основу безопасности личности,
общества и государства от соответствующих общественно опасных деяний.
Проведенное монографическое исследование позволяет прийти к выводу о необходимости проведения комплексного изучения и построения моделей уголовно-правовой охраны общественных отношений, связанных с робототехникой, и, следовательно, свидетельствует об актуальности избранной темы исследования.
Первый раздел монографии «Теоретические основы уголовно-правовой охраны общественных отношений, связанных с робототехникой», включает в себя две главы.
Первая глава первого раздела — «Системообразующие начала уголовно-правовой охраны общественных отношений, связанных с робототехникой» — состоит из четырех параграфов.
В первом параграфе «Понятие и содержание уголовно-правовой охраны общественных отношений, связанных с робототехникой», дается анализ понятия «уголовно-правовая охрана». Отмечается, что уголовно-правовая охрана общественных отношений, связанных с робототехникой, имеет определенную специфику, основанную на следующих обстоятельствах. Внедрение цифровых технологий, в том числе робототехники, в социальные практики характеризуется экспоненциальным ростом, что закономерно влечет масштабные и быстрые изменения во многих областях общественной жизни, что, в свою очередь, требует, с одной стороны незамедлительной, с другой — взвешенной реакции с учетом достижений самых разных отраслей знания: техники в широком смысле слова, промышленности, обороны, медицины и т. д.
Робототехнические устройства все чаще и чаще задействуют при совершении преступлений. В дальнейшей перспективе эта тенденция будет только нарастать, что в значительной степени увеличит причиняющий потенциал общественно опасных посягательств и вред от их совершения. Сказанное формирует задачу противодействия криминальным рискам, детерминированным внедрением робототехники, и актуализирует вопросы выработки уголовно-правовых норм, обеспечивающих охрану общественных отношений от посягательств, осложненных применением роботов.
Все вышесказанное свидетельствует о необходимости объективно сформированного и актуального запроса на выработку современных подходов к уголовно-правовой охране
общественных отношений, связанных с робототехникой, под которой предлагается понимать взаимосвязанную систему положений, определяющих уголовно-правовую политику в сфере разработки, производства и применения роботов, а также ответственность за общественно опасные деяния, совершаемые с использованием роботов и в отношении роботов. Такая охрана включает комплекс мер и обеспечивает безопасность обращения с роботами, начиная с момента их создания и до момента утилизации.
По уголовно-правовой природе роботы, как уже отмечалось, могут выступать предметами преступных посягательств или средствами совершения преступлений. Роботы как материальные объекты, которые, в силу присущих им свойств, обладают повышенным потенциалом для причинения вреда охраняемым законом общественных отношений, создают комплекс рисков и угроз, требующих как актуальных, так и перспективных мер противодействия. Эффективная охрана общественных отношений, связанных с робототехникой, существующими уголовно-правовыми средствами является недостаточной. Правовые положения уголовного закона должны учитывать индивидуальные особенности роботов, что вызывает необходимость совершенствования уже существующих норм и выработки новых положений уголовного закона.
Второй параграф «Социальная обусловленность и запрос на уголовно-правовую охрану общественных отношений, связанных с робототехникой» посвящен проблеме определения социальной обусловленности и запроса на уголовно-правовую охрану общественных отношений, связанных с робототехникой. В параграфе описаны основные выявленные причины возникновения уголовно-правовых рисков, связанные с конструктивными особенностями роботов.
Поливариативность роботов, высокая степень адаптивности и растущая доступность для широких слоев населения является предпосылкой для «вовлечения» роботов в самые различные формы преступной деятельности. Являясь комплексными устройствами, обладающими технической и цифровой компонентами, робототехника подвержена процессам, которые могут стать причиной возникновения вреда для широкого круга групп общественных отношений.
Несомненно, для уголовного права базисом выступает категория общественной опасности, которая одновременно обеспечивает концептуальное единство уголовно-правовых норм, параллельно являясь разделом,
отграничивающим их от иных отраслей права. Отмечается, что крайне важно определить границы уголовно-правового регулирования, которые формируются исключительно общественной опасностью тех или иных деяний с применением робототехники.
Таким образом, следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности общества обусловливают необходимость создания эффективных уголовно-правовых механизмов.
Запрос на уголовно-правовую охрану общественных отношений, связанных с робототехникой, обусловлен следующими обстоятельствами:
а) повышенной общественной опасностью таких отношений;
б) ускоренными темпами развития робототехники;
в) вовлеченностью роботов в различные формы преступной деятельности.
В третьем параграфе «Пределы уголовно-правовой охраны общественных отношений, связанных с робототехникой» анализируется современное состояние межотраслевых связей в правовом регулировании робототехники.
В числе ключевых особенностей, характеризующих данное взаимодействие, автором указывается, взаимодополнение и последовательная интеграция правовых процессов, протекающих в гражданском, административном и уголовном праве в единую систему. Так, привлечение к гражданско-правовой ответственности за вред, причиненный робототехникой, не исключает наступления административной или уголовной ответственности. Установлено, что в законодательстве отсутствуют механизмы привлечения к ответственности разработчиков программного обеспечения для роботов, что в условиях растущей автономности робототехники представляется серьезным упущением.
Проведенное исследование позволяет сделать вывод о целесообразности признания роботов источниками повышенной опасности и привлечения к ответственности за причиняемый ими вред их собственников.
При этом автор считает необходимым учитывать степень автономности роботов и их взаимосвязь с действиями операторов. Следует отметить, что источником повышенной опасности являются как сами роботы, так и деятельность с их участием роботов.
В четвертом параграфе «Применение риск-ориентированного подхода куголов-но-правовой охране общественных отношений, связанных с робототехникой» на основе
системного анализа обоснована необходимость и целесообразность применения указанного подхода к робототехнике как наиболее прогрессивного и эффективного базиса для уголовно-правовой охраны рассматриваемых отношений. В частности, предлагается опираться на основные положения криминальной рискологии при оценке посягательств с участием роботов. В работе обозначены ключевые риски и вызовы при использовании роботов. Дана классификация рисков по тяжести последствий при причинении вреда и по вероятности причинения вреда роботами, приведена матрица степени причинения вреда роботами по категории рисков, которая может быть использована для создания рамок регуляторного воздействия, оценки последствий потенциального вреда и их минимизации.
В рамках проведенного исследования оценена тяжесть последствий при причинении вреда роботами (от незначительного до критического риска) и разработана матрица вероятности их наступления, обоснована уголовно-правовая классификация роботов по двум основаниям: по степени общественной опасности и по потенциальной тяжести последствий при причинении вреда роботами, а также выявлен причинный комплекс, который может привести к возникновению рисков.
Определены обстоятельства, порождающие угрозу причинения вреда охраняемым уголовным законом общественным отношениям в процессе оборота роботов и которые должны быть учтены при конструировании норм уголовного законодательства:
а) причины, связанные с цифровой подсистемой роботов:
— недостатки программного обеспечения (уязвимости, случайные ошибки), которые не были выявлены на этапе разработки (производства) или же проявились в процессе применения роботов;
— умышленное программирование (перепрограммирование) роботов на совершение тех или иных общественно опасных действий (недекларированные возможности программного обеспечения);
б) причины, связанные с механической подсистемой роботов:
— недостатки механизмов (приводов, моторов и т. д.), которые не были выявлены на этапе разработки (производства) или же проявились в процессе применения роботов;
— умышленное создание недекларирован-ных возможностей механизмов роботов в целях совершения тех или иных общественно опасных действий.
Вторая глава первого раздела — «Робототехника как феномен, значимый для уголовного права» — состоит из трех параграфов.
В первом параграфе «Определение понятий „робот" и „робототехника"» приведена оценка имеющихся в научной литературе мнений по данному вопросу. Установлено, что существует ряд подходов к определению и трактовке рассматриваемых категорий. Однако развитие цифровых технологий влечет за собой необходимость формирования нового понятийно-категориального аппарата. Задача конструирования определения робота является особенно важной, поскольку предопределяет возможности правового регулирования всего комплекса общественных отношений, в которых последний прямо или косвенно фигурирует. При этом представляется, что для обеспечения регуляторной эффективности правовых предписаний определение робота должно содержать признаки, присущие всем без исключения материальным объектам, относимым к роботам. В то же время указанные признаки должны обладать одновременно достаточной степенью абстракции и устойчивости (то есть наличествовать (повторяться) во всех без исключения роботах), а также быть существенными — то есть позволять отграничивать роботов от смежных явлений, к примеру, воздушных судов, транспортных средств и т. д.
Роботы, как материальные объекты определенного вида (обладающие общими, присущими всем без исключения видовыми признаками), являются неоднородной категорией — отличаются по размерам, длительности автономной работы, выполняемым функциям. Названное обстоятельство должно учитываться при формулировании определения, иными словами, дефиниция должна включать как общие признаки, присущие всем без исключения объектам робототехники, так и частные, на основе которых возможно выделение отдельных групп роботов, имеющих специфические технические характеристики.
С учетом вышеизложенного предложено ввести в научный оборот авторский вариант определения понятий «робот» и «робототехника», а также дополнить ими понятийно-категориальный аппарат доктрины уголовного права и нормы уголовного законодательства.
Во втором параграфе «Сущность робототехники как феномена, значимого для уголовного права» данный вопрос раскрывается с позиции как правовых, так и технологических подходов, которые чрезвычайно широки и охватывают как теоретические, так и практические аспекты. Это связано с тем,
что робототехника сегодня находится в сфере интересов как теоретиков, стремящихся подвести научную основу под динамично изменяющиеся отношения в области киберфизи-ческих систем и искусственного интеллекта, так и специалистов-практиков.
Робототехника сейчас провозглашается драйвером четвертой промышленной революции. Ее влияние будет ощущаться более широко, чем предшествовавшие ей компьютерные или коммуникационные революции. В результате перед наукой уголовного права возникает задача особой значимости — обеспечить стабильное, устойчивое и безопасное развитие отечественной робототехники.
Сущность робототехники на современном этапе сегодня определяется смысловой и практической нагрузкой, как в правовом поле, так и в технологическом аспекте. Определения и приемы раскрытия категории «робототехника», которые предлагают современные авторы, имеют значительные отличия от таковых, данных еще несколько лет тому назад. На основе проведенного исследования сформулирован вывод, что сущностью робототехники является устойчивое единство его технологического и правового аспектов, базирующихся на современных достижениях цифровых технологий.
В третьем параграфе «Концепция правового регулирования робототехники как феномена, значимого для уголовного права» изучаются проблемы регулирования отношений, возникающих в процессе разработки, производства и применения роботов и исследуются аспекты формирования регуляторной среды, обеспечивающей благоприятный правовой режим для развития робототехники.
Повсеместное развитие цифровых технологий на сегодняшний день является объективной тенденцией. Включившись в общественные отношения и впоследствии став их неотъемлемой частью, они закономерно повлекли модификацию социальных практик. Процессы цифровизации в отдельных случаях создают новые отрасли человеческой деятельности, то есть устойчивые группы сходных по содержанию и направленности общественных отношений, порожденных единым родовым объектом.
В настоящее время стремительными темпами формируется и растет новая область человеческой деятельности, которую максимально обобщенно можно поименовать оборотом роботов. При этом отсутствует комплексный нормативный правовой акт, регулирующий данную область общественных отношений, который послужил бы
понятийно-концептуальной базой для уголовного и иных отраслей права.
Предлагаемый к принятию нормативный правовой акт должен содержать ограничения, налагаемые на указанный оборот, устанавливать обязательные требования, адресованные соответствующим субъектам, предусматривать технические ограничения, а также закреплять виды роботов, запрещенные к обороту на территории Российской Федерации.
В целях регулирования отношений, возникающих в сфере оборота роботов, формирования регуляторной среды, обеспечивающей благоприятный правовой режим для развития робототехники, а также для осуществления экономической деятельности, связанной с ее использованием, предлагается принять федеральный закон «Об обороте роботов, их составных частей (модулей)» (авторский текст предлагаемого законопроекта приводится в приложении к монографии). В законопроекте, в числе прочего, предусмотрены корреспондирующие для УК РФ ограничения на оборот вооруженных роботов, роботов, созданных для совершения преступления, автономных вооруженных роботов.
Второй раздел монографии «Преступления, связанные с управляемой робототехникой», включает в себя две главы.
Первая глава второго раздела — «Уголовная ответственность за преступления, посягающие на цифровую безопасность роботов» — состоит из трех параграфов.
Первый параграф «Уголовная ответственность за захват управления робота» посвящен вопросу уголовно-правового обеспечения цифровой безопасности роботов и противодействию неправомерного их использования.
Робот по своей сути является программно-аппаратным средством, функционирование которого невозможно в отсутствие цифрового кода компьютерной программы. Указанные программы не характеризуются существенными отличиями от программного обеспечения иных цифровых устройств, ввиду чего весь спектр посягательств, включая неправомерный доступ и внедрение вредоносных компьютерных программ, которые в настоящее время совершаются в отношении обычных средств компьютерной техники, могут быть распространены и на их компьютерные программы.
В целях обеспечения цифровой безопасности роботов и противодействия неправомерному их использованию представляется возможным высказать предложение
о дополнении структуры УК РФ следующими положениями:
1. Дополнить ст. 272 УК РФ новой частью в следующей редакции:
«5. Неправомерный доступ к охраняемой законом компьютерной информации, содержащейся в роботе, если это деяние повлекло захват управления робота, — наказывается...»
Примечания.
3. Под роботом в статьях настоящего Кодекса понимается продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий их двух и более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач.
4. Под захватом управления робота в статьях настоящего Кодекса понимается такое воздействие на цифровой код компьютерной программы робота, в результате которого виновное лицо получает способность задействовать по своему усмотрению возможности робота».
2. Дополнить ст. 273 УК РФ новой частью в следующей редакции:
«4. Создание, распространение или использование компьютерных программ либо иной компьютерной информации, заведомо предназначенных для захвата управления робота, — наказывается.».
Во втором параграфе «Уголовная ответственность за создание цифрового кода компьютерной программы робота с заведомо внесеннымиуязвимостями и робота с неде-кларируемыми возможностями» изучается проблема обеспечения уголовно-правовыми средствами безопасного производства и эксплуатации роботов.
Создание цифрового кода компьютерной программы робота, заведомо имеющего недостатки (уязвимости), представляется общественно опасным деянием, требующим применения соответствующих уголовно-правовых мер.
В целом создание программ для функционирования роботов есть деятельность, связанная со значительными рисками и угрозами. Заметим, что перечень возможных действий робота закладывается при формулировании поведенческих алгоритмов, содержащихся в его компьютерной программе. Создавая ее код, разработчик прямо определяет, какие действия, манипуляции, движения может совершить робот; какие сигналы
управления он может обрабатывать — иными словами, обозначает исчерпывающий перечень возможных действий.
Указанный перечень прямо детерминирует, помимо прочего, целевое назначение робота, наличие опасностей и степени возможности их реализации при его функционировании. Ввиду чего при его производстве принципиальное значение имеет достоверное отражение в технической документации перечня возможностей робота, а также уровня допустимой опасности, создаваемой при его эксплуатации. Сообразно указанным факторам робот при его использовании будет подвергаться тем или иным моделям правового, в том числе запретительного регулирования. В случае если задекларированные, то есть отраженные в документах, возможности робота существенно отличаются от тех, которые были в него заложены, формируется несоответствие между фактической опасностью такого робота и теми правовыми мерами, средствами и инструментами, которые применяются непосредственно к нему, нормативными требованиями, распространяющимися на процессы его эксплуатации, что в равной степени видится общественно опасным.
При создании роботов можно выявить две формы противоправного поведения, требующего применения уголовно-правовых средств:
— создание цифрового кода компьютерной программы робота, который имеет элементы, существенно понижающие уровень его устойчивости к компьютерным атакам и образующие возможность несанкционированного воздействия, ввиду чего не удовлетворяет требованиям цифровой безопасности, обычно предъявляемым к продукции такого рода, то есть создание цифрового кода с уязвимостями;
— внесение в техническую документацию, отражающую тактико-технические характеристики робота, заведомо недостоверных данных о его фактических возможностях (режимах работы, перечне совершаемых действий, наличествующих в цифровом коде компьютерной программы алгоритмах действий), то есть создание робота с недекларируемыми возможностями.
Следует отметить, что создание уяз-вимостей может быть совершено лицами, имеющими в силу выполняемых трудовых обязанностей доступ к цифровому коду. То обстоятельство, что в трудовые обязанности лица, фактически создавшего такую уязвимость, не входит составление компьютерных программ, на квалификацию содеянного не влияет.
Создание робота с недекларируемыми возможностями может быть совершено только лицом, уполномоченным в силу выполняемых служебных обязанностей вносить в юридически значимые документы сведения о существенных характеристиках робота либо заверять такие сведения. В случае если лицо, обладающее соответствующими служебными полномочиями, совершило указанное преступление посредством использования других лиц, такой компетенцией не обладающих, оно, как представляется, должно нести ответственность в качестве посредственного исполнителя.
Автономные роботы, то есть роботы, способные к самостоятельному принятию решений и осуществлению действий на основании самостоятельно сформулированного поведенческого алгоритма, в перспективе, могут подвергаться аналогичному противоправному воздействию.
В то же время подобные действия в отношении автономных роботов предполагают совершенно иную, более высокую общественную опасность, поскольку они будут обладать способностью к самостоятельному собиранию информации внешней среды и написанию собственных цифровых кодов, ввиду чего не подлежат полноценному контролю со стороны человека.
В целях обеспечения безопасного производства и эксплуатации роботов представляется возможным высказать предложения по дополнению уголовного законодательства следующими составами преступлений:
«Статья 273.1 Создание цифрового кода компьютерной программы робота с заведомо внесенными уязвимостями
Создание цифрового кода компьютерной программы робота с заведомо внесенными уязвимостями, — наказывается...»
Примечание.
Под уязвимостью в статьях настоящего Кодекса понимается элемент цифрового кода компьютерной программы робота, существенно понижающий уровень устойчивости данного кода к компьютерным атакам и образующий возможность несанкционированного воздействия на него.
«Статья 273.2 Создание робота с недекларируемыми возможностями
Создание робота с недекларируемыми возможностями, повлекшее дезорганизацию государственного регулирования оборота роботов, — наказывается.»
Примечания.
1. Под созданием робота с недекларируемыми возможностями в статьях настоящего
Кодекса понимается сознательное отражение и (или) заверение в юридически значимой технической документации заведомо недостоверных сведений о существенных характеристиках робота.
2. Под дезорганизацией государственного регулирования оборота роботов в статьях настоящего Кодекса понимается применение к роботу, имеющему недекларируемые возможности, тех правовых механизмов (лицензирование, сертификация, включение в реестр), которые в обычных условиях оборота применяются к роботу, имеющему аналогичные характеристики, отраженные в юридически значимой технической документации.».
В целях обеспечения безопасного производства и эксплуатации автономных роботов при наступлении технологической революции и появлении автономных роботов предлагается дополнить уголовное законодательства следующими составами преступлений:
«Статья 273.3 Создание цифрового кода компьютерной программы автономного робота с заведомо внесенными уязвимостями
Создание цифрового кода компьютерной программы автономного робота с заведомо внесенными уязвимостями, — наказывается.»
Примечание.
Под автономным роботом в статьях настоящего Кодекса понимается робот, обладающий возможностью самостоятельного принятия решений и способный действовать на основании самостоятельно сформулированного поведенческого алгоритма.
«Статья 273.4 Создание автономного робота с недекларируемыми возможностями
Создание автономного робота с недекларируемыми возможностями, повлекшее дезорганизацию государственного регулирования оборота автономных роботов, — наказывается.
Примечания.
1. Под созданием автономного робота с недекларируемыми возможностями в настоящей статье понимается сознательное отражение и (или) заверение в юридически значимой технической документации заведомо недостоверных сведений о существенных характеристиках автономного робота.
2. Под дезорганизацией государственного регулирования оборота автономных роботов в настоящей статье понимается применение к автономному роботу, имеющему недекларируемые возможности, тех правовых механизмов (лицензирование, сертификация, включение в реестр), которые в обычных условиях оборота применяются к автономному роботу, имеющему аналогичные характеристики,
отраженные в юридически значимой технической документации».
В третьем параграфе «Уголовная ответственность за нарушение правил создания, эксплуатации и ремонта роботов либо иного взаимодействия с ними» изучается проблема установления уголовной ответственности за рассматриваемые нарушения.
Роботы, в силу присущих им свойств, могут не только хранить, обрабатывать и передавать информацию, но и совершать определенные механические действия во исполнение алгоритмов их компьютерных программ. Модели уголовно-правовой охраны, которые сложились и применяются в отношении экс-плуатантов средств компьютерной техники, не в полной мере могут быть адаптированы к регулированию роботов и являются не полностью релевантными для целей охраны общественных отношений, складывающихся в связи с их функционированием.
Видится возможным заимствование подходов законодателя по конструированию состава преступления, предусмотренного ст. 274 УК РФ, в части, касающейся установления ответственности за неисполнение обязанности по разработке и эксплуатации роботов и автономных роботов. Будучи выраженными в нормативных правовых актах регуля-торного характера, правила создания и эксплуатации роботов в целях их надлежащего применения и с учетом возможной высокой общественной опасности соответствующих негативных девиаций должны быть взаимосвязаны с соответствующими уголовно-правовыми нормами, носящими запретительный характер.
В целях обеспечения безопасного и бесперебойного создания, эксплуатации и ремонта роботов либо иного взаимодействия с ними, а также предотвращения причинения вреда в процессе их функционирования, представляется возможным дополнить главу 28 УК РФ ст. 274.2, изложив ее в следующей редакции:
«Статья 274.2 Нарушение правил создания, эксплуатации и ремонта роботов либо иного взаимодействия с ними
1. Нарушение правил создания, эксплуатации и ремонта роботов либо иного взаимодействия с ними, повлекшее причинение крупного ущерба, — наказывается.
2. Деяние, предусмотренное частью первой настоящей статьи, если оно повлекло тяжкие последствия или создало угрозу их наступления, — наказывается.
Примечание.
Правила создания, эксплуатации и ремонта роботов либо иного взаимодействия с ними
для целей настоящей статьи утверждаются Правительством Российской Федерации.»
В целях обеспечения безопасного, безаварийного и бесперебойного создания, эксплуатации и ремонта автономных роботов либо иного взаимодействия с ними, а также предотвращения причинения вреда в процессе их функционирования в случае появления таких роботов предлагается дополнить уголовное законодательство следующим составом преступления:
«Статья 274.3 Нарушение правил создания, эксплуатации и ремонта автономных роботов либо иного взаимодействия с ними
1. Нарушение правил создания, эксплуатации и ремонта автономных роботов либо иного взаимодействия с ними, — наказывается.
2.То же деяние, повлекшее причинение крупного ущерба, — наказывается.
3. Деяние, предусмотренное частью первой настоящей статьи, если оно повлекло тяжкие последствия или создало угрозу их наступления, — наказывается.
Примечание.
Правила создания, эксплуатации и ремонта автономных роботов либо иного взаимодействия с ними для целей настоящей статьи утверждаются Правительством Российской Федерации.»
Вторая глава второго раздела — «Уголовная ответственность за преступления, совершаемые в сфере оборота роботов» — состоит из двух параграфов.
В первом параграфе «Уголовная ответственность за создание и (или) распространение роботов, предназначенных для совершения преступления» предложено решение проблемы, связанной с отсутствием в УК РФ нормы, устанавливающей ответственность за указанные деяния.
Роботы, будучи по своей природе программно-аппаратными устройствами, совершают механические манипуляции в рамках реализации алгоритмов, заложенных в цифровой код их компьютерной программы. Представляется обоснованным предположить, что они могут изначально создаваться виновными лицами для совершения преступления.
Деятельность по созданию и распространению роботов для совершения преступления в настоящее время не является признаком объективной стороны какого-либо состава преступления и может подлежать правовой оценке только как приготовление к тяжкому и особо тяжкому преступлению в форме приискания, изготовления либо приспособления средств и орудий его совершения. На основании изложенного
имеется объективная необходимость установить уголовно-правовой запрет, предусматривающий ответственность за создание и (или) распространение роботов (автономных роботов), предназначенных для совершения преступления.
В связи с изложенным предлагается дополнить УК РФ следующей нормой:
«Статья 222.3 Создание и (или) распространение роботов, предназначенных для совершения преступления
1. Создание и (или) распространение роботов, предназначенных для совершения преступления, — наказываются.
2.Те же деяния, совершенные группой лиц по предварительному сговору, или организованной группой, или лицом с использованием своего служебного положения, — наказываются.»
Помимо изложенного, думается, что совершение аналогичных действий применительно к автономному роботу обладает повышенной общественной опасностью и должно наказываться самостоятельной уголовно-правовой нормой.
В связи с изложенным предлагается при появлении автономных роботов дополнить УК РФ следующей нормой:
«Статья 222.4 Создание и (или) распространение автономных роботов, предназначенных для совершения преступления
1. Создание и (или) распространение автономных роботов, предназначенных для совершения преступления, — наказываются.
2.Те же деяния, совершенные группой лиц по предварительному сговору, или организованной группой, или лицом с использованием своего служебного положения, — наказываются.»
Во втором параграфе «Уголовная ответственность за незаконные создание, распространение, приобретение или применение вооруженных роботов» освещаются вопросы разработки отдельных уголовно-правовых средств противодействия неправомерному обороту вооруженных роботов.
Будучи вовлеченными в процесс совершения преступления, использованными для причинения вреда предмету, по поводу которого сложились охраняемые уголовным законом общественные отношения, роботы способны существенно повысить причиняющий потенциал и расширить возможности преступника.
Особо опасным способом создания роботов для целей совершения преступлений является укомплектование их вооружением, под которым предлагается понимать, помимо
оружия, взрывчатые вещества, взрывные устройства, боеприпасы, иные разновидности вооружения, обладающие способностью, в силу присущих им свойств, к поражению цели, как находящейся на удалении, так и при непосредственном физическом с ней контакте, а также к внезапному самораспространяющемуся химическому превращению — взрыву.
Снабжение робота вооружением существенно повышает функциональные возможности его применения, что обуславливает повышенную общественную опасность оборота таких роботов и требует ответственности в рамках самостоятельной уголовно-правовой нормы.
Важно отметить, что, будучи укрепленным на внешней подвеске либо иных частях робота, огнестрельное оружие либо взрывное устройство может быть использовано при значительно отличающихся обстоятельствах, что позволяет рассматривать таких роботов не как обычное оружие или взрывные устройства, а как сущность, находящуюся на качественно ином, более высоком уровне опасности.
На основании изложенного предлагается дополнить УК РФ следующей нормой:
«Статья 222.5 Незаконные создание, распространение, приобретение или применение вооруженных роботов
1. Незаконное создание вооруженных роботов — наказывается.
2. Незаконное распространение либо приобретение вооруженных роботов — наказывается.
3. Незаконное применение вооруженных роботов — наказывается.
Примечание.
Под вооруженным роботом в настоящей статье понимается робот, которому намеренно приданы свойства, обеспечивающие его применение с использованием оружия, боеприпасов, взрывчатых веществ и взрывных устройств либо иного вооружения.»
Третий раздел монографии «Преступления, связанные с автономной робототехникой», включает в себя две главы.
Первая глава третьего раздела — «Перспективы уголовно-правовой охраны общественных отношений, связанных с автономными роботами» — состоит из двух параграфов.
В первом параграфе «Проблема определения правосубъектности автономных роботов» исследуется важная в будущем для правовой науки в целом, и уголовно-правовой науки
в частности, проблема определения правосубъектности автономных роботов.
В разделе 1 «Цели концепции» Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, установлено, что «Развитие технологий искусственного интеллекта ставит серьезные вызовы перед правовой системой Российской Федерации, системой государственного управления и обществом в целом. Они обусловлены определенной степенью автономности действий систем искусственного интеллекта в решении поставленных задач и их неспособностью непосредственно воспринимать этические и правовые нормы, учитывать их при осуществлении каких-либо действий». В связи с изложенным вопросы регламентации обращения с автономными роботами представляются исключительно актуальными. Уголовное право в этом отношении, как представляется, способно и должно в полной мере реализовывать прогностическую функцию, заблаговременно обеспечивая безопасность охраняемых им объектов, не допуская запоздалого регулятивного реагирования на уже свершившиеся трагедии.
Часть авторов считает, что наделение роботов правосубъектностью невозможно по той причине, что их поведение не является полностью самостоятельным, а волеизъявление находится под вопросом. Другие ученые предполагают, что, наоборот, присвоение роботу статуса субъекта даст возможность сделать более прозрачными правоотношения с его участием, поскольку позволит возложить на него определенную ответственность за собственные действия, причиной которой может стать неконтролируемое поведение, возникшее на основе возросшего уровня автономности и выступающее как результат самостоятельного принятия роботом решения.
Есть также третья позиция, которая основана на следующем: в сложившихся условиях невозможно наделить робота правосубъектностью, так как сквозные цифровые технологии еще не достигли необходимого уровня развития. В связи с этим робот не может выступать полностью автономным субъектом права. Однако с течением времени и в процессе совершенствования этих технологий ситуация может измениться, и наделение робота правосубъектностью станет необходимым.
На наш взгляд, наиболее верной является третья, которая позволит с учетом уровня развития автономной робототехники,
в период наступления технологической революции, принять решение об инициации вопроса о наделении автономного робота статусом субъекта права, что, в свою очередь, предполагает глубокое изучение вопроса специалистами в области уголовно-правовых наук.
Во втором параграфе «Перспективная модель реакции государства на факт причинения вреда охраняемым уголовным законом общественным отношениям в процессе функционирования автономных роботов» впервые в теории отечественного уголовного права предпринята попытка комплексно изложить проблему определения необходимых в будущем границ ответственности за причинение вреда охраняемым уголовным законом интересам в процессе функционирования автономных роботов.
Представляются потенциально возможными в перспективе ситуации, когда деяние совершено с участием автономных роботов, что требует осмысления специалистами в области уголовно-правовых наук.
Фактически можно выделить две группы обстоятельств, нуждающихся в уголовно-правовой оценке:
1. Поведение субъекта, способного подлежать уголовной ответственности (человека — производителя (разработчика, создателя) или собственника (пользователя, владельца) автономного робота).
2. Факт причинения вреда в процессе функционирования автономного робота.
Относительно первой группы обстоятельств видится правильным традиционный подход, заключающийся в установлении причастности и виновности физического лица на общих основаниях. Иными словами, в случае если им не были выполнены юридически обязательные, объективно необходимые и реально возможные действия по предотвращению вреда охраняемым уголовным законом интересам, содеянное бездействие подлежит квалификации по признакам соответствующего состава преступления. В случае если лицо демонстрировало невиновное психическое отношение, оно не подлежит уголовной ответственности ввиду отсутствия в деянии состава преступления.
Вторая группа обстоятельств (факт причинения вреда в процессе функционирования автономного робота) вызывает наиболее противоречивые и неочевидные варианты правовых оценок поведения его самого.
Представляется, что процесс функционирования автономного робота является объективно общественно опасным, может
причинять существенный вред охраняемым уголовным законом общественным отношениям, ввиду чего требует сообразных мер социальной защиты публично-правовой природы, достаточных по своему характеру для пресечения и недопущения подобного вреда, эффективной охраны общественных отношений, восстановления социальной справедливости.
Вариативность правовой взаимосвязи между поведением субъекта, способного подлежать уголовной ответственности, и фактом причинения вреда в процессе функционирования автономного робота позволила разработать заявленную перспективную модель уголовно-правовой охраны общественных отношений, связанных с автономной робототехникой.
Вторая глава третьего раздела — «Уголовно-правовое противодействие обороту автономных вооруженных роботов» — состоит из трех параграфов.
В первом параграфе «Автономные вооруженные роботы как потенциальная угроза для мира и безопасности человечества» анализируются механизмы обеспечения контроля за действиями указанных устройств. Основным объектом уголовно-правовой охраны отношений, возникающих с их участием, являются мир и безопасность человечества. Поэтому весьма логично было бы рассмотреть возможности применения к порядку обращения автономных вооруженных роботов подходов уголовного законодательства, предусмотренных гл. 34, в частности, ст. 355-356 УК РФ. Данное решение видится весьма логичным, учитывая предложение закрепить в действующих международных договорах, ограничивающих некоторые виды вооружения, использование, а также методы ведения войны, выпуск и применение автономных вооруженных роботов.
Как только автономные вооруженные роботы будут официально поставлены на вооружение в тех или иных странах, они сразу же станут предметом купли-продажи на черном рынке оружия, что увеличит их распространение во всем мире и значительно расширит возможности общественно опасного применения таких роботов. Все вышесказанное свидетельствует о необходимости в ближайшее время обратить внимание на отсутствие в международном законодательстве нормы, прямо запрещающей оборот автономных вооруженных роботов.
Сегодня большинство развитых стран стараются иметь в своем арсенале автономные средства ведения боевых действий. Это
различные робототехнические устройства, комплексы и системы военного назначения. Названные средства могут быть запрограммированы таким образом, что с помощью компьютерной программы и без контроля человека смогут идентифицировать цели и успешно их атаковать. Хотя соответствующие цифровые технологии находятся в процессе развития и официально не стоят на вооружении зарубежных военных ведомств, но уже сейчас держат все мировое сообщество в напряжении, поскольку могут радикально поменять характер боевых действий и разрушить существующие системы обороны и безопасности, поставить под угрозу существование самого человечества.
Масштаб указанных угроз заслуживает безусловной реакции уголовного закона, которая должна основываться в рамках национальных законодательств на общих международных подходах. В связи с изложенным в целях наиболее полного решения задач УК РФ, прежде всего таких как обеспечение мира и безопасности человечества, предупреждение преступлений, а также реализации прогностической функции уголовного закона предлагается разработать и принять международную Конвенцию о запрещении разработки, производства и применения автономных вооруженных роботов.
Во втором параграфе «Уголовно-правовые риски применения автономных вооруженных роботов» рассматриваются следующие такие обстоятельства, создающие угрозы для объектов уголовно-правовой охраны: риск распределения ответственности за применение автономных вооруженных роботов; риск выхода автономного вооруженного робота из-под контроля человека; риск оборота летального автономного оружия.
Автономные вооруженные роботы на современном этапе представляет собой значительную угрозу для мира и человечества, поскольку его использование дает неоспоримые преимущества стороне, применяющей подобное орудие, и в случае выхода его из-под контроля подобный вид вооружения способен в считаные минуты уничтожить все живое. Скорость уничтожения противника у данного оружия в несколько раз превышает человеческие возможности, поэтому жесткость правовых ограничений в данной области должна быть чрезвычайно высокой.
В этой связи обозначенные выше уголовно-правовые риски применения автономных вооруженных роботов должны быть учтены при разработке системы уголовно-правовых мер охраны общественных отношений,
связанных с автономной робототехникой, в частности для формулирования конкретных составов преступлений и дифференциации уголовной ответственности.
В третьем параграфе «Уголовная ответственность за создание, распространение или использование автономных вооруженных роботов» изучаются различные аспекты оборота таких роботов и вырабатываются уголовно-правовые средства противодействия деятельности, направленной на их создание, распространение и использование, поскольку применение названных роботов представляет повышенную опасность для общественных отношений, обеспечивающих мир и безопасность человечества.
Роботы, имеющие потенциал к значительному расширению своего функционала, а также обретению автономности, представляют особую опасность. Создание автономного робототехнического оружия может быть использовано для нагнетания международной напряженности, дестабилизации дипломатических отношений, побуждения государств к развязыванию войны и, самое страшное, в случае выхода подобной технологии из-под контроля оператора, образовать экзистенциальную угрозу человечеству.
Исходя из соображений наиболее полного обеспечения мира и безопасности человечества, обороноспособности и безопасности Российской Федерации при наступлении технологической революции и появлении автономных вооруженных роботов законодателю предлагается дополнить УК РФ отдельной нормой следующего содержания:
«Статья 356.1 Создание, распространение или использование автономных вооруженных роботов и компьютерных программ, предназначенных для их функционирования
1. Создание автономных вооруженных роботов, а равно компьютерных программ, предназначенных для их функционирования, — наказывается.
2. Распространение автономных вооруженных роботов, а равно компьютерных программ, предназначенных для их функционирования, — наказывается.
3. Использование автономных вооруженных роботов — наказывается.
Примечание.
Под автономным вооруженным роботом в статьях настоящего Кодекса понимается робот, обладающий возможностью самостоятельного принятия решений и способный действовать на основании самостоятельно сформулированного поведенческого
алгоритма, которому намеренно приданы свойства, обеспечивающие его применение с использованием оружия, боеприпасов, взрывчатых веществ и взрывных устройств либо иного вооружения.»
В заключении монографии подводятся итоги монографического исследования, делаются теоретические выводы и обобщения, а также резюмируются предложения, направленные на совершенствование законодательства.
Список сокращений и условных обозначений включает в себя представленные в алфавитном порядке расшифровки всех используемых в монографии сокращений и условных обозначений.
В библиографическом списке автор перечисляет использованные при написании монографии правовые акты и иные официальные документы, материалы судебной практики, монографии, учебники, словари и учебно-методические издания, научные статьи, сборники научных трудов и другие публикации, диссертации и авторефераты диссертаций, отчеты, доклады, информационные материалы и аналитические обзоры, ресурсы
информационно-телекоммуникационной сети «Интернет».
В приложениях к монографии приведены предложения по совершенствованию уголовного законодательства, охраняющего общественные отношения, связанные с управляемой робототехникой (приложение № 1), перспективные предложения по совершенствованию уголовного законодательства, охраняющего общественные отношения, связанные с автономной робототехникой (приложение № 2), структура (приложение № 3), пояснительная записка (приложение № 4) и текст (приложение № 5) проекта федерального закона «Об обороте роботов, их составных частей (модулей)», анкета (приложение № 6), таблица результатов (приложение № 7) и диаграммы результатов (приложение № 8) социологического опроса на тему «Уголовно-правовая охрана общественных отношений, связанных с робототехникой», сведения о зарегистрированных в Российской Федерации преступлениях в сфере компьютерной информации (приложение № 9), сведения о зарегистрированных в Российской Федерации преступлениях, предусмотренных: ст. 272 УК РФ (приложение № 10), ст. 273 УК РФ (приложение № 11), ст. 274 УК РФ (приложение № 12), ст. 2741 УК РФ (приложение № 13).
Список источников
1. Бегишев И. Р. Уголовно-правовая охрана общественных отношений, связанных с робототехникой. Москва : Проспект, 2022. 384 с.
Дата поступления статьи / Received: 14.03.2022. Дата принятия статьи к публикации / Accepted: 21.05.2022.
