CC BY
20
УГОЛОВНОЕ ПРАВО И КРИМИНОЛОГИЯ; УГОЛОВНО-ИСПОЛНИТЕЛЬНОЕ ПРАВО
УДК 343
DOI: 10.18384/2310-6794-2021-2-84-93
УГОЛОВНАЯ ОТВЕТСТВЕННОСТЬ ЗА СОЗДАНИЕ, РАСПРОСТРАНЕНИЕ ИЛИ ИСПОЛЬЗОВАНИЕ АВТОНОМНЫХ ВООРУЖЁННЫХ РОБОТОВ
Бегишев И. Р.
Казанский инновационный университет имени В. Г. Тимирясова 420111, г. Казань, ул. Московская, д. 42, Российская Федерация
Аннотация
Цель. Выработать уголовно-правовые средства предупреждения и пенализации деятельности, направленной на создание, распространение и использование автономных вооружённых роботов, поскольку их применение представляет повышенную опасность для общественных отношений, обеспечивающих мир и безопасность человечества.
Процедура и методы. Рассмотрены различные аспекты незаконного оборота автономных вооружённых роботов. Методологическую основу исследования составили общенаучные и частнона-учные методы научного познания.
Результаты. В целях поддержания мира и безопасности человечества, сохранения мирного сосуществования государств, при наступлении технологической сингулярности и появлении полностью автономных вооружённых роботов законодателю необходимо дополнить УК РФ отдельной нормой об ответственности за создание, распространение и использование таких роботов. Теоретическая и/или практическая значимость. В настоящее время отсутствуют какие-либо правовые нормы и правила учёта и применения автономных вооружённых роботов. Предложения и выводы настоящего исследования могут быть использованы при создании и совершенствовании механизмов уголовно-правового регулирования робототехники.
Ключевые слова: робот, робототехника, искусственный интеллект, мир и безопасность человечества, цифровые технологии, цифровая экономика, преступление, наказание, пенализация, ответственность, общественная опасность, вооружение, оружие, взрывчатое вещество, взрывное устройство, вооружённый, автономный
CRIMINAL LIABILITY FOR CREATING, DISTRIBUTING, OR USING AUTONOMOUS ARMED ROBOTS
I. Begishev
Kazan Innovative University named after V. G. Timiryasov 42, Moskovskaya ul., Kazan, 420111, Russian Federation
Abstract
Aim. To develop criminal legal means of preventing and penalizing activities aimed at the creation, distribution and use of autonomous armed robots, since their use poses an increased danger to public relations that ensure the peace and security of mankind.
© CC BY Бегишев И. Р., 2021.
Methodology. Various aspects of illegal trafficking of autonomous armed robots were considered. The methodological basis of the study was made up of nationwide and private scientific methods of scientific knowledge materials.
Results. In order to maintain the peace and security of mankind, preserve the peaceful coexistence of states, with the advent of technological singularity and the appearance of fully autonomous armed robots, the legislator needs to supplement the Criminal Code of the Russian Federation with a separate norm on responsibility for the creation, distribution and use of such robots. Research implications. Currently, there are no legal norms and rules for the accounting and use of autonomous armed robots. The proposals and conclusions of this study can be used for creating and improving the mechanisms of criminal law regulation of robotics.
Keywords: robot, robotics, artificial intelligence, peace and security of humanity, digital technologies, digital economy, crime, punishment, penalization, responsibility, public danger, armament, weapons, explosives, explosive device, armed, autonomous
Введение
Бурное развитие сквозных цифровых технологий, внедрение и применение робототехники и технологий искусственного интеллекта предопределяет необходимость поиска путей решения проблем охраны общественных отношений [2; 3; 4; 5; 6; 7; 9; 10; 11; 12; 14; 15].
Эскалация международной напряженности, проявляемая в последнее время государствами западного блока, формирует новые вызовы и угрозы международному миру [16]. В затронутом контексте ускоренное развитие сквозных цифровых технологий, в т. ч. робототехнических устройств, комплексов и систем, может служить дополнительным фактором, повышающим международные угрозы и обостряющим вызовы. Обладая расширенными поражающими возможностями, роботы выступают одним из обстоятельств, способствующих эскалации международных конфликтов [8].
Перечень технических средств, формально относящихся к категории робототехники, очевидно широк и имеет в своём составе комплексы, обладающие существенными различиями в тактико-техническом потенциале. Выразим мнение, что разработка роботов, имеющих производственное и иное хозяйственно-бытовое назначение и не обладающих признаками сквозных технологий и технологий двойного назначения, не составляет существенной угрозы миру и безопасности человечества.
Иная ситуация складывается по отношению к робототехническим системам, способным быть носителями вооружёния, обладающим возможностью длительного нахождения в активном состоянии и снабжённым элементами передачи сигналов, которые позволяют осуществлять управление на значительном удалении.
Подобные разработки в состоянии изменить характер применения вооружёния, повысить его латентность, увеличить радиус действия. Однако традиционные вооружённые роботы в настоящее время уже не являются наиболее актуальным трендом. В качестве такового выступают автономные роботы [1]. Последние отличаются от традиционных робототехнических систем способностью к самообучению, формированию решений на основании самостоятельного анализа внешней обстановки и осуществлению действий исходя из той информации, которая была ими самостоятельно отобрана.
Отличия управляемых роботов от автономных
В затронутом контексте необходимо описать механизмы принятия решений роботами и выявить основные отличия между их управляемыми и автономными разновидностями.
Любой робот состоит из двух компонентов - аппаратной и программной. Первая, по сути, представляет собой механическую
часть устройства, выраженную во взаимосвязанной системе элементов конструкции, датчиков, рычагов, радаров, лидаров, ра-диопоглощающих материалов и покрытия и т. д. Изолированно от программного аппаратный элемент к осуществлению каких-либо механических действий неспособен и в этой связи представляется нерелевантным. Однако аппаратным компонентом во многом предопределяются основные технические характеристики робота: длительность автономной работы, габариты, снаряженная масса, масса полезной нагрузки, дальность действия, виды навесного оборудования, классы перевозимого груза, вероятность обнаружения радиолокационными, инфракрасными и другими областями спектра обнаружения и т. д.
Программный элемент - это цифровой код компьютерной программы, содержащей алгоритмы действий робота. В рамках реализации данных алгоритмов робот может совершать конкретные механические манипуляции. При этом характер и пределы таких манипуляций, их длительность, а также перечень конкретных действий изначально предопределены цифровым кодом программы. Для приведения в действие цифрового кода компьютерной программы необходимо получение соответствующего сигнала от устройств управления и сигнализации либо датчиков робота (если автоматическое реагирование на определённые сигналы датчиков было изначально заложено в цифровой код компьютерной программы). После получения такого сигнала компьютерная программа робота определяет его содержание и выявляет наличие алгоритмов, в которых данный сигнал предусмотрен в качестве исходного элемента. Получив сигнал, алгоритм приводится в действие, и робот приступает к выполнению конкретных механических манипуляций, прямо предусмотренных этим алгоритмом. При этом определённый сигнал может инициировать не один, а несколько алгоритмов.
Приведёнными описаниями продемонстрирована взаимосвязь программного и аппаратного элементов робота, который,
хотя и фигурирует как единое программно-аппаратное устройство, приобретает способность к совершению конкретных механических манипуляций исключительно исходя из своей программной составляющей.
Видится принципиальным следующее: поскольку все механические манипуляции робота прямо предопределяются алгоритмами, заложенными в цифровой код его компьютерной программы, его действия в тех или иных ситуациях являются прогнозируемыми. Составляя цифровой код с алгоритмами действий, разработчики робота однозначно определяют границы возможного поведения робота. Участие человека в данном случае сводится либо к управлению и координированию действий робота, либо, в случае если компьютерная программа содержит достаточно сложные алгоритмы, способные опосредовать взаимосвязанный и объединённый общим назначением комплекс действий, в рамках которого полностью выполняется поставленная задача, человеческое участие состоит в инициировании реализации алгоритмов компьютерной программы. В любом случае, вне зависимости от характера и пределов, само наличие человеческого участия и отсутствие способности самообучения позволяют однозначно именовать вышеописанных роботов управляемыми.
Существенные отличия демонстрирует автономный робот, в первую очередь ввиду способности к самообучению. Последняя состоит в имитации человеческих когнитивных способностей посредством самостоятельного анализа зависимостей внешней среды, отбора информации и формирования новых алгоритмов действий путём внесения изменений в собственный программный код. Таким образом, цифровой код компьютерной программы автономного робота, а соответственно, и зафиксированные в нём перечни алгоритмов перестают быть статичной категорией и приобретают способность к автономному изменению, не опосредованному участием человека.
Из изложенного следует закономерный вывод: характер и пределы механических манипуляций автономного робота в конкретных ситуациях не предопределены разработчиком при создании компьютерной программы. Заложив в цифровой код способность к самообучению, фактически далее нельзя обоснованно спрогнозировать поведение робота при выполнении конкретных механических действий, поскольку последние предопределяются самостоятельно сформулированными поведенческими алгоритмами. Резюмируя изложенное, приходим к убеждению, что автономный робот отличается от управляемого возможностью самостоятельного принятия решений и действия на основании самостоятельно сформулированного поведенческого алгоритма.
Причиняющая способность
автономного вооружённого робота
Отсутствие возможности конструктивного прогнозирования вариантов действий подобных роботов, потенциальная возможность девиаций в ходе осуществления ими самообучения являются достаточной предпосылкой к констатации наличия свойства общественной опасности.
Полагаем, что автономный робот, в силу присущих ему интеллектуальных свойств, обладает повышенной причиняющей способностью, обусловленной усиленными вычислительными мощностями заложенной в него компьютерной программы, иными словами, будучи оператором некоего робота, человек за единицу времени в состоянии совершить несопоставимо меньше логических операций по сравнению с автономным роботом. Данное свойство проявляется как в оценке возможных вариантов решения поставленной задачи, так и в характере и длительности прогнозирования развития ситуации. Обобщенно вышеизложенное можно обозначить как «интеллектуальный потенциал автономного робота».
Указанная причиняющая способность экспоненциально возрастает в случае нали-
чия в техническом оснащении автономного робота средств вооружёния. Важно обозначить, что в зависимости от конкретных параметров программной составляющей посредством автономного робота возможно применение большинства разновидностей оружия массового поражения, в т. ч. основанного на новых физических принципах. Данное обстоятельство существенно дополняет причиняющую способность автономного вооружённого робота.
При этом уголовно-правовая оценка создания и разработки вышеуказанного робота с размещёнными на нём средствами оружия массового поражения видится не в полной мере обоснованной, поскольку описанный робот выступает не просто средством доставки вооружёния, но и, входя в общий технико-боевой комплекс, существенно усиливает за счёт собственного интеллектуального потенциала его причиняющую способность, что должно найти отражение и предопределить дифференциацию уголовной ответственности.
Однако на сегодняшний день изложенное невозможно в рамках действующих положений уголовного закона, поскольку ещё не наступила полная технологическая сингулярность и не появились автономные роботы.
Даже в случае применения обычных средств вооружёния в автономном роботе его высокие вычислительно-интеллектуальные возможности способны довести причиняющий потенциал такого вооружё-ния до объёмов, сопоставимых с оружием массового поражения. Таким образом, будучи применёнными в автономном роботе, обычные средства вооружёния приобретают способность вызывать массовые потери и разрушения до необратимых изменений окружающей среды. В описанной ситуации автономный вооружённый обычными средствами робот приобретает такие присущие оружию массового поражения признаки, как наличие поражающих факторов длительного действия, длительный психотравмирующий эффект и его распространение за пределы объекта поражения, сложность защиты войск, на-
селения, критически важных объектов при применении автономного робота1.
В этой связи автономный вооружённый робот по причиняющему потенциалу использованных в нём средств вооружёния может признаваться тождественным оружию массового поражения и представлять существенную угрозу миру и безопасности человечества.
Названное образует необходимость выработки уголовно-правовых средств предупреждения и пенализации деятельности по созданию, использованию и распространению подобных систем вооружёния.
Незаконный оборот автономных вооружённых роботов
Тезис о том, что использование автономного вооружённого робота представляет повышенную опасность общественным отношениям, обеспечивающим мир и безопасность человечества в рамках государственной юрисдикции Российской Федерации, подтверждается следующими доводами:
- ранее отмечавшиеся факторы усиления причиняющего потенциала автономного вооружённого робота: 1) возможность применения в нём оружия массового поражения; 2) когнитивные способности, значительно умножающие причиняющий потенциал вооружёния. Безусловно, оба указанных фактора непосредственно влияют на тяжесть наступивших в результате применения такого робота последствий. Данный признак является отражением объёма вреда, причинённого объекту уголовно-правовой охраны. Более того, повышенный причиняющий потенциал автономного вооружённого робота образует возможность полагать, что наступающий в результате его разработки, использования или распространения вред причиняет или создаёт угрозу причинения вреда интересам не только одного государства, но и
1 Оружие массового поражения // Минобороны России: [сайт]. URL: https://encyclopedia.mil.ru/ encyclopedia/dictionary/details.htm?id=13769@ morfDictionary (дата обращения: 20.01.2021).
стабильности региона, уровню геополитической напряжённости, области политических интересов государств;
- неправомерное применение автономного вооружённого робота возможно со значительного удаления от места производимой атаки, что как минимум образует возможность осуществления провокационно-подстрекательских действий с территории иностранных государств;
- возможность применения при конструировании аппаратной части робота радиопоглощающих материалов и покрытия существенно усиливает скрытность функционирования подобных роботов, а повышенные интеллектуальные возможности образуют способность преодолевать систему радиоэлектронного обнаружения;
- возможность автономных вооружённых роботов действовать в составе группы, самостоятельно сообразуя и координируя свои действия на основании команд управления единого командного центра. Из данного факта следует повышенная устойчивость указанной группы, возможность рассеивания атакующих роботов. Совершенно справедливы рассуждения исследователей, отмечающих, что «Лучший рой сможет адаптировать свою парадигму командования и контроля к изменяющимся условиям, таким как доступная пропускная способность каналов коммуникации, но с адаптацией её к децентрализованному процессу принятия решений, когда этот канал не работает. Кроме того, модель командования и контроля может изменяться во время различных фаз операции, а для определённых типов решений могут быть использованы различные модели» [13], что отражает их высокоинтеллектуальный потенциал, возможность использования для решения широкого спектра задач боевого, разведывательного, демонстрационного, провокационного характера, что дополнительно подтверждает тезис о направленности указанных роботов на причинение вреда международной политической стабильности.
Означенное определённо свидетельствует о направленности деяний, связан-
vssy
ных с неправомерным использованием автономных вооружённых роботов, на причинение вреда охраняемым уголовным законом интересам в области мира и безопасности человечества и международной стабильности.
В то же время абстрактное указание на «неправомерное использование» как признак, характеризующий деяние, не удовлетворяет требованиям формальной определённости правовых предписаний и в случае конструирования конкретной уголовно-правовой нормы требует уточнения.
Важно сформировать единое представление о том, что сама деятельность, направленная на изготовление автономного вооружённого робота, уже создаёт достаточную общественную опасность. Принимая во внимание особую сложность ликвидации подобных робототехнических устройств, следует концентрировать усилия не на пенализации фактов создания таких роботов, а на выработке уголовно-правовых мер превентивно-предупредительного воздействия. Деятельность по созданию, разработке, проектированию, написанию программ для вышеуказанных роботов уже образует достаточные основания для вменения оконченного состава преступления. Сообразно этому проектируемый состав преступления, по нашему мнению, должен содержать указание на деяние, состоящее в разработке автономных вооружённых роботов. И эта деятельность, в силу сложного технического характера рассматриваемых разновидностей роботов, обоснованно имеет многокомпонентную структуру - может выражаться в изыскании средств для построения робота, написании компьютерных программ, создании вооружёния, объединении программного и аппаратного компонентов.
В затронутом контексте важно различать, что само по себе приискание аппаратной составляющей, как признак объективный, может образовывать состав только в том случае, если умыслом виновного охватывалось совершение вышеуказанных действий в целях разработки автономного вооружённого робота.
Другими словами, в ситуациях, когда лицо приобретает либо иным образом получает вооружёние, элементы питания, материалы внешнего покрытия, датчики, иные элементы механической конструкции, необходимо устанавливать направленность умысла на совершение вышеуказанных действий в целях разработки автономного вооружённого робота. При отсутствии такого умысла содеянное не может образовывать состава преступления, объективными признаками которого охватывается разработка таких роботов, и должно влечь ответственность за неправомерное получение соответствующих материалов, если оно образовывает самостоятельный состав преступления.
Обратная ситуация складывается по отношению к написанию цифрового кода компьютерной программы автономного робота. Указанные действия обладают общественной опасностью, даже в случае если они не направлены на создание автономного вооружённого робота как на конечный результат, и лицо планирует ограничиться только написанием программы для последующего её неправомерного использования (размещения в общем доступе; передаче лицам, разрабатывающим автономных вооружённых роботов; помещение на хранение в носителях цифровой информации).
Важно обозначить, что любой робот приобретает свойство автономности только за счёт наличия в цифровом коде его компьютерной программы алгоритмов, обладающих возможностью самостоятельного принятия решений, и способен действовать на основании самостоятельно сформулированного поведенческого алгоритма. Иными словами, свойство автономности технически закладывается компьютерной программой, никакими иными компонентами робота оно не может быть обусловлено, разработка программы в данном случае - основное криминообразую-щее действие, в отсутствие его робот, вне зависимости от его технических характеристик, тождественен оружию.
Таким образом, деяния, состоявшие в неправомерном использовании либо разработке автономных вооружённых роботов, можно сопоставить по общественной опасности с аналогичными деяниями, совершаемыми в отношении компьютерных программ, предопределяющих появление у роботов свойства автономности.
В то же время содержание и структура цифровых кодов компьютерной программы позволяют однозначно определить её целевое предназначение, поэтому ситуации, когда такая программа создаётся с целью её дальнейшего использования в автономном вооружённом роботе, могут быть с достаточной определённостью отграничены от правомерных процессов создания компьютерных программ.
Комплексно анализируя изложенное, следует описать процессы приискания механических частей, написания программных кодов для автономного робота общим термином «создание» как наиболее релевантным и охватывающим достаточный комплекс конкретных действий, что особенно ценно в условиях неопределённости относительно конкретных форм, методов и средств разработки, проектирования и конструирования автономных вооружённых роботов. При этом важно понимать, что создание есть длящийся процесс, начинающийся с приискания необходимых технических средств (материалов), продолжающийся их переработкой, разборкой, сборкой и завершающийся объединением, в результате которого возникает автономный вооружённый робот как новый объект материального мира. В то же время деяние, состоящее в создании такого робота, может признаваться оконченным с момента совершения действий, направленных на возникновение робота, как конечный итог деятельности.
Следующими по общественной опасности будут действия, состоящие в любых формах возмездного или безвозмездного отчуждения в пользу других лиц автономных вооружённых роботов. Незаконный оборот подобных робототехнических устройств, комплексов и систем создаёт
основу для посягательств на мирное сосуществование государств, образует экзистенциальные угрозы международной стабильности, способствует совершению актов международного терроризма.
Помимо изложенного, незаконный оборот детерминирует усиление процессов теневой экономики, возникновение преступных сообществ (преступных организаций), имеющих соответствующую специализацию. Таким образом, распространение указанных роботов можно сформулировать как любые формы отчуждения автономных вооружённых роботов либо компьютерных программ, предназначенных для их функционирования, как в рамках единичных экземпляров, так и партиями. При этом цель получения материальной или иной выгоды не является необходимой предпосылкой незаконного распространения, последнее может производиться как возмездно, т. е. предполагая совершение встречных действий, так и безвозмездно. В то же время распространяться могут равным образом как автономные вооружённые роботы, так и их компьютерные программы.
Наиболее общественно опасной формой действия является использование автономных вооружённых роботов. Особо отметим, что использование, как наиболее широкая форма, предполагает задействование любых свойств и качеств робота, в т. ч. с целью демонстрации военного потенциала, совершения провокационно-агрессивных действий, выполнения разведывательных функций. Безусловно, подобной формой действия охватывается и применение автономного вооружённого робота по прямому назначению, т. е. задействование его поражающего потенциала, обусловленного как вооружёнием, так и возможностями интеллектуальных систем.
Заключение
Исходя из соображений наиболее полного обеспечения обороноспособности и безопасности Российской Федерации, обеспечения контроля человека над автоном-
V9V
ным оружием, а также поддержания мира и безопасности человечества, сохранения мирного сосуществования государств, находим возможным при наступлении технологической сингулярности и появлении полностью автономных вооружённых роботов предложить законодателю дополнить УК РФ отдельной нормой об ответственности за создание, использование или распространение автономных вооружённых роботов следующего содержания:
«Статья 356.1 Создание, распространение или использование автономных вооружённых роботов
1. Действия, направленные на создание автономных вооружённых роботов, противоречащих общепризнанным принципам и нормам международного права, а равно компьютерных программ, предназначенных для их функционирования, наказываются лишением свободы на срок от пяти до десяти лет.
2. Распространение автономных вооружённых роботов, противоречащих общепризнанным принципам и нормам международного права, а равно компьютерных
программ, предназначенных для их функционирования, наказывается лишением свободы на срок от десяти до пятнадцати лет.
3. Использование автономных вооружённых роботов наказывается лишением свободы на срок от пятнадцати до двадцати лет».
В примечании к указанной норме предлагаем дать определение понятия «автономный вооружённый робот» следующего содержания:
Примечание. Под автономным вооружённым роботом в статьях настоящего Кодекса понимается робот, обладающий возможностью самостоятельного принятия решений и способный действовать на основании самостоятельно сформулированного поведенческого алгоритма, которому намеренно приданы свойства, обеспечивающие его применение с использованием оружия, боеприпасов, взрывчатых веществ и взрывных устройств либо иного вооружёния.
Статья поступила в редакцию 08.04.2021.
ЛИТЕРАТУРА
1. Бегишев И. Р. Об обороте роботов, их составных частей (модулей) (инициативный проект федерального закона). Казань, 2021. 28 с.
2. Бегишев И. Р., Хисамова З. И. Искусственный интеллект и уголовный закон. М.: Проспект, 2021. 192 с.
3. Габов А. В., Хаванова И. А. Автономия боевых роботов и право // Пермский юридический альманах. 2019. № 2. С. 361-378.
4. Габов А. В., Хаванова И. А. Эволюция роботов и право XXI в. // Вестник Томского государственного университета. 2018. № 435. С. 215-233.
5. Грачева Ю. В., Арямов А. А. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности // Актуальные проблемы российского права. 2020. Т. 15. № 6 (115). С. 169-178.
6. Грачева Ю. В., Маликов С. В., Чучаев А. И. Предупреждение девиаций в цифровом мире уголовно-правовыми средствами // Право. Журнал Высшей школы экономики. 2020. № 1. С. 189-211.
7. Денисов Н. Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом // Международное уголовное право и международная юстиция. 2019. № 4. С 18-20.
8. Козюлин В. Б., Ефимов А. Р. Новый бонд-машина с лицензией на убийство // Индекс безопасности. 2016. Т. 22. № 1 (116). С. 37-60.
9. Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79-102.
10. Мосечкин И. Н. Искусственный интеллект в уголовном праве: перспективы совершенствования охраны и регулирования. Киров: Вятский государственный университет, 2020. 111 с.
11. Мосечкин И. Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. Т. 10. № 3. С. 461-476.
12. Некрасов В. Н. Уголовная ответственность роботов: актуальные проблемы и направления дальнейшего развития // Государство и право. 2019. № 5. С. 134-140.
13. Савин Л. В. Варианты будущей войны: решение боевых роботов // Стратегическая стабильность. 2017. № 1 (78). С. 24-35.
14. Хабриева Т. Я., Черногор Н. Н. Право в условиях цифровой реальности // Журнал российского права. 2018. № 1 (253). С. 85-102.
15. Хисамова З. И., Бегишев И. Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13. № 4. С. 564-574.
16. Холиков И. В., Сазонова К. Л. Международно-правовая ответственность в контексте правовой регламентации военного использования беспилотных летательных аппаратов // Военное право. 2017. № 4 (44). С. 217-226.
REFERENCES
1. Begishev I. R. Ob oborote robotov, ih sostavnyh chastej (modulej) (iniciativnyj proekt federalnogo zakona) [On the turnover of robots, their components (modules) (initiative draft of the federal law)]. Kazan, 2021. 28 p.
2. Begishev I. R., Hisamova Z. I. Iskusstvennyj intellekt i ugolovnyj zakon [Artificial intelligence and criminal law]. Moscow, 2021. 192 p.
3. Gabov A. V., Havanova I. A. [Autonomy of killer robots and the law]. In: Permskijyuridicheskij almanah [Perm legal almanac], 2019, no. 2, pp. 361-378.
4. Gabov A. V., Havanova I. A. [Evolution of robots and the 21st century law]. In: Vestnik Tomskogo gosu-darstvennogo universiteta [Tomsk State University Bulletin], 2018, no. 435, pp. 215-233.
5. Gracheva Yu. V., Aryamov A. A. [Robotization and Artificial Intelligence: Criminal Law Risks in the Field of Public Security]. In: Aktualnyeproblemy rossijskogoprava [Actual Problems of the Russian Law], 2020, vol. 15, no. 6 (115), pp. 169-178.
6. Gracheva Yu. V., Malikov S. V., Chuchaev A. I. [Preventing Deviations in the Digital World by Criminal Law Means]. In: Pravo. Zhurnal Vysshey Shkoly Ekonomiki [Law. Journal of the Higher School of Economics.], 2020, no. 1, pp. 189-211.
7. Denisov N. L. [Conceptual foundations of international standard for the criminalization of acts related to artificial intelligence]. In: Mezhdunarodnoe ugolovnoepravo i mezhdunarodnayayustitsiya [International Criminal Law and International Justice], 2019, no. 4, pp. 18-20.
8. Kozyulin V. B., Efimov A. R. [New bond-a machine with a license to kill]. In: Indeks bezopasnosti [Security Index], 2016, vol. 22, no. 1 (116), pp. 37-60.
9. Laptev V. A. [Artificial Intelligence and Liability for its Work]. In: Pravo. Zhurnal Vysshey Shkoly Ekonomiki [Law. Journal of the Higher School of Economics.], 2019, no. 2, pp. 79-102.
10. Mosechkin I. N. Iskusstvennyj intellekt v ugolovnom prave: perspektivy sovershenstvovaniya ohrany i regu-lirovaniya [Artificial intelligence in criminal law: prospects for improving protection and regulation]. Kirov, 2020. 111 p.
11. Mosechkin I. N. [Artificial intelligence and criminal liability: problems of becoming a new type of crime subject]. In: Vestnik Sankt-Peterburgskogo universiteta. Pravo [Bulletin of Saint Petersburg University. Law], 2019, vol. 10, no. 3, pp. 461-476.
12. Nekrasov V. N. [Criminal responsibility of robots: actual problem and areas for further development]. In: Gosudarstvo ipravo [State and law], 2019, no. 5, pp. 134-140.
13. Savin L. V. [Future war variants: decision of combat robots]. In: Strategicheskaya stabilnost [Strategic stability], 2017, no. 1 (78), pp. 24-35.
14. Habrieva T. Ya., Chernogor N. N. [The Law in the Conditions of Digital Reality]. In: Zhurnal rossijskogo prava [Journal of Russian Law], 2018, no. 1 (253), pp. 85-102.
15. Khisamova Z. I., Begishev I. R. [Criminal liability, and artificial intelligence: theoretical and applied aspects]. In: Vserossiiskii kriminologicheskii zhurnal [Russian Journal of Criminology], 2019, vol. 13, no. 4, pp. 564-574.
16. Holikov I. V., Sazonova K. L. [International legal responsibility in the context of the legal regulation of the military use of unmanned aerial vehicles]. In: Voennoe pravo [Military law], 2017, no. 4 (44), pp. 217-226.
ИНФОРМАЦИЯ ОБ АВТОРЕ
Бегишев Ильдар Рустамович - кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник Казанского инновационного университета имени В. Г. Тимирясова; e-mail: begishev@mail.ru
INFORMATION ABOUT THE AUTHOR
Ildar R. Begishev - Cand. Sci. (Law), Honored Lawyer of the Republic of Tatarstan, senior researcher, Kazan Innovative University named after V. G. Timiryasov; e-mail: begishev@mail.ru
ПРАВИЛЬНАЯ ССЫЛКА НА СТАТЬЮ
Бегишев И. Р. Уголовная ответственность за создание, распространение или использование автономных вооружённых роботов // Вестник Московского государственного областного университета. Серия: Юриспруденция. 2021. № 2. С. 84-93. DOI: 10.18384/2310-6794-2021-2-84-93
FOR CITATION
Begishev I. R. Criminal Liability for Creating, Distributing, or Using Autonomous Armed Robots. In: Bulletin of Moscow Region State University. Series: Jurisprudence, 2021, no. 1, рр. 84-93. DOI: 10.18384/2310-6794-2021-2-84-93
