CC BY
62Савельев Илья Васильевич Всероссийский государственный университет юстиции
(РПА Минюста России) Юридический факультет Россия, Москва [email protected] Savelyev Ilya Vasilyevich All-Russian State University of Justice
Law faculty Russia, Moscow
ПРЕСТУПЛЕНИЕ, ОСЛОЖНЕННОЕ ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ: ПЕРСПЕКТИВЫ БЛИЖАЙШИХ УГОЛОВНО-ПРАВОВЫХ ПРЕОБРАЗОВАНИЙ Аннотация: в настоящей работе автором обосновывается возможность реального преобразования уголовного законодательства относительно учета функционирования технологий искусственного интеллекта в ближайшей перспективе; излагается понятие и основные признаки преступления, осложненного искусственным интеллектом; формулируются предложения законотворческого характера.
Ключевые слова: искусственный интеллект, уголовное право, криминализация, дифференциация ответственности, уголовный закон.
CRIME COMPLICATED BY ARTIFICIAL INTELLIGENCE: PROSPECTS
FOR CRIMINAL LAW REFORMS
Annotation: in this paper, the author substantiates the possibility of a real transformation of criminal legislation with regard to accounting for the functioning of artificial intelligence technologies in the near future; describes the concept and main
УДК 343.01
features of a crime complicated by artificial intelligence; formulates proposals proposals to supplement and amend the criminal code.
Key words: artificial intelligence, criminal law, criminalization, differentiation of responsibility, criminal code.
Вопрос правового регулирования общественных отношений, элементом которых выступает искусственный интеллект (интеллектуальные системы) (далее - ИИ), неоднократно поднимался Президентом Российской Федерации в Посланиях Федеральному Собранию Российской Федерации от 01.03.2018, от 20.02.2019 и от 15.01.2020 [4; 5; 6], а также в выступлениях на официальных мероприятиях: «В кратчайшие сроки нам необходимо создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных. Причем такая нормативная база должна постоянно обновляться, строиться на гибком подходе к каждой сфере и технологии» [11].
Стоит отметить, что при «снятии барьеров» актуальность приобретает вопрос последствий применения технологий ИИ как в общесоциальном масштабе, так и в аспекте правового дискурса. В частности, особый интерес вызывают проблемы уголовного права, обусловленные функционированием технологий ИИ.
ИИ наряду с обработкой больших объемов данных, облачными и туманными вычислениями, технологиями электронной идентификации и аутентификации, интернетом вещей и индустриальным интернетом, робототехникой и биотехнологиями назван в Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы, утвержденной Указом Президента Российской Федерации от 09.05.2017 № 203 [3], основным направлением развития российских информационных и коммуникационных технологий.
Согласно подп. «б» п. 19 Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10.10.2019 № 490 (далее - Стратегия развития ИИ) [2], одним из основных принципов развития и использования технологий ИИ является безопасность, т.е. недопустимость использования ИИ в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий ИИ.
Одной из основных задач развития ИИ, в соответствии с подп. «е» п. 24 Стратегии развития ИИ, является создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий ИИ.
Одним из принципов установления экспериментального правового режима в п. 2 ч. 3 ст. 3 Федерального закона от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"» [1], который вступает в силу с 1 июля 2020 года, назван принцип защиты прав и свобод человека и гражданина, обеспечение безопасности личности, общества и государства.
И.Р. Бегишев и З.И. Хисамова выделяют прямой и косвенный криминологические риски применения ИИ. Прямой риск связан с непосредственным действием на человека опасности, вызванной применением
- умышленное совершение системой ИИ общественно опасного посягательства на жизнь и здоровье, свободу, честь и достоинство личности, конституционные права и свободы человека и гражданина, общественную безопасность, мир и безопасность человечества, повлекшего общественно опасные последствия;
ИИ:
- умышленные действия с программным обеспечением системы ИИ, повлекшие общественно опасные последствия.
Косвенный риск связан с непреднамеренными опасностями при применении ИИ:
- случайные ошибки в программном обеспечении системы ИИ (ошибки, допущенные разработчиком системы ИИ);
- ошибки, совершенные системой ИИ в процессе его работы (ошибки, допущенные системой ИИ) [9].
В.С. Овчинский заключает, что «факты косвенно указывают на активную подготовку криминала к овладению искусственным интеллектом. При этом криминал не собирается изобретать велосипед. Он озабочен тем, как научиться на нем ездить и выработать наиболее эффективные маршруты». Автор выделяет ряд основных направлений использования искусственного интеллекта преступными сообществами (полагаем, что в преступлениях вообще).
1. Использование искусственного интеллекта для компрометации и имплантации вредоносного «софта» (программного обеспечения) в платежные системы, в основном использующие протокол блокчейн и имеющие P2P-архитектуру: технологии искусственного интеллекта позволяют использовать методы глубокого обучения нейронных сетей для взлома и перепрограммирования платежных протоколов, построенных на блокчейне; «гонка финансовых вооружений», выражающаяся в совершенствовании всеми крупными финансовыми институтами своих платформ на основе искусственного интеллекта, детерминирует заинтересованность и преступного сообщества в сохранении своих доходов в данной сфере[14, с. 151].
2. Посягательства на интеллектуальную собственность: для вскрытия мощных систем корпоративно-информационной безопасности все шире используются многофункциональные программы, в основе которых лежат совершенствующиеся алгоритмические модули, являющиеся ключевым компонентном используемых технологий искусственного интеллекта [14, с. 152].
3. Посягательства на жизнь и здоровье: идея робота-убийцы довольно тривиальна и известна еще из фантастических литературных произведений XX столетия; однако миру уже известны случаи, например, целенаправленного убийства человека.
В этой связи стоит отметить, что российской судебной практике стал известен случай причинения смерти, однако, по неосторожности. Так, согласно постановлению Елабужского городского суда С. совершил преступление, предусмотренное ч. 2 ст. 143 УК, при следующих обстоятельствах: «С., находясь на рабочем месте в цехе<.. .> действуя в нарушение правил охраны труда, в ходе устранения неполадок электрооборудования, допустил сотрудникам службы обслуживания электрооборудования демонтировать датчики фоторелейной защиты, установленные на технологическом проеме участка штабелирования плит меламинового прессования<...>, а также замкнуть их между собой, что позволило избежать отключения оборудования при срабатывании данных датчиков. При этом, указанные датчики фоторелейной защиты обеспечивали отключение оборудования при проходе через них человека, защищая тем самым работников от опасного воздействия движущихся механизмов производственного оборудования. После этого<...> С., являясь лицом, ответственным за соблюдение правил охраны труда, не сообщил об указанных неполадках вышестоящему руководству, не подал заявку на установку вышеуказанных датчиков в надлежащее место, а также не принял иных мер по обеспечению правил охраны труда на вверенном ему участке производства.
Далее<...> С., являясь лицом, на которое возложены обязанности по соблюдению правил охраны труда, достоверно зная, что <...> отключены датчики фоторелейной защиты, нарушая возложенные на него вышеуказанные обязанности, не создавая безопасных условий труда, не предвидя возможности наступления общественно-опасных последствий, хотя при необходимой внимательности и предусмотрительности должен был и мог предвидеть эти последствия, допустил к работе на линию с коротким циклом прессования контролера качества цеха <. > К., а также других сотрудников предприятиям.. >
Контролер качества цеха <...> К., находясь в цехе<...> с целью устранения неполадки прошел на участок штабелирования плит меламинового прессования <...> к столу, на котором находились защитные крышки (плиты). Далее К. освободил манипулятор от застрявшей защитной крышки (плиты), в результате чего манипулятор пришел в движение, ударил стоящего рядом К. и протащил его по пути своего следования через столы со сложенными на них плитами» [7]. Дело было прекращено в связи с примирением сторон.
А.Ю. Чупрова подчеркивает актуальность проблемы определения субъекта медицинских преступлений возникают в связи с появлением новых медицинских технологий, таких как роботассистированная хирургия и приводит некоторые случаи и рекомендации квалификации преступлений [15, с. 384-386].
В качестве орудий убийства могут использоваться автоматизированные транспортные средства, «умные дома», медицинские комплексы и т.д.
4. Создание баз данных из всевозможных источников, т.е. незаконное собирание и использование информации [14, с. 155].
5. Экстремистская и террористическая деятельность [14, с. 155-176].
6. Криминальная SD-печать: копирование и точное воспроизведение продукции, т.е. создание контрафактной продукции; воспроизводство ключей, изображенных на фотографиях (проникновения в помещения); незаконный оборот наркотических и прочих средств и веществ («химпьютеры»); незаконное изготовление оружия и т.д. [14, с. 176-179].
При изложении проекта концепции российской правовой политики в сфере ИИ А.В. Малько отмечает, что «нельзя забывать. об ограничивающих юридических инструментах (обязанностях, запретах, приостановлениях, ответственности и т.п.). Причем они должны быть задействованы в комплексе с нравственными требованиями. Постепенно приходит осознание необходимости принятия ограничительных норм права, устанавливающих юридические рамки защиты персональных данных, уважение человеческого достоинства, самостоятельности и самоопределения индивида, ответственности за причинение вреда (имущественного и неимущественного) при внедрении новых технологий.
Меры правового ограничения будут весьма полезными в области охраны и защиты прав граждан и юридических лиц от вредоносного воздействия умных машин»[13, с. 350].
Общие признаки преступления, осложненного ИИ целесообразно подразделять на общие, т.е. традиционно относящиеся к преступлению, и признаки, которые обычно относятся к составу преступления, но контекст нашего исследования вынуждает порой выходить за рамки состава и исследовать всю совокупность признаков (именно поэтому речь пойдет, например, не про объективную сторону состава, а про объективную сторону преступления вообще).
Общие признаки преступления, осложненного ИИ, отражают подчиненность данного понятия общему понятию преступления, поскольку в данном случае эти понятия соотносятся как видовое и родовое соответственно. Именно поэтому весь набор признаков преступления присущ и преступлению, осложненному ИИ. Однако традиционные признаки преступления «преломляются» и наделяются относительно специфическим содержанием в контексте преступления, осложненного ИИ. Строго говоря, объем каждого из данных признаков проходит определенную «спецификацию».
Далее следует раскрыть признак, который собственно и позволяет насыщать понятие преступления, осложненного ИИ, специальным и самостоятельным значением. Речь идет о признаке осложненности преступления ИИ или, если короче, о признаке осложненности.
Данным понятием мы постарались охватить все случаи функционирования ИИ, приводящие к уголовно-правовому дискурсу, т.е. к вопросу о наличии преступления в объективной действительности. То обстоятельство, что использование ИИ этимологически и лексически может указывать лишь на умышленное деяние, исследование преступления, совершенного с использованием ИИ, неоправданно ограничило бы круг вопросов, которые необходимо рассматривать сугубо вкупе и с применением и учетом единой методологический и концептуальной основы.
Именно в этой связи перед нами встала задача сконструировать термин, позволяющих охватить своим содержанием как преступления, совершенные с использованием ИИ (умышленные деяния), так и иные преступления, совершенные в условиях функционирования ИИ.
В целом, понятия преступления, совершенного в условиях функционирования ИИ, и преступления, осложненного ИИ, нами рассматриваются как тождественные. Конечно, смысловая нагрузка различна и зависит от целевой нагрузки использования того или другого термина.
Осложненность в данном контексте следует понимать не в реальном аспекте (как усложнение процесса совершения преступления), но в формальном - как неизбежное усложнение нормативных конструкций (мультимодальность и альтернативность ввиду дифференциации условий и характера деяния) и правоприменения (т.е. расследования и квалификации - установления обязательных признаков состава преступления). Именно на данном аспекте мы и делаем акцент, что подтверждает также и вынесением именно данного термина в название темы работы. В то же время, реальные условия функционирования ИИ детерминируют указанную формальную осложненность.
Таким образом, ключевой признак осложненности наличествует, когда искусственный интеллект является:
- орудием преступления, а его использование - способом (умышленные преступления, совершаемые с использованием искусственного интеллекта);
- элементом обстановки как признака объективной стороны (неосторожные преступления, осложненные искусственным интеллектом);
- бесконтрольным актором деяния;
- предметом преступления или его элементом (сложности нормативной (формальной) и действительной (реальной) оценки опасности деяния) (вооружение и военная техника, оружие, информация и т.д.).
При этом следует отметить, что в уголовно-правовом дискурсе вполне оправдано вести речь об осложненности искусственным интеллектом деяния вообще, поскольку частный случай объективации данного признака может
выступить в контексте наличия обстоятельств, исключающих преступность деяния, либо в отношении не криминализованных общественно опасных деяний (при обосновании необходимости их криминализации).
Таким образом, преступление, осложненное искусственным интеллектом (ИИ-преступление) - это виновно совершенное в условиях функционирования технологий искусственного интеллекта общественно опасное деяние, запрещенное уголовным законом под угрозой наказания.
Осложненность в данном контексте следует понимать не в материальном аспекте (как усложнение процесса совершения преступления), но в формальном - как неизбежное усложнение нормативных конструкций (мультимодальность и альтернативность ввиду дифференциации условий и характера деяния) и правоприменения (т.е. расследования и квалификации - установления обязательных признаков состава преступления).
С развитием технологий ИИ в практике значительно увеличится число преступлений, совершаемых в форме небрежного бездействия. Данное обстоятельство актуализирует вопрос трансформации формулы небрежности посредством исключения в ряде обстоятельств (специальные случаи «взятия обязанности») элемента возможности предвидения общественно опасных последствий с сохранением элемента долженствования.
Мы полагаем, что использование технологий ИИ при совершении преступления нецелесообразно рассматривать в качестве одного из обстоятельств, отягчающих наказание, т.е. в контексте его индивидуализации (ст. 63 УК) [10, с. 74], поскольку данный признак существенно повышает общественную опасность того или иного преступного деяния, что необходимо учитывать в рамках дифференциации ответственности и самостоятельной криминализации.
С.А. Аверинская и А.А. Севастьянова предлагают дополнить уголовный закон запретом на создание и использование искусственного интеллекта в целях, не предусмотренных законодательством (злонамеренных), если деяние повлекло причинение вреда объектам уголовно-правовой охраны. Данные авторы
отвергают введение использования ИИ в качестве квалифицирующего признака в ряд статей УК, поскольку «применение искусственного интеллекта настолько широко, как и человеческой деятельности, что в таком случае возникнет необходимость включения данного признака в каждый состав преступления, что не является целесообразным... Поэтому целесообразно ввести новый состав преступления» [8].
Мы присоединяемся к предложению Н.В. Летёлкина о криминализации использования ИТС при совершении преступлений [12, с. 13, 154], развивая смежный подход и относительно необходимости криминализации создания или распространения технологий ИИ, заведомо предназначенных для использования при совершении преступлений, а равно использование технологий ИИ при совершении преступлений, в рамках самостоятельных составов преступлений. Данный шаг позволит произвести своеобразную кодифицикацию и обобщение внутри Особенной части УК (в отношении ИТС) и учесть нарастающую опасность преступного использования технологий ИИ. Конструирование самостоятельных «составов преступного использования» позволит охватить все возможные случаи использования современных информационных технологий (ИТС и ИИ) при совершении преступлений.
Вариант изложения данных норм:
«Статья 2731. Использование информационно-телекоммуникационных сетей при совершении преступлений
1. Использование информационно-телекоммуникационных сетей при совершении преступлений небольшой или средней тяжести -
наказывается штрафом в размере от двухсот до пятисот тысяч рублей, либо обязательными работами на срок до четырехсот восьмидесяти часов, либо исправительными работами на срок до двух лет, либо принудительными работами на срок до трех лет, либо лишением свободы на тот же срок.
2. Использование информационно-телекоммуникационных сетей при совершении тяжких или особо тяжких преступлений -
наказывается штрафом в размере от пятисот тысяч до одного миллиона пятисот тысяч рублей, либо принудительными работами на срок от двух до пяти лет, либо лишением свободы на тот же срок.»;
«Статья 273. Преступный оборот и использование технологий искусственного интеллекта
1. Создание, приобретение или распространение технологий искусственного интеллекта, заведомо предназначенных для использования при совершении преступлений, а равно использование технологий искусственного интеллекта при совершении преступлений небольшой или средней тяжести -
наказывается штрафом в размере от пятисот тысяч до одного миллиона пятисот тысяч рублей, либо принудительными работами на срок от двух до пяти лет, либо лишением свободы на тот же срок.
2. Использование технологий искусственного интеллекта при совершении тяжких или особо тяжких преступлений -
наказывается лишением свободы на срок от трех до десяти лет.».
Одновременно с криминализацией использования ИТС при совершении преступлений в качестве самостоятельного преступления необходимо исключить аналогичную конструкцию, используемую в качестве квалифицирующего признака, из норм Особенной части УК, в которых данный признак не повышает общественную опасность деяния существенно (нет смены категории преступления на тяжкую).
В тех же исключительных случаях, когда использование ИТС или технологий ИИ существенно повышает общественную опасность деяния (со сменой категории на одну или более ступеней, но только в тех случаях, когда категория преступления меняется на тяжкую) либо получило или потенциально способно получить широкое распространение, необходимо предусмотреть признак совершения преступления с использованием ИТС, а также признак использования технологий ИИ в качестве квалифицирующего обстоятельства, изменяющего категорию преступления (т.н. «учтенная совокупность»). Причем признак совершения преступления с использованием
технологий ИИ повышает общественную опасность значительнее, нежели признак совершения с использованием ИТС ввиду отличия характера и повышенного криминогенного потенциала самих технологий.
Ответственность за преступления, связанные с распространением криминогенной информации, необходимо дифференцировать путем конструирования квалифицированных составов преступлений, содержащих признаки
а) использования технологий ИИ или ИТС (в тех случаях, когда это целесообразно);
б) достижения цели распространения такой информации, т.е., например, совершения призываемыми действий, к которым осуществлялись публичные призывы, с единой санкцией, поскольку использование технологий ИИ при совершении указанных преступлений способно существенно повысить эффективность распространения криминогенной информации и, собственно, породить в качестве следствия цепь преступлений.
В тех случаях, когда использование технологий ИИ нецелесообразно включать в качестве квалифицирующего признака, возможен отказ от его включения в систему дифференциации ответственности за то или иное преступление с сохранением квалифицирующего значения достижения цели призывов (осуществления действий призываемыми). В соответствующих ситуациях потребуется квалификация по совокупности основного преступления с соответствующей частью проектируемой ст. 2732 УК.
Одновременное использование технологий ИИ и ИТС при совершении преступления (преступлений) должно исключать квалификацию по совокупности основного преступления со ст.ст. 2731 и 2732 УК. Мы полагаем, что в таком случае необходимо использовать концепцию «бесконкурентного» поглощения составов (разновидность поглощения при совершении нескольких деяний, существенно различающихся по степени общественной опасности, когда данные деяния посягают на один и тот же родовой (даже видовой, согласно проекту) объект и выступают частями единого процесса преступного поведения).
Следовательно, в таких случаях потребуется квалификация основного преступления по совокупности только со ст. 2732 УК.
Конструкция проектных ст.ст. 273 и 2732 УК исключает реальную совокупность тождественных преступлений при использовании технологий ИИ или ИТС в рамках двух или более преступлений, поскольку указывает на «использование при совершении преступлений». Количество основных преступлений, интенсивность и частота использования ИИ и ИТС при их совершении должны учитываться судом при назначении и индивидуализации наказания.
Список литературы:
1. Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"» (вступ. в силу с 01.07.2020) // Российская газета, № 92, 28.04.2020.
2. Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СЗ РФ, 14.10.2019, № 41, ст. 5700.
3. Указ Президента Российской Федерации от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» // СЗ РФ, 15.05.2017, № 20, ст. 2901.
4. Послание Президента Российской Федерации Федеральному Собранию Российской Федерации от 15.01.2020 // Российская газета, № 7, 16.01.2020.
5. Послание Президента Российской Федерации Федеральному Собранию Российской Федерации от 20.02.2019 // Российская газета, № 38, 21.02.2019.
6. Послание Президента Российской Федерации Федеральному Собранию Российской Федерации от 01.03.2018 // Российская газета, № 46, 02.03.2018.
7. Постановление Елабужского городского суда (Республика Татарстан) № 1-148/2019 от 20 мая 2019 г. по делу № 1-148/2019 // Судебные и нормативные акты Российской Федерации. URL : https://sudact.ru/regular/doc/XnQJFvkHb6l0/ [Дата обращения: 08.06.2020].
8. Аверинская С.А., Севастьянова А.А. Создание искусственного интеллекта с целью злонамеренного использования в уголовном праве Российской Федерации // Закон и право. 2019. № 2. С. 94-96.
9. Бегишев И.Р., Хисамова З.И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12. № 6. C. 767-775.
10. Букалерова Л.А., Уторова Т.Н., Сизов Д.О. К вопросу о значении искусственного интеллекта в уголовном праве // Пенитенциарная наука. 2020. Т. 14. № 1. С. 70-75.
11. Латухина К. Путин назвал условие господства в мире // Официальный сайт Российской газеты. URL: https://rg.ru/2019/05/30/putin-nazval-uslovie-gospodstva-v-mire.html (Дата обращения: 08.06.2020).
12. Летёлкин Н.В. Уголовно-правовое противодействие преступлениям, совершаемым с использованием информационно-телекоммуникационных сетей (включая сеть «Интернет»). Дис. ... канд. юрид. наук. Н. Новгород, 2018. - 218 с.
13. Малько А.В. Проект концепции российской правовой политики в сфере искусственного интеллекта как доктринальный документ // Балтийский гуманитарный журнал. 2019. Т. 8. № 4. С. 348-352.
14. Овчинский В.С. Криминология цифрового мира: учебник для магистратуры. М.: Норма, 2018. 351 с.
15. Чупрова А.Ю. Уголовно-правовое регулирование отношений в сфере электронной коммерации. Дис. ... докт. юрид. наук. М., 2015. 608 с.
