CC BY
174УДК 343.9 ББК67.61
DOI 10.24411/2073-3313-2019-10064
СОЗДАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ЦЕЛЬЮ ЗЛОНАМЕРЕННОГО ИСПОЛЬЗОВАНИЯ
____V V _ _
В УГОЛОВНОМ ПРАВЕ РОССИЙСКОЙ ФЕДЕРАЦИИ
Светлана Александровна АВЕРИНСКАЯ, доцент кафедры уголовного права Иркутского государственного университета, Юридический институт, кандидат юридических наук, доцент E-mail: aver27@mail.ru
Ангелина Алексеевна СЕВОСТЬЯНОВА, студентка Иркутского государственного университета, Юридический институт E-mail: SevostyanovaW@mail.ru
Научная специальность: 12.00.08 — уголовное право и криминология;
уголовно-исполнительное право
Аннотация. Статья посвящена выявлению перспективных направлений в области уголовно-правовой охраны и защиты прав по использованию искусственного интеллекта. Проведен анализ общественных отношений, сложившихся в области создания и использования искусственного интеллекта. Рассматривается возможность введения в Уголовный кодекс РФ нового состава преступления, предусматривающего ответственность за применение искусственного интеллекта в преступных целях.
Ключевые слова: искусственный интеллект, состав преступления, правосубъектность.
Annotation. The article is devoted to identifying promising areas in the field of criminal law protection and enforcement of rights to use artificial intelligence. The analysis of public relations, established in the field of creation and use of artificial intelligence. The possibility of introducing a new offense into the Criminal Code of the Russian Federation, which provides for responsibility for the use of artificial intelligence for criminal purposes, is being considered.
Keywords: artificial intelligence, corpus delicti, legal personality.
Для того чтобы понять необходимость введения в Уголовный кодекс РФ нового состава преступления, необходимо проанализировать понятие искусственного интеллекта. Его сущность будет определяться той областью, в которой будет применяться искусственный интеллект, а также целью его применения. Общепризнанного определения данного понятия, определения понятия на международном уровне, а также законодательного определения данного понятия нет, что существенно усложняет регулирование его правоприменения. В целом принято считать, что искусственный интеллект связан с созданием и функционированием потенциально способных делать и делающих то (как презюмируется), что требует определенной степени разума (интеллекта), разумности.
Для того чтобы сформировать определение понятия искусственного интеллекта применительно к уголовному праву, необходимо затронуть дифференциацию искусственного интеллекта, так как очень важно, чтобы регулирование правоотношений было наиболее полным.
На сегодняшний день выделяют слабый и сильный интеллект. «Слабый» искусственный интеллект считается способным выполнять определенные виды задач и ими же ограничен. «Сильный» же искусственный интеллект (называемый еще «общим искусственный интеллектом») представляет собой реальный или гипотетический тип названной технологии, который может достичь или превысить уровень человеческого интеллекта и применять свои способности решения задач к любым проблемам, подобно человеческому мозгу.
ЗАКОН И ПРАВО • 02-2019
Да, на создание такого интеллекта понадобится не один десяток лет, но, по нашему мнению, законотворчество должно регулировать общественные отношения, нормы не должны создаваться тогда, когда уже возникнет пробел1.
Интеллект — это очень сложная область знаний, которую невозможно описать при помощи какой-то одной теории. При существовании неопределенности соответственно возрастет число преступлений, так как будет существовать множество способов для обхода закона2.
Рэймонд Курцвейл выводит интерпретацию искусственного интеллекта через понятие машин, выполняющих функции, которые требуют интеллектуальных способностей при их реализации человеком3.
A.B. Шилейко4 выделил две группы дефиниций:
1) некоторая машина определяется как искусственный интеллект, если она успешно моделирует хотя бы одну из функций, традиционно относимых к сфере разумной деятельности;
2) некоторая машина определяется как искусственный интеллект, если она оказывается способной выполнить хотя бы одну из функций, которые выполняет разумное существо.
Д.В. Смолин приводит следующую интерпретацию исследуемого понятия «искусственный интеллект»: система, компьютерно-моделирующая разумное мышление и поведение человека5.
При исследовании данного вопроса мы прибегли к аналогии с понятием «человек». Существование понятия зависит от сферы жизнедеятельности, отметим, что об этом мы писали и применительно к искусственному человеку, каждая отрасль знаний дает свое собственное определение, присущее только ей; тем не менее, законодательного определения понятия мы никогда не найдем. Поэтому любая норма уголовного закона так или иначе связана с человеком.
Данные рассуждения приводят нас к тому, что мы отвергаем введение искусственного интеллекта как квалифицирующего признака в ряд статей Уголовного кодекса. Это связано с тем, что применение искусственного интеллекта настолько широко, как и человеческой деятельности, что в таком случае возникнет необходимость включения данного признака в каждый состав преступления, что не является целесообразным. Его неоднозначность подтверждается и приведенными выше понятиями. Поэтому целесообразно ввести новый состав преступления.
Искусственный интеллект — субъект преступления или способ его совершения?
Слабый искусственный интеллект совершает те действия, которые были запрограммированы в него, он является алгоритмом, соответственно признаком воли он обладать не может, собственных интересов тоже нет, есть лишь интерес лица, который его создал; он выполняет действия, которые ему «поручили».
Сильный же интеллект обладает разумностью. Это реальная репродукция естественного интеллекта. Он способен:
■ к выделению существенного в наличествующих знаниях, т.е. к целеполаганию и планированию поведения (формированию последовательностей: целеполага-ние — планирование — действие);
■ к извлечению следствий из имеющихся знаний, т.е. к рассуждению, что может содержать правдоподобные (используемые для выдвижения гипотез) и достоверные выводы;
■ к аргументированному принятию решений.
Таким образом, вопрос о правосубъектности — вопрос сложный. Ведь «нечто» наделяется разумом, волей. В данном случае, как представляется, нужно признать сильный искусственный интеллект как субъект уголовного права.
Соответственно, вопрос об уголовно-правовой ответственности двух рассматриваемых объектов будет решен по-разному. Совершенно точно, что при использовании слабого интеллекта ответственность несет то лицо, которое его создало. Оно является непосредственным исполнителем, а искусственный интеллект выступает лишь в качестве способа совершения преступления.
Если же преступное деяние было совершено сильным интеллектом, то в этом случае вопрос об ответственности данного субъекта вызывает дискуссии; все зависит от того, насколько разработан сильный интеллект. Так как сильный интеллект не предполагает руководство его действиями, за ним не стоит человеческий разум. Да, создателями явились люди, и мотив создания может быть благородным, научным, но определяет свое поведение интеллект уже самостоятельно. На наш взгляд, если он достигнет того уровня, который предполагают современные ученые, то искусственный интеллект — это субъект ответственности.
Объектом преступления будут являться общественные блага, обеспечивающие нормальное функционирование, развитие и использование искусственного интеллекта. Например, в случае использования искусственного интеллекта в
ЗАКОН И ПРАВО • 02-2019
публичном управлении должно быть обеспечено соблюдение важнейших принципов публичного управления.
Одной из потенциальных проблем применения искусственного интеллекта в таких сферах, как реализация публичного управления либо оказание юридических услуг, может отсутствовать надлежащая прозрачность деятельности подобных систем, и в особенности в процессе принятия решений данными системами.
Так, по мере того, как алгоритмы искусственного интеллекта становятся все более развитыми, затруднительным становится и понимание человеком их внутреннего функционирования, которое зачастую не могут объяснить даже сами разработчики таких систем.
Кроме того, поскольку подобного рода системы самоорганизуются, они, по сути, не имеют внешнего руководства, во всяком случае, если говорить не о чисто формальном внешнем руководстве. Общественные блага могут подвергаться злонамеренным действиям в сфере конфиденциальности, данная проблема является наиболее острой, если речь идет о некоторых отдельных сферах, таких, как оказание медицинской помощи с задействованием рассматриваемых технологий.
Здоровье, жизнь граждан также подвержены действиям искусственного интеллекта, с его помощью можно совершать убийства. Собственность тоже является предметом преступления со стороны искусственного интеллекта, совершение деяния возможно при помощи дронов (отдельные составы мошенничества) и т.д. Особенно ярко это проявляется в краже больших данных, архитектур, доменных имен, результатов интеллектуальной собственности.
Предмет преступления зависит от основного состава преступления.
Потерпевший — любой гражданин, юридическое лицо — может отсутствовать вовсе.
Объективная сторона преступления — это всегда активные действия лица, направленные на создание, использование искусственного интеллекта в целях, не предусмотренных законодательством (злонамеренных), повлекшие причинение вреда объектам, охраняемым уголовным законом.
Подчеркнем, что действия, составляющие объективную сторону, должны быть альтернативными. Так, создание искусственного интеллекта — это действия по формированию сложных алгоритмов для совершения противоправных действий в отношении объектов, охраняе-
мых уголовным законом, а равно создание алгоритма, действия которого становятся непредсказуемыми и неподконтрольными человеку.
Искусственный интеллект (несмотря на то, что он был создан не с целью, противоречащей нормам уголовного права) может быть применен для совершения преступлений, предусмотренных Особенной частью уголовного закона; и если в результате совершения данного преступления наступившие общественно опасные последствия последовали из-за непосредственных действий искусственного интеллекта, то данный состав преступления считается оконченным.
Но не следует забывать и про основной состав преступления; на наш взгляд, данная норма должна применяться в совокупности — совершенного преступления по соответствующей статье Особенной части Уголовного кодекса Российской Федерации.
Данный состав преступления является материальным. Прежде всего, это необходимо для того, чтобы не ограничивать сферу научной деятельности, так как разработка искусственного интеллекта — это процесс непредсказуемый, а наступление ответственности лишь за создание новшества приведет к массовому наказанию всех разработчиков.
Субъект преступления — вменяемое физическое лицо, достигшее возраста 16 лет.
Субъективная сторона — наличие прямого умысла с целью облегчения совершения преступления, предусмотренного Особенной частью уголовного закона.
1 Legg S., Hutter M. A Formal Definition of Intelligence for Artificial Systems [Формальное определение интеллекта для искусственных систем]. 2 p. P.1 // http:// www.vetta.org/documents/ universal_intelligence_ abstract_ ai50.pdf -
2 Preparing for the future of artificial intelligence [Подготовка к будущему искусственного интеллекта] / Executive Office of the President National Science and Technology Council Committee on Technology of USA. 48 p. P. 6 // https://obamawhitehouse.archives.gov/sites/default/files/ whi tehouse_files/microsites/ostp/NSTC/preparing_for_ the_future_of_ai.pdf
3 Kurzweil R. The Age of Intelligent Machines [Век интеллектуальных машин]. Cambridge (Massachusetts, USA): MIT Press, 1990.
4 Шилейко A.B. Дискуссии об искусственном интеллекте. М.: Знание, 1970. 48 с. С. 4—5.
5 Смолин Д.В. Введение в искусственный интеллект: Конспект лекций. М.: Физматлит, 2004. 208 с. С. 15—17.
ЗАКОН И ПРАВО • 02-2019
