CC BY
32DOI 10.47576/2712-7516_2021_5_1_92 УДК 355/359:004.8
ПРИМЕНЕНИЕ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ИНТЕРЕСАХ ОБЕСПЕЧЕНИЯ ОБОРОНОСПОСОБНОСТИ СТРАНЫ: КРАТКИЙ ОБЗОР ПРОБЛЕМНЫХ ВОПРОСОВ ПРАВОВОГО РЕГУЛИРОВАНИЯ
Кепов Виталий Анатольевич,
кандидат юридических наук, слушатель, Военный университет Министерства обороны Российской Федерации, г. Москва, Россия, е-mail: kepov69@mail.ru
В статье рассмотрены наиболее общие проблемные вопросы правового регулирования применения технологий искусственного интеллекта в интересах обеспечения обороноспособности страны. Среди ключевых проблем, препятствующих использованию данных технологий в обеспечении обороноспособности государства, выделяются отсутствие доверия к системам различного назначения, использующим технологии искусственного интеллекта, со стороны должностных лиц органов военного управления; необходимость соблюдения баланса между требованиями по обеспечению безопасности информации и использованием такой информации для обучения систем и др. Делается вывод о необходимости создания федерального органа исполнительной власти, а также профильных подразделений в федеральных министерствах и ведомствах, отвечающих за вопросы разработки, внедрения и применения технологий искусственного интеллекта.
Ключевые слова: государство; закон; искусственный интеллект; исключительные права; обороноспособность; технологии; робототехника; результат интеллектуальной деятельности.
UDC 355/359:004.8
APPLICATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN THE INTERESTS OF ENSURING THE DEFENSE OF THE COUNTRY: A BRIEF OVERVIEW OF PROBLEM ISSUES OF LEGAL
REGULATION
Kepov Vitaly Anatolievich,
PhD in Law, student, Military University of the Ministry of Defense of the Russian
Federation, Moscow, Russia, e-mail: kepov69@mail.ru
The article discusses the most common problematic issues of legal regulation of the use of artificial intelligence technologies in the interests of ensuring the country's defense capability. Among the key problems that hinder the use of these technologies in ensuring the defense capability of the state, there is a lack of confidence in systems for various purposes using artificial intelligence technologies on the part of officials of military command and control bodies; the need to maintain a balance between the requirements for ensuring the security of information and the use of such information for training systems, etc. It is concluded that it is necessary to create a federal executive body, as well as specialized units in federal ministries and departments responsible for the development, implementation and application of artificial intelligence technologies.
Keywords: state; law; artificial intelligence; exclusive rights; defense capability; technologies; robotics; the result of intellectual activity.
В соответствии с Указом Президента России от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской
Федерации» была разработана и принята Национальная стратегия развития искусственного интеллекта на период до 2030 года, в
которой определены цели и основные задачи развития искусственного интеллекта в Российской Федерации, а также установлено, что использование данных технологий в отраслях экономики должно носить общий («сквозной») характер и способствовать созданию условий для улучшения эффективности и формирования принципиально новых направлений деятельности хозяйствующих субъектов.
Разработка и принятие указанных документов основаны на том, что в мире фактически ведется гонка инновационных вооружений на основе технологий искусственного интеллекта, в которую втянуты все ведущие державы. Так, например, США и Китай стремятся занять лидирующие позиции в области исследования возможностей искусственного интеллекта и внедрения полученных результатов в новейшие образцы различных систем вооружения.
По мнению ряда юристов, основные понятия, содержащиеся в указе, как правило, не являются в чистом виде правовыми, а представляют собой сложные научно-технические понятия, которые находятся на пересечении различных сфер научного знания - естественно-научной, технической и социально-гуманитарной [2]. Ввиду этого используемый понятийный аппарат не вполне совершенен в силу несовместимости и влияния условий разработки и применения технологий искусственного интеллекта в разных научных сферах.
В определенной мере несовершенство понятийного аппарата вследствие устойчивых причинно-следственных связей военного дела с другими сферами человеческой деятельности способствует наличию и других проблем регулирования разработки и использования технологий искусственного интеллекта и робототехники в военном деле.
В настоящее время в юридическом сообществе укоренилось мнение, что для устранения этого противоречия с правотворческой и правоприменительной точки зрения с определенными оговорками могут рассматриваться две инициативы:
1) предложения по разработке и принятию федерального закона, регулирующего правоотношения в сфере технологий искусственного интеллекта;
2) предложения по созданию федерального органа исполнительной власти (службы или агентства) по искусственному интеллекту и робототехнике, который мог бы осуществлять контрольно-надзорные функции в данной области, вести учет существующих и планируемых разработок, выступать создателем нормативных правовых актов, регулирующих данную сферу деятельности [3].
До 2024 г. в области регулирования право -отношений в сфере разработки и применения технологии искусственного интеллекта может применяться Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденная распоряжением Правительства Российской Федерации от 19.08.2020 № 2129-р.
Концепция является первым документом, заложившим в нашей стране основы нормативного регулирования использования технологий искусственного интеллекта и робототехники. В ней определяются основные подходы к созданию в России системы нормативного регулирования развития указанных технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности общества и государства.
Вместе с тем нормативно-правовые возможности концепции носят ограниченный характер, поскольку она является подзаконным актом и срок ее действия ограничен. Кроме того, требования о совершенствовании регулирования отраслевых направлений создания и применения технологий искусственного интеллекта и робототехники в военном деле, содержащиеся в документе, не в полной мере носят характер прямого действия, так как по тексту документа только косвенно упомянут термин «технологии искусственного интеллекта двойного назначения».
Данные обстоятельства неминуемо потребуют:
- заключения значительного числа рамочных соглашений между субъектами, разрабатывающими и внедряющими технологий искусственного интеллекта и робототехники, в том числе в сфере обороны государства;
- создания и утверждения распорядительного документа, определяющего разработку и принятие законодательного акта, регулирующего правоотношения в сфере технологий
искусственного интеллекта и робототехники, в том числе военного назначения.
Вышеупомянутый распорядительный документ фактически станет новой концепцией, поскольку в ней должен найти отражение научно-практический подход к разрешению проблем нормативного правового регулирования вопросов разработки и применения технологий искусственного интеллекта и робототехники, и который будет основан на реальной информации о предмете правового регулирования.
При этом правовая неопределенность в части возникновения, пользования и распоряжения исключительными правами на результаты искусственного интеллекта, созданные с помощью данной технологии, останется и будет существовать до момента принятия полного пакета необходимых законодательных и нормативных правовых актов.
Предложения по созданию федерального органа исполнительной власти по искусственному интеллекту и робототехнике, а также введению поста профильного вице-премьера остаются пока на стадии проработки. При этом предлагаемая к созданию федеральная служба (или агентство) могла бы осуществлять нормотворческие и контрольно-надзорные функции в области искусственного интеллекта и робототехники, вести учет и статистику развития данной области. Соответствующее кураторство целесообразно возложить на вице-премьера или наделить его функциями уже действующих членов Правительства Российской Федерации на уровне вице-премьера или советника Президента Российской Федерации для координирования рассматриваемых вопросов.
Из анализа содержания Указа «О развитии искусственного интеллекта в Российской Федерации» следует, что одной из важнейших задач при разработке технологий искусственного интеллекта является создание комплексного регулирования общественных отношений, возникающих в связи с развитием и использованием данных технологий, включая выработку соответствующих этических правил взаимодействия человека с искусственным интеллектом .
В соответствии со ст. 1257 ГК РФ автором произведения науки, литературы или искусства признается гражданин, творческим трудом которого оно создано.
Руководствуясь данной нормой закона, большинство юристов обоснованно считают, что искусственный интеллект не может выступать субъектом права, но при этом признают, что роботы могут совершать автономные действия, для которых весьма актуальны правила, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод»:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому правилу.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму правилам [1].
В настоящее время роботы не признаются в качестве субъекта права, их приравнивают к вещи, которая или посредством которой могут быть созданы результаты интеллектуальной деятельности. Роботы не наделены правами и не несут ответственность. Соответственно, робот не может нести ответственность за вред, который им причинен. По общему правилу за все действия робота несет ответственность человек.
Между тем в перспективе деятельность робота может быть приравнена к деятельности создавшего его (заложившего в него интеллект) человека. Правообладателем (автором) результата такой деятельности может быть признан человек, управляющий роботом, использующий его для создания того или иного действия или объекта права. Но при этом требует детального обсуждения вопрос, можно ли назвать результатом интеллектуальной деятельности то, что создано роботом.
Юристы, занимающимися вопросами правового регулирования в сфере робототехники, предлагают четыре типа действий робота, за которые у его владельца должна наступать уголовная ответственность:
1. Конструирование робота-убийцы специально для совершения правонарушения.
2. Отключение программных и аппаратных функций, блокирующих возможность действий или бездействий для причинения вреда человеку.
3. Конструирование робота, способного причинить вред человеку.
4. Конструирование робота без осознания того, что он может быть использован для причинения вреда человеку.
В условиях, когда необходимый федеральный закон еще не принят и профильный федеральный орган исполнительной власти не создан, открытыми остаются ответы на вопросы: кто является автором и обладателем исключительного права на результат интеллектуальной деятельности систем, созданных на основе технологий искусственного интеллекта; как и каким образом будут регулироваться отношения субъектов прав в этой области.
С учетом вышесказанного перечень ключевых проблем, препятствующих использованию технологий искусственного интеллекта в обеспечении обороноспособности государства, включает:
- отсутствие полного доверия к системам различного назначения, использующим технологии искусственного интеллекта, со стороны должностных лиц органов военного управления;
- жесткая необходимость соблюдения баланса между требованиями по обеспечению безопасности информации и необходимостью использования такой информации для обучения систем с искусственным интеллектом;
- определение предмета и границ регулирования сферы использования технологий искусственного интеллекта;
- установление правового режима для результатов, полученных в результате применения технологий искусственного интеллекта, а также ответственности за причинение вреда различным субъектам системы, в работе которых применяются технологии искусственного интеллекта.
Полагаем, что для их оперативного купирования потребуется решение следующих задач:
- создание федерального органа исполнительной власти, а также профильных подразделений в федеральных министерствах и ведомствах, отвечающих за вопросы разработки, внедрения и применения технологий искусственного интеллекта;
- разработка и принятие законодательных и нормативных правовых актов, позволяющих использовать технологии ИИ в интересах обеспечения обороноспособности страны;
- проведение научно-исследовательских и опытно-конструкторских работ, целью которых является отработка применения технологий искусственного интеллекта для принятия решений в сфере обеспечения обороноспособности страны.
Список литературы_
1. Азимов, А. Хоровод : научно-фантастический рассказ / А. Азимов. - Москва : Знание, 1963.
2. Андреев, В. К. Динамика правового регулирования применения искусственного интеллекта / В. К. Андреев // Журнал российского права. - 2020. - № 3. - С. 58-68.
3. Портал выбора технологий и поставщиков. Все законы робототехники: «Как будут законодательно регулировать машины с искусственным интеллектом». - URL: https://www.tadviseгru/index.php/Статья:Законодательство _и_налоги_для_роботов (дата обращения: 01.09.2021).
References _
1. Azimov A. Xorovod: nauchno-fantasticheskij rasskaz. Moskva : Znanie, 1963.
2. Andreev V.K. Dinamika pravovogo regulirovaniya primeneniya iskusstvennogo intellekta. Zhurnal rossijskogo prava. 2020. № 3. S. 58-68.
3. Portal vybora texnologij i postavshhikov. Vse zakony robototexniki: «Kak budut zakonodatel'no regulirovat' mashiny s iskusstvennym intellektom». URL: https://www.tadviser.ru/index.php/Stat'ya:Zakonodatel'stvo_i_nalogi_ dlya_robotov (data obrashheniya: 01.09.2021).
