CC BY
53
8. МЕЖДУНАРОДНОЕ ПРАВО, ЕВРОПЕЙСКОЕ ПРАВО (СПЕЦИАЛЬНОСТЬ 12.00.10)
8.1. Основа правового регулирования развития и применения искусственного интеллекта в военной сфере Китая в контексте государственной стратегии и охраны авторских и патентных прав
©Беликова Ксения Михайловна
Российский университет дружбы народов, г. Москва, Россия [email protected]
Аннотация
Настоящая статья нацелена на обозначение подходов Китая (страны-участницы БРИКС), реализуемых для решения вопросов этичности и правового регулирования развития и применения искусственного интеллекта в военной сфере Китая в контексте государственной стратегии и охраны авторских и патентных прав. Отправной точкой исследования служит наблюдаемое воплощение идеи о том, что вхождение искусственного интеллекта (далее - ИИ) в жизнь человека - это новая реальность, в которой мы живем. В этом формате в статье на основе аналитических размышлений над сведениями, почерпнутыми из источников и литературы, анализируются положения подходов Китая, создающих паттерны допустимости применения летальных автономных систем вооружений, оснащённых ИИ, ее потенциал и существующая этико-юридическая основа. Актуальность, теоретическая и практическая значимость такого исследования обусловлена тем, что ряд подходов законодательства может быть полезен при поиске ответов на аналогичные вопросы, связанные с разработкой подобного вооружения нашей страной, и тем, что настоящее исследование служит некоторому восполнению имеющегося пробела в освещении этико-правовых подходов зарубежных стран в исследуемой сфере в современный период. Авторские результаты представлены в идее о том, что выступление Китая с предложением запрета летальных автономных систем вооружения основано на неких прагматических представлениях, основывающихся на уже имеющихся у него достижениях и прогрессе, в русле стремления к мировому первенству в сфере разработки и применения ИИ в различных сферах, включая военное назначение. Этому косвенно способствует и имеющееся и развиваемое рассмотренное законодательство об интеллектуальной собственности.
Ключевые слова: БРИКС, Китай, искусственный интеллект, военные технологии, автономные системы вооружений, оснащённые искусственным интеллектом, летальные системы вооружений, законодательство об интеллектуальной собственности, компьютерные программы, служебные изобретения.
Благодарности: Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-15030 мк.
Для цитирования: Беликова К.М. Основа правового регулирования развития и применения искусственного интеллекта в военной сфере Китая в контексте государственной стратегии и охраны авторских и патентных прав // Пробелы в российском законодательстве. 2020. Т. 13. №5. С. 223-233.
Basis of legal regulation of development and application of artificial intelligence in the military sphere of China in the context of state strategy and protection of copyright and patent rights
©Belikova Ksenia Michailovna
Peoples' Friendship University of Russia (RUDN University), Moscow, Russia [email protected]
Abstract
This article is aimed at identifying the approaches of China (the ERICS member state) that are being implemented to address the issues of ethics and legal regulation of the development and application of artificial intelligence in the military sphere of China in the context of state strategy and copyright and patent protection. The starting point of the re-search is the observed implementation of the idea that the entry of artificial intelligence (hereinafter - AI) into human life is a new reality in which we live. In this format, the article analyzes the provisions of China's approaches that create patterns of permissibility of the use of lethal autonomous weapons systems based on AI, its potential, and the existing ethical and legal basis, based on analytical reflections on the information gathered from sources and literature from the list of references. The relevance, theoretical and practical significance of such a study is due to the fact that a number of legal and ethical approaches can be useful in finding answers to similar questions related to the development of such weapons by our country, and the fact that this study serves to fill some gap in the coverage of ethical and legal approaches of foreign countries in the field under study in the modern period. The author's results are presented in the idea that China's proposal to ban lethal autonomous weapons systems is based on some pragmatic ideas referred to its existing achievements and progress, in line with the desire for world leadership in the development and application of AI in various fields, including military application that is indirectly facilitated by the existing and developing considered legislation on intellectual property.
Keywords: ERICS, China, artificial intelligence, military technologies, autonomous weapons systems equipped with artificial intelligence, lethal weapons systems, intellectual property legislation, computer programs, work (invention) created in the course of employment.
Acknowledgements: The reported study was funded by RFER according to the research project No 18-29-15030 mk.
For citation: Eelikova K.M. Basis of legal regulation of development and application of artificial intelligence in the military sphere of China in the context of state strategy and protection of copyright and patent rights // Gaps in Russian legislation, 2020, Vol. 13, №5. Pp. 223-233. (in Russ.).
Введение
В настоящее время вхождение искусственного интеллекта (далее - ИИ) в жизнь человека у большинства обывателей и представителей власти практически не вызывает сомнений1. Применение различных форм ИИ в боевых действиях также потенциально имеет (может иметь) серьезные последствия. Именно поэтому уже сейчас выделяется ряд проблем этического и ориентированного на практику характера в связи с применением автономных систем вооружений, оснащённых искусственным интеллектом. Отмечается2, например, что такие системы не обладают эмоциями сострадания или милосердия, не могут руководствоваться принципами соразмерности и военной необходимости, у них нет способности делать субъективные выводы, они могут выйти из-под контроля человека и причинить ему вред3 и т.д.
Осмыслению и анализу вопросы, вызываемые фактом создания роботов, обладающих ИИ, посвящены научно-популярные произведения писателей-фантастов. Например, А. Азимов4 сформулировал три закона робототехники; А. Кларк5 показал угрозу для самого факта существования человека, таящуюся в развитом ИИ; Ф. Дик6 обозначил неизбежность возникновения проблемы самосознания ИИ, наличием в них личности, требующей прав наравне с людьми, и т.д.
В настоящее время дискутируются вопросы моральности и необходимости законодательного закрепления принципов, позволяющих разумно ограничивать и контролировать использование ИИ в военных целях7.
Учитывая, что знание иностранного опыта позволяло и позволяет успешней решать насущные проблемы правового регулирования в нашей стране, цель настоящей статьи состоит в рассмотрении подходов Китая
1 См., напр.: Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы. Дисс. докт. юрид. наук. - М., 2019. URL: http://dis.rgiis.ru/files/dis/d40100102/Morhat/morhat_p_m_dis-sertaciya.pdf (дата обращения: 28.08.2020) и др. работы этого автора; Scientific American: искусственный интеллект до сих пор не существует. URL: https://trends.rbc.ru/trends/industry/5dee31349a7-9473a01a23616?utm_source=yxnews&utm_medium=desktop (дата обращения: 28.08.2020) и др.
2 См.: Морхат П.М. Правовое регулирование автономных систем вооружений, оснащённых искусственным интеллектом: гарантия безопасности жизнедеятельности. // Организационно-правовое регулирование безопасности жизнедеятельности в современном мире. Сб. мат-лов Второй международной научно-практической конференции, Санкт-Петербург, 19-20 апреля 2018 г. / под ред. Э.Н. Чижикова. - СПб., 2018. - С. 170-173; Морхат П.М. К вопросу о соответствии автономных интеллектуальных систем вооружений принципам международного гуманитарного права. // Вестник военного права. - 2018. - № 2. - С. 58-65.
3 Как показано, напр., в художественных фильмах «Терминатор» ^м. по адресу https://www.kinopoisk.ru/film/507/ (дата обращения: 28.08.2020)), «Я - робот» ^м. по адресу https://www.kinopo-isk.ru/film/4886/ (дата обращения: 28.08.2020)) и др.
4 Азимов А. рассказ «Хоровод» ("Runaround") 1942 г. из цикла
«Галактическая история». URL: https://royallib.com/book/azimov_
ayzek/horovod.html (дата обращения: 28.08.2020)
(страны-участницы БРИКС), реализуемых для решения вопросов этичности и правового регулирования развития и применения искусственного интеллекта в военной сфере Китая в контексте государственной стратегии и охраны авторских и патентных прав.
С точки зрения подходов к достижению поставленной цели мы исходим из взгляда на предмет исследования с позиции значимости, необходимости, нуждаемости в получении ответов на поставленные в статье вопросы для развития общества, а также необходимости изучения подходов зарубежных правопорядков к исследуемым отношениям и разрешения спорных этических и правовых вопросов, возникающих в результате развития как новых технологий, так и научно-технического и морального прогресса в целом.
Новизна настоящего исследования в этом формате определяется самой ставящейся целью.
Теоретическая и практическая значимость полученных результатов определяется тем, что российским читателям будет предоставлена современная научная информация о подходах Китая к обозначенным сферам с позиции права и этики.
Дискуссия
- «План развития искусственного интеллекта нового поколения» 2017 г. и его воздействие на развитие некоторых новых военных технологий
В июле 2017 г. Государственный совет Китая опубликовал «План развития искусственного интеллекта нового поколения»8 (далее - План развития ИИ 2017 г.),
5 Художественный фильм «2001: Космическая одиссея» (см. по адресу https://www.kinopoisk.ru/film/380/ (дата обращения: 28.08.2020)), а также Артур Кларк: "2001: Космическая одиссея". 12 мая 2020 г. URL: https://zen.yandex.ru/media/id/5cbc-1ec4c6be9900b2455635/artur-klark-2001 -kosmicheskaia-odisseia-5eba41027d06cd0603045de0 (дата обращения: 28.08.2020)
6 Дик Ф.К. роман «Мечтают ли андроиды об электроовцах?» ("Do Androids Dream of Electric Sheep?") 1968 г. URL: http://lib.ru/INOFANT/DICKP/sheeps.txt (дата обр.: 28.08.2020),
а также «Мечтают ли андроиды об электроов-цах?» против «Бегущего по лезвию». 6 марта 2020. URL: https://zen.yandex.ru/media/ id/5c9b8621bb024c00b3658faf/mechtaiut-li-androidy-ob-elektroovcah-protiv-beguscego-po-lezviiu-5e629969cf715c1ee9b71e88 (дата обращения: 28.08.2020)
7 См., напр.: Как используют искусственный интеллект военные России и США? 21 August 2019. URL: https://zen.yandex.ru/media/ mcs/kak-ispolzuiut-iskusstvennyi-intellekt-voennye-rossii-i-ssha-5d5cfefdd7859b00ad3b12ea (дата обращения: 28.08.2020); Мы -материалисты. О применении ИИ в военном деле. URL: http://asu100.ru/robots2/AlarmRobot/AiQu/ai_aq.htm (дата обращения: 28.08.2020); Морхат П.М. Риски и угрозы, связанные с применением искусственного интеллекта. // Аграрное и земельное право. - 2017. - № 12(156). - С. 60-65 и др.
8 New Generation Artificial Intelligence Development Plan (ffi—ttA !%П^®Ш0). State Council Document [2017] No. 35. July 8, 2017. URL: https://flia.org/wp-content/uploads/2017/07/A-New-Generation-
который содержит стратегию КНР по созданию отечественной индустрии ИИ с финансированием в размере 150 млрд. долл. с тем, чтобы к 2030 г. стать ведущей державой в области применения и развития ИИ. Таким образом, развитие ИИ приобрело статус национального приоритета в рамках перспектив развития Китая. Впервые ИИ был упомянут в от-чете о работе Коммунистической партии Китая как продолжение 13-го пятилетнего плана (13th Five-Year Plan)9 и государственного плана промышленного развития «Сделано в Китае 2025» ("Made in China 2025", MIC 2025)10.
Отправной точкой Плана развития ИИ 2017 г. являются амбициозные идеи достижения: 1) к 2020 г. компаниями и исследовательскими центрами КНР уровня научных центров ведущих стран (например, США); 2) к 2025 г. - прорыва в отдельных сферах развития и применения ИИ, что станет ключевым стимулом для экономических преобразований; 3) к 2030 г. - пре-вращение КНР в главный мировой инновационный центр ИИ, что будет способствовать формированию нового национального лидерства (new national leadership) и созданию ключевых основ для великой экономической державы (economic great power). При этом определение понятия «искусственный интеллект» План развития ИИ 2017 г. обходит стороной. Нужно отметить, что даваемые в России и за рубежом определения ИИ многочис-ленны11. Наиболее принимаемым является то, в рамках которого ИИ понимают как «способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта»12. По нашему мнению, отличие природного (человеческого) интеллекта от искусственного (машинного) заключается в том, что первый способен принимать решения в условиях ограниченной ин-формации, а второй - в условиях неограниченных для него информационных ресурсов.
В КНР за реализацию и координацию новых проектов, связанных с ИИ, которые осуществляются, глав-ным образом, за счет государственных субсидий, отвечают Министерство науки и технологии (Ministry of Science and Technology) и созданные в 2017 г.: 1) но-вое ведомство - AI Plan Promotion Office, 2) Консультативный комитет по стратегии ИИ (AI Strategy Advisory Committee) для проведения исследований по стратегическим вопросам, связанным с ИИ, и по вы-работке рекоменда-
of-Artificial-Intelligence-Development-Plan-1.pdf (дата обращения: 29.08.2020)
9 См. подробнее, напр.: Беликова К.М. Правовое регулирование системы выработки и распространения научной и технической информации в Китае (опыт стран БРИКС) // Социально-политические науки. - 2019. - № 2. - С. 99-107.
10 См., напр.: Made in China 2025 / Institute for Security & Development Policy. June 2018. URL: https://isdp.eu/content/uploads/2018/06/ Made-in-China-Backgrounder.pdf (дата обращения: 29.08.2020)
11 См., напр.: Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы. Дисс. докт. юрид. наук. - М., 2019. С. 72-91.
12 См., напр.: Морхат П.М. Там же. С. 73; Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman, Military Applications of Artificial Intelligence: Ethical Concerns in an Uncertain World. Santa Monica, CA: RAND Corporation, 2020. P. 9. URL: https://www.rand.org/con-tent/dam/rand/pubs/research_reports/RR3100/RR3139-1/RAND_RR3139-1.pdf (дата обращения: 29.08.2020)
13 См., напр.: AI Policy - China / Future of Life Institute. URL:
https://futureoflife.org/ai-policy-china/?cn-reloaded=1 (дата обращения: 29.08.2020)
ций, приступивший к работе под руководством академика по передовому производству в китайской инженерной академии (Chinese Academy of Engineering, CAE), заместителя председателя Ки-тайской ассоциации искусственного интеллекта (China Association for Artificial Intelligence, CAAI) Пан Юньхэ; 3) Альянс по развитию индустрии искусствен-ного интеллекта (AI Industry Development Alliance, AIIDA), который получает финансирование от более чем 200 предприятий и агентств КНР и сфокусирован на создание платформы государственных услуг для развития китайской индустрии ИИ, с помощью кото-рой можно интегрировать ресурсы и ускорить рост. В июне 2019 г. Министерством науки и технологии был учрежден также Экспертный комитет по управлению Ии нового поколения (New Generation AI Governance Expert Committee), который уже опубликовал принци-пы управления искусственным интеллектом нового поколения, включающие: гармонию и дружелюбие (harmony and friendliness), справедливость (fairness and justice), инклюзивность и совместное использование (inclusiveness and sharing), уважение частной жизни (respect for privacy), безопасность и контроли-руемость (security and controllability), всеобщую ответ-ственность (shared responsibility), открытое сотрудничество (open cooperation) и гибкое управление (agile governance)13.
- Что стоит за этим Планом? Какие достижения есть в настоящее время у Китая в сфере автономных систем вооружений, оснащённых искусственным интеллектом?
Определенные практические результаты уже достигнуты или требуют развития в следующих военных сферах.
К числу первой следует отнести бортовые (airborne), наземные (ground) и морские (maritime) роботизированные системы (robotic systems)14. Например, в 2014 г. на выставке вооружений в Чжухае были продемонстрированы робот огневой поддержки пехотных подразделений Sharp Claw 1 массой 120 кг, созданный компанией NORINCO, и боевой легкий гусеничный робот под условным названием UGV-RB (Unmanned Ground Vehicle, Battle Robot), предназначенный для решения
14 Для сравнения см., напр.: Карякин Л. Современные наземные мобильные робототехнические комплексы. // Арсенал Отечества.
- 2015. - № 6. URL: https://arsenal-otechestva.ru/archive/610-6-2015 (дата обращения: 29.08.2020) или Он же. Современные наземные мобильные робототехнические комплексы. Часть 1. URL: http://ot-vaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_1/ (дата обращения: 29.08.2020); Часть 2. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_2/ (дата обращения: 29.08.2020); Часть 3. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_3/ (дата обращения: 29.08.2020); Часть 5. URL:
http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_5/ (дата обращения: 29.08.2020); Часть 6. URL: http://ot-vaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_6/ (дата обращения: 29.08.2020); Краткий обзор основных классов морских роботов. 11 May 2019. URL: https://zen.yandex.ru/media/nplus1/krat-kii-obzor-osnovnyh-klassov-morskih-robotov-
5cd51b34bd085200b36d3e58 (дата обращения: 29.08.2020); Григорьев А.И., Рязанцев О.Н. Морская робототехника [Состояние, проблемы, пути развития]. Беспилотные летательные аппараты / Департамент судостроительной промышленности и морской техники совместно с АО «ЦНИИ «КУРС». URL: https://portnews.ru/up-load/basefiles/1813_pkpachtpaplpopgpo.pdf (дата обращения: 29.08.2020) и др.
разведывательных и огневых задач в городских условиях и на открытой местности в интересах армейских или специальных полицейских подразделений и др.15 Нужно сказать, что эти роботы, как и иные новые военные роботы, дистанционно управляются оператором и пока лишены возможностей действовать самостоятельно или такие возможности у них еще очень ограничены16.
Второй сферой применения являются системы разведки, наблюдения и рекогносцировки, а также широкой осведомленности о поле боя (intelligence, surveillance, and reconnaissance and wide-area battlefield awareness). В них, как предполагают в КНР, ИИ не только поможет его платформам быстро находить скрытые цели, но и автономно объединит несколько источников разведданных, включая разведку с открытым исходным кодом и, возможно, человеческий интеллект, в единую общую операционную картину. Так, армия Китая заказала несколько проектов с использованием глубокого обучения для улучшения распознавания изображений и дифференциации фотографических, инфракрасных, радарных и других сенсорных изображений, полученных от космических, воздушных и наземных датчиков одного типа (напр., радиолокационные изображения) или в сочетании друг с другом, которые должны позволить компьютерам автономно идентифицировать и различать военные корабли, гражданские судна и другие цели17.
К третьей сфере относится направление автономного принятия решений для командного состава вооруженных сил (autonomous command decisionmaking), в котором ИИ будет помогать командирам быстрее находить лучшие решения. Конечно, никто не отменял споры о том, в какой степени фактические командные решения должны быть делегированы ИИ, и многие военные, занимающиеся в том числе научным обоснованием тех или иных решений в армии КНР, утверждают, что дальнейшая автоматизация их командных систем будет иметь важное значение для ускорения принятия решений тогда, когда необходимо понять алгоритм принятия решений противником.
Этот подход основан на разработанной в 1980-ые годы концепции американского полковника Дж. Бойда (John Boyd), названной «циклом OODA» - аббревиа-ту-рой от «наблюдать, ориентироваться, решать, действовать» (observe, orient, decide, and act),18 где «наблюдать означает ясно видеть ситуацию по мере развития событий; ориентироваться как на месте, где находишься, так и в вариантах развития ситуации, которые ты можешь увидеть (при этом на меню возможностей, которое ты создаешь для себя сам, влияют такие факторы, как генетический фонд, культурные традиции, предшествующий опыт и развитие ситуации, то есть изначально
смотрящий ограничен тем миром, который он в принципе способен увидеть, исходя из своего «бэкграунда»); решать - вытекает из наблюдать и ориентироваться, действовать» - финал истории.
В этом формате ИИ рассматривается как алгоритм / процесс (?) и пр., способный помочь командирам принимать более объективные, научно обоснованные решения путем сортировки больших объемов данных (т.н. big data). В этой связи, по мнению китайского военного эксперта Эльзы Каниа, «вопросы доверия будут иметь первостепенное значение... Будет ли НОАК (армия Китая - авт.) более или менее склонна доверять машинному интеллекту, по отношению к человеческому? Готова ли военная организация (армия - авт.), которая часто, как представляется, не желает предоставлять автономию своим офицерам и завербованным сотрудникам, принять автономию систем ИИ?»19 С одной стороны, доверие возможно при условии повышения надежности систем ИИ и наличия жесткого контроля со стороны командиров высокого ранга (даже не среднего) и партийных чиновников, с другой, многие на сегодня все же отдают пред-почтение человеку перед ИИ ввиду того, что, хотя ИИ и может имитировать воображение человека, война является более сложным многоаспектным явлением (процессом), с третьей стороны, сейчас консенсус достигнут в том, что преимущества, как показывает практика, имеют совместные операции, в которых ИИ может брать на себя некоторые тактические или оперативные функции принятия решений, например, помогает определить сроки проведения операций, определяет основное направление противника и да-же задает основное направление для сил армии КНР, а также может автоматизировать выбор целей и быть более опытным, чем люди, при нанесении ударов по нескольким целям одновременно, выступая, таким образом, важным, но все же вспомогательным эле-ментом ведения боевых действий.
К четвертой сфере относится кибервойна, относительно которой армия Китая заинтересована развивать это направление применения ИИ. Силы стратегической поддержки НОАК (PLA Strategic Support Force) изучают использование распознавания образов для идентификации и защиты от распределенных атак типа «отказ в обслуживании» (denial-of-service attacks) и выявление продвинутых постоянных угроз (advanced persistent threats), в том числе с использованием глубинной нейронной сети для обнаружения сетевых атак, с одной стороны, и использовании кибератак для разрушения вражеских систем с помощью иИ, с другой20.
Что касается моральной стороны вопроса, то позиция КНР сводится к необходимости запрета летальных ав-
15 Карякин Л. Современные наземные мобильные робототехни-ческие комплексы. // Арсенал Отечества. - 2015. - № 6. URL: https://arsenal-otechestva.ru/archive/610-6-2015 (дата обращения: 29.08.2020) или Он же. Современные наземные мобильные робо-тотехнические комплексы. Часть 6. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_6/ (дата обращения: 29.08.2020)
16 См., напр.: SHARP CLAW 1. URL: http://www.army-
guide.com/rus/product5735.html (дата обращения: 30.08.2020); Во-
енные роботы: технологии на службе армии. 14 February 2018.
URL: https://zen.yandex.ru/media/id/5a20825dad0f22233a285e05/ voennye-roboty-tehnologii-na-slujbe-armii-5a840347256d5c8bcd
782465 (дата обращения: 30.08.2020)
17 См. подробнее, напр.: Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman. Op. cit. P. 66-67.
18 См., напр.: Наблюдать, ориентироваться, решать, действовать. URL: https://mylektsii.su/13-25343.html (дата обращения: 29.08.2020)
19 Цит. по: Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman. Op. cit. P. 68.
20 См. подробнее: Kania, Elsa B., Battlefield Singularity: Artificial Intelligence, Military Revolution, and China's
Future Military Power, Washington, D.C.: Center for New American Security, 2017. Цит. по: Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman. Op. cit. P. 69.
тономных систем вооружений, обладающих как минимум (но не ограничиваясь ими) следующими характеристиками: 1) летальность (lethality) - достаточность заряда для того, чтобы быть смертельным, 2) автономность (autonomy) - отсутствие вмешательства человека и контроля с его стороны в течение выполнения боевой задачи, 3) невозможность прекращения действия (выполнения задачи - impossibility for termination), означающая, что будучи начатой, работа автономного устройства не может быт прекращена человеком, каким-либо иным путем, способом, 4) не-избирательное действие (indiscriminate effect), означающее, что устройство выполнит задачу убийства и увечья вне зависимости от условий, сценариев развития событий и цели, 5) эволюция (evolution), означающая, что через взаимодействие с окружающей средой устройство может обучаться автономно расширять свои функции и способности, превосходящие человеческие ожидания.21
К этому списку характеристик сразу возникает вопрос о том, на какие существующие сейчас устройства (роботов) его можно распространить? Многие ли подпадут (не подпадут) под эти критерии? Должны ли они иметься в наличии одновременно или достаточно одного, напр., летальности? Есть ли сейчас такие устройства, которые могут эволюционировать так, чтобы уже сейчас можно было сказать, что их функции и способности превзойдут человеческие и будут создавать угрозу человеку или это посыл в далекое (?) будущее?
Выражена эта позиция была в ходе Пятой конференции по пересмотру Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие (далее - Конвенция о «негуманном» оружии; дополнена 5-ю протоколами)22 в 2017 г., а за-тем в ходе Первой встречи Группы правительственных экспертов по летальным автономным системам вооружения (2018 meeting of the Group of Governmental Experts (GGE) on Lethal Autonomous Weapons Systems (LAWS)) 9-13 апреля 2018 г. в Женеве (Швейцария)23, Китай призвал наложить запрет на летальные автономные системы вооружения, так называемых роботов-убийц (killer robots) на уровне протокола, сходного с другими уже существующими протоколами, дополняющими Конвенцию о «негуманном» оружии.
- Законодательные рамки реализации Плана развития ИИ 2017 г. и некоторые аспекты охраны и защиты прав интеллектуальной собственности
Что касается законодательных рамок реализации Плана развития ИИ 2017 г., требующего охраны материальных и нематериальных активов (вещей, в том числе компьютерных программ (?) и пр.),24 то применительно к праву интеллектуальной собственности в КНР действуют как общие (о способах защиты)25, так и специальные положения, например, нормы о служебном произведении (изобретении), нацеленные предотвращать нарушения авторских (напр., на компьютерные программы) и патентных (на результаты изобретательской деятельности в виде продуктов, процессов, новых способов использования и пр.) прав.
Наглядно показывает нередкое нарушение Закона «Об авторском праве» КНР 1990 г. (в ред. 2010 г.)26 (далее - Закон 1990 г.) в части нарушения прав на признаваемые объектом авторского права и предметом охраны компьютерные программы, следующее дело. «Господин А в период работы в одной из шанхайских компаний разработал коммерческую компьютерную программу RS107. Свидетельство о регистрации авторских прав на нее было выдано Государственным управлением КНР по делам авторского права этой компании. Затем господин А покинул компанию (представим, что она занимается разработкой программного обеспечения для военных нужд - авт.) и основал свою собственную (далее - В). Компания В, как и компания А, занимается продажей программы АС808, подобной программе RS107, узнав об этом, шанхайская компания А предъявила иск к компании В, требуя от нее прекращения нарушения авторских прав, ликвидации последствий, принесения извинений и возмещения убытков. Как установлено в ходе судебного разбирательства, структуры и пояснительные тексты инструкций к программам АС808 и RS107 отличаются только второстепенными функциями и в основном являются аналогичными. Их объектно-ориентированные программы и исходные коды во многом сходны друг с другом. Упомянутой объектно-ориентированной программе, исходному коду и инструкциям предоставляется правовая защита. В
21 Подробнее см.: Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman. Op. cit. P. 71; Report of the 2018 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. Geneva, 9-13 April 2018 and 27-31 August 2018. CCW/GGE. 1 /2018/3. 23 October 2018. URL: http://un-docs.org/en/CCW/GGE.1/2018/3 (дата обращения: 29.08.2020); Козюлин В. Три группы угроз смертоносных автономных систем. 1 ноября 2018. URL: https://russiancouncil.ru/analytics-and-com-ments/analytics/tri-gruppy-ugroz-smertonosnykh-avtonomnykh-sistem/ (дата обращения: 29.08.2020)
22 Подробнее см., напр.: Конвенция о «негуманном» оружии. 31.07.2020. URL: https://www.mid.ru/obycnye-vooruzenia/-/asset _publisher/MlJdOT56NKIk/content/id/1130752 (дата обращения: 29.08.2020)
23 Подробнее см. по адресу https://autonomousweapons.org/ re-caps-of-the-un-ccw-meetings-april-9-13/ (дата обр.: 29.08.2020)
24 Подробнее см., напр.: Медведев А. Компьютерная программа:
вещь или нематериальный актив? URL: https://yandex.ru/turbo/ wiselawyer.ru/s/poleznoe/13895-kompyuternaya-programma-veshh-
nematerialnyj-aktiv (дата обращения: 31.08.2020); Общество приобрело в пользование программное обеспечение производителей
IBM, MicroFocus. На базе данных продуктов была внедрена система. Возникает ли у организации обязанность по постановке на учет НМА и включению в его стоимость приобретенного в пользование ПО? 20 июля 2020. URL: https://www.garant.ru/consult/ac-count/1401571/ (дата обращения: 31.08.2020)
25 См., напр.: Беликова К.М. Защита научной информации в Китае с позиции процесса сквозь призму действия законодательства об интеллектуальной собственности (опыт стран БРИКС) // Юридические исследования. - 2019. - № 6. С. 26-46. DOI: 10.25136/2409-7136.2019.6.30115 URL: https://nbpublish.com/ li-brary_read_article.php?id=30115 (дата обращения: 17.07.2019)
26 См.: Copyright Law of the People's Republic of China. Promulgated by the Standing Committee of the National Congress on February 26th, 2010 and entered into force on April 1st, 2010. URL: https://www.wipo.int/edocs/lexdocs/laws/en/cn/cn031en.pdf (дата обращения: 31.08.2020); Закон КНР об авторском праве (Приказ Президента Китайской Народной Республики No. 26) (Новая редакция Закона об авторском праве КНР была принята на 13ой Сессии Постоянного Комитета 11го Съезда Всекитайского Собрания Народных Представителей 26 февраля 2010 года.) URL: https://asia-busi-ness.ru/law/law3/copyright/ (дата обращения: 31.08.2020)
связи с этим, суд подтвердил правонарушение компании В и вынудил ее возместить компании А убытки в размере 200 тысяч юаней.»27
При этом нормы ст. 16 Закона 1990 г. гласят, что «произведением, созданным гражданином при выполнении заданий, возложенных на него юридическим лицом или иной организацией, признается произведение, созданное в процессе трудовой деятельности.
Авторское право на такое произведение принадлежит автору (работнику - авт.) с учетом положений части второй настоящей статьи при условии, что юридическое лицо или иная организация имеют преимущественное право на использование произведения в рамках своей профессиональной деятельности. В течение двух лет после завершения произведения автор не вправе без согласия юридического лица или иной организации разрешать третьему лицу использовать произведение таким же образом, как это делает юридическое лицо или иная организация.
В любом из следующих случаев автор произведения, созданного в процессе трудовой деятельности, пользуется правом быть указанным автором, а юридическое лицо или иная организация реализует иные права, считающиеся авторскими (имущественные - авт.) и может вознаградить автора (may reward the author, обязанности нет - авт.):
(1) чертежей инженерных конструкций и конструкций изделий и карт, программного обеспечения для ЭВМ и других работ, созданных в процессе трудовой деятельности преимущественно с использованием материально-технических ресурсов юридического лица или иной организации и под его ответственность;
(2) произведения, созданного в процессе трудовой деятельности, если авторское право в соответствии с законами, административными регламентами или договорами принадлежит юридическому лицу или иной организации.»
Статья 17 Закона 1990 г. в конкретизирует положения о договоре, говоря, что «принадлежность права собственности на результат выполненной в качестве служебного произведения работы (a commissioned work) должна согласовываться между сторонами, поручившей работу и получившей задание. При отсутствии договора или ясно выраженного пункта в договоре авторское право на такое произведение принадлежит лицу, выполнившему работу.»
Значит ли это, что г-н А - работник шанхайской компании в своем роде прав, если компания не заплатила
27 См.: Об авторских правах на программы для ЭВМ в Китае. 21 авг, 2011. URL: https://i-you-text.livejournal.com/121177.html (31.08.2020)
28 См. для сравнения, напр.: Раймонд Джоунс. Уровень шума. / Пер. с англ. Б. Колтовой, Ю. Логинов. // Библиотека современной фантастики. Т. 10. Антология фантастических рассказов английских и американских писателей. Антология, 1967 г. URL: http://lib.ru/INOFANT/DZHOUNS/noise.txt (дата обращения: 30.08.2020)
29 Patent Law of the People's Republic of China (as amended up to the Decision of December 27, 2008, regarding the Revision of the Patent Law of the People's Republic of China). URL: https://wi-polex.wipo.int/ru/text/178664 (дата обращения: 30.08.2020)
30 См. также: Беликова К.М. Национальные особенности охраны патентных прав в России, Индии и Китае. // Интеллектуальная собственность. Промышленная собственность. - 2015. - № 2. - С. 4053.
31 Подробнее о предприятиях и их формах в Китае см.: Беликова
К.М. «Иностранные инвестиции», «инвестор», «инвестиционная деятельность», «организационно-правовые формы» ее реализа-
ему за данную программу отдельно (дополнительно к его зарплате)?
О том, что среди людей не так много альтруистов28 говорят и дела в области защиты патентных прав (одно из них рассмотрим ниже), многие, хотя и работают за зарплату, но будут рады и дополнительному стимулу своей научной активности.
Согласно ст. 6 Закона 1984 г. «О патентах» (в ред. 2008 г.)29 Китая «служебное изобретение» - это изобретение-творение, сделанное работником при исполнении им своих служебных обязанностей или, главным образом, с использованием материально-технических условий работодателя. Право на подачу заявки на выдачу патента на служебное изобретение принадлежит соответствующей организации. После выдачи патента данная организация становится обладателем патентных прав из патентной заявки. В случае, если результаты изобретательского творчества созданы с использованием материальных средств организации, работником которой является автор изобретения (промышленного образца), и данный автор и данная организация заключили договор, содержащий положения о принадлежности патентных прав и права подачи заявки на выдачу патента, следует применять положения данного договора. Статья 16 того же Закона предусматривает, что организация «вознаграждает» изобретателя или разработчика служебного изобретения, а после того, как изобретение-творение вводится в эксплуатацию, выплачивает изобретателю «разумное вознаграждение» в соответствии с результатами такой эксплуатации.30
Первоначально эти правила действовали в отношении любых (частных, государственных) предприятий31 и конкретизировались Правилами 1985 г. «О порядке применения Закона «О патентах» 1984 г.» (1985 Implementing Rules32), согласно ст. 71 которых «государственное предприятие выплачивает своему работнику 200 юаней за выданный патент на изобретение и 50 юаней за каждый выданный патент на полезную модель или промышленный образец», а со-гласно ст. 72 - те же предприятия «выплачивают работнику от 0,5% до 2% прибыли, полученной от использования патента на изобретение, и от 0,05% до 0,2% прибыли, полученной от использования патента на полезную модель или промышленный образец.» Для частных предприятий эти положения были необязательны.
В редакции Закона «О патентах» от 1993 г. эти положения не изменились, однако после вступления Китая в
ции и основные условия, обеспечивающие допуск иностранных инвестиций в экономику КНР, по новому Закону «Об иностранных инвестициях» 2019 г. // Юридические исследования. - 2019. - № 7. -С. 17-25. DOI: 10.25136/2409-7136.2019.7.30486 URL: https://nbpublish.com/library_read_article.php?id=30486 (дата обращения: 20.08.2019); Беликова К.М. Правовое положение компаний, занятых в предпринимательской деятельности в Китае. Что нужно знать, учреждая компанию? // Право и политика. - 2017. - № 5. - С. 27-41. DOI: 10.7256/2454-0706.2017.5.22831 URL: http://nbpublish.com/Library_read_article.php?id=22831 (дата обращения: 16.06.2017); Беликова К.М. Конструирование системы договорных объединений, занятых в предпринимательской деятельности в странах БРИКС. // Право и политика. - 2016. - № 4. - С. 484-497 DOI: 10.7256/1811-9018.2016.4.18567; Беликова К.М., Ифраимов В.Ю. Государственные предприятия в странах БРИКС: опыт Бразилии, России, Китая и Южной Африки. // Адвокат. - 2013. - № 5. - С. 33-46.
32 Цит. по: Charles Feng. China: Employee Inventions In China. 16 February 2016. URL: https://www.mondaq.com/china/patent/462864/ employee-inventions-in-china (дата обращения: 30.08.2020)
ВТО на основе Правил 2001 г. «О порядке применения Закона «О патентах» 1984 г. в редакции 2001 г.» (2001 Implementing Rules33) рассматриваемые положения были пересмотрены в сторону увеличения: работник мог претендовать на 2000 юаней за патент на изобретение и 500 юаней за полезную модель или патент на промышленный образец; процент вознаграждения по итогам эксплуатации был повышен до 2% для патента на изобретение и 0,2% для патента на полезную модель или промышленный образец. Кроме того, в случае выдачи лицензии работнику-изобретателю или конструктору должно было выплачиваться вознаграждение в размере не менее 10% от суммы роялти после уплаты налогов. Эти нормы остались обязательными опять-таки только для государственных предприятий.
В результате изменений Закона 2008 г. изменились и Правила «О порядке применения Закона «О патентах» 1984 г. в редакции 2008 г.», касающиеся вознаграждения за подачу патента, теперь работодатель должен платить 3000 юаней за патент на изобретение и 1000 юаней за патент на полезную модель или патент на промышленный образец. Одновременно ст. 16 Закона 1984 г. в ред. 2008 г. была изменена так, что из нее исчезло словосочетание «государственное предприятие», вместо него речь теперь идет об «организации, которой предоставлено патентное право»: "The unit that is granted the patent right shall reward the inventor or designer of an employment invention-creation." (курсив авт.). Таким образом обязанность платить работнику за служебное изобретение и его эксплуатацию распространилась на все предприятия (частные, государственные, с иностранными инвестициями). Статья 77 новых Правил «О порядке применения Закона «О патентах» 1984 г. в редакции 2008 г.»34 гласит, что суммы и проценты являются обязательными в указанном размере, в том случае, когда работодатель, например, не предусматривает в своих правилах или положениях способ и размер вознаграждения в обоих случаях (за подачу заявки и по итогу эксплуатации изобретения, на которое получен патент).
По этому поводу возникают, как минимум, вопросы о том, что делать, когда работник подписывает контракт или внутренние правила, а затем жалуется, что вознаграждение не является разумным, как на это указывает ст. 16 Закона «О патентах», и кто должен платить, когда патент выдается иному, чем работодатель изобретателя (конструктора), лицу?
Примерная логика ответов следует из дела WENG Like vs. Shanghai EV Fuel Injection Co., Ltd. ("EV Company") and Shanghai Diesel Engine Co., Ltd. ("Shanghai Diesel")35, в котором истец, Вэн Лайк, работал техником в EV Company, частично принадлежащей компании Shanghai Diesel. В соответствии с соглашением между EV Company и Shanghai Diesel, исследовательская работа была поручена компанией Shanghai Diesel EV Company, и право подать заявку на патент принадлежало заказчику (Shanghai Diesel), который ни в ходе работы Вэн Лайка, ни позже фактически не был его работодателем. В итоге своих исследований Вэн Лайк получил некоторые результаты, и материнская компания Shanghai Diesel в 2001 г. подала заявки на две полезные модели. В 2003 г. Shanghai Diesel бесплатно передала две эти полезные модели EV Company.
33 Ibid.
34 Цит. по: Charles Feng. Op. cit.
Позже права пользования этими полезными моделями были переданы компании Shanghai Denso Corporation, которая заплатила первоначальный взнос и выплачивала роялти с 2003 по 2007 г. Вэн Лайк подал иск к EV Company и Shanghai Diesel Corporation, требуя вознаграждения в размере 2 млн. юаней. Суд первой инстанции обязал EV Company выплатить истцу 270 тыс. юаней, такое решение было оставлено в силе апелляционным судом. Отвечая на вопрос, как определить, какая организация несет ответственность за выплату вознаграждения, суд первой инстанции на основе того, что первоначальным патентообладателем была материнская компания Shanghai Diesel Corporation. С одной стороны, изобретение было сделано, когда истец работал в EV Company, и уступка патента между Shanghai Diesel и EV Company касалась только вопроса о праве собственности на патенты, поскольку, хотя EV Company была работодателем изобретателя, но не была патентообладателем до тех пор, пока патент не был присвоен ею в результате акта бесплатной передачи от ее материнской компании. С другой стороны, стороной, получающей роялти в результате выдачи Shanghai Diesel Corporation лицензии, дающей право пользоваться изобретением, была EV Company. Таким образом, последняя и является единственным юридическим лицом, обязанным выплатить вознаграждение. Суд второй инстанции это решение подтвердил. Отвечая на второй вопрос о размере вознаграждения, способах его подсчета и факторах, которые надо при этом учитывать, суд первой инстанции указал лишь, что согласно действовавшим на тот момент (2005 г.) Правилам «О порядке применения Закона «О патентах» 1984 г. в редакции 2001 г.» государственное предприятие должно выплачивать вознаграждение, по меньшей мере равное минимальному установленному данными Правилами стандарту. В решении суда не говорилось, была ли EV Company государственным предприятием, но суд пришел к выводу, что сумма роялти, полученная Ev Company по двум лицензионным соглашениям в отношении рассматриваемых патентов, составила 70% от общего дохода EV Company от ее деятельности после уплаты налогов. Таким образом, для расчета дохода, полученного от использования патентов, суд применил отношение предусмотренной лицензионным договором ставки роялти к 70% вышеуказанного дохода.
Из принятого решения можно сделать несколько выводов. Первый, что для целей трудового права важным остается вопрос правовой регламентации отношений предприятий, основанных на системе участий, или входящих в группу, и над урегулированием такого рода коллизий или разработкой и внедрением адекватного и защищающего работников трудового законодательства, необходимо не только задумываться, но и практически работать, чтобы не приходилось обращаться в суды. Второе, что работники, способные изобретать, вероятно, должны заранее обговаривать подобные вопросы и таким образом осуществлять охрану своего права на ранних этапах взаимодействия с работодателем, хотя, возможно, это несколько утопично, конечно, учитывая тот факт, что, хотя «каждый человек способен
35 Ibid.
на многое, никто не знает, на что он способен»36, пока это не окажется реализованным.
Выводы
Изложенное позволяет предположить, с одной стороны, что Китай, выступая с практическими предложениями запрета летальных автономных систем вооружения, имеет, видимо, под такими заявлениями некоторую почту, включая обоснованные их наработками, возможно, прорывными, но не столь хорошо пока отлаженными, дающими сбои и потому вызывающими опасения; с другой стороны, имеет нацеленность на реализацию амбиций по мировому первенству в сфере разработки и применения ИИ в различных сферах, включая военное назначение. При этом на уровне законодательно закрепляемого права на вознаграждения и
Список литературы:
1. Азимов А. рассказ «Хоровод» ("Runaround") 1942 г. из цикла «Галактическая история». URL: https ://royal-lib.com/book/azimov_ayzek/horovod.html (дата обращения: 28.08.2020)
2. Беликова К.М. «Иностранные инвестиции», «инвестор», «инвестиционная деятельность», «организационно-правовые формы» ее реализации и основные условия, обеспечивающие допуск иностранных инвестиций в экономику КНР, по новому Закону «Об иностранных инвестициях» 2019 г. // Юридические исследования. - 2019. - № 7. - С. 17-25. DOI: 10.25136/24097136.2019.7.30486 URL: https://nbpub-lish.com/library_ read_article.php?id=30486 (дата обращения: 20.08.2019)
3. Беликова К.М. Защита научной информации в Китае с позиции процесса сквозь призму действия законодательства об интеллектуальной собственности (опыт стран БРИКС) // Юридические исследования. - 2019. -№ 6. С. 26-46. DOI: 10.25136/2409-7136.2019.6.30115 URL: https://nbpublish.com/library_ read_arti-cle.php?id=30115 (дата обр.: 17.07.2019)
4. Беликова К.М. Национальные особенности охраны патентных прав в России, Индии и Китае. // Интеллектуальная собственность. Промышленная собственность. - 2015. - № 2. - С. 40-53.
5. Беликова К.М. Правовое положение компаний, занятых в предпринимательской деятельности в Китае. Что нужно знать, учреждая компанию? // Право и политика. - 2017. - № 5. - С. 27-41. DOI: 10.7256/24540706.2017.5.22831 URL: http://nbpublish.com/Library_ read_article.php?id=22831 (дата обр.: 16.06.2017);
6. Беликова К.М. Конструирование системы договорных объединений, занятых в предпринимательской деятельности в странах БРИКС. // Право и политика. -2016. - № 4. - С. 484-497 DOI: 10.7256/1811 -9018.2016.4.18567
7. Беликова К.М. Правовое регулирование системы выработки и распространения научной и технической информации в Китае (опыт стран БРИКС) // Социально-политические науки. - 2019. - № 2. - С. 99-107.
8. Беликова К.М., Ифраимов В.Ю. Государственные предприятия в странах БРИКС: опыт Бразилии, России, Китая и Южной Африки. // Адвокат. - 2013. - № 5. - С. 33-46.
его «индексации» мы видим государственную поддержку изобретательской инициативы, в том числе и в области военных технологий, на основании Закона «О патентах» и меньше Закона «Об авторском праве», являющихся актами общего характера.
Заключение
В заключении необходимо отметить, что перспективы развития автономных систем вооружений, как летальных, так и нет, с одной стороны, заманчивы, с другой -пугают. Сможет ли человек, обуреваемый собственными страстями, использовать их во благо, а не во вред, придав роботам собственные черты, подобно богам и героям древней Греции и Рима, которые подчас были снедаемы чисто человеческими страстями, становясь при этом то мелочными и злобными, то благородными и готовыми принести себя в жертву? Время покажет.
References:
1. Azimov A. "Runaround", 1942. URL: https://royal-lib.com/book/azimov_ayzek/horovod.html (accessed: 28.08.2020)
2. Belikova K. M. "Foreign investment", "investor", "investment activity", " legal and organizational forms" of its implementation and the main conditions that ensure the admission of foreign investments to the economy of the PRC, under the new Law "On foreign investment" of 2019 // Legal Researches. - 2019. - No. 7. - P. 17-25. DOI: 10.25136/2409-7136.2019.7.30486 URL: https://nbpub-lish.com/library_read_article.php?id=30486 (accessed on 20.08.19)
3. Belikova K. M. Protection of scientific information in China from the perspective of the legal procedure (trial) through the prism of the legislation on intellectual proper-ty (experience of the BRICS countries) // Legal Research-es.
- 2019. - No. 6. - P. 26-46. DOI: 10.25136/24097136.2019.6.30115 URL: https://nbpublish.com/library_ read_article.php?id=30115 (accessed 17.07.2019)
4. Belikova K. M. National peculiarities of patent rights protection in Russia, India and China. // Intellectual property. Industrial property. - 2015. - No. 2. - P. 40-53.
5. Belikova K. M. Legal status of companies engaged in entrepreneurial activity in China. What do you need to know when setting up a company? // Law and Politics. - 2017. -No. 5. - P. 27-41. DOI: 10.7256/2454-0706.2017.5.22831 URL: http://nbpublish.com/Library_ read_arti-cle.php?id=22831 (date of app.: 16.06.2017)
6. Belikova K. M. Some features of a system of contractual associations engaged in entrepreneurial activity in the BRICS countries. // Law and Politics. - 2016. - No. 4. - P. 484-497 DOI: 10.7256/1811-9018.2016.4.18567
7. Belikova K. M. Legal framework of the system of development and distribution of scientific and technical information in China (experience of the BRICS countries) // Social and Political Sciences. - 2019. - No. 2. - P. 99-107.
8. Belikova K. M., Ifraimov V. Yu. State-Owned Enterprises in the BRICS countries: the experience of Brazil, Russia, China and South Africa. // Lawyer. - 2013. - No. 5.
- P. 33-46.
36 Из кинофильма «Бриллиантовая рука» 1968 г. (CCCH), режиссёр Л.Гайдай. URL: https://www.kinopoisk.ru/film/46225/ (дата обращения: 01.09.2020)
9. Военные роботы: технологии на службе армии. 14 February 2018. URL: https://zen.yandex.ru/media/id/ 5a20825dad0f22233a285e05/voennye-roboty-tehnologii-na-slujbe-armii-5a840347256d5c8bcd782465 (дата обращения: 30.08.2020)
10. Григорьев А.И., Рязанцев О.Н. Морская робототехника [Состояние, проблемы, пути развития]. Беспилотные летательные аппараты / Департамент судостроительной промышленности и морской техники совместно с АО «ЦНИИ «КУРС». URL: https://portnews.ru/ upload/basefiles/1813_pkpachtpaplpopgpo.pdf (дата обращения: 29.08.2020)
11. Дик Ф.К. роман «Мечтают ли андроиды об электроовцах?» ("Do Androids Dream of Electric Sheep?") 1968 г. URL: http://lib.ru/INOFANT/DICKP/sheeps.txt (дата обращения: 28.08.2020)
12. Как используют искусственный интеллект военные России и США? 21 August 2019. URL: https://zen.yandex.ru/media/mcs/kak-ispolzuiut-iskusst-vennyi-intellekt-voennye-rossii-i-ssha-5d5cfefdd7-859b00ad3b12ea (дата обращения: 28.08.2020)
13. Карякин Л. Современные наземные мобильные робототехнические комплексы. // Арсенал Отечества. -2015. - № 6. URL: https://arsenal-otechestva.ru/archive/ 610-6-2015 (дата обращения: 29.08.2020)
14. Карякин Л. Современные наземные мобильные робототехнические комплексы. Часть 1. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_ robots_1/ (дата обращения: 29.08.2020); Часть 2. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_ robots_2/ (дата об-ращения: 29.08.2020); Часть 3. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_ robots_3/ (дата обращения: 29.08.2020); Часть 5. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_ land_robots_5/ (дата об-ращения: 29.08.2020); Часть 6. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_ land_robots_6/ (дата обращения: 29.08.2020); Краткий обзор основных классов морских роботов. 11 May 2019. URL: https://zen.yandex.ru/media/nplus1/kratkii-obzor-osnovnyh-klassov-morskih-robotov-5cd51b34bd0-85200b36d3e58 (дата обращения: 29.08.2020)
15. Козюлин В. Три группы угроз смертоносных ав-то-номных систем. 1 ноября 2018. URL: https://russian-council.ru/analytics-and-comments/analytics/tri-gruppy-ugroz-smertonosnykh-avtonomnykh-sistem/ (дата об-ращения: 29.08.2020)
16. Конвенция о «негуманном» оружии. 31.07.2020. URL: https://www.mid.ru/obycnye-vooruzenia/-/asset_pub-lisher/MlJdOT56NKIk/content/id/1130752 (дата обращения: 29.08.2020)
17. Медведев А. Компьютерная программа: вещь или нематериальный актив? URL: https://yandex.ru/turbo/ wiselawyer.ru/s/poleznoe/13895-kompyuternaya-prog-ramma-veshh-nematerialnyj-aktiv (дата обр.: 31.08.2020)
18. «Мечтают ли андроиды об электроовцах?» против «Бегущего по лезвию». 6 марта 2020. URL: https://zen.yandex.ru/media/id/5c9b8621bb024c00b3658f af/mechtaiut-li-androidy-ob-elektroovcah-protiv-beguscego-po-lezviiu-5e629969cf715c1 ee9b71 e88 (да-та обращения: 28.08.2020)
19. Морхат П.М. К вопросу о соответствии автономных интеллектуальных систем вооружений принципам международного гуманитарного права. // Вестник военного права. - 2018. - № 2. - С. 58-65.
9. Military robots: technologies in the service of the army. 14 February 2018. URL: https://zen.yandex.ru/me-dia/id/5a20825dad0f22233a285e05/voennye-roboty-tehnologii-na-slujbe-armii-5a840347256d5c8bcd782465 (accessed: 30.08.2020)
10. Grigoriev A. I., Ryazantsev O. N. Marine robotics [State, problems, ways of development]. Unmanned Aircraft / Department of shipbuilding industry and marine engineering in cooperation with JSC "Central research Institute "COURSE". URL: https://portnews.ru/upload/base-files/1813_pkpachtpaplpopgpo.pdf (accessed: 29.08.2020)
11. Dick F. K. "Do Androids Dream of Electric Sheep?", 1968. URL: http://lib.ru/INOFANT/DICKP/sheeps.txt (date accessed: 28.08.2020)
12. How do the Russian and US military use artificial intelligence? 21 August 2019. URL: https://zen.yandex.ru/ media/mcs/kak-ispolzuiut-iskusstvennyi-intellekt-voennye-rossii-i-ssha-5d5cfefdd7859b00ad3b12ea (accd: 28.08.20)
13. Karyakin L. Modern ground-based mobile robotic systems. // Arsenal of Fatherland. - 2015. - No. 6. URL: https://arsenal-otechestva.ru/archive/610-6-2015 (accd: 29.08.20)
14. Karyakin L. Modern ground-based mobile robotic systems. Part 1. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_1/ (accessed 29.08.2020); Part 2. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_robots_2/ (accessed 29.08.2020); Part 3. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_ land_robots_3/ (accessed 29.08.2020); Part 5. URL: http://otvaga2004.ru/na-zemle/na-zemle-11/modern_land_ robots_5/ (accessed 29.08.2020); Part 6. URL: http://ot-vaga2004.ru/na-zemle/na-zemle-11/modern_land_ ro-bots_6/ (accessed 29.08.2020); a Brief overview of the main classes of ma-rine robots. 11 May 2019. URL: https://zen.yandex.ru/media/nplus1/kratkii-obzor-osnovnyh -klassov-morskih-robotov-5cd51b34bd085200b36d3e58 (accessed: 29.08.2020)
15. Kozyulin V. Three groups of threats of lethal autonomous systems. November 1, 2018. URL: https://russian-council.ru/analytics-and-comments/analytics /tri-gruppy-ugroz-smertonosnykh-avtonomnykh-sistem/ (accessed 29.08.2020)
16. Convention on "conventional" weapons. 31.07.2020. URL: https://www.mid.ru/obycnye-vooruzenia/Vasset_pub-lisher/MlJdOT56NKIk/content/id/1130752 (accd: 29.08.20)
17. Medvedev A. Computer program: a thing ("res") or an intangible asset? URL: https://yandex.ru/turbo/wise-law-yer.ru/s/poleznoe/13895-kompyuternaya-programma-veshh-nematerialnyj-aktiv (accessed: 31.08.2020)
18. "Do androids dream of swimmers?" vs. "Blade Runner". March 6, 2020. URL: https://zen.yandex.ru/media/ id/5c9b8621bb024c00b3658faf/mechtaiut-li-androidy-ob-elektroovcah-protiv-beguscego-po-lezviiu-5e629969cf7-15c1ee9b71e88 (accessed: 28.08.2020)
19. Morkhat P. M. On the question of compliance of autonomous intelligent weapons systems with the principles of international humanitarian law. // Bulletin of Military Law. - 2018. - No. 2. - P. 58-65.
20. Морхат П.М. Правовое регулирование автономных систем вооружений, оснащённых искусственным интеллектом: гарантия безопасности жизнедеятельности. // Организационно-правовое регулирование безопасности жизнедеятельности в современном мире. Сб. мат-лов Второй международной научно-практической конференции, Санкт-Петербург, 19-20 апреля 2018 г. / под ред. Э.Н. Чижикова. - СПб., 2018. - С. 170-173.
21. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы. Дисс. докт. юрид. наук. - М., 2019. URL: http://dis.rgiis.ru/files/ dis/d40100102/Morhat/morhat_p_m_dissertaciya.pdf (дата обращения: 28.08.2020)
22. Scientific American: искусственный интеллект до сих пор не существует. URL: https://trends.rbc.ru/trends/ indus-try/5dee31349a79473a01 a23616?utm_source= yxnews&utm_medium=desktop (дата обр.: 28.08.2020)
23. Морхат П.М. Риски и угрозы, связанные с применением искусственного интеллекта. // Аграрное и земельное право. - 2017. - № 12(156). - С. 60-65.
24. Мы - материалисты. О применении ИИ в военном деле. URL: http://asu100.ru/robots2/AlarmRobot/AiQu/ai_ aq.htm (дата обращения: 28.08.2020)
25. Наблюдать, ориентироваться, решать, действовать. URL: https://mylektsii.su/13-25343.html (дата обращения: 29.08.2020)
26. Об авторских правах на программы для ЭВМ в Китае. 21 авг, 2011. URL: https://i-you-text.livejournal. com/121177.html (31.08.2020)
27. Общество приобрело в пользование программное обеспечение производителей IBM, MicroFocus. На базе данных продуктов была внедрена система. Возникает ли у организации обязанность по постановке на учет НМА и включению в его стоимость приобретенного в пользование ПО? 20 июля 2020. URL: https://www.garant.ru/consult/account/1401571/ (дата обращения: 31.08.2020)
28. Раймонд Джоунс. Уровень шума (Noise Level). / Пер. с англ. Б. Колтовой, Ю. Логинов. // Библиотека современной фантастики. Т. 10. Антология фантастических рассказов английских и американских писателей. Антология, 1967 г. URL: http://lib.ru/INOFANT/ DZHOUNS/noise.txt (дата обращения: 30.08.2020)
29. SHARP CLAW 1. URL: http://www.army-guide.com/rus/product5735.html (дата обр.: 30.08.2020)
30. AI Policy - China / Future of Life Institute. URL: https://futureoflife.org/ai-policy-china/?cn-reloaded=1 (дата обращения: 29.08.2020)
31. Charles Feng. China: Employee Inventions In China. 16 February 2016. URL: https://www.mondaq.com/ china/patent/462864/employee-inventions-in-china (дата обращения: 30.08.2020)
32. Kania, Elsa B., Battlefield Singularity: Artificial Intelligence, Military Revolution, and China's Future Military Power, Washington, D.C.: Center for New American Security, 2017. Цит. по: Morgan, Forrest E., Benjamin Bou-dreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman. Op. cit. P. 69.
33. Made in China 2025 / Institute for Security & Development Policy. June 2018. URL: https://isdp.eu/content/ uploads/2018/06/Made-in-China-Backgrounder.pdf (да-та обращения: 29.08.2020)
20. Morkhat P. M. Legal regulation of autonomous weapons systems equipped with artificial intelligence: guarantee of life safety. // Organizational and legal regulation of life safety in the modern world. Compill. of materials of the Second international scientific and practical conference, St. Petersburg, April 19-20, 2018 / ed. by E. N. Chizhikov. - Saint Petersburg, 2018. P. 170-173.
21. Morkhat P. M. Legal personality of artificial intelligence in the sphere of intellectual property law: civil law problems. Thesis on Doctoral (Dr.Habil.) Degree. - M.,
2019. URL: http://dis.rgiis.ru/files/dis/d40100102/Morhat/ morhat_p_m_dissertaciya.pdf (accessed: 28.08.2020)
22. Scientific American: artificial intelligence still does not exist. URL: https://trends.rbc.ru/trends/industry/ 5dee31349a79473a01 a23616?utm_source=yxnews&utm_ medium=desktop (accessed: 28.08.2020)
23. Morkhat P. M. Risks and threats associated with the use of artificial intelligence. // Agricultural and land law. -2017. - № 12(156). - Pp. 60-65.
24. We are materialists. About the use of AI in military affairs. URL: http://asu100.ru/robots2/AlarmRobot/AiQu/ ai_aq.htm (date accessed: 28.08.2020)
25. Observe, navigate, decide, act. URL: https://myl-ektsii.su/30. About copyright on computer pro-grams in China. 21 Aug, 2011. URL: https://i-you-text.livejour-nal.com/121177. html (31.08.2020)
26. About copyright on computer programs in China. 21 Aug, 2011. URL: https://i-you-text.livejournal.com/121177. html (31.08.2020)
27. The company acquired software for use from IBM and MicroFocus manufacturers. A system was implemented based on the product database. Does the organization have an obligation to register an IA as an intangible assets and include the software purchased for use in its cost? July 20,
2020. URL: https://www.garant.ru/consult/account/ 1401571/ (accessed 31.08.2020)
28. Raymond Jones. Noise level. / Transl. by B. Koltova, Yu. Loginov. // Library of modern fiction. Vol. 10. Anthology of fantastic stories of English and American writers. Anthology, 1967. URL: http://lib.ru/INOFANT/DZHOUNS/ noise.txt (accessed: 30.08.2020)
29. SHARP CLAW 1. URL: http://www.army-guide.com/rus/product5735.html (accessed: 30.08.2020)
30. AI Policy - China / Future of Life Institute. URL: https://futureoflife.org/ai-policy-china/?cn-reloaded=1 (accd.: 29.08.2020)
31. Charles Feng. China: Employee Inventions In China. 16 February 2016. URL: https://www.mondaq.com/ china/patent/462864/employee-inventions-in-china (accd.: 30.08.2020)
32. Kania, Elsa B., Battlefield Singularity: Artificial Intelligence, Military Revolution, and China's Future Military Power, Washington, D.C.: Center for New American Se-cu-rity, 2017. ^t. no: Morgan, Forrest E., Benjamin Bou-dreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman. Op. cit. P. 69.
33. Made in China 2025 / Institute for Security & Development Policy. June 2018. URL: https://isdp.eu/content/ uploads/2018/06/Made-in-China-Backgrounder.pdf (accd.: 29.08.2020)
34. Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman, Military Applications of Artificial Intelligence: Ethical Concerns in an Uncertain World. Santa Monica, CA: RAND Corporation, 2020. P. 9. URL: https://www.rand.org/content/dam/rand/pubs/research_re-ports/RR3100/RR3139-1/RAND_RR3139-1.pdf (дата обращения: 29.08.2020)
35. New Generation Artificial Intelligence Development
Plan State Council Document
[2017] No. 35. July 8, 2017. URL: https://flia.org/wp-con-tent/uploads/2017/07/A-New-Generation-of-Artificial-Intelli-gence-Development-Plan-1 .pdf (дата обр.: 29.08.20)
36. Report of the 2018 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. Geneva, 9-13 April 2018 and 27-31 August 2018. CCW/GGE.1/2018/3. 23 October 2018. URL: http://undocs.org/en/CCW/GGE.1/2018/3 (дата обр.: 29.08.20)
34. Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman, Military Applications of Artificial Intelligence: Ethical Concerns in an Uncertain World. Santa Monica, CA: RAND Corporation, 2020. P. 9. URL: https://www.rand.org/content/dam/rand/pubs/research_re-ports/RR3100/RR3139-1/RAND_RR3139-1.pdf (accd: 29.08.2020)
35. New Generation Artificial Intelligence Development Plan (i-ftAXgtSUl). State Council Document [2017] No. 35. July 8, 2017. URL: https://flia.org/wp-con-tent/uploads/2017/07/A-New-Generation-of-Artificial-Intelli-gence-Development-Plan-1.pdf (accd.: 29.08.2020)
36. Report of the 2018 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. Geneva, 9-13 April 2018 and 27-31 August 2018. CCW/GGE.1/2018/3. 23 October 2018. URL: http://undocs.org/en/CCW/GGE.1/ 2018/3 (accd.: 29.08.2020)
Статья прошла проверку в системе «Антиплагиат», оригинальность текста - 88,46%.
СВЕДЕНИЯ ОБ АВТОРЕ
Беликова Ксения Михайловна, д-р юрид. наук, профессор, проф. кафедры гражданского права и процесса и международного частного права ФГАОУ ВО «Российский университет дружбы народов». Author ID (РИНЦ): 497601, ORCID: 0000-0001-8068-1616. E-mail: [email protected]
ABOUT THE AUTHOR
Belikova Ksenia Miohailovna, Dr Sci. (Law), professor, Professor of the Department of Civil Law and Proceedings and International Private Law, Law Institute of Law. Peoples' Friendship University of Russia (RUDN University). Author ID: 497601, ORCID: 0000-0001-8068-1616. E-mail: [email protected]
