CC BY
148DOI 10.475776/2712-7516_2021_1_2_72 УДК 004.8:355/359
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ПРИМЕНЕНИЯ ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ВОЕННОМ ДЕЛE: ОПЫТ РОССИИ И КИТАЯ1
Харитонова Юлия Сергеевна,
доктор юридических наук, профессор, профессор кафедры предпринимательского права, Московский государственный университет им. М. В. Ло-моносова, Россия, г. Москва, e-mail: [email protected]
В статье рассматриваются вопросы правового регулирования применения технологии искусственного интеллекта и нейросетей, которые актуализируются по мере развития данных технологий и расширения их применения в различных сферах жизни общества, включая военное дело. Отмечается, что создание стратегий развития технологии искусственного интеллекта в России и Китае позволяет сопоставить регуляторные подходы к данному явлению, а также установить границы внедрения технологии искусственного интеллекта в военное дело в рамках международного гуманитарного законодательства.
Ключевые слова: искусственный интеллект в военном деле; производительность роботов; самообучающееся программное обеспечение; взаимодействие человека с машиной; стандартизация систем искусственного интеллекта.
UDC 004.8:355/359
LEGAL REGULATION OF THE APPLICATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGY IN MILITARY AFFAIRS: THE EXPERIENCE OF RUSSIA AND CHINA
Kharitonova Yulia Sergeevna,
Doctor of Law, Professor, Professor of the Department of Entrepreneurial Law, Moscow State University. M. V. Lomonosov, Russia, Moscow, e-mail: [email protected]
The article discusses the issues of legal regulation of the use of artificial intelligence technology and neural networks, which are updated as these technologies develop and expand their application in various spheres of society, including military affairs. It is noted that the creation of strategies for the development of artificial intelligence technology in Russia and China makes it possible to compare regulatory approaches to this phenomenon, as well as to set the boundaries for the introduction of artificial intelligence technology into military affairs within the framework of international humanitarian law.
Keywords: artificial intelligence in military affairs; robots performance; self-learning software; human-machine interaction; standardization of artificial intelligence systems.
За последние несколько десятилетий мы стали свидетелями многих достижений в области вычислений и подходов, связанных с искусственным интеллектом (ИИ), благодаря прогрессу в машинном обучении, вычислительной мощности компьютеров, доступ-
'Выполнено при поддержке РФФИ, проект № 18-29-16223.
ности мобильного Интернета, доступности больших объемов данных и технологий хранения данных. Это вызвало серию прорывов, которые позволили искусственному интеллекту стать двигателем экономического и технического развития во многих странах, включая Россию и Китай. Ожидается, что искусственный интеллект переопределит все аспекты научной, военной и экономической
деятельности и приведет к новым требованиям, продуктам и в научной сфере.
Новые технологии могут принести пользу различным секторам. В то же время искусственный интеллект, по свидетельству специалистов, может использоваться не по назначению или вести себя непредсказуемым и потенциально опасным образом [13]. Вопросы о роли закона, этики и технологий в управ -лении системами искусственного интеллекта актуальны как никогда. По мнению Л. Флори-ди, это происходит потому, что «цифровая революция меняет наши взгляды на ценности и приоритеты, хорошее поведение и то, какие инновации не только устойчивы, но и социально предпочтительны - и управление всем этим теперь стало фундаментальной проблемой» [17].
Системы искусственного интеллекта, большинство из которых применяют методы обучения на основе статистики, чтобы находить закономерности в больших наборах данных и делать прогнозы на основе этих шаблонов, используются в самых разных приложениях и программных продуктах. В связи с распространением искусственного интеллекта в областях повышенного риска возрастает давление на разработку и управление данным интеллектом, чтобы он был подотчетным, справедливым и прозрачным. Как этого можно достичь и в каких рамках? Это один из центральных вопросов, требующих глубокого анализа этических, нормативно-правовых и технических проблем, возникающих при разработке режимов управления для рассматриваемых систем. Частично проблемы применения технологии искусственного интеллекта для военного и гражданского назначения совпадают.
Общество все чаще делегирует сложные, рискованные процессы системам искусственному интеллекту, такие как условно-досрочное освобождение, диагностика пациентов и управление финансовыми транзакциями. Это порождает новые проблемы, например, в плане ответственности автоматизированных транспортных средств, ограничений существующих правовых рамок в отношении «разрозненного воздействия больших данных» [11] или предотвращения алгоритмического ущерба [25], вопросов социальной справедливости, связанных с автоматизацией правоохранительной деятель-
ности или социального обеспечения [16], или потребление контента интернет-СМИ [18]. Учитывая широкое влияние искусственного интеллекта, эти вопросы могут быть успешно решены только с междисциплинарной точки зрения.
14 октября 2019 г. Президент Российской Федерации утвердил Указ № 490 «О развитии искусственного интеллекта в Российской Федерации». В соответствии с данным указом была разработана и принята Национальная стратегия развития искусственного интеллекта на период до 2030 года (Стратегия 2030), в которой определяются цели и основные задачи развития искусственного интеллекта в Российской Федерации и закрепляется общий подход: «Использование технологий искусственного интеллекта в отраслях экономики носит общий (сквозной) характер и способствует созданию условий для улучшения эффективности и формирования принципиально новых направлений деятельности хозяйствующих субъектов». При этом технология искусственного интеллекта выступает инструментом аналитики в различных сферах. Полагаем, во многом закономерности применения систем принятия решения совпадают для гражданского и военного назначения.
В 2016 г. Правительство Российской Федерации создало оборонную научно-исследовательскую организацию, занимающуюся вопросами автономии и робототехники, под названием «Фонд перспективных исследований» (www.patriot-expo.ru) и инициировало проведение ежегодной конференции «Роботизация Вооруженных Сил Российской Федерации» [23]. Россия занимает четвертое место в мире по числу пользователей искусственного интеллекта с открытым исходным, и российские венчурные инвесторы активно ищут возможности на рынке за рубежом, что свидетельствует о том, что в России могут быть предприняты совместные усилия по внедрению технологий искусственного интеллекта [20].
Искусственный интеллект стал главной движущей силой нового витка промышленной трансформации во всем мире. Многие страны, включая Китай, используют возможность революции искусственного интеллекта для содействия внутреннему экономическому и технологическому развитию. Как и в
России, создан План развития искусственного интеллекта нового поколения в Китае (2015-2030 гг.). С точки зрения группы экспертов по искусственному интеллекту из академических кругов и промышленности, которые принимали участие в различных этапах реализации этого плана, в китайском Плане развития искусственного интеллекта излагается стратегия в области науки и технологий, а также образования и решается ряд проблем, таких как продвижение фундаментальных исследований и изучение этических проблем [29].
С 2013 г. Китай опубликовал несколько политических документов национального уровня, в которых отражено намерение разработать и развернуть искусственный интеллект в различных секторах. Например, в 2015 г. Государственный совет выпустил руководящие принципы действий Китая «Интернет +». Он стремился интегрировать Интернет во все элементы экономики и общества. В документе четко говорится о важности развития новых индустрий искусственного интеллекта и инвестирования в исследования и разработки. В том же году был выпущен десятилетний план «Сделано в Китае 2025» с целью превратить страну в доминирующего игрока в мировом высокотехнологичном производстве. Другим ярким примером является 13-й пятилетний план Центрального комитета Коммунистической партии Китая (КПК), опубликованный в марте 2016 г. В документе искусственный интеллект упоминается как одна из шести важнейших областей для развития развивающихся отраслей страны и как важный фактор стимулирования экономического роста. Системное толкование названных документов позволяет сделать вывод, что в течение некоторого времени в Китае предпринимались сознательные усилия по разработке и использованию искусственного интеллекта. Однако до 2016 г. искусственный интеллект представлялся просто как одна из множества других технологий, которые могли быть полезны для достижения ряда политических целей. Это изменилось с выпуском Плана развития искусственного интеллекта нового поколения.
В августе 2016 г., по данным Государственного совета, было объявлено о 15 мегапро-ектах со сроком реализации до 2030 г., чтобы отразить и учесть новые разработки и тен-
денции как национальных, так и международных приоритетов и потребностей науки и технологий.
План развития NGAI (2015-2030) был запущен в июле 2017 г. Государственным советом Китая (China issues guideline on artificial intelligence development, 2017, http://english. gov.cn/policies/latest_releases/2017/07/20/ content_281475742458322.htm). Опубликованный в июле 2017 г. Государственным советом (который является главным административным органом в Китае) План развития искусственного интеллекта нового поколения действует как единый документ, в котором излагаются цели политики в области искусственного интеллекта. Это первая инициатива на национальном уровне, которая прямо фокусируется на развитии искусственного интеллекта как единой стратегии. В документе есть задел для анализа вмешательства и влияния технологии искусственного интеллекта в Китае с позиций международной конкуренции, экономического роста и социального управления. Установлены также цели по разработке этических норм и стандартов, что позволяет прояснить понимание причин и текущей траектории стратегии искусственного интеллекта в государстве. Китайское правительство осознает потенциальные выгоды, практические риски и этические проблемы, которые представляет искусственный интеллект. Направление стратегии Китая в рассматриваемой области будет в значительной степени определяться взаимодействием этих факторов и степенью, в которой интересы правительства могут перевесить этические соображения.
Документ представляет собой первый систематический и стратегический план в области искусственного интеллекта для Китая на современном этапе. В нем изложен национальный «план верхнего уровня для общего мышления, стратегических целей, основных задач и вспомогательных мер по развитию искусственного интеллекта в Китае до 2030 года» в виде трех последовательных шагов. Во-первых, к концу 2020 г. Китай планировал сократить технологический разрыв с ведущими странами мира, а китайская индустрия искусственного интеллекта должна выйти на уровень, позволяющий конкурировать на самом высоком международном уровне. Во-вторых, к 2025 г. Китай добьется
значительных успехов в фундаментальных исследованиях искусственного интеллекта и сформулирует структуру NGAI, при этом некоторые технологии и приложения выйдут на мировой уровень, а искусственный интеллект станет основной движущей силой модернизации промышленности и экономических преобразований страны. В-третьих, ожидается, что к 2030 г. Китай станет одним из ведущих мировых центров инноваций в области искусственного интеллекта [27]. Однако помимо основной дискуссии о ключевой роли страны в глобальном ландшафте искусственного интеллекта, знания о реальной производительности и будущих перспективах экосистемы искусственного интеллекта в Китае все еще ограничены. В целом План обеспечивает комплексную стратегию искусственного интеллекта и бросает вызов другим ведущим силам во многих ключевых областях.
В Плане развития искусственного интеллекта следующего поколения на 2017 г. Китай описывает искусственный интеллект как стратегическую технологию, которая стала фокусом международной конкуренции (China State Council, "A Next Generation Artificial Intelligence Development Plan", p. 2). Согласно документу Китай возьмет на себя стратегическую инициативу и выйдет на лидирующие мировые уровни инвестиций в искусственный интеллект к 2030 г., с более чем 150 млрд долларов государственного финансирования.
Кооперация наших стран осуществляется в научной, военной и культурной сферах. Поэтому представляется целесообразным сопоставление регуляторных подходов в России и Китае к вопросам реализации технологии искусственного интеллекта.
Технология искусственного интеллекта представляет собой уникальную возможность для военных закупок, особенно с учетом того, что в значительной степени развитие рассматриваемой технологии в России и Китае происходит в коммерческом секторе. Так, по мнению ученых, китайская инновационная экосистема искусственного интеллекта очень перспективна, так как там избран путь формирования цифровых экосистем для решения широкого круга задач [2]. Инновационная экосистема искусственного интеллекта в Китае строится на ключевых сферах «тройной спирали» - правительстве,
промышленности и академических (исследовательских) институтах. В динамическом контексте экосистемный подход позволяет Китаю учитывать сложность возникающих инновационных сред и добиваться значительных успехов. Интересно, что, по мнению участников отношений, «благоприятный контекст, широкое распространение и конкуренция за таланты и капитал между региональными специализированными кластерами способствуют продвижению ИИ в Китае, в основном в сфере бизнеса» [10].
Потенциально может потребоваться адаптация для приобретения таких систем, как искусственный интеллект, в военных целях. По мнению экспертов, коммерческие приложения по искусственному интеллекту должны быть подвергнуты значительной модификации перед тем, как будут применены для военных целей [19].
Правовой анализ применения технологии искусственного интеллекта должен проводиться в том числе с учетом положений международного законодательства о военном применении технологий. Речь идет о регулировании применения технологий, способных придать традиционным вооружениям уникальные возможности, присущие боевым роботам. Резолюцией 3093 Генеральной Ассамблеи ООН от 10 октября 1980 г. в Женеве была принята Конвенция (подписана от имени СССР 10 апреля 1981 г. и ратифицирована Президиумом Верховного Совета СССР 2 июня 1982 г., Ведомости Верховного Совета СССР, 1983, № 3) о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие (Конвенция о «негуманном» оружии) (https://www. mid.ru), которая является важнейшим международно-правовым документом, регулирующим применение в конфликтах таких видов оружия, как наземные мины, мины-ловушки и аналогичные устройства.
Начиная с мая 2014 г. ООН принимает активное участие в международных дискуссиях относительно разработки смертоносных автономных систем вооружений (САС, LAWS), называемых также боевыми автономными роботизированными системами (БАРС), или роботами-убийцами [5]. Смертоносные автономные системы вооружения представляют
собой особый класс систем искусственного интеллекта, способных самостоятельно идентифицировать цель и, используя бортовую систему вооружения, атаковать и уничтожить ее без взаимодействия с человеком [22]. Достижения в области искусственного интеллекта, вероятно, приведут к созданию САС, которые по своему характеру будут отличаться от существующих систем оружия и, следовательно, потребуют нового подхода к оценке соблюдения норм международного гуманитарного права. Государства взяли на себя полномочие по обсуждению вопросов, связанных с появляющимися технологиями в области смертоносных автономных систем оружия, в контексте целей и задач указанной конвенции. Появление смертоносных автономных систем оружия предлагает развивающимся державам стратегию с относительно низкими затратами на внедрение, которая позволит им компенсировать обычное военное преимущество, которым обладают их соперники, что угрожает установившемуся глобальному балансу сил [28].
В военной сфере автономные ударные системы с использованием искусственного интеллекта создают риски, связанные с исключением человека из цикла принятия решений на применение оружия - так называемая «проблема значимого человеческого контроля» (https://interaffairs.ru/jauthor/material/2152).
При этом сформулированы ключевые потенциальные принципы, на которых в будущем мог бы базироваться подход международного сообщества к САС, в числе которых особое место занимает принцип, согласно которому разработки в сфере искусственного интеллекта военного назначения должны вестись в соответствии с международным гуманитарным правом, а ответственность за применение подобных систем в любом случае должен нести человек [8].
В российской правовой доктрине все еще ведутся споры о возможной правосубъектности роботов и искусственного интеллекта. Однако они видятся весьма поверхностными, не связанными с реальным знанием основ кибернетики, математики, технологии как таковой. Например, А. В. Габов и И. А. Хованов указывают: «робот - такой же результат развития человеческого общества в процессе его взаимодействия с природой, как и многие иные феномены искусственного мира» [1].
Подход названных ученых неоднократно подвергался критике, поскольку в данном случае происходит смешение продуктов антропогенной деятельности в их отношении к человеку и природе с непосредственными объектами природы, к которым человек прилагает свой труд, ими принципиально не различаются явления природы и продукты общественного производства и их значение в жизни общества: любой робот независимо от сложности выполняемого им функционала является продуктом и результатом деятельности человека, по существу орудием труда человека [7].
Технология искусственного интеллекта сегодня применяется в военных целях при разработке аппаратных и программных компонентов, подпадающих по существующей правовой традиции под понятие программ для ЭВМ, являющихся объектами права интеллектуальной собственности [15].
Однако наиболее востребованной, с нашей точки зрения, сегодня является тема интеллектуализации организационных и информационных процессов, внедрения интеллектуальных систем поддержки принятия решений и рекомендательных систем.
Рекомендательные системы - технологии, которые на основе информации о профиле предсказывают, какие объекты (данные, новости, веб-сайты) будут полезны или необхо -димы пользователю [12]. Рекомендательные системы широко используются в информационной среде, военном деле, биомедицинской индустрии и т. д. Ожидается, что применение искусственного интеллекта также будет особенно полезным в области разведки в связи с большими массивами данных, имеющихся в наличии для анализа (CRS discussions with Dr. Richard Linderman, October 24, 2017).
Суть работы рекомендательных систем заключается в следующем: эти программы собирают данные о пользователях и их пред -почтениях (например, путем проведения тестирования пользователей либо посредством получения доступа к содержимому устройства пользователя, записи звука/видео, слежения за действиями пользователя в интернете и приложениях, просмотра истории поисков в браузере). Все эти действия необходимы для работы данной системы и выполнения ее основной функции [26]. Две основные стратегии создания рекоменда-
тельных систем - контентная фильтрация (content-based filtering) и коллаборативная фильтрация (collaborative filtering) [3]. Рекомендательные системы сравнивают однотипные данные из разных источников и вычисляют список рекомендаций для конкретного пользователя. Они являются альтернативой поисковым алгоритмам, так как позволяют обнаружить объекты, которые не могут быть найдены последними.
Таким образом, рекомендательная система на основе заранее собранных и обработанных данных (Big Data) описывает возможные пользовательские предпочтения. Выводы алгоритма служат важной основой для дальнейших рекомендаций пользователю того или иного контента. Этот эффект используется как часть механизма принятия решений в бизнесе, государственном управлении, а также весьма востребован в экономике как современный инструмент для прогнозирования, внедрения новых продуктов и т. д., поскольку некоторые субъекты нуждаются в рекомендации или прогнозе для будущего бюджета, координации труда и цепочки поставок, динамические системы рекомендаций крайне востребованы сегодня для точного прогнозирования.
Военные пытаются использовать аналитический потенциал искусственного интеллекта в зоне командования и контроля [9]. Все военные службы включают искусственный интеллект в различные типы автономных транспортных средств. Срок эксплуатации этих систем службами составляет не менее десяти лет в будущем. Приложения искусственного интеллекта в этой области аналогичны коммерческим самоходным машинам, которые используют данные технологии для того, чтобы воспринимать объекты окружающей среды, распознавать препятствия, данные датчиков предохранителей, планировать навигацию и даже общаться с другими автономными транспортными средствами [14].
В данном случае кажется очевидным, что такие результаты применения технологии искусственного интеллекта не приводят к созданию охраноспособных объектов, порождающих исключительное право на данные. В то же время не представляется возможным приравнять такие случаи применения технологии искусственного интеллекта к договорным отношениям в сфере услуг.
Еще одним направлением применения технологии искусственного интеллекта являются интеллектуальные системы поддержки принятия решений (Decision Support System, DSS), которые представляют собой компьютерные автоматизированные системы, целью которых является помощь лицам, принимающим решение в сложных условиях, для полного и объективного анализа предметной деятельности.
В технической среде под системами поддержки принятия решений понимают «комплекс математических и эвристических методов и моделей, объединенных общей методикой формирования альтернатив управленческих решений в организационных системах, определения последствий реализации каждой альтернативы и обоснования выбора наиболее приемлемого управленческого решения. Поддержка принятия решений и заключается в помощи лицу, принимающему решение, в процессе принятия решений» [6].
Управление решениями на основе данных (Data-driven decision management, DDDM) -это подход к управлению бизнесом, который ценит решения, которые могут быть подкреплены проверяемыми данными. И если ранее необходимо было обращаться к специалисту, чтобы добывать данные для получения информации, поскольку этому человеку было необходимо понять, как работают базы данных и хранилища данных, то теперь такой сбор, анализ и обработка данных создаются с применением технологий искусственного интеллекта на периодической основе.
В состав системы поддержки принятия решений входит: поиск информации, анализ баз данных, определение приоритетных задач, моделирование, генерация возможных решений и их альтернатив, выработка последствий выбора конкретных решений и определение в заданных условиях наиболее оптимального решения. Для решения наиболее сложных задач по принятию решений ис -пользуются системы искусственного интеллекта [4]. То есть и в данной сфере мы можем разграничить системы, основанные на информационных технологиях, направленных на автоматизацию деятельности человека (например, создание баз данных, электронный документооборот), что обеспечивается
за счет специального программного обеспечения и по существу не включает искусственный интеллект, и непосредственно системы искусственного интеллекта, где используются интеллектуальные алгоритмы (например, разрешение спора и вынесение решения).
Причем особенностью использования технологии искусственного интеллекта в системах принятия решений является то, что она применяется в сочетании с другими сквозными технологиями. В частности, активно задействуется технология больших данных. Успех подхода, основанного на данных, зависит от качества собранных данных и эффективности их анализа и интерпретации.
В этом направлении у технологии искусственного интеллекта может иметь многообещающее будущее в области военного материально-технического обеспечения. Например, ведется работа над использованием искусственного интеллекта для выполнения индивидуального, прогнозируемого технического обслуживания самолетов. Вместо проведения ремонтных работ при поломке воздушного судна или в соответствии с графиком, разработанным для всего парка самолетов, индивидуальный подход, применяемый при содействии искусственного интеллекта, позволит техническим специалистам выполнять задачи обслуживания на отдельных самолетах по мере необходимости [21].
Таким образом, видим, что сферы применения и получаемые результаты технологии искусственного интеллекта далеко не всегда связаны с правами интеллектуальной собственности. И в связи с этим у практиков возникает закономерная мысль о том, что, несмотря на то что было использовано и разработано много искусственного интеллекта, он не производил результаты, которые были бы общедоступны или которые обязательно были интеллектуальными созданиями сами по себе (https://www.wipo.int/about-ip/en/ artifidalJntelligence).
В то же время применение технологии искусственного интеллекта в данном клю-
че требует разрешения вопросов публично-правового характера: получения согласия на обработку данных от субъектов этих данных, определения правосубъектности указанных лиц, установления юридической ответственности в связи с недобросовестным использованием данных, полученных для принятия решения.
Юристы и ученые неоднократно заявляют о необходимости практического и объективного содержательного руководства по законному развитию автономии в системах оружия. Так, поддерживается идея о том, что технологическая оценка спектра автономии должна быть сосредоточена на сочетании полномочий, предоставленных компьютеру, который управляет САС, а также с учетом физических возможностей системы. Ключевой вопрос, связанный с соблюдением международного гуманитарного права, заключается в том, была ли САС предоставлена некоторая комбинация полномочий и возможностей, которые функционально делегируют решение об убийстве от человека к машине. В основе оценки того, нарушает ли конкретная САС этот порог делегирования, должна лежать предсказуемость принимаемых решений. Для этого важно понимать, как искусственный интеллект справляется с неопределенностью, критическим компонентом анализа предсказуемости [24].
Анализ практики применения систем искусственного интеллекта показал, что сегодня под интеллектуальными алгоритмами понимаются самые разные технологии, которые основаны или связаны с интеллектуальными системами, но не всегда подпадают под понятие классического искусственного интеллекта. Строго говоря, классический искусственный интеллект представляет собой лишь одну из технологий интеллектуальных систем. Поэтому неоправданными являются попытки обосновать возможность переложить юридическую ответственность с человека на инструмент - искусственный интеллект и продукты применения этой технологии в различных целях.
Список литературы:_
1. Габов, А. В. Эволюция роботов и право века / А. В. Габов, И. А. Хованов // Вестник Томского государственного университета. - 2018. - № 435. - С. 215-216.
2. Губин, Е. П. Цифровые платформы в Европе, Китае и России: основные подходы и тенденции правового регулирования / Е. П. Губин, Ю. С. Харитонова // Право и экономика. - 2020. - № 8. - С. 5-13.
3. Джонс, М. Принципы работы рекомендательных механизмов Интернета / М. Джонс. - URL: https://www.ibm. com/developerworks/ru/library/os-recommender1/index.html (дата обращения: 01.12.2020).
4. Незнамов, А. В. К вопросу о применении технологий искусственного интеллекта в правосудии: терминоло -гический аспект / А. В. Незнамов // Арбитражный и гражданский процесс. - 2019. - № 10.
5. Овчинский, В. Роботы-убийцы против человечества. Киберапокалипсис сегодня / В. Овчинский, Е. Ларина. - URL: https://e-libra.ru/read/491376-roboty-ubiycy-protiv-chelovechestva-kiberapokalipsis-segodnya.html (дата обращения: 01.12.2020)..
6. Прокопенко, Н. Ю. Системы поддержки принятия решений : учебное пособие / Н. Ю. Прокопенко; Нижегор. гос. архитектур.-строит. ун-т. - Нижний Новгород : ННГАСУ, 2017.
7. Синицын, С. А. Российское и зарубежное гражданское право в условиях роботизации и цифровизации / С. А. Синицын. - Москва, 2021.
8. Юридическая концепция роботизации : монография / Н. В. Антонова, С. Б. Бальхаева, Ж. А. Гаунова и др.; отв. ред. Ю. А. Тихомиров, С. Б. Нанба. - Москва : Проспект, 2019. - 240 с.
9. Amaani Lyle. National Security Experts Examine Intelligence Challenges at Summit, September 9, 2016. URL: https://www.defense.gov/News/Article/Article/938941/national-security-experts-examine-intelligence-challenges-atsummit/ (дата обращения: 01.12.2020).
10. Arenal A. et al. Innovation ecosystems theory revisited: The case of artificial intelligence in China // Telecommunications Policy. - 2020. - Vol. 44. - No. 6. - P. 101960.
11. Barocas S, Selbst AD. 2016 Big data's disparate impact. Cal. L. Rev. 104, 671.
12. Bobadilla J., Ortega F., Hernando A., Gutiérrez A., Recommender systems survey, Knowledge-Based Systems, 46 (2013) 109-132.
13. Cath C. Governing artificial intelligence: ethical, legal and technical opportunities and challenges. - 2018.
14. Colin Clark, Rolling the Marble: BG Saltzman on Air Force's Multi-Domain C2 System, Breaking Defense, August 8, 2017. URL: https://breakingdefense.com/2017/08/rolling-the-marble-bg-saltzman-on-air-forces-multi-domain-c2- system (дата обращения: 01.12.2020).
15. Debessonet C. G., Cross G. R. An Artificial Intelligence Application in the Law: CCLIPS, A Computer Program that Processes Legal Information // High Tech. LJ. - 1986. - Vol. 1. - P. 329.
16. Eubanks V. 2018 Automating inequality: how high-tech tools profile, police, and punish the poor. New York, NY: St. Martin's Press.
17. Floridi L. 2018Soft ethics, the governance of the digital and the General Data Protection Regulation. Phil. Trans. R. Soc. A 376, 20180081.
18. Harambam J, Helberger N, van Hoboken J. 2018Democratizing algorithmic news recommenders: how to materialize voice in a technologically saturated media ecosystem. Phil. Trans. R. Soc. A 376, 20180088.
19. Hoadley D. S., Lucas N. J. Artificial intelligence and national security. - 2018.
20. Leon Bershidsky. Take Elon Musk Seriously on the Russian AI Threat," Bloomberg, September 5, 2017. URL: https://www.bloomberg.com/view/articles/2017-09-05/take-elon-musk-seriously-on-the-russian-ai-threat (дата обращения: 01.12.2020).
21. Marcus Weisgerber, Defense Firms to Air Force: Want Your Planes' Data? Pay Up, Defense One, September 19,
2017. URL: http://www.defenseone.com/technology/2017/09/military-planes-predictive-maintenance-technology/141133/ (дата обращения: 01.12.2020).
22. Mark Pomerlau. Loyal Wingman Program Seeks to Realize Benefits of Advancements in Autonomy, October 19, 2016. URL: https://www.c4isrnet.com/unmanned/uas/2016/10/19/loyal-wingman-program-seeks-to-realize-benefits-ofadvancements-in-autonomy/ (дата обращения: 01.12.2020).
23. Samuel Bendett. Red Robots Rising: Behind the Rapid Development of Russian Unmanned Military Systems, The Strategy Bridge, December 12, 2017. URL: https://thestrategybridge.org/the-bridge/2017/12/12/red-robots-rising-behind-therapid-development-of-russian-unmanned-military-systems (дата обращения: 01.12.2020).
24. Schuller A. L. At the Crossroads of Control: The Intersection of Artificial Intelligence in Autonomous Weapon Systems with International Humanitarian Law // Harvard National Security Journal. - 2017. - Vol. 8. - No. 2.
25. Veale M, Binns R, Edwards L. 2018Algorithms that remember: model inversion attacks and data protection law. Phil. Trans. R. Soc. A 376, 20180083.
26. Vijaya Kumar P. N., Raghunatha Reddy Dr. V., A Survey on Recommender Systems (RSS) and Its Applications, 2014; Yukun Cao, Yunfeng Li, An intelligent fuzzy-based recommendation system for for consumer electronic products, 33 (2007) 230-240.
27. Wu F. et al. Towards a new generation of artificial intelligence in China // Nature Machine Intelligence. - 2020. -Vol. 2. - No. 6. - P. 312-316.
28. Wyatt A. Charting great power progress toward a lethal autonomous weapon system demonstration point // Defence Studies. - 2020. - Vol. 20. - No. 1. - P. 1-20.
29. Zhu J. et al. The future of artificial intelligence in China // Communications of the ACM. - 2018. - Vol. 61. - No. 11. -P. 44-45.
References:_
1. Gabov A.V., Xovanov I.A. E'volyuciya robotov i pravo veka, Vestnik Tomskogo gosudarstvennogo universiteta,
2018, no. 435, p. 215-216.
2. Gubin E.P., Xaritonova Yu.S. Cifrovy'e platformy' v Evrope, Kitae i rossii: osnovny'e podxody' i tendencii pravovogo regulirvoaniya, Pravo i e'konomika, 2020, no. 8, p. 5-13.
3. Dzhons M. Principy raboty'rekomendatel'nyxmexanizmovInterneta. URL: https://www.ibm.com/developerworks/ ru/library/os-recommenderl/index.html (data obrashheniya: 01.12.2020).
4. Neznamov A.V. K voprosu o primenenii texnologij iskusstvennogo intellekta v pravosudii: terminologicheskij aspect, Arbitrazhnyj i grazhdanskij process, 2019, no. 10.
5. Ovchinskij V., Larina E. Roboty-ubijcy protiv chelovechestva. Kiberapokalipsis segodnya. URL: https://e-libra.ru/ read/491376-roboty-ubiycy-protiv-chelovechestva-kiberapokalipsis-segodnya.html (data obrashheniya: 01.12.2020).
6. Prokopenko N.Yu. Sistemy podderzhki prinyatiya reshenij: ucheb. posobie. N. Novgorod: NNGASU, 2017.
7. Sinicyn S.A. Rossijskoe i zarubezhnoe grazhdanskoe pravo v usloviyax robotizacii i cifro-vizacii. Moscow, 2021, p. 61.
8. Yuridicheskaya koncepciya robotizacii: monografiya / N.V. Antonova, S.B. Bal'xaeva, Zh.A. Gaunova i dr.; otv. red. Yu.A. Tixomirov, S.B. Nanba. Moscow: Prospekt, 2019, 240 p.
9. Amaani Lyle. National Security Experts Examine Intelligence Challenges at Summit, September 9, 2016. URL: https://www.defense.gov/News/Article/Article/938941/national-security-experts-examine-intelligence-challenges-atsummit/ (data obrashheniya: 01.12.2020).
10. Arenal A. et al. Innovation ecosystems theory revisited: The case of artificial intelligence in China, Telecommunications Policy, 2020, vol. 44, no. 6, p. 101960.
11. Barocas S, Selbst AD. 2016Big data's disparate impact. Cal. L. Rev. 104, 671.
12. Bobadilla J., Ortega F., Hernando A., Gutiérrez A., Recommender systems survey, Knowledge-Based Systems, 46 (2013) 109-132.
13. Cath C. Governing artificial intelligence: ethical, legal and technical opportunities and challenges, 2018.
14. Colin Clark. Rolling the Marble: BG Saltzman on Air Force's Multi-Domain C2 System, Breaking Defense, August 8, 2017. URL: https://breakingdefense.com/2017/08/rolling-the-marble-bg-saltzman-on-air-forces-multi-domain-c2-system (data obrashheniya: 01.12.2020).
15. Debessonet C. G., Cross G. R. An Artificial Intelligence Application in the Law: CCLIPS, A Computer Program that Processes Legal Information, High Tech. LJ, 1986, vol. 1, p. 329.
16. Eubanks V. 2018Automating inequality: how high-tech tools profile, police, and punish the poor. New York, NY: St. Martin's Press.
17. Floridi L. 2018Soft ethics, the governance of the digital and the General Data Protection Regulation. Phil. Trans. R. Soc. A 376, 20180081.
18. Harambam J, Helberger N, van Hoboken J. 2018 Democratizing algorithmic news recommenders: how to materialize voice in a technologically saturated media ecosystem. Phil. Trans. R. Soc. A 376, 20180088.
19. Hoadley D. S., Lucas N. J. Artificial intelligence and national security, 2018.
20. Leon Bershidsky, "Take Elon Musk Seriously on the Russian AI Threat," Bloomberg, September 5, 2017. URL: https://www.bloomberg.com/view/articles/2017-09-05/take-elon-musk-seriously-on-the-russian-ai-threat (data obrashheniya: 01.12.2020).
21. Marcus Weisgerber. Defense Firms to Air Force: Want Your Planes' Data? Pay Up, Defense One, September 19, 2017. URL: http://www.defenseone.com/technology/2017/09/military-planes-predictive-maintenance-technology/141133 (data obrashheniya: 01.12.2020).
22. Mark Pomerlau. Loyal Wingman Program Seeks to Realize Benefits of Advancements in Autonomy, October 19, 2016. URL: https://www.c4isrnet.com/unmanned/uas/2016/10/19/loyal-wingman-program-seeks-to-realize-benefits-ofadvancements-in-autonomy/ (data obrashheniya: 01.12.2020).
23. Samuel Bendett. Red Robots Rising: Behind the Rapid Development of Russian Unmanned Military Systems, The Strategy Bridge, December 12, 2017. URL: https://thestrategybridge.org/the-bridge/2017/12/12/red-robots-rising-behind-therapid-development-of-russian-unmanned-military-systems (data obrashheniya: 01.12.2020).
24. Schuller A. L. At the Crossroads of Control: The Intersection of Artificial Intelligence in Autonomous Weapon Systems with International Humanitarian Law, Harvard National Security Journal, 2017, vol. 8, no. 2.
25. Veale M, Binns R, Edwards L. 2018Algorithms that remember: model inversion attacks and data protection law. Phil. Trans. R. Soc. A 376, 20180083.
26. Vijaya Kumar P. N., Raghunatha Reddy Dr. V., A Survey on Recommender Systems (RSS) and Its Applications, 2014; Yukun Cao, Yunfeng Li, An intelligent fuzzy-based recommendation system for for consumer electronic products, 33 (2007) 230-240.
27. Wu F. et al. Towards a new generation of artificial intelligence in China, Nature Machine Intelligence, 2020, vol. 2, no. 6, p. 312-316.
28. Wyatt A. Charting great power progress toward a lethal autonomous weapon system demonstration point, Defence Studies, 2020, T. 20, no. 1, p. 1-20.
29. Zhu J. et al. The future of artificial intelligence in China, Communications of the ACM, 2018, vol. 61, no. 11, p. 44-45.
