CC BY-NC
442Национальная безопасность / nota bene
Правильная ссылка на статью:
Горохова С.С. — Искусственный интеллект в контексте обеспечения национальной безопасности // Национальная безопасность / nota bene. - 2020. - № 3. DOI: 10.7256/2454-0668.2020.3.33465 URL: https;//nbpublishxomfibrary_read_artide.php?id=33465
Искусственный интеллект в контексте обеспечения национальной безопасности
Горохова Светлана Сергеевна
кандидат юридических наук
доцент, Департамент международного и публичного права, Финансовый университет при
Правительстве Российской Федерации
109456, Россия, Московская область, г. Москва, ул. 4-Й вешняковский проезд, 4, каб. 414
Статья из рубрики "Научно-техническое обеспечение национальной безопасности"
DOI:
10.7256/2454-0668.2020.3.33465
Дата направления статьи в редакцию:
16-07-2020
Дата публикации:
04-08-2020
Аннотация.
Предметом исследования являются наиболее перспективные технологические решения с использованием искусственного интеллекта и мировые тренды их использования вооруженными силами технологически передовых государств мира. Выявляются основные направления применения технологий ИИ рядом стран, в том числе и Российской Федерацией. Проблема исследования заключается в недостаточной степени сбалансированности подхода к применению технологических решений на основе ИИ, определяемого повышенной степенью опасности использования искусственных интеллектуальных систем для обеспечения безопасности и обороны государств, с одной стороны, и невозможностью отказа от них на современном этапе в силу имеющихся международных тенденций, с другой. Научная новизна работы заключается в попытке проведения комплексного анализа текущей мировой ситуации в сфере определения перспектив и опасностей применения технологий ИИ в вооруженных силах, и в сфере обеспечения национальной безопасности современных государств.В качестве основных выводов работы можно отметить следующее.Технологии ИИ являются наиболее перспективным направлением переоснащения вооруженных сил ведущих военных держав современного мира. Разработки ведутся в различных направлениях,
варьирующихся от беспилотных транспортных средств до смертельного автономного оружия.Специалисты отмечают как ярко выраженные положительные перспективы использования ИИ в сфере обеспечения национальной безопасности, так и возможные негативные последствия от его использования.
Ключевые слова: искусственный интеллект, робот, беспилотное транспортное средство, смертельное автоматическое оружие, национальная безопасность, вооруженные силы, оборона, р о й , информационная безопасность, активная безопасность
Искусственный интеллект (далее ИИ) - это быстро развивающаяся область технологий, потенциально имеющая значительные последствия для национальной безопасности любого государства. Многие высокотехнологические страны разрабатывают приложения ИИ, в том числе, для целого ряда военных функций. Исследования ИИ ведутся в области сбора и анализа разведданных, логистики, киберопераций, информационных операций, командования и управления, а также различных полуавтономных и автономных транспортных средствах. При этом интересен подход к развитию технологий ИИ в разных странах. Так, если основные игроки рынка ИИ, ведут ключевые разработки сугубо в гражданских, мирных целях, и лишь потом рассматривают вопрос о передаче этих технологий военным, особенностью российского подхода, как считается, является то, что Российская Федерация внедряет прорывные технологии в первую очередь в оборонной промышленности и только потом ищет им гражданское применение.
Однако, какой бы подход не избирали страны, уже сейчас ИИ вовлечен в локальные боевые операции. Технологии ИИ представляют собой уникальные вызовы для военной интеграции. Развитые в сфере прорывных технологий страны конкурируют за
инновационные военные приложения ИИ.Ш Китай общепризнанно является ведущим конкурентом в этом отношении, и намерен захватить глобальное лидерство в развитии ИИ к 2030 году. В настоящее время Китай в первую очередь ориентирован на использование ИИ для принятия более быстрых и обоснованных решений, а также на разработку различных типов воздушных, сухопутных, морских и подводных автономных транспортных средств. Весной 2017 года гражданский Китайский университет во взаимодействии с военными продемонстрировал на авиашоу рой из 107 беспилотных летательных аппаратов с поддержкой искусственного интеллекта. В пресс-релизе, опубликованном после этого, было показано компьютерное моделирование аналогичного формирования роя, обнаружившего и уничтожившего ракетную установку.-2-
Кроме того, по мнению Мульчандани-3^: «Китайские военные и полицейские власти, бесспорно, обладают самыми передовыми в мире возможностями, такими как нерегулируемое распознавание лиц для организации всеобщего наблюдения и контроля за своим населением, мониторинг видео, собранного из их систем, и анализ текстов на
китайском языке для интернет-цензуры и цензуры средств массовой информации».-4-США, по его словам, инвестирует, например, в системы, которые одновременно повышают боеспособность истребителей, а также помогают военным защищать и
обслуживать Соединенные Штаты, в том числе во время пандемии COVID-19-4 Так, проект Salus, который был запущен в марте 2020 года, применяет искусственный интеллект для помощи в предсказании нехватки таких вещей, как вода, лекарства и предметы снабжения, необходимые в борьбе с пандемией. Объединенный центр искусственного интеллекта Пентагона разработал проект Salus, как платформу для агрегирования данных, использующую прогнозное моделирование, чтобы сузить
требования к цепочке поставок и дефицит в конкретных местах, чтобы задействованные
в борьбе с COVID19 службы могли получить необходимое оборудование-5-Одновременно, по словам американских военных, озвученных на панельной дискуссии Defense One Tech Summit (встреча на высшем уровне оборонных технологий) под названием «Соединение земли, воздуха, моря и космоса, чтобы доминировать на поле боя завтрашнего дня» 17 июня 2020 года, самым важным элементом на поле боя будущего будут не ракеты, пули или роботы, а данные и возможность собирать их из
любой точки и отправлять туда, где они должны быть.-6! В процессе обсуждения указанной гипотезы, высказывалось мнение, что «Мозаичная война», концепция, разрабатываемая Агентством перспективных исследовательских проектов Минобороны США (Defense Advanced Research Projects Agency), будет связывать боевые платформы -ракетные батареи, танки, самолеты, корабли и так далее. В такой ситуации, применение сети с ИИ позволило бы военным принять более правильное решение, какой актив наиболее эффективен при выполнении конкретной миссии. Например, если самолеты Военно-Воздушных сил и Военно-Морского флота находятся в районе, подлежащем обстрелу, ИИ может предложить, как использовать их наилучшим образом в сложившейся ситуации. В наземном сценарии мозаичной войны, по мнению американских военных, ИИ может предложить отправить беспилотный летательный аппарат или наземного робота впереди основной боевой силы. Эта беспилотная система могла бы обнаружить вражеский танк и передать координаты обратно, которые затем поступят в систему поражения без прямой видимости в тылу, которая, в свою очередь, запускает свои боеприпасы и уничтожает цель. При этом, искусственный интеллект, возможно, будет развернут на поле боя в многодоменных операциях через пять-десять лет, считает Тим Грейсон, директор отдела стратегических технологий Агентства
перспективных оборонных исследовательских проектов.-6!
Еще одной разработкой американских военных подрядчиков (в данном случае Lockheed Martin) является конвойная технология активной безопасности (CAST) - это система, установленная на военных автомобилях и предназначенная для того, чтобы сделать их полуавтономными. Если солдаты, движущиеся в середине колонны, внезапно попадают под огонь противника, экипированная CAST машина может зафиксироваться на машине впереди нее и вести себя с помощью машинного зрения. Это могло бы дать оператору на месте водителя возможность лучше защитить себя в пылу сражения.
В категории «кибербезопасность и специальные миссии» годового отчета за 2017 год компания Raytheon заявила: «Raytheon в рамках обеспечения кибербезопасности и специальных миссий разрабатывает и внедряет ... решения быстрого реагирования, а также поддержку специальных миссий с далеко идущими последствиями для разведывательного сообщества США, Министерства обороны, гражданских федеральных агентств.» Это заявление, по мнению экспертов, может относиться к системе предотвращения (PREVENT) Raytheon, продемонстрированной в цифровом журнале «Technology Today» в 2018 году, и, подробно описывающем исследовательские усилия Raytheon. PREVENT обнаруживает возникновение угроз общественной безопасности, вычисляя и оценивая нормальные модели трафика в исследуемом регионе. PREVENT способен обеспечить раннее предупреждение операторов на основе этого обнаружения с целью проведения дальнейшего анализа выявленных участников, вовлеченных в
нерегулярную деятельность.-7-
Американские военные также интегрируют системы искусственного интеллекта в боевые действия через головную инициативу под названием Project Maven, которая использует
алгоритмы искусственного интеллекта для идентификации целей повстанцев в Ираке и Сирии. Цель проекта Maven, по словам генерал-лейтенанта ВВС Джона Н. Т. Джека Шанахана, директора по оборонной разведке для поддержки военных истребителей: «состоит в том, чтобы превратить огромный объем данных, доступных Минобороны, в
действенную разведку и понимание.»-8- Ожидается, что ИИ будет особенно полезен в разведывательной деятельности благодаря наличию больших массивов данных, доступных для анализа. Например, первый этап проекта Maven включает автоматизацию обработки разведданных в поддержку кампании по борьбе с ИГИЛ. В частности, команда проекта Maven использует алгоритмы компьютерного зрения и машинного обучения в ячейках сбора разведданных, которые будут анализировать кадры с беспилотных воздушных судов и автоматически определять враждебную активность для точечного исследования. В этом качестве ИИ предназначен для автоматизации работы человеческих аналитиков, которые в настоящее время тратят часы на просеивание видео для получения полезной информации. Предполагается, что потенциально освобожденные аналитики должны будут принимать более эффективные и своевременные решения на основе полученных данных.-9-
Еще одно государство-конкурент на рынке ИИ, это Израиль. Хотя Израилю всего 70 лет, он обладает одной из самых современных вооруженных сил в мире. Несмотря на небольшой размер и бюджет Израиля (по сравнению с крупными сверхдержавами мира), около 4,5% его ВВП тратится на исследования и разработки в оборонной сфере, что почти вдвое превышает средний показатель ОЭСР (Организация экономического сотрудничества и развития). Для сравнения, только 2% немецких НИОКР и 17% американских НИОКР предназначены для военных, в то время как 30% израильских
НИОКР тратятся на военную продукцию-10- Военное применение ИИ в 4 крупнейших военных оборонных подрядчиках Израиля охватывает следующие четыре области:
Elbit- автономный барражирующий беспилотный летательный аппарат;
IAI-автономный патрульный беспилотник периметра;
Rafael Advanced Defense Systems- ракетное наведение;
IMI Systems - автономные транспортные средства.
Elbit - крупнейший израильский военный оборонный подрядчик, предлагает Sky-Striker, автономную технологию барражирующих боеприпасов, которая, как утверждается, может помочь военным наносить скрытые и точные авиаудары по целям с помощью автономного устройства с применением ИИ.
Барражирующие боеприпасы - это оружие, которое способно задерживаться в воздухе, когда оно достигает соответствующей цели. Самой ранней формой таких боеприпасов были начиненные взрывчаткой, пилотируемые транспортные средства или «террористы-смертники». Технология барражирующих боеприпасов сегодня, с искусственным интеллектом или без него, продвинулась до такой степени, что человеческое пилотирование больше не требуется. Российская промышленность, к слову, также не так давно представила свое первое технологическое решение с барражирующими боеприпасами - беспилотный летательный аппарат, способный осуществлять разведку и атаковать цель путем прямого попадания. На военно-техническом форуме «Армия-2019», компанией Zala Aero Group (концерн Калашников) впервые было продемонстрированно новое изделие этого класса. Под названием «Ланцет» представлены две версии ударного БПЛА. Изделия «Ланцет-1» и «Ланцет-3» унифицированы по планеру и части
внутренних систем. Отличия заключаются в полезной нагрузке и летно-технических характеристиках. Аппараты несут боевые части разной массы, а также отличаются взлетным весом и продолжительностью полета.
Израильская аэрокосмическая промышленность, или IAI, является вторым по величине оборонным израильским подрядчиком в мире. IAI предлагает множество продуктов с функциональностью искусственного интеллекта, один из которых - автономный патрульный беспилотник периметра (Guardium), который, как утверждает IAI, может помочь обеспечить безопасность объектов, сократить расходы и ресурсы на патрулирование и обеспечение безопасности. IAI относится к Guardium как к беспилотному транспортному средству безопасности, так как оно является наземным, а не воздушным, в отличие от традиционных беспилотников. Guardium имеет возможность путешествовать со скоростью до 48 mile per hour (миль в час), что соответствует, приблизительно 75,6 км/ч, чтобы перехватить злоумышленников на пограничном периметре до прибытия сотрудников службы безопасности, и усиливает защиту, не требуя массового развертывания ресурсов. IAI утверждает, что Guardium работает на платформе экспертных систем, а не на более современной системе машинного обучения, и используется на израильской границе с 2008 года. Сегодня эта система рассматривается для размещения в Международном аэропорту им. Бен-Гуриона неподалеку от Тель-Авива.
Россия также активно участвует в разработке военного ИИ, уделяя основное внимание робототехнике.-11- В настоящее время российские военные имеют на вооружении более 2100 беспилотных летательных аппаратов (далее БПЛА), сообщает Министерство обороны Российской Федерации (Минобороны РФ). Это делает российский беспилотный воздушный флот одним из крупнейших в мире, уступая американскому (более 10 000 БПЛА) и, возможно, превосходя китайский флот. Сирийская кампания оказалась беспрецедентной для России в области применения беспилотных летательных аппаратов. По данным Минобороны РФ, российские беспилотники совершили не менее 23 000 боевых вылетов и отработали 140 000 часов, поддерживая разведку, наблюдение, обнаружение и поиск целей, что значительно превышает количество боевых вылетов
пилотируемых самолетов в этой кампании.-12- Однако, подавляющее большинство российских военных беспилотников являются невооруженными, легкими,
короткоствольными и относительно недорогими.-13- Основная единица российского беспилотного флота сегодня -отечественный БПЛА «Орлан-10» с дальностью полета до 120 км, составляющий почти половину всех БПЛА, эксплуатируемых российской армией.-14- С дальностью полета до 250 км, средней высотой, и большой выносливостью, беспилотники, известные как форпосты, являются самым дальним, из ныне действующих БПЛА России. Беспилотник класса «Форпост» сам по себе является более старой израильской конструкцией Searcher 2, собранной в России по лицензионному соглашению.-15-
Отметим, что в январе 2020 года, Уральский завод гражданской авиации завершил испытания экспериментального образца перспективного беспилотного летательного аппарата «Альтиус-У», оснащенного спутниковым каналом обмена данными и управления, создание которого ведется по проекту «Альтаир». Разработка беспилотника «Альтиус» осуществляется с 2011 года. Изначально работы по проекту вело Конструкторское бюро имени Симонова, которое создало по меньшей мере три летных образца под названием «Альтиус-М», после чего, в конце 2018 года Минобороны РФ передало проект Уральскому заводу гражданской авиации. Первый полет беспилотного
аппарата в версии «Альтиус-У» состоялся в августе 2019 года. Максимальная взлетная масса «Альтиуса-У» составляет 6 тонн при длине 12 метров и размахе крыла - около 30 метров. Аппарат способен находиться в воздухе около 48 часов, рассчитан на ведение разведки с высоты 12 тысяч метров, а дальность полета аппарата составляет около десяти тысяч километров. «Альтиус-У» может нести полезную нагрузку массой до 2 тонн.
Кроме того, в ноябре 2016 года Воздушно-космические войска России приступили к опытной эксплуатации перспективных ударных беспилотников «Орион». Экспортная версия данного БПЛА была представлена на авиасалоне МАКС-2017. Максимальная взлетная масса аппарата составляет 1,2 тонны, максимальная продолжительность его полета - 30 часов, а высота - около 8 тысяч метров. Беспилотный аппарат может нести боевую нагрузку массой до 450 килограммов.
Когда речь заходит о российских беспилотных наземных системах, страна разрабатывает
целую линейку для удовлетворения различных боевых потребностей.-16- Они включают в себя малые системы, и большие танковые транспортные средства, загруженные дальнобойным, противотанковым и зенитным вооружением. Хотя большинство из них все еще проходят испытания и оценку, некоторые уже прошли испытание огнем. Россия отправила свой самый тяжелый боевой многофункциональный робототехнический комплекс на гусеничном ходу «Уран-9» в Сирию для «околобоевых испытаний», где, правда, пользователи и разработчики обнаружили, что он потерпел неудачу по всем основным критериям - от двигателя до наведения на цель, стрельбы и связи с другими
ключевыми системами.-17-
Другая боевая автоматизированная система (далее БАС) «Соратник», также была испытана в условиях, приближенных к боевым при температуре выше 30 градусов по Цельсию. Бронированная гусеничная машина «Соратник» предназначена для разведки и ретрансляции, патрулирования и охраны территорий и важных объектов,
разминирования и разграждения.-18- В 2017 году военные получили на вооружение небоевых саперных роботов «Уран-6», и управляемые комплексы «Скарабей» и
«Сфера», которые также служили с военными страны в сирийских боях.-19-
Вообще, следует констатировать, что общее развитие искусственного интеллекта в Российской Федерации стремительно растет, как в частном, так и в государственном секторе, и, соответственно, в вооруженных силах страны. Не так давно, Президент Российской Федерации, В.В. Путин заметил, что, по его мнению, самая интересная
область национальных исследований связана именно с ИИ, наряду с генетикой.-20-Сегодня в Минобороны России проводится много исследований в области искусственного интеллекта, выделяются финансовые, людские и материальные ресурсы в рамках обширной технической, академической и промышленной инфраструктуры. Развитие ИИ в частном секторе России также переживает возрождение, во многом благодаря общей сильной академической базе STEM, которая способствует развитию высоких
технологий.-21-
В России в октябре 2012 года, по аналогии с американским DARPA (Defense Advanced
Research Project Agency),-22- был создан Фонд перспективных исследований (ФПИ),
который сегодня объединяет 46 исследовательских лабораторий.-23- 20 марта 2018 года ФПИ объявил, что подготовил предложения для Минобороны РФ по стандартизации
разработки ИИ, которые включают в себя следующие ключевые направления:-24-распознавание изображений, распознавание речи, позволяющее управлять
автономными военными системами, а также поддержка ИИ жизненного цикла оружия. ФПИ объявил об этих принципах в марте 2018 года на научном форуме под названием «Искусственный интеллект: проблемы и решения», организованном Минобороны РФ, Министерством образования и Российской академией наук с целью продвижения предложений, направленных на мобилизацию государства и научного сообщества к работе с ИИ. В своем обращении к участникам конференции Министр обороны России Сергей Шойгу призвал гражданских и военных конструкторов страны объединить усилия по разработке искусственного интеллекта для обеспечения технологической и
экономической безопасности страны.-25- Ключевым результатом этого международного симпозиума стала публикация 10-шаговой рекомендации «дорожная карта» развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект».-26- В этой дорожной карте намечены предлагаемые государственно-частные партнерства и краткосрочные и среднесрочные мероприятия, которые следует реализовать. В рамках разработки дорожной карты развития сквозных цифровых технологий (далее СЦТ) «Искусственный интеллект и нейротехнологии» были выделены семь субтехнологий СЦТ (далее суб-СЦТ):
компьютерное зрение;
обработка естественного языка;
распознавание и синтез речи;
рекомендательные системы и интеллектуальные системы поддержки принятия решений; перспективные методы и технологии в ИИ; не йропроте з иров а ние ;
нейроинтерфейсы, нейростимуляция и нейросенсинг.
Для каждой суб-СЦТ определен текущий уровень готовности суб-СЦТ (далее УГТ) (в соответствии с ГОСТ Р 57194.1-2016) (Таблица 1), а также выделены наиболее перспективные потенциальные задачи (технологии), потенциальные научно-технические и технологические решения (target use-cases).
Таблица 1. Уровень готовности субтехнологий-27-
Субтехнология УГТ Сопоставление с мировым уровнем
Компьютерное зрение 6 УГТ по ряду технологических решений в России достигает 6, что соответствует мировому уровню
Обработка естественного языка 6 УГТ по ряду технологических решений в России достигает 6, что соответствует мировому уровню
Распознавание и синтез речи 5 УГТ по ряду технологических решений в России достигает 5, что соответствует мировому уровню
Рекомендательные системы и интеллектуальные системы поддержки принятия решений 7 УГТ по ряду технологических решений в России достигает 5, что соответствует мировому уровню
_ _ ____ ..
Перспективные методы и технологии в ИИ 2 УГТ по ряду технологических решений в России достигает 2, что соответствует мировому уровню
Не йропроте з иров а ние 5 УГТ по ряду технологических решений в России достигает 5, что соответствует мировому уровню
Нейроинтерфейсы, нейростимуляция и нейросенсинг 3 УГТ по ряду технологических решений в России достигает 3, что соответствует мировому уровню
В ходе мартовской конференции 2018 года заместитель министра обороны России Николай Панков заявил, что «из 388 научно-исследовательских институтов (Минобороны РФ) 279 сосредоточены в военных училищах, и большинство из них активно занимаются исследованиями в области искусственного интеллекта, робототехники, военной
кибернетики и других перспективных направлений.»-28- Примером усилий Минобороны РФ по созданию инфраструктуры, способствующей развитию ИИ, также является создание военно-инновационного «технополиса» в Анапе, на Черноморском побережье,
получившего название «Эра».-29- 14 основных направлений исследований, реализуемых этим проектом обозначены как:
технологии искусственного интеллекта;
малые космические аппараты;
робототехника;
информационная безопасность;
автоматизированные системы управления и IT-системы;
технологии энергообеспечения, аппараты и машины жизнеобеспечения;
техническое зрение, распознавание образов;
информатика и вычислительная техника;
биотехнические системы и технологии;
Нанотехнологии и наноматериалы;
гидрометеорологическое (метеорологическое) и геофизическое обеспечение; гидроакустические системы обнаружения объекта; геоинформационные платформы нового назначения; оружие на новых физических принципах.
Кроме того, уже несколько лет ФПИ работает над экспериментальной робототехнической платформой - боевым роботом «Маркер», который призван стать помощником человеку
на поле боя.-30- «Маркер» оснащен ключевыми технологиями наземной робототехники: техническое зрение, связь, навигация, автономное движение и применение, а также групповое управление. «Маркер» представляет собой универсальный комплекс с модульной архитектурой, на который можно установить, как в конструкторе Lego, новые
узлы, агрегаты, приборы, другое оборудование.
Резюмируя, отметим, что в настоящее время российские военные работают над внедрением элементов искусственного интеллекта в различные системы вооружения, подчеркивая важность ИИ в сборе и анализе данных для облегчения обработки информации. В частности, в марте 2018 года действовавший на тот момент, замминистра обороны Ю.И. Борисов (сейчас председатель Авиационной коллегии при Правительстве Российской Федерации), заявил, что развитие ИИ необходимо для эффективного противодействия противникам в информационном пространстве и победы в
кибервойнах.-31-
Российские гражданские разработки ИИ в области распознавания образов и речи также могут быть включены в оборонные и охранные приложения в будущем. При этом, важно отметить, что российское научное сообщество, в целом, положительно относится к
возможности применения ИИ-технологий для ведения войны,-32- хотя большинство ученых, все-же высказываются в духе, что: «поспешность и необдуманность военных разработок ИИ могут привести к новой гонке вооружений в мире и постепенному
игнорированию норм и принципов международного права». -33- Есть и такие, которые
видят в военном применении ИИ неоправданно высокие риски.-34- Так же, как и Google в
продолжающемся споре о его роли в американском оборонном секторе.-35-
В целом, конечно, российский оборонный сектор готовится к долгосрочному высокотехнологичному соперничеству со своими предполагаемыми противниками. И, несмотря на то, что некоторые вопросы остаются нерешенными, Минобороны РФ и его военно-промышленный сектор находятся в большей синхронизации, чем когда-либо с момента распада СССР. Начиная с 2012 года в министерстве были созданы
управления,-36--37- которые занимаются разработкой беспилотных и роботизированных технологий и созданием системного подхода, направленного на оптимизацию и облегчение создания этого оружия от его первоначальной разработки до окончательного (или потенциального) приобретения. Последние 10 лет развития российского оборонного сектора свидетельствуют о том, что российские военные достигают более высокого технического уровня. Принимая во внимание данный аспект, некоторые западные исследователи считают, что российским потенциальным конкурентам на геополитической арене, в конечном итоге придется столкнуться с более эффективным и способным противником, и им придется разрабатывать новые технологии в противодействии тому, чего они не делали уже много лет - равному противнику, стремящемуся выставить прорывные и передовые военные технологии в бою.-38-
Искусственный интеллект, вероятно, будет ключевой технологией в продвижении военных киберопераций. В своем выступлении в сенатском комитете по вооруженным силам в 2016 году командующий киберкомандованием США адмирал Майкл Роджерс заявил, что полагаться только на человеческий интеллект в киберпространстве-это
«проигрышная стратегия.»-39- Кроме того, будущие системы искусственного интеллекта могут использоваться для выявления каналов связи, перерезанных противником, и поиска альтернативных способов распространения информации. По мере того как сложность систем ИИ станет расти, его алгоритмы также могут быть способны предоставлять командирам меню жизнеспособных курсов действий, основанных на анализе боевого пространства в реальном времени, что, в свою очередь, позволит быстрее адаптироваться к сложным событиям.
Как США, так и КНДР тестирует и другие возможности искусственных интеллектуальных систем, чтобы получить кооперативное поведение беспилотных объектов или, по-другому, их «роение». Роение является уникальным подмножеством автономной разработки транспортных средств, с концепциями, начиная от крупных формирований недорогих транспортных средств, предназначенных для подавления оборонительных систем до небольших эскадрилий транспортных средств, которые взаимодействуют для обеспечения электронной атаки, огневой поддержки или локализации навигационно-коммуникационные сети для соединений сухопутных войск. В настоящее время разрабатывается целый ряд различных возможностей Роя. Например, в ноябре 2016 года военно-морской флот США завершил испытание роя из пяти беспилотных лодок с поддержкой искусственного интеллекта, которые совместно патрулировали участок 4-х мильной зоны Чесапикского залива и перехватили судно «Интрудер». Результаты этого эксперимента могут привести к созданию технологии искусственного интеллекта, адаптированной для защиты гаваней, охоты на подводные лодки или разведки перед
строем более крупных кораблей.-40-
Чуть позже, Военно-морской флот США провел испытания роя подводных беспилотников,-41- а Управление стратегических возможностей успешно испытало рой из 103 сброшенных с воздуха микро-дронов.-42-
Как уже отмечалось, искусственный интеллект, это быстроразвивающаяся технология, захватывающая все больше и больше значимых сфер, в числе которых, безусловно, и сфера обеспечения национальной безопасности. ИИ обладает рядом уникальных характеристик, которые могут быть важны для рассмотрения, поскольку эти технологии выходят на арену национальной безопасности.
Во-первых, ИИ имеет потенциал для интеграции в различные приложения, улучшая так называемый «Интернет вещей», в котором разрозненные устройства объединены в сеть для оптимизации производительности. Как утверждает Кевин Келли, основатель журнала Wired: «-ИИ- оживит инертные объекты, подобно тому, как это было с электричеством более ста лет назад. Все, что мы раньше электрифицировали, мы теперь будем
познавать.»-43- Во-вторых, многие ИИ приложения двойного назначения, то есть они имеют как военные, так и гражданские приложения. В-третьих, ИИ является относительно прозрачным, что означает, что его интеграция в продукт не сразу распознается.
Однако, хотя ИИ обладает большим потенциалом для придания ряда преимуществ в военном контексте, он может также создавать определенные проблемы. Технология ИИ могла бы, например, облегчить автономную работу операции, приводят к более обоснованному принятию военных решений, а также увеличить скорость и масштаб военных действий. Однако, также она может быть непредсказуемой или уязвимой для уникальных форм манипуляции. В результате этих факторов аналитики придерживаются широкого спектра мнений о том, насколько влиятельным ИИ будет в будущих боевых операциях. В то время как некоторые считают, что технология получит минимальное влияние, большинство полагают, что применение ИИ в боевых условиях будет иметь по крайней мере эволюционный, если не революционный эффект.
Тем не менее, развитие военного И И детерминирует ряд потенциальных вопросов, ответить на которые представляется необходимым в ближайшее время:
Как государство может повлиять на инициативы реформы оборонных закупок, которые
облегчают развитие военного ИИ?
Какие изменения, если таковые имеются, необходимы для осуществления эффективного надзора за развитием ИИ?
Как сбалансировать исследования и разработки, связанные с искусственным интеллектом и автономными системами, с этическими соображениями?
Какие законодательные или нормативные изменения необходимы для интеграции военных приложений ИИ?
Какие меры необходимо принять, чтобы минимизировать риски связанные с использованием ИИ?
Кроме того, довольно остро, причем для всех государств стоит вопрос применения смертоносных автономных систем вооружений, которые могут использовать ИИ для выбора и поражения целей. Смертоносные автономные оружейные системы (LAWs) - это особый класс оружейных систем, способных самостоятельно идентифицировать цель и использовать бортовую оружейную систему для поражения и уничтожения ее без участия человека. LAWs требуют наличия системы компьютерного зрения и продвинутых алгоритмов машинного обучения для классификации объекта как враждебного, принятия решения о захвате и направления оружия к цели.
С 2014 года идут международные дискуссии по вопросам права в рамках Конвенции Организации Объединенных Наций о конкретных видах обычного оружия (КОО). Примерно 25 государств-участников призвали к заключению договора о запрещении «полностью автономных систем вооружений» в силу этических соображений, в то время как другие государства-участники склоняются к принятию официальных постановлений
или политических деклараций.-44- В связи с этим обстоятельством, некоторые аналитики обеспокоены тем, что усилия по запрещению или регулированию LAWs могут привести к строгому контролю за приложениями ИИ, которые могут быть адаптированы для смертельного использования, тем самым сдерживая развитие других полезных военных, или даже коммерческих технологий.
В любом случае, развитие ИИ должно увеличить императив для строгих стандартов безопасности, так как алгоритмы ИИ уязвимы для искажения, кражи и манипулирования, особенно если набор обучающих данных недостаточно защищен.
Еще одной проблемой массового применения ИИ технологий, являются возможные враждебные кибероперации и «глубокие фейки», поскольку ИИ обеспечивает все более реалистичные фото, аудио и видео подделки, которые противники могли бы использовать
в рамках своих информационных операций.-45- Глубокие фальшивые технологии могут быть применены для создания ложных сообщений новостей, влияния на общественный дискурс, подрыва общественного доверия и попытки шантажа дипломатов и иных государственных служащих. -46-
Хотя большинство предыдущих глубоких подделок, так или иначе обнаруживались экспертами, сложность технологии прогрессирует до такой степени, что вскоре она может быть способна обмануть инструменты экспертного анализа.
Американская компания MediFor разработала некоторые первоначальные инструменты для выявления подделок, произведенных ИИ, но, как отмечается: «ключевая проблема ... заключается в том, что системы машинного обучения могут быть обучены тому, чтобы
перехитрить инструменты судебной экспертизы.» -47-
Искусственный интеллект может также использоваться для создания полных «цифровых моделей жизни», в которых цифровой «след» человека сопоставляется с историями покупок, кредитными отчетами, профессиональными резюме и подписками для создания всеобъемлющего поведенческого профиля. Как и в случае с глубокими подделками, эта информация, в свою очередь, может быть использована для целенаправленных операций влияния или шантажа.
Не зря, в 2016 года ИИ был идентифицирован как «новая и разрушительная технология» на ежегодных слушаниях сенатского комитета США по разведке по теме «Оценка глобальной угрозы».-48- Примечательно, что российская политическая и правовая практика, по сути вообще не упоминает о потенциальных опасностях применения ИИ,
делая акцент только на положительных аспектах данного явления.-49- По нашему мнению, такой подход не является достаточно взвешенным, и презюмируя возможную пользу сотрудничества естественного и искусственного разумов, необходимо помнить и о
негативных последствиях такого коллаборационизма.-50- Поскольку, последствия более широкого внедрения ИИ включают в себя еще и повышенную уязвимость к кибератакам, трудности в установлении атрибутивных признаков объектов, прогресс достижений в области иностранного оружия и разведывательных систем, риск несчастных случаев и связанные с ними вопросы ответственности, а также и возможную безработицу. Повышенная зависимость от ИИ для автономного принятия решений создает новые уязвимые места для кибератак и операций влияния. Системы искусственного интеллекта восприимчивы к целому ряду разрушительных и обманчивых тактик, которые трудно предвидеть или быстро осознать. Попытки ввести в заблуждение или скомпрометировать автоматизированные системы могут создать дополнительные возможности для разрушения или повреждения критической информационной инфраструктуры государства или сетей национальной безопасности.
Подводя итог всему вышеизложенному, следует констатировать, что фраза «Si vis pacem, para bellum», в достаточной степени может быть отнесена к последующему плотному и неизбежному взаимодействию человечества с искусственным интеллектом, в том числе, и в контексте обеспечения национальной безопасности государств: планируя мирное сосуществование двух разумов, мы должны четко понимать, что включая искусственный интеллект в человеческие конфронтации по разные стороны баррикад, нужно быть подготовленным ко всему, в том числе, и к войне.
И хотя позиции Российской Федерации по ряду направлений в данной сфере все еще недостаточно сильны, необходимо понимать, что качественный научный прорыв в области ИИ может произойти в любое время и в любой стране, не только за счет крупных государственных предприятий, но и силами небольших частных компаний и даже отельных энтузиастов. Очевидно, что это событие навсегда изменит баланс сил на мировой арене и вероятно поставит точку в глобальной гонке вооружений.
Библиография
1. Харланов А.С. Мировые мыслительные центры и их влияние на национальную безопасность России//Экономика и предпринимательство. 2020. № 1 (114). С. 103107.
2. Elsa B. Kania "" Battlefield Singularity. Artificial Intelligence, Military Revolution, and China's Future Military Power ", p. 23.
https ://www.cnas.org/publications/reports/battlefield-singularity-artificial-intelligence-
military-revolution-and-chinas-future-military-power
3. Нанд Мульчандани является исполняющим обязанности директора Объединенного центра искусственного интеллекта Министерства обороны США.
4. Министерство обороны официально информирует журналистов о разработках искусственного интеллекта // URL:
https ://www.defense.gov/Newsroom/Transcripts/Transcript/Article/2270329/dod-official-briefs-reporters-on-artificial-intelligence-developments/ (дата обращения: 14.07.2020)
5. Пентагон надеется расширить пилотную цепочку поставок JAIC URL:
https ://defensesystems.com/articles/2020/05/27/jaic-project-salus.aspx (дата обращения: 13.07.2020)
6. Artificial Intelligence, Warfighters Form Enhanced Partnership on Battlefield// URL: https ://www.defense.gov/Explore/News/Article/Article/2222999/artificial-intelligence-warfighters-form-enhanced-partnership-on-battlefield/(дата обращения: 13.07.2020)
7. Artificial Intelligence at the Top 5 US Defense Contractors URL: https://emerj.com/ai-sector-overviews/artificial-intelligence-at-the-top-5-us-defense-contractors/(дата обращения: 13.07.2020)
8. Проект Maven Industry Day использует искусственный интеллект для задач Минис те рс тв а о б о ро ны U RL:
https ://www.defense.gov/Explore/News/Article/Article/1356172/project-maven-industry-day-pursues-artificial-intelligence-for-dod-
challenges/#:~:text = Project%20Maven%20is%20a%20fast,machine%20learning%20in to%20DoD%20programs. (дата обращения: 13.07.2020)
9. Джек Корриган. Трехзвездочный генерал хочет, чтобы ИИ был в каждой новой оружейной системе, Defense One, Ноябрь 3, 2017, URL:
http://www.defenseone.com/technology/2017/11/three-star-general-wants-artificial-intelligence-every-new-weaponsystem/142239/?oref=d-river. (дата обращения: 13.07.2020)
10. AI at the Top 4 Israeli Military Defense Contractors URL: https://emerj.com/ai-sector-overviews/ai-at-the-top-4-israeli-military-defense-contractors/ (дата обращения: 13.07.2020)
11. Смирнова И.Р., Титков О.С., Чабанов В.А. концептуальные взгляды на развитие беспилотной авиации (окончание)//Авиационные системы. 2018. № 1. С. 9-23.
12. В Минобороны назвали число беспилотников в российской армии, Известия, 6 июля, 2018, URL: https://iz.ru/763798/2018-07-06/v-minoborone-nazvali-chislo-bespilotnikov-v-rossiiskoi-armii. (дата обращения: 13.07.2020)
13. Слатин В.В., Чабанов В.А., Яковлева Н.К. Технологии, методы и средства обнаружения, определения местоположения и поражения беспилотных ЛА//Авиационные системы. 2019. № 9. С. 25-56.
14. «Тахион», «Орлан» и «Элерон»: зачем в ВДВ России создают подразделения беспилотной авиации // RT, 29 мая 2018, URL:
https ://russian.rt.com/russia/article/517579-vdv-bespdesantniki-bespilotniki-podrazdelenija-sozdanijeilotniki. (дата обращения: 13.07.2020)
15. Сурков Н., Рамм А. Русский «Форпост» поступит в войска в 2019 году, RT, 28 апреля, 2018, URL: https://iz.ru/736932/nikolai-surkov-aleksei-ramm/russkii-forpost-postupit-v-voiska-v-2019-godu. (дата обращения: 13.07.2020)
16. Сэмюэл Бендетт. Строит ли Россия армию роботов? The National Interest, 19 марта 2018 года, URL: https://nationalinterest.org/blog/the-buzz/russia-building-army-
robots-24969. (дата обращения: 13.07.2020)
17. Ненадёжный и ненаблюдательный. О недостатках боевого робота «Уран-9» URL: https ://topwar.ru/143330-v-sirii-proyavilis-nedostatki-boevogo-robota-uran-9.html. (дата обращения: 13.07.2020)
18. БАС «Соратник» протестировали в приближенных к боевым условиях // Военное обозрение, 19 января 2018. URL: https://topwar.ru/134129-bas-soratnik-protestirovali-v-priblizhennyh-k-boevym-usloviyah.html (дата обращения: 13.07.2020)
19. Россия примет передовые роботизированные минно-расчистные машины в 2018 году. РИА TASS, 22 мая 2018 года, URL: http://tass.com/defense/1005519. (дата обращения: 13.07.2020)
20. Путин считает генетику, искусственный интеллект самыми интересными направлениями исследований для него, РИА TASS, 13 декабря 2018 года, URL: . (дата обращения: 13.07.2020)
21. Авдеева Т.И. STEM образование: история и современность// В сборнике: Наука и инновации-современные концепции. сборник научных статей по итогам работы Международного научного форума. 2019. С. 41-46.
22. Фонд перспективных исследований (ФПИ), URL: https://fpi.gov.ru/. (дата обращения: 13.07.2020)
23. Бюджет ФПИ на 2018 год останется стабильным, РИА Новости, 6 июля 2016 года, URL: https://ria.ru/20160706/1459588542.html. (дата обращения: 13.07.2020)
24. ФПИ предложил Минобороны стандарты для искусственного интеллекта, RIA Novosti, 20 марта, 2018 URL: . (дата обращения: 13.07.2020)
25. Шойгу призвал военных и гражданских ученых совместно разрабатывать роботов и беспилотники, TASS.ru. 14 марта, 2018. URL: http://tass.ru/armiya-i-opk/5028777 (дата обращения: 15.07.2020)
26. Нейротехнологии и искусственный интеллект URL:
https ://digitech.ac.gov.ru/technologies/neurotechnology_and_artificial_intelligence/ (дата обращения: 15.07.2020)
27. Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и ис кус с тв е нный инте лле кт» U RL:
https://digitech.ac.gov.ru/upload/iblock/21a/21a0c5dcd903204acb78c486e7eaa54a.pdf (дата обращения: 15.07.2020)
28. Большинство научных школ Минобороны работает над искусственным интеллектом и роботами, РИА-Новости, 15 марта, 2018, URL: http://tass.ru/armiya-i-opk/5034153. (дата обращения: 15.07.2020)
29. Первый военный инноград URL: https://www.era-tehnopolis.ru/.(дата обращения: 15.07.2020)
30. ТАСС/Олег Мартьянов: в будущем будет не армия терминаторов, а армия умных "Маркеров" URL: https ://fpi.gov.ru/press/media/tass-oleg-martyanov-v-budushchem-budet-ne-armiya-terminatorov-a-armiya-umnykh-markerov/ (дата обращения: 13.07.2020)
31. Развитие искусственного интеллекта необходимо для успешного ведения кибервойн, 14 марта, 2018, URL: https://function.mil.ru/news_page/person/more.htm? id = 12166660@egNews. (дата обращения: 13.07.2020)
32. Аблов И.В., Быстров И.И., Тарасов Б.В., Ширманов А.В. Методологические основы применения технологии искусственного интеллекта в автоматизированной системе органов военного управления//Информатизация и связь. 2019. № 4. С. 135-147.
33. Виловатых А.В. Искусственный интеллект как фактор военной политики будущего //
Проблемы национальной стратегии. 2019. № 1 (52). С. 177-192.
34. Соколов Ю.И. Риски высоких технологий//Всероссийский научно-исследовательский институт по проблемам гражданской обороны и чрезвычайных ситуаций МЧС России. Москва, 2009.
35. Дэн Робицки. Google бросает Министерство обороны, обновляет свой кодекс этики, 1 июня 2018 года, URL: https://futurism.com/maven-google-military-tech. (дата обращения: 13.07.2020)
36. Управление (строительства и развития системы применения беспилотных летательных аппаратов) ГШ ВС РФ URL:
https ://structure.mil.ru/structure/ministry_of_defence/details.htm? id = 11864@egOrganization (дата обращения: 15.07.2020)
37. Главное управление научно-исследовательской деятельности и технологического сопровождения передовых технологий (инновационных исследований) Министерства обороны Российской Федерации, URL:
https ://structure.mil.ru/structure/ministry_of_defence/details.htm? id = 11376@egOrganization. (дата обращения: 15.07.2020)
38. Samuel Bendett. The Rise of Russia's Hi-Tech Military//Fletcher Security Review. June 26, 2019 URL: https://www.afpc.org/publications/articles/the-rise-of-russias-hi-tech-military (дата обращения: 15.07.2020)
39. Показания Майкла Роджерса, сенатский комитет по вооруженным силам, слушание для получения показаний по вопросам шифрования и кибернетики, Сентябрь 13, 2016, URL: https://www.armed-services.senate.gov/imo/media/doc/16-68_09-13-16.pdf. (дата обращения: 15.07.2020)
40. Sydney J. Freedberg Jr. Swarm 2: The Navy's Robotic Hive Mind URL:
https ://breakingdefense.com/2016/12/swarm-2-the-navys-robotic-hive-mind/ (дата обращения: 15.07.2020)
41. Джозеф Тревитик. ВМС США создали свою первую в истории подводную эскадрилью беспилотных летательных аппаратов URL: https://www.thedrive.com/the-war-zone/14733/the-us-navy-has-created-its-first-ever-underwater-drone-squadron (дата обращения: 15.07.2020)
42. Пентагон успешно тестирует микро-беспилотный Рой URL:
https ://www.yahoo.com/news/pentagon-successfully-tests-micro-drone-swarm-024318993.html (дата обращения: 15.07.2020)
43. Кевин Келли. Три прорыва, которые наконец-то развязали ИИ в мире. Wired, 27 октября 2014 года, https://www.wired.com/2014/10/future-of-artificial-intelligence
44. Country Views on Killer Robots. The Campaign to Stop Killer Robots, 13 апреля 2018 года, URL: https://www.stopkillerrobots.org/wp-
content/uploads/2018/04/KRC_CountryViews_13Apr2018.pdf (дата обращения: 15.07.2020)
45. Бушина К.М., Титов Д.В. Вопросы использования элементов искусственного интеллекта в системах информационной безопасности// В сборнике: Актуальные проблемы уголовно-исполнительной системы России в условиях реформирования. сборник материалов межвузовской научно-практической конференции адъюнктов, курсантов, студентов и слушателей. 2019. С. 29-31.
46. Кайл Ремпфер. Вы когда-нибудь слышали о технологии "глубокой подделки"? Фальшивые аудио-и видеотехники могут быть использованы для шантажа американских военнослужащих, Military Times, 19 июля 2018 года, URL:
https ://www.militarytimes.com/news/your-air-force/2018/07/19/ever-heardof-deep-
fake-technology-the-phony-audio-and-video-tech-could-be-used-to-blackmail-us-troops/.Сцата обращения: 15.07.2020)
47. Уилл Найт. Министерство Обороны выпустило первые инструменты для ловли deepfakes, MIT Technology Review, 7 августа 2018 года, URL:
https ://www.technologyreview.com/s/611726/the-defense-department-has-produced-the-firsttools-for-catchmg-deepfakes/.Сцата обращения: 15.07.2020)
48. Statement for the Record Worldwide Threat Assessment of the US Intelligence Community Senate Armed Services Committee/James R. Clapper Director of National Intelligence February 9, 2016 URL:
https://www.dni.gov/files/documents/SASC_Unclassified_2016_ATA_SFR_FINAL.pdf (цата обращения: 15.07.2020)
49. Кефели И.Ф., Колбанев М.О. Искусственный интеллект и асфатроника-на пути к теории глобальной безопасности//Информация-Коммуникация-Общество. 2020. Т. 1. С. 80-84.
50. Федорченко С.Н. Значение искусственного интеллекта для политического режима России: проблемы легитимности, информационной безопасности и "мягкой силы"//Вестник Московского государственного областного университета. Серия: История и политические науки. 2020. № 1. С. 41-53.
Результаты процедуры рецензирования статьи
В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.
В статье представлен обзор текущего состояния разработок и исследований в сфере искусственного интеллекта в ведущих странах мира. Предметной областью исследования, таким образом, является технологии искусственного интеллекта преимущественно на службе военной индустрии. Актуальность данной проблематики не вызывает сомнений, поскольку искусственный интеллект является одной из передовых разработок глобализационной эры, которая внедряется во все сферы экономики и используется как в военных, так и внутриполитических, социальных, гуманитарных и иных целях. Автор комплексно подошел к проблеме развития данной отрасли в Российской Федерации, обозначив правовые, экономические, международные и технологические аспекты. Однако, несмотря на детальную проработанность темы, использование достаточно большого количества источников и литературы (нужно признать, что автор ссылается на новейшую библиографию) в статье присутствует ряд недостатков с точки зрения оформления структуры и программы исследования. Автором совершенно не артикулированы ни цель, ни задачи, ни методология исследования. Статья не имеет также логических подзаголовков, которые упростили бы ее восприятие. Еще одним существенным аспектом с научной точки зрения является тот факт, что автор, во-первых, не приводит ни одного определения понятия национальной безопасности, существующего в современной политической науке и теории международных отношений, не разрабатывает собственного авторского определения, во-вторых, из контекста употребления данного термина с точки зрения описываемых проблем внедрения искусственного интеллекта в военную отрасль, следует, что автор сводит проблему национальной безопасности исключительно к военной безопасности от внешних угроз. На наш взгляд, подобная точка зрения является анахроничной, поскольку национальная безопасность есть сложная система государства, направленная на защиту общества, населения и государства, как от внешних, так и от внутренних угроз, в том числе и
невоенного характера. Тем не менее, частично автор упоминает американские военные разработки в сфере ИИ, используемые для так называемых «гражданских целей» -автоматический мониторинг нехватки ресурсов в условиях пандемии в отдельных регионах. В исследовании отсутствуют ссылки на работы других отечественных и зарубежных исследователей (Архипов В.В., Богатуров А.Д., Шаклеина Т.А., Арбатов А., Радиков И.В, Дворкин В, Бжезинский Зб.), которые занимались проблемами как искусственного интеллекта, так и проблем национальной безопасности, поэтому в ней напрочь отсутствует полемика с оппонентами. Рекомендуется автору ознакомиться также и с другими работами, освещающими кибернетические аспекты национальной безопасности (Kramer F. D., Starr S. H., Wentz L. K. (ed.). Cyberpower and national security. - Potomac Books, Inc., 2009). Для того, чтобы исправить эти небольшие, но важные в методологическом отношении неточности и повысить научную значимость и новизну исследования, автору предлагается ввести деление статьи на главы, а также определить применение концепта национальная безопасность в современной теории мировой политики с точки зрения современного технологического и информационного контекста. Несомненно, статья представляет весьма значительный интерес для широкой аудитории журнала «Национальная безопасность», она написана на грамотном научном языке, затрагивает международные аспекты развития отрасли искусственного интеллекта, и поэтому может быть рекомендована к публикации после внесения ис пра в ле ний и тща те льно й в ыв е рки о пе ч а ток в те кс те .
