CC BY
194УДК 34.046 ББК 67.404
DOI 10.24411/2073-3313-2019-10090
К ВОПРОСУ О МЕЖДУНАРОДНО-ПРАВОВОМ РЕГУЛИРОВАНИИ АВТОНОМНЫХ СИСТЕМ ВООРУЖЕНИЯ
Артемий Витальевич ЩЕРБАНЬ, студент Юридической школы Дальневосточного федерального университета E-mail: shcherban.av@students.dvfu.ru
Аннотация. В статье рассматриваются вопросы международно-правового регулирования автономных систем вооружения. Сопоставляются положительные и отрицательные аспекты их внедрения. Анализируются возможные подходы к регулированию автономных систем вооружения. Автором делается вывод о необходимости правового регулирования автономных систем вооружения со стороны как международного, так и национального права.
Ключевые слова: автономные системы вооружения, международное гуманитарное право, международно-правовое регулирование, Международный Комитет Красного Креста, Женевские конвенции, роботизация.
Annotation. In the following article the author examines international legal regulation of autonomous lethal weapon systems. Compares pros and cons of their implementation, analyses possible ways of regulation autonomous lethal weapon systems. The author concludes the necessity of legal regulation of autonomous weaponised systems from both national and international law.
Keywords: weaponised autonomous systems, international humanitarian law, international legal regulation, International Red Cross Committee, Geneva Conventions, robotics.
Рецензент: В.В. Гаврилов, заведующий кафедрой международного публичного и частного права Юридической школы Дальневосточного федерального университета, доктор юридических наук
В наши дни человеческая жизнь оценивается достаточно высоко, поэтому большинство государств стараются минимизировать людские потери всеми возможными способами. Особенно актуальным этот вопрос становится во время вооруженных конфликтов. На помощь государствам приходит научно-технический прогресс, который оказывает значительное влияние как на условия ведения боевых действий, так и на развитие военно-промышленного комплекса. Одним из результатов такого развития стало появление концепции автономных систем вооружения (англ. lethal autonomous weapon).
Международный Комитет Красного Креста (далее — МККК) предложил считать автономные системы вооружения (далее — АСВ) общим термином, который охватывает любые системы вооружений, обладающие автономностью при осуществлении критически важных функций по выбору и поражению целей1.
Общеустоявшегося определения АСВ до сих пор не существует, однако, на наш взгляд, под
автономными системами вооружения можно понимать такие виды оружия, которые во время боевых действий способны самостоятельно, т.е. без участия человека в качестве оператора, определять и уничтожать цели.
Идея использования АСВ вызывает интерес у множества государств. Так, в докладе Human Rights Watch (HRW), опубликованном в ноябре 2012 г., приведены шесть стран, которые ведут активную разработку автономных видов вооружений: США, Китай, Израиль, Южная Корея, Россия и Вели-кобритания2. Кроме того, системы оружия с определенной степенью автономности также разрабатываются и используются в Австралии, Франции, Германии, Индии, Нидерландах, Норвегии, Южной Африке, Швеции и Украине.
Изложенное выше не оставляет сомнений в том, что в самом ближайшем будущем АСВ будут в широком виде приняты к использованию во множестве государств.
Позитивным результатом этого факта станет следующее.
ЗАКОН И ПРАВО • 02-2019
Во-первых, можно будет достигнуть сокращения количества боевых потерь среди личного состава вооруженных сил, что, в свою очередь, снизит затраты государства как на жалование военнослужащим, так и на социальные статьи расходов (например, выплаты из-за военной травмы).
Во-вторых, оснащение автономными системами вооружения ударных беспилотных летательных аппаратов (БПЛА) наподобие MQ-9 Reaper позволит свести на нет «человеческий фактор» при нанесении точечных авиаударов по цели. Так, в силу отсутствия эмоциональной составляющей у искусственного интеллекта (далее — ИИ), исчезнут ситуации, когда оператор, испытывая моральные страдания и чувство жалости, не открывает огонь по противнику, либо, наоборот, в пылу ненависти и агрессии по отношению к врагу допускает излишние жертвы, в том числе и среди мирного населения.
В-третьих, уже сейчас некоторые автоматические системы, управляемые ИИ, превосходят аналогичные системы, находящиеся под управлением человека, в скорости определения цели и нанесении удара по ней, что позволяет сократить срок выполнения задачи. Ярким примером могут служить «automatic weapons defense systems», в частности, зенитно-артиллерийские комплексы с автоматической системой наведения, используемые для защиты военных кораблей от угрожающих им ракет3.
В-четвертых, введение АСВ в состав вооруженных сил, по нашему мнению, создаст дополнительные рабочие места и позволит «информа-тизировать» экономику. Так, согласно данным International Data Corporation объем продаж роботов и дронов различного назначения в 2018 г. вырастет в мире на 22,1% по сравнению с 2017 г. и достигнет 103,1 млрд долл.
К 2021 г. продажи поднимутся до 218,4 млрд долл.4. Причем 10% от указанной суммы приходится на военные разработки. Трудно представить, насколько вырастет рынок робототехники к моменту создания полностью автономных систем вооружения, но уже сейчас становится очевидным, что он будет значительным и потребует создания обслуживающего сектора (инженеры, программисты и т.д.).
В то же время полномасштабное применение АСВ в рамках театра военных действий, безусловно, может иметь ряд негативных последствий.
В первую очередь это связано с тем, что до сих пор возможны ошибки, относящиеся к определению цели, так как способность автономных систем различать объекты находится на недостаточном уровне. В подтверждение этого те-
зиса можно привести пример трагедии, которая произошла в 1988 г. с коммерческим пассажирским рейсом IR655 авиакомпании Iran Air. Авиалайнер был сбит ракетой SM-2MR, запущенной с американского крейсера Vincennes. Тогда этот комплекс действовал полностью в автоматическом режиме: автоматически засек цель (гражданский самолет с 290 пассажирами на борту), определил ее как истребитель F-14, наносящий удар по этому фрегату, и сбил его. С того момента эти комплексы не используются в полностью автоматическом режиме5.
Другой проблемой остается отсутствие объективной возможности контролировать качество программного обеспечения, на основании которого АСВ будут функционировать. В силу этого вполне реальны ситуации образования так называемых «программных закладок», которые позволят в нужный момент получить несанкционированный доступ к управлению АСВ, что может привести к негативным последствиям.
Наличие указанных проблем свидетельствует о высокой актуальности задачи разработки не только надлежащего технического обеспечения использования АСВ, но и создания четких правовых регуляторов этого процесса.
Несмотря на отрицательные стороны, принятие автономных систем на вооружение в обозримом будущем с большой степенью вероятности является реальностью, с которой нам придется смириться. Поэтому возникает необходимость в правовом регулировании АСВ.
На наш взгляд, ключевое значение в процессе такой регламентации должно сыграть международное право, поскольку его нормы способны создать общие правила поведения государств в этом процессе, которые будут совместно разработаны и согласованы его заинтересованными участниками.
Регулирование АСВ может осуществляться как путем распространения действия существующих норм Международного гуманитарного права (МГП) на АСВ, так и через создание специальных международных актов, посвященных этому вопросу.
Если говорить об адаптации существующих норм МГП, то, на наш взгляд, в данном случае следует сказать о возможности распространения на регулирование отношений с участием АСВ положений ст. 36 Дополнительного протокола № 1 к Женевским конвенциям от 12 августа 1949 г., согласно которой: «При изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения
ЗАКОН И ПРАВО • 02-2019
войны Высокая Договаривающаяся Сторона должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в настоящем Протоколе или в каких-либо других нормах международного права, применяемых к Высокой Договаривающейся Стороне»6.
Иными словами, государства, прежде чем принять на вооружение те или иные АСВ, должны предварительно удостовериться в том, что их применение не вступит в противоречие с основополагающими принципами МГП, такими, как различение целей, соразмерность и принятие предосторожностей при нападении.
Значительное влияние на практику применения АСВ способна оказать и Оговорка Мартенса7, которая является юридически обязывающим правилом при разработке и применении любых типов вооружений, включая и автономные системы вооружений. Это объясняется тем, что в случае несоответствия АСВ «началам международного права» их практическое применение будет незаконным с международно-правовой точки зрения.
Тем не менее возможностей действующих норм международного гуманитарного права, при «всех возможностях» их расширительного толкования, на наш взгляд, явно недостаточно для последовательного и эффективного регулирования специальных вопросов применения АСВ в вооруженных конфликтах. Это связано с тем, что в приведенных выше нормах не содержится информации о точном юридическом определении АСВ, без которого достаточно тяжело определить конкретные виды вооружения, нуждающиеся в регулировании, а также отсутствуют четкие нормы об ответственности за действия, совершаемые автономными системами.
Мы полагаем, что международному сообществу необходимо разработать и принять специальную конвенцию, подобную Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие, 1980 г., которая бы регулировала вопросы создания и применения АСВ, закрепляла их легальное определение, а также определяла субъектов, которые должны нести ответственность за действия, совершаемые автономными системами.
Решая проблему ответственности, разработчикам, по нашему мнению, следует взять за основу ст. 91 Первого дополнительного протокола 1977 г. к Женевским конвенциям от 12 августа 1949 г., согласно которой: «Сторона, находящаяся в конфликте, которая нарушает положения
Конвенций или настоящего Протокола, должна возместить убытки, если к тому есть основание. Она несет ответственность за все действия, совершаемые лицами, входящими в состав ее вооруженных сил». Исходя из этого в состав конвенции можно было бы включить специальную норму, приравнивающую АСВ к лицам, входящим в состав вооруженных сил государства, а уже на основании положений этой нормы можно будет установить ответственность государства, использующего АСВ, за допущенные такой системой нарушения норм МГП.
Однако вполне вероятны ситуации, когда нарушение норм конвенции произойдет не по вине государства, а по причине недоработок в самой программе «искусственного интеллекта». В таком случае в конвенцию об АСВ можно включить норму, управомочивающую государство на основании своего национального законодательства требовать от создателя управлявшего АСВ ИИ возмещения убытков, понесенных им вследствие нарушения норм МГП.
Таким образом, можно прийти к выводу, что создание и применение автономных систем вооружения является достаточно неоднозначным вопросом, который, тем не менее, нуждается в правовом регулировании со стороны как международного, так и национального права.
1 Автономные системы вооружений: решения об убийстве или уничтожении целей — ответственность людей / Международный Комитет Красного Креста // URL: https:// www.icrc.org/ru/document/avtonomnye-sistemy-vooruzheniy-resheniya-ob-ubiystve-ili-unichtozhenii-celey-otvetstvennost (Дата обращения: 17.01.2019)
2 Losing Humanity the case against Killer Robots / Human rights watch/ URL: https://www.hrw.org/report/2012/11/ 19/losing-humanity/case-against-killer-robots (Дата обращения: 17.01.2019)
3 Schmitt M.N. Autonomous Weapon Systems and International Humanitarian Law: A Reply to the Critics // Harvard National Security Journal Features. 2013. Vol. 4 (2). P. 23.
4 IDC: мировой рынок робототехники к 2020 году вырастет до 188 миллиардов долларов / Computerworld // URL: https://www.computerworld.ru/news/IDC-mirovoy-rynok-robototehniki-k-2020-godu-vyrastet-do-188-milliardov-dollarov (Дата обращения: 17.01.2019)
5 Козюлин В.Б., Грант Т., Гребенщиков А.В., Джиака Ж., Ефимов А.Р., Сун С., Уорхэм М. Боевые роботы: угрозы учтенные и непредвиденные // Индекс безопасности. 2016. № 3-4. С. 86.
6 Дополнительный протокол к Женевским конвенциям от 12 августа 1949 г., касающийся защиты жертв международных вооруженных конфликтов (Протокол I) // URL: http://www.icrc.org/rus/assets/files/2013/ap_i_rus.pdf (Дата обращения: 17.01.2019)
7 Там же.
ЗАКОН И ПРАВО • 02-2019
