CC BY
124
DOI dx.doi.org/10.24866/VVSU/2073-3984/2020-4/068-078
УДК 34.096 C. Г. Верещагин
Владивостокский государственный университет экономики и сервиса Владивосток. Россия
История трансформации роботов: от первых механических устройств до боевых роботов с искусственным интеллектом. Правовое регулирование их применения в вооруженных конфликтах
В статье рассматриваются вопросы, связанные с эволюцией развития механических устройств, которые стали основой создания современных роботов, в том числе военных. С одной стороны, применение военных роботов, способных самостоятельно действовать в вооруженных конфликтах, рассматривается сегодня как неизбежный этап развития современной войны, поскольку они обладают огромными преимуществами по сравнению с живыми людьми, способны заменять солдат в боевых ситуациях, несовместимых с возможностями человека на поле боя: разведка, боевые действия, разминирование территории и т.д. С другой стороны, возникают этические проблемы, связанные с применением правовой ответственности «квазисубъекта» - оператора, дистанционно управляющего боевыми роботами. Автор приходит к выводу, что любые автономные боевые устройства, даже наделенные искусственным интеллектом, должны всегда находиться под контролем человека, а в ситуации, когда робот убил невиновного человека, «квазисубъект» - оператор должен быть привлечен к ответственности.
Ключевые слова и словосочетания: искусственный интеллект, робототехника, роботы, автономные боевые роботы, БПЛА, международное гуманитарное право, правовая ответственность.
S. G. Vereshchagin
Vladivostok State University of Economics and Service Vladivostok. Russia
The history of the transformation of robots: from the first mechanical devices to combat robots with artificial intelligence. The legal regulation of their use in armed conflicts
The article discusses issues related to the evolution of the development of mechanical devices, which became the basis for the creation of modern robots, including military ones. On the one
Верещагин Сергей Григорьевич - д-р полит. наук, канд. юрид. наук, профессор кафедры конституционного и административного права; e-mail: vladserg2007@mail.ru 68
hand, the use of military robots capable of independently acting in armed conflicts is considered today as an inevitable stage in the development of modern warfare, since they have enormous advantages over living people. They are capable of replacing soldiers in combat situations that are incompatible with human capabilities on the battlefield - this is reconnaissance, military operations, demining, etc. On the other hand, ethical problems arise associated with the application of the legal responsibility of a "quasi-subject" - an operator who remotely controls combat robots. The author comes to the conclusion that any autonomous combat devices, even those endowed with artificial intelligence, should always be under human control, and in a situation where a robot has killed an innocent person, the "quasi-subject" - an operator, should be held accountable.
Keywords: artificial intelligence, robotics, robots; autonomous combat robots, UAVs, international humanitarian law, legal responsibility.
Первые упоминания о механических устройствах, самостоятельно, без участия человека выполнявших какие-либо действия, можно найти в многочисленных легендах и древних преданиях. Сегодня мы бы назвали эти механические устройства прообразом роботов1.
Так, в исторических источниках были описаны примеры создания механических устройств, похожих на людей и животных: в Древнем Египте - статуя бога Амона, в Древней Греции - бронзовый человек Талос, в древнем Китае - механические животные, собранные легендарным плотником Лу Банем, в Японии - чрезвычайно сложные механические игрушки и т.д. Прообразами роботов были также механические фигуры, созданные арабским учёным и изобретателем Аль-Джазари в Х11 веке. Он спроектировал и собрал лодку с четырьмя механическими музыкантами, которые играли на бубнах, арфе и флейте [1].
В ХУ-ХУ1 веках в Европе активно занимался разработками механических устройств гениальный ученый Леонардо да Винчи (1452-1519). В 1957 году итальянский искусствовед Карл Предетти обнаружил в архивах манускрипт («Атлантический кодекс»), принадлежащий да Винчи. В нем были эскизы механического немецкого рыцаря в доспехах, который мог сидеть, махать руками, двигать головой и открывать забрало. Предполагается, что этот эскиз рыцаря с внутренним механизмом был сделан Леонардо да Винчи примерно в 1495 году [2].
В XVI-XVIII веках в Западной Европе ученые и инженеры активно конструировали и строили «автоматоны», т.е. заводные механизмы, внешне напоминающие людей и животных, копирующие их движения и жесты. Например, в коллекции Смитсоновского института имеется один из ранних таких образцов - «испанский монах». Ростом он был около 40 см, мог ходить, ударять себя в грудь правой рукой, а в левой носил крест и периодически подносил его к губам и целовал. Предполагается, что этот автоматон был изготовлен примерно в 1560 году механиком Хуанело Турриано в подарок испанскому императору Карлу V [3].
В Новое время, вплоть до начала ХХ века, и в Европе, и на Востоке инженерами постоянно создавались всё более сложные механические устройства, весьма схожие с современными роботами. Например, в XVIII веке мастер игрушек
1 Впервые слово «робот» (от словац. - robota) появилось в пьесе чешского писателя Карела Чапека, написанной им в 1920 г. под названием «Р.У.Р.» («Россумские Универсальные Роботы»).
69
Жак де Вокансон построил для Людовика XV автоматизированную утку с сотнями движущихся частей, которая могла есть и пить.
В XVIII веке японский мастер Хисашигэ Танака, известный как «Японский Эдисон», создал ряд чрезвычайно сложных механических игрушек: одни подавали гостям чай, другие стреляли из лука, третьи писали японские символы кандзи2. Устройство этих механических игрушек он описал в книге «Каракури Дзуи» («Иллюстрированные машины»), опубликованной в 1796 году.
В ХХ веке промышленные революции последовательно сменяли одна другую (глобальные трансформации производственного уклада, которые зачастую идентифицируют как промышленные революции)3, одновременно быстрыми темпами развивалась робототехника - от обычных механических устройств в начале и до человекоподобных роботов с искусственным интеллектом в конце ХХ века.
Как известно, Первая промышленная революция началась в Великобритании в последней трети XVIII века и продолжалась до первой половины XIX века, охватив затем другие страны Европы, Азии и Америки.
Вторая промышленная революция охватывает период со второй половины XIX века по начало XX века и характеризуется массовым внедрением поточного производства, широким применением электричества и первыми попытками создания промышленных автоматизированных конвейерных производств [4]. Принято считать, что современное конвейерное производство появилось в 1914 году на заводах Генри Форда и произвело революцию сначала в автомобилестроении, а потом и во всей промышленности.
В период Второй промышленной революции развитие роботов получило новые возможности: они начали действовать на основе электричества и управление ими могло осуществляться дистанционно на основе радиосигналов. Например, во время Первой мировой войны талантливый инженер Никола Тесла создал для военных электрическую подводную лодку, которой можно было дистанционно управлять по радио.
В 1927 году такой первый робот «Те1еуох», внешне напоминающий человека и способный выполнять движения и воспроизводить фразы по команде человека, был сконструирован американским инженером Ройем Уэнсли для Всемирной выставки в Нью-Йорке [5].
Позже, начиная с 1928 года, был изготовлен «Эрик» - робот, который на выставке Британской ассоциации инженеров по моделированию «выступил» с небольшой речью. В 1932 году английский изобретатель Гарри Мей создал человекоподобный автомат «Альфа», который по голосовым командам садился и вставал, двигал руками и говорил.
Новым прорывом в робототехнике в 30-40-х годах ХХ века стало появление вычислительных машин и науки кибернетики, которые способствовали созданию первых компьютеров. Так, Алан Мотисон Тьюринг в конце 30-х годов в Вели-
2 Кандзи - китайские иероглифы, используемые в современной японской письменности.
3 Первая промышленная революция (промышленный переворот, Великая индустриальная революция) - массовый переход от ручного труда к машинному, от мануфактуры к фабрике, произошедший в ведущих государствах мира в XVШ-XIX веках.
70
кобритании сконструировал первую «вычислительную машину», способную производить вычисления большой сложности без участия человека. Позже она получила официальное название «машина Тьюринга» и стала прообразом универсальных вычислительных машин конца 1940-х годов. В 1948 году американские ученые (математик Норберт Винер и нейрофизиолог Уоррен МакКаллок) опубликовали книгу «Кибернетика, или Управление и связь в животном и машине», которая положила начало новой науке об управлении сложными динамическими системами - кибернетике.
В этот же период американский математик Джон фон Нейман сформулировал идею создания программы для записи решения какой-либо задачи в память вычислительных машин. Благодаря этим программам вычислительные машины превратились в ЭВМ, т.е. стали универсальными.
Конструирование и создание первых в современном понимании ЭВМ состоялось в 1959 году, тогда в США появились первые промышленные манипуляторы с программным управлением (промышленные роботы) и началось их коммерческое производство.
В начале 1960-х гг. американские промышленные роботы, созданные фирмами «Unimation», «American Machine and Foundry» (AMF), поступили в свободную продажу и были уже достаточно совершенными: с контролируемой траекторией движения манипуляторов, с программным управлением и памятью, как у ЭВМ.
Внушительные успехи использования промышленных роботов стимулировали в 1970-х годах появление роботов, управляемых мини-компьютером (создатель - фирма «Cincinnati Milacron») и микропроцессором (создатель - фирма «INTEL»), что существенно повысило их качество и резко снизило стоимость.
Научные и инженерные достижения в сфере робототехники позволили к 80-м годам некоторым ведущим странам мира создать ряд сложнейших робо-тотехнических систем для исследования космического пространства (станции «Маринер», «Сервейер», «Викинг» - США; «Луна», аппараты «Луноход» -СССР и др.), а также глубоководные автономные аппараты для освоения подводных глубин (аппараты «ARCS» - Канада; «Долфин» - Япония; «KURV», «RCV» - США; «Манта» - СССР и др.) [6].
Развитие и становление военной робототехники. Возросший экономический потенциал и потребности в современных видах вооружения ведущих промышленных стран в первой половине XX века дали мощный импульс развитию науки, без них возникновение и становление современной робототехники были бы невозможны.
В 30-е годы ХХ века, накануне Второй мировой войны, возникла острая проблема не только создания роботов, но и управления ими посредством специальных цифровых машин (первые современные цифровые компьютеры появились в начале 1940-х годов) при помощи запрограммированных в них алгоритмов. Создание таких алгоритмов (программ для компьютеров) позволило совершить революцию в робототехнике, компьютеризации и, в конечном счете, способствовало формированию теоретических и практических подходов по созданию искусственного интеллекта (ИИ).
71
В этот период активно стали разрабатываться и применяться «боевые роботы» (военные роботы) - устройство автоматики, заменяющее человека в боевых ситуациях или для работы в условиях, несовместимых с возможностями человека в военных целях: разведка, боевые действия, разминирование и др.
В 1931 году в СССР была принята новая военная доктрина, что привело к перевооружению и реорганизации войск, основой которой стало развитие танкостроения. Разработчик новой военной доктрины маршал М. Н. Тухачевский доказывал, что авиация и танки перестают быть вспомогательным средством ведения пехотно-артиллерийского боя и имеется «... возможность путём массового внедрения танков изменить методы ведения боя <...> предполагалось вести военные действия с использованием танковых механизированных соединений» [7].
С утверждением И. Сталиным новой военной доктрины в 1931 году началась активная реорганизация войск, в том числе и танковых. В этот период проводились опыты по разработке и применению танков Т-26 без экипажа, управление которыми осуществлялось в бою по радио. К 1940 году на вооружении Красной армии находился 61 радиоуправляемый танк. Эти машины впервые были применены в ходе советско-финской войны в 1939 году, но с началом Великой Отечественной войны разработки в этом направлении прекратились.
В августе 1941 года в СССР была создана электротанкетка-торпеда ЭТ-1-627, предназначенная для разрушения инженерных сооружений противника и подрыва вражеской техники. ЭТ-1-627 использовались для борьбы с немецкими укрепрайонами при обороне Ленинграда, где в ходе боев ими было уничтожено несколько немецких танков [8].
В некоторых европейских странах в этот период также создавались боевые устройства с дистанционным управлением, например, в Германии - «Голиаф» -гусеничная самоходная мина, управляемая по кабелю. Такие дистанционные мины широко применялись во Второй мировой войне: машина несла до 100 кг взрывчатых веществ и предназначалась для уничтожения танков и укреплений противника.
С окончанием войны данные виды вооружения стали невостребованными, так как появились новые, более эффективные виды оружия: гранатометы, реактивные минометы, управляемые противотанковые ракеты и др.
Начавшаяся в 1946 году «холодная война» как глобальное идеологическое, военное и экономическое противостояние между двумя блоками государств, возглавляемыми СССР и США, дала новый стимул развитию боевых машин-роботов.
В послевоенное время США первыми в мире начали создавать боевые роботы. В 1948 году в США был создан первый разведывательный беспилотный летательный аппарат - AQM-34. Его первый полёт состоялся в 1951 году, в том же году «беспилотник» был запущен в массовое производство. Идея сделать из AQM-34 ударный беспилотник появилась у военных конструкторов США в 1953 году4.
4 AQM-34 Firebee - американский реактивный разведывательный БПЛА, представитель целого семейства беспилотников компании Ryan Aeronautical. 72
В первой половине 1960-х БПЛА был успешно оборудован под размещение двух управляемых ракет класса «воздух-воздух». После этого было разработано множество самых различных вариантов ударного БПЛА. Первый в мировой военной истории пуск управляемой ракеты класса «воздух-земля» с телевизионным наведением с борта беспилотника состоялся 14 декабря 1971 года.
БПЛА AQM-34 успешно применялся во время войны во Вьетнаме, в ходе которой более 1000 американских Firebee совершили 3435 боевых вылетов. Потери составили 578 AQM-34 Firebee [9].
В этот же период в СССР в 1959 году в конструкторском бюро С. Лавочкина был разработан беспилотный самолёт-разведчик Ла-17Р, который после модернизации получил обозначение ЛА-17М [10].
В 1979 году в Техническом университете имени Н.Э. Баумана по заказу КГБ был сделан аппарат для обезвреживания взрывоопасных предметов - сверхлёгкий мобильный робот МРК-01.
Третья промышленная революция, по мнению большинства ученых, началась в 1969 г., когда был выпущен первый программируемый логический контроллер. Основой этой революции стали персональные компьютеры, глобальная информационная система Интернет, массовое применение персональных портативных коммуникационных устройств, повсеместный переход от аналоговых технологий к цифровым, что, в конечном счете, предопределило процессы глобализации и возникновения постиндустриальной экономики [11].
Одно из важнейших последствий Третьей промышленной революции проявилось в массовом перевооружении армий ведущих государств мира, т.е. частичная замена обычных вооружений на боевых роботов, используемых во всех средах: в воде, воздухе и на суше.
Сегодня практически невозможно назвать количество типов и модификаций боевых роботов во всех армиях мира, но их тысячи. К примеру, в настоящее время десятки стран успешно производят беспилотные летательные аппараты, которые в некоторых вооруженных конфликтах полностью заменили на поле боя обычную военную авиацию. Яркий пример тому вооруженный конфликт в Нагорном Карабахе. Так, издание Newsweek опубликовало статью, автор которой убежден, что бои в Нагорном Карабахе закладывают основы войн будущего, поскольку особое место в этом конфликте принадлежит беспилотникам. Военный эксперт Алексей Хлопотов оценивает ситуацию в Карабахе следующим образом: «В небе полностью господствуют беспилотники, и мы видим, что они подводят черту под использованием бронетехники. Она перед ними абсолютно беззащитна, даже со встроенной динамической защитой. Сегодня танки в том виде, в котором они были, начинают уходить в прошлое...» [12-14].
В статье отмечается, что именно БПЛА сегодня определяют тактику ведения боя, формируя подобие войн будущего, когда между собой сражаются управляемые дистанционно ударные БПЛА, а не авиация, управляемая военными летчиками.
В определенной степени этот апокалипсический сценарий будущих войн уже довольно хорошо отражен в киноискусстве. Фильмы «Терминатор» и «Тер-
73
минатор-2», «Трансформеры», «Звёздные войны», «Робокоп» хорошо отразили существующую дилемму: имеет ли право человек передавать право на убийство солдат противника и/или гражданского населения в условиях вооруженных конфликтов боевым роботам? Ведь их убийство с точки зрения международного гуманитарного права может быть признано неправомерным при условии, что они могли быть ранены и находились в беспомощном состоянии или пытались сдаться в плен. Убийство гражданского населения боевыми роботами вообще никоим образом не может быть признано правомерным и оправданным с точки зрения норм международного гуманитарного права и законов ведения войн.
Возникают большие сомнения в том, что существует объективная возможность наказать «квазисубъекта» - оператора, управляющего роботом-убийцей и незаконно лишившего жизни других людей, так как он может нести ответственность за свои действия только опосредованно и у него всегда есть возможность сослаться на неисправность техники в бою. В таких случаях, когда за умышленное применение боевых роботов с целью убийства невиновных людей можно избежать установленной законом ответственности, тогда с уверенностью можно утверждать о наступлении апокалипсиса [15].
С учетом изложенного очевидно, что в ближайшем будущем на поле боя появятся и будут действовать автономные боевые роботы на основе встроенного искусственного интеллекта (ИИ) [16]. В настоящее время использование ИИ является важным трендом в создании перспективных систем вооружения и управления им в боевых конфликтах. С помощью ИИ возможно своевременно обнаруживать и идентифицировать угрозы, оценивать намерения другой стороны на поле боя и, главное, обеспечить оптимальный выбор средств поражения противника.
Так, в США экспертная комиссия по искусственному интеллекту предложила правительству страны рекомендации по лидерству США в сфере искусственного интеллекта. Заместитель председателя комиссии Боб Уорк заявил, что «. сейчас происходит переход военной мысли «в цифровую отрасль», и теперь Пентагон стал похожим на компанию по разработке программного обеспечения <...> В будущем алгоритмический способ ведения боевых действий, возможность положиться на искусственный интеллект и на ту автономность, которую он предоставляет, позволит нам обрести наиболее значительное преимущество в военной сфере» [17]. В связи с этим Пентагон запросил у Конгресса США на 2021 финансовый год 800 млн долл. на разработку систем ИИ и еще 1,7 млрд долл. на создание автономных боевых систем на его основе.
Билл Гейтц на конференции по искусственному интеллекту, состоявшейся в 2019 году в Стенфордском университете, выразил обоснованное беспокойство по поводу будущего развития искусственного интеллекта. Он заявил, что «искусственный интеллект по потенциальным негативным последствиям его применения в военной сфере сравним разве что с ядерным оружием» [18].
Поэтому правозащитные организации выступают против широкого распространения автономных боевых устройств ввиду возможной непредсказуемости их действий во время проведения боевых операций. Это нарушает основные
74
положения Женевской конвенции о защите жертв международных вооруженных конфликтов (вступила в силу в 1950 г., а также дополнительные протоколы к Конвенции, принятые в 1977 и 2005 гг.). Так, статья 36 Протокола I к Женевским конвенциям требует, чтобы все страны «...при разработке и/или принятии на вооружение новых видов оружия.» проверяли их на соответствие нормам международного права.
По оценке Международной неправительственной организации Human Rights Watch (HRW), автономные боевые роботы не только не соответствуют требованиям международного гуманитарного права, но и могут спровоцировать дальнейшие его нарушения или даже вовсе отказ от существующих конвенций и договоров. С их стороны возможны случаи уничтожения раненых или сдающихся в плен военнослужащих, также им трудно отличить лиц, участвующих в боевых действиях, от мирных жителей и т.д.
Human Rights Watch совместно с Гарвардской школой права опубликовала доклад об опасности использования полностью автономных боевых роботов и призвала правительства всех стран отказаться от их разработки. Сущность доклада с названием «Теряя человечность: доводы против роботов-убийц» сводится к тому, что автономные боевые роботы будут убивать всех без разбора [19].
В то же время во многих ведущих странах мира создание и развитие автономных военных роботизированных систем считаются приоритетным направлением в робототехнике будущего. Так, в конце 2010 года министерство обороны США обнародовало «План развития и интеграции автономных систем на 2011-2036 годы» [19]. Согласно этому документу число воздушных, наземных и подводных автономных систем в армии будет значительно увеличено, и перед разработчиками ставятся задачи наделить эти аппараты «полной самостоятельностью». В 2017 году британский эксперт и консультант по вопросам безопасности Джон Бассетт предположил, что к 2025 году в армии США будет больше роботов, чем военнослужащих [20].
На современном этапе продолжает возрастать актуальность проблем, связанных с контролем со стороны правительств и общественности разработок автономных военных роботизированных систем и создания четких правовых регуляторов их практического использования как на основе действующих норм Международного гуманитарного права, так и посредством принятия специальных международных актов, посвященных этому вопросу.
Считаем, что на международном уровне необходимо разработать и принять специальную конвенцию, которая регулировала бы вопросы создания и применения автономных военных роботизированных систем, а также легально закрепляла бы статус субъектов, которые должны нести ответственность за действия, совершаемые автономными боевыми роботами в отношении людей и имущества.
1. История роботов. - Текст: электронный // Википедия: [сайт]. - URL: https://en.wikipedia.org/wiki/History_of_robots (дата обращения: 14.10.2020).
2. Michael E., Moran M. Epochs in Endourology The da Vinci Robot // Journal of Endourol-ogy. - 2006. - Vol. 20, № 12.
75
3. Робот. - Текст: электронный // Википедия: [сайт]. - URL: // https://ru.wikipedia.org/wiki/%D0%A0%D0%BE%D0%B 1 %D0%BE%D 1 %82 (дата обращения: 10.10.2020).
4. Hull J. The Second Industrial Revolution: The History of a Concept // Storia Delia Sto-riografia. - 1999. - Iss. 36. - P. 81-90.
5. Рой Дж. Венсли. Телевокс. - Текст: электронный // История кибернетических животных и первых роботов: [сайт]. - URL: // http://cyberneticzoo.com/robots/1927-televox-wensley-american/ (дата обращения: 14.10.2020).
6. История развития робототехники. - Текст: электронный // МишинРобот: [сайт]. -URL: //https://sites.google.com/site/misinrobot/home (дата обращения: 16.09.2020).
7. Тухачевский М. Н. Избранные произведения: в 2 т. / предисл. Маршала Советского Союза С. С. Бирюзова. - Москва: Воениздат, 1964. Т. 1. - С. 162, 180.
8. ЭТ-1-627. - Текст: электронный // Википедия: [сайт]. - URL: // https://ru.wikipedia.org/wiki/%D0%AD%D0%A2-1-627 (дата обращения: 21.09.2020).
9. Мосов С. Беспилотная разведывательная авиация стран мира: история создания, опыт боевого применения, современное состояние, перспективы развития: монография. - Киев: Румб, 2008. - С. 33-34.
10. Беспилотные летательные аппараты / С. М. Ганин, А. В. Карпенко, В. В. Колногоров, Г. Ф. Петров. - Санкт-Петербург: Невский бастион, 1999. - 160 с.
11. Комиссаров А. Технологический ренессанс: Четвертая промышленная революция // Ведомости. - 14 октября 2015. - № 3938.
12. Рифкин Дж. Третья промышленная революция: Как горизонтальные взаимодействия меняют энергетику, экономику и мир в целом. - Москва: Альпина нон-фикшн, 2014. - 410 с.
13. Верескова М. Массовое применение БПЛА Азербайджаном заложило основы войн будущего. - Текст: электронный // Экономика сегодня: [сайт]. - URL: https://rueconomics.ru/470781-massovoe-primenenie-bpla-azerbaidzhanom-zalozhilo-osnovy-voin-budushchego?utm_source=yxnews&utm_medium=desktop (дата обращения: 29.09.2020).
14. Кудрявая Я. Использование БПЛА в Карабахе формирует стратегию войн будущего. - Текст: электронный // Рамблер.новости: [сайт]. - URL: https://slovodel.com/579183-ispolzovanie-bpla-v-karabahe-formiruet-strategiyu-voin-budushchego (дата обращения: 29.09.2020).
15. БПЛА в Карабахе показали, какими могут быть войны будущего. - Текст: электронный // @Discover24: [сайт]. - URL: https: news.myseldon.com/ru/news/index/238822697 (дата обращения: 22.10.2020).
16. Slyusar V. Artificial intelligence as the basis of future control networks. Coordination problems of military technical and devensive industrial policy in Ukraine. Weapons and military equipment development perspectives // VII International Scientific and Practical Conference. Abstracts of reports. - 2019. - October 8-10. - Р. 76-77.
17. Американских военных усилят искусственным интеллектом // Коммерсантъ. -2020. - 3 апреля.
18. Piper K. Bill Gates: AI is like "nuclear weapons and nuclear energy" in danger and promise. - Текст: электронный // Vox: [сайт]. - URL: https://www.vox.com/futureperfect/ 2019/3/20/18274350/bill-gates-stanford-ailike-nuclear-weapons (дата обращения: 09.11.2020).
19. Сычев В. Близость Судного дня. Правозащитники испугались восстания машин. -Текст: электронный // Lenta.ru: [сайт]. - URL: https://lenta.ru/articles/2012/ 11/22/robots/ (дата обращения: 09.11.2020).
76
20. Бойко А. В армию США набирают роботов. - Текст: электронный // RoboTrends: [сайт]. - URL: http://robotrends.ru/pub/1820/v-armiyu-ssha-nabirayut-robotov (дата обращения: 09.11.2020).
Транслитерация
1. Istoriya robotov. - Tekst: elektronnyj // Vikipediya: [sajt]. - URL: https://en.wikipedia.org/wiki/History_of_robots (data obrashcheniya: 14.10.2020).
2. Robot. - Tekst: elektronnyj // Vikipediya: [sajt]. - URL: // https://ru.wikipedia.org/wiki/%D0%A0%D0%BE%D0%B 1 %D0%BE%D 1 %82 (data obrashcheniya: 10.10.2020).
3. Roj Dzh. Vensli. Televoks. - Tekst: elektronnyj // Istoriya kiberneticheskih zhivotnyh i pervyh robotov: [sajt]. - URL: // http://cyberneticzoo.com/robots/1927-televox-wensley-american/ (data obrashcheniya: 14.10.2020).
4. Istoriya razvitiya robototekhniki. - Tekst: elektronnyj // MishinRobot: [sajt]. -URL: //https://sites.google.com/site/misinrobot/home (data obrashcheniya: 16.09.2020).
5. Tuhachevskij M. N. Izbrannye proizvedeniya: v 2 t. / predisl. Marshala Sovetskogo Soyu-za S. S. Biryuzova. - Moskva: Voenizdat, 1964. T.1. - S. 162, 180.
6. ET-1-627. - Tekst: elektronnyj // Vikipediya: [sajt]. - URL: // https://ru.wikipedia.org/wiki/%D0%AD%D0%A2-1-627 (data obrashcheniya: 21.09.2020).
7. Mosov S. Bespilotnaya razvedyvatel'naya aviaciya stran mira: istoriya sozdaniya, opyt boe-
vogo primeneniya, sovremennoe sostoyanie, perspektivy razvitiya: monografiya. - Kiev: Rumb, 2008. - S. 33-34.
8. Bespilotnye letatel'nye apparaty / S. M. Ganin, A. V. Karpenko, V. V. Kolnogorov,
G. F. Petrov. - Sankt-Peterburg: Nevskij bastion, 1999. - 160 s.
9. Komissarov A. Tekhnologicheskij renessans: Chetvertaya promyshlennaya revolyuciya // Vedomosti. - 14 oktyabrya 2015. - № 3938.
10. Rifkin Dzh. Tret'ya promyshlennaya revolyuciya: Kak gorizontal'nye vzaimodejstviya me-nyayut energetiku, ekonomiku i mir v celom. - Moskva: Al'pina non-fikshn, 2014. - 410 s.
11. Vereskova M. Massovoe primenenie BPLA Azerbajdzhanom zalozhilo osnovy vojn bu-dushchego. - Tekst: elektronnyj // Ekonomika segodnya: [sajt]. - URL: https://rueconomics.ru/470781-massovoe-primenenie-bpla-azerbaidzhanom-zalozhilo-osnovy-voin-budushchego?utm_source=yxnews&utm_medium=desktop (data obrashche-niya: 29.09.2020).
12. Kudryavaya Ya. Ispol'zovanie BPLA v Karabahe formiruet strategiyu vojn budushchego. -Tekst: elektronnyj // Rambler.novosti: [sajt]. - URL: https://slovodel.com/579183-ispolzovanie-bpla-v-karabahe-formiruet-strategiyu-voin-budushchego (data obrashcheniya: 29.09.2020).
13. BPLA v Karabahe pokazali, kakimi mogut byt' vojny budushchego. - Tekst: elektronnyj // @Discover24: [sajt]. - URL: https: news.myseldon.com/ru/news/index/238822697 (data obrashcheniya: 22.10.2020).
14. Amerikanskih voennyh usilyat iskusstvennym intellektom // Kommersant. - 2020. -3 aprelya.
15. Sychev V. Blizost' Sudnogo dnya. Pravozashchitniki ispugalis' vosstaniya mashin. - Tekst: elektronnyj // Lenta.ru: [sajt]. - URL: https://lenta.ru/articles/ 2012/11/22/robots/ (data obrashcheniya: 09.11.2020).
16. Bojko A. V armiyu SSHA nabirayut robotov. - Tekst: elektronnyj // RoboTrends: [sajt]. -URL: http://robotrends.ru/pub/1820/v-armiyu-ssha-nabirayut-robotov (data obrashcheniya: 09.11.2020).
77
© С. Г. Верещагин, 2020
Для цитирования: Верещагин С. Г. История трансформации роботов: от первых механических устройств до боевых роботов с искусственным интеллектом. Правовое регулирование их применения в вооруженных конфликтах // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. - 2020. -Т. 12, № 4. - С. 68-78.
For citation: Vereshchagin S.G. The history of the transformation of robots: from the first mechanical devices to combat robots with artificial intelligence. The legal regulation of their use in armed conflicts, The Territory of New Opportunities. The Herald of Vladivostok State University of Economics and Service, 2020, Vol. 12, № 4, pp. 68-78.
DOI dx.doi.org/10.24866/VVSU/2073-3984/2020-4/068-078
Дата поступления: 23.11.2020
