CC BY
66
РЕАЛИЗАЦИЯ ФУНКЦИОНАЛЬНЫХ ВОЗМОЖНОСТЕЙ ИНТЕЛЛЕКТУАЛЬНЫХ РОБОТОВ В РАБОТЕ ПРАВООХРАНИТЕЛЬНЫХ ОРГАНОВ
Канушкин С.В.*
Ключевые слова: право, робототехнический комплекс (РТК), искусственный интеллект, правоохранительные органы, задачи, требования, уровень интеллектуализации.
Аннотация.
Цель работы: обоснование необходимости создания правовой базы применения робототехнических комплексов (РТК) в правоохранительных органах.
Метод: комплексный теоретико-прикладной анализ вариантов применения РТК в правоохранительных органах и разработка требований к средствам автономного или дистанционного управления РТК с элементами искусственного интеллекта.
Результаты: обоснована необходимость организационно-правового определения метрик и стандартов идентификации уровней интеллектуализации РТК и предложен возможный способ решения данной задачи; определены функциональные и нефункциональные требования к средствам автономного или дистанционного управления РТК с учетом специфики задач правоохранительных органов.
Сделан вывод о необходимости учитывать при создании и развитии законодательства о робототехнике регулирование в системе нескольких отраслей права и уровень интеллектуализации РТК.
001:10.21681/1994-1404-2018-2-23-38
Робототехнические комплексы (РТК) становятся неотъемлемой частью нашей жизни. Однако, во многих странах, в том числе и в России, специализированное законодательство в сфере робототехники отсутствует. В России ожидается появление правового регулирования в сферах робототехники и искусственного интеллекта в 2019 г. Законодатели во многих странах пока ведут дискуссии о возможности рассматривать роботов как субъектов права. Для этого необходимо официальное признание того факта, что роботы представляют собой не вещи, а являются созданиями, наделенными интеллектом, пусть даже искусственным. В мире отсутствуют законы, определяющие поведение роботов. Первоначально необходимо создание правового концептуального базиса, определяющего развитие РТК с элементами искусственного интеллекта.
Одной из передовых стран по созданию и применению РТК стала Южная Корея. Предпосылкой к этому стала работа законодателей, которые еще в 2008 г. разработали и приняли закон «О содействии развитию и распространению умных роботов»11. Корейские законодатели своевременно поняли потребности в соз-
1 Регулирование робототехники в Корее. Закон о содействии развитию и распространению умных роботов. - Режим доступа: http:// robotrends.ru/pub/1730/regulirovanie-robototehniki-v-koree.-zakon-o-sodyaystvii-razvitiyu-i-rasprostraneniyu-umnyh-robotov
дании баланса технического прогресса и интересов общества. Необходимость обеспечения безопасности применения роботов определена и отражена законодательно. Законом определен термин «умный робот», обозначающий механическое устройство, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует, и целенаправленно передвигаться самостоятельно.
Следует заметить, что выделяют несколько поколений роботов:
I поколение - роботы, работающие по жесткому программному управлению. Фактически это программируемые манипуляторы.
II поколение - роботы с адаптивным управлением, реализуемом на основе информации с сенсорных устройств.
III поколение - самоорганизующиеся или интеллектуальные роботы.
Таким образом, в законе рассмотрены умные роботы третьего поколения. Следовательно, вопрос о соотношении понятий искусственного интеллекта [14] и роботов не следует разграничивать.
Европейские законодатели подключились к рассмотрению проблем робототехники только в 2017 г.2. В феврале 2017 г. Европарламент принял резолюцию по нормам гражданского права в области робототехники.
2 Р8 ТА - PROV (2017) 0051. Нормы гражданского права о робототехнике. Резолюция Европарламента от 16 февраля 2017 г.
* Канушкин Сергей Владимирович, кандидат технических наук, доцент, доцент филиала Военной академии РВСН имени Петра Великого в г. Серпухов, Московской области, Россия. E-mail: [email protected]
Резолюция определяет необходимость соответствия инноваций в техническом прогрессе устоявшимся в обществе нормам этики и морали. Были заданы основные положения будущей всеобъемлющей «Хартии робототехники». Принятая резолюция не является законом, так как правом законодательной инициативы обладает лишь Еврокомиссия.
Европарламент призывает Еврокомиссию рассмотреть возможность, чтобы, по меньшей мере, наиболее сложные и самостоятельные роботы могли обрести статус электронной личности со специфическими правами и обязанностями.
В феврале 2016 г. Национальным управлением безопасности движения на трассах США была юридически приравнена система управления беспилотным автомобилем к живому водителю3.
В России с 2016 г. в профильном комитете Государственной Думы Российской Федерации начато активное обсуждение темы юридических аспектов робототехники, в ходе которых первоначально внимание сосредоточено на правовых аспектах гражданско-правовой ответственности за причинение вреда действиями робота4. В законопроекте предполагается двойственный статус для роботов. Определенная часть роботов может быть признана субъектами права, т.е. самостоятельно участвовать в гражданском обороте, владеть имуществом и выступать в суде. Таких роботов авторы предлагают внести в специальный реестр. С другой стороны, робот может быть объектом права, т.е. вещью.
В законопроекте представлено следующее основное понятие: робот - устройство, способное действовать, определять свои действия и оценивать их последствия без полного контроля со стороны человека по результатам обработки информации, поступающей из внешней среды. Данное понятие подразумевает безусловное наличие элементов искусственного интеллекта. При этом важно определить метрики для определения уровней интеллектуализации роботов.
Законопроект - это пока только концепция, которая должна разрешить сложнейшие вопросы об ответственности за действия роботов в различных ситуациях. Кто обязан нести ответственность в случае причинения вреда действиями робота? Также необходимо создать правила, которые должны определять поведение роботов с интеллектом в критических ситуациях.
Можно предположить возможность возникновения конкуренции между отраслями права. Так информационное право и гражданское право могут конкурировать в вопросах правоотношения при применении робототехнических систем. При этом робот может быть рассмотрен как имущество и к нему могут быть исполь-
3 Искусственный интеллект в беспилотных автомобилях Google признали водителем [Электронный ресурс]. URL: http://www.interfax. ru/ business/494074.
4 Гришин Д. С. Федеральный закон (Проект) «О внесении измене-
ний в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники», 2016.
зованы различные аналогии - от правил, применимых к животным или к юридическим лицам.
Так в государственном стандарте, определяющем требования по безопасности для роботов по персональному уходу, используется следующая терминология5. Под роботом понимается приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению. Робот включает систему управления и интерфейс системы управления. Система управления представляет собой набор функций логического управления и силовых функций, позволяющих проводить мониторинг, управление механической конструкцией робота и осуществлять связь с окружающей средой (оборудованием и пользователями).
Очевидно, что независимо от модели, определяющей понятие - робот, он представляет собой совокупность программной и аппаратной частей. Программная информационная часть обеспечивает способность робота к самостоятельным действиям, автономности и самообучению. Применение технологий искусственного интеллекта требует особого современного подхода в области информационного права [13].
Научно-фантастические законы робототехники, определяющие правила поведения для роботов, впервые сформулированы Айзеком Азимовым еще в 1942 г. Эти законы во многом определяют принципы большинства этических систем (рис. 1).
Специалисты по искусственному интеллекту рассматривают данные законы как идеал РТК. Вторая часть первого закона требует, чтобы робот не бездействовал, допуская, чтобы люди пострадали. Очевидно, что при этом явно определены задачи и функции правоохранительных органов. Существующее законодательство не запрещает использование РТК при выполнении задач правоохранительными органами.
Основными целями роботизации правоохранительных органов является придание нового качества используемым средствам в интересах повышения эффективности выполнения задач, снижения потерь и уменьшения финансовых затрат. При этом особое внимание уделяется рациональному сочетанию возможностей человека и техники [1, 10].
Целесообразность применения РТК в деятельности правоохранительных органов определяется возможностью уменьшения потерь личного состава и техники, которые во многом определяются повышением эффективности решения функциональных задач. Кроме того робототехника способствует появлению возможности выполнения новых задач, которые ранее были недоступны для решения человеку в силу ряда естественных ограничений.
5 ГОСТ Р ИСО 8373-2014. Роботы и робототехнические устройства. Термины и определения; ГОСТ Р 60.2.2.1-2016; ISO 13482:2014. Роботы и роботизированные устройства. Требования по безопасности для роботов по персональному уходу.
При определении потребности в РТК целесообразно, прежде всего, ориентироваться на специфику задач правоохранительных органов, решение которых было недоступно человеку в силу его физиологических и интеллектуальных ограничений (рис. 2).
В настоящее время основной задачей считается определение технических путей и экономической целесообразности создания роботизированных унифицированных платформ, а также решение вопросов интеграции РТК в системы управления и связи. Достигнутый уровень развития технологий робототехники позволяет реализовать системный подход в области роботизации и осуществить поэтапный переход от создания отдельных образцов к разработке семейства РТК.
- существенно меньшие затраты на создание и эксплуатацию БЛА, по сравнению с пилотируемыми ЛА;
- возможность применения БЛА при отсутствии развитой обеспечивающей инфраструктуры;
- возможность выполнения широкого круга целевых задач с минимальными экономическими затратами;
- относительная простота и дешевизна подготовки наземных экипажей БЛА по сравнению с подготовкой летного состава пилотируемых ЛА.
Особенностью современных беспилотных самолетов-роботов является небольшой размер и вес (чуть больше 2 кг). Однако, приборы, размещенные на БЛА, позволяют вести наблюдение и видеосъемку в определенном периметре с различных высот. Программу полета целесообразно вводить заранее. Время полета может варьироваться от двух до трех часов, радиус действия обычно достигает 10 км. Все видеоданные в режиме реального времени поступают на пульт оператора. БЛА функционирует как в дневное, так и в ночное время, в разной местности и климатических условиях.
Первоначально необходимо законодательно определиться в области использования беспилотных летательных аппаратов (БЛА) [2,18].
Создание авиационных комплексов с беспилотными летательными аппаратами (БЛА) является одной из ведущих тенденций, наблюдаемых в мировом роботостроении. Интерес к БЛА обусловлен их потенциальными возможностями и преимуществами по сравнению с пилотируемыми летательными аппаратами (ЛА), к которым относятся:
- сокращение возможных потерь дорогостоящей авиационной техники и летных экипажей при проведении контртеррористических операций;
- независимость продолжительности и режимов полета БЛА от физиологических возможностей человека;
Основные задачи, в решении которых правоохранительным органам возможно и целесообразно использовать воздушные РТК, представлены на рис. 3.
В правоохранительных органах необходимо создать многофункциональные мобильные РТК с дистанционным или интерактивным управлением, с высокой проходимостью и точностью позиционирования для борьбы с терроризмом.
Отдельные типы РТК уже обладают возможностью помогать правоохранительным органам, оценивать обстановку в условиях очень плохой видимости, например в абсолютной темноте. Перед тем как направить наряд в темную квартиру, где могут скрываться подозреваемые, нередко активируют робота с характеристиками до 40 см в длину, вес - 0,5 кг, шум - всего 22 дцб. Благодаря специальной оптической системе робот позволяет оператору, сидящему за пультом управления, четко видеть то, что недоступно человеческому взгляду. Это существенно упрощает проведение рискованных операций.
первый закон
Робот не может причинить вред
человеку или своим бездействием допустить, чтобы человеку был причинен вред.
■_У
*
\
Ш
Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону
третий закон
Робот должен заботиться о своей безопасности в той
мере, в которой это не противоречит Первому или Второму законам.
Рис. 1. Научно-фантастические законы робототехники
преимущества, которые дает
внедрение робототехники
Рис. 2. Преимущества применения РТК в правоохранительных органах
Робот-патрульный может перемещаться в заданной зоне и собирает данные в реальном времени, используя свои датчики. Он может распознавать номерные знаки, а также лица и движения людей. РТК анализирует полученные данные, затем программное обеспечение определяет, следует ли сообщать о возможной проблеме людям. В случае критической ситуации включаются все датчики, и начинается передача видеосигнала на пульт дежурному в реальном времени. Еще более умный патрульный не только замечает внештатную ситуацию, но и легко может в нее вмешаться — применив электрошоковое оружие или резервуар со слезоточивым газом, погнавшись за нарушителем. Кроме того, он способен реагировать на истошные крики жертв. Также у аппарата есть сенсорный экран, на котором можно нажать кнопку SOS и попросить об экстренной помощи.
Основные задачи, в решении которых правоохранительным органам возможно и целесообразно использовать наземные мобильные РТК, представлены на рис 4.
РТК могут быть использованы для регулирования автомобильного движения. Они устанавливаются на наиболее оживлённых перекрёстках и играют роль одновременно светофоров и камер наблюдения за автомобильным и пешеходным трафиком. Роботы направляют трафик, путем подачи сигналов красного и зелёного цвета, и пешеходы могут безопасно передвигаться через широкие дороги с интенсивным движением. Они оснащены камерами наблюдения, которые фиксируют кадры нарушений и отправляют их в полицию с целью пресечения опасного вождения.
Ожидается возможность реального применения РТК, позволяющих сканировать любые подозритель-
Рис. 3. Возможные задачи воздушных РТК в действиях правоохранительных органов
Рис. 4. Возможные задачи наземных мобильных РТК в действиях правоохранительных органов
ные вещи, определять их содержимое, не приближаясь к ним сотрудникам правоохранительных органов. Комплекс позволяет создать трехмерную модель любого предмета, оставленного на улице.
Существует реальная возможность применения РТК с системой распознавания лиц. Данный комплекс позволяет идентифицировать правонарушителей на массовых мероприятиях, в аэропортах и вокзалах в режиме реального времени. В случае необходимости РТК отправит сотрудникам полиции уведомление с фотографией нарушителя и краткой информацией о нем. Комплекс легко перевозить, что не требует времени на развертывание системы, и позволяет, например, максимально оперативно увеличить пропускную способность пунктов контроля посетителей и избежать очередей на входе.
Основные задачи, в решении которых правоохранительным органам возможно и целесообразно использовать наземные стационарные РТК, представлены на рис. 5.
Но есть еще более глубокие этические проблемы, связанные с заменой полицейских роботами. Эксперты по робототехнике против машин, которые могут выбирать цель без контроля человека. В настоящее время нет причин активировать у роботов автономный режим. Решение о применение оружия всегда должно оставаться за человеком. Должен ли робот применять силу против человека, если в случае его бездействия погибнут другие люди? Целесообразно ли создание автономных роботов-полицейских, наделенных возможностью самостоятельно принимать решение и использовать какие либо воздействия на людей? Кто должен отвечать за это?
В работе правоохранительных органов необходимо учитывать большую опасность и жестокость актов террора. Правовое обеспечение антитеррористиче-
ской деятельности является важнейшей предпосылкой успешного противодействия как внутригосударственному, так и международному терроризму.
Основным российским нормативным актом в этой области является Федеральный Закон «О борьбе с терроризмом»6. Закон определяет правовые и организационные основы борьбы с терроризмом в Российской Федерации, субъектов этой деятельности, основы их взаимодействия. Основными целями борьбы с терроризмом является выявление, пресечение террористической деятельности и минимизация ее последствий.
В случае реальности угрозы осуществления террористических действий санкционируется применение оружия7.
Представители правоохранительных органов наделены правом использования огнестрельного оружия. Применение огнестрельного оружия рассматривается как исключительная мера, предназначенная только для самообороны или защиты других лиц от причинения телесного повреждения или угрозы смерти [11,19].
Нормативно-правовая база должна не только определять существующее положение дел, сколько открывать перспективу на будущее. Основные принципы применения силы и огнестрельного оружия должны быть обоснованными.
Допуская применение полицией огнестрельного оружия, государство обязано, во-первых, ограничить его объем необходимым минимумом, а во-вторых, полно и четко урегулировать основные вопросы применения огнестрельного оружия в законодательном
6 Федеральный закон от 6 марта 2006 г. № 35-Ф3 «О противодействии терроризму» // РГ. - 2006. - 10 мар.
7 Федеральный закон от 13 ноября 1996 г. № 150-ФЗ «Об оружии» // РГ. - 1996. - 18 дек.
С \
Задачи, решаемые наземным стационарным РТК
ч_/
Распознавание лиц
Анализ ситуации
Выработка предложений по охране границ
Регулирование автомобильного трафика
Рис. 5. Основные задачи наземных стационарных РТК в действиях правоохранительных органов
акте, известном населению. Правовые основания применения сотрудниками полиции огнестрельного оружия - это фактические обстоятельства, с наличием которых закон связывает возможность использования ими огнестрельного оружия по прямому назначению8.
Следовательно, при использовании РТК решение о применение оружия всегда должно оставаться за человеком.
Функциональные требования к РТК определяют, действия комплекса, которые он должен выполнять. Функциональные требования реализуются через функции системы. Под функцией РТК подразумевается совокупность действий комплекса, направленная на достижение определенной цели или аспект определенного поведения системы, а под задачей - функция или часть функции системы, представляющая собой формализованную совокупность автоматических действий, выполнение которых приводит к результату заданного вида. Некоторые из функциональных требований относятся к системе в целом, а не к отдельным подсистемам. Это означает, что они являются более значимыми и критичными, чем отдельные функциональные требования. Ошибки, допущенные в функциональных требованиях, могут снизить качество системы в целом, ошибки в нефункциональных требованиях могут сделать систему неработоспособной.
Опасности, связанные с роботами, общепризнаны, но источники этих опасностей часто являются уникальными для конкретных робототехнических систем. Число и тип (типы) опасности (опасностей) напрямую свя-
8 Федеральный закон от 7 февраля 2011 г. № З-ФЗ «О полиции» // РГ. - 2011. - 8 фев.
заны с сутью процесса автоматизации и сложностью установки. Риски, связанные с этими опасностями, изменяются в зависимости от типа используемого робота и его назначения, а также от методов, используемых при его установке, программировании, функционировании и обслуживании.
Системы управления мобильными роботами должны решать следующие задачи [15,18]:
а) обработка данных с сенсорных датчиков, в том числе данных от интерфейса с оператором с целью применения информации о положении робота и состоянии внешней среды;
б) планирование действий с уяснением целевого задания и последовательности решения подзадач;
в) формирование программной траектории движения мобильного робота, которая позволяла бы выполнить роботом локальные подзадачи;
г) согласование задающих воздействий на исполнительные механизмы робота, которые бы приводить к максимально точному и быстрому выполнению ими программной траектории движения.
Особенностью построения систем управления мобильных роботов является то, что они, как правило, строятся по иерархическому многоуровневому принципу [14]. При повышении иерархического ранга подсистемы повышается ее степень интеллектуальности (рис. 6).
Верхним звеном данной иерархии является система управления поведением. Затем следует системы управления движением. Системы управления исполнительными механизмами представляют собой низшие звенья этой иерархии. Во многом возможности робота определяются свойствами информационно-
измерительной системы, которая, безусловно, должна обладать элементами интеллекта. Стратегический уровень системы управления поведением должен формировать целесообразное поведение робота при выполнении задачи, поставленной перед ним. Система формирует целеуказания для систем управления движением и исполнительными механизмами. С учетом взаимовлияния систем определяется целевая точка пути, требуемое состояние приводов робота, команды управления режимами работы информационно-измерительной системы [5 - 8].
Системы управления движением (тактический уровень) предназначены для планирования программных траекторий движения робота, которые могли бы приводить робота в указанные целевые состояния в средах с препятствиями, с учетом динамических характеристик робота. Целевые состояния для этой системы формируются системой управления поведением. На выходе данной системы формируется вектор требуемых командных значений скоростей линейного движения и поворотов робота.
Системы управления исполнительными механизмами решают задачи управления исполнительными механизмами робота. Эти системы реализуют интерфейс с аппаратной частью робота.
Информационно-измерительная система предназначена для сбора, обработки и преобразования сенсорной информации в сигналы, удобные для использования в системе управления робота.
К средствам автономного или дистанционного управления РТК предъявляется ряд жестких функциональных требований (табл. 1, 2).
Возможности РТК во многом определяются средствами автономного или дистанционного управления при подготовке к применению, применении, технической эксплуатации РТК.
Бортовой комплекс навигации и управления беспилотных летательных аппаратов (БЛА) должны обеспечивать [15, 18, 19]:
- определение навигационных параметров, углов ориентации и параметров движения БЛА (угловых скоростей и ускорений);
- навигацию и управление БЛА при полете по заданной траектории; стабилизацию углов ориентации БЛА в полете;
- выдачу в канал передачи телеметрической информации о навигационных параметрах, углах ориентации БЛА.
Центральным элементом является малогабаритная инерциальная навигационная система (ИНС), интегрированная с приемником спутниковой системы навигации, построенная на базе микро-электро-механиче-ских датчиков по принципу бесплатформенной.
Сам по себе беспилотный летательный аппарат (БЛА) - лишь часть сложного РТК, одной из основных задач которого является оперативное доведение полученных сведений до операторов пункта управления. Возможность обеспечения устойчивой связи является важнейшей характеристикой, определяющей эксплуатационные возможности комплекса. Связь должна обеспечивать доведение сведений, полученных роботом, в режиме реального времени. Для обеспечения связи широко используют остронаправленные антенные системы.
г
Интерфейс с оператором
Информационно измерительная система
Система управления поведением
О ■
Система управления движением
I
Система управления исполнительным механизмом
И
Роботизированная система
Рис. 6. Структурная схема системы управления РТК
Подсистема или решаемая задача Требование Цель, которая будет достигнута при реализации требования
Система управления движением Дистанционная радиокомандная, автономная инерциальная Движение по требуемой траектории с определенной скоростью полета
Наземное оборудование Мобильное и носимое Обеспечение интерактивного управления БЛА
Навигация Автоматизированный выбор маршрута без ограничений в ориентации в пространстве Движение по требуемой траектории с определенной скоростью полета
Тип навигационной системы Инерциальная система, интегрированная с приемником системы спутниковой навигации. Обеспечение требуемой точности движения по требуемой траектории с определенной скоростью полета
Выбор маршрута Параметры траектории обхода объектов вводятся непосредственно перед движением Обеспечение точности движения, синхронизация времени
Тип системы управления поведением Интерактивный робот попеременно управляемый оператором или действующий автоматически интерактивное управление автоматизированное, чередование во времени автоматических режимов управления с биотехническими
Интерфейс с оператором Возможность обеспечения устойчивой связи Обеспечение автоматизированного интерактивного управления
Возможность передачи данных с видеокамеры передача видеосигнала на пульт дежурному в реальном времени
Система управления движением Автоматический полет по заданному маршруту Синхронизация скорости движения и времени прибытия в определенные точки маршрута
Автоматический взлет и заход на посадку Возможность использования в городах и лесистой местности
Приводы устройств и механизмов Не уступают возможностям человека Обеспечение требуемой точности выполнения операций в определенных точках траектории полета
Число взаимодействующих средств Несколько роботов с одним оператором Одновременное выполнение нескольких операций по маскировке и РЭБ
Роль оператора Дистанционное управление и контроль Автономная настройка режима работы в зависимости от условий
Сложность задач Автономная настройка режима работы в зависимости от условий Обеспечение требуемой точности выполнения операций
В бортовом комплексе навигации и управления, функцию измерения состояния системы выполняет малогабаритная инерциальная интегрированная система.
В составе средств автономного или дистанционного управления РТК играет бортовой комплекс навигации и управления БЛА, в который входят три составных элемента (рис. 7): интегрированная навигационная система; приемник спутниковой навигационной системы; модуль автопилота.
В память автопилота может быть занесено до 200 поворотных пунктов маршрута. Каждая точка характеризуется координатами, высотой прохождения и скоростью полета.
Таблица 1
Функциональные требования к средствам автономного или дистанционного управления воздушным РТК
В полете автопилот также обеспечивает выдачу в канал передачи телеметрической информации для слежения за полетом БЛА (рис. 8).
Автопилот, прежде всего, должен обладать свойством робастности: быть устойчивым к внешним воздействиям и не чувствительным к условиям полета.
Автопилот в составе бортового комплекса навигации и управления должен обеспечивать [15, 18, 19]: автоматический полет по заданному маршруту; автоматический взлет и заход на посадку; поддержание заданной высоты и скорости полета; стабилизацию углов ориентации; программное управление бортовыми системами.
Подсистема или решаемая задача Требование Цель, которая будет достигнута при реализации требования
Система управления движением Дистанционная радиокомандная, автономная инерциальная Движение по требуемому маршруту с определенной скоростью
Наземное оборудование Мобильное и носимое Обеспечение интерактивного управления
Навигация Автоматизированный выбор маршрута без ограничений в ориентации в пространстве Движение по требуемой траектории
Тип навигационной системы Инерциальная система, интегрированная с приемником системы спутниковой навигации. Обеспечение требуемой точности движения по требуемому маршруту с определенной скоростью
Выбор маршрута Параметры траектории обхода объектов вводятся непосредственно перед движением Обеспечение точности движения, синхронизация времени
Преодоление препятствий Прогноз движения объектов с учетом информации системы промежуточной (средней) навигации Задача навигации состоит в обеспечении движения в пределах однородной видимости,
Тип системы управления поведением РТК Интерактивный робот попеременно управляемый оператором или действующий автоматически Интерактивное управление супервизорное, части заданного цикла операций выполняются роботом автоматически поэтапно, переход от одного этапа к другому может осуществляться только после подачи оператором команды.
Интерфейс с оператором Возможность обеспечения устойчивой связи Обеспечение автоматизированного интерактивного управления
Приводы устройств и механизмов Не уступают возможностям человека Обеспечение требуемой точности выполнения операций в определенных точках
Число взаимодействующих средств Несколько роботов с одним оператором Одновременное выполнение нескольких операций
Возможности, состав аппаратуры Датчики обеспечивают движение, обнаружение и распознавание объектов при прямой видимости Возможность преодоления (обхода) преград
Роль оператора Дистанционное управление и контроль автоматического управления Автономная настройка режима работы в зависимости от условий
Сложность задач Автономная настройка режима работы в зависимости от условий Обеспечение требуемой точности выполнения операций
В наземных РТК более сложной является задача навигации и управления. При разработке мобильных роботов, обладающих способностями к самостоятельному передвижению и автоматическому выполнению поставленных задач необходимо создание системы навигации, позволяющей составлять карту среды, в которой функционирует РТК, планировать маршрут, ведущий к цели и обход препятствий, встречающихся на пути.
Дистанционная радиокомандная система управления роботом требует присутствия оператора на уровне движений, при этом от человека необходимо непрерывное наблюдение за роботом и оперативное управление его действиями. Такой подход определяет неспособность робота принимать самостоятельные ре-
Таблица2
Функциональные требования к средствам автономного или дистанционного управления наземным РТК
шения и имеет ряд недостатков. К ним следует отнести необходимость организации и постоянной поддержки канала связи с оператором, что существенно ограничивает область применения робота. При управлении роботом оператор получает от системы технического зрения информацию об объекте и состоянии среды. Выполняется ручное управление движением робота и исполнительными механизмами.
Целесообразно создание РТК с управлением, которое со стороны человека-оператора будет проводиться не на уровне задания отдельных движений, а на уровне постановки цели. В этом случае робот должен самостоятельно (или при минимальном участии человека) выполнять поставленные задачи.
Анализ способов применения зарубежных и отечественных РТК показал, что круг задач, решаемых автономными робототехническими системами, непрерывно расширяется, и, соответственно, возрастают требования к их функциональным возможностям.
Специфика структурных и функциональных свойств мобильных роботов позволяет выделить их следующие динамические особенности: многосвязность, нелинейность и многомерность. Отмеченные характерные особенности требуют перехода на новые концептуальные основы проектирования систем управления мобильных роботов. Такой фундаментальной направляющей концепцией является концепция управляемого взаимодействия энергии, вещества и информации, в основе которой лежат методы синергетической теории управления [13].
РТК являются многофункциональными и должны обеспечивать качественное улучшение параметров эффек-
тивности устаревших образцов техники за счет оснащения их навесным модульным бортовым оборудованием, созданным с использованием технологий робототехники, расширения их функциональных возможностей.
К основным нефункциональным требованиям к РТК, которые определяются концепцией их применения исходя из решаемых задач, относятся:
- высокая эффективность функционирования при решении задач в различных условиях обстановки;
- модульность - возможность укомплектования функциональными элементами РТК в соответствии с поставленной задачей;
- многофункциональность;
- возможность интеграции в существующие и перспективные образцы РТК;
- способность к относительно самостоятельному выполнению задач в условиях неопределенности внешней обстановки и потери управления;
Приемник спутниковой навигационной системы
Бесплатформенная инерциальная навигационная система
Пульт дистанционного управления
радиоканал
Приемник дистанционног о управления
Персональный компьютер
>
ввод поворотных пунктов маршрута
БЛОК АВТОПИЛОТА
Рис. 7. Вариант облика средств автономного или дистанционного
управления РТК
БЛОК АВТОПИЛОТА" У П Р А В Л Е Н И
СЕРВОПРИВОД
Контроллер двигателя
Бортовая аппаратура
Стабилизация видеокамеры
Сброс груза
Управление остронаправлен ной антенной
Синхронизация включения аппаратуры
С Телеметрия ^ч полета
Накопитель летных данных
Рис. 8. Вариант облика автопилота БЛА
- использование унифицированных, помехозащи-щенных каналов связи;
- унификация наземных пунктов управления по обработке информации;
- обеспечение группового информационного обмена между РТК;
- определение собственного местоположения в пространстве, высокая живучесть и эксплуатационная надежность, стойкость к воздействию внешних факторов и ремонтопригодность;
- наличие в составе каждого комплекса программно-аппаратных средств обучения операторов боевых расчетов и их тренировку.
Особенности рассматриваемых РТК заключается в том, что, они представляют собой совокупность управляемых нестационарных иерархически организованных подсистем. На процесс функционирования любой подсистемы оказывают непосредственное воздействие подсистемы вышерасположенного уровня, осуществляя координацию их действий.
Система управления РТК включает подсистемы управления поведением, движением и исполнительными механизмами. Многокритериальность оценки качества функционирования РТК возникает ввиду многообразия целей и слабой формализации глобальной цели.
При оценке качества функционирования РТК задача осложнена учетом группового предпочтения лиц, участвующих в процессе оценки управления, которые различно трактуют понятия «компромиссное решение», «оптимальность» [14]. При выборе некоторого «рационального решения» приходится оптимизировать множество критериев, имеющих разную природу и единицы измерения. Векторный критерий состоит из набора (множества показателей), в числе которых могут быть показатели с разными направлениями шкалы полезности (желательности).
В ряде случаев (обычно при отсутствии дополнительной информации о важности критериев) оптимумом по векторному критерию считают множество парето-оптимальных векторов. Векторную оценку, для которой не существует более предпочтительной, называют парето-оптимальной, а также эффективной, или неулучшаемой по векторному критерию. Множество всех таких оценок называют эффективными, или множеством Парето. Множество Парето представляет собой часть границы множества достижимости, то есть к нему принадлежат те значения критериев, над которыми не доминируют другие варианты. Существенно, что решение задачи оптимизации по векторному критерию носит принципиально множественный характер. Существует несколько методов получения решений на множестве Парето: сворачивания векторного критерия в глобальный скалярный; последовательных уступок; минимаксный критерий; модель справедливого компромисса.
Существует много способов введения метрики, задающей «близость к идеалу». Чтобы проранжировать критерии по степени их важности и найти соответ-
ствующие веса, можно воспользоваться экспертными оценками. Многостадийная процедура принятия решения при наличии многих критериев может быть рассмотрена на основе метода математического или динамического программирования.
Совершенствование систем управления летательными аппаратами (ЛА) является одной из ведущих современных тенденций. Особенностью задачи управления ЛА считается необходимость учета различного проявления неопределенностей. С учетом возрастания сложности систем и объема используемой информации, необходимо попытаться рассмотреть возможность использования элементов интеллектуальных систем в решении задачи управления.
Под интеллектуальной системой понимают объединенную информационным процессом совокупность технических средств и программного обеспечения, работающую во взаимосвязи с человеком или автономно, способную на основе сведений и знаний при наличии мотивации синтезировать цель, вырабатывать решение о действии и находить рациональные способы достижения цели [18, 19, 20].
При разработке систем управления с элементами искусственного интеллекта основное место отводится проблеме выбора критериальной части системы, содержащей частные показатели качества движения со своими коэффициентами относительной важности, подвергаемыми неоднократной перестройке в динамической обстановке, что является главным предметом интеллектуальных действий (интеллектуальные операторы преобразования ах, О2 ). Формально интеллектуальная система описывается шестью выражениями [9]:
Т х X X 5 —М X Т;
Т х М х 5 О2 > С х Т;
С х Т х X х 5 —Я х Т;
Т х X = {А х Т}X х Т + {Б х Т}и х Т;
Т х Г = {Б х Т}Х х Т;
Т х Я х Г — > С х Т, (*)
где Т, X, Б, М, С, К и Y - множества моментов времени, состояний системы, окружающей среды, мотивации, целей, прогнозируемого и реального результата; А, В, Р - матрицы параметров; О^, О2, О3, О4 - интеллектуальные операторы преобразования, использующие знания.
В данной работе под интеллектуальной понимается такая система оценки ситуации и принятия управленческих решений, которая осуществляет неоднократный выбор терминальных условий и критериальной части, определяющих текущую цель управления.
Таким образом, интеллектуальная часть предназначена для управления целью движения, выраженного в выборе терминальных условий и основных критериев,
База данных состояния среды
База данных состояния объекта
Модуль оценивания состояния среды
База данных алгоритмов управления
т
Форми ров атель управляющего воздействия
Модуль оценивания состояния объекта
Модуль
коррекции
исполнительных
механизмов
X
Исполнительный механизм
объект
Модуль коррекции программного движения
Датчик состояния объекта
Рис. 9. Схема системы управления с элементами интеллекта
которыми нужно руководствоваться в первую очередь на данной подобласти пространства состояния и в данный промежуток полета.
В настоящее время сложились два подхода к решению проблемы искусственного интеллекта. Часть специалистов считают, что при создании систем с элементами искусственного интеллекта нет оснований следовать за нейронной организацией, лежащей в основе интеллектуальных функций. Для этого достаточно создать программы работы компьютера, совпадающие с интеллектуальными функциями лишь по конечному результату (логико-символьный подход). Другая часть специалистов считают, что наиболее перспективным путем построения систем с элементами искусственного интеллекта является имитация нейронных структур, реализующих интеллектуальные функции.
Нейросеть представляет собой совокупность простейших модулей, называемых формальными нейронами, соединенными каналами передачи информации. При этом нейронная сеть не производит вычислений, она трансформирует входной сигнал в выходной в соответствии топологией и значениями коэффициентов межнейронной связи. Способность искусственных нейронных сетей обучаться является их наиболее полезным для рассматриваемой задачи свойством.
Различие экспертных и нейросетевых систем обуславливается различиями в их сфере применения. Экспертные системы применяются в узких предметных областях с хорошо структурированными знаниями. Нейронные сети применяются кроме перечисленных областей и в задачах с плохо структурированной информацией.
Следует также отметить бурное развитие задач нечеткой математики [12], которые могут быть наибо-
лее эффективно решены с помощью гибридных нейро-сетевых нечетких моделей, наиболее существенными особенностями которых с учетом решаемой задачи являются:
- большая гибкость моделей по сравнению с традиционными четкими, так как они позволяют описывать знания и опыт человека в привычной для него форме;
- большая адекватность моделей реальному миру, поскольку позволяют получить решения, по точности соотносимое с исходными данными;
- возможность в ряде случаев более быстрого получения окончательного результата, чем на точных моделях, в силу специфического построения и простоты используемых нечетких операций.
Требование по обеспечению высокой скорости обработки информации и выполнения всех процедур при реализации интеллектуального процесса, бурное развитие и успехи создания нейроподобных систем позволяют отдать приоритет второму направлению и исследовать возможность создания, реализации интеллектуальных управляющих систем на нейроподобных элементах.
К настоящему времени фирмы разрабатывают ней-рочипы или нейроплаты в виде приставок к персональным ЭВМ. При совместной работе быстродействие гибридной ЭВМ возрастает в сотни раз. Заметим, что формируемые нейронные сети эффективны при решении задач, для которых имеется хорошо сформулированный в нейросетевом базисе алгоритм решения.
Различают два принципиально отличных подхода к построению нейросетевых систем управления: прямые методы синтеза - регулятор реализуется непосредственно на нейросети; косвенные - нейросеть используется в качестве модели объекта управления, а синтез
регулятора осуществляется традиционными методами. Оба подхода имеют свои преимущества и недостатки и их необходимо проанализировать. В данной работе уделено внимание первому подходу, применение которого не вызывает трудностей. При этом систему управления с элементами интеллекта можно представить в следующем виде (рис. 9): система содержит три базы данных, которые являются частью экспертной системы, предназначенной для генерации и поддержки динамической модели экстенсиональных знаний. Знания отражают факты, закономерности, свойства и характеристики, типичные для конкретной ситуации или класса однотипных ситуаций, которые могут возникнуть.
Анализируя ситуацию, в которой находится объект управления, при этом учитывая динамику изменения состояния окружающей среды, формирователь управляющих воздействий корректирует программу движения объекта и вырабатывает команды на изменении структуры исполнительных механизмов с тем расчетом, чтобы объект достиг цели оптимальным способом.
Выполнить такой огромный объем вычислительных работ можно лишь при применении параллельных вычислений. Следовательно, можно сделать вывод о том, что будущее интеллектуального управления лежит в сочетании традиционного управления с потенциальными возможностями и перспективами использования систем, основанных на использовании искусственных нейронныхсетей.
Развитие искусственного интеллекта, широкое применение автономных роботов приводят к появлению проблем технического и этического характера, в том числе актуальной становится проблема правового регулирования отношений «робот - человек» и «робот -
робот». Искусственный интеллект может быть и угрозой. Необходимо отработать метрики и стандарты для определения уровня интеллектуализации роботов, которые могут быть построены на основе выражений (*).
Проблемы использования искусственного интеллекта нужно законодательно регулировать, при этом по возможности обеспечивая баланс между интересами прогресса, безопасности общества, государства и потребностями отдельно взятого человека [17].
Системы с искусственным интеллектом применимы, прежде всего, к трудно формализуемым задачам, которые обладают следующими особенностями [15, 18, 20]:
- неоднозначностью, ошибочностью, неполнотой и противоречивостью исходных данных;
- ошибочностью, неоднозначностью, неполнотой и противоречивостью знаний о проблемной области и решаемой задаче;
- большой размерностью пространства решения (т.е. перебор при поиске решения весьма велик);
- динамически изменяющимися данными и знаниями.
Любая информационная система, решающая интеллектуальную задачу или использующая методы искусственного интеллекта, относится к интеллектуальным.
Для интеллектуальных информационных систем характерны следующие признаки: развитые коммуникативные способности; умение решать сложные плохо формализуемые задачи; способность к самообучению; адаптивность.
При создании систем интеллектуального управления, необходимо придерживаться следующих основных принципов: информационного обмена; открытости системы интеллектуального управления для само-
Управление взаимодействием
Рис. 10. Структура перспективной интегрированной интеллектуальной
системы управления БЛА
обучения и самоорганизации; прогнозирования изменений во внешней среде и системе.
Целью создания интегрированной интеллектуальной системы управления БЛА является обеспечение максимальной степени автономности выполнения поставленного полетного задания с минимальным взаимодействием с персоналом. Для реализации интеллектуального управления БЛА на всех этапах полета предлагается выделить в составе следующие подсистемы (рис. 10).
Перспективными исследованиями в области искусственного интеллекта проводятся по направлениям: принятие решений (экспертные системы); понимание смысла текстов; распознавание образов; автоматические системы управления.
Определенная специфичность, ограниченность условий применения и требований к роботам специального назначения делает целесообразной реализацию универсального подхода к процессу их интеллектуализации на единой методологической, теоретической и технологической платформе, на единых принципах и методах, с максимальным учетом особенностей среды функционирования [3, 4].
Такой системный универсальный подход позволит минимизировать затраты на разработку как собственно интеллекта, так и его носителя. Необходимо оптимальным образом сформировать всю «линейку» требуемых (в том числе и для межвидового взаимодействия) средств и систем с минимально достаточными поведенческими возможностями, перекрывающими весь спектр потребностей. Это особенно важно при коллективном применении роботов, а именно этот путь ис-
пользования системы автономных роботов, каждый из которых имеет свой уровень интеллекта и выполняет свою частную задачу в рамках общей задачи, легко понимая другого члена команды и быстро реализуя наилучшее поведение, наиболее перспективен [3, 4].
Анализ функциональных возможностей интеллектуальных автономных роботов в работе правоохранительных органов позволяет сделать вывод о том, что при создании и развитии законодательства о робототехнике следует учитывать регулирование в системе нескольких отраслей права. Отношения в области робототехники неизбежно затрагивают и пространство информационно-правовых отношений, поскольку роботы с необходимостью подразумевают наличие информационной интеллектуальной системы. Предполагаемая концепция регулирования должна учитывать и основные положения Федеральных законов «Об информации, информационных технологиях и о защите информации», «О войсках национальной гвардии Российской Федерации», «О полиции», «Об оружии», «О противодействии терроризму»9.
РТК, создаваемые в специальных целях, должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права. Такие роботы не должны использоваться для причинения вреда мирному населению. Следует договориться о том, чтобы не создавать роботов, вооруженных летальным оружием и действующим автономно. При этом решение о применение оружия всегда должно оставаться за человеком.
Рецензент: Зайцев Александр Владимирович, д.т.н. профессор, г. Москва
Литература
1. Андреенко С. В. Вопросы тактики применения боевых наземных РТК военного назначения при выполнении подразделениями специального и особого назначения органов внутренних дел Российской Федерации и внутренних войск МВД России, возложенных на них оперативно-служебных (боевых) задач // Тр. воен.-науч. конф. «Роботизация Вооруженных Сил Российской Федерации». М., 2016. - С. 80 - 83.
2. Балюков А. А., Зайцев А. В., Канушкин С. В. Модель движения беспилотного летательного аппарата с использованием интеллектуальных технологий // Тр. воен.-науч. конф. «Роботизация Вооруженных Сил Российской Федерации». М., 2016. С. 198 - 203.
3. Бугаков И. А. О необходимости разработки методологии, теории и универсальной технологии интеллектуализации робототехники военного и специального назначения./ Тр. воен.-науч. конф. «Роботизация Вооруженных Сил Российской Федерации». М., 2016. С. 89 - 102.
4. Бугаков И. А. Царьков А. Н. Базовая универсальная технология интеллектуализации ВВСТ: концептуальные идеи // «Известия Института инженерной физики». - 2015. - № 2. - С. 65 - 72.
5. Зайцев А. В., Канушкин С. В., Бабенков Е. А., БезвербныйА. А. Особенности синергетического управления ро-бототехнической системой // Тр. XVI Всеросс. науч. конф. «Нейрокомпьютеры и их применение». - М: МГППУ, 2018. - С. 66 - 67.
9 Федеральный закон от 27 июля 2006 г. № 149-ФЗ «Об информации, информационныхтехнологиях и о защите информации»//РГ. - 2006. - 29 июл.; Федеральный закон от 3 июля 2016 г. № 226-ФЗ «О войсках национальной гвардии Росси йс кой Федерации »//РГ.-2016.-6 июл.; Федеральный закон от 7 февраля 2011 г. № 3-ФЗ «О полиции» // РГ. - 2011. - 8фев.;Федеральныйзакон от1 3ноября 1996 г.№ 150-ФЗ«Об оружии» // РГ. - 1996. - 18 дек.; Федеральный закон от 6 марта 2006 г. № 35-ФЗ «О противодействии терроризму» // РГ. - 2006. - 10 мар.
6. Зайцев А. В., Канушкин С. В., Волков А. В. Координатно-параметрическая обратная связь в синергетическом управлении мобильными роботами // Тр. VII Всеросс. науч.-прак. конф. «Современное непрерывное образование и инновационное развитие». - Серпухов: МОУ «ИИФ», 2017. - С. 844 - 846.
7. Зайцев А.В., Канушкин С.В., Гладышев А.И. Синергетический подход к нейросетевому управлению робототех-ническим динамическим объектом // Тр. XXXV Всеросс. науч.-прак. конф. «Проблемы эффективности и безопасности функционирования сложных технических и информационных систем». Ч. 2. - Серпухов, 2016. -С. 55 - 59.
8. Зайцев А. В., Канушкин С. В., Гладышев А. И., Павлов Р. С. Особенности синергетических методов управления мобильными роботами // Тр. VI Всеросс. науч.-прак. конф. «Современное непрерывное образование и инновационное развитие». - Серпухов: МОУ «ИИФ», 2016. - С. 677 - 680.
9. Интеллектуальные системы (исследование и создание) / Пупков К. А., Коньков В. Г. - М. : МГТУ им. Н.Э. Баумана, 2003 . - 348 с.
10. Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. - 2016. - Вып. 10. - С. 63 - 72.
11. Коноплева И. Н. Правовые аспекты применения огнестрельного оружия сотрудниками правоохранительных органов // Психопедагогика в правоохранительных органах. - 2003. - № 2. - С. 10 - 12.
12. Королев В. Т., Ловцов Д. А., Радионов В. В. Системный анализ. Часть. 2. Логические методы / Под ред. Д. А. Ловцова. - М.: РГУП, 2017. - 164 с.
13. Ловцов Д. А. Системология правового регулирования информационных отношений в инфосфере: Монография. - М.: РГУП, 2016. - 316 с.
14. Ловцов Д. А. Информационная теория эргасистем: Тезаурус. - М.: Наука, 2005. - 248 с.
15. Моисеев В. С. Основы теории эффективного применения беспилотных летательных аппаратов. - Казань: РИЦ «Школа», 2015. - 444 с.
16. Назарова И. С., Шеншин В. М. Правовые аспекты применения мер принуждения сотрудниками правоохранительных органов // Право в вооруженных силах - Военно-правовое обозрение. - 2017. - №7. - С. 21 - 29.
17. Наумов В. Б. Научные подходы к классификации видов правовой идентификации в информационных правоотношениях // Тр. ИГП РАН. - 2016. - № 3(55). - С. 104 - 115.
18. Нейрокомпьютеры в авиации / Под ред. В. И. Васильева - М.: Радиотехника, 2003. - 496 с.
19. РТК военного назначения: Справочные материалы. - М., 2015. - 298 с.
20. Терехов В. А., Ефимов Д. В., Тюкин И. Ю. Нейросетевые системы управления. - М.: ИПРЖР, 2002. - 480 с.
REALIZATION OF FUNCTIONAL OPPORTUNITIES OF INTELLECTUAL ROBOTS IN THE LAW ENFORCEMENTAGENCIES'S WORK
Sergey Kanushkin, PhD, Associate Professor of the Strategic Missile Force Academy named after Peter the Great. Serpuchov, Russia. E-mail: [email protected]
Keywords: Law, robotic complex, artificial intelligence, law enforcement agencies, tasks, requirements, level of intellectualization.
Absract.
The purpose of the work: substantiation of the need to create a legal framework for the use of robotic complexes in law enforcement agencies.
Method: complex theoretical-applied analysis of the variants of using robotic complexes in law enforcement agencies, and development of requirements for means of autonomous or remote control of robotic complexes with artificial intelligence elements.
Results: the necessity of organizational and legal definition of metrics and standards for identifying intellectualization levels of robotic complexes is justified and a possible way of solving this problem is proposed; functional and non-functional requirements for the means of autonomous or remote control of robotic complexes, taking into account the specifics of the tasks of law enforcement bodies.
The conclusion is made that it is necessary to take into account, when creating and developing legislation on robotics, regulation in the system of several branches of law and the level of intellectualization of robotic complexes.
References
1. Andreenko S. V. Voprosy' taktiki primeneniia boevy'kh nazemny'kh RTK voennogo naznacheniia pri vy'polnenii podrazdeleniiami spetcial'nogo i osobogo naznacheniia organov vnutrennikh del Rossii'skoi' Federatcii i vnutrennikh voPsk MVD Rossii, vozlozhenny'kh na nikh operativno-sluzhebny'kh (boevy'kh) zadach // Tr. voen.-nauch. konf. «Robotizatciia Vooruzhenny'kh Sil RossiPskoP Federatcii». M., 2016. - S. 80 - 83.
2. Baliukov A. A., ZaPtcev A. V., Kanushkin S. V. Model' dvizheniia bespilotnogo le-tatePnogo apparata s ispoPzovaniem intellektual'ny'kh tekhnologiP // Tr. vo-en.-nauch. konf. «Robotizatciia Vooruzhenny'kh Sil RossiPskoP Federatcii». M., 2016. S. 198 - 203.
3. Bugakov I. A. O neobhodimosti razrabotki metodologii, teorii i universaP-noP tekhnologii intellektualizatcii robototekhniki voennogo i spetciaPnogo naznacheniia./ Tr. voen.-nauch. konf. «Robotizatciia Vooruzhenny'kh Sil RossiPskoP Federatcii». M., 2016. S. 89 - 102.
4. 4. Bugakov I. A. TCar'kov A. N. Bazovaia universaPnaia tekhnologiia intellektuali-zatcii VVST: kontceptual'ny'e idei // «Izvestiia Instituta inzhenernoP fizi-ki». - 2015. - № 2. - S. 65 - 72.
5. ZaPtcev A. V., Kanushkin S. V., Babenkov E. A., BezverbnyTA. A. Osobennosti si-nergeticheskogo upravleniia robo-totekhnicheskoP sistemoP // Tr. XVI Vseross. nauch. konf. «Nei'rokomp'iutery' i ikh primenenie». - M: MGPPU, 2018.
- S. 66 - 67.
6. ZaPtcev A. V., Kanushkin S. V., Volkov A. V. Koordinatno-parametricheskaia ob-ratnaia sviaz' v sinergeticheskom upravlenii mobil'ny'mi robotami // Tr. VII Vseross. nauch.-prak. konf. «Sovremennoe neprery'vnoe obrazovanie i innova-tcionnoe razvitie». - Serpuhov: MOU «IIF», 2017. - S. 844 - 846.
7. ZaPtcev A.V., Kanushkin S.V., Glady'shev A.I. SinergeticheskiP podhod k neProsetevomu upravleniiu robototekh-nicheskim dinamicheskim ob''ektom // Tr. XXXV Vseross. nauch.-prak. konf. «Problemy' e'ffektivnosti i bezopasnosti funktcionirovaniia slozhny'kh tekhnicheskikh i informatcionny'kh sistem». Ch. 2. - Serpuhov, 2016. - S. 55 - 59.
8. Zai'tcev A. V., Kanushkin S. V., Glady'shev A. I., Pavlov R. S. Osobennosti si-nergeticheskikh metodov upravleniia mobil'ny'mi robotami // Tr. VI Vseross. nauch.-prak. konf. «Sovremennoe neprery'vnoe obrazovanie i innovat-cionnoe razvitie». - Serpuhov: MOU «IIF», 2016. - S. 677 - 680.
9. Intellektual'ny'e sistemy' (issledovanie i sozdanie) / Pupkov K. A., Kon'kov V. G. - M. : MGTU im. N.E'. Baumana, 2003.
- 348 s.
10. Iriskina E. N., Beliakov K. O. Pravovy'e aspekty' grazhdansko-pravovoi' otvet-stvennosti za prichinenie vreda dei'stviiami robota kak kvazisub''ekta grazh-dansko-pravovy'kh otnoshenii' // Gumanitarnaia informatika. - 2016.
- Vy'p. 10. - S. 63 - 72.
11. Konopleva I. N. Pravovy'e aspekty' primeneniia ognestrel'nogo oruzhiia so-trudnikami pravookhranitel'ny'kh organov // Psihopedagogika v pravookhrani-tel'ny'kh organakh. - 2003. - № 2. - S. 10 - 12.
12. Korolev V. T., Lovtcov D. A., Radionov V. V. Sistemny'i' analiz. Chast'. 2. Logiche-skie metody' / Pod red. D. A. Lovt-cova. - M.: RGUP, 2017. - 164 s.
13. Lovtcov D. A. Sistemologiia pravovogo regulirovaniia informatcionny'kh otno-shenii' v infosfere: Monografiia. - M.: RGUP, 2016. - 316 s.
14. Lovtcov D. A. Informatcionnaia teoriia e'rgasistem: Tezaurus. - M.: Nauka, 2005. - 248 c.
15. Moiseev V. S. Osnovy' teorii e'ffektivnogo primeneniia bespilotny'kh leta-tel'ny'kh apparatov. - Kazan': RITC «Shko-la», 2015. - 444 s.
16. Nazarova I. S., Shenshin V. M. Pravovy'e aspekty' primeneniia mer prinuzhdeniia sotrudnikami pravookhranitel'ny'kh organov // Pravo v vooruzhenny'kh silakh - Voenno-pravovoe obozrenie. - 2017. - №7. - S. 21 - 29.
17. Naumov V. B. Nauchny'e podhody' k classifikatcii vidov pravovoi' identifika-tcii v informatcionny'kh pravootnosh-eniiakh // Tr. IGP RAN. - 2016. - № 3(55). - S. 104 - 115.
18. Nei'rokomp'iutery' v aviatcii / Pod red. V. I. Vasil'eva - M.: Radiotekhnika, 2003. - 496 s.
19. RTK voennogo naznacheniia: Spravochny'e materialy'. - M., 2015. - 298 s.
20. Terehov V. A., Efimov D. V., Tiukin I. Iu. Nei'rosetevy'e sistemy' upravleniia. - M.: IPRZHR, 2002. - 480 s.
