CC BY
50
19. Naz P., Hengy S., Hamery P. Soldier detection using unattended acoustic and seismic sensors, SPIE. Orlando, USA, 2012, 8389-28.
20. Rippin B. Pearls of wisdom: wireless networks of miniaturized unattended ground sensors, SPIE. Orlando, USA, 2012, 8388-17.
Статью рекомендовал к опубликованию д.т.н., профессор Н.А. Семенов.
Виноградов Геннадий Павлович - Тверской государственный технический университет; e-mail: wgp272ng@mail.ru; г. Тверь, Россия; д.т.н.; профессор; зав. лабораторией НИИ ЦПС; член РАИИ; член РАНСМВ.
Vinogradov Gennady Pavlovich - Tver State Technical University; e-mail: wgp272ng@mail.ru; Tver, Russia; dr. of eng. sc.; professor; head of the laboratory of the Research Institute of Centerprogram Systems; member of the Russian Association of Artificial Intelligence, member of the Russian Association of Fuzzy Systems and Soft Computing.
УДК 28.23.24: 28.23.27: 004.82 DOI 10.18522/2311-3103-2023-1-65-76
С.М. Соколов
СРАВНИТЕЛЬНЫЙ АНАЛИЗ СТЕПЕНИ АВТОНОМНОСТИ РОБОТОТЕХНИЧЕСКИХ КОМПЛЕКСОВ
На фоне всё возрастающих потребностей в робототехнических комплексах с повышенной степенью автономности и намечающемуся переходу к их широкому использованию актуализируется потребность в технологиях оценки качества и сравнения степени автономности таких устройств. В статье описывается текущее состояние вопросов оценивания и сравнения степени автономности беспилотных комплексов. Приводятся известные оценки степени автономности. В существующей системе классификации выделяется автономность информационная и интеллектуальная, которые рассматриваются в тесной связи. Предлагаются решения, дополняющие известные подходы к общему определению степени автономности и позволяющие формировать количественные оценки степени автономности роботов в различных областях народного хозяйства. Рассматриваются технологии, направленные на автоматизацию получения этих оценок. В частности, обсуждается возможность использования хорошо освоенного отечественными исследователями инструментария нечётких когнитивных карт для определения степени автономности в условиях неполноты информации, наличия качественной информации и влияние человеческого фактора. Обосновывается необходимость развития онтологий предметных областей для обеспечения возможности сравнения степени автономности различных робото-технических комплексов и их группировок. В целом, указывается подход, который направлен на систематизацию оценок качества и эффективности применения автономных роботов, и может позволить в короткие сроки подготовить методическую базу широкого внедрения робототехники. Одним из положительных следствий такого системного подхода является унификация формулировок и решений (модулей) в задачах информационного обеспечения РТК, что, в свою очередь облегчает взаимодействие между пользователями, заказчиками и разработчиками. Разработчикам РТК систематизированный подход даёт возможность повторного использования удачных решений в различных комбинациях. В заключении выражаются пожелания к сообществу отечественных робототехников в объединении усилий к унификации терминологии, описании постановок задач и метрик интеллектуальности робототехнических комплексов.
Автономность роботов; степень автономности; онтологии робототехники; нечёткие когнитивные карты; унификация решений в области автономии.
S.M. Sokolov
COMPARATIVE ANALYSIS OF THE DEGREE OF ROBOTICS COMPLEX AUTONOMY
Against the background of the ever-increasing needs for robotic complexes with an increased degree of autonomy and the planned transition to their widespread use, the need for technologies for assessing the quality and comparing the degree of autonomy of such devices is being actualized. The article describes the current state of issues of evaluation and comparison of the degree of autonomy of unmanned complexes. Known estimates of the degree of autonomy are given. In the existing classification system, informational and intellectual autonomy are distinguished, which are considered in close connection. Solutions are proposed that complement the known approaches to the general definition of the degree of autonomy and allow us to form quantitative estimates of the degree of autonomy of robots in various areas of the national economy. Technologies aimed at automating the receipt of these estimates are considered. In particular, the possibility of using the tools of fuzzy cognitive maps well mastered by domestic researchers to determine the degree of autonomy in conditions of incomplete information, the availability of high-quality information and the influence of the human factor is discussed. The necessity of developing ontologies of subject areas is substantiated in order to ensure the possibility of comparing the degree of autonomy of various robotic complexes (RC) and their groupings. In general, the approach is indicated, which is aimed at systematizing assessments of the quality and effectiveness of the use of autonomous robots, and can allow in a short time to prepare a methodological basis for the widespread introduction of robotics. One of the positive consequences of such a systematic approach is the unification of formulations and solutions (modules) in the tasks of RC information support, which, in turn, facilitates interaction between users, customers and developers. For RC developers, a systematic approach makes it possible to reuse successful solutions in various combinations. In conclusion, wishes are expressed to the community of domestic roboticists in joining efforts to unify terminology, describe problem statements and metrics of intelligence of robotic complexes.
Robot autonomy; degree of autonomy; robotics ontologies; fuzzy cognitive maps; unification of solutions in the field of autonomy.
Введение. Международная федерация робототехники (International Federation of Robotics, IFR), а вслед за ней и Национальный стандарт РФ ГОСТ Р 60.0.0.4-2019 «Роботы и робототехнические устройства (термины и определения)» [1] определяет робота как «рабочий механизм, программируемый по нескольким осям с некоторой степенью автономности и способный передвигаться в пределах определенной среды, выполняя поставленные задачи». Из данного определения следует, что сущностными признаками понятия «робот» (т.е. критериями для анализа создаваемых в разные исторические периоды механизмов) являются: автономность, что означает, что «робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи» [2] ; возможность его программирования по нескольким направлениям. Ещё одним, распространённым в среде учёных и практиков является следующее определение: робот - «любая машина, способная воспринимать окружающую среду и реагировать на нее на основе самостоятельно принимаемых решений» [3]. Таким образом, ключевым отличием роботов от других машин считается «автономность»: робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи. Роботы эволюционируют от запрограммированного автоматизма к полуавтономным и более автономным сложным системам. Полностью автономные системы смогут самостоятельно принимать «решения» в среде своего назначения и выполнять задачи без помощи человека. В целом, можно сказать, что тенденциями современной робототехники становится усиление их автономности и возможности решать разнообразные задачи за счет использования искусственного интеллекта. Среди известных типов автономности технических устройств таких, как материально-техническая, информационная, интеллектуальная [4] выделяется именно интеллектуальная автономность, тесно связанная с информационной, необходимой для решения задач в заранее не известной, изменчивой среде. Следует отметить и тот факт, что всё
активнее растёт спрос и развитие автономных мобильных робототехнических технологий. Беспилотные транспортные средства начали использоваться во многих проблемных областях, начиная от национальной безопасности и поддержки на поле боя и заканчивая исследованием Марса. Военные и гражданские ведомства продолжают расширять функции, которые могут выполнять беспилотные системы. Различными учреждениями проявляется интерес и уточняются возможности беспилотных средств для будущих приложений, растет спрос на понятную обобщающую структуру для описания возможностей автономных РТК. Востребована общая терминология для характеристики требований беспилотных средств и стандартные показатели для оценки автономных возможностей.
Анализу текущего положения дел в области характеристик интеллектуальной автономности робототехнических комплексов посвящена настоящая работа. В первой части представлены известные подходы к оценке степени автономности РТК с указанием проблемных мест в практическом использовании таких оценок. В следующих частях предлагается ряд технологий, направленных на разрешение указанных проблем. В заключении, отдавая отчёт сложности рассмотренной проблемы, выскажу ряд пожеланий к сообществу отечественных робототехников об объединении усилий в формировании унифицированного подхода к оценке и сравнению степени автономности РТК.
Компоненты и критерии автономности роботов. Чем должен обладать РТК, чтобы быть отнесённым к автономным и что должен уметь, исполнять какие алгоритмы? Специалисты прогнозируют, что в опытно-конструкторских работах по созданию роботов специального назначения, в соответствии с имеющимися тенденциями должны быть реализованы [5]:
♦ повышенная ресурсная автономность;
♦ модульность построения и реконфигурируемость;
♦ конструктивная и технологическая унификация образцов и их ключевых функциональных компонентов;
♦ помехозащищенные многоканальные средства и системы информационно -управляющего взаимодействия и опознавания;
♦ интеллектуальные программно-алгоритмические средства, позволяющие обеспечить распознавание объектов и рабочей обстановки, рефлексивное прогнозирование развития событий, планирование рационального (оптимального) поведения и, как следствие, адаптивное контролируемое функционирование роботов специального назначения в неопределенных, динамически изменяющихся разнородных условиях применения;
♦ интеллектуальные программно-алгоритмические средства, позволяющие обеспечить интеграцию разнотипных роботов специального назначения в единую группу с последующим управлением их совместными действиями в однотипных, разнотипных и смешанных боевых порядках;
♦ интеллектуальные системы человеко-машинного интерфейса и поддержки принятия решений операторами управления роботами специального назначения при решении боевых (ударных, огневых), обеспечивающих и специальных задач.
В публикациях встречается различные критерии автономности, например, общество автомобильных инженеров ^ЛЕ) чтобы помочь автомобильным инженерам, правительствам и страховым компаниям лучше освоить эту новую технологию, SЛE определила шесть (включая отсутствие автономии) уровней автомобильной автономии [6]:
♦ Уровень 0: Совсем не автономен; водитель имеет единоличное управление транспортным средством.
♦ Уровень 1: Одна функция автоматизирована, но не обязательно использует информацию об условиях вождения. Автомобиль, работающий с простым круиз-контролем, будет квалифицироваться как уровень 1.
♦ Уровень 2: ускорение, замедление и рулевое управление автоматизированы, и для принятия решений используются сенсорные данные из окружающей среды. Современные автомобили с круиз-контролем и автоматическим обслуживанием полосы движения или торможением для предотвращения столкновений попадают в эту категорию. Водитель по-прежнему несет полную ответственность за безопасную эксплуатацию автомобиля.
♦ Уровень 3: на этом уровне все функции безопасности автоматизированы, но водитель по-прежнему должен взять на себя управление в экстренной ситуации, с которой автомобиль не может справиться. Примером могут служить автомобили Tesla с включенной функцией «автопилот». Это самый спорный уровень, потому что он требует, чтобы человек-водитель оставался бдительным и сосредоточенным на задаче вождения, даже если автомобиль выполняет большую часть работы. Люди, естественно, сочли бы эту ситуацию более утомительной, чем простое вождение автомобиля, и многие в сообществе автономных транспортных средств беспокоятся о том, что внимание водителя может отвлечься от текущей задачи, что приведет к катастрофическим результатам. Некоторые автопроизводители предпочитают пропустить уровень 3 и сразу перейти к уровню 4.
♦ Уровни 4 и 5: это полностью автономные уровни, на которых автомобиль принимает все решения по вождению без участия человека. Разница в том, что автомобили 4-го уровня ограничены определенным набором сценариев вождения, таких как движение по городу, пригороду и шоссе, тогда как автомобили 5-го уровня могут справиться с любым сценарием вождения, включая движение по бездорожью.
В среде разработчиков беспилотных летательных аппаратов принята похожая шкала автономности [7]. Существует пять уровней автономности БПЛА, составленных по принципу системы автономности самоуправляемых транспортных средств.
Уровень 0: Автономии нет.
Уровень 1: Автоматизированы некоторые системы, такие как контроль высоты, но человек управляет БПЛА.
Уровень 2: Автоматизировано несколько одновременно работающих систем, но человек все еще управляет БПЛА.
Уровень 3: БПЛА работает автономно при определенных условиях, но человек следит за его движением.
Уровень 4: Беспилотник автономен в большинстве ситуаций; человек может перенять управление, но это не обязательно.
Уровень 5: Беспилотник полностью автономен.
В настоящее время развитие технологии БПЛА находится между 3 и 4 уровнем, где беспилотник может принимать некоторые решения автономно, но человек все еще должен наблюдать за процессом работы устройства. Основная проблема в достижении 5 уровня - это решение технических задач и преодоление законов, правил и даже социального признания в различных регионах.
Много работ отечественных исследователей посвящено вопросам автономии роботов. Подробно рассматриваются классы автономии и те преимущества, которые автономия принесёт в случае её реализации [4, 8-12].
Наиболее фундаментально к исследованиям и конструктивному использованию понятия автономности подошли в США. Здесь с 2003 года вопросами автономии беспилотных средств занимается специально сформированная группа из представителей 18 организаций и ведомств [13]. Отдельные правительственные учреждения начали усилия по созданию механизмов содействия. Объединенный департамент обороны Программный офис (ТРО), Центр поддержки маневров армии США и Национальный Институт стандартов и технологий (МБТ) в рамках отдельных, но взаимосвязанных усилий описал уровни поведения роботов для будущих боевых систем армии (FCS) программы [14-16]. Исследовательская лаборатория военно-воздушных сил (АРЯЬ) создала Шкалу уровней автономного управ-
ления (ACL) [17]. Армейский научный совет описал набор уровней автономного поведения [18]. Центральное место в этих начинаниях занимает концепция уровней автономии для беспилотников (рис. 1).
Усилиями этой группы ALFUS предложена понятная схема из чего складывается представление об автономности системы (рис. 2) и по каким показателям (рис. 3) можно оценивать автономность конкретной системы.
Рис. 1. Уровни автономности
Рис. 2. Общая схема framework, предложенная группой ALFUS
Рис. 3 Показатели для определения уровня автономности, предложенные группой ALFUS ("пространство автономии»)
Показатели автономности (наборы метрик) для детальной модели, определяющей уровень автономности, как показано на рис. 3 сведены в «пространство» автономности.
Сложность миссии можно измерить с помощью таких показателей, как уровни выполнения подзадач, принятия решений и совместной работы, требования к знаниям и восприятию, эффективность планирования и исполнения и т.д.
Уровень зависимости от человека (HI) может быть измерен с помощью таких показателей, как время и частота взаимодействия, рабочая нагрузка оператора, уровни квалификации, инициирование робота и т.д.
Сложность окружающей среды может быть измерена с помощью размера препятствий, плотности и движения, типов местности, характеристик городского движения, способности распознавать друзей / врагов / случайных прохожих и т.д.
Детальная модель ALFUS framework содержит следующие определяющие концепции:
♦ Автономность беспилотных средств (UMS) касается множества технических областей. Сложность задачи и адаптивность к окружающей среде являются одними из ключевых аспектов.
♦ Характер сотрудничества UMSs с операторами-людьми, такой как уровни вовлеченности и типы взаимодействия, важен для возможности автономии.
♦ Факторы производительности, такие как вероятность успеха миссии, время отклика, точность, разрешение и допустимые задержки, влияют на уровни автономности UMS [19].
В настоящее время ведутся работы по определению шкал измерения для предложенных метрик. Изогнутые линии для соединения трех оценок для каждого из оцениваемых транспортных средств указывают на то, что пользователи могут руководствоваться некоторыми сложными алгоритмами, в отличие от простых, средневзвешенных, для определения результирующих уровней автономности транспортных средств. Кривые линии также подразумевают, что они могут быть использованы для определения максимальных возможностей, т.е. беспилотное средство может работать при любой комбинации сложности / затрудненности/ независимости, которая лежит на поверхностях или под ними.
Предлагается следующая последовательность действий по использованию этой общей схемы оценки уровня автономности конкретной беспилотной системы.
♦ Определенная, заданная миссия декомпозируется с помощью принятого метода для создания структуры задач, охватывающей от миссии до навыков самого низкого уровня. В статье [20] описаны некоторые из существующих концепций такой декомпозиции. В частности, архитектура NIST 4D/RCS [21] может обеспечить жизнеспособный метод. Однако могут потребоваться модификации в соответствии с целями анализа уровня автономии.
♦ Разложенным подзадачам или навыкам следует присвоить относительные веса с точки зрения их критичности для выполнения родительских задач или миссий.
♦ Показатели должны быть пересмотрены, и относительные веса должны быть присвоены на основе конкретных фокусов или требований, установленных подающей заявку программой. Неприменимые показатели имеют нулевой вес.
♦ Задания и навыки оцениваются и получают баллы по каждому из показателей. Сводный балл для каждой задачи получается с помощью средневзвешенного значения (или другого метода интеграции, если пользователь предпочитает) всех индивидуальных показателей. В поле "сложность задачи/навыка" отображается результат. Дополнительные ограничения, такие как межметрическая зависимость, предположительно могут повлиять на оценки показателей. Этот вопрос требует отдельной проработки.
♦ Сводные баллы для задач или миссий более высокого уровня могут быть получены аналогичным образом с помощью средневзвешенных баллов по подзадачам.
♦ Уровни автономности беспилотного средства могут быть определены по общим показателям миссии транспортного средства.
Часть терминов, необходимых для описания автономности беспилотного средства, например, таких как: мобильность, планирование миссии, уровни восприятия, роботизированный наводчик, была опубликована в специальном издании [22].
Общепризнано, что уровень автономии является чрезвычайно сложным вопросом. Авторы вышеприведённой схемы, указывают на ряд проблем, которые требуют своего разрешения. Сюда относятся.
1. Уточнение количественных показателей и расстановка приоритетов. Выявление совпадений и конфликтов между ними по трем осям предлагаемого пространства.
2. Разработка стандартных измерительных шкалы для метрик.
3. Создание высокоуровневых определений уровней автономии для сводной или исполнительной модели.
4. Разработка методов и планов тестирования и подтверждения уровней автономности беспилотных средств.
5. Определение/ установка модели уровня автономии для конкретной предметной области для выбранных программ.
Предложения по преодолению некоторых из указанных проблем будут рассмотрены в следующем пункте.
Наш подход к определению, сравнению степени автономности РТК. В Институте прикладной математики им. М.В. Келдыша РАН на основе собственного опыта в разработке робототехнических комплексов и анализа методов прикладной математики в различных областях предложены такие способы развития в целом весьма продуктивной и перспективной схемы группы АЬЕи8. Для избегания большой дискуссии, фиксируем понимание искусственного интеллекта, применительно к текущему состоянию разработок подвижных, наземных РТК с повышенной степенью автономности, как умение решать данный класс задач. Здесь и прикладываем основные усилия к оценке степени интеллектуальной автономности.
В части ответа на потребность в общем языке для определения возможностей (общий набор определений) беспилотных средств, что облегчает сравнение систем/возможностей и позволяет различным организациям разумно обсуждать вопросы, связанные с использованием возможностей беспилотных систем в рамках их операционных структур, предлагаем использовать аппарат онтологий предметных областей [23]. Как и онтологии, словарные статьи этого языка могут формироваться параллельно, различными коллективами, специализирующимися в соответствующих областях. Для примера, ИПМ им. М.В. Келдыша РАН готовит часть, связанную с использованием систем технического зрения в составе систем информационного обеспечения целенаправленных перемещений автономных средств.
Онтологии - необходимый этап для создания автономных РТК в части автоматизации перевода декларативного описания функций РТК и выдачи задания на текущую миссию в функциональное описание - последовательность действий исполнителя и его подсистем. И уже, как следствие, для сравнения РТК между собой по интеллектуальной составляющей автономности.
Здесь следует отметить ещё такой положительный эффект от использования он-тологий в процессе создания автономных средств, как унификация формулировок (постановок задач) и решений (модулей) в задачах информационного обеспечения РТК, что, в свою очередь облегчает взаимодействие между пользователями, заказчиками и разработчиками. Разработчикам РТК систематизированный подход даёт возможность повторного использования удачных решений в различных комбинациях, что в конечном счёте повышает надежность и понижает стоимость разработки.
К сложному «пространству автономии», предложенному группой ALFUS добавляем скалярные поля:
♦ квалификация (обязательная программа - допуск к оценке/сравнению/ соревнованию) беспилотника: чем обладает квалифицируемое средство?
♦ постановка задачи - разбиение на классы: какой класс задач может решать (с каким количеством априорной информации);
♦ качество решения задачи (потребляемые вычислительные ресурсы, время, точность, надежность (реакция на непредвиденную ситуацию).
В части разработки методов и планов тестирования и подтверждения уровней автономности беспилотных средств - готовим примерную программу и методику испытаний систем технического зрения в задаче информационного обеспечения целенаправленных перемещений автономных средств.
Для задания миссии беспилотного средства с последующей декомпозицией и автоматическим переводом в функциональные задачи формируем перечни задач -базовых, типовых сценариев или прецедентов использования беспилотных средств. В наших работах мы сосредотачиваем внимание на наземных мобильных роботах. Пример прецедентов применения автономного мобильного робота:
♦ наблюдение за зоной/объектом;
♦ разведка заданной области;
♦ поиск определенных объектов интереса, их идентификации и точная локализация;
♦ работа с обнаруженными объектами интереса.
Базовый перечень технологических операций (ТОП) робота определяется вышеперечисленными прецедентами. ТОП включают в себя:
♦ ТОП системы обеспечения безопасности робота (предотвращение столкновений с препятствиями и опрокидывания робота);
♦ расчетные ТОП (построение траекторий, локализация объектов интереса, построение и коррекция карты);
♦ ТОП отработки команд или информационно-двигательных действий (обеспечения выполнения заданных режимов функционирования робота).
Одна из самых сложных проблем при оценке и проведения сравнений автономности беспилотных средств - это определение/установка модели уровня автономии для конкретной предметной области для выбранных программ. Не менее сложной проблемой является и проблема взвешенной оценки совокупности количественных оценок в пространстве «автономии».
Оценка сочетания сложности миссии и трудности условий характеризуются высокой степенью неопределенности и сложности, что существенно ограничивает возможности применения количественных методов для сравнительного анализа. Поэтому в этой части оценок автономности предлагается использование хорошо развитого аппарата когнитивного моделирования. Нечеткие когнитивные карты представляют собой способ отображения реальных динамических систем в форме, которая соответствует человеческому восприятию таких процессов. Это главная причина их широкого применения в различных сферах жизнедеятельности.
Анализ когнитивной карты позволяет:
♦ рассмотреть структуру системы;
♦ найти наиболее значимые и целевые факторы;
♦ оценить воздействие факторов друг на друга;
♦ выявить проблемные зоны;
♦ определить, на какой фактор необходимо воздействовать, с какой силой и в каком направлении, чтобы получить желаемое изменение целевых факторов;
♦ провести сценарное моделирование - исследовать и прогнозировать поведение системы в различных условиях и при тех или иных управляющих воздействиях.
Методология и инструментарий нечёткого когнитивного моделирования хорошо развиты и освоены отечественными исследователями [24-32]. Опыта приложения этих технологий к области сравнительной оценки интеллектуальной автономности ещё нет, но первые контакты со специалистами обнадёживают и приложение сил в намеченном направлении представляется целесообразным.
Заключение. Степень автономности зависит от задач, которые необходимо выполнить. Качественно, область действия, определяемая набором параметров, в пределах которых система может принимать решения и действовать самостоятельно для достижения поставленных целей, может быть названа степенью автономии. Роботы с полной автономией предпочтительнее во многих областях применения, таких как исследование космоса, военное дело и другие. Как показывает проведённый анализ, объективное и конструктивное оценивание степени автономности РТК требует серьёзных коллективных усилий всего сообщества робототехников. На этом пути, в частности, лежит построение онтологий предметных областей - сфер применения РТК. Использование онтологий позволит заказчикам, пользователям унифицировать единицы измерения координат по осям "пространства автономии", объективно, количественно сравнивать степени интеллектуальной и информационной автономности РТК. Конструкторам РТК оперативно компоновать удачные решения между собой. Для преодоления слабой формализации и неполной информации в постановках задач при оценивании степени автономности целесообразно рассмотреть применение методов нечётких когнитивных карт. Эту технологию применительно к пространству автономии только предстоит освоить. Учитывая текущую ситуацию в отечественной робототехнике и насущные потребности военного ведомства, первоочередными шагами в формировании он-тологий предметных областей автономных наземных РТК и БЛА и постановках задач рассмотреть транспортную задачу и задачу разведки.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. ГОСТ Р 60.0.0.4-2019. Роботы и робототехнические устройства. Термины и определения. - https://allgosts.ru/25/040/gost_r_60.0.0.4-2019.
2. Кайснер Э., Раффо Д., Вунш-Винсент С. Робототехника: прорывные технологии, инновации, интеллектуальная собственность // Форсайт. - 2016. - № 2. - Т. 2.
3. Несмелов П.А. Этапы развития робототехники: критерии выделения и их характеристика // Молодой ученый - 2022. - № 19 (414). - С. 26-28.
4. Ермолов И.Л. Расширение функциональных возможностей мобильных технологических роботов путем повышения уровня их автономности с использованием иерархической комплексной обработки бортовых данных: дисс. ... д-ра техн. наук. - 2012.
5. Murphy Robin. Introduction to AI robotics. (Intelligent robotics and autonomous agents. A Bradford Book). The MIT Press. Cambridge, Massachusetts, London, England ISBN 0-262-13383-0.
6. Официальный сайт Society of Automotive Engineers - американская Ассоциация Автомобильных Инженеров. - https://www.sae.org/standards/j3016_202104.
7. Сайт компании PROXIMA. - https://www.gisproxima.ru/avtonomnyye_bpla.
8. Овчинский В., Ларина Е. Искусственный интеллект. Большие данные. Преступность.
- Книжный мир, 2019. - 390 с. - ISBN: 978-5-6041495-7-7.
9. Ермолов И.Л. Автономность мобильных роботов, её меры и нути её повышения // Меха-троника, автоматизация, управление. - 2008. - № 6.
10. Ермолов И.Л. О факторах, влияющих на уровень автономности в пространстве транспортных шасси наземных мобильных роботов // Известия ЮФУ. Технические науки.
- 2013. - № 1. - С. 42-59. - DOI: 10.18522/2311-3103-2022-1-42-59.
11. Ермолов И.Л. Повышение автономности мобильных роботов, как важнейшее направление развития современной робототехники // Вестник МГТУ "СТАНКИН". - 2010. - № 2.
12. Васильев И.А., Коваль М.В., Горюнов В.В., Плавинский М.Н. Организация автономной работы мобильного робота в группе. - СПб.: ЦНИИ РТК.
13. Huang Hui-Min, Pavek Kerry, Novak Brian, Albus James, Messina Elena. A Framework For Autonomy Levels For Unmanned Systems (ALFUS) Proceedings of the AUVSI's Unmanned Systems North America 2005, June 2005, Baltimore, MD.
14. Сайт компании Jointrobotics. - http://www.jointrobotics.com/activities_new/FY2003% 20Joint%20Robotics%20Master%20Plan.pdf
15. KnichelDavid. Position Presentation for the Maneuver Support Center, Directorate of Combat Development, U.S. Army, the First Federal Agencies Ad Hoc Working Group Meeting for the Definition of the Autonomy Levels for Unmanned Systems, Gaithersburg, MD, July, 18, 2003.
16. James Albus. Position Presentation for National Institute of Standards and Technology, Intelligent Systems Division, the First Federal Agencies Ad Hoc Working Group Meeting for the Definition of the Autonomy Levels for Unmanned Systems, Gaithersburg, MD, July, 18, 2003.
17. Bruce T. Clough. Metrics, Schmetrics! How The Heck Do You Determine A UAV's Autonomy Anyway? // Proceedings of the Performance Metrics for Intelligent Systems Workshop, Gaithersburg, Maryland, 2002. Army Science Board, Ad Hoc Study on Human Robot Interface Issues, Arlington, Virginia, 2002.
18. Hui-Min Huang et al. Autonomy Measures for Robots // Proceedings of the 2004 ASME International Mechanical Engineering Congress & Exposition, Anaheim, California, November 2004.
19. Hui-Min Huang, Elena Messina, James Albus. Autonomy Level Specification for Intelligent Autonomous Vehicles: Interim Progress Report // 2003 PerMIS Workshop, Gaithersburg, MD.
20. Huang H.M. et al. Autonomy Levels for Unmanned Systems (ALFUS) Framework: An Update // the 2005 SPIE Defense and Security Symposium, Orlando, Florida, March 2005.
21. Barbera Anthony et al. Software Engineering for Intelligent Control Systems // KI Journal Special Issue on AI and Software Engineering, Germany, March 2004.
22. Autonomy Levels for Unmanned Systems Framework. Vol. I: Terminology, Version 1.1 / Huang, H. Ed., NIST Special Publication 1011, National Institute of Standards and Technology, Gaithersburg, MD, September 2004.
23. Соколов С.М. Онтологический подход в создании робототехнических комплексов с повышенной степенью автономности // Известия ЮФУ. Технические науки. - 2022. - № 1.
- С. 42-59. - DOI: 10.18522/2311-3103-2022-1-42-59.
24. Barnard A. Why you cannot predict electronic product reliability. - ARS, Europe: Warsaw, Poland, 2012.
25. Горяинов А.А., Замышляев А.М., Платонов Е.Н. Анализ влияний факторов на ущерб от происшествий на транспорте с помощью регрессионных моделей // Надежность. - 2013.
- № 2. - С. 126-144.
26. Заде Л. Понятие лингвистической переменной и ее применение к принятию приближенных решений. - М.: Мир, 1976.
27. Kosko B. Fuzzy cognitive maps // International Journal of Man-Machine Studiens. - 1986.
- Vol. 24. - P. 65-75.
28. Заграновская А.В. Системный анализ на основе нечетких когнитивных карт // Вестник Российского экономического университета им. Г.В. Плеханова. - 2018. - № 4. - С. 152-160.
- https://doi.org/10.21686/2413-2829-2018-4-152-160.
29. Ротштейн А.П. Нечеткие когнитивные карты в анализе надежности систем // Надежность. - 2019. - № 4. - С. 24-31. - https://doi.org/10.21683/1729-2646-2019-19-4-24-31.
30. Вовк С.П., Гинис Л.А. Моделирование переходов между эталонными ситуациями в сложных системах в условиях неопределенности // Известия ЮФУ. Технические науки.
- 2013. - № 2. - С. 116-122.
31. Горелова Г.В. О когнитивном моделировании сложных систем, инструментарий исследований // Известия ЮФУ. Технические науки. - 2012. - № 6. - С. 236-240.
32. Гинис Л.А. Развитие инструментария когнитивного моделирования для исследования сложных систем // Инженерный вестник Дона. - 2013. - № 3 (Т. 24). - Режим доступа: http://www.ivdon.ru/magazine/archive/n3y2013/1806 (доступ свободный).
REFERENCES
1. GOST R 60.0.0.4-2019. Roboty i robototekhnicheskie ustroystva. Terminy i opredeleniya [GOST R 60.0.0.4-2019. Robots and robotic devices. Terms and definitions]. Available at: https://allgosts.ru/25/040/gost_r_60.0.0.4-2019.
2. Kaysner E., Raffo D., Vunsh-Vinsent S. Robototekhnika: proryvnye tekhnologii, innovatsii, intellektual'naya sobstvennost' [Robotics: breakthrough technologies, innovations, intellectual property], Forsayt [Foresight], 2016, No. 2, Vol. 2.
3. Nesmelov P.A. Etapy razvitiya robototekhniki: kriterii vydeleniya i ikh kharakteristika [Stages of robotics development: selection criteria and their characteristics], Molodoy uchenyy [Young scientist], 2022, No. 19 (414), pp. 26-28.
4. Ermolov I.L. Rasshirenie funktsional'nykh vozmozhnostey mobil'nykh tekhnologicheskikh robotov putem povysheniya urovnya ikh avtonomnosti s ispol'zovaniem ierarkhicheskoy kompleksnoy obrabotki bortovykh dannykh: diss. ... d-ra tekhn. nauk [Expanding the functionality of mobile technological robots by increasing their level of autonomy using hierarchical integrated processing of onboard data: cand. of eng. sc. diss.], 2012.
5. Murphy Robin. Introduction to AI robotics. (Intelligent robotics and autonomous agents. A Bradford Book). The MIT Press. Cambridge, Massachusetts, London, England ISBN 0-26213383-0.
6. Ofitsial'nyy sayt Society of Automotive Engineers - amerikanskaya Assotsiatsiya Avtomobil'nykh Inzhenerov [Official website of the Society of Automotive Engineers - American Association of Automotive Engineers]. Available at: https://www.sae.org/standards/j3016_202104.
7. Sayt kompanii PROXIMA [The website of the company PROXIMA]. Available at: https://www.gisproxima.ru/avtonomnyye_bpla.
8. Ovchinskiy V., Larina E. Iskusstvennyy intellekt. Bol'shie dannye. Prestupnost' [Artificial intelligence. Big data. Crime]. Knizhnyy mir, 2019, 390 p. ISBN: 978-5-6041495-7-7.
9. Ermolov I.L. Avtonomnost' mobil'nykh robotov, ee mery i puti ee povysheniya [Autonomy of mobile robots, its measures and ways to improve it], Mekhatronika, avtomatizatsiya, upravlenie [Mechatronics, automation, control], 2008, No. 6.
10. Ermolov I.L. O faktorakh, vliyayushchikh na uroven' avtonomnosti v prostranstve trans-portnykh shassi nazemnykh mobil'nykh robotov [On the factors affecting the level of autonomy in the space of transport chassis of ground mobile robots], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2013, No. 1, pp. 42-59. DOI: 10.18522/23113103-2022-1-42-59.
11. Ermolov I.L. Povyshenie avtonomnosti mobil'nykh robotov, kak vazhneyshee napravlenie razvitiya sovremennoy robototekhniki [Increasing the autonomy of mobile robots as the most important direction of the development of modern robotics], VestnikMGTU "STANKIN" [Bulletin of MSTU "STANKIN"], 2010, No. 2.
12. Vasil'ev I.A., Koval'M.V., Goryunov V.V., Plavinskiy M.N. Organizatsiya avtonomnoy raboty mobil'nogo robota v gruppe [Organization of autonomous operation of a mobile robot in a group]. Saint Petersburg: TSNII RTK.
13. Huang Hui-Min, Pavek Kerry, Novak Brian, Albus James, Messina Elena. A Framework For Autonomy Levels For Unmanned Systems (ALFUS) Proceedings of the AUVSI's Unmanned Systems North America 2005, June 2005, Baltimore, MD.
14. Sayt kompanii Jointrobotics [Website of the company Joint robots]. Available at: http://www.jointrobotics.com/activities_new/FY2003%20Joint%20Robotics%20Master%20Plan.pdf.
15. KnichelDavid. Position Presentation for the Maneuver Support Center, Directorate of Combat Development, U.S. Army, the First Federal Agencies Ad Hoc Working Group Meeting for the Definition of the Autonomy Levels for Unmanned Systems, Gaithersburg, MD, July, 18, 2003.
16. James Albus. Position Presentation for National Institute of Standards and Technology, Intelligent Systems Division, the First Federal Agencies Ad Hoc Working Group Meeting for the Definition of the Autonomy Levels for Unmanned Systems, Gaithersburg, MD, July, 18, 2003.
17. Bruce T. Clough. Metrics, Schmetrics! How The Heck Do You Determine A UAV's Autonomy Anyway?, Proceedings of the Performance Metrics for Intelligent Systems Workshop, Gaithersburg, Maryland, 2002. Army Science Board, Ad Hoc Study on Human Robot Interface Issues, Arlington, Virginia, 2002.
18. Hui-Min Huang et al. Autonomy Measures for Robots, Proceedings of the 2004 ASME International Mechanical Engineering Congress & Exposition, Anaheim, California, November 2004.
19. Hui-Min Huang, Elena Messina, James Albus. Autonomy Level Specification for Intelligent Autonomous Vehicles: Interim Progress Report, 2003 PerMIS Workshop, Gaithersburg, MD.
20. Huang H.M. et al. Autonomy Levels for Unmanned Systems (ALFUS) Framework: An Update, the 2005 SPIE Defense and Security Symposium, Orlando, Florida, March 2005.
21. Barbera Anthony et al. Software Engineering for Intelligent Control Systems, KI Journal Special Issue on AI and Software Engineering, Germany, March 2004.
22. Autonomy Levels for Unmanned Systems Framework. Vol. I: Terminology, Version 1.1, Huang, H. Ed., NIST Special Publication 1011, National Institute of Standards and Technology, Gaithersburg, MD, September 2004.
23. Sokolov S.M. Ontologicheskiy podkhod v sozdanii robototekhnicheskikh kompleksov s povyshennoy stepen'yu avtonomnosti [Ontological approach in the creation of robotic complexes with an increased degree of autonomy], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2022, No. 1, pp. 42-59. DOI: 10.18522/2311-3103-2022-1-42-59.
24. Barnard A. Why you cannot predict electronic product reliability. ARS, Europe: Warsaw, Poland, 2012.
25. Goryainov A.A., Zamyshlyaev A.M., Platonov E.N. Analiz vliyaniy faktorov na ushcherb ot proisshestviy na transporte s pomoshch'yu regressionnykh modeley [Analysis of the effects of factors on damage from accidents in transport using regression models], Nadezhnost' [Reliability], 2013, No. 2, pp. 126-144.
26. Zade L. Ponyatie lingvisticheskoy peremennoy i ee primenenie k prinyatiyu priblizhennykh resheniy [The concept of a linguistic variable and its application to making approximate decisions]. Moscow: Mir, 1976.
27. Kosko B. Fuzzy cognitive maps, International Journal of Man-Machine Studiens, 1986, Vol. 24, pp. 65-75.
28. ZagranovskayaA.V. Sistemnyy analiz na osnove nechetkikh kognitivnykh kart [System analysis based on fuzzy cognitive maps], Vestnik Rossiyskogo ekonomicheskogo universiteta im. G.V. Plekhanova [Bulletin of the Plekhanov Russian University of Economics], 2018, No. 4, pp. 152-160. Available at: https://doi.org/10.21686/2413-2829-2018-4-152-160.
29. Rotshteyn A.P. Nechetkie kognitivnye karty v analize nadezhnosti sistem [Fuzzy cognitive maps in the analysis of the reliability of systems], Nadezhnost' [Reliability], 2019, No. 4, pp. 24-31. Available at: https://doi.org/10.21683/1729-2646-2019-19-4-24-31.
30. VovkS.P., Ginis L.A. Modelirovanie perekhodov mezhdu etalonnymi situatsiyami v slozhnykh sistemakh v usloviyakh neopredelennosti [Modeling of transitions between reference situations in complex systems under uncertainty], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2013, No. 2, pp. 116-122.
31. Gorelova G.V. O kognitivnom modelirovanii slozhnykh sistem, instrumentariy issledovaniy [On cognitive modeling of complex systems, research tools], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2012, No. 6, pp. 236-240.
32. Ginis L.A. Razvitie instrumentariya kognitivnogo modelirovaniya dlya issledovaniya slozhnykh sistem [Electronic resource], Inzhenernyy vestnik Dona [Engineering Bulletin of the Don], 2013, No. 3 (Vol. 24). Available at: http://www.ivdon.ru/magazine/archive/n3y2013/1806 (free access).
Статью рекомендовал к опубликованию д.т.н., в.н.с. М.Ю. Медведев.
Соколов Cергей Михайлович - Федеральное государственное учреждение «Федеральный исследовательский центр Институт прикладной математики им. М.В. Келдыша Российской академии наук»; e-mail: sokolsm@keldysh.ru; г. Москва, Россия; тел.: 84992207994; д.ф.-м.н.; профессор; г.н.с.; зав. сектором.
Sokolov Sergey Mikhailovich - Keldysh Institute of Applied Mathematics Russian Academy of Sciences; e-mail: sokolsm@keldysh.ru; Moscow, Russia; phone: +74992207994; dr. of math. and physics. sc.; professor; chief researcher; chief division.
