CC BY
24Брындин Е.Г.
Исследовательский центр «Естествоинформатика», Новосибирск
bryndin15@yandex.ru
УМНЫЕ КОГНИТИВНЫЕ МОБИЛЬНЫЕ СОЦИАЛЬНЫЕ РОБОТЫ ДЛЯ РАЗВИТИЯ РЕГИОНАЛЬНОГО СЕРВИСА
Ключевые слова: когнитивный робот с адаптивным поведением, робототехнические языки программирования поведения.
Введение
Поведение мобильного робота образуется совокупностью производимых им действий. Программирование иерархии действий происходит по их доминированию в поведении. Критерием иерархии действий робота является его специализация. Для этого строится система адаптаций прототипов действий, позволяющая программировать виртуальную иерархическую структуру поведения робота. Используя хорошо изученный нейрофизиологами механизм центральных моторных программ, строится и система управления поведением робота. Реальное поведение реализуется по модели окружающей среды и модели поведения. Технические возможности и вычислительная мощность пока ограничивают способности поведения роботов.
1. Структурные аспекты робота
Когнитивный робот имеет систему распознавания собеседника, систему речевого ввода информационных потребностей, систему реализации информационных потребностей (систему имитации подражательного мышления), нейросетевую систему синтеза речи по тексту реализации информационной потребности.
Система реализации информационной потребности содержит систему усвоения знаний, систему символически-языкового общения, систему обучения, базы знаний, базы умений, нейросетевую систему чтения, печатающую систему и систему графического отображения. Система обучения содержит подсистемы автоматического перевода. Система распознавания собеседников является нейросетевой системой.
Информационной единицей общения человека с роботом является информационная потребность. Собеседник использует информационные потребности, которые содержатся в базе знаний робота, а также комбинации информационных потребностей. Робот получает новые информационные потребности и их реализации во время его обучения. Многозначные слова информационной потребности имеют смысловую разметку. Когнитивная навигация робота на ее реализацию осуществляется через сущностный словарь. Например, смысловая разметка слова «сложить» указывает либо на лексическое значение, либо на арифметическое действие, либо на поведенческое действие.
Знакомство робота с человеком осуществляется через нейросетевую систему распознавания лиц. Если человек неизвестен роботу, то рецептивная система запоминает его речевой словарь и лицо. Если он известен роботу, то система настроит систему речевого ввода информационной потребности на речевой словарь собеседника. После этого начинается информационный контакт между роботом и человеком. Система речевого ввода преобразует речевую информационную потребность в текст на функциональном естественном языке. Робот на основе символической языковой коммуникативной логики с ассоциативными и коммуникативными символическими языковыми элементами знаний моделирует подражательное мышление [1—4].
2. Специализация когнитивных адаптивных роботов
Специализация когнитивных адаптивных роботов осуществляется на основе баз знаний, баз умений и средств реализации поведения, функционирования организма. Адаптивное поведение направляется подражательным мышлением по заданию человека и осуществляется по моделям окружающей среды и поведения. Когнитивное управление поведением более надежно, чем телекоммуникационное. Программирование адаптивного поведения роботов осуществляется через программный интерфейс.
Компонента робота, реализующая адаптивное поведение во внешней среде, включает сенсорную, управляющую, исполнительную моторную системы и систему диагностики [5].
Сенсорная система предназначена для восприятия и преобразования информации о состоянии внешней среды. Она включает телевизионные и оптико-лазерные устройства, ультразвуковые дальномеры, тактильные и контактные датчики, датчики положения, нейросетевые устройства распознавания образов внешней среды и т.п. Робототехниче-
ское восприятие - это процесс, в ходе которого роботы отображают результаты сенсорных измерений на внутренние структуры представления среды.
На робота можно возложить задачу поддержания в допустимых пределах жизненно важных для человека параметров тепла и холода. Способность робота, эквивалентная восприятию тонуса человека, может предупреждать о перегрузке. Восприятие давления является функцией, без которой манипулятор робота не может обойтись. Эта функция может вводиться в робота различными методами в зависимости от назначения робота. Это особенно важно в тех случаях, когда пальцы робота должны захватывать разнообразные, иногда хрупкие, предметы. Датчики осязания у человека очень чувствительны и многочисленны, что позволяет использовать их для различения формы. В настоящее время эта задача является уже не очень трудной.
Метод точной индикации положения робота реализуется навигационной техникой, основанный на сравнении временных положений импульсов с временными положениями эталонных импульсов. Индикация положения робота важна для ориентации его в пространстве. Картографирование и локализация образа объекта осуществляется с использованием сканирующих лазерных дальномеров. Для измерения расстояния используют ультразвуковые сонары, инфракрасные сенсоры, лазерные сенсоры. Достижение объекта осуществляется по полученным координатам. Процедуры реализации поведения выполняют движения частей моторных механизмов робота в соответствии с маршрутом перемещения и последовательностью двигательных актов частей моторных механизмов робота. Маршрут движения робота строится в классах кусочно-полиноминальных функций.
Система диагностики осуществляет контроль исполнения простых движений частей моторной системы робота на каждом шаге реализации поведения, передачу необходимой информации управляющей системе о состоянии моторной системы для соотнесения ее с информацией от сенсорной системы в режиме реального времени, а также сообщает об окончании простых движений.
Исполнительная моторная система реализует процедуры поведения робота во внешней среде, осуществляя разнообразные движения. Моторная система имеет механические руки (манипуляторы), механические ноги (педипулято-ры). Манипулятор может брать, поворачивать, переносить, собирать, огибать препятствия и т.д. Шагающий робот может передвигаться по незнакомой местности со сложным рельефом, преодолевая препятствия.
Процедура реализации поведения строится по типу ситуация-действие. В режиме реализации поведения управляющая система постоянно обрабатывает информацию о ситуации от сенсорной системы и от системы диагностики и запускает исполнительную систему.
Робот по информационной потребности человека и сенсорной информации определяет модель внешней среды. Он по модели внешней среды и информационной потребности человека определяет модель поведения. Затем по моделям внешней среды и поведения он определяет последовательность поведенческих актов моторной системы во внешней среде по типу ситуация-действие, реализуемых с точки зрения своих функциональных и сенсорных возможностей.
Для определенной внешней среды у робота заданы модель внешней среды, модель поведения и процедуры реализации поведения. В определенной внешней среде робот по информационной потребности человека (ИПЧ), модели внешней среды, модели поведения реализует информационную потребность человека процедурами реализации поведения. По ИПЧ робот формирует в предметной области сеть поэлементной реализации информационной потребности. Если сеть построена, то подражательное мышление запускает процедуры реализации ИПЧ. В процессе реализации ИПЧ робот через сенсорные устройства контролирует состояние внешней среды. Если состояние внешней среды по каким-то обстоятельствам не соответствует состоянию модели внешней среды, то робот выдает сообщение, что он не может реализовать ИПЧ в связи с изменением внешней среды и ждет следующей информационной потребности от человека. После реализации ИПЧ робот сообщает человеку об окончании и результаты своей деятельности.
В неопределенной внешней среде робот по сенсорной информации формирует модель внешней среды (ВС), по ИПЧ подбирает типовую модель поведения и последовательно реализует ИПЧ процедурами реализации поведения: прокладывает безопасный маршрут движения робота по модели ВС, по модели поведения типовая процедура строит последовательно-параллельные движения манипуляторов, педипуляторов и остальных моторных механизмов робота.
Робот для работы с неопределенной внешней средой имеет много различных сенсорных устройств. Модель поведения робота формирует процедуру реализации ИПЧ из набора типовых процедур. Поведение робота реализуется по маршруту движения и последовательности промежуточных конфигураций двигательных актов, ведущих к реализации ИПЧ. Последовательность конфигураций двигательных актов выстраивается в соответствии с маршрутом и ИПЧ.
Модель поведения строит движения моторных механизмов робота по закону изменения их обобщенных координат, гарантирующих реализацию ИПЧ. Движение определяется вектором обобщенных координат, определяющим текущее положение степеней подвижности его механической части. Рабочие части моторных механизмов совершают вращения по траектории, определенной вектором фазовых координат.
Взаимодействие с внешней средой и ее восприятие робот осуществляет с помощью разных датчиков и сенсорных систем. Реальные ситуации описываются в памяти робота с помощью набора показаний сенсорных датчиков. Сенсорная информация может быть фотографической, сканированной, дальнометрической от оптических и ультразвуковых систем технического зрения.
В терминах показаний сенсорных датчиков формируется первичное описание модели внешней среды. Анализ и обработка этой информации приводят к обобщенному описанию ситуации с помощью понятий. По обобщенному описанию ситуации и ИПЧ подбираются модель поведения робота и набор типовых процедур реализации ИПЧ.
В модели поведения отражены функциональные свойства робота, мобильные возможности робота во внешней среде. Благодаря этому робот может оказывать услуги по ИПЧ, соответственно мобильным возможностям, модели ВС и модели поведения в незнакомой внешней среде.
Задача анализа сенсорной информации, распознавания и описания ситуации является актуальной для взаимодействия робота с неопределенной средой. Решается эта задача путем обучения робота распознавать предметы внешней среды через системы распознавания трехмерных объектов, описывать на естественном языке элементы трехмерных сцен на основе сенсорной информации с помощью полного набора элементарных ситуативных признаков. Например: дальше, левее, ниже, разъединены, области разного цвета и т.п. Описание внешней среды задается на естественном языке с помощью полного набора элементарных ситуативных признаков.
Робот, анализируя ситуацию внешней среды по типовой модели внешней среды, сенсорной информации, описанию сцены внешней среды подбирает по ИПЧ модель поведения, процедуры реализации поведения, строит маршрут перемещения и последовательно формирует двигательные акты частей моторных механизмов робота для реализации потребности. Различают цикловые и позиционные системы координации двигательных актов. В цикловых системах траектории двигательных актов ограничиваются 2-4 точками позиционирования по каждой из степеней подвижности, а в позиционных системах число этих точек может составлять несколько десятков, что позволяет реализо-вывать сложные двигательные операции.
Цикловое и позиционное управление обеспечивает перемещение рабочего органа по ломаной траектории от точки к точке. Центральным является понятие относительной подвижной системы координат. Относительные подвижные системы координат связаны с каждой позиционной точкой части моторного механизма.
Для каждой позиционной точки на каждом шаге определяется последовательно, на какую величину и в каком направлении переместить ее из текущего положения в заданные. Для каждой части моторных механизмов, связанной с позиционной точкой, определяется, в каком направлении и на какой угол необходимо повернуть.
Одновременные поворот и перенос части моторной системы относительно обобщенной системы координат вычисляются по формулам [5].
Для пневматических частей моторных механизмов задается масштаб, указывающий, во сколько раз увеличить или уменьшить размер части. Модель поведения и процедуры реализации поведения определяются областью профессиональной деятельности, в которой робот должен реализовать ИПЧ.
Направляющие косинусы части Р1Р2 моторной системы робота в собственной относительной системе координат вычисляется по формулам [5].
Модель поведения содержит алгоритмы адаптивного комплексного управления движениями, маршрут перемещения робота и последовательность двигательных актов частей моторных механизмов робота.
Процедуры реализации поведения выполняют движения частей моторных механизмов робота в соответствии с маршрутом перемещения и последовательностью двигательных актов частей моторных механизмов робота. Маршрут движения робота строится в классах кусочно-полиноминальных функций.
Пусть местность представляет собой плоскость, заданы препятствия ломанными линиями и координаты исходной точки робота и целевой, куда робот должен переместиться.
Необходимо построить оптимальный маршрут как ломанную линию из исходной точки в целевую, который не пересекает препятствий и имеет наименьшую длину.
Эта задача решается классическим методом динамического программирования последовательных приближений в функциональном пространстве, используя рекуррентное соотношение функции/, определяющую длину маршрута из исходной точки в целевую. Стратегия нахождения минимального маршрута определяется последовательным приближением построенного произвольного маршрута до минимального.
После того как оптимальный, безопасный маршрут построен, методами обобщенных, относительных и фазовых координат строятся двигательные акты моторных частей робота. Согласование двигательных актов последовательно -параллельно осуществляет координатор модели поведения по информации, которая находится в поле внимания памяти робота.
3. Управление поведением робота
Поведением создаваемого робота управляет полифункциональная иерархическая система контроллеров, подобная системе управления поведением организма человека. Поведение возникает под влиянием информационной потребности, которая вызывает ориентировку в ситуации по моделям внешней среды и поведения. Ориентировка завершается выбором соответствующей программы иерархической системы контроллеров, выполнение которой приводит к реализации поведения.
Контроллер - это компьютер на микросхеме. Он предназначен для управления различными электронными устройствами. Контроллер робота - это самый миниатюрный компьютер. Он содержит процессор и периферийные устройства: БЬЛ8И-память, таймеры, интерфейсы для связи с внешними устройствами и множество других полезных схем. Контроллер действует по заданной программе, которая загружается в него с мощного компьютера. Она загружается с помощью программатора (в простейшем виде - это специальный кабель) в микроконтроллер.
У робота есть органы для взаимодействия с окружающей средой. Органы, которые получают информацию из окружающей среды, называются рецепторами (или датчиками), например, фототранзистор, микрофон, контактный датчик. А органы, которые воздействуют на окружающую среду - эффекторы: двигатели, динамики, светодиоды и проч. У контроллера есть некоторое количество входов и выходов. К входам присоединяются рецепторы, а к выходам эффекторы. Микроконтроллер может обрабатывать информацию с входов и создавать электрические сигналы на выходах в соответствии с тем, как мы запрограммируем поведение робота [6].
4. Программирование поведения робота
Поведение робота задается на языках программирования. Многие программы для обобщающей архитектуры были реализованы на языке поведения, который был определен Бруксом. Этот язык представляет собой язык управления в реальном времени на основе правил, результатом компиляции которого становятся контроллеры AFSM. Отдельные правила этого языка, заданные с помощью синтаксиса, подобного Lisp, компилируются в автоматы AFSM, а группы автоматов AFSM объединяются с помощью совокупности механизмов передачи локальных и глобальных сообщений.
Так же как и обобщающая архитектура, язык поведения является ограниченным, поскольку он нацелен на создание простых автоматов AFSM с относительно узким определением потока связи между модулями. Но в последнее время на базе этой идеи проведены новые исследования, которые привели к созданию целого ряда языков программирования, аналогичных по своему духу языку поведения, но более мощных и обеспечивающих более быстрое выполнение.
Одним из таких языков является универсальный робототехнический язык, или сокращенно GRL (Generic Robot Language). GRL - это функциональный язык программирования для создания больших модульных систем управления. Как и в языке поведения, в GRL в качестве основных конструктивных блоков используются конечные автоматы. Но в качестве настройки над этими автоматами язык GRL предлагает гораздо более широкий перечень конструкций для определения коммуникационного потока и синхронизации ограничений между различными модулями, чем язык поведения. Программы на языке GRL компилируются в эффективные программы на таких языках команд, как С.
Еще одним важным языком программирования (и связанной с ним архитектурой) для параллельного робото-технического программного обеспечения является система планирования реактивных действий, или сокращенно RAPS (Reactive Action Plan System). Система RAPS позволяет программистам задавать цели, планы, связанные с этими целями (или частично определять политику), а также задавать условия, при которых эти планы по всей вероятности будут выполнены успешно.
Крайне важно то, что в системе RAPS предусмотрены также средства, позволяющие справиться с неизбежными отказами, которые возникают в реальных робототехнических системах. Программист может задавать процедуры обнаружения отказов различных типов и предусматривать процедуру устранения исключительной ситуации для каждого типа отказа. В трехуровневых архитектурах система RAPS часто используется на исполнительном уровне, что позволяет успешно справляться с непредвиденными ситуациями, не требующими перепланирования.
Существует также несколько других языков, которые обеспечивают использование в роботах средств формирования рассуждений и средств обучения. Например, Golog представляет собой язык программирования, позволяющий обеспечить безукоризненное взаимодействие средств алгоритмического решения задач (планирования) и средств реактивного управления, заданных непосредственно с помощью спецификации.
Программы на языке Golog формулируются в терминах ситуационного исчисления с учетом дополнительной возможности применения операторов недетерминированных действий. Кроме спецификации программы управления с возможностями недетерминированных действий, программист должен также предоставить полную модель робота и его среды.
Как только программа управления достигает точки недетерминированного выбора, вызывается планировщик (заданный в форме программы доказательства теорем) для определения того, что делать дальше. Таким образом, программист может определять частично заданные контроллеры и опираться на использование встроенных планировщиков для принятия окончательного выбора плана управления.
Основной привлекательной особенностью языка Golog является предусмотренная в нем безукоризненная интеграция средств реактивного управления и алгоритмического управления. Несмотря на то что при использовании языка Golog приходится соблюдать строгие требования (полная наблюдаемость, дискретные состояния, полная модель), с помощью этого языка были созданы высокоуровневые средства управления для целого ряда мобильных роботов, предназначенных для применения внутри помещений.
Язык «JSk CES (сокращение от C++ for embedded systems - C++ для встроенных систем) - это языковое расширение C++, в котором объединяются вероятностные средства и средства обучения. В число типов данных CES входят распределения вероятностей, что позволяет программисту проводить расчеты с использованием неопределенной информации, не затрачивая тех усилий, которые обычно связаны с реализацией вероятностных методов.
Еще более важно то, что язык CES обеспечивает настройку робототехнического программного обеспечения с помощью обучения на основании примеров, во многом аналогично тому, что осуществляется в алгоритмах обучения. Язык CES позволяет программистам оставлять в коде «промежутки», которые заполняются обучающими функциями; обычно такими промежутками являются дифференцируемые параметрические представления, такие как нейронные сети. В дальнейшем на отдельных этапах обучения, для которых учитель должен задать требуемое выходное поведение, происходит индуктивное обучение с помощью этих функций. Практика показала, что язык CES может успешно применяться в проблемных областях, характерных для частично наблюдаемой и непрерывной среды.
Язык ALisp представляет собой расширение языка Lisp. Язык ALisp позволяет программистам задавать недетерминированные точки выбора, аналогичные точкам выбора в языке Golog. Но в языке ALisp для принятия решений применяется не программа доказательства теорем, а средства определения правильного действия с помощью индуктивного обучения, в которых используется обучение с подкреплением. Поэтому язык ALisp может рассматриваться как удобный способ внедрения знаний о проблемной области в процедуру обучения с подкреплением, особенно зна-
ний об иерархической структуре «процедур» желаемого поведения. До сих пор язык Л^р применялся для решения задач робототехники только в имитационных исследованиях. Его можно доработать для программирования роботов с подражательным мышлением и адаптивным поведением, способных к обучению в результате взаимодействия со своей средой.
Когнитивные роботы с подражательным мышлением и адаптивным поведением имеют перспективу широкого практического применения в качестве умных роботов лекторов и консультантов в образовательной деятельности, в социальной сфере и программировать на управление роботизированными умными фабриками [4, 7-8].
5. Умные социальные роботы
Роботы становятся независимыми объектами социальной среды [8-22]. Социальные когнитивные умные роботы используются в качестве администратора отеля, гида, продавца, лектора, пылесоса, медсестры, волонтера, охранника. Робот - администратор отеля (рис. 1). Робот - гид (рис. 2). Продавец кафе и аптек (рис. 3). Консультант, лектор и учитель (рис. 4). Медсестра в больницах (рис. 5). Умный пылесос (рис. 6). Волонтер - робот Л81МО (рис. 7). Робот -охранник (рис. 8). Робот гуманоид (рис. 9).
Рисунок 1. Японский робот - администратор отеля
Рисунок 2. Российский робот-гид
Рисунок 3. Европейский робот - продавец кафе
Рисунок 4. Японский робот - лектор
Рисунок 5. Японский робот - медбрат
Рисунок 6. Европейские умные роботы - пылесосы
Рисунок 7. Японский робот - волонтер А8ТМО
Рисунок 8. Американский робот Atlas — охранник
Рисунок 9. Китайский робот гуманоид (Ла Ла)
Заключение
Иерархический подход к реализации действий поведения когнитивного мобильного робота позволяет ему выполнять полезную работу и обеспечивать свое перемещение. Иерархические алгоритмы действий поведения поделены на агломеративные и дивизимные. Агломеративные алгоритмы начинают свое выполнение с того, что каждое действие заносят в соответствующий кластер и по мере выполнения объединяют кластеры, до тех пор, пока в конце не получает один кластер, включающий в себя все действия поведения. Дивизимные алгоритмы, напротив, сначала относят все действия в один кластер и затем разделяют этот кластер до тех пор, пока каждое действие не окажется в соответствующем кластере. Представлением результата иерархического алгоритма является дендрограмма - схема, показывающая, в какой последовательности происходило слияние действий в кластер или разделение действий на кластеры.
Такой подход позволяет формализовать требования к мобильности поведения робота и разработать все возможные алгоритмы реакции на изменение состояния окружающей обстановки. Например, при перемещениях на улице применяя технологию спутниковой навигации, а окружающие объекты обнаруживая с помощью камер или дальномеров. То есть подход позволяет автономные робототехнические системы проектировать под реализацию множества социальных сфер жизнедеятельности.
Список литературы
1. Брындин Е.Г. Робот с подражательным мышлением // Вестник ПНИПУ: «Электротехника, Информационные технологии, Системы управления». - Пермь: ПНИПУ, 2015. - № 14.
2. Bryndin E. Program Hierarchical Realization of Adaptation Behavior of the Cognitive Mobile Robot with Imitative Thinking // International Journal of Engineering Management. 2017. - Vol. 1, N 4. - P. 74-79.
3. Брындин Е.Г. Когнитивные роботы // Труды Девятой межд. конф. «Управление развитием крупномасштабных систем (MLSD'2016)». - М.: ИПУ РАН, 2016. - С. 285-294.
4. Брындин Е.Г. Когнитивный робот консультант по здоровому образу жизни // Сборник материалов III Международной научной конференции «Информационные технологии в науке, управлении, социальной сфере и медицине». Ч. 1. 2016. - С. 484-488.
5. Брындин Е.Г. Взаимодействие символически-мыслящего робота с человеком и внешней средой // Информационные технологии. - М., 2004. - № 6. - С. 2-8.
6. Добрынин Д.А., Карпов В.Э. Управление мобильным роботом на основе механизма центральных моторных программ // Труды Второй Международной конференции «Управление большими системами». - М.: Издательство ЛКИ, 2007. - С. 24-28.
7. Брындин Е.Г. Когнитивные гибридные роботы // Материалы II межрегиональной научно-практической конференции: «Перспективные направления развития отечественных информационных технологий». - Севастополь: СГУ, 2016. - С. 29-32.
8. Bryndin E. Cognitive Robots with Imitative Thinking for Digital Libraries, Banks, Universities and Smart Factories // American Journal of Library and Information Science. 2017. - Vol. 1, N 1. - P. 6-14.
9. Bryndin E. Technological Thinking, Communication and Behavior of Androids // Communications. 2018. - Vol. 6, N 1. - P. 13-19.
10. Bryndin E. Communicative Associative Logic of Cognitive Professional Robot with Imitative Thinking // Journal Engineering Mathematics. 2018. - Vol. 2, N 2. - P. 79-85.
11. Bryndin E. Directions of Development of Industry 4.0, Digital Technology and Social Economy // American Journal of Information Science and Technology. 2018. - Vol. 2, N 1. - P. 9-17.
12. Bryndin E. Cognitive smart robots with technological thinking and behavior for industry and social sphere // Science, Technology and Life: Proceedings of articles the V International scientific conference. - Karlovy Vary, 2019.
13. Bryndin E. Digital technologies of the industry 4.0. // Computer Science Advances: Research and Applications. 2019. - P. 201-222.
14. Ivanov S., Webster C. The robot as a consumer: a research agenda // Marketing: experience and perspectives. - Varna, 2017. - P. 71-79.
15. Frey C.B., Osborne M.A. The future of employment: how susceptible are jobs to computerization? // Technological Forecasting and Social Change. 2017. - Vol. 114. - P. 254-280.
16. West D. M. The future of work: Robots, AI, and automation. - Washington: Brookings Institution Press, 2018.
17. Kiggins R. The Political Economy of Robots: Prospects for Prosperity and Peace in the Automated 21st Century. - Cham: Palgrave Macmillan, 2018.
18. Ivanov S., Webster C. Adoption of robots, artificial intelligence and service automation by travel, tourism and hospitality companies - a cost-benefit analysis // Traditions and Innovations in Contemporary Tourism. - Cambridge, 2018. - P. 190-203.
19. Bhaumik A. From AI to Robotics: Mobile, Social, and Sentient Robots. - Boca Raton: CRC Press, 2018.
20. Daugherty P.R., Wilson H.J. Human + machine: Reimagining work in the age of AI. - Boston (Mass.): Harvard Business Review Press, 2018.
21. Bryndin E. Social Cognitive Smart Robots: Guide, Seller, Lecturer, Vacuum Cleaner, Nurse, Volunteer, Security Guard, Administrator // Communications. 2019. - Vol. 7, N 1.
22. Carrozza M.C. The Robot and Us: An 'Antidisciplinary' Perspective on the Scientific and Social Impacts of Robotics. - Cham: Springer, 2019.
