Середкина Е.В. Философские основания прикладного антропоморфизма в социальной робототехнике // Технологос. -2020. - № 4. - С. 56-63. DOI: 10.15593/perm.kipf/2020.4.05
Seredkina E.V. Philosophical Foundations of Applied Anthropomorphism In Social Robotics. Technologos, 2020, no. 4, pp. 56-63. DOI: 10.15593/perm.kipf/2020.4.05
DOI: 10.15593/perm.kipf/2020.4.05 УДК 004.5:004.896
ФИЛОСОФСКИЕ ОСНОВАНИЯ ПРИКЛАДНОГО АНТРОПОМОРФИЗМА В СОЦИАЛЬНОЙ РОБОТОТЕХНИКЕ
Е.В. Середкина
Пермский национальный исследовательский политехнический университет, Пермь, Россия
О СТАТЬЕ
АННОТАЦИЯ
Получена: 01 апреля 2020 г. Принята: 03 сентября 2020 г. Опубликована: 19 января 2021 г.
Ключевые слова:
человеко-машинное взаимодействие, социальные роботы, прикладной антропоморфизм, проективный интеллект, интенциональная установка, «поведенческая робототехника», феномен «зловещей долины», онтологическая неопределенность.
Статья посвящена философским основаниям антропоморфизма в контексте взаимодействия человека и робота (Нитап-РоЬо1 !^егас^оп, ИР!), нового междисциплинарного поля исследования. На базе современных научных разработок формулируется позитивная концепция антропоморфизма как когнитивного механизма, обеспечивающего адаптацию человека к сложной внешней среде. Разрабатываются теоретические принципы прикладного антропоморфизма (ПА) для выявления условий активации антропоморфных проекций у пользователя в ходе НР!-акта. Выделяются два ключевых фактора в структуре ПА: внешний вид и автономное движение (поведение). Формулируется принцип асимметрии: поведенческий реализм важнее высокоантропоморфной внешности. Формулируется принцип согласованности: необходимость синхронизации внешности и поведения робота, то есть уровень разработки поведенческих паттернов роботизированной системы определяет степень ее антропоморфности. Выделяются различные формы антропоморфизма. Эти различия можно описать с точки зрения вовлечения в познавательную деятельность. Антропоморфизм как пассивное приписывание и простое проецирование получает отрицательную оценку в социальной робототехнике, в то время как антропоморфизм, который выводится из автономного поведения роботов или инициируется им, оценивается положительно. Анализируются эпистемологические основания робототехнической революции конца 80 - начала 90-х годов XX века; подробно рассматривается методология «поведенческой робототехники». Поведенческий подход в робототехнике опирается на концепцию слабого искусственного интеллекта, в рамках которой вычислительные операции и функции машины представляют собой конкатенацию процессов и могут привести к иллюзии интеллекта в роботе, прежде всего за счет проективного интеллекта со стороны человека-наблюдателя. Эти вопросы анализируются в контексте современных философских теорий, таких как кибернетика второго порядка, аутопоэзис. Антропоморфизм как активное приписывание когнитивных или эмоциональных состояний роботу со стороны наблюдателя с целью рационализировать поведение объекта соотносится с интенцио-нальной установкой Д. Деннета. Рассматривается феномен приписывания человеческих характеристик нечеловеческим сущностям в восточных религиозных культах. Поднимается вопрос об онтологическом статусе богов и роботов.
© ПНИПУ
© Середкина Елена Владимировна - кандидат философских наук, доцент кафедры философии и права, доцент, e-mail: [email protected] ORCID https://orcid.org/0000-0003-2506-2374
© Elena V. Seredkina - Candidate of Sciences in Philosophy, Associate Professor, Docent, e-mail: [email protected] ORCID https://orcid.org/0000-0003-2506-2374
Работа выполнена при финансовой поддержке гранта РФФИ, проект № 20-411-590002 р_а_Пермский край.
>—л Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International
(cc) w License (CC BY-NC 4.0)
^b^^HI^HZI^H This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)
PHILOSOPHICAL FOUNDATIONS OF APPLIED ANTHROPOMORPHISM IN SOCIAL ROBOTICS
E.V. Seredkina
Perm National Research Polytechnic University, Perm, Russian Federation
ARTICLE INFO
ABSTRACT
Received: 01 April 2020 Accepted: 03 September 2020 Published: 19 January 2021
Keywords:
human-robot interaction, social robots, applied anthropomorphism, projective intelligence, intentional stance, behavior-based robotics, uncanny valley, ontological uncertainties.
This article is devoted to the philosophical foundations of anthropomorphism in the context of Human-Robot Interaction (HRI), a new interdisciplinary field of research. On the basis of modern scientific works, a positive concept of anthropomorphism as a cognitive mechanism ensuring human adaptation to a complex external environment is formulated. The theoretical principles of applied anthropomorphism (AA) are being developed to identify the conditions for activating anthropomorphic projections in a user during an HRI act. There are two key factors in the structure of AA: appearance and autonomous behaviour. Asymmetry principle is formulated: behavioral realism is more important than highly anthropomorphic appearance. The principle of coherence is formulated: the necessity of synchronisation of the appearance and the robot's behaviour, that is, the level of development of behavioral patterns of the robotic system determines the degree of its anthropomorphism. Various forms of anthropomorphism are distinguished. These differences can be described in terms of involvement in cognitive activity. Anthropomorphism as passive ascription and simple projection receives negative assessment in social robotics, while anthropomorphism, which is deduced from autonomous robots behaviour or initiated by them, is assessed positively. The epistemological foundations of the robotic revolution of the late 80s-early 90s of the XX century are analysed; the methodology of "behavior-based robotics" is examined thoroughly. The behavioral approach in robotics is based on the concept of weak artificial intelligence, within which computational operations and functions of a machine represent concatenation of processes and can lead to the illusion of intelligence in a robot, primarily due to projective intelligence from a human-observer side. These questions are analysed in the context of modern philosophical theories, such as second-order cybernetics, autopoiesis. Anthropomorphism as active ascription of cognitive or emotional states to the robot from the observer side in order to rationalise the behaviour of the object is correlated with D. Dennett's intentional stance. At the end of the article, the phenomenon of attribution of human characteristics to non-human entities in Eastern religious cults is studied. The question of the ontological status of gods and robots is raised.
© PNRPU
Роботы и - шире - автономные интеллектуальные агенты все больше проникают в нашу жизнь. Мы уже вынуждены делить с ними рабочее пространство, дом, дорогу. В связи с этим возникает необходимость в понимании фундаментальных основ человеко-машинного взаимодействия, что в свою очередь стимулирует развитие нового междисциплинарного поля исследования - взаимодействие человека и робота (Human-Robot Interaction, HRI).
В последние годы в рамках HRI в центре внимания находится проблема антропоморфизма [1, 2, 3]. Антропоморфизм (от греч. anthropos "человек", morphe "форма") - это наделение неодушевленных объектов и нечеловеческих сущностей человеческими свойствами и характеристиками. Такой механизм приписывания когнитивных и аффективных состояний человека, например, техническим артефактам или животным помогает нам рационализировать их действия, то есть лучше предсказывать и объяснять их «поведение».
Традиционно антропоморфизм рассматривался как методологическая ошибка, препятствие на пути продвижения научного знания, которое нужно преодолеть наподобие идолов Бэкона [4, 5]. В этом смысле его связывали в первую очередь с маленькими детьми и первобытными людьми. Однако в последнее время происходит переоценка антропоморфизма. Так, эволюционная антропология и когнитивная наука о религии разработали более позитивную концепцию антропоморфизма как когнитивного механизма, обеспечивающего адаптацию человека к сложной внешней среде. Согласно этой концепции, антропоморфизм представляет
собой фундаментальное и постоянное измерение человеческого разума, а не раннюю стадию его когнитивного развития [1, 6].
Американский антрополог, специалист в области когнитивной теории религии С. Гутри в своей книге «Лица в облаках» (1995) рассматривает антропоморфизм в качестве когнитив-но-перцептуального процесса, при котором человек как бы «догадывается» о когнитивном или эмоциональном статусе других посредством приписывания им «теории разума» [7]. Люди используют теорию разума, чтобы понять мысли, намерения, поведение других людей. Они должны, фигурально выражаясь, увидеть лица в облаках. Именно поэтому антропоморфизм играет важную роль в укреплении социальных связей. Так, изучение поведения детей-аутистов показывает, что они испытывают серьезные трудности в установлении отношений с другими людьми и даже животными именно потому, что у них нарушен механизм антропо-морфизации. Иными словами, они не могут поставить себя на место других.
В данной работе под антропоморфизмом также понимается эволюционной механизм адаптации человека к «чуждому» внешнему миру. С этой точки зрения можно говорить о «прикладном антропоморфизме» в социальной робототехнике. «Например, когда человек впервые сталкивается с роботом, он словно бы вступает на неизвестную территорию. Это вызывает беспокойство, чувство дискомфорта. И чтобы снять стресс, люди начинают приписывать роботам человеческие черты, чтобы психологически восстановить контроль над новой ситуацией, перевести ее в более знакомую плоскость» [8, с. 224].
И действительно, роботы могут вызывать сильные антропоморфные проекции у пользователей. Так, в 2015 году компания Boston Dynamics выложила в Сети видеоролик, в котором был представлен четырехногий робот, похожий на собаку по имени Спот. На видео человек два раза пинает Спота. Это было сделано с целью продемонстрировать механическую устойчивость Спота, но видео вызвало бурю негодования среди зрителей. Люди испытывали сильный дискомфорт, когда смотрели эти кадры, как будто пинали не машину, а живое существо. В обсуждение проблемы включилась даже международная организация защиты прав животных PETA. И хотя все понимали, что Спот не может чувствовать боли, людей это не останавливало (подр. см.: [9, с. 173-174]). Почему же люди ведут себя так иррационально? Ученые объясняют этот факт действием антропоморфизации.
Механизм антропоморфизма влияет на проектирование социальных роботов. Прежде всего, необходимо разработать теоретические принципы «прикладного антропоморфизма» (ПА) для выявления условий активации антропоморфных проекций у пользователя в ходе HRI-акта.
Для начала выделим ключевые факторы в структуре ПА: 1) внешний вид (обрамляющий фрейминг)1; 2) автономное движение или поведение. Теоретические исследования показывают, что усиление даже одного из этих факторов приводит к тому, что люди начинают воспринимать робота в качестве социального агента. Другими словами, высокоантропоморфный робот может производить сильный социальный эффект, даже если его поведенческий реализм низок, и, наоборот, высокий уровень имитации человеческих реакций, воплощенных в движении и поведении, приведет к запуску антропоморфных проекций даже в случае, если робот мало похож на человека.
1 Сразу оговоримся, что в данной статье рассматриваются только человекоподобные роботы, хотя антропоморфные проекции могут быть вызваны любыми видами роботов, например, в форме животных, бытовой техники и т.д. Антропоморфный робот - это удобный интерфейс между человеком и технологиями. Человекоподобный вид позволяет неподготовленному человеку-пользователю лучше понимать и предсказывать поведение машины, поскольку базируется на общепринятых навыках, которые были выработаны в ходе социальных связей между людьми.
Однако последние исследования по HRI показывают, что поведенческий реализм в большей степени определяет успешность и долговременность HRI-акта [10, 11].
В связи с этим формулируется два принципа проектирования антропоморфных роботов2.
Принцип асимметрии: поведенческий реализм важнее высокоантропоморфной внешности. Если социальный порог будет достигнут роботом только по линии человеческой внешности, а его движения или поведение будут несовместимы с антропоморфной проекцией, может возникнуть нелинейный эффект с точки зрения социального взаимодействия. В робототехнике таким примером является эффект «зловещей долины». Этот феномен был открыт в 1970 году японским инженером Масахиро Мори и получил свое название из-за характерного «провала» на графике симпатии [12]. Согласно этому графику, человек и человекоподобное существо в принципе вызывают симпатию. Но нечто промежуточное - «почти человек» или «еще-не-человек» — воспринимается как что-то отвратительное и пугающее. Это внезапное психологическое/когнитивное отторжение является результатом именно несоответствия между внешностью и моторикой - диссонансом, возникающим из-за нереалистичных движений робота с гиперреальной внешностью человека.
Принцип согласованности: необходимость синхронизации внешности и поведения робота. Внешность робота не может обгонять поведенческие характеристики. Как было показано выше, избыточность антропоморфной формы при низком поведенческом функционале может стать барьером для эффективного взаимодействия между людьми и роботами. С точки зрения прикладного антропоморфизма уровень разработки поведенческих паттернов роботизированной системы определяет степень ее антропоморфности.
Далее выделим различные формы антропоморфизма3. Существует разница между антропоморфизмом, возникающим при взаимодействии с социальными роботами, и антропоморфическими проекциями, вызываемыми другими типами объектов, такими как традиционные куклы, автомобили или компьютеры. Эти различия можно описать с точки зрения вовлечения в познавательную деятельность. Так, во втором случае можно говорить о негативной форме антропоморфизма, в рамках которой субъект пассивно приписывает человеческие черты нечеловеческим сущностям. В случае же социальных роботов речь идет о позитивной форме антропоморфизма, поскольку субъект активно выводит антропоморфные черты из поведения машины. Отчасти негативный антропоморфизм соотносится больше с внешним видом, в то время как позитивный антропоморфизм выводится из автономного поведения роботов или инициируется им. В этом заключается суть теории прикладного антропоморфизма.
Теория прикладного антропоморфизма требует философского анализа. Для этого необходимо проанализировать эпистемологические основания робототехнической революции конца 80 - начала 90-х годов XX века. Прежде всего была подвергнута сомнению идея о том, что робот обязательно должен воспроизводить (копировать) когнитивные способности, присущие человеку, чтобы эффективно взаимодействовать с окружающей средой. Новая стратегия исследования была сосредоточена скорее на диалогической природе процессов (сначала между роботом и средой, а позже между роботом и человеком). Это привело к пересмотру характеристик, требуемых от робота для облегчения взаимодействия с людьми. Акцент был сделан на «поведенческой робототехнике» (behavior-based robotics)4. В рамках нового подхода
2 Эти два принципа автор статьи сформулировала и впервые озвучила в совместном докладе «Прикладной антропоморфизм в сервисной робототехнике» на международной конференции «Искусственный интеллект в решении актуальных социальных и экономических проблем ХХ1 века», состоявшейся в Перми 12-18 октября 2020 года [8].
3 При анализе негативной и позитивной форм антропоморфизма мы опирались на работу [1].
4 Поведенческая робототехника (Behavior-based robotics, BBR) - это подход в робототехнике, на основе которого создаются роботы, способные демонстрировать сложное поведение, несмотря на относительно простое внутреннее устройство. BBR полагается не на изощренные технологии искусственного интеллекта, вшитые когнитивные карты и базы данных, а на адаптивность (подр. см.: [13]).
робот рассматривался не как интеллектуальный агент, а как адаптивная система. Такие виды когнитивных функций, как интеллект, сознание, творчество, интенциональность, не являлись решающими с точки зрения реализации их автономности. Новая школа робототехников рассматривала когнитивные способности скорее как периферийные атрибуты машины, появление которых соответствовало некоему феномену «второго порядка».
При этом сам факт приписывания (или отклонения) различных когнитивных способностей машине теперь зависел от установки наблюдателя. Вычислительные операции, сенсорные функции и исполнительные механизмы в поведенческой робототехнике представляют собой просто конкатенацию процессов и могут привести к иллюзии интеллекта у робота, прежде всего за счет «проективного интеллекта» со стороны человека-наблюдателя.
Философские основания проективного интеллекта в НШ-акте могут быть описаны в рамках кибернетики второго порядка. Напомним, что кибернетика второго порядка была разработана усилиями таких ученых, как Умберто Матурана, Хейнц фон Фёрстер, Франциско Варела [14, 15]. Именно они заложили основы эпистемологии наблюдателя, согласно которой признается активная роль субъекта в структурировании объектов для научного исследования. Кибернетика второго порядка дополняется теорией аутопоэзиса Матураны и Варелы5. Аутопоэзис характеризуется процессом самоорганизации, позволяющим системе поддерживать свою автономность, то есть выделять себя из среды в процессе структурного с ней сопряжения.
Основные теоретические установки эпистемология второго порядка и аутопоэзиса можно сформулировать следующим образом:
1) знания не просто передаются пассивно с помощью чувств или коммуникаций, а активно создаются познающим субъектом;
2) функция познания адаптивна и служит организации опытного мира субъекта, а не открытию объективной онтологической реальности.
Робот, как любой другой технический артефакт, не подходит под понятие аутопоэтиче-ской системы. В связи с этим Матурана и Варела проводят различие между живыми и механическими системами посредством концепций аутопоэзиса и аллопоэзиса. Живые системы приспосабливаются к окружающей среде как на макро-(поведенческом), так и на микро-(клеточном) уровнях и, следовательно, являются аутопоэтическими системами. В свою очередь, механические системы в основном адаптируются на поведенческом уровне (с сильно ограниченными возможностями физической адаптации по сравнению с естественными системами) и являются аллопоэтическими. Другими словами, аутопоэзис - это производство себя (ро1е818), а аллопоэзис - это производство иного ОесЬпе).
Проблема заключается не в том, является ли робототехническая система фундаментально интеллектуальной, а скорее в том, отображает ли она те атрибуты, которые облегчают или способствуют интерпретации людьми системы как разумной. В этом контексте антропоморфизм будет означать приписывание когнитивных или эмоциональных состояний роботу со стороны наблюдателя с целью рационализировать поведение объекта в данной социальной среде. Такая процедура может быть соотнесена с интенциональной установкой Д. Деннета [16]. Согласно Деннету, интенциональная установка представляет собой стратегию интерпретации поведения объекта (человека, животного, артефакта), когда его воспринимают так, как если бы он был рациональным агентом, то есть действовал бы на основе своих «убеждений» и «желаний». Прагматика такой стратегии очевидна: трактовка изучаемого объекта как рацио-
5 Аутопоэзис (autopoiesis) - термин, составленный авторами из двух слов древнегреческого происхождения "auto" - сам и "poiesis" - строить, творить, производить.
нального агента помогает предсказать и даже объяснить его действия или движения. При этом не важно, являются приписываемые объекту цели подлинными или нет. В рамках новой робо-тотехнической парадигмы с ее установкой на функционализм и имитацию коммуникации концепция Деннета работает превосходно. По сути, в ней закреплено использование проективного интеллекта для рационализации действий технической системы.
Механизм приписывания человеческих характеристик нечеловеческим сущностям с давних пор используется в религии. С этой точки зрения изучение религиозного опыта может быть плодотворным для НЫ. В 80-е и 90-е годы XX века французский религиовед Д. Видал исследовал формы коммуникации между людьми и богами во время изучения религиозных культов в северной части Индии (штат Химачал-Прадеш) [17]. Среди прочего французский ученый постулирует неопределенность онтологического статуса индийских богов. Он называет их субантропоморфными сущностями, поскольку их нельзя отнести ни к разряду объектов, ни к разряду субъектов. Скорее они занимают промежуточное положение. Присутствие человека как наблюдателя в этой системе является решающим. Другими словами, ритуальное создание сущности с ее неустойчивой «идентичностью» и автономией может существовать только в глазах вовлеченного и увлеченного наблюдателя.
По мнению Д. Видала, парадокс заключается в том, что такие характеристики точно соответствуют фундаментальным аксиомам, выдвигаемым новым поколением робототехников. Речь идет о создании иллюзии жизни через поведенческий реализм. В робототехнике также остро стоит вопрос об онтологическом статусе социального робота. В рамках старой парадигмы ученые пытались создать машину, обладающую интенциональностью и эмоциями. Однако такой вопрос вызывает недоумение не только с методологической или онтологической точки зрения, но порождает ряд этических вопросов. С точки зрения новой робототехнической парадигмы робот не есть синтетическая копия человека, воспроизводящая его сложные когнитивные и аффективные функции, но прежде всего социальный партнер с текучим онтологическим статусом.
Следовательно, не всегда нужно создавать технологически сложные устройства, чтобы достичь высокой степени социального сотрудничества между людьми и «искусственными» существами. Социальные взаимодействия между богами и людьми в Гималаях показывают, что очень простые артефакты позволяют осуществить социальное сотрудничество в очень высокой степени. Это связано с онтологической природой гибридного устройства, посредством которого проявляется присутствие божественности. Точно такая же онтологическая неопределенность присутствует в робототехнике. В связи с этим Д. Видал формулирует гипотезу, согласно которой интенсивность отношений, существующих у людей с искусственными (или полуискусственными) объектами в самых разных обстоятельствах, напрямую связана со степенью неопределенности их онтологического статуса [17]. Эти приемы можно целенаправленно использовать в социальной робототехнике, чтобы запускать новые способы коммуникации между людьми и роботами.
Таким образом, мы проанализировали современные вызовы в области человеко-машинного взаимодействия и сформулировали теоретические принципы прикладного антропоморфизма для облегчения интеграции социальных роботов в общество и повышения эффективности НЫ-акта.
Список литературы
1. Damiano L., Dumouchel P. Anthropomorphism in Human-Robot Co-evolution // Frontiers in Psychology. - 2018. - No. 9. - P. 468. DOI: 10.3389/fpsyg.2018.00468
2. Anthropomorphism: Opportunities and Challenges in Human-Robot Interaction / J. Zlotowski, D. Proudfoot, K. Yogeeswaran, C. Bartneck // International Journal of Social Robotics. -2015. - No. 7. - P. 347-360. DOI: 10.1007/s12369-014-0267-6
3. Duffy B.R. Anthropomorphism and the Social Robot // Robotics and Autonomous Systems. -2003. - No. 42 (3-4). - P. 177-190.
4. Caporael L. Anthropomorphism and Mechanomorphism // Computers in Human Behavior. -1986. - No. 2. - P. 215-234. Doi: 10.1016/0747-5632(86)90004-X
5. Wynne C.D.L. What are animals? Why Anthropomorphism is Still not a Scientific Approach to Behavior // Comparative Cognition & Behavior Reviews. - 2007. - No. 2 (1). - P. 125-135.
6. Levillain F., Zibetti E. Behavioral Objects // Journal of Human-Robot Interaction. - 2017. -No. 6. - P. 4-24. DOI: 10.5898/JHRI.6.1.Levillain
7. Guthrie S. Faces in the Clouds: A New Theory of Religion. - Oxford: Oxford University Press,
1995.
8. Середкина Е.В., Безукладников И.И., Долгих М.С. Прикладной антропоморфизм в сервисной робототехнике // Интеллектуальные системы в науке и технике. Искусственный интеллект в решении актуальных социальных и экономических проблем XXI века: сб. ст. / под ред. Л.Н. Ясницкого; Перм. гос. нац. исслед. ун-т. - Пермь, 2020. - С. 223-227.
9. Darling K. "Who's Johnny?" Anthropomorphic Framing in Human-Robot Interaction, Integration, and Policy // ROBOT ETHICS 2.0. Eds. P. Lin, G. Bekey, K. Abney, R. Jenkins. -Oxford: Oxford University Press, 2017.
10. Urquiza-Hass E.G., Kortschal K. The Mind Behind Anthropomorphic Thinking // Animal Behaviour. - 2015. - No. 109. - P. 167-176. DOI: 10.1016/j.anbehav.2015.08.011
11. Dautenhahn K. etc. What is a Robot Companion - Friend, Assistant or Butler? // IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2005). - 2005. - P. 1192-1197.
12. Mori M. The Uncanny Valley // Energy. - 1970. - No. 7. - P. 33-35.
13. Arkin R. An Behavior-Based Robotics. - Cambridge: MIT Press, 1998. - 464 p.
14. Матурана У., Варела Ф. Древо познания: биологические корни человеческого понимания / пер. с англ. Ю.А. Данилова. - М.: Прогресс-Традиция, 2001. - 223 с.
15. New Horizons for Second-Order Cybernetics. Ed. A.K. Müller, S. Umpleby. - London, World Scientific Publishing Co. Pte. Ltd, 2017.
16. Деннет Д. Виды психики: на пути к пониманию сознания. - М.: Идея-Пресс, 2004. - 184 с.
17. Vidal D. Anthropomorphism or Sub-Anthropomorphism? An Anthropological Approach to Gods and Robots // Journal of the Royal Anthropological Institute. - 2007. - No. 13. - P. 917-933.
References
1. Damiano L., Dumouchel P. Anthropomorphism in Human-Robot Co-evolution. Frontiers in Psychology, 2018, no. 9, p. 468. DOI: 10.3389/fpsyg.2018.00468
2. Ztotowski J., Proudfoot D., Yogeeswaran K., Bartneck C. Anthropomorphism: opportunities and challenges in human-robot interaction. International Journal of Social Robotics, 2015, no. 7, pp. 347-360. DOI: 10.1007/s12369-014-0267-6
3. Duffy B.R. Anthropomorphism and the social robot. Robotics and Autonomous Systems, 2003, no. 42 (3-4), pp. 177-190.
4. Caporael L. Anthropomorphism and mechanomorphism. Computers in Human Behavior, 1986, no. 2, pp. 215-234. DOI: 10.1016/0747-5632(86)90004-X
5. Wynne C.D.L. What are animals? Why anthropomorphism is still not a scientific approach to behavior. Comparative Cognition & Behavior Reviews, 2007, no. 2(1), pp. 125-135.
6. Levillain, F., and Zibetti, E. Behavioral objects. Journal of Human-Robot Interaction, 2017, no. 6, pp. 4-24. DOI: 10.5898/JHRI.6.1 .Levillain
7. Guthrie S. Faces in the Clouds: A New Theory of Religion. Oxford, Oxford University Press, 1995.
8. Seredkina E.V., Bezukladnikov 1.1., Dolgikh M. S. Prikladnoi antropomorfizm v servisnoi robototekhnike [Applied Anthropomorphism in Service Robotics]. Intellektual'nye sistemy v nauke i tekhnike. Iskusstvennyi intellekt v reshenii aktual'nykh sotsial'nykh i ekonomicheskikh problem XXI veka: sbornik statei. Ed. L. N. lasnitskii. Perm', Permskii gosudarstvennyi natsional'nyi issledovatel'skii universitet, 2020, pp. 223-227.
9. Darling K. "Who's Johnny?" Anthropomorphic Framing in Human-Robot Interaction, Integration, and Policy. ROBOT ETHICS 2.0. Eds. P. Lin, G. Bekey, K. Abney, R. Jenkins. Oxford, Oxford University Press, 2017.
10. Urquiza-Hass E. G., Kortschal K. The Mind behind Anthropomorphic Thinking. Animal Behaviour, 2015, no. 109, pp. 167176. DOI: 10.1016/j.anbehav.2015.08.011
11. Dautenhahn K., etc. "What is a robot companion - Friend, assistant or butler?". IEEE/RSJ International Conference on Intelligent Robots and Systems 2005 (IROS 2005), 2005, pp. 1192-1197.
12. Mori M. The uncanny valley. Energy, 1970, no. 7, pp. 33-35.
13. Arkin R. An Behavior-Based Robotics. Cambridge, MIT Press, 1998, 464 p.
14. Maturana U., Varela F. Drevo poznaniia: biologicheskie korni chelovecheskogo ponimaniia [The Tree of Knowledge: The Biological Roots of Human Understanding]. Moscow, Progress-Traditsiia, 2001, 223 p.
15. New Horizons for Second-Order Cybernetics. Edited By A. K. Muller, S. Umpleby. World Scientific Publishing Co. Pte. Ltd,
2017.
16. Dennet D. Vidy psikhiki: na puti k ponimaniiu soznaniia [Types of Psyche: on the Way to Understanding Consciousness]. Moscow, Ideia-Press, 2004, 184 p.
17. Vidal D. Anthropomorphism or sub-anthropomorphism? An anthropological approach to gods and robots. Journal of the Royal Anthropological Institute, 2007, 13, pp. 917-933.