CC BY
22
®
ИССЛЕДОВАНИЯ НАУКИ И ТЕХНОЛОГИЙ
DOI: 10.14515/monitoring.2023.3.2318
Е. А. Гаврилина
АГЕНТНОСТЬ НЕ-ЧЕЛОВЕКОВ: ВЗАИМОДЕЙСТВИЕ ЛЮДЕЙ И СОЦИАЛЬНЫХ РОБОТОВ
Правильная ссылка на статью:
Гаврилина Е. А. Агентность не-человеков: взаимодействие людей и социальных роботов //Мониторинг общественного мнения: экономические и социальные перемены. 2023. № 3. С. 41—55. https://doi.Org/10.14515/monitoring.2023.3.2318. For citation:
Gavrilina E. A. (2023) Agency of Non-humans: Interaction of Humans and Autonomous Intelligent Systems. Monitoring of Public Opinion: Economic and Social Changes. No. 3. P. 41-55. https://doi.org/10.14515/monitoring.2023.3.2318. (In Russ.)
Получено: 29.09.2022. Принято к публикации: 02.03.2023.
АГЕНТНОСТЬ НЕ-ЧЕЛОВЕКОВ: ВЗАИМОДЕЙСТВИЕ ЛЮДЕЙ И СОЦИАЛЬНЫХ РОБОТОВ
ГАВРИЛИНА Елена Александровна — кандидат философских наук, доцент, старший научный сотрудник, Институт научной информации по общественным наукам Российской академии наук (ИНИОН РАН), Москва, Россия E-MAIL: [email protected] https://orcid.org/0000-0002-6077-3879
Аннотация. В статье предпринята попытка реконструировать категорию агентности применительно к автономным интеллектуальным системам в контексте человеко-машинного взаимодействия с социальными роботами. Представлен обзор эмпирических исследований взаимодействия людей и социальных роботов, диапазон которых распространяется от простых дескрипций до изучения доверия и реципрокности. Показано, что технические разработки в сфере социальной робототехники и реальный, эмпирически фиксируемый способ интеракций людей и социальных ро-ботехнических систем может быть довольно консистентно интерпретирован через теоретическую призму объектно-ориентированных онтологий и ак-торно-сетевой парадигмы.
Ключевые слова: агентность, автономные интеллектуальные системы, ак-торно-сетевая теория, взаимодействие людей и роботов, социальный робот
AGENCY OF NON-HUMANS: INTERACTION OF HUMANS AND AUTONOMOUS INTELLIGENT SYSTEMS
Elena A. GAVRILINA1 — Cand. Sci. (Philos.), Senior Researcher E-MAIL: [email protected] https://orcid.org/0000-0002-6077-3879
1 Institute of Scientific Information for Social Sciences of the Russian Academy of Sciences (INION RAS), Moscow, Russia
Аbstract. The article attempts to reconstruct the category of agency in relation to autonomous intelligent systems in the context of human-machine interaction with social robots. The author reviews empirical research on the interaction between humans and social robots ranging from simple descriptions to the studies of trust and reciprocity. It is shown that technical developments in the field of social robotics and a real, empirically fixed way of interaction between people and social robotic systems can be quite consistently interpreted through the theoretical prism of object-oriented ontologies and the actor-network paradigm.
Keywords: agency, autonomous intelligent systems, actor-network theory, human-robot interaction, social robot
Введение и постановка задачи
Современный мир наполнен технологиями, и все больше среди них появляется таких, которые мы можем называть интеллектуальными системами, причем часть из них автономны. Они встраиваются в нашу повседневность, меняют наши со-
циальные практики, соседствуют с нами дома и на работе [Pak, de Visser, Rovira, 2020]. Отдельной группой такого рода систем представляются социальные роботы. Опыт интеракции людей с ними непрерывно расширяется, однако, несмотря на относительно большое количество эмпирических исследований, анализирующих этот аспект 1, материалов, посвященных теоретическому описанию такого взаимодействия, явно недостаточно. Попытка хотя бы частично заполнить эту лакуну и есть ключевая цель этого исследования.
Социальные роботы как интеллектуальные автономные системы
Под искусственными интеллектуальными системами (ИИС) понимают динамические, активно взаимодействующие с внешней средой совокупности устройств и алгоритмов, направленных на решение плохо структурированных и слабо формализуемых задач [Остроух, 2020] 2. Кроме этого они изначально ориентированы на поддержку активности человека: «Интеллектуальная информационная система (ИИС) — автоматизированная информационная система, основанная на знаниях, или комплекс программных, лингвистических и логико-математических средств для реализации основной задачи — осуществления поддержки деятельности человека и поиска информации в режиме продвинутого диалога на естественном языке» [Остроух, 2020: 13]. Можно сказать, что «любая информационная система, решающая интеллектуальную задачу или использующая методы искусственного интеллекта, относится к интеллектуальным» [там же].
Автономность любой системы подразумевает ее способность не зависеть от внешних управляющих воздействий. Особый интерес при разработке ИИС вызывает перспектива создания высокоавтономных систем, которые могли бы решать или сопровождать решение задач людьми, опираясь на такие формы «поведения», которые основываются на опыте и научении и традиционно относятся к человеческим формам поведения и реакций 3. По сути, все исследования в области искусственного интеллекта строились вокруг идеи создания в большей или меньшей степени автономных интеллектуальных систем [Toosi et al., 2021]4. Важной областью, где эти идеи развивались, стала роботехника [Gasparetto, Scalera, 2019]. Причем если на этапе зарождения большинство разработок относилось к промышленному использованию роботов, то начиная с 1990—2000-х годов интерес исследователей переориентировался на создание сервисных [Зильберман, Стефанцова, 2016; Крючков и др., 2013]5, среди которых особый класс представляют социальные роботы 6.
1 Human-Robot Interaction. A Research Portal for the HRI Community. URL: https://humanrobotinteraction.org/ (accessed: 30.09.2022).
2 См. также: Тюменцев Ю. В. Интеллектуальные автономные системы — вызов информационным технологиям // Сайт С. П. Курдюмова. URL: https://spkurdyumov.ru/evolutionism/intellektualnye-avtonomnye-sistemy (дата обращения 30.09.2022).
3 Там же: 3—4.
4 См. также: Anyoha R. The History of Artificial Intelligence // Harvard University. 2017. August 28. URL: https://sitn.hms. harvard.edu/flash/2017/history-artificial-intelligence/(accessed: 30.09.2022).
5 См. также: Hu H. Mike Brady Research Symposium: From Oxford AGVs to Human-Centred Robotics (Powerpoint Presentation). University of Essex. 2010. URL: https://www.slideserve.com/belva/mike-brady-research-symposium-from-oxford-agvs-to-human-centred-robotics (accessed: 30.09.2022).
6 Сервисные роботы на службе человека // Промобот. 2018. 5 декабря. URL: https://promo-bot.ru/blog/na-sluzhbe-u-cheloveka (дата обращения: 30.09.2022).
В профессиональном сообществе существует консенсус, что «сервисные роботы, предназначенные помогать людям организовывать жизнедеятельность в различных областях, способствуют автономизации (повышению независимости, самостоятельности) личности. Такие роботы обладают следующими характеристиками:
— мобильность,
— программируемость,
— наличие сенсоров,
— механические способности,
— подвижность.
Эти новые возможности позволяют роботам быть полезными в различных областях социальной сферы, включая, к примеру, здравоохранение или социальное обслуживание» [Гасумова, Портер, 2019: 81]. Более того, выделяется группа социальных роботов. «Социальным можно называть любого робота, имеющего социальный интерфейс, который, в свою очередь, включает все характеристики, позволяющие пользователю приписывать роботу социальные качества. По сути, это метафора, описывающая естественный путь коммуникативного взаимодействия между роботом и человеком» [Зильберман, Стефанцова, 2016: 306]. В частности, есть уже достаточно большой пул публикаций о применении социальных роботов в разнообразных контекстах. Например, такие устройства применяют для обучения [Алексеева, 2020], рекреации и вовлечения в игровую деятельность детей-дошкольников [Шандаров и др., 2014], в терапии расстройств аутистического спектра [Петрова, 2017], для ухода за пожилыми людьми и в домах престарелых [Wada, Shibata, 2007; van Maris et al., 2020]. В этих исследованиях роботы выступают как интеллектуальные системы разной степени автономности, что уже давно фиксируется в таком направлении исследований, как взаимодействие людей и роботов (Human-Robot Interaction) [Sheridan, 2016; Goodrich, Schultz, 2007] 7.
Взаимодействие людей и социальных роботов: обзор эмпирических исследований
Социальная робототехника развивается повсеместно, уже создано довольно много платформ для реализации взаимодействия людей и роботов [Середкина и др., 2019]. Изучается много аспектов такого взаимодействия. В самом простом варианте о нем говорят дескриптивно, фиксируя, что «респонденты обращают внимание на сходство робота с человеком и выражают свои чувства, заявляя, что это сходство вызывает у них удивление и восхищение» [Zhdanova et al., 2022: 800]. При взаимодействии с социальными роботами люди испытывают любопытство и позитивные эмоции, а также обращают внимание на их «пол», «возраст» и внешний вид, и это полностью коррелирует с данными о восприятии незнакомого человека [ibid.]. Некоторые работы указывают на чувство смущения, которое возникает, когда людям кажется, что робот превосходит их в чем-либо, особенно если обстоятельства побуждают к соревновательности [Шимрова, 2020]. В большин-
7 См. также: Frontiers in Robotics and AI. Human-Robot Interaction. URL: https://www.frontiersin.org/journals/robotics-and-ai/sections/human-robot-interaction/articles (accessed 01.10.2022); Human-Agent Interaction Laboratory. URL: https://hailab.net/research (accessed 01.10.2022).
стве случаев такие оценки получают или со слов испытуемого, или путем обычного наблюдения за взаимодействием [Буров, 2018].
Другие ученые обращают внимание, что для эффективного взаимодействия с социальным роботом человеку необходимо как бы «очеловечить» его, а самому подстраиваться к робототехнической системе. Так, И. Петрова пишет: «В отношении всех роботов происходит некое „вочеловечивание"—люди здороваются с ними, как с партнерами; возвращаясь после перерыва, мужчины-разработчики обнимают андроидных роботов; дети тискают Опо, переживают, если робот „заболел". В то же время общение с роботом налагает условия некой „роботизации" пользователя — в общении человек должен выглядеть и вести себя „удобным" для робота образом, и разработчики немилосердно эксплуатируют эту специфику взаимодействия» [Петрова, 2019: 28].
Любопытный эксперимент использования робота типа Промобот У4 в МФЦ был проведен коллегами из Перми. Они предлагали посетителям МФЦ для решения их вопросов взаимодействовать с четырьмя типами операторов:
— обычным сотрудником МФЦ — человеком;
— роботом типа Промобот У4 — роботом;
— человеком, который в режиме реального времени скрыто управлял роботом и передавал ему сообщения (то есть для посетителя это выглядело как взаимодействие с роботом) — гибридная система «очеловеченный робот»;
— человеком, который озвучивал ответ-скрипт, выработанный нейронной системой робота (для посетителя это выглядело как разговор с человеком) — гибридная система «роботизированный человек».
Посетитель не знал, с каким оператором взаимодействует: он видел перед собой либо человека, либо робота. Любопытно, что посетители МФЦ не смогли распознать гибридные системы. В результате исследования выяснилось, что самая низкая удовлетворенность взаимодействием оказалась при общении с гибридной системой «очеловеченный робот». То есть посетителям наиболее неприятным в «общении» показался робот, реагирующий по-человечески.
Авторы исследования объясняют это тем, что на оценку и восприятие коммуникации больше влияет интерфейс оператора (человек или робот), а не ее форма и содержание 8. Они пишут: «В большей степени на оценку и восприятие коммуникации влияет интерфейс агента (человек или робот), а не содержание коммуникации („человеческая" коммуникация или роботизированная коммуникация): различия между теми, кто взаимодействовал с роботом (в том числе гибридной системой) и с человеком (в том числе гибридной системой), более выражены, чем различия между теми, кто взаимодействовал с роботом или человеком по типу „человеческой коммуникации", и теми, кто взаимодействовал с роботом или человеком по типу роботизированной коммуникации» [Бурова и др., 2023]. Однако можно предложить другое объяснение, которое кажется более убедительным: возможно, дело в ожиданиях человека от взаимодействия. «Общаясь» с роботом, человек как бы заранее подстраивается и ожидает упро-
8 Социальные установки относительно роботов. Краткий отчет по результатам социологического исследования, декабрь 2019 г. (отчет можно запросить на сайте компании Promobot по ссылке: https://promo-bot.ru/projects/ research/).
щенной коммуникации, а в гибридной системе «очеловеченный робот» выдаваемые реакции оказываются более сложными, чем ожидает пользователь. Именно это и вызывает когнитивный диссонанс и меньшую удовлетворенность пользователя. Конечно, это объяснение требует эмпирической проверки и более подробной теоретической экспликации.
Косвенно оно подтверждается идеями и исследованиями об антропоморфизме, который рассматривается как способность человека наделять нечеловеческое в широком смысле человеческими свойствами и характеристиками [Damiano, Dumouchel, 2018; Epley et al., 2007]. Эта способность, вероятно, коренится в эксцентричной позициональности человека, понимаемой в духе Х. Плеснера. Благодаря ей человек может объективировать себя и субъективировать Другого: «Сопредельный мир (Mitwelt) есть собственная позиционная форма человека, воспринимаемая им как сфера других людей. Поэтому нужно добавить, что посредством эксцентрической позиционной формы строится сопредельный мир и одновременно гарантируется его реальность» [Плеснер, 2004: 262]. Психологически же антропоморфизм создает у людей ощущение предсказуемости нечеловеческого и, следовательно, возможность контроля над ним. При этом антропоморфизм долгое время рассматривался как когнитивное искажение [Caporael, 1986]. Однако позже его значение было пересмотрено, и антропоморфизм стал пониматься как адаптивное, способствующее установлению социальных связей свойство человеческой психики [Guthrie, 1993]. В современных исследованиях установлено, что при проектировании антропоморфных роботов необходимо учитывать два принципа: «принцип асимметрии: поведенческий реализм важнее высокоантропоморфной внешности. <...> Принцип согласованности: необходимость синхронизации внешности и поведения робота» [Середкина, 2020: 59]. Если при проектировании социальных роботов разработчики будут следовать этим принципам, вероятно, удастся избежать наивного антропоморфизма (в терминологии Н. Кло-вайта), когда «субъект естественным образом социально реагирует на нечеловеческую сущность, как если бы она обладала человеческими характеристиками» [Кловайт, 2018: 12], что поможет снять алармистские ожидания, связанные с распространением социальных роботов.
Примерно так же, как и пермские коллеги, в работе Р. Абрамова и В. Катечкиной «Социальные аспекты взаимодействия человека и робота: опыт экспериментального исследования» [Абрамов, Катечкина, 2022] авторы, называя дизайн экспериментов, подобных описанному выше, «Волшебником страны Оз», утверждают, что в момент взаимодействия пользователь не способен определить степень автономности робота. Они пишут: «В такого рода экспериментах важен фактор, когда перед испытуемым находится объект, который демонстрирует социальные характеристики, но внешне не является человеком. Поэтому важнейшая составляющая социального интерфейса — внешний облик, отдаленно отсылающий к человеку, иногда именуемый „культурным интерфейсом". Именно он в большей степени позволяет людям приписывать некому субъекту социальные характеристики и менять свое поведение в присутствии этого субъекта за счет эффекта „присутствия другого"» [там же: 217]. Описывая результаты исследования, авторы указывают, что «одним из критически важных моментов стал внешний облик робота — его культурный интерфейс»,
и, далее: «Если говорить о значимости воздействия описанных факторов, то гипотеза в отношении наибольшего эффекта внешнего вида робота также подтверждается. Следом по мощности эффекта следует ситуативный контекст, а меньшее воздействие имеют особенности речи робота» [там же: 235]. Косвенно эти выводы соотносятся с принципами прикладного антропоморфизма, которые необходимо учитывать при проектировании антропоморфных роботов.
Еще одним важным направлением исследований взаимодействий людей и роботов является изучение доверия людей роботам, которое понимается как функциональный механизм регуляции взаимодействия [Акимова 2020]. Более того, «в сложных, опасных и экстремальных ситуациях отношение людей к технике (в том числе к роботам.— Прим. Е. Г.) могло становиться подобным отношению к другому человеку или живому существу» [там же: 223]. Обычно рассматривается многоуровневая модель структуры доверия [Khavas, 2021; Акимова, 2020]. Так, в работе [Khavas, 2021] доверие подразделяется на доверие, основанное на производительности, и доверие, ориентированное на отношения, подобно отношениям между людьми. А. Акимова пишет о когнитивных, эмоциональных и поведенческих аспектах доверия, которые собираются в определенные конфигурации в зависимости от субъективных оценок человека в отношении надежности и безопасности робота, а также степени освоенности технологии [Акимова, 2020: 223—224]. Подобный результат обнаружен и в исследовании [Бурова и др., 2023], где готовность человека к взаимодействию с роботом росла по мере накопления опыта «коммуникации» с ним. Если при этом робот демонстрирует альтруистичное поведение, то уровень доверия возрастает, а связь между человеком и таким роботом становится, по мнению человека, реципрок-ной [Chen et al., 2022]. Характер взаимодействия между человеком и роботом определяется поставленной задачей [Schulz et al., 2018]. В других исследованиях обнаруживается динамичный характер доверия [Вахштайн 9 и др., 2016: 102], также авторы обращают внимание на компаративный контекст в своем исследовании: «В целом в РФ население характеризуется более высоким уровнем обобщенного доверия к инновациям, чем в ЕС. При этом готовность к внедрению технологических инноваций в повседневную жизнь (по крайне мере, по отношению к роботу-судье или роботу-водителю) в России ниже, чем в странах ЕС. Так, только чуть более трети россиян позитивно относятся к перспективам внедрения робота-водителя, тогда как в ЕС более половины населения готовы к появлению машин на самоуправлении на дорогах. К роботу-судье россияне более благосклонны, но, тем не менее, уровень доверия к внедрению этой инновации несколько ниже, чем в ЕС. По мнению экспертов, такая закономерность ожидаема. Она связана с тем, что население РФ значительно реже сталкивается в повседневной жизни с настоящими техническими инновациями, чем жители зарубежных стран» [там же: 16—17]. Таким образом, снова фиксируется важность опыта при взаимодействии людей с роботами.
Резюмируя эту часть работы, можно сказать, что благодаря антропоморфизму социальных роботов люди склонны переносить на них человеческие и соци-
9 22.04.2022 внесен в реестр иностранных агентов.
альные характеристики. Этот процесс имеет двоякий характер: он происходит как в силу психических механизмов людей, так и в силу того, что технологии производства подобных роботов усложнились настолько, что позволяют им выступать как автономным интеллектуальным системам и демонстрировать формы «социального» поведения, подобного человеческому. Это с неизбежностью распознается как интерактивное поведение, требующее социального ответа: «люди не приспособлены к интерактивным технологиям; их „старые" (то есть до-технологические) мозги говорят им: все, что кажется интерактивным, является интерактивным» [Кловайт, 2018: 14].
Агентность социальных роботов
Традиционно в социологической теории агентность понималась как характеристика субъекта и была связана с веберовской теорией социального действия, основной характеристикой которого был субъективно полагаемый смысл, то есть действие понималось больше семантически, чем физически. В качестве базового методологического постулата это закладывало в структуру социологического мышления имплицитный дуализм человеческого и нечеловеческого. Таким образом, социальными акторами могли быть только люди [Дейнека, 2017]. Кроме того, агентность обычно описывалась через призму дихотомии «агентность/ структура». Однако некоторые авторы говорили о континууме этих понятий и подчеркивали, что чем ближе исследователь находился к изучаемому им феномену или процессу, тем больше он был склонен описывать их в категориях агентности [Евсеева, 2016: 231].
Развитие интеллектуальных автономных систем привело к тому, что люди стали рассматривать их (во всяком случае, ту группу, которая имеет социальный интерфейс,— социальных роботов) как еще одних социальных агентов [Fox, Gambino, 2021]. Некоторые исследователи говорят о появлении «субъектоподобных артефактов» и называют их «техносубъектами» [Игнатьев, 2019]. В техническом аспекте HRI (Human-Robot Interaction) уже давно и привычно говорят об интеллектуальных автономных системах именно как об агентах (см., например, [Тарасов, 1998; Crandal, 2020]).
В качестве теоретического языка для описания таких взаимодействий можно использовать объектно-ориентированный подход, в нем «любой объект связан с определенной сетью отношений, в рамках которой он определяет Других» [Головашина, 2019: 133], и акторно-сетевую теорию, в которой мыслится возможным иная, чем в классическом социологическом подходе, теория действия [Ерофеева, 2015]. Говоря на этом языке, можно сказать, что объект становится таковым, когда он начинает сопротивляться, то есть оказывается способным к действию, более того, «если объект не сопротивляется и не действует, мы не можем говорить о его существовании» [Головашина, 2019: 140]. К этому добавляются такие характеристики, как непознаваемость и способность к самореференции [Головашина, 2019: 148]. Таким образом, агентность перестает быть привилегией только человека, но становится и качеством объекта. Точнее, она рассматривается как «эффект взаимодействия между акторами» [Ерофеева, 2015: 60]. Следовательно, в рамках такого теоретического описания становится возможным «гибридное со-действие человеческого
и не-человеческого» [там же: 51].Разворачивая эту логику, необходимо отметить, что в рамках акторно-сетевой парадигмы агентность мыслится не как нечто незыблемое, а как что-то динамичное, реконфигурирующееся в зависимости от типов, мест и особенностей конкретных взаимодействий и взаимосвязей [Томпсон, 2018: 235]. Это значит, что она довольно легко может делегироваться не-человекам. Описывая механизм такого делегирования, его часто определяют как передачу компетенций. Как пишет И. Напреенко, «Говоря семиотически, инженер совершает переключение своей компетенции, то есть человеческих способностей, в вещь, подобно тому, как писатель переключает—отдает свой голос—героям. Вещь получает возможность действовать» [Напреенко, 2015: 112].Таким образом, общество становится своего рода бесшовной агломерацией, где отношения между людьми укреплены и модифицированы технологическим опосредованием, что позволяет рассматривать его как сеть гетерогенных акторов [там же]. В логике акторно-сетевой парадигмы отношения людей и не-человеков носят реципрокный характер (вспомните про альтруистическое поведение роботов [Chenetal., 2022]). То есть они становятся как бы вложенными друг в друга. Это позволяет легко объяснить, как робот начинает восприниматься как моральный партнер (см.: Гаврилина Е. А. Может ли робот быть моральным агентом? в [Материалы круглого стола..., 2020: 152—154]) 10 и для взаимодействующего с ним человека приобретает субъективно-значимую роль, выполняя функции моральной поддержки, снижения интенсивности переживаний и т.д 11. Также хорошо эта вложенность поясняет и антропоморфизм как универсальное свойство человеческой психики.
Можно подытожить, что под агентностью социальных роботов следует понимать динамичное качество автономных искусственных интеллектуальных систем, интерпретируя его как способность к действию в условиях сетевого взаимодействия социальных роботов с себе подобными и с людьми. В процессе такого действия происходит взаимное обусловливание людей и не-человеков. Это позволяет говорить об обществе как о «бесшовной агломерации» социального и технологического.
Рассматривая категорию агентности в теоретическом ракурсе, удалось показать, что интеллектуальные автономные системы и, в частности, социальные роботы, могут выступать как агенты во взаимодействиях людей с ними, то есть их можно рассматривать как акторов, наделенных агентностью.
Заключение
В рамках статьи была предпринята попытка мультидисциплинарного теоретического описания взаимодействия людей и социальных роботов. С одной стороны, они были рассмотрены в языке робототехнической парадигмы как интеллектуальные автономные системы, являющиеся агентами взаимодействия. С другой — о взаимодействии людей и роботов говорилось в контексте эмпирических исследований. Третьим аспектом анализа было рассмотрение взаимодействия человека и робота через призму объектно-ориентированного подхода и ак-торно-сетевой парадигмы.
10 Подробнее см. также ссылки на исследования И. Петровой.
11 Our Story // Replika. URL: https://replika.ai/about/story (дата обращения 08.10.2022).
Опыт теоретизирования через язык новых онтологий и акторно-сетевую парадигму довольно хорошо позволяет объяснять наблюдаемые эмпирические феномены человеко-роботического (или все же робо-человеческого?) взаимодействия. Это относится к феноменам, связанным с антропоморфизмом и эксцентричной позициональностью, когда люди испытывают по отношению к роботам чувства, подобные тем, которые можно испытывать к реальным социальным агентам, фактически субъективируя их (или, говоря языком акторно-сетевой теории, делегируя агентность не-человеческим объектам). Кроме того, такой теоретический фокус, по сути, естественно (в смысле наивно, имплицитно присущим способом) используемый разработчиками робототехнических устройств и алгоритмов, позволяет направлять стихийно складывающиеся исследования в этой сфере в русло более человекомерных ожиданий и представлений.
Список литературы (Referenсes)
Абрамов Р. Н., Катечкина В. М. Социальные аспекты взаимодействия человека и робота: опыт экспериментального исследования // Журнал социологии и социальной антропологии. 2022. Т. 25. № 2. С. 214—243. https://doi.org/10.31119/ jssa.2022.25.2.9.
Abramov R. N., Katechkina V. M. (2022) Social Aspects of Human-Robot Interaction: Experimental Research Experience. Journal of Sociology and Social Anthropology. Vol. 25. No. 2. P. 214—243. https://doi.org/10.31119/jssa.2022.25.2.9 (In Russ.)
Акимова А. Ю. Доверие и недоверие человека технике: социально-психологический подход / под ред. А. А. Обознова. M. : Институт психологии РАН, 2020. Akimova A. Yu. (2020) Human Trust and Distrust of Technology: A Socio-Psychological Approach. Moscow: Institute of Psychology of the Russian Academy of Sciences. (In Russ.)
Алексеева Е. А. Искусственный преподаватель: субъектность или агентность? // Искусственные общества. 2020. T. 15. Вып. 2. https://doi.org/10.18254/ S207751800009804-3.
Alekseeva E. A. (2020) Artificial Tutor: Subjectivity or Agency? Artificial Societies. Vol. 15. No. 2. https://doi.org/10.18254/S207751800009804-3. (In Russ.)
Буров С. П. Методы анализа социального взаимодействия человека и робота // Гуманитарная информатика. 2018. № 14. С. 18—26.
Burov S. P. (2018) Methods for Assessing Social Human-Robot Interaction. Humanitarian Informatics. No. 14. P. 18—26. (In Russ.)
Бурова О. А., Селеткова Г. И., Ганина О. А., Вассерман Ю. М., Неверова Ю. С., Се-редкина Е. В. Социальные установки пользователей на взаимодействие с антропоморфным роботом типа Promobot V.4 при получении услуг МФЦ» // Человеко-машинное взаимодействие: теория и практика: Коллективная монография / под ред. А. А. Южакова, Е. В. Середкиной. Пермь: ПНИПУ, 2023. (В печати). Burova O. A., Seletkova G. I., Ganina O. A., Wasserman Yu.M., Neverova Yu.S., Sered-kina E. V. (2023) Social Attitudes of Users to Interact with an Anthropomorphic Ro-
bot Promobot V.4 When Receiving Multifunctional Center Services. In: Yuzhakov A. A., Seredkina E. V. (eds.) Human-Machine Interaction: Theory and Practice. Perm: PNR-PU. (In print). (In Russ.)
Вахштайн 12 В., Степанцов П., Чурсина Ю., Бардина С. Публичный отчет по результатам социологического исследования поведенческих и институциональных предпосылок технологического развития регионов РФ. 2016.
Vakhshtayn V., Stepantsov P., Chursina Yu., Bardina S. (2016) Public Report on the Results of a Sociological Study of Behavioral and Institutional Prerequisites for Technological Development of the Regions of the Russian Federation. (In Russ.)
Гасумова С. Е., Портер Л. Роботизация социальной сферы // Социология науки и технологий. 2019. Т. 10. № 1. С. 79—94.
Gasumova S. E., Porter L. (2019) Robotization of the Social Sphere. Sociology of Science and Technology. Vol. 10. No. 1. P. 79—94. (In Russ.)
Головашина О. В. От интерсубъективности к интеробъективности: социальная онтология времени. M. : Аквилон, 2019.
Golovashina O. V. (2019) From Intersubjectives to Interobjectives: Social Ontology Temporal. Moscow: Aquilon. (In Russ.)
Дейнека А. В. Антропология Модерна как методологическая рамка анализа теорий социального действия // Universum: общественные науки. 2017. № 11. URL: http:/ /7universum.com/ru/social/archive/item/5242 (дата обращения: 07.10.2022). Deineka A. V. (2017) Antrhopology of Modernity as a Methodological Frame for Analysis of the Theories of Social Action. Universum: Social Sciences. No. 11. URL: http://7uni-versum.com/ru/social/archive/item/5242 (accessed: 07.10.2022). (In Russ.)
Евсеева Я. В. Взаимоотношения структуры и агентности как проблема политической онтологии. Введение в теорию зависимости от траектории предшествующего развития. (Реферативный обзор) // Социологический ежегодник. 2016. С. 228—236.
Evseeva Ya.V. (2016) The Relationship of Structure and Agency as a Problem of Political Ontology. Introduction to the Theory of Dependence on the Trajectory of Previous Development. (Abstract Review). Sociological Yearbook. P. 228—236. (In Russ.)
Ерофеева М. А. О возможности акторно-сетевой теории действия // Социология власти. 2015. № 4. С. 51—71.
Erofeeva M. A. (2015) On the Possibility of an Actor-Network Theory of Action. Sociology of Power. No. 4. P. 51—71. (In Russ.)
Зильберман Н. Н., Стефанцова М. А. Социальный робот: подходы к определению понятия // Современные исследования социальных проблем (электронный научный журнал). 2016. № 11. С. 297—312. https://doi.org/10.12731/2218-7405-2016-11-297-312.
Zilberman N. N., Stefantsova M. A. (2016) Social Robot: Defining the Concept. Russian Journal of Education and Psychology. No. 11. P. 297—312. https://doi.org/10.12731/ 2218-7405-2016-11-297-312. (In Russ.)
12 22.04.2022 внесен в реестр иностранных агентов.
Игнатьев В. И. И грядет «другой» актор... Становление техносубъекта в контексте движения к технологической сингулярности // Социология науки и технологий. 2019. Т. 10. № 1. URL: http://sst.nw.ru/архив/2019101-2/and-the-other-actor-is-coming-the-formation-of-tehnosubject-in-the-context-of-the-movement-to-technological-singularity/ (дата обращения: 26.06.2023).
Ignatyev V. I. (2019) And the "Other" Actor is Coming. The Formation of Tehnosubject in the Context of the Movement to Technological Singularity. Sociology of Science and Technology. Vol. 10. No. 1. URL: http://sst.nw.ru/архив/2019101-2/and-the-other-actor-is-coming-the-formation-of-tehnosubject-in-the-context-of-the-movement-to-technological-singularity/ (accessed: 26.06.2023). (In Russ.)
Карпов А. А., Крючков Б. И., Рогаткин Д. А., Усов В. М. Концептуальные подходы к применению сервисных роботов: общность проблем внедрения (на примерах пилотируемой космонавтики и высокотехнологической медицины) // Биотехносфера. 2013. № 6. С. 48—59.
Karpov A. A., Kryuchkov B. I., Rogatkin D. A., Usov V. M. (2013) Conceptual Approaches to the Use of Service Robots: Common Problems of Implementation (Using Examples of Manned Cosmonautics and High-tech Medicine. Biotechnosphere. No. 6. P. 48— 59. (In Russ.)
Кловайт Н. Рефлексивный антропоморфизм: неведение онтологии или невежественная онтология? // Социологический журнал. 2018. Т. 24. № 1. С. 8—33. https:// doi.org/10.19181/socjour.2018.24.1.5711.
Klowait N. (2018) Reflexive Anthropomorphism: Ontological Ignorance, or Ignorant Ontology? Sociological Journal. Vol. 24. No. 1. P. 8—33. https://doi.org/10.19181/ socjour.2018.24.1.5711. (In Russ.)
Материалы круглого стола «Актуальные проблемы нейроэтики» (30 октября 2019 г.) / под ред. Углевой А. В. // Философия. Журнал Высшей школы экономики. 2020. Т. 4. № 1. С. 135—167. https://doi.org/10.17323/2587-8719-2020-1-135-167. Ugleva A. (ed.) (2020) Xurrent Issues of Neuroethics": Panel Discussion Chronicles (October 30, 2019). Philosophy. Journal of the Higher School of Economics. Vol. 4. No. 1. P. 135—167. https://doi.org/10.17323/2587-8719-2020-1-135-167. (In Russ.)
Напреенко И. В. Делегирование агентности в концепции Бруно Латура: как собрать гибридный коллектив киборгов и антропоморфов? // Социология власти. 2015. Т. 27. № 1. С. 108—121.
Napreenko I. V. (2015) Delegation of Agency in the Concept of Bruno Latour: How to Build up a Heterogeneous Collective of Cyborgs and Anthropomorphs? Sociology of Power. Vol. 27. No. 1. P. 108—121. (In Russ.)
Остроух А. В. Интеллектуальные системы. Красноярск: Научно-инновационный центр, 2020. https://doi.org/10.12731/978-5-907208-27-8. Ostroukh A. V. (2020) Intelligent Systems. Krasnoyarsk: Scientific and Innovation Center. https://doi.org/10.12731/978-5-907208-27-8. (In Russ.)
Петрова И. Э. Робот Оно в терапии аутистических расстройств. Российская робототехника. Формирование профессионального сообщества в области развития
роботехники, искусственного интеллекта // Тезисы докладов конференции / отв. ред. М. Ю. Санкин. Краснодар : Индивидуальный предприниматель Акелян Нари-не Самадовна, 2017. С. 52—55.
Petrova I. E. (2017) Robot It in Therapy of Autistic Disorders. In: Sankin M. Y. (ed.) Russian Robotics. Formation of a Professional Community in the Field of Robotics and Artificial Intelligence Development. Abstracts of the Conference Reports Responsible P. 52—55. Krasnodar: Individual Entrepreneur Akelyan Narine Samadovna. (In Russ.)
Петрова И. Э. Социальная робототехника: пространство формирования искусственной социальности // Материалы IX международной социологической Гру-шинской конференции «Социальная инженерия: как социология меняет мир», Москва, 20—21 марта 2019 года / отв. ред. А. В. Кулешова. М. : Всероссийский центр изучения общественного мнения, 2019. С. 25—28.
Petrova I. E. (2019) Social Robotics: The Space of Artificial Sociality Formation. In: Kuleshova A. V. (ed.) Materials of the IX International Sociological Grushin Conference "Social Engineering: How Sociology is Changing the World". Moscow: VCIOM. P. 25— 28. (In Russ.)
Плеснер Х. Ступени органического и человек: введение в философскую антропологию. M. : РОССПЭН, 2004.
Plessner H. (2004) Die Stufen des Organischen und der Mensch. Einleitung in die philosophische Anthropologie. Mosow: ROSSPEN. (In Russ.)
Середкина Е. В., Безукладников И. И., Ядова Е. Н. Взаимодействие человека и робота: социально-гуманитарная экспертиза // Социально-гуманитарные знания. 2019. № 10. С. 102—108.
Seredkina E. V., Bezukladnikov I. I., Yadova E. N. (2019) Interaction of Human and Robot: Socio-Humanitarian Expertise. Socio-Humanitarian Knowledge. No. 10. P. 102— 108. (In Russ.)
Середкина Е. В. Философские основания прикладного антропоморфизма в социальной робототехнике // Технологос. 2020. № 4. С. 56—63. https://doi.org/10.15593/ perm.kipf/2020.4.05.
Seredkina E. V. (2020) Philosophical Foundations of Applied Anthropomorphism in Social Robotics. Technologos. No. 4. P. 56—63. https://doi.org/10.15593/perm. kipf/2020.4.05. (In Russ.)
Тарасов В. Б. Агенты, многоагентные системы, виртуальные сообщества: стратегическое направление в информатике и искусственном интеллекте // Новости искусственного интеллекта. 1998. № 2. С. 5—63. URL: https://science.donntu. edu.ua/ius/kirgaev/library/Tarasov-vb-agenty-mnogoagentnye-sistemy-virtualnye-soobschestva-strategicheskoe-napravlenie-v-informatike-i-iskusstvennom-intellekte. pdf (дата обращения: 07.10.2022)
Tarasov V. B. (1998) Agents, Multi-Agent Systems, Virtual Communities: Strategic Direction in Computer Science and Artificial Intelligence. News of Artificial Intelligence. No. 2. P. 5—63. URL: https://science.donntu.edu.ua/ius/kirgaev/library/Tarasov-vb-agenty-mnogoagentnye-sistemy-virtualnye-soobschestva-strategicheskoe-napravlenie-v-informatike-i-iskusstvennom-intellekte.pdf (accessed 07.10.2022). (In Russ.)
Томпсон Х. Агентность, опосредованная объективацией: субъектность и технологии // Логос. 2018. № 5. URL: https://logosjournal.ru/articles/387203/ (дата обращения: 08.10.2022).
Thompson H. (2018) Agency through Objectification: Subjectivity and Technology. Logos. No. 5. URL: https://logosjournal.ru/articles/387203/ (accessed: 08.10.2022). (In Russ.)
Шандаров Е. С., Зимина А. Н., Ермаков П. С. Анализ поведения робота-ассистента в рамках разработки сценариев взаимодействия робот — ребенок // Гуманитарная информатика. 2014. Вып. 8. С. 52—64.
Shandarov E. S., Zimina A. N., Ermakov P. S. (2014) Analysis of the Behavior of a Robot Assistant in the Framework of the Development of Scenarios for Robot—Child Interaction. Humanitarian Informatics. No. 8. P. 52—64. (In Russ.)
Шимрова Л. А., Токранова Ю. Г. Коммуникативные состояния при взаимодействии человека с роботом // Индивидуальное, национальное и глобальное в сознании современного человека: новые идеи, проблемы, научные направления / отв. ред.: Борисова Н. В., Воловикова М. И., Журавлев А. Л. M. : Институт психологии РАН, 2020. С. 488—494. https://doi.org/10.38098/univ.2020.55.72.037. Cimrova L. A., Tokranova Y. G. (2020) A Communicative State When Human Interaction with Robot. In: Borisova N. V., Volovikova M. I., Zhuravlev D. L. (eds.) Individual, National and Global in the Consciousness of Modern Man: New Ideas, Problems, Scientific Directions. Moscow: Institute of Psychology of the Russian Academy of Science. P. 488—494. https://doi.org/10.38098/univ.2020.55.72.037. (In Russ.)
Caporael L. R. (1986) Anthropomorphism and Mechanomorphism: Two Faces of the Human Machine. Computers in Human Behavior. Vol. 2. No. 3. P. 215—234. https:// doi.org/10.1016/0747-5632(86)90004-X.
Chen N., Zhai Y., Liu X. (2022) The Effects of Robots' Altruistic Behaviours and Reciprocity on Human-Robot Trust. International Journal of Social Robotics. Vol. 14. P. 1913— 1931. https://doi.org/10.1007/s12369-022-00899-6.
Crandall J. W. (2020) When Autonomous Agents Model Other Agents: An Appeal for Altered Judgment Coupled with Mouths, Ears, and a Little More Tape. Artificial Intelligence. Vol. 280. Art. 103219. https://doi.org/10.1016/j.artint.2019.103219.
Damiano L., Dumouchel P. (2018) Anthropomorphism in Human — Robot Convolution. Frontiers in Psychology. Vol. 9. https://doi.org/10.3389/fpsyg.2018.00468.
Epley N., Waytz A., Cacioppo J. T. (2007) On Seeing Human: A Three-Factor Theory of Anthropomorphism. Psychological Review. Vol. 114. No. 4. P. 864—886. https://doi. org/10.1037/0033-295X.114.4.864.
Fox J., Gambino A. (2021) Relationship Development with Humanoid Social Robots: Applying Interpersonal Theories to Human — Robot Interaction. Cyberpsychology, Behavior, and Social Networking. Vol. 24. No. 5. P. 294—299. http://doi.org/10.1089/ cyber.2020.0181.
Gasparetto A., Scalera L. (2019) A Brief History of Industrial Robotics in the 20th Century. Advances in Historical Studies. Vol. 8. No. 1. P. 24—35. https://doi.org/10.4236/ ahs.2019.81002.
Goodrich M. A., Schultz A. C. (2007) Human — Robot Interaction: A Survey. Foundations and Trends in Human — Computer Interaction. Vol. 1. No. 3. P. 203—275. https://doi. org/10.1561/1100000005.
Guthrie S. (1993) Faces in the Clouds: A New Theory of Religion. Oxford: Oxford University Press.
Khavas Z. R. (2021) A Review on Trust in Human-Robot Interaction. URL: https://arxiv. org/pdf/2105.10045.pdf (accessed: 07.10.2022).
Pak R., de Visser E. J., Rovira E. (eds.) (2020) Living with Robots: Emerging Issues on the Psychological and Social Implications of Robotics. Academic Press. https://doi. org/10.1016/C 2017-0-03348-7.
Schulz R., Kratzer Ph., Toussant M. (2018) Preferred Interaction Styles for HumanRobot Collaboration Vary Over Tasks with Different Action Types. Frontiers in Neurorobotics. Vol. 12. https://doi.org/10.3389/fnbot.2018.00036.
Sheridan Th. B. (2016) Human-Robot Interaction: Status and Challenges. The Journal of the Human Factors and Ergonomics Society. Vol. 58. No. 4. P. 525—532. https:// doi.org/10.1177/0018720816644364
Toosi A., Bottino A., Saboury B., Siegel E., Rahmim A. (2021) A Brief History of AI: How to Prevent Another Winter (a Critical Review). PET Clinics. Vol. 16. No. 4. P. 449—469. https://doi.org/10.1016/j.cpet.2021.07.001.
Zhdanova S. Y., Puzyreva L. O., Mishlanova S. L. Seredkina E. V., Zhdanov M. A. (2022) Human-Robot Interaction: Perception and Reflection. In: A. Rocha, E. Isaeva (eds.) Science and Global Challenges of the 21st Century—Science and Technology. Perm Forum 2021. Lecture Notes in Networks and Systems. Vol. 342. Cham: Springer. P. 791— 801. https://doi.org/10.1007/978-3-030-89477-1_73.
van Maris A., Zook N., Caleb-Solly P., Studley M., Winfield A., Dogramadzi S. (2020) Designing Ethical Social Robots—A Longitudinal Field Study with Older Adults. Frontiers in Neurorobotics. Vol. 7. https://doi.org/10.3389/frobt.2020.00001.
Wada K., Shibata T. (2007) Living with Seal Robots—Its Sociopsychological and Physiological Influences on the Elderly at a Care House. IEEE Transactions on Robotics. Vol. 23. No. 5. P. 972—980. https://doi.org/10.1109/TRO.2007.906261.
