Научная статья на тему 'Представления о возможной роли робота в социальном статусе выше человека (на примере дискурса игры в дебаты)'

Представления о возможной роли робота в социальном статусе выше человека (на примере дискурса игры в дебаты) Текст научной статьи по специальности «Социология»

81
10
Поделиться
Область наук
Ключевые слова
СОЦИАЛЬНАЯ РОБОТОТЕХНИКА / СОЦИАЛЬНЫЙ РОБОТ / ВЗАИМОДЕЙСТВИЕ ЧЕЛОВЕКА И РОБОТА / СОЦИАЛЬНЫЙ СТАТУС / ДЕБАТЫ / SOCIAL ROBOTICS / SOCIAL ROBOT / HUMAN-ROBOT INTERACTION / SOCIAL STATUS / DEBATE

Аннотация научной статьи по социологии, автор научной работы — Зильберман Надежда Николаевна, Пархоменко Андрей Александрович

В данном исследовании предпринята попытка выявления представлений о роли робота в дебатах, применяя комплексный подход в сборе материала (анкетирование респондентов с использованием закрытых и открытых типов вопросов, анализ вопросов о роботе в первые 20 минут взаимодействия, анализ обращений к роботу в ходе коммуникации в течение нескольких часов) и анализе данных: качественный и количественный контент-анализ, семантический и дискурсивный анализ. Ключевой категорией в обсуждении потенциальной роли робота в дебатах были его интеллектуальные возможности, при этом в непосредственном взаимодействии с роботом данная категория не актуализировалась. Изначальные пресуппозиции респондентов относительно робота допускали в большинстве его позицию ниже человека. Во время взаимодействия студенты воспринимали робота в роли таймкипера (позиция выше) как равного живого субъекта, робота включали в неформальное взаимодействие.

Похожие темы научных работ по социологии , автор научной работы — Зильберман Надежда Николаевна, Пархоменко Андрей Александрович,

REPRESENTATIONS OF THE POSSIBLE ROBOT ROLE IN THE SOCIAL STATUS ABOVE HUMAN (ON THE EXAMPLE OF THE DEBATE GAME DISCOURSE)

In this study, we attempted to identify the role of the robot in the debate, using a comprehensive approach to collecting material (questioning using closed and open types of questions, analysis of robot questions in the first 20 minutes of interaction, analysis of calls to the robot during communication for several hours) and data analysis: qualitative and quantitative content analysis, semantic and discursive analysis). The key category in discussing the potential role of the robot in the debate was its intellectual capabilities. The direct interaction with the robot, this category is not actualized. The initial respondents presuppositions about the robot allowed its position to be lower than the person. During the interaction, students perceived the robot as a timekeeper (position above) as an equal living subject, the robot included in the informal interaction.

Не можете найти то, что вам нужно? Попробуйте наш сервис подбора литературы.

Текст научной работы на тему «Представления о возможной роли робота в социальном статусе выше человека (на примере дискурса игры в дебаты)»

Гуманитарная информатика. 2017. № 12. С. 40-49

УДК 304.2, 004.89

DOI: 10.17223/23046082/12/5

ПРЕДСТАВЛЕНИЯ О ВОЗМОЖНОЙ РОЛИ РОБОТА В СОЦИАЛЬНОМ СТАТУСЕ ВЫШЕ ЧЕЛОВЕКА (НА ПРИМЕРЕ ДИСКУРСА ИГРЫ В ДЕБАТЫ)

Н.Н. Зильберман, А.А. Пархоменко

Национальный исследовательский Томский государственный университет, Томск, Россия e-mail: zilberman@ido.tsu.ru; andreiparhomenco@mail.ru

В данном исследовании предпринята попытка выявления представлений о роли робота в дебатах, применяя комплексный подход в сборе материала (анкетирование респондентов с использованием закрытых и открытых типов вопросов, анализ вопросов о роботе в первые 20 минут взаимодействия, анализ обращений к роботу в ходе коммуникации в течение нескольких часов) и анализе данных: качественный и количественный контент-анализ, семантический и дискурсивный анализ. Ключевой категорией в обсуждении потенциальной роли робота в дебатах были его интеллектуальные возможности, при этом в непосредственном взаимодействии с роботом данная категория не актуализировалась. Изначальные пресуппозиции респондентов относительно робота допускали в большинстве его позицию ниже человека. Во время взаимодействия студенты воспринимали робота в роли таймкипера (позиция выше) как равного живого субъекта, робота включали в неформальное взаимодействие.

Ключевые слова: социальная робототехника, социальный робот, взаимодействие человека и робота, социальный статус, дебаты.

REPRESENTATIONS OF THE POSSIBLE ROBOT ROLE IN THE SOCIAL STATUS ABOVE HUMAN (ON THE EXAMPLE OF THE DEBATE GAME DISCOURSE)

Nadezhda N. Zilberman, Andrey A. Parkhomenko

National Research Tomsk State University, Tomsk, Russia e-mail: zilberman@ido.tsu.ru; andreiparhomenco@mail.ru

In this study, we attempted to identify the role of the robot in the debate, using a comprehensive approach to collecting material (questioning using closed and open types of questions, analysis of robot questions in the first 20 minutes of interaction, analysis of calls to the robot during communication for several hours) and data analysis: qualitative and quantitative content analysis, semantic and discursive analysis). The key category in discussing the potential role of the robot in the debate was its intellectual capabilities. The direct interaction with the robot, this category is not actualized. The initial respondents presuppositions about the robot allowed its position to be lower than the person. During the interaction, students perceived the robot as a timekeeper (position above) as an equal living subject, the robot included in the informal interaction.

Key words: social robotics, social robot, human-robot interaction, social status, debate.

В социальной робототехнике предметом дискуссии являются возможные роли робота во взаимодействии с человеком. В начале 2000-х гг. Синтия Бразил, исследователь Массачусетского технологического института, обозначила четыре базовых варианта: робот как инструмент, робот как продолжение тела, робот как аватар и робот как социальный партнер [1]. В социальном взаимодействии традиционно роботу отводилась роль статусно ниже человека в диапазоне от раба до помощника, хотя в последнее десятилетие мы наблюдаем позиционирование робота как равноправного компаньона, друга для человека, например роботы Paro, Pepper, iCat и др. [2, 3]. Сегодня активно обсуждается применение робота в ролях статусно выше человека [4-9].

Подчинение в рамках взаимоотношений человек-человек проявляется наиболее явно в таких контекстах, как военная или религиозная сфера. Также оно имеет место в традиционной иерархической профессиональной сфере в отношениях начальник-подчиненный и социальной структуре общества, где присутствует статусное неравенство ролей: родитель-ребенок, учитель-ученик, старший-младший и др. И, конечно, мы наблюдаем имплицитное подчинение в следовании лидеру мнений.

Прежде всего, роботам предлагается занять подобный статус «руководителя», наделенного властью указывать человеку именно в профессиональной сфере: учитель [10], фитнес-тренер [11], полицейский [12] и др. Эффект антропоморфизма, склонность людей воспринимать робота как субъекта и наделять его атрибутами морали, ответственности, правами является одним из ключевых факторов в подчинении людей роботам. Исследования демонстрируют, что люди достаточно «покорно» выполняют команды от робота, например пожертвовать деньги [7], или даже те, которые требуют преодоления неловкости: раздеться или измерить температуру в прямой кишке [13]. Некоторые исследователи видят в роботе потенциал роли лидера, в том числе и лидера мнений [4]. Разрабатывается дизайн роботов, предназначенных для выполнения управляющей роли [6, 8]. Тем не менее, несмотря на достаточно широкий круг исследований в этой области, до сих пор не до конца ясно, как люди реагируют на роботов в позициях социально выше человека и обладающих властью [14].

Не можете найти то, что вам нужно? Попробуйте наш сервис подбора литературы.

В настоящей работе мы ставим целью выявление пресуппозиций людей относительно возможности исполнения робота роли в статусе выше человека. Насколько люди мыслят себя готовыми к взаимодействию с роботом, обладающим некоторыми элементами власти. Подобных исследований на материале русскоязычной культуры ранее не проводилось. Для исследования мы определили конкретный узкий дискурс - популярную студенческую иг-ру-дебаты, разновидность публичной дискуссии о заданном предмете, где задача участников убедить в своей правоте третью сторону, а не друг друга. Уже несколько десятков лет дебаты являются развитым мировым движением и популярны в основном среди молодежи. Ежегодно проходит большое количество региональных, национальных и международных турниров по парламентским дебатам на абсолютно разные тематики.

Для нас важно, что игра-дебаты - это сложившийся жанр, обладающий жесткой структурой, а также высокой формализованностью ролей. Существуют различные форматы этого жанра, мы обратились к наиболее популярному - британскому. Данный формат является официальным форматом мировых чемпионатов по парламентским дебатам, и представляет собой модель британского парламента, в которой две утверждающие команды (команды Правительства) и две отрицающие команды (команды Оппозиции), состоящие из двух спикеров каждая, пытаются убедить в своей правоте судью. Команды в зависимости от выступления во время раунда получают ранг от 1 до 4 (1 - наилучший, 4 - наихудший). В британском парламентском формате существует 10 фиксированных ролей участия, 8 из которых - это игроки в дебаты, один судья и один таймки-пер. Кратко представим описание и функции каждой из ролей.

Каждая роль включает следующие игровые задачи. Роли игроков-спикеров в целом связаны с необходимостью выстраивать систему аргументов, тезисов, реагировать на выступления коллег и оппозиции. Дебаты должен судить судья, который обладает рядом специальных полномочий: расстановка решающим голосом спикерских баллов каждому из участников дебатов при определении рангов команд, увеличение времени спикера на его речь в случае, когда регламент игры был нарушен, и др. И, наконец, таймки-пер следит за соблюдением регламента, указывает спикерам на его нарушение, вызывает спикеров и информирует их об оставшемся времени.

На первом этапе мы провели опрос среди студентов, играющих в дебаты, относительно применения роботов в целом и возможной роли робота в этой игре. Всего в опросе приняли участие 156 русскоязычных респондентов (75 молодых людей, 81 девушка), каждый из которых имел опыт игры в дебаты. Возраст опрошенных 18-30 лет, география представлена странами: Россия, Эстония, Казахстан (Томск, Новосибирск, Москва, Санкт-Петербург, Казань, Петрозаводск, Таллин, Астана, Челябинск, Екатеринбург, Тюмень).

Первый вопрос выявлял общие представления респондентов о возможных сферах применения роботов. Участники могли выбирать несколько вариантов ответов, а также предлагать свои. По мнению респондентов, наиболее предпочтительная сфера применения роботов та, с которой роботы начали свое вхождение в мир, - промышленная (91%). На втором месте оказались сервисные бытовые роботы (84%), на третьем -роботы в детской игровой индустрии (78%). Другие сферы, где роботы уже достаточно активно применяются, были отмечены меньшим количеством опрошенных: чрезвычайные ситуации (71%), военная (68%), медицинская сфера (69%), безопасность (62%). В сферах, где от робота требуется обязательное социальное взаимодействие с человеком, респонденты не готовы видеть машины. Так, в образовательную сферу допустили роботов 49%, а в судебную - только 21%. Некоторые респонденты (10%) отмечают, что роботов можно применять в любых сферах.

Второй вопрос выявлял представления участников о возможных ролях робота во взаимодействии с человеком, участники также могли выбрать несколько вариантов ответов. Практически все респонденты отводят для робота сложившуюся традиционную роль во взаимодействии с человеком - роль инструмента (87%) и подчиненного помощника (80%). Немногие допускают равноправное положение ролей робота и человека: компаньон-друг (28%), равноправный член команды (19%), еще меньше опрошенных согласны видеть его в качестве члена семьи (6%). Вариант обратной иерархии, где робот выполняет роль статусно выше человека, принимают 10%.

Приближаясь к специфике исследуемого дискурса, мы попросили респондентов ответить, в какой роли в дебатах они могли бы увидеть робота, если допускают его участие в игре. Только 7% посчитали, что робот вообще не может стать участником такого дискурса, 27% допустили роль зрителя, которая в данной игре пассивна и не требует интеракции. Большинство респондентов (84%) определили роль таймкипера как наиболее формализованную, а значит, подходящую для робота. Треть опрошенных позволяют роботу занять активную позицию в игре: как участника (27%), так и судьи (30%).

Итак, робот представляется участникам традиционной машиной, которая может использоваться в промышленной или сервисной сферах, прежде всего, как инструмент или подчиняющийся ассистент. Социальная сфера не предполагает включение роботов. Важно отметить, что представления участников о статусно-ролевом взаимодействии робота и человека в общем немного расходятся с представлениями о конкретном дискурсивном статусно-ролевом взаимодействии. Так, в целом участники не видят робота в судебной сфере, но при этом вполне допускают его на роль судьи в конкретном дискурсе. Видеть робота в статусном положении выше человека в целом согласны только 10%, при этом гораздо больше людей согласны на такое распределение в конкретном контексте (30%).

В последнем вопросе участникам необходимо было указать достоинства и недостатки применения роботов именно в дебатах, что позволило нам дополнить выявленные ранее представления о статусно-ролевых возможностях робота. Ответы были проанализированы методом контент-анализа и сгруппированы в семантические категории.

В целом участники опроса видят больше недостатков (133, далее принимается за 100%), чем преимуществ (80, далее принимается за 100%), включения робота в дебаты. Робот представляется респондентам бесспорно объективным (34% от указанных достоинств). Робот 100% не предвзят / не предвзят к судейству / непредвзят и четкое следование условиям при судействе и соблюдает правила (21%): точное соблюдение правил / соблюдение запланированного времени. Категория интеллекта робота воспринимается двояко. В целом респонденты сходятся во мнении, что робот лучше человека в выполнении интеллектуальных задач. С одной стороны, интеллектуальные возможности робота причисляются к достоинствам, в частности навыки работы с информацией, скорость обработки данных, построение аргументов на основе логики, робот не допускает ошибок (39%): быстро мыслит / возможность хорошей аналитики / возможность чрезвычайно превосходить людей при наличии достаточного количества данных с предшествующих игр. Хотя именно такой слишком развитый интеллект не должен допускаться в соревнование

с человеком. Участники отмечают, что превосходство искусственного интеллекта над человеком в дебатах, в конце концов, приведет к обессмысливанию этого жанра (17%). Робота называют «убийцей дебатов»: доступность ко всем источникам информации, что обрекает дебаты на бессмысленность / преимущество во владении информацией - заведомо проигрышное положение участника-человека / слишком умный / его всеобъемлющие знания сделают его непобедимым игроком.

С другой стороны, актуализируются ограничения интеллекта робота (38%), неспособность выйти за рамки программы или прописанного алгоритма: отсутствие мышления, только следование алгоритму / неумение действовать по ситуации / ограниченное количество алгоритмов / отсутствие абстрактного мышления. Также в качестве аргументов о невозможности полноценного включения робота в данный дискурс называют отсутствие творчества (6%): недостаток фантазии, отсутствие категории личности (18%), что проявляется в неимении своего мнения, цели и души: нет сильного стимула к саморазвитию и / или победе / не имеет личного мнения / отсутствие азарта. Все это помешает роботу, по мнению респондентов, верно понять и интерпретировать выступления игроков (8%): очень сложно натренировать нейросеть на полное понимание того, что люди говорят. Робот - это механизм, который может сломаться или подвергнуться нападению хакеров (5%): поломка во время игры, сбои работы робота во время решающей речи / сбои системы. Участники отмечают не эмоциональность робота, но это может являться как преимуществом применения робота (6%) - волнения и эмоции не мешают при произнесении своей речи, так и его недостатком (8%) - неспособность воспринимать эмоцию и подачу, что, собственно, и делает игру интересной. Интересно отметить, что некоторые респонденты указали на важность коммуникативных навыков социализации до и после игры, которые отсутствуют у робота. Результаты контент-анализа представлены в таблице.

Таким образом, результаты опроса выявили представления респондентов о роботе как машине, прежде всего, обладающей интеллектом, который основан на алгоритмах и логике. Он превосходит человеческий мозг в скорости обработки информации и объемами памяти, но в то же время имеет ограничения, когда дело касается социализации, эмпатии, адаптации в конкретном контексте, творчества, а это участники считают ключевыми необходимыми компонентами для игры. Робот объективен в силу того, что не обладает эмоциями и всегда следует правилам, при этом у него нет личностных характеристик: мнения, цели, стремлений. В некоторых высказываниях респондентов робот представляется явно одушевленным субъектом: не способное на собственное мышление существо.

Представления респондентов о достоинствах и недостатках применения роботов в дебатах

Достоинства (80-100%) Недостатки (133-100%)

Не можете найти то, что вам нужно? Попробуйте наш сервис подбора литературы.

Интеллект выше, чем у человека, - 39% Интеллект -63% Ограничен - 38%

Выше, чем у человека, - 17%

Не сможет верно интерпретировать мысли игроков - 8%

Отсутствие эмоций - 6% Отсутствие эмоций - 8%

Объективность - 34% Нет личности - 18%

Соблюдение правил 21% Нет творчества - 6%

Уязвимость - 5%

Далее нами было проведено три эксперимента, где воспроизводился реальный дискурс дебатов с участием робота Nao в роли таймкипера. Всего в трех экспериментах приняли участие 33 респондента, из них 15 женского и 18 мужского пола, возраст 18-23 года. Заходя в аудиторию, где уже находился робот, игроки активно задавали вопросы о нем, обращаясь к организаторам. На наш взгляд, такие вопросы также позволяют выявить представления о роботе, в данном случае они конкретизированы самой ситуацией. Люди задают вопросы, чтобы уточнить уже имеющиеся представления или восполнить пробелы в них, т. е. их можно рассматривать как некие маркеры представлений. Всего было задано 32 вопроса, из них 15 девушками (ж) и 17 молодыми людьми (м).

Большинство вопросов касалось функциональных и технических возможностей робота (всего 18 вопросов).

Технические характеристики (7): А из чего он сделан? Пластик? (ж) / Какую температуру он выдерживает? (ж) / Он тяжелый ? (ж) / А это у него камера во лбу (м)? / А какие у него есть датчики? (м) / А у него есть распознавание движений? (ж) / Он может манипулировать какими-нибудь предметами? (м)

Программное обеспечение, программирование и управление (6): / А в его алгоритме могут быть ошибки? (м) / У него есть в прошивки надстройки, на которые ты как программист не можешь повлиять? (м) / А программируют на чем все это? (м) / Доступ есть ко всему, когда его про-

граммируешь? (м) / А soft, который ты пишешь к нему, можно продавать? (м) / Управление у него через wi-fi осуществляется? (м)

Работа с мультимедиа информацией (3): Использовать как диктофон можно? (ж) / Он видео снимать умеет? (м) / А на нем можно музыку слушать? (м)

Передвижение: А он умеет сам вставать? (м) / Он умеет плавать? (ж) Также участников интересовали возможности социального взаимодействия (9): А он умеет обниматься? (ж) / Он может избить человека? (ж) / А он базируется, регулируется на законах Айзека Азимова? (ж) / Он умеет играть в футбол? (ж) / На скольких языках он разговаривает? (ж) / И не научится? (ж) / А он умеет, например, сочинять стихи? (ж) / Он станцует в любом случае? (м) / Он время сам решал, кому больше, кому меньше? (м)

Предыдущий опыт взаимодействия: А это он на Streetvision был? (ж) Производство робота: Это твое произведение искусства? (ж) / Откуда он родом? (м)

Не можете найти то, что вам нужно? Попробуйте наш сервис подбора литературы.

Дополнительная информация: А сколько он стоит? (м) / Сколько их у нас штук в универе? (м)

В целом респонденты восприняли робота Нао в большей степени как техническое устройство. Следует отметить, что молодые люди больше интересовались его характеристиками, умениями, возможностями его программирования и использования. Женскую аудиторию больше интересовали его социальные аспекты взаимодействия. Можно предположить, что девушки в какой-то степени «заранее одушевляли» робота. Отметим, что категория технических характеристик не была представлена ни одним из респондентов в предыдущем опросе.

Номинации и обращения, используемые относительно робота в ходе эксперимента, позволили выявить, какой образ в итоге сформировался у респондентов при непосредственном взаимодействии. В целом участники воспринимали робота как одушевленный субъект мужского пола и применяли к нему те же правила коммуникативного поведения, что и к людям. Непосредственные обращения к роботу были по имени: Окей, Аристарх / Привет, Нао. А также неформальные обращения молодежной среды: Ну, братан, давай / Спасибо, спасибо, братан. В речи участников в качестве референции к роботу использовались местоимение «он», существительные с семантикой объекта: робот, прибор, существительные с семантикой субъекта: парень, человек.

В данном исследовании мы предприняли попытку выявления представлений о роли робота в дебатах, применяя комплексный подход в сборе материала: анкетирование респондентов с использованием закрытых и

открытых типов вопросов, анализ вопросов о роботе в первые 20 минут взаимодействия, анализ обращений к роботу в ходе коммуникации в течение нескольких часов и анализ данных: качественный и количественный контент-анализ, семантический и дискурсивный анализ. Ключевой категорией в обсуждении потенциальной роли робота в дебатах были его интеллектуальные возможности. При этом в непосредственном взаимодействии с роботом данная категория не актуализировалась. На первый план вышли технические и функциональные возможности робота как технического устройства, именно эта информация оказалась необходимой для построения модели взаимодействия.

Изначальные пресуппозиции респондентов относительно робота допускали его позицию ниже человека. Во время взаимодействия студенты воспринимали робота в роли таймкипера (позиция выше) как равного живого субъекта, робота включали в неформальное взаимодействие. В данной работе анализировались только обращения к роботу и указание на него в речи респондентов.

Важно отметить, что были обнаружены различия между представлениями о роли робота в целом, роли в конкретном дискурсе и поведении в непосредственном взаимодействии. Результаты показали, что комплексный подход действительно необходим, так как позволяет получить более полную картину представлений респондентов относительно робота в позиции выше человека. Исследования должны быть продолжены с изучением конкретных дискурсов.

ЛИТЕРАТУРА

1. Breazeal C. Social interactions in HRI: the robot view // IEEE Transactions on Systems, Man, and Cybernetics, Part C: Applications and Reviews. 2004. Vol. 34, № 2. P. 181-186.

2. Shahid S., Krahmer E., Swerts M. Child-robot interaction across cultures: How does playing a game with a social robot compare to playing a game alone or with a friend? // Computers in Human Behavior. 2014. Vol. 40. P. 86-100.

3. Ferrer G., Garrett A., Sanfeliu A. Robot companion: A social-force based approach with human awareness-navigation in crowded environments // Intelligent robots and systems (IROS), 2013 IEEE/RSJ international conference on. IEEE, 2013. P. 1688-1694.

4. Gladden M.E. The Social Robot as 'Charismatic Leader': A Phenomenology of Human Submission to Nonhuman Power // Sociable Robots and the Future of Social Relations: Proceedings of Robo-Philosophy 2014. 2014. Vol. 273. P. 329.

5. Cormier D. et al. Would you do as a robot commands? an obedience study for human-robot interaction // International Conference on Human-Agent Interaction. 2013. URL: https://pdfs.semanticscholar.org/eb2b/e87b7d18e65cfb0b0008615f70aabefe0-c06.pdf

6. Chidambaram V., Chiang Y.H., Mutlu B. Designing persuasive robots: how robots might persuade people using vocal and nonverbal cues // Proceedings of the seventh annual ACM/IEEE international conference on Human-Robot Interaction. ACM, 2012. P. 293-300.

7. Siegel M., Breazeal C., Norton M.I. Persuasive robotics: The influence of robot gender on human behavior // Intelligent Robots and Systems, 2009. IROS 2009. IEEE/RSJ International Conference on. IEEE, 2009. P. 2563-2568.

Не можете найти то, что вам нужно? Попробуйте наш сервис подбора литературы.

8. Ham J. et al. Making robots persuasive: the influence of combining persuasive strategies (gazing and gestures) by a storytelling robot on its persuasive power // International conference on social robotics. Springer Berlin Heidelberg, 2011. P. 71-83.

9. Lee S.A., Liang Y. The role of reciprocity in verbally persuasive robots // Cy-berpsychology, Behavior, and Social Networking. 2016. Vol. 19, № 8. P. 524-527.

10. AhmadM.I., Mubin O., Orlando J. Understanding behaviours and roles for social and adaptive robots in education: teacher's perspective // Proceedings of the Fourth International Conference on Human Agent Interaction. ACM, 2016. P. 297-304.

11. Kidd C.D., Breazeal C. Robots at home: Understanding long-term human-robot interaction // Intelligent Robots and Systems, 2008. IROS 2008. IEEE/RSJ International Conference on. IEEE, 2008. P. 3230-3235.

12. Agrawal S., Williams M.A. Robot Authority and Human Obedience: A Study of Human Behaviour using a Robot Security Guard // Proceedings of the Companion of the 2017 ACM/IEEE International Conference on Human-Robot Interaction. ACM, 2017. P. 57-58.

13. Bartneck C. et al. The influence of robot anthropomorphism on the feelings of embarrassment when interacting with robots // Paladyn, Journal of Behavioral Robotics. 2010. Vol. 1, № 2. P. 109-115.

14. Geiskkovitch D.Y. et al. Please Continue, We Need More Data: An Exploration of Obedience to Robots // Journal of Human-Robot Interaction. 2015. Vol. 5, № 1. P. 82-99.