Научная статья на тему 'СОЦИАЛЬНЫЕ АСПЕКТЫ ВЗАИМОДЕЙСТВИЯ ЧЕЛОВЕКА И РОБОТА: ОПЫТ ЭКСПЕРИМЕНТАЛЬНОГО ИССЛЕДОВАНИЯ'

СОЦИАЛЬНЫЕ АСПЕКТЫ ВЗАИМОДЕЙСТВИЯ ЧЕЛОВЕКА И РОБОТА: ОПЫТ ЭКСПЕРИМЕНТАЛЬНОГО ИССЛЕДОВАНИЯ Текст научной статьи по специальности «Психологические науки»

CC BY
558
94
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ВЗАИМОДЕЙСТВИЕ ЧЕЛОВЕКА И РОБОТА / СОЦИАЛЬНЫЙ РОБОТ / ФАКТОРНЫЙ ОПРОС / ВИНЬЕТКА / ЗЛОВЕЩАЯ ДОЛИНА / АЛГОРИТМИЗАЦИЯ

Аннотация научной статьи по психологическим наукам, автор научной работы — Абрамов Роман Николаевич, Катечкина Виктория Михайловна

Социокультурные изменения и технологические новации заставляют пересмотреть привычные социальные классификации и включить в поле рассмотрения социологии объекты, которые порождены научно-техническим прогрессом. В частности, это относится к материализованным неосоциальным субъектам, которых называют «социальными роботами» и которые могут проявляться в материальной и нематериальной формах. К субъектам взаимодействия можно отнести всевозможных голосовых помощников, чат-боты, социальных роботов, которые порой задействуются в социальной интеракции подобно людям. Наше исследование - попытка раскрыть особенности восприятия людьми появление особых интеллектуальных систем - социальных роботов в повседневных ситуациях. Первая часть статьи посвящена обзору основных теоретических подходов в социологии к изучению взаимодействия робота и человека с акцентом на барьеры и страхи такого взаимодействия. Затем описывается методология исследования, которой стал факторный опрос с помощью метода виньеток, представляющий собой вымышленное краткое описание определенного объекта, индивида или ситуации, куда заложены систематически варьирующиеся экспериментальные факторы. Участие в исследовании приняли студенты московских вузов в возрасте от 18 лет. По результатам исследования восприятие взаимодействия человека и робота опосредовано рядом социокультурных феноменов, сохранялась тенденция на более высокие оценки допустимости гуманоидного робота в любых ситуациях, но также заметен и контраст оценок в зависимости от ситуации для андроидного робота. Исследование позволило комплексно оценить важность факторов в восприятии неоморфных субъектов, наиболее часто упоминаемых в тематических научных публикациях. Потенциальная научная ценность работы заключается в широте охвата разнообразных факторов и апробации метода факторного опроса для оценки восприятия взаимодействия с неоморфными субъектами на примере роботов. Результаты исследования могут стать для разработчиков практическим ориентиром, как сделать социальные интерфейсы более приемлемыми и понятными для людей - в этом потенциальная практическая ценность работы.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по психологическим наукам , автор научной работы — Абрамов Роман Николаевич, Катечкина Виктория Михайловна

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

SOCIAL ASPECTS OF HUMAN-ROBOT INTERACTION: EXPERIMENTAL RESEARCH EXPERIENCE SOCIAL ASPECTS OF HUMAN-ROBOT INTERACTION: EXPERIMENTAL RESEARCH EXPERIENCE

Modern cultural and technological changes have contributed to the expansion of social artifacts, including the involvement in the society of initially (non) social, that is, objects that do not act like people. This applies to materialized neo-social subjects, namely, the so-called social robots, manifested in material and non-material forms. The subjects of interaction include all kinds of voice assistants, chatbots, and social robots, which are sometimes involved in society as if they were people. Our study is an attempt to reveal the peculiarities of people’s perception of the emergence of special intelligent systems - social robots in everyday situations. The first part of the article is devoted to an overview of the main theoretical approaches in sociology to the study of the interaction between a robot and a person, with an emphasis on the barriers and fears of such interaction. Then the research methodology is described, which has become a factorial survey using the vignetting method, which is a fictional brief description of a certain object, individual, or situation, which contains systematically varying experimental factors. Students of Moscow universities aged 18 and over took part in the study. According to the results of the study, the perception of human-robot interaction was mediated by a number of sociocultural phenomena and there was a tendency for higher assessments of the admissibility of a humanoid robot in all situations, but the contrast in assessments depending on the situation for an android robot was also noticeable. The study made it possible to comprehensively assess the importance of factors in the perception of neomorphic subjects, which are most often mentioned in thematic scientific publications. The potential scientific value of the work lies in the breadth of coverage of various factors and the approbation of the factorial survey method for assessing the perception of interaction with neomorphic subjects using the example of robots. The results of the study can become a practical guide for developers on how to make social interfaces more acceptable and understandable to people - this is the potential practical value of the work.

Текст научной работы на тему «СОЦИАЛЬНЫЕ АСПЕКТЫ ВЗАИМОДЕЙСТВИЯ ЧЕЛОВЕКА И РОБОТА: ОПЫТ ЭКСПЕРИМЕНТАЛЬНОГО ИССЛЕДОВАНИЯ»

исследования технологий

социальные аспекты взаимодействия человека И РОБОТА: ОПЬ1Т ЭкСПЕРИМЕНТАЛЬНОГО

исследования

Роман Николаевич Абрамоваб ([email protected]), Виктория Михайловна Катечкинаа

а Национальный исследовательский университет «Высшая школа экономики»,

Москва, Россия

б Федеральный научно-исследовательский социологический центр РАН,

Москва, россия

Цитирование: Абрамов Р.Н., Катечкина В.М. (2022) Социальные аспекты взаимодействия человека и робота: опыт экспериментального исследования. Журнал социологии и социальной антропологии, 25(2): 214-243. https://doi.Org/10.31119/jssa.2022.25.2.9

Аннотация. Социокультурные изменения и технологические новации заставляют пересмотреть привычные социальные классификации и включить в поле рассмотрения социологии объекты, которые порождены научно-техническим прогрессом. В частности, это относится к материализованным неосоциальным субъектам, которых называют «социальными роботами» и которые могут проявляться в материальной и нематериальной формах. К субъектам взаимодействия можно отнести всевозможных голосовых помощников, чат-боты, социальных роботов, которые порой задействуются в социальной интеракции подобно людям. Наше исследование — попытка раскрыть особенности восприятия людьми появление особых интеллектуальных систем — социальных роботов в повседневных ситуациях. Первая часть статьи посвящена обзору основных теоретических подходов в социологии к изучению взаимодействия робота и человека с акцентом на барьеры и страхи такого взаимодействия. Затем описывается методология исследования, которой стал факторный опрос с помощью метода виньеток, представляющий собой вымышленное краткое описание определенного объекта, индивида или ситуации, куда заложены систематически варьирующиеся экспериментальные факторы. Участие в исследовании приняли студенты московских вузов в возрасте от 18 лет. По результатам исследования восприятие взаимодействия человека и робота опосредовано рядом социокультурных феноменов, сохранялась тенденция на более высокие оценки допустимости гуманоидного робота в любых ситуациях, но также заметен и контраст оценок в зависимости от ситуации для андро-идного робота. Исследование позволило комплексно оценить важность факторов в восприятии неоморфных субъектов, наиболее часто упоминаемых в тематических научных публикациях. Потенциальная научная ценность работы заключается в широте охвата разнообразных факторов и апробации метода факторного опроса

для оценки восприятия взаимодействия с неоморфными субъектами на примере роботов. Результаты исследования могут стать для разработчиков практическим ориентиром, как сделать социальные интерфейсы более приемлемыми и понятными для людей — в этом потенциальная практическая ценность работы. Ключевые слова: взаимодействие человека и робота, социальный робот, факторный опрос, виньетка, зловещая долина, алгоритмизация.

Введение

Современные культурные и технологические изменения способствовали расширению номенклатуры артефактов социальности — в общественные отношения и коммуникации включаются персонифицированные и обретшие субъективацию «нечеловеческие» объекты. К подобным субъектам взаимодействия (назовем их неосоциальными) можно отнести всевозможных голосовых помощников, чат-боты, социальных роботов, которые порой задействуются в обществе так, будто они являются людьми (Катерный 2017). При этом полноценный автономный искусственный интеллект пока еще не создан, а это направление развития технологий сталкивается с большим числом этических дилемм (см., например: Азимов 2008; Bonnefon et al. 2016). Острые дискуссии вызывает все более глубокие интервенции подобных технологий в повседневную жизнь, а также неоднозначные ценностные последствия их применения.

С одной стороны, теоретиками уже давно развиваются и обсуждаются концепции, характеризующие влияние автоматизированных технологий на общество. Одни постулируют возможность и неизбежность внедрения интеллектуальных социальных систем, в том числе в обычную жизнь (см., например: Кастельс 2000), другие же говорят о риске крайней дегуманизации человека и необходимости переосмысления роли этих технологий в контексте информационно-технологического развития (см., например: Clark, Chalmers 1998). С другой стороны, на практике наблюдается активное распространение цифровых технологий, способных взаимодействовать с человеком в социальном смысле, — чат-боты, голосовые помощники, роботы-операторы справочных служб, роботы — домашние животные, роботы-сиделки. Исследователи говорят о социальной автономности роботов в процессе поведенческого взаимодействия с людьми (Mohammad, Nishida 2015). Более того, известны случаи попыток замены человека роботами, в том числе в России (РИА Новости 2020; Рамблер 2019). Это вызвало неоднозначную реакцию общества, что неудивительно, поскольку, по данным опросов ВЦИОМ, 51 % россиян с недоверием относятся к перспективам замены людей искусственным интеллектом во многих

сферах деятельности (ВЦИОМ 2019). Тем не менее в настоящее время наблюдается все больше ситуаций «столкновения» и взаимодействия с роботами как неосоциальными субъектами. Особую роль в неизбежности и ускорении роботизации сыграла пандемия COVID-19: в периоды всплесков заболеваемости и жестких локдаунов любая работа, подразумевающая взаимодействие между людьми, расценивалась как опасная (Бер-реби, Шевчук 2020), что привело к расширению сферы применения роботов в качестве альтернативы людям.

До настоящего времени не сложилось единого общепринятого стандарта определения социального робота. В общих чертах большинство исследователей включают в понятие «социальный робот» обязательный компонент возможности социального взаимодействия (Fong et al. 2003; Breazeal 2004; Hegel et al. 2009; Breazeal et al. 2016), однако здесь имеется ряд нюансов.

Исторически исходное значение, заложенное в определение «социальности» робота, подразумевало его способность взаимодействовать с себе подобными (роботами) для совместного достижения определенного результата (Beckers et al. 1994; Beni 2004). Вместе с развитием сервисной робототехники в 1980-1990-х годах появились попытки концептуализации возможности взаимодействия робота с человеком на уровне понятий. Например, предложенное Даффи и коллегами разграничение «societal robot» — тип робота, способного к социальному взаимодействию с человеком, и «social robot» — тип робота, способного к взаимодействию в социальном контексте с другими роботами, так называемое multi-robot interaction (Зильберман, Стефанцова 2016; Duffy et al. 1999). Подобные трансформации в понимании социальности робота, по всей видимости, являются следствием не только развития технологий, но и их принятия в обществе: с течением времени технологии становятся неотъемлемым элементом повседневности, но процесс их интеграции нередко бывает затяжным и даже затруднительным. Особенно ярко это заметно в контексте интеллектуальных автономных технологий (подобных роботам-сиделкам и помощникам по дому), которые в перспективе могли бы претендовать на статусы, близкие к человеку.

Определение социальных роботов также предложено Хигелом и коллегами, которые акцентируют внимание на обязательном наличии у робота социального интерфейса — всех характеристик, позволяющих потенциальному пользователю приписывать роботу социальные качества (Зильберман 2014; Hegel et al. 2009). Иными словами, социальный интерфейс подразумевает имитацию коммуникативного взаимодействия между людьми, с тем отличием, что оно происходит между человеком

и роботом. В социальный интерфейс включаются главным образом автономность робота, согласование рефлексов на уровне речи, жестов и мимики, способность к управлению диалогом и обмену репликами, а также представления о намерении собеседника и внешний вид робота. Эти характеристики обеспечиваются программным содержанием робота и его дизайном.

Отдельно стоит рассмотреть спорность аспекта автономности робота, который имеет, по всей видимости, исключительно ситуативный характер. Дело в том, что индивид, взаимодействующий с роботом, в моменте общения не способен определить степень автономности робота. Это отчасти доказано распространением дизайна исследования в области восприятия роботов, получившим название «Волшебник страны Оз». При таких дизайнах в эксперименте участвуют роботы, которые дистанционно контролируются экспериментатором, но участники эксперимента об этом не осведомлены. В такого рода экспериментах важен фактор, когда перед испытуемым находится объект, который демонстрирует социальные характеристики, но внешне не является человеком. Поэтому важнейшая составляющая социального интерфейса — внешний облик, отдаленно отсылающий к человеку, иногда именуемый «культурным интерфейсом» (Галкин, Сербин 2013; Манович 2018; Hegel et al. 2009). Именно он в большей степени позволяет людям приписывать некому субъекту социальные характеристики и менять свое поведение в присутствии этого субъекта за счет эффекта «присутствия другого» (Breazeal 2004; Burnham, Hare 2008; Heyselaar et al. 2015).

Как правило, отсылка к человечности в неодушевленных объектах выражается определенными сигналами — наличием «лица» с глазами или его подобия, а также в структурных элементах, отдаленно напоминающих человеческое тело. Это могут быть четко распознаваемые голова и тело, голова и руки или их подобие, и прочие комбинации. На этом же постулате основана теория антропоморфизма, согласно которой людям свойственно приписывать человеческие характеристики объектам, не являющимся людьми, в зависимости от внешнего вида объекта и социального контекста (Epley et al. 2007). Соответственно при таких условиях человек ожидает от объекта действий, соотносимых с действиями человека. Такая же ориентация на ситуативность и смысловое содержание прослеживается в феноменологической концепции Шюца: рациональное понимание позволяет людям распределять субъективное и символическое значение ситуаций и объектов (Шюц 2003). При этом отмечается важность материального воплощения (physical embodiment) в качестве критерия для большей реальности робота как социального субъекта с точки зрения человека (Breazeal et al. 2016).

Для нашего исследования в определение социального робота будут включены следующие элементы1: социальный робот автономен, т.е. не зависим и не управляем человеком (хотя может обладать различной степенью свободы алгоритмических сценариев), но только с точки зрения того, кто находится в процессе взаимодействия с ним; социальный робот имеет социальный интерфейс и способен поддерживать коммуникацию с собеседником-человеком; для внешнего вида социального робота характерна антропоморфность (выраженность которой может варьироваться); социальный робот имеет материальное воплощение.

Важно отметить, что рабочее определение в рамках настоящего исследования не претендует на универсальность и включает аспекты, наиболее важные с точки зрения социальных характеристик, приписываемых роботу человеком. Поэтому с позиции предложенного определения известные голосовые ассистенты, например 8т или Алиса, не могут быть названы социальными роботами — у них отсутствует материализованный компонент внешности. Кроме того, даже материализованные умные колонки-станции Алиса не удовлетворяют этому условию — их внешний облик не содержит отсылок к антропоморфизму. А, например, РгошоЬо^ ставший сотрудником МФЦ в Перми, как раз может быть назван социальным роботом (РИА Новости 2020).

Наше исследование является попыткой раскрыть особенности восприятия людьми особых интеллектуальных систем — социальных роботов в повседневных ситуациях. В частности, это касается материализованных неосоциальных субъектов — так называемых социальных роботов. На текущий момент робототехника, в том числе социальная, переживает небывалый взлет интереса и технооптимизма, но присутствуют и страхи относительно того, что роботы в какой-то момент своей эволюции неконтролируемо переобучатся и выйдут из-под контроля человека. Можно предположить, что на обыденном уровне субъективно более опасными для обычного человека могут быть признаны роботы, имеющие материализованное воплощение, поскольку они могут составлять непосредственную физическую угрозу. Соответственно возникает вопрос: какие социокультурные и ситуативные особенности отношений между роботом и человеком будут способствовать их эффективному и комфортному взаимодействию? Цель нашего исследования — изучение особенностей проективного восприятия ситуаций повседневного взаимодействия человека и робота в глазах московской студенческой молодежи. Ограничения

1 Исследование осуществлено в рамках Программы фундаментальных исследований НИУ ВШЭ.

такого подхода заключаются в отсутствии непосредственного наблюдения за практиками подобного взаимодействия, но получения опосредованных данных о нем на основе мнений опрошенных.

Одной из потенциальных сложностей исследования может стать отсутствие опыта взаимодействия респондентов с различного вида социальными роботами, которые имеют материальное воплощение. Поэтому применение стандартного анкетирования затруднительно — с учетом того, что респонденты могли ранее не сталкиваться с социальными роботами, их ответы могут носить стихийный неискренний характер. В связи с этим принято решение провести эмпирическое исследование в формате социального квазиэксперимента, основанного на методе факторного опроса с использованием искусственно смоделированных ситуаций — «виньеток». Применение подобного метода позволило проверить воздействие различных факторов на восприятие взаимодействия человека и робота на малой выборке, для которой этот метод может быть применен.

возможности анализа взаимодействия человека с социальным роботом

Анализ взаимодействия человека и робота предполагает применение экспериментальных методов в чистом виде либо в сочетании с опросными методами. Говоря о подходах к изучению интеракции человека и социального робота, можно условно разделить их на две группы: первая базируется на постулате перманентных способов взаимодействия, а вторая подчеркивает динамичность характера взаимодействия, итерации и последующее перестраивание представлений и стратегий действия.

К первой группе относятся работы Насса и коллег (Nass, Moon 2000; Nass 2004; Nass, Brave 2006), которые, исследуя вербальное взаимодействие людей с компьютерами и роботами, пришли к выводу, что люди склонны реагировать на поведение компьютера так же, как делают это в случае с реальными людьми, или неживой объект, в некоторой степени схожий с человеком, наделяют человеческими характеристиками (например, ген-дер, национальность). Иными словами, люди просто переносят уже привычные способы взаимодействия с человеком на контекст взаимодействия с компьютером, что является, по сути, «бессмысленным переносом» (mindless transfer). При этом само существование «бессмысленного переноса» объясняется исследователями как некая ошибка, вызванная длительной эволюцией внутри различных социальных сред (Nass 2004). Также к первой группе подходов относится тезис о наличии специализированного «традиционного» способа общения с компьютером или робо-

том либо же полная адаптация аналогичного специфического способа общения из другой сферы социальных отношений.

Вторая группа подходов более универсальна по сравнению с первой, в том смысле что она способна учитывать межличностные различия в способах взаимодействия людей с роботами. В к ней относятся работы Крестин Фишер и коллег (Fischer 2006; 2011; Fischer et al. 2011). Из отечественных последователей этого подхода можно выделить Алису Максимову (Максимова 2020). Сторонники подхода, ориентированного на си-туативность поведения человека в контексте взаимодействия с роботом, спорят со сторонниками теории «бессмысленного переноса». Их аргумент в том, что нельзя с уверенностью сказать, все ли пользователи относятся к роботам как к социальным субъектам, а следовательно, перенос тактик взаимодействия с социальным субъектом на взаимодействие с функциональным объектом не представляется возможным (Fischer 2011). В одном из исследований продемонстрировано, что адаптация человека к роботу напрямую зависит от обратной связи, которую предоставляет робот, а отклонения и вариации возникают в тех случаях, когда подобная обратная связь недоступна (Fischer et al. 2011). К подобным выводам пришла и Алиса Максимова, исследуя конверсационные барьеры в общении человека с роботом (Максимова 2020). Также Крестин Фишер утверждает, что невозможно выделить предзаданные четкие характеристики взаимодействия с роботом — типичные действия человека в подобных ситуациях. Вместо этого она выдвигает тезис, что люди не опираются полностью на изначальные культурные представления о роботе как о «неосоциальном» агенте, а в столкновении с ними совершают пробные шаги и отслеживают последствия. Так обнаруживаются возможности и ограничения в ходе взаимодействия и совершается следующее действие со стороны человека (Fischer 2011). Подобная «итерационность» и учет индивидуальных различий лежат в основе второй группы подходов.

Исходя из этого логичнее было бы рассмотреть восприятие взаимодействия робота и человека в определенной ситуации как возможную трансформацию повседневного фрейма взаимодействия людей. Для нашего исследования видится важность учета индивидуальных различий респондентов и постулат отсутствия перманентного специализированного способа взаимодействия с роботом, поскольку тогда будет проявлена значимость ситуации — социального контекста, а также смыслов, которые в ней производятся. С этой точки зрения на восприятие взаимодействия с социальным роботом могут повлиять как характеристики самого робота, так и ситуации воспринимающего индивида. В качестве референта для операционализации восприятия использованы наработки адаптации

единой теории принятия и использования технологии человеком (UTAUT) для роботов в трудах Луиджи и коллег (Looije et al. 2006). С помощью этой методики изучалось принятие людьми различных социальных интерфейсов роботов, а участникам предлагалось ответить на вопросы о принятии и сопереживании интерфейсу — его общей допустимости, а также о доверии интерфейсу непосредственно после взаимодействия с ним. Поскольку в приведенном исследовании разрабатывались принципы оценки деятельности роботов, оказывающих медицинскую помощь, «доверие» технологии более ярко раскрывается в том, что ее присутствие заменяет человека. Иными словами, целесообразна эта замена или нет.

Таким образом, для настоящего исследования восприятие взаимодействия человека и робота можно разделить на восприятие допустимости присутствия робота и целесообразности замены человека роботом. В данном случае допустимость охватывает аспекты уместности и корректности действий робота в рамках повседневной ситуации, а целесообразность — непосредственно отношение к замене человека неоморфным социальным субъектом в повседневной ситуации. Также очень важно в дальнейшем разработать методологию исследования таким образом, чтобы была возможность измерить вышеперечисленные показатели с учетом социального контекста, индивидуальных различий респондентов, а также социального и, в большей степени, культурного интерфейса робота. Далее более подробно рассмотрим каждый из этих факторов на примере существующих эмпирических исследований.

Культурный интерфейс — внешний вид социального робота

Как уже упоминалось, при наделении социальными характеристиками робота важен в первую очередь его внешний вид, отличающийся антропоморфностью. Согласно этой логике, чем больше некий объект похож на человека, тем лучше, соответственно, он с большей вероятностью наделяется социальными качествами и считается приемлемым в конкретной ситуации. Однако в действительности это работает не совсем корректно. Явным доказательством тому служит эффект «зловещей долины», выявленный японским робототехником Мори (Mori 1970; переведено в 2012 г.). Суть эффекта в отторжении, возникающем при восприятии неживых объектов, максимально реплицирующих человека или части его тела. На основании данных эксперимента Мори построил график, отражающий явный спад после определенного предела схожести с человеком, этот спад и получил название «зловещей долины».

На графике по оси абсцисс объекты были ранжированы по степени схожести с человеком, где 100 % — живой здоровый человек. По оси орди-

нат отмечена привлекательность. Соответственно в «зловещую долину» попадает труп, протез руки с имитацией кожи и зомби. Что интересно, на графике присутствует гуманоидный робот и его привлекательность довольно высока, однако следует учитывать, что в эксперименте использовался игрушечный робот, лишь отдаленно отсылающий к облику человека. Соответственно встает вопрос о классификации роботов по степени выраженности антропоморфизма. Сложившейся классификации не существует, однако на основе ряда работ (Breazeal 2004, Mori 1970; Breazeal et al. 2016; Катерный 2017) можно представить возможности такой классификации. Существуют роботы, максимально имитирующие внешний вид человека как структурно (общие формы внешнего вида робота), так и в отношении материалов (синтетическая кожа естественного оттенка, волосы и пр.). Таких роботов часто называют андроидными. В то же время любые другие роботы, хотя бы частично реплицирующие человека, называются гуманоидными роботами. Причем здесь речь может идти о разной степени сходства, но чаще всего присутствует часть его структурного компонента — различимые формы глаз, головы, рук, ног и их сочетания. В итоге, сопоставляя это с исследованием Мори, более высокий риск оказаться в «зловещей долине» имеют именно андроиды: хотя для них и свойственна максимальная схожесть с человеком, люди все еще в состоянии отличить себе подобных от роботов и неприятие может возникнуть.

Среди возможных причин возникновения эффекта «зловещей долины» выделяются теория нарушения ожиданий и теория негативных установок (Катерный 2017). Первая предполагает, что взаимодействие с роботами, особенно похожими на человека, нарушает паттерн повседневных микроповеденческих взаимодействий, поскольку здесь важно понятие любого действия как результата реализации правильно понятых ожиданий. Производимые ожидания приписываются партнеру, и с этой точки зрения роботы в силу несовершенства подражания человеку нарушают понятный паттерн. Вместе с тем имеет место распространенное в массовой культуре позиционирование роботизации как негативного феномена, угрожающего не только уникальности человека, но и самому его физическому существованию. Транслируемые особенно интенсивно через кинематограф, литературу, СМИ, эти негативные установки становятся причиной появления эффекта «зловещей долины» при взаимодействии с роботами. Соответственно предполагается, что гуманоидный внешний вид робота будет предпочтительнее андроидного, а также внешний вид робота будет иметь наибольшие значение при оценке его допустимости и целесообразности.

Структура речи робота

Структура речи робота является частью социального интерфейса и подразумевает не только то, как говорит робот, но и его действия в ситуации, когда он не в состоянии распознать сказанное человеком (Fischer 2006; Максимова 2020). Опять же ключевую роль играет фактор сходства речи и ситуативных поведенческих проявлений робота с человеческими, по аналогии с внешним видом робота. Аналогичным образом речь робота будет подвержена ожиданиям от партнера в рамках поведенческого паттерна, и здесь также может прослеживаться влияние негативных установок по отношению к роботам. Однако в отношении речи не выявлено феноменов, подобных «зловещей долине»: предполагается, что большая схожесть речи робота с человеческой будет приближать взаимодействие человека с роботом к привычному паттерну взаимодействия человека с человеком.

Ситуация взаимодействия

Опираясь на работы Крестин Фишер об итерационном характере взаимодействия человека с роботом, в рамках которого человек непрерывно совершает пробные шаги и отслеживает их последствия в зависимости от ситуативного контекста (Fischer 2006; 2011), логично допустить, что взаимодействие с роботом в ситуации формальной, когда подразумевается четкая цель взаимодействия, в которой язык — лишь средство ее достижения, а взаимодействие, как правило, однократно, будет несколько отличаться от ситуации неформальной (small talk), когда допустимым и даже желательным будет более живая ответная реакция собеседника, шутки, возможность выстраивания отношений от взаимодействия к взаимодействию.

Ситуация взаимодействия напрямую влияет на поведенческие ожидания, в том числе благодаря стереотипным статусно-ролевым характеристикам. Эти характеристики заимствуются из уже сложившихся норм взаимодействия между людьми таким образом, что робот становится заменой одного из субъектов взаимодействия. Согласно этому можно выделить три модели взаимодействия с роботом в зависимости от его статуса (Зильберман 2017): «робот-помощник», где статус робота ниже статуса человека, «робот-компаньон», где статус робота примерно равен статусу человека, и «робот-управляющий», где статус робота выше статуса человека. Обычно из-за транслируемых негативных установок в отношении роботов сочетание человека и робота-управляющего воспринимается особенно сензитивно и негативно. Робот-помощник, напротив, считается самым приемлемым, а робот-компаньон менее приемлемым,

но все же не настолько, как робот-управляющий. Этот факт проверен и на российской выборке исследованием восприятия населением взаимодействия с роботами ИСИЭЗ НИУ ВШЭ (2015), которое показало, что в ситуациях, когда конечное решение принимает человек, а действия робота имеют скорее консультативный характер и подчинены воле человека (например, часть работы по дому, доставка покупок из магазина, юридическая консультация), робот будет считаться приемлемым. Напротив, в ситуациях, когда робот начинает претендовать на субъектность (например, свободный разговор на интересующую тему, проведение хирургической операции, управление автомобилем), это становится менее приемлемым за счет непривычности и дискомфорта пользователей. Соответственно выдвигаемая гипотеза в том, что более предпочтительным будет взаимодействие с социальным роботом в формальной ситуации.

Гендерные аспекты

Гендер как детерминанта взаимодействия интересен для рассмотрения как для робота, так и для человека, с ним взаимодействующего. Кроме того, важно понимать, как гендер влияет на восприятие социального робота, и учитывать это при анализе эмпирических данных, касающихся взаимодействия с роботом (Siegel, Breazeal, Norton 2009). Так, исследователями отмечается значимость пола говорящего, который выступает фактором, задающим определенный контекст ситуации взаимодействия. Это справедливо как для этнометодологических исследований в целом (см., например: Schegloff 1997), так и для непосредственно исследований взаимодействия человека и робота. Но при этом в исследованиях социолингвистических аспектов таких взаимодействий делаются выводы о неоднородности языкового поведения людей при общении с роботами — иногда статистически значимый эффект пола говорящего-робота и пола отвечающего-человека есть, а иногда его нет (Fischer 2006). Несмотря на это, в другом исследовании было выявлено, что соотнесение социального интерфейса с женским полом делает пользователей более лояльными к ситуативным нарушениям паттерна взаимодействия (Хонинева 2017). Вероятнее всего, это вызвано проявлением гендерных стереотипов — различений социальных ролей мужчин и женщин при помощи образов жены — хранительницы очага и мужчины-добытчика, транслирующихся в обществе (Stockard, Johnson 1992).

При этом гендерные стереотипы считаются асимметричными в том смысле, что зачастую феминность ассоциируется с подчиненным и вторичным, а маскулинность — с доминантным и первичным. Отсюда и меньшие ожидания касательно ситуативных проявлений деятельности в кон-

тексте статуса женщины. Таким образом, социальные роботы и особенно их социальные интерфейсы подвержены влиянию дихотомии «маскулинность — фемининность». Это прослеживается и в другом исследовании, где роботы, внешне отсылающие к мужскому облику, признавались более деятельными и практичными, чем роботы, внешний облик которых был подобен женскому (Eyssel, Hegel 2012).

Углубленные знания в области компьютерных и инженерных технологий

Со стороны людей во взаимодействии с социальным роботом также могут наблюдаться отличия. Так, Крестин Фишер не раз упоминает в своих работах, что углубленные знания и опыт в области компьютерных технологий делают людей более открытыми и терпеливыми к роботам (Fischer 2006; 2011). Фишер связывает это с наличием представлений о возможностях социального интерфейса робота: на что он способен, а на что нет. Поскольку в ее работах говорится, что взаимодействие с роботами в случае обывателей и абстрактных «инженеров и программистов» может различаться, возникает ряд вопросов. С одной стороны, не до конца понятно, где именно находится граница между рядовыми пользователями и профессионалами, имеющими представление об алгоритмах, заложенных в робота, и иных его технических характеристиках. К тому же, если речь идет о базовых навыках программирования и представлениях о возможностях того или иного программного обеспечения, можно сказать, что на практике даже многие непрофессионалы в силу своих интересов могут обладать необходимыми знаниями. С другой стороны, «инженеры и программисты» в условиях современного мира могут быть как любителями-самоучками, так и дипломированными специалистами.

Метод

Примеры исследований взаимодействия человека и робота носят преимущественно экспериментальный характер. Более того, большинство исследований в этой области сфокусированы непосредственно на восприятии самого робота человеком (см., например: Mori 2012; MacDorman, Entezari 2015; Heyselaar et al. 2015), а в изучении взаимодействия используются алгоритмы и скрипты, по которым действуют роботы, в качестве возможных факторов, детерминирующих процесс взаимодействия с людьми (Fischer 2006; 2011; Максимова 2020). Наше исследование концентрируется на этом феномене в ином ключе — непосредственно на восприятии внедрения робота как «неосоциального» объекта в повседневные ситуации. Именно поэтому метод факторного опроса видится необходимой

компонентой исследования, призванной смоделировать повседневные ситуации взаимодействия человека с роботом и оценить влияние на них ряда факторов.

Основой факторного опроса выступает виньетка — это зачастую вымышленное краткое описание определенного объекта, индивида или ситуации, в которое закладываются систематически варьирующиеся экспериментальные факторы (Девятко 2007). Виньетки используются в качестве стимулов для респондентов, а затем им предлагается ответить на оценочные вопросы относительно ситуации или описания, заданного в виньетке — такова, в сущности, процедура факторного опроса (Warr 1990). Изменение факторов в каждой виньетке позволяет анализировать причинно-следственные связи, субъективно выстраиваемые респондентами, и делать выводы о предположительном влиянии выбранных факторов на восприятие, установки и мнения.

Метод виньеток хорош в сравнении с эксплицитными опросами благодаря устойчивой неподверженности социально одобряемым ответам (Alexander, Becker 1978). Более того, респонденты не всегда способны осознавать причины своих ответов и не могут оценить тех или иных факторов, влияющих на их окончательное решение. Метод виньеток, с одной стороны, значительно упрощает процесс оценки для респондентов, а с другой — позволяет исследователю выявить имплицитные детерминанты оценок и суждений респондентов (Alexander, Becker 1978), в некотором смысле воссоздавая реальный процесс формирования мнения. Использование виньеток в онлайн-среде дает возможность задействовать фото-, аудио- и видеоматериалы, что существенно повышает их «реалистичность», а значит, и качество виньеток и валидность результатов (Pierce, Aguinis 1997; Caro et al. 2012).

Но при существенном количестве факторов и/или их уровней остро встает проблема невозможности оценки респондентами всех составленных виньеток. Возможное решение этой проблемы может состоять в сокращении числа экспериментальных факторов и выборе экспериментального плана.

Экспериментальный план

В общих чертах различают три типа исследовательских планов при использовании метода виньеток: внутрисубъектный, межсубъектный и смешанный (Atzmüller, Steiner 2010). В контексте нашего исследования резонно рассмотреть применение смешанного исследовательского плана, в котором межсубъектные независимые переменные являются субъективными, т.е. индивидуальными, характеристиками респондентов, а не управ-

ляемыми исследователем факторами (как в традиционных смешанных планах). В таком случае респонденты оценивают все составленные виньетки с управляемыми внутрисубъектными факторами, а субъективные факторы используются в качестве межсубъектных. Такие планы получили название факторные планы P х E (person х environment) и в основном применяются в исследованиях поведения в психологии (Гудвин 2004; Woodworth 1938). Использование подобного плана позволит обеспечить максимальную мощность эффектов, что важно в условиях апробации метода виньеток применительно к выбранной тематике. При этом исследование концентрируется на внутренней валидности, без претензии на возможность экстраполирования результатов на генеральную совокупность.

Для преодоления ограничений, связанных с «эффектом переноса» для внутрисубъектных переменных, нами использована процедура частичного позиционного уравнивания. Она подразумевает случайную последовательность демонстрации виньеток для каждого респондента (Reynolds 1992). С целью обеспечения эквивалентности групп респондентов критичной для исследований с включением межсубъектных субъективных переменных использована процедура уравнивания, что выражается в корректировке собранных данных с учетом необходимых квот по каждому из признаков.

Участники исследования

Участие в исследовании приняли студенты московских вузов в возрасте от 18 лет, исследование проводилось в 2021 г. В дизайне выборки присутствовали две ступени отбора: вуз и респондент. На первом этапе список из 289 московских вузов (КонсультантПлюс 2021) был разбит на две страты, репрезентирующие вузы преимущественно технической направленности (29) и вузы иной направленности (260). Далее с помощью генератора случайных чисел из двух страт было отобрано по пять целевых вузов.

На втором этапе отбора производился поиск респондентов через группы попавших в выборку вузов в социальной сети «ВКонтакте», он-лайн-опрос распространялся через личные сообщения подписчикам групп. Критерием для отправления опроса являлось указание в профиле потенциального респондента его пола, вуза и образовательной специальности. Этот этап выборки основан на добровольном самоотборе респондентов. Основной задачей было обеспечить равную наполненность подгрупп внутри межсубъектных субъективных факторов «пол» и «профиль образования» для обеспечения статистически корректного анализа и минимизации смещений, вызванных распределением выборки.

В исследовании приняли участие 158 студентов, но только 124 из них прошли анкету до конца, этой выборочной совокупности было достаточно для обоснованного анализа методом виньеток. С учетом запросов выборки и необходимости корректировки наполненности групп валидными признаны только 120 ответов, из них 30 от юношей с технических направлений, 30 от юношей с иных направлений, 30 от девушек с технических направлений и 30 от девушек с иных направлений. Возраст участников исследования составил от 18 до 29 лет, средний возраст 21,7 лет.

Факторы и их уровни

Прежде всего следует учитывать сложность для респондента при оценивании большого количества виньеток, поэтому потребовалось максимально ограничить количество внутрисубъектных факторов и уровней в них. Таким образом, в исследовании рассматриваются следующие типы факторов.

Внутрисубъектные факторы — характеристики социального робота и ситуации взаимодействия, которые заложены в виньетки, каждую из которых предлагалось оценить всем респондентам:

Фактор 1. «Внешний вид робота». Этот фактор репрезентирует внешний облик социального робота. Соответственно уровни фактора: андроидный робот — максимально реплицирующий внешность человека, в том числе кожу и волосы, и гуманоидный робот — отдаленно отсылающий к внешности человека. Сам фактор заложен в виньетки в качестве картинки, отражающей тот или иной облик робота, для достижения максимальной реалистичности виньетки.

Примечательно, что для корректной оценки воздействия этого фактора на ответ респондентов следовало бы использовать три уровня: «гуманоидный робот», «андроидный робот, отсылающий к женскому полу» и «андроидный робот, отсылающий к мужскому полу». Но, поскольку нам было необходимо максимально ограничить число уровней в факторах, а также по результатам пилотажа оценка респондентами существенно большего количества виньеток с включением трех уровней фактора «внешний вид робота» повлекла ожидаемые трудности, было решено оставить только женский андроидный облик. Предполагается, что меньшие ситуативные ожидания в отношении женского облика компенсируют эффект «зловещей долины».

Фактор 2. «Структура речи робота». Данный фактор предполагает два полярных определения — более компьютеризированная и четкая речь против более живой, максимально имитирующей человеческую, по аналогии с фактором «внешний вид робота». Структура речи робота под-

разумевает не только текстовое описание того, как говорит робот, но и описание ситуаций, когда робот не в состоянии распознать сказанное человеком.

Фактор 3. «Ситуация взаимодействия». Уровни фактора: формальная ситуация взаимодействия и неформальная ситуация взаимодействия. Опираясь на реальный случай замены работника МФЦ антропоморфным роботом в тестовом режиме (РИА Новости, 2020), было решено воспользоваться этим в качестве репрезентации формальной ситуации взаимодействия, более того, процедура оформления документов через МФЦ знакома респондентам — как минимум в 14 и в 20 лет возникает необходимость получения и замены российского гражданского паспорта в соответствии с законодательством (Постановление Правительства РФ N 828). Таким образом, ситуация в виньетке будет реалистичной и хорошо знакомой. Что касается ситуации неформального взаимодействия — выбрана домашняя обстановка для максимального контраста описываемых ситуаций.

Межсубъектные субъективные факторы — характеристики респондентов, в зависимости от которых предполагается различное восприятие ситуаций, описанных в виньетках.

Фактор 4. «Профиль получаемого образования». Уровни фактора: компьютерно-техническое образование и образование, не связанное с углубленным изучением компьютерных и технических наук. В итоге было решено включить этот фактор, основываясь на профиле получаемого образования как характеристике, которая наиболее точно и просто поддается операционализации в анкете. Таким образом, обучающиеся на специальностях, связанных с математикой, программированием, компьютерными технологиями, техническими науками и инженерией, относятся к получающим «компьютерно-техническое образование», а обучающиеся на иных специальностях — к получающим «образование, не связанное с углубленным изучением компьютерных и технических наук».

Фактор 5. «Пол респондента». Поскольку в случае с первым рассматриваемым фактором возникла необходимость включения робота с внешним видом, отсылающим только к одному полу, кажется логичным и необходимым проконтролировать значимость эффекта взаимодействия пола респондента на его оценки восприятия внешнего вида робота в ситуации взаимодействия. В случае, если эффект взаимодействия пола респондента и внешнего вида робота окажется значимым, можно будет говорить как об ограничениях и недостатках исследования, так и о более глубинных причинах этого эффекта (если эффект взаимодействия будет включать не только два указанных фактора).

Рис. Пример виньетки (ситуация взаимодействия с гуманоидным роботом, формальная обстановка, компьютеризированная речь)

Поскольку в исследовании участвуют три внутрисубъектных фактора, каждый с двумя уровнями, суммарно каждому респонденту предлагалось оценить восемь виньеток с неповторяющимися комбинациями уровней указанных факторов.

В качестве примера представим виньетку, где описано взаимодействие в формальной обстановке с гуманоидным роботом, речь которого компьютеризирована (рис.).

К каждой виньетке задается по два вопроса: о допустимости в данной ситуации наличия робота в качестве собеседника, где 0 — совершенно недопустимо, а 10 — абсолютно допустимо, а также о целесообразности замены человека роботом в данной ситуации, где 0 — совершенно нецелесообразно, а 10 — абсолютно целесообразно.

Ключевые результаты исследования

Наибольшие средние оценки допустимости и целесообразности наблюдаются для виньетки, где представлена формальная ситуация взаимодействия в МФЦ с гуманоидным роботом, речь которого идентична человеческой. При этом наименьшие средние оценки характерны

для виньетки, которая представляет собой полную противоположность описанной выше по своим характеристикам — неформальная ситуация взаимодействия дома с андроидным роботом, речь которого компьютеризирована.

Интересно заметить, что и в случае допустимости, и в случае целесообразности вторая по наибольшей оценке оказалась виньетка, которая отличается от виньетки с наибольшими оценками только ситуацией взаимодействия — в ней представлена неформальная домашняя обстановка, а вторая виньетка с наименьшей оценкой отличается от виньетки с самой низкой оценкой только идентичностью речи робота человеческой речи. Таким образом, на основании средних оценок самых полярных виньеток и ближайших к ним можно сделать предварительный вывод: внешний вид робота определенно играет роль в оценивании ситуаций взаимодействия с ним, и, возможно, эффект этого фактора будет наибольшим. По всей видимости, компенсировать эффект «зловещей долины» внешним обликом, отсылающим к женщине, не удалось.

При этом оценки допустимости и целесообразности для каждой из виньеток значимы, но крайне слабо коррелируют, поэтому в дальнейшем эти показатели рассмотрены отдельно. Соответственно для них построены две отдельные модели.

Чтобы выявить значимость факторов и их взаимодействий при оценке респондентами виньеток, использована разновидность общей линейной модели — смешанный дисперсионный анализ с повторными измерениями (mixed ANOVARM), с включением в модель трех внутрисубъектных факторов (идентичных условий для респондентов) и двух межсубъектных факторов (индивидуальных характеристик респондентов). Использование такого метода оправдано не только спецификой исследовательского дизайна, но и устойчивостью метода к нарушениям статистических параметров выборки при условии равнонаполненности исследовательских групп (Tabachnick, Fidell 2001; Lunney 1970; Donaldson 1968).

По итогам построения факторных моделей с зависимыми переменными допустимости и целесообразности робота наглядно представим значимые эффекты факторов и взаимодействий в таблице (табл. 1).

Общими выводами для обеих моделей стали мощные значимые эффекты как характеристик робота, так и ситуации, в которой происходит взаимодействие человека с ним. Что интересно, взаимодействие этих трех факторов оказалось незначимым, т.е. эффекты факторов стоит интерпретировать по отдельности. Так, при прочих равных гуманоидный робот оценивался как более допустимый и целесообразный с точки зрения замены человека (F(1,116) = 48,5, p < .001, частный г|2 = 0,295 и F(1,116) = 81,4,

Таблица 1

Сравнение значимых эффектов моделей с зависимыми переменными допустимости и целесообразности

Эффект/взаимодействие Зависимая переменная

Допустимость присутствия робота Целесообразность замены роботом человека

Идентично Внешний вид робота Внешний вид робота

Идентично Речь робота Речь робота

Идентично Ситуация взаимодействия Ситуация взаимодействия

Практически идентично Внешний вид робота х ситуация взаимодействия Внешний вид робота х ситуация взаимодействия

Есть различия Внешний вид робота х речь робота Не обнаружено

Есть различия Внешний вид робота х ситуация взаимодействия х пол респондента х образовательная специальность респондента Не обнаружено

Есть различия Не обнаружено Внешний вид робота х пол респондента х образовательная специальность респондента

р < .001, частный г|2 = 0,412 соответственно). При этом в обеих моделях эффект фактора внешнего вида робота был наибольшим из всех значимых (ориентируясь на частный г|2). Игнорируя все прочие факторы, речь робота, идентичная человеческой, была предпочтительнее (Б(1,116) = 19,1, р < .001, частный г|2 = 0,141 для допустимости и Б(1,116) = 19,1, р < .001, частный г|2 = 0,141 для целесообразности), ровно так же, как и формальная ситуация для взаимодействия робота с человеком (Б(1,116) = 23,6, р < .001, частный г|2 = 0,169 для допустимости и Б(1,116) = 14, р < .001, частный г|2 = 0,107 для целесообразности).

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Также заметны практически идентично выраженные эффекты взаимодействия внешнего вида робота и ситуации в обеих моделях. Несмотря

на предпочтительность гуманоидного облика робота для любой ситуации, андроидный робот оценивался в неформальной обстановке особенно негативно. Вероятнее всего, здесь можно наблюдать следствие эффекта «зловещей долины», сопряженное с разделением физического пространства с машиной. Этот факт, по-видимому, оказывается критичным, поскольку превалирующие негативные установки в отношении роботов постулируют их физическое превосходство над людьми и, как следствие, физическую угрозу обществу. И если в формальной ситуации, где робот, по сути, помогает выполнять запрос человека, статус робота определенно ниже, то в неформальной ситуации это прослеживается не так однозначно. Хотя в ситуациях в виньетках был сделан упор на то, что робот в неформальной ситуации является помощником по дому, все же он рассматривается в контексте диалога и обмена мнениями о музыкальных новинках. Здесь уже можно проследить некие аспекты субъектности робота, его большей автономности от человека и непредсказуемости, нежели в формальной ситуации. Опять же обращаясь к результатам исследования восприятия населением взаимодействия с роботами ИСИЭЗ НИУ ВШЭ (2015), такая логика видится вполне оправданной. Еще более четко это прослеживается в выраженном эффекте взаимодействия факторов внешнего вида робота и ситуации взаимодействия. И для допустимости, и для целесообразности замены роботом человека очевиден тот факт, что андроидный робот, максимально реплицирующий человека, крайне нежелателен в неформальной ситуации.

Далее перейдем к различиям, выявленным для моделей. Очевидно, с точки зрения антропоморфизма речь имеет куда меньшее значение, нежели внешний облик. Взаимодействие этих факторов выявлено только для модели с зависимой переменной допустимости присутствия робота в качестве собеседника. Вспоминая, что в допустимость робота закладывалась уместность и корректность его действий в повседневной ситуации, а в целесообразность — отношение к замене человека таким роботом, подобные результаты вполне оправданны. В рамках оценок допустимости как раз и встает необходимость корректного подстраивания социального интерфейса робота к ситуации. В то время как для целесообразности данный аспект может не являться ключевым — здесь скорее более выражено влияние негативных установок в отношении роботов как детерминант их восприятия. Также это частично подтверждается тем фактом, что усредненные оценки целесообразности замены в усредненной форме были значимо ниже оценок допустимости.

Последние два эффекта взаимодействия (внешний вид робота х ситуация взаимодействия х пол респондента х образовательная специаль-

ность респондента для допустимости и внешний вид робота х пол респондента х образовательная специальность респондента для целесообразности) в целом схожи в том, что они отражают различное восприятие изменения экспериментальных условий для представителей разных полов и образовательных специальностей. Несмотря на это, главные эффекты межсубъектных факторов, отражающих индивидуальные различия между респондентами, оказались незначимыми. Но при этом действие эффектов взаимодействия существенно различается, хотя бы потому что для оценок допустимости в числе прочих особую роль играет ситуативный контекст.

В целом сохранялась тенденция более высоких оценок допустимости гуманоидного робота в любых ситуациях, но также был заметен контраст оценок в зависимости от ситуации для андроидного робота. Так, интересным итогом стали оценки среди женщин различных специальностей. Единственный случай, в котором андроидный робот оценивался выше гуманоидного — формальная ситуация взаимодействия, где студентки технических специальностей показали более высокие оценки, чем студентки нетехнических специальностей. Это можно интерпретировать в том ключе, что, возможно, для женщин, оценивающих с учетом своего образовательного бэкграунда ожидания в отношении поведения робота в формальной ситуации, эти ожидания понятны, поскольку робот помогает человеку в повседневной ситуации, а не претендует на звание самостоятельного субъекта.

Иная ситуация для эффектов взаимодействия факторов в модели с целесообразностью замены роботом человека. Здесь наблюдались стабильно низкие оценки целесообразности андроидного робота для любого пола и образовательной специальности. При этом ярко выражались контрасты в оценках в зависимости от индивидуальных характеристик респондентов для гуманоидного робота. Так, студенты нетехнических специальностей считали более целесообразным заменить человека гуманоидным роботом, чем студенты технических специальностей, а студентки нетехнических специальностей, напротив, считали замену менее целесообразной, чем студентки технических специальностей.

Заключение

Прежде всего необходимо отметить, что вне зависимости от того, расценивали ли респонденты социальных роботов как полноценных социальных неоморфных субъектов или просто как функциональную замену человеку, восприятие взаимодействия человека и робота опосредовано рядом социокультурных феноменов. Например, наивысшие оценки

допустимости присутствия робота в качестве собеседника и целесообразности замены роботом человека были в формальной ситуации, где взаимодействие более четко регламентировано, а «правила игры» в большей степени определены. Одним из критически важных моментов стал внешний облик робота — его культурный интерфейс. Теория антропоморфизма, согласно которой чем больше некий объект похож на человека, тем больше вероятность, что он будет наделяться социальными характеристиками, на практике вступает в противоречие с негативными установками в отношении роботов, которые транслируются в массовой культуре. Следствием этого является феномен «зловещей долины» и, соответственно, предпочтения гуманоидного робота, не реплицирующего человека максимально, а лишь структурно имеющего с ним схожие черты. Как показало исследование, речь робота скорее не подвержена подобному эффекту, и в целом лучше, если она будет идентична человеческой.

Если говорить о значимости воздействия описанных факторов, то гипотеза в отношении наибольшего эффекта внешнего вида робота также подтверждается. Следом по мощности эффекта следует ситуативный контекст, а меньшее воздействие имеют особенности речи робота. Основные эффекты индивидуальных характеристик респондентов оказались незначимыми. Несмотря на это, их проявление раскрылось в значимых эффектах взаимодействия. То есть можно сказать, что при прочих равных респонденты разных полов и образовательных специальностей давали схожие оценки, но при этом по-разному воспринимали изменения экспериментальных факторов. Также интересно отметить, что при оценивании допустимости присутствия робота респонденты более чувствительны к ситуативному контексту, чем при оценивании целесообразности замены робота человеком.

В целом исследование позволило комплексно оценить важность факторов в восприятии неоморфных субъектов, наиболее часто упоминаемых в тематических научных публикациях. В центре внимания исследования не содержание разговоров, что типично для подобных исследований в области социальных наук, а факторы, влияющие на развитие взаимодействия для участников, такие как внешний вид, структура речи, ситуация, в которой происходит взаимодействие, особый социокультурный фон. Потенциальная научная ценность работы заключается в широте охвата разнообразных факторов и апробации метода факторного опроса для оценки восприятия взаимодействия с неоморфными субъектами на примере роботов. Также результаты исследования могут стать для разработчиков практическим ориентиром, как сделать социальные интерфейсы более приемлемыми и понятными для людей — в этом потенци-

альная практическая ценность работы. При этом авторы осознают ограничения метода, связанные с его проективной составляющей, и предполагают, что более надежные и объективные результаты могут быть получены, когда анализ практик непосредственного взаимодействия с роботами сочетается с проективным подходом.

Говоря об ограничениях нашего исследования, нужно отметить концентрацию на внутренней валидности и невозможность переноса выводов на генеральную совокупность. Но этот недостаток вполне может быть объяснен апробацией методики применительно к выбранной тематике. В будущем исследователи могут расширить выборку и изучить другие возрастные группы, чтобы выявить особенности взаимодействия человека и робота, связанные с возрастом, принятием технологий и открытостью новому. Отдельного внимания заслуживает перспектива интеграции аудиозаписей с речью роботов в виньетки. В настоящем исследовании этого не было сделано по техническим причинам, но есть вероятность, что фактор речи робота может раскрыться иным образом.

Литература

Галкин Д.В., Сербии В.А. (2013) Эволюция пользовательских интерфейсов: от терминала к дополненной реальности. Гуманитарная информатика, 7: 35-49.

Гудвин Дж. (2004) Исследование в психологии: методы и планирование. СПб.: Питер.

Девятко И.Ф. (2007) Причинность в обыденном сознании и в социологическом объяснении: контуры нового исследовательского подхода. Социология: методология, методы, математическое моделирование (Социология:4М), 25: 5-21.

Зильберман Н.Н. (2014) Функциональная классификация социальных роботов. Гуманитарная информатика, 8: 30-39.

Зильберман Н.Н. (2017) Обзор исследований восприятия социального робота в статусе выше человека. Гуманитарная информатика, 13: 30-38.

Зильберман Н.Н., Стефанцова М.А. (2016) Социальный робот: подходы к определению понятия. Russian Journal of Education and Psychology, 11(67): 297-312.

Кастельс М. (2000) Информационная эпоха: экономика, общество и культура. М.: ГУ ВШЭ.

Катерный И.В. (2017) Каузальные объяснения эффекта зловещей долины в робототехнике: теории и исследовательские данные. Качество и жизнь, 4: 84-92.

Катерный И.В. (2017) Трансмобильность и нормативный морфогенез в условиях постгуманизированного общества: как все еще возможен социальный

порядок? Девятко И.Ф., Абрамов Р.Н., Катерный И.В. (ред.). Нормы и мораль в социологической теории: от классических концепций к новым идеям. М.: Весь Мир: 91-135.

Максимова А. (2020) Настройка собеседника: телефонный разговор с роботом. Л.В. Земнухова и др. (ред.). Приключения технологий: барьеры цифро-визации в России. М. СПб.: ФНИСЦ РАН: 95-132.

Манович Л. (2018) Язык новых медиа. М.: Ад Маргинем.

Хонинева Е.А. (2017) Гендер и дисплей: коммуникативные жанры и способы категоризации во взаимодействии с голосовыми ассистентами. Журнал социологии и социальной антропологии, 20(5): 95-112.

Шюц А. (2003) Смысловая структура повседневного мира: очерки по феноменологической социологии. М: Институт Фонда «Общественное мнение».

Alexander C.S., Becker H.J. (1978) The Use of Vignettes in Survey Research. Public Opinion Quarterly, 42: 93-104.

Atzmuller C., Steiner P.M. (2010) Experimental vignette studies in survey research. Methodology. European Journal of Research Methods for the Behavioral and Social Sciences, 6: 128-138.

Beckers R., Holland O.E., Deneubourg J.-L. (1994) From local actions to global tasks: Stigmergy and collective robotics. Artificial Life IV, Proceedings of the Fourth International Workshop on the Synthesis and Simulation of Living Systems. Cambridge, MA: MIT Press: 181-189.

Beni G. (2004) From Swarm Intelligence to Swarm Robotics. In: Swarm Robotics. Springer Berlin Heidelberg: 1-9.

Bonnefon J.F., Shariff A., Rahwan I. (2016) The social dilemma of autonomous vehicles. Science, 6293(352): 1573-1576.

Breazeal C. (2004) Social interactions in HRI: the robot view. IEEE Transactions on Systems, Man, and Cybernetics, Part C: Applications and Reviews, 2(34): 181-186.

Breazeal C., Dautenhahn K., Kanda T. (2016) Social Robotics. In: Springer Handbook of Robotics. Springer, Cham: 1935-1972.

Burnham T.C., Hare B. (2007) Engineering Human Cooperation. Does Involuntary Neural Activation Increase Public Goods Contribution. Human Nature, 18(2): 88-108.

Caro F.G., Ho T., McFadden D., Gottlieb A.S., Yee C., Chan T., Winter J. (2012) Using the Internet to Administer More Realistic Vignette Experiments. Social Science Computer Review, 30: 184-201.

Clark A., Chalmers D. (1998) The Extended Mind. Analysis, 1(58): 7-19.

Donaldson T.S. (1968) Robustness of the F-test to errors of both kinds and the correlation between the numerator and denominator of the F-ratio. Journal of the American Statistical Association, 63: 660-676.

Duffy B.R., Rooney C., O'Hare G.M., O'Donoghue R. (1999) What is a Social Robot? In: 10th Irish Conference on Artificial Intelligence & Cognitive Science. University College Cork, Ireland.

Epley N., Waytz A., Cacioppo J. T. (2007) On Seeing Human: A three-factor theory of anthropomorphism. Psychological Review, 114: 864-886.

Eyssel F., Hegel F. (2012) (S)he's Got the Look: Gender Stereotyping of Robots. Journal of Applied Social Psychology, 49(2): 2213-2230.

Fischer K. (2011) How People Talk with Robots: Designing Dialogue to Reduce User Uncertainty. AI Magazine, 32(4): 31-38.

Fischer K. (2006) What Computer Talk Is and Isn't: Human-Computer Conversation as Intercultural Communication. Saarbrücken: AQ-Verlag.

Fischer K., Foth K., Rohlfing K., Wrede B. (2011) Mindful Tutors: Linguistic Choice and Action Demonstration in Speech to Infants and a Simulated Robot. Interaction Studies, 12(1): 134-161.

Fong T., Nourbakhsh I., Dautenhahn K. (2003) A survey of socially interactive robots. Robotics and autonomous systems, 3(42): 143-166.

Hegel F., Muhl C., Wrede B., Hielscher-Fastabend M., Sagerer G. (2009) Understanding social robots. In: Second International Conference on Advances in Computer-Human Interactions, 169-174.

Heyselaar E., Hagoor P., Segaer K. (2015) In Dialogue with an Avatar, Language Behavior is Identical to Dialogue with a Human Partner. Behavior Research Methods, December 16: 1-15.

Looije R., Cnossen F., Neerincx M.A. (2006) Incorporating guidelines for health assistance into a socially intelligent robot. In: The 15th IEEE International Symposium on Robot and Human Interactive Communication, 515-520.

Lunney G.H. (1970) Using analysis of variance with a dichotomous dependent variable: An empirical study. Journal of educational measurement, 7(4): 263-269.

Mohammad Y., Nishida T. Data Mining for Social Robotics Toward Autonomously Social Robots. Geneva: Springer, 2015.

MacDorman K.F., Entezari S.O. (2015) Individual Differences Predict Sensitivity to the Uncanny Valley. Interaction Studies, 16(2): 141-172.

Mori M. (2012) The Uncanny Valley. IEEE Robotics and Automation, 19(2): 98-100.

Nass C. (2004) Etiquette Equality: Exhibitions and Expectations of Computer Politeness. Communications of the ACM, 7(4): 35-37.

Nass C., Brave S. (2006) Wired for Speech: How Voice Activates and Advances the Human-Computer Relationship. Computational Linguistics, 32(3): 451-452.

Nass C., Moon Y. (2000) Machines and Mindlessness: Social Responses to Computers. Journal of Social Issues, 56(1): 81-103.

Pierce C.A., Aguinis H. (1997) Using virtual reality technology in organizational behavior research. Journal of Organizational Behavior, 18: 407-410.

Reynolds R.I. (1992) Recognition of expertise in chess players. American Journal of Psychology, 105: 409-415.

Siegel M., Breazeal M.C., Norton M. (2009) Persuasive robotics: The influence of robot gender on human behavior. In: IEEE/RSJ Int. Conf. Intell. Robots Syst. (IROS): 2563-2568.

Schegloff E.A. (1997) Whose text, whose context? Discourse & Society, 8(2): 165-187.

Stockard J., Johnson M. (1992) Sex and gender in society. Upper Saddle River, NJ: Prentice Hall, 1992.

Tabachnick B. G., Fidell L.S. Using Multivariate Statistics. Boston: Allyn and Bacon, 2001.

Warr M. (1990) Dangerous Situations: Social Context and Fear of Victimization. Social Forces, 68: 891-907.

Woodworth R.S. (1938) Experimental psychology. N.Y.: Henry Holt.

Источники

Азимов А. (2008) Я, робот. М.; СПб.: Эксмо; Домино.

Берреби Д., Шевчук Р. (2020) Пандемия ускорила роботизацию — как это повлияет на рынок труда в будущем? Нож [https://knife.media/accelerated-robotics/] (дата обращения: 30.09.2021).

ВЦИОМ. (2019) Роботы и работа: мифы и реальность [https://wciom.ru/ analytical-reviews/analiticheskii-obzor/roboty-i-rabota-mify-i-realnost] (дата обращения: 30.09.2021).

Институт статистических исследований и экономики знаний НИУ ВШЭ. Восприятие населением взаимодействия с роботами (2015) [https://issek.hse. ru/news/302682265.html] (дата обращения: 22.09.2021).

Перечень вузов России, реестры образовательных учреждений, каталоги культурных ценностей (2021) Консультант Плюс [http://www.consultant.ru/ law/online_service/52/] (дата обращения: 03.10.2021).

Постановление Правительства РФ от 08.07.1997 № 828 (ред. от 20.11.2018) «Об утверждении Положения о паспорте гражданина Российской Федерации, образца бланка и описания паспорта гражданина Российской Федерации». СПС Гарант [http://base.garant.ru/11900262/] (дата обращения: 20.11.2021).

Рамблер (2019) В России новостной выпуск впервые провел робот [https:// kino.rambler.ru/tv/42053047-v-rossii-novostnoy-vypusk-vpervye-provel-robot/] (дата обращения: 04.09.2021).

РИА Новости (2020) Первый робот Promobot стал сотрудником пермского МФЦ [https://ria.ru/20200710/1574148225.html] (дата обращения: 04.11.2021).

SOCIAL ASPECTS OF HUMAN-ROBOT INTERACTION: EXPERIMENTAL RESEARCH EXPERIENCE

Roman Abramovab ([email protected]), Viktoria Katechkinaa

a National Research University Higher School of Economics,

Moscow, Russia

b Federal Center of Theoretical and Applied Sociology, Russian Academy of Sciences,

Moscow, Russia

Citation: Abramov R., Katechkina V. (2022) Sotsial'nyye aspekty vzaimodeystviya cheloveka i robota: opyt eksperimental'nogo issledovaniya [Social aspects of humanrobot interaction: experimental research experience]. Zhurnal sotsiologii i sotsialnoy antropologii [The Journal of Sociology and Social Anthropology], 25(2): 214-243 (in Russian). https://doi.org/10.31119/jssa.2022.25.2.9

Abstract. Modern cultural and technological changes have contributed to the expansion of social artifacts, including the involvement in society of initially (non) social, that is, objects that do not act like people. This applies to materialized neo-social subjects, namely, the so-called social robots, manifested in material and non-material forms. The subjects of interaction include all kinds of voice assistants, chat bots, social robots, which are sometimes involved in society as if they were people. Our study is an attempt to reveal the peculiarities of people's perception of the emergence of special intelligent systems — social robots in everyday situations. The first part of the article is devoted to an overview of the main theoretical approaches in sociology to the study of the interaction between a robot and a person, with an emphasis on the barriers and fears of such interaction. Then the research methodology is described, which has become a factorial survey using the vignetting method, which is a fictional brief description of a certain object, individual or situation, which contains systematically varying experimental factors. Students of Moscow universities aged 18 and over took part in the study. According to the results of the study, the perception of human-robot interaction was mediated by a number of sociocultural phenomena and there was a tendency for higher assessments of the admissibility of a humanoid robot in all situations, but a contrast in assessments depending on the situation for an android robot was also noticeable. The study made it possible to comprehensively assess the importance of factors in the perception of neomorphic subjects, which are most often mentioned in thematic scientific publications. The potential scientific value of the work lies in the breadth of coverage of various factors and the approbation of the factorial survey method for assessing the perception of interaction with neomorphic subjects using the example of robots. The results of the study can become a practical guide for developers on how to make social interfaces more acceptable and understandable to people — this is the potential practical value of the work.

Keywords: human-robot interaction, social robot, factorial survey, vignette, uncanny valley, algorithmization.

References

Alexander C.S., Becker H.J. (1978) The Use of Vignettes in Survey Research. Public Opinion Quarterly, 42: 93-104.

Atzmuller C., Steiner P.M. (2010) Experimental vignette studies in survey research. Methodology. European Journal of Research Methods for the Behavioral and Social Sciences, 6: 128-138.

Beckers R., Holland O.E., Deneubourg J.-L. (1994) From local actions to global tasks: Stigmergy and collective robotics. Artificial Life IV, Proceedings of the Fourth International Workshop on the Synthesis and Simulation of Living Systems. Cambridge, MA: MIT Press: 181-189.

Beni G. (2004) From Swarm Intelligence to Swarm Robotics. In: Swarm Robotics. Springer Berlin Heidelberg: 1-9.

Bonnefon J.F., Shariff A., Rahwan I. (2016) The social dilemma of autonomous vehicles. Science, 6293(352): 1573-1576.

Breazeal C. (2004) Social interactions in HRI: the robot view. IEEE Transactions on Systems, Man, and Cybernetics, Part C: Applications and Reviews, 2(34): 181-186.

Breazeal C., Dautenhahn K., Kanda T. (2016) Social Robotics. In: Springer Handbook of Robotics. Springer, Cham: 1935-1972.

Burnham T.C., Hare B. (2007) Engineering Human Cooperation. Does Involuntary Neural Activation Increase Public Goods Contribution. Human Nature, 18(2): 88-108.

Caro F.G., Ho T., McFadden D., Gottlieb A.S., Yee C., Chan T., Winter J. (2012) Using the Internet to Administer More Realistic Vignette Experiments. Social Science Computer Review, 30: 184-201.

Castells M. (2000) The Information Age: Economics, Society and Culture [Informatsionnaya epokha: ekonomika, obshchestvo i kul'tura]. Moscow: State University Higher School of Economics (in Russian).

Clark A., Chalmers D. (1998) The Extended Mind. Analysis, 1(58): 7-19.

Devyatko I.F. (2007) Prichinnost' v obydennom soznanii i v sotsiologicheskom ob"yasnenii: kontury novogo issledovatel'skogo podkhoda [Causality in everyday consciousness and in sociological explanation: outlines of a new research approach]. Sotsiologiya: metodologiya, metody, matematicheskoye modelirovaniye (Sotsiologiya:4M) [Sociology: methodology, methods, mathematical modeling (Sociology: 4M)], 25: 5-21 (in Russian).

Donaldson T.S. (1968) Robustness of the F-test to errors of both kinds and the correlation between the numerator and denominator of the F-ratio. Journal of the American Statistical Association, 63: 660-676.

Duffy B.R., Rooney C., O'Hare G.M., O'Donoghue R. (1999) What is a Social Robot? In: 10th Irish Conference on Artificial Intelligence & Cognitive Science. University College Cork, Ireland.

Epley N., Waytz A., Cacioppo J. T. (2007) On Seeing Human: A three-factor theory of anthropomorphism. Psychological Review, 114: 864-886.

Eyssel F., Hegel F. (2012) (S)he's Got the Look: Gender Stereotyping of Robots. Journal of Applied Social Psychology, 49(2): 2213-2230.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Fischer K. (2006) What Computer Talk Is and Isn't: Human-Computer Conversation as Intercultural Communication. Saarbrücken: AQ-Verlag.

Fischer K. (2011) How People Talk with Robots: Designing Dialogue to Reduce User Uncertainty. AI Magazine, 32(4): 31-38.

Fischer K., Foth K., Rohlfing K., Wrede B. (2011) Mindful Tutors: Linguistic Choice and Action Demonstration in Speech to Infants and a Simulated Robot. Interaction Studies, 12(1): 134-161.

Fong T., Nourbakhsh I., Dautenhahn K. (2003) A survey of socially interactive robots. Robotics and autonomous systems, 3(42): 143-166.

Galkin D.V., Serbin V.A. (2013) Evolyutsiya pol'zovatel'skikh interfeysov: ot terminala k dopolnennoy real'nosti [The evolution of user interfaces: from terminal to augmented reality]. Gumanitarnaya informatika [Humanities Computing], 7: 35-49 (in Russian).

Goodwin J. (2004) Issledovaniye v psikhologii: metody i planirovaniye [Research in psychology: methods and planning]. Saint Peterburg: Piter (in Russian).

Hegel F., Muhl C., Wrede B., Hielscher-Fastabend M., Sagerer G. (2009) Understanding social robots. In: Second International Conference on Advances in ComputerHuman Interactions, 169-174.

Heyselaar E., Hagoor P., Segaer K. (2015) In Dialogue with an Avatar, Language Behavior is Identical to Dialogue with a Human Partner. Behavior Research Methods, December 16: 1-15.

Katerny I.V. (2017) Kauzal'nyye ob'yasneniya effekta zloveshchey doliny v roboto-tekhnike: teorii i issledovatel'skiye dannyye [Causal explanations for the uncanny valley effect in robotics: theories and research evidence]. Kachestvo i zhizn [Quality and life], 4: 84-92 (in Russian).

Katerny I.V. (2017) Transmobil'nost' i normativnyy morfogenez v usloviyakh postgumanizirovannogo obshchestva: kak vse yeshche vozmozhen sotsial'nyy poryadok? [Transmobility and normative morphogenesis in a post-humanized society: how is social order still possible?]. In: Normy i moral' v sotsiologicheskoy teorii: ot klassicheskikh kontseptsiy k novym ideyam [Norms and morality in sociological theory: from classical concepts to new ideas]. Devyatko I.F., Abramov R.N., Katerny I.V. (ed.) Moscow: Ves Mir: 91-135 (in Russian).

Khonineva E.A. (2017) Gender i displey: kommunikativnyye zhanry i sposoby kategorizatsii vo vzaimodeystvii s golosovymi assistentami [Gender and display: communicative genres and categorization methods in interaction with voice assistants]. Zhurnal sotsiologii i sotsialnoy antropologii [The Journal of Sociology and Social Anthropology], 20(5): 95-112 (in Russian).

Looije R., Cnossen F., Neerincx M.A. (2006) Incorporating guidelines for health assistance into a socially intelligent robot. In: The 15th IEEE International Symposium on Robot and Human Interactive Communication, 515-520.

Lunney G.H. (1970) Using analysis of variance with a dichotomous dependent variable: An empirical study. Journal of educational measurement, 7(4): 263-269.

MacDorman K.F., Entezari S.O. (2015) Individual Differences Predict Sensitivity to the Uncanny Valley. Interaction Studies, 16(2): 141-172.

Maksimova A. (2020) Nastroyka sobesednika: telefonnyy razgovor s robotom. [Setting up an interlocutor: a telephone conversation with a robot]. In: Priklyucheniya tekhnologiy: bar'yery tsifrovizatsii v Rossii [Technology adventures: barriers to digitalization in Russia]. L. V. Zemnukhova et al. Sankt Peterburg: FNISTS RAN: 95-132 (in Russian).

Manovich L. (2018) Yazyk novykh media [The language of new media]. Moscow: Ad Marginem (in Russian).

Mohammad Y., Nishida T. Data Mining for Social Robotics Toward Autonomously Social Robots. Geneva: Springer, 2015.

Mori M. (2012) The Uncanny Valley. IEEE Robotics and Automation, 19(2): 98-100.

Nass C. (2004) Etiquette Equality: Exhibitions and Expectations of Computer Politeness. Communications of the ACM, 7(4): 35-37.

Nass C., Brave S. (2006) Wired for Speech: How Voice Activates and Advances the Human-Computer Relationship. Computational Linguistics, 32(3): 451-452.

Nass C., Moon Y. (2000) Machines and Mindlessness: Social Responses to Computers. Journal of Social Issues, 56(1): 81-103.

Pierce C.A., Aguinis H. (1997) Using virtual reality technology in organizational behavior research. Journal of Organizational Behavior, 18: 407-410.

Reynolds R.I. (1992) Recognition of expertise in chess players. American Journal of Psychology, 105: 409-415.

Schegloff E.A. (1997) Whose text, whose context? Discourse & Society, 8(2): 165-187.

Schutz A. (2003) Smyslovaya struktura povsednevnogo mira: ocherki po fenomeno-logicheskoy sotsiologii [Meaningful Structure of the Everyday World: Essays on Phenom-enological Sociology]. Moscow: Institute of the Public Opinion Foundation (in Russian).

Siegel M., Breazeal M.C., Norton M. (2009) Persuasive robotics: The influence of robot gender on human behavior. In: IEEE/RSJ Int. Conf. Intell. Robots Syst. (IROS): 2563-2568.

Stockard J., Johnson M. (1992) Sex and gender in society. Upper Saddle River, NJ: Prentice Hall, 1992.

Tabachnick B. G., Fidell L.S. Using Multivariate Statistics. Boston: Allyn and Bacon, 2001.

Zilberman N.N. (2014) Funktsional'naya klassifikatsiya sotsial'nykh robotov [Functional classification of social robots]. Gumanitarnaya informatika [Humanities Computing], 8: 30-39. (in Russian).

Zilberman N.N. (2017) Obzor issledovaniy vospriyatiya sotsial'nogo robota v statuse vyshe cheloveka [Review of studies on the perception of a social robot in a status above a person]. Gumanitarnaya informatika [Humanities Computing], 13: 30-38. (in Russian).

Zilberman N.N., Stefantsova M.A. (2016) Sotsial'nyy robot: podkhody k opredele-niyu ponyatiya [Social robot: approaches to the definition of the concept]. Russian Journal of Education and Psychology, 11(67): 297-312 (in Russian).

i Надоели баннеры? Вы всегда можете отключить рекламу.