CC BY
0
Середкина Е.В., Грунвальд А. Этические проблемы в области ассистивной робототехники для пожилых людей: философские vs эмпирические исследования // Технологос. - 2023. - № 4. - С. 48-59. DOI: 10.15593/perm.kipf/2023.4.04
Seredkina E., Grunwald A. Ethical Issues in the Field of Assistive Robotics for Elderly People: Philosophical vs Empirical Research. Technologos, 2023, no. 4, pp. 48-59. DOI: 10.15593/ perm.kipf/2023.4.04
Научная статья
DOI: 10.15593/perm.kipf/2023.4.04 УДК 004.896:172-053.9
ЭТИЧЕСКИЕ ПРОБЛЕМЫ В ОБЛАСТИ АССИСТИВНОЙ РОБОТОТЕХНИКИ ДЛЯ ПОЖИЛЫХ ЛЮДЕЙ: ФИЛОСОФСКИЕ VS ЭМПИРИЧЕСКИЕ ИССЛЕДОВАНИЯ
Е.В. Середкина1, А. Грунвальд2
Пермский национальный исследовательский политехнический университет, Пермь, Россия
2
Институт оценки технологий и системного анализа, Карлсруэ, Германия
О СТАТЬЕ
Поступила: 20 сентября 2023 г. Одобрена: 23 декабря 2023 г. Принята к публикации: 1 декабря 2023 г.
Ключевые слова:
ассистивная (вспомогательная) робототехника, роботы-компаньоны, пожилые люди, философия техники, этика, эмпирические исследования, заинтересованные стороны, оценка технологий, ценностно-ориентированное проектирование, этика заботы.
АННОТАЦИЯ
Ассистивная, или вспомогательная, робототехника может оказать технологическую поддержку в удовлетворении растущего спроса на медицинскую и социальную помощь, поскольку физические и когнитивные функции людей ухудшаются с возрастом. Роботы-компаньоны могут помочь пожилым людям решать такие задачи, как мобильность, общение и уход за собой. Но имеем ли мы моральное право делегировать обязанности медицинского персонала роботам? Могут ли роботы обеспечить должное качество медицинской помощи? Подобные размышления о будущем «машинного» здравоохранения порождают серьезные этические вопросы в области человеко-машинного взаимодействия и определяют не только приоритетные разработки в области социальной робототехники, но и технологическую культуру в целом. В современных исследованиях по этическим проблемам в области вспомогательной робототехники можно выделить два направления - традиционные философские спекулятивные размышления и прикладные исследования с акцентом на участии различных заинтересованных сторон. В статье подробно рассматриваются эти два направления, а также критика философ-ско-теоретических установок со стороны «эмпириков». В частности, они утверждают, что наряду с этическим анализом, социальной экспертизой и философскими рассуждениями необходимы новые формы размышления, диалога и эксперимента, которые будут гораздо ближе к инновационным практикам и контекстам использования. Методологической основой статьи являются принципы оценки технологий (Technology Assessment, TA), трансдисциплинарные стратегии исследования типа RRI-подхода, а также ценностно-ориентированное проектирование (Value-Sensitive Design, VSD). В статье описываются новые варианты ценностно-ориентированного проектирования, такие как «Интегративная социальная робототехника» (Integrative social robotics, ISR), «Ценностно-ориентированное проектирование, центрированное вокруг заботы» (Care-Centered Value-Sensitive Design, CCVSD). Эти подходы довольно перспективны для решения философско-этических проблем в области социальной робототехники по уходу за пожилыми людьми. Но в процесс проектирования и разработки медицинских роботов необходимо вовлекать больше прямых и косвенных заинтересованных сторон. На основе метода токенов заинтересованных сторон (Stakeholder Tokens) показано, как могут быть решены некоторые этические проблемы в ситуации ценностного конфликта между автономией, человеческим достоинством и безопасностью.
© ПНИПУ
© Середкина Елена Владимировна - кандидат философских наук, доцент, доцент кафедры философии и права, ORCID: https://orcid.org/0000-0003-2506-2374, e-mail: elena_seredkina@pstu.ru. © Грунвальд Армин - доктор философских наук, профессор, директор института, ORCID: https://orcid.org/0000-0003-3683-275X, e-mail: armin.grunwald@kit.edu.
© Elena V. Seredkina - Candidate of Philosophical Sciences, Assistant Professor, Assistant Professor of Department of Philosophy and Law, ORCID: https://orcid.org/0000-0003-2506-2374, e-mail: elena_seredkina@pstu.ru. © Armin Grunwald - Doctor of Philosophical Sciences, Professor, Head of the Institute, ORCID: https://orcid.org/0000-0003-3683-275X, e-mail: armin.grunwald@kit.edu.
Финансирование. Исследование не имело спонсорской поддержки. Конфликт интересов. Авторы заявляют об отсутствии конфликта интересов. Вклад авторов равноценен.
Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)
_E.B. CepeflKUHa, A. rpyHBanbfl
ETHICAL ISSUES IN THE FIELD OF ASSISTIVE ROBOTICS FOR ELDERLY PEOPLE: PHILOSOPHICAL VS EMPIRICAL RESEARCH
Elena V. Seredkina1, A. Grunwald2
Perm National Research Polytechnic University, Perm, Russian Federation Institute for Technology Assessment and Systems Analysis in Karlsruhe, Germany
ARTICLE INFO
ABSTRACT
Received: 20 September 2023 Revised: 23 December 2023 Accepted: 01 December 2023
Keywords:
assistive robotics, companion robots, elderly people, philosophy of technology, ethics, empirical research, stakeholders, technology assessment, value-sensitive design, ethics of care.
Assistive robotics can provide technological support to meet the growing demand for health and social care as people's physical and cognitive functions decline with age. Companion robots can help elderly people with tasks such as mobility, communication and self-care. But do we have the moral right to delegate the duties of medical personnel to robots? Can robots provide the proper quality of medical care? Such reflections on the future of "machine" healthcare raise serious ethical questions in the field of human-robot interaction and determine not only priority developments in the field of social robotics, but also technological culture as a whole. Contemporary research on ethical issues in the field of assistive robotics for elderly people can be distinguished from two directions - traditional philosophical speculation and applied research with an emphasis on the participation of various stakeholders. The article discusses these two directions in detail, as well as criticism of philosophical and theoretical attitudes from the "empiricists". In particular, they argue that along with ethical analysis, social expertise and philosophical reasoning, new forms of reflection, dialogue and experimentation are needed that will be much closer to innovative practices and contexts of use. The methodological basis of the article is the principles of Technology Assessment (TA), transdisciplinary research strategies such as the RRI approach, as well as Value-Sensitive Design (VSD). The article describes new options for value-based design, such as Integrative social robotics (ISR), Care-Centered Value-Sensitive Design (CCVSD). These approaches are quite promising for solving philosophical and ethical problems in the field of social robotics for caring for the elderly. But more direct and indirect stakeholders need to be involved in the design and development of medical robots. Based on the Stakeholder Tokens method, it is shown how some ethical problems can be solved in a situation of value conflict between autonomy, human dignity and security.
© PNRPU
Введение
Увеличение продолжительности жизни, а также процесс старения населения являются важными причинами социальной трансформации общества в XXI веке. Согласно отчету («Мировые демографические перспективы: пересмотренное издание 2019 года»), число людей в возрасте 80 лет и старше утроится: с 143 миллионов в 2019 году до 426 миллионов в 2050 году [1]. На этом пути социальная робототехника может оказать технологическую поддержку в удовлетворении растущего спроса на медицинскую и социальную помощь по уходу за пожилыми людьми [2-4].
Ассистивная, или вспомогательная, робототехника предназначена для помощи людям с ограниченными возможностями, включая пожилых людей. Роботы-компаньоны могут помочь последним решать задачи мобильности, общения и ухода за собой. Это становится особенно актуальным в свете того факта, что число пожилых людей, страдающих различными формами деменции, растет [5]. Роботы-помощники представляют собой новое поколение сервисных роботов, которые делят «жизненное пространство» с людьми и напрямую взаимодействуют с ними. Их отличительной особенностью является способность воспринимать окружающую среду и людей с помощью датчиков и интеллектуальных алгоритмов, мультимодально общаться с пользователями, автономно ориентироваться и самостоятельно принимать решения.
Но имеем ли мы моральное право делегировать обязанности медицинского персонала роботам? Могут ли роботы обеспечить необходимое качество медицинской помощи? Могут ли машины обеспечить «теплую», «человеческую» заботу, которую мы вправе ожидать от
врачей и медсестер? Подобные размышления о будущем «машинного» здравоохранения порождают серьезные этические вопросы в области человеко-машинного взаимодействия и определяют не только приоритетные разработки в области социальной робототехники, но и технологическую культуру в целом.
В современных исследованиях по этическим проблемам в области вспомогательной робототехники для пожилых людей можно выделить два направления - традиционные философские спекулятивные размышления и прикладные исследования с акцентом на участии различных заинтересованных сторон. В последнее время участилась критика со стороны последних. В частности, представители «эмпирического» направления утверждают, что наряду с этическим анализом, социально-гуманитарной экспертизой и философскими рассуждениями необходимы новые формы размышления, диалога и эксперимента, которые будут гораздо ближе к инновационным практикам и контекстам использования [6].
Методологической основой статьи являются принципы оценки технологий (Technology Assessment, TA), трансдисциплинарные стратегии исследования типа RRI-подхода , а также ценностно-ориентированное проектирование (Value-Sensitive Design, VSD). Оценка технологий или социальная оценка техники - это новая научная дисциплина, в рамках которой разрабатываются методы распознавания негативных последствий техники для принятия научно обоснованных решений в сфере научно-технической политики [7]. «Ответственные исследования и инновации», или RRI-подход, представляют собой дальнейшую эволюцию оценки технологий. Это обширный набор практик рационального формирования технологий с учетом ценностей общества, который предполагает более активное и осознанное вовлечение рядовых граждан (не экспертов) в обсуждение вопросов, связанных с научно-технической политикой. Речь идет о формировании не просто междисциплинарного, но трансдисциплинарного диалогового пространства, подразумевающего выход за пределы науки в «жизненный мир» человека. Новая архитектура участия предполагает диалог между экспертами, полисимейкерами и общественностью [8]. Ценностно-ориентированное проектирование как подход и методология разрабатывает технологии, принимая во внимание человеческие ценности. Он устанавливает интегративную и итеративную трехстороннюю методологию, состоящую из концептуальных, эмпирических и технических исследований. На концептуальной стадии определяются соответствующие человеческие ценности и ключевые заинтересованные стороны. На эмпирической стадии описываются реальные социальные практики, а также учитываются социальные последствия этой технологии. На технологической стадии исследуются технические возможности, которые наилучшим образом могли бы продвигать желаемые человеческие ценности. VSD может использоваться для выполнения ретроспективного анализа существующей технологии (социально-гуманитарная экспертиза) и проспективного анализа (создание ценностно-ориентированной и морально устойчивой технологии) [9]. Особое внимание в работе будет уделено методу токенов заинтересованных сторон (Stakeholder Tokens) в рамках VSD [10].
Рассмотрим более подробно два вышеописанных направления.
Философско-этические исследования: пределы и ограничения
Именно философы и специалисты по этике разработали и очертили круг основных этических проблем, связанных с роботами-компаньонами для пожилых людей. Прежде всего необходимо выделить три основных способа использования таких роботов: 1) помощь пожилым людям и их опекунам в решении повседневных задачах; 2) мониторинг собственного здоро-
1 От англ. Responsible Research and Innovation, RRI - «Ответственные исследования и инновации».
вья; 3) обеспечение дружеского общения. В каждой из этих областей можно выявить риски, связанные со снижением качества жизни пожилых людей. Анализ основных работ философов и специалистов по этике за последние пятнадцать лет позволяет выделить следующие этические проблемы, связанные с внедрением роботов-компаньонов в систему здравоохранения .
Во-первых, сокращение социального взаимодействия оказывает ощутимое влияние на здоровье, а также физическое и психологическое благополучие пожилых людей. С точки зрения некоторых ученых, лишение их такого контакта неэтично и даже является формой жестокости [11, 12]. Последние научные данные показывают, что активное социальное участие в среднем и позднем возрасте обеспечивает защиту от некоторых последствий старения (ослабление памяти, ухудшение когнитивных способностей), тогда как потеря или ограничение социальных контактов оказываются фактором риска развития деменции [5, 13]. В этом контексте использование роботов может негативно сказаться на состоянии людей старшего поколения. Прежде всего потому, что число социальных контактов пожилых и немощных людей и без того ограничено. С использованием же роботов оно может быть сведено к минимуму. Кроме того, современные роботы-компаньоны слишком несовершенны, а их функции ограничены, поэтому они не могут обеспечить должный уход. Наконец, существует риск того, что опекуны и родственники пожилых людей будут использовать роботов в качестве оправдания для того, чтобы оставлять последних в одиночестве на более длительный срок. Робот может облегчить их чувство вины: «Не беспокойся о дедушке, у него есть робот, с которым он может поговорить по душам».
Во-вторых, дегуманизация медицинской помощи в целом. Внедрение роботов в здравоохранение исключает возможность «теплого», «человечного» отношения в процессе ухода, поскольку роботы не обладают эмпатией или эмоциями [6]. Люди же обладают различными социальными и эмоциональными потребностями, которые не могут быть удовлетворены с помощью машин. Таким образом, речь идет о смене традиционной парадигмы заботы о старшем поколении.
В-третьих, возникают проблемы обмана и инфантилизации пожилых людей [14]. Роботам нельзя доверять, они всего лишь имитируют человеческие чувства и состояния, поэтому «с пуританской точки зрения все такие методы, возможно, являются формами обмана» [15, с. 44]. Недаром сами термины «дизайн» и «машина» этимологически связаны с хитростью, обманом и уловкой [16]. Например, чтобы взаимодействовать с роботом-компаньоном, человек должен систематически вводить себя в заблуждение относительно его реальной природы. С точки зрения Р. Спарроу, разработка и производство таких роботов неэтичны, поскольку поощряют «морально некорректную сентиментальность» [17, с. 306]. Кроме того, успешное взаимодействие с роботом предполагает, что пожилой человек теряет связь с реальностью и превращается в малого ребенка, который верит в то, что перед ним не бесчувственная машина, а реальный человек. Эта инфанти-лизация является обратной стороной потери человеческого достоинства.
В-четвертых, в контексте ассистивной робототехники следует поднять еще одну важную этическую проблему, которая касается проблемы объективизации пожилых людей. Как справедливо отмечают А. Шарки и Н. Шарки, при обсуждении вопросов вспомогательной робототехники основное внимание уделяется лицам, осуществляющим уход, а не обеспечению того, чтобы роботизированная помощь облегчала жизнь пожилых людей непосредственно [11]. В этом контексте роботы-сиделки, заменяющие медицинский персонал (кормить, разносить лекарства, поднимать тяжести и др.) могут заставить пожилых подопечных ощущать себя «объектами», с которыми проводят разного рода физические манипуляции. Так, Т. Китвуд выделяет «объективацию» как
2 В статье рассматриваются только этические вызовы, непосредственно касающиеся пожилых людей и их опекунов. Такие социально-этические проблемы, как потеря рабочих мест из-за внедрения роботов в систему здравоохранения, конфиденциальность и защита данных и другое, вынесены за скобки данной работы.
одну из главных проблем, с которой сталкиваются люди с деменцией; то же самое относится и к немощным пожилым людям. Под объективацией понимается такое обращение с человеком, как если бы он был куском мертвой материи: его толкают, передвигают, откачивают, умывают, сушат без надлежащего понимания того факта, что это живое разумное существо [18].
В-пятых, роботы не могут быть полноценными моральными агентами, то есть «корректно отфильтровывать информацию и отбирать морально релевантные факты, чтобы осуществлять моральный выбор» [19, с. 115-116]. Следовательно, они не могут справляться с этическими вызовами и ситуациями, особенно в сложном, открытом, постоянно меняющемся социальном контексте. Но если конкретный робот-компаньон, интегрированный в систему здравоохранения, сталкивается в повседневной практике с подобным моральным вызовом, не означает ли это, что мы предоставили машинам слишком большую автономию? Имеет ли робот право принимать самостоятельные решения и вмешиваться в жизнь пациента? Вопрос остается открытым.
Тем не менее вышеописанный философский подход имеет свои ограничения, когда речь идет о более тесном взаимодействии с технологическими инновациями и заинтересованными сторонами [6]. Концептуальные и спекулятивные нарративы в области человеко-машинного взаимодействия и технической этики должны быть дополнены эмпирическими и диалогическими способами исследования. Философы и специалисты по этике должны идти в лаборатории, на производство, в места общественного пользования, связанные с роботами, чтобы не поучать с высоты метафизических идеалов «приземленных» инженеров, пользователей и бизнесменов, а вступать с ними в диалог, «пропитываться» их смыслами и социальными ожиданиями, чтобы совместно создавать актуальные и социально ответственные технологии. Например, голоса самих пожилых людей или их ближайших родственников до сих пор явно не звучат в трудах по этике использования вспомогательной робототехники. «Интерпретация и обсуждение включают диалог с разной научной литературой, но все еще слишком монологичны, когда речь идет о совместной работе с исследователями и дизайнерами робототехники или привлечении заинтересованных сторон» [6, с. 154].
Проблему несоответствия между этико-философскими исследованиями и реальной практикой можно проследить на конкретном примере [20]. Группа европейских ученых под руководством Ханны Л. Брэдвелл из Центра медицинских технологий Плимутского университета изучила восприятие этических проблем среди молодежи. В частности, было опрошено 67 молодых людей после их взаимодействия с роботами в виде домашних животных для пожилых людей. Почти все участники опроса имели пожилых членов семьи, некоторые из которых страдали деменцией. В результате исследования был составлен ранжированный список этических проблем, которые волнуют молодежь. В изначальный список попали чисто философские (умозрительные) этические проблемы (обман, инфантилизация, сокращение человеческих контактов, проблема ответственности), а также ценности, связанные с ценностно-ориентированным проектированием (проблема конфиденциальности, равенство доступа к устройствам на основе социально-экономических факторов). В ходе опроса было выявлено, что участников больше беспокоили экономические вопросы и равенство доступа, чем умозрительные этические проблемы типа инфантилизации и обмана. Никто из молодых людей не воспринял серьезно опасения философов; абстрактные этические проблемы не стали бы для них препятствием для использования роботов-компаньонов. Таким образом, было продемонстрировано несоответствие между этическими проблемами, поднятыми в философской литературе, и теми, кто, вероятно, принимает решение о покупке робота-компаньона. Подобные расхождения между философами и «конечными пользователями» в вопросе ухода за пожилыми людьми заслуживают дальнейшего эмпирического исследования и обсуждения.
Безусловно, на основании такой ограниченной выборки рано делать выводы о подобном расхождении. Сохраняется потребность в выстраивании дальнейшего диалога с другими группами заинтересованных сторон, в первую очередь с пожилыми людьми и их старшими родственниками, которые имеют больше опыта по уходу в сравнении с молодыми участниками опроса. Кроме того, необходимо помнить, что этика идет впереди эмпирических исследований и права, поскольку ученым приходится действовать в условиях «дефицита знания» о последствиях внедрения и использования новых технологий. На первом этапе именно этика имеет дело с новыми технологичными кейсами.
Эмпирические исследования: критический анализ
В последние годы формируется новое «эмпирическое» направление в области взаимодействия человека и робота, которое имеет дело с конкретными вызовами, социальными практиками и участниками [10, 21, 22]. С методологической точки зрения это направление опирается на оценку технологий, трансдисциплинарные стратегии исследования типа RRI-подхода, а также ценностно-ориентированное проектирование (VSD). Некоторые ученые пытаются объединить эти направления и подходы, например VSD с подходом RRI [23], этику медицинской робототехники и подход RRI [6], VSD с оценкой технологий [7]3. Методология VSD является особенно перспективной в рамках социальной робототехники и человеко-машинного взаимодействия. В последнее время классическая версия VSD [24, 25] претерпела существенную трансформацию с учетом конкретных задач и вызовов в области медицинского ухода за пациентами и пожилыми людьми с помощью сервисных роботов. В качестве примера укажем на последние разработки исследовательских групп под руководством Й. Зейбт [26] и А. ван Винсберг [27].
Так, Й. Зейбт из Орхусского университета (Дания) и ее команда разработали новый подход под названием «Интегративная социальная робототехника» (Integrative social robotics, ISR). Интегративная социальная робототехника - это общий метод создания робототехнических приложений ответственным и «культурно устойчивым» образом. ISR делает ставку на смешанный подход и использование различных методов, то есть наряду с проведением экспериментальных, количественных, качественных и феноменологических исследований используется также концептуальный и аксиологический анализ, который требует специалистов в области философии и прикладной этики. Среди прочего ISR преодолевает недостатки классического варианта VSD. В частности, Й. Зейбт критикует принцип полезности (инструментальности), который лежит в основе ценностно-ориентированного проектирования и отвечает за эффективное внедрение технологии в общество. С точки зрения Й. Зейбт, ISR переключает приоритеты с утилитарных на ценностные и продвигает не инструментальное, а этическое проектирование. Кроме того, она указывает на дефицит философского знания в VSD, например в области теории ценностей. По сути, инженеры в рамках этого подхода не получают систематического знания, их обучение носит эклектичный характер. В результате для них остаются неясными вопросы, что такое ценности, чьи ценности являются приоритетными и как действовать в случае конфликта ценностей.
В свою очередь А. ван Винсберг из университета Твенте (Нидерланды) разработала концепцию «Ценностно-ориентированного проектирования, центрированного вокруг заботы» (Care-
3 В частности, один из авторов данной работы в своей монографии «Оценка технологий: практика и теория» (2019) указывает на единый теоретико-методологический базис TA и VSD [7, с. 81-82]. Речь идет о деконструкции парадигмы ценностно-нейтральных технологий голландской школой социологии и этики (T. Pinch, W. Bijker, A. van Gorb). Для развития оценки технологий и ценностно-чувствительного дизайна преодоление технологического детерминизма было решающим. Пока техника рассматривалась как ценностно-нейтральная, речь не могла идти о формировании технологий с учетом ценностей общества. Кроме того, существует тесная связь между проектом Союза немецких инженеров 1991 г. (документ № 3780 «Руководство по оценке технологий на основе индивидуальных и социальных этических норм») и основными идеями VSD [9].
Centered Value-Sensitive Design, CCVSD). Подход CCVSD объединяет две традиции - классический вариант VSD и этику попечения, или заботы. В центре внимания А. ван Винсберг стоит вопрос, как можно включить ценности в конструкцию роботов-сиделок и какие ценности следует выдвинуть на первый план. Она начинает с ценностно-ориентированного проектирования. Дело в том, что ценностям VSD не хватает нормативной основы [28]. По А. ван Винсберг, этика заботы может обеспечить нормативное обоснование теории и методов VSD. Напомним, что этика попечения, или заботы - это нормативная этическая теория, которая утверждает, что моральное действие основывается на межличностных отношениях и заботе или доброжелательности как добродетели [29]. Она была разработана феминистками во второй половине XX века. В то время как кон-секвенциалистские и деонтологические этические теории делают упор на универсальные стандарты и беспристрастность, этика заботы, напротив, выступает против морального императи-визма, концентрируется на индивидуальных особенностях и потребностях людей и подчеркивает, что люди в разной степени зависят друг от друга. Позже А. ван Винсберг с группой исследователей дополнили этику заботы теорией сестринского дела как ухода (Theory of Nursing as Caring, NAC), чтобы более адекватно описывать проблемы социальной робототехники в здравоохранении [30]. По сути, CCVSD - это один из способов обеспечить нормативное «заземление» ценностно-ориентированного проектирования. При этом на первый план выдвигается проблема «медсестра-робот». А. ван Винсберг подчеркивает, что именно медицинский персонал будет основным пользователем медицинских роботов [27], поэтому необходимо использовать их знания и опыт в процессе проектирования и разработки робототехнических приложений.
Обновленные версии ценностно-ориентированного проектирования весьма перспективны для решения философско-этических проблем в области социальной робототехники по уходу за пожилыми людьми. Но вышеописанные исследования имеют один существенный недостаток. Все они, как правило, имеют дело с ограниченным набором участников. Так, Й. Зейбт говорит в основном о междисциплинарном диалоге представителей социально-гуманитарных наук с инженерами, а А. ван Винсберг концентрирует свое внимание на взаимодействии между медсестрой и роботом. Для более глубокой интеграции медицинских роботов в общество необходимо привлечь к процессу проектирования роботов-компаньонов максимально большое количество прямых и опосредованных заинтересованных сторон.
В связи с этим необходимо рассмотреть концепцию заинтересованных сторон в VSD как новую архитектуру участия более подробно. Выявление и описание ключевых заинтересованных сторон, вовлеченных в исследуемую технологию, является одной из главных задач ценностно-ориентированного проектирования. VSD предлагает разные методы поиска надежного набора ключевых заинтересованных сторон и включения их в процесс проектирования технологий.
Концепция заинтересованных сторон отсылает нас к прежним исследованиям в области взаимодействия человека с компьютером (Human-computer interaction, HCI). С самого начала в HCI предпринимались попытки по расширению и переосмыслению понятия пользователей [10]. Ценностно-ориентированное проектирование внесло свой вклад в решение этой проблемы, расширив понятие пользователей до концепции прямых и косвенных заинтересованных сторон. Под прямыми заинтересованными сторонами понимаются те, кто напрямую взаимодействует с исследуемой технологией, косвенных же участников эта технология напрямую не
4
затрагивает, тем не менее оказывает опосредованное влияние .
4 Важно также подчеркнуть, что хотя УБй в первую очередь фокусируется на учете человеческих ценностей, в более поздних работах наблюдается попытка расширить границы и включить нечеловеческие объекты в качестве акторов, включая животных, экосистемы и даже роботов [24, 31 ]. Современные постгуманистические философские системы лишают человека традиционно привилегированного положения среди других форм жизни. Таким образом, научные исследования начали предоставлять более полную онтологию для исследования не-человеческих ценностей. Тем не менее эта важная тенденция выносится за скобки данной работы.
Метод токенов заинтересованных сторон (Stakeholder Tokens) - один из самых известных и хорошо проработанных в VSD [10]. В частности, данный метод преследует три цели: 1) создать более широкий набор заинтересованных сторон, то есть выявить скрытые, упускаемые из виду или игнорируемые заинтересованные стороны; 2) определить надежный набор ключевых заинтересованных сторон, ссылаясь при этом на достоверные эмпирические исследования; 3) прояснить динамику взаимодействия заинтересованных сторон с учетом сложной (и часто конфликтной) социально-политической обстановки. Кроме того, метод токенов предстает в виде ролевой игры.
Stakeholder Tokens может быть весьма перспективным в решении социальных и этических проблем в ассистивной робототехнике. Так, в 2021 году метод токенов был использован в ходе семинара по этическим проблемам социальной робототехники по дисциплине «Человеко-машинное взаимодействие и оценка технологий» в рамках онлайн-магистратуры «Автономные сервисные роботы» в Пермском политехническом университете. В частности, студентам предлагалось выявить и описать ценности, интересы и предпочтения различных участников, которые могли бы быть включены в группу по проектированию более совершенного медицинского робота по уходу за пожилыми людьми. В результате был составлен расширенный список прямых и косвенных заинтересованных сторон. В этот список вошли не только сами пожилые люди, врачи и медсестры, но также инженеры, представители бизнеса, старшее и молодое поколение родственников, работники системы здравоохранения, философы и специалисты по этике, волонтеры и социальные работники, опекуны, представители СМИ, священники и даже «неолуддиты». В результате студенты смогли на личном опыте осознать некоторые преимущества метода токенов: 1) создавать более инклюзивный и детализированный круг заинтересованных сторон; 2) выявлять скрытые или забытые группы заинтересованных сторон; 3) устанавливать динамику отношений между разными участниками в сложном подвижном (часто конфликтном) социальном контексте.
К сожалению, в современных эмпирических исследованиях не уделяется должного внимания непосредственно пожилым людям, по сути, главным потенциальным пользователям роботов-компаньонов. В какой-то мере правы философы, которые уже более десяти лет назад предупреждали, что медицинские роботы в первую очередь «заточены» под нужды тех, кто осуществляет уход с целью облегчения их бремени (медицинский персонал, родственники, опекуны). С нашей точки зрения, интересы и ценности пожилых людей не представлены должным образом в вопросе использования ассистивной робототехники. Этот пробел необходимо восполнить. Так, один из главных ценностных конфликтов в этой области связан с проблемой соотношения автономии (свободы и личного достоинства) и безопасности. Общеизвестно, что вспомогательные технологии повышают качество жизни пожилых людей, но они также связаны с этическими проблемами автономии. Какая степень автономии должна быть предоставлена пожилым людям? В какой мере ответ должен зависеть от медицинских оценок их умственных способностей? Иногда старых людей нужно защищать от самих себя, поскольку их когнитивные и физические способности слабеют со временем. Например, если старик попросит робота сбросить его с балкона, должен ли робот выполнить эту команду? Здесь необходимо найти баланс между обеспечением психологического и физического благополучия пожилых людей путем предоставления им большей автономии и независимости - и защитой от опасности.
Ранее мы указывали на этические вызовы, описанные философами. Например, использование «холодных», «бездушных» роботов может обернуться дефицитом человеческого внимания, «теплой» человечной заботы, а также проблемой объективации, когда старый не-
мощный пациент рассматривается не как разумная личность, а только как «физическое тело», с которым производят различного рода манипуляции. Однако это лишь одна из возможных умозрительных интерпретаций. В контексте определенной ситуации и окружения возможна иная, более позитивная трактовка. В статье [11] приводится следующий пример. Жена пришла в больницу навестить пожилого мужа, очень сдержанного и закрытого человека. Когда она вошла в палату, то увидела слезы в его глазах. Он чувствовал себя физически истощенным и униженным, поскольку уже больше часа ждал, когда медсестра принесет судно, чтобы справить нужду. Тогда жена сама пошла к медсестре, но та просто сказала: «О, не волнуйтесь, мы бы поменяли простыни». Разве это похоже на теплую человечную заботу со стороны медсестры? Что это как не попрание человеческого достоинства! Если базовые физические потребности не удовлетворяются, то ухудшается психологическое благополучие человека, следовательно, речь идет о нарушении базовых прав человеческой личности.
Но в данном контексте ситуация может быть улучшена за счет использования роботизированных технологий, разработанных с целью повышения автономии пожилого человека и уменьшения его зависимости от других людей, в данном случае от медицинского персонала. Например, роботизированная система может значительно повысить у них чувство контроля над собственной жизнью и уменьшить возникновение тревожных ситуаций, подобных той, которая была описана выше. «Может даже оказаться, что при наличии выбора некоторые из немощных пожилых людей предпочтут роботизированную, а не человеческую помощь для определенных интимных задач, таких как туалет или купание» [11].
В связи с этим было бы уместно провести на основе метода токенов заинтересованных сторон обсуждение с различными социальными группами, включая инженеров, представителей бизнеса, медсестер и близких родственников, чтобы разработать более уместный и психологически комфортный интерфейс робота-компаньона для подобных деликатных случаев. Возможно, результатом такого мозгового штурма стала бы модель робота с низкими антропоморфными характеристиками, напоминающего больше роботизированное инвалидное кресло, а не человекообразную имитацию медсестры-сиделки. Это еще раз доказывает, что технологический интерфейс может быть «морально нагруженным» и продвигать ценности конкретных социальных групп.
Пришло время для преодоления дистанции между дизайном и этикой. Философам необходимо более тесно сотрудничать с разработчиками роботов, а не просто предлагать им этические рекомендации. В идеале такое сотрудничество принимает форму постоянного диалога об этике в ходе исследовательского проекта, в котором участвуют прямые и косвенные заинтересованные стороны. Философско-этические размышления должны объединиться с оценкой технологий, ценностно-ориентированным проектированием и моральным дизайном в контексте реальных ожиданий «конечных пользователей» и технологических практик.
Список литературы
1. ООН: Мир, достоинство и равенство на здоровой планете. Старость [Электронный ресурс]. - URL: https://www.un.org/ru/global-issues/ageing (дата обращения: 30.11.2023).
2. Can Social Robots Help to Reduce Loneliness and Social Isolation in People with Dementia? / E. Barrett, R. Murphy, A. Mannion, P. Meskell, M. Burke, D. Casey, S. Whelan // A Delphi Survey, Age and Ageing. - 2017. - Vol. 46 (3). - P. 13-59. DOI: 10.1093/ageing/afx144.114
3. Social Robots and Seniors: A Comparative Study on the Influence of Dynamic Social Features on Human-Robot Interaction / C. Moro, S. Lin, G. Nejat, A. Mihailidis // International Journal of Social Robotics. - 2019. - № 11. - P. 5-24. DOI: 10.1007/s12369-018-0488-1
4. The Effectiveness of Social Robots for Older Adults: A Systematic Review and Meta-Analysis of Randomized Controlled Studies / L. Pu, W. Moyle, C. Jones, M. Todorovic // Gerontologist - 2019. - № 59(1). - P. 37-51. DOI: 10.1093/geront/gny046
5. Social participation and risk of developing dementia / A. Sommerlad, M. Kivimaki, E.B. Larson [et al.] // Nature Aging. - 2023. - № 3. - P. 532-545. DOI: 10.1038/s43587-023-00387-0
6. Stahl B.C., Coeckelbergh M. Ethics of healthcare robotics // Robotics and Autonomous Systems. - 2016. - № 8. - P. 152-161. DOI: 10.1016/j.robot.2016.08.018
7. Grunwald A. Technology assessment in practice and theory. - Abingdon, New York: Routledge, 2018. - 253 p.
8. Железняк В.Н., Середкина Е.В. Ответственность как регулятивный принцип в исследованиях по социальной оценке техники // Дискурс. - 2018. - № 3. - С. 10-17.
9. Середкина Е.В., Широнина Е.М. Теория и методология ценностно-ориентированного дизайна: критический анализ // Идеи и идеалы. - 2022. - № 14 (2). - Ч. 2. - С. 302-319. DOI: 10.17212/2075-0862-2022-14.2.2-302-319
10. Yoo D. Stakeholder Tokens: a constructive method for value sensitive design stakeholder analysis // Ethics and Information Technology. - 2021. - Vol. 23 (1). - P. 63-67. DOI: 10.1007/ s10676-018-9474-4.
11. Sharkey A., Sharkey N. Granny and the robots: ethical issues in robot care for the elderly // Ethics and Information Technology. - 2012. - № 14. - P. 27-40. DOI: 10.1007/s10676-010-9234-6
12. Sharkey A. Robots and human dignity: a consideration of the effects of robot care on the dignity of older people // Ethics and Information Technology. - 2014. - № 16. - P. 63-75. DOI: 10.1007/s10676-014-9338-5
13. Positive and Negative Experiences of Social Support and Risk of Dementia in Later Life: An Investigation Using the English Longitudinal Study of Ageing / M. Khondoker, S.B. Rafnsson, S. Morris, M. Orrell, A. Steptoe // Journal of Alzheimer's desease. - 2017. - № 58 (1). - P. 99-108. DOI: 10.3233/JAD-161160
14. Sparrow R., Sparrow L. In the hands of machines? The future of aged care // Minds and Machines. - 2006. - № 16. - P. 141-161. DOI: 10.1007/s11023-006-9030-6
15. Wallach W., Allen C. Moral machines: Teaching robots right from wrong. - New York: Oxford University Press, 2009.
16. Flusser V. Shape of things: a philosophy of design. - London: Reaction Books, 1999. - 192 p.
17. Sparrow R. The march of the robot dogs // Ethics and Information Technology. - 2002. -№ 4. - P. 305-318.
18. Kitwood T. Dementia reconsidered: The person comes first. - Buckingham: Open University Press, 1997. - 160 p.
19. Середкина Е.В. Этические аспекты социальной робототехники // Человек. - 2020. -№ 4. - С. 109-127. DOI: 10.31857/S023620070010933-3
20. Ethical perceptions towards real-world use of companion robots with older people and people with dementia: survey opinions among younger adults / H.L. Bradwell, R. Winnington, S. Thill, R.B. Jones // BMC Geriatrics. - 2020. - № 20. DOI: 10.1186/s12877-020-01641-5
21. Wynsberghe А. van. Designing robots for care: Care centered value-sensitive design // Science and Engineering Ethics. - 2013. - № 19 (2). - P. 407-433.
22. The Care-Dependent are Less Averse to Care Robots: An Empirical Comparison of Attitudes / M. Schonmann, A. Bodenschatz, M. Uhl, G. Walkowitz // International Journal of Social Robotics. - 2023. - № 29. - P. 1-18. DOI: 10.1007/s12369-023-01003-2
23. Simon J. Value-sensitive design and responsible research and innovation [Электронный ерсурс] // The ethics of technology: Methods and approaches (online book). - 2017. - P. 219-235. -URL: https://www.academia.edu/32571311/Value_Sensitive_Design_and_Responsible_Research_ and_Innovation (дата обращения: 12.10.2023).
24. Friedman B., Hendry D. Value Sensitive Design: Shaping Technology with Moral Imagination. - Cambridge, MA: MIT Press, 2019. - 229 р. DOI: 10.1080/17547075.2019.1684698
25. Friedman B., Kahn P., Borning A. Value Sensitive Design and Information Systems // Human-computer interaction in management information systems: Foundations. - New York: M.E. Sharpe, 2006. - P. 348-372. DOI: 10.1007/978-94-007-7844-3_4
26. Seibt J., Damholdt M., Vestergaard C. Integrative Social Robotics, value-driven design and transdisciplinarity // Interaction Studies. - 2020. - № 21 (1). - P. 111-144. DOI: 10.1075/is.18061.sei
27. Wynsberghe A. van. Service robots, care ethics, and design // Ethics and Information Technology. - 2016. - № 18. - P. 311-321. DOI: 10.1007/s10676-016-9409-x
28. Manders-Huits N. What values in design? The challenge of incorporating moral values into design // Science and Engineering Ethics. - 2011. - № 17(2). - P. 271-287. DOI: 10.1007/s11948-010-9198-2
29. Dunn C.P., Burton B.K. Ethics of care [Электронный ресурс] // Encyclopedia Britannica. -URL: https://www.britannica.com/topic/ethics-of-care (дата обращения: 12.11.2023).
30. Schoenhofer S.O., Wynsberghe A. van, Boykin A. Engaging Robots as Nursing Partners in Caring: Nursing as Caring Meets Care-Centered Value-Sensitive Design // International Journal for Human Caring. - 2019. - № 23 (2). - P. 157-167. DOI: 10.20467/1091-5710.23.2.157
31. Umbrello S. The Ecological Turn in Design: Adopting a Posthumanist Ethics to Inform Value Sensitive Design // Philosophies. - 2021. - № 6 (2). - 29 p. DOI: 10.3390/philosophies6020029
References
1. OON: Mir, dostoinstvo i ravenstvo na zdorovoi planete. Starost' [UN: Peace, dignity and equality for a healthy planet. Old age], available at: https://www.un.org/ru/global-issues/ageing (accessed 30 November 2023).
2. Barrett E., Murphy R., Mannion A., Meskell P., Burke M., Casey D., Whelan S. Can Social Robots Help to Reduce Loneliness and Social Isolation in People with Dementia? A Delphi Survey, Age and Ageing, 2017, vol. 46 (3), pp. 13-59. DOI: 10.1093/ageing/afx144.114
3. Moro C., Lin S., Nejat G., Mihailidis A. Social Robots and Seniors: A Comparative Study on the Influence of Dynamic Social Features on Human-Robot Interaction. International Journal of Social Robotics, 2019, no. 11, pp. 5-24. DOI: 10.1007/s12369-018-0488-1
4. Pu L., Moyle W., Jones C., Todorovic M. The Effectiveness of Social Robots for Older Adults: A Systematic Review and Meta-Analysis of Randomized Controlled Studies. Gerontologist, 2019, no. 59(1), pp. 37-51. DOI: 10.1093/geront/gny046
5. Sommerlad A., Kivimaki M., Larson E.B. et al. Social participation and risk of developing dementia. Nature Aging, 2023, no. 3, pp. 532-545. DOI: 10.1038/s43587-023-00387-0
6. Stahl B. C., Coeckelbergh M. Ethics of healthcare robotics. Robotics and Autonomous Systems, 2016, no. 8, pp. 152-161. DOI: 10.1016/j.robot.2016.08.018
7. Grunwald A. Technology assessment in practice and theory. Abingdon, New York, Routledge, 2018, 253 p.
8. Zheleznyak V.N., Seredkina E.V. Otvetstvennost' kak reguliativnyi printsip v issledovaniiakh po sotsial'noi otsenke tekhniki [Responsibility as a regulative principle in the field of technology assessment]. Discourse, 2018, no. 3, pp. 10-17.
9. Seredkina E.V., Shironina E.M. Teoriia i metodologiia tsennostno-orientirovannogo dizaina: kriticheskii analiz [Theory and methodology of value-sensitive design: critical analysis]. Analytics of Spiritual Culture, 2022, no. 14 (2), part 2, pp. 302-319. DOI: 10.17212/2075-0862-2022-14.2.2-302-319
10. Yoo D. Stakeholder Tokens: a constructive method for value sensitive design stakeholder analysis. Ethics and Information Technology, 2021, vol. 23 (1), pp. 63-67. DOI: 10.1007/s10676-018-9474-4
11. Sharkey A., Sharkey N. Granny and the robots: ethical issues in robot care for the elderly. Ethics and Information Technology, 2012, no. 14, pp. 27-40. DOI: 10.1007/s10676-010-9234-6
12. Sharkey, A. Robots and human dignity: a consideration of the effects of robot care on the dignity of older people. Ethics and Information Technology, 2014, no. 16, pp. 63-75. DOI: 10.1007/s10676-014-9338-5
13. Khondoker M., Rafnsson S.B., Morris S., Orrell M., Steptoe A. Positive and Negative Experiences of Social Support and Risk of Dementia in Later Life: An Investigation Using the English Longitudinal Study of Ageing. Journal of Alzheimer's Desease, 2017, no. 58 (1), pp. 99-108. DOI: 10.3233/JAD-161160
14. Sparrow R., Sparrow L. In the hands of machines? The future of aged care. Minds and Machines, 2006, no. 16, pp. 141-161. DOI: 10.1007/s11023-006-9030-6
15. Wallach W., Allen C. Moral machines: Teaching robots right from wrong. New York, Oxford University Press, 2009.
16. Flusser V. Shape of things: a philosophy of design. London, Reaction Books, 1999, 192 pp.
17. Sparrow R. The march of the robot dogs. Ethics and Information Technology, 2002, no.4, pp. 305-318.
18. Kitwood T. Dementia reconsidered: The person comes first. Buckingham, Open University Press, 1997, 160 p.
19. Seredkina E.V. Eticheskie aspekty sotsial'noi robototekhniki [Ethical Aspects of social Robotics]. Chelovek, 2020, no. 4, pp. 109-127. DOI: 10.31857/S023620070010933-3
20. Bradwell H.L., Winnington R., Thill S., Jones R.B. Ethical perceptions towards real-world use of companion robots with older people and people with dementia: survey opinions among younger adults. BMC Geriatrics, 2020, no. 20. DOI: 10.1186/s12877-020-01641-5
21. van Wynsberghe А. Designing robots for care: Care centered value-sensitive design. Science and Engineering Ethics, 2013, no. 19 (2), pp. 407-433.
22. Schonmann M., Bodenschatz A., Uhl M., Walkowitz G. The Care-Dependent are Less Averse to Care Robots: An Empirical Comparison of Attitudes. International Journal of Social Robotics, 2023, no. 29, pp. 1-18. DOI: 10.1007/s12369-023-01003-2
23. Simon J. Value-sensitive design and responsible research and innovation. In: The ethics of technology: Methods and approaches (online book), 2017, pp. 219-235, available at: https://www.academia.edu/32571311/Value_Sensitive_Design_and_Responsible_Research_and_ Innovation (accessed 12 October2023).
24. Friedman B., Hendry D. Value Sensitive Design: Shaping Technology with Moral Imagination. - Cambridge, MA: MIT Press, 2019, 229 р. DOI: 10.1080/17547075.2019.1684698
25. Friedman B., Kahn P., Borning A. Value Sensitive Design and Information Systems. Human-computer interaction in management information systems: Foundations. New York, M.E. Sharpe, 2006, pp. 348-372. DOI: 10.1007/978-94-007-7844-3_4
26. Seibt J., Damholdt M., Vestergaard C. Integrative Social Robotics, value-driven design and transdisciplinarity. Interaction Studies, 2020, no. 21 (1), pp. 111-144. DOI: 10.1075/is.18061.sei
27. van Wynsberghe A. Service robots, care ethics, and design. Ethics and Information Technology, 2016, no. 18, pp. 311-321. DOI: 10.1007/s10676-016-9409-x
28. Manders-Huits N. What values in design? The challenge of incorporating moral values into design. Science and Engineering Ethics, 2011, no. 17(2), pp. 271-87. DOI: 10.1007/s11948-010-9198-2
29. Dunn C. P., Burton B. K. Ethics of care. In: Encyclopedia Britannica, available at: https://www.britannica.com/topic/ethics-of-care (accessed 12 November 2023).
30. Schoenhofer S.O., van Wynsberghe A., Boykin A. Engaging Robots as Nursing Partners in Caring: Nursing as Caring Meets Care-Centered Value-Sensitive Design. International Journal for Human Caring, 2019, no. 23 (2), pp. 157 - 167. DOI: 10.20467/10915710.23.2.157
31. Umbrello S. The Ecological Turn in Design: Adopting a Posthumanist Ethics to Inform Value Sensitive Design. Philosophies, 2021, no. 6 (2), 29 p. DOI: 10.3390/philosophies6020029
