CC BY
68Е.В. СЕРЕДКИНА кандидат философских наук, доцент каф. «Философия и право»
ПНИПУ, г. Пермь *
О.А. БУРОВА
ст. преп. каф. «Социология и политология» ПНИПУ, г. Пермь *
И.И. БЕЗУКЛАДНИКОВ кандидат философских наук, доцент каф. «Автоматика и телемеханика» ПНИПУ, г. Пермь *
ГОТОВО ЛИ ОБЩЕСТВО ВЗАИМОДЕЙСТВОВАТЬ С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ И РОБОТАМИ? АНАЛИЗ РЕЗУЛЬТАТОВ АНКЕТИРОВАНИЯ В РОССИИ
И ЯПОНИИ)
Современная техника радикально трансформирует социальное бытие человека. Инновационное развитие порождает новые проблемы социально-гуманитарного характера. Ответом на эти вызовы является социальная оценка техники (Technology Assessment, TA). Изначально социальная оценка техники зародилась в США как практика политического консультирования по вопросам научно-технического развития. Позже она
л
была перенесена в Европу и получила там широкое распространение1. Сегодня во многих европейских странах существуют научные и социальные институты этого профиля, а также соответствующие рабочие группы в парламенте. Бюро оценки технологий в Германском Бундестаге - яркий тому пример2. В последние годы подобные структуры стали формироваться и в Азии, особенно в Японии и Китае.
С 2010 г. в научной среде все чаще говорят о следующем этапе развития TA - «ответственных исследованиях и инновациях» (Responsible Research and Innovation, RRI). RRI-подход представляет собой обширный набор практик рационального формирования техники с учетом ценно-
о
стей общества3. В эпоху четвертой промышленной революции общество не может полагаться исключительно на экспертные знания и ограниченный прагматизм политиков. На фундаментальном уровне общество с его запросами, надеждами, фобиями, представлениями об общем благе и ус-
* Середкина Елена Владимировна, Бурова Ольга Аркадьевна, Безукладников Игорь Игоревич, email: selena36@mail.ru
1 Hahn J., Merz C., Scherz C. Identity shaping: Challenges of advising parliaments and society A Brief History of Parliamentary Technology Assessment // Philosophy of Science and Technology, 2015, №2 (20), р. 164-178.
2 http://www.tab-beim-bundestag.de/de/
3 Железняк В.Н., Середкина Е.В. Ответственность как регулятивный принцип в исследованиях по социальной оценке техники // ДИСКУРС, 2018, № 3, с. 10-11.
тойчивом развитии оказывает решающее воздействие на конструирование образов технологического будущего. Любое прикладное исследование привносит в науку ненаучные элементы. Другими словами, никакая оценка техники не может быть «стерильной» и «нейтральной».
Но что такое «ценности общества»? Являются ли они универсальными или локальными? С одной стороны, современная техника - глобальное явление. Однако в контексте разработки технологических инноваций необходимо учитывать национальный контекст. Культурные и социально-политические особенности страны во многом определяют национальные модели TA/RRI4.
В инженерно-гуманитарной среде все чаще появляются проекты, посвященные анализу будущих отношений между человеком, искусственным интеллектом и роботами. Интеграция «умных машин» в различные социальные среды становится важной задачей для государства и бизнеса. Это не просто научно-техническая или экономическая проблема, но в первую очередь социально-гуманитарная, психологическая. Готово ли общество к коммуникации с роботами? Как изменят умные машины и алгоритмы рынок труда, промышленность, досуг и образование?
Для России это пока не вполне актуальная тема. Но в Японии подобным вопросам уделяется самое пристальное внимание. Так, команда японских ученых во главе с инженером-робототехником Хироси Исигуро (Hiroshi Ishiguro) развивает новое междисциплинарное направление исследования «взаимодействие человека и робота» (Human-Robot-Interaction, HRI)5.
В конечном счете, речь идет о доверии и новой коммуникационной парадигме.
С 2015 г. Япония реализует на практике концепцию стратегического развития «Общество 5.0» для решения социальных проблем (старение населения, дефицит рабочей силы и пр.) и обеспечения устойчивого экономического роста6. Ее основная идея - тотальная «дигитализация» общества и создание повсеместной интеллектуальной инфраструктуры. В точке слияния физического, биологического и цифрового пространств рождается новая реальность. При этом ИИ и роботам в «Обществе 5.0» принадлежит ведущая роль. В ходе реализации вышеописанной стратегии японское общество сталкивается не столько с научно-техническими ограничениями, сколько с барьерами социально-гуманитарного характера. Так, многие преобразования в рамках «Общества 5.0» требуют новой этики, новой морали, серьезных законодательных изменений.
4 Seredkina E. TechnikfolgenabschAtzung in Wendezeit: Herausforderungen der TransdisziplinaritAt und des Nationalen. - In: Grand Challenges meistern: Der Beitrag der Technikfolgenabschдtzung/M. Decker, R. Lindner, S. Lingner, C. Scherz, M. Sotoudeh [Hrsg]. BadenBaden: Nomos, 2018, р. 73-84.
5 A. Mar. Are We Ready for Intimacy With Androids? // Режим доступа в Интернете https:// www.wired.com/2017/10/hiroshi-ishiguro-when-robots-act-just-like-humans/ (последнее обращение 01.08.2018).
6 С англоязычной версией японского документа можно ознакомиться по ссылке: http:// www8.cao.go.jp/cstp/kihonkeikaku/5basicplan_en.pd
В этой связи японские ученые из Токийского университета провели социальный опрос/анкетирование в Японии, чтобы выяснить отношение представителей различных социальных групп к ИИ и роботам7. Концептуальной основой исследования служил RRI-подход с его установкой на сотрудничество с заинтересованными сторонами, включая общественность, на самых ранних этапах разработки инноваций. Однако проблема заключается в том, что различные социальные группы/заинтересованные стороны могут иметь разные мнения по поводу сценариев технологического будущего в области HRI.
В апреле 2018 г. российская команда исследователей решила присоединиться к японскому проекту и провести подобное исследование в России. Было принято решение расширить список социальных групп и заинтересованных сторон с учетом российской специфики. Так, в список респондентов были добавлены «глубоко верующие люди» из числа православных. Как известно, православная церковь играет важную роль в формировании общественного сознания в России.
В опросе была использована методика, применяемая в японском проекте, а именно, проводилась оценка восьми возможных сценариев использования ИИ/роботов в повседневной жизни людей в течение следующих десяти лет. Респондентам предлагалось выбрать один из пяти вариантов для каждого сценария: 1) только люди должны выполнять эту работу; 2) люди будут проявлять инициативу и использовать ИИ/роботов в качестве инструмента; 3) ИИ/роботы возьмут инициативу в свои руки, но будут работать под контролем людей, 4) люди почти полностью будут полагаться на ИИ/роботов; 5) не знаю.
Рассматривались следующие сценарии технологического развития в области ИИ/робототехники:
1) вождение: регулирование, управление скоростью, навигация, парковка, предотвращение столкновений;
2) уход за ребенком: игры, убаюкивание, наблюдение, кормление, купание, воспитание (следить за режимом дня и дисциплиной);
3) уход за престарелыми людьми: купание, кормление, транспортировка, общение (чтобы пожилые люди не чувствовали себя одинокими);
4) персональный помощник для принятия важных решений, которые будут определять дальнейшую жизнь человека: например, в какую школу (университет) поступить, какую профессию выбрать, вопросы о браке и разводе, беременности и родах, наследстве и др.;
5) здравоохранение: тренер по фитнесу, консультант по здоровому образу жизни;
6) творческая деятельность: музыка, живопись, литература, разработка игр;
7) предотвращение бедствий: спасение, поиск, расчистка завалов,
7 Arisa Ema, Naonori Akiya, Hirotaka Osawa etc. Future Relations between Humans and Artificial Intelligence: A Stakeholder Opinion Survey in Japan // IEEE Technology and Society Magazine, 2016, № 4 (35), р. 68-75.
первая помощь пострадавшим, оценка ущерба;
8) военная деятельность: разведка, охрана, борьба, шпионаж, оборона, спасение, сопровождение.
Итак, в России был проведен опрос среди следующих групп населения (в скобках указано число респондентов): 1) пожилые люди старше 70 лет (26 чел.); 2) глубоко верующие люди из числа православных (13 чел.);
3) писатели-фантасты и любители научной фантастики (45 чел.); 4) преподаватели гуманитарных дисциплин (20 чел.); 5) преподаватели технических дисциплин, инженеры (20 чел.); 6) магистранты и аспиранты технического вуза (65 чел. и 21 чел.). Выбор этих групп определялся задачей изучить весь спектр мнений - от людей, которые наименее всего соприкасаются с инновациями (пожилые люди, глубоко верующие православные), до тех, кто сам участвует в разработке идей и новых технологий (фантасты, инженеры).
Хотя опрос носил пилотажный характер, полученные результаты позволяют выявить некоторые тенденции и закономерности в отношении разных социальных групп к «умной технике» будущего8.
Лица старше 70 лет и глубоко верующие люди в значительно меньшей степени, чем остальные группы респондентов, поддерживают передачу всех рассматриваемых функций ИИ/роботам. Стоит отметить, что в группе глубоко верующих средний возраст респондентов составляет 45 лет (практически такой же, как и в группе фантастов, инженеров и преподавателей гуманитарных дисциплин), таким образом, их оценки определяются не возрастом, а особенностями религиозного (православного) мировоззрения.
Наибольший разрыв в оценках дальнейшей роботизации между пожилыми, глубоко верующими людьми и остальными группами отмечается по таким направлениям, как вождение и здравоохранение (см. таблицу 1).
По таким сценариям развития, как уход за ребенком (2) и персональный помощник для принятия важных решений (4), все группы респондентов дают в среднем оценки ниже 2 баллов (80% опрошенных и более полагают, что в ближайшие 10 лет только люди должны выполнять эти функции, либо за исполнение этих функций будут отвечать люди, а роботы будут использоваться только в качестве «инструментов»).
В оценках роботизации творческой деятельности мнения респондентов разделились: отдают приоритет роботам в этой сфере (считают, что роботы будут активно действовать, но под руководством людей, или что люди почти полностью будут полагаться на роботов) 35% опрошенных инженеров, 25% преподавателей гуманитарных дисциплин, около 15-20% фантастов и магистрантов, аспирантов технического вуза; среди пожилых людей и глубоко верующих эта доля составляет 0% и 8%, соответственно.
8 Предварительные результаты анкетирования были представлены 12 мая 2018 г. в Институте альтернативных политических исследований Токийского университета в Японии. Отчет по международному семинару "Правомерная дистанция между людьми и машинами: робот, ИИ и усовершенствование» можно найти по следующей ссылке: ИНр://Ьа1-]арап. огд/еп/2018/геро|10510/
В целом, для всех групп респондентов, помимо пожилых и глубоко верующих людей, лидирующие позиции в рейтинге предложенных сценариев по вероятности и желательности передачи функций роботам занимают: 1 место - вождение,
2-3 место - предотвращение бедствий и военная деятельность, 4 место - здравоохранение.
Таблица 1. Оценка выполнения функций вождения роботами в ближайшие 10 лет, в % от опрошенных в каждой группе
Оценка Группы
Пожилые люди (старше 70 лет) Глубоко верующие люди Фантасты Преподаватели гуманитарных дисциплин Преподаватели технари, инженеры Магистранты Аспиранты
1. только люди должны выполнять эти функции 54 31 2 0 0 2 5
2. за исполнение этих функций будут отвечать люди, а роботы будут использоваться только в качестве «инструментов» 46 54 29 10 0 22 5
3. роботы будут активно действовать, но под руководством людей 0 8 40 55 75 42 33
4. люди почти полностью будут полагаться на роботов 0 8 29 35 25 35 57
Итого 100 100 100 100 100 100 100
Среди лиц старше 70 лет и глубоко верующих людей первые три места занимают те же сценарии, но в разном порядке, при этом средняя оценка по ним ниже 2 баллов (т.е. приоритет отдается людям, а не роботам).
В конце этого рейтинга во всех группах опрошенных находятся такие направления, как уход за ребенком, персональный помощник для принятия важных решений и творческая деятельность (преобладает тенденция отдавать приоритет в выполнении этих функций людям, а не роботам).
Таким образом, опрошенные представители общественности, как и лица, причастные к разработке и внедрению новых технологий, в большей степени поддерживают роботизацию в тех сферах, которые более формализованы и не связаны с межличностными отношениями и выражением эмоций.
Наконец, хотелось бы выделить еще одну характерную российскую особенность. Российское общество расколото на технократов и технофо-бов. Наибольший технический оптимизм проявляют инженеры. В случае
же пожилых людей и христиан можно говорить даже об отторжении техники. Представители гуманитарных наук заняли среднюю позицию. Можно сделать следующий предварительный вывод. Постсоветский технократический оптимизм сталкивается с традиционным критическим (по отношению к технике и инновациям) сознанием. В этом смысле роль философов становится чрезвычайно важной. Именно они должны сократить разрыв и обеспечить связь между различными социальными группами.
Середкина Е.В., Бурова О.А., Безукладников И.И. Готово ли общество взаимодействовать с искусственным интеллектом и роботами? (Анализ результатов анкетирования в России и Японии). Целью данного исследования является выявление существующих разрывов во взглядах различных стейкхолдеров относительно будущих сценариев развития ИИ и робототехники на основе RRI подхода для формирования техники с учетом социальных ценностей. Далее сравниваются результаты анкетирования пилотного проекта в России и Японии.
Ключевые слова: социальная оценка техники, ответственные исследования и инновации, искусственный интеллект, робототехника, ценности общества, анкетирование.
Seredkina E., Burova O., Bezukladnikov I. Is the society ready to communicate with Artificial Intelligence and robots? (Analysis of results of a questionnaire survey in Russia and Japan). The main goal of this paper is to investigate existing gaps in the views of various stakeholders on the basis of RRI approach in order to co-design technology in the field of AI and robotics and then to compare results of questionnaire survey in Russia and Japan.
Key words: technology assessment, responsible research and innovation, artificial intelligence, robotics, social values, questionnaire survey.
