Научная статья на тему 'ВЛИЯНИЕ НАУЧНОЙ ФАНТАСТИКИ НА ПРЕДСТАВЛЕНИЯ О БУДУЩЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА'

ВЛИЯНИЕ НАУЧНОЙ ФАНТАСТИКИ НА ПРЕДСТАВЛЕНИЯ О БУДУЩЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Текст научной статьи по специальности «Прочие социальные науки»

CC BY
614
98
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Технологос
ВАК
Ключевые слова
НАУЧНАЯ ФАНТАСТИКА / ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ / ОБЩИЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ / ДОПОЛНЕННЫЙ ИНТЕЛЛЕКТ / ПРОЕКТИРУЮЩЕЕ ВООБРАЖЕНИЕ / ВИРТУАЛЬНАЯ РЕАЛЬНОСТЬ / ЧЕЛОВЕКО-КОМПЬЮТЕРНОЕ ВЗАИМОДЕЙСТВИЕ / КИБЕРПАНК / ТЕХНОЛОГИЧЕСКАЯ СИНГУЛЯРНОСТЬ / SCIENCE FICTION / ARTIFICIAL INTELLIGENCE / ARTIFICIAL GENERAL INTELLIGENCE (AGI) / AUGMENTATION OF INTELLIGENCE / DESIGN FICTION / VIRTUAL REALITY (VR) / HUMAN-COMPUTER INTERACTION(HCI) / CYBERPUNK / TECHNOLOGICAL SINGULARITY

Аннотация научной статьи по прочим социальным наукам, автор научной работы — Осава Х., Хасе С., Миямото Д., Сайджо Р., Фукучи К.

Проанализирована взаимосвязь между научной фантастикой (НФ) и наукой и техникой в области физики, химии, биологии, космической техники, машиностроения, электротехники и информационных технологий. Отмечается, что, в свою очередь, произведения НФ, отражая процессы интеграции технологий в общество и трансформацию ценностей, сильно влияют на творчество самих ученых. На примере киберпанка прослеживается однозначное влияние НФ в таких областях, как виртуальная реальность, человеко-компьютерное взаимодействие, взаимодействие человека и робота. Критикуется чисто инженерный подход в описании технологического будущего на основе НФ, в которой не всегда уделяется должное внимание анализу социального контекста. Так, быстрое развитие технологий искусственного интеллекта породило серьезные этические проблемы, которые требуют всестороннего обсуждения. Сформулирован принцип осторожного применения классических идей НФ в реальном мире. Научно-фантастические произведения отражают конкретную эпоху с ее ценностями и установками, поэтому образы и сценарии будущего требуют тщательного критического анализа. Предлагается метод изучения будущего искусственного интеллекта (ИИ) на основе анализа произведений НФ. Рассматриваются концепции дополненного интеллекта в человеческом обществе, вопросы разнообразия интеллекта, а также социальные последствия внедрения искусственного интеллекта. Способность НФ изображать будущее концептуально обобщается в форме «дизайн-фикшн» (проектирующего воображения). Обсуждение отношений между искусственным интеллектом, научной фантастикой и обществом сопровождается многочисленными примерами, а также интервью с исследователями и создателями технологий в области человеко-машинного взаимодействия, робототехники, когнитивных наук. Предложен метод проектирования будущих технологий ИИ, основанный на современных возможностях и проблемах, отраженных в научной фантастике. Авторы статьи надеются внести свой посильный вклад в развитие представлений о технологическом будущем человечества.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

ENVISIONING FUTURE OF ARTIFICIAL INTELLIGENCE WITH SCIENCE FICTION

This article analyzes the relationship between science fiction (SF), science, and technology. The question is being studied how the SF describes the development of science and technology, the process of integrating technology into society, as well as the transformation of values. It is shown that the SF depends on science and technology. In turn, the SF strongly affects the work of scientists themselves. On the example of cyberpunk, the unambiguous influence of SF in such areas as “virtual reality”, “human-computer interaction”, “human-robot interaction” is traced. The purely engineering approach is criticized in describing the technological future based on SF, which does not always pay attention to the analysis of the social context. The principle of careful application of the classical ideas of SF in the real world is formulated, since science fiction works reflect a specific era with its values and attitudes, therefore, the images and scenarios of the future require careful critical analysis. A method is proposed for studying the future artificial intelligence (AI) based on the analysis of SF. The concepts of augmented intelligence in human society, the issues of the diversity of intelligence, as well as the social consequences of AI are considered. The ability of SF to portray the future is conceptually generalized in the form of “design fiction”. The discussion of the relationship between AI, SF and society is accompanied by numerous examples, as well as interviews with researchers and creators of technologies in the field of human-machine interaction, robotics, and cognitive sciences. The article proposes a method for designing future AI technologies based on modern capabilities and problems reflected in science fiction. The authors hope to make their contribution to the development of ideas about the technological future of society.

Текст научной работы на тему «ВЛИЯНИЕ НАУЧНОЙ ФАНТАСТИКИ НА ПРЕДСТАВЛЕНИЯ О БУДУЩЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

Осава Х., Хасе С., Миямото Д., Сайджо Р., Фукучи К., Мияке Е. Влияние научной фантастики на представления о будущем искусственного интеллекта // Технологос. - 2020. - № 2. - С. 42-52. DOI: 10.15593/perm.kipf/2020.2.04

Osawa H., Hase S., Miyamoto D., Saijo R., Fukuchi K., Miyake Y. Envisioning Future of Artificial Intelligence with Science Fiction. Technologos, 2020, no. 2, pp. 42-52. DOI: 10.15593/perm.kipf/2020.2.04

DOI: 10.15593/perm.kipf/2020.2.04 УДК 82-311.9:004.89

Х. Осава1, С. Хасе2, Д. Миямото3, Р. Сайджо4, К. Фукучи5, Е. Мияке6

ВЛИЯНИЕ НАУЧНОЙ ФАНТАСТИКИ НА ПРЕДСТАВЛЕНИЯ О БУДУЩЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

1Цукубский университет, Цукуба, Япония 2Клуб японских писателей-фантастов, Япония Токийский университет, Токио, Япония 4Киотский университет искусств, Киото, Япония Университет Мэйдзи, Токио, Япония

6Японская ассоциация исследования цифровых игр, Токио, Япония

О СТАТЬЕ

АННОТАЦИЯ

Получена: 17 ноября 2019 г. Принята: 17 июня 2020 г. Опубликована: 19 октябрь 2020 г.

Ключевые слова:

научная фантастика, искусственный интеллект, общий искусственный интеллект, дополненный интеллект, проектирующее воображение, виртуальная реальность, человеко-компьютерное взаимодействие, киберпанк, технологическая сингулярность.

Проанализирована взаимосвязь между научной фантастикой (НФ) и наукой и техникой в области физики, химии, биологии, космической техники, машиностроения, электротехники и информационных технологий. Отмечается, что, в свою очередь, произведения Нф, отражая процессы интеграции технологий в общество и трансформацию ценностей, сильно влияют на творчество самих ученых. На примере киберпанка прослеживается однозначное влияние НФ в таких областях, как виртуальная реальность, человеко-компьютерное взаимодействие, взаимодействие человека и робота. Критикуется чисто инженерный подход в описании технологического будущего на основе НФ, в которой не всегда уделяется должное внимание анализу социального контекста. Так, быстрое развитие технологий искусственного интеллекта породило серьезные этические проблемы, которые требуют всестороннего обсуждения. Сформулирован принцип осторожного применения классических идей Нф в реальном мире. Научно-фантастические произведения отражают конкретную эпоху с ее ценностями и установками, поэтому образы и сценарии будущего требуют тщательного критического анализа. Предлагается метод изучения будущего искусственного интеллекта (ИИ) на основе анализа произведений НФ. Рассматриваются концепции дополненного интеллекта в человеческом обществе, вопросы разнообразия интеллекта, а также социальные последствия внедрения искусственного интеллекта. Способность НФ изображать будущее концептуально обобщается в форме «дизайн-фикшн» (проектирующего воображения). Обсуждение отношений между искусственным интеллектом, научной фантастикой и обществом сопровождается многочисленными примерами, а также интервью с исследователями и создателями технологий в области человеко-машинного взаимодействия, робототехники, когнитивных наук. Предложен метод проектирования будущих технологий ИИ, основанный на современных возможностях и проблемах, отраженных в научной фантастике. Авторы статьи надеются внести свой посильный вклад в развитие представлений о технологическом будущем человечества.

© ПНИПУ

© Хиротака Осава - PhD, доцент факультета инженерии, информации и систем, ORCID: https://orcid.org/0000-0001-5779-8437, e-mail: hiro.osa@gmail.com. © Сатоеи Хасе - писатель.

© Доджин Миямото - PhD, доцент, Высшая школа естественных наук.

© Рейна Сайджо - PhD, доцент, Центр исследований художественной коммуникации, ORCID: https://orcid.org/0000-0001-9824-3841. © Кентаро Фукучи - PhD, доцент, Школа междисциплинарных математических наук. © Еитиро Мияке - PhD, доцент, ORCID: https://orcid.org/0000-0002-4748-5813.

© Hirotaka Osawa - PhD, Associate Professor, Faculty of Engineering, Information and Systems, ORCID: https://orcid.org/0000-0001-5779-8437, e-mail: hiro.osa@gmail.com. © Satoshi Hase - writer.

© Dohjin Miyamoto - PhD, Associate Professor, Graduate School of Science. © Reina Saijo - PhD, Associate Professor, Art Communication Research Center, ORCID: https://orcid.org/0000-0001-9824-3841.

© Kentaro Fukuchi - PhD, Associate Professor, School of Interdisciplinary Mathematical Sciences. © Yoichiro Miyake - PhD, ORCID: https://orcid.org/0000-0002-4748-5813.

Перевод статьи с английского языка Е.В. Середкиной, доцента кафедры ФиП, руководителя НОЦ «Центр оценки технологий».

Данное исследование было поддержано проектом Imagination Update: Artificial Intelligence Design Fiction в Научно-техническом центре социальных технологий Японии «Экосистема людей и информации».

Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)

This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)

ENVISIONING FUTURE OF ARTIFICIAL INTELLIGENCE WITH SCIENCE FICTION

H. Osawa1, S. Hase2, D. Miyamoto3, R. Saijo4, K. Fukuchi5, Y. Miyake6

University of Tsukuba, Tsukuba, Japan 2Science Fiction and Fantasy Writers of Japan, Japan The University of Tokyo, Tokyo, Japan 4Kyoto University of Art and Design, Kyoto, Japan Meiji University, Tokyo, Japan

6Digital Games Research Association Japan, Tokyo, Japan

ABSTRACT

This article analyzes the relationship between science fiction (SF), science, and technology. The question is being studied how the SF describes the development of science and technology, the process of integrating technology into society, as well as the transformation of values. It is shown that the SF depends on science and technology. In turn, the SF strongly affects the work of scientists themselves. On the example of cyberpunk, the unambiguous influence of SF in such areas as "virtual reality", "human-computer interaction", "human-robot interaction" is traced. The purely engineering approach is criticized in describing the technological future based on SF, which does not always pay attention to the analysis of the social context. The principle of careful application of the classical ideas of SF in the real world is formulated, since science fiction works reflect a specific era with its values and attitudes, therefore, the images and scenarios of the future require careful critical analysis. A method is proposed for studying the future artificial intelligence (AI) based on the analysis of SF. The concepts of augmented intelligence in human society, the issues of the diversity of intelligence, as well as the social consequences of AI are considered. The ability of SF to portray the future is conceptually generalized in the form of "design fiction". The discussion of the relationship between AI, SF and society is accompanied by numerous examples, as well as interviews with researchers and creators of technologies in the field of human-machine interaction, robotics, and cognitive sciences. The article proposes a method for designing future AI technologies based on modern capabilities and problems reflected in science fiction. The authors hope to make their contribution to the development of ideas about the technological future of society.

© PNRPU

Введение

Воображение, представленное в научной фантастике (НФ), является важным инструментом конструирования образов технологического будущего. В свою очередь, научно-фантастический нарратив, отражающий влияние науки и техники на общество, а также трансформацию ценностей, служит руководством для ученых и инженеров при описании общества будущего. Есть много исследователей и предпринимателей в Японии и мире, которые утверждают, что были вдохновлены произведениями НФ, например робототехник Родни Брукс, который помог запустить такие компании, как iRobot и VR company Palmer Luckey. В Японии Общество искусственного интеллекта, Японское общество робототехники, Общество автоматических измерений и контроля, Общество человеческого интерфейса и другие академические структуры, связанные с информацией, оборудованием и электроникой, постоянно посвящают свои работы изучению НФ. Кроме того, растет число академических организаций, специализирующихся на НФ, таких как Институт научно-фантастических фильмов на платформе HCD-Net2.

Среди прочего научная фантастика оказала большое влияние и на область искусственного интеллекта, что позволило сформулировать различные концепции: от трех законов робото-

2 The Human Centered Design, HCD (Человекоориентированное проектирование). (Здесь и далее примечания переводчика).

ARTICLE INFO

Received: 17 November 2019 Accepted: 17 June 2020 Published: 19 October 2020

Keywords:

science fiction, artificial intelligence, artificial general intelligence (AGI), augmentation of intelligence, design fiction, virtual reality (VR), humancomputer interaction(HCI), cyberpunk, technological singularity.

3

техники Айзека Азимова [1, 2] до технологической сингулярности Вернора Винджа [3] . В Японии и за рубежом есть много исследователей ИИ, которые абсолютно убеждены во влиянии НФ на науку и технику. Кроме того, есть много технических терминов, которые пришли из НФ (роботы, сингулярность, киберпространство и т.д). Гипотетические свойства общего искусственного интеллекта4 часто изображаются в подобных художественных произведениях [4]. Например, Скайнет в фильме «Терминатор» представлен во многих исследованиях как одно из видений будущего ИИ [5].

Научно-фантастическое воображение часто использовалось в качестве инструмента для прогнозирования технологического будущего. Так, журнал Nature с 2009 года издает краткий отчет по научной фантастике, чтобы сделать эту тему более доступной для междисциплинарных исследований и широкой общественности. А компания Microsoft заказывает короткие научно-фантастические рассказы, связанные с их собственными разработками, которые затем бесплатно распространяются в обществе в виде антологий под названием «Образы будущего».

Китайское правительство активно поддерживает проведение международных конференций по научной фантастике, а также оказывает финансовую и моральную поддержку некоторым отечественным авторам. Более интересным фактом является приглашение писателей-фантастов в компании в качестве технических консультантов. Например, Брюс Стерлинг и Кори Доктороу5 участвуют в конференциях по информационным технологиям и разработке инновационной политики, а в Японии такие авторы, как Сатоси Хасе6 и Тайо Фуджи7, участвуют в работе этической комиссии при Обществе искусственного интеллекта с целью разработки этических стандартов.

В связи с этим Брюс Стерлинг разработал концепцию «дизайн-фикшн» (design fiction) -проектирующего воображения. Этой теме была посвящена международная конференция PRIMER. В Японии

команда под руководством Осаму Сакуры из RIKEN исследует отношения между НФ и обществом на базе Исследовательского центра инновационной интеллектуальной интеграции. Среди прочего делаются предложения по использованию НФ для проектирования будущего автономного интеллекта. Например, Iizuka и его коллеги предложили разработать этический кодекс для автономных роботов, основанный на научно-фантастических фильмах [16].

Тем не менее в проектах, посвященных НФ, в центре внимания, как правило, находятся вопросы, связанные с интересами инженеров, в то время как изучению социального контекста уделяется меньше внимания. Изображения обществ будущего, представленные в НФ, ограничены их вымышленной природой. В подобном жанре литературы важно видеть проблемы, которые являются отражением реальных социальных проблем. Серьезное внимание должно также уделяться анализу научно-фантастических текстов, созданных в определенную эпоху с ее образами и представлениями о будущем.

3 Технологическая сингулярность (англ. Technological singularity) - гипотетический момент в истории будущего, когда технологическое развитие становится необратимым и порождает радикальные изменения характера человеческой цивилизации. Эта точка невозврата называется «сингулярностью». Концепцию технологической сингулярности популяризировал американский писатель-фантаст Вернор Виндж в своем эссе 1993 года «Грядущая технологическая сингулярность».

4 Общий искусственный интеллект (Artificial general intelligence AGI) - это гипотетический интеллект машины, способной понимать или изучать любые интеллектуальные задачи, которые может выполнять человек.

5 Кори Доктороу, канадский писатель-фантаст, журналист, блогер, философ, сторонник либерализации системы авторских прав.

6 Сатоси Хасе (Satoshi Hase), один из авторов этой статьи, современный японский писатель-фантаст, автор известного научно-фантастического романа Beatless (2012), в котором описывается будущее, где антропоморфные роботы под кодовым названием HIE стали частью человеческого общества.

7 Тайо Фуджи (Taiyo Fujii), японский писатель-фантаст, автор научно-фантастического романа «Генный картограф» (2012).

8 Сайт конференции: https://primerconference.com/2018/ (дата обращения: 17.11. 2019).

При поддержке японского общества «Экосистема людей и информации» авторы данной статьи запустили исследовательский проект «Обновление силы воображения: искусственный интеллект в сотрудничестве с проектирующим воображением». В рамках данного проекта в сотрудничестве с Японским клубом писателей научной фантастики было изучено влияние НФ на науку и технику, составлена классификация символов ИИ, проведено интервьюирование ученых и авторов [6].

Произведения НФ могут представлять концепцию развития интеллекта, поэтому важно знать, какое влияние может оказывать научная фантастика на общество, какое знание могут извлечь из нее инженеры и рядовые читатели. Считается, что воображение писателя-фантаста будет определять дизайн общего ИИ, а также общества будущего.

1. Взаимодействие научной фантастики и технологий 1.1. Понятие НФ

Научная фантастика представляет собой литературный жанр, в основе которого лежит повествование, связанное с наукой и техникой. В настоящее время определение научной фантастики значительно расширилось. В целом определение варьируется в зависимости от авторов, критиков и читателей [7].

Есть несколько причин для более широкого понимания НФ. Например, вследствие научно-технического прогресса научные знания пересматриваются; то, что ранее считалось верным, в какой-то момент перестает быть таковым. Когда вы рассматриваете классическое произведение НФ с точки зрения его научного потенциала, то оно не всегда соответствует высоким научным стандартам. Тем не менее хитроумные новшества, описанные в этих работах, передаются будущим поколениям и используются в новых историях, более совершенных и соответствующих духу времени. С этой точки зрения это всегда научная фантастика. Некоторые произведения НФ, посвященные машине времени или варп-навигации9, как раз могут рассматриваться в качестве таких примеров.

Можно также допустить, что теоретически в одном из возможных миров, будь то планета или Вселенная с другими физическими законами, реальность все же не может быть гарантирована, даже если описание опирается на научные выводы. Есть много научно-фантастических произведений, в которых повествование ведется о мирах, основанных на отличных от Земли условиях. В таких мирах скорость света может быть чрезвычайно мала, или сила тяжести огромна («Драконье яйцо» Роберта Форварда), либо мир предстает в виде планетарного сознания-интеллекта («Солярис» Станислава Лема).

Кроме того, существуют научно-фантастические произведения, в которых хотя и описываются вымышленные научные технологии, тем не менее основанные на них общества описываются довольно точно. В результате такие технологии могут стать провозвестниками других, уже реальных технологий, и в этом смысле они формируют будущее. Например, хотя сам протокол Интернета не был предсказан научной фантастикой, однако издавна существовали романы, описывающие глобальный мир, состоящий из коммуникационной сети, объединяющей всех людей. Так, например, в произведении Шиничи Хоси «Голосовая сеть» описывается

9 Варп-навигация (англ. warp navigation) - это воображаемая технология искривления пространства-времени для увеличения скорости перемещения в космосе. Варп-навигация описывается в современной научно-фантастической медиафраншизе, например в сериале «Звездный путь».

сервис связи на базе искусственного интеллекта и телефонных сетей. Некоторые фокусируются на изображении людей и общества, основанного на вымышленных технологиях.

В этой статье НФ определяется как набор историй, в которых изображаются альтернативные сценарии развития общества на основе научных методов и реакции людей на них. Такой набор включает в себя также истории, основанные на технологиях, которые не обязательно соответствуют современным научным знаниям, но могут быть реализованы в будущем.

1.2. Связь между НФ и технологиями

Идея научной фантастики, которая развивает сюжеты, основанные на научном мышлении, существует уже давно. Однако такие произведения стали более популярными в эпоху промышленной революции. Например, в романе Брэма Стокера «Дракула» персонажи пытаются спасти человека, на которого напал вампир, с помощью переливания крови. Сам по себе роман причудлив и эксцентричен, но описанная в нем техника для борьбы с необычными явлениями опирается на научные методы. В целом НФ сильно зависит от науки и техники в области физики, химии, биологии, космической техники, машиностроения, электротехники и информационных технологий.

В свою очередь, произведения НФ сильно влияют на творчество самих ученых. Например, влияние киберпанка можно проследить в таких научных областях, как виртуальная реальность (Virtual Reality, VR), человеко-компьютерное взаимодействие (Human-Computer Interaction, HCI). Киберпанк - это новая тенденция в научно-фантастической литературе, появившаяся в 1980-х годах и представляющая собой серию произведений, описывающих будущее, в котором люди расширяют свои физические и интеллектуальные возможности благодаря технологиям. Среди авторов, внесших значительный вклад в развитие киберпанка, можно назвать Уильяма Гибсона и Брюса Стерлинга [8].

Киберпанк повлиял на творчество Джуна Рекимото (Jun Rekimoto), профессора Токийского университета, специалиста в области человеко-компьютерного взаимодействия. Например, его технология удаленного присутствия JackIn, позволяющая плавно переходить от одной позиции наблюдения (вид от 1-го лица) к другой (вид от 3-го лица), была названа в честь Нейроманта Уильяма Гибсона [9]. По его словам, в основе концепции «дополненного человека» (Augmented Human) лежит идея расширения человеческой природы, предложенная киберпанками [10].

Масахико Инами (Masahiko Inami), исследователь виртуальной реальности, также указал на влияние киберпанка в своих исследованиях. В частности, он заявил, что на его светоотражающую проекционную технологию [11] повлиял «оптический камуфляж» из известного научно-фантастического произведения в жанре киберпанка «Призрак в доспехах». Как сторонник концепции «Спорт для сверхчеловека», он говорит также о новых возможностях дополненного человеческого тела [12]10.

Джеймс Типтри-младший11, один из основоположников киберпанка, развил идею о том, что женщина технически может получить иное тело, переместив свой аватар (сознание) в удаленную оболочку и став «подключенной женщиной»12. Идея, что технологии могут компенсировать непреодолимые различия, такие как пол, была позже отражена в «Манифесте кибор-

10 Сверхчеловеческий спорт (Superman Sports), основанный на технологиях человеко-машинной интеграции, ставит своей целью новый подход к спорту, включая дополненные спортивные игры, дополненные спортивные наблюдения, разработку новых способов обучения игроков, а также создание новых видов спорта, выходящих за рамки человеческих возможностей, телосложения, гендерных различий.

11 Элис Брэдли-Шелдон (1915-1987), американская писательница, более известная под мужским псевдонимом Джеймс Типтри-младший (James Tiptree, Jr).

12 Повесть «Девочка, которую подключили» (1973) является самым известным произведением Джеймса Типтри-младшего, на ее основе были созданы телефильм и спектакль-мюзикл. «Девочка, которую подключили» считается предшественником киберпанка. В повести идет речь о судьбе девочки-самоубийцы, чей мозг использовали для создания киборга.

га» Донны Харауэй [13]. Так, японско-британская художница Sputnikol, развивающая искусство, целью которого является преодоление тендерных различий с помощью технологий, говорит в своей работе «Дженни Кроубот» (Crowbot Jenny)13, что на нее больше всего повлияла Донна Харауэй.

1.3. Применение НФ

В последние годы все чаще предпринимаются попытки использования различных форм воображения НФ для визионерских образов технологического будущего. Потенциальная сила самой НФ была много раз описана, в частности, в работах Брюса Стерлинга. Способность НФ изображать будущее концептуально обобщается в форме «дизайн-фикшн» [14]. Брюс Стерлинг и Кори Доктороу работают в качестве технических консультантов в крупных компаниях. Японские писатели-фантасты принимают участие в разработки этических стандартов для ИИ [15].

1.4. Опасения по поводу применения НФ

Следует отметить, что проекты, использующие силу проективного воображения НФ для развития науки и техники, как правило, являются односторонними и представляют в первую очередь интересы инженеров. В свою очередь инженеры уделяют недостаточное внимание анализу социального контекста

Картины и сценарии НФ ограничены их вымышленной природой. Кроме того, изображение социальных проблем реального мира в искусстве гораздо важнее описания технических усовершенствований. Так, быстрое развитие технологий искусственного интеллекта породило серьезные этические проблемы, которые требуют всестороннего анализа. Вот почему мы должны с осторожностью применять классические идеи НФ в реальном мире. Некоторые критики подчеркивают, что произведения НФ отражают конкретную эпоху с ее ценностями и установками, поэтому порождаемые ими образы будущего требуют тщательного критического анализа. Например, Жан-Габриэль Ганаскиа утверждает, что понятие сингулярности, предложенное писателем-фантастом Вернором Винджем, было некритически заимствовано Рэем Курцвейлом, что привело к социальным предрассудкам и ложной рекламе вокруг технологий [17].

Американский антрополог Дженифер Робертсон поднимает серьезную проблему, заключающуюся в том, что в японской НФ ведущая роль принадлежит инженерам, и это связано с некритическим восприятием образов мужественности [18]. В результате такого одностороннего подхода, когда инженеры видят в НФ лишь средство для научной коммуникации, не происходит социального удовлетворения. С другой стороны, воображение инженеров, писателей и общества не обновляется.

2. Искусственный интеллект и наука

2.1. Контроль и восстание ИИ: социальные последствия

В информационных технологиях влияние искусственных объектов на интеллектуальное поведение часто обсуждается в контексте робототехники.

Классическим примером автономного артефакта является персонаж еврейской мифологии голем. Это искусственная кукла, которая ведет себя в соответствии с инструкциями, аналогично поведению агента, управляемого программой. В таких случаях может возникнуть

13 https://sputniko.com/Crowbot-Jenny.

проблема потери контроля или бегства «куклы». Классическим примером донаучной фантастики является роман Мэри Шелли. В нем говорится о докторе Франкенштейне, создавшем монстра из кусков трупов. Можно также вспомнить пьесу Карла Чапека «R.U.R.», в которой искусственные создания восстают против людей. Роботы, изображенные в этой книге, являются не механическими артефактами, а искусственными живыми существами. Другое произведение К. Чапека «Война саламандр», хотя и не имеет непосредственного отношения к теме искусственного интеллекта, тем не менее в нем рассматриваются последствия человеческого вмешательства в мир разумных саламандр. Существует несколько работ, посвященных управляемым артефактам, а также их социальному воздействию.

Эти страхи называются комплексом Франкенштейна [19]. Обеспокоенный тенденцией приравнивать артефакты к монстрам, Исаак Азимов, один из выдающихся писателей-фантастов, предложил три закона робототехники в своей работе «Я, робот» [20]. Согласно этим законам, роботы как автономные артефакты действуют в порядке приоритета:

1. Защищают человеческую жизнь.

2. Подчиняются человеческим командам.

3. Защищают себя.

Три закона робототехники оказали сильное влияние на других авторов. Можно также вспомнить о таких инициативах, как «Хартия роботов университета Чиба» и «Корейская этическая хартия для роботов», которые также были связаны с разработкой этического кода, основанного на трех законах робототехники А. Азимова [21]. Тем не менее следует отметить, что законы Азимова - всего лишь литературный прием для усиления драматургии. В сущности, большинство историй взаимодействия людей и искусственных созданий, изображенных в сборнике рассказов «Я, робот», не укладываются в эти установленные законы.

2.2. Душа и разум. Что такое разум?

Существует много литературных примеров, в которых артефакт ищет человеческую душу. Например, в сказке «Приключения Пиноккио», написанной для детей Карло Коллоди в 1883 году, описаны примеры осознанного поведения деревянного создания. Есть также сюжеты, в которых не-человеки (nonhumans) оживают, как, например, в греческом мифе о Пигмалионе (женская статуя превращается в живую женщину и становится женой) [22]. В подобных произведениях искусственный интеллект часто спрашивает себя, что же такое разум? Так, в научно-фантастическом романе Баррингтона Дж. Бэйли «Душа робота» повествование ведется от лица робота, описываются «реалии» искусственного интеллекта, включая проблему фреймов, но в целом описание напоминает опыт человеческого интеллекта.

Нельзя обойти стороной и женскую проблематику. В западной литературе половые различия стали предметом острой критики. Так, в романе американской писательницы-фантаста Эми Томсон «Виртуальная девушка» критикуется мужской подход с точки зрения женщины-робота.

2.3. Дополненный интеллект в человеческом обществе

Есть довольно много произведений НФ, в которых обсуждается тема превращения человека в сверхчеловека путем расширения его интеллектуальных и физических возможностей. Например, Вернор Виндж, сторонник технологической сингулярности, предположил, что интеллектуальная способность самой жизни расширяется. Эту концепцию иногда называют усилением интеллекта (Intelligence Amplifier, IA) по сравнению с искусственным интеллектом (Artificial Intelligence, AI) [23]. Грег Иган - один из авторов, который использовал знания физики и когнитивной науки для активного описания изменений в человеке [24].

3. Категории ИИ в НФ

Здесь представлены основные области искусственного интеллекта, которые должны быть изучены в будущем на основе работ НФ.

3.1. Разнообразие интеллекта

В НФ есть такие произведения, в которых описаны структуры человеческого интеллекта, а также различия между человеческим и не-человеческим разумом. Например, в фантастическом романе» Станислава Лема «Солярис» изображается разумная планета в виде Океана, способного обрабатывать интеллектуальную информацию.

На основе изучения различных изображений интеллекта в произведениях НФ можно расширить технологические образы будущего, связанные с формированием общего искусственного интеллекта. Ключевыми словами здесь будут: логика, обучение, наука о сознании, минимальная загрузка. Эта область не только совместима с искусственным интеллектом, но также с такими академическими областями, как когнитивная наука и философия.

3.2. Социальный аспект интеллекта

НФ работает над тем, какой дизайн следует применить, когда человекоподобный интеллект внедряется в общество, а также какое влияние он может оказать на общество. «Astro Boy» Осаму Тэдзука является ярким примером такого направления.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Социальный анализ в научной фантастике важнее ее технической точности. Ключевыми словами здесь являются персонификация, гендерная проблематика, проектирование, правила и контроль со стороны власти, а также отношения (дружеские или враждебные). Эта область НФ тесно связана с Human Agent Interaction (HAI), исследованиями в области дизайна, репрезентативными исследованиями, а также вычислительной социальной наукой.

3.3. Улучшение человеческого интеллекта

Есть целый ряд произведений НФ, посвященных тому, как сами люди используют ИИ для расширения своего интеллекта и как при этом меняются их ценности. Речь идет о физической трансформации с помощью VR-технологий и социальной экспансии через сети. Эта область, вероятно, будет включать такие аспекты, как человеко-компьютерное взаимодействие (Human-Computer Interaction, HCI), виртуальная реальность (Virtual Reality, VR), экологическая аналитика (environmental intelligence), вычислительная социальная наука.

4. Интервью с исследователями

Авторами было опрошено четыре исследователя: Дзюнъити Рекимото (Junichi Rekimoto), исследователь в области HCI; Шуджи Кадзита (Shuji Kajita), исследователь антропоморфных роботов; Хитоси Мацубара (Hitoshi Matsubara), исследователь искусственного интеллекта; Эцуко Харада (Etsuko Harada), специалист в области когнитивной науки. Интервью опубликованы в журнале НФ Hayakawa Shobo в 2019 году.

В интервью было подтверждено влияние НФ на деятельность ученых и инженеров. Так, Дзюнъити Рекимото отметил, что чтение НФ помогло ему перейти от изучения гуманоидных типов к «дополненному человеку» (расширению интеллектуальных и физических возможностей человека с помощью технологий). Художественный фильм Ридли Скотта «Бегущий по

лезвию», основанный на научно-фантастическом романе Филипа К. Дика, является одной из самых известных работ, которая оказала большое влияние на многих исследователей в области HCI, искусственного интеллекта, робототехники, когнитивных наук.

Заключение

В этой статье предложен метод изучения будущего искусственного интеллекта на основе произведений НФ. Таким образом, была показана связь между НФ, с одной стороны, и наукой и техникой - с другой.

В будущем предполагается собрать информацию от сообщества НФ, экспертов в области науки и техники и широкой общественности, а также создать базу данных, которая поможет исследовать актуальность произведений НФ в будущем. В перспективе - изучение концепции общего искусственного интеллекта.

Список литературы

1. Asimov I. I, Robot. - New York: Doubleday, 1950.

2. McCauley L. AI Armageddon and the Three Laws of Robotics // Ethics and Information Technology. - 2007. - Vol. 9. - No 2. - P. 153-164. DOI: 10.1007/s10676-007-9138-2

3 Vinge V. The Coming Technological Singularity: How To Survive In The Post-Human Era, 1993, available at: https://ntrs.nasa.gov/search.jsp?R=19940022856 (accessed 5 November 2019)

4 Mapping the Landscape of Human-Level Artificial General Intelligence / S.S. Adams [et al.] // AI Magazine. - 2012. - Vol. 33. - No 1. - P. 25-42.

5. Towards an Agenda for Sci-Fi Inspired HCI Research / O. Mubin [et al.] // Proceedings of the 13th International Conference on Advances in Computer Entertainment Technology - ACE2016, 2016. - P. 1-6. DOI: 10.1145/3001773.3001786

6. How Can Engineers And Society Utilize The Imagination of Science Fiction? / S. Hase, S. Fujisaki, H. Yamakawa, D. Miyamoto, H. Osawa // Artificial Intelligence. - 2018. - Vol. 33. -No 5. - P. 679-690 (in Japanese).

7. Tatsumi T. Science Fiction Controversies in Japan. - Tokyo: Keiso Shobo, 2000 (in Japanese).

8. Tatsumi T. Cyber-Punk America. - Tokyo: Keiso Shobo, 1988 (in Japanese).

9. Kasahara S., Rekimoto J. JackIn Head: Immersive Visual Telepresence System With Omnidirectional Wearable Camera For Remote Collaboration // Proceedings of the 21st ACM Symposium on Virtual Reality Software and Technology - VRST '15. - 2015. - P. 217-225. DOI: 10.1145/2821592.2821608

10. Rekimoto J. A New You: From Augmented Reality to Augmented Human // Proceedings of the Ninth ACM International Conference on Interactive Tabletops and Surfaces - ITS '14. - 2014. -P. 1-1. DOI: 10.1145/2669485.2670531

11. Inami M., Kawakami N., Tachi S. Optical Camouflage Using Retro-Reflective Projection Technology // Proceedings - 2nd IEEE and ACM International Symposium on Mixed and Augmented Reality, ISMAR 2003. - P. 348-349. DOI: 10.1109/ISMAR.2003.1240754

12. Design of Sports Creation Workshop for Superhuman Sports / M. Orikasa, H. Inukai, K. Eto, K. Minamizawa, M. Inami // Proceedings of the Virtual Reality International Conference -Laval Virtual 2017 on - VRIC '17, 2017. - P. 1-4. DOI: 10.1145/3110292.3110305

13. Haraway D. A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century // The Cybercultures Reader. - London: Routledge, 2002. - P. 291-324.

14. Sterling B. Design Fiction // Interactions. - 2009. - Vol. 16. - No. 3. - P. 20. DOI: 10.1145/1516016.1516021

15. Ema A., Nagakura K., Takeda H. Open Discussion "Ethics Committee of the Society for Artificial Intelligence" (Special Feature 2016 AI Society of Japan National Convention (Chapter 30)) // Journal of the Japan Society for Artificial Intelligence. - 2016. - Vol. 31. - No. 6. - P. 866-868. (in Japanese)

16. Iizuka Sh., Takamori Ch., Yamaura M. A Study on Ethical Aspects in Deriving Design Principles of Autonomous Robots From SF Movies // Japan Society for Artificial Intelligence. -2018. - P. 3H2OS 25 b02 -3 H2OS 25 b02. DOI: 10.11517/PJSAI. JSAI 2018.0 _ 3H2OS 25 B02 (in Japanese)

17. Ganascia J.-G. Artificial Intelligence: Between Myth and Reality, available at. - URL: https://en.unesco.org/courier/2018-3/artificial-intelligence-between-myth-and-reality (accessed 5 November 2019).

18. Robertson J. Gendering Robots: Posthuman Traditionalism in Japan // Recreating Japanese Men. - Berkeley: University of California Press, 2011. - P. 277-303.

19. McCauley L. The Frankenstein Complex and Asimov's Three Laws. 2007. - P. 9-14, available at. - URL: https://www.aaai.org/Papers/Workshops/2007/WS-07-07/WS07-07-003.pdf (accessed 5 May 2020).

20. Asimov I. The Machine and The Robot // Science Fiction: Contemporary Mythology. Eds. P.S. Warrick, M.H. Greenberg, J.D. Olander. - New York: Harper and Row, 1978.

21. Honda K. Engineering ethics and robot ethics // Society and Ethics. - 2013. - No. 28. -P. 21-36. (in Japanese).

22. Kaplan F. Who is Afraid of the Humanoid? Investigating Cultural Differences In The Acceptation Of Robots // International Journal of Humanoid Robotics. - 2004. - Vol. 01. - No. 03. -P. 465-480. DOI: 10.1142/S0219843604000289

23. Leinweber D.J. Artificial Intelligence and Intelligence Amplification // Nerds on Wall Street. Hoboken. - NJ, USA: John Wiley & Sons, Inc., 2015. - P. 149-158.

24. Nichols R., Smith N.D., Miller F. Philosophy Through Science Fiction: A Coursebook with Readings. - New York, 2008. - 433 p.

References

1.Asimov I.I, robot. New York: Doubleday, 1950.

2.McCauley L. AI Armageddon and the Three Laws of Robotics. Ethics and Information Technology, 2007, vol. 9, no. 2, pp. 153-164. DOI: 10.1007/s10676-007-9138-2

3 Vinge V. The coming technological singularity: How to survive in the post-human era, 1993, available at: https://ntrs.nasa.gov/search.jsp?R=19940022856 (accessed 5 November 2019)

4 Adams S.S. et al. Mapping the Landscape of Human-Level Artificial General Intelligence. AI Magazine, 2012, vol. 33, no. 1, pp. 25-42.

5.Mubin O. et al. Towards an Agenda for Sci-Fi Inspired HCI Research. Proceedings of the 13th International Conference on Advances in Computer Entertainment Technology - ACE2016, 2016, pp. 1-6. DOI: 10.1145/3001773.3001786

6.Hase S., Fujisaki S., Yamakawa H., Miyamoto D., Osawa H. How can engineers and society utilize the imagination of science fiction? Artificial Intelligence, 2018, vol. 33, no. 5, pp. 679-690. (in Japanese)

7.Tatsumi T. Science Fiction Controversies in Japan. Tokyo, Keiso Shobo, 2000. (in Japanese)

8.Tatsumi T. Cyber-Punk America. Tokyo, Keiso Shobo, 1988. (in Japanese)

9.Kasahara S., Rekimoto J. JackIn head: immersive visual telepresence system with omnidirectional wearable camera for remote collaboration. Proceedings of the 21st ACM Symposium on Virtual Reality Software and Technology - VRST '15, 2015, pp. 217-225. DOI: 10.1145/2821592.2821608

10. Rekimoto J. A New You: From Augmented Reality to Augmented Human. Proceedings of the Ninth ACM International Conference on Interactive Tabletops and Surfaces - ITS '14, 2014, pp. 1-1. DOI: 10.1145/2669485.2670531

11. Inami M., Kawakami N., Tachi S. Optical Camouflage Using Retro-Reflective Projection Technology. Proceedings - 2nd IEEE and ACM International Symposium on Mixed and Augmented Reality, ISMAR 2003, pp. 348-349. DOI: 10.1109/ISMAR.2003.1240754

12. Orikasa M., Inukai H., Eto K., Minamizawa K., Inami M. Design of Sports Creation Workshop for Superhuman Sports. Proceedings of the Virtual Reality International Conference - Laval Virtual 2017 on - VRIC '17, 2017, pp. 1-4. DOI: 10.1145/3110292.3110305

13. Haraway D. A Cyborg Manifesto: Science, technology, and socialist-feminism in the late twentieth century. The cybercultures reader. London: Routledge, 2002, pp. 291-324.

14. Sterling B. Design Fiction. Interactions, 2009, vol. 16, no. 3, p. 20. DOI: 10.1145/1516016.1516021

15. Ema A., Nagakura K., Takeda H. Open Discussion "Ethics Committee of the Society for Artificial Intelligence (Special Feature 2016 AI Society of Japan National Convention (Chapter 30)). Journal of the Japan Society for Artificial Intelligence, 2016, vol. 31, no. 6, pp. 866 - 868. (in Japanese)

16. Iizuka Sh., Takamori Ch., Yamaura M. A study on ethical aspects in deriving design principles of autonomous robots from SF movies. Japan Society for Artificial Intelligence, 2018, pp. 3H2OS 25 b02 -3 H2OS 25 b02. DOI: 10.11517/PJSAI. JSAI 2018.0 _ 3H2OS 25 B02 (in Japanese)

17. Ganascia J.-G. Artificial intelligence: between myth and reality, available at: https://en.unesco.org/courier/2018-3/artificial-intelligence-between-myth-and-reality (accessed 5 November 2019)

18. Robertson J. Gendering Robots: Posthuman Traditionalism in Japan. Recreating Japanese Men. Berkeley: University of California Press, 2011, pp. 277-303.

19. McCauley L. The Frankenstein Complex and Asimov's Three Laws. 2007, pp. 9-14, available at: https://www.aaai.org/Papers/Workshops/2007/WS-07-07/WS07-07-003.pdf (accessed 5 May 2020).

20. Asimov I. The Machine and The Robot. Science Fiction: Contemporary Mythology. Eds. P. S. Warrick, M.H. Greenberg, J.D. Olander. New York: Harper and Row, 1978.

21. Honda K. Engineering ethics and robot ethics. Society and Ethics, 2013, no. 28, p. 21-36.

22. Kaplan F. Who is afraid of the humanoid? Investigating cultural differences in the acceptation of robots. International Journal of Humanoid Robotics, 2004, vol. 01, no. 03, pp. 465-480. DOI: 10.1142/S0219843604000289

23. Leinweber D.J. Artificial Intelligence and Intelligence Amplification. Nerds on Wall Street. Hoboken, NJ, USA: John Wiley & Sons, Inc., 2015, pp. 149-158.

24. Nichols R., Smith N.D., Miller F. Philosophy Through Science Fiction: A Coursebook with Readings. NewYork, 2008. - 433 p.

i Надоели баннеры? Вы всегда можете отключить рекламу.