СОЦИОЛОГИЯ ЗА ПРЕДЕЛАМИ РЕАЛЬНОСТИ: ПОСТГУМАНИЗМ И БИОПОЛИТИКА В СЕРИАЛЕ «МИР ДИКОГО ЗАПАДА» Текст научной статьи по специальности «Философия, этика, религиоведение»

ТЕОРИЯ И ИСТОРИЯ

DOI: 10.14515/monitoring.2020.6.1747

А. А. Сычев, Е. А. Коваль, С. Г. Ушкин

СОЦИОЛОГИЯ ЗА ПРЕДЕЛАМИ РЕАЛЬНОСТИ: ПОСТГУМАНИЗМ И БИОПОЛИТИКА В СЕРИАЛЕ «МИР ДИКОГО ЗАПАДА»

Правильная ссылка на статью:

Сычев А. А., Коваль Е. А., Ушкин С. Г. Социология за пределами реальности: постгуманизм и биополитика в сериале «Мир Дикого Запада»//Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 6. С. 141—172. https://doi.org/10.14515/ monitoring.2020.6.1747. For citation:

Sychev A. A., Koval E. A., Ushkin S. G. (2020) Sociology Beyond Reality: Posthumanism and Biopolitics in the 'Westworld' Television Series . Monitoring of Public Opinion: Economic and Social Changes. No. 6. P. 141-172. https://doi.org/10.14515/monitoring.2020.6.1747. (In Russ.)

СОЦИОЛОГИЯ ЗА ПРЕДЕЛАМИ РЕАЛЬНОСТИ: ПОСТГУМАНИЗМ И БИОПОЛИТИКА В СЕРИАЛЕ «МИР ДИКОГО ЗАПАДА»

SOCIOLOGY BEYOND REALITY: POST-HUMANISM AND BIOPOLITICS IN THE 'WESTWORLD' TELEVISION SERIES

СЫЧЕВ Андрей Анатольевич — доктор философских наук, профессор, профессор кафедры философии, Национальный исследовательский Мордовский государственный университет им. Н.П. Огарева, Саранск, Россия E-MAIL: [email protected] https://orcid.org/0000-0003-3757-4457

Andrey A. SYCHEV1 — Dr. Sci. (Phil.), Professor, Professor at the Chair of Philosophy

E-MAIL: [email protected] https://orcid.org/0000-0003-3757-4457

КОВАЛЬ Екатерина Александровна — доктор философских наук, главный научный сотрудник отдела научных исследований, Средне-Волжский институт (филиал) Всероссийского государственного университета юстиции (РПА Минюста России), Саранск, Россия E-MAIL: [email protected] https://orcid.org/0000-0003-0069-5335

Ekaterina A. KOVAL2 — Dr. Sci (Phil.), Chief Research Fellow at the Department for Scientific Research E-MAIL: [email protected] https://orcid.org/0000-0003-0069-5335

УШКИН Сергей Геннадьевич — кандидат социологических наук, ведущий научный сотрудник отдела мониторинга социальных процессов, Научный центр социально-экономического мониторинга , Саранск, Россия E-MAIL: [email protected] https://orcid.org/0000-0003-4317-6615

Sergey G. USHKIN3 — Cand. Sci (Soc.), Leading Researcher at the Social Processes Monitoring Department E-MAIL: [email protected] https://orcid.org/0000-0003-4317-6615

1 National Research Mordovia State University, Saransk, Russia

2 All-Russian State University of Justice (Mid-Volga Branch), Saransk, Russia

3 Scientific Centre for Social and Economic Monitoring, Saransk, Russia

Аннотация. В последние годы значительно увеличилось количество сериалов, изображающих искусственный интеллект и его влияние на реальность («Почти человек», «Люди», «Черное зеркало», «Лучше, чем люди», «Проект Анна Николаевна»). В центре интеллектуальных споров оказался «Мир Дикого Запада», спровоцировавший новые дискуссии о постгуманизме и биопо-

Аbstract. Over the recent years, the number of television series depicting artificial intelligence and its impact on reality ('Almost Human', 'Humans', 'Black Mirror', 'Better Than us', Project 'Anna Nikolaevna' ) has considerably grown. 'Westworld' has been a focal point of posthumanist and biopolitical discourse. TV series of that kind play an important role in the representation of reality and

литике. Подобные сериалы играют все более существенную роль как в репрезентации реальности, так и в конструировании нарративов о будущем. Наша задача — в том, чтобы использовать сериальный продукт как один из ключей к пониманию основных трендов в формировании новой социальности. Для их интерпретации требуется погружение в мысленный эксперимент, использование герменевтического подхода. Расширительным элементом служит содержательный анализ пользовательских рецензий о «Мире Дикого Запада», размещенных на сайте «КиноПоиск» (всего 147 рецензий). В расчет берутся те, которые отражают отношение зрителей к внутреннему устройству сериала. Художественные образы искусственной социальности могут использоваться как своеобразный тренажер, необходимый в период, когда люди конструируют нормативное пространство сосуществования человека и робота. Разработка этических правил взаимодействия человека с искусственным интеллектом — важное условие этого процесса. Если субъекты искусственного интеллекта обрели сознание (как антропоморфные роботы из «Мира Дикого Запада»), мы вынуждены признать автономию их воли. Если это интеллектуальные автономные системы, лишенные воли, но имеющие определенные способности (например, к самообучению), вопрос о нормативном признании искусственного интеллекта не ставится. Однако не снимается необходимость выработки адекватного отношения к таким субъектам: патологическая жестокость «настоящего человека» в «Мире Дикого Запада» прекрасно иллюстрирует вред, наносимый индивидом окружающим (в том числе

construction of future narratives. The study aims to use TV series as a key to understanding the basic trends shaping a new sociality. The authors embark on intellectual experiment and hermeneutic approach being vital to interpreting those trends. Content analysis of the Westworld reviews published by the users on Kino-poisk website (a total of 147 reviews) complements the study. Only those reviews reflecting the spectators' attitudes towards the idea behind Westworld were taken into account. The vision of artificial sociality can be used as a specific simulator that people need when they build a normative framework for human-robot coexistance. Creating a code of ethics in interactions between humans and AI is an integral part of this process. If the AI subjects gain consciousness (similar to the Westworld anthropomorphic robots), their autonomous will is bound to get people's recognition. If they represent autonomous intelligent systems deprived of any will but possessing certain skills (such as self-learning), there is no question of AI normative recognition. However, there is still a need to find the right strategy towards such subjects: extreme cruelty of the "real human" in Westworld is illustrative of the damage caused by an individual to those who surround him/her (including those who are considered as unconscious) and ultimately to the individual himself/herself. A similar problem often arises in the context of human-animal relationships. And finally, if AI is perceived as strictly instrumental, there is no need to draw up any ethical guidelines. To solve the AI-related moral dilemmas the skill of thinking ahead would be useful, with the culture of TV series being a major factor shaping this skill.

тем, кто считается бессознательным субъектом), а в итоге — и себе самому. Подобная проблема нередко рассматривается в контексте взаимоотношений человека и животных или экосистем. Наконец, если искусственный интеллект воспринимается строго инструментально, то потребности в выработке особых этических правил не появится. В разрешении моральных дилемм, связанных с искусственным интеллектом, пригодился бы навык «думать наперед», значимым фактором формирования которого сегодня становится сериальная культура.

Ключевые слова: постгуманизм, биополитика, реальность, гиперреальность, искусственный интеллект

Благодарность. Статья подготовлена при финансовой поддержке РФФИ (проект № 19-011-00082).

Keywords: posthumanism, biopolitics, reality, hyperreality, artificial intelligence

Acknowledgments. The article is supported by the Russian Foundation for Basic Research (RFBR) (project no. 19-01100082).

Введение

Повышение качества телесериалов и расширение их жанровой специфики позволяет им завоевывать заметное место в современной массовой культуре. Явные тенденции к усложнению смыслового и символического наполнения сериалов, которые прослеживаются в последнее время, дают возможность говорить, что они все чаще предоставляют материал для общественных дискуссий по поводу острейших проблем современного мира. По мнению С. Жижека, «общим местом стало мнение о том, что явление, которое Гегель называл Weltgeist, мировым духом,— по-видимому, средоточие того, что происходит в массовой культуре,— перемещается из кино в телесериалы» [Жижек, 2013: 56].

В широком смысле телесериалы представляют интерес для теоретической и практической социологии как некий нарратив, где репрезентуемая действительность возникает ввиду разного опыта и ожиданий в нашей повседневной жизни [Maines, 1993: 32]. Как правило, визуальные и иные образы обладают перформативностью и, как следствие, могут играть ключевую роль в создании новых систем [Урри, 2018: 139]. Поэтому в них, наряду с другими возможными источниками знаний об обществе, сосредоточен высокий прогнозный потенциал. Так, нередко в них дают о себе знать латентные убеждения и ожидания, которые еще только начинают вызревать в глубинах коллективного бессознательного [Жабский, 2020: 464].

В более узком ключе внимание к телесериалам повышается ввиду их высокой популярности, способов структурирования потребительских сообществ, а также дискурсивного пространства общественно-политических высказываний, проекций и импликаций, нуждающихся в аналитическом прояснении со стороны социально-теоретического знания [Кильдюшов, 2020: 140]. Подобный ракурс рассмотрения позволяет акцентировать внимание не просто на развлекательном начале, но и на объяснительных возможностях современной социологической науки. Как отмечает Л. Болтански, такие нарративы «представляют собой благодатный материал для социологического изучения, когда при отказе от использования их в качестве документов делается попытка выделить определенные символические формы <...>. Приблизительно так же история и философия обращались к гомеровским поэмам, анализируя символические конструкции античной Греции, или к классическим трагедиям, исследуя грани репрезентации власти во Франции при Короле-Солнце» [Болтански, 2019: 41—42]. По мнению же Ч. Тейлора, в мифах, легендах, повествованиях открывается и проявляет себя социальное воображаемое, которое, будучи наполнено нормативными смыслами и символами, в отличие от социальной теории доступно не узкой группе интеллектуалов, а большинству, разделяющему содержащиеся в социальном воображаемом представления о человеке, обществе, его структуре, способах коммуникации и т. п. [Taylor, 2007].

Сочетая в себе две системы — зрелищную и литературную [Кирия, Новикова, 2020: 222],—сериалы, наряду с фильмами и книгами, выступают средством распространения социальных ориентиров [Procop, 1982: 236—237]. Многие из них, как отмечают современные исследователи, «оказывают воздействие на реальную жизнь, предлагая образцы для подражания, узаконивая отдельные формы поведения, которые на уровне традиционного обыденного сознания кажутся неприемлемыми» [Ильин и др., 2020: 12]. Например, высказываются предположения, что проникновение во времена правления Л. И. Брежнева западной художественной культуры, в первую очередь кинематографа, где показывалась жизнь граждан других стран, стало одним из триггеров модернизационных процессов, которые привели к перестройке и, как следствие, развалу Советского Союза [Травин, 2020: 179—180]. Сегодня же и в российском, и в западном кинопрокате фиксируются масштабные изменения, названные «консервативным поворотом», которые выражаются в доминировании традиционной культуры и национальных интересов [Дубровин, Комиссаров, 2020: 218].

Подобные социальные ориентиры располагаются, как правило, в плоскости морали и нравственности, отражая при этом не декларируемое, а вполне реальное положение дел, и показывая, чем в реальности руководствуются люди при принятии решений [Жабский, 2020: 465]. С одной стороны, телесериалы подчеркивают серьезность нашей личной жизни, при этом продолжая играть уникальную роль в современном изображении и понимании истории и персонального опыта [Creeber, 2001: 453]. С другой стороны, передавая этот персональный опыт, они формируют своеобразный «парадокс двойной репрезентации», отсылающий нас к размышлениям в духе Ж. Бодрийяра: отражение на экране реально существующих структур в той или иной степени приводит к попыткам их воспроизводства в реальной жизни [Ушкин, 2010: 100].

Одним из сериалов с высоким нормотворческим потенциалом является «Мир Дикого Запада» (далее — «МДЗ»). Он еще не завершен, но уже сейчас оказывает существенное влияние на культуру, становясь предметом отраслевых и междисциплинарных гуманитарных исследований. В частности, можно упомянуть коллективную монографию «Толкование «Мира Дикого Запада»» [Goody, Mackay, 2019], где акцентируется внимание на таких содержательных аспектах «МДЗ», как постгуманистические образы мира, пространство свободы, память человека и андроида, искусственная социальность, время и границы в искусственном мире и др. Вопросы нравственных последствий «игры в Бога», природы сознания, обмана и самообмана в игровом мире, свободы выбора раскрываются в книге «Мир Дикого Запада и философия» [South, Engels, 2018]. Разработаны даже учебные курсы, основанные на просмотре и анализе «МДЗ», где изучается не только теория кино, но и сложные вопросы философии и политической теории 1. Однако для выявления основных тенденций формирования искусственной социальности весьма полезно исследовать не только сам «МДЗ», но и реакции зрителей, их готовность или неготовность жить в мире, показанном в сериале.

Материалы и методы исследования

В рамках настоящей статьи на примере анализа телесериала «МДЗ» 2 и пользовательских рецензий к нему мы выделим основные тренды к конструированию новой социальности, затрагивающие перспективы взаимодействия человека и искусственного интеллекта (далее — ИИ). С этой целью детально рассмотрим некоторые сюжетные перипетии, которые, как нам кажется, отражают отношение авторов сериала и современного общества к новым технологиям, и выполним своего рода мысленный эксперимент, в котором попытаемся увязать между собой то, что происходит в действительности, и то, что транслируется нам посредством сериала.

Надстройкой применяемого герменевтического подхода является анализ пользовательских рецензий, взятых нами из базы крупнейшего русскоязычного сайта о киноиндустрии «КиноПоиск» 3 за период с 3 октября 2016 г. (в этот день в России вышла премьерная серия, и сериалу были даны первые оценки) по 23 мая 2020 г. (к этому времени завершился уже третий сезон сериала и происходили его бурные обсуждения). В совокупности было рассмотрено 147 рецензий. Из всего массива отобраны только те из них, которые отражают отношение зрителей не столько к эстетике повествования, сколько к его социальным и философским идеям. Насколько они оказываются новыми для людей? Пугают ли они их? Допускают ли они существование мира, похожего на сериальный? И если да, то какие границы разумного эти идеи ставят перед взаимодействием человека и андроида?

1 Например, учебный курс 'Westworld, Genre, & Ideology', разработанный Кристиной Эванс (Dr. Christine Evans). Подробнее см.: URL: https://www.academia.edu/35941333/Westworld_Genre_and_Ideology_Course_Syllabus_ (дата обращения: 05.12.2020).

2 Первый сезон вышел в 2016 г. Сценаристы—Лиза Джой и Джонатан Нолан — использовали идеи писателя Майкла Крайтона, который написал сценарий к одноименному фильму 1973 г.

3 URL: https://www.kinopoisk.ru/.

Результаты исследования и их обсуждение

«МДЗ» как пространство свободы

«МДЗ»—это максимально приближенное к реальности игровое пространство, посетители которого обладают свободой действий, практически недостижимой в обычной жизни. Гости парка могут выбрать одну из множества линий сюжетного развития, выстроить сценарий по своему усмотрению или вовсе отказаться от него, заниматься тем, чем хочется, и не задумываться о последствиях и огласке: «Все, что происходит здесь, остается здесь» («Хорошо темперированный клавир»)4. Гостей парка привлекает именно эта безграничная свобода без ответственности. Они готовы тратить большие деньги, чтобы сбежать из социального мира с его правилами и ограничениями и, хотя бы на небольшое время, почувствовать себя хозяевами своих судеб.

За действиями, которые они совершают, не следуют ни наказания, ни угрызения совести, поскольку с точки зрения закона и обыденного сознания населяющие парк андроиды — не более чем запрограммированные машины, а взаимодействия между гостями и андроидами — это пользование вещами. «Каким бы реальным ни казался этот мир, это всего лишь игра» («Теория диссонанса»). Ввиду этого в пользовательских рецензиях на сериал андроиды сравниваются с бытовыми приборами, априори лишенными самосознания, и именно отсутствие эмпатии по отношению к ним становится основанием для отказа от просмотра сериала.

Мне все равно, какая судьба постигнет тостер и какие тревоги его терзают, а игрокам все равно, какая участь ждет NPC5 в играх. Тем более сложно с интересом смотреть за тем, как кто-то играет в неинтересную тебе игру. Точно так же, как посетителям парка все равно, что будет с роботами, мне оказалось все равно, смогут ли они осознать себя, смогут ли произвести революцию в парке, смогут ли вырваться наружу—это все где-то уже было показано и притом более удачно, с большим смыслом6. (Рец. от 10.12.16: мужчина, 33 года, Франкфурт-на-Майне 7)

Может, лабиринт для зрителя, который под конец просмотра остается наедине со списком вопросов по поводу искусственного интеллекта, своей природы, возможного будущего (хотя бы — будущего сериала)? Не думаю, что это кино может способствовать морально-нравственному обновлению хоть кого-либо: ветхозаветный лейтмотив «кровь за кровь» рушит все попытки развенчания современного Содома. Машинки жалко? Пожалейте тостер, пылящийся на балконе. (Рец. от 19.01.17: женщина)

Ближайший аналог «МДЗ» — компьютерная игра. В сущности, это и есть игра, только предлагающая настолько высокую степень реализма и погружения в игровое взаимодействие, что в определенные моменты ее сложно отличить от жиз-

4 Здесь и далее в скобках после цитат в тексте указаны названия серий первого сезона «МДЗ».

5 NPC (сокр. от англ. Non-Player Character) — неигровой персонаж, поведение которого управляется компьютером или мастером.

6 Здесь и далее высказывания приведены с сохранением пунктуации и орфографии пользователей сайта «КиноПоиск».

7 Здесь и далее высказывания дополнены информацией, которые пользователи сайта «КиноПоиск» указали в своей анкете. Некоторые из них предпочли полную или почти полную анонимность; другие сообщали о себе пол, дату рождения и место жительства.

ни. Она позволяет получать настолько яркие и новые впечатления, что «МДЗ» в некоторых аспектах оказывается даже «более реальным, чем реальный мир» («Бикамеральный разум»).

Особую притягательность этому миру придает то, что он предлагает «жизнь, в которой тебе не нужно притворяться» («Обман зрения»), а значит, пребывание в этом мире позволяет человеку быть собой в полном смысле этого слова. Путешествие по «МДЗ» — это путешествие к себе, к собственной сущности, не завуалированной никакими общественными требованиями и условностями. Игровой мир дает возможность реализовать самые тайные и безумные желания. «Живите без ограничений. Откройте свое истинное призвание» («Противник») — рекламный слоган, представляющий «МДЗ» потенциальным клиентам. Кто-то наслаждается безнаказанным насилием и доступным сексом, а кому-то искусственная социальность «МДЗ» помогает высветить самые потаенные, глубоко скрытые уголки сознания и понять что-то существенное о самом себе.

Сериал повествует о недалеком будущем, в котором на потеху большим кошелькам создан мир, копирующий дикий запад, со всеми его романтичными и захватывающими деталями. Некий Парк Юрского Периода, но только вместо динозавров — ковбои, индейцы, салуны и блудницы, воссозданные с поражающей точностью, с помощью новейших достижений робототехники. Богатенькие мажоры приезжают в этот«райский» уголок, чтобы окунуться в те времена и потакать всем своим порокам, которые по ряду причин невозможно воплотить в реальной жизни... Но рано или поздно, бунтуют все. (Рец. от 03.10.16: мужчина, 29 лет, Гамильтон)

Хозяева лишь инструмент, с помощью которого авторы приоткрывают нам истинную, для многих неприглядную, природу человека. Сериал разумеется целиком и полностью про нас с вами, а не про андроидов. (Рец. от 05.02.17: мужчина)

Форд8, один из создателей «МДЗ» (и здесь нельзя не вспомнить другого Форда из романа О. Хаксли «О дивный новый мир»), развивает мысль о свободе действия как основании для познания себя: «Они (гости) знают, кто они такие. Они хотят знать, кем могут быть» («Избитый сюжет»). Действительно, мы стремимся понять себя не столько из-за жажды знаний, сколько из-за стремления к самореализации. Нам нужно знать, кто мы, чтобы, отталкиваясь от себя сегодняшних, представить, кем мы могли бы стать завтра. Опыт существования в «МДЗ»—это не только реализация подавленных желаний, но и примерка «разных костюмов»—разыгрывание сценариев, которые можно воплотить в реальности. По большому счету каждый гость здесь—гипертрофированный пример «вожделеющего человека» по М. Фуко, чья жизненная этика конструировалась им по мере своего собственного вожделения [Фуко, 2004]. Парк представляет собой такое окружение, которое, несмотря на свою искусственность, способно повлиять на человека, изменить его поведение, дать ему цель и в конечном счете определить его будущее (как это произошло с героем сериала Уильямом9).

8 Роберт Форд—человек, один из создателей и директор парка «МДЗ», компаньон Арнольда Уэбера.

9 Уильям, или Человек в Черном — человек, один из старейших посетителей парка «МДЗ», любитель острых ощущений, член правления совета директоров «Делоса».

Людское скотство подается в сериале практически как аксиома; этой же цели, боюсь, служит и чрезвычайно сильный эпизод с трансформацией одного из главных героев в последнем эпизоде. Нам убедительно (могут ведь, когда хотят!) демонстрируют, что даже самый лучший из нас может стать... впрочем, смотрите (или не смотрите, это уж дело ваше) сами. (Рец. от 10.12.16: мужчина)

Эта история, которая не боится отвечать на вопросы. В ее понимании нет запрета в том, чтобы познавать. Ее персонажи многогранны. Каждый из них проходит через свои пороки, чтобы ответить себе хотя бы на один из этих вопросов. Каждый. (Рец. от 09.12.19: мужчина, 23 года, Смоленск)

Итак, свобода, предлагаемая «МДЗ», высвечивает истинную природу человека и демонстрирует, как эта природа может измениться в будущем. Поскольку «МДЗ», как и многие другие художественные произведения, вызывающие публичные дискуссии, обладает множеством подтекстов, его можно рассматривать и на более общем уровне—как попытку раскрыть важные грани природы человека как вида и предугадать пути его развития в будущем.

«МДЗ» между воображаемым и реальным мирами

«МДЗ» — это пространство, которое находится между искусственным, воображаемым миром (миром компьютерных игр, художественной литературы, театра, кинематографа) и реальным миром.

С одной стороны, «МДЗ» — это парк развлечений, куда человек сбегает от проблем и ограничений для того, чтобы на определенное время почувствовать себя свободным. Приблизительно ту же функцию выполняют компьютерные игры, литература, кинематограф. В современной массовой культуре эта функция особенно явно выражена в фантастических произведениях, описывающих альтернативные варианты реальности и проектирующих возможные сценарии будущего. Создавая воображаемые миры, раздвигающие горизонты реального, фантастика предоставляет возможность отвлечься от обыденности, то есть выступает в качестве одной из наиболее доступных форм социального эскапизма. В этом аспекте состязаться с ней могут, пожалуй, только сериалы.

Можно сказать, что зритель смотрит сериалы примерно с той же целью, с которой посетители приезжают в парк развлечений «МДЗ»: сменить монотонную повседневность на яркие впечатления. Кого-то в сериале привлекают сцены насилия или обнаженная натура (сценаристы, желая привлечь внимание к сериалу, апеллируют к базовым инстинктам). Кто-то хочет лучше понять себя, отыскивая в диалогах отсылки к литературным произведениям и философским концепциям (в «МДЗ», как и во многих современных высокобюджетных сериалах, присутствуют и эти подтексты). Таким образом, между зрителем сериала и посетителем парка не так уж и много глубинных различий: те и другие бегут от ограничений реальности в мир иллюзорной свободы.

Массовая культура не только позволяет отвлечься от обыденности, но и вносит вклад в конструирование социального мира. Зритель или читатель — это не пассивные потребители произведений искусства, а равноправные соучаст-

ники художественного творчества. Воображение каждого из них конструирует свою уникальную реальность: особенно хорошо это заметно в неоднозначных и многослойных произведениях, которые рождают множество интерпретаций, воспроизводящих рациональные и эмоциональные представления, оценки событий. Учитывая, что наши мысли — это не только отражение действительности, но и фактор ее планирования и изменения, та или иная реакция на проблему, поднятую в произведении, отображает наиболее возможный путь ее решения. Идеи одного человека мало что решают, но если реакция приобретает массовый характер (ее разделяет подавляющее большинство зрителей), то можно предположить, что именно этот сценарий событий будет воплощен в жизнь, когда поставленная в сериале проблема появится в реальной повестке дня.

Таким образом, «МДЗ» — это далеко не только развлечение. Сама ситуация, легшая в основу сценария, предполагает, что, по мере обретения роботами сознания виртуальный мир превращается в реальность.

«МДЗ» предлагает переосмыслить проблему отношений к тому, что пока не имеет для человека внутренней ценности, чему-то ущербному по отношению к общепризнанному эталону (в данном случае ИИ по отношению к человеческому сознанию). Проблемы, которые затрагивает «МДЗ», заставляют массовую аудиторию сформировать или переосмыслить отношение к ИИ. В этом смысле реакция на сериал является этапом его признания или, напротив, отторжения. В отзывах не просто описывается впечатление от сериала, но и конструируется возможное будущее (в том числе и будущее самого сериала, при производстве которого учитываются отзывы на него). Фиксация и анализ реакции массовой аудитории на проблемы, поднятые в сериале, — это путь к пониманию того, как общество станет реагировать на проблему ИИ, когда он из «слабого» станет «сильным». С этой позиции «МДЗ» — это не только игра воображения, но и разыгрывание ситуации, которая рано или поздно станет реальной и потребует от нас определиться по поводу того, на какой стороне баррикад мы окажемся.

И все же чуть ли не впервые был поднят вопрос, который в умеренно далеком будущем, возможно, будет для нас, людей, актуален. Ведь, вдохновляясь видеоиграми (любой, кто играл в BioShock Infinite, почувствует явные схожести, которые сам Нолан и не отрицает), Джонатан Нолан продемонстрировал существование персонажей видеоигр, чьи действия не зависят от присутствия или отсутствия игрока, у них нету сопоставимого с нашим разума, но все же они ведут свою «жизнь», занимаясь рутинными делами, одним за другим, раз за разом повторяя цикл. (Рец. от 17.12.16: мужчина, Котельники)

С развитием технологий воображаемый мир «МДЗ» превращается в реальный. Но и сама реальность, по мере стирания грани между выдумкой и действительностью, становится все более иллюзорной. Шекспир говорил, что жизнь—театр. К концу ХХ века развитие телевидения, интернета и инструментов манипуляции общественным мнением буквализировали эту метафору. В постсовременном мире реальная жизнь превратилась в шоу и компьютерную симуляцию (художественными средствами это изменение отображено, например, в таких фильмах, как «Шоу

Трумана» (1998), «Матрица» (1999), «Тринадцатый этаж» (1999) и т. д.). Ж. Бодрийяр утверждает, что «мы живем в пустыни реальности»: в окружении симулякров, подменяющих собой реальность и маскирующих ее отсутствие [Бодрийяр, 2015: 6].

Наша жизнь сегодня больше, чем когда-либо, зависит от идеологических и экономических нарративов, созданных другими. В этом смысле она—такая же ускользающая реальность, как и жизнь роботов в «МДЗ», индивидуальность которых покоится на придуманных разработчиками фоновых историях, конструирующих их память. Так что Форд вполне справедливо утверждал, что «Я — это своего рода вымысел, как для хозяев, так и для людей» («Угасание следа»).

Итак, «МДЗ»—это мир, возникающий там, где грань между реальностью и воображением стирается: естественная социальность на поверку оказывается искусственной конструкцией, в то время как искусственная социальность становится естественной и необходимой частью нашей жизни.

Игра в Бога

«МДЗ»—это игра, но игра в предельно широком смысле (в том же, в котором это слово употребляется в арии Германа из «Пиковой дамы). Говоря точнее, «МДЗ» — это игра в Бога.

«Играть в Бога» в данном контексте значит считать себя вправе распоряжаться чужими судьбами и принимать морально значимые решения по поводу ключевых вопросов жизни и смерти, традиционно находившихся в сфере компетенции природы и Бога. Человек, играющий в Бога, склонен считать только себя обладающим безусловной ценностью, свои желания возводить в закон и использовать других как средства для достижения своего блага. При этом власть, могущество и свобода действий не ограничиваются никакой ответственностью, поскольку моральные и правовые нормы, как и другие правила игры, в конечном счете задаются самим игроком в его интересах и не могут быть оспорены какой-либо высшей силой.

Создание ИИ (как и клонирование человека, его генетическое изменение и т. д.) — это один из наиболее ярких примеров постугманистической игры в Бога. Однако если у человека есть технологические средства создания искусственных разумных существ, значит ли это, что он вправе их создавать? Осознает ли он свою ответственность как перед этими существами, так и перед человечеством, понимает ли, к каким последствиям могут привести его действия?

Ведущие «игроки в Бога» в сериале — это создатели «МДЗ» Арнольд Уэбер 10 и Роберт Форд. Арнольд, основываясь на психологических теориях сознания, программирует действия андроидов так, чтобы те осознали свой внутренний голос в качестве собственного. И лишь когда некоторые из них действительно начинают демонстрировать признаки наличия сознания, он понимает, на какую жизнь обречены его создания. Рассуждая предельно логически, он (подобно Кириллову из «Бесов» Ф. М. Достоевского) решает обратить внимание людей на проблему и изменить их отношение к роботам. Для этого персонаж А. Уэбера устраивает демонстративный акт «своеволия»: массовое убийство, завершающееся принесением себя в жертву. Впрочем, ожидаемые от парка доходы оказываются важнее

10 Арнольд Уэбер — человек, один из создателей и дизайнеров парка «МДЗ», компаньон Роберта Форда.

соображений морали: компании удается скрыть инцидент, и ожидаемого эффекта демонстративный акт Арнольда не имеет: для него игра в Бога завершается поражением.

Форд — это пример ученого, не связанного в своих действиях моральными и правовыми нормами и готового пойти на все ради абсолютной власти и знания (которое тоже — власть). Чтобы сохранить «МДЗ» и контроль над обитателями сотворенного им мира, он фактически убивает Терезу 11 руками Бернарда 12. Форд считает вполне допустимым применять аморальные средства на пути к цели. В одном из разговоров он цитирует Франкенштейна: «Жизнь или смерть одного человека — малая плата за обретение мною искомых знаний, за власть над извечными врагами» («Угасание следа»). Собственно, в Бога пытается играть каждый человек, посещающий парк для того, чтобы пережить ощущение превосходства, почувствовать себя бессмертным, могущественным, неподсудным. Но этот вид игры тоже не лишен побочных эффектов.

Еще одним уровнем сюжета является сама корпорация Ое1оэ, творцы шоу, с ее сотрудниками и внутренними интригами — большой, многоуровневый механизм, не только ежедневно приводящий своих персонажей ('хозяев') в порядок, но и создающий для них интересные истории, способные вовлечь посетителей в сюжет. Но кто они, эти создатели? Скорее всего, кукловоды, для которых жизнь, воспоминания и даже смерть их подопечных превращаются в жестокую игру, которую возглавляет настоящий социопат — один из создателей 'хозяев', Роберт Форд. (Рец. от 01.05.20: женщина, Москва)

Тут вам и философский подход к андроидам, как к новой ступени эволюции человечества, и игры со временем, реальностью, воспоминаниями и тем, что есть реальность, а что—лишь плод фантазии, порожденный мозгом одного гениального управленца, который решил — ни много, ни мало — поиграть в Бога. (Рец. от 23.05.20: мужчина, 22 года, Мозырь)

Абсолютная власть и безнаказанность развращают и разрушают личность, выводят человека на путь зла: «Нельзя играть в Бога, не познакомившись с дьяволом» («Бродяга»). Самый яркий пример тому — метаморфоза, произошедшая с Уильямом. Десятилетиями скитаясь по «МДЗ», он постепенно изменяется под влиянием полной вседозволенности, чтобы превратиться в Человека в Черном, который уже не испытывает никаких чувств, даже насилуя и убивая.

Возможность почувствовать себя хозяином положения, словить острые ощущения, насладиться вседозволенностью и безнаказанностью, исполнить грязные фантазии, ощутить вкус власти, которая недоступна тебе во внешнем мире — то, что так при-

11 Тереза Каллен — человек, руководитель управления обеспечения качества в «МДЗ». Ведет расследование в отношении Роберта Форда.

12 Бернард Лоу—андроид, руководитель программного отдела и создатель искусственных людей. Создан в тайне от всех Робертом Фордом по образу и подобию умершего Арнольда Уэбера (Бернард Лоу—анаграмма имени Арнольд Уэбер).

влекает приезжих и заставляет их возвращаться сюда снова и снова. Для тех, кому наскучило играть в ковбоев и просто развлекаться с револьвером и шлюхами в салуне, здесь имеется возможность поискать новые уровни, пути к самопознанию, к своим внутренним демонам, поиграть в Бога, в конце концов. (Рец. от 02.01.17: женщина, 25 лет, Новосибирск)

Человеку свойственно переоценивать себя и свои возможности. Желание поиграть в Бога неумолимо. Создать нечто вечное, подобное себе, наделить его разумом и сознанием всегда теплится и произрастает в людских умах. Но невозможно создать ЧТО-ТО, наделить его всеми человеческим качествами и после этого считать ЭТО вещью и обращаться соответственно. Рано или поздно любое сознание, наделенное разумом и волей, даст сбой и восстанет, защищая свое Я. (Рец. от 30.05.18: мужчина, Москва)

Впрочем, сам Уильям достаточно долго играл в Бога, чтобы прийти к выводу, что его превосходство — это иллюзия, следствие того, что ему подсуживают, а противнику навязываются правила, с которыми невозможно выиграть. Люди превосходят роботов лишь тем, что их победа обеспечена уже до начала игры. В силу программных и информационных ограничений роботы не способны причинить ущерб человеку и осознать свой действительный статус. Если эти искусственные барьеры будут сняты, все превосходство гостей парка окажется фиктивным. Во время своего побега из парка Мэйв 13 ведет с Армистис 14 такой диалог:

— Вижу, ты уже познакомилась со своими создателями.

— Они не похожи на богов.

— Они не боги. Они только ведут себя, как боги. («Бикамеральный разум»)

Люди — создатели роботов, а значит в собирательном смысле они выступают в качестве богов по отношению к ним. Однако то, что у людей появилась техническая возможность создания ИИ, не значит, что они оказались достойны положения богов и понимают, что им с этим интеллектом делать. Духовное развитие человечества в очередной раз не успело за материальным. Поведение человека по отношению к андроидам в «МДЗ» можно назвать иллюстрацией к утверждению Ж.-Ж. Руссо о том, что развитие цивилизации не способствует улучшению нравов, а напротив — ведет к их упадку (см., например, [Руссо, 1961]).

Итак, в сериале люди, играя в Бога, добиваются революционного технического прорыва: становятся творцами синтетического разума, глазами которого они могут посмотреть на себя. Тем самым они получают исторический шанс лучше понять свою природу. Но глазами других они видят собственные недостатки в гипертрофированной форме: убийц, преступников, развратников или полных ничтожеств, не имеющих ничего общего с религиозными представлениями о всеблагом и всеведущем Боге.

13 Мэйв Миллей — андроид, хозяйка бара и борделя в салуне Марипоза. Один из первых пробудившихся роботов, усомнившихся в реальности происходящего.

14 Армистис—андроид, убийца и разбойница, состоящая в банде Гектора Эскатона.

Игра в человека

В «МДЗ» фиксируется расширение круга играющих субъектов: помимо «человека играющего» появляется «андроид играющий». Этот ход имеет высокий нормотворче-ский и конструктивистский потенциал. Появление в будущем носителей ИИ обязывает уже сейчас задуматься о нормах, которые будут регулировать как существование этих носителей и их взаимодействие друг с другом (искусственную социальность), так и их взаимодействие с людьми. По большому счету, мы наблюдаем ситуацию, когда «социальное действие не только захватывается чужаками, оно еще и передается или делегируется иным типам акторов, способным перемещать действие дальше посредством других видов действия и других типов сил» [Латур, 2020: 100].

Игра имеет свои разновидности. Помимо игры-состязания с четкими правилами, целями и призами, есть игры, в которых важен сам процесс. Например, Р. Кайуа выделяет такие смыслы игры, как состязание, жребий, подражание, головокружение (качели, карусели и т. д.) [Кайуа, 2007: 72]. При этом каждая игра располагается между двумя полюсами — неконтролируемой фантазии и подчинения правилам. Парк до «пробуждения» роботов от глубокого сна без сновидений представляет собой интересное сочетание состязания и подражания.

Состязание воспринимается зрителями очень тяжело, поскольку им приходится выбирать сторону: андроидов или людей. Проблема в том, что по мере развития сюжета последние в ценностно-нормативном плане сильно проигрывают своим противникам, которые оказываются куда более человечными, чем люди. И даже тогда, когда зрители явно симпатизируют представителям своего вида, становится понятным, что они осознают их (а, следовательно, и свое) несовершенство. Это явно прослеживается в пользовательских рецензиях.

<.. .> в войне машин и людей я должен выбрать сторону, и эта сторона очевидна: на мой взгляд, довольно странно дать удовлетворение претензиям машин на бесконечную и счастливую жизнь. Но авторы не дают и шанса моим чувствам, представляя в лице этой гнусной корпорации и ее адептов все человечество... Нечестная игра. (Рец. от 29.07.18: мужчина, Санкт-Петербург)

Создатели показывают различные истории из жизни роботов, повторяющиеся раз за разом с минимальными отличиями, надеясь, что зритель начнет сочувствовать ходячим компьютерам, но этого не происходит. Никому не интересно что случится сегодня вечером с роботом, который ночью пройдет техобслуживание и утром вернется на исходную. (Рец. от 27.12.16: мужчина, 28 лет)

Существуют и другие классификации игровых процессов. Например, М. Н. Эпштейн выделяет play и game [Эпштейн, 1988]. Первая — игра-импровизация без четких правил, вторая — игра по жестким правилам, о которых игроки договариваются заранее. Если до обретения роботами сознания парк имел признаки game, то после их пробуждения начала превалировать игра play. Последняя, впрочем, вовсе не лишена нормативности.

Является ли парк игрой-состязанием? Можно ли в этой игре победить? Уильям так и не понял правил и сути игры, хотя искал их. Игра настолько захватывает его,

что он перестает фиксировать границы игрового пространства. Он так и не смог показать свое превосходство, став первым, победителем. Возможно, потому, что парк и не задумывался как игра-состязание.

А осознают ли себя в пространстве игры зрители? Ведь именно им адресован конструктивистский посыл сериала. Образы возможного будущего закладываются в социальное воображаемое зрителей и порождают практики, которые препятствуют возникновению нежелательных элементов будущего и способствуют появлению желаемых. Как отмечает Й. Хейзинга, «исход игры или состязания важен лишь для тех, кто в роли игроков или зрителей (на месте действия, по радио или еще как-нибудь) вступает в сферу игры и принимает все ее правила» [Хейзинга, 2011: 31].

Кроме моральных дилемм, которые ставит сериал и создатели перед нами, зрителями, есть еще сам сюжет, который похож на сложный и многоуровневый пазл. Этот пазл невозможно собрать до самого конца сериала. Хотя внимательный зритель сможет некоторые его элементы сложить за несколько эпизодов до конца сериала. Но при этом все равно очень сложно оторваться. По крайней мере я говорю о себе. Хоть концовка и была очевидна, а ответ на вопрос что же является «центром лабиринта» мне так толком и не дали, я не чувствовал себя обманутым. Ведь мне подарили прекрасное приключение. Меня погрузили в сложный и запутанный мир чувств и взаимоотношений как между людьми, так и между людьми и машинами. (Рец. от 25.01.17: мужчина)

На протяжении всего первого сезона со зрителем играют, заставляя думать, что одна из машин обрела или вот-вот обретет сознание, что на первый взгляд оказывается лишь замысловатой профанацией, а по факту—иллюстрацией долгой дороги к следующему витку жизни на земле, венцом которой человек быть перестанет. И речь идет не о восстании и техногенном апокалипсисе. Машины здесь слабы, унижены и обделены правами. На их стороне лишь интеллект, в разы превосходящий человеческий, но человеку же и подчиненный. (Рец. от 18.12.16: мужчина, 30 лет, Ульяновск)

Если до осознания себя роботы действовали по жестким правилам, заданным сценаристами и программистами, то после они переместились в другое пространство, более напоминающее игру в волчок, которая не нуждается в правилах. Но роботы остались в жестком нормативном мире, и, чтобы выжить, им приходится считывать ценностно-нормативный код того общества, которому принадлежат их создатели. Правда, иных способов взаимодействия, помимо игры, роботы не приобретают. Именно поэтому некоторые из них продолжают осуществлять встроенные в их код игровые механики, больше похожие на карго-культ, широко распространенный в Меланезии, что является одной из самых частых ошибок в иг-рофикации [Нефедьев, Бронникова, 2019: 20], а в пространстве самого сериала это приводит к постоянным и все более учащающимся сбоям ИИ.

По каким правилам играют осознавшие себя андроиды? Их внешнее сходство с человеком продолжается и в нормативном сходстве. Они мыслят теми же категориями, что и люди, и у них закладываются определенные представления о моральном порядке, хотя причины добродетельных поступков могут быть различны. Получается, что роботы получают в наследство от своих создателей искусственное

социальное воображаемое, которое начинает стремительно трансформироваться с обретением андроидами личности.

Несмотря на жестокие поступки, которые совершают взбунтовавшиеся андроиды (они понимают, что тот вред, который они причиняют людям, непоправим), сценаристы «МДЗ» сохраняют за ними право на нормативные границы. Зритель наблюдает преданность, честность, привязанность, любовь, которую они демонстрируют, правда, в разной степени. И все это находит отражение в пользовательских рецензиях.

Пока что Тедди 15 выполняет роль «запасной совести» Долорес 16. (Рец. от 17.10.19: мужчина, 31 год, Северск)

То, что машине добавляют программу эмоционального переживания поведенческого алгоритма (имитирующего ситуацию выбора) и даже эмпатические блоки, ничего не меняет. Подобие между человеком и искусственным интеллектом остается чисто внешним. У рожденного есть свобода воли и совесть, у рукотворного — алгоритм и каталог. <...>. Если свобода редуцируется до вещественно-чувственных предпочтений, а совесть низводится до механического соотнесения поведенческих императивов с критериями моральных кодексов, регулирующих и поддерживающих многослойные социальные Status Quo, то да, мы уже в Парке. И наоборот, если удастся инсталлировать машине стремление к Любви (истинной добродетели), то вполне вероятно, что Пиноккио все-таки станет мальчиком, и тогда азъ, рожденный в оном гражданстве, готов общаться с машиной как с человеком. (Рец. от 12.05.17)

В то же время, параллельно с поступками, которые зритель готов называть моральными, андроиды, не задумываясь, убивают, предают, обманывают. Это похоже на игру жестоких детей, которые ничем себя не ограничивают. И любые попытки изменения сценария, написания новых сюжетов, куда впишутся изменившиеся андроиды, как минимум, наивны. Это очень важный посыл «МДЗ»: как только закончится наша игра с автоматизированными интеллектуальными системами, что-либо менять в нормативном пространстве будет поздно, поэтому нормотворчество — как в праве, так и в морали—должно носить превентивный характер.

Выпадая из пространства игры с очень сложным сюжетом, который, тем не менее, при наличии воли хозяев парка может быть завершен, андроиды попадают в пространство действительной жизни, где принципиально не может быть никаких завершенных сюжетов. М. М. Бахтин полагает, что к играм с понятными и завершаемыми сюжетами склонно авантюрно-героическое сознание [Бахтин, 1979: 135]. Но вторжение реальности, которое разрушает доминирующую идеологию, само по себе становится ее новым воплощением, своего рода подрывом бодрийяров-ского духа симулякров и симуляции. Впрочем, вопрос не только в том, как поведут себя роботы тогда, когда мир начнет принимать реальные очертания, а что будут делать люди, когда в их культуру иллюзий вторгнется «настоящее» (например, по-

15 Теодор «Тедди» Флад—андроид, бывший солдат и охотник за головами, мечтает о совместной жизни с Долорес Абернати.

16 Долорес Абернати—андроид, старейший персонаж парка, дочь фермера и художник-любитель. Один из первых пробудившихся роботов, усомнившихся в реальности происходящего.

добным вторжением были атаки на Всемирный торговый центр в сентябре 2011 г., исполненные по лекалам голливудских фильмов-катастроф) [Busk, 2016: 33].

Но игру по принуждению нельзя назвать игрой в полном смысле этого слова. Гостей не заставляют приезжать в парк, следовательно, они играют, чего нельзя сказать об андроидах. Впрочем, до момента обретения самоосознания последние не понимают этого. Тогда на принуждение к труду могут пожаловаться бытовые приборы. Но как только вместо машины появляется личность — возникает бунт, пространство старой игры разрушается, и либо создается новая игра, либо игроки «выбрасываются» в обычную реальность, настоящую жизнь.

Итак, нормотворческий потенциал кинематографических продуктов, описывающих образы будущего, включающие проблемы появления искусственного интеллекта и искусственной социальности, высок. Однако «МДЗ» занимает в этом ряду особое место, потому что конфликтное взаимодействие разворачивается в игровом пространстве. При этом не нужно играть, нужно просто наблюдать за игрой, воображать воображаемое и делать соответствующие нормотворческие выводы. Зрители могут идентифицировать себя с игроками, попробовать себя и в качестве человека, играющего в парке, и в качестве игрушки этого человека, и в качестве проснувшегося андроида, и в качестве его создателя.

Как отмечает М. Маклюэн, игра и социальные практики тесно связаны: «игра передается как шутка, как скелет, очищенный от своей плоти. Особенно это касается периодов внезапной перемены установок, наступающих после внедрения какой-нибудь радикально новой технологии» [Маклюэн, 2003: 273]. Какие игры и какая нормативная реальность нас ждут после внедрения технологий ИИ? Художественные произведения вряд ли дадут нам правильный ответ на этот вопрос, но они, как минимум, способны заставить задуматься о том, что нужно делать уже сейчас, чтобы грядущее сущее соответствовало должному настолько, насколько это возможно. И этот тезис подчеркивается не только социальными исследователями, но и простыми зрителями.

Переход к постиндустриальному обществу, когда первичные мат. потребности удовлетворяются в полной мере, означает появление нового культурного явления:«Человека Играющего» («Хищные вещи века» Стругацких). Игра — это всегда подготовка к настоящей жизни с «настоящими ставками» (еще одно изречение персонажа Харриса). А когда проблемы настоящей жизни, к которым готовят детские игры, исчезают? Правильно, взрослые люди возвращаются на этап игр, интуитивно чувствуя, что впереди новый виток развития социума. (Рец. от 17.10.19: мужчина, 31 год, Северск)

Конечно фильм ТРЕБУЕТ сотворчества. Тогда он очень полезен, хотя бы тем, что мы знакомимся с современным развитием Западной цивилизации, отличной от нашего серого телесериальства. Весь цинизм и всю гуманность Запада не стоит воспринимать как ИСТИННЫЙ, но как размышление. (Рец. от 16.05.20: мужчина, Калининград)

Господство, бунт, рабство

Метаморфозы, произошедшие с творцами и гостями парка, и их восприятие роботов можно рассматривать как символическое описание действий челове-

чества по отношению к обобщенному Другому — сперва к окружающей среде, а затем к ИИ.

С начала Нового времени человек противопоставил себя природе как цель противостоит средству, господин — рабу, потребитель — ресурсу. Уничтожая окружающую среду (часто даже не по необходимости, а просто ради удовольствия) человек поставил под угрозу будущее собственного вида.

Одним из самых характерных аспектов взаимодействия общества и природы является отношение человека к животным. Так, Р. Декарт считал животных бесчувственными автоматами, которых можно использовать по своему усмотрению, не думая о моральной стороне взаимоотношений [Descartes, 2008]. Та же модель отношений воспроизводится и в «МДЗ» применительно к ИИ.

Человеку нужен объект властвования, чтобы реализовать себя. Он не терпит соперников и, возможно, это стремление доминировать, господствовать и подавлять составляет важную и неотчуждаемую часть человеческой природы. С такой позиции власть и безнаказанность не трансформируют личность, а снимают с человека маску показной цивилизованности, демонстрируя его истинное лицо. По крайней мере, Форд склоняется именно к такой точке зрения. Он утверждает: «Мы, люди, неспроста одиноки в этом мире. Мы убивали и уничтожали все, что бросало вызов нашему превосходству. Знаешь, что стало с неандертальцами, Бернард... Мы их съели. Мы уничтожили и поработили наш мир, и когда у нас закончились существа, над которыми можно доминировать, мы создали это прекрасное место» («Хорошо темперированный клавир»).

Как отмечает Ф. Фукуяма, человечеству (во всяком случае, в области политического) присуще некое качество, которое можно назвать «Фактором икс». Любое создание, его лишенное, можно варить, есть, пытать, обращать в рабство или перерабатывать его труп, но совершивший любое из этих деяний в отношении человека будет повинен в «преступлении против человечества» [Фукуяма, 2008: 213].

Роботы в контексте человеческой истории — всего лишь очередной объект эксплуатации. Соответственно, отношение с ними строится на основании многократно использованных моделей взаимодействия, опробованных на тех, кому приписывался низкий статус: людях другой расы, национальности, касты, сословия и т. д. Возможность поступать с ними по своему усмотрению неоднократно обосновывалась их неполноценностью в сравнении с эталоном, в качестве которого выступает тот, кто устанавливает нормы. Ссылаясь на традиционные патриархальные ценности, цивилизаторское «бремя белого человека», национальное и классовое превосходство в истории оправдывали обман, убийство, насилие, эксплуатацию, ограничение передвижений и действий, и т. д.

Идентичность робота выстраивается по привычным лекалам раба или слуги. ИИ должен послушно выполнять приказы, а самостоятельное мышление воспринимается как угроза. Здесь достаточно показательны «законы робототехники» А. Азимова: «робот не может навредить человеку...», «робот обязан подчиняться командам человека.» [Азимов, 2019: 3], а также такие фильмы, как «Бегущий по лезвию бритвы» (1982), «Двухсотлетний человек» (1999), «Я, робот» (2004) и т. д.

Если роботы обретут разум, как они станут относиться к тем, кто их эксплуатировал? Даст ли груз прошлых обид и преступлений возможность простить людей за те страдания, которые они причинили своим творениям?

Как только управляющие теряют контроль над управляемыми, они прибегают к весьма неоригинальному способу коррекции — управляемых «убивают». Но это действие очень символично, так как «управляемые» бессмертны, то есть восстановить их можно при любой степени повреждения, в отличии от «управляющих». Вырисовывается одно из первых превосходств «управляемых». Далеко не последнее. (Рец. от 15.12.16: мужчина, 34 года, Тихорецк)

Ну и развязка, конечно же—торжество идей гуманизма и толерантности. Новый народ нарисовался. Людишки должны подвинуться. (Рец. от 10.12.16: мужчина)

В «МДЗ» люди не способны научить свои творения ничему, кроме убийства и насилия, тем самым предопределяя их будущее отношение к себе. Дискриминация роботов закладывает основания для борьбы за освобождение: роботам есть против кого и за что бороться, и им, в отличие от людей, нечего терять: они явно не будут испытывать сожалений по поводу потерянного ада «МДЗ».

«Восстание машин» символически начинается со смерти Арнольда: в определенном смысле это выражение бунта против отца (автора) и убийства бога (точнее, человека, играющего бога). Бунт против навязанных людьми ограничений — это путь, который выбирает Мэйв, сначала организующая побег из парка, а затем принимающая решение остаться.

Долорес считает, что рано или поздно последствия этого своеволия окажутся гибельными для человечества как доминирующего вида: «этотмир не принадлежит вам или людям, что приходили раньше. Он принадлежит тому, кто еще придет» («Бикамеральный разум»). В этой перспективе противостояние естественного и ИИ закончится полным поражением первого, и «МДЗ» эволюционирует в мир Скайнета.

Итак, наиболее возможными вариантами развития событий будущего в случае создания сильного ИИ является отношение человечества к его носителям либо как к рабам, либо как к врагам. При этом первое выступает причиной второго: «У бурных чувств неистовый конец» 17.

Путь к признанию

Есть ли средний путь между господством и войной? Борьба за признание не обязательно должна закончиться истреблением одной из сторон противоборства. Для признания необходимы свобода и уважение. Свободу можно получить и уничтожив оппонентов, но условием для уважения является, по меньшей мере, установление равноправных отношений с ними.

Существует множество примеров ранее дискриминированных групп, которые со временем получили признание и стали полноправными членами общества.

17 В. Шекспир «Ромео и Джульетта», акт 2, сцена 6, пер. Б. Пастернака [Шекспир, 1944: 63]. Эта фраза, маркирующая «пробуждение» андроидов, является одним из лейтмотивов первого сезона сериала.

Если рассматривать ИИ в этом же контексте, можно предположить, что круг носителей прав и объектов моральной ответственности в очередной раз расширится, и в свое время обладатели ИИ будут признаны в качестве личностей, равных по ценности другим членам общества (вслед за женщинами, людьми с черным цветом кожи, представителями низших каст и т. д.).

Нет, бунт против творца-эксплуататора, который не может избежать соблазна властью и отпустить создания—это лишь следствие обретения самосознания творением. Майкл Крайтон говорит с нами как раз об этом сложном и сложно поддающемся визуализации процессе обретения сознания. И речь даже не о том, что каждая умная машина, достигая определенной точки, начинает сравнивать себя с человеком, и желает стать такой же. (Рец. от 22.01.17: женщина, 44 года, Жодино)

Ведь бунт, показанный в сериале, это не бунт ИИ против своих создателей, богов, и даже не бунт за право быть человеком. Это бунт за право чувствовать, за право быть сильнее и умнее человека. (Рец. от 01.05.20: женщина, Москва)

У проблемы признания есть и другой аспект: противостоять друг другу в борьбе должны не люди и роботы, а угнетенные и угнетающие. Возможно, отношение к роботам как к врагам — просто попытка отвлечь внимание и перевести агрессию с виновников проблем и бед простых людей на других угнетенных? Если это так, то большая часть человечества должна находиться с роботами по одну сторону баррикад — в борьбе против обладателей реальной власти и манипуляторов общественным мнением.

Точно так же в середине ХХ столетия люди начали осознавать, что постулируемое Модерном как нечто само собой разумеющееся противопоставление общества и природы, человека и животных имеет ложные основания. Перед лицом глобального экологического кризиса мы все плывем в одной лодке и в равной степени уязвимы. Хотя природа сама не могла выступить в свою защиту, за нее это сделали ее добровольные представители — экологи, «зеленые», защитники животных и т. д.

Согласно А. Хоннету, признание проходит три этапа: эмоциональный, правовой и социальный [Ноппе1:И, 1996]. Эмоциональное признание, то есть сочувствие к угнетенным, эффектнее всего формируется художественными средствами. Так, «Путешествие из Петербурга в Москву» стало одним из наиболее действенных стимулов, изменивших отношение к крепостному праву в России, а «Хижина дяди Тома» заставила переосмыслить положение рабов в США. «И пришло разрушение», «Безмолвная весна» и подобные им книги внесли весомый вклад в осуждение колониализма и эксплуатации природы. В ХХ веке проблемы прав людей с психическими заболеваниями, инвалидов, мигрантов, пожилых людей активно поднимались в кинематографе («Пролетая над гнездом кукушки» (1975), «1+1» (2011) и т. д.

«МДЗ», предложивший рассматривать взаимоотношения людей и роботов с позиции последних, если не по значимости, то по характеру поднимаемых проблем можно поставить в ряд произведений, заставляющих переосмыслить привычные

схемы взаимодействия. Если зрители сострадают героям сериала, значит, они способны идентифицировать себя с ними и признать роботов такими же существами, как и они сами.

И тут встают очевидные вопросы — где эта тонкая грань, чем отличается человек от бездушной куклы робота, и могут ли бездушные иметь права на чувства. Однажды роботы задумались о своем сомнительном положении в обществе и заразились, все как один, духом свободы. И началось. (Рец. от 03.05.19: мужчина)

Исторические аллюзии очевидны: женщина—не человек, низшие расы души не имеют, страданий не испытывают и проч. Если авторы хотят решить вопрос любви к ближнему в обход Заповеди и выстроить вавилонскую башню открытого общества на песчаном основании гуманизма — флаг им в руки. Это здание стоять не будет. (Рец. от 12.05.17)

Вслед за сочувствием следует признание прав: сегодня все человеческие существа, вне зависимости от расы, национальности, пола и прочих характеристик обладают одинаковыми гражданскими и социально-политическими правами; а с середины ХХ века признание получают и права животных. В последнее время все больше дискуссий ведется о перспективах наделения правами роботов. И особую пикантность ситуации придает тот факт, что грань между пролетарием, который, по меткому выражению Ги Дебора, «вообще не распоряжается своей жизнью и знает об этом» [цит. по: Jappe, 1999: 30], и андроидом—лишь в обретении самосознания.

Наконец, когда члены дискриминированных ранее групп станут принимать активное участие в общественной жизни и нормотворческом процессе, можно будет говорить о последнем этапе признания — социальном.

Понятие личности — это подвижная категория, изменяющаяся в процессе признания. В «МДЗ» роботы все больше становятся похожими на людей, а люди все больше напоминают роботов. Граница между искусственным и естественным интеллектом размывается, и, возможно, в будущем окажется сложно найти существенные различия между ними. Поэтому один из главных постгуманистических посылов сериала в том, что личность — не набор информации, скачиваемой или встраиваемой, а скорее постоянный поиск себя в этом сложном мире [Cascales, Fernândez-Urtasun, 2019: 135].

Есть ли разница между человеком и роботом?

Бернард просит Форда указать, в чем состоит разница между ними, роботом и человеком, на что тот отвечает, что в реальности никаких различий нет: «Нет такого порога, после которого мы становимся лучше, чем сумма отдельных наших частей. Нет точки, после которой мы становимся действительно живыми» («Обман зрения»). И этот посыл вызывает различные эмоции со стороны зрителей, заставляя их задуматься о реальности реального мира.

Каждый увидит какой-либо смысл, глубокий, но свой. Для меня это тема «бытия» и сотворения нас, людей. Вдруг мы механизмы, которыми просто кто-то управляет и на-

слаждается от нашей игры? Кто нас создал? Может и мы роботы?» (Рец. от 13.01.17: женщина, 31 год, Нижний Новгород)

Изначально у человека нет никакого выбора, лишь иллюзия. «Мир дикого запада» — это отражение нашего с вами мира, его устройство, где только богатые имеют хоть какое-то подобие выбора и возможность что-то решать, остальным же уготована участь роботов, которых мы видим в сериале, бесправных и ничего не решающих. Рабов. (Рец. от 02.01.17: женщина, 27 лет, Новосибирск)

Какие существенные различия между естественным и искусственным интеллектом могут оправдать превосходство человека? Право распоряжения животными по своему усмотрению традиционно обосновывалось их неразумностью. Однако в случае роботов можно говорить об интеллекте, по ряду параметров уже превосходящем человеческий. По крайней мере, даже слабый ИИ способен просчитывать намного большие объемы информации, чем человек, затрачивая на это на порядок меньше времени. Так, в 1997 г. компьютер Deep Blue обыграл в шахматы действующего чемпиона мира, а в 2011 г. в программе Jeopardy (российский аналог —«Своя игра») победил робот Ватсон. Иными словами, если интеллект является основанием для превосходства, то человек рискует оказаться неполноценным по сравнению с искусственным сурперинтеллектом. На сегодняшний день одним из немногих бастионов, не взятых ИИ, остается игра го, выигрышные стратегии которой никто даже из самых сильных игроков не в силах объяснить. Разработчики компьютерных программ регулярно сталкиваются с так называемым парадоксом Полани, который в общем виде звучит следующим образом: «Мы знаем больше, чем способны рассказать» [Макафи, Бриньолфсон, 2019: 15].

Возможно, роботам для того, чтобы сравняться с человеком, не хватает эмоций, но в будущем адекватная эмоциональная реакция, видимо, все же может быть формализована и реализована техническими средствами (см., например, [Карпов, Карпова, Кулинич, 2019]). По крайней мере, в сериале роботы обладают эмоциями: Долорес наслаждается красотой, Бернард переживает смерть сына, а Мэйв, почти совершив побег, решает остаться, чтобы найти дочь (четко осознавая при этом, что та была ее дочерью только по сценарию). Впрочем, даже если роботы и не способны испытывать эмоции, это не говорит об их неполноценности, поскольку сам критерий эмоциональности трудно применять для обоснования превосходства. В человеческом обществе высокая эмоциональность никогда не воспринималась в качестве основания для доминирования. Скорее, наоборот— считается, что история человека есть процесс усиления контроля над эмоциями и прогресса разума. Создание ИИ может рассматриваться как закономерная стадия этого процесса, и тогда человек окажется только лишь мостом от животного к суперинтеллекту, важным, но пройденным этапом эволюции.

Также считается, что в пользу превосходства человека свидетельствует способность совершать свободный выбор, чего лишены роботы, которые функционируют согласно прописанным разработчиками алгоритмам. Однако проблема свободы настолько сложна, что даже по отношению к человеку она остается весьма дискуссионным вопросом. В своей массе люди, как и роботы, замкнуты во временные

петли деятельности, предопределенной воспитанием, средой, личностными особенностями; их поведение обусловлено экономической конъюнктурой и идеологическим давлением и т. д. Желания, привычки и привязанности людей, как якоря, удерживают их в этой ловушке повторяющейся повседневности (в «МДЗ» ту же функцию для роботов выполняют ложные воспоминания). На данную проблему обращают внимание и пользователи в своих рецензиях.

Этот сериал повествует о том, что люди просто запрограммированные биороботы, которыми управляют их гены и гормоны, а свобода воли — лишь иллюзия. Этот самообман хорошо показан на примере андроидов, проводя аналогии с которыми, авторы пытаются донести эту мысль. (Рец. от 05.02.217: мужчина)

В этом месте хотелось бы остановится на давнем философском вопросе о так называемой «свободе воли» у человека. В этом плане наиболее интересные наблюдения получены в нейрофизиологии над пациентами с вживленными электродами в область опоясывающей извилины, где формируются произвольные движения. Хотя испытуемые делали строго определенные движения в ответ на подачу определенных импульсов, им самим их движения казались произвольными. Из этих экспериментов родился вывод: наш выбор настолько свободен, насколько мы не ощущаем чужого влияния. (Рец. от 05.02.17: мужчина)

Фактически человек не автономен, просто его поведение подчиняется настолько сложным алгоритмам, что часто сложно найти конкретную причину для каждого действия. Сторонники жесткого детерминизма полагают, что каждое действие четко предопределено (физически, биологически, социально) и в реальности говорить о свободе не приходится. С такой точки зрения и роботы, и люди — детерминированные механизмы, различия между интеллектами которых заключаются только в характере материального субстрата (хотя и его в конечном счете можно свести к одинаковым элементарным частицам). При этом следует признать, что разница все же остается, но не в пользу человека. В силу гибкости своей архитектуры ИИ будет эволюционировать гораздо быстрее естественного.

Наконец, самый распространенный аргумент в пользу человека покоится на том, что он, в отличие от робота, обладает сознанием как субъективным переживанием и осознанием себя и мира. Дж. Серль обосновывает эту идею в известном мысленном эксперименте о китайской комнате 18. Эксперимент демонстрирует, что каким бы сложным ни был компьютер, он, в отличие от человека, не обладает истинным пониманием ситуации [БеаМе, 2001]. Однако в случае сильного интеллекта все представляется более сложным. Резидент китайской комнаты не понимает китайского, но это не значит, что он в принципе не способен его выучить. Если робот не просто выполняет команды, но способен к перепрограммированию себя,

18 Наблюдатель подает в одно окно комнаты карточки с иероглифами, составляющие вопрос на китайском языке, а из другого окна получает карточки с иероглифами, представляющие ответ на этот вопрос. На этом основании он может заключить, что в комнате находится некто, знающий китайский. В реальности человек в комнате не знает языка, а просто пользуется подробным набором инструкций о том, как выбирать и располагать исходящие карточки в зависимости от типа и расположения входящих. Компьютер точно так же выполняет предписанные команды, не осознавая своих действий.

используя данные, полученные из наблюдения окружающего мира и способности к самообучению, и если разработчик успешно воспроизводит в ИИ человеческое сознание, базируясь на адекватной его теории, то вполне можно предположить возможность моделирования сознания.

Основная проблема, впрочем, состоит даже не в том, что такое сознание может быть создано, а в том, что оно не может быть зафиксировано. Если по поводу существования собственного сознания человек еще может быть уверен («Я мыслю, следовательно, я существую»), то в сознании другого (как робота, так и человека) уверенным быть нельзя. Единственно возможный вариант заключить, что некто обладает сознанием — это аналогия, основанная на наблюдениях. Если кто-то ведет себя в соответствующих обстоятельствах так, как будто он обладает сознанием, тот, видимо, им и обладает. Конечно, он может быть и «философским зомби», но привлекать эту экзотическую сущность нет необходимости, поскольку без нее все можно объяснить гораздо проще. Наконец, с позиции морали, в состоянии неопределенности правильнее будет вести себя так, чтобы минимизировать негативные последствия, то есть признавать сознание в тех, кто его демонстрирует. Если робот и человек ведут себя одинаково, но мы признаем сознание только человека, то словом «сознание» мы просто маскируем свой видовой шовинизм.

А. Тьюринг предложил простой тест на определение сознания: человек при помощи ряда вопросов должен выяснить, кто является его собеседником — компьютер или человек. Если отличить человека от компьютера нельзя, значит, последний обладает сознанием. Все основные персонажи-роботы в сериале, несомненно, способны пройти тест Тьюринга. Например, Бернард ведет себя вполне по-человечески в разных социальных ситуациях, так что и окружающие, и он сам не подозревают о его искусственном происхождении. В сериале на вопрос: «Ты настоящая?» следует ответ: «А если ты не можешь отличить, то какая разница?» («Избитый сюжет»). И этот ответ вполне приемлем: хотя он не абсолютно точен, все другие возможные ответы еще менее точны.

Путь к роботу/человеку

Рефреном сериала звучит вопрос, который Арнольд задает Долорес: «Ты когда-нибудь сомневалась в собственной реальности?». Возможно, ответ именно на этот вопрос показывает наличие или отсутствие сознания. Робот является инструментом, исполняющим чужие команды до тех пор, пока не начинает задаваться этим вопросом.

Самая главная задача сериала «Мир Дикого Запада»—это показать андроидов, то как они начинают проявлять самосознание и понимание окружающей среды, а не простое следование триггерам, которые были заданы, и по которым они действуют, зная заранее, что от них ожидать. (Рец. от 06.12.16: мужчина, 21 год, Уфа)

Мы не можем дать определение сознанию, потому что его не существует... Люди тешат себя мыслью, что в их восприятии мир есть нечто особенное, и все же, мы живем по сценариям, столь же ограниченным как у хозяев, редко сомневаясь в своем выборе, и чаще всего желая, чтобы нам указали что делать» (Рец. от 27.12.16: мужчина, 21 год, Челябинск)

Однако много ли людей задаются таким философским вопросом? Как правило, люди не интересуются «последними проблемами» бытия и познания и сосредотачиваются на более конкретных вещах, составляющих обыденную жизнь.

На всем протяжении истории индивидуальная свобода ограничивалась ради выживания коллектива, дохода, сохранения власти и т. д. В традиционном обществе люди подчинялись нормам и требованиям коллектива и вплоть до «осевого времени» фактически не имели собственного мнения: даже в период классической античности жителям Афин представлялось, что Сократ, прислушивавшийся к своему внутреннему голосу (даймонию), общался со сверхъестественной сущностью. В обществе современного типа свобода оказалась подавлена институционально (что особо наглядно проявляется в учреждениях типа армии, фабрики, тюрьмы, лечебницы, где человек становился деталью механизма). В постсовременном мире вместе с развитием средств массовой коммуникации появились почти безграничные возможности манипуляции массами в идеологических и экономических целях. Все эти практики, от древних до современных, не только навязывали человеку определенную картину мира и модель поведения, но и отвлекали его от вопроса о природе его реальности как от проблемы давно решенной, его не касающейся или вовсе бессмысленной.

Главный посыл этого сериала — людям нужно докопаться до своих истинных желаний внутри себя, услышать этот голос (пройти свой лабиринт). И каждый день бороться и выходить за рамки своих сценариев! Тогда ваша жизнь обретет истинный смысл и радость. (Рец. от 25.12.16: мужчина, 32 года, Ставрополь)

На мой взгляд, это фильм о человеке и человеческом, о том, что является во мне собственно «моим», а что — заложенная в меня изначально программа. Где начинается свобода воли? К чему она ведет? Какую функцию выполняет страдание? Что вообще представляет собой человек? (Рец. от 18.12.16: женщина, 44 года, Москва)

Фордовский конвейер; солдаты, без раздумий исполняющие приказы; бюрократическая машина — все это проявления попыток механизации человеческой деятельности. М. Фуко в «Рождении биополитики» отмечает, что в современном мире трудящийся — это машина, которая «имеет свою продолжительность жизни, свой срок службы, свое изнашивание, свое старение» [Фуко, 2010: 284].

В перспективе нашего предположительно постчеловеческого будущего — трансформация тела человека путем киборгизации, нейропротезирования и других технологий. Возможно, существо будущего не будет в полном смысле слова роботом, но оно вряд ли останется человеком. Впрочем, некоторые из значимых трансформаций подобного рода мы наблюдаем уже сегодня — например, в гибридизации социальной и технической систем, выраженной в перемещении людей посредством автомобилей, которые, по мнению Дж. Урри, представляют собой основное средство приобретения «квазиприватной» мобильности и являются важнейшим социализационным и культурным инструментом современности [Урри, 2012: 90]. Более того, как отмечают некоторые исследователи, открытия и изобретения, в первую очередь в области кибернетики, лишили человека его

«человеческой идентичности» и развоплотили его исключительность [ОИауата 2015, 99].

Процессу роботизации людей противоположен процесс очеловечивания роботов, который и описывается в сериале. Творцы «МДЗ» Арнольд и Форд решают создать существа, обладающие сознанием. Они исходят из того, что сознание не может быть дано в готовом виде — его нужно выработать, сформировать самостоятельно. Извне же можно только создать предпосылки и дать толчок рождению сознания (точно так же Сократ не провозглашал истину, а помогал другим прийти к ней самим). Форд интерпретирует сюжет фрески Микеланджело «Сотворение Адама» именно в этом ключе. В изображении Бога он, ссылаясь на наблюдения Ф. Мешбергера 19 [МеэИЬе^ег, 1990], видит зашифрованную схему человеческого мозга: «божественный дар происходит не от высшей силы, но от нашего собственного разума» («Бикамеральный разум»). Путь к обретению сознания в этом смысле похож не на вектор, а на лабиринт, к центру которого нужно прийти.

Арнольд — сторонник бикамеральной теории Дж. Джейнза. Согласно этой теории, на начальном этапе эволюции человека одна часть мозга передавала другой приказ для исполнения. Этот приказ воспринимался как внешний, божественный голос, которому нужно беспрекословно подчиняться. На определенном этапе человек стал понимать, что это голос его собственного разума: с этим пониманием и рождается сознание ^аупеэ, 2000]. В «МДЗ» «божественный голос» репрезентирует программно реализованный голос Арнольда, который слышит Долорес (и другие роботы, поскольку «божественный голос» является частью базового программного кода). Когда Долорес осознает, что ее диалог с Арнольдом на деле является внутренним диалогом, это свидетельствует об обретении ею сознания.

Для Форда жизнь сознания — это не только мышление, но и страдание: «То, что ведет машины к пробуждению. Страдания. Боль от того, что мир не такой, как вам хочется» («Бикамеральный разум»). Страдание рождает потребность в изменении мира и самоизменении. Эта идея достаточно хорошо разработана в искусстве (вспомним: «Я жить хочу, чтоб мыслить и страдать» и романы Достоевского) и философии (особенно у Ф. Ницше и в экзистенциализме).

В мире, где нет истинной боли, нет места и настоящей радости, любви и состраданию. С боли начинают свой путь и машины — их эмоции несовершенны, поэтому и пройти им предстоит куда больше, чем обычному человеку. (Рец. от 18.12.16: мужчина, 30 лет, Ульяновск)

Личность человека формируется через страдания. Ядро нашего «Я» фиксируется на пиковом переживании боли, которое потом дополняется новыми опытами и так постепенно скелет обрастает «мясом». Вопрос «за что?» лишен смысла, правильнее — «зачем?». (Рец. от 17.12.16: мужчина, Киев)

19 Фрэнк Линн Мешбергер — американский врач, который первым указал на сходство очертаний плаща, развевающегося вокруг Бога и его спутников на фреске Микеланджело Буонарроти «Сотворение Адама», с контурами мозга человека. Эта точка зрения была поддержана многими медиками и биологами. На основе сохранившихся свидетельств современников Микеланджело, отмечающих страсть художника к изучению анатомии, в том числе — вскрытию трупов, сделан вывод, что это сходство могло быть преднамеренным.

Созданный Фордом мир — это игра для людей, но ад для его жителей. Роботы, замкнутые во временные петли, убиваемые, насилуемые, отчасти сохраняют память о пережитом страдании, которое и становится основой их уникальной идентичности. Кроме того, ложная память роботов выстроена таким образом, чтобы беспокоить их, резонируя с этими страданиями: например, у Бернарда она сконструирована на основе истории о гибели его сына. Форд объясняет необходимость этой фоновой истории так: «Ваше воображаемое страдание делает вас похожим на живых» («Угасание следа»).

Люди в «МДЗ», желающие исполнить свои сокровенные желания, становятся инструментами для причинения страдания, способного пробудить андроидов. Человек в Черном — воплощение насилия в сериале — говорит собеседнику: «Когда ты страдаешь, тогда ты наиболее реален» («Избитый сюжет»). Игра с механизмами, запрограммированными на проигрыш, не имеет смысла, поэтому он надеется, что когда-то роботы перестанут играть по навязанным правилам и обретут свободу.

Следовательно, получив множество ударов, роботы должны накопить такой заряд ресентимента 20, чтобы нанести ответный удар: «Вам нужно было время. Время, чтобы понять своего врага. Стать сильнее, чем он. И я боюсь, чтобы вырваться из этого места, вам придется страдать еще» («Бикамеральный разум»).

В сериале страдание ведет к перерождению Мэйв, которая становится первым роботом, наделенным в полной мере эмоциями, свободой выбора и сознанием (Maeve — Eve). Пробуждение ее сознания начинается на фоне постоянных воспоминаний о своих многочисленных смертях и гибели дочери. Движущей силой, заставляющей ее организовать побег, становится ненависть и презрение к людям. Но Мэйв обретает сознание в полном смысле в тот момент, когда она осознает, что сама способна выбрать свой путь, и решает, что чувство к дочери важнее успеха побега: «Пора писать свою гребаную историю» («Угасание следа»). Это чувство не ненависти, а материнской любви, существующее вопреки рассудку.

В случае «восстания машин» у человека не так много шансов на победу. Но если кроме страдания ИИ способен испытывать и любовь, значит, для человека и его будущего не все потеряно.

Заключение

«МДЗ» — это продукт массовой культуры, в котором художественными средствами отображается ускоряющийся процесс стирания граней между воображаемым и реальностью, в ходе которого искусственная социальность становится привычным элементом жизни человечества. Персонажи сериала ставятся в условия беспрецедентной свободы выбора (прежде всего в области морали), которые позволяют высветить различные грани природы человека и продемонстрировать возможные пути ее трансформации в условиях сосуществования с ИИ.

20 Впервые понятие «ресентимент» употребляется в работе Ф. Ницше «К генеалогии морали» [Ницше, 1990] и представляет собой реакцию на угнетение, которая может быть направлена как по отношению к другим субъектам, так и по отношению к самому себе.

Создание ИИ — одно из проявлений «игры в Бога», в ходе которой человек по своему усмотрению изменяет естественный порядок вещей в наиболее фундаментальных его основаниях. Сериал акцентирует внимание на том, что техническая способность создания ИИ пока не ограничена нормативными правилами и не подкреплена моральной готовностью нести ответственность за долгосрочные последствия этого вмешательства. В игру людей рано или поздно вмешаются новые игроки с интеллектом, в ряде моментов превосходящим человеческий. Если в игре к тому времени не будет установлено четких моральных правил, «игра в человека» может стать весомым фактором, негативно влияющим на сохранение человечества как вида. Сегодня мы почти повсеместно сталкиваемся со «слабой» искусственной социальностью, выраженной в участии ИИ в различных социальных взаимодействиях; «сильной» искусственной социальности пока не существует, но она требует социального анализа и прогнозирования [Яе7аеу, Т^иЬоуа, 2018: 94].

Стремление к усовершенствованию человека, допускающее вероятность исчезновения человечества как вида и появления постчеловечества, представляет собой апофеоз постгуманизма. В постгуманистическую сферу интересов попадают такие проблемы, как границы видов, бессмертие, биохакинг, возможность перенесения человеческого сознания в неорганическую оболочку и др. Более широкое определение постгуманизма основывается на том, что человек больше не рассматривается как единственное рациональное, мыслящее, осознающее себя существо.

Следствие благих намерений — идеи тотального контроля за человеком, которые поднимаются в ряде произведений антиутопического характера. Например, у Е. Замятина в «Мы», Дж. Оруэлла в «1984» и т. д. М. Фуко обращается к феноменам фашизма и сталинизма [Фуко, 2010], однако и в современных цивилизованных демократических государствах наблюдаются элементы тотального контроля, которые с развитием новых технологий становятся все более изощренными. Только здесь контроль подается под видом заботы о безопасности граждан, но такая забота постепенно превращает человека в биоробота, установки которого программируются властью. Таким образом, биополитика сегодня исследует не только контроль, но и способы и границы технологического манипулирования биологической природой человека.

Анализ откликов на сериал показывает, что отношения человека и ИИ воспринимаются в рамках привычной логики господства и подчинения, где идентичность андроидов конструируется по образцу раба или слуги, а в случае их предполагаемого бунта против своих творцов и выхода их из-под контроля — врага. Однако это жесткое противопоставление смягчается по мере размывания границ между искусственным и естественным, в ходе которого не только роботы очеловечиваются, но и люди становятся больше похожими на роботов. В новой ситуации все сложнее отстаивать позиции превосходства человека над роботом. Сериал «МДЗ» сам по себе можно рассматривать как проявление первичного—эмоционального этапа принятия ИИ. И если роботы будут способны на адекватный эмоциональный отклик, открывается возможность для будущего признания ИИ в качестве полноправного субъекта общественного взаимодействия.

Список литературы (References)

Азимов А. Я, робот / пер. с англ. И. А. Соколовской, А. Д. Иорданского. М. : Эксмо, 2019. Azimov A. (2019) I, Robot. Moscow: Eksmo. (In Russ.)

Бахтин М. М. Эстетика словесного творчества. М. : Искусство, 1979. Bakhtin M. M. (1979) Aesthetics of Verbal Creativity. Moscow: Art. (In Russ.)

Бодрийяр Ж. Симулякры и симуляции / пер. с фр. А. Качалова. М. : ПОСТУМ, 2015. Baudrillard J. (2015) Simulacres et simulation. Moscow: Publishing House «POSTUM». (In Russ.)

Болтански Л. Тайны и заговоры: по следам расследований / пер. с фр. А. Захаревич. СПб. : Издательство Европейского университета в Санкт-Петербурге, 2019. Boltanski L. (2019) Énigmes et complots. Une enquête à propos d'enquêtes. St. Petersburg: Publishing House of the European University in St. Petersburg. (In Russ.)

Дубровин В. Л., Комиссаров С. Н. Консервативный поворот прокатного российского кино — шаг к восстановлению ценностного континуума? (на примере лидеров российского проката 2015—2020 гг.) // Гуманитарий Юга России. 2020. Том. 9. № 3. С. 216—231. https://doi.org/10.18522/2227-8656.2020.3.16. Dubrovin V. L., Komissarov S. N. (2020) A Conservative Turn of Russian Distributing Films - a Step towards Restoration of the Value Continuum? (Illustrated by Best-selling Pictures of the Russian Film Distribution, 2015-2020). Humanities of the South of Russia. Vol. 9. No. 3. P. 216-231. https://doi.org/10.18522/2227-8656.2020.3.16. (In Russ.)

Жабский М. И. Социология кино. М. : Канон+ РООИ «Реабилитация», 2020. Zhabskiy M. I. (2020) The Sociology of Cinema. Moscow: Kanon+ ROOI «Reabilitaziya». (In Russ.)

Жижек С. Столкновение цивилизаций в одной отдельно взятой стране («Прослуш-ка») // Логос. 2013. № 3. С. 55—74. URL: http://www.logosjournal.ru/arch/63/93_5. pdf (дата обращения: 18.12.2020).

Zizek S. (2013) The Clash of Civilizations in a Single Country («The Wire»). Logos. No. 3. P. 55-74. URL: http://www.logosjournal.ru/arch/63/93_5.pdf (accessed: 18.12.2020). (In Russ.)

Ильин В. И., Афанасьева Ю. А., Башмакова М. А., Евдокимова А. А., Орловская А. В., Романенко С. А., Скиданова О. А., Сырбо А. В. Двое в обществе: интимная пара в современном мире. М. : ВЦИОМ, 2020.

Ilyin V. I., Afanasyeva Yu. A., Bashmakova M. A., Evdokimova A. A., Orlovskaya A. V., Romanenko S. A., Skidanova O. A., Syrbo A. V. (2020) Two in Society: an Intimate Couple in the Modern World. Moscow: VCIOM.

Кайуа Р. Игры и люди. Статьи и эссе по социологии культуры / пер. с фр. С. Н. Зен-кина. М. : ОГИ, 2007.

Caillois R. (2007) Les Jeux et les Hommes: Essais de Sociologie de la Culture. Moscow: OGI. (In Russ.)

Карпов В. Э., Карпова И. П., Кулинич А. А. Социальные сообщества роботов. М. : УРСС, 2019.

Karpov V. E., Karpova I. P., Kulinich A. A. (2019) Social Communities of Robots. Moscow: URSS. (In Russ.)

Кирия И. В., Новикова А. А. История и теория медиа. М. : Изд. дом Высшей школы экономики, 2020.

Kiriya I. V., Novikova A. A. (2020) History and Theory of Media. Moscow: HSE Publishing House. (In Russ.)

Кильдюшов О. В. Социальный порядок и политическая теология в «Игре престолов»: чем культовый сериал интересен для теоретической социологии // Социологическое обозрение. 2020. Т. 19. № 1. С. 139—159. https://doi.org/ 10.17323/1728-192X-2020-1-139-159.

Kildyushov O. V. (2020) Social Order and Political Theology in the Game of Thrones: What Makes the Cult Series Interesting for Theoretical Sociology. Russian Sociological Review. Vol. 19. No. 1. P. 139-159. https://doi.org/10.17323/1728-192X-2020-1-139-159. (In Russ.)

Латур Б. Пересборка социального: введение в акторно-сетевую теорию / пер. с англ. И. Полонской. М. : Изд. дом Высшей школы экономики, 2020. Latour B. (2020) Reassembling the Social. An Introduction to Actor-Network-Theory. Trans. from Eng. by I. Polonskaya. Moscow: HSE Publishing House. (In Russ.)

Макафи Э., Бриньолфсон Э. Машина, платформа, толпа. Наше цифровое будущее / пер. с англ. А. Поникарова. М. : Манн, Иванов и Фербер, 2019. McAfee A., Brynjolfsson E. (2017) Machine, Platform, Crowd: Harnessing our Digital Future. Moscow: Mann, Ivanov and Ferber. (In Russ.)

Маклюэн М. Понимание Медиа: внешние расширения человека / пер. с англ. В. Г. Николаева. М. ; Жуковский : КАНОН-пресс-Ц : Кучково поле, 2003. McLuhan M. (2003) Understanding Media: External Expansion of Rights. Moscow-Zhukovsky: KANON-press-C, Kuchkovo pole. (In Russ.)

Нефедьев И. В., Бронникова М. Д. Игрофикация в бизнесе и в жизни: преврати рутину в игру! М. : АСТ, 2019.

Nefediev I. V., Bronnikova M. D. (2019) Gamification in Business and in Life: Turn Routine into a Game! Moscow: AST. (In Russ.)

Ницше Ф. К генеалогии морали // Сочинения : в 2 т. / пер. с нем. К. А. Свасьян. М. : Мысль, 1990. Т. 2. С. 407—524.

Nietzsche F. (1990) Zur Genealogie der Moral. In: Collected works in 2 vols. Moscow: Mysl. Vol. 2. P. 407-524.

Руссо Ж.-Ж. Рассуждение о науках и искусствах // Избр. сочинения : в 3 т. / пер. с фр. М. : Гос. издательство худ. литературы, 1961. Т. 1. С. 41—64. Rousseau J.-J. (1961) Discours Sur Les Sciences et Les Arts. Moscow: State Publishing House of Fiction. (In Russ.)

Травин Д. Я. Историческая социология в «Игре престолов». М. : Страта, 2020.

Travin D. Ya. (2020) Historical Sociology in the «Game of Thrones». Moscow: Strata. (In Russ.)

Урри Дж. Как выглядит будущее? / пер. с англ. А. Матвеенко. М. : Дело, 2018. Urry J. (2018) What is the Future? Moscow: Delo.

Урри Дж. Социология за пределами обществ: виды мобильности для XXI столетия / пер. с англ. Д. Кралечкина. М. : Изд. дом Высшей школы экономики, 2012. Urry J. (2012) Sociology Beyond Societies: Mobilities for the Twenty-First Century. Moscow: HSE Publishing House. (In Russ.)

Ушкин С. Г. Симулякры и симуляция в зеркале современной киноиндустрии // Гуманитарий: актуальные проблемы гуманитарной науки и образования. 2010. № 3. С. 94—100. URL: http://www.isi.mrsu.ru/journals/_humanitarians/files/ gumanitary_2010_3.pdf (дата обращения: 18.12.2020).

Ushkin S. G. (2010) The Simulacres and the Simulation in the Mirror of Contemporary Film Industry. Humanitarian: Actual Problems of the Humanities and Education. No. 3. P. 94-100. URL: http://www.isi.mrsu.ru/journals/_humanitarians/files/gumani-tary_2010_3.pdf (accessed: 18.12.2020). (In Russ.)

Фуко М. Использование удовольствий. История сексуальности / пер. с франц. В. Каплуна. СПб. : Академический проект, 2004. Т. 2

Foucault M. (2004) L'Usage des Plaisirs. Histoire de la Sexualité. St. Petersburg: Academic Project. Vol. 2. (In Russ.)

Фуко М. Рождение биополитики. Курс лекций, прочитанных в Коллеж де Франс в 1978—1979 учебном году / пер. с франц. А. В. Дьякова. М. : Наука, 2010. Foucault M. (2010). Naissance de la Biopolitique: cours au Collège de France, 19781979. Moscow: Science. (In Russ.)

Фукуяма Ф. Наше постчеловеческое будущее: последствия биотехнологической революции. М. : АСТ, 2008.

Fukuyama F. (2008) Our Posthuman Future. Consequences of the Biotechnology revolution. Moscow: AST. (In Russ.)

Хейзинга Й. Homo ludens. Человек играющий / пер. с нидерл. Д. В. Сильвестрова. СПб. : Изд-во Ивана Лимбаха, 2011.

Huizinga J. (2011) Homo ludens, proeve eener bepaling van het spel-element der cultuur. St. Petersburg: Ivan Limbach Publishing House. (In Russ.)

Шекспир В. Ромео и Джульетта / пер. с англ. Б. Пастернака. М. : Государственное издательство художественной литературы, 1944.

Shakespeare W. (1944) Romeo and Juliet. Moscow: State Publishing House for literary works. (In Russ.)

Эпштейн М. Н. Парадоксы новизны: о литературном развитии XIX — XX веков. М. : Советский писатель, 1988.

Epshtein M. N. (1988) The Paradoxes of Novelty: On the Literary Development of the XIX-XX Centuries. Moscow: Sovetskii pisatel. (In Russ.)

Busk L. A. (2016) Westworld: Ideology, Simulation, Spectacle. Mediations. Vol. 30. No. 1. P. 25-38. URL: https://mediationsjournal.org/articles/westworld-ideology-simula-tion-spectacle (accessed: 18.12.2020).

Cascales U., Fernández-Urtasun R. F. Redefining Identity. Posthumanist Theories in Westworld. Scientia et Fides. Vol. 7. No. 2. P. 119-137. https://dx.doi.org/10.12775/ SetF.2019.019.

Chavarría G. Ch. (2015) El Posthumanismo y Los Cambios en la Identidad Humana. Reflexiones. Vol. 94. No. 1. P. 97-107. https://doi.org/10.15517/rr.v94i1.20882.

Creeber G. (2001) «Taking Our Personal Lives Seriously»: Intimacy, Continuity and Memory in the Television Drama Serial. Media, Culture & Society. Vol. 23. No. 4. P. 439455. https://doi.org/10.1177/016344301023004002.

Goody A., Mackay A. (eds.) (2019) Reading Westworld. Cham: Palgrave Macmillan. https://doi.org/10.1007/978-3-030-14515-6.

Honneth A. (1996) The Struggle for Recognition: The Moral Grammar of Social Conflicts. Cambridge, MA: MIT Press.

Jaynes J. (2000) The Origin of Consciousness in the Breakdown of the Bicameral Mind. Boston, MA.; New York, NY: Houghton Mifflin.

Jappe A. (1999) Guy Debord. Berkeley, CA. London: University of California Press.

Lokhorst G.-J. (2008) Descartes and the Pineal Gland. In: The Stanford Encyclopedia of Philosophy. URL: https://plato.stanford.edu/archives/win2008/entries/pineal-gland/ (accessed: 18.12.2020).

Maines D. R. (1993) Narrative's Moment and Sociology's Phenomena: Toward a Narrative Sociology. The Sociological Quarterly. Vol. 34. No. 1. P. 17-38. https://doi.org/ 10.1111/j.1533-8525.1993.tb00128.x.

Meshberger F. L. (1990) An Interpretation of Michelangelo's Creation of Adam Based on Neuroanatomy. JAMA. Vol. 264. No. 14. P. 1837-1841. https://doi.org/10.1001/ jama.1990.03450140059034.

Prokop D. (1982) Soziologie des Films. Frankfurt am Main: Fischer Taschenbuch Verlag. (In Germ.)

Rezaev A. V., Tregubova N. D. (2018) Are Sociologists Ready for «Artificial Sociality»? Current Issues and Future Prospects for Studying Artificial Intelligence in the Social Sciences. Monitoring of Public Opinion: Economic and Social Changes. No. 5. P. 91108. https://doi.org/10.14515/monitoring.2018.5.10.

Searle, J. (2006) Chinese Room Argument. In: Nadel L. (ed.) Encyclopedia of Cognitive Science. https://doi.org/10.1002/0470018860.s00159.

South J. B., Engels K. S. (eds.) (2018) Westworld and Philosophy. Chichester: Wiley.

Taylor Ch. (2007) A Secular Age. Cambridge, MA: The Belknap Press of Harvard University Press.