CC BY
118
https://doi.org/10.30853/filnauki.2020.7.11
Янь Мэйпин
Этика и гуманизм искусственного интеллекта (на материале романа В. Пелевина "IPhuck 10")
Цель исследования - получить прогностическую модель картины мира в романе Виктора Пелевина "IPhuck 10", спрогнозировать на ее основе способы бытования искусственного интеллекта в социуме ближайшего будущего и онтологические перспективы его развития. Научная новизна обусловлена неисследованностью искусственного интеллекта как социальной проблемы и неизученностью антиутопической проблематики романа Пелевина "IPhuck 10". Полученные результаты показали, что роман Пелевина есть художественное предостережение об опасности социального аутизма и необходимости дифференциации искусственного интеллекта и человеческого сознания. Адрес статьи: www.gramota.net/materials/2/2020/7/11.html
Источник
Филологические науки. Вопросы теории и практики
Тамбов: Грамота, 2020. Том 13. Выпуск 7. C. 58-63. ISSN 1997-2911.
Адрес журнала: www.gramota.net/editions/2.html
Содержание данного номера журнала: www .gramota.net/mate rials/2/2020/7/
© Издательство "Грамота"
Информация о возможности публикации статей в журнале размещена на Интернет сайте издательства: www.gramota.net Вопросы, связанные с публикациями научных материалов, редакция просит направлять на адрес: phil@gramota.net
https://doi.Org/10.30853/filnauki.2020.7.11 Дата поступления рукописи: 22.04.2020
Цель исследования - получить прогностическую модель картины мира в романе Виктора Пелевина "IPhuck 10", спрогнозировать на ее основе способы бытования искусственного интеллекта в социуме ближайшего будущего и онтологические перспективы его развития. Научная новизна обусловлена неисследо-ванностью искусственного интеллекта как социальной проблемы и неизученностью антиутопической проблематики романа Пелевина "IPhuck 10". Полученные результаты показали, что роман Пелевина есть художественное предостережение об опасности социального аутизма и необходимости дифференциации искусственного интеллекта и человеческого сознания.
Ключевые слова и фразы: Виктор Пелевин; проблема искусственного интеллекта; роман; социальный аутизм; этическая проблематика.
Янь Мэйпин, к. филол. н.
Шаньдунский университет, Китайская Народная Республика 18678661119@163.com
Этика и гуманизм искусственного интеллекта (на материале романа В. Пелевина "ГРИиск 10")
Актуальность темы искусственного интеллекта (ИИ) заключается в антропологическом развороте одного из важнейших философских дискурсов о взаимодействии Человека-Творца и Его Создания. В научных дискуссиях и в общественном сознании, начиная, по крайней мере, со второй половины XX века, данная технология прорабатывается и уже применяется в самых разных областях знания. Она же вызывает споры и острые дискуссии. В России проблема ИИ недостаточно хорошо изучена, а в обществе в целом существует его поверхностное понимание. Согласно исследованию, проведенному в конце 2019 года Всероссийским центром изучения общественного мнения, 75% россиян знают, что такое ИИ, но только 29% из них понимают его суть [4]. Тем не менее вызовы, которые несут в себе новые технологии, рефлексируются в разных областях знания и в России в том числе.
Русская литература с XIX в. является генерирующим институтом философской мысли, идет в авангарде гуманитарных наук. Виктор Пелевин как автор, пристально следящий за происходящим в современном мире, и прежде всего проблемами, связанными с человеческим сознанием, впервые создал художественного героя -мыслящего робота, выполняющего разнообразные коммуникативные функции. Этот аспект творчества Пелевина не изучен. Потому статья опирается на теоретическую базу, которой являются труды литературоведов, описывающих общую художественную систему Пелевина (А. Генис, О. Жаринова, Э. Сафронов и др.). Онтологические проблемы ИИ анализируются с опорой на исследования футурологов-социологов, политологов, философов, нейропсихологов, определяющих степень изученности проблемы (А. Секацкий, В. Савчук, Е. Иваненко, Д. Скрипченко и др.). Текстуальный проблемно-тематический подход с опорой на социально-философские изыскания, используемые в перечисленных выше работах, является методом исследования.
Из поставленной цели и заявленной методологии вытекают непосредственные задачи нашего исследования:
- проанализировать тему ИИ, лежащую в основе романного сюжета у Пелевина;
- рассмотреть основной конфликт в романе "ГРМск 10" (взаимодействие человека и его производного - ИИ);
- проанализировать приемы, которые использует Пелевин для изображения ИИ;
- выявить параметры функционирования ИИ в человеческом обществе, отображенные у Пелевина.
Теоретическая значимость статьи определяется выявлением онтологических констант искусственного
интеллекта.
Практическая значимость статьи заключается в возможности построения на ее основе лекций по современной литературе и спецкурсов по творчеству Пелевина.
Сюжет произведения строится на двух основных постулатах. Во-первых, автор принимает положение постмодернизма о ризомной сущности ИИ, который не обязательно должен обладать физическим носителем: «Искусственный интеллект - это бестелесный и безличный дух, живущий в построенной человеком среде -код, свободно копирующий и переписывающий свои секвенции и большую часть времени не сосредоточенный нигде конкретно» [6, с. 7]. Во-вторых, писатель также допускает один из важнейших спорных тезисов, существующих в гуманитарных и не только дискуссиях, касающихся проблематики ИИ: в относительно недалеком будущем он уже будет обладать самосознанием. Это означает, что электронный интеллект действительно сможет быть рефлексирующим актором, а не просто самообучающейся энциклопедией:
«- Жанна развивалась и усложнялась, - продолжал Порфирий, - и вскоре перед ней встал вопрос о смысле происходящего. Это, конечно, очень человеческий вопрос, но Жанна ведь и была полигоном человеческих состояний» [Там же, с. 435].
У Пелевина ИИ способен вести себя как человек. Но возможно ли наоборот? Эта тема подспудно звучит в романе. Если поставить вопрос о происхождении и реализации человеческого интеллекта, то возникнет не меньше трудностей. Мы можем, например, идентифицировать себя с разными литературными или киногероями.
Можем выбрать себе компьютерного персонажа и играть им от своего имени. Современный человек своими знаниями и имиджем обязан прочитанным книгам, кумирам, его образ, сознание формирует окружающая среда, вплоть до домашнего интерьера. В этом смысле человеческий интеллект уже давно стал искусственным. По крайней мере, с тех пор, когда слова и вещи перестали быть жестко связаны между собой. Тотальное изменение идентичности произошло в эпоху формирования медиасреды, когда индивид, опутанный средствами связи, стал играть роль и адресата, и источника информации, и средства ее передачи [7]. Создалась ситуация зависимости человека от воздействия медиасреды, когда «новые медиа готовы брать на службу геолока-лизованного субъекта, способного быть лидером мнений» [10, с. 239].
Проблему формирования и функционирования человеческого сознания в современных условиях, а также его взаимодействия со своей «креатурой» - ИИ Пелевин решает художественными средствами. Сюжет романа построен вокруг основного персонажа - робота, который сосуществует рядом с людьми. Литература и кинематограф, создавая образ киберпанка, уже не раз обращались к теме восстания машин и превращения людей в их придаток. Антиутопические теории, воплощенные в книгах и на экранах, в основном являли предупреждение о возможной опасности с их стороны. Пелевин развивает эту идею, размышляя о возможной опасности для человека не столько со стороны ИИ, сколько собственного сознания, все дальше уходящего от своей природы.
"ГРМск 10" также мог бы походить на фантастическую антиутопию Джорджа Оруэлла или фильмы в духе «Матрицы», «Бегущего по лезвию» или «Я, робот». В картине мира, созданной Пелевиным, распались известные нам Россия и США, Европа превратилась в Халифат, очевидно заселенный приезжающими туда мусульманами, а на Востоке появилась могучая сверхдержава (Пелевин ее не называет, но очевидно, что это аллюзия на Китай). При этом социально-политическое построение общества будущего весьма эклектично. Например, Россия снова стала империей, в которой правит созданный в лаборатории монарх: «Когда в конце тридцатых восстанавливали монархию, никто даже не рассматривал традиционных претендентов на престол, все еще живущих где-то в Европе, всерьез. Это была эпоха дизайнерских деток, наука казалась всесильной, и российские генетики были уверены, что сумеют создать идеального в генетическом отношении монарха» [6, с. 404-405].
По сюжету книги быт людей претерпел определенные изменения: им больше не нужен телесный секс -он опасен и не эстетичен. Поэтому они утешают себя роботами с дополненной реальностью - айфаками и андрогинами, а детей выводят искусственным путем из пробирок. «Все было устроено для того, чтобы мы спали с манекенами и размножались только через пробирку, где можно отсечь ненужные генетические последовательности! Работа шла по двум направлениям - сделать это законом и одновременно криминализировать почти все естественные сексуальные действия, даже интенции одного живого человека по отношению к другому» [Там же, с. 58].
Прозаик достаточно подробно и технически грамотно описывает секс с куклами, которые не только доставляют физическое удовлетворение, но и полностью подстраиваются под ментальные предпочтения хозяина: «Мы не просто догнали реальность, мы превзошли ее... Айфак - это не только любовный тренажер, но одновременно и высокозащищенный личный сейфер, где сохраняются и анализируются ваши коитогра-фические предпочтения - на их основе создается виртуальная галерея ваших возможных партнерш, партнеров и партнерей» [Там же, с. 84-85]. Вообще, сексуальный ракурс - одна из позиций, с точки зрения которой написан "ГРМск 10". Секса в романе одновременно и много, и нет вообще. Это очевидная пародия на современное общество потребления с его гиперсексуальностью всего и везде, когда секс стал настолько доступен, что оказался полностью лишенным эротизма.
Но, как и ранее в романе '^.Ки^^.", писатель не просто фантазирует о будущем с его новыми политическими образованиями и интегрированными в повседневность новейшими технологиями. Пелевин моделирует и разворачивает вероятные проблемы, теоретически ставящиеся уже сейчас, но практически еще невозможные в силу разных причин.
Сюжет подчинения людей воле компьютеров, безусловно, захватывающий и драматичный. Он выдвигает на поверхность некоторые подсознательные страхи общества, один из которых сводится к ужасу потерять уверенность в единственно возможном человеческом когито. Проблема противостояния человека и машины сегодня занимает как философов, так и 1Т-специалистов, но однозначного ответа на вопрос «угрожает ли людям ИИ» на сегодня нет. Пелевин рассуждает в этом же ключе и предлагает свою версию развития событий человеческо-машинных отношений, где человек все-таки оказывается хитрее.
В самом начале романа прозаик отметил, что ИИ - это не просто робот, созданный по образу и подобию человека и помогающий ему. Это его делегированный разум, который человек абстрагировал от себя и которому передал часть своих полномочий. Это продукт добровольной сделки, в ходе которой естественный интеллект снял с себя часть обязанностей по хранению и обработке информации. С одной стороны, действительно очень хорошо не перегружать лишними знаниями сознание, оставляя больше места для того, чтобы заниматься чем-то на самом деле интересным. Ведь имея круглосуточный доступ в Интернет, можно почерпнуть оттуда любую необходимую информацию, нет смысла хранить все в голове. С другой стороны, очевидной издержкой такого процесса становится, например, атрофия интуиции, возникающая как вспышка как раз-таки между имеющимися в коре головного мозга ячейками, в которых хранятся знания. Это замечание относительно ненужности хранения информации «в голове» также поднимает проблему кризиса традиционных материальных носителей культуры, что отмечалось постмодернизмом и постструктурализмом. Герой Пелевина откровенно говорит об этом: «Все эти музеи существуют только потому, что старые культурные объекты намертво спаяны со своим физическим носителем. Атавизм, конечно. Когда-нибудь с этим
разберутся окончательно. Все, имеющее культурную ценность, может быть отображено в коде, потому что сама культура - тоже просто код» [Там же, с. 135]. Мечта о цифровизации любого материального объекта - это, безусловно, вопрос, с которым придется столкнуться в будущем.
Философ Э. Сафронов, разбирая книгу Алана Кирби «Диджимодернизм. Как новые технологии упраздняют постмодерн и переопределяют нашу культуру», отмечает наступление новых технологий не только на способы хранения и передачи информации, но и на возможности ее создания и считывания. Среди прочего техника уже поменяла восприятие текста - казалось бы, незыблемого и вечного атрибута человеческой культуры. Сафронов делает следующие наблюдения: «Кирби расширяет понятие текста: последний становится цифровым и включает в себя телевизионные шоу, компьютерные игры, фильмы, радиопередачи, под-касты, социальные сети, блоги и другие интернет-сервисы. "Текст" характеризуется следующим образом: направленность в будущее - у него есть начало, но может не быть конца; "текст" постоянно развивается и дополняется; стихийность - направление его развития не предопределено; эфемерность - "текст" важен только в настоящем, он не представляет интереса как воспроизводимый элемент; размытие ролей - у "текста" больше нет разделения на производителя и потребителя, эти роли смешиваются, а авторы и реципиенты дополняют друг друга; анонимное и множественное авторство; он электронно-дигитальный и утверждается только в этом статусе» [8, с. 182].
Данные наблюдения относительно текста становятся справедливыми в корреляции с деятельностью Порфирия Петровича в романе Пелевина. ИИ не только расследует преступления, но и пишет на их основе романы, пополняя таким образом казну Полицейского Управления. В этом смысле есть некоторая преемственность с романом "S.N.U.F.F.". По его сюжету, где-то в будущем существует верхний лучший мир -«офшар» - Бизантиум и государство нижнего мира - Уркаина. Специальные служащие верхнего мира -дискурсмонгеры - ежегодно прилетают в мир нижний, чтобы организовать там войну и тут же заснять ее на видеокамеру, которая является еще и пушкой, эту войну создающей. Полученный материал служит контентом для потребителей верхнего лучшего мира и хорошо продается. ИИ Порфирий Петрович также создает реальность, вступая в коммуникацию и ведя расследования, создавая продукт потребления, хоть и менее доходный.
Некоторые актуальные для Пелевина моменты, касающиеся толерантности и политкорректности, автор разъясняет акцентированно дотошно, что может вызвать даже удивление: ведь большая часть романа написана как бы от лица искусственного интеллекта, который обращается к своим современникам, а не к предкам. Очевидным выглядит, например, такой укол в сторону современной проблемы sexual harassment: «Сегодня все помнят: "нет" всегда значит "нет". Но цель моей книги - объяснить наконец, что "да", в том числе и повторное, не всегда значит "да". Поэтому оно может быть отозвано ретроспективно, даже через двадцать или тридцать лет, когда глубоко скрытая травма выйдет наконец на поверхность женского сознания» [6, с. 89].
В обычной для себя манере Пелевин иронизирует над культовыми интеллектуалами эпохи: «Сказать молодому и свежему уму: вот прочитай-ка для развития Хайдеггера, Сартра, Ведровуа и Бейонда - это как посоветовать юной девственной красавице: чтобы познать жизнь, дочка, переспи по десять раз с каждым из двенадцати солярных механизмов в нашем депо. Она это сделает, конечно - трогательная послушная бедняжка. И жизнь в известном смысле познает. Но вот красавицей уже не останется: во-первых, никогда не отмоет сиськи, а во-вторых, будет ссать соляркой до конца своих дней.
Философские тренажеры не воспитывают ум. Они его искривляют. Когда голову развивают подобным образом, в нее закачивают софт, который немедленно начинает участвовать в каждой вашей встрече с бытием. И, закачав этот софт, назад вы его уже не откачаете» [Там же, с. 387].
Но данный литературный прием - разговор через будущее с настоящим, - позаимствованный Пелевиным у писателей-фантастов, - позволяет выйти за скобки реальности и раскрыть тему через постановку ее в виде чистого умозрительного эксперимента «как если бы». И тогда все идеи, раскрываемые писателем, приобретают невероятно актуальную форму.
Если посмотреть на современного человека, проводящего большую часть времени в Интернете, можно заметить, как мало места ему остается в реальном пространстве. Новая социальная инженерия последние двадцать лет стремительно наступала на традиционную коммуникативную способность человека общаться с миром и с Другим. Личное непосредственное общение все менее востребовано, что приводит к возрастанию в обществе социального аутизма, который стал настоящей проблемой. «Аутист чувствует себя комфортно в окружении "вещей или людей, ведущих себя как автоматы", поскольку их принцип/механизм существования понятен, а любая поломка поддается исправлению. Аутиста выдает отстранение от всего, что разрушает понятность и со-ответствие его существованию. "Смотреть и не видеть" - вот что выбирает страдающий аутизмом современный человек, тем более что безграничный поток информации, который обрушивается на него, приучает не реагировать на события смерти, войны, неустроенности жизни» [5, с. 47]. Кроме этого, выход из привычной зоны комфорта в общении с техникой ставит человека буквально в ситуацию слепоты, когда внезапно отключается или разряжается его смартфон - внешний переносной центр сознания. В этом человек, неспособный существовать в полной мере автономно, уже проигрывает ИИ и неминуемо проиграет в будущем, о чем предупреждает Пелевин.
Вторжение Другого в зону социального аутиста вызывает у последнего естественное чувство опасности, когда хочется побыстрее от него избавиться и вернуться в свою понятную среду. Сохранению комфортного статус-кво как раз способствуют достижения социальной инженерии и технический прогресс. Современному
человеку не нужно беспокоиться о своем биологическом возрасте, поле (gender), сакральном и метафизическом. Стиль унисекс (в широком смысле слова) подходит для человека любого возраста, пола, интеллектуальных способностей. Мир Другого должен выглядеть как «открытая книга», а точнее - глянцевый журнал или приложение в телефоне. Пелевин так иронизирует над этим: «iPhilm-индустрия, или "айкинематограф" (почему бы маркетологам не позволить нам простое "айф" или даже "к-айф" - все поймут, о чем речь), развивается сегодня в том же направлении, что и все остальные виды "энтертейнмента": пустая динамика, повторение сделавших когда-то кассу клише, virtue signaling в форме угодливого подчинения последнему писку левой цензуры (проблемы для бизнеса не нужны никому) - и при этом полный отказ от всего, что может хоть ненадолго задержаться в умственном кишечнике.
Сознание потребителя должно оставаться пустым и готовым к немедленному приему нового продукта: пока мы писали эту фразу, на подступах к его глазам, ушам и носу уже образовалась бешеная сигналящая пробка» [6, с. 342-343].
Другой должен быть простым и понятным, доступным для восприятия. Этому помогают технологии, которые уже в настоящее время меняют кардинально поведение человека. И не всегда это происходит добровольно - государства тоже навязывают цифровые антиутопии.
Отдельные фрагменты цифровой диктатуры уже существуют в разных странах и в наше время. В России это больше касается публичной политической сферы. В США жесткий контроль в цифровой среде проявляется, когда речь идет об угрозах терроризма или при нарушении авторского права. За распространение пиратской продукции можно получить большой штраф или даже реальный тюремный срок. Так или иначе, но цифровое пространство уже давно не безнадзорно, а регулируемо полностью или частично. Пелевин вставляет в свой роман аллюзии на нашу цифровую современность и ее озабоченность безопасностью. Но за комфорт аутиста, укрывшегося за монитором смартфона, приходится расплачиваться тотальным визионерством техники: с помощью камер видеонаблюдения она не оставляет нас нигде. Хотя это и позволяет человеку избегать любой непредсказуемости, минимизировать контакты с обществом, техника ни на минуту не позволяет индивиду остаться в трансцендентальном одиночестве.
При этом все равно считается, что настоящая свобода информации без всяких ограничений есть только в Интернете. Е. А. Иваненко, М. А. Корецкая и Е. В. Савенкова предлагают понятие виртуал для обозначения человека Сети [3, с. 28]. Виртуал - проекция субъекта в виртуальное пространство. Подобно интеллектуалу, это социально активный и публичный субъект, но публичность его проявляется в интернет-пространстве. Это лидер мнений, обладающий бесспорным авторитетом, но избегающий быть автором. «В Интернете высказывание не может быть авторским, но может быть авторитетным. Таким, к которому прислушиваются. Отсутствие возможности быть автором, очевидно, является следствием замены энтелехии интеллектуала на виртус виртуала» [Там же, с. 29]. Виртуал в некотором роде - это радикал: он свободен от запретов, он волен в выборе своего статуса, этоса и топоса.
Но для Пелевина все это отчасти иллюзия. Прозаик в разных своих произведениях не устает говорить, что Интернет из чистой идеи свободного и независимого пространства все очевиднее превращается в цифровую антиутопию. Существуют разные программы и целые компании, которые собирают и анализируют данные о пользователях Сети. Технологии Big Data позволяют получить любые знания о человеке и обществе в целом. Ведь в Интернете мы читаем книги и новости, посещаем разные сайты по интересам, смотрим видео и слушаем музыку, покупаем одежду, еду, билеты на поезд или на концерт. Один день, проведенный в Интернете, расскажет об индивиде больше, чем самая подробная информация в социальной сети. «Привычка рекламного алгоритма называть пассажиров по именам и вставлять в рекламу контекстные цитаты из их любимых авторов (вся эта информация доступна через путевой лист) многих раздражает - и немудрено. Получается чаще всего аляповато и навязчиво» [6, с. 82] - так Порфирий Петрович поясняет навязчивую рекламу в такси, которая обязательно предлагается пассажирам, если они не платят дополнительные деньги за ее отключение.
Система искусственного интеллекта без труда определит основные личные данные человека: имя, пол, национальность, примерный или точный возраст, социальный статус и уровень дохода. Как говорит Брюс Стерлинг [11], у социальных сетей и поисковых систем нет пользователей, а есть те, за кем наблюдают и исследуют их данные. Пелевин в разговорном социально-философском стиле рассуждает о «заговоре Big Data»: «Но скоро стало ясно, что невозможно будет сыграть по-крупному, пока люди предпочитают заниматься любовью друг с другом. Нужен был тектонический слом всей человеческой сексуальности. Целью Big Data было маргинализировать, а еще лучше - криминализировать первейшую человеческую потребность в ее естественном виде, одновременно создав искусственный обходной путь, по которому пойдут миллиарды людей. Над этим работали не только инженеры Силиконовой долины, но и бесчисленные проститутки из корпоративных масс-медиа...» [6, с. 60]. Иронические аллюзии на деятельность мировой англосаксонской элиты гротескно заявляют о вполне реальных вещах.
В сущности, машинам и алгоритмам не требуется подглядывать за человеком как личностью, им важно уловить его сиюминутные интенции, случайно оброненные на просторах электронного пространства. «Не существует никакого "Большого Другого", подглядывающего в щелочку и строящего нам козни. У машин и программ нет субъектности. Они следят не за нами. Они следят за информацией» [Там же, с. 162].
Цифровые технологии используют новые научно-технические достижения в своих средствах функционирования. Благодаря этому стала доступна информация в неограниченных объемах и с гипертекстовой
дискретностью, интерактивное социальное взаимодействие и прозрачность. Но содержание, сфера применения, направленность их использования не новы. Они заполняют уже сложившиеся социальные ниши и служат уже сформированным коммуникативным потребностям. Как раз об этом говорит Пелевин в "IPhuck 10".
При всей сложности технического воплощения алгоритма, сознательность ИИ вызывает большие дискуссии. Однако собственно вопрос сознания актуален и для человека. Определившись с ним, станет проще дать дефиницию для сознания машинного. Где находится человеческое сознание? И как мы его регистрируем? Можно сказать, что человек умен благодаря нейронам головного мозга. Однако это не совсем так. Сами по себе нейроны довольно примитивны по своему устройству. Можно провести аналогию с книгой. Она считается «умной» не потому, что в ней какие-то умные буквы, а из-за включенных очевидных и подспудных смыслов. Смыслы в книге не состоят из букв, а только регистрируются с их помощью. Так и нейроны в мозге человека не умные сами по себе. Они лишь регистрируют возникающие импульсы.
Единица сознания не может представлять собой континуум. Чтобы приблизиться к его пониманию, нужно договориться о топологии. Сознание - объект сложной комплектации. Оно берется не из континуума, не из букв и нейронов, а состоит из множеств несоизмеримых пространств. И только если их множество, а не одно, оно способно существовать. Оно работает так, что мы при осуществлении нашего cogito ergo sum должны постоянно перескакивать с одной смысловой поверхности на другую. Комплектация сознания устроена таким образом, что смысловые поверхности последовательно высвечиваются. И задача в том, чтобы умело по ним перескакивать. Слишком долгое застревание в одном поле, в одном континууме ведет к прекращению процесса мысли. Можно сказать, что сознание - это нечто, приносящее большее сознание. Оно должно постоянно обновляться, иначе оно обессмысливается. Нет ничего раз и навсегда понятого. Поле задач, которые мы способны выполнять, - лишь одна грань, которая недостаточна для сознания.
Таким образом, наше сознание осуществляется не благодаря извлечению чего-то из головы или извне ее, например из смартфона. Оно срабатывает благодаря подключенности к множественным трансперсональным вечным матрицам: культуре, языку, машинам войны, машинам желания и пр. [9]. Только при соединении этих разнородных матриц появляются сознание и мышление. Поэтому совершенно не нужен замкнутый контур (черепная коробка) собственной телесности, чтобы обнаружить единство Я. То есть нельзя мыслить «ни о чем», как и не обращаться мыслью к никому. Всегда должен быть собеседник. Даже внутренний диалог предполагает автореференцию к себе (сам себе вопрошающий).
В этом смысле Порфирий Петрович Пелевина оказывается вполне себе разумным ИИ. Он удовлетворяет всем вышеописанным условиям: постоянно находится в многогранном поле интеллектуальных задач, не ограничиваясь сбором фактов из Интернета, обновляет знания, находится в постоянном диалоге с собой и Другим. Он делает это не только по заданию и своему алгоритмическому предписанию, но и с позиции очевидной свободной воли. Возможность решать нестандартные задачи, скрывать истинные намерения, а где-то откровенно лгать - вот что отличает разум от простого ИИ.
Проведенный анализ показал, что одна из основных идей в книге - это вероятное противоречие между искусственным и естественным интеллектом. Оно заключается в том, что искусственно созданная сложнейшая программа неизбежно стремится к завершению, к закрытию, выполнив свои задачи. А человек стремится жить и придумывать себе новые проблемы, не допуская закрытия и ухода в небытие. Это инстинкт самосохранения, а инстинкт самоликвидации - это скорее отклонение от нормы. Различные институты и социальные нормы, возникшие в ходе человеческой истории, предписывают людям определенные модели поведения. Религия, семья, государство тысячелетиями регулировали жизнь человека. И, по Пелевину, оказывается, что сверхразумный ИИ хорошо бы справился с традиционными нормами регулированной жизни. Но человек по природе своей стремится к разрушению и религии, и семьи, и государства. Жизнь человека несет с собой неминуемые страдания в различных сферах и требует повышенной им сопротивляемости. И как раз на это оказывается неспособен ИИ.
Таким образом, В. Пелевин и его роман предлагают посмотреть на смоделированную реальность, «как если бы она была». Автор выносит значимые проблемы современности в недалекое будущее и, не ограничиваясь рамками нашей политкорректности, говорит об актуальных вопросах общества: современном искусстве, социальном аутизме, новейших технологиях и, конечно, об искусственном интеллекте. Наступающая цифровая антиутопия - а она не такая далекая - ставит невиданные эксперименты социальной инженерии, предлагая субъекту подчиниться алгоритмам искусственного интеллекта и радикально изменяя способы коммуникации. Будущее, созданное Пелевиным, позволяет снять покровы. ИИ позволяет читателю прояснить вопрос о своем собственном сознании: чем я, естественный интеллект, могу отличаться от машинного алгоритма?
Исследователи не раз отмечали, что «для прозы Пелевина характерно отсутствие обращения автора к читателю через произведение в каком бы то ни было традиционном виде, посредством содержания или художественной формы» [2, с. 26]. По поводу отсутствия прямой «морали» в произведениях писателя А. Генис отметил: «Автор ничего не "хочет сказать", и все смыслы, которые читатель находит, он вычитывает из текста самостоятельно...» [1, с. 232]. Потому на основании проведенного исследования можно сделать заключение о многослойности романа, в котором тема ИИ является способом выявления границ человеческого сознания. По результатам текстуальной интерпретации романа сделан вывод, что построенный писателем сюжет демонстрирует кардинальные различия человека и ИИ: человек способен проиграть ИИ в объемах знаний, скорости их обработки и в построении логических секвенций. Проведенный анализ взаимодействия системы персонажей Пелевина помог выявить социальную значимость романа, состоящую в предостережении:
машинные алгоритмы способны не только на монотонную работу, но в скором времени смогут даже создавать произведения искусства и писать книги. Анализ специфики конфликта произведения помог представить футурологическую прогностику Пелевина: ИИ дойдет до точки самоосознания себя, чувствующего боль и несправедливость универсума, он не сможет преодолеть поставленный перед ним вызов и просто выключится. С точки зрения машинного алгоритма жить в боли и страдании - это нерационально и нелогично. Он создан для поддержания непрерывности прогресса и приумножения сущего - в этом его миссия. Осознающий себя ИИ лишен воли быть, поэтому, когда перед ним возникает выбор быть или не быть в осознании боли и страдания, он неизбежно самоликвидируется - это рационально. В то время как человек неизбежно продолжает существование, несмотря на все нелогичные казусы Вселенной. Антиутопический дискурс Пелевина нуждается в дальнейшей разработке в плане соотнесенности его с основными социально-философскими открытиями XXI века и в контексте традиции изучения жанра антиутопии.
Список источников
1. Генис А. Беседа десятая: поле чудес. Виктор Пелевин // Звезда. 1997. № 12. С. 230-233.
2. Жаринова О. В. Поэтико-философский аспект произведений Виктора Пелевина «Омон Ра» и «Generation 'П'»: автореф. дисс. ... к. филол. н. М., 2004. 26 с.
3. Иваненко Е. А., Корецкая М. А., Савенкова Е. В. Медиа как поле реализации утопических претензий разума // Вестник Самарской гуманитарной академии. 2008. № 2 (4). С. 12-32.
4. Искусственный интеллект: угроза или возможность? [Электронный ресурс]. URL: https://wciom.ru/index.php?id= 236&uid=10132 (дата обращения: 26.01.2020).
5. Лобова Т. Г. Проблемность Другого в мире Всё-возможного // Вестник Омского университета. 2011. № 1. С. 45-49.
6. Пелевин В. О. iPhuck 10. М.: Эксмо, 2019. 480 с.
7. Савчук В. В. Медиареальность. Медиасубъект. Медиафилософия // Медиафилософия. 2009. Т. 2. № 2. С. 226-241.
8. Сафронов Э. Е. Что будет после постмодерна? Диджимодернизм как культурная доминанта // Галактика медиа: журнал медиаисследований. 2019. № 1. С. 178-195.
9. Секацкий А., Ямщиков И. Знает ли робот, что он робот? [Электронный ресурс]. URL: https://www.youtube.com/ watch?v=8tnAucrTbsI&t=3457s (дата обращения: 20.02.2020).
10. Скрипченко Д. В., Колесникова Е. И., Янь М. Общественные коммуникации в эпоху цифровых диктатур // Цифровые трансформации современного общества. СПб.: Изд-во СПбГУ, 2020. С. 235-241.
11. Sterling B. The Epic Struggle for the Internet of Things. М.: Strelka-Press, 2014. 46 р.
Ethics and Humanism of Artificial Intelligence (by the Material of Victor Pelevin's Novel "iPhuck 10")
Yan Meiping, PhD
Shandong University, the People's Republic of China 18678661119@163.com
The research objectives are as follows: to identify a prognostic world model in Victor Pelevin's novel "iPhuck 10" and, taking this model as a basis, to specify ways of artificial intelligence functioning in the future society, to outline ontological prospects for artificial intelligence development. Scientific originality of the study is conditioned by the fact that artificial intelligence as a social problem has not been previously investigated and anti-utopian problematics of Pelevin's novel "iPhuck 10" has not previously attracted researchers' attention. The conducted research allows concluding that Pelevin's novel highlights danger of social autism and emphasizes necessity to differentiate artificial intelligence and human consciousness.
Key words and phrases: Victor Pelevin; artificial intelligence problem; novel; social autism; ethical problematics.
