CC BY
11
ВЫЗОВЫ И УГРОЗЫ
УДК 005.334+17.023.33 JEL O33, Z13 DOI: https://doi.org/10.26425/2309-3633-2022-10-4-111-120
Получено: 19.09.2022 Статья доработана после рецензирования: 25.10.2022 Принято: 08.11.2022
Исследование возможностей управления трансгуманистическими рисками
Воронцова Юлия Владимировна1
Канд. экон. наук, доц. каф. управления в сфере культуры, кино, телевидения и индустрии развлечений ORCID: https://orcid.org/0000-0001-7995-6395, e-mail: [email protected]
Хиль Мартинес Мария Аделаида2
Старший преподаватель, ORCID: https://orcid.org/0000-0003-2868-3248, e-mail: [email protected] 1 Государственный университет управления, 109542, Рязанский пр-т, 99, г. Москва, Россия 2Институт Сервантеса, 28014, де Алькала ул., 49, г. Мадрид, Испания
Аннотация
В статье рассматривается актуальное отражение трансгуманистической концепции в различных областях научного знания. Эта концепция в последнее время вызывает неподдельный интерес и в силу своего направления, и в силу собственных противоречий. Дискуссия, развернувшаяся вокруг этого понятия, позволяет оценить все «за» и «против» реализации трансгуманистической идеи, требующей улучшения физического состояния человека за счет использования самых передовых технологий, среди которых важное место занимают биотехнологии. Их использование порождает контекстуальные социальные, экономические и политические проблемы. В этой связи необходимо исследовать процесс возникновения и развития трансгуманистических рисков, а также возможность управления ими на основе как традиционного, так и оригинального инструментария с учетом специфики трансгуманистического подхода. В статье авторами представлено исследование формирования трансгуманистических рисков, связанных с созданием и использованием искусственного интеллекта, а также представлены возможности управления рисками в трансгуманистическом пространстве. Угроза возрастает из-за набирающей обороты глобализации, взаимосвязанности и скорости изменения нашего мира. Эти тенденции в целом полезны, но представляют собой новые вызовы, в том числе новые виды трансгуманистических рисков, связанных с использованием искусственного интеллекта. Прогнозировать их сложнее, чем любые другие известные риски. Концептуальные варианты оценки ситуации, складывающейся в трансгуманистическом пространстве, в совокупности представляют собой новый вектор развития теории и практики управления трансгуманистическими рисками.
Ключевые слова: алгоритмизация, альтернатива, интеллектуальные технологии, искусственный интеллект, ки-беркультура, неопределенность, риски, русский космизм, сингулярность, трансгуманизм
Цитирование: Воронцова Ю.В., Хиль Мартинес М.А. Исследование возможностей управления трансгуманистическими рисками // Управление. 2022. Т. 10. № 4. С. 111-120. DOI: 10.26425/2309-3633-2022-10-4-111-120
© Воронцова Ю.В., Хиль Мартинес М.А., 2022.
Статья доступна по лицензии Creative Commons «Attribution» («Атрибуция») 4.0. всемирная http://creativecommons.org/licenses/by/4.0/
THREATS AND CHALLENGES
Received: 19.09.2022 Revised: 25.10.2022 Accepted: 08.11.2022
Exploring the possibilities of transhumanistic risk management
Yulia V. Vorontsova1
Cand. Sci. (Econ.), Assoc. Prof. at the Management in Culture, Film, Television and Entertainment Department, ORCID: https://orcid.org/0000-0001-7995-6395, e-mail: [email protected]
Maria Adelaida Gil Martínez2
Senior Lecturer, ORCID: https://orcid.org/0000-0003-2868-3248, e-mail: [email protected] 1 State University of Management, 99, Ryazansky prospekt, Moscow 109542, Russia 2Instituto Cervantes, 49, C. de Alcalá, Madrid 28014, Spain
Abstract
The article considers the actual reflection of the transhumanistic concept in various fields of scientific knowledge. This concept has recently aroused genuine interest both because of its direction and because of its own contradictions. The discussion that has unfolded around this concept allows to evaluate all the pros and cons of the implementation of the transhumanist idea, which requires improving the physical condition of a person through the use of the most advanced technologies, among which biotechnology occupies an important place. Their use generates contextual social, economic and political problems. In this regard, it is necessary to investigate the process of emergence and development of transhumanistic risks, as well as the possibility of managing them on the basis of both traditional and original tools, taking into account the specifics of the transhumanistic approach. In the article, the authors present a study of the formation of transhumanistic risks associated with the creation and use of artificial intelligence, as well as the possibility of risk management in the transhumanistic space. The threat is increasing due to the growing globalization, interconnectedness and the speed of change in the world. These trends are generally useful, but present new challenges, including new types of transhumanistic risks associated with the use of artificial intelligence. It is more difficult to predict them than any other known risks. Conceptual options for assessing the situation developing in the transhumanistic space together represent a new vector transhumanistic risk management theory and practice development.
Keywords: algorithmization, alternative, intelligent technologies, artificial intelligence, cyberculture, uncertainty, risks, Russian cosmism, singularity, transhumanism
For citation: Vorontsova Yu.V., Gil Martínez M.A. (2022) Exploring the possibilities of transhumanistic risk management. Upravlenie/Management (Russia), 10 (4), pp. 111-120. DOI: 10.26425/2309-3633-2022-10-4-111-120
© Vorontsova Yu.V., Gil Martínez M.A., 2022.
This is an open access article under the CC BY 4.0 license (http://creativecommons.org/licenses/by/4.0/)
Введение / Introduction
Конечный результат использования прорывных инновационных технологий на сегодняшний день характеризуется высокой степенью неопределенности как в производственной сфере, так и в общественном пространстве. В связи с этим возникает необходимость целостного понимания влияний и последствий современной научно-технической культуры в ее двойственных антропологических и социальных аспектах.
Интеллектуальные технологии играют важную роль в цифровой экономике. Они позволяют высвободить время сотрудника для решения других важных задач компании. Более того, они также могут быть использованы для оптимизации процессов выплат заработной платы сотрудников, взносов на социальное страхование, аренды офисов, поскольку люди могут работать удаленно, и так далее. Однако интересно рассмотреть уникальные возможности использования интеллектуальных технологий в глобальном масштабе.
Ни для кого не секрет, что темпы технологического прогресса ускоряются. Все указывает на то, что такое ускорение приведет к появлению мира супермашин, настоящей революции. По сути, технологические революции являются одним из самых важных событий для человечества, главным образом, из-за непредсказуемости их долгосрочных последствий как с точки зрения материального мира, так и с точки зрения их возможных последствий для общества и даже для самой человеческой природы. И именно в эту сторону направлены достижения в области науки и техники, оказывающие такое глубокое воздействие, что человеческая жизнь будет необратимо преобразована путем создания нового технологического мира, который может превзойти наши биологические корни и где будет возможно возникновение человека со сверхсознанием. С какими рисками это будет связано и какие при этом могут формироваться угрозы, сегодня трудно прогнозировать. Поэтому необходимо выработать умное отношение к технологическим инновациям сегодня для минимизации негативных последствий их применения завтра.
Методология / Methodology
В фокусе внимания авторов — сложные системы, которые предоставляют больше возможностей различным структурам для самоорганизации и расширения с учетом всех особенностей и трудностей. Индуктивно-дедуктивный, математический и экспериментальный методы являются центральным манифестом научной революции, последствия которой
наблюдаются на протяжении всего Нового времени. ХХ в. стал свидетелем демонстрации необычайной силы науки, благодаря ее применению в том, что сейчас называется «высокими технологиями».
Менее чем за сто лет технонауке удалось коренным образом изменить образ жизни людей. Кроме того, в прошлом веке произошли парадигматические изменения, и в связи с масштабом открытой области исследований были созданы новые дисциплины: современная генетика, квантовые теории и теория относительности, открытие графена, проводящих и сверхпроводящих материалов или литиевых батарей, категоризация Тьюринга теории алгоритмов, теории хаоса, катастроф и теории игр и прочее. Инженерное дело продемонстрировало свой технологический потенциал с началом исследования и освоения космоса, с применением спутниковой и мобильной связи, с телевидением и устройствами дистанционного управления, макро и микрокомпьютерами, водородной бомбой, сверхзвуковыми самолетами, атомными подводными лодками, дронами, биомедицинскими устройствами, высокоскоростными поездами, производством таблеток и сывороток, медицинскими технологиями с высоким разрешением и многими другими технологическими изобретениями. Все эти научные достижения привели к еще одному гигантскому шагу в области развития биотехнологий, информационных и коммуникационных технологий (далее — ИКТ), робототехники, оружия и транспорта, строительных технологий, нанотехно-логий и других.
Современные технологии оказывают прямое влияние на образ жизни общества и на саму природу. ИКТ напрямую влияют на человеческие знания. Большинство людей живет в техно-научном обществе, которое, с одной стороны, делает повседневную работу более комфортной, но, в свою очередь, и определяет способы работы в нем. Человек больше не может жить «нормально» без технологий, потому что они стали неотъемлемой частью его жизни. Отсюда и знаменитый термин «глобальная деревня». Человек через науку (тип знания, который обнаруживает причины явлений) несет ответственность за это технологическое расширение.
Несомненно, человеческое общество имеет много положительных сторон и демонстрирует поистине удивительные изменения. Но есть также явные симптомы многих проблем, на которые следует обратить особое внимание. Ситуации, которые кажутся ненормальными, начинают возникать все чаще и чаще. Конечно, не стоит обвинять в этом технонауку, но проблема может быть в том, как развивается наше общество. Оставляя в стороне
многие положительные аспекты жизни, следует уделить особое внимание негативным проявлениям, особенно в отношениях между технологиями и антропологией.
Передовые интеллектуальные технологии имеют тенденцию быть «чистыми» и эффективными, поскольку они позволяют значительно сократить потребности в ресурсах, виртуализируя некоторые инструменты. Низкоуровневый контроль вещества позволяет эффективно его перерабатывать, а биотехнологию можно рассматривать как «зеленую» альтернативу. Кроме того, с помощью различных экономически эффективных систем можно распределять и использовать рассеянные источники энергии. В долгосрочной перспективе предполагается, что те же самые интеллектуальные технологии будут использоваться для изучения новых и значимых областей (например, космоса или других инновационных технологий). В частности, рассматриваются предположения, что создание заводов в космосе и управление ими с Земли позволит планете очиститься и улучшит экологическую обстановку. Использование робототехники даст возможность предприятиям работать без учета человеческих ресурсов в том же масштабе, а это реальная экономия средств. Однако эти нововведения изменят картину мира, что приведет к таким рискам, как безработица, снижение уровня доходов и, как следствие, снижение потребительской активности населения. Круг замкнулся.
По мысли французского философа Э. Садина, с западного побережья США навязывается подлинное видение мира, основанное на техно-идеологическом постулате о существенном недостатке человека, который необходимо восполнить с развитием техники. Гибридизация человека с технологией обеспечивает новую антропологию в свете технологической индустрии. Так рождается новое общество, а другое умирает или остается позади. И, в свою очередь, с беспрецедентной исторической силой учреждается новая политика, основанная на алгоритмизации человеческих отношений. Никогда раньше не было возможности вычислить и предсказать человечество. По этой причине, как говорит Садин, мы стоим на пороге новой формы гуманизма, или антигуманизма, в котором лучший из всех возможных миров искусственно и совершенно исподтишка навязывается нам. Но это навязывание принимается и поощряется самими потребителями, которые бросаются в его оковы, написанные на бинарном языке, и любят их с подлинным стокгольмским синдромом [ваёш, 2016, с. 37].
Возможный будущий сценарий — это чрезвычайно быстрая (экспоненциальная) восходящая кривая в разработке и использовании технологий. Этот сценарий был назван «технологической уникальностью», так как он показывает стремительный непрерывный рост изменений, которые, согласно научным исследованиям, приведут к тому, что через 30—40 лет будет создан интеллект, превышающий человеческий. То же самое будет происходить с совершенствованием человека со скоростью, превышающей наше текущее понимание этого процесса (петля положительной обратной связи). Это сценарий, когда человечество резко перейдет к своему «постчеловеческому» состоянию.
Киберкультура рисует периметр нового человека. Он был объявлен еще во времена космической гонки между СССР и США. Отсюда и видение космизма, который артикулируется в трансгуманистических дискурсах с 1950-х гг., который переформулирует традиционный гуманизм, чтобы превзойти и преодолеть его. Киберкультура не останавливается и в настоящее время представляет возможности для навигации по сети «Интернет» (далее — «Интернет») с использованием технологии отслеживания взгляда, 3D-принтеров, технологии Leap Motion, которая позволяет прокручивать страницы экрана, не касаясь его, простым движением пальца и прочее. Виртуальный мир, рассматриваемый как набор цифровых кодов, представляет собой потенциал изображений, в то время как видение, демонстрируемое во время погружения в виртуальный мир, актуализирует этот потенциал в контексте конкретного использования. Эта диалектика потенциала, расчета и контекстного отображения характеризует большинство документов или информационных наборов с цифровой поддержкой. Виртуальная реальность сама по себе не является чем-то хорошим или плохим, как продукт технонауки. Преобразование, которое производит виртуальная реальность, не просто материальное или физическое — оно влияет на восприятие мира и образ жизни в нем в зависимости от наших знаний. Будущее знаний отмечено текущей культурой, так как сегодня общество живет высокотехнологичным образом, по крайней мере, значительная его часть.
Литературный обзор / Literature review
Трансгуманизм можно определить по-разному. М. Мор определяет его как философию жизни, которая стремится к продолжению и ускорению эволюции разумной жизни за пределами ее нынешней человеческой формы и человеческих ограничений с помощью науки и техники, руководствуясь
принципами и ценностями, способствующими жизни. Дж. Хаксли в своих трудах пишет, что человеческий род может, если пожелает, превзойти самого себя не просто спорадически — индивид здесь одним образом, индивид там другим образом — но целиком, как человечество. Н. Бостром говорит о трансгуманизме, как об исследовании пространства возможных трансчеловеческих и постчеловеческих модусов бытия. А А. Сандберг — как о продолжении ренессанс-ного гуманистического и просветительского проекта, применительно непосредственно к человеку1.
В последнее время трансгуманистическая деятельность вышла за рамки дискуссий нескольких ученых и становится движением с социальным, академическим и экономическим размахом. В университетской среде, например, «среди основных академических центров размышлений о трансгуманизме и совершенствовании человека следует особо упомянуть Институт будущего человечества и Центр частичной этики Уэхиро, оба находятся в Оксфордском университете и располагаются в одном здании, и оба тесно связаны друг с другом. Первым руководит Ник Бостром, частью его команды исследователей является известный трансгуманист Андерс Сандберг, а вторым руководит Джулиан Савулеску» [Dieguez Lucena, 2017, с. 39-40].
Влияние технологических корпораций и технологических филантропов на современное общество привело к тому, что трансгуманисты стали играть заметную экономическую роль. Есть те, кто, как например Люк Ферри, указывал, что деятельность крупных технологических компаний способствует трансформации человеческих привычек на социальном уровне, что влечет за собой изменение менталитета, которого требует смена антропологической парадигмы трансгуманизма [Ferry, 2016]. Этот трансгуманистический феномен французский философ называет уберизацией мира и определяет его как изменение, которое технологические компании навязывают экономике благодаря развитию управления «большими данными» в интернет-сфере. В своей книге «Трансгуманистическая революция» он размышляет, среди прочего, о масштабах трансгуманизма через цифровые технологии, которые играют ведущую роль в так называемой четвертой промышленной революции или Индустрии 4.0, которая является каналом распространения трансгуманистической культуры по всему миру.
1 Universidad Pontificia Comillas (2019). Transhumanismo. Desafíos antropológicos, éticos, jurídicos y teológicos [Видеозапись]. Режим доступа: https://www. youtube.com/watch?v=4pR4rATkgG4 (дата обращения: 01.09.2022).
Пространство, открытое Интернетом, превратило трансгуманистические дискурсы в конкретные факты. Это становится очевидным, когда ученые обнаруживают в академических дебатах по биоэтике, политической философии или в размышлениях о социальном воздействии технологий задачу, типичную для философии науки и техники.
Однако «парадокс в том, что именно технический прогрессивизм — условие возможности для этого нового человечества в процессе становления — несет с собой тысячелетний регресс, возврат к космической религиозности до христианства. Этот современный культ природы, который профессор Далмасио Негро определил как светские или политические религии и назвал биоидеологиями, представляет собой ассимилируемый возврат к сакрализации природы, господствовавшей с эпохи мегалита до конца языческой древности и устраненной с приходом христианства посредством величайшего процесса демистификации, который когда-либо происходил» [Postigo Solana, 2018].
Поэтому точность, необходимая для анализа теоретических оснований трансгуманизма и, в частности, технологической сингулярности необходима для прояснения лейтмотива возможной гегемонист-ской культуры первой половины XXI в. и анализа связанных с этим рисков.
Трансгуманизм несет в себе опасность отчуждения людей друг от друга и от своего рода. Нейронные сети — это алгоритмы, которые работают независимо от используемого оборудования, будь то органические углеродные единицы, такие как человек, или неорганические кремниевые единицы, такие как компьютер/киборг. Появятся разные способы получить суперинтеллект, в том числе, в результате технического воздействия человек может превратиться в сырье для производства сверхчеловека. Улучшения такого рода требуют переоценки всех базовых ценностей, особенно тех, которые связаны с защитой человеческого достоинства. Интеллект — это как «должно быть», а сознание — как «может». Если произойдет переход к мировоззрению, ориентированному на данные, и сила людей перейдет к алгоритмам, гуманистические цели здоровья и счастья будут потеряны.
В качестве альтернативы трансгуманистической концепции может выступать концепция русского космизма, которая даже в наиболее утопичных представлениях Н.Ф. Федорова связана с обязательной духовно-нравственной эволюцией. У сознания на электронном носителе нет ни духовного начала, ни нравственности. В сущности, нет ничего человеческого. Сознание живого человека невозможно свести ни к написанному тексту, ни к электронному носителю.
Связь знания с вечно воспоминаемым в изменчивом, чувственном мире П.А. Флоренский пояснял переводом греческого слова «аХлЭею» (истина) как «вечной памяти какого-то Сознания» [Флоренский, 1990]. Он считал, что существует «идеальное родство» мира и человека, их проникновение друг в друга, взаимосвязь. Он соотносит мир и человека как макро- и микрокосмос, который является образом и подобием Вселенной и несет в себе все, что существует в мире. И мир, и человек одинаково сложны и внутренне бесконечны, поэтому они могут быть рассмотрены как части друг друга. Мир — это биологически вселенское тело человека, есть раскрытие человека, его проекция. В этом суть космически-антропологического дуализма Флоренского.
Русский философ Сергей Булгаков в своих трудах разрабатывал идеи Софийного космизма. Булгаков говорит о том, что софийность — это главная смыслообразующая идея, соединяющая Человека с Космосом2. В его трудах проблема софийности рассматривается как вечная, уходящая далеко в историю, философская тема, но основная идея и устремления обращены к настоящему и будущему. София трактуется как универсальный космический принцип, вне которого возможен лишь акосмизм, то есть восприятие мира как бессмысленного хаоса.
Учение В. Соловьева о женском космическом начале было связано с его представлением о грядущем преображении человека через красоту, через творчество — в новом, высоком понимании его сути. Соловьев говорит об искусстве как о «теургии», то есть о сотворчестве человека и Бога, в процессе которого и достигается «всеединство».
К.Э. Циолковский — знаковая фигура в течении русского космизма; единственный из мыслителей, кто сам назвал свое гуманитарное творчество «космической философией». В своем учении он рассматривал разные аспекты: онтологию, гносеологию, антропологию, теорию техники, теорию общества.
В научном направлении русского космизма представлены эволюционные гипотезы. В.И. Вернадского, выделявшего процесс эволюционного совершенствования нервной системы и головного мозга в одно из важнейших эмпирических обобщений науки. Он полагал, что у человека будущего станут совершенней и его познавательные способности, и его нравственность: стадию ноосферы он связывал с духовно-нравственным совершенствованием человечества. В научном мировоззрении Вернадского жизнь
2 Булгаков С.Н. (1936). О Богочеловеке. Утешитель. Париж: УМСЛ-рге§8. Режим доступа: https://azbyka.ru/otechnik/Sergij_Bulgakov/ и1е8ЬМ-о-^ойе1оуейе8^е-йа8^/ (дата обращения: 20.08.2022).
в космосе изначальна: это третье начало наряду с материей и энергией. Тейяр де Шарден вместе с Владимиром Вернадским [Sequeiros, 2017, Вернадский, 2017] согласились, что Земля развивает глобальный разум. Этот планетарный слой мысли они назвали ноосферой. Интегрированная сеть пульсирующей жизни, от мерцания светлячков до человеческой электронной почты — это развивающийся планетарный ум. Вернадский определял ноосферу как биосферу, переработанную научной мыслью. Вернадский говорит об идеалах, уходящих в прошлое, и появлении «новой» морали. Он доказывает необходимость сохранения христианской морали, которая являлась основой государственной морали в христианских странах [Вернадский, 2004, Вернадский, 2017].
Речь идет о значении гуманитарной экспертизы научно-технологических проектов, гуманистически ориентированных ценностей и установок общества в эпоху стремительного развития высоких технологий. Философия русского космизма масштабностью видения проблем, опорой на представления о кос-мичности жизни и о «сердце» как особом психофизическом центре человека может способствовать решению проблемы высокого соприкосновения с инновационными технологиями.
Идеи русского космизма оказали заметное влияние на С.П. Королева. Огромные возможности организма человека будущего — победу над пространством и временем — предвидели и по-разному понимали русские космисты А.В. Сухово-Кобылин, Н.К. Рерих и Е.И. Рерих и другие.
В свою очередь, Н. Вита-Мор, которая относит себя к трансгуманистам, так рассуждает о трансгуманистической культуре, отличной от взгляда русских космистов: «Трансгуманистические искусства представляют собой эстетическую и творческую культуру трансгуманизма. Художники-трансгуманисты разрабатывают новые и разнообразные виды искусства. Наша эстетика и самовыражение сливаются с наукой и технологиями в дизайне растущего сенсорного опыта. Художники-трансгуманисты хотят продлить жизнь и победить смерть. Мы планируем сделать это с усиленной жизненной силой и творческим потенциалом. Основные эмоции для восприятия и понимания жизни. Мы практикуем трансгуманистическую экологию самосознания и ответственности за себя. Если наше искусство отражает то, кто мы есть, тогда мы выбираем быть трансгуманистами не только в наших телах, но и в наших ценностях. Трансгуманистические искусства охватывают творческие инновации трансгуманизма. Мы ярые активисты и стремимся к бесконечному
преобразованию человечества, победим смерть и исследуем вселенную. По мере того как на сцену выходит трансгуманистическое искусство, по мере того как инструменты и идеи нашего искусства будут развиваться, так будем развиваться и мы»3.
Характер текста прост, в нем нет углубления в трансгуманистическую мысль. Но это образец трансгуманизма как поп-арта, столь характерного сегодня, поскольку он широко распространен в средствах массовой информации благодаря аудиовизуальному контенту на стриминговых интернет-платформах. В этом смысле Вита-Мор опередила свое время, полагая, что трансгуманизм завоюет популярность настолько, что во втором десятилетии XXI в. станет предметом международных дискуссий. И нельзя упускать из виду, что ее роль в современной трансгуманистической культуре высока. Она продолжает быть постоянным гостем на трансгуманистических мероприятиях и в СМИ.
Поиски трансгуманизма — это, прежде всего, внутренний, ментальный путь, в котором трансформируются понятия, достигая переоценки ценностной и преодолевая нравственные ограничения, препятствующие пониманию трансгуманизма как нравственного долга. Трансчеловек — это тот, кто глубоко понимает заместительную роль человека в природе, чтобы довести ее до ее полноты. О. Хаксли сказал, что человек есть Слово, тот, кто приказывает слепой природе.
Трансгуманист Дж. Хаксли соотносил свои идеи с идеей космоса следующим образом: трансгуманизм становится не конкретной задачей усовершенствования человеческого рода, а космическим усовершенствованием, в котором главную роль играет человек как универсальный агент природы, он сознательный вершитель судеб всего сущего. Сознание индивидуумов характеризуется в этом видении мира фрагментами позднейшего космического сознания, которое проникнет во все уголки и закоулки реальности, чтобы наделить ее направлением, целью. Потому что трансгуманизм — это путь, в котором космос — универсальная и божественная субстанция — обретает самосознание, собирая и расширяя силу сознаний всех человеческих индивидуумов.
Возвышение или введение Духа в природу, в Отца, через Слово по-разному выражалось в традиции трансгуманистического вероучения. Дж. Хаксли называл веру в такое событие трансгуманизмом; для И. Хассана это возвышение было постгуманизмом;
3 Vita-More N. (2019). The Extropic Art Manifesto. Режим доступа: http:// www.arthistoryarchive.com/arthistory/contemporary/Extropic-Art-Manifesto. html (дата обращения: 29.08.2022).
М. Мор определил это как экстропию; Дж. фон Нейман в конце 1950-х гг. применил термин «сингулярность», придав ему технологический характер, который сохраняется и по сей день4.
Сингулярность в трансгуманизме представляет собой сублимацию космического процесса, руководителем которого является человек, и характеризуется началом деятельности постбиологического существа, космического сознания. Вопрос о homousios и тождестве Божественных Личностей становится предпосылкой сингулярности. Личностные особенности Божественной субстанции есть внутреннее движение всеобщих форм природы, выраженное последовательно и в историческом смысле. Последняя из этих форм — это то, что позже будет названо технологической сингулярностью, которая, помимо прямой связи с трансгуманистическими подходами, вдохновлена теологией Т. де Шардена.
Результаты / Results
Сейчас особенно актуален вопрос этического анализа деятельности индивида — нравственного измерения, являющегося неотъемлемой частью человеческой натуры. Действия людей влекут за собой непредвиденные последствия, и поэтому так важно проводить серьезную оценку перед их реализацией [Воронцова, Постиго Солана, 2019]. В связи с этим авторами предлагается концепция управления трансгуманистическими рисками, которые могут появиться в результате реализации концепции трансгуманизма, в срезе их допустимости/критичности/катастрофичности.
Любая деятельность в конкурентной среде цифрового пространства сопряжена с высокой степенью неопределенности. Поскольку эта неопределенность характеризуется различными факторами, цифровые риски, порождаемые этой неопределенностью, также имеют различные формы. Интеллектуальные технологии и их влияние образуют пространство риска, где при их практическом использовании всегда существует опасность принятия неадекватного решения [Kaplan, 2017].
Как и любое неоднородное множество, трансгуманистические риски можно классифицировать по различным признакам. Классификационный признак, являясь основной причиной возникновения риска, указывает на природу и/или характер его происхождения. Однако основное отличие трансгуманистических рисков от рисков вообще будет
4 Monterde Ferrando R. (2021). Génesis Histórica del Transhumanismo. Un análisis filosófico [Видеозапись]. Режим доступа: https://youtu.be/ GCvvdPY9Z1Y (дата обращения: 28.08.2022).
состоять в их антропогенном характере. Риски, связанные с использованием искусственного интеллекта, прогнозировать сложнее, чем любые другие. Рассматривая это направление, можно прийти к выводу о междисциплинарном подходе к оценке рисков и соответствующих им инструментах воздействия на их уровень. Одним из таких инструментов является биоэтика. Ее воздействие на уровень опасности от использования биотехнологий ограничивается зоной допустимого риска.
Если смоделировать «негативные» результаты с использованием параметров риска, то появится возможность очертить поле угроз, которое будет отражать вызовы цифровизации в рамках трансгуманистической тенденции. Формируя границы этого поля, можно говорить о зонах риска. Величина возможных предельных потерь в каждой из зон риска при использовании инновационных технологий характеризуется следующим:
• безрисковая зона — безопасная зона или зона, которая будет характеризоваться минимальной прибылью от использования интеллектуальных технологий (включают в себя инновационные биотехнологии, такие как молекулярные нанотехнологии);
• зона допустимого риска — использование интеллектуальных технологий с расширенным спектром (при снижении контроля в этой области);
• зона критического риска — внедрение инновационных технологий без учета последствий их использования, что создает угрозу для жизни живых организмов;
• зона катастрофического риска — глобальная катастрофа, следствием которой является уничтожение земной жизни.
Граница между зонами допустимого и критического рисков очень тонкая, а при трансгуманистическом подходе она вообще стирается. Поэтому так важно при использовании и особенно при внедрении инновационных технологий руководствоваться морально-этическими принципами. Однако в сознании человека, не ориентирующегося на христианские ценности, моральный аспект может рассматриваться по-разному: что общество не принимает сегодня, примет завтра, нужно только дать «разумное» объяснение (открыть дискуссию по данному вопросу) и укрепить в сознании людей, что это нормально, ориентируясь при этом на преимущества используемых инновационных технологий.
Шведский философ Н. Бостром в своей книге «Сверхразум: пути, опасности, стратегии» (англ. Superintelligence: Paths, Dangers, Strategies) пишет о рисках возможности появления сверхразумных машин как о последней проблеме, с которой
когда-либо сталкивалось человечество: «Пионеры искусственного интеллекта по большей части не допускали возможности того, что их предприятие может быть сопряжено с риском. Они не поднимали вопрос — не говоря уже о серьезных размышлениях — о каких-либо проблемах безопасности или этических сомнениях, связанных с созданием искусственных разумов и потенциальных компьютерных повелителей. Пробел, который поражает даже на фоне не столь впечатляющих стандартов критической оценки технологий той эпохи» [Bostrom, 2014, с. 5].
Концептуальные решения оценки ситуации в трансгуманистическом пространстве представляют собой новый вектор развития теории и практики управления трансгуманистическими рисками. Под диагностированием понимается процесс оперативного исследования состояния и развития ситуации для выявления определяющих особенностей; совокупности событий и факторов, в наибольшей степени характеризующих соответствующую зону риска, для максимально точного определения ее границ. При учете этого аспекта можно будет рассчитать временной интервал для принятия упреждающих мер по непопаданию в зону критического, а тем более катастрофического риска, выход из которой будет лежать в практике решений задач теории катастроф.
Сформулированная концепция и аналитико-диагностический поиск служат основой для дальнейшей разработки научно-методических положений и практических рекомендаций по диагностированию ситуации, складывающейся в трансгуманистическом пространстве (по каждой из зон риска). Таким образом, технический инструментарий приводит к радикальной трансформации и трансмутации профиля сущностей и Вселенной по сравнению с профилем, проистекающим из наших собственных возможностей, что, в свою очередь, предполагает постепенное угасание и параллельное преодоление антропоморфных, антропоцентрических и геоцентрических границ и символов традиционной техники и приводит к развитию нового разумного Логоса с новой рациональностью, новым образом мышления без врожденных ограничений.
Нужно стремиться к диалогу между философией и технологиями. Диалог, который, с одной стороны, очень необходим, а с другой — очень труден, поскольку каждая из этих сфер исходит из своих собственных интересов, что делает их примирение трудной задачей. Инновационные разработки могут кардинально изменить жизненный опыт и личное значение человека. По сути, научное развитие как социальный артефакт приобретает смысл только
в отношении отдельных действий, на которые опираются порождаемые такими действиями. С другой стороны, когда речь идет о аспекте человеческого достоинства, которое понимается как моральное условие, дающее, в частности, неотъемлемое право на уважение, не существует несовместимости с достоинством постчеловека, поскольку нет никаких оснований для отказа от него.
Человеческое творчество будет по-прежнему проявляться не только в технологическом мастерстве, но и в постоянной попытке заполнить жизнь и Вселенную. Обществу придется адаптироваться к будущим изменениям, как оно всегда адаптировалось к изменениям в прошлом, а вещи будут по-прежнему выглядеть как «обычные» для тех, кто живет в эпоху изменений. Таким образом, концепции будут изменены, и человечество войдет, почти не осознавая этого, в область сингулярности. Прогнозировать, будет ли это положительным или отрицательным фактором, довольно сложно. Возможно только внимательно наблюдать за происходящими изменениями, активно участвуя в дискуссиях и учитывая риски и угрозы от надвигающихся изменений для определения границ мониторинга сигналов о возможном наступлении критических последствий от принимаемых управленческих решений при развитии процесса цифровизации. Необходимо также объединяться для построения социальных и моральных ценностей, которые заставляют людей жить и действовать в соответствии с динамикой возникающей социальной системы. Более того, новое общество должно будет продвигать духовность, которая придаст смысл их жизни, создавая общие моральные ценности.
Заключение / Conclusion
Развитие экспоненциальных технологий должно подчиняться правилам игры демократического общества, чтобы основные права граждан не нару-
шались скрытно или под личиной полуправды. Исследование прорывных технологий, предполагает реальный риск для человека. То ли из-за отсутствия глубоких размышлений о последствиях, то ли из-за сознательного подчинения человека технологиям, это ведет к безудержному нигилизму, который ставит под контроль принципы, поддерживающие человеческую свободу.
В этой связи авторами была также рассмотрена концепция русского космизма, как альтернатива экзистенциальной пустоте трансгуманизма. В последнее время космизм стал носить глобальный характер, что затрудняет его понимание и отличие от трансгуманизма. Поэтому так важно обратиться именно к русским корням этого движения.
Подменяя природное техническим, трансгуманизм не дает полного представления о картине мира, не дает синтеза научных знаний и религиозно-нравственных прозрений. Любая попытка редуцировать познавательные способности человека к узко когнитивным способностям ставит человека ниже искусственного интеллекта.
Современная техника и технологии хотя и обладают огромным потенциалом, но в их отношении не стоит быть чрезмерно оптимистически настроенным. Необходимо ориентироваться на ответственные решения, учитывающие моральный аспект, серьезно относиться к возможностям, предоставляемым новыми технологиями, а также связанным с их реализацией рискам, заботясь таким образом о будущих поколениях. Следуя в этом направлении, можно сохранить человеческую природу от сомнительных попыток усовершенствования и, одновременно, продлить время жизни человека, наполненное глубоким смыслом.
Список литературы
Вернадский В.И. (2004). Биосфера и ноосфера. M.: Айрис-Пресс. 576 с.
Вернадский В.И. (2017). Философия науки. Избранные произведения. M.: Юрайт. 455 с.
Воронцова Ю.В., Постиго Солана Е. (2019). Природа человека, трансгуманизм и цифровая трансформация // E-Management. № 3. С. 58-63. https://doi.org/10.26425/2658-3445-2019-3-58-63
Флоренский П.А. (1990). Столп и утверждение истины. М.: Правда. 905 с.
References
Bostrom N. (2014), Superintelligence: Paths, dangers, strategies, Oxford University Press, Oxford, UK.
Diéguez Lucena A. (2017), Transhumanismo. La búsqueda tecnológica del mejoramiento humano [Transhumanism. The technological search for human improvement], Herder, Barcelona, Spain (in Spanish).
Ferry L. (2016), La revolución transhumanista [The transhumanist revolution], Alianza, Madrid, Spain (in Spanish).
Florensky P.A. (1990), Thepillar and affirmation of truth, Pravda, Moscow, Russia (in Russian).
Bostrom N. (2014). Superintelligence: Paths, dangers, strategies. Oxford: Oxford University Press. 345 p.
Diéguez Lucena A. (2017). Transhumanismo. La búsqueda tecnológica del mejoramiento humano [Трансгуманизм. Технологический поиск улучшения человека]. Barcelona: Herder. 248 s. (Исп. яз.).
FerryL. (2016). La revolución transhumanista [Трансгуманистическая революция]. Madrid: Alianza. 216 s. (Исп. яз.).
Kaplan J. (2017). Inteligencia Artificial, lo que todo el mundo debe saber [Искусственный интеллект, то, что должен знать каждый]. Madrid: Tell. 192 s. (Исп. яз.).
Postigo Solana E. (2018). El advenimiento del 'hombre nuevo' [Появление «нового человека»] // Telos [Телос]. Т. 109 (Исп. яз.).
Sadin É. (2016). La silicolonización del mundo [Силиколони-зация мира]. Buenos Aires: Caja Negra. 316 s. (Исп. яз.).
Sequeiros L. (2017). Teilhard de Chardin y la vida cósmica: cien años después [Тейяр де Шарден и космическая жизнь: сто лет спустя] // Pensamiento [Мысль]. Т. 73, № 276. С. 379— 403 (Исп. яз.).
Kaplan J. (2017), Inteligencia Artificial, lo que todo el mundo debe saber [Artificial intelligence, what everyone should know], Tell, Madrid, Spain (in Spanish).
Postigo Solana E. (2018), "El advenimiento del 'hombre nuevo'" [The advent of the 'new man'], Telos, vol. 109 (in Spanish).
Sadin É. (2016), La silicolonización del mundo [The silicoloniza-tion of the world], Caja Negra, Buenos Aires, Argentina (in Spanish).
Sequeiros L. (2017), "Teilhard de Chardin y la vida cósmica: cien años después" [Teilhard de Chardin and cosmic life: one hundred years later], Pensamiento [Thought], vol. 73, no. 276, pp. 379-403 (in Spanish).
Vernadsky V.I. (2003), Biosphere andnoosphere, Iris-Press, Moscow, Russia (in Russian).
Vernadsky V.I. (2017), Philosophy of science. Selected works, Urait, Moscow, Russia (in Russian).
Vorontsova Yu.V., Postigo Solana E. (2019), "Human nature, transhumanism and digital transformation", E-Management, no. 3, pp. 58-63, https://doi.org/10.26425/2658-3445-2019-3-58-63
