Научная статья на тему 'Кошмары и надежды сингулярности (заметки к дискуссии)'

Кошмары и надежды сингулярности (заметки к дискуссии) Текст научной статьи по специальности «История и археология»

CC BY
399
154
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
УНИВЕРСАЛЬНАЯ (МЕГА-) ИСТОРИЯ / ГЛОБАЛЬНАЯ ИСТОРИЯ / СИНГУЛЯРНОСТЬ / БУДУЩЕЕ / АТТРАКТОРЫ / СЦЕНАРИИ

Аннотация научной статьи по истории и археологии, автор научной работы — Назаретян Акоп Погосович

Тема грядущей «сингулярности» в планетарном развитии вызывает растущий интерес ученых, но часто полемика происходит без достаточной проработки концептуального и терминологического аппарата. Цель предлагаемых заметок ввести обсуждение в единый содержательный контекст, концентрируя его проблематику на реальных противоречиях, касающихся обозримой исторической перспективы.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Кошмары и надежды сингулярности (заметки к дискуссии)»

А. П. НАЗАРЕТЯН

КОШМАРЫ И НАДЕЖДЫ СИНГУЛЯРНОСТИ (ЗАМЕТКИ К ДИСКУССИИ)

Тема грядущей «сингулярности» в планетарном развитии вызывает растущий интерес ученых, но часто полемика происходит без достаточной проработки концептуального и терминологического аппарата. Цель предлагаемых заметок - ввести обсуждение в единый содержательный контекст, концентрируя его проблематику на реальных противоречиях, касающихся обозримой исторической перспективы.

Ключевые слова: Универсальная (Мега-) история, глобальная история, сингулярность, будущее, аттракторы, сценарии.

Поскольку я полагаю расчеты, приведшие ряд исследователей к выводу о грядущей развилке планетарной истории, чрезвычайно важными для понимания обозримых перспектив, постольку всегда рад приветствовать вовлечение в дискуссии по данному вопросу новых авторов. Вместе с тем приходится отметить, что при обсуждении темы нарастает вал терминологических, фактических и содержательных неточностей. Отчасти сказанное относится также к статье известного историка и философа А. М. Буровского.

Начну с терминологии, поскольку без согласованного языка ни читатели, ни сами участники дискуссий не могут друг друга стабильно понимать. Так, Буровский однозначно соотносит Большую историю с глобальной эволюцией, что не согласуется с нормой, установившейся в специальной литературе и энциклопедических изданиях (Мазур, Чумаков 2003).

При построении интегральной модели прошлого принято различать три предметных поля в соответствии с масштабами ретроспекции.

1. Универсальная (от лат. Universum - Вселенная) эволюция; соответственно, Универсальная, Большая история или Мегаистория. По современным оценкам, она насчитывает 13,85 млрд. лет (а не 18 млрд., как утверждает Буровский). Это максимально доступный сегодня горизонт ретроспекции, ограниченный Большим взрывом.

Историческая психология и социология истории 2/2018 113-123 DOI: 10.30884/ipsi/2018.02.03

Многие астрофизики полагают, что «наша» Вселенная (Метагалактика), как и прочие, представляет собой «возбужденное состояние вакуума», образованное взрывом черной дыры, причем сторонники авторитетного канадца Ли Смолина допускают целенаправленный характер взрыва с изначально заданными константами, обеспечившими последующее формирование органических молекул и жизни. Возможно, когда-нибудь будет поставлен вопрос о «Мультивер-сальной истории» (от Multiverse - Мультивселенная), хотя пока для спекуляций на эту тему решительно недостает оснований.

2. Глобальная (от лат. Globus - шар) эволюция и, соответственно, глобальная история охватывают временной диапазон порядка 4,5 млрд. лет. Ее предмет - последовательное становление и трансформации планетарных сфер, в процессе которых сначала усложняющаяся и повышающая свои «интеллектуальные» качества биота, а затем (особенно после неолита) культура принимали на себя роль лидирующих агентов эволюционного процесса. В последнее время накапливаются свидетельства того, что простейшая жизнь образовалась не на Земле: наша планета стала одним из космических тел, на которых локализовался процесс космической эволюции. Так, палеонтологи обнаружили первые признаки живого вещества, предшествующие появлению океана. Астробиологи выявили специфический класс бактерий, способных очень долго обходиться без воды, выдерживать жесткое космическое облучение и будто нарочно приспособленных для космических путешествий. Предполагается, что, раз возникнув, простейшие организмы за время порядка 240 млн. лет (один галактический год) «заразили» все доступные тела. Группа астрофизиков выдвинула еще более сильное предположение: в эпоху очень интенсивной космической бомбардировки жизнь заносилась на Землю неоднократно, но каждый раз погибала, и только после того как интенсивность метеоритного давления ограничилась, заброшенные в очередной раз организмы смогли надолго «угнездиться» на планете.

3. Всемирная история - история (иногда также предыстория) человечества, общества и культуры. Диапазон этого предметного поля сильно варьирует в зависимости от профессиональных интересов и установок исследователей - от 2,5 млн. лет (образование рода Homo и первых искусственных чопперов) до 10-12 тыс. лет (неолит), а то и 5-7 тыс. лет (городская революция).

Далее, автор приписывает изобретение термина «бифуркация» Н. Н. Моисееву, что выглядит странно для всякого, кто знаком с

историей вопроса. Мне посчастливилось тесно сотрудничать с Никитой Николаевичем в последние годы его жизни, и могу сказать, что до 1989 года он негативно относился к таким направлениям науки, как синергетика или теория диссипативных структур. Он неоднократно утверждал, что само понятие «устойчивого неравновесия» - нелепая мода, И. Р. Пригожин - дилетант, а его Нобелевская премия свидетельствует о том, что в Нобелевском комитете также правят бал дилетанты. Только после ознакомления с почти забытой у нас (но замеченной за рубежом) книгой Э. С. Бауэра (1935) он признал весь соответствующий понятийный аппарат работающим и стал активно им пользоваться. Готовность всемирно известного ученого на восьмом десятке лет изменить мнение по профессиональному вопросу делает ему честь, но не дает оснований считать его основоположником течения или создателем соответствующей терминологии. К числу же действительных заслуг Моисеева принадлежит легализация понятия «универсальная эволюция».

Утверждая, будто никто или почти никто не применял представление о сингулярности к прошлому, Буровский демонстрирует, что не все книги, на которые ссылается, он внимательно прочел. Например, в коллективной монографии (Eden et al. 2012) Р. Курцвейл показал, что все предыдущие фазовые переходы глобальной истории опосредованы сингулярными точками. Об этом же и я подробно писал в книге (Назаретян 2017), выдержавшей на настоящий момент четыре русских издания и переведенной полностью или частично на ряд иностранных языков. С долей гротеска можно сказать, что для примитивных экосистем криптозоя биосфера кембрия - такая же «постсингулярная реальность», как неолитические вождества для охотников-собирателей верхнего палеолита.

В целом неизбежность сингулярных точек эволюции доходчиво объясняют синергетические модели. Но для этого необходимо дополнить представленные А. М. Буровским (вслед за Э. С. Кульпи-ным) механизмы - «минимум диссипации энергии и способность системы к сопротивлению в ответ на внешний вызов» - по меньшей мере еще одним, столь же фундаментальным фактором. А именно: имманентно присущая материи активность на стадии устойчиво неравновесных состояний оборачивается неискоренимым стремлением к экспансии, овладению новыми территориями и источниками свободной энергии. На это обстоятельство указывал еще Ч. Дарвин, а Ф. Ницше назвал это волей к власти, присущей

всему живому. Поскольку же ценой за антиэнтропийную активность неравновесных систем становится накопление внешних энтропийных эффектов («жить значит разрушать»), рано или поздно ресурсы среды истощаются, естественно возобновимые источники свободной энергии и прочие условия жизнедеятельности превращаются в невозобновимые. Так, в соответствии с синергетическим правилом отсроченной дисфункции прежде наработанные антиэнтропийные механизмы становятся контрпродуктивными, чреватыми катастрофическими последствиями.

Отчего же периоды между драматическими «сингулярностями» последовательно сокращались? Среди прочих факторов следует учитывать и такой: чем сложнее и интеллектуальнее система, тем быстрее она пресыщается состоянием гарантированной устойчивости. Лабораторные эксперименты демонстрируют, как крысы, помещенные в самые благоприятные условия, по прошествии времени бегут из «рая», рискуя жизнью и выказывая симптомы страха. Эта функциональная тяга систем, далеких от равновесия, к острым переживаниям в синергетике названа провоцированием неустойчивостей. У людей она проявляется множеством иррациональных мотиваций (по А. С. Пушкину: «Всё, всё, что гибелью грозит, для сердца смертного таит неизъяснимы наслажденья»), вплоть до массовой катастрофофилии - иррациональной жажды «маленьких победоносных войн». Такие ментальные эпидемии играют огромную роль в социальной истории, регулярно обостряя политические и экологические напряжения (81о1еМук 1983; Сидоров 2016; Назаретян 2016). Замечание же Буровского о том, что люди всегда стремятся избегать экстремумов, к сожалению (или к счастью?), очень далеко от действительных человеческих мотиваций...

Кризисы, спровоцированные собственной активностью неравновесных систем, называют эндо-экзогенными, а на социальных стадиях эволюции - антропогенными. Это и есть те самые «сингулярности» экстенсивного развития, которые могут продуцироваться различными агентами и иметь самые разные масштабы. В крайне редких случаях они становились глобальными (по масштабу или по эволюционному значению), отразившись переломными пунктами как на геохронологической шкале, так и на шкале социально-исторического развития.

Важнее же всего то, что за каждой из глобальных «сингулярно-стей» события могли развиваться совсем иначе. Мы с моим старинным приятелем А. М. Буровским живем на этой планете благо-

даря тому, что здесь до сих пор за каждым глобальным кризисом следовали изменения в сторону вертикального странного аттрактора, т. е. устойчивость восстанавливалась на более высоком уровне неравновесия за счет дальнейшего усложнения и «интеллектуализации» системы - биосферы и затем антропосферы. Согласно же общесистемному принципу имплементации, во Вселенной должны существовать иные очаги эволюции, в которых реализовались альтернативные аттракторы и сценарии - планетарные системы либо быстро деградировали (простой аттрактор), либо развитие надолго «зависало» по модели колебательного контура (горизонтальный странный аттрактор) и постепенно сходило на нет.

Конечно, подобные эпизоды прослеживаются также в биосферной и антропосферной истории Земли. Так, 50-40 тыс. лет назад предки австралийских аборигенов далеко опередили прочие человеческие популяции в технологическом и духовном развитии. Они ранее всех научились передвигаться по воде, оставили самые первые наскальные изображения, производили орудия с полированной рукояткой и т. д. Но, надолго изолировавшись, прогрессивные австралийцы «зависли» и постепенно деградировали; на острове Тасмания они опустились до состояния, отчасти напоминающего чуть ли не шелльско-ашельский уровень технологий (нижний палеолит).

Почему эволюционные эпизоды такого рода оставались надолго уделом региональных структур, а планета в целом ушла так далеко в общем развитии - вопрос захватывающий. Здесь могло играть решающую роль счастливое стечение как собственно планетарных (уникальное сочетание размеров Земли, динамично менявшегося соотношения воды и суши, климатических условий и т. д.), так и космических обстоятельств. Например, в других зафиксированных астрономами планетных системах крупные планеты расположены ближе к светилу, чем мелкие, а в Солнечной системе по непонятной причине к центру примыкают мелкие планеты. Между тем расчеты показывают, что если бы гравитационное поле Юпитера не захватывало львиную долю тел, летящих в направлении Солнца, то космические катастрофы на Земле происходили бы в тысячу раз чаще (т. е. в среднем один раз не в 100 млн., а в 100 тыс. лет), и трудно сомневаться в том, что ее история сложилась бы иначе. Остается предметом гипотез и удивительно «своевременное» образование естественного спутника «нужных» размеров и

прочих параметров, что также сыграло решающую роль в развитии событий.

Чтобы предметно обсуждать эту тему, необходима как минимум подробная информация об эволюции на других планетах. Пока же нас интересует более животрепещущий вопрос: в чем особенность грядущей Сингулярности, из-за которой весь сыр-бор? Первым это понятие применительно к будущему мировой цивилизации использовал Дж. фон Нейман еще в 1950-х годах. Его друг и коллега С. Улам привел слова великого математика, сказанные незадолго до смерти: «Все ускоряющийся прогресс технологий и непрекращающиеся изменения в жизни людей... очевидно, приближают историю нашего вида к какой-то фундаментальной сингулярности, после которой знакомый нам человеческий мир не может продолжиться» (цит. по: Eden et al. 2012: 4).

В российской исторической науке идею подхватили Б. Ф. Порш-нев (не использовавший термин «сингулярность») и И. М. Дьяконов - и интерпретировали ее диаметрально противоположно. Порш-нев, в пику расхожим образам статичного светлого будущего («в Коммуне остановка»), доказывал, что с построением коммунизма социальное развитие, свободное от тормозов, продолжит бесконечно ускоряться, асимптотически приближая кривую ускорения к оси ординат. Дьяконов, напротив, был убежден, что с приближением к сингулярности темпы эволюции замедлятся (Поршнев 1966; Дьяконов 1994).

На стыке ХХ и XXI веков австралийский экономист и историк-глобалист Г. Снукс, российский физик А. Д. Панов и американский программист Р. Курцвейл независимо провели серию расчетов, добавивших очень существенные штрихи в общую картину. Оказалось, что, во-первых, режим ускорения распространяется в прошлое не на десятки, сотни или тысячи, а на миллиарды лет и, возможно, превышает срок существования Земли и Солнечной системы («второй рукав» универсальной эволюции). Во-вторых, ускорение происходило в соответствии с удивительно простой логарифмической формулой. Эти два обстоятельства делают картину обозримого будущего еще более драматичной.

Замечу кстати, что такая цельная картина помогает и дезавуировать некоторые забавные гипотезы относительно прошлого -например, поддержанную Буровским возможность сапиентизации динозавров. Для инструментального витка эволюции требовался не просто крупный мозг, но достаточно высокий коэффициент цефа-

лизации, какового анатомия ящеров обеспечить не могла. Кроме того, это нарушило бы стройную эволюционную гиперболу. Каждый фазовый переход мог произойти (или не произойти!) приблизительно тогда, когда он и произошел. В частности, регулярное производство искусственных орудий, кроме гоминидов, могли бы начать некоторые морские млекопитающие или, скажем, птицы семейства врановых, но для формирования таких «интеллектуальных» видов потребовались десятки миллионов лет после исчезновения ящеров, освободивших ниши для крупных животных с более высоким коэффициентом цефализации (Будыко 1984).

Итак, ускорявшийся в течение как минимум 4 млрд. лет (ограничимся историей Земли) ритм последовательного усложнения, по логике вещей, должен рано или поздно достигнуть предельного значения. Это уже несравнимо по последствиям с прежними, также весьма драматичными «сингулярностями» в истории Земли: последующие события не могут развиваться по тем же алгоритмам, по каким они развивались до сих пор. Согласно расчетам, грандиозного фазового перехода следует ожидать уже в обозримом будущем.

Далее уместно обсуждать сроки, формы ожидаемого перехода, аттракторы и сценарии дальнейшего хода событий. В моих публикациях представлены мыслимые варианты, ни на одном из которых я не настаиваю, пытаясь только выявить возможные причинные зависимости (поэтому, кстати, мне не вполне ясны и возражения другого моего оппонента, А. В. Коротаева). Буровский, вслед за Дьяконовым, Пановым (у которого, правда, позиция неоднозначна) и Коротаевым, использует вместо зависания эволюции - горизонтальный странный аттрактор - более комфортное понятие замедления. И рисует утешительную картину будущего, где жизнь станет благоприятнее для человека. К сожалению, однако, мы фиксируем обильную симптоматику того, что за «большой» Сингулярностью история антропо- и биосферы может повернуть вспять, в сторону необратимой примитивизации и превращения Земли в эквилибро-сферу - сферу термодинамического равновесия. Такое, конечно, могло произойти и на прежних стадиях (вспомним хотя бы середину прошлого века); тот факт, что прежде самые острые напряжения в истории природы и общества разрешались «прогрессивными» преобразованиями, обнадеживает, но сам по себе не гарантирует радужных перспектив.

Впрочем, и оптимальные сценарии не сулят человечеству идиллии. Опыт синергетического моделирования подсказывает, что

«прогресс» всегда был и остается выбором меньшего из зол: альтернативой очередному скачку в уровне сложности, интеллектуальности и устойчивого неравновесия на каждом этапе служила более или менее интенсивная деградация неравновесной системы. Но достаточно вспомнить, сколько бед человечеству несли, со своей стороны, неолитическая, промышленная и все прочие «революции», - и мы получим отдаленное представление о перспективах разрешения обостряющегося глобального кризиса. Отличие научного прогноза от утопии в том, что он всегда указывает цену, которую придется заплатить за успешное решение той или иной настоятельной проблемы. В нашем случае цена за выход на оптимальные (сохраняющие) сценарии развития выглядит беспрецедентной.

Буровский полагает прогрессирующую неспособность мозга и нервной системы справляться с современными нагрузками доводом в пользу неизбежного замедления эволюции. Между тем многие аналитики ссылаются на это обстоятельство в диаметрально противоположном контексте, как на свидетельство того, что биогенная эра универсальной эволюции завершается и ее ведущий агент -род Homo - подходит к исчерпанию своих эволюционных возможностей.

Такая догадка дополняется множеством иных соображений. Ограничусь указанием на то, что грандиозные достижения гуманистической культуры почти полностью заблокировали естественный отбор: еще в XVIII веке лишь один из трех родившихся в Лондоне детей доживал до пятилетнего возраста и только 20 % из них давали потомство в следующем поколении. Мы живем в эпоху небывалого развития гуманистической культуры, беспрецедентно повысившей ценность индивидуальной жизни. Но экспоненциальное накопление генетического груза приводит к неуклонному ухудшению «биологического качества» населения, особенно в передовых странах, так что каждое следующее поколение все более зависит от медицины, гигиены и прочих привилегий искусственной среды. При линейной экстраполяции наблюдающегося генетического вырождения обнаруживается, что уже во второй половине века инва-лидизация может затронуть мозг, так что на выходе текущего столетия станут преобладать олигофрены.

Этому процессу могут быть противоположены интенсивное развитие генной инженерии, внедрение электронных компонентов в белковую ткань, биочипов - в электронные сети и т. д. Формирование симбиозных форм интеллекта предполагает вторжение в са-

мые интимные основы бытия. Очередной и беспримерно крутой виток «удаления от естества» (продолжающегося уже сотни тысяч лет) сделает неизбежным радикальное переосмысление ключевых категорий культуры: человек, животное, машина, жизнь, смерть, бессмертие и многие другие. Включая, конечно, и категории демографии, после чего вывод (Капица 1999) о логистической кривой в динамике планетарного населения (с которым часто связывают перспективу замедления эволюции) придется критически переосмыслить, поскольку расчетной единицей перестанет служить «биосоциальный» индивид. Например, по мнению С. Н. Гринченко (2002), рост населения продолжится увеличением численности не людей как таковых, а «элементарных единиц» интегрированной социальной системы, включающей людей, системную память и операторов системной памяти. Со своей стороны, это могло бы послужить предпосылкой образования «живого космоса», о котором пишет королевский астроном Великобритании сэр Мартин Рис (см.: Каку 2011), и быстрого распространения антропосферы за пределы Земли.

Добавлю к этому еще одно нелицеприятное для «белкового» человека соображение. В лимбической системе мозга содержатся группы нейронов, ответственных за переживание ярости, страха и прочих негативных эмоций, и при длительном недостатке возбуждения их порог возбудимости снижается (Лоренц 2008; Barinaga 1992). Такова нейрофизиологическая подоплека неискоренимой функциональной потребности в острых переживаниях и социальных конфликтах - пресловутая катастрофофилия, которую культуре лишь частично удается сублимировать посредством искусства, ритуалов, спорта и прочих средств «виртуализации» (Назаретян 2009). С дальнейшим же развитием технологий, все более дешевых и доступных, в сочетании с размывающимися гранями между состояниями войны и мира, учащающиеся всплески катастрофофи-лии неизбежно разрушат планетарную цивилизацию (согласно закону техно-гуманитарного баланса, несоразмерность культурных регуляторов инструментальному потенциалу снижает внутреннюю устойчивость общества).

В преддверии фазового перехода сравнительно легко представить сценарии, сопряженные с простым аттрактором, - пути в направлении деградации и уравновешения системы с внешней средой. Для представления же деталей странного аттрактора с позиции прошлого недостаточно ни предметных сведений, ни языковых

средств. Это задача трудна даже для просветителя, пришедшего «из будущего», что хорошо знают, например, антропологи, пытающиеся рассказать охотникам-собирателям о земледелии и скотоводстве.

Все же воспроизведу один из шокирующих образов, прорисованный известным специалистом по глобальному прогнозированию В. Винджем. Развитие компьютерной сети и человеко-машинных интерфейсов, по его мнению, ведет не к искусственному интеллекту (Artificial Intelligence, AI), а к расширению интеллекта (Intelligence Amplification, IA), и по мере образования качественно новой реальности останутся в прошлом такие фетиши европейского рационализма, как личность и индивидуальное самосознание. Соответственно, в «сверхчеловеческом» мире изменится и трактовка бессмертия. Автору было бы эмоционально комфортнее отсрочить подобные трансформации на тысячи и миллионы лет (здесь с ним трудно не согласиться), однако в действительности счет идет на десятилетия, поскольку «сверхчеловечество - это сущность постсингулярности» (Vinge 2017: 358).

Разумеется, для нашего вменяемого современника подобные картинки выглядят таким же кошмаром, как для австралийского туземца - мегаполис. Но приходится признать, что переход к сверхчеловеческой реальности - тот самый прогресс как «меньшее из зол» и совершенно необходимая предпосылка для превращения разума, восходящего к земной эволюции, в космологически значимый фактор. Большим злом представляется «постсингулярная» реальность необратимо деградирующей (с той или иной интенсивностью) антропосферы, так что история Земли окажется расходным материалом универсальной эволюции, а сама Земля - локусом им-плементации одного из ее многочисленных тупиковых сценариев. Поэтому я охотно цитирую суждения астрофизиков о том, что живущие ныне люди составляют самое значительное из всех живших на Земле поколений: именно им суждено определить, завершится планетарная эволюция заслуженным крахом или даст начало новому направлению в эволюции Вселенной.

Я думаю, сегодня стратегическая задача научной прогностики -не рисовать сусальные картинки светлого завтра, где все будет подогнано под вкусы и удобство нашего современника (обреченного на скуку в совершенном мире?), а формировать у растущих поколений реалистичное мировоззрение, необходимое для вывода планетарной цивилизации на оптимальные, хотя и далеко не безоблачные сценарии развития.

Литература

Бауэр, Э. С. 1935. Теоретическая биология. М.: ВИЭМ.

Будыко, М. И. 1984. Эволюция биосферы. Л.: Гидрометеоиздат.

Гринченко, С. Н. Демографическая динамика как проявление социально-технологической метаэволюции человечества. Электронный журнал «Исследовано в России». URL: http://zhurnal.ape.relarn.ru/articles/2002/ 146.pdf.

Дьяконов, И. М. 1994. Пути истории. От древнейшего человека до наших дней. М.: Вост. лит-ра РАН.

Каку, М. 2011. Физика невозможного. М.: Альпина нон-фикшн.

Капица, С. П. 1999. Общая теория роста человеческого населения. Сколько людей жило, живет и будет жить на Земле? М.: Наука.

Лоренц, К. 2008. Так называемое зло. К естественной истории агрессии. В: Лоренц, К., Так называемое зло. М.: Культурная революция, с. 87-310.

Мазур, И. И., Чумаков, А. Н. (гл. ред.) 2003. Глобалистика: энциклопедия. М.: Радуга.

Назаретян, А. П.

2009. Виртуализация социального насилия: знамение эпохи? Историческая психология и социология истории 2(2): 150-170.

2016. Психология в социальном прогнозировании: еще раз о причинных зависимостях. Вопросы философии 7: 115-129.

2017. Нелинейное будущее. Мегаистория, синергетика, культурная антропология и психология в глобальном прогнозировании. М.: Аргамак-Медиа.

Поршнев, Б. Ф. 1966. Социальная психология и история. М.: Наука.

Сидоров, П. И. 2016. Ментальные эпидемии: виртуальные тени от исторических иллюзий, или когнитивная вирусология общественного сознания. Историческая психология и социология истории 9(1): 5-24.

Barinaga, M. 1992. How Scary Things Get That Way. Science 258: 887-888.

Eden, A. H., Moor, J. H, Seraker, J. H., Steinhart, E. (eds.). 2012. Singularity Hypotheses. A Scientific and Philosophical Assessment. Berlin; Heidelberg: Springer-Verlag.

Sloterdijk, P. 1983. Kritik der zynischen Vernunft. Bd. 1, 2. Frankfurt am Main: Edition Suhrkamp.

Vinge, V. 2017. The Coming Technological Singularity: How to Survive in the Post-human Era. From Big Bang to Galactic Civilization. A Big History Anthology. Vol. 3. Delhi: Primus Books, pp. 357-369.

i Надоели баннеры? Вы всегда можете отключить рекламу.