CC BY
68
Философия науки и техники 2019. Т. 24. № 2. С. 43-52 УДК: 168
Philosophy of Science and Technology 2019, vol. 24, no. 2, pp. 43-52 DOI: 10.21146/2413-9084-2019-24-2-43-52
От редакции
Автор этой статьи - Анатолий Ильич Ракитов (1928-2019) - немного не дожил до ее публикации. Анатолий Ильич был известным человеком: доктором философских наук, профессором, заслуженным деятелем науки РФ, одним из самых крупных в нашей стране специалистов в области философии и методологии науки и техники. Он опубликовал множество книг и статей по этой тематике, специально исследовал возможности применения информационного подхода в эпистемологии и философии науки, ввел в оборот понятие «компьютерная революция в философии». Он в течение многих лет работал в ИНИОН РАН, где несколько десятилетий руководил Отделом философии, а затем трудился главным научным сотрудником. Он создал и возглавил Центр информатизации, социально-технологических исследований и науковедческого анализа: ИСТИНА. В первой половине 1990-х гг. Анатолий Ильич вел активную политическую деятельность, являясь советником Б.Н. Ельцина по вопросам научно-технической политики, а затем заместителем руководителя Администрации Президента РФ. Это был незаурядный человек, обладавший многими талантами: исследователя, популяризатора, организатора и политика.
Ракитов Анатолий Ильич - доктор философских наук, профессор, заслуженный деятель науки РФ. Институт научной информации по общественным наукам РАН. Российская Федерация, 117218, г. Москва, ул. Кржижановского, д. 15, корп. 2; e-mail: rakit1@yandex.ru
По мере своего исторического развития общество, его культура и цивилизационные формы все в большей степени детерминируются структурой, содержанием и динамикой господствующих в нем технологий. С конца XX и в первой четверти XXI в. на передний план в глобальном масштабе выдвигаются детерминированные современной наукой нано-, био-, инфо-когнитивные технологии (NBIC). Они оказывают решающее влияние на модернизацию промышленности, сельского хозяйства, государственный
А.И. Ракитов
Философия и NBIC
© Ракитов А.И.
и коммерческий менеджмент, образование, сами научные исследования, организацию быта и профилирующих форм культуры. По-новому ставится вопрос о целенаправленном «усовершенствовании» и модернизации самого человека (проблемы евгеники и трансгуманизма). В связи с этим изменяются содержание и методы философского осмысления самой социальной реальности, происходят радикальные трансформации содержания естественно-научного и гуманитарно-антропологического понимания объективности. Результаты, получаемые в исследованиях по философии и методологии науки и техники, становятся все менее абстрактными, возрастает их практическая значимость, и они зачастую включаются в ткань решений, принимаемых на уровне государственной и корпоративной научно-технологической политики. Ключевые слова: NBIC, нано-, био-, инфо-, когнитивные технологии, технологическая детерминация общественного развития, радикальная модернизация промышленности, сельского хозяйства, здравоохранения, «усовершенствование» человека, евгеника, трансгуманизм, научно-технологическая политика
Банальные истины не лишаются своего смысла от того, что они банальные. Одним из таких утверждений, распространенных в научной, околонаучной и публицистической литературе, является мысль о том, что мы живем в переходном обществе. В трудах экономистов, социологов и футурологов речь часто идет о новом общественном укладе, радикальных, качественных, суперреволюционных изменениях в жизни всего человечества. Глубинную основу этих изменений часто маркируют аббревиатурой NBIC1. О том, что она означает, я как раз и собираюсь поговорить в этой статье.
Создатель и председатель Всемирного экономического форума профессор Клаус Шваб утверждает, что эти изменения возникают на основе происходящей сейчас четвертой промышленной революции, а в статье «Википедии», разъясняющей, что такое NBIC, утверждается, что эта конвергенция технологий, основанная на достижениях науки, составляет «гипотетическое ядро 6-го технологического уклада» [NBIC-конвергенция, web].
Стадию развития экономики и социума с момента, когда в середине прошлого века в глобальном масштабе начались радикальные социально-экономические, политические, общекультурные и цивилизационные изменения, многие крупные мыслители стали называть по-разному: постиндустриальное общество, общество знаний, общество образования, информационное общество. Я в одной из своих недавних статей предложил термин «постинформационное общество» [Ракитов, 2016]. Увы, ни одно из этих наименований не охватывает полностью суть происходящих изменений и не проникает глубже внешних контуров. Самое, пожалуй, настораживающее - это то, что в этом хоре разных голосов почти не слышно современных философов.
Недавно, просмотрев оглавление нескольких номеров различных философских журналов, я выяснил, что они наполнены десятками неплохих, иногда даже хороших статей о великих умах прошлого, о проблемах, волновавших эти умы сотни, а иногда и тысячи лет назад. Однако место, которое должны были бы занимать философские исследования современных и перспективных
В «Википедии» есть написание термина на кириллице - НБИК.
изменений, связанных с быстрым развитием NBIC, как правило, остается незаполненным. Здесь я попытаюсь хотя бы немного исправить это упущение.
Еще 20-25 лет назад, что для истории срок небольшой, этот термин не фигурировал в текстах публицистов, экономистов, ученых, деятелей образования и политиков, тем более его нельзя было найти в трудах современных философов. Расширение смыслового поля, в котором применяется термин <^В1С-конвергенция», было осуществлено в 2002 г. в Америке Михаилом Роко и Уильямом Бейнбриджем [Прайд, Медведев, 2008]. Так что же представляет собой это понятие? <^В1С-конвергенция» фиксирует интереснейшее, с точки зрения философии науки и техники, явление - органический (а не внешний чисто механический) синтез четырех научно фундированных технологий: ^ - нано; В - био; I - информационные; С - когнитивистика).
В прошлом, вплоть до глубокой древности, различные технологии часто взаимодействовали между собой, но органического слияния, т. е. процесса, когда одна технология не могла существовать без другой, как правило, не было. Сущность нанотехнологий состоит в манипулировании наноразмерными объектами и созданием из них наноразмерных же артефактов (нанометр = 10-9 метра). Артефакты такого микроскопического размера имеют различное применение: из них делаются лекарства, диагностическая медицинская аппаратура, некоторые медицинские имплантаты, внедряемые (когда это нужно и когда удается) в организмы животных и даже человека. Они используются при изготовлении некоторых деталей и механизмов в сфере информационных технологий и т. д.
Как правило, во всех значимых случаях нанотехнологии функционируют на базе информационных технологий, например, с помощью 3D-печати, что позволяет синтезировать не только фармакологические продукты, но даже создавать детали машин, крупные механизмы, продукты питания, донорские органы и т. д.
Во второй половине и особенно ближе к концу XX в. в научной, околонаучной и особенно научно-фантастической литературе было модно говорить о том, как радикально изменят мир информационные технологии, благодаря созданию искусственного интеллекта (ИИ), искусственного суперинтеллекта (ИСИ) и универсального человекоподобного интеллекта (УЧИ), превосходящих человеческий разум и целиком интеллектуализированных роботов и автоматов. Утверждалось даже, что системы таких роботов и автоматов сделают человечество ненужным, ибо они смогут выполнять все интеллектуальные и практические операции, которые сейчас выполняют люди. Но вот влияние нанотехнологий на жизнь общества в целом и на каждого человека в отдельности долгое время недооценивалось. А между тем знаменитый британский писатель-фантаст Артур Кларк, который широко цитируется в современной околонаучной литературе, не так уж давно утверждал: «2040 год: будет усовершенствован "универсальный репликатор", основанный на нанотехнологи-ях; может быть создан объект любой сложности при наличии сырья и информационной матрицы. Бриллианты и деликатесная еда могут быть сделаны в буквальном смысле слова из грязи. В результате за ненадобностью исчезнут промышленность и сельское хозяйство, а вместе с ними и недавнее изобретение
человеческой цивилизации - работа. После чего последует взрывное развитие искусств, развлечений, образования» [цит. по: Головин, web].
Здесь я считаю полезным несколько отвлечься от основной темы статьи и добавить следующее. Человечеству на протяжении многих десятков и даже сотен тысяч лет для поддержания своего существования приходилось заниматься тяжелым трудом, выполнять работы, требующие большой затраты физических и умственных сил. Поэтому вполне естественно, что за последние тысячелетия, когда сложились великие культуры и цивилизации осевого времени, многие мыслители разных стран и народов стали выдвигать теории о наступлении эпохи всеобщей свободы, когда человек избавится от тяжелой работы и, пожалуй, работы вообще. А. Кларк в приведенной цитате говорит, что это будет время, когда все духовные силы людей будут направлены на развлечения, искусство и образование.
В различных модификациях теории марксизма, оказывавших и еще продолжающих оказывать определенное влияние на социальные процессы в ряде стран, утверждалось, что конечной целью человечества должно стать освобождение от тяжелого и изнурительного труда и достижение благополучия и свободы. Это, по мнению теоретиков марксизма, позволит людям заниматься духовным творчеством, посвящать себя развлечениям, искусству и образованию, да и вообще значительную часть времени тратить на интеллектуальную деятельность: науку, изобретения и т. д. Здесь следует заметить, что далеко не все люди способны заниматься духовным творчеством и интеллектуальной деятельностью, как точно так же далеко не все способны работать с инновационными технологиями в сфере образования.
Высшая интеллектуальная и духовная деятельность, по моему убеждению, удел немногих, как и не все способны создавать что-нибудь ценное и интересное в сфере искусства и развлечений. Поэтому вопрос, кому и зачем нужен основанный на грядущих достижениях нанотехнологий и заполненный сплошными развлечениями, художественным творчеством и образованием мир, нуждается в продуманном философском обсуждении.
Еще более непростой является проблема с эффективностью, значимостью и обещаемыми грандиозными достижениями в области современных биотехнологий. Вообще говоря, люди давно занимаются биотехнологиями. Человечество после перехода от присваивающей и собирательной деятельности к земледельческой и скотоводческой постоянно совершенствовало эти виды производства, проводя определенные работы по селекции и выведению наиболее урожайных видов сельскохозяйственных растений, наиболее выгодных пород домашних животных, но это происходило крайне медленно.
В Новое время с началом применения химических удобрений, в связи с совершенствованием методов селекции и гибридизации сельскохозяйственных животных и растений роль биотехнологий в сельском хозяйстве, производстве продуктов питания и здравоохранении существенно возросла.
«Процесс производства, - писал в свое время Маркс, - всё более выступает не как подчиненный непосредственному мастерству рабочего, а как технологическое применение науки» [Маркс, 1980, с. 214]. Данное утверждение целиком относится и к биотехнологиям. Если нанотехнологии в основном
опираются на достижения физики, то биотехнологии представляют собой синтез, конвергенцию ряда биологических, химических и физических дисциплин, таких как: органическая и неорганическая химия, генетика, молекулярная биология, биохимия, эмбриология и клеточная биология, а также прикладных дисциплин - информационные технологии и робототехника.
Во второй половине XX и особенно в XXI в. стала формироваться новая научно-инженерная дисциплина - генная инженерия. Ее задачей является использование достижений биотехнологий для модификации уже существующих и даже создания новых живых организмов и их фрагментов. Особенно впечатляющими являются попытки «усовершенствования» человека.
Уже давно некоторые философы, врачи, ученые и даже богословы, в отличие от ортодоксальных интерпретаторов Библии, считали, что Бог создал человека не вполне совершенным. В самом деле, как Бог и воплощенное в нем абсолютное добро могли допустить, что Каин, сын Адама и Евы, мог убить родного брата Авеля.
Вся история человечества, известная нам, свидетельствует, что люди совершали не только злые, но и вредные, просто бессмысленные поступки, приносившие им и в индивидуальном, и в социальном планах много вреда. Если так, то нельзя ли «усовершенствовать» человека? Сделать его умнее, добрее, здоровее, превратить в долгожителя и даже добиться бессмертия, а также наделить его даром прямого духовного общения, возможностью передачи мысли без использования языка или материальных артефактов.
В конечном счете размышления подобного рода привели к возникновению евгеники и трансгуманизма, то есть некоторых интеллектуальных течений, цель которых - создание более совершенного человека и даже изменение самого общества средствами генной инженерии, целиком опирающейся на достижения биотехнологий.
К числу важнейших и наиболее популярных целей евгеники и трансгуманизма относятся:
- улучшение умственных способностей человека путем воздействия на нейрофизиологическую и клеточную структуру мозга при помощи биологических и химических инструментов, а также посредством постоянного взаимодействия человеческого мозга с вычислительными информационно-технологическими устройствами;
- победа над старением людей;
- подготовка условий для криогенной заморозки живого человека и его мозга, чтобы по прошествии многих лет, когда наука и техника это позволят сделать, разморозить и обеспечить продление жизни, а может быть и бессмертие;
- создание новых методов репродукции (пробирочная эмбриология), стремящихся к тому, чтобы эмбрион человека развивался не в теле матери, а в искусственно созданных устройствах, позволяющих формировать человеческий зародыш с заранее заданными свойствами;
- наконец, создание безгендерного общества, в котором не будет половых различий между людьми, исчезнут соответствующие органы и выполняемые ими процессы. При этом, конечно, изменится не только биологическая
и психологическая структура человека, но и культура, все культурные ценности, а многие исторические процессы и феномены будут казаться генно-моди-фицированным людям просто не имеющими смысла.
В романе М. Горького «Жизнь Клима Самгина» описывается эпизод, когда одна из героинь после первого в жизни сексуального контакта испытывает страшное разочарование и спрашивает своего партнера: «И это то, ради чего погибли Ромео и Джульетта?» Но ведь именно гендерные отношения открывают сюжетную линию «Илиады» Гомера, они организуют фабулу «Анны Карениной», «Мастера и Маргариты» и большинства произведений литературы, особенно поэзии, живописи, крупных музыкальных произведений, а также лежат в основе обычных бытовых отношений, на которых строятся и распадаются семьи во всех известных нам культурах и цивилизациях.
Здесь будет уместно задать вопрос: «Кому и зачем нужны генно-модифи-цированные организмы?» Если говорить о генно-модифицированных растениях и животных, то ответ на вопрос «зачем это нужно?» лежит как бы на поверхности. Генно-модифицированные организмы (ГМО) дают больший урожай, животные становятся крупнее, прибавляют в весе и т. д.
В середине XX в. один американский фермер мог прокормить 19 человек, к началу же XXI в результате применения ГМО - уже около 155 человек [Пан-чин, 2016, с. 26-27].
Теперь я считаю полезным остановиться на проблеме информационных технологий и всеобщей цифровизации, поскольку эти технологии входят в состав НБИК-конвергенции и играют в ней, пожалуй, главенствующую роль.
Информационные технологии не только в человеческом обществе, но и в природе вообще отнюдь не новинка. Знаменитый энтомолог, лауреат Нобелевской премии К. фон Фриш и многие другие доказали, что интенсивные процессы выработки, передачи, переработки и использования информации являются необходимой составляющей в жизнедеятельности не только высших, но и низших животных. Прекрасным подтверждением сказанного являются знаменитые, изучавшиеся Фришем и другими энтомологами, танцы пчел, с помощью которых опытные насекомые передавали молодым, только что вылупившимся пчелам информацию о месторасположении медоносных полей. Однако никакой искусственно созданной информационной технологии ни пчелам, ни другим животным не требуется. Производителями, носителями и передатчиками данных в животном мире являются сами живые организмы. В человеческом обществе информация и основанные на ней знания могут отчуждаться от живого организма, от вырабатывающего их человеческого мозга, и средствами этого отчуждения являются специально созданные для этого артефакты или элементы природы, используемые для производства, трансляции и хранения информации. Примером этого рода может служить наскальная живопись, сохранившаяся в пещерах, в которых жили первобытные люди, или мегалитические сооружения (например, Стоунхендж в Англии), оставшиеся от позднекаменного, а быть может, раннего бронзового века. Однако наскальные рисунки, так же как и Стоунхендж, не имели самодовлеющего характера, а были своего рода посредниками в реализации охотничьей или культовой деятельности.
Информационные технологии в истинном смысле слова появляются с возникновением цивилизации. Это, прежде всего, орудие письменности, инструменты и материалы для письменности, изготавливавшиеся для хранения и трансляции информации и знаний. Отличительная черта современных информационных технологий состоит в том, что информация и знания не только хранятся и передаются с помощью машин, но и этими машинами создаются, причем в объемах и со скоростями, недоступными человеку.
В настоящее время ведутся работы по созданию экзафлопсных суперкомпьютеров, способных выполнять квинтиллион операций в секунду. Такие компьютеры, снабженные соответствующими программами, смогут не просто соперничать с человеческим интеллектом, но и в некоторых случаях превзойти его. Более того, вполне реальным становится допущение, что они смогут заниматься самопрограммированием, и тогда производство роботов, оснащенных силиконовыми мозгами, начиненными ИСИ и УЧИ, из мечты станет реальностью.
Уже сейчас наиболее развитые в техническом и научном отношении страны вступили в гонку за создание высокоинтеллектуальных промышленных роботов. В каком-то смысле производство подобных роботов является показателем уровня научно-технической развитости. Лидирующей страной является Южная Корея, затем идут США, Германия и другие. Россия, к сожалению, в этом отношении находится в последнем ряду. А. Росс приводит данные, согласно которым в 2016 году «...количество промышленных роботов, производимых в Южной Корее, стране с населением в 50 миллионов человек, в несколько раз превышает таковое в Южной Америке, Центральной Америке, Африке и Индии, вместе взятых, чья общая численность населения достигает 2,8 миллиарда» [Росс, 2017, с. 40-41].
Данные о производстве высокоинтеллектуальных роботов в середине второго десятилетия XXI в. показывают, что помимо неравенства богатства возникает новый вид неравенства - в производстве новейших робототехнологий. Это, по существу, означает создание и закрепление нового вида общественного неравенства, которое может привести к политическим, цивилизационным и культурным конфликтам и напряженностям. Во всяком случае, роботизация промышленности и других сфер человеческой деятельности может оказаться не панацеей от нынешних бед, а в каком-то смысле механизмом их усиления. Это одна сторона развития информационных технологий в целом и роботизации в частности. Сторона, так сказать, темная. Но в соответствии с законами диалектики есть и другая сторона - светлая.
Создание роботов разного назначения и разных степеней интеллектуализации на сегодняшний день чаще всего оказывается практически полезным и выгодным в экономическом, социальном и бытовом смыслах. В развитых странах уже сейчас роботы широко используются в строительстве на тяжелых погрузочно-разгрузочных работах, в шахтах, при осуществлении подводных операций и т. д. Однако роботы задействованы и в более деликатных процессах, например при осуществлении хирургических процедур, проведении диагностики больных и т. д.
В России в последнее время все чаще раздаются призывы к цифровиза-ции всех видов общественной деятельности: от всех уровней образования
до создания так называемого электронного правительства. В 2018 г. ректор НИУ ВШЭ Я.И. Кузьминов заявил, что университет в ближайшем будущем начнет интенсивно заменять традиционные устно-читаемые лекционные курсы программами онлайн-обучения. Энтузиасты цифровизации подобные проекты только приветствуют. Однако имеются и скептики, указывающие на то, что даже в США университеты, в которых преобладают онлайновые курсы, начинают отказываться от подобной сплошной цифровизации, так как она приводит к потере контакта между профессорами и студентами. Это неблагоприятно сказывается на усвоении последними знаний, приобретении навыков исследовательской деятельности, профессионального общения и научных дискуссий. Я не берусь утверждать, кто прав в спорах вокруг цифровизации образования, но вижу в них серьезную философскую проблему, так как от ее правильного решения зависит уровень и качество интеллектуальной жизни общества в целом. Что же касается использования систем искусственного интеллекта и интеллектуализированных роботов в быту, в офисах различных учреждений и организаций, в больницах для ухода за лежачими больными и в других сферах общественно-бытовой деятельности, то здесь, я полагаю, при продуманном и осторожном подходе использование подобных роботов может оказаться не только полезным, но иногда и более предпочтительным, чем, скажем, привлечение к подобной деятельности живого, достаточно подготовленного человека. Роботы не спят, не требуют выходных и пищи, не утомляются.
Информационные технологии вместе с основанными на них современными средствами связи могут решить много важнейших проблем. Например, открыть доступ к книгохранилищам, находящимся в других странах и даже на других континентах. С их помощью можно намного быстрее выполнять различные проектно-инженерные работы, производить сложные вычисления, особенно когда речь идет о массивах больших данных, с которыми все чаще приходится сталкиваться ученым-исследователям, проектировщикам и конструкторам различных изделий, но особенно важно подчеркнуть, что информационные технологии практически всегда используются при осуществлении упоминавшихся выше нано- и биотехнологических процедур.
Наконец, я хочу коснуться последней буквы в аббревиатуре NBIC, обозначающей в данном случае термин «когнитивистика», «когнитивная наука», а иногда «когнитология». На самом деле когнитивистика - это не одна наука, а система, возникающая в результате синтеза результатов и исследовательских методов ряда научных дисциплин, таких как: психология, гносеология, нейрофизиология, лингвистика, невербальная коммуникация и т. д. Если задать без лишних хитростей вопрос, чем занимается когнитивистика, каковы ее основные цели и задачи, то в самом общем виде ответ звучит так: она стремится изучить, понять и описать, что такое мыслительная деятельность, что такое мышление, что такое сознание, как они устроены, каково их соотношение с мозгом человека и могут ли они существовать и функционировать вне и без мозга, реализуясь на других материальных носителях, например на компьютерах. Положительный ответ на этот вопрос позволил бы утверждать, что сознание как индивидуальное, так и общественное могут существовать без человека,
вне и независимо от него, и это, конечно, совершенно по-новому заставило бы посмотреть на всю философию.
Полтора столетия назад Ф. Энгельс писал, что основной вопрос философии - это вопрос соотношения сознания и материи. И если когнитивистика позволит утверждать и докажет экспериментально, что сознание может быть отделено от мозга человека и «пересажено» в компьютер, то многие философские проблемы просто потеряют всякий смысл. Вот почему я считаю, что современным философам не столь важно ответить на философские вопросы, которые обсуждали Платон и Аристотель, сколь необходимо изучить соотношение современной философии и NBIC и те проблемы, что в научном и культурно-образовательном отношении следуют из этого понимания.
Список литературы
Головин, web - Головин Ю.И. Нанотехнологическая революция стартовала! URL: http:// www.abitura.com/modem_physics/nano/nano2.html (дата обращения: 10.12.2018).
Маркс, 1980 - Маркс К. Экономическо-философские рукописи 1857-1861 года. В 2 ч. Ч. 2. М.: Политиздат, 1980. 619 с.
Панчин, 2016 - Панчин А. Сумма биотехнологии. Руководство по борьбе с мифами о генетической модификации растений, животных и людей. М.: АСТ, 2016. 432 с.
Прайд, Медведев, 2008 - Прайд В., Медведев Д.А Феномен NBIC-конвергенции: Реальность и ожидания // Философские науки. 2008. № 1. С. 97-117.
Ракитов, 2016 - Ракитов А.И. Постинформационное общество // Философские науки. 2016. № 12. С. 7-19.
Росс, 2017 - Росс А. Индустрии будущего. М.: АСТ, 2017. 352 с.
NBIC-конвергенция, web - NBIC-конвергенция // Интернет-энциклопедия «Википе-дия». 2018. URL: https://ru.wikipedia.org/wiki/NBIC-%D0%BA%D0%BE%D0%BD%D0%B2% D0%B5%D1%80%D0%B3%D0%B5%D0%BD%D1%86%D0%B8%D1%8F (дата обращения: 10.12.2018).
Philosophy and NBIC
Anatoly I. Rakitov
Institute for the scientific information on social sciences, Russian Academy of Sciences. 15, corp. 2, Krjshijshanovscky Str., Moscow, 117218, Russian Federation; e-mail: rakit1@yandex.ru
On the way of its historical development human society, its culture and forms of civilization are determined at a higher degree by structure, content and dynamics of dominating technologies. Since the end of the 20th century and at the beginning of the 21th century on the front line of the technological development modern science put forward NBIC (nano, bio, info, cognitive) technologies. These technologies influence crucially the modernization of industry, agriculture, state and commercial management, education, the mere scientific researches, mode of life and trends of culture. In the new form emerges the question of improving and even modernizing of man itself i.e. the problem of eugenics and transhumanity. That is why the mere content and methods of philosophical discussion on the social reality has changed and radical transformations of the content of natural scientific and anthropologic and humanitarian comprehension of objectivity emerges. The results of philosophical and methodological researches of science and technology became less abstract and their
pragmatic significance grew. They often are included in the content of decisions which are taken on the level of state and corporative policy.
Keywords: nano-, bio-, info-, cognitive technologies, technological determination of social development, radical modernization in all spheres of production, "the man perfection", eugenics, transhumanity, science-technology policy
References
Golovin, Yu.I. Nanotekhnologicheskaya revolyuciya startovala! [Nanotechnology revolution has started!] [http://www.abitura.com/modern_physics/nano/nano2.html, accessed on 10.12.2018] (In Russian)
Marx, K. Ekonomichesko-filosofskie rukopisi 1857-1861 goda [Economic Manuscripts of 1857-61], vol. 2. Moscow: Politizdat Publ., 1980. 619 pp. (in Russian)
NBIC-konvergenciya [NBIC], Wikipedia [https://ru.wikipedia.org/wiki/NBIC-%D0%BA% D0%BE%D0%BD%D0%B2%D0%B5%D1%80%D0%B3%D0%B5%D0%BD%D1%86%D0% B8%D1%8F, accessed on 10.12.2018] (In Russian)
Panchin, A. Summa biotexnologii. Rukovodstvo po bor'be s mifami o geneticheskoj modi-fikacii rastenij, zhivotnyx i lyudej [The amount of biotechnology. A guide to combating the myths about the genetic modification of plants, animals and people]. Moscow: AST Publ., 2016. 432 pp. (In Russian)
Pride, V., Medvedev, D.A. "Fenomen NBIC-konvergencii: Real'nost' i ozhidaniya" [NBIC Phenomenon: reality and expectations], Filosofskie nauki, 2008, no. 1, pp. 97-117. (In Russian)
Rakitov, A.I. "Postinformacionnoe obshhestvo" [Postinformational society], Filosofskie nauki, 2016, no. 12, pp. 7-19. (In Russian)
Ross, A. Industrii budushhego [The Industries of the Future]. Moscow: AST Publ., 2017. (In Russian)
