CC BY
112
Большие вызовы XXI века
The great challenges of the XXI century
doi 10.26310/2071-3010.2020.256.2.001
В. В. Иванов,
чл.-корр. РАН, зам. президента РАН, руководитель Информационно-аналитического центра «Наука» РАН, г. н. с. ИПРАН РАН И [email protected]
V. V. Ivanov,
doctor of economics, member-correspondent of the Russian academy of sciences, deputy of the president RAS, head of the information and analytical center «Nauka» of the Russian academy of sciences
Г. Г. Малинецкий,
д. ф.-м. н., профессор, зав. отделом математического моделирования нелинейных процессов, Институт прикладной математики им. М. В. Келдыша РАН И [email protected]
G. G. Malinetskiy,
dr. of science in phis. and math, professor, leader of department of mathematical modeling of nonlinear processes, RAS Keldysh institute of applied mathematics
В рамках цивилизационного подхода с позиций гуманитарно-технологической революции рассматривается мир завтрашнего дня. Показано, что мир финансовой глобализации, превратившейся в вестернизацию, уходит в прошлое. После прохождения нынешней точки бифуркации мировую динамику будет определять взаимодействие и соперничество «сверхцивилизаций», несущих свои смыслы, ценности, проекты будущего. Именно поэтому развитие и преподавание общественных и гуманитарных наук, способствующее цивилизационной рефлексии, может сыграть особую роль.
Цифровизация, внедрение систем искусственного интеллекта, «схватка» между подлинной и виртуальной реальностями будут происходить по-разному в разных цивилизациях. Показано, что, не опираясь на них, копируя траекторию Запада, Россия не сможет сохранить или обрести суверенитет в культуре, социальном, образовательном, научном и технологическом пространствах. Сформулирован ряд предложений, позволяющих достаточно быстро изменить нынешнюю ситуацию к лучшему.
In consider the world of tomorrow as part of a civilizational approach from the standpoint of the humanitarian and technological revolution. The world of financial globalization, which has turned into a Westernization, is a thing of the past. After passing the current point of bifurcation, the global dynamics will be determined by the interaction and rivalry of «supercivitizations», bearing their meanings, values, projects of the future. That is why the development and teaching of social and human sciences, contributing to civilizational reflection, can play a special role.
Digitization, the introduction of artificial intelligence systems, the «battle» between genuine and virtual reality will occur differently in different civilizations. In the world of Russia, culture and conscience are the most important social regulator. It is shown that without relying on them, copying the trajectory of the West, Russia will not be able to maintain or gain sovereignty in culture, social, educational, scientific and technological spaces. A number of proposals have been formulated that make it possible to quickly change the current situation for the better.
Ключевые слова: гуманитарно-технологическая революция, гуманитарный вызов, цивилизационный подход, теория элит, геокультура, образование, экология технологий, среда обитания, искусственный интеллект, цифровое образование, синергетика, государственное управление, проектирование будущего.
Keywords: humanitarian and technological revolution, humanitarian challenge, civilizational approach, elite theory, geoculture, educational disaster, artificial intelligence, digital education, synergetics, public administration, designing the future.
Постановка задачи
Все будет не так!
Надпись, оставленная летчиком-космонавтом В. А. Ляховым для следующей экспедиции на космической станции
Проблема определения перспективной траектории развития человечества является одной из сложнейших системных задач, на решение которых направлены усилия научного сообщества. Наиболее интенсивно исследования в этом направлении стали развиваться во второй половине прошлого века, в период обострения конкуренции за мировое лидерство между капиталистической и социалистической социально-экономическими системами. Проблемам развития общества, поискам новых социально-экономических путей развития были посвящены многочисленные исследования философов, политологов, экономистов, социологов. В юбилейном докладе Римского клуба «Come on!» подчеркивается, что традиционный капиталистический уклад, уповавший, что «невидимая рука рынка» справится со всеми проблемами, исчерпал свои возможности. Обращается внимание на то, что «близорукость» правящих элит, неприемлемая в нынешних условиях, является его неотъемлемой чертой [1]. Человечеству и нашей уникальной самодостаточ-
ной цивилизации — Миру и России — нужны новые алгоритмы развития и новые ориентиры.
Одновременно с исследованием социально-экономических трансформаций проводились крупномасштабные исследования и разработки, направленные на создание качественно новых технологий и образцов продукции на основе результатов фундаментальных исследований. Практическое использование этих результатов привело к бурному технологическому развитию. Этот процесс продолжается и по сей день.
Рассматривая вопросы научно-технологического развития, необходимо уделить особое внимание деятельности научных коллективов под руководством советских ученых М. В. Келдыша, И. В. Курчатова, С. П. Королева. Результаты их работы не только предотвратили третью мировую войну с использованием атомного оружия, подготовка которой активно велась в 1950-е гг. [2, 3], но и показали, как военные технологии могут быть использованы в мирных целях.
И. Валлерстайн поставил в 1985 г. существующей мир-системе следующий диагноз: «Мы сейчас вступаем в новую эпоху, эпоху, которую я описал бы как период дезинтеграции капиталистической микроэкономики. Все разговоры о создании «нового
мирового порядка» — всего лишь пустые заклинания, которым почти никто не верит и которые, во всяком случае маловероятно осуществить... Вот на какой вызов мы должны ответить — создание новой левой идеологии во время распада исторической системы, в которой мы живем. Это не простая задача, и не такая, которую можно решить сегодня на завтра» [4]. Время подтвердило этот тезис за тем лишь исключением, что в XXI в. необходимо говорить о новом мировом порядке.
Распад СССР, формирование однополярного мира фактически снизили уровень глобальной конкуренции и привели к глобальной неустойчивости. Сейчас Мир находится в точке бифуркации. Человечество сталкивается с процессами, у которых нет аналогов на пройденном историческом пути. От того, как будет пройдена точка бифуркации, зависит, произойдет ли переход к новому этапу развития, или технологический вал уничтожит цивилизацию. Ответ на это вопрос можно получить, выявив глобальные вызовы и угрозы и определив способы их парирования.
Сегодня мы имеем дело не столько с экономическими, сколько с социально-психологическими и технологическими проблемами, с формированием новой культуры. Будущее определится тем, как они будут решаться в ближайшие десятилетия.
Понимание происходящих процессов тем более необходимо, что лидирующие позиции в новом мировом укладе займут страны, которые смогут творчески осмыслить происходящее и сделать соответствующие выводы. В противном случае они рискуют остаться аутсайдерами или вообще исчезнуть с карты мира как это уже бывало в истории. Именно отсутствие научного понимания происходящих процессов, слепое следование идеологическим догматам вчерашнего дня в ущерб научному познанию законов экономического и общественного развития привело к распаду СССР.
Выработка и предъявление миру российского мировоззрения, своего понимания пути в будущее имеет сейчас первостепенное значение. Экономического сотрудничества и взаимовыгодной торговли, как показывает история новой России, для сборки стратегического субъекта такого уровня явно недостаточно.
Без собственной научно обоснованной идеологии и системы образования, которая транслирует ее в будущее и воспитывает граждан в этом духе, без своего самостоятельного научного, культурного, образовательного, технологического пространств, в которых можно решать актуальные проблемы развития, Россия достаточно быстро превратится в поле соперничества других цивилизаций.
Приоритет — человек
Лучше быть готовым к благоприятной возможности и не получить ее, чем получить благоприятную возможность и не быть готовым к ней.
У. М. Янг-младший
За время своего существования человечество прошло несколько этапов развития, каждый из которых характеризовался доминирующим направлением: адаптация к окружающей среде, освоение территорий, технологический рост. Главным двигателем развития
являлось познание законов Природы, что позволяло создавать новые технологии. Процессы развития Человека и формирования общественных отношений нельзя рассматривать в отрыве от технологического развития, поскольку именно новые технологии обеспечивают изменение качества жизни.
Конец XX - начало XXI вв. характеризуются смещением акцента развития в сторону экономического роста, при этом в качестве основного приоритета определена финансовая эффективность. Подразумевалось, что по мере экономического роста автоматически будет расти и качество жизни. Однако, несмотря на декларируемые преимущества такого подхода, решить задачу в рамках известных моделей социально-экономического развития не удалось.
Более того, в мире наблюдается значительная дифференциация по уровню качества жизни как в глобальном измерении, так и внутри отдельных стран. Это привело к многочисленным экономическим и политическим кризисам, локальным военным конфликтам. При этом их количество неуклонно возрастает. На наш взгляд главным причинами этого являются отсутствие на глобальном уровне конкуренции моделей развития и попытками сформировать однополярный мир, т. е. такую систему глобального управления, в которой решения принимаются в единственном центре.
Вторым фактором является переориентация капитализма от обеспечения всеобщего развития к безудержному накоплению богатства ограниченным кругом структур. Сейчас на первое место выходит не развитие материального производства, а услуги и финансовые операции. Это явление требует отдельного изучения, но уже сейчас можно говорить, что превращение финансов в инструмент управления, по сути является передачей управления реальными процессами в виртуальное пространство. А это, в свою очередь приводит к нарастанию неравенства и возникновению антагонистических противоречий. При сохранении подобных тенденций следует ожидать глобальных конфликтов с непредсказуемым результатом.
Можно констатировать, что современные модели социально-экономического развития, ориентированные на экономический рост и накопление капитала, уже исчерпали свои возможности.
Наряду с интенсивным технологическим развитием второй половины XX в. в общественно-гуманитарных науках были развернуты крупные исследования по прогнозированию дальнейшего развития человечества. При этом формирование новых общественных отношений рассматривалось через призму научно-технологического развития.
Сейчас уже можно с уверенностью говорить, что наиболее точными оказались предсказания Д. Белла [5], предложившего концепцию постиндустриального общества, определяющую контуры посткапиталистического этапа развития человечества. В основу концепции постиндустриального общества положен приоритет развития человека. повышения качества жизни. Добиться этого можно двумя способами: • уменьшение доли физического труда за счет развития интеллектуальных производств;
• создание дружелюбного технологического пространства как элемента среды обитания. Принципиальным в теории Д. Белла является то, что рассматривается не постиндустриальная экономика, а постиндустриальное общество. Иначе говоря, речь идет о принципиальной смене парадигмы социально-экономического развития. По сути, предлагается перейти от «человека для экономики» к «экономике для человека». В первом приближении такой подход представляется весьма оторванным от жизни и даже утопичным. Однако в августе 2019 г. 180 крупнейших компаний США — участников Круглого стола бизнеса (Business Roundtable [36]) приняли декларацию, в которой указывается, что бизнес должен переориентироваться с интересов акционеров на интересы потребителя. Как отметил один из членов сообщества Д. Уолкер, президент Фонда Форда: «Это потрясающая новость, потому что как никогда важно, чтобы бизнес в XXI в. был сосредоточен на создании долгосрочной ценности для всех заинтересованных сторон и решении стоящих перед нами проблем, что приведет к общему процветанию и устойчивости как для бизнеса, так и для общества».
Наука как базовый институт развития
Поддержка фундаментальной науки как системообразующего института долгосрочного развития нации является первоочередной задачей государства.
Стратегия научно-технологического развития Российской Федерации
Фундаментальная наука изучает закономерности развития природы человека и общества. При этом среди отечественных науковедов и экономистов распространено мнение, что фундаментальная наука не коммерциализуема и поэтому не относится к сектору реальной экономики. В отличие стран - технологических лидеров, где наука рассматривается как ведущая производительная сила, в России фундаментальная наука наравне с медициной, образованием и социальным обеспечением отнесена к услугам и финансируется по остаточному принципу.
Однако при внимательном рассмотрении ситуация выглядит иначе (рисунок). В теории инноватики
фундаментальная наука рассматривается как начальный этап инновационного цикла [6]. Поэтому новый рынок может создать только производитель, сумевший первым понять научный результат и реализовать полный инновационный цикл: фундаментальные научные исследования - прикладные разработки -опытно-конструкторские работы - организация производства - реализации продукции.
Фундаментальная наука является основой образования, которое полностью построено на ее результатах. Но поскольку образование имеет вполне определенную потребительскую стоимость, то глобальный бюджет образования есть ни что иное как коммерческое отражение фундаментальной науки. Иначе говоря, результаты фундаментальных научных исследований имеют реальную коммерческую ценность.
Фундаментальная наука является неотъемлемой частью культуры современного общества, поскольку среди направлений научных исследований присутствуют история, филология, литература, архитектура, искусство. Лидирующие страны современной эпохи также в основу политики закладывают научные исследования.
Фундаментальные научные исследования глобальных трансформаций, выявление вызовов и угроз дают основу для выработки соответствующей стратегии развития государства и политики ее реализации, а также обеспечения обороны и безопасности. Поэтому претендовать на равноправное присутствие в клубе стран - глобальных лидеров смогут только государства, обладающие современной фундаментальной наукой.
Как отмечал Д. Белл: «В постиндустриальном обществе главная проблема состоит в организации науки. А важнейшими институтом выступает либо университет, либо научно-исследовательская лаборатория...Характер и формы государственной поддержки науки, ее политизация, социологические проблемы организации научных исследований заняли центральное место среди политических проблем постиндустриального общества» [5].
Во второй половине XX в. произошли две глобальные научные революции. Академик РАН В. С. Степин
так называл ситуации, в которых развитие одной научной дисциплины приводит к пересмотру оснований другой [7]. Эти революции связаны с рождением междисциплинарных подходов — кибернетики1 [8] и синергетики2 [9].
Кибернетика как наука заложила технологическую основу интеграции энергетики, материаловедения, наук о жизни и общественно-гуманитарных наук, что, в частности, дало основание говорить о 4-й промышленной революции [10].
Развитие синергетики можно рассматривать как построение моста между двумя культурами — естественнонаучной, обращенной в будущее, исследующей объективные закономерности и использующей количественные методы и формализованные теории, и гуманитарной, во многом обращенной в прошлое и имеющей дело с уникальными событиями, субъективными моментами, вербальными описаниями. Построение такого «моста» крайне важно, поскольку «будущее временит настоящее», — наши представления о грядущем, о его рисках и возможностях, непосредственно транслируются в создаваемые стратегии, концепции, доктрины, в предпринимаемые сейчас действия [11].
Использование представлений, моделей и методов синергетики требует подготовки специалистов принципиально нового уровня. Эти специалисты должны быть способны охватить возникающие проблемы целиком и предложить пути их решения, а для этого необходимо иметь базовую фундаментальную подготовку, позволяющую оценивать ситуацию с позиций междисциплинарных подходов. В перспективе синергетика должна рассматриваться как один из важнейших образовательных предметов, формирующих у человека представление об устройстве современного Мира и Общества [12].
Одним из ключевых понятий синергетики является представление о бифуркации. В математике так называют изменение числа и/или устойчивостей решений определенного типа при изменении параметра исследуемой системы. В гуманитарных науках так называют моменты, когда прежняя траектория развития становится неустойчивой и появляются новые пути развития системы, эволюционные или революционные (в соответствии с этим и бифуркации бывают «мягкие» и «жесткие»). Само развитие сложных систем сегодня мыслится как прохождение последовательности точек бифуркации, в каждой из которых стихийно или осознанно делается выбор дальнейшего пути развития системы.
Именно с позиций осмысления происходящей сейчас бифуркации многие социологи, системные аналитики, специалисты по моделированию рассматривают нынешнюю реальность. Например, Л. Г. Бадалян
1 Кибернетика (от др.-греч. кирЕруцтисц «искусство управления») — наука об общих закономерностях получения, хранения, преобразования и передачи информации в сложных управляющих системах.
2 Синергетика - в переводе с греческого «совместное действие» - подход, лежащий на пересечении сферы предметного знания, философской рефлексии и теории самоорганизации.
и В. Ф. Криворотов таким образом рассматривают экономическую историю и предстоящие кризисы, и потрясения [13].
Поскольку результаты фундаментальных научных исследований отражают естественные законы развития природы и общества, то они не имеют «срока годности» и не подвержены влиянию текущих политических процессов. Как показывает вся история развития человечества разумное использование этих результатов является обязательным условием развития государства. Это позволяет сформулировать закон, согласно которому «ценность результатов фундаментальных научных исследований неуклонно возрастает» (первый закон научно-технологического развития).
В современном бизнес-пространстве основная ценность фундаментальной науки заключается в том, что она позволяет заглянуть за горизонт. Если бизнес работает на сегодняшний день, технологии — на завтрашний, то фундаментальная наука позволяет сформулировать задачи послезавтрашнего дня и, тем самым, определить стратегический вектор развития. Поэтому дуализм инновационного развития определяется следующим образом: в стратегической перспективе состояние бизнеса определяется современным состоянием фундаментальной науки, современное состояние бизнеса определяет состояние фундаментальной науки.
Иначе говоря, если бизнес заинтересован в развитии, то он должен вкладываться в развитие фундаментальный научных исследований.
Ключевую роль фундаментальная наука играет в формулировании и решении государственных проблем. С этой целью в развитых странах функционируют специальные центры, осуществляющие анализ ситуаций и активно участвующие в подготовке важнейших государственных решений [14-16].
Цифровая утопия
Я не люблю машины. Я ненавижу Интернет, ненавижу компьютеры. Они мешают нам жить, они отбирают наше время. Люди слишком много работают за компьютерами, они слишком много болтают вместо того, чтобы слушать и слышать друг друга.
Рэй Брэдбери
В 1940-е гг. американский математик Норберт Винер с коллегами начали работать над первым междисциплинарным подходом — общей теорией связи и управления в организме, машине, обществе. Они назвали этот подход «кибернетика», книга самого Винера «Кибернетика» [8] оказалась пророческой.
Вопросы новой технологической базы экономики рассматривались и учеными общественно-гуманитарного профиля. Так, Д. Белл определил главными интеллектуальными проблемами постиндустриального общества — «управление крупномасштабными системами с огромным числом взаимодействующих переменных ради достижения определенных целей». При этом подчеркивалось, что использование новейших достижений есть «интеллектуальная технология, которая «представляет собой замену интуитивных суждений алгоритмами. . Кроме того, без компьютеров новый
математический аппарат представлял бы главным образом чисто интеллектуальный интерес...» [5]. В свою очередь, еще в 1980-е гг. Д. Нейсбит, оппонируя Д. Беллу считал синонимами постиндустриальное общество и информационное общество. Им же были предложены основные направления развития информационных технологий, [17], которые позднее нашли отражение в материалах Давосского форума [10].
Время по-новому расставляет акценты в старых книгах. Видится то, на что прежде не обращали внимание. Н. Винер и Д. Белл сформулировали базовые положения. предсказали, что количественные изменения, постепенное развитие технологий приведут к кардинальным сдвигам в структуре общества, заставят отказаться от капиталистического уклада и поставят совершенно новые проблемы, каких не было в индустриальном обществе. Этот прогноз составил основу теории гуманитарно-технологической революции, сформулированной в системном виде уже в текущем столетии [18, 19].
Суть прогноза достаточно проста. Промышленные революции в принципе освободили человека от тяжелого физического труда. Компьютерная (цифровая) революция создает возможность поручить компьютерам рутинные умственные усилия. Что при этом будут делать люди? При капитализме рабочая сила превращается в товар, который человек предлагает на рынке. В духе Маркса можно нарисовать простейшую схему, отражающую воспроизводство рабочей силы: рабочая сила - деньги - товар - рабочая сила. Тотальная автоматизация и компьютеризация приведет к тому, что со временем большинству людей будет просто нечего продавать на рынке. Как же они будут жить при капитализме, основанном на продаже рабочей силы, если для производства товаров и услуг люди будут не нужны? Ломается главная пружина, обеспечивающая социальное развитие — приведение производственных отношений в соответствие с производительными силами. Если люди не нужны, то и отношений нет. Если люди не могут продать свой труд, то им будет не на что купить товары. Замкнутый круг.
Одними из самых популярных утопий последнего десятилетия являются цифровая экономика, четвертая промышленная революция и искусственный интеллект. Все эти названия неудачны. Со времен Древнего Египта, а, вероятно, и гораздо раньше экономика была цифровой — как же иначе посчитать произведенное?!
В 2007 г. лауреат Нобелевской премии Р. Солоу провел исследование, направленное на то, чтобы выяснить, в каких отраслях американской экономики широкое внедрение компьютеров привело к повышению производительности труда. Результат оказался парадоксальным — оказалось таких отраслей нет. кроме производства компьютеров.
Большие надежды возлагались на использование математических моделей и внедрение автоматизированных систем в плановой экономике. Эти работы активно вели академик В. М. Глушков и Н. Н. Моисеев. Но эти надежды не оправдались — значительная доля людей не была готова давать объективные данные и руководствовалась не общественными и государствен-
ными, а личными или корпоративными интересами. Кроме того, оказалось, что неформальные механизмы, интересы и связи, которые игнорировались в классических экономических теориях, играли очень важную роль в социалистической экономике [20]. Даже решение вопроса, где нужно централизованное, плановое управление, а где больший эффект дает децентрализация, оказывается нетривиальной математической проблемой.
Если обратиться к государственной программе «Развитие цифровой экономики РФ», принятой в 2016 г., то можно увидеть, что в ней есть много интересных направлений — автоматизация документооборота, «умный город», телемедицина, исследования и т. д., но практически нет ничего, что касалось бы непосредственно экономики.
Анализ этой программы показывает, что она исходит из представлений, сформулированных основателем Давосского экономического форума К. Швабом. По его мысли, цифровая экономика «началась на рубеже нового тысячелетия и опирается на цифровую революцию. Ее основные черты — это «вездесущий» и мобильный Интернет, миниатюрные производственные устройства (которые постоянно дешевеют), искусственный интеллект и обучающиеся машины» [10]. Это очень важное положение, которое позволяет сформулировать второй закон научно-технологического развития: стоимость высокотехнологичной наукоемкой продукции постоянно уменьшается.
В книге [10] приведен 21 переломный момент, который ожидается до 2025 г. Таким образом фиксируются направления, в которые, по мысли экспертов Давоса, странам и следует вкладывать усилия. Среди этих моментов практически нет касающихся экономики, в ее классическом понимании, но есть множество, направленных на обеспечение тотального социального контроля. Среди них: «10% людей носят одежду, подключенную к сети Интернет, 90% людей имеют возможность неограниченного и бесплатного (поддерживаемого рекламой) хранения данных, 90% населения используют смартфоны, 1 трлн датчиков, подключенных к сети Интернет, правительства впервые собирают налоги при помощи цепочки блоков (технологий блокчейн); первый робот с искусственным интеллектом в составе корпоративного совета директоров» и т. д. [10].
Огромные надежды в последние годы возлагаются на «искусственный интеллект». Психология и нейро-биология, так же, как и когнитивные науки, находятся в процессе становления, поскольку ученые не очень хорошо представляют, что же такое естественный интеллект.
Мы живем в рациональном, эмоциональном и интуитивном пространствах и удивительно мало знаем о последних двух и их взаимодействии с первым. Поэтому, следуя Станиславу Лему, сейчас, скорее, стоит говорить не об искусственном интеллекте, а об искусственном инстинкте. В его основе лежат классические алгоритмы распознавания образов, известные не первое десятилетие. Возросшие компьютерные мощности и возможность работать с огромными мас-
сивами данных, используя заложенные алгоритмы обучения, конечно, производят впечатление. Если в 1997 г. компьютер обыграл чемпиона мира по шахматам Гарри Каспарова, то в 2017 г. — чемпиона мира по го — Ка Цзе, а еще раньше люди удивлялись, что паровоз бежит быстрее лошади и не устает.
Но где еще, кроме производства, компьютер играет заметную роль? Она огромна в социальной сфере — информационно-коммуникационный комплекс сделал очевидным вопиющие и стремительно растущее социальное неравенство. В силу этого примерно 5 млрд человек претендуют на уровень жизни среднего класса Европы. А для того, чтобы этого добиться, нет ни ресурсов, ни заводов, ни адекватных технологий.
Праздный мозг — мастерская дьявола. Тот, кто руководил людьми, хотя бы в течение месяца, знает эту истину, как и то, что для того, чтобы все были довольны и не было ЧП, их подопечные должны быть практически постоянно заняты. И компьютер с его виртуальной реальностью выполняет важнейшую функцию — стабилизирует общество, поглощая свободное время миллиардов людей. Если Библия советовала «возлюбить ближнего как самого себя», то компьютер позволяет «возлюбить дальнего», конечно, за счет ближнего. Это не просто культурный слом, это глубокое изменение сущности человека, для которого «казаться» в виртуальном пространстве может оказаться намного важнее, чем «быть» в реальности.
Благие намерения в политике и обществе иногда оказываются не так важны, как открывающиеся возможности. И новую утопию, а, может быть вполне реальную ситуацию, связанную с компьютерными возможностями, французский социолог Ж. Аттали, характеризует как «гиперимперию»: «Наблюдение — модное словечко грядущих имен. Наступит время гиперконтроля. С помощью новейших технологий можно будет узнать все о происхождении продукции и передвижении людей, что в далеком будущем станут использовать для военных целей. Компании будут диктовать людям, как жить: что есть и знать, как управлять и вести себя, как защищаться, производить и потреблять. Ничего не удастся держать в секрете. Все будут знать все обо всех. У людей исчезнет чувство стыда и возрастет толерантность» [21]. Ну, а дальше начнется борьба за свободу, за свое личное пространство, за право жить без «на-блюдатчиков» .
Если назвать вещи своими именами, то и компьютеризация, и попытки внедрить блокчейн, и искусственный интеллект в большинстве случаев ведут к роботизации, расчеловечиванию человека, превращению человека в придаток машин, прикрывающемуся разговорами об апгрейде людей. Рэй Курцвейл и другие пророки трансгуманизма ставят на симбиоз людей, компьютеров, сетей. Вполне вероятный вектор перемен обозначен в недавно вышедшем бестселлере Ношо^еиз (Человек-Бог) [22]: «Главным продуктом экономики XXI в. будут не вооружения, автомобили или одежда — а тела, мозги и интеллект.
Обращение человека с животными дает достаточное представление о том, как в будущем усовершен-
ствованные люди будут поступать со всеми остальными. Демократия и свободный рынок рухнут, когда Google и Facebook будут знать нас лучше, чем знаем мы себя сами, власть и компетенции перейдут от живых людей к сетевым алгоритмам.
Люди не будут противостоять машинам, они сольются в единое целое» [22].
Эволюция и история не оставили места на Земле для «бесполезных классов», да и к остальным утверждениям есть много вопросов. Здесь их не стоит формулировать, но сами эти суждения показывают очень глубокий культурный слом, разрыв с гуманитарной традицией. Намереваясь нарисовать Рай, автор очертил Ад.
Одним из самых неизученных последствий использования цифровых технологий, но, тем не менее, самым продвигаемым, является цифровизация образования. Так, например, в феврале 2018 г. ректор ВШЭ Я. И. Кузьминов заявил: «Надо создавать систему, в которой вуз был бы обязан замещать курсы, читаемые доцентами, которые сами ничего не писали по этой теме, качественными онлайн-курсами. Чиновники министерства образования должны разработать форму сетевых взаимодействий между вузами-донорами, которые создают онлайн-курсы, и вузами-реципиентами, которые эти курсы используют» [23].
В 2017 г. один из руководителей Агентства стратегических инициатив (АСИ) Д. Н. Песков открыл университет «20.35», который он представил как первый университет в мире, в котором «человека будет учить искусственный интеллект, а искусственный интеллект — человек» [24].
По сути, речь идет о развитии заочной формы обучения, которая практиковалась во времена СССР. Разница заключается только в том, что в прежние времена лекции ведущих профессоров страны транслировались по телевидению, а задания и ответы на них рассылались по почте. Теперь же эти процедуры будут осуществляться с применением современных компьютерных технологий. Несомненно — это большой выигрыш во времени, но риск потери качества, по-видимому, не оценен. Более того, такие методы обучения имеют право на жизнь в случаях, когда речь идет о подготовке технических специалистов, деятельность которых может быть формализована. Применительно к творческим специальностям (а к ним относится не только искусство, но и научные специальности, требующие нестандартных подходов), принципы заочного обучения неприменимы.
Складывается впечатление, что идеологи тотальной цифровизации не до конца оценили возможные негативные последствия. Самым очевидным является полный контроль человека искусственным интеллектом, что очевидно, будет в кратчайшие сроки достигнуто в случае реализации непродуманной цифровой трансформации образования.
Кроме того, развитие цифровых технологий порождает новые виды преступности, против которых защиты нет. Достаточно вспомнить о проблеме утечки персональных данных из различных структур, вплоть до наиболее защищенных систем банков и спецслужб.
Указом Президента Российской Федерации от 10 октября 2019 г. № 490 утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 г.» [25]. В ней пункт 30 гласит: «Фундаментальные научные исследования должны быть направлены на создание универсального (сильного) искусственного интеллекта.». По сути, ученым предлагают к 2030 г. создать «искусственного человека», сравнимого по интеллекту с человеком или превосходящего его. То есть опять Бог из машины. При этом «33. К 2024 г. основным показателем, характеризующим успешную реализацию мер по поддержке научных исследований в области искусственного интеллекта, должен стать существенный рост: количества и индекса цитируемости в ведущих мировых научных изданиях научных статей на тему, посвященную искусственному интеллекту.». Можно представить, что произошло бы, если бы основным показателем реализации Атомного проекта СССР был было бы количество публикаций в иностранных журналах.
Формирование цифровой среды как одного из базовых искусственных элементов среды обитания человека требует тщательной проработки и оценки возможных негативных последствий.
Трансформация среды обитания
Мы не привыкли к наличию непосредственных связей между физикой и моралью, тем не менее, это так. По крайней мере, может быть так... Технология более агрессивна, чем мы обычно полагаем. Ее вторжение в психику, проблемы, связанные с синтезом и метаморфозами личности лишь, в настоящее время относятся к пустому множеству явлений. Это множество заполнит дальнейший прогресс.
С. Лем
Человек создает технологии, но технологии меняют личность и общество. Интенсивное технологическое развитие позволило создать новые образцы продукции, качественно изменившие жизнь человека. Это и новая энергетика, и транспортные системы, и информационная среда, и здравоохранение. Но наряду с этим появление новых производств, аккумулирующих в замкнутых объемах большой энергетический потенциал, а также создание новых видов оружия, прежде всего, ядерного, породили новые неустойчивости и высокие риски техногенных катастроф. В руках руководителей и простых смертных оказались силы и возможности, зачастую неосознаваемые, которых никогда не было прежде.
Моментом истины, заставившим осознать новую реальность стала Чернобыльская авария 1986 г. Это не только авария, на десятилетия изменившая вектор развития гигантской отрасли промышленности. Катастрофа помогла переосмыслить роль рисков в современном мире, новые социальные связи. Стало ясно, что сегодня мы имеем дело еще с одним типом глобализации — глобализацией рисков: «От бедности можно защититься границами, от опасностей атомного века нельзя. В этом их своеобразная культурная и политическая сила. Эта сила — в угрозе опасности, которая не признает охранных зон и дифференциаций современного мира», — писал немецкий социолог
Ульрих Бек, назвавшим нашу социальную реальность обществом риска [26].
Анализ крупнейших техногенных катастроф от ядерных бомбардировок Хиросимы и Нагасаки до аварии на АЭС «Фукусима-1» показывает, что их главной причиной является разрыв между технологическим и культурным уровнем [6]. Поэтому они могут быть определены как гуманитарно-техногенные катастрофы (ГТК). При этом последствия ГТК могут оказать существенное влияние не только на общество и экономику, но и на климат и экологическую обстановку в целом.
Исследования группы академика Н. Н. Моисеева, проведенные в Вычислительном центре АН СССР, показали, что система глобальной циркуляции атмосферы является чрезвычайно хрупкой. Достаточно обмена ядерными ударами общей мощностью в 1000 Мт в течение небольшого времени, чтобы она необратимо изменилась и не пришла бы в исходное состояние. По мысли Н. Н. Моисеева, одна из самых серьезных угроз для человечества — «жесткая бифуркация климатической системы Земли», в результате которой условия жизни на планете быстро и кардинально изменятся [20].
Как уже отмечалось, одним из условий перехода к постиндустриальному обществу является формирование дружелюбного технологического пространства. Сегодня уже можно констатировать, что среда обитания человека, особенно в городах, принципиально изменилась: между традиционной (природной) средой обитания и человеком появился технологический барьер, который постоянно увеличивается. Как отмечал У. Бек: «Экологические проблемы — это не проблемы окружающей среды, а в своем генезисе и последствиях целиком общественные проблемы, проблемы человека, его истории, условий его жизни, его отношения к миру и реальной деятельности, его экономических, культурных и политических воззрений. На исходе XX в. становится ясно, что природа — это общество, а общество — и «природа» тоже. Кто воспринимает сегодня природу вне общества, тот пользуется категориями другого столетия, которые на нашу действительность уже не распространяется» [26].
Таким образом, происходит замещение традиционной биологической среды обитания на технологическую. Но современные технологии имеют ту особенность, что на стадии их создания невозможно определить, как они будут использованы — во благо человека или во вред. Это будет зависеть от общепринятых ценностей, от культуры общества в целом.
Таким образом, в настоящее время формируется новая среда обитания человека, включающая три компонента: природа, технология, культура. Это требует детального изучения протекающих процессов с учетом основных положений экологии технологий [27], как дисциплины, изучающей технологическое пространство, законы его развития, взаимодействие технологических пакетов и иных возникающих в нем сущностей.
Ведущими переменными в постиндустриальную эпоху являются общество и социальная среда как реф-
лексивные системы. В них возможно возникновение различных субъектов, которые начинают активно влиять на развитие техники, продвигая одни технологии, отказываясь или блокируя создание других. В своей пророческой книге «Сумма технологии» С. Лем рассматривал этот процесс как важнейший: «В первом приближении технология — это равнодействующая усилий человека и Природы, ибо человек реализует то, на что материальный мир дает свое молчаливое согласие. Но тогда мы должны признать ее орудием достижения различных целей, выбор которых зависит от уровня развития цивилизации, от общественного строя и которые подлежат моральным оценкам. Только выбор — но не сама технология».
Прогнозирование будущего является сложной междисциплинарной задачей, решение которой возможно на основе синергетической методологии [28]. При таком подходе анализ протекающих процессов необходимо проводить с позиций системного взаимодействия процессов гуманитарного и технологического развития. При этом рассматривая технологическое развитие необходимо рассматривать не одно технологическое направление, каким бы широким и всеобъемлющем оно не казалось, а совокупность базовых технологических платформ, обеспечивающих развитие человечества. В первом приближении к таким платформам можно отнести энергетику, информатику, материаловедение, биологию, а также социально-гуманитарные технологии. Системное рассмотрение протекающих процессов позволяет говорить о происходящей гуманитарно-технологической революции [18, 19], сутью которой является повышение качества жизни на основе новых технологий, базирующихся на результатах фундаментальных научных исследований.
Новый миропорядок
Мир в целом гораздо беднее, чем он должен быть, только потому, что он стремится лишь «получать» и не понял практической важности закона обслуживания публики и увеличения предприятия.
Г. Форд
Наглядной иллюстрацией возникших проблем служит скорость роста мультифакторной производительности (труда и капитала) на протяжении последних 50 лет ведущей экономики мира — американской. Она превышала 2,5%/год лишь в течение «золотого десятилетия» — с 1958 по 1968 гг. Решающий вклад в это внесли три ключевые инновации — широкое использование конвейера для организации массового производства, тотальная автомобилизация Америки и применение новых материалов, предложенных химической промышленностью. Затем этот показатель упал втрое, а с 2010 г. в 10 раз [29].
Такая динамика меняет многое. И коммунистическая, и либеральная идеологии ориентировались на технологический прогресс и повышение производительности труда и неявно предполагали, что доступные для экономической деятельности ресурсы не ограничены. В марксистской традиции утверждалось, что свободный человек, работающий на себя и на общество, а не на капиталиста, будет трудиться эффективнее и произво-
дительнее, чем в любой другой социальной системе. При этом свободное время рассматривалось как важнейшее общественное достояние.
Либерализм исходил из того, что конкуренция на свободном рынке выделит наиболее активных и талантливых людей, лучшие технологии и обеспечит более быстрое развитие, чем в случае плановой, социалистической экономики.
Но эти ожидания не оправдались. И причина в том, что практическая реализация теоретических идей пошла совсем в другом направлении. Первая проблема, на наш взгляд, заключается в том, что капитализм отошел от своего прямого назначения, которое Г. Форд определял как служение: «Задача предприятия — производить для потребления, а не для наживы или спекуляции. А условия такого производства — .чтобы продукты эти служили на пользу народу, а не только одному производителю. .Стоит народу сообразить, что производитель ему не служит, и конец его недалек» [30]. Сегодня доминирующей парадигмой экономической деятельности будь то государственный уровень, будь то уровень отдельного человека заключается в получении финансовой прибыли. Однако, как говорил тот же Г. Форд: «Мотив только лишь прибыли ...не практичен, целью его является повышение цен для потребителя и уменьшение заработной платы» [31].
Отход от интересов человека и ориентация исключительно на получение финансовой прибыли дали старт процессу экономической глобализации, в котором главную роль играют международные финансовые и торговые институты [32]. Это привело к фактической ликвидации конкуренции на глобальном экономическом пространстве. Поскольку большая часть финансов и ресурсов концентрируются в сравнительно небольшой группе структур, основной массив продукции производится крупными транснациональными корпорациями, поделившими глобальный рынок. Это вполне закономерный итог, поскольку еще нобелевский лауреат Д. Стиглиц отмечал: «Истина в том, что большинство частных ошибок сводятся к одной системной: к заблуждению, что рынки способны к саморегулированию» [33].
При этом современная система международных соглашений ставит каждому участнику строго определенные рамки, выход за которые трактуется как нарушение международных обязательств. Об отсутствии конкурентного рынка указывают и факты введения санкций к странам, желающим изменить свое положение в мировой иерархии. Произошло сращивание экономических и государственных структур. Сложилась ситуация, когда во многих странах государство в ущерб интересам населения отстаивает интересы бизнеса как на внутреннем пространстве, так и вне его.
Принципиально изменилась роль финансов, которые превратились из ресурса, обеспечивающего развитие производства и экономический рост, в один из основных элементов управления. При этом, если исходить из природы денег, то необходимо отметить, что их в природе не существуют, это изобретение человечества. Иначе говоря, финансовый рынок, по своей природе, является виртуальным пространством. Отсюда вытекают несколько важных следствий.
1. Виртуальное пространство работает по определенным искусственно создаваемым законам (алгоритмам), которые могут не совпадать с объективными законами природы и общественного развития.
2. Контроль виртуального пространства осуществляют владельцы алгоритмов. Следовательно, глобальный финансовый рынок контролируется достаточно ограниченной группой структур. А это, в свою очередь, создает неравенство в доступе к ресурсам.
Проблема неравенства в современном мире играет важнейшую роль, поскольку именно неравенство служит основной причиной конфликтов как на глобальном уровне, так и в пределах одной страны или даже в отдельных социальных группах.
Глобальные и локальные экономические кризисы и военные конфликты, указывают на то, что время экономики, ориентированной на получение прибыли и не учитывающей интересы населения подходит к концу. На первый план выходят другие факторы, прежде всего, сам человек, его смыслы, ценности, надежды, воспитание и образование. В ходе происходящей гуманитарно-технологической революции общество становится более рефлексивным, чем когда-либо раньше, у него появляются другие возможности для самоорганизации и для формирования социальных субъектов.
Утопией, которая рассматривает геополитические процессы с этой точки зрения, является сценарий столкновения цивилизаций, рассмотренный американским социологом С. Хантингтоном [34].
В соответствии с ним, XXI в. будет беспощадной схваткой 8 цивилизаций, каждая из которых исповедует свои смыслы и ценности, за тающие ресурсы. Мир России он трактует как «восточнохристианскую цивилизацию», считает ее «расколотой» и предсказывает ее уход с исторической арены в течение нескольких десятилетий. В этой теории именно идеологии и смыслы отличают одну цивилизацию от другой.
Однако, судя по происходящим процессам, на исторической сцене будут взаимодействовать гораздо более крупные субъекты с населением, превышающим 400 млн человек, и валовым продуктом более чем в $20 трлн. Очевидно, такими геополитическими субъектами сейчас являются США (с их провинциями — Канадой и Мексикой), Китай, Европейское сообщество, если оно обретет субъектность. Даже если Евразийский проект удастся, то России потребуются новые стратегические союзники. Возможно, это будет будущая «мастерская мира» — Индия или влиятельная группа латиноамериканских государств.
Для успешного развития и страны, и нашей цивилизации — мира России — нужна идеология — синтез долговременного научного прогноза и образа будущего. Именно идеология и является основой для больших проектов.
Каковы же пространственные рамки таких проектов?
Однополярный мир под началом США не удался, — он выходит за рамки организационных возможностей этой страны. При очень низком пороге допустимых потерь, которые готово принять
общество, США не могут позволить себе активно участвовать даже во многих локальных конфликтах современного мира.
Китайский проект «один пояс — один путь» также сталкивается с серьезными проблемами. Элиты многих стран не готовы удовлетвориться позициями, отводимыми им в этом варианте мироустройства.
Заметим, что ограничения, с которыми столкнулись Китай и США, не связаны напрямую с экономикой или военными возможностями. Обе страны обладают огромной экономической и военной мощью, но не могут на этой основе добиться продекларированных ими геополитических или геоэкономических целей.
Сейчас человечество вынуждено отказываться от утопии глобализации на основе либеральных ценностей и общества потребления. Французский философ и социолог Б. Латур [35] характеризует «тупик глобализации» в следующих словах: «Если до 1990-х гг. горизонт модернизации можно было связывать (если это сулило нам выгоду) с понятиями прогресса, освобождения, богатства, комфорта, даже роскоши, а главное — рациональности, то затем стремительный рост неравенства и разрыв уз солидарности заставили отбросить эти благие идеи в пользу произвольного решения двигаться в никуда ради выгоды считанных счастливчиков. Лучший из миров обернулся худшим».
В прошлое уходят однополярный мир с доминированием США, финансовой глобализацией на основе доллара. Происходит «смена вех». Тем не менее, мы обречены на «климатическую и технологическую глобализацию». Все заинтересованы в том, чтобы условия жизни на планете кардинально не ухудшались. Подавляющему большинству жителей планеты нужно, чтобы используемые технологии были максимально эффективными, требующими минимум невосполнимых природных ресурсов, и «чистыми». Применяемые инструменты показывают крайнюю неэффективность «экологической политологии». Они зачастую опираются на данные, удобные для транснациональных корпораций и ряда стран, которые «равнее других». Однако придется рано или поздно договариваться и наводить порядок.
В новой парадигме мирового развития на первое место выходит повышение качества жизни, которое обеспечивается за счет новых технологий. Тогда в первом приближении новый мировой порядок может быть представлен в следующем виде.
В группу глобальных лидеров войдут страны, имеющие наиболее высокий уровень жизни, который обеспечивается наилучшими фундаментальной наукой и научно-технологическим комплексом, системой образования, ориентированной на подготовку творцов, элитной культурой населения. Скорее всего, соперничество и взаимодействие между такими «сверхцивилизациями» будет разворачиваться не в военной и не в экономической сферах. Эти глобальные игроки будут соперничать в обеспечении свои гражданам высокого качества и большой продолжительности активной, здоровой жизни, в эффективности решения социальных и экологических проблем.
На следующем уровне расположатся страны — индустриальные доноры, которые будут обеспечивать массовый выпуск продукции на основе технологий, разработанных в странах-лидерах. Развитие этих стран будет обеспечиваться за счет развитой промышленности и образования, ориентированного на подготовку потребителей.
И, наконец, третья группа стран — ресурсные доноры, обеспечивающие мир невозобновляемыми ресурсами, прежде всего, углеводородными энергоносителями. Что касается культуры, то это будет преимущественно массовая культура, задача которой будет занять свободное время населения, высвобождающееся в результате перехода на новые формы организации производства.
Естественно, что здесь приведена только схема грядущего миропорядка. На практике следует ожидать наличия в каждом государстве интеллектуальной, производственной и ресурсной составляющей. Вопрос только в соотношении между ними.
Заключение
Итак, человечество выходит на новый этап развития и уже сейчас необходимо искать ответы на три глобальных вызова текущего века:
1. Гуманитарно-технологическая революция, в результате которой сформируется новый мировой уклад.
2. Трансформация среды обитания человека, которая должна рассматриваться как система биология -технология - культура.
3. Изменение экономической парадигмы от «человек для экономики» к «экономика для человека». Мы имеем сегодня дело не столько с экономическими, сколько с системными гуманитарными и технологическими проблемами. Будущее определится тем, как они будут решаться в ближайшие десятилетия. Именно в контексте этих вызовов следует выстраивать стратегию развития России.
Если XIX в. был столетием геополитики, XX — геоэкономики, то XXI становится веком геокультуры. Конкуренция на глобальном пространстве сейчас разворачивается в пространстве смыслов, ценностей, проектов будущего.
* * *
Статья подготовлена при поддержке гранта РФФИ №18-011-00567-а «Междисциплинарный и методологический анализ технологий проектирования будущего и цифровой реальности» и Программы президиума РАН «Большие вызовы и научные основы прогнозирования и стратегического планирования».
Список использованных источников
1. E. U. Weizsäker, A. Wijkman/ Come on! Capitalism. Short-termism, Population and the Destruction of the Planet. A Report to the Club of the Roma. NY: Springer Nature, 2018. 220 p.
2. Д. Эллсберг. Машина судного дня. Откровения разработчика плана ядерной войны. М.: Альпина Паблишер, 2018. 542 с.
3. Р. Макнамара. Путем ошибок к катастрофе. М.: Наука, 1988. 149 с.
4. И. Валлерстайн. После либерализма. М.: Едиториал УРСС, 2003. 256 с.
5. Д. Белл. Грядущее постиндустриальное общество. Опыт социального прогнозирования. М.: Academia, 1999. 956 с.
6. В. В. Иванов. Инновационная парадигма XXI. 2-е изд. М.: Наука, 2015. 383 с.
7. В. С. Степин. Человек. Деятельность. Культура. СПбГУП, 2018. 800 с. (Почетные доктора университета.)
8. Н. Винер. Кибернетика. М.: Наука, 1983. 339 с.
9. Г. Хакен. Синергетика: Иерархии неустойчивостей в самоорганизующихся системах и устройствах. М.: Мир, 1985. 423 с.
10. К. Шваб. Четвертая промышленная революция. М.: Издательство «Э», 2017. 208 с.
11. С. П. Капица, С. П. Курдюмов, Г. Г. Малинецкий. Синергетика и прогнозы будущего. 3-е изд. М.: Эдиториал УРСС, 2001. 288 с. (Синергетика: от прошлого к будущему.)
12. Е. А. Солодова. Синергетика — это просто! Книга для школьников... и не только!/Предисл. Г. Г. Малинецкого. М.: Ленанд, 2020. 208 с.
13. Л. Г. Бадалян, В. Ф. Криворотов. История. Кризисы. Перспективы. Новый взгляд на прошлое и будущее. 2-е изд. М.: Книжный дом «Либроком», 2012. 288 с. (Синергетика от прошлого к будущему №50. Будущая Россия.)
14. Наука по-американски: очерки истории. М.: Новое литературное обозрение, 2014. 624 с.
15. Научная и инновационная политики: Россия и Мир. 2011-2012/Под ред. Н. И. Ивановой и В. В. Иванова. М.: Наука, 2013. 480 с.
16. DARPA и наука Третьего рейха: оборонные исследования в США и Германии/Под общ. ред. А. Е. Суворова. М.: Техносфера, 2015. 208 с.
17. Д. Нейсбит. Мегатренды. М.: ООО «Издательство АСТ»: ЗАО НПП «Ермак», 2003. 380 с.
18. В. В. Иванов. Глобальная гуманитарно-технологическая революция: предпосылки и перспективы//Инновации. 2017. № 6. С. 3-8.
19. Контуры цифровой реальности: гуманитарно-технологическая революция и выбор будущего/Под ред. В. В. Иванова, Г. Г. Малинецкого, С. Н. Сиренко. М.: Ленанд, 2018. 344 с. (Будущая Россия № 28.)
20. Н. Н. Моисеев. Математические задачи системного анализа. М.: Наука, 1981. 488 с.
21. Ж. Аттали. Краткая история будущего. СПб.: Питер, 2014. 288 с.
22. Ю. Н. Харари. Homo Deus. Краткая история будущего. М.: Синдбад, 2018. 498 с. (Big Ideas.)
23. О. Н. Четверикова. Цифровой тоталитаризм. Как это делается в России. М.: Книжный мир, 2019. 320 с.
24. О. Н. Четверикова. Трансгуманизм в российском образовании. Наши дети как товар. М.: Книжный мир, 2018. 384 с.
25. Национальная стратегия развития искусственного интеллекта на период до 2030 г. http://publication.pravo.gov.ru/Document/View/0001201910110003.
26. У. Бек. Общество риска. На пути к другому модерну. М.: Прогресс-Традиция, 2000. 384 с.
27. В. В. Иванов. Технологическое пространство и экология технологий//Вестник РАН. 2011. Т. 81. № 5. С. 414-418.
28. Горизонты синергетики: структуры, хаос, режимы с обострением/Под ред. Г. Г. Малинецкого. М.: Ленанд, 2019. 464 с.
29. Т. Гурова, Ю. Полунин. Наступление «синих воротничков»//Эксперт. 2017. № 3. С. 13-17.
30. Г. Форд. Моя жизнь. Мои достижения. М.: АСТ, 2015. 349 с.
31. Г. Форд. Сегодня и завтра. Кодекс миллиардера. М.: АСТ, 2014. 320 с.
32. Дж. Сорос. О глобализации. М.: Эксмо, 2004. 224 с.
33. Д. Стиглиц. Великое разделение. Неравенство в обществе или что делать оставшимся 99% населения? М.: Эксмо, 2016. 480 с.
34. С. Хантингтон. Столкновение цивилизаций. М.: ООО «Издательство АСТ», 2003. 603 с. (Philosophy.)
35. Б. Латур. Где приземлиться. Опыт политической ориентации. СПб.: Издательство Европейского университета в Санкт-Петербурге, 2019. 220 с.
36. https://www.businessroundtable.org.
References
1. E. U. Weizsäker, A. Wijkman. Come on! Capitalism. Short-termism, Population and the Destruction of the Planet. A Report to the Club of the Roma. NY: Springer Nature, 2018. 220 p.
2. D. Ellsberg. Mashina sudnogo dnya. Otkroveniya razrabotchika plana yadernoj vojny. M.: Al'pina Pablisher, 2018. 542 s.
3. R. Maknamara. Putem oshibok k katastrofe. M.: Nauka, 1988. 149 s.
4. I. Vallerstajn. Posle liberalizma. M.: Editorial URSS, 2003. 256 s.
5. D. Bell. Gryadushchee postindustrial'noe obshchestvo. Opyt social'nogo prognozirovaniya. M.: Academia, 1999. 956 s.
6. V. V. Ivanov. Innovacionnaya paradigma HHI. 2-e izd. M.: Nauka, 2015.383 s.
7. V. S. Stepin. Chelovek. Deyatel'nost'. Kul'tura. SPbGUP, 2018. 800 s. (Pochetnye doktora universiteta.)
8. N. Viner. Kibernetika. M.: Nauka, 1983. 339 s.
9. G. Haken. Sinergetika: Ierarhii neustojchivostej v samoorganizuyushchihsya sistemah i ustrojstvah. M.: Mir, 1985. 423 s.
10. K. Shvab. Chetvertaya promyshlennaya revolyuciya. M.: Izdatel'stvo «E», 2017. 208 s.
11. S. P. Kapica, S. P. Kurdyumov, G. G. Malineckij. Sinergetika i prognozy budushchego. 3-e izd. M.: Editorial URSS, 2001. 288 s. (Sinergetika: ot proshlogo k budushchemu.)
12. E. A. Solodova. Sinergetika — eto prosto! Kniga dlya shkol'nikov... i ne tol'ko!/Predisl. G. G. Malineckogo. M.: Lenand, 2020. 208 s.
13. L. G. Badalyan, V. F. Krivorotov. Istoriya. Krizisy. Perspektivy. Novyj vzglyad na proshloe i budushchee. 2-e izd. M.: Knizhnyj dom «Librokom», 2012. 288 s. (Sinergetika ot proshlogo k budushchemu №50. Budushchaya Rossiya.)
14. Nauka po-amerikanski: ocherki istorii. M.: Novoe literaturnoe obozrenie, 2014. 624 s.
15. Nauchnaya i innovacionnaya politiki: Rossiya i Mir. 2011-2012/Pod red. N. I. Ivanovoj i V. V. Ivanova. M.: Nauka, 2013. 480 s.
16. DARPA i nauka Tret'ego rejha: oboronnye issledovaniya v SShA i Germanii/Pod obshch. red. A. E. Suvorova. M.: Tekhnosfera, 2015. 208 s.
17. D. Nejsbit. Megatrendy. M.: OOO «Izdatel'stvo AST»: ZAO NPP«Ermak», 2003. 380 s.
18. V. V. Ivanov. Global'naya gumanitarno-tekhnologicheskaya revolyuciya: predposylki i perspektivy//Innovacii. 2017. № 6. S. 3-8.
19. Kontury cifrovoj real'nosti: Gumanitarno-tekhnologicheskaya revolyuciya i vybor budushchego/Pod red. V. V. Ivanova, G. G. Malineckogo, S. N. Sirenko. M.: Lenand, 2018. 344 s. (Budushchaya Rossiya № 28.)
20. N. N. Moiseev. Matematicheskie zadachi sistemnogo analiza. M.: Nauka, 1981. 488 s.
21. Zh. Attali. Kratkaya istoriya budushchego. SPb.: Piter, 2014. 288 s.
22. Yu. N. Harari. Homo Deus. Kratkaya istoriya budushchego. M.: Sindbad, 2018. 498 s. (Big Ideas.)
23. O. N. Chetverikova. Cifrovoj totalitarizm. Kak eto delaetsya v Rossii. M.: Knizhnyj mir, 2019. 320 s.
24. O. N. Chetverikova. Transgumanizm v rossijskom obrazovanii. Nashi deti kak tovar. M.: Knizhnyj mir, 2018. 384 s.
25. Nacional'naya strategiya razvitiya iskusstvennogo intellekta na period do 2030 g. http://publication.pravo.gov.ru/Document/View/0001201910110003.
26. U. Bek. Obshchestvo riska. Na puti k drugomu modernu. M.: Progress-Tradiciya, 2000. 384 s.
27. V. V. Ivanov. Tekhnologicheskoe prostranstvo i ekologiya tekhnologij//Vestnik RAN. 2011. T. 81. № 5. S. 414-418.
28. Gorizonty sinergetiki: Struktury, haos, rezhimy s obostreniem/Pod red. G. G. Malineckogo. M.: Lenand, 2019. 464 s.
29. T. Gurova, Yu. Polunin. Nastuplenie «sinih vorotnichkov»//Ekspert. 2017. № 3. S. 13-17.
30. G. Ford. Moya zhizn'. Moi dostizheniya. M.: AST, 2015. 349 s.
31. G. Ford. Segodnya i zavtra. Kodeks milliardera. M.: AST, 2014. 320 s.
32. Dzh. Soros. O globalizacii. M.: Eksmo, 2004. 224 s.
33. D. Stiglic. Velikoe razdelenie. Neravenstvo v obshchestve ili chto delat' ostavshimsya 99% naseleniya? M.: Eksmo, 2016. 480 s.
34. S. Hantington. Stolknovenie civilizacij. M.: OOO «Izdatel'stvo AST», 2003. 603 s. (Philosophy.)
35. B. Latur. Gde prizemlit'sya. Opyt politicheskoj orientacii. SPb.: Izdatel'stvo Evropejskogo universiteta v Sankt-Peterburge, 2019. 220 s.
36. https://www.businessroundtable.org.
