CC BY
924
ВЕСТН. МОСК. УН-ТА. СЕР. 27. ГЛОБАЛИСТИКА И ГЕОПОЛИТИКА. 2017. № 2
В.И. Маслов, И.В. Лукьянов*
ЧЕТВЕРТАЯ ПРОМЫШЛЕННАЯ РЕВОЛЮЦИЯ: ИСТОКИ И ПОСЛЕДСТВИЯ
V.I. Maslov, I.V. Lukyanov
THE FOURTH INDUSTRIAL REVOLUTION: ORIGINS AND CONSEQUENCES
Статья посвящена проблеме Четвертой промышленной революции и ее основы — искусственного интеллекта. Особое внимание уделено успехам, неудачам, преимуществам и недостаткам искусственного интеллекта. Рассмотрены его три основных типа и возможные последствия развития Четвертой промышленной революции для современного общества. Обоснованы некоторые пути предотвращения негативного влияния дальнейшего развития искусственного интеллекта.
Ключевые слова: искусственный интеллект, Четвертая промышленная революция, киберфизическая система, интернет вещей.
The article touches upon the issue of the fourth industrial revolution and its foundation — artificial intelligence. Much attention is given to the successes, failures, strengths and weaknesses of AI. It is spoken in detail about three main types ofartificial intelligence and the potential consequences of the 4th Industrial Revolution to modern society. The article gives a detailed analysis of some ways to prevent the negative impact of the further development of artificial intelligence.
Key words: artificial intelligence, 4th industrial revolution, cyber-physical system, Internet of things.
В наши дни не утихают разговоры и споры о Четвертой промышленной революции. Бытует мнение, что это есть не что иное, как продолжение третьей промышленной революции, или же рациональное продолжение движения человечества к вершине цивилизационного развития, иными словами, прогресс.
Разночтения и разновекторность суждений связаны с тем, что общество не знает, что такое Четвертая промышленная революция, что она
*Маслов Владимир Иванович — канд. экон. наук, доцент ф-та глобальных процессов МГУ имени М.В. Ломоносова, член Правления Международной ассоциации менеджмента (Вена). E-mail: profmaslov@gmail.com. Лукьянов Иван Валерьевич — аспирант кафедры ЮНЕСКО по изучению глобальных проблем ф-та глобальных процессов МГУ имени М.В. Ломоносова. E-mail: mrroro@mail.ru
принесет, как изменит наш мир и что она заберет навсегда и превратит в фолианты на пыльных полках архивов. Незнание пугает и интригует одновременно. Но для того, чтобы разобраться в этом новом и, несомненно, важном процессе, необходимо понять составляющие его части и их взаимодействие.
Основой новой промышленной революции является искусственный интеллект, созданный человеческим интеллектом. Именно благодаря человеческому интеллекту была создана важнейшая концепция, позволяющая говорить о приближении Четвертой промышленной революции, иначе называемой «Индустрия 4.0». Новая концепция основана на использовании киберфизических систем, воплощающих в жизнь совместную работу элементов кибернетического и физического пространств, иными словами, киберфизическая система организовывает связь и координацию между вычислительными и физическими ресурсами. Рассматриваемые системы совмещают в себе компьютерные и программные технологии, инновационную механику и сложное кибернетическое начало, благодаря чему они способны встраиваться в окружающую среду и воспринимать изменения в ней, анализировать эту информацию и реагировать на нее, а также адаптироваться и обучаться. В виртуальном контексте киберфизические системы применяются для отслеживания «цифрового следа» человека в сети, анализа данных об использовании социальных сетей, сайтов, блогов и интернет-магазинов, на основе массива данных система прогнозирует действия или потребности пользователя. Киберфизические системы способны встраиваться в производственные процессы, улучшая обмен информацией между промышленным оборудованием, качественно преобразовывать производственные цепочки, эффективнее управлять бизнесом и клиентами. Все это возможно благодаря способности киберфизических систем управлять текущими процессами с помощью автоматического мониторинга, контролю всего производственного процесса и адаптации производства для удовлетворения предпочтений клиента1.
Можно смело говорить, что данные системы помогут повысить управляемость и прозрачность операций на производстве. Так, в сельском хозяйстве они могут собирать информацию о почве, температурных режимах, вызревании семян и тем самым повышать урожаи. Изменится медицина, где благодаря персонализации данных человека система будет выстраивать лечение индивидуально. Транспорт, интеллектуальные здания, возобновляемая энергетика — все это благодатная почва для работы киберфизи-ческих сетей.
Еще одной частью новой промышленной революции стоит назвать «Интернет вещей». Термин был предложен в 1999 г. британским ученым К. Эштоном — основоположником развития системы автоматической идентификации объектов (RFID) благодаря развитию технологий облачного
1 IBM. Developer workers. Киберфизические системы и разумные города. URL: http:// www.ibm.com/developerworks/ru/library/ba-cyber-physical-systems-and-smart-cities-iot/index.html (дата обращения 18.11.2016).
хранения данных, перехода на новую версию IP-протокола (IPv6), отличающуюся новой длиной адреса — 128 бит взамен 32, а также появлению нового технологического метода межмашинного взаимодействия — M2M (Machine to Machine)2. Данную концепцию можно охарактеризовать как сближение виртуального и реального миров: материальные предметы (вещи), оснащенные встроенными технологиями на основе передачи информации, взаимодействуют между собой, организовывая некую сеть. Подобное явление стало возможно благодаря росту подключаемых к Интернету устройств. По данным экспертного отчета компании Ericsson, в 2015 г. их насчитывалось 15 млрд, прогнозируемая цифра на 2021 г. — 28 млрд, из них 16 млрд будет приходиться на долю «Интернета вещей» — IoT (Internet of things )3.
Подобные технологии способны внести серьезные изменения в экономические и социальные процессы в обществе. Одним из главных элементов IoT выступают подключаемые к сети автомобили, активно популяризуемые компанией Google. По прогнозам компании Gartnet Inc, к 2020 г. около 250 млн подключенных автотранспортных средств окажутся на дорогах, воплощая в себе абсолютно новый функционал для машины и возможность полного автоматизированного вождения4. Еще одним ярким примером IoT могут служить фитнесс-трекеры, или умные браслеты. Эти гаджеты собирают информацию о жизнедеятельности человека в течение дня (сколько шагов пройдено, сколько часов было отведено на сон), а также они смогут вести подсчет калорий и прогнозировать тренировочные программы. Конечно, все это будет возможно лишь при наличии определенного приложения, скаченного на мобильное устройство. Браслет «общается» с мобильным устройством, выдавая человеку необходимую информацию, — это и есть ярчайший пример Интернета вещей. Мировой рынок носимых устройств в 2015 г. вырос на 223%, было продано 4,4 млн браслетов Fitbit, следящих за состоянием здоровья, и 3,6 млн часов от Apple. Умные устройства, подключаемые к сети, меняют не только жизнь людей, выводя комфорт и инновационность на небывалые высоты, но и вносят изменения в мир бизнеса.
Все преобразования и изменения порой выглядят довольно неожиданными для современника. Возможно, это связано с нашим линейным мышлением: пытаясь осознать, что будет происходить в будущем, скажем, в текущем XXI в., человек неосознанно сравнивает достижения XX в. и добавляет к своим рассуждениям современные темпы развития. Однако, это неверный подход. Говоря о будущем, необходимо подразумевать намного более высокие темпы развития, чем те, которые мы имеем на сегодняшний день. Подтверждением данных слов может служить Закон Мура, согласно которому максимальная вычислительная мощность в мире удваи-
2 См.: ЧернякЛ. Платформа Интернета вещей// Открытые системы. СУБД. 2012. № 7.
3 Adviser T. Интернет вещей, IoT, M2M. Прогноз развития 2016—2021 Ericsson. URL: http://www.tadviser.ru/index.php/ (дата обращения 18.11.2016).
4 Gartner Inc, "Newsroom". STAMFORD, Conn.,2015. Jan. 26. URL: http://www.gartner.com/ newsroom/id/2970017 (дата обращения: 18.11.2016).
вается приблизительно каждые два года, т.е. развитие компьютерных технологий, как и развитие человечества, растет в геометрической прогрессии. Ж.А. Кондорсе, в своем эпохальном произведении «Эскиз исторической картины прогресса человеческого разума», доказывал, что нет никакой границы в развитии человеческих возможностей, способности человека совершенствоваться, преобразовывая все вокруг себя. Нет иной силы, кроме конца существования планеты, способной остановить дух и мысль человечества5.
Именно безальтернативное стремление к развитию и прогрессу подтолкнуло к созданию искусственного интеллекта, что стало основой Четвертой промышленной революции. Впервые данный термин прозвучал в 1956 г. на Дартмурской конференции, проходившей в колледже Нью-Хэмп-шира. Его автор — американский информатик, создатель высокоуровне-го языка программирования (LIPS), который используется и по сей день, Дж. Маккарти. Определялся искусственный интеллект (ИИ) как система, способная воспринимать окружающую среду и реагировать на нее. Человеческий интеллект — это способность мозга так мобилизовать на эвристическом уровне свою работу, чтобы использовать собственный массив информации с максимальной эффективностью, включая такие категории, как восприятие, осознание, память, внимание. Искусственный интеллект — это имитация нашего интеллекта, если угодно, создание подобия человека в виртуальном пространстве. Споры по этому вопросу в научном сообществе продолжаются и будут продолжаться еще очень долго, как, впрочем, и всегда в истории, когда речь идет о принципиально новом явлении. Несогласие и разделение мнений сопровождают любые прорывные технологии на начальных этапах.
Говоря об успехах, неудачах, преимуществах и недостатках искусственного интеллекта, необходимо понимать существенные различия в типологии. Можно выделить три типа ИИ:
• искусственный ограниченный интеллект (Artificial Narrow Intelligence) характеризуется узкой специализацией, способностью к выполнению одной задачи и достижения успеха в ней;
• искусственный общий интеллект (Artificial General Intelligence) максимально приближен к человеческому тип интеллекта, обладает способностью к анализу и сопоставлению данных, обучению и общению с иными «машинами»;
• искусственный суперинтеллект (Artificial Superintelligence) — качественно отличается от человеческого, развитый настолько, что способен принимать решения, исходя из собственной мотивации.
В нашем мире в изобилии представлены ограниченные системы ИИ (ANI). Спам-фильтр на ящике электронной почты является классическим примером ANI-системы. На начальном этапе работы в него заложена ин-
5 Кондорсе Ж.А. Эскиз исторической картины прогресса человеческого разума. М.,
2010.
формация о распознавании спама, но в процессе использования система учится и адаптируется под конкретные предпочтения пользователя. Переводчик Google — еще один пример искусственного ограниченного интеллекта. Данная система все лучше справляется с поставленной задачей, помогая миллионам людей.
Существует колоссальный разрыв между тем, на что способен человеческий интеллект и искусственный. Сложные стратегии финансовых рынков, переводы текста на сотни языков легко даются машинам. Однако такие простейшие для человека задачи, как интуитивное понимание доброго поступка или восприятия окружающего мира, машинам пока недоступно. Человек не склонен обдумывать, насколько сложными являются многие процессы, связанные с нашей жизнью. Например, для написания лишь одного слова на бумаге кости, мускулы и сухожилия в сочетании со зрением и нервной системой, контролируемые мозгом, совершают единовременно длинную серию операций, позволяющих возникнуть нескольким буквам. Это все происходит у человека интуитивно, искусственный же интеллект на такое пока не способен.
В основе исследований ИИ находится гипотеза символьных систем, согласно которой создание достаточного объема для хранения информации, генерирование внутри сложно организованных структур данных и связывание алгоритмом обработки позволит создать искусственный интеллект, приближенный к человеческому. По своей сути данная ситуация — это воплощение в информационных технологиях закона перехода количественных изменений в качественные. Все исследования, проводимые в области ИИ, — это создаваемые учеными ступени для выхода на новые уровни знаний путем создания и внедрения общего искусственно интеллекта (AGI). Будущее данного проекта пока туманно. Многие ученые пока не считают возможным создание искусственного интеллекта, не уступающего человеческому, в основном из-за отсутствия полного спектра знаний о работе человеческого мозга и его отделов. Но немало исследователей полагают, что рано или поздно это станет реальностью. Возможно, простейшим вариантом будет «скопировать» мозг человека, совершить процесс полного эмулирования, разобрать на составные части и перенести их в виртуальный мир при помощи программного обеспечения. Пока подобного рода эксперименты проводятся на плоских червях, мозг которых обладает 302 нейронами, человеческий же мозг обладает 86 млрд нейронов, так что реализация задачи — дело, возможно, реальное, но в далеком будущем.
Не стоит забывать, что темпы развития современного мира приближают нас к пониманию того, что многое, казавшееся недостижимым, сегодня становятся явью. Данный тезис можно считать краеугольным камнем Четвертой промышленной революции. Стремительное развитие систем ИИ, Интернет вещей, киберфизические системы — все это было невозможно представить еще полвека назад. Лишь единичные случаи вольнодумства и прозорливости ума некоторых людей были предвестниками
будущего, наступающего уже сейчас, пугающего и восхищающего одновременно.
Четвертая промышленная революция и искусственный интеллект неразрывно связаны друг с другом. Однако сложно сказать, является ли искусственный интеллект инструментом грядущих преобразований в мире. На начальном этапе, безусловно, это действительно так. Но с учетом вероятности создания искусственного суперинтеллекта, превосходящего во много раз человеческий интеллект, вполне вероятно, что именно Четвертая промышленная революция становится инструментом развития ИИ. Эти рассуждения, как и многое, касающееся искусственного интеллекта, пока лишь предположения. Изменения социально-экономического ландшафта движущими силами Четвертой промышленной революции видны уже сейчас (благодаря сопряженной работе систем ИИ, киберфизических систем и интернета вещей). Перед человечеством стоит задача грамотного освоения результатов новой промышленной революции. Уже сейчас ясно, что роль человека в будущем будет меняться — и как сотрудника, и как личности. Эти изменения, наверняка, будут достаточно болезненными, однако такова цена прогресса. Одно можно сказать точно: с учетом всех возможных вариантов развития человечества, созданный в будущем искусственный сверхинтеллект будет величайшим изобретением и труднейшим испытанием, с которым придется столкнуться человечеству.
Сегодня трудно (скорее, невозможно) точно представить себе все последствия для общества и для мира в целом развития Четвертой промышленной революции Попробуем остановиться на некоторых весьма вероятных вызовах для общества развития систем ИИ.
Безусловно, с точки зрения размеров, темпов развития и масштаба изменения под влиянием Четвертой промышленной революции носят исторический характер. К. Шваб отмечает: «Развитие и внедрение новейших технологий связаны с неопределенностью и означают, что мы пока не имеем представления, как в дальнейшем будут развиваться преобразования, обусловленные этой промышленной революцией»6. Можно согласиться с автором, который утверждает: «Характер происходящих изменений настолько фундаментален, что мировая история еще не знала подобной эпохи — времени как великих возможностей, так и потенциальных опасностей»7.
Как отмечает ответственный секретарь Петербургского международного экономического форума А. Кобяков, Четвертая промышленная революция открывает перед мировой экономикой широчайшие возможности роста, но и одновременно ставит абсолютно новые вызовы. Развитие технологий и новых производственных схем ломает существующие экономические структуры, компании вынуждены подстраиваться под изменяющиеся запросы потребителя, но при этом возникает парадокс, когда экономика может расти, а безработица при этом увеличиваться за счет новых интел-
6 Шваб К.Четвертая промышленная революция. М., 2016. С. 42.
7 Там же. С. 10.
лектуальных систем, заменяющих трудоспособное население. Так, по оценкам аналитиков, автоматизация производства в одной лишь Германии в среднесрочной перспективе может привести к сокращению около 610 тыс. рабочих мест. Экономика, основанная на новых реалиях, нуждается все больше в высококвалифицированных специалистах, создающих новые технологии, и все меньше в низкоквалифицированных рабочих. Подобная тенденция усиливается со временем, распространяя свое влияние не только на отрасли хозяйства тех или иных стран, но и на целые макрорегионы8.
Принципиальные изменения под влиянием Четвертой промышленной революции можно отметить, прежде всего, в экономике, в частности, изменятся правила конкуренции. В условиях Четвертой промышленной революции конкурентоспособными смогут быть только инновационные компании и страны, для чего они должны внедрять инновации во всех их формах. Уже сегодня инновационные компании являются наиболее успешными в глобальной экономике, но они составляют исключение.
Важным последствием развития новой промышленной революции является изменение самого понятия «творческий труд». Результаты последнего опроса газеты «The New York Times» показали, что при чтении двух сходных текстов уже сегодня невозможно определить, какой написан человеком, а какой — роботом. Технологический прогресс развивается такими темпами, что к середине 20-х годов нынешнего века 90% текстов новостей будут создаваться алгоритмом по большей части без вмешательства человека (конечно, за исключением разработки самого алгоритма)9.
Как и Третья промышленная революция, нынешняя способна поднять уровень доходов и улучшить качество жизни населения всего мира. В то же время экономисты Э. Бринолфсон и Э. Макафи отмечают, что Четвертая промышленная революция может привести к увеличению неравенства. Перемещение все большего числа работников в высокотехнологичные отрасли может привести к увеличению разрыва между доходностью капитала и оплатой труда10.
К обострению социальных проблем может привести также широкое распространение цифровых технологий. Уже сегодня более 30% населения планеты используют социальные медиа-платформы для общения, обучения и обмена информацией. В идеальном мире это могло бы расширить возможности для межкультурного взаимопонимания, однако в реальном — может порождать нереалистические ожидания успеха человека или группы, способствовать развитию экстремальных идей и идеологий.
Возможным следствием развития Четвертой промышленной революции может быть увеличение продолжительности жизни населения. Поскольку уже сегодня в развитых странах ожидаемая продолжительность
8 Кобяков А. Вызовы XXI века: Как меняет мир Четвертая промышленная революция // РБК. 2016. 12 февр.
9 The New York Times. 2015. March 03.
10 Schwab K. The Fourth Industrial Revolution: What It Means and How to Respond // Foreign fairs. 2016. Nov. 18—20.
жизни более четверти детей — сто лет, необходимо будет пересмотреть такие определения, как трудоспособный возраст, пенсионный возраст и индивидуальное планирование жизни11.
Важное следствие текущей промышленной революции — изменение самого труда человека. Условием этого является изменение человека, его знаний, способностей, умения и желания постоянно учиться. Как отмечают К. Фрей и М. Осборн, в подавляющем большинстве случаев слияние цифровых, физических и биологических технологий будет способствовать усовершенствованию человеческого труда и когнитивной деятельности. То есть лидерам (начальников не будет) придется готовить кадровые ресурсы нового типа, развивать модели образования для нового вида работы, а также создавать взаимосвязанные и интеллектуальные машины с постоянно расширяющимися возможностями12. Ожидается, что уже в 2020 г. больше всего будут востребованы следующие качества и умения человека:
— решение сложных проблем (36% общего спроса)
— навыки общения (19% общего спроса)
— навыки обработки данных (18% общего спроса)
— системные способности (17% общего спроса)13.
Конечно, в инновационных компаниях, где руководителем является не босс, а лидер, у которого нет подчиненных, а есть ведомые, уже сегодня востребованы сотрудники с вышеназванными навыками. Но таких компаний в мире сегодня меньшинство. В ближайшее время (через 3—5 лет) лидерский менеджмент и творческий, а не исполнительский подход сотрудника к своему делу станут обязательными условиями конкурентоспособности компании. Основным производственным фактором будет не капитал, а кадровый потенциал. Именно дефицит компетентных сотрудников, а не капитала, будет сдерживать развитие инноваций, конкурентоспособности и роста компаний. Уже сегодня многие руководители компаний в России и за рубежом отмечают, что самой трудная проблема — найти и удержать творческих сотрудников. Если в конце XX в. говорили о борьбе за таланты, то в начале XXI — о войне за таланты.
Важным следствием внедрения технологий Четвертой промышленной революции будет, несомненно, снижение доходов большинства населения. При росте спроса на высококвалифицированных специалистов резко уменьшится спрос на работников низкой квалификации. В итоге не только возрастет безработица, но и произойдет размывание среднего класса.
Что можно сделать уже сегодня для адаптации к вызовам Четвертой промышленной революции? Пока мы точно не знаем, как она будет развиваться, но можно предположить, что ответ должен быть комплексным и всесторонним. Участвовать в подготовке адекватного ответа вызовам ре-
11 Национальная статистическая служба Великобритании. «Прожить до 100 лет». 11 декабря 2013 г. Цит. по: Шваб К. Указ. соч. С. 47.
12 См.: ШвабК.Указ соч. С. 128.
13Тамже. С.116.
волюции должны все заинтересованные стороны глобальной политики: государственный и частный сектор, научные круги, гражданское общество14.
Важнейшую роль в этом процессе играет образование. В российских инновационных институтах (Российская венчурная компания — РВК, Агентство стратегических инициатив — АСИ) сформировалось четкое понимание необходимости преодоления зависимости экономики страны от «нефтяной иглы» вместе с пониманием важности не только прогнозирования будущего, но и его созидания. Так, одна из последних инициатив — Национально-технологическая инициатива, проект, нацеленный на формирование принципиально новых рынков и создание условий для глобального технологического лидерства России к 2035 г. Особые задачи в нем возложены на плечи современных университетов, которые приобретают новую функцию — предпринимательскую (иначе, университеты 3.0) и должны создать на своей базе опережающую на 10—15 лет культуру и экономическую среду. Только тогда учебные заведения начнут готовить людей к будущему, а не к прошлому. Разумеется, это будет важнейшим условием адаптации России к вызовам Четвертой промышленной революции.
Рассмотрим возможности развития России и Китая в современных условиях и в ближайшие 10—15 лет.
Отставание, накопившееся за время предыдущих промышленных революций, вместе с неразрешенными институциональными проблемами (переход от не до конца сформировавшейся рыночной экономики к государственному капитализму, высокий уровень коррупции, практическая несменяемость власти, высокий уровень давления на малый бизнес, отсутствие независимого суда, неработающий институт частной собственности, отсутствие независимых СМИ, общей открытости, проблемы в международных отношениях) стало более чем серьезным препятствием на пути России к адаптации к вызовам Четвертой промышленной революции. Безусловно, осознание этих проблем — уже шаг вперед. Сегодня в России сформировалась неполноценная двойная спираль, где академия и бизнес переплетаются с государством, но не дотягиваются друг до друга.
Готова ли Россия к наступлению Четвертой промышленной революции? Скорее нет, чем да. Развитию мешает важная роль государственного аппарата, подавление малого бизнеса, постоянная утечка человеческого капитала, прежде всего талантливых специалистов, связанная с отсутствием условий для творческой работы, нехватка передового оборудования. Еще не все потеряно, но пройдет несколько лет, и мы можем потерять доступ к ряду отраслей. Поэтому в рамках Четвертой революции сегодня для России актуальны следующие задачи:
— сохранение и наращивание текущих технологических наработок;
— привлечение подрастающего поколения к образовательным и исследовательским программам, создание условий для реализации его потенциала в России;
14 Schwab X. Op.
— развитие инвестиционного климата для привлечения частного капитала в высокотехнологические отрасли;
— открытость и конкурентоспособность на международном рынке15.
В 2015 г. Россия заняла 12-е место в рейтинге самых инновационных экономик мира, по мнению аналитиков Bloomberg. Были исследованы 50 стран. По этому параметру Россия обошла Австрию, Норвегию, Бельгию, Великобританию, Канаду, Китай и ряд других стран. Лидерами стали Южная Корея, Германия и Швеция. Рейтинг составлялся на основе семи критериев: расходы на инновации, добавленная стоимость при производстве, продуктивность научной деятельности, эффективность научных центров, концентрация исследований, индекс регистрации патентов, плотность высокотехнологичных компаний16.
Китай учитывает вызовы Четвертой промышленной революции. Много средств вкладывается в робототехнику и SD-принтеры, в развитие искусственного интеллекта. «В конце концов, Китай — родина самого мощного суперкомпьютера в мире», — говорит А. Нолан, старший аналитик отдела инноваций Организации экономического сотрудничества и развития (ОЭСР)17. По данным С.Ю. Глазьева, Китай занимает 1-е место по экспорту наукоемкой продукции. Уделяя большое внимание развитию науки, Китай обошел Россию по числу ученых в 2 раза.
Подводя итоги, можно привести слова Дж. Кейнса, сказанные еще в 1931 г., когда великий ученый предупреждал о широком распространении технологической безработицы, «поскольку открытие способов экономного использования труда опережает темпы выявления новых применений труда»18. Тогда его предупреждения не подтвердились. Но что, если на этот раз они сбудутся?
СПИСОК ЛИТЕРАТУРЫ
КейнсДж. Экономические возможности для наших внуков // Эссе об убеждениях. Нью-Йорк, 1931.
КобяковА. Вызовы XXI века: Как меняет мир Четвертая промышленная революция // РБК. 2016.12 февр.
Комиссаров А. Четвертая промышленная революция // Ведомости. 2016.25 нояб.
Кондорсе Ж. А. Эскиз исторической картины прогресса человеческого разума. М., 2010.
Никитин А. Четвертая промышленная революция //Коммерсант. 2016.22 февр.
Черняк Л. Платформа Интернета вещей // Открытые системы. СУБД. 2012. № 7.
Шваб К. Четвертая промышленная революция. М., 2016.
15 См.: Комиссаров А. Четвертая промышленная революция //Ведомости. 2016. 25 нояб.
16 Forbes. 2016. Jan. 19..
17Цит. по: Никитин А. Четвертая промышленная революция // Коммерсант. 2016. 22 февр.
18 КейнсДж. Экономические возможности для наших внуков // Эссе об убеждениях. Нью-Йорк, 1931.
Adviser T. Интернет вещей, IoT, M2M. Прогноз развития 2016—2021 Ericsson. URL: http://www.tadviser.ru/index.php/
Gartner Inc, "Newsroom". STAMFORD, Conn., Jan. 26. URL: 2015http://www. gartner.com/newsroom/id/2970017
IBM. Developer workers. Киберфизические системы и разумные города. URL: http://www.ibm.com/developerworks/ru/library/ba-cyber-physical-systems-and-smart-cities-iot/index.html
Schwab K. The Fourth Industrial Revolution: What it Means and How to Respond // Foreign Affairs. 2016. Nov. 18-20.
