CC BY
98
■ ■ ■ Интернет вещей: проблемы социальной экспертизы
Юдина М.А.
ЮДИНА Мария Александровна - соискатель факультета государственного управления Московского государственного университета им. М. В. Ломоносова. Москва, Российская Федерация. E-mail: [email protected].
Аннотация: Данная статья посвящена социологическому анализу Интернета вещей, совокупности новейших технологий, объединяющих разнообразные объекты материального мира в единую взаимосвязанную сеть. В работе данные технологии рассматриваются с использованием акторно-сетевой теории, оценивается их место в эволюции интернета, действующие методы регулирования его работы в развитых странах и роль некоммерческих объединений лидеров рынка технологий в создании для них подходящей экосистемы.
Интернет вещей даст возможности минимизировать простои и вредные выбросы, в разы повысить эффективность и даже вернуть производство в развитые страны с соответствующим увеличением количества рабочих мест в инновационном секторе. Подобные перспективы позволили лидерам рынка убедить правительства многих развитых стран свести регулирование нарождающейся отрасли к минимуму. Это стратегически опасно, учитывая потенциальные масштабы технологической безработицы и серьезные проблемы с безопасностью личной информации в мире, где вещи будут собирать данные о своих хозяевах. Интернет вещей может лечь в основу фрагментации общества и одновременно с этим изменить наше понимание реальности за счёт равенства предметов и людей во многих аспектах. Последнее провозгласили сторонники «поворота к вещам», убежденные, что социологии пора обратить должное внимание на объекты, значимость которых в социальных взаимодействиях продолжает расти, а с развитием технологий Интернета вещей и искусственного интеллекта выходит на фундаментально новый уровень.
В этой связи назрела необходимость серьезного государственного контроля за развитием технологий на основании социальной экспертизы. Также в работе предложены возможные пути вовлечения гражданского общества в решение надвигающихся социальных проблем, связанных с внедрением интернета вещей.
Ключевые слова: Интернет вещей, цифровое неравенство, технологическая безработица, эволюция интернета, персональные данные, государственное регулирование технологий, социальные последствия развития технологий, акторно-сетевая теория, цифровой детокс
Для цитирования: Юдина М.А. Интернет вещей: проблемы социальной экспертизы // Коммуникология. Том 5.№2.С.50-67 DOI 10.21453/2311-3065-2017-5-2-50-67
На заре своего появления Интернет был военной разработкой для безопасной передачи данных, но сегодня - это открытое коммуникационное пространство, доступ к которому ООН в 2011 году признала базовым правом человека. Весьма характерно, что при принятии соответствующей резолюции пред-
ставители России и Китая высказались против возможности «получать и распространять информацию и идеи любыми средствами и независимо от государственных границ», но предложенные правки не были приняты. Несколько утрируя, можно сказать, что свободу информации сочли более значимой ценностью по сравнению с национальным суверенитетом. Учитывая особую роль информационно-коммуникационных технологий (далее ИКТ) в экономике и обществе, любые изменения в работе интернета, а тем более прогнозы по поводу его будущего - предмет общественных дискуссий. Интернет-зависимость, уход в виртуальную реальность с серьезными отклонениями в живом общении, разнообразные преступления в интернет-пространстве - вот лишь несколько наиболее обсуждаемых проблем. Если психологов интернет беспокоит как источник новых болезней и конфликтов, то в социологии наиболее обсуждаемой проблемой является новая форма неравенства - цифровое (оно же - информационное). Последнее изначально понималось как неравенство в доступе к ИКТ, и в первую очередь к интернету, но набирает популярность более широкая трактовка, включающая также неравенство в навыках, необходимых для использования подобных технологий (второй уровень цифрового неравенства, или усугубляющийся разрыв). Указанные вопросы кажутся новыми только на первый взгляд, по сути они - естественное продолжение извечных социальных проблем в новой, более технологичной форме. Очередной виток в развитии интернета обещает радикальные изменения, которые не только расширят горизонт человеческих возможностей, но и принесут с собой принципиально новые вызовы. Оценить подобные социальные последствия - цель настоящей статьи.
Эволюция Интернета
В настоящее время наиболее популярные изменения во всемирной паутине - это развитие Веб 2.0 (калька с английского Web 2.0) и Интернет вещей. Несмотря на то, что словосочетание «Веб 2.0» напоминает название программы с номером версии, термин используется для обозначения не технической инновации, но интернет-ресурсов, в создании и развитии которых ключевую роль играют их пользователи. С ростом их популярности социальные сети и блоги стали коммерциализироваться, даже появилась профессия по их ведению. Важно не только умение выгодно описать компанию, позиционировать её на различных платформах, но и «уметь работать с негативом», по сути, появилась новая интернет-форма пиара. После того, как первая волна ажиотажа схлынула, стало ясно, что работа с социальными сетями и блогами - полезное дополнение, но не равнозначная замена традиционному маркетингу, роль социальных сетей для бизнеса серьезно переоценили. Хотя Веб 2.0 и не технологический прорыв в строгом смысле слова, широкая популярность подобных ресурсов среди пользователей по всему миру привела к признанию их значимости многими IT специалистами. Так, основатель Альянса IPSO, глобального форума, работающего над созданием Интернета вещей на основе открытых стандартов, П. Веттер-
вальд считает Веб 2.0 одним из ключевых элементов третьей волны развития интернета [2], наряду с «облачными» вычислениями. Он выстроил следующую хронологию развития интернета:
• первая волна - «создание связи», 1990 год, ключевые технологии - электронная почта, браузер и поиск; 3 миллиона пользователей;
• вторая волна - «бизнес» (сетевая экономика), 1997 год, ключевые технологии - электронная коммерция и цифровая цепочка поставок; 76 миллионов пользователей;
• третья волна - «люди» (связи, сообщества, обмен мнениями и впечатлениями, «глобальный мозг»), 2004 год, ключевые технологии - Веб 2.0, социальная мобильность, «облака», видео, совместная работа; 2,4 миллиарда пользователей, включая вещи;
• четвертая волна - «вещи» (связь между ранее не связанными большими данными и аналитикой), 2010 год, ключевые технологии - всюду сенсоры, межмашинное взаимодействие, «повсеместный» интеллект, движение данных, безопасность;
• пятая волна - «Конвергенция» (цифровое общество, сингулярность, «чело-векомашина»), с настоящего времени по 2020 год ключевые технологии - новое поколение приложений и сенсоров, встроенных или незаметных надеваемых устройств, «мудрость» больших данных, улучшение предсказуемости результатов.
В хронологии П. Веттервальда четвертую и пятую волны объединяет Интернет вещей. В отличие от Веб 2.0, это целый спектр технологических новшеств, направленных на расширение возможностей предметов в цифровом взаимодействии, их более эффективная совместная работа вплоть до полного исключения человека из множества операций. Именно Интернет вещей многие называют ключевым элементом в новом этапе развития производства - четвертой индустриальной революции. На международном форуме IEEE об Интернете вещей 2015 года П. Веттервальд назвал Интернет вещей интеллектуальной связью физических устройств, ведущей к грандиозным достижениям в эффективности, росту бизнеса и качества жизни [2].
Что такое Интернет вещей?
Впервые концепция Интернета вещей была представлена К. Эштоном в 1999 году на презентации для руководства Procter&Gamble [3]. В ней он рассказал, как внедрение радиочастотных меток в товары сможет изменить систему управления логистикой в корпорации [4]. Но временем настоящего рождения Интернета вещей считаются 2008-2009 годы, когда количество подключенных к интернету устройств превысило число людей, пользующихся всемирной паутиной. Отмечу, что изначально это время было обозначено в исследовании консалтингового подразделения американской корпорации Cisco IBSG, но сегодня уже считается общеизвестным фактом. Р. Виола, директор Генерального Директората ЕС по вопросам подключения в Европейской Комиссии, считает, что
нужно идти дальше: «Каждый объект должен быть подключен и взаимодействовать с другими объектами и людьми» [5]. По прогнозам президента и главного исполнительного директора GE Power С. Болза, промышленный интернет будет в два раза больше нынешнего интернета пользователей [6]. Почему так важно обеспечить полное взаимодействие всех предметов? На чём основана уверенность разработчиков и политических деятелей, продвигающих идею Интернета вещей как нового источника роста мировой экономики.
У понятия «Интернет вещей» много определений, часто его описывают через конкретные технологические примеры, что вносит ещё большую путаницу. На сайтах IT-специалистов нередко можно встретить жаркие споры о том, что уже можно отнести к новому уровню интернет-коммуникации, а что - прошлый технологический век, обычное межмашинное взаимодействие без фундаментально новых, прорывных решений. Например, дискуссия на знаменитом Habrahabr. ru о статье «Интернет вещей - миф или реальность?» [7].
Достаточно полное определение интернета вещей дает И. Пасько: «Это концепция подключения к интернету бытовых предметов, которые благодаря этому могут взаимодействовать друг с другом или с внешней средой, собирать полезные данные и на их основе самостоятельно совершать действия и операции, без участия человека» [4]. Подобная самостоятельность - предмет гордости разработчиков, но также и повод для многочисленных споров. Для технических специалистов в первую очередь важны проблемы безопасности передачи и использования данных пользователей. Философов беспокоит сам факт обретения неодушевленными предметами способностей, характерных для разумных существ. О. Ю. Никифоров считает, что интернет вещей «выступает своеобразным мостом между нами и техникой в новом гибридном мире» [8, с. 26], то есть, новый уровень развития интернета претендует на фундаментальные изменения нашей реальности. Размывание границ между реальным и виртуальным может иметь далеко идущие последствия для человечества, и было бы безрассудно принять подобного рода технологии без гуманитарной экспертизы. Попробуем оценить возможные задачи, встающие перед социологией в данном анализе.
Интернет вещей с точки зрения социологии
Социальное неравенство возможно только между людьми, и хотя защитники животных во многих развитых странах смогли добиться расширения их прав, уровень когнитивной деятельности подавляющего большинства животных не настолько высок, чтобы их признали субъектами, равными человеку. В это трудно поверить, но нельзя исключить возможность того, что однажды синергия интернета вещей и искусственного интеллекта приведет к созданию такого субъекта. На самом деле такое «равенство» уже наступило, но не в правовом аспекте, а в вопросах создания и обработки информации: «Для Интернета вещей человек и устройство являются равнозначными акторами» [9, с. 24].
В области исследований науки и технологий выделился особый подход для рассмотрения подобных специфических отношений между людьми и предметами, также называемый акторно-сетевой теорией (Actor-network theory, ANT). Одним из основных её положений является понимание объектов как активных единиц социальных взаимодействий. Традиционно действующими лицами были люди, это отразилось в терминологии, в понятиях «субъект», «актор». Б. Латур ввел в социологический оборот более нейтральный термин «актант», который происходит из семиологии и «позволяет распространить область социального исследования на всех взаимодействующих, вступающих в ассоциации и обменивающихся своими свойствами существ» [10, с. 128]. Таким образом, актант «понимается как предмет или существо, совершающее действие или подвергающееся действию» [10, с. 26]. Исходя из данного определения, элементы интернета вещей можно смело назвать актантами, но несколько сложнее ситуация с социологической трактовкой понятия «сети» как «характеристики глобализованного, распределенного в пространстве и времени взаимодействия, поделенного на дискретные агентно-сти и опосредованного объектами» [10, с. 26] (такая позиция соответствует трактовке акторно-сетевой теории Б. Латуром и М. Каллоном).
Точно такое же определение можно дать современной интернет-коммуниикации, которая так же глобальна, возможна между людьми в разных временных поясах и опосредована объектами (компьютерами, серверами и пр.). Мы рискуем столкнуться с путаницей между понятиями буквальной технической сети интернет и социологической характеристикой с тем же названием, но есть и другая проблема - не совсем понятно, можно ли считать межмашинное взаимодействие опосредованным? Когда два человека общаются в интернете, можно смело утверждать, что их коммуникация опосредована техническими средствами. Но в случае межмашинного взаимодействия привычное и понятное «опосредование», определяемое по одушевленности элементов взаимодействия, может показаться неуместным. Современная техника стремительно «осваивает» когнитивные функции, и хотя до уровня человека машинам ещё далеко, вполне возможно, что скоро «интеллектуальное общение» двух неодушевленных объектов в рамках Интернета вещей будет признано до определенной степени подобным социальному взаимодействию людей. В этом примере роль «опосредователя» можно было бы легко отнести лишь к элементам, обеспечивающим связь, например, проводам и интернет-серверу. Вот только в этой пародии на живое общение сервер также может оказаться в определенной степень «сознательным», если на нём обрабатываются данные, то он тоже некоторым образом «мыслит», а провода можно считать частью «жизнеобеспечения» компьютера, ведь он не может работать без электричества. Получается проблема взаимодействия без опосредования, которую способна нивелировать установка акторно-сетевой теории на равную значимость всех элементов гетерогенной сети (сеть вещей и людей).
В. Вахштайн полагает, что дискуссионной акторно-сетевую теорию делает «материалистический поворот», или «поворот к вещам», и заявления его сторонников о необходимости очередной перестройки социологии как дисциплины.
Указанная выше проблема опосредования возникла не на пустом месте - ещё во времена появления водораздела на естественные науки и науки «о душе» объекты оказались вытеснены из социологии, центральной проблемой которой оказались вещи нематериальные - отношения, роли в обществе, для которых вещи выступали лишь как фон. По Б. Латуру, в системе координат классической социологической теории «объекты могут выступать теперь только в трех качествах: как невидимые и надежные инструменты, как детерминирующая инфраструктура и как проекционный экран» [10, с. 184]. Мы назвали детерминирующую инфраструктуру простым «опосредованием» взаимодействия и пояснили выше, как это становится проблемой в Интернете вещей. Также не так-то просто свести к инструменту интеллектуальные системы вроде «умного дома», который претендует по своим возможностям хотя бы на роль «помощника». Роль проекционного экрана может измениться меньше других и даже усилиться, если всё больше людей будут проецировать своё понимание взаимодействия на то, что происходит между элементами системы Интернета вещей.
На наш взгляд, проблема указанного выше теоретического поворота вышла за рамки сферы научного обсуждения, поскольку на этот раз спор социологов о роли вещей совпал с эрой смартфонов и одержимости социальными сетями. Врачи, художники и философы вместе призывают вновь начать ценить реальное общение, проводить время с близкими, отдыхать от техники. Их опасения понятны - вещи не просто претендуют на равенство. К. Кнорр-Цетина вводит понятие «объектуализации», которое «в своем крайнем варианте подразумевает, что объекты сменяют людей в роли посредников и партнеров по взаимодействию» [10, с. 268]. По сути, именно такой «крайний вариант» и является конечной целью интернета вещей, ведь homo sapiens действительно во многом проигрывает машинам. Как говорит сам создатель термина «Интернет вещей»: «у людей ограничено время, внимание и точность, а всё это означает, что они не очень хороши в сборе данных о вещах в реальном мире» [3].
Сбор информации чреват вмешательством в личное пространство и воровством персональных данных. Этот спектр проблем родом из «обычного» интернета людей и чаще всего мошенникам удается добиться своего именно благодаря человеческому фактору. Интернет вещей может стать даже более безопасным в этом вопросе. Вот только разработчики не собираются останавливаться на сборе информации. Интернет вещей сделает машины субъектами не только и даже не столько потому, что они смогут сами, без команды человека, передавать данные. «Важно, что эти системы получают право на принятие решений по изменению среды» [11, с. 42-43]. Вначале будут простые решения, вроде изменения температуры системой «умный дом» в связи со сменой сезона, но с развитием искусственного интеллекта вещи смогут освоить новые когнитивные функции. Машины уже вытеснили людей из многих профессий и даже целых отраслевых сегментов, но потерять работу на грязном токсичном производстве, медленно отравляющем организм, и лишиться достаточно комфортного офисного заработка в интеллектуальной сфере просто потому, что новая програм-
ма оказалась эффективнее, - это не одно и то же. Эксперт Microsoft Дж. Уитта-кер в лекции об Интернете вещей говорит прямо: «Наша индустрия очень хороша в уничтожении рабочих мест» [12]. А. Заман приходит к выводу, что Интернет вещей приведет к уничтожению множества рабочих мест, возвращению теперь уже полностью автоматизированного производства обратно в развитые страны и закрытию фабрик в развивающихся странах [13].
То, что информационно-коммуникационный прорыв, создание персонального компьютера и интернета вкупе с усиливающейся глобализацей изменят социальный ландшафт, предрекалось уже достаточно давно. В первую очередь следует отметить работы Д. Белла, создателя теории постиндустриального общества и французского социолога А. Турена, а также работы Дж.К. Гэлбрейта, отметившего экономические особенности нового индустриального общества. Особую роль технологий подчеркивает и З. Бауман: «Конечная цель техники, или ее телос, состоит в том, чтобы заменить естественный мир,... миром, на столько отзывчивым к нашим желаниям, что фактически он станет не более чем продолжением нашего «я»» [14]. Оригинальные трактовки общества постмодерна, ставшие культовыми, дают Э. Тоффлер в «Третьей волне», У. Бек в «Обществе риска. На пути к другому модерну» и Мануэль Кастельс в работе «Информационное общество: экономика, общество и культура». Последний писал о грядущей фрагментации общества, а развитие технологий Интернета вещей с автоматизацией производства имеет все шансы стать его основой. Сельские районы рискуют оказаться очень неразвитыми, тогда как города превратятся в закрытые смарт-сообщества только для избранных. В числе «сброшенных со счетов» окажутся жители тех развивающихся стран, чья экономика выиграла за счёт вывезенных в них промышленных производствах развитых стран. Не сразу, но дорогостоящие ныне «умные фабрики» станут дешеветь и из активов лидеров рынка постепенно станут более выгодной альтернативой для небольших компаний. Когда дешевая рабочая сила проиграет конкуренцию полностью автоматизированному производству, разумно будет вернуть промышленную составляющую бизнеса в развитые страны, чтобы быть ближе к потребителям. Исключением может стать Китай, так как с увеличением доходов населения эта страна также стала и огромным рынком сбыта.
Регулирование Интернета вещей
Профессор и директор инициативы MIT по цифровой экономике Э. Бринол-фссон на одной из дискуссий в Давосе назвал идею технологической безработицы самым большим заблуждением [15], по его мнению государства совершают большую ошибку, думая только о потере рабочих вместо того, чтобы понять, что технологии также их создают. Он призвал всех сосредоточиться на возможностях и совместно работать над развитием навыков и стратегией рынка труда. Хотелось бы, чтобы такой совет действительно взяли на вооружение, поскольку сегодня мало кто верит в возможность полностью остановить технологиче-
ский прогресс: на его стороне мощные бизнес-игроки и лидеры развитых стран, которые вкладывают миллионы в НИОКР. В условиях стремительно стареющего населения Европы всё острее становится кризис пенсионных систем, если он совпадет с волной технологической безработицы, нагрузка на бюджет многих стран может стать критической. Мало просто повышать пенсионный возраст, явно вырос спрос на переквалификацию, и этот тренд наверняка усилится: от одной только полной автоматизации производственного цикла придется адаптироваться под новые условия множеству рабочих. Если верить рекламным роликам крупнейших автомобильных корпораций, встающих на путь «умного производства», то у многих людей есть потенциал, чтобы перестроиться, адаптироваться к работе с умными машинами, другими словами остаться в экономике в качестве активных субъектов. Задача государства - не слепо следовать призывам бизнеса по созданию благоприятной почвы для технологизации производства, но поощрять социально ориентированную модернизацию производства. Можно ввести налоговые послабления для тех работодателей, которые сами обучают сотрудников работать с новыми машинами, вкладывают средства в развитие их технических навыков подобно тому как сегодня поощряются компании с высокими экологическими стандартами (например, известная практика вводить разные налоги на выбросы, провоцируя устанавливать лучшие очистительные системы для минимизации производственных выбросов в экосистему).
Интернет вещей обещает стать основой экономического роста, поскольку взаимный обмен информацией между предметами позволит значительно увеличить эффективность их эксплуатации, в частности, сократить простои на производствах, свести к минимуму вредные выбросы автомобилей за счет решения проблемы пробок. Машины, которые подстраиваются под маршруты движения друг друга, - одна из наиболее обсуждаемых тем на форумах, посвященных Интернету вещей. Нельзя забывать и о системах электронного правительства: в Великобритании общая экономия от её применения может достигнуть 70 миллиардов фунтов стерлингов к 2020 году [16]. Понятно, что подобные заманчивые перспективы упрощают работу технологическому лобби развитых стран.
Самые радикальные сторонники инноваций выступают вообще против регулирования Интернета вещей: «Мы лишь хотим удостовериться, что попыток регулировать данную технологию в ее нынешнем состоянии осуществляться не будет» [17], - говорит Д. Ледук, старший директор по публичной политике Промышленной ассоциации программного обеспечения и информации. В США Федеральная торговая комиссия в своём докладе 2015 года об Интернете вещей в разделе «Рекомендации» прямо указала, что, так как отрасль находится пока на ранней стадии развития, то пока не требуется специальное ориентированное на неё законодательство [18]. ФТК ограничилась рекомендациями для разработчиков по обеспечению безопасности данных пользователей: советуют не собирать о пользователях больше необходимой информации и предоставлять последним возможность выбирать, какую личную информацию о себе разрешить использовать [19]. Следует отметить, что аналогичные меры были пред-
приняты Европой раньше, в 2014 году. В итоговом докладе Европейской Комиссии «Определение исследовательской и инновационной политики в отношении сочетания «облачных» данных и Интернета вещей» прогнозируется увеличение рыночной стоимости Европейского Интернета вещей до одного триллиона евро к 2020 году [20]. Доклад ЕС содержит гораздо больше рекомендаций, в том числе призывает повысить приоритетность Интернета вещей в программах развития союза в 2016-2018 году, увеличить инвестиции и работать над формированием у населения доверия и готовности к технологиям и «потенциальному риску цифрового неравенства в Европе» [21].
Превращение всех окружающих человека предметов в активные, способные самостоятельно действовать элементы Интернета вещей - очень сложная, глобальная задача хотя бы потому, что прежде сети создавались для специфических задач, даже унифицированные платформы для электронного документооборота предприятий «подгонялись» под конечного потребителя. Пользователи и раньше постоянно сталкивались с проблемами взаимного «недопонимания» между отдельными программами и платформами разных производителей, а Интернет вещей в своём «идеальном» глобальном масштабе предполагает, что все устройства смогут корректно друг с другом взаимодействовать. Как десятилетиями конкурировавшие производители смогут объединить усилия для создания такой системы - сам по себе интересный политико-социологический вопрос.
М. Кранц - Вице-Президент группы Корпоративных Технологий Cisco, обозначил следующие четыре сферы, в которых производителям необходимо добиться стандартизации для развития Интернета вещей [22]:
1. Эволюция современных IP и стандартов локальных сетей. Для реализации амбициозных планов по подключению всех предметов к сети интернет в первую очередь нужно найти способ присвоить им всем индивидуальные номера. Над стандартами и требованиями к новой системе идентификации работают ведущие специалисты сотен заинтересованных групп. Большие надежды возлагают на IPv6, новую версию протокола IP, которая использует адреса в 128 бит вместо 32, что позволит обеспечить уникальными адресами сетевого уровня не менее 300 млн. устройств на каждого жителя Земли1. Очень часто в публикациях об Интернете вещей все проблемы стандартизации сводятся к этому пункту, возможно, потому, что с понятием IP-адреса так или иначе сталкивалось большинство компьютерных пользователей.
2. Согласование отраслевых стандартов с IP и локальными сетями. Традиционно лидеры рынка разрабатывали стандарты каждый для своих протоколов и технологий, что и вызывало упоминавшиеся выше проблемы пользователей. Приходится вводить новые стандарты постепенно, обеспечивая их совместимость со всем многообразием существовавших до этого.
1 !Ру6 разработан Инженерным советом Общества Интернета. Это международная профессиональная организация, занимающаяся развитием и обеспечением доступности сети Интернет.
3. Создание основ горизонтальной архитектуры, то есть общей модели структуры, которая бы обеспечила взаимодействие между устройствами, контроллерами, сетями, компьютеризацией и хранением данных, приложениями и аналитикой.
4. Создание консорциума ключевых игроков рынка, чтобы прорабатывать основные «проблемные» точки. Если автоматизация XX века имела локальный характер, то теперь сети имеют глобальный размах и для выработки общих правил игры, технических протоколов и проработки других аспектов межмашинного взаимодействия разных производителей необходимы глобальные некоммерческие организации.
Сегодня подобного рода объединений уже существует достаточно много, рассмотрим одно из наиболее известных более подробно, чтобы понять роль некоммерческих организаций производителей в развитии технологий.
Консорциум промышленного Интернета (Industrial Internet ConsortiumTM, IIC) - некоммерческая организация, первоначально созданная компаниями AT&T, Cisco, GE, IBM и Intel, в которой, по данным И. Пасько, ныне входит около 170 организаций [4], включая также некоммерческие и представителей государственных структур. Задача консорциума - улучшить взаимодействие между конкурирующими компаниями для создания более качественных товаров и услуг в индустрии в целом. В уставе организации прописаны следующие пути для достижения данной цели [23]:
• применение существующих и создание новых вариантов использования практических приложений;
• разработка методик, эталонных архитектур, требований стандартизации и примеров внедрения для облегчения внедрения подключенных технологий;
• влияние на процесс разработки глобальных стандартов для Интернета и промышленных систем;
• проведение открытых форумов для обмена практическими идеями, методиками, опытом и знаниями;
• укрепление доверия к новым и инновационным методам обеспечения информационной безопасности.
Как мы видим, в представленном выше списке отсутствует пункт о социальном контроле технологий, есть лишь «укрепление доверия» к ним, а это, по сути, маркетинг или пиар, но никак не общественный контроль. Тем не менее, факт включения государственных и некоммерческих структур в список участников, отдельно прописанные для них особенности членства наряду с другими, оставляет надежду на то, что интересы общества в целом также учитываются. Важно и то, что Консорциум промышленного интернета - это не закрытый клуб лидеров рынка, в организации открыто членство и для небольших компаний, их права почти те же, что и у крупных игроков. Работа участников не сводится к выработке стандартов и обмена мнениями - создана площадка для испытания новейших разработок, так называемые «testbed» (испытательные стенды), любая компания может предложить и проверить на практике свою идею или решение.
Также в рамках организации предусмотрены награды за технические достижения в сфере Интернета вещей. В целом можно сделать вывод, что Консорциум промышленного интернета - не только организация стандартизации, это также создатель экосистемы для развития интернета вещей и перспективный социальный лифт для сотрудников небольших компаний, которые получают возможность заявить о себе, испытать смелые идеи за счет грантов организации на «испытательные стенды».
Если в США инициатором создания большинства организаций, ставящих своей целью развитие Интернета вещей, является бизнес, то в Старом свете «Альянс инноваций Интернета вещей» (The Alliance for Internet of Things Innovation (AIOTI)) создан по инициативе Европейской Комиссии. По всей видимости, именно особая роль государства в развитии НИОКР является причиной более жесткого контроля за применением технологий в ЕС. М. Леви говорит прямо, что существует разрыв между Европой и США [15], поскольку в ЕС очень жесткие правила использования личных данных, по сравнению с гораздо более открытыми США. Он также затронул другую проблему, связанную с использованием данных: многие компании, включая хозяев социальных сетей, зарабатывают на информации, бесплатно предоставленной пользователями. По словам Дж. Уиттакера, главный товар Google - его пользователи [24]. Корпорации действительно зарабатывают миллиарды на одной только контекстной рекламе, но большинство пользователей не отказываются из-за этого от удобных сервисов. Пока у инициативы за равное распределение богатства цифровой экономики слишком мало последователей, а значит радикальных изменений вряд ли удастся добиться в ближайшее время. Тем не менее нельзя сказать, что все пользователи - смиренные рабы своих привычек, неспособные отказаться от технологий, несмотря на проблемы со зрением и сном, дефицитом реального общения по причине зависимости от социальных сетей.
Цифровой детокс
Сегодня в нашей стране достаточно популярным стало западное явление Digital detox (digital (цифровой) и detox (избавление от токсинов, очищение)). В России в середине 2000-х годов К. Николаев первым ввел термин «цифровой детокс», означающий временное прекращение использования цифровых технологий для восстановления фокуса внимания [25]. Следует особо подчеркнуть временный характер подобной «детоксикации», поскольку это один из основных поводов для критики со стороны более радикально настроенных борцов с технозависимостью, считающих такие сугубо индивидуальные практики слабой полумерой - адепты детокса всегда в итоге возвращаются обратно в сеть. Учитывая, что доступ к интернету - сегодня признанное ООН неотъемлемое право и вне сети большей частью всё же остаются бедные слои населения, а не неолуддиты, мало кто ратует просто за отключение. Назрела потребность изменить правила игры, навязанные корпорациями, которым выгодна цифровая зависи-
мость даже с краткими периодами детокса, по сути подогревающего у многих желание поделиться накопившейся за время перерыва информацией (с её последующей умелой коммерциализацией хозяевами социальных сетей). Журналист Е. Морозов, изучающий воздействие технологий на политическую и общественную жизнь, призывает создавать подлинные социальные движения, которые сделают проблемы внимания и времени в онлайне частью своих политических программ [26]. Интересно сопоставить это с прогнозом П. Марша, который предполагает, что в результате новой промышленной революции автоматизация бизнеса и государственного сектора приведет к оттоку человеческого капитала в сектор гражданского общества. Учитывая, что Интернет вещей действительно имеет все шансы привести множество людей к технологической безработице, создание ими социальных движений, борющихся за свои права в цифровом мире, видится логичным развитием событий. С. Буссу на основании статистики Великобритании сделала вывод о том, что уже сейчас при общем оптимизме населения в отношении технологий наблюдается определенный скептицизм и обеспокоенность по следующим вопросам [27]. Проблемы приватности, безопасности и связанные с ними государственные регуляторы. Все общественные дискуссии подчеркивают необходимость большего вмешательства властей в развитие технологий для защиты интересов рядовых пользователей. Это не удивительно, учитывая приведенные данные о слабости, а иногда и полном отсутствии регулирования Интернета вещей.
Проблема контроля исследований: кто определяет приоритеты - в пользу коммерции или общественных интересов?
Проблема возможного усугубления неравенства в результате развития Интернета вещей также известна большинству населения: если кто-то сильно выиграет, то другие многое проиграют. Отметим и другой характерный момент: люди более образованные и финансово обеспеченные явно относятся более позитивно к происходящим изменениям.
С. Буссу полагает, что данные свидетельствуют в пользу понимания большинством населения потенциальных угроз технологий и отстаивает идею активного участия широкой общественности в контроле за нарождающимся Интернетом вещей. Этому могут поспособствовать научные фестивали, сайты для взаимодействия с общественностью, популяризация науки, в том числе в социальных сетях, которые можно сделать платформой для общественных дискуссий.
В нашей стране появление массовых движений по осуществлению контроля за развитием технологий Интернета пока что маловероятно в связи с небольшой долей информационной экономики в общей экономической системе (по сути, сосредоточенной лишь в городах федерального значения и частично охватывающей центральные города регионов). Тем не менее, перечисленные выше инициативы, рекомендованные С. Буссу, вполне возможны. Также внушает надежду нарастающая популярность цифрового детокса среди активных пользователей сети, выход книг, таких как «Интеллектуальный инсульт. Как в мире роботов
остаться человеком и не потерять себя», направленных на развитие более осознанного использования современных технологий, внушает надежду на лучшее.
Возможен ли цифровой детокс в мире победившего Интернета вещей? Не случайно критики сравнивают последний с паноптикумом - предметы обихода будут круглосуточно собирать о своих хозяевах информацию, передавая их компаниям-разработчикам как минимум для улучшения качества обслуживания. Если в интернет будущего перекочуют такие «грехи» интернета настоящего, как бесправие пользователей, получающих за размещение уникального контента лишь контекстную рекламу, то мы рискуем создать чрезвычайно несправедливое общество. «Оффлайн» уже стал новой ценностью, первыми цифровой детокс в качестве услуги предложили туроператоры. Сейчас большинству людей для отдыха от интернета не нужно никуда уезжать, но если государства и бизнес достигнут цели подключить все предметы к интернету, то мы по сути потеряем право на жизнь вне тотального информационного поля.
Выводы
Интернет вещей как технологическое достижение, способствующее оптимизации производственных процессов, имеет впечатляющие экономические перспективы, но, как и всякая автоматизация, несет в себе риски технологической безработицы. Предлагаемая Интернетом вещей экономия на издержках может серьезно снизить ценность человека в глазах работодателя. Конвергенция технологий искусственного интеллекта с Интернетом вещей может усугубить ситуацию, если равенство между людьми и машинами не ограничится базовыми способностями техники собирать и проводить минимальный анализ данных. Ситуация усугубляется общей тенденцией цифрового неравенства, грозящего серьезной фрагментацией общества. Лишь путем целенаправленной политики на рынке труда, способствующей преодолению неравенства в навыках, повышению доступности образования и ограничению ныне совершенно свободной возможности работодателей массово заменять сотрудников техническими «аналогами», можно преодолеть указанные проблемы. Но есть и менее очевидный вопрос о роли Интернета вещей в нашем отношении к реальному миру, ведь вещи теперь претендуют на равенство и право изменения окружающей среды. Учитывая надвигающиеся преобразования, следует проводить дополнительную работу по просвещению населения о новых технологиях, создавать площадки для общественных дискуссий, в том числе чтобы учесть мнение сознательно ограничивающих своё цифровое потребление людей. Подобно тому, как Веб 2.0 развивается благодаря пользователям, так же и Интернет вещей может стать союзником тех стран, где гражданское общество займет в отношении него проак-тивную позицию, как минимум будет вместе с некоммерческими организациями производителей работать над стандартизацией Интернета вещей для пользы общества в целом. Закончу первым принципом апологета акторно-сетевой теории Б. Латура: «Судьба фактов и машин находится в руках тех, кто ими будет
пользоваться в дальнейшем; их качества, соответственно, являются не причиной, а следствием коллективных действий»[28].
Источники
1. Асланьян А. ООН: право на Интернет - базовое право для всех http://ru.euronews. com/2016/07/05/un-denounces-disruption-of-internet-access-as-human-rights-violation (дата обращения 18.01.2017).
2. Patrick Wetterwald Internet Of Things: 10 years later. Facts and Vision http://wfiot2015.ieee-wf-iot. org/IEEE%20World%20forum%20I0T%20Patrick%20Wetterwald.pdf (дата обращения: 21.01.2017).
3. Kevin Ashton That 'Internet of Things' Thing: In the real world, things matter more than ideas. http://www.rfidjournal.com/articles/view?4986 (дата обращения 19.01.2017).
4. Пасько И. Что нужно знать об Индустрии 4.0 и Интернете вещей // Информационный ресурс theRunet, дата публикации: 21.09.2015. URL: http://therunet.com/articles/4826 (дата обращения 21.12.2016).
5. Standards and Architecture for the IoT. A path for convergence? Main outputs from the Workshop on IoT Standardisation and Architecture https://ec.europa.eu/digital-single-market/en/news/ standards-and-architecture-iot-path-convergence-main-outputs-workshop-iot-standardisation-and (дата обращения 22.01.2017).
6. Davos 2017 - Strategic Update: The Future of the Digital Economy https://www.youtube.com/ watch?v=atM7Q8aPRb4 время на видео 5:44 (дата обращения: 29.01.2017).
7. Интернет вещей - миф или реальность? https://habrahabr.ru/company/sap/blog/261045/ (дата обращения 17.01.2017).
8. Никифоров О.Ю. Подходы к пониманию Интернета вещей // Международное научное издание Современные фундаментальные и прикладные исследования №3(18). 2015.
9. Ястреб Н.А. Четвертая промышленная революция: глобальные промышленные сети и Интернет вещей. Инновационная политика и экономик // ИнВестРегион №4. 2014.
10. Социология вещей. Сборник статей под редакцией В. Вахштайна. М.: Издательский дом «Территория будущего», 2006.
11. Барышников П. Морфология технологической сказки: Интернет вещей и социальные дистанции// Социология власти. Том 27. № 1 (2015).
12. James Whittaker The Internet of Things https://www.youtube.com/watch?v= ci4kbCmEm0I&t=2695s время видео, когда звучит цитируемый текст 41:12 (дата обращения: 24.01.2017)
13. Social Impact of Internet of Things (IoT) - by Ahsan Zaman - Oxford University Lectures Debate https://www.youtube.com/watch?v=aFWI3jcKK1E (дата обращениия: 26.01.2017).
14. Bauman Z. Does the Richness of the Few Benefit Us All? Cambridge: Polity. 2013.
15. Davos 2016 - The Future of Growth: Technology-Driven, Human-Centred https://youtu.be/ QCvtv5VMskI?t=14m47s (дата обращения: 15.01.2017).
16. Корнилов П. Как переход правительства в цифровую эпоху может сэкономить 70 миллиардов фунтов стерлингов http://internetofthings.ru/gosudarstvo/48-kak-perekhod-pravitelstva-v-tsifrovuyu-epokhu-mozhet-sekonomit-70-milliardov-funtov-sterlingov (дата обращения 27.01.2017).
17. Корнилов П. Федеральная торговая комиссия США взялась за Интернет вещей http:// internetofthings.ru/gosudarstvo/78-federalnaya-torgovaya-komissiya-ssha-vzyalas-za-internet-veshchej (дата обращения: 27.01.2017).
18. Internet of things: privacy and security in a connected world. FTC Staff report 2015 Page 48 https://www.ftc.gov/system/files/documents/reports/federal-trade-commission-staff-report-november-2013-workshop-entitled-internet-things-privacy/150127iotrpt.pdf (дата обращения: 27.01.2017).
19. The 'Internet of Things': Legal Challenges in an Ultra-connected World http://www. mhc.ie/latest/blog/the-internet-of-things-legal-challenges-in-an-ultra-connected-world?utm_ source=Mondaq&utm_medium=syndication&utm_campaign=View-Original (дата обращения: 27.01.2017).
20. The Internet of Things https://ec.europa.eu/digital-single-market/en/internet-things (дата обращения 26.01.2017).
21. Definition of a Research and Innovation Policy Leveraging Cloud Computing and IoT Combination Page 79 https://ec.europa.eu/digital-single-market/en/news/definition-research-and-innovation-policy-leveraging-cloud-computing-and-iot-combination (дата обращения 26.01.2017).
22. Maciej Kranz Digital Transformation. IoT Meets Standards, Driving Interoperability and Adoption - July 21, 2015 http://blogs.cisco.com/digital/iot-meets-standards-driving-interoperability-and-adoption (дата обращения 22.01.2017).
23. AT&T, Cisco, GE, IBM и Intel сформировали Консорциум промышленного Интернета http://www.cisco.com/c/ru_ru/about/press/press-releases/2014/03-033114b.html (дата обращения: 25.01.2017).
24. Jennifer Warnick James Whittaker How to change the way people think in four easy steps https://news.microsoft.com/stories/people/james-whittaker.html (дата обращения: 23.01.2017).
25. Николаев К., Абдуллаева Ш. Интеллектуальный инсульт. Как в мире роботов остаться человеком и не потерять себя. М.: Изд. Манн, Иванов и Фербер, 2016. Стр. 74.
26. Цифровой словарь. Как интернет и гаджеты меняют нас. Критика цифрового деток-са — аргументы киберреалистов против отключения от сети в тех условиях, которые предложены пользователям сегодня. http://digitalvocabulary.ru/digital-detox/#a2 (дата обращения: 18.01.2017).
27. Sonia Bussu The Internet of Things: the case for public voice Sciencewise Expert resource center July 2014 Стр. 4-5 http://www.sciencewise-erc.org.uk/cms/assets/Uploads/2014-11-14IOTEdited-for-publicationFinal.pdf (дата обращения: 27.01.2017).
28. Латур Б. Наука в действии: следуя за учеными и инженерами внутри общества. Пер. с англ. К. Федоровой; науч. ред. С. Миляева. - СПб.: Издат. Европейского университета в Санкт-Петербурге, 2013.
■ ■ ■ Internet of things: problems of social expertise
Yudina M.A.
YUDINA Maria Alexandrovna, postgraduate student of the Faculty of public administration of the Lomonosov State University of Moscow. Moscow, Russian Federation. E-mail: [email protected].
Abstract. The article is devoted to sociological analysis of Internet of things, the latest technologies, which combine a variety of objects of the material world into a single interconnected network. In the paper the technologies are examined using actor-network theory, their place in the evolution of the Internet is evaluated as well as the existing methods of regulation of its work in developed countries and the role of non-profit associations market leaders of technology in the creation of a suitable ecosystem.
The Internet of things will allow to minimize the downtime and harmful emissions, significantly improve efficiency and even bring back manufacturing to developed countries with a corresponding increase in the number of jobs in the innovation sector. Such a perspective has allowed the market leaders to convince the governments of many developed countries to reduce regulation of the nascent industry to a minimum. It is strategically dangerous, given the potential extent of technological unemployment, and serious problems with the security of personal information in a world where things will collect data about their owners. The Internet of things can form the basis of the fragmentation of society and at the same time to change our understanding of reality at the expense of equality of objects and people in many aspects. Such equality was proclaimed by supporters of the "turn to things", convinced that sociology's time to pay due attention to objects, and their significance in social interactions continues to grow, and with the development of technology of Internet of things and artificial intelligence comes on a fundamentally new level.
In this regard, there is a need for serious state control over the development of technologies on the basis of the social assessment. The article also offers possible ways of involving civil society in the solution to the looming social problems associated with the implementation of the Internet of things.
Keywords: Internet of things (IoT), digital divide, technological unemployment, evolution of the internet, personal data, governmental regulations on technologies, social consequences of technical development, actor-network theory, digital detox.
For citation: Yudina, M.A. Internet of things: problems of social expertise. Communicology. Volume 5. No.2. Pp. 50-67 DOI 10.21453/2311-3065-2017-5-2-50-67
References
1. AslanianA. Pravo na inrenet kak bazovoye pravo [Electronnyi resurs]. URL: http://ru.euronews. com/2016/07/05/un-denounces-disruption-of-internet-access-as-human-rights-violation (data obraschenia 18.01.2017) [Aslanian A. UN: The right on the Internet as a basic right for all http:// ru.euronews.com/2016/07/05/un-denounces-disruption-of-internet-access-as-human-rights-violation(accessed on 18.01.2017)]. (In Russ.).
2. Patrick Wetterwald Internet Of Things: 10 years later. Facts and Vision http://wfiot2015.ieee-wf-iot.org/IEEE%20World%20forum%20I0T%20Patrick%20Wetterwald.pdf (access on 21.01.2017).
3. Kevin Ashton That 'Internet of Things' Thing: In the real world, things matter more than ideas. http://www.rfidjournal.com/articles/view?4986 (access on 19.01.2017).
4. Pasko I. Chto nuzhno znat ob Industrii 4.0 i Internete veschey // Informatsionnyiy resurs theRunet, data publikatsii: 21.09.2015. URL: http://therunet.com/articles/4826 (data obrascheniya 21.12.2016) [Pasko I. What you need to know about Industry 4.0 and the Internet of things // Information resource theRunet, publication date: 21.09.2015. URL: http://therunet.com/articles/4826 (access on 21.12.2016)]. (In Russ.).
5. Standards and Architecture for the IoT A path for convergence? Main outputs from the Workshop on IoT Standardisation and Architecture https://ec.europa.eu/digital-single-market/en/news/ standards-and-architecture-iot-path-convergence-main-outputs-workshop-iot-standardisation-and (access on 22.01.2017).
6. Davos 2017 - Strategic Update: The Future of the Digital Economy https://www.youtube.com/ watch?v=atM7Q8aPRb4 время на видео 5:44 (access on 29.01.2017).
7. Internet veshey - mif ili realnost? (data obraschenia 17.01.2017) [The Internet of things -myth or reality? https://habrahabr.ru/company/sap/blog/261045/ (acces. 17.01.2017)]. (In Russ.).
8. NikifrovO. Yu. Podhody k ponimaniyu interneta veschey // Mezhdunarodnoe nauchnoe izdanie Sovremennyie fundamentalnyie i prikladnyie issledovaniya #3(18) - 2015 [Nikiforov O. Y Approaches to understanding the Internet of things // International scientific publication Modern fundamental and applied research №3(18) - 2015]. (In Russ.).
9. Yastreb N.A. Chetvertaya promyishlennaya revolyutsiya: globalnyie promyishlennyie seti i internet veschey. Innovatsionnaya politika i ekonomika InVestRegion #4/2014 [Yastreb N.A. The fourth industrial revolution: the global industrial network and the Internet of things. Innovation policy and the economy Investregion №4/2014]. (In Russ.).
10. Sotsiologiya veschey. Sbornik statey pod redaktsiey V. Vahshtayna M.: Izdatelskiy dom «Territoriya buduschego», 2006. [Sociology of things. A collection of articles edited by V. Vakhshtein M.: Publishing house «territory of the future», 2006.]. (In Russ.).
11. BaryshnikovP. Morphologia technologicheskoy skaski: internet veshey y socialnie distancii. Sotsiologiya vlasti.Tom 27. No.1. [Baryshnikov P. Morphology of technological tales: the Internet of things and social distance. Sotsiologiya vlasti. Volume 27 № 1 (2015)]. (In Russ.).
12. James Whittaker The Internet of Things https://www.youtube.com/watch?v= ci4kbCmEmOI&t=2695s время видео, когда звучит цитируемый текст 41:12 (дата обращения: 24.01.2017).
13. Social Impact of Internet of Things (IoT) - by Ahsan Zaman - Oxford University Lectures Debate https://www.youtube.com/watch?v=aFWI3jcKK1E (дата обращениия: 26.01.2017).
14. Bauman Z. Does the Richness of the Few Benefit Us All? Cambridge: Polity. 2013.
15. Davos 2016 - The Future of Growth: Technology-Driven, Human-Centred https://youtu.be/ QCvtv5VMskI?t=26m7s (дата обращения 25.01.2017).
16. KornilovP. Kak perekhod pravitelstva v cifrovuyu ehpohu mozhet sehkonomit 70 milliardov funtov sterlingov (data obraschenia 27.01.2017) [Kornilov P. As the transition of government in the digital age could save 70 billion pounds http://internetofthings.ru/gosudarstvo/48-kak-perekhod-pravitelstva-v-tsifrovuyu-epokhu-mozhet-sekonomit-70-milliardov-funtov-sterlingov (accessed on 27.01.2017)]. (In Russ.).
17. Kornilov P. Federalnaya torgovaya komissiya SSHA vzyalas za internet veshchej (data obraschenia 27.01.2017) [Kornilov P. Federal trade Commission took up the Internet of things http:// internetofthings.ru/gosudarstvo/78-federalnaya-torgovaya-komissiya-ssha-vzyalas-za-internet-veshchej (accessed on 27.01.2017)]. (In Russ.).
18. Internet of things: privacy and security in a connected world. FTC Staff report 2015 https:// www.ftc.gov/system/files/documents/reports/federal-trade-commission-staff-report-november-2013-workshop-entitled-internet-things-privacy/150127iotrpt.pdf (дата обращения: 27.01.2017).
19. The 'Internet of Things': Legal Challenges in an Ultra-connected World http://www. mhc.ie/latest/blog/the-internet-of-things-legal-challenges-in-an-ultra-connected-world?utm_ source=Mondaq&utm_medium=syndication&utm_campaign.
20. The Internet of Things https://ec.europa.eu/digital-single-market/en/internet-things (дата обращения 26.01.2017).
21. Definition of a Research and Innovation Policy Leveraging Cloud Computing and IoT Combination Page 79 https://ec.europa.eu/digital-single-market/en/news/definition-research-and-innovation-policy-leveraging-cloud-computing-and-iot-combination (дата обращения 26.01.2017).
22. Maciej Kranz Digital Transformation. IoT Meets Standards, Driving Interoperability and Adoption - July 21, 2015 http://blogs.cisco.com/digital/iot-meets-standards-driving-interoperability-and-adoption (дата обращения 22.01.2017).
23. AT&T, Cisco, GE, IBM и Intel сформировали Консорциум промышленного Интернета http://www.cisco.com/c/ru_ru/about/press/press-releases/2014/03-033114b.html (дата обращения: 25.01.2017).
24. Jennifer Warnick James Whittaker How to change the way people think in four easy steps https://news.microsoft.com/stories/people/james-whittaker.html (дата обращения: 23.01.2017).
25. NikolaevK., Abdullaeva Sh. Intellektualnyiy insult. Kak v mire robotov ostatsya chelovekom i ne poteryat sebya. M.: Izd. Mann, Ivanov i Ferber, 2016. [Nikolaev K., Abdullayev sh, Intellectual stroke. In a world of robots remain human and not lose myself. M.: Izd. Mann, Ivanov and Ferber, 2016.].(In Russ.).
26. Tsifrovoy slovar. Kak internet i gadzhetyi menyayut nas. Kritika tsifrovogo detoksa — argumentyi kiberrealistov protiv otklyucheniya ot seti v teh usloviyah, kotoryie predlozhenyi polzovatelyam segodnya. http://digitalvocabulary.ru/digital-detox/#a2 (data obrascheniya: 18.01.2017) [The digital dictionary. As the Internet and gadgets change us. Criticism of the digital detox — the arguments against cyberrelated disconnect from the network in the conditions that offered to users today. http:// digitalvocabulary.ru/digital-detox/#a2 (access date 18.01.2017)]. (In Russ.).
27. Sonia Bussu The Internet of Things: the case for public voice Sciencewise Expert resource center July 2014 Стр. 4-5 http://www.sciencewise-erc.org.uk/cms/assets/Uploads/2014-11-14IOTEdited-for-publicationFinal.pdf (access data 27.01.2017).
28. LaturB. Nauka v deystvii: sleduya za uchenyimi i inzhenerami vnutri obschestva. Per. s angl. K. Fedorovoy; nauch. red. S. Milyaeva. - SPb.: Izdatelstvo Evropeyskogo universiteta v Sankt-Peterburge [Latour, Bruno. Science in action: how to follow scientists and engineers through society. Translated from English by K. Fedorova; scientific. edited by S. Milyaeva. - SPb.: Publishing house of the European University in Saint-Petersburg, 2013] .(In Russ.).
