CC BY
50
DOI: 10.23932/2542-0240-2020-13-2-7
Цифровой мониторинг социально-политической жизни: основные направления развития и возможности общественного контроля
Юлия Дмитриевна АРТАМОНОВА
кандидат философских наук, доцент кафедры истории и теории политики факультета политологии
Московский государственный университет имени М.В. Ломоносова, 119991, Ломоносовский проспект, д. 27, к. 4, Москва, Российская Федерация E-mail: [email protected] ORCID: 0000-0001-5629-4771
ЦИТИРОВАНИЕ: Артамонова Ю.Д. (2020) Цифровой мониторинг социально-политической жизни: основные направления развития и возможности общественного контроля // Контуры глобальных трансформаций: политика, экономика, право. Т. 13. № 2. С. 134-152. DOI: 10.23932/2542-0240-2020-13-2-7
Статья поступила в редакцию 03.03.2020.
АННОТАЦИЯ. В статье показывается эволюция теоретического осмысления «мониторинговой революции», в т. ч. разница между идеями «посткапитализма» как эстетизации и фашизации реальности, гетеротопии и «дивида» Ф. Джеймисона, Ж. Делеза, Ф. Гваттари, а также идеями «когнитивного капитализма» и современными концепциями «капитализма платформ» Н. Срничека, Г. Ловинка, «коммуникативного капитализма С. Жи-жека и др. Показываются принципиальные отличия модели мониторинга нового цифрового общества от старого Паноптикона, связанные, прежде всего, с образованием локальных и замкнутых сообществ, сложностью взаимодействия онлайнового и офлайново-го поведения и его оценок, возможностей коррекций алгоритма в связи с быстрым изменением паттернов поведения, а также возможностью че-
ловека сознательно «взаимодействовать» с системой сбора и обработки данных в своих целях. Выявляются два направления цифрового мониторинга - «немягкого» и «мягкого» принуждения. В первом случае речь идет о сборе данных и поощрениях за «правильные поступки», как в варианте китайской системы социального кредита. Во втором - о создании реальности, в которой индивид сможет действовать только «заданным» образом. Подчеркивается, что, вопреки прогнозам, данные системы развиваются не по пути «виртуализации» реальности, предполагающей осознанный, хотя и предопределенный выбор, а по пути воздействия на мозг, минуя символическое. На основе проведенного анализа выделяются основные направления возможного общественного контроля процедур мониторинга. Это, во-первых, про-
блемы «локализации» платформ (территориальная и иная их «привязка») и развитие концепции «гражданина как пользователя»; во-вторых, дифференциация дата-классов для установления ответственности.
КЛЮЧЕВЫЕ СЛОВА: мониторинговая революция, Big Data, система социального кредита, капитализм платформ, дата-класс, оргнет, бессимвольная коммуникация
Вводное замечание. Статья готовилась к публикации до массового (в смысле охвата количества людей), осуществленного во многих странах и на уровне в том числе местного управления внедрения практик цифрового контроля поведения в условиях карантина, и реальность сделала статью не только более актуальной, но и заострила часть поставленных проблем.
Эволюция интерпретации «мониторинговой революции» в политической философии и политэкономии
Еще недавно тенденции, представленные Ф. Гваттари («Город, где каждый может покидать свое жилище, улицу и т. д. при помощи электронной карты, которая устраняет то или иное препятствие, однако карта может быть отвергнута в произвольный день и час. Дело, однако, не в преграде, а компьютере, который устанавливает местоположение каждого относительно местоположений других, и осуществляет универсальную градацию» [Делез 1999, с. 101]), а также более известные предсказания Дж. Оруэлла и других воспринимались как гипербола. Из области фантастики, впрочем, в область реальности эта идея перейдет достаточно быстро - в Китае, напри-
мер, в настоящее время реализуется проект «Программа создания системы социального кредита (2014-2020)» (Щ
^|^(2014-2020^)ЙЖ£П). И очень многие столкнулись с этой проблемой на практике в более мягком варианте -в виде, например, необходимости получать электронные пропуска для передвижения по городу.
После внедрения ряда мониторинговых практик «современный город превращается в конечном итоге просто в массивы данных, обрабатываемые под конкретную задачу» [Мак-куайр 2014, с. 223].
На Всемирном экономическом форуме в Давосе в январе 2016 г. было заявлено об идущей четвертой промышленной революции. В основе -стирание граней между физической, цифровой и биологической сферами; серьезным ресурсом становятся данные, а перспективой - цифровизация производства (см., к примеру, [Шваб 2017]). «В основе четвертой промышленной революции лежит многофункциональный (многоликий и многоаспектный) мониторинг, который является стратегическим трендом, концентрирующим формулируемые, но не афишируемые западными «фабриками мысли» концептуальные подходы к новому наполнению глобальной эмиссии пакета ключевых валют (доллара, евро, юаня, фунта стерлингов и пр.) не промышленной продукцией или информационными услугами, как это было ранее, а выстраиванием новой виртуальной структуры реальности как оболочки, в которой находится человек, являющийся одновременно ее создателем-творцом, оператором и клиентом» [Агеев, Логинов 2017].
Необходимо отметить, что речь идет прежде всего о принципиальной разнице прогнозов развития цифровой революции 20-летней давности и
современного видения этого развития. И теоретики развития всемирной сети, и теоретики «когнитивного капитализма» критиковали капитализм «слева», подчеркивали права «общего интеллекта» (термин К. Маркса), неизбежный момент все больших общественных притязаний. Б. Гройс с грустью отметит, что он «знал тех, кто создавал Интернет. Все они были левыми социалистами, коммунистами. В ту пору восточный социализм переживал кризис, и эти люди воплощали в своем творении, в www, собственные политические идеалы. Они мечтали создать внегосударственное, детерриториальное (тогда было модно читать Делеза и обсуждать понятие «ризома»), неокоммунистическое пространство» [Гройс 2018]. Философские интерпретации говорят о том, что мы имеем дело с каждый раз по-новому собираемым (или не собираемым) субъектом. Он взаимодействует с конструктами пространства, которые в следующий момент времени или в другой точке пространства могут быть другими, что отражают разговоры о децентрированном, шизофреническом и т. д. субъекте и специфичном месте его обитания - гетеротопии. Реальная, но невидимая причина такого состояния - глобальное пространство современного «позднего капитализма». Мы наблюдаем «квантовый скачок в то, что В. Беньямин все еще называл «эстетизацией реальности»; он думал, что это означает фашизм, но мы-то знаем, что это просто весело: самозабвенное веселье, вызванное новым порядком вещей, натиском товаров, нашими новыми «репрезентациями вещей», обычно вызывающими энтузиазм и перепады в настроении...» [Джеймисон 2019, с. 58]. Если культурной формой старого империализма была ирония, то теперь речь идет о медиа («сегодняшняя культура - это во-
прос медиа» [Джеймисон 2019, с. 195]), точнее, о симулякре как общей форме (игра означающих, наделяющаяся смыслом в каждый конкретный момент, однако без «постоянного» означаемого (см. [Джеймисон 2019, с. 245]). Теоретики же «когнитивного капитализма» подчеркивали постфордист-скую организацию производства и общий ресурс - знания, которые используются постоянно (сложно вычленить именно «рабочее время», поскольку фоновые знания, например, играют огромную роль в успешном осуществлении работником его функций). Я. Мулье-Бутан отмечал: «Вы работаете на Google. Каждую секунду 15 миллионов человек кликают и загружают свои данные в Google, словно все они работают на одну фирму, не получая за это денег. Однако то, что предлагает Google, - это не обычный сервис, а своего рода метасервис, который уподобляет информационную активность пользователей деятельности трудовых пчел» [Castiglion 2009]. Мулье-Бутан введет термин «клик-пролетарии». Возражение, что благодаря Google происходит циркуляция знаний, вовсе не снимает вопросов о формах капиталистической эксплуатации. Основное противоречие видится «между, с одной стороны, стремлением к творчеству и когнитивной свободе и, с другой, мерами, принуждающими основных агентов этого процесса вовлечь в трудовую активность последние оставшиеся им пространства автономии» [Польрэ 2007, с. 73]. В этой связи будет обсуждаться, например, идея безусловного базового дохода, поскольку знания, за счет которых «работает» современная экономика, так или иначе производятся и поддерживаются всеми, а также требование обязательного наделения работников акциями компании для справедливой оценки их труда [Польрэ 2007].
Ряд современных теоретиков констатирует, что в отличие от предыдущего, постфордистского «когнитивного капитализма», принципиально концентрировавшегося на моменте «общего интеллекта», сейчас мы имеем дело с обособлением, формированием замкнутых локальных общностей; в сфере экономики речь идет, скорее, о «капитализме платформ» (Г. Ловинк, Н. Срничек). «В такой платформе де-лезианская идея сетевой структуры как бы преодолевается гегельянской логикой» [Ловинк 2017].
Приведем ряд авторитетных свидетельств иного порядка вещей. Прежде всего, вместо единого сообщества людей, перешагивающего границы, наблюдаются обособления локальных групп. «Ги Нафилья, глава ведущей строительной фирмы во Франции, заметил, что «французы испытывают тревогу, они боятся соседей, исключая тех, кто похож на них самих». Жак Патини, президент Национальной ассоциации землевладельцев, согласен с этим мнением и видит будущее в «отгораживании от внешнего мира и фильтрации доступа к жилым районам с помощью магнитных карт и охраны. Будущее принадлежит архипелагам островов, разбросанных вдоль осей коммуникации. Отрезанные и огороженные, действительно экстерриториальные жилые районы, оборудованные сложными системами двусторонней оперативной связи, вездесущими видеокамерами наблюдения, полные вооруженной до зубов круглосуточной охраной, неожиданно возникают вокруг Тулузы, как некоторое время назад они возникали в США и как во все большем количестве возникают на всем пространстве богатой части быстро глобализующегося мира» [Бауман 2008, с. 192].
«В перспективе с развитием инфраструктуры и уменьшением цен на пе-
редачу уже не предсказанием, но весьма обоснованным наблюдением выглядит утверждение, что онлайн-со-общества являются быстро развивающейся частью не виртуального пространства, но реальной виртуальности, взаимодействующей с другими формами интеракции в становящейся все более и более гибридной повседневности» [Center for the Digital Future 2008].
Согласно Н. Срничеку, мы имеем дело с «капитализмом платформ», каждая из которых настроена иметь как можно больше пользователей, позиционируя себя «именно тем, что нужно» этим людям и осуществляя перекрестное субсидирование для привлечения разных групп пользователей. «На самом общем уровне платформы - это цифровые структуры, которые позволяют двум и более группам взаимодействовать. Поэтому они позиционируют себя как посредников, соединяющих между собой различных пользователей: покупателей, рекламодателей, поставщиков услуг и товаров и даже физические объекты» [Срничек 2019, с. 41-42]. Эти платформы представляют сегмент современного рынка, где производитель находит (точнее, «формирует») потребителя и обратно. Можно было бы порадоваться этой «индивидуализации» производства и потребления, если бы речь шла о действительной встрече производителя и потребителя; на самом деле от диалога «равного с равным», без централизованной системы (peer-to-peer communication), мы весьма далеки. Важно отметить, что эти платформы как посредники получают часть прибыли от производителей контента и всю прибыль от потребителей контента, занимаясь капиталистической эксплуатацией: «проблема платформ состоит в том, что не понятно, как неоплачиваемый и краудсорсинговый контент со-
относится с выручкой посредников и агрегаторов, таких как Apple, Google или Spotify» [Ловинк 2019, с. 115]. Отчасти механизм описан Ж. Бодрийя-ром, который говорит о том, что цена - это тоже знак, который проходит тот же путь от знака-копии (цена связана с издержками производства) через знак-подобие (например, монополистические цены, еще опирающиеся на издержки производства, но получающие возможность «накручивания») до цены-симулякра, когда есть необходимость в этом товаре, а цена связана с его престижностью, например. Поэтому необходимость платформ, заменяющих собой рынок, даст возможность накручивать любую цену сверх реальных (и относительно небольших) издержек (необходимого для технического обеспечения деятельности платформы).
В этом смысле наша невозможность избежать взаимодействия через платформы, с одной стороны, и желание и готовность воспользоваться данной платформой и дают ей возможность сверхприбылей. К тому же любая из платформ стремится к монополизации рынка (ярким примером будет желание Google создать собственный бесплатный спутниковый Интернет) - это позволяет эффективнее выстраивать бизнес на основе работы с данными, ставя во все более зависимое положение прежде всего производителей (банальнейший пример - оплата труда водителей сервисов электронного вызова такси); однако при этом идет дальнейшее завоевание рынка и увеличение прибылей. При этом мы готовы платить провайдеру, чтобы бесплатно пользоваться контентом. Такая модель ведет к прекаризации тех, кто работает в сети: аналитиков, блогеров, разработчиков экспериментального софта и других. К тому же любое общее описание угнетаемой группы (например,
«прекариат») оказывается недостаточным. Разнообразие взаимодействий заставляет вводить все новые дискурсивные различия для описания новых угнетаемых групп; тем самым утрачиваются старые организации и возможности борьбы, исходящей из этой организованности (в этом смысле можно говорить об эпохе вседозволенности для капитала).
«Предоставляя людям цифровое пространство для взаимодействия, платформы оказываются в положении, позволяющем им извлекать данные из анализа природных процессов (погодные условия, урожайные циклы и пр.), производственных процессов (линии сборки, непрерывное потоковое производство и пр.), а также наблюдения за действиями других компаний и пользователей (переходы по разделам сайтов, пользовательские данные и пр.). В отношении данных это инструмент добычи» [Срничек 2019, с. 36]. Эти данные - «новый тип сырья» [Срничек 2019, с. 37].
Таким образом, вместо свободных, всеохватных децентрализованных сетей, в которых все равны, мы имеем локальные сообщества, платформы, добывающие данные, и государственный контроль. Здесь можно упомянуть о системе сбора информации PRISM (Program for Robotics, Intelligents Sensing and Mechatronics). Это программа АНБ США, в рамках которой американские спецслужбы получают информацию о местонахождении пользователей, их переписке и разговорам за счет прямого доступа к серверам крупнейших интернет-компаний (Google, Face-book, Yahoo, PalTalk, AOL, Skype, Microsoft, Apple, YouTube), где эти данные хранились незашифрованными [Gell-man, Poitras 2013]. Аналогичные программы есть в других странах мира: Tempora в Великобритании, Централизованная система мониторинга в Ин-
дии, «Золотой щит» (или «Великий китайский файервол») в Китае, СОРМ в России и т. д. Существуют и международные системы, занимающиеся в т. ч. сбором информации. Одна из наиболее масштабных - «Пять глаз» (Five Eyes), созданная для взаимодействия в области производства продукции, относящейся к информационными системам С4 (Command, Control, Communications, Computers) ВМС США, Великобритании, Канады, Австралии и Новой Зеландии. Согласно опубликованным по результатам встречи военных министров этих стран в 2018 г. материалам, «правительства «Пяти глаз» поощряют поставщиков услуг в области ИКТ добровольно устанавливать законные решения для доступа к своим продуктам и услугам, которые они создают» [Five Country Ministerial 2018]. Впрочем, ничего радикально нового здесь нет; технологии эти давно отработаны - достаточно указать как яркий пример шифровальные машины Crypto, успешно продававшиеся в течение 50 лет для нужд правительств многих стран мира (СССР и Китай их не закупали, в отличие от Индии, Ирана, Пакистана), при этом ключ к шифрам был предоставлен ЦРУ и БНД.
Основные направления осуществления практик мониторинга в социально-политической сфере
Теперь обратимся к конкретным практикам цифрового мониторинга. Ярким примером использования этих данных в политике является скандал 2017-2018 гг. вокруг деятельности компании Cambridge Analytica. В основе подхода компании - сочетание анализа Big Data с психометрикой для поиска целевой аудитории маркетинговых кампаний и влияния на поведе-
ние избранной аудитории. Использовалась модель, предполагающая выделение следующих уровней: действия, интересы, мнения; установки; ценности. На основе этого выводились некоторые поведенческие паттерны. В центре скандала оказался профессор психологии Университета Кембриджа А. Коган. Разработанное им мобильное приложение This is your digital life («Это твоя цифровая жизнь») составляло портреты пользователя, заполнившего психологический тест о пользовании гаджетами и сетями, причем не только на основе ответов, но и данных аккаунта в Facebook - информации о пользователе, постов и посланий, лайков и репостов, а также круга друзей. Этот тест прошли 270 тыс. чел., но приложение позволило также получить доступ к личным данным их «друзей» - всего речь идет о данных 50 млн пользователей. Facebook пессимистичнее, полагая, что речь идет о данных 87 млн пользователей. Эти данные и были переданы Cambridge Analytica (см., например, [Rosenberg, Confessore, Cadwalladr 2018]).
Как замечает М. Косински, «люди не понимают того, что той информации, которой мы с удовольствием делимся, более чем достаточно для хорошего алгоритма (а алгоритмы быстро становятся лучшими) приоткрыть ваши личностные характеристики, которые вы, возможно, не хотели бы разглашать - ваши политические взгляды, религию, личность, IQ, сексуальную ориентацию и подобное [Kosin-sky, Matz et al. 2015, рр. 543-556]. «Еще в 2012 г. сотрудник Центра психометрии Кембриджского университета Михал Косински доказал, что анализа 68 лайков в Facebook достаточно, чтобы определить цвет кожи испытуемого (с 95%-й долей вероятности), его гомосексуальность (с 88%-й долей вероятности) и приверженность Демокра-
тической или Республиканской партии США (с 85%-й долей вероятности). Данные даже позволяли узнать, развелись ли родители испытуемого до его совершеннолетия или нет» [Как Трамп стал президентом 2016]. В результате для целей избрания Д. Трампа было выделено 32 психотипа и создано 32 разных «Трампа», т. е. наборы информации о кандидате в президенты, которая понравилась бы представителю каждого психотипа, по сути персонализованной политической рекламы; она и доставлялась адресно, в соответствии с психотипом. Предполагается, что Cambridge Analytica использовала эти технологии не только в период избирательной кампании Д. Трампа 2016 г., но и при голосовании по вопросу Brexit в 2016 г., и в рамках Всеобщих парламентских выборов в Мексике в 2018 г. (технология была использована Институционно-революционной партией).
Компания Facebook в своей социальной сети блокировала работу аналитической компании Cambridge Analytica, которая, как предполагается, помогла Дональду Трампу победить на президентских выборах в США в 2016 г. Также социальная сеть блокировала связанную с Cambridge Analytica консалтинговую фирму Strategic Communication Laboratories, «специализирующуюся на управлении предвыборными кампаниями и помогавшей НАТО разрабатывать методы психологической манипуляции гражданами Афганистана» [Володенков 2019, с. 11]. Скандал вокруг деятельности Cambridge Analytica во время американских президентских выборов 2016 г. спровоцировал расследование Конгресса США. Пользователи Face-book в Великобритании и в США запустили акцию #deleteFacebook в знак протеста против неэтичного использования их личных данных.
Г. Ловинк отметит: «И то, что называется великой регрессией или «цифровым термидором», является, на самом деле, ответом на эту беспрецедентную централизацию. Именно в этом смысле Трамп - это результат Интернета как капитализма платформ. Если в горизонтальной логике сетей Трамп разговаривал бы только со своими мутными альт-правыми, все было бы отлично, и мы бы не беспокоились. Но благодаря централизации он в режиме реального времени разговаривает со всем миром, говорит со всеми. Нет фильтров, нет разных уровней, а значит, и нет собственно сетей» [Ловинк 2017]. «Таким образом, сегодня мы можем констатировать переход от информационно-коммуникационной работы на основе таргетирования гомогенных электоральных групп к точечному информационно-коммуникационному влиянию на электоральные аудитории, выделенные по иным принципам, например, психотипу конкретных интернет-пользователей», - констатирует С.В. Володенков [Володенков 2019, с. 11]. Правда, во время кампании Д. Трампа речь шла всего о 32 психотипах - но тем не менее. Конечно, задача грамотно и полно нарисовать психологический портрет конкретного человека на основе его цифровых следов крайне сложна, но вот отследить паттерны поведения несложно. Кроме того, компьютеру, а уж тем более обучающейся нейросети несложно увидеть некоторые изменения в обычных поведенческих паттернах и «вынуть» их для анализа уже человеческому мозгу. Это один из вариантов «гибридного интеллекта» (в сфере социального мониторинга речь не идет о чисто искусственном интеллекте). Эти и другие стратегии, вполне реализуемые сейчас технически, блестяще-иронично набросал, например, В. Пелевин в книге 1-РНиск [Пелевин 2016].
Не надо переоценивать сам по себе доступ к данным. Вопрос, как он-лайн-информация влияет на поведение в офлайне, остается по-прежнему открытым. Очевидно, что даже достаточно индивидуализированная информация (напомним, речь шла о 32 разных Д. Трампах и 32 способах критики Х. Клинтон) - всего лишь информация; давний и отнюдь не разрешенный вопрос теорий политической коммуникации - о влиянии информации на поведение и измерении этого влияния. Сегодня, например, достаточно много исследований посвящено использованию социальных медиа для вовлечения в политику [Macafee, De Simone 2012; Vitak, Zube, Smock 2011; Valenzuela 2013; Pasek, More, Romer 2009]. М. Кастельс полагает, что именно самокоммуникация позволяет появляться новым формам политического участия, примерами чего являются новые социально-сетевые движения (термин М. Кастельса, см. [Castells 2012, p. 221], такие как движение Indignadas в Испании или Occupy-Wall-Street в США [Castells 2012, p. 221]. Решающую роль самокоммуникации в событиях «Арабской весны» подчеркивают П. Ховард и Г. Мьюзамил [Howard, Muzamill 2013]. «Однако ученые предостерегают от вывода, что использование социальных медиа способствует росту политического участия; исследования показывают, что влияние разных типов социальных медиа и паттернов их использования на это участие очень разнится» [Skoric, Zhu 2016, p. 415].
Однако в настоящее время проблема мониторинга - это не только проблема анализа данных; мы наблюдаем предписывание способов поведения и возможности санкций за неодобря-емое поведение и поощрений за следование образцам теми самыми «собственниками» информации. Суще-
ствующий опыт дает возможность говорить о двух видах предписывания: либо прямого - принуждением за счет анализа Big Data и санкций тех, кто их использует, либо за счет создания «реальности», в которой человеку остается только действовать определенным образом. Второе пока относится к области первых научных опытов; первое вполне реализуется.
Примером первого направления -«мягкого мониторинга» - является китайская система социального кредита. Уже после прихода к власти Си Цзиньпина Госсовет КНР в 2014 г. опубликовал упомянутую в начале статьи «Программу создания системы социального кредита (2014-2020)». О ней написано достаточно много работ, отметим ключевые для нашей задачи моменты.
Во-первых, речь идет о централизованной системе, к тому же на одной платформе. Во-вторых, программа предполагает использование разных источников информации и «гибридный интеллект». Наряду с официальными показателями (данные федеральных министерств, а также муниципальных органов власти и управления, судебных, силовых и т. п. структур) будут использоваться контрольные данные (т. е. данные, позволяющие уточнить официальные - например, сообщения других граждан), а также сигнальные данные - система видеокамер будет всеохватывающей, кроме того, будут фиксироваться цифровые следы. Все это позволит «фиксировать» действия каждого гражданина в едином центре обработки информации. Однако общий алгоритм обработки неизвестен широкой публике. В-третьих, подчеркивается, что система должна способствовать усилению взаимозависимости людей друг от друга, людей и партии, людей и государства. Программа
предполагала, что к намеченному сроку будет внедрен рейтинг доверия физическому лицу. Он будет создаваться следующим образом: каждый житель получит некоторую исходную сумму баллов. Многим из человеческих действий сопоставлена определенная сумма баллов - плюсуемых, если действие считается правильным, и отнимаемых в случае плохих действий. Соответственно, рейтинг будет изменяться при учете каждого оцененного действия, и от позиции в рейтинге будет зависеть предоставление государственных услуг. Обратим внимание, что поощрения, кстати, неравновесно меньше: в случае «послушания» и набора необходимого количества баллов человек сможет воспользоваться тем, что раньше считалось просто «нормальным» - получить кредит, возможность купить авиа- или железнодорожный билет со скидкой, занять определенную должность и т. д.
«Система уже работает в пилотном режиме примерно в тридцати городах Китая. Передовиком в этом деле стал город Жунчэн (ж^) в провинции Шаньдун. Всем жителям города (670 тыс. чел.) дается стартовый рейтинг 1000 баллов... В Жунчэне единый информационный центр анализирует ни много ни мало 160 тыс. различных параметров из 142 учреждений. Активно приветствуется и система доносов. Гражданину, сообщившему куда следует о всяких нехороших делах своего соседа, полагается как минимум пять баллов. Какого-либо единого документа, где было бы четко прописано, что делать можно, а что нельзя и что за это будет, система не предполагает. Известно лишь, что если твой рейтинг больше 1050 баллов, то ты образцовый гражданин и маркируешься тремя буквами А. С тысячей баллов можно рассчитывать на АА. С девятьюстами -
на B. Если рейтинг упал ниже 849 -ты уже подозрительный носитель рейтинга C, тебя выгонят со службы в государственных и муниципальных структурах» [Ковачич б/г]. По сети ходит шутка - портрет Джорджа Оруэл-ла, говорящего: «Я писал 1984 год как предостережение, а не как инструкцию!». И это тренд не только авторитарных режимов - это тренд мирового развития.
«Архимед как-то сказал: «Дайте мне точку опоры, и я переверну Землю». Сегодня он ткнул бы пальцем в наши электрические средства коммуникации и сказал: «Я обопрусь на ваши глаза, уши, нервы и мозг, и мир будет вертеться в любом ритме и на любой манер, как только я пожелаю». Эти «точки опоры» мы и сдали в аренду частным корпорациям» [Маклюэн 2003, с. 81]. И просто уступили государству, добавим.
Однако современная техника дает возможности гораздо более утонченных способов принуждения к определенным поведенческим паттернам -собственно, возможностью создания определенной виртуальной реальности, в которой мы сами решим действовать именно так, как нужно создателям. П. Вирильо пессимистически заметит: «Развитие транспортных сетей в XIX веке предшествовало появлению в XX веке сети сетей Интернета и образованию в XXI веке сетей - настоящих магистралей образной и звуковой информации, - способных передавать видение мира с камер online, формирующих паноптическое (и постоянное) теленаблюдение мест и активности на планете, что, вполне вероятно, завершится появлением сетей виртуальной реальности. Кибероптика изменит привычную для нас эстетику европейского модернизма, а кроме того, и этику западных демократий. «Представительская демократия» вскоре под-
дастся влиянию ускоряемой исторической реальности, и тогда «торговля видимым» обернется непредсказуемым риском создания того, в чем не преуспел ни один тоталитарный режим с его идеологиями - единодушного согласия» [Вирильо 2002, с. 96-97].
Это второе направление - создание виртуальной реальности, структурой которой предписываются определенные действия, - связано, как ни парадоксально, скорее, не с имитацией действительности, как казалось раньше (кошмары «Матрицы»), а возможностью бессимвольных коммуникаций. Разработки современных биотехнологий (например, мобильного телефона, который позволяет принимать звук непосредственно как радиоволну, без «звукового оформления», за счет прямого раздражения соответствующих зон мозга) вообще приостанавливают действие знаковой сферы, которая так или иначе является культурно оформленной и тем самым минимально контролируемой социумом, а «мы, как умственно-отсталые, страдаем чем-то вроде несоразмерности миру и находимся в постоянном поиске фантазма-тических миров и образов жизни, где старое доброе «животное тело» замещено продуктом симбиоза человека и технологии» [Вирильо 2002, с. 218].
Первые опыты передачи сообщения от мозга одного человека в мозг другого, минуя означивание, относятся к 2013 г. Два исследователя Вашингтонского университета провели следующий опыт: они находились в двух разных комнатах, один играл в компьютерную игру, а второй не видел ее. Первый пытался выстрелить по цели, сигналы его мозга считывались и шли к аппарату магнитной стимуляции, который воздействовал на мозг второго. И, действительно, как только первый пытался выстрелить, второй ударил по клавише (подробнее об экспе-
риментах о прямой связи от мозга к мозгу см. [Rao 2013]). По сути, речь идет о коммуникации без посредства образов. В настоящее время уже создается первая в мире сеть для передачи сигналов «из мозга в мозг».
С. Жижек справедливо отметит, что это «грубое реальное наслаждение», получаемое прямым раздражением нейронов, уже ничем не ограничено и никак не связано ни с окружающим миром, ни с существующими общественными практиками; мы можем стимулировать любые зоны мозга в любой комбинации. Вместе с исчезновением фан-тазмов исчезает и «мое» тело/мозг, а компьютер приобретает позицию картезианского «злого бога»: «Когда наше тело медиатизировано (поймано в сети электронных медиа), оно одновременно подвергается угрозе радикальной «пролетаризации»: субъект потенциально сведен до чистой пустоты, с этого момента даже мой собственный личный опыт может быть похищен, им может управлять механический Другой... Компьютер может сойти с ума и начать действовать подобно злому Богу, нарушающему координацию между моим сознанием и моим телесным опытом -когда сигнал «поднять руку», исходящий из моего сознания, приостановлен или даже нейтрализован в (виртуальной) реальности; в такой ситуации наиболее фундаментальный опыт тела как «моего» подорван» [Жижек 2000]. Более того, на его место может встать любой другой «опыт», т. е. произвольная конструкция.
Появившаяся возможность редукции символического уникальна - возможен смысл, вообще не связанный с нашим телом и опытом. Наше реальное и воображаемое в результате могут обойтись без символического (Другого), и это ведет к тому, что мы уже не можем желать, остается только влечение; это погружение в вещь от-
мечают и Ж. Бодрийяр, и П. Вирильо. Ведь Другой, бессознательное, по Ла-кану, и есть язык. Мы регрессируем в мир влечений, а не желаний, где нет фантазматического заднего плана, минимизировано, если не отменено, действие символического - мы легко солидаризуемся с любой из предложенных «практик» (и интерпретаций); однако эти практики никак не согласованы между собой и каждая своим образом выстраивает отношения с миром (точнее, выстраивает особый мир) -а мы имеем этот набор несогласованного и произвольного. Как констатирует (правда, почему-то без иронии) М. Смирнов, «с этим нужно свыкнуться: мы - полный квир, и мы хотим ЕСТЬ!» [Смирнов 2016]. Впрочем, и последнее может быть рассогласовано.
В итоге и в первом (стимуляция непосредственно мозга), и во втором (минимизация действия символического) случае интерсубъективный мир, мир Другого просто минимизируется в нашей практике. И здесь С. Жижек справедливо видит предел медиатизации: «Мы сталкиваемся здесь с конститутивной двусмысленностью понятия медиатизации: первоначально это понятие означало жест, которым субъект лишался прямого и непосредственного права принимать решения; большим мастером политической медиатизации был Наполеон, который оставлял покоренным монархам видимость власти, в то время как в действительности они больше не могли ее осуществлять. И разве не на этом, mutatis mutandis, основана сегодняшняя вся более и более прогрессирующая компьютеризация нашей повседневной жизни, в ходе которой субъект становится также все более и более «медиатизированным», незаметно лишаемым своей мощи под фальшивым обличием ее нарастания?» [Жижек 2000].
Общественные возможности управления мониторинговыми практиками
Надо отдавать себе отчет в том, что данные будут аккумулироваться неизбежно, и речь может идти о вполне законно полученной информации. Запретить сохранять любую информацию невозможно, поэтому вопрос стоит иначе: как «собственники» данных могут контролировать сбор и использование этих данных? К тому же речь идет о глобальных процессах, «перешагивающих» национальные границы. Первая предпринимаемая попытка регулирования -попробовать территориально «привязать» платформы или хотя бы обозначить «границы» их действия. С такими решениями в государственных практиках мы уже встречаемся. Теоретики же «капитализма платформ», со своей стороны, видят стратегии такой «привязки» несколько иначе. Г. Ловинк предлагает создать сеть, единицей которой будут оргнеты. «Оргнеты - это возможный ответ корпоративным стратегиям интернет-гигантов, которые эксплуатируют слабые связи (друзья друзей моих друзей) ради увеличения охвата аудитории и пожирания все большего количества данных. Вместо того, чтобы представлять социальность в виде расширяющейся вселенной возможных клиентов и союзников, оргнеты подчеркивают важность сильных связей и необходимость реальных дел. И если корпоративные социальные сети продвигают стратегию вечного гиперроста на основе шеринга и апдейтов, то оргнеты ставят во главу угла дальнейшее развитие коллаборативных платформ» [Ловинк 2019, с. 268]. Эти оргнеты сами смогут структурировать поток данных, причем за счет связи с реальными делами реального сообщества это структурирование будет более «честным» и «прозрачным» - понятно, какие дан-
ные есть и кто их «собственник». Дальнейшее противопоставление этой архитектуры доминирующим социальным платформам даст возможность победить последние и задавать тон в архитектуре сети. Это предлагаемые Г. Ло-винком первые шаги в выработке концепции «гражданина как пользователя», которая и должна определять стратегию развития сети.
Важен и второй существенный момент. Напомним, понятием Big Data в специальном выпуске журнала Nature (сентябрь 2008 г.) на тему «Как могут повлиять на будущее науки технологии, открывающие возможности работы с большими объемами данных» его редактором К. Линчем было предложено называть специальные методы и инструменты по обработке крупных объемов структурированного и неструктурированного информационного контента. Необходимо иметь в виду, что данные, как не единожды подчеркивает Р. Плэтт, - это пригодное для использования [Плэтт 1997].
Здесь невозможно игнорировать роль методов и инструментов обработки, формирующих данные; особую сложность вопрос приобретает, когда мы имеем дело с самообучающимися нейросетями. Приведем пример. Судья американского суда при вынесении решения об условно-досрочном освобождении использовал искусственный интеллект для оценки вероятности рецидива, и программа без ведома ее создателей, на основе анализа предоставленных ей для обучения материалов, увеличивала эту вероятность в два раза, увидев параметр «черный цвет кожи»; в связи с этим и аналогичными случаями дискриминации разработчики Google Brain Team предлагают метод, предполагающий запрет дискриминации внутри некоторых защищенных классов (см., например, [Hardt, Price, Srebro 2016]).
Кроме того, не стоит переоценивать точность информации, получаемой этими алгоритмами (т. е. правильность самого алгоритма). В статье Б. Истона приводится пример отслеживания с помощью технологии анализа «цифровых следов» журналистки Сью Галперин, которая с удивлением узнала, что система считает ее гей-мужчиной (см. [Easton 2017]).
Такие же сбои были не только в области политических прогнозов. Яркий пример здесь дает кейс с Google Flu Trends. Речь шла об анализе множественных запросов пользователей о близлежащих аптеках и лекарствах -и предполагалось, что этот анализ быстрее и надежнее выявит эпидемию, чем данные медицинских учреждений (последние неполны и к тому же собираются в массивы гораздо медленнее). Однако этот алгоритм «не заметил» в 2009 г. нарастающую эпидемию свиного гриппа. Предсказательные возможности алгоритмов также подверглись сомнению в 2012 г.: предсказанная максимальная численность заболевших (пик эпидемии) оказалась больше реальной в два раза (см., к примеру, [Laz-er, Kennedy, King, Vespignani 2014]). Выделенные проблемы - это, во-первых, сочетание больших и малых данных и, во-вторых, корректировка алгоритма под нужды заказчиков и потребителей. Опираясь на небольшой объем первоначальных данных (например, запросов о наличии и цене соответствующих лекарств в аптеке и количества заболевших), выделяются некоторые паттерны, затем используемые в дальнейшем анализе.
И дело не только в объеме тех самых «малых данных»; скажем, даже искавшие информацию об аптеках вряд ли постоянно ее корректируют - зная о хорошей аптеке неподалеку, они просто пойдут в нее в следующий раз без запроса в Интернете (вспомним здесь
знаменитый принцип когнитивной экономии, а также известную эвристику Д. Канемана - якорный эффект). Обратим здесь внимание на еще одну особенность. Четче всего ее сформулировал У Гибсон: «Паноптикон - неувядающая метафора в обсуждениях цифрового наблюдения и дата-майнинга, но она не подходит для описания таких вещей, как Google. Бентамовское всевидящее око смотрит из центральной точки, это взгляд викторианского надзирателя. В Google мы одновременно оказываемся и наблюдаемыми, и клетками сетчатки наблюдающего глаза» [Gibson 2010].
Речь идет, таким образом, о подвижном пространстве, в котором, строго говоря, очень мало устойчивых социальных паттернов. Если раньше профессиональная или возрастная характеристика, например, была принципиальной и позволяла говорить и об идентичности человека, и об устойчивой группе, то теперь ситуация меняется. Мы имеем дело не с индивидами, а с «дивидами» (термин М. Фуко и Ж. Де-леза) и их временными проектами; в силу этого - с неустойчивыми группами и подвижными границами. К тому же творчество новых паттернов в силу современных коммуникационных возможностей становится доступным практически всем (достаточно указать на феномен модных блогеров). И, наконец, при знании алгоритма можно действовать, исходя из него (в простейшем случае - зная о специфике данных алгоритмов сбора и обработки данных, можно банально дать их «собрать» в соответствии с ним). К. О'Нил приводит пример алгоритма, который показывает рост преступности преимущественно в бедных районах - и туда направляются большие силы полицейских, которые задерживают больше нарушителей (например, больше за мелкие преступления, которых раньше не зафиксиро-
вали бы из-за меньшего числа стражей порядка); в это время в богатых районах по-прежнему совершается столько же преступлений, как и раньше. Однако в итоге богатые районы выглядят намного более благополучными. В этой связи исследовательница назовет непрозрачные алгоритмы больших данных «оружием математического поражения» - они используются в интересах элит [О'Нил 2018].
Для решения этой проблемы предпринимаются попытки регулировать накопление, передачу и использование обработанных массивов данных, вводя «фигуру автора». Обратим внимание на то, что при этом важнейшим моментом является возможность подходить не в целом, а видеть составляющие технологий. Предлагается говорить о различных дата-классах [Ma-novich 2016; Володенков 2019]. Есть собственно пользователи, не обладающие компетенциями в области Big Data, - они являются источниками данных; собственники цифровых ресурсов, позволяющих аккумулировать личные данные (в случае с избранием Д. Трампа речь идет о сети Facebook), собственники алгоритмов сбора информации о пользователях (в нашем случае - А. Коган с его приложением This is your digital life); собственники алгоритмов анализа данных, а также алгоритмов таргетирования информации для желаемого действия (в нашем примере - Cambridge Analytica). Отметим, вслед за С.В. Володенковым, что есть также элиты, использующие в своих целях данные, системы их хранения, алгоритмы сбора, анализа и использования. Г. Ловинк же предлагает системно анализировать современные коммуникации, выделяя в них как минимум пять аспектов: программное обеспечение, интерфейсы, аппаратное обеспечение, инфраструктуру и идеологию [Ловинк 2019].
Необходимо констатировать, что первое направление - рейтинго-мони-торинговое - еще поддается контролю в системе современной демократии; с контролем второго сразу возникают сложности. Преобразование сигналов внутри нейросети, тем более самообучающейся, сложно проследить, поэтому доказать, что «моделирование», создание новой реальности было целенаправленным, и уже тем более целенаправленно принуждающим к определенным способам поведения, крайне проблематично.
Список литературы
Агеев А.И., Логинов Е.Л. (2017) Битва за будущее: кто первым освоит мониторинг и когнитивное программирование субъективной реальности // Экономические стратегии. № 2. С. 124-139.
Бауман З. (2008) Текучая современность. СПб.: Питер.
Вирильо П. (2002) Информационная бомба. Стратегия обмана. М.: Прагматика культуры, Гнозис» // http://lib.ru/POLITOLOG/virilio.txt, дата обращения 20.05.2020.
Володенков С.В. (2019) Big data как инструмент воздействия на современный политический процесс: особенности, потенциал и акторы // Журнал политических исследований. Т. 3. № 1. С. 7-13.
Делез Ж. (1999) Общество контроля // "Z". № 1. C. 97-103.
Джеймисон Ф. (2019) Постмодернизм, или культурная логика позднего капитализма. М.: Изд-во института Гайдара.
Жижек С. (2000) Матрица: истина преувеличений // http://anthropology.ru/ ru/text/zhizhek-s/matrica-istina-preuveli-cheniy, дата обращения 20.05.2020.
Как Трамп стал президентом США благодаря BigData(2016)// Gordonua.com.
8 декабря 2016 // http://gordonua.com/ publications/tekst-goda-kak-tramp-stal-prezidentom-ssha-blagodarya-big-data-162924.html, дата обращения 20.05.2020.
Ковачич Л. (б/г) Большой брат 2.0. Как Китай строит цифровую диктатуру // Московский Центр Карнеги // https://carnegie.ru/commentary/71546, дата обращения 20.05.2020.
Ловинк Г. (2017) «Платформы типа Facebook — это трагический момент» (текст: Митя Лебедев) // Colta.ru. 6 сентября 2017 // https://www.colta.ru/ articles/society/15900-gert-lovink-plat-formy-tipa-facebook-eto-tragicheskiy-moment, дата обращения 20.05.2020.
Ловинк Г. (2019) Критическая теория интернета. М.: Ад Маргинем Пресс, Музей современного искусства «Гараж».
Маккуайр С. (2014) Медийный город. Медиа, архитектура и городское пространство. М.: Strelka Press.
Маклюэн Г.М. (2003) Понимая медиа: внешние расширения человека. М.-Жуковский: «Канон-пресс Ц», «Кучково поле».
О'Нил К. (2018) Убийственные большие данные. Как математика превратилась в оружие массового поражения. М.: АСТ.
Пелевин В. (2016) I-Phuck M.: Эксмо.
Плэтт В. (1997) Стратегическая разведка. Основные принципы. М.: Форум, Инфра-М.
Польрэ Б. (2007) Двусмысленности когнитивного капитализма // Логос. № 4(61). С. 70-113.
Смирнов Н. (2016) Зомби-манифест неолиберального урбанизма // Colta.ru. 25 октября 2016 // https://www.colta.ru/ articles/raznoglasiya/12803-zombi-mani-fest-neoliberalnogo-urbanizma, дата обращения 20.05.2020.
Срничек Н. (2019) Капитализм платформ. М.: Высшая школа экономики.
Текучее искусство, ответственные люди и камеры в унитазе: интервью
с философом и искусствоведом Борисом Гройсом (2018) // Knife.media. 12 июля 2018 // https://knife.media/groys-interview/, дата обращения 20.05.2020.
Шваб К.М. (2017) Четвертая промышленная революция. М.: Издательство «Э».
Castells M. (2012) Networks of Outrage and Hope. Social Movements in the Internet Age, Cambridge: Polity Press.
Castiglion Ch. (2009) Yann Moulier Boutang Asks, "Are We All just Google's Worker Bees?" // Networkcultures.org, November 13, 2009 // http://network-cultures.org/query/2009/11/13/yann-moulier-boutang-asks-are-we-all-just-googlesworker-bees, дата обращения 20.05.2020.
Center for the Digital Future. The 2008 Digital Future Report: Surveying the Digital Future, Year Eight (2008), Los Angeles: University of Southern California, Annenberg School Center for the Digital Future.
Easton B. (2017) Big Data - Good? // Pundit.co, February 6, 2017 // https://www.pundit.co.nz/content/big-data-good?rq=Big%20data%20good, дата обращения 20.05.2020.
Five Country Ministerial (2018) // Australian Government. Department of Home Affairs. National Security // https://www.homeaffairs.gov.au/about-us/our-portfolios/national-security/secu-rity-coordination/five-country-ministe-rial-2018, дата обращения 20.05.2020.
Gellman B., Poitras L. (2013) U.S. British Intelligence Mining Data from Nine U.S. Internet Companies in Broad Secret Program // The Washington Post, June 6, 2013 // http://www.washingtonpost.com/investi-gations/us-intelligence-mining-data-from-nine-us-internet-companies-in-broad-se-cret-program/2013/06/06/3a0c0da8-cebf-11e2-8845-d970ccb04497_story.html, дата обращения 20.05.2020.
Gibson W. (2010) Google's Earth // The New York Times, August 31, 2010 // http://www.nytimes.com/2010/09/01/
opinion/01gibson.html, дата обращения 20.05.2020.
Hardt M., Price E., Srebro N. (2016) Equality of Opportunity in Supervised Learning // Advances in Neural Information Processing Systems, pp. 3315-3323.
Howard P., Muzamill H. (2013) Democracy's Fourt Wave? Digital Media and the Arab Spring, Oxford: Oxford University Press.
Kosinski M., Matz S.C., Gosling S.D., Popov V., Stillwell D. (2015) Facebook as a Research Tool for the Social Sciences: Opportunities, Challenges, Ethical Considerations, and Practical Guideline // American Psychologist, vol. 70, no 6, pp. 543-556. DOI: 10.1037/a0039210
Lazer D., Kennedy R., King G., Ves-pignani A. (2014) The Parable of Google Flu: Traps in Big Data Analysis // Science, vol. 343, no 6176, pp. 1203-1205. DOI: 10.1126/science. 1248506
Macafee T., De Simone J.J. (2012) Killing the Bill Online? Pathways to Young People's Protest Engagement via Social Media // Cyberpsychology, Behavior and Social Networking, vol. 15, no 11, pp. 579584. DOI: 10.1089/cyber.2012.0153
Manovich L. (2016) The Science of Culture? Social Computing, Digital Humanities and Cultural Analytics // http://manovich.net/content/04-projects/ 088-cultural-analytics-social-computing/ cultural_analytics_article_ final.pdf, дата обращения 20.05.2020.
Pasek J., More E., Romer D. (2009) Realizing the Social Internet? Online Social Networking Meets Offline Civic Engagement // Journal of Information Technology & Politics, vol. 6, no 3-4, pp. 197215. DOI: 10.1080/19331680902996403
Rao R.P.N. (2013) Brain-Computer Interfacing, Cambridge: Cambridge University Press.
Rosenberg M., Confessore N., Cad-walladr C. (2018) How Trump Consultants Exploited the Facebook Data of Millions // The New York Times,
March 17, 2018 // https://www.nytimes. com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.html, дата обращения 20.05.2020.
Skoric M., Zhu Q. (2016) Participation: Uncovering the Paths from Digital to Physical // International Journal of Public Opinion Research, vol. 28, no 3, pp. 415-427. DOI: 10.1093/ijpor/edv027
Valenzuela S. (2013) Unpacking the Use of Social Media for Protest Behavior:
The Roles of Information, Opinion Expression, and Activism // American Behavioral Scientist, vol. 57, no 7, pp. 920942. DOI: 10.1177/0002764213479375
Vitak J., Zube P., Smock A., Carr C.T., Ellison N., Lampe C. (2011) It's Complicated: Facebook Users' Political Participation in the 2008 Election // Cyberpsychology, Behavior and Social Networking, vol. 14, no 3, pp. 107-114. DOI: 10.1089/cyber.2009.0226
DOI: 10.23932/2542-0240-2020-13-2-7
Digital Monitoring of Socio-political Life: Main Directions of Development and Opportunities for Public Control
Yulia D. ARTAMONOVA
PhD in Philosophy, Associate Professor, History and Theory of Politics Chair, Faculty of Political Science
Lomonosov Moscow State University, 119991, Lomonosovskij Av., 27-4, Moscow,
Russian Federation
E-mail: [email protected]
ORCID: 0000-0001-5629-4771
CITATION: Artamonova Yu.D. (2020) Digital Monitoring of Socio-political Life: Main Directions of Development and Opportunities for Public Control. Outlines of Global Transformations: Politics, Economics, Law, vol. 13, no 2, pp. 134-152 (in Russian). DOI: 10.23932/2542-0240-2020-13-2-7
Received: 03.03.2020.
ABSTRACT. The article shows the evolution of the theoretical understanding of the "monitoring revolution", including the difference between the ideas of "post-capitalism" as the aestheticization and fascization of reality, heterotopia and divid (F. Jameson, J. Deleuze, F. Guattari), as well as the ideas of "cognitive capitalism" and modern concepts of "platform capitalism" (N. Srnicek, G. Lovink), "communicative capitalism" (S. Zizek, etc.).
The article shows the fundamental differences between the monitoring model of
the new digital society and the old Panopticon, primarily related to the formation of local and closed communities, the complexity of interaction between online and offline behavior and its assessments, the possibility of correcting the algorithm due to rapid changes in behavior patterns, as well as the ability of a person to "interact" consciously with the data collection and processing system for their own purposes.
Two directions of digital monitoring are identified - "non-soft" and "soft" coer-
cion. In the first case, we are talking about the actual data collection and rewards for "doing the right things", as in the version of the Chinese social credit system. The second is about creating a reality in which an individual can only act in a "set" way. It is emphasized that, contrary to forecasts, these systems do not develop along the path of "virtualization" of reality, which implies a conscious, though predetermined choice, but along the path of influencing the brain, bypassing the symbolic.
Based on the analysis, the main directions of possible public control of monitoring procedures are identified. These are, first, the problems of "localization" of platforms (territorial and other "binding" of them) and the development of the concept of "citizen as user"; second, the differentiation of data classes to establish responsibility.
KEY WORDS: monitoring revolution, Big Data, social credit system, platform capitalism, data class, orgnet, characterless communication
References
Ageev A.I., Loginov E.L. (2017) Battle for the Future: Who Will Be the First in the World to Master the Noomonitor-ing and Cognitive Programming of Subjective Reality? Ekonomicheskie strategii, no 2, pp. 124-139 (in Russian).
Bauman Z. (2008) Fluid Modernity, Saint Petersburg: Peter (in Russian).
Castells M. (2012) Networks of Outrage and Hope. Social Movements in the Internet Age, Cambridge: Polity Press.
Castiglion Ch. (2009) Yann Mou-lier Boutang Asks, "Are We All just Google's Worker Bees?". Networkcultures. org, November 13, 2009. Available at: http://networkcultures.org/query/2009/ 11/13/yann-moulier-boutang-asks-are-we-all-just-googlesworker-bees, accessed 20.05.2020.
Center for the Digital Future. The 2008 Digital Future Report: Surveying the Digital Future, Year Eight (2008), Los Angeles: University of Southern California, Annenberg School Center for the Digital Future.
Deleuze J. (1999) Control Society. "Z", no 1, pp. 97-103 (in Russian).
Easton B. (2017) Big Data - Good? Pundit.co, February 6, 2017. Available at: https://www.pundit.co.nz/content/big-data-good?rq=Big%20data%20good, accessed 20.05.2020.
Five Country Ministerial (2018). Australian Government. Department of Home Affairs. National Security. Available at: https://www.homeaffairs.gov.au/about-us/our-portfolios/national-security/secu-rity-coordination/five-country-ministe-rial-2018, accessed 20.05.2020.
Fluid Art, Responsible People and Cameras in the Toilet: Interview with Philosopher and Art Critic Boris Groys (2018). Knife.media, July 12, 2018. Available at: https://knife.media/groys-inter-view, accessed 20.05.2020 (in Russian).
Gellman B., Poitras L. (2013) U.S. British Intelligence Mining Data from Nine U.S. Internet Companies in Broad Secret Program. The Washington Post, June 6, 2013. Available at: http://www.washingtonpost.com/investi-gations/us-intelligence-mining-data-from-nine-us-internet-companies-in-broad-se-cret-program/2013/06/06/3a0c0da8-cebf-11e2-8845-d970ccb04497_story.html, accessed 20.05.2020.
Gibson W. (2010) Google's Earth. The New York Times, August 31, 2010. Available at: http://www.nytimes. com/2010/09/01/opinion/01gibson.html, accessed 20.05.2020.
Hardt M., Price E., Srebro N. (2016) Equality of Opportunity in Supervised Learning. Advances in Neural Information Processing Systems, pp. 3315-3323.
How Trump Became President of the United States Thanks to Big Da-
ta (2016). Gordonua.com, December 8, 2016. Available at: http://gordonua.com/ publications/tekst-goda-kak-trampstal-prezidentom-ssha-blagodarya-big-da-ta-162924.html, accessed 20.05.2020 (in Russian).
Howard P., Muzamill H. (2013) Democracy's Fourth Wave? Digital Media and the Arab Spring, Oxford: Oxford University Press.
Jameson F. (2019) Postmodernism, or the Cultural Logic of Late Capitalism, Moscow: Gaidar Institute Publ (in Russian).
Kosinski M., Matz S.C., Gosling S.D., Popov V., Stillwell D. (2015) Facebook as a Research Tool for the Social Sciences: Opportunities, Challenges, Ethical Considerations, and Practical Guideline. American Psychologist, vol. 70, no 6, pp. 543-556. DOI: 10.1037/a0039210
Kovachich L. (n/y) Big Brother 2.0. How China Is Building a Digital Dictatorship. Carnegie Moscow Center. Available at: https://carnegie.ru/commentary/71546, accessed 20.05.2020 (in Russian).
Lazer D., Kennedy R., King G., Ves-pignani A. (2014) The Parable of Google Flu: Traps in Big Data Analysis. Science, vol. 343, no 6176, pp. 1203-1205. DOI: 10.1126/science. 1248506
Lovink G. (2017) Platforms like Face-book Are a Tragic Moment (text - Mitya Lebedev). Colta.ru, September 6, 2017. Available at: https://www.colta.ru/ar-ticles/society/15900-gert-lovink-plat-formy-tipa-facebook-eto-tragicheskiy-moment, accessed 20.05.2020 (in Russian).
Lovink G. (2019) Critical Theory of the Internet, Moscow: Ad Marginem Press, Contemporary Art Museum "Garage" (in Russian).
Macafee T., De Simone J.J. (2012) Killing the Bill Online? Pathways to Young People's Protest Engagement via Social Media. Cyberpsychology, Behavior and Social Networking, vol. 15, no 11, pp. 579584. DOI: 10.1089/cyber.2012.0153
Manovich L. (2016) The Science of Culture? Social Computing, Digital Humanities and Cultural Analytics. Available at: http://manovich.net/content/04-projects/088-cultural-analytics-social-computing/cultural_analytics_article_ fi-nal.pdf, accessed 20.05.2020.
McLuhan H.M. (2003) Understanding Media: The Extensions of Man, Moscow-Zhukovsky: Kanon Press-C, Kuchkovo pole (in Russian).
McQuire S. (2014) The Media City. Media, Architecture and Urban Space, Moscow: Strelka Press (in Russian).
O'Neill K. (2018) Killing Big Data. How Mathematics Turned into a Weapon of Mass Destruction, Moscow: AST (in Russian)
Pasek J., More E., Romer D. (2009) Realizing the Social Internet? Online Social Networking Meets Offline Civic Engagement. Journal of Information Technology & Politics, vol. 6, no 3-4, pp. 197215. DOI: 10.1080/19331680902996403
Pelevin V. (2016) I-Phuck, Moscow: Eksmo (in Russian).
Platt W. (1997) Strategic Intelligence. Basic Principles, Moscow: Forum Publishers (in Russian).
Polre B. (2007) Ambiguities of Cognitive Capitalism. Logos, no 4(61), pp. 70113 (in Russian).
Rao R.P.N. (2013) Brain-Computer Interfacing, Cambridge: Cambridge University Press.
Rosenberg M., Confessore N., Cad-walladr C. (2018) How Trump Consultants Exploited the Facebook Data of Millions. The New York Times, March 17, 2018. Available at: https://www.ny-times.com/2018/03/17/us/politics/cam-bridge-analytica-trump-campaign.html, accessed 20.05.2020.
Skoric M., Zhu Q. (2016) Participation: Uncovering the Paths from Digital to Physical. International Journal of Public Opinion Research, vol. 28, no 3, pp. 415427. DOI: 10.1093/ijpor/edv027
Smirnov N. (2016) Zombie Manifesto of Neoliberal Urbanism. Colta.ru, October 25, 2016. Available at: https://www.col-ta.ru/articles/raznoglasiya/12803-zombi-manifest-neoliberalnogo-urbanizma, accessed 20.05.2020 (in Russian).
Srnicek N. (2019) Platform Capitalism, Moscow: HSE (in Russian).
Sshwab K.M. (2017) The Fourth Industrial Revolution, Moscow: Publishing house "E" (in Russian).
Valenzuela S. (2013) Unpacking the Use of Social Media for Protest Behavior: The Roles of Information, Opinion Expression, and Activism. American Behavioral Scientist, vol. 57, no 7, pp. 920-942. DOI: 10.1177/0002764213479375
Virilio P. (2002) The Information Bomb. Strategy of Deception, Moscow. Available at:
http://lib.ru/POLITOLOG/virilio.txt, accessed 20.05.2020 (in Russian).
Vitak J., Zube P., Smock A., Carr C.T., Ellison N., Lampe C. (2011) It's Complicated: Facebook Users' Political Participation in the 2008 Election. Cyber-psychology, Behavior and Social Networking, vol. 14, no 3, pp. 107-114. DOI: 10.1089/cyber.2009.0226
Volodenkov S.V (2019) Big Data as an Instrument of Influence on the Contemporary Political Process: Features, Potential and Actors. Zhurnal politicheskikh issledo-vanij, vol. 3, no 1, pp. 7-13 (in Russian).
Zizek S. (2000) The Matrix: the Truth of the Exaggerations. Available at: http://anthropology.ru/ru/text/zhizhek-s/matrica-istina-preuvelicheniy, accessed 20.05.2020 (in Russian).
