CC BY
26
ВЕСТНИК МОСКОВСКОГО УНИВЕРСИТЕТА. СЕРИЯ 18. СОЦИОЛОГИЯ И ПОЛИТОЛОГИЯ. 2023. Т. 29. № 3
СОЦИОЛОГИЯ УПРАВЛЕНИЯ
DOI: 10.24290/1029-3736-2023-29-3-145-165
СОЦИАЛЬНЫЕ ТЕХНОЛОГИИ В ЭПОХУ "НАДЗОРНОГО КАПИТАЛИЗМА": ЦИФРОВИЗАЦИЯ И ВЛАСТЬ АЛГОРИТМОВ*
О.В. Гавриленко, канд. социол. наук, зав. кафедрой социальных технологий социологического факультета МГУ имени М.В. Ломоносова, Ленинские горы, 1, стр. 33, Москва, Российская Федерация, 119234**
"Надзорный капитализм" пока еще не является устойчивым термином, используемым в социальных науках, хотя давно ведутся научные дискуссии об основных технологиях такого экономического порядка — цифровых информационно-коммуникативных технологиях, алгоритмах, данных, искусственном интеллекте, нейросетях, интернете вещей и др. В свое время компания Google совершила революцию в области прогнозной аналитики и способствовала развитию "надзорного капитализма". Компания стала уделять особое внимание извлечению и анализу данных при осуществлении операций по переводу текстов, распознаванию речи, обработке изображений, ранжированию и т.п. Google начала превращать данные (сырье) в интеллектуальные продукты — алгоритмы, предназначенные для прогноза поведения пользователей. Эти прогнозные продукты стали использоваться для продажи другим организациям, которые увеличивают свою прибыль, улучшая свои предсказательные возможности при осуществлении маркетинговой деятельности. Умные машины уже не только научились познавать человека, они пытаются подтолкнуть его к принятию определенных решений, к запрограммированной поведенческой реакции на тот или иной стимул, что ведет к увеличению доходов "надзорных капиталистов" (и, прежде всего, доходов владельцев цифровых платформ). Иными словами, машины задают поведение человека, автоматизируя различные процессы, все это приводит к появлению нового типа власти — власти "инструментальной" (автоматизирование жизни индивидов с помощью повсеместного внедрения "умных" сетевых устройств, формирования "умного " пространства, "умных" домов). Алгоритмы проникают в самые разные сферы, на основе алгоритмов принимаются управленческие решения, функционируют
* Исследование выполнено при поддержке Междисциплинарной научно-образовательной школы Московского университета "Математические методы анализа сложных систем".
** Гавриленко Ольга Владимировна, e-mail: [email protected]
современные города. И неизбежно возникают вопросы о социальных последствиях повсеместной алгоритмизации и цифровизации, безопасности хранения данных, пределах оцифровки социального мира.
Ключевые слова: надзорный капитализм, социальный контроль, цифровые технологии, алгоритмы, большие данные, искусственный интеллект.
SOCIAL TECHNOLOGIES IN THE ERA OF "SUPERVISORY CAPITALISM": DIGITALIZATION AND THE POWER OF ALGORITHMS
Gavrilenko Olga V., Doctor of Sociology, Associate Professor, Head of Social
Technologies department, Faculty of sociology, Lomonosov Moscow State University,
Moscow, Russian Federation, e-mail: [email protected]
"Surveillance capitalism" is not yet a sustainable term used in the social sciences, although there has long been scientific debate about the basic technologies of this economic order — digital information and communication technologies, algorithms, data, artificial intelligence, neural networks, the Internet of things, etc. At the time, Google had revolutionized the field of predictive analysis and promoted "surveillance capitalism". The company began to pay special attention to extracting and analyzing data in translation operations, speech recognition, image processing, ranking, etc. Google began to turn data (raw materials) into intelligent products — algorithms designed to predict user behavior. These predictive products have been used for sale to other organizations that are increasing their profits by improving their predictive marketing capabilities. Smart machines are no longer just learning to know a man his behavior, they are trying to push him into making certain decisions, into programmed behavioral responses to some stimulus, which leads to an increase in the earnings of "supervising capitalists" (and, above all, the income of owners of digital platforms). That is, by automating various processes, machines set the human behavior that leads to the emergence of a new type of power — the "instrumental" power (automation of life of individuals by means of universal implementation of "smart" network devices, formation of "smart" space, "smart" houses). Algorithms penetrate into a variety of spheres, on the basis of algorithms management decisions are made and modern citiesfunction. However, questions inevitably arise about the social consequences of widespread algorithmization and digitalization, the security of data storage, the limits of digitizing the social world.
Key words: supervisory capitalism, social control, digital technologies, algorithms, big data, artificial intelligence.
Цифровизация сегодня становится как средой реализации повседневных практик индивида, так и средой государственного управления, функционирования коммерческих организаций. Современное общество начинает жить в новую эпоху, эпоху "надзорного капитализма", понимаемого Ш. Зубофф как "новый экономический порядок, который претендует на человеческий опыт как на сырье, бесплатно доступное для скрытого коммерческого извлече-
ния, прогнозирования и продажи"1. Основной угрозой человечеству вдруг становится цифровая архитектура, технологическая основа цифрового общества (большие данные, искусственный интеллект, интернет вещей и т.п.). "Надзорный капитализм" — это новый социальный порядок, формирующийся у нас на глазах, новая форма власти, которая не подчиняется контролю "снизу", не встречает особого сопротивления со стороны государства и общества, так как уже воспринимается вполне органично как среда реализации социальных практик.
Современная жизнь создает такие условия, в которых для того, чтобы не отстать и быть в курсе происходящего, индивид постоянно должен искать информацию и сам генерировать данные. Необходимость быть все время на связи, планирование и корректировка повседневных планов, навигация, пользование многочисленными услугами предполагают регулярное обращение к сетевым ресурсам. Индивиды оставляют свои цифровые следы в виде интернет-запросов, маршрутов передвижения, персональных данных или отбрасывают "цифровую тень" и проявляются через действия других, например, будучи упомянутыми в социальных сетях другими пользователями2. Цифровизация повседневной жизни индивида происходит достаточно стремительно, повсеместное внедрение цифровых технологий снизило чувствительность населения к нарушению приватности жизни и одновременно остро поставило вопрос о безопасности данных, генерируемых индивидами и машинами. Цифровые платформы занимаются сбором пользовательских данных, которые индивиды предоставляют, особо не задумываясь. Сегодня, рассуждая о больших данных, чаще говорят о перспективах и направлениях их использования, но ключевыми проблемами все же остаются сохранение безопасности данных и этические проблемы нарушения границ частной жизни в цифровой реальности. "Неприкосновенность частной жизни считается основополагающим правом человека, ценным и гарантированным условием жизни в развитых странах. Однако по мере того как датчики, камеры, смартфоны и другие встроенные и портативные устройства производят все больше данных, защищать последние становится все труднее, ведь люди оставляют все больше цифровых следов (данных, которые они производят сами) и цифровых теней (информации, которую собирают о них другие). Такие архивы данных позволяют осуществлять дата-
1 Зубофф Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. М., 2022. С. 10.
2 Запорожец О., Лапина-Кратасюк Е. Сетевой/цифровой/умный город: фасады и задворки // Сети города: Люди. Технологии. Власти. М., 2021. С. 20.
надзор (вид цифровой слежки при помощи сортировки и просеивания массивов данных с целями идентификации, мониторинга, отслеживания, регулирования, предсказания и рекомендаций) и геонадзор (отслеживание местоположения и перемещения людей, транспортных средств, товаров и услуг, мониторинг пространственных взаимодействий)"3.
Одной из проблем активного внедрения смарт-технологий в управленческие и повседневные практики является обеспечение безопасности данных и кибербезопасности. "Технологии умных городов полностью построены на компьютерных сетевых интеракциях, поэтому пользоваться уязвимостями систем можно на расстоянии, кибератаки легко замаскировать, преступники меньше подвергают себя риску, а поймать их значительно сложнее"4. Последствия действий киберпреступников могут быть крайне опасны. Так, атаки на технологическую инфраструктуру умного города в условиях "заточенности" всех процессов на "цифру" могут привести к коллапсу систем жизнеобеспечения города. Как отмечают Р. Китчин и М. Додж, кибератаки используют типичные проблемы цифровых технологий, связанные с системами умных городов: 1) слабая защита программного обеспечения и шифрования данных; 2) использование небезопасных устаревших систем и их плохая техническая эксплуатация; 3) сложность систем умного города и множество возможностей для кибератак; 4) человеческий фактор (например, должностные преступления, действия обиженных уволенных работников, имевших доступ к персональным данным); 5) влияние факторов, связанных с городским управлением (дефицит инвестиций в технологическую инфраструктуру, неразвитые цифровые компетенции чиновников и т.п.)5.
Несмотря на постоянную риторику о новой цифровой реальности, в которой человечество начинает жить, не следует забывать о том, что доступ к провозглашаемым "благам" цифровизации имеют далеко не все. Цифровое неравенство становится новым видом социального неравенства в современном мире. "Активное и повсеместное распространение информационно-коммуникационных технологий (ИКТ) стало источником нового социального разрыва — между теми, кто имеет доступ к этим технологиям и
3 Китчин Р. Сетевой урбанизм, основанный на данных // Сети города: Люди. Технологии. Власти. С. 75.
4 Там же. С. 107.
5 Китчин Р., Додж М. (Не)безопасность умных городов: проблемы, риски, а также смягчение и предупреждение негативных последствий // Сети города: Люди. Технологии. Власти. С. 110-115.
вытекающим из них преимуществам, а также теми, у кого такой доступ отсутствует или ограничен"6. Цифровой разрыв учеными рассматривается как новая форма социальной эксклюзии, при которой наблюдаются отсутствие равного доступа к информационно-коммуникативным технологиям, различный уровень владения цифровыми навыками и компетенциями и вытекающие из этого неравные жизненные шансы и возможности7. «Алгоритмы приводят в действие механизм "ловушки бедности". С одной стороны, они углубляют социальный разрыв, основывающийся на присущих индивидам социально-демографических (например, возраст, уровень образования, наличие социальных связей) и социально-экономических характеристиках. С другой стороны, создают новые формы неравенства, обусловленные необходимостью владеть специфическими алгоритмическими навыками, доступ к получению которых ограничен»8. Росту социального неравенства способствуют различные инструменты, используемые в цифровой среде, такие как алгоритмы социального ранжирования и рейтингования индивидов (система "социального кредита" в Китае). Цифровое неравенство усиливается также благодаря разному уровню осведомленности о работе алгоритмов, неразвитости цифровых навыков и компетенций, различным формам "скрытой" дискриминации (отдельные категории граждан могут попадать под более жесткие формы цифрового надзора).
В силу существования цифрового неравенства далеко не все российское население погружено в цифровую реальность, остаются возможности периодически совершать экономические, политические и социальные практики без обращения к цифровым сервисам и платформам (например, совершать покупки за наличные деньги, голосовать, приходя лично на избирательные участки, не использовать смартфон для повседневных практик). Но логика принятия государственных решений и федеральных законов свидетельствует о наличии задачи по тотальной цифровизации повседневности и социальных практик9. Так, в соответствии с задачами реализации
6 Осипова Н.Г. Социальное неравенство в современном мире // Вестник Московского университета. Серия 18. Социология и политология. 2019. Т. 25. № 4. С. 124-153. DOI: doi.org/10.24290/1029-3736-2019-25-4-124-153. С. 141.
7 Там же. С. 143.
8 Мартыненко Т.С., Добринская Д.Е. Социальное неравенство в эпоху искусственного интеллекта: от цифрового к алгоритмическому разрыву // Мониторинг общественного мнения: экономические и социальные перемены. 2021. № 1. С. 181.
9 См., например: Распоряжение Правительства РФ от 20 февраля 2021 г. № 431-р Об утверждении Концепции цифровой и функциональной трансформации социальной сферы, относящейся к сфере деятельности Министерства труда и со-
программы развития цифровой экономики в России к 2025 г. взаимодействие населения и государства должно постепенно перейти в электронный формат, что потребует не только серьезной цифровой трансформации различных министерств, ведомств и организаций, занятых предоставлением социальных услуг населению, но и разработки жизнеспособной системы обеспечения безопасности персональных данных.
Данные сегодня становятся основным ресурсом, на котором строится современная экономика, принимаются ключевые решения власти и т.п. Вокруг проблематики больших данных выстраиваются различного рода дискуссии, способствуя "мифологизации" больших данных и формированию веры во "всемогущество" данных. Дата-изм становится новой современной идеологией, формируя убежденность в возможности "оцифровки всего социального", веру в объективную количественную оценку и потенциал отслеживания всех видов человеческого поведения и социальности с помощью цифровых информационно-коммуникативных технологий, в предсказательные возможности искусственного интеллекта, доверие к агентам, которые собирают, интерпретируют и распространяют (мета)данные, найденные в интернете и социальных сетях10.
Компания Google в свое время совершила определенную революцию в области прогнозной аналитики и способствовала развитию "надзорного капитализма". Данная организация в определенный период времени стала уделять особое внимание "извлечению и анализу данных"11; извлечение связано с материальной инфраструктурой и доступом к данным, а анализ относится к использованию узкоспециализированных вычислительных систем, технологий машинного интеллекта. При осуществлении операций по переводу, распознаванию речи, обработке изображений, ранжированию и т.п. Google превращает данные (сырье) в интеллектуальные продукты — алгоритмы, предназначенные для прогноза поведения пользователей. Именно эти прогнозные данные обладают особой ценностью как для коммерческих, так и для государственных организаций. На этом раннем этапе развития Google все те данные, что пользователи поиска непреднамеренно отдавали компании (число и последовательность поисковых слов, точная формулировка запро-
циальной защиты РФ, на период до 2025 г. URL: https://www.garant.ru/products/ipo/ prime/doc/400288029/#review (дата обращения: 20.01.2023).
10 Подробнее см.: Van Dijck J. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology // Surveillance & Society. 2014. Vol. 12 (2). P. 197-208. URL: https://doi.org/doi.org/10.24908/ss.v12i2.4776. Р. 198.
11 Зубофф Ш. Указ. соч. С. 89.
са, орфография, пунктуация, паузы при наборе текста, последовательность кликов, географическое местоположение пользователя), им же потом и возвращалось в виде улучшения услуг. "Машинный интеллект перерабатывает поведенческий излишек в прогнозные продукты, предназначенные для предсказания наших чувств, мыслей и действий: прямо сейчас, чуть позже, или в более отдаленном будущем... компания продает прогнозы, которые только она и может изготовить из своих исторически рекордных частных запасов поведенческого излишка. Прогнозные продукты снижают риски для клиентов, советуя им, на что и когда ставить. Качество и конкурентоспособность такого продукта напрямую зависят от того, насколько он близок к точному знанию: чем надежнее прогноз, тем ниже риски для его покупателей и тем выше объем продаж. Google сумел стать гадалкой цифрового века, которая полным ходом заменяет интуицию наукой, чтобы за деньги погадать на наши судьбы, но не нам, а своим клиентам"12.
Большие данные это не только идеология, это еще и исследовательская технология, которая может успешно использоваться, например, для социального прогнозирования. Но возможности данной технологии важно не переоценивать. Большие данные не имеют существенного значения для социального прогнозирования, так как нужны не просто данные как таковые, а нужны именно умные данные (smart data) для принятия решений, связанных с будущим. Умные данные подразумевают интеллектуальную обработку, основанную на аналитических алгоритмах и применении качественных методов. Кроме того, существуют еще и темные данные (dark data), причем в общем массиве данных они составляют большинство. Это данные, которые собираются автоматически, но не используются для получения значимой информации или принятия управленческих решений (например, данные о перемещении сотрудников в течение рабочего дня или содержание электронной почты персонала. Та же система биометрического контроля на входе генерирует огромный объем информации, но руководство использует минимум этих данных, запрашивая выборочно какую-то информацию об опозданиях и т.п.). Темные данные — это и данные, не поддающееся оцифровке (все-таки далеко не все проявления нашего социального поведения можно оцифровать). Такие данные могут нести значимую информацию, но она никак не используется для социального прогнозирования, соответственно снижается точность прогноза.
12 Зубофф Ш. Указ. соч. С. 129.
Сегодня в область социального прогнозирования приходит все больше тех, кто не имеет отношения к социальным наукам. Так, набирают популярность (скорее, у "не специалистов") работы А. Пент-ленда13, в которых он строит свою теорию "инструментального общества". Его социальная физика позиционируется им как новая общественная наука, которая математическими методами изучает, как с помощью данных и информации влиять на человеческое поведение. Человек — это элемент машины, построенной на основе умных алгоритмов. Искусственный интеллект и большие данные позволяют выстроить систему, в которой неопределенность сведена к минимуму и нет случайностей, в которой используется алгоритмическое управление и поведение индивидов загнано в границы параметров. Поэтому будущее уже определено, оно задано алгоритмами и вопрос именно в том, кто определяет эти алгоритмы. "Иногда кажется, будто наш мир, где посты в таких социальных сетях, как Twitter, могут вызвать биржевой крах или свергнуть правительство, вот-вот вырвется из-под контроля. Ведь несмотря на то что использование цифровых медиа в корне изменило характер нашей экономики, бизнеса, государственного управления и политики, мы все еще не пришли к полному пониманию глубинной сущности этих новых систем, связавших человека и машину. Внезапно наше общество превратилось в объединение людей и технологий, сила и слабость которого отличаются от всего, что нам когда-либо доводилось испытывать"14. Данная теория разрабатывалась А. Пентландом скорее для предсказания потребительского поведения индивидов, но может быть вполне экстраполирована на другие сферы, например, политическую — для принятия властных решений либо в целях политического надзора.
Тематика, связанная с искусственным интеллектом, сегодня становится очень популярной в науке и в общественных дискуссиях. Опять-таки излишнее педалирование этой проблематики и вера во всесильность данной технологии приводят к мифологизации всего, что так или иначе связано с использованием искусственного интеллекта. В социальных науках тоже активно осваивается исследовательское поле, связанное с процессами цифровизации социальных практик и выявлением социальных последствий внедрения технологий искусственного интеллекта. Искусственный интеллект, как и большие данные, сегодня все чаще применяется в качестве ис-
13 Пентленд А. Социальная физика. Как Большие данные помогают следить за нами и отбирают у нас частную жизнь. М., 2018.
14 Там же. С. 14.
следовательских технологий, в том числе, при социальном прогнозировании и проектировании. Может ли искусственный интеллект быть непредвзятым и объективным? Вряд ли, так как он учится на "наших" данных и может воспроизводить человеческие ошибки или стереотипы (в интернете много дискуссий о том, как воспроизводятся расовые, гендерные стереотипы). Те, кто создает нейросети, обучает роботов, часто используют массив данных из интернета, который наполнен предвзятым контентом. Кроме того, возникает вопрос, может ли искусственный интеллект предсказывать что-то там, где нет данных? Как строить прогнозы по колонизации космоса или созданию человека-киборга только на основе искусственного интеллекта? На чем ему учиться, на каких данных, если этих данных просто не существует пока? Прогнозные модели, основанные только на массиве данных, часто бывают неточными. Ярким примером является модель Гугл флю трендс, которая при прогнозировании эпидемий гриппа ошибалась в расчетах, в два раза завысив процент потенциально больных, но при этом модель не смогла спрогнозировать эпидемию свиного гриппа в 200915. Искусственный интеллект и большие данные — это хорошие исследовательские технологии, но они не могут быть универсальными, являясь лишь помощником человека в решении четко определенных задач, в том числе, и социального прогнозирования.
При активном внедрении цифровых технологий во все сферы общественной жизни возникают опасения тотального контроля и оцифровки социального пространства. Цифровые информационно-коммуникативные технологии способствуют появлению возможности для осуществления тотального цифрового контроля. Так, «рост контроля над индивидуальным поведением... приводит к формированию так называемого "нового тоталитаризма". Этот "новый тоталитаризм" выражается в том, что многообразие источников информации сопровождается выстраиванием все более совершенных диверсифицированных систем контроля как над потоками информации, так и над их содержанием»16. «Вопросы социального контроля в цифровом пространстве не имеют однозначных ответов ввиду принципиальной амбивалентности этого пространства и поддерживающей его технологической инфраструктуры, а также радикальной множественности социальных агентов, заинтересованных в его су-
15 https://time.com/23782/google-flu-trends-big-data-problems/ (accessed: 02.02.2023).
16 Осипова Н.Г. Цифровизация социальной реальности: ключевые дискуссии // Вестник Московского университета. Серия 18. Социология и политология. 2022. Т. 28. № 3. С. 9-42. DOI: doi.org/10.24290/1029-3736-2022-28-3-9-42. С. 23.
ществовании. Скорее всего, существующие опасения о тотальном контроле цифровых платформ разобьются о принципиально невозможную оцифровку социального и/или о существующий "предел" искусственного интеллекта интерпретировать и трактовать данные о человеческом поведении»17.
Рассуждая о новых формах социального контроля в цифровой реальности, нельзя не коснуться такой технологии как дрон. Ранее мы уже акцентировали внимание на том, что именно дрон является цифровой технологией, радикально меняющей подход к контролю, контроль становится тотальным18. Г. Шамаю перечислил характеристики дрона как технологии контроля, которые фактически произвели "революцию взгляда": 1) постоянство осуществления контроля (дрон не человек, который может отвлечься или расслабиться и потерять бдительность); 2) тотальность "взгляда" (возможность наблюдать за большими пространствами); 3) архивирование огромного числа данных для дальнейшего анализа; 4) возможность "слияния" данных, объединения разных типов данных; 5) схематизация жизненных паттернов; 6) быстрое обнаружение девиаций и аномии (фиксация отклонений от "типичности")19. Не случайно сейчас такое внимание приковано к дронам и беспилотни-кам, показавшим свои очевидные преимущества при обнаружении противника и осуществлении контроля за территорией во время военных конфликтов.
"Надзорный капитализм" понимается Ш. Зубофф как система, которая использует человеческий опыт в качестве источника данных о человеческом поведении. «Хотя часть этих данных используется для улучшения продукта или услуги, остальное объявляется проприетарным поведенческим излишком, передается передовым производственным процессам, известным как "машинный интеллект", и перерабатывается в прогнозные продукты, предсказывающие, что вы сделаете прямо сейчас, в ближайшем или более отдаленном будущем. В итоге эти прогнозные продукты торгуются на новом типе рынков — рынках поведенческих прогнозов, которые я называю рынками поведенческих фьючерсов. Надзорные капита-
17 Маркеева А.В., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля // Вестник Московского университета. Серия 7. Философия. 2019. № 5. С. 46.
18 Гавриленко О.В. Цифровые технологии социального контроля: перспективы и социальные последствия их внедрения // Вестник Московского университета. Серия 18. Социология и политология. 2022. Т. 28. № 1. С. 158. DOI: doi. org/10.24290/1029-3736-2022-28-1-145-163
19 Шамаю Г. Теория дрона. М., 2020. С. 243.
листы сказочно разбогатели на этих торговых операциях, поскольку многие компании горят желанием сделать ставку на наше будущее поведение»20. Машины уже не просто познают человека, они пытаются подтолкнуть его к принятию определенных решений, к заданной поведенческой реакции на тот или иной стимул, что ведет к увеличению доходов "надзорных капиталистов" (и, прежде всего, доходов владельцев цифровых платформ). Иными словами, машины формируют (задают) поведение человека, автоматизируя процессы, все это приводит к появлению нового типа власти — власти "инструментальной" (автоматизирование жизни индивидов с помощью повсеместного внедрения "умных" сетевых устройств, формирования "умного" пространства, "умных" домов).
Пионером в области "надзорного капитализма" принято считать компанию Google, которая быстрее всех поняла, какие перспективы открывает интернет в плане доступа к данным, формирующим указанные выше поведенческие излишки. Цифровые платформы, используя красивую риторику расширения возможностей индивидов при использовании интернета, одновременно с помощью технологий искусственного интеллекта учились преобразовывать получаемые данные в прогнозные продукты, и именно эти прогнозные продукты сейчас дают интернет-компаниям основную прибыль. "Надзорные капиталисты знают все о нас, в то время как их работа построена так, чтобы оставаться неведомой для нас. Они накапливают огромные пласты новых знаний, полученных из нас, но делают это не для нас. Они предсказывают наше будущее ради чужой выгоды, а не нашей"21.
Нельзя ставить знак равенства между надзорным капитализмом и цифровыми технологиями, которые он использует. "Надзорный капитализм" — это скорее логика использования данных технологий. "Надзорный капитализм" невозможен без цифровой инфраструктуры, это рыночный механизм, использующий цифровую среду. "Надзорный капитализм" как система опирается на цифровые платформы, использует машинный интеллект, производит алгоритмы, но приравнивать его просто к платформам и технологиям нельзя (не зря же надзорный капитализм иногда сравнивают с кукловодом, который умело использует марионеток (большие данные, искусственный интеллект, интернет вещей и др.)).
Какие социальные условия и тренды способствовали развитию "надзорного капитализма"? Сама Ш. Зубофф связала возникно-
20 Зубофф Ш. Указ. соч. С. 17.
21 Там же. С. 21.
вение надзорного капитализма с кризисными явлениями XX в., "кризисами модернов": "... экзистенциальное противоречие второго модерна... мы хотим осуществлять контроль над собственной жизнью, но повсюду нам не дают этого делать. Индивидуализация отправила каждого из нас на поиски ресурсов, нужных для обеспечения полноценной жизни, но на каждом шагу мы вынуждены сражаться с экономикой и политикой, для которых мы лишь ничтожества. Мы живем в сознании того, что наша жизнь имеет уникальную ценность, но с нами обходятся так, словно нас не существует"22. Цифровые гиганты, такие как Google, Apple, очень чутко уловили запрос населения (особенно молодого) на свободу самовыражения, на защиту своих интересов и прав, на желание "жить свою жизнь так, как хочу". Интернет-компании сформировали новую реальность, подстроенную под индивидуальные предпочтения и запросы — получение благ "в один клик", открытые образовательные платформы для самообразования, сетевые устройства и мобильные приложения. Но достаточно быстро, оценив все преимущества жизни в цифровой реальности, человек столкнулся с двумя основными проблемами: нарушение границ частной жизни и безопасность хранения личных данных. Впервые общественный резонанс, связанный с острым реагированием на политику цифровых платформ по использованию личных данных, возник при появлении контекстной рекламы, основанной на поисковых запросах и сканировании переписки пользователей. Интернет-гиганты отреагировали на возмущение пользователей, использовав в качестве ширмы "политику конфиденциальности", убеждая в надежности сохранности данных. Сами "пользовательские соглашения", которые индивид подписывает, фактически являются "договорами присоединения", навязывающими условия невозможности получения товара/услуги без проставления галочки (чаще всего пользователи ставят галочку, не открывая даже эти соглашения). Постепенно возникла новая реальность, где каждый поисковый запрос, клик, лайк превращается в актив, который анализируется и монетизиру-ется какими-то компаниями.
По мере того, как цифровые платформы получают все большую инструментальную власть и доступ к личным данным, растет и сопротивление "снизу", далеко не каждый индивид в силу различных жизненных обстоятельств готов к "прозрачности" и открытости личных данных: ".в погоне за новыми данными компании игнорируют тот факт, что бесконтрольность со стороны общества и государства,
22 Зубофф Ш. Указ. соч. С. 64.
отсутствие этических стандартов в извлечении и использовании данных приводит к росту сопротивления... потребитель понимает, что большие данные становятся источником проблем, работают против него, ограничивая его в доступе к определенным экономическим и/ или социальным благам. Вероятно, в сложившихся условиях процесс сопротивления населения сбору данных, их использованию и продаже будет нарастать, запуская спираль появления все новых форм сопротивления: сознательного искажения данных, использования различных блокировщиков, а также отказа от определенных брендов, строящих свою маркетинговую политику на агрессивном использовании пользовательских данных"23. В 2014 г. Европейский суд принял "знаковое" решение, утвердив "право на забвение" в качестве незыблемого права гражданина ЕС. Данное право разрешает физическим лицам обращаться к поисковым системам с просьбой удалить определенную информацию из открытых источников. В России в 2020 г. тоже были внесены поправки в ФЗ "О персональных данных", предусматривающие реализацию такого "права на забвение"24. Но механизмы реализации данного права еще работают недостаточно эффективно, кроме того низка осведомленность населения о наличии такого "права на забвение". Реакция интернет-гигантов на решение Европейского суда была достаточно бурной. Так, руководство компании Google заявило, что людям лучше доверять Google, чем государственным институтам, так как "хранение данных в таких компаниях, как Google, лучше, чем хранение их государством, которое не имеет надлежащей процедуры получения этих данных, потому что мы, очевидно, заботимся о своей репутации"25.
Сопротивление пользователей экспансии цифровых платформ вряд ли можно считать каким-то массовым явлением, большинству проще и удобнее пользоваться цифровой средой, получая блага "в один клик", не задумываясь о сохранности данных или нарушении границ частной жизни. Стратегии сопротивления «при всем многообразии проявлений, можно разбить на два типа: 1) активизация деятельности по созданию принципиально иной технологической среды (движение за программы с открытым кодом, за новый интернет, против вытеснения органического поиска из Сети и т.д.); 2) сознательное ограничение медиапотребления, распространение рестрикционистских практик в отношении медиа (медиаскетизм,
23 Маркеева А.В., Гавриленко О.В. Большие данные как исследовательская технология: возможности и ограничения применения в современной управленческой практике // Общество: социология, психология, педагогика. 2021. № 12. С. 98.
24 https://sozd.duma.gov.ru/bill/1057337-7 (дата обращения: 06.02.2023).
25 Цит. по: Зубофф Ш. Указ. соч. С. 84.
"цифровая диета" и т.д.)»26. Как уже отмечалось выше, «цифрови-зация социального мира актуализирует этическую проблему соблюдения "границ частной жизни" и возможности размывания этих границ, но пандемия COVID 19 снизила чувствительность граждан к необходимости предоставления личных данных (место проживания, контактные лица, маршруты перемещения и др.)»27. При развитии цифровых технологий социального контроля неизбежно придется идти на компромисс между правами граждан на неприкосновенность частной жизни и внедрением новых смарт-технологий.
С расширением власти цифровых платформ пытаются бороться не только рядовые пользователи, но и национальные государства. Как правило, национальные государства пытаются деятельность платформ ограничить и поставить под контроль с использованием классических методов регулирования, что плохо работает для современных информационных технологий. Другой способ борьбы — это "активные инвестиции государств в создание информационной инфраструктуры, в IT-компании, формирование совместных проектов с крупными национальными IT-компаниями, предоставление им возможностей в монополизации определенных рынков в обмен на сотрудничество и лояльность в предоставлении данных для контроля над различными аспектами социальной и экономической деятельности населения, а также их приватной сферы"28. Сами же государственные акторы заинтересованы в росте данных, генерируемых цифровыми гигантами, так как на основе этих данных власть принимает ключевые решения по управлению и контролю за населением. Цифровая инфраструктура формирует новый паноптикум, основная цель которого согласно М. Фуко — "привести заключенного в состояние сознаваемой и постоянной видимости, которая обеспечивает автоматическое функционирование власти"29. Это позволяет власти, и не только государственной власти, но и создателям платформенной экономики, осуществлять контроль, при этом оставаясь анонимной, невидимой. Сегодня цифровые платформы, владея неограниченным объемом данных о населении, становятся
26 Маркеева А.В., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля. С. 41.
27 Гавриленко О.В. "Большой Брат следит за тобой...": этические аспекты использования и хранения данных в цифровом городе // Трансформация этической матрицы в цифровую эпоху. Материалы научной онлайн конференции с международным участием / Ред. А.К. Мамедов, И.Н. Чудновская. М., 2022. С. 51.
28 Маркеева А.В., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля. С. 42.
29 Фуко М. Надзирать и наказывать: рождение тюрьмы. М., 1999. С. 294.
основной инстанцией социального контроля в цифровом мире, отодвигая государство на второй план.
Говоря об изменении характера управленческой деятельности в условиях цифровизации общества, важно сделать акцент на все большем проникновении технологий искусственного интеллекта в сферу управления. Сегодня речь идет о таких формах как, например, алгоритмическое управление. Алгоритмы достаточно активно используются в государственном управлении, в банковской сфере (например, при одобрении кредитов), на производстве, в сфере образования, применяются кадровыми службами организаций (особенно часто при отборе персонала) и т.п. "Люди повсюду контактируют с алгоритмами, благодаря которым внедряются новые формы управления и создаются возможности для новых форм накопления капитала. Распространенность, социальные эффекты и все больший объем полномочий автономных и автоматизированных алгоритмических решений требуют углубленного изучения последствий проявления этих тенденций, а основные характеристики алгоритмов, такие как непрозрачность, непредсказуемость, нелинейность, скрытый характер воздействия и наличие сопутствующих эффектов, определяют их влияние на проблему социального неравенства"30.
Искусственный интеллект и алгоритмы машинного обучения высвобождают значительную часть персонала, занятого ручным трудом и выполняющего рутинную офисную деятельность, но от замены не застрахован и персонал, занятый творческой и управленческой деятельностью. Автоматизация уже достаточно эффективно заменяет персонал на производстве как в плане качества выполняемой работы, так и демонстрируя явное сокращение финансовых затрат при внедрении автоматизации и алгоритмизации — "это создание более дешевой и гораздо более сговорчивой рабочей силы, такой, которая никогда не потребует оплаты переработок, не станет настаивать на повышении зарплаты или расширении социального пакета, не подаст в суд за дискриминацию, не будет претендовать на компенсацию за производственную травму и никогда не будет жаловаться на условия труда"31. Говоря о специфике труда тех, кого не "поглотит" автоматизация и кто сможет сохранить работу, А. Грин-филд рисует довольно мрачную картину. «От этой сократившейся рабочей силы будут требовать делать больше, быстрее и за более
30 Мартыненко Т.С., Добринская Д.Е. Социальное неравенство в эпоху искусственного интеллекта: от цифрового к алгоритмическому разрыву. С. 178.
31 Гринфилд А. Радикальные технологии: устройство повседневной жизни. М., 2018. С. 251.
низкую заработную плату... Его (Amazon — Прим. автора) складские рабочие нанимаются по фиксированным краткосрочным контрактам через стороннее агентство по найму... и им не положено никаких прибавок, социального пакета, возможностей для карьерного роста. Они работают в условиях "рационализированного" надзора в форме измерения параметров производительности труда, которые корректируются в реальном времени. Любые проявления свободы действий или автономии безжалостно пресекаются алгоритмами эффективности. Рабочий график будет составляться оптимизирующим алгоритмом, без предварительных оповещений или с оповещением непосредственно перед началом рабочей смены, на периоды, никак не соотнесенные со временем, необходимым для отдыха или сна, семейной жизни или других обязательств»32.
Технологии искусственного интеллекта и машинного обучения, несмотря на все перспективные направления их использования, имеют серьезные социальные последствия, в том числе, для работы высококвалифицированного персонала, занятого не физическим трудом. Долгое время считалось, что автоматизация и роботизация являются угрозой именно для "синих воротничков", но сегодня стало очевидно, что искусственный интеллект и нейро-сети вполне могут заменить определенный функционал практически любого сотрудника. Нейросети занимаются распознаванием образов и речи, прогнозированием, классификацией, решением творческих задач и т.п. Много шума в начале 2023 г. произвел чат-бот ChatGPT, который был использован не только при написании выпускной работы студентом РГГУ, но и при создании, например, проповедей, по качеству практически неотличимых от обычных проповедей33. Трансформация рынка труда, "отмирание" ряда про-
32 Гринфилд А. Радикальные технологии: устройство повседневной жизни. С. 264.
33 «Тед Брюер, исследователь Нового Завета и ответственный редактор христианского сайта "Пересмешник", в декабре 2022 года написал о своем эксперименте с ИИ: он попросил ChatGPT написать рождественскую проповедь. Его запрос был очень подробным: проповедь должна была строиться на Евангелии от Луки, в частности на его словах о рождении, а также в ней должны были присутствовать цитаты из работ Карла Барта, Мартина Лютера, изречений Иринея Лионского и выступлений Барака Обамы. Чат выдал ему результат, соответствующий всем заданным критериям. Брюер признал, что эта проповедь превосходила некоторые из тех, что он слышал в церкви... В конце 2022 года раввин из Нью-Йорка Джошуа Франклин предупредил прихожан, что прочтет чужую проповедь на тему доверия, уязвимости и прощения. Завершив речь, он предложил аудитории угадать, кому принадлежит прочитанный им текст. Когда люди не смогли ответить, он признался, что автором был чатбот ChatGPT, которому Франклин дал задание создать проповедь из тысячи слов» (см.: Искусственный интеллект научился писать проповеди и
фессий, угроза структурной безработицы вызывают определенные тревожные ожидания населения. "Переход к экономике интернет-платформ подстегнул наблюдавшийся на протяжении 2000-х годов рост численности прекариата, то есть людей, не имеющих стабильной и полной трудовой занятости. Осознание людьми своей беззащитности перед будущим, воспроизводство и рост неравенства, а также новые его виды, связанные с цифровой трансформацией, диспропорциями в культурном и пространственном развитии, пандемиями, а также изменением климата, в ближайшие годы будут усиливать поляризацию в представлениях о том, куда должна двигаться страна"34.
Алгоритмы проникают сегодня и в те сферы, где раньше о них не думали, например, в сферу эмоций и регулирования эмоционального состояния, в организациях появляются так называемые "аффективные показатели эффективности". В Японии еще в 2009 г. ряд компаний начали измерять "качество" улыбок персонала сферы услуг для того, чтобы контролировать "правильное" социальное поведение35. Были разработаны алгоритмы, которые на основе собираемых голосовых и текстовых данных предлагают способы оценки конфликтности, потенциальной производительности и даже трудовых ценностей. Такая предвзятая "кадровая аналитика" становится часто "руководством к действию" — можно уволить человека на основании того, что алгоритм посчитал его неблагонадежным, конфликтным или эмоционально лабильным. «И если топ-менеджеры еще могут уклониться от алгоритмической оценки своей эффективности, велика вероятность того, что нижестоящие сотрудники будут все больше зависеть от постоянного сочетания оценки и селекции, которое не оставляет никакого места для несобранных, не вполне компетентных, намеренно уклоняющихся от работы или просто
« " 36
иных » .
Управление, основанное на работе с непрерывным потоком структурированных и неструктурированных данных, позволяет принимать более обоснованные решения, осуществлять системный контроль и надзор. Все большее использование алгоритмического
разозлил священнослужителей. URL: https://rn.lenta.ru/news/2023/02/28/ai_sermons/ (дата обращения: 28.02.2023)).
34 Нестик Т.А. Образ будущего, социальный оптимизм и долгосрочная ориентация россиян: социально-психологический анализ // Социодиггер. 2021. Окт.-нояб. Т. 2. Вып. 9 (14): Горизонты будущего. С. 7.
35 Гринфилд А. Радикальные технологии: устройство повседневной жизни. С. 268.
36 Там же. С. 269.
управления не только оптимизирует выполнение ряда управленческих функций (например, функций контроля), но и приводит к сокращению числа чиновников, администраторов, менеджеров. "В то время как научный менеджмент был связан с проектом бюрократического надзора и ростом менеджериального класса, алгоритмическое управление не является бюрократическим, и его господство изменяет состав класса знаний. есть основания полагать, что рост платформенной экономики и распространение алгоритмического управления будут сопровождаться заметным снижением числа менеджеров. Алгоритмическое управление не автоматизирует бюрократию и не создает ее алгоритмически. Тем не менее алгоритмическая триада будет лишать менеджеров работы. алгоритмическое управление сопровождает общий, хотя и более медленный, спад в управлении"37.
"Надзорный капитализм — это форма, не знающая границ, которая игнорирует старые различия между рынком и обществом, рынком и миром, рынком и человеком. Это форма, стремящаяся к извлечению прибыли, при которой производство подчиняется извлечению, когда надзорные капиталисты в одностороннем порядке претендуют на контроль над человеческими, общественными и политическими территориями, выходящими далеко за пределы традиционной институциональной территории частной фирмы или рынка"38. Ш. Зубофф настаивает, что надзорный капитализм даже ставит под угрозу все то, что принято называть демократией. "Надзорный капитализм" — это система, которую невозможно контролировать "снизу", система, которая незаметно для индивидов управляет их поведением и жизнью в целом. "Ненормально, что наши лучшие позывы, направленные на общение, эмпатию и обмен информацией, эксплуатируются в рамках драконовской сделки, когда в обмен на эти блага наши жизни подвергаются непрерывному обыску. Ненормально, когда каждое движение, эмоция, слово и желание фиксируются, подвергаются манипуляциям, а затем используются для того, чтобы тайно прогнать нас сквозь будущее время ради чужой прибыли"39. Ш. Зубофф, обнажая "теневые" стороны "надзорного капитализма", настаивает на необходимости сопротивления власти цифровых гигантов, чтобы окончательно не потерять права и свободы распоряжаться собственной жизнью: "на карту поставлено человеческое право на суверенитет над собственной
37 Старк Д., Паис И. Алгоритмическое управление в экономике платформ // Экономическая социология. 2021. Май. Т. 22. № 3. С. 87.
38 Зубофф Ш. Эпоха надзорного капитализма. С. 663.
39 Там же. С. 672.
жизнью и на авторство собственного опыта. На карту поставлены внутренний опыт, который формирует волю к воле, и общественное пространство, в котором можно действовать в соответствии с этой волей. На карту поставлен доминирующий принцип социального упорядочения в информационной цивилизации и наше право, как личностей и как общества, отвечать на вопросы"40.
СПИСОК ЛИТЕРАТУРЫ
Гавриленко О.В. "Большой Брат следит за тобой..": этические аспекты использования и хранения данных в цифровом городе // Трансформация этической матрицы в цифровую эпоху. Материалы научной онлайн конференции с международным участием / Ред. А.К. Мамедов, И.Н. Чудновская. М., 2022. C. 48-56.
Гавриленко О.В. Цифровые технологии социального контроля: перспективы и социальные последствия их внедрения // Вестник Московского университета. Серия 18. Социология и политология. 2022. Т. 28. № 1. С. 145-163. DOI: doi.org/10.24290/1029-3736-2022-28-1-145-163.
Гринфилд А. Радикальные технологии: устройство повседневной жизни. М., 2018.
Запорожец О.,Лапина-КратасюкЕ. Сетевой/цифровой/умный город: фасады и задворки // Сети города: Люди. Технологии. Власти. М., 2021. C. 10-54.
Зубофф Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. М., 2022.
Китчин Р. Сетевой урбанизм, основанный на данных // Сети города: Люди. Технологии. Власти. М., 2021. C. 58-80.
Китчин Р., Додж М. (Не)безопасность умных городов: проблемы, риски, а также смягчение и предупреждение негативных последствий // Сети города: Люди. Технологии. Власти. М., 2021. C. 105-130.
Маркеева А.В., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля // Вестник Московского университета. Серия 7. Философия. 2019. № 5. С. 29-48.
Маркеева А.В., Гавриленко О.В. Большие данные как исследовательская технология: возможности и ограничения применения в современной управленческой практике // Общество: социология, психология, педагогика. 2021. № 12. С. 94-103.
Мартыненко Т.С., Добринская Д.Е. Социальное неравенство в эпоху искусственного интеллекта: от цифрового к алгоритмическому разрыву // Мониторинг общественного мнения: экономические и социальные перемены. 2021. № 1. С. 171-192.
Нестик Т.А. Образ будущего, социальный оптимизм и долгосрочная ориентация россиян: социально-психологический анализ // Социодиггер. 2021. Окт.-нояб. Т. 2. Вып. 9 (14): Горизонты будущего. С. 6-48.
Осипова Н.Г. Социальное неравенство в современном мире // Вестник Московского университета. Серия 18. Социология и политология. 2019. Т. 25. № 4. С. 124-153. DOI: doi.org/10.24290/1029-3736-2019-25-4-124-153.
40 Зубофф Ш. Указ. соч. С.672.
Осипова Н.Г. Цифровизация социальной реальности: ключевые дискуссии // Вестник Московского университета. Серия 18. Социология и политология. 2022. Т. 28. № 3. С. 9-42. DOI: doi.org/10.24290/1029-3736-2022-28-3-9-42.
Пентленд А. Социальная физика. Как Большие данные помогают следить за нами и отбирают у нас частную жизнь. М., 2018.
Старк Д., Паис И. Алгоритмическое управление в экономике платформ // Экономическая социология. 2021. Май. Т. 22. № 3. С. 71-103. DOI: doi. org/10.17323/1726-3247-2021-3-71-103.
Фуко М. Надзирать и наказывать: рождение тюрьмы. М., 1999.
Шамаю Г. Теория дрона. М., 2020.
REFERENCES
Fuko M. Nadzirat' i nakazyvat': rozhdenie tjur'my [Discipline and Punish: The Birth of the Prison]. M., 1999 (in Russian).
Gavrilenko O.V. "Bol'shoj Brat sledit za toboj...": jeticheskie aspekty ispol'zovanija i hranenija dannyh v cifrovom gorode ["Big Brother sees You...": The Ethical Aspects of Using and Storing Data in a Digital City] // Transformacija jeticheskoj matricy v cifrovuju jepohu. Materialy nauchnoj onlajn konferencii s mezhdunarodnym uchastiem / Red. A.K. Mamedov, I.N. Chudnovskaja. M., 2022. S. 48-56 (in Russian)
Gavrilenko O.V. Cifrovye tehnologii social'nogo kontrolja: perspektivy i social'nye posledstvija ih vnedrenija [Digital technologies of social control: prospects and social consequences of their implementation] // Vestnik Moskovskogo universiteta. Serija 18. Sociologija i politologija. 2022. T. 28. N 1. S. 145-163. DOI: doi.org/10.24290/1029-3736-2022-28-1-145-163 (in Russian).
Grinfild A. Radikal'nye tehnologii: ustrojstvo povsednevnoj zhizni [Radical Technologies: The Design of Everyday Life]. M., 2018 (in Russian).
Kitchin R. Setevoj urbanizm, osnovannyj na dannyh [Data-driven, Networked Urbanism] // Seti goroda: Ljudi. Tehnologii. Vlasti. M., 2021. S. 58-80 (in Russian).
Kitchin R., Dodzh M. (Ne)bezopasnost' umnyh gorodov: problemy, riski, a takzhe smjagchenie i preduprezhdenie negativnyh posledstvij [The (In)security of Smart Cities: Vulnerabilities, Risks, Mitigation and Prevention] // Seti goroda: Ljudi. Tehnologii. Vlasti. M., 2021. S. 105-130 (in Russian).
Markeeva A.V., Gavrilenko O.V. Cifrovaja platforma kak novyj jekonomicheskij aktor i novaja instancija social'nogo kontrolja [Digital platform as a new economic actor and new instance of social control] // Vestnik Moskovskogo universiteta. Serija 7. Filosofija. 2019. N 5. S. 29-48 (in Russian).
Markeeva A.V., Gavrilenko O.V. Bol'shie dannye kak issledovatel'skaja tehnologija: vozmozhnosti i ogranichenija primenenija v sovremennoj upravlencheskoj praktike [Big Data as a research technology: possibilities and limitations of its application in contemporary managerial practices] // Obshhestvo: sociologija, psihologija, pedagogika. 2021. N 12. S. 94-103 (in Russian).
Martynenko T.S., Dobrinskaja D.E. Social'noe neravenstvo v jepohu iskusstvennogo intellekta: ot cifrovogo k algoritmicheskomu razryvu [Social inequality in the age of algorithms: from digital to algorithmic] // Monitoring obshhestvennogo mnenija: jekonomicheskie i social'nye peremeny. 2021. N 1. S. 171192 (in Russian).
Nestik T.A. Obraz budushhego, social'nyj optimizm i dolgosrochnaja orientacija rossijan: social'no-psihologicheskij analiz [Vision of the future, social optimism and long-term orientation of Russians: socio-psychological analysis] // Sociodigger. 2021. Oktjabr'-nojabr'. T. 2. Vyp. 9 (14): Gorizonty budushhego. S. 6-48. (in Russian).
Osipova N.G. Cifrovizacija social'noj real'nosti: kljuchevye diskussii [Digitalization of social reality: key discussions] // Vestnik Moskovskogo universiteta. Serija 18. Sociologija i politologija. 2022. T. 28. N 3. S. 9-42. DOI: doi. org/10.24290/1029-3736-2022-28-3-9-42 (in Russian).
Osipova N.G. Social'noe neravenstvo v sovremennom mire [Social inequality in the modern world] // Vestnik Moskovskogo universiteta. Serija 18. Sociologija i politologija. 2019. T. 25. N 4. S. 124-153. DOI: https://doi.org/10.24290/1029-3736-2019-25-4-124-153 (in Russian).
Pentlend A. Social'naja fizika. Kak Bol'shie dannye pomogajut sledit' za nami i otbirajut u nas chastnuju zhizn' [Social Physics. How Good Ideas Spread — The Lessons from a New Science]. M., 2018 (in Russian).
Shamaju G. Teorija drona [Theory of drone]. M., 2020 (in Russian).
Stark D., Pais I. Algoritmicheskoe upravlenie v jekonomike platform [Algorithmic Management in the Platform Economy] // Jekonomicheskaja sociologija. Vol. 22. N 3. P. 71-103. doi: 10.17323/1726-3247-2021-3-71-103 (in Russian).
Van Dijck J. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology // Surveillance & Society. 2014. Vol. 12 (2). P. 197-208. DOI: doi.org/doi.org/10.24908/ss.v12i2.4776.
Zaporozhec O., Lapina-Kratasjuk E. Setevoj/cifrovoj/umnyj gorod: fasady i zadvorki [Networked/Digital/Smart city: Frontispieces and Backyards] // Seti goroda: Ljudi. Tehnologii. Vlasti. M., 2021. S. 10-54 (in Russian).
Zuboff Sh. Jepoha nadzornogo kapitalizma. Bitva za chelovecheskoe budushhee na novyh rubezhah vlasti [The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power]. M., 2022 (in Russian).
