CC BY
76
ВЕСТН. МОСК. УН-ТА. СЕР. 18. СОЦИОЛОГИЯ И ПОЛИТОЛОГИЯ. 2022. Т. 28. № 1
DOI: 10.24290/1029-3736-2022-28-1-145-163
ЦИФРОВЫЕ ТЕХНОЛОГИИ СОЦИАЛЬНОГО КОНТРОЛЯ: ПЕРСПЕКТИВЫ И СОЦИАЛЬНЫЕ ПОСЛЕДСТВИЯ ИХ ВНЕДРЕНИЯ*
О.В. Гавриленко, канд. социол. наук, зав. кафедрой социальных технологий социологического факультета МГУ имени М.В. Ломоносова, Ленинские горы, 1, стр. 33, Москва, Российская Федерация, 119234**
Внедрение цифровых технологий во все сферы жизни становится фактором, который радикально трансформирует характер социальных взаимодействий и изменяет механизмы социального контроля. Можно говорить о сложности и противоречивости этого нарастающего социального тренда, превращающего различные цифровые технологии в основную форму реализации "социального ". Мы все больше сталкиваемся с множественностью способов социального контроля при принципиальной унификации его процедур, которая определяется цифровыми технологиями. Происходят передача функций социального контроля от человеческих акторов машинам и алгоритмам, автоматизация и алгоритмизация социального контроля. Данная автоматизация содержит "под покровом" объективности и нейтральности политические, экономические и идеологические императивы, машина содержит трудно эксплицируемое человеческое ядро. Внедрение алгоритмических форм управления, основанных на использовании больших данных, значительно увеличивает масштабы мониторинга населения и смещает "властную" логику на контроль и конструирование мнений, формирование потребностей, побуждение к действиям в соответствии с предписанными нормами поведения. Пандемия COVID-19 активизировала деятельность национальных государств по использованию преимуществ цифрового контроля за населением. Фактически за несколько месяцев карантинных мероприятий в большинстве стран были развернуты беспрецедентные по охвату и универсальные по своим техническим решениям средства контроля за населением. При этом цифровой социальный контроль порождает специфические формы социальной асимметрии. Открытым остается вопрос — кто имеет доступ к информации, генерируемой машинами контроля? Для развития современных умных городов и цифровизации социальных практик необходимы актуальные и корректные данные, поэтому неизбежно придется идти на компромисс между правами граждан на неприкосновенность частной жизни и быстрым развитием новых смарт-технологий. Кроме государства личные данные также собирают частные компании, и прежде всего, цифровые платформы. Необходимо регулирование прав на получение
* Исследование выполнено при поддержке Междисциплинарной научно-образовательной школы Московского университета "Математические методы анализа сложных систем".
** Гавриленко Ольга Владимировна, e-mail: [email protected]
и использование данных, а также создание правил их коммерческого использования. Пандемия COVID-19, ускорив внедрение новых информационных технологий социального контроля, снизила "общественную чувствительность" к нарушению частных границ ради "общественной безопасности". Необходимость быстрой реакции на COVID-19 меняет правила игры в отношении того, как граждане, организации и власти в разных странах обращаются с личными данными и где находится баланс между конфиденциальностью личных данных и общественным здоровьем и/или безопасностью.
Ключевые слова: социальный контроль, умный город, цифровые технологии, промышленно-технологическая революция.
DIGITAL TECHNOLOGIES OF SOCIAL CONTROL: PROSPECTS AND SOCIAL CONSEQUENCES OF THEIR IMPLEMENTATION
Gavrilenko Olga V., Doctor of Sociology, Associate Professor, Head of Social Technologies Department, Faculty of Sociology, Lomonosov Moscow State University, Leninsky Gory, 1-33, Moscow, Russian Federation, 119234, e-mail: ol.gavrilenko2014@ yandex.ru
Introduction of digital technologies in all spheres of life is a factor that radically change the social interactions and mechanisms of social control. This rising trend, that turn the various digital technologies into main form of realization of "the social" is complex and contradictory. We are confronted more and more with multiplicity of social control with simultaneous unification of its procedures, determined by digital technologies. The functions of social control are transferred from human actors to machines and algorithms. The social control is automated. Under the cover of objectivity and neutrality such automatization contains political, economical and ideological imperatives. The machine has human core, yet difficult to discern. Implementation of algorithmic forms of governance, based on Big Data, significantly increases the scope of population monitoring and shifts the "power logic" to control and construction of opinions, creation of the demands, mobilizing action in accordance with the prescribed standards of conduct. COVID-19 Pandemic enhanced the activities of national States to take advantage of digital control over the population. In fact, during few months of quarantine measures in most countries unprecedented in its global reach and universal in their technical solutions instruments of control over the population have been deployed. In doing so the digital social control generates very specific forms of social asymmetry. There remains an open question: who has access to information, generated by the machines of control. For the development of modern smart cities and digitalization of social practices relevant and correct data are needed. Compromise between citizens' rights to privacy and rapid development of new smart technologies is inevitable. Personal data collected not only by the State but also by private corporations, especially by owners of digital platforms. Rights to obtain and use data need to be regulated and rules set for their commercial application. COVID-19 Pandemic, accelerating implementation of digital social control, reduced "public sensitivity" to violation of private borders for the sake of security. The need for a rapid response to COVID-19 changes the rules of the game as to how dtizens, organizations and authorities in different countries deal with personal data and actu-
alizes the question, where the balance lies between confidentiality of personal data and public health and/or security.
Key words: social control, smart city, digital technologies, industrial and technological revolution.
Цифровизация сегодня становится фактором, который радикально трансформирует характер социальных взаимодействий и изменяет механизмы социального контроля. Цифровизация — это внедрение цифровых технологий в разные сферы жизни общества, которое позволяет фактически "исключить" человека из процесса принятия решений и выполнения ряда рутинных социальных практик (или, по крайней мере, создать иллюзию подобного исключения). Можно говорить о сложности и противоречивости этого нарастающего социального тренда, превращающего различные цифровые технологии в основную форму реализации "социального". Сегодня мы сталкиваемся с множественностью форм реализации социального контроля при принципиальной унификации его процедур, которая определяется цифровыми технологиями.
Четвертая промышленно-технологическая революция уже не определяется какой-то доминирующей технологией (как это было с паровым двигателем, например), это целый комплекс новых технологий, которые еще и находятся в определенной конвергенции (искусственный интеллект и машинное обучение, виртуальная и дополненная реальности, интернет вещей, технологии блокчейна, дроны, роботы и т.п.). Рассматривая технологию в контексте социальной практики, мы видим, как множество технологий встраиваются в повседневное взаимодействие между людьми, трансформируя, дополняя и изменяя его. За последние десятилетия повседневная жизнь, скрытая в не всегда заметных деталях, совершенно преобразилась. Технологии в том или ином виде (камеры наружного наблюдения, нейросети, невидимые машинные алгоритмы, регулирующие нашу повседневность и оцифровывающие социальные практики) "опосредовали все, что мы делаем", а также изменили наше переживание реальности, которая окружает нас каждый день1. Без смартфона современный человек уже вряд ли представляет свое существование в новой цифровой реальности. Превращая смартфон в необходимость, доверяя и перепоручая ему все больше функций, мы, тем самым, "открыто меняем неприкосновенность частной жизни на удобство", принимая "социальный" договор, условия которого не всегда нам известны. Он становится нашим "протезом", а в его вла-
1 Гринфилд А. Радикальные технологии: устройство повседневной жизни. М., 2018. С. 17.
сти находится огромное социальное пространство. С ним мы одновременно можем оказаться везде, но в то же время "нигде полно-
■» СС )>
стью не присутствуем , превращаясь в сетевого индивида , нового субъекта в измененном мире2.
Современным социальным практикам все в большей степени свойственна сетевая логика взаимодействия. Для оказания воздействия на большие массы людей различные акторы (включая органы власти) прибегают к использованию социальных сетей. Согласно теории Грановеттера, который акцентировал силу "слабых связей", "слабые" связи между людьми оказывают сильное воздействие на их жизнь и возможность достижения целей. В то же время мы продолжаем поддерживать близкие контакты с теми, кто рядом с нами (родные, друзья, соседи). Сочетание этих "сильных и слабых" связей способствует снижению разобщенности людей, "слабые" произвольные связи соединяют обособленные "скопления людей". "Подобная структура сетей и низкий уровень разобщенности населения в масштабах планеты служат одной из причин, почему в будущем болезни, слухи, информация и новые технологии смогут распространяться весьма стремительно"3. Интернет меняет представления о "близости" и "удаленности", в интернет-пространстве индивид оказывается близок к людям, географически удаленным от него. Интернет наделяет большей силой и стимулирует рост доверия к людям, носителям тех или иных идей, которых мы не знаем лично, но именно эти "лидеры мнений" формируют новые тренды, создают моду на те или иные идеи, вещи, ценности и т.п.
Оцифровывание нашей повседневности заставляет задуматься о новых формах социального контроля. М. Фуко утверждал, что власть через взаимосвязанные аппараты управления, право, технологии, социальные нормы и пространственную логику, осуществляет форму дисциплинарной власти, направленную на то, чтобы, применяя позитивные и негативные санкции, прививать населению определенные привычки, формировать ожидания и стимулировать самодисциплину. Одним из ключевых аспектов дисциплинарного управления является то, что население должно знать, что оно подлежит контролю и учету. Для контроля необходим поток данных, позволяющих власти "видеть" свой объект управления. Внедряются процедуры и технологии для систематической широкомасштабной генерации данных, мониторинга действий граждан, а для этого активно используются цифровые платформы.
2 Гринфилд А. Указ. соч. С. 45-47.
3 Урри Дж. Как выглядит будущее? М., 2018. С. 108.
Цифровые платформы, делая нашу жизнь удобной (мы многое делаем "через один клик"), одновременно формируют сложную сеть контроля, часто невидимого. Фактически мы живем в реалиях нового паноптикума. Основная цель паноптикума, по М. Фуко, — "привести заключенного в состояние сознаваемой и постоянной видимости, которая обеспечивает автоматическое функционирование власти"4. Такой идеальный механизм, основанный на дихотомии " видеть — быть видимым", позволяет власти, и не только власти как таковой, но и новым "хозяевам" платформенной экономики, осуществлять контроль, при этом оставаясь анонимной, невидимой. Паноптикум может использоваться не только для контроля осужденных, но и других "объектов". Именно цифровые платформы, владея неограниченным объемом информации о нас, становятся главной инстанцией социального контроля в цифровом мире. Власть вынуждена более гибко выстраивать отношения с цифровыми гигантами, будучи зависимой от них и созданной ими инфраструктуры.
М. Фуко говорил об "обществе безопасности"5, в котором технологии контроля направлены не на запрещение или предписание какого-либо поведения, а на принятие возможных отклонений и нежелательного поведения и удержание частоты таких отклонений на допустимом уровне. Власть призвана обеспечивать пространство безопасности. Технологии контроля в современных "умных городах" направлены именно на формирование такого пространства за счет предупреждения различных девиаций и правонарушений, организации контроля над большими группами людей и регулирования их поведения.
Как отмечает О.А. Обрывалина, «модель "локального порядка" реализуется в постиндустриальном городе прежде всего через социально-пространственную эксклюзию, охрану порядка по принципу "разбитых окон" и использование "цивилизованного" (civility) права»6. В городах внедряются архитектурные формы контроля, призванные ограничивать зоны доступа для маргинальных групп и индивидов. Так, во многих европейских городах скамейки разделяют на части так, чтобы человек не мог лежать (борьба с бездомными и т.п.).
Реализация алгоритмических форм управления, основанных на использовании больших данных, значительно увеличивает масштабы и частотность мониторинга населения и социальных процессов и смещает "правительственную" логику с наблюдения и дисциплины
4 Фуко М. Надзирать и наказывать: рождение тюрьмы. М., 1999. С. 294.
5 См.: Фуко М. Безопасность, территория, население. М., 2011.
6 Обрывалина O.A. Проблемы социального контроля в мегаполисе // Вестник Московского университета. Серия 18. Социология и политология. 2013. № 2.
на контроль и конструирование мнений, формирование потребностей, побуждение к действиям в соответствии с предписанными нормами поведения.
Современные информационные и цифровые технологии наблюдения и слежения, использующиеся в городах, осуществляют социальный контроль, в основном, удаленно, сокращая количество необходимых контролеров-людей (например, полицейских), тем самым, снижая стоимость социального контроля и расширяя границы его проникновения. Так, внедрение системы видеофиксации нарушений правил дорожного движения привело к сокращению численности полиции.
Цифровая среда одними исследователями (например, М. Ка-стельсом) позиционируется как пространство свободы, самовыражения, проявления гражданских инициатив, а другими воспринимается как новая форма гегемонии ТНК, владельцев цифровых платформ (Л. Манович). «Ведущая роль крупных IT корпораций, постепенно превращающихся в гигантов платформенной экономики, остается невидимой для большинства пользователей. За счет множества технологических решений, которые лежат в основе конструирования цифровой среды, создается иллюзия "свободы" и конкуренции. Фактически, это контролируемое, выстраиваемое по жесткой схеме пространство, где даже конкурирующие или противоборствующие мнения есть продукт одного создателя (ТНК)»7. Владельцы платформ становятся настоящими творцами современного цифрового мира.
Национальные государства вынуждены включаться в борьбу за контроль над медиатизированными мирами, используя комбинацию двух стратегий8. Первая стратегия — стратегия тотального ограничения, попытки поставить цифровую среду под контроль с использованием классических методов регулирования, плохо работающих для современных информационных технологий (закон о "суверенном интернете"). Вторая стратегия заключается во встраивании в платформенную экономику либо на правах равного партнера, либо ведущей регулирующей инстанции. "Активные инвестиции государств в создание информационной инфраструктуры, в IT-компании, формирование совместных проектов с крупными национальными IT-компаниями, предоставление им возможностей в монополизации определенных рынков в обмен на сотрудничество
7 Маркеева A.B., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля // Вестник Московского университета. Серия 7. Философия. 2019. № 5. С. 37.
8 Там же. С. 41.
и лояльность в предоставлении данных для контроля над различными аспектами социальной и экономической деятельности населения, а также их приватной сферы (AliExpress и система социального кредита в КНР, сотрудничество Яндекс, Сбербанка с государством при формировании инфраструктуры цифровой экономики). Данная стратегия более эффективна: при ее реализации (в отличие от запретительных мер) государству не надо бороться с негативной реакцией граждан. Необходимо понимать, что цифровые платформы благодаря стремительно совершенствуемым ими технологиям сжатия пространства и времени формально сняли для большинства современных пользователей барьеры в получении информации, расширили возможность выбора всего (идей, друзей, товаров и т.д.). Поэтому любые ограничительные меры со стороны государства по управлению сетевым пространством будут наталкиваться на сопротивление пользователей"9.
Как отмечает Дж. Урри, «в цифровом, или "умном" городе физическое перемещение предметов и людей в значительной мере заменяется различными цифровыми форматами связи и впечатлений»10. В цифровом городе трансформируется само общение людей. Нет необходимости преодолевать физическое пространство для общения и взаимодействия, все происходит в цифровой среде, пандемия только усилила этот тренд, постепенно нивелируя потребность живого общения. Машины и алгоритмы помогают выстраивать логистику перемещений по городу, позволяют совершать рутинные социальные действия "в один клик", физическая среда горожанина становится "умной" (в зависимости от пассажиропотока выстраивается график движения транспорта, город наполнен различными датчиками и сенсорами)11. Умная среда и алгоритмы позволяют индивиду запоминать меньше информации (всегда можно "загуглить" то, что интересует), теряются навыки ориентации в пространстве (можно довериться навигатору), усиливается цифровой контроль над городским пространством.
Власти уже давно собирают данные о населении и используют их для контроля и реализации государственной политики, а также в целях управления городом. Для целей управления городским хозяйством применяются информационные системы и "комнаты управления", сетевое развитие городской инфраструктуры, внедрение
9 Маркеева А.В., Гавриленко О.В. Указ. соч. С. 42.
10 Урри Дж. Указ. соч. С. 215.
11 См., например: Smart cities: digital solutions for a more livable future // McKin-sey Quarterly. 2018. URL: https://www.mckinsey.com/quarterly/overview (accessed: 08.06.2021).
интернета вещей, в котором сетевые устройства, датчики, камеры, сенсоры встроены в городское пространство. В совокупности эти технологии генерируют потоки больших данных, на основе которых выстраиваются системы городского управления.
Москва является достаточно ярким примером внедрения цифровых смарт-технологий в городское пространство. В стратегии «Москва "Умный город-2030"» 12 заявлено: "... интегрированные си -стемы видеонаблюдения/видеоаналитики, акустического контроля и устройства Интернета вещей позволят повысить раскрываемость правонарушений и будут способствовать их профилактике. Датчики в квартирах москвичей помогут предотвратить возгорания или затопления. Умные домофоны с распознаванием лиц, голоса и поведения обеспечат защиту от незаконного проникновение в жилище и самостоятельно передадут сигнал о попытке совершения преступления и данные преступников в правоохранительные органы. К 2030 году в Москве все камеры, датчики и сенсоры будут объединены в единую сеть, позволяющую одновременно получать, обрабатывать, анализировать и хранить данные с каждой из них. Искусственный интеллект позволит осуществлять поиск лиц и объектов как во всем массиве хранимым данных, так находить и отслеживать их движение по всему городу в режиме онлайн и в текущий момент".
На основе анализа больших данных разрабатывается система предсказания совершения противоправных действий. Планируется создание системы анализа исторических данных о различных прецедентах и построения профилей риска (анализ условий, при которых совершается преступление). Искусственный интеллект позволит не только распознавать лица и наблюдать за гражданами, но и предсказывать поведение отдельных лиц, наступление будущих событий (несанкционированные митинги, очереди, пробки, аварии, несчастные случаи и др.), что позволит заранее предпринимать необходимые меры, направленные на предотвращение или минимизацию неблагоприятных последствий данных событий.
В Ирландии для целей цифровизации управления городской средой активно используются информационные панели (city dashboards)13. Городские информационные панели применяют визуальный анализ — динамическую и/или интерактивную графику (например, датчики, светофоры, счетчики, стрелки, штриховые диа-
12 Проект стратегии «Москва "Умный город — 2030"» // Сайт Правительства Москвы. URL: https://www.mos.ru/upload/alerts/files/3_Tekststrategii.pdf (дата обращения: 06.06.2021).
13 Kitchin R., Coletta C., McArdle G. Urban informatics, governmentality and the logics of urban control. URL: https://osf.io/preprints/socarxiv/27hz8/ (accessed: 09.06.2021). P. 5.
граммы, графики), карты, трехмерные модели и расширенные пейзажи для демонстрации информации о тенденциях, эффективности, структуре городов. Отобранные данные отображаются на экране в интерактивном режиме.
Как правило, городские информационные панели отображают семь видов данных14:
1) данные для государственного управления, собираемые местными органами власти;
2) официальные статистические данные (например, данные переписи населения);
3) оперативные данные, касающиеся оказания муниципальных услуг (например, предоставление транспортных услуг);
4) данные, касающиеся состояния экологии (загрязнение среды, уровень воды, погода, шум);
5) данные с краудсорсинговых платформ (например, сообщения об инцидентах, результаты голосований горожан по вопросам местного значения);
6) данные из социальных медиа (чаще с использованием геолокации);
7) интегративные данные (комбинирование шести типов данных).
Так, информационная панель Дублина была запущена в 2014 г. Она предоставляет органам власти, коммерческим организациям и гражданам доступ к массиву собранных данных по Дублину, включая информацию в режиме реального времени. Эти данные открыты, доступны для использования через различные мобильные приложения.
Всеобъемлющий характер контроля, достигаемый с помощью использования новых интегрированных систем и технологий "слежения", вызывает разную реакцию граждан. Одной из первых стран, решившихся на эксперимент тотального цифрового контроля, стал Китай, который ввел на общегосударственном уровне систему рейтингования граждан, систему "социального кредита". Рейтинг гражданина выстраивается на основе данных, получаемых из государственных, коммерческих, личных источников информации, привязывается к паспорту и меняется в режиме реального времени в зависимости от поступающей информации.
Интересны данные опроса китайских граждан Свободным университетом Берлина в 2018 г.: 80% опрошенных одобряют введенную систему рейтингования населения, 19% "скорее одобряют, чем не
14 Kitchin R., Coletta C., McArdle G. Op. cit. Р. 6.
одобряют". Население достаточно быстро привыкло к новой форме цифрового контроля.
Несколько лет назад дискуссии о возможности внедрения новых цифровых технологий тотального контроля над жизнью граждан в Европе или России (наподобие системы "рейтингования граждан" в Китае) вызывали скорее улыбки. Мало кто верил, что население само, без особого сопротивления, будет передавать свои личные данные государству (место нахождения, цели перемещения по городу и др.), постоянно пересылать свои фото-подтверждения нахождения в самоизоляции, получать разрешения на выход из дома и др. Часто такие дискуссии заканчивались констатацией того, что в "западном" обществе, построенном на ценностях свободы, прав человека и т.п., такие формы государственного вмешательства в личное пространство мало реализуемы. Но пандемия СОУГО-19 изменила многое. Сегодня не утихают предложения об усилении контроля над перемещениями граждан через введение паспортов вакцинации (на основе создания единой системы информации о прививках), наличие вакцинации от короновирусной инфекции фактически становится механизмом допуска/не допуска к работе, к путешествиям и т.п. Нейросети используются для анализа поведения граждан, камеры следят за соблюдением масочного режима.
Пандемия активизировала деятельность национальных государств по использованию преимуществ цифрового контроля над населением. Фактически за несколько месяцев карантинных мероприятий в большинстве стран были развернуты беспрецедентные по охвату и универсальные по своим техническим решениям средства контроля за населением15. Цифровые платформы образовали альянсы с национальными государствами, выступив ключевыми акторами для реализации управленческих решений не только по контролю над пандемией, но и по сбору и агрегации информации о населении и бизнес-организациях16. Так, ресурсы российских цифровых платформ (Яндекс, Сбербанк и др.) были включены в развернутую систему контроля сначала за пациентами и гражданами, находящимися на карантине, а потом и за всеми остальными жителями.
Цифровые платформы давно преуспели в сборе пользовательских данных, которые индивиды предоставляют, не задумываясь и особо не опасаясь их передачи третьим лицам. Сегодня, рассуждая
15 См., например: Singapore, Helsinki and Zurich triumph in global smart city index // IMD. URL: https://www.imd.org/smart-city-observatory/smart-city-index (accessed: 08.06.2021).
16 См.: Социальные изменения в условиях цифровой среды: Коллективная монография / Под ред. В.П. Васильева. М., 2020. С. 129.
о больших данных (Big Data), чаще говорят о перспективах их использования, но ключевыми проблемами все же остаются сохранение безопасности данных и этические проблемы нарушения границ частной жизни. Согласно последним данным ВЦИОМ, меньше всего беспокоятся о передаче данных представители поколения Y — "мил-лениалы" (около 40%), а больше всего озабочены данной проблемой люди в возрасте 35-49 лет (около 70%)17. Экспансия цифровой индустрии осуществляется за счет расширения контроля над повседневностью, происходит тотальная, никем не ограниченная фиксация ежедневной рутины, неконтролируемое вмешательство в ежедневные пользовательские практики и действия. Цифровые технологии "подкупают" удобством их использования — прикосновением смартфона мы оплачиваем товары и услуги, получаем информацию по куар-коду, телефон регулирует наш режим дня и отдыха, без геолокационных сервисов многие горожане (особенно молодые) абсолютно не могут ориентироваться в пространстве и др.
Смартфон для современного горожанина становится инструментом участия в создании умного города снизу. Демократизация вычислительной техники привела к тому, что ежедневно миллионы людей по всему миру решают проблемы, прокладывают маршруты, ищут друзей, развлечения с помощью телефона. Смартфоны, по мнению Э. Таунсенда, — это только начало проектирования умного города, этому также способствуют открытая государственная информация, программное обеспечение и свободные социальные сети. Цифровые решения для умных городов могут распространяться с высокой скоростью. Как пишет Таунсенд: "Сегодня происходит бурный обмен не исследованиями достижений и передовой практикой в сфере умных городов, а собственно рабочими технологиями: кодами, компьютерными моделями, данными и проектами оборудования"18.
По данным рейтинга Smart City Index, в 2020 г. Москва занимала 56-е место среди 109 умных городов по всему миру. В столице активно создается цифровая среда и используются различные инструменты цифрового контроля. В Москве развернута городская система видеонаблюдения, которая представляет собой государственную информационную систему для сбора, обработки и хранения видео-
17 Аналитический обзор ВЦИОМ от 01.12.2020 "Персональные данные в Интернете: угроза утечки и как с ней бороться". URL: https://wciom.ru/analytical-reviews/analiticheskii-obzor/personalnye-dannye-v-internete-ugroza-utechki-i-kak-s-nei-borotsja (дата обращения: 30.06.2021).
18 Таунсенд Э. Умные города: большие данные, гражданские хакеры и поиски новой утопии. М., 2019. C. 105.
записей с камер, установленных в городе. На официальном сайте сообщается, что при расследовании 70% преступлений использовалась городская система видеонаблюдения, более 121 тысячи нарушений в сфере благоустройства города зафиксировано в 2020 г.19 В камеры видеонаблюдения также встроена технология распознавания лиц. Технологию начали внедрять еще с марта 2016 г. Она была разработана российской компанией N-Tech.Lab, которая ранее создала приложение FindFace, позволяющее найти человека в социальных сетях по его фотографии. С апреля 2019 г. камеры распознавания лиц начали устанавливать на турникетах в Московском метрополитене. До конца 2021 г. в Московском метрополитене должна быть внедрена для оплаты проезда система сканирования лица (Face Pay), которая с августа 2021 г. была запущена в тестовом режиме. С начала пандемии COVID-19 в Москве власти города обязали лиц с подтвержденной коронавирусной инфекцией использовать мобильное приложение "Социальный мониторинг" для контроля соблюдения изоляции. При установке приложения пользователи должны подтвердить свой номер телефона, сделать фотографию на фронтальную камеру. После этого приложение начинает автоматически отслеживать геолокацию пользователя и сравнивать ее с адресом, указанным в подписанном согласии на медицинскую помощь на дому. Приложение в случайное время присылает пользователю запрос на дополнительную идентификацию по фотографии ("селфи"). У большинства пользователей возникали проблемы с использованием приложения и из-за несвоевременно отправленной фотографии заболевшим выписывали штрафы.
Мы наблюдаем передачу функций социального контроля от человеческих акторов машинам и алгоритмам, автоматизацию и алгоритмизацию социального контроля. Данная автоматизация содержит "под покровом" объективности и нейтральности политические, экономические и идеологические императивы, машина содержит трудно эксплицируемое человеческое ядро. Технологии радикально меняют нашу повседневность, и то, что несколько лет назад воспринималось как отдаленное будущее, сегодня становится нашей обыденностью. Мы пьем кофе, выбранный алгоритмами именно для нас, исходя из анализа наших предпочтений, в кафе, которое подсказал нам смартфон на основе геолокации, мы расплачиваемся за кофе, поднося смартфон к считывающему устройству, умные часы регулируют время нашего отдыха и предлагают заняться физической нагрузкой, нейросети анализируют наши эмоции, контекстная
19 Информационные технологии. URL: https://video.dit.mos.ru (дата обращения: 25.05.2021).
реклама убеждает нас в необходимости приобретения "нужного" нам продукта... Искусственному интеллекту отчуждается право принятия решений как стратегического характера, так и повседневных. Искусственный интеллект все активнее алгоритмизирует то, что поддается алгоритмизации, приближаясь к цели технологизации решения творческих задач, что многих пугает. "Сущность обучения, человеческого или машинного, состоит в развитии способности к выявлению, распознаванию и постепенному воспроизведению образов. многие, если не все, величайшие произведения искусства, то есть вещи, которые мы считаем вершиной человеческого вдохновения и человеческих достижений, практически целиком состоят из образов. Какими бы проработанными и богатыми они ни были, в них нет ничего волшебного, и ничто не должно препятствовать их анализу достаточно мощными системами обработки данных. Гуманист во мне приходит в ужас от кажущегося прямолинейного редукционизма подобных утверждений, но. трудно понять, что, собственно, определяет стиль, помимо привычного упорядочения элементов, будь то в виде цветовой гаммы, последовательности нот, частотности словоупотребления или же структуры предложения.
А это как раз те признаки, которые хорошо поддаются извлечению
"20
алгоритмами" .
Технологии, которые лежат в основе Четвертой промышленно-технологической революции (роботы, ИИ и машинное обучение, дроны, виртуальная и дополненная реальность, интернет-вещей, блокчейн и др.), вызывают множество дискуссий по различным последствиям их внедрения — социальным, правовым, экономическим, политическим, этическим. Применимы ли категории права к машине? Кто несет ответственность, если по вине робота происходит трагедия? Если военный робот совершает убийство, кто несет за это ответственность? Военачальник, который его использует в военной операции? Государство, чьей собственностью робот является? Производитель робота? Или разработчик робота? Это ситуация размывания ответственности — в итоге за трагедию несут ответственность они все и одновременно никто. «Исчезнет не просто установление персональной ответственности, а она сама: будучи распределенной по обезглавленной сети множественных акторов, она постепенно утратит свою квалификацию, из намеренного став ненамеренным, из военного преступления — военно-промышленным инцидентом. Почти как в случае "мусорных облигаций", которые умышленно производятся в финансовой сфере, становится
20 Гринфилд А. Радикальные технологии: устройство повседневной жизни. М., 2018. С. 349.
крайне сложно понять, кто кому и что должен. Это типичный дис-позитив фабрики по производству безответственности»21.
Некоторые технологии настолько глубоко проникают в нашу повседневность, что становятся "нашим продолжением". Интернет вещей, по меткому определению А. Гринфилда, "колонизирует повседневную жизнь обработкой информации"22. Мы привыкаем отслеживать пройденное расстояние, измерять свой пульс, смотреть на количество своего сна, доверяя умным технологиям. Мы "измеряем себя", пытаясь на основе агрегированных умными устройствами данных получить практические выводы и выстроить свою жизнь "в правильном направлении" (например, ЗОЖ). Количественные показатели измерений диктуют нам стратегию поведения и определяют количество необходимого нам сна, физической нагрузки, получаемых калорий. Привыкая к такой регулируемости, индивид начинает подчиняться "советам и рекомендациям" умных помощников, переставая принимать самостоятельные решения. "В условиях позднего капитализма расцвет носимой биометрической электроники можно понять только как дисциплинарную власть, пронизывающую само тело и его потоки"23.
Еще одной технологией, радикально изменяющей механизм осуществления контроля, является дрон. Дроны произвели определенную революцию — "революцию взгляда"24. Исследователи выделяют ряд инноваций, связанных с появлением указанной технологии: 1) постоянство взгляда и неусыпный контроль (дрон — это не человек, который может отвлечься, моргнуть, уснуть; механический взгляд работает без остановки); 2) синоптический взгляд или его тотальность (наблюдение за огромным пространством, "видеть все и постоянно"); 3) запись и архивирование "всего" (можно записать историю жизни индивида, заархивировать это и пересматривать нужные фрагменты при необходимости); 4) "слияние данных" (возможность соотнести различные части одного информационного события — то, что видно, с тем, что слышно); 5) схематизация жизненных паттернов (например, возможность следить за индивидом в социальных сетях, собирать и обобщать полученные данные, разрабатывать алгоритмы); 6) обнаружение девиаций и аномии (автоматическое обнаружение аномального поведения и предсказание его последствий, фиксация отклонений от "типичности")25.
21 Шамаю Г. Теория дрона. М., 2020. С. 243.
22 Гринфилд А. Указ. соч. С. 49.
23 Там же. С. 53.
24 Шамаю Г. Указ. соч. С. 47.
25 Там же. С. 52.
Социальный контроль выступает как форма социальной асимметрии. Открытым остается вопрос — кто имеет доступ к информации, генерируемой машинами контроля? В связи с развитием новых информационно-коммуникативных технологий, искусственного интеллекта, больших данных все чаще возникают вопросы, связанные с легитимностью сбора и использования пользовательских данных. Такой сбор данных (особенно без ведома пользователя или в ситуациях, когда невозможно без проставления галочки получить доступ к основным "благам") размывает границы частной жизни, делает прозрачным осуществление повседневных рутинных практик. Поисковые системы записывают каждый клик пользователя в интернете, им известен его 1Р-адрес, геолокация, интересы, онлайн-покупки, личные данные, сообщения в мессенджерах и прочее, что, к примеру, позволяет демонстрировать контекстную рекламу в соответствии с поведением пользователя в интернете. При этом согласия на это не спрашивается, а возможности выбора, какие сведения о себе предоставлять, не дается (пользовательские соглашения мы, как правило, не читаем). По умолчанию большие данные собирают все, что затем будет храниться на серверах и использоваться разными акторами — государственными, коммерческими.
«В цифровом городе компьютеры, датчики и "большие данные" будут повсюду, и они будут потреблять огромные объемы энергии. Люди будут оставлять в цифровом пространстве "следы" своих передвижений, совершенных покупок, своего общения и самой жизни. А вследствие того, что базы данных будут взаимосвязаны, никаких сложностей с тем, чтобы соединить отдельные "следы", принадлежащие одному человеку. не возникнет. В цифровом городе каждый человек будет собираться заново в качестве "цифровой личности", присутствующей в разнообразных базах данных»26. Цифровая реальность способствует генерированию данных в огромных масштабах, и ученые уже заговорили о приближении так называемого "пика данных", определенной точки, в которой извлечение данных может достигнуть предела. "Пик данных — это тот момент, когда гиганты интернет-индустрии уже знают о тебе все, и какие-то дополнительные детали нарушат хрупкий баланс и приведут к коллапсу всего политэкономического режима, основанного на данных"27. Цифровые платформы начинают адаптироваться к такой ситуации, ограничивая пользование своими операционными сервисами, часто под видом проявления корпоративной социальной ответственности,
26 Урри Дж. Как выглядит будущее? М., 2018. С. 222.
27 Ловинк Г. Критическая теория интернета. М., 2019. С. 15.
"заботы о своем клиенте" (например, вовремя напомнить клиенту, что пора спать, погулять, размяться). Для цифровой платформы важнее не просто собирать все больше и больше информации, что способствует энтропии и возникновению информационного мусора, более значимо — извлекать из всего вала информации что-то ценное. "Энтропия — это главная угроза, которую приносит автоматизация. Система производит такое количество данных, что либо каждый будет под подозрением, либо никто. Производство информации, некогда определявшееся как создание осмысленных различий, достигло того состояния, когда оно делает кувырок и стремится
"28
к нулю — перегрузке системы .
Для развития современных умных городов и цифровизации социальных практик необходимы актуальные и корректные данные, поэтому неизбежно придется идти на компромисс между правами граждан на неприкосновенность частной жизни и быстрым развитием новых смарт-технологий. Кроме государства личные данные также собираются частными компаниями, и прежде всего, цифровыми платформами. Соответственно необходимо регулирование прав на получение и использование данных, а также создание правил их коммерческого использования. Необходимость быстрой реакции на COVID-19 может изменить правила игры в отношении того, как граждане, организации и власти в разных странах обращаются с личными данными и где находится баланс между конфиденциальностью личных данных и общественным здоровьем и/или безопасностью. Также усиливается сотрудничество между частными компаниями и властями в ситуации обмена данными и их размещением на контролируемой платформе с открытым исходным кодом.
Цифровая платформа не только обеспечивает площадку для взаимодействий, получая прибыль из соединения спроса и предложения (бизнес-модель), но в перспективе начинает генерировать прибыль из поддержания площадки, из возможности извлекать новые данные из анализа агентов, подключенных к платформе, из "сетевых" эффектов, которые платформа получает при расширении
- 29
числа пользователей .
Одним из бурно обсуждаемых решений властей стало радикальное изменений условий жизни и прав двух категорий граждан — "вакцинированных" и "не вакцинированных" (в число которых в России попали не только те, кто сознательно отказался от
28 Ловинк Г. Указ. соч. С. 17.
29 Цит. по: Маркеева A.B., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля // Вестник Московского университета. Серия 7. Философия. 2019. № 5. С. 36.
вакцинации, но и те, кто переболел более полугода назад, кто имеет медицинские противопоказания по вакцинации). Фактически произошло разделение населения на два "лагеря", а отношение к вакцинации и действиям власти на какое-то время стали основанием для поляризации общества и социального расслоения. Более того, это разделение сразу стало еще и цифровым: так, решением московских властей от 22.06.2021 г. право посещения заведений общественного питания, музеев и т.п. получили только три категории граждан (привитые, переболевшие менее шести месяцев назад, имеющие трехдневный отрицательный ПЦР на коронавирус), причем исключительно по цифровому QR-коду. Оцифровывание населения фактически вышло на новый уровень: кроме того, что создана единая база данных по "короновирусным статусам граждан" (аналог цифровых кодов здоровья, ковид-паспортов и др.), цифровые платформы получили еще больше информации по потребительским предпочтениям "привитых", так как гораздо легче через QR-коды стало собирать данные о перемещениях граждан и их запросах.
Пандемия COVID-19 ускорила внедрение новых информационных технологий социального контроля, снизив "общественную чувствительность" к нарушению частных границ ради безопасности. Власти получили больше полномочий по сбору и использованию личных данных, причем, это характерно и для стран запада, где всегда большее внимание уделялось защите прав граждан на неприкосновенность частной жизни. В 2020 г. президент РФ В.В. Путин подписал закон "О едином федеральном информационном регистре, содержащем сведения о населении Российской Федерации". Новая система должна объединить персональные данные россиян, имеющиеся у различных ведомств (МВД, Минобрнауки, Минобороны и др.), оператором системы станет Федеральная налоговая служба. Данный регистр может быть интегрирован с другими автоматизированными системами контроля. Обсуждение данного законопроекта сопровождалось бурными общественными дискуссиями об опасности возможной утечки персональных данных, нарушений неприкосновенности частной жизни граждан, угроз мошенничества и др.
СПИСОК ЛИТЕРАТУРЫ
Аналитический обзор ВЦИОМ от 01.12.2020 "Персональные данные в Интернете: угроза утечки и как с ней бороться". URL: https://wciom.ru/analytical-reviews/analiticheskii-obzor/personalnye-dannye-v-internete-ugroza-utechki-i-kak-s-nei-borotsja
Гринфилд А. Радикальные технологии: устройство повседневной жизни. М., 2018.
Информационные технологии. URL: https://video.dit.mos.ru
Ловинк Г. Критическая теория интернета. М., 2019.
Маркеева А.В., Гавриленко О.В. Цифровая платформа как новый экономический актор и новая инстанция социального контроля // Вестник Московского университета. Серия 7. Философия. 2019. № 5. С. 29-48.
Обрывалина О.А. Проблемы социального контроля в мегаполисе // Вестник Московского университета. Серия 18. Социология и политология. 2013. № 2.
Проект стратегии «Москва "Умный город — 2030"» // Сайт Правительства Москвы. URL: https://www.mos.ru/upload/alerts/files/3_Tekststrategii.pdf (дата обращения 06.06.2021).
Социальные изменения в условиях цифровой среды: Коллективная монография / Под ред. В.П. Васильева. М., 2020.
Таунсенд Э. Умные города: большие данные, гражданские хакеры и поиски новой утопии. М., 2019.
Урри Дж. Как выглядит будущее? М., 2018.
Фуко М. Надзирать и наказывать: рождение тюрьмы. М., 1999.
Фуко М. Безопасность, территория, население. М., 2011.
Шамаю Г. Теория дрона. М., 2020.
REFERENCES
Analiticheskij obzor VCIOM ot 01.12.2020 "Personal'nye dannye v Internete: ugroza utechki i kak s nej borot'sja" [Analytical review of Russian Public Opinion Research Center dated 01.12.2020 "Personal data and Internet: security leak and " how to combat it] URL: https://wciom.ru/analytical-reviews/analiticheskii-obzor/ personalnye-dannye-v-internete-ugroza-utechki-i-kak-s-nei-borotsja (accessed: 30.06.2021) (in Russian).
Foucault M. Nadzirat' i nakazyvat': rozhdenie tyur'my [Discipline and Punish: The Birth of the Prison]. M., 1999 (in Russian).
Foucault M. Bezopasnost', territoriya, naselenie. Kurs lektsii, prochitannykh v Kollezh de Frans v 1977-1978 uchebnom godu [Safety, Territory, Population. Lectures at the College de France in 1977-1978]. St. Petersburg, 2011 (in Russian).
Grinfild A. Radikal'nye tekhnologii: ustrojstvo povsednevnoj zhizni [Radical Technologies: The Design of Everyday Life]. M., 2018 (in Russian).
Informacionnye tehnologii: sajt [Informational technologies: site]. URL: https:// video.dit.mos.ru (accessed: 25.05.2021) (in Russian).
Kitchin R., Coletta C., McArdle G. Urban informatics, governmentality and the logics of urban control. URL: https://osf.io/preprints/socarxiv/27hz8/ (accessed: 09.06.2021). P. 1-21.
Lovink G. Kriticheskaja teorija interneta [Critical Theory of the Internet]. M., 2019 (in Russian).
Markeeva A. V., Gavrilenko O.V. Cifrovaja platforma kak novyj jekonomicheskij aktor i novaja instancija social'nogo kontrolja [Digital platform as a new economic actor and new instance of social control] // Vestnik Moskovskogo universiteta. Serija 7. Filosofija. 2019. N 5. S. 29-48 (in Russian).
Obryvalina O. A. Problemy social'nogo kontrolja v megapolise [The problem of social control in megapolis] // Vestnik Moskovskogo universiteta. Serija 18. Sociologija i politologija. 2013. N 2 (in Russian).
Proekt strategii «Moskva "Umnyj gorod — 2030"» [Draft strategy «Moscow "Smart City — 2030"»] // Sajt Pravitel'stva Moskvy. URL: https://www.mos.ru/upload/ alerts/files/3_Tekststrategii.pdf (accessed: 06.06.2021) (in Russian).
Shamaju G. Teorija drone [Theory of drone]. M., 2020 (in Russian).
Singapore, Helsinki and Zurich triumph in global smart city index // IMD. URL: https://www.imd.org/smart-city-observatory/smart-city-index/ (accessed: 08.06.2021).
Smart cities: digital solutions for a more livable future: Report of McKinsey Global Institute, dated June 5, 2018. URL: https://www.mckinsey.com/business-functions/operations/our-insights/smart-cities-digital-solutions-for-a-more-livable-future (accessed: 08.06.2021).
Social'nye izmenenija v uslovijah cifrovoj sredy: Kollektivnaja monografija [Social change in the digital environment. Collective monograph] / Pod red. V.P. Vasil'eva. M., 2020 (in Russian).
Taunsend A. Umnye goroda: bol'shie dannye, grazhdanskie hakery i poiski novoj utopii [Smart Cities: Big Data, Civic Hackers, and the Quest for a New Utopia]. M., 2019 (in Russian).
Urri Dzh. Kak vygljadit budushhee? [What is the Future]. M., 2018 (in Russian).
